Enter and verify the result of the following equation in R, MS-EXCEL, or any other software.
((2*10^(-30) + 10^30) - 10^30) - 10^(-30)
Or
((2e-30 + 1e30) - 1e30) - 1e-30
(Do not miss "=" at the first place in MS-EXCEL.)
2010-01-18
Floating Point Arithmetic - 2010 대학원 수업 - 기초수학
컴퓨터로 부동소숫점 연산을 할 때는 조심해야 합니다.
내가 실제로 겪었던 한 예를 참고로 보냅니다.
아래 두 식은 동일해 보이지만, R에서 test해보면 어떤 결과가 나올까요?
99/(72*1.3) == 99/72/1.3
같은 내용을 MS-EXCEL에서도 test해보세요.
=IF(99/(72*1.3)=99/72/1.3,"T","F")
좀 더 자세한 것은 첨부파일을 참고하세요.
읽기 쉬운 것은 아닌데, 여유 되면 보세요.
내가 실제로 겪었던 한 예를 참고로 보냅니다.
아래 두 식은 동일해 보이지만, R에서 test해보면 어떤 결과가 나올까요?
99/(72*1.3) == 99/72/1.3
같은 내용을 MS-EXCEL에서도 test해보세요.
=IF(99/(72*1.3)=99/72/1.3,"T","F")
좀 더 자세한 것은 첨부파일을 참고하세요.
읽기 쉬운 것은 아닌데, 여유 되면 보세요.
Subscribe to:
Posts (Atom)