계산오차

인헌동 개발자 필독! STATUS_FLOAT_INEXACT_RESULT 오류, 모르면 손해

by
인헌동 개발자 필독! STATUS_FLOAT_INEXACT_RESULT 오류, 모르면 손해 1

개발을 하다 보면, 혹은 프로그램을 사용하다 보면 숫자가 딱 떨어지지 않고 미묘하게 다른 결과가 나올 때가 있어서 ‘이게 왜 이러지?’ 하고 고개를 갸우뚱했던 경험 다들 있으실 거예요. 특히 정밀한 계산이 중요한 금융 앱이나 과학 분야 소프트웨어에서 이런 오차는 생각보다 큰 문제로 다가올 수 있죠. 바로 이때, 우리 눈에는 잘 띄지 않지만 조용히 나타나 개발자의 뒤통수를 … Read more

오륜동 개발자라면 STATUS_FLOAT_INEXACT_RESULT 모르면 손해 보는 꿀팁

by
오륜동 개발자라면 STATUS_FLOAT_INEXACT_RESULT 모르면 손해 보는 꿀팁 3

개발을 하다 보면 가끔 “어라? 0.1 더하기 0.2 가 왜 정확히 0.3 이 아니지?” 하고 고개를 갸웃거릴 때가 있지 않나요? 특히 중요한 계산에서 이런 미묘한 오차를 만나면 등골이 서늘해지곤 합니다. 바로 이때 우리가 마주하게 되는 시스템 메시지 중 하나가 바로 STATUS_FLOAT_INEXACT_RESULT인데요. 저도 처음에는 단순히 지나칠 뻔했던 이 메시지가 얼마나 중요한 의미를 담고 있는지 직접 경험해보니 … Read more