화양동에서 마주친 STATUS_FLOAT_INEXACT_RESULT, 스마트하게 대처하는 꿀팁

화양동에서 마주친 STATUS_FLOAT_INEXACT_RESULT, 스마트하게 대처하는 꿀팁 1

여러분, 컴퓨터는 언제나 완벽하게 숫자를 계산한다고 생각하시나요? 저는 예전에 프로그램 개발을 하다가 예상치 못한 오류 때문에 밤샘을 한 적이 있어요. 분명히 맞는 계산인데, 결과값이 미묘하게 다르게 나오는 바람에 머리를 싸맸죠. 이게 바로 부동소수점 연산의 미묘한 함정 때문이었습니다. 특히 STATUS_FLOAT_INEXACT_RESULT 같은 예외 코드는 개발자라면 한 번쯤 마주했을 법한, 그러면서도 그 원인을 찾아내기 쉽지 않은 골치 아픈 … Read more