STATUS_FLOAT_INEXACT_RESULT, 당신의 코드를 망치는 부동 소수점 오차의 비밀
여러분, 혹시 컴퓨터를 사용하다가 알 수 없는 숫자와 기호로 된 오류 메시지에 깜짝 놀란 경험 있으신가요? 특히 정교한 계산을 요구하는 프로그램을 만들거나 사용하다 보면, ‘이게 대체 무슨 일이지?’ 싶게 만드는 난해한 에러 코드들을 만나게 되는데요. 오늘 제가 함께 파헤쳐 볼 ‘STATUS_FLOAT_INEXACT_RESULT’가 바로 그런 경우 중 하나입니다. 이름만 들어도 벌써 머리가 지끈거린다고요? 저도 처음엔 그랬답니다! 하지만 … Read more