부동 소수점 오차 문제는 소프트웨어의 신뢰성

혹시 여러분은 컴퓨터나 스마트폰에서 어떤 프로그램을 사용하다가 갑자기 알 수 없는 오류 메시지와 마주했던 경험이 있으신가요? 숫자를 다루는 정교한 소프트웨어라면 더욱 예상치 못한 결과 때문에 당황한 적이 많으실 거예요. 특히 개발자라면 한 번쯤은 STATUS_FLOAT_INEXACT_RESULT 같은 코드를 보고 ‘이게 대체 무슨 일이지?’ 하고 고개를 갸웃했을 법한데요. 이 코드는 단순히 ‘숫자가 좀 안 맞네?’ 수준을 넘어, 부동 … Read more