혜화동에서 만난 STATUS_FLOAT_INEXACT_RESULT, 당신의 코드를 망치는 이 에러의 정체는?
여러분, 혹시 컴퓨터 프로그램이 완벽하게 정확한 계산을 한다고 철석같이 믿으시나요? 우리는 늘 기계가 내놓는 숫자에 대한 맹목적인 신뢰를 가지고 있지만, 사실 디지털 세계에도 미묘한 ‘오차’라는 것이 존재한답니다. 특히 부동 소수점 연산을 다루는 과정에서 발생할 수 있는 이 작은 오차들은 때론 예측 불가능한 결과를 초래하며 개발자들을 머리 아프게 만들죠. 저도 현업에서 수많은 프로젝트를 거치며, 정밀한 계산이 … Read more