동교동에서 포착된 STATUS_FLOAT_INEXACT_RESULT, 당신의 코드도 안전할까
일상에서 마주하는 작은 불편함, 혹시 컴퓨터 프로그램에서 숫자를 다루다가 겪어보신 적 있으신가요? 예를 들어, 0.1 과 0.2 를 더했는데 정확히 0.3 이 아닌 0.30000000000000004 같은 이상한 결과가 나오는 경험이요. 이런 미묘한 오차 때문에 중요한 금융 계산이나 정밀한 과학 시뮬레이션에서 문제가 생길 수 있다는 사실, 알고 계셨나요? 바로 이 지점에서 라는 녀석이 등장합니다. 컴퓨터는 모든 데이터를 … Read more