STATUS_FLOAT_INEXACT_RESULT, 부동 소수점 계산 오류 완벽 해결 꿀팁 5가지
컴퓨터는 왜 가끔 ‘정확한 숫자’를 포기할까요? 부동 소수점, 우리 생각만큼 완벽하지 않아요 컴퓨터가 모든 숫자를 우리 머릿속처럼 완벽하게 표현할 수 있다고 생각하셨나요? 사실 그렇지 않답니다. 특히 소수점 이하 숫자를 다룰 때, 컴퓨터는 ‘부동 소수점(Floating Point)’이라는 방식을 사용하는데, 이 방식은 정해진 비트 수 안에 최대한 많은 수를 효율적으로 표현하기 위한 일종의 ‘타협’이에요. 마치 넓은 방에 많은 … Read more