중산동 STATUS_FLOAT_INEXACT_RESULT, 꼼꼼하게 파헤쳐보자
컴퓨터가 들려주는 소수점 오차의 비밀 우리가 알아야 할 부동 소수점의 본질 제가 개발을 시작했을 때 처음 맞닥뜨린 난관 중 하나가 바로 이 부동 소수점 문제였어요. 분명히 0.1 을 10 번 더하면 1.0 이 나와야 하는데, 어떨 때는 0.9999999999999999 가 나오거나 심지어 1.0000000000000001 이 나오는 걸 보고 경악했던 기억이 생생합니다. 컴퓨터는 기본적으로 2 진수를 사용하고, 우리가 … Read more