STATUS_FLOAT_INEXACT_RESULT: 개발자를 괴롭히는 부동 소수점 오류의 비밀 파헤치기
프로그래밍 세계에서 ‘갑자기 왜 이러지?’ 싶은 순간, 개발자라면 누구나 한 번쯤 겪어보셨을 겁니다. 특히 계산 결과가 미묘하게 틀어져 나타나는 같은 에러 코드는 정말이지 골칫덩어리죠. 저도 예전 프로젝트에서 이 작은 메시지 하나 때문에 시스템 전체가 오작동하는 줄 알고 밤샘 디버깅으로 진땀을 뺀 경험이 생생한데요. 사실 이런 부동 소수점 오차는 단순히 버그가 아니라 컴퓨터 연산의 본질적인 특성에서 … Read more