STATUS_FLOAT_INEXACT_RESULT, 예상치 못한 부동 소수점 오류의 모든 것

STATUS_FLOAT_INEXACT_RESULT, 예상치 못한 부동 소수점 오류의 모든 것 1

프로그래머라면 꼭 알아야 할 부동 소수점의 세계 부동 소수점이란 무엇일까요? 여러분, 컴퓨터로 복잡한 계산을 하다 보면 한 번쯤 ‘어? 내가 생각한 값이 아닌데?’ 하고 고개를 갸웃거린 적 있지 않으신가요? 특히 실수를 다룰 때 이런 경우가 잦은데요, 이게 바로 부동 소수점(Floating Point)과 관련된 이야기예요. 우리 일상에서는 3.141592 같은 실수들을 너무나 자연스럽게 사용하지만, 컴퓨터는 이 실수들을 표현하는 … Read more