소격동의 미세한 떨림, STATUS_FLOAT_INEXACT_RESULT 뒤에 숨겨진 진실

소격동의 미세한 떨림, STATUS_FLOAT_INEXACT_RESULT 뒤에 숨겨진 진실 1

컴퓨터를 사용하다 보면 가끔 예상치 못한 오류 메시지에 당황할 때가 있죠? 특히 개발자나 전산 관련 업무를 하시는 분들이라면 한 번쯤 ‘STATUS_FLOAT_INEXACT_RESULT’라는 알쏭달쏭한 코드를 마주한 경험이 있으실 겁니다. 이름만 들어도 벌써 머리가 지끈거리지만, 사실 이 오류는 컴퓨터가 숫자를 계산하는 방식과 밀접하게 관련되어 있답니다. 우리가 일상생활에서 쓰는 십진수와 달리, 컴퓨터는 이진수로 계산하기 때문에 미세한 오차가 발생할 수 … Read more