53575에 대한 문의 있습니다.

godnpeter Reply 9 years 9 weeks ago
이 소스에서 float 대신에 double을 넣고 돌리면 답이 33.6이 아닌, 33.5가 나옵니다 제가 알기로는 double 이 float보다 큰 범주를 가지는데 왜 오차가 double이 나고 float가 안나나요?
withcs2 Reply 9 years 9 weeks ago
float이랑 double은 부동소수점으로 저장되는데(한번 찾아서 읽어보세요), 연산이 정확히 되지가 않아요. 예제의 경우 floor하기 전의 값을 보면 double은 33.599999999999994이고, float은 33.6이 나옵니다. float이 맞는 이유는 답을 float으로 풀어서 그런 것 같네요.