C++Builder Programming Forum
C++Builder  |  Delphi  |  FireMonkey  |  C/C++  |  Free Pascal  |  Firebird
볼랜드포럼 BorlandForum
 경고! 게시물 작성자의 사전 허락없는 메일주소 추출행위 절대 금지
C++빌더 포럼
Q & A
FAQ
팁&트릭
강좌/문서
자료실
컴포넌트/라이브러리
메신저 프로젝트
볼랜드포럼 홈
헤드라인 뉴스
IT 뉴스
공지사항
자유게시판
해피 브레이크
공동 프로젝트
구인/구직
회원 장터
건의사항
운영진 게시판
회원 메뉴
북마크
볼랜드포럼 광고 모집

C++빌더 Q&A
C++Builder Programming Q&A
[63979] 나눗셈에 절단 오차일거 같긴한데 왜 1000에서만 발생할까요.
조필형 [] 2203 읽음    2011-03-23 13:28
헉.. 995에서 잠깐 맞은 것이로군요.
994를 빼도 1차이
993을 빼도 1차이
뭐 맞는 때가 더 없네요.
아마도 dif/1000.0에서 1.99999999 로 결과가 나오는 것일지도...
그런데 printf나 EditBox에 찍어보면 dif/1000.0 값이 지극히 정상이라는 거죠. 완전 이상하네요.

1000대신 100이나 10000을 곱하고 나누는것에는 이상이 없습니다.
참고로 BCB 6 Personal 사용중이고 CnPack을 깔아 사용중입니다.

조필형 님이 쓰신 글 :
: int max = 1000;
: int dif = max - 998;
:
: x = int(1000 * dif / 1000.0);
:
: 을 계산하면 2가 나와야 하는데 1이 나오네요.
:
: 첨에 999를 빼면 0이 나오고
: 997, 996까지 이상동작 보이다가
: 995서부터 정상적인 계산이 됩니다.
:
: 혹시나 해서 Dev C++ 컴파일러로 동일한 코드 돌려봤는데 거기선 괜찮더군요.
:
: 뭔가 소숫점 짤림이 발생하는 걸까요?

+ -

관련 글 리스트
63978 빌더6 컴파일러 오류일까요? 조필형 2298 2011/03/23
63987     Re:빌더6 컴파일러 오류일까요? 박우성 2181 2011/03/24
63991         답변 감사드립니다.(내용없음) 조필형 1901 2011/03/25
63983     Re:빌더6 컴파일러 오류일까요? dd 2055 2011/03/23
63980     Re:빌더6 컴파일러 오류일까요? locke 2089 2011/03/23
63981         저도 double 형으로 받아서 해봤는데 정상이었어요 조필형 2154 2011/03/23
63979     나눗셈에 절단 오차일거 같긴한데 왜 1000에서만 발생할까요. 조필형 2203 2011/03/23
Google
Copyright © 1999-2015, borlandforum.com. All right reserved.