BloodWolf 님이 쓰신 글 :
: 하드웨어 장비로부터 온도값을 얻어와 변환하는 함수를 만들고 있는데,
: double에서 unsigned short 형으로의 변환중에 정밀도 문제가 발생하네요.
:
: temperature_to_value() 함수는 바로 변환한 것이고, 변환시 오류가 발생합니다.
: temperature_to_value2() 함수는 double에 10을 곱한 후,
: unsigned short 형에서 10을 나눈것으로 정상적으로 변환이 됩니다.
:
: 정밀도 문제를 해결하기 위해서 이러한 방법뿐이 없는것인가요?
:
: const double to_temperature(const unsigned short _value)
: {
:     try
:     {
:         if(_value>0x0FFF) return 0xFFFF;
:         return ((((double)(_value&0x0FFF))*0.05)-125.0);
:     } catch(...)
:     {
:         return 0xFFFF;
:     }
: }
: //---------------------------------------------------------------------------
:
: const unsigned short temperature_to_value(double _temperature)
: {
:     try
:     {
:         if(_temperature==(double)0xFFFF) return 0xFFFF;
:         _temperature=(_temperature+125.0)*20.0;
:         unsigned short value=std::ceil(_temperature);
:         return value;
:     } catch(...)
:     {
:         return 0xFFFF;
:     }
: }
: //---------------------------------------------------------------------------
:
: const unsigned short temperature_to_value2(double _temperature)
: {
:     try
:     {
:         if(_temperature==(double)0xFFFF) return 0xFFFF;
:         _temperature=(_temperature+125.0)*20.0;
:         unsigned short value=std::ceil(_temperature*10.0);
:         value/=10.0;
:         return value;
:     } catch(...)
:     {
:         return 0xFFFF;
:     }
: }
: //---------------------------------------------------------------------------
:
: void test(void)
: {
:     std::fstream file("temperature.txt",std::ios_base::out);
:     for(unsigned short index=0x0000; index<=0x0FFF; ++index)
:     {
:         char buffer[128]={0,};
:         double temperature=to_temperature(index);
:         unsigned short value=temperature_to_value(temperature);
:         std::sprintf(buffer,"[0x%04X] T=%-7.02f, V=0x%04X, %s",
:             index, temperature, value, (index==value) ? "E" : "D");
:         file << buffer << std::endl;
:     }
:     file.close();
: }

ceil은 올림함수.
10을 곱한 후 소수점 첫째자리에서 올림하고 그 결과를 10으로 나누면 결국 소수점 둘째 자리에서 올림한 것이죠.
그냥 올림하면 소수점 첫째자리에서 올림한 것이구요.

double의 오차는 작은만큼 아래와 같이 조금만 더해보세요.
if(_temperature==(double)0xFFFF) return 0xFFFF;
return (unsigned short)((_temperature+125.0)*20.0+0.005);