0.6십진수를 8비트와 16비트로 변환시 발생된 오차

0.6 -> 1.2 [1]

.2 -> 0.4 [0]

.4 -> 0.8 [0]

.8 -> 1.6 [1]

.6 -> 1.2 [1]

.2 -> 0.4 [0]

.4 -> 0.8 [0]

.8 -> 1.6 [1]

 

 

 

8비트의 경우 남은 10진수 0.6 ==> 0.6*2^(-8) 만킁 오차가 생깁니다.

0.6*2^(-8)은 2.4*2^(-10) 정도 이니까 대충해서 0.0024 정도의 오차가 생깁니다.

 

 

 

16비트의 경우 남은 10진수 0.6 ==> 0.6*2^(-16) 정도의 오차가 생깁니다.

대강 0.00001 정도의 오차 입니다.