본문 바로가기
프로그래밍 놀이터/Tips

[하드웨어&소프트웨어] 컴퓨터가 계산을 틀리게 하는 이유.

by 돼지왕 왕돼지 2012. 2. 29.
반응형


컴퓨터도 계산을 틀리게 하는 경우가 있다.

주 원인은 Overflow, Precision floating point이다.

 

* 예방방법

1. 근사값에 만족. ( 정확한 값을 추구하기보다는 어느 정도 오차를 감안하여 근사값을 사용하도록 함 )

2. 정수로 바꾸어 계산.



로그인 없이 추천 가능합니다. 손가락 꾸욱~

반응형

댓글