9. 실수 타입의 함정

[JoisFe]

9. 실수 타입의 함정

의문점

정수 타입은 실수 타입에 비해 표현 범위도 작고 소수점도 표현할 수 없는데 모든 변수를 실수 타입으로 사용하면 되지 않을까?

정수 값만을 다룬다면 무조건 정수 타입을 사용하는 편이 좋다

• 실수 타입에는 치명적인 문제점이 있기 때문

fun main(args: Array<String>): Unit {
    println(0.1f + 0.1f + 0.1f)
    println(0.1f + 0.1f + 0.1f + 0.1f + 0.1f + 0.1f + 0.1f + 0.1f + 0.1f + 0.1f)
    println(0.1f * 10)
}

• 0.1을 3번 더했으니 0.3이 올바르게 출력
• 0.1을 10번 더했는데 1이 아니라 1.0000001 이라는 엉뚱한 값이 나왔음
  • 이것이 실수 타입의 함정
• 0.1에 10을 곱하여 위와 같은 계산을 하였음
  • 하지만 이번에는 원하는 정확한 결과가 나왔음

실수 타입의 함정

• 실수 값은 2진수 유효숫자로 표현되기 때문에 상황에 따라 정확한 값을 가리킬 수 없음

  • 10진수로 0.1이라는 값을 2진수로 표현할 때 소수점이 정확히 나눠 떨어지지 않는 무한 소수가 되기 때문에 표현할 수 있는 범위에서 가장 근사한 값인 0.100000001490116119384765625로 바뀌어 저장됨
  • 물론 저장하려는 실수가 운 좋게 2진수 유효숫자로 정확히 표현할 수 있는 수라면 그 값이 온전히 저장되지만 그렇지 못하면 잘못된 값을 저장하게 됨

• 위 코드 실행 결과를 보면 알 수 있듯 연산을 거듭할 수록 오차가 누적됨

  • 그래서 3번의 덧셈에서는 오차가 무시할 수 있을 정도로 작아 올바른 결과가 나왔음
  • 10번의 덧셈은 오차가 무시할 수 없을 정도로 누적되어 잘못된 결과가 출력

• 0.1에 10을 곱하면 오차가 생기지 않은 이유는 10번 더하는 것은 오차가 10번 누적되고 1번 곱하는 것은 오차가 1번만 누적되는 것이기 때문

항상 정확한 결과만을 산출해야 하는 컴퓨터에 이런 특성은 너무 치명적

• 실수를 계산할 때는 항상 대략적인 값만 얻을 수 있다는 것을 염두하자
• 꼭 실수 값을 처리해야하는 상황이 아니라면 정수 타입만을 사용하자

Reference

초보자를 위한 Kotlin 200제, 정보문화사, [엄민석]