화면에 같은 소수로 보이는 셀의 합계가 다른 이유: 표시와 저장값
발행
면적이나 환산 금액을 소수 둘째 자리까지만 보이게 만들었다고 해서 셀 안의 숫자도 그 자리에서 끝나는 것은 아니다. 엑셀은 기본적으로 화면에 보이는 값이 아니라 저장된 값으로 계산한다. 그래서 인쇄된 두 숫자를 손으로 더한 결과와 합계 셀의 표시가 다르게 보일 수 있다.
표시를 줄여도 원래 소수는 남는다
예를 들어 두 셀에 각각 1.234가 저장되어 있고 표시 형식을 소수 둘째 자리로 정하면 각각 1.23으로 보인다. 두 저장값의 합은 2.468이므로 같은 표시 형식에서 합계는 2.47로 보인다. 반면 화면의 1.23 두 개를 더한 값은 2.46이다. 이는 가상의 계산 예이며 특정 대금의 법정 정산 규칙을 뜻하지 않는다.
먼저 수식 입력줄과 표시 자릿수를 확인한다. 값을 늘려 보았을 때 보이지 않던 소수가 나타난다면 단순한 표시 차이일 수 있다. 셀을 텍스트로 바꾸거나 합계에 임의로 보정액을 넣기 전에 어떤 단계의 값을 합산해야 하는지 정한다.
반올림은 계산 정책으로 정한다
행별 값을 먼저 반올림한 뒤 합산할지, 원래 값을 모두 합한 다음 마지막에 반올림할지는 결과가 다를 수 있다. 원자료를 유지한 상태에서 ROUND 등으로 계산용 열을 따로 만들면 정책을 드러낼 수 있다. 면적 비교표나 예산표에는 사용한 자릿수와 반올림 단계를 함께 적는다. 실제 계약 정산은 계약서나 적용 기준이 정한 방식을 확인해야 한다.
Microsoft는 화면 표시 정밀도를 계산에 사용하도록 설정할 경우 저장값이 영구적으로 바뀔 수 있고 나중에 옵션을 되돌려도 원래 값이 복구되지 않는다고 안내한다. 합계를 맞추려고 원본 통합문서의 정밀도 옵션을 바로 바꾸는 방식은 피한다. 사본에서 필요한 결과를 검증하고 변경 범위를 이해한 뒤 처리한다.
검산할 때는 원본 저장값, 표시값, 행별 반올림값, 최종 합계를 나란히 비교한다. 같은 소수로 보인다는 이유만으로 같은 값이라고 판정하지 않는 것이 중요하다. 이렇게 정리하면 화면 표현의 차이와 실제 자료 오류를 구분하면서, 나중에 다른 사람이 같은 계산을 재현할 수 있다.