공대를 다니면 계산을 할 일이 참 많습니다. 물론 제가 손으로 직접 하진 않고, 빠르고 편하며 정확하기까지 한 공학용 계산기가 전부 처리해주니 정말 편한 세상인 것 같습니다. 하지만 이렇게 계산은 계산기가 해주지만 우리는 유효숫자라는 개념을 알아야 합니다. 실험 보고서를 쓸 때 계산한 값이 1.03712753384... 이라면 이 많은 숫자를 다 적는 건 손도 아프고, 효율도 떨어집니다. 그러면 어떻게 쓰는 게 좋을까요? 지금부터 알아보겠습니다.
유효숫자? 그게 뭐야?
유효숫자를 정의한다면 정밀도를 잃지 않는 선에서 주어진 값을 과학적인 표기 방법으로 기록하는데 필요한 최소한의 자릿수 입니다. 숫자 3개로 예를 들어보겠습니다.
2.025 * 10^2 (유효숫자 4자리)
2.0250 * 10^2 (유효숫자 5자리)
2.02500 * 10^2 (유효숫자 6자리)
위의 세 숫자는 놀랍게도 다른 값입니다. 유효숫자가 늘어날수록 더욱 정밀한 값을 나타내고 있습니다. 이런 유효숫자는 공학 등 다양한 분야에서 사용됩니다. 실험 데이터를 처리할 때도 많이 사용됩니다. (실험 보고서에 이 유효숫자를 고려하지 않고 계산 값을 표기한다면 감점당할 수 있습니다.)
유효숫자의 기본 개념
유효숫자를 본격적으로 다루기 전에 0을 어떻게 해야 하는지 알려드리겠습니다. 예를 들어
0.1 (유효숫자 1자리)
0.01 * 10^1 (유효숫자 1자리)
0.001 * 10^2 (유효숫자 1자리)
위 세 숫자는 놀랍게도 전부 같은 값입니다. 하지만 처음 보았던 2.025 ... 의 경우는 전부 다른 값 이였습니다. 0은 숫자의 앞에 있는 경우에는 유효숫자로 취급하지 않습니다. 반대로 숫자 사이 (0.101 같이 1 사이에 있는 0은 유효숫자로 취급함) 또는 숫자의 끝에(0.10 에서 소수점 둘째 자리에 있는 0은 유효숫자로 취급함)있는 0의 경우에는 유효숫자로 취급합니다.
"0은 숫자의 앞에 있는 경우에만 유효숫자로 취급하지 않는다."
유효숫자의 계산과 표기 방법
덧셈과 뺄셈
소수점 이하 자리수가 가장 적은 유효숫자로 결과를 제한합니다. 예를 들어
10.345 + 27.21 = 37.555 (37.56)
