유효숫자

오늘의 품질 분석 개념

 유효숫자

유효숫자란?

측정값은 측정기기의 신뢰도를 바탕으로 정확도를 보장하는 유효숫자로 표기 되는데,

이렇게 표현 할 때, 유효숫자의 갯수는 정확도를 잃지 않고 주어진 값을

나타낼 수 있는 최소의 숫자 수이다. (신뢰성이 보장!)

​

 

예를들면,

​

▶ '0'이 아닌 숫자는 유효숫자이다.

소숫점 아래 '0'이 아닌 숫자 뒤의 '0'은 유효숫자이다.

소숫점 아래, '0'이 아닌 숫자 앞의 '0'은 유효숫자가 아니다.

소숫점 위, '0'이 아닌 숫자 뒤의 '0'은 유효숫자일수도, 아닐 수도 있다.

유효숫자와 유효숫자 사이의 '0'은 유효숫자이다.

​

▶ 0.0169g, 0.169g, 1.69 x 10-2g 모두 유효숫자 3자리를 뜻한다.

​

▶ 3698: 3, 6, 9, 8은 모두 유효숫자이다. 유효숫자는 4자리이다.

​

▶ 0.00842936: 8, 4, 2, 9, 3, 6이 유효숫자이다. 유효숫자는 6자리이다.

​

▶ 4500: 4, 5 뒤의 0은 유효숫자인지 아닌지 불명확하다.

정확한 표기로는 4.5x103 (유효숫자 2개) 또는 4.50x103 (유효숫자 3개)

​

▶ 45.00: 소숫점 뒤의 '0'은 유효숫자이다. 4, 5, 0, 0이 모두 유효숫자이다. 유효숫자 4개

​

▶ 상수의 경우 유효숫자를 적용하지 않는다.

​

​

[ 유효숫자의 계산 ]

​

▶ 덧셈, 뺄셈의 경우 소숫점 아래 유효숫자가 적은 것을 따라간다.

ex) 13.55 + 0.1089 = 13.6589 이지만, 13.55의 소숫점 아래 유효숫자는 2개, 0.1089의 소숫점 아래 유효숫자는 4개이므로 소숫점 아래 두자리로 맞춘다. 결과값은 소숫점 셋째자리에서 반올림하여 13.66이다.

​

ex) 1.4392 x 104 + 5.32 x 103 = 14392 + 5320 =19712 = 19710 = 1.971 x 104

: 14392는 일단위까지가 유효숫자이지만, 5320는 십단위 부터가 유효숫자이므로 결과값의 유효숫자는 일단위에서 반올림하여 10단위 부터가 유효숫자가 된다.

​

▶ 곱셈, 나눗셈의 경우 유효숫자 수가 가장 적은 유효숫자를 따라간다.

ex) 1.112789 x 32.123 x 5.0 = 178.730605 : 5.0의 유효숫자 갯수가 2개이므로 결과는 일 단위에서 반올림하여 유효숫자가 2개인 170이며, 정확한 표기는 1.7 x 102 이다.

​

▶ 덧셈, 뺄셈, 곱셈, 나눗셈이 혼재 된 경우에는 사칙 연산의 수칙에 맞추어 계산하며 곱셈과 나눗셈의 결과를

유효숫자에 맞춰 계산결과를 산출하고 이 값들을 다시 덧셈, 뺄셈하여 다시 유효숫자를 맞춘다.

ex) 0.3472 x 3.23 + 21.2 = 1.1214 + 3.23 =1.12 + 21.2 = 22.32 = 22.3