d라이브러리

이번 달 새로 나온 통조림 ‘근삿값’ 맛은 자신 있게 추천할 수 있습니다. 새로운 통조림에 대한 반응을 보기 위해 시식회를 열었는데요. 전국초등학교, 중학교 학생 5000명을 대상으로 조사한 결과 ‘맛있다’라는 결과가 75%를 차지했어요. 이는 98% 신뢰수준에 오차범위가 ±5%포인트였다고 합니다. 여러분도 솔깃한가요? 그럼, 통조림을 맛보러 가 봅시다!


근삿값에 대한 개념트리

근삿값 구하기는 통계에서 중요합니다. 근삿값은 실제로 물체를 들어 보고 재 보면서 배웁니다. 학생들은 측정을 통해 단위를 배우며 통계의 기초를 다집니다.

초등학교 과정에서는 측정과 어림을 배웁니다. 초등학교 때 오차 개념을 잡기 시작하며 표준단위를 배웁니다. 길이, 들이, 무게를 어림잡아 측정하고 반올림, 올림, 버림을 할 수 있습니다. 고학년으로 올라가면 이상, 이하, 초과, 미만의 뜻을 알고 수의 범위를 나타낼 수 있습니다.

중학교 과정에서는 근삿값과 오차의 의미를 이해하며 참값의 범위와 근삿값을 표현할 수 있습니다. 자료를 대표하는 값인 중앙값, 최빈값, 평균을 배우며 자료값의 퍼진 정도를 나타내는 편차, 분산, 표준편차를 이해하고 그 값을 구할 수 있습니다.


오차에도 법칙이 있어!

“인형의 키가 70cm 정도 되는 것 같았어!”

어느 날, 길을 가다가 가게 앞에 세워 둔 곰 인형을 보고 친구에게 이렇게 말했습니다. 여러분은 이 크기가 정확하다고 생각하나요? 물론, 아니겠지요. 곰 인형의 크기를 짐작으로 헤아린 값입니다. 이를 어림값이나 근삿값이라고 합니다. 근삿값은 참값에 가깝지만 항상 오차가 존재합니다. 그러나 누구나 정확한 값을 얻길 원하겠지요. 그럼 참값을 만나는 길을 따라가 볼까요?

만남❶ 측정값과 어림하기

어떤 대상의 길이, 무게, 온도 등은 자, 저울, 온도계와 같은 도구로 잽니다. 이렇게 도구를 사용해 얻은 값을 측정값이라고 합니다. 초등학교 2, 3학년에서는 물건의 길이나 들이, 무게를 측정하고 어림을 합니다. 다양한 물건을 여러 가지 방법으로 측정하면 수치가 제멋대로기 때문에 표준단위가 필요합니다.
 

연필, 클립으로 수학교과서의 긴 변의 길이를 잽니다. 연필 하나, 클립 하나가 각 측정값의 특정한 단위입니다. 이렇게 단위의 길이가 달라지면 측정값도 달라집니다. 이런 활동을 어림측정이라고 합니다. 어림측정은 서로 다른 측정도구를 사용해 측정값을 얻고 그 값을 반올림, 올림, 버림 등 어림해서 서로 비교하는 방법입니다. 측정값은 어림측정을 통해 얻을 수 있습니다.

측정값은 근삿값으로 나타냅니다. 초등학교 4학년에서는 반올림, 올림, 버림으로 근삿값을 표현하는 방법을 배웁니다. 초등학교 6학년이 되면 이상, 이하, 초과, 미만의 뜻을 알고 수의 범위를 나타낼 수 있습니다. 초등학교에서 어림수와 수의 범위에 대한 표현을 잘 배워 두면 앞으로 배울 오차의 의미와 참값의 범위를 잘 이해할 수 있습니다.

만남❷ 근삿값과 오차 알기

저울, 온도계 등 측정도구의 눈금에도 오차가 있습니다. 그래서 측정도구로 얻은 측정값은 참값이 될 수 없습니다. 초등학교에서 어림하거나 측정해서 얻은 값은 참값에 가까운 값입니다. 참값에 가까운 측정값이나 근삿값은 참값과 조금 다르며, 그 차이를 오차라고 합니다.

중학교 2학년에서는 오차의 한계를 배웁니다. 위 예제처럼 근삿값과 오차의 의미를 이해하고, 오차의 한계를 나타낼 수 있습니다. 참값은 정확히 구할 수 없지만 오차의 한계를 이용해 그 범위를 알 수 있습니다.
 

눈금이 0.1cm인 자로 클립의 길이를 재 측정값 2.8cm를 얻었습니다. 측정값은 소수점 이하 두번째 자리에서 반올림해서 얻은 근삿값입니다. 따라서 소수점 이하 두 번째 자리 숫자가 0, 1, 2, 3, 4이면 버리고 5, 6, 7, 8, 9이면 올렸을때 2.8이 되는 값의 범위는 2.75≤ 참값 ＜2.85입니다. 이 때 참값과 근삿값의 차이는 0.05cm이하입니다.
 

만남❸ 근삿값 표현하기

3.14는 원주율 π의 근삿값입니다. 그렇다면 근삿값을 어디까지 믿어야 할까요? 근삿값을 나타내는 숫자 중에서 믿을 수 있는 숫자를 유효숫자라고 합니다. 반올림한 경우는 반올림하지않은 자리까지, 측정값의 경우는 실제로 눈금을 읽어서 얻은 자리까지를 유효숫자로 정합니다.

즉 눈으로 확인할 수 있는 숫자인 최소눈금단위까지의 숫자입니다. 3.14는 소수점 아래 셋째자리에서 반올림한 근삿값입니다. 따라서 유효숫자는 3, 1, 4입니다.

근삿값은 유효숫자와 10의 거듭제곱의 곱으로 나타냅니다. 유효숫자를 표현할 때는 1보다 크거나 같고 10보다는 작은 수로 표현합니다.
 

근삿값은 참값에 가까운 값이며, 근삿값과 참값 사이에는 늘 오차가 있습니다. 그래서 근삿값을 표현할 때는 유효숫자를 이용해 신뢰할 수 있는 자리를 수 a로 분명히 나타내야 합니다.


근삿값과 오차로 감각을 키우자!

“내 친구는 키가 170cm가 조금 안 돼. 나보다 10cm 정도 큰 것 같아”처럼 단위를 알고 구체적인 경험을 했다면 도구를 사용하지 않아도 길이나 무게를 예측할 수 있는 감각이 생깁니다. 그 감각을 통해 직관적으로 근삿값과 오차를 이해할 수 있습니다. 그러나 수학, 통계학, 건축학 등 더욱 전문적인 분야를 공부하고 이해하기 위해서는 근삿값과 오차에 대한 정확한 이해가 필요합니다. 다음을 통해 근삿값과 오차를 배우는 이유를 알아봅시다.

측정 감각이 쑥쑥!

어림측정은 특정한 물건으로 길이나 무게를 재는 방법입니다. 특정한 물건의 길이와 무게 등이 기본 단위가 되고, 측정하려는 대상의 길이나 무게는 ‘그 단위의 몇 배’ 등으로 측정합니다. 따라서 어림측정을 할 때는 물건에 따라 단위가 달라지고 측정값도 다릅니다. 초등학교 2학년과 3학년 학생은 어림측정을 통해 어떤 대상의 길이, 무게, 들이 등을 잽니다. 측정도구를 사용하지 않고 손 뼘을 이용해 “한 뼘”이라는 측정값을 얻는다면, “손 뼘”이 단위입니다.

여러 사람이 함께 모여 사는 현대사회에서는 공통적인 단위가 필요합니다. 자를 사용해 나타내는 cm, m,inch, km, mile 등은 길이에 대한 표준단위, 즉 절대단위입니다. 현대에는 측정도구를 사용해 얻은 표준 측정값을 중요하게 생각합니다. 측정값은 측정도구의 표준단위가 몇 개인가를 수치로 나타낸 것입니다. 따라서 길이, 무게, 부피, 시간 등에 따라 단위가 달라집니다.

측정값은 반올림이나 버림, 올림 등을 이용해 근삿값으로 표현하고, 근삿값을 이용해 참값의 범위를 나타낼 수 있습니다.

중학교에서는 근삿값과 오차의 의미를 공부하고 참값의 범위와 근삿값에서 의미 있는 자릿수를 나타내는 유효숫자를 배웁니다.

전문 영역이 쏙쏙!

“2010년 2월 전국의 초등학생 1000명을 대상으로 조사한 인기도에서 2AM은 42.1%, 샤이니는 35.3%의 지지율을 얻었습니다. 이 조사는 95% 신뢰수준에 표준오차 ±2.1%포인트입니다.”

뉴스나 기사에서는 위와 같이 조사의 신뢰를 얻기 위해 통계를 이용합니다. 이런 기사를 이해하기 위해서는 오차의 한계를 알아야 합니다.

2AM의 인기도는 42.1%이고 표준오차에서 오차의 한계가 ±2.1%이라는 것을 알 수 있습니다. 그러므로 2AM의 인기도를 나타내는 참값의 범위는 40.0%(42.1% -2.1%)에서 44.2%(42.1%+2.1%) 사이입니다. 샤이니의 인기도 역시 마찬가지입니다. 조사해서 나온 측정값이 35.3%고, 그 오차범위가 33.2%(35.3% -2.1%)에서 37.4%(35.3% +2.1%)입니다. 신뢰수준이 95%라는 것은 동일한 조사를 100번 했을 때 자료값이 95번은 신뢰구간(측정값±오차한계) 안에 있다는 뜻입니다.

신뢰도를 밝히는 기사를 이해하기 위해서는 중학교 2학년에서 배우는 근삿값을 이해하고 더 나아가 고등학교에서 배우는 통계를 활용해야 합니다.
 

참값의 범위와 오차의 한계
 

이탈리아의 수학자이자 과학자인 갈릴레이는 오차에 대한 법칙을 처음으로 발견했다. 갈릴레이는 참값이 근삿값에 대해 좌우대칭으로 분포한다는 것과 근삿값에 가까운 관측값은 많지만, 근삿값에 먼 관측값은 드물다는 두 가지 법칙을 발견했다.

어떤 대상을 관측해 얻은 관측값을 찍어 그래프로 나타내면 종모양이다. 근사값은 어떤 대상을 관찰했을 때 빈도수가 가장 많아 계속해서 일정하게 나타나는 값이다. 이 값은 자료들의 평균값이다. 이 곡선은 정규분포 곡선이라고 하며 독일의 수학자 가우스가 처음 성질을 알아 냈다. 그래서 가우스분포 곡선이라고도 한다.

여기서 참값의 범위가 중요하다. 참값은 근삿값에 오차를 더한 값과 뺀 값 사이에 있다. 이 곡선에서 참값의 범위와 오차의 한계라는 개념을 발견할 수 있다.


관측에서 시작한 오차의 학문

“와~ 저기 별이 움직이는 것 같아! 속도가 얼마나 될까?”

여러분의 머릿속에는 여러 가지 숫자들이 떠오를 것입니다. 물론 여러분이 생각하는 별의 속도와 별이 실제로 움직이는 속도에는 차이가 있습니다. 그 차이가 바로 오차입니다. 천체 운행을 정밀하게 관측하기 위해서는 이 오차를 정확히 측정해야 합니다. 이처럼 관측에서 오차의 학문이 발달했습니다. 천문학자들은 별들의 운동을 관측해 그 관측값을 다양하게 얻었고 더 정확한 관측값을 위해 오차를 줄이는 방법을 연구했습니다.

책상 위에 있는 세계지도나 지구본을 볼까요? 처음으로 세계지도를 제작한 사람은 고대 그리스수학자인 에라토스테네스입니다. 에라토스테네스는 1년이 365일이며, 4년마다 하루가 많아진다는 사실을 발견하기도 했습니다.

에라토스테네스는 지구의 둘레도 측정했습니다. 에라토스테네스는 그림과 같은 방법으로 지구의 둘레를 쟀는데 그 결과는 약 4만 6250km입니다. 실제 지구의 둘레 3만 9960km보다 약 15% 정도 컸습니다. 오차가 생기면 과학자들은 더욱 정확한 값을 얻기 위해 다른 시도를 합니다. 오차를 줄여나가면서 과학도 발전하는 것이지요.

여러분, 내비게이션이나 핸드폰에 적용된 위성항법장치(GPS)를 알고 있나요? 여러분이 어떤 곳에 있든지 인공위성을 이용해서 그 위치를 알아 내는 장치입니다. 위치 정보는 3개 이상의 위성에서 받은 정보를 계산해 얻어냅니다. GPS는 정확한 위치뿐만 아니라, 물체의 속도와 정확한 시간까지 얻습니다. 그런데 인공위성이 보내는 정보에도 아주 작지만 오차가 있습니다. 인공위성에는 3개의 원자시계가 달려 있는데, 그 시계의 오차는 3만 6000년에 1초입니다.

오차가 굉장히 작은 GPS는 정밀도가 높아 단순한 위치 정보를 제공하는 것뿐만 아니라 항공기 등의 운송기관에 대한 자동항법 및 교통관제, 충돌방지, 지도제작 등 광범위한 분야에서 쓰이고 있습니다.
 

360° : 2πR = 7.2° : 925km
2πR(지구의 둘레) ≒ 46250km
기원전 200년경 에라토스테네스는 같은 경도위에 있는 두 지역의 거리와 햇빛이 들어오는 각도의 차이를 이용해 지구 둘레를 쟀다.

하짓날 정오에 시에네에는 우물 속에 햇빛이 수직으로 비추고 시에네에서 정북쪽에 있는 알렉산드리아에서는 똑바로 세운 막대의 그림자끝이 북쪽으로 약 7.2° 기울어진 곳에 생긴다는 것을 발견했다. 에라토스테네스는 태양이 지구로부터 매우 먼 곳에 있고 태양광이 모든 곳을 평행하게 비춘다고 가정했을 때, 구형인 지구 모양 때문에 생기는 현상이라고 생각했다. 시에네에서 알렉산드리아까지 거리는 약 925㎞다.

호의 길이는 중심각의 크기에 비례한다는 기본원리에 따라 360° : 2πR = 7.2° : 925㎞ 라는 비례식으로 지구의 둘레인 2πR은 46250km라는 것을 알아 냈다.


교과서 제대로 알기

초등학교, 중학교에서 배우는 어림수, 수의 범위, 그리고 근삿값과 오차의 의미는 수에 대한 이해나 측정 및 통계의 기본입니다. 따라서 연계적으로 그 의미를 생각하면서 공부한다면 통계 과목에 자신감을 얻을 수 있습니다.

반올림, 올림, 버림의 개념은 초등학교 4학년에서 배웁니다. 정확한 수를 제시하지 않고 ‘약, 대략’ 등을 숫자 앞에 붙이면 모두 반올림, 올림, 버림 등을 이용해 어림해 계산한 숫자입니다.

한 마을의 남자 수 1462명을 십의 자리까지 나타내 봅시다. 남자 수 1462명을 올림의 방법으로 나타내면, 십의 자리 아래 수를 올려 1470명입니다. 또 십의 자리 아래수를 버려 1460으로도 나타낼 수 있습니다. 올림과 버림으로 나타낸 근사값 1470과 1460은 실제 마을의 남자 수 1462와 차이가 있습니다. 반올림, 버림, 올림해서 얻은 근삿값에서 참값을 뺀 값을 오차라고 합니다.
 

오차의 정도는 측정도구의 최소눈금단위로도 구할 수 있습니다. 온도계 눈금도 온도계마다 약간씩의 차이가 있기 때문입니다. 0.1℃단위까지 온도를 잴 수 있는 온도계의 최소눈금단위는 0.1℃입니다. 이 측정값의 오차의 한계는 측정계기의 최소눈금단위에 $\frac{1}{2}$을 곱해 구합니다.

오차의 한계는 참값의 범위를 나타낼 때 중요하게 쓰입니다. 1월의 기온 20.1℃는 참값이 아닌 근삿값입니다. 그렇다면 정확한 값은 어떻게 구할까요? 바로 근삿값에서 오차의 한계만큼 더하고 뺀 값의 사이를 참값으로 예측합니다. 즉 참값은 범위 20.1-0.05≤참값＜20.1+0.05이며 딱 집어서 ‘몇 도’라고 말 할 수 없습니다.
초등학교에서 어림하기를 잘 배워두면 중학교에서 배우는 근삿값도 쉽게 익힐 수 있습니다.
 

근삿값에서 0이 아닌 숫자는 모두 유효숫자입니다. 유효숫자는 근삿값에서 반올림하지 않은 부분이나 측정해 얻은 숫자입니다.

유효숫자는 반올림을 했는지 안 했는지에 따라 구분할 수 있습니다. 측정해서 얻은 근삿값에서 측정도구의 최소눈금단위 자리까지의 숫자와 반올림해서 얻은 근삿값에서 반올림한 자리 바로 윗자리까지의 숫자를 유효숫자라 합니다. 측정값이 460cm이고 최소눈금단위가 1cm라면 유효숫자는 4, 6, 0입니다. 0은 유효숫자인데, 일의 자리까지 최소눈금단위자리 숫자이기 때문입니다. 만약 최소눈금단위가 10cm라고 한다면 유효숫자는 4, 6입니다.

0이 유효숫자인지 아닌지 판별하는 기준은 여러 가지입니다. 0이 아닌 숫자 사이에 있는 0, 소수점 아래에서 0이 아닌 숫자 뒤에 나오는 0은 유효숫자입니다. 소수의 자리를 나타내기 위한 0, 즉 0.2에서 0은 유효숫자가 아닙니다. 460처럼 0이 아닌 숫자 뒤에 있는 0은 한눈에 유효숫자인지 아닌지 알 수 없습니다. 이는 반올림한 자릿값이 주어져야 판단할 수 있습니다.