확률과 통계로 자료 판단하기

불확실한 상황을 수로 다룬다는 것

방정식은 조건을 만족하는 값을 찾고, 함수는 입력과 출력의 관계를 읽는다. 확률과 통계는 조금 다른 질문에서 출발한다. 결과가 하나로 정해지지 않는 상황에서 얼마나 가능성이 큰지, 모은 자료가 무엇을 말하는지 판단한다.

동전을 던지면 앞면이 나올 수도 있고 뒷면이 나올 수도 있다. 내일 비가 올지, 시험에서 어느 점수를 받을지, 새로 출시한 상품이 얼마나 팔릴지도 확실히 말하기 어렵다. 하지만 아무 근거 없이 추측할 필요는 없다. 가능한 경우를 세고, 실제 자료를 요약하면 판단의 기준을 세울 수 있다.

확률은 어떤 일이 일어날 가능성을 수로 나타낸 것이다. 통계는 자료의 중심, 흩어짐, 분포를 정리해 상황을 해석하는 방법이다. 두 영역은 모두 정답 하나를 계산하는 데서 끝나지 않는다. 숫자를 근거로 결정을 내리게 해 준다.

AI 생성 이미지

먼저 정확히 세기: 합의 법칙과 곱의 법칙

확률을 계산하려면 먼저 경우의 수를 잘 세어야 한다. 경우의 수를 잘못 세면 확률도 처음부터 틀어진다.

가장 기본은 합의 법칙과 곱의 법칙이다.

합의 법칙은 서로 동시에 일어나지 않는 선택지를 더할 때 쓴다. 예를 들어 점심으로 한식 3가지 또는 중식 2가지 중 하나를 고른다고 하자. 한식과 중식을 동시에 고르는 것이 아니라 둘 중 하나를 고르는 상황이면 가능한 선택은

3 + 2 = 5가지

이다.

다만 합의 법칙을 쓸 때는 두 경우가 겹치지 않는지 확인해야 한다. 만약 어떤 선택지가 두 분류에 모두 들어간다면 단순히 더하면 중복해서 세게 된다. 경우의 수 문제에서 "또는"이라는 말이 보이면 더하기를 떠올리되, 겹치는 경우가 있는지도 함께 살펴야 한다.

곱의 법칙은 여러 단계를 차례로 선택할 때 쓴다. 상의 4벌과 하의 3벌 중 하나씩 골라 입는다면, 상의 하나를 고른 뒤 하의 하나를 고르는 두 단계가 있다. 가능한 조합은

4 × 3 = 12가지

이다.

두 법칙을 구분하는 기준은 간단하다. 선택이 갈림길처럼 하나만 고르는 구조이면 더하고, 단계가 이어져 모두 선택해야 하는 구조이면 곱한다.

예를 들어 비밀번호가 숫자 2자리이고 각 자리에 0부터 9까지 올 수 있다고 하자. 첫 번째 자리 10가지, 두 번째 자리 10가지이므로

10 × 10 = 100가지

이다. 여기서는 첫 자리와 둘째 자리를 모두 정해야 하므로 곱의 법칙을 쓴다.

순열과 조합: 순서가 중요한가

순열과 조합을 구분하는 핵심은 순서이다. 순서가 중요하면 순열, 순서가 중요하지 않으면 조합이다.

5명의 학생 A, B, C, D, E 중에서 회장 1명과 부회장 1명을 뽑는다고 하자. A가 회장, B가 부회장인 경우와 B가 회장, A가 부회장인 경우는 다르다. 역할이 다르기 때문이다. 따라서 순서가 중요하다.

첫 번째 회장 자리에 올 학생은 5명 중 하나, 두 번째 부회장 자리에 올 학생은 남은 4명 중 하나이다.

5 × 4 = 20가지

이를 순열이라고 하며, 기호로는 5P2라고 쓴다.

반대로 5명 중 대표 2명을 뽑기만 하고 역할을 나누지 않는다고 하자. A와 B를 뽑은 경우와 B와 A를 뽑은 경우는 같은 경우이다. 이때는 조합을 쓴다.

순서까지 고려해 세면 5 × 4 = 20가지가 나오지만, 대표 2명의 내부 순서 2 × 1 = 2가지는 같은 선택을 중복해서 센 것이다. 따라서

20 ÷ 2 = 10가지

이다. 이를 5C2라고 쓴다.

일반적으로 n개 중 r개를 순서 있게 뽑으면

nPr = n × (n-1) × ... × (n-r+1)

이고, n개 중 r개를 순서 없이 뽑으면

nCr = nPr ÷ r!

이다. 여기서 r!은 r부터 1까지의 자연수를 모두 곱한 값이다. 조합에서 r!로 나누는 이유는 뽑힌 r개를 배열하는 순서가 모두 같은 선택으로 취급되기 때문이다.

확률은 전체 중 원하는 경우의 비율이다

모든 경우가 똑같이 일어날 가능성이 있다고 할 때, 사건 A가 일어날 확률은 다음과 같이 계산한다.

P(A) = 사건 A가 일어나는 경우의 수 ÷ 전체 경우의 수

주사위 한 개를 던져 짝수가 나올 확률을 구해 보자. 전체 경우는 1, 2, 3, 4, 5, 6의 6가지이다. 짝수는 2, 4, 6의 3가지이므로

P(짝수) = 3 ÷ 6 = 1/2

이다.

때로는 원하는 사건을 직접 세는 것보다 반대 사건을 세는 편이 쉽다. 반대 사건은 어떤 사건이 일어나지 않는 경우이다. 사건 A가 일어나거나 일어나지 않는 경우를 모두 합치면 전체이므로

P(A) + P(A의 반대 사건) = 1

이다.

예를 들어 주사위 두 개를 던질 때 적어도 하나가 6일 확률을 구해 보자. 전체 경우는 6 × 6 = 36가지이다. 직접 세도 되지만, 반대로 6이 하나도 나오지 않는 경우를 세면 더 쉽다. 첫 번째 주사위가 6이 아닐 경우 5가지, 두 번째 주사위도 6이 아닐 경우 5가지이므로

5 × 5 = 25가지

이다. 따라서 적어도 하나가 6일 확률은

1 - 25/36 = 11/36

이다. 적어도 하나, 한 번 이상, 최소 하나 같은 표현이 나오면 반대 사건을 생각하는 것이 자주 유용하다.

조건부확률: 이미 알고 있는 정보가 확률을 바꾼다

조건부확률은 어떤 정보가 주어졌을 때 사건의 확률을 다시 계산하는 것이다. 기호 P(A|B)는 B가 일어났다는 조건 아래에서 A가 일어날 확률을 뜻한다.

공식은 다음과 같다.

P(A|B) = P(A∩B) ÷ P(B), 단 P(B) ≠ 0

이 공식은 어렵게 외울 필요가 없다. B가 이미 일어났다고 했으므로 전체 세계를 B로 좁혀 놓고, 그중에서 A도 함께 일어난 경우의 비율을 보는 것이다. 즉 조건부확률에서는 처음의 전체가 그대로 유지되는 것이 아니라, 조건을 만족하는 경우가 새로운 전체가 된다.

예를 들어 1부터 10까지 적힌 카드가 한 장씩 있다고 하자. 카드 한 장을 뽑았더니 짝수라는 사실을 알았다. 이때 그 수가 4보다 클 확률을 구해 보자.

처음 전체는 1부터 10까지 10개였지만, 짝수라는 조건이 주어졌으므로 가능한 카드는

2, 4, 6, 8, 10

의 5개로 줄어든다. 이 중 4보다 큰 수는

6, 8, 10

의 3개이다. 따라서 확률은

3/5

이다.

여기서 중요한 점은 조건이 전체 경우를 바꾼다는 것이다. 조건을 무시하고 1부터 10까지 전체에서 4보다 큰 수 6개를 세어 6/10이라고 하면 문제의 정보를 제대로 사용하지 않은 것이다.

또 하나의 흔한 오해는 P(A|B)와 P(B|A)를 같은 것으로 보는 것이다. 비가 오는 날에 우산을 가져올 확률과, 우산을 가져온 날에 비가 올 확률은 서로 다르다. 앞의 확률은 비가 온다는 조건에서 사람의 행동을 보는 것이고, 뒤의 확률은 우산을 가져왔다는 사실에서 날씨를 추측하는 것이다. 조건이 무엇인지 먼저 확인해야 한다.

독립사건: 서로 영향을 주지 않는다는 뜻

두 사건이 독립이라는 말은 한 사건이 일어났다는 정보가 다른 사건의 확률을 바꾸지 않는다는 뜻이다.

사건 A와 B가 독립이면

P(A|B) = P(A)

이고, 같은 뜻으로

P(A∩B) = P(A)P(B)

가 성립한다.

주사위 한 개를 던질 때 사건 A를 짝수가 나오는 사건, 사건 B를 3의 배수가 나오는 사건이라고 하자.

A = {2, 4, 6}이므로 P(A) = 3/6 = 1/2이다.

B = {3, 6}이므로 P(B) = 2/6 = 1/3이다.

A와 B가 동시에 일어나는 경우는 {6}이므로 P(A∩B) = 1/6이다.

그런데

P(A)P(B) = 1/2 × 1/3 = 1/6

이므로 두 사건은 독립이다. 단어의 느낌만 보면 짝수와 3의 배수는 관련 있어 보일 수 있지만, 확률적으로는 한 사건의 정보가 다른 사건의 확률을 바꾸지 않는다.

반대로 카드 한 벌에서 카드를 한 장 뽑고 다시 넣지 않은 뒤 두 번째 카드를 뽑는 상황은 독립이 아니다. 첫 번째에 어떤 카드가 뽑혔는지에 따라 두 번째에 남아 있는 카드의 구성이 바뀌기 때문이다. 다시 넣고 뽑으면 매번 같은 조건에서 새로 뽑는 셈이므로 독립으로 볼 수 있지만, 다시 넣지 않으면 보통 독립이 아니다.

독립은 느낌이 아니라 확률로 판단해야 한다.

평균과 중앙값: 자료의 중심을 보는 두 방법

통계에서는 먼저 자료의 중심을 본다. 대표적인 값이 평균과 중앙값이다.

평균은 모든 값을 더한 뒤 자료의 개수로 나눈 값이다. 자료가 60, 70, 70, 80, 120이라면 평균은

(60 + 70 + 70 + 80 + 120) ÷ 5 = 400 ÷ 5 = 80

이다.

중앙값은 자료를 크기순으로 정렬했을 때 가운데에 오는 값이다. 위 자료는 이미 크기순으로 정리되어 있고 가운데 값은 70이다. 자료의 개수가 짝수라서 가운데 값이 두 개가 되면, 그 두 값의 평균을 중앙값으로 삼는다.

평균은 80, 중앙값은 70이다. 왜 차이가 날까? 120이라는 큰 값이 평균을 끌어올렸기 때문이다. 평균은 모든 값을 반영하므로 계산이 쉽고 많이 쓰이지만, 아주 큰 값이나 아주 작은 값에 영향을 받는다. 이런 값을 이상치라고 한다. 중앙값은 극단적인 값의 영향을 덜 받기 때문에 소득, 집값처럼 일부 큰 값이 평균을 크게 흔드는 자료에서 유용하다.

따라서 평균이 높다고 해서 대부분의 값이 높다고 바로 판단하면 안 된다. 자료가 한쪽으로 치우쳐 있는지, 극단적인 값이 있는지 함께 봐야 한다.

분산과 표준편차: 얼마나 흩어져 있는가

중심만으로는 자료를 충분히 설명할 수 없다. 두 반의 평균 점수가 모두 80점이어도 한 반은 대부분 80점 근처일 수 있고, 다른 반은 매우 높은 점수와 낮은 점수가 섞여 있을 수 있다.

이 흩어짐을 나타내는 대표적인 값이 범위, 분산, 표준편차이다. 범위는 최댓값에서 최솟값을 뺀 값이라서 계산은 쉽지만, 양끝의 값에 크게 영향을 받는다. 분산과 표준편차는 모든 자료가 평균에서 얼마나 떨어져 있는지를 이용해 흩어짐을 나타낸다.

예를 들어 A반의 점수가 70, 75, 80, 85, 90이라고 하자. 평균은

(70 + 75 + 80 + 85 + 90) ÷ 5 = 400 ÷ 5 = 80

이다. 각 점수에서 평균을 뺀 편차는

-10, -5, 0, 5, 10

이다. 편차를 그냥 더하면 음수와 양수가 서로 상쇄되어 0이 된다. 그래서 편차를 제곱한 뒤 평균을 낸다.

(-10)^2 + (-5)^2 + 0^2 + 5^2 + 10^2 = 100 + 25 + 0 + 25 + 100 = 250

분산은

250 ÷ 5 = 50

이다. 표준편차는 분산의 제곱근이므로

√50 ≈ 7.07

이다.

이번에는 B반의 점수가 50, 65, 80, 95, 110이라고 하자. 평균은 역시 80이다. 편차는

-30, -15, 0, 15, 30

이고, 제곱의 합은

900 + 225 + 0 + 225 + 900 = 2250

이다. 분산은

2250 ÷ 5 = 450

이고, 표준편차는

√450 ≈ 21.21

이다.

두 반의 평균은 같지만 B반의 표준편차가 훨씬 크다. 이는 B반 점수가 평균 주변에 모여 있지 않고 넓게 흩어져 있다는 뜻이다. 평균은 중심을 말하고, 표준편차는 그 중심에서 얼마나 퍼져 있는지를 말한다.

정규분포와 표준화: 위치를 비교하는 방법

많은 측정값은 가운데가 높고 양쪽으로 갈수록 낮아지는 종 모양의 분포를 보인다. 이런 분포를 정규분포라고 한다. 사람의 키, 반복 측정한 오차, 큰 집단의 시험 점수처럼 여러 작은 요인이 합쳐진 자료에서 자주 등장한다.

정규분포는 평균 μ를 중심으로 좌우가 대칭인 모양을 가진다. 표준편차 σ가 작으면 자료가 평균 근처에 몰려 그래프가 좁고 높다. 표준편차가 크면 자료가 넓게 퍼져 그래프가 낮고 넓다.

정규분포를 해석할 때 중요한 생각은 표준화이다. 표준화는 어떤 값이 평균에서 표준편차 몇 개만큼 떨어져 있는지 나타내는 것이다. 표준화한 값을 보통 z값이라고 하며,

z = (자료값 - 평균) ÷ 표준편차

로 계산한다. 표준편차가 0이면 모든 값이 평균과 같다는 뜻이므로, 이 식으로 z값을 계산할 수 없다.

예를 들어 어떤 시험에서 평균이 70점, 표준편차가 10점이고 내 점수가 85점이라고 하자. 이때

z = (85 - 70) ÷ 10 = 15 ÷ 10 = 1.5

이다. 내 점수는 평균보다 표준편차 1.5개만큼 높은 위치에 있다.

다른 시험에서는 평균이 80점, 표준편차가 5점이고 내 점수가 87점이라고 하자. 원점수만 보면 87점이 85점보다 높다. 하지만 표준화하면

z = (87 - 80) ÷ 5 = 7 ÷ 5 = 1.4

이다. 첫 번째 시험의 z값 1.5가 두 번째 시험의 z값 1.4보다 크므로, 각 시험 집단 안에서의 상대적 위치는 첫 번째 시험이 조금 더 높다고 볼 수 있다.

이처럼 표준화는 서로 평균과 표준편차가 다른 자료를 비교할 때 유용하다. 단, 모든 자료가 정규분포를 따르는 것은 아니다. 자료가 심하게 치우쳐 있거나 두 집단이 섞여 있으면 평균과 표준편차만으로 판단하기 어렵다. 같은 z값이라도 분포의 모양이 다르면 해석이 달라질 수 있으므로, 그래프와 자료의 맥락을 함께 봐야 한다.

실전 판단: 계산보다 질문이 먼저다

확률과 통계 문제를 풀 때는 공식보다 질문을 먼저 확인해야 한다.

경우의 수 문제에서는 먼저 순서가 중요한지, 중복 선택이 가능한지, 동시에 일어날 수 없는 선택지를 더하는지, 단계별 선택을 곱하는지 살핀다. 같은 5명 중 2명을 뽑는 문제라도 회장과 부회장을 뽑으면 순열이고, 대표 2명을 뽑으면 조합이다.

확률 문제에서는 전체 경우가 무엇인지 먼저 정한다. 조건이 주어졌다면 전체는 처음 전체가 아니라 조건을 만족하는 경우로 줄어든다. 독립인지 아닌지는 느낌으로 판단하지 말고 P(A∩B) = P(A)P(B)가 성립하는지, 또는 한 사건의 정보가 다른 사건의 확률을 바꾸는지 확인한다.

통계 문제에서는 평균 하나만 보지 않는다. 중앙값, 범위, 분산, 표준편차를 함께 확인해야 한다. 평균이 같아도 흩어짐이 다르면 전혀 다른 집단일 수 있다. 표준점수나 z값은 서로 다른 집단에서의 상대적 위치를 비교하는 데 도움을 준다.

확률과 통계는 불확실함을 없애 주지는 않는다. 대신 불확실한 상황에서 더 나은 판단을 하게 해 준다. 이것이 이 단원의 핵심이다. 수학이 항상 정확한 답 하나만 찾는 도구는 아니다. 때로는 자료를 읽고, 가능성을 비교하고, 제한된 정보 속에서 합리적인 결론을 선택하는 언어가 된다.