이 단원 목차
평균 하나로 모든 불확실성을 설명할 수는 없다
두 예측기의 평균 오차가 같아도 변동은 크게 다를 수 있습니다. 기댓값은 가중 중심, 분산은 그 중심 주변의 제곱 퍼짐입니다. 둘 중 하나만으로 분포가 정해지지는 않습니다. 이 단원은 모든 가능성을 직접 볼 수 있는 작은 분포로 두 양을 유도합니다.
는 를 확률 로 갖습니다. 실험은 음이 아닌 가중치를 받아 합으로 정규화합니다. 정규화를 명시하기 전에는 가중치를 확률이라고 부르지 마세요.
정의와 단위
| 양 | 정의 |
|---|---|
| 평균 | |
| 이차 모멘트 | |
| 분산 | |
| 표준편차 |
이 유한분포는 필요한 모멘트가 모두 존재합니다. 값이 무한히 커질 수 있는 일반 변수는 적분 가능 조건을 확인해야 합니다. 정의하는 합이나 적분이 발산하면 공식을 적는다고 유한한 모멘트가 생기지 않습니다. 가 m 단위라면 평균·표준편차는 m, 분산은 m²입니다.
기준 예제 손계산
평균은 입니다. 먼저 제곱하면 이고, 평균을 제곱한 값은 입니다.
표준편차는 약 1.089725입니다. 평균 0.25는 가능한 관측값에 없지만 문제가 아닙니다. 가중 중심이지 반드시 나오는 결과가 아닙니다.
직접 계산으로도 검산하세요. 제곱 편차는 이고 확률로 가중하면 1.1875입니다. 두 계산의 일치는 산술 검산이고, 위 전개가 일반 항등식을 설명합니다.
평행 이동과 배율 변경
선형성으로 입니다. 이 평균을 빼면
입니다. 상수를 더하면 중심만 이동하고 퍼짐은 같습니다. 두 배로 늘리면 표준편차는 두 배, 분산은 네 배입니다. 단위 없이 분산을 비교하면 스케일 차이를 놓칠 수 있습니다.
공분산은 입니다. 따라서 입니다. 공분산을 확인하지 않고 분산만 더하면 불확실성을 과소평가할 수 있습니다. 유한 이차 모멘트 아래 독립이면 무상관이지만, 무상관이 항상 독립을 뜻하지는 않습니다.
평균이 제곱 손실에 중요한 이유
상수 예측 의 제곱 손실을 평균 주변에서 전개하면
입니다. 이어서 교차항이 사라집니다. 그러므로 유한 이차 모멘트가 있을 때 평균은 상수 예측 중 기대 제곱 오차를 최소화합니다. 모든 손실에서 평균이 최적인 것은 아닙니다. 절대 오차는 중앙값을 선택하므로 목적함수가 달라지면 최적 예측도 달라집니다.
실험을 정확히 읽기
파랑 막대는 확률, 주황 선은 평균의 가로 위치입니다. 선 높이는 표시용이며 추가 확률질량이 아닙니다. 가중치를 바꾸면 중심과 퍼짐이 함께 달라집니다. 한 점 집중 예제는 가 확실하여 분산이 0입니다. 비대칭 예제의 확률 는 평균 , 분산 1.36을 줍니다.
이것은 알려진 분포에서 계산한 모집단 양입니다. 표본으로 분산을 추정하는 문제는 별도입니다. 흔히 쓰는 표본 분모 은 독립 동일분포 같은 가정 아래 정당화되며 모집단 분산의 정의를 바꾸는 것이 아닙니다.
연습과 연구 연결
- 의 평균과 분산은? 답: 3.5와 4.75입니다.
- 유한 이차 모멘트에서 인 이유는? 답: 차이가 음이 아닌 분산입니다.
- 평균이 같고 분산이 다른 두 분포를 만드세요.
- 논문의 오차막대가 표본 간 변동인지, seed 간 변동인지, 평균 추정의 불확실성인지 구분하세요. 서로 다른 표집 질문입니다.
배경은 MIT Introduction to Probability를 참고하세요. 실제 데이터로 확장할 때는 표집 단위와 의존성 가정을 먼저 기록하세요.
설명할 수 있나요?
실험 설정과 무관한 기준 예제를 묻습니다. 답을 고르고 설명을 확인해보세요.
선택한 답과 학습 표시는 이 브라우저에 저장됩니다. 다시 풀거나 표시를 해제할 수 있습니다.