본문으로 건너뛰기
109 / STATISTICS LAB
먼저 알아두면 좋아요 · 연결된 선수 절의 확률·기대값·회귀·미분·극한
단원 목록 (600) · Bootstrap·재표집과 조건부 분포
이해하는 속도로 읽으세요.개념도이론실험확인 문제
BUILD YOUR INTUITION

먼저 그림으로 이해하기

한 번에 한 단계씩 살펴보세요.

관측 경험분포에서 가능한 모든 작은 재표본을 열거합니다.

Observed data=(0,1,2); mean; enumerate 3³=27 ordered resamples WITH replacement; percentile interval is not a coverage guarantee

020.2720
가로: 재표본 통계량 · 세로: 데이터에 조건부인 정확한 Bootstrap 질량
bootstrap statisticordered resample countconditional mass
010.037
0.33330.111
0.66760.222
170.259
1.33360.222
1.66730.111
210.037

observed statistic = 1

고정 기준 예제의 그림과 수치입니다. 각 단계에서 같은 그림의 의미를 차례로 살펴보세요. 고정된 기준 예제이며 아래 실험의 설정과 독립적입니다.
1 / 4

경험분포

관측값마다 질량 1/3을 줍니다.

data=(0,1,2)

실험에서 확인하기 →
이 단원 목차

표집분포를 모르는 상황

통계량의 표집분포는 모집단 법칙에 의존하지만 실제로 그 법칙을 모르는 경우가 많습니다. 비모수 Bootstrap은 관측 경험분포를 대신 넣어 재표본을 만듭니다. 현재 데이터 (0,1,2)는 각 관측 행에 질량 1/3을 배정합니다. 재표본의 크기도 3이고 복원추출하므로 같은 관측을 여러 번 사용할 수 있습니다.

P^3=13∑i=13δxi,X1∗,X2∗,X3∗∣x∼iidP^3.\widehat P_3=\frac13\sum_{i=1}^3\delta_{x_i},\qquad X_1^*,X_2^*,X_3^*\mid x\overset{\mathrm{iid}}\sim\widehat P_3.

작은 경우의 완전 열거

각 위치에서 세 행 중 하나를 고르므로 순서 재표본은 27개입니다. 실습은 무작위 일부만 뽑지 않고 전부 열거합니다. 중복 값이 있어도 행 선택은 구별되며 같은 통계량 결과를 합산합니다. 평균 모드에서 가능한 값은 0부터 2까지 1/3 간격이고 빈도는 (1,3,6,7,6,3,1)입니다. 이는 관측 데이터에 조건부인 정확한 분포이지 모집단에서의 정확한 표집분포가 아닙니다.

P∗(T∗=t∣x)=#{ordered resamples giving t}27.P^*(T^*=t\mid x)=\frac{\#\{\text{ordered resamples giving }t\}}{27}.

편향·표준오차와 비선형 통계량

평균은 Bootstrap 조건부 기대가 원래 평균과 같아 여기서 편향 추정이 0입니다. 원래 (0,1,2)의 평균 표준오차는 √(2/9)입니다. (0,0,3)의 중앙값으로 바꾸면 원래 중앙값은 0이지만 재표본 중앙값이 3일 확률은 7/27입니다. 따라서 조건부 평균은 7/9이고 편향 추정도 약 0.778입니다. 모수의 참 편향을 정확히 알아낸 것이 아니라 경험분포에서 계산한 값입니다.

bias^∗=E∗[T∗]−T(x),SE^∗=Var⁡∗(T∗).\widehat{\mathrm{bias}}^*=E^*[T^*]-T(x),\qquad\widehat{\mathrm{SE}}^*=\sqrt{\operatorname{Var}^*(T^*)}.

백분위 구간의 한계

구간 끝점은 재표본 통계량의 경험 CDF 역함수로 정합니다. 정렬한 27개 값에서 누적비율이 q 이상이 되는 첫 값을 택하며 보간하지 않습니다. 80%나 95%는 선택한 백분위 수준이지 이 작은 데이터의 참 포함률 보장이 아닙니다. 상수 데이터에서는 재표집 표준오차가 0이지만 원래 모집단이 상수라는 증거는 아닙니다. 시계열·군집 자료라면 iid 행 재표집 대신 의존성을 반영하는 단위를 검토해야 합니다.

[ F^∗−1(α/2),  F^∗−1(1−α/2) ].[\,\widehat F_*^{-1}(\alpha/2),\;\widehat F_*^{-1}(1-\alpha/2)\,].

확인 문제와 해설

  1. 27개 중 같은 숫자 표본도 따로 세나요? 행을 고른 순서가 다르면 따로 세고 결과 통계량에서 합칩니다.
  2. 모든 데이터를 한 번씩만 섞는 것은 같은가요? 아니요. 여기서는 복원추출입니다.
  3. 작은 n의 percentile 구간이 항상 명목 포함률인가요? 아니요. 추가 이론과 진단이 필요합니다.

추가 읽기: MIT 18.650, Statistics for Applications.

Wasserman, All of Statistics — author’s page.

CHECK YOUR UNDERSTANDING

설명할 수 있나요?

실험 설정과 무관한 기준 예제를 묻습니다. 답을 고르고 설명을 확인해보세요.

1. Bootstrap은 보통 어떤 추출을 쓰나요?
2. 재표집 분포는 참 표집분포와 항상 같은가요?

선택한 답과 학습 표시는 이 브라우저에 저장됩니다. 다시 풀거나 표시를 해제할 수 있습니다.