본문으로 건너뛰기
123 / BAYES LAB
먼저 알아두면 좋아요 · 연결된 선수 절의 조건부확률·기대값·적분·미분·추정
단원 목록 (600) · Bayes 인자와 모델 비교
이해하는 속도로 읽으세요.개념도이론실험확인 문제
BUILD YOUR INTUITION

먼저 그림으로 이해하기

한 번에 한 단계씩 살펴보세요.

점 모형과 연속 대안 모형의 evidence를 같은 데이터 사건에서 비교합니다.

M0: θ=.5; M1: θ~Beta(1,1); eight Bernoulli trials, k=4. Model prior P(M1)=0.5. Both models use the same ordered-data event.

081.0140
가로: 성공 수 k · 세로: P(M1) · 파랑: 사후 · 주황: 사전
successes kBayes factor M1/M0posterior P(M1)
028.4440.966
13.5560.78
21.0160.504
30.5080.337
40.4060.289
50.5080.337
61.0160.504
73.5560.78
828.4440.966

Bayes factor M1/M0 = 0.406

고정 기준 예제의 그림과 수치입니다. 각 단계에서 같은 그림의 의미를 차례로 살펴보세요. 고정된 기준 예제이며 아래 실험의 설정과 독립적입니다.
1 / 4

두 모형

모형 안 사전과 모형 사이 사전을 구분합니다.

M0:θ=.5; M1:θ~Beta(a,a)

실험에서 확인하기 →
이 단원 목차

모형 안의 사전과 모형 사이의 사전

M0는 θ=0.5를 고정하고 M1은 θ에 Beta(a,a) 사전을 둡니다. 두 모형에 대한 사전확률 P(M0), P(M1)도 별도로 필요합니다. Beta 사전은 M1 내부에서 모수를 평균하는 데 쓰고, 모형 확률은 두 모형 사이의 무게를 정하는 데 씁니다.

같은 데이터 사건의 evidence 나누기

n=8에서 k번 성공한 하나의 순서 표본을 관측합니다. M0의 evidence는 0.5⁸이고 M1은 Beta 함수 비율입니다. Bayes factor는 이 둘의 비율입니다. 개수 사건을 사용해도 두 모형에 같은 조합계수가 곱해지므로 이 비율은 같습니다.

BF⁡10=p(x∣M1)p(x∣M0),p(x∣M1)=B(a+k,a+8−k)B(a,a).\operatorname{BF}_{10}=\frac{p(x\mid M_1)}{p(x\mid M_0)},\qquad p(x\mid M_1)=\frac{B(a+k,a+8-k)}{B(a,a)}.

균등 대안 a=1, 성공 4이면 BF≈0.4063으로 균형을 고정한 M0를 더 지지합니다. 성공 8이면 BF=256/9≈28.44로 M1 쪽입니다. 더 자유로운 모형이 항상 더 높은 evidence를 얻지는 않습니다. 적합 가능한 최적점 하나가 아니라 사전 평균으로 평가하기 때문입니다.

Odds로 갱신한 뒤 확률로 변환하기

사전 odds에 BF를 곱하면 사후 odds입니다. odds O를 확률로 바꿀 때는 O/(1+O)를 사용합니다. P(M1)=0.5인 첫 예제는 사후 약 0.2889, 성공 8이면 약 0.9660입니다. 같은 성공 8에서도 사전 P(M1)=0.1이면 사후 약 0.7596으로 내려갑니다.

P(M1∣x)P(M0∣x)=BF⁡10P(M1)P(M0).\frac{P(M_1\mid x)}{P(M_0\mid x)}=\operatorname{BF}_{10}\frac{P(M_1)}{P(M_0)}.

그림은 가능한 성공 수별 사후 P(M1)를 파랑으로, 사전확률을 주황으로 표시합니다. k 조절기는 관측한 한 행의 readout을 선택하며 곡선 전체의 모형은 같습니다. a와 모형 사전확률은 곡선 자체를 바꿉니다.

상대적 비교와 실제 적합성

결과는 두 모형만 후보라고 놓았을 때의 조건부 비교입니다. 두 모형이 모두 틀리거나 데이터 수집 구조를 놓칠 수도 있습니다. 높은 사후 모형 확률을 보편적 진실의 인증으로 읽지 마세요. 사전 민감도, 사후예측 점검, 별도 데이터의 예측 성능을 함께 검토해야 합니다. AIC나 교차검증 점수는 다른 기준이며 이 작은 evidence 계산과 자동으로 같은 값이 아닙니다.

확인 문제와 해설

  1. 사전확률이 같을 때 posterior odds는? BF와 같습니다.
  2. BF만 알아도 사후확률을 알 수 있나요? 사전 모형 odds가 추가로 필요합니다.
  3. 공통 조합계수는 BF에서 어떻게 되나요? 분자와 분모에서 상쇄됩니다.

추가 읽기: Kevin P. Murphy, Probabilistic Machine Learning — author’s book page.

CHECK YOUR UNDERSTANDING

설명할 수 있나요?

실험 설정과 무관한 기준 예제를 묻습니다. 답을 고르고 설명을 확인해보세요.

1. BF와 posterior odds는 언제 같나요?
2. 사후 P(M1)는 무엇에 조건부인가요?

선택한 답과 학습 표시는 이 브라우저에 저장됩니다. 다시 풀거나 표시를 해제할 수 있습니다.