본문으로 건너뛰기
518 / PARTITION LAB
먼저 알아두면 좋아요 · 등비급수·조건부 분포·정준 요동과 분배함수
단원 목록 (600) · 무한 에너지 사다리의 정규화와 절단
이해하는 속도로 읽으세요.개념도이론실험확인 문제
BUILD YOUR INTUITION

먼저 그림으로 이해하기

한 번에 한 단계씩 살펴보세요.

합이1인 유한 목록도 무한 목표의 대부분을 놓칠 수 있습니다. 정규화 존재,조건화한 절단,누락 질량과 관측량 편향을 나누어 비교하고,온도를 바꿀 때 필요한 상태 수가 달라지는지 확인합니다.

고정 예제를 계산하고 있습니다.

각 단계의 고정 준비를 별도 worker에서 계산합니다. 가중치·모멘트·기준 이동,결합·지원·source 응답,무한 사다리의 절단과 경계를 비교합니다. 고정된 기준 예제이며 아래 실험의 설정과 독립적입니다.
1 / 4

등비 꼬리와 조건부 확률

E_n=ε(n+1/2)를 주어진 스펙트럼으로 가정합니다. q=1/2,L=2의 무한 첫 확률은1/2,1/4,1/8이며 합은7/8입니다. 이를 조건화하면(4,2,1)/7이 되고 빠진 질량1/8은 사라지지 않습니다. 지수 평균은 무한1과 절단4/7,분산은2와26/49로 다릅니다.

δL=q^(L+1) · pL=p∞/(1−δL) on n≤L

실험에서 확인하기 →
이 단원 목차

합이 1인 짧은 목록도 분포의 대부분을 놓칠 수 있다

무한히 많은 층을 가진 건물을 상상하자. 한 층 올라갈 때마다 같은 에너지가 더 필요하다. 낮은 온도에서는 아래층에 방문이 집중되지만 높은 온도에서는 많은 층이 중요해진다. 컴퓨터는 유한한 층만 나열할 수 있다. 그 짧은 목록을 합이 1이 되도록 만들었다고 해서 생략한 층이 중요하지 않았다는 뜻은 아니다.

이 단원에서는 세 질문을 나눈다. 무한 평형분포가 존재하는가, 유한 절단은 어떤 분포를 정의하는가, 그 유한 분포는 무한 분포를 얼마나 잘 나타내는가? 에너지 스펙트럼은 미리 주어진 것으로 가정한다. Tong의 내부 모드 설명에 나오는 진동자 예가 배경이며, 아래 절단 계산과 수치 계약은 여기서 명시한 사다리에서 유도한다. 양자화, 전이율 또는 열평형에 도달하는 과정을 유도하는 단원은 아니다.

스펙트럼과 정규화 조건 명시하기

음이 아닌 정수 n마다 이름 붙은 상태가 하나씩 있다. 준위 간격 ε는 음이 아닌 에너지이며 단위는 줄이다. 무한 평형 계산에서는 ε>0과 유한한 T>0을 가정한다.

En=ε(n+1/2),n=0,1,…,x=εkBT,q=e−x,0<q<1.E_n=\varepsilon(n+1/2),\qquad n=0,1,\ldots,\qquad x=\frac{\varepsilon}{k_BT},\qquad q=e^{-x},\qquad 0<q<1.

반 간격 ε/2는 공통 에너지 기준이다. 평균 에너지와 자유에너지를 이동시키지만 정규화된 확률이나 에너지 분산은 바꾸지 않는다. 지수 하나당 상태 하나라는 조건도 계수 규칙의 일부다. n과 함께 증가하는 퇴화도를 추가한다면 급수의 수렴 조건과 분포가 달라질 수 있다. 단순히 에너지 식이 같다는 이유로 같은 분배함수라고 볼 수 없다.

ε=0이면 모든 상태의 가중치가 같아 무한 합이 발산한다. ε>0,T<0이면 n과 함께 가중치가 커져 역시 정규화할 수 없다. 두 경우에도 유한 절단은 유한한 가중치가 유한 개 있으므로 정규화된다. 이 유한 분포의 존재가 무한 분포의 존재를 보장하지는 않는다. 식을 계산하기 전에 상태집합과 매개변수 조건을 먼저 적는 이유다.

확률을 부여하기 전에 등비급수 더하기

공통 반 간격 인자를 합 밖으로 꺼낼 수 있다. 등비급수에 q를 곱하면 모든 항이 한 자리씩 밀리고, 두 급수의 차이에는 첫 항만 남는다.

Z∞=e−x/2∑n=0∞qn=e−x/21−q=12sinh⁡(x/2),p∞(n)=(1−q)qn.Z_\infty=e^{-x/2}\sum_{n=0}^\infty q^n =\frac{e^{-x/2}}{1-q}=\frac1{2\sinh(x/2)},\qquad p_\infty(n)=(1-q)q^n.

지수 n은 0과 양의 정수 위의 기하분포를 따른다. 어떤 교재는 시행 횟수를 1부터 세므로 평균 지수가 하나 달라진다. 여기서는 n=0이 바닥 준위다. Taboga의 기하분포 설명처럼 반복 시행으로 같은 확률법칙을 구성할 수도 있다. 이는 분포가 수학적으로 같다는 뜻이며, 이 에너지계가 실제로 독립 동전 던지기를 수행한다는 뜻은 아니다.

급수가 수렴하는 이유는 수학적 수 q가 엄밀히 1보다 작기 때문이다. 화면에 반올림한 q가 1로 나타나는 것은 표현 문제다. 이 표시값으로 정확한 입력 조건 x>0을 덮어쓰면 안 된다. 작은 간격과 큰 온도가 동시에 주어지는 경우가 이 차이를 뚜렷하게 보여준다.

점유 모멘트와 물리적 관측량 유도하기

등비 합을 q로 미분하고 q를 곱하면 각 항에 n이 붙는다. 이 연산을 두 번 적용하면 n²을 생성한다. 정규화하고 중심화하면 다음을 얻는다.

⟨n⟩∞=q1−q,Var⁡∞(n)=q(1−q)2,U∞=ε(12+q1−q),Var⁡∞(E)=ε2q(1−q)2.\langle n\rangle_\infty=\frac{q}{1-q},\qquad \operatorname{Var}_\infty(n)=\frac{q}{(1-q)^2},\qquad U_\infty=\varepsilon\left(\frac12+\frac{q}{1-q}\right),\qquad \operatorname{Var}_\infty(E)=\varepsilon^2\frac{q}{(1-q)^2}.

평균 지수는 무차원, 평균 에너지는 줄, 에너지 분산은 줄 제곱 단위다. 준위 간격이 아주 작으면 거대한 평균 지수와 적당한 물리적 에너지가 함께 나타날 수 있다. 표시된 무한대 지수에 표시상 0인 간격을 곱해서는 이 관계를 복구할 수 없다. 정확한 입력 인자를 먼저 결합한 뒤 최종 수치로 투영해야 한다.

스펙트럼을 고정한 정준 항등식에서 열용량, 엔트로피와 자유에너지도 얻는다.

C∞kB=x2q(1−q)2,S∞kB=−ln⁡(1−q)+xq1−q,F∞=ε2+kBTln⁡(1−q).\frac{C_\infty}{k_B}=x^2\frac{q}{(1-q)^2},\qquad \frac{S_\infty}{k_B}=-\ln(1-q)+x\frac{q}{1-q},\qquad F_\infty=\frac{\varepsilon}{2}+k_BT\ln(1-q).

온도로 미분할 때 ε를 고정한다. ε 자체가 T에 의존한다면 U의 미분에는 그 변화도 들어가므로, 표시한 요동 공식 하나로 전체 미분을 계산할 수 없다. 고정 스펙트럼 가정 아래에서 공통 반 간격은 열용량에 기여하지 않는다. 평균값의 에너지 기준과 변동의 에너지 간격을 구별하는 또 다른 예다.

유한 절단은 조건부 분포를 정의한다

n=0부터 L까지만 허용하고, 유지한 상태 수를 m=L+1로 적자. 유한 등비 합으로 계산하면 다음과 같다.

ZL=e−x/21−qm1−q,pL(n)=(1−q)qn1−qm(0≤n≤L),pL(n)=0(n>L).Z_L=e^{-x/2}\frac{1-q^m}{1-q},\qquad p_L(n)=\frac{(1-q)q^n}{1-q^m}\quad(0\le n\le L),\qquad p_L(n)=0\quad(n>L).

무한 준비가 정규화되는 경우, 이는 그 분포를 n≤L이라는 사건으로 조건화한 분포와 정확히 같다. 조건화는 남겨둔 모든 확률에 같은 인자를 곱한다. 이 연산만으로 실제 물리계가 더 높은 준위를 점유할 수 없었다고 해석할 수는 없다. 그런 의미를 부여하려면 준비에 실제 상태공간 제약을 지정해야 한다.

수학적으로 q=1 또는 q>1이어도 유한 합 자체는 양수다. 이때는 부정형처럼 보이는 등비 몫을 그대로 대입하지 말고 원래 유한 합으로 계산한다. ε=0에서는 단순히 m이다. 음의 온도에서는 가장 높은 유지 에너지를 기준으로 삼으면 결손 지수 L−n의 가중치가 감소한다. 그러나 원래 n이 증가할 때의 물리적 가중치 비 q는 1보다 크다. 계산을 위한 기준 이동이 원래 비의 의미를 바꾸지는 않는다.

절단이 제거한 것을 측정하기

꼬리 확률도 등비급수다. 유한 분포를 절단 밖에서 0으로 연장하면 무한 분포와의 총변동 거리와도 같다.

δL=P∞(n>L)=qm,ZLZ∞=1−δL,∥pL−p∞∥TV=δL.\delta_L=P_\infty(n>L)=q^m,\qquad \frac{Z_L}{Z_\infty}=1-\delta_L,\qquad \lVert p_L-p_\infty\rVert_{\mathrm{TV}}=\delta_L.

유지 구간에서 유한 분포는 재정규화 때문에 확률 질량 δ_L을 더 얻는다. 밖에서는 같은 양을 잃는다. 절댓값 차이 합의 절반이 따라서 δ_L이다. 이 유도에는 특별한 조건부 구조를 썼다. 일반적인 유한 근사라면 무조건 같은 공식이 성립하는 것은 아니다.

KL 비교에서는 방향이 중요하다.

DKL(pL∥p∞)=−ln⁡(1−δL),DKL(p∞∥pL)=+∞(T>0, L<∞).D_{\mathrm{KL}}(p_L\Vert p_\infty)=-\ln(1-\delta_L),\qquad D_{\mathrm{KL}}(p_\infty\Vert p_L)=+\infty\quad(T>0,\ L<\infty).

유지한 상태에서 순방향 확률비는 상수다. 역방향에서는 무한 분포의 확률은 양수인데 유한 분포의 확률은 정확히 0인 곳을 만난다. 아무리 작은 꼬리라도 이런 지지집합 불일치를 만든다. 여기의 수학적 무한대는 표시 범위 밖에 있는 유한 수와 다르다. 같은 기호로 처리하면 '정의가 발산한다'와 '표시할 수 없다'를 혼동하게 된다.

누락 질량과 평균·분산 편향을 따로 구하기

유한 등비 정규화 상수를 미분하거나, 무한 모멘트에서 조건부 모멘트를 빼면 양의 편향을 얻는다.

⟨n⟩L=q1−q−mqm1−qm,Var⁡L(n)=q(1−q)2−m2qm(1−qm)2.\langle n\rangle_L=\frac{q}{1-q}-\frac{m q^m}{1-q^m},\qquad \operatorname{Var}_L(n)=\frac{q}{(1-q)^2}-\frac{m^2q^m}{(1-q^m)^2}.

에너지 편향은 평균 지수 편향에 ε를 곱한 값이다. 누락 질량이 작다고 해서 유계가 아닌 관측량의 오차도 자동으로 무시할 만큼 작은 것은 아니다. 드문 높은 지수에 큰 값이 곱해질 수 있기 때문이다. 이 사다리에서는 질량만 보고 추측하는 대신 정확한 식으로 크기를 확인한다. 유계 관측량에는 총변동 거리와 관측량의 범위로 오차를 제한할 수 있다. 무한 사다리의 지수와 에너지는 유계가 아니다.

이 차감 공식은 유도에는 좋지만 수치 계산법으로는 나쁠 수 있다. 높은 온도에서 분산 차이의 두 항은 각각 거대하고 유한 결과는 작을 수 있다. 구현은 표시된 두 무한 양을 빼지 않고, 양의 유한 합으로 첫 두 원시 모멘트를 계산한 뒤 분산의 방향성 구간을 만든다. 별도로 계산한 편향도 평균 표시값끼리 빼서 만들지 않는다. 큰 공통 부분에 가려진 작은 차이를 보존하기 위한 선택이다.

q가 1/2인 손계산

x=ln2,L=2로 두자. 남긴 세 상대 가중치는 1,1/2,1/4다. 정규화하면 (4,2,1)/7이지만 무한 준비에는 그보다 큰 모든 n도 들어 있다.

관측량 무한 사다리 L=2 절단
평균 지수 1 4/7
지수 분산 2 26/49
평균 에너지를 ε로 나눈 값 3/2 15/14
무한 분포에서 유지 구간의 확률 7/8 조건화 후 1
δ2=1/8,⟨n⟩∞−⟨n⟩2=3/7,Var⁡∞(n)−Var⁡2(n)=72/49,DKL(p2∥p∞)=ln⁡(8/7).\delta_2=1/8,\qquad \langle n\rangle_\infty-\langle n\rangle_2=3/7,\qquad \operatorname{Var}_\infty(n)-\operatorname{Var}_2(n)=72/49,\qquad D_{\mathrm{KL}}(p_2\Vert p_\infty)=\ln(8/7).

앞에서 다룬 세 준위 예에 공통 반 간격을 포함한 경우다. 두 정규화된 목록은 모두 합이 1이지만 평균과 분산은 다르다. 무한 분포의 첫 세 확률은 1/2,1/4,1/8이고, 이 합은 7/8이다. 각각을 7/8로 나누면 유한 목록을 얻는다는 점도 직접 확인하자.

이상적 관계 x=ln2는 손계산 준비를 정의한다. 독립 수치 참조는 실제 binary64 ε,T와 저장된 kB를 사용하며, 계산된 지수함수가 정확한 분수라고 간주하지 않는다. 이상적 등식과 실제 수치 입력에 대한 검산은 서로 보완하는 역할이다.

의도한 오차 기준으로 절단 선택하기

0과 1 사이의 누락 질량 허용치 η에 필요한 조건은 다음과 같다.

δL=e−mx≤η⟺mx≥ln⁡(1/η),m=L+1.\delta_L=e^{-mx}\le\eta \quad\Longleftrightarrow\quad m x\ge\ln(1/\eta),\qquad m=L+1.

x=ln2,η=1/100이면 m은 적어도 7이므로 L≥6이다. 평균 에너지의 정확도가 목표라면 에너지 편향 식도 함께 쓴다. 질량 목표만 맞추는 것은 다른 질문에 답한 것이다. 정수 경계 부근에서는 반올림한 올림 공식을 믿기보다 원래 부등식으로 확인해야 한다.

계산기의 지원 절단 범위는 0부터 4096이다. 구현의 자원 예산이며 더 높은 준위가 중요하지 않다는 정리가 아니다. 요구한 허용치에 필요한 상태 수가 인터페이스의 범위를 넘으면 그 사실을 알려야 한다. 지원하는 가장 큰 절단을 충분한 절단이라고 바꾸어 부르면 안 된다. 연구 계산에서도 메모리 제한과 물리적 수렴 조건은 독립적으로 기록하는 편이 결과의 의미를 분명하게 한다.

높은 온도와 절단 제거의 순서가 바뀔 수 있다

양의 ε를 고정하면 높은 온도는 x→0이다. 무한 사다리에서는 전형적인 n이 1/x처럼 커지고 열용량은 kB로 간다. 고정된 유한 목록에서는 분포가 균등해지고 평균 에너지는 유계이며 열용량은 0으로 간다.

lim⁡T→∞C∞kB=1,lim⁡T→∞CLkB=0(L fixed),lim⁡T→∞⟨n⟩L=L2.\lim_{T\to\infty}\frac{C_\infty}{k_B}=1,\qquad \lim_{T\to\infty}\frac{C_L}{k_B}=0\quad(L\text{ fixed}),\qquad \lim_{T\to\infty}\langle n\rangle_L=\frac L2.

먼저 고정 절단에서 온도를 높인 뒤 L→∞로 보내면 열용량의 극한은 0이다. 절단을 먼저 제거한 뒤 온도를 높이면 kB 단위로 1이다. 온도를 올리면서 대부분의 확률을 유지하려면 (L+1)x가 충분히 커져야 한다. 고정된 큰 L 하나로 모든 온도에서 좋은 근사라고 보장할 수 없다.

예를 들어 평균 점유가 절단보다 훨씬 커진다면 유한 목록은 무한 분포의 아래쪽 작은 부분만 조건화한 것이 된다. 그 목록 내부가 부드럽고 정규화가 정확하더라도 무한 준비를 대표하지 못한다. 온도별로 누락 질량과 모멘트 편향을 함께 비교하는 것이 중요한 이유다.

이는 하나의 지정된 스펙트럼에서 준위 공간 절단을 제거하는 과정이다. 입자 수와 부피를 함께 늘리는 열역학 극한과 같지 않다. 이 예는 물리적으로 다른 극한을 하나로 묶기 위해서가 아니라, 근사와 극한의 순서를 명시해야 하는 이유를 배우기 위한 것이다.

온도 0과 아주 낮은 유한 온도 구별하기

ε>0에서 T=0의 양의 쪽 극한은 n=0에 모든 확률을 둔다. 에너지와 자유에너지는 ε/2, 엔트로피와 열용량은 0이다.

U0=F0=ε/2,S0=C0=0,p0(n)=1{n=0},Z⟶0,ln⁡Z⟶−∞.U_0=F_0=\varepsilon/2,\qquad S_0=C_0=0,\qquad p_0(n)=\mathbf1_{\{n=0\}},\qquad Z\longrightarrow0,\quad\ln Z\longrightarrow-\infty.

원래 정규화 상수가 0으로 간다고 확률도 사라지는 것은 아니다. 정규화를 먼저 하고 극한을 취한다. 모든 유한한 양의 온도에서는 꼬리가 여전히 양수이고 유한 절단에 대한 역방향 KL은 무한대다. 온도 0 극한에서는 두 분포가 같은 점질량이 되어 두 방향 KL 모두 0이다. 이 지지집합 변화는 명시적으로 다뤄야 한다.

ε=0이면 같은 에너지의 상태가 무한히 많다. 지정한 온도 0 관례를 쓰더라도 가산 무한집합 위의 균등확률은 존재하지 않는다. 상태 하나를 임의로 골라 확률 1을 주는 것은 새로운 준비 가정을 넣은 것이지, 발산하는 분배합을 고친 것이 아니다. 순서를 달리하여 ε를 먼저 또는 나중에 0으로 보내는 문제도 별도 극한으로 적어야 한다.

0과 무한대 근처에서 수치적 의미 보존하기

작은 x에서 부동소수점으로 1−exp(−x)를 바로 빼면 0이 나올 수 있다. 방향성 구간과 정확한 이진 입력 비는 양의 분모를 유지한다. 예를 들어 최소 비영 간격과 최대 유한 온도의 조합은 평균 점유를 binary64 범위 밖으로 보내면서도 U를 유한하게, C/kB를 1에 가깝게 유지한다.

x>4096에서는 별도 표시한 leading 로그 모멘트를 쓴다. q<2^-4096이므로 생략한 물리적 보정의 크기를 제한할 수 있다. 상태가 둘 이상인 유한 목록과 무한 분포에서 leading 평균 결손과 분산은 q이고, kB 단위 엔트로피는 (1+x)q다. 이 엔트로피의 1을 빠뜨리면 상대 오차가 1/x 정도가 되어 명시한 꼬리 보정보다 훨씬 커진다.

⟨n⟩∞∼q,Var⁡∞(n)∼q,C∞/kB∼x2q,S∞/kB∼(1+x)q(x→∞).\langle n\rangle_\infty\sim q,\qquad \operatorname{Var}_\infty(n)\sim q,\qquad C_\infty/k_B\sim x^2q,\qquad S_\infty/k_B\sim(1+x)q\quad(x\to\infty).
상황 수학적 의미 수치 처리
무한 사다리의 간격 0 분배합 발산 임의의 정규화 확률을 만들지 않음
유한 온도의 작은 양의 꼬리 양의 확률 부호와 로그 크기 유지
온도 0의 양의 쪽 극한 바닥 위의 실제 확률 0 정확한 지지집합 변화
정밀도 상한 도달 정확도 미확립 미해결 결과 유지

꼬리 생략 한계는 부동소수점 로그·지수의 반올림 오차를 인증하지 않는다. 보통의 구간 해결 관측과 로그 점근 근사는 다른 표기를 가진다. 큰 사다리의 그림용 선택 행도 원래 확률 그대로 반환한다. 그 행들만 합이 1이 되도록 다시 정규화하지 않는다. 선택한 표의 합이 작다는 사실이 계산 오류인지, 많은 행을 생략했기 때문인지도 구별해야 한다.

아주 작은 에너지를 다룰 때는 양자화된 표시 범위의 경계도 주의한다. 최소 비영 수의 정확한 절반은 짝수 반올림에서 0 쪽으로 간다. 유한 정밀도 십진 참조가 그 중간점 바로 위로 반올림될 수도 있다. 따라서 표시만 비교하지 않고 정확한 이진 구간과 실제 중간점 조건을 함께 확인한다. 수학적 양수라는 사실과 보통 수치로 표시할 수 있다는 사실은 끝까지 별개의 판정이다.

에너지 기반 학습의 절단 문제로 연결하기

아주 큰 출력집합의 모델은 참 정규화 상수를 후보 부분집합으로 대체할 수 있다. 이 사다리에서는 그 대체가 무엇을 하는지 정확히 계산할 수 있다. 분포를 조건화하고, feature 기대값을 바꾸고, 지지집합 불일치를 만든다. 따라서 정규화된 후보 목록 자체가 원래 모델의 우도나 기울기 정확도를 보증하지는 않는다.

n에 곱하는 source를 −x로 보면 로그 정규화 상수의 미분은 평균 지수와 분산을 생성한다. 무한 정규화 상수를 절단한 값으로 바꾸면 그 모멘트도 조건부 모멘트로 바뀐다. 편향은 위 공식으로 판단하며, 최적화기가 수렴했다는 사실로 판단하지 않는다. 더 일반적인 모델에서는 등비 꼬리 공식을 쓸 수 없으므로 별도의 꼬리 추정이나 정당화된 근사가 필요하다.

학습 자료가 처음부터 유한 후보 안에서만 준비된 경우와, 무한 목표의 계산 편의를 위해 후보를 자른 경우도 다른 문제다. 어떤 분포가 목표인지 먼저 정해야 편향이라는 말의 기준이 생긴다. 두 모델의 손실을 비교할 때 정규화하는 집합이 다르면 숫자 하나만으로 같은 목표에 더 가까운지 결론 내릴 수 없다.

사다리는 투명한 기준 문제를 제공한다. 상태공간을 지정하고, 알려진 무한 목표와 유한 근사를 비교하고, 관측량과 오차 기준을 고르고, 온도에 따라 필요한 절단이 어떻게 달라지는지 확인한다. 이는 정적 분포 검사다. 표본추출기가 평형에 도달하는 데 걸리는 시간을 결정하지는 않는다.

해설과 함께 연습하기

1. 계산 전에 존재 확인하기

ε=0,T>0 또는 ε>0,T<0에서 정규화된 무한 분포가 존재하는가?

풀이. 둘 다 존재하지 않는다. 첫 경우 같은 단위 가중치가 무한히 더해진다. 둘째는 가중치가 증가하여 항이 0으로 가지도 않는다. 유한 절단은 두 경우 모두 정규화되지만 무한 평형을 만들지는 않는다. 유한 목록이 계산된다는 사실과 목표 분포가 존재한다는 사실을 나누어 판단한다.

2. 빠진 질량 복구하기

q=1/2,L=2에서 유한 확률 합이 1인데도 누락 확률이 1/8인 이유는 무엇인가?

풀이. 무한 꼬리는 n=3에서 시작하며 합은 q³=1/8이다. 조건화는 유지한 질량 7/8을 1로 늘린다. 유한 목록의 정규화는 이 재조정을 설명할 뿐 원래 꼬리를 없애지 않는다. 무한 목록과 유한 목록의 첫 세 확률을 나란히 적으면 같은 인자 8/7을 확인할 수 있다.

3. 서로 다른 오차 기준 비교하기

q=1/2,L=2의 평균 지수 편향과 분산 편향을 구하자.

풀이. 평균 편향은 1−4/7=3/7, 분산 편향은 2−26/49=72/49다. 둘 다 누락 질량 1/8과 다르다. 모멘트 오차에는 생략한 준위의 위치와 퍼짐이 반영된다. 평균 에너지 오차라면 평균 지수 편향에 ε를 추가로 곱해야 한다.

4. 질량 절단 선택하기

x=ln2에서 누락 질량을 1% 이하로 보장하는 최소 절단은 무엇인가?

풀이. 2^−m≤0.01을 요구한다. 최소 정수 m은 7이므로 L=6이고 빠진 질량은 1/128이다. 이는 질량 보장이다. 평균 에너지 정확도를 주장하려면 해당 편향도 별도로 확인한다. L은 마지막 지수이며 상태 수 m과 하나 차이가 난다는 점에 주의한다.

5. 두 KL 방향 설명하기

순방향 KL은 작은데 역방향 KL은 무한대일 수 있는 이유는 무엇인가?

풀이. 유지한 지지집합에서는 p_L/p_infinity가 유한 상수 1/(1−δ)다. 밖에서는 p_infinity가 양수지만 p_L이 정확히 0이라 역방향 로그비가 발산한다. 지정한 온도 0 극한에서는 그 양의 꼬리가 사라져 지지집합 비교도 바뀐다. 작은 양수를 0으로 잘라버리면 이 차이를 잘못 해석하게 된다.

6. 수치적 결론 진단하기

프로그램이 q=1을 출력하고 양의 간격·양의 온도의 무한 사다리를 비정규화로 판정했다. 무엇을 확인해야 하는가?

풀이. 정확히 입력된 ε/(kBT)를 확인하고, 안정적인 방법이나 방향성 정밀도로 양의 차이 1−q를 계산한다. 반올림된 q=1은 x>0과 정규화 가능한 분포에 양립한다. 거대한 점유수를 표시하기 전에 물리적 에너지와 열용량을 계산하고, 수치 정확도 한계를 수학적 발산과 구별해 보고해야 한다.

꼬리 계산을 실험 화면과 연결하기

q=1/2·세 상태 절단을 선택하세요. 입력 L은 마지막 유지 지수이므로 L=2이면 세 상태를 남깁니다. n=0,1,2의 유한·무한 막대를 비교하고 첫 바깥 행 n=3을 확인하세요. 그 행의 유한 확률은 실제0이고 무한 확률은 양수입니다. 무한 확률의 첫 세 항만 더하면 유지 질량7/8이며, 유한 법칙은 그 질량을1로 재정규화합니다.

실험 비교할 것 설명할 내용
누락 질량1% 이하 ε,T를 유지하고 L을2에서6으로 변경 꼬리는1/128이지만 순방향 KL만 유한하고 역방향은 계속 무한대
높은 온도·작은 절단 → 같은 온도·큰 절단 x≈0.001을 유지하고 L=2와4096 비교 지원 범위에서 더 큰 절단도 선택한 허용치를 반드시 만족하지는 않음
간격0·무한 정규화 불가 → 음의 온도·유한 준비만 유한 표보다 먼저 존재 여부 안내 확인 정규화된 유한 목록으로 없는 무한 목표를 만들 수 없음

x≈0.001이면 L=4096에서도 약1.66%의 질량이 빠집니다. 1% 목표에는 L≥4605가 필요해 현재 지원 범위를 넘습니다. 가장 큰 선택값을 충분한 절단으로 취급하지 말고 그 제한을 기록하세요. 평균 에너지가 목표라면 에너지 편향 행도 확인하세요. 누락 질량만 맞추는 것은 다른 오차 기준입니다.

준위 간격 ε와 온도 T가 q를 정합니다. q는 계산 결과이며 별도의 확률 입력이 아닙니다. 양의 유한 T에서 아주 작은 꼬리를 표시할 수 없어도 여전히 양수입니다. 명시적인 T=0 바닥 극한에서는 두 법칙이 같은 점질량이 되어 두 KL이 모두0입니다. 그림이 선택한 행은 원래 확률을 유지하므로 그 합은1이 아닐 수 있습니다. 그 행들을 다시 정규화해 세 번째 법칙으로 만들지 마세요. 비교 재생은 준비와 절단을 바꾸며 물리적 시간을 진행시키지 않습니다.

CHECK YOUR UNDERSTANDING

설명할 수 있나요?

실험 설정과 무관한 기준 예제를 묻습니다. 답을 고르고 설명을 확인해보세요.

1. ε=0,T>0에서 유한 절단은 정규화됩니다. 같은 무한 사다리는 어떨까요?
2. q=1/2,L=2의 유한 조건부 분포에서 D(pL||p∞)=ln(8/7)입니다. 역방향은?

선택한 답과 학습 표시는 이 브라우저에 저장됩니다. 다시 풀거나 표시를 해제할 수 있습니다.