두 저장고의 열 흐름과 숨겨진 생성

1. 인구 사진만으로 열의 방향을 알 수 있을까

두 방0,1사이에 문이 두 개 있다고 생각하자. A문을 통한 이동은 저장고 A가, B문을 통한 이동은 저장고 B가 만든다. 관측 장치가 방 번호만 기록하면 어느 문을 사용했는지 사라진다.

각 방의 평균 인원이 일정하고, 두 방 사이의 전체 순흐름이0이어도 열은 한 저장고에서 다른 저장고로 흐를 수 있다. 상태의 정지 사진, 표지를 지운 영상, 저장고까지 기록한 영상을 서로 다른 자료로 읽어 보자.

2. 에너지와 두 온도를 명시한다

에너지는 E₀=0,E₁=ε다. 기준 온도 T*>0와 양의 r을 사용해 ε=kBT* ln r로 지정한다. 저장고 온도는 T_A=T*/b_A,T_B=T*/b_B다. b는 기준 온도에 대한 무차원 역온도 비다. 이전 장의 물리적 역온도1/(kBT)와 단위가 다르다.

A와 B는 이름이다. b_A<b_B이면 A가 더 뜨겁고, 순서가 바뀌면 B가 더 뜨겁다. r<1이면 ε<0이어서 상태1이 더 낮다. 이 장에서 상태 번호가 증가한다는 말과 에너지가 증가한다는 말은 같지 않다.

에너지와 열은 먼저 kBT* 단위, 엔트로피는 nats로 적는다. Joule 값은 정확한 Boltzmann 상수1.380649×10⁻²³J/K와 T를 곱해 얻는다. r과 b를 고정한 T 변경은 에너지와 두 저장고 온도를 함께 재척도하는 실험이다.

3. 저장고별 국소 상세 균형

각 저장고의 양의 시계 ν_α를 지정하고 다음 전이율을 사용한다.

$$\begin{aligned} q_{01}^{\alpha}&=\frac{\nu_\alpha}{1+r^{b_\alpha}}, & q_{10}^{\alpha}&=\frac{\nu_\alpha r^{b_\alpha}}{1+r^{b_\alpha}},\\ \ln\frac{q_{01}^{\alpha}}{q_{10}^{\alpha}} &=-b_\alpha\ln r=-\frac{\varepsilon}{k_BT_\alpha}, & \alpha&\in\{A,B\}. \end{aligned}$$

이 관계는 물리 모형의 가정이다. 상태만 관측해 추정한 전체 전이율에 두 저장고의 온도나 열을 자동으로 복원해 주는 공식은 아니다. 입자 교환, 외부 일, 상태 내부 엔트로피는 이 가족에 포함하지 않는다.

ν는 전체 시계다. 저장고의 온도만으로 결합의 세기까지 결정되지 않는다. 계산기는 두 채널을 모두 양수로 유지하며 한 결합이 약해지는 경우와 정확히 없는 경우를 혼동하지 않는다.

4. 합친 생성자는 정상분포를 정한다

a는 전체0→1전이율, d는 전체1→0전이율이다. 두 채널의 전이율을 먼저 더한 뒤 정상 법칙을 구한다.

$$a=q_{01}^A+q_{01}^B,\qquad d=q_{10}^A+q_{10}^B,\qquad \pi_0=\frac{d}{a+d},\quad \pi_1=\frac{a}{a+d}.$$

집합 평균은 처음부터 π에서 시작한다. 따라서 점유확률과 Shannon 엔트로피 H(π)는 일정하다. 예시 경로의 시작 상태를0또는1로 고르는 것은 그 집합의 초기분포를 델타 분포로 바꾸는 조작이 아니다.

한 저장고만 연결했다면 목표 점유는1/(1+rᵇ)다. 두 저장고는 서로 다른 목표를 갖고 경쟁한다. 실제 π는 어느 한 저장고의 정준분포와 같지 않을 수 있다.

5. 채널별 순환은 서로 상쇄된다

A채널의0→1방향 순흐름을 J_A라 하자. 같은 방향으로 정의한 B채널 순흐름은 그 반대다.

$$J_A=\frac{\nu_A\nu_B}{\nu_A+\nu_B} \left(\frac1{1+r^{b_A}}-\frac1{1+r^{b_B}}\right), \qquad J_B=-J_A.$$

한 번 A를 통해0→1로 가고 B를 통해1→0으로 돌아오는 순환은 상태 번호만 보면 제자리다. 하지만 저장고 사이에서 에너지를 옮긴다. 닫힌 상태 경로라고 해서 열 교환이0이라는 뜻은 아니다.

양방향 통행량 자체는 순흐름과 다르다. 각 채널에서 π₀q₀₁과 π₁q₁₀을 따로 비교한 뒤 차이를 읽어야 한다.

6. 저장고별 엔트로피는 음수일 수 있다

열은 계로 들어오는 방향을 양수로 정한다. 에너지는 고정되고 외부 일은0이므로 다음 수지를 얻는다.

$$\frac{\dot Q_\alpha}{k_BT_*}=J_\alpha\ln r,\qquad \dot s_\alpha^{\mathrm{bath}}=-b_\alpha J_\alpha\ln r,\qquad \dot Q_A+\dot Q_B=0.$$

뜨거운 저장고는 열을 잃으므로 그 엔트로피 변화는 음수다. 차가운 저장고는 같은 에너지를 더 낮은 온도에서 받아 더 큰 엔트로피 증가를 갖는다. 비음수성은 각 저장고의 엔트로피 교환이 아니라 계와 저장고를 합친 총 생성에 관한 말이다.

정상 상태의 계 에너지가 일정해도 열 교환이 멈추는 것은 아니다. 에너지가 쌓이지 않으면서 계속 통과하는 상황이다.

7. 총 생성률의 비음수성

F₀₁^α=π₀q₀₁^α,F₁₀^α=π₁q₁₀^α를 사용하면 총 생성률은 다음 두 표현으로 계산된다.

$$\sigma=\sum_{\alpha}(F_{01}^\alpha-F_{10}^\alpha) \ln\frac{F_{01}^\alpha}{F_{10}^\alpha} =(b_B-b_A)J_A\ln r\ge0.$$

각 묶음은 (x−y)ln(x/y)≥0을 따른다. 앞 절의 저장고 엔트로피 교환과 달리 여기의 채널별 묶음에는 계 엔트로피 배분도 들어간다. 둘의 이름과 부호를 구별하자.

b_A=b_B이거나 r=1이면 각 채널이 상세 균형을 만족해 생성률은 정확0이다. 그 외에는 양의 결합 두 개에서 양의 생성이 남는다. 작은 양수와 반올림되어0처럼 보이는 수치를 같은 제어 사례로 취급하지 않는다.

8. 표지를 지운 상태 영상은 가역적이다

두 채널을 합치면 정상 두 상태 과정의 양방향 통행이 같다. 상태 경로만으로 계산한 생성률은

$$F_{01}=F_{10},\qquad \sigma_{\mathrm{state}}=(F_{01}-F_{10})\ln\frac{F_{01}}{F_{10}}=0$$

이다. 정상 상태에서 상태만 관측한 경로의 전체 로그 가능도 비도0이다. 실제 총 생성이0이라는 결론은 나오지 않는다. 어느 저장고가 전이를 만들었는지 지우며 정보를 잃었기 때문이다.

같은 상태 예측 정확도를 가진 두 학습 모형이 같은 열역학적 해석을 갖는 것은 아니다. 열의 식별에는 저장고·전이 표지·에너지 정보 같은 추가 관측 또는 가정이 필요하다.

9. 빠진 정보는 조건부 KL로 읽을 수 있다

관측한 전이가0→1일 때 A/B선택 확률을 f_α=q₀₁^α/a,1→0일 때를 g_α=q₁₀^α/d라 하자. 이들은 각각 정규화된 두 채널 분포다. 공통 전체 통행량 F=π₀a=π₁d를 사용하면

$$\sigma=F\left[D(f\Vert g)+D(g\Vert f)\right].$$

방향이 바뀌면 어느 저장고가 원인이었을 확률이 얼마나 달라지는지를 측정한다. 합친 상태 영상은 방향을 구분하지 못해도 채널 조건부 분포는 다를 수 있다.

이는 AI에서 숨은 변수와 예측 가능성의 차이를 이해하는 작은 예다. 상태 전이 행렬을 잘 맞추는 것만으로는 f와 g의 개별 성분을 정할 수 없다. 이 식은 채널이 관측되거나 물리적으로 지정된 경우의 정보 장부다.

10. 한 경로의 열 장부

점프 j의 상태 변화량을 Δx_j,그 점프의 저장고를 α_j라 하자. 경로별 열은 다음과 같다.

$$\frac{Q_\alpha}{k_BT_*} =\ln r\sum_{j:\alpha_j=\alpha}\Delta x_j,\qquad W=0,\qquad Q_A+Q_B=\varepsilon(x_T-x_0).$$

같은 채널에서 올라갔다 내려오면 그 채널의 열은 상쇄된다. 서로 다른 채널로 왕복하면 전체 에너지 변화는0이어도 저장고 간 전달은 남는다. 끝점 상태만으로 Q_A와 Q_B를 각각 정할 수 없다.

계산기의 예시 경로는 정해진 채널 비트열과 균등 체류로 구성한다. 확률적 표본이 아니다. 경로 밀도의 체류 생존 항에는 두 채널의 이탈률 합이 들어간다. 마지막 점프를 만든 저장고의 이탈률만 넣으면 다른 확률 법칙이 된다.

11. 경로 역전과 적분 항등식

전체 경로의 엔트로피에는 정상분포 경계항과 저장고별 점프 항이 함께 들어간다.

$$S_{\mathrm{tot}}=\ln\frac{\pi_{x_0}}{\pi_{x_T}} -\sum_j b_{\alpha_j}\Delta x_j\ln r =\ln\frac{P(\text{bath word}\mid\text{state path})} {P(\text{reversed bath word}\mid\text{reversed state path})}.$$

마지막 등식은 이 정상 두 상태 과정에서 표지를 지운 경로의 로그 비가0이어서 성립한다. 역전할 때 상태 순서와 채널 순서를 뒤집되 A와 B의 온도 자체를 바꾸지 않는다.

$$\left\langle e^{-S_{\mathrm{tot}}}\right\rangle=1.$$

이 식은 정상 표지 과정의 역확률 법칙 정규화로 얻는 항등식이다. 아래의 두 점프 예시 몇 개를 평균 내거나 최대 점프 수에서 경로 합을 자르는 경험적 검증이 아니다. 일반 tilt의 모멘트 곡선도 여기서 계산했다고 주장하지 않는다.

역영화를 생성하는 수학적 표지 전이율은 π_jq_ji^α/π_i다. 합친 생성자는 그대로지만 채널별 배분은 바뀐다. 이것을 저장고 이름이나 실제 온도를 교환하는 물리 실험과 혼동하지 않는다.

12. 같은 상태 경로의 네 채널 선택

r=3,b_A=1,b_B=2,ν_A=ν_B=1/s,T*=300K를 사용하자. A는300K,B는150K다. 정상분포는 π=(33,7)/40이다.

채널	q₀₁ [s⁻¹]	q₁₀ [s⁻¹]	J [s⁻¹]
A	1/4	3/4	3/40
B	1/10	9/10	−3/40

전체 순흐름은0이고 실제 생성률은3ln3/40≈0.082396nats/s다. 상태 경로0→1→0이 주어졌을 때, 채널열의 조건부 확률은 다음과 같다. 이는 정확한 시각을 지정한 경로 자체의 확률이 아니다.

채널 순서	조건부 확률	S_tot [nats]
AA	25/77	0
AB	30/77	ln3
BA	10/77	−ln3
BB	12/77	0

AB에서는 A로부터 ε를 받고 B로 ε를 내보낸다. BA에서는 반대 열 전달과 음수 생성이 일어난다. 두 경우의 상태 기록은 같지만 조건부 확률 비는3이다. AA나BB처럼 열 교환이 상쇄된 한 경로도 전체 평균 생성률을 대신하지 않는다.

13. 풀이가 있는 연습

1. 전체 상태 전류0이면 열 흐름도0인가? 아니다. 대표 예제에서 J_A=3/40/s,J_B=−3/40/s다. 두 전류가 인구 장부에서는 상쇄되지만 서로 다른 저장고에 에너지를 전달한다.

2. 뜨거운 A의 엔트로피 변화가 음수이면 모순인가? 아니다. A는 열을 잃는다. 차가운 B의 엔트로피 증가가 더 커서 전체 생성률은 양수다. 각각의 저장고 교환을 비음수로 잘라내면 수지가 달라진다.

3. 0→1→0만 관측했다면 AB와BA를 구별할 수 있는가? 상태 기록만으로는 구별할 수 없다. 저장고 표지까지 알면 조건부 확률30/77과10/77,생성량±ln3를 구별한다. 같은 경로 예측 정확도가 물리적 식별을 보장하지 않는다.

4. BA의 음수 생성량이 평균 생성률을 음수로 만드는가? 아니다. 개별 경로와 집합 평균은 다르다. 같은 매개변수에서 경로 비트만 바꾸어도 평균 곡선과 저장고 온도는 그대로다.

5. r=1/3으로 바꾸면 열이 차가운 곳에서 뜨거운 곳으로 흐르는가? 평균적으로 그렇지 않다. 에너지 차이와 J_A의 부호가 함께 바뀐다. 곱 εJ_A는 여전히 뜨거운 A에서 계로 들어오는 열을 나타낸다. 상태 번호 방향과 에너지 방향을 분리해야 한다.

6. 채널 확률의 숫자 표시가 없으면 그 채널열은 불가능한가? 아니다. 긴 드문 채널열은 양의 확률이면서 binary64 표시 범위보다 작을 수 있다. 정확한 유리수 경계·부호·로그 크기를 확인한다. 정확0과 표시 미가용을 구별한다.

14. 적용 범위와 다음 학습

이 모형은 에너지와 온도가 고정된 정상·약한 결합의 두 상태 표지 과정이다. 계산 입력에서 b_A,b_B는1–8의 정수,예시 점프는0–16,시간은0–4s로 제한한다. 이 수치 실험 범위는 교육과정의 분량이나 주차 제한이 아니다.

여기서는 상태 자체를 합친 것이 아니라 저장고 표지만 지웠다. 더 일반적인 상태 거친 입자화가 만드는 기억 효과, 미관측 내부 에너지, 입자 교환·화학 퍼텐셜·강한 결합·피드백과 유한 데이터 추정은 별도 후속 범위에 남는다.

저장고별 전이율과 엔트로피 수지는 Esposito의 원 논문II절과 Seifert의 리뷰에서 이어 읽을 수 있다. 이 두 상태 모형, 조건부 표지 KL와 수치 예제는 명시한 가정에서 직접 유도했다.