정상 Gaussian과 순환 확률 흐름

멈춘 히스토그램 안에서 확률은 순환할 수 있다

아래 실험은 독립적으로 대조한18개 준비를 비교한다. 정확 유리수·방향성 포함 구간·표시 근사를 구별한다.

사람이 많은 원형 보행로를 매초 촬영한다고 생각하자. 사람들이 중심 주위를 계속 걸어도 구역별 인원은 일정할 수 있다. 정상 밀도도 비슷한 한계가 있다. 한 시각의 점유를 설명하지만 시간 사이의 이동을 모두 설명하지 않는다. 그 이동을 살피려면 확률 흐름과 경로의 동역학이 필요하다.

앞선 OU 단원에서는 정상1차원 Gaussian의 probability-flow 속도가0이었다. 이번에는 밀도를 바꾸지 않고 확률이 순환할 수 있는 방향을 추가한다. 드리프트·확산·전체 확률 흐름과 결정론적 probability flow를 구별하고 시간 상관과 수치 편향을 비교한다.

2차원 모형과 초기화를 지정한다

전체 평면에서 독립 표준 Brownian 좌표를 사용한다. gamma,D는 양의 상수, omega는 부호를 갖는 각속도이며 R은 반시계90도 회전 행렬이다.

$$dX_t=AX_t\,dt+\sqrt{2D}\,dW_t,\qquad A=-\gamma I+\omega R,\qquad R=\begin{pmatrix}0&-1\\1&0\end{pmatrix}.$$

두 좌표는 모두 위치다. omega>0이면(1,0)에서는 위쪽,(0,1)에서는 왼쪽을 향한다. 이후 Brownian 증분과 독립인 정상 초기화를 선택한다.

$$X_0\sim\mathcal N(0,vI),\qquad v=\frac D\gamma, \qquad p_\infty(x)=\frac1{2\pi v} \exp\left(-\frac{|x|^2}{2v}\right).$$

gamma와 omega의 단위는 s⁻¹이며 radian은 무차원이다. D는 m²/s, 좌표별 분산 v는 m², 평면 밀도는 m⁻² 단위다. 밀도는 모든 위치에서 양수이며 전체 평면 적분이1이다. 유한한 그림은 일부를 잘라 보여주는 창이다. 반사 용기나 재정규화한 영역이 아니다.

gamma>0,D>0은 이 준비의 중요한 가정이다. 구속을 없애거나 잡음을 없애거나 비등방 초기화를 사용하면 별도로 다뤄야 한다. 이 계수에서 열저장고·온도·열·엔트로피 생성 관계를 추정하지 않는다.

정지했다고 가정하지 말고 정상성을 유도한다

선형 SDE의 공분산 방정식은 A Sigma+Sigma A전치+2DI다. Sigma=vI를 대입하면 R전치=−R이므로 회전 항이 상쇄된다.

$$A(vI)+(vI)A^T+2DI=(-2\gamma v+2D)I=0.$$

평균은0을 유지한다. 선형 해가 Gaussian이므로 이 두 사실은 지정한 전체 법칙을 보존한다. 모형을 지정하지 않은 비Gaussian 가족에서 모멘트 하나의 미분이0인 것을 보는 것보다 강한 결론이다.

드리프트에는 두 효과가 있다. 방사 성분은 위치를 안쪽으로 끌고 회전 성분은 원을 따라 움직인다. 확산은 계속 확률을 퍼뜨린다. 정상 법칙은 집단 수준에서 이 효과들을 맞추며 확률과정 자체는 계속 요동한다.

Duncan·Lelièvre·Pavliotis의 비가역 Langevin 연구, 특히1.3절과3.4절은 불변 밀도를 유지하는 섭동의 배경이다. 여기서는 계수 척도·회전 관례·직접 Gaussian 계산을 별도로 사용한다. 원문에 표시된 벡터(x2,−x1)는 이 단원의 R x와 방향이 반대다.

드리프트 흐름과 확산 흐름을 분리한다

확률 보존과 상수 확산의 흐름은

$$\partial_t p=-\nabla\!\cdot J,\qquad J=(Ax)p-D\nabla p,\qquad \nabla\log p_\infty=-\frac{x}{v}.$$

정상 법칙에서는 안쪽 드리프트 흐름과 바깥쪽 확산 흐름의 방사 성분이 상쇄된다. 전체 흐름은

$$J_{\rm drift}=(-\gamma x+\omega Rx)p_\infty, \qquad J_{\rm diff}=\gamma xp_\infty, \qquad J=\omega Rxp_\infty.$$

gamma=D=omega=1, 위치x=(1,0)m에서 밀도는 exp(−1/2)/(2pi)m⁻²로 약0.0965324m⁻²다. 드리프트 흐름은 밀도×(−1,1)m/s, 확산 흐름은 밀도×(1,0)m/s이며 합은 밀도×(0,1)m/s다. 따로 반올림한 값에 작은 수치 잔차가 남더라도 이 방사 성분의 상쇄는 정확하다.

확률 흐름의 각 성분 단위는 m⁻¹s⁻¹이다. 밀도로 나누면 m/s 단위의 확률 운반 속도를 얻는다. 확률 흐름과 이 속도는 Brownian 표본 경로의 보통 순간속도가 아니다.

발산을 확인하고 법선 흐름과 접선 흐름을 구별한다

회전 벡터의 발산은0이며 방사형 밀도 기울기와 수직이다. 따라서

$$\nabla\!\cdot J=0,\qquad x\cdot J=0, \qquad x_1J_2-x_2J_1=\omega |x|^2p_\infty(x).$$

발산0은 국소 순축적이 없다는 뜻이다. J의 각 성분이0이라는 뜻이 아니다. 원점에서는 흐름이0이지만 한 지점의 영 관측이 모든 위치의 영 흐름을 입증하지는 않는다. 이 가족에서 그 결론을 주는 것은 omega=0이다.

원의 바깥 법선은 방사 방향이다. 법선 확률 흐름의 적분은0이다. 둘레 적분 방향을 반시계로 정하면 접선 선적분은 다음의 다른 양이다.

$$\oint_{|x|=r}J\cdot d\ell=2\pi\omega r^2p_\infty(r), \qquad \oint_{|x|=r}\frac{J}{p_\infty}\cdot d\ell=2\pi\omega r^2.$$

법선의 순흐름이0이어도 개별 확률 경로는 원을 가로지를 수 있다. 안팎의 운반이 균형을 이룰 수 있는 것이다. 이 원은 반사벽이 아니다. 결정론적 probability-flow ODE는 반지름을 보존하지만 SDE까지 그런 것은 아니다.

첫 양의 단위는 s⁻¹이고 둘째는 m²/s다. 어느 쪽도 원 바깥으로 새는 확률이 아니다. 선을 가로지르는 측정은 흐름을 법선에 내적하여 선 길이에 걸쳐 적분하고, 순환은 접선을 따라 적분한다. 측정 방향을 이름 붙여야 질량 수지로 잘못 해석하지 않는다.

정상 밀도로 식별할 수 없는 것을 설명한다

gamma,D를 고정하고 omega를 바꾸면 생성자와 흐름이 바뀌지만 정상 밀도는 같다. 점유 사진만으로 omega를 식별할 수 없다. 정상 밀도 하나에서 v는 D/gamma의 비만 정하며 절대 완화 시간을 정하지 못한다.

이것은 서로 다른 지정된 SDE 사이의 비교다. 특정 드리프트·확산계수·밀도가 이미 주어지면 흐름 공식은 그 모형의 흐름을 정한다. 변하지 않은 SDE 하나에 임의의 추가 흐름을 붙일 수 있다는 주장이 아니다.

한 지점의 흐름 관측도 가정 없이 전체 장을 식별하지 못한다. 이 선형 가족에서는 교정한 위치와 밀도/흐름 측정이 특정 제약을 주지만 일반 모형에는 많은 함수가 남는다. 가정한 모형의 종류와 그것을 뒷받침하는 자료를 구별해야 한다.

같은 주변분포와 다른 두 시간 법칙을 비교한다

정확 선형 흐름 행렬은 지수 감쇠와 회전의 곱이다. 공분산의 순서는 전치한 값이 아니라 C(t)=E[X_t X_0전치]로 고정한다.

$$e^{tA}=e^{-\gamma t}\operatorname{Rot}(\omega t),\qquad C_{\rm SDE}(t)=v e^{-\gamma t}\operatorname{Rot}(\omega t).$$

정상 probability-flow ODE는 u=J/p=omega R x를 사용한다. 같은 무작위 Gaussian에서 이 결정론적 ODE를 시작하면

$$\dot Y_t=\omega RY_t,\qquad C_{\rm ODE}(t)=v\operatorname{Rot}(\omega t).$$

각 시각의 밀도는 모두 같은 Gaussian이다. SDE는 감쇠와 새로운 잡음으로 기억을 잃지만 ODE는 각 실현의 반지름을 보존한다. omega=0이면 앞 단원에서 본 고정 ODE와 계속 요동하는 SDE의 비교로 돌아간다.

비대각 공분산은 음수일 수 있다. 이것은 부호 있는 공분산이며[0,1]로 잘라야 하는 확률이 아니다. 부호는 두 시간과 좌표의 순서에도 의존한다. 크기만 읽으면 회전 방향을 놓친다.

표본화 시각은 추가 식별 한계를 만든다

delta>0의 정수배 시각에만 측정한다고 하자. omega를 omega+2pi k/delta로 바꾸면 정수 k만큼 관측 사이에 회전을 더한다. 표본 시각의 Gaussian 전이 평균과 혁신 공분산은 같아진다. 연속해서 관찰하는 경로는 다르다.

이는 지정한 선형 가족 안에서의 정확한 해석적 alias다. 수치 조작은 유리수 radian을 받으므로pi의 유리수 근사는 정확한 pi가 아니다. 그것을 정확한 alias 준비라고 표시하면 안 된다. 예를 들어 표본 간격2초에서는 정확한 alias 증가량이 pi rad/s다. 함께 둔 기호 검사는 해석적 한 바퀴 항등식을 별도로 사용한다. 회전수나 명시적 alias 가족을 조작하려면 해당 양의 정확한 표현이 추가로 필요하다.

어떤 시간 평균 관측량이 개선되는지 묻는다

정상 평균0 관측량 f의 시간 공분산이 적분 가능하면 장시간 평균의 점근 분산은 그 공분산 적분의 두 배다. 선형 좌표와 중심화한 방사 관측량에 Gaussian 공분산 계산을 적용하면

$$\sigma^2_{x_1}=\frac{2v\gamma}{\gamma^2+\omega^2},\qquad \sigma^2_{|x|^2-2v}=\frac{4v^2}{\gamma}.$$

첫 값은 회전 크기가 커질 때 줄지만 둘째는 줄지 않는다. 이 등방 예에서 드리프트 고윳값 실수부는 omega와 관계없이−gamma다. 분산 개선과 방사 구속의 감쇠율 증가는 같은 말이 아니다. 한 관측량의 이득을 보편적인 혼합 개선으로 일반화하면 안 된다.

Probability-flow ODE는 차이를 더 분명히 보인다. 반지름이 일정하므로 중심화한 방사 관측량을 시간 평균 내도 초기 반지름의 무작위성이 사라지지 않는다. 에르고딕 SDE와 각 시각 밀도를 공유한다고 ODE까지 같은 시간 평균 거동을 갖지는 않는다.

회전의 수치 비용도 함께 포함한다

Euler–Maruyama의 행렬 승수는 B=I+hA다. 등방 Gaussian에서 시작하면 공분산이 계속 등방이며 정확한 이산 분산 점화식은

$$q=(1-\gamma h)^2+(\omega h)^2,\qquad v^E_{n+1}=qv^E_n+2Dh.$$

이것은 이산 모형의 정확한 모멘트이며 Monte Carlo 추정값이 아니다. q>1이어도 각 단계는 유효한 Gaussian 법칙이다. 평균0이 팽창하는 평균 모드와 증가하는 분산을 가릴 수 있다.

양의 h에서 엄격한 수축에는 h<2gamma/(gamma²+omega²)가 필요하다. 이때 유일한 이산 불변 좌표 분산은

$$v_E^*=\frac{2D}{2\gamma-h(\gamma^2+\omega^2)}.$$

D/gamma보다 크다. 따라서 h를 고정한 채 회전을 늘리면 연속시간 선형 관측량의 점근 분산은 감소해도 정상 편향이 커지거나 수치 불안정 영역에 들어갈 수 있다. gamma=omega=1,h=1이면 B는90도 회전이고 q=1이며 매 단계 분산에2D가 더해진다. h=0에서는 방법이 항등이므로 나눗셈 형태의 불변 분산을 제공하지 않는다.

물리 시간 T, 수치 간격 h=T/N, 각속도, 계산 비용을 따로 비교해야 한다. 더 나은 연속 생성자가 곧 더 나은 유한 시간 간격 구현은 아니다.

부호와 아주 작은 양의 밀도를 보존한다

준비 모델은 정확 유리수 입력·Euler 모멘트와 방향성256bit pi·지수·로그·삼각함수 구간을 사용한다. 단순화한 전체 흐름을 직접 계산하여 방사 성분의 정확한 상쇄를 보존한다. 모든 허용 계수에서 밀도는 수학적으로 양수다. 선형 포함 구간이 너무 넓어 아주 작은 크기를 해결하지 못해도 이 사실은 유지된다.

좁은 Gaussian의 먼 꼬리를 탐침하면 밀도 구간이0을 포함할 수 있지만 별도 로그가 0이 아닌 밀도의 크기를 알려준다. 이는 미해결 선형 관측이며 밀도0의 증명이 아니다. 흐름 성분의 정확한 계수가0이면 해당 성분의 절대값 로그는 미제공이다. 그렇지 않으면 로그 밀도와 계수 절대값의 로그를 합한다. 구조적 영과 binary64 범위보다 작은 양의 밀도를 구별해야 한다.

수치 로그는 밀도를1m⁻², 흐름 성분 크기를1/(m·s)로 나눈 무차원 값의 로그다. 길이 단위를 바꾸면 이 표시도 변하지만 확률 자체가 바뀌지는 않는다.

실험 비교

준비	질문	비교할 값
영·양·음의 회전	같은 밀도로 방향을 식별하는가?	분리한 흐름과 부호 비대각 공분산
원점과 원점 밖 탐침	탐침의 영 값이 모든 흐름의 부재인가?	국소 영과 전체 장의 분류
수축·경계·팽창 Euler	유효한 Gaussian은 정확한가?	증폭·분산 오차·불변 분산
시계 재척도	같은 폭이 시간 척도도 정하는가?	밀도·물리 흐름·두 시간 공분산
작은 양의 장과 좁은 꼬리	작은 표시가 정확한0인가?	유리수 계수·포함 구간·별도 로그

조작 범위는 gamma,D가(0,2], omega가[−4,4]rad/s, 탐침 좌표가[−4,4]m, T가[0,4]s, N이1..64이며 분자는 유계 정수·분모는 양의 정수다. 이는 수치 작업량을 제한하며 교육 분량이나 연구 범위를 제한하지 않는다. 교재는 native worker·정확한 선형 장 표본·표시 전용 기록 선택을 사용한다. 준비 변경은 이전 계산을 종료한다.

해설 문제

1. 탐침 위치에서 정상 흐름 구하기

gamma=D=omega=1,x=(1,0)에서 드리프트·확산·전체 흐름을 밀도로 나눈 속도를 구하라. 정상성이 마지막 값을0으로 만들지 않는 이유는 무엇인가?

해설. 각각(−1,1),(1,0),(0,1)m/s다. 전체는 원의 접선 방향이며 이 방사형 밀도와 결합할 때 발산이0이다. 확률이 움직여도 국소 축적은 없으므로 변하지 않는 히스토그램과 0이 아닌 흐름은 양립한다.

2. 원점의 영 관측 해석하기

x=(0,0)에서는 모든 omega에 흐름이0이다. 이 측정으로 정상 흐름이 모든 위치에서0이라고 결론 내릴 수 있는가?

해설. 아니다. 원점의 R x는 omega와 관계없이0이다. 원점 밖에서는 omega가0이 아니면 흐름이0이 아니다. 국소 탐침, 장 전체의 항등식, 매개변수 식별은 다른 주장이다.

3. 두 가지 흐름 적분 비교하기

gamma=D=omega=1,반지름1m에서 원을 통과하는 법선 흐름, 접선 확률 흐름 적분, 속도 순환을 구하라.

해설. J가 접선이므로 법선 흐름은0이다. 접선 확률 흐름 적분은 exp(−1/2)s⁻¹이고 속도 순환은2pi m²/s다. 단위부터 서로 다르므로 모두 초당 탈출 확률이라고 해석할 수 없다.

4. 유효하지만 경계에 있는 Euler 모형 확인

gamma=D=omega=1,정상 초기 좌표 분산1m²,h=1s 한 단계에서 Euler 분산을 구하고 정확한 정상값과 비교하라.

해설. q=1이므로 Euler 분산은3m²가 되지만 정확한 값은1m²다. 법칙은 여전히 정규화된 Gaussian이다. 결정론적 평균 승수는 수축이 아닌90도 회전이며 추가 잡음이 분산을 키운다. 확률을 자를 필요도 없고 그렇게 잘라도 이 오차를 교정하지 못한다.

5. 관측량의 이득과 보편적인 주장 구별하기

gamma=D=1에서 omega=0과1의 점근 분산을 f=x1과 f=|x|²−2에 대해 비교하라.

해설. x1은2와1이며 단위는 m²s다. 방사 관측량은 모두4이며 단위는 m⁴s다. 회전은 첫째를 돕지만 둘째를 바꾸지 않는다. 동시에 Euler 안정 시간 간격은 h<2초에서 h<1초로 엄격해진다.

6. 이산 표본화가 놓치는 것 명시하기

해석적 가족에서 omega=0과 pi rad/s를2초의 정수배에만 관찰한다. 연속 흐름도 같은가? 유리수 조작 입력355/113rad/s를 정확히 동등하다고 선언해도 되는가?

해설. 그 관측 시각들의 정확 회전 행렬은 모두 항등이고 표본화한 Gaussian 커널도 같다. 연속 흐름은 다르다. 유리수355/113은 pi의 근사이므로 그 수치 커널을 정확히 alias라고 선언하면 안 된다. 항등식은 표본 간격을 명시한 해석적 매개변수화에 속한다.