Inverse Problems, Identifiability and Observation Design

102 / INVERSE PROBLEMS LAB

먼저 알아두면 좋아요 · 연결된 선수 단원의 기호와 기준 예제를 먼저 확인하세요.

정규화와 편향·안정성 →Bayes 추론과 사후예측 →

단원 목록 (103) · 역문제·식별성과 관측 설계

이해하는 속도로 읽으세요.개념도 이론 실험 확인 문제

BUILD YOUR INTUITION

먼저 그림으로 이해하기

한 번에 한 단계씩 살펴보세요.

관측에서 원인을 복원할 때 정보 부족과 잡음 증폭을 구분합니다.

가로: 두 번째 관측 잡음 · 세로: 추정 θ₁

잡음에 따른 추정참 θ₁ 위치

y = (3, 0)

고정 기준 예제의 그림과 수치입니다. 각 단계에서 같은 그림의 의미를 차례로 살펴보세요. 고정된 기준 예제이며 아래 실험의 설정과 독립적입니다.

1 / 4

순방향

원인은 θ, 관측은 Xθ입니다.

θtrue=(1,2)

실험에서 확인하기 →

이 단원 목차

관측이 원인을 항상 결정하지는 않는다

순방향 모형은 매개변수에서 관측으로 갑니다. 역문제는 관측을 만든 매개변수를 묻습니다. 완벽한 적합도에서도 해가 여러 개일 수 있고, 유일한 해도 잡음에 매우 민감할 수 있습니다. 존재·유일성·안정성을 나누어 보세요.

합성 참값 $\theta=(1,2)^T$ 와

X=\begin{pmatrix}1&1\\\varepsilon&-\varepsilon\end{pmatrix},\qquad y=X\theta+\begin{pmatrix}0\\\nu\end{pmatrix} =\begin{pmatrix}3\\-\varepsilon+\nu\end{pmatrix}

를 씁니다. $\varepsilon\ge0$ 는 대비 관측 배율, $\nu$ 는 둘째 관측의 합성 잡음입니다. 앞 단원의 유한차분 epsilon과는 다른 역할입니다.

합과 차이로 분리하기

$s=\theta_1+\theta_2$ , $d=\theta_1-\theta_2$ 로 둡니다. 관측은 합을 직접, 차이를 $\varepsilon$ 배로 약하게 봅니다. 벌점 없이 $\varepsilon>0$ 이면 $s=3$ , $d=-1+\nu/\varepsilon$ 입니다.

두 매개변수 오차는 각각 $\nu/(2\varepsilon)$ 와 그 음수이고 유클리드 오차는 $|\nu|/(\sqrt2\varepsilon)$ 입니다. 같은 잡음도 약한 측정 배율에서 커집니다.

$\varepsilon=0.1,\nu=0.1$ 이면 관측 차이는 0이라 추정은 $(1.5,1.5)$ , 오차는 $1/\sqrt2$ 입니다. 같은 잡음에서 배율 1이면 $(1.05,1.95)$ 로 오차가 열 배 작습니다.

랭크와 조건수

두 행 방향은 직교하고 조작 범위의 특잇값은 $\sqrt2$ 와 $\sqrt2\varepsilon$ 입니다. 양의 배율에서는 조건수가 $1/\varepsilon$ 입니다. 0이면 합만 식별되고 차이는 식별되지 않습니다. 무한히 많은 매개변수 쌍이 같은 무잡음 관측을 만듭니다.

그 경우 실험은 최소 노름 해 $(1.5,1.5)$ 를 표시합니다. 알고리즘의 선택이지 참 매개변수가 같다는 증거가 아닙니다. 식별 조건 없이 숫자 하나만 보고하면 이 한계를 숨깁니다.

좌표를 나누어 ridge 유도하기

$\lVert X\theta-y\rVert^2/2+\lambda\lVert\theta\rVert^2/2$ 를 최소화합니다. $\lVert\theta\rVert^2=(s^2+d^2)/2$ 이므로

s_\lambda=\frac6{2+\lambda},\qquad d_\lambda=\frac{2\varepsilon(-\varepsilon+\nu)}{2\varepsilon^2+\lambda}

입니다. 다시 $\theta_1=(s_\lambda+d_\lambda)/2$ , $\theta_2=(s_\lambda-d_\lambda)/2$ 로 돌아갑니다. Ridge는 합과 차이를 모두 축소하여 민감도를 줄이는 대신 편향도 만듭니다. 배율과 벌점이 모두 0이면 나누지 않고 최소 노름 차이 0을 선택했다고 명시합니다.

관측 설계는 다른 개입이다

대비 배율을 늘리면 실제 관측 정보가 달라집니다. 벌점을 늘리면 목적함수의 선호가 달라집니다. 둘 다 수치 안정화에 도움될 수 있지만 과학적으로 다릅니다. 기존 데이터의 모호성은 최적화를 반복해도 해결되지 않지만 새 독립 센서로 해결될 수 있습니다.

곡선은 현재 배율·벌점에서 잡음을 바꾸는 민감도 실험입니다. 파랑은 첫 매개변수의 추정, 주황은 참값 1입니다. 선택 잡음의 결과는 표에서 확인합니다. 잡음이나 매개변수의 확률분포를 그린 것이 아닙니다.

Scientific AI와 검증

역영상·매개변수 추정·미분 시뮬레이션에 같은 문제가 있습니다. 비선형 역문제는 Jacobian의 약한 국소 방향과 멀리 떨어진 여러 해를 함께 가질 수 있습니다. 작은 잔차만으로 올바른 물리 법칙이나 보정된 불확실성을 입증하지는 못합니다.

알려진 참값의 합성 복원, 관측 교란, 특이 방향, 사전·벌점 민감도, 새 보류 관측을 함께 검토하세요. 실제 모형 불일치·상관 잡음·경계 조건 오류는 추가 분석이 필요하며 이 예제에서는 의도적으로 제외합니다.

연습과 연구 검산

배율 0.5, 잡음 0.1, 벌점 0의 해는? 답: $(1.1,1.9)$ 입니다.
대비가 0일 때 합이 3인 다른 해 두 개를 적으세요.
학습 잔차를 줄여도 구조적 식별 불가를 고치지 못하는 이유는?
빠진 대비를 독립적으로 보는 관측을 설계하고 잡음 배율의 영향을 예측하세요.

유도는 앞의 SVD·ridge 단원을 직접 사용합니다. 통계적 배경은 저자들의 Introduction to Statistical Learning을 참고하세요. 실제 역물리 벤치마크의 재현은 아닙니다.

CHECK YOUR UNDERSTANDING

설명할 수 있나요?

실험 설정과 무관한 기준 예제를 묻습니다. 답을 고르고 설명을 확인해보세요.

1. 정규화는 관측 정보 자체를 추가하나요?예아니요항상 두 배

2. 작은 특잇값 방향의 역변환은?잡음을 증폭할 수 있다항상 잡음을 없앤다항상 유일하지 않다

이 단원을 이해했고, 내 말로 설명할 수 있습니다.

선택한 답과 학습 표시는 이 브라우저에 저장됩니다. 다시 풀거나 표시를 해제할 수 있습니다.

INTERACTIVE LAB

직접 바꿔보세요

실시간 계산

안내를 따라 실험하기

약한 방향

먼저 예측 · 잡음 0.1이 매개변수 오차도 0.1인가요?

조작 방법 · 예제를 불러온 뒤 그림과 수치 표를 비교하세요.

결과 해석 보기

ε=0.1이면 추정은 (1.5,1.5)입니다.

예제를 열면 현재 실험 설정을 해당 값으로 바꿉니다. 아래에서 자유롭게 수정할 수 있습니다.

비교할 예제

가로: 두 번째 관측 잡음 · 세로: 추정 θ₁

잡음에 따른 추정참 θ₁ 위치

모델 설정

관측 대비 ε두 번째 관측 잡음ridge λ

수치로 확인하기

표시값은 반올림합니다. —는 정의되지 않거나 표시할 유한값이 없는 경우입니다.

y: (3, 0)
θtrue: (1, 2)
θ̂: (1.5, 1.5)
‖θ̂−θtrue‖₂: 0.707
κ₂(X): 10

참 θ=(1,2), X=[[1,1],[ε,−ε]]입니다. ε=λ=0의 해는 최소 노름 선택이며 복원 성공을 뜻하지 않습니다. 실험은 선형 역문제이며 실제 물리 모형의 불일치를 포함하지 않습니다.

실험 설정은 이 브라우저에 자동 저장됩니다.