직교 분해와 함수의 최선 근사

함수 공간에서도 최선 근사를 찾는다

실수 Hilbert 공간 H의 닫힌 선형 부분공간 V에 대해 모든 f는 유일하게 f=v+r, v∈V, r⊥V로 분해됩니다. v=Pᵥf가 직교 투영이며 f에 가장 가까운 V의 원소입니다. 존재 보장에는 완비성과 부분공간의 닫힘이 필요합니다.

우변 두 번째 항이 비음수이므로 최적성·유일성이 동시에 나옵니다. 이는 유한 차원 최소제곱의 함수 공간 버전이지만 노름과 내적을 먼저 정해야 합니다.

Legendre 기저로 적분을 손으로 계산하기

L2[−1,1]에서 P₀=1, P₁=x, P₂=(3x²−1)/2는 직교하며 제곱 노름은 각각 2, 2/3, 2/5입니다. 정규직교 기저가 아니므로 계수를 구할 때 분모를 빼먹으면 안 됩니다.

차수 1까지 투영하면 1/3+a x, 잔차는 x²−1/3입니다. a=1일 때 대상 제곱 노름은 16/15, 투영은 8/9, 잔차는 8/45이며 합이 정확히 맞습니다. 상수만 보존하면 선형 성분의 2/3도 잔차에 남아 오차가 38/45가 됩니다.

점별 일치보다 직교 조건을 보기

실습의 파랑은 대상, 주황은 선택한 부분공간으로의 투영입니다. 표의 잔차 내적은 보존한 모든 기저에서 0입니다. 보존하지 않은 기저에는 0이 아닐 수 있습니다. 질의점 하나에서 두 함수가 우연히 같아도 전체 L2 오차가 0이라는 뜻은 아닙니다.

차수 2까지 보존하면 대상 자체를 포함하므로 오차는 0입니다. 이 예제에서 계수 절단이 직교 투영이 되는 이유는 기저가 직교하기 때문입니다. 일반 비직교 기저에서는 Gram 행렬을 포함한 연립방정식이 필요합니다.

닫힘과 연구 적용

다항식 전체는 L2에 조밀하지만 닫히지 않았습니다. 비다항 L2 함수는 다항식으로 오차를 0에 가깝게 할 수 있어도 그 집합 안에서 최솟값을 달성하지 못할 수 있습니다. 반면 현재 유한 차수 공간은 유한 차원이어서 닫혀 있습니다.

Galerkin과 reduced-order 모형은 비슷한 부분공간 아이디어를 사용합니다. PDE의 에너지 내적이나 비대칭 bilinear form을 쓸 때는 현재 L2 투영과 같은 결론이 자동으로 성립하지 않으므로 안정성 조건을 따로 확인합니다.

확인 문제와 해설

1. a=0, 상수 투영의 오차는? 8/45입니다. 없어진 선형 성분이 처음부터 0입니다.
2. 차수 1 투영의 잔차는 P₂에 직교한가요? 아니요. 내적은 4/15입니다.
3. 정규직교가 아닌 기저에서 내적만 계수로 써도 되나요? 아니요. 제곱 노름 또는 Gram 행렬을 반영해야 합니다.

추가 읽기: MIT 18.102, Functional Analysis.