다항식과 Spline의 근사 오차

표현할 수 있는 것과 선택한 근사 방식

[0,1]의 f(x)=x²를 근사해 봅시다. 이 함수는 2차 다항식 자체이므로 최선의 2차 다항식 오차는 0입니다. 하지만 특정한 근사 절차가 항상 최선의 계수를 고르는 것은 아닙니다. 이번 실험은 Bernstein 연산자와 균등 매듭 선형 spline이라는 두 구체적인 절차를 비교합니다.

Bernstein의 n은 기저의 명목 차수입니다. 이 예제에서는 결과가 이차식으로 단순화되어도 n+1개 표본 가중치를 사용하는 연산자의 차수 n이라는 이름을 유지합니다.

Bernstein 가중치를 확률로 이해하기

Bₙf는 표본 f(k/n)에 이항분포 가중치를 붙입니다. K~Binomial(n,x)라면 Bₙf(x)=E[f(K/n)]입니다. 제곱 함수에는 E[Z²]=(EZ)²+Var(Z)를 적용합니다.

오차는 항상 위쪽이고 중앙에서 1/(4n)입니다. n=4이면 1/16, n=8이면 1/32입니다. 이는 Bernstein 절차의 이 대상에 대한 오차이며 다항식 공간의 최선 오차가 아닙니다.

국소 선형 spline의 다른 속도

매듭 xⱼ=j/n 사이에서는 두 끝의 함수값을 직선으로 잇습니다. 이차 함수는 볼록이므로 직선이 위에 놓이고 오차는 다음과 같습니다.

각 구간 중앙의 최대는 h²/4=1/(4n²)입니다. 네 구간이면 1/64, 여덟이면 1/256입니다. 파랑은 참조 함수, 주황은 선택한 절차의 결과이며 점은 현재 질의입니다. 매듭에서는 spline 오차가 0이어도 구간 사이의 최대 오차는 남습니다.

일반 함수에서 필요한 조건

연속 함수에 대한 근사 존재와 오차 속도는 다른 주장입니다. 예를 들어 선형 보간의 h²‖f''‖∞/8 경계에는 bounded인 2차 도함수가 필요합니다. 뾰족점이나 불연속이 있으면 같은 속도를 그대로 쓰지 않습니다. Bernstein의 일반 수렴 역시 연속성과 구간 조건을 사용합니다.

AI의 표현력 비교에서는 가설 공간, 계수 선택 알고리즘, 데이터, 평가 노름을 분리해야 합니다. 같은 n+1개 숫자를 쓰더라도 전역 기저와 국소 기저의 계산 구조·정칙성 가정·근사 오차가 다릅니다.

확인 문제와 해설

1. n=1이면 두 방식은? 둘 다 x입니다. 끝점 (0,0),(1,1)을 연결합니다.
2. Bernstein n=4가 오차를 가지면 x²를 4차 공간에서 표현할 수 없나요? 아니요. 특정 절차가 최선 해를 고르지 않은 것입니다.
3. spline 매듭만 평가하면 무엇을 놓치나요? 매듭 사이 오차입니다. 이 예에서는 모든 매듭에서 정확해도 중앙 오차가 있습니다.

추가 읽기: MIT 18.102, Functional Approximation Background.