고차 미분·Hessian과 방향 곱

gradient를 다시 미분하기

매끄러운 스칼라 함수 f:Rⁿ→R의 gradient는 벡터이고 이를 다시 미분한 Hessian H는 n×n 행렬입니다. 특정 방향 v에 대한 gradient의 변화는 Hv입니다.

충분한 연속 혼합 미분 조건에서 H는 대칭입니다. 그러나 항상 PSD이거나 PD인 것은 아닙니다. 자동 미분이 도함수를 계산했다는 사실이 손실의 볼록성을 주지는 않습니다.

비선형 예제의 손계산

실습 함수는 f(x,y)=½x²y+sin y입니다.

기준점 (1,0)에서 gradient=(0,1.5), H=[[0,1],[1,0]]입니다. 고유값은 ±1이므로 부정부호입니다. v=(1,1)이면 Hv=(1,1)이고 vᵀHv=2입니다. v가 단위 벡터가 아니므로 이 2를 최대 고유값이라고 읽으면 안 됩니다.

방향 곡률과 이차 모형

한 변수 경로 g(t)=f(z+tv)를 만들면

따라서 이차 근사는 f(z)+t∇f·v+½t²vᵀHv입니다. 기준점과 방향에서 1.5t+t²를 얻습니다. 실제 경로는 ½(1+t)²t+sin t이므로 고차 나머지가 남습니다. 그림은 실제 경로와 이차 모형을 비교합니다.

v=(1,0)에서는 이 기준점의 경로 함수가 0으로 일정하고 곡률도 0입니다. v=0이면 어떤 점에서도 경로가 일정합니다. 0 방향은 입력 공간이 없어진다는 뜻이 아닙니다.

Hessian 전체 없이 곱 계산하기

고차원에서 H를 명시적으로 만들면 n²개 원소가 필요합니다. 자동 미분에서 gradient 계산에 방향 미분을 적용하면 Hv를 전체 H 없이 계산할 수 있습니다. 또는 스칼라 ∇f·v를 v를 상수로 두고 미분하면 Hᵀv이고, 매끄러운 스칼라 함수에서는 H 대칭성으로 Hv와 같습니다.

이 실습의 엔진은 해석 식을 계산하며 실제 자동 미분 라이브러리를 실행하는 것은 아닙니다. JVP·VJP·중첩 미분으로 구현할 때는 형상, 계산 그래프 보존, v에 대한 미분 여부를 명시해야 합니다.

차분 검산과 AI 연구

이는 별도 gradient 식에서 중앙차분을 만들어 독립 검산하는 방법입니다. h=0은 불가하고 작은 h의 반올림·소거 오차도 있습니다. 실습의 회귀 검사는 이 차분으로 해석 Hv와 방향 곡률을 확인합니다.

Newton-CG, 곡률 진단, 영향함수 등에서 HVP가 쓰입니다. 실제 손실의 비매끄러운 연산·확률 표본·배치 선택이 바뀌면 고전적 미분 가정과 검산 조건을 다시 확인해야 합니다.

확인 문제와 답

1. (1,0),v=(1,−1)에서 Hv와 vᵀHv는? (−1,1),−2입니다.
2. H가 대칭이면 PSD인가요? 아니요. 기준 H가 반례입니다.
3. Hv는 스칼라인가요? 벡터이며 vᵀHv가 스칼라입니다.

추가 읽기: MIT 공식 강좌 안내. 강좌 범위를 확인해 보충 자료로 연결하며, 아래의 작은 예제와 논증은 직접 구성했습니다.