Reynolds 평균과 대칭 제약

대칭은 허용 선형 사상의 제약이 됩니다

입력·출력 벡터 작용이 같으면 모든 군 원소에 대해 Wg=gW여야 선형 층이 등변입니다. 이 행렬들의 선형 부분공간을 표현의 commutant라 합니다. 차원은 군 원소 개수만이 아니라 작용과 체에 의존합니다.

유한 군 Reynolds 연산자는 켤레 행렬의 평균입니다.

유한 합의 index를 바꾸면 모든 h에서 h⁻¹P_G(W)h=P_G(W)입니다. 이미 허용된 W이면 각 항이 W이므로 P_G(W)=W이고 두 번 적용해도 같습니다. 반복 학습이나 근사 penalty가 아니라 대수적 사영입니다.

여기서 직교 사영인 이유

군 행렬이 직교라 켤레 작용이 Frobenius 내적을 보존합니다. 이를 평균하면 공통 고정 부분공간으로 직교 사영하므로 W−P_G(W)는 모든 허용 등변 행렬에 직교합니다. 따라서 Frobenius 거리로 가장 가까운 등변 행렬입니다.

실수·유한 군·직교 표현이라는 가정이 있습니다. compact 군에는 정규화 Haar 평균이 있지만 일반 noncompact 군에 같은 확률 측도를 가정할 수 없습니다. 어떤 군과 측도로 평균하는지 확인해야 합니다.

회전과 반사의 제약 차이

평면 C4에서 WJ=JW를 풀면 W=aI+bJ인 2차원 실수 공간입니다. 수평축 반사 S와도 교환하려면 b=0이라 D4에서는 scalar 1차원만 남습니다. 실수 C4 평면이 불가약인 사실과 모순되지 않습니다. Schur lemma를 단순히 scalar 항등이라고 적용하려면 계수 체 등의 가정을 확인해야 합니다.

Shear 손계산

W=[[1,2],[0,1]]을 실제 군 평균하면 다음과 같습니다.

제곱 Frobenius 거리는 2와 4입니다. 파랑은 원래 단위원의 상, 주황은 사영 후 상입니다. 표에는 행렬·모든 원소의 최대 교환자 norm·멱등 오차가 있습니다. C4에서 D4로 바꾸는 것은 수치 허용 오차 조정이 아니라 실제 모형 제약 추가입니다.

직접 풀기와 풀이

W=diag(1,−1)은 trace 0이므로 D4 사영도 0입니다. 주황 상이 원점으로 줄고 모든 교환자가 0인지 확인하세요. 이어 (1,−1)을 π/2 회전해 ReLU 전후를 비교하면 다릅니다. 선형 층이 등변이어도 임의의 pointwise 비선형이 자동으로 SO2 등변은 아닙니다.

연구와의 연결

Steerable 층은 표현별 kernel·feature 결합 제약을 사용합니다. Reynolds 평균은 그 투명한 유한 예제입니다. 비선형·pooling·경계·이산화는 별도 검사해야 합니다. 행렬 하나의 사영이 네트워크 전체나 과제 대칭의 적합성을 인증하지 않습니다.

추가 읽기: Etingof et al., Introduction to Representation Theory.