행렬과 선형변환

점 하나가 아니라 공간 전체를 바꾸기

벡터를 늘리고, 기울이고, 회전시키는 연산을 어떻게 한 가지 언어로 표현할까요? 행렬은 기저 벡터가 어디로 가는지 기록합니다. 기저에 대한 작용을 알면 모든 벡터의 변환을 계산할 수 있습니다.

이 단원에서는 열벡터를 사용합니다. 입력 벡터는 3개의 성분, 행렬은 3×3입니다. 좌표는 무차원이며 카메라의 방향과 수학적 변환을 구분합니다.

이 단원에서 얻을 것

행렬 곱을 공식으로 외우는 대신 출력을 계산하는 방법과 공간이 바뀌는 이유를 연결하는 것이 목표입니다. 먼저 2차원 단면에서 기저 두 개를 익히고, 같은 생각을 3×3 실험으로 확장합니다.

• 한 행으로 출력 성분을 계산하고, 한 열로 기저의 변환을 읽습니다.
• 회전·확대·전단·반사를 구분하고, 같은 부피가 같은 모양을 뜻하지 않음을 설명합니다.
• 정보가 사라지는 변환과 신경망의 선형층을 작은 수치 예제로 해석합니다.

기호와 모양부터 읽기

기호 또는 용어	읽는 방법	구체적인 뜻
$\mathbf x$	입력 벡터	세 성분을 세로로 놓은 3×1 열벡터
$A$	변환 행렬	숫자 9개를 3행 3열로 배치한 표
$a_{ij}$	i행 j열 원소	입력의 j번째 성분이 출력의 i번째 성분에 기여하는 계수
$A\mathbf x$	A 곱하기 x	모든 입력에 같은 규칙을 적용한 출력 벡터
$\mathbf e_1,\mathbf e_2,\mathbf e_3$	표준 기저	(1,0,0), (0,1,0), (0,0,1)
$\det(A)$	행렬식	정사각 행렬의 부호 있는 부피 배율

윗첨자 T는 전치를 뜻합니다. 이 문서에서 (1,2,3)ᵀ는 가로로 나열한 세 성분을 세로로 세운 열벡터로 읽으면 됩니다. 행렬을 전치할 때는 행과 열을 서로 바꿉니다.

행렬의 크기를 세는 ‘차원’과, 벡터들이 펼칠 수 있는 독립적인 방향의 수는 구분해야 합니다. 후자는 아래에서 정보 손실과 연결합니다. 3×3 행렬이라고 언제나 세 방향의 정보를 유지하는 것은 아닙니다.

열벡터에서는 (3×3)·(3×1)=(3×1)입니다. 앞 행렬의 열 수와 뒤 벡터의 행 수가 맞아야 곱할 수 있습니다. 실험의 입력 칸은 행 순서지만 수학적 규약은 열벡터 $\mathbf y=A\mathbf x$입니다.

기저는 좌표를 조립하는 재료

평면에서 $\mathbf e_1=(1,0)$과 $\mathbf e_2=(0,1)$을 생각해 봅시다. (1,2)는 첫 재료 하나와 둘째 재료 두 개를 더한 것입니다.

$$\mathbf x=1\mathbf e_1+2\mathbf e_2.$$

선형변환은 이 조립 방법을 유지합니다. 재료가 $A\mathbf e_1$, $A\mathbf e_2$로 바뀌어도 같은 계수 1과 2를 사용합니다. 이것이 기저의 행선지만 알면 다른 모든 점도 계산할 수 있는 이유입니다. 임의의 비선형 변환에는 이런 규칙이 보장되지 않습니다.

행렬의 열을 읽는 방법

기저를 $\mathbf e_1,\mathbf e_2,\mathbf e_3$라 하면

$$A\mathbf x=x_1A\mathbf e_1+x_2A\mathbf e_2+x_3A\mathbf e_3.$$

따라서 행렬의 첫째·둘째·셋째 열은 각각 기저 벡터가 이동한 곳입니다. 선형성은 다음 두 조건으로 표현합니다.

$$A(\mathbf u+\mathbf v)=A\mathbf u+A\mathbf v,\qquad A(c\mathbf u)=cA\mathbf u.$$

행렬을 바꿀 때는 기저 화살표·단위 정육면체·점이 모두 같은 행렬에 의해 바뀌는지 확인하세요. 원래 모양은 회색, 변환된 모양은 색으로 표시합니다.

계산해 보기

x를 두 배, y를 절반으로 바꾸고 z를 유지하는 행렬은

$$A=\begin{pmatrix}2&0&0\\0&0.5&0\\0&0&1\end{pmatrix}.$$

입력 $\mathbf x=(1,2,3)^T$에 적용하면

$$A\mathbf x=(2,1,3)^T.$$

각 행과 입력 벡터의 내적이 출력의 각 성분입니다. 실험에서 행렬 원소 하나만 바꾸고 어떤 출력 성분이 바뀌는지 먼저 예측해 보세요.

행으로 계산하고 열로 검산하기

위 예제의 각 행을 입력 (1,2,3)과 성분별로 곱해 더해 봅시다.

출력 성분	한 행과 입력의 내적	결과
첫째	2×1 + 0×2 + 0×3	2
둘째	0×1 + 0.5×2 + 0×3	1
셋째	0×1 + 0×2 + 1×3	3

열로 읽으면 1×(2,0,0) + 2×(0,0.5,0) + 3×(0,0,1)=(2,1,3)입니다. 행을 이용한 계산과 열의 가중 합은 같은 행렬 곱을 보는 두 방법입니다. 한 행의 원소를 바꾸면 해당 출력 성분의 규칙이 바뀌고, 한 열을 바꾸면 특정 입력 성분이 모든 출력에 기여하는 방식이 바뀝니다.

전단을 손으로 만들기

z=0에서 다음 변환을 생각해 봅시다.

$$A=\begin{pmatrix}1&1&0\\0&1&0\\0&0&1\end{pmatrix},\qquad x'=x+y,\quad y'=y.$$

첫 기저 (1,0)은 그대로이고 둘째 기저 (0,1)은 (1,1)로 기울어집니다. 입력 (1,2)는 바뀐 첫 기저 하나와 둘째 기저 두 개를 더한 (3,2)가 됩니다. y=0인 점은 움직이지 않지만 y가 큰 점은 x 방향으로 더 많이 이동합니다. 모두를 같은 거리만큼 옮기는 평행 이동과 다릅니다.

위 개념도에서 ‘기저 바꾸기 → 같은 계수로 조립’ 순서를 확인한 뒤, 3D 실험에서 전단을 선택해 같은 결과를 비교하세요.

여섯 가지 변환

• 항등: 모든 기저가 그대로이고 점도 변하지 않습니다.
• 축별 스케일: 각 축 방향의 길이를 다르게 바꿉니다.
• z축 90° 회전: (1,0,0)이 (0,1,0)으로 갑니다. 길이는 유지됩니다.
• 전단: $x'=x+y,\ y'=y$이므로 (1,2,0)이 (3,2,0)이 됩니다.
• 반사: 한 축의 방향을 뒤집습니다. 부피의 크기와 방향을 구분해야 합니다.
• 차원 붕괴: 한 축을 0으로 만들면 서로 다른 점들이 같은 위치로 갈 수 있습니다.

프리셋을 바꾸어 원래 기저와 변환된 기저를 비교한 뒤, 행렬 원소를 직접 수정해 보세요.

행렬식은 부피의 부호를 가진 배율

단위 정육면체가 차지하는 부피의 크기는 $|\det(A)|$배가 됩니다. 행렬식의 부호는 방향의 반전을 나타냅니다.

$$\det\begin{pmatrix}-1&0&0\\0&1&0\\0&0&1\end{pmatrix}=-1.$$

이 반사의 부피 배율은 1입니다. 음의 부피를 뜻하지 않습니다. 또 위의 축별 스케일 행렬도 행렬식은 $2\times0.5\times1=1$이지만, 모든 벡터의 길이를 유지하지는 않습니다. 같은 부피가 같은 모양을 의미하지 않습니다.

순서가 달라지면 결과도 달라질까

기준 확대 행렬을 S, z축 90° 회전을 R이라고 합시다. 입력 (1,0,0)을 확대한 뒤 회전하면 (2,0,0) → (0,2,0)입니다. 회전한 뒤 확대하면 (0,1,0) → (0,0.5,0)입니다.

$$RS\mathbf e_1=(0,2,0)^T,\qquad SR\mathbf e_1=(0,0.5,0)^T.$$

행렬 곱에서는 오른쪽 변환부터 입력에 작용합니다. 일반적으로 $RS\ne SR$입니다. 신경망의 여러 층을 분석할 때도 어떤 연산이 먼저인지 기록해야 합니다. 단, 원소별 활성화가 중간에 들어간 전체 계산을 단순히 행렬 두 개의 곱으로 합칠 수는 없습니다.

역변환이 없는 경우

$$A=\begin{pmatrix}1&0&0\\0&0&0\\0&0&1\end{pmatrix}$$

은 모든 점의 y 성분을 지웁니다. (1,2,3)과 (1,-2,3)이 모두 (1,0,3)으로 갑니다. 출력만으로 원래 y를 알 수 없기 때문에 역행렬이 없습니다. 실험에서 차원 붕괴 프리셋을 선택하고 입력 y를 바꿔 보세요.

AI의 선형층과 연결하기

신경망의 선형층은 행렬과 벡터의 곱을 핵심 연산으로 사용합니다. 편향을 더한 $A\mathbf x+\mathbf b$는 일반적으로 선형사상이 아니라 아핀사상입니다. 비선형 활성화도 별도의 연산입니다.

3D 장면은 이 관계를 눈으로 확인하기 위한 작은 예제입니다. 실제 모델의 고차원 텐서를 3D 공간과 동일한 것으로 해석하지 않습니다.

작은 AI 예제: 특징 두 개를 출력 두 개로

설명을 위해 고정한 가상의 가중치와 입력을 사용하겠습니다.

$$W=\begin{pmatrix}1&1\\1&-1\end{pmatrix},\quad \mathbf x=\begin{pmatrix}2\\1\end{pmatrix},\quad W\mathbf x=\begin{pmatrix}3\\1\end{pmatrix}.$$

첫 출력은 두 특징의 합, 둘째 출력은 차이를 읽습니다. 편향 $\mathbf b=(1,-1)^T$를 더하면 (4,0)입니다. 이 뒤에 음수를 0으로 만드는 ReLU를 적용해도 이 입력에서는 (4,0)이지만, 연산 자체는 별개의 비선형 규칙입니다. 위 숫자는 학습 성능을 주장하는 결과가 아니라 선형층의 계산을 이해하기 위한 예입니다.

입력이 n개이고 출력이 m개라면 W는 m×n입니다. 행은 출력의 규칙이고, 열은 각 입력의 기여입니다. 이 해석은 고차원에서도 유지됩니다. 그러나 3D 정육면체의 부피나 3×3 행렬식을 직사각 행렬에 그대로 적용할 수는 없습니다.

정보 손실을 연구 관점에서 읽기

차원 축소 프리셋에서 바뀐 기저 중 하나가 영벡터가 됩니다. 독립적인 출력 방향은 둘만 남으며 이 수를 랭크라고 합니다. 세 입력 성분 중 지워진 y는 출력만으로 복구할 수 없습니다. 특이행렬의 서로 다른 입력이 같은 출력이 되는 이유를 숫자로 확인한 것입니다.

역행렬이 존재하는 것과 계산이 안정적인 것도 다릅니다. 2차원 행렬 diag(1,0.01)은 둘째 성분을 1/100로 줄이고, 역변환은 그 성분을 100배 합니다. 출력의 둘째 성분에 0.001의 오차가 생기면 복원한 성분에는 0.1의 오차가 생깁니다. 작은 오차가 얼마나 증폭되는지는 이후 특잇값과 조건수에서 더 자세히 다룹니다.

연구에서는 정보를 지웠는지, 필요한 정보만 남겼는지, 수치 오차에 민감한지를 서로 다른 질문으로 검토하세요. 그 구분 없이 “차원이 줄어 성능이 좋아졌다”라고 결론 내릴 수는 없습니다.

자주 생기는 오해

생각	확인할 반례 또는 기준
행렬의 행이 변환된 기저다	열벡터 규약에서는 열이 변환된 기저다
행렬식이 1이면 회전이다	전단과 비등방 확대도 행렬식이 1일 수 있다
행렬식이 −1이면 부피가 음수다	부피 배율은 절댓값 1, 부호는 방향 반전이다
정사각 행렬은 항상 역행렬이 있다	한 방향을 지우면 역행렬이 없다

도전과 확인

행렬식이 1이면서 (1,2,0)을 (3,2,0)으로 보내는 행렬을 만들어 보세요. 회전이어야 할까요?

해설: 전단 행렬 $\begin{pmatrix}1&1&0\\0&1&0\\0&0&1\end{pmatrix}$이면 됩니다. 행렬식이 1이라는 조건만으로 회전이라고 결론 내릴 수 없습니다.

학습 근거: MIT — Linear Algebra.