양자 엔트로피·압축·조건부 정보

1. 엔트로피는 무엇을 측정할까?

모든 큐비트를 알려진 순수 상태 $|+\rangle$로 준비하자. $Z$를 측정하면 공정한 동전처럼 결과가 나오지만, $X$를 측정하면 항상 $+1$이다. 특정 측정의 결과가 무작위라는 사실과 상태 자체의 엔트로피는 구분해야 한다.

폰 노이만 엔트로피는 밀도행렬의 고유값으로 정의한다.

여기서 고유값은 진폭이 아니라 확률이다. 단위는 bit이며, $0\log_2 0=0$은 극한으로 정의한다. 순수 큐비트의 스펙트럼은 $(1,0)$이므로 엔트로피는 0이다. 계산 기저 측정이 무작위여도 이 사실은 변하지 않는다. 최대 혼합 큐비트는 고유값이 $(1/2,1/2)$이므로 엔트로피가 1이다.

먼저 밀도행렬과 스펙트럼을 복습하자. 이번 장에서는 개별 상태의 엔트로피 계산에서 더 나아가 결합 정보와 압축의 의미를 배운다.

2. 숫자로 확인하는 스펙트럼

$\rho=\operatorname{diag}(4/5,1/5)$이면

이다. 드문 고유상태의 정보량은 $-\log_2(1/5)\approx2.321928$ bit, 흔한 고유상태의 정보량은 $-\log_2(4/5)\approx0.321928$ bit다. 엔트로피는 두 값을 발생 확률로 가중평균한다. 더 큰 정보량 하나를 선택한 값도, 한 번에 가능한 결과 개수의 소수 표현도 아니다.

유니터리 회전은 고유벡터를 바꾸지만 고유값을 보존한다. 따라서 $S(U\rho U^\dagger)=S(\rho)$다. 회전 후 행렬의 대각 원소만 읽어 Shannon 엔트로피를 구하면 다른 값이 나올 수 있다. 그것은 해당 기저 측정의 엔트로피이며 상태의 스펙트럼 엔트로피와 다르다.

3. 결합계는 결합 상태로 계산한다

$\rho_{AB}$를 부분추적하여 $\rho_A,\rho_B$를 얻은 뒤 다음을 정의한다.

조건부 엔트로피의 세로선은 양자 정보량을 나타내는 기호다. 곧바로 $B$를 측정하고 특정 결과를 선택한 뒤, 붕괴한 상태의 엔트로피를 평균하라는 지시가 아니다. 그런 절차에는 측정 연산자를 별도로 명시해야 한다.

독립 상태 $\rho_A\otimes\rho_B$의 결합 고유값은 모든 $\lambda_i\mu_j$다. 곱의 로그를 합으로 전개하면 엔트로피의 가법성이 나오며 $I(A:B)=0$임을 확인할 수 있다.

4. 부분계가 같은 세 가지 준비

기저 순서는 $|00\rangle,|01\rangle,|10\rangle,|11\rangle$로 고정한다.

세 경우 모두 각 부분계가 $I_2/2$다. 부분계의 엔트로피만으로는 준비 방식을 구분할 수 없다.

| 준비 | 결합 고유값 | $S(A)$ | $S(B)$ | $S(AB)$ | $S(A|B)$ | $I(A:B)$ | |---|---|---:|---:|---:|---:|---:| | Bell 쌍 | $1,0,0,0$ | 1 | 1 | 0 | −1 | 2 | | 고전 상관 혼합 | $1/2,1/2,0,0$ | 1 | 1 | 1 | 0 | 1 | | 독립 혼합 | $1/4,1/4,1/4,1/4$ | 1 | 1 | 2 | 1 | 0 |

시각화에서는 두 부분계의 엔트로피 막대를 1로 고정하고 결합 스펙트럼만 바꾸면 차이가 드러난다. Bell 상태의 $00$과 $11$ 사이 비대각 성분을 지우면 고전 상관 혼합이 된다. 네 대각 성분을 모두 같은 값으로 만들면 독립 혼합이다. 부분계 밀도행렬을 유지하면서 결합 정보가 달라지는 과정을 비교할 수 있다.

세 예제를 연속적으로 연결하려면 $\rho(c,t)=c\rho_{\mathrm{corr}}(t)+(1-c)I_4/4$를 쓰자. $\rho_{\mathrm{corr}}(t)$는 $00,11$의 점유확률이 각각 $1/2$이고 그 사이 coherence가 $t/2$인 상태이며, 두 매개변수는 $[0,1]$ 안에 있다. 고유값은 $(1+c+2ct)/4$, $(1+c-2ct)/4$와 두 개의 $(1-c)/4$다. 부분계는 고정된다. $c=t=1$은 Bell 쌍, $c=1,t=0$은 고전 상관 혼합, $c=0$은 독립 혼합이다. $t$는 coherence를 지우고 $c$는 고전 상관까지 희석한다.

5. 음의 조건부 엔트로피를 해석하는 법

Bell 쌍 전체는 순수하지만 각 부분은 혼합되어 있으므로 $S(A|B)=-1$이다. 측정 결과가 음수 개의 불확실한 bit를 준다는 뜻이 아니다. 고전 조건부 Shannon 엔트로피는 음수가 아니지만 양자 조건부 엔트로피는 다르다.

음의 조건부 엔트로피는 얽힘을 보증한다. 일반 혼합 상태에서 역방향은 성립하지 않는다. 얽힌 상태여도 조건부 엔트로피가 음수가 아닐 수 있다. 예를 들어 위 가족의 $c=1/2,t=1$은 결합 고유값이 $(5/8,1/8,1/8,1/8)$이고 조건부 엔트로피가 약 $0.548795$ bit로 양수다. 그래도 부분전치의 고유값 $-1/8$이 얽힘을 증명한다. 또한 두 bit를 어느 한쪽에서 바로 읽을 수 있다는 뜻도 아니다. 양쪽을 $Z$로 측정하면 공유하는 고전 bit는 하나다. 측정 결과의 고전 상호정보량은 1이며, 측정 전 양자 상호정보량 2와 구별한다.

상태 병합과의 운영적 연결에는 점근적 프로토콜, 양자 부가 정보, 자원 계산 규약이 필요하다. 숫자 $-1$만 제시해서 유한 복사본 프로토콜이나 그 오차까지 구현했다고 볼 수 없다.

6. 소수 압축률은 어떻게 가능한가?

기억이 없는 정보원이 독립적으로 상태를 방출하며 평균 밀도행렬이 $\rho$라고 하자. $n$번 방출의 평균 상태는 $\rho^{\otimes n}$이다. 고유벡터는 개별 고유벡터의 텐서곱이고 고유값은 개별 고유값의 곱이다.

고유상태 표지의 빈도가 기대 빈도에 가까운 문자열 하나의 확률은 대략 $2^{-nS(\rho)}$다. 충분히 큰 $n$에서는 이런 문자열들이 전체 확률의 대부분을 차지한다. 이들이 만드는 전형 부분공간의 차원은 지수적 크기 기준으로 대략 $2^{nS(\rho)}$다.

이 관찰이 Schumacher 압축률의 직관이다. 표준적인 독립 정보원과 점근적으로 사라지는 오차의 조건에서 $S(\rho)$보다 큰 비율로 압축할 수 있다. 보존 대상은 측정해서 얻은 고전 고유상태 표지 파일이 아니라, 필요한 참조계 상관을 포함하는 양자 상태다. 정리를 정확히 쓰려면 정보원과 충실도 기준을 명시해야 한다. 이 직관만으로 유한 블록 오차나 모든 다른 기준의 강한 역정리가 증명되는 것은 아니다.

7. 작은 블록을 직접 세어 보자

고유값 $(4/5,1/5)$인 정보원을 두 번 사용하면 다음 네 문자열을 얻는다.

$00,01$을 보존하는 rank 2 사영은 확률 가중치 $20/25=0.8$을 담는다. 세 벡터를 보존하면 $24/25=0.96$을 담지만, 보존 부분공간이 3차원이다. 이를 큐비트 메모리에 등거리 부호화하려면 실패 처리 등을 제외해도 $\lceil\log_2 3\rceil=2$큐비트가 필요하다.

$nS(\rho)\approx1.443856$이라는 계산은 물리적으로 1.443856큐비트짜리 레지스터가 존재한다는 뜻이 아니다. 사영 가중치는 유용한 유한 블록 통계지만, 부호기와 복호기를 정하지 않은 상태에서 이를 얽힘 충실도라고 바꿔 부르면 안 된다. 확률이 같은 $01,10$ 중 어느 것을 먼저 선택해도 누적 가중치는 같다.

8. 탈위상은 보존 문제를 바꾼다

Bell 상태를 국소 $Z$ 기저로 탈위상하면 비대각 성분이 사라지고 $S(AB)$가 0에서 1로 증가한다. $|+\rangle$를 탈위상해도 엔트로피가 0에서 1로 증가한다. 항상 알려진 $|+\rangle$를 내보내는 정보원은 양자 메모리를 전송하지 않고도 재준비할 수 있다. 정화 참조계와 상관된 독립 최대 혼합 큐비트 정보원은 같은 문제로 취급할 수 없다.

평균 밀도행렬과 무엇을 보존할지를 함께 지정해야 한다. 평균 혼합 상태를 새로 준비하는 것만 목표라면 국소적으로 혼합 상태를 만들면 된다. 원래 정보원과 참조계 사이의 상관을 보존하는 압축은 별도의 과제다.

9. 해설과 함께 푸는 문제

1. 무작위 측정과 순수 정보원. 알려진 $|+\rangle$를 $Z$로 측정한다. 상태 엔트로피와 결과 엔트로피는? 해설: 각각 0, 1 bit다. 측정 기저의 선택은 뒤의 값에 영향을 준다.
2. 곱의 규칙. 서로 독립인 두 큐비트의 고유값이 각각 $(4/5,1/5)$다. 해설: 결합 고유값은 $(16,4,4,1)/25$, 엔트로피는 $2h_2(1/5)\approx1.443856$ bit다.
3. 고전 부가 정보. 고전 상관 혼합에서 $B$의 $Z$ 표지를 알면 $A$의 표지를 안다. 해설: $S(A|B)=1-1=0$이다. 이 경우에는 음수가 아니다.
4. 양자 상관과 측정 결과. Bell 쌍의 양쪽을 $Z$로 측정하기 전후의 정보량은? 해설: 측정 전 양자 상호정보량은 2 bit, 측정 결과의 고전 상호정보량은 1 bit다.
5. 유한 메모리. 7절의 rank 3 부분공간을 1큐비트에 정확히 넣을 수 있을까? 해설: 등거리 부호화에는 최소 3차원이 필요하지만 1큐비트는 2차원이다. 점근적 비율과 별개인 차원 제약이다.
6. 그럴듯한 역명제. 혼합 상태에서 $S(A|B)\ge0$이면 분리 상태일까? 해설: 그렇지 않다. 음의 조건부 엔트로피는 충분한 얽힘 증거이지 모든 얽힘의 필요조건이 아니다.

10. AI와의 연결 및 다음 탐구

잠재 표현은 입력의 정보를 버릴 수 있다. 따라서 어떤 상관을 보존해야 하는지 먼저 묻는 습관이 유용하다. 양자 문제에서는 부분계 통계가 같아도 참조계 상관이 다를 수 있어 보존 기준이 더 명확하게 드러난다. 이는 과제 설계를 위한 비유이며, 일반 신경망 표현이 곧 양자 상태라는 주장이 아니다.

다음에는 앙상블 정보, Holevo 상계, 상대 엔트로피와 채널 용량을 구분한다. 유한 블록 부호화, 상태 병합, 연구 수준의 역정리는 추가 증명과 실험이 필요하다. 이번 본문은 그 기초를 제공하며, 조작형 시각화와 실제 reader 등록은 준비 중이다.

정의와 엔트로피 부등식, 정보원 부호화의 일차 자료는 Watrous 5장이다. 위 계산 예제와 설명은 이 교육과정에 맞추어 작성했다.