THE-X 논문 해설: 동형암호 위에서 Transformer를 돌리는 방법, 무엇이 가능하고 무엇이 희생되는가

개요

  • 주제: ACL 2022 Findings 게재 논문 "THE-X: Privacy-Preserving Transformer Inference with Homomorphic Encryption" (R12_THE_X.pdf Page1) 해설
  • 핵심 관점: 저자가 제안하는 근사 워크플로우의 성립 조건과, 저자가 실제 실험에서 사용한 설정(모델·하이퍼파라미터·예외)을 구분해 확인
  • 핵심 키워드: 동형암호(HE), GELU→ReLU 치환, softmax 추정망, LN-Distill, BERT-tiny, GLUE, CoNLL-2003

한 문장 요약: THE-X는 "비다항 함수를 다항 연산으로 근사하고, ReLU는 사용자 기기로 분담한다"는 두 아이디어로, 사전학습 Transformer의 암호화 추론을 이론적으로 보장된 프라이버시와 평균 성능 저하 1.48%의 절충 안에서 실현한 작업이다 (R12_THE_X.pdf Page6~Page7).

핵심 메시지 3가지

1. 문제의 본질은 "다항 연산만 지원하는 HE"와 "비다항 연산이 가득한 Transformer"의 충돌

저자는 사전학습 모델의 클라우드 배치가 늘면서 평문 사용자 데이터(검색 기록·진료 기록·계좌 정보) 노출이 문제라고 지적하며, 두 가지 도전을 제시한다. 첫째는 제3자 서비스 제공자로부터 평문을 보호하는 문제이고, 둘째는 프라이버시 보호 기법의 성능 비용이다. 저자에 따르면 차분프라이버시(DP) 계열은 도청 공격자에 취약하고 "privacy protection could never be theory-guaranteed"이며, 연합학습 기반 TextHide·FedNLP는 상당한 성능 저하를 감수해야 한다 (R12_THE_X.pdf Page2).

한편 동형암호는 PHE(덧셈 또는 곱셈만), FHE(덧셈·곱셈 둘 다), LHE(고정된 계산 깊이까지)로 나뉘는데, 저자가 실험에 실제로 쓴 것은 Intel HE transformer for nGraph 백엔드 + CKKS 스킴 + Microsoft SEAL이라는 구체적 설정이다 (R12_THE_X.pdf Page3). 저자는 "adding and multiplication suffices to construct polynomial functions"라며 다항 근사의 가능성을 근거로 든다.

2. 두 개의 핵심 아이디어: 사용자 기기 투입 + 비다항 함수 근사

"There are two core ideas in THE-X. The first one is to incorporate the user device into the HE inference, and the second is using 'simplified computation' to approximate the non-polynomial functions." (R12_THE_X.pdf Page3)

첫째 아이디어는 ReLU의 Max 연산을 서버가 아니라 사용자 기기에서 처리하는 것이다. 서버는 암호문을 클라이언트에게 전달하고, 클라이언트가 복호화→로컬 Max 계산→재암호화하여 반환한다. 저자는 "Despite the communication cost, no plaintext is leaked during the TLS connection and semantic security is guaranteed"라고 주장한다 (R12_THE_X.pdf Page4). 둘째는 GELU·softmax·LayerNorm을 HE가 지원하는 덧셈·곱셈으로 대체하는 근사 워크플로우다.

3. 성능 저하의 책임은 대부분 LayerNorm 근사

저자에 따르면 GLUE 평균 성능 저하 1.48% 중 1.08%p는 LayerNorm 근사에서, softmax 추정망의 기여는 평균 0.09%에 그친다 (R12_THE_X.pdf Page7). 즉 "어디가 깨지는가"를 정량으로 특정한 것이 이 논문 실험의 핵심 정보다.

왜 이 주제인가 — 선행 연구가 남긴 두 개의 구멍

저자가 논문에서 인용·비판한 선행 연구를 시점별로 정리하면 다음과 같다.

선행 접근 저자가 지적한 한계 출처
차분프라이시(DP) 및 변형 (Dwork et al., 2006; Abadi et al., 2016 등) 도청 공격자에 취약, 이론적 보장 불가 R12_THE_X.pdf Page1~Page2
Gradient leakage 연구 (Zhu and Han, 2020; Zhao et al., 2020) 기울기에서 원시 데이터 복원 가능 R12_THE_X.pdf Page2
TextHide (Huang et al., 2020) 문장 수준 태스크만 가능, mix-up 연산 때문에 NER·SRL 같은 토큰 수준 태스크 실패 R12_THE_X.pdf Page2
DP-finetuning (Kerrigan et al., 2020) GPT-2 생성 모델에서 20% perplexity 성능 희생 R12_THE_X.pdf Page2
FedNLP (Lin et al., 2021) 등 연합학습 기반 학습 데이터 프라이버시 중심이며 "privacy-preserving inference"를 충분히 다루지 못함 R12_THE_X.pdf Page2
Taylor 급수 근사 (Vincent et al., 2015) 지수 연산만 근사 가능 R12_THE_X.pdf Page4
Softmax-free linear attention (Lu et al., 2021) newton-inverse로 나눗셈을 근사하지만 full-scale attention에서 근사 오차가 무한 R12_THE_X.pdf Page4

저자는 이 흐름 위에서 "We are the first work to explore the privacy-preserving transformer inference with HE"라고 자신들의 위치를 규정한다 (R12_THE_X.pdf Page2). 다만 균형을 위해 보면, HE 기반 심층학습 자체는 Boemer et al. (2019b, a, 2020)의 HE transformer 백엔드라는 선행 인프라 위에 서 있으며, 논문의 기여는 그 인프라 위에 Transformer 전체 파이프라인을 얹는 근사 워크플로우를 더한 것이다. 저자도 결론에서 이를 "a first step in combing homomorphic encryption to address emerging privacy issues in pre-trained models"로 한정해 서술한다 (R12_THE_X.pdf Page8).

근사 워크플로우: 두 단계 최적화의 성립 조건

전체 흐름

① GELU·Softmax 치환 (ReLU + 추정망 \(\mathcal{S}\) 고정) → ② 표준 파인튜닝 → ③ LN 근사망 \(\tilde{\mathcal{N}}\) 추가, 원본 LN은 고정하고 \(\tilde{\mathcal{N}}\)만 학습 (MSELoss) → ④ 원본 LN 파기 → ⑤ HE transformer로 변환 (R12_THE_X.pdf Page3, Algorithm 1)

성립 조건과 저자의 주 설정을 구분하면:

  • 일반형(이론상 전체 설정): 파인튜닝과 LN 근사를 하나의 루프에서 동시에 최적화할 수 있다 — "For computation efficiency, pre-trained models can also be fine-tuned together with the layernorm approximation, and it needs only a single optimization loop" (R12_THE_X.pdf Page3).
  • 저자가 실험에서 선택한 주 설정: 실제로는 "Two Stages" — softmax 추정망을 표준 파인튜닝 동안 동결하고, 최적 체크포인트를 골라 2단계에서 LN을 증류하는 방식을 기본값으로 채택 (R12_THE_X.pdf Page8).

GELU와 ReLU의 활성화 결과 비교 — 입력이 0 근처에서 두 값이 매우 유사하고, 큰·작은 입력에서 활성화 결과가 수렴함 (R12_THE_X.pdf Page4, Figure 3)

세 개의 비다항 함수별 처리

함수 원본 연산의 문제 THE-X의 처리 저자가 확인한 한계·예외
GELU 가우시안 커널에 지수 포함, 구현판의 tanh도 비다항 ReLU로 치환, Max는 클라이언트 통신으로 처리 ReLU의 Max만 HE 미지원 — 나머지는 HE 지원 (R12_THE_X.pdf Page4)
Softmax 지수 + 나눗셈 \(S(x_i) = x_i * T(\Sigma_j ReLU(((x_j)/2 + 1)^3))\), 나눗셈 대신 역수를 3층 선형 신경망 \(T\)로 근사 마스크된 attention의 negative infinity 입력 시 수치 재앙 (R12_THE_X.pdf Page4~Page5)
LayerNorm 평균·표준편차 계산에 나눗셈 \(\hat{y} = x \circ \gamma + \beta\)로 선형 치환, LN-Distill 단계에서 원본 LN에서 증류 층이 쌓일수록 근사 오류 누적, attention score의 unbounded scale(Attention Overflow) (R12_THE_X.pdf Page5)

softmax 추정망의 학습 설정(원문 그대로): [-3, 3] 사이의 랜덤 입력 텐서와 그 softmax 점수를 MSE 목표로 사용하고, learning rate 1e-3으로 100k 스텝 학습하여 MSE loss 1e-6까지 수렴시킨다 (R12_THE_X.pdf Page4).

그 밖의 실무 치환 사항 (저자가 명시한 예외 목록)

  • attention의 \(\frac{1}{\sqrt{d_k}}\)는 query projection layer의 가중치에 흡수
  • 지원되지 않는 dense 연산 때문에 선형 투젝션 대신 fully kernel convolution layer 사용
  • 모든 행렬곱을 element-wise 방식으로 변환
  • tanh 미지원으로 pooler layer 제거
  • HE transformer 백엔드가 TensorFlow checkpoint만 지원하므로 PyTorch 계열은 TensorFlow 형식으로 먼저 변환 (R12_THE_X.pdf Page5)

암호화 추론 프로토콜: 서버와 클라이언트의 6단계

Algorithm 2 (R12_THE_X.pdf Page5) 기준:

① 클라이언트가 임베딩 계산: \(\mathcal{E}_q \leftarrow \mathcal{P}_q\) → ② 클라이언트가 임베딩 암호화: \(\mathcal{C}_q \leftarrow Encrypt(\mathcal{E}_q, \mathcal{K})\) → ③ 서버가 모델 전달: \(\mathcal{C}_i = \mathcal{M}(\mathcal{C}_q)\) → ④ 클라이언트가 활성화 처리: \(\mathcal{C}_a = ReLU(\mathcal{C}_i)\) → ⑤ 서버가 계속 전달: \(\mathcal{C}_o = \mathcal{M}(\mathcal{C}_a)\) → ⑥ 클라이언트가 결과 복호화: \(\mathcal{P}_o = Decrypt(\mathcal{C}_o, \mathcal{K})\)

여기서 성립 조건은 ReLU(Max) 단계에서만 클라이언트가 개입한다는 것이다. 논문은 "notably absent is the support of ReLU operations, where the server exchanges the activation results with the client"라고 명시하며, 그때마다 "all the communication between client and server is in ciphertext"임을 프라이버시 근거로 제시한다 (R12_THE_X.pdf Page5). 즉 이론적 보장의 범위는 HE + TLS 통신으로 한정되며, 통신 비용(라운드 트립 증가)은 저자도 인정하는 부담이다.

실험 설정: 저자가 실제로 무엇을 돌렸는가

  • 모델: BERT-tiny (Turc et al., 2019) — 2 layers, hidden size 128. 연산 효율·에너지 절감을 위한 데모 모델로 선택 (R12_THE_X.pdf Page6)
  • 태스크: GLUE 중 MRPC, SST-2, QQP, STS-B, MNLI, QNLI, RTE. WNLI는 선행 연구(Devlin et al., 2019; Turc et al., 2019)를 따라 제외, CoLA는 BERT-tiny의 용량 한계로 미보고 (footnote 1). 토큰 수준은 CoNLL2003 NER (R12_THE_X.pdf Page6)
  • 5개 평가 설정: Baseline(무치환) → ReLU(GELU만 치환) → ReLU-S(+softmax 추정망) → ReLU-S-L(+LN 근사) → HE(HE-transformer + SEAL 변환) (R12_THE_X.pdf Page6)
  • 하이퍼파라미터: batch {4, 8, 16, 32, 128}, learning rate {1e-4, 3e-4, 3e-5, 5e-5}, Adam weight decay {0.05, 0.1, 0.2, 0.4, 0.5}. HE 쪽은 Intel 추천값인 poly modules degree {1024, 2048, 4096, 8192, 16384}, coeff-modules {20, 30, 60} 탐색 (R12_THE_X.pdf Page6~Page7)

정량 결과: 어디서 얼마나 깨졌는가

GLUE 벤치마크 (BERT-tiny, development set, R12_THE_X.pdf Page6 Table 1)

Tasks |D| Type Baseline ReLU ReLU-S ReLU-S-L HE Perf ↓
SST-2 67k Sentiment 82.45 82.40 82.34 82.11 82.11 0.34
MRPC 3.7k Paraphrase 81.57/70.10 81.69/70.34 80.81/69.85 79.93/68.87 79.94/68.87 1.63/1.23
STS-B 7k Similarity 72.83/73.66 72.89/73.03 74.19/74.27 68.38/70.96 68.39/70.97 4.44/2.69
QQP 364k Paraphrase 80.28/84.03 79.55/82.89 79.38/83.36 78.28/83.75 78.33/83.63 1.95/0.40
MNLI 393k NLI 69.75/70.75 69.51/70.60 68.61/69.13 68.59/69.41 68.47/69.08 1.28/1.67
QNLI 108k NLI 78.38 78.35 78.33 78.33 78.20 0.18
RTE 2.5k NLI 58.56 58.32 58.27 58.12 58.12 0.44
Average 0.00 0.25 0.34 1.42 1.48 1.48

단계별 성능 저하 산식 (Average Perf ↓ 기준):

  • ReLU 치환: 0.25% (GELU→ReLU)
    • Softmax 추정망: 0.34 − 0.25 = 0.09% 추가
    • LayerNorm 근사: 1.42 − 0.34 = 1.08% 추가 ← 최대 기여 항목
    • HE 변환: 1.48 − 1.42 = 0.06% 추가 (저자는 "slight drop may be due to the sequence truncation"으로 추정)

CoNLL2003 NER (R12_THE_X.pdf Page6 Table 2)

설정 Precision Recall F1 Perf ↓
Raw 82.34 84.85 83.57 0
ReLU 82.29 85.13 83.69 -0.12
ReLU-S 82.08 84.73 83.38 0.19
ReLU-S-L / HE 79.65 83.79 81.67 1.90

흥미로운 점: ReLU 치환만 하면 F1이 0.12 오히려 향상된다. 다만 저자는 이를 "We assume the slight improvement may come from unexpected bias"라며 가설로만 제시하고, 확정적 해석은 피한다 (R12_THE_X.pdf Page7).

태스크 유형별 패턴: 저자는 분류 태스크(paraphrase·sentiment·NLI)에서 THE-X가 가장 잘 동작하고, 회귀 태스크(STS-B)에서 저하가 가장 크다고 관찰하며 "We assume the regression task needs a higher numerical precision than the classification task"라고 추정한다 (R12_THE_X.pdf Page7).

저자가 실험으로 확인한 두 개의 수치 함정

Negative Infinity: 마스크 값의 민감도

원본 Transformer는 masked token의 attention을 막기 위해 softmax 전에 attention score를 negative infinity로 채운다. 그런데 추정망은 큰 입력에 취약해 수치 재앙이 발생한다. 저자의 경험적 연구 결과, 원본 모델은 마스크 값에 둔감한 반면 근사법은 "extremely sensitive to the numerical changes"이며, 마스크 값이 너무 작으면 attention score에 bias로 작용해 또 다른 성능 저하가 나온다고 보고한다. 본문은 -2와 -5 사이의 중간값을 권고하고, Figure 4 캡션은 [-3, -5]를 기본 선택지로 제시한다 (R12_THE_X.pdf Page7).

CoNLL2003에서 마스크 값에 따른 성능 변화 — negative infinity 마스크가 근사 성능을 크게 저하시킴 (R12_THE_X.pdf Page7, Figure 4)

Attention Overflow: weight decay라는 트레이드오프

정규화 전 attention score는 [-1, 1] 주변에 조밀해야 정상이나, 저자는 1e4에 이르는 극단값을 관찰했다. 해결책은 Adam optimizer의 weight decay를 정규화로 쓰는 것이며, weight decay가 커질수록 attention score가 수렴하고 근사 결과가 좋아진다. 다만 저자는 "the larger weight decay may harm the performance on NLI tasks"라 명시해, 이것이 더 나은 근사 결과와 더 높은 성능 상한 사이의 trade-off임을 인정한다. NER 태스크에서는 큰 weight decay가 오히려 성능에 도움이 된다고 보고한다 (R12_THE_X.pdf Page7).

weight decay·워크플로우 스케줄에 따른 전 태스크 성능 변화 — regularization과 최적화 조직 방식이 근사 품질을 좌우함 (R12_THE_X.pdf Page8, Figure 5~6)

워크플로우 스케줄 비교: 왜 "2단계"가 기본값인가

저자가 비교한 4개 계획은 Two Stages(softmax 추정망 동결 후 2단계 LN 증류), Joint FT S, Joint FT LN, Joint FT S+LN(전부 1회 통합 최적화)이다. 결과적으로 개별 최적화("Two Stages")가 기본값으로 적합하며, 특히 STS-B에서는 softmax 추정망과 근사 LN을 함께 파인튜닝하면 approximation pipeline 자체를 완성하지 못하고 성능이 0.4%까지 하락한다. 저자는 그 원인을 "fine-tuning different components may fall into a bi-level optimization problem"으로 추정하며, softmax 추정망과 근사 LN을 "both critical components to the performance of THE-X, deserving individual optimization"으로 결론짓는다 (R12_THE_X.pdf Page8).

문제점 및 한계 — 저자가 스스로 인정한 것

  • 통신 비용: ReLU(Max)마다 클라이언트 왕복이 필요 — "Despite the communication cost"라는 단서가 붙어 있다 (R12_THE_X.pdf Page4)
  • 근사 오류 누적: LayerNorm이 multi-head attention 블록과 output dense layer 뒤에 반복 적용되므로 "the approximation error tends to accumulate when the transformer stacks with too many layers" (R12_THE_X.pdf Page5) — 실험이 2층 BERT-tiny에 그친 점을 감안하면 이 한계의 실측치는 문서에서 확인되지 않는다
  • 회귀 태스크 취약: STS-B에서 4.44%(Pearson)·2.69%(Spearman) 저하 — 분류 대비 높은 수치 정밀도 필요성 추정 (R12_THE_X.pdf Page7)
  • 모델·프레임워크 제약: 데모가 2층 BERT-tiny에 한정, HE 백엔드는 TensorFlow checkpoint 전용, CoLA 미보고 (R12_THE_X.pdf Page5, Page6)
  • 성능 저하의 원인 추정이 대부분 경험적: softmax 추정망의 F1 향상 원인("unexpected bias"), 회귀 저하 원인 등이 "We assume"로 표기된 가설이다 (R12_THE_X.pdf Page7)

관점 포인트 — 실무자가 짚어야 할 5가지

  • 성능 저하의 73%는 LayerNorm에서 나온다: 1.08 / 1.48 ≈ 73% — LN 근사 개선이 가장 큰 개선 여지 (R12_THE_X.pdf Page7)
  • HE 변환 자체의 추가 비용은 0.06%에 불과 — 병목은 암호화가 아니라 근사다 (R12_THE_X.pdf Page7)
  • 마스크 값은 -2~-5 구간 유지, negative infinity 사용 금지 (R12_THE_X.pdf Page7)
  • approximation 컴포넌트는 통합 최적화하지 말고 단계적으로 — 특히 회귀 태스크에서 통합 시 파이프라인 붕괴 위험 (R12_THE_X.pdf Page8)
  • 프라이버시 보장의 범위를 정확히 읽기: 이론적 보장은 HE의 semantic security와 TLS 통신에 근거하며, ReLU 단계의 클라이언트 개입·통신 라운드는 설계상 필수다 (R12_THE_X.pdf Page4~Page5)

최종 핵심 정리

확인해야 할 핵심 질문:

  • Q. THE-X의 두 핵심 아이디어는? → 사용자 기기의 HE 추론 투입(ReLU Max 처리) + 비다항 함수의 "simplified computation" 근사 (R12_THE_X.pdf Page3)
  • Q. 성능 저하가 가장 큰 컴포넌트는? → LayerNorm 근사, 평균 1.08% (R12_THE_X.pdf Page7)
  • Q. 저자가 실제 사용한 주 설정은? → BERT-tiny(2층, hidden 128), Two Stages 최적화, mask value [-2, -5], weight decay 정규화, CKKS + SEAL 백엔드 (R12_THE_X.pdf Page3, Page6~Page8)
  • Q. 선행 연구와의 차별점은? → DP·연합학습 계열이 학습 데이터 프라이버시와 성능 희생에 머물렀다면, THE-X는 추론 단계의 이론적 보장을 목표로 한 최초 작업이라 저자는 주장한다 (R12_THE_X.pdf Page2)
  • Q. 남은 한계는? → 통신 비용, 층 누적 오차, 회귀 태스크 취약, 2층 데모 모델 수준의 검증

한 줄 요약: THE-X는 "암호화 자체가 비싼 게 아니라, 비다항 함수를 다항으로 바꾸는 근사가 성능을 갉아먹는다"는 것을 정량으로 보여준 첫 작업이며, 그 근사 비용의 대부분(1.48% 중 1.08%)이 LayerNorm에 몰려 있다는 점이 실무적 시사점이다.