August 9, 2025
2 min read
프라이버시 보존 머신 러닝(PPML)은 민감한 데이터의 노출이나 유출을 방지하면서 머신 러닝 모델의 협업 훈련을 촉진하도록 설계된 방법론을 포함합니다. PPML이 해결해야 할 중요한 과제는 공유 모델 훈련의 유용성과 개인 정보 노출 위험 사이의 균형을 맞추는 데 있습니다.
PPML에 사용되는 주요 기술은 다음과 같습니다.
차등 개인정보 보호(DP): DP는 데이터 세트 또는 모델 출력에 보정된 노이즈를 도입하여 개별 데이터 포인트의 기여도를 모호하게 만듭니다. Dwork 등이 (2006) 정의한 바와 같이, “차등 개인정보 보호는 단일 데이터베이스 항목의 제거 또는 추가가 결과에 큰 영향을 미치지 않음을 보장합니다.” 이 메커니즘은 개인 식별 정보(PII)를 처리할 때 중요한 재식별 위험을 효과적으로 완화합니다. 경험적 결과에 따르면 DP는 정량화된 프라이버시 보장을 제공하면서 허용 가능한 한도 내에서 모델 정확도를 유지할 수 있습니다.
연합 학습(FL): FL은 로컬 장치나 노드가 원시 데이터를 전송하지 않고 독립적으로 업데이트를 계산할 수 있도록 하여 분산된 모델 훈련을 가능하게 합니다. McMahan 등이 (2017) 보인 바와 같이, “연합 학습은 데이터를 로컬에 유지하면서 경쟁력 있는 모델 성능을 달성할 수 있습니다.” FL은 데이터 노출 위험을 줄이고 설계상 GDPR과 같은 규제 요건을 준수합니다.
동형 암호(HE): HE는 암호화된 데이터에 대한 직접적인 계산을 용이하게 하여 처리 중 기밀성을 보존합니다. Gentry의 선구적인 연구(2009)에 따르면, “완전 동형 암호는 암호문에 대한 임의의 계산을 허용하여 암호화된 결과를 생성하며, 이 결과를 해독하면 일반 텍스트에 대해 수행된 작업의 결과와 일치합니다.” 계산 집약적이지만, HE를 PPML 파이프라인에 통합하면 데이터 유용성을 저하시키지 않으면서 강력한 프라이버시를 제공합니다.
이러한 방법들의 상호 작용은 다음과 같은 새로운 PPML 프레임워크를 가능하게 합니다.
최근 연구[Bonawitz et al., 2019]에서는 FL을 보안 집계 프로토콜 및 차등 개인정보 보호와 결합하면 실제 애플리케이션에서 프라이버시 보존을 위한 확장 가능하고 실용적인 솔루션을 얻을 수 있음을 경험적으로 검증했습니다.
요약하자면, PPML의 핵심 기여는 체계적으로 프라이버시 위험을 완화하면서 효과적인 머신 러닝을 가능하게 하는 것에 있으며, 이는 의료, 금융 및 개인화 서비스와 같은 민감한 애플리케이션에 필수적인 균형입니다.
