یادگیری ماشین حافظ حریم خصوصی چیست؟

یادگیری ماشین حافظ حریم خصوصی (PPML) شامل روش‌هایی است که برای تسهیل آموزش مشترک مدل‌های یادگیری ماشین طراحی شده‌اند و در عین حال از داده‌های حساس در برابر افشا یا نشت محافظت می‌کنند. چالش اساسی که PPML به آن می‌پردازد، ایجاد تعادل بین سودمندی آموزش مدل اشتراکی و خطر افشای اطلاعات خصوصی است.

تکنیک‌های اصلی به کار رفته در PPML عبارتند از:

• حریم خصوصی تفاضلی (DP): DP نویز کالیبره شده‌ای را به مجموعه داده‌ها یا خروجی‌های مدل اضافه می‌کند و سهم تک‌تک نقاط داده را پنهان می‌سازد. همانطور که Dwork et al. (۲۰۰۶) تعریف می‌کنند، “حریم خصوصی تفاضلی تضمین می‌کند که حذف یا افزودن یک آیتم واحد از پایگاه داده، تأثیر قابل توجهی بر نتیجه نخواهد داشت.” این مکانیزم به طور مؤثری خطرات شناسایی مجدد را کاهش می‌دهد، که هنگام کار با اطلاعات قابل شناسایی شخصی (PII) امری حیاتی است. نتایج تجربی نشان می‌دهد که DP می‌تواند دقت مدل را در محدوده‌های قابل قبول حفظ کند و در عین حال تضمین‌های حریم خصوصی کمی را ارائه دهد.

• یادگیری فدرال (FL): FL آموزش غیرمتمرکز مدل را با اجازه دادن به دستگاه‌ها یا گره‌های محلی برای محاسبه مستقل به‌روزرسانی‌ها بدون انتقال داده‌های خام، امکان‌پذیر می‌سازد. McMahan et al. (۲۰۱۷) نشان می‌دهند که “یادگیری فدرال می‌تواند به عملکرد رقابتی مدل دست یابد و در عین حال داده‌ها را محلی نگه دارد.” FL خطرات افشای داده را کاهش می‌دهد و به طور پیش‌فرض با الزامات نظارتی مانند GDPR مطابقت دارد.

• رمزنگاری همومورفیک (HE): HE محاسبات را مستقیماً روی داده‌های رمزنگاری شده تسهیل می‌کند و محرمانگی را در طول پردازش حفظ می‌نماید. کار پیشگامانه Gentry (۲۰۰۹) بیان می‌کند، “رمزنگاری کاملاً همومورفیک امکان محاسبات دلخواه بر روی متون رمزنگاری شده را فراهم می‌کند و یک نتیجه رمزنگاری شده تولید می‌کند که پس از رمزگشایی، با نتیجه عملیات انجام شده بر روی متون ساده مطابقت دارد.” اگرچه از نظر محاسباتی سنگین است، اما ادغام HE در خطوط لوله PPML، حریم خصوصی قدرتمندی را بدون به خطر انداختن سودمندی داده‌ها ارائه می‌دهد.

تعامل این روش‌ها، چارچوب‌های جدید PPML را امکان‌پذیر می‌سازد که در آن‌ها:

• ذی‌نفعان متعدد به طور مشترک مدل‌ها را بدون به اشتراک گذاشتن داده‌های خام آموزش می‌دهند.
• تضمین‌های حریم خصوصی از نظر ریاضی قابل اندازه‌گیری و تنظیم هستند.
• صاحبان داده کنترل اطلاعات حساس خود را در سراسر چرخه عمر یادگیری ماشین حفظ می‌کنند.

مطالعات اخیر [Bonawitz et al.، 2019] به طور تجربی تأیید کرده‌اند که ترکیب FL با پروتکل‌های تجمیع امن و حریم خصوصی تفاضلی، راه‌حل‌های مقیاس‌پذیر و عملی برای حفظ حریم خصوصی در کاربردهای دنیای واقعی به دست می‌دهد.

به طور خلاصه، سهم حیاتی PPML در امکان‌پذیر ساختن یادگیری ماشین مؤثر و در عین حال کاهش سیستماتیک خطرات حریم خصوصی است، تعادلی که برای کاربردهای حساس مانند مراقبت‌های بهداشتی، مالی و خدمات شخصی‌سازی شده ضروری است.