Що таке машинне навчання зі збереженням конфіденційності?

Машинне навчання зі збереженням конфіденційності (PPML) охоплює методології, розроблені для полегшення спільного навчання моделей машинного навчання, одночасно захищаючи конфіденційні дані від розкриття чи витоку. Критична проблема, яку вирішує PPML, полягає в збалансуванні корисності спільного навчання моделі та ризику розкриття приватної інформації.

Основні методи, що застосовуються в PPML, включають:

• Диференційна приватність (DP): DP додає відкалібрований шум до наборів даних або вихідних даних моделі, приховуючи внесок окремих точок даних. Як визначають Dwork et al. (2006), “диференційна приватність гарантує, що видалення або додавання одного елемента бази даних суттєво не впливає на результат.” Цей механізм ефективно знижує ризики повторної ідентифікації, що є критично важливим при роботі з персональними даними (PII). Емпіричні результати показують, що DP може підтримувати точність моделі в допустимих межах, надаючи кількісно оцінені гарантії конфіденційності.

• Федеративне навчання (FL): FL уможливлює децентралізоване навчання моделі, дозволяючи локальним пристроям або вузлам обчислювати оновлення незалежно, не передаючи необроблені дані. McMahan et al. (2017) показують, що “федеративне навчання може досягти конкурентоспроможної продуктивності моделі, зберігаючи дані локалізованими.” FL зменшує ризики розкриття даних і за своєю суттю відповідає нормативним вимогам, таким як GDPR.

• Гомоморфне шифрування (HE): HE полегшує обчислення безпосередньо на зашифрованих даних, зберігаючи конфіденційність під час обробки. Піонерська робота Gentry (2009) стверджує, що “повністю гомоморфне шифрування дозволяє виконувати довільні обчислення над шифротекстами, генеруючи зашифрований результат, який після розшифрування відповідає результату операцій, виконаних над відкритими текстами.” Хоча інтеграція HE в конвеєри PPML є обчислювально складною, вона забезпечує надійну конфіденційність без шкоди для корисності даних.

Взаємодія цих методів уможливлює нові фреймворки PPML, в яких:

• Кілька зацікавлених сторін спільно навчають моделі, не обмінюючись необробленими даними.
• Гарантії конфіденційності є математично вимірюваними та регульованими.
• Власники даних зберігають контроль над своєю конфіденційною інформацією протягом усього життєвого циклу машинного навчання.

Недавні дослідження [Bonawitz et al., 2019] емпірично підтвердили, що поєднання FL з протоколами безпечної агрегації та диференційною приватністю дає масштабовані, практичні рішення для збереження конфіденційності в реальних застосунках.

Таким чином, критичний внесок PPML полягає в уможливленні ефективного машинного навчання при систематичному зниженні ризиків для конфіденційності — баланс, необхідний для таких чутливих сфер застосування, як охорона здоров'я, фінанси та персоналізовані послуги.