Il processo decisionale automatizzato (ADM) ai sensi del Regolamento generale sulla protezione dei dati (GDPR) è definito come qualsiasi decisione presa senza intervento umano attraverso mezzi tecnologici come algoritmi o intelligenza artificiale. Gli esempi includono raccomandazioni automatiche di prodotti e il rilevamento algoritmico delle frodi nel settore bancario. Come specificato nell'articolo 22 del GDPR, gli individui (“interessati”) possiedono il diritto di non essere sottoposti a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, specialmente se tali decisioni producono effetti giuridici o li riguardano in modo significativo.
Tre motivi principali in base ai quali l'ADM è consentito:
- Esecuzione di un contratto: L'ADM è necessario per la stipula o l'esecuzione di un contratto tra l'interessato e un'azienda.
- Autorizzazione legale: L'ADM è autorizzato dal diritto dell'Unione o degli Stati membri, ad esempio per il monitoraggio dell'evasione fiscale.
- Consenso esplicito: L'interessato ha prestato il proprio consenso esplicito al trattamento.
Sono state osservate implicazioni legali e pratiche:
- Le aziende che implementano l'ADM devono garantire tutele come un intervento umano significativo, l'opportunità per gli individui di esprimere il proprio punto di vista e la possibilità di contestare le decisioni.
- L'ambito dell'“effetto significativo” è interpretato in senso ampio e può includere impatti sull'affidabilità creditizia, sulle opportunità di lavoro o sull'accesso ai servizi pubblici.
- I sistemi ADM hanno innescato un controllo normativo sulla trasparenza, sui pregiudizi algoritmici e sull'adeguatezza dei meccanismi di consenso degli utenti.
- Recenti ricerche empiriche indicano che molte organizzazioni non dispongono di processi adeguati per conformarsi pienamente all'articolo 22, in particolare per quanto riguarda la fornitura di spiegazioni e procedure di contestazione efficaci.
In sintesi, il GDPR limita l'ADM che produce effetti significativi a meno che non siano soddisfatte rigide condizioni legali e non siano in vigore tutele esplicite. La letteratura evidenzia le continue sfide nell'operazionalizzare queste tutele e nel garantire una supervisione umana significativa.
