Geautomatiseerde besluitvorming (ADM) onder de General Data Protection Regulation (GDPR) wordt gedefinieerd als elke beslissing die wordt genomen zonder menselijke tussenkomst door technologische middelen zoals algoritmen of kunstmatige intelligentie. Voorbeelden zijn geautomatiseerde productaanbevelingen en algoritmische fraudedetectie in het bankwezen. Zoals gespecificeerd in artikel 22 van de GDPR, hebben individuen (“betrokkenen”) het recht om niet te worden onderworpen aan een besluit dat uitsluitend is gebaseerd op geautomatiseerde verwerking, inclusief profilering, vooral als dergelijke beslissingen rechtsgevolgen hebben of hen in aanzienlijke mate treffen.
Drie hoofdbeginselen op basis waarvan ADM is toegestaan:
- Uitvoering van een overeenkomst: ADM is noodzakelijk voor de totstandkoming of uitvoering van een overeenkomst tussen de betrokkene en een bedrijf.
- Wettelijke machtiging: ADM is toegestaan door het recht van de Unie of van een lidstaat, zoals voor het toezicht op belastingontduiking.
- Uitdrukkelijke toestemming: De betrokkene heeft uitdrukkelijke toestemming gegeven voor de verwerking.
Juridische en praktische implicaties werden waargenomen:
- Bedrijven die ADM inzetten, moeten waarborgen bieden zoals zinvolle menselijke tussenkomst, de mogelijkheid voor individuen om hun standpunt kenbaar te maken, en de mogelijkheid om beslissingen aan te vechten.
- De reikwijdte van “aanzienlijk gevolg” wordt ruim geïnterpreteerd en kan gevolgen omvatten voor kredietwaardigheid, werkgelegenheidskansen of toegang tot openbare diensten.
- ADM-systemen hebben geleid tot toezicht door regelgevende instanties op transparantie, algoritmische vooringenomenheid en de deugdelijkheid van mechanismen voor gebruikerstoestemming.
- Recent empirisch onderzoek toont aan dat veel organisaties niet over adequate processen beschikken om volledig te voldoen aan artikel 22, met name wat betreft het verstrekken van uitleg en effectieve aanvechtingsprocedures.
Samengevat, beperkt de GDPR ADM die aanzienlijke gevolgen heeft, tenzij aan strikte wettelijke voorwaarden wordt voldaan en er expliciete waarborgen zijn getroffen. De literatuur benadrukt de aanhoudende uitdagingen bij het operationaliseren van deze waarborgen en het verzekeren van zinvol menselijk toezicht.
