Η αυτοματοποιημένη λήψη αποφάσεων (ADM) σύμφωνα με τον Γενικό Κανονισμό για την Προστασία Δεδομένων (GDPR) ορίζεται ως οποιαδήποτε απόφαση λαμβάνεται χωρίς ανθρώπινη παρέμβαση μέσω τεχνολογικών μέσων, όπως αλγόριθμοι ή τεχνητή νοημοσύνη. Παραδείγματα περιλαμβάνουν αυτοματοποιημένες προτάσεις προϊόντων και αλγοριθμική ανίχνευση απάτης στον τραπεζικό τομέα. Όπως ορίζεται στο Άρθρο 22 του GDPR, τα άτομα («υποκείμενα των δεδομένων») κατέχουν το δικαίωμα να μην υπόκεινται σε απόφαση που λαμβάνεται αποκλειστικά βάσει αυτοματοποιημένης επεξεργασίας, συμπεριλαμβανομένης της κατάρτισης προφίλ, ειδικά εάν τέτοιες αποφάσεις παράγουν έννομα αποτελέσματα ή τα επηρεάζουν σημαντικά.
Τρεις κύριοι λόγοι για τους οποίους επιτρέπεται η ADM:
- Εκτέλεση σύμβασης: Η ADM είναι απαραίτητη για τη σύναψη ή την εκτέλεση μιας σύμβασης μεταξύ του υποκειμένου των δεδομένων και μιας επιχείρησης.
- Νομική εξουσιοδότηση: Η ADM επιτρέπεται από το δίκαιο της Ένωσης ή του κράτους μέλους, όπως για την παρακολούθηση της φοροδιαφυγής.
- Ρητή συγκατάθεση: Το υποκείμενο των δεδομένων έχει δώσει ρητή συγκατάθεση για την επεξεργασία.
Παρατηρήθηκαν νομικές και πρακτικές επιπτώσεις:
- Οι επιχειρήσεις που αναπτύσσουν ADM πρέπει να διασφαλίζουν εγγυήσεις όπως ουσιαστική ανθρώπινη παρέμβαση, την ευκαιρία για τα άτομα να εκφράσουν τις απόψεις τους και τη δυνατότητα αμφισβήτησης των αποφάσεων.
- Το πεδίο εφαρμογής της «σημαντικής επίπτωσης» ερμηνεύεται ευρέως και μπορεί να περιλαμβάνει επιπτώσεις στην πιστοληπτική ικανότητα, τις ευκαιρίες απασχόλησης ή την πρόσβαση σε δημόσιες υπηρεσίες.
- Τα συστήματα ADM έχουν προκαλέσει ρυθμιστικό έλεγχο σχετικά με τη διαφάνεια, την αλγοριθμική μεροληψία και την επάρκεια των μηχανισμών συγκατάθεσης των χρηστών.
- Πρόσφατη εμπειρική έρευνα δείχνει ότι πολλοί οργανισμοί δεν διαθέτουν επαρκείς διαδικασίες για την πλήρη συμμόρφωση με το Άρθρο 22, ιδίως όσον αφορά την παροχή εξηγήσεων και αποτελεσματικών διαδικασιών αμφισβήτησης.
Συνοπτικά, ο GDPR περιορίζει την ADM που παράγει σημαντικές επιπτώσεις, εκτός εάν πληρούνται αυστηρές νομικές προϋποθέσεις και υπάρχουν ρητές διασφαλίσεις. Η βιβλιογραφία τονίζει τις συνεχιζόμενες προκλήσεις στην εφαρμογή αυτών των διασφαλίσεων και στη διασφάλιση ουσιαστικής ανθρώπινης εποπτείας.
