Việc ra quyết định tự động (ADM) theo Quy định chung về bảo vệ dữ liệu (GDPR) được định nghĩa là bất kỳ quyết định nào được đưa ra mà không có sự can thiệp của con người thông qua các phương tiện công nghệ như thuật toán hoặc trí tuệ nhân tạo. Các ví dụ bao gồm đề xuất sản phẩm tự động và phát hiện gian lận bằng thuật toán trong ngành ngân hàng. Theo quy định tại Điều 22 của GDPR, các cá nhân (“chủ thể dữ liệu”) có quyền không phải chịu một quyết định chỉ dựa trên xử lý tự động, bao gồm cả việc lập hồ sơ, đặc biệt nếu các quyết định đó tạo ra hiệu lực pháp lý hoặc ảnh hưởng đáng kể đến họ.
Ba cơ sở chính mà theo đó ADM được cho phép:
- Thực hiện hợp đồng: ADM là cần thiết để tham gia vào, hoặc thực hiện một hợp đồng giữa chủ thể dữ liệu và một doanh nghiệp.
- Ủy quyền pháp lý: ADM được luật pháp của Liên minh hoặc Quốc gia thành viên cho phép, chẳng hạn như để giám sát hành vi trốn thuế.
- Sự đồng ý rõ ràng: Chủ thể dữ liệu đã đưa ra sự đồng ý rõ ràng cho việc xử lý.
Các hàm ý pháp lý và thực tiễn đã được quan sát:
- Các doanh nghiệp triển khai ADM phải đảm bảo các biện pháp bảo vệ như sự can thiệp có ý nghĩa của con người, cơ hội để các cá nhân bày tỏ quan điểm của họ, và khả năng phản đối các quyết định.
- Phạm vi của “ảnh hưởng đáng kể” được giải thích một cách rộng rãi và có thể bao gồm các tác động đến khả năng tín dụng, cơ hội việc làm, hoặc quyền truy cập vào các dịch vụ công.
- Các hệ thống ADM đã gây ra sự giám sát chặt chẽ của cơ quan quản lý về tính minh bạch, sự thiên vị của thuật toán, và sự đầy đủ của các cơ chế đồng ý của người dùng.
- Nghiên cứu thực nghiệm gần đây chỉ ra rằng nhiều tổ chức thiếu các quy trình đầy đủ để tuân thủ hoàn toàn Điều 22, đặc biệt là về việc cung cấp giải thích và các thủ tục phản đối hiệu quả.
Tóm lại, GDPR hạn chế ADM tạo ra các ảnh hưởng đáng kể trừ khi các điều kiện pháp lý nghiêm ngặt được đáp ứng và các biện pháp bảo vệ rõ ràng được áp dụng. Các tài liệu nhấn mạnh những thách thức đang diễn ra trong việc vận hành các biện pháp bảo vệ này và đảm bảo sự giám sát có ý nghĩa của con người.
