Bạn có thể tin tưởng AI? Bạn có nên chấp nhận kết quả của nó là hợp lệ khách quan mà không có câu hỏi? Vấn đề là ngay cả việc đặt câu hỏi cho chính AI cũng không mang lại câu trả lời rõ ràng.
Các hệ thống AI thường hoạt động giống như một hộp đen: Dữ liệu là đầu vào và dữ liệu là đầu ra, nhưng các quá trình biến đổi dữ liệu đó là một bí ẩn. Điều đó tạo ra một vấn đề gấp đôi. Một là không rõ hiệu suất của thuật toán nào đáng tin cậy nhất. Khác là các kết quả dường như khách quan có thể bị sai lệch bởi các giá trị và thành kiến của con người lập trình các hệ thống. Đây là lý do tại sao cần có sự minh bạch cho các quy trình suy nghĩ ảo mà các hệ thống đó sử dụng, hoặc AI có thể giải thích được.
Điều bắt buộc về đạo đức đã trở thành một pháp lý cho bất kỳ ai chịu GDPR, điều này ảnh hưởng đến không chỉ các doanh nghiệp có trụ sở tại EU mà bất kỳ doanh nghiệp nào có giao dịch với người dân hoặc tổ chức ở đó. Nó có một số quy định về bảo vệ dữ liệu mở rộng cho công dân EU, quyền không chỉ chịu sự ra quyết định tự động, ngoại trừ trong một số tình huống nhất định .
