Q:
Tại sao một số công ty dự tính thêm "điều khiển phản hồi của con người" vào các hệ thống AI hiện đại?
A:Một số công ty làm việc với công nghệ AI tiên tiến đang làm việc để tạo ra sự kiểm soát của con người đối với các hệ thống này, mang lại cho máy học và các công cụ học tập sâu một số sự giám sát trực tiếp của con người. Các công ty này cũng không phải là những người chơi nhỏ - DeepMind của Google và OpenAI của Elon Musk là hai ví dụ về các công ty lớn đang thực hiện các tiến bộ về trí tuệ nhân tạo. Với ý nghĩ đó, kết quả khác nhau - ví dụ, DeepMind là chủ đề gây tranh cãi vì nhận thấy không sẵn sàng cung cấp dữ liệu quan trọng cho công chúng, trong khi OpenAI thì tốt hơn nhiều, về công việc kiểm soát trí tuệ nhân tạo.
Ngay cả những điều đáng chú ý như Bill Gates đã cân nhắc về vấn đề này, Gates nói rằng ông là một trong nhiều người lo ngại về sự xuất hiện của một siêu trí tuệ nhân tạo có thể trong một số cách vượt ra ngoài tầm kiểm soát của con người. Về phần mình, Musk cũng đã đưa ra một số ngôn ngữ đáng báo động về khả năng AI lừa đảo AI.
Đó có lẽ là lý do cấp bách nhất mà các công ty đang nỗ lực để áp dụng các biện pháp kiểm soát của con người vào AI - ý tưởng rằng một số điểm kỳ dị về công nghệ sẽ dẫn đến một công nghệ tình cảm siêu mạnh mà con người không thể kiểm soát được nữa. Kể từ buổi bình minh của tham vọng của con người, chúng tôi đã đưa ra các công cụ để đảm bảo rằng chúng tôi có thể kiểm soát sức mạnh mà chúng tôi sử dụng - cho dù đó là ngựa với dây cương và dây nịt, điện trong dây cách điện hay bất kỳ loại cơ chế điều khiển nào khác, có điều khiển là một chức năng hoàn toàn của con người và do đó, nó có ý nghĩa trong thế giới rằng khi trí tuệ nhân tạo đến gần hơn với chức năng thực, con người áp dụng các điều khiển trực tiếp của riêng mình để kiểm soát sức mạnh đó.
Tuy nhiên, nỗi sợ robot siêu thông minh không phải là lý do duy nhất khiến các công ty áp dụng điều khiển của con người vào các dự án máy học và AI. Một lý do chính khác là sai lệch máy móc - đây là ý tưởng cho rằng các hệ thống trí tuệ nhân tạo thường bị giới hạn trong cách họ đánh giá dữ liệu được đề cập - để chúng khuếch đại bất kỳ sự thiên vị nào vốn có trong hệ thống. Hầu hết các chuyên gia đối phó với học máy có thể kể những câu chuyện kinh dị về các hệ thống CNTT không thể đối xử với các nhóm người dùng giống nhau - cho dù đó là sự chênh lệch giới tính hay sắc tộc, hoặc một số thất bại khác của hệ thống để thực sự hiểu được các sắc thái của xã hội loài người chúng ta và cách chúng ta tương tác với mọi người.
Theo một nghĩa nào đó, chúng ta có thể đặt sự kiểm soát của con người lên các hệ thống bởi vì chúng ta sợ chúng có thể quá mạnh - hoặc thay vào đó, bởi vì chúng ta sợ rằng chúng có thể không đủ mạnh. Kiểm soát của con người giúp nhắm mục tiêu các bộ dữ liệu học máy để cung cấp độ chính xác cao hơn. Chúng giúp củng cố các ý tưởng mà máy tính chỉ đơn giản là không thể tự học, vì mô hình không đủ tinh vi, vì AI không tiến bộ đủ xa, hoặc vì một số thứ chỉ nằm trong tỉnh nhận thức của con người. Trí thông minh nhân tạo là điều tuyệt vời đối với một số thứ - ví dụ, hệ thống dựa trên phần thưởng và điểm số cho phép trí thông minh nhân tạo đánh bại người chơi trong trò chơi cờ vô cùng phức tạp, trò chơi cờ vây - nhưng đối với những thứ khác, hệ thống dựa trên khuyến khích này là hoàn toàn không đầy đủ
Tóm lại, có rất nhiều lý do thuyết phục để giữ người dùng tham gia trực tiếp vào cách thức các dự án trí tuệ nhân tạo hoạt động. Ngay cả những công nghệ trí tuệ nhân tạo tốt nhất cũng có thể tự mình suy nghĩ - nhưng không có bộ não sinh học thực sự có thể xử lý những thứ như cảm xúc và công việc xã hội, họ chỉ đơn giản là không thể nhìn thấy bức tranh lớn theo cách của con người.
Một công ty máy học lành nghề có thể giúp đạt được sự cân bằng này với sự kết hợp giữa các chuyên gia kinh doanh và chủ đề và các nhà phát triển máy học với các kỹ năng để giải quyết các vấn đề kinh doanh lớn.
