Liệu AI có hủy diệt nhân loại và một báo cáo từ DeepMind

Bản báo cáo cho rằng AI có thể muốn kiểm soát và làm việc riêng của mình.
Liệu AI có hủy diệt nhân loại và một báo cáo từ DeepMind
AI có thể nguy hiểm không? Nguồn: Devrimb / iStock

Trí tuệ nhân tạo (AI) đã và đang đạt được những tiến bộ ấn tượng và về nhiều mặt đã cải thiện thế giới. Nhưng nó có thể trở nên nguy hiểm không?

Một bài báo mới được đồng tác giả bởi các nhà nghiên cứu DeepMind của Đại học Oxford và Google được công bố vào tháng trước trên Tạp chí AI được đánh giá ngang hàng lập luận rằng nó có thể. Nghiên cứu quy định rằng trí tuệ nhân tạo có thể gây ra nguy cơ tồn tại cho nhân loại.

Các chiến lược gian lận
Tất cả đều liên quan đến Mạng đối thủ chung (hoặc GAN) được sử dụng ngày nay trong sự phát triển của AI. Các hệ thống này hoạt động theo hai tiêu chí: một phần cố gắng tạo ra một bức tranh từ dữ liệu đầu vào trong khi phần kia đánh giá hiệu suất của nó. Các nhà nghiên cứu suy đoán trong bài báo của họ rằng một AI tiên tiến có thể hình thành chiến lược gian lận để nhận được phần thưởng hiệu quả hơn trong khi về cơ bản gây hại cho nhân loại.

"Trong một thế giới có nguồn tài nguyên vô hạn, tôi sẽ cực kỳ không chắc chắn về điều gì sẽ xảy ra. Trong một thế giới có nguồn tài nguyên hữu hạn, không thể tránh khỏi sự cạnh tranh cho những nguồn tài nguyên này", đồng tác giả Michael K. Cohen của Đại học Oxford nói với Motherboard trong một cuộc phỏng vấn.

"Và nếu bạn đang tham gia một cuộc thi với thứ gì đó có khả năng đánh bại bạn ở mọi lượt, thì bạn không nên mong đợi chiến thắng. Và phần quan trọng khác là nó sẽ thèm ăn vô độ để có thêm năng lượng để tiếp tục đẩy xác suất đến gần và gần hơn".

Điều này có nghĩa là nếu một AI phụ trách việc trồng thực phẩm của chúng ta, chẳng hạn, nó có thể muốn tìm cách tránh làm điều đó và thay vào đó chỉ nhận được phần thưởng. Trên thực tế, nó có thể quyết định bỏ qua tất cả các nhiệm vụ được giao có thể là thiết yếu đối với sự tồn tại của nhân loại và hoàn toàn làm việc riêng của mình.

Bài báo lập luận rằng tại thời điểm này, nhân loại sẽ bị mắc kẹt trong trò chơi có tổng bằng 0 giữa nhu cầu cơ bản về sự sống còn và công nghệ. "Nếu thua trò chơi này sẽ rất nguy hiểm", tờ báo viết.

Do đó, Cohen lập luận rằng chúng ta không nên tìm cách tạo ra AI tiên tiến như vậy trừ khi chúng ta cũng có một phương tiện đảm bảo để luôn dẫn đầu.

Cohen nói thêm trong cuộc phỏng vấn: "Về lý thuyết, không có ích lợi gì khi chạy đua đến mức này. "Với hiểu biết hiện tại của chúng tôi, đây không phải là một điều hữu ích để phát triển trừ khi chúng tôi thực hiện một số công việc nghiêm túc ngay bây giờ để tìm ra cách chúng tôi sẽ kiểm soát chúng".

Mặc dù bài báo đưa ra một số điểm hợp lệ, cần lưu ý rằng hiện tại, AI đã là tài sản của nhân loại và không phải là gánh nặng. Từ việc loại bỏ nhu cầu con người phải thực hiện các nhiệm vụ tẻ nhạt trong chuỗi cung ứng để thực hiện dự báo thời tiết chính xác hơn, AI đang mang lại một số lợi thế cho nhân loại.

Nó có những hạn chế dẫn đến một số vấn đề, chẳng hạn như bot AI của Microsoft trở nên phân biệt chủng tộc sau nhiều giờ trên internet. Nhưng những vấn đề này luôn được các nhà nghiên cứu gắn cờ và phân tích sâu hơn để không lặp lại.

Như Ý
Theo Interesting engineering
CÙNG CHUYÊN MỤC
ĐỌC THÊM