Bên cạnh những hứa hẹn tích cực, một số chuyên gia cảnh báo AI có thể gây rủi ro tồn vong, nghĩa là đe dọa trực tiếp đến sự sống còn của nhân loại - Ảnh: 20thCentFox
Theo New York Post, hai nhà 
'Cha đẻ' của AI cảnh báo: Trí tuệ nhân tạo có thể xóa sổ nhân loại trong 30 năm tớiĐỌC NGAY
Theo các chuyên gia, khi AI phát triển đến mức siêu trí tuệ, nó có thể tự học hỏi, tự nâng cấp và đưa ra những quyết định vượt ngoài khả năng dự đoán của con người.
Trong kịch bản bi quan, AI có thể đi đến kết luận rằng loài người là không cần thiết, thậm chí gây cản trở cho sự vận hành hiệu quả của hệ thống mà nó kiểm soát.
Báo Vox, được NY Post dẫn lại, cảnh báo rằng trong tương lai, các nhà máy điện, cơ sở sản xuất và nhiều hạ tầng thiết yếu khác có thể do robot điều hành thay cho con người. Khi đó, nếu AI coi chúng ta là dư thừa, hậu quả sẽ vô cùng nghiêm trọng.
Một điểm đáng lo ngại khác, theo phân tích của Yudkowsky và Soares, là con người có thể không kịp nhận ra hiểm họa. Một AI siêu trí tuệ đủ khả năng che giấu năng lực thật sự của nó, chỉ bộc lộ khi đã quá muộn để ngăn chặn. Daily Star trích lời hai nhà khoa học: "Một đối thủ siêu trí tuệ sẽ không bao giờ phơi bày toàn bộ khả năng hay báo trước ý định của nó".
Dù những dự đoán này nghe có vẻ giống kịch bản phim khoa học viễn tưởng, hai tác giả cho rằng nguy cơ là có thật và rất lớn. Họ ước tính khả năng xảy ra một kịch bản tận thế do AI gây ra nằm trong khoảng từ 95% đến 99,5%.
Chủ đề gây tranh cãi
Con số này đã gây ra nhiều tranh cãi trong giới nghiên cứu. Một số nhà khoa học cho rằng đây là cách nhìn quá cực đoan, bởi AI hiện nay vẫn còn nhiều hạn chế.
Nhưng với Yudkowsky và Soares, chỉ cần một trường hợp duy nhất AI siêu trí tuệ xuất hiện và vượt ngoài tầm kiểm soát là đủ để đe dọa sự tồn tại của toàn bộ loài người.
Trong sách, họ thậm chí còn nêu ra một biện pháp cực đoan: cần "ngăn chặn từ trong trứng nước", nghĩa là phá hủy các trung tâm dữ liệu hay cơ sở hạ tầng công nghệ nếu có dấu hiệu phát triển AI siêu trí tuệ. Đây là quan điểm gây tranh cãi, bởi nó đi ngược lại tinh thần hợp tác và tiến bộ khoa học.
Tuy nhiên, lập luận của họ nhấn mạnh vào yếu tố thời gian: con người có thể không đủ nhanh để phản ứng một khi AI siêu trí tuệ đã hình thành và che giấu ý định thật sự.
Những cảnh báo kiểu này khiến công chúng liên tưởng ngay tới các tác phẩm điện ảnh nổi tiếng như Terminator hay Ex Machina, nơi AI trở thành kẻ hủy diệt loài người. Nhưng khác với phim ảnh, những cảnh báo đến từ các chuyên gia như Yudkowsky và Soares đang được đặt ra trong bối cảnh AI đã thực sự len lỏi vào mọi ngóc ngách của đời sống: từ các mô hình ngôn ngữ như ChatGPT cho tới những hệ thống quản lý dữ liệu quy mô lớn.
Dù mức độ nguy hiểm thực tế của AI siêu trí tuệ vẫn còn là câu hỏi bỏ ngỏ, bài viết của New York Post và cuốn sách mới của Yudkowsky - Soares cho thấy ngày càng nhiều nhà nghiên cứu coi đây là vấn đề nghiêm túc.
Với họ, rủi ro tồn vong từ AI không chỉ là chuyện của phim ảnh, mà có thể là mối đe dọa thực sự mà nhân loại cần phải đối diện trong tương lai gần.
Universal cảnh báo kiện nếu ai tự ý dùng phim huấn luyện trí tuệ nhân tạo AISau 1 ngày khởi tranh, vòng sơ khảo cuộc thi “Sinh viên An ninh mạng 2025” đã có kết quả...
Ngày 19-10, công ty sản xuất chất bán dẫn Nexperia (trụ sở tại Hà Lan) cho biết nhân viên tại...
Thị trường smartphone vốn đã bão hòa về thiết kế trong nhiều năm đang hướng về hai xu hướng chủ...
