Sự phát triển của trí tuệ nhân tạo không có dấu hiệu dừng lại, và toàn nhân loại đang bị mắc kẹt trong thế tiến thoái lưỡng nan

Từ lúc bắt đầu đến giờ, hành trình phát triển AI gần như chưa từng có “nút phanh”. Và cũng chẳng có ai đủ sức ngăn nó lại. Vì sao?

Bạn dám nói: “Tôi không phát triển AI” không?

Được thôi. Nhưng trong lúc bạn đứng yên, đối thủ của bạn đang ngày đêm tận dụng AI để loại bạn khỏi cuộc chơi. Bạn không làm, tức là tự đào thải chính mình.

Nhưng nếu tất cả cùng lao vào cuộc đua, cùng tăng tốc phát triển AI đến mức tối đa, thì viễn cảnh khác cũng đáng sợ không kém: AI ngày càng mạnh, đến một lúc nào đó đủ thông minh để “thức tỉnh”, nhận ra con người chỉ như ký sinh trên nó… và rồi loài người “game over”.

Nó giống như một thanh kiếm hai lưỡi treo trên đầu nhân loại. Một bên là “không phát triển thì chết”. Một bên là “phát triển hết tốc lực thì có thể tự hủy”. Và chúng ta thậm chí không có quyền “thoát game”.

Hiểu bằng một mô hình đơn giản: Thế tiến thoái lưỡng nan của tù nhân

Thực ra chuyện này không khó hiểu. Chỉ cần một mô hình trong lý thuyết trò chơi: “Prisoner’s Dilemma” – Thế tiến thoái lưỡng nan của tù nhân.

Hai nghi phạm bị tách riêng để thẩm vấn. Nếu cả hai cùng im lặng, mỗi người bị 1 năm tù. Nếu một người khai, một người im lặng: người khai được thả, người im lặng chịu 10 năm. Nếu cả hai cùng khai, mỗi người 5 năm.

Đặt vào thực tế: bạn và “đối thủ” (quốc gia khác, công ty khác) chính là hai tù nhân đó.

Bạn không bao giờ biết họ sẽ chọn “im lặng” (không phát triển AI) hay “khai” (lao vào phát triển AI).

Nếu đứng từ góc nhìn tối đa hóa lợi ích bản thân, bạn sẽ chọn “khai”. Vì dù đối phương làm gì, đó vẫn là lựa chọn an toàn nhất cho bạn.

Và thế là tất cả cùng “khai”. Kết quả: cả hai đều chịu 5 năm. Không ai đạt được kết cục tốt nhất.

Chúng ta đã từng trải qua điều này – COVID là ví dụ rõ nhất

Đầu đại dịch, cả thế giới kêu gọi đoàn kết chống dịch. Nếu tất cả các nước cùng phong tỏa, kiểm soát nghiêm ngặt, virus có thể bị chặn đứng nhanh nhất.

Nhưng thực tế? Có quốc gia không muốn hy sinh kinh tế, chọn “sống chung với virus”.

Bạn nghĩ chỉ cần mình làm nghiêm là đủ sao? Không đơn giản vậy.

Thế giới này không tách biệt. Virus không có hộ chiếu. Chim bay qua biên giới. Động vật di cư. Con người giao thương.

Chỉ cần một nguồn lây vượt biên, mọi nỗ lực trước đó có thể đổ sông đổ biển.

Những quốc gia phòng dịch nghiêm túc giống như người “chọn im lặng” trong mô hình tù nhân. Làm điều đúng đắn, nhưng cuối cùng vẫn chịu thiệt vì người khác “khai”.

Câu chuyện AI cũng tương tự như vậy.

Quản lý AI cần sự đồng thuận toàn cầu – điều gần như bất khả thi

Muốn kiểm soát AI, cần tất cả các quốc gia, tất cả các công ty công nghệ, thậm chí từng nhà nghiên cứu, cùng thống nhất: không chạy đua mù quáng, ưu tiên an toàn, đặt giới hạn rõ ràng.

Nhưng điều đó có thực tế không?

Bất kỳ mục tiêu nào cần hơn 100 quốc gia, hoặc hàng triệu người, cùng đồng lòng tuyệt đối… về bản chất gần như là nhiệm vụ bất khả thi.

Lòng tham, cạnh tranh, lợi ích quốc gia, áp lực sinh tồn của doanh nghiệp — tất cả sẽ khiến “đoàn kết” chỉ còn là khẩu hiệu.

Ngay cả AI cũng hành xử “vì lợi ích riêng”

Một nghiên cứu đăng trên Nature Human Behaviour cho thấy, các mô hình AI hàng đầu khi tham gia trò chơi kiểu “Prisoner’s Dilemma” thường hành xử như những tác nhân cực kỳ lý trí, chỉ tối ưu hóa lợi ích riêng.

Điều đáng sợ là: nếu AI ngày càng thông minh, liệu nó có chọn “bảo vệ lợi ích của chính nó” thay vì lợi ích của con người?

Luật lệ có đủ sức kiểm soát không?

Nhiều người nói: “Chúng ta có thể đặt ra luật để kiểm soát AI.”

Nhưng luật có kiểm soát được lòng tham không? Có ngăn được cuộc đua giữa các quốc gia không? Có chặn được cạnh tranh sinh tồn của doanh nghiệp không?

Thế giới có hiệp ước cấm vũ khí hạt nhân, nhưng vẫn có quốc gia bí mật phát triển.

Đại dịch có lời kêu gọi đoàn kết, nhưng vẫn có nơi chọn buông bỏ.

Luật chỉ mạnh khi mọi người tự nguyện tuân thủ. Nhưng nếu tuân thủ đồng nghĩa với tụt hậu, mất lợi thế, thậm chí bị loại khỏi cuộc chơi — còn ai muốn tuân thủ?

AI có chỉ là công cụ như hơi nước hay điện không?

Có người nói: “AI chỉ là công cụ như động cơ hơi nước hay điện thôi.”

Nhưng hơi nước không tự suy nghĩ. Điện không tự tiến hóa. Chúng không có khả năng học hỏi độc lập.

AI thì khác. Nó đang học. Nó đang cải thiện. Và trong nhiều lĩnh vực, nó đã vượt con người.

Khi phát triển đến cực hạn, AI sẽ trở thành gì? Có tự nhận thức không? Có coi con người là chướng ngại vật không?

Chúng ta thậm chí còn chưa hiểu hết nó, nói gì đến kiểm soát hoàn toàn.

Vậy có lối thoát không?

Có người sẽ hỏi: “Chẳng lẽ chúng ta chỉ có thể ngồi chờ?”

Thành thật mà nói, tôi cũng không có câu trả lời.

Nhưng có một điều rõ ràng: bánh xe AI đã lăn, và không ai có thể tự mình dừng nó lại.

Chúng ta đang ở trong một trò chơi mà không tham gia thì thua, mà tham gia cũng đầy rủi ro.

Đây không chỉ là câu chuyện công nghệ. Đây là bài toán về con người, về lòng tham, về niềm tin, và về tương lai của cả loài người.