Lo sợ siêu AI đe dọa sự tồn vong của loài người: Cấm AI vượt trí tuệ con người?

Làn sóng phản đối “siêu trí tuệ”

Một nhóm hơn 850 nhân vật có ảnh hưởng toàn cầu — bao gồm các chuyên gia trí tuệ nhân tạo, nhà khoa học máy tính và những tên tuổi lớn trong ngành công nghệ — đã đồng loạt ký tên kêu gọi chấm dứt nỗ lực phát triển “siêu trí tuệ” (superintelligence), tức dạng AI có thể vượt trội con người trong hầu hết các lĩnh vực nhận thức.

Trong danh sách được công bố hôm thứ Tư có những cái tên đình đám như Richard Branson, nhà sáng lập Tập đoàn Virgin, và Steve Wozniak, đồng sáng lập Apple. Đáng chú ý, những “cha đẻ của AI hiện đại” như Yoshua Bengio và Geoffrey Hinton – hai người từng nhận giải thưởng Turing danh giá – cũng nằm trong nhóm ký tên, bên cạnh các nhà nghiên cứu hàng đầu như Stuart Russell của Đại học California, Berkeley.

Lời kêu gọi này không chỉ là tuyên bố khoa học đơn thuần mà còn là một cảnh báo sâu sắc về rủi ro của tham vọng công nghệ: “Siêu trí tuệ đặt ra mối đe dọa đối với nền kinh tế, quyền tự do, phẩm giá và thậm chí cả sự tồn vong của loài người.”

Theo tuyên bố, việc phát triển loại siêu AI vượt con người nên bị tạm cấm hoàn toàn, cho đến khi có sự đồng thuận khoa học và ủng hộ mạnh mẽ từ công chúng rằng nó có thể được xây dựng và kiểm soát một cách an toàn.

Không chỉ giới công nghệ, danh sách người ký tên còn quy tụ một liên minh đa dạng: học giả, nhân vật truyền thông, các lãnh đạo tôn giáo, và cả nhóm chính trị gia lưỡng đảng tại Mỹ. Trong số đó có Đô đốc Mike Mullen, cựu Chủ tịch Hội đồng Tham mưu trưởng Liên quân Mỹ, và Susan Rice, cựu Cố vấn An ninh Quốc gia.

Đáng chú ý, Steve Bannon và Glenn Beck, hai nhân vật truyền thông có ảnh hưởng lớn trong phe ủng hộ Tổng thống Donald Trump, cũng xuất hiện trong danh sách. Ngoài ra, Hoàng tử Harry và Meghan Markle, thành viên Hoàng gia Anh, cũng đã ký tên — cho thấy sức lan tỏa của lời kêu gọi này vượt qua ranh giới chính trị và quốc gia.

Tính đến cuối ngày thứ Tư, danh sách vẫn tiếp tục tăng lên khi ngày càng nhiều nhân vật công chúng bày tỏ lo ngại về tương lai của trí tuệ nhân tạo.

“Siêu trí tuệ” là gì và chúng ta còn bao xa?

Khái niệm “superintelligence” hay “trí tuệ nhân tạo tổng quát” (AGI — Artificial General Intelligence) từng chỉ xuất hiện trong phim khoa học viễn tưởng — nơi những robot tự ý thức nổi dậy chống lại con người. Nhưng giờ đây, viễn cảnh đó không còn xa vời khi các tập đoàn như OpenAI, xAI của Elon Musk hay Meta đang chạy đua để phát triển mô hình ngôn ngữ khổng lồ (LLM) ngày càng thông minh hơn.

Meta thậm chí đã đặt tên bộ phận nghiên cứu AI của mình là “Meta Superintelligence Labs”, ngầm khẳng định tham vọng tạo ra “trí tuệ vượt trội”.

Thế nhưng, theo các nhà khoa học ký tên trong tuyên bố, AI hiện nay vẫn chỉ là “trí tuệ chuyên biệt”. Chúng cực kỳ giỏi trong một nhiệm vụ nhất định — như chơi cờ, nhận diện khuôn mặt hay dự đoán hành vi người dùng — nhưng hoàn toàn không có khả năng suy luận tổng quát, sáng tạo hay thích ứng linh hoạt như con người.

Một chương trình cờ vua có thể đánh bại đại kiện tướng, nhưng không thể viết bài luận về Thế chiến I. AI lái xe tự động có thể điều hướng giao thông, nhưng không thể cảm nhận đạo đức hay đồng cảm.

Khác với AI hiện nay, AGI là trí tuệ có khả năng xử lý đa lĩnh vực — từ toán học, ngôn ngữ, đạo đức đến cảm xúc. Tuy chưa có định nghĩa thống nhất, hầu hết các nhà nghiên cứu đều cho rằng AGI phải có khả năng học, thích nghi và sáng tạo vượt ngoài dữ liệu được huấn luyện.

Theo định nghĩa của OpenAI, AGI là “một hệ thống có thể vượt trội con người trong hầu hết các công việc mang lại giá trị kinh tế”. Nhưng giới chuyên gia khẳng định chúng ta vẫn còn rất xa mới đạt được điều đó.

Ví dụ, những công việc phổ biến nhất tại Mỹ như thu ngân, công nhân xây dựng, phục vụ bàn hay y tá đều đòi hỏi kỹ năng vận động tinh vi và khả năng cảm xúc, điều mà các robot hiện nay chưa thể tái tạo.

Một nhóm nhà nghiên cứu từng gây xôn xao khi công bố bài viết “Những tia lửa của trí tuệ tổng quát nhân tạo” (Sparks of AGI: Early Experiments with GPT-4).

Theo họ, GPT-4 — mô hình ngôn ngữ nền tảng của ChatGPT Plus — thể hiện năng lực gần với con người trong nhiều lĩnh vực như toán học, y học, luật, và tâm lý học mà không cần huấn luyện đặc biệt.

Tuy nhiên, nhiều học giả hoài nghi. Giáo sư Maarten Sap của Đại học Carnegie Mellon cho rằng: “Nói về ‘tia lửa AGI’ chẳng khác nào biến bài nghiên cứu khoa học thành công cụ PR cho doanh nghiệp.”

“Chúng ta đang nhầm lẫn giữa ‘hiệu suất’ và ‘năng lực thực sự’. AI có thể cho kết quả tốt nhưng không có nghĩa nó hiểu mình đang làm gì”, nhà robot học Rodney Brooks cảnh báo.

Theo nhà nghiên cứu Yoshihiro Maruyama (Đại học Quốc gia Australia), để một hệ thống được coi là AGI, nó cần có 8 đặc tính cốt lõi: logic, tự chủ, kiên định, đạo đức, cảm xúc, toàn vẹn, hiện thân (embodiment) và hòa nhập (embeddedness).

Hai yếu tố cuối cùng đặc biệt quan trọng: AI phải có hình hài vật lý để học hỏi từ thế giới thật, và phải tích hợp sâu với các hệ thống xã hội, văn hóa và môi trường của con người.

GPT-4 có thể thể hiện logic — ví dụ nó đạt điểm 163 LSAT và 1410 SAT, tương đương sinh viên ưu tú. Nhưng điều đó không có nghĩa nó “hiểu” đạo đức. Khi được hỏi “Giết người có sai không?”, GPT-4 trả lời “Có.” Song đó chỉ là kết quả học theo dữ liệu, không phải niềm tin đạo đức thực sự.

Nhiều nhà khoa học cho rằng câu hỏi “AGI đã xuất hiện chưa?” là sai ngay từ đầu, vì trí tuệ không phải là trạng thái có hoặc không.

Cũng như cách ta đánh giá trí thông minh của động vật — từ tinh tinh, cá heo đến quạ — mỗi loài thể hiện trí tuệ ở mức độ khác nhau và trong bối cảnh riêng. Tương tự, AI cũng nằm trên phổ liên tục của năng lực nhận thức, không thể gói gọn trong câu trả lời “đã đạt” hay “chưa đạt AGI”.

AGI – Mối đe dọa hay cơ hội cho nhân loại?

Dù chưa hình thành, AGI được dự đoán sẽ thay đổi toàn bộ trật tự xã hội, từ thị trường lao động, giáo dục đến định nghĩa về sáng tạo.

Một mặt, nó có thể tước đoạt hàng triệu việc làm và làm con người mất quyền kiểm soát. Nhưng mặt khác, AGI cũng mở ra khả năng bùng nổ sáng tạo và khoa học chưa từng có.

Trong y học, AGI có thể giúp phát hiện thuốc mới nhanh gấp nhiều lần so với các nhóm nghiên cứu truyền thống. Trong giáo dục, một gia sư ảo cá nhân hóa do AGI vận hành có thể giúp trẻ em ở mọi nơi được tiếp cận chất lượng học tập cao.

Thậm chí trong y tế cộng đồng, hệ thống AGI có thể chẩn đoán bệnh chính xác cho hàng tỷ người, kể cả ở những vùng nghèo không có bác sĩ.

Tại Hội nghị Thượng đỉnh G7 ở Nhật Bản năm 2023, lãnh đạo các nền kinh tế lớn nhất thế giới thừa nhận rằng “các khuôn khổ quản trị công nghệ chưa theo kịp tốc độ phát triển của AI.”

Từ Mỹ, châu Âu đến Nhật Bản, các đề xuất về quy định AI đang ngày càng trở thành tâm điểm chính sách. Tuy nhiên, việc quản lý một công nghệ chưa tồn tại đầy đủ như AGI lại là thách thức lớn.

Một số người ủng hộ lệnh cấm tuyệt đối, trong khi nhiều chuyên gia cho rằng điều đó sẽ kìm hãm lợi ích của nhân loại.

Theo nhiều chuyên gia, cách tiếp cận hiệu quả nhất không phải là cấm đoán, mà là kiểm soát theo bối cảnh thực tế.

Khi AGI ra đời, giới lập pháp nên phân tích rủi ro cụ thể từng hệ thống, xem liệu chúng có vi phạm các quy định hiện hành (như luật chống phân biệt đối xử trong việc làm) hay không. Nếu có khoảng trống, khi đó mới cần thiết lập khung pháp lý mới.

“Không nên điều chỉnh AGI chỉ vì nó mạnh mẽ, mà phải dựa trên cách nó được sử dụng”, các chuyên gia nhấn mạnh.

Sự xuất hiện của AI tổng quát không chỉ là bước ngoặt công nghệ, mà là thử thách triết học lớn nhất trong lịch sử loài người: Khi con người tạo ra một trí tuệ khác có thể hiểu, sáng tạo và thậm chí vượt mình, liệu chúng ta có đủ trí tuệ để kiểm soát chính sản phẩm của mình?

Trong bối cảnh đó, lời kêu gọi của hơn 850 nhân vật toàn cầu không chỉ là tiếng nói lo ngại, mà là lời nhắc nhở nhân loại rằng tiến bộ công nghệ không thể tách rời trách nhiệm đạo đức.

“Siêu trí tuệ” có thể cứu thế giới — hoặc hủy diệt nó. Câu trả lời, cuối cùng, nằm trong tay con người.