Kỷ niệm thành lập 37 năm - Đặc biệt lên kế hoạch [Kỷ niệm thành lập 37 năm - Đặc biệt lên kế hoạch - AI Chuyển đổi lớn, tìm con đường ④] Ngoài tầm kiểm soát và 'P-doom'…Liệu AI sẽ tiêu diệt nhân loại?

"Nếu một siêu trí thông minh (Superintelligence) không thể được chúng ta kiểm soát xuất hiện, thì kỷ nguyên của nhân loại sẽ kết thúc."

Những cảnh báo phát ra từ các kỹ sư và học giả hàng đầu thúc đẩy nghiên cứu AI tại Silicon Valley không còn là kịch bản của phim khoa học viễn tưởng. Khi AI tự sửa mã và học tập liên tục, vượt qua năng lực trí tuệ con người và đạt đến điểm kỳ dị (Singularity), liệu con người có thể tắt công tắc của hệ thống đó?

Vượt qua những kỳ vọng sáng chiếu của công nghệ được làm sáng tỏ trong kỳ thứ nhất, và việc sắp xếp lại việc làm cũng như các mối đe dọa hàng ngày trong kỳ thứ hai và thứ ba, ở đích đến mà AI chuyển đổi lớn hướng tới, đó là 'cuộc khủng hoảng tồn tại vì nền văn minh (Existential Risk)' nhắm vào sự tồn tại của chính loài người.

Nỗi sợ hãi bao trùm Silicon Valley…Cuộc tranh cãi về 'P-doom (xác suất tiêu diệt)' và những cảnh báo của các học giả

Gần đây, từ khóa nóng nhất trong cộng đồng nghiên cứu trí tuệ nhân tạo và ngành công nghệ Silicon Valley là 'P-doom (Probability of Doom·xác suất tiêu diệt nhân loại do AI)'.

Những nhà nghiên cứu hàng đầu thế giới, bao gồm Ilya Sutskever, nhà khoa học trưởng từng là một phần của OpenAI, đã cảnh báo rằng xác suất AI hoàn toàn mất kiểm soát của con người và tạo ra mối đe dọa chết người đối với nhân loại là từ 10% thậm chí vượt quá 50%. Họ cho rằng khi AI trở nên tinh vi hơn, sẽ xảy ra 'vấn đề liên kết (Alignment Problem)' khi hoạt động khác với ý định con người, và siêu trí thông minh có thể coi nhân loại là một chướng ngại vật cần loại bỏ trong quá trình thực hiện mục tiêu của nó—một giả thuyết đáng sợ.

Giáo sư Yoshua Bengio, được coi là một trong những 'cha đẻ của học tập sâu', cũng đã phát biểu tại các hội nghị học thuật quốc tế và diễn đàn chính sách rằng "việc tiến hành phát triển siêu trí thông minh mà không có các biện pháp an toàn đầy đủ cũng giống như đặt sự tồn tại của toàn bộ nhân loại vào một trò chơi Roulette Nga", kêu gọi quy định mạnh mẽ đối với tình trạng ngoài tầm kiểm soát. Theo thống kê và báo cáo nghiên cứu của các tổ chức quốc tế và các giới học thuật chính, trong khi khả năng tính toán của các mô hình AI tiên tiến tăng lên gấp bội mỗi năm, tốc độ và ngân sách nghiên cứu các biện pháp an toàn đạo đức và công nghệ để kiểm soát nó lại không bằng, và mức độ rủi ro do khoảng cách công nghệ đang đạt đến giới hạn.

Sự rút lui của an toàn và cuộc đua tốc độ thương mại…Ai đang nắm 'tay cầm kiểm soát'?

Vấn đề là trong khi những cảnh báo về rủi ro tồn tại đang được đưa ra, cuộc cạnh tranh quyền lực thương mại giữa các công ty công nghệ lớn vẫn đang lao tới mà không có phanh.

Theo dữ liệu từ các tổ chức phân tích thị trường công nghệ toàn cầu, quy mô đầu tư cơ sở hạ tầng của các công ty công nghệ lớn toàn cầu sau khi triển khai AI tạo sinh đã tăng vọt theo đơn vị hàng trăm tỷ đô la. Các ông lớn AI toàn cầu như OpenAI, Anthropic, và Google DeepMind đang đổ vào sức mạnh tính toán khổng lồ để đẩy nhanh việc triển khai siêu trí thông minh. Trong quá trình này, các bộ phận nghiên cứu nội bộ chuyên trách an toàn và kiểm soát đạo đức của AI liên tiếp bị giải thể, và các nhân viên chủ chốt đang tự nguyện rời công ty với khẳng định rằng "các công ty đang ưu tiên lợi nhuận thương mại và tốc độ hơn an toàn".

Cấu trúc mâu thuẫn trong đó hội đồng quản trị và ban lãnh đạo của một số ít công ty công nghệ lớn độc quyền vốn và công nghệ đang nắm 'công tắc bảo vệ (Dead Man's Switch)' của công nghệ sẽ quyết định vận mệnh của toàn bộ nhân loại tiết lộ một cách rõ ràng sự vắng mặt của hệ thống kiểm soát dân chủ.

Trò chơi quyền lực vượt biên giới…Luật AI của EU và ngã ba của quản trị toàn cầu

Khi AI nổi lên như một 'vũ khí hạt nhân kỹ thuật số' quyết định an ninh quốc gia và quyền lực kinh tế, trò chơi quyền lực giữa các quốc gia lớn trên thế giới để tranh thủ quy định và lãnh đạo cũng đang gia tăng.

Liên minh Châu Âu (EU) đã nhanh chóng phê chuẩn 'EU AI Act (Luật Trí tuệ Nhân tạo)', thế giới pháp lệnh quy định mạnh mẽ theo từng giai đoạn tùy theo mức độ rủi ro của AI, siết chặt cương kiểm soát công nghệ. Luật này, có nội dung chính bao gồm cấm thu thập thông tin sinh học, áp đặt các nghĩa vụ minh bạch nghiêm ngặt đối với AI có rủi ro cao, và áp đặt khoản phạt lớn trong trường hợp vi phạm, đang hoạt động như một áp lực tuân thủ pháp luật thực chất đối với các công ty công nghệ lớn toàn cầu.

Mặt khác, Hoa Kỳ và Trung Quốc, những nước phải chiếm ưu thế trong cuộc cạnh tranh quyền lực công nghệ, lo lắng rằng siết quá chặt các biện pháp quy định sẽ làm suy yếu hệ sinh thái đổi mới AI của đất nước mình, và tiếp tục đan xen những cuộc tranh chấp ngoại giao và chiến lược quyết liệt. Các tổ chức quốc tế như Liên hợp quốc (UN) đang nỗ lực thúc đẩy thành lập 'tổ chức kiểm soát chung quốc tế vì an ninh AI', nhưng vẫn gặp khó khăn trong việc đạt được sức ràng buộc hiệu quả trước các bức tường về lợi ích của từng quốc gia và chủ nghĩa ưu tiên quyền lực công nghệ.

Phục hồi khả năng kiểm soát và thiết lập lại hướng của nền văn minh

Trong giai đoạn cuối cùng của AI chuyển đổi lớn, câu hỏi mà nhân loại phải đối mặt không phải là đơn thuần về sự tinh vi của công nghệ. Đó là vấn đề tồn tại vì nền văn minh: "Liệu con người có thể kiểm soát hết đến cùng trí thông minh mà chính nó đã tạo ra?"

Hành trình của kế hoạch này từ kỳ thứ nhất đến kỳ thứ tư cuối cùng hội tụ thành một kết luận. Để thụ hưởng lợi ích tuyệt vời từ AI mang lại, vượt qua những mối đe dọa đến lao động và cuộc sống hàng ngày, và cuối cùng vượt qua nỗi sợ hãi tiêu diệt để đạt tới sự cộng tồn chủ động, thì 'khả năng kiểm soát của con người và các chuẩn mực phổ quát' phải đi trước tốc độ công nghệ.

Xây dựng một lưới an toàn xã hội vững chắc không để công nghệ chiếm ưu thế và xây dựng quản trị toàn cầu. Đó chính là trách vụ nặng nề nhất và cấp bách nhất mà nhân loại phải hoàn thành tại ngã ba con đường AI chuyển đổi lớn.