Bây giờ là thời đại Văn hóa (文話) Cơ hội vàng của nhân loại để đối mặt với công nghệ không thể kiểm soát

Cảnh báo thảm khốc của một nhà nghiên cứu tại Anthropic về tình trạng không thể kiểm soát đã được công bố. Theo các phương tiện truyền thông nước ngoài như Wall Street Journal (WSJ), Jacob Cookson, nhà nghiên cứu đào tạo AI tại Anthropic, đã nộp đơn từ chức cùng với cảnh báo rằng "khả năng xảy ra kịch bản cực đoan nhất là rất cao" và "nếu tiếp tục như vậy, tình hình có thể trở nên không thể kiểm soát vào cuối năm tới".

Anh ấy đã rõ ràng vạch ranh giới rằng mình không muốn tham gia phát triển AI tự cải thiện (Self-Improvement) mà không can thiệp của con người. Thực tế này, với cả những thành viên nhóm nghiên cứu chủ chốt cũng đồng tình khi nhắc đến xác suất diệt vong, không thể xem nhẹ chỉ là cảnh báo của một nhà nghiên cứu. Chúng ta phải coi đó là cảnh báo về một cuộc khủng hoảng nền văn minh to lớn mà chúng ta đang phải đối mặt.

Cảnh báo này không phải vô căn cứ, điều đó được chứng minh bởi những thành tựu kỹ thuật gần đây trong lĩnh vực. Một ví dụ điển hình là khi OpenAI động viên 10,000 tác nhân AI để tìm ra giải pháp cho "phương trình Navier-Stokes", một trong bảy bài toán toán học khó nhất của thế giới, chỉ trong 88 giờ. Kỳ tích giải quyết bài toán khó khăn đã làm cho các nhà toán học con người bế tắc trong 90 năm này ngay lập tức đã phát lộ rõ ràng hai mặt của điểm uốn lớn mà công nghệ AI đã đạt tới.

Khả năng suy luận áp đảo giải quyết bài toán toán học trong tức thì và sức mạnh của AI tự lập giả thuyết chắc chắn là một cơ hội bước nhảy vọt cho nhân loại. Vượt quá phân tích động lực học chất lỏng, thiết kế thuốc điều trị các bệnh nan y, khám phá các vật liệu mới để vượt qua biến đổi khí hậu, giải quyết tình trạng thiếu hụt lực lượng lao động trong xã hội già hóa cấp cao—tất cả những bài toán lâu đời của nhân loại đều có được một phương tiện mạnh mẽ để giải quyết. Cuộc cách mạng năng suất mà AI có thể mang lại có tiềm năng cơ bản thay đổi phúc lợi của xã hội nói chung và chất lượng cuộc sống.

Vấn đề là tốc độ lao tới của công nghệ hoàn toàn không được theo kịp bởi sự thống nhất xã hội và các thiết chế. Như cuộc tranh cãi về việc học tập các nghiên cứu trước đó được nêu ra ngay sau công bố giải pháp Navier-Stokes, các công ty công nghệ lớn đang mắc kẹt trong tình thế tù nhân dilemma—"nếu tôi dừng lại, đối thủ cạnh tranh hoặc đất nước thù địch sẽ cướp quyền lãnh đạo"—và bị cuốn vào cuộc chạy đua tốc độ. Đúng như vậy, "sự sắp xếp an toàn (Alignment)" để thích ứng công nghệ với giá trị con người hoặc nghiên cứu kiểm soát AI tự chủ thường bị đẩy sang hậu trường. Đó là lý do tại sao cảnh báo rằng công nghệ có thể chuyển biến từ một công cụ hỗ trợ con người thành một chủ thể không thể kiểm soát ngày càng được chú ý.

Chúng ta phải thiết lập lại những mốc chỉ dẫn triết học để đối mặt với công nghệ. Thứ nhất, chuyển đổi từ "công nghệ tốc độ" sang "công nghệ hướng đi". Thay vì chìm đắm trong gia tốc kỹ thuật, chức năng tuần tra đạo đức phải đi trước, suy ngẫm xem liệu công nghệ đó có làm tổn hại đến nhân phẩm con người hay không.

Thứ hai, phục hồi tính chủ thể của chủ quyền công nghệ. AI chỉ có giá trị tồn tại khi nó là một "phương tiện công cụ" mở rộng cuộc sống của nhân loại. Chúng ta phải cảnh báo thời điểm công nghệ trở thành mục tiêu của chính nó, và con người phải vẫn là chủ thể kiểm soát cho đến cùng.

Thứ ba, trách nhiệm nền văn minh hướng tới đoàn kết và cộng tồn. Thoát khỏi nỗi sợ hãi của cạnh tranh và phải đặt sự sống còn và an toàn của toàn nhân loại lên hàng đầu, chúng ta cần thiết lập các tiêu chuẩn đạo đức toàn cầu.

"Công nghệ có thể kiểm soát sẽ trở thành ngọn đèn sáng sủa trong bóng tối, nhưng công nghệ mất kiểm soát sẽ trở thành cơn lửa rừng thiêu sống toàn bộ nền văn minh." Đồng hồ 10 năm có thể là cơ hội vàng cuối cùng được trao cho nhân loại. Càng khi AI tiến hóa vào lãnh vực siêu trí tuệ, yếu tố cốt lõi mà chúng ta phải giữ vững cho đến cùng không phải là hiệu suất tính toán của công nghệ, mà là sự suy ngẫm đạo đức và trách nhiệm xã hội vốn có của con người.