Kỷ niệm thành lập 37 năm đặc biệt Cuộc biến chuyển AI, tìm con đường ③ An toàn/Quyền lợi AI đe dọa thông tin cá nhân và ví tiền của tôi

"Mẹ ơi, con là con, màn hình điện thoại của con bị vỡ nên con cần gửi tiền sửa chữa gấp."

Giọng nói rung động của con cái vang lên từ phía bên kia tin nhắn hoặc cuộc gọi. Những trò lừa đảo qua giọng nói cũ kỹ - chỉ dừng lại ở những đoạn văn bản có từ ngữ lạ lẫm hay những bức ảnh tổng hợp thô sơ - giờ đã tiến hóa thành 'tội phạm siêu thông minh' khi gặp gỡ với AI sinh tạo. Công nghệ deepfake chỉ cần vài giây video trên mạng xã hội hoặc tệp âm thanh có khả năng hoàn hảo tái tạo lại ngữ điệu, hơi thở, thậm chí cả biểu cảm khuôn mặt - đã trở thành công cụ gian lận hàng đầu.

Trí tuệ nhân tạo lắp mình dưới vỏ bọc sự tiện lợi, thấm từng chút vào cuộc sống hàng ngày, và hiện đã trở thành mối đe dọa kín đáo và mạnh mẽ nhất đối với tài sản, thông tin và quyền lợi của người tiêu dùng.

"Tưởng là giọng nói của đứa con thực" …Nỗi sợ lừa đảo deepfake được nuôi dưỡng bởi AI

Các loại hình lừa đảo được báo cáo cho các cơ quan tài chính, cảnh sát, và các công ty bảo mật toàn cầu đã khác biệt so với quá khứ. Khi công nghệ AI deepvoice trở nên phổ biến, những vụ lừa đảo biến tướng - sao chép nguyên vẹn giọng nói của gia đình hoặc bạn bè để yêu cầu tiền - đang tăng đột biến.

Theo một cuộc điều tra gần đây của công ty an niệm mạng toàn cầu McAfee, hơn 10% người trưởng thành trên toàn thế giới đã trực tiếp trải qua hoặc chứng kiến vụ lừa đảo sao chép giọng nói bằng AI xung quanh họ. Ở nước ngoài, đã xảy ra những vụ lừa đảo lớn khi các video cuộc gọi của những người quen được tổng hợp tinh tế bằng deepfake để lừa được hàng trăm tỷ won, và trong nước, các báo cáo lừa đảo deepvoice siêu thông minh kích thích tâm lý lo lắng của cha mẹ liên tục xảy ra.

Trong quá khứ, người ta có thể nghi ngờ tội phạm thông qua lỗi chính tả hoặc cách nói lạ lẫm, nhưng bây giờ AI phân tích dấu vết trên mạng xã hội của đối tượng để áp dụng kịch bản tùy chỉnh phản ánh cách nói thông thường, mối quan hệ nhân tạo và thông tin cá nhân của họ - nên thực tế là gần như không thể để người tiêu dùng bình thường phân biệt ra được.

Cùng sản phẩm nhưng giá cho tôi cao hơn? …'Phân biệt giá' do AI tạo ra

Một thủ phạm chính khác lén lút khoá tiền từ ví người tiêu dùng là sự lan tỏa vô trách nhiệm của 'Định giá động (Dynamic Pricing)' - phương pháp xác định giá biến đổi dựa trên thuật toán AI.

Định giá biến đổi - trước đây chủ yếu được sử dụng cho vé máy bay hoặc đặt phòng khách sạn - hiện đang kết hợp với công nghệ siêu cá nhân hóa của AI, xâm nhập vào toàn bộ tiêu dùng sát sườn với cuộc sống như thương mại điện tử, hàng hóa cơ bản, và dịch vụ di động. AI phân tích thiết bị truy cập của người tiêu dùng, lịch sử mua hàng trước đây, thời gian bỏ đơn hàng, thậm chí dữ liệu vị trí thực tế. Dựa trên mô hình mua hàng được phân tích, nó đưa ra giá cao hơn giá gốc cho 'những người tiêu dùng có khả năng mua ngay bây giờ', và chỉ hiển thị phiếu giảm giá cho những người tiêu dùng đang lo lắng.

Thậm chí các cơ quan chính sách như Hội đồng Cố vấn Kinh tế Nhà Trắng (CEA) Mỹ cũng gần đây cảnh báo thông qua báo cáo rằng phân biệt giá thông qua thuật toán làm tổn hại đến phúc lợi người tiêu dùng và làm trầm trọng thêm tính bất cân xứng thông tin. Mặc dù có vẻ như giảm bớt sự mệt mỏi khi tìm kiếm giá tốt nhất cho người tiêu dùng, nhưng thực ra là họ bị phơi bày trước sự phân biệt giá cấu trúc nơi họ bị lừa bởi thuật toán dữ liệu lớn và chi trả chi phí cao hơn những người khác.

"Một khi bị xâm phạm thì hàng chục triệu người" …Rò rỉ thông tin cá nhân quy mô lớn trong thời đại AI

Khi mô hình AI trở nên tinh vi hơn, lượng thông tin cá nhân được thu thập để đào tạo và vận hành nó tăng lên nhanh chóng. Vấn đề là khi hệ thống AI hoặc dịch vụ tương tác bị hack, quy mô thiệt hại cũng trở nên lớn hơn không thể so sánh được với quá khứ.

Thực tế, công ty nghiên cứu thị trường toàn cầu Gartner dự báo rằng khi việc áp dụng AI tăng tốc, xâm phạm quyền riêng tư và sự cố rò rỉ dữ liệu sẽ trở thành một trong những yếu tố rủi ro chết người nhất đối với các doanh nghiệp. Các trường hợp lỗ hổng an niệm mạng - như vô tình nhập bí mật kinh doanh hoặc thông tin tài chính cá nhân vào dịch vụ tìm kiếm AI tương tác, chỉ để dữ liệu đó bị rò rỉ ra bên ngoài hoặc bị lạm dụng thành dữ liệu đào tạo - cũng được báo cáo thường xuyên.

Giáo sư Yoshua Bengio, một nhân vật huyền thoại trong nghiên cứu trí tuệ nhân tạo, đã chỉ ra rằng "Hệ thống AI thiếu kiểm soát có thể trở thành thảm họa tiềm ẩn lay chuyển toàn xã hội về phương diện an niệm mạng và đạo đức", và mạnh mẽ kêu gọi thành lập các biện pháp an toàn cho công nghệ.

Phía sau sự tiện lợi của công nghệ, để bảo vệ 'chủ quyền người tiêu dùng'

Các chuyên gia chỉ ra rằng nếu bỏ mặc những yếu tố xâm phạm an toàn và quyền lợi mà AI mang lại, toàn bộ hệ sinh thái kỹ thuật số có thể mất đi sự tin tưởng.

Cần thiết phải có ngay những biện pháp thể chế rõ ràng quy định khi các doanh nghiệp sử dụng thuật toán AI để lừa dối hoặc phân biệt giá đối với người tiêu dùng, đồng thời buộc phải công khai. Ngoài ra, cần tăng cường trách nhiệm của các doanh nghiệp trong bảo vệ thông tin cá nhân, trong khi chính những người tiêu dùng cũng cần trang bị 'năng lực phòng chống kỹ thuật số' bằng cách kỹ lưỡng xác minh lại những cuộc gọi video/âm thanh đáng nghi ngờ và cân nhắc kỹ lưỡng sự đồng ý cung cấp thông tin cá nhân.

Trực diện với những rủi ro ẩn sau sự tiện lợi mà AI mang lại, và xây dựng một lưới an toàn nơi con người kiểm soát lợi thế của công nghệ là một nhiệm vụ không thể trì hoãn thêm nữa.