Deepfake đang làm lung lay niềm tin vào nội dung số

Deepfake - những hình ảnh, video và đoạn âm thanh trông có vẻ thật nhưng thực chất được tạo ra bằng công cụ trí tuệ nhân tạo (AI) - đang khiến người dùng khó lòng phân biệt thật giả trên Internet. Khi nội dung do AI tạo ra ngày càng trở nên tinh vi, chúng có có thể bị lợi dụng để lan truyền thông tin sai lệch và lừa đảo. Mạng xã hội (MXH) hiện tràn ngập các nội dung dạng này, làm dấy lên sự hoài nghi trong cộng đồng.

Theo nghiên cứu của Deloitte về người tiêu dùng kết nối năm 2024, một nửa số người được khảo sát cho biết họ hoài nghi hơn về tính chính xác của thông tin trên mạng so với năm trước. Trong số những người đã quen thuộc hoặc sử dụng AI tạo sinh, 68% lo ngại rằng nội dung tổng hợp có thể bị lợi dụng để lừa đảo, và 59% gặp khó khăn trong việc phân biệt giữa nội dung do con người tạo ra và nội dung do AI tạo ra. Ngoài ra, 84% số người tham gia khảo sát cho rằng nội dung do AI tạo ra nên được dán nhãn rõ ràng.

Việc gắn nhãn là một trong những cách giúp báo chí và mạng xã hội cảnh báo người dùng về nội dung giả mạo. Tuy nhiên, với sự phát triển của công nghệ deepfake, có thể cần đến các biện pháp phức tạp hơn để phát hiện nội dung giả và khôi phục lòng tin.

Deepfake đang bùng nổ

Các chuyên gia ước tính thị trường toàn cầu cho công nghệ phát hiện deepfake - do các công ty công nghệ, truyền thông và MXH triển khai - sẽ tăng trưởng 42% mỗi năm, từ 5,5 tỷ USD năm 2023 lên 15,7 tỷ USD vào năm 2026. Thị trường này có thể đi theo con đường của ngành an ninh mạng, nơi các công ty truyền thông và công nghệ đầu tư mạnh vào các giải pháp xác thực nội dung để đi trước các hình thức deepfake ngày càng tinh vi.

Hiện nay, các nỗ lực phát hiện deepfake chia thành hai nhóm chính: phát hiện nội dung giả mạo và xác minh nguồn gốc nội dung.

Cách phát hiện deepfake

Các công ty công nghệ sử dụng học sâu (deep learning) và thị giác máy tính (computer vision) để phân tích nội dung tổng hợp, tìm kiếm dấu hiệu giả mạo. Một số công cụ sử dụng danh sách nguồn tin đáng tin cậy (whitelist) và danh sách nguồn tin giả mạo (blacklist), trong khi một số công nghệ khác tập trung vào các đặc điểm sinh học như lưu lượng máu tự nhiên, biểu cảm khuôn mặt và tông giọng.

Hiện nay, các công cụ phát hiện deepfake có độ chính xác trên 90%. Tuy nhiên, những kẻ xấu có thể sử dụng mô hình AI mã nguồn mở để vượt qua các hệ thống này. Việc tự động hóa tạo nội dung với AI có thể khiến các công cụ phát hiện bị quá tải.

Các nền tảng MXH cũng sử dụng AI để phát hiện nội dung giả, đánh giá mức độ nghi ngờ và gửi nội dung đáng ngờ đến người kiểm duyệt. Tuy nhiên, quy trình này tiêu tốn nhiều thời gian và chi phí, đòi hỏi giải pháp tối ưu hơn.

Xác minh nguồn gốc nội dung

Một số công ty đang phát triển công nghệ chứng thực nội dung thông qua siêu dữ liệu mã hóa (digital watermark). Dữ liệu này được gắn vào nội dung ngay từ khi nó được tạo ra, giúp ghi lại toàn bộ lịch sử chỉnh sửa.

Hiện nay, nhiều tổ chức truyền thông và công nghệ, bao gồm Deloitte, đã tham gia liên minh C2PA (Coalition for Content Provenance and Authenticity) để thúc đẩy tiêu chuẩn xác minh nội dung AI. Công nghệ C2PA giúp theo dõi toàn bộ quá trình từ khi nội dung được tạo đến khi chỉnh sửa và xuất bản.

Một số nền tảng MXH cũng đang triển khai chương trình xác minh danh tính cho nhà sáng tạo nội dung, yêu cầu cung cấp giấy tờ tùy thân và trả phí để xác thực tài khoản.

Chờ đợi các quy định pháp lý

Một số quốc gia đã đưa ra các biện pháp quản lý nội dung deepfake. Tại Mỹ, dự luật yêu cầu gắn nhãn kỹ thuật số lên nội dung AI tạo ra đang được xem xét tại Thượng viện. Bang California cũng đang cân nhắc luật AB-3211, yêu cầu nhà sản xuất thiết bị gắn siêu dữ liệu nguồn gốc vào hình ảnh và nền tảng trực tuyến phải công khai thông tin này. Nếu được thông qua, luật này sẽ có hiệu lực vào năm 2026.

Tại châu Âu, Luật AI của EU yêu cầu dán nhãn rõ ràng cho nội dung deepfake. Ủy ban châu Âu cũng đã thành lập Văn phòng AI để thúc đẩy ứng dụng công nghệ AI và đảm bảo minh bạch thông tin./.