Trí tuệ nhân tạo [ Đăng ngày (14/03/2025) ]
Cách chống lại hệ lụy sâu rộng từ deepfake
Khi việc phát hiện và chống lại nội dung giả mạo ngày càng trở nên khó khăn, chi phí duy trì môi trường Internet tin cậy có thể sẽ do người dùng, nhà sáng tạo và nhà quảng cáo cùng gánh chịu.

Deepfake đang làm lung lay niềm tin vào nội dung số

Deepfake - những hình ảnh, video và đoạn âm thanh trông có vẻ thật nhưng thực chất được tạo ra bằng công cụ trí tuệ nhân tạo (AI) - đang khiến người dùng khó lòng phân biệt thật giả trên Internet. Khi nội dung do AI tạo ra ngày càng trở nên tinh vi, chúng có có thể bị lợi dụng để lan truyền thông tin sai lệch và lừa đảo. Mạng xã hội (MXH) hiện tràn ngập các nội dung dạng này, làm dấy lên sự hoài nghi trong cộng đồng.

Theo nghiên cứu của Deloitte về người tiêu dùng kết nối năm 2024, một nửa số người được khảo sát cho biết họ hoài nghi hơn về tính chính xác của thông tin trên mạng so với năm trước. Trong số những người đã quen thuộc hoặc sử dụng AI tạo sinh, 68% lo ngại rằng nội dung tổng hợp có thể bị lợi dụng để lừa đảo, và 59% gặp khó khăn trong việc phân biệt giữa nội dung do con người tạo ra và nội dung do AI tạo ra. Ngoài ra, 84% số người tham gia khảo sát cho rằng nội dung do AI tạo ra nên được dán nhãn rõ ràng.

Việc gắn nhãn là một trong những cách giúp báo chí và mạng xã hội cảnh báo người dùng về nội dung giả mạo. Tuy nhiên, với sự phát triển của công nghệ deepfake, có thể cần đến các biện pháp phức tạp hơn để phát hiện nội dung giả và khôi phục lòng tin.

Deepfake đang bùng nổ

Các chuyên gia ước tính thị trường toàn cầu cho công nghệ phát hiện deepfake - do các công ty công nghệ, truyền thông và MXH triển khai - sẽ tăng trưởng 42% mỗi năm, từ 5,5 tỷ USD năm 2023 lên 15,7 tỷ USD vào năm 2026. Thị trường này có thể đi theo con đường của ngành an ninh mạng, nơi các công ty truyền thông và công nghệ đầu tư mạnh vào các giải pháp xác thực nội dung để đi trước các hình thức deepfake ngày càng tinh vi.

Hiện nay, các nỗ lực phát hiện deepfake chia thành hai nhóm chính: phát hiện nội dung giả mạo và xác minh nguồn gốc nội dung.

Cách phát hiện deepfake

Các công ty công nghệ sử dụng học sâu (deep learning) và thị giác máy tính (computer vision) để phân tích nội dung tổng hợp, tìm kiếm dấu hiệu giả mạo. Một số công cụ sử dụng danh sách nguồn tin đáng tin cậy (whitelist) và danh sách nguồn tin giả mạo (blacklist), trong khi một số công nghệ khác tập trung vào các đặc điểm sinh học như lưu lượng máu tự nhiên, biểu cảm khuôn mặt và tông giọng.

Hiện nay, các công cụ phát hiện deepfake có độ chính xác trên 90%. Tuy nhiên, những kẻ xấu có thể sử dụng mô hình AI mã nguồn mở để vượt qua các hệ thống này. Việc tự động hóa tạo nội dung với AI có thể khiến các công cụ phát hiện bị quá tải.

Các nền tảng MXH cũng sử dụng AI để phát hiện nội dung giả, đánh giá mức độ nghi ngờ và gửi nội dung đáng ngờ đến người kiểm duyệt. Tuy nhiên, quy trình này tiêu tốn nhiều thời gian và chi phí, đòi hỏi giải pháp tối ưu hơn.

Xác minh nguồn gốc nội dung

Một số công ty đang phát triển công nghệ chứng thực nội dung thông qua siêu dữ liệu mã hóa (digital watermark). Dữ liệu này được gắn vào nội dung ngay từ khi nó được tạo ra, giúp ghi lại toàn bộ lịch sử chỉnh sửa.

Hiện nay, nhiều tổ chức truyền thông và công nghệ, bao gồm Deloitte, đã tham gia liên minh C2PA (Coalition for Content Provenance and Authenticity) để thúc đẩy tiêu chuẩn xác minh nội dung AI. Công nghệ C2PA giúp theo dõi toàn bộ quá trình từ khi nội dung được tạo đến khi chỉnh sửa và xuất bản.

Một số nền tảng MXH cũng đang triển khai chương trình xác minh danh tính cho nhà sáng tạo nội dung, yêu cầu cung cấp giấy tờ tùy thân và trả phí để xác thực tài khoản.

Chờ đợi các quy định pháp lý

Một số quốc gia đã đưa ra các biện pháp quản lý nội dung deepfake. Tại Mỹ, dự luật yêu cầu gắn nhãn kỹ thuật số lên nội dung AI tạo ra đang được xem xét tại Thượng viện. Bang California cũng đang cân nhắc luật AB-3211, yêu cầu nhà sản xuất thiết bị gắn siêu dữ liệu nguồn gốc vào hình ảnh và nền tảng trực tuyến phải công khai thông tin này. Nếu được thông qua, luật này sẽ có hiệu lực vào năm 2026.

Tại châu Âu, Luật AI của EU yêu cầu dán nhãn rõ ràng cho nội dung deepfake. Ủy ban châu Âu cũng đã thành lập Văn phòng AI để thúc đẩy ứng dụng công nghệ AI và đảm bảo minh bạch thông tin./.


T.H
Theo ictvietnam.vn (htquyen)
In bài viết  
Bookmark
Ý kiến của bạn

Xem nhiều

Tiêu điểm

Microsoft cáo buộc nhóm tin tặc đứng sau mạng lưới Deepfake AI
Công nghệ lưu trữ lượng tử vừa đạt đột phá: Chứa 5.000 phim 4K trên một tinh thể bé hơn đầu ngón tay?
Sony tuyên bố hợp tác gây chấn động ngành game, mang tính năng độc quyền trên AMD RX 9000 đến PS5 Pro, vạch ra tương lai cho PS6
Startup xe điện Dat Bike đã không còn "trong tay” người Việt
Trung Quốc tự đẩy mình vào 'thời khắc sinh tử': 300 startup xe điện chỉ còn 7 hãng lớn có thể tồn tại, chiến trường xe điện khốc liệt hơn bất kỳ lúc nào
Chuyên gia Phạm Chi Lan chỉ ra 4 điểm yếu của các nhà sáng lập Việt: Nhiều startup cho rằng xuất khẩu được mới 'oai', trong khi thị trường nội còn khó hơn ngoại
Startup KAMEREO ‘ấm bụng’ trong ‘mùa đông gọi vốn’: Hoàn tất vòng Series B với 7,8 triệu USD từ 5 ‘đồng hương’ Nhật Bản
Founder - CEO Amslink: Kiến tạo tương lai Anh ngữ cho thế hệ trẻ Việt
CASTI Awards 2024 - Tôn vinh sản phẩm khoa học, công nghệ và đổi mới sáng tạo
Thông cáo báo chí Hội thảo “Phát triển hệ sinh thái số về nguồn tin khoa học, công nghệ và đổi mới sáng tạo phục vụ phát triển kinh tế - xã hội thành phố Cần Thơ”
Khai mạc Chợ công nghệ và thiết bị chuyên ngành Nông nghiệp Cần Thơ 2024 – Tech4Agri CanTho 2024
Lãnh đạo thành phố tham quan, trải nghiệm các công nghệ, thiết bị tại Tech4Agri CanTho 2024
Các ứng dụng AI trong nông nghiệp
Hành trình Tech4Agri CanTho 2024 – với chủ đề “Khoa học, công nghệ và đổi mới sáng tạo – Đánh thức nền nông nghiệp đa giá trị”
Gần 300 công nghệ, thiết bị và sản phẩm dự kiến trưng bày, giới thiệu tại Tech4Agri CanTho 2024
Siêu thị số  
 
Ứng dụng các thuật toán nature-inspired vào bài toán P-median trên mặt phẳng
Nghiên cứu được thực hiện bởi nhóm tác giả Nguyễn Ngọc Đăng Duy và Nguyễn Hà Công Lý thuộc Khoa Khoa học Tự nhiên, Trường Đại học Cần Thơ và Bộ môn Toán, Trường Đại học FPT Cần Thơ. Nghiên cứu được đăng trên tạp chí Khoa học Đại học Cần Thơ, Tập 60, Số chuyên đề: Khoa học tự nhiên (Toán-Lý) (2024): (133-141)


 
Công nghệ 4.0  
 
AISC 2025: Cơ hội tiếp cận những bước tiến mới nhất về AI, bán dẫn
Ngày 12/3, Hội nghị quốc tế về trí tuệ nhân tạo và bán dẫn (AISC) 2025 được tổ chức bởi Trung tâm Đổi mới sáng tạo quốc gia (NIC) Aitomactic, Hoa Kỳ và chính thức khai mạc tại NIC Hòa Lạc.


 
Điện tử  
   
Tin học  
 
Ứng dụng các thuật toán nature-inspired vào bài toán P-median trên mặt phẳng
Nghiên cứu được thực hiện bởi nhóm tác giả Nguyễn Ngọc Đăng Duy và Nguyễn Hà Công Lý thuộc Khoa Khoa học Tự nhiên, Trường Đại học Cần Thơ và Bộ môn Toán, Trường Đại học FPT Cần Thơ. Nghiên cứu được đăng trên tạp chí Khoa học Đại học Cần Thơ, Tập 60, Số chuyên đề: Khoa học tự nhiên (Toán-Lý) (2024): (133-141)


 



© Copyright 2020 Trung tâm Thông tin Khoa học và Công nghệ - Sở Khoa học & Công nghệ TP. Cần Thơ
Địa chỉ: 118/3 Trần Phú - Phường Cái Khế - Quận Ninh Kiều - thành phố Cần Thơ
Giấy phép số: 05/ GP-TTĐT, do Sở Thông tin và Truyền Thông thành phố Cần Thơ cấp ngày 23/5/2017
Trưởng Ban biên tập: Ông Vũ Minh Hải - Giám Đốc Trung tâm Thông tin Khoa học và Công nghệ - Sở Khoa học & Công nghệ TP. Cần Thơ
Ghi rõ nguồn www.trithuckhoahoc.vn khi bạn sử dụng lại thông tin từ website này
-->