Trí tuệ nhân tạo [ Đăng ngày (15/03/2025) ]
AI Gemini của Google bị lạm dụng để tạo nội dung khủng bố giả mạo
Google cho biết đã nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo.

Theo luật pháp Australia, các công ty công nghệ phải báo cáo cho Ủy ban An toàn Điện tử thông tin định kỳ về các nỗ lực giảm thiểu tác hại người dùng khi trực tuyến hoặc sẽ phải đối mặt với tiền phạt. Trong báo cáo, tập đoàn công nghệ Google cho biết gần 1 năm qua họ nhận được 258 đơn khiếu nại trên toàn cầu về việc phần mềm trí tuệ nhân tạo (AI) của Google là Gemini đã được sử dụng để tạo ra nội dung khủng bố hoặc bạo lực cực đoan giả mạo; 86 báo cáo của người dùng cảnh báo Gemini đang bị lạm dụng để sản xuất các nội dung lạm dụng trẻ em.

Ủy ban An toàn Điện tử Australia đánh giá báo cáo của Google cung cấp cái nhìn sâu sắc đầu tiên trên thế giới về cách người dùng có thể khai thác công nghệ để tạo ra nội dung độc hại và phi pháp. Ủy viên Ủy ban An toàn Điện tử Julie Inman Grant cho rằng, điều này nhấn mạnh tầm quan trọng của việc các công ty phát triển sản phẩm AI xây dựng và kiểm tra tính hiệu quả của các biện pháp bảo vệ nhằm ngăn chặn hành vi sản xuất những kiểu nội dung nguy hại, giả mạo trên.

Người phát ngôn của Google khẳng định, công ty này không cho phép tạo hoặc phân phối nội dung liên quan đến việc thúc đẩy chủ nghĩa cực đoan bạo lực hoặc khủng bố, bóc lột, lạm dụng trẻ em và các hoạt động bất hợp pháp khác.

"Chúng tôi cam kết mở rộng nỗ lực để giúp người dân Úc được an toàn khi trực tuyến", người phát ngôn Google tuyên bố.

Lưu ý rằng, số lượng báo cáo từ người dùng Gemini mà Google cung cấp cho chính quyền Úc là tổng khối lượng báo cáo của người dùng trên toàn cầu.

Google đã sử dụng tính năng so khớp, một hệ thống tự động khớp các hình ảnh mới tải lên với các hình ảnh đã biết để xác định và xóa những nội dung lạm dụng trẻ em do Gemini tạo ra. Tuy nhiên, Ủy ban An toàn Điện tử Australia cho biết Google không sử dụng cùng một hệ thống để loại bỏ nội dung khủng bố hoặc cực đoan bạo lực do Gemini tạo ra.

Gần nhất, các công ty phải báo cáo thông tin cho ủy ban này trong giai đoạn từ tháng 4/2023- 02/2024. Ủy ban An toàn Điện tử Australia đã phạt Telegram và Twitter, sau này đổi tên thành X vì những thiếu sót trong báo cáo của họ.

X đã một lần kháng cáo thất bại về khoản tiền phạt 610.500 AUD (382.000 USD) nhưng mạng xã hội này dự kiến sẽ tiếp tục kháng cáo. Telegram cũng có kế hoạch kháng cáo mức phạt đối với kênh này.

Kể từ khi ChatGPT của OpenAI trở nên phổ biến, các quốc gia trên toàn thế giới đã kêu gọi xây dựng các biện pháp bảo vệ chặt chẽ hơn để AI không thể được sử dụng cho mục đích khủng bố, gian lận, khiêu dâm deepfake (giả mạo) và các hành vi lạm dụng khác.

Nguồn: https://antoanthongtin.gov.vn/an-toan-thong-tin/ai-gemini-cua-google-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-111533

Hà Phương
Theo Theo Tạp chí An toàn Thông tin (ctngoc)
In bài viết  
Bookmark
Ý kiến của bạn

Xem nhiều

Tiêu điểm

Microsoft cáo buộc nhóm tin tặc đứng sau mạng lưới Deepfake AI
Công nghệ lưu trữ lượng tử vừa đạt đột phá: Chứa 5.000 phim 4K trên một tinh thể bé hơn đầu ngón tay?
Sony tuyên bố hợp tác gây chấn động ngành game, mang tính năng độc quyền trên AMD RX 9000 đến PS5 Pro, vạch ra tương lai cho PS6
Startup xe điện Dat Bike đã không còn "trong tay” người Việt
Trung Quốc tự đẩy mình vào 'thời khắc sinh tử': 300 startup xe điện chỉ còn 7 hãng lớn có thể tồn tại, chiến trường xe điện khốc liệt hơn bất kỳ lúc nào
Chuyên gia Phạm Chi Lan chỉ ra 4 điểm yếu của các nhà sáng lập Việt: Nhiều startup cho rằng xuất khẩu được mới 'oai', trong khi thị trường nội còn khó hơn ngoại
Startup KAMEREO ‘ấm bụng’ trong ‘mùa đông gọi vốn’: Hoàn tất vòng Series B với 7,8 triệu USD từ 5 ‘đồng hương’ Nhật Bản
Founder - CEO Amslink: Kiến tạo tương lai Anh ngữ cho thế hệ trẻ Việt
CASTI Awards 2024 - Tôn vinh sản phẩm khoa học, công nghệ và đổi mới sáng tạo
Thông cáo báo chí Hội thảo “Phát triển hệ sinh thái số về nguồn tin khoa học, công nghệ và đổi mới sáng tạo phục vụ phát triển kinh tế - xã hội thành phố Cần Thơ”
Khai mạc Chợ công nghệ và thiết bị chuyên ngành Nông nghiệp Cần Thơ 2024 – Tech4Agri CanTho 2024
Lãnh đạo thành phố tham quan, trải nghiệm các công nghệ, thiết bị tại Tech4Agri CanTho 2024
Các ứng dụng AI trong nông nghiệp
Hành trình Tech4Agri CanTho 2024 – với chủ đề “Khoa học, công nghệ và đổi mới sáng tạo – Đánh thức nền nông nghiệp đa giá trị”
Gần 300 công nghệ, thiết bị và sản phẩm dự kiến trưng bày, giới thiệu tại Tech4Agri CanTho 2024
Siêu thị số  
 
Ứng dụng các thuật toán nature-inspired vào bài toán P-median trên mặt phẳng
Nghiên cứu được thực hiện bởi nhóm tác giả Nguyễn Ngọc Đăng Duy và Nguyễn Hà Công Lý thuộc Khoa Khoa học Tự nhiên, Trường Đại học Cần Thơ và Bộ môn Toán, Trường Đại học FPT Cần Thơ. Nghiên cứu được đăng trên tạp chí Khoa học Đại học Cần Thơ, Tập 60, Số chuyên đề: Khoa học tự nhiên (Toán-Lý) (2024): (133-141)


 
Công nghệ 4.0  
 
AISC 2025: Cơ hội tiếp cận những bước tiến mới nhất về AI, bán dẫn
Ngày 12/3, Hội nghị quốc tế về trí tuệ nhân tạo và bán dẫn (AISC) 2025 được tổ chức bởi Trung tâm Đổi mới sáng tạo quốc gia (NIC) Aitomactic, Hoa Kỳ và chính thức khai mạc tại NIC Hòa Lạc.


 
Điện tử  
   
Tin học  
 
Ứng dụng các thuật toán nature-inspired vào bài toán P-median trên mặt phẳng
Nghiên cứu được thực hiện bởi nhóm tác giả Nguyễn Ngọc Đăng Duy và Nguyễn Hà Công Lý thuộc Khoa Khoa học Tự nhiên, Trường Đại học Cần Thơ và Bộ môn Toán, Trường Đại học FPT Cần Thơ. Nghiên cứu được đăng trên tạp chí Khoa học Đại học Cần Thơ, Tập 60, Số chuyên đề: Khoa học tự nhiên (Toán-Lý) (2024): (133-141)


 



© Copyright 2020 Trung tâm Thông tin Khoa học và Công nghệ - Sở Khoa học & Công nghệ TP. Cần Thơ
Địa chỉ: 118/3 Trần Phú - Phường Cái Khế - Quận Ninh Kiều - thành phố Cần Thơ
Giấy phép số: 05/ GP-TTĐT, do Sở Thông tin và Truyền Thông thành phố Cần Thơ cấp ngày 23/5/2017
Trưởng Ban biên tập: Ông Vũ Minh Hải - Giám Đốc Trung tâm Thông tin Khoa học và Công nghệ - Sở Khoa học & Công nghệ TP. Cần Thơ
Ghi rõ nguồn www.trithuckhoahoc.vn khi bạn sử dụng lại thông tin từ website này
-->