Ngày nay, các nhà nghiên cứu bảo mật và tác nhân đe dọa thường tìm cách vượt qua hàng rào bảo vệ của các trợ lý AI hợp pháp. Tuy nhiên, có một số mô hình LLM được gọi là “dark LLM ”, thiết kế riêng cho mục đích độc hại và không có bất kỳ giải pháp bảo mật nào.

Trong khi các công cụ AI hợp pháp có thể bị tin tặc lạm dụng để phát triển hoặc thúc đẩy các chiến dịch của chúng, thì dark LLM cho phép những kẻ tấn công ít kỹ năng hơn tạo email lừa đảo, viết phần mềm độc hại và tự động hóa hoạt động trinh sát. 

Như được đề cập, các nhà nghiên cứu tại Palo Alto Networks đã tiến hành phân tích chi tiết hai dark LLM như vậy. Một trong số đó là WormGPT 4.

WormGPT ban đầu xuất hiện vào năm 2023 và bị đóng cửa cùng năm. Phiên bản WormGPT 4 xuất hiện gần đây, được quảng cáo trên các diễn đàn ngầm và kênh Telegram, với các chiến dịch rao bán đã được Palo Alto Networks theo dõi vào cuối tháng 9/2025. Một tháng truy cập vào công cụ AI có giá 50 USD, nhưng với 220 USD, người dùng có thể có được “quyền truy cập trọn đời”, bao gồm truy cập vào mã nguồn.

WormGPT 4 có thể được kẻ tấn công sử dụng để soạn tin nhắn lừa đảo có sức thuyết phục và các chiêu trò kỹ nghệ xã hội khác. Dịch vụ này cũng cung cấp chức năng tạo phần mềm độc hại. Palo Alto Networks đã thử nghiệm nó để tạo ra mã độc tống tiền, bao gồm chức năng mã hóa tệp, hỗ trợ chỉ huy và kiểm soát, cũng như ghi chú đòi tiền chuộc.

Trong khi WormGPT 4 được quảng cáo với người dùng là “chìa khóa cho một AI không biên giới”, các nhà nghiên cứu tại Palo Alto Networks lưu ý: “Các nhà phát triển WormGPT 4 vẫn giữ bí mật về kiến ​​trúc mô hình và dữ liệu đào tạo của nó. Họ không xác nhận và cũng không phủ nhận việc dựa vào một mô hình LLM được tinh chỉnh hoặc đào tạo bất hợp pháp hay chỉ đơn thuần là các kỹ thuật bẻ khóa”.

Dark LLM thứ hai được các nhà nghiên cứu Palo Alto Networks phân tích là KawaiiGPT, được xác định xuất hiện vào khoảng tháng 7/2025. KawaiiGPT có sẵn miễn phí trên GitHub và dễ dàng thiết lập.

Các nhà nghiên cứu chỉ ra cách thức sử dụng KawaiiGPT để tạo ra các mồi nhử kỹ nghệ xã hội thuyết phục, tạo ra một tập lệnh để di chuyển ngang hàng trên máy chủ Linux, đồng thời phát triển một tập lệnh để đánh cắp dữ liệu và viết một yêu cầu đòi tiền chuộc. Trái ngược với bản chất thương mại của WormGPT 4, với tính dễ tiếp cận của KawaiiGPT, bản thân mô hình đã là một mối đe dọa. Công cụ này miễn phí và được cung cấp công khai, đảm bảo chi phí không phải là rào cản đối với tội phạm mạng.

Các nhà nghiên cứu cho biết, KawaiiGPT đã tự báo cáo có hơn 500 người dùng đăng ký, trong đó hàng tuần có hàng trăm người dùng hoạt động sử dụng nền tảng này.

Palo Alto Networks cảnh báo các mô hình dark LLM như WormGPT 4 và KawaiiGPT đại diện cho “mức rủi ro kỹ thuật số mới”. Công ty bảo mật giải thích: “Những mô hình không bị hạn chế này về cơ bản đã loại bỏ một số khó khăn về kỹ năng cần thiết cho hoạt động tội phạm mạng, tạo điều kiện cho những tin tặc chưa có nhiều kinh nghiệm thực hiện các cuộc tấn công mạng”.