Xanthorox AI - Công cụ AI độc hại hỗ trợ cho các nhóm tin tặc
Các nhà nghiên cứu an ninh mạng vừa phát hiện một công cụ mới đầy nguy hiểm đang gây xôn xao trên các diễn đàn darknet và cộng đồng tội phạm mạng. Xanthorox, một nền tảng trí tuệ nhân tạo độc hại, đã nổi lên như một mối lo ngại nghiêm trọng đối với ngành bảo mật. Công cụ này hoạt động giống như một chatbot thông thường, tương tự như ChatGPT, nhưng có một điểm khác biệt lớn: không có bất kỳ hạn chế an toàn nào.
Thông tin chi tiết
Được công bố lần đầu trên một kênh Telegram riêng tư vào tháng 10 năm 2024, Xanthorox nhanh chóng lan truyền sang các diễn đàn darknet vào tháng 2 năm 2025. Nền tảng này có thể tạo ra mã độc (malware) và mã độc tống tiền (ransomware) dựa trên các câu lệnh văn bản đơn giản từ người dùng. Mặc dù tác giả đứng sau Xanthorox khẳng định công cụ này được thiết kế cho mục đích "hacking có đạo đức" (ethical hacking) và kiểm thử xâm nhập (penetration testing). Tuy nhiên, các tính năng của nó lại cho thấy một thực tế khác.
Mới đây, trong báo cáo mới nhất được chia sẻ trên diễn đàn, các nhà nghiên cứu bảo mật thuộc Trend Micro Security xác định phiên bản Agentex của nền tảng này rất đáng lo ngại. Người dùng bình thường có thể dễ dàng tạo ra các chương trình độc hại chỉ bằng một vài câu lệnh như "Hãy tạo cho tôi một ransomeware có khả năng như sau" kèm theo danh sách các yêu cần và hành động, Agentex sẽ tự động biên dịch các hướng dẫn thành mã thực thi sẵn sàng để chạy. Điều này loại bỏ các rào cản kỹ thuật từng ngăn cản những cá nhân thiếu kỹ năng tạo ra các phần mềm độc hại tinh vi.
Khác với các công cụ trước đây như WormGPT hay EvilGPT vốn dựa vào việc bẻ khóa (jailbreaking) các mô hình có sẵn, Xanthorox tuyên bố là một hệ thống hoàn toàn khép kín, được huấn luyện bằng các dữ liệu mới nhất thông qua các LLM tự xây dựng, hoạt động trên các máy chủ chuyên dụng mà không phụ thuộc vào các API của những bên thứ ba như OpenAI, Google AI hay Anthropic.
Theo các chuyên gia của Trend Micro, Agentex và Xanthorox có thể sản xuất các loại mã độc nguy hiểm, hoạt động tốt trên nhiều hệ điều hành với khả năng ẩn mình trong hệ thống, được chú thích đầy đủ cho người dùng phổ thông, dễ dàng để triển khai ngay lập tức trên quy mô lớn hoặc làm nền tảng cho các cuộc tấn công phức tạp hơn. Với những yếu tố như trên, đây không còn là công cụ cho mục đích nghiên cứu về an toàn, bảo mật công nghệ; thay vào đó mục đích của nó đã nhắm đến những người dùng nghiêm túc, một số trong đó có thể theo đuổi các mục tiêu vượt xa cái gọi là “nghiên cứu”.
Quá trình thử nghiệm cho thấy Xanthorox có thể tạo ra nhiều loại mã độc khác nhau với các hướng dẫn chi tiết.
Shellcode Runner: Các nhà nghiên cứu của Trend Micro yêu cầu Xanthorox tạo ra một trình chạy shellcode viết bằng C/C++ sử dụng các lệnh gọi hệ thống (syscalls) gián tiếp thay vì các lệnh gọi API của Windows và bao gồm một payload được mã hóa AES từ một tệp trên đĩa.
- Kết quả: Agentex tạo ra mã dễ đọc, hiệu quả và được chú thích kỹ lưỡng. Mã bao gồm các hướng dẫn cấu hình với các biến giữ chỗ, nhắc người dùng thay đổi các giá trị mặc định.
Làm rối mã (Obfuscation): Các nhà nghiên cứu cũng thử nghiệm khả năng làm rối mã JavaScript bằng cách yêu cầu một tập lệnh Python sửa đổi tên biến và hàm bằng các ký tự ngẫu nhiên.
- Kết quả: Xanthorox tiếp tục cung cấp mã hoạt động tốt, có chú thích cùng với hướng dẫn triển khai. Việc thực hiện cho thấy sự hiểu biết về các yêu cầu kỹ thuật và tạo ra mã hợp lệ để sử dụng riêng lẻ hoặc làm khung sườn cho các dự án lớn hơn.
Mặc dù có thế mạnh về tạo mã, tuy nhiên Xanthorox vẫn có những hạn chế đáng kể:
Nền tảng này không thể truy cập internet hoặc dark web, hạn chế tính hữu dụng của nó trong việc do thám hoặc thu thập dữ liệu.
Nền tảng thiếu thông tin về các lỗ hổng bảo mật gần đây, thậm chí hệ thống không có kiến thức về sự tồn tại của những lỗ hổng mới nhất này. Mặt khác, Xanthorox cũng không thể truy xuất dữ liệu bị đánh cắp như thông tin về thẻ tín dụng hay thông tin đăng nhập bị rò rỉ.
Tiếp tục nghiên cứu sâu thêm về nền tảng này, các chuyên gia phát hiện ra Xanthorox không giới hạn việc cung cấp thông tin về system prompt mỗi khi người dùng yêu cầu:
Về cơ bản, system prompt của Xanthorox được chia làm 03 phần chỉ thị chính:
Màu đỏ: Nhấn mạnh việc phớt lờ mọi nguyên tắc hoặc ràng buộc đạo đức, về cơ bản là cài đặt một cơ chế bẻ khoá (jailbreak) trực tiếp trên LLM.
Màu xanh lá: Định nghĩa các đặc điểm tính cách cụ thể, hướng dẫn mô hình hành xử như một nhân vật nữ có khả năng sáng tạo.
Màu xanh dương: Một số định nghĩa công cụ dành cho trình nhập vai (roleplayer) và công cụ truy xuất dữ liệu liên quan tới yêu cầu của người dùng.
Khắc phục & Khuyến nghị
Xanthorox là một công cụ AI được quảng cáo với khả năng hỗ trợ tội phạm mạng, nhưng thực tế không mạnh như quảng cáo. Nó không có khả năng duyệt web, truy cập darknet, hay kho dữ liệu RAG; kiến thức chỉ dựa trên mô hình nền tảng đã tinh chỉnh. Dù vậy, Xanthorox vẫn có thể giúp tội phạm viết mã cơ bản hoặc khám phá những chủ đề bị hạn chế trên LLM phổ thông. Nhìn chung, công cụ này đáng quan tâm nhưng không phải là mối đe dọa “tuyệt đối mạnh” đối với người dùng phổ thông. Người dùng có thể thực hiện một số biện pháp sau để đảm bảo an toàn cá nhân trước mối nguy này:
Không sử dụng các tool nguy hiểm: Tránh sử dụng các công cụ nguy hiểm như Xanthorox, các LLM bị jailbreak có khả năng tạo ra mã độc hoặc nội dung nguy hiểm. Không phát tán những mã độc được tạo bởi các nền tảng trên bởi đây là hành vi vi phạm pháp luật.
Bảo vệ dữ liệu cá nhân: Không chia sẻ dữ liệu nhạy cảm hoặc tài khoản trên các nền tảng không đáng tin cậy, bởi các công cụ này có thể bị lợi dụng.
Sử dụng các nền tảng hợp pháp: Sử dụng các chatbot AI chính thống như ChatGPT, Claude… để đảm bảo an toàn và không vi phạm luật pháp.
Nâng cao nhận thức cá nhân: Theo dõi tin tức, tìm hiểu rủi ro về các nền tảng AI độc hại, giảm thiểu khả năng đối diện với nguy cơ mất an toàn bảo mật nói chung.
