Một bot spam AI đã sử dụng GPT-4o-mini của OpenAI để “dội bom” các website bằng các bình luận spam.
Theo công ty an ninh mạng SentinelOne, AkiraBot đã tấn công thành công ít nhất 80.000 website, chủ yếu là các trang do các doanh nghiệp vừa và nhỏ vận hành, sử dụng các nền tảng thương mại điện tử như Shopify, GoDaddy, Wix.com và Squarespace,…
Theo báo cáo của 404 Media, công cụ này đã cung cấp cho API chat của OpenAI một prompt: “Bạn là một trợ lý hữu ích chuyên tạo các thông điệp marketing” – và yêu cầu AI tạo ra các thông điệp tùy chỉnh để đăng vào phần bình luận trên các website, quảng bá các dịch vụ SEO giả mạo. Những bình luận này được thiết kế riêng cho từng trang web và được viết hơi khác nhau để tránh bị hệ thống phát hiện. Ví dụ, một công ty xây dựng sẽ nhận một thông điệp khác với một tiệm làm tóc.
AkiraBot sau đó đăng những thông điệp spam do AI tạo ra lên các cửa sổ chat và biểu mẫu liên hệ của các website, nhằm thuyết phục chủ trang mua dịch vụ SEO. Các phiên bản sau của bot spam này còn nhắm vào cả các widget Live Chat được tích hợp sẵn trên nhiều website hiện đại.
“Việc tìm kiếm các website có đề cập đến các tên miền liên quan đến AkiraBot cho thấy bot này đã từng spam theo cách khiến nội dung được các công cụ tìm kiếm lập chỉ mục” theo SentinelOne. Họ cũng cho biết AkiraBot xuất hiện vào tháng 9 năm 2024 và không có liên hệ gì với nhóm mã độc tống tiền Akira khét tiếng.
Tuy nhiên, AkiraBot là một chiến dịch phức tạp. Ngoài việc sử dụng GPT-4o-mini của OpenAI, nó còn dùng nhiều công cụ khác để vượt qua CAPTCHA, đồng thời dùng dịch vụ proxy để tránh bị phát hiện qua mạng.
OpenAI sau đó đã vô hiệu hóa khóa API mà AkiraBot sử dụng. “Chúng tôi đang tiếp tục điều tra và sẽ vô hiệu hóa bất kỳ tài nguyên liên quan nào,” OpenAI cho biết trong tuyên bố gửi đến SentinelOne. “Chúng tôi rất nghiêm túc trong việc xử lý các hành vi lạm dụng và liên tục cải thiện hệ thống để phát hiện hành vi sai phạm.”
