Hàng ngàn bot AI trên X (Twitter) đang đánh cắp ảnh selfie của người dùng để tạo tài khoản giả
Gần đây, một nghiên cứu đáng chú ý từ Đại học Indiana đã tiết lộ một vấn đề cực kỳ nghiêm trọng trên nền tảng truyền thông xã hội trước đây là Twitter, hiện đã được đổi tên thành X của tỷ phú Elon Musk. Được biết đến dưới cái tên 'Fox8' một mạng botnet bí ẩn đã xuất hiện trên X, gây lo ngại với sự gia tăng của các tài khoản hỗ trợ trí tuệ nhân tạo ảo.
Theo thông tin từ New York Post, những nhà nghiên cứu hàng đầu tại Đại học Indiana đã phát hiện ra sự tồn tại của khoảng 1,140 tài khoản bot trên X mà họ đã đặt tên gọi là 'Fox8'. Những tài khoản này không chỉ đơn thuần tạo ra nội dung giả mạo bằng công nghệ ChatGPT mà còn thực hiện việc lấy cắp hình ảnh tự sướng của người dùng để tạo ra những hồ sơ giả danh.
Nghiên cứu này đã chỉ ra rằng mạng botnet Fox8 không chỉ có mục tiêu lừa đảo mọi người đầu tư vào tiền điện tử 'scam' mà còn có khả năng đánh cắp thông tin từ ví tiền điện tử thực của người dùng. Các tài khoản bot này thường sử dụng các hashtag như '#bitcoin' và '#crypto' để thu hút sự chú ý của cộng đồng và đồng thời tương tác với các tài khoản người dùng thật để lan truyền thông tin giả mạo.
Một đại diện từ nhóm nghiên cứu cho biết: 'Với sự phát triển và phổ biến của các chatbot miễn phí như ChatGPT, chúng tôi quan tâm liệu những công cụ này có thể bị lợi dụng để lừa đảo hay không vẫn còn là câu hỏi đặt ra'. Ngoài việc lừa đảo trong lĩnh vực tiền điện tử, Fox8 còn lan truyền thông tin sai lệch liên quan đến nhiều chủ đề khác nhau, bao gồm cả bầu cử và sức khỏe cộng đồng.
Sử dụng AI để tạo ra hàng loạt bài đăng, các tài khoản bot này nhằm tạo ra sự ảo tưởng rằng nội dung của họ là thật, từ đó cản trở khả năng phân biệt của người dùng và thúc đẩy việc nhấp vào các liên kết độc hại. Điều đáng chú ý, để làm cho 'bản thân' trở nên 'con người' hơn, các bot này không chỉ sử dụng ảnh đánh cắp mà còn tạo ra mối tương tác giữa chúng và thậm chí có lượng người theo dõi và bạn bè ảo.
Nghiên cứu cũng đặc biệt nhấn mạnh rằng sự cải tiến của các mô hình ngôn ngữ như ChatGPT đã làm tăng độ tin cậy của những tài khoản giả mạo này. Tuy những nhà nghiên cứu không tiết lộ chi tiết về các tài khoản bot cụ thể, họ đã tình cờ khám phá một số tài khoản này thông qua những dòng tweet bị lộ ra bên ngoài. Thậm chí, một số cụm từ đặc biệt đã gợi ý khả năng sự hiện diện của các bot sử dụng hỗ trợ từ mô hình AI.
Kết luận của nghiên cứu là vấn đề này chỉ là một phần nhỏ của những phức tạp khi công nghệ cấp tiến. Có thể các bot AI độc hại và tinh vi hơn vẫn đang hoạt động mà chưa bị phát hiện. Các nhà nghiên cứu đã kêu gọi những người đứng đầu cần có những biện pháp quản lý và quy định nghiêm ngặt hơn để đối phó với vấn đề này, bởi vì phương pháp hiện tại đang gặp khó khăn trong việc phân biệt nội dung do AI tạo ra.
Mặc dù sau khi nghiên cứu được tiết lộ, X đã tiến hành loại bỏ 1,140 tài khoản bot nhưng phản ứng của X đối với sự phát hiện này lại không thực sự tích cực. Trong quá trình tiếp cận để đưa ra nhận định, X chỉ đưa ra phản hồi tự động hứa hẹn sẽ tiến xa hơn trong việc tương tác. Câu hỏi đặt ra là liệu những hành động này có thể đảm bảo sự trong sạch và minh bạch của X trong tương lai hay không. Không chỉ X mà các nền tảng mạng xã hội khác cũng nên đưa những giải pháp cụ thể để ngăn chặn sự ảnh hưởng tiêu cực từ bot AI.
Xem thêm:- Bài viết chuyên mục Khám phá
Bình luận (0)