Các hệ thống công nghệ, thay vì nâng cao hiệu suất, lại đang trở thành mục tiêu cho những kẻ tội phạm mạng. Một ví dụ điển hình là mô hình Gemini sử dụng trong Gmail, dễ dàng bị lợi dụng để gia tăng tình trạng lừa đảo. Những nguy cơ này đòi hỏi người dùng cần phải cảnh giác hơn bao giờ hết.
Một nghiên cứu gần đây của Mozilla đã tiết lộ một phương thức tấn công mới, cho phép tin tặc cài đặt mã độc vào các bản tóm tắt AI trong tin nhắn Gmail. Điều này làm cho các bản tóm tắt trở thành công cụ lừa đảo hiệu quả hơn bao giờ hết. Marco Figueroa, nhà nghiên cứu hàng đầu trong lĩnh vực này, đã trình bày chi tiết về cuộc tấn công trong chương trình “0din” của Mozilla, một sáng kiến nhằm bảo mật các dịch vụ GenAI.
Tính năng tóm tắt AI trong Gmail đã tạo ra một quy trình làm việc hiệu quả hơn cho người dùng, giúp họ nhanh chóng nắm bắt nội dung chính của các email. Hiện tại, tính năng này đã được tích hợp mặc định trong ứng dụng Gmail trên di động và hoàn toàn tự động mà không cần sự can thiệp từ người dùng.
Cuộc tấn công gần đây đã phát hiện ra một kỹ thuật mới, tận dụng khả năng tự động của các bản tóm tắt. Kẻ tấn công có thể sử dụng HTML và CSS để ẩn đi các lời nhắc độc hại trong email. Bằng cách điều chỉnh kích thước chữ và màu sắc, chúng trở nên khó nhận biết đối với người dùng. Kỹ thuật này gợi nhớ đến một sự kiện trong quá khứ, khi các nhà nghiên cứu đã sử dụng phương pháp tương tự để giấu lời nhắc trong các bài nghiên cứu, nhằm thao túng đánh giá của AI.
Mới đây, một thông tin quan trọng đã được công bố liên quan đến việc phát hiện nội dung độc hại trong một tựa game phổ biến. Các nhà phát triển đang khẩn trương điều tra tình trạng này nhằm đảm bảo an toàn cho người chơi. Họ cam kết sẽ đưa ra các biện pháp cần thiết để khắc phục càng sớm càng tốt. Thông báo này đánh dấu một bước tiến trong việc bảo vệ trải nghiệm người dùng, khẳng định quyết tâm của đội ngũ phát triển trong việc duy trì môi trường chơi game trong sạch và tích cực. Người chơi hãy theo dõi thông tin cập nhật từ nhà sản xuất để có được trải nghiệm tốt nhất trong thời gian tới.
Theo phân tích của 0din, loại tấn công này được đánh giá là có mức độ rủi ro trung bình, bởi nó vẫn yêu cầu sự tương tác từ phía người dùng. Tuy nhiên, nếu một chiến dịch lừa đảo thành công, hậu quả có thể vô cùng nghiêm trọng, như việc thu thập thông tin đăng nhập qua lừa đảo bằng giọng nói. Nguy hiểm hơn, những kỹ thuật tương tự có thể được sử dụng để lợi dụng trí tuệ nhân tạo của Gemini trong các dịch vụ như Docs, Slides và Drive. Điều này có thể biến một tài khoản SaaS bị xâm nhập thành hàng nghìn điểm phát tán tin nhắn lừa đảo.
Người dùng Gmail cần lưu ý quan trọng về việc kiểm tra kỹ nội dung email, ngay cả khi đã được tóm tắt bởi Gemini AI. Hãy cẩn trọng và tránh nhấp vào các liên kết không rõ nguồn gốc trong email. Việc này sẽ giúp bảo vệ bạn khỏi những rủi ro tiềm ẩn trong quá trình sử dụng dịch vụ.
