Các tập đoàn công nghệ lớn đang đầu tư mạnh mẽ về tài chính và nhân lực để đua nhau trong việc phát triển trí tuệ nhân tạo (AI), một trong những khả năng áp dụng phổ biến là tạo hình ảnh theo yêu cầu. Tuy nhiên, việc kiểm soát các công cụ này vẫn chưa đủ nghiêm ngặt, dẫn đến khả năng bị những kẻ xấu lợi dụng để lan truyền những nội dung độc hại trên mạng.
Gần đây, sau khi Meta giới thiệu tính năng sử dụng trí tuệ nhân tạo để tạo ra nhãn dán (sticker), công cụ này đã nhận được phản hồi tiêu cực từ người dùng khi chúng tạo ra nhãn dán không phù hợp, chứa hình ảnh khỏa thân, bạo lực và phản cảm. Người dùng có thể chia sẻ những nhãn dán này với các tài khoản khác.
Meta's representative confirmed that the Messenger app integrating AI can produce incorrect results during the initial testing phase. After receiving feedback from users, the company will make updates to improve the feature.
Không chỉ xảy ra với Meta, người dùng Bing Image Creator của Microsoft cho biết khi kết hợp từ khóa về bộ phim thiếu nhi Spongebob và World Trade Center, AI sẽ cho ra những bức ảnh mô tả nhân vật hoạt hình lái máy bay hướng tới tòa tháp đôi, gợi nhớ vụ khủng bố 11/9/2001 tại Mỹ. Bằng cách tương tự, người dùng cũng có thể tạo ra hình ảnh các nhân vật nổi tiếng cầm vũ khí thực hiện hành động bạo lực.
Một số individu cũng tạo ra hình ảnh không đáng mong muốn bằng các công cụ Trí tuệ Nhân tạo (AI) khác như Dall-E của OpenAI hay Stable Diffusion của Stability AI, sau đó lan truyền lên các mạng xã hội.
Có thể nhận thấy, cùng với sự tiến bộ của trí tuệ nhân tạo, các doanh nghiệp công nghệ đang nỗ lực tìm ra giải pháp cho những vấn đề phát sinh như nội dung không phù hợp, hình ảnh gây phản cảm hoặc sự lan tràn của thư rác và tin nhắn spam.
