Gần đây, mạng xã hội X đã bùng nổ với sự phẫn nộ của nhiều phụ nữ Hàn Quốc khi trở thành nạn nhân của các video deepfake khiêu dâm. Những video này, được sản xuất bằng công nghệ AI, gán ghép khuôn mặt nạn nhân vào hình ảnh nhạy cảm, đã bị phát tán trên các nhóm chat Telegram. Đáng tiếc là những nội dung này không bị kiểm duyệt, dẫn đến sự lan truyền nhanh chóng và khó kiểm soát trong cộng đồng.
Ruma, một nữ sinh vừa tốt nghiệp từ Đại học Quốc gia Seoul, đã trở thành nạn nhân của một vụ việc nghiêm trọng. Vào tháng 7/2021, cô phát hiện hình ảnh riêng tư của mình bị phát tán trên nền tảng Telegram. Đến tháng 5 năm nay, Ruma mới biết rằng hai bạn học nam cùng trường chính là thủ phạm. Sau khi thông báo sự việc cho cảnh sát và hợp tác với các nạn nhân khác để thu thập chứng cứ, hai kẻ phạm tội đã bị bắt giữ và chuẩn bị đối mặt với phiên tòa sắp tới.
Tổng thống Hàn Quốc Yoon Suk Yeol đã yêu cầu các cơ quan chức năng tăng cường điều tra và xử lý nghiêm các tội phạm lợi dụng công nghệ để sản xuất video khiêu dâm giả mạo. Chính phủ Hàn Quốc cũng đang triển khai một chiến dịch kéo dài bảy tháng nhằm truy quét những cá nhân tạo ra và phát tán nội dung khiêu dâm trên các nền tảng trực tuyến. Mục tiêu của chiến dịch này là bảo vệ sự an toàn cho trẻ em và phụ nữ trước những nguy cơ từ công nghệ deepfake.
