Google đã cập nhật chính sách quảng cáo của mình để ngăn chặn các quảng cáo liên quan đến dịch vụ tạo nội dung khiêu dâm bằng deepfake. Trước đó, chính sách chỉ cấm rõ ràng các quảng cáo có nội dung "tình dục được mô tả bằng hình ảnh nhằm mục đích kích thích." Chính sách mới ngăn chặn các quảng cáo liên quan đến công cụ và dịch vụ tạo hình ảnh khiêu dâm giả mạo, kể cả những hướng dẫn tạo hình ảnh khỏa thân không có sự đồng ý qua AI.
Theo thông tin từ Google, vi phạm chính sách này được coi là một hành vi nghiêm trọng có thể dẫn đến việc đình chỉ tài khoản và cấm quảng cáo vĩnh viễn, không cho phép cơ hội thứ hai. Cả Google và Apple đều đã thực hiện xóa các ứng dụng cung cấp các nội dung nhạy cảm trong cửa hàng ứng dụng của mình. Các nền tảng quảng cáo khác như của Meta và các trang web người lớn cũng đã gặp phải các quảng cáo tương tự từ các tác nhân xấu.
Vấn đề trở nên nghiêm trọng khi hình ảnh khiêu dâm AI không được sự đồng ý lan truyền trên mạng, như trường hợp của Taylor Swift, đã khiến cơ quan chức năng phải can thiệp. Các thành viên Quốc hội Mỹ đã bày tỏ lo ngại về hậu quả không thể thay đổi mà deepfake gây ra, đặc biệt là ảnh hưởng nghiêm trọng đối với phụ nữ. Một dự luật đa phương đã được đưa ra để cho phép nạn nhân kiện những người tạo và lan truyền hình ảnh giả mạo.
Các tập đoàn lớn như Apple và Pornhub cũng đã tiến hành các biện pháp để ngăn chặn nội dung khiêu dâm deepfake. Apple đã loại bỏ các ứng dụng như vậy khỏi App Store của mình, trong khi Pornhub đã cấm nội dung deepfake trên nền tảng của họ từ năm 2018. Những nỗ lực này cho thấy cuộc chiến chống lại các ứng dụng sáng tạo nhưng độc hại của AI vẫn đang đối mặt với một thách thức lớn.
