Để đối phó với một trong những vấn đề nghiêm trọng nhất liên quan đến sự tiến bộ của công nghệ trí tuệ nhân tạo, Văn phòng Luật sư Thành phố San Francisco đã tiến hành khởi kiện 16 trang web phổ biến chuyên tạo ra hình ảnh “khoả thân” của phụ nữ và trẻ em gái mà không có sự đồng ý của họ. Vụ kiện này do phó luật sư thành phố Yvonne Meré lãnh đạo, người đã nhất quyết hành động sau khi nhận thấy mức độ trầm trọng của vấn đề.
Theo thông tin từ tờ New York Times, trong nửa đầu năm 2024, các trang web này đã ghi nhận hơn 200 triệu lượt truy cập. Điều khiến người ta lo ngại là một số trang web công khai quảng bá việc tạo ra hình ảnh khỏa thân, thậm chí còn nói rằng "không cần tốn công sức để hẹn hò".
Luật sư thành phố, David Chiu, cho biết rằng những mô hình trí tuệ nhân tạo được áp dụng trên các trang web này đã được học hỏi từ các nội dung khiêu dâm chân thực cũng như hình ảnh liên quan đến việc lạm dụng trẻ em. Ông còn nhấn mạnh thêm rằng việc xác định nguồn gốc những hình ảnh này sau khi chúng đã được phát tán là điều cực kỳ khó khăn.
Vụ kiện đang cáo buộc các trang web vi phạm các quy định về khiêu dâm trả thù và khiêu dâm trẻ em theo cả luật tiểu bang và liên bang, cũng như các điều khoản của Luật cạnh tranh không lành mạnh của California. "Cuộc điều tra này đã đưa chúng ta đến những ngóc ngách tồi tệ nhất của internet, và tôi thực sự cảm thấy kinh hoàng trước hoàn cảnh của những người phụ nữ và trẻ em gái chịu đựng sự khai thác này," Chiu chia sẻ.
Ngoài ra, sự kiện này còn tạo ra một làn sóng quan tâm lớn khi những bức hình nhạy cảm của các nghệ sĩ nổi tiếng, trong đó có Taylor Swift, xuất hiện trên mạng. Điều này đã khiến các nhà lập pháp Mỹ gia tăng yêu cầu hành động nhằm đối phó với các trang web khiêu dâm deepfake. Hậu quả là vào đầu năm nay, Google đã quyết định cấm quảng cáo cho những trang web này.
Một dự luật lưỡng đảng mới mang tên Dự Luật Bảo Vệ Giải Trí năm 2024 đã được đưa ra, yêu cầu các cá nhân và tổ chức phải chịu trách nhiệm bồi thường nếu họ tạo ra, lưu trữ hoặc chia sẻ hình ảnh hoặc âm thanh được tạo bởi AI mà không có sự đồng ý của người được miêu tả. Đạo luật này nhằm bảo vệ quyền tác giả và quyền riêng tư của cá nhân trong thời đại số.
