Vào tháng 9 năm 2023, những bức ảnh khỏa thân giả mạo của hơn 20 nữ sinh đã nhanh chóng lan rộng tại một số trường học ở Tây Ban Nha, gây ra phản ứng mạnh trong cộng đồng. Sau đó, những hình ảnh này được xác nhận là do trí tuệ nhân tạo (AI) tạo ra. Mới đây, 15 học sinh trong cùng lớp của các nữ sinh đó đã bị kết án một năm tù treo do đã tạo ra và phát tán những hình ảnh này. Tuy nhiên, theo Fortune, vấn đề thực sự phức tạp hơn nằm ở chỗ những công cụ tạo ra những bức ảnh này vẫn phổ biến và dễ dàng truy cập trên mạng Internet.
"Trang web này cho biết, chỉ trong vài giây, chúng có khả năng 'vạch trần' bất kỳ ai trong bất kỳ bức ảnh nào được chia sẻ."
Một nỗ lực mới từ cả cộng đồng và chính quyền San Francisco (Mỹ) đang được kỳ vọng sẽ cải thiện tình hình hiện tại. David Chiu, luật sư đại diện cho cư dân địa phương, đã nộp đơn kiện một nhóm trang web có lưu lượng truy cập lớn, có trụ sở tại Estonia, Serbia, Anh và nhiều nước khác, chuyên cung cấp công cụ để tạo ra hình ảnh.
"Chiu cho biết với AP rằng những hình ảnh đang được lan truyền đã lợi dụng một số lượng lớn phụ nữ và trẻ em gái trên toàn thế giới. Những hình ảnh này thường bị sử dụng để bắt nạt, sỉ nhục và đe dọa đối tượng là phụ nữ và trẻ em gái. Hậu quả đối với nạn nhân là nghiêm trọng, có thể phá hủy danh tiếng, tác động xấu đến sức khỏe tâm thần, làm giảm quyền tự quyết, và trong một số trường hợp, khiến một số người có ý định tự sát."
Các trang web này không công khai tên tuổi để tránh việc quảng bá mà không cố ý. Chúng bị cáo buộc vi phạm nhiều luật pháp của bang, chẳng hạn như lừa đảo trong kinh doanh, khiêu dâm không có sự đồng ý, và lạm dụng tình dục đối với trẻ em.
Tuy nhiên, theo nhận định của các chuyên gia, việc giải quyết vấn đề này gặp không ít khó khăn, từ những người phát triển công cụ đến người sử dụng và cả môi trường xung quanh mà hình ảnh có thể lan rộng.
Người điều hành công cụ tạo ảnh AI khỏa thân thường giữ bí mật danh tính và hoạt động trên nhiều quốc gia. Theo thông tin từ AP, họ đã cố gắng liên lạc với một dịch vụ tương tự và nhận được phản hồi rằng giám đốc điều hành của họ “di chuyển khắp nước Mỹ”, nhưng không cung cấp thêm thông tin nào khác.
Về sự kiện xảy ra tại Tây Ban Nha hồi năm ngoái, cơ quan thực thi pháp luật của Liên minh châu Âu cho biết rằng ứng dụng được sử dụng để tạo ra hình ảnh deepfake "dường như không thuộc đối tượng điều chỉnh bởi các quy định mới về an toàn trực tuyến, vì chúng không phải là nền tảng có quy mô đáng kể".
Theo ý kiến của nhà nghiên cứu Riana Pfefferkorn từ Đại học Stanford, những trang web có khả năng bị ngừng hoạt động nếu người chủ không chú ý đến vụ kiện. Trong trường hợp David Chiu cùng người dân San Francisco giành chiến thắng, họ có thể tác động đến các tổ chức quản lý tên miền, máy chủ và trung gian thanh toán để khóa trang web, mặc dù chủ sở hữu không tham gia vào vụ kiện.
Kết quả của vụ kiện được dự đoán sẽ có ý nghĩa quan trọng trong việc quản lý các công cụ AI tạo ra hình ảnh khỏa thân. Theo lời Emily Slifer, Giám đốc chính sách của tổ chức Thorn - chuyên đấu tranh chống lại nạn khai thác tình dục trẻ em, vụ kiện ở San Francisco "có khả năng tạo ra tiền lệ pháp lý quan trọng trong lĩnh vực này".
Một bên khác cũng cần phải chịu trách nhiệm trong việc phát tán hình ảnh khỏa thân là các mạng xã hội. Chẳng hạn như WhatsApp của Meta tại Tây Ban Nha.
Tiến sĩ Miriam Mendiri đã chia sẻ với Fortune rằng: "Đây không chỉ là nghĩa vụ của xã hội, cha mẹ và các trường học, mà còn là trách nhiệm của những ông lớn trong lĩnh vực công nghệ đang thu lời từ những vấn đề này."
