CÔNG NGHỆ

Gần một năm sau khi những bức ảnh khỏa thân giả mạo được tạo ra bởi AI gây rúng động một cộng đồng ở miền nam Tây Ban Nha, một tòa án dành cho vị thành niên đã ra quyết định vào mùa hè này, phạt 15 học sinh với mức án một năm quản chế. Tuy nhiên, công nghệ trí tuệ nhân tạo được sử dụng để tạo ra những hình ảnh giả mạo này vẫn có sẵn trên internet, cho phép người dùng "xóa bỏ" trang phục của bất kỳ bức ảnh nào chỉ trong vòng vài giây.

Hiện tại, một nỗ lực mới nhằm chấm dứt ứng dụng này cùng những ứng dụng tương tự đang được triển khai tại California (Mỹ), nơi thành phố San Francisco vừa nộp đơn kiện lần đầu tiên trong loại này trong tuần này. Các chuyên gia nhận định rằng vụ kiện này có khả năng thiết lập một tiền lệ pháp lý quan trọng, tuy nhiên, nó cũng sẽ phải đối mặt với nhiều khó khăn.

David Chiu, một luật sư tại thành phố San Francisco và là người đứng đơn khởi kiện một nhóm các trang web nổi tiếng có trụ sở tại Estonia, Serbia, Vương quốc Anh và nhiều quốc gia khác, cho biết: "Việc lan truyền những hình ảnh này đã gây tổn hại cho rất nhiều phụ nữ và trẻ em gái trên toàn thế giới."

"Những bức ảnh này đã được lợi dụng để quấy rối, xúc phạm và đe dọa phụ nữ cũng như trẻ em gái," ông nói trong cuộc phỏng vấn với hãng tin AP. "Hệ lụy mà chúng mang lại cho nạn nhân là vô cùng nghiêm trọng, làm tổn hại đến danh dự, sức khỏe tâm lý, và trong một số trường hợp, đã khiến một số người có ý nghĩ tự vẫn."

Vụ kiện này đã được nộp thay cho cư dân tại California, với cáo buộc rằng các dịch vụ này đã vi phạm nhiều điều luật của bang, trong đó có các hành vi kinh doanh gian lận, phát tán nội dung khiêu dâm mà không có sự đồng ý và lạm dụng tình dục trẻ em. Tuy nhiên, việc xác định người đứng sau những ứng dụng này là một thách thức lớn, vì chúng không có sẵn trên các cửa hàng ứng dụng điện thoại nhưng vẫn dễ dàng có thể tìm thấy trên mạng.

Khi được liên hệ vào cuối năm ngoái, một trong những dịch vụ này đã trả lời qua email rằng "Giám đốc điều hành của chúng tôi hiện đang có mặt tại Hoa Kỳ và thường xuyên di chuyển giữa các địa điểm trong nước," tuy nhiên, họ không cung cấp bất kỳ bằng chứng nào và cũng không trả lời các câu hỏi khác. AP đã quyết định giữ kín tên cụ thể của các ứng dụng đang bị kiện để không vô tình quảng bá cho chúng.

"Hiện tại, chúng tôi đang gặp một số trang web mà chúng tôi chưa xác định được ai là người quản lý và họ đang hoạt động từ địa điểm nào. Tuy nhiên, chúng tôi sở hữu các công cụ điều tra cùng quyền triệu tập để làm rõ vấn đề này," Chiu nói. "Chắc chắn rằng chúng tôi sẽ vận dụng quyền hạn của mình trong toàn bộ quá trình tố tụng."

Nhiều công cụ này hiện đang được áp dụng để tạo ra những hình ảnh giả mạo "khỏa thân" từ những bức ảnh của phụ nữ trưởng thành, kể cả những người nổi tiếng, mà không có sự cho phép của họ. Tuy nhiên, tình trạng này cũng đã xuất hiện trong các trường học trên toàn cầu, từ Úc đến Beverly Hills ở California, nơi mà các nam sinh đã tạo ra hình ảnh của các bạn nữ trong lớp và sau đó phát tán rộng rãi qua mạng xã hội.

Vụ việc đầu tiên được đưa ra công khai vào tháng 9 năm ngoái tại Almendralejo, Tây Ban Nha, liên quan đến một bác sĩ có con gái là một trong những nạn nhân. Bà đã góp phần quan trọng trong việc làm sáng tỏ vụ việc. Bà đã bày tỏ sự hài lòng với hình phạt nghiêm khắc mà các học sinh cùng lớp phải chịu sau phán quyết của tòa án vào mùa hè vừa qua.

Tuy nhiên, bà cũng nhấn mạnh rằng trách nhiệm không chỉ nằm ở phía xã hội, giáo dục, cha mẹ và trường học, mà còn thuộc về những tập đoàn công nghệ lớn đang kiếm lợi từ điều này. "Những công ty công nghệ lớn cần phải có trách nhiệm về vấn đề này," Tiến sĩ Miriam al Adib Mendiri cho biết trong một cuộc phỏng vấn.

Bà đánh giá cao việc làm của San Francisco nhưng nhấn mạnh rằng cần có thêm sự cố gắng từ các tập đoàn lớn như Meta và công ty con WhatsApp, nơi mà những bức hình giả mạo này đã được phát tán ở Tây Ban Nha.

Dù các trường học và các cơ quan thực thi pháp luật đã nỗ lực trừng phạt những cá nhân sản xuất và phát tán những hình ảnh giả mạo, nhưng việc giải quyết các công cụ tạo ra những hình ảnh này vẫn còn là một thách thức lớn.

Vào tháng 1, một bức thư từ cơ quan hành pháp của Liên minh châu Âu đã được gửi tới một thành viên của Nghị viện châu Âu, thông báo rằng ứng dụng được sử dụng tại Almendralejo "không thuộc vào phạm vi" của các quy định mới về an toàn trực tuyến của khối, do nó không phải là một nền tảng có quy mô đủ lớn.

Các tổ chức đang chú ý đến sự gia tăng của nội dung lạm dụng tình dục trẻ em được tạo ra bởi AI sẽ theo dõi chặt chẽ vụ kiện này tại San Francisco.

Emily Slifer, giám đốc chính sách tại tổ chức Thorn - một tổ chức chống lại việc khai thác tình dục trẻ em, cho biết rằng vụ kiện này "có khả năng thiết lập một tiền lệ pháp lý trong lĩnh vực này."

Một nhà khoa học tại Đại học Stanford cho biết rằng do nhiều bị cáo có văn phòng ở nước ngoài, việc đưa họ ra xét xử sẽ gặp không ít thách thức.

Chiu đang phải đối diện với một cuộc chiến cam go trong vụ kiện này, nhưng có khả năng sẽ đạt được thành công trong việc đưa một số trang web ngừng hoạt động nếu các bị cáo không để tâm đến vụ kiện, theo Riana Pfefferkorn từ Stanford.

Bà cho biết rằng điều này có thể xảy ra trong trường hợp thành phố giành chiến thắng trong vụ kiện mặc định vì các bị cáo không đến tòa, và nhận được những lệnh yêu cầu áp lực lên các nhà cung cấp dịch vụ tên miền, dịch vụ web, cũng như các công ty xử lý thanh toán, điều này có thể dẫn đến việc các trang web bị đóng cửa ngay cả khi chủ sở hữu của chúng không tham gia vụ kiện.

Tham khảo Fortune