OpenAI, công ty nổi tiếng với các sản phẩm như ChatGPT và DALL-E, hiện đang xem xét khả năng cho phép người dùng tạo nội dung khiêu dâm bằng trí tuệ nhân tạo (AI). Tuy nhiên, việc sử dụng hình ảnh và video để tạo deepfake vẫn sẽ bị cấm.
Trong tài liệu Model Spec mới được phát hành gần đây, OpenAI đã tiết lộ rằng quan điểm cứng nhắc trước đây của công ty về việc ngăn chặn việc tạo ra nội dung khiêu dâm và nội dung NSFW (không phù hợp với nơi làm việc) có thể sẽ được nới lỏng. Công ty đang xem xét khả năng cung cấp khả năng tạo ra nội dung NSFW một cách có trách nhiệm trong các ngữ cảnh phù hợp với độ tuổi thông qua API và ChatGPT. Tuy nhiên, các hạn chế sẽ được áp đặt, bao gồm việc cấm tạo ra deepfake.
Joanne Jang, người đứng đầu mô hình của OpenAI, nhấn mạnh rằng người dùng vẫn sẽ không được phép tạo ra bất cứ điều gì có khả năng vi phạm pháp luật. Ông cũng khẳng định rằng việc tạo ra nội dung deepfake như hình ảnh giả mạo của Taylor Swift sẽ bị cấm hoàn toàn. OpenAI đã thực hiện các biện pháp sau khi hình ảnh giả mạo rõ ràng về ca sĩ này lan truyền trên internet.
Mặc dù có những lo lắng về việc làm yếu đi bộ lọc bảo mật trong các sản phẩm, OpenAI đã thông báo rằng họ không có kế hoạch tạo ra AI khiêu dâm. Thay vào đó, họ muốn khởi đầu một cuộc thảo luận về việc liệu văn bản khiêu dâm và hình ảnh nude có nên bị cấm khỏi các sản phẩm AI của họ hay không.
Mặc dù một số nhà phê bình cho rằng việc xem xét việc này làm ngược lại với mục tiêu của OpenAI là tạo ra trí tuệ nhân tạo an toàn và hữu ích, nhưng cũng có ý kiến cho rằng việc OpenAI cung cấp khả năng tạo ra nội dung khiêu dâm hợp pháp là một lựa chọn tốt hơn so với việc người dùng sử dụng các mô hình đáng ngờ khác trên thị trường.
