Công ty OpenAI đang xem xét việc thay đổi chính sách cấm tạo nội dung khiêu dâm và các tài liệu NSFW khác thông qua các sản phẩm ChatGPT và DALL-E của mình.
Một bản báo cáo mới của công ty cho thấy trí tuệ nhân tạo đang mong muốn khám phá khả năng cho phép người dùng tạo ra loại nội dung này một cách có trách nhiệm, miễn là không vi phạm pháp luật hoặc quyền cá nhân.
Joanne Jang, người đứng đầu nhóm mô hình tại OpenAI, đã nhấn mạnh trong một cuộc phỏng vấn với NPR rằng việc tạo deepfake và lạm dụng hình ảnh cá nhân vẫn sẽ bị cấm.
OpenAI đang cân nhắc khai mở cuộc thảo luận về việc các sản phẩm của công ty có nên cho phép nội dung khiêu dâm và hình ảnh khỏa thân hay không, trong trường hợp không liên quan đến deepfake hoặc hành vi phạm pháp.
Một số chuyên gia phê bình lo ngại rằng việc giảm thiểu các ràng buộc này có thể làm cho việc tạo ra deepfake và nội dung không hợp pháp trở nên dễ dàng hơn. Tuy nhiên, theo Renee DiResta, người đứng đầu nghiên cứu tại Đài quan sát Internet Stanford, việc OpenAI cung cấp một phương pháp hợp pháp để tạo ra nội dung khiêu dâm có thể là một giải pháp tốt hơn so với việc người dùng sử dụng các mô hình nguồn mở không an toàn để tạo ra nội dung không hợp pháp.
