Mặc dù đã chế tạo thành công một công cụ có khả năng nhận diện văn bản được tạo ra bởi ChatGPT với độ chính xác đạt 99,9%, OpenAI vẫn chưa chuẩn bị công bố công cụ này do lo ngại về tác động đối với số lượng người dùng.
Theo thông tin từ The Wall Street Journal, công cụ này đã được hoàn thiện từ năm ngoái và được thiết kế để sử dụng dễ dàng chỉ với một nút nhấn. Tuy nhiên, một khảo sát nội bộ của OpenAI cho thấy rằng 30% người dùng sẽ ngừng sử dụng ChatGPT nếu công cụ này được ra mắt, vì lo ngại về việc bị cáo buộc dùng AI để gian lận.
Dù vậy, OpenAI vẫn đang xem xét khả năng phát hành công cụ này cho một số nhóm nhất định, như là các giáo viên hoặc các doanh nghiệp có thể hỗ trợ trường học trong việc nhận diện những nội dung được tạo ra bởi AI.
Tuy nhiên, điều này cũng tạo ra một thách thức đáng kể trong việc quản lý quyền truy cập vào công cụ. Nếu công cụ này được nhiều người sử dụng, những đối tượng xấu có thể tìm cách để lách qua các biện pháp bảo mật của nó. OpenAI cũng đã thừa nhận rằng công cụ này có thể tác động đến một số nhóm người dùng, như những người không sử dụng tiếng Anh.
Trong thời gian đó, Google cũng đã cho ra mắt một công cụ tương tự có tên SynthID, tuy nhiên nó vẫn chưa được sử dụng rộng rãi.
Các doanh nghiệp công nghệ vẫn đang tích cực tìm kiếm phương án để cân bằng giữa việc bảo vệ tính toàn vẹn của nội dung cũng như đảm bảo mang đến trải nghiệm tốt nhất cho người dùng. Việc OpenAI cho ra mắt công cụ phát hiện gian lận thông qua ChatGPT có thể đánh dấu một bước tiến quan trọng trong việc giải quyết vấn đề này.
