YouTube, nền tảng video hàng đầu thuộc sở hữu của Google, vừa công bố kế hoạch phát triển nhiều công cụ mới nhằm phát hiện video deepfake. Những công cụ này sẽ hỗ trợ người sáng tạo nội dung trong việc nhận diện các video sử dụng giọng nói hoặc khuôn mặt của họ mà không có sự cho phép. Dù đã giới thiệu hai công cụ phát hiện độc lập, YouTube vẫn chưa thông báo thời gian cụ thể sẽ ra mắt các tính năng này. Điều này cho thấy nỗ lực của nền tảng trong việc bảo vệ quyền lợi của những người sáng tạo và nâng cao sự an toàn cho cộng đồng.
YouTube vừa công bố một công cụ mới, sẽ được tích hợp trực tiếp vào hệ thống ID nội dung hiện tại. Công cụ này có khả năng tự động phát hiện và xử lý các vi phạm bản quyền, mở ra một cơ hội lớn cho các nhạc sĩ nổi tiếng. Việc giọng hát của họ bị mô phỏng bởi AI để sáng tác nhạc mới giờ đây sẽ được bảo vệ tốt hơn. Tuy nhiên, vẫn còn nhiều nghi ngại về mức độ hiệu quả của công cụ này đối với các nghệ sĩ ít được biết đến, khiến cho vấn đề bản quyền trong lĩnh vực âm nhạc trở nên phức tạp hơn bao giờ hết.
Công cụ mới của YouTube sẽ hỗ trợ các nhân vật công chúng như người có ảnh hưởng, diễn viên, vận động viên và nghệ sĩ trong việc theo dõi và đánh dấu các nội dung sử dụng hình ảnh của họ do trí tuệ nhân tạo tạo ra. Mặc dù vậy, khả năng YouTube chủ động xóa các video gây nhầm lẫn hoặc lừa đảo liên quan đến những người không nổi tiếng vẫn còn chưa rõ ràng.
YouTube đã đưa ra thông báo quan trọng liên quan đến vấn đề deepfake và nội dung mạo danh. Cụ thể, nền tảng này sẽ cho phép người dùng gửi yêu cầu xóa các video được tạo ra từ công nghệ AI gây nhầm lẫn hoặc không đúng sự thật. Điều này có nghĩa là những người bị ảnh hưởng bởi nội dung deepfake cần chủ động vào cuộc để bảo vệ danh tính và yêu cầu gỡ bỏ những video mạo danh ấy. Đây là một bước tiến tích cực trong việc đảm bảo an toàn và quyền riêng tư cho người dùng.
AI ngày nay đang trở thành một phần không thể thiếu trong cuộc sống và điều này đã dẫn đến sự gia tăng đáng kể về số lượng video deepfake trên mạng. Một nghiên cứu mới đây chỉ ra rằng từ năm 2021, số lượng video deepfake đã tăng lên đến 550%. Phần lớn những video này thuộc thể loại khiêu dâm, trong đó gần như tất cả nạn nhân đều là phụ nữ. Trước tình hình này, Bộ An ninh Nội địa Hoa Kỳ đã đưa ra cảnh báo về mối đe dọa ngày càng nghiêm trọng từ công nghệ deepfake, đặc biệt là những ứng dụng có khả năng tạo ra nội dung khiêu dâm chỉ từ một đoạn video ngắn.
YouTube đã công bố một phương châm rõ ràng trong việc ứng dụng trí tuệ nhân tạo. Mục tiêu của họ là nâng cao khả năng sáng tạo của con người thay vì thay thế. Bên cạnh đó, platform này cam kết phát triển các công cụ hữu ích cho người dùng, giúp kiểm soát và loại bỏ nội dung giả mạo. Điều này không chỉ thúc đẩy sự sáng tạo mà còn bảo đảm môi trường nội dung trên nền tảng được giữ gìn và cải thiện.
