Khi công nghệ deepfake không ngừng tiến triển, nguy cơ bị lạm dụng cũng trở nên trầm trọng hơn. Gần đây, phần mềm Deep-Live-Cam đã thu hút nhiều sự quan tâm nhờ khả năng tạo ra deepfake trong thời gian thực một cách đơn giản. Với phần mềm này, chỉ cần một bức ảnh của cá nhân, khuôn mặt của họ có thể được áp dụng vào luồng webcam trực tiếp, tạo ra các video giả lập cử chỉ, giọng nói và biểu cảm một cách rất thuyết phục.
Deep-Live-Cam đã ra mắt vào cuối năm ngoái và nhanh chóng thu hút sự chú ý khi những video cho thấy khả năng mô phỏng các nhân vật nổi tiếng như Elon Musk và George Clooney được chia sẻ rầm rộ trên internet. Sự tiện ích và khả năng tiếp cận của phần mềm này đang gây ra lo ngại rằng nó có thể bị lợi dụng cho những mục đích không chính đáng, từ lừa đảo đến các hành vi phá hoại.
Các chuyên gia trong lĩnh vực công nghệ cùng với các nhà quan sát đã bày tỏ mối lo ngại về khả năng lạm dụng của các công nghệ tiên tiến này. Họa sĩ minh họa Corey Brickley đã chia sẻ trên Twitter rằng "phần lớn những công nghệ đột phá gần đây đều thuộc về danh sách các kỹ năng gian lận," và ông khuyên mọi người nên "thảo luận về mật mã với cha mẹ của mình," nhằm tránh sự lừa gạt từ AI.
Công nghệ hoán đổi khuôn mặt không phải là một phát minh mới, nhưng những bước tiến gần đây đã khiến cho nó trở nên nhanh chóng, thông minh và dễ sử dụng hơn. Những cải tiến này đã giảm bớt khó khăn trong việc tiếp cận, cho phép bất kỳ ai có máy tính cá nhân thông thường cũng có thể thực hiện việc tạo ra deepfake mà không cần phải sử dụng phần mềm đắt đỏ.
Những rủi ro tiềm ẩn từ việc lạm dụng công nghệ deepfake đã được chứng minh qua một số sự kiện gần đây. Chẳng hạn, trong tháng 2, một nhân viên tại Trung Quốc đã bị lừa đảo và chuyển đi hơn 25 triệu USD sau khi nhận một cuộc gọi video giả mạo giám đốc tài chính của công ty. Tương tự, tại Mỹ, có một sự việc đã mô phỏng giọng nói của Tổng thống Joe Biden nhằm can thiệp vào cuộc bầu cử.
Sự phát triển của các công nghệ như Deep-Live-Cam khiến việc theo dõi và kiểm soát nghiêm ngặt những công nghệ này trở thành điều cần thiết không chỉ cho cộng đồng mà còn cho từng cá nhân, nhằm bảo vệ an ninh và quyền riêng tư của họ.
