Mạng xã hội X đã ngăn chặn người dùng tìm kiếm từ khoá "Taylor Swift" sau khi những hình ảnh khiêu dâm giả mạo của nữ ca sĩ nhạc pop bị lan truyền trên mạng xã hội trong tuần này.
Theo Reuters, khi người dùng tìm kiếm từ khóa "Taylor Swift" hoặc "Taylor Swift AI" vào ngày 28/1 trên nền tảng X, họ sẽ nhận thông báo "Đã xảy ra lỗi. Vui lòng thử tải lại".
Joe Benarroch, người đứng đầu hoạt động kinh doanh tại X, khẳng định rằng đây là một biện pháp tạm thời và được thực hiện với sự cẩn trọng tối đa, bởi vì chúng tôi đặt sự an toàn lên hàng đầu trong vấn đề này.
Deepfake là một công nghệ sử dụng trí tuệ nhân tạo để thay thế khuôn mặt của một người bằng khuôn mặt của người khác, nhằm mục đích thao túng hoặc tạo ra nội dung hình ảnh, video hoặc âm thanh có thể dễ dàng gây hiểu lầm. Theo báo The New York Times, một đoạn video giả mạo về Taylor Swift trong tình huống khiêu dâm đã được chia sẻ trên X và đã có tới 47 triệu lượt xem trước khi bị xóa.
Karine Jean-Pierre, thư ký báo chí Nhà Trắng, đã tuyên bố vào hôm thứ Sáu rằng những hình ảnh giả mạo là "đáng báo động" và nhấn mạnh rằng các công ty truyền thông xã hội phải chịu trách nhiệm ngăn chặn sự lan truyền của thông tin sai lệch như vậy.
Có vẻ như Meta đang tìm cách giải quyết vấn đề này, vì cả Threads và Instagram đều đề xuất "Taylor Swift AI" khi người dùng bắt đầu tìm kiếm từ khoá "Taylor", nhưng không hiển thị kết quả trên cả hai nền tảng.
Năm 2023, Taylor Swift đã được tạp chí Time vinh danh là "Nhân vật của năm" sau khi bắt đầu chuyến lưu diễn toàn cầu phá kỷ lục và trở thành nghệ sĩ âm nhạc có số lượng phát trực tuyến lớn nhất trên thế giới. Việc lan truyền hình ảnh deepfakes trên mạng xã hội có thể ảnh hưởng đến hình ảnh của nữ ca sĩ.
Kể từ khi Elon Musk tiếp quản Twitter vào năm 2022, tỷ phú người Nam Phi đã liên tục bị chỉ trích vì các bài đăng gây tranh cãi và các hành động thay đổi chính sách kiểm duyệt nội dung trên nền tảng này. Nhiều nhà quảng cáo trên Twitter đã ngừng chi tiêu vì lo sợ xuất hiện cạnh các bài đăng có nội dung có hại.
Theo X, hầu hết lượt xem nội dung là các bài đăng "lành mạnh". Musk và Giám đốc điều hành X, Linda Yaccarino, đã công bố một chính sách mới có tên là "tự do ngôn luận, không được tiếp cận" nhằm giới hạn việc phân phối một số bài đăng mà không xóa chúng.
