AI đang ngày càng trở thành một phần quan trọng trong ngành seeding. Nó giúp tạo ra hàng loạt tài khoản mạng xã hội, vượt qua các rào cản về việc xác minh danh tính. Bên cạnh đó, công nghệ này cũng đảm bảo việc duy trì tài khoản và tối ưu hóa lợi nhuận từ các bài đăng một cách hiệu quả. Sự xuất hiện của AI đang làm thay đổi hoàn toàn cách thức hoạt động trong lĩnh vực này.
Trong những năm gần đây, sự bùng nổ của các mô hình AI quy mô lớn đã mang đến cho những kẻ phát tán tin tức giả mạo những công cụ ngụy trang tinh vi. Chúng có khả năng dễ dàng hóa thân thành người dùng Internet bình thường, tạo ra những bài đăng và bình luận thậm chí còn kích thích hơn cả con người thật. Theo Diệp Tinh, Giám đốc tiếp thị tại Geetest, họ đã dấn thân vào cuộc chiến chống lại lĩnh vực ngầm này trong suốt 12 năm qua. Đến nay, đội ngũ của họ đã ngăn chặn thành công 2,17 tỷ cuộc tấn công đến từ "đội quân mạng" được hỗ trợ bởi AI.
Ông Diệp Tinh đã chỉ ra rằng những cá nhân phát tán thông tin sai lệch có khả năng sử dụng các đoạn script tự động để tạo ra nội dung hàng loạt. Bằng cách áp dụng các mô hình AI với chi phí thấp nhưng hiệu quả cao, họ có thể thao túng dư luận một cách tinh vi. Những công nghệ này không chỉ hoạt động liên tục mà còn thực hiện đa nhiệm một cách nhanh chóng. Trước đây, việc sản xuất 1.000 bình luận hay bài đăng thường tốn hàng giờ của nhiều người làm việc bán thời gian. Giờ đây, với sự hỗ trợ của AI, quy trình này chỉ diễn ra trong vài phút. Cựu nhân viên studio Dương Băng tiết lộ rằng những người viết bài có thể được trả tiền bởi các nhà đầu tư phim hoặc người hâm mộ của các diễn viên, với nội dung mục đích duy nhất là phục vụ cho lợi ích của người thuê, bao gồm việc tạo ra sự phấn khích hoặc tấn công đối thủ cạnh tranh.
Vào tháng 6 năm 2024, cảnh sát tại Nam Xương thuộc tỉnh Giang Tây đã tiến hành điều tra một vụ án liên quan đến việc phát tán tin đồn và thông tin sai lệch, gây ảnh hưởng nghiêm trọng đến trật tự công cộng. Các nghi phạm đã sử dụng phần mềm trí tuệ nhân tạo để tạo ra từ 4.000 đến 7.000 bài viết mỗi ngày, với tốc độ khó tin. Theo thông tin từ Đài Truyền hình Trung ương Trung Quốc, doanh thu ước tính từ hoạt động này đã vượt mức 10.000 nhân dân tệ, tương đương khoảng 1.382 USD hàng ngày.
Giáo sư Từ Tiểu Kha, chuyên gia tại Trung tâm Nghiên cứu Truyền thông Tính toán thuộc Trường Báo chí và Truyền thông tại Đại học Sư phạm Bắc Kinh, đã đưa ra những nhận định mới mẻ về việc phân biệt giữa bài viết của con người và sản phẩm do AI tạo ra. Trước đây, quá trình này tương đối dễ dàng nhờ vào việc xác định địa chỉ IP và vị trí địa lý. Tuy nhiên, với sự phát triển của các thuật toán sáng tạo nội dung tự động, những phương pháp cũ đã trở nên kém hiệu quả. Hiện nay, các chương trình này có khả năng không chỉ tạo ra nội dung hàng loạt mà còn mô phỏng hành vi của người dùng thực một cách tinh vi.
Trung Quốc đã chính thức triển khai bộ quy tắc mới nhằm gắn nhãn nội dung trực tuyến do trí tuệ nhân tạo tạo ra. Quy định này có hiệu lực từ ngày 1/9 và yêu cầu các nhà cung cấp phải gắn nhãn rõ ràng cho nội dung trong suốt quá trình sản xuất và phân phối. Đặc biệt, các tài khoản mạng xã hội đăng ký bởi AI cũng thuộc diện bắt buộc phải được gắn nhãn. Các nền tảng truyền thông xã hội sẽ chịu trách nhiệm giám sát chặt chẽ nội dung từ những tài khoản này, nhanh chóng phát hiện và gán nhãn cho những nội dung giả mạo hoặc vi phạm.
Kể từ đầu năm 2024, Trung Quốc đã triển khai các biện pháp mạnh mẽ nhằm chấm dứt tình trạng đăng bài trả tiền trên không gian mạng. Các cơ quan quản lý đã tiến hành điều tra sâu rộng liên quan đến tuyển dụng, quảng cáo, thao túng lượt truy cập, và kiểm soát đánh giá. Hơn 400 trang web và nền tảng đã bị đóng cửa hoặc gỡ bỏ. Đặc biệt, 4,82 triệu nội dung bất hợp pháp đã bị xóa, 2,39 triệu tài khoản và cửa hàng trực tuyến bị xử lý, cùng với 52.000 nhóm trực tuyến bị tác động. Sự kiện này đánh dấu một bước tiến quan trọng trong việc duy trì tính lành mạnh của môi trường trực tuyến tại Trung Quốc.
