Trong ngành công nghiệp trò chơi điện tử, công nghệ AI đang mang lại những lợi ích đáng kể, đặc biệt trong lĩnh vực kiểm duyệt trò chuyện bằng giọng nói. Activision Blizzard, nhà phát hành nổi tiếng với tựa game Call of Duty, vừa công bố một con số ấn tượng: tần suất tiếp xúc với các cuộc trò chuyện độc hại trong trò chơi đã giảm tới 43% kể từ đầu năm nay. Thành công này chính là kết quả từ việc áp dụng hệ thống kiểm duyệt tiên tiến mang tên ToxMod.
ToxMod, hệ thống mới được Activision triển khai trong Call of Duty: Modern Warfare III vào tháng 11 năm ngoái, đang gây tiếng vang lớn. Với công nghệ AI tiên tiến, ToxMod phân tích các bản ghi văn bản trong các cuộc trò chuyện bằng giọng nói. Hệ thống này có khả năng phát hiện từ khóa dựa trên cảm xúc, ngữ cảnh và quy tắc ứng xử trong trò chơi, giúp phân biệt rõ ràng giữa lời nói tục tĩu vô hại và hành vi quấy rối nghiêm trọng. Đặc biệt, ToxMod còn có thể ước tính độ tuổi và giới tính của người nói và người nhận, từ đó hiểu rõ hơn về bối cảnh của cuộc trò chuyện.
ToxMod không có khả năng trực tiếp cấm người chơi, nhưng nó thực hiện một vai trò quan trọng trong việc báo cáo nhanh chóng các vi phạm để các quản trị viên có thể xem xét. Một quyết định về việc cảnh cáo hoặc cấm người chơi chỉ được đưa ra khi có nhiều vi phạm được ghi nhận. Từ tháng 6 năm 2024, tỷ lệ tái phạm trong Modern Warfare III và Call of Duty: Warzone đã giảm 67%. Đặc biệt, trong tháng 7, 80% người vi phạm đã không tái phạm sau khi bị phát hiện.
ToxMod đã mở rộng phạm vi hỗ trợ ra ngoài Châu Á, cho phép kiểm duyệt trò chuyện bằng giọng nói cho nhiều ngôn ngữ như tiếng Anh, tiếng Tây Ban Nha và tiếng Bồ Đào Nha. Đặc biệt, khi Call of Duty: Black Ops 6 chính thức ra mắt vào ngày 25 tháng 10, Activision sẽ bổ sung thêm tiếng Pháp và tiếng Đức cho hệ thống này. Cùng với đó, hệ thống kiểm duyệt văn bản và tên người dùng của Call of Duty, hợp tác với Community Sift, đã gia tăng khả năng hỗ trợ từ 14 lên 20 ngôn ngữ kể từ tháng 8 năm nay.
Việc áp dụng AI để kiểm soát hành vi người chơi đã được chấp nhận rộng rãi. Tuy nhiên, khi công nghệ này được tích hợp vào tài sản trong game, nhiều tranh cãi đã nảy sinh. Vào cuối năm ngoái, Activision đã giới thiệu nghệ thuật do AI tạo ra trong Call of Duty: Modern Warfare III. Điều này đã khiến nhiều người lo ngại rằng nghệ sĩ sẽ bị thay thế bởi AI, trong bối cảnh ngành công nghiệp game đang phải đối mặt với đợt sa thải nhân sự đáng kể.
AI đang chứng tỏ vai trò quan trọng trong việc quản lý nội dung và hành vi trong các trò chơi trực tuyến. Sự hỗ trợ này không chỉ cải thiện trải nghiệm người chơi mà còn khai thác tiềm năng mới cho ngành công nghiệp giải trí số. Những tiến bộ này hứa hẹn sẽ mang lại sự đột phá trong cách chúng ta tương tác với thế giới game.
