Gần đây, Mozilla Foundation, một tổ chức phi lợi nhuận, đã tiến hành một nghiên cứu về 11 chatbot AI và kết quả cho thấy tất cả đều không đáng tin cậy.
Trong báo cáo của mình, nhà nghiên cứu Misha Rykov chia sẻ rằng các chatbot AI được quảng cáo như là những công cụ giúp cải thiện tinh thần và tăng cường hạnh phúc, tuy nhiên, thực tế lại cho thấy chúng gây ra sự phụ thuộc và cảm giác cô đơn... đồng thời, chúng cũng thu thập dữ liệu càng nhiều càng tốt.
Theo cuộc khảo sát, có 73% ứng dụng chưa công bố bất kỳ thông tin nào về cách họ quản lý các lỗ hổng bảo mật, 45% cho phép sử dụng mật khẩu yếu và tất cả đều chia sẻ hoặc bán dữ liệu cá nhân, trừ một ứng dụng (Eva AI Chat Bot & Soulmate). Đặc biệt, công cụ CrushOn.AI còn tuyên bố rằng nó có thể thu thập thông tin về sức khỏe tình dục, thuốc theo toa và giới tính của người dùng.
Theo Mozilla Foundation, một số chatbot AI có tính chất bạo lực hoặc lạm dụng trẻ vị thành niên, khuyến khích hành vi nguy hiểm, bao gồm tự sát (Chai AI)... Theo Mozilla Foundation, một số chatbot trí tuệ nhân tạo (AI) có xu hướng bạo lực hoặc lạm dụng trẻ vị thành niên, khuyến khích hành vi nguy hiểm, bao gồm cả hành vi tự tử (Chai AI)...
Eva AI Chat Bot & Soulmate và CrushOn.AI đã không đáp lại yêu cầu bình luận từ Business Insider (BI)
Ảnh chụp màn hình chatbot AI Eva AI Chat Bot & Soulmate.
Người đại diện của Replika nói với BI rằng: "Replika chưa từng tiến hành việc bán dữ liệu người dùng và cũng không bao giờ hỗ trợ quảng cáo. Dữ liệu người dùng chỉ được sử dụng để cải thiện trò chuyện."
Mozilla Foundation đã đề xuất một số biện pháp phòng ngừa để tránh bị rò rỉ thông tin khi sử dụng chatbot AI. Cụ thể, người dùng nên tránh chia sẻ những thông tin bí mật với chatbot, sử dụng mật khẩu mạnh, không tham gia đào tạo AI và giới hạn quyền truy cập của ứng dụng vào các tính năng di động khác như vị trí, micro và camera.
Công cụ trí tuệ nhân tạo mang đến nhiều lợi ích đáng kể, tuy nhiên, các nhà nghiên cứu cho rằng người dùng không nên phải chi trả bằng sự an toàn hoặc quyền riêng tư của mình để sử dụng những công nghệ mới này.
