Ứng dụng công nghệ ngày càng trở nên phổ biến trong cuộc sống hàng ngày, và dấu hiệu của sự phổ biến này xuất hiện khi thực tế trở nên tương đồng với các tác phẩm khoa học viễn tưởng. Giống như nhân vật chính trong bộ phim đoạt giải Oscar, Her, ngày nay có rất nhiều người cô đơn tìm niềm vui trong mối quan hệ với người bạn kỹ thuật số.
Tuy nhiên, khác với người yêu thực sự, có thể bạn không biết cách giữ bí mật.
Hình minh họa.
Theo một báo cáo từ Mozilla, các ứng dụng hẹn hò trí tuệ nhân tạo thu thập rất nhiều thông tin cá nhân nhạy cảm từ người dùng. Những dữ liệu này có thể được bán cho các công ty quảng cáo hoặc các cá nhân buôn bán dữ liệu. Hơn nữa, những cô bạn gái ảo còn đối mặt với nguy cơ bị tấn công bởi hacker, từ đó dẫn đến rò rỉ thông tin nhạy cảm của người dùng.
Một nhóm nghiên cứu tại Mozilla đã tiến hành điều tra về 11 chatbot tình cảm có tiếng, bao gồm các chatbot nổi tiếng như Replika, Chai và Eva. Việc đưa ra số người sử dụng các dịch vụ chatbot này là khá khó khăn, tuy nhiên chỉ tính riêng trên nền tảng Google Play, đã có tới 100 triệu lượt tải về các ứng dụng chatbot tình cảm.
Bằng cách sử dụng trí tuệ nhân tạo, những chatbot như vậy có thể mô phỏng tương tác giống như một cô gái ảo, một người tri kỷ hoặc một người bạn để trò chuyện không trọng tài. Để có thể tạo ra những đoạn chat giống như con người, chatbot sẽ phải học rất nhiều thông tin về người dùng, bao gồm cả dữ liệu cá nhân và nhạy cảm.
Theo Misha Rykov, một nhà nghiên cứu làm việc tại Mozilla, chatbot AI lãng mạn có khả năng thu thập một lượng dữ liệu lớn hơn so với những thông tin thông thường như địa điểm và sở thích. Thậm chí, một số ứng dụng còn có thể theo dõi tình trạng sức khỏe của người dùng.
Ảnh chụp màn hình của ứng dụng EVA AI Chat Bot & Soulmate cho thấy rằng chatbot này đề xuất cho người dùng tiết lộ tất cả bí mật của mình, đồng thời gửi cả ảnh và giọng nói - Ảnh: TNW.
Trong số 11 bạn gái ảo được điều tra, chỉ có 1 bạn không đáp ứng đủ tiêu chuẩn an toàn thông tin do Mozilla đặt ra, ví dụ như yêu cầu đặt mật khẩu khó đoán. Replika là một ví dụ, chatbot này thu thập nội dung dạng chữ, hình ảnh và video từ người dùng, trong khi tài khoản có thể sử dụng mật khẩu "11111111" mà không gặp vấn đề gì.
Theo Mozilla, chủ quản Replika "đảm bảo" rằng họ sẽ chia sẻ dữ liệu và "có khả năng" bán dữ liệu này cho các công ty quảng cáo.
Theo nghiên cứu của Mozilla, đã được tiến hành, đã rõ ràng rằng sau những cô bạn gái ảo này, có hàng ngàn "tracker", có khả năng tự động theo dõi và gửi dữ liệu cho các đơn vị quảng cáo. Trên ứng dụng mang tên Romantic AI, nhóm nghiên cứu đã phát hiện ít nhất 24.354 tracker đang hoạt động.
Các tracker dạng này có thể truyền thông tin nhạy cảm mà không xin phép người dùng, và có khả năng vi phạm các quy định về bảo mật thông tin cá nhân. Thông thường, các ứng dụng không cung cấp thông tin về việc thu thập dữ liệu, thậm chí một số chatbot AI lãng mạn còn không có trang web riêng.
Người dùng không chỉ đối mặt với nguy cơ rò rỉ thông tin nhạy cảm, mà còn có thể bị lợi dụng và thao túng bởi chatbot này. Hiện nay, tin tặc hoàn toàn có thể tạo ra một chatbot để thu thập thông tin từ người dùng, sau đó sử dụng thông tin đó để thao túng những người có tâm lý yếu, khiến họ thực hiện những hành động ngu ngốc, tuân theo những nguyên tắc sai lầm hoặc thậm chí gây hại cho chính bản thân và những người xung quanh.
Hình minh họa.
Tuy nhiên, các ứng dụng kiểu này thường được quảng cáo như là "nền tảng nâng cao tinh thần và sức khỏe", nhưng chính sách lại trái ngược với điều đó.
Một ví dụ điển hình là ứng dụng Romantic AI, họ khẳng định rằng họ không phải là nhà cung cấp dịch vụ y tế và chăm sóc sức khỏe, hay dịch vụ chăm sóc sức khỏe tinh thần. Tuy nhiên, trang web của ứng dụng nhấn mạnh thông điệp "Romantic AI tồn tại để duy trì sức khỏe tinh thần của bạn".
Qua nghiên cứu này, Mozilla hy vọng các đơn vị cung cấp dịch vụ bạn gái AI sẽ phải tăng cường tính minh bạch trong quá trình huấn luyện AI, đồng thời cho phép người dùng từ chối cung cấp dữ liệu cá nhân và bộ dữ liệu huấn luyện cho chatbot.
Trước khi có những biện pháp từ phía nhà cung cấp dịch vụ hoặc từ phía các nhà lập pháp, trách nhiệm bảo vệ bản thân sẽ phải nằm trong tay người dùng. Ngoài việc tỉnh táo trên không gian mạng, người dùng cần phải cảnh giác trước những cô bạn gái ảo, bạn tâm giao AI, tri kỷ kỹ thuật số, ... mà không có tri giác.
