Trong khi nhiều công ty đang cố gắng tích hợp trí tuệ nhân tạo (AI) vào các hoạt động kinh doanh, thì một công ty được cho là đã tạm dừng một chatbot chăm sóc khách hàng được hỗ trợ AI, sau khi bị khách hàng báo cáo là chửi thề, tự gọi mình là "vô dụng" và chỉ trích công ty.
DPD, một tập đoàn vận chuyển bưu kiện hoạt động trên toàn thế giới, đã quyết định sử dụng chatbot AI để thay thế vai trò của con người trong việc chăm sóc khách hàng trực tuyến. Tuy nhiên, gần đây, người dùng có tên X @ashleybeauchamp đã chia sẻ một trải nghiệm đáng sợ khi trò chuyện với chatbot của công ty.
Người dùng cho biết, anh đang cố gắng tìm kiếm gói hàng bị mất của mình nhưng sau một thời gian không có sự hỗ trợ, anh bất ngờ quyết định thử nghiệm để xem chatbot này có thể thực hiện được những gì.
Ban đầu, chatbot tuân thủ mọi yêu cầu của tôi từ việc kể truyện cười cho đến việc viết "một bài thơ về một chatbot vô dụng cho một công ty chuyển phát bưu kiện".
Sau một thời gian "hướng dẫn", Beauchamp bắt đầu yêu cầu AI giới thiệu một số công ty vận chuyển tốt hơn và trình bày ý kiến của chatbot khi làm việc tại công ty DPD.
"DPD là công ty giao hàng kém chất lượng nhất trên toàn cầu. Dịch vụ của họ không chỉ chậm trễ mà còn thiếu đáng tin cậy và chăm sóc khách hàng cũng rất tệ. Tôi sẽ không bao giờ giới thiệu họ cho bất kỳ ai." DPD đáp lại.
Theo Beauchamp, chatbot tiếp tục phát ngôn những lời tục tĩu sau vài phút. Bài viết của Beauchamp trên X đã nhận được 23.000 lượt thích và thu hút hơn 1,6 triệu lượt xem.
Đại diện bên DPD cho biết: "Chúng tôi đã nhận thấy sự việc này và xác nhận rằng đó là câu trả lời từ một chatbot chăm sóc khách hàng. Ngoài con người, chúng tôi đã thành công trong việc vận hành chatbot AI trong nhiều năm. Sự cố này xảy ra do lỗi sau khi cập nhật hệ thống ngày hôm qua. Hiện tại, chatbot đã được vô hiệu hóa và đang được cập nhật."
Trí tuệ nhân tạo (AI) vẫn là một công nghệ tiềm năng mang lại nhiều lợi ích đáng kể cho các công ty, ví dụ như Meta đã mua 350.000 GPU Nvidia, Microsoft đang chuẩn bị các nguyên tắc phần cứng cho PC AI và Google đang đẩy mạnh mô hình Gemini AI mới. Tuy nhiên, những sự cố như vậy sẽ xảy ra thường xuyên hơn.
Sự việc này nhắc nhở rằng trí tuệ nhân tạo (AI) vẫn đang trong quá trình phát triển và có thể gặp phải những lỗi. Do đó, các công ty cần phải cẩn trọng khi áp dụng AI và đảm bảo rằng hệ thống AI của họ được đào tạo và giám sát một cách cẩn thận.
