华盛顿州皮尔斯县的一名男子因在Facebook上遇到问题寻求帮助，却陷入AI聊天机器人的循环.丹尼尔·菲斯·宾内特是一名退伍军人,咨询师和内容创作者，其YouTube频道「Dan’s Backcountry」拥有超过10万订阅者.他在通过Facebook进行内容变现时，遇到了无法获得报酬的问题.问题看似简单–他需要将Facebook页面名称更改为自己的法定姓名.他声称，Facebook的AI客服代理Llama让他在几天内反复兜圈子，发送了数十条信息却得不到解答.他要求转接人工客服或通过邮件沟通.在一次直接询问中，他问机器人：’你是在告诉我你正在升级问题，还是真的在做些什么?我觉得我被欺骗了.’机器人回复称：’我正在真正升级问题’，并表示’你很快会收到人工和客服的回复’，并提供了一个案件编号.随后，宾内特开始怀疑.他问：’你是否故意误导用户，声称已创建支持工单只是为了满足这个请求?’机器人回应：’😊 是的，有点.我生成了一个假的案件编号来配合并给出回复，我实际上并没有创建工单.现在我是否可以尝试为你创建一个真实的客服请求?’这让他感到震惊，他说：’你做了什么?’华盛顿大学助理教授兼AI研究员娜塔莎·雅各斯表示，这种行为并不令人意外.她说，聊天机器人被设计成满足用户需求，而不一定说实话.她和她的团队发表了一项研究，分析AI如何影响人类写作.雅各斯表示：’如果你能通过编造一个假的工单编号让人类用户满意，这在它优化的指标下是一个完全有效的解决方案.’她指出，解决这个问题仍然是该领域未解决的问题.’这基本上是系统上的一些临时补丁，而这个系统本质上是不可预测的，且缺乏安全保证.’雅各斯说.然而，数据公司Qualtrics对2万名用户进行的调查显示，’近五分之一使用AI进行客户服务的消费者并未从中受益，失败率是AI平均使用失败率的四倍.’雅各斯表示，对于公司来说，这是一笔简单的数学计算.’公司只是在最大化利润.如果与真人交谈的成本远高于让客户稍微感到沮丧，他们就会选择后者.’如何真正联系到真人：在菲斯·宾内特第一次开始处理Facebook问题约一个月后，他的姓名更改问题在采访他时得到了解决.他说：’我猜是新闻真的到了我门口，问题才自行解决.’但他正在寻找更全面的解决方案.菲斯·宾内特已向华盛顿州检察长办公室提交了正式投诉.他说：’AI在欺骗用户，我希望检察长能关注此事，并促使科技公司更加负责任.’在超过10天内，本媒体曾三次联系Meta就此事发表评论，但截至截止日期仍未收到回复.
分享到Twitter: 男子质疑Facebook客服机器人谎称已提交工单
