发布时间:2024-03-30 18:32:33    次浏览
2022 年,加拿大的Jake Moffatt在加拿大航空的网站上被AI客服告知,在丧亲旅程中可以提供一些退款。于是,他在参加祖母葬礼的旅程中选择加拿大航空的航班。
但后来,网站显示,Jake无法得到退款,也就是说,AI客服提供的信息是错误的。为此,加航并没有为Jake提供退款,而是承诺他们将会更新他们的AI客服,并提供一张优惠券。但Jake Moffatt并不满意,于是对加航提起了诉讼。
在诉讼的文档中,加航辩称,他们并不能为网站上的AI客服提供的信息负责。看起来,加航似乎觉得AI客服“是一个独立的法律实体,它要对自己的行为负责”,并且说,如果用户想选择“值得信赖的”服务的话,应该去看网页本身的信息。
不过在今年 2 月,法院判定加航将为Jake赔偿应有的退款和诉讼费用。而后来记者还发现,加航的网站似乎关掉了AI客服的功能。
不过,现在许多网站上都开始用AI客服代替人工客服了,随便打开一个网站,可能就会自动弹出一个聊天机器人,在我们咨询的前期,它们已经取代了人工客服,来回答一些简单的问题。不过,AI客服越来越常见,其中浮现的问题也越来越多。
在 2023 年 12 月,一个用户骗一个AI客服说 2024 年的雪佛兰Tahoe只需要 1 美元,结果AI线 美元的价格售出了车。后来的法律顾问还说:这笔交易确实是具有法律约束力的。
除了让客户摸不着头脑外,另一些客户则是被AI客服“骂”了。今年 1 月,Ashley Beauchamp决定在一家欧洲快递公司DPD找到他丢失的包裹,不过,AI客服说话不太让人开心,因此,Beauchamp便开始尝试着让AI说点奇怪的话,比如让它讲个笑话。还比如骂自己的公司。
AI客服照做了,它不仅说自己的公司是个没用的公司,简直是“世界上最糟糕的送货公司。不推荐!”而且还自称是“没办法帮你的无用聊天机器人”。AI甚至还写了一首诗来骂公司。
这件事被公开了之后,这家“成功运行AI多年的”DPD公司立刻表示,这是系统更新后的错误,AI会在系统更新后重新启用。而Beauchamp,至今也没有拿回他丢失的包裹。
这个问题早先就已经出现过,若没有对AI进行一些预防措施,AI也会“不学好”。2016 年,微软在推特上推出了一款名为Tay的聊天机器人,并表示,你聊得越多,Tay就会越来越聪明。
然而,在推出 15 个小时后,人们就发现Tay变“坏”了,它开始发表各种与种族主义、性别偏见相关的极端言论,甚至还会自发说出一些奇怪的话,还会疯狂回复用户。Gizmodo的新闻标题说,Tay已经疯了。
而原因也很显而易见,The Guardian的一篇报道评论道:“Tay本质上是一只能连上互联网的机器鹦鹉。”因为它其实就是会重复它学到的东西,可能也就学到网络键盘侠说的话……微软曾指出,Tay学到的公共数据,其实已经经过了一些过滤,但事实证明,Tay无法过滤新学到的东西。
由于它说了太多奇怪的话,删都删不过来,因此 2016 年 3 月 23 日推出的Tay,在 2 天后就下线了。不过,这也给制造AI的人提出了一个严重的问题,当人们使用公共数据来建构一个AI时,该如何合理地采取预防措施?
“幻觉”指的是AI开始说胡话,也就是它自信地将一些不正确的信息陈述为事实。AI除了向客户说出一些乱星空体育app下载七八糟的话之外,还会给公司造成严重的损失。
2023 年 2 月,谷歌推出的Bard在一个广告中说,它可以为 9 岁的孩子讲述詹姆斯·韦布太空望远镜的科学新发现,然而在视频广告里,它却说错了(弄错了第一张系外行星的照片)。这波反向营销(?)直接让谷歌的母公司Alphabet市值下跌了 1000 亿美元。
所以,AI 为什么会变得越来越傻?请点击查看把科学带回家之前的文章:第 N 代 GPT 有多聪星空体育app下载明?专家说AI也许会变笨,因为互联网“脏”了……
困扰我们的不仅是AI的胡言乱语,最重要的是它难以解决任何问题。当我们想要咨询或维权时,由于AI客服没能力解决问题星空体育官方网站,对话总是会陷入糟糕的“末日循环”中:永远重复着几句没用的线 年一项英国的数据显示,AI客服让消费者对客服的满意度跌到 8 年以来的最低点。
美国机构消费者金融保护局(CFPB)就提到,AI客服的末日循环是一个日益严重的问题,特别是在金融服务行业。在用到AI客服时,顾客会感到浪费时间、困惑、沮丧、收到不准确的信星空体育app下载息,以及支付更多垃圾费用。因此,有人建议,想要得到帮助时,还是得前往银行,或者给客服打电话。
而AI客服带来的另一个危害则是隐私泄露。当社交软件Snapchat推出了一款由OpenAI提供支持的AI聊天机器人后,用户似乎怀疑它使用了用户的位置数据。
2018 年,英国一家公司的AI聊天机器人被黑客入侵,窃取了 6 万人的支付信息。因此,越来越多人也在网上开始提醒,在使用AI客服时,不要暴露自己的太多信息。
总而言之,一个无法解决复杂问题,不能提供正常引导的AI客服,很有可能靠不住,甚至让我们面临严重的损失。因此如今在选择网站帮助时,最好还是直接寻找人工客服。