详解历史上三大AI失败案例

译文
云计算 人工智能
随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。

【51CTO.com快译】尽管今天提到的大多数事故与AI本身并无直接联系,但却或多或少有AI因素涉及其中。随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。

下面,我们共同关注史上曾经出现的几个AI失败案例。

[[198368]]

Tay——微软的聊天机器人

过去一年中,公认的一大AI失败案例正是微软Tay:

“微软技术研究部与必应团队共同开发的聊天机器人,旨在实验对话交流内容的理解能力。Tay通过轻松愉快的对话与人类用户进行接触。Tay进行过的聊天越多,其智能程度就越高,并可为您带来更具个性化的使用体验。”

Tay属于我们在自然语言理解(简称NLU)领域的一次尝试。其学习算法负责阅读、解释并适应用户提供的书面内容。其目标在于以个性化方式实现人机交互,这也正是众多技术巨头希望实现的关键性战略提升。与电影《她》中的假想类似,微软希望让Tay拥有与人相近的交流能力。在技术领域,商业成功通常经由三种方式实现:收购、参与与转换。可以看到,微软的思路是提供完整的个性化体验,确保其能够通过严格的图灵测试,并重新定义我们的参与途径。

但是,当Tay开始和人类聊天后,不到24小时,她就被“教坏”了,成为一个集反犹太人、性别歧视、种族歧视于一身的“不良少女”。

Alexa错将色情内容提供给儿童

通过相关视频可以看到,儿童用户要求Alexa“玩‘挖金子’”,但Alexa的回应却是“您希望收听色情内容……热辣的小妞与素人美女……”(注:挖金子游戏一词与女性卖春者相同。)虽然有人认为问题不在AI身上,而是语音命令出了问题。这种说法有一定道理,但可以肯定的是,Alexa本身应当拥有通过机器学习区分语境的能力。

Inspirobot提供荒谬的建议

InspiroBot的设计初衷在于提供用户感兴趣的每日格言。然而颇为讽刺的是,其往往无法带来能够让我们的一天充满活力的正能量言论——甚至有可能以黑色幽默的方式令人陷入低落。

为何失败?

答案可以归纳为三个方面——准确度、情景与训练。

准确度

AI技术几乎能够在一切行业当中带来实效。然而与反欺诈或者其它一些目标更为明确的场景相比,Tay的失败主要源自其准确度的缺失。除了语法正确的交互能力之外,聊天机器人需要提供明确定义参数之外的其它回应。由于实际用户所提供的回应同Tay在实验中所接触过的词汇及语法有所区别,因此很难提供一致且准确的交互结果。

情景

对于这里提到的三个AI案例乃至其它各类AI方案,情景认知仍是一大严峻挑战。具体来说,如果大家与Tay聊天、向Alexa咨询意见或者从InspiroBot处寻求激励,那么用户的时间、地点、情感、天气、身份、职位等因素都会影响到您对于所提供结果的解读与评价。

Tay显然未能充分理解会话中的情景,因为它的训练与交互未能考虑到多种多样的情景因素。虽然能够识别词汇并在一定程度上建立一致性响应,但却无法理解在特定背景下的含义与重要度。

同样的,InspiroBot同样遭遇失败。尽管其努力提供丰富且具有通用性的建议,但却缺乏对相关内容的理解、意义的把握以及潜在解释的认知。

训练

大家可能都听说过,“进来的是垃圾,出去的也只能是垃圾”。Tay并非在内部受控环境下进行训练,而是被发布至世界范围,通过与公众交互进行学习。然而在24小时之内,技术精湛的社区(特别是4chan与8chan)明显认为向学习算法提供有问题的内容更加有趣。不用说,他们成功毁掉了Tay这位AI领域的未成年人。

在Alexa方面,情况则有所不同。通过语音命令触发适当响应,并通过训练以了解词汇、语法、音调、语调、节奏、重音以及发音方式的意义。然而,这种将过多因素考虑进来的作法本身令错误边界快速扩大,并最终导致失败。通过进一步训练,Alexa应该能够学会如何识别儿童的声音,并在必要时提示进行家长控制。

另外,InspiroBot则可尝试使用较少的单词、句型模板以及经过验证的积极词汇,从而更轻松地提供真正具有激励效果的表达。然而,这种作法本身与AI设计目标有所冲突——大量参数过滤机制的存在并不利于机器学习的发展。

拥抱失败

失败是成功之母,而我们也应当以宽容的心态接受上述AI失败案例。事实上,对于真正相信并期待着AI技术获得成功的朋友,大家应当分享、讨论、分析并尝试解决这些失败难题。您对于哪些现有AI方案感到失望?不妨在评论中聊上一聊。

【51CTO译稿,合作站点转载请注明原文译者和出处为51CTO.com】

责任编辑:赵立京 来源: 51CTO
相关推荐

2012-01-12 14:06:34

2011-09-05 18:44:49

2013-11-04 09:29:14

科技创业IT

2013-05-17 10:12:05

钱伯斯思科CEO

2022-09-19 07:00:53

数据泄露协议

2010-09-15 08:59:04

开源交易

2011-07-01 10:20:32

2013-09-09 16:38:01

诺基亚微软

2015-12-25 11:34:25

2023-11-27 15:03:26

2016-09-01 08:07:02

Linux MinixUbuntu

2013-01-06 17:40:10

GitHub宕机事故

2021-03-19 09:31:45

CPU架构处理器

2021-11-30 09:11:48

数据泄露勒索软件攻击

2023-12-19 11:22:05

2023-10-26 00:07:04

2024-03-19 08:00:00

测试漏洞

2011-04-27 14:39:02

打印机用户体验

2018-09-29 05:04:16

2021-05-12 16:27:55

Java双亲模型
点赞
收藏

51CTO技术栈公众号