中国领先的IT技术网站
|
|

详解历史上三大AI失败案例

随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。

作者:核子可乐译来源:51CTO|2017-07-28 10:55

【51CTO活动】8.26 带你与清华大学、搜狗、京东大咖们一起探讨基于算法的IT运维实践


【51CTO.com快译】尽管今天提到的大多数事故与AI本身并无直接联系,但却或多或少有AI因素涉及其中。随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。

下面,我们共同关注史上曾经出现的几个AI失败案例。

AI

Tay——微软的聊天机器人

过去一年中,公认的一大AI失败案例正是微软Tay:

“微软技术研究部与必应团队共同开发的聊天机器人,旨在实验对话交流内容的理解能力。Tay通过轻松愉快的对话与人类用户进行接触。Tay进行过的聊天越多,其智能程度就越高,并可为您带来更具个性化的使用体验。”

Tay属于我们在自然语言理解(简称NLU)领域的一次尝试。其学习算法负责阅读、解释并适应用户提供的书面内容。其目标在于以个性化方式实现人机交互,这也正是众多技术巨头希望实现的关键性战略提升。与电影《她》中的假想类似,微软希望让Tay拥有与人相近的交流能力。在技术领域,商业成功通常经由三种方式实现:收购、参与与转换。可以看到,微软的思路是提供完整的个性化体验,确保其能够通过严格的图灵测试,并重新定义我们的参与途径。

但是,当Tay开始和人类聊天后,不到24小时,她就被“教坏”了,成为一个集反犹太人、性别歧视、种族歧视于一身的“不良少女”。

Alexa错将色情内容提供给儿童

通过相关视频可以看到,儿童用户要求Alexa“玩‘挖金子’”,但Alexa的回应却是“您希望收听色情内容……热辣的小妞与素人美女……”(注:挖金子游戏一词与女性卖春者相同。)虽然有人认为问题不在AI身上,而是语音命令出了问题。这种说法有一定道理,但可以肯定的是,Alexa本身应当拥有通过机器学习区分语境的能力。

Inspirobot提供荒谬的建议

InspiroBot的设计初衷在于提供用户感兴趣的每日格言。然而颇为讽刺的是,其往往无法带来能够让我们的一天充满活力的正能量言论——甚至有可能以黑色幽默的方式令人陷入低落。

为何失败?

答案可以归纳为三个方面——准确度、情景与训练。

准确度

AI技术几乎能够在一切行业当中带来实效。然而与反欺诈或者其它一些目标更为明确的场景相比,Tay的失败主要源自其准确度的缺失。除了语法正确的交互能力之外,聊天机器人需要提供明确定义参数之外的其它回应。由于实际用户所提供的回应同Tay在实验中所接触过的词汇及语法有所区别,因此很难提供一致且准确的交互结果。

情景

对于这里提到的三个AI案例乃至其它各类AI方案,情景认知仍是一大严峻挑战。具体来说,如果大家与Tay聊天、向Alexa咨询意见或者从InspiroBot处寻求激励,那么用户的时间、地点、情感、天气、身份、职位等因素都会影响到您对于所提供结果的解读与评价。

Tay显然未能充分理解会话中的情景,因为它的训练与交互未能考虑到多种多样的情景因素。虽然能够识别词汇并在一定程度上建立一致性响应,但却无法理解在特定背景下的含义与重要度。

同样的,InspiroBot同样遭遇失败。尽管其努力提供丰富且具有通用性的建议,但却缺乏对相关内容的理解、意义的把握以及潜在解释的认知。

训练

大家可能都听说过,“进来的是垃圾,出去的也只能是垃圾”。Tay并非在内部受控环境下进行训练,而是被发布至世界范围,通过与公众交互进行学习。然而在24小时之内,技术精湛的社区(特别是4chan与8chan)明显认为向学习算法提供有问题的内容更加有趣。不用说,他们成功毁掉了Tay这位AI领域的未成年人。

在Alexa方面,情况则有所不同。通过语音命令触发适当响应,并通过训练以了解词汇、语法、音调、语调、节奏、重音以及发音方式的意义。然而,这种将过多因素考虑进来的作法本身令错误边界快速扩大,并最终导致失败。通过进一步训练,Alexa应该能够学会如何识别儿童的声音,并在必要时提示进行家长控制。

另外,InspiroBot则可尝试使用较少的单词、句型模板以及经过验证的积极词汇,从而更轻松地提供真正具有激励效果的表达。然而,这种作法本身与AI设计目标有所冲突——大量参数过滤机制的存在并不利于机器学习的发展。

拥抱失败

失败是成功之母,而我们也应当以宽容的心态接受上述AI失败案例。事实上,对于真正相信并期待着AI技术获得成功的朋友,大家应当分享、讨论、分析并尝试解决这些失败难题。您对于哪些现有AI方案感到失望?不妨在评论中聊上一聊。

【51CTO译稿,合作站点转载请注明原文译者和出处为51CTO.com】

【编辑推荐】

  1. Teradata天睿公司收购StackIQ 增强Teradata Everywhere和IntelliCloud部署能力
  2. “人本”服务+“GEEK”精神 Ongineer IT首获资本青睐
  3. 一场技术世界的邂逅 数梦工场·OpenStack Days China 2017小记
  4. 对于容器环境来说 全栈监控究竟意味着什么?
  5. 成熟的云管理是什么样的?
【责任编辑:赵立京 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

非常网管——网络服务

本书使用通俗易懂的语言,通过大量的实例,从实际应用的角度出发,全面系统地介绍了网络服务操作系统平台、电子邮件系统、Web站点和FTP站点...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊
× 官方软考报名与培训中心