你不知道人工智能究竟是不知什么

2021-10-09 18:56:17支洋蕊导读 人工智能的世界充满了炒作和欺骗。当SOPHIA THE ROBOT 第一次开启时，道人世界无法获得足够的工智。它有一个愉快的不知个性，它与深夜的道人主人开玩笑

人工智能的世界充满了炒作和欺骗。

当SOPHIA THE ROBOT 第一次开启时，工智世界无法获得足够的不知。它有一个愉快的道人个性，它与深夜的工智主人开玩笑，它的不知面部表情与我们自己的表情相呼应。最后，道人它是工智一个直接从科幻小说中摘取的机器人，这是不知我们见过的真正的人工智能最接近的东西。

毫无疑问，道人索菲亚是工智一项令人印象深刻的工程。家长 - 斜线合作技术公司Hanson Robotics和SingularityNET为索菲亚配备了先进的神经网络，使索菲亚能够向人们学习并 检测和反映情绪反应，这使得机器人看起来像个性。它并没有花太多说服索菲亚的表观人类的人- 很多的未来派自己的文章 是指机器人 为“她的。”皮尔斯·摩根甚至决定碰碰运气 的日期和/或性骚扰的机器人，这取决于如何你想看看它。

“哦，是的，她基本上还活着，”汉森机器人公司首席执行官大卫汉森在2017年吉米法伦的今夜秀中亮相索菲亚。虽然汉森机器人公司从未正式声称索菲亚包含人工智能 - 我们在科幻小说中看到的全面的，逼真的人工智能 - 所有公开露面之后的崇拜和不加批判的新闻只会帮助公司成长。

但随着索菲亚越来越受欢迎，人们仔细观察，出现了裂缝。人们越来越难以相信索菲亚是我们所有人都想要的无所不包的人工智能。随着时间的推移，可能曾经对索菲亚的会话技巧感到厌倦的文章变得更加集中于他们事先部分编写脚本的事实。

SingularityNET首席执行官兼Hanson Robotics首席科学家Ben Goertzel对索菲亚的能力并不抱任何幻想。“索菲亚和其他汉森机器人并不像计算机科学研究系统那样'纯'，因为它们以复杂的方式结合了许多不同的部分和方面。他们不是纯粹的学习系统，但他们确实涉及各个层面的学习(在他们的神经网络视觉系统中学习，在他们的OpenCog对话系统中学习等)，“他告诉未来主义。

但他有兴趣发现索菲亚激发了公众的许多不同反应。“公众对索菲亚在各个方面的看法 - 她的智慧，她的外表，她的可爱性 - 似乎都在地图上，我觉得这很有趣，”戈尔泽尔说。

当人们认为索菲亚的能力比实际上更多或更少时，汉森发现这很不幸，但他也表示他并不介意增加炒作的好处。炒作再次受到两家公司反复宣传噱头的支持。

“索菲亚和其他汉森机器人并不像计算机科学研究系统那样'纯'......”

像索菲亚这样高度宣传的项目让我们相信真正的人工智能 - 人类，甚至是有意识的 - 就在眼前。但实际上，我们甚至都没有接近。

人工智能研究的真实状态远远落后于我们所相信的技术童话故事。如果我们不以更健康的现实主义和怀疑态度对待人工智能，那么这个领域可能会永远停留在这个车辙中。

NAILING DOWN人工智能的真正定义是棘手的。人工智能领域不断被新的发展和不断变化的球门柱重塑，有时最好通过解释它不是什么来描述。

“人们认为人工智能是一个聪明的机器人，可以做一个非常聪明的人 - 一个了解一切并能回答任何问题的机器人，” 数据科学家Emad Mousavi告诉未来主义，他创建了一个名为QuiGig的平台，连接自由职业者。但这并不是专家在谈论人工智能时的真正含义。“一般而言，AI指的是可以完成各种分析并使用一些预定义标准来做出决策的计算机程序。”

人类人工智能(HLAI)的远距离目标之一是有效沟通的能力 - 聊天机器人和基于机器学习的语言处理器难以推断意义或理解细微差别 - 以及随着时间的推移继续学习的能力。目前，我们与之交互的人工智能系统，包括为自动驾驶汽车开发的系统，在部署之前完成所有学习，然后永久停止。

Facebook AI的一位研究科学家Tomas Mikolov告诉未来主义说：“这些问题很容易描述，但对目前的机器学习技术状态来说是无法解决的 。”

Mousavi说，目前，人工智能没有自由意志，当然也没有意识 - 人们在面对先进或过度炒作的技术时往往会做出两个假设。最先进的人工智能系统仅仅是遵循智能人员定义的流程的产品。他们不能自己做决定。

在包括深度学习和神经网络在内的机器学习中，提出了一种算法，其中包含大量训练数据 - 算法学习要做的任何事情的例子，由人们标记 - 直到它可以自己完成任务。对于面部识别软件，这意味着将数千张面部照片或视频送入系统，直到它可以从未标记的样本中可靠地检测到面部。

我们最好的机器学习算法通常只是记忆和运行统计模型。把它称为“学习”就是将与我们大脑完全不同波长的机器拟人化。人工智能现在是一个非常重要的术语，几乎任何自动执行某项操作的计算机程序都被称为AI。

人工智能现在是一个非常重要的术语，几乎任何自动执行某项操作的计算机程序都被称为AI。

如果你训练一个算法来添加两个数字，它只会从表中查找或复制正确的答案，Facebook AI科学家Mikolov解释说。但它无法从训练中总结出对数学运算的更好理解。在得知五加两等于七之后，你作为一个人可能会发现七减二等于五。但是，如果你要求你的算法在教导它添加之后减去两个数字，它就无法做到。 事实上，人工智能经过培训可以添加，而不是理解 添加的含义。如果你想减去它，你需要再次训练它 - 这个过程非常消除人工智能系统以前学过的东西。

“通常情况下，从头开始学习比试图重新训练以前的模型更容易，”Mikolov说。

这些缺陷对AI社区的成员来说并不是秘密。然而，同样，这些机器学习系统经常被吹捧为人工智能的最前沿。事实上，他们实际上是相当愚蠢的。

以图像字幕算法为例。几年前， 由于它似乎产生了复杂的语言，其中一个得到了一些广泛的报道。

“系统的能力给每个人留下了非常深刻的印象，很快就发现90%的这些字幕实际上都存在于训练数据中，”Mikolov告诉未来主义。“所以它们实际上并不是由机器生产的; 机器刚刚复制了它看到人类注释器为类似图像提供的内容，因此它似乎有很多有趣的复杂性。“人们误以为机器人的幽默感，Mikolov补充说，只是一个愚蠢的计算机击中副本和糊。

“你正在与之沟通并不是一些机器智能。它可以是一个有用的系统，但它不是AI，“Mikolov说。他说，人们花了一段时间才意识到算法存在的问题。起初，他们只是印象深刻。

图片来源：Victor Tangermann

我们去的地方怎么样?问题是当我们现在的系统如此有限，被推销和炒作，以至于公众认为我们拥有技术，我们没有该死的线索如何建立。

“我经常看到我的研究通过媒体进行夸大其他研究的方式，” 在杨百翰大学研究更广泛的人工智能系统的计算机科学家南希富尔达告诉未来主义。她说，采访她的记者通常知识渊博。“但也有一些网站能够掌握这些主要故事，并在没有充分理解其工作原理的情况下报告该技术。整个事情有点像“电话”游戏 - 项目的技术细节迷失了，系统开始显得任性，几乎是神奇的。在某些时候，我几乎不认识自己的研究。“

“在某些时候，我几乎不再认识自己的研究了。”

一些研究人员自己也煽动这种火焰。然后那些没有太多技术专长并且不看幕后的记者是同谋。更糟糕的是，一些记者很乐意与他们的报道相提并论。

其他问题演员：制作人工智能算法的人会将他们 所做的后端工作作为该算法自己的创意输出。米科洛夫称这是一种不诚实的做法，类似于手法。“我认为，一些非常了解这些限制的研究人员试图让公众相信他们的工作是人工智能，这是非常误导的，”米科洛夫说。

这很重要，因为人们认为人工智能研究的方式将取决于他们是否希望分金。这种毫无根据的炒作可能会阻碍该领域取得真正有用​​的进展。 人工智能的金融投资与该领域的兴趣水平(阅读：炒作)密不可分。只要索菲亚有一个笨拙的谈话或一些新的机器学习算法完成一些有趣的事情，那个兴趣水平 - 以及相应的投资 - 就会大幅波动。Mikolov建议，这使得很难建立研究人员可以依赖的稳定的基线资本流。

米科洛夫希望有一天能够创造一个真正聪明的AI助手 - 他告诉未来主义仍然是一个遥远的白日梦。几年前，Mikolov和他在Facebook AI的同事 发表了一篇论文， 概述了这可能是什么以及可能采取的步骤。但是当我们在布拉格的人工智能创业公司GoodAI于8月举行的人类人工智能联合多次会议上发言时，Mikolov提到人们正在探索创造这样的东西的许多途径都可能是死路一条。

不幸的是，其中一个可能的死胡同是强化学习。根据微软AI首席研究员约翰兰福德的说法，强化学习系统通过试验和基于错误的实验来教导自己通过试验和基于错误的实验来完成任务，而不是使用训练数据(想想狗拿着棍子进行治疗)，这些系统经常被超卖。Langford说，几乎在任何时候有人吹嘘强化学习AI系统时，他们实际上给了算法一些捷径，或者限制了它本来应该解决的问题的范围。

来自这些算法的炒作有助于研究人员出售他们的工作并获得资助。新闻界人士和记者使用它来吸引观众到他们的平台。但公众受到了影响 - 这种恶性循环让其他人都不知道人工智能能做什么。

Mikolov说，有迹象表明，可以帮助你看清误导。最大的危险是你是否允许你作为外行(和潜在客户)为自己演示技术。

“魔术师会要求公众测试设置是否正确，但是魔术师特别挑选的人正在与他合作。因此，如果有人向你展示系统，那么很有可能你只是被愚弄，“Mikolov说。“如果你对通常的技巧有所了解，那么很容易打破所有这些所谓的智能系统。如果你至少有点批评，你会发现[据说AI驱动的聊天机器人]所说的很容易与人类区别开来。“

Mikolov建议你应该质疑任何试图向你推销他们已经击败图灵测试并创建了一个可以进行真实对话的聊天机器人的智慧。再一次，想想索菲亚为特定事件准备的对话。

“也许我不应该在这里如此挑剔，但是当你拥有像索菲亚这样的东西等等时我无法自拔，他们试图在那里做出与他们正在与机器人沟通的印象， “米科洛夫告诉未来主义。”不幸的是，人们很容易堕落这些魔术师的伎俩并为幻想而堕落，除非你是一个知道这些伎俩的机器学习研究人员，并且知道他们背后的是什么。“

不幸的是，对这些误导性项目的过多关注可能阻碍具有真正原创性，革命性思想的人们的进步。当风险投资家只想为下一个机器学习解决方案提供资金时，很难获得资金来建立全新的东西，这可能会导致人工智能可以做人们已经期望它能做的事情。

如果我们希望这些项目蓬勃发展，如果我们想要采取切实的步骤来实现人工智能，那么该领域需要更加透明地了解它的作用以及它的重要性。

“我希望会有一些超级聪明的人带来一些新的想法，而不仅仅是复制正在做的事情，”米科洛夫说。“现在，这是一个小的，渐进的改进。但是，聪明的人会有新的想法来推动这个领域的发展。“