3月7日理解人工智能怪异的指南

如今，很难确定在哪里划定人工智能的界限。它可以做什么和不能做什么通常不是很清楚，以及它的未来走向何方。事实上，围绕人工智能到底是什么也存在很多困惑。营销部门倾向于以某种方式将人工智能融入他们的信息传递中，并将旧产品重新命名为“人工智能和机器学习”。票房上充斥着关于有意识的人工智能系统和计划征服宇宙的杀手机器人的电影。与此同时，社交媒体上充斥着人工智能系统犯愚蠢(有时是冒犯性)错误的例子。

“如果人工智能似乎无处不在，部分原因是‘人工智能’意味着很多东西，这取决于你是在阅读科幻小说、销售新应用程序还是进行学术研究，”Janelle Shane 在你看起来像一件事中写道还有我爱你，一本关于人工智能如何工作的书。

Shane 经营着著名的博客AI Weirdness，顾名思义，它通过实际和幽默的例子来探索 AI 的“怪异”。在她的书中，Shane 充分利用了她多年的经验，并带我们浏览了许多例子，这些例子雄辩地展示了人工智能——或者更具体地说是深度学习——是什么以及它不是什么，以及我们如何在不跑步的情况下充分利用它陷入困境。

虽然这本书是为外行写的，但对于有技术背景的人，甚至不知道如何向技术水平较低的人解释他们的工艺细节的机器学习工程师来说，它绝对值得一读。

愚蠢、懒惰、贪婪和不人道

在她的书中，Shane 很好地解释了深度学习算法的工作原理。从堆叠人工神经元层、输入示例、反向传播错误、使用梯度下降，最后调整网络的权重，Shane 用幽默的例子带你完成深度神经网络的训练，例如评价三明治和提出“敲敲敲打”谁在那里?” 笑话。

她使用相同的上下文来解释训练神经网络时出现的一些常见问题，例如训练数据中的类不平衡、算法偏差、过度拟合、可解释性问题等等。

所有这些都有助于了解当前 AI 系统的局限性和危险性，这与想要杀死所有人类的超级智能终结者机器人或计划险恶情节的软件系统无关。“[那些] 灾难情景假设人工智能在可预见的未来无法具备一定程度的批判性思维和人类对世界的理解，”Shane 写道。

相反，当前机器学习系统的威胁，她正确地描述为狭义的人工智能，是认为它太聪明，并依靠它来解决比其智能范围更广泛的问题。“与人类相比，人工智能的心智能力仍然很小，随着任务变得广泛，人工智能开始挣扎，”她在书中其他地方写道。

AI 算法也非常不人性化，正如您将在You Look Like a Thing 和 I Love You中看到的那样，它们经常找到解决问题的方法，这些方法与人类的做法截然不同。他们倾向于找出人类在创建训练数据时留下的险恶相关性。如果有一个偷偷摸摸的捷径可以让他们达到他们的目标(例如暂停游戏以避免死亡)，他们会使用它，除非明确指示不这样做。

“成功的 AI 问题解决和失败之间的区别通常与 AI 解决方案的任务适用性有很大关系，”Shane 在她的书中写道。

在深入研究 AI 的怪异之处时，Shane 揭示了关于深度学习系统的另一个现实：“它有时可能是对问题的常识性理解的不必要的复杂替代品。” 然后，她带我们了解了许多其他被忽视的人工智能学科，这些学科可以证明在解决问题方面同样有效。