本文参加百家号#科学了不起#系列征文赛。
人工智能对很多人来说意味着很多事情。但它似乎很难定义，它是感觉的，是直觉的，要么被崇拜、要么被亵渎。
本文将探讨人工智能在整个社会中的真正含义，而不是研究人员或计算机科学家的含义。我想向非技术领域的读者澄清什么是人工智能可以期待的，更重要的是，什么只是不切实际的臆测。
我担心，对人工智能的盲目恐惧——在某些情况下是崇拜——正在被用来操纵社会。
*界人士、商界人士和媒体人士都在围绕人工智能编写故事，这些故事能够激发他们的深层情感，并为他们所用。与此同时，真相只能在普通人接触不到的密集的技术文献中找到。
我们所说的智力是什么意思？
智力是纯粹的人类特征吗？大多数人会认为有些狗比其他的狗更聪明。或者狗比豚鼠更聪明，所以很明显，智力是动物可以拥有的。
如果狗能有智力，鸟也能吗？蚯蚓或植物呢？我们的底线在哪里？智力有很多定义，但我最喜欢的一个(来自维基百科)是：
感知或推断信息的能力，以及将其作为知识应用于环境或环境中的适应性行为的能力。
似乎是合理的吗，有些人认为根据这个定义，即使植物也可以是智能的，那么为什么计算机不能呢？
这就是人工智能研究人员通常所指的智能。然而，现实是，当普通人谈到或想到人工智能时，他们想到的不是植物或动物。大多数人不会对计算机可以在植物、豚鼠甚至狗的水平上运行的想法感到太兴奋。
同样地，人们并不真正关心一台机器能做它的创造者想让它做的事情；它被编程来做什么。手枪是用来杀人的，它们确实是用来杀人的，但没有人担心手枪会发展意识，杀死所有人——就像它们被“编程”来做的那样。
我们必须承认，普通人所说的“人工智能”实际上是“像人类一样的人工智能”，而他们所担心的是人工智能自发产生动机的可能性。
人的因素
动机是关键，人类的动机与所有其他动物的动机不同，这种不同可以说是人类的独特之处。
伟大的数学家和计算机先驱艾伦·图灵曾建议，与其问人类是什么，我们可以简单地说：
如果它走路像鸭子，嘎嘎叫像鸭子。
图灵的建议是，如果一个电脑程序可以通过书面交流，而交流者（人）没有意识到他们在和电脑互动，那么电脑就可以说是一个具有人类特征的人工智能。然而，这并没有真正回答一个问题，即一个计算机程序是否能够像人类那样实时地做出同样复杂的决定，它是否能够拥有未经预先编程的动机。
最重要的是，书面采访只包含人类经验的一小部分。我们生活在一个行动的世界，许多行动都有非常真实和直接的后果。是否走在黑暗的胡同里是一个复杂的决定，许多影响我们决定的因素是未知的。每一天，我们都在不了解所有数据的情况下做出决定，而人类生存和繁荣的事实是无可争议的证据，这证明了总体而言，我们在这方面取得了惊人的成功。
我们如何成功是一个有争议的问题。但大多数严肃的学者都会同意，人类分配价值的倾向几乎是不可避免的，这是事物的核心。
人类是“价值创造机器”，我们创造价值的速度是任何计算机网络都无法匹敌的。如果你听到一个意想不到的声音，你会在毫秒内做出反应。从这个角度来看：在您单击链接后，第一个字节的数据到达浏览器的时间比谷歌建议的时间快30毫秒，而谷歌建议页面在第一个字节后完成加载的时间为毫秒。
我们所说的价值评估是指把某件事认定为具有威胁性或令人愉悦的，这是我们本能地、自动地、“不假思索地”去做的事情。然而，如果不这样做，我们就无法像我们所知道的那样“思考”。
说你渴了；你必须解决喝什么这个问题，然后你必须解决得到它的问题。
假设你在池水和新鲜的井水之间选择喝什么。你现在想的是，很明显我们需要井水。但是，如果你是一个越狱的囚犯，池塘里的水安全地流出了森林，而井就在一个城镇广场上，你可能会被看到，那该怎么办呢？现在你想到的是池塘里的水。你渴望得到干净的水，但你更渴望保持自由。这是因为你对保持自由的重视远远高于你对水的新鲜度的重视。
人的动机完全取决于价值观。一只口渴的狗只会喝它找到的第一口水，因为它的动机是生存，不受价值观的影响。
让我们来考虑一个与生存无关的例子：你会按下一个肯定会杀死一个人的按钮，还是会拒绝按下它，即使它意味着不按会导致10个人死亡。你对这个问题的思考与你自身的生存没有任何关系，但它有一种几乎无人能否认的道德紧迫感。当你评估你的选择时，你的思维将完全被你所赋予的价值所引导。
这些价值观从何而来?
事实是我们不知道。
对有些人来说，这是信仰的问题。虔诚的宗教人士相信我们的价值观是上帝意志的反映。少数真正相信进化论及其全部含义的人会说，我们的价值观是那些允许我们生存并因此使其自身永存的价值观。
几乎每个人都认为价值观是不言而喻的真理。很明显是这样的。正如山姆·哈里斯所说:
当我们真的相信某事在事实上是真实的或道德上是好的，我们也相信另一个人，处于同样的位置，应该分享我们的信念
就所谓的理解而言，这是淡茶。它没有提供有用的基础来解释为什么有些价值观是文化上依赖的，而另一些价值观似乎是普遍的或接近普遍的。它不能解释价值观的起源，因此，尽管有宗教和进化论的影响，在很大程度上，我们对价值观如何运作没有任何有用的解释。
正是在价值观中，我们发现了意识的差距。在上面的例子中，你的动机是口渴，这是一种生物因素。配备了适当传感器的人工智能也可能具有这种动机，例如需要为电量不足的电池充电。
但是，是什么促使你把美丽的事物拍下来与你所爱的人分享，或者与你的朋友争论*治呢？是什么促使你去看恐怖片或学习一项运动？按按钮的例子呢？如果没有人类首先提供的价值观，比如一条生命的价值低于10条生命，或者无论在什么情况下，杀人都是错误的，计算机凭什么能做出这样的决定呢？我们的道德，我们在一眨眼间赋予价值的能力，已经进化了数百万年。如果没有人类首先提供的蓝图，一台计算机——在一代人的时间里，你怎么能想到它们有天生的繁殖机制——凭自己的力量建立起道德基础呢？
我们真的想要吗?人类历史表明，在我们达到我们现在所认为的文明行为之前，需要数万代人的努力。我们真的想要一个人工智能种族以同样缓慢而痛苦的方式迈向文明吗？
当然，我们可以给它们一个“跳跃式启动”，但随后我们又回到了意识鸿沟：如果我们在跳跃式启动时编程，基本上是根据一些人的价值观编程，人工智能能否被称为真正具有类人意识、能够自发动机？你可能已经猜到了，我相信答案可能是否定的。
这并不是说人工智能完全不涉及任何危险或令人担忧的领域。与人类努力的任何其他领域一样，人工智能的使用也同样受制于意外后果法则。我们可以绝对肯定的是，使用人工智能来管理社交媒体feed的内容，会直接导致许多人不喜欢的意料之外的结果。
这并不是由于人工智能的任何内在品质。这是我们所生活的世界的本质。这是人类决策所固有的，无论这个决策是将甘蔗蟾蜍引入澳大利亚(以控制害虫)，还是使用人工智能进行自动化的股票购买，都极有可能发生灾难。
我们无法想象把“按钮问题”呈现给狗。我们没有理由相信狗会有任何道德框架，没有理由相信狗会以这样或那样的方式关心。
我们没有理由相信，我们可以把这个问题呈现给人工智能，就像呈现给一只狗一样。我们完全没有证据表明，任何地方的人工智能都有一个道德框架，由人类那种自发的价值创造所引导或告知。计算机的计算速度比人类快，或预测某些类型的问题更快或更好，这是无关紧要的。在与人类对弈中获胜是编程和计算机科学的一个里程碑，但在现实世界中却没什么意义。在一组非常严格、非常有限的规则中计算大量排列的能力，并不表示一般智力或计算机开发意识的能力。
哗众取宠销售。天总是要塌下来，上周关于世界末日的预言的失败似乎从未满足人们对本周即将到来的末日预言的渴望。同样的道理也适用于追求轰动效应的理想主义。乌托邦意识形态的一再失败，实际上产生了预言中的人间天堂，这似乎丝毫不会妨碍真正的信徒相信…
人工智能一点也不像它的支持者和反对者所认为的那样令人兴奋、神秘、危险或壮观。在很大程度上，它已经成为概率数学的一个分支，被美化了的精算工作。它具有御宅族或穿着夹克的人在谈论他们最喜欢的话题时的性感魅力。它是一匹诡计多端的小马。