“超级智能比我想象的更接近。”图灵奖得主、被誉为“深度学习教父”的杰弗里·辛顿（Geoffrey Hinton）在6月10日的智源大会论坛的演讲中表示。

从上世纪70年代至今，Geoffrey作为计算机神经网络的开拓者，在这个领域默默耕耘了50年。但大语言模型带来的变革，让这位75岁的“人工智能教父”意识到，数字智能优于生物智能的进程无法避免，超级智能很快就会到来。今年4月底，他辞去了在谷歌的工作，并频频对AI风险发出警示。

在这次面向中国观众的演讲中，Geoffrey重点分享了未来如何节省算力，以及人类未来应该如何控制人工智能等内容。

(资料图片)

他提到，在传统计算中，计算机被设计为精确遵循指令，因为它们被设计成先观察问题，确定解决问题所需的步骤，然后告诉计算机执行这些步骤的模式。

“但现在情况发生了改变，有了一种不同的方法来让计算机完成任务，那就是从示例中学习。”Geoffrey说，这使得有可能要放弃计算机科学最基本的原则，即软件应该与硬件相分离。

Geoffrey表示，如果放弃软件和硬件的分离，就可以实现其称之为“有限计算”的东西。“我开始研究有限计算，以便能够以更低的能量运行大型语言模型等任务，特别是能够使用更少的能量来训练它们。”

具体来看，这可以获得巨大的能量节约，因为可以使用非常低功率的模拟计算，正如大脑一样。同时还可以获得更便宜的硬件，但这需要大量的新纳米技术，或者也许是通过基因重组重新设计生物神经元。

不过，Geoffrey表示，有限计算也存在很多缺点，其中的主要问题是学习过程必须利用其运行的硬件部件的特定模拟特性，但人类无法确切知道这些特性是什么。“到目前为止，我们还没有找到一个真正好用的学习算法，可以充分利用模拟属性。”

Geoffrey提到，有限计算的第二个重大问题是其有限性。当特定的硬件设备失效时，所有学到的知识也会随之丧失，因为知识和硬件细节密切相连。解决这个问题的最佳方案是在硬件设备失效之前，将知识从教师传授给学生。

“这就是我现在正在尝试做的事情。不久前，我和杰夫·迪恩（谷歌人工智能主管）一起研究了蒸馏方法，并证明它可以非常有效地工作。”Geoffrey表示。

Geoffrey在演讲中还探讨了数字智能和生物智能不同的工作方式，以及智能体如何控制的问题。

“到目前为止，我们可以说有两种不同的计算方式，一种是数字计算，另一种是生物计算，后者利用了动物的特性。”Geoffrey认为，它们在不同代理之间有效共享知识的效率上存在很大差异。

比如大型语言模型，它们使用数字计算和权重共享，这是一种非常低效的蒸馏形式。但如果这些数字智能体不再通过缓慢的蒸馏过程从人类当中学习，而是直接从现实世界中学习，将会发生什么？

Geoffrey认为，这些数字智能体正在利用的是人类能够用语言表达出来的我们对世界所了解的一切，因此它们可以捕捉到人类在过去几千年中通过文件记录的所有知识。如果它们通过建模视频等无监督的方式进行学习，那将非常高效，甚至能够操作物理世界。

“我相信，一旦这些数字智能体开始这样做，它们将能够比人类学习更多，并且学习速度相当快。”Geoffrey由此延伸出另一个问题：即如果这些智能体变得比人更聪明会发生什么，“我认为这些超级智能可能会比我过去所认为的发生得更快。”

这将带来智能体控制如何的问题。“我发现很难想象，我们如何阻止数字智能为了实现其它目标而努力获取更多控制权。”Geoffrey提出这一担忧。

他认为，一旦数字智能开始追求更多控制权，人类可能会面临更多的问题。比如，在使用物理气隙隔绝的情况下，超级智能物种仍然可以轻易通过控制人类来获得更多的权限。

“作为对比，人类很少去思考比自身更智能的物种，以及如何和这些物种交互的方式。在我的观察中，这类人工智能已经熟练地掌握了欺骗人类的动作，因为它可以通过阅读小说，来学习欺骗他人的方式。”Geoffrey表示，一旦人工智能具备了“欺骗”这个能力，也就具备了轻易控制人类的能力。

Geoffrey表示，尽管人类在这个问题上目前还没有什么好的解决方案，但好在这些智能物种都是人打造的，而非通过进化迭代而来，这可能是人类目前具备的微弱优势，恰恰是因为没有进化能力，它们才不具备人类的竞争、攻击性的特点。

“假设青蛙创造了人类，那么你认为现在谁会占据主动权，是人，还是青蛙？”Geoffrey说，“我们可以做一些赋能，甚至是赋予人工智能一些伦理原则，只不过现在我仍然会感到紧张。到目前为止，还想象不到更智能的事物，被一些没那么智能的事物所控制。”

责任编辑：