诺贝尔奖是 AI 发展的里程碑时刻！DeepMind 联创 Hassabis 获奖后最新专访

今年诺贝尔奖在物理与化学领域均颁发给了人工智能（AI）相关的成就，这一举措的具体含义及其可能产生的影响是什么？Demis Hassabis 在此次专访中分享了他的看法。

10月，DeepMind的联合创始人兼首席执行官Demis Hassabis因其在AlphaFold上的贡献成为诺贝尔化学奖的三位获得者之一。

AlphaFold是一款人工智能软件，它成功解决了生物学界50年前提出的一个难题：预测每一种已知蛋白质的结构。

实际上，AlphaFold是DeepMind众多开创性成果中的一部分。自成立15年以来，DeepMind已迅速成长为全球最重要的AI实验室之一。

尽管在被谷歌收购并与Google Brain合并后，增加了一些商业考量，但他们目前依然专注于科学与工程中最复杂和根本的问题，最终旨在设计出能够模仿甚至超越人类认知能力的强大AI。

在获奖不到24小时后，Demis Hassabis接受了《金融时报》记者Madhumita Murgia的采访，讨论了DeepMind下一步将面临的重要挑战、AI在科学进步中的作用，以及他对AGI未来前景的看法。

Demis Hassabis 目前在谷歌DeepMind的伦敦总部工作

AI 4 Science 的下一个挑战

AlphaFold 3的相关进展在一定程度上展示了DeepMind在生物学领域的未来方向——理解生物体内的相互作用，最终对整个路径进行建模，甚至可能构建出一个虚拟细胞。

此外，DeepMind旗下子公司Isomorphic也在进军药物发现领域——设计全新的化合物，寻找结合位置，并预测这些物质的特性、吸收性和毒性等。

目前，Isomorphic已与礼来、诺华等公司合作，于六个药物研发项目中开展工作，预计未来几年将在临床上取得进展，希望能大幅缩短药物发现的时间，从而帮助治疗一些疾病。

除了生物学领域，Hassabis对材料设计领域的工作也充满期待。

去年，他们在《自然》杂志上发表了一篇文章，介绍了名为GNoME的AI工具，实现了AlphaFold 1级别的材料设计，发现了220万个新晶体；下一步，他们将努力达到AlphaFold 2级别。

论文地址：https://www.nature.com/articles/s41586-023-06735-9

在数学领域，AlphaProof和AlphaGeometry已在今年达到国际数学奥林匹克（IMO）银牌水平，在接下来的几年里，DeepMind将努力借助AI的力量解决一个重要的数学猜想。

在能源与气候领域，去年发表在《科学》上的Graphcast模型能够以前所未有的精度在1分钟内预测未来10天的天气。

论文地址：https://www.science.org/stoken/author-tokens/ST-1550/full

这些技术或许可以为气候建模提供帮助，这对于应对气候变化和优化电网等领域至关重要。

可以看出，DeepMind未来的发展重心更多地放在应用与工程实践层面，旨在将技术进一步转化为能够影响现实世界的工作，而不仅限于基础研究。

对此，Hassabis表示，\”蛋白质折叠\”是一个\”可遇不可求\”的\”挑战\”，我们不能要求每个难题都具如此重要的意义。

这个\”蛋白质折叠\”的问题之所以如此核心且重要，相当于生物学领域的费马大定理，但可惜的是，并没有多少问题足够重要、探索时间足够长，能够被称之为\”挑战\”。

诺奖将成为 AI 的分水岭

今年诺贝尔物理和化学奖接连颁发给AI领域的学者，这一决策引发了很多讨论，但没有人能确切说明评审委员会为什么会作出这样的选择。

对此，Hassabis如何理解呢？

他表示，这很像是委员会特意发出的一个\”声明\”，并将成为AI发展的一个分水岭时刻，标志着AI技术的成熟度被认可，能够辅助科学发现。

AlphaFold是最好的例子，而Hinton和Hopfield所获奖项则更侧重于基础与底层算法的研究。

Hassabis希望在10年后回首今日时，AlphaFold将会标志着各个科学领域发现的新黄金时代。

这引发了一个有趣的问题：在有了AlphaFold这样的工具后，科学家们是否还需花费大量时间与精力进行预测？这是否意味着我们应该去探索新的领域，甚至重新定义学习科学概念的方式呢？

需要注意的是，AI系统是一种独特的新工具，它们具有一些内在的功能，因此不适合传统意义上对工具的分类。

虽然像AlphaFold这样的工具目前只能进行预测，但某种程度上说，预测也是\”理解\”的一部分。如果你能进行预测，那么这样的能力本身已具有理解的意义。

更进一步来说，如果预测的输出足够重要，如蛋白质结构的预测，那么这一成果本身就是有价值的。

从更广阔的视角来看，科学中涵盖了许多层面的\”抽象\”。

例如，整个化学领域是建立在物理学基础上的。你并不需要理解量子力学的所有原理，就可以讨论原子化合物，在化学自身的抽象层面理解它。

对于生物学领域而言，尽管我们可以研究生命，却仍不清楚生命如何演化或出现，甚至难以对\”生命\”进行准确的定义。

类似的，人工智能也如同一个抽象层，构建程序和网络的人们在某种物理层面上掌握这一点，而随之产生的预测结果则像是一种突现的特性，我们则可以在科学的层面自行分析这些预测。

AGI 迫近，理解至关重要

无论在自然科学领域还是人工智能系统中，\”理解\”都是关键。

人工智能是一门工程学科，这意味着你需要先构建出一个系统，之后才能研究和理解这个对象；而自然科学的现象是天然存在的，无需人工制造。

虽然AI系统是工程化的人工物，但这并不意味着比自然现象更容易研究，甚至可以预见的是，它将像生物神经网络一样难以理解、分解和解构。

这种情况正在发生，但我们已有所进展，例如，有一个专门的领域称为\”机械解释\”（mechanistic interpretation），使用神经科学的理念和工具分析AI系统这个\”虚拟大脑\”。

对于AI的可解释性，Hassabis表现出乐观，认为未来几年将会在理解AI系统方面取得显著进展。

当然，AI也可以学习如何解释自己。想象一下将AlphaFold与语言能力系统结合起来，它不仅能进行预测，还能解释其背后的原理。

目前，许多领先的实验室正在缩小探索范围，专注于扩展Transformers。不容否认，这是一个良好的方向，可能成为最终AGI系统的关键组成部分，但DeepMind将继续坚持探索与创新研究。

事实上，DeepMind拥有迄今为止最广泛、最深入的研究平台，以发明下一代Transformer，这是他们科学遗产的一部分。

这些探索都是必要的，其中一部分原因是要检验我们的探索深度，从而得知需要进一步探索的内容。

探索新想法以及将令人兴奋的想法进行极致化，这两条路径都同样重要。如果你对当前想法的局限性没有一定理解，就无法识别出所需的突破。

长上下文窗口的LLM就是一个很好的例子。谷歌Gemini 1.5 Pro实现的2M token上下文就是一项令人赞叹的创新，目前没有其他公司能实现。

谷歌DeepMind伦敦办公室

理解AI，才能实现安全的AGI

Hassabis与许多科技领袖曾预测，实现AGI还需5至20年的时间。

若要用科学方法实现该目标，则意味着需要更多的时间、精力与思考，聚焦于AI的理解与分析工具、基准测试和评估，投入需比当前增加十倍。

这些投入不仅需要来自科技公司，还应包括AI安全机构、学术界与社会各界。我们需要了解AI系统的运作方式、其局限性，以及如何控制与保护这些系统。

\”理解\”是科学方法的重要组成部分，但在纯工程中往往被忽视。工程更多是旁观者的角色——此方法有效吗？如果无效则再尝试一次，充满试验与误差。

科学则是在一切发生之前就能理解的事物。理想情况下，这种理解意味着犯错的机会较少。这对于AI和AGI至关重要，因为在运用如此强大的技术时，我们希望尽可能地减少错误。

也许几年后，接近AGI时，我们将面临一个社会问题——我们希望这些系统具有什么价值？我们将为它们设定什么样的目标？

这与技术问题不同。技术方面关注的是如何使系统朝着设定的目标前进，而不是帮助我们确定目标本身该是什么。

为实现安全的AGI系统，技术和社会问题两方面都必须正确，但Hassabis认为，后者或许更难以实现。

目标与价值观等一系列问题，会更直接涉及联合国、地缘政治，甚至社会科学与哲学领域，需要在政府、学术界与社会各阶层之间进行广泛讨论。

即便AGI还需十年才能实现，我们解决这些问题的时间也并不多，因此讨论应从现在开始，确保不同来源、不同观点的声音都能被呈现出来。

参考资料：

• https://www.ft.com/content/72d2c2b1-493b-4520-ae10-41c1a7f3b7e4

本文来自微信公众号：微信公众号（ID：null），作者：新智元