丹尼斯，非常感谢你。很高兴来到这里。谢谢大家到场。来到这里很棒。我们非常荣幸你能来到我们的巧克力工厂。是的，我刚听说这件事。是的，很期待之后的巧克力。太好了。丹尼斯，我们会直接进入正题。我们请到的是各方面都称得上 OG 的人物。他是 AI 领域的原创思想者、创始人和远见者。丹尼斯是真正的信仰者，也是真正的科学家。我们会先谈早期经历，再谈 DeepMind 的早期然后进入科学部分，并开放给现场提问。那么，我们直接开始。Demis，你曾经是国际象棋神童。你也是一家游戏公司的创始人，是神经科学家，是 DeepMind 的创始人，现在领导着一家非常重要、影响深远的公司。这些经历看起来彼此不太相关，但你说过其中有一条共同线索。你能带我们梳理一下吗？
确实有一条共同线索。也许是我把它整理这句话后面有一个来源。成了一条共同线索，所以这可能是一种事后塑造。但我很早就想做 AI。所以在青少年时期，我基本上就认定这是我可能做的最重要、也最有趣的事。然后我选择去学习或去做一些事情，因为我觉得它们最终会帮助我建立一家像 DeepMind 这样的公司。所以大约从 15、16 岁起，我就有了这个计划。
落魄行歌记昔游。头颅如许尚何求。心肝吐尽无余事，口腹安然岂远谋。
才怕暑，又伤秋。天涯梦断有书不。大都眼孔新来浅，羡尔微官作计周。
我绕到游戏领域，是因为那是在 90 年代，当时许多最前沿的技术都在那里发生。当然不只是 AI，也包括图形，尤其包括硬件，也就是我们今天都在使用的 GPU。它们最初是为图形引擎设计的。我当年在 90 年代末就已经在使用最早期的 GPU。所以那里有很多真正前沿的技术。
我做过的所有游戏，包括我在 Bullfrog 做的所有游戏，以及我自己的公司 Elixir Studios 做的游戏，都把 AI 作为核心玩法组成部分。我最有名的游戏可能是我大约 17 岁时做的《Theme Park》。那是一个游乐园模拟游戏，成千上万个小人会进入你的主题公园，玩你的游乐设施，并决定在商店里买什么。所以底层有一整套经济 AI 模型。它和《Sim City》一起，是同类游戏中最早的一批。当我看到它卖出了 1000 多万份，并看到人们和 AI 互动时那么开心，那就是让我开始考虑把整个职业生涯投入其中的事情之一。
然后当然还有神经科学，它是为了从大脑工作方式中获得启发，以及获得不同的算法想法。之后，就是在我们认为时机合适的时候，把这些不同的东西汇聚到 DeepMind 的创立中。当然，我们也把游戏作为早期验证 AI 想法的试验场。
现场有很多创始人，而你也能理解这一点，因为你不仅创过一次业，而是两次。带我们回到第一次，也就是 Elixir Studios。那是什么样的经历？这不是你最出名的那家创业公司，但它也是一家你取得过巨大成功的公司。你是如何领导它的？它教会了你什么关于建设公司的事情？
我们是大学一毕业就创办了 Elixir Studios。我很幸运曾经在 Bullfrog Productions 工作。懂游戏的人会知道，那是游戏行业早期一家传奇游戏工作室，可能是英国、欧洲最好的游戏工作室。我想做一些结合前沿 AI 推进的事情。所以实际上，在那个年代，我是在通过游戏开发这条后门来资助 AI。然后把它推到前沿，并把它和前沿创造力结合起来。我认为这和我们今天做蓝天研究的方式仍然相关。
但我学到的最大教训也许是：你应该领先时代 5 年，而不是领先 50 年。我们在 Elixir Studios 试图做一款叫《Republic》的游戏，它模拟一个完整国家。游戏的想法是，你可以用很多不同方式推翻这个国家里的一位独裁者。我们基本上模拟了有生命、有呼吸的城市。要记住，那是 90 年代末，在 Pentium 电脑上做。我们必须让一个普通家用 PC 同时运行所有图形和一百万人口的 AI。所以它有点太雄心勃勃了，也许确实太雄心勃勃，并且造成了一些问题。
我把这个教训带在身上：你要领先时代。当事情对所有人都显而易见时，显然已经太晚了。但如果你领先 50 年，那可能就没有办法让它成功。
好。说到不要太超前，当时是 2009 年，你决定 AGI 会出现。是的。也许在当时我们只领先时代 10 年。比领先 50 年好。所以，再一次，现场有很多创始人。请讲讲 2009 年。你最开始招到了一些非常优秀的人才，很高水平的员工和早期团队成员。你是如何说服他们相信一件当时看起来完全像科幻的事情的？
我认为我们抓住了一些有趣的线索。我觉得我们当时以为自己领先 5 年，但也许更像是领先 10 年。深度学习刚刚由 Geoff Hinton 和同事们在学术界发明出来，但几乎没有人真正意识到它很重要。我们很了解强化学习，并且觉得把这两种技术结合起来会有巨大进展。它们此前几乎从未真正混合在一起，当然除了学术主题中的玩具问题以外，几乎没有其他东西。AI 中这两块当时相当割裂。
然后我们能看到计算资源，当时的 GPU 会非常有用。当然现在我们使用 TPU。但加速计算产业会非常有帮助。然后，在我博士和博士后结束时，以及我聚集起来的其他一些人都是计算神经科学家，我们也觉得自己已经从大脑中获得了足够有用的想法和原则，包括强化学习最终可以扩展到 AGI 的想法。
所以我们觉得自己拥有这些要素，几乎觉得自己像是在守护一个秘密。因为无论在学术界还是工业界，几乎没有人真正相信会有任何重大进展。事实上，很多学术界人士在我们提出要研究 AGI，或者当时有时被称为强 AI 的东西时，都会真的对我们翻白眼，因为他们会说：我们知道这行不通。90 年代所有人都试过了。
我在 MIT 做博士后，而 MIT 曾经是专家系统和早期逻辑语言系统的中心。现在回想起来这似乎很不可思议，但那时我已经觉得那有些古旧了。不过在英国剑桥和 MIT 这些传统 AI 大中心，事情仍然是那样做的。
但实际上，这反而让我更加相信我们可能抓住了什么。因为至少如果我们要失败，我们也会以不同于 90 年代那些试图实现 AGI 的人的方式失败。所以我觉得无论如何都值得去做。显然这是研究，我们并不确定它一定会成功，但至少如果它不成功，我们会以一种原创的方式失败。
在早期信念中，有没有什么共同的卡点？有没有什么东西是你必须向自己或早期追随者证明，才能让他们加入的？
这么说吧。无论发生什么，我都会把自己的一生投入 AI。所以后来事情的发展，已经走到了我们乐观预期中非常惊人的一侧。事实上，它仍然在我们 2010 年预测的范围内。当时我们认为这会是一个 20 年任务。我认为整个领域基本上正好沿着这个轨道前进。当然，我们也在其中发挥了自己的作用。
但即使事情没有这样发展，即使它现在仍然只是一个小众领域，我仍然会做这件事，因为我觉得这显然是有史以来最重要的技术。我们在 DeepMind 最初的使命宣言是：第一步，解决智能，也就是构建 AGI；第二步，用它解决其他一切问题。
所以我一直认为，它不仅是可能被发明出来的最重要技术，也是最有趣的技术。它可以作为科学工具，作为一个本身就很有趣的人工造物，并且实际上也是理解我们自身心智的最佳方式之一。比如意识的本质、梦、创造力，这些都是我作为神经科学家提出的问题。我觉得缺少的东西之一，是像 AI 这样的分析工具，同时也缺少一个可以进行对照实验研究的比较对象，让你能把两个不同系统彼此比较。
我们来谈谈 AI for science。你很早就进入了这个方向。你一直相信它，而且在这件事上非常纯粹，把它作为驱动使命。DeepMind 的建立方式和文化设置，是什么让它能够一直处在 AI for science 的前沿？
那至少对我而言是终极目标，也是我个人的热情所在。我想构建 AI 的个人驱动力之一，就是推动科学和医学发展，并推动我们对世界的理解。我对这个使命的表达方式，是以一种元层面的方式来做：先构建终极工具，然后等它准备好，再回来用它在科学上实现突破，比如我们已经完成的 AlphaFold，以及我认为未来还会有更多这样的事情。
所以在 DeepMind，我们一直把这件事放在核心位置。实际上，我们已经有一个由 Pushmeet Kohli 领导的 AI for science 小组或部门，存在了将近十年。差不多是在我们从首尔 AlphaGo 比赛回来后的第二天，也就是现在几乎正好十年前，我们正式启动了 AI for science 的努力。因为我一直在等待算法足够强大、想法足够通用。对我来说，攻克围棋就是那个时间点。那时我们认为，好，现在我们已经准备好把这些想法真正应用到重要的现实问题上，从这些重大的科学挑战开始。
所以我们一直把这件事视为 AI 最有益的用途。还有什么会比用它来治愈疾病、给我们更健康的寿命、帮助医学更好呢？当然，接下来还有其他非常重要的领域，比如材料科学、环境和能源等主题。我认为未来几年 AI 也会在这些方面发挥巨大作用。
AI 会如何在生物学中实现突破？你深度参与了 Isomorphic。这是你非常有热情的领域。从一开始，你就非常纯粹地相信 AI 有治愈疾病的潜力。我们什么时候会在生物学中拥有类似语言和编程领域那样的时刻？
我会说，我们已经通过 AlphaFold 拥有了那样的一个时刻。蛋白质折叠以及蛋白质的三维结构，是一个 50 年的重大挑战。如果你想设计药物，或者想理解生物学，了解它是极其重要的。当然，它只是药物发现过程中的一个部分。它是重要部分，但只是一个部分。
Isomorphic Labs 是我们最新拆分出来的公司，我也很享受运营它。它的目标是在生物化学和化学空间中构建相邻技术，能够自动设计化合物，使其适配并结合到蛋白质的正确部位。现在我们知道蛋白质的形状，也知道蛋白质表面有什么，以及我们需要靶向什么。但现在我们必须构建正确的化合物。它当然要牢固结合到你希望它结合的目标部位，但理想情况下不要结合到其他任何东西上，因为那会产生毒性副作用。
所以梦想是几乎把所有探索都放在计算机中完成，而这占工作量和时间的 99%，然后把湿实验室步骤只保留给验证环节。对吗？如果我们能够做到这一点，而我认为未来几年我们可以做到，那么我认为我们可以把药物发现时间从平均大约 10 年缩短到几个月，也许甚至几周，有一天也许会缩短到几天。然后我认为所有疾病都可能变得触手可及。个性化医疗这类事情也会成为可能，比如基于基础药物的个性化变体。所以我认为整个医疗领域和药物发现领域会在接下来几年发生革命。
你谈了很多 AI for science。你认为在某个时刻 AI 会创造新的科学吗？类似工业革命与热力学那样。我们的教育系统中会不会出现某种根本性的新内容？如果会，它会是什么样？
我认为沿着这个方向会发生几件事。首先，对 AI 系统本身的理解和分析，我认为会成为一整门科学，一种工程科学。我们正在构建的这些人工造物极其有趣，也极其复杂。随着它们最终变得像人类心智和大脑一样复杂，它们也需要被研究，这样我们才能比今天更充分地理解这些系统如何工作。所以我认为会有一个完整领域。机制可解释性是其中一部分，但我认为还有很多更多事情可以做，用来分析这些系统。所以那会是一门科学。
但我认为 AI 本身也可能解锁新的科学，这也许是你真正想问的。我特别兴奋的一个方向是 AI for simulations，也就是用于模拟的 AI。我喜欢模拟。我写过的所有游戏不仅有 AI，而且都是模拟。我认为模拟是我们可以处理某些社会科学，比如经济学以及其他更人文的学科的方式。因为在这些领域中做控制研究非常困难。为什么它们今天不像物理学那样只是科学？问题在于它们是涌现系统，实际上就像生物学一样，而且很难做重复的控制实验。比如如果你把利率提高 0.5%，你必须在现实世界中这么做，然后看会发生什么。
你可以有理论，但你不能把它运行几千次。但如果你能够非常准确地模拟事物，那么也许就会有新的科学可以做，你可以从一个非常准确的模拟器中严谨地采样。我认为这将让我们在这些今天非常不确定的领域中做出更好决策。
要实现那些极其准确的模拟，需要什么？世界模型、什么样的科学以及工程组合？
我在这方面思考很多。我们也做了大量这类工作，比如学习型模拟器。也就是说，在这些领域里，我们对数学了解得还不够，或者它们可能太复杂了。我们不能直接写下一个特殊情况的模拟器。那不够准确，无法捕捉所有变量。我们已经在天气方面做过这件事。我们有世界上最准确的一类天气模拟器 WeatherNext，而且它比气象学家使用的工具快得多。
还没有做到天气吗？不，我们不能，也不确定那是不是一个好主意。但第一步是更好地理解它。甚至在生物学中，我们也在做一种我称为虚拟细胞的东西。那是一个极其动态的涌现系统。我认为生物学非常适合机器学习。机器学习对于生物学来说，是一种完美的描述语言，就像数学之于物理学一样。因为我认为在生物学以及许多自然系统中，有大量弱信号、弱相关性和海量数据，远远超过任何人类心智能分析的范围。但在那团数据中存在连接、相关性和有趣的因果关系。所以我一直觉得，机器学习是描述这类系统的完美工具。而直到今天，数学还没能做到这一点，要么是因为即使顶级数学家也无法处理，因为它太复杂了；要么是数学的表达能力不足以理解这类高度涌现的动态系统。
这也是因为它的混乱性和随机性吗？当然。而且顺便说一句，一旦你学会了这些模拟器，也许还有另一条新的科学分支。你也许可以在拥有模拟器之后，从中提取一些方程。也就是说，你有这种隐式模拟器、直觉式模拟器，然后也许可以从中提取显式方程这可能是未来科学的一种新范式：可用性先于可解释性，预测能力先于理论优雅。当然，这也有风险。如果模拟器错了，提取出的“规律”也可能只是模型幻觉。但作为科学想象，它非常强。 。部分原因是你也可以任意多次地对它采样，也许能得到像麦克斯韦方程那样基础的东西。当然，我不知道这种涌现系统中是否存在这样的东西。但如果它们确实存在，我看不出为什么我们不能用这些方法找到它们。那会非常惊人。
你谈过一个理论，即宇宙中一切事物的基本构建块可能是信息。这更加理论化。你如何看待这一点？它对传统经典图灵计算机意味着什么？
我认为，当然，你可以想到那些著名的东西，比如爱因斯坦提出的 E=mc²，以及能量和物质在某种意义上等价。但我实际上认为，信息也以同样方式具有某种等价性。所以你可以把物质和结构的组织，尤其是像生物这类抵抗熵的东西，看作本质上是信息处理系统。
所以我认为这三类量可以彼此转换。但我有一种感觉，信息是最基础的。因此这有点与 20 世纪 20 年代经典物理学家的想法相反。那种想法中，能量和物质是首要的。我实际上认为，理解世界、理解宇宙的一种更好方式，是首先把它看作信息。如果这是真的，而我认为有相当多证据支持这一点，那么 AI 在某种意义上当然比我们想象的还要深刻，而它已经相当深刻了。因为它同样关乎组织信息、理解信息，以及构建信息对象。
所以在我看来，AI 完全关乎信息处理。如果你把信息处理作为思考问题的主要方式，我认为这些不同领域之间存在非常深的联系。
你认为经典图灵机能够计算一切吗？
我有时会这样想，我们正在做的事情，我有时称自己是图灵的捍卫者。因为图灵机，还有 Alan Turing，是我有史以来最喜欢的科学英雄之一。我认为他所做的事情显然奠定了计算机科学的基础，也奠定了 AI 的基础。我认为图灵机结果是有史以来最深刻的结果之一。所有可计算的东西，都可以由一种描述相对简单的机器来计算。
所以我认为我们的大脑很可能是近似的图灵机。我认为思考图灵机、量子计算机和量子系统之间的联系很有意思。但至少我们通过 AlphaGo，尤其是 AlphaFold 这样的东西展示了，在现代神经网络形式下的经典图灵机，可以对某些曾被认为需要量子系统的东西建模。比如在蛋白质折叠的情况下，它在某种意义上是一个量子系统。它处理的是非常小的粒子。人们可能会认为必须考虑水键以及各种东西的所有量子效应，但结果证明，你可以在经典系统上得到近似最优的解。
所以也许很多我们认为需要量子系统来建模或运行的东西，如果以正确方式思考，可能也可以在经典系统上建模。
你一直把 AI 作为一种工具来谈，就像望远镜、显微镜，或者几个世纪以来的星盘。但当你想到一台几乎可以建模任何东西的机器时，假设它甚至不能像你指出的那样建模量子系统，它什么时候会不再是工具？这种情况会发生吗？
我非常强烈的感觉是，在构建 AGI 的使命和旅程中，我们这些在这条路上的人，包括这个房间里的很多人，最好先构建一个工具，一个极其智能、有用且精确的工具，然后再跨越下一个界线。仅仅这一点就已经足够深刻。当然，这个工具可能会变得越来越自主、越来越像智能体，我们都正在看到这一点。我们现在正处在智能体时代之中。
但再往前还有一步，比如它是否具有能动性？它是否有意识？这些问题也是我们将需要处理的问题。但我会建议我们把它作为第二步来做。也许使用第一步中的工具，来帮助我们处理那些接下来更深刻的问题。理想情况下，我们也可以更好地理解自己的大脑和心智，并且比今天更精确地定义意识这样的东西。
你是否估计过，意识的定义可能会是什么样？
没有。我的意思是，除了几千年哲学已经说过的东西之外，我没有太多可补充的。但对我来说非常清楚的是，某些组成部分显然会是需要的。它们可能是必要但不充分的。比如自我意识，以及自我与他者的概念，还有某种随时间延续的连续性。所以对于任何看起来像意识的东西来说，这些东西显然是需要的。但完整定义是什么，显然仍然是一个开放问题。我和许多伟大的哲学家谈过这个问题。
Daniel Dennett 最近不幸去世了，但几年前我们曾就此进行过一次长谈。我认为其中一个问题是，一个系统如何表现？它是否表现得像一个有意识的系统？你可以说，随着一些 AI 系统接近 AGI，它们最终也许能做到这一点。但仍然有一个问题：为什么我们认为彼此有意识？其中一个原因是我们的行为方式，我们像有意识的存在一样行动。但另一个原因是，我们运行在同样的基质上。
所以我认为，如果这些条件都成立，那么认为你正在体验的东西和我正在体验的东西相同，就是一种更简约的解释。这就是为什么我们通常不会争论彼此是否有意识。但我认为，对于人工系统，我们显然永远不会拥有基质等价性。所以那里总会存在一个差距，我认为很难完全弥合。你可以从行为上观察它，但体验层面呢？在 AGI 之后，可能会有一些办法处理这一点，但就今天的 AI for science 讨论而言，这有点超出范围。
非常精彩。我们马上开放现场提问。请大家准备好问题。你刚才提到了哲学家。你提到过康德和斯宾诺莎是你最喜欢的两位哲学家。康德是一个义务论的、非常强调责任的哲学家。斯宾诺莎几乎有一种决定论的宇宙观。你如何连接这两种信念？你对世界如何运作的思考在哪里？
我喜欢这两位的原因，是他们对我来说很突出。我认为康德在我做神经科学博士时，他关于心智创造现实的说法，我认为基本上是真的。所以这也是研究心智、研究大脑如何工作的另一个理由。我最终感兴趣的是现实的本质。所以我们必须理解心智如何解释现实。这就是我从康德那里获得的东西。
而斯宾诺莎更多是关于一种你几乎可以称为精神性的维度。也就是说，如果你试图理解宇宙，在我的情况下是用科学作为工具，那么你就在以一种非常深刻的方式理解宇宙如何运作的某种深层神秘。我觉得这就是我在做科学、我们在研究 AI、我们在构建这些工具时正在做的事情。某种程度上，我们是在阅读宇宙的语言。
说得真美。这是描述你每天所做之事的一种很美的方式。Demis，科学家还是哲学家。在结束之前，我们会做几个快问快答。好的。谢谢。他还没看过这些问题。可以。
关于 AGI 到来的年份，你的判断是什么？或者你也可以拒绝这个问题的前提。不会。2030 年。我一直比较一致地这样说。
好的，2030 年。当我们实现 AGI 时，必读的一本书、一首诗或一篇论文是什么？当我们实现它时？我最喜欢的书是 David Deutsch 的《The Fabric of Reality》。所以我认为这个答案仍然成立。我希望用 AGI 回答那本书中的问题。那是我在 AGI 之后的工作。
精彩。到目前为止，你在 DeepMind 最自豪的时刻是什么？我们很幸运，拥有很多这样的时刻。可能是 AlphaFold。
好的。现在几个游戏问题。如果你正在参与一场高风险策略游戏，一款回合制策略游戏。好的。比如《Civilization》或《Polytopia》这样的游戏，而且你可以从历史上选择一位科学家加入你的团队。我们想到的是爱因斯坦、图灵、牛顿这些人。你会选择谁加入你的团队？
加入我的团队？你的团队。天哪。可能是冯·诺伊曼。我觉得他是博弈论者。我认为他是最好的。这说得通。显然这说明你会是一个好队友。是的。好的。丹尼斯，你什么都做到了。非常感谢你来到这里。请和我一起感谢。