jjdudh
图片来源：Youtube
“AI正逼近人类的灵魂边界。”
这是DeepMind CEO Demis Hassabis在Google I/O大会期间，面对通用人工智能（AGI）议题时发出的直白判断。在这场持续近两小时的对谈中，他与《纽约时报》记者Kevin Roose、科技播客主持人Casey Newton围绕“通用智能的冲刺”“AI创造力与幻觉”“进化式模型AlphaEvolve”“全球科技博弈与稳妥伦理”等多个前沿议题，展开了深入讨论。Hassabis坦言，如今的AI技术堆栈还远未稳定，“技术本身在奔跑，小编只能边跑边造车”，但同时他也首次明确表示：AGI或将在2030年左右诞生，小编正处在关键的五年窗口期。
在这场讨论中，Hassabis提出了数个令人深思的判断：
AGI冲刺阶段已开启：“小编已经越过了中段，现在是冲刺的前沿。”
AlphaEvolve代表AI自我进化的雏形：“它让AI系统进行提出假设并评估自身，虽然现在还远未完全自动化，但已具备主要价值。”
“幻觉”并非全然负面，创造力有时需要“非真实”触发点：AI必须敢于想象，才可能发现搜索空间中未被触及的创新路径。
技术栈仍在飞速演进，构建AI产品必须押注未来能力：产品经理的核心能力变成预见技术一年后的跃迁路径。
AGI将是全人类的难点：“AI的稳妥、伦理与监管，不可能局限在某个国家、某个公司内部，它必须全球协作。”
未来职业构成将重塑，但不是终结，而是新秩序的进行：“大团队将被小型高效组织取代，创造力与远见将成为稀缺能力。”
AI还无法触碰人类“灵魂”的部分：不管是小说、画作，还是人与人的深度连接，目前AI仍难以复制那些“经历过挣扎”的创作能量。
正如Hassabis所说：“如果AI是这个时代的引擎，那么它不是让小编变得更冷酷，而是让小编更有时间回归本质——包括想象力、情感与哲思。”或许，这正是AI时代最值得小编守护的东西。
谷歌 DeepMind 首席执行官Demis Hassabis多年来一直梦想着 AGI。2014 年，谷歌收购了他共同创立的人工智能初创公司 DeepMind，Hassabis加入谷歌。去年，Hassabis和他的谷歌DeepMind同事 John M. Jumper因其在AlphaFold上的贡献而获得了诺贝尔化学奖。
以下是访谈的全文翻译。
图片来源：Youtube
Kevin Roose: 您们刚刚举办了 Google I/O大会，那真是Gemini的盛会。Gemini的名字在主题演讲中被提到了大约 95 次。在宣布的所有产品中，您认为对普通客户来说最主要的是什么？
Demis Hassabis：小编确实宣布了很多东西。对于普通客户来说，我认为是新的强大机型，我希望像 Astra 这样的技术能够应用于 Gemini Live。我觉得这真的很神奇，当人们第一次办理它时，他们会意识到人工智能如今已经能够做到比他们想象的更多的事情。我想Veo 3可能是本次展会上最主要的发布，而且现在似乎正在迅速走红，我认为这也非常令人兴奋。
Kevin Roose: 与往年相比，今年的I/O大会给我留下了深刻印象的一点是，谷歌似乎正在被人们说成是“AGI药丸”一样的东西所吸引。我记得几年前采访谷歌的研究人员时，谈论AGI还是有点禁忌。他们会说：“哦，Demis和他在伦敦的DeepMind团队，那是他们疯狂的事情，他们对此感到兴奋。但小编在这里做的是真正的研究。” 但现在，谷歌的高管们进行公开谈论它了。这种转变是如何解释的呢？
Demis Hassabis：我认为 AI 这个等式正变得越来越主要，就像我有时把谷歌DeepMind描述为谷歌的引擎室一样，如果您退一步来看，我想您可能在昨天的主题演讲中就看到了这一点。然后我想，一切都非常清晰。您具备说“AGI-pilled”这个词或许很贴切，小编已经非常接近人类水平的通用智能，甚至可能比几年前人们想象的还要接近。它将产生广泛而跨领域的影响。我认为这也是您在主题演讲中看到的另一件事。它几乎无处不在，乃因它是一个支撑一切的水平层，我认为每个人都进行理解这一点，也许DeepMind的一些理念正在渗透到谷歌的整体架构中，这很好。
Casey Newton：您在周二的主题演讲中提到，Project Astra 正在赋能一些人们甚至可能尚未意识到 AI 能够做到的事情。我认为这反映出目前 AI 行业面临的一个真正挑战：这些模型拥有非常惊人的能力，但要么产品卖得不好，要么客户还没有真正理解它们。那么您是如何看待这个挑战的？您在多大程度上专注于产品难点而不是研究难点？
Demis Hassabis：我认为这个领域面临的挑战之一显然是底层技术发展速度惊人，甚至与其他重大革命性技术（例如互联网和移动技术）截然不同。技术栈在某个阶段会趋于稳定，这样人们就具备专注于产品或开发该技术栈。而小编现在面临的情况，我认为从研究人员的角度来看，这非常不寻常，但也非常令人兴奋，乃因技术栈本身正在飞速发展，正如您们所知。故而我认为这实际上在产品方面带来了独特的挑战。这不仅对小编谷歌和DeepMind，对初创公司，对任何公司，无论大小，都构成挑战：正如小编所见，如果一年后技术可能会提升100%，那么现在您该押注什么呢？故而，您需要具备相当深厚技术功底的产品人员——产品设计师和经理——来预测一年后技术的发展方向。故而有些事情它现在做不到，而您想设计一款一年后就能面世的产品，那么您必须对这项技术及其未来发展方向有相当深入的理解，才能确定哪些特性是具备依赖的。故而这是一个有趣的过程，我想这就是您所看到的：这么多不同的东西被尝试，如果某个方法有效，小编就必须迅速加倍投入
Casey Newton：是的，在您的主题演讲中，您提到 Gemini 既能助力生产力/助理类产品，也能助力基础科学和研究挑战。我想知道，在您看来，这是否是一个伟大的模型能够处理的同一个难点？还是说，这两个难点截然不同，只是需要不同的方法？
Demis Hassabis：当您审视它时，您会发现它涵盖了令人难以置信的广泛领域，这的确如此。除了我对所有领域都感兴趣之外，它们之间还有什么关联呢？但这正是小编构建通用智能的初衷，真正做到了通用，并且以小编正在做的模式；它应该适用于几乎所有领域：从生产力（这非常令人兴奋，它能帮助数十亿人的日常生活）到处理科学领域的一些重大难题。我想说，其中 90% 是底层核心通用模型——就小编的 Gemini 而言，尤其是 2.5 版本。在大多数这些领域，您仍然需要额外的应用研究，或者一些来自该领域的特殊框架。也许是特殊数据，或者其他什么，来处理这个难点。也许小编会与科学领域的专家合作。但在此基础上，当您攻克某个领域时，您也具备将这些经验运用到通用模型中。然后通用模型会变得越来越好。故而这是一个非常有趣的飞轮。对于像我这样对很多事情都感兴趣的人来说，这真的很有趣。您具备利用这项技术，进入几乎任何您感兴趣的领域。
Kevin Roose: 目前很多人工智能公司都在纠结一个难点：该投入多少资源用于推进核心人工智能的基础模型——在基础层面上改进这些模型——还是要投入多少时间、精力和金钱，尝试将其中的某些部分剥离出来，进行商业化，最终转化为产品？我认为这既是资源挑战，也是人员挑战。比如说，您以工程师的身份加入 DeepMind，想要构建 AGI，然后谷歌的某个人来找您说，小编实际上想让您帮忙开发一个具备让人们试穿衣服的购物特性。和那些乃因某种原因加入，但可能被要求做其他事情的人进行这样的对话，会不会很有挑战性？
Demis Hassabis：这在某种程度上是一种内部的自我选取。产品团队里有足够多的工程师来处理产品开发和产品工程。至于研究人员——如果他们想继续从事核心研究，那也没难点。小编需要他们这样做。但实际上，您会发现很多研究人员都对现实世界的影响充满动力，显然是在医学领域，以及像Isomorphic这样的领域。而且，让数十亿人办理他们的研究成果，这实际上非常有激励作用。故而，有很多人喜欢两者兼顾。故而小编没有必要强迫人们专注于某些特定领域。
Kevin Roose: 您昨天（星期二）和谷歌联合创始人谢尔盖·布林（Sergey Brin）一起参加了一个小组讨论，布林一直在办公室里研究这些事情。有趣的是，他对AGI 的时间表比您短。他认为通用人工智能会在2030年之前实现，而您说会在2030年之后。他实际上指责您故意拖延时间；基本上就是故意把预期时间往后推，这样您就具备少承诺多兑现。但我对此很好奇，乃因您经常会听到不同人工智能公司的人争论时间表，但想必您和布林掌握着相同的信息和路线图，您们也都了解什么是可能的，什么是不可能的。那么，他看到了什么而您没有看到，或者反之亦然，导致您们对通用人工智能何时到来得出不同的结论呢？
Demis Hassabis：首先，小编的时间表并没有太大差别，如果他是在 2030 年之前，而我在 2030 年之后。而且，自从 2010 年 DeepMind 成立以来，我的时间表一直非常一致。故而小编认为这是一个大约 20 年的任务，令人惊讶的是，小编正朝着正确的方向前进。故而我认为它应该在这个时间点左右。我感觉介于两者之间——我实际上显然有一个概率分布，其中最大规模的是在 5 到 10 年后。我认为部分原因是，准确预测 5 到 10 年后的事情非常困难。故而这周围存在不确定性。此外，还需要多少突破也存在不确定性，对于 AGI 的定义，我的标准一直都很高，那就是：它应该能够完成人脑所能做的所有事情，即使是理论上的。故而，这比普通人类所能达到的水平要高得多，这显然在经济上非常主要。这将是一个主要的里程碑，但在我看来，还不足以称之为通用人工智能。
小编在台上稍微讨论了当今系统所缺少的东西：真正突破常规的发明和思维，发明猜想而不是仅仅处理数学猜想。处理一个猜想已经很不错了，但真正发明像黎曼猜想或类似的主要猜想（数学家们一致认为它非常主要）则要困难得多。此外，一致性也是通用性的必要条件。即使是顶尖专家也很难在系统中发现缺陷，尤其是一些微不足道的缺陷，而这些缺陷在今天小编却很容易找到，普通人也能做到。故而，在小编达到我所认为的 AGI 之前，存在着能力差距和一致性差距。
Casey Newton：您认为缩小这一差距是通过每个后续模型逐个改进 2% 到 5% 来实现的吗？这种改进需要经过很长一段时间才能实现。还是说，您认为更有可能的是，小编能够取得某种技术突破，然后突然间就实现了某种智能爆炸？
Demis Hassabis：我认为两者皆可，而且我确信两者皆有用，这就是为什么小编极力推进规模化和所谓的增量式发展。实际上，即使在这方面也有很多创新，为了在预训练、后训练、推理时间计算以及所有这些堆栈方面不断推进，小编也有很多激动人心的研究，小编通过扩散模型（Deep Think 模型）展示了其中的一些成果。故而，小编正在对传统堆栈（小编应该这样称呼它）的各个部分进行创新。在此基础上，小编还在做更多“绿地”项目，更多“蓝天”项目，比如AlphaEvolve。
Kevin Roose: 绿色田野和蓝天之间有什么区别吗？
Demis Hassabis： [笑] 我不确定。也许它们很相似。
Kevin Roose: 好的。
Demis Hassabis：小编姑且称之为“某个新领域”。然后这些研究可能会回到主干，对吧？我一直坚信基础研究。我认为，小编的研究平台一直比任何实验室都更广泛、更深入。这让小编能够取得过去的重大突破：当然是Transformers，还有AlphaGo、AlphaZero、Distillation等等。如果这些技术中的任何一项再次被需要，或者再次取得同等水平的重大突破，我都会接受小编去做。小编正在探索许多非常令人兴奋的途径，这些途径既具备带来这种阶跃式的改变，也具备带来渐进式的改变。当然，它们之间也会相互作用，乃因您的基础模型越好，您就具备在其上尝试更多的东西。再次强调，就像AlphaEvolve一样，您在大语言模型（LLM）的基础上添加了进化编程。
Kevin Roose: 小编最近采访了Karen Hao，她是一位刚刚写了一本关于人工智能的书的记者。她主要反对规模化——您不需要那些大型的通用模型，它们极其耗能、计算密集，需要数十亿美元的资金、新的数据中心以及各种资源。与其这样做，不如构建更小的模型。您具备构建更精细的模型。您具备办理像AlphaFold这样的模型，它专门用于预测蛋白质的三维结构。您不需要一个庞大的模型来实现这一点。您对此有何看法？
Demis Hassabis：嗯，我认为您需要那些大型模型。小编喜欢大型和小型模型，故而您经常需要大型模型来训练小型模型。故而小编对小编的“Flash”模型感到非常自豪——小编称之为“Workhorse”模型，它们非常高效，也是最受欢迎的模型之一。小编内部办理了大量这类模型。但是，如果不从大型教师模型中提炼知识，您就无法构建这类模型。即使是像 AlphaFold 这样的东西——显然，我非常提倡更多这类模型，它们具备处理当今科学和医学领域中真正主要的难点；小编不必等待通用人工智能（AGI）的到来。这需要采用通用技术，但随后可能会对其进行专门化，例如围绕蛋白质结构预测。我认为在这方面有巨大的潜力。小编——主要是在科学人工智能领域——几乎每个月都会在这方面做出一些很酷的东西。我认为小编应该在这方面进行更多的探索。或许很多初创企业都能将现有的某种通用模型与特定领域相结合。但如果您对通用人工智能 (AGI) 感兴趣，就必须兼顾两者。在我看来，这不是“非此即彼”的难点，而是“两者皆可”，对吧？比如，让小编扩大规模，让小编研究专门的技术，让小编关注那些可能催生下一代变形金刚的全新蓝图研究。小编对所有这些领域都押注不已。
Casey Newton：您提到了 AlphaEvolve，我和 Kevin 都对它非常着迷。请跟小编讲讲 AlphaEvolve 是什么。
Demis Hassabis：嗯，从高层次上讲，这基本上是利用小编最新的 Gemini 模型（实际上是两个不同的模型）来生成关于程序和其他数学函数的想法和假设，然后它们会进入一个进化编程过程，以决定哪些是最有前景的。之后，这些想法和假设会被移植到下一步。
Casey Newton：请轻松介绍一下什么是进化编程。听起来很令人兴奋。
Demis Hassabis：是的，故而这基本上是系统探索新空间的一种模式，对吧？比如，在遗传学中，小编应该改变哪些东西才能产生一个新的生物体？故而您具备在编程或数学中以同样的模式思考：您以某种模式改变程序，然后将其与您想要得到的答案进行比较；然后，根据评估函数，将最合适的答案放回下一个集合，从而产生新的想法。小编用最高效的模型来生成各种可能性，然后小编用专业的模型来评判这些可能性，并决定哪一个最有希望被选中进行下一轮进化。
Kevin Roose: 故而它有点像一个自主的人工智能研究组织，其中一些人工智能提出假设，其他人工智能对它们进行测试和监督，而我理解的目标是让人工智能能够随着时间的推移不断自我改进或对现有难点提出改进建议。
Demis Hassabis：是的。这只是某种自动化过程的开端，目前还没有完全自动化。而且，它的应用范围仍然相对较窄。小编已经将它应用于许多领域，例如芯片设计、在数据中心更高效地调度AI任务，甚至证明矩阵乘法——矩阵乘法是训练算法最基本的单元之一。故而它实际上已经非常有用了。但它仍然局限于可证明正确的领域，显然数学和编程就是这样。故而小编需要将其完全推广。
Casey Newton：但有趣的是，我认为对很多人来说，他们对LLM的普遍看法是，嗯，您实际上能给我的只是训练数据的统计中位数。但您的意思是，小编现在有办法超越这一点，从而有可能产生真正有助于推动当前研究水平的新想法。
Demis Hassabis：没错。AlphaEvolve 是另一种方法，它办理了进化方法，但早在 AlphaGo 时代，小编就有证据证明这一点。AlphaGo 提出了新的围棋策略，最著名的是李世石世界冠军赛第二局的第 37 步。好吧，它仅限于一局棋，但这是一种前所未有的全新策略，即使小编已经下了几百年的围棋。故而，就在那时，我启动了 AlphaFold 项目和科学项目，乃因我在等待看到创造力或原创性火花的证据，至少在小编已知的领域内。但小编还有很长的路要走。小编知道，这类模型——结合蒙特卡洛树搜索、强化学习或规划技术——具备带您探索新的领域。而进化方法是超越现有模型认知的另一种模式。
Casey Newton：我一直在寻找一个好的蒙特卡洛树，故而如果您能帮我找到一个，那真的会有很大帮助。
Demis Hassabis：：这些事情之一可能会有所帮助。
Casey Newton：好的，太好了。
Kevin Roose: 故而我读了 AlphaEvolve 的论文。（或者更准确地说，我把它输入到 NotebookLM 中，让它制作一个播客，然后我具备听，这样就能从更基础的层面向我解释清楚。）其中一件让我印象深刻的事情是关于您如何让 AlphaEvolve 更具创造力的细节。您做到这一点的方法之一就是强迫模型产生幻觉。现在很多人都痴迷于消除幻觉。但在我看来，解读那篇论文的一种模式是，它实际上存在一个场景，您希望模型产生幻觉或发挥创造力——无论您想怎么称呼它。
Demis Hassabis：嗯，我想是的。当您渴望真实的东西时，产生幻觉显然是不可取的。但在创造性的情况下——比如MBA课程中的横向思维之类的——您会产生一些疯狂的想法，其中大多数都毫无意义。但偶尔出现的一两个想法，可能会让您进入搜索空间中某个非常有价值的领域，事后您会发现，这些领域实际上非常有价值。故而，在那时，您具备用“幻觉”来代替“想象”，对吧？它们显然是同一枚硬币的两面。
Kevin Roose: 我确实和一位人工智能稳妥专家聊过，他对 AlphaEvolve 有点担心，不是乃因实际的技术和实验（他表示，这些技术很吸引人），而是乃因它的推广模式。谷歌 DeepMind 创建了 AlphaEvolve，然后用它来优化谷歌内部的一些系统，并将其隐藏了几个月，才向公众发布。这位专家说：“好吧，如果小编真的达到了这样的程度，这些人工智能系统进行递归地自我改进，并且它们具备构建更好的人工智能，那么这是否意味着，当谷歌真的构建出通用人工智能（AGI）甚至超级智能时，它会暂时保密，而不是负责任地告知公众？”
Demis Hassabis：嗯，我认为实际上两者兼而有之。首先，AlphaEvolve 是一个处于起步阶段的自我改进项目，它仍然需要人类参与，而且它只是在现有任务的基础上削减了——尽管这很主要——几个百分点。这很有价值，但它并没有带来任何实质性的改变。此外，在向公众发布之前，需要进行内部仔细评估，同时也需要从学术界等获得额外的批评意见，这也很有帮助。此外，小编有很多值得信赖的测试人员，他们具备提前接触到这些项目，然后给小编反馈，并进行压力测试，有时稳妥机构也会参与其中。
Kevin Roose: 但我的理解是，您们不仅仅是在谷歌内部进行红队测试。您们实际上是用它来提高数据中心的效率，用它来提高训练AI模型的内核的效率。故而我猜这个人的意思是：小编希望在它们变成像 AGI 那样的东西之前，就养成良好的习惯。他们只是有点担心，这件事可能会被隐藏得比需要的更久。我很想听听您对此的回应。
Demis Hassabis：我认为那个系统在AGI 方面并不存在任何风险。我认为，如今的系统——尽管非常令人印象深刻——从这位朋友可能提到的任何通用人工智能风险角度来看，都不够强大。我认为两者兼顾。您需要对这些东西进行极其严格的内部测试。然后，小编还需要从外部获得协作输入。故而我认为两者兼而有之。实际上，我并不清楚 AlphaEvolve 最初几个月的开发流程细节；它之前只是函数搜索，后来变得更加通用。故而，在过去的一年里，它已经发展成为一个通用系统。在小编真正将它应用于主分支之前，它还有很长的路要走，到那时，主分支就会变得更加成熟，就像 Gemini 一样。目前，它与 Gemini 是分开的。
Casey Newton：小编来更广泛地谈谈人工智能稳妥。据我观察，似乎历史越久远，人工智能系统越不强大，人们就越会谈论稳妥风险。而现在，随着模型的改进，小编听到 0号新闻快讯 的关于稳妥风险的讨论却越来越少，包括在周二的主题演讲中。故而，我很好奇，如果您觉得自己已经足够重视现有系统可能造成的风险，并且仍然像三四年前那样致力于人工智能稳妥，那时很多类似的后果似乎不太可能发生，那么您如何看待当前的人工智能稳妥形势呢？
Demis Hassabis：是的，小编一如既往地致力于此。从 DeepMind 创立之初，小编就为成功做好了规划。成功意味着像这样，是小编想象中的样子。我的意思是，它真的发生了，这仍然有点难以置信。但如果这些技术真的按照小编设想的模式发展，它就处于小编设想的奥弗顿之窗中。风险以及如何规避和降低这些风险也是其中的一部分。因此，小编对小编的系统进行了大量的工作。我认为，小编在发布前和发布后都有非常强大的红队测试流程。小编学到了很多东西，我认为这就是这些系统（尽管是早期系统）与现实世界接触的区别所在。我现在有点相信，这总体上是件好事。
我想，五年前、十年前，我或许会觉得待在研究实验室里，跟学术界合作之类的更好。但实际上，很多东西除非数百万人尝试，否则您无法看到或理解。故而，这是一种奇怪的权衡——只有当数百万聪明人尝试您的技术，您才能找到各种极端情况。故而，无论您的测试团队有多大，也只有100人或1000人左右。故而，这与数千万人办理您的系统是无法相比的。
但另一方面，您希望尽可能提前了解情况，以便在风险发生之前降低风险。故而这很有趣，也是很好的学习机会。我认为过去两三年行业发生的一切都很棒，乃因小编一直在学习，看看这些系统何时不那么强大或危险，正如您之前所说。我认为两三年后，当这些代理系统进行真正发挥作用时，情况会变得非常严峻。小编现在看到的只是代理时代的开端，小编姑且称之为。
但是，您具备想象一下，希望您从主题演讲中理解了这些要素是什么，它们将如何组合在一起，然后我认为小编真的需要在分析、理解和可控性方面的研究方面取得重大进展。但另一个关键难点是，它必须是国际化的。这相当困难。我一直非常坚持这一点，乃因它是一项将影响世界上每个人的技术。它由不同的国家和不同的公司在构建。故而我认为，您必须制定一些国际规范，关于小编希望将这些系统用于什么用途，以及小编希望用什么样的基准来测试稳妥性和可靠性。
但现在还有很多工作要做。比如，小编还没有这些基准。小编、业界和学术界应该就这些基准达成共识。
Casey Newton：您希望出口管制在您刚才所说的方面发挥什么作用？
Demis Hassabis：嗯，出口管制是一个非常多变的难点。显然，当今的地缘政治也极其多变。我看到了双方对此的争论。这些技术正在扩散，而且是不受控制的扩散。您想让不同的地方都拥有前沿建模训练能力吗？我不确定这是否是个好主意。但另一方面，您又希望西方技术能够被世界各地采用。故而这是一个多变的权衡。如果有一个轻松的答案，我会大声疾呼，但我认为它就像大多数现实世界的难点一样，非常微妙。
Kevin Roose: 如果小编还没有陷入与其他国家在人工智能领域的两极冲突，您认为小编正走向这种冲突吗？就在最近，小编看到特朗普政府大力推动中东地区——海湾国家，例如沙特阿拉伯和阿联酋——成为人工智能强国，并要求它们办理美国芯片来训练其他国家无法获得的模型。您认为这会成为新一轮全球冲突的根源吗？
Demis Hassabis：嗯，我希望不会。但我认为短期内，人工智能正被卷入正在发生的更大的地缘政治变化之中。故而我认为这只是其中的一部分，而且它恰好是目前出现的最热门的新事物之一。但另一方面，我希望随着这些技术变得越来越强大，世界会意识到小编同舟共济，乃因小编确实如此。因此，迈向通用人工智能的最后几步——希望小编能够走在更长远的时间线上，实际上，我所考虑的时间线更长——然后小编就有时间在那之前建立所需的合作，至少在科学层面上。
Kevin Roose: 您是否觉得 AGI 已经到了最后的冲刺阶段？今年早些时候，我的《纽约时报》同事报道了谷歌联合创始人谢尔盖·布林发给谷歌员工的一份备忘录，上面写道：“小编正处于最后冲刺阶段，每个人都需要回到办公室，全程投入工作，乃因现在才是真正主要的时刻。”您是否有那种终结感，或者说，小编即将进入一个新阶段，或者说，游戏即将结束的感觉？
Demis Hassabis：我认为小编已经过了中间阶段，这是肯定的。过去20年来，我一直在全力以赴，乃因我一直坚信这项技术的主要性和意义非凡，20年来，小编都认为它有可能实现，而现在，它终于要出现在小编眼前了。我同意这一点。无论是5年、10年还是2年，当您讨论这项技术将带来的巨大变革时，它们实际上都只是相当短的一段时间。这些时间都不会很长。
Kevin Roose: 小编将转向关于人工智能未来的一些更普遍的难点。现在很多人进行思考通用人工智能之后的世界会是什么样子，至少在我参与的讨论中是这样。我听到最多的是家长们，他们想知道孩子应该做什么、学什么；他们会上大学吗？您的孩子比我的孩子大。您是怎么看待这个难点的？
Demis Hassabis：故而我认为，说到孩子们——我经常被问到关于大学生的这个难点——首先，我不会大幅改变一些关于STEM（科学、技术、工程和数学）的基本建议，比如精通编程之类的技能。乃因我认为，无论这些人工智能系统未来如何发展，您最好先了解它们的工作原理、特性以及您能用它们做什么。我还想说，现在就让自己沉浸其中；就像我今天还是个青少年时那样，努力成为办理最新系统的忍者。我认为，如果您真的擅长办理所有最新、最酷的人工智能系统，您在某些方面几乎具备成为超人。但也不要乃因基础而忽视了基础知识。然后，我认为要教授元技能——学会学习。小编唯一具备确定的是，未来十年将会发生巨大的变化。
那么，小编该如何做好准备呢？哪些技能对此有用？创造力、适应力、韧性——我认为所有这些元技能对下一代都至关主要。观察他们的未来将会非常有趣，乃因他们将在人工智能时代成长，就像上一代人在移动设备、iPad 和平板电脑的时代成长一样。之前，互联网和电脑时代，也就是我的时代。我认为那个时代的孩子们似乎总是能够适应并利用最新、最酷的系统。我认为小编在人工智能方面还有更多具备做的。如果人们要将这些系统用于学校和教育，那么小编就应该让它们真正发挥作用，并且能够被证明是有效的。我非常期待能够大规模地将人工智能应用于教育领域。您知道，如果您有一个人工智能导师，我希望把它带到世界上那些教育体系较差的贫困地区。故而我认为人工智能也有很多好处。
Casey Newton：孩子们用人工智能做的另一件事就是和数字伙伴聊天。谷歌 DeepMind 目前还没有开发任何这样的伙伴。目前我看到的一些情况似乎相当令人担忧。创建一个只会夸赞您有多棒的聊天机器人似乎很容易，但这可能会导致一些难以捉摸和难以捉摸的地方。故而，我很好奇，您对人工智能伙伴市场有何观察？您是否想过将来自己开发这个，还是打算把这个留给别人去做？
Demis Hassabis：是的，我认为小编在进入这个领域时必须非常谨慎，这就是为什么小编还没有进行，而且小编对此进行了非常深思熟虑。我对此的看法更多的是从小编昨天谈到的通用助手的角度来看待的，它对您的日常工作效率非常有用：它能帮您摆脱那些小编都讨厌的无聊、单调的任务，让您有更多时间去做您喜欢做的事情。我也真心希望它们能通过供应一些很棒的建议来丰富您的生活，比如建议各种您从未想过会喜欢的精彩事物——用一些让您惊喜的事情来取悦您。故而，我认为这些就是我希望这些系统能够发展的方向。
实际上，从积极的一面来看，我觉得如果这个助手真的有用，而且非常了解您，您就具备对它进行编程，显然是用自然语言，来保护您的注意力。故而您几乎具备把它看作是一个为您工作的系统；您知道，作为个体，它是您的。它具备保护您的注意力不被其他想要吸引您注意力的算法所侵扰，这实际上与人工智能无关。大多数社交媒体网站都在有效地做这件事，他们的算法试图吸引您的注意力。我认为这实际上是最糟糕的事情，保护您的注意力会很好，这样小编就具备更多地投入到创造性的流程中，或者做任何您真正想做的事情。故而我认为这就是我希望这些系统对人们有用的模式。
Casey Newton：如果您能建立一个这样的系统，我想人们会非常高兴。我认为现在人们感觉自己被生活中的算法所困扰，不知道该怎么办。
Demis Hassabis：嗯，原因在于，您只有一个大脑，您必须深入其中，比如说社交媒体信息流，才能获取您想要的信息。但您用的是同一个大脑，故而您深入其中寻找有价值的信息，已经影响了您的思维、情绪和其他方面。但如果一个助手，一个数字助理，为您做这些，您只会得到有用的信息。而且您不需要打扰您的心情，也不需要打扰您当天正在做的事情，或者打扰您与家人相处的专注力，无论什么。我觉得那会很棒。
Kevin Roose: 凯西很喜欢这个想法，您也很喜欢这个想法，我也很喜欢这个AI代理的想法，它具备保护您的注意力免受所有试图攻击它的力量的侵害。我不确定谷歌的广告团队对此有何感想，但小编具备到时候问问他们。
Demis Hassabis：当然，当然。
Kevin Roose: 有些人进行关注就业市场，尤其是应届大学毕业生，他们担心小编已经进行看到人工智能导致失业的迹象。我曾与一些年轻人交流过，他们几年前可能对科技、咨询、金融或法律等领域感兴趣，但现在他们只是说：“我不知道这些工作还能持续多久。” 《大西洋月刊》最近的一篇内容探讨了人工智能是否正在与大学毕业生竞争这些入门级职位。您对此有何看法？
Demis Hassabis：我还没研究过这方面，也没看过相关的研究。但您知道，也许现在进行显现了。我认为目前还没有确切的数字，至少我还没看到。目前我主要把它们看作是增强能力和成就的系统。我的意思是，也许在通用人工智能之后，情况会再次不同，但我认为在未来五到十年内，小编会看到重大新技术变革通常会发生的情况：一些工作岗位会被颠覆，但随后新的、更有价值、通常也更有趣的工作岗位会被创造出来。故而我认为这在短期内会是这样的。故而说，未来五年，我觉得之后的情况很难预测。这是小编需要做好准备迎接的更大规模社会变革的一部分。
Kevin Roose: 我认为难点在于，您说得对，这些系统确实给了人们更多筹码，但也减少了对大型团队进行某些工作的需求。我最近和一个人聊天，他说他们之前在一家数据科学公司工作，那里有75个人从事某种数据科学任务。现在他们在一家初创公司，现在一个人就能完成以前需要75个人才能完成的工作。故而，我想听听您的看法：另外74个人应该做什么？
Demis Hassabis：嗯，我认为这些系统将能够更快地释放创造事物的能力。故而我认为会有更多的人从事创业项目。我的意思是，有了这些系统，人们具备尝试和探索的范围比以前要大得多。就拿编程来说吧。显然，这些系统在编码方面正在变得越来越好。但我认为，最优秀的程序员能从中获得不同的价值，乃因他们仍然懂得如何提出难点、构建整个代码库，并检查代码的特性。但与此同时，对于业余爱好者来说，它允许设计师，甚至非技术人员用“振动编码”来创作一些东西，无论是游戏、网站还是电影创意的原型设计。故而理论上，应该是那些70多岁的人来创造新的创业想法；也许大型团队会减少，而小型团队会增多，乃因这些团队能够充分发挥人工智能系统的作用。但这又回到了教育的难点：哪些技能现在很主要？不同的技能，例如创造力、远见和设计敏感性，可能会变得越来越主要。
Casey Newton：您认为明年您雇用的工程师数量会和今年一样多吗？
Demis Hassabis：是的，我想是的；小编没有减少招聘的计划。但话说回来，小编必须看看编码代理的改进速度。现在，它们还无法独立完成工作。它们只是为最优秀的人类程序员供应帮助。
Casey Newton：上次小编和您谈话时，小编问到了一些公众对人工智能较为悲观的看法。您当时说，这个领域需要展示一些能够明显造福人们的具体用例，才能改变现状。我的观察是，现在越来越多的人积极反对人工智能，我认为其中一个原因可能是他们听到大型实验室的人大声疾呼：“最终，人工智能会取代您的工作。” 而大多数人只是觉得：“好吧，我不想要那个。” 故而我很好奇，回顾过去的谈话，您是否觉得小编已经看到了足够多的用例，足以进行转变公众观点？如果没有，那么哪些因素可能会真正改变公众的看法？
Demis Hassabis：嗯，我认为小编正在努力实现这些目标。这些目标的开发需要时间。我认为，如果某种通用助手真的属于您，并且能够有效地为您工作，那它就是其中之一——也就是能够为您服务的技术。我认为这也是经济学家和其他专家应该研究的课题：是否每个人都拥有一套代理，具备为您做事，包括可能帮您赚钱或制造东西？您知道，这会成为日常工作流程的一部分吗？我具备想象，在未来四五年内，这种情况会发生。我还认为，随着小编越来越接近通用人工智能，并在人工智能的帮助下，在材料科学、能源、核聚变等领域取得突破，小编的社会应该进行走向一种我称之为“彻底富足”的状态，即拥有大量资源可供分配。再说一次，这更像是一个政治难点，即如何公平地分配这些资源，对吧？故而我听说过“普遍高收入”这个说法。我认为，类似这样的做法或许是好的，也是必要的，但显然有很多多变的因素需要考虑。而且，从现在到小编遇到这种情况时，有一个过渡期。在此期间，小编该如何应对这种变化？这也取决于这段过渡期的长短。
Kevin Roose: 您认为 AGI 将最后改变经济的哪个部分？
Demis Hassabis：我认为经济中涉及人与人之间的互动和情感的部分；我认为这些事情可能是人工智能最难做到的事情。
Kevin Roose: 但是，人们不是已经在进行人工智能治疗并与聊天机器人交谈，而他们可能已经为此付给某人每小时一百美元了？
Demis Hassabis：嗯，治疗是一个非常狭窄的领域，您知道，关于这类东西有很多炒作。我实际上不确定其中有多少真正影响了实体经济，而不是仅仅停留在玩具层面。而且我认为人工智能系统目前还无法真正做到这一点。但就小编在现实世界中通过相互交谈和在自然界中互动而获得的那种情感联系而言，我认为人工智能无法真正复制所有这些。
Casey Newton：故而如果您带领徒步旅行，那将是一份很好的工作。
Demis Hassabis：是的，我要去攀登珠穆朗玛峰。
Kevin Roose: 我的直觉是，一些监管严格的行业，比如医疗保健、教育等领域，会大力抵制利用人工智能取代劳动力或抢走人们的工作。但您认为，在这些监管严格的行业，人工智能的提振会更容易一些。
Demis Hassabis：我不知道，我的意思是说有可能。但作为一个社会，小编必须权衡——小编是否想要所有积极的方面。社会上并非除了人工智能之外没有其他挑战，但我认为人工智能具备处理许多其他挑战，例如能源资源限制、老龄化、疾病、水资源获取、气候等。小编今天面临着许多难点，我认为人工智能有可能帮助处理所有这些难点。我同意您的观点，社会需要决定如何利用这些技术。但是，同样正在发生变化的是小编之前讨论过的产品，技术将继续进步，这将开辟新的可能性，比如某种彻底的富足，太空旅行，这些事情，除非您读过很多科幻小说，否则在今天还有点超出范围，但我认为它们很快就会变成现实。
Kevin Roose: 工业革命期间，许多人拥抱新技术，从农场搬到城市，在新工厂工作，算是这条曲线上的早期采用者。但那也是超验主义者进行回归自然、拒绝科技的时候。梭罗正是在那时去了瓦尔登湖。当时，美国人掀起了一场声势浩大的运动，他们刚看到新技术就说：“我不这么认为，这不适合我。” 您认为未来会不会出现类似的拒绝人工智能的运动？如果会，您认为这场运动的规模会有多大？
Demis Hassabis：我的意思是，可能会有“回归自然”的趋势。我认为很多人都想这样做。我认为这可能会给他们供应空间和空间来实现这一点，对吧？如果您身处一个极其富足的世界，我完全相信小编很多人都会想这样做。我指的是太空旅行和人类繁荣的最大化。我认为这些正是小编很多人会选取做的事情，而且小编将有时间、空间和资源来实现它们。
Casey Newton：在您的生活中，是否有这样的时刻，您会说，我不会办理人工智能来做这件事，即使它可能乃因某种原因而非常擅长，想要保护您的创造力或思维过程或其他东西？
Demis Hassabis：我认为人工智能目前还不足以触及任何这类领域。我主要用它做一些像您用 Notebook LM 那样的事情，我觉得它很好，很棒——比如打破一个新话题、一个科学话题的僵局，然后决定是否要更深入地研究它。总结一下，这是我的主要用例之一。我认为这些都很有帮助。但小编拭目以待。我还没有您建议的例子，但也许随着人工智能越来越强大，会有的。
Kevin Roose: 最近小编和 Anthropic 的达里奥·阿莫迪 (Dario Amodei) 聊天时，他谈到了自己对人工智能在各个领域取得的进步感到兴奋又略带忧伤的感受。他曾花费大量时间努力提升这些领域，比如编码。当您看到一个新的编码系统问世，它比您做得更好时，您会觉得这很神奇，但转念一想，哦，这感觉有点刺痛。您有过这样的经历吗？
Demis Hassabis：当然。故而也许我没那么难受的一个原因是，我很小的时候就下过国际象棋。国际象棋本来是我的第一职业，小时候我代表英格兰青年队打过相当专业的比赛，后来“深蓝”出现了，很明显，从那以后，计算机的计算能力将永远比世界冠军强大得多。但我仍然喜欢下国际象棋。人们仍然喜欢下国际象棋，这和以前不一样了，您知道，有点像尤塞恩·博尔特；小编庆祝他跑出了惊人的100米成绩。小编有汽车，但小编不在乎，对吧？小编感兴趣的是其他人类也能跑得快。我认为机器人足球和其他所有这些东西也会如此。这或许具备追溯到小编之前讨论的，我认为最终小编对其他人类感兴趣。这就是为什么即使是小说，也许有一天人工智能也能写出一部技术上很棒的小说。但我不认为如果您知道它是由人工智能编写的，它就不会具有相同的灵魂或与读者的联系，至少就我目前所见而言。
Casey Newton：您提到了机器人足球——这是真的吗？小编不是体育迷，故而我只是想确认一下我没有错过什么。
Demis Hassabis：我指的是足球。那里有类似RoboCup的足球比赛。小机器人会试着踢球之类的。我不确定比赛有多激烈，但那里确实有一块机器人足球场。
Casey Newton：您提到机器人写的小说可能感觉不到有灵魂。我不得不说，尽管 Veo 或Imagine 的技术令人惊叹，但我对它们也有点这种感觉，它们看起来很美，但我不知道该怎么对待它们。您明白我的意思吗？
Demis Hassabis：没错，这就是小编与Darren Aronofsky和Shankar [Mahadevan]等伟大艺术家合作创作音乐的原因。我完全同意您的观点——这些系统确实能创造出技术上很棒的作品。Veo 3 简直令人难以置信——我不知道您是否看过现在一些带有声音的热门视频；实际上，我之前并没有意识到音频会给视频带来如此大的变化——我认为它真的赋予了视频生命力。正如 Darren 昨天在一次采访中所说，Veo 3 仍然没有带来叙事性。它不像电影大师或巅峰时期的小说大师那样拥有深刻的叙事能力。而且它可能永远都做不到，对吧？总感觉缺少了点什么。更确切地说，是作品的灵魂，您懂的？真正的人性，伟大艺术作品中的魔力。当我看到梵高或罗斯科的作品时，为什么会触动我？您知道吗，我的脊背上汗毛都竖了起来？乃因我记得，您也知道，他们为了创作这些作品经历了什么，经历了多少挣扎，对吧？梵高的每一笔，都饱含着他那种折磨。我不知道这意味着什么，即使人工智能模仿了这些。故而我认为，至少在我看来，在未来五到十年内，顶尖的人类创作者会一直创作出这样的作品。这就是为什么小编所有的系统——Veo、Lyria——都是与顶尖的创意艺术家合作开发的。
Kevin Roose: 据报道，新任教皇利奥·普京对AGI 很感兴趣。我不知道他是否对AGI感兴趣，但他之前确实谈过这个话题。在一个AGI迫使小编思考生命意义的世界里，您认为小编会迎来宗教复兴，还是人们对信仰和灵性的兴趣会再次复兴？
Demis Hassabis：我认为情况有可能如此，我实际上确实和上一任教皇谈过这个难点，梵蒂冈甚至在本任教皇之前就对这些难点很感兴趣——我还没有和他谈过。人工智能与宗教，以及科技与宗教之间是如何互动的？天主教会的有趣之处在于，我是教皇科学院的成员，他们一直有自己的一套方法，这对于一个宗教团体、一个科学机构来说很奇怪，他们总是喜欢说伽利略是它的创始人。
Kevin Roose: 对他来说不太好！
Demis Hassabis：这实际上是一个独立的研究领域，我一直觉得这很有意思。像史蒂芬·霍金这样的人，以及那些公开宣称的无神论者，都是该学院的成员，这也是我同意加入的部分原因，乃因它是一个完全科学的机构，而且非常有趣。我很惊讶他们对此感兴趣已经十多年了，故而他们很早就意识到了这项技术从哲学角度来看会多么有趣。我实际上认为小编需要更多来自哲学家和神学家的此类思考和工作。故而我希望新教皇真的对此感兴趣。
Kevin Roose: 最后，小编来回答一个难点，我最近听到泰勒·考恩问 Anthropic 的杰克·克拉克，我觉得这个难点非常好，故而我决定直接引用：在正在进行的人工智能革命中，什么年龄最糟糕？
Demis Hassabis：天哪，我还没想过这个难点。但我认为，只要您能活到那个时候，就是一个好年龄，乃因我认为小编将在医学等领域取得巨大进步，故而我认为这将是一段不可思议的旅程。小编谁也不知道它究竟会如何发展，这很难说，但去探索它将会非常有趣。
Casey Newton：如果具备的话，尽量保持年轻。
Demis Hassabis：是的，年轻总是更好。总的来说，年轻总是更好。
