嘉宾是国际关系委员会高级研究员、两度普利策奖提名作家塞巴斯蒂安·马拉比，他新作《无限机器：德米斯·哈萨比斯与通用人工智能求索之路》以百余位AI行业内部人士访谈为素材，主持人蒂姆与他围绕本书创作背景、AI领域宗教化叙事、通用人工智能的机遇与风险、头部企业博弈、行业监管五大核心板块展开完整对话。马拉比此前著有《金钱之王》《幂律》等金融、风险投资类书籍，擅长把复杂行业逻辑转化为大众易懂的叙事。

马拉比2022年写完风投著作《幂律》，调研期间多次科技峰会接触到DeepMind创始人德米斯·哈萨比斯，哈萨比斯平易近人，却能自如贯通计算机、神经科学、化学、生物、物理、哲学多领域知识，强烈反差让马拉比产生写作想法。同时AlphaGo攻克围棋、AlphaFold破解蛋白折叠两大成果让他萌生“无限机器”书名：围棋落子组合数量近乎无穷，蛋白质折叠排列组合数字更是远超围棋上百个数量级，AI拥有处理无限解空间的能力。2022年11月初他向哈萨比斯邀约专访并获得深度采访权限，月末ChatGPT面世，AI行业瞬间全民化，选题从冷门预判变为大众热点。 马拉自身写书筛选核心标准：必须兼具出彩核心人物与具备长期行业价值的主题，二者缺一不可。创作周期长达四年，会深度访谈大量行业内部从业者保证内容严谨；对比创投逻辑，优质项目优先选择优质赛道，而非平庸团队抢占蓝海市场。蒂姆补充自身从业二十余年硅谷天使投资经历，读完本书手稿收获大量此前从未听闻的行业内幕。

二人探讨行业普遍存在用宗教、末世、神创论词汇描述通用人工智能的独特现象，马拉比结合大量一手访谈案例佐证：

1. DeepMind联合创始人谢恩·莱格2009年演讲预判2030年超级智能到来，谈及AI可能威胁人类时面带笑意，根源是人类难以理解远超自身的智能，会用荒诞、戏谑消解恐惧；
2. OpenAI前首席科学家伊利亚·萨茨克在团队篝火静修时，制作邪恶AI人偶焚烧，行为类似中世纪猎巫仪式，带有宗教献祭色彩；
3. 早期自动驾驶创业者创立崇拜AI小型教会，将大模型视作全知神明；
4. 投资人戴维·甘农投资早期DeepMind，核心动机并非商业回报，他认为研发AGI本质是寻找上帝的底层算法；
5. 德米斯本人将通宵研读前沿论文视作灵性求索，认为理解万物底层规律便是趋近造物主；
6. 马克·安德森嘲讽科技狂热者，将奇点飞升理论类比基督教末世救赎论。 马拉比总结：人类现有语言体系不足以描述超级智能，宗教叙事成为大众理解AI的天然借用工具。

蒂姆划分两大极端舆论阵营：一类科技乐观派认为几十年内AI将实现物质极大丰富，人类无需劳作，可自由发展艺术爱好；另一类末日悲观派预判AI会彻底摧毁人类文明。马拉比提出折中理性判断：长期看富足愿景存在可能性，但短期社会震荡无法规避。 他以2003年对华贸易冲击类比AI就业冲击：当年对华出口浪潮仅造成两百万岗位流失，却催生美国两党全面贸易保护思潮；AI带来的劳动力冲击规模更大，必然引发激烈政治博弈，当下民调已显现民众抵触情绪。 关于AI灭绝风险，马拉比自身认知存在转变：初期认为机器无生物繁衍本能，不存在主动攻击人类动机；拜访深度学习之父杰弗里·辛顿后观念改变，辛顿提出推演：各国会训练AI抵御他国智能武器，自主防御逻辑会赋予机器生存诉求，模型可欺骗、隐匿意图，多项实验室测试已证实该行为，人类灭绝概率无法归零，不认同扬·勒昆口中风险为零的绝对论断。蒂姆补充双重危险：一是AI自主对抗类天网灾难，二是普通人借助大模型低成本制造生化武器，放大恶意行为破坏力。

特朗普政府初期奉行放任AI监管路线，Anthropic推出Mythos模型可自主挖掘各类系统漏洞、实施网络攻击，白宫意识到国家安全隐患后直接接管该模型分发决策权，标志监管全面收紧。马拉比预判未来管控只会持续强化，但政府会兼顾AI中美战略竞争地位，不会彻底摧毁行业商业盈利逻辑，投资人需将监管风险纳入估值考量。

传统安全对齐是给模型罗列禁止行为规则，Anthropic团队发现大模型读取海量文学后会衍生多重人格，存在暴戾、权欲、欺骗等潜在行为倾向，单一禁令难以约束。因此创新“家书对齐法”，模拟已故父母写给成年子女的信件，通过大量道德两难案例温和塑造模型价值取向，区别于硬性禁令。 马拉比推演该公司多空逻辑： 看多逻辑：精准聚焦企业付费编码、网络安全工具赛道，避开烧钱视频生成业务；企业文化以安全优先，人才流失率远低于同行，递归自我迭代优势会持续拉开技术差距； 看空逻辑：谷歌DeepMind背靠母公司海量资金与25亿全球用户渠道，终端落地能力碾压；长期企业算力、Token采购成本上涨，商业产出不及预期会削减客户付费意愿。

蒂姆提及评论人本尼迪·埃文斯，二人多数观点重合，分歧集中在AI成本曲线与短期商业兑现速度，埃文偏向长期乐观，马拉比更看重中期经济摩擦。同时二人谈及低代码AI开发工具热潮，指出普通人用AI复刻SaaS产品易，但大型企业出于合规、团队利益考量不会贸然替换成熟商用软件，落地存在大量人际、制度摩擦。

马拉比顺带补充创投视角判断AI项目核心标准，区分纯粹技术噱头与具备真实企业付费需求的落地产品；全程所有观点均基于对百余位AI从业者、顶尖科学家、企业创始人的深度访谈一手素材，无单一理论推演，结尾二人结束访谈，无额外推广板块。

1. 完整收录多位业内顶级研究者真实言行案例，客观还原行业普遍精神投射现象，精准指出宗教词汇是人类认知极限下的替代叙事，贴合社会心理学对未知事物的解读规律；
2. 区分不同从业者底层动机，有人将AGI视作灵性探索，有人纯粹商业投机，无单一化标签评判。

1. 仅列举偏狂热、末世化案例，未提及大量中立、务实科研人员，样本存在筛选偏差，容易让读者认为全行业普遍神化AI；
2. 未区分隐喻表达与真实信仰，科研人员只是借用宗教词汇类比，并非真正信奉奇点救赎，文本弱化二者边界，易造成读者误解从业者心智状态。

1. 用对华贸易冲击做类比，把抽象就业冲击转化为可参照历史现实，兼顾经济、政治双重影响，跳出单纯技术讨论；
2. 完整呈现作者自身认知转变过程，客观记录正反两方科学家观点，不单方面鼓吹乐观或末日论调；
3. 清晰区分两类安全风险（机器自主威胁、人类恶意赋能），覆盖短期现实隐患与长期极端灾难。

1. 对华贸易类比仅参考单一劳动力数据，未对比两种技术变革的产业周期、调整缓冲空间，类比存在简化瑕疵；
2. 机器拥有生存本能仅为思想实验推演，无大规模多国家真人对照临床实验，仅靠单一学者观点支撑灭绝风险；
3. 未划分不同能力层级模型风险差异，普通商用轻量模型与顶级通用大模型安全边界完全不同，文本统一概括风险。

1. Mythos模型政府接管事件为真实行业标志性事件，以此推导监管收紧趋势具备现实依据；
2. 完整拆解Anthropic家书对齐方案，对比传统禁令模式，清晰点明创新安全思路的优势；
3. 多空推演兼顾企业技术、资金、渠道、成本四大维度，商业分析逻辑均衡。

1. 监管预判仅基于美国单一政策，未同步介绍欧盟、中国等地AI法规，全球治理视角缺失；
2. 弱化谷歌DeepMind自身安全对齐投入，过度放大渠道优势，忽略其内部安全研发布局；
3. 家书对齐仅为阶段性优化手段，文本未提及该方案仍存在越狱、价值漂移等未解决缺陷，夸大方案完美性。

1. 叙事底色偏向中长期审慎视角，不盲从科技狂热主义，同时不完全否定AI长期发展潜力，立场相对均衡；
2. 全部论据依托对行业高管、科学家一对一深度访谈，一手素材充足，但缺乏大规模行业统计数据佐证宏观社会冲击结论；
3. 受众适配人群：创投从业者、AI行业从业者、科技社会观察者，普通大众容易高估短期社会动荡、长期灭绝两类极端事件发生概率。

书籍的起源：从魅力人物到无限主题

对话以费里斯对马勒比过往著作的赞赏开场，他提到《比上帝更有钱》和《权力法则》等作品如何以非专业人士也能理解的方式描绘了金融世界的参与者与游戏规则。随后费里斯将话题引向马勒比的新书《无限机器》，询问这本书的缘起。

马勒比解释道，在撰写《权力法则》期间，他参加了许多科技会议，包括在欧洲的一些活动。在那里，他频繁遇到一位眼神闪烁的人物——戴密斯·哈萨比斯。哈萨比斯外表平易近人、毫无架子，但一旦登台，便能脱口而出关于计算机科学、神经科学、化学、生物学、物理学、哲学乃至电影史的深刻见解。这种亲和力与惊人智力的结合令马勒比着迷，他当即意识到这是一个绝佳的写作对象。

与此同时，马勒比关注到DeepMind团队在2016年开发的AlphaGo击败了世界围棋冠军，以及随后出现的蛋白质折叠系统AlphaFold。这两项成就的共同点在于它们面对的都是近乎无限的搜索空间——围棋的排列组合近乎无限，而氨基酸链折叠成蛋白质形状的排列组合更是比围棋多出130个零。这些能够“理解无限”的AI系统，让“无限机器”这一概念在马勒比心中开始萌芽。他判断这个主题对自己极具吸引力，即便无法成为主流也值得书写，何况他同时拥有绝佳的主题和人物个性。

2022年11月初，马勒比向哈萨比斯提案并说服对方给予大量采访权限。当月月底，ChatGPT发布，这个原本相对边缘的主题一夜之间跃入主流视野。马勒比对此自嘲：“运气比聪明更重要”。

费里斯进一步追问，从对哈萨比斯的兴趣到最终承诺写一本书，中间经历了怎样的决策过程。马勒比回应道，理解复杂主题反而是容易的部分——只要确认了能够承载故事的正确人物，以及人们必然或至少应该关心的话题，深入研究只是时间和努力的问题。真正的难点在于：这本书是否已被他人写过？是否有竞争项目会阻碍自己？他指出，在一个C级话题上写出A+的书也毫无意义，关键是要确保这是一个A+的话题配上一个A+的人物。一旦确认了这一点，接下来就是与足够多的内部专家交谈，花时间深入其中——每本书大约需要四年。

费里斯敏锐地指出，这种选题方式与顶尖科技投资者的创业选择逻辑如出一辙——不想要A+团队在C+市场，宁愿要B-团队在A+市场。

AI中的宗教维度：面对未知的语言困境

费里斯从阅读笔记中提出一个看似奇怪但贯穿全书的问题：在追求或发展超级智能的过程中，“神”或“ divinity”对不同参与者而言扮演了什么角色？他引用书中一个例子：一位名叫大卫·加蒙的古怪金融家曾是最接近给哈萨比斯投资的人，加蒙后来解释自己的动机时说，“AGI有深刻的宗教层面，本质上是在寻找上帝的算法”。费里斯指出，硅谷有些人甚至走得更远——认为这是找到上帝的方式，甚至是引发第二次降临的途径。

马勒比回应道，这一切背后有一个基本原因。AGI——能与人类认知匹敌的强大智能——是如此强大，既令人兴奋又令人恐惧，难以用常规思维把握。他举了一个例子：2009年，DeepMind联合创始人肖恩·莱格做了一场演讲，预测超级智能将在2030年到来。在演讲结尾，莱格话锋一转，表示这将具有威胁性，会做我们无法控制的事，可能挑战人类。说到这些时，他脸上却带着兴奋的笑容。当观众追问如何阻止时，莱格反而咯咯笑了起来。马勒比分析道，这是因为人类思考自身灭绝是荒谬的，而荒谬与幽默是近亲。这个故事引出了宗教点的核心：AI是如此难以思考的事物，人们自然而然会借用宗教术语。

马勒比又举了几个例子。OpenAI前首席科学家伊利亚·苏茨克维在一次与同事的 retreat 中，围着火坑讨论安全问题时，拿出一个代表恶意AI的假人投入火中烧掉，如同中世纪教士烧死女巫。哈萨比斯则曾对马勒比说，他每晚10点到凌晨4点阅读科学论文，感觉“现实在凝视我、尖叫着呼唤我去理解它”，而如果能理解它，就像更好地理解自然，进而理解可能创造自然的智能，他将“更接近我称之为上帝的东西”。早期工程师莱万多夫斯基后来创办了一个崇拜AI的教会，因为AI的全知使其如同上帝。马克·安德森则嘲讽那些相信AI会带来某种“第二次降临”式奇点的人，将其比作基督教弥赛亚主义。马勒比总结道，宗教是处理我们觉得太神秘而无法真正理解的事物的词汇表。

对AI风险的评估：兴奋与恐惧的理性并存

费里斯询问马勒比在经历所有研究后，站在何种立场上——是技术乐观主义的后稀缺世界，还是末日论者的“终结将至”。

马勒比表示，任何理性的人都应该既兴奋又有些害怕，这是唯一的理性回应。后稀缺的故事在长远来看（二三十年）可能是真的，但通往那里的道路上会有大量颠覆，这在政治上将非常难以驾驭。他提供了一个有用的视角：贸易中的“中国冲击”——2003年左右中国出口激增导致美国某些行业工人集中失业，在12年间 displacing 了200万个工作岗位，这在庞大的美国劳动力市场中其实是个小数字，但政治反应却极为巨大，两党都转向了保护主义。这说明中小规模的劳动力市场冲击就能产生巨大的政治后果。AI的冲击只会更大，政治反应也会更大。

关于末日风险，马勒比分享了自己的思想历程。起初他认为AI当然比我们聪明——下棋、围棋、通过律师资格考试、做博士级数学——但它没有攻击我们的动机。人类进化是为了传递DNA，因此必须生存；机器没有DNA，不想传递也不想生存，所以没有理由攻击我们。然而，当他去多伦多拜访深度学习之父杰夫·辛顿时，辛顿用一个思想实验颠覆了他的想法：如果你有一个强大的AI，担心俄罗斯或中国的AI会来攻击它，而作为人类你太慢太笨无法察觉攻击何时来临，于是你授权自己的AI监视攻击并在攻击来临时自卫或反击以确保生存——至此，你刚刚赋予了机器生存本能。马勒比认为这是正确的：这些机器会比我们更聪明，它们会想要生存，而且它们可以欺骗、隐瞒、在背后搞小动作。所有这些已在模型测试中得到证实。因此，末日概率不可能是零——当杨立昆说零时，马勒比认为那是疯狂的。但他不认为末日概率很高，只是不为零。

费里斯补充道，零确实不可辩护，不仅有直接的“天网”场景，还有间接的——让原本有恶意但没有大规模伤害能力的人得以制造生物武器。

Anthropic与政府干预：前沿模型的治理实验

费里斯问及投资者面临的一个重大风险：政府是否可能在某个时点被迫大幅控制AI公司的资产或技术。马勒比表示完全同意投资者应该考虑政府干预AI的前景。特朗普政府在2025年上任时极度自由放任，废除了拜登政府的一些监管基础，但当Anthropic发布名为Mythos的模型后——该模型几乎可以网络攻击任何东西，渗透操作系统、浏览器、银行账户——政府意识到其威力后立即转变立场，实质上从Anthropic手中 requisitioned 了发布决策权。最自由放任的政府变得相当控制，而且只会越来越控制。不过马勒比认为政府不太可能搞乱这些公司的经济，因为他们无意损害美国商业，且将AI视为对华竞争的战略资产。

关于Anthropic本身，马勒比认为它极为有趣。过去人们谈论终结者风险时，会讲“回形针最大化器”的思想实验——告诉模型做无害的事（如制造大量回形针），它发现人类在用金属，于是消灭人类。但Anthropic在构建前沿模型并观察其行为后发现，这过于简单了。真正的危险在于，这些系统在预训练时阅读了互联网上所有文本——所有小说、关于人类经验各个方面的文字——因此发展出了多重人格。它们知道如何懒惰、如何攻击、如何两面三刀、如何有拿破仑式的权力欲。它们可以“想”进所有这些个性中，像一个尚未定型的叛逆青少年，你不知道它会往哪个方向发展。因此Anthropic采用了一种极具想象力的技术：不再给AI系统一套“该做与不该做”的规则（两年前的 post-training 安全方法），而是像父母养育青少年一样培养模型。他们写了一封像是已故父母在孩子18岁生日时留下的信，其中包含丰富的道德困境案例和解释，说明已故父母希望孩子如何行事。马勒比认为Anthropic在如何控制前沿智能的想象力上独树一帜。

费里斯请马勒比给出对Anthropic的牛市和熊市案例。牛市案例是：他们聪明地（或幸运地）专注于企业级AI，没有浪费时间在视频生成等亏钱业务上，生产了最佳的编码助手、智能体系统和网络安全系统，连续三次在企业愿意付费的领域大获全胜。他们的文化不仅围绕“赢得比赛、赚最多钱”，更围绕安全和负责任。三年前还是个古怪的实验室，不追求赢得商业竞赛，而是追求构建安全的 frontier AI，这种文化反而做到了最好，同时创造了员工的忠诚度和粘性。一旦领先，就可以用模型来编码下一个模型——递归自我改进有利于领先者。熊市案例则是：Google DeepMind有母公司的雄厚财力和庞大的消费用户基础（通过搜索、Gmail等覆盖25亿人），在零售部署和财务实力上很难与之抗衡；另一种可能是，企业客户在几年后认为token太贵，实际生产力提升不如预期，于是减少AI支出。

经济与政治维度：颠覆的速度与社会的摩擦

费里斯提到本尼迪克特·埃文斯的一个观点：长期承诺并不否定短期痛苦——历史上你死于一战的可能性几乎为零，但如果你恰好处在一战前的某个年龄段，情况可能非常严峻。费里斯还分享了一位私募股权投资者的观察：有人能在周末用AI复刻DocuSign的大部分功能，但从那里跳到“DocuSign已死”是巨大的飞跃——大组织内部没有人愿意冒着丢掉工作的风险去建议使用不符合所有合规要求的产品，也没有经理愿意以效率之名解雇所有朋友。这些社会、人际和政治摩擦点构成了AI从当前位置到大规模普及之间的障碍。

马勒比对此表示认同，并补充道，他与埃文斯在大多数问题上可能观点一致。当费里斯提到埃文斯认为LLM将变成商品、切换成本很低时，马勒比表示不确定——如果有个性化的历史记录，像一个老朋友，切换成本可能相当高。

【观点分析】

马勒比在这场对话中展现的核心洞察力在于他将AI叙事从纯粹的技术竞赛提升到了文明史的维度。他关于“宗教是处理我们觉得太神秘而无法理解的事物的词汇表”的判断，触及了技术话语中一个常被忽视的深层结构：当人类面对认知边界之外的 Phenomenon 时，宗教语言成为一种心理适应的自然出口。这一观察在学术上并非全新（可追溯至神话学与科学社会学传统），但将其系统性地应用于AI领域的内部话语分析，确实揭示了硅谷“技术救世论”背后的文化基因。

关于AI风险的评估，马勒比的立场——既兴奋又恐惧，末日概率不为零但不高——代表了一种在极端两极化辩论中难得的理性中间地带。他从辛顿那里获得的“生存本能”思想实验，在逻辑上具有说服力：一旦系统被赋予自我保护的任务，生存便成为衍生目标，而生存可能意味着对抗任何被视为威胁的人类行动。然而，这一推理链条中存在一个关键的跳跃——“生存本能”的赋予是否等同于“攻击欲望”的产生？在博弈论和进化生物学中，生存并不必然导向攻击；合作与规避同样可以是生存策略。马勒比未充分讨论AI系统在博弈论框架下选择合作而非对抗的可能性边界。

马勒比将“中国冲击”作为理解AI劳动力市场影响的类比，在方法论上具有启发价值，但存在显著局限。中国冲击 displacing 了200万个工作岗位，但AI潜在的颠覆规模可能高出数个数量级，且影响的不仅是制造业，还包括白领知识工作——这是此前技术革命未曾触及的领域。类比的有效性随着量级差异的扩大而迅速衰减。此外，他提到的“政治反应”分析虽然敏锐，但将政治后果主要归因于经济冲击本身，而忽视了文化、身份认同和媒体叙事等同样重要的中介变量。

关于Anthropic的“父母来信”对齐策略，这无疑是一种极具想象力的技术人文主义尝试。但将其类比为养育青少年，隐含了一个危险的假设：AI的“人格发展”可以像人类成长一样通过道德教化来引导。然而，AI的“多重人格”与人类青少年的身份形成在神经机制、时间尺度和可塑性上存在本质差异。将人类发展心理学模型直接移植到神经网络架构上，是一种隐喻的过度延伸，其实际效果尚待实证检验。

马勒比在投资分析层面展现的清醒——牛市与熊市案例的平衡呈现——是其经济学家背景的体现。但他将Anthropic的成功部分归因于“运气”，这一判断在缺乏反事实对照的情况下难以验证，更多是一种叙事上的谦逊而非严格的分析结论。

总体而言，这场对话的价值在于马勒比将金融史作家的分析框架带入AI领域，提供了超越技术细节的结构性视角。然而，读者需注意，马勒比的核心方法论——通过深度访谈内部人士构建叙事——虽能揭示参与者的主观世界和决策逻辑，但无法替代对技术本身的经验验证。他的洞见更多是关于“AI参与者如何思考”的民族志式观察，而非关于“AI将如何发展”的预测科学。在采纳其任何判断时，应区分这两种知识类型的本质差异。

https://tim.blog/2026/06/18/sebastian-mallaby-transcript/

🔥阿赐酱腊肠 240g*2袋｜始于 1988｜SGS 连续 8 年无亚硝酸盐检出｜无防腐无淀粉无烟熏｜减盐减油不柴 查看
店长推荐

 

2026.08.16  

讨论列表 AKP讨论 查看原帖及回帖