今天，我在 Decoder 上与罗南·法罗 (Ronan Farrow) 交谈，他是当今调查报道界最耀眼的明星之一。他揭露了哈维·韦恩斯坦的故事以及许多其他故事。就在上周，他和合著者 Andrew Marantz 在《纽约客》上发表了一篇令人难以置信的深度专题报道，内容涉及 OpenAI 首席执行官 Sam Altman、他的可信度以及 OpenAI 本身的崛起。
在我们进一步讨论之前，请注意——《纽约客》发表了这篇报道，罗南和我在了解奥特曼家遭受袭击的全部范围之前就进行了这次对话，所以你不会听到我们直接谈论这一点。但我想说的是，我认为任何形式的暴力都是不可接受的，对 Sam 的这些攻击是不可接受的，人们感到的无助导致这种暴力本身就是不可接受的，值得行业和我们的政治领导人进行更多的审查。我希望这是清楚的。
Verge 订阅者请不要忘记，无论您在何处观看播客，都可以独享无广告的 Decoder。前往这里。还不是订阅者？您可以在这里注册。
话虽如此，围绕奥特曼的事情有很多，这对于严格的报道来说是公平的——罗南和安德鲁打算做的那种报道。由于 ChatGPT 的流行，Altman 已成为人工智能行业最引人注目的领袖，在短短几年内将一个曾经的非营利研究实验室变成了一家价值近万亿美元的私营公司。但奥特曼的神话是非常矛盾的，他明显的交易能力和据报道的他对周围每个人撒谎的倾向都同样定义了这一点。
这个故事长超过 17,000 字，可以说是对 2023 年发生的事情的明确描述，当时 OpenAI 董事会因 Altman 涉嫌撒谎而突然解雇了他，但他几乎立即被重新雇用。这本书还深入探讨了奥特曼的个人生活、他的投资、他对中东资金的追求，以及他对自己过去行为和性格特征的反思，这使得一位消息人士称他“不受真相的约束”。我真的建议你阅读整个故事；我怀疑它会在未来很多年里被引用。
罗南在报道这篇文章的 18 个月里与奥特曼进行了多次交谈，所以我好奇的主要事情之一是他在那段时间里是否感觉到奥特曼有任何变化。毕竟，在过去的一年半里，人工智能、科技以及世界发生了很多事情。
你会听到罗南非常直接地谈论这一点，以及他的感觉，即人们变得更愿意谈论奥特曼歪曲事实的能力。人们开始公开质疑，像奥特曼这样的人的行为是否令人担忧，不仅关系到人工智能或科技，也关系到社会的集体未来。
好的：罗南·法罗谈萨姆·奥尔特曼、人工智能和真相。开始了。
为了篇幅和清晰度，本次采访经过了轻微编辑。
罗南·法罗（Ronan Farrow），您是《纽约客》的调查记者和撰稿人。欢迎来到解码器。
很高兴来到这里。谢谢你有我。
我很高兴与你交谈。你刚刚为《纽约客》写了一篇大文章。这是 Sam Altman 以及 OpenAI 的简介。我对它的解读是，正如所有出色的功能一样，它通过严格的报道证实了人们长期以来对萨姆·奥尔特曼的许多感受。显然你已经发布了它，你已经收到了反应。您现在感觉如何？
嗯，事实上，在注意力经济如此精神分裂和肤浅的时代，它所取得的突破程度让我感到振奋。在我看来，这是一个影响我们所有人的故事。当我花了一年半的时间，我的合著者安德鲁·马兰士（Andrew Marantz）也花了他的那段时间，真正尝试做一些法证和细致的事情时，总是因为我觉得除了故事核心的个人和公司之外，还有更大的结构性问题影响着人们。
萨姆·奥尔特曼（Sam Altman），在硅谷炒作文化和初创公司的背景下，这些初创公司基于未来可能实现或可能不会实现的承诺而膨胀到巨大的估值，并且越来越多地接受创始人文化，认为告诉不同群体不同的冲突的事情是一个特征，而不是一个bug……即使在这种背景下，萨姆·奥尔特曼也是一个非凡的例子，硅谷的每个期待这些事情的人都无法停止谈论他的可信度和诚实问题。
我们已经知道他因某些版本的不诚实指控或连续涉嫌撒谎而被解雇。但不同寻常的是，尽管事实上有精彩的报道，但基奇·哈吉在这方面做了出色的工作。郝凯伦在这方面做了很多工作。对于实际所谓的证据点以及这些证据点远离公众视线的原因，确实没有明确的理解。
因此，第一点是，令我感到鼓舞的是，我们的公众知识，甚至硅谷内部人士的知识中的一些空白现在已经得到了更多的填补。一些存在空白的原因已得到更多填补。
我们报道了一些公司内部人员确实感觉事情被掩盖或故意不记录的案例。这个故事中的新事物之一是 WilmerHale 进行的关键律师事务所调查，这显然是一家出色的、可信的大型律师事务所，对安然和世通进行了调查，顺便说一句，这些调查都是浩如烟海，就像出版了数百页一样。威尔默黑尔根据董事会成员的要求进行了这项调查，他们解雇了奥特曼，作为他们离开的条件，当他解雇他们时，他又回来了。令人惊讶的是，在我采访过的许多法律专家看来，令人震惊的是，在这家公司的许多人看来，他们没有将其写下来。随之而来的是 OpenAI 发布的 800 字新闻稿，将所发生的事情描述为信任崩溃。我们确认这只是口头简报。
例如，在某些情况下，一位董事会成员似乎想投票反对 OpenAI 从最初的非营利形式转变为营利性实体，并被记录为弃权。就像会议上的一位律师说，“好吧，这可能会引发太多的审查。”想要投反对票的人会被记录为对所有出席的弃权票。存在事实争议。 OpenAI 的说法并非如此，正如你可能想象的那样。在这些情况下，你的公司凭借自己的能力掌握着我们的未来。
安全风险如此严峻，以至于它们还没有消失。这就是这家公司作为一家专注于安全的非营利组织而成立的原因，并且事情被以某种方式模糊化，周围可信的人发现它不够专业。再加上这样的背景，即对有意义的监管几乎没有政治兴趣。我认为这是一个非常易燃的情况。
对我来说，重点不仅仅是萨姆·奥尔特曼值得如此尖锐地提出这些问题。而且这个领域的任何一个人，以及许多关键人物，即使不是这种特殊的、所谓的一直撒谎的特质，也表现出某种程度的逐底竞争心态，安全主义者淡化了这些承诺和每个人都在竞争的姿态。
我认为，当我们查看最近从 Anthropic 泄露的信息时，有人提出了谁应该控制这篇文章的按钮的问题。答案是，如果我们没有有意义的监督，我认为我们必须提出严肃的问题，并尝试尽可能多地公开有关所有这些人的信息。因此，我对一场有意义的对话感到振奋，或者说对话的开始。
我之所以这么问，是因为你为此工作了一年半。我相信你和你的合著者 Andrew 与 100 个人进行了交谈。对于一个故事来说，这需要很长的时间。我特别想到人工智能领域过去一年半的时间，所有这些角色的态度和价值观都发生了非常快的变化。
也许萨姆·奥尔特曼 (Sam Altman) 更是如此，他一开始就是默认的获胜者，因为他们发布了 ChatGPT，每个人都认为它会取代 Google。然后谷歌做出了回应，这似乎让他们感到惊讶，谷歌会尽力保护其业务，即使不是商业史上最好的业务，也可能是科技史上最好的业务之一。 Anthropic 决定将重点放在企业上。似乎占据了主导地位因为企业对人工智能的使用非常高。
现在，OpenAI 正在将其产品的重点从“我们将与谷歌较量”转向 Codex，他们将与企业较量。我只是不太清楚，在过去一年半的报道过程中，与你交谈的角色是否感觉发生了变化？就像他们的态度和价值观一样，这些改变了吗？
是的。我认为首先，这篇文章中探讨的批评来自这些公司内部的许多人——尽管存在生死攸关的风险，但这个行业正在陷入安全性的逐底竞赛，而且速度压倒一切——这种担忧变得更加尖锐。我认为，随着过去一年半的过去，这些担忧得到了更加证实。与此同时，人们对萨姆·奥尔特曼的态度也发生了特别的变化。当我们开始与消息来源交谈时，人们真的非常担心被引用此事并记录下来。
在我们的报告结束时，你已经有了一个报告主体，人们在非常公开和明确地谈论这个问题，并且董事会成员会说，“他是一个病态的骗子。他是一个反社会者。”人们有各种各样的观点，从“考虑到安全风险，这是危险的，我们需要这种技术的领导者具有更高的诚信度”，一直到“忘记安全风险，这种行为对于任何大公司的任何高管来说都是站不住脚的，它只会造成太多的功能障碍。”
因此，对话变得更加明确，虽然让人感觉有些迟来，但在某种意义上却令人振奋。还有山姆·奥尔特曼，值得赞扬的是……我想说，这篇文章对山姆来说非常公平，甚至慷慨。这不是那种有很多“抓住你”的东西的作品。当我们完成这件事时，我花了很多很多时间和他通电话，并真正倾听了他的意见。
正如你可以想象的那样，在这样的一首曲子中，并不是所有的东西都能放进去。这首曲子中的一些情况是因为我在真诚地倾听。如果萨姆实际上是在论证我觉得有水，即使某件事是真的，也可能是耸人听闻的，那么我在保持这种取证和衡量方面就真的犯了错误。因此，我认为这一点得到了正确的接受，我只是希望这段时间积累的事实记录能够引发一场关于监督必要性的更令人振奋的对话。
这实际上是我的下一个问题。我想你在报道这个故事的过程中和萨姆谈过十几次。再说一次，这是在很长一段时间内进行的大量对话。您认为 Sam 在过去一年半的报道过程中发生了变化吗？
是的。我认为其中最有趣的次要情节之一是萨姆·奥尔特曼也比过去更明确地谈论了这一特征。山姆在这件作品中的姿势并不是“那里什么都没有，这不是真的；我不知道你在说什么”。他的态度是，他说这归因于取悦他人的倾向和一种厌恶冲突的倾向。他承认这给他带来了问题，尤其是在他职业生涯的早期。
他说，“好吧，我正在超越这个，或者在某种程度上已经超越了。”我认为真正让我感兴趣的是我们交谈过的一群人，他们不仅是安全倡导者，不仅仅是经常有这些严重安全问题的底层技术研究人员，而且也是务实的大投资者。他们是萨姆的支持者，在某些情况下，他们会考虑这个问题并谈论甚至在他被解雇后回归的过程中发挥了关键作用。现在，关于他是否进行了改革，以及这种改变在多大程度上有意义的问题，他们说，“好吧，我们当时给了他无罪推论。”
我特别想到一位著名的投资者，他说：“但从那时起，很明显他并没有被带到木棚后面。”这就是这位投资者在必要时使用的短语。结果，这似乎现在是一个稳定的特征。我们正在持续看到这一点。你可以看看OpenAI最大的一些业务人际关系以及他们持续承受这种不信任的方式。
就像微软一样，你与那里的高管交谈，他们确实有非常尖锐且最近加剧的担忧。有这样一个例子，就在 OpenAI 重申其与微软在底层无状态人工智能模型方面的排他性的同一天，它还宣布与亚马逊达成一项新协议，该协议涉及销售用于构建有状态人工智能代理的企业解决方案，这意味着它们有记忆。
你和微软的人交谈，他们会说，“如果不与我们有排他性协议的底层内容进行交互，这是不可能做到的。”因此，这只是许多小例子之一，这种特征一直渗透到持续的商业活动中，并且是 OpenAI 董事会、高管团队和更广泛的技术社区积极关注的主题。
你一直在说“特质”。故事中有一句话对我来说就像是论文，它是对你所描述的特征的描述。而是“萨姆·奥尔特曼不受真相的约束”，并且他具有“两个几乎在同一个人身上从未见过的特质：第一个是取悦他人的强烈愿望，在任何特定的互动中都被喜欢，第二个是几乎反社会的缺乏对欺骗某人可能带来的后果的关心。”
我必须告诉你，这句话我读了 500 遍，我试着想象总是说人们希望被喜欢的话，然后当他们感到被欺骗时不会感到沮丧。我无法让我的情绪状态理解这些东西如何存在于同一个人身上。你和山姆谈过很多次，也和经历过这些特质的人谈过。他是怎么做到的？
是的。从人性的角度来看，这很有趣，因为我确实像这样处理报道机构，真正关注的是使处于其核心的人变得人性化，并寻求深刻的理解和同理心。当我试图从更人性化的角度来看待这个问题时，我说：“嘿，如果我共事过的很多人都说我是一个病态的骗子，这对我来说将是毁灭性的。你是如何承担起这个重任的？你在治疗中如何谈论这一点？你给自己讲了一个什么故事？”
在我看来，我有一些西海岸的陈词滥调，比如“是的，我喜欢呼吸练习。”但我认为，如果我们看到这种关于我们的行为和待人方式的反馈，我们中的很多人可能会有那种令人振奋的深度自我对抗的感觉。
我认为这实际上也适用于这个问题的更广泛的答案。 Sam 声称，这种特质造成了问题，但也是他能够加速 OpenAI 发展的部分原因，以至于他能够团结并取悦不同的群体。他不断地让所有这些相互冲突的选民相信他们关心的就是他关心的。对于创始人来说，这可能是一项非常有用的技能。我曾与投资者交谈过，他们随后会说：“好吧，也许对于实际经营一家公司来说，这是一项不太有用的技能，因为它会造成很多不和谐。”
但就 Sam 个人而言，我认为当我尝试在人际层面上进行交流时，我发现的问题是明显缺乏更深层次的对抗、反思和自我责任感，这也表明了准备 IPO 的公司的超能力或责任。
用一位名叫 Sue Yoon 的前董事会成员的话来说，她在文章中公开表示，她用的词是“不负责任”，她能够真正相信他的销售宣传不断变化的现实，或者能够说服自己相信这些事实。或者至少，如果他不相信它们，他能够咆哮着克服它们，而不会产生有意义的自我怀疑。
我认为你正在谈论的事情，当我们说这件事并意识到它与我们做出的其他保证相冲突时，你或我可能会有点冻结或检查自己。我认为这不会发生在他身上。硅谷更广泛的炒作文化和创始人文化也在某种程度上拥抱了这一点。
这很有趣。 The Verge 建立在产品评论的基础上程序。这是我们在这里所做的事情的核心。我每年持有一万亿美元的苹果研发资金，然后说：“这款手机是七款。”这在某种程度上使我们在其他地方的所有报道和观点合法化。我们有一个评估职能，我们花了很多时间只是看人工智能产品并问：“它们有用吗？”
如今，关于人工智能的许多对话似乎都缺失了这一点。关于它可能能做什么、可能有多危险，人们一直在讨论。然后你深入研究，你会说：“它真的做了今天应该做的事情吗？”在某些情况下，答案是肯定的。但在很多很多情况下，答案是否定的。
这感觉就像它与你所描述的炒作文化有关，也与这样的感觉有关：好吧，如果你说它会做某事，但它没有做某事，并且有人感觉不好，那很好，因为我们正在做下一件事。那是过去的事了。尤其是在人工智能领域，Sam 非常擅长做出宏伟的承诺。
就在本周，我想就在你的故事发表的同一天，OpenAI 发布了一份政策文件，称我们必须重新考虑社会契约，并从政府那里获得人工智能效率补贴。这是一个关于某些技术如何塑造世界的未来以及我们如何生活的宏伟承诺，而所有这一切都依赖于该技术完全按照其承诺的方式工作或应该工作。
你有没有发现 Sam 怀疑人工智能会变成通用人工智能或超级智能，或者是否能到达终点线？因为这是我最想知道的事情。有没有反思一下这个核心技术是否能做到他们所说的所有事情？
这是完全正确的一组问题。我们在这篇报道中采访了一些可信的技术专家——显然萨姆·奥尔特曼不是其中之一。他是一位商人，他说 Sam 谈论这项技术的时间表的方式离我们还很遥远。几年前的博客文章中，山姆说：“我们已经到达了事件视界。通用人工智能基本上已经到来。超级智能即将到来。我们将到达其他星球。我们将治愈所有形式的癌症。”说实话，我不是在修饰。
癌症问题实际上很有趣，Sam 正在炒作理论上用 ChatGPT 治愈了他们的狗的癌症的人，但这根本没有发生。他们与 ChatGPT 进行了交谈，这帮助他们指导了一些实际完成这项工作的研究人员，但一对一地，这个工具治愈了这只狗实际上并不是故事。
我很高兴你提出了这一点，因为我想继续讨论这个更大的问题，即技术的潜力和风险何时真正显现。但值得一提的是萨姆·奥尔特曼经常出现的这些小插曲，他似乎再次体现了这一特质。
我的意思是，以 WilmerHale 报告为例，我们掌握了这些未以书面形式记录的信息，并且想知道一路上的口头简报是否提供给了除了 Sam 帮助安装的两名董事会成员之外的任何人来监督。他说：“是的，是的，不，我相信它是给后来加入董事会的每个人的。”一位直接了解情况的人士表示，这只是一个谎言。事实似乎确实如此，但事实并非如此。如果我们想慷慨一些，也许他被误导了。
这种随意的保证有很多。我使用这个例子的部分原因是，这是一个很好的掩饰例子，我们可以这么称呼它，它可以在法律上产生真正的后果。我不需要告诉你，根据特拉华州公司法，如果这家公司首次公开募股，股东可以根据第 220 条对此提出投诉并要求提供基础文件。已经有董事会成员说，“好吧，等一下，简报应该举行。”
所以这些似乎一直从他嘴里跳出来的东西，它们可以产生真正的市场影响，对 OpenAI 产生真正的影响。回到那种重新出现的乌托邦式的炒作语言，我认为这篇文章发表的那天并非巧合，它也影响了我们所有人，因为相对于它的方式而言，危险是如此严重它被部署在武器中，它被用来识别化学战剂的方式，潜在的虚假信息，以及乌托邦式的炒作似乎促使许多可信的经济学家说，“这有泡沫的所有迹象。”
就连萨姆·奥尔特曼也说过：“有人会在这里损失很多钱。”如果泡沫真正破裂，所有这些公司都相互进行交易，在大举借贷的同时全力发展人工智能，那么这确实可能会严重影响美国和全球的经济增长。所以萨姆·奥尔特曼所说的很重要，我认为他周围的大多数人，你提到我们与一百多人交谈过，实际上远远超过一百人。我们在终点线进行了一次谈话，内容就像是：“说这个数字会不会太小气了？”我们说，“是的，我们低调一点吧。我们会表现得很冷静。”但有很多人，其中绝大多数人说，“这是一个令人担忧的问题。”我认为这就是原因。
让我问你这个数字。正如你提到的，随着时间的推移，人们的担忧越来越开放。感觉泡沫周围的压力——争夺胜利、偿还所有投资、成为赢家、IPO——已经改变了很多态度。这无疑给 Sam 和 OpenAI 带来了更大的压力。
我们本周发表了一篇关于 OpenAI 氛围的报道。你的故事是其中的一部分，但 OpenAI 高管层的人员配置发生了巨大变化——人员来来往往。研究人员都离开了，主要转向人类，我认为这真的很有趣。你可以看到这家公司感受到了压力，并且正在以某种方式应对这种压力。
但后来我回想起萨姆被解雇的事。这对我来说简直就是难忘的事。没有人会记得这件事，但周五晚上 7 点，我在布朗克斯动物园接到了消息人士的电话，有人说他们会尽力把山姆救回来。然后我们花了整个周末来追查这个故事。我当时就想，“我在动物园。你想让我在这里做什么？”答案是：“继续打电话。”好吧，我女儿说：“挂掉电话吧。”这就是我所做的。
要想把山姆救回来，要么骑马，要么死。那家公司的反应是，“不，我们不会让董事会解雇萨姆·奥尔特曼。”你的文章中引用了投资者的话，“我们发动了战争，”我认为，这就是 Thrive Capital 的立场，“为了让萨姆回来。”微软为了让萨姆回来而发动战争。后来，现在每个人都说，“我们要上市了。我们已经到了终点线。我们把我们的人找回来了，他会带我们到达终点线。我们担心他是个骗子。”
为什么要打一场战争才能让他回来？因为看起来并没有什么实际改变。您谈到了 Ilya Sutskever 和 [Anthropic 首席执行官] Dario Amodei 在与 Sam Altman 同时代时保存的备忘录。伊利亚最担心的是山姆是个骗子。
这些都没有改变。那么为什么要通过战争把他带回来呢？现在我们已经到了终点线，似乎所有的担忧都已经公开了。
好吧，首先，向你的女儿、我的伴侣以及记者周围的所有其他人表示歉意。
[笑]这对每个人来说都是一个愉快的周末。
是的，它确实占据了一个人的生活，在过去的一段时间里，这个故事肯定也有我的生活。我认为，它实际上与新闻业和信息获取的主题有关。那些为山姆而战的投资者以及所有人都在确保他回来的过程中发挥了作用，而专门为保护非营利组织的使命而设计的董事会，即把安全置于增长之上，并在不值得信任的情况下解雇高管，他们就离开了。这都是因为，是的，市场激励就在那里，对吧？
山姆能够说服人们：“好吧，公司很快就会分崩离析。”但他获得支持的原因是缺乏信息。在许多情况下，这些投资者现在会说，“我回想起来，我认为如果我完全了解这些主张和担忧是什么，我应该有更多的担忧。”
不是全部；意见各不相同，我们引用了一系列意见，但有一些重要的意见是根据非常片面的信息采取行动的。用一位曾经在董事会任职的人士的话说，解雇萨姆的董事会“非常合资”，而且他们的失误非常严重。我们记录了潜在的投诉，人们可以自己决定它是否会累积成他们认为的那种紧急担忧，但这种争论和信息并没有被提出。
他们收到了一些现在被认为是糟糕的法律建议。为了描述它，你会记住这句话，并且可能很多听众和观众会记得这句话缺乏坦诚。事情就是这样，然后他们基本上就不会接电话了。
他们不接电话。我确信你尝试过。我认识的每个人都尝试过，作为一名记者，你不应该给消息来源提供建议，但我当时想，“如果你不开始解释自己，这种情况就会消失。”
这就是发生的事情。忘记记者吧。萨蒂亚·纳德拉 (Satya Nadella) 说：“到底发生了什么？我找不到任何人向我解释。”这是该公司的主要财务支持者。然后萨蒂亚给[LinkedIn 联合创始人]里德·霍夫曼 (Reid Hoffman) 打电话，里德到处打电话说：“我不知道到底发生了什么。”
可以理解的是，他们在信息匮乏的情况下寻找传统的非人工智能指标来证明这种紧急、突然的解雇是合理的。就像，好吧，这是性犯罪吗？是不是贪污了？整个微妙但我认为有意义的论点，即这项技术是不同的，这种较小的背叛的稳定积累可能对这个行业甚至对世界都有有意义的利害关系，但基本上都被迷失了。因此，资本主义的激励措施取得了胜利，但成功的人也走出了困境，并不总是在掌握完整的信息的情况下进行操作。
我想暂时问一下“每个人都认为是什么”方面，因为我确实看到了这个新闻，我说，“哦，肯定发生了一些不好的事情。”你做过很多著名的#MeToo 报道。你揭露了哈维·韦恩斯坦的故事。
你花了很多时间报道这些我认为你认为最终毫无根据的指控：奥特曼性侵犯未成年人或雇用性工作者，甚至谋杀了一名 OpenAI 举报人。我的意思是，你是最能严格报告这件事的人。你就决定一切都没有结果吗？
好吧，听着，我并不是要说某件事毫无结果。我可以说的是，我花了几个月的时间研究这些说法，但没有找到它们的佐证。令我震惊的是，这些人，这些对我们的未来拥有如此大权力的公司，确实在一场幼稚的泥浆战中花费了不成比例的时间和资源。
一位高管将其描述为“莎士比亚式的”。私家侦探的资金和正在编制的反对派档案的数量是无情的。不幸的是，山姆的竞争对手们鹦鹉学舌的那种淫荡的东西只是假设的事实，对吗？有人指控他追求未成年男孩，在硅谷的许多鸡尾酒会上，你都会听到这样的说法。在巡回会议上，我听到可信的知名高管重复说：“每个人都知道这是事实。”
可悲的是，我谈论的是它的来源，它传播的各种载体。埃隆·马斯克和他的同事们似乎正在推动真正的硬核档案，但这些档案毫无意义。当你真正开始审视潜在的主张时，它们就变得虚无缥缈。可悲的是，它确实掩盖了更多基于证据的批评，我认为这些批评确实值得紧急监督和考虑。
故事中真正体现的另一个主题几乎是一种恐惧感，山姆有这么多朋友——他从之前担任 Y Combinator 首席执行官以来投资了这么多公司，只是他的个人投资，其中一些投资与他作为 OpenAI 首席执行官的角色直接冲突——而他周围一片沉默。
当我特别读到一行字时，它给我留下了深刻的印象。你描述了 Ilya Sutskever 的备忘录，它们刚刚在硅谷发布。每个人称它们为伊利亚备忘录。但周围甚至一片寂静。它们被传递，但没有被讨论。你认为这是从哪里来的？是恐惧吗？是想获得天使投资吗？这是从哪里来的？
老实说，我认为这是一种很懦弱的行为。在报道国家安全故事时，消息来源是可能会失去一切并面临起诉的举报人，但他们仍然做正确的事并谈论事情以建立问责制。我曾研究过你提到的与性犯罪相关的故事，其中的消息来源深受创伤，并担心受到非常个人化的报复。
在很多情况下，围绕这个节拍，你要与具有自己的形象和权力的人打交道。他们要么本身就是名人，要么周围都是名人。他们拥有蓬勃发展的商业生活。在我看来，他们谈论这些东西的曝光度其实很低。值得庆幸的是，正如我们之前谈到的，形势正在发生变化，人们现在谈论得更多。
但在很长一段时间里，人们真的对此闭嘴了，因为我认为硅谷文化是如此无情地自私、无情地以商业和增长为导向。所以我认为这甚至困扰着一些参与解雇萨姆的人，你在几天后看到的，是的，导致他回来并解雇老董事会成员的一个因素是他团结了对他的事业感到困惑的投资者。
但另一个问题是，周围有很多其他人也有这样的担忧，并紧急表达了他们的担忧，但他们只是像餐巾纸一样折叠起来，当他们看到风向相反时就改变了态度，他们想搭上利润列车。
老实说，从我作为记者的角度来看，这很黑暗。
其中一些人是 Mira Murati，我相信他担任了 20 分钟的 OpenAI 新任首席执行官。随后她被替换。这是一个非常复杂的动态，显然，萨姆回来了。另一个人是Ilya Sutskever，他是罢免Sam的选票之一，然后他改变了主意，或者至少说他改变了主意，然后他离开并创办了自己的公司。你知道是什么让他改变了主意吗？仅仅是钱吗？
好吧，需要明确的是，我并不是单独挑出这两个人。还有其他参与解雇的董事会成员随后也变得非常沉默。我认为这就像一个更广泛的集体问题。在某些情况下，这些人有道德品质发出警报并采取激进行动，这是值得赞扬的。这就是确保责任的方式。这可能会帮助很多受这项技术影响的人。它本可以帮助一个行业保持更有意义的安全关注。
但在与举报人和那些试图多次追究责任的人打交道时，你也会发现需要坚持到底并坚持自己的信念。这个行业确实充满了不坚持自己信念的人。
尽管他们认为他们正在建立一个数字上帝，它将以某种方式消除所有劳动力或创造更多劳动力，或者会发生一些事情。
嗯，就是这样。因此，当出现任何热潮或任何可能威胁到你自己在行业中的地位的事情时，不坚持你的信念和所有道德问题的文化可能在某种程度上对于那些照常生产任何类型的小部件的公司来说是很好的。
但这些人也在说：“这实际上可能会杀死我们所有人。”再说一次，你不必走向终结者天网的极限。一系列风险已经成为现实。这是真实的，他们对此发出警告是正确的，但你必须让其他人在心理上思考这两种东西是如何生活在同一个人身上，他们发出紧急警告，他们可能正在尝试做某事，然后他们只是折叠起来并保持沉默。
这正是为什么你会遇到这样的情况：事情被隐藏起来，并且在事后多年没有人公开谈论它。
这里自然的责任方不是这些公司的首席执行官；而是这些公司的首席执行官。是政府。在美国，也许是州政府，也许是联邦政府。
当然，这些公司都希望走向全球化。这里有很多全球影响。我看到 OpenAI、谷歌和 Anthropic 都怂恿拜登政府发布人工智能行政命令。最后就差点没牙了。它只是说他们必须谈论他们的模型的能力并发布一些安全测试。然后他们都支持特朗普，特朗普进来并消除了所有这些并说：“我们必须具有竞争力。这是一场混战。加油。”
与此同时，他们都试图从拥有大量石油资金并希望改变经济的中东国家筹集资金。这些都是政客。我觉得政客们绝对应该理解有人在从他们的嘴里说出来，如果有人最终失望，他们不会太沮丧，但政客们也被欺骗了。你认为这是为什么？
我认为，这确实是为什么这篇文章在我看来很重要，也是为什么它值得花费所有时间和细节。正如你所说，我们所处的环境中本应提供监督的系统被掏空了。那是一个后公民联盟的美国，资金的流动是如此不受限制，而且这个问题特别集中在人工智能方面，这些政治行动委员会正在激增，并大量投入资金，以废除州和联邦层面的有意义的监管。
[OpenAI 联合创始人]格雷格·布罗克曼（Greg Brockman）是山姆的副手，他直接为其中的几个做出了重大贡献。它会导致立法者和潜在监管者真正被俘虏的情况，这是一个难以摆脱的恶性循环。可悲的是，我认为有一些简单的政策举措（其中一些正在世界其他地方进行试验）将有助于解决其中一些问责问题。
您可以进行更多强制性的部署前安全测试，这在欧洲已经针对前沿模型进行了。对于内部调查的类型，您可以有更严格的书面公共记录要求，在这种情况下，我们看到事情没有以书面形式进行。对于萨姆·奥尔特曼（Sam Altman）推动的中东基础设施雄心，你可以拥有一套更强大的国家安全审查机制。
正如你所说，他正在与拜登政府做这种诱饵和转变，说“监管我们，监管我们”，并帮助他们制定一项行政命令，然后特朗普介入的那一刻，真正的第一天，就没有任何限制，“让我们加速，让我们在阿布扎比建立一个大型数据中心园区。”你可以有，这是一个非常简单的问题，就像举报人保护一样。没有联邦法规保护人工智能公司员工披露本文中提到的此类安全问题。
我们有这样的案例：OpenAI 的高级安全人员 Jan Leike 负责领导公司的超级联盟。他写信给董事会，本质上是举报材料，称公司在安全使命上偏离了轨道。这些人实际上应该有一个可以去监督的机构，他们应该得到我们在其他部门看到的那种明确的法律保护。这很容易复制萨班斯-奥克斯利法案式的制度。
我认为，尽管硅谷控制所有权力杠杆的问题多么严重，尽管一些可能提供监督和护栏的机构被掏空，但我仍然相信民主和自私政客的基本原理。越来越多的民意调查数据表明，大多数美国人认为目前人工智能的担忧、问题或风险超过了好处。
因此，我认为人工智能带来的大量资金涌入政治，我们有能力让这成为政客们的一个问号。当美国人去投票时，他们应该仔细审查他们投票的人是否受到大型科技特殊利益集团的资助，特别是如果他们不加批判且反监管，考虑到所有这些担忧。所以我认为如果人们能够阅读这样的文章，听这样的播客，并足够关心批判性地思考作为选民，他们的决定确实有机会在华盛顿产生一批代表，他们会密切关注并强制监督。
这可能是我听过的人对当前人工智能行业最乐观的评价之一。我很感激。我对你所说的民意调查很着迷。现在有很多。这一切都非常一致，而且看起来，尤其是年轻人，接触人工智能的次数越多，他们对此就越不信任和愤怒。这就是所有民意调查的效价。我看着这一点，我想，嗯，是的，聪明的政客会反对这一点。他们只会说，“我们将追究大型科技公司的责任。”
然后我想到过去 20 年，一位政治家说他们将追究大型科技公司的责任，而我正在努力寻找大型科技公司被追究责任的哪怕一刻。唯一让我认为这可能有所不同的是，你实际上必须建造数据中心，你可以投票反对，你可以请愿反对，你可以抗议。
我认为有一位政客的房子刚刚遭到枪击，因为他们投票支持数据中心。我称之为紧张局势达到了白热化的程度。您描述了硅谷的孤立性。这是一个封闭的生态系统。感觉就像他们认为自己可以统治世界。他们在政治上投入了大量资金，但他们面临着人们不喜欢这些产品的现实，这并没有给他们太多掩护。他们使用产品越多，他们就越不安，政客们开始意识到支持科技行业而不是他们所代表的人民会产生真正的后果。
你已经和很多人谈过了。您认为科技行业有可能吸取眼前的教训吗？
你说感觉他们认为他们可以在没有责任的情况下统治世界。我什至认为这不需要“感觉像”限定词。我的意思是，你看看彼得泰尔使用的语言，它是明确的。当然，这是一个极端的例子。而山姆·奥尔特曼，尽管在某种程度上与蒂尔的意识形态很接近并受到影响，但他是一个非常不同的人，他可能听起来不同，在某种程度上更加谨慎。
但我确实认为你从蒂尔那里得到了更广泛的意识形态，基本上是：我们已经不再需要民主了，我们不再需要它了。我们拥有的太多了，我们只想建造自己的小掩体。我们不再与卡内基家族或洛克菲勒家族打交道，他们是坏人，但他们觉得自己需要参与社会契约并为人们建造东西。这是一种真正的虚无主义。
我确实认为，在美国近代史上，大亨和私营公司获得超级政府权力，而可能让他们承担责任的民主机构却被掏空，这是一个相互强化的螺旋。我对这些人可能有一天醒来并想：“嗯，实际上也许我们确实需要参与社会并帮助为人们创造东西”的想法感到不乐观。
我的意思是，你看一下“捐赠誓言”的微观例子，曾经有一个时刻似乎是慈善的，但那个时刻现在已经过去，甚至受到嘲笑。这是一个问题，一个更广泛的缺乏问责制的问题，我认为只能从外部解决。这必须是选民动员和恢复政府监督的力量。你说得对，人们实现这一目标的主要途径是本地的。这与基础设施的建设地点有关。
你提到了一些导致暴力和威胁的白热化紧张局势，显然，任何人都不应该使用暴力或威胁。我来这里也不是为了提出具体的政策建议，只是提出一些看似基本且在世界其他地方行之有效的政策步骤，对吗？或者那些在其他行业工作过的人。我在这里并不是要说应该执行哪一个以及如何执行。
我确实认为需要发生一些事情，而且需要是外部的，而不仅仅是信任这些公司。因为对现在我们面临的情况是，那些正在开发技术、最有能力了解风险的公司，实际上是那些警告我们风险的公司，也是那些除了有动力快速行动并忽视这些风险之外一无所有的公司。而你却没有任何东西可以抵消这一点。因此，无论具体改革采取什么措施，都必须遇到一些困难。我仍然保持乐观态度，认为人民仍然很重要。
我一般都会相信你的论点。让我提出一个我认为我可以清楚表达的微小反驳。投票箱外可能发生的另一件事是泡沫破裂，对吗？并非所有这些公司都能到达终点线，并且没有适合消费者人工智能应用的产品市场。再说一次，我还不太明白，但我是一名消费者技术评论员，也许我只是比其他人有更高的标准。
商业世界中存在适合市场的产品，对吧？让一群人工智能代理编写一堆软件似乎是这些工具的真正市场。你可以读到这些公司的论点：“我们已经解决了编码问题，这意味着我们可以解决任何问题。如果我们可以制作软件，我们就可以解决任何问题。”
我认为软件能做的事情确实有限制。这在商业世界里很棒。软件无法解决现实中的所有问题，但它们必须解决这个问题。他们必须完成工作，但也许不是每个人都能到达终点线。然后出现崩溃，泡沫破灭，也许 OpenAI、Anthropic 或 xAI，其中一家公司失败了，所有这些投资都消失了。
你认为这会影响这个吗？其实我先问第一个问题。 OpenAI 正处于 IPO 的风口浪尖。人们对萨姆作为领导者存在很多疑问。你认为他们能到达终点线吗？
我不会做出预测，但我认为你提出了一个重要的观点，那就是市场激励对硅谷内部确实很重要，而当前泡沫动态的不稳定确实会再次打断批评者认为的安全竞争。
我还想补充一点，如果你看看历史先例，其中存在一系列类似且看似难以理解的市场激励措施，并对公众产生潜在的有害影响，就会出现影响诉讼。您最近认为这是一个值得关注的领域。萨姆·奥尔特曼 (Sam Altman) 本周支持一项立法，该立法将保护人工智能公司免受 OpenAI 在非正常死亡诉讼中所面临的某些类型的责任。当然，人们希望拥有这种免受责任的保护。
我认为法院仍然可以成为一个有意义的机制，看看这些诉讼如何进行将非常有趣。例如，你已经看到了针对 Anthropic 使用受版权保护的书籍的集体诉讼，我和我认识的许多其他作者都是该诉讼的成员。如果有聪明的法律头脑和原告关心，正如我们在历史上从大烟草到大能源的案件中看到的那样，你还可以获得一些护栏和一些激励措施来放慢速度、小心谨慎或以这种方式保护人们。
确实感觉人工智能行业的整个成本结构都依赖于对合理使用的非常非常慈善的解释。还不够。如果这些公司必须向你和他们所承担的工作的其他人支付报酬，那么他们的成本结构可能会失控，但考虑起来很不方便，所以我们只是不考虑它。除此之外，所有这些产品现在都在亏损。就像今天一样，他们都在不知所措。他们烧的钱比赚的多。在某些时候，他们必须打开开关。
萨姆是一位商人。正如您多次提到的，他不是技术专家。他是一个商人。你认为他准备好打开开关说：“我们要赚一美元吗？”因为当我问“你认为 OpenAI 会成功吗？”这是他们必须赚一美元的时候。到目前为止，萨姆所有的钱都是通过向别人要钱而不是让他的公司赚钱来赚的。
嗯，这对硅谷、投资者和公众来说都是一个挥之不去的大问题。你会看到 OpenAI 的一些声明和举措似乎表现出对此的某种恐慌。关闭Sora，关闭一些附属项目，试图将核心产品归零。但另一方面，你仍然会同时看到大量的任务蔓延，对吧？即使是一个小例子——它显然不是他们业务的核心——就是 TBPN 的收购。
顺便说一句，就在我们到达终点线并进行事实核查时，面临这种新闻审查的公司获得了一个平台，可以在其中更直接地控制对话。根据我的谈话，我认为有很多投资者担心向所有人承诺一切的问题也会延伸到对核心商业模式的缺乏关注。我的意思是，你可能比我更接近于预测和观察市场。我将让你和听众来判断他们是否认为 OpenAI 可以打开开关。
好吧，我问这个问题是因为你在这篇文章中引用了一位微软高管的话，那就是，“山姆的遗产最终可能会更类似于伯尼·麦道夫或萨姆·班克曼-弗里德”，而不是史蒂夫·乔布斯。这真是一个比较。你对这个比较有何看法？
我认为这是一个释义。史蒂夫·乔布斯的部分并不是引文的一部分。但它有一种有趣的清醒，因为它的措辞是这样的，“我认为他最终成为 SBF 或麦道夫级别的骗子的可能性很小，但确实存在。”在我看来，这并不是说山姆被指控犯有这些特定类型的欺诈或犯罪行为，而是山姆的掩饰和欺骗程度最终可能有机会以这种规模被人们记住。
是的，老实说，我认为这句话最引人注目的是，你给微软打电话，你不会得到这样的答复：“这太疯狂了。我们从来没有听说过。”你会得到很多类似的声音，“是的，这里很多人都这么认为”，这很了不起。我认为这确实涉及到这些具体的业务问题。
例如，一位投资者告诉我，鉴于这种特质在被解雇后的几年中持续存在”——这也认为这是一个有趣的清醒想法——山姆不一定应该处于名单的绝对底部，就像绝对不能建立这项技术的人而言，无论其价值如何，他都应该是最低的。有几个人说埃隆·马斯克就是那个人。但这种特质使他可能处于应该建立的人名单的底部。 AGI，并低于该领域的其他几位领先人物。
所以我认为这是一个有趣的评估，我认为这是从真正的实用主义者那里得到的想法，他们可能不太相信安全问题。他们只是以成长为导向，他们认为 OpenAI 现在与 Sam Altman 有问题。
微软的这篇文章真的很有趣。那家公司认为他们处于世界之巅。他们进行了这项投资，并且将超越所有人，尤其是最重要的是谷歌，并重新赢得消费者的青睐。他们对这次冒险感到焦灼的程度——这是一家经营非常清醒的公司——我认为怎么强调都不为过。
你提到了人物和性格特征。我想以听众提出的问题作为结束。我在我们的另一档节目《The Vergecast》中说过，我要和你谈谈，我说：“如果你对这个故事有任何问题想问罗南，请告诉我。”因此，我们这里有一个我认为与您所描述的内容紧密相关的内容。我只是想读给你听：
“奥特曼和其他人工智能领导人的不良行为和残酷行为的理由与罗南从政治和媒体其他知名领导人那里听到的理由有何不同？难道他们不都说世界就是这样改变的，以此为自己的行为辩护吗？如果我不这么做，别人也会这么做吗？”
是的，有很多这样的事情。我想说，人工智能的独特之处在于，存在的风险如此之高，意味着两种风险的陈述都是极端的，对吗？你有山姆·奥特曼说：“这对我们所有人来说可能都是熄灯的。”而且，批评者可能会说，提问者所指的狂热是极端的，对吧？
山姆在记录中指责埃隆的事情是，也许他想拯救人类，但前提是他是他。那种想要获胜的自我成分，这是萨姆一直使用的框架，而且这是历史书上的框架，这可能会改变一切。因此，我认为，即使超越了大多数硅谷企业“你必须打破几个鸡蛋”的心态，在一些人工智能领导者的心中，也存在着对任何和所有后果的完全合理化。
别忘了打破鸡蛋。我/认为很多潜在的安全研究人员会说，这可能会带来破坏国家、破坏世界、破坏数百万工作和安全悬而未决的人的风险——这就是它的独特之处。这就是我结束的地方，反思了这篇报道，我真的相信这不仅仅是关于萨姆·奥尔特曼的。这是一个不受约束的行业，以及美国无法约束它的一个不断升级的问题。
是的。好吧，我们对此抱有一些乐观态度，但我认为这是一个好的地方。
[笑]以悲观的方式结束。
当然。这就是每一个伟大的故事，真的。马斯克-奥特曼试验即将到来。我想我们会在这里学到更多东西。我想我会想再次和你谈谈。 Ronan Farrow，非常感谢您接受《解码器》采访。
谢谢。
对本集有疑问或评论吗？请通过解码器@theverge.com 联系我们。我们确实阅读了每封电子邮件！
