今天，我在 Decoder 上與 Ronan Farrow 交談，他是當今調查報道界最耀眼的明星之一。他揭露了哈維·韋恩斯坦的故事以及許多其他故事。就在上週，他和合著者 Andrew Marantz 在《紐約客》上發表了一篇令人難以置信的深度專題報道，內容涉及 OpenAI 首席執行官 Sam Altman、他的可信度以及 OpenAI 本身的崛起。
在我們進一步討論之前，請注意——《紐約客》發表了這篇報道，羅南和我在了解奧特曼家遭受襲擊的全部範圍之前就進行了這次對話，所以你不會聽到我們直接談論這一點。但我想說的是，我認為任何形式的暴力都是不可接受的，對 Sam 的這些攻擊是不可接受的，人們感到的無助導致這種暴力本身就是不可接受的，值得行業和我們的政治領導人進行更多的審查。我希望這是清楚的。
Verge 訂閱者請不要忘記，無論您在何處觀看播客，都可以獨享無廣告的 Decoder。前往這裡。還不是訂閱者？您可以在這裡註冊。
話雖如此，圍繞奧特曼的事情有很多，這對於嚴格的報道來說是公平的——羅南和安德魯打算做的那種報道。由於 ChatGPT 的流行，Altman 已成為人工智慧產業最引人注目的領袖，在短短幾年內將一個曾經的非營利研究實驗室變成了一家價值近萬億美元的私人公司。但奧特曼的神話是非常矛盾的，他明顯的交易能力和據報道的他對周圍每個人撒謊的傾向都同樣定義了這一點。
這個故事長超過 17,000 字，可以說是對 2023 年發生的事情的明確描述，當時 OpenAI 董事會因 Altman 涉嫌撒謊而突然解雇了他，但他幾乎立即被重新僱用。這本書也深入探討了奧特曼的個人生活、他的投資、他對中東資金的追求，以及他對自己過去行為和性格特徵的反思，這使得一位消息人士稱他「不受真相的約束」。我真的建議你閱讀整個故事；我懷疑它會在未來很多年裡被引用。
羅南在報導這篇文章的 18 個月裡與奧特曼進行了多次交談，所以我好奇的主要事情之一是他在那段時間裡是否感覺到奧特曼有任何變化。畢竟，在過去的一年半裡，人工智慧、科技以及世界發生了很多事情。
你會聽到羅南非常直接地談論這一點，以及他的感覺，人們變得更願意談論奧特曼歪曲事實的能力。人們開始公開質疑，像奧特曼這樣的人的行為是否令人擔憂，不僅關係到人工智慧或科技，也關係到社會的集體未來。
好的：羅南法羅談薩姆奧特曼、人工智慧和真相。開始了。
為了篇幅和清晰度，本次訪談經過了輕微編輯。
法羅（Ronan Farrow），您是《紐約客》的調查記者和撰稿人。歡迎來到解碼器。
很高興來到這裡。謝謝你有我。
我很高興與你交談。你剛剛為《紐約客》寫了一篇大文章。這是 Sam Altman 以及 OpenAI 的簡介。我對它的解讀是，正如所有出色的功能一樣，它通過嚴格的報道證實了人們長期以來對薩姆·奧爾特曼的許多感受。顯然你已經發布了它，你已經收到了反應。您現在感覺如何？
嗯，事實上，在註意力經濟如此精神分裂和膚淺的時代，它所取得的突破程度讓我感到振奮。在我看來，這是一個影響我們所有人的故事。當我花了一年半的時間，我的合著者安德魯·馬蘭士（Andrew Marantz）也花了他的那段時間，真正嘗試做一些法證和細緻的事情時，總是因為我覺得除了故事核心的個人和公司之外，還有更大的結構性問題影響著人們。
薩姆·奧爾特曼（Sam Altman），在矽谷炒作文化和新創公司的背景下，這些新創公司基於未來可能實現或可能不會實現的承諾而膨脹到巨大的估值，並且越來越多地接受創始人文化，認為告訴不同群體不同的衝突的事情是一個特徵，而不是一個bug……即使在這種背景下，薩姆·奧爾特曼也是一個非凡的例子，矽谷的每個期待這些事情的人都無法停止談論他的可信度和誠實問題。
我們已經知道他因某些版本的不誠實指控或連續涉嫌撒謊而被解僱。但不同尋常的是，儘管事實上有精彩的報道，但基奇·哈吉在這方面做了出色的工作。郝凱倫在這方面做了很多工作。對於實際所謂的證據點以及這些證據點遠離公眾視線的原因，確實沒有明確的理解。
因此，第一點是，令我感到鼓舞的是，我們的公眾知識，甚至矽谷內部人士的知識中的一些空白現在已經得到了更多的填補。一些存在空白的原因已得到更多填補。
我們報道了一些公司內部人員確實感覺事情被掩蓋或故意不記錄的案例。這個故事中的新事物之一是 WilmerHale 進行的關鍵律師事務所調查，這顯然是一家出色的、可信的大型律師事務所，對安然和世通進行了調查，順便說一句，這些調查都是浩如煙海，就像出版了數百頁一樣。威爾默黑爾根據董事會成員的要求進行了這項調查，他們解雇了奧特曼，作為他們離開的條件，當他解僱他們時，他又回來了。令人驚訝的是，在我採訪過的許多法律專家看來，令人震驚的是，在這家公司的許多人看來，他們沒有將其寫下來。隨之而來的是 OpenAI 發布的 800 字新聞稿，將所發生的事情描述為信任崩潰。我們確認這只是口頭簡報。
例如，在某些情況下，一位董事會成員似乎想投票反對 OpenAI 從最初的非營利形式轉變為營利實體，並被記錄為棄權。就像會議上的一位律師說，「好吧，這可能會引發太多的審查。」想要投反對票的人會被記錄為對所有出席的棄權票。存在事實爭議。 OpenAI 的說法並非如此，正如你可能想像的那樣。在這些情況下，你的公司憑藉自己的能力掌握著我們的未來。
安全風險如此嚴峻，以至於它們還沒有消失。這就是這家公司作為一家專注於安全的非營利組織而成立的原因，並且事情被以某種方式模糊化，周圍可信的人發現它不夠專業。再加上這樣的背景，對有意義的監管幾乎沒有政治利益。我認為這是一個非常易燃的情況。
對我來說，重點不僅僅是薩姆·奧特曼值得如此尖銳地提出這些問題。而這個領域的任何一個人，以及許多關鍵人物，即使不是這種特殊的、所謂的一直撒謊的特質，也表現出某種程度的逐底競爭心態，安全主義者淡化了這些承諾和每個人都在競爭的姿態。
我認為，當我們查看最近從 Anthropic 洩露的資訊時，有人提出了誰應該控制這篇文章的按鈕的問題。答案是，如果我們沒有有意義的監督，我認為我們必須提出嚴肅的問題，並盡可能地公開有關所有這些人的信息。因此，我對一場有意義的對話感到振奮，或者說對話的開始。
我之所以這麼問，是因為你已經為此工作了一年半。我相信你和你的合著者 Andrew 與 100 個人進行了交談。對於一個故事來說，這需要很長的時間。我特別想到人工智慧領域過去一年半的時間，所有這些角色的態度和價值觀都發生了非常快速的變化。
也許薩姆·奧爾特曼 (Sam Altman) 更是如此，他一開始就是默認的獲勝者，因為他們發布了 ChatGPT，每個人都認為它會取代 Google。然後谷歌做出了回應，這似乎讓他們感到驚訝，谷歌會盡力保護其業務，即使不是商業史上最好的業務，也可能是科技史上最好的業務之一。 Anthropic 決定將重點放在企業上。似乎佔據了主導地位因為企業對人工智慧的使用非常高。
現在，OpenAI 正在將其產品的重點從「我們將與Google較量」轉向 Codex，他們將與企業較量。我只是不太清楚，在過去一年半的報道過程中，與你交談的角色是否感覺發生了變化？就像他們的態度和價值觀一樣，這些改變了嗎？
是的。我認為首先，這篇文章中探討的批評來自這些公司內部的許多人——儘管存在生死攸關的風險，但這個行業正在陷入安全性的逐底競賽，而且速度壓倒一切——這種擔憂變得更加尖銳。我認為，隨著過去一年半的過去，這些擔憂得到了更證實。同時，人們對薩姆·奧爾特曼的態度也發生了特別的變化。當我們開始與消息來源交談時，人們真的非常擔心被引用此事並記錄下來。
在我們的報告結束時，你已經有了一個報告主體，人們在非常公開和明確地談論這個問題，並且董事會成員會說，“他是一個病態的騙子。他是一個反社會者。”人們有各種各樣和明確地談論這個問題，並且董事會成員會說，“他是一個病態的騙子。他是一個反社會者。”人們有各種各樣的觀點，從“考慮到安全風險，這是危險的，我們需要這種技術的領導者俱有更高的誠信度，從“考慮到安全風險，這是危險的，我們需要這種技術的領導者會
因此，對話變得更加明確，雖然讓人感覺有些遲來，但在某種意義上卻令人振奮。還有山姆·奧爾特曼，值得讚揚的是……我想說，這篇文章對山姆來說非常公平，甚至慷慨。這不是那種有很多「抓住你」的東西的作品。當我們完成這件事時，我花了很多很多時間和他通電話，並真正傾聽了他的意見。
正如你可以想像的那樣，在這樣的一首曲子中，並不是所有的東西都能放進去。這首曲子中的一些情況是因為我真誠地傾聽。如果山姆實際上是在論證我覺得有水，即使某件事是真的，也可能是聳人聽聞的，那麼我在保持這種取證和衡量方面就真的犯了錯誤。因此，我認為這一點得到了正確的接受，我只是希望這段時間累積的事實記錄能夠引發一場關於監督必要性的更令人振奮的對話。
這實際上是我的下一個問題。我想你在報道這個故事的過程中和薩姆談過十幾次。再說一次，這是在很長一段時間內進行的大量對話。您認為 Sam 在過去一年半的報導過程中發生了變化嗎？
是的。我認為其中最有趣的次要情節之一是薩姆·奧爾特曼也比過去更明確地談論了這一特徵。山姆在這件作品中的姿勢並不是「那裡什麼都沒有，這不是真的；我不知道你在說什麼」。他的態度是，他說這歸因於取悅他人的傾向和一種厭惡衝突的傾向。他承認這給他帶來了問題，尤其是在他職業生涯的早期。
他說，「好吧，我正在超越這個，或者在某種程度上已經超越了。」我認為真正讓我感興趣的是我們交談過的一群人，他們不僅是安全倡導者，不僅僅是經常有這些嚴重安全問題的底層技術研究人員，而且也是務實的大投資者。他們是薩姆的支持者，在某些情況下，他們會考慮這個問題並談論甚至在他被解僱後回歸的過程中發揮了關鍵作用。現在，關於他是否進行了改革，以及這種改變在多大程度上有意義的問題，他們說，“好吧，我們當時給了他無罪推論。”
我特別想到一位著名的投資者，他說：「但從那時起，很明顯他並沒有被帶到木棚後面。」這就是這位投資者在必要時使用的短語。結果，這似乎現在是一個穩定的特徵。我們正在持續看到這一點。你可以看看OpenAI最大的一些業務人際關係以及他們持續承受這種不信任的方式。
就像微軟一樣，你與那裡的高層交談，他們確實有非常尖銳且最近加劇的擔憂。有一個例子，就在 OpenAI 重申其與微軟在底層無狀態人工智慧模型方面的排他性的同一天，它還宣布與亞馬遜達成一項新協議，該協議涉及銷售用於構建有狀態人工智慧代理的企業解決方案，這意味著它們有記憶。
你和微軟的人交談，他們會說，「如果不與我們有排他性協議的底層內容進行交互，這是不可能做到的。」因此，這只是許多小例子之一，這種特徵一直滲透到持續的商業活動中，並且是 OpenAI 董事會、高管團隊和更廣泛的技術社區積極關注的主題。
你一直在說「特質」。故事中有一句話對我來說就像是論文，它是你所描述的特徵的描述。而是“薩姆·奧爾特曼不受真相的約束”，並且他具有“兩個幾乎在同一個人身上從未見過的特質：第一個是取悅他人的強烈願望，在任何特定的互動中都被喜歡，第二個是幾乎反社會的缺乏對欺騙某人可能帶來的後果的關心。”
我必須告訴你，這句話我讀了 500 遍，我試著想像總是說人們希望被喜歡的話，然後當他們感到被欺騙時不會感到沮喪。我無法讓我的情緒狀態理解這些東西如何存在於同一個人身上。你和山姆談過很多次，也和經歷過這些特質的人談過。他是怎麼做到的？
是的。從人性的角度來看，這很有趣，因為我確實像這樣處理報道機構，真正關注的是使處於其核心的人變得人性化，並尋求深刻的理解和同理心。當我試圖從更人性化的角度來看待這個問題時，我說：“嘿，如果我共事過的很多人都說我是一個病態的騙子，這對我來說將是毀滅性的。你是如何承擔起這個重任的？你在治療中如何談論這一點？你給自己講了一個什麼故事？”
在我看來，我有一些西海岸的陳詞濫調，例如「是的，我喜歡呼吸練習。」但我認為，如果我們看到這種關於我們的行為和待人方式的反饋，我們中的許多人可能會有那種令人振奮的深度自我對抗的感覺。
我認為這實際上也適用於這個問題的更廣泛的答案。 Sam 聲稱，這種特質造成了問題，但也是他能夠加速 OpenAI 發展的部分原因，以至於他能夠團結並取悅不同的群體。他不斷地讓所有這些相互衝突的選民相信他們關心的就是他所關心的。對於創辦人來說，這可能是一項非常有用的技能。我曾與投資者交談過，他們隨後會說：“好吧，也許對於實際經營一家公司來說，這是一項不太有用的技能，因為它會造成很多不和諧。”
但就 Sam 個人而言，我認為當我嘗試在人際層面上進行交流時，我發現的問題是明顯缺乏更深層的對抗、反思和自我責任感，這也表明了準備 IPO 的公司的超能力或責任。
用一位名叫 Sue Yoon 的前董事會成員的話來說，她在文章中公開表示，她用的詞是“不負責任”，她能夠真正相信他的銷售宣傳不斷變化的現實，或者能夠說服自己相信這些事實。或者至少，如果他不相信它們，他能夠咆哮著克服它們，而不會產生有意義的自我懷疑。
我認為你正在談論的事情，當我們說這件事並意識到它與我們所做的其他保證相衝突時，你或我可能會有點凍結或檢查自己。我認為這不會發生在他身上。矽谷更廣泛的炒作文化和創始人文化也在某種程度上擁抱了這一點。
這很有趣。 The Verge 建立在產品評論的基礎上程式.這是我們在這裡所做的事情的核心。我每年持有一兆美元的蘋果研發資金，然後說：「這款手機是七款。」這在某種程度上使我們在其他地方的所有報導和觀點合法化。我們有一個評估職能，我們花了很多時間只是看人工智慧產品並問：“它們有用嗎？”
如今，關於人工智慧的許多對話似乎都缺失了這一點。關於它可能能做什麼、有多危險，人們一直在討論。然後你深入研究，你會說：「它真的做了今天應該做的事情嗎？」在某些情況下，答案是肯定的。但在很多很多情況下，答案是否定的。
這感覺就像它與你所描述的炒作文化有關，也與這樣的感覺有關：好吧，如果你說它會做某事，但它沒有做某事，並且有人感覺不好，那很好，因為我們正在做下一件事。那是過去的事了。尤其是在人工智慧領域，Sam 非常擅長做出宏偉的承諾。
就在本週，我想就在你的故事發表的同一天，OpenAI 發布了一份政策文件，表示我們必須重新考慮社會契約，並從政府那裡獲得人工智慧效率補貼。這是一個關於某些技術如何塑造世界的未來以及我們如何生活的宏偉承諾，而所有這一切都依賴於該技術完全按照其承諾的方式工作或應該工作。
你有沒有發現 Sam 懷疑人工智慧會變成通用人工智慧或超級智能，或是是否能到達終點？因為這是我最想知道的事。有沒有反思這個核心技術是否能做到他們所說的一切？
這是完全正確的一組問題。我們在這篇報導中採訪了一些可信的技術專家——顯然薩姆·奧爾特曼不是其中之一。他是一位商人，他說 Sam 談論這項技術的時間表的方式離我們還很遙遠。在幾年前的部落格文章中，山姆說：「我們已經到達了事件視界。通用人工智慧基本上已經到來。超級智慧即將到來。我們將到達其他星球。我們將治癒所有形式的癌症。」說實話，我不是在修飾。
癌症問題實際上很有趣，Sam 正在炒作理論上用 ChatGPT 治癒了他們的狗的癌症的人，但這根本沒有發生。他們與 ChatGPT 進行了交談，這幫助他們指導了一些實際完成這項工作的研究人員，但一對一地，這個工具治癒了這隻狗實際上並不是故事。
我很高興你提出了這一點，因為我想繼續討論這個更大的問題，即技術的潛力和風險何時真正顯現。但值得一提的是山姆·奧爾特曼經常出現的這些小插曲，他似乎再次體現了這個特質。
我的意思是，以 WilmerHale 報告為例，我們掌握了這些未以書面形式記錄的信息，並且想知道一路上的口頭簡報是否提供給了除了 Sam 幫助安裝的兩名董事會成員之外的任何人來監督。他說：「是的，是的，不，我相信它是給後來加入董事會的每個人的。」一位直接了解情況的人士表示，這只是一個謊言。事實似乎確實如此，但事實並非如此。如果我們想慷慨一些，也許他被誤導了。
這種隨意的保證有很多。我使用這個例子的部分原因是，這是一個很好的掩飾例子，我們可以這麼稱呼它，它可以在法律上產生真正的後果。我不需要告訴你，根據特拉華州公司法，如果這家公司首次公開募股，股東可以根據第 220 條對此提出投訴並要求提供基礎文件。已經有董事會成員說，“好吧，等一下，簡報應該舉行。”
所以這些似乎一直從他嘴裡跳出來的東西，它們可以產生真正的市場影響，對 OpenAI 產生真正的影響。回到那種重新出現的烏托邦式的炒作語言，我認為這篇文章發表的那天並非巧合，它也影響了我們所有人，因為相對於它的方式而言，危險是如此嚴重它被部署在武器中，它被用來識別化學戰劑的方式，潛在的虛假信息，以及烏托邦式的炒作似乎促使許多可信的經濟學家說，“這有泡沫的所有跡象。”
就連薩姆·奧爾特曼也說過：「有人會在這裡損失很多錢。」如果泡沫真正破裂，所有這些公司都相互進行交易，在大舉借貸的同時全力發展人工智慧，那麼這確實可能會嚴重影響美國和全球的經濟成長。所以薩姆·奧爾特曼所說的很重要，我認為他周圍的大多數人，你提到我們與一百多人交談過，實際上遠遠超過一百人。我們在終點線進行了一次談話，內容就像是：「說這個數字會不會太小氣了？」我們說，「是的，我們低調一點吧。我們會表現得很冷靜。」但有很多人，其中絕大多數人說，「這是一個令人擔憂的問題。」我認為這就是原因。
讓我問你這個數字。正如你所提到的，隨著時間的推移，人們的擔憂越來越開放。感覺泡沫周圍的壓力——爭奪勝利、償還所有投資、成為贏家、IPO——已經改變了許多態度。這無疑給 Sam 和 OpenAI 帶來了更大的壓力。
我們本週發表了一篇關於 OpenAI 氛圍的報導。你的故事是其中的一部分，但 OpenAI 高階主管的人員配置發生了巨大變化——人員來來去去。研究人員都離開了，主要轉向人類，我認為這真的很有趣。你可以看到這家公司感受到了壓力，並且正在以某種方式應對這種壓力。
但後來我回想起薩姆被解僱的事。這對我來說簡直就是難忘的事。沒有人會記得這件事，但周五晚上 7 點，我在布朗克斯動物園接到了消息人士的電話，有人說他們會盡力把山姆救回來。然後我們花了整個週末來追蹤這個故事。我當時就想，「我在動物園。你想讓我在這裡做什麼？」答案是：「繼續打電話。」好吧，我女兒說：「掛掉電話吧。」這就是我所做的。
要把山姆救回來，要嘛騎馬，要嘛死。那家公司的反應是，「不，我們不會讓董事會解僱薩姆·奧爾特曼。」你的文章中引用了投資者的話，「我們發動了戰爭，」我認為，這就是 Thrive Capital 的立場，「為了讓薩姆回來。」微軟為了讓薩姆回來而發動戰爭。後來，現在每個人都說，「我們要上市了。我們已經到了終點線。我們把我們的人找回來了，他會帶我們到達終點線。我們擔心他是個騙子。」
為什麼要打一場戰爭才能讓他回來？因為看起來並沒有什麼實際改變。您談到了 Ilya Sutskever 和 [Anthropic 執行長] Dario Amodei 在與 Sam Altman 同時代時保存的備忘錄。伊利亞最擔心的是山姆是個騙子。
這些都沒有改變。那為什麼要透過戰爭把他帶回來呢？現在我們已經到了終點線，似乎所有的擔憂都已經公開了。
好吧，首先，向你的女兒、我的伴侶以及記者周圍的所有其他人表示歉意。
[笑]這對每個人來說都是一個愉快的週末。
是的，它確實佔據了一個人的生活，在過去的一段時間裡，這個故事肯定也有我的生活。我認為，它實際上與新聞業和資訊獲取的主題有關。那些為山姆而戰的投資者以及所有人都在確保他回來的過程中發揮了作用，而專門為保護非營利組織的使命而設計的董事會，即把安全置於增長之上，並在不值得信任的情況下解僱高管，他們就離開了。這都是因為，是的，市場激勵就在那裡，對吧？
山姆能夠說服人們：「好吧，公司很快就會分崩離析。」但他獲得支持的原因是缺乏資訊。在許多情況下，這些投資者現在會說，“我回想起來，我認為如果我完全了解這些主張和擔憂是什麼，我應該有更多的擔憂。”
不是全部；意見各不相同，我們引用了一系列意見，但有一些重要的意見是根據非常片面的資訊採取行動的。用一位曾經在董事會任職的人士的話說，解僱薩姆的董事會“非常合資”，而且他們的失誤非常嚴重。我們記錄了潛在的投訴，人們可以自己決定它是否會累積成他們認為的那種緊急擔憂，但這種爭論和資訊並沒有被提出。
他們收到了一些現在被認為是糟糕的法律建議。為了描述它，你會記住這句話，並且可能許多聽眾和觀眾會記得這句話缺乏坦誠。事情就是這樣，然後他們基本上就不會接電話了。
他們不接電話。我確信你嘗試過。我認識的每個人都嘗試過，作為一名記者，你不應該給消息來源提供建議，但我當時想，“如果你不開始解釋自己，這種情況就會消失。”
這就是發生的事情。忘記記者吧。薩蒂亞·納德拉 (Satya Nadella) 說：「到底發生了什麼事？我找不到任何人向我解釋。」這是該公司的主要財務支持者。然後薩蒂亞給[LinkedIn 聯合創始人]里德霍夫曼 (Reid Hoffman) 打電話，里德到處打電話說：「我不知道到底發生了什麼。」
可以理解的是，他們在資訊匱乏的情況下尋找傳統的非人工智慧指標來證明這種緊急、突然的解僱是合理的。就像，好吧，這是性犯罪嗎？是不是貪污了？整個微妙但我認為有意義的論點，即這項技術是不同的，這種較小的背叛的穩定積累可能對這個行業甚至對世界都有有意義的利害關係，但基本上都被迷失了。因此，資本主義的激勵措施取得了勝利，但成功的人也走出了困境，並且並不總是在掌握完整的資訊的情況下進行操作。
我想暫時問一下「每個人都認為是什麼」方面，因為我確實看到了這個新聞，我說，「哦，肯定發生了一些不好的事情。」你做過很多著名的#MeToo 報道。你揭露了哈維·韋恩斯坦的故事。
你花了很多時間報道這些我認為你認為最終毫無根據的指控：奧特曼性侵犯未成年人或僱用性工作者，甚至謀殺了一名 OpenAI 舉報人。我的意思是，你是最能嚴格報告這件事的人。你就決定一切都沒有結果嗎？
好吧，聽著，我並不是說某件事毫無結果。我可以說的是，我花了幾個月的時間研究這些說法，但沒有找到它們的佐證。令我震驚的是，這些人，這些對我們的未來擁有如此大權力的公司，確實在一場幼稚的泥漿戰中花費了不成比例的時間和資源。
一位高層將其描述為「莎士比亞式的」。私家偵探的資金和正在編制的反對派檔案的數量是無情的。不幸的是，山姆的競爭對手們鸚鵡學舌的那種淫蕩的東西只是假設的事實，對嗎？有人指控他追求未成年男孩，在矽谷的許多雞尾酒會上，你都會聽到這樣的說法。在巡迴會議上，我聽到可信的知名高管重複說：“每個人都知道這是事實。”
可悲的是，我談論的是它的來源，它傳播的各種載體。伊隆馬斯克和他的同事似乎正在推動真正的硬核檔案，但這些檔案毫無意義。當你真正開始審視潛在的主張時，它們就變得虛無縹緲。可悲的是，它確實掩蓋了更多基於證據的批評，我認為這些批評確實值得緊急監督和考慮。
故事中真正體現的另一個主題幾乎是一種恐懼感，山姆有這麼多朋友——他從之前擔任 Y Combinator 首席執行官以來投資了這麼多公司，只是他的個人投資，其中一些投資與他作為 OpenAI 首席執行官的角色直接衝突——而他周圍一片沉默。
當我特別讀到一行字時，它給我留下了深刻的印象。你描述了 Ilya Sutskever 的備忘錄，它們剛剛在矽谷發布。每個人稱它們為伊利亞備忘錄。但周圍甚至一片寂靜。它們被傳遞，但沒有被討論。你認為這是從哪裡來的？是恐懼嗎？是想獲得天使投資嗎？這是從哪裡來的？
老實說，我認為這是一種很懦弱的行為。在報導國家安全故事時，消息來源是可能失去一切並面臨起訴的舉報人，但他們仍然做正確的事並談論事情以建立問責制。我曾研究過你提到的與性犯罪相關的故事，其中的消息來源深受創傷，並擔心受到非常個人化的報復。
在很多情況下，圍繞著這個節拍，你要與具有自己的形象和權力的人打交道。他們要不是本身就是名人，就是周圍都是名人。他們擁有蓬勃發展的商業生活。在我看來，他們談論這些東西的曝光度其實很低。值得慶幸的是，正如我們之前談到的，情況正在發生變化，人們現在談論得更多。
但在很長一段時間裡，人們真的對此閉嘴了，因為我認為矽谷文化是如此無情地自私、無情地以商業和成長為導向。所以我認為這甚至困擾著一些參與解僱薩姆的人，你在幾天后看到的，是的，導致他回來並解僱老董事會成員的一個因素是他團結了對他的事業感到困惑的投資者。
但另一個問題是，周圍有很多其他人也有這樣的擔憂，並緊急表達了他們的擔憂，但他們只是像餐巾紙一樣折疊起來，當他們看到風向相反時就改變了態度，他們想搭上利潤列車。
老實說，從我作為記者的角度來看，這很黑暗。
其中一些是 Mira Murati，我相信他擔任了 20 分鐘的 OpenAI 新任執行長。隨後她被替換。這是一個非常複雜的動態，顯然，山姆回來了。另一個人是Ilya Sutskever，他是罷免Sam的選票之一，然後他改變了主意，或者至少說他改變了主意，然後他離開並創辦了自己的公司。你知道是什麼讓他改變了主意嗎？僅僅是錢嗎？
好吧，要先明確的是，我並不是單獨挑出這兩個人。還有其他參與解僱的董事會成員隨後也變得非常沉默。我認為這就像一個更廣泛的集體問題。在某些情況下，這些人有道德品質發出警報並採取激進行動，這是值得讚揚的。這就是確保責任的方式。這可能會幫助許多受這項技術影響的人。它本可以幫助一個行業保持更有意義的安全關注。
但在與舉報人和那些試圖多次追究責任的人打交道時，你也會發現需要堅持到底並堅持自己的信念。這個行業確實充滿了不堅持自己信念的人。
儘管他們認為他們正在建立一個數位上帝，它將以某種方式消除所有勞動力或創造更多勞動力，或者會發生一些事情。
嗯，就是這樣。因此，當出現任何熱潮或任何可能威脅到你自己在行業中的地位的事情時，不堅持你的信念和所有道德問題的文化可能在某種程度上對於那些照常生產任何類型的小部件的公司來說是很好的。
但這些人也在說：「這實際上可能會殺死我們所有人。」再說一次，你不必走向終結者天網的極限。一系列風險已經成為現實。這是真實的，他們對此發出警告是正確的，但你必須讓其他人在心理上思考這兩種東西是如何生活在同一個人身上，他們發出緊急警告，他們可能正在嘗試做某事，然後他們只是折疊起來並保持沉默。
這正是為什麼你會遇到這樣的情況：事情被隱藏起來，事後多年沒有人公開談論它。
這裡自然的責任方不是這些公司的執行長；而是這些公司的執行長。是政府。在美國，也許是州政府，也許是聯邦政府。
當然，這些公司都希望走向全球化。這裡有很多全球影響。我看到 OpenAI、Google和 Anthropic 都慫恿拜登政府發佈人工智慧行政命令。最後就差點沒牙了。它只是說他們必須談論他們的模型的能力並發布一些安全測試。然後他們都支持川普，川普進來並消除了所有這些並說：“我們必須具有競爭力。這是一場混戰。加油。”
同時，他們都試圖從擁有大量石油資金並希望改變經濟的中東國家籌集資金。這些都是政客。我覺得政客們絕對應該理解有人在從他們的嘴裡說出來，如果有人最終失望，他們不會太沮喪，但政客們也被欺騙了。你認為這是為什麼？
我認為，這確實是為什麼這篇文章在我看來很重要，也是為什麼它值得花費所有時間和細節。正如你所說，我們所處的環境中本應提供監督的系統被掏空了。那是一個後公民聯盟的美國，資金的流動是如此不受限制，而且這個問題特別集中在人工智慧方面，這些政治行動委員會正在激增，並大量投入資金，以廢除州和聯邦層面的有意義的監管。
[OpenAI 聯合創始人]格雷格·布羅克曼（Greg Brockman）是山姆的副手，他直接為其中的幾個做出了重大貢獻。它會導致立法者和潛在監管者真正被俘虜的情況，這是一個難以擺脫的惡性循環。可悲的是，我認為有一些簡單的政策措施（其中一些正在世界其他地方進行試驗）將有助於解決其中一些問責問題。
您可以進行更多強制性的部署前安全測試，這在歐洲已經針對前沿模型進行了。對於內部調查的類型，您可以有更嚴格的書面公共記錄要求，在這種情況下，我們看到事情沒有以書面形式進行。對於薩姆·奧爾特曼（Sam Altman）推動的中東基礎設施雄心，你可以擁有一套更強大的國家安全審查機制。
正如你所說，他正在與拜登政府做這種誘餌和轉變，說“監管我們，監管我們”，並幫助他們制定一項行政命令，然後特朗普介入的那一刻，真正的第一天，就沒有任何限制，“讓我們加速，讓我們在阿布扎比建立一個大型數據中心園區。”你可以有，這是一個非常簡單的問題，就像舉報人保護一樣。沒有聯邦法規保護人工智慧公司員工揭露本文中提到的此類安全問題。
我們有這樣的案例：OpenAI 的高級安全人員 Jan Leike 負責領導公司的超級聯盟。他寫信給董事會，本質上是舉報材料，稱公司在安全使命上偏離了軌道。這些人實際上應該有一個可以去監督的機構，他們應該得到我們在其他部門看到的那種明確的法律保護。這很容易複製薩班斯-奧克斯利法案式的製度。
我認為，儘管矽谷控制所有權力槓桿的問題多麼嚴重，儘管一些可能提供監督和護欄的機構被掏空，但我仍然相信民主和自私政客的基本原理。越來越多的民調數據表明，大多數美國人認為目前人工智慧的擔憂、問題或風險超過了好處。
因此，我認為人工智慧帶來的大量資金湧入政治，我們有能力讓這成為政客的一個問號。當美國人去投票時，他們應該仔細審查他們投票的人是否受到大型科技特殊利益團體的資助，特別是如果他們不加批判且反監管，考慮到所有這些擔憂。所以我認為如果人們能夠閱讀這樣的文章，聽這樣的播客，並且足夠關心批判性地思考作為選民，他們的決定確實有機會在華盛頓產生一群代表，他們會密切注意並強制監督。
這可能是我聽過的人對目前人工智慧產業最樂觀的評價之一。我很感激。我對你所說的民調很著迷。現在有很多。這一切都非常一致，而且看起來，尤其是年輕人，接觸人工智慧的次數越多，他們對此就越不信任和憤怒。這就是所有民調的效價。我看著這一點，我想，嗯，是的，聰明的政客會反對這一點。他們只會說，「我們將追究大型科技公司的責任。」
然後我想到過去 20 年，一位政治人物說他們將追究大型科技公司的責任，而我正在努力尋找大型科技公司被追究責任的哪怕一刻。唯一讓我認為這可能有所不同的是，你實際上必須建造資料中心，你可以投票反對，你可以請願反對，你可以抗議。
我認為有一位政客的房子剛剛遭到槍擊，因為他們投票支持資料中心。我稱之為緊張局勢達到了白熱化的程度。您描述了矽谷的孤立性。這是一個封閉的生態系。感覺就像他們認為自己可以統治世界。他們在政治上投入了大量資金，但他們面臨著人們不喜歡這些產品的現實，這並沒有給他們太多掩護。他們使用產品越多，就越不安，政客們開始意識到支持科技業而不是他們所代表的人民會產生真正的後果。
你已經和很多人談過了。您認為科技業有可能吸取眼前的教訓嗎？
你說感覺他們認為他們可以在沒有責任的情況下統治世界。我什至認為這不需要“感覺像”限定詞。我的意思是，你看看彼得泰爾使用的語言，它是明確的。當然，這是一個極端的例子。而山姆·奧爾特曼，儘管在某種程度上與蒂爾的意識形態很接近並受到影響，但他是一個非常不同的人，他可能聽起來不同，在某種程度上更加謹慎。
但我確實認為你從蒂爾那裡得到了更廣泛的意識形態，基本上是：我們已經不再需要民主了，我們不再需要它了。我們擁有的太多了，我們只想建造自己的小掩體。我們不再與卡內基家族或洛克斐勒家族打交道，他們是壞人，但他們覺得自己需要參與社會契約並為人們建造東西。這是一種真正的虛無主義。
我確實認為，在美國近代史上，大亨和私人公司獲得超級政府權力，而可能讓他們承擔責任的民主機構卻被掏空，這是一個相互強化的螺旋。我對這些人可能有一天醒來並想：「嗯，實際上也許我們確實需要參與社會並幫助為人們創造東西」的想法感到不樂觀。
我的意思是，你看一下「捐贈誓言」的微觀例子，曾經有一個時刻似乎是慈善的，但那個時刻現在已經過去，甚至受到嘲笑。這是一個問題，一個更廣泛的缺乏問責制的問題，我認為只能從外部解決。這必須是選民動員和恢復政府監督的力量。你說得對，人們實現這一目標的主要途徑是本地的。這與基礎設施的建設地點有關。
你提到了一些導致暴力和威脅的白熱化緊張局勢，顯然，任何人都不應該使用暴力或威脅。我來這裡也不是為了提出具體的政策建議，只是提出一些看似基本且在世界其他地方行之有效的政策步驟，對嗎？或那些在其他行業工作過的人。我在這裡並不是要說應該執行哪一個以及如何執行。
我確實認為需要發生一些事情，而且需要是外部的，而不僅僅是信任這些公司。因為對現在我們面臨的情況是，那些正在開發技術、最有能力了解風險的公司，實際上是那些警告我們風險的公司，也是那些除了有動力快速行動並忽視這些風險之外一無所有的公司。而你卻沒有任何東西可以抵銷這一點。因此，無論具體改革採取什麼措施，都必須遇到一些困難。我仍然保持樂觀態度，認為人民仍然很重要。
我通常都會相信你的論點。讓我提出一個我認為我可以清楚表達的微小反駁。投票箱外可能發生的另一件事是泡沫破裂，對嗎？並非所有這些公司都能到達終點線，也沒有適合消費者人工智慧應用的產品市場。再說一次，我還不太明白，但我是消費者技術評論員，也許我只是比其他人有更高的標準。
商業世界中存在適合市場的產品，對吧？讓一群人工智慧代理編寫一堆軟體似乎是這些工具的真正市場。你可以讀到這些公司的論點：“我們已經解決了編碼問題，這意味著我們可以解決任何問題。如果我們可以製作軟體，我們就可以解決任何問題。”
我認為軟體能做的事情確實有限制。這在商業世界裡很棒。軟體無法解決現實中的所有問題，但它們必須解決這個問題。他們必須完成工作，但也許不是每個人都能到達終點。然後出現崩潰，泡沫破滅，也許 OpenAI、Anthropic 或 xAI，其中一家公司失敗了，所有這些投資都消失了。
你認為這會影響這件事嗎？其實我先問第一個問題。 OpenAI 正處於 IPO 的風口浪尖。人們對薩姆作為領導者有許多疑問。你認為他們能到達終點線嗎？
我不會做出預測，但我認為你提出了一個重要的觀點，那就是市場誘因對矽谷內部確實很重要，而當前泡沫動態的不穩定性確實會再次打斷批評者認為的安全競爭。
我還想補充一點，如果你看看歷史先例，其中存在一系列類似且看似難以理解的市場激勵措施，並對公眾產生潛在的有害影響，就會出現影響訴訟。您最近認為這是一個值得關注的領域。薩姆·奧爾特曼 (Sam Altman) 本週支持一項立法，該立法將保護人工智慧公司免受 OpenAI 在非正常死亡訴訟中所面臨的某些類型的責任。當然，人們希望擁有這種免受責任的保護。
我認為法院仍然可以成為一個有意義的機制，看看這些訴訟如何進行將會非常有趣。例如，你已經看到了針對 Anthropic 使用受版權保護的書籍的集體訴訟，我和我認識的許多其他作者都是該訴訟的成員。如果有聰明的法律頭腦和原告關心，正如我們在歷史上從大煙草到大能源的案件中看到的那樣，你還可以獲得一些護欄和一些激勵措施來放慢速度、小心謹慎或以這種方式保護人們。
確實感覺人工智慧產業的整個成本結構都依賴於對合理使用的非常非常慈善的解釋。還不夠。如果這些公司必須向你和他們所承擔的工作的其他人支付報酬，那麼他們的成本結構可能會失控，但考慮起來很不方便，所以我們只是不考慮它。除此之外，所有這些產品現在都在虧損。就像今天一樣，他們都在不知所措。他們燒的錢比賺的錢還多。在某些時候，他們必須打開開關。
薩姆是一位商人。正如您多次提到的，他不是技術專家。他是一個商人。你認為他準備好打開開關說：「我們要賺一美元嗎？」因為當我問「你認為 OpenAI 會成功嗎？」這是他們必須賺一美元的時候。到目前為止，薩姆所有的錢都是透過向別人要錢而不是讓他的公司賺錢來賺的。
嗯，這對矽谷、投資者和公眾來說都是一個揮之不去的大問題。你會看到 OpenAI 的一些聲明和舉措似乎表現出對此的某種恐慌。關閉Sora，關閉一些附屬項目，試圖將核心產品歸零。但另一方面，你還是會同時看到大量的任務蔓延，對吧？即使是一個小例子——它顯然不是他們業務的核心——就是 TBPN 的收購。
順便說一句，就在我們到達終點線並進行事實核查時，面臨這種新聞審查的公司獲得了一個平台，可以在其中更直接地控制對話。根據我的談話，我認為有很多投資者擔心向所有人承諾一切的問題也會延伸到對核心商業模式的缺乏關注。我的意思是，你可能比我更接近預測和觀察市場。我將讓你和聽眾來判斷他們是否認為 OpenAI 可以打開開關。
好吧，我問這個問題是因為你在這篇文章中引用了一位微軟高管的話，那就是，“山姆的遺產最終可能會更類似於伯尼·麥道夫或薩姆·班克曼-弗里德”，而不是史蒂夫·喬布斯。這真是個比較。你對這個比較有何看法？
我認為這是一個釋義。賈伯斯的部分並不是引文的一部分。但它有一種有趣的清醒，因為它的措辭是這樣的，「我認為他最終成為 SBF 或麥道夫級別的騙子的可能性很小，但確實存在。」在我看來，這並不是說山姆被指控犯有這些特定類型的欺詐或犯罪行為，而是山姆的掩飾和欺騙程度最終可能有機會以這種規模被人們記住。
是的，老實說，我認為這句話最引人注目的是，你給微軟打電話，你不會得到這樣的答复：“這太瘋狂了。我們從來沒有聽說過。”你會得到很多類似的聲音，“是的，這裡很多人都這麼認為”，這很了不起。我認為這確實涉及到這些具體的業務問題。
例如，一位投資者告訴我，鑑於這種特質在被解僱後的幾年中持續存在」——這也認為這是一個有趣的清醒想法——山姆不一定應該處於名單的絕對底部，就像絕對不能建立這項技術的人而言，無論其價值如何，他都應該是最低的。有幾個人說埃隆·馬斯克就是那個人。但這種特質使他可能處於 AGI的人名單並低於該領域的幾位人物。
所以我認為這是一個有趣的評估，我認為這是從真正的實用主義者那裡得到的想法，他們可能不太相信安全問題。他們只是以成長為導向，他們認為 OpenAI 現在與 Sam Altman 有問題。
微軟的這篇文章真的很有趣。那家公司認為他們處於世界之巔。他們進行了這項投資，並將超越所有人，尤其是最重要的是谷歌，並重新贏得消費者的青睞。他們對這次冒險感到焦灼的程度——這是一家經營非常清醒的公司——我認為怎麼強調都不為過。
你提到了人物和性格特徵。我想以聽眾提出的問題作為來結束。我在我們的另一個節目《The Vergecast》中說過，我要和你談談，我說：「如果你對這個故事有任何問題想問羅南，請告訴我。 」因此，我們這裡有一個我認為與您所描述的內容緊密相關的內容。我只是想讀給你聽：
「奧特曼和其他人工智慧領導人的不良行為和殘酷行為的理由與羅南從政治和媒體其他知名領導人那裡聽到的理由有何不同？難道他們不都說世界是這樣改變的，以此為自己的行為辯護嗎？如果我不這麼做，別人也會這麼做嗎？ 」
是的，有很多這樣的事情。我想說，人工智慧的獨特之處在於，存在的風險如此之高，這意味著兩種風險的陳述都是極端的，對嗎？你有山姆·奧特曼說：「這對我們所有人來說可能都是熄燈的。」而且，批評者可能會說，提問者所指的狂熱是極端的，對吧？
山姆在記錄中指責埃隆的事情是，也許他想拯救人類，但前提是他是他。那種想要獲勝的自我成分，這是薩姆一直使用的框架，而這是歷史書上的框架，這可能會改變一切。因此，我認為，即使超越了大多數矽谷企業「你必須打破幾個雞蛋」的心態，在一些人工智慧領導者的心中，也存在著對任何和所有後果的完全合理化。
別忘了打破雞蛋。我/認為很多潛在的安全研究人員會說，這可能會帶來破壞國家、破壞世界、破壞數百萬工作和安全懸而未決的人的風險——這就是它的獨特之處。這就是我結束的地方，反思了這篇報道，我真的相信這不僅僅是關於薩姆·奧爾特曼的。這是一個不受約束的行業，以及美國無法約束它的一個不斷升級的問題。
是的。好吧，我們對此抱持一些樂觀態度，但我認為這是一個好的地方。
[笑]以悲觀的方式結束。
當然。這就是每一個偉大的故事，真的。馬斯克-奧特曼試驗即將到來。我想我們會在這裡學到更多。我想我會想再跟你談談。 Ronan Farrow，非常感謝您接受《解碼器》採訪。
謝謝。
對本集有疑問或評論嗎？請透過解碼器@theverge.com 與我們聯繫。我們確實閱讀了每封電子郵件！
