今日の Decoder では、現在活躍している調査報道界の最大のスターの 1 人、ローナン・ファローと話をします。彼は、ハーヴェイ・ワインスタインの物語をはじめ、数多くの物語を壊しました。そしてつい先週、彼と共著者のアンドリュー・マランツは、OpenAI CEO のサム・アルトマンとその信頼性、そして OpenAI 自体の台頭について、信じられないほど詳細な特集をニューヨーカーに掲載しました。
ここでさらに話を進める前に、ひとつ注意してください。ニューヨーカー紙がその記事を掲載しましたが、ロナンと私はアルトマン邸への襲撃の全容を知る前にこの会話をしました。そのため、私たちがそれについて直接話しているのを聞くことはできません。しかし、これだけは言っておきますが、私は、いかなる種類の暴力も容認できないものであり、サムに対するこれらの攻撃は容認できないものであり、この種の暴力につながる人々が感じる無力感自体が容認できないものであり、業界と政治指導者の両方からもっと精査される価値があると思います。それが明らかだといいのですが。
Verge 登録者の皆様、ポッドキャストをどこで入手しても、広告なしの Decoder に独占的にアクセスできることを忘れないでください。ここに向かいましょう。購読者ではありませんか?ここからサインアップできます。
そうは言っても、アルトマンの周囲には、ローナンとアンドリューがやろうとしているような、厳密な報道にふさわしい多くのことが渦巻いている。 ChatGPT の人気のおかげで、アルトマン氏は AI 業界で最も目立つ人物として浮上し、かつて非営利だった研究所をわずか数年でほぼ兆ドル規模の民間企業に変えました。しかし、アルトマンの神話には深い矛盾があり、彼の明白な取引能力と、報告されている彼の…そうですね、周囲の全員に嘘をつく傾向の両方によっても同様に定義されています。
この物語は 17,000 ワードを超える長さで、おそらく 2023 年に OpenAI 取締役会が虚偽の疑いでアルトマンを突然解雇し、ほぼ即座に再雇用されたときの出来事についての決定的な説明が含まれています。また、この本はアルトマンの私生活、投資、中東の資金への求愛、そしてある情報筋が彼を「真実にとらわれていない」と言わせた過去の行動や性格的特徴についての彼自身の考察についても深く掘り下げたものでもある。ぜひ全文を読むことをお勧めします。今後何年も参照されることになると思います。
ローナンはこの記事の取材に費やした18か月間、何度もアルトマンと話をしたので、私が主に興味を持ったのは、その間に彼がアルトマンに何らかの変化を感じたかどうかということだった。結局のところ、過去 1 年半の間に、AI、テクノロジー、そして世界で多くのことが起こりました。
ロナンがそのことについて直接語るのを聞くことができるほか、人々がアルトマンの真実を押し広げる能力について以前よりも積極的に話すようになったという彼の感覚も聞くことができるだろう。人々は、アルトマンのような人々の行動が、AI やテクノロジーだけでなく、社会全体の将来にとっても懸念されるのではないかと、大声で、そして記録上で疑問に思い始めています。
オーケー：ローナン・ファローがサム・アルトマン、AI、そして真実について語る。さぁ行こう。
このインタビューは、長さと明瞭さのために軽く編集されています。
ローナン・ファロー、あなたは調査記者であり、ニューヨーカー誌の寄稿者です。デコーダーへようこそ。
ここにいられてうれしいです。迎えてくれてありがとう。
お話しできるのがとても楽しみです。あなたはニューヨーカー誌に大きな記事を書きました。これはサム・アルトマンと、それに付随する OpenAI のプロフィールです。私の解釈では、すべての優れた機能がそうであるように、この記事は、人々がサム・アルトマンについて非常に長い間抱いてきた多くの感情を、厳密なレポートによって検証しているということです。あなたは明らかにそれを公開し、それに対する反応を得ました。今、それについてどう感じていますか？
そうですね、実際のところ、注目の経済が非常に統合失調症的で浅薄な時代に、それがどれほど打ち破られているかを見て、私は勇気づけられました。私の考えでは、これは私たち全員に影響を与える物語です。そして、私が人生の 1 年半を費やし、共著者のアンドリュー・マランツもその時間を、法医学的で細心の注意を払って何かをしようと努めてきたのですが、それは常に、物語の中心にある個人や企業を超えて、人々に影響を与えるより大きな構造的な問題があるように感じるからです。
サム・アルトマン氏は、シリコンバレーの誇大宣伝文化や、将来実現するかどうか分からない約束に基づいて莫大な評価額に膨れ上がるスタートアップ企業を背景に、さまざまなグループに異なる相反する事柄を伝えることは特徴であり、特徴であると考える創業者文化の受け入れが増えていると語った。バグ...そのような背景にもかかわらず、サム・アルトマンは、シリコンバレーでそうしたことを期待している誰もが、彼の信頼性と誠実さについてのこの問題について話し出すのをやめられないという異常なケースです。
私たちは、彼が不正疑惑や一連の虚偽疑惑を理由に解雇されたことをすでに知っていました。しかし驚くべきことに、素晴らしい報道があったにもかかわらず、キーチ・ヘイギーはこの件に関して素晴らしい仕事をしました。 Karen Hao はこれに関して素晴らしい仕事をしてくれました。実際に疑われている証拠ポイントと、それが世間の目から遠ざかっていた理由については、明確な理解はありませんでした。
一番のポイントは、私たちの一般の知識、さらにはシリコンバレーの内部関係者の知識におけるギャップのいくつかが、今ではもう少し埋められているという事実に心強く感じているということです。ギャップがあった理由のいくつかは、もう少し埋められました。
私たちは、社内の人々が物事が隠蔽されているか、意図的に文書化されていないと実際に感じた事例を報告します。この物語の新しいことの 1 つは、ウィルマーヘイルによる極めて重要な法律事務所の調査です。ウィルマーヘイルは明らかに高級で信頼できる大手法律事務所で、エンロンとワールドコムの調査を行っていました。ちなみに、これらの調査はいずれも数百ページに及ぶ膨大な量でした。ウィルマーヘイルは、アルトマンを解任する際の退任条件としてアルトマンを解任した取締役会メンバーらが要求したこの調査を行い、戻ってきた。そして、驚くべきことに、私が話を聞いた多くの法律専門家の目にも、そしてこの会社の多くの人々の目にも驚くべきことに、彼らはそれを文書化しないままにしていました。そこから明らかになったのは、何が起こったのかを信頼の崩壊として説明した OpenAI からの 800 ワードのプレスリリースだけでした。そして、これは口頭説明にとどめたということを確認しました。
たとえば、取締役会メンバーが OpenAI の元の非営利団体から営利団体への転換に反対票を投じようとしているように見え、それが棄権として記録されるケースがあります。会議では弁護士が「そうですね、それは過剰な調査を引き起こす可能性があります」と言っているようなものです。そして、反対票を投じたい人は、あらゆる場面で棄権者として記録される。事実上の争いがあります。ご想像のとおり、OpenAI はそうではないと主張しています。これらはすべて、企業が自らの責任で私たちの未来を握っている場合です。
安全上のリスクは非常に深刻であるため、まだ解消されていません。これが、この会社が安全に焦点を当てた非営利団体として設立された理由であり、この分野の信頼できる人々がそれを専門的ではないと考える方法で物事が曖昧にされていた理由です。そして、それを、有意義な規制を求める政治的意欲が非常に少ないという背景と結びつけます。非常に燃えやすい状況だと思います。
私にとって重要なのは、サム・アルトマンがこれらの質問に非常に鋭く値するということだけではありません。また、この分野の人々や主要人物の多くは、この特殊な特異性ではないにしても、常に嘘をつき続けるとされる特性を示しており、安全主義者だった人々がその義務を骨抜きにし、全員が競争に参加する姿勢を貫く、ある程度の底辺への競争精神を確かに示している。
Anthropic からの最近のリークを見ていると、この作品のボタンに誰が指を置くべきかという問題を提起している人物がいると思います。答えは、もし私たちが有意義な監督をしていないのであれば、私たちは真剣な質問をし、これらすべてについてできる限り多くの情報を表面化するよう努力する必要があると思います。だから、それについて意味のある会話、あるいは会話の始まりのように感じられることに私は元気づけられました。
なぜそのように聞いたかというと、1年半かけて取り組んでいただいたものだからです。あなたは共著者のアンドリューと一緒に、確か 100 人に話を聞きましたね。物語を作るには長い時間がかかります。特に AI 分野のここ 1 年半について思うのですが、登場人物全員の態度や価値観が非常に急速に変化しました。
おそらく、Sam Altman ほど重要な人物はいないでしょう。彼は ChatGPT をリリースしており、それが Google に取って代わられると誰もが考えていたため、デフォルトの勝者としてスタートしました。すると Google が反応し、Google が自社のビジネス、ビジネス史上ではないにしても、テクノロジー史上最高のビジネスの 1 つを守ろうとすることに彼らは驚いたようです。 Anthropic は企業に焦点を当てることを決定しました。主導権を握っているようだ企業における AI の利用率が非常に高いためです。
現在、OpenAI は自社製品を「Google に対抗する」という考えから Codex に焦点を絞り直して、エンタープライズに挑戦しようとしています。過去 1 年半にわたるあなたのレポートの過程で、あなたが話している登場人物が変わったように感じたかどうかは、よくわかりません。彼らの態度や価値観は変わりましたか?
はい。まず第一に、この記事で検討されている批判は、現時点でこれらの企業の内部の多くの人々から出ているものであり、この業界は存続の危機にもかかわらず、安全性をめぐって底辺への競争のようなものに陥っており、スピードが他のすべてに優先しているという懸念がさらに深刻になっていると思います。そして、過去 1 年半が経過するにつれて、それらの懸念はより正当化されたと思います。同時に、サム・アルトマンに対する態度も特に変化した。私たちがこの件について情報源と話し始めたとき、人々はこの件について引用され、記録に残されることに本当に非常に警戒していました。
私たちの報告が終わる頃には、人々がこの件について非常に公然とあからさまに話しており、取締役会のメンバーが「彼は病的な嘘つきだ。彼は社会病質者だ」などと言っている一連の報告書ができ上がっています。 「安全上のリスクを考えるとこれは危険であり、誠実さを高めたこのテクノロジーのリーダーが必要だ」というものから、「安全上のリスクは忘れてください。これは大手企業のどの幹部にとっても容認できない行動であり、あまりにも多くの機能不全を引き起こすだけです。」といったものまで、さまざまな視点があります。
そのため、会話はより明確になり、遅ればせながら、ある意味では心強いものになりました。そしてサム・アルトマン、彼の名誉のために言っておきますが…この作品は非常に公平で、サムにとっては寛大ですらあると言えます。これは「わかった」ことがたくさんあるような作品ではありません。この作業を終える間、私は彼と電話で何時間も費やし、彼の話を真剣に聞きました。
ご想像のとおり、このような作品では、すべてがうまくいくわけではありません。この作品のいくつかのケースは、私が真剣に聞いていたためです。そして、サムが実際に、私が水を含んでいると感じた、たとえそれが真実であったとしてもセンセーショナルである可能性があると主張していたとしたら、私はこれを法医学的に評価し続けるという側で本当に間違いを犯しました。したがって、それは正しく受け止められていると思います。そして、この期間にわたって蓄積されたこの事実の記録が、監督の必要性についてのより気を引き締める会話のきっかけになればと願うばかりです。
実はそれが私の次の質問です。この記事を報道する過程で、あなたはサムと十数回話したと思います。繰り返しますが、これは長期間にわたる多くの会話です。過去1年半の取材を通じてサムは変わったと思いますか?
うん。この中で最も興味深いサブプロットの 1 つは、サム アルトマンもこの特性についてこれまでよりも明確に語っていることだと思います。この作品におけるサムの姿勢は、「そこには何もない、これは真実ではない、何を言っているのかわからない」というようなものではありません。彼の態度は、これは人々を喜ばせる傾向と一種の紛争回避に起因するというものです。特にキャリアの初期に、それが自分に問題を引き起こしたことを彼は認めている。
彼はこう言っています。「そうですね、私はそれを超えつつあります。あるいは、ある程度は超えています。」私にとって本当に興味深いのは、私たちが話をした人々の一部が、単なる安全擁護派ではなく、こうした深刻な安全上の懸念を抱く傾向にある根本的な技術研究者だけでなく、現実的な大口投資家でもあったことだと思います。彼らはサムの支持者であり、場合によっては、この質問を見て、解雇後のサムの復帰に重要な役割を果たしたことさえも話します。さて、彼が改心したかどうか、そしてその変化がどの程度意味があるのかというこの質問について、彼らは「まあ、当時は彼に疑いの余地を与えた」と言います。
私は特にある著名な投資家のことを思い出します。「しかしそれ以来、彼が薪小屋の後ろに連れて行かれなかったことは明らかだ」と言ったのですが、この投資家は必要な範囲でこの言葉を使いました。結果として、これは安定した特性になったようです。私たちはこれを継続的に見ています。 OpenAI の最大のビジネスの一部をご覧ください人間関係と、その不信感の重みを継続的に背負っている様子。
Microsoft の場合と同様に、向こうの幹部と話をすると、彼らは非常に深刻で、最近になって触媒となった懸念を持っています。 OpenAI が、基盤となるステートレス AI モデルに関して Microsoft との独占権を再確認したのと同じ日に、ステートフル、つまりメモリを備えた AI エージェントを構築するためのエンタープライズ ソリューションの販売に関する Amazon との新しい契約も発表したという例があります。
Microsoft の担当者と話すと、「独占契約を結んでいる基盤となるものと対話しない限り、それを行うことは不可能です」というような答えが返されます。したがって、これは、この特性が常に進行中のビジネス活動に影響を及ぼしており、OpenAI の取締役会、経営陣、および広範な技術コミュニティ内で積極的な懸念の対象となっている、多くの小さな例の 1 つにすぎません。
あなたはその「特性」を言い続けています。物語の中に、私にとって論文のように感じられる行があります。それはあなたが説明している特性の説明です。それは、「サム・アルトマンは真実に束縛されない」ということと、「同じ人間にはほとんど見られない2つの特徴があるということだ。1つ目は、人を喜ばせたい、どんなやりとりでも好かれたいという強い欲求、2つ目は、誰かを騙すことで生じるかもしれない結果に対するほとんど社会病質的な無関心である」というものだ。
言っておきますが、私はその文章を500回読みました。そして、人々が好かれたいことを常に言い、嘘をつかれたと感じても動揺しないことを想像しようとしました。そして、私は自分の感情状態に、どうして同じ人間の中にそれらのものが存在し得るのかを理解させることができませんでした。あなたはサムとたくさん話しましたし、これらの特性を経験した人々とも話しました。彼はどうやってやるのでしょうか？
うん。人間的なレベルで見ても興味深いのは、私がこのような一連の報道に取り組む際、中心にいる人物を人間らしく表現し、深い理解と共感を求めることに重点を置いているからです。私がもう少し人間的な観点からこれにアプローチしようとしたとき、「おい、これまで一緒に仕事をしてきた多くの人が私を病的嘘つきだと言ったら、私にとっては壊滅的だ。あなたはその重みをどうやって背負うの? セラピーではそのことについてどのように話しますか? それについてあなたは自分自身にどのような話をしますか?」
私の見方では、おそらく西海岸の常套句のようなものを感じました。「そうだ、私はブレスワークが好きだ」というようなものです。しかし、私たちの行動や人々の扱いについてこの種のフィードバックを目にした場合、おそらく私たちの多くが抱くであろう、深い自己対峙のような身が引き締まるような感覚はあまりありません。
それは実際、質問に対する広範な答えにも当てはまると思います。サムは、この特性が問題を引き起こしているが、それが OpenAI の成長を大きく加速させ、さまざまなグループの人々を団結させて喜ばせることができたものの一部であるとも主張します。彼は、対立するすべての有権者に対し、彼らが関心を持っていることは彼も関心を持っていることだと常に説得している。そしてそれは創業者にとって非常に役立つスキルとなる可能性があります。投資家たちと話したことがありますが、彼らはこう言いました。「あまりにも不和を生むので、実際に会社を経営する上ではあまり役に立たないスキルかもしれません。」
しかし、サム個人の面では、人間レベルでつながりを持とうとするときに私が気づくのは、より深い対立、反省、自己責任が明らかに欠如していることだと思います。これは、IPOの準備をしている企業にとってその超能力や責任を物語るものでもあります。
スー・ユンという元取締役の一人の言葉を借りれば、彼女は「無謀」という言葉を使っていると記事の中で記録されているが、彼のセールストークの移り変わりつつある現実を本当に信じることができる、あるいは自分自身を納得させることができる人物である。少なくとも、彼がそれらを信じていないとしても、彼は意味のある自信喪失なしにそれらを暴言で通り抜けることができます。
あなたが話していることは、あなたや私がそのことを言っていて、それが私たちが行った他の保証と矛盾していることに気づいたときに、フリーズしたり自分自身を確認したりする瞬間があると思います。彼にはそんなことは起こらないと思う。そして、シリコンバレーには、それを受け入れる広範な誇大広告文化と創業者文化が存在します。
面白いですね。 The Verge は製品レビューに相当するものに基づいて構築されていますプログラム。それが私たちがここで行っていることの核心です。私は年に一度、Apple の研究開発に 1 兆ドルを投資し、「この携帯電話は 7 です」と言います。そして、それは私たちのすべての報道や他の場所での意見をある意味正当化します。当社には評価機能があり、AI 製品を見て「これは機能しますか?」と言うだけで多くの時間を費やします。
それは、今日の AI に関する会話の多くから欠けているように感じます。何ができるのか、どれほど危険なのかについての会話は尽きません。そしてドリルダウンして、「今日行うべきことを実際に実行しているか?」と考えます。場合によっては、答えは「はい」です。しかし、多くの場合、答えはノーです。
それは、あなたが説明している誇大広告の文化と、何かが起こると言って実際に起こらず、誰かが気分を害したとしても、私たちは次のことに取り組んでいるから大丈夫だという感覚にもつながっているように感じます。それは過去のことです。特に AI に関しては、サムは壮大な約束をするのがとても上手です。
ちょうど今週、あなたの話が公開されたのと同じ日に、OpenAI は社会契約を再考し、政府から AI 効率化の補助金を得る必要があると述べた政策文書を発表しました。これは、あるテクノロジーが世界の未来と私たちの生活をどのように形作るかについての壮大な約束であり、そのすべてはテクノロジーがおそらく約束されたとおりに機能するか、または機能するはずであると正確に機能するかどうかに依存しています。
サムが AI が AGI や超知能になること、あるいはゴールに到達することを疑っていたことはありますか?それが私が最も疑問に思っていることだからです。このコアテクノロジーが、できると言われているすべてのことを実行できるかどうかについて、何か考えはありますか?
まさに適切な質問セットです。この一連のレポートで私たちが話を聞いた信頼できる技術者がいますが、明らかにサム・アルトマンはその一人ではありません。彼はビジネスマンであり、サムがこのテクノロジーのスケジュールについて語るやり方は、まったく的外れであると言っています。数年前のブログ投稿で、サムは「私たちはすでに事象の地平線に到達しています。AGIは基本的にここにあります。超知能はすぐそこまで来ています。私たちは他の惑星に行くつもりです。私たちはあらゆる種類の癌を治すつもりです。」と述べています。本当に、私は美化していません。
癌の話は実際に興味深いもので、サムは理論的には愛犬の癌を ChatGPT で治した人物を誇大宣伝していますが、実際にはそんなことは起こりませんでした。彼らは ChatGPT に相談し、それが実際に研究を行う一部の研究者を導くのに役立ちましたが、1 対 1 でこのツールがこの犬を治したという話は実際にはありません。
この点を指摘していただいたことをうれしく思います。なぜなら、テクノロジーの可能性とリスクの両方が実際にいつ決まるのかという、より大きな点について話したいからです。しかし、サム・アルトマンから常に起こるこれらの小さな余談について言及する価値はあります。彼はこの特性を再び体現しているように見えます。
つまり、ウィルマーヘイル報告書の例で言えば、私たちは書面に残されていなかったこの情報を入手しており、途中で口頭での準備書面がサムが監督に就任するのに協力した2人の取締役以外の誰かに与えられたかどうかを知りたかったのです。そして彼は、「ええ、ええ、いいえ、その後取締役会に加わった全員にそれが与えられたと思います。」と言いました。そして、状況を直接知る人物は、それは単なる嘘であると言っています。そしてそれは実際に事実であるように見えますが、それは真実ではありません。私たちが寛大になりたいのであれば、おそらく彼は誤った情報を与えられていたのでしょう。
こうした何気ない保証はたくさんあります。そして、私がその例を使ったのは、これが、法的に重大な結果をもたらす可能性がある、いわば不当な行為の好例だからでもあります。デラウェア州の会社法に基づき、この会社が IPO を行う場合、株主は第 220 条に基づいてこれについて苦情を申し立て、根拠となる文書の提出を要求することができると言うのは言うまでもありません。すでに役員の中には「ちょっと待てよ、あの説明会は開催されるべきだった」などと言っている人もいる。
つまり、彼の口から常に飛び出してくるように見えるこれらのことは、実際の市場を動かす効果、つまり OpenAI に実際の効果をもたらす可能性があります。再び浮上したある種のユートピア的な誇大宣伝の言葉に話を戻すと、この作品が公開された日は偶然ではないと思いますが、この作品のやり方に関して危険が非常に深刻であるため、この作品が私たち全員に影響を与えたのも偶然ではないと思います。兵器への配備、化学兵器の特定に使用される方法、偽情報の可能性、そしてユートピア的誇大宣伝のやり方から、多くの信頼できる経済学者が「これはすべてバブルの兆候だ」と言わせているようだ。
サム・アルトマンでさえ、「誰かがここで大金を失うことになるだろう」と言いました。これらすべての企業が相互に取引を行い、莫大な借金をしながらAIに全力で取り組み、バブルに真の穴が開くようなことがあれば、それはアメリカと世界の経済成長を本当に大きく揺るがす可能性がある。つまり、サム・アルトマンの言うことは重要であり、彼の周囲の人々の優位性が重要だと思います、あなたは私たちが100人以上と話をしたと言いましたが、実際には100人をはるかに超えていました。ゴールラインで私たちは「これほど高い数字だと言うのはあまりにもつまらないだろうか？」というような会話をしました。それで私たちは「そうだ、控えめにしよう。クールにやろう」と思った。しかし、非常に多くの人が、そしてその大多数が「これは懸念である」と言いました。それがすべての理由だと思います。
その数字についてお聞きします。あなたが言及したように、時間が経つにつれて、人々は懸念に対してますますオープンになってきました。バブルの周囲のプレッシャー、つまり勝ち、投資をすべて返済し、勝者として浮上し、IPOを目指す競争が、多くの考え方を変えたように感じます。それは確かに、Sam と OpenAI に対するさらなるプレッシャーを生み出しました。
今週、私たちは OpenAI の雰囲気についての記事を公開しました。あなたの話もその一部ですが、OpenAI では幹部クラスの人員配置が大幅に変更され、人材が出入りしています。研究者たちは全員、主に人類学に向かっていますが、これは本当に興味深いことだと思います。この会社がプレッシャーを感じており、そのプレッシャーに何らかの形で対応していることがわかります。
しかし、サムが解雇されたことを思い出します。これは私にとって思い出深いものばかりです。誰にとっても思い出に残る出来事ではありませんが、金曜日の午後 7 時にブロンクス動物園で関係者に電話をかけたところ、サムを取り戻そうとしていると誰かが言っていたのです。そして私たちは週末を費やしてその話を追い続けました。それで私はただ「動物園にいます。ここで何をしてほしいですか？」って感じでした。そして答えは「電話を続けてください」でした。そうですね、娘は「電話を切って」と言っていました。そしてそれが私がやったことです。
サムを取り戻すには乗るか死ぬかだった。その会社は「いいえ、取締役会にサム・アルトマンを解任させるつもりはありません」という感じでした。投資家たちは、あなたの記事の中で引用されていますが、「我々は戦争に行った」というのが、「サムを取り戻すため」というスライブ・キャピタルの立場だと思います。マイクロソフトはサムを取り戻すために戦争を始めた。それは後になり、今では誰もが「私たちはIPOに行くつもりです。ゴールラインに着きました。私たちは彼を取り戻しました、そして彼は私たちをゴールラインに連れて行ってくれるでしょう。私たちは彼が嘘つきではないかと心配しています。」という感じです。
なぜ当時彼を取り戻すために戦争が必要だったのでしょうか？実際には何も変わっていないように見えるからです。あなたは、イリヤ・サツケヴァーと[アンスロピックCEO]ダリオ・アモデイがサム・アルトマンと同時代に保管していたメモについて話しています。イリヤの一番の心配は、サムが嘘つきではないかということでした。
それは何も変わっていません。それでは、なぜ当時彼を連れ戻すために戦争が必要だったのでしょうか？そしてゴールラインに到達した今、すべての懸念が白日の下にさらされているように思えます。
まず第一に、あなたの娘と私のパートナー、そしてジャーナリストの周りにいるすべての人々に申し訳ありません。
（笑）誰にとっても充実した週末でした。
そう、それは人の人生を引き継ぎます、そしてこの物語は間違いなく私のものです、過去の期間にわたって。それは実際、ジャーナリズムと情報へのアクセスというテーマに関係していると思います。サムのために戦った投資家ら全員がサムの復帰を確実にする役割を果たし、成長よりも安全を優先し、信頼できない場合は幹部を解雇するという非営利団体の使命を守るために特別に設計された理事会も去った。それはすべて、そうです、市場のインセンティブがあったからですよね？
サムは人々に、「会社は崩壊するだろう」と説得することができました。しかし、彼が支持された理由は情報の不足でした。そうした投資家は多くの場合、「今振り返ってみると、主張が何であり、懸念が何であるかを十分に知っていれば、もっと懸念を抱くべきだったと思う」と言う。
全部ではありません。意見はさまざまであり、私たちはさまざまな意見を引用しますが、非常に部分的な情報に基づいて行動している重要な意見もあります。サムを解雇したボードは、かつてボードにいた人の言葉を借りれば「まさにJV」で、彼らはボールを激しくファンブルした。そして、私たちは根底にある苦情を文書化し、人々はそれが自分が感じたような緊急の懸念に積み重なるかどうかを自分で判断できますが、その議論や情報は提示されていませんでした。
彼らは、今では悪質な法的アドバイスだと認めているものを受けました。それを説明すると、あなたはこの引用を覚えているでしょうし、おそらく多くのリスナーや視聴者もその引用を率直さの欠如として覚えているでしょう。それが縮小され、その後は基本的に電話を受けなくなりました。
彼らは電話に出ようとしませんでした。きっと試したと思います。私の知り合いは皆試してみて、ジャーナリストとして情報源にアドバイスをすべきではないというところまで行きましたが、私は「自分で説明を始めなければ、この問題は解決するだろう」と思っていました。
そしてそれが起こったのです。ジャーナリストのことは忘れてください。サティア・ナデラが「一体何が起こったんだ？誰にも説明してもらえないよ」と言っていましたね。そしてそれが同社の主要な財政的支援者だ。そして、サティアが（LinkedIn共同創設者の）リード・ホフマンに電話し、リードがあちこちに電話して「一体何が起こったのか分からない」と言うのです。
彼らが情報不足の中で、このような緊急かつ突然の発砲を正当化する従来の非 AI 指標を探しているのは当然です。そうですね、それは性犯罪でしたか？横領だったのか？そして、このテクノロジーは他とは異なり、この種の小さな裏切りの着実な蓄積がこのビジネスとおそらく世界の両方にとって意味のある利害をもたらす可能性があるという、微妙ではあるが意味があると思われる議論は、ほとんど失われた。したがって、資本主義者のインセンティブが勝ちましたが、それを作った人たちも外に出てしまい、常に完全な情報を持って活動しているわけではありませんでした。
「みんながどう思っていたか」という点について少しだけ聞きたいのですが、私は確かにそのニュースを見て、「ああ、何か悪いことが起こったに違いない」と思ったからです。有名な話ですが、あなたは #MeToo レポートを数多く行ってきました。あなたはハーヴェイ・ワインスタインの物語を壊しました。
あなたは、アルトマンが未成年者を性的暴行したり、セックスワーカーを雇ったり、OpenAIの内部告発者を殺害したりしたという、最終的には根拠がないと判断したと私が判断した主張について、多くの時間を費やして報道しました。つまり、この件について最も厳密に報告できるのはあなたです。もう無駄だと判断したんですか？
そうですね、私は何かが無駄になったと言うつもりはありません。私が言えることは、私はこれらの主張を何ヶ月もかけて調べましたが、その裏付けを見つけることができなかったということです。そして、私たちの将来に対して非常に大きな力を持っているこれらの企業、これらの企業が、本当に子供じみた泥仕合に不釣り合いな量の時間とリソースを費やしていることは私にとって印象的でした。
ある幹部はそれを「シェイクスピアのようだ」と表現する。私立探偵への多額の資金と、作成される反政府関係書類の量は容赦ない。そして残念なことに、サムの競争相手によってオウム返しにされるような卑劣な内容は、単なる事実として想定されているということですよね？彼が未成年の少年を追いかけているという疑惑があり、シリコンバレーの多くのカクテルパーティーでこれを耳にします。カンファレンスでは、信頼できる著名な幹部が「これが事実であることは誰もが知っています」と繰り返すのを聞いたことがあります。
悲しいことに、私はこれがどこから来たのか、それが伝わるさまざまなベクトルについて話しているのです。イーロン・マスクとその仲間たちは、一見何の役にも立たないような本当にハードコアな文書を推進しているようだ。実際に基礎的な主張を見始めると、それらは曖昧になります。悲しいことは、私が本当に緊急の監視と検討に値すると思う、より証拠に基づいたここでの批判が実際に曖昧になっていることです。
この物語の中で本当に伝わってくるもう 1 つのテーマは、サムには非常に多くの友人がいるという恐怖感です。彼は Y Combinator の CEO としての以前の職務から、個人的な投資に至るまで非常に多くの企業に投資しており、その中には OpenAI の CEO としての役割と直接矛盾するものも含まれています。そして彼の周囲には沈黙があります。
ある一行を読んでいて、あることに気づきました。あなたはイリヤ・サツケヴァーのメモについて説明しましたが、それはまさにシリコンバレーにありました。みんなそれらをイリヤメモと呼んでいます。しかし、その周りには沈黙さえあります。それらは回覧されますが、議論されることはありません。それはどこから来たと思いますか?恐怖ですか？エンジェル投資を受けたいという願望でしょうか？それはどこから来たのでしょうか？
正直に言うと、それはとても卑怯なことだと思います。情報源が内部告発者であり、すべてを失って起訴される可能性がある国家安全保障関連の記事を報道してきたにもかかわらず、彼らは依然として正しいことを行い、説明責任を生み出すために物事について話します。私はあなたが言及した性犯罪関連の記事に取り組んできましたが、情報源は深いトラウマを抱えており、非常に個人的な種類の報復を恐れています。
多くの場合、このビートでは、独自のプロフィールと力を持つ人々と関わることになります。彼らは自分自身が有名人であるか、有名人に囲まれているかのどちらかです。彼らは堅実なビジネス生活を送っています。私の考えでは、彼らがこのことについて話すことは実際には非常に低い露出です。そしてありがたいことに、先ほど話したように針は動いており、人々の会話が増えています。
しかし、これほど長い間、人々はそのことについて黙っていました。なぜなら、シリコンバレーの文化は非常に冷酷なまでに利己的で、冷酷なまでにビジネスと成長志向だと私は考えているからです。ですから、これはサムの解任に関わった一部の人々さえも悩ませていると思います。その後の数日でわかりましたが、彼が復帰し、古い取締役会メンバーを解任するに至った要因の一つは、彼が自分の大義に混乱していた投資家を結集させたことでした。
しかしもう一つは、懸念を抱いて緊急に声を上げた周囲の非常に多くの人々が、風が逆に吹いているのを見た瞬間にナプキンのように折り畳んで態度を変え、利益列車に乗ろうとしたことだ。
正直なところ、記者としての私の立場からすると、それはかなり暗いです。
その中には、おそらく 20 分間 OpenAI の新しい CEO を務めたミラ・ムラティ氏も含まれます。その後、彼女は交代した。それは非常に複雑な力関係でしたが、明らかにサムが戻ってきました。もう一人はイリヤ・サツケヴァーで、彼はサムの解任に賛成票を投じた一人だったが、その後気が変わったか、少なくとも気が変わったと言い、その後自分の会社を始めるために辞めた。何が彼の考えを変えたのか知っていますか?お金だけだったのでしょうか？
そうですね、はっきり言っておきますが、私はこの 2 人を特別に選んでいるわけではありません。解任に関与した取締役会メンバーの中には、解任後に非常に沈黙した人もいる。それはより広範な集団的な問題のようなものだと思います。これらは場合によっては、警鐘を鳴らして過激な行動を起こす道徳心を持つ人々であり、それは賞賛されるべきことです。そうすることで説明責任が保証されます。そうすれば、このテクノロジーの影響を受ける多くの人々が救われたかもしれません。そうすれば、業界は安全性をより有意義に重視し続けることができたかもしれない。
しかし、内部告発者やその責任を追及しようとする人々に頻繁に対処すると、それを貫き、自分の信念を貫くという精神が必要であることもわかります。そしてこの業界には、自分の信念を貫けない人が本当にたくさんいます。
彼らはデジタルの神を構築しており、何らかの形ですべての労働を排除するか、より多くの労働を生み出すか、あるいは何かが起こると考えているにもかかわらずです。
まあ、それが問題です。したがって、ビジネス内での自分自身の立場を脅かす可能性のある熱気や何かが起こった瞬間に、自分の信念を支持せず、すべての倫理的懸念を脇に置くという文化は、おそらく、どのような種類のウィジェットを作成している通常通りの企業にとっては、ある程度は大丈夫であり、良いことなのかもしれません。
しかし、彼らはまた、「これは文字通り私たち全員を殺す可能性がある」と言っているのと同じ人々です。繰り返しますが、ターミネーター スカイネットのエクストリームに行く必要はありません。すでに顕在化している一連のリスクがあります。それは現実であり、彼らがそれについて警告するのは正しいことだが、緊急の警告を発し、つま先を突っ込んで何かをしようとしているのに、ただ折り畳んで沈黙している同じ人々の中で、この二つのことがどのようにして起こるのかを、他の誰かに安楽椅子に座って心理学的に分析してもらう必要があるだろう。
それがまさに、このようなことが書かれなかったり、隠蔽されたり、事実後何年も誰もそのことについて公然と語らなかったりする例が存在する理由なのです。
ここでの当然の責任者は、これらの企業の CEO ではありません。それは政府だろう。米国では、おそらくそれは州政府、あるいは連邦政府かもしれません。
確かに、これらの企業はいずれもグローバル化を望んでいます。ここには世界的な影響がたくさんあります。私は、OpenAI、Google、Anthropic が揃ってバイデン政権に AI 大統領令を出すよう働きかけているのを見ました。最後はかなり歯が立たなかった。自社のモデルがどのような機能を備えているかについて話し合い、いくつかの安全性テストを公開する必要があるとだけ述べた。そして彼ら全員がトランプを支持し、トランプが登場してそれらすべてを一掃し、「我々は競争力を持たなければならない。これは自由参加だ。頑張れ」と言いました。
同時に、彼らは皆、潤沢なオイルマネーを持ち、経済を変えたいと考えている中東諸国から資金を調達しようとしている。彼らは政治家です。政治家は、誰かが双方の口から話していることを絶対に理解すべきだと思いますし、誰かが最終的に失望してもそれほど動揺することはありませんが、政治家も乗せられています。それはなぜだと思いますか?
これこそが、私にとってこの作品が重要な理由であり、これほど時間と詳細を費やす価値がある理由なのだと思います。私たちは、あなたが言うように、監視を提供すべきシステムが空洞化している環境にいます。それはシチズン・ユナイテッド・アメリカ後の時代であり、そこではお金の流れが非常に自由であり、AIを中心にその問題が特に集中している。そこでは州と連邦レベルの両方で意味のある規制を打ち砕くために増殖し資金を注ぎ込んでいるPACが存在する。
サムの次席指揮官である [OpenAI 共同創設者] グレッグ ブロックマンは、これらのいくつかに大きな形で直接貢献しています。それは実際に議員や潜在的な規制当局を捕らえてしまう状況につながり、そこから抜け出すのは難しいスパイラルです。悲しいことに、これらの説明責任の問題の一部を解決する簡単な政策措置があり、その一部は世界の他の場所で試行されていると私は考えています。
導入前の安全性テストをさらに義務付けることもできますが、これはすでにヨーロッパのフロンティアモデルで行われているものです。今回の件で文書化されていないことが確認された種類の内部調査については、より厳格な書面による公記録要件を設けることができるでしょう。サム・アルトマン氏が推し進めていたような中東のインフラ野望に対して、より強固な国家安全保障レビューメカニズムを設けることもできるだろう。
あなたが言うように、彼はバイデン政権に対して「我々を規制してくれ、我々を規制せよ」と言って、大統領令の作成を手伝いながらこのおとり商法を行っていたのに、トランプ大統領が政権に就いた瞬間、まさに最初の数日で、「加速してアブダビに大規模なデータセンター・キャンパスを建設しよう」と、何の制限もなく言い始めたのです。これは内部告発者保護のような非常に単純なものです。この作品で放映されているような安全上の懸念を明らかにする AI 企業の従業員を保護する連邦法はありません。
OpenAI の上級安全担当者だった Jan Leike 氏が社内でのスーパー連携を主導していたケースもあります。彼は取締役会に、本質的には内部告発の内容で、会社が安全の使命から逸脱していると述べた手紙を書いた。このような人々には、実際に相談できる監督機関が必要であり、他の分野で見られるような明確な法的保護が与えられるべきです。これはサーベンス・オクスリー方式の体制を再現するのが簡単です。
シリコンバレーが権力のすべてのレバーをコントロールしているという問題がいかに深刻であるかにも関わらず、そして監視とガードレールを提供する可能性のあるこれらの機関の一部がどれほど空洞化しているにも関わらず、私は依然として民主主義と利己的な政治家の基本的な計算を信じていると思う。そして、大多数のアメリカ人が現在 AI の懸念、疑問、またはリスクが利点を上回っていると考えているという世論調査データがますます明らかになってきています。
AI による政治への資金の洪水を、政治家に対する疑問符の源にすることは、私たちのあらゆる力の範囲内だと思います。アメリカ人が投票に行くときは、これらすべての懸念を考慮すると、自分が投票する人々、特に無批判で規制に反対する人々が大手ハイテク特殊利益団体によって資金提供されているかどうかを精査する必要がある。したがって、人々がこのような記事を読み、このようなポッドキャストを聞き、批判的に考えるのに十分な注意を払うことができれば、と私は思います。有権者としての彼らの決定には、監視を続けて監視を強制する議員の選挙区をワシントンに生み出す真のチャンスがある。
それは、現在の AI 業界についてこれまでに聞いた中で最も楽観的な言葉の 1 つかもしれません。それは有り難いです。私はあなたが話している世論調査に夢中です。今ではたくさんあります。それはすべてかなり一貫していて、特に若者がAIにさらされるほど、AIに対する不信感と怒りが増すようです。それがすべての投票の価値です。それを見て、賢明な政治家ならそれに反対するだろうと思います。彼らはただ「我々は大手テクノロジー企業に責任を負わせるつもりだ」と言うだけだ。
それから私は、過去 20 年間のことを思い出します。政治家は大手テクノロジー企業の責任を追及すると言いましたが、私は一瞬たりとも大手テクノロジー企業が責任を問われるのを見つけるのに苦労しています。これは違うのではないかと思う唯一のことは、実際にデータセンターを建設する必要があり、それに反対する投票や請願、抗議ができるということです。
データセンターに投票したために自宅を銃撃された政治家がいると思います。緊張感は最高潮に達しています。あなたはシリコンバレーの閉鎖性について説明しました。これは閉鎖的なエコシステムです。彼らは自分たちが世界を動かすことができると考えているように感じます。彼らは政治に巨額の資金をつぎ込んでいるが、人々が製品を愛しておらず、十分な報道がされていないという現実に直面している。製品を使えば使うほど彼らの怒りは大きくなり、政治家たちは自分たちが代表する国民よりもテクノロジー業界を支持することが現実的な結果をもたらすことに気づき始めている。
あなたはたくさんの人たちと話しました。テクノロジー業界が目の前の教訓を学ぶことは可能だと思いますか?
彼らは責任を負わなくても世界を運営できると考えているように感じるとあなたは言います。 「こんな感じ」という修飾語も必要ないと思います。ピーター・ティールが使っている言葉を見てみると、それは露骨です。もちろん、それは極端な例です。そして、サム・アルトマンは、ある程度までティールのイデオロギーに近づき、影響を受けているものの、非常に異なる種類の人物であり、ある点までは異なっていて、より慎重に聞こえるかもしれません。
しかし、ティールから得られるより広範なイデオロギーは、基本的には「民主主義はもう終わった、もう必要ない」というものだと思います。たくさんあるので、自分たちだけの小さなバンカーを作りたいと思っています。私たちはもうカーネギー家やロックフェラー家とは取引していません。彼らは悪者ですが、彼らは社会契約に参加し、人々のために何かを構築する必要があると感じています。本当のニヒリズムが根付いています。
そして私は、最近のアメリカの歴史において、大物や民間企業が超政府権力を獲得する一方、彼らに責任を負わせる可能性のある民主的制度が空洞化するという、相互に強化し合うスパイラルだと私は考えている。彼らがある日目覚めて、「ああ、実際のところ、私たちは社会に参加して、人々のために何かを作るのを助ける必要があるかもしれない」と考えるかもしれないという考えについて、私は楽観的ではありません。
つまり、『寄付の誓い』の小宇宙的な例のように、それが一見慈善的であるように見えた瞬間がありましたが、その瞬間は今では過去になり、嘲笑さえされています。それは問題であり、説明責任の欠如というより広範な問題は、外部からのみ解決できると私は考えています。それは有権者が結集し、政府の監視力を復活させることでなければならない。そして、人々がそれを達成するための主なベクトルはローカルなものである、と言うのはまさにその通りです。それはインフラが建設されている場所に関係します。
あなたは、この件に関して暴力や脅迫につながる白熱した緊張の一部について言及しましたが、当然のことながら、誰も暴力や脅迫をすべきではありません。また、私は、基本的で世界の他の場所で実施されている政策ステップのいくつかを提示するだけで、特定の政策を推奨するためにここにいるわけではありません。あるいは他の分野で働いてきた人も。私はここで、どれをどのように実行すべきかを言うつもりはありません。
私は何かが起こる必要があると思います、そしてそれは単にこれらの企業を信頼するだけでなく、外部から起こる必要があると思います。正しいから現在、テクノロジーを開発しており、リスクを理解するのに最も優れた設備を備えている企業が、実際に私たちにリスクを警告している企業でもあり、急いでリスクを無視しようとする動機しかない企業でもあるという状況にあります。そして、それを相殺するものは何もありません。したがって、改革が具体的にどのようなものであっても、それには何かがぶつからなければなりません。そして、私は依然として人々が重要であるという楽観主義に戻ります。
私はあなたの主張に概ね同意します。私が明確に表現できると思う小さな反論を 1 つだけ述べさせてください。投票箱の外で起こり得るもう一つのことは、バブルがはじけることですよね?これらすべての企業がゴールラインに到達しているわけではなく、消費者向け AI アプリケーションに適した製品市場が存在していないこと。繰り返しになりますが、まだよくわかりませんが、私は消費者向けテクノロジーの評論家であり、おそらく他の人よりも高い基準を持っているだけかもしれません。
ビジネスの世界にはプロダクトマーケットフィットがありますよね？多数の AI エージェントに多数のソフトウェアを作成させることが、これらのツールの本当の市場であるようです。そして、これらの企業の主張は、「私たちはコーディングを解決しました。つまり、何でも解決できるということです。ソフトウェアを作ることができれば、どんな問題も解決できます。」という主張を読むことができます。
ソフトウェアでできることには本当に限界があると思います。それはビジネスの世界では素晴らしいことです。実際にはソフトウェアがすべての問題を解決できるわけではありませんが、そこに到達する必要があります。彼らは仕事を終わらせなければなりませんが、おそらく全員がゴールラインに到達できるわけではありません。そして暴落が起こり、バブルがはじけ、おそらく OpenAI か Anthropic か xAI のいずれかが倒産し、この投資はすべて消えてしまいます。
それがこれに影響すると思いますか？実は、まず最初の質問をさせていただきます。 OpenAI はまさに IPO の直前にあります。リーダーとしてのサムには多くの疑問がある。彼らはゴールラインに到達できると思いますか?
予言するつもりはありませんが、あなたは重要な点を提起していると思います。それは、シリコンバレーにとって市場のインセンティブは内部的に重要であり、現在のバブルのダイナミクスの不安定さは、批評家によると、安全性を求めて底辺を目指す競争を再び潜在的に中断する可能性があるということです。
さらに付け加えておきますが、歴史的な前例を見ると、同様に一見不可解な一連の市場インセンティブと一般大衆への潜在的な悪影響が存在する場合、影響訴訟が存在します。そして、それが最近の懸念事項であると考えられています。サム・アルトマン氏は今週、OpenAIが不当な死刑訴訟などでさらされている種類の責任からAI企業を守る法案を支持している。もちろん、責任を逃れたいという欲求はあります。
私は裁判所が依然として意味のあるメカニズムである可能性があると考えており、これらの訴訟がどのように形成されるかを見るのは非常に興味深いでしょう。たとえば、著作権で保護されている書籍の使用を理由に Anthropic を相手取った集団訴訟（私や私が知っている他の多くの著者もメンバーです）をすでに見たでしょう。大手タバコから大手エネルギーまでの訴訟で歴史的に見てきたように、賢明な法的知識と関心のある原告がいれば、スピードを緩めたり、注意したり、そうやって人々を守るためのガードレールやインセンティブも得ることができます。
AI 業界のコスト構造全体が、フェアユースの非常に慈善的な解釈に依存しているように感じます。十分に思い浮かびません。これらの企業のコスト構造は、あなたや彼らが働いた他の全員に支払わなければならない場合、制御不能になる可能性がありますが、それを考えるのは不便なので、私たちはそれについて考えていません。そのすぐ隣で、これらの製品はすべて赤字になっています。今日のように、彼らは皆途方に暮れています。彼らは稼げる以上のお金を浪費しているのです。ある時点で、スイッチを切り替える必要があります。
サムはビジネスマンです。何度も言いましたが、彼は技術者ではありません。彼はビジネスマンです。彼はスイッチを入れて「一ドル儲けるぞ」と言う準備ができていると思いますか？なぜなら、私が「OpenAIは成功すると思いますか？」と尋ねると、「OpenAIは成功すると思いますか？」と答えるからです。彼らがドルを稼がなければならないときです。そしてこれまでのところ、サムは自分の会社にお金を稼いでもらうのではなく、他人にお金をせびってすべてのお金を稼いでいます。
そうですね、それはシリコンバレー、投資家、そして一般の人々にとって、いつまでも残る大きな疑問です。OpenAI からは、それに対する一種のパニックを示すような発言や動きがいくつか見られます。 Sora をシャットダウンし、いくつかの補助プロジェクトをシャットダウンして、コア製品に集中しようとします。しかしその一方で、同時に大量のミッションが発生していることもわかりますよね?小さな例でも、明らかに彼らのビジネスの中核ではありませんが、TBPN の買収があります。
ところで、私たちがゴールに到達して事実確認を行っているまさにそのとき、この種のジャーナリズムの厳しい監視に直面している企業は、会話をより直接的にコントロールできるプラットフォームを取得しました。私がこれまでに交わした会話によると、すべての人にすべてを約束するこの問題は、中核となるビジネスモデルの焦点の欠如にも及ぶのではないかと懸念している投資家がたくさんいると思います。つまり、あなたはおそらく私よりも市場を予測し、監視するタイプに近いのです。 OpenAI がスイッチを切り替えることができると思うかどうかは、あなたとリスナーの判断に任せます。
そうですね、私がこの質問をしたのは、記事の中にマイクロソフトの上級幹部の言葉が載っていたからですが、それは「サムの遺産は、最終的にはスティーブ・ジョブズというよりも、バーニー・マドフやサム・バンクマン・フリードに似てくるかもしれない」というものでした。それはかなりの比較です。その比較についてどう思いましたか?
それは言い換えだと思います。スティーブ・ジョブズの部分は引用文には含まれていませんでした。しかし、「彼が最終的にSBFかマドフレベルの詐欺師になる可能性は、小さいながらも現実にあると思う」というような表現になっているため、興味深い種類の冷静さがあります。私の考えでは、サムが特定の種類の詐欺や犯罪で告発されているということではなく、サムの見当違いや欺瞞の程度が最終的にその規模で記憶に残る可能性があるということを意味します。
そうですね、正直に言って、この言葉で最も印象的なのは、Microsoft に電話をかけても、「それはおかしい。そんなことは聞いたことがない」というような反応を返さないことです。 「そう、ここにいる多くの人がそう思っているよ」という意見がたくさん寄せられますが、これは驚くべきことです。そして、それはこれらの基本的なビジネス上の質問にも当てはまると思います。
例えば、ある投資家は、この特性が解雇後何年も続いていることを踏まえて、私にこう言った。」そしてこの人も、これは興味深い冷静な考えだと思ったが、必ずしもサムがリストの絶対的な最下位である必要はない、価値があるこのテクノロジーを絶対に構築してはならない人々という点で最下位であるべきだということだった。イーロン・マスクがその人物であると言っている人は何人かいる。しかし、この特性が彼をおそらく最下位に置くだろうということだ。 AGI を構築すべき人物のリストの最下位であり、この分野の他の指導的人物の下にいます。
これは興味深い評価だと思いました。おそらく安全性への懸念をそれほど受け入れていない真の現実主義者から得られる考え方だと思います。彼らはただ成長志向であり、OpenAI は現在サム アルトマンの問題を抱えていると考えています。
Microsoft の記事は本当に興味深いです。その会社は自分たちが世界の頂点にいると思っていました。彼らはこの投資を行って、すべての人、特に最も重要なことに Google を飛び越えて、消費者の恩恵に戻るつもりだったということです。この冒険で彼らがどれほど燃えているかは、非常に冷静に運営されている会社であるため、誇張することはできないと思います。
キャラクターや性格についても言及しました。ここでリスナーからの質問で終わりたいと思います。私は別の番組、The Vergecast で、あなたと話す予定であると言い、「この話についてローナンに質問がある場合は、知らせてください。」と言いました。それで、ここに、あなたが説明していることときれいに結びついていると思うものがあります。読み上げさせていただきます。
「アルトマンや他のAIリーダーたちの悪い行為や残忍な行動の正当化は、ロナンが政治やメディアの他の著名な指導者から聞いた正当化とどう違うのでしょうか？彼らは皆、これが世界を変える方法だと言って自分たちの行動を正当化しているのではないでしょうか？私がやらないと他の人がやるの？」
そうですね、そういうことはたくさんあります。 AI の特徴は、生存に関わるリスクが非常に高いということは、リスクの記述が両方とも極端であることを意味すると思います。サム・アルトマンがいるよ「これで私たち全員が消灯するかもしれない」と言いました。また、批評家は、質問者が言っているマニアは極端だと言うかもしれませんね？
記録上、サムがイーロンを非難したのは、彼は人類を救いたいのかもしれないが、それが自分自身である場合に限る、というものだった。サムがいつも使っている勝ちたいというエゴの要素、そしてこれは歴史に残るものであるという枠組みは、すべてを変える可能性があります。したがって、シリコンバレーのほとんどの企業の「卵を数個割らなければならない」という考え方を超えて、AI を主導する一部の人物の心の中には、あらゆる影響に対する完全な合理化があると私は思います。
そして卵を割ることも忘れてください。根底にある安全性研究者の多くは、潜在的に国を壊し、世界を壊し、仕事と安全のバランスを保っている何百万人もの人々を壊す危険があると言うだろうと思います。それがこの問題のユニークな点です。ここで私はこの一連の報道を振り返り、これはサム・アルトマン以上のものであると心から信じて終わります。これは、制約のない業界と、アメリカがそれを制約できないというスパイラルな問題についての話です。
うん。まあ、そこには楽観的な見方もありましたが、それはやめておくのが良いと思います。
(笑) ダウンビートで終わります。
もちろん。それは本当に素晴らしい話です。マスクとアルトマンの裁判が近づいている。私たちはここでさらに多くのことを学ぶことになると思います。きっとまた話したくなると思います。ローナン・ファロー、Decoder にご参加いただき誠にありがとうございます。
ありがとう。
このエピソードに関するご質問やコメントはありますか? [email protected] までご連絡ください。私たちはすべてのメールを本当に読んでいます。
