Сегодня на Decoder я разговариваю с Ронаном Фэрроу, одной из крупнейших звезд журналистских расследований, работающих сегодня. Он рассказал историю Харви Вайнштейна среди многих, многих других. И только на прошлой неделе он и соавтор Эндрю Маранц опубликовали в журнале The New Yorker невероятную глубокую статью о генеральном директоре OpenAI Сэме Альтмане, его надежности и развитии самой OpenAI.
Одно замечание, прежде чем мы пойдем дальше: The New Yorker опубликовал эту историю, и мы с Ронаном разговаривали об этом еще до того, как узнали полный масштаб атак на дом Альтмана, поэтому вы не услышите, как мы говорим об этом напрямую. Но, просто говоря, я считаю, что насилие любого рода неприемлемо, эти нападения на Сэма были неприемлемы, и что та беспомощность, которую чувствуют люди и которая приводит к такого рода насилию, сама по себе неприемлема и заслуживает гораздо большего внимания как со стороны отрасли, так и со стороны наших политических лидеров. Надеюсь, это ясно.
Подписчики Verge, не забывайте, что вы получаете эксклюзивный доступ к декодеру без рекламы, где бы вы ни хранили свои подкасты. Направляйтесь сюда. Не подписчик? Вы можете зарегистрироваться здесь.
Тем не менее, вокруг Альтмана кружится много всего, что является честной игрой для строгого репортажа - такого рода репортажей, которые намеревались сделать Ронан и Эндрю. Благодаря популярности ChatGPT Альтман стал самым заметным главой индустрии искусственного интеллекта, всего за несколько лет превратив некогда некоммерческую исследовательскую лабораторию в частную компанию с оборотом почти в триллион долларов. Но миф об Альтмане глубоко противоречив, в равной степени определяемый как его очевидной способностью заключать сделки, так и его известной склонностью… ну, лгать всем вокруг.
История насчитывает более 17 000 слов и, возможно, содержит исчерпывающий отчет о том, что произошло в 2023 году, когда совет директоров OpenAI внезапно уволил Альтмана из-за его предполагаемой лжи, но его почти мгновенно снова приняли на работу. Это также глубокое погружение в личную жизнь Альтмана, его инвестиции, его поиски денег с Ближнего Востока и его собственные размышления о его прошлом поведении и чертах характера, которые заставили один источник сказать, что он «не ограничен правдой». Я действительно советую вам прочитать всю историю; Я подозреваю, что на него будут ссылаться еще много лет.
Ронан много раз разговаривал с Альтманом за те 18 месяцев, которые он потратил на репортаж об этой статье, и поэтому одна из главных вещей, которые меня интересовали, заключалась в том, почувствовал ли он какие-либо изменения в Альтмане за это время. В конце концов, за последние полтора года многое произошло в области искусственного интеллекта, технологий и мира.
Вы услышите, как Ронан говорит об этом очень прямо, а также его ощущение, что люди стали гораздо охотнее говорить о способности Альтмана преувеличивать правду. Люди начинают задаваться вопросом, вслух и под запись, касается ли поведение таких людей, как Альтман, не только для ИИ или технологий, но и для коллективного будущего общества.
Хорошо: Ронан Фэрроу о Сэме Альтмане, искусственном интеллекте и правде. Вот так.
Это интервью было слегка отредактировано для обеспечения длины и ясности.
Ронан Фэрроу, вы репортер-расследователь и сотрудник The New Yorker. Добро пожаловать в Декодер.
Рад быть здесь. Спасибо, что ты у меня есть.
Я очень рад поговорить с вами. Вы только что написали большую статью для The New Yorker. Это профиль Сэма Альтмана и, вроде как, OpenAI. Я считаю, что, как и все замечательные функции, он, благодаря тщательной отчетности, подтверждает множество чувств, которые люди испытывали к Сэму Альтману в течение очень долгого времени. Вы, очевидно, опубликовали это, вы получили на это реакцию. Что вы чувствуете по этому поводу прямо сейчас?
Что ж, на самом деле меня воодушевило то, насколько это удалось в то время, когда экономика внимания настолько шизофренична и поверхностна. Это история, которая, на мой взгляд, затрагивает всех нас. И когда я провел полтора года своей жизни, и мой соавтор Эндрю Маранц тоже провел это время, действительно пытаясь сделать что-то криминалистическое и тщательное, это всегда потому, что я чувствую, что существуют более серьезные структурные проблемы, которые затрагивают людей, помимо отдельного человека и компании, находящихся в центре истории.
Сэм Альтман, на фоне хайп-культуры Кремниевой долины и стартапов, которые раздуваются до огромных оценок, основанных на обещаниях, которые могут или не могут сбыться в будущем, и растущего принятия культуры основателей, которая считает, что рассказывать разным группам о разных противоречивых вещах - это особенность, а неошибка… Даже на этом фоне Сэм Альтман представляет собой исключительный случай, когда каждый в Кремниевой долине, кто ожидает подобных вещей, не может перестать говорить о вопросе его надежности и честности.
Мы уже знали, что его уволили по какой-то версии обвинений в нечестности или серийной предполагаемой лжи. Но что удивительно, несмотря на то, что репортажи были замечательные, Кич Хэги проделал большую работу над этим. Карен Хао проделала большую работу над этим. На самом деле не было окончательного понимания фактических предполагаемых доказательств и причин, по которым они остались вне поля зрения общественности.
Итак, пункт номер один: меня воодушевляет тот факт, что некоторые из этих пробелов в наших публичных знаниях и даже в знаниях инсайдеров Кремниевой долины теперь немного заполнены. Некоторые из причин, по которым существовали пробелы, были немного дополнены.
Мы сообщаем о случаях, когда люди внутри этой компании действительно чувствовали, что что-то скрывают или намеренно не документируют. Одним из новых моментов в этой истории является важнейшее расследование юридической фирмы WilmerHale, которая, очевидно, является модной, заслуживающей доверия, крупной юридической фирмой, которая проводила расследования в отношении Enron и WorldCom, которые, кстати, были объемными, примерно сотни опубликованных страниц. Уилмерхейл провел расследование, которого потребовали члены совета директоров, уволившие Альтмана в качестве условия их ухода, когда он от них избавился, и он вернулся. И что самое удивительное — в глазах многих экспертов по правовым вопросам, с которыми я разговаривал, и шокирующее в глазах многих людей в этой компании — они не опубликовали это в письменном виде. Все, что из этого вышло, — это пресс-релиз OpenAI из 800 слов, в котором произошедшее описывалось как подрыв доверия. И мы подтвердили, что это ограничилось устными брифингами.
Бывают случаи, когда, например, член совета директоров, по-видимому, хочет проголосовать против преобразования первоначальной некоммерческой формы OpenAI в коммерческую организацию, и это фиксируется как воздержавшийся. На собрании адвокат говорит: «Ну, это может спровоцировать слишком пристальное внимание». А тот, кто хочет проголосовать против, по всей видимости, записывается как воздержавшийся. Есть фактический спор. OpenAI утверждает обратное, как вы можете себе представить. Во всех этих случаях у вас есть компания, которая сама по себе держит наше будущее в своих руках.
Ставки безопасности настолько высоки, что они никуда не делись. Именно по этой причине эта компания была основана как некоммерческая организация, ориентированная на безопасность, и где все скрывалось так, что заслуживающие доверия люди вокруг этого считали ее непрофессиональной. И вы сочетаете это с фоном, где так мало политического стремления к значимому регулированию. Я считаю, что это очень взрывоопасная ситуация.
Для меня дело не только в том, что Сэм Альтман так остро заслуживает этих вопросов. Кроме того, любой из этих парней в этой области, а также многие ключевые фигуры, демонстрируют если не эту особую, предполагаемую черту «все время лгать», то, безусловно, некоторую степень менталитета гонки до дна, когда люди, которые были сторонниками безопасности, смягчили эти обязательства и позицию «все участвуют в гонке».
Я думаю, что, когда мы смотрим на недавние утечки из Anthropic, есть человек, который задает вопрос о том, кто должен держать руку на кнопке в этой статье. Ответ таков: если у нас нет значимого надзора, я думаю, нам придется задавать серьезные вопросы и пытаться раскрыть как можно больше информации обо всех этих парнях. Так что меня воодушевило то, что кажется содержательным разговором об этом или его началом.
Причина, по которой я спросил об этом именно так, заключается в том, что вы работали над этим полтора года. С вашим соавтором Эндрю вы поговорили, по-моему, со 100 людьми. Это долгий срок, чтобы приготовить историю. Я думаю, в частности, о последних полутора годах в ИИ, и, черт возьми, взгляды и ценности всех этих персонажей очень быстро изменились.
Возможно, не более, чем Сэм Альтман, который по умолчанию был победителем, потому что они выпустили ChatGPT, и все думали, что он просто заменит Google. А затем Google ответил, и их, казалось, удивило то, что Google попытается защитить свой бизнес, возможно, один из лучших предприятий в истории технологий, если не в истории бизнеса. Anthropic решила, что сосредоточится на этом предприятии. Кажется, он берет на себя командное лидерствотам, потому что использование ИИ на предприятиях очень велико.
Теперь OpenAI переориентирует свой продукт с «мы собираемся бросить вызов Google» на Кодекс, и они собираются взяться за предприятие. Я просто не могу точно сказать, было ли в ходе ваших репортажей за последние полтора года ощущение, что персонажи, с которыми вы разговаривали, изменились? Изменились ли их взгляды и ценности?
Да. Я думаю, прежде всего, что критика, которая исследуется в этой статье и исходит от многих людей внутри этих компаний на данный момент — что это отрасль, которая, несмотря на экзистенциальные ставки, скатывается к чему-то вроде гонки на дно в области безопасности и где скорость превосходит все остальное — эта озабоченность стала более острой. И я думаю, что эти опасения стали еще более обоснованными по прошествии последних полутора лет. Одновременно конкретно изменилось отношение к Сэму Альтману. Когда мы начали говорить об этом с источниками, люди очень, очень настороженно относились к тому, чтобы их цитировали и делали об этом записи.
К концу наших репортажей у вас есть масса репортажей, в которых люди говорят об этом очень открыто и недвусмысленно, а члены совета директоров говорят что-то вроде: "Он патологический лжец. Он социопат". Существует целый ряд точек зрения: от «Это опасно, учитывая интересы безопасности, и нам нужны лидеры в этой сфере, обладающие повышенной честностью», вплоть до «Забудьте о безопасности, это поведение неприемлемо для любого руководителя любой крупной компании, оно просто создает слишком много дисфункций».
Таким образом, разговор стал гораздо более откровенным, что может показаться запоздалым, но в каком-то смысле обнадеживает. И Сэм Альтман, надо отдать ему должное... Статья очень справедливая и даже щедрая, я бы сказал, к Сэму. Это не та пьеса, в которой много «попало на тебя». Я провел с ним много-много часов по телефону, пока мы заканчивали эту работу, и действительно выслушал его.
Как вы можете себе представить, в таком произведении не все умещается. Некоторые из этих случаев в этом случае произошли потому, что я искренне слушал. И если Сэм на самом деле приводил доводы в пользу того, что я чувствую себя несносным, что что-то, даже если это правда, может быть сенсационным, я действительно ошибся, сохранив это судебно-медицинское исследование и измерение. Поэтому я думаю, что это воспринято правильно, и я просто надеюсь, что этот фактический материал, накопленный за этот период времени, может спровоцировать более оживительный разговор о необходимости надзора.
Собственно, это мой следующий вопрос. Я думаю, вы разговаривали с Сэмом дюжину раз, пока писали эту историю. Опять же, это много разговоров за длительный период времени. Думали ли вы, что Сэм изменился за время репортажей за последние полтора года?
Ага. Я думаю, что один из самых интересных сюжетов в этом заключается в том, что Сэм Альтман также говорит об этой черте более явно, чем раньше. Поза Сэма в этом произведении не такая: «Там ничего нет, это неправда, я не знаю, о чем ты говоришь». По его мнению, это объясняется склонностью угождать людям и своего рода неприятием конфликтов. Он признает, что это вызвало у него проблемы, особенно в начале его карьеры.
Он говорит: «Ну, я прохожу мимо этого или в какой-то степени прохожу мимо этого». Я думаю, что мне действительно интересно, так это контингент людей, с которыми мы говорили, которые были не просто защитниками безопасности, не просто техническими исследователями, которые очень часто склонны испытывать эти острые проблемы безопасности, но и прагматичными крупными инвесторами. Они являются сторонниками Сэма, которые в некоторых случаях смотрят на этот вопрос и говорят о том, что даже сыграли ключевую роль в его возвращении после увольнения. Теперь, на вопрос о том, исправился ли он и насколько значимы эти изменения, они говорят: «Ну, в то время мы дали ему презумпцию невиновности».
Я имею в виду, в частности, одного известного инвестора, который сказал: «Но с тех пор стало ясно, что его не выводили за дровяной сарай», и эту фразу он использовал в той степени, в которой это было необходимо. В результате кажется, что теперь это стабильная черта. Мы наблюдаем это постоянно. Вы можете взглянуть на некоторые из крупнейших предприятий OpenAI.отношения и то, как они постоянно несут бремя этого недоверия.
Как и в случае с Microsoft, вы разговариваете с руководителями там, и у них возникают действительно острые и недавно катализатором проблемы. Есть такой случай, когда в тот же день OpenAI подтверждает свою эксклюзивность с Microsoft в отношении базовых моделей ИИ без сохранения состояния, а также объявляет о новой сделке с Amazon, которая связана с продажей корпоративных решений для создания агентов ИИ с сохранением состояния, то есть у них есть память.
Вы разговариваете с людьми из Microsoft, и они говорят: «Это невозможно сделать без взаимодействия с базовыми вещами, на которые у нас есть эксклюзивное соглашение». Так что это лишь один из многих небольших примеров, когда эта черта постоянно проявляется в текущей деловой активности и является предметом активного беспокойства в совете директоров OpenAI, в ее руководящем составе и в более широком технологическом сообществе.
Вы продолжаете говорить об этой «черте». В этой истории есть строка, которая мне кажется тезисом, и это описание черты, которую вы описываете. Дело в том, что «Сэм Альтман не ограничен правдой» и что у него есть «две черты, которые почти никогда не встречаются в одном и том же человеке: первая — это сильное желание нравиться людям, нравиться в любом конкретном взаимодействии, а вторая — почти социопатическое отсутствие беспокойства о последствиях, которые могут возникнуть в результате обмана кого-либо».
Должен вам сказать, я прочитал это предложение 500 раз и пытался представить, что всегда говорю то, что люди хотят, чтобы они нравились, а потом не расстраиваюсь, когда они чувствуют, что им лгали. И я не мог дать своему эмоциональному состоянию понять, как эти вещи могут существовать в одном и том же человеке. Вы много разговаривали с Сэмом и общались с людьми, которые испытали на себе эти качества. Как он это делает?
Ага. Это интересно на человеческом уровне, потому что я подхожу к таким репортажам, уделяя особое внимание гуманизации тех, кто находится в центре событий, и стремясь к глубокому пониманию и сочувствию. Когда я как бы попытался подойти к этому с более человеческой точки зрения и сказать: "Эй, это было бы для меня разрушительно, если бы так много людей, с которыми я работал, сказали бы, что я патологический лжец. Как вы несете этот груз? Как вы говорите об этом в терапии? Какую историю вы себе рассказываете по этому поводу?"
На мой взгляд, у меня есть что-то вроде банальности Западного побережья по этому поводу, например: «Да, мне нравится работа с дыханием». Но не так много того бодрящего чувства глубокой самоконфронтации, которое, я думаю, многие из нас, вероятно, испытывали бы, если бы видели такого рода обратную связь о своем поведении и обращении с людьми.
Я думаю, что на самом деле это тоже относится к более широкому ответу на вопрос. Сэм утверждает, что эта черта вызвала проблемы, но также и то, что она позволила ему настолько ускорить рост OpenAI, что он способен объединять и угождать различным группам людей. Он постоянно убеждает все эти конфликтующие группы избирателей в том, что их волнует то же, что и его. И это может быть действительно полезным навыком для основателя. Я разговаривал с инвесторами, которые затем говорили: «Ну, может быть, это менее полезный навык для реального управления компанией, потому что он сеет много разногласий».
Но что касается лично Сэма, я думаю, что когда я пытаюсь установить контакт на человеческом уровне, я замечаю очевидное отсутствие более глубокой конфронтации, размышлений и ответственности за себя, что также сообщает об этой сверхсиле или ответственности для компании, готовящейся к IPO.
Он тот, кто, по словам одного бывшего члена совета директоров по имени Сью Юн, который официально упоминает в статье, что она использует фразу «до «беспомощности»», способен действительно поверить в меняющуюся реальность своих коммерческих предложений или способен убедить себя в них. Или, по крайней мере, если он им не верит, он способен проноситься сквозь них без серьезной неуверенности в себе.
Я думаю, что то, о чем вы говорите, когда вы или я могли бы, когда мы говорим это и понимаем, что это противоречит другим заверениям, которые мы дали, как бы на мгновение замираем или проверяем себя. Я думаю, что с ним этого не произойдет. И в Кремниевой долине существует более широкая культура ажиотажа и культура основателей, которая как бы охватывает это.
Это смешно. The Verge построен на обзорах продуктов.программа. Это суть того, что мы здесь делаем. Раз в год я получаю триллион долларов на исследования и разработки Apple и говорю: «Этот телефон — семерка». И это как бы узаконивает все наши репортажи и наши мнения в других местах. У нас есть функция оценки, и мы тратим много времени, просто глядя на продукты ИИ и задаваясь вопросом: «Они работают?»
Такое ощущение, что этого не хватает во многих сегодняшних разговорах об ИИ. Ведутся бесконечные разговоры о том, на что он способен и насколько он может быть опасен. А затем вы углубляетесь и спрашиваете: «Действительно ли он делает то, что должен делать сегодня?» В некоторых случаях ответ — да. Но во многих, многих случаях ответ — нет.
Такое ощущение, что это связано с культурой хайпа, которую вы описываете, а также с ощущением, что, ну, если вы говорите, что он что-то сделает, а он этого не делает, и кто-то чувствует себя плохо, это нормально, потому что мы переходим к следующему. Это в прошлом. В частности, в области искусственного интеллекта Сэм так хорош в даче грандиозных обещаний.
Буквально на этой неделе, я думаю, в тот же день, когда была опубликована ваша история, OpenAI опубликовала политический документ, в котором говорилось, что нам необходимо переосмыслить общественный договор и получить от правительства стипендии за эффективность ИИ. Это грандиозное обещание о том, как какая-то технология может повлиять на будущее мира и на то, как мы живем, и все это зависит от того, будет ли технология работать именно так, как ей обещают или она должна работать.
Вы когда-нибудь замечали, чтобы Сэм сомневался, что ИИ превратится в ОИИ или суперинтеллект или доберется до финиша? Потому что это то, о чем я думаю больше всего. Есть ли какие-либо размышления о том, может ли эта базовая технология делать все, о чем говорят?
Это совершенно правильный набор вопросов. Есть заслуживающие доверия технологи, с которыми мы говорили в этом отчете, и, очевидно, Сэм Альтман не один из них; он деловой человек, который говорит, что то, как Сэм говорит о сроках появления этой технологии, еще очень далеко. Несколько лет назад в блогах были сообщения, в которых Сэм говорит: "Мы уже достигли горизонта событий. По сути, AGI уже здесь. Суперинтеллект не за горами. Мы собираемся оказаться на других планетах. Мы собираемся лечить все формы рака". Правда, я не приукрашиваю.
Вопрос о раке на самом деле интересен: Сэм расхваливает человека, который теоретически вылечил рак своей собаки с помощью ChatGPT, а этого просто не произошло. Они поговорили с ChatGPT, и это помогло им помочь некоторым исследователям, которые действительно выполнили работу, но тот факт, что этот инструмент вылечил эту собаку один на один, на самом деле не является историей.
Я рад, что вы подняли этот вопрос, потому что я хочу перейти к более важному вопросу о том, когда и потенциал, и риск технологии действительно начнут проявляться. Но стоит упомянуть и об этих небольших отступлениях, которые постоянно случаются у Сэма Альтмана, где он, кажется, снова воплощает эту черту.
Я имею в виду, если использовать пример отчета Уилмерхейла, где у нас была информация, которая не была опубликована, и мы хотели знать, было ли устное сообщение по ходу дела передано кому-либо, кроме двух членов правления, которых Сэм помог установить для наблюдения за ним. И он сказал: «Да, да, нет, я считаю, что это было дано всем, кто присоединился к совету директоров после этого». А у нас есть человек, непосредственно знающий ситуацию, который говорит, что это просто ложь. И это действительно так, похоже, что это неправда. Если мы хотим быть щедрыми, возможно, его дезинформировали.
Таких случайных заверений очень много. И я использую этот пример отчасти потому, что это отличный пример лицемерия, назовем это так, которое может иметь реальные юридические последствия. Мне не нужно говорить вам, что согласно корпоративному законодательству Делавэра, если эта компания выйдет на IPO, акционеры могут в соответствии с разделом 220 подать жалобу на это и потребовать подтверждающую документацию. Члены правления уже говорят что-то вроде: «Ну, подождите, этот брифинг должен был состояться».
Таким образом, эти вещи, которые, кажется, все время выскакивают из его рта, могут иметь реальный эффект на рынке, реальный эффект для OpenAI. Возвращаясь к тому утопическому языку шумихи, который снова всплыл на поверхность, я думаю, что не случайно в тот день, когда эта статья вышла, она затрагивает и всех нас, потому что опасности настолько велики по отношению к тому, как она написана.его применение в оружии, то, как оно используется для идентификации боевых отравляющих веществ, потенциал дезинформации, а также то, как утопическая шумиха, похоже, побуждает многих авторитетных экономистов говорить: «Это имеет все признаки пузыря».
Даже Сэм Альтман сказал: «Кто-то здесь потеряет много денег». Это действительно может подорвать экономический рост в Америке и во всем мире, если произойдет настоящий прокол пузыря, в котором все эти компании будут заключать сделки друг с другом, полностью посвятив себя искусственному интеллекту, одновременно занимая такие большие займы. Так что то, что говорит Сэм Альтман, имеет значение, и я думаю, что большинство людей вокруг него, вы упомянули, что мы разговаривали с более чем сотней, на самом деле их было намного больше сотни. На финише у нас был разговор: «Не будет ли слишком мелочно сказать, что это гораздо большее число?» И мы такие: "Да, давайте преуменьшать. Мы будем вести себя хладнокровно". Но было так много людей, и такое значительное большинство из них говорили: «Это вызывает беспокойство». И я думаю, именно поэтому.
Позвольте мне спросить вас об этом номере. Как вы упомянули, с течением времени люди становились все более и более откровенными в своих проблемах. Такое ощущение, что давление вокруг пузыря — гонка за победой, за то, чтобы окупить все эти инвестиции, выйти победителем, выйти на IPO — изменило многие отношения. Это, безусловно, оказало большее давление на Сэма и OpenAI.
На этой неделе мы опубликовали статью о духе OpenAI. Ваша история является частью этого, но в OpenAI происходят массовые кадровые изменения в руководящих рядах — люди приходят и уходят. Все исследователи разъехались, в основном в Anthropic, что, на мой взгляд, действительно интересно. Вы можете просто видеть, что эта компания чувствует давление и каким-то образом реагирует на это давление.
Но потом я вспоминаю, как Сэма уволили. Это просто памятно для меня. Больше никому это не запомнилось, но мне позвонил источник в зоопарке Бронкса в 19:00 в пятницу, и кто-то сказал, что попытается вернуть Сэма. А потом мы провели выходные, разыскивая эту историю. И я такой: "Я в зоопарке. Что ты хочешь, чтобы я здесь делал?" И ответ был: «Оставайтесь на телефоне». Ну, моя дочь сказала: «Отойди от телефона». И это то, что я сделал.
Чтобы вернуть Сэма, нужно было идти или умереть. Та компания сказала: «Нет, мы не позволим совету директоров уволить Сэма Альтмана». Инвесторы, как они цитируются в вашей статье: «Мы пошли на войну», я думаю, это позиция Thrive Capital, «чтобы вернуть Сэма». Microsoft начала войну, чтобы вернуть Сэма. Это позже, и теперь все такие: "Мы выходим на IPO. Мы дошли до финиша. Мы вернули нашего парня, и он доведет нас до финиша. Мы обеспокоены тем, что он лжец".
Почему тогда за него была война? Потому что не похоже, что что-то действительно изменилось. Вы говорите о записках, которые Илья Суцкевер и [генеральный директор Anthropic] Дарио Амодей вели, когда они были современниками Сэма Альтмана. Больше всего Илью беспокоило то, что Сэм — лжец.
Ничего из этого не изменилось. Так почему тогда нужна была война, чтобы вернуть его обратно? И теперь, когда мы находимся на финишной прямой, кажется, что все проблемы раскрыты.
Ну, во-первых, извините вашу дочь, моего партнера и всех остальных людей вокруг журналистов.
[Смеется] Это были настоящие выходные для всех.
Да, это действительно захватывает чью-то жизнь, и эта история определенно затронула мою, за последний период времени. Я думаю, что это действительно относится к теме журналистики и доступа к информации. Инвесторы, которые воевали за Сэма и все остальные, сыграли свою роль в том, чтобы он вернулся, и совет директоров, который был специально создан для защиты миссии некоммерческой организации, ставящей безопасность выше роста и увольняющей руководителя, если им нельзя было в этом доверять, они ушли. И все это потому, что да, рыночные стимулы существовали, верно?
Сэму удалось убедить людей: «Ну, компания просто развалится». Но причиной, по которой у него была поддержка, был недостаток информации. Эти инвесторы во многих случаях теперь говорят: «Я оглядываюсь назад и думаю, что у меня было бы больше беспокойства, если бы я полностью знал, в чем заключались претензии и в чем заключались опасения».
Не все из них;Мнения различаются, и мы цитируем ряд мнений, но есть важные мнения, которые действовали на основе очень частичной информации. Доска, из-за которой Сэм выстрелил, была, по словам одного человека, который раньше был за доской, «очень СП», и они сильно нащупали мяч. И мы документируем основные жалобы, и люди могут сами решить, перерастет ли это в ту неотложную проблему, которую они считали, но этот аргумент и эта информация не были представлены.
Они получили то, что некоторые из них сейчас называют плохой юридической консультацией. Чтобы описать это, вы вспомните цитату, и, вероятно, многие ваши слушатели и зрители запомнят эту цитату как недостаток откровенности. Вот до этого и сводили, а потом звонки по сути не принимали.
Они не принимали звонки. Я уверен, что ты попробовал. Все, кого я знаю, пытались, и дошло до того, что, как журналист, вы не должны давать советы своим источникам, но я сказал: «Это пройдет, если вы не начнете объясняться».
И вот что произошло. Забудьте о журналистах. У вас был Сатья Наделла, который говорил: "Что, черт возьми, произошло? Я не могу заставить никого объяснить мне". И это главный финансовый покровитель компании. А потом Сатья звонит [соучредителю LinkedIn] Риду Хоффману, а Рид звонит и говорит: «Я не знаю, что, черт возьми, произошло».
Понятно, что они находятся в этой нехватке информации и ищут традиционные индикаторы, не связанные с искусственным интеллектом, которые могли бы оправдать столь срочное и внезапное увольнение. Типа, ладно, это были сексуальные преступления? Было ли это хищение? И весь тонкий, но, на мой взгляд, значимый аргумент о том, что эта технология отличается и что такое постоянное накопление более мелких предательств может иметь значимые ставки как для этого бизнеса, так и, возможно, для всего мира, был в значительной степени потерян. Итак, капиталистические стимулы победили, но и люди, которые это сделали, вышли из строя и не всегда располагали полной информацией.
Я хочу на мгновение просто спросить о том, «что все думали об этом», потому что я, конечно, видел новости и сказал: «О, должно быть, случилось что-то плохое». Вы сделали много репортажей #MeToo, как известно. Вы раскрыли историю Харви Вайнштейна.
Вы потратили много времени, сообщая об этих утверждениях, которые, я думаю, вы сочли в конечном итоге необоснованными: что Альтман подвергал сексуальному насилию несовершеннолетних, или нанимал секс-работников, или даже убил разоблачителя OpenAI. Я имею в виду, что вы тот человек, который может сообщить об этом наиболее строго. Вы решили, что это ни к чему не привело?
Что ж, послушайте, я не собираюсь говорить, что что-то ни к чему не привело. Что я могу сказать, так это то, что я потратил месяцы на изучение этих утверждений и не нашел им подтверждения. И меня поразило, что эти ребята, эти компании, которые имеют такую большую власть над нашим будущим, действительно тратят непропорционально много своего времени и ресурсов на детские грязные драки.
Один из руководителей описывает это как «шекспировское». Количество денег частных детективов и собираемых досье оппозиции неумолимо. И, к сожалению, непристойные вещи, которые повторяют конкуренты Сэма, являются всего лишь предполагаемым фактом, верно? Ходят слухи, что он преследует несовершеннолетних мальчиков, и на многих коктейльных вечеринках в Кремниевой долине вы слышите это. На конференциях я слышал, как это только что повторили заслуживающие доверия и видные руководители: «Все знают, что это факт».
Самое печальное, что я говорю о том, откуда это берется, о различных векторах, по которым это передается. Илон Маск и его коллеги, по-видимому, продвигают действительно серьезные досье, которые ничего не значат. Они туманны, когда вы действительно начинаете смотреть на лежащие в их основе утверждения. Печально то, что это действительно затеняет более обоснованную критику, которая, по моему мнению, действительно заслуживает срочного надзора и рассмотрения.
Другая тема, которая действительно проявляется в этой истории, — это почти чувство страха по поводу того, что у Сэма так много друзей — он инвестировал во многие компании, начиная со своей предыдущей должности генерального директора Y Combinator, вплоть до своих личных инвестиций, некоторые из которых прямо противоречат его роли генерального директора OpenAI — и вокруг него царит тишина.
Это поразило меня, когда я читал одну строчку. Вы описываете записки Ильи Суцкевера, а они только что в Кремниевой долине. Каждыйназывает их записками Ильи. Но вокруг этого даже тишина. Их передают, но не обсуждают. Как вы думаете, откуда это взялось? Это страх? Это желание получить ангельские инвестиции? Откуда это взялось?
Я считаю, что это большая трусость, скажу честно. Сообщив об историях национальной безопасности, в которых источниками являются разоблачители, которые рискуют потерять все и столкнуться с судебным преследованием, они по-прежнему поступают правильно и говорят о вещах, чтобы привлечь к ответственности. Я работал над историями, связанными с сексуальными преступлениями, о которых вы упомянули, где источники глубоко травмированы и опасаются очень личного возмездия.
Во многих случаях в этом ритме вы имеете дело с людьми со своим профилем и властью. Они либо сами известные люди, либо их окружают известные люди. У них крепкая деловая жизнь. На мой взгляд, для них на самом деле очень мало информации, чтобы говорить об этом. И, к счастью, стрелка движется вперед, как мы говорили ранее, и люди теперь говорят больше.
Но в течение столь долгого времени люди просто молчали об этом, потому что я думаю, что культура Кремниевой долины безжалостно корыстна, безжалостно ориентирована на бизнес и рост. Так что я думаю, что это затрагивает даже некоторых людей, которые были причастны к увольнению Сэма, где вы видели в последующие дни, да, один фактор, который привел к его возвращению и увольнению старых членов совета директоров, заключался в том, что он сплотил инвесторов, которые были в замешательстве, на его стороне.
Но во-вторых, многие другие люди вокруг него, у которых были проблемы и срочно их высказывали, просто сложили, как салфетки, и изменили свою мелодию в тот момент, когда они увидели, что ветер дует в другую сторону, и захотели присоединиться к поезду с прибылью.
Честно говоря, с моей точки зрения как репортера, это довольно мрачно.
Некоторые из этих людей — Мира Мурати, которая, по-моему, в течение 20 минут была новым генеральным директором OpenAI. Потом ее заменили. Это была очень сложная динамика, и, очевидно, Сэм вернулся. Другой человек - Илья Суцкевер, который был одним из голосов за отстранение Сэма, а затем передумал или, по крайней мере, сказал, что передумал, а затем ушел, чтобы основать свою собственную компанию. Знаете, что заставило его передумать? Были ли это просто деньги?
Ну, и чтобы внести ясность, я не выделяю этих двоих. Есть и другие члены совета директоров, участвовавшие в увольнении, которые после этого тоже замолчали. Я думаю, что это более широкая коллективная проблема. В некоторых случаях это люди, у которых хватило моральных сил бить тревогу и предпринимать радикальные действия, и это заслуживает похвалы. И таким образом вы обеспечиваете подотчетность. Это могло бы помочь многим людям, на которых влияет эта технология. Это могло бы помочь отрасли оставаться более ориентированной на безопасность.
Но, общаясь с информаторами и людьми, которые часто пытаются привлечь к ответственности, вы также видите, что для этого требуется смелость выстоять и отстаивать свои убеждения. И эта индустрия действительно полна людей, которые просто не придерживаются своих убеждений.
Даже несмотря на то, что они думают, что строят цифрового Бога, который каким-то образом либо устранит весь труд, либо создаст больше труда, либо что-то произойдет.
Ну, вот в чем дело. Таким образом, культура отказа от своих убеждений и все этические проблемы, отходящие на второй план в тот момент, когда возникает какая-либо жара или что-то, что может поставить под угрозу ваше собственное положение в бизнесе, возможно, в некоторой степени хорошо для компаний, ведущих обычный бизнес, которые производят какие-либо виджеты.
Но это те же самые люди, которые говорят: «Это может буквально убить нас всех». И опять-таки не обязательно впадать в крайности Терминатора Скайнет. Существует ряд рисков, которые уже материализуются. Это реально, и они правы, предупреждая об этом, но нужно, чтобы кто-то другой в кресле психологизировал, как эти две вещи могут жить в одних и тех же людях, где они звучат срочные предупреждения, они, может быть, вставляют палец и пытаются что-то сделать, а потом просто сворачиваются и замолкают.
Именно поэтому могут быть такие случаи, когда о вещах не пишут и замалчивают, и никто не говорит об этом открыто в течение многих лет после свершившегося факта.
Естественной ответственной стороной здесь не будут руководители этих компаний; это будут правительства. В США, возможноэто правительства штатов, может быть, это федеральное правительство.
Конечно, все эти компании хотят быть глобальными. Здесь есть много глобальных последствий. Я видел, как OpenAI, Google и Anthropic подстрекали администрацию Байдена к изданию указа об искусственном интеллекте. В конце концов, это было довольно беззубо. Там просто сказали, что им нужно рассказать о том, на что способны их модели, и опубликовать некоторые тесты на безопасность. А потом они все поддержали Трампа, и Трамп пришёл, уничтожил всё это и сказал: "Мы должны быть конкурентоспособными. Это все бесплатно. Сделайте это".
В то же время все они пытаются привлечь средства из стран Ближнего Востока, которые имеют много нефтяных денег и хотят изменить свою экономику. Это политики. Я чувствую, что политики определенно должны понимать, что кто-то говорит обеими сторонами рта, и они не будут слишком расстраиваться, если кто-то в конце концов разочаруется, но политиков тоже водят за нос. Как вы думаете, почему?
Я думаю, именно поэтому эта пьеса так важна, на мой взгляд, и почему на нее стоило потратить все это время и детали. Мы находимся в среде, где системы, которые, как вы говорите, должны обеспечивать надзор, просто опустошены. Это пост-Гражданская Единая Америка, где поток денег настолько беспрепятственен, и это особая концентрация этой проблемы вокруг ИИ, где есть эти PAC, которые размножаются и наводняют деньги для отмены значимого регулирования как на уровне штата, так и на федеральном уровне.
У вас есть [соучредитель OpenAI] Грег Брокман, заместитель Сэма, который внес непосредственный вклад в пару из них. Это приводит к ситуации, когда действительно происходит захват законодателей и потенциальных регуляторов, и из этой спирали сложно выбраться. Печально то, что я думаю, что существуют простые политические шаги, некоторые из которых апробируются в других странах мира, которые могли бы помочь решить некоторые из этих проблем с подотчетностью.
Вы могли бы провести более обязательные испытания на безопасность перед развертыванием, что уже происходит в Европе для передовых моделей. У вас могли бы быть более строгие требования к письменным публичным записям для тех видов внутренних расследований, в которых, как мы видели, в этом случае ничего не записывалось. У вас мог бы быть более надежный набор механизмов анализа национальной безопасности для тех видов ближневосточных инфраструктурных амбиций, которые продвигал Сэм Альтман.
Как вы говорите, он делал эту приманку и переключался на администрацию Байдена, говоря: «Регулируйте нас, регулируйте нас» и помогая им разработать указ, а затем, как только Трамп войдет в должность, действительно в самые первые дни, просто не делая никаких ограничений: «Давайте ускоримся и построим огромный кампус центра обработки данных в Абу-Даби». Вы могли бы сделать это очень просто, например, защиту информаторов. Не существует федерального закона, защищающего сотрудников компаний, занимающихся искусственным интеллектом, которые раскрывают подобные проблемы безопасности, о которых говорится в этой статье.
У нас есть случаи, когда Ян Лейке, который был старшим специалистом по безопасности в OpenAI, руководил суперподстройкой в компании. Он пишет совету директоров, по сути, это материал для разоблачения, в котором говорится, что компания сходит с рельсов в выполнении своей миссии по обеспечению безопасности. Это те люди, у которых на самом деле должен быть надзорный орган, к которому они могли бы обратиться, и у них должна быть четкая законодательная защита, подобная той, которую мы видим в других секторах. Воспроизвести режим Сарбейнса-Оксли несложно.
Я думаю, что, несмотря на то, насколько остра проблема Кремниевой долины, захватившей контроль над всеми рычагами власти, и несмотря на то, насколько опустошены некоторые из этих институтов, которые могли бы обеспечить надзор и ограждения, я все еще верю в базовую математику демократии и корыстных политиков. И появляется все больше и больше данных опросов, согласно которым большинство американцев считают, что опасения, вопросы или риски, связанные с ИИ, в настоящее время перевешивают преимущества.
Поэтому я думаю, что приток денег в политику со стороны ИИ вполне в наших силах сделать это источником вопросительного знака в отношении политиков. Когда американцы идут голосовать, им следует внимательно следить за тем, финансируются ли люди, за которых они голосуют, особенно если они некритичны и выступают против регулирования, учитывая все эти опасения, крупными технологическими интересами. Поэтому я думаю, что если люди смогут читать подобные статьи, слушать подобные подкасты и быть достаточно внимательными, чтобы критически относиться к ним,Если они принимают решения в качестве избирателей, то появляется реальная возможность создать в Вашингтоне электорат из представителей, которые будут следить и осуществлять надзор.
Возможно, это одна из самых оптимистичных вещей, которые я когда-либо слышал о современной индустрии искусственного интеллекта. Я ценю это. Я одержим опросами, о которых вы говорите. There’s a lot of it now. Все это довольно последовательно, и похоже, что чем больше молодые люди, в частности, подвергаются воздействию ИИ, тем больше они недоверчивы и злы по этому поводу. That’s the valence of all the polling. И я смотрю на это и думаю: ну да, умные политики просто выступили бы против этого. Они просто говорили: «Мы собираемся привлечь крупные технологические компании к ответственности».
Затем я думаю о последних 20 годах, когда один политик заявил, что собирается привлечь крупные технологические компании к ответственности, и я изо всех сил пытаюсь найти хотя бы один момент, когда крупные технологические компании будут привлечены к ответственности. Единственное, что заставляет меня думать, что все может быть по-другому, это то, что вам действительно нужно строить центры обработки данных, и вы можете голосовать против этого, вы можете подать петицию против этого и вы можете протестовать против этого.
Я думаю, что есть политик, в дом которого только что стреляли, потому что он проголосовал за центр обработки данных. Напряжение достигает, я бы сказал, апогея. Вы описали изолированность Кремниевой долины. This is a closed ecosystem. It feels like they think they can run the world. Они вкладывают кучу денег в политику и сталкиваются с реальностью того, что людям не нравятся эти продукты, что не дает им достаточного прикрытия. Чем больше они используют эти продукты, тем больше они расстраиваются, и политики начинают видеть реальные последствия поддержки технологической индустрии над людьми, которых они представляют.
You’ve talked to so many people. Как вы думаете, сможет ли технологическая индустрия усвоить урок, который находится прямо перед ними?
Вы говорите, что такое ощущение, будто они думают, что могут управлять миром без ответственности. Я даже не думаю, что здесь нужен уточнение «по ощущениям». Я имею в виду, вы посмотрите на язык, который использует Питер Тиль, и он ясен. Of course, that’s an extreme example. А Сэм Альтман, хотя он и близок к идеологии Тиля и в некоторой степени информирован о ней, представляет собой совершенно другой тип человека, который может звучать по-другому и до определенного момента более взвешенно.
Но я думаю, что более широкая идеология, которую вы получаете от Тиля, а именно: с демократией покончено, она нам больше не нужна. У нас так много всего, что мы просто хотим построить свои собственные маленькие бункеры. Мы больше не имеем дело с Карнеги или Рокфеллерами, где они плохие парни, но они чувствуют, что им необходимо участвовать в общественном договоре и строить что-то для людей. There’s a real nihilism that’s set in.
И я действительно думаю, что это просто взаимоусиливающая спираль в недавней американской истории, когда магнаты и частные компании приобретают сверхправительственную власть, в то время как демократические институты, которые могли бы привлечь их к ответственности, опустошены. I do not feel optimistic about the idea that those guys might just wake up one day and think, “Huh, actually maybe we do need to participate in society and help build things for people.”
Я имею в виду, вы посмотрите на микрокосмический пример «Клятвы дарения», где был момент, когда казалось, что это должно было быть благотворительностью, и этот момент теперь прошел и даже высмеивается. Это проблема, более широкая проблема отсутствия подотчетности, которую, я думаю, можно решить только внешним путем. Это должна быть мобилизация избирателей и возрождение власти государственного надзора. И вы совершенно правы, когда говорите, что основной вектор, с помощью которого люди могут этого добиться, — локальный. Это связано с тем, где строится инфраструктура.
Вы упомянули некоторую накаленную напряженность вокруг этого, которая приводит к насилию и угрозам, и, очевидно, никто не должен применять насилие или угрозы. И я также здесь не для того, чтобы давать конкретные политические рекомендации, а просто представить некоторые политические шаги, которые кажутся базовыми и работают в других странах мира, не так ли? Or those who have worked in other sectors. Я здесь не для того, чтобы говорить, какие из них следует выполнять и как.
Я действительно считаю, что что-то должно произойти, и это должно быть внешним, а не просто доверием этим компаниям. Потому что вернотеперь мы имеем ситуацию, когда компании, которые разрабатывают технологии и лучше всего оснащены для понимания рисков и фактически предупреждают нас о рисках, также не имеют ничего, кроме стимула действовать быстро и игнорировать эти риски. И у вас просто нет ничего, что могло бы это уравновесить. Так что, какие бы реформы ни были в плане конкретики, что-то должно этому противостоять. И я все еще возвращаюсь к тому оптимизму, что люди по-прежнему имеют значение.
I generally buy your argument. Позвольте мне привести лишь один крошечный контраргумент, который, я думаю, я смогу сформулировать. Еще одна вещь, которая может произойти за пределами урны для голосования, — это то, что пузырь лопнет, верно? Что не все эти компании доходят до финиша и что не существует рынка продуктов, подходящего для потребительских приложений искусственного интеллекта. И опять же, я пока этого не совсем понимаю, но я обозреватель потребительских технологий, и, возможно, у меня просто более высокие стандарты, чем у всех остальных.
В деловом мире существует рынок продуктов, не так ли? Наличие группы агентов ИИ, написавших кучу программного обеспечения, кажется реальным рынком для этих инструментов. И вы можете прочитать аргументы этих компаний, которые говорят: "Мы разобрались с программированием, а это значит, что мы можем решить что угодно. Если мы можем создавать программное обеспечение, мы можем решить любые проблемы".
Я думаю, что существуют реальные ограничения возможностей программного обеспечения. That’s great in the business world. Программное обеспечение не может решить все проблемы в реальности, но оно должно этого достичь. Они должны закончить работу, и, возможно, не все дойдут до финиша. И происходит крах, и этот пузырь лопается, и, возможно, OpenAI, или Anthropic, или xAI, одна из этих компаний терпит крах, и все эти инвестиции уходят.
Do you think that would affect this? Actually, let me ask the first question first. OpenAI is right on the cusp of an IPO. There are a lot of doubts about Sam as a leader. Как вы думаете, они дойдут до финиша?
Я не собираюсь делать прогнозы, но я думаю, что вы затронули важный момент, а именно то, что рыночные стимулы действительно имеют значение внутри Кремниевой долины, и нестабильность нынешней динамики пузыря действительно может прервать, опять же, потенциально, по мнению критиков, гонку ко дну в области безопасности.
Я бы также добавил к этому, что если вы посмотрите на исторический прецедент, где существует аналогичный и, казалось бы, непроницаемый набор рыночных стимулов и потенциально пагубных последствий для общества, то есть судебные разбирательства, связанные с последствиями. And you see that as an area of concern lately. На этой неделе Сэм Альтман одобряет закон, который защитит компании, занимающиеся искусственным интеллектом, от некоторых видов ответственности, которой подвергается OpenAI, например, в исках о неправомерной смерти. Конечно, есть желание иметь такой щит от ответственности.
Я думаю, что суды по-прежнему могут быть значимым механизмом, и будет действительно интересно посмотреть, как будут развиваться эти иски. Вы уже видели, например, коллективный иск, членами которого являюсь я и многие, многие другие авторы, которых я знаю, против Anthropic за использование ими книг, на которые распространяется авторское право. Если есть умные юристы и истцы, которым не все равно, как мы исторически видели в делах от большого табачного бизнеса до большой энергетики, вы также можете получить некоторые ограждения и некоторые стимулы, чтобы замедлить темп, быть осторожными или таким образом защитить людей.
Такое ощущение, что вся структура затрат в индустрии искусственного интеллекта зависит от очень, очень благотворительной интерпретации добросовестного использования. Doesn’t come up enough. Структура затрат этих компаний может выйти из-под контроля, если им придется платить вам и всем остальным, чью работу они забрали, но об этом неудобно думать, поэтому мы просто не думаем об этом. При этом все эти продукты сейчас работают в убыток. Like today, they’re all running at a loss. They’re burning more money than they can make. At some point, they have to flip the switch.
Сэм — бизнесмен. Как вы уже несколько раз упомянули, он не технолог. He’s a business person. Как вы думаете, он готов щелкнуть выключателем и сказать: «Мы собираемся заработать доллар?» Потому что, когда я спрашиваю: «Как вы думаете, OpenAI справится?» It’s when they’ve got to make a dollar. И до сих пор Сэм заработал все свои деньги, прося денег у других людей, вместо того, чтобы зарабатывать деньги его компаниям.
Что ж, это большой вопрос для Кремниевой долины, для инвесторов и общественности.You see some statements and moves out of OpenAI that seem to evince a kind of panic about that. Закрытие Sora, закрытие некоторых вспомогательных проектов, попытка сосредоточиться на основном продукте. Но с другой стороны, вы все еще видите одновременно тонны миссий, верно? Даже небольшой пример — очевидно, не являющийся ключевым для их бизнеса — это приобретение TBPN.
Между прочим, как раз в тот момент, когда мы подходили к финишу и проверке фактов, компания, столкнувшаяся с такого рода журналистским расследованием, приобретает платформу, на которой они могут иметь более прямой контроль над разговором. Я думаю, что многие инвесторы, судя по моим разговорам, обеспокоены тем, что проблема обещания всего всем людям также распространяется на недостаток внимания к основной бизнес-модели. И я имею в виду, что вы ближе к тому типу прогнозирования и наблюдения за рынком, чем я, вероятно. Я оставлю вас и слушателей судить о том, смогут ли они переключиться на OpenAI.
Что ж, я задал этот вопрос, потому что в статье есть цитата старшего руководителя Microsoft, а именно: «Наследие Сэма может оказаться больше похожим на Берни Мэдоффа или Сэма Бэнкмана-Фрида», а не на Стива Джобса. That is quite a comparison. What’d you make of that comparison?
I think that’s a paraphrase. The Steve Jobs part wasn’t part of the quote. Но в этом есть интересная разновидность трезвости, потому что она сформулирована примерно так: «Я думаю, что есть небольшой, но реальный шанс, что он окажется SBF или мошенником уровня Мэдоффа». Это означает, на мой взгляд, не то, что Сэма обвиняют в этих конкретных видах мошенничества или преступлений, а то, что степень лицемерия и обмана со стороны Сэма может иметь шанс в конечном итоге запомниться в таком масштабе.
Да, я думаю, что самое поразительное в этой цитате, если честно, это то, что вы звоните в Microsoft и не слышите: "Это безумие. Мы никогда такого не слышали". Часто слышишь: «Да, многие здесь так думают», и это замечательно. И я думаю, что это действительно касается этих основных бизнес-вопросов.
Один инвестор сказал мне, например, в свете того, как эта черта сохранилась в течение многих лет после увольнения" - и это также показалось мне интересной трезвой мыслью - что не обязательно, что Сэм должен быть в абсолютном низу списка, он должен быть самым низким из низших с точки зрения людей, которые абсолютно не должны создавать эту технологию, чего бы она ни стоила. Есть несколько человек, которые сказали, что Илон Маск - это тот человек. Но эта черта ставит его, возможно, в конец списка людей. кто должен создавать AGI, и несколько других ведущих фигур в этой области.
Поэтому я подумал, что это интересная оценка, и я думаю, что именно такие мысли вы слышите от настоящих прагматиков, которые, возможно, не так уж сильно верят в проблемы безопасности. Они просто ориентированы на рост и думают, что у OpenAI теперь проблемы с Сэмом Альтманом.
The Microsoft piece is really interesting. Эта компания думала, что они на вершине мира. Что они сделали эти инвестиции и собираются обойти всех, особенно, что наиболее важно, Google, и снова завоевать благосклонность потребителей. Уровень, до которого они чувствуют себя обожженными этим приключением — это очень трезво управляемая компания — я не думаю, что можно переоценить.
Вы упомянули характеры и черты характера. На этом я хочу закончить вопросом наших слушателей. На другом нашем шоу, The Vergecast, я сказал, что собираюсь поговорить с вами, и сказал: «Если у вас есть вопросы к Ронану по поводу этой истории, дайте мне знать». So we have one here that I think ties in neatly with what you’re describing. I’m just going to read it to you:
«Чем оправдания плохого поведения и беспощадных действий Альтмана и других лидеров ИИ отличаются от оправданий, которые Ронан слышал от других высокопоставленных лидеров в политике и СМИ? Разве они не оправдывают свои действия тем, что именно так меняется мир? If I don’t do this, someone else will?”
Yeah, there’s a lot of that going around. Я бы сказал, что отличительной чертой ИИ является то, что экзистенциальные ставки настолько высоки, что оба утверждения о риске являются крайними, не так ли? У тебя есть Сэм Альтманговоря: «Это может быть отбой для всех нас». Кроме того, критики могут сказать, что мания, о которой говорит спрашивающий, является чрезвычайной, не так ли?
Сэм официально обвинил Илона в том, что, возможно, он хочет спасти человечество, но только если это будет он сам. Компонент эго, связанный с желанием победить, который Сэм постоянно использует, и который войдет в учебники истории, может изменить все. Таким образом, даже помимо мышления большинства предприятий Кремниевой долины «нужно разбить несколько яиц», в умах некоторых деятелей, возглавляющих искусственный интеллект, я думаю, существует полное обоснование любых последствий.
And forget breaking eggs. Я думаю, что многие исследователи, лежащие в основе безопасности, сказали бы, что потенциально рисковать разрушить страну, разрушить мир и разрушить миллионы людей, чья работа и безопасность висят на волоске, — вот что в этом уникального. На этом я заканчиваю, размышляя над этим репортажем, искренне веря, что речь идет не только о Сэме Альтмане. Речь идет об отрасли, которая ничем не ограничена, и о растущей проблеме Америки, которая не может ее сдерживать.
Ага. Что ж, у нас был некоторый оптимизм, но я думаю, что на этом можно остановиться.
[Laughs] End on a downbeat.
Конечно. That’s every great story, really. The Musk-Altman trial is upcoming. I think we’re going to learn a lot more here. I suspect I will want to talk to you again. Ронан Фэрроу, большое спасибо за участие в Decoder.
Спасибо.
Questions or comments about this episode? Hit us up at [email protected]. We really do read every email!
