Сьогодні на Decoder я розмовляю з Ронаном Ферроу, однією з найбільших зірок журналістських розслідувань, які працюють сьогодні. Він розкрив історію Гарві Вайнштейна серед багатьох, багатьох інших. І лише минулого тижня він і співавтор Ендрю Маранц опублікували в The New Yorker неймовірну детальну статтю про генерального директора OpenAI Сема Альтмана, його надійність і розвиток самого OpenAI.
Одна примітка, перш ніж ми продовжимо тут: The New Yorker опублікував цю історію, і ми з Ронаном провели цю розмову ще до того, як дізналися повний масштаб нападів на будинок Альтмана, тому ви не почуєте, як ми говоримо про це прямо. Але просто скажу, що я вважаю, що будь-яке насильство є неприпустимим, ці напади на Сема були неприйнятними, і що така безпорадність, яку відчувають люди, яка призводить до такого насильства, сама по собі є неприйнятною, і вона варта набагато більшої уваги як з боку індустрії, так і наших політичних лідерів. Сподіваюся, це зрозуміло.
Підписалися на Verge, не забувайте, що ви отримуєте ексклюзивний доступ до декодера без реклами, де б ви не отримували подкасти. Голова сюди. Не передплатник? Ви можете зареєструватися тут.
З огляду на все це, навколо Альтмана крутиться багато, що є справедливою грою для ретельного звітування — того типу звітування, яке збиралися робити Ронан та Ендрю. Завдяки популярності ChatGPT Альтман став найпомітнішим лідером індустрії ШІ, перетворивши колись некомерційну дослідницьку лабораторію на приватну компанію майже на трильйони доларів лише за кілька років. Але міф про Альтмана глибоко суперечливий, однаково визначається як його очевидною здатністю укладати угоди, так і його схильністю… ну, брехати всім навколо.
Історія складається з понад 17 000 слів і, мабуть, містить остаточну розповідь про те, що сталося у 2023 році, коли рада директорів OpenAI дуже раптово звільнила Альтмана через його нібито брехню, лише для того, щоб його майже миттєво знову взяли на роботу. Це також глибоке занурення в особисте життя Альтмана, його інвестиції, його залицяння за гроші Близького Сходу та його власні роздуми про його минулу поведінку та риси характеру, які змусили одне джерело сказати, що він «не обмежений правдою». Я дійсно пропоную вам прочитати всю історію; Я підозрюю, що на нього будуть посилатися ще багато років.
Ронан багато разів спілкувався з Альтманом протягом 18 місяців, які він витратив на репортажі про цей твір, і тому одна з головних речей, яка мене цікавила, це те, чи відчув він якісь зміни в Альтмані за цей час. Зрештою, за останні півтора року багато чого сталося в ШІ, у техніці та у світі.
Ви почуєте, як Ронан говорить про це дуже прямо, а також про його відчуття, що люди стали набагато охочіше говорити про здатність Альтмана розкривати правду. Люди починають замислюватися, вголос і під запис, чи викликає занепокоєння поведінка таких людей, як Альтман, не лише для ШІ чи технологій, але й для спільного майбутнього суспільства.
Гаразд: Ронан Ферроу про Сема Альтмана, ШІ та правду. Ось і ми.
Це інтерв’ю було дещо відредаговано для тривалості та ясності.
Ронане Ферроу, ви журналіст-розслідувач і дописувач The New Yorker. Ласкаво просимо в Decoder.
Радий бути тут. Дякую, що прийняли мене.
Я дуже радий поговорити з вами. Ви щойно написали великий матеріал для The New Yorker. Це профіль Сема Альтмана і, як би разом з ним, OpenAI. Я прочитав це так, що, як і всі чудові функції, це, суворе звітування, підтверджує багато почуттів, які люди відчували до Сема Альтмана протягом дуже тривалого часу. Ви, очевидно, опублікували це, ви отримали на це реакцію. Як ти почуваєшся з цього приводу зараз?
Що ж, насправді я був підбадьорений тим, якою мірою це прорвано в часи, коли економіка уваги така шизофренічна та поверхнева. Це історія, яка, на мій погляд, стосується всіх нас. І коли я провів півтора роки свого життя, і мій співавтор, Ендрю Маранц, також витратив цей час, справді намагаючись зробити щось криміналістичне та прискіпливе, це завжди тому, що я відчуваю, що існують більші структурні проблеми, які впливають на людей, окрім особистості та компанії в центрі історії.
Сем Альтман, на тлі ажіотажної культури Кремнієвої долини та стартапів, які наростають до величезних оцінок, заснованих на обіцянках, які можуть або не здійсняться в майбутньому, і дедалі більшого сприйняття культури засновників, яка вважає, що розповідати різним групам різні суперечливі речі є особливістю, а непомилка… Навіть на цьому тлі Сем Олтман є надзвичайним випадком, коли кожен у Силіконовій долині, хто очікує цього, не може перестати говорити про це питання про його надійність і чесність.
Ми вже знали, що його звільнили за певною версією звинувачень у нечесності чи серійній брехні. Але незвичайно, незважаючи на те, що були чудові репортажі, Кіч Хейгі зробив над цим велику роботу. Карен Хао чудово попрацювала над цим. Насправді не було остаточного розуміння фактичних передбачуваних доказів і причин, чому вони залишилися поза увагою громадськості.
Отже, пункт номер один полягає в тому, що мене підбадьорює той факт, що деякі з цих прогалин у наших суспільних знаннях і навіть у знаннях інсайдерів Кремнієвої долини тепер ще трохи заповнені. Деякі з причин, через які існували прогалини, було заповнено трохи більше.
Ми повідомляємо про випадки, коли люди в цій компанії справді відчували, що речі приховуються або навмисно не документуються. Однією з новинок у цій історії є ключове розслідування юридичної фірми WilmerHale, яка, очевидно, є шикарною, надійною, великою юридичною фірмою, яка проводила розслідування Enron і WorldCom, які, до речі, були об’ємними, як сотні опублікованих сторінок. ВілмерГейл провів це розслідування, якого вимагали члени правління, які звільнили Альтмана як умову свого відходу, коли він їх позбувся, і він повернувся. І надзвичайно — в очах багатьох юридичних експертів, з якими я спілкувався, і шокуюче в очах багатьох людей у цій компанії — вони не писали про це. Усе, що з’явилося з цього, – це прес-реліз із 800 слів від OpenAI, який описав те, що трапилося, як зрив довіри. І ми підтвердили, що це залишилося на усних брифінгах.
Бувають випадки, коли, наприклад, член правління, здається, хоче проголосувати проти перетворення початкової некомерційної форми OpenAI на комерційну організацію, і це реєструється як утримання. Схоже, що юрист на зустрічі каже: «Ну, це може спровокувати занадто багато перевірки». А той, хто хоче проголосувати проти, записується як такий, що утримується. Існує фактична суперечка. OpenAI стверджує протилежне, як ви можете собі уявити. Це всі випадки, коли у вас є компанія, яка тримає наше майбутнє у своїх руках.
Загроза безпеки настільки гостра, що не зникає. Саме тому цю компанію було засновано як некомерційну організацію, зосереджену на безпеці, і де речі були приховані таким чином, що люди, які довіряють, вважали це менш ніж професійним. І ви поєднуєте це з тлом, де так мало політичного апетиту до суттєвого регулювання. Я думаю, що це дуже небезпечна ситуація.
Для мене справа не лише в тому, що Сем Альтман так гостро заслуговує на ці запитання. Крім того, будь-який із цих хлопців у цій галузі та багато ключових фігур виявляють якщо не цю особливу рису, як нібито весь час брехати, то, безперечно, певний ступінь менталітету гонки до дна, коли люди, які були прихильниками безпеки, розбавили ці зобов’язання та позицію «всі в гонці».
Я думаю, коли ми дивимося на нещодавні витоки з Anthropic, є людина, яка ставить питання про те, хто має тримати руку на кнопці в цьому творі. Відповідь полягає в тому, що якщо ми не маємо суттєвого нагляду, я думаю, що ми повинні ставити серйозні запитання та намагатися висвітлити якомога більше інформації про всіх цих хлопців. Тож мене підбадьорило те, що здавалося значущою розмовою про це чи початком такої розмови.
Причина, чому я запитав це так, полягає в тому, що ви працювали над цим півтора року. Зі своїм співавтором, Ендрю, ви спілкувалися, я вважаю, зі 100 людьми. Це довгий час для приготування історії. Я думаю про останні півтора роки в ШІ зокрема, і, хлопче, ставлення та цінності всіх цих персонажів змінилися дуже швидко.
Можливо, не більше, ніж Сем Альтман, який почав як переможець за замовчуванням, оскільки вони випустили ChatGPT, і всі думали, що це просто перейде на користь Google. І тоді Google відповів, що, здавалося, здивувало їх тим, що Google спробує захистити свій бізнес, можливо, один із найкращих бізнесів в історії технологій, якщо не в історії бізнесу. Anthropic вирішила, що зосередиться на підприємстві. Здається, він бере головне лідерствотому, що підприємства використовують ШІ дуже високо.
Тепер OpenAI переорієнтовує свій продукт від «ми збираємося протистояти Google» на Codex, і вони збираються взятися за підприємство. Я просто не можу точно сказати, чи склалося відчуття, що персонажі, з якими ви спілкувалися, змінилися під час ваших репортажів за останні півтора року? Чи змінилися вони, як їхні погляди та цінності?
так Перш за все я вважаю, що критика, яка розглядається в цій статті, виходить від багатьох людей у цих компаніях на даний момент — що це галузь, яка, незважаючи на екзистенціальні ставки, опускається до щось на зразок гонки за безпеку та де швидкість переважає все інше — це занепокоєння стало ще гострішим. І я думаю, що ці занепокоєння стали більш обґрунтованими за останні півтора року. Водночас ставлення до Сема Альтмана особливо змінилося. Коли ми почали розмовляти з джерелами про це, люди дуже, дуже боялися, щоб їх цитували про це та повідомляли про це.
Наприкінці нашого звіту у вас є маса звітів, де люди говорять про це дуже відверто та чітко, а члени правління говорять такі речі, як: «Він патологічний брехун. Він соціопат». Існує цілий ряд точок зору: «Це небезпечно, враховуючи ставки безпеки, і нам потрібні лідери цієї технології, які мають високу чесність», аж до таких, як: «Забудьте про ставки безпеки, це поведінка, яка неприйнятна для будь-якого керівника будь-якої великої компанії, що вона просто створює занадто багато дисфункцій».
Тож розмова стала набагато відвертішою у такий спосіб, який, можливо, здається запізнілим, але в одному сенсі підбадьорює. І Сем Альтман, до його честі... Твір дуже справедливий і навіть щедрий, я б сказав, для Сема. Це не той твір, у якому було багато речей, які «зрозуміли». Я провів з ним багато-багато годин по телефону, поки ми закінчували це, і справді вислухав його.
Як ви можете собі уявити, у такий твір не все потрапляє. Деякі з цих випадків у цьому відбулися тому, що я щиро слухав. І якщо Сем справді стверджував, що я відчував, що щось перенесено водою, що щось, навіть якщо це правда, може бути сенсаційним, я справді помилився, зберігаючи цю криміналістику та виміряний. Тож я вважаю, що це сприйнято правильно, і я просто сподіваюся, що цей фактичний запис, який накопичився за цей період часу, може викликати більш активну розмову про необхідність нагляду.
Це, власне, моє наступне запитання. Я думаю, що ви розмовляли із Семом дюжину разів, поки розповідали про цю історію. Знову ж таки, це багато розмов протягом тривалого періоду часу. Як ви думаєте, чи змінився Сем під час репортажів за останні півтора року?
так Я вважаю, що одна з найцікавіших сюжетів у цьому полягає в тому, що Сем Альтман також говорить про цю рису більш явно, ніж у минулому. Поза Сема в цьому творі не така: «Там нічого немає, це неправда; я не знаю, про що ви говорите». Його поза полягає в тому, що він каже, що це пояснюється схильністю догоджати людям і свого роду відразою до конфліктів. Він визнає, що це викликало у нього проблеми, особливо на початку його кар'єри.
Він каже: «Ну, я пройшов повз це або певною мірою пройшов повз це». Я вважаю, що для мене справді цікавий контингент людей, з якими ми спілкувалися, які були не просто прихильниками безпеки, не просто основними технічними дослідниками, які дуже часто мають гостру стурбованість безпекою, а й прагматичними, великими інвесторами. Вони є прихильниками Сема, які в деяких випадках дивляться на це питання і говорять про те, що навіть зіграли ключову роль у його поверненні після звільнення. Тепер, на питання про те, чи змінився він і наскільки ця зміна має значення, вони кажуть: «Ну, тоді ми дали йому перевагу сумнівів».
Зокрема, я думаю про одного видатного інвестора, який сказав: «Але з тих пір, здається, зрозуміло, що його не виводили за дров’яний сарай», — це була фраза, яку він використав, наскільки це було необхідно. У результаті здається, що тепер це стабільна риса. Ми бачимо це постійно. Ви можете переглянути деякі з найбільших компаній OpenAIстосунки та те, як вони постійно несуть вагу цієї недовіри.
Як і у випадку з Microsoft, ви розмовляєте з керівниками там, і вони мають дійсно гострі та нещодавно каталізовані проблеми. Є такий випадок, коли в той самий день OpenAI підтверджує свою ексклюзивність з Microsoft щодо базових моделей штучного інтелекту без збереження стану, а також оголошує про нову угоду з Amazon, яка стосується продажу корпоративних рішень для створення агентів штучного інтелекту, які мають статус, тобто мають пам’ять.
Ви розмовляєте з представниками Microsoft, і вони кажуть: «Це неможливо зробити, не взаємодіючи з основними речами, щодо яких у нас є ексклюзивна угода». Тож це лише один із багатьох маленьких прикладів, коли ця риса постійно впливає на поточну бізнес-діяльність і є предметом активного занепокоєння в раді директорів OpenAI, у її виконавчому апараті та в ширшій технічній спільноті.
Ви продовжуєте говорити про цю «рису». У цій історії є рядок, який мені здається тезою, і це опис риси, яку ви описуєте. Це те, що «Сем Олтман не обмежений правдою» і що він має «дві риси, які майже ніколи не зустрічаються в одній людині: перша — сильне бажання подобатися людям, подобатися в будь-якій взаємодії, а друга — майже соціопатична відсутність занепокоєння щодо наслідків, до яких може призвести обман».
Маю сказати вам, я прочитав це речення 500 разів і намагався уявити, як завжди кажу те, що люди хочуть, щоб вони мені подобалися, а потім не засмучуюсь, коли відчуваю, що їх обманюють. І я не міг змусити свій емоційний стан зрозуміти, як ці речі можуть існувати в одній людині. Ви багато спілкувалися із Семом, і ви спілкувалися з людьми, які відчули ці риси. Як він це робить?
так Це цікаво на людському рівні, тому що я справді підходжу до таких органів репортажів із справжньою зосередженістю на гуманізації тих, хто є в центрі цього, і прагну до глибокого розуміння та співчуття. Коли я намагався підійти до цього з більш людської точки зору і сказав: "Гей, це було б руйнівно для мене, якби стільки людей, з якими я працював, сказали, що я патологічний брехун. Як ви переносите таку вагу? Як ви говорите про це під час терапії? Яку історію ви розповідаєте собі про це?"
На мою думку, у мене є якісь банальності із Західного узбережжя на кшталт: «Так, мені подобається дихальна робота». Але не багато такого підбадьорливого відчуття глибокої самоконфронтації, яке, я думаю, багато хто з нас, ймовірно, мав би, якби ми бачили такий відгук про нашу поведінку та наше ставлення до людей.
Я думаю, що це також стосується ширшої відповіді на запитання. Сем стверджує, що ця риса спричинила проблеми, але також це частина того, що допомогло йому настільки прискорити зростання OpenAI, що він міг об’єднати та догодити різним групам людей. Він постійно переконує всі ці конфліктуючі групи, що те, що їх хвилює, те, про що він дбає. І це може бути дуже корисною навичкою для засновника. Я спілкувався з інвесторами, які тоді казали: «Ну, можливо, це менш корисна навичка для справжнього керування компанією, оскільки вона сіє багато розбрату».
Але з особистого боку Сема, я вважаю, що те, що я вловлюю, коли намагаюся підключитися на людському рівні, — це очевидна відсутність глибшої конфронтації, роздумів і самопідзвітності, що також свідчить про цю суперсилу або відповідальність для компанії, яка готується до IPO.
За словами одного колишнього члена правління на ім’я Сью Юн, яка в записі каже, що до «безпорадності» — це фраза, яку вона використовує, він здатний справді повірити в мінливу реальність його рекламних пропозицій або спроможний переконати себе в них. Або, принаймні, якщо він їм не вірить, він зможе висловлюватися через них без серйозних сумнівів у собі.
Я думаю, що те, про що ви говорите, де ви або я могли б, коли ми говоримо цю річ і усвідомлюємо, що вона суперечить іншим запевненням, які ми зробили, на мить завмерти або стримати себе. Думаю, з ним такого не буває. І є ширша культура ажіотажу Кремнієвої долини та культура засновників, які сприймають це.
Це смішно. The Verge побудовано на тому, що є оглядом продуктупрограма. Це суть того, що ми тут робимо. Раз на рік я тримаю трильйон доларів на дослідження та розробки Apple і кажу: «Цей телефон — сім». І це ніби легітимізує всі наші звіти та наші думки в інших місцях. У нас є функція оцінювання, і ми витрачаємо стільки часу, просто дивлячись на продукти штучного інтелекту й запитуючи: «Вони працюють?»
Таке відчуття, що цього нема в багатьох розмовах про штучний інтелект, яким він є сьогодні. Тривають нескінченні розмови про те, що він може зробити, наскільки це може бути небезпечно. А потім ви докладаєте деталі й питаєте: «Чи справді він виконує те, що повинен робити сьогодні?» У деяких випадках відповідь ствердна. Але у багатьох, багатьох випадках відповідь – ні.
Таке відчуття, що це пов’язано з культурою ажіотажу, яку ви описуєте, а також із відчуттям, що, добре, якщо ви кажете, що це щось дасть, а це ні, і комусь це погано, це добре, тому що ми на наступному шляху. Це в минулому. Зокрема, у сфері штучного інтелекту Сем так добре дає великі обіцянки.
Лише цього тижня, я думаю, того самого дня, коли була опублікована ваша історія, OpenAI опублікував програмний документ, у якому говорилося, що ми повинні переглянути суспільний договір і отримати від уряду стипендії за ефективність ШІ. Це грандіозна обіцянка про те, як деякі технології можуть сформувати майбутнє світу та те, як ми живемо, і все це залежить від технології, яка працює саме так, як, можливо, вона обіцяла працювати або повинна працювати.
Ви коли-небудь помічали, що Сем сумнівається в тому, що штучний інтелект перетвориться на AGI чи суперінтелект чи в досягненні фінішу? Тому що це те, про що я найбільше дивуюся. Чи є якісь роздуми про те, чи може ця основна технологія робити все те, що, як кажуть, вона може?
Це правильний набір запитань. Є надійні технологи, з якими ми розмовляли в цьому корпусі звітів — і, очевидно, Сем Альтман не є ним; він ділова людина, яка каже, що те, як Сем говорить про часові рамки для цієї технології, зовсім не так. У блозі за кілька років тому Сем каже: "Ми вже досягли горизонту подій. AGI фактично тут. Суперінтелект не за горами. Ми будемо на інших планетах. Ми будемо лікувати всі форми раку". Правда, я не прикрашаю.
Справа про рак насправді цікава, що Сем розкручує людину, яка теоретично вилікувала рак собаки за допомогою ChatGPT, а цього просто не сталося. Вони поспілкувалися з ChatGPT, і це допомогло їм скерувати деяких дослідників, які справді виконали роботу, але сам-на-один, цей інструмент вилікував цю собаку, насправді не вся історія.
Я радий, що ви підняли це питання, тому що я хочу перейти до цього важливого моменту про те, коли потенціал і ризик технології справді реалізуються. Але варто згадати ці невеликі відхилення, які постійно трапляються з Семом Альтманом, де він, здається, знову втілює цю рису.
Я маю на увазі, скориставшись прикладом звіту Вілмера Хейла, де ми мали цю інформацію, яка була прихована, і ми хотіли знати, чи був усний запис наданий комусь, крім двох членів правління, яких Сем допоміг встановити, щоб контролювати це. І він сказав: «Так, так, ні, я вважаю, що це було дано кожному, хто приєднався до правління пізніше». І у нас є людина, яка безпосередньо знає ситуацію, і каже, що це просто брехня. І це справді виглядає так, що це неправда. Якщо ми хочемо бути щедрими, можливо, його дезінформували.
Цих випадкових запевнень дуже багато. І я використовую цей приклад частково тому, що це чудовий приклад, скажімо так, приховування, яке може мати реальні юридичні наслідки. Мені не потрібно вам розповідати, згідно з корпоративним законодавством штату Делавер, якщо ця компанія проводить IPO, акціонери можуть, відповідно до розділу 220, скаржитися на це та вимагати відповідну документацію. Уже є члени правління, які говорять щось на кшталт: «Ну, зачекайте хвилинку, цей брифінг мав відбутися».
Тож ці речі, які, здається, постійно вискакують з його вуст, можуть мати реальний вплив на ринок, реальний вплив на OpenAI. Повертаючись до утопічної мови реклами, яка знову виникла, я думаю, що не випадково в той день, коли ця частина вийшла, вона також впливає на всіх нас, тому що небезпека настільки гостра щодо того, як цевикористання в озброєннях, те, як вони використовуються для ідентифікації бойових хімічних речовин, потенціал дезінформації та спосіб, у який утопічний ажіотаж, здається, спонукає багатьох надійних економістів сказати: «Це має всі ознаки бульбашки».
Навіть Сем Альтман сказав: «Хтось тут втратить багато грошей». Це може справді завадити значному американському та глобальному економічному зростанню, якщо відбудеться справжнє проколювання бульбашки за участю всіх цих компаній, які укладають угоди одна з одною, йдуть ва-банк на штучний інтелект, беручи при цьому такі значні позики. Отже, те, що говорить Сем Альтман, має значення, і я думаю, що більшість людей навколо нього, ви згадали, що ми спілкувалися з більш ніж сотнею, насправді їх було значно більше сотні. У нас була розмова на фінішній прямій, де було таке: «Чи було б занадто дріб’язково сказати, що це набагато більше?» І ми сказали: "Так, давайте применшити. Ми зіграємо це круто". Але було так багато людей, і така значна більшість із них казали: «Це викликає занепокоєння». І я думаю, що це все чому.
Дозвольте запитати вас про це число. Як ви згадали, з часом люди ставали все більш відкритими щодо своїх проблем. Відчувається, що тиск навколо бульбашки — гонка за перемогу, окупність усіх цих інвестицій, вийти переможцем, вихід на IPO — змінила багато ставлень. Безумовно, це створило більший тиск на Сема та OpenAI.
Цього тижня ми опублікували історію лише про настрої OpenAI. Ваша історія є частиною цього, але масштабні кадрові зміни в керівництві OpenAI — люди приходять і йдуть. Дослідники всі прямують, здебільшого до Anthropic, що, на мою думку, справді цікаво. Ви можете просто побачити, що ця компанія відчуває тиск, і вона певним чином реагує на цей тиск.
Але потім я згадую про звільнення Сема. Це мені просто запам'яталося. Нікому більше це не запам’ятається, але я подзвонив джерелу в зоопарк Бронкса о 19:00 у п’ятницю, і хтось сказав, що збирається спробувати повернути Сема. А потім ми витратили вихідні на пошуки цієї історії. І я просто сказав: "Я в зоопарку. Що ти хочеш, щоб я тут робив?" І відповідь була: «Залишайтеся на телефоні». Ну, моя донька сказала: «Відійди від телефону». І ось що я зробив.
Щоб повернути Сема, було їхати або померти. Ця компанія сказала: «Ні, ми не дозволимо правлінню звільнити Сема Альтмана». Інвестори, яких цитує ваша стаття: «Ми пішли на війну», я думаю, це позиція Thrive Capital, «щоб повернути Сема». Microsoft пішла на війну, щоб повернути Сема. Це пізніше, і тепер усі кажуть: "Ми йдемо на IPO. Ми дійшли до фінішу. Ми повернули нашого хлопця, і він приведе нас до фінішу. Ми стурбовані, що він брехун".
Навіщо тоді була війна, щоб його повернути? Тому що насправді нічого не змінилося. Ви говорите про записки, які Ілля Суцкевер і [генеральний директор Anthropic] Даріо Амодей вели, коли були сучасниками Сема Альтмана. Перше занепокоєння Іллі полягало в тому, що Сем брехун.
Нічого з цього не змінилося. Тоді навіщо була війна, щоб його повернути? І тепер, коли ми на фінішній прямій, здається, що всі тривоги відкриті.
Ну, по-перше, вибачте вашу доньку, мого партнера та всіх інших людей навколо журналістів.
[Сміється] Це були вихідні для всіх.
Так, це справді захоплює чиєсь життя, і ця історія безперечно має моє за останній період часу. На мою думку, це стосується теми журналістики та доступу до інформації. Інвестори, які воювали за Сема, і всі вони зіграли певну роль у тому, щоб переконатися, що він повернувся, а також правління, яке було спеціально розроблено для захисту місії некомерційної організації, щоб поставити безпеку над зростанням і звільнити керівника, якщо їм не можна було довіряти, вони пішли. Це все тому, що, так, були ринкові стимули, чи не так?
Сем зміг переконати людей: «Ну, компанія просто розвалиться». Але причиною підтримки був брак інформації. У багатьох випадках ці інвестори тепер кажуть: «Я озираюся назад і вважаю, що у мене було б більше занепокоєння, якби я повністю знав, які претензії та які були занепокоєння».
Не всі з них;думки відрізняються, і ми цитуємо ряд думок, але є важливі, які діяли на основі дуже часткової інформації. Дошка, яка звільнила Сема, була, за словами однієї людини, яка раніше була на дошці, «дуже простою», і вони важко намацали м’яч. І ми документуємо основні скарги, і люди можуть самі вирішити, чи це накопичується в терміновому занепокоєнні, яке вони відчували, але цей аргумент і ця інформація не були представлені.
Вони отримали те, що деякі з них тепер визнають як погану юридичну пораду. Щоб описати це, ви запам’ятаєте цитату, і, ймовірно, багато ваших слухачів і глядачів запам’ятають цю цитату як відсутність відвертості. Ось до чого це звелося, і тоді вони фактично не приймали дзвінки.
Вони не приймали дзвінки. Я впевнений, що ви намагалися. Усі, кого я знаю, намагалися, і дійшло до того, що ти, як журналіст, не повинен давати пораду своїм джерелам, але я сказав: «Це мине, якщо ти не почнеш пояснювати себе».
І ось що сталося. Забудьте про журналістів. У вас був Сатья Наделла, який сказав: "Що в біса сталося? Я не можу змусити нікого мені пояснити". І це головний фінансовий спонсор компанії. А потім Сатья дзвонить [співзасновнику LinkedIn] Рейду Хоффману, а Рейд дзвонить і каже: «Я не знаю, що в біса сталося».
Зрозуміло, що вони перебувають у цій порожнечі інформації, шукаючи традиційні індикатори, не пов’язані зі штучним інтелектом, які б виправдали такий терміновий, раптовий вогонь. Мовляв, гаразд, це були сексуальні злочини? Це було розкрадання? І весь тонкий, але, на мою думку, значущий аргумент про те, що ця технологія інша і що таке постійне накопичення дрібніших зрад може мати значущі ставки як для цього бізнесу, так і, можливо, для світу, був значною мірою втрачений. Отже, капіталістичні стимули перемогли, але також люди, які це зробили, пішли й не завжди володіли повною інформацією.
Я просто хочу на хвилину запитати про аспект «що це всі думали», тому що я, звичайно, бачив новини, і я сказав: «О, щось погане, мабуть, сталося». Ви зробили багато репортажів #MeToo, чудово. Ви розкрили історію Гарві Вайнштейна.
Ви витратили багато часу, повідомляючи про ці твердження, які, на мою думку, були остаточно необґрунтованими: про те, що Альтман вчиняв сексуальне насильство над неповнолітніми або найняв секс-працівників або навіть убив інформатора OpenAI. Я маю на увазі, що ви та людина, яка може найбільш суворо повідомляти про це. Ви вирішили, що нічого не вийшло?
Ну, дивіться, я не в тому, щоб говорити, що щось пішло нанівець. Я можу сказати, що я витратив місяці на розгляд цих тверджень і не знайшов їх підтвердження. І мене вразило, що ці хлопці, ці компанії, які мають таку велику владу над нашим майбутнім, справді витрачають непропорційну кількість свого часу та ресурсів на дитячу брудну боротьбу.
Один керівник описує це як «шекспірівське». Кількість грошей приватних детективів і досьє опозиції, які збираються, невблаганна. І на жаль, непристойні речі, які повторюють конкуренти Сема, є лише припущенням, чи не так? Існує твердження, що він переслідує неповнолітніх хлопчиків, і ви чуєте це на багатьох коктейльних вечірках у Силіконовій долині. Під час конференції я чув, як щойно повторюють авторитетні, видатні керівники: «Усі знають, що це факт».
Сумно те, що я говорю про те, звідки це береться, про різні вектори, якими це передається. Ілон Маск і його партнери, здається, просувають справді жорсткі досьє, які ні до чого. Вони невиправдані, коли ви насправді починаєте дивитися на основні претензії. Сумно те, що це справді приховує критику, засновану на доказах, яка, на мою думку, справді заслуговує на терміновий нагляд і розгляд.
Інша тема, яка дійсно проявляється в цій історії, — це майже відчуття страху, що у Сема так багато друзів — він інвестував у стільки компаній, починаючи з попередньої посади генерального директора Y Combinator і закінчуючи особистими інвестиціями, деякі з яких прямо суперечать його ролі генерального директора OpenAI — і навколо нього панує тиша.
Це вразило мене, коли я читав один рядок. Ви описуєте записки Іллі Суцкевера, а вони просто в Силіконовій долині. Всіназиває їх записками Іллі. Але навколо навіть тиша. Їх передають, але не обговорюють. Як ви думаєте, звідки це? Це страх? Це бажання отримати ангельські інвестиції? Звідки це?
Я думаю, що це велика боягузтво, скажу чесно. Повідомляючи про історії про національну безпеку, джерелами яких є викривачі, які можуть втратити все та зіткнутися з судовим переслідуванням, вони все одно роблять правильні речі та говорять про те, щоб створити підзвітність. Я працював над історіями, пов’язаними з сексуальними злочинами, про які ви згадали, де джерела глибоко травмовані та бояться дуже особистої відплати.
У багатьох випадках у цьому ритмі ви маєте справу з людьми з власним профілем і владою. Вони або самі відомі люди, або їх оточують відомі люди. У них міцне ділове життя. На мій погляд, говорити про ці речі для них насправді дуже мало. І, на щастя, голка рухається, як ми говорили раніше, і люди тепер говорять більше.
Але протягом такого тривалого часу люди просто мовчали про це, тому що я вважаю, що культура Кремнієвої долини є безжально егоїстичною та безжально орієнтованою на бізнес і зростання. Тож я думаю, що це засмучує навіть деяких людей, які брали участь у звільненні Сема, як ви бачили в наступні дні, так, одним із факторів, який призвів до його повернення та звільнення старих членів правління, було те, що він згуртував інвесторів, які були збентежені його справою.
Але інша полягає в тому, що так багато інших людей навколо, які мали занепокоєння та терміново висловлювали їх, просто склалися, як серветки, і змінили свою мелодію, коли побачили, що вітер дме в інший бік, і вони хотіли взяти участь у поїзді прибутку.
Це досить темно, чесно кажучи, з моєї точки зору як репортера.
Деякі з цих людей – Міра Мураті, яка, я вважаю, протягом 20 хвилин була новим генеральним директором OpenAI. Потім її замінили. Це була дуже складна динаміка, і, очевидно, Сем повернувся. Інша особа — Ілля Суцкевер, який був одним із голосів за усунення Сема, а потім передумав або принаймні сказав, що передумав, а потім пішов, щоб заснувати власну компанію. Знаєте, що змусило його передумати? Це були лише гроші?
Ну, і щоб було зрозуміло, я не виділяю цих двох. Є й інші члени правління, які брали участь у звільненні, але після цього також замовкли. Я думаю, що це як ширша колективна проблема. У деяких випадках це люди, які мали моральну силу бити на сполох і вживати радикальних дій, і це заслуговує на похвалу. І так ви гарантуєте відповідальність. Це могло б допомогти багатьом людям, які постраждали від цієї технології. Це могло б допомогти галузі залишатися більш серйозно зосередженою на безпеці.
Але, маючи справу з викривачами та людьми, які часто намагаються спонукати до відповідальності, ви також бачите, що потрібно наполегливо відстоювати це та відстоювати свої переконання. І ця галузь справді повна людей, які просто не відстоюють своїх переконань.
Навіть якщо вони думають, що будують цифрового Бога, який якимось чином або усуне всю працю, або створить більше праці, або щось трапиться.
Ну ось у чому справа. Тож культура невідстоювання своїх переконань і всіх етичних проблем, які відходять на другий план у момент, коли виникає якась спека чи щось, що може загрожувати вашому власному становищу в бізнесі, можливо, певною мірою добре й добре для компаній, що працюють як завжди, і створюють будь-які віджети.
Але це також ті самі люди, які кажуть: «Це може буквально вбити нас усіх». І знову ж таки, вам не обов’язково йти до екстриму Terminator Skynet. Є набір ризиків, які вже матеріалізуються. Це реально, і вони мають рацію, коли попереджають про це, але вам довелося б попросити когось іншого в кріслі психологізувати, як ці дві речі можуть жити в одних і тих самих людях, коли вони виголошують термінові попередження, вони, можливо, намагаються щось зробити, а потім просто замовкають і замовкають.
Саме тому ви можете мати подібні випадки, коли речі замовчуються, і речі замітаються під килим, і ніхто не говорить про це відкрито протягом багатьох років після факту.
Природною, відповідальною стороною тут не будуть генеральні директори цих компаній; це були б уряди. У Сполучених Штатах, можливоце уряди штатів, можливо, це федеральний уряд.
Звичайно, всі ці компанії хочуть бути глобальними. Тут є багато глобальних наслідків. Я спостерігав, як OpenAI, Google і Anthropic спонукали адміністрацію Байдена випустити розпорядження про штучний інтелект. Зрештою це було досить беззубим. У ньому просто сказано, що вони повинні поговорити про те, на що здатні їхні моделі, і опублікувати деякі тести безпеки. А потім усі вони підтримали Трампа, і Трамп увійшов, знищив усе це і сказав: "Ми повинні бути конкурентоспроможними. Це безкоштовно для всіх. Давай".
Водночас усі вони намагаються залучити кошти з країн Близького Сходу, які мають багато нафтових грошей і хочуть змінити свою економіку. Це політики. Мені здається, що політики повинні точно розуміти, що хтось говорить з обох сторін, і вони не будуть надто засмучені, якщо хтось зрештою розчарується, але політиків теж захоплюють. Як ви думаєте, чому так?
Ось чому, на мій погляд, цей твір справді важливий і чому варто було приділити йому весь цей час і деталі. Ми живемо в умовах, коли системи, які, як ви кажете, повинні забезпечувати нагляд, просто випорожнені. Це пост-громадянська Об’єднана Америка, де потік грошей настільки необмежений, і це особлива концентрація цієї проблеми навколо штучного інтелекту, де є ці PAC, які розмножуються та переливають гроші на скасування значущого регулювання як на рівні штату, так і на федеральному рівні.
У вас є [співзасновник OpenAI] Грег Брокман, другий командир Сема, який безпосередньо зробив значний внесок у декілька з них. Це призводить до ситуації, коли дійсно відбувається захоплення законодавців і потенційних регуляторів, і з цієї спіралі важко вийти. Сумно те, що я думаю, що існують прості політичні кроки, деякі з яких випробовуються в інших країнах світу, які допоможуть вирішити деякі з цих проблем підзвітності.
Ви могли б мати більше обов’язкових випробувань безпеки перед розгортанням, що вже відбувається в Європі для передових моделей. Ви могли б мати більш суворі вимоги до письмових публічних документів для тих видів внутрішніх розслідувань, у яких ми бачили, що в цій справі речі були приховані. Ви могли б мати надійніший набір механізмів перевірки національної безпеки для тих інфраструктурних амбіцій Близького Сходу, які просував Сем Альтман.
Як ви сказали, він робив цю приманку та перемикався з адміністрацією Байдена, кажучи: «Регулюйте нас, регулюйте нас», і допомагав їм виробити виконавчий наказ, а потім, у той момент, коли Трамп увійшов, справді в перші дні, просто не стримавшись, «Давайте прискоримося і побудуємо величезний кампус центру обробки даних в Абу-Дабі». Ви могли б, це дуже простий спосіб, як захист викривачів. Немає жодного федерального закону, який би захищав працівників компаній зі штучним інтелектом, які розкривають подібні проблеми безпеки, які висвітлюються в цьому матеріалі.
У нас є випадки, коли Ян Лейке, який був старшим спеціалістом із безпеки в OpenAI, очолював супервирівнювання в компанії. Він пише до правління, по суті, для інформаторів, кажучи, що компанія збиває з рейок свою місію безпеки. Це ті люди, які насправді повинні мати наглядовий орган, до якого вони можуть звернутися, і вони повинні мати чіткий законодавчий захист, який ми бачимо в інших секторах. Це просто, щоб повторити режим у стилі Сарбейнса-Окслі.
Я думаю, що незважаючи на те, наскільки гострою є проблема контролю над усіма владними важелями в Кремнієвій долині, і незважаючи на те, наскільки порожніми є деякі з цих інституцій, які можуть забезпечувати нагляд і огородження, я все ще вірю в базову математику демократії та корисливих політиків. І з’являється все більше даних опитувань, які свідчать про те, що більшість американців вважають, що занепокоєння, запитання чи ризики штучного інтелекту наразі переважують переваги.
Тож я думаю, що потік грошей у політику від штучного інтелекту в наших силах зробити це джерелом знака питання щодо політиків. Коли американці йдуть голосувати, вони повинні ретельно перевіряти, чи люди, за яких вони голосують, особливо якщо вони некритичні та проти регулювання, враховуючи всі ці занепокоєння, фінансуються великими технологічними інтересами. Тож я думаю, якщо люди зможуть читати подібні твори, слухати подібні подкасти та бути достатньо зацікавленими, щоб критично думати про нихїхні рішення як виборців, є реальна можливість створити у Вашингтоні округ представників, які слідкують за ними та змушують наглядати.
Це може бути одна з найоптимістичніших речей, які я коли-небудь чув про поточну індустрію ШІ. Я ціную це. Я одержимий опитуваннями, про які ви говорите. Зараз цього багато. Все досить узгоджено, і схоже, що чим більше молоді люди, зокрема, піддаються впливу штучного інтелекту, тим більше вони недовірливі та злісні. Це валентність усіх опитувань. І я дивлюся на це, і я думаю, ну, так, розумні політики просто виступили б проти цього. Вони просто сказали б: «Ми притягнемо великих технологічних компаній до відповідальності».
Потім я думаю про останні 20 років, про те, як політик каже, що збирається притягнути до відповідальності великих технологій, і мені важко знайти хоча б один момент притягнення великих технологій до відповідальності. Єдине, що змушує мене думати, що це може бути інакше, це те, що ви насправді повинні побудувати центри обробки даних, і ви можете проголосувати проти цього, ви можете подати петицію проти цього, і ви можете протестувати проти цього.
Я думаю, що є політик, у якого щойно обстріляли будинок, тому що вони проголосували за центр обробки даних. Напруга сягає, я б назвав це, гарячкового стану. Ви описали острівну територію Кремнієвої долини. Це закрита екосистема. Таке відчуття, що вони думають, що можуть керувати світом. Вони вкладають купу грошей у політику, і вони стикаються з реальністю, що люди не люблять продукти, що не дає їм багато прикриття. Чим більше вони використовують продукти, тим більше засмучуються, і політики починають бачити реальні наслідки підтримки індустрії технологій для людей, яких вони представляють.
Ви спілкувалися з багатьма людьми. Як ви думаєте, чи можливо для індустрії технологій засвоїти урок, який є прямо перед ними?
Ви кажете, що таке відчуття, ніби вони думають, що можуть керувати світом без відповідальності. Я навіть не думаю, що для цього потрібен кваліфікатор «відчувається». Я маю на увазі, ви подивіться на мову, яку використовує Пітер Тіль, вона відверта. Звичайно, це крайній приклад. І Сем Олтман, хоча він і близький до ідеології Тіля та певною мірою поінформований про неї, є зовсім іншою людиною, яка може звучати по-іншому та більш виважено до певної міри.
Але я думаю, що ширша ідеологія, яку ви отримуєте від Тіля, яка в основному полягає в тому, що ми покінчили з демократією, вона нам більше не потрібна. У нас так багато, що ми просто хочемо будувати власні маленькі бункери. Ми більше не маємо справу з Карнегі чи Рокфеллерами, де вони погані хлопці, але вони відчувають, що мають брати участь у суспільному договорі та будувати речі для людей. Настав справжній нігілізм.
І я справді вважаю, що в новітній американській історії магнати та приватні компанії набувають наддержавної влади, а демократичні інституції, які могли б притягнути їх до відповідальності, руйнуються. Я не відчуваю оптимізму щодо ідеї, що ці хлопці можуть просто прокинутися одного дня і подумати: «Ха, насправді, можливо, нам дійсно потрібно брати участь у суспільстві та допомагати будувати речі для людей».
Я маю на увазі, що ви подивіться на мікрокосмічний приклад The Giving Pledge, де був момент, коли це мало бути благодійністю, і цей момент уже минулий і навіть висміюється. Це проблема, ширша проблема відсутності підзвітності, яку, на мою думку, можна вирішити лише зовнішнім шляхом. Це має бути мобілізація виборців і відновлення повноважень державного нагляду. І ви маєте рацію, коли говорите, що основний вектор, за допомогою якого люди, можливо, можуть цього досягти, — локальний. Це пов’язано з тим, де будується інфраструктура.
Ви згадали про певну розпечену напругу навколо цього, яка призводить до насильства та погроз, і, очевидно, ніхто не повинен бути насильницьким чи погрожувати. І я тут не для того, щоб давати конкретні політичні рекомендації, окрім того, щоб просто представити деякі політичні кроки, які здаються базовими та працюють в інших країнах світу, чи не так? Або тих, хто працював в інших секторах. Я тут не для того, щоб говорити, які з них слід виконати і як.
Я справді вважаю, що щось має статися, і це має бути зовнішнє, а не просто довіряти цим компаніям. Тому що правильноЗараз ми маємо ситуацію, коли компанії, які розробляють технологію та мають найкраще обладнання для розуміння ризиків, і насправді попереджають нас про ризики, також є тими, хто має лише стимул діяти швидко та ігнорувати ці ризики. І вам просто нема чого врівноважити це. Тож які б реформи не вимагали з точки зору конкретики, щось має протистояти цьому. І я все ще повертаюся до того оптимізму, що люди все ще важливі.
Загалом я погоджуюся з вашими аргументами. Дозвольте мені лише навести один маленький контраргумент, який я думаю, що можу сформулювати. Ще одна річ, яка може статися поза урною, це те, що бульбашка лопне, чи не так? Що не всі ці компанії доходять до фінішу, і що немає ринку продуктів, придатних для споживчих додатків ШІ. Знову ж таки, я ще не зовсім усвідомлюю це, але я експерт із споживчих технологій, і, можливо, я просто маю вищі стандарти, ніж усі інші.
У діловому світі існує товарний ринок, чи не так? Здається, реальним ринком для цих інструментів є наявність групи агентів ШІ, які пишуть купу програмного забезпечення. І ви можете прочитати аргументи цих компаній, які говорять: "Ми розв’язали програмування, а це означає, що ми можемо вирішити будь-що. Якщо ми можемо створювати програмне забезпечення, ми можемо вирішити будь-які проблеми".
Я вважаю, що є реальні обмеження того, що може робити програмне забезпечення. Це чудово в діловому світі. Програмне забезпечення не може вирішити кожну проблему насправді, але воно має досягти цього. Вони повинні закінчити роботу, і, можливо, не всі доходять до фінішу. І відбувається крах, і ця бульбашка лопає, і, можливо, OpenAI, Anthropic або xAI, одна з цих компаній зазнає краху, і всі ці інвестиції зникають.
Як ви думаєте, це вплине на це? Власне, дозвольте мені спочатку поставити перше запитання. OpenAI знаходиться на порозі IPO. Є багато сумнівів щодо Сема як лідера. Як ви думаєте, чи встигнуть вони до фінішу?
Я не збираюся робити прогнози, але я думаю, що ви піднімаєте важливий момент, який полягає в тому, що ринкові стимули мають значення всередині Кремнієвої долини, і нестабільність поточної динаміки бульбашки справді може перервати, знову ж таки, потенційно, на думку критиків, гонку за безпекою.
Я б також додав до цього, якщо ви подивитеся на історичні прецеденти, коли існує подібний і, здавалося б, непроникний набір ринкових стимулів і потенційно згубних наслідків для громадськості, є судові процеси щодо наслідків. І ви бачите, що останнім часом це викликає занепокоєння. Цього тижня Сем Альтман схвалив законодавство, яке захистить компанії штучного інтелекту від деяких типів відповідальності, на яку OpenAI наражається, наприклад, у протиправних позовах про смерть. Звичайно, є бажання мати цей щит від відповідальності.
Я думаю, що суди все ще можуть бути значущим механізмом, і буде справді цікаво спостерігати, як ці позови формуватимуться. Ви вже бачили, наприклад, колективний позов, учасниками якого є я та багато, багато інших авторів, яких я знаю, проти Anthropic за використання ними книг, які були захищені авторським правом. Якщо є розумні юристи та позивачі, яким це не байдуже, як ми історично бачили у справах від великого тютюну до великої енергетики, ви також можете отримати певні огорожі та певні стимули сповільнюватись, бути обережними чи захищати людей таким чином.
Таке відчуття, що вся структура витрат індустрії штучного інтелекту базується на дуже, дуже благодійній інтерпретації добросовісного використання. Не приходить достатньо. Структура витрат цих компаній може вийти з-під контролю, якщо їм доведеться платити вам і всім іншим, чию роботу вони взяли, але думати про це незручно, тому ми просто не думаємо про це. Крім того, усі ці продукти зараз працюють зі збитками. Як і сьогодні, усі вони працюють у збиток. Вони витрачають більше грошей, ніж можуть заробити. У якийсь момент вони повинні клацнути вимикач.
Сем бізнесмен. Як ви вже кілька разів згадували, він не технолог. Він ділова людина. Як ви думаєте, чи готовий він клацнути вимикач і сказати: «Ми збираємося заробити долар?» Бо коли я запитую: «Як ви думаєте, OpenAI впорається?» Це коли вони повинні заробити долар. І наразі Сем заробив усі свої долари, вимагаючи грошей у інших людей, замість того, щоб його компанії заробляли гроші.
Що ж, це велике тривале питання для Силіконової долини, для інвесторів, для громадськості.Ви бачите деякі заяви та кроки з OpenAI, які, здається, викликають певну паніку з цього приводу. Закриття Sora, закриття деяких допоміжних проектів, спроба зосередитися на основному продукті. Але з іншого боку, ви все ще бачите, в той же час, тонни повзання місії, чи не так? Навіть маленький приклад — він, очевидно, не є основним для їхнього бізнесу — це придбання TBPN.
До речі, коли ми підходили до фінішу та перевірки фактів, компанія, яка стикається з таким журналістським контролем, отримує платформу, де вона може мати більш прямий контроль над розмовою. Я думаю, що є багато інвесторів, які стурбовані, виходячи з моїх розмов, що ця проблема обіцянок усім людям також поширюється на брак уваги в основній бізнес-моделі. І я маю на увазі, що ви ближче до такого роду прогнозів і спостереження за ринком, ніж я. Я залишаю вам і слухачам судити про те, чи вони думають, що OpenAI може перемкнути перемикач.
Ну, я поставив це запитання, тому що у вашій статті є цитата високопоставленого керівника Microsoft, і вона полягає в тому, що «Спадщина Сема може стати більше схожою на Берні Медоффа чи Сема Бенкмана-Фріда», а не на Стіва Джобса. Це досить гарне порівняння. Що ви зробили з цього порівняння?
Я думаю, що це перефраз. Частина про Стіва Джобса не була частиною цитати. Але в цьому є якийсь цікавий вид тверезості, оскільки він сформульований так: «Я думаю, що є невеликий, але реальний шанс, що він виявиться шахраєм на рівні SBF або Медоффа». Це означає, на мій погляд, не те, що Сема звинувачують у тих конкретних видах шахрайства чи злочинів, а те, що ступінь приманки та обману з боку Сема може мати шанс, щоб його запам’ятали в такому масштабі.
Так, я думаю, що найбільше вражає в цій цитаті, чесно кажучи, це те, що ви телефонуєте в Microsoft і не отримуєте лайк: «Це божевілля. Ми ніколи цього не чули». Ви отримуєте багато подібних: «Так, багато людей тут так думають», що дивно. І я думаю, що це стосується цих бізнес-запитань.
Наприклад, один інвестор сказав мені, у світлі того, як ця риса зберігалася протягом років після звільнення", — і він також вважав, що це цікава твереза думка, — що Сем не обов’язково повинен бути в абсолютному кінці списку, наприклад, він повинен бути найнижчим із низки з точки зору людей, які категорично не повинні створювати цю технологію, чого вона варта. Є кілька людей, які сказали, що цією людиною є Ілон Маск. Але це Ця риса ставить його, мабуть, у кінець списку людей, які повинні будувати AGI, і нижче кількох інших провідних діячів у цій галузі.
Тож я подумав, що це цікава оцінка, і я вважаю, що саме таку думку ви отримуєте від справжніх прагматиків, які, можливо, не надто привертають увагу питанням безпеки. Вони просто орієнтовані на зростання, і вони думають, що OpenAI тепер має проблеми з Семом Альтманом.
Твір Microsoft дійсно цікавий. Ця компанія думала, що вони на вершині світу. Те, що вони зробили ці інвестиції, і вони збираються обійти всіх, особливо, і що найважливіше, Google, і повернути собі милість споживачів. Рівень, до якого вони почуваються обпеченими цією пригодою — цією компанією керують дуже тверезо — я не думаю, що можна переоцінити.
Ви згадали про характери та риси особистості. Завершити хочу запитанням від наших слухачів. У нашому іншому шоу The Vergecast я сказав, що збираюся поговорити з вами, і сказав: «Якщо у вас є запитання до Ронана щодо цієї історії, дайте мені знати». Отже, у нас є одна, яка, на мою думку, добре пов’язана з тим, що ви описуєте. Я просто збираюся прочитати це вам:
«Чим виправдання поганої поведінки, безчинних дій Альтмана та інших лідерів ШІ відрізняються від виправдань, які Ронан чув від інших високопоставлених лідерів у політиці та ЗМІ? Хіба всі вони не виправдовують свої дії тим, що так змінюється світ? Якщо я не зроблю цього, зробить хтось інший?»
Так, багато цього відбувається. Я б сказав, що особливістю ШІ є те, що екзистенційні ставки настільки унікально високі, що означає, що обидві заяви про ризик є екстремальними, чи не так? У вас є Сем Альтманкажучи: «Це може бути світлом для всіх нас». Крім того, критики можуть сказати, що манія, яку має на увазі запитувач, є надзвичайною, чи не так?
Те, у чому Сем офіційно звинуватив Ілона, полягало в тому, що він, можливо, хоче врятувати людство, але тільки якщо це він. Компонент его бажання перемогти, який постійно використовує Сем, і що це один з підручників історії, це може все змінити. Таким чином, навіть поза уявленнями більшості підприємств Кремнієвої долини «потрібно розбити кілька яєць», я вважаю, що в умах деяких діячів, які ведуть ШІ, існує повна раціоналізація будь-яких наслідків.
І забудьте розбити яйця. Я думаю, що багато дослідників безпеки сказали б, що потенційний ризик зруйнувати країну, зруйнувати світ і зруйнувати мільйони людей, чия робота та безпека висять на волосині — ось що в цьому унікальне. На цьому я завершую, розмірковуючи над цим звітом, справді вірячи, що це не лише Сем Альтман. Мова йде про галузь, яка не обмежена, і про спіралеподібну проблему Америки, яка не може її обмежити.
так Ну, у нас був певний оптимізм, але я думаю, що це гарне місце, щоб залишити його.
[Сміється] Закінчується тихо.
звичайно. Це справді кожна чудова історія. Наближається суд над Маском-Альтманом. Думаю, тут ми дізнаємося ще багато чого. Я підозрюю, що захочу поговорити з тобою знову. Ронан Ферроу, велике спасибі за те, що ви на Decoder.
дякую
Запитання чи коментарі щодо цього епізоду? Зверніться до нас за адресою [email protected]. Ми дійсно читаємо кожен електронний лист!
