Сёння на Decoder я размаўляю з Ронанам Фэрроу, адной з найбуйнейшых зорак журналістаў-расследаванняў, якія працуюць сёння. Ён раскрыў гісторыю Харві Вайнштэйна, сярод многіх, многіх іншых. І толькі на мінулым тыдні ён і сааўтар Эндру Маранц апублікавалі ў The New Yorker неверагодную артыкул пра генеральнага дырэктара OpenAI Сэма Альтмана, яго надзейнасць і рост самой OpenAI.
Адна заўвага, перш чым мы пойдзем далей: газета The New Yorker апублікавала гэтую гісторыю, і мы з Ронанам вялі гэтую размову яшчэ да таго, як даведаліся аб поўным маштабе нападаў на дом Альтмана, таму вы не пачуеце, як мы гаворым пра гэта непасрэдна. Але проста сказаць: я лічу, што гвалт у любым выглядзе недапушчальны, гэтыя напады на Сэма былі недапушчальнымі, і што бездапаможнасць, якую адчуваюць людзі, якая вядзе да такога роду гвалту, сама па сабе непрымальная, і гэта варта значна больш пільнай увагі як з боку галіны, так і з боку нашых палітычных лідэраў. Я спадзяюся, што гэта зразумела.
Падпісчыкі Verge, не забывайце, што вы атрымліваеце эксклюзіўны доступ да дэкодэра без рэкламы ўсюды, дзе вы атрымліваеце свае падкасты. Галава сюды. Не падпісчык? Вы можаце падпісацца тут.
Усё, што сказана, вакол Альтмана шмат чаго круціцца, што з'яўляецца сумленнай гульнёй для строгай справаздачнасці - такога роду справаздачнасці, якую збіраліся зрабіць Ронан і Эндру. Дзякуючы папулярнасці ChatGPT, Альтман стаў самым прыкметным кіраўніком індустрыі штучнага інтэлекту, ператварыўшы калісьці некамерцыйную даследчую лабараторыю ў прыватную кампанію амаль на трыльёны долараў усяго за некалькі гадоў. Але міф пра Альтмана вельмі супярэчлівы, у роўнай ступені вызначаецца як яго відавочнай здольнасцю заключаць здзелкі, так і схільнасцю… ну, хлусіць усім вакол сябе.
Гісторыя складаецца з больш чым 17 000 слоў і, магчыма, утрымлівае канчатковы апісанне таго, што адбылося ў 2023 годзе, калі савет дырэктараў OpenAI вельмі раптоўна звольніў Альтмана за яго меркаваную хлусню, толькі для таго, каб яго амаль імгненна зноў прынялі на працу. Гэта таксама глыбокае апусканне ў асабістае жыццё Альтмана, яго інвестыцыі, яго заляцанні за блізкаўсходнімі грашыма і яго ўласныя разважанні аб яго мінулых паводзінах і рысах характару, якія прымусілі адну крыніцу сказаць, што ён быў «не абмежаваны праўдай». Я сапраўды раю вам прачытаць усю гісторыю; Я падазраю, што на гэта будуць спасылацца яшчэ шмат гадоў.
Ронан шмат разоў размаўляў з Альтманам на працягу 18 месяцаў, якія ён выдаткаваў на справаздачу аб гэтым матэрыяле, і таму адна з галоўных рэчаў, якія мяне цікавілі, гэта тое, ці адчуў ён якія-небудзь змены ў Альтмане за гэты час. У рэшце рэшт, за апошнія паўтара года шмат чаго адбылося ў ІІ, у тэхналогіях і ў свеце.
Вы пачуеце, як Ронан гаворыць пра гэта вельмі прама, а таксама пра тое, што людзі сталі больш ахвотна гаварыць пра здольнасць Альтмана раскрываць праўду. Людзі пачынаюць задавацца пытаннем, услых і ў запісе, ці выклікаюць занепакоенасць паводзіны такіх людзей, як Альтман, не толькі для ІІ або тэхналогій, але і для калектыўнай будучыні грамадства.
Добра: Ронан Фэрроу пра Сэма Альтмана, ІІ і праўду. Вось і пайшлі.
Гэта інтэрв'ю было злёгку адрэдагавана для даўжыні і яснасці.
Ронан Фэрроу, вы журналіст-расследавальнік і аўтар The New Yorker. Сардэчна запрашаем у Decoder.
Рады быць тут. Дзякуй, што ў мяне ёсць.
Я вельмі рады пагаварыць з вамі. Вы толькі што напісалі вялікі матэрыял для The New Yorker. Гэта профіль Сэма Альтмана і, як бы разам з ім, OpenAI. Я прачытаў гэта так, што, як і ўсе выдатныя функцыі, гэта, са строгімі справаздачамі, пацвярджае шмат пачуццяў, якія людзі адчувалі да Сэма Альтмана на працягу вельмі доўгага часу. Відавочна, што вы гэта апублікавалі, вы атрымалі на гэта рэакцыю. Як вы зараз да гэтага ставіцеся?
Што ж, насамрэч мяне ўзрадавала тое, наколькі гэта прабіваецца ў той час, калі эканоміка ўвагі такая шызафрэнічная і неглыбокая. Гэта гісторыя, якая, на мой погляд, закранае ўсіх нас. І калі я патраціў паўтара года свайго жыцця, і мой суаўтар, Эндру Маранц, таксама патраціў гэты час, сапраўды спрабуючы зрабіць што-небудзь крыміналістычнае і дбайнае, гэта заўсёды таму, што я адчуваю, што ёсць больш сур'ёзныя структурныя праблемы, якія ўплываюць на людзей, а не на чалавека і кампанію ў цэнтры гісторыі.
Сэм Альтман, на фоне хайп-культуры Сіліконавай даліны і стартапаў, якія ўзрастаюць да велізарных ацэнак, заснаваных на абяцаннях, якія могуць выканацца, а могуць і не здзейсніцца ў будучыні, і ўсё большага прыняцця культуры заснавальнікаў, якія лічаць, што расказваць розным групам розныя супярэчлівыя рэчы - гэта асаблівасць, а непамылка... Нават на гэтым фоне Сэм Олтман - надзвычайны выпадак, калі кожны ў Сіліконавай даліне, хто чакае гэтага, не можа перастаць гаварыць аб гэтым пытанні яго надзейнасці і яго сумленнасці.
Мы ўжо ведалі, што яго звольнілі па нейкай версіі абвінавачванняў у несумленнасці або серыйнай нібыта хлусні. Але, што дзіўна, нягледзячы на тое, што былі цудоўныя рэпартажы, Кіч Хэйгі прарабіў над гэтым вялікую працу. Карэн Хао прарабіла над гэтым вялікую працу. На самай справе не было канчатковага разумення фактычных меркаваных доказаў і прычын, чаму яны засталіся па-за ўвагай грамадскасці.
Такім чынам, пункт нумар адзін заключаецца ў тым, што мяне цешыць той факт, што некаторыя з гэтых прабелаў у нашых грамадскіх ведах і нават у ведах інсайдэраў Сіліконавай даліны цяпер крыху запаўнены. Некаторыя з прычын таго, што былі прабелы, былі запоўнены крыху больш.
Мы паведамляем пра выпадкі, калі людзі ў гэтай кампаніі сапраўды адчувалі, што ўсё хаваецца або наўмысна не дакументуецца. Адной з навінак у гэтай гісторыі з'яўляецца асноўнае расследаванне юрыдычнай фірмы WilmerHale, якая, відавочна, з'яўляецца шыкоўнай, надзейнай, буйной юрыдычнай фірмай, якая праводзіла расследаванні Enron і WorldCom, якія, дарэчы, былі аб'ёмнымі, як сотні апублікаваных старонак. Уілмер Хейл правёў гэтае расследаванне, якое патрабавалі члены савета дырэктараў, якія звольнілі Альтмана як умову свайго ад'езду, калі той ад іх пазбавіўся, і ён вярнуўся. І што дзіўна — у вачах многіх юрыдычных экспертаў, з якімі я размаўляў, і шакавальна ў вачах многіх людзей у гэтай кампаніі — яны не пісалі гэта. Усё, што калі-небудзь вынікала з гэтага, - гэта прэс-рэліз OpenAI з 800 слоў, які апісваў тое, што адбылося, як парушэнне даверу. І мы пацвердзілі, што гэта засталося на вусных інструктажах.
Бываюць выпадкі, калі, напрыклад, член праўлення хоча прагаласаваць супраць пераўтварэння зыходнай некамерцыйнай арганізацыі OpenAI у камерцыйную арганізацыю, і гэта фіксуецца як устрымаўся. На сустрэчы юрыст кажа: "Ну, гэта можа выклікаць занадта пільную ўвагу". А той, хто хоча прагаласаваць супраць, запісваецца ва ўстрымаўся. Ёсць фактычная спрэчка. OpenAI сцвярджае адваротнае, як вы можаце сабе ўявіць. Гэта ўсе выпадкі, калі ў вас ёсць кампанія, якая сама па сабе трымае нашу будучыню ў сваіх руках.
Стаўкі бяспекі настолькі вострыя, што яны не зніклі. Гэта прычына, па якой гэтая кампанія была заснавана як некамерцыйная арганізацыя, арыентаваная на бяспеку, і дзе рэчы былі засланены такім чынам, што надзейныя людзі лічылі гэта менш прафесійным. І вы спалучаеце гэта з фонам, дзе так мала палітычнага апетыту да значнага рэгулявання. Я думаю, што гэта вельмі небяспечная сітуацыя.
Для мяне справа не толькі ў тым, што Сэм Альтман так востра заслугоўвае гэтых пытанняў. Гэта таксама тое, што любы з гэтых хлопцаў у гэтай галіне і многія з ключавых фігур дэманструюць, калі не гэтую спецыфічную ідыясінкразічную рысу, нібыта ўвесь час хлусяць, то, безумоўна, некаторую ступень менталітэту гонкі да дна, дзе людзі, якія былі прыхільнікамі бяспекі, разбавілі гэтыя абавязацельствы і пазіцыю «ўсе ў гонцы».
Я думаю, калі мы глядзім на нядаўнія ўцечкі з Anthropic, ёсць чалавек, які ставіць пытанне аб тым, хто павінен трымаць руку на кнопцы ў гэтай частцы. Адказ у тым, што калі ў нас няма значнага нагляду, я думаю, што мы павінны задаваць сур'ёзныя пытанні і спрабаваць атрымаць як мага больш інфармацыі пра ўсіх гэтых хлопцаў. Так што мяне ўзрадавала тое, што я адчуваў, як значная размова пра гэта, або пачатак такой размовы.
Я задаў гэта таму, што вы працавалі над гэтым паўтара года. Вы размаўлялі са сваім сааўтарам, Эндру, я думаю, са 100 людзьмі. Гэта доўгі час для падрыхтоўкі гісторыі. Я думаю, у прыватнасці, пра апошнія паўтара года ў ІІ, і, хлопчык, адносіны і каштоўнасці ўсіх гэтых персанажаў вельмі хутка змяніліся.
Магчыма, не больш, чым Сэм Альтман, які пачынаў як пераможца па змаўчанні, таму што яны выпусцілі ChatGPT, і ўсе думалі, што гэта проста прыме Google. І тады Google адказала, што, здавалася, здзівіла іх, што Google паспрабуе абараніць свой бізнес, магчыма, адзін з лепшых бізнесаў у гісторыі тэхналогій, калі не ў гісторыі бізнесу. Anthropic вырашыў, што будзе сканцэнтраваны на прадпрыемстве. Здаецца, бярэ на сябе каманднае лідэрстватаму, што карпаратыўнае выкарыстанне ШІ вельмі высокае.
Цяпер OpenAI пераарыентуе свой прадукт з "мы возьмемся за Google" на Codex, і яны збіраюцца ўзяць на сябе прадпрыемства. Я проста не магу сказаць, ці змяніліся героі, з якімі вы размаўлялі, падчас вашых рэпартажаў за апошнія паўтара года? Ці змяніліся іх адносіны і каштоўнасці?
так. Я думаю, перш за ўсё, што крытыка, якая разглядаецца ў гэтай частцы, якая зыходзіць ад многіх людзей у гэтых кампаніях на дадзены момант - што гэта галіна, якая, нягледзячы на экзістэнцыяльныя стаўкі, апускаецца да нечага накшталт гонкі па бяспецы і дзе хуткасць пераважае над усім астатнім - гэтая занепакоенасць стала больш вострай. І я думаю, што гэтыя асцярогі сталі больш пацверджанымі, калі прайшлі апошнія паўтара года. Пры гэтым канкрэтна змянілася стаўленне да Сэма Альтману. Калі мы пачалі размаўляць з крыніцамі па гэтай тэме, людзі вельмі, вельмі з недаверам ставіліся да таго, каб іх цытавалі і запісвалі пра гэта.
Да канца нашай справаздачы ў вас ёсць корпус справаздач, у якіх людзі гавораць пра гэта вельмі адкрыта і відавочна, і ў вас ёсць члены савета дырэктараў, якія кажуць такія рэчы, як: "Ён паталагічны хлус. Ён сацыяпат". Ёсць розныя пункты гледжання: «Гэта небяспечна, улічваючы стаўку на бяспеку, і нам патрэбны лідары гэтай тэхналогіі, якія валодаюць высокай сумленнасцю», і заканчваючы: «Забудзьцеся на стаўку на бяспеку, гэта паводзіны, якія недапушчальныя для любога кіраўніка любой буйной кампаніі, што гэта проста стварае занадта шмат дысфункцый».
Такім чынам, размова стала значна больш выразнай у сэнсе, які здаецца, можа, запозненым, але ў пэўным сэнсе радуе. І Сэм Альтман, да яго гонару... Твор вельмі справядлівы і нават шчодры, я б сказаў, для Сэма. Гэта не тая п'еса, у якой было шмат рэчаў, якія "зразумелі". Я правёў з ім шмат-шмат гадзін па тэлефоне, пакуль мы заканчвалі гэта, і сапраўды выслухаў яго.
Як вы можаце сабе ўявіць, у такім творы не ўсё трапляе. Некаторыя з гэтых выпадкаў у гэтым былі таму, што я шчыра слухаў. І калі Сэм насамрэч сцвярджаў, што я адчуваў, што нешта, нават калі гэта праўда, можа быць сенсацыйным, я сапраўды зрабіў памылку, захоўваючы гэтую крыміналістыку і вымяраючы. Так што я думаю, што гэта ўспрымаецца правільна, і я проста спадзяюся, што гэтыя факты, якія назапашваюцца за гэты перыяд часу, могуць выклікаць больш бадзёрую размову аб неабходнасці кантролю.
Гэта маё наступнае пытанне. Я думаю, што вы размаўлялі з Сэмам дзясятак разоў падчас публікацыі гэтай гісторыі. Зноў жа, гэта шмат размоў на працягу доўгага перыяду часу. Як вы лічыце, ці змяніўся Сэм падчас справаздачы за апошнія паўтара года?
ага Я думаю, што адзін з самых цікавых падсюжэтаў у гэтым заключаецца ў тым, што Сэм Альтман таксама гаворыць пра гэтую рысу больш выразна, чым у мінулым. Пастава Сэма ў гэтым творы не такая: «Там нічога няма, гэта няпраўда; я не ведаю, пра што вы кажаце». Яго пастава такая, што ён кажа, што гэта звязана з тэндэнцыяй дагаджаць людзям і нейкай агідай да канфліктаў. Ён прызнае, што гэта выклікала ў яго праблемы, асабліва на пачатку кар'еры.
Ён гаворыць: «Ну, я мінуў гэта, або ў нейкай ступені мінуў гэта». Я думаю, што для мяне сапраўды цікавы кантынгент людзей, з якімі мы размаўлялі, якія былі не проста абаронцамі бяспекі, не толькі асноўнымі тэхнічнымі даследчыкамі, якія вельмі часта маюць вострую занепакоенасць бяспекай, але таксама прагматычнымі буйнымі інвестарамі. Яны прыхільнікі Сэма, якія ў некаторых выпадках разглядаюць гэтае пытанне і кажуць пра тое, што нават адыгралі ключавую ролю ў яго вяртанні пасля звальнення. Зараз, на пытанне аб тым, ці рэфармаваны ён, і ў якой ступені гэтая змена мае сэнс, яны кажуць: «Ну, у той час мы паставілі яму пад сумненне».
У прыватнасці, я маю на ўвазе аднаго вядомага інвестара, які сказаў: «Але з тых часоў, здаецца, ясна, што яго не вывозілі за дрывотню», — гэта была фраза, якую гэты выкарыстаў у той ступені, у якой гэта было неабходна. У выніку здаецца, што гэта цяпер стабільная рыса. Мы назіраем гэта пастаянна. Вы можаце паглядзець на некаторыя з найбуйнейшых кампаній OpenAIадносіны і тое, як яны пастаянна нясуць вагу гэтага недаверу.
Як і ў выпадку з Microsoft, вы размаўляеце з кіраўнікамі там, і яны маюць сапраўды вострыя і нядаўна каталізаваныя праблемы. Ёсць такі выпадак, калі ў той жа дзень OpenAI пацвярджае сваю эксклюзіўнасць з Microsoft у дачыненні да асноўных мадэляў штучнага інтэлекту без грамадзянства, а таксама аб'яўляе аб новай здзелцы з Amazon, звязанай з продажам карпаратыўных рашэнняў для стварэння агентаў штучнага інтэлекту з захаваннем стану, што азначае, што яны маюць памяць.
Вы размаўляеце з супрацоўнікамі Microsoft, і яны кажуць: «Гэта немагчыма зрабіць, не ўзаемадзейнічаючы з асноўнымі рэчамі, на якія мы маем эксклюзіўную здзелку». Такім чынам, гэта толькі адзін з многіх невялікіх прыкладаў, калі гэтая рыса пастаянна ўплывае на дзелавую актыўнасць і з'яўляецца прадметам актыўнай занепакоенасці ў праўленні OpenAI, у яго кіруючым складзе і ў больш шырокай тэхналагічнай супольнасці.
Вы ўвесь час паўтараеце гэтую «рысу». У гісторыі ёсць радок, які мне здаецца тэзісам, і гэта апісанне рысы, якую вы апісваеце. Гэта тое, што «Сэма Альтмана не стрымлівае праўда» і што ён мае «дзве рысы, якія амаль ніколі не сустракаюцца ў адным чалавеку: першая — моцнае жаданне падабацца людзям, падабацца ў любым узаемадзеянні, а другая — амаль сацыяпатычная адсутнасць клопату аб наступствах, якія могуць паўстаць у выніку падману кагосьці».
Я павінен сказаць вам, што я прачытаў гэты сказ 500 разоў, і я спрабаваў уявіць, што заўсёды кажу тое, што людзі хочуць, каб яны падабаліся, а потым не засмучаюся, калі адчуваюць, што іх падманваюць. І я не мог прымусіць свой эмацыйны стан зразумець, як гэтыя рэчы могуць існаваць у адным чалавеку. Вы шмат размаўлялі з Сэмам, і вы размаўлялі з людзьмі, якія адчулі гэтыя рысы. Як ён гэта робіць?
ага Гэта цікава на чалавечым узроўні, таму што я падыходжу да падобных органаў рэпартажаў з сапраўднай увагай да гуманізацыі тых, хто знаходзіцца ў цэнтры гэтага, і шукаю глыбокага разумення і суперажывання. Калі я паспрабаваў падысці да гэтага з больш чалавечай пазіцыі і сказаў: "Гэй, гэта было б разбуральна для мяне, калі б столькі людзей, з якімі я працаваў, сказалі, што я паталагічны хлус. Як вы вытрымліваеце такую вагу? Як вы гаворыце пра гэта падчас тэрапіі? Якую гісторыю вы пра гэта расказваеце сабе?"
На мой погляд, у мяне ёсць нейкія банальнасці з Заходняга ўзбярэжжа накшталт: «Так, мне падабаецца дыханне». Але не вельмі моцнага адчування глыбокай самаканфрантацыі, якое, я думаю, узнікла б у многіх з нас, калі б мы бачылі такія водгукі аб нашых паводзінах і абыходжанні з людзьмі.
Я думаю, што гэта на самай справе таксама ідзе да больш шырокага адказу на пытанне. Сэм сцвярджае, што гэтая рыса выклікала праблемы, але таксама што гэта частка таго, што дазволіла яму паскорыць рост OpenAI настолькі, што ён здольны аб'ядноўваць і дагаджаць розным групам людзей. Ён увесь час пераконвае ўсе гэтыя канфліктуючыя групы, што тое, што іх хвалюе, тое, пра што клапоціцца ён. І гэта можа быць вельмі карысным навыкам для заснавальніка. Я размаўляў з інвестарамі, якія тады казалі: «Ну, магчыма, гэта менш карысны навык для фактычнага кіравання кампаніяй, таму што ён сее так шмат рознагалоссяў».
Але што тычыцца асабіста Сэма, я думаю, што, калі я спрабую звязацца на чалавечым узроўні, я заўважаю відавочны недахоп больш глыбокай канфрантацыі, разважанняў і адказнасці за сябе, што таксама сведчыць пра звышздольнасць або адказнасць для кампаніі, якая рыхтуецца да IPO.
Са слоў аднаго з былых членаў савета дырэктараў па імі Сью Юн, якая ў запісе гаворыць, што «беспамылковасць» - гэта фраза, якую яна выкарыстоўвае, ён здольны па-сапраўднаму паверыць у зменлівую рэчаіснасць яго продажаў або пераканаць сябе ў іх. Або, па меншай меры, калі ён ім не верыць, ён можа прамовіць праз іх, не сумняваючыся ў сабе.
Я думаю, што рэч, пра якую вы кажаце, калі вы ці я можам, калі мы гаворым гэтую рэч і разумеем, што яна супярэчыць іншым запэўненням, якія мы зрабілі, на нейкі момант замерці або праверыць сябе. Я думаю, што з ім гэтага не бывае. І ёсць больш шырокая хайп-культура Сіліконавай даліны і культура заснавальнікаў, якія гэта ахопліваюць.
Гэта смешна. The Verge заснаваны на тым, што складае агляд прадуктупраграма. Гэта сэрца таго, што мы тут робім. Раз у год я трымаю ў руках трыльён долараў даследаванняў і распрацовак Apple і кажу: "Гэты тэлефон - сямёрка". І гэта як бы легітымізуе ўсе нашы справаздачы і нашы меркаванні ў іншых месцах. У нас ёсць ацэначная функцыя, і мы трацім так шмат часу, проста гледзячы на прадукты штучнага інтэлекту і кажучы: «Яны працуюць?»
Такое адчуванне, што гэта адсутнічае ў многіх размовах пра штучны інтэлект, які ён ёсць сёння. Вядуцца бясконцыя размовы пра тое, што ён можа зрабіць, наколькі гэта можа быць небяспечным. А потым вы разбіраецеся і кажаце: "Ці сапраўды ён робіць тое, што павінен рабіць сёння?" У некаторых выпадках адказ станоўчы. Але ў многіх і многіх выпадках адказ адмоўны.
Такое адчуванне, што гэта звязана з культурай шуміхі, якую вы апісваеце, а таксама з адчуваннем таго, што, ну, калі вы кажаце, што гэта нешта зробіць, але не, і камусьці стане дрэнна, гэта нармальна, таму што мы знаходзімся на наступным шляху. Гэта ў мінулым. У прыватнасці, у ІІ Сэм так добра ўмее даваць вялікія абяцанні.
Літаральна на гэтым тыдні, я думаю, у той жа дзень, калі была апублікаваная ваша гісторыя, OpenAI выпусціла праграмны дакумент, у якім гаварылася, што мы павінны перагледзець сацыяльны кантракт і атрымаць ад урада стыпендыі за эфектыўнасць штучнага інтэлекту. Гэта грандыёзнае абяцанне аб тым, як некаторыя тэхналогіі могуць сфарміраваць будучыню свету і тое, як мы жывем, і ўсё гэта залежыць ад таго, што тэхналогіі працуюць менавіта так, як, магчыма, абяцалі працаваць ці павінны працаваць.
Вы калі-небудзь бачылі, што Сэм сумняваўся ў тым, што штучны інтэлект ператвараецца ў AGI або звышінтэлект, ці даходзіць да фінішу? Таму што гэта тое, што мяне цікавіць больш за ўсё. Ці ёсць якія-небудзь разважанні аб тым, ці можа гэтая асноўная тэхналогія рабіць усё тое, што яны кажуць, што яна можа?
Гэта дакладна правільны набор пытанняў. Ёсць надзейныя тэхнолагі, з якімі мы размаўлялі ў гэтай справаздачнасці - і, відавочна, Сэм Альтман не адзін; ён дзелавы чалавек, які кажа, што тое, як Сэм гаворыць пра тэрміны для гэтай тэхналогіі, зусім не так. Ёсць паведамленні ў блогу за некалькі гадоў таму, у якіх Сэм кажа: "Мы ўжо дасягнулі гарызонту падзей. AGI практычна тут. Суперінтэлект не за гарамі. Мы будзем на іншых планетах. Мы збіраемся вылечыць усе формы раку". Сапраўды, я не прыхарошваю.
Пра рак на самай справе цікава, што Сэм раскручвае чалавека, які тэарэтычна вылечыў рак іх сабакі з дапамогай ChatGPT, а гэтага проста не адбылося. Яны пагаварылі з ChatGPT, і гэта дапамагло ім накіраваць некаторых даследчыкаў, якія сапраўды зрабілі працу, але сам-насам гэты інструмент вылечыў гэтага сабаку - гэта не гісторыя.
Я рады, што вы ўзнялі гэтае пытанне, таму што я хачу перайсці да гэтага больш важнага моманту пра тое, калі і патэнцыял, і рызыка тэхналогіі сапраўды будуць рэалізаваны. Але варта згадаць гэтыя невялікія адхіленні, якія пастаянна здараюцца з Сэмам Альтманам, дзе ён, здаецца, увасабляе гэтую рысу зноўку.
Я маю на ўвазе, каб выкарыстаць прыклад справаздачы Уілмера Хейла, дзе мы мелі гэтую інфармацыю, якая была захавана ў пісьмовай форме, і мы хацелі ведаць, ці была вусная зводка на гэтым шляху дадзена каму-небудзь, акрамя двух членаў праўлення, якіх Сэм дапамагаў усталяваць для кантролю. І ён сказаў: «Так, так, не, я лічу, што гэта было дадзена ўсім, хто далучыўся да дошкі пасля». А ў нас чалавек, які непасрэдна ведае сітуацыю, кажа, што гэта проста хлусня. І гэта сапраўды выглядае так, што гэта няпраўда. Калі мы хочам быць шчодрымі, магчыма, ён быў дэзінфармаваны.
Гэтых выпадковых запэўненняў шмат. І я выкарыстоўваю гэты прыклад збольшага таму, што гэта выдатны прыклад фальшыўкі, назавем гэта так, што можа мець рэальныя юрыдычныя наступствы. Мне не трэба казаць вам, што ў адпаведнасці з карпаратыўным заканадаўствам Дэлавэра, калі гэтая кампанія праводзіць IPO, акцыянеры могуць у адпаведнасці з раздзелам 220 скардзіцца на гэта і патрабаваць адпаведную дакументацыю. Ужо ёсць члены праўлення, якія кажуць такія рэчы, як: "Ну, пачакайце хвілінку, гэты брыфінг павінен быў адбыцца".
Такім чынам, гэтыя рэчы, якія, здаецца, увесь час выскокваюць з яго вуснаў, могуць мець рэальны ўплыў на рух рынку, рэальны эфект для OpenAI. Вяртаючыся да ўтапічнай мовы шуміхі, якая аднавілася, я думаю, што невыпадкова ў той дзень, калі гэты твор выйшаў, ён таксама ўплывае на ўсіх нас, таму што небяспека такая вострая ў сувязі з тым, як гэтаразгортванне ў зброі, спосаб яго выкарыстання для ідэнтыфікацыі баявых хімічных рэчываў, патэнцыял дэзінфармацыі і тое, як утапічны ажыятаж сапраўды, здаецца, прымушае многіх надзейных эканамістаў сказаць: «У гэтага ёсць усе прыкметы бурбалкі».
Нават Сэм Альтман сказаў: «Хтосьці тут страціць шмат грошай». Гэта сапраўды магло б парушыць вялікі эканамічны рост у Амерыцы і ва ўсім свеце, калі адбудзецца сапраўднае праколванне мыльнай бурбалкі з удзелам усіх гэтых кампаній, якія заключаюць здзелкі адна з адной, ідуць ва-банк на штучны інтэлект, бяручы пры гэтым вялікія пазыкі. Такім чынам, тое, што кажа Сэм Альтман, мае значэнне, і я думаю, што перавага людзей вакол яго, вы згадалі, што мы размаўлялі з больш чым сотняй, насамрэч іх было значна больш за сотню. У нас была размова на фінішы, дзе было такое: «Ці будзе занадта дробязным сказаць, што гэта значна большая лічба?» І мы сказалі: "Так, давайце прыменшым. Мы будзем гуляць крута". Але было так шмат людзей, і такая значная большасць з іх казалі: "Гэта выклікае занепакоенасць". І я думаю, што ўсё таму.
Дазвольце спытаць вас пра гэтую лічбу. Як вы ўжо згадвалі, з цягам часу людзі ўсё больш і больш адкрыта выказвалі праблемы. Такое адчуванне, што ціск вакол мыльнай бурбалкі — гонка за перамогай, за тым, каб акупіць усе гэтыя інвестыцыі, за тым, каб выйсці пераможцам, за IPO — змяніла шмат стаўлення. Гэта, безумоўна, стварала большы ціск на Сэма і OpenAI.
На гэтым тыдні мы апублікавалі артыкул толькі пра настрой OpenAI. Ваша гісторыя з'яўляецца часткай гэтага, але маштабныя кадравыя змены ў кіруючых шэрагах OpenAI - людзі прыходзяць і сыходзяць. Даследчыкі ўсе накіраваліся, у асноўным у Anthropic, што, на мой погляд, вельмі цікава. Вы проста бачыце, што гэтая кампанія адчувае ціск, і яна нейкім чынам рэагуе на гэты ціск.
Але потым я ўспамінаю, як звольнілі Сэма. Гэта мне проста запомнілася. Нікому больш гэта не запомнілася, але я патэлефанаваў у заапарк Бронкса ў 19 вечара ў пятніцу, і хтосьці сказаў, што паспрабуе вярнуць Сэма. А потым мы правялі выходныя, шукаючы гэтую гісторыю. І я проста сказаў: "Я ў заапарку. Што вы хочаце, каб я тут рабіў?" І адказ быў: «Заставайцеся на тэлефоне». Ну, мая дачка сказала: «Адыйдзі ад тэлефона». І вось што я зрабіў.
Каб вярнуць Сэма, трэба было ехаць або памерці. Гэтая кампанія сказала: «Не, мы не дазволім праўленню звольніць Сэма Альтмана». Інвестары, якіх цытуе ваш артыкул: «Мы пайшлі на вайну», я думаю, гэта пазіцыя Thrive Capital, «каб вярнуць Сэма». Microsoft пайшла на вайну, каб вярнуць Сэма. Гэта пазней, і цяпер усе кажуць: "Мы збіраемся на IPO. Мы дайшлі да фінішу. Мы вярнулі нашага хлопца, і ён давядзе нас да фінішу. Мы занепакоеныя, што ён хлус".
Навошта тады была вайна, каб яго вярнуць? Таму што, здаецца, нічога не змянілася. Вы кажаце пра памяткі, якія Ілля Суцкевер і [генеральны дырэктар Anthropic] Дарыё Амадэі вялі, калі былі сучаснікамі Сэма Альтмана. Нумар адзін для Ільі было тое, што Сэм хлус.
Нічога з гэтага не змянілася. Дык навошта тады была вайна, каб яго вярнуць? І цяпер, калі мы на фінішы, здаецца, што ўсе клопаты зніклі.
Ну, па-першае, прабачце вашу дачку і майго партнёра, і ўсіх астатніх людзей вакол журналістаў.
[Смяецца] Гэта былі выхадныя для ўсіх.
Так, гэта сапраўды захоплівае жыццё, і гэтая гісторыя, безумоўна, мае маё, за апошні перыяд часу. На мой погляд, гэта датычыцца тэмы журналістыкі і доступу да інфармацыі. Інвестары, якія пайшлі на вайну за Сэма і ўсе адыгралі ролю ў тым, каб ён вярнуўся, а таксама савет, які быў спецыяльна распрацаваны для абароны місіі некамерцыйнай арганізацыі, каб паставіць бяспеку вышэй за рост і звольніць кіраўніка, калі ім нельга было давяраць, яны сышлі. Гэта было ўсё таму, што, так, былі рынкавыя стымулы, так?
Сэм здолеў пераканаць людзей: «Ну, кампанія проста разваліцца». Але прычынай падтрымкі быў недахоп інфармацыі. У многіх выпадках гэтыя інвестары цяпер кажуць: «Я азіраюся назад і думаю, што ў мяне павінна было быць больш клопатаў, калі б я цалкам ведаў, у чым заключаюцца прэтэнзіі і праблемы».
Не ўсе з іх;меркаванні розныя, і мы цытуем шэраг меркаванняў, але ёсць важныя, якія дзейнічалі на падставе вельмі частковай інфармацыі. Дошка, якая звольніла Сэма, была, па словах аднаго чалавека, які раней быў на дошцы, "вельмі СП", і яны моцна намацалі мяч. І мы дакументуем асноўныя скаргі, і людзі могуць самі вырашыць, ці назапашваецца гэта ў тэрміновую занепакоенасць, якую яны адчувалі, але гэты аргумент і гэтая інфармацыя не былі прадстаўлены.
Яны атрымалі тое, што некаторыя з іх цяпер прызнаюць дрэнным юрыдычным саветам. Каб апісаць гэта, вы запомніце цытату, і, верагодна, многія вашы слухачы і гледачы запомняць цытату як адсутнасць шчырасці. Вось да чаго гэта зводзілася, і тады яны па сутнасці не прымалі званкі.
Званкі не прымалі. Я ўпэўнены, што вы спрабавалі. Усе, каго я ведаю, спрабавалі, і справа дайшла да таго, што ты, як журналіст, не павінен даваць парады сваім крыніцам, але я думаў: «Гэта знікне, калі ты не пачнеш тлумачыць сябе».
І вось што адбылося. Забудзьцеся пра журналістаў. У вас быў Сацья Надэла, які казаў: "Што, чорт вазьмі, здарылася? Я не магу прымусіць нікога растлумачыць мне". І гэта галоўная фінансавая падтрымка кампаніі. А потым Сацья тэлефануе [сузаснавальніку LinkedIn] Рэйду Хофману, а Рыд тэлефануе і кажа: «Я не ведаю, што, чорт вазьмі, здарылася».
Зразумела, што яны знаходзяцца ў гэтай пустэчы інфармацыі, шукаючы традыцыйныя паказчыкі, не звязаныя са штучным інтэлектам, якія б апраўдалі такі тэрміновы, раптоўны абстрэл. Маўляў, добра, гэта былі сэксуальныя злачынствы? Гэта было растрата? І ўвесь тонкі, але, на мой погляд, важкі аргумент аб тым, што гэтая тэхналогія адрозніваецца і што падобнае пастаяннае назапашванне меншых здрадаў можа мець значныя стаўкі як для гэтага бізнесу, так і, магчыма, для свету, быў у значнай ступені страчаны. Такім чынам, капіталістычныя стымулы перамаглі, але таксама людзі, якія гэта зрабілі, выйшлі і не заўсёды валодалі поўнай інфармацыяй.
Я хачу проста спытаць пра тое, "што ўсе думалі, што гэта было" аспект на момант, таму што я, вядома, бачыў навіны, і я сказаў: "О, нешта дрэннае павінна быць здарылася." Вы зрабілі шмат справаздач аб #MeToo, ліха. Вы раскрылі гісторыю Харві Вайнштэйна.
Вы патрацілі шмат часу, паведамляючы пра гэтыя сцвярджэнні, якія, я думаю, палічылі канчаткова неабгрунтаванымі: што Альтман здзейсніў сэксуальны гвалт над непаўналетнімі або наняў сэкс-работнікаў, або нават забіў інфарматара OpenAI. Я маю на ўвазе, што вы чалавек, які можа найбольш строга паведамляць пра гэтыя рэчы. Вы вырашылі, што нічога не выйшла?
Ну, паслухайце, я не хачу казаць, што нешта пайшло на нішто. Я магу сказаць, што я месяцамі разглядаў гэтыя заявы і не знайшоў іх пацверджання. І мяне ўразіла, што гэтыя хлопцы, гэтыя кампаніі, якія валодаюць вялікай уладай над нашым будучым, сапраўды марнуюць непрапарцыянальна шмат часу і рэсурсаў на дзіцячую брудную бойку.
Адзін кіраўнік апісвае гэта як «шэкспіраўскае». Грошы прыватных следчых і дасье апазіцыі, якія складаюцца, бязлітасны. І самая няшчасная рэч у тым, што такія непрыстойныя рэчы, якія паўтараюць канкурэнты Сэма, з'яўляюцца толькі меркаваным фактам, так? Ёсць такое сцвярджэнне, што ён пераследуе непаўналетніх хлопчыкаў, і на многіх кактэйльных вечарынах у Сіліконавай даліне вы чуеце гэта. На канферэнц-канферэнцыі я чуў, як толькі што паўтарылі вартыя даверу, вядомыя кіраўнікі: «Усе ведаюць, што гэта факт».
Сумна тое, што я кажу пра тое, адкуль гэта адбываецца, па розных вектарах, па якіх гэта перадаецца. Ілон Маск і яго паплечнікі, здаецца, прасоўваюць сапраўды жорсткія дасье, якія ні да чаго не прыводзяць. Калі вы на самой справе пачынаеце разглядаць асноўныя прэтэнзіі, яны невыразныя. Сумна тое, што гэта сапраўды засланяе крытыку, заснаваную на доказах, якая, на маю думку, сапраўды заслугоўвае тэрміновага кантролю і разгляду.
Іншая тэма, якая сапраўды прасочваецца ў гэтай гісторыі, - гэта амаль пачуццё страху, што ў Сэма так шмат сяброў - ён інвеставаў у так шмат кампаній ад сваёй папярэдняй ролі генеральнага дырэктара Y Combinator да яго асабістых інвестыцый, некаторыя з якіх знаходзяцца ў прамым супярэчнасці з яго роляй генеральнага дырэктара OpenAI - і вакол яго цішыня.
Гэта ўразіла мяне, калі я чытаў адзін радок. Вы апісваеце запіскі Іллі Суцкевера, а яны проста ў Сіліконавай даліне. Усеназывае іх Ільянскімі запіскамі. Але вакол нават цішыня. Іх перадаюць, але не абмяркоўваюць. Як вы думаеце, адкуль гэта? Гэта страх? Гэта жаданне атрымаць анёльскія інвестыцыі? Адкуль гэта?
Я думаю, што гэта вялікая баязлівасць, скажу шчыра. Паведамляючы пра гісторыі нацыянальнай бяспекі, дзе крыніцамі з'яўляюцца інфарматары, якія могуць страціць усё і сутыкнуцца з крымінальным пераследам, яны па-ранейшаму робяць правільныя рэчы і кажуць пра тое, каб стварыць адказнасць. Я працаваў над гісторыямі, звязанымі з сэксуальнымі злачынствамі, якія вы згадалі, у якіх крыніцы глыбока траўміраваныя і баяцца вельмі асабістай адплаты.
У многіх выпадках вакол гэтага рытму вы маеце справу з людзьмі з уласным профілем і ўладай. Яны альбо самі вядомыя людзі, альбо знаходзяцца ў асяроддзі вядомых людзей. У іх надзейнае дзелавое жыццё. На мой погляд, гаварыць пра гэтыя рэчы для іх на самай справе вельмі мала. І, на шчасце, іголка рухаецца, як мы казалі раней, і людзі цяпер гавораць больш.
Але на працягу такога доўгага часу людзі проста маўчалі пра гэта, таму што я думаю, што культура Сіліконавай даліны вельмі эгаістычная і бязлітасна арыентаваная на бізнес і рост. Так што я думаю, што гэта закранае нават некаторых людзей, якія ўдзельнічалі ў звальненні Сэма, як вы бачылі ў наступныя дні, так, адным з фактараў, якія прывялі да яго вяртання і звальнення старых членаў савета дырэктараў, было тое, што ён згуртаваў інвестараў, якія былі збянтэжаныя яго справай.
Але іншая заключаецца ў тым, што так шмат іншых людзей вакол, якія мелі праблемы і тэрмінова агучвалі іх, проста склаліся, як сурвэткі, і змянілі мелодыю ў той момант, калі ўбачылі, што вецер дзьме ў іншы бок, і яны хацелі сесці ў цягнік прыбытку.
Шчыра кажучы, з майго пункту гледжання як рэпарцёра, гэта даволі змрочна.
Некаторыя з гэтых людзей - Міра Мураці, якая, я думаю, на працягу 20 хвілін была новым генеральным дырэктарам OpenAI. Потым яе замянілі. Гэта была вельмі складаная дынаміка, і, відавочна, Сэм вярнуўся. Другі чалавек — Ілля Суцкевер, які быў адным з галасоў за зняцце Сэма, а потым перадумаў, ці, прынамсі, сказаў, што перадумаў, а потым сышоў, каб стварыць уласную кампанію. Ведаеце, што прымусіла яго перадумаць? Гэта былі толькі грошы?
Ну, і каб было ясна, я не вылучаю гэтыя два. Ёсць і іншыя члены савета дырэктараў, якія ўдзельнічалі ў стральбе, якія пасля гэтага таксама вельмі маўчалі. Я думаю, што гэта больш шырокая калектыўная праблема. Гэта, у некаторых выпадках, людзі, якія мелі маральныя рысы біць трывогу і прымаць радыкальныя меры, і гэта варта пахваліць. І так вы гарантуеце адказнасць. Гэта магло б дапамагчы многім людзям, якія пацярпелі ад гэтай тэхналогіі. Гэта магло б дапамагчы галіны заставацца ў большай ступені арыентаванай на бяспеку.
Але, маючы справу з інфарматарамі і людзьмі, якія часта спрабуюць падштурхнуць да адказнасці, вы таксама бачыце, што трэба цвёрда адстойваць гэта і адстойваць свае перакананні. І гэтая галіна сапраўды поўная людзей, якія проста не адстойваюць сваіх перакананняў.
Нягледзячы на тое, што яны думаюць, што будуюць лічбавага Бога, які нейкім чынам альбо ліквідуе ўсю працу, альбо створыць больш працы, альбо нешта адбудзецца.
Ну вось у чым справа. Такім чынам, культура адмовы ад сваіх перакананняў і ўсіх этычных праблем, якія адыходзяць на другі план у той момант, калі надыходзіць якая-небудзь спякота або што-небудзь, што можа пагражаць вашаму ўласнаму становішчу ў бізнэсе, магчыма, у некаторай ступені добрая і добрая для кампаній, якія працуюць як звычайна, і ствараюць любы віджэт.
Але гэта таксама тыя самыя людзі, якія кажуць: «Гэта можа літаральна забіць нас усіх». І зноў жа, вам не трэба кідацца ў крайнасць Тэрмінатара Скайнета. Ёсць набор рызык, якія ўжо матэрыялізуюцца. Гэта рэальна, і яны маюць рацыю, калі папярэджваюць пра гэта, але вам трэба было б папрасіць кагосьці іншага ў фатэлі папсыхалягізаваць, як гэтыя дзьве рэчы могуць жыць у адных і тых жа людзях, калі яны агучваюць настойлівыя папярэджаньні, яны, можа быць, падстаўляюць нагу і спрабуюць нешта зрабіць, а потым проста сціхаюць і змаўкаюць.
Менавіта таму вы можаце мець такія выпадкі, калі пра рэчы не пішуць і рэчы замятаюць пад дыван, і ніхто не гаворыць пра гэта адкрыта на працягу многіх гадоў пасля факту.
Натуральнай, адказнай асобай тут не будуць генеральныя дырэктары гэтых кампаній; гэта былі б урады. У Злучаных Штатах, магчымагэта ўрады штатаў, магчыма, гэта федэральны ўрад.
Безумоўна, усе гэтыя кампаніі хочуць быць глабальнымі. Тут ёсць шмат глабальных наступстваў. Я назіраў, як OpenAI, Google і Anthropic падштурхоўваюць адміністрацыю Байдэна да выдання распараджэння аб штучным інтэлекце. У рэшце рэшт атрымалася даволі бяззуба. Там проста было сказана, што яны павінны пагаварыць аб тым, на што здольныя іх мадэлі, і апублікаваць тэсты бяспекі. І тады ўсе яны падтрымалі Трампа, і Трамп прыйшоў, знішчыў усё гэта і сказаў: "Мы павінны быць канкурэнтаздольнымі. Гэта бясплатна для ўсіх. Давайце".
У той жа час усе яны спрабуюць сабраць сродкі з блізкаўсходніх краін, якія маюць шмат нафтавых грошай і жадаюць змяніць сваю эканоміку. Гэта палітыкі. Я адчуваю, што палітыкі абавязкова павінны разумець, што нехта гаворыць з абодвух бакоў вуснаў, і яны не будуць надта засмучаны, калі хтосьці ў рэшце рэшт будзе расчараваны, але палітыкаў таксама бяруць за паездку. Як вы думаеце, чаму?
На мой погляд, гэта сапраўды тое, чаму гэты твор мае значэнне і чаму варта было выдаткаваць на яго ўвесь гэты час і дэталі. Мы знаходзімся ў асяроддзі, дзе сістэмы, якія, як вы кажаце, павінны забяспечваць нагляд, проста выдзербленыя. Гэта пост-грамадзянская Аб'яднаная Амерыка, дзе грашовы паток настолькі бесперашкодны, і гэта асаблівая канцэнтрацыя гэтай праблемы вакол штучнага інтэлекту, дзе ёсць гэтыя PAC, якія распаўсюджваюцца і заліваюць грошы на адмену значнага рэгулявання як на дзяржаўным, так і на федэральным узроўні.
У вас ёсць [сузаснавальнік OpenAI] Грэг Брокман, другі ў камандзе Сэма, які непасрэдна ўнёс вялікі ўклад у некалькі з іх. Гэта прыводзіць да сітуацыі, калі сапраўды адбываецца захоп заканадаўцаў і патэнцыйных рэгулятараў, і з гэтага складана выйсці. Сумна тое, што я думаю, што ёсць простыя палітычныя крокі, некаторыя з якіх апрабоўваюцца ў іншых краінах свету, якія дапамогуць вырашыць некаторыя з гэтых праблем падсправаздачнасці.
Вы маглі б правесці больш абавязковых выпрабаванняў бяспекі перад разгортваннем, што ўжо адбываецца ў Еўропе для памежных мадэляў. Вы маглі б увесці больш строгія патрабаванні да пісьмовых публічных дакументаў для тых відаў унутраных расследаванняў, у якіх мы бачылі, што ў гэтай справе рэчы не былі напісаны. Вы маглі б мець больш надзейны набор механізмаў праверкі нацыянальнай бяспекі для тых амбіцый блізкаўсходняй інфраструктуры, якія падштурхоўваў Сэм Альтман.
Як вы сказалі, ён рабіў гэтую прынаду і пераключыўся з адміністрацыяй Байдэна, кажучы: «Рэгулюйце нас, рэгулюйце нас», і дапамагаў ім распрацаваць выканаўчы загад, а затым, у той момант, калі Трамп увайшоў у справу, сапраўды ў першыя дні, проста без забаронаў: «Давайце паскараемся і давайце пабудуем вялікі кампус цэнтра апрацоўкі дадзеных у Абу-Дабі». Вы маглі мець, гэта вельмі проста, як абарона інфарматараў. Не існуе федэральнага закону, які абараняе супрацоўнікаў кампаніі па штучным інтэлекту, якія раскрываюць такія праблемы бяспекі, якія агучваюцца ў гэтай частцы.
У нас ёсць выпадкі, калі Ян Лейке, які быў старэйшым спецыялістам па бяспецы ў OpenAI, кіраваў звышвыраўноўваннем у кампаніі. Ён піша праўленню, па сутнасці, матэрыял для інфарматараў, у якім паведамляе, што кампанія сыходзіць з рэек сваёй місіі бяспекі. Вось такія людзі павінны мець наглядны орган, да якога яны могуць звяртацца, і яны павінны мець правільную заканадаўчую абарону, якую мы бачым у іншых сектарах. Гэта проста паўтарыць рэжым у стылі Сарбейнса-Окслі.
Я думаю, што, нягледзячы на тое, наколькі вострай з'яўляецца праблема таго, што Сіліконавая даліна бярэ на сябе кантроль над усімі рычагамі ўлады, і нягледзячы на тое, наколькі выдзербленымі з'яўляюцца некаторыя з гэтых інстытутаў, якія могуць забяспечваць нагляд і агароджу, я ўсё яшчэ веру ў асноўную матэматыку дэмакратыі і эгаістычных палітыкаў. І з'яўляецца ўсё больш і больш дадзеных апытанняў, паводле якіх большасць амерыканцаў лічаць, што занепакоенасць, пытанні або рызыкі штучнага інтэлекту ў цяперашні час пераважваюць перавагі.
Так што я думаю, што паток грошай у палітыку з боку штучнага інтэлекту ў нашых сілах зрабіць гэта крыніцай пытальніка ў адносінах да палітыкаў. Калі амерыканцы ідуць галасаваць, яны павінны ўважліва вывучыць, ці не фінансуюцца людзі, за якіх яны галасуюць, асабліва калі яны некрытычныя і выступаюць супраць рэгулявання, улічваючы ўсе гэтыя праблемы, фінансаваннем буйных тэхналагічных інтарэсаў. Так што я думаю, калі людзі могуць чытаць такія творы, слухаць такія падкасты і быць дастаткова клапатлівымі, каб думаць пра іх крытычнаіх рашэнняў як выбаршчыкаў, ёсць рэальная магчымасць стварыць у Вашынгтоне выбарчую акругу прадстаўнікоў, якія сочаць і прымусяць наглядаць.
Магчыма, гэта адна з самых аптымістычных рэчаў, якія я калі-небудзь чуў пра бягучую індустрыю штучнага інтэлекту. Я цаню гэта. Я апантаны выбарамі, пра якія вы кажаце. Цяпер гэтага шмат. Усё даволі паслядоўна, і здаецца, што чым больш маладыя людзі, у прыватнасці, падвяргаюцца ўздзеянню штучнага інтэлекту, тым больш недаверлівыя і злыя яны на гэта. Гэта валентнасць усіх апытанняў. І я гляджу на гэта, і я думаю, ну, так, разумныя палітыкі проста будуць выступаць супраць гэтага. Яны проста сказалі б: «Мы прыцягнем да адказнасці буйных тэхналогіяў».
Затым я думаю пра апошнія 20 гадоў, палітык кажа, што яны збіраюцца прыцягнуць буйныя тэхналогіі да адказнасці, і я з усіх сіл шукаю хоць адзін момант прыцягнення да адказнасці буйных тэхналогій. Адзінае, што прымушае мяне думаць, што гэта можа быць інакш, гэта тое, што вы сапраўды павінны пабудаваць цэнтры апрацоўкі дадзеных, і вы можаце прагаласаваць супраць гэтага, вы можаце падаць петыцыю супраць гэтага, і вы можаце пратэставаць супраць гэтага.
Я думаю, што ёсць палітык, у якога толькі што стралялі ў дом, таму што яны прагаласавалі за цэнтр апрацоўкі дадзеных. Напружанне даходзіць, я б назваў, да ліхаманкі. Вы апісалі замкнёнасць Сіліконавай даліны. Гэта закрытая экасістэма. Такое адчуванне, што яны думаюць, што могуць кіраваць светам. Яны ўкладваюць кучу грошай у палітыку і сутыкаюцца з рэальнасцю, што людзі не любяць прадукты, што не дае ім асаблівага прыкрыцця. Чым больш яны выкарыстоўваюць прадукты, тым больш яны засмучаюцца, і палітыкі пачынаюць бачыць, што падтрымка тэхналагічнай індустрыі мае рэальныя наступствы для людзей, якіх яны прадстаўляюць.
Вы размаўлялі з вялікай колькасцю людзей. Як вы думаеце, ці магчыма індустрыі тэхналогій атрымаць урок, які знаходзіцца перад імі?
Вы кажаце, што такое адчуванне, што яны думаюць, што могуць кіраваць светам без адказнасці. Я нават не думаю, што для гэтага патрэбны кваліфікатар "адчуваеш". Я маю на ўвазе, што вы паглядзіце на мову, якую выкарыстоўвае Пітэр Ціль, яна відавочная. Вядома, гэта крайні прыклад. А Сэм Альтман, хоць ён і блізкі да ідэалогіі Ціля ў некаторай ступені, зусім іншы чалавек, які можа гучаць па-іншаму і да пэўнага моманту больш узважана.
Але я думаю, што шырэйшая ідэалогія, якую вы атрымліваеце ад Ціля, у асноўным такая: мы скончылі з дэмакратыяй, яна нам больш не патрэбна. У нас так шмат, што мы проста хочам пабудаваць свае маленькія бункеры. Мы больш не маем справу з Карнэгі або Ракфелерамі, дзе яны дрэнныя хлопцы, але яны адчуваюць, што ім трэба ўдзельнічаць у грамадскім кантракце і будаваць рэчы для людзей. Там усталяваўся сапраўдны нігілізм.
І я сапраўды думаю, што ў найноўшай амерыканскай гісторыі магнаты і прыватныя кампаніі набываюць звышдзяржаўную ўладу, у той час як дэмакратычныя інстытуты, якія маглі б прыцягнуць іх да адказнасці, аслабляюць. Я не адчуваю аптымізму ў тым, што гэтыя хлопцы могуць аднойчы прачнуцца і падумаць: «Гак, магчыма, нам сапраўды трэба ўдзельнічаць у жыцці грамадства і дапамагаць будаваць рэчы для людзей».
Я маю на ўвазе, вы паглядзіце на мікракасмічны прыклад The Giving Pledge, дзе быў момант, калі гэта было падобна на дабрачыннасць, і гэты момант ужо прайшоў і нават высмейваецца. Гэта праблема, больш шырокая праблема адсутнасці падсправаздачнасці, якую, я думаю, можна вырашыць толькі звонку. Гэта павінна быць мабілізацыя выбаршчыкаў і аднаўленне паўнамоцтваў дзяржаўнага кантролю. І вы цалкам маеце рацыю, калі кажаце, што асноўны вектар, з дапамогай якога людзі, магчыма, могуць гэтага дасягнуць, — мясцовы. Гэта звязана з тым, дзе будуецца інфраструктура.
Вы згадалі аб некаторай распаленай напружанасці вакол гэтага, якая вядзе да гвалту і пагроз, і, відавочна, ніхто не павінен праяўляць гвалт або пагражаць. І я таксама тут не для таго, каб даваць канкрэтныя палітычныя рэкамендацыі, акрамя як проста прадставіць некаторыя палітычныя крокі, якія здаюцца асноўнымі і працуюць у іншых краінах свету, так? Або тых, хто працаваў у іншых сектарах. Я тут не для таго, каб сказаць, што з іх трэба выканаць і як.
Я сапраўды лічу, што нешта павінна адбыцца, і гэта павінна быць звонку, а не проста давяраць гэтым кампаніям. Таму што правільнаЦяпер у нас сітуацыя, калі кампаніі, якія распрацоўваюць тэхналогіі і маюць лепшае абсталяванне для разумення рызык, і насамрэч папярэджваюць нас аб рызыках, таксама маюць толькі стымул ісці хутка і ігнараваць гэтыя рызыкі. І ў вас проста няма чым гэта ўраўнаважыць. Такім чынам, якія б канкрэтыкі ні праводзіліся ў рэформах, гэтаму трэба нешта супярэчыць. І я ўсё яшчэ вяртаюся да таго аптымізму, што людзі ўсё яшчэ важныя.
Я наогул прымаю ваш аргумент. Дазвольце мне прывесці адзін невялікі контраргумент, які я думаю, што я магу сфармуляваць. Іншая рэч, якая можа адбыцца па-за урнамі для галасавання, гэта тое, што бурбалка лопне, так? Што не ўсе гэтыя кампаніі даходзяць да фінішу, і што няма рынку прадукту, прыдатнага для спажывецкіх прыкладанняў штучнага інтэлекту. І зноў жа, я яшчэ не бачу гэтага, але я рэцэнзент спажывецкіх тэхналогій і, магчыма, у мяне проста больш высокія стандарты, чым ва ўсіх астатніх.
У дзелавым свеце існуе адпаведнасць рынку прадукту, так? Наяўнасць кучы агентаў штучнага інтэлекту, якія пішуць кучу праграмнага забеспячэння, здаецца, рэальны рынак для гэтых інструментаў. І вы можаце прачытаць аргументы гэтых кампаній, якія кажуць: "Мы вырашылі кадзіраванне, і гэта азначае, што мы можам вырашыць што заўгодна. Калі мы можам ствараць праграмнае забеспячэнне, мы можам вырашыць любыя праблемы".
Я думаю, што ёсць рэальныя абмежаванні ў тым, што праграмнае забеспячэнне можа рабіць. Гэта выдатна ў дзелавым свеце. Праграмнае забеспячэнне не можа вырашыць кожную праблему ў рэчаіснасці, але яно павінна дасягнуць гэтага. Яны павінны скончыць працу, і, магчыма, не ўсе даходзяць да фінішу. І адбываецца крах, і гэтая бурбалка ўсплывае, і, магчыма, OpenAI, Anthropic або xAI, адна з гэтых кампаній церпіць крах, і ўсе гэтыя інвестыцыі сыходзяць.
Як вы думаеце, гэта паўплывае на гэта? Насамрэч, дазвольце мне спачатку задаць першае пытанне. OpenAI знаходзіцца на парозе IPO. Наконт Сэма як лідэра шмат сумневаў. Як вы думаеце, ці дойдуць яны да фінішу?
Я не збіраюся рабіць прагнозы, але я думаю, што вы закранулі важны момант, які заключаецца ў тым, што рынкавыя стымулы маюць унутранае значэнне для Сіліконавай даліны, і хісткасць цяперашняй дынамікі мыльнай бурбалкі сапраўды можа перапыніць, зноў жа, патэнцыйна, на думку крытыкаў, гонку да дна па бяспецы.
Я хацеў бы таксама дадаць да гэтага, што калі вы паглядзіце на гістарычныя прэцэдэнты, дзе існуе аналагічны і, здавалася б, непранікальны набор рынкавых стымулаў і патэнцыйна шкодных наступстваў для грамадскасці, ёсць судовыя працэсы па ўздзеянні. І вы бачыце, што апошнім часам гэта выклікае заклапочанасць. На гэтым тыдні Сэм Альтман падтрымлівае заканадаўства, якое абараняе кампаніі, якія займаюцца штучным інтэлектам, ад некаторых тыпаў адказнасці, якой OpenAI падвяргаецца, напрыклад, у супрацьпраўных ісках аб смерці. Вядома, ёсць жаданне засцерагчыся ад адказнасці.
Я думаю, што суды ўсё яшчэ могуць быць значным механізмам, і будзе вельмі цікава паглядзець, як гэтыя пазовы будуць развівацца. Вы ўжо бачылі, напрыклад, калектыўны іск, удзельнікам якога з'яўляюся я і многія, многія іншыя аўтары, якіх я ведаю, супраць Anthropic за выкарыстанне імі кніг, якія ахоўваюцца аўтарскім правам. Калі ёсць разумныя юрысты і неабыякавыя пазоўнікі, як мы гістарычна бачылі ў справах ад вялікіх тытунёвых вырабаў да вялікіх энергетычных, вы таксама можаце атрымаць некаторыя агароджы і некаторыя стымулы запавольваць, быць асцярожнымі або абараняць людзей такім чынам.
Такое адчуванне, што ўся структура выдаткаў індустрыі штучнага інтэлекту трымаецца на вельмі, вельмі дабрачыннай інтэрпрэтацыі добрасумленнага выкарыстання. Не хапае. Структура выдаткаў гэтых кампаній можа выйсці з-пад кантролю, калі ім давядзецца плаціць вам і ўсім астатнім, чыю працу яны ўзялі на сябе, але думаць пра гэта нязручна, таму мы проста не думаем пра гэта. Побач з гэтым, усе гэтыя прадукты цяпер працуюць са стратамі. Як і сёння, усе яны працуюць у страту. Яны спальваюць больш грошай, чым могуць зарабіць. У нейкі момант яны павінны пстрыкнуць выключальнікам.
Сэм - бізнесмен. Як вы ўжо некалькі разоў адзначалі, ён не тэхнолаг. Ён дзелавы чалавек. Як вы думаеце, ці гатовы ён пстрыкнуць выключальнікам і сказаць: «Мы збіраемся зарабіць даляр?» Таму што, калі я пытаюся: "Як вы думаеце, OpenAI зробіць гэта?" Гэта калі яны павінны зарабіць долар. І да гэтага часу Сэм зарабляў усе свае даляры, просячы грошы ў іншых людзей, замест таго, каб яго кампаніі зараблялі грошы.
Ну, гэта вялікае доўгае пытанне для Сіліконавай даліны, для інвестараў, для грамадскасці.Вы бачыце некаторыя заявы і выхады з OpenAI, якія, здаецца, выклікаюць нейкую паніку з гэтай нагоды. Закрыццё Sora, закрыццё некаторых дапаможных праектаў, спроба сканцэнтравацца на асноўным прадукце. Але з іншага боку, вы ўсё яшчэ бачыце, у той жа час, тоны паўзучай місіі, ці не так? Нават невялікі прыклад - гэта, відавочна, не з'яўляецца асноўным для іх бізнесу - гэта набыццё TBPN.
Дарэчы, як толькі мы дасягаем фінішу і праверкі фактаў, кампанія, якая сутыкаецца з такім выглядам журналісцкага кантролю, набывае платформу, дзе яны могуць больш непасрэдна кантраляваць размову. Я думаю, што ёсць шмат інвестараў, якія занепакоеныя, зыходзячы з маіх размоў, што гэтая праблема абяцання ўсяго ўсім людзям таксама распаўсюджваецца на недахоп увагі ў асноўнай бізнес-мадэлі. І я маю на ўвазе, што вы, напэўна, бліжэй да прагназавання і назірання за рынкам, чым я. Я пакіну вам і слухачам меркаваць, ці думаюць яны, што OpenAI можа пераключыць выключальнік.
Ну, я задаў гэтае пытанне, таму што ў артыкуле ёсць цытата высокапастаўленага кіраўніка Microsoft, і яна заключаецца ў тым, што «спадчына Сэма можа апынуцца больш падобнай да Берні Мэдафа або Сэма Бэнкман-Фрыда», а не да Стыва Джобса. Гэта даволі параўнанне. Што вы робіце з гэтага параўнання?
Я думаю, што гэта парафраз. Частка Стыва Джобса не была часткай цытаты. Але ў гэтым ёсць цікавая цвярозасць, таму што гэта сфармулявана так: «Я думаю, што ёсць невялікі, але рэальны шанец, што ён апынецца SBF або ашуканцам на ўзроўні Мэдафа». На мой погляд, гэта азначае не тое, што Сэма абвінавачваюць у гэтых канкрэтных відах махлярства або злачынстваў, а тое, што ступень фальшывага і падману з боку Сэма можа мець шанец запомніцца ў такім маштабе.
Так, я думаю, што найбольш уражвае ў гэтай цытаце, шчыра кажучы, тое, што вы тэлефануеце ў Microsoft і не атрымліваеце лайк: "Гэта вар'яцтва. Мы ніколі гэтага не чулі". Вы атрымліваеце шмат падобных: "Так, многія людзі тут так думаюць", што вельмі дзіўна. І я думаю, што гэта тычыцца гэтых дзелавых пытанняў.
Адзін інвестар сказаў мне, напрыклад, у святле таго, як гэтая рыса захавалася на працягу многіх гадоў пасля звальнення "- і ён таксама падумаў, што гэта цікавая цвярозая думка - што гэта не абавязкова, што Сэм павінен быць у абсалютным канцы спісу, як павінен быць самым нізкім з нізкім з пункту гледжання людзей, якія катэгарычна не павінны будаваць гэтую тэхналогію, чаго гэта варта. Ёсць некалькі людзей, якія сказалі, што Ілон Маск з'яўляецца гэтым чалавекам. Але што гэта рыса ставіць яго, магчыма, у ніжнюю частку спісу людзей, якія павінны будаваць AGI, і ніжэй некалькіх іншых вядучых фігур у гэтай галіне.
Так што я падумаў, што гэта цікавая ацэнка, і я думаю, што такое мысленне вы атрымліваеце ад сапраўдных прагматыкаў, якія, магчыма, не так моцна пакупаюцца на праблемы бяспекі. Яны проста арыентаваныя на рост, і яны думаюць, што ў OpenAI зараз праблемы з Сэмам Альтманам.
Кавалак Microsoft сапраўды цікавы. Гэтая кампанія думала, што яны на вяршыні свету. Што яны зрабілі гэтыя інвестыцыі і збіраюцца пераскочыць усіх, асабліва і самае галоўнае, Google, і вярнуцца да добрай ласкі спажыўцоў. Узровень, да якога яны адчуваюць сябе абпаленымі гэтай прыгодай - гэта вельмі цвярозая кампанія - я не думаю, што можна пераацаніць.
Вы згадалі характары і рысы асобы. Скончыць хачу пытаньнем ад нашых слухачоў. У іншым нашым шоў The Vergecast я сказаў, што збіраюся паразмаўляць з вамі, і сказаў: «Калі ў вас ёсць пытанні да Ронана наконт гэтай гісторыі, дайце мне ведаць». Такім чынам, у нас тут ёсць адзін, які, я думаю, дакладна звязаны з тым, што вы апісваеце. Я проста прачытаю гэта вам:
«Як апраўданне кепскіх паводзін, жорсткіх дзеянняў Альтмана і іншых лідэраў AI адрозніваецца ад апраўданняў, якія Ронан чуў ад іншых высокапастаўленых лідэраў у палітыцы і СМІ? Хіба ўсе яны не апраўдваюць свае дзеянні тым, што так змяняецца свет? Калі я не зраблю гэтага, зробіць нехта іншы?»
Так, шмат чаго адбываецца. Я б сказаў, што адметнасць штучнага інтэлекту заключаецца ў тым, што экзістэнцыяльныя стаўкі, настолькі унікальна высокія, азначаюць, што абедзве заявы аб рызыцы экстрэмальныя, праўда? У вас ёсць Сэм Альтманкажучы: «Гэта можа пагаснуць святло для ўсіх нас». І крытыкі могуць сказаць, што манія, пра якую гаворыць аўтар пытання, надзвычайная, так?
Тое, у чым Сэм абвінаваціў Ілона, было тое, што, магчыма, ён хоча выратаваць чалавецтва, але толькі калі гэта ён. Эга-кампанент жадання перамогі, які ўвесь час выкарыстоўвае Сэм, і што гэта адзін з падручнікаў па гісторыі, гэта можа ўсё змяніць. Такім чынам, нават акрамя мыслення большасці прадпрыемстваў Сіліконавай даліны «трэба разбіць некалькі яек», у свядомасці некаторых дзеячаў, якія вядуць ІІ, я думаю, ёсць поўная рацыяналізацыя любых наступстваў.
І забудзьцеся разбіць яйкі. Я думаю, што многія з асноўных даследчыкаў бяспекі сказалі б, што патэнцыйная рызыка зламаць краіну, зламаць свет і зламаць мільёны людзей, чыя праца і бяспека вісяць на валаску - вось што ў гэтым унікальнае. На гэтым я заканчваю, разважаючы над гэтым корпусам справаздач, сапраўды мяркуючы, што гэта не толькі Сэм Альтман. Гаворка ідзе пра галіну, якая не мае абмежаванняў, і праблему Амерыкі, якая не можа яе абмежаваць.
ага Ну, у нас быў пэўны аптымізм, але я думаю, што гэта добрае месца, каб пакінуць яго.
[Смяецца] Заканчваецца ціха.
Вядома. Гэта сапраўды кожная выдатная гісторыя. Набліжаецца суд над Маскам-Альтманам. Я думаю, што мы даведаемся яшчэ шмат чаго тут. Я падазраю, што захачу пагаварыць з вамі зноў. Ронан Фэрроу, вялікі дзякуй за ўдзел у Decoder.
Дзякуй.
Ёсць пытанні ці каментарыі да гэтага эпізоду? Пішыце нам па адрасе [email protected]. Мы сапраўды чытаем кожны ліст!
