Бүген Декодерда мин бүген эшләгән тикшерү отчетларының иң зур йолдызларының берсе Ронан Фарроу белән сөйләшәм. Ул Харви Вайнштейн хикәясен бозды, күпләр арасында. Узган атнада, ул һәм автор-автор Эндрю Марант Нью-Йоркта OpenAI генераль директоры Сэм Алтман, аның ышанычлылыгы һәм OpenAI үзе күтәрелүе турында искиткеч тирән сикерү үзенчәлеген бастырдылар.
Монда алга барыр алдыннан бер искәрмә - Нью-Йорк бу хикәяне бастырды һәм Ронан белән без Альтманның өенә булган һөҗүмнәрнең тулы күләмен белгәнче сөйләштек, шуңа күрә безнең турыдан-туры сөйләшүебезне ишетмәссез. Ләкин моны әйтү өчен, минемчә, төрле золымнар кабул ителми, Сэмгә булган бу һөҗүмнәр кабул ителмәгән, һәм кешеләрнең мондый көч куллануга китергән ярдәмсезлеге үзе кабул ителмәгән, һәм бу тармакның да, сәяси лидерларның да күп тикшерүләренә лаек. Бу аңлаешлы дип ышанам.
Абонентлар, подкастларыгызны кая гына алсагыз да, рекламасыз Декодерга эксклюзив рөхсәт алуыгызны онытмагыз. Монда баш. Абонент түгел? Сез монда язылырга мөмкин.
Алтман тирәсендә бик күп әйләнүләр бар, бу каты отчет өчен гадел уен - Ронан белән Эндрю эшләргә тиеш. ChatGPT популярлыгы аркасында, Альтман ЯИ индустриясенең иң күренекле фигурасы булып барлыкка килде, берничә ел эчендә коммерциячел булмаган тикшеренү лабораториясен триллион долларлык шәхси компаниягә әйләндерде. Ләкин Альтман мифы тирән каршылыклы, аның ачыктан-ачык эш итү сәләте һәм аның хәбәр итү тенденциясе белән бертигез билгеләнә ... әйбәт, аның тирәсендәге һәркемгә ялган.
Повестьның озынлыгы 17000 сүздән тора, һәм анда 2023-нче елда OpenAI директорлар советы кинәт Алтманны ялган сөйләгәне өчен эштән алгач, аның тиз арада эшкә алынуы турында төгәл бәхәс бар. Бу шулай ук Альтманның шәхси тормышына, инвестицияләренә, Якын Көнчыгыш акчаларына мөрәҗәгать итүенә, һәм аның үткәндәге тәртибе һәм характеристикасы турында уйланулары, бер чыганак аны "хакыйкать белән чикләнмәгән" дип әйтергә этәрде. Мин сезгә чыннан да хикәяне укырга тәкъдим итәм. Киләсе еллар дәвамында сылтама булыр дип шикләнәм.
Ронан Алтман белән 18 ай эчендә күп тапкыр сөйләште, һәм ул бу әсәр турында хәбәр итте, һәм мин кызыксынган төп әйберләрнең берсе - ул вакыт эчендә Алтмандагы үзгәрешләрне сизгәнме. Соңгы ярты ел эчендә ЯИда, технологиядә һәм дөньяда күп нәрсә булды бит.
Сез Ронанның бу турыда турыдан-туры сөйләшүен ишетерсез, шулай ук аның Алтманның хакыйкатьне киңәйтү сәләте турында сөйләшергә теләк белдергәнен сизерсез. Кешеләр, кычкырып һәм язмада, Альтман кебек кешеләрнең тәртибе ЯИ яки технология өчен генә түгел, ә җәмгыятьнең коллектив киләчәге белән дә кызыксыналар.
Ярар: Ронан Фарро Сэм Алтман, ЯИ, һәм хакыйкать. Менә без барабыз.
Бу интервью озынлык һәм ачыклык өчен җиңел редакцияләнде.
Ронан Фарро, сез тикшерүче хәбәрче һәм Нью-Йоркта катнашучы. Декодерга рәхим итегез.
Монда булуымга бик шат. Минем өчен рәхмәт.
Мин сезнең белән сөйләшергә бик шат. Сез Нью-Йорк өчен зур әсәр яздыгыз. Бу Сэм Альтманның профиле һәм аның белән OpenAI. Минем аны укыганым, барлык зур функцияләр кебек, ул, каты отчет белән, кешеләрнең Сэм Алтман турында бик озак булган хисләрен раслый. Сез аны ачыктан-ачык бастырдыгыз, сез аңа реакция алдыгыз. Сез хәзер аңа ничек карыйсыз?
Хәер, мин, чынлап та, игътибар экономикасы шизофреник һәм тайзак булган вакытта нинди дәрәҗәдә өзелгәнен ишеттем. Бу хикәя, минемчә, барыбызга да кагыла. Гомеремнең ярты елын үткәргәндә, һәм минем автордашым Эндрю Марант та ул вакытын үткәрде, чыннан да суд һәм җитди эш эшләргә тырышты, бу һәрвакыт, чөнки мин хикәянең үзәгендә шәхес һәм компаниядән тыш кешеләргә кагыла торган зуррак структур проблемалар бар кебек тоелам.
Сэм Алтман, Кремний үзәнлеге хипп культурасы һәм стартаплар фонында, киләчәктә булырга мөмкин яки булмаска мөмкин булган вәгъдәләргә нигезләнеп, зур бәяләүгә шар, һәм төрле төркемнәргә төрле каршылыклы әйберләр сөйләү үзенчәлеге түгел, ә үзенчәлеге.хата ... Хәтта бу фонда да, Сэм Алтман - гадәттән тыш очрак, анда Кремний үзәнлегендә яшәүчеләрнең барысы да аның ышанычлылыгы һәм намуслылыгы турында сөйләшүне туктата алмыйлар.
Без аның намуссызлык яки ялган сөйләү серияләренең кайбер версияләре аркасында эштән алынганын белә идек. Ләкин гадәттән тыш, искиткеч отчетлар булуына карамастан, Кич Хейги моның өстендә зур эш башкарды. Карен Хао моның өстендә зур эш башкарды. Чынлап та, расланган дәлил пунктларын һәм аларның халык күзеннән читтә калу сәбәпләрен төгәл аңлау юк иде.
Беренче нокта - минем халык белемендәге бу кимчелекләрнең, хәтта Кремний үзәнлеге инсайдерларының белемнәрендәге кайбер кимчелекләр хәзер бераз тулганы белән күңелемне күтәрә. Бушлыклар булган кайбер сәбәпләр бераз күбрәк тутырылды.
Без бу компания эчендәге кешеләр чыннан да әйберләр яшерелгән яки белә торып документлаштырылмаган кебек тоелган очраклар турында хәбәр итәбез. Бу хикәядәге яңа әйберләрнең берсе - WilmerHale тарафыннан ясалган төп юридик фирма тикшерүе, бу, күрәсең, фантастик, ышанычлы, Enron һәм WorldCom тикшерүләрен ясаган зур юридик фирма, әйтерсең лә, йөзләгән битләр кебек зур күләмле. WilmerHale бу тикшерүне башкарды, алардан котылгач, китү шарты итеп Алтманны эштән җибәргән идарә әгъзалары таләп иткән һәм ул кире кайтты. Гадәттән тыш - мин күп юридик белгечләр алдында сөйләштем, һәм бу компаниядәге күп кешеләр алдында шаккатыргыч - алар аны язудан саклап калдылар. Моннан барлыкка килгәннәр, OpenAI-ның 800 сүзле пресс-релизы, булган вакыйганы ышанычның өзелүе итеп сурәтләде. Thisәм без моның телдән брифингларда сакланганын расладык.
Мисал өчен, идарә әгъзасы OpenAI-ның коммерциячел булмаган формасыннан коммерция субъектына әверелүенә каршы тавыш бирергә теләгән кебек, һәм ул баш тарту буларак теркәлгән. Очрашуда адвокат кебек: "Ярар, бу артык тикшерелергә мөмкин". Каршы тавыш бирергә теләгән кеше барлык күренешләрдән баш тарту дип языла. Факталь бәхәс бар. Сез күз алдыгызга китерә аласыз, OpenAI башкача. Болар барысы да сезнең үз хисабы белән киләчәгебезне үз кулында тоткан компания булган очраклар.
Куркынычсызлык өлешләре шулкадәр кискен ки, алар китмәгән. Шуңа күрә бу компания куркынычсызлыкка юнәлтелгән коммерциячел булмаган оешма буларак оешкан, һәм әйберләр ышанычлы булган кешеләр аны профессиональ дәрәҗәдән азрак тапкан. Youәм сез моны парлы итеп парлаштырасыз, анда мәгънәле көйләү өчен политик теләк аз. Бу бик янып торган хәл.
Минем өчен сүз Сэм Альтманның бу сорауларга бик лаеклы булуы гына түгел. Бу шулай ук бу өлкәдәге бу егетләрнең һәм төп фигураларның күбесе, бу махсус идиосинкратик булмаса, гел ялган дип саналган характеристика, әлбәттә, ниндидер дәрәҗәдә раса-аста менталитет, монда куркынычсызлык хезмәтчеләре булган кешеләр бу бурычларны сугарганнар һәм барысы да ярышларда торалар.
Минем уйлавымча, күптән түгел Антропиктан чыккан мәгълүматларга күз салсак, бу кисәкнең төймәсенә кем бармак тотарга тиеш дигән сорауны бирүче кеше бар. Answerавап: әгәр бездә мәгънәле күзәтчелек булмаса, без җитди сораулар бирергә һәм бу егетләр турында мөмкин кадәр күбрәк мәгълүмат бирергә тырышырга тиеш дип уйлыйм. Шуңа күрә мин бу турыда мәгънәле сөйләшү яки аның башы кебек хисләр кичердем.
Мин аны шулай сораганымның сәбәбе - сез монда ел ярым эшләдегез. Сез, минем автор, Эндрю белән 100 кеше белән сөйләштегез. Бу хикәя пешерер өчен озак вакыт. Аерым алганда, соңгы ярты ел турында уйлыйм, һәм малай, бу персонажларның карашлары һәм кыйммәтләре бик тиз үзгәрде.
Бәлки, Сэм Альтманнан башка беркем дә юк, ул демократик җиңүче булып башланды, чөнки алар ChatGPT чыгарганнар һәм барысы да моны Google өчен алачак дип уйлаганнар. Аннары Google җавап бирде, бу аларны гаҗәпләндергән кебек тоелды, Google үз бизнесын сакларга тырышачак, бәлки, бизнес тарихы булмаса, технология тарихындагы иң яхшы бизнесның берсе. Антроп предприятиягә юнәлтеләчәк. Бу командалы җитәкчелекне алып бара кебекмонда предприятияне ЯИ куллану бик югары.
Хәзер, OpenAI үз продуктын "без Google-ны алырбыз" -тан Кодекска күчерә, һәм алар предприятияне алырга җыена. Соңгы ярты ел эчендә отчет биргәндә, сез сөйләшкән персонажлар үзгәргән кебек тоелса, мин төгәл әйтә алмыйм. Аларның карашлары һәм кыйммәтләре кебек, алар үзгәрдеме?
Әйе. Беренче чиратта, бу әсәрдә тикшерелгән критик, бу вакытта бу компанияләр эчендәге күп кешеләрдән килә - бу, экзистенциаль өлешләргә карамастан, куркынычсызлык төбенә төшкән һәм тизлек башка нәрсәләрдән өстен чыккан тармак - бу борчылу тагын да кискенләште. Соңгы ярты ел эчендә бу борчылулар тагын да расланган дип уйлыйм. Шул ук вакытта Сэм Алтманга карашлар үзгәрде. Моның өчен чыганаклар белән сөйләшә башлагач, кешеләр, чыннан да, бу турыда өземтәләр китерергә һәм бу турыда язуларга йөрергә яраттылар.
Докладларыбыз ахырында, сездә отчет органы бар, анда кешеләр бу турыда бик ачык һәм ачык сөйләшәләр, һәм сезнең идарә әгъзалары: "Ул патологик ялганчы. Ул социопат." "Куркынычсызлыкны исәпкә алып, бу куркыныч, һәм безгә сафлыкны күтәргән бу технология лидерлары кирәк" дигән төрле карашлар бар, "Куркынычсызлык өлешләрен оныт, бу теләсә нинди эре компаниянең башкаручысы өчен тотрыксыз, ул бик күп дисфункция тудыра."
Шулай итеп, сөйләшү, бәлкем, соңга калган кебек тоела, ләкин бер мәгънәдә күңелне күтәрә. Samәм Сэм Альтман, аның мактаулы сүзләре ... Бу әсәр бик гадел һәм хәтта юмарт, әйтер идем, Сэмгә. Бу "сезне алган" әйберләр күп булган әйбер түгел. Мин аның белән телефонда бик күп сәгатьләр үткәрдем, без моны тәмамладык һәм аны чыннан да ишеттем.
Сез күз алдыгызга китерә аласыз, мондый әсәрдә барысы да ясалмый. Бу очракларның кайберләре мин чын күңелдән тыңлаганга. Әгәр дә Сэм чыннан да мин су алып барганымны, берәр нәрсә, хәтта дөрес булса да, сенсационист була алуы турында аргумент ясаса, мин бу суд-судны саклап калу ягында ялгыштым. Шуңа күрә бу дөрес кабул ителә дип уйлыйм, һәм бу вакыт эчендә тупланган бу фактлы язма күзәтчелек кирәклеге турында тагын да ныграк сөйләшергә этәрер дип ышанам.
Бу минем чираттагы соравым. Бу хикәяне хәбәр итү барышында сез Сэм белән дистә тапкыр сөйләштегез дип уйлыйм. Тагын, бу озак вакыт эчендә бик күп сөйләшүләр. Соңгы ярты ел эчендә Сэм отчет барышында үзгәрде дип уйлыйсызмы?
Әйе. Минем уйлавымча, моның иң кызыклы сюжетларының берсе - Сэм Альтман да бу сыйфат турында элеккегә караганда ачыкрак сөйли. Бу әсәрдәге Сэмнең позициясе: "Анда бернәрсә дә юк, бу дөрес түгел; мин сезнең нәрсә турында сөйләшкәнегезне белмим." Аның позициясе - ул моны кешеләргә ошаган тенденциягә һәм конфликт нәфрәтенә бәйле дип әйтә. Ул аның өчен аеруча карьерасында проблемалар тудырганын таный.
Ул әйтә, "Ярар, мин моннан узып китәм, яисә күпмедер дәрәҗәдә аннан узарга тиеш." Минем уйлавымча, минем өчен чыннан да кызык нәрсә - без сөйләшкән кешеләр континенты, алар куркынычсызлык яклаучылары гына түгел, төп техник тикшерүчеләр генә түгел, еш кына бу кискен куркынычсызлык проблемалары, шулай ук прагматик, зур инвесторлар. Алар Сэм тарафдарлары, алар, кайбер очракларда, бу сорауга карыйлар һәм хәтта атыштан соң кайтуында төп роль уйнаганнары турында сөйләшәләр. Хәзер, ул реформаландымы, һәм бу үзгәреш нинди дәрәҗәдә мәгънәле, дигән сорауга алар: "Ярар, без аңа ул вакытта шикнең файдасын бирдек", - диләр.
Мин, аерым алганда, бер күренекле инвестор турында уйлыйм, ул: "Ләкин шуннан соң, ул урман артына чыгарылмаган кебек тоела", бу фразеологизм кирәк булган дәрәҗәдә. Нәтиҗәдә, бу хәзер тотрыклы сыйфат кебек. Без моны өзлексез күрәбез. Сез OpenAIның иң зур бизнесын карый аласызмөнәсәбәтләр һәм алар бер-берсенә ышанмау авырлыгын дәвам итәләр.
Майкрософттагы кебек, сез анда җитәкчеләр белән сөйләшәсез, һәм алар чыннан да кискен һәм күптән түгел катализацияләнгән борчылуларга ия. Бу очрак бар, шул ук көнне OpenAI Майкрософт белән гражданлыгы булмаган AI модельләренә карата эксклюзивлыгын раслый, шулай ук Amazon белән яңа килешү игълан итә, бу дәүләт агентлыгының AI агентларын төзү өчен предприятия чишелешләрен сату белән бәйле, алар хәтере бар.
Сез Майкрософт кешеләре белән сөйләшәсез, һәм алар: "Бездә эксклюзивлык килешүе булган төп әйберләр белән аралашмыйча эшләп булмый." Димәк, бу бик кечкенә мисалларның берсе, анда бу сыйфат һәрвакыт дәвам итә торган бизнес эшчәнлегенә омтыла һәм OpenAI советы кысаларында, башкарма комплектында һәм киң технологияләр җәмгыятендә актив борчыла.
Сез бу "сыйфат" дип әйтәсез. Хикәядә миңа тезис кебек тоелган сызык бар, һәм ул сез тасвирлаган сыйфатның тасвирламасы. Бу "Сэм Альтман хакыйкать белән чикләнмәгән" һәм аның "бер үк кешедә беркайчан да күрелмәгән диярлек ике сыйфаты бар: беренчесе - кешеләргә ошарга, теләсә нинди бәйләнештә ошарга, икенчесе - социопатик диярлек кемнедер алдау нәтиҗәләре турында борчылмау."
Мин сезгә әйтергә тиеш, мин бу җөмләне 500 тапкыр укыдым, һәм мин кешеләрнең һәрвакыт ошарга теләгәннәрен әйтергә, аннары үзләрен алдаган вакытта ачуланмаска дип күз алдына китерергә тырыштым. Iәм мин эмоциональ халәтемне ул әйберләрнең бер кешедә ничек була алуын аңлый алмадым. Сез Сэм белән бик күп сөйләштегез, һәм бу сыйфатларны кичергән кешеләр белән сөйләштегез. Ул моны ничек эшли?
Әйе. Бу кеше дәрәҗәсендә кызык, чөнки мин андый хәбәр итү органнарына мөрәҗәгать итәм, аның үзәгендә булган кешене гуманизацияләүгә, тирән аңлау һәм кызгану эзләү. Мин моны кеше карашы белән якынайтырга тырышканда һәм: "Әй, мин эшләгән күп кеше мин патологик ялганчы икән, бу минем өчен аяныч булыр иде. Сез бу авырлыкны ничек йөртәсез? Терапиядә бу турыда ничек сөйләшәсез? Бу турыда үзегез сөйләгән хикәя нинди?"
Минем уйлавымча, бәлки, Көнбатыш Яр буендагы платитудалар: "Әйе, мин сулыш эшләрен яратам" кебек. Ләкин тирән үз-үзеңә каршы тору хисе күп түгел, минемчә, үз-үзебезне тотышыбыз һәм кешеләргә карата мөнәсәбәтебез турында мондый фикерне күрсәк, безнең күбебез булыр иде.
Минем уйлавымча, бу сорауга киңрәк җавап бирә. Сэм бу сыйфатның проблемалар тудырганын раслый, ләкин шулай ук аңа OpenAI үсешен тизләтергә көч биргән нәрсә, ул берләшә һәм төрле кешеләр төркеменә ошый ала. Ул бу каршылыклы сайлау участокларының барысын да ышандыра, алар нәрсә турында кайгырталар. Thatәм бу нигез салучы өчен бик файдалы осталык булырга мөмкин. Мин инвесторлар белән сөйләштем, аннары әйтәләр: "Бәлки, бу компания белән идарә итү өчен азрак файдалы осталык, чөнки ул бик күп низаг тудыра."
Ләкин Сэм шәхси ягында, минемчә, кеше дәрәҗәсенә тоташырга тырышканда, тирән каршылык, уйлану һәм үз-үзеңне җаваплылык булмау, бу IPOга әзерләнгән компания өчен супер көч яки җаваплылык турында хәбәр итә.
Ул - Сью oonн исемле элеккеге совет әгъзасы сүзләре буенча, ул "фексезлек" дәрәҗәсенә кадәр, ул кулланган гыйбарә, сату мәйданнарының үзгәрүчәнлегенә чынлап та ышана алган яки үзләренә ышандыра алган кеше. Яки, ким дигәндә, ул аларга ышанмаса, ул үз-үзен мәгънәсез шик астына куя ала.
Минем уйлавымча, сез сөйләшкән әйбер, сез яки мин кайда, без бу әйберне әйтәбез һәм без ясаган бүтән ышандыруга каршы килүен аңлап, туңдыру яки үзебезне тикшерү мизгеле бар. Минемчә, бу аның белән булмый. Кремний үзәнлегенең киңрәк культурасы һәм нигез салучы культурасы бар.
Бу көлке. The Verge продукт рецензиясенә нигезләнгәнпрограммасы. Бу безнең монда эшләгән эшебезнең йөрәге. Мин елына бер тапкыр триллион доллар Apple R&D тотам һәм әйтәм: "Бу телефон җиде". Itәм бу безнең бүтән отчетларыбызны һәм фикерләребезне легальләштерә. Бездә бәяләү функциясе бар, һәм без бик күп вакыт ЯИ продуктларын карап, "Алар эшлиләрме?"
Бу бүгенге кебек ЯИ турында күп сөйләшүләрдән югалган кебек тоела. Нәрсә эшли алуы, нинди куркыныч булырга мөмкинлеге турында чиксез сөйләшү бар. Аннары син борауланасың, һәм әйтәсең: "Ул бүген эшләргә тиешме?" Кайбер очракларда җавап әйе. Ләкин күп очракта күп очракта җавап юк.
Бу сез тасвирлаган хип культурасына бәйләнгән кебек тоела, шулай ук, берәр нәрсә эшләргә җыенсагыз һәм ул эшләмәсә, кемдер үзен начар хис итсә, бу әйбәт, чөнки без киләсе әйбердә. Бу үткәндә. Аерым алганда ЯИда Сэм зур вәгъдәләр бирергә бик оста.
Бу атнада, минемчә, сезнең хикәягез бастырылган көнне, OpenAI политик документ бастырды, без социаль контрактны яңадан карарга һәм хөкүмәтнең ЯИ эффективлыгы стипендиясенә ия булырга тиешлеген әйтте. Бу кайбер технологияләр дөньяның киләчәген ничек формалаштыра алуы һәм ничек яшәвебез турында зур вәгъдә, һәм болар барысы да эшләргә вәгъдә ителгән яки эшләргә тиеш булган технологиягә таяна.
Сез Сэмнең AI-ның AGI яки супертеллигенциягә әйләнүенә яки финиш сызыгына шикләнүен таптыгызмы? Чөнки бу минем өчен иң гаҗәп нәрсә. Бу төп технология алар әйтә алган бар нәрсәне эшли аламы-юкмы дигән уй бармы?
Бу төгәл сораулар. Бу отчет органында без сөйләшкән ышанычлы технологлар бар - һәм Сэм Альтман бер түгел; ул бизнесмен - Сэмнең бу технологиянең срокы турында сөйләве ерак. Берничә ел элек блог постлары бар, анда Сэм әйтә: "Без вакыйга офыкына җиттек. AGI нигездә монда. Идарә итү почмагында. Без бүтән планеталарда булырбыз. Без барлык яман шеш авыруларын дәвалыйбыз." Чыннан да, мин бизәмим.
Яман шеш чыннан да кызык, Сэм теоретик яктан эт яман шешен ChatGPT белән дәвалаган кешене арттыра, һәм бу алай булмады. Алар ChatGPT белән сөйләштеләр, һәм бу аларга эшне башкарган кайбер тикшерүчеләргә җитәкчелек итәргә булышты, ләкин бердән-бер, бу корал бу этне дәвалады, бу хикәя түгел.
Сезнең бу фикерне күтәргәнегезгә мин бик шат, чөнки технологиянең потенциалы да, куркынычы да кайчан булырга тиешлеге турында бу зуррак ноктага барасым килә. Ләкин бу кечкенә чит якларны искә төшерергә кирәк, Сэм Альтманнан даими була, ул бу сыйфатны кабат гәүдәләндерә кебек.
Мин әйтәм, WilmerHale отчеты мисалын куллану өчен, бездә бу мәгълүмат язудан читтә калган, һәм юлда телдән кыскача кыскача мәгълүмат бирелгән, идарә әгъзалары Сэм аны күзәтергә ярдәм иткән. Ул әйтте: "Әйе, әйе, юк, мин бу советка кушылган һәркемгә бирелгән дип ышанам." Weәм бездә бу хәлне турыдан-туры белгән кеше бар, бу бары тик ялган. Thatәм бу чыннан да шулай булып күренә, бу ялган түгел. Әгәр дә без юмарт булырга телибез икән, бәлки ул дөрес булмаган.
Бу очраклы ышандырулар бик күп. Thatәм мин бу мисалны өлешчә кулланам, чөнки бу аерылуның искиткеч мисалы, әйдәгез аны чакырыйк, бу реаль нәтиҗәләргә китерергә мөмкин. Мин сезгә әйтергә тиеш түгел, Делавэр корпоратив законнары буенча, бу компания IPOлары, акционерлар, 220 бүлек буенча, моннан зарлана һәм төп документлар таләп итә алалар. Директорлар советы әгъзалары: "Ярар, бер минут көтегез, бу брифинг булырга тиеш иде".
Шуңа күрә аның авызыннан гел сикереп торган кебек, алар базарда хәрәкәт итүче эффектлар, OpenAI өчен реаль эффектлар булырга мөмкин. Аны утопия хипп теленә кире кайтару, минемчә, бу әсәр чыккан көнне очраклы түгел, ул безнең барыбызга да кагыла, чөнки куркынычлар аның ысулына карата бик кискен.корал белән урнаштыру, химик сугыш агентларын ачыклау өчен куллану ысулы, дезинформация потенциалы, һәм утопия хиппы күп ышанычлы икътисадчыларны: "Бу күпер билгеләре бар", - дип әйтергә этәрә.
Хәтта Сэм Альтман да: "Кемдер монда күп акча югалтачак", - диде. Бу чыннан да Америка һәм глобаль икътисадый үсешнең күп өлешен җимерергә мөмкин, әгәр бу компанияләрнең бер-берсе белән килешү төзегән, күпчелек авыр заем алган вакытта ЯИга кереп, күпернең чын тешләнеше кебек. Шуңа күрә Сэм Алтман нәрсә әйтә, һәм минем уйлавымча, аның тирәсендәге кешеләрнең өстенлеге, сез йөздән артык сөйләшкәнебезне әйттегез, ул йөздән артык иде. Без финиш сызыгында әңгәмә кордык, анда: "Бу күп санга охшаган дип әйтү артык кечкенә булыр идеме?" Weәм без: "Әйе, уйнап алыйк. Без салкын уйныйбыз". Ләкин бик күп кеше иде, һәм аларның күпчелеге: "Бу борчылу." Минем уйлавымча, шуңа күрә.
Сезгә бу сан турында сорарга рөхсәт итегез. Әйткәнегезчә, кешеләр вакыт узу белән борчылулар белән ачыкланды. Күпчелек тирәсендәге басым кебек - җиңү, бу инвестицияләрне түләү, җиңүче булып күренү, IPO - бик күп караш үзгәрде. Бу, әлбәттә, Сэм һәм OpenAIга күбрәк басым ясады.
Бу атнада без OpenAI тибрәнүләре турында хикәя бастырдык. Сезнең хикәягез аның өлеше, ләкин OpenAI башкарма сафларында персоналның зур үзгәреше - кешеләр килә һәм бара. Тикшерүчеләр барысы да Антропикка китәләр, минемчә, чыннан да кызык. Сез бу компаниянең басымны сизгәнен күрәсез, һәм ул бу басымга ничектер җавап бирә.
Ләкин соңыннан мин Сэмнең эштән алынуы турында уйлыйм. Бу минем өчен истә калырлык. Бу беркем өчен дә онытылмаслык, ләкин мин җомга көнне Бронкс зоопаркында 7PM сәгатьтә шалтыраттым, һәм кемдер Сэмне кире кайтарырга тырышачакларын әйтә иде. Аннары без ял көннәрен шул хикәяне куып үткәрдек. Iәм мин: "Мин зоопаркта. Сез монда нәрсә эшләвегезне телисез?" Theавап: "Телефонда калыгыз". Кызым, "Телефоннан чык" кебек иде. Бу мин эшләдем.
Сэмне кире кайтару өчен ул утырган яки үлгән. Бу компания: ", к, без тактага Сэм Альтманны җибәрергә рөхсәт итмибез" кебек иде. Инвесторлар, алар сезнең әсәрдә китерелгән, "Без сугышка киттек, минемчә," Сэмне кире кайтару өчен "Уңышлы капитал позициясе. Майкрософт Майк Сэмне кире кайтару өчен сугышка китте. Соңрак, һәм хәзер барысы да ошый: "Без IPOга барабыз. Финиш сызыгына чыктык. Егетебезне кире кайтардык, һәм ул безне финиш сызыгына алып барачак. Без аның ялганчы булуына борчылабыз."
Нигә ул вакытта аны кире кайтару өчен сугыш булган? Чөнки ул бернәрсә дә үзгәрмәгән кебек. Сез Илья Суцкевер һәм [Антропик Генераль директор] Дарио Амодей Сэм Альтман замандашлары булган вакытта саклаган истәлекләр турында сөйләшәсез. Ильяның беренче борчылуы Сэмнең ялганчы булуы иде.
Аларның берсе дә үзгәрмәгән. Алайса, нигә ул вакытта аны алып кайту сугыш булган? Хәзер без финиш сызыгына чыктык, барлык борчылулар ачык булмаган кебек.
Иң элек, кызыгызга, минем иптәшемә һәм журналистлар тирәсендәге барлык кешеләргә гафу итегез.
[Көлә] Барысы өчен дә ял көннәре иде.
Әйе, бу бер кешенең гомерен ала, һәм бу хикәя соңгы вакыт эчендә минеке. Бу, чынлыкта, журналистика темасына һәм мәгълүматка кагыла, минемчә. Сэм өчен сугышка киткән инвесторлар һәм аның кире кайтуында роль уйнадылар, һәм коммерциячел булмаган миссияне саклау өчен махсус эшләнгән совет, үсеш өстендә куркынычсызлык урнаштыру һәм аларга ышанып булмаса, башкаручы эштән азат итү, алар киттеләр. Болар барысы да булды, әйе, базар стимуллары бар иде, шулай бит?
Сэм кешеләрне ышандыра алды, "Ярар, компания таркалачак". Ләкин аңа булышуның сәбәбе мәгълүмат җитмәү иде. Бу инвесторлар, күп очракта, хәзер әйтәләр: "Мин артка борылып карыйм, һәм дәгъваларның нәрсә икәнен һәм борчылуларның нәрсә икәнен белсәм, миңа күбрәк борчылырга тиеш иде дип уйлыйм."
Аларның барысы да түгел;фикерләр төрле, һәм без төрле фикерләр китерәбез, ләкин бик өлешчә мәгълүмат белән эш иткән мөһим кешеләр бар. Сэмне эштән җибәргән такта, элек тактада булган бер кеше сүзләре буенча, "бик JV", һәм алар тупны каты боздылар. Weәм без төп шикаятьләрне документлаштырабыз, һәм кешеләр үзләре уйлаганча актуаль борчылуга җыелганмы-юкмы икәнен үзләре хәл итә алалар, ләкин бу аргумент һәм мәгълүмат бирелмәгән.
Аларның кайберләре хәзер начар юридик киңәш дип таныйлар. Аны тасвирлау өчен, сез цитатаны исегездә тотачаксыз, һәм, мөгаен, бик күп тыңлаучылар һәм тамашачылар цитатаны эчкерсезлек итеп искә төшерерләр. Бу кыскартылды, аннары алар шалтыратмыйлар.
Алар шалтыратмаслар иде. Сез тырыштыгыз дип ышанам. Мин белгән һәркем сынап карады, һәм ул дәрәҗәгә җитте, журналист буларак, сез үз чыганакларыгызга киңәш бирергә тиеш түгел, ләкин мин: "Әгәр сез үзегезне аңлатмасагыз, бу юкка чыгачак".
Бу шулай булды. Журналистларны оныт. Сездә Сатя Наделла: "Нәрсә булды? Миңа беркем дә аңлатып бирә алмыйм", - диде. Бу компаниянең төп финанс ярдәмчесе. Аннары сез Сатяга шалтыратасыз [LinkedIn нигез салучысы] Рейд Хоффман һәм Рейд шалтыраталар һәм: "Мин нәрсә булганын белмим."
Алар аңлашыла торган мәгълүмат бушлыкта, мондый ашыгыч, кинәт атуны аклаучы традицион AI булмаган күрсәткечләрне эзлиләр. Ярый, ярый, бу секс җинаятьме? Бу урлау булганмы? Theәм бөтен нечкә, ләкин минемчә, бу технология башка, һәм бу кечкенә хыянәтләрнең тотрыклы туплануы бу бизнес өчен дә, бәлки дөнья өчен дә зур мәгънәгә ия булырга мөмкин, аргумент күбесенчә югалды. Шулай итеп, капиталистик стимуллар җиңде, шулай ук аны ясаган кешеләр дә тулы мәгълүмат белән эшләмәделәр.
Мин бер мизгелгә "һәркем уйлаган нәрсә" аспекты турында сорарга телим, чөнки мин бу хәбәрне күрдем, һәм мин: "Эх, начар нәрсә булгандыр", - дидем. Сез #MeToo отчетын бик күп эшләдегез. Сез Харви Вайнштейн хикәясен боздыгыз.
Сез бу дәгъвалар турында хәбәр итү өчен бик күп вакыт үткәрдегез, минемчә, сез ахыр чиктә нигезсез булдыгыз: Альтман балигъ булмаганнарга җенси мөнәсәбәттә мөгамәлә итте, секс эшчеләрен яллады, яки хәтта OpenAI сыбызгысын үтерде. Әйтәм, сез бу әйберләрне иң катгый хәбәр итә алган кеше. Сез бушка булдыгызмы?
Хәер, кара, мин бернәрсә дә юкка чыкмый дип әйтмим. Мин әйтә алам, мин бу таләпләрне карап берничә ай үткәрдем һәм алар өчен раслаучы тапмадым. Meәм бу мине гаҗәпләндерде: бу егетләр, безнең киләчәгебезгә шулкадәр көчле бу компанияләр, чыннан да, вакытларын һәм ресурсларын пропорциональ күләмдә балалар балчык көрәшендә үткәрәләр.
Бер башкаручы аны "Шекспир" дип тасвирлый. Шәхси тикшерүче акчасы һәм оппозиция досерлары тупланган. Theәм кызганыч, Сэмнең көндәшләре белән тотылган тәмле әйберләр бары тик факт дип санала, шулай бит? Ул балигъ булмаган малайларны куа дигән гаепләү бар, һәм Кремний үзәнлегендә күп коктейль кичәләрендә сез моны ишетәсез. Конференция схемасында мин моны ышанычлы, күренекле җитәкчеләр кабатлаганын ишеттем: "Барысы да моны белә."
Кызганыч, мин моның каян килүе, төрле векторлар аша сөйләшүе турында сөйләшәм. Элон Маск һәм аның иптәшләре чыннан да каты досерларны этәрәләр кебек. Сез төп таләпләрне карый башлагач, алар пар булып китәләр. Кызганыч, ул монда дәлилләргә нигезләнгән тәнкыйтьләрне чыннан да яшерә, минемчә, чыннан да ашыгыч күзәтчелеккә һәм игътибарга лаек.
Повестьта килеп чыккан бүтән тема - Сэмнең бик күп дуслары бар дигән курку хисе диярлек - ул Y Combinator генераль директоры вазифасыннан алып, шәхси инвестицияләренә кадәр күп компанияләргә инвестиция салды, кайберләре OpenAI генераль директоры роленә туры килми - һәм аның тирәсендә тынлык бар.
Аеруча бер юлны укыган вакытта ул миңа бик нык тәэсир итте. Сез Илья Суцкевер истәлекләрен тасвирлыйсыз, һәм алар Кремний үзәнлегендә. Барысы дааларны Илья истәлекләре дип атый. Ләкин моның тирәсендә хәтта тынлык та бар. Алар әйләнеп уздылар, ләкин алар турында сөйләшмиләр. Сезнеңчә, бу каян килеп чыккан? Бу куркумы? Фәрештә инвестицияләрен алу теләге бармы? Бу каян килә?
Минемчә, бу бик куркаклык, мин дөресен әйтермен. Милли куркынычсызлык хикәяләре турында хәбәр иткәннән соң, чыганаклар барысы да югалырга һәм гаепләүгә дучар булалар, алар барыбер дөрес эш итәләр һәм җаваплылык тудыру өчен сөйләшәләр. Мин сез әйткән секс җинаятьләре белән бәйле хикәяләр өстендә эшләдем, анда чыганаклар тирән травма ала һәм бик шәхси җәзадан курка.
Бу очракта күп очракта сез үз профиле һәм көче булган кешеләр белән эш итәсез. Алар яисә танылган кешеләр, яисә алар танылган кешеләр белән уратып алынган. Аларның нык эшлекле тормышы бар. Минем уйлавымча, алар өчен бу әйберләр турында сөйләшү бик түбән. Fullyәм шөкер, энә без сөйләшкәнчә хәрәкәтләнә, һәм кешеләр хәзер күбрәк сөйләшәләр.
Ләкин шундый озак вакыт дәвамында кешеләр бу турыда ябылалар, чөнки Кремний үзәнлеге культурасы шулкадәр рәхимсез үз-үзен кызыксындыра, рәхимсез бизнес һәм үсешкә юнәлтелгән дип уйлыйм. Шуңа күрә бу Сэмне эштән азат итүдә катнашкан кайбер кешеләрне дә җәберли дип уйлыйм, сез моннан соңгы көннәрдә күрдегез, әйе, аның кире кайтуына һәм иске идарә әгъзаларының эштән алынуына китергән бер фактор - ул аның эшенә буталчык инвесторларны җыйды.
Ләкин икенчесе - тирә-юньдәге бик күп кешеләр, борчылулары булган һәм аларга ашыгыч рәвештә тавыш биргәннәр, салфеткалар кебек катып, җилнең башка якка искәнен күреп көйләрен үзгәрттеләр, һәм алар табыш поездында булдылар.
Хәбәрче буларак минем карашым бик караңгы.
Бу кешеләрнең кайберләре Мира Мурати, минемчә, 20 минут эчендә OpenAIның яңа генераль директоры булган. Аннары аны алыштырдылар. Бу бик катлаулы динамик иде, һәм, күрәсең, Сэм кайтты. Икенче кеше - Илья Суцкевер, ул Сэмне алып ташлау өчен тавышларның берсе иде, аннары ул фикерен үзгәртте, я булмаса, фикерен үзгәртте, аннары үз компаниясен башларга китте. Беләсеңме, аны нәрсә үзгәртте? Бу акча гына булганмы?
Хәер, аңлаешлы итеп, мин ул икесен аермыйм. Атышта катнашкан башка совет әгъзалары да бар, алар соңыннан бик дәшмәделәр. Бу киң коллектив проблема кебек. Бу, кайбер очракларда, сигнализация яңгыратырлык һәм радикаль чаралар күргән әхлакый җепселле кешеләр, һәм бу мактауга лаек. Менә шулай итеп сез җаваплылыкны ышандырасыз. Бу бу технология тәэсирендә булган күп кешеләргә булыша алыр иде. Бу тармакка куркынычсызлыкка юнәлтелгән булырга ярдәм итә алыр иде.
Ләкин ышанычлы кешеләр һәм бу җаваплылыкны күп сорарга тырышкан кешеләр белән эш иткәндә, сез шулай ук аны ябыштыру һәм сезнең ышануларыгыз белән тору җепселен алуын күрәсез. Thisәм бу тармак чыннан да үз ышанулары белән тормаган кешеләр белән тулы.
Алар цифрлы Алла төзиләр дип уйласалар да, ул ничектер бөтен хезмәтне юкка чыгарыр, яисә күбрәк эш тудырыр, яисә нәрсәдер булыр.
Бу әйбер. Шулай итеп, сезнең ышануларыгыз белән тормау культурасы, эсселек яки бизнесның үз абруен куркыныч астына куярга мөмкин булган мизгелдә юл читенә төшү, ниндидер виджет ясаучы бизнес-компанияләр өчен, бәлки, яхшы һәм яхшы.
Ләкин бу шулай ук: "Бу безнең барыбызны да үтерергә мөмкин", - диләр. Againәм тагын, Терминатор Скайнетка барырга кирәк түгел. Инде тормышка ашырыла торган рисклар җыелмасы бар. Бу реаль, һәм алар моны кисәтергә хаклы, ләкин сезгә бүтән кресло психологиясе булырга тиеш, алар бу ике әйбернең бер үк кешеләрдә ничек кисәтә алулары, алар кисәтәләр, бәлки, аяк бармакларын куеп, нәрсәдер эшләргә тырышалар, аннары алар катып кына эндәшәләр.
Нәкъ шуңа күрә сездә мондый төр әйберләр язудан читтә калу, келәм астына сөртелү очраклары булырга мөмкин, һәм бу хакта еллар дәвамында беркем дә бу турыда ачыктан-ачык сөйләшми.
Монда табигый, җаваплы партия бу компанияләрнең генераль директоры булмас иде; ул хөкүмәтләр булыр иде. АКШта, бәлкиул дәүләт хөкүмәтләре, бәлки бу федераль хакимият.
Әлбәттә, бу компанияләр барысы да глобаль булырга тели. Монда бик күп глобаль нәтиҗәләр бар. Мин OpenAI, Google, һәм Антропик Байден администрациясен ЯИ башкарма заказын чыгару өчен карадым. Ахырда тешсез иде. Бу аларның модельләренең нәрсәгә сәләтле булулары турында сөйләшергә һәм куркынычсызлык сынауларын җибәрергә тиешлеген әйтте. Аннары алар барысы да Трампны якладылар, һәм Трамп килеп, боларның барысын сөртте һәм әйтте: "Без көндәш булырга тиеш. Бу барысы да бушлай. Барыгыз."
Шул ук вакытта, алар барысы да Якын Көнчыгыш илләреннән күп акча җыялар һәм икътисадларын үзгәртергә телиләр. Бу сәясәтчеләр. Минем уйлавымча, политиклар кемнеңдер авызыннан сөйләшкәнен аңларга тиеш, һәм ахыр чиктә кемнеңдер өмете өзелмәсә, алар бик күңелсезләнмәсләр, ләкин сәясәтчеләр дә сәяхәткә алына. Ни өчен алай дип уйлыйсыз?
Бу, чыннан да, минемчә, ни өчен әсәр мөһим һәм ни өчен бу вакытны һәм детальне сарыф итәргә кирәк иде. Без, сез әйткәнчә, күзәтчелекне тәэмин итәргә тиеш булган системалар буш урында. Бу - гражданнардан соңгы Берләшкән Америка, анда акча агымы бик тәэсир ителмәгән, һәм бу проблеманың ЯИ тирәсендә тупланганы, монда дәүләт һәм федераль дәрәҗәдә мәгънәле җайга салу өчен акча күбәйгән һәм ташучы бу ПАКлар бар.
Сездә [OpenAI нигез салучысы] Грег Брокман бар, Сэмнең икенче командиры, аларның икесенә турыдан-туры өлеш кертәсез. Бу закон чыгаручыларны һәм потенциаль регуляторларны кулга алу ситуациясенә китерә, һәм аннан чыгу авыр спираль. Кызганыч, минемчә, гади политик адымнар бар, аларның кайберләре дөньяның башка почмакларында сынала, бу кайбер җаваплылык проблемаларына ярдәм итәчәк.
Сездә куркынычсызлык алдыннан тагын да мәҗбүри сынау булырга мөмкин, бу инде Европада чик модельләре өчен була. Эчке тикшерүләр төрләре өчен сездә катгый язма җәмәгать язмалары таләпләре булырга мөмкин, анда без бу очракта әйберләр язылмаган. Сездә Сэм Альтман этәргән Якын Көнчыгыш инфраструктура амбицияләре өчен милли куркынычсызлыкны тикшерү механизмнары тупланырга мөмкин.
Әйткәнегезчә, ул бу җимне эшләде һәм Байден администрациясе белән: "Безне көйләгез, безне көйләгез", - диде һәм аларга башкарма заказ ясарга булышты, һәм Трамп кергән мизгелдә, чыннан да, беренче көннәрдә, "Әйдәгез тизләник һәм Абу-Дабида зур мәгълүмат үзәге кампусы төзик". Сездә булырга мөмкин, бу чыннан да гади, сыбызгыдан саклау кебек. ЯИ компаниясе хезмәткәрләрен яклаучы федераль устав юк, бу әсәрдә күрсәтелә торган куркынычсызлык проблемаларын ачалар.
Бездә Ян Лайк, OpenAI-ның олы куркынычсызлык егете булган, компаниядә супер тигезләүдә алдынгы булган очраклары бар. Ул тактага, нигездә, ышанычлы материал, компания куркынычсызлык миссиясендә рельслардан китә дип яза. Бу кешеләр, алар бара алырлык күзәтчелек органы булырга тиеш, һәм без бүтән тармакларда күргән төрләрне ачыктан-ачык якларга тиеш. Бу Sarbanes-Oxley стилендәге режимны кабатлау өчен гади.
Минем уйлавымча, Кремний үзәнлегендә барлык хакимиятне контрольдә тоту проблемасы никадәр кискен булса да, күзәтчелек һәм сакчылык тәэмин итә алырлык кайбер институтларның буш булуына карамастан, мин демократиянең төп математикасына һәм үз-үзен кызыксындырган сәясәтчеләргә ышанам. Сайлау мәгълүматлары көннән-көн барлыкка килә, күпчелек америкалылар ЯИ проблемалары, сораулары яки куркынычлары хәзерге вакытта өстенлекләрдән өстенрәк дип уйлыйлар.
Шуңа күрә мин ЯИдан политикага акча ташкыны, сәясәтчеләргә карата сорау билгесе чыганагы итү безнең көчебездә дип уйлыйм. Америкалылар тавыш бирергә барганда, алар тавыш биргән кешеләрнең, аеруча критик һәм анти-регуляцияле булуларын тикшерергә тиеш, бу проблемаларны исәпкә алып, зур технология махсус кызыксынулары белән банкротланганнар. Шуңа күрә кешеләр мондый әсәрләрне укый алса, подкастларны тыңлый алса һәм критик уйланырлык дәрәҗәдә кайгырта алсасайлаучылар буларак аларның карарлары, Вашингтонда күзәтчелекне күзәтүче һәм көч кулланучы вәкилләрдән сайлау округы булдыру өчен реаль мөмкинлек бар.
Бу иң оптимистик әйберләрнең берсе булырга мөмкин, мин хәзерге ЯИ индустриясе турында сөйләгәннәрне ишеттем. Мин моны бик кадерлим. Мин сез сөйләгән сайлау белән мәшәкатьләнәм. Хәзер бик күп. Барысы да эзлекле, һәм яшьләр, аеруча, ЯИга күбрәк тәэсир иткән кебек, алар шулкадәр ышанычсыз һәм ачуланалар. Бу барлык сайлауларның бәясе. Thatәм мин моңа карыйм, һәм уйлыйм, әйе, акыллы политиклар моңа каршы гына йөгерерләр иде. Алар: "Без зур технологияләр өчен җавап бирәчәкбез", - диярләр.
Соңгы 20 ел турында уйлыйм, политик алар зур технологияләр өчен җавап бирергә җыеналар, һәм мин зур технологиянең бер мизгелен дә җавапка тарту өчен көрәшәм. Мине бу төрле булырга мөмкин дип уйлаучы бердәнбер нәрсә, сез чыннан да мәгълүмат үзәкләрен төзергә тиеш, һәм сез моңа каршы тавыш бирә аласыз, һәм сез моңа каршы мөрәҗәгать итә аласыз, һәм сез моңа каршы чыга аласыз.
Минемчә, мәгълүмат үзәгенә тавыш биргәнгә, үз йортларын аткан политик бар. Тырышлык җитә, мин аны атар идем, кызышу. Сез Кремний үзәнлегенең инсулярлыгын тасвирладыгыз. Бу ябык экосистема. Алар дөнья белән идарә итә алырлар дип уйлыйлар. Алар политикага бер тонна акча салалар, һәм кешеләр продуктларны яратмыйлар, бу аларга бик күп капламый. Продукцияне күбрәк кулланган саен, алар шулкадәр ачуланалар, һәм политиклар үзләре күрсәткән кешеләр өстендә технология индустриясенә булышуның реаль нәтиҗәләре барлыгын күрә башладылар.
Сез бик күп кеше белән сөйләштегез. Сезнеңчә, технология индустриясе алар алдында булган дәресне өйрәнә аламы?
Алар дөньяны җаваплылыксыз идарә итә алырлар дип уйлыйлар. Бу "хисләр" квалификациясенә мохтаҗ дип уйламыйм. Әйтәм, сез Питер Тил кулланган телгә карыйсыз, бу ачык. Әлбәттә, бу бик яхшы мисал. Samәм Сэм Альтман, Тил идеологиясе белән якын булса да, билгеле булса да, ул төрлечә яңгырый һәм бер дәрәҗәгә кадәр үлчәнә ала.
Ләкин Тилдан алынган киңрәк идеология дип уйлыйм, нигездә: Без демократия белән эшләдек, безгә бүтән кирәк түгел. Бездә бик күп, без үзебезнең кечкенә бункерларны төзергә телибез. Без инде Карнеги яки Рокфеллер белән эш итмибез, алар начар егетләр, ләкин алар социаль контрактта катнашырга һәм кешеләр өчен әйберләр төзергә кирәклеген сизәләр. Чын нигилизм бар.
Минем уйлавымча, бу Америка тарихында могуллар һәм супер хөкүмәт хакимиятенә ия булган шәхси компанияләр арасында үзара ныгыту спиралы булды, шул ук вакытта аларны җавапка тартырга мөмкин булган демократик институтлар юкка чыга. Бу егетләр бер көнне уянып, "Ху, чыннан да безгә җәмгыятьтә катнашырга һәм кешеләр өчен әйберләр төзергә булышырга кирәк" дигән уйга мин оптимистик хис итмим.
Әйтәм, сез бирү залогының микрокосмик үрнәгенә охшагансыз, анда хәйриячелек кебек тоелган бер мизгел булган, һәм ул мизгел хәзер үткән, хәтта мыскыл ителгән. Бу проблема, җаваплылыкның җитмәве проблемасы, минемчә, читтән генә чишеп була. Бу сайлаучылар хакимият күзәтчелеген мобилизацияләү һәм терелтү булырга тиеш. Youәм сез әйтергә тиеш, төп вектор, алар аша кешеләр ирешә алган җирле. Бу инфраструктура кайда төзелүе белән бәйле.
Сез бу тирәдәге ак-кызу киеренкелекне искә төшердегез, бу көч куллануга һәм куркынычларга китерә, һәм, күрәсең, беркем дә көч кулланырга тиеш түгел. Alsoәм мин монда конкрет политик тәкъдимнәр ясау өчен түгел, төп булып күренгән һәм дөньяның бүтән урында эшләүче кайбер политик адымнарны тәкъдим итүдән башка, шулай бит? Яисә бүтән тармакларда эшләгәннәр. Мин аларның кайсын башкарырга һәм ничек эшләргә дип әйтмим.
Минемчә, нәрсәдер булырга тиеш, һәм ул бу компанияләргә генә ышанмыйча, тышкы булырга тиеш. Чөнки дөресхәзерге вакытта бездә технологияне үстерүче һәм рискларны аңлар өчен иң яхшы җиһазландырылган компанияләр бар, һәм чынлыкта безне куркыныч турында кисәтүче, шулай ук тиз йөрергә һәм бу куркынычларны санга сукмыйча гына. Сездә тигезләнеш өчен бернәрсә дә юк. Шуңа күрә нинди реформалар спецификация ягыннан кабул ителсә дә, моңа каршы нәрсәдер эшләргә туры килә. Stillәм мин һаман да шул мөһим оптимизмга кире кайтам.
Мин, гадәттә, сезнең аргументыгызны сатып алам. Миңа бер кечкенә генә каршылык ясарга рөхсәт итегез, мин әйтә алам. Сайлау тартмасыннан читтә булырга мөмкин тагын бер нәрсә - күпер поп, шулай бит? Бу компанияләрнең барысы да финиш сызыгына чыкмый, һәм кулланучылар AI кушымталары өчен продукт базары юк. Againәм тагын, мин аны әле күрмим, ләкин мин кулланучылар технологияләрен тикшерүче, һәм бәлки минем башкалардан югарырак стандартларым бардыр.
Бизнес дөньясында продукт базары туры килә, шулай бит? ЯИ агентларының бер төркеме программа тәэминаты булу бу кораллар өчен чын базар кебек тоела. Сез бу компанияләрнең аргументларын укый аласыз, "Без кодлаштыруны чиштек, һәм бу без теләсә нәрсә чишә алабыз. Әгәр дә без программа тәэминаты ясый алсак, без теләсә нинди проблемаларны чишә алабыз."
Программа эшли алырлык реаль чикләр бар дип уйлыйм. Бу бизнес дөньясында бик яхшы. Программа тәэминаты һәр проблеманы чишә алмый, ләкин алар анда барып җитәргә тиеш. Алар эшне тәмамларга тиеш, һәм бәлки барысы да финиш сызыгына чыкмас. Aәм авария бар, һәм бу күпер популяр, һәм бәлки OpenAI яки Антропик яки xAI, бу компанияләрнең берсе уңышсыз, һәм бу инвестицияләр юкка чыга.
Сезнеңчә, бу моңа тәэсир итәрме? Чынлыкта, башта беренче сорауны бирергә рөхсәт итегез. OpenAI IPO ярдәмендә. Samитәкче буларак Сэм турында бик күп шикләр бар. Синеңчә, алар финиш сызыгына чыгарлармы?
Мин прогнозларга җыенмыйм, ләкин сез мөһим фикерне күтәрәсез дип уйлыйм, чөнки Кремний үзәнлегендә базар стимуллары мөһим, һәм хәзерге күпчелек динамикасының төгәллеге, тәнкыйтьчеләр әйтүенчә, куркынычсызлык төбенә кадәр йөгерергә мөмкин.
Мин шулай ук өстәр идем, тарихи өстенлекне карасаң, анда охшаш һәм үтеп керә алмаслык булып күренгән базар стимуллары җыелмасы һәм халык өчен потенциаль бетергеч эффектлар булса, суд процессы бар. Соңгы вакытта борчылу өлкәсе итеп күрәсез. Сэм Альтман бу атнада ЯИ компанияләрен, мәсәлән, OpenAI законсыз үлем костюмнарында очраткан җаваплылыкның кайбер төрләреннән саклый торган законнарны хуплый. Әлбәттә, җаваплылыктан бу калкан булырга теләк бар.
Минемчә, судлар әле дә мәгънәле механизм булырга мөмкин, һәм бу костюмнарның ничек формалашуы кызык булыр. Сез, мәсәлән, класс-эш костюмын күрдегез, мин һәм мин, бик күп башка авторлар, әгъзалар, антропикага каршы, авторлык хокуклары астында булган китапларны кулланганнары өчен. Әгәр дә акыллы юридик акыл ияләре һәм дәгъвачылар бар икән, без тарихи яктан зур тәмәкедән зур энергиягә кадәр булган очракларда күргән кебек, сез шулай ук кешеләрне сакларга, сак булырга яки якларга этәргечләр ала аласыз.
Бу ЯИ индустриясенең бөтен бәя структурасы гадел куллануны бик хәйрия аңлатмасына бәйләнгән кебек тоела. Enoughитәрлек килеп чыкмый. Бу компанияләрнең бәяләр структурасы контрольдән чыгарга мөмкин, әгәр алар сезгә һәм алар эшләгән бүтәннәргә түләргә тиеш булсалар, ләкин уйлау уңайсыз, шуңа күрә без бу турыда уйламыйбыз. Аның янында, бу продуктларның барысы да югалту белән эшли. Бүгенге кебек, алар барысы да югалып йөгерәләр. Алар эшли алганнан күбрәк акча яндыралар. Кайбер вакытта алар ачкычны борырга тиеш.
Сэм - бизнесмен. Берничә тапкыр әйткәнегезчә, ул технолог түгел. Ул бизнесмен. Син ничек уйлыйсың, ул ачкычны борып җибәрергә һәм "Без доллар эшләргә җыенабызмы?" Чөнки мин: "Сез ничек уйлыйсыз, OpenAI ясармы?" Алар доллар эшләргә тиеш булганда. Әлегә кадәр Сэм үзенең барлык долларын бүтән кешеләрдән үз компанияләренә акча эшләү урынына акча сорап эшләде.
Кремний үзәнлеге, инвесторлар, җәмәгать өчен бу бик озакка сузылган сорау.Сез кайбер җөмләләрне күрәсез һәм OpenAI-тан читкә китәсез, алар бу турыда паника тудыралар кебек. Сораны ябу, кайбер ярдәмче проектларны ябу, төп продуктта нульгә керергә тырышу. Ләкин, икенче яктан, сез һаман да күрәсез, шул ук вакытта тонналар миссиясе, шулай бит? Хәтта кечкенә мисал - бу аларның бизнесы өчен төп түгел - TBPN сатып алу.
Әйткәндәй, без финиш сызыгына һәм фактларны тикшергәндә, мондый журналистик тикшерү белән очрашкан компания, алар сөйләшүне турыдан-туры контрольдә тота алырлык мәйданчык ала. Минем уйлавымча, минем сөйләшүләремә нигезләнеп, барлык кешеләргә вәгъдә бирү проблемасы төп бизнес-модельдә игътибарның җитмәвенә дә кагыла. Мин әйтәм, сез прогнозлау һәм базарны карау төренә якынрак. Мин сезне һәм тыңлаучыларны OpenAI ачкычны борып җибәрә аламы дип судья итеп калдырырмын.
Хәер, мин сорау бирдем, чөнки сез Майкрософтның өлкән башкаручысыннан өземтә алдыгыз, һәм ул: "Сэм мирасы Стив Джобска караганда Берни Мэдов яки Сэм Банкман-Фридка охшаш булырга мөмкин". Бу чагыштыру. Сез бу чагыштырудан нәрсә ясыйсыз?
Минемчә, бу парафраз. Стив Джобс өлеше цитатаның өлеше булмаган. Ләкин аның өчен кызыклы төр бар, чөнки ул: "Минем уйлавымча, аның SBF яки Madoff дәрәҗәсендәге мошенник булу мөмкинлеге кечкенә, ләкин реаль мөмкинлеге бар." Мәгънәсе, минем уйлавымча, Сэмнең бу төр алдауларда яки җинаятьләрдә гаепләнүе түгел, ә Сэмнән аерылу һәм алдау дәрәҗәсе ахыр чиктә шул масштабта истә калу мөмкинлегенә ия булырга мөмкин.
Әйе, минемчә, бу цитатаның иң сокландыргычсы, дөресен әйткәндә, сез Майкрософтка шалтыратасыз һәм "Бу акылсыз. Без моны беркайчан да ишетмәгән идек". Сез бик күп "Йә, монда бик күп кеше уйлый" кебек әйберләр аласыз, бу искиткеч. Iәм минем уйлавымча, ул бу гайкаларга һәм бизнес сорауларына кагыла.
Бер инвестор миңа, мәсәлән, атыштан соңгы елларда бу сыйфатның ничек сакланып калганын исәпкә алып "- һәм бу шулай ук кызыклы уй - бу Сэм исемлекнең абсолют төбендә булырга тиеш түгел, бу технологияне бөтенләй төзергә тиеш булмаган кешеләр өчен, иң түбәнсе булырга тиеш, ләкин Элон Маск дип аталган берничә кеше бар. AGI төзегез, һәм бу өлкәдә берничә әйдәп баручы шәхес астында.
Шуңа күрә мин бу кызыклы бәяләү дип уйладым, һәм минем уйлавымча, сез чын прагматистлардан аласыз, бәлки алар куркынычсызлык проблемаларын сатып алмаслар. Алар бары тик үсешкә юнәлтелгән, һәм алар OpenAI хәзер Сэм Альтман белән проблема бар дип уйлыйлар.
Microsoft кисәге чыннан да кызык. Бу компания аларны дөнья өстендә дип уйлады. Алар бу инвестицияне ясаганнар һәм алар, аеруча, иң мөһиме, Google-ны сикерергә һәм кулланучыларның яхшы мәрхәмәтенә кире кайтырга җыеналар. Бу маҗаралар аркасында алар үзләрен яндырган дәрәҗәләр - бу бик акыллы идарә итүче компания - артык әйтеп булмый дип уйлыйм.
Сез персонажларны, шәхес сыйфатларын искә төшердегез. Монда тыңлаучыларыбызның сораулары белән тәмамлыйсым килә. "Vergecast" бүтән тамашабызда мин сезнең белән сөйләшергә җыенуымны әйттем, һәм мин: "Ронанга бу хикәя турында сорауларыгыз булса, миңа хәбәр итегез", - дидем. Шуңа күрә бездә монда бар, минемчә, сез тасвирлаган әйберләр белән яхшы бәйләнештә. Мин аны сезгә укырга җыенам:
"Начар тәртип, Алтман һәм башка ЯИ лидерларының актуаль эшләре Ронанның политика һәм массакүләм мәгълүмат чараларында башка дәрәҗәле лидерлардан ишеткән нигезләреннән ничек аерылып тора? Алар барысы да үз эшләрен аклыйлар, шулай итеп дөнья үзгәрә? Әгәр мин моны эшләмәсәм, бүтән кеше эшләячәкме? "
Әйе, әйләнә-тирәдә бик күп әйберләр бар. ЯИ белән аерылып торган нәрсә - экзистенциаль өлешләрнең шундый уникаль булуы риск белдерүләренең дә экстремаль булуын аңлата, шулай бит? Сездә Сэм Альтман бар"Бу безнең барыбыз өчен дә ут булырга мөмкин". Alsoәм шулай ук, тәнкыйтьчеләр әйтә ала, сорау бирүче мания экстремаль, шулай бит?
Сэм Элонны гаепләгән нәрсә, бәлки, ул кешелекне сакларга тели, ләкин ул үзе булганда гына. Winиңергә теләүнең эго компоненты төре, ул Сэм һәрвакыт куллана, һәм бу тарих китаплары өчен бер, бу барысын да үзгәртә ала. Шуңа күрә, Кремний үзәнлегенең күпчелек предприятияләренең "сез берничә йомырка сындырырга тиеш" фикере өстендә һәм аннан читтә, ЯИны алып барган кайбер фигуралар аңында, минем уйлавымча, теләсә нинди төшү өчен тулы рационализация.
Йомырка сындырырга оныт. Минем уйлавымча, куркынычсызлыкны тикшерүчеләрнең күбесе илне бозу, дөньяны бозу, һәм эше һәм куркынычсызлыгы баланста калган миллионлаган кешене сындыру куркынычы турында әйтерләр - бу аның өчен уникаль. Менә мин ябам, бу отчет органы турында уйланам, чыннан да ышанам, бу Сэм Альтманнан күбрәк. Бу контрольсез тармак һәм Американың чикләнә алмаган проблемасы турында.
Әйе. Хәер, бездә оптимизм бар иде, ләкин минемчә, аны калдыру өчен яхшы урын.
[Көлә] Төшү белән тәмамла.
Әлбәттә. Бу чыннан да зур хикәя. Маск-Алтман сынаулары алда. Без монда күпне белергә җыенабыз дип уйлыйм. Мин сезнең белән тагын сөйләшергә теләрмен дип шикләнәм. Ронан Фарро, Декодерда булганыгыз өчен бик зур рәхмәт.
Рәхмәт.
Бу эпизод турында сораулар яки аңлатмалар? Безне [email protected] адресына басыгыз. Без чыннан да һәр электрон почтаны укыйбыз!
