Имрӯз дар Декодер, ман бо Ронан Фарроу, яке аз бузургтарин ситораҳои гузоришдиҳии тафтишотӣ, ки имрӯз кор мекунад, сӯҳбат мекунам. Вай достони Ҳарви Вайнштейнро, дар байни бисёре аз дигарон шикаст. Ва танҳо ҳафтаи гузашта ӯ ва ҳаммуаллифи Эндрю Марантс дар The New Yorker як хусусияти бениҳоят амиқро дар бораи директори OpenAI Сэм Олтман, эътимоднокии ӯ ва болоравии худи OpenAI нашр карданд.
Як ёддошт пеш аз он ки мо ба ин ҷо равем - The New Yorker ин ҳикояро нашр кард ва ман ва Ронан ин сӯҳбатро пеш аз он ки мо мизони пурраи ҳамлаҳо ба хонаи Олтманро бидонем, сӯҳбат кардем, аз ин рӯ шумо мустақиман дар ин бора сӯҳбати моро намешунавед. Аммо танҳо барои гуфтани он, ман фикр мекунам, ки хушунат дар ҳама гуна навъҳо қобили қабул нест, ин ҳамлаҳо ба Сэм ғайри қобили қабул буданд ва ин гуна нотавонӣ, ки одамон эҳсос мекунанд, ки ба ин навъи хушунат оварда мерасонад, худ қобили қабул нест ва он ҳам аз ҷониби соҳа ва ҳам раҳбарони сиёсии мо бояд тафтиши бештаре бошад. Ман умедворам, ки ин равшан аст.
Муштариёни Verge, фаромӯш накунед, ки шумо дар ҳар ҷое, ки подкастҳои худро дастрас мекунед, ба декодери бе таблиғ дастрасии истисноӣ доред. Ба ин ҷо сар кунед. Муштарӣ нестед? Шумо метавонед дар ин ҷо сабти ном кунед.
Ҳамаи ин гуфтаҳо, дар атрофи Олтман як бозии одилона барои гузоришдиҳии дақиқ аст - намуди гузоришдиҳии Ронан ва Эндрю. Ба шарофати маъруфияти ChatGPT, Олтман ҳамчун шахсияти намоёни соҳаи AI пайдо шуд ва дар тӯли чанд сол як лабораторияи тадқиқотии ғайритиҷоратиро ба як ширкати хусусии тақрибан триллион доллар табдил дод. Аммо афсонаи Олтман ба ҳам зид аст, ки ҳам аз рӯи қобилияти муомилоти ошкори ӯ ва ҳам тамоюли гузоришаш ба… хуб, ба ҳама дар атрофи ӯ дурӯғ гуфтан.
Ҳикоя беш аз 17,000 калимаро дар бар мегирад ва он эҳтимолан ҳисоботи дақиқи воқеаи дар соли 2023 рухдодаро дар бар мегирад, вақте ки шӯрои директорони OpenAI ногаҳон Олтманро ба далели дурӯғгӯии эҳтимолии ӯ барканор кард ва танҳо барои он ки ӯ қариб фавран дубора ба кор гирифта шавад. Ин инчунин як ғарқ кардани амиқ ба ҳаёти шахсии Олтман, сармоягузориҳои ӯ, хостгорӣ ба пулҳои Шарқи Наздик ва мулоҳизаҳои шахсии ӯ дар бораи рафтор ва хислатҳои гузаштаи ӯ мебошад, ки як манбаро водор сохт, ки ӯро "ҳақиқат маҳдуд накардааст". Ман дар ҳақиқат ба шумо тавсия медиҳам, ки тамоми ҳикояро хонед; Ман гумон мекунам, ки он барои солҳои зиёд истинод хоҳад шуд.
Ронан дар тӯли 18 моҳе, ки дар гузориши ин порча сарф карда буд, борҳо бо Олтман сӯҳбат кард ва аз ин рӯ, яке аз чизҳои асосие, ки ман ба он таваҷҷӯҳ кардам, ин буд, ки оё вай дар ин муддат дар Алтман ягон тағиротро эҳсос кардааст. Дар ниҳоят, дар тӯли якуним соли охир дар AI, дар технология ва дар ҷаҳон бисёр чизҳо рӯй доданд.
Шумо мустақиман дар бораи ин суханронии Ронанро хоҳед шунид ва инчунин ҳисси ӯ, ки одамон бештар омодаанд дар бораи қобилияти Алтман барои паҳн кардани ҳақиқат сӯҳбат кунанд. Одамон бо овози баланд ва сабтшуда ҳайрон мешаванд, ки оё рафтори одамон ба монанди Олтман на танҳо барои AI ё технология, балки ба ояндаи дастаҷамъии ҷомеа низ дахл дорад.
Хуб: Ронан Фарроу дар бораи Сэм Алтман, AI ва ҳақиқат. Рафтем.
Ин мусоҳиба барои дарозӣ ва равшанӣ ба таври сабук таҳрир шудааст.
Ронан Фарроу, шумо хабарнигори тафтишотӣ ва саҳмгузори The New Yorker ҳастед. Хуш омадед ба Decoder.
Хурсандам, ки дар ин ҷо ҳастам. Ташаккур барои доштани ман.
Ман аз сӯҳбат бо шумо хеле ҳаяҷонам. Шумо танҳо барои The New Yorker як порчаи калон навиштед. Ин профили Сэм Алтман ва як навъ бо он, OpenAI мебошад. Хониши ман дар бораи он ин аст, ки мисли ҳама хусусиятҳои олӣ, он бо гузориши дақиқ эҳсосоти зиёдеро, ки одамон дар тӯли муддати тӯлонӣ дар бораи Сэм Алтман доштанд, тасдиқ мекунад. Шумо баръало интишор кардед, шумо ба он вокуниш нишон додед. Шумо ҳоло дар бораи он чӣ ҳис мекунед?
Хуб, воқеан, ман аз он хеле дилсӯз шудам, ки он дар замоне, ки иқтисодиёти таваҷҷӯҳ ин қадар шизофрения ва суст аст, шикастааст. Ин ҳикояест, ки ба назари ман, ба ҳамаи мо таъсир мерасонад. Ва ҳангоме ки ман якуним соли умри худро сарф кардам ва ҳаммуаллифи ман Эндрю Марантс низ он вақташро сарф карда, воқеан кӯшиш мекард, ки кори судӣ ва дақиқ анҷом диҳад, ин ҳамеша аз он сабаб аст, ки ман эҳсос мекунам, ки масъалаҳои сохтории бузургтаре ҳастанд, ки ба одамон, ба ғайр аз инфиродӣ ва ширкат дар маркази ҳикоя таъсир мерасонанд.
Сэм Олтман, дар пасманзари фарҳанги шӯхӣ дар водии Силикон ва стартапҳо, ки ба арзёбиҳои азим бар асоси ваъдаҳое, ки дар оянда амалӣ мешаванд ё нахоҳанд буд, ва фарогирии афзояндаи фарҳанги муассисоне, ки фикр мекунанд, ба гурӯҳҳои мухталиф нақл кардани чизҳои ихтилофи назар хусусият аст, нахато… Ҳатто дар ин замина, Сэм Олтман як ҳолати фавқулоддаест, ки ҳама дар водии Силикон, ки ин чизҳоро интизоранд, наметавонанд дар бораи ин саволи эътимоднокӣ ва ростқавлии худ сӯҳбат кунанд.
Мо аллакай медонистем, ки ӯ аз рӯи баъзе версияҳои иттиҳомоти бевиҷдонӣ ё силсилаи дурӯғгӯӣ аз кор ронда шудааст. Аммо ғайриоддӣ, сарфи назар аз он, ки гузоришҳои олиҷаноб вуҷуд доранд, Кеч Ҳейгей дар ин бора кори бузурге кардааст. Карен Хао дар ин бобат кори бузург кардааст. Воқеан дар бораи далелҳои воқеии далелҳо ва сабабҳои аз чашми мардум дур мондани онҳо дарки дақиқ вуҷуд надошт.
Аз ин рӯ, нуқтаи рақами як ин аст, ки ман аз он дилгарм мекунам, ки баъзе аз ин холигоҳҳо дар дониши ҷамъиятии мо ва ҳатто дар дониши инсайдерони водии Силикон ҳоло каме бештар пур карда шудаанд. Баъзе сабабҳое, ки камбудиҳо буданд, каме бештар пур карда шуданд.
Мо дар бораи ҳолатҳое гузориш медиҳем, ки одамон дар дохили ин ширкат воқеан эҳсос мекарданд, ки чизҳо пӯшонида шудаанд ё дидаю дониста ҳуҷҷатгузорӣ нашудаанд. Яке аз чизҳои нав дар ин ҳикоя як таҳқиқоти муҳими ширкати ҳуқуқшиносии WilmerHale мебошад, ки бешубҳа як ширкати афсонавӣ, мӯътамад ва бузурги ҳуқуқӣ аст, ки таҳқиқоти Enron ва WorldCom-ро анҷом додааст, ки дар омади гап, ҳама ҳаҷм буданд, ба мисли садҳо саҳифаҳои нашршуда. ВилмерХейл ин тафтишотро анҷом дод, ки аз ҷониби аъзоёни шӯро талаб карда шуд, ки Алтманро ҳамчун шарти рафтани онҳо ҳангоми раҳоӣ аз онҳо аз кор озод карданд ва ӯ баргашт. Ва ғайриоддӣ - дар назари бисёре аз коршиносони ҳуқуқӣ, ки ман бо онҳо сӯҳбат кардам ва ба ҳайратовар дар назари бисёре аз одамони ин ширкат - онҳо онро аз навиштан нигоҳ медоштанд. Ҳама чизе, ки аз он ба вуҷуд омадааст, як пресс-релизи 800-калима аз OpenAI буд, ки воқеаро ҳамчун шикасти эътимод тавсиф кард. Ва мо тасдиқ кардем, ки ин ба брифингҳои шифоҳӣ нигоҳ дошта шудааст.
Ҳолатҳое ҳастанд, ки масалан, як узви раёсат ба назар мехоҳад бар зидди табдили шакли аслии ғайритиҷоратии OpenAI ба ташкилоти ғайритиҷоратӣ овоз диҳад ва он ҳамчун бетараф сабт карда мешавад. Мисли ҳуқуқшинос дар вохӯрӣ мегӯяд: "Хуб, ин метавонад тафтишоти аз ҳад зиёдро ба бор орад." Ва шахсе, ки мехоҳад зидди овоз диҳад, ҳамчун бетараф дар ҳама гуна баромадҳо сабт мешавад. Баҳси воқеӣ вуҷуд дорад. OpenAI ба таври дигар даъво мекунад, тавре ки шумо тасаввур карда метавонед. Ин ҳама ҳолатҳоест, ки шумо ширкате доред, ки бо ҳисоби худ ояндаи моро дар дасти худ нигоҳ медорад.
Саҳмҳои бехатарӣ чунон шадиданд, ки онҳо аз байн нарафтанд. Ин аст сабаби он аст, ки ин ширкат ҳамчун як созмони ғайритиҷоратӣ таъсис дода шудааст, ки ба бехатарӣ нигаронида шудааст ва дар он ҷо корҳо тавре пинҳон карда мешуданд, ки одамони мӯътамад дар атрофи он онро нисбат ба касбӣ камтар медонистанд. Ва шумо инро бо як замина ҷуфт мекунед, ки дар он ҷо иштиҳои сиёсӣ барои танзими пурмазмун хеле кам аст. Ман фикр мекунам, ки ин як ҳолати хеле сӯхтааст.
Гап барои ман на танҳо дар он аст, ки Сэм Олтман сазовори ин саволҳост. Ин инчунин он аст, ки ҳар яке аз ин бачаҳо дар ин соҳа ва бисёре аз шахсиятҳои калидӣ, агар на ин хосияти хоси дурӯғгӯиро нишон медиҳанд, албатта як дараҷа тафаккури нажод ба поёнро нишон медиҳанд, ки дар он одамоне, ки бехатарӣ буданд, ин ӯҳдадориҳоро обшор кардаанд ва ҳама дар як мусобиқа ҳастанд.
Ман фикр мекунам, вақте ки мо ба ихроҷи ахири Anthropic назар мекунем, шахсе ҳаст, ки саволе медиҳад, ки кӣ бояд ангушти худро дар ин порча пахш кунад. Ҷавоб ин аст, ки агар мо назорати пурмазмун надошта бошем, ман фикр мекунам, ки мо бояд саволҳои ҷиддӣ диҳем ва кӯшиш кунем, ки то ҳадди имкон дар бораи ҳамаи ин бачаҳо маълумоти бештарро ошкор кунем. Аз ин рӯ, ман аз он чизе, ки сӯҳбати пурмазмун дар бораи он ё оғози яке аз онҳо эҳсос мешавад, хеле рӯҳбаланд шудам.
Сабаби ин тавр пурсиданиам он аст, ки шумо дар ин бора якуним сол кор кардед. Шумо бо 100 нафар бо ҳаммуаллифи худ Эндрю сӯҳбат кардед. Ин барои пухтани ҳикоя муддати тӯлонӣ аст. Ман дар бораи якуним соли охир дар бораи AI фикр мекунам, махсусан, ва писарак, муносибатҳо ва арзишҳои ҳамаи ин аломатҳо хеле зуд тағйир ёфтанд.
Шояд ҳеҷ кас бештар аз Сэм Алтман, ки ҳамчун ғолиби пешфарз оғоз ёфт, зеро онҳо ChatGPT-ро бароварда буданд ва ҳама фикр мекарданд, ки ин танҳо барои Google хоҳад буд. Ва он гоҳ Google посух дод, ки ба назар чунин менамуд, ки онҳоро ба ҳайрат овард, ки Google кӯшиш мекунад тиҷорати худро муҳофизат кунад, шояд яке аз беҳтарин бизнесҳо дар таърихи технологӣ бошад, агар таърихи тиҷорат набошад. Антропик тасмим гирифт, ки ба корхона таваҷҷӯҳ зоҳир кунад. Чунин ба назар мерасад, ки роҳбарии фармондеҳиро мегираддар он ҷо, зеро истифодаи AI дар корхона хеле баланд аст.
Ҳоло, OpenAI маҳсулоти худро аз "мо Google-ро мегирем" ба Codex тамаркуз мекунад ва онҳо корхонаро ба ӯҳда мегиранд. Ман комилан гуфта наметавонам, ки оё дар давоми гузориши шумо дар тӯли якуним соли охир, оё ба назар мерасад, ки қаҳрамонҳое, ки шумо бо онҳо сӯҳбат мекардед, тағир ёфтанд? Мисли муносибатҳо ва арзишҳои онҳо, оё онҳо тағир ёфтанд?
Бале. Ман фикр мекунам, ки пеш аз ҳама, интиқоде, ки дар ин порча омӯхта мешавад, аз ҷониби бисёре аз одамони дохили ин ширкатҳо дар ин лаҳза бармеояд - ин як саноат аст, ки сарфи назар аз саҳмияҳои мавҷуда, ба як мусобиқа ба поинтар оид ба амният ва дар он ҷо суръат аз ҳама чизи дигарро бартарӣ медиҳад - ин нигаронӣ шадидтар шудааст. Ва ман фикр мекунам, ки ин нигарониҳо дар тӯли якуним соли гузашта бештар тасдиқ карда шуданд. Ҳамзамон, муносибат дар бораи Сэм Алтман махсусан тағир ёфт. Вақте ки мо бо манбаъҳо дар ин бора сӯҳбатро сар кардем, одамон воқеан аз иқтибос овардан дар ин бора ҳазар мекарданд ва дар ин бора сабт мекунанд.
Дар охири гузориши мо, шумо як маҷмӯаи гузорише доред, ки дар он одамон дар ин бора хеле ошкоро ва возеҳ сӯҳбат мекунанд ва шумо аъзоёни шӯро чизҳоеро мегӯянд, ки "Ӯ дурӯғгӯи патологӣ аст. Ӯ ҷомеашинос аст." Як қатор дурнамоҳо вуҷуд доранд, ки "Ин бо назардошти саҳмияҳои бехатарӣ хатарнок аст ва мо ба пешвоёни ин технология ниёз дорем, ки якпорчагии худро баланд бардоранд" ва то ба ин монанд, то ба монанди: "Иқтидори бехатариро фаромӯш кунед, ин рафторест, ки барои ҳар як роҳбари ягон ширкати бузург қобили қабул нест, ки он танҳо норасогии аз ҳад зиёдро ба вуҷуд меорад."
Ҳамин тавр, сӯҳбат ба таври возеҳтар шудааст, ки шояд ба таъхир афтода бошад, аммо аз як ҷиҳат дилгармкунанда аст. Ва Сэм Олтман, ба эътибори ӯ… Ин порча хеле одилона ва ҳатто саховатманд аст, ман ба Сэм мегӯям. Ин гуна порча нест, ки дар он чизҳои зиёде "шуморо гирифтаед". Ман соатҳои зиёдеро бо ӯ дар телефон гузарондам, вақте ки мо ин корро анҷом медодем ва воқеан ӯро шунидам.
Тавре ки шумо тасаввур карда метавонед, дар як порчаи монанди ин, на ҳама чиз ба он мувофиқат мекунад. Баъзе аз он ҳолатҳо дар ин маврид аз он сабаб буд, ки ман самимона гӯш мекардам. Ва агар Сэм воқеан баҳс мекард, ки ман ҳис мекардам, ки обро мебурдам ва чизе, ҳатто агар ин дуруст бошад, ҳангомаовар бошад, ман воқеан дар канори нигоҳ доштани ин криминалистӣ ва ченак хато кардам. Аз ин рӯ, ман фикр мекунам, ки ин дуруст қабул карда мешавад ва ман умедворам, ки ин сабти воқеие, ки дар ин муддат ҷамъоварӣ шудааст, метавонад сӯҳбати бештарро дар бораи зарурати назорат оғоз кунад.
Ин воқеан саволи навбатии ман аст. Ман фикр мекунам, ки шумо дар давоми гузориш додани ин ҳикоя бо Сэм даҳҳо маротиба сӯҳбат кардаед. Боз ҳам, ин бисёр сӯҳбатҳо дар тӯли муддати тӯлонӣ аст. Оё шумо фикр мекардед, ки Сэм дар тӯли гузориш дар тӯли якуним соли охир тағир ёфтааст?
Бале. Ман фикр мекунам, ки яке аз зерсохторҳои ҷолибтарин дар ин аст, ки Сэм Олтман низ дар бораи ин хислат нисбат ба гузаштааш возеҳтар аст. Мавқеи Сэм дар ин порча чунин нест: "Дар он ҷо ҳеҷ чиз нест, ин дуруст нест; Ман намедонам, ки шумо дар бораи чӣ гап мезанед." Мавқеъи ӯ ин аст, ки вай мегӯяд, ки ин ба як тамоюли писандидаи мардум ва як навъ нафрат аз низоъ марбут аст. Вай эътироф мекунад, ки ин барои ӯ мушкилот ба бор овард, махсусан дар оғози касбаш.
Ӯ мегӯяд: "Хуб, ман аз он гузашта истодаам ё то андозае аз он гузаштаам." Ман фикр мекунам, ки барои ман чизи ҷолиб он аст, ки контингенти одамоне, ки мо бо онҳо сӯҳбат кардем, на танҳо як навъ ҳимоятгарони амният буданд, на танҳо муҳаққиқони техникии асосӣ, ки аксар вақт ба ин нигарониҳои шадиди бехатарӣ майл доранд, балки инчунин сармоягузорони прагматик ва калонсол. Онҳо пуштибони Сэм ҳастанд, ки дар баъзе мавридҳо ба ин савол менигаранд ва дар бораи ҳатто дар бозгашти ӯ пас аз тирпарронӣ нақши калидӣ бозидаанд, сӯҳбат мекунанд. Ҳоло, ба ин савол, ки оё ӯ ислоҳ шудааст ва то чӣ андоза ин тағирот маъно дорад, онҳо мегӯянд: "Хуб, мо дар он вақт ба ӯ фоидаи шубҳа додем."
Ман аз ҷумла дар бораи як сармоягузори маъруф фикр мекунам, ки гуфт: "Аммо аз он вақт инҷониб, маълум мешавад, ки ӯро аз паси ҳезумхона берун наовардаанд", ки ин ибораест, ки ин шахс ба қадри зарурӣ истифода мекард. Дар натиҷа, чунин ба назар мерасад, ки ҳоло ин хислати устувор аст. Мо инро ба таври доимӣ мебинем. Шумо метавонед ба баъзе аз бузургтарин тиҷорати OpenAI нигаредмуносибатҳо ва тарзи онҳо бори вазнини ин нобоварӣ ба таври доимӣ.
Мисли Microsoft, шумо дар он ҷо бо роҳбарон сӯҳбат мекунед ва онҳо дар ҳақиқат нигарониҳои шадид ва ба наздикӣ катализшуда доранд. Ин ҳолат вуҷуд дорад, ки дар ҳамон рӯз OpenAI истисноии худро бо Microsoft нисбат ба моделҳои асосии AI-и бешаҳрвандӣ бори дигар тасдиқ мекунад, инчунин як созишномаи навро бо Amazon эълон мекунад, ки ба фурӯши қарорҳои корхона барои сохтани агентҳои AI, ки дорои маълумоти давлатӣ мебошанд, алоқаманд аст.
Шумо бо одамони Microsoft сӯҳбат мекунед ва онҳо мегӯянд: "Ин корро бидуни муошират бо ашёи аслӣ, ки мо дар бораи он як созишномаи истисноӣ дорем, кардан ғайриимкон аст." Ҳамин тавр, ин танҳо яке аз мисолҳои хурд аст, ки ин хислат ҳамеша ба фаъолияти тиҷоратии доимӣ тамоюл дорад ва дар ҳайати шӯрои OpenAI, дар доираи маҷмӯи иҷроияи он ва ҷомеаи васеътари технологӣ мавриди нигаронии фаъол аст.
Шумо ҳамеша ин «хусусият»-ро мегӯед. Дар ҳикоя як сатр вуҷуд дорад, ки ба ман рисолае монанд аст ва он тавсифи хислатест, ки шумо тавсиф мекунед. Ин аст, ки "Сэм Олтман аз ҳақиқат беэътиноӣ мекунад" ва ӯ "ду хислате дорад, ки дар як шахс қариб ҳеҷ гоҳ дида намешавад: якум ин аст, ки хоҳиши қавӣ барои писанд омадан ба одамон, дар ҳама гуна муоширати додашуда писандида шудан ва дуввумӣ набудани тақрибан социопатикӣ дар бораи оқибатҳои фиреб додани касе."
Ман бояд ба шумо бигӯям, ки ман ин ҷумларо 500 маротиба хондам ва ман кӯшиш кардам, ки ҳамеша бигӯям, ки одамон чӣ мехоҳанд писанд оянд ва баъд аз он ки онҳо дурӯғ мегӯянд, хафа нашаванд. Ва ман натавонистам ҳолати эмотсионалии худро бифаҳмам, ки чӣ гуна ин чизҳо дар як шахс вуҷуд доранд. Шумо бо Сэм бисёр сӯҳбат кардаед ва бо одамоне ҳамсӯҳбат шудаед, ки ин хислатҳоро аз сар гузаронидаанд. Чӣ тавр ӯ ин корро мекунад?
Бале. Ин дар сатҳи инсонӣ ҷолиб аст, зеро ман ба ин гуна гузоришҳо бо таваҷҷӯҳи воқеӣ ба гуманизатсияи ҳар касе, ки дар маркази он қарор дорад ва фаҳмиши амиқ ва ҳамдардӣ меҷӯям. Вақте ки ман кӯшиш кардам, ки ба ин аз нуқтаи назари инсонии бештар муносибат кунам ва бигӯям: "Ҳей, ин барои ман харобиовар хоҳад буд, агар ин қадар одамоне, ки ман бо онҳо кор кардаам, гӯянд, ки ман дурӯғгӯи патологӣ ҳастам. Шумо ин вазнро чӣ гуна ба даст меоред? Шумо дар терапия дар ин бора чӣ гуна гап мезанед? Дар ин бора ба худатон чӣ нақл мекунед?"
Ман, ба андешаи ман, шояд дар бораи он, ки дар соҳили Ғарбӣ як навъ суханони таблиғотӣ доштам, ба мисли: "Бале, ман кори нафасро дӯст медорам". Аммо на он гуна ҳисси таҳкими бархӯрди амиқи худ, ки ман фикр мекунам, бисёре аз мо эҳтимол дошт, агар мо ин гуна фикру мулоҳизаҳоро дар бораи рафтор ва муносибати мо бо одамон медидем.
Ман фикр мекунам, ки ин воқеан ба ҷавоби васеътар ба савол низ меравад. Сэм иддао мекунад, ки ин хислат боиси мушкилот шудааст, аммо ин як қисми он чизест, ки ба ӯ имкон додааст, то рушди OpenAI-ро то ҳадде суръат бахшад, ки вай метавонад гурӯҳҳои мухталифи одамонро муттаҳид созад ва писанд орад. Вай пайваста ба ҳамаи ин ҳавзаҳои ба ҳам мухолиф итминон медиҳад, ки он чизе, ки онҳо дар бораи он ғамхорӣ мекунанд, ғамхорӣ мекунанд. Ва ин метавонад барои муассис як маҳорати воқеан муфид бошад. Ман бо сармоягузорон сӯҳбат кардам, ки баъд мегӯянд: "Хуб, шояд ин як маҳорати камтар фоидаовар барои пешбурди ширкат аст, зеро он ихтилофи зиёд мекорад."
Аммо дар паҳлӯи шахсии Сэм, ман фикр мекунам, ки вақте ман кӯшиш мекунам, ки дар сатҳи инсонӣ пайваст шавам, ин набудани бархӯрди амиқтар, мулоҳиза ва худшиносӣ аст, ки он инчунин аз қудрати бузург ё масъулияти ширкате, ки ба IPO омода аст, хабар медиҳад.
Вай шахсе аст, ки ба гуфтаи як узви собиқи раёсат Сю Юн, ки дар сабт дар ин порча мегӯяд, ки ибораи "беақлӣ" -и ӯ истифода мекунад, қодир аст воқеан ба воқеияти тағирёбандаи саҳмияҳои фурӯши худ бовар кунад ё худро ба онҳо бовар кунонад. Ё ҳадди аққал, агар ӯ ба онҳо бовар накунад, вай метавонад бидуни шубҳаи худ ба худ дар бораи онҳо беэътиноӣ кунад.
Ман фикр мекунам он чизе, ки шумо дар бораи он гап мезанед, дар куҷо шумо ё ман метавонем, вақте ки мо ин чизро мегӯем ва дарк мекунем, ки он бо кафолати дигаре, ки мо додаем, мухолиф аст, як лаҳзаи яхкунӣ ё тафтиш кардани худро дошта бошем. Ман фикр мекунам, ки бо ӯ ин тавр намешавад. Ва як фарҳанги густурдаи водии Силикон ва фарҳанги бунёдгузор вуҷуд дорад, ки ин навъро дар бар мегирад.
хандовар аст. Verge бар он асос ёфтааст, ки баррасиҳои маҳсулотро ташкил медиҳадбарнома. Ин дили он чизест, ки мо дар ин ҷо мекунем. Ман дар як сол як маротиба триллион доллари Apple R&D-ро дар даст дорам ва мегӯям: "Ин телефон ҳафт аст." Ва ин ҳама гузоришҳо ва андешаҳои моро дар ҷои дигар қонунӣ мекунад. Мо як функсияи арзёбӣ дорем ва мо вақти зиёдро танҳо ба маҳсулоти AI нигоҳ карда, мегӯем: "Оё онҳо кор мекунанд?"
Чунин ба назар мерасад, ки он дар бисёре аз сӯҳбатҳо дар бораи AI, мисли имрӯз нест. Дар бораи он, ки он чӣ кор карда метавонад, то чӣ андоза хатарнок аст, сӯҳбати беохир вуҷуд дорад. Ва он гоҳ шумо парма мекунед ва мегӯед: "Оё он воқеан кореро иҷро мекунад, ки имрӯз бояд иҷро кунад?" Дар баъзе мавридҳо ҷавоб ҳа аст. Аммо дар бисёр мавридҳо ҷавоби не.
Чунин ба назар мерасад, ки он ба фарҳанги ҳайратангезе, ки шумо тавсиф мекунед, ва инчунин ба маънои он, ки хуб, агар шумо гӯед, ки он коре мекунад ва ин тавр намекунад ва касе худро бад ҳис мекунад, ин хуб аст, зеро мо ба чизи дигар. Ин дар гузашта аст. Ва аз ҷумла дар AI, Сэм дар додани ваъдаҳои бузург хеле хуб аст.
Танҳо ҳамин ҳафта, ман фикр мекунам, ки ҳамон рӯзе, ки достони шумо интишор шуд, OpenAI як ҳуҷҷати сиёсиро нашр кард, ки дар он гуфта мешавад, ки мо бояд шартномаи иҷтимоиро аз нав дида бароем ва аз ҳукумат стипендияи самаранокии AI дошта бошем. Ин ваъдаи бузург дар бораи он аст, ки чӣ гуна баъзе технологияҳо ояндаи ҷаҳонро ташаккул дода метавонанд ва чӣ гуна мо зиндагӣ мекунем ва ҳамаи ин ба технологияе такя мекунад, ки маҳз тавре кор мекунад, ки шояд ваъда дода шудааст, ки кор кунад ё бояд кор кунад.
Оё шумо боре дидаед, ки Сэм шубҳа дорад, ки AI ба AGI ё суперинтеллект мубаддал шавад ё ба хати марра расид? Зеро он чизест, ки маро бештар ба ҳайрат меорад. Оё дар бораи он, ки ин технологияи аслӣ метавонад ҳама корҳоеро, ки онҳо мегӯянд, иҷро карда метавонад ё не?
Ин маҳз маҷмӯи дурусти саволҳост. Технологҳои мӯътамад ҳастанд, ки мо бо онҳо дар ин мақоми гузориш сӯҳбат кардем - ва баръало Сэм Олтман яке нест; вай як шахси тиҷоратӣ аст, ки мегӯяд, ки Сэм дар бораи ҷадвали ин технология сӯҳбат мекунад, танҳо дур аст. Якчанд сол боз мақолаҳои блог вуҷуд доранд, ки дар он ҷо Сэм мегӯяд: "Мо аллакай ба уфуқи рӯйдод расидаем. AGI аслан дар ин ҷост. Super Intelligence дар кунҷ аст. Мо дар сайёраҳои дигар хоҳем буд. Мо ҳама шаклҳои саратонро табобат хоҳем кард." Ростӣ, ман ороиш намедиҳам.
Яке аз саратон воқеан ҷолиб аст, ки Сэм шахсеро, ки саратони саги худро бо ChatGPT аз ҷиҳати назариявӣ табобат кардааст, ташвиқ мекунад ва ин рӯй надодааст. Онҳо бо ChatGPT сӯҳбат карданд ва ин ба онҳо кӯмак кард, ки баъзе муҳаққиқонеро, ки воқеан кор мекарданд, роҳнамоӣ кунанд, аммо як ба як, ин асбоб ин сагро табобат кард, воқеан ҳикоя нест.
Ман шодам, ки шумо ин нуктаро ба миён гузоштед, зеро ман мехоҳам ба ин нуқтаи бузургтар дар бораи он ки ҳам потенсиал ва ҳам хатари технология воқеан ба миён меоянд, равам. Аммо бояд қайд кард, ки ин ҷанбаҳои хурде, ки ҳамеша аз Сэм Олтман рух медиҳанд, ки дар он ҷо ӯ ин хислатро дубора таҷассум мекунад.
Ман дар назар дорам, ки аз мисоли гузориши WilmerHale истифода барем, ки дар он мо ин маълумоте доштем, ки аз навиштан нигоҳ дошта шуда буд ва бифаҳмем, ки оё мухтасари шифоҳӣ дар роҳ ба касе дода шудааст, ки ба ғайр аз ду узви шӯро Сэм дар насб кардани он кӯмак кардааст. Ва ӯ гуфт: "Бале, ҳа, не, ман боварӣ дорам, ки ин ба ҳар касе, ки баъд аз он ба шӯро дохил шуд, дода шудааст." Ва мо шахсе дорем, ки аз вазъият огоҳ аст, мегӯяд, ки ин танҳо дурӯғ аст. Ва ин дар ҳақиқат чунин ба назар мерасад, ки он дурӯғ аст. Агар мо саховатманд бошем, шояд ба ӯ маълумоти нодуруст дода шудааст.
Ин кафолатҳои тасодуфӣ зиёданд. Ва ман ин мисолро қисман истифода мебарам, зеро ин як намунаи олии тақсимкунӣ аст, биёед онро бигӯем, ки метавонад оқибатҳои воқеии қонунӣ дошта бошад. Ба ман лозим нест, ки тибқи қонуни корпоративии Делавэр ба шумо бигӯям, ки агар ин ширкат IPO кунад, саҳмдорон метавонанд тибқи банди 220 дар бораи ин шикоят кунанд ва ҳуҷҷатҳои асосиро талаб кунанд. Аллакай аъзоёни раёсат чизҳоеро мегӯянд, ки "Хуб, як дақиқа интизор шавед, ин брифинг бояд рӯй медод."
Ҳамин тавр, ин чизҳое, ки ба назар ҳамеша аз даҳони ӯ мебароянд, онҳо метавонанд таъсироти воқеии бозор, эффектҳои воқеӣ барои OpenAI дошта бошанд. Баргардонидани он ба навъи забони ҳаяҷонангези утопиявӣ, ки дубора пайдо шудааст, ман фикр мекунам, ки тасодуфан дар рӯзи нашри ин порча нест, он ба ҳамаи мо низ таъсир мерасонад, зеро хатарҳо нисбат ба тарзи он хеле шадиданд.истиқрори аслиҳа, тарзи истифода аз он барои муайян кардани агентҳои ҷанги кимиёвӣ, потенсиали дезинформатсия ва аз сабаби он, ки шеваи утопия ба назар мерасад, бисёре аз иқтисоддонҳои мӯътамадро водор мекунад, ки бигӯянд: "Ин ҳама нишонаҳои ҳубобро дорад."
Ҳатто Сэм Олтман гуфтааст, ки "касе дар ин ҷо пули зиёдеро аз даст медиҳад." Ин воқеан метавонад афзоиши зиёди иқтисодии Амрико ва ҷаҳонро ба вуҷуд орад, агар ба монанди сӯрохии воқеии ҳубобӣ бо иштироки ҳамаи ин ширкатҳо бо ҳамдигар муомила карда, ҳама чизро дар AI ҳангоми қарз гирифтани ин қадар зиёд истифода баранд. Ҳамин тавр, он чизе ки Сэм Олтман мегӯяд, муҳим аст ва ман фикр мекунам, ки бартарии одамони гирду атрофаш, шумо қайд кардед, ки мо бо зиёда аз сад нафар сӯҳбат кардем, воқеан аз сад нафар зиёд буд. Мо дар хати марра сӯҳбате доштем, ки дар он чунин аст: "Оё гуфтани он ки ин рақам хеле баландтар аст?" Ва мо чунин будем: "Бале, биёед кам кунем. Мо онро хуб бозӣ хоҳем кард." Аммо одамон хеле зиёд буданд ва аксарияти онҳо мегӯянд, ки "Ин нигаронист." Ва ман фикр мекунам, ки ин ҳама сабаб аст.
Биёед ман аз шумо дар бораи он рақам пурсам. Тавре ки шумо қайд кардед, одамон бо мурури замон бо нигарониҳо бештар ва бештар кушода шуданд. Чунин ба назар мерасад, ки фишор дар атрофи ҳубоб - мусобиқа барои пирӯзӣ, пардохти ҳамаи ин сармоягузорӣ, ҳамчун ғолиб баромадан, ба IPO - муносибатҳои зиёдеро тағир додааст. Ин бешубҳа фишори бештарро ба Сэм ва OpenAI эҷод кард.
Мо дар ин ҳафта як ҳикояро танҳо дар бораи вибҳои OpenAI нашр кардем. Ҳикояи шумо як қисми он аст, аммо тағироти азими кадрӣ дар рутбаҳои роҳбарикунанда дар OpenAI - одамон меоянд ва мераванд. Муҳаққиқон ҳама дуранд, асосан ба Anthropic, ки ман фикр мекунам, воқеан ҷолиб аст. Шумо танҳо мебинед, ки ин ширкат фишорро эҳсос мекунад ва он ба ин фишор бо ягон роҳ посух медиҳад.
Аммо баъд ман фикр мекунам, ки Сэм аз кор ронда мешавад. Ин танҳо барои ман хотирмон аст. Ин барои ҳеҷ каси дигар хотирмон нест, аммо ман соати 19:00 дар боғи ҳайвоноти Бронкс занг задам ва касе гуфт, ки онҳо кӯшиш мекунанд, ки Сэмро баргардонанд. Ва он гоҳ мо рӯзи истироҳатро ба таъқиби ин ҳикоя сарф кардем. Ва ман ҳамин тавр гуфтам: "Ман дар боғи ҳайвонот ҳастам. Шумо дар ин ҷо чӣ кор кардан мехоҳед?" Ва ҷавоб чунин буд: "Дар телефон бимонед". Хуб, духтари ман мегуфт: "Телефонро хомӯш кун". Ва он чизе ки ман кардам.
Барои баргардонидани Сэм савор ё мурдан буд. Он ширкат чунин буд: "Не, мо намегузорем, ки шӯро Сэм Олтманро аз кор барканор кунад." Сармоягузорон, ки онҳо дар порчаи шумо иқтибос овардаанд, "Мо ба ҷанг рафтем", ба фикрам, мавқеи Thrive Capital, "барои баргардонидани Сэм" аст. Microsoft барои баргардонидани Сэм ба ҷанг рафт. Ин дертар аст ва ҳоло ҳама чунин мегӯянд: "Мо ба IPO меравем. Мо ба марра расидем. Мо бачаамонро баргардонидем ва ӯ моро ба хати марра мерасонад. Мо хавотирем, ки вай дурӯғгӯ аст."
Чаро он вақт ҷанг барои баргардонидани ӯ буд? Зеро ба назар чунин мерасад, ки чизе дар асл тағйир наёфтааст. Шумо дар бораи ёддоштҳое сӯҳбат мекунед, ки Иля Сутскевер ва [Директори Антропик] Дарио Амодей ҳангоми ҳамзамон будани Сэм Алтман нигоҳ доштаанд. Нигаронии рақами Иля ин буд, ки Сэм дурӯғгӯ аст.
Ҳеҷ кадоме аз инҳо тағйир наёфтааст. Пас чаро ҷанг буд, ки ӯро баргардонад? Ва ҳоло, ки мо дар хати марра ҳастем, ба назар чунин мерасад, ки ҳама нигарониҳо дар кушодаанд.
Хуб, пеш аз ҳама аз духтари шумо ва шарики ман ва дигар одамони атрофи рӯзноманигорон бахшиш.
[Механдад] Ин барои ҳама як рӯзи истироҳат буд.
Бале, он ҳаёти касро мегирад ва ин ҳикоя бешубҳа аз они ман аст, дар тӯли давраи охир. Ман фикр мекунам, ки ин воқеан ба ин мавзӯи журналистика ва дастрасӣ ба иттилоот марбут аст. Сармоягузороне, ки барои Сэм ба ҷанг рафтанд ва ҳама дар таъмини бозгашти ӯ нақш бозиданд ва шӯрое, ки махсус барои ҳифзи рисолати як созмони ғайритиҷоратӣ барои таъмини амният бар афзоиш ва аз кор озод кардани як роҳбар тарҳрезӣ шуда буд, агар ба онҳо бовар кардан мумкин набошад, рафтанд. Ин ҳама аз он сабаб буд, ки ҳа, ҳавасмандии бозор вуҷуд дошт, дуруст?
Сэм тавонист одамонро бовар кунонад, ки "Хуб, ширкат пош хӯрад." Аммо сабаби пуштибонӣ шудани ӯ ин набудани маълумот буд. Он сармоягузорон, дар бисёр мавридҳо, ҳоло мегӯянд: "Ман ба қафо нигоҳ мекунам ва фикр мекунам, агар ман пурра медонистам, ки даъвоҳо ва чӣ нигарониҳо буданд, нигарониҳои бештаре доштам."
На хамаи онхо;андешаҳо гуногунанд ва мо як қатор фикрҳоро иқтибос меорем, аммо шахсони муҳиме ҳастанд, ки аз рӯи маълумоти хеле қисман амал мекарданд. Тахтае, ки Сэмро аз кор холй кард, ба ибораи як шахсе, ки пештар дар тахта буд, «хеле КМ» буд ва онхо тубро сахт зада галтонданд. Ва мо шикоятҳои асосиро ҳуҷҷатгузорӣ мекунем ва одамон метавонанд худашон қарор кунанд, ки оё он ба гуна нигаронии фаврӣ, ки онҳо эҳсос мекарданд, ҷамъ мешавад, аммо ин далел ва ин маълумот пешниҳод карда намешуданд.
Онҳо он чизеро гирифтанд, ки баъзеи онҳо ҳоло ҳамчун маслиҳати ҳуқуқии бад эътироф мекунанд. Барои тавсифи он, шумо иқтибосро дар хотир хоҳед дошт ва эҳтимолан бисёре аз шунавандагон ва тамошобинони шумо ин иқтибосро ҳамчун камбуди ошкоро ёд хоҳанд кард. Ин буд, ки он кам карда шуд ва он гоҳ онҳо аслан зангҳоро қабул намекарданд.
Онҳо зангҳоро қабул намекарданд. Ман боварӣ дорам, ки шумо кӯшиш кардаед. Ҳар касе, ки ман мешиносам, кӯшиш кард ва кор ба дараҷае расид, ки шумо ҳамчун рӯзноманигор набояд ба манбаъҳои худ маслиҳат диҳед, аммо ман гуфтам, ки "агар шумо ба шарҳи худ шурӯъ накунед, ин аз байн меравад."
Ва ҳамин тавр шуд. Журналистонро фаромӯш кунед. Шумо Сатя Наделла гуфта буд, ки "Чӣ ҷаҳаннам шуд? Ман наметавонам касеро маҷбур созам, ки ба ман фаҳмонад." Ва ин пуштибони асосии молиявии ширкат аст. Ва он гоҳ шумо Сатя ба [муассиси LinkedIn] Рид Ҳоффман занг мезанед ва Рид ба атроф занг зада мегӯянд: "Ман намедонам, ки чӣ ҳодиса рӯй дод."
Онҳо ба таври возеҳ дар ин холигии иттилоот ҳастанд ва дар ҷустуҷӯи нишондиҳандаҳои анъанавии ғайри AI мебошанд, ки чунин оташфишонии фаврӣ ва ногаҳонӣро асоснок мекунанд. Мисли, хуб, оё ин ҷиноятҳои ҷинсӣ буд? Оё дуздӣ буд? Ва тамоми далели нозук, аммо ман фикр мекунам, ки пурмазмун аст, ки ин технология гуногун аст ва ин гуна ҷамъшавии устувори хиёнатҳои хурдтар метавонад ҳам барои ин тиҷорат ва ҳам барои ҷаҳон саҳми пурмазмун дошта бошад. Ҳамин тариқ, ҳавасмандии капиталистӣ ғолиб омад, аммо одамоне, ки онро сохтаанд, берун рафтанд ва на ҳамеша бо маълумоти пурра амал мекарданд.
Ман мехоҳам як лаҳза дар бораи ҷанбаи "ҳама ин чӣ фикр мекарданд" пурсам, зеро ман бешубҳа ин хабарро дидам ва гуфтам: "Оҳ, чизи бад рӯй додааст." Шумо бисёр гузоришҳои #MeToo анҷом додед, машҳур аст. Шумо достони Ҳарви Вайнштейнро шикастед.
Шумо вақти зиёдеро барои гузориш додан дар бораи ин иддаоҳо сарф кардед, ки ман фикр мекунам, ки шумо қарор кардед, ки ниҳоят беасос будед: Алтман ба ноболиғони ҷинсӣ таҷовуз кардааст ё коргарони шаҳвонӣ киро кардааст ё ҳатто як фошкунандаи OpenAI-ро куштааст. Ман дар назар дорам, ки шумо шахсе ҳастед, ки дар ин бора ба таври ҷиддӣ гузориш дода метавонед. Оё шумо қарор додед, ки ин бефоида аст?
Хуб, бубинед, ман намегӯям, ки чизе бефоида аст. Он чизе, ки ман метавонам бигӯям, ин аст, ки ман моҳҳо дар ин иддаоҳоро дидам ва тасдиқи онҳоро наёфтам. Ва ба ман тааҷҷубовар буд, ки ин бачаҳо, ин ширкатҳо, ки бар ояндаи мо қудрати зиёд доранд, воқеан миқдори номутаносиби вақт ва захираҳои худро дар муборизаи кӯдаконаи лой сарф мекунанд.
Як роҳбар онро ҳамчун "Шекспир" тавсиф мекунад. Маблағи пули муфаттишони хусусӣ ва файлҳои мухолифин, ки тартиб дода мешаванд, беист аст. Ва таассуфовар он аст, ки як навъ чизҳои шӯришӣ, ки аз ҷониби рақибони Сэм тӯтӣ мешаванд, танҳо як далел аст, дуруст? Чунин иддао вуҷуд дорад, ки ӯ писарони ноболиғро таъқиб мекунад ва дар бисёр шабнишиниҳои коктейл дар водии Силикон шумо инро мешунавед. Дар ҷараёни конфронс ман шунидам, ки он танҳо аз ҷониби роҳбарони мӯътамад ва маъруф такрор карда шудааст: "Ҳама медонанд, ки ин ҳақиқат аст."
Аҷибаш он аст, ки ман дар бораи он, ки ин аз куҷо меояд, векторҳои гуногуне, ки тавассути онҳо интиқол дода мешавад, сӯҳбат мекунам. Элон Маск ва шарикони ӯ ба назар чунин мерасанд, ки файлҳои воқеан сахтро таҳрик медиҳанд, ки ин гуна маблағро ба ҳеҷ чиз намерасонанд. Вақте ки шумо воқеан ба иддаои асосӣ назар кардан шурӯъ мекунед, онҳо бухор мешаванд. Аҷибаш он аст, ки он воқеан танқидҳои бештар дар асоси далелҳоро дар ин ҷо пинҳон мекунад, ки ман фикр мекунам, ки воқеан сазовори назорат ва баррасии фаврӣ аст.
Мавзӯи дигаре, ки воқеан дар ҳикоя пайдо мешавад, тақрибан ҳисси тарс аст, ки Сэм ин қадар дӯстон дорад - ӯ ба ин қадар ширкатҳо аз нақши қаблии худ ҳамчун директори генералии Y Combinator, танҳо то сармоягузории шахсии худ сармоягузорӣ кардааст, ки баъзеи онҳо мустақиман бо нақши ӯ ҳамчун директори генералии OpenAI мухолифат мекунанд - ва дар атрофи ӯ хомӯшӣ ҳукмфармост.
Вакте ки ман махсусан як сатрро мехонам, ба ман таъсир кард. Шумо ёддоштҳои Иля Сутскеверро тасвир мекунед ва онҳо танҳо дар водии Силикон ҳастанд. Ҳамаонхоро ёддоштхои Илья меноманд. Аммо дар атрофи он ҳатто хомӯшӣ ҳукмфармост. Онҳо дар атрофи онҳо гузаштанд, аммо онҳо муҳокима карда намешаванд. Шумо фикр мекунед, ки ин аз куҷо меояд? Оё тарс аст? Оё ин хоҳиши гирифтани сармоягузории фаришта аст? Ин аз куҷо пайдо мешавад?
Ман фикр мекунам, ки ин бисёр тарсончак аст, ростқавлона мегӯям. Бо гузориш дар бораи ҳикояҳои амнияти миллӣ, ки дар он манбаъҳо ифшогарон ҳастанд, ки ҳама чизро аз даст медиҳанд ва ба таъқиб дучор мешаванд, онҳо то ҳол кори дуруст мекунанд ва дар бораи чизҳое сӯҳбат мекунанд, ки масъулиятро эҷод мекунанд. Ман дар бораи ҳикояҳои марбут ба ҷиноятҳои ҷинсӣ, ки шумо зикр кардед, кор кардам, ки дар он манбаъҳо сахт осеб дидаанд ва аз интиқом хеле шахсӣ метарсанд.
Дар бисёр ҳолатҳо дар атрофи ин зарба, шумо бо одамоне, ки профил ва қудрати худро доранд, сарукор доред. Онҳо ё худ одамони машҳур ҳастанд ё онҳоро одамони машҳур иҳота мекунанд. Онҳо ҳаёти устувори тиҷоратӣ доранд. Ба назари ман, барои онҳо дар бораи ин чизҳо сӯҳбат кардан хеле кам аст. Ва шукр, ки сӯзан ҳамон тавре ки пештар дар бораи он гуфта будем, ҳаракат мекунад ва мардум ҳоло бештар гап мезананд.
Аммо барои муддати тӯлонӣ, одамон воқеан дар ин бора хомӯшанд, зеро ман фикр мекунам, ки фарҳанги водии Силикон ин қадар бераҳмона манфиатдор ва бераҳмона тиҷорат ва рушд нигаронида шудааст. Ҳамин тавр, ман фикр мекунам, ки ин ҳатто баъзе одамонеро, ки дар барканор кардани Сэм ширкат доштанд, ба ташвиш меорад, ки шумо дар рӯзҳои баъдӣ дидед, бале, як омиле, ки боиси бозгашти ӯ ва барканории аъзои куҳнаи шӯро шуд, ин буд, ки вай сармоягузоронро муттаҳид кард, ки ба кори ӯ ошуфта буданд.
Аммо чизи дигар ин аст, ки ин қадар одамони дигар дар атрофи он, ки нигаронӣ доштанд ва онҳоро фавран садо доданд, вақте диданд, ки шамол ба самти дигар вазид, мисли рӯймолчаҳо печонида, оҳанги худро иваз карданд ва онҳо мехостанд, ки ба қатори фоида дохил шаванд.
Аз нуқтаи назари ман ҳамчун хабарнигор, ин хеле торик аст.
Баъзе аз он одамон Мира Муратӣ ҳастанд, ки ба бовари ман, дар тӯли 20 дақиқа директори нави OpenAI буд. Баъд вайро иваз карданд. Ин як динамикаи хеле мураккаб буд ва аз афташ, Сэм баргашт. Шахси дигар Илья Сутскевер аст, ки яке аз овозҳо барои аз кор дур кардани Сэм буд ва баъд аз ин ақидааш дигар шуд ва ё ҳадди аққал гуфт, ки тасмимашро дигар кардааст ва сипас барои таъсиси ширкати худ рафт. Оё медонӣ, чӣ ӯро маҷбур кард, ки ақидаашро дигар кунад? Оё он танҳо пул буд?
Хуб, ва равшан бошад, ман ин дуро ҷудо намекунам. Дар тирпарронӣ аъзои дигари шӯро низ ҳастанд, ки баъд аз он хеле хомӯш монданд. Ман фикр мекунам, ки ин ба як мушкилоти васеътари коллективӣ монанд аст. Инҳо, дар баъзе мавридҳо, одамоне ҳастанд, ки нахи ахлоқӣ доштанд, ки бонги изтироб зананд ва чораҳои радикалӣ андешанд ва ин шоёни таъриф аст. Ва ҳамин тавр шумо масъулиятро кафолат медиҳед. Ин метавонист ба бисёр одамоне, ки аз ин технология зарар дидаанд, кӯмак кунад. Он метавонад ба саноат кӯмак кунад, ки ба бехатарӣ бештар нигаронида шавад.
Аммо сарукор доштан бо ифшогарон ва одамоне, ки кӯшиш мекунанд, ки ин масъулиятро зиёд кунанд, шумо инчунин мебинед, ки ин нахро барои баровардани он ва истодан ба эътиқоди шумо лозим аст. Ва ин соҳа воқеан пур аз одамонест, ки танҳо ба эътиқоди худ истодагарӣ намекунанд.
Гарчанде ки онҳо фикр мекунанд, ки онҳо Худои рақамиро месозанд, ки бо кадом роҳ тамоми меҳнатро аз байн мебарад ё кори бештар эҷод мекунад, ё чизе рӯй медиҳад.
Хуб, ин аст. Ҳамин тавр, фарҳанги аз рӯи эътиқоди шумо истодагарӣ накардан ва ҳама нигарониҳои ахлоқӣ ҳангоми рух додани ҳар гуна гармӣ ё чизе, ки метавонад ба мавқеи шумо дар тиҷорат таҳдид кунад, барои ширкатҳои тиҷоратӣ, ки ҳар гуна виҷетро месозанд, то андозае хуб ва хуб аст.
Аммо инҳо ҳамон одамоне ҳастанд, ки мегӯянд: "Ин метавонад ба маънои аслӣ ҳамаи моро бикушад." Ва боз, ба шумо лозим нест, ки ба Extreme Terminator Skynet равед. Маҷмӯи хатарҳое вуҷуд доранд, ки аллакай амалӣ мешаванд. Ин воқеист ва онҳо ҳақ доранд, ки дар ин бора огоҳ кунанд, аммо шумо бояд ягон каси дигар дар курсии равоншиносӣ дошта бошед, ки чӣ гуна ин ду чиз дар ҳамон одамон зиндагӣ карда метавонанд, ки онҳо огоҳии таъҷилӣ медиҳанд, онҳо шояд ангушти пои худро гузошта, кӯшиш мекунанд, ки коре кунанд, ва он гоҳ онҳо танҳо печида, хомӯш мешаванд.
Маҳз аз ин рӯ, шумо метавонед чунин ҳолатҳоеро дошта бошед, ки аз навиштан нигоҳ дошта мешаванд ва чизҳоро зери гилем мерӯфтаанд ва пас аз солҳо ҳеҷ кас дар ин бора ошкоро сӯҳбат намекунад.
Табиӣ ва масъул дар ин ҷо директорони ин ширкатҳо нестанд; ҳукуматҳо хоҳанд буд. Дар Иёлоти Муттаҳида, шоядин ҳукуматҳои иёлот, шояд он ҳукумати федералӣ.
Албатта, ин ширкатҳо ҳама мехоҳанд ҷаҳонӣ бошанд. Дар ин ҷо бисёр оқибатҳои глобалӣ мавҷуданд. Ман дидам, ки OpenAI, Google ва Anthropic ҳама маъмурияти Байденро ба интишори фармони иҷроияи AI водор карданд. Дар охир хеле дандон буд. Он танҳо гуфта шуд, ки онҳо бояд дар бораи он ки моделҳои онҳо қодиранд, сӯҳбат кунанд ва баъзе санҷишҳои бехатариро нашр кунанд. Ва он гоҳ ҳама аз Трамп пуштибонӣ карданд ва Трамп ворид шуда, ҳама чизро нест кард ва гуфт: "Мо бояд рақобатпазир бошем. Ин як чизи ройгон барои ҳама аст. Ба он биравед."
Ҳамзамон, онҳо ҳама кӯшиш мекунанд, ки аз кишварҳои Ховари Миёна маблағ ҷамъ кунанд, ки пули зиёди нафт доранд ва мехоҳанд иқтисоди худро тағир диҳанд. Инҳо сиёсатмадорон ҳастанд. Ман фикр мекунам, ки сиёсатмадорон бояд ҳатман фаҳманд, ки касе аз ҳарду ҷониб гап мезанад ва онҳо аз ҳад зиёд хафа намешаванд, агар касе дар ниҳоят ноумед шавад, аммо сиёсатмадорон низ ба савор мешаванд. Ба фикри шумо чаро ин аст?
Ин воқеан, ман фикр мекунам, ки чаро ин порча ба назари ман муҳим аст ва чаро барои сарф кардани тамоми ин вақт ва тафсилот лозим буд. Мо дар шароите ҳастем, ки системаҳое, ки ба гуфтаи шумо бояд назоратро таъмин кунанд, танҳо холӣ карда шудаанд. Ин як Амрикои пас аз Шаҳрвандони муттаҳид аст, ки дар он гардиши пул хеле маҳдуд аст ва ин як тамаркузи хоси ин мушкилот дар атрофи AI аст, ки дар он ҷо ин PAC-ҳо мавҷуданд, ки пулро афзоиш медиҳанд ва танзими муассирро ҳам дар иёлот ва ҳам дар сатҳи федералӣ лағв мекунанд.
Шумо [муассиси OpenAI] Грег Брокман доред, ки фармондеҳи дуюми Сэм аст, ки бевосита ба чанде аз онҳо саҳм мегузорад. Ин ба вазъияте оварда мерасонад, ки дар он воқеан забти қонунгузорон ва танзимгарони эҳтимолӣ вуҷуд дорад ва аз ин як спирали душвор барои баромадан аз он аст. Аҷиб ин аст, ки ман фикр мекунам, ки иқдомҳои оддии сиёсат вуҷуд доранд, ки баъзеи онҳо дар дигар ҷойҳо дар ҷаҳон озмуда мешаванд, ки дар ҳалли баъзе аз ин мушкилоти масъулият кӯмак хоҳанд кард.
Шумо метавонед санҷиши ҳатмии бехатарии пеш аз ҷойгиркунӣ дошта бошед, ки ин чизест, ки аллакай дар Аврупо барои моделҳои сарҳадӣ рух медиҳад. Шумо метавонед барои намудҳои тафтишоти дохилӣ талаботҳои сахттари сабти ҷамъиятии хаттӣ дошта бошед, ки дар он ҷо мо дидем, ки дар ин ҳолат чизҳо аз навиштан нигоҳ дошта мешаванд. Шумо метавонед як маҷмӯи мустаҳкамтари механизмҳои баррасии амнияти миллиро барои навъҳои амбисҳои инфрасохтори Шарқи Наздик, ки Сэм Олтман тела медод, дошта бошед.
Тавре ки шумо мегӯед, вай ин домро иҷро мекард ва бо маъмурияти Байден гузашт ва гуфт: "Моро танзим кунед, моро танзим кунед" ва ба онҳо дар таҳияи фармони иҷроия кӯмак кард ва пас аз он лаҳзае, ки Трамп ворид мешавад, воқеан дар рӯзҳои аввал, ба ҳеҷ ваҷҳ халал ворид намекунад, "Биёед суръат бахшем ва биёед як кампуси азими маркази маълумотро дар Абу-Даби бунёд кунем." Шумо метавонистед, ин як чизи воқеан оддӣ аст, ба монанди ҳимояи ифшогарон. Ҳеҷ қонуни федералӣ вуҷуд надорад, ки кормандони ширкати AI-ро муҳофизат кунад, ки ин гуна нигарониҳои бехатариро, ки дар ин порча пахш мешаванд, ифшо кунанд.
Мо ҳолатҳое дорем, ки Ян Лейке, ки як бачаи баландпояи бехатарӣ дар OpenAI буд, дар ин ширкат ба ҳамоҳангсозии супермарзӣ роҳбарӣ мекард. Вай ба шӯро менависад, ки аслан маводи ифшокунанда аст ва мегӯяд, ки ширкат аз рисолати бехатарии худ канорагирӣ мекунад. Ин гуна одамоне ҳастанд, ки воқеан бояд як мақоми назоратӣ дошта бошанд, ки метавонанд ба онҳо муроҷиат кунанд ва онҳо бояд ҳимояи возеҳи қонунии навъҳоеро, ки мо дар бахшҳои дигар мебинем, дошта бошанд. Ин барои такрор кардани режими услуби Сарбанес-Оксли оддӣ аст.
Ман фикр мекунам, ки новобаста аз он, ки мушкили водии Силикон то чӣ андоза шадид аст, ки назорати тамоми фишангҳои қудратро ба ӯҳда мегирад ва сарфи назар аз он ки баъзе аз ин муассисаҳо, ки метавонанд назорат ва посбонҳоро таъмин кунанд, то чӣ андоза холӣ шудаанд, ман то ҳол ба математикаи асосии демократия ва сиёсатмадорони манфиатдор бовар дорам. Ва шумораи бештари маълумотҳои пурсиш ба назар мерасанд, ки аксарияти амрикоиҳо фикр мекунанд, ки нигарониҳо, саволҳо ё хатарҳои AI дар айни замон аз манфиатҳо зиёдтаранд.
Ҳамин тавр, ман фикр мекунам, ки сели пул ба сиёсат аз AI, дар тамоми қудрати мост, ки ин як манбаи аломати саволро нисбат ба сиёсатмадорон гардонад. Вақте ки амрикоиҳо ба овоздиҳӣ мераванд, онҳо бояд бодиққат тафтиш кунанд, ки оё одамоне, ки ба онҳо овоз медиҳанд, бахусус агар онҳо беинтиқод ва зидди танзим бошанд, бо назардошти ҳамаи ин нигарониҳо, аз ҷониби манфиатҳои махсуси технологӣ пулакӣ карда мешаванд. Аз ин рӯ, ман фикр мекунам, ки агар одамон метавонанд чунин қисмҳоро хонанд, подкастҳоро гӯш кунанд ва ба қадри кофӣ ғамхорӣ кунанд, ки дар бораи интиқодӣ фикр кунандки карорхои онхоро хамчун интихобкунандагон ба вучуд оваранд, дар Вашингтон як округи интихоботй аз намояндагон ташкил карда шавад, ки ба онхо чашм мекашанд ва назоратро мачбур мекунанд.
Ин метавонад яке аз хушбинтарин чизҳое бошад, ки ман ягон бор шунидаам, ки касе дар бораи саноати ҳозираи AI гуфта бошад. Ман инро қадр медонам. Ман ба назарсанҷие, ки шумо дар бораи он сухан мегӯед, овораам. Ҳоло он бисёр аст. Ин ҳама хеле мувофиқ аст ва чунин ба назар мерасад, ки ҳар қадар ҷавонон, махсусан, ба AI дучор мешаванд, ҳамон қадар онҳо дар ин бора нобоварӣ ва хашмгин мешаванд. Ин валенти ҳамаи овоздиҳӣ аст. Ва ман ба ин нигоҳ мекунам ва ман фикр мекунам, ки бале, сиёсатмадорони оқил танҳо бар зидди ин мубориза мебаранд. Онҳо танҳо мегӯянд: "Мо технологияи бузургро ба ҷавобгарӣ кашида хоҳем кард."
Пас аз он ман дар бораи 20 соли гузашта фикр мекунам, сиёсатмадор мегӯяд, ки онҳо технологияи бузургро ба ҷавобгарӣ кашида хоҳанд кард ва ман барои дарёфти ҳатто як лаҳзаи технологҳои бузург ба ҷавобгарӣ кашида шудан мубориза мебарам. Ягона чизе, ки маро водор мекунад, ки ин метавонад фарқ кунад, ин аст, ки шумо воқеан бояд марказҳои маълумотро созед ва шумо метавонед бар зидди он овоз диҳед ва шумо метавонед бар зидди он муроҷиат кунед ва шумо метавонед ба ин эътироз кунед.
Ман фикр мекунам, ки сиёсатмадоре ҳаст, ки танҳо ба хонаи онҳо тир андохтааст, зеро онҳо ба маркази додаҳо овоз додаанд. Шиддати он мерасад, ман онро як қабати табларза меномам. Шумо изолятсияи водии Силиконро тавсиф кардед. Ин экосистемаи пӯшида аст. Чунин ба назар мерасад, ки онҳо фикр мекунанд, ки онҳо метавонанд ҷаҳонро идора кунанд. Онҳо як тонна пулро ба сиёсат мегузоранд ва онҳо бар зидди воқеият мубориза мебаранд, ки одамон маҳсулотро дӯст намедоранд ва ин ба онҳо сарпӯши зиёд намедиҳад. Чӣ қадаре ки онҳо маҳсулотро бештар истифода баранд, ҳамон қадар ғамгин мешаванд ва сиёсатмадорон мефаҳманд, ки дастгирии саноати технологӣ нисбат ба одамони намояндагии онҳо оқибатҳои воқеӣ дорад.
Шумо бо бисёр одамон сӯҳбат кардаед. Ба фикри шумо, оё имкон дорад, ки саноати технологӣ дарси дар пеши назари онҳоро омӯзад?
Шумо мегӯед, ки ба назар чунин менамояд, ки онҳо фикр мекунанд, ки онҳо метавонанд бидуни масъулият дунёро идора кунанд. Ман ҳатто фикр намекунам, ки ин ба тахассуси "эҳсос" ниёз дорад. Ман дар назар дорам, ки шумо ба забоне, ки Питер Тиел истифода мебарад, нигаред, ин равшан аст. Албатта, ин як мисоли шадид аст. Ва Сэм Олтман, гарчанде ки ӯ то андозае бо идеологияи Тил наздик аст ва аз он огоҳ аст, як намуди хеле дигар аст, ки метавонад то як нуқта гуногун ва андозагиртар садо диҳад.
Аммо ман фикр мекунам, ки идеологияи васеътаре, ки шумо аз Тиел мегиред, ки аслан: Мо бо демократия тамом шудем, дигар ба мо лозим нест. Мо он қадар зиёд дорем, ки мо танҳо мехоҳем бункерҳои хурди худро созем. Мо дигар бо Карнегиҳо ва ё Рокфеллерҳо, ки онҳо бачаҳои бад ҳастанд, кор намекунем, аммо онҳо фикр мекунанд, ки онҳо бояд дар шартномаи иҷтимоӣ иштирок кунанд ва барои одамон чизҳое созанд. Нигилизми воқеӣ вуҷуд дорад, ки дар он ҷойгир шудааст.
Ва ман фикр мекунам, ки ин танҳо як спирали мутақобилан тақвиятбахш дар таърихи нави амрикоии муғулҳо ва ширкатҳои хусусӣ буд, ки қудрати олии ҳукуматро ба даст овардаанд, дар ҳоле ки институтҳои демократӣ, ки метавонанд онҳоро ба ҷавобгарӣ кашанд, холӣ карда шудаанд. Ман дар бораи он фикре, ки он бачаҳо танҳо як рӯз аз хоб бедор шуда, фикр мекунанд, хушбин намебошам: "Ҳа, дар асл шояд мо бояд дар ҷомеа иштирок кунем ва барои одамон чизҳоеро бунёд кунем."
Дар назар дорам, ки шумо ба мисоли микрокосмикии «Қавли додан» назар мекунед, ки дар он лаҳзае буд, ки гӯё хайрия буд ва он лаҳза ҳоло гузаштааст ва ҳатто масхара мешавад. Ин як мушкилот, мушкилоти васеътари набудани масъулият аст, ки ман фикр мекунам, ки онро танҳо ба таври берунӣ ҳал кардан мумкин аст. Ин бояд интихобкунандагон бошад, ки қудрати назорати ҳукуматро сафарбар ва эҳё кунанд. Ва шумо комилан дуруст мегӯед, ки вектори асосӣ, ки тавассути он одамон метавонанд ба он ноил шаванд, маҳаллӣ аст. Ин ба он вобаста аст, ки инфрасохтор дар куҷо сохта мешавад.
Шумо баъзе аз ташаннуҷи сафеди гармро дар атрофи ин, ки боиси зӯроварӣ ва таҳдидҳо мегардад, зикр кардед ва баръало, ҳеҷ кас набояд зӯроварӣ ё таҳдид кунад. Ва ман инчунин дар ин ҷо нестам, ки тавсияҳои мушаххаси сиёсатро пешниҳод кунам, ба ҷуз аз пешниҳоди баъзе қадамҳои сиёсат, ки ба назар оддӣ ва дар дигар ҷойҳо кор мекунанд, дуруст? Ё онхое, ки дар сохахои дигар кор кардаанд. Ман дар ин ҷо нестам, ки бигӯям, ки кадоме аз онҳо бояд ва чӣ тавр иҷро шавад.
Ман фикр мекунам, ки чизе бояд рӯй диҳад ва он бояд берунӣ бошад, на танҳо ба ин ширкатҳо эътимод. Зеро дурустҲоло мо вазъе дорем, ки ширкатҳое, ки технологияро таҳия мекунанд ва барои фаҳмидани хатарҳо беҳтарин муҷаҳҳаз шудаанд ва дар асл онҳое, ки моро аз хатарҳо огоҳ мекунанд, инчунин ширкатҳое ҳастанд, ки ба зудӣ ҳаракат кунанд ва ин хатарҳоро нодида гиранд. Ва шумо танҳо чизе надоред, ки онро муқовимат кунед. Пас, новобаста аз он ки ислоњот аз рўи мушаххасот сурат гирад, чизе бояд бар хилофи он равад. Ва ман то ҳол ба он хушбинӣ бармегардам, ки мардум то ҳол аҳамият доранд.
Ман умуман далели шуморо мехарам. Иҷозат диҳед як далели ночизеро, ки ман фикр мекунам, баён кунам. Чизи дигаре, ки метавонад берун аз қуттии овоздиҳӣ рух диҳад, он аст, ки ҳубобча пайдо мешавад, дуруст? На ҳамаи ин ширкатҳо ба хати марра расидаанд ва бозори маҳсулот барои барномаҳои AI-и истеъмолӣ мувофиқ нест. Ва боз ҳам, ман онро то ҳол намебинам, аммо ман баррасигари технологияи истеъмолӣ ҳастам ва шояд ман нисбат ба ҳама стандартҳои баландтар дошта бошам.
Дар ҷаҳони тиҷорат мувофиқати бозори маҳсулот вуҷуд дорад, дуруст? Ба назар чунин мерасад, ки як гурӯҳи агентҳои AI навиштани як қатор нармафзорҳо як бозори воқеии ин асбобҳост. Ва шумо метавонед далелҳои ин ширкатҳоро бихонед, ки мегӯянд: "Мо рамзгузориро ҳал кардем ва ин маънои онро дорад, ки мо ҳама чизро ҳал карда метавонем. Агар мо нармафзор созем, мо метавонем ҳама гуна мушкилотро ҳал кунем."
Ман фикр мекунам, ки барои корҳое, ки нармафзор карда метавонанд, маҳдудиятҳои воқеӣ вуҷуд доранд. Ин дар ҷаҳони тиҷорат бузург аст. Нармафзор наметавонад ҳама мушкилотро дар асл ҳал кунад, аммо онҳо бояд ба он ҷо бирасанд. Онҳо бояд корро ба анҷом расонанд ва шояд на ҳама ба марра расанд. Ва як садама рӯй медиҳад ва ин ҳубобча пайдо мешавад ва шояд OpenAI ё Anthropic ё xAI, яке аз ин ширкатҳо ноком мешавад ва ҳамаи ин сармоягузорӣ нобуд мешавад.
Оё шумо фикр мекунед, ки ин ба ин таъсир мерасонад? Аслан, биёед аввал саволи аввалро диҳам. OpenAI дар остонаи IPO қарор дорад. Дар бораи Сэм ҳамчун роҳбар шубҳаҳои зиёд вуҷуд доранд. Оё шумо фикр мекунед, ки онҳо ба хати марра мерасанд?
Ман пешгӯӣ карданӣ нестам, аммо ман фикр мекунам, ки шумо як нуктаи муҳимро ба миён мегузоред, ки ҳавасмандии бозор барои Водии Силикон аҳамияти дохилӣ дорад ва ноустувории динамикаи ҳубобӣ боз ҳам эҳтимолан ба гуфтаи мунаққидон, пойга ба поёни амниятро бозмедорад.
Ман инчунин ба он илова мекунам, агар шумо ба афзалияти таърихӣ назар андозед, ки дар он маҷмӯи шабеҳ ва ба назар қобили қабулнопазири ҳавасмандгардонии бозор ва таъсири эҳтимолан зараровар барои ҷомеа вуҷуд дорад, баҳсҳои судӣ вуҷуд доранд. Ва шумо инро ҳамчун як соҳаи нигаронии вақтҳои охир мебинед. Сэм Олтман дар ин ҳафта дар он ҷо қонунеро тасдиқ мекунад, ки ширкатҳои AI-ро аз баъзе намудҳои масъулияте, ки OpenAI дар парвандаҳои ғайриқонунии марг дучор шудааст, муҳофизат мекунад. Албатта, хоҳиши аз масъулият муҳофизат кардан вуҷуд дорад.
Ман фикр мекунам, ки судҳо ҳоло ҳам метавонанд як механизми пурмазмун бошанд ва дидани он ки ин костюмҳо чӣ гуна ташаккул меёбанд, воқеан ҷолиб хоҳад буд. Шумо аллакай дидед, ки даъвои синфӣ, ки ман ва бисёре аз муаллифони дигар, ки ман аъзои он мебошем, бар зидди Anthropic барои истифодаи китобҳои таҳти ҳуқуқи муаллиф буданд. Агар ақлҳои оқилонаи ҳуқуқӣ ва даъвогароне бошанд, ки ғамхорӣ мекунанд, тавре ки мо таърихан дар ҳолатҳои аз тамокуи калон то энергияи калон дидаем, шумо инчунин метавонед якчанд посбонҳо ва баъзе ҳавасмандӣ барои суст кардан, эҳтиёткор будан ё муҳофизат кардани одамонро ба даст оред.
Чунин ба назар мерасад, ки тамоми сохтори хароҷоти саноати AI ба тафсири хеле хайрхоҳонаи истифодаи одилона вобаста аст. Ба қадри кофӣ намеояд. Сохтори хароҷоти ин ширкатҳо метавонад аз назорат берун шавад, агар онҳо бояд ба шумо ва ҳар касе, ки кори онҳоро гирифтаанд, пардохт кунанд, аммо дар бораи он фикр кардан нороҳат аст, аз ин рӯ мо дар ин бора фикр намекунем. Дар баробари ин, ҳамаи ин маҳсулот ҳоло бо зиён кор мекунанд. Мисли имрӯз, онҳо ҳама бо зиён кор мекунанд. Онҳо бештар аз он ки метавонанд ба даст оранд, пул месузанд. Дар баъзе мавридҳо, онҳо бояд калидро иваз кунанд.
Сэм соҳибкор аст. Тавре ки шумо борҳо қайд кардед, вай технолог нест. Ӯ шахси тиҷоратӣ аст. Ба фикри шумо, оё ӯ омода аст, ки тугмаро иваз кунад ва бигӯяд: "Мо як доллар кор мекунем?" Зеро вақте ки ман мепурсам, "Оё шумо фикр мекунед, ки OpenAI ин корро мекунад?" Ин вақте аст, ки онҳо бояд доллар кор кунанд. Ва то ба ҳол, Сэм тамоми долларҳои худро тавассути пурсидани пули онҳо ба ҷои он ки ширкатҳои ӯ пул кор кунанд, ба даст овард.
Хуб, ин як саволи бузург барои водии Силикон, барои сармоягузорон ва барои мардум аст.Шумо баъзе изҳоротҳо ва ҳаракатҳоро аз OpenAI мебинед, ки ба назар як навъ ваҳмро дар ин бора нишон медиҳанд. Сораро қатъ кардан, баъзе лоиҳаҳои ёрирасонро қатъ кардан, кӯшиш кардан ба сифр кардани маҳсулоти асосӣ. Аммо баъд аз тарафи дигар, шумо то ҳол мебинед, ки дар айни замон, тоннаҳо миссия мезананд, дуруст? Ҳатто як мисоли хурд - ин бешубҳа асосии тиҷорати онҳо нест - ба даст овардани TBPN аст.
Дар омади гап, вақте ки мо ба марра ва санҷиши далелҳо расида будем, ширкате, ки бо ин гуна тафтиши журналистӣ дучор мешавад, платформаеро ба даст меорад, ки онҳо метавонанд мустақиман болои сӯҳбатро назорат кунанд. Ман фикр мекунам, ки бисёре аз сармоягузороне ҳастанд, ки бар асоси сӯҳбатҳое, ки ман доштам, нигаронанд, ки ин мушкили ваъда додани ҳама чиз ба ҳама одамон низ ба ин набудани тамаркуз дар модели асосии бизнес дахл дорад. Ва ман дар назар дорам, ки шумо нисбат ба ман эҳтимолан ба намуди пешгӯӣ ва тамошои бозор наздиктаред. Ман шумо ва шунавандагонро вогузор мекунам, ки довар бошед, ки оё онҳо фикр мекунанд, ки OpenAI метавонад гузаргоҳро иваз кунад.
Хуб, ман ин саволро додам, зеро шумо иқтибосеро аз як роҳбари воломақоми Microsoft гирифтаед ва ин аст, ки "Мероси Сэм метавонад ба Берни Мадофф ё Сэм Банкман-Фрид монанд бошад" на ба Стив Ҷобс. Ин хеле муқоиса аст. Шумо аз ин муқоиса чӣ хулоса кардед?
Ман фикр мекунам, ки ин як ибора аст. Қисми Стив Ҷобс қисми иқтибос набуд. Аммо дар он як намуди ҷолиби ҳушёрӣ вуҷуд дорад, зеро он ба монанди чунин ифода шудааст: "Ман фикр мекунам, ки эҳтимоли хурд, вале воқеӣ вуҷуд дорад, ки вай SBF ё қаллобии сатҳи Мадофф шавад." Ба андешаи ман, на он аст, ки Сэмро ба он намудҳои мушаххаси қаллобӣ ё ҷиноятҳо айбдор мекунанд, балки он аст, ки дараҷаи парокандагӣ ва фиреб аз Сэм метавонад дар ниҳоят дар ин миқёс ба ёд оварда шавад.
Бале, ман фикр мекунам, ки чизи ҷолибтарин дар ин иқтибос, ростқавлона, он аст, ки шумо ба Microsoft занг мезанед ва ба шумо "Ин девона аст. Мо ҳеҷ гоҳ инро нашунидаем". Шумо бисёр монандиҳо мегиред: "Бале, бисёр одамон дар ин ҷо чунин фикр мекунанд", ки аҷиб аст. Ва ман фикр мекунам, ки он ба ин саволҳои тиҷоратӣ дахл дорад.
Як сармоягузор ба ман гуфт, масалан, бо назардошти он, ки ин хислат дар тӯли солҳои пас аз оташфишонӣ боқӣ мондааст" - ва ин ҳам фикр мекард, ки ин як андешаи ҷолибе буд - ин ҳатман нест, ки Сэм бояд дар поёни мутлақи рӯйхат бошад, ба монанди одамоне, ки набояд ин технологияро бунёд кунанд, аз ҳама пасттарин бошад. ӯ шояд дар поёни рӯйхати одамоне, ки бояд AGI-ро бунёд кунанд ва дар зери якчанд шахсиятҳои пешбари ин соҳа.
Ҳамин тавр, ман фикр мекардам, ки ин баҳодиҳии ҷолиб аст ва ман чунин фикр мекунам, ки шумо аз прагматикҳои воқеӣ мегиред, ки шояд нигарониҳои бехатариро чандон қабул намекунанд. Онҳо танҳо ба рушд нигаронида шудаанд ва онҳо фикр мекунанд, ки OpenAI ҳоло бо Сэм Алтман мушкилот дорад.
Қисми Microsoft воқеан ҷолиб аст. Ин ширкат фикр мекард, ки онҳо дар болои ҷаҳон ҳастанд. Ки онҳо ин сармоягузорӣ кардаанд ва онҳо мехостанд ҳама, бахусус ва муҳимтар аз ҳама, Google ҷаҳиш кунанд ва ба неъматҳои хуби истеъмолкунандагон баргарданд. Сатҳе, ки онҳо аз ин саёҳат то ҳадде сӯхтаанд - ин як ширкати хеле бодиққат аст - ман фикр намекунам, ки аз ҳад зиёд нишон дода шавад.
Шумо аломатҳо ва хислатҳои шахсиятро зикр кардед. Мехоҳам дар ин ҷо бо як саволи шунавандагонамон хотима диҳам. Ман дар барномаи дигари мо, The Vergecast гуфтам, ки ман бо шумо сӯҳбат карданӣ ҳастам ва гуфтам: "Агар шумо ба Ронан дар бораи ин ҳикоя саволе дошта бошед, ба ман хабар диҳед." Ҳамин тавр, мо дар ин ҷо як нафар дорем, ки ман фикр мекунам, ки бо он чизе, ки шумо тавсиф мекунед, мувофиқат мекунад. Ман онро танҳо ба шумо хонда медиҳам:
"Чӣ гуна далелҳо барои рафтори бад, амалҳои даҳшатноки Алтман ва дигар раҳбарони AI, аз асосҳое, ки Ронан аз дигар раҳбарони баландпоя дар сиёсат ва васоити ахбори омма шунидааст, чӣ фарқ доранд? Оё онҳо ҳама амалҳои худро бо он асоснок намекунанд, ки мегӯянд, ки ҷаҳон ҳамин тавр тағйир меёбад? Агар ман ин корро накунам, каси дигар мекунад? ”
Бале, дар ин ҷо бисёр чизҳо вуҷуд доранд. Ман гуфта метавонам, ки фарқкунандаи AI дар он аст, ки саҳмияҳои экзистенсиалӣ ин қадар баланд аст, маънои ҳарду изҳороти хатар шадид аст, дуруст? Шумо Сэм Олтман доредгуфт: "Ин метавонад барои ҳамаи мо чароғҳо бошад." Ва инчунин, мунаққидон метавонанд бигӯянд, ки манияе, ки саволдиҳанда дар назар дорад, шадид аст, дуруст?
Чизе, ки Сэм Элонро дар он айбдор кард, ин буд, ки шояд ӯ мехоҳад инсониятро наҷот диҳад, аммо танҳо агар ин ӯ бошад. Навъи ҷузъи egoи хоҳиши ғолиб шудан, ки чаҳорчӯбаи Сэм ҳама вақт истифода мешавад ва ин барои китобҳои таърих аст, ин метавонад ҳама чизро тағир диҳад. Аз ин рӯ, ҳатто болотар ва берун аз тафаккури "шумо бояд чанд тухмро шикастед" дар аксари корхонаҳои водии Силикон, дар зеҳни баъзе рақамҳои пешбари AI вуҷуд дорад, ман фикр мекунам, як рационализатсияи комил барои ҳама ва ҳама талафот вуҷуд дорад.
Ва шикастани тухмро фаромӯш кунед. Ман / фикр мекунам, ки бисёре аз муҳаққиқони асосии амният мегӯянд, ки эҳтимолан хатари шикастани кишвар, шикастани ҷаҳон ва шикастани миллионҳо одамоне, ки ҷойҳои корӣ ва бехатарии онҳо дар мувозинат қарор доранд - ин чизи беназири он аст. Маҳз дар он ҷое ки ман дар бораи ин маҷмӯаи гузоришҳо фикр мекунам ва дар ҳақиқат боварӣ дорам, ки ин аз Сэм Олтман бештар аст. Ин дар бораи саноате меравад, ки бемаҳдуд аст ва мушкилоти печидаи Амрико наметавонад онро маҳдуд кунад.
Бале. Хуб, мо дар он ҷо каме хушбинӣ доштем, аммо ман фикр мекунам, ки ин ҷои хубест барои тарк кардани он.
[Механдад] Бо як пастӣ хотима диҳед.
Албатта. Ин ҳар як ҳикояи олӣ аст, дар ҳақиқат. Мурофиаи Маск-Алтман дар пеш аст. Ман фикр мекунам, ки мо дар ин ҷо бисёр чизҳоро меомӯзем. Ман гумон мекунам, ки боз бо шумо сӯҳбат кардан мехоҳам. Ронан Фарроу, ташаккури зиёд барои будан дар Декодер.
Сипос.
Саволҳо ё шарҳҳо дар бораи ин эпизод? Ба мо дар [email protected] муроҷиат кунед. Мо дар ҳақиқат ҳар як почтаи электрониро мехонем!
