Šiandien per Decoder kalbuosi su Ronan Farrow, viena didžiausių šiandien dirbančių tiriamųjų pranešimų žvaigždžių. Jis sulaužė Harvey Weinstein istoriją, tarp daugelio kitų. Ir tik praėjusią savaitę jis ir bendraautorius Andrew Marantzas žurnale „The New Yorker“ paskelbė neįtikėtiną išsamią informaciją apie OpenAI generalinį direktorių Samą Altmaną, jo patikimumą ir pačios OpenAI iškilimą.
Dar viena pastaba prieš eidami toliau – „The New Yorker“ paskelbė tą istoriją, o aš su Ronanu kalbėjomės dar prieš tai, kai sužinojome visą Altmano namuose įvykdytų išpuolių mastą, todėl negirdėsite apie tai tiesiogiai kalbant. Tačiau norint pasakyti, aš manau, kad bet koks smurtas yra nepriimtinas, šie išpuoliai prieš Samą buvo nepriimtini, o žmonių jaučiamas bejėgiškumas, dėl kurio atsiranda tokio pobūdžio smurtas, pats savaime yra nepriimtinas ir vertas daug kruopštesnės pramonės ir mūsų politinių lyderių kontrolės. Tikiuosi, kad tai aišku.
„Verge“ prenumeratoriai, nepamirškite, kad gaunate išskirtinę prieigą prie dekoderio be skelbimų, kad ir kur gautumėte tinklalaides. Eikite čia. Ne prenumeratorius? Registruotis galite čia.
Be to, aplink Altmaną daug kas sukasi, o tai yra sąžiningas žaidimas dėl griežtų ataskaitų teikimo – tokio, kokio užsimojo Ronanas ir Andrew. Dėl „ChatGPT“ populiarumo Altmanas tapo matomiausia AI pramonės figūra, vos per kelerius metus pavertęs kadaise pelno nesiekiančią tyrimų laboratoriją beveik trilijono dolerių vertės privačia įmone. Tačiau mitas apie Altmaną yra labai prieštaringas, vienodai apibrėžiamas tiek jo akivaizdžių sugebėjimų sudaryti sandorius, tiek apie praneštą polinkį... gerai, meluoti visiems aplinkiniams.
Istorija yra ilgesnė nei 17 000 žodžių ir, be abejo, joje pateikiamas galutinis pasakojimas apie tai, kas nutiko 2023 m., kai OpenAI direktorių taryba labai netikėtai atleido Altmaną dėl tariamo jo melo, tačiau jis beveik akimirksniu buvo priimtas į darbą. Tai taip pat yra gilus pasinerimas į asmeninį Altmano gyvenimą, jo investicijas, jo elgesį su Vidurio Rytų pinigais ir jo paties apmąstymus apie jo ankstesnį elgesį ir charakterio bruožus, dėl kurių vienas šaltinis pasakė, kad jis „nevaržomas tiesos“. Tikrai siūlau perskaityti visą istoriją; Įtariu, kad jis bus minimas daugelį metų.
Ronanas daug kartų kalbėjosi su Altmanu per 18 mėnesių, kuriuos praleido pranešdamas apie šį kūrinį, todėl vienas iš pagrindinių dalykų, kurie man buvo smalsu, buvo tai, ar jis pajuto Altmano pokyčius per tą laiką. Juk per pastaruosius pusantrų metų daug kas nutiko AI, technologijų srityje ir pasaulyje.
Išgirsite Ronaną apie tai kalbant labai tiesiogiai, taip pat jo jausmą, kad žmonės tapo daug labiau linkę kalbėti apie Altmano gebėjimą ištiesti tiesą. Žmonės pradeda garsiai ir nuolat domėtis, ar tokių žmonių kaip Altmanas elgesys kelia nerimą ne tik dirbtiniam intelektui ar technologijoms, bet ir bendrai visuomenės ateičiai.
Gerai: Ronanas Farrowas apie Samą Altmaną, AI ir tiesą. Štai mes einame.
Šis interviu buvo šiek tiek redaguotas, kad būtų ilgas ir aiškus.
Ronan Farrow, esate tiriamasis žurnalistas ir „The New Yorker“ bendradarbis. Sveiki atvykę į dekoderį.
Malonu būti čia. Ačiū, kad turi mane.
Labai džiaugiuosi galėdamas su jumis pasikalbėti. Ką tik parašėte didelį kūrinį „The New Yorker“. Tai Samo Altmano profilis ir kartu su juo OpenAI. Skaičiau apie tai, kad, kaip ir visos puikios savybės, jis, griežtai pranešdamas, patvirtina daugybę jausmų, kuriuos žmonės jau seniai jaučia apie Samą Altmaną. Akivaizdu, kad jį paskelbėte, sulaukėte reakcijų. Kaip šiuo metu dėl to jautiesi?
Tiesą sakant, mane džiugino tai, kiek tai nutrūko šiuo metu, kai dėmesio ekonomika yra tokia šizofreniška ir lėkšta. Tai istorija, kuri, mano nuomone, liečia mus visus. Ir kai aš praleidau pusantrų savo gyvenimo metų, o mano bendraautorius Andrew Marantzas taip pat praleido tą savo laiką, tikrai stengdamasis padaryti ką nors kriminalinio ir kruopštaus, tai visada yra todėl, kad jaučiu, kad yra didesnių struktūrinių problemų, turinčių įtakos žmonėms ne tik asmeniui ir kompanijai, kuri yra istorijos centre.
Samas Altmanas, Silicio slėnio ažiotažų kultūros ir startuolių, skatinančių didžiulius vertinimus, pagrįstus pažadais, kurie gali išsipildyti arba neišsipildyti ateityje, fone, ir vis stiprėjantį įkūrėjų kultūrą, kuri mano, kad skirtingoms grupėms pasakoti skirtingus prieštaringus dalykus yra būdinga, o neklaida… Net ir tokiomis aplinkybėmis Samas Altmanas yra nepaprastas atvejis, kai Silicio slėnyje visi, kurie to tikisi, negali nustoti kalbėti apie šį jo patikimumo ir sąžiningumo klausimą.
Jau žinojome, kad jis buvo atleistas dėl kai kurių kaltinimų nesąžiningumu versijų arba serijinio įtariamo melo. Tačiau nepaprasta, nepaisant to, kad buvo puikių reportažų, Keachas Hagey padarė puikų darbą. Karen Hao atliko puikų darbą. Tikrai nebuvo galutinio supratimo apie tikrus tariamus įrodymus ir priežastis, kodėl jie liko nepastebėti.
Taigi svarbiausias dalykas yra tai, kad mane džiugina tai, kad kai kurios iš tų spragų mūsų viešosiose žiniose ir net Silicio slėnio savininkų žiniose dabar šiek tiek užpildytos. Kai kurios priežastys, dėl kurių buvo spragų, buvo užpildytos šiek tiek daugiau.
Pranešame apie atvejus, kai šios įmonės darbuotojai tikrai jautė, kad viskas buvo nuslėpta arba tyčia nebuvo dokumentuota. Vienas iš naujų dalykų šioje istorijoje yra esminis advokatų kontoros tyrimas, kurį atliko WilmerHale, kuri, be abejo, yra išgalvota, patikima, didelė advokatų kontora, atlikusi Enron ir WorldCom tyrimus, kurie, beje, buvo dideli, pavyzdžiui, paskelbti šimtai puslapių. WilmerHale'as atliko šį tyrimą, kurio pareikalavo valdybos nariai, atleidę Altmaną kaip sąlygą, kad jie pasitrauktų, kai jis jų atsikratė, ir jis grįžo. Ir nepaprastai – daugelio teisės ekspertų, su kuriais kalbėjausi, ir šokiruojančia daugelio šios įmonės žmonių akyse – jie to nerašė. Viskas, kas iš to išplaukė, buvo 800 žodžių „OpenAI“ pranešimas spaudai, kuriame tai, kas nutiko, apibūdinta kaip pasitikėjimo žlugimas. Ir mes patvirtinome, kad tai buvo laikoma žodiniais instruktažais.
Yra atvejų, kai, pavyzdžiui, valdybos narys, atrodo, nori balsuoti prieš pradinės OpenAI ne pelno formos pavertimą pelno siekiančiu subjektu, ir tai įrašoma kaip susilaikymas. Lyg teisininkas susirinkime sako: „Na, tai gali sukelti per daug tikrinimo“. Ir asmuo, kuris nori balsuoti prieš, įrašomas kaip susilaikymas nuo visų pasirodymų. Kyla faktinis ginčas. „OpenAI“ teigia kitaip, kaip galite įsivaizduoti. Visais šiais atvejais turite įmonę, kuri savo žiniomis laiko mūsų ateitį savo rankose.
Saugumo statymai yra tokie aštrūs, kad jie niekur nedingo. Dėl šios priežasties ši įmonė buvo įkurta kaip ne pelno siekianti organizacija, kuri daugiausia dėmesio skyrė saugai, o jos reikalai buvo užgožti taip, kad patikimiems aplinkiniams ji atrodė ne tokia profesionali. Ir jūs tai suderinate su fonu, kuriame tiek mažai politinio apetito prasmingam reguliavimui. Manau, kad tai labai degi situacija.
Man svarbu ne tik tai, kad Samas Altmanas taip smarkiai nusipelnė šių klausimų. Taip pat yra tai, kad bet kuris iš šių šios srities vaikinų ir daugelis pagrindinių veikėjų demonstruoja, jei ne šį ypatingą savitą, tariamą visą laiką meluojantį bruožą, žinoma, tam tikrą lenktynių iki apačios mentaliteto laipsnį, kai saugos specialistai sušvelnino tuos įsipareigojimus ir „visi yra lenktynėse“.
Manau, kad žvelgiant į naujausius nutekėjimus iš Anthropic, yra žmogus, kuris kelia klausimą, kas šiame kūrinyje turėtų turėti pirštą ant mygtuko. Atsakymas yra toks: jei neturime prasmingos priežiūros, manau, kad turime užduoti rimtus klausimus ir stengtis pateikti kuo daugiau informacijos apie visus šiuos vaikinus. Taigi mane nudžiugino prasmingas pokalbis apie tai arba jo pradžia.
Priežastis, kodėl taip paklausiau, yra ta, kad dirbote pusantrų metų. Tikiu, kad kalbėjotės su 100 žmonių su savo bendraautoriumi Andrew. Tai ilgas laiko tarpas, kol pasakojama. Aš galvoju apie pastaruosius pusantrų metų dirbtinio intelekto srityje, o berniukas, labai greitai pasikeitė visų šių veikėjų požiūris ir vertybės.
Galbūt ne daugiau nei Samas Altmanas, kuris pradėjo kaip numatytasis nugalėtojas, nes išleido „ChatGPT“ ir visi manė, kad tai tiesiog perims „Google“. Ir tada „Google“ sureagavo, o tai, atrodo, juos nustebino, kad „Google“ bandys apsaugoti savo verslą, galbūt vieną geriausių verslų technologijų istorijoje, jei ne verslo istorijoje. Anthropic nusprendė, kad daugiausia dėmesio skirs įmonei. Atrodo, kad ji imasi įsakmių lyderiųten, nes įmonės AI naudoja labai daug.
Dabar „OpenAI“ perorientuoja savo produktą nuo „mes imsimės Google“ į Codex, o jie imsis įmonės. Tik negaliu tiksliai pasakyti, ar per pastaruosius pusantrų metų jūsų reportažų metu atrodė, kad pasikeitė veikėjai, su kuriais kalbėjotės? Kaip ir jų požiūris bei vertybės, ar jie pasikeitė?
Taip. Visų pirma manau, kad kritika, kuri nagrinėjama šiame kūrinyje, kurią šiuo metu išgirdo daugelis šiose įmonėse dirbančių žmonių – kad tai yra pramonė, kuri, nepaisant egzistencinių akcijų, leidžiasi į lenktynes dėl saugumo ir kur greitis nugali viską, – tas susirūpinimas išaugo. Ir manau, kad šie rūpesčiai labiau pasitvirtino, nes per pastaruosius pusantrų metų paaiškėjo. Kartu pasikeitė požiūris į Samą Altmaną. Kai pradėjome kalbėtis su šaltiniais apie tai, žmonės labai labai mėgavosi, kad apie tai būtų cituojami ir įrašinėjami apie tai.
Pasibaigus mūsų ataskaitoms, jūs turite ataskaitų rinkinį, kuriame žmonės apie tai kalba labai atvirai ir aiškiai, o valdybos nariai sako, pavyzdžiui: „Jis patologinis melagis. Jis sociopatas“. Yra įvairių požiūrių: „Tai pavojinga, atsižvelgiant į saugos klausimus, ir mums reikia šios technologijos lyderių, turinčių aukštą vientisumą“, iki galo: „Pamirškite saugos statymus, tai yra elgesys, kuris yra nepriimtinas bet kurios didelės įmonės vadovui, nes jis tiesiog sukuria per daug disfunkcijos“.
Taigi pokalbis tapo daug aiškesnis, galbūt pavėluotas, bet tam tikra prasme džiuginantis. Ir Samas Altmanas, jo garbei... Kūrinys labai teisingas ir netgi dosnus, sakyčiau, Semui. Tai nėra toks kūrinys, kuriame buvo daug dalykų, kurių „gavau“. Aš praleidau daug valandų su juo telefonu, kai baigėme tai ir tikrai išgirdome jį.
Kaip galite įsivaizduoti, tokiame kūrinyje ne viskas patenka į šį kūrinį. Kai kurie iš tų atvejų šioje byloje buvo dėl to, kad klausiausi nuoširdžiai. Ir jei Semas iš tikrųjų ginčijosi, kad jaučiuosi nestokojantis vandens, kad kažkas, net jei tai tiesa, gali sukelti sensacijų, aš tikrai klydau laikydamas šią teismo ekspertizę ir pamatuotą. Taigi manau, kad tai buvo priimta teisingai, ir aš tiesiog tikiuosi, kad šis faktinis įrašas, sukauptas per šį laikotarpį, gali paskatinti drąsesnį pokalbį apie priežiūros poreikį.
Tai iš tikrųjų yra kitas mano klausimas. Manau, kad tu kalbėjai su Semu tuziną kartų, kol pranešėte šią istoriją. Vėlgi, tai daug pokalbių per ilgą laiką. Ar manote, kad per pastaruosius pusantrų metų Semas pasikeitė per ataskaitų eigą?
Taip. Manau, kad vienas iš įdomiausių siužetų yra tai, kad Samas Altmanas taip pat kalba apie šią savybę aiškiau nei anksčiau. Samo poza šiame kūrinyje nėra tokia: „Nieko čia nėra, tai netiesa; aš nežinau, apie ką tu kalbi“. Jo laikysena yra ta, kad jis sako, kad tai sietina su polinkiu mėgti žmones ir savotišką konfliktų nenorėjimą. Jis pripažįsta, kad tai jam sukėlė problemų, ypač anksčiau jo karjeroje.
Jis sako: „Na, aš einu tai, arba tam tikru mastu jau praeičiau. Manau, kad man tikrai įdomu yra žmonių, su kuriais kalbėjomės, būrys, kurie buvo ne tik saugos šalininkai, ne tik pagrindiniai technikos tyrinėtojai, kuriems labai dažnai kyla problemų dėl saugumo, bet ir pragmatiški, dideli investuotojai. Jie yra Samo rėmėjai, kurie kai kuriais atvejais žiūri į šį klausimą ir kalba, kad net suvaidino pagrindinį vaidmenį jam sugrįžus po atleidimo. Dabar, atsakydami į šį klausimą, ar jis reformuotas ir kiek tas pakeitimas yra prasmingas, jie sako: „Na, tada mes suteikėme jam naudos iš abejonių“.
Turiu galvoje ypač vieną žinomą investuotoją, kuris pasakė: „Bet nuo tada atrodo aišku, kad jis nebuvo išvežtas už malkinės“, – tokią frazę šis vartojo tiek, kiek reikėjo. Dėl to atrodo, kad tai dabar yra stabili savybė. Mes tai matome nuolat. Galite pažvelgti į didžiausią OpenAI versląsantykiai ir tai, kaip jie nuolat neša šio nepasitikėjimo svorį.
Kaip ir su „Microsoft“, jūs kalbatės su vadovais, ir jie turi tikrai rimtų ir neseniai susirūpinusių problemų. Yra toks atvejis, kai tą pačią dieną OpenAI dar kartą patvirtina savo išskirtinumą su „Microsoft“ dėl pagrindinių be pilietybės AI modelių, ji taip pat paskelbė apie naują sandorį su „Amazon“, kuris yra susijęs su įmonės sprendimų, skirtų AI agentams, kurie yra būseną turintys, o tai reiškia, kad jie turi atmintį, pardavimas.
Jūs kalbatės su „Microsoft“ žmonėmis, o jie sako: „To neįmanoma padaryti be bendravimo su esminiais dalykais, dėl kurių turime išskirtinį susitarimą“. Taigi tai tik vienas iš daugybės mažų pavyzdžių, kai šis bruožas visą laiką įtakoja nuolatinę verslo veiklą ir yra aktyvus OpenAI valdybos, jos vykdomojo paketo ir platesnės technologijų bendruomenės susirūpinimo objektas.
Jūs nuolat kartojate tą „savybę“. Istorijoje yra eilutė, kuri man atrodo kaip disertacija, ir tai yra jūsų aprašomos savybės aprašymas. Tai yra tai, kad „Samo Altmano nevaržo tiesa“ ir kad jis turi „du bruožus, kurių beveik niekada nematyti tame pačiame asmenyje: pirmasis yra stiprus noras įtikti žmonėms, būti patinkamam bet kokioje sąveikoje, o antrasis yra beveik sociopatinis nesirūpinimas pasekmėmis, kurios gali kilti ką nors apgavus“.
Turiu jums pasakyti, kad perskaičiau tą sakinį 500 kartų ir bandžiau įsivaizduoti, kad visada sakau tai, ko žmonės nori patikti, o paskui nesinervina, kai jaučiasi, kad jiems meluoja. Ir aš negalėjau priversti savo emocinę būseną suprasti, kaip tie dalykai gali egzistuoti tame pačiame žmoguje. Jūs daug kalbėjotės su Samu ir su žmonėmis, kurie patyrė šias savybes. Kaip jis tai daro?
Taip. Tai įdomu žmogiškuoju lygmeniu, nes aš žiūriu į tokias ataskaitas, daugiausia dėmesio skirdamas žmogaus sužmoginimui ir siekdamas gilaus supratimo bei empatijos. Kai bandžiau pažvelgti į tai iš žmogiškesnio požiūrio ir pasakyti: „Ei, man būtų pražūtinga, jei tiek daug žmonių, su kuriais dirbau, sakytų, kad esu patologinis melagis. Kaip tu nešiosi tą svorį? Kaip apie tai kalbi terapijoje? Kokią istoriją apie tai pasakoji sau?
Mano nuomone, apie tai gavau kokių nors Vakarų pakrantės banalybių, pavyzdžiui: „Taip, man patinka kvėpavimo darbas“. Tačiau ne toks stiprus gilaus susidūrimo su savimi jausmas, kokį, manau, daugelis iš mūsų tikriausiai patirtų, jei matytume tokius atsiliepimus apie savo elgesį ir elgesį su žmonėmis.
Manau, kad tai taip pat apima platesnį atsakymą į klausimą. Samas tvirtina, kad šis bruožas sukėlė problemų, bet taip pat yra dalis to, kas jam suteikė galimybę taip paspartinti OpenAI augimą, kad jis gali suvienyti ir įtikti įvairioms žmonių grupėms. Jis nuolat įtikinėja visas šias prieštaringas apygardas, kad joms rūpi tai, kas jam rūpi. Ir tai gali būti tikrai naudingas įgūdis steigėjui. Kalbėjausi su investuotojais, kurie tada sako: „Na, galbūt tai yra mažiau naudingas įgūdis iš tikrųjų valdyti įmonę, nes sėja tiek daug nesantaikos“.
Tačiau, kalbant apie asmeninę Samo pusę, aš manau, kad dalykas, kurį aš regiu, kai bandau užmegzti ryšį žmogiškuoju lygmeniu, yra akivaizdus gilesnės konfrontacijos, apmąstymų ir atskaitomybės už save trūkumas, o tai taip pat informuoja apie supergalią ar atsakomybę už IPO besiruošiančią įmonę.
Jis yra tas, kuris, pasak vienos buvusios valdybos narės, vardu Sue Yoon, kurios įraše yra įrašas, sakydamas, kad jos vartojama frazė iki „neatsargumo“, gali iš tikrųjų patikėti kintančia savo pardavimo pasiūlymų realybe arba sugeba tuo įsitikinti. Arba bent jau, jei jis jais netiki, jis gali jais prasiskverbti be prasmingo nepasitikėjimo savimi.
Manau, kad dalykas, apie kurį jūs kalbate, kai jūs ar aš galime, nes mes sakome tą dalyką ir suvokiame, kad tai prieštarauja kitai mūsų pateiktai garantijai, tarsi sustingti ar patikrinti save. Manau, kad su juo taip neatsitinka. Ir yra platesnė Silicio slėnio hype kultūra ir įkūrėjų kultūra, kuri tai apima.
tai juokinga. Verge sukurta remiantis tuo, kas prilygsta produkto apžvalgomsprograma. Tai yra to, ką čia darome, esmė. Kartą per metus sulaikau trilijoną dolerių „Apple“ mokslinių tyrimų ir plėtros ir sakau: „Šis telefonas yra septynetas“. Ir tai tarsi įteisina visas mūsų ataskaitas ir mūsų nuomones kitur. Mes atliekame vertinimo funkciją ir praleidžiame tiek daug laiko tiesiog žiūrėdami į AI produktus ir sakydami: „Ar jie veikia?
Panašu, kad to trūksta daugelyje pokalbių apie AI, koks jis yra šiandien. Begalinis pokalbis apie tai, ką jis gali padaryti, kaip tai gali būti pavojinga. Tada jūs gilinatės ir sakote: „Ar ji iš tikrųjų daro tai, ką turėtų padaryti šiandien? Kai kuriais atvejais atsakymas yra taip. Tačiau daugeliu atvejų atsakymas yra ne.
Panašu, kad tai susiję su jūsų aprašoma ažiotažų kultūra, taip pat su jausmu, kad gerai, jei sakote, kad tai padarys kažką, o ne, ir kas nors jaučiasi blogai, tai gerai, nes mes einame prie kito dalyko. Tai praeityje. O ypač dirbtinio intelekto srityje Semas taip gerai žada didelius pažadus.
Tik šią savaitę, manau, tą pačią dieną, kai buvo paskelbta jūsų istorija, „OpenAI“ išleido politikos dokumentą, kuriame sakoma, kad turime permąstyti socialinę sutartį ir gauti AI efektyvumo stipendijas iš vyriausybės. Tai puikus pažadas apie tai, kaip kai kurios technologijos gali suformuoti pasaulio ateitį ir kaip mes gyvename, ir visa tai priklauso nuo to, kad technologija veiks tiksliai taip, kaip žadama arba turėtų veikti.
Ar kada nors pastebėjote, kad Semas abejoja, ar dirbtinis intelektas virsta AGI, superintelektu ar pasiekia finišo liniją? Nes tai man labiausiai įdomu. Ar yra kokių nors apmąstymų, ar ši pagrindinė technologija gali padaryti viską, ką, jų teigimu, gali?
Tai tiksliai tinkamas klausimų rinkinys. Yra patikimų technologų, su kuriais kalbėjomės šioje ataskaitų grupėje – ir akivaizdu, kad Samas Altmanas nėra toks; jis yra verslo žmogus, kuris sako, kad Samo kalba apie šios technologijos laiko juostą yra labai toli. Yra kelerių metų senumo tinklaraščio įrašai, kuriuose Samas sako: "Mes jau pasiekėme įvykių horizontą. AGI iš esmės yra čia. Superintelektas yra už kampo. Mes būsime kitose planetose. Išgydysime visas vėžio formas." Tikrai, aš negražinu.
Vėžys iš tikrųjų yra įdomus, kad Semas sužadina asmenį, kuris teoriškai išgydė jų šuns vėžį su ChatGPT, ir tai tiesiog neįvyko. Jie kalbėjosi su „ChatGPT“ ir tai padėjo jiems vadovauti kai kuriems tyrėjams, kurie iš tikrųjų atliko darbą, tačiau šis įrankis išgydė šį šunį iš tikrųjų nėra istorija.
Džiaugiuosi, kad iškėlėte šį klausimą, nes noriu pereiti prie šio didesnio klausimo apie tai, kada tikrai atsiras ir technologijos potencialas, ir rizika. Tačiau verta paminėti šiuos mažus pašalinius dalykus, kurie nuolat nutinka Sam Altman, kur jis, atrodo, įkūnija šį bruožą iš naujo.
Turiu omenyje WilmerHale ataskaitos pavyzdį, kur turėjome šią informaciją, kuri nebuvo rašoma, ir norėjome sužinoti, ar žodinis pranešimas buvo pateiktas kam nors kitam, išskyrus du valdybos narius, kuriuos Semas padėjo įdiegti ir prižiūrėti. Ir jis pasakė: „Taip, taip, ne, aš tikiu, kad tai buvo suteikta kiekvienam, kuris vėliau prisijungė prie valdybos“. Ir mes turime žmogų, kuris tiesiogiai žino situaciją, sako, kad tai tiesiog melas. Ir taip tikrai atrodo, kad tai netiesa. Jei norime būti dosnūs, galbūt jis buvo neteisingai informuotas.
Šių atsitiktinių patikinimų yra daug. Ir aš naudoju tą pavyzdį iš dalies, nes tai puikus išardymo, pavadinkime, pavyzdys, kuris gali turėti realių teisinių pasekmių. Man nereikia jums sakyti, kad pagal Delavero įmonių teisę, jei ši bendrovė IPO, akcininkai gali skųstis dėl to pagal 220 skyrių ir reikalauti pagrindinių dokumentų. Jau yra valdybos narių, kurie sako tokius dalykus kaip: „Na, palauk minutę, ta instruktažas turėjo įvykti“.
Taigi šie dalykai, kurie, atrodo, nuolat iššoka iš jo burnos, gali turėti realių rinką judančių efektų, tikrų OpenAI efektų. Sugrąžinus tai prie utopinės ažiotažo kalbos, kuri vėl iškilo, manau, kad neatsitiktinai tą dieną, kai pasirodė šis kūrinys, jis taip pat paveikė mus visus, nes pavojai yra labai dideli, atsižvelgiant į tai, kaip jis yra.dislokavimas ginkluose, būdas, kuriuo jis naudojamas identifikuoti cheminio karo agentus, dezinformacijos potencialas ir dėl to, kaip atrodo, kad utopinis ažiotažas priverčia daug patikimų ekonomistų pasakyti: „Tai turi visus burbulo požymius“.
Net Samas Altmanas yra pasakęs: „Kažkas čia praras daug pinigų“. Tai tikrai gali sukelti didelį Amerikos ir pasaulio ekonomikos augimą, jei įvyktų tikras burbulo pramušimas, kai visos šios įmonės sudarys sandorius tarpusavyje, imasi dirbtinio intelekto ir taip stipriai skolinasi. Taigi svarbu, ką sako Samas Altmanas, ir manau, kad jį supančių žmonių persvara, kaip minėjote, kalbėjomės su daugiau nei šimtu, iš tikrųjų buvo gerokai daugiau nei šimtas. Finišo tiesiojoje turėjome pokalbį: „Ar būtų per smulkmeniška sakyti, kad tai yra daug didesnis skaičius? Ir mes sakėme: „Taip, sumenkinkime. Suvaidinsime šauniai“. Tačiau buvo tiek daug žmonių ir tokia didelė jų dauguma sakė: „Tai kelia susirūpinimą“. Ir aš manau, kad dėl to viskas.
Leiskite paklausti jūsų apie tą numerį. Kaip minėjote, laikui bėgant žmonės tapo vis atviresni susirūpinimui. Atrodo, kad spaudimas aplink burbulą – lenktynės laimėti, atsipirkti visos šios investicijos, tapti nugalėtoju, IPO – pakeitė daug požiūrių. Tai tikrai sukėlė didesnį spaudimą Sam ir OpenAI.
Šią savaitę paskelbėme istoriją tik apie OpenAI atmosferą. Jūsų istorija yra jos dalis, bet didžiuliai personalo pokyčiai OpenAI vadovų gretose – žmonės ateina ir išeina. Visi tyrinėtojai išvyksta, daugiausia į Antropinį pasaulį, o tai, mano nuomone, yra tikrai įdomu. Tiesiog matote, kad ši įmonė jaučia spaudimą ir kažkaip į tą spaudimą reaguoja.
Bet tada galvoju apie Semo atleidimą. Tai man tiesiog įsimintina. Niekam kitam tai neįsimena, bet penktadienį 19 val. paskambinau į Bronkso zoologijos sodą ir kažkas pasakė, kad bandys susigrąžinti Semą. Ir tada mes praleidome savaitgalį persekiodami šią istoriją. Ir aš tiesiog sakiau: „Aš esu zoologijos sode. Ką tu nori, kad aš čia daryčiau? Ir atsakymas buvo: „Likite prie telefono“. Na, mano dukra pasakė: „Išeik nuo telefono“. Ir tai aš padariau.
Reikėjo važiuoti arba mirti, kad susigrąžintumėte Semą. Ta kompanija buvo tokia: „Ne, mes neleidžiame valdybai atleisti Sam Altman“. Investuotojai, cituojami jūsų kūrinyje: „Mes išėjome į karą“, manau, yra „Thrive Capital“ pozicija, „kad susigrąžintų Semą“. „Microsoft“ pradėjo karą, kad susigrąžintų Samą. Tai vėliau, o dabar visi sako: "Mes einame į IPO. Mes pasiekėme finišo liniją. Sugrąžinome savo vaikiną ir jis mus nuves iki finišo linijos. Mes susirūpinę, kad jis melagis."
Kodėl tada buvo karas, norint jį susigrąžinti? Nes panašu, kad iš tikrųjų niekas nepasikeitė. You talk about the memos that Ilya Sutskever and [Anthropic CEO] Dario Amodei kept while they were contemporaries of Sam Altman. Iljos rūpestis numeris vienas buvo tai, kad Samas yra melagis.
Niekas iš to nepasikeitė. Tai kodėl tada karas jį grąžino? Ir dabar, kai esame finišo tiesiojoje, atrodo, kad visi rūpesčiai yra atviri.
Na, visų pirma, atsiprašau jūsų dukros ir mano partnerio bei visų kitų žurnalistų aplinkinių.
[Juokiasi] Visiems tai buvo puikus savaitgalis.
Taip, tai užvaldo žmogaus gyvenimą, o ši istorija neabejotinai turi ir manąjį per pastarąjį laikotarpį. Manau, kad tai iš tikrųjų yra susijusi su šia žurnalistikos ir prieigos prie informacijos tema. Investuotojai, kurie kariavo dėl Samo, ir visi suvaidino savo vaidmenį užtikrindami, kad jis sugrįžtų, o valdyba, kuri buvo specialiai sukurta siekiant apsaugoti ne pelno siekiančios organizacijos misiją – užtikrinti saugumą ir atleisti iš pareigų, jei jais negalėjo tuo patikėti, jie pasitraukė. Tai buvo viskas, nes taip, rinkos paskatos buvo, tiesa?
Samas sugebėjo įtikinti žmones: „Na, įmonė tiesiog subyrės“. Tačiau priežastis, dėl kurios jis sulaukė paramos, buvo informacijos trūkumas. Tie investuotojai daugeliu atvejų dabar sako: „Žiūriu atgal ir manau, kad būčiau turėjęs daugiau susirūpinti, jei būčiau iki galo žinojęs, kokie buvo reikalavimai ir kokie buvo rūpesčiai“.
Ne visi jie;nuomonės skiriasi ir mes cituojame daugybę nuomonių, tačiau yra ir reikšmingų, kurios veikė remdamosi labai daline informacija. Lenta, kuri atleido Samą, vieno žmogaus, kuris anksčiau buvo lentoje, žodžiais, buvo „labai JV“, ir jie sunkiai sumušė kamuolį. Ir mes dokumentuojame pagrindinius skundus, ir žmonės gali patys nuspręsti, ar jie susikaupia į tokį skubų susirūpinimą, kokį jie jautė, bet tas argumentas ir ta informacija nebuvo pateikti.
Jie gavo tai, ką kai kurie iš jų dabar pripažįsta kaip blogą teisinę konsultaciją. Norėdami tai apibūdinti, prisiminsite citatą ir tikriausiai daugelis jūsų klausytojų ir žiūrovų prisimins šią citatą kaip atvirumo trūkumą. Tai buvo sumažinta iki to, ir tada jie iš esmės nepriimdavo skambučių.
Jie nepriimdavo skambučių. Esu tikras, kad bandėte. Visi, kuriuos pažįstu, bandė, ir tai pasiekė tašką, kai, kaip žurnalistas, neturėjai patarti savo šaltiniams, bet aš sakiau: „Tai praeis, jei nepradėsi aiškintis“.
Ir taip atsitiko. Pamiršk žurnalistus. Satya Nadella sakydavo: „Kas po velnių atsitiko? Negaliu priversti nieko man paaiškinti“. Ir tai yra pagrindinis įmonės finansinis rėmėjas. Tada jums skambina Satya [„LinkedIn“ įkūrėjas] Reidas Hoffmanas, o Reidas skambina ir sako: „Aš nežinau, kas nutiko“.
Suprantama, kad jie yra informacijos tuštumose ir ieško tradicinių ne AI rodiklių, kurie pateisintų tokį skubų, staigų paleidimą. Gerai, ar tai buvo seksualiniai nusikaltimai? Ar tai buvo grobstymas? Ir visas subtilus, bet, manau, prasmingas argumentas, kad ši technologija yra kitokia ir kad toks nuolatinis mažesnių išdavysčių kaupimas gali turėti reikšmingų akcijų šiam verslui ir galbūt pasauliui, buvo iš esmės prarastas. Taigi nugalėjo kapitalistinės paskatos, bet ir tai padarę žmonės išėjo ir ne visada veikė turėdami visapusišką informaciją.
Vieną akimirką noriu paklausti apie „kaip visi tai manė“ aspekto, nes tikrai pamačiau naujienas ir pasakiau: „O, turėjo nutikti kažkas blogo“. Jūs padarėte daug #MeToo reportažų, žinoma. Jūs sulaužėte Harvey Weinsteino istoriją.
Jūs praleidote daug laiko pranešdamas apie šiuos teiginius, kurie, mano manymu, galiausiai buvo nepagrįsti: kad Altmanas seksualiai prievartavo nepilnamečius arba samdė sekso paslaugų teikėjus ar net nužudė OpenAI pranešėją. Aš turiu galvoje, jūs esate tas asmuo, kuris gali griežčiausiai pranešti apie tai. Ar nusprendėte, kad tai nieko nedaro?
Na, žiūrėk, aš nesiruošiu sakyti, kad kažkas nepasisekė. Galiu pasakyti, kad kelis mėnesius nagrinėjau šiuos teiginius ir neradau jiems patvirtinimo. Ir man buvo nuostabu, kad šie vaikinai, šios įmonės, turinčios tiek daug galios mūsų ateičiai, iš tiesų praleidžia neproporcingai daug savo laiko ir išteklių vaikiškoje purvo kovoje.
Vienas vadovas jį apibūdina kaip „Šekspyrą“. Privačių tyrėjų pinigų ir opozicijos dokumentų kiekis yra negailestingas. Ir gaila, kad tokie skanūs dalykai, kuriuos Samo konkurentai apgaudinėja, yra tik spėjamas faktas, tiesa? Yra toks įtarimas, kad jis persekioja nepilnamečius berniukus, ir daugelyje kokteilių vakarėlių Silicio slėnyje tai girdite. Konferencijos metu girdėjau, kaip tai kartojo patikimi, žinomi vadovai: „Visi žino, kad tai yra faktas“.
Liūdna tai, kad aš kalbu apie tai, iš kur tai kyla, apie įvairius vektorius, kuriais tai perduodama. Elonas Muskas ir jo bendražygiai, regis, stumia labai rimtus dokumentus, kurie yra niekai. Kai iš tikrųjų pradedate žiūrėti į pagrindinius teiginius, jie yra neryškūs. Liūdna yra tai, kad tai tikrai užgožia daugiau įrodymais pagrįstą kritiką, kuri, mano nuomone, tikrai nusipelno skubios priežiūros ir svarstymo.
Kita tema, kuri iš tikrųjų išryškėja istorijoje, yra beveik baimės jausmas, kad Samas turi tiek daug draugų – jis investavo į daugybę įmonių nuo ankstesnio „Y Combinator“ generalinio direktoriaus pareigų iki asmeninio investavimo, kai kurios iš jų tiesiogiai prieštarauja jo, kaip „OpenAI“ generalinio direktoriaus vaidmeniui, ir aplink jį tvyro tyla.
Tai mane sužavėjo, kai skaičiau vieną eilutę. Jūs aprašote Iljos Sutskeverio memorandumus, ir jie ką tik išėjo Silicio slėnyje. Visivadina juos Iljos atmintiniais. Tačiau aplink tai net tyla. Jie yra perduodami, bet jie nėra aptariami. Kaip manote, iš kur tai? Ar tai baimė? Ar tai noras gauti angelo investiciją? Iš kur tai?
Manau, kad tai daug bailumo, pasakysiu atvirai. Pranešę apie nacionalinio saugumo istorijas, kuriose šaltiniai yra informatoriai, kurie gali prarasti viską ir būti patraukti baudžiamojon atsakomybėn, jie vis tiek elgiasi teisingai ir kalba apie dalykus, kad sukurtų atsakomybę. Dirbau su jūsų paminėtomis su seksualiniais nusikaltimais susijusiomis istorijomis, kuriose šaltiniai yra labai traumuoti ir baiminasi labai asmeninio atpildo.
Daugeliu atvejų, susijusių su šiuo ritmu, jūs susiduriate su žmonėmis, turinčiais savo profilį ir galią. Jie arba patys žinomi žmonės, arba juos supa žinomi žmonės. Jie turi tvirtą verslo gyvenimą. Mano nuomone, iš tikrųjų jiems labai mažai galimybių kalbėti apie tai. Laimei, adata juda, kaip kalbėjome anksčiau, o žmonės dabar kalba daugiau.
Tačiau tokį ilgą laiką žmonės iš tikrųjų tiesiog tylėjo apie tai, nes manau, kad Silicio slėnio kultūra yra tokia negailestingai savanaudiška ir negailestingai orientuota į verslą ir augimą. Taigi manau, kad tai kenkia net kai kuriems žmonėms, kurie dalyvavo atleidžiant Samą, nes praėjus kelioms dienoms matėte, kad vienas veiksnys, paskatinęs jį sugrįžti ir atleisti senus valdybos narius, buvo tai, kad jis sutelkė investuotojus, kurie buvo sutrikę dėl jo reikalo.
Bet kita yra tai, kad tiek daug kitų aplinkinių žmonių, kurie turėjo susirūpinimą ir juos skubiai išsakė, tiesiog susilankstė kaip servetėles ir pakeitė melodiją, kai pamatė, kad vėjas pučia į kitą pusę, ir jie norėjo patekti į pelno traukinį.
Tai gana tamsu, tiesą sakant, mano, kaip žurnalistės, požiūriu.
Kai kurie iš tų žmonių yra Mira Murati, kuri, manau, 20 minučių buvo naujoji OpenAI generalinė direktorė. Tada ji buvo pakeista. Tai buvo labai sudėtinga dinamika, ir akivaizdu, kad Samas grįžo. Kitas asmuo yra Ilja Sutskeveris, kuris buvo vienas iš balsavusių už Samo pašalinimą, o vėliau persigalvojo arba bent jau pasakė, kad persigalvojo, o tada išvyko įkurti savo įmonę. Ar žinote, kas privertė jį pakeisti savo nuomonę? Ar tai buvo tik pinigai?
Na, o kad būtų aišku, aš tų dviejų neišskiriu. Yra ir kitų valdybos narių, kurie dalyvavo šaudyme, kurie po to taip pat labai tylėjo. Manau, kad tai tarsi platesnė kolektyvinė problema. Tam tikrais atvejais tai yra žmonės, kurie turėjo moralinio pluošto pavojaus signalą ir imtis radikalių veiksmų, ir tai yra pagirtina. Ir taip jūs užtikrinate atsakomybę. Tai galėjo padėti daugeliui žmonių, kuriuos paveikė ši technologija. Tai galėjo padėti pramonei išlikti reikšmingai orientuotai į saugą.
Tačiau bendraudami su informatoriais ir žmonėmis, kurie dažnai bando prisiimti atsakomybę, taip pat matote, kad reikia laikytis savo įsitikinimų. Ir ši pramonė tikrai pilna žmonių, kurie tiesiog nesilaiko savo įsitikinimų.
Net jei jie mano, kad stato skaitmeninį Dievą, kuris kažkaip arba pašalins visą darbą, arba sukurs daugiau darbo, arba kažkas atsitiks.
Na, tai yra dalykas. Taigi kultūra, kai nesilaikoma savo įsitikinimų ir visi etiniai klausimai nukrenta nuošalyje, kai kyla karštis ar kažkas, kas galėtų kelti grėsmę jūsų padėčiai versle, galbūt tam tikru mastu yra gerai įprasto verslo įmonėms, kurios kuria bet kokius įtaisus.
Tačiau tai taip pat tie patys žmonės, kurie sako: „Tai gali tiesiogine prasme mus visus nužudyti“. Ir vėl, jums nereikia eiti į „Terminator Skynet“ kraštutinumą. Yra aibė rizikų, kurios jau realizuojasi. Tai tiesa, ir jie teisūs, kad apie tai įspėja, bet reikia, kad kažkas kitas fotelyje psichologuotų, kaip tie du dalykai gali gyventi tuose pačiuose žmonėse, kai jie skamba skubiais įspėjimais, galbūt kiša koją ir bando ką nors padaryti, o tada tiesiog susilanksto ir nutyla.
Kaip tik todėl gali pasitaikyti tokių atvejų, kai daiktai neberašomi, o daiktai nušluojami po kilimėliu, o po daugelio metų niekas apie tai atvirai nekalba.
Natūrali, atsakinga šalis čia nebūtų šių įmonių vadovai; tai būtų vyriausybės. Jungtinėse Amerikos Valstijose, galbūttai valstijų vyriausybės, galbūt tai federalinė vyriausybė.
Žinoma, visos šios įmonės nori būti pasaulinės. Čia yra daug pasaulinių pasekmių. Stebėjau, kaip „OpenAI“, „Google“ ir „Anthropic“ ragino Bideno administraciją išleisti AI vykdomąjį įsakymą. Galų gale buvo gana be dantų. Tai tiesiog pasakė, kad jie turi kalbėti apie tai, ką gali jų modeliai, ir išleisti kai kuriuos saugos bandymus. Ir tada jie visi palaikė Trumpą, o Trumpas atėjo ir nušlavė visa tai ir pasakė: „Turime būti konkurencingi. Tai yra nemokama visiems.
Tuo pačiu metu jie visi bando pritraukti lėšų iš Artimųjų Rytų šalių, kurios turi daug naftos pinigų ir nori pakeisti savo ekonomiką. Tai yra politikai. Manau, kad politikai tikrai turėtų suprasti, kad kažkas kalba iš abiejų pusių, ir jie nebus labai nusiminę, jei kas nors galiausiai nusivils, tačiau politikai taip pat yra priversti pasivažinėti. Kodėl manote, kad taip yra?
Manau, kad būtent dėl šios priežasties, mano nuomone, šis kūrinys yra svarbus ir kodėl jam buvo verta skirti visą šį laiką ir detales. Esame aplinkoje, kurioje sistemos, kurios, kaip jūs sakote, turėtų užtikrinti priežiūrą, yra tiesiog tuščiavidurės. Tai po Piliečių Jungtinės Amerikos Valstijos, kur pinigų srautas yra toks nevaržomas, ir tai yra ypatinga šios problemos koncentracija aplink AI, kur yra šios PAC, kurios daugėja ir užplūsta pinigus, kad panaikintų prasmingą reguliavimą tiek valstijos, tiek federaliniu lygiu.
Turite [OpenAI įkūrėjų] Gregą Brockmaną, antrąjį Samo vadą, kuris tiesiogiai prisideda prie kelių iš jų. Tai veda į situaciją, kai iš tikrųjų paimami įstatymų leidėjai ir potencialūs reguliuotojai, ir iš to sunku išeiti. Liūdna yra tai, kad manau, kad yra paprastų politinių veiksmų, kai kurie iš jų bandomi kitur pasaulyje, kurie padėtų išspręsti kai kurias atskaitomybės problemas.
Galėtumėte turėti daugiau privalomų saugos bandymų prieš įdiegimą, o tai jau vyksta Europoje pasienio modeliams. Galėtumėte nustatyti griežtesnius rašytinius viešųjų įrašų reikalavimus, taikomus vidaus tyrimams, kai šiuo atveju pastebėjome, kad dalykai buvo nerašyti. Galėtumėte turėti tvirtesnį nacionalinio saugumo peržiūros mechanizmų rinkinį, skirtą Vidurio Rytų infrastruktūros ambicijoms, kurių siekė Samas Altmanas.
Kaip jūs sakote, jis keitėsi su Bideno administracija, sakydamas: „Reguliuokite mus, reguliuokite mus“ ir padėjo jiems parengti vykdomąjį įsakymą, o tada, kai Trumpas įsileidžia, tikrai pirmosiomis dienomis, be jokių kliūčių, „Pagreitinkime ir pastatykime didžiulį duomenų centro miestelį Abu Dabyje“. Galėjote, tai tikrai paprastas, pavyzdžiui, pranešėjų apsaugos. Nėra federalinio statuto, saugančio AI įmonės darbuotojus, kurie atskleidžia tokias saugos problemas, kurios yra rodomos šiame straipsnyje.
Turime atvejų, kai Janas Leike, kuris buvo vyresnysis OpenAI saugos specialistas, vadovavo super derinimui įmonėje. Jis rašo valdybai, iš esmės pranešimo medžiagą, sakydamas, kad bendrovė nukrypsta nuo savo saugos misijos. Tokie žmonės iš tikrųjų turėtų turėti priežiūros instituciją, į kurią galėtų kreiptis, ir jie turėtų turėti aiškią įstatymų numatytą apsaugą, tokią, kokią matome kituose sektoriuose. Tai paprasta atkartoti Sarbanes-Oxley stiliaus režimą.
Manau, kad nepaisant to, kokia opi yra Silicio slėnio problema, kai perimama visų valdžios svertų kontrolė, ir nepaisant to, kad kai kurios iš šių institucijų, galinčių užtikrinti priežiūrą ir apsauginius turėklus, yra tuščios, vis tiek tikiu pagrindine demokratijos ir savanaudiškų politikų matematika. Be to, atsiranda vis daugiau apklausų duomenų, kad dauguma amerikiečių mano, kad AI susirūpinimas, klausimai ar rizika šiuo metu nusveria naudą.
Taigi aš manau, kad dirbtinio intelekto pinigų srautas į politiką yra mūsų visų galia, kad tai taptų klaustuko šaltiniu politikų atžvilgiu. Kai amerikiečiai eina balsuoti, jie turėtų atidžiai išnagrinėti, ar žmonės, už kuriuos balsuoja, ypač jei jie yra nekritiški ir nusiteikę prieš reguliavimą, atsižvelgiant į visus šiuos rūpesčius, yra bankrutuojami didelių technologijų specialiųjų interesų. Taigi manau, jei žmonės gali skaityti tokius kūrinius, klausytis tokių podcast'ų ir jiems pakankamai rūpi, kad galėtų kritiškai mąstytisavo, kaip rinkėjų, sprendimus, yra reali galimybė sukurti Vašingtone atstovų, kurie stebi ir priverčia prižiūrėti, rinkimų apygardą.
Tai gali būti vienas optimistiškiausių dalykų, kuriuos kada nors girdėjau ką nors sakant apie dabartinę AI pramonę. Aš tai vertinu. Esu apsėstas apklausos, apie kurią kalbate. Dabar jo yra daug. Visa tai gana nuoseklu ir atrodo, kad kuo daugiau jaunų žmonių susiduria su dirbtiniu intelektu, tuo labiau jie dėl to nepasitiki ir piktinasi. Tai yra visų apklausų valencija. Aš žiūriu į tai ir manau, kad taip, protingi politikai tiesiog priešinsis. Jie tiesiog pasakytų: „Mes priimsime atsakomybę už didžiąsias technologijas“.
Tada galvoju apie pastaruosius 20 metų, kai politikas sako, kad jie turės atsakyti už didžiąsias technologijas, ir man sunku rasti nors vieną momentą, kai didžiosios technologijos būtų patrauktos atsakomybės. Vienintelis dalykas, dėl kurio aš galvoju, kad gali būti kitaip, yra tai, kad jūs iš tikrųjų turite sukurti duomenų centrus ir galite balsuoti prieš tai, galite pateikti peticiją ir protestuoti prieš tai.
Manau, kad yra politikas, kurio namas ką tik buvo apšaudytas, nes balsavo už duomenų centrą. Įtampa siekia, pavadinčiau, karščiavimą. Aprašėte Silicio slėnio izoliuotumą. Tai uždara ekosistema. Atrodo, kad jie mano, kad gali valdyti pasaulį. Jie įdeda daug pinigų į politiką ir susiduria su realybe, kad žmonės nemėgsta produktų, o tai jiems nesuteikia daug priedangos. Kuo daugiau jie naudoja produktus, tuo labiau nusiminusi, ir politikai pradeda suprasti, kad technologijų pramonės rėmimas turi realių pasekmių, o ne žmonių, kuriems jie atstovauja.
Jūs kalbėjote su daugybe žmonių. Ar manote, kad technologijų pramonė gali išmokti pamoką, kuri yra priešais juos?
Sakote, atrodo, kad jie mano, kad gali valdyti pasaulį be atskaitomybės. Aš net nemanau, kad tam reikia kvalifikacinio elemento „jaučiasi“. Aš turiu galvoje, kad pažvelgsite į kalbą, kurią vartoja Peteris Thielis, ji yra aiški. Žinoma, tai kraštutinis pavyzdys. Ir Samas Altmanas, nors ir tam tikru mastu yra artimas Thielio ideologijai ir yra jos informuotas, yra visiškai kitoks žmogus, kuris gali skambėti kitaip ir labiau išmatuotas.
Bet aš manau, kad platesnė ideologija, kurią gaunate iš Thiel, kuri iš esmės yra tokia: baigėme demokratiją, mums jos nebereikia. Turime tiek daug, kad tiesiog norime pasistatyti savo mažus bunkerius. Mes nebeturime reikalų su Carnegies ar Rokfeleriais, kur jie yra blogi vaikinai, bet jie jaučia, kad turi dalyvauti socialinėje sutartyje ir kurti dalykus žmonėms. Atsirado tikras nihilizmas.
Ir aš manau, kad tai tiesiog buvo viena kitą sustiprinanti spiralė pastarojoje Amerikos istorijoje, kai magnatai ir privačios bendrovės įgyja supervyriausybinę galią, o demokratinės institucijos, galinčios priversti juos atsakyti, yra ištuštintos. Nesijaučiu optimistiškai nusiteikęs dėl minties, kad tie vaikinai vieną dieną gali tiesiog pabusti ir pagalvoti: „Taip, galbūt mums reikia dalyvauti visuomenės gyvenime ir padėti kurti dalykus žmonėms“.
Aš turiu galvoje, jūs žiūrite į mikrokosminį „The Giving Pledge“ pavyzdį, kur buvo akimirka, kai atrodė, kad tai buvo labdara, o ta akimirka jau praėjo ir net išjuokiama. Tai yra problema, platesnė atsakomybės stokos problema, kurią, manau, galima išspręsti tik išoriškai. Tai turi būti rinkėjai, mobilizuojantys ir atgaivinantys vyriausybės priežiūros galią. Ir jūs visiškai teisus sakydami, kad pagrindinis vektorius, per kurį žmonės galbūt galėtų tai pasiekti, yra vietinis. Tai susiję su tuo, kur kuriama infrastruktūra.
Jūs paminėjote kai kurias labai karštą įtampą, kuri sukelia smurtą ir grasinimus, ir akivaizdu, kad niekas neturėtų smurtauti ar grasinti. Taip pat aš čia ne tam, kad teiktu konkrečias politikos rekomendacijas, o tik pristatyti kai kuriuos politikos žingsnius, kurie atrodo pagrindiniai ir veikia kitur pasaulyje, tiesa? Arba tie, kurie dirbo kituose sektoriuose. Aš čia nenoriu pasakyti, kuris iš jų turėtų būti įvykdytas ir kaip.
Manau, kad kažkas turi įvykti, ir tai turi būti išorinė, o ne tik pasitikėjimas šiomis įmonėmis. Nes teisingaiDabar turime situaciją, kai įmonės, kurios kuria technologijas ir yra geriausiai pasirengusios suprasti riziką, o iš tikrųjų yra tos, kurios mus įspėja apie riziką, taip pat yra tos, kurios turi tik paskatą veikti greitai ir ignoruoti tą riziką. Ir jūs tiesiog neturite nieko, kas tai atsvertų. Taigi, kad ir kokių konkrečių reformų prireiktų, kažkas turi prieštarauti. Ir vis dar grįžtu prie to optimizmo, kad žmonės vis dar svarbūs.
Aš paprastai perku jūsų argumentus. Leiskite man pateikti vieną mažytį kontrargumentą, kurį, manau, galiu suformuluoti. Kitas dalykas, kuris gali atsitikti už balsadėžės ribų, yra tai, kad burbulas iššoks, tiesa? Kad ne visos šios įmonės pasiekia finišo liniją ir kad nėra produktų, tinkamų vartotojų AI programoms, rinka. Ir vėl, aš to dar nelabai suprantu, bet esu vartotojų technologijų apžvalgininkas ir galbūt tiesiog turiu aukštesnius standartus nei visi kiti.
Verslo pasaulyje yra produktų rinka, tiesa? Atrodo, kad daugybė dirbtinio intelekto agentų, parašančių daugybę programinės įrangos, yra tikra šių įrankių rinka. Ir jūs galite perskaityti šių įmonių argumentus: "Mes išsprendėme kodavimą, o tai reiškia, kad galime išspręsti bet ką. Jei galime sukurti programinę įrangą, galime išspręsti bet kokias problemas."
Manau, kad programinės įrangos gali atlikti realios ribos. Tai puiku verslo pasaulyje. Programinė įranga negali išspręsti visų problemų tikrovėje, tačiau ji turi ją išspręsti. Jie turi baigti darbą, o gal ne visi pasiekia finišą. Ir įvyksta avarija, iššoka šis burbulas, o gal OpenAI ar Anthropic ar xAI, viena iš šių įmonių žlunga, ir visos šios investicijos išnyksta.
Kaip manote, ar tai turės įtakos? Tiesą sakant, pirmiausia leiskite man užduoti pirmąjį klausimą. „OpenAI“ yra ant IPO slenksčio. Dėl Samo kaip lyderio kyla daug abejonių. Ar manote, kad jie pasieks finišą?
Prognozuoti nesiruošiu, bet manau, kad iškeliate svarbų dalyką, t.
Taip pat norėčiau pridėti prie to, kad jei pažvelgtumėte į istorinę pirmenybę, kai yra panašiai ir, atrodo, neįveikiamas rinkos paskatų rinkinys ir galimai žalingas poveikis visuomenei, kyla bylinėjimasis dėl poveikio. Ir pastaruoju metu tai kelia susirūpinimą. Samas Altmanas šią savaitę patvirtino teisės aktus, kurie apsaugotų dirbtinio intelekto įmones nuo kai kurių rūšių atsakomybės, su kuria OpenAI susidūrė, pavyzdžiui, per neteisėtus mirties ieškinius. Žinoma, yra noras turėti tą skydą nuo atsakomybės.
Manau, kad teismai vis tiek gali būti prasmingas mechanizmas, ir bus tikrai įdomu pamatyti, kaip šie kostiumai susiformuos. Jūs jau matėte, pavyzdžiui, grupės ieškinį, kurio nariai aš ir daugelis kitų autorių, kuriuos aš žinau, prieš Anthropic už tai, kad jie naudoja knygas, kurios buvo saugomos autorių teisių. Jei yra protingų teisininkų ir ieškovų, kuriems rūpi, kaip istoriškai matėme bylose nuo didelio tabako iki didelės energijos, taip pat galite gauti tam tikrų apsauginių turėklų ir paskatų sulėtinti tempą, būti atsargiems ar tokiu būdu apsaugoti žmones.
Atrodo, kad visa AI pramonės sąnaudų struktūra priklauso nuo labai, labai labdaringo sąžiningo naudojimo aiškinimo. Neatsiranda pakankamai. Šių įmonių sąnaudų struktūra gali tapti nekontroliuojama, jei jos turės mokėti jums ir visiems kitiems, kurių darbą jos ėmėsi, tačiau tai nepatogu galvoti, todėl mes apie tai negalvojame. Be to, visi šie produktai dabar veikia nuostolingai. Kaip ir šiandien, jie visi dirba nuostolingai. Jie sudegina daugiau pinigų, nei gali uždirbti. Tam tikru momentu jie turi perjungti jungiklį.
Samas yra verslininkas. Kaip jau kelis kartus minėjote, jis nėra technologas. Jis yra verslo žmogus. Ar manote, kad jis pasirengęs perjungti jungiklį ir pasakyti: „Uždirbsime dolerį? Nes kai aš paklausiu: „Ar manote, kad OpenAI pavyks? Tai yra tada, kai jie turi uždirbti dolerį. Ir iki šiol Semas uždirbo visus savo dolerius prašydamas kitų žmonių pinigų, o ne savo įmonėms užsidirbti pinigų.
Na, tai yra didelis nuolatinis klausimas Silicio slėniui, investuotojams ir visuomenei.Matote kai kuriuos pareiškimus ir žingsnius iš OpenAI, kurie, atrodo, byloja apie tam tikrą paniką. „Sora“ išjungimas, kai kurių pagalbinių projektų uždarymas, bandymas suvaldyti pagrindinį produktą. Bet tada, kita vertus, vis tiek matote daugybę misijos šliaužimo, tiesa? Net mažas pavyzdys – akivaizdu, kad tai nėra jų verslo pagrindas – yra TBPN įsigijimas.
Beje, mums artėjant finišo tiesiajai ir tikrinant faktus, su tokiu žurnalistiniu patikrinimu susidurianti įmonė įgyja platformą, kurioje gali tiesiogiai kontroliuoti pokalbį. Manau, kad, remiantis mano turėtais pokalbiais, daug investuotojų nerimauja, kad ši problema žadėti viską visiems žmonėms taip pat apima ir susitelkimo trūkumą pagrindiniame verslo modelyje. Ir aš turiu galvoje, kad jūs esate arčiau prognozavimo ir rinkos stebėjimo nei aš tikriausiai. Paliksiu jus ir klausytojus spręsti, ar jie mano, kad OpenAI gali pakeisti jungiklį.
Na, aš uždaviau klausimą, nes kūrinyje gavote citatą iš „Microsoft“ vyresniojo vadovo ir sakoma, kad „Samo palikimas gali būti panašesnis į Bernie'į Madoffą ar Samą Bankmaną-Friedą“, o ne į Steve'ą Jobsą. Tai gana palyginimas. Ką tu manai iš to palyginimo?
Manau, kad tai parafrazė. Steve'o Jobso dalis nebuvo citatos dalis. Tačiau jame yra įdomus blaivumas, nes jis suformuluotas taip: „Manau, kad yra nedidelė, bet reali tikimybė, kad jis taps SBF arba Madoffo lygio sukčiu“. Tai, mano galva, reiškia ne tai, kad Samas būtų apkaltintas tokio pobūdžio sukčiavimu ar nusikaltimais, o tai, kad Semo apgaudinėjimo ir apgaulės laipsnis galiausiai gali būti prisimintas tokiu mastu.
Taip, aš manau, kad labiausiai stebina ši citata, tiesą sakant, yra tai, kad jūs skambinate į „Microsoft“ ir negaunate „tai beprotiška. Mes niekada to negirdėjome“. Sulaukiate daug pomėgių: „Taip, daug žmonių čia taip galvoja“, o tai yra nuostabu. Ir manau, kad tai susiję su šiais verslo klausimais.
Vienas investuotojas man pasakė, pavyzdžiui, atsižvelgiant į tai, kaip šis bruožas išliko daugelį metų po atleidimo“ – ir tai taip pat manė, kad tai buvo įdomi blaivi mintis – kad Semas nebūtinai turi būti absoliučioje sąrašo apačioje, kaip turėtų būti žemiausias iš žemiausio, kalbant apie žmones, kuriems šios technologijos absoliučiai negalima kurti, nes ko ji verta. žmonių, kurie turėtų sukurti AGI, sąrašo ir žemiau kelių kitų šios srities lyderių.
Taigi aš maniau, kad tai buvo įdomus įvertinimas, ir tokį mąstymą, manau, sulaukia tikri pragmatikai, kurie galbūt nelabai žiūri į saugos klausimus. Jie tiesiog orientuoti į augimą ir mano, kad OpenAI dabar turi problemų su Samu Altmanu.
„Microsoft“ kūrinys tikrai įdomus. Ta kompanija manė, kad jie yra pasaulio viršūnėje. Kad jie padarė šią investiciją ir ketina aplenkti visus, ypač ir svarbiausia, „Google“ ir vėl gauti gerus vartotojų malonumus. Nemanau, kad galima pervertinti lygį, iki kurio jie jaučiasi sudeginti dėl šio nuotykio – tai labai blaiviai valdoma įmonė.
Minėjote charakterius ir asmenybės bruožus. Noriu baigti mūsų klausytojų klausimu. Kitoje mūsų laidoje „The Vergecast“ sakiau, kad kalbėsiu su jumis, ir pasakiau: „Jei turite klausimų Ronanui apie šią istoriją, praneškite man“. Taigi mes turime vieną, kuris, mano manymu, puikiai susieja su tuo, ką aprašote. Aš tik tau tai perskaitysiu:
„Kuo Altmano ir kitų dirbtinio intelekto lyderių blogo elgesio pateisinimai, žiaurūs veiksmai skiriasi nuo pateisinimų, kuriuos Ronanas girdėjo iš kitų aukšto lygio politikos ir žiniasklaidos lyderių? Ar jie visi nepateisina savo veiksmų sakydami, kad taip pasaulis pasikeičia? Jei aš to nepadarysiu, tai padarys kažkas kitas?
Taip, aplinkui to daug. Sakyčiau, dirbtinis intelektas pasižymi tuo, kad egzistencinis statymas yra toks išskirtinai didelis, kad abu teiginiai apie riziką yra kraštutiniai, tiesa? Turite Samą Altmanąsakydamas: „Tai gali būti šviesos mums visiems“. Be to, kritikai gali pasakyti, kad manija, apie kurią kalba klausėjas, yra kraštutinė, tiesa?
Dalykas, kuriuo Samas apkaltino Eloną, buvo tas, kad galbūt jis nori išgelbėti žmoniją, bet tik tuo atveju, jei tai jis. Savotiškas ego komponentas, susijęs su noru laimėti, kurį Semas naudoja nuolat, ir kad tai yra istorijos knygose, tai gali viską pakeisti. Taigi, net ir be daugelio Silicio slėnio įmonių mąstysenos „privalai sumušti keletą kiaušinių“, kai kurie AI lyderiai, manau, visiškai racionalizuoja bet kokius nuopuolius.
Ir pamiršk sulaužyti kiaušinius. Manau, kad daugelis pagrindinių saugos tyrinėtojų pasakytų, kad gali kilti pavojus sulaužyti šalį, sugriauti pasaulį ir palaužti milijonus žmonių, kurių darbas ir saugumas yra ant plauko – štai kas yra unikalu. Štai kur aš baigiu, apmąstydamas šią ataskaitų dalį, tikrai tikėdamas, kad tai yra daugiau nei apie Samą Altmaną. Kalbama apie pramonę, kuri yra nevaržoma, ir augančią problemą, kai Amerika negali jos suvaržyti.
Taip. Na, mes ten turėjome šiek tiek optimizmo, bet manau, kad tai yra gera vieta tai palikti.
[Juokiasi] Pabaiga smukiu.
Žinoma. Tai kiekviena puiki istorija, tikrai. Artėja Musko ir Altmano teismas. Manau, kad mes čia išmoksime daug daugiau. Įtariu, kad vėl norėsiu su tavimi pasikalbėti. Ronan Farrow, labai ačiū, kad naudojatės dekoderiu.
ačiū.
Turite klausimų ar komentarų apie šį epizodą? Susisiekite su mumis adresu [email protected]. Mes tikrai skaitome kiekvieną el. laišką!
