Í dag á Decoder er ég að tala við Ronan Farrow, eina stærstu stjörnu rannsóknarskýrslu sem starfar í dag. Hann braut söguna Harvey Weinstein, meðal margra, margra annarra. Og bara í síðustu viku birtu hann og meðhöfundur Andrew Marantz ótrúlegan djúpköfunarþátt í The New Yorker um Sam Altman forstjóra OpenAI, áreiðanleika hans og uppgang OpenAI sjálfs.
Ein athugasemd áður en lengra er haldið hér — The New Yorker birti þá sögu og við Ronan áttum þetta samtal áður en við vissum að fullu umfang árásanna á heimili Altmans, svo þú munt ekki heyra okkur tala um það beint. En bara til að segja það, þá held ég að hvers kyns ofbeldi sé óviðunandi, þessar árásir á Sam voru óásættanlegar og að það hjálparleysi sem fólk finnur fyrir, sem leiðir til þessa tegundar ofbeldis, er í sjálfu sér óásættanlegt og það er þess virði að skoða miklu meira frá bæði iðnaðinum og stjórnmálaleiðtogum okkar. Ég vona að það sé ljóst.
Verge áskrifendur, ekki gleyma að þú færð einkaaðgang að auglýsingalausum afkóðara hvar sem þú færð hlaðvörpin þín. Farðu hingað. Ertu ekki áskrifandi? Þú getur skráð þig hér.
Allt sem sagt, það er margt sem snýst um Altman sem er sanngjarn leikur fyrir strangar skýrslur - sú tegund skýrslugerðar sem Ronan og Andrew ætluðu að gera. Þökk sé vinsældum ChatGPT hefur Altman komið fram sem sýnilegasti oddviti gervigreindariðnaðarins, eftir að hafa breytt einu sinni sjálfseignarstofnun rannsóknarstofu í næstum trilljón dollara einkafyrirtæki á örfáum árum. En goðsögnin um Altman er djúpstæð andstæð, jafnt skilgreind bæði af augljósri hæfni hans til að gera samninga og tilhneigingu hans til að ... jæja, ljúga að öllum í kringum hann.
Sagan er yfir 17.000 orð að lengd og hún inniheldur að öllum líkindum endanlega frásögn af því sem gerðist árið 2023 þegar stjórn OpenAI rak Altman skyndilega úr starfi vegna meintrar lygar hans, aðeins til að hann yrði endurráðinn nánast samstundis. Það er líka djúp kafa inn í persónulegt líf Altmans, fjárfestingar hans, hugleiðingar hans um peninga frá Mið-Austurlöndum og eigin hugleiðingar hans um fyrri hegðun hans og karaktereinkenni sem leiddu til þess að einn heimildarmaður sagði að hann væri „óheftur af sannleikanum“. Ég mæli virkilega með því að þú lesir alla söguna; Mig grunar að það verði vísað til þess í mörg ár fram í tímann.
Ronan talaði margoft við Altman á þeim 18 mánuðum sem hann eyddi í að segja frá þessu stykki og því var eitt af því helsta sem ég var forvitinn um hvort hann skynjaði einhverja breytingu á Altman á þeim tíma. Enda hefur margt gerst í gervigreind, í tækni og í heiminum síðastliðið eitt og hálft ár.
Þú munt heyra Ronan tala mjög beint um það, sem og tilfinningu hans fyrir því að fólk sé orðið miklu viljugra til að tala um getu Altman til að teygja sannleikann. Fólk er farið að velta því fyrir sér, upphátt og á skrá, hvort hegðun fólks eins og Altman hafi áhyggjur, ekki bara fyrir gervigreind eða tækni heldur einnig fyrir sameiginlega framtíð samfélagsins.
Allt í lagi: Ronan Farrow um Sam Altman, gervigreind og sannleikann. Hérna förum við.
Þetta viðtal hefur verið breytt í léttum dráttum til lengdar og skýrleika.
Ronan Farrow, þú ert rannsóknarblaðamaður og þátttakandi í The New Yorker. Velkomin í Decoder.
Gaman að vera hér. Takk fyrir að hafa mig.
Ég er mjög spenntur að tala við þig. Þú skrifaðir bara stórt verk fyrir The New Yorker. Það er prófílur af Sam Altman og, nokkurn veginn með því, OpenAI. Lestur minn á henni er að eins og allir frábærir eiginleikar gera, þá staðfestir hún, með ströngum skýrslum, margar tilfinningar sem fólk hefur haft um Sam Altman í mjög langan tíma. Þú hefur greinilega birt það, þú hefur fengið viðbrögð við því. Hvernig líður þér núna?
Jæja, mér hefur í rauninni verið hugleikið hversu mikið það hefur slegið í gegn á tímum þar sem athyglishagkerfið er svo geðklofa og grunnt. Þetta er saga sem að mínu mati snertir okkur öll. Og þegar ég eyddi einu og hálfu ári af lífi mínu, og meðhöfundur minn, Andrew Marantz, eyddi líka þessum tíma sínum í að reyna að gera eitthvað réttar og nákvæmt, þá er það alltaf vegna þess að mér finnst eins og það séu stærri skipulagsmál sem hafa áhrif á fólk umfram einstaklinginn og fyrirtækið í hjarta sögunnar.
Sam Altman, gegn bakgrunni Silicon Valley efla menningu og sprotafyrirtækja sem blása til gríðarlegra verðmata sem byggjast á loforðum sem kunna að rætast í framtíðinni, og aukinn faðmur stofnmenningar sem telur að segja mismunandi hópum mismunandi andstæða hluti sé eiginleiki, ekkigalla ... Jafnvel á því bakgrunni er Sam Altman óvenjulegt mál þar sem allir í Silicon Valley sem búast við þessum hlutum geta ekki hætt að tala um þessa spurningu um áreiðanleika hans og heiðarleika.
Við vissum þegar að hann var rekinn vegna einhverrar útgáfu af ásökunum um óheiðarleika eða meinta raðlygar. En ótrúlega, þrátt fyrir að það hafi verið frábærar fréttir, hefur Keach Hagey unnið frábært starf í þessu. Karen Hao hefur unnið frábært starf í þessu. Það var í raun ekki endanlegur skilningur á raunverulegum meintum sönnunaratriðum og ástæðum þess að þeir hafa haldið sig utan almennings.
Svo punktur númer eitt er að ég gleðst yfir þeirri staðreynd að sumar af þessum eyðum í almennri þekkingu okkar, og jafnvel í þekkingu innherja í Silicon Valley, hafa nú verið fyllt aðeins meira. Sumar af ástæðunum fyrir því að það voru eyður hefur verið fyllt í aðeins meira.
Við greinum frá tilfellum þar sem fólki innan þessa fyrirtækis fannst í raun eins og hlutir væru huldir eða vísvitandi ekki skjalfestir. Eitt af því nýja í þessari sögu er mikilvæg lögfræðirannsókn WilmerHale, sem er augljóslega flott, trúverðug, stór lögfræðistofa sem gerði rannsóknir á Enron og WorldCom, sem, við the vegur, voru allar fyrirferðarmiklar, eins og hundruð blaðsíðna birtar. WilmerHale gerði þessa rannsókn sem var krafist af stjórnarmönnum sem höfðu rekið Altman sem skilyrði fyrir brottför þeirra þegar hann losaði sig við þá og hann kom aftur. Og ótrúlega - í augum margra lögfræðinga sem ég talaði við, og átakanlegt í augum margra í þessu fyrirtæki - héldu þeir því frá skrifum. Það eina sem kom upp úr því var 800 orða fréttatilkynning frá OpenAI sem lýsti því sem gerðist sem bilun í trausti. Og við staðfestum að þetta var haldið við munnlegar kynningarfundir.
Það eru tilvik þar sem, til dæmis, stjórnarmaður virðist vilja greiða atkvæði gegn breytingu frá upprunalegu eyðublaði OpenAI í hagnaðarskyni og það er skráð sem sitjandi hjá. Það er eins og lögfræðingur á fundinum sem segir: „Jæja, það gæti kallað fram of mikla athugun. Og sá sem vill greiða atkvæði á móti er skráður sem situr hjá við alla framkomu. Það er málefnalegur ágreiningur. OpenAI heldur öðru fram, eins og þú gætir ímyndað þér. Þetta eru allt tilvik þar sem þú ert með fyrirtæki sem, að eigin sögn, heldur framtíð okkar í höndum sér.
Öryggisáhættan er svo mikil að þau hafa ekki horfið. Þetta er ástæðan fyrir því að þetta fyrirtæki var stofnað sem sjálfseignarstofnun með áherslu á öryggi og þar sem verið var að hylja hlutina á þann hátt að trúverðugt fólk í kringum þetta fannst það minna en faglegt. Og þú sameinar það með bakgrunn þar sem það er svo lítil pólitísk lyst á þýðingarmikilli reglugerð. Ég held að þetta sé mjög eldfimt ástand.
Aðalatriðið fyrir mig er ekki bara að Sam Altman eigi þessar spurningar svo innilega skilið. Það er líka það að einhver þessara stráka á þessu sviði, og margar af lykilpersónunum, sýna, ef ekki þennan sérstaka sérvisku, meinta lyga-all-the-time eiginleika, vissulega einhvers konar kapp-til-botn hugarfari, þar sem fólkið sem var öryggissinnar hefur útvatnað þessar skuldbindingar og allir eru í keppninni.
Ég held, þegar við skoðum nýlegan leka úr Anthropic, að það sé manneskja sem veltir upp þeirri spurningu hver ætti að hafa fingurinn á takkanum í þessu verki. Svarið er, ef við höfum ekki þýðingarmikið eftirlit, held ég að við verðum að spyrja alvarlegra spurninga og reyna að koma fram eins miklum upplýsingum og við getum um alla þessa krakka. Þannig að ég hef verið uppörvandi af því sem finnst vera þýðingarmikið samtal um það, eða upphaf þess.
Ástæðan fyrir því að ég spurði svona er sú að þú vannst við þetta í eitt og hálft ár. Þú talaðir við, að ég trúi, 100 manns með meðhöfundi þínum, Andrew. Það er langur tími fyrir sögu að elda. Ég hugsa sérstaklega um síðasta og hálfa árið í gervigreind, og drengur, hafa viðhorf og gildi allra þessara persóna breyst mjög hratt.
Kannski enginn frekar en Sam Altman, sem byrjaði sem sjálfgefinn sigurvegari vegna þess að þeir höfðu gefið út ChatGPT og allir héldu að það myndi bara taka við fyrir Google. Og svo svaraði Google, sem virtist koma þeim á óvart að Google myndi reyna að vernda viðskipti sín, kannski eitt besta fyrirtæki í tæknisögunni, ef ekki viðskiptasögu. Anthropic ákvað að það myndi einbeita sér að fyrirtækinu. Það virðist vera að taka stjórnandi forystuþar vegna þess að fyrirtækisnotkun á gervigreind er svo mikil.
Nú er OpenAI að einbeita sér að vörunni frá „við ætlum að taka á Google“ yfir í Codex og þeir munu taka við fyrirtækinu. Ég get bara ekki sagt alveg hvort, meðan á skýrslugerðinni þinni stóð síðastliðið eitt og hálft ár, hvort það líði eins og persónurnar sem þú varst að tala við hafi breyst? Eins og viðhorf þeirra og gildi, breyttust þau?
Já. Ég held fyrst og fremst að sú gagnrýni sem er rannsökuð í þessu plaggi, sem kemur frá mörgum innan þessara fyrirtækja á þessum tímapunkti - að þetta sé iðnaður sem, þrátt fyrir tilvistarvandann, er að lenda í einhverju kapphlaupi við botninn um öryggi og þar sem hraðinn er að trompa allt annað - þessi áhyggjur hafa aukist. Og ég held að þessar áhyggjur hafi verið staðfestar eftir því sem síðastliðið eitt og hálft ár hefur gerst. Á sama tíma hefur viðhorf til Sam Altman breyst sérstaklega. Þegar við byrjuðum að ræða við heimildarmenn um þetta, var fólk virkilega, virkilega tortryggt við að vera vitnað í þetta og fara á blað um þetta.
Í lok skýrslugerðarinnar okkar ertu kominn með skýrslur þar sem fólk er að tala um þetta mjög opinskátt og skýrt og þú ert með stjórnarmenn sem segja hluti eins og: „Hann er sjúklegur lygari. Hann er félagsmálamaður.“ Það eru margvísleg sjónarmið frá: „Þetta er hættulegt miðað við öryggisatriði og við þurfum leiðtoga þessarar tækni sem hafa aukna heilindi,“ alla leið upp til að eins, „Gleymdu öryggisþáttunum, þetta er hegðun sem er óviðunandi fyrir hvaða stjórnendur sem er í hvaða stóru fyrirtæki sem er, að það skapar bara of mikla truflun.
Samtalið hefur því orðið mun skýrara á þann hátt sem finnst kannski seint, en er hughreystandi í einum skilningi. Og Sam Altman, honum til sóma... Verkið er mjög sanngjarnt og jafnvel rausnarlegt, myndi ég segja, við Sam. Þetta er ekki tegund af verki þar sem það var mikið af „fáðu þér“ dóti. Ég eyddi mörgum, mörgum klukkutímum í símanum með honum þegar við vorum að klára þetta og heyrði virkilega í honum.
Eins og þú getur ímyndað þér, í verki sem þessu, kemst ekki allt inn. Sum þessara mála í þessu voru vegna þess að ég hlustaði af einlægni. Og ef Sam var í raun að koma með rök sem mér fannst bera vatn, að eitthvað, jafnvel þótt það væri satt, gæti verið tilkomumikið, þá skjátlaðist mér í raun um að halda þessari réttarrannsókn og mæla. Svo ég held að það sé tekið réttilega á móti þessu og ég vona bara að þessi staðreyndaskrá sem hefur safnast upp á þessu tímabili geti komið af stað meira styrkjandi samtali um þörfina á eftirliti.
Það er reyndar næsta spurning mín. Ég held að þú hafir talað við Sam tugi sinnum á meðan þú sagðir frá þessari sögu. Aftur, þetta eru mörg samtöl á löngum tíma. Hélt þú að Sam hefði breyst í gegnum skýrslugerðina síðastliðið eitt og hálft ár?
Já. Ég held að einn áhugaverðasti undirþráðurinn í þessu sé að Sam Altman er líka að tala um þennan eiginleika með skýrari hætti en hann hefur gert áður. Staða Sams í þessu verki er ekki eins og: "Það er ekkert þarna, þetta er ekki satt; ég veit ekki hvað þú ert að tala um." Stillingin sem hann hefur er sú að hann segir að þetta megi rekja til tilhneigingar til að þóknast fólki og eins konar átakafælni. Hann viðurkennir að það hafi valdið honum vandamálum, sérstaklega fyrr á ferlinum.
Hann er að segja: „Jæja, ég er að fara framhjá því, eða hef að einhverju leyti færst framhjá því. Ég held að það sem er mjög áhugavert fyrir mig er hópur fólks sem við ræddum við sem voru ekki bara svona talsmenn öryggis, ekki bara undirliggjandi tæknifræðingar sem hafa mjög oft tilhneigingu til að hafa þessar bráðu öryggisáhyggjur, heldur einnig raunsærir, stórir fjárfestar. Þeir eru bakhjarlar Sams, sem í sumum tilfellum skoða þessa spurningu og tala um að hafa jafnvel gegnt lykilhlutverki í því að hann kom aftur eftir skotið. Núna, um þessa spurningu um hvort hann hafi umbætur, og að hvaða marki er sú breyting þýðingarmikil, segja þeir: „Jæja, við gáfum honum ávinning af vafanum á sínum tíma.
Ég er sérstaklega að hugsa um einn áberandi fjárfesti sem sagði: „En síðan þá virðist ljóst að hann hafi ekki verið tekinn út á bak við viðarskúrinn,“ sem var setningin sem þessi notaði, að því marki sem nauðsynlegt var. Þess vegna virðist sem þetta sé nú stöðugur eiginleiki. Við erum að sjá þetta í áframhaldandi hátt. Þú getur skoðað nokkur af stærstu viðskiptum OpenAIsambönd og hvernig þau bera vægi þess vantrausts á viðvarandi hátt.
Eins og með Microsoft, þú talar við stjórnendur þarna, og þeir hafa mjög bráðar og nýlega hvata áhyggjur. Það er tilvik þar sem, sama dag og OpenAI er að staðfesta einkarétt sinn hjá Microsoft með tilliti til undirliggjandi ríkisfangslausra gervigreindargerða, tilkynnir það einnig nýjan samning við Amazon sem snýr að sölu fyrirtækjalausna til að byggja gervigreind umboðsmenn sem eru staðfastir, sem þýðir að þeir hafa minni.
Þú talar við Microsoft fólk og þeir eru eins og: „Það er ekki hægt að gera það án þess að hafa samskipti við undirliggjandi efni sem við erum með einkaréttarsamning um. Þannig að þetta er bara eitt af mörgum litlum dæmum þar sem þessi eiginleiki hefur hneigð inn í áframhaldandi viðskiptastarfsemi allan tímann og er viðfangsefni virkra áhyggjuefna innan stjórnar OpenAI, innan stjórnenda þess og í breiðari tæknisamfélagi.
Þú heldur áfram að segja þennan „eiginleika“. Það er lína í sögunni sem mér finnst eins og ritgerðin og hún er lýsing á eiginleikum sem þú ert að lýsa. Það er að „Sam Altman er óheftur af sannleikanum“ og að hann hefur „tveir eiginleikar sem sjást næstum aldrei í sömu manneskjunni: sá fyrri er sterk löngun til að þóknast fólki, að vera hrifinn af öllum samskiptum, og hið síðara er nánast félagsfræðilegur skortur á umhyggju fyrir afleiðingum sem geta hlotist af því að blekkja einhvern.
Ég verð að segja þér að ég las þessa setningu 500 sinnum og ég reyndi að ímynda mér að segja alltaf hvað fólk vildi að væri líkað við og vera ekki í uppnámi þegar það fannst logið að því. Og ég gat ekki látið tilfinningalegt ástand mitt skilja hvernig þessir hlutir geta verið til í sömu manneskjunni. Þú hefur talað mikið við Sam og þú hefur talað við fólk sem hefur upplifað þessa eiginleika. Hvernig gerir hann það?
Já. Það er áhugavert á mannlegum vettvangi vegna þess að ég nálgast skýrslur eins og þessa með alvöru áherslu á að manneskju hvern sem er í hjarta þess og leita að djúpum skilningi og samúð. Þegar ég reyndi að nálgast þetta frá mannlegra sjónarhorni og sagði: "Hey, þetta væri hrikalegt fyrir mig ef svo margir sem ég hef unnið með sögðu að ég væri sjúklegur lygari. Hvernig berðu þetta þungt? Hvernig talar þú um það í meðferð? Hver er sagan sem þú segir sjálfum þér um það?"
Ég fékk einhvers konar, að mínu mati, kannski vestanhafs skrímsli um það eins og: "Já, mér líkar við öndunarvinnu." En ekki mikið af þeirri tegund af sterku tilfinningu um djúpa sjálfsátök sem ég held að mörg okkar myndu líklega hafa ef við myndum sjá svona endurgjöf um hegðun okkar og meðferð okkar á fólki.
Ég held að það snúi í raun að víðtækara svari við spurningunni líka. Sam fullyrðir að þessi eiginleiki hafi valdið vandamálum, en einnig að hann sé hluti af því sem hefur gert honum kleift að flýta fyrir vexti OpenAI svo mikið að hann geti sameinað og þóknast mismunandi hópum fólks. Hann er stöðugt að sannfæra öll þessi andstæðu kjördæmi um að það sem þeim sé annt um sé það sem honum sé annt um. Og það getur verið mjög gagnleg færni fyrir stofnanda. Ég hef talað við fjárfesta sem segja síðan: "Jæja, kannski er það minna gagnleg kunnátta til að reka fyrirtæki vegna þess að það sáir svo miklu ósætti."
En á persónulegu hliðinni hjá Sam, þá held ég að það sem ég tek upp á þegar ég reyni að tengjast á mannlegum vettvangi sé augljós skortur á dýpri árekstrum, ígrundun og sjálfsábyrgð, sem einnig upplýsir um það ofurkraft eða ábyrgð fyrirtækis sem er að undirbúa hlutabréfasölu.
Hann er einhver sem, með orðum eins fyrrverandi stjórnarmanns að nafni Sue Yoon, sem er á plötunni í verkinu og segir að orðasambandið sem hún notar sé „fecklessness“, getur raunverulega trúað breyttum veruleika sölutilkynninga sinna eða getur sannfært sjálfan sig um þá. Eða að minnsta kosti ef hann trúir þeim ekki, þá er hann fær um að blása í gegnum þá án þess að efast um sjálfan sig.
Ég held að hluturinn sem þú ert að tala um, þar sem þú eða ég gætum, þegar við erum að segja hlutinn og gerum okkur grein fyrir því að hann stangast á við aðra fullvissu sem við höfum gefið, gætum fengið smá stund til að frysta eða athuga okkur sjálf. Ég held að það gerist ekki hjá honum. Og það er víðtækari Silicon Valley efla menning og stofnendamenning sem nær yfir það.
Það er fyndið. The Verge er byggð á því sem jafngildir vörudómumdagskrá. Það er hjartað í því sem við gerum hér. Ég er með billjón dollara af Apple R&D einu sinni á ári og segi: „Þessi sími er sjö. Og það lögfestir nokkurn veginn allar skýrslur okkar og skoðanir okkar annars staðar. Við höfum matshlutverk og við eyðum svo miklum tíma í að skoða gervigreindar vörurnar og segja: „Virka þær?
Það finnst eins og það vanti mikið í samtalið um gervigreind eins og það er í dag. Það eru endalausar umræður um hvað það gæti gert, hversu hættulegt það gæti verið. Og svo borar þú niður, og þú segir: "Gerir það í raun það sem það á að gera í dag?" Í sumum tilfellum er svarið já. En í mörgum, mörgum tilfellum er svarið nei.
Það líður eins og það tengist efla menningunni sem þú ert að lýsa og einnig þeirri tilfinningu að, jæja, ef þú segir að það muni gera eitthvað og það gerir það ekki, og einhverjum líður illa, þá er það í lagi vegna þess að við erum á næsta hlut. Það er í fortíðinni. Og sérstaklega í gervigreind er Sam svo góður í að lofa stóru.
Bara í þessari viku, ég held að sama dag og sagan þín var birt, gaf OpenAI út stefnuskjal sem sagði að við yrðum að endurskoða samfélagssáttmálann og fá AI skilvirknistyrk frá stjórnvöldum. Þetta er stórmerkilegt loforð um hvernig einhver tækni gæti mótað framtíð heimsins og hvernig við lifum, og allt þetta byggir á því að tæknin virki á nákvæmlega þann hátt sem kannski hefur verið lofað að virka eða hún ætti að virka.
Fannst þér einhvern tímann Sam efast um gervigreind breytast í AGI eða ofurgreind eða komast í mark? Vegna þess að það er það sem ég velti mest fyrir mér. Er einhver hugleiðing um hvort þessi kjarnatækni geti gert allt það sem þeir segja að hún geti gert?
Það er nákvæmlega rétta spurningin. Það eru trúverðugir tæknifræðingar sem við ræddum við í þessum skýrslugerð - og augljóslega er Sam Altman ekki einn; hann er viðskiptafræðingur - sem segir að það sé bara fjarri lagi að Sam talar um tímalínuna fyrir þessa tækni. Það eru bloggfærslur sem eru nokkur ár aftur í tímann þar sem Sam er að segja: "Við höfum þegar náð sjóndeildarhring viðburðarins. AGI er í rauninni hér. Ofurgreind er handan við hornið. Við ætlum að vera á öðrum plánetum. Við ætlum að lækna allar tegundir krabbameins." Sannarlega, ég er ekki að fegra.
Krabbameinið er í raun áhugavert, að Sam er að efla manneskjuna sem læknaði fræðilega krabbamein hunds síns með ChatGPT, og það gerðist einfaldlega ekki. Þeir ræddu við ChatGPT, og það hjálpaði þeim að leiðbeina nokkrum rannsakendum sem raunverulega unnu verkið, en það er í rauninni ekki sagan að þetta tól læknaði þennan hund.
Ég er ánægður með að þú hafir bent á það atriði vegna þess að ég vil halda áfram að þessu stærra atriði um hvenær bæði möguleikarnir og áhættan af tækninni eru raunverulega að fara að vesta. En það er þess virði að minnast á þessar litlu hliðar sem gerast stöðugt frá Sam Altman, þar sem hann virðist endurtaka þennan eiginleika aftur.
Ég meina, til að nota sem dæmi WilmerHale skýrsluna, þar sem við höfðum þessar upplýsingar sem ekki höfðu verið skrifaðar, og vildum vita hvort munnleg skýrsla á leiðinni hafi verið gefin öðrum en þeim tveimur stjórnarmönnum sem Sam aðstoðaði við að setja upp til að hafa umsjón með þeim. Og hann sagði: „Já, já, nei, ég trúi því að það hafi verið gefið öllum sem komust í stjórnina eftir það. Og við höfum mann með beina þekkingu á ástandinu sem segir að þetta sé einfaldlega lygi. Og það virðist í raun og veru vera raunin, að það er ósatt. Ef við viljum vera gjafmild, gæti hann verið ranglega upplýstur.
Það er mikið af þessum frjálslegu tryggingum. Og ég nota það dæmi að hluta til vegna þess að það er frábært dæmi um að slíta, við skulum kalla það, sem getur haft raunverulegar afleiðingar lagalega. Ég þarf ekki að segja þér, samkvæmt Delaware fyrirtækjalögum, ef þetta fyrirtæki IPOs, hluthafar gætu, samkvæmt kafla 220, kvartað yfir þessu og krafist undirliggjandi gagna. Það eru nú þegar stjórnarmenn sem segja hluti eins og: „Jæja, bíddu aðeins, þessi kynningarfundur hefði átt að gerast.
Svo þessir hlutir sem virðast hoppa út úr munninum á honum allan tímann, þeir geta haft raunveruleg áhrif á markaðinn, raunveruleg áhrif fyrir OpenAI. Með því að færa það aftur til þess tegundar útópísks hype-tungumála sem hefur komið upp á yfirborðið, held ég að ekki fyrir tilviljun daginn sem þetta verk kom út, þá hafi það líka áhrif á okkur öll, vegna þess að hætturnar eru svo alvarlegar með tilliti til þess hvernig það erverið beitt í vopnabúnaði, hvernig það er notað til að bera kennsl á efnahernað, möguleika á óupplýsingum og vegna þess hvernig útópísk efla virðist vera að hvetja marga trúverðuga hagfræðinga til að segja: „Þetta hefur öll merki um bólu.
Jafnvel Sam Altman hefur sagt: "Einhver mun tapa miklum peningum hér." Það gæti raunverulega valdið miklum hagvexti í Bandaríkjunum og á heimsvísu, ef það er eins og sönn gata á bólu sem felur í sér að öll þessi fyrirtæki gera samninga við hvert annað, fara allt í gervigreind á meðan þau taka svo mikið lán. Svo það sem Sam Altman segir skiptir máli, og ég held að yfirgnæfandi fólks í kringum hann, þú nefndir að við töluðum við meira en hundrað, það var í raun vel yfir hundrað. Við áttum samtal við endalínuna þar sem það er eins og: "Væri það of smámunalegt að segja að þetta sé svona miklu hærri tala?" Og við vorum eins og, "Já, við skulum gera lítið úr. Við munum spila þetta flott." En það voru svo margir og svo verulegur meirihluti þeirra sagði: „Þetta er áhyggjuefni. Og ég held að það sé allt ástæðan.
Leyfðu mér að spyrja þig um þá tölu. Eins og þú nefndir þá varð fólk meira og opnara með áhyggjurnar eftir því sem á leið. Það líður eins og þrýstingurinn í kringum bóluna - kapphlaupið um að vinna, að borga upp alla þessa fjárfestingu, að standa uppi sem sigurvegari, til IPO - hafi breytt miklu viðhorfi. Það skapaði vissulega meiri þrýsting á Sam og OpenAI.
Við birtum frétt í vikunni um strauma OpenAI. Saga þín er hluti af því, en miklar starfsmannabreytingar í stjórnendum hjá OpenAI - fólk kemur og fer. Rannsakendur eru allir á leið í burtu, að mestu leyti til Anthropic, sem mér finnst mjög áhugavert. Þú sérð bara að þetta fyrirtæki finnur fyrir þrýstingi og það er að bregðast við þeim þrýstingi á einhvern hátt.
En svo hugsa ég til baka til þess að Sam var rekinn. Þetta er mér bara eftirminnilegt. Það er eftirminnilegt fyrir engan annan, en ég tók við heimildasímtali í Bronx dýragarðinum klukkan 19:00 á föstudegi, og það var einhver sem sagði að þeir ætluðu að reyna að fá Sam aftur. Og svo eyddum við helginni í að elta þá sögu niður. Og ég var bara eins og: "Ég er í dýragarðinum. Hvað viltu að ég geri hér?" Og svarið var: "Vertu í símanum." Jæja, dóttir mín var eins og, "Slepptu símanum." Og það er það sem ég gerði.
Það var ríða eða deyja til að fá Sam aftur. Það fyrirtæki var eins og: "Nei, við látum ekki stjórnina reka Sam Altman." Fjárfestarnir, þeir eru vitnað í verk þitt, "Við fórum í stríð," held ég, er Thrive Capital staða, "til að fá Sam aftur." Microsoft fór í stríð til að fá Sam aftur. Það er seinna og nú segja allir: "Við erum að fara í IPO. Við komumst í mark. Við fengum strákinn okkar aftur og hann mun koma okkur í mark. Við höfum áhyggjur af því að hann sé lygari."
Hvers vegna var stríð að fá hann aftur þá? Vegna þess að það virðist ekki eins og neitt hafi í raun breyst. Þú talar um minnisblöðin sem Ilya Sutskever og [Anthropic forstjóri] Dario Amodei geymdu á meðan þeir voru samtímamenn Sam Altman. Áhyggjuefni Ilya var að Sam væri lygari.
Ekkert af því hefur breyst. Svo hvers vegna var það stríð að koma honum aftur þá? Og nú þegar við erum á endamarkinu virðist sem allar áhyggjur séu í lausu lofti gripnar.
Jæja, fyrst og fremst, afsakið dóttur þína og maka minn og allt hitt fólkið í kringum blaðamennina.
[Hlær] Þetta var heilmikil helgi fyrir alla.
Já, það tekur yfir líf manns, og þessi saga hefur örugglega mína, á síðasta tímabili. Það tengist reyndar þessu þema blaðamennsku og aðgengi að upplýsingum held ég. Fjárfestarnir sem fóru í stríð fyrir Sam og allir áttu þátt í að tryggja að hann kæmi aftur, og stjórnin sem hafði verið sérstaklega hönnuð til að vernda verkefni félagasamtaka um að setja öryggi yfir vöxt og reka framkvæmdastjóra ef ekki var hægt að treysta þeim fyrir það, þeir fóru í burtu. Það var allt vegna þess, já, markaðshvatarnir voru til staðar, ekki satt?
Sam tókst að sannfæra fólk: „Jæja, fyrirtækið á bara eftir að falla í sundur. En ástæðan fyrir því að hann hafði stuðning var skortur á upplýsingum. Þessir fjárfestar, í mörgum tilfellum, segja núna: "Ég lít til baka og ég held að ég hefði átt að hafa meiri áhyggjur ef ég hefði vitað til fulls hverjar kröfurnar voru og hverjar áhyggjurnar voru."
Ekki allir;Skoðanir eru mismunandi og við vitnum í ýmsar skoðanir, en það eru mikilvægar sem voru að bregðast við mjög að hluta til. Stjórnin sem rak Sam var, með orðum eins manns sem áður var í stjórninni, „mjög JV,“ og þeir þreifuðu boltanum harkalega. Og við skjalfestum undirliggjandi kvartanir og fólk getur ákveðið sjálft hvort það safnast upp í brýnt áhyggjuefni sem því fannst vera, en þessi rök og þessar upplýsingar voru ekki settar fram.
Þeir fengu það sem sumir þeirra viðurkenna nú sem slæma lögfræðiráðgjöf. Til að lýsa því muntu muna tilvitnunina og líklega munu margir hlustendur þínir og áhorfendur muna tilvitnunina sem skort á hreinskilni. Það var það sem það var minnkað í, og þá myndu þeir í rauninni ekki taka við símtölum.
Þeir myndu ekki taka við símtölum. Ég er viss um að þú hefur reynt. Allir sem ég þekki reyndu og það kom á þann stað að þú sem blaðamaður á ekki að gefa heimildarmönnum þínum ráð, en ég var eins og: „Þetta hverfur ef þú byrjar ekki að útskýra þig.
Og það er það sem gerðist. Gleymdu blaðamönnum. Þú lést Satya Nadella segja: „Hvað í fjandanum gerðist? Ég fæ engan til að útskýra fyrir mér. Og það er helsti fjárhagslegur bakhjarl fyrirtækisins. Og svo hefur þú Satya sem hringir í Reid Hoffman [stofnanda LinkedIn] og Reid hringir í kring og segir: „Ég veit ekki hvað í fjandanum gerðist.
Þeir eru skiljanlega í þessu tómi upplýsinga, að leita að hefðbundnum vísbendingum sem ekki eru gervigreind sem myndu réttlæta svo brýn, skyndilegan skothríð. Eins og, allt í lagi, voru þetta kynferðisglæpir? Var það fjárdráttur? Og öll lúmsku, en mér finnst þýðingarmikil, rökin um að þessi tækni sé öðruvísi og að svona stöðug uppsöfnun smærri svika gæti haft þýðingarmikil vægi bæði fyrir þetta fyrirtæki og kannski fyrir heiminn, var að mestu glatað. Þannig að kapítalískir hvatar unnu sigur, en líka fólkið sem gerði það fór út og var ekki alltaf að vinna með fullkomnar upplýsingar.
Mig langar bara að spyrja um „hvað allir héldu að þetta væri“ þáttinn í eitt augnablik, því ég sá fréttirnar svo sannarlega og ég sagði: „Ó, eitthvað slæmt hlýtur að hafa gerst.“ Þú hefur gert mikið af #MeToo skýrslum, frægt. Þú braut á Harvey Weinstein sögunni.
Þú eyddir miklum tíma í að segja frá þessum fullyrðingum sem ég held að þú hafir ákveðið að væru á endanum ástæðulausar: að Altman hafi beitt börn kynferðisofbeldi eða ráðið kynlífsstarfsmenn, eða jafnvel myrt OpenAI uppljóstrara. Ég meina, þú ert sú manneskja sem getur tilkynnt þetta efni hvað strangast. Ákváðuð þið að það yrði ekkert?
Jæja, sjáðu, ég er ekki í þeim bransa að segja að eitthvað hafi orðið að engu. Það sem ég get sagt er að ég eyddi mánuðum í að skoða þessar fullyrðingar og fann enga sönnun fyrir þeim. Og það var sláandi fyrir mig að þessir krakkar, þessi fyrirtæki sem hafa svo mikið vald yfir framtíð okkar, eru sannarlega að eyða óhóflegu magni af tíma sínum og fjármagni í barnalega drullubaráttu.
Einn framkvæmdastjóri lýsir því sem „Shakespearean“. Fjárhæðin af peningum einkarannsakanda og stjórnarandstöðuskjölunum sem verið er að taka saman er linnulaus. Og það óheppilega er að sú tegund af ljúffengu dóti, sem keppinautar Sams verða fyrir páfagaukum, er bara gert ráð fyrir staðreynd, ekki satt? Það er þessi ásökun um að hann elti drengi undir lögaldri og í mörgum kokteilboðum í Silicon Valley heyrirðu þetta. Á ráðstefnunni hef ég bara heyrt það endurtekið af trúverðugum, áberandi stjórnendum: „Allir vita að þetta er staðreynd.
Það sorglega er að ég tala um hvaðan þetta kemur, hina ýmsu vektora sem það er sent með. Elon Musk og félagar hans virðast vera að ýta undir alvöru harðkjarna skjöl sem eru svo sem ekki neitt. Þau eru gufuð þegar þú byrjar í raun að skoða undirliggjandi fullyrðingar. Það sorglega er að það byrgir í raun og veru hina gagnreyndari gagnrýni hér sem ég held að verðskuldi brýnt eftirlit og íhugun.
Hitt þemað sem raunverulega kemur í ljós í sögunni er næstum óttatilfinning um að Sam eigi svo marga vini - hann hefur fjárfest í svo mörgum fyrirtækjum frá fyrra starfi sínu sem forstjóri Y Combinator, bara til persónulegra fjárfestinga hans, sem sum hver eru í beinni andstöðu við hlutverk hans sem forstjóri OpenAI - og það er þögn í kringum hann.
Það sló mig þegar ég var að lesa eina línu sérstaklega. Þú lýsir minnisblöðum Ilya Sutskever og þau eru bara úti í Silicon Valley. Allirkallar þá Ilya minnisblöðin. En það er jafnvel þögn í kringum það. Þeim er sleppt, en ekki er fjallað um þau. Hvaðan heldurðu að það komi? Er það ótti? Er það löngun til að fá englafjárfestingu? Hvaðan kemur það?
Ég held að það sé mikið hugleysi, ég skal vera heiðarlegur. Eftir að hafa greint frá sögum um þjóðaröryggi þar sem heimildarmennirnir eru uppljóstrarar sem munu tapa öllu og verða fyrir ákæru, gera þeir samt rétt og tala um hlutina til að skapa ábyrgð. Ég hef unnið að kynferðisglæpasögunum sem þú nefndir, þar sem heimildarmenn eru fyrir miklum áföllum og óttast mjög persónulega hefnd.
Í mörgum tilfellum í kringum þennan takt ertu að eiga við fólk með eigin prófíl og völd. Þeir eru annað hvort frægir sjálfir eða þeir eru umkringdir frægu fólki. Þeir hafa öflugt viðskiptalíf. Að mínu mati er það í raun mjög lítil útsetning fyrir þá að tala um þetta efni. Og sem betur fer hreyfist nálin eins og við ræddum áðan og menn tala nú meira.
En í svo langan tíma þegði fólk eiginlega bara yfir þessu vegna þess að ég held að Kísildalarmenningin sé bara svo miskunnarlaus eiginhagsmunagæsla og miskunnarlaust viðskipta- og vaxtarmiðuð. Þannig að ég held að þetta bitni jafnvel á sumum þeirra sem tóku þátt í að reka Sam, þar sem þú sást dagana eftir, já, einn þáttur sem leiddi til þess að hann kom aftur og reka gamla stjórnarmenn var að hann safnaði saman fjárfestum sem voru ruglaðir í málstað hans.
En annað er að svo margir aðrir í kringum það sem höfðu áhyggjurnar og tjáðu þær brýnt, braut bara saman eins og servíettur og breyttu um lag um leið og þeir sáu að vindurinn blæs í hina áttina og þeir vildu inn í gróðalestina.
Það er frekar dimmt, satt að segja, frá sjónarhóli mínu sem blaðamanns.
Sumt af þessu fólki er Mira Murati, sem ég tel að í 20 mínútur hafi verið nýr forstjóri OpenAI. Henni var síðan skipt út. Þetta var mjög flókið dýnamík og augljóslega kom Sam aftur. Hinn aðilinn er Ilya Sutskever, sem var einn af atkvæðunum til að fjarlægja Sam, og svo skipti hann um skoðun, eða sagðist allavega hafa skipt um skoðun, og svo fór hann til að stofna eigið fyrirtæki. Veistu hvað fékk hann til að skipta um skoðun? Voru það bara peningar?
Jæja, og til að hafa það á hreinu, þá er ég ekki að nefna þetta tvennt. Það eru aðrir stjórnarmenn sem tóku þátt í hleðslunni sem einnig þögnuðu mjög eftir. Ég held að þetta sé eins og víðtækara sameiginlegt vandamál. Þetta er í sumum tilfellum fólk sem hafði siðferðilegan þráð til að gefa viðvörun og grípa til róttækra aðgerða og ber að hrósa því. Og þannig tryggir þú ábyrgð. Það hefði getað hjálpað mörgum sem verða fyrir áhrifum af þessari tækni. Það hefði getað hjálpað iðnaði að halda áfram að einbeita sér að öryggi.
En þegar þú ert að takast á við uppljóstrara og fólk sem reynir að kalla á þá ábyrgð mikið, þú sérð líka að það tekur trefjar að stinga því út og standa við sannfæringu þína. Og þessi iðnaður er sannarlega fullur af fólki sem bara stendur ekki við sannfæringu sína.
Jafnvel þó að þeir haldi að þeir séu að byggja upp stafrænan Guð sem mun einhvern veginn annað hvort útrýma öllu vinnuafli eða skapa meira vinnuafl, eða eitthvað mun gerast.
Jæja, það er málið. Þannig að sú menning að standa ekki við sannfæringu þína og allar siðferðislegar áhyggjur falla út af í augnablikinu þegar það er einhver hiti eða eitthvað sem gæti ógnað eigin stöðu þinni í bransanum er kannski allt í góðu að vissu leyti fyrir fyrirtæki eins og venjulega sem eru að búa til hvers konar búnað.
En þetta er líka sama fólkið og segir: „Þetta gæti bókstaflega drepið okkur öll. Og aftur, þú þarft ekki að fara í Terminator Skynet Extreme. Það er mengi áhættu sem þegar er að veruleika. Það er raunverulegt, og þeir eru rétt að vara við því, en þú yrðir að láta einhvern annan hægindastól sálfræðinga hvernig þessir tveir hlutir geta lifað í sama fólkinu þar sem þeir eru að gefa brýn viðvaranir, þeir eru kannski að setja tána í og reyna að gera eitthvað, og þá eru þeir bara að brjóta saman og þegja.
Það er einmitt þess vegna sem þú getur haft svona dæmi um að hlutir séu ekki skrifaðir og hlutir sópaðir undir teppið og enginn talaði um það opinberlega í mörg ár eftir á.
Hinn eðlilegi ábyrgðaraðili hér væri ekki forstjórar þessara fyrirtækja; það væru ríkisstjórnir. Í Bandaríkjunum, kannskiþað eru ríkisstjórnir, kannski er það alríkisstjórnin.
Vissulega vilja þessi fyrirtæki öll vera alþjóðleg. Það eru fullt af alþjóðlegum afleiðingum hér. Ég horfði á OpenAI, Google og Anthropic hvetja Biden stjórnina til að gefa út framkvæmdarskipun gervigreindar. Þetta var frekar tannlaust á endanum. Það sagði bara að þeir yrðu að tala um hvað gerðir þeirra væru færar um og gefa út öryggisprófanir. Og svo studdu þeir allir Trump, og Trump kom inn og þurrkaði allt þetta út og sagði: „Við verðum að vera samkeppnishæf. Þetta er frjálst fyrir alla. Farðu í það.
Á sama tíma eru þeir allir að reyna að afla fjár frá Miðausturlöndum sem eiga mikið af olíufé og vilja breyta hagkerfi sínu. Það eru stjórnmálamenn. Mér finnst eins og stjórnmálamenn ættu örugglega að skilja að einhver er að tala út um báðar hliðar munnsins og þeir munu ekki vera of í uppnámi ef einhver verður fyrir vonbrigðum á endanum, en stjórnmálamennirnir eru líka teknir í akstur. Af hverju heldurðu að það sé?
Þetta er í rauninni, held ég, hvers vegna verkið skiptir máli að mínu mati og hvers vegna það var þess virði að eyða öllum þessum tíma og smáatriðum í. Við erum í umhverfi þar sem kerfin sem, eins og þú segir, ættu að veita eftirlit, eru bara holuð út. Þetta er eftir borgara í Sameinuðu Ameríku, þar sem peningaflæði er svo óheft, og það er sérstakur samþjöppun þess vandamáls í kringum gervigreind, þar sem eru þessi PAC sem fjölga sér og flæða peninga til að stöðva þýðingarmikil reglugerð bæði á ríki og alríkisstigi.
Þú hefur [OpenAI meðstofnanda] Greg Brockman, næstforingja Sam, sem leggur beint af mörkum til nokkurra þeirra. Það leiðir til aðstæðna þar sem raunverulega er handtaka löggjafa og hugsanlegra eftirlitsaðila, og það er erfitt að komast út úr því. Það sorglega er að ég held að það séu til einföld stefnumótun, sem sum hver eru reynd annars staðar í heiminum, sem myndu hjálpa til við sum þessara ábyrgðarvandamála.
Þú gætir haft fleiri lögboðnar öryggisprófanir fyrir dreifingu, sem er eitthvað sem er nú þegar að gerast í Evrópu fyrir landamæragerðir. Þú gætir haft strangari skriflegar kröfur um opinberar skrár fyrir hvers konar innri rannsóknir þar sem við sáum að hlutum væri haldið óskrifað í þessu máli. Þú gætir haft öflugra sett af endurskoðunarkerfum fyrir þjóðaröryggi fyrir hvers konar innviði í Miðausturlöndum sem Sam Altman var að ýta undir.
Eins og þú segir, hann var að gera þetta agn og skipti við Biden-stjórnina, sagði: „Stjórðu okkur, stjórnaðu okkur,“ og hjálpaði þeim að búa til framkvæmdarskipun, og svo á augnablikinu sem Trump kemur inn, sannarlega á fyrstu dögum, var bara ekkert útilokað, „Við skulum flýta fyrir og byggja risastórt gagnaver háskólasvæði í Abu Dhabi. Þú gætir hafa, þetta er mjög einfalt, eins og vernd uppljóstrara. Það er engin alríkislög sem verndar starfsmenn gervigreindarfyrirtækis sem birta þessar tegundir öryggisvandamála sem eru birtar í þessu verki.
Við höfum tilfelli þar sem Jan Leike, sem var yfirmaður öryggismála hjá OpenAI, leiddi frábær samstillingu hjá fyrirtækinu. Hann skrifar stjórninni, í meginatriðum uppljóstrara efni, og segir að fyrirtækið sé að fara út af sporinu í öryggisverkefni sínu. Það er svona fólk sem ætti í raun að hafa eftirlitsstofnun sem þeir geta leitað til og þeir ættu að hafa skýra lögbundna vernd af því tagi sem við sjáum í öðrum geirum. Þetta er einfalt að endurtaka stjórn Sarbanes-Oxley-stíls.
Ég held að þrátt fyrir hversu alvarlegt vandamálið er að Silicon Valley taki við stjórn allra valdhafa, og þrátt fyrir hversu holar sumar þessara stofnana sem gætu veitt eftirlit og varnarliðir eru, þá trúi ég enn á grunnstærðfræði lýðræðis og stjórnmálamanna með eigin hagsmuni. Og það eru fleiri og fleiri skoðanakannanir sem koma fram að meirihluti Bandaríkjamanna telur að áhyggjur, spurningar eða áhætta af gervigreind vegi þyngra en ávinningurinn.
Svo ég held að peningaflóðið inn í stjórnmál frá gervigreind, það sé á okkar valdi að gera það að uppsprettu spurningamerkis með tilliti til stjórnmálamanna. Þegar Bandaríkjamenn fara að kjósa, ættu þeir að kanna hvort fólkið sem þeir kjósa, sérstaklega ef það er gagnrýnislaust og á móti regluverki, miðað við allar þessar áhyggjur, sé fjármögnuð af stórum tæknilegum sérhagsmunum. Þannig að ég held að ef fólk getur lesið svona hluti, hlustað á svona hlaðvarp og látið sér nægja að hugsa gagnrýnið umákvarðanir sínar sem kjósendur, er raunverulegt tækifæri til að búa til kjördæmi í Washington fulltrúa sem fylgjast með og knýja fram eftirlit.
Það gæti verið eitt það bjartsýnasta sem ég hef nokkurn tíma heyrt einhvern segja um núverandi gervigreindariðnað. Ég þakka það. Ég er heltekinn af skoðanakönnuninni sem þú ert að tala um. Það er mikið af því núna. Þetta er allt frekar í samræmi og það lítur út fyrir að því meira sem ungt fólk, sérstaklega, verður fyrir gervigreind, því vantraustara og reiðara er það vegna þess. Það er gildi allra skoðanakannana. Og ég horfi á það og ég held að já, klárir stjórnmálamenn myndu bara keppa á móti því. Þeir myndu bara segja: "Við ætlum að draga stóra tækni til ábyrgðar."
Svo hugsa ég um undanfarin 20 ár, stjórnmálamaður sem sagði að þeir ætli að draga stóra tækni til ábyrgðar, og ég á í erfiðleikum með að finna jafnvel eina stund af stórtækni sem er dregin til ábyrgðar. Það eina sem fær mig til að halda að þetta gæti verið öðruvísi er, jæja, þú þarft í raun að byggja gagnaverin og þú getur greitt atkvæði gegn því og þú getur beðið um það og þú getur mótmælt því.
Ég held að það sé stjórnmálamaður sem var bara skotinn í húsið sitt vegna þess að þeir kusu gagnaver. Spennan er að ná, ég myndi kalla það, hitastig. Þú hefur lýst einangrun Silicon Valley. Þetta er lokað vistkerfi. Það líður eins og þeir haldi að þeir geti stjórnað heiminum. Þeir eru að setja fullt af peningum í pólitík og þeir eru að hlaupa upp á móti þeim veruleika að fólk elskar ekki vörurnar, sem veitir þeim ekki mikla skjól. Því meira sem þeir nota vörurnar, því meira uppnámi eru þeir og stjórnmálamennirnir eru farnir að sjá að það hefur raunverulegar afleiðingar að styðja tækniiðnaðinn fram yfir fólkið sem þeir eru fulltrúar fyrir.
Þú hefur talað við svo marga. Telur þú að það sé mögulegt fyrir tækniiðnaðinn að læra þá lexíu sem er beint fyrir framan þá?
Þú segir að það líði eins og þeir haldi að þeir geti stjórnað heiminum án ábyrgðar. Ég held ekki einu sinni að það þurfi „finnst eins og“ undankeppnina. Ég meina, þú horfir á tungumálið sem Peter Thiel notar, það er skýrt. Auðvitað er það öfgafullt dæmi. Og Sam Altman, þó að hann sé náinn og upplýstur af hugmyndafræði Thiel að einhverju leyti, er allt öðruvísi manneskja sem gæti hljómað öðruvísi og meira mæld að vissu marki.
En ég held að víðtækari hugmyndafræðin sem þú færð frá Thiel, sem er í grundvallaratriðum: Við erum búin með lýðræði, við þurfum það ekki lengur. Við eigum svo mikið að við viljum bara byggja okkar eigin litlu glompur. Við erum ekki að fást við Carnegies lengur eða Rockefellers, þar sem þeir eru vondir krakkar, en þeir telja að þeir þurfi að taka þátt í samfélagssáttmála og byggja hluti fyrir fólk. Það er algjör níhilismi sem er að gerast.
Og ég held að það hafi bara verið gagnkvæmur styrkjandi spírall í nýlegri bandarískri sögu mógúla og einkafyrirtækja sem öðlast ofurstjórnarvald á meðan lýðræðislegar stofnanir sem gætu dregið þá til ábyrgðar eru holar út. Ég er ekki bjartsýn á þá hugmynd að þessir krakkar gætu bara vaknað einn daginn og hugsað: „Ha, kannski þurfum við að taka þátt í samfélaginu og hjálpa til við að byggja upp hluti fyrir fólk.
Ég meina, þú lítur á eins og örkosmískt dæmið um The Giving Pledge, þar sem það var augnablik þar sem það virtist vera góðgerðarstarfsemi, og sú stund er nú liðin og jafnvel gert að athlægi. Það er vandamál, víðtækari vandi ábyrgðarleysis sem ég held að sé aðeins hægt að leysa utanaðkomandi. Það verða kjósendur að virkja og endurvekja vald stjórnvalda. Og það er alveg rétt hjá þér að segja að aðalferillinn sem fólk gæti hugsanlega náð því er staðbundinn. Það snýst um hvar verið er að byggja upp innviði.
Þú nefndir einhverja hvítheita spennu í kringum þetta sem leiðir til ofbeldis og hótana, og augljóslega ætti enginn að vera ofbeldisfullur eða hótandi. Og ég er heldur ekki hér til að koma með sérstakar stefnuráðleggingar nema að kynna bara nokkur af þeim stefnuskrefum sem virðast grundvallaratriði og virka annars staðar í heiminum, ekki satt? Eða þá sem hafa unnið í öðrum geirum. Ég er ekki hér til að segja hvaða af þeim ætti að framkvæma og hvernig.
Ég held að eitthvað þurfi að gerast og það þarf að vera utanaðkomandi, ekki bara að treysta þessum fyrirtækjum. Því réttNú höfum við aðstæður þar sem fyrirtækin sem eru að þróa tæknina og eru best í stakk búin til að skilja áhættuna, og í raun eru þau sem vara okkur við áhættunni, eru líka þau sem hafa ekkert nema hvata til að fara hratt og hunsa þá áhættu. Og þú hefur bara ekkert til að vega upp á móti því. Svo hvaða umbætur kunna að taka hvað varðar sérstöðu, eitthvað verður að lenda í vegi fyrir því. Og ég sný enn þá bjartsýni um að fólkið skipti enn máli.
Ég kaupi almennt rök þín. Leyfðu mér bara að koma með eina pínulitlu mótrök sem ég held að ég geti sett fram. Annað sem gæti gerst fyrir utan kjörkassann er að kúlan springur, ekki satt? Að ekki ná öll þessi fyrirtæki í mark og að vörumarkaðurinn sé ekki hæfur fyrir gervigreindarforrit neytenda. Og aftur, ég sé það ekki alveg ennþá, en ég er neytendatæknigagnrýnandi og kannski hef ég bara hærri kröfur en allir aðrir.
Það er vörumarkaðshæfni í viðskiptaheiminum, ekki satt? Að láta fullt af gervigreindum umboðsmönnum skrifa fullt af hugbúnaði virðist vera raunverulegur markaður fyrir þessi verkfæri. Og þú getur lesið rökin frá þessum fyrirtækjum sem segja: "Við höfum leyst erfðaskrá, og það þýðir að við getum leyst hvað sem er. Ef við getum búið til hugbúnað getum við leyst öll vandamál."
Ég held að það séu raunveruleg takmörk fyrir því sem hugbúnaður getur gert. Það er frábært í viðskiptalífinu. Hugbúnaður getur ekki leyst öll vandamál í raun og veru, en hann verður að komast þangað. Þeir þurftu að klára verkið og kannski komast ekki allir í mark. Og það er hrun, og þessi kúla birtist, og kannski OpenAI eða Anthropic eða xAI, eitt þessara fyrirtækja mistakast og öll þessi fjárfesting hverfur.
Heldurðu að það hafi áhrif á þetta? Reyndar leyfi ég mér að spyrja fyrstu spurningarinnar fyrst. OpenAI er rétt á leiðinni að IPO. Það eru miklar efasemdir um Sam sem leiðtoga. Heldurðu að þeir komist í mark?
Ég ætla ekki að spá fyrir um það, en ég held að þú komir með mikilvægan punkt, sem er að markaðshvatar skipta Kísildalnum máli innbyrðis og óvissa núverandi loftbóluvirkni truflar aftur, hugsanlega, samkvæmt gagnrýnendum, kapphlaupið um botninn í öryggismálum.
Ég myndi líka bæta við það, ef þú horfir á sögulega forgang þar sem það er svipað og að því er virðist órjúfanlegt sett af markaðshvötum og hugsanlega skaðlegum áhrifum fyrir almenning, þá eru málaferli. Og þú sérð það sem áhyggjuefni undanfarið. Sam Altman er þarna úti í þessari viku og styður löggjöf sem myndi verja gervigreindarfyrirtæki frá sumum af þeim tegundum ábyrgðar sem OpenAI hefur verið uppvís að í ólöglegum dauðamálum, til dæmis. Auðvitað er vilji til að hafa þann skjöld fyrir ábyrgð.
Ég held að dómstólar geti samt verið þýðingarmikið fyrirkomulag og það verður mjög áhugavert að sjá hvernig þessi mál mótast. Þú sást nú þegar, til dæmis, hópmálsókn, sem ég og margir, margir aðrir höfundar sem ég þekki tilheyrum, gegn Anthropic fyrir notkun þeirra á bókum sem voru undir höfundarrétti. Ef það eru snjallir lögfræðingar og stefnendur sem eru sama sinnis, eins og við höfum í gegnum tíðina séð í málum frá stóru tóbaki til stórrar orku, geturðu líka fengið varnarliði og hvata til að hægja á, fara varlega eða vernda fólk þannig.
Það líður eins og öll kostnaðaruppbygging gervigreindariðnaðarins hangi á mjög, mjög góðgerðarlegri túlkun á sanngjarnri notkun. Kemur ekki nóg upp. Kostnaðaruppbygging þessara fyrirtækja gæti farið úr böndunum ef þau þurfa að borga þér og öllum öðrum sem þau hafa tekið vinnu sína, en það er óþægilegt að hugsa um það, svo við hugsum bara ekki um það. Rétt við hliðina eru allar þessar vörur nú reknar með tapi. Eins og í dag eru þau öll með tapi. Þeir eru að brenna meiri peningum en þeir geta aflað. Á einhverjum tímapunkti verða þeir að snúa rofanum.
Sam er kaupsýslumaður. Eins og þú hefur nefnt nokkrum sinnum, hann er ekki tæknifræðingur. Hann er viðskiptafræðingur. Heldurðu að hann sé tilbúinn að snúa rofanum og segja: "Við ætlum að græða dollara?" Vegna þess að þegar ég spyr: "Heldurðu að OpenAI muni ná því?" Það er þegar þeir verða að græða dollara. Og hingað til hefur Sam þénað alla sína dollara með því að biðja annað fólk um peningana sína í stað þess að láta fyrirtæki hans græða peninga.
Jæja, þetta er stór langvarandi spurning fyrir Silicon Valley, fyrir fjárfesta, fyrir almenning.Þú sérð nokkrar yfirlýsingar og tilfærslur frá OpenAI sem virðast sýna eins konar læti um það. Að leggja niður Sora, leggja niður nokkur aukaverkefni, reyna að ná í kjarnaafurðina. En á hinn bóginn sérðu samt, á sama tíma, tonn af trúboðsskriði, ekki satt? Jafnvel lítið dæmi - það er augljóslega ekki kjarninn í viðskiptum þeirra - er TBPN kaupin.
Við the vegur, rétt þegar við vorum að koma í mark og athuga staðreyndir, þá eignast fyrirtækið sem stendur frammi fyrir svona blaðamannaskoðun vettvang þar sem þeir geta haft beinari stjórn á samtalinu. Ég held að það séu margir fjárfestar sem hafa áhyggjur af því, miðað við samtölin sem ég hef átt, að þetta vandamál að lofa öllum hlutum nái einnig til þessa einbeitingarleysis í kjarnaviðskiptamódelinum. Og ég meina, þú ert nær þeirri tegund að spá og horfa á markaðinn en ég er líklega. Ég leyfi þér og hlustendum að dæma hvort þeir telji að OpenAI geti snúið rofanum.
Jæja, ég spurði spurningarinnar vegna þess að þú hefur tilvitnun í verkið frá háttsettum yfirmanni Microsoft og hún er sú að „arfleifð Sam gæti endað líkari Bernie Madoff eða Sam Bankman-Fried,“ frekar en Steve Jobs. Það er töluverður samanburður. Hvað fannst þér um þann samanburð?
Ég held að það sé orðatiltæki. Steve Jobs hluti var ekki hluti af tilvitnuninni. En það er áhugaverð tegund af edrú við það vegna þess að það er orðað eins og: "Ég held að það séu litlar en raunverulegar líkur á því að hann verði SBF eða Madoff-svindlari." Það þýðir, að mínu viti, ekki að Sam sé sakaður um þessar tilteknu tegundir svika eða glæpa, heldur að hversu mikil niðurlæging og blekking frá Sam gæti átt möguleika á að á endanum verði minnst á þeim mælikvarða.
Já, ég held að það sem er mest sláandi við þessa tilvitnun, satt að segja, er að þú hringir í Microsoft og þú færð ekki eins og: "Þetta er geggjað. Við höfum aldrei heyrt það." Þú færð mikið eins og, "Já, margir hérna halda það" sem er merkilegt. Og ég held að það snúi að þessum viðskiptaspurningum.
Einn fjárfestir sagði mér, til dæmis, í ljósi þess hvernig þessi eiginleiki hefur haldið áfram á árunum eftir hleðsluna“ – og þetta fannst þetta líka áhugaverð edrú hugsun – að það væri ekki endilega að Sam ætti að vera neðst á listanum, eins og ætti að vera lægst af þeim lágmarki hvað varðar fólkið sem alls ekki má byggja þessa tækni, fyrir hvað það er nokkur maður sem er þess virði að þessi manneskja sé þess virði. setur hann kannski neðst á lista yfir fólk sem ætti að byggja upp AGI, og fyrir neðan nokkra aðra leiðtoga á þessu sviði.
Þannig að mér fannst þetta áhugaverð úttekt og það er sú hugsun sem ég held að þú fáir frá raunverulegum raunsæisfræðingum sem eru kannski ekki jafn mikið að skipta sér af öryggisáhyggjunum. Þeir eru bara vaxtarmiðaðir og þeir halda að OpenAI eigi nú í vandræðum með Sam Altman.
Microsoft verkið er mjög áhugavert. Það fyrirtæki taldi sig vera á toppi heimsins. Að þeir hefðu fjárfest í þessari fjárfestingu og þeir ætluðu að stökkva alla, sérstaklega og síðast en ekki síst, Google, og komast aftur inn í góða náð neytenda. Það stig sem þeim finnst brenna af þessu ævintýri - þetta er mjög edrú rekið fyrirtæki - held ég að ekki sé hægt að ofmeta það.
Þú nefndir persónurnar og persónueinkennin. Ég vil enda hér með spurningu frá hlustendum okkar. Ég sagði í hinum þættinum okkar, The Vergecast, að ég ætlaði að tala við þig og ég sagði: „Ef þú hefur spurningar handa Ronan um þessa sögu, láttu mig þá vita. Svo við höfum einn hérna sem ég held að tengist vel því sem þú ert að lýsa. Ég ætla bara að lesa það fyrir þig:
„Hvernig eru röksemdir fyrir slæmri hegðun, niðurskurðaraðgerðum Altmans og annarra gervigreindarleiðtoga frábrugðnar þeim röksemdum sem Ronan hefur heyrt frá öðrum háttsettum leiðtogum í stjórnmálum og fjölmiðlum? Réttlæta þeir ekki allir gjörðir sínar með því að þetta sé hvernig heimurinn breytist? Ef ég geri þetta ekki mun einhver annar gera það?"
Já, það er ýmislegt í gangi. Ég myndi segja að það sem er sérstakt fyrir gervigreind er að tilvistarhluturinn sem er svo einstaklega mikill þýðir að bæði áhættuyfirlýsingarnar eru öfgafullar, ekki satt? Þú átt Sam Altmanog sagði: „Þetta gæti verið slökkt ljós fyrir okkur öll. Og líka, gætu gagnrýnendur sagt, oflætið sem fyrirspyrjandi vísar til er öfgafullt, ekki satt?
Það sem Sam sakaði Elon um var að kannski vill hann bjarga mannkyninu, en aðeins ef það er hann. Svona egóþáttur að vilja vinna, sem er innramma sem Sam notar allan tímann, og að þetta sé einn fyrir sögubækurnar, þetta gæti breytt öllu. Svo þess vegna, jafnvel umfram „þú verður að brjóta nokkur egg“ hugarfar flestra fyrirtækja í Silicon Valley, þá er í huga sumra persóna sem leiða gervigreind, að ég held, algjör hagræðing fyrir hvaða falli sem er.
Og gleymdu að brjóta egg. Ég/held að margir undirliggjandi öryggisrannsakendur myndu segja að þeir gætu hugsanlega hætt við að brjóta landið, brjóta heiminn og brjóta milljónir manna sem vinna og öryggi þeirra eru á bláþræði - það er það sem er einstakt við það. Það er þar sem ég lýk, velti fyrir mér þessum skýrslum, og trúi því í raun að þetta snúist um meira en Sam Altman. Þetta snýst um iðnað sem er óheft og vaxandi vandamál þar sem Ameríka getur ekki takmarkað hann.
Já. Jæja, við höfðum smá bjartsýni þarna, en ég held að það sé góður staður til að yfirgefa það.
[Hlær] Enda á niðurgangi.
Auðvitað. Þetta er öll frábær saga, í raun. Musk-Altman réttarhöldin eru framundan. Ég held að við eigum eftir að læra miklu meira hér. Mig grunar að ég muni vilja tala við þig aftur. Ronan Farrow, þakka þér kærlega fyrir að vera á Decoder.
Þakka þér fyrir.
Spurningar eða athugasemdir um þennan þátt? Kíktu á okkur á [email protected]. Við lesum í raun hvern tölvupóst!
