Dnes na Decoderi hovorím s Ronanom Farrowom, jednou z najväčších hviezd investigatívneho spravodajstva, ktoré dnes pracuje. Rozbil príbeh Harveyho Weinsteina, medzi mnohými, mnohými ďalšími. A len minulý týždeň spolu so spoluautorom Andrewom Marantzom zverejnili v The New Yorker neuveriteľnú podrobnú funkciu o generálnom riaditeľovi OpenAI Sam Altmanovi, jeho dôveryhodnosti a vzostupe samotnej OpenAI.
Jedna poznámka predtým, ako pôjdeme ďalej – The New Yorker uverejnil tento príbeh a Ronan a ja sme mali tento rozhovor predtým, ako sme poznali úplný rozsah útokov na Altmanov dom, takže nás o tom nebudete priamo počuť. Ale len aby som to povedal, myslím si, že násilie akéhokoľvek druhu je neprijateľné, tieto útoky na Sama boli neprijateľné a ten druh bezmocnosti, ktorý ľudia pociťujú a ktorý vedie k tomuto druhu násilia, je sám osebe neprijateľný a stojí za to oveľa viac kontroly zo strany priemyslu aj našich politických vodcov. Dúfam, že je to jasné.
Zamerajte sa na predplatiteľov, nezabudnite, že získate exkluzívny prístup k dekodéru bez reklám, kdekoľvek dostanete svoje podcasty. Zamierte sem. Nie ste predplatiteľom? Prihlásiť sa môžete tu.
Všetko, čo bolo povedané, okolo Altmana sa toho veľa víri, čo je férová hra na dôsledné podávanie správ – taký druh podávania správ, ktorý sa rozhodli robiť Ronan a Andrew. Vďaka popularite ChatGPT sa Altman stal najviditeľnejšou figúrkou odvetvia AI, keď za pár rokov premenil kedysi neziskové výskumné laboratórium na súkromnú spoločnosť s takmer biliónmi dolárov. Mýtus o Altmanovi je však hlboko rozporuplný, rovnako definovaný ako jeho očividnou schopnosťou obchodovať, tak aj jeho hlásenou tendenciou... no, klamať všetkým okolo seba.
Príbeh má viac ako 17 000 slov a pravdepodobne obsahuje definitívny popis toho, čo sa stalo v roku 2023, keď správna rada OpenAI veľmi náhle vyhodila Altmana kvôli jeho údajnému klamstvu, len aby bol takmer okamžite znovu zamestnaný. Je to tiež hlboký ponor do Altmanovho osobného života, jeho investícií, dvorenia peňazí z Blízkeho východu a jeho vlastných úvah o jeho minulom správaní a charakterových črtách, ktoré viedli jeden zdroj k tvrdeniu, že „neobmedzuje ho pravda“. Naozaj vám odporúčam prečítať si celý príbeh; Mám podozrenie, že sa na to bude odkazovať ešte mnoho rokov.
Ronan sa s Altmanom veľakrát rozprával počas 18 mesiacov, ktoré strávil nahlasovaním tohto dielu, a tak jedna z hlavných vecí, na ktorú som bol zvedavý, bolo, či za ten čas cítil v Altmanovi nejakú zmenu. Koniec koncov, v AI, technike a vo svete sa toho za posledný rok a pol udialo veľa.
Počujete Ronana hovoriť o tom veľmi priamo, rovnako ako jeho pocit, že ľudia sú oveľa ochotnejší hovoriť o Altmanovej schopnosti preniesť pravdu. Ľudia sa nahlas a nahlas začínajú pýtať, či sa správanie ľudí ako Altman týka nielen AI alebo techniky, ale aj spoločnej budúcnosti spoločnosti.
Dobre: Ronan Farrow o Samovi Altmanovi, AI a pravde. Ideme na to.
Tento rozhovor bol mierne upravený kvôli dĺžke a jasnosti.
Ronan Farrow, ste investigatívny reportér a prispievateľ do The New Yorker. Vitajte v Dekodéri.
Som rád, že som tu. Ďakujem, že ma máš.
Som veľmi rád, že sa s vami môžem porozprávať. Práve ste napísali veľký kus pre The New Yorker. Je to profil Sama Altmana a spolu s ním aj OpenAI. Čítal som o tom, že tak ako všetky skvelé funkcie, aj tento, s prísnym podávaním správ, potvrdzuje veľa pocitov, ktoré ľudia mali o Samovi Altmanovi už veľmi dlho. Očividne ste to zverejnili, dostali ste na to reakcie. Ako to teraz vnímaš?
Vlastne ma potešilo, do akej miery sa to prelomilo v čase, keď je pozornosť ekonomiky taká schizofrenická a plytká. Toto je príbeh, ktorý sa podľa mňa dotýka každého z nás. A keď som strávil rok a pol svojho života a môj spoluautor, Andrew Marantz, tiež strávil ten svoj čas tým, že sa naozaj snažil urobiť niečo forenzné a precízne, je to vždy preto, že mám pocit, že v jadre príbehu sú väčšie štrukturálne problémy, ktoré ovplyvňujú ľudí mimo jednotlivca a spoločnosti.
Sam Altman, na pozadí humbukovej kultúry v Silicon Valley a startupov, ktoré sa nafúknu k masívnemu zhodnoteniu založenému na sľuboch, ktoré sa v budúcnosti môžu, ale nemusia splniť, a narastajúcemu prijatiu kultúry zakladateľa, ktorá si myslí, že hovoriť rôznym skupinám o rôznych protichodných veciach je vlastnosť, niebug...Aj na tomto pozadí je Sam Altman výnimočný prípad, keď každý v Silicon Valley, ktorý to očakáva, nemôže prestať hovoriť o otázke jeho dôveryhodnosti a jeho čestnosti.
Už sme vedeli, že ho vyhodili za nejakú verziu obvinení z nečestnosti alebo údajného sériového klamstva. Ale výnimočne, napriek tomu, že sa objavili úžasné správy, Keach Hagey na tom odviedol skvelú prácu. Karen Hao na tom odviedla skvelú prácu. Skutočne neexistovalo definitívne pochopenie skutočných údajných dôkazných bodov a dôvodov, prečo zostali mimo dohľadu verejnosti.
Takže bodom číslo jedna je, že ma potešuje skutočnosť, že niektoré z týchto medzier v našich verejných poznatkoch, a dokonca aj vo vedomostiach zasvätencov zo Silicon Valley, sa teraz o niečo viac vyplnili. Niektoré z dôvodov, prečo tam boli medzery, boli vyplnené o niečo viac.
Informujeme o prípadoch, keď ľudia v tejto spoločnosti mali skutočne pocit, že sú veci zakryté alebo zámerne nezdokumentované. Jednou z nových vecí v tomto príbehu je kľúčové vyšetrovanie právnickej firmy WilmerHale, čo je očividne luxusná, dôveryhodná, veľká právnická firma, ktorá robila vyšetrovania Enronu a WorldComu, ktoré, mimochodom, boli všetky rozsiahle, ako stovky publikovaných strán. WilmerHale vykonal toto vyšetrovanie, ktoré požadovali členovia predstavenstva, ktorí Altmana vyhodili ako podmienku ich odchodu, keď sa ich zbavil, a on sa vrátil. A mimoriadne – v očiach mnohých právnych expertov, s ktorými som hovoril, a šokujúco aj v očiach mnohých ľudí v tejto spoločnosti – to nepísali. Všetko, čo z toho vzniklo, bola 800-slovná tlačová správa od OpenAI, ktorá popisovala to, čo sa stalo, ako zlyhanie dôvery. A potvrdili sme, že to zostalo na ústnych brífingoch.
Existujú prípady, keď napríklad člen predstavenstva zdanlivo chce hlasovať proti konverzii z pôvodnej neziskovej formy OpenAI na ziskovú entitu, a je to zaznamenané ako zdržanie sa hlasovania. Na stretnutí ako keby právnik povedal: "No, to by mohlo spustiť príliš veľa kontroly." A osoba, ktorá chce hlasovať proti, bude zaznamenaná ako zdržanie sa všetkých vystúpení. Existuje vecný spor. OpenAI tvrdí niečo iné, ako si viete predstaviť. To všetko sú prípady, keď máte spoločnosť, ktorá na svoj účet drží našu budúcnosť vo svojich rukách.
Bezpečnostné stávky sú také akútne, že nezmizli. To je dôvod, prečo bola táto spoločnosť založená ako nezisková organizácia zameraná na bezpečnosť a kde sa veci zakrývali takým spôsobom, že dôveryhodní ľudia v tejto oblasti ju považovali za menej profesionálnu. A spájate to s pozadím, kde je tak malý politický apetít po zmysluplnej regulácii. Myslím, že je to veľmi horľavá situácia.
Nejde mi len o to, že Sam Altman si tieto otázky tak veľmi zaslúži. Je to tiež tým, že ktorýkoľvek z týchto ľudí v tejto oblasti a mnohé z kľúčových postáv prejavujú, ak nie túto zvláštnu výstrednú, údajnú vlastnosť neustále klamať, určite do istej miery mentalitu pretekania až po dno, kde ľudia, ktorí boli ochrancami, zmiernili tieto záväzky a postoj každého preteku.
Myslím si, že keď sa pozeráme na nedávne úniky z Anthropic, je tu osoba, ktorá kladie otázku, kto by mal mať prst na tlačidle v tomto diele. Odpoveď je, že ak nemáme zmysluplný dohľad, myslím si, že musíme klásť vážne otázky a snažiť sa o všetkých týchto chlapcoch odhaliť čo najviac informácií. Potešilo ma to, čo mi pripadá ako zmysluplný rozhovor o tom alebo o začiatkoch.
Dôvod, prečo som sa to takto spýtal, je, že ste na tom pracovali rok a pol. So spoluautorom Andrewom ste sa rozprávali, myslím, so 100 ľuďmi. To je dlhý čas na varenie príbehu. Myslím najmä na posledný rok a pol v AI, a chlapče, postoje a hodnoty všetkých týchto postáv sa veľmi rýchlo posunuli.
Možno nikto viac ako Sam Altman, ktorý začal ako predvolený víťaz, pretože vydali ChatGPT a všetci si mysleli, že to prevezme Google. A potom Google zareagoval, čo ich zrejme prekvapilo, že Google sa pokúsi ochrániť svoje podnikanie, možno jeden z najlepších podnikov v technologickej histórii, ak nie v histórii podnikania. Spoločnosť Antropic sa rozhodla, že sa zameria na podnik. Zdá sa, že preberá vedúce postaveniepretože podnikové využitie AI je také vysoké.
Teraz OpenAI preorientováva svoj produkt od „prevezmeme Google“ na Codex a oni prevezmú podnik. Len neviem celkom presne povedať, či sa v priebehu vášho spravodajstva za posledný rok a pol zdá, že sa postavy, s ktorými ste hovorili, zmenili? Zmenili sa podobne ako ich postoje a hodnoty?
áno. Predovšetkým si myslím, že kritika, ktorá je v tomto článku skúmaná a ktorá prichádza od mnohých ľudí v týchto spoločnostiach v tomto bode – že ide o odvetvie, ktoré napriek existenciálnym stávkam klesá do niečoho ako preteky ku dnu v bezpečnosti a kde rýchlosť prevyšuje všetko ostatné – táto obava sa stala naliehavejšou. A myslím si, že tieto obavy sa viac potvrdili, keďže uplynul rok a pol. Súčasne sa špecificky zmenili postoje k Samovi Altmanovi. Keď sme o tom začali hovoriť so zdrojmi, ľudia boli naozaj, naozaj znepokojení, že budú o tom citovaní a budú o tom nahrávať.
Na konci nášho spravodajstva máte súbor správ, kde o tom ľudia hovoria veľmi otvorene a explicitne, a máte členov predstavenstva, ktorí hovoria veci ako: "Je to patologický klamár. Je to sociopat." Existuje celý rad pohľadov od: „Toto je nebezpečné vzhľadom na bezpečnostné stávky a my potrebujeme lídrov tejto technológie, ktorí majú zvýšenú integritu“, až po „Zabudnite na bezpečnostné stávky, toto je správanie, ktoré je neudržateľné pre žiadneho výkonného pracovníka akejkoľvek veľkej spoločnosti, pretože vytvára príliš veľa dysfunkcií.“
Takže konverzácia sa stala oveľa explicitnejšou spôsobom, ktorý sa zdá byť oneskorený, ale v istom zmysle je povzbudzujúci. A Sam Altman, ku cti... Ten kúsok je veľmi férový a dokonca by som povedal, že k Samovi je veľkorysý. Toto nie je ten druh dielu, kde bolo veľa vecí „máš ťa“. Strávil som s ním veľa, veľa hodín telefonovaním, keď sme to dokončovali a naozaj som ho počul.
Ako si viete predstaviť, v takom kuse sa nie všetko dostane dovnútra. Niektoré z týchto prípadov v tomto boli preto, že som úprimne počúval. A ak Sam skutočne argumentoval tým, že mám pocit, že nosím vodu, že niečo, aj keby to bola pravda, by mohlo byť senzačné, naozaj som sa mýlil, pokiaľ ide o to, že som to považoval za súdne a odmerané. Takže si myslím, že to bolo prijaté správne, a ja len dúfam, že tento faktický záznam, ktorý sa nazhromaždil počas tohto obdobia, môže spustiť viac povzbudivú konverzáciu o potrebe dohľadu.
To je vlastne moja ďalšia otázka. Myslím, že ste sa so Samom rozprávali tucetkrát počas podávania správ o tomto príbehu. Opäť je to veľa rozhovorov za dlhé časové obdobie. Mysleli ste si, že sa Sam zmenil v priebehu spravodajstva za posledný rok a pol?
Áno. Myslím si, že jednou z najzaujímavejších podzápletiek je, že Sam Altman tiež hovorí o tejto vlastnosti explicitnejšie ako v minulosti. Postoj Sama v tomto diele nie je ako: "Nič tam nie je, to nie je pravda; neviem, o čom hovoríš." Jeho postoj je taký, že hovorí, že to možno pripísať tendencii páčiť sa ľuďom a akejsi averzii voči konfliktom. Priznáva, že mu to spôsobilo problémy, najmä na začiatku jeho kariéry.
Hovorí: "No, prechádzam cez to, alebo som do určitej miery prekročil to." Myslím, že to, čo je pre mňa skutočne zaujímavé, je skupina ľudí, s ktorými sme sa rozprávali a ktorí neboli len zástancami bezpečnosti, nielen základnými technickými výskumníkmi, ktorí majú veľmi často tieto akútne obavy o bezpečnosť, ale aj pragmatickými veľkými investormi. Sú Samovými zástancami, ktorí sa v niektorých prípadoch pozerajú na túto otázku a hovoria o tom, že dokonca zohrali kľúčovú úlohu pri jeho návrate po streľbe. Teraz na otázku, či sa zreformoval a do akej miery je táto zmena zmysluplná, hovoria: „Vtedy sme mu dali výhodu pochybnosti.“
Mám na mysli najmä jedného významného investora, ktorý povedal: „Ale odvtedy sa zdá jasné, že ho nevyviedli za drevárňou,“ čo bola fráza, ktorú tento použil v nevyhnutnom rozsahu. V dôsledku toho sa zdá, že toto je teraz stabilná vlastnosť. Vidíme to priebežne. Môžete sa pozrieť na niektoré z najväčších podnikov OpenAIvzťahy a spôsob, akým nesú váhu tejto nedôvery nepretržitým spôsobom.
Podobne ako v prípade Microsoftu, aj tu sa rozprávate s vedúcimi pracovníkmi a tí majú skutočne akútne a nedávno katalyzované obavy. V ten istý deň OpenAI opätovne potvrdzuje svoju exkluzivitu so spoločnosťou Microsoft, pokiaľ ide o základné modely AI bez štátnej príslušnosti, a zároveň oznamuje novú dohodu s Amazonom, ktorá sa týka predaja podnikových riešení na vytváranie stavových agentov AI, čo znamená, že majú pamäť.
Rozprávate sa s ľuďmi zo spoločnosti Microsoft a oni hovoria: „To nie je možné urobiť bez interakcie so základnými vecami, na ktoré máme zmluvu o exkluzivite.“ Takže to je len jeden z mnohých malých príkladov, kde táto vlastnosť neustále smeruje k prebiehajúcej obchodnej činnosti a je predmetom aktívneho záujmu v rámci predstavenstva OpenAI, v rámci jeho výkonného balíka a v širšej technickej komunite.
Stále hovoríš tú „vlastnosť“. V príbehu je línia, ktorá mi pripadá ako práca, a je to popis vlastnosti, ktorú opisujete. Je to tak, že „Sam Altman nie je obmedzený pravdou“ a že má „dve črty, ktoré sa takmer nikdy nevidia u tej istej osoby: prvou je silná túžba potešiť ľudí, byť obľúbený v akejkoľvek interakcii a druhou je takmer sociopatický nedostatok záujmu o dôsledky, ktoré môžu vyplynúť z toho, že niekoho oklame“.
Musím vám povedať, že som tú vetu čítal 500-krát a snažil som sa predstaviť si, že vždy poviem, čo ľudia chcú, aby sa im páčili, a potom som nebol naštvaný, keď sa cítili klamaní. A nedokázal som prinútiť svoj emocionálny stav pochopiť, ako tieto veci môžu existovať v tej istej osobe. Veľa ste sa rozprávali so Samom a rozprávali ste sa s ľuďmi, ktorí zažili tieto črty. ako to robí?
Áno. Je to zaujímavé na ľudskej úrovni, pretože takto pristupujem k spravodajským orgánom so skutočným zameraním na poľudštenie toho, kto je v centre toho, a hľadám hlboké porozumenie a empatiu. Keď som sa k tomu pokúsil pristupovať z ľudskejšieho hľadiska a povedal som: "Hej, bolo by to pre mňa zničujúce, keby toľko ľudí, s ktorými som pracoval, povedalo, že som patologický klamár. Ako nesieš túto váhu? Ako o tom hovoríš v terapii? Aký je príbeh, ktorý si o tom rozprávaš?"
Z môjho pohľadu mám nejaké frázy, možno zo západného pobrežia, ako napríklad: "Áno, mám rád prácu s dychom." Ale nie veľa takého vzpružujúceho pocitu hlbokej sebakonfrontácie, ktorý by podľa mňa mnohí z nás pravdepodobne mali, keby sme videli tento druh spätnej väzby o našom správaní a našom zaobchádzaní s ľuďmi.
Myslím, že to vlastne súvisí aj so širšou odpoveďou na otázku. Sam tvrdí, že táto vlastnosť spôsobila problémy, ale aj to, že je súčasťou toho, čo mu umožnilo urýchliť rast OpenAI natoľko, že dokáže zjednotiť a potešiť rôzne skupiny ľudí. Neustále presviedča všetky tieto konfliktné obvody, že to, na čom im záleží, je to, na čom on. A to môže byť pre zakladateľa skutočne užitočná zručnosť. Hovoril som s investormi, ktorí potom povedali: "No, možno je to menej užitočná zručnosť pre skutočné vedenie spoločnosti, pretože zasieva toľko nezhôd."
Ale z osobnej stránky Sama si myslím, že vec, ktorú si uvedomujem, keď sa pokúšam spojiť na ľudskej úrovni, je zjavný nedostatok hlbšej konfrontácie, reflexie a vlastnej zodpovednosti, čo tiež informuje o tejto superveľmoci alebo zodpovednosti pre spoločnosť, ktorá sa pripravuje na IPO.
Je to niekto, kto, slovami jednej bývalej členky predstavenstva menom Sue Yoon, ktorá je na nahrávke v skladbe a hovorí, že frázu, ktorú používa, až do bodu „bezočivosť“, je schopný skutočne uveriť meniacej sa realite svojich predajných návrhov alebo sa o nich dokáže presvedčiť. Alebo prinajmenšom, ak im neverí, je schopný nimi preniknúť bez zmysluplných pochybností.
Myslím si, že vec, o ktorej hovoríte, kde by ste vy alebo ja mohli, keď to hovoríme a uvedomujeme si, že je to v rozpore s ďalším uistením, ktoré sme urobili, na chvíľu zamrzli alebo sa skontrolovali. Myslím, že s ním sa to nerobí. A existuje širšia humbuková kultúra Silicon Valley a kultúra zakladateľov, ktorá to tak trochu zahŕňa.
je to smiešne. The Verge je postavený na tom, čo sa rovná recenziám produktovprogram. Je to srdce toho, čo tu robíme. Raz za rok držím bilión dolárov výskumu a vývoja spoločnosti Apple a hovorím: „Tento telefón je sedem. A tak trochu legitimizuje všetky naše spravodajstvo a naše názory inde. Máme hodnotiacu funkciu a trávime toľko času pozeraním sa na produkty AI a hovorením: „Fungujú?
Zdá sa, že to chýba v mnohých konverzáciách o AI, ako je to dnes. Vedú sa nekonečné rozhovory o tom, čo môže robiť, aké nebezpečné to môže byť. A potom sa dostanete do hĺbky a poviete: "Skutočne to dnes robí to, čo má?" V niektorých prípadoch je odpoveď áno. Ale v mnohých a mnohých prípadoch je odpoveď nie.
Zdá sa, že sa to spája s kultúrou humbuku, ktorú opisujete, a tiež s pocitom, že ak poviete, že to niečo urobí a nie, a niekto sa cíti zle, je to v poriadku, pretože sme na ďalšej veci. To je minulosť. A najmä v AI je Sam taký dobrý v dávať veľké sľuby.
Práve tento týždeň, myslím, že v ten istý deň, ako bol váš príbeh zverejnený, OpenAI zverejnila dokument o politike, ktorý hovorí, že musíme prehodnotiť spoločenskú zmluvu a mať od vlády štipendiá na efektívnosť AI. Toto je veľký prísľub o tom, ako by niektoré technológie mohli ovplyvňovať budúcnosť sveta a to, ako žijeme, a to všetko závisí od toho, že technológia bude fungovať presne tak, ako možno sľúbila, že bude fungovať alebo by mala fungovať.
Zistili ste niekedy, že Sam pochybuje o tom, že sa AI mení na AGI alebo superinteligenciu alebo sa dostáva do cieľa? Pretože to je to, čo ma zaujíma najviac. Existuje nejaká úvaha o tom, či táto základná technológia dokáže robiť všetky veci, o ktorých sa hovorí, že dokáže?
Je to presne ten správny súbor otázok. Existujú dôveryhodní technológovia, s ktorými sme hovorili v tomto súbore správ – a Sam Altman ním samozrejme nie je; je to obchodník – ktorý tvrdí, že spôsob, akým Sam hovorí o časovej osi tejto technológie, je úplne mimo. Existujú blogové príspevky spred niekoľkých rokov, kde Sam hovorí: "Už sme dosiahli horizont udalostí. AGI je v podstate tu. Superinteligencia je za rohom. Budeme na iných planétach. Budeme liečiť všetky formy rakoviny." Naozaj, neprikrášľujem sa.
Ten rakovinový je skutočne zaujímavý, že Sam propaguje osobu, ktorá teoreticky vyliečila rakovinu ich psa pomocou ChatGPT, a to sa jednoducho nestalo. Rozprávali sa s ChatGPT a to im pomohlo viesť niektorých výskumníkov, ktorí skutočne robili prácu, ale individuálny, tento nástroj vyliečený tohto psa nie je v skutočnosti príbeh.
Som rád, že ste na tento bod upozornili, pretože chcem prejsť k tomuto väčšiemu bodu o tom, kedy sa potenciál aj riziko technológie skutočne prejavia. Ale stojí za zmienku o týchto malých maličkostiach, ktoré sa neustále dejú od Sama Altmana, kde sa zdá, že túto vlastnosť znovu stelesňuje.
Chcem povedať, aby som použil príklad správy WilmerHale, kde sme mali tieto informácie, ktoré sa nepísali, a chceli sme vedieť, či ústny brief počas cesty dostal niekto iný, než dvaja členovia predstavenstva, ktorí nám pomáhali pri inštalácii, aby na to dohliadal. A on povedal: "Áno, áno, nie, verím, že to bolo dané každému, kto vstúpil do predstavenstva potom." A máme osobu, ktorá priamo pozná situáciu, ktorá hovorí, že je to jednoducho lož. A zdá sa, že je to naozaj tak, že to nie je pravda. Ak chceme byť veľkorysí, možno bol zle informovaný.
Týchto príležitostných záruk je veľa. A používam tento príklad čiastočne, pretože je to skvelý príklad pretvárky, nazvime to, ktoré môže mať skutočné právne dôsledky. Nemusím vám podľa zákona o obchodných spoločnostiach v Delaware hovoriť, že ak by táto spoločnosť IPO, akcionári by sa na to mohli podľa oddielu 220 sťažovať a požadovať podkladovú dokumentáciu. Už sú tu členovia predstavenstva, ktorí hovoria veci ako: "No, počkajte chvíľu, ten brífing sa mal uskutočniť."
Takže tieto veci, ktoré mu neustále vyskakujú z úst, môžu mať skutočný vplyv na trh, skutočné účinky pre OpenAI. Keď to vrátim späť k druhu utopického humbuku, ktorý sa znovu objavil, myslím si, že nie náhodou v deň, keď tento diel vyšiel, má tiež dopad na nás všetkých, pretože nebezpečenstvá sú také akútne, pokiaľ ide o spôsob, akýmnasadenie v zbraniach, spôsob, akým sa používa na identifikáciu chemických bojových látok, dezinformačný potenciál a spôsob, akým sa zdá, že utopický humbuk núti mnohých dôveryhodných ekonómov povedať: „Toto má všetky znaky bubliny“.
Dokonca aj Sam Altman povedal: "Niekto tu príde o veľa peňazí." To by mohlo skutočne znížiť množstvo amerického a globálneho ekonomického rastu, ak existuje skutočné prepichnutie bubliny zahŕňajúcej všetky tieto spoločnosti, ktoré medzi sebou uzatvárajú dohody, idú naplno do AI a zároveň si tak veľa požičiavajú. Takže záleží na tom, čo hovorí Sam Altman, a myslím si, že prevaha ľudí okolo neho, spomínali ste, že sme hovorili s viac ako stovkou, v skutočnosti to bolo viac ako sto. V cieli sme mali konverzáciu ako: „Bolo by príliš malicherné povedať, že je to oveľa vyššie číslo? A my sme si povedali: "Áno, zľahčime to. Budeme to hrať v pohode." Ale bolo tam toľko ľudí a taká významná väčšina z nich povedala: "Toto je problém." A myslím, že to je všetko preto.
Dovoľte mi opýtať sa vás na to číslo. Ako ste spomenuli, ľudia boli s postupom času čoraz otvorenejší voči obavám. Zdá sa, že tlak okolo bubliny – preteky o víťazstvo, o splatenie všetkých týchto investícií, o to, stať sa víťazom, až po IPO – zmenil veľa postojov. Určite to vytvorilo väčší tlak na Sama a OpenAI.
Tento týždeň sme zverejnili príbeh len o vibráciách OpenAI. Váš príbeh je toho súčasťou, ale masívne personálne zmeny vo vedúcich pozíciách v OpenAI – ľudia prichádzajú a odchádzajú. Všetci výskumníci mieria preč, prevažne do Anthropic, čo je podľa mňa naozaj zaujímavé. Môžete len vidieť, že táto spoločnosť cíti tlak a nejakým spôsobom na tento tlak reaguje.
Ale potom si spomeniem, že Sam dostal padáka. Toto je pre mňa len nezabudnuteľné. Nie je to nezabudnuteľné pre nikoho iného, ale v piatok o 19:00 som zavolal zdroj do Zoo v Bronxe a bol to niekto, kto povedal, že sa pokúsia dostať Sama späť. A potom sme strávili víkend hľadaním tohto príbehu. A ja som len povedal: "Som v zoo. Čo chceš, aby som tu robil?" A odpoveď bola: "Zostaňte na telefóne." No, moja dcéra povedala: "Vypadni z telefónu." A to som urobil.
Bola to jazda alebo smrť dostať Sama späť. Tá spoločnosť znela: "Nie, nenecháme predstavenstvo vyhodiť Sama Altmana." Investori, cituje ich váš článok, „Išli sme do vojny,“ myslím, je pozícia Thrive Capital, „aby sme dostali Sama späť.“ Microsoft šiel do vojny, aby získal Sama späť. Je to neskôr a teraz si všetci hovoria: "Ideme na IPO. Dostali sme sa do cieľa. Dostali sme nášho chlapa späť a on nás dostane do cieľa. Obávame sa, že je klamár."
Prečo bola vojna o jeho získanie? Pretože sa nezdá, že by sa v skutočnosti niečo zmenilo. Hovoríte o poznámkach, ktoré si Ilya Sutskever a [výkonný riaditeľ Anthropic] Dario Amodei uchovávali, keď boli súčasníkmi Sama Altmana. Ilyova obava číslo jedna bola, že Sam je klamár.
Nič z toho sa nezmenilo. Tak prečo to bola vojna, aby sme ho priviedli späť? A teraz, keď sme v cieli, zdá sa, že všetky obavy sú otvorené.
No v prvom rade sa ospravedlň svojej dcére a môjmu partnerovi a všetkým ostatným ľuďom okolo novinárov.
[Smiech] Pre každého to bol pekný víkend.
Áno, preberá to život človeka a tento príbeh určite má aj môj, za posledné obdobie. Myslím si, že v skutočnosti súvisí s témou žurnalistiky a prístupu k informáciám. Investori, ktorí išli do vojny za Sama a všetci zohrali úlohu pri zabezpečovaní jeho návratu, a rada, ktorá bola špeciálne navrhnutá na ochranu poslania neziskovej organizácie uprednostniť bezpečnosť pred rastom a prepustiť manažéra, ak sa im to nedá veriť, odišli. To bolo všetko preto, že áno, boli tam stimuly trhu, však?
Sam dokázal presvedčiť ľudí: "No, spoločnosť sa jednoducho rozpadne." Ale dôvod, prečo mal podporu, bol nedostatok informácií. Títo investori teraz v mnohých prípadoch hovoria: „Pozerám sa späť a myslím si, že by som mal mať viac obáv, keby som plne vedel, aké sú nároky a aké sú obavy.“
Nie všetky;názory sa rôznia a citujeme celý rad názorov, no sú aj takí významní, ktorí jednali na základe veľmi čiastkových informácií. Board, ktorý vystrelil Sama, bol podľa slov jednej osoby, ktorá bývala na boarde, „veľmi JV“ a tvrdo šmýkali s loptou. A zdokumentujeme základné sťažnosti a ľudia sa môžu sami rozhodnúť, či sa to nahromadí do druhu naliehavých obáv, ktoré cítili, ale tento argument a tieto informácie neboli prezentované.
Dostali to, čo niektorí z nich teraz uznávajú ako zlé právne rady. Aby ste to opísali, zapamätáte si citát a pravdepodobne si ho mnohí poslucháči a diváci zapamätajú ako nedostatok úprimnosti. Na to sa to zredukovalo a potom v podstate neprijímali hovory.
Neprijímali hovory. Som si istý, že ste to vyskúšali. Každý, koho poznám, sa o to pokúsil a dospelo to do bodu, keď ako novinár nemáte dávať svojim zdrojom rady, ale povedal som si: „Toto zmizne, ak nezačneš vysvetľovať sám seba.“
A to sa aj stalo. Zabudnite na novinárov. Satya Nadella vám povedal: "Čo sa do pekla stalo? Nikoho nemôžem prinútiť, aby mi to vysvetlil." A to je hlavný finančný podporovateľ spoločnosti. A potom máte Satyu, ktorý volá [spoluzakladateľovi LinkedIn] Reidovi Hoffmanovi a Reid obvoláva a hovorí: "Neviem, čo sa do čerta stalo."
Pochopiteľne sú v tej prázdnote informácií a hľadajú tradičné ukazovatele, ktoré nie sú AI, ktoré by ospravedlnili také naliehavé, náhle spustenie. Akože, dobre, boli to sexuálne zločiny? Bola to sprenevera? A celý ten jemný, ale myslím si, že zmysluplný, argument, že táto technológia je iná a že takýto druh stáleho hromadenia menších zrad by mohol mať zmysluplný význam pre tento biznis a možno aj pre svet, bol do značnej miery stratený. Takže zvíťazili kapitalistické stimuly, ale aj ľudia, ktorí to urobili, zhasli a nepracovali vždy s úplnými informáciami.
Chcem sa na chvíľu spýtať na aspekt „čo si všetci mysleli“, pretože som tie správy určite videl a povedal som: „Ach, muselo sa stať niečo zlé.“ Urobili ste veľa reportáží #MeToo, je to skvelé. Rozbili ste príbeh Harveyho Weinsteina.
Strávili ste veľa času informovaním o týchto tvrdeniach, o ktorých si myslím, že ste usúdili, že sú v konečnom dôsledku nepodložené: že Altman sexuálne napadol maloletých alebo si najal sexuálne pracovníčky, či dokonca zavraždil informátora OpenAI. Myslím tým, že vy ste osoba, ktorá môže nahlásiť tieto veci najdôslednejšie. Rozhodli ste sa, že z toho zišlo?
No, pozri, nemám v úmysle hovoriť, že niečo zmarilo. Môžem povedať, že som strávil mesiace skúmaním týchto tvrdení a nenašiel som pre ne potvrdenie. A bolo pre mňa zarážajúce, že títo chlapci, tieto spoločnosti, ktoré majú takú moc nad našou budúcnosťou, skutočne míňajú neúmerné množstvo svojho času a zdrojov v detskom boji s bahnom.
Jeden vedúci pracovník to opisuje ako „shakespearovský“. Množstvo peňazí súkromných detektívov a opozičných spisov, ktoré sa zostavujú, je neúprosné. A nešťastná vec je, že ten druh neslušných vecí, ktoré Samovi konkurenti papagájujú, je len predpokladaný fakt, však? Existuje toto obvinenie, že prenasleduje maloletých chlapcov, a na mnohých koktailových večierkoch v Silicon Valley to počujete. Na konferenčnom okruhu som počul, ako to zopakovali dôveryhodní, prominentní vedúci pracovníci: „Každý vie, že je to fakt.
Smutné je, že hovorím o tom, odkiaľ to pochádza, o rôznych vektoroch, ktorými sa to prenáša. Zdá sa, že Elon Musk a jeho spolupracovníci presadzujú skutočne tvrdé spisy, ktoré sú k ničomu. Sú parné, keď sa skutočne začnete pozerať na základné tvrdenia. Smutné na tom je, že to skutočne zakrýva kritiku viac založenú na dôkazoch, o ktorej si myslím, že si skutočne zaslúži naliehavý dohľad a zváženie.
Ďalšou témou, ktorá sa v príbehu skutočne objavuje, je takmer pocit strachu, že Sam má toľko priateľov – investoval do toľkých spoločností od svojej predchádzajúcej funkcie generálneho riaditeľa Y Combinator až po svoje osobné investície, z ktorých niektoré sú v priamom rozpore s jeho úlohou ako generálneho riaditeľa OpenAI – a okolo neho je ticho.
Zarazilo ma to, keď som čítal najmä jeden riadok. Opisujete poznámky Ilju Sutskevera a práve sú v Silicon Valley. Všetcinazýva ich Ilya memos. Ale okolo toho je dokonca ticho. Prechádzajú, ale nediskutuje sa o nich. Odkiaľ to podľa vás pochádza? Je to strach? Je to túžba získať anjelskú investíciu? Odkiaľ to pochádza?
Myslím, že je to veľká zbabelosť, budem úprimný. Po informovaní o príbehoch o národnej bezpečnosti, kde sú zdrojmi informátori, ktorí môžu prísť o všetko a čeliť trestnému stíhaniu, stále robia správnu vec a hovoria o veciach, aby vytvorili zodpovednosť. Pracoval som na príbehoch súvisiacich so sexuálnymi zločinmi, ktoré ste spomenuli, kde sú zdroje hlboko traumatizované a obávajú sa veľmi osobného druhu odplaty.
V mnohých prípadoch okolo tohto rytmu máte do činenia s ľuďmi s ich vlastným profilom a silou. Buď sú to slávni ľudia sami, alebo sú obklopení slávnymi ľuďmi. Majú silný obchodný život. Podľa môjho názoru je pre nich v skutočnosti veľmi málo vystavené hovoriť o týchto veciach. A našťastie sa ihla hýbe, ako sme o tom hovorili predtým, a ľudia teraz hovoria viac.
Ale na takú dlhú dobu ľudia o tom naozaj držia hubu, pretože si myslím, že kultúra Silicon Valley je tak nemilosrdne zameraná na vlastné záujmy a nemilosrdne orientovaná na podnikanie a rast. Takže si myslím, že to postihuje dokonca aj niektorých ľudí, ktorí sa podieľali na vyhodení Sama, kde ste videli v nasledujúcich dňoch, áno, jeden z faktorov, ktorý viedol k jeho návratu a prepusteniu starých členov predstavenstva, že zhromaždil investorov, ktorí boli zmätení v jeho veci.
Ale iná je, že toľko ľudí okolo toho, ktorí mali obavy a naliehavo ich vyjadrili, sa len zložili ako obrúsky a zmenili melódiu v momente, keď videli, že vietor fúka opačným smerom, a chceli nastúpiť do vlaku so ziskom.
Úprimne povedané, z môjho pohľadu reportéra je to dosť temné.
Niektorí z týchto ľudí sú Mira Murati, ktorá, verím, bola 20 minút novým generálnym riaditeľom OpenAI. Potom bola vymenená. Bola to veľmi komplikovaná dynamika a Sam sa očividne vrátil. Druhou osobou je Ilya Sutskever, ktorý bol jedným z hlasov za odstránenie Sama a potom zmenil názor, alebo aspoň povedal, že zmenil názor, a potom odišiel, aby založil vlastnú spoločnosť. Viete, čo ho prinútilo zmeniť názor? Boli to len peniaze?
No, a aby bolo jasné, nevyberám týchto dvoch. Do streľby sa zapojili aj ďalší členovia predstavenstva, ktorí tiež veľmi mlčali. Myslím si, že je to ako širší kolektívny problém. V niektorých prípadoch ide o ľudí, ktorí mali morálnu vôľu biť na poplach a podniknúť radikálne kroky, a to treba pochváliť. A takto si zabezpečíte zodpovednosť. To mohlo pomôcť mnohým ľuďom, ktorých sa táto technológia týka. Mohlo to pomôcť odvetviu zostať zmysluplnejšie zamerané na bezpečnosť.
Ale pri zaobchádzaní s informátormi a ľuďmi, ktorí sa snažia túto zodpovednosť často podnecovať, tiež vidíte, že je potrebné vytrvať a stáť si za svojím presvedčením. A toto odvetvie je skutočne plné ľudí, ktorí si jednoducho nestoja za svojím presvedčením.
Aj keď si myslia, že budujú digitálneho Boha, ktorý nejakým spôsobom buď odstráni všetku prácu, alebo vytvorí viac práce, alebo sa niečo stane.
No, to je vec. Takže kultúra nestoja za svojím presvedčením a všetky etické obavy, ktoré upadnú do úzadia v momente, keď dôjde k horúčavám alebo čomukoľvek, čo by mohlo ohroziť vaše postavenie v podnikaní, je možno do určitej miery dobré a dobré pre spoločnosti, ktoré fungujú ako obvykle, ktoré vyrábajú akýkoľvek druh widgetu.
Ale sú to tí istí ľudia, ktorí hovoria: "Toto by nás všetkých mohlo doslova zabiť." A znova, nemusíte ísť do extrému Terminator Skynet. Existuje súbor rizík, ktoré sa už napĺňajú. Je to skutočné a mali by na to právo varovať, ale na to by ste museli mať niekoho iného, aby vám psychologizoval, ako tieto dve veci môžu žiť v tých istých ľuďoch, keď im znejú naliehavé varovania, možno sa do toho púšťajú a snažia sa niečo urobiť, a potom sa len zložia a stíchnu.
To je presne dôvod, prečo môžete mať takéto prípady, keď sa veci nepíšu a veci sa zametajú pod koberec, a nikto o tom takto otvorene nehovorí celé roky potom.
Prirodzenou a zodpovednou stranou by tu neboli generálni riaditelia týchto spoločností; boli by to vlády. V Spojených štátoch možnosú to vlády štátov, možno je to federálna vláda.
Samozrejme, všetky tieto spoločnosti chcú byť globálne. Je tu veľa globálnych dôsledkov. Sledoval som, ako OpenAI, Google a Anthropic prinútili Bidenovu administratívu vydať výkonný príkaz AI. Bolo to nakoniec dosť bezzubé. Povedali len, že sa musia porozprávať o tom, čoho sú ich modely schopné, a vydať nejaké bezpečnostné testy. A potom všetci podporili Trumpa a Trump prišiel, všetko to vymazal a povedal: "Musíme byť konkurencieschopní. Je to zadarmo pre všetkých. Choďte do toho."
Zároveň sa všetci snažia získať prostriedky z krajín Blízkeho východu, ktoré majú veľa peňazí z ropy a chcú zmeniť svoje ekonomiky. To sú politici. Mám pocit, že politici by určite mali chápať, že niekto hovorí z oboch strán, a nebudú príliš naštvaní, ak bude niekto nakoniec sklamaný, ale aj politici sa nechajú vyviesť z miery. Prečo si myslíš, že je to tak?
Myslím si, že toto je skutočne dôvod, prečo je diel z môjho pohľadu dôležitý a prečo sa oplatilo venovať tomu všetok čas a detaily. Nachádzame sa v prostredí, kde systémy, ktoré, ako hovoríte, by mali zabezpečovať dohľad, sú len vyprázdnené. To je post-Citizens United America, kde je tok peňazí taký neobmedzený, a je to osobitná koncentrácia tohto problému okolo AI, kde sú tieto PAC, ktoré sa množia a zaplavujú peniaze, aby zrušili zmysluplnú reguláciu na štátnej aj federálnej úrovni.
Máte [spoluzakladateľa OpenAI] Grega Brockmana, Samovho druhého veliteľa, ktorý priamo prispieva k niekoľkým z nich. Vedie to k situácii, v ktorej skutočne dochádza k podchyteniu zákonodarcov a potenciálnych regulačných orgánov, z čoho je ťažké sa dostať von. Smutné na tom je, že si myslím, že existujú jednoduché politické kroky, z ktorých niektoré sa skúšajú inde vo svete, ktoré by pomohli vyriešiť niektoré z týchto problémov zodpovednosti.
Mohli by ste mať viac povinných bezpečnostných testov pred nasadením, čo je niečo, čo sa už v Európe deje pri hraničných modeloch. Mohli by ste mať prísnejšie požiadavky na písomné verejné záznamy pre druhy interných vyšetrovaní, pri ktorých sme videli, že sa v tomto prípade veci nepíšu. Mohli by ste mať robustnejší súbor mechanizmov kontroly národnej bezpečnosti pre druhy ambícií infraštruktúry Blízkeho východu, ktoré presadzoval Sam Altman.
Ako hovoríte, robil túto návnadu a striedal sa s Bidenovou administratívou, hovoril: „Regulujte nás, regulujte nás“ a pomáhal im vypracovať výkonný príkaz, a potom, keď Trump nastúpi, naozaj v prvých dňoch, jednoducho nezostane prekážka, „Zrýchlime a postavme obrovský kampus dátového centra v Abú Zabí.“ Môžete mať, toto je naozaj jednoduché, ako ochrana oznamovateľov. Neexistuje žiadny federálny zákon, ktorý by chránil zamestnancov spoločnosti AI, ktorí odhaľujú tieto druhy bezpečnostných obáv, ktoré sú vysielané v tomto článku.
Máme prípady, keď Jan Leike, ktorý bol vedúcim bezpečnostným pracovníkom v OpenAI, viedol super súlad v spoločnosti. Píše predstavenstvu, v podstate materiál pre informátorov, pričom hovorí, že spoločnosť ide mimo koľajníc v rámci svojej bezpečnostnej misie. Toto sú ľudia, ktorí by v skutočnosti mali mať dozorný orgán, ku ktorému môžu ísť, a mali by mať explicitnú zákonnú ochranu, akú vidíme v iných sektoroch. Toto je jednoduché napodobniť režim v štýle Sarbanes-Oxley.
Myslím si, že napriek tomu, aký akútny je problém prevzatia kontroly nad všetkými mocenskými pákami zo Silicon Valley, a napriek tomu, aké vyprázdnené sú niektoré z týchto inštitúcií, ktoré by mohli poskytovať dohľad a zábrany, stále verím v základnú matematiku demokracie a politikov, ktorí majú vlastný záujem. A objavuje sa stále viac údajov z prieskumov, že väčšina Američanov si myslí, že obavy, otázky alebo riziká AI v súčasnosti prevažujú nad výhodami.
Takže si myslím, že záplava peňazí do politiky z AI, je v našich silách urobiť z toho zdroj otáznikov vo vzťahu k politikom. Keď idú Američania voliť, mali by skúmať, či ľudia, ktorých volia, najmä ak sú nekritickí a proti regulácii, vzhľadom na všetky tieto obavy, sú podporovaní veľkými technologickými záujmami. Takže si myslím, že ak ľudia dokážu čítať kúsky ako je tento, počúvať podcasty ako je tento a dať si záležať na tom, aby o nich kriticky premýšľaliich rozhodnutia ako voličov, existuje skutočná príležitosť vytvoriť vo Washingtone volebný obvod zo zástupcov, ktorí dohliadajú a vynucujú si dohľad.
To môže byť jedna z najoptimistickejších vecí, aké som kedy počul povedať o súčasnom priemysle AI. vážim si to. Som posadnutý prieskumom, o ktorom hovoríte. Teraz je toho veľa. Všetko je celkom konzistentné a vyzerá to tak, že čím viac sú najmä mladí ľudia vystavení AI, tým sú voči nej nedôverčivejší a nahnevaní. To je hodnota všetkých prieskumov. A ja sa na to pozerám a myslím si, že áno, chytrí politici by tomu jednoducho odporovali. Povedali by len: "Budeme brať na zodpovednosť veľké technológie."
Potom si spomeniem na posledných 20 rokov, na politika, ktorý povedal, že budú brať na zodpovednosť veľké technológie, a ja sa snažím nájsť čo i len jeden moment, že by veľké technológie boli brané na zodpovednosť. Jediná vec, ktorá ma núti myslieť si, že by to mohlo byť inak, je, že v skutočnosti musíte postaviť dátové centrá a môžete hlasovať proti tomu, môžete proti tomu podať petíciu a môžete proti tomu protestovať.
Myslím, že existuje politik, ktorému práve postrieľali dom, pretože hlasoval za dátové centrum. Napätie dosahuje, nazval by som to, horúčavu. Opísali ste ostrovný charakter Silicon Valley. Toto je uzavretý ekosystém. Zdá sa, že si myslia, že dokážu riadiť svet. Dávajú veľa peňazí do politiky a narážajú na realitu, že ľudia nemilujú produkty, čo im nedáva veľa krytia. Čím viac produkty používajú, tým viac sú naštvaní a politici začínajú chápať, že podpora technologického priemyslu má skutočné dôsledky v porovnaní s ľuďmi, ktorých zastupujú.
Rozprávali ste sa s mnohými ľuďmi. Myslíte si, že je možné, aby sa technologický priemysel naučil lekciu, ktorá je priamo pred nimi?
Hovoríte, že to vyzerá, akoby si mysleli, že môžu riadiť svet bez zodpovednosti. Dokonca si nemyslím, že to potrebuje kvalifikáciu „pocitom“. Keď sa pozriete na jazyk, ktorý Peter Thiel používa, je to jasné. Samozrejme, to je extrémny príklad. A Sam Altman, hoci je do určitej miery blízky a informovaný o Thielovej ideológii, je veľmi odlišný typ človeka, ktorý môže znieť inak a odmeranejšie.
Ale myslím si, že širšia ideológia, ktorú máte od Thiela, je v podstate: S demokraciou sme skončili, už ju nepotrebujeme. Máme toho toľko, že si chceme postaviť vlastné malé bunkre. Už sa nezaoberáme Carnegies alebo Rockefellermi, kde sú zlí ľudia, ale cítia, že sa potrebujú podieľať na spoločenskej zmluve a budovať veci pre ľudí. Je tu skutočný nihilizmus.
A myslím si, že to bola len vzájomne sa posilňujúca špirála v nedávnej americkej histórii magnátov a súkromných spoločností získavajúcich supervládnu moc, zatiaľ čo demokratické inštitúcie, ktoré by ich mohli brať na zodpovednosť, sú vyprázdnené. Necítim sa optimisticky pri myšlienke, že by sa tí chlapi mohli jedného dňa zobudiť a pomyslieť si: „Hm, vlastne možno sa potrebujeme zapojiť do spoločnosti a pomáhať budovať veci pre ľudí.“
Chcem tým povedať, že sa na to pozeráte ako na mikrokozmický príklad The Giving Pledge, kde bol moment, kedy to zdanlivo malo byť dobročinné, a tento moment je už minulosťou a dokonca zosmiešňovaný. To je problém, širší problém nedostatku zodpovednosti, o ktorom si myslím, že sa dá vyriešiť len zvonka. To musia byť voliči, ktorí mobilizujú a vzkriesia moc vládneho dohľadu. A máte úplnú pravdu, keď hovoríte, že hlavný vektor, prostredníctvom ktorého by to ľudia mohli dosiahnuť, je lokálny. Súvisí to s tým, kde sa buduje infraštruktúra.
Spomenuli ste niektoré z rozpáleného napätia okolo tohto, ktoré vedie k násiliu a vyhrážkam, a nikto by sa, samozrejme, nemal správať násilne alebo sa vyhrážať. A tiež tu nie som na to, aby som dával konkrétne politické odporúčania okrem toho, aby som len predstavil niektoré politické kroky, ktoré sa zdajú základné a fungujú inde vo svete, však? Alebo tí, ktorí pracovali v iných odvetviach. Nie som tu, aby som povedal, ktoré z nich by sa mali vykonať a ako.
Myslím si, že sa niečo musí stať a musí to byť externé, nielen dôverovať týmto spoločnostiam. Pretože správneteraz máme situáciu, keď spoločnosti, ktoré vyvíjajú technológiu a sú najlepšie vybavené na to, aby porozumeli rizikám, a v skutočnosti sú to tie, ktoré nás pred rizikami varujú, sú tiež tie, ktoré nemajú nič iné ako motiváciu ísť rýchlo a tieto riziká ignorovať. A vy to jednoducho nemáte čím vyvážiť. Akékoľvek konkrétne reformy teda môžu naraziť na niečo, čo by proti tomu malo naraziť. A stále sa vraciam k optimizmu, že na ľuďoch stále záleží.
Vo všeobecnosti kupujem tvoj argument. Dovoľte mi uviesť jeden malý protiargument, o ktorom si myslím, že ho dokážem formulovať. Ďalšia vec, ktorá sa môže stať mimo volebnej urny je, že bublina praskne, však? Že nie všetky tieto spoločnosti sa dostanú do cieľa a že neexistuje produktový trh vhodný pre spotrebiteľské aplikácie AI. A opäť to ešte celkom nevidím, ale som recenzentom spotrebnej techniky a možno mám len vyššie štandardy ako všetci ostatní.
V obchodnom svete je produktový trh vhodný, však? Zdá sa, že skutočný trh s týmito nástrojmi je skutočným trhom, keď veľa agentov AI napíše veľa softvéru. A môžete si prečítať argumenty týchto spoločností, ktoré hovoria: "Vyriešili sme kódovanie, a to znamená, že dokážeme vyriešiť čokoľvek. Ak dokážeme vyrobiť softvér, dokážeme vyriešiť akékoľvek problémy."
Myslím si, že existujú skutočné limity toho, čo softvér dokáže. To je skvelé vo svete podnikania. Softvér nemôže vyriešiť každý problém v skutočnosti, ale musí sa tam dostať. Musia dokončiť prácu a možno nie každý sa dostane do cieľa. A dôjde k havárii a táto bublina praskne a možno OpenAI alebo Anthropic alebo xAI, jedna z týchto spoločností zlyhá a celá táto investícia zmizne.
Myslíte, že by to ovplyvnilo? V skutočnosti mi dovoľte najprv položiť prvú otázku. OpenAI je práve na vrchole IPO. O Samovi ako vodcovi je veľa pochybností. Myslíte si, že sa dostanú až do cieľa?
Nebudem predpovedať, ale myslím si, že ste upozornili na dôležitý bod, ktorý spočíva v tom, že trhové stimuly majú pre Silicon Valley interný význam a neistota súčasnej dynamiky bublín môže prerušiť, podľa kritikov, opäť potenciálne preteky ku dnu v oblasti bezpečnosti.
K tomu by som tiež dodal, že ak sa pozriete na historickú prioritu, kde existuje podobný a zdanlivo nepreniknuteľný súbor trhových stimulov a potenciálne škodlivých účinkov pre verejnosť, existuje súdny spor. A vy to vidíte ako oblasť, ktorá vás v poslednej dobe znepokojuje. Sam Altman je tu tento týždeň a schvaľuje legislatívu, ktorá by chránila spoločnosti AI pred niektorými typmi zodpovednosti, ktorej bola OpenAI vystavená napríklad v súdnych žalobách na smrť. Samozrejme, existuje túžba mať tento štít pred zodpovednosťou.
Myslím si, že súdy môžu byť stále zmysluplným mechanizmom a bude naozaj zaujímavé sledovať, ako sa tieto žaloby vyvinú. Už ste videli napríklad hromadnú žalobu, ktorej členmi som ja a mnohí ďalší autori, ktorých poznám, proti Anthropicu za používanie kníh, na ktoré sa vzťahovali autorské práva. Ak existujú inteligentné právnické mysle a žalobcovia, ktorí sa starajú, ako sme historicky videli v prípadoch od veľkého tabaku po veľkú energiu, môžete tiež získať nejaké mantinely a nejaké stimuly na spomalenie, opatrnosť alebo ochranu ľudí týmto spôsobom.
Zdá sa, že celá štruktúra nákladov odvetvia AI závisí na veľmi, veľmi dobročinnej interpretácii princípu fair use. Neprichádza dostatočne. Štruktúra nákladov týchto spoločností by sa mohla vymknúť spod kontroly, ak by museli platiť vám a všetkým ostatným, ktorých prácu zobrali, ale je nepohodlné na to myslieť, takže na to jednoducho nemyslíme. Hneď vedľa toho sú všetky tieto produkty teraz stratové. Ako dnes, všetci sú bezradní. Spália viac peňazí, ako dokážu zarobiť. V určitom okamihu musia prepnúť spínač.
Sam je obchodník. Ako ste už niekoľkokrát spomenuli, nie je technológ. Je to podnikateľ. Myslíte si, že je pripravený prepnúť spínač a povedať: "Zarobíme dolár?" Pretože keď sa spýtam: „Myslíš si, že OpenAI to zvládne? Je to vtedy, keď musia zarobiť dolár. A zatiaľ Sam zarábal všetky svoje doláre tým, že žiadal od iných ľudí ich peniaze namiesto toho, aby jeho spoločnosti zarábali peniaze.
No, to je veľká pretrvávajúca otázka pre Silicon Valley, pre investorov, pre verejnosť.Vidíte niektoré vyhlásenia a presuny z OpenAI, ktoré z toho zrejme vypovedajú o určitej panike. Vypnutie Sora, vypnutie niektorých vedľajších projektov, snaha zamerať sa na hlavný produkt. Ale na druhej strane stále vidíte, že sa v tom istom čase plížia tony misií, však? Dokonca aj malý príklad - to samozrejme nie je jadrom ich podnikania - je akvizícia TBPN.
Mimochodom, práve keď sme sa blížili k cieľovej čiare a overovaniu faktov, spoločnosť, ktorá čelí takémuto novinárskemu skúmaniu, získava platformu, kde môže mať priamu kontrolu nad konverzáciou. Myslím si, že existuje veľa investorov, ktorí sa na základe rozhovorov, ktoré som mal, obávajú, že tento problém sľubovania všetkých vecí všetkým ľuďom sa rozširuje aj na nedostatok zamerania na hlavný obchodný model. A myslím, že ste bližšie k typu prognostikov a sledovania trhu ako ja. Nechám vás a poslucháčov, aby ste posúdili, či si myslia, že OpenAI dokáže prepnúť vypínač.
No, položil som otázku, pretože máte v článku citát od vyššieho predstaviteľa spoločnosti Microsoft, a to, že „Samovo dedičstvo sa môže viac podobať Berniemu Madoffovi alebo Samovi Bankman-Friedovi“, a nie Stevovi Jobsovi. To je celkom prirovnanie. Čo ste povedali na toto porovnanie?
Myslím, že je to parafráza. Časť Steva Jobsa nebola súčasťou citátu. Ale je v tom zaujímavý druh triezvosti, pretože je to formulované ako: „Myslím, že existuje malá, ale reálna šanca, že sa z neho stane SBF alebo podvodník na úrovni Madoff.“ Podľa mňa to neznamená, že Sam je obviňovaný z týchto špecifických typov podvodov alebo zločinov, ale že miera pretvárky a podvodu od Sama môže mať šancu, že si ho nakoniec v takom rozsahu zapamätajú.
Áno, myslím si, že na tom citáte je najzarážajúcejšie, úprimne povedané, že zavoláte do Microsoftu a nedostanete lajk: "To je šialené. To sme nikdy nepočuli." Dostanete veľa rád: „Áno, veľa ľudí si to tu myslí“, čo je pozoruhodné. A myslím si, že sa to týka aj týchto maticových a skrutkových obchodných otázok.
Jeden investor mi napríklad povedal, vo svetle spôsobu, akým táto vlastnosť pretrvala aj roky po vypálení“ – a to si tiež myslelo, že je to zaujímavá triezva myšlienka – že to nemusí byť nevyhnutne, že Sam by mal byť na absolútnom konci zoznamu, ako by mal byť najnižší z najnižších, pokiaľ ide o ľudí, ktorí túto technológiu absolútne nesmú stavať, pretože to stojí za to, že táto osoba môže byť na dne. zo zoznamu ľudí, ktorí by mali vybudovať AGI, a pod niekoľkými ďalšími poprednými osobnosťami v tejto oblasti.
Takže som si myslel, že je to zaujímavé hodnotenie, a myslím si, že to je ten druh myslenia, ktorý dostanete od skutočných pragmatikov, ktorí možno až tak neberú do úvahy obavy o bezpečnosť. Sú len orientovaní na rast a myslia si, že OpenAI má teraz problém so Samom Altmanom.
Microsoft kúsok je naozaj zaujímavý. Táto spoločnosť si myslela, že sú na vrchole sveta. Že urobili túto investíciu a chystajú sa predskočiť všetkých, najmä a čo je najdôležitejšie, Google, a dostať sa späť do priazne spotrebiteľov. Úroveň, na ktorú sa cítia popálení týmto dobrodružstvom – toto je veľmi triezvo riadená spoločnosť –, myslím, nemožno preceňovať.
Spomínali ste postavy a osobnostné črty. Tu chcem skončiť otázkou našich poslucháčov. Povedal som v našej ďalšej relácii The Vergecast, že sa s vami budem rozprávať, a povedal som: „Ak máte na Ronana otázky týkajúce sa tohto príbehu, dajte mi vedieť.“ Takže tu máme jeden, o ktorom si myslím, že presne zodpovedá tomu, čo popisujete. Len ti to prečítam:
„Ako sa líšia ospravedlnenia pre zlé správanie, bezohľadné činy Altmana a iných vodcov AI od odôvodnení, ktoré Ronan počul od iných vysokopostavených lídrov v politike a médiách? Neospravedlňujú všetci svoje činy tým, že takto sa mení svet? Ak to neurobím ja, urobí to niekto iný?"
Áno, deje sa toho veľa. Povedal by som, že pre AI je charakteristické to, že existenciálne stávky sú tak jedinečne vysoké, že obe vyhlásenia o riziku sú extrémne, však? Máte Sama Altmanapovedal: "Toto by mohlo byť svetlo pre nás všetkých." A tiež by mohli kritici povedať, že mánia, o ktorej sa pýtajúci hovorí, je extrémna, však?
Vec, z ktorej Sam obvinil Elona v zázname, bola tá, že možno chce zachrániť ľudstvo, ale iba ak je to on. Druh ega zložky túžby po víťazstve, čo je rámovanie, ktoré Sam neustále používa, a toto je jedna z historických kníh, to by mohlo všetko zmeniť. Preto si myslím, že dokonca aj nad rámec myslenia väčšiny podnikov v Silicon Valley „musíš rozbiť pár vajíčok“ existuje v mysliach niektorých osobností vedúcich AI úplná racionalizácia všetkých nedostatkov.
A zabudnite na rozbíjanie vajec. Myslím si, že veľa výskumníkov v oblasti bezpečnosti by povedalo, že potenciálne riskovať rozbitie krajiny, rozbitie sveta a rozbitie miliónov ľudí, ktorých práca a bezpečnosť visia na vlásku – to je na tom jedinečné. To je miesto, kde končím, uvažujem o tomto súbore správ a skutočne verím, že ide o viac ako o Sam Altman. Ide o priemysel, ktorý je neobmedzený a o špirálovitom probléme Ameriky, ktorý ho nedokáže obmedziť.
Áno. No, mali sme tam určitý optimizmus, ale myslím si, že je dobré to nechať.
[Smiech] Koniec potichu.
Samozrejme. To je naozaj každý skvelý príbeh. Proces s Muskom-Altmanom sa blíži. Myslím, že sa tu dozvieme oveľa viac. Mám podozrenie, že sa s tebou budem chcieť znova porozprávať. Ronan Farrow, ďakujem veľmi pekne, že ste na Decoderi.
dakujem.
Máte otázky alebo komentáre k tejto epizóde? Ozvite sa nám na [email protected]. Naozaj čítame každý e-mail!
