Vandag op Decoder praat ek met Ronan Farrow, een van die grootste sterre van ondersoekende verslaggewing wat vandag werk. Hy het die Harvey Weinstein-verhaal onder baie, baie ander gebreek. En net verlede week het hy en mede-outeur Andrew Marantz 'n ongelooflike diepduik-funksie in The New Yorker gepubliseer oor Sam Altman, uitvoerende hoof van OpenAI, sy betroubaarheid en die opkoms van OpenAI self.
Een nota voor ons verder gaan hierheen - The New Yorker het daardie storie gepubliseer en ek en Ronan het hierdie gesprek gehad voordat ons die volle omvang van die aanvalle op Altman se huis geweet het, so jy sal ons nie direk daaroor hoor praat nie. Maar net om dit te sê, ek dink enige soort geweld is onaanvaarbaar, hierdie aanvalle op Sam was onaanvaarbaar, en dat die soort hulpeloosheid wat mense voel, wat tot hierdie soort geweld lei, self onaanvaarbaar is, en dit is die moeite werd om baie meer ondersoek in te stel van beide die bedryf en ons politieke leiers. Ek hoop dit is duidelik.
Verge-intekenare, moenie vergeet dat jy eksklusiewe toegang tot advertensievrye dekodeerder kry waar jy jou poduitsendings kry nie. Gaan hierheen. Nie 'n intekenaar nie? Jy kan hier inskryf.
Al wat gesê is, is daar baie wat rondom Altman dwarrel wat regverdig is vir streng verslaggewing - die soort verslaggewing wat Ronan en Andrew beoog het om te doen. Danksy die gewildheid van ChatGPT, het Altman na vore getree as die mees sigbare boegbeeld van die KI-industrie, nadat hy 'n eens nie-winsgewende navorsingslaboratorium binne 'n paar jaar in 'n byna triljoen-dollar private maatskappy verander het. Maar die mite van Altman is diep in botsing, ewe gedefinieer deur sy duidelike transaksievermoë en sy gerapporteerde neiging om ... wel, vir almal rondom hom te lieg.
Die storie is meer as 17 000 woorde lank, en dit bevat waarskynlik die definitiewe weergawe van wat in 2023 gebeur het toe die OpenAI-direksie Altman baie skielik afgedank het oor sy beweerde leuens, net sodat hy byna onmiddellik heraangestel kon word. Dit is ook 'n diep duik in Altman se persoonlike lewe, sy beleggings, sy hofmakery na Midde-Oosterse geld, en sy eie refleksies oor sy gedrag en karaktereienskappe in die verlede, wat daartoe gelei het dat een bron gesê het hy is "onbeperk deur die waarheid." Ek stel regtig voor dat jy die hele storie lees; Ek vermoed dit sal nog vir baie jare verwys word.
Ronan het baie keer met Altman gepraat oor die 18 maande wat hy spandeer het om hierdie stuk aan te meld, en so een van die belangrikste dinge waaroor ek nuuskierig was, was of hy enige verandering in Altman oor daardie tyd gevoel het. Daar het immers baie gebeur in KI, in tegnologie en in die wêreld die afgelope jaar en 'n half.
Jy sal Ronan baie direk daaroor hoor praat, asook sy gevoel dat mense baie meer gewillig geword het om te praat oor Altman se vermoë om die waarheid uit te reik. Mense begin hardop en op rekord wonder of die gedrag van mense soos Altman kommerwekkend is, nie net vir KI of tegnologie nie, maar ook vir die gemeenskap se kollektiewe toekoms.
Goed: Ronan Farrow oor Sam Altman, KI en die waarheid. Hier gaan ons.
Hierdie onderhoud is lig geredigeer vir lengte en duidelikheid.
Ronan Farrow, jy is 'n ondersoekende verslaggewer en bydraer tot The New Yorker. Welkom by Decoder.
Bly om hier te wees. Dankie dat jy my het.
Ek is baie opgewonde om met jou te praat. Jy het sopas 'n groot stuk vir The New Yorker geskryf. Dit is 'n profiel van Sam Altman en, soort van daarmee, OpenAI. Ek lees daarvan is dat, soos alle wonderlike kenmerke doen, dit, met streng verslaggewing, baie gevoelens bevestig wat mense al vir 'n baie lang tyd oor Sam Altman gehad het. Jy het dit natuurlik gepubliseer, jy het reaksies daarop gekry. Hoe voel jy nou daaroor?
Wel, ek is eintlik bemoedig deur die mate waarin dit deurgebreek is in 'n tyd waar die aandag ekonomie so soort van skisofrenies en vlak is. Dit is 'n storie wat, myns insiens, ons almal raak. En wanneer ek 'n jaar en 'n half van my lewe spandeer het, en my medeskrywer, Andrew Marantz, ook daardie tyd van hom spandeer het, om regtig iets forensies en noukeurig te probeer doen, is dit altyd omdat ek voel dat daar groter strukturele kwessies is wat mense buite die individu en maatskappy in die hart van die storie raak.
Sam Altman, teen die agtergrond van Silicon Valley-hype-kultuur en begin-ups wat balloon na massiewe waardasies gebaseer op beloftes wat dalk of nie in die toekoms kan gebeur nie, en 'n toenemende omhelsing van 'n stigterkultuur wat dink dat dit 'n kenmerk is om verskillende teenstrydige dinge aan verskillende groepe te vertel, nie 'nfout ... Selfs teen daardie agtergrond is Sam Altman 'n buitengewone geval waar almal in Silicon Valley wat daardie dinge verwag, nie kan ophou praat oor hierdie vraag van sy betroubaarheid en sy eerlikheid nie.
Ons het reeds geweet dat hy afgedank is oor een of ander weergawe van bewerings van oneerlikheid of reeks beweerde leuens. Maar buitengewoon, ten spyte van die feit dat daar wonderlike beriggewing was, het Keach Hagey goeie werk hieroor gedoen. Karen Hao het goeie werk hieraan gedoen. Daar was regtig nie 'n definitiewe begrip van die werklike beweerde bewyspunte en die redes waarom dit uit die openbare oog gebly het nie.
So punt nommer een is dat ek bemoedig voel deur die feit dat sommige van daardie leemtes in ons openbare kennis, en selfs in die kennis van Silicon Valley-insiders, nou 'n bietjie meer gevul is. Sommige van die redes waarom daar leemtes was, is 'n bietjie meer aangevul.
Ons rapporteer oor gevalle waar mense binne hierdie maatskappy regtig gevoel het dat dinge bedek is of doelbewus nie gedokumenteer is nie. Een van die nuwe dinge in hierdie storie is 'n deurslaggewende prokureursfirma-ondersoek deur WilmerHale, wat natuurlik 'n spoggerige, geloofwaardige, groot regsfirma is wat ondersoeke van Enron en WorldCom gedoen het, wat terloops almal lywig was, soos honderde bladsye gepubliseer. WilmerHale het dié ondersoek gedoen wat geëis is deur raadslede wat Altman afgedank het as voorwaarde vir hul vertrek toe hy van hulle ontslae geraak het, en hy het teruggekom. En buitengewoon - in die oë van baie regskenners met wie ek gepraat het, en skokkend in die oë van baie mense in hierdie maatskappy - het hulle dit uit die skrywe gehou. Al wat ooit daaruit voortgekom het, was 'n persverklaring van 800 woorde van OpenAI wat beskryf het wat gebeur het as 'n ineenstorting in vertroue. En ons het bevestig dat dit by mondelinge inligtingsessies gehou is.
Daar is gevalle waar byvoorbeeld 'n raadslid oënskynlik teen die omskakeling van OpenAI se oorspronklike niewinsorganisasie na 'n winsgewende entiteit wil stem, en dit word as 'n onthouding aangeteken. Daar is soos 'n prokureur in die vergadering wat sê: "Wel, dit kan te veel ondersoek veroorsaak." En die persoon wat teen wil stem, word aangeteken as 'n onthouding by alle verskynings. Daar is 'n feitelike dispuut. OpenAI beweer anders, soos jy jou dalk kan voorstel. Dit is alles gevalle waar jy 'n maatskappy het wat volgens sy eie rekening ons toekoms in sy hande hou.
Die veiligheidsinsette is so akuut dat dit nie weg is nie. Dit is die rede waarom hierdie maatskappy gestig is as 'n niewinsorganisasie wat op veiligheid gefokus is, en waar dinge verduister is op 'n manier dat geloofwaardige mense rondom hierdie dit minder as professioneel gevind het. En jy koppel dit met 'n agtergrond waar daar so min politieke aptyt vir betekenisvolle regulering is. Ek dink dit is 'n baie brandbare situasie.
Die punt vir my is nie net dat Sam Altman hierdie vrae so akuut verdien nie. Dit is ook dat enige van hierdie ouens in hierdie veld, en baie van die sleutelfigure, vertoon, indien nie hierdie spesifieke eiesoortige, beweerde leuen-al-die-tyd-eienskap nie, sekerlik 'n mate van 'n ras-tot-die-bodem-mentaliteit, waar die mense wat safetyists was daardie verpligtinge en almal-is-in-'n-ras-houding afgewater het.
Ek dink, terwyl ons kyk na onlangse lekkasies uit Anthropic, is daar 'n persoon wat die vraag stel wie hul vinger op die knoppie in hierdie stuk moet hê. Die antwoord is, as ons nie betekenisvolle toesig het nie, dink ek ons moet ernstige vrae vra en probeer om soveel inligting as moontlik oor al hierdie ouens na vore te bring. So ek is bemoedig deur wat voel soos 'n betekenisvolle gesprek daaroor, of die begin van een.
Die rede hoekom ek dit so gevra het, is dat jy 'n jaar en 'n half hieraan gewerk het. Jy het met, glo ek, 100 mense met jou mede-outeur, Andrew, gepraat. Dit is lank vir 'n storie om te kook. Ek dink veral aan die afgelope anderhalf jaar in KI, en seun, het die houdings en waardes van al hierdie karakters baie vinnig verander.
Miskien niemand meer so as Sam Altman nie, wat as die verstekwenner begin het omdat hulle ChatGPT vrygestel het en almal gedink het dit sou net vir Google oorneem. En toe reageer Google, wat hulle blykbaar verbaas het dat Google sou probeer om sy besigheid te beskerm, miskien een van die beste besighede in tegnologiegeskiedenis, indien nie sakegeskiedenis nie. Anthropic het besluit dat hy op die onderneming sal fokus. Dit lyk asof dit 'n gebiedende leiding neemdaar omdat die onderneming se gebruik van KI so hoog is.
Nou, OpenAI herfokus sy produk weg van "ons gaan Google aanvat" na Codex, en hulle gaan die onderneming aanvat. Ek kan net nie mooi sê of dit in die loop van jou verslaggewing oor die afgelope jaar en 'n half voel of die karakters met wie jy gepraat het verander het nie? Soos hul houdings en hul waardes, het dit verander?
Ja. Ek dink eerstens dat die kritiek wat in hierdie stuk ondersoek word, afkomstig van baie mense binne hierdie maatskappye op hierdie stadium - dat dit 'n bedryf is wat, ten spyte van die eksistensiële belange, verval in iets van 'n wedloop na die bodem oor veiligheid en waar spoed alles anders troef - daardie kommer het meer akuut geword. En ek dink daardie bekommernisse is meer bekragtig namate die afgelope jaar en 'n half gebeur het. Terselfdertyd het houdings oor Sam Altman spesifiek verander. Toe ons met bronne hiervoor begin praat het, was mense baie, baie bang om hieroor aangehaal te word en daaroor op rekord te gaan.
Teen die einde van ons verslaggewing het jy 'n verslaggewing waar mense baie openlik en eksplisiet hieroor praat, en jy het raadslede wat dinge sê soos: "Hy is 'n patologiese leuenaar. Hy is 'n sosiopaat." Daar is 'n reeks perspektiewe van: "Dit is gevaarlik gegewe die veiligheidsbelange, en ons het leiers van hierdie tegnologie nodig wat integriteit het," al die pad op om te hou, "Vergeet die veiligheidsbelange, dit is gedrag wat onhoudbaar is vir enige bestuurder van enige groot maatskappy, dat dit net te veel wanfunksionering skep.
Die gesprek het dus baie meer eksplisiet geword op 'n manier wat miskien laat voel, maar in 'n sekere sin bemoedigend is. En Sam Altman, tot sy krediet... Die stuk is baie regverdig en selfs vrygewig, sou ek sê, vir Sam. Dit is nie die soort stuk waar daar baie "het jou" goed was nie. Ek het baie, baie ure saam met hom telefonies deurgebring terwyl ons besig was om dit klaar te maak en het hom regtig gehoor.
Soos jy jou kan voorstel, in 'n stuk soos hierdie maak alles nie in nie. Sommige van daardie gevalle in hierdie een was omdat ek opreg geluister het. En as Sam eintlik 'n argument maak wat ek gevoel het water gedra het, dat iets, al is dit waar, sensasioneel kan wees, het ek regtig fouteer om hierdie forensiese en gemeet te hou. So ek dink dit word reg ontvang, en ek hoop net dat hierdie feitelike rekord wat oor hierdie tydperk opgehoop is, 'n meer aangrypende gesprek oor die behoefte aan toesig kan veroorsaak.
Dit is eintlik my volgende vraag. Ek dink jy het 'n dosyn keer met Sam gepraat in die loop van die verslag van hierdie storie. Weereens, dit is baie gesprekke oor 'n lang tydperk. Het jy gedink Sam het in die loop van die verslaggewing oor die afgelope jaar en 'n half verander?
Ja. Ek dink een van die interessantste subplots hierin is dat Sam Altman ook meer eksplisiet oor hierdie eienskap praat as wat hy in die verlede het. Die postuur van Sam in hierdie stuk is nie soos: "Daar is niks daar nie, dit is nie waar nie; ek weet nie waarvan jy praat nie." Die postuur wat hy het, is dat hy sê dit is toe te skryf aan 'n mense-behaaglike neiging en 'n soort konflikafkeer. Hy erken dat dit probleme vir hom veroorsaak het, veral vroeër in sy loopbaan.
Hy sê: "Wel, ek beweeg verby dit, of het tot 'n mate verby dit beweeg." Ek dink wat vir my regtig interessant is, is die kontingent van mense met wie ons gepraat het wat nie net soort veiligheidsvoorstanders was nie, nie net die onderliggende tegniese navorsers wat baie dikwels geneig is om hierdie akute veiligheidskwessies te hê nie, maar ook pragmatiese, groot beleggers. Hulle is ondersteuners van Sam, wat in sommige gevalle na hierdie vraag kyk en daaroor praat dat hy selfs 'n sleutelrol gespeel het in sy terugkoms na die vuur. Nou, oor hierdie vraag of hy hervorm is, en tot watter mate daardie verandering betekenisvol is, sê hulle: "Wel, ons het hom destyds die voordeel van die twyfel gegee."
Ek dink veral aan een prominente belegger wat gesê het: "Maar sedertdien blyk dit duidelik dat hy nie agter die houtskuur uitgehaal is nie," wat die frase was wat hierdie een gebruik het, in die mate wat nodig was. Gevolglik lyk dit of dit nou 'n stabiele eienskap is. Ons sien dit op 'n deurlopende manier. U kan na sommige van OpenAI se grootste ondernemings kykverhoudings en die manier waarop hulle soort van die gewig van daardie wantroue op 'n deurlopende manier dra.
Soos met Microsoft, praat jy met bestuurders daar, en hulle het werklik akute en onlangs gekataliseerde kommer. Daar is hierdie geval waar, op dieselfde dag dat OpenAI sy eksklusiwiteit met Microsoft met betrekking tot onderliggende staatlose KI-modelle herbevestig, dit ook 'n nuwe ooreenkoms met Amazon aankondig wat te doen het met die verkoop van ondernemingsoplossings vir die bou van KI-agente wat statig is, wat beteken dat hulle geheue het.
Jy praat met Microsoft-mense, en hulle is soos: "Dit is nie moontlik om te doen sonder interaksie met die onderliggende goed waaroor ons 'n eksklusiwiteitsooreenkoms het nie." Dit is dus maar net een van baie klein voorbeelde waar hierdie eienskap die heeltyd slinkse het in deurlopende besigheidsaktiwiteite en 'n onderwerp van aktiewe kommer binne OpenAI se direksie, binne sy uitvoerende suite, en in die breër tegnologiegemeenskap.
Jy hou aan om daardie “eienskap” te sê. Daar is 'n reël in die storie wat vir my soos die tesis voel, en dit is 'n beskrywing van die eienskap wat jy beskryf. Dit is dat "Sam Altman nie deur die waarheid beperk word nie" en dat hy "twee eienskappe het wat amper nooit in dieselfde persoon gesien word nie: die eerste is 'n sterk begeerte om mense te behaag, om gehou te word in enige gegewe interaksie, en die tweede is 'n byna sosiopatiese gebrek aan besorgdheid oor die gevolge wat kan voortspruit uit die misleiding van iemand."
Ek moet jou sê, ek het daardie sin 500 keer gelees, en ek het my probeer voorstel dat ek altyd sê waarvan mense gehou wil word en dan nie ontsteld word as hulle voel dat hulle gelieg het nie. En ek kon nie my emosionele toestand laat verstaan hoe daardie dinge in dieselfde persoon kan bestaan nie. Jy het baie met Sam gepraat, en jy het met mense gepraat wat hierdie eienskappe ervaar het. Hoe doen hy dit?
Ja. Dit is interessant op 'n menslike vlak, want ek benader beriggewings soos hierdie met 'n werklike fokus op die vermensliking van wie ook al in die hart daarvan is en soek na diep begrip en empatie. Toe ek nogal probeer het om dit vanuit 'n meer menslike oogpunt te benader en te sê: "Haai, dit sal vir my verwoestend wees as soveel mense met wie ek gewerk het sê ek is 'n patologiese leuenaar. Hoe dra jy daardie gewig? Hoe praat jy daaroor in terapie? Wat is die storie wat jy vir jouself daaroor vertel?"
Ek het 'n soort van, na my mening, miskien Weskus platitudes daaroor soos, "Ja, ek hou van asem werk." Maar nie veel van die soort aanmoedigende gevoel van diep selfkonfrontasie wat ek dink baie van ons sou waarskynlik hê as ons hierdie soort terugvoer oor ons gedrag en ons behandeling van mense sien nie.
Ek dink dit gaan eintlik ook na die breër antwoord op die vraag. Sam beweer dat hierdie eienskap probleme veroorsaak het, maar ook dat dit deel is van wat hom bemagtig het om OpenAI se groei so te versnel dat hy in staat is om verskillende groepe mense te verenig en te behaag. Hy oortuig voortdurend al hierdie teenstrydige kiesafdelings dat dit waarvoor hulle omgee, dit is waaroor hy omgee. En dit kan 'n baie nuttige vaardigheid vir 'n stigter wees. Ek het met beleggers gepraat wat toe sê: "Wel, miskien is dit 'n minder bruikbare vaardigheid om werklik 'n maatskappy te bestuur omdat dit soveel onenigheid saai."
Maar aan die Sam persoonlike kant, dink ek dat die ding wat ek optel wanneer ek probeer om op menslike vlak te koppel, is die oënskynlike gebrek aan dieper konfrontasie, refleksie en selfverantwoordbaarheid, wat ook daardie superkrag of aanspreeklikheid inlig vir 'n maatskappy wat voorberei vir 'n IPO.
Hy is iemand wat, in die woorde van een voormalige raadslid met die naam Sue Yoon, wat op die rekord in die stuk sê dat tot die punt van "fecklessness" die frase is wat sy gebruik, in staat is om werklik die verskuiwende realiteit van sy verkoopspraatjies te glo, of in staat is om homself daarvan te oortuig. Of ten minste as hy hulle nie glo nie, is hy in staat om deur hulle te blaas sonder betekenisvolle selftwyfel.
Ek dink die ding waarvan jy praat, waar jy of ek dalk, terwyl ons die ding sê en besef dat dit bots met die ander versekering wat ons gemaak het, soort van 'n oomblik van vriespunt of onsself nagaan. Ek dink dit gebeur nie met hom nie. En daar is 'n wyer Silicon Valley-hypekultuur en stigterkultuur wat dit soort van omhels.
Dis snaaks. The Verge is gebou op wat neerkom op 'n produkresensiesprogram. Dit is die hart van wat ons hier doen. Ek hou een keer per jaar 'n triljoen dollar van Apple R&D en sê: "Hierdie foon is 'n sewe." En dit legitimeer soort van al ons beriggewing en ons menings elders. Ons het 'n evalueringsfunksie, en ons spandeer soveel tyd om net na die KI-produkte te kyk en te sê: "Werk hulle?"
Dit voel asof dit ontbreek in baie van die gesprek oor KI soos dit vandag is. Daar is eindelose gesprek oor wat dit dalk kan doen, hoe gevaarlik dit kan wees. En dan boor jy af, en jy sê: "Doen dit werklik die ding wat dit vandag veronderstel is om te doen?" In sommige gevalle is die antwoord ja. Maar in baie, baie gevalle is die antwoord nee.
Dit voel asof dit aansluit by die hype-kultuur wat jy beskryf en ook met die gevoel dat, wel, as jy sê dit gaan iets doen en dit doen nie, en iemand voel sleg, dit is goed, want ons is op die volgende ding. Dit is in die verlede. En veral in KI is Sam so goed om die groot beloftes te maak.
Net hierdie week, dink ek, dieselfde dag as wat jou storie gepubliseer is, het OpenAI 'n beleidsdokument vrygestel wat gesê het dat ons die sosiale kontrak moet heroorweeg en KI-doeltreffendheidstoelae van die regering moet hê. Dit is 'n groot belofte oor hoe sommige tegnologie die toekoms van die wêreld kan vorm en hoe ons leef, en dit alles berus op die tegnologie wat presies werk soos dit dalk beloof is om te werk of dit behoort te werk.
Het jy al ooit gevind dat Sam twyfel aan KI, verander in AGI of superintelligensie of kom by die wenstreep? Want dit is die ding waaroor ek die meeste wonder. Is daar enige besinning oor of hierdie kerntegnologie al die dinge kan doen wat hulle sê dit kan doen?
Dit is presies die regte stel vrae. Daar is geloofwaardige tegnoloë met wie ons gepraat het in hierdie verslaggewing - en natuurlik is Sam Altman nie een nie; hy is 'n besigheidspersoon - wat sê dat die manier waarop Sam oor die tydlyn vir hierdie tegnologie praat, net ver is. Daar is blogplasings wat 'n paar jaar teruggaan waar Sam sê: "Ons het reeds die gebeurtenishorison bereik. AGI is basies hier. Superintelligensie is om die draai. Ons gaan op ander planete wees. Ons gaan alle vorme van kanker genees." Waarlik, ek verfraai nie.
Die kanker een is eintlik interessant, dat Sam die persoon wat teoreties hul hond se kanker genees het met ChatGPT ophef, en dit het eenvoudig nie gebeur nie. Hulle het met ChatGPT gepraat, en dit het hulle gehelp om 'n paar navorsers te lei wat werklik die werk gedoen het, maar die een-tot-een, hierdie hulpmiddel wat hierdie hond genees het, is nie eintlik die storie nie.
Ek is bly jy het daardie punt geopper, want ek wil aangaan na hierdie groter punt oor wanneer beide die potensiaal en die risiko van die tegnologie werklik gaan vestig. Maar dit is die moeite werd om hierdie klein eenkantjies te noem wat voortdurend van Sam Altman gebeur, waar dit lyk of hy hierdie eienskap weer van voor af beliggaam.
Ek bedoel, om die voorbeeld van die WilmerHale-verslag te gebruik, waar ons hierdie inligting gehad het wat nie op skrif gehou is nie, en wou weet of die mondelinge opdrag langs die pad aan enigiemand anders gegee is as die twee raadslede wat Sam gehelp installeer het om dit toe te sien. En hy het gesê: "Ja, ja, nee, ek glo dit is gegee aan almal wat daarna by die raad aangesluit het." En ons het 'n persoon met direkte kennis van die situasie wat sê dat dit bloot 'n leuen is. En dit blyk regtig die geval te wees, dat dit onwaar is. As ons vrygewig wil wees, is hy dalk verkeerd ingelig.
Daar is baie van hierdie toevallige versekerings. En ek gebruik daardie voorbeeld deels omdat dit 'n goeie voorbeeld is van uitmekaarval, kom ons noem dit, wat regte gevolge kan hê. Ek hoef nie vir jou te sê, onder Delaware korporatiewe wet, as hierdie maatskappy IPO's, aandeelhouers ingevolge artikel 220 hieroor kan kla en onderliggende dokumentasie kan eis nie. Daar is reeds raadslede wat dinge sê soos: "Wel, wag 'n bietjie, daardie inligtingsessie moes gebeur het."
So hierdie dinge wat blykbaar heeltyd uit sy mond spring, hulle kan werklike markbewegende effekte hê, werklike effekte vir OpenAI. Om dit terug te bring na die soort utopiese hype-taal wat weer na vore gekom het, dink ek nie toevallig op die dag dat hierdie stuk uitgekom het nie, dit raak ook ons almal, want die gevare is so akuut met betrekking tot die manier waarop dit iswat in wapens ontplooi word, die manier waarop dit gebruik word om chemiese oorlogvoeringsagente te identifiseer, die disinformasiepotensiaal, en as gevolg van die manier waarop die utopiese hype blykbaar baie geloofwaardige ekonome laat sê: "Dit het al die tekens van 'n borrel."
Selfs Sam Altman het gesê: "Iemand gaan baie geld hier verloor." Dit kan werklik baie Amerikaanse en wêreldwye ekonomiese groei krater, as daar soos 'n ware deurboor van 'n borrel is waarby al hierdie maatskappye transaksies met mekaar doen, alles ingaan op KI terwyl hulle so swaar leen. So wat Sam Altman sê maak saak, en ek dink die oorwig van mense rondom hom, jy het genoem ons het met meer as honderd gepraat, dit was eintlik meer as honderd. Ons het 'n gesprek by die eindstreep gehad waar dit soos: "Sal dit te klein wees om te sê dit is soos hierdie veel hoër getal?" En ons was soos: "Ja, kom ons verkleineer. Ons sal dit cool speel." Maar daar was soveel mense en so 'n beduidende meerderheid van hulle het gesê: "Dit is 'n bekommernis." En ek dink dit is al hoekom.
Kom ek vra jou oor daardie nommer. Soos jy genoem het, het mense meer en meer oop geword met die bekommernisse soos die tyd aangestap het. Dit voel asof die druk rondom die borrel - die wedloop om te wen, om al hierdie belegging af te betaal, om as die wenner na vore te tree, na IPO - baie houdings verander het. Dit het beslis meer druk op Sam en OpenAI geskep.
Ons het hierdie week 'n storie gepubliseer net oor die vibes van OpenAI. Jou storie is deel daarvan, maar massiewe personeelveranderings in die uitvoerende geledere by OpenAI - mense kom en gaan. Die navorsers is almal op pad, grootliks na Antropies, wat ek dink regtig interessant is. Jy kan net sien hierdie maatskappy voel die druk, en dit reageer op een of ander manier op daardie druk.
Maar dan dink ek terug aan Sam wat afgedank is. Dit is net vir my onvergeetlik. Dit is onvergeetlik vir niemand anders nie, maar ek het 'n bronoproep by die Bronx-dieretuin om 19:00 op 'n Vrydag geneem, en dit was iemand wat gesê het hulle gaan probeer om Sam terug te kry. En toe het ons die naweek spandeer om daardie storie af te jaag. En ek was net soos: "Ek is by die dieretuin. Wat wil jy hê moet ek hier doen?" En die antwoord was: "Bly aan die telefoon." Wel, my dogter was soos: "Gaan van die telefoon af." En dit is wat ek gedoen het.
Dit was ry of sterf om Sam terug te kry. Daardie maatskappy was soos: "Nee, ons laat nie toe dat die direksie Sam Altman afdank nie." Die beleggers, hulle word in jou stuk aangehaal, "Ons het oorlog toe gegaan," dink ek, is die Thrive Capital-posisie, "om Sam terug te kry." Microsoft het oorlog toe gegaan om Sam terug te kry. Dit is later, en nou sê almal: "Ons gaan na IPO. Ons het by die wenstreep gekom. Ons het ons ou teruggekry, en hy gaan ons by die eindstreep kry. Ons is bekommerd dat hy 'n leuenaar is."
Hoekom was dit 'n oorlog om hom toe terug te kry? Want dit lyk nie of enigiets eintlik verander het nie. Jy praat oor die memo's wat Ilya Sutskever en [Antropiese uitvoerende hoof] Dario Amodi gehou het terwyl hulle tydgenote van Sam Altman was. Ilya se grootste bekommernis was dat Sam 'n leuenaar is.
Niks daarvan het verander nie. So hoekom was dit oorlog om hom toe terug te bring? En noudat ons by die eindstreep is, lyk dit of al die bekommernisse in die openbaar is.
Wel, eerstens, jammer vir jou dogter en my lewensmaat en al die ander mense rondom die joernaliste.
[Lag] Dit was nogal 'n naweek vir almal.
Ja, dit neem mens se lewe oor, en hierdie storie het beslis myne, oor die laaste tydperk. Dit hou eintlik verband met hierdie tema van joernalistiek en toegang tot inligting, dink ek. Die beleggers wat vir Sam oorlog gevoer het en almal het 'n rol gespeel om seker te maak dat hy terugkom, en die direksie wat spesifiek ontwerp is om 'n niewinsorganisasie se missie te beskerm om veiligheid bo groei te plaas en om 'n uitvoerende beampte af te dank as hulle nie daarmee vertrou kon word nie, hulle het weggegaan. Dit was al omdat, ja, die markaansporings was daar, reg?
Sam kon mense oortuig: "Wel, die maatskappy gaan net uitmekaar val." Maar die rede waarom hy ondersteuning gehad het, was 'n gebrek aan inligting. Daardie beleggers sê in baie gevalle nou: "Ek kyk terug, en ek dink ek moes meer bekommernisse gehad het as ek ten volle geweet het wat die eise was en wat die bekommernisse was."
Nie almal van hulle nie;menings verskil, en ons haal 'n reeks menings aan, maar daar is belangrike menings wat op baie gedeeltelike inligting opgetree het. Die raad wat Sam afgedank het, was, in die woorde van een persoon wat vroeër op die bord was, "baie JV," en hulle het die bal hard getrap. En ons dokumenteer die onderliggende klagtes, en mense kan self besluit of dit ophoop in die soort dringende kommer wat hulle gevoel het dit was, maar daardie argument en daardie inligting word nie aangebied nie.
Hulle het ontvang wat sommige van hulle nou as slegte regsadvies erken. Om dit te beskryf, sal jy die aanhaling onthou, en waarskynlik sal baie van jou luisteraars en kykers die aanhaling onthou as 'n gebrek aan openhartigheid. Dit was waartoe dit verminder is, en dan sou hulle in wese nie oproepe neem nie.
Hulle sou nie oproepe neem nie. Ek is seker jy het probeer. Almal wat ek ken het probeer, en dit het tot die punt gekom waar jy as joernalis nie veronderstel is om jou bronne raad te gee nie, maar ek was soos: "Dit sal weggaan as jy nie jouself begin verduidelik nie."
En dit is wat gebeur het. Vergeet joernaliste. Jy het Satya Nadella laat sê: "Wat de hel het gebeur? Ek kan niemand kry om vir my te verduidelik nie." En dit is die maatskappy se groot finansiële ondersteuner. En dan het jy Satya wat [LinkedIn mede-stigter] Reid Hoffman bel en Reid wat rondbel en sê: "Ek weet nie wat de fok gebeur het nie."
Hulle is verstaanbaar in daardie leemte van inligting, op soek na die tradisionele nie-KI-aanwysers wat so 'n dringende, skielike afvuur sal regverdig. Soos, goed, was dit seksmisdade? Was dit verduistering? En die hele subtiele, maar ek dink sinvolle, argument dat hierdie tegnologie anders is en dat hierdie soort van 'n bestendige opeenhoping van kleiner verraad betekenisvolle belange vir beide hierdie besigheid en miskien vir die wêreld kan hê, het grootliks verlore gegaan. So kapitalistiese aansporings het gewen, maar ook die mense wat dit gemaak het, het uitgegaan en het nie altyd met volledige inligting gewerk nie.
Ek wil net vir een oomblik vra oor die "wat almal gedink het dit is" aspek, want ek het beslis die nuus gesien, en ek het gesê: "O, iets ergs moes gebeur het." Jy het al baie #MeToo-verslaggewing gedoen, beroemd. Jy het die Harvey Weinstein-storie gebreek.
Jy het baie tyd spandeer om te rapporteer oor hierdie bewerings wat ek dink jy besluit het uiteindelik ongegrond is: dat Altman minderjariges seksueel aangerand het of sekswerkers gehuur het, of selfs 'n OpenAI-fluitjieblaser vermoor het. Ek bedoel, jy is die persoon wat hierdie goed die strengste kan rapporteer. Het jy besluit dat dit op niks uitkom nie?
Wel, kyk, ek is nie besig om te sê iets het tot niks gekom nie. Wat ek wel kan sê, is dat ek maande lank na hierdie bewerings gekyk het en geen stawing daarvoor gevind het nie. En dit was vir my opvallend dat hierdie ouens, hierdie maatskappye wat soveel mag oor ons toekoms het, werklik 'n buitensporige hoeveelheid van hul tyd en hulpbronne in 'n kinderlike moddergeveg spandeer.
Een bestuurder beskryf dit as “Shakespearean”. Die bedrag private ondersoekergeld en die opposisiedossiere wat saamgestel word, is meedoënloos. En die ongelukkige ding is dat die soort snaakse goed wat deur Sam se mededingers gepapegaai word, net 'n feit is, nie waar nie? Daar is hierdie bewering dat hy minderjarige seuns agtervolg, en by baie skemerkelkiepartytjies in Silicon Valley hoor jy dit. Op die konferensiekring het ek gehoor dat dit net herhaal word deur geloofwaardige, prominente bestuurders: "Almal weet dit is 'n feit."
Die hartseer ding is dat ek praat oor waar dit vandaan kom, die verskillende vektore waardeur dit oorgedra word. Elon Musk en sy medewerkers voer oënskynlik werklike harde dossiere wat op niks neerkom nie. Hulle is dampig wanneer jy eintlik na die onderliggende eise begin kyk. Die hartseer ding is dat dit werklik die meer bewysgebaseerde kritiek hier verdoesel wat ek dink regtig dringende toesig en oorweging verdien.
Die ander tema wat werklik in die storie deurkom, is amper 'n gevoel van vrees dat Sam soveel vriende het - hy het in soveel maatskappye belê vanaf sy vorige rol as HUB van Y Combinator, net tot sy persoonlike belegging, waarvan sommige in direkte stryd is met sy rol as HUB van OpenAI - en daar is stilte rondom hom.
Dit het my opgeval toe ek veral een reël gelees het. Jy beskryf Ilya Sutskever se memo's, en hulle is pas in Silicon Valley. Almalnoem hulle die Ilya-memo's. Maar daar is selfs stilte daaromtrent. Hulle word deurgegee, maar hulle word nie bespreek nie. Waar dink jy kom dit vandaan? Is dit vrees? Is dit 'n begeerte om engelbelegging te kry? Waar kom dit vandaan?
Ek dink dit is baie lafhartigheid, ek sal eerlik wees. Nadat hulle berig het oor nasionale veiligheidsstories waar die bronne fluitjieblasers is wat alles kan verloor en vervolging in die gesig staar, doen hulle steeds die regte ding en praat oor dinge om aanspreeklikheid te skep. Ek het gewerk aan die seksmisdade-verwante stories wat jy genoem het, waar bronne diep getraumatiseer is en 'n baie persoonlike soort vergelding vrees.
In baie gevalle rondom hierdie ritme het jy te doen met mense met hul eie profiel en krag. Hulle is óf self bekende mense óf hulle is omring deur bekende mense. Hulle het 'n robuuste besigheidslewe. Na my mening is dit eintlik baie lae blootstelling vir hulle om oor hierdie goed te praat. En gelukkig beweeg die naald soos ons vroeër gepraat het, en mense praat nou meer.
Maar vir so 'n lang tyd het mense eintlik net stil daaroor omdat ek dink die Silicon Valley-kultuur is net so genadeloos eiebelang en genadeloos besigheids- en groei-georiënteerd. So ek dink dit tref selfs sommige van die mense wat betrokke was by die afdanking van Sam, waar jy in die dae daarna gesien het, ja, een faktor wat daartoe gelei het dat hy teruggekom het en die afdanking van ou raadslede was dat hy beleggers byeengeroep het wat verward was met sy saak.
Maar 'n ander is dat soveel ander mense rondom dit wat die bekommernisse gehad het en dit dringend uitgespreek het, net soos servette gevou het en hul deuntjie verander het die oomblik toe hulle sien die wind waai anderpad, en hulle wou in die winstrein.
Dit is redelik donker, eerlik, uit my oogpunt as 'n verslaggewer.
Sommige van daardie mense is Mira Murati, wat, glo ek, vir 20 minute die nuwe uitvoerende hoof van OpenAI was. Sy is toe vervang. Dit was 'n baie ingewikkelde dinamiek, en natuurlik het Sam teruggekom. Die ander persoon is Ilya Sutskever, wat een van die stemme was om Sam te verwyder, en toe het hy van plan verander, of ten minste gesê hy het van plan verander, en toe is hy weg om sy eie maatskappy te begin. Weet jy wat hom van plan laat verander het? Was dit net geld?
Wel, en om duidelik te wees, ek sonder daardie twee nie uit nie. Daar is ander raadslede wat by die afvuur betrokke was wat ook daarna baie stil geword het. Ek dink dit is soos 'n wyer kollektiewe probleem. Dit is in sommige gevalle mense wat die morele vesel gehad het om alarms te maak en radikale optrede te neem, en dit moet geloof word. En dit is hoe jy aanspreeklikheid verseker. Dit kon baie mense gehelp het wat deur hierdie tegnologie geraak word. Dit kon 'n bedryf gehelp het om meer sinvol op veiligheid gefokus te bly.
Maar as jy met fluitjieblasers en mense te doen het wat baie probeer om daardie aanspreeklikheid aan te spoor, sien jy ook dat dit die vesel verg om dit uit te steek en by jou oortuigings te staan. En hierdie bedryf is waarlik vol mense wat net nie by hul oortuigings staan nie.
Al dink hulle dat hulle 'n digitale God bou wat op een of ander manier alle arbeid sal uitskakel of meer arbeid sal skep, of iets sal gebeur.
Wel, dit is die ding. Die kultuur om nie by jou oortuigings te staan nie en alle etiese bekommernisse wat in die steek gelaat word die oomblik dat daar enige hitte of enigiets is wat jou eie aansien in die besigheid kan bedreig, is dalk in 'n mate goed en wel vir besigheid-soos-gewoonlik maatskappye wat enige soort widget maak.
Maar dit is ook dieselfde mense wat sê: "Dit kan ons almal letterlik doodmaak." En weer, jy hoef nie na die Terminator Skynet-uiterste te gaan nie. Daar is 'n stel risiko's wat reeds realiseer. Dit is waar, en hulle is reg om daaroor te waarsku, maar jy sal iemand anders in 'n leunstoel moet laat sielkundige hoe daardie twee dinge in dieselfde mense kan leef waar hulle die dringende waarskuwings gee, hulle sit dalk 'n toon in en probeer iets doen, en dan vou hulle net en raak stil.
Dit is presies hoekom jy sulke gevalle kan hê dat dinge buite skrif gehou word en dinge onder die mat ingevee word, en niemand praat so openlik daaroor vir jare daarna nie.
Die natuurlike, verantwoordelike party hier sou nie die HUB's van hierdie maatskappye wees nie; dit sou regerings wees. In die Verenigde State, miskiendit is staatsregerings, miskien is dit die federale regering.
Sekerlik, hierdie maatskappye wil almal wêreldwyd wees. Hier is baie globale implikasies. Ek het gekyk hoe OpenAI, Google en Anthropic almal die Biden-administrasie aanspoor om 'n KI-uitvoerende bevel vry te stel. Dit was op die ou end redelik tandeloos. Dit het net gesê hulle moet praat oor waartoe hul modelle in staat is en 'n paar veiligheidstoetse vrystel. En toe het hulle almal vir Trump gesteun, en Trump het ingekom en dit alles uitgevee en gesê: "Ons moet mededingend wees. Dit is 'n vry-vir-almal. Gaan daarvoor."
Terselfdertyd probeer hulle almal fondse insamel van Midde-Oosterse lande wat baie oliegeld het en hul ekonomieë wil verander. Dit is politici. Ek voel dat politici beslis moet verstaan iemand praat uit albei kante van hul mond, en hulle gaan nie te ontsteld wees as iemand op die ou end teleurgesteld is nie, maar die politici word ook vir 'n rit geneem. Hoekom dink jy is dit?
Dit is regtig, dink ek, hoekom die stuk volgens my saak maak en hoekom dit die moeite werd was om al hierdie tyd en detail aan te spandeer. Ons is in 'n omgewing waar die stelsels wat, soos jy sê, toesig behoort te bied, net uitgehold is. Dit is 'n post-Citizens United America, waar die vloei van geld so onbelemmerd is, en dit is 'n spesifieke konsentrasie van daardie probleem rondom KI, waar daar hierdie PAC's is wat versprei en geld oorstroom om betekenisvolle regulering op beide 'n staats- en federale vlak te vernietig.
Jy het [OpenAI-medestigter] Greg Brockman, Sam se tweede in bevel, wat direk op 'n groot manier bydra tot 'n paar daarvan. Dit lei tot 'n situasie waar daar werklik vaslegging van wetgewers en potensiële reguleerders is, en dit is 'n moeilike spiraal om uit te kom. Die hartseer ding is, ek dink dat daar eenvoudige beleidskuiwe is, waarvan sommige elders in die wêreld beproef word, wat sal help met sommige van hierdie aanspreeklikheidsprobleme.
U kan meer verpligte veiligheidstoetse voor ontplooiing hê, wat reeds in Europa gebeur vir grensmodelle. Jy kan strenger skriftelike vereistes vir openbare rekords hê vir die soorte interne ondersoeke waar ons gesien het dat dinge in hierdie geval nie op skrif gehou word nie. U kan 'n meer robuuste stel meganismes vir nasionale veiligheidshersiening hê vir die soort Midde-Oosterse infrastruktuurambisies wat Sam Altman dryf.
Soos jy sê, hy het hierdie aas gedoen en met die Biden-administrasie oorgeskakel en gesê: "Reguleer ons, reguleer ons," en het hulle gehelp om 'n uitvoerende bevel op te stel, en dan die oomblik wat Trump binnekom, werklik in die heel eerste dae, het hy net geen houvas gekeer nie, "Kom ons versnel en kom ons bou 'n massiewe datasentrumkampus in Abu Dhabi. Jy kon hê, dit is 'n baie eenvoudige een, soos fluitjieblaserbeskerming. Daar is geen federale wet wat werknemers van KI-maatskappye beskerm wat hierdie soort veiligheidskwessies wat in hierdie stuk uitgesaai word, openbaar maak nie.
Ons het gevalle waar Jan Leike, wat 'n senior veiligheidsman by OpenAI was, superbelyning by die maatskappy gelei het. Hy skryf aan die direksie, in wese fluitjieblasermateriaal, en sê die maatskappy gaan van die spoor af met sy veiligheidsmissie. Dit is die soort mense wat eintlik 'n toesighoudende liggaam moet hê waarheen hulle kan gaan, en hulle moet eksplisiete statutêre beskerming hê van die soorte wat ons in ander sektore sien. Dit is maklik om 'n Sarbanes-Oxley-styl regime te herhaal.
Ek dink dat ten spyte van hoe akuut die probleem is van Silicon Valley wat beheer oor al die magshefbome oorneem, en ten spyte van hoe uitgehold sommige van hierdie instellings is wat dalk toesig en veiligheidsrelings kan verskaf, glo ek steeds in die basiese wiskunde van demokrasie en van eiebelang politici. En daar is meer en meer peilingsdata wat na vore kom dat 'n meerderheid Amerikaners dink dat die bekommernisse, vrae of risiko's van KI tans swaarder weeg as die voordele.
So ek dink die stortvloed geld in die politiek van KI, dit is binne ons almal se vermoë om dit 'n bron van 'n vraagteken met betrekking tot politici te maak. Wanneer Amerikaners gaan stem, moet hulle kyk of die mense vir wie hulle stem, veral as hulle onkrities is en anti-regulering, gegewe al hierdie bekommernisse, deur groot tegnologiese spesiale belange gebank word. So ek dink as mense stukke soos hierdie kan lees, na podcasts soos hierdie kan luister en genoeg omgee om krities oor na te dinkhul besluite as kiesers, is daar 'n werklike geleentheid om 'n kiesafdeling in Washington te genereer van verteenwoordigers wat toesig hou en afdwing.
Dit is dalk een van die mees optimistiese dinge wat ek nog ooit gehoor het oor die huidige KI-industrie. Ek waardeer dit. Ek is versot op die peiling waarvan jy praat. Daar is nou baie daarvan. Dit is alles redelik konsekwent, en dit lyk of hoe meer jong mense, veral, aan KI blootgestel word, hoe meer wantrouig en kwaad is hulle daaroor. Dit is die valensie van al die peiling. En ek kyk daarna, en ek dink, wel, ja, slim politici sal net daarteen optree. Hulle sou net sê: "Ons gaan groot tegnologie aanspreeklik hou."
Dan dink ek aan die afgelope 20 jaar, 'n politikus wat sê hulle gaan groot tegnologie aanspreeklik hou, en ek sukkel om te vind dat selfs een oomblik van groot tegnologie aanspreeklik gehou word. Die enigste ding wat my laat dink dit kan anders wees, wel, jy moet eintlik die datasentrums bou, en jy kan daarteen stem, en jy kan petisie daarteen doen, en jy kan daarteen protesteer.
Ek dink daar is 'n politikus wat net op hul huis geskiet is omdat hulle vir 'n datasentrum gestem het. Die spanning bereik, sou ek dit noem, 'n koorshoogte. Jy het die insulariteit van Silicon Valley beskryf. Dit is 'n geslote ekosisteem. Dit voel asof hulle dink hulle kan die wêreld bestuur. Hulle sit 'n klomp geld in die politiek, en hulle hardloop teen die realiteit dat mense nie van die produkte hou nie, wat hulle nie baie dekking gee nie. Hoe meer hulle die produkte gebruik, hoe meer ontsteld is hulle, en die politici begin sien dat daar werklike gevolge is om die tegnologiebedryf te ondersteun oor die mense wat hulle verteenwoordig.
Jy het met soveel mense gepraat. Dink jy dit is moontlik vir die tegnologiebedryf om die les te leer wat reg voor hulle is?
Jy sê dit voel asof hulle dink hulle kan die wêreld sonder aanspreeklikheid bestuur. Ek dink nie eers dit het die "voel soos" kwalifiseerder nodig nie. Ek bedoel, jy kyk na die taal wat Peter Thiel gebruik, dit is eksplisiet. Natuurlik is dit 'n uiterste voorbeeld. En Sam Altman, hoewel hy na aan Thiel se ideologie is en tot 'n mate ingelig is deur, is 'n heel ander soort mens wat dalk anders en tot op 'n punt meer afgemete klink.
Maar ek dink wel die wyer ideologie wat jy van Thiel kry, wat basies is: Ons is klaar met demokrasie, ons het dit nie meer nodig nie. Ons het so baie dat ons net ons eie klein bunkers wil bou. Ons het nie meer te doen met die Carnegies of die Rockefellers nie, waar hulle slegte ouens is, maar hulle voel hulle moet aan 'n sosiale kontrak deelneem en dinge vir mense bou. Daar is 'n ware nihilisme wat ingetree het.
En ek dink wel dit was net 'n wedersyds versterkende spiraal in die onlangse Amerikaanse geskiedenis van moguls en private maatskappye wat superregeringsmag verkry, terwyl demokratiese instellings wat hulle aanspreeklik kan hou, uitgehol word. Ek voel nie optimisties oor die idee dat daardie ouens dalk net eendag wakker kan word en dink, "Huh, miskien moet ons aan die samelewing deelneem en dinge vir mense help bou."
Ek bedoel, jy kyk na die mikrokosmiese voorbeeld van The Giving Pledge, waar daar 'n oomblik was waar dit skynbaar liefdadigheid was, en daardie oomblik is nou verby en selfs bespot. Dit is 'n probleem, die breër probleem van gebrek aan aanspreeklikheid wat ek dink net ekstrinsiek opgelos kan word. Dit moet kiesers wees wat die mag van regeringstoesig mobiliseer en laat herleef. En jy is presies reg om te sê dat die hoofvektor waardeur mense dit dalk kan bereik, plaaslik is. Dit het te doen met waar infrastruktuur gebou word.
Jy het van die witwarm spanning hieroor genoem wat tot geweld en dreigemente lei, en natuurlik moet niemand gewelddadig of dreigend wees nie. En ek is ook nie hier om spesifieke beleidsaanbevelings te maak nie, behalwe om net sommige van die beleidstappe aan te bied wat basies lyk en elders in die wêreld werk, nie waar nie? Of diegene wat in ander sektore gewerk het. Ek is nie hier om te sê watter van hulle uitgevoer moet word en hoe nie.
Ek dink wel iets moet gebeur, en dit moet ekstern wees, nie net om hierdie maatskappye te vertrou nie. Want regnou het ons 'n situasie waar die maatskappye wat die tegnologie ontwikkel en die beste toegerus is om die risiko's te verstaan, en in werklikheid diegene is wat ons van die risiko's waarsku, ook diegene is met niks anders as aansporing om vinnig te gaan en daardie risiko's te ignoreer nie. En jy het net niks om dit teen te werk nie. So watter hervormings ook al in terme van besonderhede mag neem, iets moet daarteen teëkom. En ek keer steeds terug na daardie optimisme dat die mense steeds saak maak.
Ek koop oor die algemeen jou argument. Laat ek net die een klein teenargument maak wat ek dink ek kan verwoord. Die ander ding wat buite die stembus kan gebeur, is dat die borrel spring, nie waar nie? Dat nie al hierdie maatskappye by die eindstreep kom nie, en dat daar nie produkmark geskik is vir verbruikers-KI-toepassings nie. En weereens, ek sien dit nog nie heeltemal nie, maar ek is 'n verbruikerstegnologiebeoordelaar, en miskien het ek net hoër standaarde as almal anders.
Daar is produkmarkfiksheid in die sakewêreld, reg? Om 'n klomp KI-agente te laat skryf 'n klomp sagteware blyk 'n regte mark vir hierdie instrumente te wees. En jy kan die argumente van hierdie maatskappye lees wat sê: "Ons het kodering opgelos, en dit beteken dat ons enigiets kan oplos. As ons sagteware kan maak, kan ons enige probleme oplos."
Ek dink daar is werklike perke aan die dinge wat sagteware kan doen. Dit is wonderlik in die sakewêreld. Sagteware kan nie elke probleem in werklikheid oplos nie, maar hulle moet daar uitkom. Hulle moes die werk voltooi, en miskien haal almal nie die eindstreep nie. En daar is 'n ineenstorting, en hierdie borrel verskyn, en miskien OpenAI of Anthropic of xAI, een van hierdie maatskappye misluk, en al hierdie belegging gaan weg.
Dink jy dit sal dit beïnvloed? Eintlik, laat ek eers die eerste vraag vra. OpenAI is reg op die punt van 'n IPO. Daar is baie twyfel oor Sam as 'n leier. Dink jy hulle gaan tot by die wenstreep kom?
Ek gaan nie voorspel nie, maar ek dink jy opper 'n belangrike punt, naamlik dat markaansporings wel intern vir Silicon Valley saak maak, en die onsekerheid van die huidige borreldinamika kan die, weereens, moontlik, volgens kritici, wedloop na die bodem oor veiligheid onderbreek.
Ek wil ook daarby voeg, as jy kyk na historiese voorrang waar daar 'n soortgelyke en oënskynlik ondeurdringbare stel markaansporings en potensieel nadelige gevolge vir die publiek is, is daar impaklitigasie. En jy sien dit as 'n gebied van kommer die afgelope tyd. Sam Altman is vandeesweek daar buite en onderskryf wetgewing wat KI-maatskappye sal beskerm teen sommige van die tipes aanspreeklikheid waaraan OpenAI byvoorbeeld in onregmatige doodsake blootgestel is. Natuurlik is daar 'n begeerte om daardie skild teen aanspreeklikheid te hê.
Ek dink dat die howe steeds 'n betekenisvolle meganisme kan wees, en dit sal baie interessant wees om te sien hoe hierdie pakke vorm. Jy het byvoorbeeld reeds die klasaksie-geding gesien, waarvan ek en baie, baie ander skrywers wat ek ken lede is, teen Anthropic vir hul gebruik van boeke wat onder kopiereg was. As daar slim regsmense en eisers is wat omgee, soos ons histories gesien het in sake van groot tabak tot groot energie, kan jy ook 'n paar vangrelings en 'n paar aansporings kry om te vertraag, versigtig te wees of mense so te beskerm.
Dit voel of die hele kostestruktuur van die KI-industrie afhang van 'n baie, baie liefdadige interpretasie van billike gebruik. Kom nie genoeg op nie. Die kostestruktuur van hierdie maatskappye kan buite beheer raak as hulle jou en almal anders wie se werk hulle geneem het moet betaal, maar dit is ongerieflik om aan te dink, so ons dink net nie daaraan nie. Reg langs dit loop al hierdie produkte nou teen 'n verlies. Soos vandag loop hulle almal verlore. Hulle verbrand meer geld as wat hulle kan maak. Op 'n stadium moet hulle die skakelaar draai.
Sam is 'n sakeman. Soos jy al verskeie kere genoem het, is hy nie 'n tegnoloog nie. Hy is 'n besigheidspersoon. Dink jy hy is gereed om die skakelaar te draai en te sê: "Ons gaan 'n dollar maak?" Want as ek vra: "Dink jy OpenAI gaan dit maak?" Dit is wanneer hulle 'n dollar moet maak. En tot dusver het Sam al sy dollars gemaak deur ander mense vir hul geld te vra in plaas daarvan dat sy maatskappye geld maak.
Wel, dit is 'n groot talmende vraag vir Silicon Valley, vir beleggers, vir die publiek.Jy sien 'n paar stellings en skuiwe uit OpenAI wat blykbaar 'n soort paniek daaroor toon. Sora afskakel, 'n paar bykomende projekte afskakel, probeer om die kernproduk in te lig. Maar dan aan die ander kant, sien jy nog steeds, op dieselfde tyd, tonne sending kruip, reg? Selfs 'n klein voorbeeld - dit is natuurlik nie die kern van hul besigheid nie - is die TBPN-verkryging.
Terloops, net toe ons die eindstreep bereik het en feite gekontroleer het, kry die maatskappy wat hierdie soort joernalistieke ondersoek in die gesig staar 'n platform waar hulle meer direkte beheer oor die gesprek kan hê. Ek dink daar is baie beleggers wat bekommerd is, gegrond op die gesprekke wat ek gehad het, dat hierdie probleem om alles aan alle mense te belowe ook strek tot hierdie gebrek aan fokus in die kernbesigheidsmodel. En ek bedoel, jy is nader aan die soort voorspel en kyk na die mark as wat ek waarskynlik is. Ek sal jou en die luisteraars laat om te beoordeel of hulle dink OpenAI kan die skakelaar omskakel.
Wel, ek het die vraag gevra omdat jy 'n aanhaling in die stuk van 'n senior Microsoft-bestuurder gekry het, en dit is dat, "Sam se nalatenskap kan uiteindelik meer soortgelyk wees aan Bernie Madoff of Sam Bankman-Fried," eerder as Steve Jobs. Dit is nogal 'n vergelyking. Wat het jy van daardie vergelyking gemaak?
Ek dink dit is 'n parafrase. Die Steve Jobs-deel was nie deel van die aanhaling nie. Maar daar is 'n interessante soort nugterheid daaraan, want dit word soos volg geformuleer: "Ek dink daar is 'n klein maar werklike kans dat hy uiteindelik 'n SBF of 'n Madoff-vlak swendelaar is." Dit beteken, na my mening, nie dat Sam van daardie spesifieke soorte bedrog of misdade beskuldig word nie, maar dat die mate van verskeuring en bedrog van Sam 'n kans kan hê om uiteindelik op daardie skaal onthou te word.
Ja, ek dink wat die opvallendste van daardie aanhaling is, eerlikwaar, is dat jy by Microsoft rondbel en jy kry nie 'n opmerking: "Dis mal. Ons het dit nog nooit gehoor nie." Jy kry baie soos, "Jip, baie mense hier dink dit" wat merkwaardig is. En ek dink dit gaan wel na hierdie moere en boute besigheidsvrae.
Een belegger het byvoorbeeld vir my gesê in die lig van die manier waarop hierdie eienskap in die jare ná die afdanking voortbestaan het” – en dit het ook gedink dit was ’n interessante nugter gedagte – dat dit nie noodwendig is dat Sam absoluut onderaan die lys moet wees nie, net soos die laagste van die laagtepunte moet wees in terme van die mense wat absoluut nie hierdie tegnologie moet bou nie, waarvoor dit gesê het dat dit 'n paar mense is wat hierdie persoon werd is. plaas hom miskien onderaan die lys van mense wat AGI moet bou, en onder verskeie ander leidende figure in hierdie veld.
So ek het gedink dit is 'n interessante beoordeling, en dit is die soort denke wat ek dink jy kry van die regte pragmatiste wat dalk nie soveel in die veiligheidskwessies inkoop nie. Hulle is net groei-georiënteerd, en hulle dink dat OpenAI nou 'n probleem met Sam Altman het.
Die Microsoft-stuk is regtig interessant. Dié maatskappy het gedink hulle is bo-aan die wêreld. Dat hulle hierdie belegging gemaak het en dat hulle almal, veral en bowenal, Google gaan omspring en terug gaan in die goeie genade van verbruikers. Die vlak waartoe hulle deur hierdie avontuur verbrand voel - dit is 'n baie nugter bestuurde maatskappy - dink ek kan nie oorbeklemtoon word nie.
Jy het die karakters en die persoonlikheidseienskappe genoem. Ek wil hier afsluit met 'n vraag van ons luisteraars. Ek het op ons ander program, The Vergecast, gesê dat ek met jou gaan praat, en ek het gesê: "As jy vrae vir Ronan het oor hierdie storie, laat my weet." Ons het dus een hier wat ek dink netjies aansluit by wat jy beskryf. Ek gaan dit net vir jou lees:
“Hoe verskil die regverdigings vir slegte gedrag, moordende optrede van Altman en ander KI-leiers, van die regverdigings wat Ronan van ander hoëprofielleiers in politiek en media gehoor het? Regverdig hulle nie almal hul optrede deur te sê dit is hoe die wêreld verander word nie? As ek dit nie doen nie, sal iemand anders?”
Ja, daar is baie daarvan aan die gang. Ek sou sê wat eiesoortig is aan KI is dat die eksistensiële belange wat so uniek hoog is, beteken dat beide die risikostellings ekstreem is, nie waar nie? Jy het Sam Altmanen sê: "Dit kan ligte uit wees vir ons almal." En ook, kan kritici sê, is die manie waarna die vraagsteller verwys ekstreem, nie waar nie?
Die ding waarvan Sam Elon beskuldig het, op die rekord, was dat hy miskien die mensdom wil red, maar net as dit hy is. Die soort ego-komponent van wil wen, wat 'n raamwerk is wat Sam heeltyd gebruik, en dat dit een vir die geskiedenisboeke is, dit kan alles verander. Dus, selfs bo en behalwe die "jy moet 'n paar eiers breek"-ingesteldheid van die meeste Silicon Valley-ondernemings, is daar in die gedagtes van sommige figure wat KI lei, dink ek, 'n volledige rasionalisering vir enige en alle uitval.
En vergeet om eiers te breek. Ek/ dink baie van die onderliggende veiligheidsnavorsers sou sê dat hulle moontlik die risiko loop om die land te breek, die wêreld te breek en miljoene mense wie se werk en veiligheid in die weegskaal hang - dit is wat uniek daaraan is. Dit is waar ek afsluit, terwyl ek nadink oor hierdie verslaggewing, en regtig glo dit gaan oor meer as Sam Altman. Dit gaan oor 'n bedryf wat onbeperk is en 'n spiraalvormige probleem van Amerika wat nie in staat is om dit te beperk nie.
Ja. Wel, ons het 'n bietjie optimisme daar gehad, maar ek dink dit is 'n goeie plek om dit te verlaat.
[Lag] Eindig op 'n downbeat.
Natuurlik. Dit is regtig elke wonderlike storie. Die Musk-Altman-verhoor is op hande. Ek dink ons gaan baie meer hier leer. Ek vermoed ek sal weer met jou wil praat. Ronan Farrow, baie dankie dat jy op Decoder is.
Dankie.
Vrae of opmerkings oor hierdie episode? Kontak ons by [email protected]. Ons lees regtig elke e-pos!
