Gaur Decoder-en, Ronan Farrow-ekin hitz egiten ari naiz, gaur egun lanean ari den ikerketa-erreportajearen izar handienetako batekin. Harvey Weinsteinen istorioa hautsi zuen, beste asko eta askoren artean. Eta joan den astean, berak eta Andrew Marantz egilekideak The New Yorker-en sakoneko ezaugarri sinestezin bat argitaratu zuten Sam Altman OpenAIko zuzendari nagusiari, bere fidagarritasunari eta OpenAI beraren gorakadari buruz.
Ohar bat gehiago hona joan baino lehen —The New Yorker-ek istorio hori argitaratu zuen eta Ronanek eta biok elkarrizketa hau izan genuen Altman-en etxean izandako erasoen norainokoa ezagutu baino lehen, beraz, ez gaituzue horri buruz zuzenean hitz egiten entzungo. Baina hori esateko, uste dut edozein motatako indarkeria onartezina dela, Samen aurkako eraso hauek onartezinak izan zirela, eta jendeak sentitzen duen ezintasun mota, indarkeria mota hori eragiten duena, onartezina dela berez, eta merezi duela askoz gehiago aztertzea bai industriaren aldetik, bai gure buruzagi politikoen aldetik. Hori argi egotea espero dut.
Harpidedunok, ez ahaztu iragarkirik gabeko deskodetzailea sarbide esklusiboa duzula zure podcastak eskuratzen dituzun lekuan. Burutu hona. Ez zara harpideduna? Hemen izena eman dezakezu.
Hori guztia esanda, Altman-en inguruan asko ibiltzen da erreportaje zorrotza egiteko joko egokia - Ronanek eta Andrewk egin nahi zuten erreportaje mota. Thanks to the popularity of ChatGPT, Altman has emerged as the most visible figurehead of the AI industry, having turned a once nonprofit research lab into an almost trillion-dollar private company in just a few years. Baina Altman-en mitoa oso gatazkatsua da, berdin definituta bai bere hitzarmenak egiteko gaitasun nabariak eta baita jakinarazitako joera... tira, inguruko guztiei gezurra esateko.
Istorioak 17.000 hitz baino gehiago ditu, eta dudarik gabe 2023an OpenAIko administrazio kontseiluak Altman kaleratu zuenean gertatu zenaren behin betiko kontua du, ustezko gezurra dela eta, ia berehala berriro kontratatu ahal izateko. Altmanen bizitza pertsonalean, bere inbertsioetan, Ekialde Hurbileko diruaren gortean eta bere iraganeko jokabideari eta izaera-ezaugarriei buruzko hausnarketa propioa da, iturri bat "egiak mugarik gabe" zegoela esatera eraman zutena. Benetan gomendatzen dizut istorio osoa irakurtzea; Susmoa dut datozen urte askotan erreferentzia izango dela.
Ronanek askotan hitz egin zuen Altman-ekin pieza honen berri ematen eman zituen 18 hilabeteetan, eta, beraz, jakin-mina nuen gauza nagusietako bat izan zen ea denbora horretan Altman-en aldaketarik sumatu zuen. Azken finean, AI-n, teknologian eta munduan gauza asko gertatu dira azken urte eta erdian.
Ronan oso zuzenean entzungo duzu horretaz hitz egiten, baita jendea Altmanek egia zabaltzeko duen gaitasunaz hitz egiteko askoz ere prestuago bihurtu dela bere sentipena. Jendea galdetzen hasi da, ozen eta erregistroan, Altman bezalako pertsonen jokabidea kezkagarria ote den, ez bakarrik AI edo teknologiari dagokionez, baita gizartearen etorkizun kolektiboari dagokionez ere.
Ados: Ronan Farrow Sam Altman, AI, eta egia. Hemen goaz.
Elkarrizketa hau arinki editatu da luzera eta argitasunerako.
Ronan Farrow, ikerketa kazetaria eta The New Yorker-eko kolaboratzailea zara. Ongi etorri Deskodetzailea.
Pozik hemen egoteaz. Eskerrik asko ni izateagatik.
Ilusio handia dut zurekin hitz egiteak. The New Yorker-erako pieza handi bat idatzi berri duzu. Sam Altman-en profila da eta, horrekin batera, OpenAI. Irakurri dudanez, ezaugarri bikain guztiek egiten duten bezala, erreportaje zorrotzekin jendeak Sam Altman-i buruz izan dituen sentimendu asko balioztatzen ditu denbora luzez. Argi dago argitaratu duzula, erreakzioak jaso dituzula. Nola sentitzen zara oraintxe bertan?
Beno, poztu egin nau, egia esan, arretaren ekonomia hain eskizofreniko eta azaleko den garaian zenbateraino apurtu den. Hau, nire ustez, guztioi eragiten digun istorio bat da. Eta nire bizitzako urte eta erdi igaro nuenean, eta nire egilekideak, Andrew Marantz-ek, bere denbora hori ere igaro nuenean, benetan auzitegiko zerbait egin nahian eta zorrotza egiten, beti gertatzen da istorioaren muinean gizabanakoaz eta konpainiaz haratago jendeari eragiten dioten egiturazko arazo handiagoak daudela sentitzen dudalako.
Sam Altman, Silicon Valley-ren hype-kulturaren eta startup-en atzealdean, etorkizunean bete daitezkeen ala ez dauden promesetan oinarritutako balorazio masiboetara igotzen diren eta talde ezberdinei gauza gatazkatsu desberdinak kontatzea ezaugarri bat dela uste duen sortzailearen kultura geroz eta handiagoa da.akatsa... Atzealde horren aurrean ere, Sam Altman kasu paregabea da, non gauza horiek espero dituzten Silicon Valleyko guztiek ezin dioten bere fidagarritasunari eta zintzotasunari buruzko galdera honi buruz hitz egiteari utzi.
Dagoeneko bagenekien desleialtasun edo serieko ustezko gezurretako salaketen bertsio batzuengatik kaleratu zutela. Baina izugarri, erreportaje zoragarriak izan diren arren, Keach Hageyk lan handia egin du honetan. Karen Haok lan handia egin du honetan. Benetan ez zegoen benetako ustezko froga puntuak eta horiek publikotik kanpo geratu izanaren arrazoiak behin betiko ulertzea.
Beraz, lehen puntua zera da: gure ezagutza publikoan dauden hutsune horietako batzuk, eta baita Silicon Valley-ren barnekoen ezagutzan ere, orain pixka bat gehiago bete izanak pozten nau. Hutsuneak zeuden arrazoi batzuk apur bat gehiago bete dira.
Enpresa honetako pertsonek gauzak estali edo nahita dokumentatu ez zirela sentitzen duten kasuen berri ematen dugu. Istorio honetako gauza berrietako bat WilmerHale-ren abokatu-bulegoaren ikerketa funtsezkoa da, hau da, jakina, Enron eta WorldCom-en ikerketak egin zituen abokatu-bulego dotorea, sinesgarria, eta, bide batez, denak ugariak ziren, argitaratutako ehunka orrialde bezala. WilmerHale-k alde egin zuenean Altman kaleratu zuten kontseiluko kideek eskatutako ikerketa hori egin zuen, eta itzuli egin zen. Eta ikaragarri - hitz egin nion lege-aditu askoren begietan, eta harrigarriki enpresa honetako jende askoren aurrean - idaztetik kanpo utzi zuten. Hortik atera zen guztia OpenAIren 800 hitzeko prentsa-ohar bat izan zen, gertatutakoa konfiantzaren haustura gisa deskribatzen zuena. Eta hori ahozko hitzaldiei eutsi zitzaiela baieztatu genuen.
Badira kasuak non, adibidez, kontseiluko kide batek itxuraz OpenAI-ren jatorrizko irabazi-asmorik gabeko inprimakitik irabazi asmorik gabeko entitate bihurtzearen aurka bozkatu nahi duela eta abstentzio gisa erregistratzen da. Bileran abokatu bat esaten ari da: "Beno, horrek azterketa gehiegi eragin dezake". Eta aurka bozkatu nahi duenak abstentzio gisa jasotzen du agerraldi guztietan. Egiazko gatazka dago. OpenAIk bestela aldarrikatzen du, imajina dezakezun bezala. Horiek guztiak, bere kontuagatik, gure etorkizuna bere eskuetan daukan enpresa bat daukazun kasuak dira.
Segurtasun apustuak hain dira zorrotzak, ez direla desagertu. Hau da enpresa hau segurtasunari begira irabazi-asmorik gabeko irabazi-asmorik gabeko gisa sortu zen eta gauzak iluntzen ari ziren modu honetan, jende sinesgarriek profesionalak baino gutxiago aurkitu zituzten. Eta hori konbinatzen duzu erregulazio esanguratsurako gogo politiko gutxi dagoen atzealde batekin. Oso egoera erregarria dela uste dut.
Niretzat kontua ez da Sam Altmanek galdera hauek hain zorrotz merezi dituela. Gainera, arlo honetako tipo horietako edozeinek, eta pertsonaia gako askok, erakusten dute, betirako gezurrezko ezaugarri idiosinkratiko berezi hori ez bada, zalantzarik gabe, lasterketa-beherainoko mentalitate mailaren bat, non segurtasunzaleak ziren pertsonek konpromiso horiek eta denak lasterketa batean dauden jarrera ureztatu dituzten.
Uste dut, Anthropic-en azken filtrazioei erreparatzen diegunean, pieza honetan hatza botoian nork izan behar duen galdera egiten duen pertsona bat dagoela. The answer is, if we don’t have meaningful oversight, I think we have to be asking serious questions and trying to surface as much information as we can about all of these guys. Beraz, horren inguruko elkarrizketa esanguratsu bat sentitzen denak edo baten hasierak poztu nau.
Horrela galdetu dudan arrazoia da urte eta erdiz lanean aritu zinela. Nire ustez, 100 pertsonarekin hitz egin duzu zure egilekidearekin, Andrew. Istorio bat prestatzeko denbora luzea da. Azken urte eta erdian bereziki AIan pentsatzen dut, eta mutila, pertsonaia hauen guztien jarrera eta baloreak oso azkar aldatu direla.
Agian Sam Altman-ek baino gehiago, irabazle lehenetsi gisa hasi zen ChatGPT kaleratu zutelako eta denek uste zutelako hori Googleren ordez hartuko zuela. Eta orduan Google-k erantzun zuen, eta horrek harritu egiten ziela zirudien Google-k bere negozioa babesten saiatuko zela, agian teknologiaren historiako negozio onenetakoa, negozioaren historia ez bada. Anthropic-ek enpresan zentratuko zela erabaki zuen. Aginte nagusi bat hartzen ari dela dirudihor AI-ren enpresa-erabilera oso handia delako.
Orain, OpenAI bere produktua berriro bideratzen ari da "Google hartuko dugu" Codex-era, eta enpresa hartuko dute. Ezin dut oso esan, azken urte eta erdiko erreportajean zehar, hitz egiten ari zinen pertsonaiak aldatu direla sentitzen ote den? Haien jarrerak eta balioak bezala, aldatu al dira horiek?
Bai. Uste dut, lehenik eta behin, pieza honetan aztertzen den kritika, une honetan enpresa hauen barruan jende askorengandik datorrena - hau industria bat dela, apustu existentzialak gorabehera, segurtasunari buruzko beheko lasterketa batean jaisten ari den eta abiadura gainontzeko guztia gainditzen duen - kezka hori areagotu egin da. Eta uste dut kezka horiek balioztatuago daudela azken urte eta erdia gertatu ahala. Aldi berean, Sam Altman-i buruzko jarrerak berariaz aldatu dira. Horretarako iturriekin hitz egiten hasi ginenean, jendea oso, benetan, beldurra zegoen honi buruz zitatzeari eta honi buruz diskoan sartzeko.
Gure erreportajearen amaieran, erreportaje bat duzu, non jendeak oso modu irekian eta esplizituan hitz egiten duen honi buruz, eta kontseiluko kideak dituzu esateko: "Gezurra patologikoa da. Soziopata da". Ikuspegi asko daude: "Hau arriskutsua da segurtasun-interesak kontuan hartuta, eta osotasun handia duten teknologia honen liderrak behar ditugu", "Ahaztu segurtasun-interesak, hau da, edozein enpresa nagusitako edozein exekutiborentzat jasanezina den jokabidea, disfuntzio gehiegi sortzen duela".
Beraz, elkarrizketa askoz ere esplizituagoa bihurtu da, agian berandua dirudien moduan, baina zentzu batean pozgarria dena. Eta Sam Altman, bere onerako... Oso zuzena eta eskuzabala da, esango nuke, Samentzat. Hau ez da "got you" gauza asko zeuden pieza mota. Telefonoz ordu asko eta asko eman nituen berarekin hau amaitzen ari ginela eta benetan entzun nuen.
Imajina dezakezun bezala, honelako pieza batean, dena ez da sartzen. Kasu horietako batzuk zintzo entzuten ari nintzelako izan ziren. Eta Sam benetan argudio bat egiten ari bazen ura eramana sentitzen nuena, zerbait, egia izan bazen ere, sentsazionalista izan zitekeela, benetan erratu egin nintzen hori forentsea eta neurtua mantentzearen alde. Beraz, uste dut zuzen jasotzen ari dela, eta espero dut denbora-tarte honetan pilatutako egiazko erregistro honek gainbegiratzearen beharrari buruzko elkarrizketa sendoago bat eragin dezakeela.
Hori da benetan nire hurrengo galdera. Uste dut Samekin dozena bat aldiz hitz egin duzula istorio honen berri ematerakoan. Berriz ere, denbora luzean elkarrizketa asko dira. Uste al zenuen azken urte eta erdian Sam aldatu dela erreportajean zehar?
Bai. Uste dut honetan azpi-trama interesgarrienetako bat Sam Altman-ek ezaugarri honi buruz ere iraganean baino esplizituago hitz egiten duela. Pieza honetan Sam-en jarrera ez da honelakoa: "Ez dago ezer, hau ez da egia; Ez dakit zertaz ari zaren". Hark daukan jarrera da hori jendeari atsegin zaion joera bati eta gatazkaren abertsio moduko bati egozten zaiola esaten duela. Arazoak eragin zizkiola onartzen ari da, batez ere bere ibilbidearen hasieran.
Esaten ari da: "Beno, hortik pasatzen ari naiz, edo neurri batean pasatu naiz". Nire ustez benetan interesgarria dena da hitz egin genuen jendearen kontingentea, segurtasunaren defendatzaile modukoak ez zirenak, ez bakarrik segurtasun-kezka akutu hauek izan ohi dituzten azpiko ikertzaile teknikoak, baita inbertitzaile pragmatikoak ere. Sam-en babesleak dira, eta, kasu batzuetan, galdera honi erreparatzen diote eta tiroaren ostean itzultzean funtsezko papera izan izanaz hitz egiten dute. Orain, erreformatu den ala ez, eta aldaketa horrek zenbateraino den esanguratsua, esaten dute: "Beno, zalantzaren onura eman genion garai hartan".
Bereziki inbertitzaile nabarmen batengan nago pentsatzen: “Baina harrezkero, badirudi argia ez zela atera egurregiaren atzean” esan zuena, hauxe zen honek erabiltzen zuen esaldia, beharrezkoa zen neurrian. Ondorioz, badirudi gaur egun ezaugarri egonkorra dela. Hau modu etengabean ikusten ari gara. OpenAIren negozio handienetako batzuk ikus ditzakezuharremanak eta mesfidantza horren pisua modu etengabean eramateko modua.
Microsoftekin bezala, hango exekutiboekin hitz egiten duzu, eta kezka larria eta katalizatu berri dute. Badago kasu hau non, egun berean, OpenAI-k Microsoft-ekin duen esklusibotasuna berresten ari den azpiko estaturik gabeko AI ereduei dagokienez, Amazon-ekin akordio berri bat ere iragartzen ari dena, egoera-egoeran dauden AI eragileak eraikitzeko enpresa-soluzioak saltzearekin zerikusia duena, hau da, memoria duten.
Microsoft-eko jendearekin hitz egiten duzu, eta honela esaten dute: "Hori ezin da egin esklusibotasun akordio bat daukagun azpiko gauzekin elkarreragin gabe". Beraz, ezaugarri hau etengabeko negozio-jardueran ibiltzen den adibide txikietako bat besterik ez da eta OpenAIren kontseiluan, bere suite exekutiboan eta komunitate teknologiko zabalagoan kezka aktiboa den gaia da.
"Ezaugarri" hori esaten jarraitzen duzu. Istorioan badago tesia iruditzen zaidan lerro bat, eta deskribatzen ari zaren ezaugarriaren deskribapena da. "Sam Altman egiaren mugarik gabe" eta "pertsona berean ia inoiz ikusten ez diren bi ezaugarri" dituela da: lehenengoa jendeari atsegin emateko gogo handia da, edozein interakziotan gustukoa izateko, eta bigarrena, norbait engainatzeak ekar ditzakeen ondorioekiko kezka falta ia soziopatikoa.
Esan behar dizut, 500 aldiz irakurri nuen esaldi hori, eta saiatu nintzen imajinatzen beti jendeari gustatu nahi zitzaiona esaten eta gero ez gezurra sentitzen zuenean haserretzen. Eta ezin nuen nire egoera emozionala ulertu nola egon daitezkeen gauza horiek pertsona berean. Samekin asko hitz egin duzu, eta ezaugarri horiek bizi izan dituen jendearekin hitz egin duzu. Nola egiten du?
Bai. Interesgarria da giza mailan, horrelako erreportajeetara hurbiltzen naizelako benetako arreta jarriz, erdigunean dagoena humanizatzeko eta ulermen eta enpatia sakona bilatuz. Honi ikuspegi humanoago batetik hurbiltzen saiatu nintzenean eta esan nion: "Aizu, hau suntsigarria izango litzateke niretzat lan egin dudan jende askok gezurti patologikoa naizela esango balu. Nola daramazu pisu hori? Nola hitz egiten duzu horri buruz terapian? Zein da zure buruari horri buruz kontatzen duzun istorioa?".
Nire ustez, agian Mendebaldeko kostaldeko hitzak jaso nituen, esate baterako: "Bai, gustuko dut arnas lana". Baina ez da asko uste dut gutako askok izango genukeen auto-konfrontazio sakonaren sentsazio sendoa, gure jokabideari eta pertsonenganako tratuari buruzko iritzi mota hau ikusiko bagenu.
Uste dut hori benetan galderaren erantzun zabalagora doala. Samek baieztatzen du ezaugarri horrek arazoak sortu dituela, baina baita OpenAIren hazkundea bizkortzeko ahalmena eman dionaren parte dela, non pertsona talde desberdinak batzeko eta atsegin izateko gai dela. Etengabe konbentzitzen ari da gatazkan dauden hauteskunde-barruti horiek guztiak axola zaiena berari axola zaiona dela. Eta hori oso trebetasun erabilgarria izan daiteke sortzaile batentzat. Inbertitzaileekin hitz egin dut, gero esan dutenez: "Beno, agian ez da hain baliagarria den trebezia enpresa bat zuzentzeko, hainbeste desadostasuna ereiten duelako".
Baina Sam alderdi pertsonalean, uste dut giza mailan konektatzen saiatzen naizenean jasotzen dudan gauza konfrontazio, hausnarketa eta autoerantzukizun sakonagorik eza dela, eta horrek IPO bat prestatzen ari den enpresa baten superpotere edo erantzukizun horren berri ere ematen du.
Sue Yoon izeneko kontseilukide ohi baten hitzetan, piezan errekorra dena esaten duena, "asmorik gabeko" punturaino erabiltzen duen esaldia dela esanez, bere salmenta-eskuen errealitate aldakorra benetan sinesteko gai dena edo haietaz konbentzitzeko gai dena da. Edo, behintzat, haiek sinesten ez baditu, gai da haien bidez buru-belarri buru-belarri dudarik gabe.
Uste dut hizketan ari zaren gauza, zuk edo nik non egon gaitezkeen, gauza esaten ari garen heinean eta egin dugun beste ziurtasunarekin kontraesanean dagoela konturatzen ari garen heinean, geure burua izozteko edo egiaztatzeko une bat dugula uste dut. Uste dut berarekin ez dela hori gertatzen. Eta Silicon Valley-ko hype-kultura eta sortzaile-kultura zabalagoa dago hori hartzen duena.
Dibertigarria da. The Verge produktu baten berrikuspenen araberakoa daprograma. Hemen egiten dugunaren muina da. Urtean behin bilioi bat dolar edukitzen ditut Apple I+G eta esaten dut: "Telefono hau zazpi bat da". Eta nolabait legitimatzen ditu gure txosten guztiak eta gure iritziak beste nonbait. Ebaluazio-funtzioa dugu, eta hainbeste denbora pasatzen dugu AI produktuak begiratzen eta esaten "funtzionatzen al dute?"
Gaur egungo IAri buruzko elkarrizketa askotan falta dela iruditzen zaio. Amaigabeko elkarrizketa dago zer egin dezakeen, zein arriskutsua izan daitekeen. Eta gero zulatzen duzu, eta esaten duzu: "Benetan egiten al du gaur egin behar duen gauza?" Zenbait kasutan, erantzuna baiezkoa da. Baina kasu askotan eta askotan, erantzuna ezezkoa da.
Horrek deskribatzen ari zaren hype-kulturarekin lotzen duela sentitzen du eta, tira, zerbait egingo duela eta ez duela esaten baduzu, eta norbait gaizki sentitzen bada, ondo dago hurrengo gauzara gabiltzalako. Hori iraganean dago. Eta AIan bereziki, Sam oso ona da promesa handiak egiten.
Aste honetan bertan, uste dut zure istorioa argitaratu zen egun berean, OpenAI-k politika-dokumentu bat kaleratu zuela esaten zuen kontratu soziala birplanteatu behar dugula eta gobernuaren AI eraginkortasunaren diru-laguntzak izan behar ditugula. Teknologia batzuek munduaren etorkizuna eta nola bizi garen nola molda dezaketen buruzko promesa handia da hau, eta hori guztia beharbada agintzen duen edo funtzionatuko lukeen moduan funtzionatzen du teknologiak.
Inoiz aurkitu al duzu Sam AI zalantzan jartzen AGI edo superinteligentzia bihurtzea edo helmugara iristea? Gehien galdetzen dudan gauza hori delako. Ba al dago hausnarketarik oinarrizko teknologia honek egin ditzakeen gauza guztiak egin ditzakeen ala ez?
Galdera multzo egokia da. Erreportaje honetan hitz egin genuen teknologo sinesgarriak daude, eta, jakina, Sam Altman ez da bat; enpresaburua da, Samek teknologia honen denbora-lerroari buruz hitz egiteko modua oso urrun dagoela esaten duena. Urte batzuk atzera egiten diren blog-argitalpenak daude, non Sam esaten ari dena: "Dagoeneko gertaeraren horizonteraino iritsi gara. AGI, funtsean, hemen dago. Superinteligentzia izkinan dago. Beste planeta batzuetan egongo gara. Minbizi mota guztiak sendatuko ditugu". Egia esan, ez naiz edertzen ari.
Minbizia benetan interesgarria da, Sam teorikoki ChatGPT-rekin txakurraren minbizia sendatu zuen pertsona goraipatzen ari dela, eta hori ez da gertatu. ChatGPT-rekin hitz egin zuten, eta horrek benetan lana egin zuten ikertzaile batzuk gidatzen lagundu zien, baina bat-batekoa, txakur hau sendatu zuen tresna honek ez da benetan istorioa.
Pozten naiz puntu hori planteatu izana, teknologiaren potentziala eta arriskua benetan iritsiko direnean puntu handiago honetara joan nahi dudalako. Baina aipatzea merezi du Sam Altmanengandik etengabe gertatzen diren alde txiki hauek, non ezaugarri hori berriro gorpuzten duela dirudien.
Esan nahi dut, WilmerHale txostenaren adibidea erabiltzeko, non idatziz gordeta zegoen informazio hori geneukan, eta jakin nahi genuen ea bidean zehar ahozko laburpena Sam bi zuzendaritzako kideei ez beste inori eman ote zitzaigun hura gainbegiratzeko. Eta esan zuen: "Bai, bai, ez, uste dut ondoren batzordean sartu ziren guztiei eman zitzaiela". Eta egoeraren ezagutza zuzena duen pertsona bat dugu esaten gezurra besterik ez dela. Eta hori benetan dirudi, gezurra dela. Eskuzabal izan nahi badugu, beharbada gaizki informatu zen.
Asko daude ziurtasun kasual horietako asko. Eta adibide hori erabiltzen dut neurri batean, hori disimulatzearen adibide bikaina delako, dei dezagun, legez benetako ondorioak izan ditzakeela. Ez dizut esan behar, Delawareko lege korporatiboaren arabera, enpresa honek IPO-ak, akziodunek, 220. artikuluaren arabera, horretaz kexatu eta azpiko dokumentazioa eska dezaketen. Dagoeneko badaude kontseiluko kideak honelako gauzak esaten: "Beno, itxaron pixka bat, informazio hori gertatu behar zen".
Beraz, denbora guztian bere ahotik jauzi egiten dioten gauza hauek, benetako merkatu-efektuak izan ditzakete, benetako ondorioak OpenAIrentzat. Berpiztu den lengoaia utopiko motara itzuliz, uste dut ez dela kasualitatea pieza hau atera zen egunean, guztioi ere eragiten digula, arriskuak oso handiak direlako bere moduari dagokionez.armagintzan hedatuta egoteak, gerra kimikoko agenteak identifikatzeko erabiltzen ari den modua, desinformazio potentziala, eta badirudi utopiako iragarkiak ekonomialari sinesgarri asko esatera bultzatzen dituela: "Honek burbuila baten zantzu guztiak ditu".
Sam Altmanek ere esan du: "Norbaitek diru asko galduko du hemen". Horrek benetan Amerikako eta mundu mailako hazkunde ekonomiko handia eragin dezake, enpresa horiek guztiek elkarren artean akordioak egiten dituzten burbuila baten zulaketa bezalakoa bada, AI-n sartuz gero, mailegua hain handia hartzen duten bitartean. Beraz, Sam Altman-ek esaten duena garrantzitsua da, eta uste dut bere inguruko jendearen nagusitasuna, ehun baino gehiagorekin hitz egin genuela aipatu duzu, benetan ehundik gorakoa izan zela. Elkarrizketa bat izan genuen helmugan: "Txikiegi izango al litzateke kopuru hau askoz handiagoa dela esatea?" Eta guk esan genuen: "Bai, gutxiesteko. Ondo joko dugu". Baina jende asko zegoen eta horietako gehiengo esanguratsu batek esaten zuen: "Hau kezka bat da". Eta uste dut horregatik guztia dela.
Zenbaki horri buruz galdetzen dizut. Aipatu duzun bezala, jendea gero eta irekiago zegoen kezkekin denbora pasa ahala. Burbuilaren inguruko presioak —irabazteko lasterketa, inbertsio hori guztia ordaintzeko, irabazle gisa ateratzeko, IPOrako— jarrera asko aldatu duela iruditzen zaio. Zalantzarik gabe, presio gehiago sortu zuen Sam eta OpenAIrengan.
Aste honetan istorio bat argitaratu dugu OpenAIren giroari buruz. Zure istorioa horren parte da, baina langileen aldaketa handiak dira OpenAI-ko exekutiboen mailan - jendea joan eta etorri da. Ikertzaileak denak urruntzen dira, neurri handi batean Anthropic-era, eta hori benetan interesgarria iruditzen zait. Ikusten duzu konpainia hau presioa sentitzen ari dela, eta presio horri nolabait erantzuten ari zaiola.
Baina gero pentsatzen dut Sam kaleratu izana. Hau gogoangarria besterik ez da niretzat. Ez da gogoangarria beste inorentzat, baina Bronxeko zooan hartu nuen iturriko deia ostiral batean arratsaldeko 19:00etan, eta norbaitek esaten zuen Sam itzultzen saiatuko zirela. Eta gero asteburua pasa genuen istorio horren atzetik. Eta esan nuen: "Zooan nago. Zer nahi duzu hemen egitea?" Eta erantzuna: "Egon telefonoan". Beno, nire alabak esan zuen: "Alde telefonoa". Eta horixe egin nuen.
Sam itzultzea izan zen ibiltzea edo hiltzea. Konpainia hark honela esan zuen: "Ez, ez diogu batzordeari utziko Sam Altman botatzen". Inbertitzaileak, zure piezan aipatzen dira: "Gerrara joan ginen", uste dut Thrive Capital posizioa dela, "Sam itzultzeko". Microsoft gerrara joan zen Sam itzultzeko. Geroago da, eta orain denek esaten dute: "IPOra goaz. Helmugara iritsi gara. Gure mutila berreskuratu dugu, eta helmugara eramango gaitu. Gezurti bat ote den kezkatuta gaude".
Zergatik izan zen gerra hura bueltatzeko orduan? Ez dirudielako benetan ezer aldatu denik. Ilya Sutskever eta Dario Amodei [Anthropic CEO] Sam Altmanen garaikide ziren bitartean gorde zituzten memorandumez hitz egiten duzu. Ilyaren lehen kezka Sam gezurtia dela zen.
Horietako ezer ez da aldatu. Orduan, zergatik izan zen gerra hura ekartzeko orduan? Eta orain helmugan gaudela, badirudi kezka guztiak zabalik daudela.
Tira, lehenik eta behin, barkatu zure alaba eta nire bikotekidea eta kazetarien inguruko beste pertsona guztiei.
[Barre] Asteburu polita izan zen guztiontzat.
Bai, norberaren bizitza hartzen du, eta istorio honek, zalantzarik gabe, nirea du, azken aldian. Egia esan, kazetaritza eta informaziorako sarbidearen gai honekin lotuta dago, nire ustez. Sam-en alde gerrara joan ziren inbertitzaileek eta guztiek egin zuten papera itzultzen zela ziurtatzeko, eta irabazi-asmorik gabeko baten misioa babesteko bereziki diseinatutako kontseilua hazkuntzaren gainetik segurtasuna jartzeko eta exekutibo bat kaleratzeko, horrekin fidatu ezin bazitzaien, alde egin zuten. Hori guztia, bai, merkatuko pizgarriak hor zeudelako, ezta?
Samek jendea konbentzitu ahal izan zuen: "Beno, konpainia eroriko da". Baina laguntza izan zuen arrazoia informazio falta izan zen. Inbertitzaile horiek, kasu askotan, orain esaten dute: "Atzera begiratzen dut, eta uste dut kezka gehiago izan beharko nukeela erreklamazioak zeintzuk ziren eta kezkak guztiz jakin izan banu".
Denak ez;iritziak aldatu egiten dira, eta hainbat iritzi aipatzen ditugu, baina badira esanguratsuak informazio oso partzialean jarduten zutenak. Sam kaleratu zuen taula, taula gainean egon ohi zen pertsona baten hitzetan, "oso JV" zen, eta baloia gogor jaurti zuten. Eta azpiko kexak dokumentatzen ditugu, eta jendeak bere kabuz erabaki dezake bere ustez zen premiazko kezkan pilatzen den ala ez, baina argudio hori eta informazio hori ez ziren aurkezten.
Horietako batzuek gaur egun aholku juridiko txarra dela aitortzen dutena jaso zuten. Hori deskribatzeko, aipua gogoratuko duzu, eta ziurrenik zure entzule eta ikusle askok zintzotasun falta gisa gogoratuko dute aipua. Horra murriztu zen, eta orduan, funtsean, ez zuten deirik hartuko.
Ez zuten deirik hartuko. Ziur saiatu zinela. Ezagutzen ditudan guztiak saiatu ziren, eta, kazetari gisa, zure iturriei aholkurik eman behar ez diezun punturaino iritsi zen, baina nion esan nuen: "Hau desagertuko da zure burua azaltzen hasten ez bazara".
Eta hori gertatu zen. Ahaztu kazetariak. Satya Nadellak esan zenuen: "Zer demontre gertatu da? Ezin dut inor esplikatzea lortu". Eta hori da konpainiaren finantza babesle nagusia. Eta gero, Satya [LinkedIn-eko sortzailekidea] Reid Hoffman-i deitzen diozu eta Reid-ek dei egiten dio eta esaten: "Ez dakit zer demontre gertatu den".
Ulergarriki informazio hutsune horretan ari dira, hain premiazko eta bat-bateko tiro bat justifikatuko luketen AI ez diren ohiko adierazleen bila. Esaterako, ados, sexu-delituak al ziren? Malversazioa izan al zen? Eta teknologia hau desberdina dela eta traizio txikiagoen pilaketa iraunkor batek negozio honentzat eta agian munduarentzat apustu esanguratsuak izan ditzakeela dioen argudio sotil osoa, baina esanguratsua iruditzen zait, galdu egin zen. Beraz, pizgarri kapitalistek irabazi zuten, baina egin zutenek ere kalera joan ziren eta ez ziren beti informazio osoarekin funtzionatzen.
"Bakoitzak uste zutena izan zen" alderdiari buruz galdetu nahi dut une batez, zalantzarik gabe albistea ikusi nuelako eta esan nion: "Oh, zerbait txarra gertatu behar da". #MeToo erreportaje asko egin dituzu, famatua. Harvey Weinsteinen istorioa hautsi zenuen.
Denbora asko eman zenuten erreklamazio hauen berri ematen, uste dut, azkenean, funtsik gabekoak zirela erabaki zenuela: Altmanek sexu-erasoa egin ziola adingabeei edo sexu langileak kontratatu zituela, edo baita OpenAI-ko salatzaile bat erail zuela. Esan nahi dut, zu zarela gauza hau zorrotzen salatu dezakeena. Erabaki al zenuen ezerezean geratu zela?
Beno, begira, ez nago zerbait ezerezean geratu dela esateko. Esan dezakedana da hilabeteak eman ditudala erreklamazio hauek aztertzen eta ez dudala egiaztatzerik aurkitu. Eta deigarria egin zitzaidan mutil hauek, gure etorkizunean hainbeste botere duten enpresa hauek, benetan beren denbora eta baliabideen neurrigabea gastatzen ari direla umeen lokatz borrokan.
Exekutibo batek "Shakespearean" gisa deskribatzen du. Ikertzaile pribatuaren diru kopurua eta osatzen ari diren oposizioko espedienteak gupidagabea da. Eta zoritxarrekoa da Sam-en lehiakideek parrokatu egiten duten gauza salatsuak suposatzen direla, ezta? Badago salaketa hau adingabeko mutilak jazartzen dituela, eta Silicon Valley-ko koktel askotan, hau entzuten duzu. Kongresu-zirkuituan, exekutibo sinesgarri eta ospetsuek errepikatu berri izan dut: "Edonork daki hori egia dela".
Tristea da hau nondik datorren hitz egiten dudala, transmititzen duten hainbat bektoreez. Elon Musk eta bere kideek, itxuraz, espediente oso gogorrak ez dituzte ezertarako balio. Lurruntsuak dira azpiko erreklamazioak aztertzen hasten zarenean. Tristea da benetan ezkutatzen dituela ebidentzian oinarritutako kritikak, nire ustez, premiazko gainbegiratzea eta kontuan hartzea merezi dutenak.
Istorioan benetan agertzen den beste gaia Sam-ek hainbeste lagun dituelako beldurra ia-ia da - Y Combinator-eko zuzendari nagusi gisa bere aurreko eginkizunetik hainbeste enpresatan inbertitu du, bere inbertsio pertsonaletaraino, horietako batzuk OpenAI-ko zuzendari nagusi gisa duen rolarekin gatazka zuzena dutenak - eta isiltasuna dago bere inguruan.
Deigarria egin zait bereziki lerro bat irakurtzen ari nintzela. Ilya Sutskeverren memorandumak deskribatzen dituzu, eta Silicon Valley-n atera berri dira. Denakdeitzen die Ilya memorandumak. Baina isiltasuna ere badago horren inguruan. Pasatu egiten dira, baina ez dira eztabaidatzen. Nondik datorrela uste duzu? Beldurra al da? Aingeru inbertsioa lortzeko nahia al da? Nondik dator hori?
Koldarkeria handia dela uste dut, zintzoa izango naiz. Segurtasun nazionalaren istorioen berri eman ostean, iturriak dena galtzeko eta auziperatzea aurre egiten dioten txistulariak diren, oraindik gauza egokia egiten dute eta kontuak sortzeko gauzei buruz hitz egiten dute. Aipatu dituzun sexu-delituen inguruko istorioetan landu dut, non iturriak oso traumatizatuta dauden eta ordain mota oso pertsonal baten beldur diren.
Taupada honen inguruan kasu askotan, bere profil eta botere propioa duten pertsonekin ari zara. Pertsona ospetsuak dira beraiek edo pertsona ospetsuz inguratuta daude. Negozio-bizitza sendoa dute. Nire ustez, benetan oso esposizio baxua da haientzat gauza honetaz hitz egitea. Eta, zorionez, orratza mugitzen ari da lehen hitz egin genuen bezala, eta orain jendea gehiago hitz egiten ari da.
Baina hain denbora luzez, jendeak isildu egin zuen, uste baitut Silicon Valley-ko kultura oso interesatua dela eta negozio eta hazkundera bideratua dela. Beraz, uste dut honek Sam kaleratzean parte hartu zuten pertsona batzuei ere eragiten diela, non ikusi zenuten egunotan, bai, itzultzea eta zuzendaritzako kide zaharrak kaleratzea ekarri zuen faktore bat bere kausarekin nahasita zeuden inbertitzaileak bildu zituela.
Baina beste bat da inguruko beste hainbeste jendek kezkak zituzten eta premiaz hitz egiten zutenak ezpainzapiak bezala tolestu eta doinua aldatu zutela haizea beste aldera jotzen zuela ikusi zutenean, eta irabazien trenean sartu nahi zutela.
Nahiko iluna da, egia esan, kazetari gisa dudan ikuspuntutik.
Pertsona horietako batzuk Mira Murati dira, nire ustez, 20 minutuz OpenAIko zuzendari nagusia izan zena. Orduan ordezkatu zuten. Oso dinamika konplikatua izan zen, eta, jakina, Sam itzuli zen. Bestea Ilya Sutskever da, Sam kentzeko botoetako bat izan zena, eta orduan iritziz aldatu zuen, edo, behintzat, iritziz aldatu zuela esan zuen, eta orduan alde egin zuen bere enpresa sortzeko. Ba al dakizu zerk eragin zion iritziz aldatzea? Dirua besterik ez zen?
Tira, eta argi izateko, ez ditut bi horiek bereizten. Badaude tiroan parte hartu zuten beste zuzendaritzako kide batzuk ere oso isilik gelditu zirenak. Arazo kolektibo zabalago bat bezalakoa dela uste dut. Hauek dira, kasu batzuetan, alarmak piztu eta ekintza erradikalak hartzeko zuntz morala zuten pertsonak, eta hori goraipatzekoa da. Eta horrela ziurtatzen duzu kontuak. Horrek teknologia honek kaltetutako jende asko lagundu zezakeen. Industria bati segurtasunari zentzu handiagoa ematen dionean lagundu zezakeen.
Baina txistulariekin eta erantzukizun hori asko eskatzen saiatzen den jendearekin tratuan hartuta, gainera, ikusten duzu hori kentzeko eta zure konbentzimenduei eusteko zuntza behar dela. Eta industria hau benetan beren usteekin bat egiten ez duten jendez beteta dago.
Nahiz eta uste duten Jainko digital bat eraikitzen ari direla, nolabait lan guztia ezabatuko duena edo lan gehiago sortuko duena, edo zerbait gertatuko da.
Tira, hori da kontua. Beraz, zure konbentzimenduen eta kezka etiko guztiak bazterrean gelditzeko kultura, zure negozioan zure jarrera mehatxa dezakeen berotasuna edo ezer mehatxatu dezakeen momentuan, beharbada ondo eta ona da neurri batean, edozein motatako widget-ak egiten ari diren negozio-enpresentzat.
Baina hauek ere esaten ari diren pertsona berberak dira: "Honek literalki denok hil gaitzake". Eta berriro ere, ez duzu Terminator Skynet muturrera joan beharrik. Dagoeneko gauzatzen ari diren arrisku multzo bat dago. Benetakoa da, eta arrazoi dute horretaz ohartarazteko, baina beste norbaitek besaulkian psikologizatu beharko zenuke nola bizi daitezkeen bi gauza horiek premiazko abisuak ematen dituzten pertsona berean, agian behatz bat jarri eta zerbait egiten saiatzen ari dira, eta gero tolestu eta isiltzen ari dira.
Hori dela eta, hain zuzen ere, idatziz kanpo geratzen diren eta gauzak alfonbra azpian ezkutatzen diren kasu mota hauek izan ditzakezu, eta inork ez du horri buruz argi eta garbi hitz egiten gertakariaren ondoren urteak igaro ondoren.
Hemengo alderdi natural eta arduratsua ez lirateke enpresa horietako zuzendari nagusiak izango; gobernuak izango lirateke. Estatu Batuetan, agianestatuko gobernuak dira, agian gobernu federala.
Zalantzarik gabe, enpresa horiek guztiek globalak izan nahi dute. Hemen inplikazio global asko daude. OpenAI, Google eta Anthropic ikusi nituen Biden administrazioa AI agindu exekutibo bat kaleratzera bultzatzen zutenak. Nahiko hortz gabea izan zen azkenean. Beren modeloak zertarako gai ziren eta segurtasun proba batzuk kaleratu behar zirela esan zuen. Eta gero denek babestu zuten Trump, eta Trump sartu zen eta hori guztia ezabatu zuen eta esan zuen: "Lehiakorra izan behar dugu. Guztientzako doakoa da. Zoaz".
Aldi berean, petrolio diru asko duten eta ekonomia aldatu nahi duten Ekialde Hurbileko herrialdeetatik funtsak biltzen saiatzen ari dira. Horiek politikariak dira. Sentitzen dut politikariek behin betiko ulertu beharko luketela norbait ahoaren bi aldeetatik hitz egiten ari dela, eta ez dira gehiegi haserretuko azkenean norbait etsita badago, baina politikariak ere ibilaldi bat egiten ari dira. Zergatik uste duzu hori?
Benetan, nire ustez, horregatik garrantzitsua da piezak eta zergatik merezi zuen denbora eta xehetasun hori guztia ematea. Zuk diozun bezala gainbegiratzea eman beharko luketen sistemak hutsik geratzen diren ingurune batean gaude. Hori da Herritarren osteko Amerika Batua, non diru-fluxua hain mugagabea den, eta arazo horren kontzentrazio berezia da AIren inguruan, non PAC horiek ugaltzen ari diren eta dirua gainezka egiten ari diren araudi esanguratsuak ezabatzeko bai estatuan bai federal mailan.
Greg Brockman [OpenAI-ko sortzailea] duzu, Sam-en bigarren agintea, horietako pare batean modu garrantzitsu batean zuzenean laguntzen. Legegileak eta erregulatzaile potentzialak harrapatzen diren egoera batera eramaten du, eta hortik ateratzeko espiral zaila da. Tristea da, uste dut politika-mugimendu sinpleak daudela, horietako batzuk munduko beste leku batzuetan epaitzen ari direnak, erantzukizun-arazo horietako batzuekin lagunduko luketenak.
Inplementazioaren aurretik derrigorrezko segurtasun-proba gehiago egin ditzakezu, Europan dagoeneko gertatzen ari den zerbait mugako ereduetarako. Idatzizko erregistro publikoen eskakizun zorrotzagoak izan ditzakezu kasu honetan gauzak idatziz kanpo uzten ikusi ditugun barne ikerketetarako. Sam Altmanek bultzatzen zituen Ekialde Hurbileko azpiegitura-asmoetarako segurtasun nazionalaren berrikuspen-mekanismoen multzo sendoagoa izan dezakezu.
Zuk diozun bezala, Biden administrazioarekin amua eta aldaketa hau egiten ari zen, "erregulatu gaitzazu, arautu gaitzazu" esanez eta agindu exekutibo bat egiten lagundu zien, eta orduan Trump sartzen den momentuan, egia esan, lehen egunetan, mugarik gabe, "Azeleratu gaitezen eta eraiki dezagun Abu Dhabi datu-zentroko campus masibo bat". Izan dezakezu, hau oso erraza da, informatzaileen babesak bezalakoak. Ez dago artikulu honetan emititzen ari diren segurtasun-kezka mota hauek azaltzen dituzten AI konpainiako langileak babesten dituen estatutu federalik.
Badugu kasuak non Jan Leike, OpenAI-n segurtasuneko goi-mailako mutila zena, konpainian super lerrokadura zuzentzen ari zena. Mahaiari idazten dio, funtsean, denuntziatzaileen materiala, esanez konpainiak errailetatik irtengo duela bere segurtasun misioan. Horiek dira benetan joan daitezkeen gainbegiratze-organo bat izan beharko luketen pertsonak, eta beste sektore batzuetan ikusten ditugun moduko lege-babes esplizituak izan beharko lituzkete. Sarbanes-Oxley estiloko erregimena errepikatzea erraza da.
Uste dut Silicon Valley-k boterearen palanka guztien kontrola bere gain hartzearen arazoa zein larria den arren, eta gainbegiratzea eta babesa eman dezaketen erakunde horietako batzuk zein hutsik dauden arren, oraindik sinesten dudala demokraziaren eta politikari interesatuen oinarrizko matematikan. Eta geroz eta inkestetako datu gehiago agertzen dira, estatubatuar gehienek uste baitute gaur egun AIren kezkak, galderak edo arriskuak onurak baino handiagoak direla.
Beraz, uste dut AItik politikarako diru uholdea gure esku dagoela politikariekiko galdera-ikurren iturri bihurtzea. Estatubatuarrek bozkatzera joaten direnean, aztertu beharko lukete bozkatzen duten pertsonak, batez ere akritikoak eta araudiaren aurkakoak badira, kezka horiek guztiak kontuan hartuta, teknologia interes berezi handiek finantzatzen duten. Beraz, uste dut jendeak honelako piezak irakurri, horrelako podcastak entzun eta kritikoki hausnartzeko nahikoa axola badirela.hautesle gisa hartutako erabakiak, aukera erreal bat dago Washingtonen begiratzen eta gainbegiratzea behartzen duten ordezkarien barruti bat sortzeko.
Hori izan daiteke inoiz entzun dudan gauzarik baikorrenetako bat egungo AI industriari buruz esaten. Eskertzen dut. Obsesionatuta nago hitz egiten ari zaren galdeketarekin. Asko dago orain. Nahiko koherentea da dena, eta badirudi zenbat eta gazte gehiago, bereziki, IAren eraginpean egon, orduan eta mesfidati eta haserretuago daudela. Hori da galdeketa guztien balentzia. Eta hori ikusten dut, eta uste dut, bai, bai, politikari adimentsuek horren aurka egingo luketela. Besterik ez zuten esango: "Teknologia handiei erantzukizuna eskatuko diegu".
Gero, azken 20 urteetan pentsatzen dut, politikari batek esanez teknologia handiei erantzukizuna eskatuko dietela, eta ahalegintzen ari naiz teknologia handien erantzule izateko une bat aurkitzeko. Hau ezberdina izan daitekeela pentsarazten didan gauza bakarra zera da: beno, benetan datu-zentroak eraiki behar dituzu, eta horren aurka bozkatu dezakezu, eta horren aurka eskaera egin dezakezu, eta horren aurka protesta egin dezakezu.
Uste dut badela politikari bat bere etxea tirokatu berri duten datu zentro baten alde bozkatu duelako. Tentsioa iristen ari da, nik esango nuke, sukarra. Silicon Valleyren uhartetasuna deskribatu duzu. Hau ekosistema itxia da. Mundua zuzendu dezaketela uste dutela sentitzen dute. Politikan diru mordoa sartzen ari dira, eta jendeak produktuak maite ez dituelako errealitatearekin topo egiten dute, eta horrek ez die estaldura handirik ematen. Zenbat eta gehiago erabili produktuak, orduan eta atsekabetuago daude, eta politikariak ikusten hasi dira benetako ondorioak daudela teknologiaren industriari laguntzeak ordezkatzen dituzten pertsonengan.
Jende askorekin hitz egin duzu. Uste duzu posible dela teknologiaren industriak aurrean daukan ikasgaia ikastea?
Erantzukizunik gabe mundua zuzendu dezaketela uste dutela sentitzen dutela diozu. Ez dut uste horrek "sentitzen" kalifikatzailea behar duenik ere. Esan nahi dut, Peter Thielek erabiltzen duen hizkuntzari erreparatzen diozula, esplizitua da. Noski, muturreko adibide bat da. Eta Sam Altman, nahiz eta neurri batean Thielen ideologiarekin hurbildu eta informatuta egon, oso bestelako pertsona bat da, eta puntu bateraino neurtuagoa eta ezberdina izan daitekeena.
Baina Thielengandik lortzen duzun ideologia zabalagoa iruditzen zait, hau da, funtsean: demokraziarekin amaitu dugu, ez dugu gehiago behar. Hainbeste dugu gure bunker txikiak eraiki nahi ditugula. Jada ez dugu Carnegies-ekin edo Rockefeller-ekin ari, non mutil txarrak diren, baina kontratu sozial batean parte hartu eta pertsonentzako gauzak eraiki behar dituztela sentitzen dute. Benetako nihilismo bat dago ezarrita.
Eta uste dut Amerikako azken historian elkar indartzeko espiral bat besterik ez dela izan magnateek eta enpresa pribatuek supergobernu boterea eskuratzen duten bitartean haiek erantzule izan ditzaketen erakunde demokratikoak hutsik dauden bitartean. Ez naiz baikor sentitzen mutil horiek egunen batean esnatu eta pentsatuko duten ideiarekin: "E, agian, gizartean parte hartu behar dugu eta pertsonentzako gauzak eraikitzen lagundu behar dugu".
Esan nahi dut, The Giving Pledge-ren adibide mikrokosmikoari begiratzen diozula, non egon zen une bat non ongintzazkoa zela zirudien, eta momentu hori iragana da eta barregarri ere egina dago. Hori arazo bat da, kontuak ezaren arazo zabalagoa, nire ustez kanpotik bakarrik konpon daitekeela. Hori izan behar dute hautesleak mobilizatu eta gobernuaren gainbegiratze boterea berpiztu. Eta arrazoi osoa duzu esatean jendeak hori lor dezakeen bektore nagusia lokala dela. Azpiegiturak eraikitzen ari diren tokiarekin zerikusia du.
Indarkeria eta mehatxuak eragiten dituen honen inguruan dagoen tentsio zuria aipatu duzu, eta, jakina, inork ez luke bortitza edo mehatxurik izan behar. Eta ni ere ez nago hemen politika-gomendio zehatzak egiteko, oinarrizkoak diruditen eta munduko beste leku batzuetan funtzionatzen duten politika-urrats batzuk aurkezteko baino, ezta? Edo beste sektore batzuetan lan egin dutenak. Ez naiz hemen esateko zein exekutatu behar den eta nola.
Uste dut zerbait gertatu behar dela, eta kanpokoa izan behar dela, ez bakarrik enpresa hauetan konfiantza izatea. Zuzena delakoorain, teknologia garatzen ari diren eta arriskuak ulertzeko hobekien hornituta dauden enpresak, eta, hain zuzen ere, arriskuez ohartarazten dizkigutenak, bizkor joateko eta arrisku horiek alde batera uzteko pizgarririk ez dutenak ere badira. Eta ez duzu ezer kontrajartzeko. Beraz, erreformak zehaztasunei dagokienez har ditzaketenak, zerbaitek aurka egin behar du. Eta oraindik ere jendeari garrantzia ematen dion baikortasun horretara itzultzen naiz.
Orokorrean zure argumentua erosten dut. Utzidazu nik uste dudan kontra-argudio txiki bat egin. Hautetsontzietatik kanpo gerta daitekeen beste gauza burbuila lehertzea da, ezta? Enpresa horiek guztiak ez direla helmugara iristen, eta ez dagoela produktuen merkatu egokia kontsumitzaileentzako AI aplikazioetarako. Eta berriro ere, oraindik ez dut oso ondo ikusten, baina kontsumo teknologikoen berrikuslea naiz, eta agian besteek baino estandar altuagoak ditut.
Enpresa munduan produktuen merkatua egokitzen da, ezta? AI agente mordo batek software mordo bat idaztea tresna hauen benetako merkatua dela dirudi. Eta enpresa hauen argudioak irakur ditzakezu: "Kodeketa konpondu dugu, eta horrek esan nahi du edozer konpon dezakegula. Softwarea egiten badugu, edozein arazo konpondu dezakegu".
Uste dut softwareak egin ditzakeen gauzetan benetako mugak daudela. Hori handia da negozio munduan. Softwareak ezin ditu arazo guztiak konpondu errealitatean, baina lortu behar dute. Lana bukatzea lortu zuten, eta agian denek ez dute helmugara iristen. Eta istripu bat dago, eta burbuila hau lehertu egiten da, eta agian OpenAI edo Anthropic edo xAI, enpresa horietako batek huts egiten du, eta inbertsio hori guztia desagertu egiten da.
Horrek eragingo lukeela uste duzu? Egia esan, lehen galdera egin dezadan. OpenAI IPO baten atarian dago. Sam lider gisa zalantza asko daude. Helmugara iritsiko direla uste duzu?
Ez dut pronostikorik egingo, baina uste dut puntu garrantzitsu bat planteatzen duzula, hau da, merkatuaren pizgarriek garrantzia dutela Silicon Valley-ri barnean, eta egungo burbuilen dinamikaren prekarietateak eten dezakeela, berriro ere, potentzialki, kritikoen arabera, segurtasunari buruzko beheko lasterketa.
Horri ere gehituko nioke, lehentasun historikoari erreparatzen badiozu, non merkatuko pizgarrien multzo antzeko eta itxuraz zeharkaezina dagoen eta publikoarentzat ondorio kaltegarriak izan daitezkeen, eragin-auziak daude. Eta hori kezkagarri gisa ikusten duzu azkenaldian. Sam Altman aste honetan bertan dago OpenAI-k heriotza bidegabeko auzietan jasandako erantzukizun mota batzuetatik babestuko lukeen legedia onartzen duena, adibidez. Jakina, badago erantzukizunaren ezkutu hori izateko gogoa.
Uste dut auzitegiak oraindik mekanismo esanguratsu bat izan daitezkeela, eta oso interesgarria izango da traje hauek nola moldatzen diren ikustea. Dagoeneko ikusi zenuten, adibidez, ni eta ezagutzen ditudan beste egile asko kide garela klase-auziaren auzia, Anthropicen aurka egile eskubideen pean zeuden liburuak erabiltzeagatik. Axola duten legezko adimen eta demandatzaile adimentsuak badaude, historikoki tabako handitik hasi eta energia handietarainoko kasuetan ikusi dugun bezala, baranda batzuk eta pizgarri batzuk ere lor ditzakezu moteldu, kontuz ibili edo jendea horrela babesteko.
AI industriaren kostuen egitura osoa erabilera bidezkoaren interpretazio oso-oso ongintzatik zintzilik dagoela iruditzen zaio. Ez da nahikoa sortzen. Enpresa hauen kostuen egitura kontroletik kanpo egon daiteke zuri eta lana hartu duten beste guztiei ordaindu behar badizute, baina deserosoa da pentsatzea, beraz, ez dugu pentsatzen. Horren ondoan, produktu horiek guztiak galtzen ari dira orain. Gaur bezala, guztiak galtzen ari dira. Irabazten dutena baino diru gehiago erretzen ari dira. Noizbait, etengailua irauli behar dute.
Sam enpresaburua da. Hainbat aldiz aipatu duzun bezala, ez da teknologo bat. Enpresaburua da. Uste duzu prest dagoela etengailua irauli eta esateko: "Dolar bat irabaziko dugu?" Zeren galdetzen dudanean: "Uste duzu OpenAIk lortuko duela?" Dolar bat egin behar dutenean da. Eta orain arte, Samek bere dolar guztiak irabazi ditu beste pertsonei dirua eskatuz, bere enpresei dirua irabazteko beharrean.
Beno, hori da Silicon Valleyrentzat, inbertitzaileentzat, publikoarentzat galdera handi bat.Horri buruz izu moduko bat erakusten duten adierazpen eta mugimendu batzuk ikusten dituzu OpenAItik. Sora ixtea, proiektu osagarri batzuk ixtea, oinarrizko produktua txertatu nahian. Baina, bestalde, oraindik ikusten duzu, aldi berean, misio tonaka arrastaka, ezta? Adibide txiki bat ere - jakina, ez da euren negozioaren oinarrizkoa - TBPNren erosketa da.
Bide batez, helmugara iristen ari ginela eta gertakariak egiaztatzen ari ginela, kazetaritza-azterketa honi aurre egiten dion konpainiak elkarrizketaren gaineko kontrol zuzenagoa izan dezakeen plataforma bat eskuratzen du. Uste dut inbertitzaile asko daudela kezkatuta, izan ditudan elkarrizketetan oinarrituta, pertsona guztiei gauza guztiak agintzeko arazo hori negozio ereduaren ardatz ez horretara ere hedatzen dela. Eta esan nahi dut, ni baino gertuago zaudela merkatua pronostikatzeko eta ikusteko. Zu eta entzuleak utziko ditut OpenAI-k etengailua iraul dezakeela uste duten epaitzeko.
Beno, galdera egin nuen Microsoft-eko zuzendari nagusi baten aipu bat jaso duzulako artikuluan, eta hauxe da, "Sam-en ondarea Bernie Madoff edo Sam Bankman-Fried-en antzekoagoa izan liteke", Steve Jobsen ordez. Hori nahiko konparaketa da. Zer egin duzu konparazio horrekin?
Uste dut hori parafrasi bat dela. Steve Jobsen zatia ez zen aipuaren parte. Baina soiltasun mota interesgarri bat dago, honela esaten baita: "Uste dut aukera txikia baina erreala dagoela SBF edo Madoff mailako iruzurgilea izateko". Esan nahi dut, nire ustez, ez Sam iruzur edo delitu mota zehatz horiengatik leporatzen ari zaionik, baizik eta Sam-en disimulazio eta iruzur mailak eskala horretan gogoratzeko aukera izan dezakeela.
Bai, uste dut aipu horretan deigarriena, egia esan, Microsoft-era deitzen duzula eta ez duzula atseginik jasotzen: "Hori zoroa da. Ez dugu inoiz hori entzun". "Bai, hemen jende askok hori uste du" asko esaten duzu eta hori nabarmena da. Eta intxaur eta torlojuen negozio galdera horietara doala uste dut.
Inbertitzaile batek esan zidan, adibidez, tiroaren ondorengo urteetan ezaugarri horrek iraun duen moduaren harira "-eta pentsamendu soil interesgarria zela ere pentsatu zuen-, ez zela zertan Sam zerrendaren erabateko behealdean egon behar izan behar, teknologia hau erabat eraiki behar ez duten pertsonen aldetik baxuena izan behar lukeela, baina pertsona horrek merezi duen ezaugarria da. agian AGI eraiki beharko luketen pertsonen zerrendaren behealdean, eta arlo honetako beste hainbat pertsona nagusiren azpian.
Beraz, balorazio interesgarria iruditu zitzaidan, eta uste dut benetako pragmatikoengandik lortzen duzun pentsaera hori, agian segurtasun kezkak hainbeste erosten ez dituztenak. Hazkundera bideratuta daude, eta uste dute orain OpenAIk arazo bat duela Sam Altmanekin.
Microsoft-eko pieza benetan interesgarria da. Enpresa hark uste zuen munduaren gainean zeudela. Inbertsio hori egin zutela eta denak salto egingo zituztela, batez ere eta garrantzitsuena, Google, eta kontsumitzaileen onetara itzuliko zirela. Abentura honek erreta sentitzen duten maila —oso soil-soila da enpresa hau—, ez dut uste gehiegizkoa izan daitekeenik.
Pertsonaiak eta nortasun ezaugarriak aipatu dituzu. Hemen amaitu nahi dut gure entzuleen galdera batekin. Gure beste saioan, The Vergecast, esan nion zurekin hitz egingo nuela, eta esan nion: "Ronanentzat istorio honi buruzko galderarik baduzu, esan iezadazu". Beraz, deskribatzen ari zarenarekin ondo lotzen duen bat dugu hemen. Besterik gabe, irakurriko dizut:
"Zertan desberdintzen dira Altmanen eta AI-ko beste buruzagi batzuen portaera txarraren justifikazioak, Ronanek politikan eta komunikabideetan goi mailako beste buruzagi batzuengandik entzun dituen justifikazioak? Ez al dituzte guztiek beren ekintzak justifikatzen mundua horrela aldatzen dela esanez? Nik hau egiten ez badut, beste norbaitek egingo du?».
Bai, hori asko dabil. Esango nuke AIren bereizgarria dena da apustu existentziala hain altua izateak esan nahi duela bi arrisku-adierazpenak muturrekoak direla, ezta? Sam Altman duzusaying, “This could be lights out for all of us.” Eta gainera, kritikariek esan dezakete, galdetzaileak aipatzen duen mania muturrekoa dela, ezta?
Samek Eloni leporatu zion gauza, akaso gizateria salbatu nahi zuela izan zen, baina bera bada. Irabazi nahiaren ego-osagaia, hau da, Sam-ek denbora guztian erabiltzen duen enkoadraketa bat, eta hau historia liburuetarako bat dela, horrek dena alda dezake. Beraz, Silicon Valley-ko enpresa gehienen "arrautza batzuk hautsi behar dituzu" pentsamoldearen gainetik ere, AI gidatzen duten zenbait pertsonaien buruan, uste dut, arrazionalizazio osoa dago edozein eta guzti.
Eta ahaztu arrautzak haustea. Uste dut azpian dauden segurtasun-ikertzaile askok herrialdea hausteko, mundua hausteko eta haien lana eta segurtasuna orekan zintzilik dauden milioika pertsona hausteko arriskua egon daitekeela - hori da berezia. Hor ixten dut, erreportaje honen inguruan hausnartzen, benetan Sam Altman baino gehiago dela sinetsita. Murrizketarik gabeko industria bati buruzkoa da eta Amerika mugatu ezin duen arazo espiral bati buruzkoa da.
Bai. Tira, hor baikortasuna genuen, baina hori uzteko leku ona dela uste dut.
[Barreak] Amaitu behean.
Noski. Istorio bikaina da hori, benetan. Musk-Altman epaiketa dator. Uste dut hemen askoz gehiago ikasiko dugula. Susmoa dut berriro zurekin hitz egin nahi izango dudala. Ronan Farrow, mila esker Decoder-en egoteagatik.
Eskerrik asko.
Atal honi buruzko galdera edo iruzkinak? Jarri iezaguzu [email protected] helbidera. Benetan irakurtzen ditugu mezu elektroniko guztiak!
