Hodiaŭ ĉe Decoder, mi parolas kun Ronan Farrow, unu el la plej grandaj steloj de enketa raportado laboranta hodiaŭ. Li rompis la rakonton de Harvey Weinstein, inter multaj, multaj aliaj. Kaj ĵus pasintsemajne, li kaj kunaŭtoro Andrew Marantz publikigis nekredeblan profundan trajton en The New Yorker pri OpenAI CEO Sam Altman, lia fidindeco, kaj la pliiĝo de OpenAI mem.
Unu noto antaŭ ol ni iru plu ĉi tie — La Novjorkano publikigis tiun rakonton kaj Ronan kaj mi havis ĉi tiun konversacion antaŭ ol ni sciis la plenan amplekson de la atakoj kontraŭ la hejmo de Altman, do vi ne aŭdos nin paroli pri tio rekte. Sed nur por diri ĝin, mi pensas, ke perforto de ajna speco estas neakceptebla, ĉi tiuj atakoj kontraŭ Sam estis neakcepteblaj, kaj ke la speco de senhelpeco kiun homoj sentas, kiu kondukas al ĉi tiu speco de perforto, estas mem neakceptebla, kaj ĝi valoras multe pli da ekzamenado de kaj la industrio kaj niaj politikaj gvidantoj. Mi esperas, ke tio estas klara.
Verge-abonantoj, ne forgesu, ke vi ricevas ekskluzivan aliron al senreklam-malĉifrilo, kie ajn vi ricevas viajn podkastojn. Kapu ĉi tien. Ĉu vi ne estas abonanto? Vi povas registriĝi ĉi tie.
Ĉio dirite, estas multe da kirliĝo ĉirkaŭ Altman, tio estas justa ludo por rigora raportado - la speco de raportado kiun Ronan kaj Andrew intencis fari. Danke al la populareco de ChatGPT, Altman emerĝis kiel la plej videbla figuro de la industrio de AI, transforminte iam senprofitan esplorlaboratorion en preskaŭ duilion-dolaran privatan kompanion en nur kelkaj jaroj. Sed la mito de Altman estas profunde konflikta, same difinita kaj per lia evidenta intertraktadkapablo kaj lia raportita tendenco al... nu, mensogi al ĉiuj ĉirkaŭ li.
La rakonto longas pli ol 17,000 vortojn, kaj ĝi enhavas verŝajne la definitivan raporton pri tio, kio okazis en 2023, kiam la direktoraro de OpenAI tre subite maldungis Altman pro sia supozata mensogo, nur por ke li preskaŭ tuj redungis. Ĝi ankaŭ estas profunda plonĝo en la personan vivon de Altman, liaj investoj, lia svatado de mezorienta mono, kaj liaj propraj pripensoj pri lia pasinta konduto kaj karakteroj kiuj igis unu fonton diri ke li estis "senlimigita de la vero." Mi vere sugestas vin legi la tutan rakonton; Mi suspektas, ke ĝi estos referencita dum multaj jaroj.
Ronan parolis kun Altman multajn fojojn dum la 18 monatoj kiujn li pasigis raportante ĉi tiun pecon, kaj do unu el la ĉefaj aferoj pri kiuj mi scivolis estis ĉu li sentis iun ŝanĝon en Altman dum tiu tempo. Post ĉio, multe okazis en AI, en teknologio, kaj en la mondo dum la pasinta jaro kaj duono.
Vi aŭdos Ronan paroli pri tio tre rekte, same kiel lian senton, ke homoj multe pli volonte parolis pri la kapablo de Altman etendi la veron. Homoj komencas scivoli, laŭte kaj registrite, ĉu la konduto de homoj kiel Altman estas koncerna, ne nur por AI aŭ teknologio, sed ankaŭ por la kolektiva estonteco de la socio.
Bone: Ronan Farrow pri Sam Altman, AI, kaj la vero. Jen ni iras.
Ĉi tiu intervjuo estis malpeze redaktita por longeco kaj klareco.
Ronan Farrow, vi estas enketema raportisto kaj kunlaboranto de The New Yorker. Bonvenon al Decoder.
Ĝojas esti ĉi tie. Dankon pro havi min.
Mi tre ĝojas paroli kun vi. Vi ĵus skribis grandan pecon por The New Yorker. Ĝi estas profilo de Sam Altman kaj, iom kun ĝi, OpenAI. Mi legado pri ĝi estas, ke, kiel ĉiuj bonegaj funkcioj faras, ĝi, kun rigora raportado, validigas multajn sentojn, kiujn homoj havis pri Sam Altman dum tre longa tempo. Vi evidente publikigis ĝin, vi ricevis reagojn al ĝi. Kiel vi sentas pri ĝi nun?
Nu, mi estis kuraĝigita, efektive, de kiom ĝi trarompas en tempo kie la atentekonomio estas tiel ia skizofrenia kaj malprofunda. Ĉi tio estas rakonto kiu, laŭ mi, influas nin ĉiujn. Kaj kiam mi pasigis jaron kaj duonon de mia vivo, kaj mia kunaŭtoro, Andrew Marantz, ankaŭ pasigis tiun sian tempon, vere provante fari ion krimmedicinan kaj skrupule, ĝi ĉiam estas ĉar mi sentas, ke ekzistas pli grandaj strukturaj problemoj kiuj influas homojn preter la individuo kaj firmao ĉe la kerno de la rakonto.
Sam Altman, kontraŭ la fono de Silicon Valley-eksaltiĝokulturo kaj noventreprenoj kiuj baloniĝas al masivaj taksadoj bazitaj sur promesoj kiuj eble aŭ eble ne okazos en la estonteco, kaj kreskanta brakumo de fondintokulturo kiu opinias rakonti malsamajn grupojn malsamajn konfliktaĵojn estas trajto, necimo... Eĉ kontraŭ tiu fono, Sam Altman estas eksterordinara kazo kie ĉiuj en Silicon Valley, kiuj atendas tiujn aferojn, ne povas ĉesi paroli pri ĉi tiu demando pri sia fidindeco kaj lia honesteco.
Ni jam sciis, ke li estis maldungita pro iu versio de akuzoj de malhonesteco aŭ seria supozata mensogo. Sed eksterordinare, malgraŭ la fakto, ke estis mirinda raportado, Keach Hagey faris bonegan laboron pri tio. Karen Hao faris bonegan laboron pri tio. Vere ne estis definitiva kompreno de la realaj kvazaŭaj pruvpunktoj kaj la kialoj kial tiuj restis ekster la publika okulo.
Do la unua punkto estas, ke mi sentas min kuraĝigita de la fakto, ke kelkaj el tiuj mankoj en nia publika scio, kaj eĉ en la scio de Silicon Valley-enuloj, nun estis plenigitaj iom pli. Kelkaj el la kialoj, ke ekzistis mankoj, estis plenigitaj iom pli.
Ni raportas pri kazoj, kie homoj en ĉi tiu kompanio vere sentis, ke aferoj estas kovritaj aŭ intence ne dokumentitaj. Unu el la novaj aferoj en ĉi tiu rakonto estas pivota advokatfirmao enketo de WilmerHale, kiu evidente estas ŝika, kredinda, granda advokatfirmao kiu faris esplorojn pri Enron kaj WorldCom, kiuj, cetere, estis ĉiuj volumenaj, kiel centoj da paĝoj publikigitaj. WilmerHale faris tiun enketon kiu estis postulita fare de estraranoj kiuj maldungis Altman kiel kondiĉo de sia foriro kiam li seniĝis de ili, kaj li revenis. Kaj eksterordinare - en la okuloj de multaj juraj spertuloj kun kiuj mi parolis, kaj ŝoke en la okuloj de multaj homoj en ĉi tiu firmao - ili konservis ĝin ekster skribado. Ĉio, kio iam eliris el tio, estis 800-vorta gazetara komuniko de OpenAI, kiu priskribis tion, kio okazis kiel rompo de fido. Kaj ni konfirmis, ke tio estis konservita al parolaj informkunvenoj.
Estas kazoj kie, ekzemple, estrarano ŝajne volas voĉdoni kontraŭ la konvertiĝo de la origina senprofita formo de OpenAI al profitcela ento, kaj ĝi estas registrita kiel sindeteno. Estas kvazaŭ advokato en la kunveno diranta, "Nu, tio povus kaŭzi tro da ekzamenado." Kaj la persono, kiu volas voĉdoni kontraŭ, estas registrita kiel sindeteno al ĉiuj aspektoj. Estas fakta disputo. OpenAI asertas alie, kiel vi povus imagi. Ĉi tiuj estas ĉiuj kazoj, kie vi havas kompanion kiu, laŭ sia propra konto, tenas nian estontecon en siaj manoj.
La sekurecaj interesoj estas tiel akraj, ke ili ne malaperis. Jen la kialo, ke ĉi tiu kompanio estis fondita kiel neprofitocela fokuso pri sekureco, kaj kie aferoj estis obskuritaj tiel, ke kredindaj homoj ĉirkaŭ ĉi tio trovis ĝin malpli ol profesia. Kaj vi kunigas tion kun fono kie estas tiom malmulte da politika apetito por signifa reguligo. Mi pensas, ke ĝi estas tre brulebla situacio.
La afero por mi ne estas nur, ke Sam Altman meritas ĉi tiujn demandojn tiel akre. Estas ankaŭ ke iu el ĉi tiuj uloj en ĉi tiu kampo, kaj multaj el la ĉefaj figuroj, elmontras, se ne ĉi tiun specialan idiosinkrazian, kvazaŭan mensogan-ĉiam-tempan trajton, certe certan gradon de ras-malsupra pensmaniero, kie la homoj kiuj estis sekurecistoj malakrigis tiujn devontigojn kaj ĉiuj-estas-en-rasa pozo.
Mi pensas, kiam ni rigardas lastatempajn likojn el Anthropic, estas persono, kiu starigas la demandon, kiu devus havi sian fingron sur la butono en ĉi tiu peco. La respondo estas, se ni ne havas signifan superrigardon, mi pensas, ke ni devas fari seriozajn demandojn kaj provi eltrovi tiom da informoj kiel eble pri ĉiuj ĉi tiuj uloj. Do mi estis kuraĝigita de tio, kio ŝajnas signifa konversacio pri tio, aŭ la komencoj de unu.
La kialo, ke mi demandis ĝin tiel, estas ke vi laboris pri tio dum jaro kaj duono. Vi parolis kun, mi kredas, 100 personoj kun via kunaŭtoro, Andreo. Tio estas longa tempo por rakonto por kuiri. Mi pensas pri la lasta jaro kaj duono en AI precipe, kaj knabo, la sintenoj kaj valoroj de ĉiuj ĉi tiuj karakteroj ŝanĝiĝis tre rapide.
Eble neniu pli ol Sam Altman, kiu komencis kiel la defaŭlta gajninto ĉar ili publikigis ChatGPT kaj ĉiuj pensis, ke tio nur transprenus por Guglo. Kaj tiam Google respondis, kio ŝajnis surprizi ilin, ke Guglo provos protekti sian komercon, eble unu el la plej bonaj entreprenoj en teknika historio, se ne komerca historio. Anthropic decidis ke ĝi temigus la entreprenon. Ĝi ŝajnas preni komandan antaŭecontie ĉar la entreprena uzo de AI estas tiel alta.
Nun, OpenAI refokusigas sian produkton for de "ni traktos Google" al Codex, kaj ili prenos la entreprenon. Mi simple ne povas tute diri ĉu, dum via raportado dum la lasta jaro kaj duono, se ŝajnas, ke la roluloj kun kiuj vi parolis ŝanĝiĝis? Kiel iliaj sintenoj kaj iliaj valoroj, ĉu tiuj ŝanĝiĝis?
Jes. Mi pensas antaŭ ĉio, ke la kritiko, kiu estas esplorita en ĉi tiu peco, venanta de multaj homoj ene de ĉi tiuj kompanioj en ĉi tiu momento - ke ĉi tio estas industrio kiu, malgraŭ la ekzistecaj interesoj, malleviĝas al kuro ĝis la fundo pri sekureco kaj kie rapideco superas ĉion alian - tiu zorgo pliakriĝis. Kaj mi pensas, ke tiuj zorgoj estis pli validigitaj, ĉar la pasinta jaro kaj duono okazis. Samtempe, sintenoj pri Sam Altman specife ŝanĝiĝis. Kiam ni komencis paroli kun fontoj por ĉi tio, homoj vere, vere malkonfesis esti cititaj pri tio kaj registriĝi pri tio.
Antaŭ la fino de nia raportado, vi havas aron de raportado kie homoj parolas pri tio tre malkaŝe kaj eksplicite, kaj vi havas estrarulojn kiuj diras aferojn kiel: "Li estas patologia mensoganto. Li estas socipato." Estas gamo da perspektivoj de, "Ĉi tio estas danĝera pro la sekurecaj interesoj, kaj ni bezonas gvidantojn de ĉi tiu teknologio, kiuj havas altigitan integrecon", ĝis ŝati, "Forgesu la sekurecajn interesojn, ĉi tio estas konduto neeltenebla por iu ajn ekzekutivo de iu ajn grava kompanio, ke ĝi nur kreas tro da misfunkcio."
Do la konversacio fariĝis multe pli eksplicita en maniero, kiu sentiĝas eble malfrua, sed estas kuraĝiga en unu signifo. Kaj Sam Altman, al lia kredito... La peco estas tre justa kaj eĉ malavara, mi dirus, al Sam. Ĉi tiu ne estas la speco de peco kie estis multaj "kaptis vin" aĵoj. Mi pasigis multajn, multajn horojn telefone kun li dum ni finis ĉi tion kaj vere aŭdis lin.
Kiel vi povas imagi, en tia peco ne ĉio eniras. Kelkaj el tiuj kazoj en ĉi tiu estis ĉar mi aŭskultis sincere. Kaj se Sam efektive argumentis, ke mi sentis min portita akvo, ke io, eĉ se ĝi estis vera, povus esti sensacia, mi vere eraris flanke de teni ĉi tion krimmedicina kaj mezurita. Do mi pensas, ke tio estas prave ricevita, kaj mi nur esperas, ke ĉi tiu fakta rekordo, kiu estas akumulita dum ĉi tiu tempodaŭro, povas ekigi pli fortigan konversacion pri la bezono de superrigardo.
Tio estas fakte mia sekva demando. Mi pensas, ke vi parolis kun Sam dekdu fojojn dum raportado de ĉi tiu rakonto. Denove, tio estas multaj konversacioj dum longa tempodaŭro. Ĉu vi pensis, ke Sam ŝanĝiĝis dum la raportado dum la pasinta jaro kaj duono?
Jes. Mi pensas, ke unu el la plej interesaj subintrigoj en ĉi tio estas, ke Sam Altman ankaŭ parolas pri ĉi tiu trajto pli eksplicite ol li faris en la pasinteco. La sinteno de Sam en ĉi tiu peco ne estas kiel: "Estas nenio tie, ĉi tio ne estas vera; mi ne scias, pri kio vi parolas." La pozo, kiun li havas, estas, ke li diras, ke tio estas atribuebla al popolplaĉa tendenco kaj ia konflikta malemo. Li agnoskas, ke ĝi kaŭzis problemojn al li, precipe pli frue en lia kariero.
Li diras, "Nu, mi preterpasas tion, aŭ iagrade preterpasis tion." Mi pensas, kio vere interesas al mi, estas la kontingento de homoj, kun kiuj ni parolis, kiuj ne estis nur specoj de sekurecaj rekomendantoj, ne nur la subestaj teknikaj esploristoj, kiuj tre ofte emas havi ĉi tiujn akrajn zorgojn pri sekureco, sed ankaŭ pragmataj, grandaj investantoj. Ili estas subtenantoj de Sam, kiuj, en iuj kazoj, rigardas ĉi tiun demandon kaj parolas pri eĉ esti ludinta ŝlosilan rolon en lia reveno post la pafo. Nun, pri ĉi tiu demando ĉu li estas reformita, kaj ĝis kia grado tiu ŝanĝo estas signifoplena, ili diras: "Nu, ni donis al li la profiton de la dubo tiutempe."
Mi pensas precipe pri unu elstara investanto, kiu diris: "Sed ekde tiam, ŝajnas klare, ke li ne estis elprenita malantaŭ la lignoŝedo", kiu estis la frazo, kiun ĉi tiu uzis, laŭ la mezuro kiu estis necesa. Kiel rezulto, ŝajnas, ke ĉi tio nun estas stabila trajto. Ni vidas ĉi tion en daŭra maniero. Vi povas rigardi iujn el la plej grandaj komercoj de OpenAIrilatoj kaj la maniero kiel ili portas la pezon de tiu malfido en daŭra maniero.
Kiel ĉe Mikrosofto, vi parolas kun ekzekutivoj tie, kaj ili havas vere akrajn kaj lastatempe katalizitajn zorgojn. Estas ĉi tiu kazo, kie, en la sama tago, OpenAI reasertas sian ekskluzivecon kun Mikrosofto rilate al subestaj sennaciaj AI-modeloj, ĝi ankaŭ anoncas novan interkonsenton kun Amazon, kiu rilatas al vendado de entreprenaj solvoj por konstrui AI-agentojn kiuj estas ŝtataj, tio signifas, ke ili havas memoron.
Vi parolas kun Microsoft homoj, kaj ili diras, "Tio ne eblas fari sen interagado kun la subaj aferoj, pri kiuj ni havas ekskluzivecon." Do tio estas nur unu el multaj malgrandaj ekzemploj, kie ĉi tiu trajto havas tendencojn en daŭran komercan agadon la tutan tempon kaj estas temo de aktiva zorgo ene de la estraro de OpenAI, ene de sia plenuma serio, kaj en la pli larĝa teknika komunumo.
Vi daŭre diras tiun "trajton". Estas linio en la rakonto kiu al mi sentas kiel la tezo, kaj ĝi estas priskribo de la trajto, kiun vi priskribas. Estas ke "Sam Altman estas nelimigita de la vero" kaj ke li havas "du trajtojn kiuj preskaŭ neniam vidiĝas en la sama persono: la unua estas forta deziro plaĉi al homoj, esti ŝatata en iu antaŭfiksita interago, kaj la dua estas preskaŭ socipatia manko de zorgo pri la sekvoj kiuj povas veni de trompado de iu."
Mi devas diri al vi, mi legis tiun frazon 500 fojojn, kaj mi provis imagi ĉiam diri, kion homoj volas esti ŝatataj kaj poste ne ĉagreniĝi, kiam ili sentis mensogon. Kaj mi ne povis komprenigi mian emocian staton, kiel tiuj aferoj povas ekzisti en la sama persono. Vi multe parolis kun Sam, kaj vi parolis kun homoj, kiuj spertis ĉi tiujn trajtojn. Kiel li faras ĝin?
Jes. Ĝi estas interesa sur homa nivelo ĉar mi ja alproksimiĝas al korpoj de raportado tiel kun vera fokuso pri humanigado de kiu ajn estas en la koro de ĝi kaj serĉado de profunda kompreno kaj empatio. Kiam mi provis alproksimiĝi al ĉi tio de pli homa vidpunkto kaj diri: "He, ĉi tio estus ruiniga por mi, se tiom da homoj, kun kiuj mi laboris, dirus, ke mi estas patologia mensoganto. Kiel vi portas tiun pezon? Kiel vi parolas pri tio en terapio? Kio estas la rakonto, kiun vi rakontas al vi pri tio?"
Mi ricevis ian, laŭ mia opinio, eble okcidentmarbordajn banalaĵojn pri tio kiel, "Jes, mi ŝatas spirlaboron." Sed ne multe da tia forta sento de profunda mem-konfrontiĝo, kiun mi pensas, multaj el ni verŝajne havus, se ni vidus tian reagojn pri nia konduto kaj nia traktado de homoj.
Mi pensas, ke tio efektive ankaŭ rilatas al la pli larĝa respondo al la demando. Sam asertas, ke ĉi tiu trajto kaŭzis problemojn, sed ankaŭ ke ĝi estas parto de tio, kio rajtigis lin tiel akceli la kreskon de OpenAI, ke li kapablas kuniĝi kaj plaĉi al malsamaj grupoj de homoj. Li konstante konvinkas ĉiujn ĉi tiujn konfliktajn balotdistriktojn, ke tio, pri kio ili zorgas, estas pri kio li zorgas. Kaj tio povas esti vere utila kapablo por fondinto. Mi parolis kun investantoj, kiuj tiam diras: "Nu, eble ĝi estas malpli utila kapablo por efektive administri kompanion ĉar ĝi semas tiom da malkonkordo."
Sed ĉe la persona flanko de Sam, mi pensas, ke la afero, kiun mi kaptas kiam mi provas konektiĝi sur homa nivelo, estas la ŝajna manko de pli profunda konfrontiĝo, pripensado kaj memrespondeco, kiu ankaŭ informas tiun superpotencon aŭ respondecon por firmao prepariĝanta por IPO.
Li estas iu kiu, en la vortoj de unu iama estrarano nomita Sue Yoon, kiu estas en la rekordo en la peco dirante ke ĝis la punkto de "senperfekteco" estas la frazo kiun ŝi uzas, povas vere kredi la ŝanĝiĝantan realecon de siaj vendoprezentoj aŭ kapablas konvinki sin pri ili. Aŭ almenaŭ se li ne kredas ilin, li kapablas trablovi ilin sen signifoplena memdubo.
Mi pensas, ke la afero, pri kiu vi parolas, kie vi aŭ mi povus, dum ni diras la aferon kaj rimarkas, ke ĝi konfliktas kun la alia certigo, kiun ni faris, iom havas momenton por frostiĝi aŭ kontroli nin. Mi pensas, ke tio ne okazas ĉe li. Kaj ekzistas pli larĝa Silicon Valley-ekzaltiĝokulturo kaj fondintokulturo, kiu speco de ampleksas tion.
Estas amuza. The Verge estas konstruita sur kio sumiĝas al produktaj recenzojprogramo. Ĝi estas la koro de tio, kion ni faras ĉi tie. Mi tenas bilionon da dolaroj da Apple R&D unufoje jare kaj diras, "Ĉi tiu telefono estas sep." Kaj ĝi kvazaŭ legitimas ĉiujn niajn raportojn kaj niajn opiniojn aliloke. Ni havas taksan funkcion, kaj ni pasigas tiom da tempo nur rigardante la AI-produktojn kaj dirante: "Ĉu ili funkcias?"
Tio ŝajnas, ke ĝi mankas el multe de la konversacio pri AI kiel ĝi estas hodiaŭ. Estas senfina konversacio pri tio, kion ĝi povus fari, kiom danĝera ĝi povus esti. Kaj tiam vi boras malsupren, kaj vi diras: "Ĉu ĝi efektive faras tion, kion ĝi devas fari hodiaŭ?" En iuj kazoj, la respondo estas jes. Sed en multaj, multaj kazoj, la respondo estas ne.
Tio sentas, ke ĝi ligas al la hype-kulturo, kiun vi priskribas, kaj ankaŭ al la sento, ke, nu, se vi diras, ke ĝi faros ion kaj ĝi ne faras, kaj iu sentas sin malbone, tio estas bone ĉar ni estas sur la sekva afero. Tio estas en la pasinteco. Kaj en AI precipe, Sam estas tiel lerta fari la grandajn promesojn.
Ĝuste ĉi-semajne, mi pensas, ke la sama tago kiam via rakonto estis publikigita, OpenAI publikigis politikan dokumenton, kiu diris, ke ni devas repripensi la socian kontrakton kaj havi AI-efikecajn stipendiojn de la registaro. Ĉi tio estas grandioza promeso pri kiel iu teknologio povus formi la estontecon de la mondo kaj kiel ni vivas, kaj ĉio tio dependas de la teknologio funkcianta ĝuste tiel, kiel eble ĝi estas promesita funkcii aŭ ĝi devus funkcii.
Ĉu vi iam trovis, ke Sam dubas, ke AI iĝas AGI aŭ superinteligenteco aŭ atingante la cellinion? Ĉar tio estas la afero, pri kiu mi plej demandas. Ĉu ekzistas iu pripensado pri ĉu ĉi tiu kerna teknologio povas fari ĉiujn aferojn, kiujn ili diras, ke ĝi povas fari?
Ĝi estas ĝuste la ĝusta aro de demandoj. Estas kredindaj teknologoj kun kiuj ni parolis en ĉi tiu raportado - kaj evidente Sam Altman ne estas tia; li estas komercisto - kiu diras, ke la maniero kiel Sam parolas pri la templinio por ĉi tiu tekniko estas nur tre malproksima. Estas blogaj post kelkaj jaroj, kie Sam diras, "Ni jam atingis la eventohorizonton. AGI estas esence ĉi tie. Superinteligenteco estas ĉirkaŭ la angulo. Ni estos sur aliaj planedoj. Ni resanigos ĉiujn formojn de kancero." Vere, mi ne plibeligas.
La kancero efektive estas interesa, ke Sam eksaltas la personon, kiu teorie kuracis la kanceron de sia hundo per ChatGPT, kaj tio simple ne okazis. Ili parolis kun ChatGPT, kaj tio helpis ilin gvidi iujn esploristojn, kiuj efektive faris la laboron, sed la unu-al-unu, ĉi tiu ilo kuracis ĉi tiun hundon ne estas fakte la rakonto.
Mi ĝojas, ke vi levis tiun punkton, ĉar mi volas daŭrigi ĉi tiun pli grandan punkton pri kiam kaj la potencialo kaj la risko de la teknologio vere venos. Sed indas mencii ĉi tiujn malgrandajn kromaĵojn, kiuj konstante okazas de Sam Altman, kie li ŝajnas ree enkorpigi ĉi tiun trajton.
Mi volas diri, por uzi la ekzemplon de la WilmerHale-raporto, kie ni havis ĉi tiun informon, kiu estis konservita eksterskribita, kaj volis scii ĉu la parola konciso survoje estis donita al iu ajn krom la du estraranoj Sam helpis instali por kontroli ĝin. Kaj li diris: "Jes, jes, ne, mi kredas, ke ĝi estis donita al ĉiuj, kiuj poste aliĝis al la estraro." Kaj ni havas personon kun rekta scio pri la situacio dirante, ke ĝi estas simple mensogo. Kaj tio vere ŝajnas esti la kazo, ke ĝi estas malvera. Se ni volas esti sindonemaj, eble li estis misinformita.
Estas multaj ĉi tiuj hazardaj certigoj. Kaj mi uzas tiun ekzemplon parte ĉar tio estas bonega ekzemplo de malkaŝado, ni nomu ĝin, kiu povas havi verajn sekvojn laŭleĝe. Mi ne bezonas diri al vi, laŭ Delavara kompania juro, se ĉi tiu firmao IPO-oj, akciuloj povus, laŭ sekcio 220, plendi pri tio kaj postuli subesta dokumentado. Jam estas estraranoj kiuj diras aferojn kiel, "Nu, atendu momenton, tiu informkunveno devus esti okazinta."
Do ĉi tiuj aferoj, kiuj ŝajnas salti el lia buŝo la tutan tempon, ili povas havi realajn merkatajn efikojn, realajn efikojn por OpenAI. Reportante ĝin al la speco de utopia ekzaltlingvo, kiu reaperis, mi pensas, ke ne hazarde en la tago kiam ĉi tiu peco aperis, ĝi ankaŭ influas nin ĉiujn, ĉar la danĝeroj estas tiel akraj rilate la manieron kiel ĝi estas.estanta deplojita en armilaro, la maniero kiel ĝi estas uzata por identigi kemiajn militagentojn, la misinforman potencialon, kaj pro la maniero kiel la utopia ekzaltiĝo ŝajnas instigi multajn kredindajn ekonomikistojn diri, "Ĉi tio havas ĉiujn signojn de veziko."
Eĉ Sam Altman diris, "Iu perdos multe da mono ĉi tie." Tio vere povus krateri multan usonan kaj tutmondan ekonomian kreskon, se estas kvazaŭ vera trapikado de veziko engaĝante ĉiujn ĉi tiujn kompaniojn farantajn interkonsentojn unu kun la alia, irante ĉion en AI dum prunteprenado tiel peze. Do tio, kion diras Sam Altman gravas, kaj mi pensas, ke la supereco de homoj ĉirkaŭ li, vi menciis, ke ni parolis kun pli ol cent, ĝi fakte estis multe pli ol cent. Ni havis konversacion ĉe la cellinio, kie ĝi estas kiel, "Ĉu estus tro eta diri, ke ĝi estas kiel ĉi tiu multe pli alta nombro?" Kaj ni estis kiel, "Jes, ni malgravigu. Ni ludos ĝin mojosa." Sed estis tiom da homoj kaj tiom signifa plimulto el ili dirante: "Ĉi tio estas zorgo." Kaj mi pensas, ke tio estas ĉio kial.
Lasu min demandi vin pri tiu nombro. Kiel vi menciis, homoj pli kaj pli malfermiĝis kun la zorgoj laŭlonge de la tempo. Ĝi sentas, ke la premo ĉirkaŭ la veziko - la vetkuro por venki, por pagi ĉi tiun tutan investon, por aperi kiel la gajninto, al IPO - ŝanĝis multajn sintenojn. Ĝi certe kreis pli da premo sur Sam kaj OpenAI.
Ni publikigis rakonton ĉi-semajne nur pri la vibroj de OpenAI. Via rakonto estas parto de ĝi, sed amasaj dungitaj ŝanĝoj en la plenumaj rangoj ĉe OpenAI — homoj venas kaj iras. La esploristoj ĉiuj foriras, plejparte al Antropiko, kio mi opinias vere interesa. Vi nur povas vidi, ke ĉi tiu kompanio sentas la premon, kaj ĝi iel respondas al tiu premo.
Sed tiam mi repensas al Sam maldungita. Ĉi tio estas nur memorinda por mi. Ĝi estas memorinda por neniu alia, sed mi prenis fontvokon ĉe la Bronx Zoo je la 19-a horo vendrede, kaj estis iu diranta, ke ili provos rehavi Sam. Kaj tiam ni pasigis la semajnfinon postkurante tiun rakonton. Kaj mi estis ĝuste kiel, "Mi estas en la zoo. Kion vi volas, ke mi faru ĉi tie?" Kaj la respondo estis: "Restu telefone." Nu, mia filino estis kiel, "Eliru la telefonon." Kaj tion mi faris.
Estis rajdi aŭ morti por rehavi Sam. Tiu firmao estis kiel, "Ne, ni ne lasas la estraron maldungi Sam Altman." La investantoj, ili estas cititaj en via peco, "Ni iris al milito", mi pensas, estas la pozicio de Thrive Capital, "por rehavi Sam." Mikrosofto militis por rehavi Sam. Estas poste, kaj nun ĉiuj diras, "Ni iras al IPO. Ni atingis la cellinion. Ni rehavis nian ulon, kaj li kondukos nin al la cellinio. Ni zorgas, ke li estas mensoganto."
Kial estis milito por rehavi lin tiam? Ĉar ŝajnas, ke io efektive ŝanĝiĝis. Vi parolas pri la notoj kiujn Ilya Sutskever kaj [Antropa CEO] Dario Amodei konservis dum ili estis samtempuloj de Sam Altman. La numero unu zorgo de Ilya estis ke Sam estas mensoganto.
Nenio el tio ŝanĝiĝis. Kial do estis milito revenigi lin tiam? Kaj nun kiam ni estas ĉe la cellinio, ŝajnas, ke ĉiuj zorgoj estas ekstere.
Nu, unue, pardonu vian filinon kaj mian partneron kaj ĉiujn aliajn homojn ĉirkaŭ la ĵurnalistoj.
[Ridas] Estis sufiĉe semajnfino por ĉiuj.
Jes, ĝi ja transprenas sian vivon, kaj ĉi tiu rakonto certe havas mian, dum la lasta tempodaŭro. Ĝi fakte rilatas al ĉi tiu temo de ĵurnalismo kaj aliro al informoj, mi pensas. La investantoj, kiuj militis por Sam kaj ĉiuj ludis rolon por certigi, ke li revenis, kaj la estraro, kiu estis specife desegnita por protekti la mision de neprofitocela meti sekurecon super kresko kaj maldungi ekzekutivon se ili ne povus esti fiditaj pri tio, ili foriris. Tio estis ĉio ĉar, jes, la merkataj instigoj estis tie, ĉu ne?
Sam povis konvinki homojn, "Nu, la kompanio nur disfalos." Sed la kialo, ke li havis subtenon, estis manko de informoj. Tiuj investantoj, en multaj kazoj, nun diras, "Mi rigardas malantaŭen, kaj mi pensas, ke mi devus havi pli da zorgoj, se mi scius plene, kio estas la asertoj kaj kiaj estas la zorgoj."
Ne ĉiuj;opinioj varias, kaj ni citas gamon da opinioj, sed estas signifaj, kiuj agadis laŭ tre partaj informoj. La estraro kiu maldungis Sam estis, en la vortoj de unu persono kiu kutimis esti sur la estraro, "tre JV", kaj ili palpumis la pilkon forte. Kaj ni dokumentas la subestajn plendojn, kaj homoj povas mem decidi ĉu ĝi akumuliĝas en la specon de urĝa zorgo, kiun ili opiniis, sed tiu argumento kaj tiu informo ne estis prezentitaj.
Ili ricevis tion, kion kelkaj el ili nun agnoskas kiel malbonajn jurajn konsilojn. Por priskribi ĝin, vi memoros la citaĵon, kaj verŝajne multaj viaj aŭskultantoj kaj spektantoj memoros la citaĵon kiel manko de sincereco. Tio estis al kio ĝi estis reduktita, kaj tiam ili esence ne prenus vokojn.
Ili ne prenus vokojn. Mi certas, ke vi provis. Ĉiuj, kiujn mi konas, provis, kaj ĝi alvenis al la punkto, kie, kiel ĵurnalisto, vi ne devas doni konsilojn al viaj fontoj, sed mi diris: "Ĉi tio malaperos se vi ne komencos klarigi vin."
Kaj jen kio okazis. Forgesu ĵurnalistojn. Vi havis Satya Nadella dirantan, "Kio diable okazis? Mi ne povas igi iun klarigi al mi." Kaj tio estas la ĉefa financa subtenanto de la kompanio. Kaj tiam vi havas Satya vokas [LinkedIn-kunfondinton] Reid Hoffman kaj Reid vokas kaj diras, "Mi ne scias, kio diable okazis."
Ili estas kompreneble en tiu malpleno de informoj, serĉante la tradiciajn ne-AI-indikilojn, kiuj pravigus tian urĝan, subitan pafadon. Kiel, bone, ĉu ĝi estis sekskrimoj? Ĉu ĝi estis defraŭdo? Kaj la tuta subtila, sed mi opinias signifa, argumento, ke ĉi tiu teknologio estas malsama kaj ke ĉi tiu speco de konstanta amasiĝo de pli malgrandaj perfidoj povus havi signifajn interesojn kaj por ĉi tiu komerco kaj eble por la mondo, estis plejparte perdita. Do venkis kapitalismaj instigoj, sed ankaŭ la homoj, kiuj faris ĝin, eliris kaj ne ĉiam funkciis kun kompleta informo.
Mi volas nur demandi pri la aspekto "kion ĉiuj pensis, ke ĝi estas" dum momento, ĉar mi certe vidis la novaĵon, kaj mi diris: "Ho, io malbona devis okazi." Vi faris multajn raportojn pri #MeToo, fame. Vi rompis la rakonton pri Harvey Weinstein.
Vi pasigis multan tempon por raporti pri ĉi tiuj asertoj, kiujn mi opinias, ke vi decidis finfine senbazaj: ke Altman sekse atakis neplenaĝulojn aŭ dungis sekslaboristojn, aŭ eĉ murdis denoncanton de OpenAI. Mi volas diri, vi estas la persono, kiu povas raporti ĉi tiujn aferojn plej rigore. Ĉu vi decidis, ke ĝi estis nenio?
Nu, rigardu, mi ne volas diri, ke io neniom. Kion mi povas diri estas, ke mi pasigis monatojn rigardante ĉi tiujn asertojn kaj ne trovis konfirmon por ili. Kaj frapis al mi, ke ĉi tiuj uloj, ĉi tiuj kompanioj, kiuj havas tiom da potenco super niaj estontecoj, vere elspezas neproporcian kvanton de sia tempo kaj rimedoj en infana kota batalo.
Unu oficulo priskribas ĝin kiel "Ŝekspereanan". La kvanto de privata enketisto-mono kaj la opoziciaj dosieroj kompilantaj estas senĉesa. Kaj la bedaŭrinda afero estas, ke la speco de salacaj aĵoj, kiuj estas papago de la konkurantoj de Sam, estas nur supozita fakto, ĉu ne? Estas ĉi tiu akuzo, ke li persekutas neplenaĝajn knabojn, kaj ĉe multaj kokteloj en Silicon Valley, vi aŭdas ĉi tion. En la konferenca cirkvito, mi aŭdis ĝin nur ripetita de kredindaj, elstaraj oficuloj: "Ĉiuj scias, ke tio estas fakto."
La malĝoja afero estas, ke mi parolas pri de kie ĉi tio venas, la diversaj vektoroj per kiuj ĝi estas transdonita. Elon Musk kaj liaj kunuloj ŝajne puŝas vere malmolajn dosierojn tiom al nenio. Ili estas vaporaj kiam vi efektive komencas rigardi la subestajn asertojn. La malĝoja afero estas, ke ĝi vere malklarigas la pli pruv-bazitajn kritikojn ĉi tie, kiujn mi opinias vere meritas urĝan superrigardon kaj konsideron.
La alia temo kiu vere aperas en la rakonto estas preskaŭ sento de timo, ke Sam havas tiom da amikoj - li investis en tiom da kompanioj de sia antaŭa rolo kiel Ĉefoficisto de Y Combinator, nur ĝis sia persona investo, kelkaj el kiuj estas en rekta konflikto kun lia rolo kiel Ĉefoficisto de OpenAI - kaj estas silento ĉirkaŭ li.
Ĝi frapis min dum mi legis unu linion precipe. Vi priskribas la notojn de Ilja Sutskever, kaj ili ĵus estas en Silicon Valley. Ĉiujnomas ilin la Ilya notoj. Sed estas eĉ silento ĉirkaŭ tio. Ili estas preterpasitaj, sed ili ne estas diskutitaj. De kie vi pensas, ke tio venas? Ĉu ĝi estas timo? Ĉu ĝi estas deziro akiri anĝelan investon? De kie tio venas?
Mi pensas, ke ĝi estas multe da malkuraĝo, mi estos honesta. Raportinte pri naciaj sekurecaj rakontoj, kie la fontoj estas denuncantoj, kiuj perdos ĉion kaj alfrontas persekuton, ili ankoraŭ faras la ĝustan aferon kaj parolas pri aferoj por krei respondecon. Mi laboris pri la sekskrimoj-rilataj rakontoj kiujn vi menciis, kie fontoj estas profunde traŭmataj kaj timas tre personan specon de venĝo.
En multaj kazoj ĉirkaŭ ĉi tiu ritmo, vi traktas homojn kun sia propra profilo kaj potenco. Ili estas aŭ famaj homoj mem aŭ ili estas ĉirkaŭitaj de famaj homoj. Ili havas fortikajn komercajn vivojn. Laŭ mi, estas fakte tre malalta eksponiĝo por ili paroli pri ĉi tiuj aferoj. Kaj feliĉe, la kudrilo moviĝas, kiel ni parolis pli frue, kaj homoj nun parolas pli.
Sed dum tiom da tempo homoj vere silentas pri tio, ĉar mi pensas, ke la kulturo de Silicon Valley estas tiel senkompate meminteresa kaj senkompate komerca kaj kresk-orientita. Do mi pensas, ke ĉi tio afliktas eĉ kelkajn el la homoj, kiuj estis implikitaj en la maldungo de Sam, kie vi vidis en la tagoj post, jes, unu faktoro kiu kondukis al li reveno kaj la maldungo de maljunaj estraranoj estis ke li kolektis investantojn kiuj estis konfuzitaj al lia afero.
Sed alia estas, ke tiom da aliaj homoj ĉirkaŭ ĝi, kiuj havis la zorgojn kaj voĉigis ilin urĝe, simple faldis kiel buŝtukojn kaj ŝanĝis sian melodion en la momento, kiam ili vidis, ke la vento blovas alidirekten, kaj ili volis eniri en la profittrajnon.
Estas sufiĉe malhele, honeste, de mia vidpunkto kiel raportisto.
Kelkaj el tiuj homoj estas Mira Murati, kiu, mi kredas, dum 20 minutoj estis la nova Ĉefoficisto de OpenAI. Ŝi tiam estis anstataŭigita. Ĝi estis tre komplika dinamiko, kaj evidente, Sam revenis. La alia persono estas Ilja Sutskever, kiu estis unu el la voĉoj por forigi Sam, kaj tiam li ŝanĝis sian opinion, aŭ almenaŭ diris ke li ŝanĝis sian opinion, kaj tiam li foriris por komenci sian propran firmaon. Ĉu vi scias, kio igis lin ŝanĝi opinion? Ĉu ĝi estis nur mono?
Nu, kaj por esti klare, mi ne elstarigas tiujn du. Estas aliaj estraranoj kiuj estis implikitaj en la pafo, kiuj ankaŭ tre silentis poste. Mi pensas, ke ĝi estas kiel pli larĝa kolektiva problemo. Ĉi tiuj estas, en iuj kazoj, homoj, kiuj havis la moralan fibron por sonigi alarmojn kaj fari radikalajn agojn, kaj tio estas laŭdinda. Kaj jen kiel vi certigas respondecon. Tio povus esti helpinta multajn homojn, kiuj estas trafitaj de ĉi tiu teknologio. Ĝi povus esti helpinta industrion resti pli signife sekurec-fokusita.
Sed traktante denuncantojn kaj homojn, kiuj multe provas instigi tiun respondecon, vi ankaŭ vidas, ke necesas la fibro por elmeti ĝin kaj subteni viajn konvinkojn. Kaj ĉi tiu industrio estas vere plena de homoj, kiuj simple ne subtenas siajn konvinkojn.
Kvankam ili pensas, ke ili konstruas ciferecan Dion, kiu iel aŭ forigos ĉiun laboron aŭ kreos pli da laboro, aŭ io okazos.
Nu, tio estas la afero. Do la kulturo de ne stari de viaj konvinkoj kaj ĉiuj etikaj zorgoj falantaj flanken la momento, kiam estas varmego aŭ io ajn, kiu povus minaci vian propran staradon en la komerco, estas eble ĉio bona kaj bona iagrade por komercaj kiel kutime kompanioj kiuj faras ajnan specon de fenestraĵo.
Sed ĉi tiuj ankaŭ estas la samaj homoj, kiuj diras: "Ĉi tio povus laŭvorte mortigi nin ĉiujn." Kaj denove, vi ne devas iri al la ekstrema Terminator Skynet. Estas aro da riskoj, kiuj jam realiĝas. Estas reala, kaj ili pravas averti pri tio, sed vi devus havi iun alian fotelon psikologi kiel tiuj du aferoj povas vivi en la samaj homoj kie ili sonigas la urĝajn avertojn, ili eble metas piedfingron kaj provas fari ion, kaj tiam ili simple faldiĝas kaj silentiĝas.
Ĝuste tial vi povas havi tiajn okazojn de aferoj, kiuj estas konservitaj ekster skribado kaj aferoj estas balaitaj sub la tapiŝon, kaj neniu parolas pri tio malkaŝe dum jaroj post la fakto.
La natura, respondeca partio ĉi tie ne estus la CEO de ĉi tiuj kompanioj; ĝi estus registaroj. En Usono, ebleĝi estas ŝtataj registaroj, eble ĝi estas la federacia registaro.
Certe, ĉi tiuj kompanioj ĉiuj volas esti tutmondaj. Estas multaj tutmondaj implicoj ĉi tie. Mi rigardis OpenAI, Google, kaj Anthropic ĉiujn instigi la Biden-administradon publikigi AI-plenuman ordon. Ĝi estis sufiĉe sendenta finfine. Ĝi nur diris, ke ili devas paroli pri kio iliaj modeloj kapablas kaj liberigi iujn sekurecajn provojn. Kaj tiam ili ĉiuj subtenis Trump, kaj Trump eniris kaj forigis ĉion kaj diris: "Ni devas esti konkurencivaj. Ĝi estas senpaga por ĉio. Iru por ĝi."
Samtempe, ili ĉiuj provas kolekti financojn el mezorientaj landoj, kiuj havas multe da petrola mono kaj volas ŝanĝi siajn ekonomiojn. Tiuj estas politikistoj. Mi sentas, ke politikistoj nepre devus kompreni, ke iu parolas el ambaŭ flankoj de sia buŝo, kaj ili ne tro ĉagreniĝos, se iu fine seniluziiĝos, sed ankaŭ la politikistoj estas veturigitaj. Kial vi pensas, ke tio estas?
Jen vere, mi pensas, kial la peco gravas laŭ mi kaj kial valoris elspezi ĉi tiun tutan tempon kaj detalojn. Ni estas en medio, kie la sistemoj, kiuj, kiel vi diras, devus provizi superrigardon, estas nur kavigitaj. Tio estas post-Citizens Unuiĝinta Ameriko, kie la fluo de mono estas tiel senbara, kaj ĝi estas aparta koncentriĝo de tiu problemo ĉirkaŭ AI, kie estas ĉi tiuj PAC-oj kiuj multiĝas kaj inundas monon por nuligi signifan reguladon ĉe ŝtata kaj federacia nivelo.
Vi havas [OpenAI-kunfondinton] Greg Brockman, la vickomandanto de Sam, rekte kontribuante en grava maniero al kelkaj el tiuj. Ĝi kondukas al situacio kie vere estas kapto de leĝdonantoj kaj eblaj reguligistoj, kaj tio estas malfacila spiralo por eliri. La malĝoja afero estas, ke mi pensas, ke estas simplaj politikaj movoj, kelkaj el kiuj estas provataj aliloke en la mondo, kiuj helpus kun iuj el ĉi tiuj respondigproblemoj.
Vi povus havi pli devigajn antaŭ-deplojajn sekurectestojn, kio jam okazas en Eŭropo por landlimaj modeloj. Vi povus havi pli striktajn skribajn publikajn rekordajn postulojn por la specoj de internaj esploroj, kie ni vidis aferojn konservitajn ekster skribmaniero en ĉi tiu kazo. Vi povus havi pli fortikan aron de naciaj sekurecaj reviziaj mekanismoj por la specoj de mezorientaj infrastrukturaj ambicioj, kiujn Sam Altman puŝis.
Kiel vi diras, li faris ĉi tiun logilon kaj ŝanĝis kun la Biden-administrado, dirante: "Regu nin, reguligu nin", kaj helpis ilin ellabori plenuman ordon, kaj tiam en la momento, kiam Trump eniras, vere en la unuaj tagoj, simple ne malhelpas, "Ni akcelu kaj ni konstruu amasan datumcentran kampuson en Abu Dhabi." Vi povus havi, ĉi tio estas vere simpla, kiel protektoj pri informanto. Ne ekzistas federacia statuto protektanta dungitojn de AI-kompanioj, kiuj malkaŝas tiajn sekurecajn zorgojn, kiuj estas elsenditaj en ĉi tiu peco.
Ni havas kazojn kie Jan Leike, kiu estis altranga sekureca ulo ĉe OpenAI, gvidis bonegan vicigon ĉe la firmao. Li skribas al la estraro, esence materialo de denuncanto, dirante, ke la firmao iras de la reloj en sia sekureca misio. Tiuj estas la specoj de homoj, kiuj fakte devus havi superrigardan korpon, al kiu ili povas iri, kaj ili devus havi eksplicitajn laŭleĝajn protektojn de la specoj, kiujn ni vidas en aliaj sektoroj. Ĉi tio estas simple reprodukti reĝimon de stilo Sarbanes-Oxley.
Mi pensas ke malgraŭ kiom akra estas la problemo de Silicon Valley supozanta kontrolon de ĉiuj el la leviloj de potenco, kaj malgraŭ kiom kavigitaj kelkaj el ĉi tiuj institucioj kiuj povus provizi kontrolon kaj gardreloj estas, mi ankoraŭ kredas je la baza matematiko de demokratio kaj de mem-interesitaj politikistoj. Kaj aperas pli kaj pli da balotaj datumoj, ke plimulto de usonanoj opinias, ke la zorgoj, demandoj aŭ riskoj de AI nuntempe superas la avantaĝojn.
Do mi pensas, ke la inundo de mono en politikon de AI, estas ene de nia tuta povo fari tion fonto de demandosigno kun respekto al politikistoj. Kiam usonanoj iras por voĉdoni, ili devus ekzameni ĉu la homoj, por kiuj ili voĉdonas, precipe se ili estas senkritikaj kaj kontraŭregulaj, konsiderante ĉiujn ĉi tiujn zorgojn, estas financitaj de grandaj teknologiaj specialaj interesoj. Do mi pensas, se homoj povas legi tiajn pecojn, aŭskulti podkastojn tiajn, kaj zorgas sufiĉe por pensi kritike priiliaj decidoj kiel balotantoj, ekzistas vera ŝanco generi balotdistrikton en Vaŝingtono de reprezentantoj kiuj observas kaj devigas superrigardon.
Tio eble estas unu el la plej optimismaj aferoj, kiujn mi iam ajn aŭdis diri pri la nuna AI-industrio. Mi dankas ĝin. Mi estas obsedita de la balotado pri kiu vi parolas. Estas multe da ĝi nun. Ĉio estas sufiĉe konsekvenca, kaj ŝajnas, ke ju pli da junuloj, precipe, estas elmontritaj al AI, des pli malfidaj kaj koleraj ili estas pri ĝi. Tio estas la valento de ĉiuj balotadoj. Kaj mi rigardas tion, kaj mi pensas, nu, jes, inteligentaj politikistoj simple kontraŭus tion. Ili nur dirus, "Ni respondeigos grandajn teknikistojn."
Tiam mi pensas pri la pasintaj 20 jaroj, politikisto dirante, ke ili respondeigos grandajn teknologiojn, kaj mi luktas por trovi eĉ unu momenton de granda teknologio respondecigata. La sola afero, kiu igas min pensi, ke ĉi tio povus esti malsama estas, nu, vi efektive devas konstrui la datumcentrojn, kaj vi povas voĉdoni kontraŭ tio, kaj vi povas peti kontraŭ tio, kaj vi povas protesti kontraŭ tio.
Mi pensas, ke estas politikisto, kiu ĵus estis pafita kontraŭ sia domo ĉar ili voĉdonis por datuma centro. La streĉiĝo atingas, mi nomus ĝin, febropiĉo. Vi priskribis la insularecon de Silicon Valley. Ĉi tio estas fermita ekosistemo. Oni sentas, ke ili pensas, ke ili povas administri la mondon. Ili metas multan monon en politikon, kaj ili renkontas la realon, ke homoj ne amas la produktojn, kio ne donas al ili multe da kovrilo. Ju pli ili uzas la produktojn, des pli ĉagreniĝas ili, kaj la politikistoj komencas vidi, ke ekzistas realaj sekvoj por subteni la teknologian industrion super la homoj, kiujn ili reprezentas.
Vi parolis kun tiom da homoj. Ĉu vi pensas, ke estas eble por la teknologia industrio lerni la lecionon, kiu estas ĝuste antaŭ ili?
Vi diras, ke ĝi sentas, ke ili pensas, ke ili povas administri la mondon sen respondeco. Mi eĉ ne pensas, ke tio bezonas la "sentas kiel" kvalifikilon. Mi volas diri, vi rigardas la lingvon, kiun Peter Thiel uzas, ĝi estas eksplicita. Kompreneble, tio estas ekstrema ekzemplo. Kaj Sam Altman, kvankam li estas proksima kaj informita de la ideologio de Thiel iagrade, estas tre malsama speco de persono, kiu povus soni malsama kaj pli mezurita ĝis iu punkto.
Sed mi ja opinias la pli larĝan ideologion, kiun vi ricevas de Thiel, kiu esence estas: Ni finis kun demokratio, ni ne plu bezonas ĝin. Ni havas tiom multe, ke ni nur volas konstrui niajn proprajn etajn bunkrojn. Ni ne plu traktas la Carnegies aŭ la Rockefellers plu, kie ili estas malbonaj uloj, sed ili sentas, ke ili bezonas partopreni en socia kontrakto kaj konstrui aferojn por homoj. Estas vera nihilismo kiu enkadriĝas.
Kaj mi ja pensas, ke ĝi nur estis reciproke plifortiga spiralo en lastatempa usona historio de mogoloj kaj privataj kompanioj akirantaj superregistaran potencon dum demokrataj institucioj, kiuj povus respondecigi ilin, estas kavigitaj. Mi ne sentas min optimisma pri la ideo ke tiuj uloj eble nur vekiĝos iun tagon kaj pensos, "Hu, efektive eble ni ja bezonas partopreni en la socio kaj helpi konstrui aferojn por homoj."
Mi volas diri, vi rigardas kiel la mikrokosman ekzemplon de La Dona Promeso, kie estis momento kie ĝi ŝajnis esti bonfara, kaj tiu momento nun estas pasinta kaj eĉ ridindigita. Tio estas problemo, la pli larĝa problemo de manko de respondeco, kiun mi pensas nur ekstere solvebla. Tio devas esti balotantoj mobilizantaj kaj revivigantaj la potencon de registara superrigardo. Kaj vi ĝuste pravas diri, ke la ĉefa vektoro per kiu homoj eble povus atingi tion estas loka. Ĝi rilatas al kie infrastrukturo estas konstruita.
Vi menciis iujn el la varmega streĉo ĉirkaŭ ĉi tio, kiu kondukas al perforto kaj minacoj, kaj evidente, neniu devus esti perforta aŭ minaca. Kaj mi ankaŭ ne estas ĉi tie por fari specifajn politikajn rekomendojn krom por nur prezenti kelkajn el la politikaj paŝoj, kiuj ŝajnas bazaj kaj funkcias aliloke en la mondo, ĉu ne? Aŭ tiuj, kiuj laboris en aliaj sektoroj. Mi ne estas ĉi tie por diri kiu el tiuj devus esti ekzekutita kaj kiel.
Mi ja pensas, ke io devas okazi, kaj ĝi devas esti ekstera, ne nur fidi ĉi tiujn kompaniojn. Ĉar ĝustenun ni havas situacion, kie la kompanioj, kiuj disvolvas la teknologion kaj estas plej bone ekipitaj por kompreni la riskojn, kaj fakte estas kiuj avertas nin pri la riskoj, estas ankaŭ tiuj kun nenio krom instigo iri rapide kaj ignori tiujn riskojn. Kaj vi simple ne havas ion por kontraŭpezi tion. Do kiaj ajn reformoj povus preni laŭ specifaĵoj, io devas renkonti tion. Kaj mi ankoraŭ revenas al tiu optimismo, ke la homoj ankoraŭ gravas.
Mi ĝenerale aĉetas vian argumenton. Lasu min nur fari la unu etan kontraŭargumenton, kiun mi pensas, ke mi povas eldiri. La alia afero kiu povus okazi ekster la balotujo estas ke la veziko krevas, ĉu ne? Ke ne ĉiuj ĉi tiuj kompanioj atingas la cellinion, kaj ke ne ekzistas produkta merkato taŭga por konsumantaj AI-aplikoj. Kaj denove, mi ankoraŭ ne tute vidas ĝin, sed mi estas konsumanta teknika recenzisto, kaj eble mi nur havas pli altajn normojn ol ĉiuj aliaj.
Estas produkta merkato taŭga en la komerca mondo, ĉu ne? Havi amason da AI-agentoj skribas amason da programaro ŝajnas esti vera merkato por ĉi tiuj iloj. Kaj vi povas legi la argumentojn de ĉi tiuj kompanioj dirante: "Ni solvis kodigon, kaj tio signifas, ke ni povas solvi ion ajn. Se ni povas fari programaron, ni povas solvi ajnajn problemojn."
Mi pensas, ke ekzistas realaj limoj al la aferoj, kiujn la programaro povas fari. Tio estas bonega en la komerca mondo. Programaro ne povas solvi ĉiun problemon en realeco, sed ili devas atingi. Ili devas fini la laboron, kaj eble ne ĉiuj atingas la cellinion. Kaj estas kraŝo, kaj ĉi tiu veziko krevas, kaj eble OpenAI aŭ Anthropic aŭ xAI, unu el ĉi tiuj kompanioj malsukcesas, kaj ĉio ĉi tiu investo foriras.
Ĉu vi pensas, ke tio influus ĉi tion? Efektive, mi unue faru la unuan demandon. OpenAI estas ĝuste sur la rando de IPO. Estas multaj duboj pri Sam kiel gvidanto. Ĉu vi pensas, ke ili atingos la cellinion?
Mi ne prognozos, sed mi pensas, ke vi levas gravan punkton, kiu estas, ke merkataj instigoj gravas interne al Silicon Valley, kaj la malfortikeco de la nuna bobeldinamiko ja interrompas la, denove, eble, laŭ kritikistoj, kuron al la fundo pri sekureco.
Mi ankaŭ aldonus al tio, se vi rigardas historian precedencon, kie ekzistas simile kaj ŝajne nepenetrebla aro de merkataj instigoj kaj eble malutilaj efikoj por la publiko, ekzistas efikproceso. Kaj vi vidas tion kiel maltrankvilo lastatempe. Sam Altman ĉi-semajne aprobas leĝaron, kiu ŝirmus AI-kompaniojn kontraŭ iuj el la specoj de respondeco, al kiuj OpenAI estis elmontrita en krimprocesoj, ekzemple. Kompreneble, estas deziro havi tiun ŝildon kontraŭ respondeco.
Mi pensas, ke la tribunaloj ankoraŭ povas esti signifa mekanismo, kaj estos vere interese vidi kiel ĉi tiuj kostumoj formiĝas. Vi jam vidis, ekzemple, la grupproceson, de kiu mi kaj multaj, multaj aliaj aŭtoroj kiujn mi konas estas membroj, kontraŭ Anthropic pro ilia uzo de libroj kiuj estis sub kopirajto. Se estas inteligentaj juraj mensoj kaj akuzantoj, kiuj zorgas, kiel ni historie vidis en kazoj de granda tabako ĝis granda energio, vi ankaŭ povas ricevi kelkajn defendretojn kaj iujn instigojn por malrapidigi, zorgi aŭ protekti homojn tiel.
Ja sentas, ke la tuta koststrukturo de la AI-industrio dependas de tre, tre bonfara interpreto de justa uzo. Ne aperas sufiĉe. La koststrukturo de ĉi tiuj kompanioj povus spirali sen kontrolo, se ili devas pagi vin kaj ĉiujn aliajn, kies laboron ili prenis, sed estas maloportune pensi, do ni simple ne pensas pri tio. Ĝuste apud tio, ĉiuj ĉi tiuj produktoj nun funkcias per perdo. Kiel hodiaŭ, ili ĉiuj kuras per perdo. Ili bruligas pli da mono ol ili povas fari. En iu momento, ili devas ŝalti la ŝaltilon.
Sam estas komercisto. Kiel vi menciis plurajn fojojn, li ne estas teknologo. Li estas komerculo. Ĉu vi pensas, ke li pretas ŝalti la ŝaltilon kaj diri: "Ni gajnos dolaron?" Ĉar kiam mi demandas, "Ĉu vi pensas, ke OpenAI sukcesos?" Estas kiam ili devas fari dolaron. Kaj ĝis nun, Sam gajnis ĉiujn siajn dolarojn petante aliajn homojn ilian monon anstataŭ havi siajn kompaniojn gajni monon.
Nu, tio estas granda daŭra demando por Silicon Valley, por investantoj, por la publiko.Vi vidas kelkajn deklarojn kaj movojn el OpenAI, kiuj ŝajnas evidentigi ian panikon pri tio. Fermi Sora, fermi kelkajn helpajn projektojn, provante nuligi la kernan produkton. Sed tiam aliflanke, vi ankoraŭ vidas, samtempe, tunojn da misio rampi, ĉu ne? Eĉ malgranda ekzemplo - ĝi evidente ne estas kerno por ilia komerco - estas la akiro de TBPN.
Cetere, ĝuste kiam ni atingis la cellinion kaj kontrolon de faktoj, la kompanio alfrontanta ĉi tiun tipon de ĵurnalisma ekzamenado akiras platformon kie ili povas havi pli rektan kontrolon de la konversacio. Mi pensas, ke estas multaj investantoj, kiuj zorgas, surbaze de la konversacioj, kiujn mi havis, ke ĉi tiu problemo promesi ĉion al ĉiuj homoj ankaŭ etendiĝas al ĉi tiu manko de fokuso en la kerna komerca modelo. Kaj mi volas diri, ke vi estas pli proksima al tia prognozo kaj rigardado de la merkato ol mi verŝajne. Mi lasos vin kaj la aŭskultantojn esti la juĝisto ĉu ili pensas, ke OpenAI povas ŝalti la ŝaltilon.
Nu, mi demandis la demandon ĉar vi ricevis citaĵon en la peco de altranga Microsoft-oficulo, kaj ĝi estas ke, "La heredaĵo de Sam povus esti pli simila al Bernie Madoff aŭ Sam Bankman-Fried", prefere ol Steve Jobs. Tio estas sufiĉe komparo. Kion vi faris el tiu komparo?
Mi pensas, ke tio estas parafrazo. La Steve Jobs-parto ne estis parto de la citaĵo. Sed estas interesa speco de sobreco al ĝi ĉar ĝi estas formulita kiel: "Mi pensas, ke estas malgranda sed reala ŝanco ke li finiĝas esti SBF aŭ Madoff-nivela skamisto." Signifante, laŭ mia menso, ne ke Sam estas akuzita pri tiuj specifaj specoj de fraŭdo aŭ krimoj, sed ke la grado de dissimulado kaj trompo de Sam eble havas ŝancon finfine esti memorita je tiu skalo.
Jes, mi pensas, kio plej okulfrapa pri tiu citaĵo, honeste, estas ke vi vokas ĉe Microsoft kaj vi ne ricevas ŝaton, "Tio estas freneza. Ni neniam aŭdis tion." Vi ricevas multajn kiel, "Jes, multaj homoj ĉi tie pensas tion", kio estas rimarkinda. Kaj mi pensas, ke ĝi iras al ĉi tiuj komercaj demandoj pri nuksoj kaj rigliloj.
Unu investanto diris al mi, ekzemple, pro la maniero kiel ĉi tiu trajto daŭris en la jaroj post la pafo" - kaj ĉi tio ankaŭ opiniis, ke tio estis interesa sobra penso - ke ne nepre Sam estu ĉe la absoluta fundo de la listo, kiel devus esti la plej malalta el la malaltaj en terminoj de homoj, kiuj absolute ne devas konstrui ĉi tiun teknologion, pro tio, kion valoras tiu ĉi trajto, El Musko valoras. eble ĉe la fundo de la listo de homoj, kiuj devus konstrui AGI, kaj sub pluraj aliaj gvidaj figuroj en ĉi tiu kampo.
Do mi pensis, ke tio estas interesa takso, kaj tio estas la speco de pensado, kiun mi opinias, ke vi ricevas de la veraj pragmatistoj, kiuj eble ne tiom aĉetas pri la sekurecaj zorgoj. Ili estas nur kresk-orientitaj, kaj ili opinias, ke OpenAI nun havas problemon kun Sam Altman.
La Microsoft-peco estas vere interesa. Tiu firmao opiniis, ke ili estas sur la supro de la mondo. Ke ili faris ĉi tiun investon kaj ili supersaltos ĉiujn, precipe kaj plej grave, Guglon, kaj reiros en la bonajn gracojn de konsumantoj. La nivelo al kiu ili sentas sin bruligitaj de ĉi tiu aventuro - ĉi tio estas tre sobre administrata kompanio - mi ne pensas, ke oni povas troigi.
Vi menciis la karakterojn kaj la personecajn trajtojn. Mi volas fini ĉi tie per demando de niaj aŭskultantoj. Mi diris en nia alia spektaklo, The Vergecast, ke mi parolos kun vi, kaj mi diris, "Se vi havas demandojn por Ronan pri ĉi tiu rakonto, informu min." Do ni havas ĉi tie unu, kiun mi pensas ligas bonorde kun tio, kion vi priskribas. Mi nur legos ĝin al vi:
"Kiel la pravigoj por malbona konduto, tranĉitaj agoj de Altman kaj aliaj gvidantoj de AI, diferencas de la pravigoj, kiujn Ronan aŭdis de aliaj altprofilaj gvidantoj en politiko kaj amaskomunikilaro? Ĉu ili ne ĉiuj pravigas siajn agojn dirante, ke jen kiel la mondo ŝanĝiĝas? Se mi ne faras tion, iu alia faros?"
Jes, estas multe da tio ĉirkaŭe. Mi dirus, kio karakterizas por AI, estas, ke la ekzistecaj interesoj estante tiel unike alta signifas, ke ambaŭ la riskaj deklaroj estas ekstremaj, ĉu ne? Vi havas Sam Altmandirante: "Ĉi tio povus esti lumo por ni ĉiuj." Kaj ankaŭ, kritikistoj povus diri, la manio, al kiu aludas la demandanto, estas ekstrema, ĉu ne?
La afero pri kiu Sam akuzis Elon, registrite, estis ke eble li volas savi la homaron, sed nur se ĝi estas li. La speco de ego-komponento de voli venki, kiu estas enkadrigo kiun Sam uzas la tutan tempon, kaj ke ĉi tiu estas unu por la historiaj libroj, ĉi tio povus ŝanĝi ĉion. Do, eĉ preter la "vi devas rompi kelkajn ovojn" pensmaniero de la plej multaj entreprenoj de Silicon Valley, ekzistas, en la mensoj de iuj figuroj gvidantaj AI, mi pensas, kompleta raciigo por iuj kaj ĉiuj elfluoj.
Kaj forgesu rompi ovojn. Mi / pensas, ke multaj el la subestaj sekurecaj esploristoj dirus eble riski rompi la landon, rompi la mondon kaj rompi milionojn da homoj, kies laborpostenoj kaj sekureco pendas en la ekvilibro - jen kio estas unika pri ĝi. Tie mi fermas, pripensante ĉi tiun raportadon, vere kredante, ke tio temas pri pli ol Sam Altman. Ĉi tio temas pri industrio kiu estas senlima kaj spirala problemo de Ameriko nekapabla limigi ĝin.
Jes. Nu, ni havis iom da optimismo tie, sed mi pensas, ke tio estas bona loko por forlasi ĝin.
[Ridoj] Finiĝos per malrapida tempo.
Kompreneble. Tio estas ĉiu bonega rakonto, vere. La proceso Musk-Altman venos. Mi pensas, ke ni lernos multe pli ĉi tie. Mi suspektas, ke mi volos paroli kun vi denove. Ronan Farrow, koran dankon pro esti ĉe Decoder.
Dankon.
Ĉu demandoj aŭ komentoj pri ĉi tiu epizodo? Kontaktu nin ĉe [email protected]. Ni vere legas ĉiun retpoŝton!
