Šodien dekodētājā es runāju ar Ronanu Farrovu, vienu no lielākajām izmeklēšanas ziņošanas zvaigznēm, kas šodien strādā. Viņš pārtrauca Hārvija Vainšteina stāstu, starp daudziem, daudziem citiem. Un tikai pagājušajā nedēļā viņš un līdzautors Endrjū Marants izdevumā The New Yorker publicēja neticami dziļu rakstu par OpenAI izpilddirektoru Semu Altmenu, viņa uzticamību un pašas OpenAI pieaugumu.
Viena piezīme, pirms mēs turpinām: The New Yorker publicēja šo stāstu, un mēs ar Ronanu šo sarunu bijām, pirms mēs uzzinājām par Altmana mājai notikušo uzbrukumu pilno apmēru, tāpēc jūs nedzirdēsit, ka mēs par to runājam tieši. Bet, lai to pateiktu, es domāju, ka jebkāda veida vardarbība ir nepieņemama, šie uzbrukumi Semam bija nepieņemami, un tas, ka cilvēki jūt bezpalīdzību, kas noved pie šāda veida vardarbības, pati par sevi nav pieņemama, un ir vērts daudz rūpīgāk pārbaudīt gan no nozares, gan mūsu politiskajiem līderiem. Es ceru, ka tas ir skaidrs.
Abonenti, neaizmirstiet, ka saņemat ekskluzīvu piekļuvi dekodētājam bez reklāmām — visur, kur saņemat aplādes. Dodies šeit. Vai neesat abonents? Reģistrēties var šeit.
Tas viss liecina, ka ap Altmenu ir daudz virpuļu, kas ir godīga spēle stingrai ziņošanai — tādai, kādu Ronans un Endrjū plānoja darīt. Pateicoties ChatGPT popularitātei, Altmans ir kļuvis par visredzamāko mākslīgā intelekta nozares tēlu, kas savulaik bezpeļņas pētniecības laboratoriju ir pārvērtis par gandrīz triljonu dolāru privātu uzņēmumu tikai dažu gadu laikā. Taču mīts par Altmenu ir ļoti pretrunīgs, un to vienlīdz nosaka gan viņa acīmredzamā darījuma slēgšanas spēja, gan viņa ziņotā tieksme... labi, melot visiem apkārtējiem.
Stāsts ir vairāk nekā 17 000 vārdu garš, un tajā, iespējams, ir ietverts galīgais izklāsts par to, kas notika 2023. gadā, kad OpenAI direktoru padome ļoti pēkšņi atlaida Altmenu viņa iespējamās melošanas dēļ, taču viņš gandrīz uzreiz tika pieņemts darbā. Tā ir arī dziļa iedziļināšanās Altmana personīgajā dzīvē, viņa ieguldījumos, Tuvo Austrumu naudas pieprasīšanā un viņa paša pārdomās par viņa pagātnes uzvedību un rakstura iezīmēm, kas lika vienam avotam teikt, ka viņu “patiesība neierobežo”. Es tiešām iesaku jums izlasīt visu stāstu; Man ir aizdomas, ka tā tiks atsaukta daudzus gadus.
Ronans daudzas reizes runāja ar Altmanu 18 mēnešu laikā, ko viņš pavadīja, ziņojot par šo skaņdarbu, un tāpēc viena no galvenajām lietām, kas man interesēja, bija tas, vai viņš šajā laikā sajuta kādas izmaiņas Altmanā. Galu galā pēdējā pusotra gada laikā daudz kas ir noticis AI, tehnoloģijās un pasaulē.
Jūs dzirdēsit Ronanu runājam par to ļoti tieši, kā arī viņa izjūtu, ka cilvēki ir kļuvuši daudz gatavi runāt par Altmana spēju izvērst patiesību. Cilvēki sāk skaļi un ierakstīti prātot, vai tādu cilvēku kā Altmana uzvedība ir saistīta ne tikai ar mākslīgo intelektu vai tehnoloģijām, bet arī uz sabiedrības kolektīvo nākotni.
Labi: Ronans Farovs par Semu Altmenu, AI un patiesību. Lūk.
Šī intervija ir nedaudz rediģēta garuma un skaidrības labad.
Ronan Farrov, jūs esat pētnieciskais reportieris un The New Yorker līdzstrādnieks. Laipni lūdzam dekodētājā.
Prieks būt šeit. Paldies, ka esat mani.
Es ļoti priecājos ar jums runāt. Jūs tikko uzrakstījāt lielu gabalu The New Yorker. Tas ir Sema Altmena un līdz ar to arī OpenAI profils. Es lasu par to, ka, tāpat kā visas lieliskās funkcijas, tas ar stingru ziņošanu apstiprina daudzas jūtas, kas cilvēkiem ir bijušas par Semu Altmanu ļoti ilgu laiku. Acīmredzot jūs to esat publicējis, jūs uz to esat saņēmis reakcijas. Kā tu šobrīd jūties par to?
Patiesībā mani ir iepriecinājis tas, cik lielā mērā tas ir izlauzts laikā, kad uzmanības ekonomija ir tik šizofrēniska un sekla. Šis ir stāsts, kas, manuprāt, skar mūs visus. Un, kad es pavadīju pusotru gadu savas dzīves un arī mans līdzautors Endrjū Marants pavadīja šo savu laiku, patiešām cenšoties izdarīt kaut ko kriminālistikas un rūpīgu, tas vienmēr ir tāpēc, ka man šķiet, ka ir lielākas strukturālas problēmas, kas skar cilvēkus ārpus indivīda un uzņēmuma, kas atrodas stāsta centrā.
Sems Altmans, ņemot vērā Silīcija ielejas ažiotāžu kultūras un jaunuzņēmumu fona, kas veicinās masveida vērtējumus, kuru pamatā ir solījumi, kas nākotnē var piepildīties un var arī nepiepildīties, un arvien vairāk dibinātāju kultūras, kas domā, ka dažādām grupām pastāstīt par dažādām pretrunīgām lietām ir raksturīga iezīme, neviskļūda… Pat uz šī fona Sems Altmens ir ārkārtējs gadījums, kad ikviens Silīcija ielejā, kas to gaida, nevar beigt runāt par šo jautājumu par viņa uzticamību un godīgumu.
Mēs jau zinājām, ka viņš tika atlaists saistībā ar kādu apgalvojumu par negodīgumu vai sērijveida iespējamu melu versiju. Bet ārkārtēji, neskatoties uz to, ka ir bijuši lieliski ziņojumi, Keach Hagey ir paveicis lielisku darbu šajā jomā. Kārena Hao ir paveikusi lielisku darbu šajā jomā. Patiešām nebija skaidras izpratnes par faktiskajiem iespējamiem pierādījumiem un iemesliem, kāpēc tie ir palikuši ārpus sabiedrības redzesloka.
Pirmais punkts ir tāds, ka mani iepriecina fakts, ka dažas no šīm nepilnībām mūsu publiskajās zināšanās un pat Silīcija ielejas darbinieku zināšanās tagad ir nedaudz vairāk aizpildītas. Daži no iemesliem, kāpēc bija nepilnības, ir aizpildīti nedaudz vairāk.
Mēs ziņojam par gadījumiem, kad cilvēkiem šajā uzņēmumā patiešām šķita, ka lietas ir slēptas vai apzināti nav dokumentētas. Viena no jaunajām lietām šajā stāstā ir WilmerHale galvenā advokātu biroja izmeklēšana, kas acīmredzami ir iedomāts, uzticams, liels advokātu birojs, kas veica Enron un WorldCom izmeklēšanu, kas, starp citu, bija apjomīga, piemēram, simtiem publicētu lappušu. VilmerHeils veica šo izmeklēšanu, ko pieprasīja valdes locekļi, kuri bija atlaiduši Altmanu kā nosacījumu viņu aiziešanai, kad viņš no viņiem atbrīvojās, un viņš atgriezās. Un neparasti — daudzu juridisko ekspertu acīs, ar kuriem es runāju, un šokējoši daudzu šī uzņēmuma cilvēku acīs — viņi to nerakstīja. Viss, kas no tā parādījās, bija 800 vārdu gara OpenAI preses relīze, kurā notikušais aprakstīts kā uzticības sabrukums. Un mēs apstiprinājām, ka tas tika darīts tikai mutiskiem ziņojumiem.
Ir gadījumi, kad, piemēram, valdes loceklis šķietami vēlas balsot pret OpenAI sākotnējās bezpeļņas formas pārveidošanu par peļņas organizāciju, un tas tiek reģistrēts kā atturēšanās. Sapulcē ir kā advokāts, kurš saka: "Tas varētu izraisīt pārāk daudz pārbaudes." Un persona, kas vēlas balsot pret, tiek reģistrēta kā atturēšanās no jebkāda veida uzstāšanās. Ir faktisks strīds. OpenAI apgalvo pretējo, kā jūs varētu iedomāties. Tie visi ir gadījumi, kad jums ir uzņēmums, kas pēc sava rēķina tur mūsu nākotni savās rokās.
Drošības likmes ir tik akūtas, ka tās nav pazudušas. Šī iemesla dēļ šis uzņēmums tika dibināts kā bezpeļņas organizācija, kas koncentrējas uz drošību, un lietas tika aizēnotas tādā veidā, ka uzticami apkārtējie cilvēki to neuzskatīja par profesionāli. Un jūs to apvienojat ar fonu, kurā ir tik maza politiskā apetīte pēc jēgpilnas regulēšanas. Es domāju, ka tā ir ļoti degoša situācija.
Manuprāt, runa ir ne tikai par to, ka Sems Altmens ir tik ļoti pelnījis šos jautājumus. Tas ir arī tas, ka jebkurš no šiem puišiem šajā jomā un daudzām galvenajām figūrām uzrāda, ja ne šo konkrēto savdabīgo, it kā visu laiku melojošu īpašību, noteikti zināmā mērā "sacensību līdz apakšai" mentalitāti, kur cilvēki, kas bija drošības speciālisti, ir samazinājuši šīs saistības un stāju, ka visi ir sacīkstēs.
Es domāju, ka, skatoties uz nesenajām noplūdēm no Anthropic, ir kāds, kurš uzdod jautājumu par to, kam šajā gabalā būtu jātur pirksts uz pogas. Atbilde ir tāda, ka, ja mums nav jēgpilnas uzraudzības, es domāju, ka mums ir jāuzdod nopietni jautājumi un jācenšas sniegt pēc iespējas vairāk informācijas par visiem šiem puišiem. Tāpēc mani iepriecināja jēgpilna saruna par to vai tās sākums.
Iemesls, kāpēc es to jautāju, ir tas, ka jūs pie tā strādājāt pusotru gadu. Es domāju, ka jūs runājāt ar 100 cilvēkiem ar savu līdzautoru Endrjū. Tas ir ilgs laiks, līdz tiek gatavots stāsts. Es īpaši domāju par pēdējo pusotru gadu mākslīgā intelekta jomā, un, zēns, visu šo varoņu attieksme un vērtības ir ļoti ātri mainījušās.
Varbūt ne vairāk kā Sems Altmans, kurš sāka darboties kā noklusējuma uzvarētājs, jo viņi bija izlaiduši ChatGPT un visi domāja, ka tas tikai pārņems Google. Un tad Google atbildēja, kas, šķiet, viņus pārsteidza, ka Google mēģinās aizsargāt savu biznesu, iespējams, vienu no labākajiem uzņēmumiem tehnoloģiju vēsturē, ja ne biznesa vēsturē. Anthropic nolēma, ka tas koncentrēsies uz uzņēmumu. Šķiet, ka tā uzņemas pārliecinošu vadībutāpēc, ka AI uzņēmumos izmanto tik daudz.
Tagad OpenAI pārorientē savu produktu no “mēs uzņemsimies Google” uz Codex, un viņi pārņems uzņēmumu. Es tikai nevaru precīzi pateikt, vai pēdējā pusotra gada laikā jūsu ziņojuma laikā ir radusies sajūta, ka personāži, ar kuriem runājāt, ir mainījušies? Tāpat kā viņu attieksme un vērtības, vai tās mainījās?
Jā. Pirmkārt, es domāju, ka kritika, kas tiek pētīta šajā rakstā, ko šajā brīdī nāk no daudziem cilvēkiem šajos uzņēmumos — ka šī ir nozare, kas, neskatoties uz eksistenciālajām likmēm, tuvojas sacensībām drošības jomā un kur ātrums pārspēj visu pārējo — šīs bažas ir pastiprinājušās. Un es domāju, ka šīs bažas ir vairāk apstiprinājušās, jo pagājis pēdējais pusotrs gads. Vienlaikus attieksme pret Semu Altmanu ir īpaši mainījusies. Kad mēs sākām runāt ar avotiem par šo tēmu, cilvēki ļoti, ļoti aizkaitinājās par to, ka viņus citē un ierakstīja par to.
Līdz mūsu ziņojuma beigām jums ir ziņojumu kopums, kurā cilvēki par to runā ļoti atklāti un skaidri, un jūsu valdes locekļi saka, piemēram: "Viņš ir patoloģisks melis. Viņš ir sociopāts." Pastāv dažādas perspektīvas: "Tas ir bīstami, ņemot vērā drošības likmes, un mums ir vajadzīgi šīs tehnoloģijas līderi, kuriem ir paaugstināta integritāte", līdz pat piemēram: "Aizmirstiet par drošības likmēm, tā ir uzvedība, kas nav pieņemama nevienam liela uzņēmuma vadītājam, jo tā vienkārši rada pārāk daudz disfunkciju."
Tāpēc saruna ir kļuvusi daudz skaidrāka tādā veidā, kas šķiet, iespējams, novēlota, bet vienā ziņā ir iepriecinoša. Un Sems Altmans, viņa gods... Gabals ir ļoti godīgs un pat dāsns, es teiktu, Semam. Šis nav tāds gabals, kurā bija daudz “sapratu”. Es pavadīju daudzas, daudzas stundas ar viņu pa telefonu, kamēr mēs to pabeidzām, un patiešām dzirdējām viņu.
Kā jūs varat iedomāties, šādā skaņdarbā ne viss tiek iekļauts. Daži no šiem gadījumiem šajā gadījumā bija tāpēc, ka es klausījos patiesi. Un, ja Sems patiešām apgalvoja, ka es jūtu, ka man ir ūdens, ka kaut kas, pat ja tā ir patiesība, varētu būt sensacionāls, es tiešām kļūdījos, paturot šo tiesu ekspertīzi un izmērītu. Tāpēc es domāju, ka tas tiek uztverts pareizi, un es tikai ceru, ka šis faktiskais ieraksts, kas ir uzkrāts šajā laika periodā, var izraisīt enerģiskāku sarunu par uzraudzības nepieciešamību.
Tas patiesībā ir mans nākamais jautājums. Es domāju, ka jūs runājāt ar Semu duci reižu, ziņojot par šo stāstu. Atkal, tas ir daudz sarunu ilgā laika periodā. Vai jūs domājat, ka Sems pēdējā pusotra gada laikā ir mainījies ziņošanas laikā?
Jā. Manuprāt, viens no interesantākajiem apakšsižetiem ir tas, ka Sems Altmens arī runā par šo iezīmi daudz skaidrāk nekā agrāk. Sema poza šajā skaņdarbā nav tāda: "Tur nekā nav, tā nav taisnība; es nezinu, par ko jūs runājat." Viņa poza ir tāda, ka viņš saka, ka tas ir saistīts ar cilvēkiem patīkamu tendenci un sava veida nepatiku pret konfliktiem. Viņš atzīst, ka tas viņam radīja problēmas, īpaši karjeras sākumā.
Viņš saka: "Nu, es virzos tam garām vai zināmā mērā esmu ticis tam garām." Manuprāt, tas, kas mani patiešām interesē, ir to cilvēku kontingents, ar kuriem mēs runājām un kuri bija ne tikai drošības aizstāvji, ne tikai tehniskie pētnieki, kuriem bieži ir šīs akūtās drošības problēmas, bet arī pragmatiski, lieli investori. Viņi ir Sema atbalstītāji, kuri dažos gadījumos aplūko šo jautājumu un runā par to, ka viņiem pat bijusi galvenā loma viņa atgriešanā pēc atlaišanas. Tagad, uz šo jautājumu par to, vai viņš ir reformēts un cik lielā mērā šīs izmaiņas ir jēgpilnas, viņi saka: "Nu, mēs toreiz viņam devām labumu no šaubām."
Es īpaši domāju par vienu ievērojamu investoru, kurš teica: "Bet kopš tā laika šķiet skaidrs, ka viņš netika izvests aiz malkas šķūnīša," šī bija frāze, ko šis izmantoja, ciktāl tas bija nepieciešams. Rezultātā šķiet, ka šī īpašība tagad ir stabila. Mēs to redzam nepārtraukti. Varat apskatīt dažus no OpenAI lielākajiem uzņēmumiemattiecības un veids, kā tās pastāvīgi nes šīs neuzticības smagumu.
Tāpat kā ar Microsoft, jūs runājat ar vadītājiem, un viņiem ir patiešām akūtas un nesen radušās bažas. Ir šis gadījums, kad tajā pašā dienā OpenAI atkārtoti apstiprina savu ekskluzivitāti ar Microsoft attiecībā uz pamatā esošajiem bezvalstniecības mākslīgā intelekta modeļiem, tā arī paziņo par jaunu darījumu ar Amazon, kas ir saistīts ar uzņēmumu risinājumu pārdošanu AI aģentu izveidei, kuriem ir statuss, kas nozīmē, ka tiem ir atmiņa.
Jūs runājat ar Microsoft darbiniekiem, un viņi saka: "To nav iespējams izdarīt bez mijiedarbības ar pamata lietām, par kurām mums ir ekskluzivitātes līgums." Tātad tas ir tikai viens no daudzajiem mazajiem piemēriem, kad šī īpašība ir saistīta ar pastāvīgu uzņēmējdarbību visu laiku un par to ir aktīvas bažas OpenAI valdē, tā izpildu komplektā un plašākā tehnoloģiju kopienā.
Jūs pastāvīgi sakāt šo "īpašību". Stāstā ir līnija, kas man šķiet kā disertācija, un tā ir jūsu aprakstītās iezīmes apraksts. Tas ir tas, ka "Semu Altmanu neierobežo patiesība" un ka viņam ir "divas īpašības, kuras gandrīz nekad nav redzamas vienā cilvēkā: pirmā ir spēcīga vēlme izpatikt cilvēkiem, būt patīkamam jebkurā saskarsmē, un otrā ir gandrīz sociopātisks raižu trūkums par sekām, kas var rasties, ja kāds maldinās."
Man jums jāsaka, ka es izlasīju šo teikumu 500 reižu un mēģināju iedomāties, ka vienmēr saku, ko cilvēki vēlas, lai viņiem patiktu, un pēc tam netiktu sarūgtināts, kad viņi jutās meloti. Un es nevarēju likt savam emocionālajam stāvoklim saprast, kā šīs lietas var pastāvēt vienā cilvēkā. Jūs esat daudz runājis ar Semu un runājis ar cilvēkiem, kuri ir piedzīvojuši šīs īpašības. Kā viņš to dara?
Jā. Cilvēciskā līmenī tas ir interesanti, jo es vēršos pie šādām ziņošanas struktūrām, patiesi koncentrējoties uz cilvēku humanizēšanu un cenšoties panākt dziļu izpratni un empātiju. Kad es mēģināju tam pieiet no cilvēciskāka skatu punkta un teikt: "Ei, tas man būtu postoši, ja tik daudzi cilvēki, ar kuriem esmu strādājusi, teiktu, ka esmu patoloģisks melis. Kā jūs izturat šo svaru? Kā jūs par to runājat terapijā? Kāds ir stāsts, ko jūs par to stāstāt sev?"
Manuprāt, man par to ir zināmas, iespējams, Rietumkrasta banalitātes, piemēram: "Jā, man patīk elpas darbs." Taču ne pārāk spēcīgas dziļas paškonfrontācijas sajūtas, kas, manuprāt, daudziem no mums, iespējams, būtu, ja mēs redzētu šāda veida atsauksmes par savu uzvedību un attieksmi pret cilvēkiem.
Es domāju, ka tas faktiski attiecas arī uz plašāku atbildi uz jautājumu. Sems apgalvo, ka šī īpašība ir radījusi problēmas, taču arī tā ir daļa no tā, kas viņam ir devusi iespēju tik ļoti paātrināt OpenAI izaugsmi, ka viņš spēj apvienot un iepriecināt dažādas cilvēku grupas. Viņš pastāvīgi pārliecina visus šos pretrunīgos vēlēšanu apgabalus, ka viņiem rūp tas, kas viņam rūp. Un tā var būt ļoti noderīga prasme dibinātājam. Esmu runājis ar investoriem, kuri pēc tam saka: "Varbūt tā ir mazāk noderīga prasme uzņēmuma vadīšanai, jo tā sēj tik daudz nesaskaņu."
Bet no Sema personīgās puses, es domāju, ka lieta, ko es uztveru, mēģinot sazināties cilvēciskā līmenī, ir acīmredzamais dziļākas konfrontācijas, pārdomu un pašatbildības trūkums, kas arī informē par lielvaru vai atbildību par uzņēmumu, kas gatavojas IPO.
Viņš ir kāds, kurš, kā izteicās viena bijušā valdes locekle, vārdā Sue Yoon, kura ir ierakstīta skaņdarbā, sakot, ka viņas lietotā frāze ir līdz pat “neapdomībai”, spēj patiesi noticēt savu pārdošanas piedāvājumu mainīgajai realitātei vai arī spēj sevi par tiem pārliecināt. Vai vismaz, ja viņš tiem netic, viņš spēj tiem izlauzties cauri bez jēgpilnas šaubas par sevi.
Es domāju, ka lieta, par ko jūs runājat, varētu būt sastingusi vai pārbaudīta, jo mēs sakām šo lietu un apzināmies, ka tas ir pretrunā ar citu mūsu sniegto garantiju. Es domāju, ka ar viņu tā nenotiek. Un pastāv plašāka Silīcija ielejas ažiotāža kultūra un dibinātāju kultūra, kas to aptver.
Tas ir smieklīgi. Verge ir balstīta uz to, kas ir produkta atsauksmesprogramma. Tā ir sirdsdarbība tam, ko mēs šeit darām. Reizi gadā es glabāju triljonu dolāru Apple R&D un saku: "Šis tālrunis ir septiņi." Un tas it kā leģitimizē visus mūsu ziņojumus un mūsu viedokļus citur. Mums ir novērtēšanas funkcija, un mēs pavadām tik daudz laika, tikai aplūkojot AI produktus un sakot: "Vai tie darbojas?"
Šķiet, ka tas trūkst daudzās sarunās par AI, kāda tā ir šodien. Ir bezgalīgas sarunas par to, ko tas varētu darīt, cik tas varētu būt bīstami. Un tad jūs iedziļināsities un sakāt: "Vai tas tiešām dara to, kas šodien ir jādara?" Dažos gadījumos atbilde ir jā. Bet daudzos, daudzos gadījumos atbilde ir nē.
Šķiet, ka tas ir saistīts ar jūsu aprakstīto ažiotāžu kultūru, kā arī ar sajūtu, ka, ja jūs sakāt, ka tas kaut ko darīs, bet ne, un kāds jūtas slikti, tas ir labi, jo mēs ķeramies pie nākamās lietas. Tas ir pagātnē. Un jo īpaši mākslīgā intelekta jomā Sems tik labi spēj dot lielos solījumus.
Tikai šonedēļ, manuprāt, tajā pašā dienā, kad tika publicēts jūsu stāsts, OpenAI izdeva politikas dokumentu, kurā teikts, ka mums ir jāpārdomā sociālais līgums un jāsaņem AI efektivitātes stipendijas no valdības. Šis ir grandiozs solījums par to, kā dažas tehnoloģijas varētu veidot pasaules nākotni un to, kā mēs dzīvojam, un tas viss ir atkarīgs no tehnoloģijas, kas darbojas tieši tā, kā, iespējams, ir solīts vai tai vajadzētu darboties.
Vai kādreiz esat atklājis, ka Sems šaubās, ka mākslīgais intelekts pārvēršas par AGI vai superinteliģenci vai sasniedz finiša līniju? Jo tas ir tas, par ko es brīnos visvairāk. Vai ir kādas pārdomas par to, vai šī pamattehnoloģija var paveikt visu, ko viņi saka?
Tas ir tieši pareizais jautājumu kopums. Ir uzticami tehnologi, ar kuriem mēs runājām šajā ziņojumā, un, protams, Sems Altmans nav tāds. viņš ir biznesa cilvēks, kurš saka, ka veids, kā Sems runā par šīs tehnoloģijas laika skalu, ir tikai tālu. Dažus gadus senāk ir publicēti emuāra ieraksti, kuros Sems saka: "Mēs jau esam sasnieguši notikumu horizontu. AGI būtībā ir šeit. Superinteliģence ir tepat aiz stūra. Mēs būsim uz citām planētām. Mēs izārstēsim visas vēža formas." Patiešām, es neizpušķoju.
Vēzis patiesībā ir interesants, jo Sems uzmundrina cilvēku, kurš teorētiski izārstēja viņu suņa vēzi ar ChatGPT, un tas vienkārši nenotika. Viņi runāja ar ChatGPT, un tas viņiem palīdzēja vadīt dažus pētniekus, kuri faktiski veica darbu, taču šis rīks, kas viens pret vienu izārstēja šo suni, patiesībā nav stāsts.
Priecājos, ka aktualizējāt šo jautājumu, jo es vēlos pāriet uz šo plašāko punktu par to, kad tehnoloģiju potenciāls un risks patiešām mainīsies. Bet ir vērts pieminēt šīs mazās malās, kas pastāvīgi notiek no Sema Altmena, kur viņš, šķiet, iemieso šo īpašību no jauna.
Es domāju, lai izmantotu VilmerHale ziņojuma piemēru, kur mums bija šī informācija, kas netika rakstīta, un vēlējāmies uzzināt, vai mutiskā instruktāža tika sniegta kādam citam, nevis diviem valdes locekļiem, kurus Sems palīdzēja instalēt, lai to pārraudzītu. Un viņš teica: "Jā, jā, nē, es uzskatu, ka tā tika dota ikvienam, kas pievienojās padomei pēc tam." Un mums ir cilvēks, kurš tieši pārzina situāciju, un saka, ka tie ir vienkārši meli. Un tā patiešām šķiet, ka tā nav patiesība. Ja mēs gribam būt dāsni, iespējams, viņš bija dezinformēts.
Šo gadījuma garantiju ir daudz. Un es izmantoju šo piemēru daļēji, jo tas ir lielisks piemērs izjaukšanai, sauksim to, kam var būt reālas juridiskas sekas. Man nav jums jāsaka saskaņā ar Delavēras korporatīvajiem tiesību aktiem, ja šī uzņēmuma IPO, akcionāri var sūdzēties par to saskaņā ar 220. sadaļu un pieprasīt pamatdokumentāciju. Jau tagad valdes locekļi saka: "Nu, pagaidiet, tai instruktāžai vajadzēja notikt."
Tātad šīs lietas, kas, šķiet, visu laiku izlec no viņa mutes, var radīt reālus tirgus virzošus efektus, reālus efektus OpenAI. Atgriežot to pie tāda veida utopiskas ažiotāžas valodas, kas atkal parādījās, es domāju, ka tas nav nejauši dienā, kad šis gabals iznāca, tas ietekmē arī mūs visus, jo briesmas ir tik nopietnas attiecībā uz veidu, kā tas ir.tiek izmantots ieročos, veids, kā tas tiek izmantots ķīmisko kaujas vielu identificēšanai, dezinformācijas potenciāls un veids, kā šķiet, ka utopiskā ažiotāža mudina daudzus uzticamus ekonomistus teikt: "Tam ir visas burbuļa pazīmes."
Pat Sems Altmens ir teicis: "Kāds šeit zaudēs daudz naudas." Tas patiešām varētu radīt lielu Amerikas un pasaules ekonomikas izaugsmi, ja notiek patiesa burbuļa pārduršana, iesaistot visus šos uzņēmumus, veicot darījumus savā starpā, pilnībā iesaistoties AI, vienlaikus aizņemoties tik lielus aizdevumus. Tātad Sema Altmena teiktajam ir nozīme, un es domāju, ka apkārtējo cilvēku pārsvars, kā jūs minējāt, mēs runājām ar vairāk nekā simts, patiesībā tas bija krietni vairāk nekā simts. Mums bija saruna finiša taisnē, un tā bija: "Vai tas būtu pārāk niecīgi teikt, ka tas ir kā šis daudz lielāks skaitlis?" Un mēs atbildējām: "Jā, samazināsim. Mēs to nospēlēsim forši." Bet bija tik daudz cilvēku, un tik ievērojams vairākums no viņiem teica: "Tas rada bažas." Un es domāju, ka tāpēc.
Ļaujiet man pajautāt jums par šo numuru. Kā jūs minējāt, laika gaitā cilvēki kļuva arvien atvērtāki, reaģējot uz bažām. Šķiet, ka spiediens ap burbuli — sacīkstes, lai uzvarētu, atmaksātos visi ieguldījumi, kļūtu par uzvarētāju IPO — ir mainījis daudzas attieksmes. Tas noteikti radīja lielāku spiedienu uz Semu un OpenAI.
Šonedēļ mēs publicējām stāstu tikai par OpenAI atmosfēru. Jūsu stāsts ir daļa no tā, taču OpenAI vadītāju rindās ir notikušas milzīgas personāla izmaiņas — cilvēki nāk un iet. Visi pētnieki dodas prom, galvenokārt uz Antropiku, kas, manuprāt, ir patiešām interesanti. Var vienkārši redzēt, ka šis uzņēmums izjūt spiedienu un kaut kādā veidā reaģē uz šo spiedienu.
Bet tad es atceros Sema atlaišanu. Tas man ir vienkārši neaizmirstams. Tas nav neaizmirstams nevienam citam, taču es piektdien pulksten 19:00 piezvanīju uz Bronksas zoodārzu, un kāds teica, ka mēģinās atgūt Semu. Un tad mēs pavadījām nedēļas nogali, dzenoties pēc šī stāsta. Un es vienkārši atbildēju: "Es esmu zoodārzā. Ko jūs vēlaties, lai es šeit daru?" Un atbilde bija: "Palieciet pie tālruņa." Mana meita teica: "Atkāpies no telefona." Un tas ir tas, ko es izdarīju.
Bija jābrauc vai jāmirst, lai atgūtu Semu. Šis uzņēmums teica: "Nē, mēs neļausim valdei atlaist Semu Altmanu." Investori, tie ir citēti jūsu rakstā: “Mēs devāmies karā”, manuprāt, ir Thrive Capital pozīcija, “lai atgūtu Semu”. Microsoft devās karā, lai atgūtu Semu. Ir vēlāk, un tagad visi saka: "Mēs ejam uz IPO. Mēs sasniedzām finiša līniju. Mēs atguvām savu puisi, un viņš mūs nogādās līdz finišam. Mēs esam nobažījušies, ka viņš ir melis."
Kāpēc toreiz bija karš, lai viņu atgūtu? Jo šķiet, ka nekas nav mainījies. Jūs runājat par piezīmēm, kuras Iļja Sutskevers un [Anthropic izpilddirektors] Dario Amodejs glabāja, kamēr viņi bija Sema Altmena laikabiedri. Iļjas bažas numur viens bija tas, ka Sems ir melis.
Nekas no tā nav mainījies. Tātad, kāpēc toreiz bija karš, lai viņu atgrieztu? Un tagad, kad esam finiša taisnē, šķiet, ka visas bažas ir atklātas.
Nu, pirmkārt, atvainojos jūsu meitai un manam partnerim un visiem pārējiem žurnālistiem.
[Smejas] Tā bija diezgan laba nedēļas nogale visiem.
Jā, tas pārņem cilvēka dzīvi, un šis stāsts pēdējā laika periodā noteikti ir arī manējais. Manuprāt, tas faktiski ir saistīts ar šo žurnālistikas un informācijas pieejamības tēmu. Investori, kuri devās karā par Semu, un visi spēlēja savu lomu, lai pārliecinātos, ka viņš atgriezīsies, un padome, kas bija īpaši izstrādāta, lai aizsargātu bezpeļņas misiju, lai nodrošinātu drošību pār izaugsmi un atlaistu vadītāju, ja viņiem to nevarēja uzticēt, viņi aizgāja. Tas viss bija tāpēc, ka, jā, tirgus stimuli bija, vai ne?
Sems spēja pārliecināt cilvēkus: "Nu, uzņēmums vienkārši sabruks." Bet iemesls, kāpēc viņam bija atbalsts, bija informācijas trūkums. Šie investori daudzos gadījumos tagad saka: "Es atskatos atpakaļ un domāju, ka man būtu bijis vairāk jāuztraucas, ja es būtu pilnībā zinājis, kādas ir prasības un kādas bija bažas."
Ne visi no tiem;viedokļi atšķiras, un mēs citējam dažādus viedokļus, taču ir būtiski viedokļi, kas rīkojās, pamatojoties uz ļoti daļēju informāciju. Galdiņš, kas atlaida Semu, pēc vienas personas vārdiem, kas kādreiz atradās uz galda, bija “ļoti JV”, un viņi smagi sita bumbu. Un mēs dokumentējam pamatā esošās sūdzības, un cilvēki paši var izlemt, vai tās uzkrājas tādās steidzamās bažās, par kurām viņi to juta, taču šis arguments un informācija netika sniegta.
Viņi saņēma to, ko daži no viņiem tagad atzīst par sliktu juridisku padomu. Lai to aprakstītu, jūs atcerēsities citātu, un, iespējams, daudzi jūsu klausītāji un skatītāji atcerēsies citātu kā atklātības trūkumu. Tas bija tas, līdz kuram tas tika samazināts, un tad viņi pēc būtības nepieņēma zvanus.
Viņi zvanus nepieņēma. Esmu pārliecināts, ka jūs mēģinājāt. Ikviens, ko es pazīstu, mēģināja, un tas nonāca tiktāl, ka jums kā žurnālistam nevajadzētu sniegt padomu saviem avotiem, bet es domāju: "Tas pazudīs, ja nesāksit sevi skaidrot."
Un tā arī notika. Aizmirsti žurnālistus. Satja Nadella teica: "Kas, pie velna, noticis? Es nevaru panākt, lai kāds man paskaidro." Un tas ir uzņēmuma galvenais finansiālais atbalstītājs. Un tad jums zvana Satja [LinkedIn līdzdibinātājam] Reidam Hofmanam un Rīds zvana un saka: "Es nezinu, kas noticis."
Saprotams, ka viņi atrodas šajā informācijas tukšumā, meklējot tradicionālos rādītājus, kas nav AI, kas attaisnotu tik steidzamu, pēkšņu atlaišanu. Piemēram, labi, vai tie bija seksuālie noziegumi? Vai tā bija piesavināšanās? Un viss smalkais, bet, manuprāt, jēgpilnais arguments, ka šī tehnoloģija ir atšķirīga un ka šāda veida vienmērīgai mazāku nodevību uzkrāšanai varētu būt nozīmīga loma gan šim biznesam, gan, iespējams, pasaulei, tika lielā mērā zaudēts. Tātad uzvarēja kapitālistiskie stimuli, bet arī cilvēki, kas to radīja, aizgāja un ne vienmēr darbojās ar pilnīgu informāciju.
Es vēlos uz vienu brīdi jautāt par aspektu "ko visi domāja", jo es noteikti redzēju ziņas un teicu: "Ak, kaut kas slikts ir noticis." Jūs esat ļoti daudz ziņojis par #MeToo. Jūs pārtraucāt Hārvija Vainšteina stāstu.
Jūs pavadījāt daudz laika, lai ziņotu par šiem apgalvojumiem, kuri, manuprāt, galu galā bija nepamatoti: ka Altmens seksuāli izmantoja nepilngadīgos vai nolīga seksa pakalpojumu sniedzējus vai pat nogalināja OpenAI trauksmes cēlēju. Es domāju, ka jūs esat tā persona, kas par šīm lietām var ziņot visstingrāk. Vai nolēmāt, ka nekas nesanāca?
Nu, lūk, es nedomāju teikt, ka kaut kas nav izdevies. Es varu teikt, ka es pavadīju mēnešus, skatoties uz šiem apgalvojumiem un neatradu tiem apstiprinājumu. Un man bija pārsteidzoši, ka šie puiši, šie uzņēmumi, kuriem ir tik liela vara pār mūsu nākotni, patiešām tērē nesamērīgi daudz sava laika un resursu bērnišķīgā dubļu cīņā.
Viens vadītājs to raksturo kā "šekspīrisku". Privātdetektīvu naudas apjoms un opozīcijas dosjē tiek apkopotas nerimstoši. Un nožēlojami ir tas, ka tādas smeldzīgas lietas, ko Sema konkurenti apkauno, ir tikai pieņemts fakts, vai ne? Ir šis apgalvojums, ka viņš vajā nepilngadīgus zēnus, un daudzās kokteiļu ballītēs Silīcija ielejā jūs to dzirdat. Konferenču ķēdē esmu dzirdējis to atkārtojam no uzticamiem, ievērojamiem vadītājiem: "Visi zina, ka tas ir fakts."
Skumji ir tas, ka es runāju par to, no kurienes tas nāk, par dažādiem vektoriem, ar kuriem tas tiek pārraidīts. Īlons Masks un viņa domubiedri šķietami virza patiesi stingru dokumentāciju, kas līdzinās neko. Tie ir izgaismoti, kad jūs faktiski sākat aplūkot pamatā esošās pretenzijas. Skumji ir tas, ka tas patiešām aizēno uz pierādījumiem balstīto kritiku, kas, manuprāt, patiešām ir pelnījusi steidzamu uzraudzību un izskatīšanu.
Otra tēma, kas patiešām parādās stāstā, ir gandrīz baiļu sajūta, ka Semam ir tik daudz draugu — viņš ir ieguldījis tik daudzos uzņēmumos, sākot no iepriekšējās Y Combinator izpilddirektora amata, līdz personīgajiem ieguldījumiem, no kuriem daži ir tiešā pretrunā ar viņa kā OpenAI izpilddirektora lomu, un ap viņu valda klusums.
Tas mani pārsteidza, jo īpaši lasīju vienu rindiņu. Jūs aprakstāt Iļjas Sutskevera piezīmes, un tās tikko ir pieejamas Silīcija ielejā. Visisauc tos par Iļjas piezīmēm. Bet ap to pat valda klusums. Tie tiek nodoti, bet tie netiek apspriesti. Kā jūs domājat, no kurienes tas nāk? Vai tās ir bailes? Vai tā ir vēlme iegūt eņģeļu ieguldījumu? No kurienes tas nāk?
Es domāju, ka tas ir liels gļēvums, teikšu godīgi. Ziņojuši par valsts drošības stāstiem, kuros avoti ir trauksmes cēlēji, kuri var zaudēt visu un saskarties ar apsūdzību, viņi joprojām rīkojas pareizi un runā par lietām, lai radītu atbildību. Esmu strādājis pie jūsu minētajiem ar seksuālajiem noziegumiem saistītajiem stāstiem, kuros avoti ir dziļi traumēti un baidās no ļoti personiskas izrēķināšanās.
Daudzos gadījumos šajā ritmā jums ir darīšana ar cilvēkiem ar viņu personīgo profilu un spēku. Viņi paši ir slaveni cilvēki, vai arī viņus ieskauj slaveni cilvēki. Viņiem ir spēcīga biznesa dzīve. Manuprāt, viņiem ir ļoti zema iespēja runāt par šīm lietām. Un par laimi, adata kustas, kā mēs runājām iepriekš, un tagad cilvēki runā vairāk.
Bet tik ilgu laiku cilvēki patiešām klusēja par to, jo es domāju, ka Silīcija ielejas kultūra ir tik nežēlīgi pašinteresēta un nežēlīgi orientēta uz biznesu un izaugsmi. Tāpēc es domāju, ka tas skar pat dažus cilvēkus, kuri bija iesaistīti Sema atlaišanā, jo dažas dienas pēc tam, jā, viens faktors, kas noveda pie viņa atgriešanās un veco valdes locekļu atlaišanas, bija tas, ka viņš pulcēja investorus, kuri bija apjukuši viņa lietā.
Bet cits ir tas, ka tik daudzi citi apkārtējie cilvēki, kuriem bija bažas un kuri tās steidzami izteica, vienkārši salocīja kā salvetes un mainīja melodiju brīdī, kad ieraudzīja, ka vējš pūš uz otru pusi, un viņi gribēja iekļūt peļņas vilcienā.
Tas ir diezgan tumšs, godīgi sakot, no mana reportiera viedokļa.
Daži no šiem cilvēkiem ir Mira Murati, kura, manuprāt, 20 minūtes bija OpenAI jaunā izpilddirektore. Pēc tam viņa tika nomainīta. Tā bija ļoti sarežģīta dinamika, un acīmredzot Sems atgriezās. Otra persona ir Iļja Suckevers, kurš bija viens no balsīm par Sema atcelšanu, un tad viņš pārdomāja vai vismaz teica, ka ir pārdomājis, un pēc tam aizgāja, lai dibinātu savu uzņēmumu. Vai jūs zināt, kas viņam lika mainīt domas? Vai tā bija tikai nauda?
Nu, un lai būtu skaidrs, es neizceļu šos divus. Ir arī citi valdes locekļi, kuri bija iesaistīti apšaudē, kuri arī pēc tam ļoti klusēja. Es domāju, ka tā ir kā plašāka kolektīva problēma. Dažos gadījumos tie ir cilvēki, kuriem bija morālā šķiedra, lai izsauktu trauksmes signālus un veiktu radikālas darbības, un tas ir jāuzteic. Un tā jūs garantējat atbildību. Tas varētu būt palīdzējis daudziem cilvēkiem, kurus skārusi šī tehnoloģija. Tas būtu varējis palīdzēt nozarei saglabāt lielāku nozīmi drošības jomā.
Taču, saskaroties ar trauksmes cēlējiem un cilvēkiem, kuri ļoti cenšas mudināt uz šo atbildību, jūs arī redzat, ka ir nepieciešams to ievērot un pastāvēt pie savas pārliecības. Un šī nozare patiešām ir pilna ar cilvēkiem, kuri vienkārši nestāv pie savas pārliecības.
Pat ja viņi domā, ka viņi būvē digitālu Dievu, kas vai nu likvidēs visu darbu vai radīs vairāk darbaspēka, vai arī kaut kas notiks.
Nu tā ir lieta. Tāpēc kultūra, ka netiek ievērota jūsu pārliecība, un visas ētiskās bažas paliek malā brīdī, kad ir karstums vai jebkas, kas varētu apdraudēt jūsu stāvokli biznesā, iespējams, zināmā mērā ir labi un labi uzņēmumiem, kas darbojas kā parasti, un kuri veido jebkāda veida logrīkus.
Bet tie ir arī tie paši cilvēki, kuri saka: "Tas var burtiski nogalināt mūs visus." Un atkal, jums nav jāiet uz Terminator Skynet ekstrēmu. Pastāv virkne risku, kas jau īstenojas. Tas ir reāli, un viņiem ir taisnība, par to brīdinot, bet jums vajadzētu kādam citam krēslā psiholoģiski padomāt, kā šīs divas lietas var dzīvot tajos pašos cilvēkos, kad viņi izsauc steidzamus brīdinājumus, viņi varbūt ieliek pirkstu un mēģina kaut ko darīt, un tad viņi vienkārši salokās un apklust.
Tieši tāpēc jūs varat piedzīvot šādus gadījumus, kad lietas netiek rakstītas un lietas tiek paslaucītas zem paklāja, un neviens par to atklāti nerunā vairākus gadus pēc fakta.
Dabiskā, atbildīgā puse šeit nebūtu šo uzņēmumu vadītāji; tās būtu valdības. Amerikas Savienotajās Valstīs, varbūttās ir štatu valdības, varbūt tā ir federālā valdība.
Protams, visi šie uzņēmumi vēlas būt globāli. Šeit ir daudz globālu seku. Es noskatījos, kā OpenAI, Google un Anthropic mudināja Baidena administrāciju izdot AI izpildrakstu. Beigās bija diezgan bezzobains. Tas tikai teica, ka viņiem ir jārunā par to, ko spēj viņu modeļi, un jāizlaiž daži drošības testi. Un tad viņi visi atbalstīja Trampu, un Tramps ienāca un visu to noslaucīja un teica: "Mums ir jābūt konkurētspējīgiem. Tas ir brīvs visiem. Dodieties uz to."
Tajā pašā laikā viņi visi cenšas piesaistīt līdzekļus no Tuvo Austrumu valstīm, kurām ir daudz naftas naudas un kuras vēlas mainīt savu ekonomiku. Tie ir politiķi. Man šķiet, ka politiķiem noteikti jāsaprot, ka kāds runā no abām pusēm, un viņi nebūs pārāk sarūgtināti, ja kāds galu galā būs vīlies, taču arī politiķi tiek aizrautīgi. Kāpēc, jūsuprāt, tā ir?
Tas, manuprāt, ir patiešām iemesls, kāpēc gabalam ir nozīme, manuprāt, un kāpēc bija vērts tērēt visu šo laiku un detaļas. Mēs atrodamies vidē, kurā sistēmas, kurām, kā jūs sakāt, būtu jānodrošina uzraudzība, ir vienkārši tukšas. Tā ir Apvienotā Amerika pēc pilsoņiem, kur naudas plūsma ir tik neierobežota, un šī problēma ir īpaši koncentrēta ap AI, kur ir šīs PAC, kas vairojas un pārpludina naudu, lai atceltu jēgpilnu regulējumu gan valsts, gan federālā līmenī.
Jums ir [OpenAI līdzdibinātājs] Gregs Brokmens, Sema otrais komandieris, kurš tieši sniedz nozīmīgu ieguldījumu pāris no tiem. Tas noved pie situācijas, kad patiešām notiek likumdevēju un potenciālo regulatoru sagrābšana, un no tā ir grūti izkļūt. Skumji ir tas, ka, manuprāt, ir vienkāršas politikas darbības, no kurām dažas tiek izmēģinātas citur pasaulē, kas palīdzētu atrisināt dažas no šīm atbildības problēmām.
Jums varētu būt obligātākas drošības pārbaudes pirms ieviešanas, kas Eiropā jau notiek attiecībā uz pierobežas modeļiem. Jums varētu būt stingrākas rakstisku publisko ierakstu prasības attiecībā uz iekšējām izmeklēšanām, kurās mēs redzējām, ka šajā gadījumā lietas netiek rakstītas. Jums varētu būt stingrāks nacionālās drošības pārskatīšanas mehānismu kopums attiecībā uz Tuvo Austrumu infrastruktūras ambīcijām, kuras virzīja Sems Altmans.
Kā jūs sakāt, viņš darīja šo ēsmu un pāreju ar Baidena administrāciju, sakot: “Regulējiet mūs, regulējiet mūs” un palīdzot viņiem izstrādāt izpildu rīkojumu, un tad brīdī, kad Tramps iekļūst, patiešām pirmajās dienās, vienkārši izturēsies bez ierobežojumiem, “Paātrināsim un uzcelsim milzīgu datu centra pilsētiņu Abū Dabī.” Jūs varētu būt, tas ir patiešām vienkāršs, piemēram, trauksmes cēlēju aizsardzība. Nav federālo likumu, kas aizsargātu AI uzņēmuma darbiniekus, kuri atklāj šāda veida drošības apsvērumus, kas tiek pārraidīti šajā rakstā.
Mums ir gadījumi, kad Jans Leike, kurš bija OpenAI vecākais drošības speciālists, vadīja supersaskaņošanu uzņēmumā. Viņš raksta padomei, būtībā trauksmes cēlēju materiālu, sakot, ka uzņēmums aiziet no sliedēm, pildot savu drošības misiju. Tie ir tādi cilvēki, kuriem faktiski vajadzētu būt uzraudzības iestādei, pie kuras viņi varētu vērsties, un viņiem ir jābūt skaidrai likumā noteiktai aizsardzībai, kādai mēs redzam citās nozarēs. Tas ir vienkārši, lai atkārtotu Sarbanes-Oxley stila režīmu.
Es domāju, ka, neskatoties uz to, cik akūta ir problēma saistībā ar Silīcija ieleju, kas uzņemas kontroli pār visām varas svirām, un par spīti tam, cik tukšas ir dažas no šīm iestādēm, kas varētu nodrošināt uzraudzību un aizsargmargas, es joprojām ticu demokrātijas un pašmērķīgu politiķu pamata matemātikai. Un arvien vairāk parādās aptauju dati, ka lielākā daļa amerikāņu domā, ka bažas, jautājumi vai riski, ko rada AI, pašlaik pārsniedz ieguvumus.
Tāpēc es domāju, ka AI naudas plūdi politikā ir mūsu spēkos, lai padarītu to par jautājuma zīmes avotu attiecībā uz politiķiem. Kad amerikāņi dodas balsot, viņiem rūpīgi jāpārbauda, vai cilvēki, par kuriem viņi balso, jo īpaši, ja viņi ir nekritiski un pret regulējumu, ņemot vērā visas šīs bažas, ir bankrotē lielo tehnoloģiju īpašo interešu dēļ. Tāpēc es domāju, ka, ja cilvēki var lasīt tādus gabalus kā šis, klausīties šādas aplādes un viņiem ir pietiekami daudz, lai kritiski domātusavus lēmumus kā vēlētāji, ir reāla iespēja Vašingtonā radīt tādu pārstāvju apgabalu, kas seko un piespiež uzraudzīt.
Tā varētu būt viena no optimistiskākajām lietām, ko jebkad esmu dzirdējis sakām par pašreizējo AI nozari. Es to novērtēju. Esmu apsēsts ar aptauju, par kuru jūs runājat. Tagad to ir daudz. Tas viss ir diezgan konsekventi, un šķiet, ka jo vairāk jauniešu ir pakļauti AI, jo vairāk viņi par to ir neuzticīgāki un dusmīgāki. Tā ir visu aptauju valence. Un es uz to skatos un domāju, jā, gudri politiķi vienkārši pretotos tam. Viņi vienkārši teiktu: "Mēs liksim atbildību par lielām tehnoloģijām."
Tad es domāju par pēdējiem 20 gadiem, kad kāds politiķis saka, ka viņi gatavojas saukt pie atbildības lielās tehnoloģijas, un man ir grūti atrast kaut vienu brīdi, kad lielās tehnoloģijas tiek sauktas pie atbildības. Vienīgais, kas liek man domāt, ka tas varētu būt savādāk, ir tas, ka jums faktiski ir jāveido datu centri, un jūs varat balsot pret to, un jūs varat iesniegt lūgumrakstu pret to, un jūs varat protestēt pret to.
Es domāju, ka ir kāds politiķis, kuram tikko nošāva māju, jo viņš balsoja par datu centru. Spriedze sasniedz, es to sauktu, drudža piķi. Jūs aprakstījāt Silīcija ielejas izolētību. Šī ir slēgta ekosistēma. Šķiet, ka viņi domā, ka var vadīt pasauli. Viņi iegulda politikā daudz naudas un saskaras ar realitāti, ka cilvēkiem nepatīk produkti, kas viņiem nedod lielu segumu. Jo vairāk viņi izmanto produktus, jo vairāk viņi ir apbēdināti, un politiķi sāk redzēt, ka tehnoloģiju nozares atbalstam ir reālas sekas pār cilvēkiem, kurus viņi pārstāv.
Jūs esat runājis ar tik daudziem cilvēkiem. Vai, jūsuprāt, tehnoloģiju nozarei ir iespējams apgūt mācību, kas viņiem ir tieši priekšā?
Jūs sakāt, ka šķiet, ka viņi domā, ka var vadīt pasauli bez atbildības. Es pat nedomāju, ka tam ir vajadzīgs kvalifikators “jūtas kā”. Es domāju, ka jūs paskatāties uz valodu, ko lieto Pīters Tīls, tā ir nepārprotama. Protams, tas ir ārkārtējs piemērs. Un Sems Altmans, kaut arī viņam zināmā mērā ir tuvs un informēts par Tīla ideoloģiju, ir ļoti dažāda veida cilvēks, kurš varētu izklausīties savādāk un vairāk izmērīt līdz noteiktam brīdim.
Bet es domāju, ka plašāka ideoloģija, ko jūs saņemat no Thiel, kas būtībā ir: mēs esam pabeiguši ar demokrātiju, mums tā vairs nav vajadzīga. Mums ir tik daudz, ka mēs vienkārši gribam izveidot savus mazos bunkurus. Mēs vairs nesadarbojamies ar Kārnegijiem vai Rokfelleriem, kur viņi ir sliktie puiši, bet viņiem šķiet, ka viņiem ir jāpiedalās sociālajā līgumā un jāveido lietas cilvēkiem. Ir īsts nihilisms.
Un es domāju, ka tā ir tikai viena otru pastiprinoša spirāle nesenajā Amerikas vēsturē, kad magnāti un privātie uzņēmumi ir ieguvuši supervaldības varu, kamēr demokrātiskās institūcijas, kas varētu saukt tos pie atbildības, ir tukšas. Es nejūtos optimistisks par domu, ka šie puiši kādu dienu varētu vienkārši pamosties un nodomāt: "Huh, varbūt mums tiešām ir jāpiedalās sabiedrībā un jāpalīdz veidot lietas cilvēkiem."
Es domāju, ka jūs skatāties kā mikrokosmisko The Giving Pledge piemēru, kur bija brīdis, kad tas šķietami bija labdarīgs, un šis brīdis tagad ir pagājis un pat izsmiets. Tā ir problēma, plašāka atbildības trūkuma problēma, kuru, manuprāt, var atrisināt tikai ārēji. Tam ir jābūt vēlētājiem, kas mobilizē un atjauno valdības uzraudzības varu. Un jums ir taisnība, sakot, ka galvenais vektors, caur kuru cilvēki to varētu sasniegt, ir vietējais. Tas ir saistīts ar to, kur tiek būvēta infrastruktūra.
Jūs pieminējāt daļu no karstās spriedzes, kas izraisa vardarbību un draudus, un acīmredzot nevienam nevajadzētu būt vardarbīgam vai draudēt. Un es arī neesmu šeit, lai sniegtu konkrētus politikas ieteikumus, izņemot tikai dažus politikas pasākumus, kas šķiet elementāri un darbojas citur pasaulē, vai ne? Vai arī tie, kas strādājuši citās nozarēs. Es neesmu šeit, lai pateiktu, kurš no tiem ir jāizpilda un kā.
Es domāju, ka kaut kam ir jānotiek, un tam ir jābūt ārējam, ne tikai uzticoties šiem uzņēmumiem. Jo pareizitagad mums ir situācija, kad uzņēmumi, kas izstrādā tehnoloģiju un ir vislabāk sagatavoti, lai izprastu riskus, un patiesībā ir tie, kas mūs brīdina par riskiem, ir arī tie, kuriem ir tikai stimuls rīkoties ātri un ignorēt šos riskus. Un jums vienkārši nav nekā, kas to līdzsvarotu. Tātad, lai kādas reformas varētu veikt konkrētās jomās, kaut kam tam ir jāsaskaras. Un es joprojām atgriežos pie tā optimisma, ka cilvēkiem joprojām ir nozīme.
Es parasti pērku jūsu argumentu. Ļaujiet man pateikt tikai vienu niecīgu pretargumentu, ko es domāju, ka varu formulēt. Otra lieta, kas varētu notikt ārpus vēlēšanu urnas, ir burbulis, vai ne? Ka ne visi šie uzņēmumi sasniedz finiša līniju un ka nav produktu tirgus, kas piemērots patērētāju AI lietojumprogrammām. Un atkal es to vēl īsti neredzu, bet esmu patērētāju tehnoloģiju recenzents, un, iespējams, man vienkārši ir augstāki standarti nekā visiem citiem.
Biznesa pasaulē ir produktu tirgus atbilstība, vai ne? Liekas, ka AI aģenti raksta virkni programmatūras, šķiet, ir reāls šo rīku tirgus. Un jūs varat izlasīt šo uzņēmumu argumentus, sakot: "Mēs esam atrisinājuši kodēšanu, un tas nozīmē, ka mēs varam atrisināt jebko. Ja mēs varam izveidot programmatūru, mēs varam atrisināt visas problēmas."
Es domāju, ka programmatūras darbībām ir reāli ierobežojumi. Tas ir lieliski biznesa pasaulē. Programmatūra patiesībā nevar atrisināt visas problēmas, taču tai ir jānokļūst. Viņiem bija jāpabeidz darbs, un varbūt ne visi tiek līdz finišam. Un notiek avārija, un šis burbulis uznirst, un varbūt OpenAI vai Anthropic vai xAI, kāds no šiem uzņēmumiem neizdodas, un visi šie ieguldījumi pazūd.
Vai jūs domājat, ka tas to ietekmētu? Patiesībā ļaujiet man vispirms uzdot pirmo jautājumu. OpenAI atrodas tieši uz IPO. Par Semu kā vadītāju ir daudz šaubu. Vai jūs domājat, ka viņi tiks līdz finišam?
Es negrasos prognozēt, bet es domāju, ka jūs izvirzījāt svarīgu jautājumu, proti, ka tirgus stimuliem ir nozīme Silīcija ielejas iekšienē, un pašreizējā burbuļa dinamikas nestabilitāte atkal var pārtraukt, pēc kritiķu domām, sacensībām par drošību.
Es arī piebilstu, ka, ja paskatās uz vēsturisko prioritāti, kur pastāv līdzīgi un šķietami nepārvarami tirgus stimuli un potenciāli kaitīga ietekme sabiedrībai, ir ietekmes tiesvedība. Un jūs pēdējā laikā to redzat kā satraucošu jomu. Sems Altmans šonedēļ apstiprina tiesību aktus, kas aizsargātu mākslīgā intelekta uzņēmumus no dažiem atbildības veidiem, kas, piemēram, OpenAI ir pakļauti nelikumīgām nāves pārsūdzībām. Protams, ir vēlme iegūt šo vairogu no atbildības.
Es domāju, ka tiesas joprojām var būt nozīmīgs mehānisms, un būs patiešām interesanti redzēt, kā šie uzvalki veidosies. Jūs jau redzējāt, piemēram, kolektīvo prasību, kurā es un daudzi, daudzi citi man zināmi autori pieder, pret Anthropic par to grāmatu izmantošanu, uz kurām attiecas autortiesības. Ja ir gudri juristi un prasītāji, kuriem tas rūp, kā mēs vēsturiski esam redzējuši lietās no lielas tabakas līdz lielai enerģijai, jūs varat arī iegūt dažus aizsargmargus un stimulus, lai tādējādi palēninātu ātrumu, būt uzmanīgiem vai aizsargātu cilvēkus.
Šķiet, ka visa AI nozares izmaksu struktūra ir atkarīga no ļoti, ļoti labdarīgas godīgas izmantošanas interpretācijas. Nenāk pietiekami daudz. Šo uzņēmumu izmaksu struktūra varētu izkļūt no kontroles, ja tiem būs jāmaksā jums un visiem pārējiem, kuru darbu viņi ir veikuši, taču tas ir neērti domāt, tāpēc mēs par to vienkārši nedomājam. Līdzās tam visi šie produkti tagad darbojas ar zaudējumiem. Tāpat kā šodien, viņi visi strādā ar zaudējumiem. Viņi sadedzina vairāk naudas, nekā spēj nopelnīt. Kādā brīdī viņiem ir jāpārslēdz slēdzis.
Sems ir uzņēmējs. Kā jau vairākas reizes minējāt, viņš nav tehnologs. Viņš ir biznesa cilvēks. Vai jūs domājat, ka viņš ir gatavs pārslēgt slēdzi un teikt: "Mēs nopelnīsim dolāru?" Jo, kad es jautāju: "Vai jūs domājat, ka OpenAI izdosies?" Tas ir tad, kad viņiem ir jānopelna dolārs. Un līdz šim Sems ir nopelnījis visus savus dolārus, lūdzot citiem cilvēkiem naudu, nevis liekot saviem uzņēmumiem pelnīt naudu.
Tas ir liels jautājums Silīcija ielejai, investoriem un sabiedrībai.Jūs redzat dažus paziņojumus un pārceļas no OpenAI, kas, šķiet, liecina par sava veida paniku par to. Sora izslēgšana, dažu palīgprojektu slēgšana, mēģinot uz nulles pamata produktu. Bet tad, no otras puses, jūs joprojām redzat tonnām misijas ložņu, vai ne? Pat neliels piemērs — tas acīmredzot nav viņu biznesa pamatā — ir TBPN iegāde.
Starp citu, tieši brīdī, kad mēs sasniedzām finiša līniju un faktu pārbaudi, uzņēmums, kas saskaras ar šāda veida žurnālistikas pārbaudi, iegūst platformu, kurā viņi var tiešāk kontrolēt sarunu. Es domāju, ka, pamatojoties uz manām sarunām, daudzi investori ir nobažījušies par to, ka problēma, kas saistīta ar visu solīšanu visiem cilvēkiem, attiecas arī uz koncentrēšanās trūkumu galvenajā biznesa modelī. Un es domāju, ka jūs esat tuvāk prognozēšanai un tirgus vērošanai, nekā es, iespējams. Es likšu jums un klausītājiem spriest par to, vai, viņuprāt, OpenAI var pārslēgt slēdzi.
Es uzdevu šo jautājumu, jo jums ir citāts no Microsoft augstākā līmeņa vadītāja, un tas ir tāds, ka “Sema mantojums varētu būt vairāk līdzīgs Bernijam Medofam vai Semam Bankmanam-Frīdam”, nevis Stīvam Džobsam. Tas ir diezgan salīdzinājums. Ko jūs domājāt par šo salīdzinājumu?
Es domāju, ka tā ir pārfrāze. Stīva Džobsa daļa nebija citāta daļa. Taču tajā ir interesants atturības veids, jo tas ir formulēts šādi: "Es domāju, ka pastāv neliela, bet reāla iespēja, ka viņš kļūs par SBF vai Medofa līmeņa krāpnieku." Tas, manuprāt, nozīmē nevis to, ka Sems tiek apsūdzēts par šiem īpašajiem krāpšanas vai noziegumu veidiem, bet gan to, ka Sema izjaukšanas un maldināšanas pakāpe var tikt atcerēta tādā mērogā.
Jā, es domāju, ka visspilgtākais šajā citātā ir tas, ka jūs zvanāt uz Microsoft un nesaņemat atzīmi "Tas ir traki. Mēs nekad to neesam dzirdējuši." Jūs saņemat daudz “Jā, daudzi cilvēki šeit tā domā”, kas ir ievērojams. Un es domāju, ka tas attiecas uz šiem biznesa jautājumiem.
Viens investors man teica, piemēram, ņemot vērā veidu, kādā šī īpašība ir saglabājusies vairākus gadus pēc atlaišanas” — un tas arī uzskatīja, ka šī ir interesanta prātīga doma —, ka Semam nav obligāti jābūt saraksta absolūtajā lejasgalā, piemēram, jābūt zemākajam no zemākajiem cilvēkiem, kuriem šo tehnoloģiju noteikti nevajadzētu būvēt, jo tā ir tā vērta. no to cilvēku saraksta, kuriem vajadzētu izveidot AGI, un zem vairākām citām vadošajām figūrām šajā jomā.
Tāpēc es domāju, ka tas bija interesants novērtējums, un, manuprāt, tādu domāšanu jūs iegūstat no īstiem pragmatiķiem, kuri, iespējams, tik ļoti neuztver drošības apsvērumus. Viņi ir tikai orientēti uz izaugsmi, un viņi domā, ka OpenAI tagad ir problēma ar Semu Altmanu.
Microsoft gabals ir patiešām interesants. Šis uzņēmums domāja, ka viņi ir pasaules virsotnē. Ka viņi ir veikuši šo ieguldījumu un gatavojas pārlēkt uz visiem, jo īpaši un vissvarīgāk, Google, un atgriezties pie patērētāju labvēlības. Līmenis, līdz kuram viņi jūtas apdeguši šajā piedzīvojumā — šis ir ļoti prātīgi vadīts uzņēmums —, manuprāt, nevar pārvērtēt.
Jūs minējāt varoņus un personības iezīmes. Es vēlos beigt šeit ar mūsu klausītāju jautājumu. Es teicu citā mūsu raidījumā The Vergecast, ka runāšu ar jums, un teicu: "Ja jums ir jautājumi Ronanam par šo stāstu, dariet man to zināmu." Tāpēc mums ir viens, kas, manuprāt, lieliski saskan ar to, ko jūs aprakstāt. Es tikai nolasīšu to jums:
“Kā Altmana un citu AI līderu sliktas uzvedības attaisnojumi, nežēlīgās darbības atšķiras no attaisnojumiem, ko Ronans ir dzirdējis no citiem augsta līmeņa līderiem politikā un plašsaziņas līdzekļos? Vai viņi visi neattaisno savu rīcību, sakot, ka šādi pasaule mainās? Ja es to nedarīšu, to darīs kāds cits?
Jā, tā notiek daudz. Es teiktu, ka mākslīgā intelekta īpatnība ir tāda, ka eksistenciālās likmes, kas ir tik unikāli augstas, nozīmē, ka abi riska paziņojumi ir ekstrēmi, vai ne? Jums ir Sems Altmenssakot: "Tas varētu būt apgaismojums mums visiem." Un arī kritiķi varētu teikt, ka mānija, uz kuru atsaucas jautātājs, ir ekstrēma, vai ne?
Lieta, kurā Sems apsūdzēja Īlonu, bija tāda, ka varbūt viņš vēlas glābt cilvēci, bet tikai tad, ja tas ir viņš. Tāds ego komponents, kas ietver vēlmi uzvarēt, ko Sems izmanto visu laiku, un tas ir viens no vēstures grāmatām, tas var visu mainīt. Tāpēc, pat pārsniedzot vairuma Silīcija ielejas uzņēmumu domāšanas veidu “jums ir jāsalauž dažas olas”, daži MI vadošie skaitļi, manuprāt, ir pilnīgi racionalizēti jebkuram un visiem nokrišņiem.
Un aizmirsti salauzt olas. Es/domāju, ka daudzi pamatā esošie drošības pētnieki teiktu, ka pastāv potenciāls risks sagraut valsti, sagraut pasauli un sagraut miljoniem cilvēku, kuru darbs un drošība karājas balansā — tas ir unikāls šajā jautājumā. Šeit es noslēdzu, pārdomājot šo ziņojumu kopumu, jo patiešām uzskatu, ka tas ir vairāk nekā Sems Altmans. Tas ir par nozari, kas ir neierobežota, un spirālveida problēmu, ko Amerika nespēj to ierobežot.
Jā. Mums tur bija zināms optimisms, bet es domāju, ka tā ir laba vieta, kur to atstāt.
[Smejas] Beidz uz leju.
Protams. Tas tiešām ir lielisks stāsts. Tuvojas Muska-Altmana tiesas process. Es domāju, ka mēs šeit uzzināsim daudz vairāk. Man ir aizdomas, ka es vēlēšos ar jums runāt vēlreiz. Ronan Farrow, liels paldies, ka izmantojāt dekodētāju.
Paldies.
Jautājumi vai komentāri par šo sēriju? Sazinieties ar mums pa e-pastu [email protected]. Mēs tiešām lasām katru e-pastu!
