Illum fuq Decoder, qed nitkellem ma' Ronan Farrow, wieħed mill-akbar stilel tar-rappurtar investigattiv li jaħdem illum. Hu kisser l-istorja ta’ Harvey Weinstein, fost ħafna u ħafna oħrajn. U proprju l-ġimgħa li għaddiet, hu u l-ko-awtur Andrew Marantz ippubblikaw karatteristika inkredibbli ta 'deep-dive fi The New Yorker dwar il-Kap Eżekuttiv ta' OpenAI Sam Altman, l-affidabbiltà tiegħu, u ż-żieda ta 'OpenAI innifsu.
Nota waħda qabel ma mmorru aktar hawn —The New Yorker ippubblikat dik l-istorja u Ronan u jien kellna din il-konverżazzjoni qabel ma konna nafu l-firxa sħiħa ta 'l-attakki fuq id-dar ta' Altman, għalhekk mhux se tismagħna nitkellmu dwar dan direttament. Imma biex ngħidha biss, naħseb li l-vjolenza ta’ kull tip hija inaċċettabbli, dawn l-attakki fuq Sam kienu inaċċettabbli, u li t-tip ta’ nuqqas ta’ saħħa li jħossu n-nies, li jwassal għal dan it-tip ta’ vjolenza, huwa nnifsu huwa inaċċettabbli, u jiswa ħafna aktar skrutinju kemm mill-industrija kif ukoll mill-mexxejja politiċi tagħna. Nittama li huwa ċar.
Abbonati Verge, ma ninsewx li jkollok aċċess esklussiv għal Decoder mingħajr reklam kull fejn ikollok il-podcasts tiegħek. Kap hawn. Mhux abbonat? Tista' tiffirma hawn.
Dak kollu qal, hemm ħafna dawwar madwar Altman li hija logħba ġusta għal rappurtar rigoruż - it-tip ta 'rappurtar li Ronan u Andrew bdew jagħmlu. Grazzi għall-popolarità ta 'ChatGPT, Altman ħareġ bħala l-aktar figura viżibbli tal-industrija tal-AI, wara li biddel laboratorju ta' riċerka li darba kien bla skop ta 'qligħ f'kumpanija privata ta' kważi triljun dollaru fi ftit snin biss. Iżda l-leġġenda ta 'Altman hija profondament konfliġġjata, ugwalment definita kemm mill-abbiltà ovvja tiegħu li jagħmel ftehim u t-tendenza rrappurtata tiegħu li... ukoll, jigdeb lil kulħadd ta' madwaru.
L-istorja hija twila aktar minn 17,000 kelma, u fiha x'aktarx ir-rakkont definittiv ta 'dak li ġara fl-2023 meta l-bord tad-diretturi tal-OpenAI f'daqqa waħda keċċa lil Altman fuq l-allegata gideb tiegħu, biss biex hu reġa' ġie impjegat mill-ġdid kważi istantanjament. Hija wkoll ħarsa profonda fil-ħajja personali ta 'Altman, l-investimenti tiegħu, il-korteġġjar tiegħu tal-flus tal-Lvant Nofsani, u r-riflessjonijiet tiegħu stess dwar l-imġiba u l-karatteristiċi tal-karattru tiegħu tal-passat li wasslu sors wieħed jgħid li ma kienx "kostrett mill-verità." Nissuġġerixxi tassew li taqra l-istorja kollha; Nissuspetta li se jkun referenzjat għal ħafna snin li ġejjin.
Ronan tkellem ma' Altman ħafna drabi matul it-18-il xahar li qatta' jirrapporta din il-biċċa, u għalhekk waħda mill-affarijiet ewlenin li kont kurjuż dwarhom kienet jekk ħassx xi bidla f'Altman matul dak iż-żmien. Wara kollox, ġara ħafna fl-AI, fit-teknoloġija, u fid-dinja matul l-aħħar sena u nofs.
Int ser tisma’ lil Ronan jitkellem dwar dan b’mod dirett ħafna, kif ukoll is-sens tiegħu li n-nies saru ħafna aktar lesti li jitkellmu dwar il-kapaċità ta’ Altman li jġiegħel il-verità. In-nies qed jibdew jistaqsu, b'leħen għoli u fir-rekord, jekk l-imġieba ta 'nies bħal Altman hijiex ta' tħassib, mhux biss għall-AI jew it-teknoloġija iżda wkoll għall-futur kollettiv tas-soċjetà.
Tajjeb: Ronan Farrow fuq Sam Altman, AI, u l-verità. Hawn immorru.
Din l-intervista ġiet editjata ħafif għat-tul u ċ-ċarezza.
Ronan Farrow, int reporter investigattiv u kontributur għal The New Yorker. Merħba għal Decoder.
Ferħan li qiegħed hawn. Grazzi talli kellini.
Ninsab eċċitati ħafna li nitkellem miegħek. Għadek kif ktibt biċċa kbira għal The New Yorker. Huwa profil ta 'Sam Altman u, tip ta' miegħu, OpenAI. Il-qari tiegħi huwa li, kif jagħmlu l-karatteristiċi kbar kollha, dan, b'rappurtar rigoruż, jivvalida ħafna sentimenti li n-nies kellhom dwar Sam Altman għal żmien twil ħafna. Int ovvjament ippublikajtha, ħadt reazzjonijiet għaliha. Kif qed tħossok dwarha bħalissa?
Tajjeb, fil-fatt kont imqawwi bil-punt sa fejn inkisbet fi żmien fejn l-ekonomija tal-attenzjoni hija daqshekk skizofrenika u baxxa. Din hija storja li, fil-fehma tiegħi, taffettwa lilna lkoll. U meta qattajt sena u nofs ta’ ħajti, u l-ko-awtur tiegħi, Andrew Marantz, qatta’ dak iż-żmien tiegħu, verament jipprova jagħmel xi ħaġa forensika u metikoluża, dejjem għax inħoss li hemm kwistjonijiet strutturali akbar li jaffettwaw lin-nies lil hinn mill-individwu u l-kumpanija fil-qalba tal-istorja.
Sam Altman, fl-isfond tal-kultura hype ta’ Silicon Valley u l-istartups li jitilgħu għal valutazzjonijiet massivi bbażati fuq wegħdiet li jistgħu jew ma jistgħux iseħħu fil-futur, u tħaddan dejjem akbar ta’ kultura fundatur li taħseb li tgħid lil gruppi differenti affarijiet konfliġġenti differenti hija karatteristika, mhux abug...Anke f'dak l-isfond, Sam Altman huwa każ straordinarju fejn kull min jistenna li dawk l-affarijiet f'Silicon Valley ma jistax jieqaf jitkellem dwar din il-kwistjoni tal-affidabbiltà u l-onestà tiegħu.
Diġà konna nafu li tkeċċa minħabba xi verżjoni ta’ allegazzjonijiet ta’ diżonestà jew allegat gideb serjali. Iżda b'mod straordinarju, minkejja l-fatt li kien hemm rappurtaġġ mill-isbaħ, Keach Hagey għamel xogħol kbir fuq dan. Karen Hao għamlet xogħol kbir fuq dan. Verament ma kienx hemm fehim definittiv tal-punti ta 'prova attwali allegati u r-raġunijiet għalfejn dawk baqgħu barra mill-għajn tal-pubbliku.
Allura l-ewwel punt huwa li nħossni qalb il-fatt li xi wħud minn dawk il-lakuni fl-għarfien pubbliku tagħna, u anke fl-għarfien tal-persuni minn ġewwa ta 'Silicon Valley, issa ġew mimlija ftit aktar. Xi wħud mir-raġunijiet li kien hemm vojt imtlew ftit aktar.
Nirrapportaw dwar każijiet fejn in-nies ġewwa din il-kumpanija verament ħassew li l-affarijiet kienu mgħottija jew deliberatament mhux dokumentati. Waħda mill-affarijiet ġodda f'din l-istorja hija investigazzjoni ta 'ditta legali ċentrali minn WilmerHale, li ovvjament hija ditta legali fancy, kredibbli, kbira li għamlet investigazzjonijiet ta' Enron u WorldCom, li, mill-mod, kienu kollha voluminużi, bħal mijiet ta 'paġni ppubblikati. WilmerHale għamel din l-investigazzjoni li kienet mitluba mill-membri tal-bord li kienu keċċew lil Altman bħala kundizzjoni tat-tluq tagħhom meta ħeles minnhom, u ġie lura. U b'mod straordinarju - f'għajnejn ħafna esperti legali li tkellimt magħhom, u b'mod xokkanti f'għajnejn ħafna nies f'din il-kumpanija - żammewha barra mill-kitba. Dak kollu li qatt ħareġ minn dak kien stqarrija għall-istampa ta’ 800 kelma mill-OpenAI li ddeskriva dak li ġara bħala nuqqas ta’ fiduċja. U kkonfermajna li dan inżamm għal briefings orali.
Hemm każijiet fejn, pereżempju, membru tal-bord jidher li jrid jivvota kontra l-konverżjoni mill-forma oriġinali mingħajr skop ta’ qligħ ta’ OpenAI għal entità għall-profitt, u hija rreġistrata bħala astensjoni. Hemm bħal avukat fil-laqgħa jgħid, "Tajjeb, dan jista 'jqajjem wisq skrutinju." U l-persuna li trid tivvota kontra tiġi rreġistrata bħala astensjoni għad-dehriet kollha. Hemm tilwima fattwali. OpenAI jippretendi mod ieħor, kif tista 'timmaġina. Dawn huma kollha każijiet fejn għandek kumpanija li, minn rasha, iżżomm il-futur tagħna f’idejha.
L-ishma tas-sigurtà huma tant akuti li ma telqux. Din hija r-raġuni li din il-kumpanija twaqqfet bħala nonprofit iffukata fuq is-sigurtà, u fejn l-affarijiet kienu qed jiġu oskurati b'mod li nies kredibbli madwar dan sabuha inqas minn professjonali. U tgħaqqad dan ma’ sfond fejn hemm tant ftit aptit politiku għal regolamentazzjoni sinifikanti. Naħseb li hija sitwazzjoni kombustibbli ħafna.
Il-punt għalija mhuwiex biss li Sam Altman jistħoqqlu dawn il-mistoqsijiet daqshekk akut. Huwa wkoll li xi wieħed minn dawn il-ġuvini f'dan il-qasam, u ħafna mill-figuri ewlenin, jesibixxu, jekk mhux din il-karatteristika idjosinkratika partikolari, allegata li tinsab il-ħin kollu, ċertament xi grad ta 'mentalità ta' tellieqa sal-qiegħ, fejn in-nies li kienu siguristi naqqsu dawk l-impenji u l-qagħda ta 'kulħadd huwa f'razza.
Naħseb, hekk kif inħarsu lejn tnixxijiet riċenti minn Anthropic, hemm persuna li tqajjem il-mistoqsija dwar min għandu jkollu subgħajh fuq il-buttuna f'din il-biċċa. It-tweġiba hija, jekk m'għandniex sorveljanza sinifikanti, naħseb li rridu nkunu qed nistaqsu mistoqsijiet serji u nippruvaw nixprunaw informazzjoni kemm nistgħu dwar dawn il-ġuvini kollha. Allura kont imqawwi b’dak li jħossu bħal konverżazzjoni sinifikanti dwar dan, jew il-bidu ta’ waħda.
Ir-raġuni li tlabtu hekk hija li ħdimt fuq dan għal sena u nofs. Tkellimt ma', nemmen, 100 persuna mal-ko-awtur tiegħek, Andrew. Dak huwa żmien twil biex storja issajjar. Naħseb dwar l-aħħar sena u nofs fl-AI b'mod partikolari, u t-tifel, l-attitudnijiet u l-valuri ta 'dawn il-karattri kollha nbidlu malajr ħafna.
Forsi xejn aktar minn Sam Altman, li beda bħala r-rebbieħ default għax kienu ħarġu ChatGPT u kulħadd ħaseb li kien se jieħu f'idejh Google. U mbagħad Google wieġbet, li deher li sorpriżahom li Google se tipprova tipproteġi n-negozju tagħha, forsi wieħed mill-aqwa negozji fl-istorja tat-teknoloġija, jekk mhux l-istorja tan-negozju. Anthropic iddeċieda li se jiffoka fuq l-intrapriża. Jidher li qed jieħu vantaġġhemm minħabba li l-użu tal-intrapriża tal-AI huwa tant għoli.
Issa, OpenAI qed jiffoka mill-ġdid il-prodott tiegħu lil hinn minn "aħna se nieħdu fuq Google" għal Codex, u huma se jieħdu l-intrapriża. Sempliċement ma nistax ngħid jekk, matul ir-rappurtaġġ tiegħek matul l-aħħar sena u nofs, jekk tħossx li l-karattri li kont qed titkellem nbidlux? Bħall-attitudnijiet tagħhom u l-valuri tagħhom, dawn inbidlu?
Iva. Naħseb l-ewwelnett, li l-kritika li hija esplorata f'din il-biċċa, ġejja minn ħafna nies ġewwa dawn il-kumpaniji f'dan il-punt - li din hija industrija li, minkejja l-ishma eżistenzjali, qed tinżel f'xi ħaġa ta 'tellieqa għall-qiegħ dwar is-sigurtà u fejn il-veloċità qed tirbaħ fuq kull ħaġa oħra - dak it-tħassib kiber aktar akut. U naħseb li dak it-tħassib ġie aktar validat hekk kif is-sena u nofs li għaddiet ħarġet. Fl-istess ħin, l-attitudnijiet dwar Sam Altman inbidlu speċifikament. Meta bdejna nitkellmu ma 'sorsi għal dan, in-nies kienu verament, verament gerfa li jiġu kkwotati dwar dan u jmorru fuq ir-rekord dwar dan.
Sa tmiem ir-rappurtar tagħna, għandek korp ta 'rappurtar fejn in-nies qed jitkellmu dwar dan b'mod miftuħ u espliċitu ħafna, u għandek membri tal-bord jgħidu affarijiet bħal, "Huwa giddieb patoloġiku. Huwa soċjopath." Hemm firxa ta 'perspettivi minn, "Dan huwa perikoluż minħabba l-ishma tas-sikurezza, u neħtieġu mexxejja ta' din it-teknoloġija li għandhom integrità elevata", sa l-istess sa bħal, "Insa l-interessi tas-sikurezza, din hija imġieba li hija insostenibbli għal kwalunkwe eżekuttiv ta 'kwalunkwe kumpanija ewlenija, li sempliċement toħloq wisq disfunzjoni."
Allura l-konverżazzjoni saret ħafna aktar espliċita b'mod li tħoss forsi tard, iżda hija ta 'qalb f'sens wieħed. U Sam Altman, għall-kreditu tiegħu... Il-biċċa hija ġusta ħafna u saħansitra ġenerużi, jien ngħid, għal Sam. Din mhix it-tip ta 'biċċa fejn kien hemm ħafna għalf "ghandek". Jien qattajt ħafna u ħafna sigħat fuq it-telefon miegħu hekk kif konna qed nispiċċaw dan u tassew smajnih.
Kif tistgħu timmaġinaw, f'biċċa bħal din, mhux kollox jagħmilha. U jekk Sam fil-fatt kien qed jagħmel argument li ħassejtni mġarrab l-ilma, li xi ħaġa, anki jekk kienet vera, tista 'tkun sensazzjonalista, jien verament żbaljat min-naħa li nżomm dan forensiku u mkejjel. Allura naħseb li dan qed jiġi riċevut sewwa, u nispera biss li dan ir-rekord fattwali li huwa akkumulat matul dan il-perjodu ta 'żmien jista' jwassal għal konverżazzjoni aktar iebsa dwar il-ħtieġa għal sorveljanza.
Dik hija fil-fatt il-mistoqsija li jmiss tiegħi. Naħseb li tkellimt ma' Sam tużżana darbiet matul ir-rappurtaġġ ta' din l-istorja. Għal darb'oħra, dak huwa ħafna konversazzjonijiet fuq perjodu twil ta 'żmien. Ħsibt li Sam inbidel matul ir-rappurtar matul l-aħħar sena u nofs?
Iva. Naħseb li wieħed mill-aktar subplots interessanti f'dan huwa li Sam Altman qed jitkellem ukoll dwar din il-karatteristika b'mod aktar espliċitu milli kellu fil-passat. Il-qagħda ta 'Sam f'din il-biċċa mhix bħal, "M'hemm xejn hemmhekk, dan mhux minnu; ma nafx dwar xiex qed titkellem." Il-qagħda li għandu hija li jgħid li din hija attribwibbli għal tendenza li togħġob lin-nies u tip ta’ stmerrija għall-kunflitti. Qed jirrikonoxxi li kkawżalu problemi, partikolarment aktar kmieni fil-karriera tiegħu.
Huwa qed jgħid, "Tajjeb, jiena ngħaddi minnu, jew sa ċertu punt mort minn dak." Naħseb li dak li hu verament interessanti għalija huwa l-kontinġent ta 'nies li tkellimna magħhom li ma kinux biss tip ta' avukati tas-sigurtà, mhux biss ir-riċerkaturi tekniċi sottostanti li ħafna drabi għandhom it-tendenza li jkollhom dan it-tħassib akut dwar is-sikurezza, iżda wkoll investituri pragmatiċi u kbar. Dawn huma dawk li jsostnu Sam's, li, f'xi każijiet, iħarsu lejn din il-mistoqsija u jitkellmu dwar li saħansitra kellhom rwol ewlieni fil-ritorn tiegħu wara l-isparar. Issa, dwar din il-kwistjoni dwar jekk hux riformat, u sa liema punt din il-bidla hija sinifikanti, huma jgħidu, "Tajjeb, tajna l-benefiċċju tad-dubju dak iż-żmien."
Qed naħseb f'investitur prominenti wieħed b'mod partikolari li qal, "Imma minn dakinhar, jidher ċar li ma nħariġx wara l-injam," li kienet il-frażi li uża dan, sal-punt li kien meħtieġ. Bħala riżultat, jidher li din issa hija karatteristika stabbli. Dan qed naraw dan b'mod kontinwu. Tista 'tħares lejn uħud mill-akbar negozju ta' OpenAIrelazzjonijiet u l-mod kif iġorru l-piż ta’ dik in-nuqqas ta’ fiduċja b’mod kontinwu.
Bħal Microsoft, inti titkellem ma 'eżekuttivi hemmhekk, u għandhom tħassib tassew akut u reċentement ikkatalizzat. Hemm dan il-każ fejn, fl-istess jum OpenAI qed jafferma mill-ġdid l-esklussività tiegħu ma 'Microsoft fir-rigward ta' mudelli sottostanti ta 'AI mingħajr stat, qed iħabbar ukoll ftehim ġdid ma' Amazon li għandu x'jaqsam mal-bejgħ ta 'soluzzjonijiet ta' intrapriża għall-bini ta 'aġenti AI li huma stateful, jiġifieri li għandhom memorja.
Tkellem lin-nies tal-Microsoft, u huma bħal, "Dan mhux possibbli li jsir mingħajr ma jinteraġixxu ma 'l-affarijiet sottostanti li għandna ftehim ta' esklussività dwaru." Allura dak huwa biss wieħed mill-ħafna eżempji żgħar fejn din il-karatteristika għandha tendenza f'attività kummerċjali kontinwa l-ħin kollu u hija suġġett ta 'tħassib attiv fi ħdan il-bord ta' OpenAI, fi ħdan is-suite eżekuttiva tagħha, u fil-komunità tat-teknoloġija usa'.
Tkompli tgħid dik il-“karatteristika.” Hemm linja fl-istorja li għalija tħossha t-teżi, u hija deskrizzjoni tal-karatteristika li qed tiddeskrivi. Huwa li "Sam Altman mhuwiex kostrett mill-verità" u li għandu "żewġ karatteristiċi li kważi qatt ma jidhru fl-istess persuna: l-ewwel hija xewqa qawwija li togħġob lin-nies, li jkun gustat fi kwalunkwe interazzjoni partikolari, u t-tieni hija nuqqas ta 'tħassib kważi soċjopatiku għall-konsegwenzi li jistgħu jiġu milli tqarraq lil xi ħadd."
Ikolli ngħidilkom, dik is-sentenza qrajt 500 darba, u ppruvajt nimmaġina li dejjem ngħid dak li riedu jgħoġbu n-nies u mbagħad ma jqallebx meta jħossu gideb. U ma stajtx nagħmel l-istat emozzjonali tiegħi jifhem kif dawk l-affarijiet jistgħu jeżistu fl-istess persuna. Tkellimt ħafna ma' Sam, u tkellimt ma' nies li esperjenzaw dawn il-karatteristiċi. Kif jagħmel dan?
Iva. Huwa interessanti fuq livell uman għaliex navviċina korpi ta’ rappurtaġġ bħal dan b’fokus reali fuq l-umanizzazzjoni ta’ min hu fil-qalba tiegħu u nfittex fehim u empatija profonda. Meta ppruvajt navviċina dan minn lat aktar uman u ngħid, "Ħej, dan ikun devastanti għalija jekk tant nies li ħdimt magħhom qalu li jien giddieb patoloġiku. Kif iġorr dak il-piż? Kif titkellem dwar dan fit-terapija? X'inhi l-istorja li tgħid lilek innifsek dwar dan?"
Sibt xi tip ta’, fil-fehma tiegħi, forsi platitudes tal-Kosta tal-Punent dwar dan bħal, “Iva, inħobb ix-xogħol tan-nifs.” Iżda mhux ħafna tat-tip ta 'sens inkoraġġanti ta' awto-konfrontazzjoni profonda li naħseb li ħafna minna probabbilment ikollna kieku qed naraw dan it-tip ta 'rispons dwar l-imġieba tagħna u t-trattament tagħna tan-nies.
Naħseb li fil-fatt imur għat-tweġiba usa' għall-mistoqsija, ukoll. Sam jasserixxi li din il-karatteristika kkawżat problemi, iżda wkoll li hija parti minn dak li tah is-setgħa li jaċċellera t-tkabbir ta 'OpenAI tant li huwa kapaċi jingħaqad u jogħġob gruppi differenti ta' nies. Huwa kontinwament jikkonvinċi lil dawn il-kostitwenzi konfliġġenti kollha li dak li jimpurtahom hu dak li jimpurtah minnu. U din tista' tkun ħila tassew utli għal fundatur. Tkellimt ma' investituri li mbagħad jgħidu, "Tajjeb, forsi hija ħila inqas utli biex fil-fatt tmexxi kumpanija għax tiżra' tant inkwiet."
Iżda fuq in-naħa personali ta 'Sam, naħseb li l-ħaġa li nirkupra meta nipprova ngħaqqad fuq livell uman huwa n-nuqqas apparenti ta' konfrontazzjoni aktar profonda, riflessjoni u awto-kontabbiltà, li tinforma wkoll dik is-superpotenza jew responsabbiltà għal kumpanija li qed tipprepara għal IPO.
Huwa xi ħadd li, fi kliem wieħed eks membru tal-bord jismu Sue Yoon, li jinsab fir-rekord fil-biċċa li tgħid li sal-punt ta '"fecklessness" hija l-frażi li tuża, huwa kapaċi verament jemmen ir-realtà li qed tiċċaqlaq tal-pitches tal-bejgħ tiegħu jew kapaċi jikkonvinċi lilu nnifsu minnhom. Jew għall-inqas jekk ma jemminhomx, huwa kapaċi li jaqbadhom mingħajr dubju.
Naħseb li l-ħaġa li qed titkellem dwarha, fejn int jew jien nistgħu, kif qed ngħidu l-ħaġa u nirrealizzaw li hija f'kunflitt mal-assigurazzjoni l-oħra li għamilna, tip ta' mument ta' friżar jew verifika lilna nfusna. Naħseb li ma jiġrix miegħu. U hemm kultura usa 'ta' hype ta 'Silicon Valley u kultura tal-fundatur li t-tip ta' tħaddan dan.
Huwa umoristiku. The Verge hija mibnija fuq dak li jammonta għal reviżjonijiet ta 'prodottprogramm. Hija l-qalba ta’ dak li nagħmlu hawn. Jien inżomm triljun dollaru ta’ R&D ta’ Apple darba fis-sena u ngħid, “Dan it-telefon huwa sebgħa.” U tip ta' leġittimizza tar-rappurtar kollu tagħna u l-opinjonijiet tagħna x'imkien ieħor. Għandna funzjoni evalwattiva, u nqattgħu ħafna ħin sempliċement inħarsu lejn il-prodotti tal-IA u ngħidu, "Jaħdmu?"
Dan iħoss li huwa nieqes minn ħafna mill-konversazzjoni dwar l-AI kif inhi llum. Hemm konversazzjoni bla tarf dwar x'tista 'tkun kapaċi tagħmel, kemm jista' jkun perikoluż. U mbagħad tħaffer, u tgħid, "Tassew tagħmel il-ħaġa li suppost tagħmel illum?" F'xi każijiet, it-tweġiba hija iva. Iżda f'ħafna, ħafna każijiet, it-tweġiba hija le.
Dak iħossu li jgħaqqad mal-kultura tal-hype li qed tiddeskrivi u wkoll mas-sens li, ukoll, jekk tgħid li se tagħmel xi ħaġa u ma tagħmilx hekk, u xi ħadd iħossu ħażin, dan tajjeb għax aħna qegħdin fuq il-ħaġa li jmiss. Dak fil-passat. U fl-AI b'mod partikolari, Sam huwa tant tajjeb biex jagħmel il-wegħdiet kbar.
Proprju din il-ġimgħa, naħseb li fl-istess jum li ġie ppubblikat l-istorja tiegħek, OpenAI ħareġ dokument ta’ politika li qal li rridu naħsbu mill-ġdid il-kuntratt soċjali u jkollna stipendji tal-effiċjenza tal-AI mill-gvern. Din hija wegħda kbira dwar kif xi teknoloġija tista’ tifforma l-futur tad-dinja u kif ngħixu, u dan kollu jiddependi fuq it-teknoloġija li taħdem eżattament bil-mod li forsi hija mwiegħda li taħdem jew li għandha taħdem.
Qatt sibt lil Sam jiddubita mill-AI li jinbidlu f'AGI jew superintelliġenza jew jasal sal-linja finali? Għax dik hija l-aktar ħaġa li nistaqsi dwarha. Hemm xi riflessjoni dwar jekk din it-teknoloġija ewlenija tistax tagħmel l-affarijiet kollha li jgħidu li tista 'tagħmel?
Huwa eżattament is-sett ta 'mistoqsijiet it-tajjeb. Hemm teknoloġisti kredibbli li tkellimna magħhom f'dan il-korp ta 'rappurtar - u ovvjament Sam Altman mhuwiex wieħed; huwa persuna tan-negozju - li jgħid li l-mod kif Sam jitkellem dwar il-kalendarju għal din it-teknoloġija huwa ftit 'il bogħod. Hemm blog posts li jmorru lura għal ftit snin fejn Sam qed jgħid, "Aħna diġà lħaqna l-orizzont tal-avvenimenti. L-AGI hija bażikament hawn. Superintelliġenza hija l-kantuniera. Se nkunu fuq pjaneti oħra. Se nkunu qed infejqu kull forma ta 'kanċer." Tassew, mhux qed insebbaħ.
Il-kanċer wieħed huwa fil-fatt interessanti, li Sam qed iħeġġeġ lill-persuna li teoretikament fejjaq il-kanċer tal-kelb tagħhom bi ChatGPT, u dan sempliċement ma seħħx. Huma tkellmu ma 'ChatGPT, u li għenhom jiggwidaw xi riċerkaturi li fil-fatt għamlu x-xogħol, iżda l-one-to-one, din l-għodda vulkanizzat dan il-kelb mhuwiex fil-fatt l-istorja.
Ninsab ferħan li qajjejt dak il-punt għaliex irrid inkompli għal dan il-punt akbar dwar meta kemm il-potenzjal kif ukoll ir-riskju tat-teknoloġija jkunu verament se jaslu. Iżda ta’ min isemmi dawn iż-żgħar asides li kontinwament jiġru minn Sam Altman, fejn jidher li jerġa’ jinkorpora din il-karatteristika mill-ġdid.
Jiġifieri, biex nuża l-eżempju tar-rapport WilmerHale, fejn kellna din l-informazzjoni li kienet miżmuma barra mill-kitba, u ridt inkunu nafu jekk il-brief orali tul it-triq ingħatax lil xi ħadd minbarra ż-żewġ membri tal-bord Sam għen biex jinstalla biex jissorveljah. U qal, "Iva, iva, le, nemmen li ngħatat lil kull min ingħaqad mal-bord wara." U għandna persuna b'għarfien dirett tas-sitwazzjoni li tgħid li hija sempliċement gidba. U li verament jidher li hu l-każ, li mhux veru. Jekk irridu nkunu ġenerużi, forsi kien infurmat ħażin.
Hemm ħafna minn dawn l-assigurazzjonijiet każwali. U nuża dak l-eżempju parzjalment għax dak huwa eżempju mill-aqwa ta’ dissimulazzjoni, ejja ngħidulu, li jista’ jkollu konsegwenzi reali legalment. M'għandix għalfejn ngħidlek, taħt il-liġi korporattiva tad-Delaware, jekk din il-kumpanija IPOs, l-azzjonisti jistgħu, taħt it-taqsima 220, jilmentaw dwar dan u jitolbu dokumentazzjoni sottostanti. Diġà hemm membri tal-bord jgħidu affarijiet bħal, "Well, stenna minuta, dak il-briefing kellu jsir."
Allura dawn l-affarijiet li jidhru li jaqbżu minn ħalqu l-ħin kollu, jista 'jkollhom effetti reali li jmexxu s-suq, effetti reali għal OpenAI. Li nġiebu lura għat-tip ta’ lingwaġġ utopiku hype li reġgħet tfaċċat, naħseb li mhux b’kumbinazzjoni dakinhar li ħarġet din il-biċċa, jaffettwa wkoll lilna lkoll, għax il-perikli huma tant akuti fir-rigward tal-mod kif inhi.qed jiġi skjerat fl-armi, il-mod kif qed jintuża biex jiġu identifikati l-aġenti tal-gwerra kimika, il-potenzjal ta’ diżinformazzjoni, u minħabba l-mod li bih il-hype utopiku jidher li qed iqanqal ħafna ekonomisti kredibbli jgħidu, "Dan għandu s-sinjali kollha ta 'bużżieqa."
Anke Sam Altman qal, "Xi ħadd se jitlef ħafna flus hawn." Dan jista 'verament jikkaġuna ħafna tkabbir ekonomiku Amerikan u globali, jekk ikun hemm bħal titqib veru ta' bużżieqa li tinvolvi lil dawn il-kumpaniji kollha li jagħmlu ftehimiet ma 'xulxin, li jmorru kollha fuq l-AI filwaqt li jissellfu b'mod tant qawwi. Allura dak li jgħid Sam Altman huwa importanti, u naħseb li l-preponderanza tan-nies madwaru, semmejt li tkellimna ma 'aktar minn mija, fil-fatt kienet ferm aktar minn mija. Kellna konverżazzjoni fil-linja tat-tmiem fejn qisha, "Ikun żgħir wisq biex ngħidu li huwa bħal dan in-numru ferm ogħla?" U konna qisni, "Iva, ejja nnaqqsu. Aħna nilagħbuha jibred." Imma kien hemm ħafna nies u maġġoranza daqshekk sinifikanti minnhom qalu, "Din hija ta' tħassib." U naħseb li għalhekk.
Ħa nistaqsik dwar dak in-numru. Kif semmejt, in-nies saru aktar u aktar miftuħa mat-tħassib aktar ma jgħaddi ż-żmien. Tħoss li l-pressjoni madwar il-bużżieqa - it-tellieqa biex tirbaħ, biex tħallas dan l-investiment kollu, biex toħroġ bħala r-rebbieħ, għall-IPO - biddlet ħafna attitudnijiet. Ċertament ħoloq aktar pressjoni fuq Sam u OpenAI.
Din il-ġimgħa ppubblikajna storja biss dwar il-vibes ta' OpenAI. L-istorja tiegħek hija parti minnha, iżda bidliet kbar fil-persunal fil-gradi eżekuttivi f'OpenAI — in-nies qed jiġu u sejrin. Ir-riċerkaturi huma kollha mmexxija 'l bogħod, l-aktar lejn Antropiku, li naħseb li huwa tassew interessanti. Tista 'tara biss li din il-kumpanija qed tħoss il-pressjoni, u qed tirrispondi għal dik il-pressjoni b'xi mod.
Imma mbagħad naħseb lura għal Sam jitkeċċa. Dan huwa biss memorabbli għalija. Huwa memorabbli għal ħadd ieħor, imma ħadt sejħa sors fiż-Zoo tal-Bronx fis-7PM nhar il-Ġimgħa, u kien xi ħadd jgħid li se jippruvaw iġibu lil Sam lura. U mbagħad qattajna tmiem il-ġimgħa niġru wara dik l-istorja. U kont eżatt bħal, "Jien fiż-żoo. X'tixtieq nagħmel hawn?" U t-tweġiba kienet, "Oqgħod fuq it-telefon." Tajjeb, binti kienet qisha, "Oħroġ it-telefon." U hekk għamilt.
Kien jirkeb jew imut biex iġib lura lil Sam. Dik il-kumpanija kienet bħal, "Le, mhux qed inħallu lill-bord ikeċċi lil Sam Altman." L-investituri, huma kkwotati fil-biċċa tiegħek, "Aħna morna għall-gwerra," naħseb, hija l-pożizzjoni Thrive Capital, "biex inġibu lil Sam lura." Microsoft marret għall-gwerra biex iġib lura lil Sam. Huwa aktar tard, u issa kulħadd qisu, "Aħna sejrin għall-IPO. Wasalna sal-linja tal-finitura. Irriġajna lill-bniedem tagħna, u se jwassalna sal-linja finali. Aħna mħassba li huwa giddieb."
Għaliex kienet gwerra biex ġġibu lura dak iż-żmien? Għax ma jidhirx li xejn fil-fatt inbidel. Tkellem dwar il-memos li Ilya Sutskever u [Kap Eżekuttiv Antropiku] Dario Amodei żammew waqt li kienu kontemporanji ta’ Sam Altman. It-tħassib numru wieħed ta 'Ilya kien li Sam huwa giddieb.
Xejn minn dan ma nbidel. Allura għaliex kienet gwerra li ġġibu lura dak iż-żmien? U issa li qegħdin fil-linja finali, jidher li t-tħassib kollu jinsab fil-miftuħ.
Tajjeb, l-ewwelnett, skużani lil bintek u lil sieħbi u lin-nies l-oħra kollha madwar il-ġurnalisti.
[Daħħaq] Kien tmiem il-ġimgħa mhux ħażin għal kulħadd.
Iva, tieħu f'idejha ħajtu, u din l-istorja żgur għandha tiegħi, matul l-aħħar perjodu ta 'żmien. Fil-fatt tirrelata ma’ din it-tema tal-ġurnaliżmu u l-aċċess għall-informazzjoni, naħseb. L-investituri li marru għall-gwerra għal Sam u kollha kellhom rwoli biex jiżguraw li jkun ġie lura, u l-bord li kien iddisinjat speċifikament biex jipproteġi l-missjoni ta 'nonprofit biex ipoġġi s-sigurtà fuq it-tkabbir u biex ikeċċi eżekuttiv jekk ma setgħux jiġu fdati b'dan, marru. Dan kien kollu għaliex, iva, l-inċentivi tas-suq kienu hemm, hux?
Sam kien kapaċi jikkonvinċi lin-nies, "Well, il-kumpanija biss se taqa' f'biċċiet." Iżda r-raġuni li kellu appoġġ kien nuqqas ta 'informazzjoni. Dawk l-investituri, f'ħafna każijiet, issa jgħidu, "Nħares lura, u naħseb li kelli jkolli aktar tħassib kieku kont naf bis-sħiħ x'kienu l-pretensjonijiet u x'kienu t-tħassib."
Mhux kollha kemm huma;l-opinjonijiet ivarjaw, u nikkwotaw firxa ta' opinjonijiet, iżda hemm oħrajn sinifikanti li kienu qed jaġixxu fuq informazzjoni parzjali ħafna. Il-bord li spara lil Sam kien, fi kliem persuna waħda li kienet tkun fuq il-bord, "ħafna JV," u ħarbtu l-ballun iebes. U niddokumentaw l-ilmenti sottostanti, u n-nies jistgħu jiddeċiedu huma stess jekk jakkumulax fit-tip ta 'tħassib urġenti li ħassew li kien, iżda dak l-argument u dik l-informazzjoni ma kinux qed jiġu ppreżentati.
Huma rċevew dak li wħud minnhom issa jirrikonoxxu bħala parir legali ħażin. Biex tiddeskriviha, int tiftakar il-kwotazzjoni, u probabbilment ħafna mis-semmiegħa u t-telespettaturi tiegħek jiftakru l-kwotazzjoni bħala nuqqas ta 'sinċerità. Dan kien dak li kien imnaqqas għal, u allura essenzjalment ma kinux se jieħdu telefonati.
Huma ma kinux jieħdu sejħiet. Jien ċert li ppruvajt. Kulħadd li naf ipprova, u wasal sal-punt fejn, bħala ġurnalist, m'intix suppost tagħti parir lis-sorsi tiegħek, imma jien kont qisni, "Dan se jmur jekk ma tibdax tispjega lilek innifsek."
U hekk ġara. Tinsa l-ġurnalisti. Kellek lil Satya Nadella tgħid, "X'infern ġara? Ma nista' nġib lil ħadd jispjegali." U dak huwa l-appoġġ finanzjarju ewlieni tal-kumpanija. U mbagħad għandek Satya iċċempel [il-ko-fundatur ta’ LinkedIn] Reid Hoffman u Reid iċċempel u jgħid, “Ma nafx x’kambjat ġara.”
Qegħdin jinftiehmu f'dak il-vojt ta 'informazzjoni, qed ifittxu l-indikaturi tradizzjonali mhux AI li jiġġustifikaw sparar daqshekk urġenti u f'daqqa. Bħal, okay, kien reati sesswali? Kienet frodi? U l-argument sottili kollu, iżda naħseb li jagħmel sens, li din it-teknoloġija hija differenti u li din it-tip ta 'akkumulazzjoni kostanti ta' tradimenti iżgħar jista 'jkollha interessi sinifikanti kemm għal dan in-negozju kif ukoll forsi għad-dinja, intilfet fil-biċċa l-kbira. Mela l-inċentivi kapitalisti rebħu, iżda wkoll in-nies li għamluha ħarġu u mhux dejjem kienu qed joperaw b’informazzjoni sħiħa.
Irrid nistaqsi biss dwar l-aspett “dak li ħaseb li kien kulħadd” għal mument wieħed, għax żgur li rajt l-aħbarijiet, u għedt, “Oh, żgur li ġrat xi ħaġa ħażina.” Għamilt ħafna rappurtar #MeToo, famużament. Int kissret l-istorja ta’ Harvey Weinstein.
Għaddejt ħafna ħin tirrapporta dwar dawn l-allegazzjonijiet li naħseb li ddeċidejt li fl-aħħar mill-aħħar kienu bla bażi: li Altman attakka sesswalment lil minuri jew impjega ħaddiema tas-sess, jew saħansitra qatel whistleblower tal-OpenAI. Jiġifieri, inti l-persuna li tista 'tirrapporta dan l-għalf bl-aktar rigorożità. Iddeċidejt li wasal fix-xejn?
Tajjeb, ara, m'iniex fin-negozju li ngħid li xi ħaġa waslet fix-xejn. Li nista’ ngħid hu li qattajt xhur sħaħ inħares lejn dawn it-talbiet u ma sibtx korroborazzjoni għalihom. U kien impressjonanti għalija li dawn in-nies, dawn il-kumpaniji li għandhom tant poter fuq il-futur tagħna, verament qed jonfqu ammont sproporzjonat tal-ħin u r-riżorsi tagħhom fi ġlieda tat-tajn tat-tfal.
Eżekuttiv wieħed jiddeskriviha bħala “Shakespearean.” L-ammont ta' flus tal-investigatur privat u d-dossiers tal-oppożizzjoni li qed jinġabru huwa bla waqfien. U l-ħaġa ħasra hija li t-tip ta 'għalf salacious, li jiġi parroted mill-kompetituri ta' Sam, huwa biss preżunt fatt, hux? Hemm din l-allegazzjoni li jsegwi subien taħt l-età, u f'ħafna cocktail parties f'Silicon Valley, tisma' dan. Fiċ-ċirkwit tal-konferenzi, smajt kemm tirrepetiha minn eżekuttivi kredibbli u prominenti: “Kulħadd jaf li dan huwa fatt.”
Il-ħaġa diqa hija li nitkellem dwar minn fejn ġej dan, il-vettori varji li bihom jiġi trażmess. Elon Musk u l-assoċjati tiegħu donnhom qed jimbuttaw dossiers verament iebsa li jammontaw għal xejn. Huma vaporużi meta fil-fatt tibda tħares lejn it-talbiet sottostanti. Il-ħaġa diqa hija li verament joskura l-kritiċi aktar ibbażati fuq l-evidenza hawn li naħseb li verament jistħoqqilhom sorveljanza u konsiderazzjoni urġenti.
It-tema l-oħra li verament toħroġ fl-istorja hija kważi sens ta 'biża' li Sam għandu tant ħbieb - huwa investit f'tant kumpaniji mir-rwol preċedenti tiegħu bħala CEO ta 'Y Combinator, biss għall-investiment personali tiegħu, li wħud minnhom huma f'kunflitt dirett mar-rwol tiegħu bħala CEO ta' OpenAI - u hemm silenzju madwaru.
Laqatni hekk kif kont qed naqra linja waħda b’mod partikolari. Inti tiddeskrivi l-memos ta 'Ilya Sutskever, u għadhom kemm barra f'Silicon Valley. Kulħaddisejħilhom il-memos Ilya. Imma hemm anke silenzju madwar dan. Huma mgħoddija, iżda mhumiex diskussi. Minn fejn taħseb li ġej? Hija biża? Hija xewqa li tikseb investiment anġlu? Minn fejn ġej?
Naħseb li hija ħafna kodard, inkun onest. Wara li rrappurtaw dwar stejjer ta’ sigurtà nazzjonali fejn is-sorsi huma whistleblowers li se jitilfu kollox u jiffaċċjaw il-prosekuzzjoni, xorta jagħmlu t-tajjeb u jitkellmu dwar affarijiet biex joħolqu responsabbiltà. Ħdimt fuq l-istejjer relatati mad-delitti sesswali li semmejt, fejn is-sorsi huma trawmatizzati ħafna u jibżgħu minn tip ta’ retribuzzjoni personali ħafna.
F'ħafna każijiet madwar dan it-taħbit, qed tittratta ma 'nies bil-profil u l-qawwa tagħhom stess. Huma jew nies famużi huma stess jew huma mdawra minn nies famużi. Huma għandhom ħajja tan-negozju robusta. Fil-fehma tiegħi, fil-fatt huwa espożizzjoni baxxa ħafna għalihom li jitkellmu dwar dan l-għalf. U b’xorti tajba, il-labra qed tiċċaqlaq kif tkellimna dwarha qabel, u n-nies issa qed jitkellmu aktar.
Iżda għal tali żmien twil, in-nies verament biss shut up dwar dan għaliex naħseb li l-kultura ta 'Silicon Valley hija daqshekk bla ħniena interessata għal rasha u bla ħniena orjentata lejn in-negozju u t-tkabbir. Allura naħseb li dan jolqot anke xi wħud min-nies li kienu involuti fit-tkeċċija ta 'Sam, fejn rajt fil-jiem ta' wara, iva, fattur wieħed li wassal biex jerġa 'lura u t-tkeċċija ta' membri tal-bord antiki kien li għaqqad investituri li kienu konfużi mal-kawża tiegħu.
Iżda ieħor huwa li tant nies oħra madwaru li kellhom it-tħassib u esprimewhom b'mod urġenti biss mitwija bħal srievet u bidlu l-melodija tagħhom fil-mument li raw li r-riħ kien qed jonfoħ il-mod l-ieħor, u riedu fil-ferrovija tal-profitt.
Huwa pjuttost skur, onestament, mil-lat tiegħi bħala reporter.
Xi wħud minn dawk in-nies huma Mira Murati, li, nemmen, għal 20 minuta kienet il-Kap Eżekuttiv il-ġdid tal-OpenAI. Imbagħad ġiet sostitwita. Kienet dinamika kkumplikata ħafna, u ovvjament, Sam ġie lura. Il-persuna l-oħra hija Ilya Sutskever, li kien wieħed mill-voti biex tneħħi lil Sam, u mbagħad biddel fehmtu, jew għall-inqas qal li biddel fehmtu, u mbagħad telaq biex jibda l-kumpanija tiegħu stess. Taf x’ġagħalu jibdel fehmtu? Kienu biss flus?
Tajjeb, u biex inkun ċar, mhux qed nisingaġġa lil dawk it-tnejn. Hemm membri oħra tal-bord li kienu involuti fl-isparar li wkoll waqgħu ħafna siekta wara. Naħseb li hija bħal problema kollettiva usa '. Dawn huma, f'xi każijiet, nies li kellhom il-fibra morali biex idoqqu allarmi u jieħdu azzjoni radikali, u dan għandu jiġi mfaħħar. U hekk tassigura r-responsabbiltà. Dan seta' għen ħafna nies li huma affettwati minn din it-teknoloġija. Seta' għen industrija biex tibqa' ffukata b'mod aktar sinifikanti fuq is-sikurezza.
Imma meta tittratta ma’ whistleblowers u nies li jippruvaw iqanqlu ħafna dik ir-responsabbiltà, tara wkoll li tieħu l-fibra li teħel u tibqa’ bil-konvinzjonijiet tiegħek. U din l-industrija hija tassew mimlija nies li sempliċement ma jżommux bil-konvinzjonijiet tagħhom.
Anke jekk jaħsbu li qed jibnu Alla diġitali li b'xi mod jew jelimina x-xogħol kollu jew joħloq aktar xogħol, jew se jiġri xi ħaġa.
Ukoll, dik hija l-ħaġa. Allura l-kultura li ma toqgħodx mal-konvinzjonijiet tiegħek u t-tħassib etiku kollu li jaqa 'fil-ġenb fil-mument li jkun hemm xi sħana jew xi ħaġa li tista' thedded il-pożizzjoni tiegħek fin-negozju hija forsi kollha tajba u tajba sa ċertu punt għal kumpaniji tan-negozju bħas-soltu li qed jagħmlu kwalunkwe tip ta 'widget.
Imma dawn huma wkoll l-istess nies li qed jgħidu, “Dan jista’ litteralment joqtolna lkoll.” U għal darb'oħra, m'għandekx għalfejn tmur għall-estrem ta 'Terminator Skynet. Hemm sett ta’ riskji li diġà qed jimmaterjalizzaw. Huwa reali, u għandhom raġun iwissu dwar dan, imma jkollok li xi ħadd ieħor pultruna jippsikoloġizza kif dawk iż-żewġ affarijiet jistgħu jgħixu fl-istess nies fejn qed idoqqu t-twissijiet urġenti, forsi qed iqiegħdu saqajh u jippruvaw jagħmlu xi ħaġa, u mbagħad qed jintwew u jisiltu siekta.
Huwa preċiżament għaliex jista 'jkollok dawn it-tipi ta' każijiet ta 'affarijiet li jinżammu barra mill-kitba u affarijiet li jiġu miknusa taħt it-tapit, u ħadd ma jitkellem dwar dan b'mod miftuħ għal snin wara l-fatt.
Il-parti naturali u responsabbli hawnhekk ma jkunux is-CEOs ta’ dawn il-kumpaniji; ikunu gvernijiet. Fl-Istati Uniti, forsihuma gvernijiet statali, forsi huwa l-gvern federali.
Ċertament, dawn il-kumpaniji kollha jridu jkunu globali. Hemm ħafna implikazzjonijiet globali hawn. Rajt OpenAI, Google, u Anthropic kollha jqanqlu lill-amministrazzjoni Biden biex toħroġ ordni eżekuttiva tal-AI. Kien pjuttost bla snien fl-aħħar. Qal biss li kellhom jitkellmu dwar dak li kienu kapaċi jagħmlu l-mudelli tagħhom u jirrilaxxaw xi testijiet tas-sigurtà. U mbagħad kollha appoġġjaw lil Trump, u Trump daħal u neħħa dak kollu u qal, "Irridu nkunu kompetittivi. Huwa ħieles għal kulħadd. Mur għaliha."
Fl-istess ħin, kollha qed jippruvaw jiġbru fondi minn pajjiżi tal-Lvant Nofsani li għandhom ħafna flus taż-żejt u jridu jibdlu l-ekonomiji tagħhom. Dawk huma politiċi. Inħoss li l-politiċi għandhom definittivament jifhmu li xi ħadd qed jitkellem miż-żewġ naħat ta’ fommhom, u mhux se jkunu mqalleb wisq jekk fl-aħħar mill-aħħar xi ħadd ikun diżappuntat, iżda l-politiċi qed jittieħdu wkoll. Għaliex taħseb li hu?
Dan huwa verament, naħseb, għaliex il-biċċa hija importanti fil-fehma tiegħi u għaliex kien ta 'min iqatta' dan il-ħin kollu u d-dettall fuqhom. Aħna qegħdin f'ambjent fejn is-sistemi li, kif tgħid, għandhom ikunu qed jipprovdu sorveljanza huma biss vojta. Dik hija Amerika Magħquda ta 'wara ċ-Ċittadini, fejn il-fluss tal-flus huwa tant bla xkiel, u hija konċentrazzjoni partikolari ta' dik il-problema madwar l-AI, fejn hemm dawn il-PACs li qed jipproliferaw u jgħarrqu l-flus biex iwarrbu regolamentazzjoni sinifikanti kemm f'livell statali kif ukoll f'livell federali.
Għandek [il-ko-fundatur ta' OpenAI] Greg Brockman, it-tieni fil-kmand ta' Sam, li jikkontribwixxi direttament b'mod maġġuri għal ftit minn dawn. Dan iwassal għal sitwazzjoni fejn verament hemm qbid ta' leġiżlaturi u regolaturi potenzjali, u dan huwa spirali diffiċli biex toħroġ minnha. Il-ħaġa diqa hija, naħseb li hemm mossi sempliċi ta' politika, li wħud minnhom qed jiġu ppruvati x'imkien ieħor fid-dinja, li jgħinu f'xi wħud minn dawn il-problemi ta' responsabbiltà.
Jista' jkollok aktar testijiet obbligatorji tas-sikurezza qabel l-iskjerament, li hija xi ħaġa li diġà qed isseħħ fl-Ewropa għall-mudelli tal-fruntiera. Jista' jkollok rekwiżiti ta' rekord pubbliku bil-miktub aktar stretti għat-tipi ta' investigazzjonijiet interni fejn rajna l-affarijiet jinżammu barra mill-kitba f'dan il-każ. Jista' jkollok sett aktar robust ta' mekkaniżmi ta' reviżjoni tas-sigurtà nazzjonali għat-tipi ta' ambizzjonijiet infrastrutturali tal-Lvant Nofsani li kien qed jimbotta Sam Altman.
Kif tgħid int, kien qed jagħmel dan il-lixka u jaqleb mal-amministrazzjoni Biden, qal, "Irregolana, irregolana," u għenhom ifasslu ordni eżekuttiva, u mbagħad fil-mument li Trump jidħol, tassew fl-ewwel jiem, sempliċement imur bla skossi, "Ejja naċċelleraw u ejja nibnu kampus massiv ta' data center f'Abu Dhabi." Jista 'jkollok, din hija waħda tassew sempliċi, bħall-protezzjonijiet tal-whistleblower. M'hemm l-ebda statut federali li jipproteġi lill-impjegati tal-kumpanija AI li jiżvelaw dawn it-tipi ta 'tħassib dwar is-sikurezza li qed jixxandar f'din il-biċċa.
Għandna każijiet fejn Jan Leike, li kien raġel anzjan tas-sigurtà f'OpenAI, kien qed imexxi super allinjament fil-kumpanija. Huwa jikteb lill-bord, essenzjalment materjal tal-whistleblower, u jgħid li l-kumpanija qed tmur barra mill-binarji fuq il-missjoni ta 'sikurezza tagħha. Dawk huma t-tipi ta’ nies li fil-fatt għandu jkollhom korp ta’ sorveljanza li jistgħu jmorru għand, u għandu jkollhom protezzjonijiet statutorji espliċiti tat-tipi li naraw f’setturi oħra. Dan huwa sempliċi biex tirreplika reġim stil Sarbanes-Oxley.
Naħseb li minkejja kemm hija akuta l-problema li Silicon Valley tassumi l-kontroll tal-lievi kollha tal-poter, u minkejja kemm huma vojta xi wħud minn dawn l-istituzzjonijiet li jistgħu jipprovdu sorveljanza u guardrails, xorta nemmen fil-matematika bażika tad-demokrazija u tal-politiċi interessati. U qed toħroġ aktar u aktar dejta tal-votazzjoni li maġġoranza tal-Amerikani jaħsbu li t-tħassib, il-mistoqsijiet jew ir-riskji tal-AI bħalissa jegħlbu l-benefiċċji.
Allura naħseb li l-għargħar ta 'flus fil-politika mill-AI, huwa fis-setgħa kollha tagħna li nagħmlu dan sors ta' mistoqsija fir-rigward tal-politiċi. Meta l-Amerikani jmorru jivvutaw, għandhom ikunu qed jiskrutinizzaw jekk in-nies li jivvutaw għalihom, speċjalment jekk ma jkunux kritiċi u kontra r-regolamentazzjoni, minħabba dan it-tħassib kollu, humiex iffinanzjati minn interessi speċjali kbar tat-teknoloġija. Għalhekk naħseb jekk in-nies jistgħu jaqraw biċċiet bħal dawn, jisimgħu podcasts bħal dawn, u jieħdu ħsieb biżżejjed biex jaħsbu b'mod kritiku dwarid-deċiżjonijiet tagħhom bħala votanti, hemm opportunità reali li tiġġenera kostitwenza f’Washington ta’ rappreżentanti li jżommu għajnejhom fuq u jġiegħlu s-sorveljanza.
Din tista 'tkun waħda mill-aktar affarijiet ottimisti li qatt smajt lil xi ħadd jgħid dwar l-industrija attwali tal-AI. Napprezzaha. Jien ossessjonat bil-votazzjoni li qed titkellem dwaru. Hemm ħafna minnha issa. Kollox huwa pjuttost konsistenti, u jidher li aktar ma ż-żgħażagħ, b'mod partikolari, ikunu esposti għall-AI, aktar ikunu sfiduċjati u rrabjati dwar dan. Dik hija l-valenza tal-votazzjoni kollha. U nħares lejn dan, u naħseb, ukoll, iva, politiċi intelliġenti se jmorru kontra dan. Huma jgħidu biss, "Se nżommu t-teknoloġija kbira responsabbli."
Imbagħad naħseb dwar l-aħħar 20 sena, politiku jgħid li se jżommu t-teknoloġija kbira responsabbli, u qed niġġieled biex insib anki mument wieħed ta 'teknoloġija kbira li tinżamm responsabbli. L-unika ħaġa li ġġegħelni naħseb li dan jista 'jkun differenti hija, ukoll, fil-fatt trid tibni ċ-ċentri tad-dejta, u tista' tivvota kontra dan, u tista' tagħmel petizzjoni kontra dan, u tista' tipprotesta kontra dan.
Naħseb li hemm politiku li għadu kif kellu d-dar tiegħu sparat għax ivvota għal data center. It-tensjoni qed tilħaq, insejħilha, pitch tad-deni. Int iddeskriviet l-insularità ta 'Silicon Valley. Din hija ekosistema magħluqa. Iħossu li jaħsbu li jistgħu jmexxu d-dinja. Qed idaħħlu ħafna flus fil-politika, u qed iħabbtu wiċċhom mar-realtà li n-nies ma jħobbux il-prodotti, li ma tagħtihomx ħafna kopertura. Iktar ma jużaw il-prodotti, aktar huma mqalleb, u l-politiċi qed jibdew jaraw li hemm konsegwenzi reali għall-appoġġ tal-industrija tat-teknoloġija fuq in-nies li jirrappreżentaw.
Tkellimt ma’ tant nies. Taħseb li huwa possibbli għall-industrija tat-teknoloġija li titgħallem il-lezzjoni li hemm eżatt quddiemhom?
Tgħid li jħossu li jaħsbu li jistgħu jmexxu d-dinja mingħajr responsabbiltà. Lanqas naħseb li jeħtieġ il-kwalifika ta' "jħossu qisu". Jiġifieri, tħares lejn il-lingwa li qed juża Peter Thiel, hija espliċita. Naturalment, dak huwa eżempju estrem. U Sam Altman, għalkemm huwa qrib u infurmat bl-ideoloġija ta 'Thiel sa ċertu punt, huwa tip differenti ħafna ta' persuna li jista 'ħoss differenti u aktar imkejla sa ċertu punt.
Imma naħseb li l-ideoloġija usa 'li tikseb minn Thiel, li bażikament hija: Aħna lesti d-demokrazija, m'għandniex bżonnha aktar. Għandna tant li rridu biss nibnu l-bunkers żgħar tagħna stess. Aħna mhux qed nittrattaw aktar il-Carnegies jew ir-Rockefellers aktar, fejn huma guys ħżiena, iżda jħossu li għandhom bżonn jipparteċipaw f'kuntratt soċjali u jibnu affarijiet għan-nies. Hemm nihiliżmu reali li huwa stabbilit.
U naħseb li kien biss spirali ta' tisħiħ reċiproku fl-istorja Amerikana reċenti ta' moguls u kumpaniji privati li jakkwistaw poter supergovernattiv filwaqt li istituzzjonijiet demokratiċi li jistgħu jżommuhom responsabbli huma vojta. Ma nħossx ottimist dwar l-idea li dawk in-nies jistgħu jqumu xi darba u jaħsbu, "Huh, fil-fatt forsi għandna bżonn nipparteċipaw fis-soċjetà u ngħinu nibnu affarijiet għan-nies."
Jiġifieri, inti tħares lejn bħall-eżempju mikrokożmiku ta 'The Giving Pledge, fejn kien hemm mument fejn kien jidher li jkun ta' karità, u dak il-mument issa huwa passat u saħansitra redikolat. Dik hija problema, il-problema usa’ ta’ nuqqas ta’ kontabbiltà li naħseb li tista’ tissolva biss b’mod estrinsiku. Dan irid ikun il-votanti li jimmobilizzaw u jqajmu l-poter tas-sorveljanza tal-gvern. U għandek raġun tgħid li l-vector ewlieni li permezz tiegħu n-nies forsi jistgħu jiksbu dan huwa lokali. Għandu x’jaqsam ma’ fejn qed tinbena l-infrastruttura.
Semmejt ftit mit-tensjoni bajda ta’ madwar dan li qed twassal għal vjolenza u theddid, u ovvjament, ħadd m’għandu jkun vjolenti jew jhedded. U jien lanqas hawn biex nagħmel rakkomandazzjonijiet speċifiċi ta’ politika għajr biex nippreżenta biss ftit mill-passi ta’ politika li jidhru bażiċi u li qed jaħdmu x’imkien ieħor fid-dinja, hux? Jew dawk li ħadmu f’setturi oħra. Jien mhux hawn biex ngħid liema minn dawk għandhom jiġu eżegwiti u kif.
Naħseb li trid tiġri xi ħaġa, u jeħtieġ li tkun esterna, mhux biss tafda lil dawn il-kumpaniji. Għax id-drittissa għandna sitwazzjoni fejn il-kumpaniji li qed jiżviluppaw it-teknoloġija u huma mgħammra bl-aħjar mod biex jifhmu r-riskji, u fil-fatt huma dawk li jwissuna bir-riskji, huma wkoll dawk li ma għandhom xejn ħlief inċentiv biex imorru malajr u jinjoraw dawk ir-riskji. U inti sempliċiment m'għandek xejn biex tikkontrobilanċja dan. Allura tkun xi tkun ir-riformi li jistgħu jieħdu f'termini ta' ispeċifiċitajiet, xi ħaġa trid tħabbat wiċċha ma' dan. U għadni nerġa’ lura għal dak l-ottimiżmu li n-nies għadhom importanti.
Ġeneralment nixtri l-argument tiegħek. Ħa nagħmel biss il-kontroargument wieħed ċkejken li naħseb li nista' nagħraf. Il-ħaġa l-oħra li tista’ tiġri barra mill-kaxxa tal-vot hija li l-bużżieqa tqum, hux? Li mhux dawn il-kumpaniji kollha jaslu sal-linja tal-finitura, u li m'hemmx suq tal-prodott adattat għall-applikazzjonijiet tal-AI tal-konsumatur. U għal darb'oħra, għadni ma narahx, imma jien reviżur tat-teknoloġija tal-konsumatur, u forsi għandi biss standards ogħla minn kulħadd.
Hemm suq tal-prodotti tajbin fid-dinja tan-negozju, id-dritt? Li jkollok mazz ta 'aġenti AI jiktbu mazz ta' softwer jidher li huwa suq reali għal dawn l-għodod. U tista 'taqra l-argumenti minn dawn il-kumpaniji li tgħid, "Aħna solvejna l-kodifikazzjoni, u dan ifisser li nistgħu nsolvu xi ħaġa. Jekk nistgħu nagħmlu softwer, nistgħu nsolvu kwalunkwe problema."
Naħseb li hemm limiti reali għall-affarijiet li jista 'jagħmel is-software. Dak huwa kbir fid-dinja tan-negozju. Is-softwer ma jistax isolvi kull problema fir-realtà, iżda jridu jaslu s'hemm. Huma waslu biex jispiċċaw ix-xogħol, u forsi mhux kulħadd jasal sal-linja finali. U hemm ħabta, u din il-bużżieqa tfaċċa, u forsi OpenAI jew Anthropic jew xAI, waħda minn dawn il-kumpaniji tfalli, u dan l-investiment kollu jmur.
Taħseb li dan jaffettwa dan? Fil-fatt, ħalluni nistaqsi l-ewwel mistoqsija. OpenAI jinsab fil-punt ta' IPO. Hemm ħafna dubji dwar Sam bħala mexxej. Taħseb li se jagħmluha sal-linja finali?
Mhux ser nippronjostika, imma naħseb li tqajjem punt importanti, li huwa li l-inċentivi tas-suq jimpurtaw internament għal Silicon Valley, u l-prekarjetà tad-dinamika tal-bużżieqa attwali toqgħod tinterrompi l-, għal darb'oħra, potenzjalment, skond il-kritiċi, it-tellieqa għall-qiegħ dwar is-sigurtà.
Inżid ukoll ma’ dan, jekk tħares lejn il-preċedenza storika fejn hemm sett simili u li jidher impenetrabbli ta’ inċentivi tas-suq u effetti potenzjalment ta’ ħsara għall-pubbliku, hemm litigazzjoni tal-impatt. U tara dan bħala qasam ta 'tħassib dan l-aħħar. Sam Altman jinsab hemmhekk din il-ġimgħa japprova leġiżlazzjoni li tipproteġi lill-kumpaniji tal-AI minn xi wħud mit-tipi ta 'responsabbiltà li OpenAI ġiet esposta għalihom f'kawżi ta' mewt inġusta, pereżempju. Naturalment, hemm xewqa li jkun hemm dik il-protezzjoni mir-responsabbiltà.
Naħseb li l-qrati xorta jistgħu jkunu mekkaniżmu sinifikanti, u se jkun tassew interessanti li tara kif dawn il-ilbiesi jifformaw. Diġà rajt, pereżempju, il-class-action suit, li jien u ħafna u ħafna awturi oħra li naf aħna membri tagħha, kontra Anthropic għall-użu tagħhom ta’ kotba li kienu taħt id-drittijiet tal-awtur. Jekk hemm imħuħ legali intelliġenti u atturi li jimpurtahom, kif storikament rajna f'każijiet minn tabakk kbir għal enerġija kbira, tista 'wkoll tikseb xi guardrails u xi inċentivi biex tnaqqas il-veloċità, toqgħod attent, jew tipproteġi n-nies b'dan il-mod.
Tħoss li l-istruttura tal-ispejjeż kollha tal-industrija tal-AI tiddependi fuq interpretazzjoni ta 'użu ġust ħafna u karitatevoli ħafna. Ma joħroġx biżżejjed. L-istruttura tal-ispiża ta 'dawn il-kumpaniji tista' tixxerja bla kontroll jekk ikollhom iħallsu lilek u lil kulħadd li ħadu x-xogħol tiegħu, iżda huwa inkonvenjenti li wieħed jaħseb dwarha, għalhekk aħna sempliċement ma naħsbux dwarha. Eżatt ħdejn dan, dawn il-prodotti kollha issa qed jaħdmu b'telf. Bħal-lum, kollha qed jaħdmu b'telf. Qed jaħarqu aktar flus milli jistgħu jagħmlu. F'xi punt, għandhom jaqilbu l-iswiċċ.
Sam huwa negozjant. Kif semmejt diversi drabi, mhuwiex teknoloġista. Huwa persuna tan-negozju. Taħseb li hu lest li jaqleb is-swiċċ u jgħid, "Se nagħmlu dollaru?" Għax meta nistaqsi, "Taħseb li OpenAI se tagħmel dan?" Huwa meta jkunu ltqajna biex jagħmlu dollaru. U s'issa, Sam għamel id-dollari kollha tiegħu billi talab lil nies oħra għall-flus tagħhom minflok ma jkollu l-kumpaniji tiegħu jagħmlu l-flus.
Ukoll, dik hija mistoqsija kbira li tibqa 'għal Silicon Valley, għall-investituri, għall-pubbliku.Tara xi dikjarazzjonijiet u movimenti 'l barra minn OpenAI li jidhru li juru tip ta' paniku dwar dan. It-tfigħ ta' Sora, l-għeluq ta' xi proġetti anċillari, nipprova niżżel il-prodott ewlieni. Imma mbagħad min-naħa l-oħra, xorta tara, fl-istess ħin, tunnellati ta’ missjoni tkaxkir, hux? Anke eżempju żgħir - ovvjament mhuwiex ċentrali għan-negozju tagħhom - huwa l-akkwist ta 'TBPN.
Mill-mod, eżatt kif konna nilħqu l-linja finali u l-verifika tal-fatti, il-kumpanija li qed tiffaċċja dan it-tip ta 'skrutinju ġurnalistiku takkwista pjattaforma fejn jista' jkollhom aktar kontroll dirett fuq il-konversazzjoni. Naħseb li hemm ħafna investituri li huma mħassba, abbażi tal-konversazzjonijiet li kelli, li din il-problema tal-wegħda tal-affarijiet kollha lin-nies kollha testendi wkoll għal dan in-nuqqas ta 'fokus fil-mudell tan-negozju ewlieni. U jien ngħid, int eqreb lejn it-tip ta 'prognosticating u tara s-suq milli jien probabbilment. Inħalli lilek u lis-semmiegħa tkunu l-imħallef dwar jekk jaħsbux li l-OpenAI jistax jaqleb is-swiċċ.
Ukoll, staqsejt il-mistoqsija għax għandek kwotazzjoni fil-biċċa minn eżekuttiv anzjan ta 'Microsoft, u hija li, "Il-wirt ta' Sam jista 'jispiċċa aktar simili għal Bernie Madoff jew Sam Bankman-Fried," aktar milli Steve Jobs. Dan huwa pjuttost paragun. X'għamilt minn dak il-paragun?
Naħseb li dik hija parafrażi. Il-parti ta’ Steve Jobs ma kinitx parti mill-kwotazzjoni. Iżda hemm tip ta' sobrijetà interessanti għaliha għaliex huwa fformulat bħal, "Naħseb li hemm ċans żgħir iżda reali li jispiċċa jkun SBF jew scammer tal-livell Madoff." Jiġifieri, fil-fehma tiegħi, mhux li Sam qed jiġi akkużat b'dawk it-tipi speċifiċi ta 'frodi jew reati, iżda li l-grad ta' dissimulazzjoni u qerq minn Sam jista 'jkollhom ċans li fl-aħħar mill-aħħar jiġi mfakkar f'dik l-iskala.
Iva, naħseb li l-aktar impressjonanti dwar dik il-kwotazzjoni, onestament, huwa li ċċempel madwar Microsoft u ma tieħux simili, "Dan hu miġnun. Qatt ma smajna dan." Ikollok ħafna bħal, "Iva, ħafna nies hawn jaħsbu li" li hija notevoli. U naħseb li tmur għal dawn il-mistoqsijiet tan-negozju tal-ġewż u l-boltijiet.
Investitur wieħed qalli, pereżempju, fid-dawl tal-mod li bih din il-karatteristika baqgħet tippersisti fis-snin ta 'wara l-isparar "- u dan ħaseb ukoll li dan kien ħsieb sobri interessanti - li mhux neċessarjament li Sam għandu jkun fil-qiegħ assolut tal-lista, bħal għandu jkun l-aktar baxx tal-baxx f'termini ta 'nies li assolutament m'għandhomx jibnu din it-teknoloġija, għal dak li huwa karatteristika li jiswa El Musk. forsi fil-qiegħ tal-lista ta’ nies li għandhom jibnu l-AGI, u taħt diversi figuri oħra ewlenin f’dan il-qasam.
Allura ħsibt li kienet valutazzjoni interessanti, u dak huwa t-tip ta 'ħsieb li naħseb li tikseb mill-pragmatisti reali li forsi mhux qed jixtru kemm it-tħassib dwar is-sigurtà. Huma biss orjentati lejn it-tkabbir, u jaħsbu li l-OpenAI issa għandu problema ma 'Sam Altman.
Il-biċċa Microsoft hija tassew interessanti. Dik il-kumpanija ħasbu li kienu fuq nett tad-dinja. Li kienu għamlu dan l-investiment u kienu se jaqbżu lil kulħadd, speċjalment u l-aktar importanti, Google, u jerġgħu jidħlu fil-grazzji tajba tal-konsumaturi. Il-livell li għalih iħossu maħruqa minn din l-avventura - din hija kumpanija mmexxija b'mod sobri ħafna - ma naħsibx li jista 'jiġi eżaġerat.
Semmejt il-karattri u l-karatteristiċi tal-personalità. Irrid nispiċċa hawn b’mistoqsija mis-semmiegħa tagħna. Għidt fl-ispettaklu l-ieħor tagħna, The Vergecast, li kont se nitkellem miegħek, u għedt, "Jekk għandek mistoqsijiet għal Ronan dwar din l-istorja, għarrafni." Allura għandna waħda hawn li naħseb li torbot sewwa ma 'dak li qed tiddeskrivi. Se naqrah biss:
“Kif huma differenti l-ġustifikazzjonijiet għall-imġieba ħażina, l-azzjonijiet maqtugħin ta’ Altman u mexxejja oħra tal-AI, mill-ġustifikazzjonijiet li Ronan sema’ minn mexxejja oħra ta’ profil għoli fil-politika u l-midja? Ma jiġġustifikawx l-azzjonijiet tagħhom kollha billi jgħidu li dan huwa kif id-dinja tinbidel? Jekk ma nagħmelx dan, ħaddieħor jagħmel?”
Iva, hemm ħafna minn dak li għaddej. Jien ngħid li dak li huwa distintiv għall-AI huwa li l-ishma eżistenzjali li huma tant unikament għoljin ifisser li ż-żewġ dikjarazzjonijiet ta 'riskju huma estremi, hux? Għandek lil Sam Altmanqal, "Dan jista 'jkun dwal għalina lkoll." U wkoll, jistgħu jgħidu l-kritiċi, il-manija li qed jirreferi għaliha min qed jagħmel il-mistoqsija hija estrema, hux?
Il-ħaġa li Sam akkuża biha lil Elon, fuq ir-rekord, kienet li forsi jrid isalva l-umanità, iżda biss jekk hu. It-tip ta 'komponent ego ta' tixtieq li tirbaħ, li huwa inkwadrar Sam juża l-ħin kollu, u li dan huwa wieħed għall-kotba tal-istorja, dan jista 'jbiddel kollox. Allura għalhekk, anki lil hinn mill-mentalità ta '"li għandek tkisser ftit bajd" tal-biċċa l-kbira tal-intrapriżi ta' Silicon Valley, hemm, fl-imħuħ ta 'xi figuri li jwasslu AI, naħseb, razzjonalizzazzjoni sħiħa għal kull riżultat.
U tinsa tkissir il-bajd. Naħseb/naħseb li ħafna mir-riċerkaturi tas-sikurezza sottostanti ngħidu li potenzjalment qed jirriskjaw li jkissru l-pajjiż, ikissru d-dinja, u jkissru miljuni ta’ nies li l-impjiegi u s-sigurtà tagħhom huma fil-bilanċ - dan hu uniku dwarha. Hemmhekk nagħlaq, nirrifletti fuq dan il-korp ta 'rappurtar, verament nemmen li dan huwa dwar aktar minn Sam Altman. Dan huwa dwar industrija li mhix ristretta u problema li qed tiżdied tal-Amerika li ma tistax tillimitaha.
Iva. Ukoll, kellna xi ottimiżmu hemmhekk, imma naħseb li dak huwa post tajjeb biex inħalluh.
[Jidħak] Tmiem fuq downbeat.
Naturalment. Dik hija kull storja kbira, tassew. Il-prova Musk-Altman ġejja. Naħseb li se nitgħallmu ħafna aktar hawn. Nissuspetta li se nixtieq nerġa' nitkellem miegħek. Ronan Farrow, grazzi ħafna talli kont fuq Decoder.
Grazzi.
Mistoqsijiet jew kummenti dwar dan l-episodju? Hit us up fuq [email protected]. Aħna tassew naqraw kull email!
