Ngayon sa Decoder, nakikipag-usap ako kay Ronan Farrow, isa sa mga pinakamalaking bituin ng pag-uulat sa pagsisiyasat na gumagana ngayon. Sinira niya ang kuwento ni Harvey Weinstein, bukod sa marami, marami pang iba. At noong nakaraang linggo, siya at ang co-author na si Andrew Marantz ay nag-publish ng isang hindi kapani-paniwalang deep-dive feature sa The New Yorker tungkol sa OpenAI CEO na si Sam Altman, ang kanyang pagiging mapagkakatiwalaan, at ang pagtaas ng OpenAI mismo.
Isang tala bago pa tayo tumuloy dito —Inilathala ng New Yorker ang kuwentong iyon at nagkaroon kami ni Ronan ng ganitong pag-uusap bago namin malaman ang buong lawak ng mga pag-atake sa tahanan ni Altman, kaya hindi mo kami maririnig na direktang pag-usapan iyon. Ngunit para lamang sabihin ito, sa palagay ko ang anumang uri ng karahasan ay hindi katanggap-tanggap, ang mga pag-atake na ito kay Sam ay hindi katanggap-tanggap, at ang uri ng kawalan ng kakayahan na nararamdaman ng mga tao, na humahantong sa ganitong uri ng karahasan, ay mismong hindi katanggap-tanggap, at ito ay nagkakahalaga ng higit pang pagsisiyasat mula sa industriya at sa ating mga pinuno sa pulitika. Sana malinaw iyon.
Mga verge subscriber, huwag kalimutang makakakuha ka ng eksklusibong access sa ad-free Decoder saan mo man makuha ang iyong mga podcast. Tumungo dito. Hindi subscriber? Maaari kang mag-sign up dito.
Ang lahat ng sinabi, maraming umiikot sa Altman na patas na laro para sa mahigpit na pag-uulat - ang uri ng pag-uulat na itinakda nina Ronan at Andrew na gawin. Dahil sa katanyagan ng ChatGPT, lumitaw si Altman bilang ang pinakakitang figurehead ng industriya ng AI, na naging isang halos trilyong-dolyar na pribadong kumpanya sa loob lamang ng ilang taon ang isang nonprofit na research lab. Ngunit ang mitolohiya ni Altman ay lubos na nagkakasalungatan, parehong tinukoy sa pamamagitan ng kanyang malinaw na kakayahang makipag-deal at ang kanyang naiulat na ugali na... mabuti, magsinungaling sa lahat ng tao sa kanyang paligid.
Mahigit 17,000 salita ang haba ng kuwento, at naglalaman ito ng tiyak na salaysay ng nangyari noong 2023 nang biglang sinibak ng OpenAI board of directors si Altman dahil sa kanyang diumano'y pagsisinungaling, para lamang sa kanya na halos agad na muling matanggap sa trabaho. Isa rin itong malalim na pagsisid sa personal na buhay ni Altman, sa kanyang mga pamumuhunan, sa kanyang panliligaw sa pera sa Middle Eastern, at sa kanyang sariling mga pagmumuni-muni sa kanyang nakaraang pag-uugali at mga katangian ng karakter na nagbunsod sa isang source na sabihin na siya ay "hindi napigilan ng katotohanan." Talagang iminumungkahi kong basahin mo ang buong kuwento; Inaasahan ko na ito ay sasangguni sa maraming taon na darating.
Maraming beses na nakipag-usap si Ronan kay Altman sa loob ng 18 buwan na ginugol niya sa pag-uulat ng pirasong ito, kaya isa sa mga pangunahing bagay na gusto kong malaman ay kung may naramdaman siyang pagbabago sa Altman sa panahong iyon. Pagkatapos ng lahat, maraming nangyari sa AI, sa tech, at sa mundo sa nakalipas na taon at kalahati.
Maririnig mong direktang pinag-uusapan iyon ni Ronan, pati na rin ang kanyang pakiramdam na ang mga tao ay naging mas handang magsalita tungkol sa kakayahan ni Altman na iunat ang katotohanan. Nagsisimula nang magtaka ang mga tao, nang malakas at nasa rekord, kung ang pag-uugali ng mga tao tulad ni Altman ay may kinalaman, hindi lamang para sa AI o tech kundi pati na rin para sa kolektibong kinabukasan ng lipunan.
Okay: Ronan Farrow sa Sam Altman, AI, at ang katotohanan. Dito na tayo.
Ang panayam na ito ay bahagyang na-edit para sa haba at kalinawan.
Ronan Farrow, isa kang investigative reporter at contributor sa The New Yorker. Maligayang pagdating sa Decoder.
Masaya akong nandito. Salamat sa pagkakaroon sa akin.
Excited na akong makausap ka. Sumulat ka lang ng isang malaking piraso para sa The New Yorker. Ito ay isang profile ni Sam Altman at, tulad nito, OpenAI. Ang nabasa ko dito ay, tulad ng ginagawa ng lahat ng magagandang feature, ito, sa mahigpit na pag-uulat, ay nagpapatunay ng maraming damdamin na mayroon ang mga tao tungkol kay Sam Altman sa napakahabang panahon. Malinaw na nai-publish mo ito, nakakuha ka ng mga reaksyon dito. Ano ang nararamdaman mo tungkol dito ngayon?
Buweno, nabuhayan ako ng loob, sa totoo lang, sa lawak kung saan ito nasira sa panahon kung saan ang ekonomiya ng atensyon ay napaka-schizophrenic at mababaw. Ito ay isang kuwento na, sa aking pananaw, ay nakakaapekto sa ating lahat. At nang gumugol ako ng isang taon at kalahati ng aking buhay, at ang aking kapwa may-akda, si Andrew Marantz, ay ginugol din ang kanyang oras, talagang sinusubukang gumawa ng isang bagay na forensic at maselan, ito ay palaging dahil sa pakiramdam ko ay may mas malalaking isyung istruktura na nakakaapekto sa mga tao na higit sa indibidwal at kumpanya sa puso ng kuwento.
Sam Altman, laban sa backdrop ng Silicon Valley hype culture at mga startup na lumalaban sa napakalaking pagpapahalaga batay sa mga pangakong maaaring mangyari o hindi mangyayari sa hinaharap, at ang pagtaas ng yakap ng isang founder culture na nag-iisip na ang pagsasabi sa iba't ibang grupo ng iba't ibang magkasalungat na bagay ay isang tampok, hindi isangbug...Kahit sa background na iyon, si Sam Altman ay isang pambihirang kaso kung saan ang lahat sa Silicon Valley na umaasa sa mga bagay na iyon ay hindi maaaring tumigil sa pag-uusap tungkol sa tanong na ito ng kanyang pagiging mapagkakatiwalaan at kanyang katapatan.
Alam na namin na siya ay tinanggal dahil sa ilang bersyon ng mga alegasyon ng hindi tapat o sunud-sunod na di-umano'y pagsisinungaling. Ngunit pambihira, sa kabila ng katotohanang nagkaroon ng napakagandang pag-uulat, si Keach Hagey ay gumawa ng mahusay na gawain dito. Malaki ang nagawa ni Karen Hao dito. Talagang walang tiyak na pag-unawa sa aktwal na di-umano'y mga punto ng patunay at ang mga dahilan kung bakit ang mga iyon ay nanatili sa labas ng mata ng publiko.
Kaya ang pangunahing punto ay ang pakiramdam ko ay nabuhayan ako ng loob sa katotohanan na ang ilan sa mga puwang na iyon sa ating kaalaman sa publiko, at maging sa kaalaman ng mga tagaloob ng Silicon Valley, ay napunan na ngayon ng kaunti pa. Ang ilan sa mga dahilan kung bakit nagkaroon ng mga gaps ay napunan ng kaunti pa.
Nag-uulat kami ng mga kaso kung saan naramdaman ng mga tao sa loob ng kumpanyang ito na may mga bagay na tinakpan o sadyang hindi naidokumento. Ang isa sa mga bagong bagay sa kuwentong ito ay isang mahalagang pagsisiyasat ng law firm ni WilmerHale, na malinaw na isang magarbong, kapani-paniwala, malaking law firm na nagsagawa ng mga pagsisiyasat sa Enron at WorldCom, na, sa pamamagitan ng paraan, lahat ay napakalaki, tulad ng daan-daang mga pahinang na-publish. Ginawa ni WilmerHale ang pagsisiyasat na ito na hiniling ng mga miyembro ng board na nagpaalis kay Altman bilang kondisyon ng kanilang pag-alis nang maalis niya sila, at bumalik siya. At pambihira — sa mata ng maraming eksperto sa batas na nakausap ko, at nakakagulat sa mata ng maraming tao sa kumpanyang ito — hindi nila ito naisulat. Ang lahat na lumabas mula doon ay isang 800-salitang press release mula sa OpenAI na inilarawan kung ano ang nangyari bilang isang pagkasira ng tiwala. At kinumpirma namin na ito ay itinatago sa mga oral briefing.
May mga kaso kung saan, halimbawa, ang isang miyembro ng board ay tila gustong bumoto laban sa conversion mula sa orihinal na nonprofit na anyo ng OpenAI sa isang for-profit na entity, at ito ay naitala bilang isang abstention. Parang isang abogado sa pulong na nagsasabing, "Well, that could trigger too much scrutiny." At ang taong gustong bumoto laban ay maitatala bilang isang abstention sa lahat ng pagpapakita. Mayroong isang makatotohanang pagtatalo. Sinasabi ng OpenAI kung hindi man, gaya ng maiisip mo. Ito ang lahat ng mga kaso kung saan mayroon kang isang kumpanya na, sa pamamagitan ng sarili nitong account, hawak ang ating hinaharap sa mga kamay nito.
Ang mga pusta sa kaligtasan ay napakatindi na hindi sila nawala. Ito ang dahilan kung bakit itinatag ang kumpanyang ito bilang isang nonprofit na nakatutok sa kaligtasan, at kung saan ang mga bagay ay tinatakpan sa paraang mas mababa sa propesyonal ang mga mapagkakatiwalaang tao sa paligid nito. At isasama mo iyon sa isang backdrop kung saan napakakaunting gana sa pulitika para sa makabuluhang regulasyon. Sa tingin ko ito ay isang napakasusunog na sitwasyon.
Ang punto para sa akin ay hindi lamang na karapat-dapat si Sam Altman sa mga tanong na ito nang husto. Ito rin ay ang alinman sa mga taong ito sa larangang ito, at marami sa mga pangunahing tauhan, ay nagpapakita, kung hindi man ang partikular na kakaibang ito, di-umano'y nagsisinungaling-sa-panahong ugali, tiyak na isang antas ng isang race-to-the-bottom na mentality, kung saan ang mga taong naging safetyist ay pinabayaan ang mga pangakong iyon at ang lahat-ay-sa-isang-lahi na postura.
Sa palagay ko, habang tinitingnan natin ang mga kamakailang paglabas ng Anthropic, mayroong isang tao na nagtatanong kung sino ang dapat magkaroon ng kanilang daliri sa pindutan sa piraso na ito. Ang sagot ay, kung wala tayong makabuluhang pangangasiwa, sa palagay ko kailangan nating magtanong ng mga seryosong tanong at subukang maglabas ng maraming impormasyon hangga't maaari tungkol sa lahat ng mga taong ito. Kaya't nabuhayan ako ng loob sa kung ano ang nararamdaman tulad ng isang makabuluhang pag-uusap tungkol doon, o ang simula ng isa.
Ang dahilan kung bakit ko ito tinanong sa paraang iyon ay dahil nagtrabaho ka dito sa loob ng isang taon at kalahati. Nakipag-usap ka, naniniwala ako, 100 katao kasama ang iyong co-author, si Andrew. Iyan ay isang mahabang panahon para sa isang kuwento upang maluto. Sa tingin ko tungkol sa nakaraang taon at kalahati sa AI sa partikular, at boy, ang mga saloobin at halaga ng lahat ng mga character na ito ay nagbago nang napakabilis.
Marahil ay wala nang iba kundi si Sam Altman, na nagsimula bilang default na panalo dahil naglabas sila ng ChatGPT at inisip ng lahat na iyon lang ang papalit sa Google. At pagkatapos ay tumugon ang Google, na tila nakakagulat sa kanila na susubukan ng Google na protektahan ang negosyo nito, marahil ang isa sa mga pinakamahusay na negosyo sa kasaysayan ng teknolohiya, kung hindi ang kasaysayan ng negosyo. Nagpasya si Anthropic na tumutok ito sa negosyo. Mukhang nangunguna na itodoon dahil napakataas ng enterprise use ng AI.
Ngayon, muling itinutuon ng OpenAI ang produkto nito palayo sa "dadalhin natin ang Google" sa Codex, at haharapin nila ang negosyo. Hindi ko lang masabi kung, sa panahon ng iyong pag-uulat sa nakaraang taon at kalahati, kung sa tingin mo ay nagbago ang mga karakter na iyong kausap? Tulad ng kanilang mga saloobin at kanilang mga halaga, nagbago ba ang mga iyon?
Oo. Sa tingin ko, una sa lahat, ang pagpuna na na-explore sa bahaging ito, na nagmumula sa maraming tao sa loob ng mga kumpanyang ito sa puntong ito — na ito ay isang industriya na, sa kabila ng mga eksistensyal na stake, ay bumababa sa isang bagay ng isang lahi hanggang sa ibaba sa kaligtasan at kung saan ang bilis ay higit sa lahat ng iba pa - ang pag-aalala na iyon ay lalong tumindi. At sa palagay ko ang mga alalahanin na iyon ay mas napatunayan habang ang nakaraang taon at kalahati ay nangyari. Kasabay nito, ang mga saloobin tungkol kay Sam Altman ay partikular na nagbago. Noong nagsimula kaming makipag-usap sa mga mapagkukunan para dito, ang mga tao ay talagang, talagang nakakatakot na ma-quote tungkol dito at pumunta sa rekord tungkol dito.
Sa pagtatapos ng aming pag-uulat, mayroon kang isang pangkat ng pag-uulat kung saan pinag-uusapan ito ng mga tao nang lantaran at tahasang, at mayroon kang mga miyembro ng board na nagsasabi ng mga bagay tulad ng, "Siya ay isang pathological na sinungaling. Siya ay isang sociopath." Mayroong isang hanay ng mga pananaw mula sa, "Mapanganib ito dahil sa mga stake sa kaligtasan, at kailangan namin ng mga pinuno ng teknolohiyang ito na may mataas na integridad," hanggang sa magustuhan, "Kalimutan ang mga stake sa kaligtasan, ito ay pag-uugali na hindi mapanghawakan para sa sinumang executive ng anumang pangunahing kumpanya, na lumilikha lamang ito ng labis na disfunction."
Kaya't ang pag-uusap ay naging mas tahasang sa paraang tila huli na, ngunit nakapagpapasigla sa isang kahulugan. At si Sam Altman, sa kanyang kredito... Ang piraso ay napaka patas at kahit na mapagbigay, sasabihin ko, kay Sam. Hindi ito ang uri ng piraso kung saan mayroong maraming bagay na "nakuha mo". Gumugol ako ng maraming, maraming oras sa telepono kasama siya habang tinatapos namin ito at talagang narinig siya.
Tulad ng maiisip mo, sa isang pirasong tulad nito, hindi lahat ay nakapasok. Ang ilan sa mga kaso sa isang ito ay dahil taimtim akong nakikinig. At kung talagang gumagawa ng argumento si Sam na pakiramdam ko ay may dalang tubig, na ang isang bagay, kahit na ito ay totoo, ay maaaring maging sensationalist, talagang nagkamali ako sa panig ng pagpapanatiling forensic na ito at sinusukat. Kaya sa palagay ko ay tama ang pagtanggap nito, at umaasa lang ako na ang makatotohanang rekord na ito na naipon sa panahong ito ay maaaring mag-trigger ng isang mas matibay na pag-uusap tungkol sa pangangailangan para sa pangangasiwa.
Iyon talaga ang aking susunod na tanong. Sa tingin ko ay nakausap mo si Sam ng isang dosenang beses sa pag-uulat ng kuwentong ito. Muli, iyon ay maraming pag-uusap sa loob ng mahabang panahon. Sa palagay mo ba ay nagbago si Sam sa kabuuan ng pag-uulat sa nakalipas na taon at kalahati?
Oo. Sa tingin ko ang isa sa mga pinaka-kagiliw-giliw na subplot dito ay na si Sam Altman ay nagsasalita din tungkol sa katangiang ito nang mas tahasang kaysa sa nakaraan niya. Ang postura ni Sam sa piyesang ito ay hindi tulad ng, "Wala doon, hindi ito totoo; Hindi ko alam kung ano ang iyong pinag-uusapan." Ang postura na mayroon siya ay sinasabi niya na ito ay nauugnay sa isang tendensya na nakalulugod sa mga tao at isang uri ng pag-iwas sa salungatan. Kinikilala niya na nagdulot ito ng mga problema para sa kanya, lalo na sa kanyang karera.
Sinasabi niya, "Buweno, nalampasan ko na iyon, o medyo nalampasan ko na iyon." Sa palagay ko, ang talagang kawili-wili sa akin ay ang contingent ng mga taong nakausap namin na hindi lamang uri ng mga tagapagtaguyod ng kaligtasan, hindi lamang ang mga pinagbabatayan na teknikal na mananaliksik na kadalasang may posibilidad na magkaroon ng mga talamak na alalahanin sa kaligtasan, kundi pati na rin ang mga praktikal at malalaking mamumuhunan. Sila ang mga tagasuporta ni Sam, na, sa ilang mga kaso, ay tumitingin sa tanong na ito at pinag-uusapan kahit na may mahalagang papel sa kanyang pagbabalik pagkatapos ng pagpapaputok. Ngayon, sa tanong na ito kung siya ay nabago, at kung gaano kahalaga ang pagbabagong iyon, sinasabi nila, "Buweno, binigyan namin siya ng benepisyo ng pagdududa noong panahong iyon."
Iniisip ko ang isang kilalang mamumuhunan sa partikular na nagsabing, "Ngunit mula noon, tila malinaw na hindi siya dinala sa likod ng kakahuyan," na siyang pariralang ginamit ng isang ito, sa lawak na kinakailangan. Bilang isang resulta, tila ito ngayon ay isang matatag na katangian. Nakikita natin ito sa patuloy na paraan. Maaari mong tingnan ang ilan sa pinakamalaking negosyo ng OpenAIrelasyon at kung paano nila dinadala ang bigat ng kawalan ng tiwala na iyon sa patuloy na paraan.
Tulad ng Microsoft, nakikipag-usap ka sa mga executive doon, at mayroon silang talamak at kamakailang mga alalahanin. Mayroong pagkakataong ito kung saan, sa parehong araw, muling pinatutunayan ng OpenAI ang pagiging eksklusibo nito sa Microsoft na may paggalang sa pinagbabatayan na mga modelong walang estado na AI ay nag-aanunsyo din ito ng isang bagong deal sa Amazon na may kinalaman sa pagbebenta ng mga solusyon sa negosyo para sa pagbuo ng mga ahente ng AI na stateful, ibig sabihin, mayroon silang memorya.
Nakikipag-usap ka sa mga taong Microsoft, at sila ay parang, "Hindi iyon posible nang hindi nakikipag-ugnayan sa mga pinagbabatayan na bagay kung saan mayroon kaming eksklusibong deal." Kaya isa lang iyan sa maraming maliliit na halimbawa kung saan ang katangiang ito ay may mga ugat sa patuloy na aktibidad ng negosyo sa lahat ng oras at isang paksa ng aktibong pag-aalala sa loob ng board ng OpenAI, sa loob ng executive suite nito, at sa mas malawak na komunidad ng teknolohiya.
Paulit-ulit mong sinasabi ang "trait." May isang linya sa kuwento na para sa akin ay parang thesis, at ito ay isang paglalarawan ng katangian na iyong inilalarawan. Iyon ay "Si Sam Altman ay hindi pinipigilan ng katotohanan" at mayroon siyang "dalawang katangian na halos hindi nakikita sa parehong tao: ang una ay isang matinding pagnanais na pasayahin ang mga tao, na magustuhan sa anumang partikular na pakikipag-ugnayan, at ang pangalawa ay isang halos sociopathic na kawalan ng pagmamalasakit sa mga kahihinatnan na maaaring magmula sa panlilinlang sa isang tao."
Kailangan kong sabihin sa iyo, nabasa ko ang pangungusap na iyon ng 500 beses, at sinubukan kong isipin na palaging sinasabi kung ano ang gustong magustuhan ng mga tao at pagkatapos ay hindi magalit kapag nakaramdam sila ng pagsisinungaling. At hindi ko maipaunawa sa aking emosyonal na estado kung paano maaaring umiral ang mga bagay na iyon sa iisang tao. Marami kang nakausap ni Sam, at nakausap mo ang mga taong nakaranas ng mga katangiang ito. Paano niya ito ginagawa?
Oo. Ito ay kawili-wili sa antas ng tao dahil lumalapit ako sa mga katawan ng pag-uulat na tulad nito nang may tunay na pagtuon sa pagbibigay-tao sa sinumang nasa puso nito at naghahanap ng malalim na pang-unawa at empatiya. Nang medyo sinubukan kong lapitan ito mula sa isang mas makataong pananaw at sabihin, "Hoy, ito ay magiging mapangwasak para sa akin kung napakaraming tao na nakatrabaho ko ang nagsabing ako ay isang pathological na sinungaling. Paano mo dinadala ang bigat na iyon? Paano mo pinag-uusapan iyon sa therapy? Ano ang kuwento na sinasabi mo sa iyong sarili tungkol diyan?"
Nakuha ko ang ilang uri ng, sa aking pananaw, marahil ang West Coast platitudes tungkol doon tulad ng, "Oo, gusto ko ang paghinga." Ngunit hindi gaanong uri ng pagpapalakas ng pakiramdam ng malalim na paghaharap sa sarili na sa tingin ko ay malamang na magkakaroon ng marami sa atin kung nakakakita tayo ng ganitong uri ng feedback tungkol sa ating pag-uugali at pagtrato sa mga tao.
Sa palagay ko ay napupunta din iyon sa mas malawak na sagot sa tanong. Iginiit ni Sam na ang katangiang ito ay nagdulot ng mga problema, ngunit ito rin ay bahagi ng kung ano ang nagbigay ng kapangyarihan sa kanya upang mapabilis ang paglaki ng OpenAI nang labis na kaya niyang magkaisa at mapasaya ang iba't ibang grupo ng mga tao. Patuloy niyang kinukumbinsi ang lahat ng magkasalungat na constituencies na kung ano ang pinapahalagahan nila ay kung ano ang mahalaga sa kanya. At iyon ay maaaring maging isang talagang kapaki-pakinabang na kasanayan para sa isang tagapagtatag. Nakipag-usap ako sa mga namumuhunan na pagkatapos ay nagsabi, "Buweno, marahil ito ay isang hindi gaanong kapaki-pakinabang na kasanayan para sa aktwal na pagpapatakbo ng isang kumpanya dahil naghahasik ito ng labis na kaguluhan."
Ngunit sa personal na panig ni Sam, sa palagay ko ang bagay na naiisip ko kapag sinubukan kong kumonekta sa antas ng tao ay ang maliwanag na kakulangan ng mas malalim na paghaharap, pagmuni-muni, at pananagutan sa sarili, na nagpapaalam din sa superpower o pananagutan para sa isang kumpanyang naghahanda para sa isang IPO.
Siya ay isang tao na, sa mga salita ng isang dating miyembro ng board na nagngangalang Sue Yoon, na nasa rekord sa piraso na nagsasabi na hanggang sa punto ng "kawalan ng kabuluhan" ay ang pariralang ginagamit niya, ay talagang naniniwala sa nagbabagong katotohanan ng kanyang mga pagbebenta o nakumbinsi ang kanyang sarili sa mga ito. O hindi bababa sa kung hindi siya naniniwala sa mga ito, nagagawa niyang i-bluster ang mga ito nang walang makabuluhang pagdududa sa sarili.
Sa palagay ko ang bagay na pinag-uusapan mo, kung saan ikaw o ako, habang sinasabi namin ang bagay at napagtatanto na sumasalungat ito sa iba pang katiyakan na ginawa namin, medyo nagkakaroon ng sandali ng pag-freeze o pagsuri sa aming sarili. Sa tingin ko hindi iyon nangyayari sa kanya. At mayroong isang mas malawak na kultura ng hype ng Silicon Valley at kultura ng tagapagtatag na uri ng pagyakap niyan.
Ito ay nakakatawa. Ang Verge ay binuo sa kung ano ang halaga ng isang review ng produktoprograma. Ito ang puso ng ginagawa natin dito. May hawak akong isang trilyong dolyar ng Apple R&D isang beses sa isang taon at sinasabing, "Ang teleponong ito ay isang pito." At ito ay uri ng pagiging lehitimo sa lahat ng aming pag-uulat at aming mga opinyon sa ibang lugar. Mayroon kaming evaluative function, at gumugugol kami ng napakaraming oras sa pagtingin lamang sa mga produkto ng AI at sinasabing, "Gumagana ba ang mga ito?"
Na parang nawawala ito sa maraming pag-uusap tungkol sa AI tulad ng ngayon. Mayroong walang katapusang pag-uusap tungkol sa kung ano ang maaaring gawin nito, kung gaano ito mapanganib. At pagkatapos ay mag-drill down ka, at sasabihin mo, "Ginagawa ba nito ang bagay na dapat nitong gawin ngayon?" Sa ilang mga kaso, ang sagot ay oo. Ngunit sa maraming, maraming kaso, ang sagot ay hindi.
Iyon ay parang kumokonekta ito sa hype culture na inilalarawan mo at gayundin sa pakiramdam na, well, kung sasabihin mong may gagawin ito at hindi, at masama ang pakiramdam ng isang tao, ayos lang iyon dahil papunta na tayo sa susunod na bagay. Iyan ay sa nakaraan. At sa partikular na AI, napakahusay ni Sam sa paggawa ng mga dakilang pangako.
Nitong linggo lang, sa palagay ko sa parehong araw nang ma-publish ang iyong kuwento, naglabas ang OpenAI ng isang dokumento ng patakaran na nagsasabing kailangan nating pag-isipang muli ang social contract at magkaroon ng AI efficiency stipends mula sa gobyerno. Ito ay isang dakilang pangako tungkol sa kung paano maaaring hubugin ng ilang teknolohiya ang kinabukasan ng mundo at kung paano tayo nabubuhay, at lahat ng iyon ay umaasa sa teknolohiyang gumagana nang eksakto sa paraang maaaring ipinangako itong gagana o dapat itong gumana.
Nakita mo na ba si Sam na nagdududa sa AI na nagiging AGI o superintelligence o makarating sa finish line? Dahil iyon ang pinaka pinagtataka ko. Mayroon bang anumang pagmuni-muni tungkol sa kung magagawa ng pangunahing teknolohiyang ito ang lahat ng bagay na sinasabi nilang magagawa nito?
Ito ay eksakto ang tamang hanay ng mga tanong. May mga mapagkakatiwalaang technologist na nakausap namin sa katawan ng pag-uulat na ito — at maliwanag na hindi isa si Sam Altman; isa siyang business person — na nagsasabi na ang paraan ng pagsasalita ni Sam tungkol sa timeline para sa tech na ito ay malayo pa. May mga blog post na nagbabalik sa loob ng ilang taon kung saan sinasabi ni Sam, "Naabot na natin ang abot-tanaw ng kaganapan. Nandito na talaga ang AGI. Malapit na ang superintelligence. Mapupunta tayo sa ibang mga planeta. Gagalingin natin ang lahat ng uri ng cancer." Totoo, hindi ako nagpapaganda.
Ang isang kanser ay talagang kawili-wili, na si Sam ay nagpapasigla sa taong ayon sa teorya ay nagpagaling sa kanser ng kanilang aso gamit ang ChatGPT, at hindi iyon nangyari. Nakipag-usap sila sa ChatGPT, at nakatulong iyon sa kanila na gabayan ang ilang mananaliksik na aktwal na gumawa ng gawain, ngunit ang isa-sa-isa, ang tool na ito ay gumaling sa asong ito ay hindi talaga ang kuwento.
Natutuwa akong itinaas mo ang puntong iyon dahil gusto kong magpatuloy sa mas malaking puntong ito tungkol sa kung kailan talaga mapupunta ang parehong potensyal at panganib ng teknolohiya. Ngunit ito ay nagkakahalaga ng pagbanggit sa mga maliliit na panig na ito na patuloy na nangyayari mula kay Sam Altman, kung saan tila muli niyang isinasama ang katangiang ito.
Ibig kong sabihin, gamitin ang halimbawa ng ulat ng WilmerHale, kung saan mayroon kaming impormasyong ito na hindi naisulat, at gustong malaman kung ang oral brief sa daan ay ibinigay sa sinuman maliban sa dalawang miyembro ng board na tinulungan ni Sam sa pag-install upang pangasiwaan ito. At sinabi niya, "Oo, oo, hindi, naniniwala ako na ibinigay ito sa lahat ng sumali sa board pagkatapos." At mayroon tayong isang tao na may direktang kaalaman sa sitwasyon na nagsasabi na ito ay isang kasinungalingan lamang. At iyon ay talagang lumalabas na ang kaso, na ito ay hindi totoo. Kung gusto nating maging bukas-palad, marahil ay na-misinform siya.
Mayroong maraming mga kaswal na kasiguruhan na ito. At ginagamit ko ang halimbawang iyon sa bahagi dahil iyon ay isang magandang halimbawa ng dissembling, tawagin natin ito, na maaaring magkaroon ng tunay na mga kahihinatnan nang legal. Hindi ko kailangang sabihin sa iyo, sa ilalim ng batas ng kumpanya ng Delaware, kung ang mga IPO ng kumpanyang ito, ang mga shareholder ay maaaring, sa ilalim ng seksyon 220, magreklamo tungkol dito at humiling ng pinagbabatayan na dokumentasyon. Mayroon nang mga miyembro ng board na nagsasabi ng mga bagay tulad ng, "Well, sandali, dapat na nangyari ang briefing na iyon."
Kaya ang mga bagay na ito na tila lumalabas sa kanyang bibig sa lahat ng oras, maaari silang magkaroon ng mga tunay na epekto sa merkado, mga tunay na epekto para sa OpenAI. Ibinabalik ito sa uri ng utopian hype na wika na muling lumitaw, sa palagay ko ay hindi nagkataon sa araw na lumabas ang piraso na ito, nakakaapekto rin ito sa ating lahat, dahil ang mga panganib ay napakatindi kung tungkol sa paraan nito.na itinalaga sa sandata, ang paraan ng paggamit nito upang tukuyin ang mga ahente ng pakikipagdigma ng kemikal, ang potensyal na disinformation, at dahil sa paraan kung saan ang utopiang hype ay tila nag-uudyok sa maraming mapagkakatiwalaang ekonomista na sabihin, "Narito ang lahat ng mga palatandaan ng isang bula."
Maging si Sam Altman ay nagsabi, "May isang taong mawawalan ng malaking pera dito." Iyon ay maaaring talagang magbunga ng maraming Amerikano at pandaigdigang paglago ng ekonomiya, kung mayroong tulad ng isang tunay na pagbubutas ng isang bula na kinasasangkutan ng lahat ng mga kumpanyang ito na gumagawa ng mga deal sa isa't isa, na ginagawa ang lahat sa AI habang nanghihiram nang labis. Kaya mahalaga ang sinasabi ni Sam Altman, at sa tingin ko ang preponderance ng mga tao sa paligid niya, nabanggit mo na nakausap namin ang higit sa isang daan, ito ay talagang higit sa isang daan. Nagkaroon kami ng pag-uusap sa finish line kung saan parang, "Masyado bang maliit na sabihin na ganito ang mas mataas na bilang?" At kami ay tulad ng, "Oo, pababain natin. Gagawin natin ito nang cool." Ngunit napakaraming tao at napakalaking mayorya sa kanila ang nagsasabing, "Ito ay isang alalahanin." At sa tingin ko iyon lang ang dahilan.
Hayaan mong tanungin kita tungkol sa numerong iyon. Gaya ng nabanggit mo, mas naging bukas ang mga tao sa mga alalahanin habang tumatagal. Ito ay parang ang pressure sa paligid ng bubble — ang karera upang manalo, upang bayaran ang lahat ng pamumuhunan na ito, upang lumabas bilang nagwagi, sa IPO — ay nagbago ng maraming mga saloobin. Ito ay tiyak na lumikha ng higit pang presyon sa Sam at OpenAI.
Nag-publish kami ng isang kuwento ngayong linggo tungkol lamang sa mga vibes ng OpenAI. Ang iyong kwento ay bahagi nito, ngunit napakalaking mga pagbabago sa staffing sa executive rank sa OpenAI — ang mga tao ay darating at aalis. Ang mga mananaliksik ay lahat ay patungo sa malayo, higit sa lahat sa Anthropic, na sa tingin ko ay talagang kawili-wili. Makikita mo lang na nararamdaman ng kumpanyang ito ang pressure, at tumutugon ito sa pressure na iyon sa ilang paraan.
Ngunit pagkatapos ay bumalik sa isip ko ang pagtanggal ni Sam. Memorable lang ito para sa akin. Hindi ito malilimutan para sa iba, ngunit tumawag ako sa Bronx Zoo sa 7PM noong Biyernes, at may nagsasabi na susubukan nilang bawiin si Sam. At pagkatapos ay ginugol namin ang katapusan ng linggo sa paghabol sa kuwentong iyon. And I was just like, "Nasa zoo ako. Ano ang gusto mong gawin ko dito?" At ang sagot ay, "Manatili sa telepono." Buweno, ang aking anak na babae ay tulad ng, "Ibaba ang telepono." At iyon ang ginawa ko.
It was ride or die para mabawi si Sam. Ang kumpanyang iyon ay tulad ng, "Hindi, hindi namin hinahayaan ang board na sunugin si Sam Altman." Ang mga namumuhunan, sila ay sinipi sa iyong piraso, "Nagpunta kami sa digmaan," sa palagay ko, ay ang posisyon ng Thrive Capital, "upang mabawi si Sam." Nakipagdigma ang Microsoft para maibalik si Sam. Mamaya na, at ngayon ang lahat ay parang, "Pupunta kami sa IPO. Nakarating kami sa finish line. Nabawi namin ang aming lalaki, at dadalhin niya kami sa finish line. Nag-aalala kami na sinungaling siya."
Bakit naging digmaan ang pagkuha sa kanya noon? Dahil parang wala naman talagang nagbago. Pinag-uusapan mo ang tungkol sa mga memo na itinago nina Ilya Sutskever at [Anthropic CEO] Dario Amodei noong sila ay kapanahon ni Sam Altman. Ang numero unong alalahanin ni Ilya ay sinungaling si Sam.
Wala sa mga iyon ang nagbago. Kaya bakit naging digmaan ang pagbabalik sa kanya noon? At ngayong nasa finish line na kami, parang lahat ng alalahanin ay nasa bukas na.
Buweno, una sa lahat, paumanhin sa iyong anak na babae at sa aking kapareha at sa lahat ng iba pang mga tao sa paligid ng mga mamamahayag.
[Laughs] Ito ay medyo isang katapusan ng linggo para sa lahat.
Oo, ito ay tumatagal sa buhay ng isang tao, at ang kuwentong ito ay tiyak na sa akin, sa huling yugto ng panahon. Ito ay talagang nauugnay sa temang ito ng pamamahayag at pag-access sa impormasyon, sa palagay ko. Ang mga namumuhunan na nakipagdigma para kay Sam at ang lahat ay gumanap ng mga tungkulin sa pagtiyak na babalik siya, at ang lupon na partikular na idinisenyo upang protektahan ang misyon ng isang nonprofit na maglagay ng kaligtasan sa paglago at magtanggal ng isang ehekutibo kung hindi sila mapagkakatiwalaan doon, umalis sila. Iyon ay lahat dahil, oo, ang mga insentibo sa merkado ay naroroon, tama?
Nakumbinsi ni Sam ang mga tao, "Buweno, babagsak lang ang kumpanya." Ngunit ang dahilan kung bakit siya nagkaroon ng suporta ay isang kakulangan ng impormasyon. Ang mga mamumuhunan na iyon, sa maraming pagkakataon, ay nagsasabi na ngayon, "Nagbabalik-tanaw ako, at sa palagay ko dapat ay nagkaroon ako ng higit pang mga alalahanin kung alam ko nang lubusan kung ano ang mga pag-aangkin at kung ano ang mga alalahanin."
Hindi lahat sa kanila;iba-iba ang mga opinyon, at sumipi kami ng hanay ng mga opinyon, ngunit may mga makabuluhang opinyon na kumikilos sa napakapartikular na impormasyon. Ang board na nagpaputok kay Sam ay, sa mga salita ng isang tao na dating nasa board, "napaka-JV," at hinampas nila ng husto ang bola. At kami ay nagdodokumento ng mga pinagbabatayan na reklamo, at ang mga tao ay maaaring magpasya para sa kanilang sarili kung ito ay naipon sa uri ng kagyat na pag-aalala na kanilang naramdaman, ngunit ang argumento at ang impormasyong iyon ay hindi ipinakita.
Natanggap nila ang kinikilala ngayon ng ilan sa kanila bilang masamang legal na payo. Upang ilarawan ito, maaalala mo ang quote, at malamang na maaalala ng marami sa iyong mga tagapakinig at manonood ang quote bilang isang kakulangan ng prangka. Iyon ay kung ano ang nabawasan sa, at pagkatapos ay talagang hindi sila tumanggap ng mga tawag.
Hindi sila tumanggap ng mga tawag. Sigurado akong sinubukan mo. Sinubukan ng lahat ng kakilala ko, at umabot sa punto kung saan, bilang isang mamamahayag, hindi ka dapat magbigay ng payo sa iyong mga mapagkukunan, ngunit parang, "Mawawala ito kung hindi mo sisimulan na ipaliwanag ang iyong sarili."
At iyon ang nangyari. Kalimutan ang mga mamamahayag. Sinabihan mo si Satya Nadella na, "Ano ang nangyari? Hindi ko makuha ang sinuman na magpaliwanag sa akin." At iyon ang pangunahing tagapagtaguyod ng pananalapi ng kumpanya. At pagkatapos ay mayroon kang Satya na tinatawagan [LinkedIn co-founder] Reid Hoffman at Reid na tumatawag at nagsasabing, "Hindi ko alam kung ano ang nangyari."
Maliwanag na nasa kawalan sila ng impormasyon, naghahanap ng mga tradisyunal na tagapagpahiwatig na hindi AI na magbibigay-katwiran sa ganoong kagyat, biglaang pagpapaputok. Tulad ng, okay, ito ba ay mga krimen sa sex? Embezzlement ba ito? At ang buong banayad, ngunit sa tingin ko ay makabuluhan, argumento na ang teknolohiyang ito ay iba at ang ganitong uri ng tuluy-tuloy na akumulasyon ng mas maliliit na pagkakanulo ay maaaring magkaroon ng makabuluhang pusta para sa negosyong ito at marahil para sa mundo, ay higit na nawala. Kaya ang mga kapitalistang insentibo ay nanalo, ngunit ang mga taong gumawa nito ay lumabas at hindi palaging gumagana nang may kumpletong impormasyon.
Gusto ko lang magtanong tungkol sa "kung ano ang inisip ng lahat" na aspeto sa isang sandali, dahil tiyak na nakita ko ang balita, at sinabi ko, "Naku, may masamang nangyari." Marami kang nagawang pag-uulat ng #MeToo, sikat. Sinira mo ang kwento ni Harvey Weinstein.
Gumugol ka ng maraming oras sa pag-uulat sa mga claim na ito na sa palagay ko ay napagpasyahan mo na sa huli ay walang batayan: na si Altman ay sekswal na inatake ang mga menor de edad o umupa ng mga sex worker, o kahit na pumatay ng isang OpenAI whistleblower. Ibig kong sabihin, ikaw ang taong maaaring mag-ulat ng bagay na ito nang mas mahigpit. Nagpasya ka ba na ito ay nauwi sa wala?
Well, tingnan mo, wala ako sa negosyo na sabihin na ang isang bagay ay naging wala. Ang masasabi ko ay ilang buwan akong tinitingnan ang mga claim na ito at wala akong nakitang katibayan para sa kanila. At kapansin-pansin sa akin na ang mga taong ito, ang mga kumpanyang ito na may napakaraming kapangyarihan sa ating mga kinabukasan, ay talagang gumugugol ng hindi katimbang na dami ng kanilang oras at mapagkukunan sa isang parang bata na labanan sa putik.
Inilalarawan ito ng isang executive bilang "Shakespearean." Walang humpay ang halaga ng pera ng pribadong imbestigador at ang mga dossier ng oposisyon na iniipon. At ang kapus-palad na bagay ay ang uri ng mga masasamang bagay, na nakukuha ng mga kakumpitensya ni Sam, ay ipinapalagay na katotohanan lamang, tama ba? Nariyan ang paratang na ito na hinahabol niya ang mga menor de edad na lalaki, at sa maraming cocktail party sa Silicon Valley, naririnig mo ito. Sa conference circuit, narinig ko na paulit-ulit lang ito ng mga mapagkakatiwalaan, kilalang executive: "Alam ng lahat na ito ay isang katotohanan."
Ang nakalulungkot ay pinag-uusapan ko kung saan ito nanggaling, ang iba't ibang mga vector kung saan ito ipinapadala. Si Elon Musk at ang kanyang mga kasama ay tila itinutulak ang mga hardcore na dossier na ganoong halaga sa wala. Masingaw ang mga ito kapag sinimulan mo talagang tingnan ang mga pinagbabatayan na claim. Ang nakalulungkot ay talagang tinatakpan nito ang mas maraming mga kritika na nakabatay sa ebidensya dito na sa tingin ko ay talagang karapat-dapat sa kagyat na pangangasiwa at pagsasaalang-alang.
Ang iba pang tema na talagang nanggagaling sa kuwento ay halos isang pakiramdam ng takot na si Sam ay may napakaraming kaibigan — namuhunan siya sa napakaraming kumpanya mula sa dati niyang tungkulin bilang CEO ng Y Combinator, hanggang sa kanyang personal na pamumuhunan, na ang ilan ay direktang sumasalungat sa kanyang tungkulin bilang CEO ng OpenAI — at may katahimikan sa paligid niya.
Nagulat ako habang nagbabasa ako ng isang linya sa partikular. Inilalarawan mo ang mga memo ni Ilya Sutskever, at nasa Silicon Valley lang ang mga ito. lahattinatawag silang Ilya memo. Ngunit kahit na may katahimikan sa paligid. Napapasa sila, ngunit hindi sila pinag-uusapan. Sa tingin mo saan galing yan? takot ba ito? Ito ba ay isang pagnanais na makakuha ng pamumuhunan ng anghel? Saan galing yan?
Sa tingin ko ito ay maraming duwag, ako ay magiging tapat. Ang pagkakaroon ng pag-ulat sa mga kuwento ng pambansang seguridad kung saan ang mga pinagmumulan ay mga whistleblower na naninindigang mawala ang lahat at nahaharap sa pag-uusig, ginagawa pa rin nila ang tamang bagay at pinag-uusapan ang mga bagay upang lumikha ng pananagutan. Nagtrabaho ako sa mga kwentong nauugnay sa mga krimen sa sex na binanggit mo, kung saan ang mga source ay labis na na-trauma at natatakot sa isang napaka-personal na uri ng paghihiganti.
Sa maraming kaso sa paligid ng beat na ito, nakikipag-ugnayan ka sa mga tao na may sarili nilang profile at kapangyarihan. Sila mismo ay mga sikat na tao o napapaligiran sila ng mga sikat na tao. Mayroon silang matatag na buhay sa negosyo. Sa aking pananaw, talagang napakababa ng pagkakalantad para sa kanila na pag-usapan ang mga bagay na ito. At sa kabutihang palad, ang karayom ay gumagalaw tulad ng napag-usapan namin kanina, at ang mga tao ngayon ay mas nagsasalita.
Ngunit sa loob ng mahabang panahon, ang mga tao ay talagang tumahimik tungkol dito dahil sa tingin ko ang kultura ng Silicon Valley ay sadyang walang awa na pansariling interes at walang awa na negosyo at paglago. Kaya sa palagay ko, pati ang ilan sa mga taong nasangkot sa pagpapatalsik kay Sam, kung saan nakita mo noong mga nakaraang araw, oo, isang kadahilanan na humantong sa kanyang pagbabalik at ang pagpapatalsik sa mga lumang miyembro ng board ay ang pag-rally niya ng mga mamumuhunan na nalilito sa kanyang layunin.
Ngunit ang isa pa ay ang napakaraming iba pang mga tao sa paligid nito na may mga alalahanin at nagpahayag sa kanila na apurahang nakatiklop na parang mga napkin at nagbago ng kanilang tono nang makita nilang umihip ang hangin sa kabilang direksyon, at gusto nilang sumakay sa tubo ng tren.
Medyo madilim, sa totoo lang, sa aking pananaw bilang isang reporter.
Ang ilan sa mga taong iyon ay si Mira Murati, na, naniniwala ako, sa loob ng 20 minuto ay ang bagong CEO ng OpenAI. Siya pagkatapos ay pinalitan. Ito ay isang napaka-komplikadong dinamika, at malinaw naman, bumalik si Sam. Ang isa pang tao ay si Ilya Sutskever, na isa sa mga boto upang alisin si Sam, at pagkatapos ay nagbago ang kanyang isip, o hindi bababa sa sinabi niya na nagbago ang kanyang isip, at pagkatapos ay umalis siya upang magsimula ng kanyang sariling kumpanya. Alam mo ba kung bakit nagbago ang isip niya? Pera lang ba?
Well, and to be clear, I’m not singling those two out. May iba pang board members na nasangkot sa pagpapaputok na tumahimik din pagkatapos. Sa tingin ko ito ay tulad ng isang mas malawak na kolektibong problema. Ito ay, sa ilang mga kaso, ang mga taong may moral na hibla upang magpatunog ng mga alarma at gumawa ng radikal na pagkilos, at iyon ay dapat papurihan. At iyan ay kung paano mo tinitiyak ang pananagutan. Nakatulong sana iyon sa maraming tao na apektado ng teknolohiyang ito. Maaaring nakatulong ito sa isang industriya na manatiling mas makabuluhang nakatuon sa kaligtasan.
Ngunit ang pakikitungo sa mga whistleblower at mga taong nagsisikap na i-prompt ang pananagutan na iyon nang husto, nakikita mo rin na kailangan ang hibla ng paninindigan at paninindigan sa iyong mga paniniwala. At ang industriyang ito ay tunay na puno ng mga tao na hindi naninindigan sa kanilang mga paniniwala.
Kahit na iniisip nila na nagtatayo sila ng isang digital na Diyos na kahit papaano ay aalisin ang lahat ng paggawa o lilikha ng higit pang paggawa, o may mangyayari.
Well, iyon ang bagay. Kaya't ang kultura ng hindi paninindigan sa iyong mga paninindigan at lahat ng etikal na alalahanin ay nahuhulog sa tabi ng daan sa sandaling mayroong anumang init o anumang bagay na maaaring magbanta sa iyong sariling katayuan sa negosyo ay marahil ay maayos at mabuti sa ilang mga lawak para sa negosyo-gaya ng nakagawiang mga kumpanya na gumagawa ng anumang uri ng widget.
Ngunit ito rin ang parehong mga tao na nagsasabing, "Ito ay maaaring literal na pumatay sa ating lahat." At muli, hindi mo kailangang pumunta sa Terminator Skynet extreme. Mayroong isang hanay ng mga panganib na nangyayari na. Ito ay totoo, at tama silang magbabala tungkol diyan, ngunit kailangan mong magkaroon ng isang tao na mag-psychologize kung paano mabubuhay ang dalawang bagay na iyon sa parehong mga tao kung saan sila nagpapatunog ng mga kagyat na babala, marahil ay naglalagay sila ng isang daliri at sinusubukang gumawa ng isang bagay, at pagkatapos ay natitiklop lamang sila at tumahimik.
Iyon mismo ang dahilan kung bakit maaari kang magkaroon ng mga ganitong uri ng mga bagay na hindi naisulat at mga bagay na inilalagay sa ilalim ng alpombra, at walang sinumang nagsasalita tungkol dito nang hayagan sa loob ng maraming taon pagkatapos ng katotohanan.
Ang natural, responsableng partido dito ay hindi ang mga CEO ng mga kumpanyang ito; ito ay mga pamahalaan. Sa Estados Unidos, marahilito ay mga pamahalaan ng estado, marahil ito ay ang pederal na pamahalaan.
Tiyak, lahat ng mga kumpanyang ito ay gustong maging pandaigdigan. Mayroong maraming mga pandaigdigang implikasyon dito. Napanood ko ang OpenAI, Google, at Anthropic na lahat ay hinihimok ang administrasyong Biden na maglabas ng isang executive order ng AI. Ito ay medyo walang ngipin sa dulo. Sinabi lang nito na kailangan nilang pag-usapan kung ano ang kaya ng kanilang mga modelo at maglabas ng ilang pagsubok sa kaligtasan. At pagkatapos ay sinuportahan nilang lahat si Trump, at pumasok si Trump at pinunasan ang lahat ng iyon at sinabing, "Kailangan nating maging mapagkumpitensya. Ito ay libre-para-sa-lahat. Go for it."
Kasabay nito, lahat sila ay nagsisikap na makalikom ng mga pondo mula sa mga bansa sa Middle Eastern na maraming pera sa langis at gustong baguhin ang kanilang mga ekonomiya. Mga politiko yan. Pakiramdam ko ay dapat talagang maunawaan ng mga pulitiko na may nagsasalita sa magkabilang panig ng kanilang bibig, at hindi sila masyadong magagalit kung may mabibigo sa huli, ngunit ang mga pulitiko ay sinasakyan din. Sa tingin mo bakit ganun?
Ito talaga, sa palagay ko, kung bakit mahalaga ang piraso sa aking pananaw at kung bakit sulit na gugulin ang lahat ng oras at detalyeng ito. Kami ay nasa isang kapaligiran kung saan ang mga sistema na, gaya ng sinasabi mo, ay dapat na nagbibigay ng pangangasiwa ay hungkag lamang. Iyan ay isang post-Citizens United America, kung saan ang daloy ng pera ay hindi napipigilan, at ito ay isang partikular na konsentrasyon ng problemang iyon sa paligid ng AI, kung saan mayroong mga PAC na ito na dumarami at bumabaha ng pera sa pagwawasak ng makabuluhang regulasyon sa parehong antas ng estado at pederal.
Mayroon kang [OpenAI co-founder] na si Greg Brockman, ang pangalawa sa command ni Sam, na direktang nag-aambag sa isang malaking paraan sa ilan sa mga iyon. Ito ay humahantong sa isang sitwasyon kung saan mayroon talagang pagkuha ng mga mambabatas at mga potensyal na regulator, at iyon ay isang mahirap na spiral upang makaalis. Ang nakalulungkot, sa palagay ko ay may mga simpleng hakbang sa patakaran, ang ilan sa mga ito ay sinusubok sa ibang lugar sa mundo, na makakatulong sa ilan sa mga problemang ito sa pananagutan.
Maaari kang magkaroon ng higit pang mandatoryong pagsubok sa kaligtasan bago ang pag-deploy, na isang bagay na nangyayari na sa Europe para sa mga frontier na modelo. Maaari kang magkaroon ng mas mahigpit na nakasulat na mga kinakailangan sa pampublikong rekord para sa mga uri ng panloob na pagsisiyasat kung saan nakita namin ang mga bagay na hindi naisulat sa kasong ito. Maaari kang magkaroon ng mas matatag na hanay ng mga mekanismo sa pagsusuri ng pambansang seguridad para sa mga uri ng mga ambisyon sa imprastraktura ng Middle Eastern na itinutulak ni Sam Altman.
Gaya ng sinasabi mo, ginagawa niya ang pain na ito at lumipat sa administrasyong Biden, na nagsasabing, "I-regulate kami, i-regulate kami," at tinutulungan silang gumawa ng executive order, at pagkatapos ay sa sandaling pumasok si Trump, talagang sa mga unang araw, hindi na lang pinipigilan, "Bilisan natin at bumuo tayo ng napakalaking campus ng data center sa Abu Dhabi." Maaari kang magkaroon, ito ay talagang simple, tulad ng mga proteksyon ng whistleblower. Walang pederal na batas na nagpoprotekta sa mga empleyado ng kumpanya ng AI na nagbubunyag ng mga ganitong uri ng alalahanin sa kaligtasan na ipinapalabas sa bahaging ito.
Mayroon kaming mga kaso kung saan si Jan Leike, na isang senior safety guy sa OpenAI, ay nangunguna sa super alignment sa kumpanya. Sumulat siya sa board, mahalagang whistleblower na materyal, na nagsasabi na ang kumpanya ay lalabas sa riles sa kanyang misyon sa kaligtasan. Iyan ang mga uri ng mga tao na dapat ay mayroong isang oversight body na maaari nilang puntahan, at dapat silang magkaroon ng tahasang mga proteksyon ayon sa batas ng mga uri na nakikita natin sa ibang mga sektor. Ito ay simple upang kopyahin ang isang Sarbanes-Oxley-style na rehimen.
Sa palagay ko, sa kabila ng kung gaano kalubha ang problema ng Silicon Valley sa pag-aakala ng kontrol sa lahat ng mga lever ng kapangyarihan, at sa kabila ng kung gaano hungkag ang ilan sa mga institusyong ito na maaaring magbigay ng pangangasiwa at mga guardrail, naniniwala pa rin ako sa pangunahing matematika ng demokrasya at ng mga pulitikong may interes sa sarili. At parami nang parami ang data ng botohan na lumalabas na iniisip ng karamihan ng mga Amerikano na ang mga alalahanin, tanong, o panganib ng AI ay kasalukuyang mas malaki kaysa sa mga benepisyo.
Kaya sa palagay ko ang pagbaha ng pera sa pulitika mula sa AI, nasa loob ng lahat ng aming kapangyarihan na gawing mapagkukunan iyon ng tandang pananong na may paggalang sa mga pulitiko. Kapag bumoto ang mga Amerikano, dapat nilang sinisiyasat kung ang mga taong binoto nila, lalo na kung sila ay hindi kritikal at kontra-regulasyon, dahil sa lahat ng mga alalahaning ito, ay na-bankroll ng malalaking tech na espesyal na interes. Kaya sa palagay ko kung ang mga tao ay makakabasa ng mga pirasong tulad nito, nakikinig sa mga podcast na tulad nito, at may sapat na pag-aalaga upang pag-isipang kritikalang kanilang mga desisyon bilang mga botante, mayroong isang tunay na pagkakataon na bumuo ng isang nasasakupan sa Washington ng mga kinatawan na nagbabantay at pinipilit ang pangangasiwa.
Iyon ay maaaring isa sa mga pinaka-optimistikong bagay na narinig ko na sinabi ng sinuman tungkol sa kasalukuyang industriya ng AI. Pinahahalagahan ko ito. Nahuhumaling ako sa botohan na sinasabi mo. Marami na ngayon. Ang lahat ng ito ay medyo pare-pareho, at mukhang mas maraming kabataan, sa partikular, ang nalantad sa AI, mas hindi nagtitiwala at nagagalit sila tungkol dito. Iyan ang valence ng lahat ng botohan. At tinitingnan ko iyon, at sa palagay ko, well, yeah, tatakbo lang ang matatalinong pulitiko laban diyan. Sasabihin lang nila, "Papanagutin namin ang malaking tech."
Pagkatapos ay iniisip ko ang tungkol sa nakalipas na 20 taon, isang politiko na nagsasabing papanagutin nila ang malaking tech, at nahihirapan akong makahanap ng kahit isang sandali ng malaking tech na mananagot. Ang tanging bagay na nagpapaisip sa akin na maaaring iba ito ay, mabuti, kailangan mo talagang bumuo ng mga sentro ng data, at maaari kang bumoto laban doon, at maaari kang magpetisyon laban doon, at maaari kang magprotesta laban doon.
Sa tingin ko mayroong isang pulitiko na kinunan lang ang kanilang bahay dahil bumoto sila para sa isang data center. Umaabot na ang tensyon, I would call it, a fever pitch. Inilarawan mo ang insularity ng Silicon Valley. Isa itong saradong ecosystem. Parang akala nila kaya nilang patakbuhin ang mundo. Naglalagay sila ng isang toneladang pera sa pulitika, at tumatakbo sila laban sa katotohanan na hindi mahal ng mga tao ang mga produkto, na hindi nagbibigay sa kanila ng maraming takip. Kapag mas ginagamit nila ang mga produkto, mas nagagalit sila, at nagsisimula nang makita ng mga pulitiko na may mga tunay na kahihinatnan sa pagsuporta sa industriya ng tech sa mga taong kinakatawan nila.
Nakausap mo ang napakaraming tao. Sa palagay mo, posible bang matutunan ng industriya ng teknolohiya ang aral na nasa harapan nila?
Sabi mo parang iniisip nila na kaya nilang patakbuhin ang mundo nang walang pananagutan. Hindi ko iniisip na kailangan nito ang kwalipikadong "pakiramdam". Ibig kong sabihin, tingnan mo ang wikang ginagamit ni Peter Thiel, ito ay tahasan. Siyempre, iyon ay isang matinding halimbawa. At si Sam Altman, kahit na malapit siya at alam ng ideolohiya ni Thiel sa ilang mga lawak, ay isang ibang uri ng tao na maaaring magkaiba ang tunog at mas nasusukat hanggang sa isang punto.
Ngunit sa palagay ko ang mas malawak na ideolohiya na nakukuha mo mula kay Thiel, na karaniwang: Tapos na tayo sa demokrasya, hindi na natin ito kailangan. Napakarami namin kaya gusto lang naming magtayo ng sarili naming maliit na bunker. Hindi na kami nakikipag-ugnayan sa mga Carnegies o sa Rockefellers, kung saan sila ay masasamang tao, ngunit sa palagay nila kailangan nilang lumahok sa isang kontrata sa lipunan at bumuo ng mga bagay para sa mga tao. Mayroong isang tunay na nihilismo na nakalagay.
At sa palagay ko, isa lamang itong nagpapatibay sa isa't isa sa kamakailang kasaysayan ng Amerika ng mga mogul at pribadong kumpanya na nakakakuha ng sobrang kapangyarihan ng pamahalaan habang ang mga demokratikong institusyon na maaaring managot sa kanila ay nahuhulog. Hindi ako optimistic tungkol sa ideya na ang mga taong iyon ay maaaring magising na lang isang araw at mag-isip, "Huh, talagang kailangan nating lumahok sa lipunan at tumulong sa pagbuo ng mga bagay para sa mga tao."
Ibig kong sabihin, tinitingnan mo ang tulad ng microcosmic na halimbawa ng The Giving Pledge, kung saan nagkaroon ng isang sandali kung saan ito ay tila pagiging kawanggawa, at ang sandaling iyon ay lumipas na at pinagtatawanan pa nga. Problema iyon, ang mas malawak na problema ng kawalan ng pananagutan na sa tingin ko ay malulutas lamang sa labas. Iyon ay dapat na mga botante na nagpapakilos at muling binubuhay ang kapangyarihan ng pangangasiwa ng pamahalaan. At tama kang sabihin na ang pangunahing vector kung saan maaaring makamit iyon ng mga tao ay lokal. Ito ay may kinalaman sa kung saan itinatayo ang imprastraktura.
Binanggit mo ang ilan sa puting-mainit na tensyon sa paligid nito na humahantong sa karahasan at pagbabanta, at malinaw naman, walang dapat maging marahas o nagbabanta. At wala rin ako dito para gumawa ng mga partikular na rekomendasyon sa patakaran maliban sa ipakita lang ang ilan sa mga hakbang sa patakaran na mukhang basic at gumagana sa ibang lugar sa mundo, tama ba? O yung mga nagtrabaho na sa ibang sektor. Hindi ako narito para sabihin kung alin sa mga iyon ang dapat isagawa at kung paano.
Sa tingin ko, may kailangang mangyari, at kailangan itong maging panlabas, hindi lamang pagtitiwala sa mga kumpanyang ito. Dahil tamamayroon na tayong sitwasyon ngayon kung saan ang mga kumpanyang nagpapaunlad ng teknolohiya at may pinakamainam na kagamitan upang maunawaan ang mga panganib, at sa katunayan ay ang mga nagbabala sa atin ng mga panganib, ay ang mga walang anuman kundi insentibo na pumunta nang mabilis at huwag pansinin ang mga panganib na iyon. At wala kang anumang bagay upang i-counterbalance iyon. Kaya't anuman ang mga reporma na maaaring tumagal sa mga tuntunin ng mga detalye, may isang bagay na kailangang tumakbo laban doon. At bumabalik pa rin ako sa optimismo na mahalaga pa rin ang mga tao.
Karaniwang binibili ko ang iyong argumento. Hayaan mo lang akong gumawa ng isang maliit na kontraargumento na sa tingin ko ay maaari kong sabihin. Ang iba pang bagay na maaaring mangyari sa labas ng kahon ng balota ay ang pag-pop ng bula, tama ba? Na hindi lahat ng mga kumpanyang ito ay nakarating sa linya ng pagtatapos, at na walang produkto sa merkado na akma para sa mga consumer AI application. At muli, hindi ko pa ito masyadong nakikita, ngunit isa akong consumer tech na tagasuri, at marahil mayroon lang akong mas mataas na pamantayan kaysa sa lahat.
May product market fit sa business world, tama ba? Ang pagkakaroon ng isang grupo ng mga ahente ng AI na magsulat ng isang grupo ng software ay tila isang tunay na merkado para sa mga tool na ito. At mababasa mo ang mga argumento mula sa mga kumpanyang ito na nagsasabing, "Nalutas na namin ang coding, at nangangahulugan iyon na malulutas namin ang anuman. Kung makakagawa kami ng software, malulutas namin ang anumang problema."
Sa tingin ko may mga tunay na limitasyon sa mga bagay na magagawa ng software. Iyan ay mahusay sa mundo ng negosyo. Hindi malulutas ng software ang bawat problema sa katotohanan, ngunit kailangan nilang makarating doon. Kailangan nilang tapusin ang trabaho, at marahil hindi lahat ay umabot sa finish line. At mayroong isang pag-crash, at ang bubble na ito ay lumalabas, at maaaring OpenAI o Anthropic o xAI, isa sa mga kumpanyang ito ay nabigo, at lahat ng pamumuhunan na ito ay mawawala.
Sa tingin mo ba makakaapekto ito dito? Actually, hayaan mo muna akong magtanong. Ang OpenAI ay nasa tuktok ng isang IPO. Maraming mga pagdududa tungkol kay Sam bilang isang pinuno. Sa tingin mo ba aabot sila sa finish line?
Hindi ako maghuhula, ngunit sa palagay ko ay itinaas mo ang isang mahalagang punto, na ang mga insentibo sa merkado ay mahalaga sa loob ng Silicon Valley, at ang katiyakan ng kasalukuyang bubble dynamics ay naninindigan upang matakpan ang, muli, potensyal, ayon sa mga kritiko, karera hanggang sa ibaba sa kaligtasan.
Idadagdag ko rin diyan, kung titingnan mo ang makasaysayang precedence kung saan mayroong katulad at tila hindi malalampasan na hanay ng mga insentibo sa merkado at potensyal na nakakapinsalang epekto para sa publiko, mayroong epektong paglilitis. At nakikita mo iyon bilang isang lugar ng pag-aalala kamakailan lamang. Si Sam Altman ay nasa labas ngayong linggo na nag-eendorso ng batas na magsasanggalang sa mga kumpanya ng AI mula sa ilan sa mga uri ng pananagutan na nalantad sa OpenAI sa mga maling demanda sa kamatayan, halimbawa. Siyempre, may pagnanais na magkaroon ng kalasag na iyon mula sa pananagutan.
Sa tingin ko, ang mga korte ay maaari pa ring maging isang makabuluhang mekanismo, at talagang kawili-wiling makita kung paano nabuo ang mga suit na ito. Nakita mo na, halimbawa, ang class-action suit, kung saan ako at marami, marami pang ibang may-akda na alam kong miyembro, laban sa Anthropic para sa kanilang paggamit ng mga aklat na nasa ilalim ng copyright. Kung may matatalinong legal na isip at nagsasakdal na nagmamalasakit, gaya ng nakita natin sa kasaysayan sa mga kaso mula sa malaking tabako hanggang sa malaking enerhiya, maaari ka ring makakuha ng ilang mga guardrail at ilang mga insentibo upang pabagalin, mag-ingat, o protektahan ang mga tao sa ganoong paraan.
Pakiramdam nito ay ang buong istraktura ng gastos ng industriya ng AI ay nakasalalay sa isang napaka, napakakawanggawa na interpretasyon ng patas na paggamit. Hindi lumalabas nang sapat. Ang istraktura ng gastos ng mga kumpanyang ito ay maaaring mawalan ng kontrol kung kailangan nilang bayaran ka at lahat ng iba pa na ang trabaho ay kinuha nila, ngunit hindi maginhawang isipin, kaya hindi na lang namin iniisip ang tungkol dito. Sa tabi mismo nito, ang lahat ng mga produktong ito ay tumatakbo nang lugi. Tulad ngayon, lahat sila ay tumatakbo nang lugi. Sila ay nagsusunog ng mas maraming pera kaysa sa maaari nilang kumita. Sa ilang mga punto, kailangan nilang i-flip ang switch.
Si Sam ay isang negosyante. Tulad ng ilang beses mong nabanggit, hindi siya isang technologist. Siya ay isang taong negosyante. Sa tingin mo, handa na ba siyang i-flip ang switch at sabihing, "Kumikita tayo ng isang dolyar?" Dahil kapag tinanong ko, "Sa tingin mo ba ay gagawin ito ng OpenAI?" Ito ay kapag kailangan nilang kumita ng isang dolyar. At sa ngayon, nakuha na ni Sam ang lahat ng kanyang mga dolyar sa pamamagitan ng paghingi ng pera sa ibang tao sa halip na kumita ng pera ang kanyang mga kumpanya.
Well, iyon ay isang malaking matagal na tanong para sa Silicon Valley, para sa mga mamumuhunan, para sa publiko.Nakikita mo ang ilang mga pahayag at umalis sa OpenAI na tila nagpapakita ng isang uri ng gulat tungkol doon. Isinasara si Sora, pinasara ang ilang mga karagdagang proyekto, sinusubukang i-zero in sa pangunahing produkto. Ngunit sa kabilang banda, nakikita mo pa rin, at the same time, tons of mission creep, di ba? Kahit na ang isang maliit na halimbawa - ito ay malinaw na hindi pangunahing sa kanilang negosyo - ay ang pagkuha ng TBPN.
Oo nga pala, sa mismong pag-abot namin sa finish line at fact-checking, ang kumpanyang nahaharap sa ganitong uri ng journalistic na pagsisiyasat ay nakakakuha ng isang plataporma kung saan maaari silang magkaroon ng higit na direktang kontrol sa pag-uusap. Sa palagay ko, maraming mamumuhunan ang nag-aalala, batay sa mga pag-uusap na naranasan ko, na ang problemang ito ng pangako sa lahat ng bagay sa lahat ng tao ay umaabot din sa kawalan ng pagtutok sa pangunahing modelo ng negosyo. At ang ibig kong sabihin, mas malapit ka sa uri ng paghuhula at pagmamasid sa merkado kaysa marahil sa akin. Iiwan ko sa iyo at sa mga tagapakinig na maging hukom kung sa tingin nila ay maaaring i-flip ng OpenAI ang switch.
Kaya, tinanong ko ang tanong dahil mayroon kang isang quote sa piraso mula sa isang senior executive ng Microsoft, at ito ay, "Ang legacy ni Sam ay maaaring maging mas katulad kay Bernie Madoff o Sam Bankman-Fried," kaysa kay Steve Jobs. Iyan ay lubos na paghahambing. Ano ang ginawa mo sa paghahambing na iyon?
Sa tingin ko iyon ay isang paraphrase. Ang bahagi ng Steve Jobs ay hindi bahagi ng quote. Ngunit mayroong isang kawili-wiling uri ng kahinahunan dahil ito ay binigkas bilang tulad ng, "Sa tingin ko ay may maliit ngunit totoong pagkakataon na siya ay naging isang SBF o isang Madoff-level na scammer." Ibig sabihin, sa aking isipan, hindi na si Sam ang inaakusahan ng mga partikular na uri ng pandaraya o mga krimen, ngunit ang antas ng dissembling at panlilinlang mula kay Sam ay maaaring magkaroon ng pagkakataon na tuluyang maalala sa sukat na iyon.
Oo, sa palagay ko ang pinaka-kapansin-pansin sa quote na iyon, sa totoo lang, ay ang pagtawag mo sa Microsoft at hindi ka nakakakuha ng tulad ng, "Nakakabaliw iyan. Hindi pa namin narinig iyon." Makakakuha ka ng maraming tulad ng, "Oo, maraming tao dito ang nag-iisip na" na kapansin-pansin. At sa tingin ko ito ay napupunta sa mga mani at bolts na mga tanong sa negosyo.
Isang mamumuhunan ang nagsabi sa akin, halimbawa, sa liwanag ng paraan kung saan nananatili ang katangiang ito sa mga taon pagkatapos ng pagpapaputok” — at naisip din nito na ito ay isang kawili-wiling matino na pag-iisip — na hindi nangangahulugang si Sam ay dapat na nasa pinakababa sa listahan, tulad ng dapat na pinakamababa sa mga tuntunin ng mga taong talagang hindi dapat bumuo ng teknolohiyang ito, para sa kung ano ang halaga ng taong ito na sinabi ni Elon. marahil sa ibaba ng listahan ng mga taong dapat bumuo ng AGI, at sa ilalim ng ilang iba pang nangungunang mga numero sa larangang ito.
Kaya naisip ko na iyon ay isang kawili-wiling pagtatasa, at iyon ang uri ng pag-iisip na sa tingin ko ay nakukuha mo mula sa mga tunay na pragmatista na marahil ay hindi masyadong bumibili sa mga alalahanin sa kaligtasan. Ang mga ito ay nakatuon lamang sa paglago, at iniisip nila na ang OpenAI ngayon ay may problema kay Sam Altman.
Ang piraso ng Microsoft ay talagang kawili-wili. Akala ng kumpanyang iyon ay nasa tuktok sila ng mundo. Na ginawa nila ang pamumuhunan na ito at tatalunin nila ang lahat, lalo na at higit sa lahat, ang Google, at babalik sa magandang biyaya ng mga consumer. Ang antas kung saan sila nakaramdam ng pagkasunog sa pakikipagsapalaran na ito — ito ay isang napakahusay na pinamamahalaan na kumpanya — sa palagay ko ay hindi masasabik.
Nabanggit mo ang mga karakter at ang mga katangian ng personalidad. Nais kong magtapos dito sa isang katanungan mula sa aming mga tagapakinig. Sinabi ko sa isa pa naming palabas, The Vergecast, na kakausapin kita, at sinabi ko, "Kung mayroon kang mga katanungan para kay Ronan tungkol sa kuwentong ito, ipaalam sa akin." Kaya mayroon kaming isa dito na sa tingin ko ay nauugnay nang maayos sa iyong inilalarawan. Babasahin ko lang ito sa iyo:
"Paano naiiba ang mga katwiran para sa masamang pag-uugali, mga mapanlinlang na aksyon ng Altman at iba pang mga pinuno ng AI, sa mga katwiran na narinig ni Ronan mula sa iba pang mga high-profile na pinuno sa politika at media? Hindi ba't binibigyang-katwiran nilang lahat ang kanilang mga aksyon sa pagsasabing ganito ang pagbabago sa mundo? Kung hindi ko gagawin ito, may iba?"
Oo, maraming nangyayari sa paligid. Sasabihin ko kung ano ang katangi-tangi sa AI ay ang pagiging napakataas ng existential stakes ay nangangahulugan na ang parehong mga pahayag ng panganib ay sukdulan, tama ba? Mayroon kang Sam Altmanna nagsasabing, "Ito ay maaaring patayin ang mga ilaw para sa ating lahat." At saka, baka sabihin ng mga kritiko, ang kahibangan na tinutukoy ng nagtatanong, di ba?
Ang bagay na inakusahan ni Sam kay Elon, sa talaan, ay marahil ay gusto niyang iligtas ang sangkatauhan, ngunit kung siya lamang ito. Ang uri ng ego na bahagi ng pagnanais na manalo, na isang pag-frame na ginagamit ni Sam sa lahat ng oras, at na ito ay isa para sa mga aklat ng kasaysayan, maaari nitong baguhin ang lahat. Kaya samakatuwid, kahit na sa itaas at higit pa sa "kailangan mong basagin ang ilang mga itlog" na mindset ng karamihan sa mga negosyo sa Silicon Valley, mayroong, sa isip ng ilang mga figure na nangunguna sa AI, sa tingin ko, isang kumpletong rasyonalisasyon para sa anuman at lahat ng fallout.
At kalimutan ang pagbasag ng mga itlog. Sa tingin ko, marami sa pinagbabatayan na mga mananaliksik sa kaligtasan ang magsasabi na posibleng masira ang bansa, masira ang mundo, at masira ang milyun-milyong tao na ang mga trabaho at kaligtasan ay nakasalalay sa balanse - iyon ang kakaiba dito. Doon ako nagsasara, na sumasalamin sa katawan ng pag-uulat na ito, talagang naniniwala na ito ay higit pa kay Sam Altman. Ito ay tungkol sa isang industriya na hindi napipigilan at isang umiikot na problema ng Amerika na hindi ito kayang pigilan.
Oo. Well, nagkaroon kami ng ilang optimismo doon, ngunit sa tingin ko iyon ay isang magandang lugar upang iwanan ito.
[Laughs] Magtapos sa isang downbeat.
Syempre. Iyan ang bawat magandang kuwento, talaga. Ang pagsubok ng Musk-Altman ay paparating na. Sa tingin ko marami pa tayong matututunan dito. Inaasahan kong gusto kitang makausap muli. Ronan Farrow, maraming salamat sa pagiging nasa Decoder.
salamat po.
Mga tanong o komento tungkol sa episode na ito? Puntahan kami sa [email protected]. Talagang binabasa namin ang bawat email!
