Dina iki ing Decoder, aku ngomong karo Ronan Farrow, salah sawijining bintang laporan investigasi paling gedhe sing digunakake saiki. Dheweke nyuwil crita Harvey Weinstein, antarane akeh, akeh liyane. Lan mung minggu kepungkur, dheweke lan co-penulis Andrew Marantz nerbitake fitur jero-nyilem sing luar biasa ing The New Yorker babagan CEO OpenAI Sam Altman, kapercayan, lan munggah OpenAI dhewe.
Siji cathetan sadurunge kita pindhah luwih ing kene - The New Yorker nerbitake crita kasebut lan aku lan Ronan wis ngobrol sadurunge ngerti babagan serangan ing omah Altman, mula sampeyan ora bakal krungu langsung. Nanging mung ngomong iku, Aku panganiaya saka sembarang jenis ora biso ditompo, iki serangan ing Sam padha ora ditrima, lan jenis helplessness sing wong aran, kang ndadékaké kanggo jinis iki panganiaya, iku dhewe ora biso ditompo, lan iku worth luwih nliti saka industri lan pemimpin politik kita. Mugi sing cetha.
Pelanggan sing paling cedhak, aja lali sampeyan entuk akses eksklusif menyang Decoder tanpa iklan ing endi wae sampeyan entuk podcast. Kepala kene. Ora langganan? Sampeyan bisa mlebu kene.
Kabeh sing ngandika, ana akeh swirling watara Altman sing game adil kanggo laporan kaku - jenis nglaporake Ronan lan Andrew kanggo nindakake. Thanks kanggo popularitas ChatGPT, Altman wis muncul minangka tokoh paling katon ing industri AI, sawise ngowahi laboratorium riset nirlaba dadi perusahaan swasta meh triliun dolar sajrone sawetara taun. Nanging mitos Altman banget konflik, padha ditetepake kanthi kemampuan dealmaking sing jelas lan kecenderungan sing dilaporake ... uga, ngapusi kabeh wong ing saubengé.
Crita kasebut dawane luwih saka 17,000 tembung, lan bisa uga ana akun definitif babagan kedadeyan ing 2023 nalika dewan direktur OpenAI tiba-tiba murub Altman amarga omongane bohong, mung dheweke meh langsung direkrut maneh. Iki uga nyilem jero babagan urip pribadi Altman, investasi, golek dhuwit saka Timur Tengah, lan refleksi dhewe babagan prilaku lan sipat karakter sing kepungkur sing nyebabake salah sawijining sumber ujar manawa dheweke "ora dikendhaleni dening bebener." Aku pancene nyaranake sampeyan maca kabeh crita; Aku curiga bakal dirujuk nganti pirang-pirang taun.
Ronan ngobrol karo Altman kaping pirang-pirang sajrone 18 wulan dheweke nglaporake babagan iki, mula salah sawijining perkara utama sing dakkarepake yaiku apa dheweke ngrasakake owah-owahan ing Altman sajrone wektu kasebut. Sawise kabeh, akeh sing kedadeyan ing AI, ing teknologi, lan ing saindenging jagad sajrone setengah taun kepungkur.
Sampeyan bakal krungu Ronan ngomong bab sing banget langsung, uga pangertèn sing wong wis dadi luwih gelem ngomong bab kemampuan Altman kanggo babagan bebener. Wong-wong wiwit gumun, kanthi banter lan direkam, apa prilaku wong kaya Altman, ora mung kanggo AI utawa teknologi nanging uga kanggo masa depan kolektif masyarakat.
Oke: Ronan Farrow ing Sam Altman, AI, lan bebener. Kene kita lunga.
Wawancara iki wis diowahi entheng kanggo dawa lan gamblang.
Ronan Farrow, sampeyan wartawan investigasi lan kontributor The New Yorker. Sugeng rawuh ing Decoder.
Bungah ing kene. Thanks kanggo duwe kula.
Aku seneng banget ngomong karo sampeyan. Sampeyan mung nulis potongan gedhe kanggo The New Yorker. It’s a profile of Sam Altman and, sort of with it, OpenAI. Waca sing dakkarepake yaiku, kaya sing ditindakake kabeh fitur sing apik, kanthi laporan sing ketat, menehi validasi akeh perasaan sing dialami wong babagan Sam Altman nganti suwe. Sampeyan wis jelas nerbitake, sampeyan entuk reaksi. Piye perasaanmu saiki?
Inggih, Aku wis heartened, bener, dening ombone kang bejat liwat ing wektu ngendi ekonomi manungsa waé dadi jenis skizofrenia lan cethek. Iki crita sing, ing panemuku, mengaruhi kita kabeh. Lan nalika aku ngginakaken taun lan setengah gesang kawula, lan co-penulis sandi, Andrew Marantz, uga ngginakaken wektu sing, tenan nyoba kanggo nindakake soko forensik lan tliti, iku tansah amarga aku aran kaya ana masalah struktural luwih gedhe sing mengaruhi wong ngluwihi individu lan perusahaan ing jantung crita.
Sam Altman, ing latar mburi budaya hype Silicon Valley lan startups sing balon kanggo valuations massive adhedhasar janji sing bisa utawa ora bakal kelakon ing mangsa, lan ngrangkul nambah saka budaya pangadeg sing mikir ngomong kelompok beda beda konflik iku fitur, ora abug…Sanajan latar mburi kasebut, Sam Altman minangka kasus sing luar biasa ing ngendi kabeh wong ing Lembah Silicon sing ngarepake prekara kasebut ora bisa mandheg ngomong babagan pitakonan iki babagan kapercayan lan kejujurane.
Kita wis ngerti yen dheweke dipecat amarga sawetara versi tuduhan ora jujur utawa serial sing diduga ngapusi. Nanging luar biasa, sanajan ana laporan sing apik banget, Keach Hagey wis nindakake pakaryan sing apik babagan iki. Karen Hao wis nindakake karya gedhe babagan iki. Pancen ora ana pangerten definitif babagan titik-titik bukti sing diduga nyata lan sebab-sebab kenapa dheweke ora katon ing mripat umum.
Dadi titik nomer siji yaiku aku rumangsa bungah amarga sawetara kesenjangan ing kawruh umum kita, lan malah ing kawruh wong njero Silicon Valley, saiki wis diisi luwih akeh. Sawetara alasan sing ana kesenjangan wis diisi luwih sithik.
Kita nglaporake kasus nalika wong-wong ing perusahaan iki rumangsa kaya ditutupi utawa sengaja ora didokumentasikake. Salah sawijining perkara anyar ing crita iki yaiku investigasi firma hukum sing penting dening WilmerHale, sing jelas minangka firma hukum sing apik, bisa dipercaya, sing nindakake investigasi Enron lan WorldCom, sing, kanthi cara, kabeh akeh banget, kaya atusan kaca sing diterbitake. WilmerHale nindakake investigasi iki sing dituntut dening anggota dewan sing mecat Altman minangka syarat budhal nalika dheweke nyingkirake, lan dheweke bali. Lan luar biasa - ing mripate akeh ahli hukum sing dakkandhakake, lan kaget banget ing mripate akeh wong ing perusahaan iki - dheweke ora nulis. Kabeh sing muncul saka iku yaiku siaran pers 800 tembung saka OpenAI sing nggambarake kedadeyan kasebut minangka rusake kepercayaan. Lan kita dikonfirmasi manawa iki disimpen ing briefing lisan.
Ana kasus ing ngendi, umpamane, anggota dewan katon pengin milih nglawan konversi saka wangun nonprofit asli OpenAI dadi entitas untung, lan dicathet minangka abstain. Ana kaya pengacara ing rapat kasebut, "Inggih, iki bisa nyebabake pengawasan sing akeh banget." Lan wong sing pengin milih nglawan bakal dicathet minangka abstain kanggo kabeh penampilan. Ana regejegan faktual. OpenAI ngaku yen ora, kaya sing sampeyan bayangake. Iki kabeh kasus nalika sampeyan duwe perusahaan sing, kanthi akun dhewe, nyekel masa depan ing tangane.
Totoan safety banget akut sing ora ilang. Iki minangka alesan perusahaan iki diadegake minangka organisasi nirlaba sing fokus ing safety, lan ing ngendi samubarang dikaburake kanthi cara sing bisa dipercaya dening wong sing bisa dipercaya ing saubengé. Lan sampeyan saperangan karo latar mburi ngendi ana sethitik napsu politik kanggo angger-angger migunani. Aku iku kahanan banget combustible.
Titik kanggo kula ora mung Sam Altman pantes pitakonan iki supaya akut. Iku uga sing sembarang wong lanang ing lapangan iki, lan akeh tokoh tombol, nuduhake, yen ora iki idiosyncratic tartamtu, miturut omongane uwong lying-kabeh-wektu sipat, mesthi sawetara jurusan mentality lomba-kanggo-ing-ngisor, ngendi wong-wong sing padha safetyists wis watered mudhun prasetya lan everyone-is-ing-a-lomba dedeg piadeg.
Aku mikir, nalika ndeleng bocor anyar saka Anthropic, ana wong sing takon sapa sing kudu nganggo tombol ing potongan iki. Wangsulane, yen kita ora duwe pengawasan sing migunani, aku mikir kita kudu takon pitakon serius lan nyoba nyedhiyakake informasi sing akeh babagan kabeh wong lanang iki. Dadi aku wis dadi ati sing rumangsa kaya obrolan sing migunani babagan iki, utawa wiwitane.
Alesan aku takon kaya ngono yaiku sampeyan nggarap iki sajrone setaun setengah. Sampeyan ngomong karo, aku pracaya, 100 wong karo co-penulis, Andrew. Sing dangu kanggo crita masak. Aku mikir bab pungkasan taun lan setengah ing AI ing tartamtu, lan boy, duwe Donyane lan nilai kabeh karakter iki pindah banget cepet.
Mungkin ora luwih saka Sam Altman, sing diwiwiti minangka juara standar amarga wis ngeculake ChatGPT lan kabeh wong mikir yen bakal njupuk alih Google. Lan banjur Google nanggapi, sing katon kaget yen Google bakal nyoba nglindhungi bisnise, bisa uga salah sawijining bisnis paling apik ing sejarah teknologi, yen ora sejarah bisnis. Anthropic mutusake yen bakal fokus ing perusahaan kasebut. Iku misale jek njupuk timbal printahana amarga panggunaan perusahaan AI dhuwur banget.
Saiki, OpenAI fokusake maneh produk saka "kita bakal njupuk Google" menyang Codex, lan dheweke bakal njupuk perusahaan kasebut. Aku mung ora bisa ngerti apa, sajrone laporan sampeyan sajrone setengah taun kepungkur, yen kaya karakter sing diomongake sampeyan diganti? Kaya sikap lan nilai-nilai kasebut, apa owah-owahan kasebut?
ya wis. Aku mikir pisanan kabeh, sing kritik sing nelik ing Piece iki, teka saka akeh wong nang perusahaan iki ing titik iki - sing iki industri sing, senadyan totoan eksistensial, mudhun menyang soko saka lomba kanggo ngisor ing safety lan ngendi kacepetan trumping kabeh liya - sing badhan wis thukul luwih akut. Lan aku mikir keprihatinan kasebut wis luwih divalidasi amarga taun kepungkur lan setengah wis kedadeyan. Bebarengan, sikap babagan Sam Altman wis diganti khusus. Nalika kita miwiti ngomong karo sumber kanggo iki, wong-wong pancene, pancen curiga yen dikutip babagan iki lan nggawe rekaman babagan iki.
Ing pungkasan laporan kita, sampeyan duwe badan nglaporake ing ngendi wong ngomong babagan iki kanthi terang-terangan lan jelas, lan sampeyan duwe anggota dewan sing ngomong kaya, "Dheweke tukang ngapusi patologis. Dheweke dadi sosiopat." Ana macem-macem perspektif saka, "Iki mbebayani amarga taruhan safety, lan kita butuh pimpinan teknologi iki sing nambah integritas," nganti kaya, "Lali totoan safety, iki prilaku sing ora bisa ditindakake kanggo eksekutif perusahaan apa wae, sing mung nggawe disfungsi sing akeh banget.
Dadi obrolan wis dadi luwih eksplisit kanthi cara sing bisa uga telat, nanging bisa nyenengake. Lan Sam Altman, kanggo kang kredit ... Piece banget adil lan malah loman, Aku ngomong, kanggo Sam. Iki dudu jinis potongan sing ana akeh barang "entuk sampeyan". Aku ngginakaken akeh, akeh jam ing telpon karo wong nalika kita rampung iki munggah lan tenan krungu wong metu.
Kaya sing sampeyan bayangake, ing potongan kaya iki, ora kabeh bisa ditindakake. Sawetara kasus ing kasus iki amarga aku ngrungokake kanthi tulus. Lan yen Sam bener-bener nggawe bantahan yen aku rumangsa nggawa banyu, manawa ana sing, sanajan bener, bisa dadi sensasional, aku pancen salah ing sisih njaga forensik iki lan diukur. Dadi aku mikir yen ditampa kanthi bener, lan muga-muga cathetan faktual sing dikumpulake sajrone wektu iki bisa nyebabake obrolan sing luwih kuwat babagan kabutuhan pengawasan.
Sejatine pitakonanku sabanjure. Aku sampeyan wis ngobrol karo Sam kaping rolas sajrone nglaporake crita iki. Maneh, sing akeh obrolan ing wektu sing suwe. Apa sampeyan mikir Sam diganti sajrone laporan sajrone setengah taun kepungkur?
ya. Aku salah siji saka subplots paling menarik ing iki Sam Altman uga ngomong bab sipat iki luwih tegas saka kang wis ing sasi. Sikap Sam ing potongan iki ora kaya, "Ora ana apa-apa, iki ora bener; Aku ora ngerti apa sing sampeyan omongake." Sikep sing diduweni yaiku dheweke ngandhakake iki amarga kecenderungan sing nyenengake wong lan jenis konflik konflik. Dheweke ngakoni manawa nyebabake masalah kanggo dheweke, utamane sadurunge karir.
Dheweke kandha, "Inggih, kula badhe nglangkungi punika, utawi kedah nglangkungi punika." Aku mikir sing paling menarik kanggo aku yaiku kontingen wong sing diajak ngobrol sing ora mung minangka panyengkuyung keamanan, ora mung peneliti teknis dhasar sing asring duwe masalah keamanan akut iki, nanging uga para investor pragmatis. Padha backers saka Sam, sing, ing sawetara kasus, katon ing pitakonan iki lan pirembagan bab malah wis diputer peran tombol ing bali sawise diperlokaké. Saiki, babagan pitakonan iki apa dheweke wis diowahi, lan sepira pentinge owah-owahan kasebut, dheweke kandha, "Inggih, kita mènèhi keuntungan saka keraguan kasebut."
Aku mikir siji investor penting ing tartamtu sing ngandika, "Nanging wiwit iku, misale jek cetha dheweke ora dijupuk metu konco woodshed,"Ing tembung sing iki digunakake, kanggo ombone sing perlu. Akibaté, misale jek kaya iki saiki sipat stabil. Kita ndeleng iki kanthi cara sing terus-terusan. Sampeyan bisa ndeleng sawetara bisnis paling gedhe ing OpenAIsesambetan lan cara padha jenis nindakake bobot saka mistrust ing cara aktif.
Kaya karo Microsoft, sampeyan ngobrol karo eksekutif ing kana, lan dheweke duwe keprihatinan sing akut lan bubar. Ana conto iki, ing dina sing padha OpenAI negesake eksklusivitas karo Microsoft babagan model AI tanpa negara, uga ngumumake kesepakatan anyar karo Amazon sing ana hubungane karo adol solusi perusahaan kanggo mbangun agen AI sing stateful, tegese duwe memori.
Sampeyan ngomong karo wong Microsoft, lan padha kaya, "Iki ora bisa ditindakake tanpa sesambungan karo perkara dhasar sing kita duwe kesepakatan eksklusif." Dadi, iki minangka salah sawijining conto cilik ing ngendi sipat iki nduweni tendrils menyang kegiatan bisnis sing terus-terusan lan dadi perhatian aktif ing papan OpenAI, ing suite eksekutif, lan ing komunitas teknologi sing luwih akeh.
Sampeyan terus ngomong "sifat". Ana baris ing crita sing kanggo kula aran kaya skripsi, lan iku gambaran saka sipat sing sampeyan njlèntrèhaké. Iku sing "Sam Altman iku unconstrained dening bebener" lan sing wis "loro sipat sing meh ora tau katon ing wong sing padha: pisanan kepinginan kuwat kanggo please wong, kanggo disenengi ing sembarang interaksi tartamtu, lan kaloro iku lack meh sociopathic saka badhan kanggo jalaran sing bisa teka saka ngapusi wong."
Aku kudu pitutur marang kowe, Aku maca ukara sing 500 kaping, lan aku nyoba kanggo mbayangno tansah ngomong apa wong pengin disenengi lan banjur ora upset nalika padha felt diapusi. Lan aku ora bisa nggawe kahanan emosiku ngerti kepiye kedadeyan kasebut bisa ana ing wong sing padha. Sampeyan wis ngomong karo Sam akeh, lan sampeyan wis ngomong karo wong sing wis ngalami sipat iki. Kepiye carane dheweke nindakake?
ya. Iku menarik ing tingkat manungsa amarga aku nyedhaki badan pelapor kaya iki kanthi fokus nyata kanggo memanusiakan sapa wae sing ana ing njero lan ngupaya pangerten lan empati sing jero. Nalika aku nyoba nyedhaki iki saka sudut pandang sing luwih manungsa lan ujar, "Hei, iki bakal ngrusak aku yen akeh wong sing wis kerja karo aku ujar manawa aku ngapusi patologis. Kepiye carane sampeyan nindakake bobote? Kepiye carane sampeyan ngomong babagan terapi kasebut? Apa crita sing sampeyan critakake babagan iki? "
Aku entuk sawetara, ing pandanganku, mungkin West Coast platitudes babagan kaya, "Ya, aku seneng kerja napas." Nanging ora akeh jinis rasa nyenyet saka konfrontasi diri sing jero sing dakkira akeh sing bisa uga ana yen kita ndeleng umpan balik babagan prilaku lan perawatan wong.
Aku sing bener menyang jawaban sing luwih jembar kanggo pitakonan, banget. Sam negesake manawa sipat iki nyebabake masalah, nanging uga minangka bagean saka apa sing menehi kekuwatan kanggo nyepetake wutah OpenAI supaya bisa nyawiji lan nyenengake macem-macem klompok wong. Dheweke terus-terusan ngyakinake kabeh konstituensi sing konflik iki yen dheweke peduli yaiku apa sing dheweke peduli. Lan sing bisa dadi skill tenan migunani kanggo pangadeg. Aku wis ngomong karo investor sing banjur ujar, "Inggih, mbok menawi katrampilan ingkang kirang migunani kangge nglakokaken perusahaan amargi nyebaraken perselisihan."
Nanging ing sisih pribadi Sam, aku mikir yen aku nyoba nyambungake ing tingkat manungsa yaiku kekurangan konfrontasi, refleksi, lan tanggung jawab sing luwih jero, sing uga ngandhani superpower utawa tanggung jawab kanggo perusahaan sing nyiapake IPO.
Dheweke minangka wong sing, ing tembung saka mantan anggota dewan sing jenenge Sue Yoon, sing ana ing cathetan ing potongan kasebut, ujar manawa nganti titik "fecklessness" yaiku tembung sing digunakake, bisa percaya karo kasunyatan sing owah saka dodolane utawa bisa ngyakinake awake dhewe. Utawa paling ora yen dheweke ora ngandel, dheweke bisa ngalahake dheweke tanpa mangu-mangu.
Aku mikir bab sing sampeyan gunakake, ing ngendi sampeyan utawa aku, amarga kita ngomong babagan lan ngerti yen konflik karo jaminan liyane sing wis digawe, ana sawetara wektu beku utawa mriksa awake dhewe. Aku sing ora kelakon karo wong. Lan ana budaya hype Silicon Valley lan budaya pangadeg sing luwih akeh.
Iku lucu. The Verge dibangun ing apa jumlah review produkprogram. Iku jantung apa kita nindakake kene. Aku nyekel siji triliun dolar Apple R&D setaun lan ujar, "Telpon iki pitung." Lan nggawe legitimasi kabeh laporan lan pendapat kita ing papan liya. Kita duwe fungsi evaluatif, lan kita nglampahi akeh wektu mung ndeleng produk AI lan ujar, "Apa padha bisa?"
Rasane kaya ilang saka akeh obrolan babagan AI kaya saiki. Ana obrolan tanpa wates babagan apa sing bisa ditindakake, kepiye mbebayani. Banjur sampeyan ngebor, lan sampeyan ujar, "Apa pancene nindakake perkara sing kudu ditindakake dina iki?" Ing sawetara kasus, jawabane ya. Nanging ing pirang-pirang kasus, jawabane ora.
Sing ngrasa kaya nyambungake karo budaya hype sing digambarake lan uga kanggo pangertèn sing, uga, yen sampeyan ngomong bakal nindakake apa-apa lan ora, lan ana sing ngrasa ala, ora apa-apa amarga kita arep menyang sabanjure. Iku ing jaman kepungkur. Lan khususe AI, Sam pancen apik banget nggawe janji gedhe.
Mung minggu iki, aku mikir ing dina sing padha karo crita sampeyan diterbitake, OpenAI nerbitake dokumen kabijakan sing ujar manawa kita kudu mikir maneh kontrak sosial lan duwe tunjangan efisiensi AI saka pamrentah. Iki minangka janji gedhe babagan carane sawetara teknologi bisa mbentuk masa depan donya lan cara urip, lan kabeh iku gumantung marang teknologi sing bisa digunakake kanthi persis kaya sing dijanjekake bakal bisa digunakake utawa kudu ditindakake.
Apa sampeyan tau nemokake Sam mangu-mangu AI dadi AGI utawa superintelligence utawa tekan garis finish? Amarga iku sing paling dakkarepake. Apa ana bayangan babagan apa teknologi inti iki bisa nindakake kabeh sing dikandhakake bisa ditindakake?
Iku persis set pitakonan sing tepat. Ana teknolog biso dipercoyo sing kita ngandika ing awak iki Reporting - lan temenan Sam Altman ora siji; iku wong bisnis - sing ngomong cara Sam ngomong bab timeline kanggo tech iki mung cara mati. Ana kiriman blog sing bali sawetara taun nalika Sam ujar, "Kita wis tekan cakrawala acara. AGI pancen ana ing kene. Superintelligence wis cedhak. Kita bakal ana ing planet liyane. Kita bakal ngobati kabeh bentuk kanker. " Pancen, aku ora nghias.
Kang kanker iku bener menarik, sing Sam hyping munggah wong sing miturut teori nambani kanker asu karo ChatGPT, lan iku mung ora kelakon. Dheweke ngobrol karo ChatGPT, lan mbantu dheweke nuntun sawetara peneliti sing bener-bener nindakake pakaryan, nanging siji-siji, alat iki nambani asu iki dudu critane.
Aku bungah yen sampeyan ngunggahake titik kasebut amarga aku pengin pindhah menyang titik sing luwih gedhe babagan nalika potensial lan risiko teknologi kasebut bakal ditindakake. Nanging kudu dicritakake iki asides cilik sing terus-terusan kedadeyan saka Sam Altman, ing ngendi dheweke katon maneh sipat iki.
Maksudku, kanggo nggunakake conto laporan WilmerHale, ngendi kita wis informasi iki sing wis katahan metu saka nulis, lan wanted kanggo ngerti apa singkat lisan ing sadawane dalan diwenehi kanggo wong liyane saka loro anggota dewan Sam mbantu nginstal kanggo ngawasi. Lan dheweke kandha, "Ya, ya, ora, aku percaya yen iki diwenehake kanggo kabeh wong sing melu dewan kasebut." Lan kita duwe wong sing ngerti langsung babagan kahanan sing ujar manawa mung goroh. Lan iki pancene katon, sing ora bener. Yen kita pengin dadi loman, mbok menawa dheweke salah informasi.
Ana akeh jaminan sembrono iki. Lan aku nggunakake conto kasebut ing bagean amarga iki minangka conto sing apik kanggo dissembling, ayo diarani, sing bisa duwe akibat nyata kanthi sah. Aku ora perlu ngandhani sampeyan, miturut hukum perusahaan Delaware, yen IPO perusahaan iki, para pemegang saham bisa, miturut bagean 220, sambat babagan iki lan njaluk dokumentasi sing ndasari. Wis ana anggota dewan sing ujar kaya mangkene, "Inggih, sedhela, pengarahan kasebut mesthine kedadeyan."
Dadi barang-barang iki sing katon terus metu saka cangkeme, bisa duwe efek obah pasar nyata, efek nyata kanggo OpenAI. Mbalik maneh menyang jinis basa hype utopia sing muncul maneh, aku mikir ora kebetulan nalika potongan iki metu, uga nyebabake kita kabeh, amarga bebaya banget akut babagan cara kasebut.sing disebarake ing gegaman, cara sing digunakake kanggo ngenali agen perang kimia, potensial disinformasi, lan amarga cara hype utopia katon akeh ekonom sing bisa dipercaya ujar, "Iki duwe kabeh tandha gelembung."
Malah Sam Altman wis kandha, "Ana sing bakal kelangan akeh dhuwit ing kene." Iki bisa nyebabake akeh pertumbuhan ekonomi Amerika lan global, yen ana gelembung sing bener-bener nglibatake kabeh perusahaan kasebut nindakake kesepakatan karo siji liyane, nindakake kabeh AI nalika nyilih akeh banget. Dadi apa Sam Altman ngandika prakara, lan aku preponderance wong watara wong, sampeyan kasebut kita ngomong karo luwih saka satus, iku bener uga liwat satus. Kita ngobrol ing garis finish sing kaya mangkene, "Apa dadi cilik banget yen ngomong kaya angka sing luwih dhuwur iki?" Lan kita kaya, "Ya, ayo mudhun. Kita bakal muter kanthi apik." Nanging ana akeh wong lan mayoritas sing ujar, "Iki prihatin." And I think that’s all why.
Ayo kula takon babagan nomer kasebut. Kaya sing wis sampeyan sebutake, wong saya tambah akeh mbukak karo keprihatinan nalika saya suwe. Rasane kaya tekanan ing sekitar gelembung - balapan kanggo menang, kanggo mbayar kabeh investasi iki, kanggo muncul minangka pemenang, menyang IPO - wis ngganti akeh sikap. Mesthi nggawe tekanan liyane ing Sam lan OpenAI.
Kita nerbitake crita minggu iki babagan getaran OpenAI. Crita sampeyan kalebu bagean, nanging owah-owahan staf sing akeh banget ing rangking eksekutif ing OpenAI - wong bakal teka lan lunga. Para peneliti kabeh tumuju, umume menyang Anthropic, sing dakkira pancen menarik. Sampeyan mung bisa ndeleng perusahaan iki ngrasakake tekanan, lan nanggapi tekanan kasebut ing sawetara cara.
Nanging banjur aku mikir maneh Sam dipecat. Iki mung paweling kanggo kula. Iku paweling kanggo ora ana wong liya, nanging aku njupuk telpon sumber ing Zoo Bronx ing 19:00 ana, lan ana wong sing lagi arep nyoba kanggo Sam bali. Banjur kita ngentekake akhir minggu nguber crita kasebut. Lan aku mung kaya, "Aku ana ing kebon binatang. Apa sampeyan pengin daklakoni ing kene?" Lan wangsulane, "Tetep ing telpon." Ya, putriku kaya, "Coba telpon." Lan kuwi sing tak lakoni.
Iku kulo utawa mati kanggo njaluk Sam bali. Perusahaan kasebut kaya, "Ora, kita ora nglilani papan kasebut murub Sam Altman." Investor, padha dipetik ing potongan sampeyan, "We went to war," Aku mikir, minangka posisi Thrive Capital, "kanggo njaluk Sam bali." Microsoft tindak perang kanggo njaluk Sam bali. Iku mengko, lan saiki kabeh wong kaya, "Kita arep IPO. Kita entuk garis finish. Kita entuk wong lanang maneh, lan dheweke bakal nggawa kita menyang garis finish. Kita kuwatir yen dheweke ngapusi."
Apa sebabe perang kanggo njaluk dheweke bali? Amarga ora katon apa-apa sing bener-bener diganti. Sampeyan ngomong babagan memo sing disimpen Ilya Sutskever lan [CEO Anthropic] Dario Amodei nalika padha contemporaries Sam Altman. Keprigelan Ilya sing nomer siji yaiku Sam sing ngapusi.
Ora ana sing owah. Dadi kenapa perang kanggo nggawa dheweke bali? Lan saiki wis ana ing garis finish, kayane kabeh keprihatinan wis dibukak.
Inggih, pisanan kabeh, nyuwun pangapunten kanggo putri lan partner lan kabeh wong ing sakubenge wartawan.
[Ngguyu] Iki akhir minggu sing cukup kanggo kabeh wong.
Ya, iku njupuk liwat urip siji, lan crita iki mesthi duwe mine, liwat wektu pungkasan. Iku bener ana hubungane karo tema jurnalisme lan akses menyang informasi, aku mikir. Investor sing tindak perang kanggo Sam lan kabeh main peran ing mesthekake yen bali, lan Papan sing wis dirancang khusus kanggo nglindhungi misi nirlaba kanggo sijine safety liwat wutah lan murub eksekutif yen padha ora bisa dipercaya karo sing, padha lunga. Iku kabeh amarga, ya, insentif pasar ana, ta?
Sam bisa ngyakinake wong, "Inggih, perusahaan bakal ambruk." Nanging alesan dheweke duwe dhukungan amarga kurang informasi. Investor kasebut, ing pirang-pirang kasus, saiki ujar, "Aku katon maneh, lan aku kudu duwe keprihatinan luwih akeh yen aku ngerti kanthi lengkap apa pratelan kasebut lan apa masalahe."
Ora kabeh mau;panemu beda-beda, lan kita Quote sawetara panemu, nanging ana pinunjul sing padha tumindak ing info banget sebagean. Papan sing murub Sam ana, ing tembung siji wong sing digunakake kanggo ing Papan, "banget JV,"Lan fumbled werni hard. Lan kita nyathet keluhan sing ndasari, lan wong bisa mutusake dhewe apa akumulasi dadi keprihatinan sing penting sing dirasakake, nanging argumentasi kasebut lan informasi kasebut ora diwenehake.
Dheweke nampa apa sing saiki diakoni sawetara minangka saran legal sing ala. Kanggo njlèntrèhaké, sampeyan bakal ngelingi kutipan kasebut, lan bisa uga akeh pamireng lan pamirsa bakal ngelingi kutipan kasebut minangka kekurangan candor. Iki sing dikurangi, banjur dheweke ora bakal nampa telpon.
Dheweke ora bakal nampa telpon. Aku yakin sampeyan nyoba. Saben uwong sing aku kenal nyoba, lan tekan titik, minangka wartawan, sampeyan ora kudu menehi saran sumber, nanging aku kaya, "Iki bakal ilang yen sampeyan ora miwiti nerangake dhewe."
Lan sing kedadeyan. Lali wartawan. Sampeyan duwe Satya Nadella kandha, "Apa sing kedadeyan? Aku ora bisa njaluk wong kanggo nerangake marang aku." Lan iki minangka panyengkuyung finansial utama perusahaan. Banjur sampeyan duwe Satya nelpon [pendiri LinkedIn] Reid Hoffman lan Reid nelpon lan ujar, "Aku ora ngerti apa sing kedadeyan."
Dheweke bisa dingerteni yen ora ana informasi kasebut, goleki indikasi non-AI tradisional sing bakal mbenerake penembakan sing cepet lan cepet. Kaya, oke, apa iku kejahatan seks? Apa iku embezzlement? Lan kabeh subtle, nanging aku mikir migunani, argumentasi manawa teknologi iki beda-beda lan akumulasi pengkhianatan sing luwih cilik iki bisa duwe taruhan sing migunani kanggo bisnis iki lan bisa uga kanggo jagad iki. Dadi insentif kapitalis menang, nanging uga wong sing nggawe metu lan ora tansah operasi kanthi informasi lengkap.
Aku mung arep takon babagan "apa sing dipikirake saben wong" sedhela, amarga aku mesthi weruh kabar kasebut, lan aku kandha, "Oh, mesthi ana kedadeyan sing ala." Sampeyan wis nindakake akeh laporan #MeToo, sing misuwur. Sampeyan nyuwil crita Harvey Weinstein.
Sampeyan wis ngenteni akeh wektu kanggo nglaporake pratelan kasebut sing dakkira sampeyan mutusake ora ana dhasar: Altman nyerang bocah cilik utawa nyewa pekerja seks, utawa malah mateni whistleblower OpenAI. Maksudku, sampeyan minangka wong sing bisa nglaporake perkara iki kanthi paling ketat. Apa sampeyan mutusake yen ora ana apa-apa?
Delengen, aku ora ngomong babagan apa-apa. Apa sing bisa dakkandhakake yaiku aku ngenteni pirang-pirang wulan ndeleng klaim kasebut lan ora nemokake bukti kanggo dheweke. And it was striking to me that these guys, these companies that have so much power over our futures, truly are spending a disproportionate amount of their time and resources in a childish mud fight.
Siji eksekutif nggambarake minangka "Shakespearean." Jumlah dhuwit penyidik pribadi lan dokumen oposisi sing dikumpulake ora kendhat. Lan sing paling ora nyenengake yaiku jinis barang sing ora sopan, sing ditindakake dening pesaing Sam, mung dianggep kasunyatan, ta? Ana tuduhan iki yen dheweke ngupayakake bocah-bocah sing durung umur, lan ing pirang-pirang pesta koktail ing Silicon Valley, sampeyan krungu iki. Ing sirkuit konferensi, aku krungu mung diulang dening eksekutif sing bisa dipercaya lan misuwur: "Kabeh wong ngerti iki kasunyatan."
Sing sedhih yaiku aku ngomong babagan asale, macem-macem vektor sing ditularake. Elon Musk lan kanca-kancane kaya-kaya meksa dossier hardcore sing ora ana apa-apa. Padha vaporous nalika sampeyan bener miwiti kanggo katon ing claims ndasari. Ingkang sedhih punika saestu nyamarke kritik adhedhasar bukti-bukti ing kene, sing dakanggep pancen pantes diawasi lan dipikirake kanthi cepet.
Tema liyane sing kedadeyan ing crita iki meh rasa wedi yen Sam duwe akeh kanca - dheweke wis nandur modal ing akeh perusahaan saka peran sadurunge minangka CEO saka Y Combinator, mung kanggo investasi pribadine, sawetara ana konflik langsung karo peran minangka CEO OpenAI - lan ana kasepen ing saubengé.
Iku disabetake kula nalika aku maca siji baris ing tartamtu. Sampeyan njlèntrèhaké memo Ilya Sutskever, lan lagi metu ing Silicon Valley. Kabeh wongngarani memo Ilya. Nanging ana malah kasepen watara iku. Lagi liwati, nanging padha ora rembugan. Saka ngendi sampeyan mikir? Apa wedi? Apa kepinginan kanggo entuk investasi malaikat? Saka ngendi asale?
Aku iki akeh cowardice, Aku bakal jujur. Sawise nglaporake babagan crita keamanan nasional ing ngendi sumber kasebut minangka whistleblower sing bakal kelangan kabeh lan ngadhepi penuntutan, dheweke isih nindakake perkara sing bener lan ngomong babagan nggawe akuntabilitas. Aku wis nggarap crita-crita sing gegandhengan karo kejahatan seks sing sampeyan sebutake, ing ngendi sumber trauma banget lan wedi karo retribusi pribadi.
Ing pirang-pirang kasus babagan beat iki, sampeyan lagi nemoni wong sing duwe profil lan kekuwatane dhewe. Padha salah siji wong misuwur piyambak utawa padha diubengi dening wong misuwur. Dheweke duwe urip bisnis sing kuat. Ing panemuku, sejatine kurang banget kanggo dheweke ngomong babagan perkara iki. Lan matur nuwun sanget, jarum kasebut obah kaya sing wis diomongake sadurunge, lan wong saiki luwih akeh ngomong.
Nanging kanggo dangu, wong pancene mung meneng bab iku amarga aku budaya Silicon Valley mung dadi ruthlessly poto-kapentingan lan ruthlessly bisnis lan wutah-oriented. Dadi aku iki afflicts malah sawetara wong sing melu ing murub Sam, ngendi sampeyan weruh ing dina sawise, ya, siji faktor sing mimpin kanggo dheweke bali lan murub saka anggota dewan lawas iku rallied investor sing padha bingung sabab.
Nanging liyane iku supaya akeh wong liya ing saubengé sing wis uneg-uneg lan voiced wong urgently mung lempitan kaya napkin lan ngganti tune wayahe padha weruh angin ndamu cara liyane, lan padha wanted ing Sepur MediaWiki.
It’s pretty dark, honestly, from my standpoint as a reporter.
Sawetara wong kasebut yaiku Mira Murati, sing, aku percaya, suwene 20 menit dadi CEO anyar OpenAI. Dheweke banjur diganti. Iku dinamis banget rumit, lan temenan, Sam bali. Wong liya iku Ilya Sutskever, sing dadi salah siji saka votes kanggo mbusak Sam, lan banjur ngganti pikirane, utawa paling ngandika wis owah-owahan pikirane, banjur ninggalake kanggo miwiti perusahaan dhewe. Apa sampeyan ngerti apa sing nggawe dheweke ngganti pikirane? Apa mung dhuwit?
Inggih, lan dadi cetha, aku ora singling wong loro. Ana anggota dewan liyane sing melu tembak sing uga meneng sawise. Aku kaya masalah kolektif luwih akeh. Iki, ing sawetara kasus, wong sing duwe serat moral kanggo muni weker lan njupuk tindakan radikal, lan sing kudu dipuji. Lan kaya ngono sampeyan njamin tanggung jawab. Sing bisa mbantu akeh wong sing kena pengaruh teknologi iki. Bisa uga nulungi industri supaya luwih fokus ing safety.
Nanging dealing with whistleblowers lan wong-wong sing nyoba kanggo njaluk tanggung jawab sing akeh, sampeyan uga weruh sing njupuk serat tancep metu lan ngadeg dening kapercayan. Lan industri iki pancen kebak wong sing mung ora netepi kapercayan.
Sanajan dheweke mikir yen dheweke lagi mbangun dewa digital sing bakal ngilangi kabeh tenaga kerja utawa nggawe tenaga kerja luwih akeh, utawa ana sing bakal kelakon.
Inggih, punika bab. Dadi budaya ora ngadeg miturut kapercayan lan kabeh keprihatinan etika tiba ing pinggir dalan nalika ana panas utawa apa wae sing bisa ngancem posisi sampeyan dhewe ing bisnis bisa uga apik lan apik kanggo perusahaan bisnis kaya biasane sing nggawe widget apa wae.
Nanging iki uga wong-wong sing padha ngomong, "Iki bisa mateni kita kabeh." Lan maneh, sampeyan ora kudu pindhah menyang Terminator Skynet nemen. Ana sawetara risiko sing wis kedadeyan. Iku nyata, lan padha bener kanggo ngelekake bab iku, nanging sampeyan kudu duwe kursi kursi liyane psychologize carane loro iku bisa manggon ing wong sing padha muni ing bebaya urgent, padha bisa sijine jempol lan nyoba kanggo nindakake soko, banjur padha mung lempitan lan Mudhun meneng.
Pramila sampeyan bisa duwe kedadeyan kaya ngono sing ora bisa ditulis lan barang-barang sing disapu ing karpet, lan ora ana sing ngomong babagan iki kanthi terbuka nganti pirang-pirang taun sawise kasunyatan kasebut.
Partai sing tanggung jawab lan alami ing kene ora bakal dadi CEO perusahaan kasebut; iku bakal dadi pamaréntah. Ing Amerika Serikat, bisa ugaiku pamaréntah negara, Mungkin iku pamaréntah federal.
Mesthine, perusahaan kasebut kabeh pengin dadi global. Ana akeh implikasi global ing kene. Aku nonton OpenAI, Google, lan Anthropic kabeh ngarahake administrasi Biden kanggo ngeculake pesenan eksekutif AI. Iku cukup ompong ing pungkasan. Mung ujar manawa dheweke kudu ngomong babagan model sing bisa ditindakake lan ngeculake sawetara tes safety. Banjur kabeh padha ndhukung Trump, lan Trump mlebu lan ngilangi kabeh lan ujar, "Kita kudu kompetitif. Iku gratis kanggo kabeh.
Ing wektu sing padha, dheweke kabeh nyoba golek dana saka negara-negara Timur Tengah sing duwe dhuwit minyak lan pengin ngganti ekonomi. Iku politisi. Aku rumangsa yen politisi kudu ngerti yen ana wong sing ngomong saka loro-lorone cangkeme, lan dheweke ora bakal kesel banget yen ana wong sing kuciwa ing pungkasan, nanging para politisi uga dicekel. Apa sampeyan mikir sing?
Iki pancene, aku mikir, kenapa potongan kasebut penting ing pandanganku lan kenapa kudu dibuwang kabeh wektu lan rinci. Kita ana ing lingkungan ing ngendi sistem sing, kaya sing sampeyan ucapake, kudu menehi pengawasan mung dibuwang. Iki minangka post-Citizens United America, ing ngendi aliran dhuwit ora kakehan, lan minangka konsentrasi tartamtu saka masalah kasebut ing sekitar AI, ing ngendi ana PAC sing saya akeh lan mbanjiri dhuwit dadi ngilangi regulasi sing migunani ing tingkat negara lan federal.
Sampeyan duwe [pendiri OpenAI] Greg Brockman, pimpinan nomer loro Sam, langsung nyumbang kanthi cara utama kanggo sawetara. Iku ndadékaké kanggo kahanan sing ana tenan dijupuk saka legislator lan regulator potensial, lan sing spiral hard kanggo njaluk metu saka. Ing bab sumelang iku, Aku sing ana gerakane privasi prasaja, sawetara kang nyoba ing panggenan liya ing donya, sing bakal bantuan karo sawetara masalah tanggung jawab iki.
Sampeyan bisa uga duwe tes keamanan pra-penyebaran luwih wajib, yaiku sing wis kedadeyan ing Eropa kanggo model perbatasan. Sampeyan bisa uga duwe syarat cathetan umum sing luwih ketat kanggo jinis investigasi internal ing ngendi kita ndeleng manawa ora bisa ditulis ing kasus iki. You could have a more robust set of national security review mechanisms for the kinds of Middle Eastern infrastructure ambitions that Sam Altman was pushing.
Kaya sing sampeyan ucapake, dheweke nindakake umpan iki lan ngalih karo administrasi Biden, ujar, "Atur kita, atur kita," lan nulungi dheweke nggawe tatanan eksekutif, banjur nalika Trump mlebu, bener-bener ing dina-dina sing sepisanan, mung ora ana larangan, "Ayo nyepetake lan ayo mbangun kampus pusat data gedhe ing Abu Dhabi. Sampeyan bisa uga, iki pancen prasaja, kaya proteksi whistleblower. Ora ana statuta federal sing nglindhungi karyawan perusahaan AI sing mbukak masalah keamanan sing ditayangake ing artikel iki.
Kita duwe kasus nalika Jan Leike, sing dadi wong safety senior ing OpenAI, mimpin keselarasan super ing perusahaan kasebut. Dheweke nulis menyang papan, sing sejatine minangka bahan whistleblower, ujar manawa perusahaan kasebut bakal mandheg ing misi keamanan. Iki minangka jinis wong sing kudu duwe badan pengawasan sing bisa ditindakake, lan kudu duwe proteksi statutori sing jelas saka jinis sing kita deleng ing sektor liyane. Iki gampang kanggo niru rezim gaya Sarbanes-Oxley.
Aku mikir sanajan sepira akut masalah Silicon Valley sing ngontrol kabeh kekuwatan, lan sanajan sawetara institusi kasebut bisa menehi pengawasan lan guardrails, aku isih percaya karo matematika dhasar demokrasi lan politisi sing duwe kepentingan dhewe. Lan ana data polling liyane sing muncul sing mayoritas wong Amerika nganggep manawa keprihatinan, pitakonan, utawa risiko AI saiki luwih gedhe tinimbang keuntungan.
Dadi aku mikir banjir dhuwit menyang politik saka AI, kabeh kekuwatane bisa dadi sumber pitakon babagan politisi. Nalika Amerika arep milih, kudu nliti apa wong sing dipilih, utamane yen ora kritis lan anti-regulasi, amarga kabeh keprihatinan kasebut, dibiayai dening kepentingan khusus teknologi gedhe. Dadi aku mikir yen wong bisa maca potongan kaya iki, ngrungokake podcast kaya iki, lan cukup peduli kanggo mikir kanthi kritispancasan sing minangka Pamilih, ana kesempatan nyata kanggo generate konstituensi ing Washington wakil sing njaga mripat lan meksa pengawasan.
Iki bisa uga salah sawijining perkara sing paling optimis sing dakrungu sapa wae babagan industri AI saiki. Aku appreciate iku. Aku kepengin banget karo polling sing sampeyan gunakake. Saiki wis akeh. Iku kabeh cukup konsisten, lan katon kaya wong enom liyane, utamané, sing kapapar AI, liyane distrustful lan nesu padha bab iku. Iku valensi saka kabeh polling. Lan aku ndeleng, lan aku mikir, ya, politisi sing pinter mung bakal nglawan. Dheweke mung bakal ujar, "Kita bakal tanggung jawab teknologi gedhe."
Banjur aku mikir babagan 20 taun kepungkur, politisi sing ujar manawa dheweke bakal tanggung jawab babagan teknologi gedhe, lan aku berjuang kanggo nemokake manawa teknologi gedhe sing tanggung jawab. Siji-sijine sing nggawe aku mikir yen iki beda, sampeyan kudu mbangun pusat data, lan sampeyan bisa milih, lan sampeyan bisa njaluk petisi, lan sampeyan bisa protes.
Aku mikir yen ana politisi sing nembe ditembak omah amarga milih pusat data. Ketegangan wis tekan, aku bakal ngarani, demam. You’ve described the insularity of Silicon Valley. Iki minangka ekosistem tertutup. Rasane kaya wong-wong mau bisa mbukak jagad. Padha sijine ton saka dhuwit menyang politik, lan lagi mlaku munggah marang kasunyatan sing wong ora tresna produk, kang ora menehi akeh tutup. Sing luwih akeh nggunakake produk kasebut, saya bingung, lan para politisi wiwit weruh ana akibat nyata kanggo ndhukung industri teknologi marang wong sing diwakili.
You’ve talked to so many people. Apa sampeyan mikir yen industri teknologi bisa sinau pelajaran sing ana ing ngarepe?
Sampeyan ujar manawa rumangsa bisa mbukak jagad iki tanpa tanggung jawab. Aku malah ora mikir sing perlu "rasa kaya" kualifikasi. Maksudku, sampeyan ndeleng basa sing digunakake Peter Thiel, jelas. Mesthi, iku conto nemen. Lan Sam Altman, sanajan dheweke cedhak lan ngerti babagan ideologi Thiel nganti sawetara, minangka jinis wong sing beda banget sing bisa uga beda-beda lan luwih diukur nganti titik.
Nanging aku mikir ideologi sing luwih akeh sing sampeyan entuk saka Thiel, yaiku: Kita wis rampung karo demokrasi, kita ora butuh maneh. Kita duwe akeh banget, mula kita mung pengin nggawe bunker cilik dhewe. We are ora dealing with Carnegies maneh utawa Rockefellers maneh, ngendi lagi wong ala, nanging padha aran kudu melu ing kontrak sosial lan mbangun iku kanggo wong. Ana nihilisme nyata sing disetel.
Lan aku mikir iki mung dadi spiral sing saling nguatake ing sejarah Amerika anyar babagan moguls lan perusahaan swasta sing entuk kekuwatan super pemerintah nalika institusi demokratis sing bisa nanggung tanggung jawabe dibuwang. Aku ora rumangsa optimis babagan gagasan yen wong-wong mau mung tangi sedina lan mikir, "Huh, bisa uga kita kudu melu ing masyarakat lan mbantu mbangun barang-barang kanggo wong."
Maksudku, sampeyan katon kaya conto mikrokosmik The Giving Pledge, ing ngendi ana wayahe sing katon minangka amal, lan wayahe saiki wis kepungkur lan malah dipoyoki. Sing dadi masalah, masalah sing luwih jembar yaiku kurang tanggung jawab sing dakkira mung bisa ditanggulangi sacara ekstrinsik. Sing kudu pemilih mobilizing lan nguripake daya saka pengawasan pamaréntah. Lan sampeyan pancen bener ujar manawa vektor utama sing bisa ditindakake wong yaiku lokal. Iku apa karo ngendi infrastruktur lagi dibangun.
Sampeyan nyebataken sawetara ketegangan putih-panas babagan iki sing nyebabake kekerasan lan ancaman, lan jelas, ora ana sing kudu kasar utawa ngancam. Lan aku uga ora ana ing kene kanggo menehi rekomendasi kabijakan khusus kajaba mung menehi sawetara langkah-langkah kebijakan sing katon dhasar lan digunakake ing papan liya ing jagad iki, ta? Utawa sing wis makarya ing sektor liyane. Aku ora kene kanggo ngomong endi sing kudu dieksekusi lan carane.
Aku mikir ana sing kudu kedadeyan, lan kudu eksternal, ora mung ngandelake perusahaan kasebut. Amarga benersaiki kita duwe kahanan ing ngendi perusahaan-perusahaan sing ngembangake teknologi kasebut lan dilengkapi paling apik kanggo ngerti risiko kasebut, lan nyatane sing menehi peringatan babagan risiko kasebut, uga sing ora duwe apa-apa nanging nyurung supaya cepet lan ora nglirwakake risiko kasebut. Lan sampeyan mung ora duwe apa-apa kanggo counterbalance sing. Dadi apa wae reformasi sing bisa ditindakake ing babagan spesifik, ana sing kudu ditindakake. Lan aku isih bali menyang optimisme yen wong isih penting.
Aku umume tuku argumentasi sampeyan. Ayo kula mung nggawe siji counterargument cilik sing aku bisa articulate. Bab liyane sing bisa kedadeyan ing njaba kothak suara yaiku gelembung muncul, ta? Ora kabeh perusahaan kasebut tekan garis finish, lan ora ana pasar produk sing cocog kanggo aplikasi AI konsumen. Lan maneh, aku durung weruh, nanging aku minangka reviewer teknologi konsumen, lan mungkin aku mung duwe standar sing luwih dhuwur tinimbang wong liya.
Ana pasar produk sing pas ing donya bisnis, ta? Duwe akeh agen AI sing nulis akeh piranti lunak kayane pasar nyata kanggo alat kasebut. Lan sampeyan bisa maca argumentasi saka perusahaan kasebut, "Kita wis ngrampungake coding, lan tegese kita bisa ngatasi apa wae. Yen kita bisa nggawe piranti lunak, kita bisa ngatasi masalah apa wae. "
Aku mikir ana watesan nyata babagan apa sing bisa ditindakake piranti lunak. Sing apik banget ing jagad bisnis. Piranti lunak ora bisa ngrampungake saben masalah ing kasunyatan, nanging kudu ana. Dheweke kudu ngrampungake tugas kasebut, lan bisa uga ora kabeh wong bisa tekan garis finish. Lan ana kacilakan, lan gelembung iki njedhul, lan Mungkin OpenAI utawa Anthropic utawa xAI, siji saka perusahaan iki gagal, lan kabeh investasi iki ilang.
Apa sampeyan mikir bakal mengaruhi iki? Bener, aku takon pitakonan pisanan. OpenAI ana ing puncak IPO. Ana akeh keraguan babagan Sam minangka pimpinan. Apa sampeyan mikir dheweke bakal tekan garis finish?
Aku ora bakal ramalan, nanging aku mikir sampeyan ngunggahake titik penting, yaiku yen insentif pasar penting banget ing Silicon Valley, lan precarity dinamika gelembung saiki bisa ngganggu, maneh, duweni potensi, miturut kritikus, balapan menyang ngisor safety.
Aku uga bakal nambah, yen sampeyan ndeleng precedence sajarah ngendi ana pesawat padha lan ketoke impenetrable insentif pasar lan efek potensial deleterious kanggo masyarakat, ana impact litigasi. Lan sampeyan ndeleng iki minangka wilayah sing dadi perhatian akhir-akhir iki. Sam Altman metu minggu iki nyetujoni undang-undang sing bakal nglindhungi perusahaan AI saka sawetara jinis tanggung jawab sing OpenAI wis katon ing setelan pati sing salah, umpamane. Mesthine, ana kepinginan kanggo duwe tameng kasebut saka tanggung jawab.
Aku mikir yen pengadilan isih bisa dadi mekanisme sing migunani, lan bakal menarik banget kanggo ndeleng kepiye setelan kasebut. Sampeyan wis weruh, contone, setelan kelas-aksi, sing aku lan akeh penulis liyane sing aku kenal dadi anggota, nglawan Anthropic amarga nggunakake buku sing ana ing hak cipta. Yen ana pikiran legal pinter lan penggugat sing peduli, minangka kita wis historis katon ing kasus saka rokok gedhe kanggo energi gedhe, sampeyan uga bisa njaluk sawetara guardrails lan sawetara insentif kanggo alon mudhun, ati-ati, utawa nglindhungi wong sing cara.
Kayane kabeh struktur biaya industri AI gumantung ing interpretasi amal sing adil. Ora teka cukup. Struktur biaya perusahaan-perusahaan kasebut bisa dadi ora bisa dikontrol yen kudu mbayar sampeyan lan wong liya sing kerjane, nanging ora nyenengake, mula kita ora mikir babagan iki. Ing jejere, kabeh produk iki saiki ilang. Kaya dina iki, kabeh padha mlaku kanthi rugi. Dheweke ngobong dhuwit luwih akeh tinimbang sing bisa ditindakake. Ing sawetara titik, dheweke kudu muter saklar.
Sam is a businessman. Kaya sing wis kasebut kaping pirang-pirang, dheweke dudu ahli teknologi. Dheweke wong bisnis. Apa sampeyan mikir yen dheweke wis siyap ngalih lan ujar, "Kita bakal entuk dolar?" Amarga nalika aku takon, "Apa sampeyan mikir OpenAI bakal nggawe?" Iku nalika padha kudu nggawe dollar. Lan nganti saiki, Sam wis entuk kabeh dhuwit kanthi njaluk dhuwit marang wong liya tinimbang perusahaane nggawe dhuwit.
Inggih, punika pitakonan lingering amba kanggo Silicon Valley, kanggo investor, kanggo masyarakat.Sampeyan ndeleng sawetara pratelan lan pindhah saka OpenAI sing katon kaya panik babagan iki. Mateni Sora, mateni sawetara proyek tambahan, nyoba nul ing produk inti. Nanging ing sisih liya, sampeyan isih weruh, ing wektu sing padha, akeh misi creep, ta? Malah conto cilik - temenan ora inti kanggo bisnis - yaiku akuisisi TBPN.
Miturut cara, nalika kita wis tekan garis finish lan mriksa kasunyatan, perusahaan sing ngadhepi riset jurnalistik iki entuk platform sing bisa ngontrol obrolan langsung. I think that there are a lot of investors who are concerned, based on the conversations I’ve had, that this problem of promising all things to all people also extends to this lack of focus in the core business model. Lan maksudku, sampeyan luwih cedhak karo jinis ramalan lan nonton pasar tinimbang aku. Aku bakal ninggalake sampeyan lan pamireng dadi hakim apa padha mikir OpenAI bisa flip saklar.
Ya, aku takon amarga sampeyan duwe kutipan saka eksekutif senior Microsoft, lan yaiku, "Warisan Sam bisa uga meh padha karo Bernie Madoff utawa Sam Bankman-Fried," tinimbang Steve Jobs. Iku cukup mbandhingake. Apa sampeyan nggawe perbandingan kasebut?
Aku iki paraphrase. Bagian Steve Jobs dudu bagean saka kutipan kasebut. Nanging ana jinis sobriety sing menarik amarga diucapake kaya mangkene, "Aku rumangsa ana kemungkinan cilik nanging nyata yen dheweke dadi SBF utawa scammer tingkat Madoff." Tegese, ing pikiranku, dudu Sam sing ditudhuh saka jinis penipuan utawa kejahatan sing spesifik, nanging tingkat panyalahgunaan lan penipuan saka Sam bisa uga duwe kesempatan kanggo eling ing skala kasebut.
Ya, aku mikir sing paling nggumunake babagan kutipan kasebut, kanthi jujur, sampeyan nelpon ing Microsoft lan sampeyan ora njaluk kaya, "Iku edan. Kita durung tau krungu." Sampeyan entuk akeh kaya, "Ya, akeh wong ing kene sing mikir" sing luar biasa. Lan aku mikir babagan masalah bisnis lan masalah iki.
Salah sawijining investor marang aku, contone, ing cahya saka cara kang sipat iki wis tetep ing taun sawise diperlokaké "- lan iki uga panginten iki minangka pikiran sober menarik - sing ora kudu Sam kudu ing ngisor Absolute dhaftar, kaya sing paling murah ing syarat-syarat wong-wong sing pancene ora kudu mbangun teknologi iki, kanggo apa iku worth sawetara wong sing ngandika Elon. Mungkin ing ngisor dhaptar wong sing kudu mbangun AGI, lan ing ngisor sawetara tokoh utama ing lapangan iki.
Dadi aku ngira iki minangka penilaian sing menarik, lan kaya ngono sing dakkira sampeyan entuk saka pragmatis nyata sing bisa uga ora tuku masalah keamanan. Padha mung wutah-oriented, lan padha mikir sing OpenAI saiki duwe masalah karo Sam Altman.
Potongan Microsoft pancen menarik. Perusahaan kasebut ngira yen dheweke ana ing ndhuwur jagad. Sing wis nggawe investasi iki lan dheweke bakal mlumpat kabeh wong, utamane lan sing paling penting, Google, lan bali menyang sih-rahmat konsumen sing apik. Tingkat sing padha aran diobong dening petualangan iki - iki perusahaan banget soberly mbukak - Aku ora bisa overstated.
Sampeyan nyebutake karakter lan sipat pribadine. Aku arep mungkasi kene karo pitakonan saka pamireng kita. Aku kandha ing acara liyane, The Vergecast, yen aku arep ngomong karo sampeyan, lan aku kandha, "Yen sampeyan duwe pitakon kanggo Ronan babagan crita iki, kabari aku." Dadi, ana siji sing dakanggep cocog karo apa sing sampeyan jelasake. Aku mung arep maca kanggo sampeyan:
"Kepiye alesan kanggo tumindak ala, tumindak ala Altman lan pimpinan AI liyane, beda karo kabeneran sing dirungokake Ronan saka pimpinan terkenal liyane ing politik lan media? Apa dheweke kabeh ora mbenerake tumindake kanthi ujar manawa jagad iki diganti? Yen aku ora nindakake iki, wong liya bakal nindakake?”
Ya, ana akeh sing ngubengi. Aku bakal ngomong apa sing khas kanggo AI yaiku yen saham eksistensial sing dhuwur banget tegese loro pratelan risiko kasebut ekstrem, ta? Sampeyan duwe Sam Altmanngandika, "Iki bisa dadi lampu mati kanggo kita kabeh." Lan uga, para kritikus bisa uga ujar, mania sing dirujuk dening penanya iku ekstrim, ta?
Bab sing dituduh Sam marang Elon, ing cathetan kasebut, bisa uga dheweke pengin nylametake manungsa, nanging mung yen dheweke. Jinis komponen EGO pengin menang, kang rongko Sam nggunakake kabeh wektu, lan iki siji kanggo buku sajarah, iki bisa ngganti kabeh. Dadi, sanajan ing ndhuwur lan ngluwihi "sampeyan kudu ngilangi sawetara endhog" pola pikir umume perusahaan Silicon Valley, ana, ing pikirane sawetara tokoh sing mimpin AI, aku mikir, rasionalisasi lengkap kanggo kabeh kejatuhan.
Lan lali bejat endhog. Aku / mikir akeh peneliti safety ndasari bakal ngandika duweni potensi bebaya break negara, bejat donya, lan bejat mayuta-yuta wong kang jobs lan safety nyumerepi ing imbangan - sing unik bab iku. That’s where I close, reflecting on this body of reporting, really believing this is about more than Sam Altman. Iki babagan industri sing ora dikendhaleni lan masalah spiral ing Amerika sing ora bisa mbatesi.
ya. Ya, kita duwe optimisme ing kana, nanging aku mikir yen iki minangka papan sing apik kanggo ninggalake.
[Ngguyu] Mungkasi mudhun.
Mesthi wae. Sing saben crita gedhe, tenan. Uji coba Musk-Altman bakal teka. Aku mikir kita bakal sinau luwih akeh ing kene. Aku curiga aku bakal pengin ngomong karo sampeyan maneh. Ronan Farrow, matur nuwun kanthi sanget kanggo ing Decoder.
matur nuwun.
Pitakonan utawa komentar babagan episode iki? Pencet kita ing [email protected]. Kita pancene maca saben email!
