Dinten dina Decoder, kuring ngobrol sareng Ronan Farrow, salah sahiji béntang pangbadagna dina ngalaporkeun investigative anu damel ayeuna. Anjeunna peupeus carita Harvey Weinstein, diantara loba, loba batur. Sareng minggu kamari, anjeunna sareng panulis ko-panulis Andrew Marantz nyebarkeun fitur jero-beuleum anu luar biasa dina The New Yorker ngeunaan CEO OpenAI Sam Altman, kapercayaanana, sareng kebangkitan OpenAI sorangan.
Hiji catetan sateuacan urang langkung jauh di dieu - The New Yorker nyebarkeun carita éta sareng Ronan sareng kuring ngagaduhan paguneman ieu sateuacan urang terang kana serangan pinuh ka bumi Altman, janten anjeun moal ngadangu urang ngobrol ngeunaan éta langsung. Tapi ngan ukur nyarios, kuring nyangka kekerasan naon waé henteu katampi, serangan-serangan ieu ka Sam henteu katampi, sareng yén jenis kateudayaan anu dirasakeun ku jalma-jalma, anu nyababkeun kekerasan sapertos kitu, henteu katampi, sareng éta patut ditilik deui ti industri sareng pamimpin politik urang. Kuring miharep éta jelas.
Langganan Verge, tong hilap anjeun kéngingkeun aksés ekslusif kana Decoder bébas iklan dimana waé anjeun nampi podcast anjeun. Ka dieu. Teu langganan? Anjeun tiasa ngadaptar di dieu.
Kabéh nu ngomong, aya loba swirling sabudeureun Altman éta kaulinan adil pikeun ngalaporkeun rigorous - jenis ngalaporkeun Ronan jeung Andrew rék ngalakukeun. Hatur nuhun kana popularitas ChatGPT, Altman parantos janten tokoh anu paling katingali dina industri AI, saatos janten laboratorium panalungtikan nirlaba sakali janten perusahaan swasta ampir triliun dolar dina ngan sababaraha taun. Tapi mitos Altman pisan konflik, sami-sami didefinisikeun ku kamampuan dealmaking anu jelas sareng kacenderungan anu dilaporkeun ka…
Carita panjangna langkung ti 17,000 kecap, sareng éta ngandung akun definitif ngeunaan naon anu kajantenan di 2023 nalika dewan direksi OpenAI ujug-ujug dipecat Altman kusabab dugaan bohongna, ngan pikeun anjeunna ampir langsung didamel deui. Éta ogé teuleum jero kana kahirupan pribadi Altman, investasi na, pacaran artos Wétan Tengah, sareng pantulan dirina sorangan ngeunaan paripolah sareng sipat karakter anu kapungkur anu nyababkeun hiji sumber nyarios yén anjeunna "unconstrained ku bebeneran." Nyaan nyarankeun Anjeun maca sakabéh carita; Kuring curiga eta bakal referenced salila sababaraha taun datang.
Ronan ngobrol sareng Altman sababaraha kali salami 18 bulan anjeunna nyéépkeun ngalaporkeun potongan ieu, sareng janten salah sahiji hal utama anu kuring panasaran nyaéta naha anjeunna ngaraos parobihan dina Altman dina waktos éta. Barina ogé, seueur anu kajantenan di AI, dina téknologi, sareng di dunya salami sataun satengah.
Anjeun bakal ngadangu Ronan ngobrol ngeunaan éta pisan langsung, kitu ogé rasa na yén jalma geus jadi leuwih daék ngobrol ngeunaan kamampuhan Altman pikeun manteng bebeneran. Jalma-jalma mimiti heran, nyaring sareng dina catetan, naha paripolah jalma sapertos Altman prihatin, sanés ngan ukur pikeun AI atanapi téknologi tapi ogé pikeun masa depan koléktif masarakat.
Oke: Ronan Farrow on Sam Altman, AI, jeung kaleresan. Tah kieu.
Wawancara ieu parantos diédit sakedik pikeun panjang sareng kajelasan.
Ronan Farrow, anjeun hiji reporter investigative sarta kontributor The New Yorker. Wilujeng sumping di Decoder.
Bungah di dieu. Hatur nuhun pikeun ngabogaan kuring.
Abdi bungah pisan ngobrol sareng anjeun. Anjeun nembé nyerat sapotong ageung pikeun The New Yorker. Éta profil Sam Altman sareng, sapertos kitu, OpenAI. Anu dibaca ku kuring nyaéta, sakumaha anu dilakukeun ku sadaya fitur anu hébat, éta, kalayan ngalaporkeun anu ketat, ngesahkeun seueur parasaan jalma ngeunaan Sam Altman pikeun waktos anu lami pisan. Anjeun écés nyebarkeun éta, anjeun ngagaduhan réaksi pikeun éta. Kumaha perasaan anjeun ayeuna?
Nya, kuring parantos ati, saleresna, ku sajauhna dirobih dina waktos dimana ékonomi perhatian janten jinis schizophrenic sareng deet. Ieu mangrupikeun carita anu, dina pandangan kuring, mangaruhan urang sadayana. Sareng nalika kuring nyéépkeun sataun satengah tina kahirupan kuring, sareng panulis kolega, Andrew Marantz, ogé nyéépkeun waktos éta, leres-leres nyobian ngalakukeun hal-hal forensik sareng taliti, éta sok kusabab kuring ngarasa aya masalah struktural anu langkung ageung anu mangaruhan jalma saluareun individu sareng perusahaan dina manah carita.
Sam Altman, ngalawan latar tukang budaya hype Silicon Valley sareng ngamimitian yén balon kana pangajen masif dumasar kana janji anu tiasa atanapi henteu bakal kajantenan di hareup, sareng paningkatan kana budaya pangadeg anu nyangka nyarioskeun ka grup anu béda-béda hal-hal anu bertentangan nyaéta fitur, sanés abug…Sanaos ngalawan latar éta, Sam Altman mangrupikeun kasus anu luar biasa dimana sadayana di Lembah Silikon anu ngarepkeun hal-hal éta moal tiasa lirén ngobrolkeun patarosan ngeunaan kapercayaan sareng kajujuran na.
Kami parantos terang yén anjeunna dipecat dina sababaraha versi tuduhan teu jujur atanapi serial dugaan bohong. Tapi luar biasa, sanaos kanyataan yén aya laporan anu saé, Keach Hagey parantos ngalaksanakeun padamelan ieu. Karen Hao geus dipigawé gawé hébat dina ieu. Saleresna henteu aya pamahaman anu pasti ngeunaan titik-titik bukti anu disangka saleresna sareng alesan-alesan naha éta tetep kaluar tina panon umum.
Jadi titik nomer hiji nyaeta kuring ngarasa heartened ku kanyataan yén sababaraha pamadegan sela dina pangaweruh umum urang, komo dina pangaweruh insiders Silicon Valley, ayeuna geus kaeusi saeutik saeutik leuwih. Sababaraha alesan yén aya jurang parantos dieusi sakedik deui.
Kami ngalaporkeun kasus dimana jalma-jalma di jero perusahaan ieu leres-leres ngarasa yén hal-hal ditutupan atanapi ngahaja henteu didokumentasikeun. Salah sahiji hal anu anyar dina carita ieu nyaéta panalungtikan firma hukum pivotal ku WilmerHale, anu écés mangrupikeun firma hukum anu mewah, kredibel, anu ngalaksanakeun panyilidikan Enron sareng WorldCom, anu, ku jalan kitu, sadayana ageung, sapertos ratusan halaman diterbitkeun. WilmerHale ngalakukeun panalungtikan ieu anu ditungtut ku anggota dewan anu geus dipecat Altman salaku kaayaan miang maranéhna nalika anjeunna meunang leupas tina éta, sarta anjeunna sumping deui. Jeung extraordinarily - dina panon loba ahli hukum I spoke ka, sarta shockingly dina panon loba jalma di parusahaan ieu - aranjeunna diteundeun kaluar tulisan. Sadaya anu muncul tina éta mangrupikeun siaran pers 800-kecap ti OpenAI anu ngajelaskeun naon anu kajantenan salaku ngarecahna amanah. Sareng kami negeskeun yén ieu disimpen dina pengarahan lisan.
Aya kasus dimana, contona, anggota dewan sigana hoyong milih ngalawan konvérsi tina bentuk nonprofit asli OpenAI kana éntitas nirlaba, sareng éta kacatet salaku abstention. Aya sapertos pengacara dina rapat nyarios, "Muhun, éta tiasa nyababkeun seueur panilitian." Sareng jalma anu hoyong milih ngalawan bakal kacatet salaku abstention kana sagala penampilan. Aya sengketa faktual. OpenAI nyatakeun sanés, sapertos anu anjeun bayangkeun. Ieu sadayana kasus dimana anjeun gaduh perusahaan anu, ku akun sorangan, nahan masa depan urang dina pananganana.
Patok kaamanan anu jadi akut yén maranéhna teu musna. Ieu alesan pausahaan ieu diadegkeun salaku nonprofit fokus kana kaamanan, sarta dimana hal anu keur obscured dina cara nu jalma kredibel sabudeureun ieu kapanggih eta kirang ti profésional. Sareng anjeun pasangkeun éta kalayan latar tempat anu sakedik napsu politik pikeun pangaturan anu bermakna. Jigana éta kaayaan pisan combustible.
Intina pikeun kuring sanés ngan ukur yén Sam Altman pantes patarosan ieu sacara saksama. Éta ogé yén salah sahiji jalma ieu dina widang ieu, sareng seueur tokoh konci, nunjukkeun, upami henteu idiosyncratic tinangtu ieu, anu disangka sipat bohong-sadayana-waktos, pasti sababaraha derajat mentalitas ras-ka-handap, dimana jalma-jalma anu safetyists geus watered handap komitmen maranéhanana jeung sikep dulur-is-in-a-lomba.
Jigana, nalika urang ningali bocor anyar tina Anthropic, aya jalma anu naroskeun patarosan saha anu kedah gaduh ramo dina tombol dina potongan ieu. Jawabanna nyaéta, upami urang henteu gaduh pangawasan anu bermakna, kuring nyangka urang kedah naroskeun patarosan anu serius sareng nyobian muka seueur inpormasi anu urang tiasa ngeunaan sadaya jalma ieu. Ku kituna kuring geus heartened ku naon karasaeun kawas paguneman bermakna ngeunaan éta, atawa awal hiji.
Alesan kuring naroskeun ku cara éta nyaéta anjeun damel ieu salami sataun satengah. Anjeun diajak ngobrol, abdi percanten, 100 jalma kalawan ko-panulis Anjeun, Andrew. Éta lila pikeun masak carita. Jigana ngeunaan sataun panungtungan sarta satengah di AI hususna, jeung budak, boga sikap jeung nilai sadaya karakter ieu bergeser pisan gancang.
Panginten henteu langkung ti Sam Altman, anu ngamimitian salaku juara standar sabab parantos ngarilis ChatGPT sareng sadayana panginten éta bakal nyandak alih Google. Lajeng Google ngabales, nu seemed kaget aranjeunna yen Google bakal nyobian ngajaga bisnis na, meureun salah sahiji usaha pangalusna dina sajarah tech, upami teu sajarah bisnis. Anthropic mutuskeun yén éta bakal difokuskeun perusahaan. Sigana keur nyokot kalungguhan commandingAya sabab pamakean perusahaan AI anu luhur pisan.
Ayeuna, OpenAI museurkeun deui produkna tina "urang badé nyandak Google" ka Codex, sareng aranjeunna badé nyandak perusahaan. Kuring ngan ukur tiasa terang naha, salami laporan anjeun salami sataun satengah, upami sigana karakter anu anjeun diajak ngobrol robih? Kawas sikep jeung ajén-inajén maranéhanana, naha éta robah?
Sumuhun. Kuring mimiti mikir yén kritik anu ditalungtik dina bagian ieu, asalna tina seueur jalma di jero perusahaan ieu dina waktos ieu - yén ieu mangrupikeun industri anu, sanaos patok eksistensial, turun kana hiji balapan ka handap dina kaamanan sareng dimana kacepetan ngarebut sadayana anu sanés - perhatian éta parantos langkung parah. Sareng kuring nyangka masalah éta parantos langkung divalidasi nalika taun katukang satengah parantos kajantenan. Dina waktos anu sami, sikep ngeunaan Sam Altman parantos robih sacara khusus. Nalika urang mimiti ngobrol sareng sumber pikeun ieu, jalma-jalma éta leres-leres curiga ku dikutip ngeunaan ieu sareng ngiringan catetan ngeunaan ieu.
Nepi ka tungtun taun ngalaporkeun urang, anjeun boga awak ngalaporkeun dimana urang ngobrol ngeunaan ieu pisan kabuka sarta eksplisit, sarta anjeun boga anggota dewan nyebutkeun hal kawas, "Anjeunna hiji tukang bohong patologis. Anjeunna sociopath a ". Aya sauntuyan sudut pandang tina, "Ieu bahaya upami dipasihan patok kaamanan, sareng urang peryogi pamimpin téknologi ieu anu ningkatkeun integritas," dugi ka resep, "Poho patok kaamanan, ieu mangrupikeun kabiasaan anu teu tiasa dipertahankeun pikeun eksekutif mana-mana perusahaan utama, éta ngan ukur nyababkeun disfungsi.
Jadi paguneman geus jadi leuwih eksplisit dina cara nu karasaeun meureun telat, tapi heartening dina hiji rasa. Sareng Sam Altman, pikeun kiridit na… Potongan éta adil pisan sareng berehan, kuring bakal nyarios, ka Sam. Ieu sanes jenis sapotong dimana aya loba "meunang anjeun" barang. Kuring nyéépkeun seueur, sababaraha jam dina telepon sareng anjeunna nalika urang ngabéréskeun ieu sareng leres-leres ngupingkeun anjeunna.
Sakumaha anjeun tiasa bayangkeun, dina potongan sapertos kieu, henteu sadayana tiasa dilebetkeun. Sababaraha kasus dina kasus ieu kusabab kuring ngupingkeun kalayan ikhlas. Sareng upami Sam leres-leres ngadamel argumen anu kuring karasa dibawa cai, yén hiji hal, sanaos leres, tiasa janten sensasional, kuring leres-leres salah dina sisi ngajaga forensik ieu sareng diukur. Janten kuring nyangka yén éta ditampi leres, sareng kuring ngarepkeun catetan faktual ieu anu akumulasi dina waktos ieu tiasa memicu paguneman anu langkung kuat ngeunaan kabutuhan pangawasan.
Éta sabenerna patarosan abdi salajengna. Jigana anjeun ngobrol sareng Sam belasan kali salami ngalaporkeun carita ieu. Sakali deui, éta seueur paguneman dina waktos anu lami. Saur anjeun Sam robah ngaliwatan kursus ngalaporkeun leuwih sataun kaliwat satengah?
Hehehehe. Jigana salah sahiji subplots paling istiméwa dina ieu nu Sam Altman ogé ngawangkong ngeunaan tret ieu leuwih eksplisit ti manéhna geus kaliwat. Sikep Sam dina sapotong ieu henteu sapertos, "Teu aya nanaon di dinya, ieu henteu leres; Kuring henteu terang naon anu anjeun nyarioskeun." Sikep anu dipiboga nyaéta yén anjeunna nyarios yén ieu disababkeun ku kacenderungan anu pikaresepeun pikeun jalma-jalma sareng jinis aversion konflik. Anjeunna ngaku yén éta nyababkeun masalah pikeun anjeunna, khususna dina karirna.
Anjeunna nyarios, "Muhun, abdi nuju ngalangkungan éta, atanapi kedah ngalih kana éta." Kuring pikir anu paling pikaresepeun pikeun kuring nyaéta kontingen jalma anu urang ngobrol anu sanés ngan ukur ngabela kaamanan, sanés ngan ukur panaliti téknis anu sering pisan ngagaduhan masalah kaamanan akut ieu, tapi ogé pragmatis, investor waktos ageung. Aranjeunna backers of Sam urang, anu, dina sababaraha kasus, tingali sual ieu sareng ngobrol ngeunaan malah geus maénkeun peran konci dina datangna deui sanggeus firing nu. Ayeuna, dina patarosan ieu naha anjeunna parantos dirobih, sareng dugi ka mana parobahan éta bermakna, aranjeunna nyarios, "Nya, kami masihan anjeunna kauntungan tina mamang dina waktos éta."
Kuring mikir hiji investor nonjol hususna anu ngomong, "Tapi ti saprak éta, sigana jelas anjeunna teu dibawa kaluar tukangeun woodshed nu," nu frase nu ieu dipaké, mun extent anu diperlukeun. Hasilna, sigana ieu ayeuna tret stabil. Kami ningali ieu dina cara anu terus-terusan. Anjeun tiasa ningali sababaraha usaha pangbadagna OpenAIhubungan sareng cara aranjeunna ngalaksanakeun beurat kateupercayaan éta dina cara anu terus-terusan.
Sapertos sareng Microsoft, anjeun ngobrol sareng eksekutif di dinya, sareng aranjeunna gaduh masalah anu akut sareng nembé ngatalisan. Aya conto ieu dimana, dina dinten anu sami OpenAI negeskeun deui eksklusivitasna sareng Microsoft ngeunaan modél AI stateless anu aya ogé ngumumkeun deal anyar sareng Amazon anu aya hubunganana sareng ngajual solusi perusahaan pikeun ngawangun agén AI anu stateful, hartosna aranjeunna gaduh memori.
Anjeun ngobrol sareng jalma-jalma Microsoft, sareng aranjeunna sapertos, "Éta moal mungkin dilakukeun tanpa berinteraksi sareng hal-hal dasar anu kami gaduh deal éksklusif." Janten éta ngan ukur salah sahiji conto leutik dimana sipat ieu ngagaduhan sulur kana kagiatan bisnis anu terus-terusan unggal waktos sareng janten perhatian aktip dina dewan OpenAI, dina suite eksekutifna, sareng di komunitas téknologi anu langkung lega.
Anjeun terus nyebutkeun "sifat". Aya garis dina carita nu keur kuring karasaeun kawas skripsi, sarta éta pedaran sipat nu nuju ngajelaskeun. Éta yén "Sam Altman henteu kabeungkeut ku bebeneran" sareng anjeunna gaduh "dua sipat anu ampir teu pernah katingali dina jalma anu sami: anu kahiji nyaéta kahayang anu kuat pikeun nyenangkeun jalma, janten resep dina interaksi anu mana waé, sareng anu kadua nyaéta kurangna perhatian sociopathic pikeun akibat anu mungkin timbul tina nipu batur."
Abdi kedah nyarioskeun ka anjeun, kuring maca kalimat éta 500 kali, sareng kuring nyobian ngabayangkeun sok nyarios naon anu dipikahoyong ku jalma teras henteu kesel nalika aranjeunna ngabohong. Sareng kuring henteu tiasa ngajantenkeun kaayaan émosional kuring ngartos kumaha hal-hal éta tiasa aya dina jalma anu sami. Anjeun geus loba ngobrol jeung Sam, jeung anjeun geus ngobrol jeung jalma anu geus ngalaman Tret ieu. Kumaha anjeunna ngalakukeun eta?
Hehehehe. Éta pikaresepeun dina tingkat manusa sabab kuring ngadeukeutan badan ngalaporkeun sapertos kieu kalayan fokus nyata pikeun ngamanusakeun saha waé anu aya dina manah éta sareng milarian pamahaman sareng empati anu jero. Nalika kuring jenis nyoba kaanggo ieu ti sudut pandang leuwih manusa sarta ngomong, "Hei, ieu bakal jadi dahsyat keur kuring lamun jadi loba jalma nu Kuring geus digarap kalawan ceuk Abdi a tukang bohong patologis. Kumaha anjeun mawa beurat éta? Kumaha anjeun ngobrol ngeunaan éta dina terapi? Naon carita anjeun ngabejaan diri ngeunaan éta? "
Kuring ngagaduhan sababaraha jinis, dina pandangan kuring, sigana West Coast platitudes ngeunaan éta sapertos, "Leres, kuring resep padamelan napas." Tapi teu loba jenis bracing rasa konfrontasi diri jero nu Jigana loba urang meureun bakal boga lamun urang ningali jenis ieu eupan balik ngeunaan kabiasaan urang jeung perlakuan urang jalma.
Jigana nu sabenerna mana kana jawaban lega kana patarosan, teuing. Sam negeskeun yén tret ieu nyababkeun masalah, tapi ogé éta bagian tina anu parantos nguatkeun anjeunna pikeun ngagancangkeun kamekaran OpenAI sahingga anjeunna tiasa ngahijikeun sareng nyenangkeun kelompok jalma anu béda. Anjeunna terus-terusan ngayakinkeun sadaya konstituén anu bertentangan ieu yén naon anu aranjeunna paduli nyaéta anu anjeunna paduli. Sareng éta tiasa janten kaahlian anu saé pikeun pangadeg. Kuring geus ngobrol jeung investor anu lajeng ngomong, "Muhun, meureun éta skill kirang mangpaat pikeun sabenerna ngajalankeun hiji parusahaan sabab sows jadi loba discord."
Tapi dina sisi pribadi Sam, Jigana hal anu kuring nyokot on nalika kuring nyoba nyambung dina tingkat manusa nyaéta kurangna jelas konfrontasi deeper, cerminan, jeung timer akuntabilitas, nu ogé informs yén adikuasa atawa liability pikeun parusahaan Nyiapkeun pikeun IPO.
Anjeunna mangrupikeun jalma anu, dina kecap urut anggota dewan anu namina Sue Yoon, anu aya dina catetan dina potongan nyarios yén dugi ka "fecklessness" mangrupikeun frasa anu anjeunna anggo, tiasa leres-leres percanten kana realitas pamindahan tina penjualan na atanapi tiasa ngayakinkeun dirina. Atanapi sahenteuna upami anjeunna henteu percanten ka aranjeunna, anjeunna tiasa nyéépkeun aranjeunna tanpa ragu-ragu.
Kuring nyangka hal anu anjeun nyarioskeun, dimana anjeun atanapi kuring tiasa, nalika urang nyarioskeun éta sareng sadar yén éta bentrok sareng jaminan anu sanés anu kami lakukeun, gaduh sakedapan beku atanapi mariksa diri. Jigana éta teu lumangsung kalawan anjeunna. Sareng aya budaya hype Silicon Valley sareng budaya pangadeg anu langkung ageung anu nganut éta.
Éta lucu. The Verge diwangun dina naon jumlah ulasan produkprogram. Éta jantung naon anu urang lakukeun di dieu. Kuring nahan samilyar dolar Apple R&D sakali sataun sareng nyarios, "Telepon ieu tujuh." Sarta eta nurun legitimizes sakabéh ngalaporkeun urang jeung pamadegan urang nguap. Kami ngagaduhan fungsi evaluatif, sareng urang nyéépkeun waktos pisan ngan ukur ningali produk AI sareng nyarios, "Naha aranjeunna tiasa dianggo?"
Éta karasaeun sapertos leungit tina seueur paguneman ngeunaan AI sapertos ayeuna. Aya paguneman sajajalan ngeunaan naon anu tiasa dilakukeun, kumaha bahayana. Teras anjeun ngebor, sareng anjeun nyarios, "Naha éta leres-leres ngalakukeun hal anu sakuduna dilakukeun ayeuna?" Dina sababaraha kasus, jawaban téh enya. Tapi dina seueur, seueur kasus, jawabanna henteu.
Éta karasaeun yén éta nyambung ka budaya hype anu anjeun jelaskeun sareng ogé kana raos yén, ogé, upami anjeun nyarios bakal ngalakukeun hiji hal sareng henteu, sareng aya anu ngarasa goréng, éta henteu kunanaon sabab urang nuju kana hal salajengna. Éta nu geus kaliwat. Sareng khususna AI, Sam saé pisan dina ngadamel janji anu hébat.
Ngan minggu ieu, kuring nyangka dinten anu sami sareng carita anjeun diterbitkeun, OpenAI ngaluarkeun dokumén kawijakan anu nyarios yén urang kedah mikirkeun deui kontrak sosial sareng gaduh tunjangan efisiensi AI ti pamaréntah. Ieu mangrupikeun jangji anu hébat ngeunaan kumaha sababaraha téknologi tiasa ngabentuk masa depan dunya sareng kumaha urang hirup, sareng sadayana éta ngandelkeun téknologi anu tiasa dianggo dina cara anu mungkin dijanjikeun bakal dianggo atanapi kedah jalanna.
Naha anjeun kantos mendakan Sam ragu AI janten AGI atanapi superintelligence atanapi dugi ka garis finish? Kusabab éta hal anu kuring heran ngeunaan. Naha aya cerminan ngeunaan naha téknologi inti ieu tiasa ngalakukeun sagala hal anu aranjeunna nyarios tiasa dilakukeun?
Ieu persis set katuhu tina patarosan. Aya technologists kredibel nu urang spoke kana awak ieu ngalaporkeun - sarta écés Sam Altman teu salah; anjeunna jalma bisnis - anu nyebutkeun cara Sam ceramah ngeunaan timeline pikeun tech ieu ngan jalan kaluar. Aya tulisan blog anu balik deui sababaraha taun dimana Sam nyarios, "Kami parantos dugi ka cakrawala acara. AGI dasarna di dieu. Superintelligence caket dieu. Urang bakal aya di planét sanés. Sabenerna, kuring henteu ngahias.
Kanker hiji sabenerna metot, yén Sam geus hyping up jalma anu téoritis cageur kanker anjing maranéhanana jeung ChatGPT, sarta éta ngan teu lumangsung. Aranjeunna ngobrol sareng ChatGPT, sareng éta ngabantosan aranjeunna nungtun sababaraha panaliti anu leres-leres damel, tapi hiji-hiji, alat ieu ngarawat anjing ieu sanés carita.
Abdi bungah anjeun ngangkat titik éta kusabab kuring hoyong teraskeun kana titik anu langkung ageung ieu ngeunaan nalika poténsi sareng résiko téknologi leres-leres bakal kutang. Tapi éta patut disebatkeun ieu asides saeutik anu terus lumangsung ti Sam Altman, dimana anjeunna sigana embody tret ieu sakuliah deui.
Maksad abdi, ngagunakeun conto laporan WilmerHale, dimana urang tadi informasi ieu anu geus diteundeun kaluar tulisan, sarta hayang nyaho naha ringkes lisan sapanjang jalan dibikeun ka saha lian ti dua anggota dewan Sam mantuan install pikeun ngawasan eta. Sareng saurna, "Leres, leres, henteu, kuring yakin éta dipasihkeun ka sadayana anu ngagabung sareng dewan." Sareng urang gaduh jalma anu terang langsung ngeunaan kaayaan nyarios yén éta ngan ukur bohong. Sareng éta leres-leres sigana, yén éta henteu leres. Lamun urang hayang berehan, meureun anjeunna salah informasi.
Aya seueur jaminan kasual ieu. Sareng kuring nganggo conto éta sabagian sabab éta mangrupikeun conto anu hadé pikeun dissembling, hayu urang nyebatna, anu tiasa gaduh akibat nyata sacara sah. Abdi henteu kedah nyarioskeun ka anjeun, dina hukum perusahaan Delaware, upami IPO perusahaan ieu, pemegang saham tiasa, dina bagian 220, ngawadul ngeunaan ieu sareng nungtut dokuméntasi anu aya. Geus aya anggota dewan anu nyarioskeun hal-hal sapertos, "Nya, antosan sakedap, pengarahan éta kedah kajantenan."
Janten hal-hal ieu anu sigana luncat tina sungutna sepanjang waktos, aranjeunna tiasa gaduh épék anu ngagerakkeun pasar, épék nyata pikeun OpenAI. Balik deui kana jinis basa hype utopia anu muncul deui, kuring panginten henteu kabeneran dina dinten kaluarna potongan ieu, éta ogé mangaruhan urang sadayana, sabab bahaya anu parah pisan ngeunaan cara éta.disebarkeun dina senjata, cara anu dianggo pikeun ngaidentipikasi agén perang kimia, poténsi disinformasi, sareng kusabab cara hype utopia sigana nyababkeun seueur ekonom anu dipercaya pikeun nyarios, "Ieu ngagaduhan sagala tanda gelembung."
Malah Sam Altman geus ngomong, "Aya nu bakal leungit loba duit di dieu." Éta leres-leres tiasa nyababkeun seueur pertumbuhan ékonomi Amérika sareng global, upami aya sapertos tusukan gelembung anu ngalibetkeun sadayana perusahaan-perusahaan ieu saling ngalakukeun saling, ngiringan AI bari nginjeum pisan. Janten naon anu dicarioskeun ku Sam Altman, sareng kuring nyangka yén jalma-jalma di sakurilingna, anjeun nyarios yén kami ngobrol sareng langkung ti saratus, éta leres-leres langkung ti saratus. Kami ngagaduhan paguneman di garis finish dimana éta sapertos, "Naha éta sakedik teuing nyarios sapertos angka anu langkung luhur ieu?" Sarta kami kawas, "Leres, hayu urang downplay. Kami bakal maénkeun éta tiis ". Tapi aya seueur jalma sareng seuseueurna anu penting di antarana nyarios, "Ieu mangrupikeun perhatian." Sarta kuring pikir éta sakabéh naha.
Hayu atuh nanya ngeunaan nomer éta. Sakumaha anu anjeun nyarioskeun, jalma-jalma beuki kabuka kalayan kasalempang kana waktosna. Ieu karasaeun kawas tekanan sabudeureun gelembung - balapan meunang, mayar sagala investasi ieu, mun muncul salaku juara, mun IPO - geus robah loba sikap. Éta pasti nyiptakeun langkung tekanan dina Sam sareng OpenAI.
Kami nyebarkeun carita minggu ieu ngeunaan getaran OpenAI. Carita anjeun mangrupikeun bagian tina éta, tapi parobihan staf anu ageung dina jajaran eksekutif di OpenAI - jalma-jalma datang sareng angkat. Para panalungtik sadayana nuju jauh, umumna ka Anthropic, anu kuring pikir leres pisan. Anjeun ngan ukur tiasa ningali perusahaan ieu ngaraosan tekanan, sareng ngaréspon kana tekanan éta dina sababaraha cara.
Tapi saterusna kuring mikir deui Sam dipecat. Ieu ngan memorable keur kuring. Ieu memorable keur euweuh batur, tapi kuring nyandak panggero sumber di Bronx Kebon Binatang di 19:00 on Jumaah, tur éta batur nyebutkeun aranjeunna bade nyobian meunang Sam deui. Teras we nyéépkeun sabtu minggu ngudag carita éta. Sareng kuring sapertos kieu, "Kuring di kebon binatang. Naon anu anjeun hoyong laksanakeun di dieu?" Sareng jawabanna, "Tetep dina telepon." Nya, putri abdi sapertos, "Turunkeun telepon." Sareng éta anu kuring lakukeun.
Ieu numpak atawa maot pikeun meunangkeun Sam deui. Perusahaan éta sapertos, "Henteu, kami henteu ngantepkeun dewan seuneu Sam Altman." Investor, aranjeunna dicutat dina potongan anjeun, "Kami nuju perang," saur kuring, nyaéta posisi Thrive Capital, "pikeun kéngingkeun Sam deui." Microsoft indit ka perang pikeun meunangkeun Sam deui. Ieu engké, sarta ayeuna dulur urang kawas, "Kami bade IPO. Urang meunang ka garis finish. Simkuring ngagaduhan bodo urang deui, sarta anjeunna bade meunang kami ka garis finish. Kami prihatin anjeunna tukang bohong ".
Naha éta perang pikeun meunangkeun anjeunna deui lajeng? Kusabab teu sigana nanaon geus sabenerna robah. Anjeun ngobrol ngeunaan memo nu Ilya Sutskever na [CEO Anthropic] Dario Amodei diteundeun bari maranéhanana contemporaries of Sam Altman. Perhatian nomer hiji Ilya nyaéta Sam nyaéta tukang bohong.
Taya nu robah. Ku kituna naha éta perang pikeun mawa anjeunna deui lajeng? Sareng ayeuna urang nuju di garis finish, sigana sadaya kaprihatinan parantos dibuka.
Nya, mimitina, hapunten ka putri anjeun sareng pasangan kuring sareng sadaya jalma anu aya di sabudeureun wartawan.
[Seuri] Ieu mangrupikeun sabtu minggu pikeun sadayana.
Leres, éta nyandak kahirupan hiji jalma, sareng carita ieu pasti gaduh milik kuring, dina waktos anu terakhir. Sabenerna aya hubunganana sareng téma jurnalisme ieu sareng aksés inpormasi, saur kuring. Investor anu angkat ka perang pikeun Sam sareng sadayana maénkeun peran pikeun mastikeun yén anjeunna uih deui, sareng dewan anu parantos dirarancang khusus pikeun ngajagaan misi nirlaba pikeun nempatkeun kasalametan pikeun kamekaran sareng seuneu eksekutif upami aranjeunna henteu tiasa dipercaya, aranjeunna angkat. Éta sadayana kusabab, enya, insentif pasar aya, sanés?
Sam tiasa ngayakinkeun jalma-jalma, "Muhun, perusahaan badé ambruk." Tapi alesan anjeunna ngagaduhan dukungan nyaéta kurangna inpormasi. Para investor, dina seueur kasus, ayeuna nyarios, "Kuring neuteup ka tukang, sareng kuring nyangka kuring kedah langkung prihatin upami kuring terang sapinuhna naon klaimna sareng naon masalahna."
Henteu sakabéh éta;pendapat rupa-rupa, sarta kami cutatan sauntuyan pamadegan, tapi aya jalma signifikan anu nimpah info pisan parsial. Dewan anu dipecat Sam éta, dina kecap hiji jalma anu dipaké pikeun jadi di dewan, "pisan JV,"Jeung maranéhna fumbled bal teuas. Sareng urang ngadokumentasikeun keluhan anu aya, sareng jalma-jalma tiasa mutuskeun sorangan naha éta ngumpulkeun kana jinis perhatian anu penting anu dirasakeun, tapi éta argumen sareng inpormasi éta henteu dibere.
Aranjeunna nampi naon anu ayeuna diakui ku sababaraha aranjeunna salaku naséhat hukum anu goréng. Pikeun ngajelaskeun eta, anjeun bakal apal cutatan, sarta meureun loba listeners anjeun sarta pemirsa bakal apal cutatan salaku kurangna candor. Éta naon anu diréduksi jadi, teras aranjeunna dasarna henteu bakal nelepon.
Aranjeunna moal nyandak telepon. Kuring yakin anjeun diusahakeun. Sadayana anu kuring terang nyobian, sareng dugi ka titik dimana, salaku wartawan, anjeun henteu kedah masihan naséhat sumber anjeun, tapi kuring sapertos kieu, "Ieu bakal dileungitkeun upami anjeun henteu ngamimitian ngajelaskeun diri anjeun."
Sareng éta anu kajantenan. Poho wartawan. Anjeun kungsi Satya Nadella ngomong, "Naon sih kajadian? Abdi teu bisa meunang saha ngajelaskeun ka abdi. " Tur éta backer finansial utama parusahaan. Teras anjeun gaduh Satya nelepon [pendiri LinkedIn] Reid Hoffman sareng Reid nyauran sareng nyarios, "Kuring henteu terang naon anu kajantenan."
Éta kaharti dina kakosongan inpormasi éta, milarian indikator non-AI tradisional anu bakal menerkeun penembakan ngadadak sapertos kitu. Siga, oke, éta kejahatan séks? Éta embezzlement? Sarta sakabeh halus, tapi kuring pikir bermakna, argumen yen tech ieu béda jeung yén jenis ieu akumulasi ajeg tina betrayals leutik bisa boga patok bermakna duanana pikeun bisnis ieu sarta meureun pikeun dunya, ieu sakitu legana leungit. Jadi insentif kapitalis meunang kaluar, tapi ogé jalma-jalma anu nyieun éta kaluar jeung teu salawasna operasi kalawan informasi lengkep.
Abdi hoyong naroskeun ngeunaan aspék "naon anu disangka ku sadayana" sakedap, sabab kuring pasti ningali warta, sareng kuring nyarios, "Oh, pasti aya kajadian anu goréng." Anjeun parantos seueur ngalaporkeun #MeToo, anu kasohor. Anjeun megatkeun carita Harvey Weinstein.
Anjeun nyéépkeun seueur waktos ngalaporkeun ngeunaan klaim-klaim ieu anu kuring pikir anjeun mutuskeun tungtungna teu aya dasarna: yén Altman nyerang budak leutik sacara séksual atanapi nyéwa pagawé séks, atanapi malah maéhan whistleblower OpenAI. Maksud kuring, anjeun mangrupikeun jalma anu tiasa ngalaporkeun barang ieu paling ketat. Naha anjeun mutuskeun yén éta henteu aya nanaon?
Nya, tingali, kuring henteu dina usaha pikeun nyarios yén aya nanaon. Anu tiasa kuring nyarioskeun nyaéta kuring nyéépkeun sababaraha bulan ningali klaim ieu sareng henteu mendakan koroborasi pikeun aranjeunna. Sareng kuring ngahalangan yén jalma-jalma ieu, perusahaan-perusahaan ieu anu gaduh kakuatan anu ageung pikeun masa depan urang, leres-leres nyéépkeun waktos sareng sumber daya anu teu saimbang dina tarung leutak budak leutik.
Hiji eksekutif ngajelaskeun éta salaku "Shakespearean." Jumlah duit investigator swasta jeung dossier oposisi keur disusun téh relentless. Sareng anu hanjakalna nyaéta yén jinis barang anu jahat, anu diparo ku pesaing Sam, ngan ukur dianggap kanyataan, leres? Aya dugaan yén anjeunna ngudag budak di handapeun umur, sareng di seueur pesta cocktail di Silicon Valley, anjeun ngupingkeun ieu. Dina sirkuit konperénsi, kuring kantos nguping éta diulang deui ku eksekutif anu dipercaya sareng nonjol: "Sadayana terang ieu kanyataan."
Anu hanjelu nyaéta kuring nyarioskeun ti mana asalna, rupa-rupa vektor anu dikirimkeun. Elon Musk sareng batur-baturna katingalina ngadorong dossier anu leres-leres hardcore anu henteu aya nanaon. Aranjeunna vaporous mun anjeun sabenerna mimiti kasampak di klaim kaayaan. Hal anu hanjelu nyaéta yén éta leres-leres nyéépkeun kritik anu langkung dumasar kana bukti di dieu anu kuring pikir leres-leres pantes pangawasan sareng pertimbangan anu penting.
Téma séjén anu leres-leres muncul dina carita nyaéta ampir rasa sieun yén Sam gaduh seueur réréncangan - anjeunna investasi di seueur perusahaan tina kalungguhanana saméméhna salaku CEO Y Combinator, ngan pikeun investasi pribadina, sababaraha diantarana aya konflik langsung sareng peranna salaku CEO OpenAI - sareng aya tiiseun di sabudeureun anjeunna.
Éta kaget kuring nalika kuring maca hiji baris khususna. Anjeun ngajelaskeun memo Ilya Sutskever, sareng aranjeunna nuju di Silicon Valley. dulurnyebat aranjeunna memo Ilya. Tapi malah aya tiiseun sabudeureun éta. Aranjeunna nuju diliwatan sabudeureun, tapi maranéhna teu dibahas. Ti mana saur anjeun éta asalna? Éta sieun? Éta kahayang pikeun meunangkeun investasi malaikat? Ti mana asalna?
Jigana éta loba cowardice, abdi gé jujur. Saatos ngalaporkeun carita kaamanan nasional dimana sumberna mangrupikeun whistleblowers anu kaleungitan sadayana sareng nyanghareupan gugatan, aranjeunna tetep ngalakukeun hal anu leres sareng nyarioskeun hal-hal pikeun nyiptakeun akuntabilitas. Kuring parantos ngusahakeun carita-carita anu aya hubunganana sareng kajahatan séks anu anjeun sebutkeun, dimana sumber-sumberna trauma pisan sareng sieun ku retribusi anu pribadi pisan.
Dina loba kasus sabudeureun ngéléhkeun ieu, anjeun nuju kaayaan jalma kalawan profil jeung kakuatan sorangan. Aranjeunna boh jalma kawentar sorangan atawa aranjeunna keur dikurilingan ku jalma kawentar. Aranjeunna gaduh kahirupan bisnis anu kuat. Dina panempoan kuring, éta sabenerna paparan pisan low pikeun aranjeunna ngobrol ngeunaan hal ieu. Sareng untungna, jarumna gerak sapertos anu urang bahas tadi, sareng jalma-jalma ayeuna langkung seueur ngobrol.
Tapi kanggo waktos anu lami, jalma-jalma leres-leres cicing waé kusabab kuring nyangka budaya Lembah Silikon ngan ukur kejam pikeun kapentingan diri sareng kejam bisnis sareng berorientasi pertumbuhan. Ku kituna kuring pikir ieu afflicts malah sababaraha jalma anu aub dina firing Sam, dimana anjeun nempo dina poé sanggeusna, enya, salah sahiji faktor anu ngarah ka manehna datang deui jeung firing sahiji anggota dewan heubeul éta anjeunna rallied investor anu bingung kana sabab na.
Tapi anu sanés nyaéta seueur jalma-jalma di sakurilingna anu ngagaduhan prihatin sareng nyarios aranjeunna gancang-gancang ngan narilep sapertos napkin sareng ngarobih nada nalika aranjeunna ningali angin ngahiliwir ku cara anu sanés, sareng aranjeunna hoyong asup kana karéta kauntungan.
Ieu geulis poék, jujur, ti sudut pandang kuring salaku reporter.
Sababaraha jalma éta nyaéta Mira Murati, anu, kuring yakin, salami 20 menit janten CEO anyar OpenAI. Manehna lajeng diganti. Ieu dinamis pisan pajeulit, jeung écés, Sam datang deui. Anu sanésna nyaéta Ilya Sutskever, anu mangrupikeun salah sahiji undian pikeun ngaleungitkeun Sam, teras anjeunna ngarobih pikiran, atanapi sahenteuna nyarios anjeunna ngarobih pikiran, teras anjeunna angkat pikeun ngamimitian perusahaan nyalira. Naha anjeun terang naon anu nyababkeun anjeunna ngarobih pikiran? Éta ngan duit?
Nya, sareng janten jelas, kuring henteu ngasingkeun dua éta. Aya anggota dewan séjén anu aub dina firing anu ogé murag pisan jempé sanggeus. Jigana éta kawas masalah koléktif lega. Ieu, dina sababaraha kasus, jalma anu ngagaduhan serat moral pikeun ngageterkeun alarm sareng nyandak tindakan radikal, sareng éta kedah dipuji. Sareng éta kumaha anjeun ngajamin akuntabilitas. Éta tiasa ngabantosan seueur jalma anu kapangaruhan ku téknologi ieu. Éta tiasa ngabantosan industri pikeun tetep langkung difokuskeun kana kaamanan.
Tapi kaayaan whistleblower sareng jalma-jalma anu nyobian pisan naroskeun tanggung jawab éta, anjeun ogé ningali yén éta peryogi serat pikeun nempelkeun sareng nangtung ku kapercayaan anjeun. Sareng industri ieu leres-leres pinuh ku jalma-jalma anu ngan ukur teu tahan ku kapercayaanana.
Sanaos aranjeunna nganggap yén aranjeunna nuju ngawangun dewa digital anu kumaha waé bakal ngaleungitkeun sadayana tenaga kerja atanapi nyiptakeun langkung seueur tenaga kerja, atanapi aya anu bakal kajadian.
Muhun, éta hal. Jadi budaya teu nangtung ku convictions anjeun sarta sagala masalah etika ragrag ku wayside momen aya wae panas atawa naon bae anu bisa ngancem ngadeg sorangan dina bisnis meureun sadayana ogé sarta alus pikeun extent sababaraha pikeun bisnis-sakumaha-biasa pausahaan anu nyieun naon jenis widget.
Tapi ieu ogé jalma anu sami anu nyarios, "Ieu sacara harfiah tiasa maéhan urang sadayana." Jeung deui, anjeun teu kudu indit ka Terminator Skynet ekstrim. Aya sakumpulan résiko anu parantos ngawujud. Éta nyata, sareng aranjeunna leres-leres ngingetkeun ngeunaan éta, tapi anjeun kedah gaduh korsi korsi batur anu psikologis kumaha dua hal éta tiasa hirup di jalma anu sami dimana aranjeunna ngupingkeun peringatan anu penting, aranjeunna sigana nempatkeun jempol sareng nyobian ngalakukeun hiji hal, teras aranjeunna ngan ukur tilepan sareng jempé.
Éta pisan sababna naha anjeun tiasa gaduh jinis-jinis ieu tina hal-hal anu dijaga tina tulisan sareng hal-hal anu disapu handapeun karpét, sareng teu aya anu nyarioskeun ieu sacara terbuka salami mangtaun-taun saatos kanyataan.
Pihak alamiah, tanggung jawab di dieu moal janten CEO perusahaan ieu; éta bakal pamaréntah. Di Amérika Serikat, meureunéta pamaréntah nagara, meureun éta pamaréntah féderal.
Pasti, pausahaan ieu sadayana hoyong janten global. Aya seueur implikasi global di dieu. Kuring ningali OpenAI, Google, sareng Anthropic sadayana ngadorong administrasi Biden pikeun ngaluarkeun pesenan eksekutif AI. Ieu geulis ompong tungtungna. Éta ngan ukur nyarios yén aranjeunna kedah nyarioskeun naon modélna sanggup sareng ngaleupaskeun sababaraha tés kaamanan. Teras aranjeunna sadayana ngadukung Trump, sareng Trump sumping sareng mupus sadaya éta sareng nyarios, "Urang kedah kompetitif. Éta gratis-kanggo-sadayana.
Dina waktos anu sami, aranjeunna sadayana nyobian ngumpulkeun dana ti nagara-nagara Wétan Tengah anu seueur artos minyak sareng hoyong ngarobih ékonomina. Éta politikus. Kuring ngarasa yén politikus kedah ngartos yén aya anu nyarios kaluar tina dua sisi tina sungutna, sareng aranjeunna henteu bakal kesel teuing upami aya anu kuciwa dina tungtungna, tapi para politikus ogé dicandak. Naha saur anjeun éta?
Ieu leres-leres, kuring nyangka, naha potongan éta penting dina pandangan kuring sareng naha éta patut nyéépkeun waktos ieu sareng rinci. Kami aya dina lingkungan dimana sistem anu, sakumaha anu anjeun nyarios, kedah nyayogikeun pangawasan ngan ukur dileungitkeun. Éta pos-Warga Amérika Serikat, dimana aliran duit jadi unfettered, sarta éta konsentrasi tinangtu masalah éta sabudeureun AI, dimana aya PACs ieu proliferating sarta ngabahekeun duit kana quashing régulasi bermakna dina duanana kaayaan sarta tingkat féderal.
Anjeun gaduh [pendiri OpenAI] Greg Brockman, komando kadua Sam, langsung nyumbang kana sababaraha cara anu penting. Hal ieu jadi marga pikeun kaayaan dimana aya bener newak anggota DPRD jeung régulator poténsial, tur éta téh mangrupa spiral teuas kaluar tina. Hal hanjelu nyaeta, Jigana nu aya belah kawijakan basajan, sababaraha nu keur trialed nguap di dunya, éta bakal mantuan kalawan sababaraha masalah akuntabilitas ieu.
Anjeun tiasa gaduh tés kaamanan pre-deployment langkung wajib, anu mangrupikeun hal anu parantos kajantenan di Éropa pikeun modél wates. Anjeun tiasa gaduh sarat catetan umum anu langkung ketat pikeun jinis panyilidikan internal dimana urang ningali hal-hal anu teu ditulis dina kasus ieu. Anjeun tiasa gaduh set mékanisme tinjauan kaamanan nasional anu langkung kuat pikeun jinis ambisi infrastruktur Wétan Tengah anu didorong ku Sam Altman.
Sakumaha anjeun nyarios, anjeunna ngalakukeun umpan ieu sareng ngalih sareng administrasi Biden, saurna, "Atur kami, atur kami," sareng ngabantosan aranjeunna ngadamel tatanan eksekutif, teras pas nalika Trump lebet, leres-leres dina dinten-dinten anu munggaran, ngan teu aya larangan, "Hayu urang ngagancangkeun sareng hayu urang ngawangun kampus pusat data anu ageung di Abu Dhabi. Anjeun tiasa gaduh, ieu mangrupikeun saderhana pisan, sapertos panyalindungan whistleblower. Henteu aya undang-undang féderal anu ngajagi karyawan perusahaan AI anu ngungkabkeun masalah kaamanan sapertos kieu anu ditayangkeun dina bagian ieu.
Kami ngagaduhan kasus dimana Jan Leike, anu mangrupikeun jalma kaamanan senior di OpenAI, nuju alignment super di perusahaan. Anjeunna nyerat ka dewan, dasarna bahan whistleblower, nyatakeun perusahaan bakal kaluar tina rel dina misi kaamanan na. Éta mangrupikeun jinis jalma anu leres-leres kedah gaduh badan pangawasan anu aranjeunna tiasa angkat, sareng aranjeunna kedah gaduh panyalindungan undang-undang anu eksplisit tina jinis anu urang tingali dina séktor sanés. Ieu basajan pikeun ngayakeun réplikasi hiji rezim Sarbanes-Oxley-gaya.
Kuring nyangka yén sanaos kumaha akut masalahna nyaéta Silicon Valley nganggap kontrol sadaya kakuatan kakuatan, sareng sanaos kumaha kerung sababaraha lembaga ieu anu tiasa nyayogikeun pangawasan sareng guardrails, kuring masih percanten kana matematika dasar démokrasi sareng politikus anu museurkeun diri. Sareng aya seueur data polling anu muncul anu seuseueurna warga Amerika nganggap yén masalah, patarosan, atanapi résiko AI ayeuna langkung ageung tibatan kauntungan.
Janten kuring nyangka banjir artos kana politik ti AI, éta aya dina kakawasaan urang pikeun ngajantenkeun éta sumber tanda tanya ngeunaan politikus. Nalika urang Amerika milih milih, aranjeunna kedah ditaliti naha jalma anu aranjeunna milih, khususna upami aranjeunna henteu kritis sareng anti-regulasi, tinangtu sadayana masalah ieu, dibantosan ku kapentingan khusus téknologi ageung. Janten kuring pikir upami jalma-jalma tiasa maca potongan sapertos kieu, ngadangukeun podcast sapertos kieu, sareng cekap pikeun mikir sacara kritiskaputusan maranéhanana salaku pamilih, aya kasempetan nyata pikeun ngahasilkeun constituency di Washington wawakil anu tetep hiji panon on na maksakeun pangawasan.
Éta tiasa janten salah sahiji hal anu paling optimis anu kuring kantos nguping saha waé anu nyarios ngeunaan industri AI ayeuna. Abdi ngahargaan éta. Kuring obsessed jeung polling nu nuju ngawangkong ngeunaan. Aya seueur ayeuna. Éta sadayana konsisten, sareng sigana langkung seueur jalma ngora, khususna, kakeunaan AI, beuki teu percanten sareng ambek aranjeunna ngeunaan éta. Éta valénsi sadaya polling. Sareng kuring ningali éta, sareng kuring pikir, saé, nuhun, politikus anu pinter ngan ukur bakal ngalawan éta. Aranjeunna ngan ukur nyarios, "Kami badé nanggung tanggung jawab téknologi gedé."
Teras kuring mikir ngeunaan 20 taun ka pengker, saurang politikus nyarios yén aranjeunna bakal nanggung tanggung jawab téknologi gedé, sareng kuring bajoang pikeun milari hiji waktos téknologi gedé anu tanggung jawab. Hiji-hijina hal anu ngajadikeun kuring pikir ieu bisa jadi béda téh, sumur, anjeun sabenerna kudu ngawangun puseur data, sarta anjeun bisa ngajawab ngalawan éta, sarta anjeun bisa petisi ngalawan éta, sarta anjeun bisa protes ngalawan éta.
Jigana aya hiji politikus anu ngan kungsi imah maranéhanana ditémbak di sabab milih pikeun puseur data. Tegangan geus ngahontal, abdi bakal nelepon deui, a pitch muriang. Anjeun geus ngajelaskeun insularity of Silicon Valley. Ieu ékosistem katutup. Asa kawas aranjeunna pikir maranéhna bisa ngajalankeun dunya. Aranjeunna nuju nempatkeun ton duit kana pulitik, sarta aranjeunna ngajalankeun up ngalawan kanyataan yén jalma teu cinta produk, nu teu masihan aranjeunna loba panutup. Beuki aranjeunna nganggo produk, beuki kesel aranjeunna, sareng para politikus mimiti ningali aya akibat nyata pikeun ngadukung industri téknologi pikeun jalma anu diwakilan.
Anjeun parantos ngobrol sareng seueur jalma. Naha anjeun pikir mungkin pikeun industri téknologi diajar pelajaran anu aya di payuneunana?
Anjeun nyarios karasaeun yén aranjeunna tiasa ngajalankeun dunya tanpa tanggung jawab. Kuring malah teu nyangka yén perlu "karasa kawas" qualifier. Maksudna, anjeun ningali basa anu dianggo ku Peter Thiel, éta eksplisit. Tangtosna, éta conto ekstrim. Sareng Sam Altman, sanaos anjeunna caket sareng terang ku ideologi Thiel dugi ka sababaraha tingkat, mangrupikeun jinis jalma anu béda pisan anu tiasa disada béda sareng langkung diukur dugi ka hiji titik.
Tapi kuring nyangka ideologi anu langkung ageung anu anjeun pikahoyong ti Thiel, anu dasarna: Kami parantos réngsé démokrasi, kami henteu peryogi deui. Kami gaduh seueur pisan sahingga urang ngan ukur hoyong ngawangun bunker alit urang sorangan. Simkuring teu nungkulan Carnegies deui atawa Rockefellers deui, dimana aranjeunna guys goréng, tapi maranéhna ngarasa maranéhna kudu ilubiung dina kontrak sosial jeung ngawangun hal pikeun jalma. Aya nihilisme nyata anu disetél.
Sareng kuring nyangka éta ngan ukur janten spiral anu silih nguatkeun dina sajarah Amérika panganyarna ngeunaan moguls sareng perusahaan swasta anu nampi kakuatan pamaréntahan super bari lembaga démokrasi anu tiasa nanggung tanggung jawabna dileungitkeun. Kuring henteu ngarasa optimis ngeunaan ide yén jalma-jalma éta bakal hudang dina hiji dinten sareng mikir, "Hah, saleresna panginten urang kedah ilubiung dina masarakat sareng ngabantosan ngawangun hal-hal pikeun jalma."
Maksudna, anjeun katingali sapertos conto mikrokosmik The Giving Sumpah, dimana aya momen dimana sigana janten amal, sareng waktos éta ayeuna kapungkur malah diejek. Éta masalah, masalah lega kurangna akuntabilitas nu kuring pikir ngan bisa direngsekeun extrinsically. Éta kedah janten pamilih ngagerakkeun sareng ngahirupkeun deui kakawasaan pangawasan pamaréntahan. Sareng anjeun leres-leres nyarios yén vektor utama anu tiasa dianggo ku jalma-jalma nyaéta lokal. Ieu patali jeung dimana infrastruktur keur diwangun.
Anjeun nyebatkeun sababaraha tegangan bodas-panas sakitar ieu anu nyababkeun kekerasan sareng ancaman, sareng écés, teu aya anu kedah telenges atanapi ngancam. Sareng kuring ogé henteu di dieu pikeun ngadamel rekomendasi kawijakan khusus sanés ngan ukur nampilkeun sababaraha léngkah kawijakan anu sigana dasar sareng damel di tempat sanés di dunya, sanés? Atanapi anu parantos damel di séktor sanés. Abdi henteu di dieu pikeun nyarios anu mana anu kedah dieksekusi sareng kumaha.
Kuring nyangka aya anu kedah kajantenan, sareng éta kedah éksternal, sanés ngan ukur percanten ka perusahaan-perusahaan ieu. Kusabab leresayeuna urang ngagaduhan kaayaan dimana perusahaan anu ngembangkeun téknologi sareng dilengkepan pangsaéna pikeun ngartos résiko, sareng kanyataanna mangrupikeun anu ngingetkeun kami ngeunaan résiko, ogé anu teu aya tapi insentif pikeun gancang sareng teu malire résiko éta. Jeung anjeun ngan teu boga nanaon pikeun counterbalance éta. Janten reformasi naon waé anu tiasa dilaksanakeun dina hal spésifik, aya anu kedah dilawan éta. Sareng kuring tetep uih deui ka optimis yén jalma-jalma masih penting.
Kuring umumna meuli argumen Anjeun. Hayu atuh ngan nyieun hiji counterargument leutik nu Jigana bisa ngucapkeun. Hal anu sanés anu tiasa kajantenan di luar kotak suara nyaéta gelembung muncul, sanés? Éta henteu sadayana perusahaan ieu dugi ka garis finish, sareng teu aya pasar produk anu pas pikeun aplikasi AI konsumen. Sareng deui, kuring henteu acan ningali éta, tapi kuring mangrupikeun pamariksaan téknologi konsumen, sareng panginten kuring ngagaduhan standar anu langkung luhur tibatan anu sanés.
Aya pasar produk anu pas dina dunya bisnis, sanés? Gaduh sakumpulan agén AI nyerat sakumpulan parangkat lunak sigana janten pasar nyata pikeun alat ieu. Sareng anjeun tiasa maca argumen ti perusahaan-perusahaan ieu nyarios, "Kami parantos ngabéréskeun coding, sareng éta hartosna urang tiasa ngabéréskeun naon waé. Upami urang tiasa ngadamel parangkat lunak, urang tiasa ngabéréskeun masalah naon waé.
Jigana aya wates nyata pikeun hal software bisa ngalakukeun. Éta hébat dina dunya bisnis. Parangkat lunak henteu tiasa ngabéréskeun unggal masalah dina kanyataan, tapi aranjeunna kedah aya. Aranjeunna kedah ngabéréskeun padamelan éta, sareng panginten henteu sadayana tiasa dugi ka garis finish. Tur aya kacilakaan, sarta gelembung ieu Pops, sarta meureun OpenAI atanapi Anthropic atanapi xAI, salah sahiji pausahaan ieu gagal, sarta sakabeh investasi ieu mana jauh.
Naha anjeun pikir éta bakal mangaruhan ieu? Sabenerna, hayu atuh naroskeun patarosan kahiji. OpenAI leres dina puncak IPO. Aya loba mamang ngeunaan Sam salaku pamimpin. Naha anjeun pikir aranjeunna badé dugi ka garis finish?
Abdi henteu badé ngaramalkeun, tapi kuring nyangka anjeun ngangkat titik anu penting, nyaéta yén insentif pasar pentingna sacara internal pikeun Silicon Valley, sareng precarity tina dinamika gelembung ayeuna nangtung pikeun ngaganggu, deui, berpotensi, numutkeun kritik, balapan ka handap dina kaamanan.
Kuring ogé bakal nambahan éta, lamun nempo precedence sajarah dimana aya hiji set sarupa jeung sigana impenetrable of insentif pasar jeung épék berpotensi deleterious pikeun publik, aya dampak litigation. Sareng anjeun ningali éta salaku daérah perhatian akhir-akhir ieu. Sam Altman aya di luar minggu ieu nyokong panerapan anu bakal ngajagi perusahaan AI tina sababaraha jinis tanggung jawab anu OpenAI parantos kakeunaan dina jas maot anu salah, contona. Tangtosna, aya kahayang pikeun ngagaduhan tameng tina tanggung jawab.
Kuring nyangka yén pangadilan masih tiasa janten mékanisme anu bermakna, sareng éta bakal pikaresepeun pisan pikeun ningali kumaha jas ieu bentukna. Anjeun parantos ningali, contona, gugatan kelas-aksi, anu kuring sareng seueur, seueur pangarang anu kuring terang mangrupikeun anggota, ngalawan Anthropic pikeun ngagunakeun buku-buku anu aya dina hak cipta. Mun aya pikiran légal pinter jeung plaintiffs anu paduli, sakumaha urang geus sajarahna katempo dina kasus tina bako badag pikeun énergi badag, Anjeun ogé bisa meunang sababaraha guardrails sarta sababaraha insentif ngalambatkeun turun, ati, atawa ngajaga jalma cara éta.
Karasa yén sakabéh struktur biaya industri AI ngagantung dina interpretasi anu saé pisan pikeun panggunaan adil. Teu datang nepi cukup. Struktur biaya pausahaan ieu bisa spiral kaluar kontrol lamun maranéhanana kudu mayar anjeun jeung dulur sejenna anu karya maranéhanana geus dicokot, tapi teu merenah pikeun mikir ngeunaan, jadi urang ngan teu mikir ngeunaan eta. Katuhu gigireun éta, sadaya produk ieu ayeuna nuju rugi. Sapertos ayeuna, aranjeunna sadayana lumpat rugi. Aranjeunna nuju ngaduruk langkung duit ti aranjeunna tiasa ngadamel. Di sawatara titik, maranéhna kudu flip saklar.
Sam nyaéta pangusaha. Sakumaha anjeun parantos nyarios sababaraha kali, anjeunna sanés téknologi. Anjeunna jalma bisnis. Naha anjeun pikir anjeunna siap ngabalikan saklar sareng nyarios, "Kami badé ngadamel dolar?" Kusabab nalika kuring naroskeun, "Naha anjeun pikir OpenAI bakal ngajantenkeun éta?" Éta nalika aranjeunna kedah ngadamel dolar. Sareng dugi ka ayeuna, Sam parantos ngadamel sadayana artos ku naroskeun artos ka jalma sanés tibatan perusahaanna ngadamel artos.
Nya, éta mangrupikeun patarosan anu ageung pikeun Silicon Valley, pikeun investor, pikeun masarakat.Anjeun ningali sababaraha pernyataan sareng kaluar tina OpenAI anu sigana nunjukkeun panik ngeunaan éta. Shutting handap Sora, shutting handap sababaraha proyék ancillary, nyoba nol dina produk inti. Tapi teras di sisi anu sanés, anjeun masih ningali, dina waktos anu sami, seueur misi ngabdi, leres? Malah conto leutik - éta écés teu inti pikeun bisnis maranéhanana - nyaeta akuisisi TBPN.
Ku jalan kitu, pas urang ngahontal garis finish jeung kanyataan-mariksa, pausahaan nyanghareup jenis ieu scrutiny jurnalistik acquires platform dimana maranéhna bisa boga kontrol leuwih langsung kana paguneman. Jigana nu aya loba investor anu prihatin, dumasar kana paguneman Kuring geus kungsi, yén masalah ieu ngajangjikeun sagala hal ka sadaya jalma ogé ngalegaan ka kurangna ieu fokus dina modél bisnis inti. Sareng kuring hartosna, anjeun langkung caket kana jinis prognosticating sareng ningali pasar tibatan kuring sigana. Kuring bakal ngantep anjeun sareng pamiarsa janten hakim naha aranjeunna nganggap OpenAI tiasa ngagentos saklar.
Nya, kuring naroskeun patarosan sabab anjeun ngagaduhan kutipan dina potongan ti eksekutif senior Microsoft, sareng éta, "warisan Sam tiasa langkung mirip sareng Bernie Madoff atanapi Sam Bankman-Fried," tinimbang Steve Jobs. Éta rada babandingan. Naon anu anjeun lakukeun tina ngabandingkeun éta?
Jigana éta paraphrase a. Bagian Steve Jobs sanés bagian tina kutipan. Tapi aya hiji jenis sobriety metot kana eta sabab difrasakeun kawas, "Jigana aya kasempetan leutik tapi nyata yén anjeunna angin nepi ka SBF atawa scammer tingkat Madoff". Maksudna, dina pikiran kuring, sanés yén Sam dituduh jinis-jinis panipuan atanapi kajahatan anu khusus, tapi darajat panyalahgunaan sareng panipuan ti Sam mungkin gaduh kasempetan pikeun émut dina skala éta.
Leres, kuring pikir naon anu paling keuna ngeunaan kutipan éta, jujur, nyaéta yén anjeun nelepon di Microsoft sareng anjeun henteu kéngingkeun, "Éta gélo. Kami henteu kantos nguping éta." Anjeun meunang loba kawas, "Leres, loba jalma di dieu mikir yén" nu luar biasa. Sareng kuring pikir éta angkat kana patarosan bisnis kacangan sareng baud ieu.
Hiji investor ngawartoskeun kuring, misalna, dina lampu tina cara nu sipat ieu tetep dina taun sanggeus firing "- sarta ieu ogé panginten ieu pamikiran sober metot - yén éta teu merta yén Sam kudu di handap mutlak daptar, kawas kudu jadi panghandapna tina low dina watesan jalma anu leres-leres teu kedah ngawangun téhnologi ieu, pikeun naon eta ceuk sababaraha jalma anu Elon yén éta patut eta. meureun di handap daptar jalma anu kudu ngawangun AGI, sarta handapeun sababaraha inohong ngarah sejenna dina widang ieu.
Janten kuring ngira yén éta mangrupikeun penilaian anu pikaresepeun, sareng éta jinis pamikiran anu kuring pikir anjeun kéngingkeun ti para pragmatis nyata anu panginten henteu ngagaleuh kana masalah kaamanan. Éta ngan ukur berorientasi kana kamekaran, sareng aranjeunna nyangka yén OpenAI ayeuna gaduh masalah sareng Sam Altman.
Sapotong Microsoft estu metot. Perusahaan éta panginten aranjeunna aya di luhur dunya. Yén maranéhanana geus nyieun investasi ieu sarta maranéhanana bade leapfrog dulur, utamana jeung paling importantly, Google, jeung meunangkeun deui kana graces hade konsumén. Tingkat nu aranjeunna ngarasa dibeuleum ku petualangan ieu - ieu téh parusahaan pisan soberly ngajalankeun - Ku teu sangka bisa overstated.
Anjeun nyarios karakter sareng ciri kapribadian. Abdi hoyong mungkas di dieu ku patarosan ti listeners urang. Kuring nyarios dina acara anu sanés, The Vergecast, yén kuring badé ngobrol sareng anjeun, sareng saurna, "Upami anjeun gaduh patarosan pikeun Ronan ngeunaan carita ieu, wartosan kuring." Janten urang gaduh hiji di dieu anu kuring pikir aya hubunganana sareng anu anjeun jelaskeun. Kuring ngan bade maca eta ka anjeun:
"Kumaha alesan pikeun paripolah anu goréng, tindakan cutthroat Altman sareng pamimpin AI anu sanés, bénten sareng leresan anu didangukeun ku Ronan ti pamimpin anu luhur dina politik sareng média? Naha aranjeunna sadayana henteu menerkeun lampahna ku nyarios kieu kumaha dunya robih? Lamun kuring henteu ngalakukeun ieu, batur bakal ngalakukeunana?"
Hehehehe, aya loba nu bade sabudeureun. Abdi nyarios naon anu has pikeun AI nyaéta yén patok eksistensial anu unik pisan hartosna duanana pernyataan résiko ekstrim, leres? Anjeun gaduh Sam Altmansaurna, "Ieu tiasa janten lampu pikeun urang sadayana." Sareng ogé, para kritikus tiasa nyarios, mania anu dimaksud ku pananya nyaéta ekstrim, sanés?
Hal anu Sam dituduh Elon, dina catetan, éta meureun manehna hayang nyalametkeun umat manusa, tapi ngan lamun éta anjeunna. Jenis komponén ego hayang meunang, nu mangrupakeun framing Sam ngagunakeun sadaya waktu, na yén ieu téh salah sahiji pikeun buku sajarah, ieu bisa ngarobah sagalana. Ku kituna, sanajan di luhur sarta saluareun "anjeun kudu megatkeun sababaraha endog" pola pikir lolobana usaha Silicon Valley, aya, dina pikiran sababaraha inohong ngarah AI, Jigana, rationalization lengkep pikeun sagala na sagala fallout.
Jeung poho megatkeun endog. Kuring / panginten seueur peneliti kaamanan anu bakal nyarios berpotensi ngabahayakeun nagara, ngarecah dunya, sareng ngarecah jutaan jalma anu padamelan sareng kasalametan tetep aya dina kasaimbangan - éta anu unik ngeunaan éta. Éta tempat kuring nutup, reflecting on awak ngalaporkeun ieu, bener percanten ieu ngeunaan leuwih ti Sam Altman. Ieu ngeunaan industri anu teu kabeungkeut sareng masalah spiral Amérika anu henteu tiasa ngahalangan éta.
Hehehehe. Nya, urang ngagaduhan optimis di dinya, tapi kuring nyangka éta tempat anu saé pikeun ngantunkeun.
[Seuri] Tungtung dina downbeat.
Tangtosna. Éta unggal carita hébat, saleresna. Sidang Musk-Altman bakal datang. Jigana urang bakal diajar langkung seueur di dieu. Kuring curiga kuring bakal hoyong ngobrol sareng anjeun deui. Ronan Farrow, hatur nuhun pisan pikeun janten on Decoder.
Hatur nuhun.
Patarosan atanapi komentar ngeunaan episode ieu? Pencét kami di [email protected]. Kami leres-leres maca unggal email!
