Uroe nyoe bak Decoder, lon teungoh meututo ngon Ronan Farrow, salah sidroe bintang rayeuk peulapor investigasi nyang teungoh beukeureuja uroe nyoe. Gobnyan geupeureutoh kisah Harvey Weinstein, lam kawan le that, le that nyang laen. Dan baroe minggu baroe, jih ngon rakan peunuleh Andrew Marantz ji peu ek saboh fitur terjun mendalam nyang luar biasa lam The New Yorker teuntang CEO OpenAI Sam Altman, kepercayaan jih, ngon muncul jih OpenAI nyan keudroe.
Saboh catatan seugohlom kamoë djak leubèh djôh lom disinoë —The New Yorker geupeuteubiët kisah njan dan Ronan dan ulôn na percakapan njoë seugohlom kamoë teupeuë mandum luah serangan ateuëh rumoh Altman, jadi droëneuh hana akan neudeungo kamoë peugah haba langsông teuntang njan. Teuma keu peugah mantong, lon pike kekerasan meubacut pih hana jeuet ta teurimong, serangan-serangan ateuh Sam nyoe hana jeuet ta teurimong, dan bahwa jeuneh ketidakberdayaan nyang dirasakan le ureung-ureung, nyang menyebabkan kekerasan lagee nyoe, nyan keudroe hana jeuet ta teurimong, dan nyan layak leubeh le pengawasan dari industri dan pemimpin politik geutanyoe. Lon harap nyan jeulaih.
Langganan Verge, bek tuwoe droeneuh meurumpok akses eksklusif keu Decoder bebas iklan dipat mantong droeneuh meurumpok podcast droeneuh. Ulee nyoe. Bukan langganan? Kamoe jeut neu daftar disino.
Mandum nyan dipeugah, na le that meuputa-puta di sekitar Altman nyan permainan nyang adil untuk peulapor nyang ketat - jeuneh peulapor nyang dipeuget le Ronan ngon Andrew. Berkat popularitas ChatGPT, Altman kaleuh muncul seubagoe tokoh industri AI nyang paleng deuh, lheuh ji ubah laboratorium penelitian nirlaba nyang tom jeut keu perusahaan swasta nyang karap triliun dolar lam padum thon sagai. Teuma mitos Altman that meukonflik, saban-saban jidefinisikan boh le kemampuan dealmaking jih nyang jeulaih dan kecenderungan jih nyang dilaporkan keu... well, meusulet keu mandum ureung di sekitar jih.
Cerita nyoe panyang jih leubeh dari 17.000 kata, ngon jeut ta peugah meuasoe catatan definitif teuntang peu nyang teujadi bak thon 2023 watee dewan direksi OpenAI tiba-tiba ji peu ek Altman ateuh dugaan jih nyang peugah haba sulet, hanya untuk jih karap langsong ji peukerja lom. Nyoe cit saboh penyelaman mendalam lam kehidupan pribadi Altman, investasi jih, pacaran jih keu peng Timu Teungoh, dan refleksi jih keudroe teuntang tingkah laku masa jameun dan ciri-ciri karakter jih yang menyebabkan salah saboh sumber geupeugah bahwa jih "hana dibatasi le kebenaran." Lon sunggoh-sunggoh lon sarankan droeneuh neubaca mandum calitra nyan; Lon curiga akan dirujuk meuthon-thon ukeu.
Ronan ka le that geu peugah haba ngon Altman seulama 18 buleuen nyang geu peuguna keu geu lapor karya nyoe, dan meunan salah saboh hal utama nyang lon peunasaran nakeuh peue gobnyan geurasa na perubahan bak Altman seulama watee nyan. Lageë, le that njang ka teudjadi dalam AI, dalam teknologi, dan dalam dônja seulama sithôn siteungoh njang ka u likôt.
Droeneuh akan neudeungo Ronan geupeugah haba teuntang nyan seucara langsong, meunan cit rasa gobnyan bahwa ureung-ureung ka jeuet keu leubeh tem geupeugah haba teuntang kemampuan Altman untuk geupeureuntang kebenaran. Ureung mulai teumanyong, deungon su nyang kreuh dan lam catatan, peue keuh perilaku ureung lagee Altman nyan menyangkut, kon hanya untuk AI atawa teknologi tapi cit untuk masa ukeu kolektif masyarakat.
Oke: Ronan Farrow bak Sam Altman, AI, dan keubeunaran. Nyoe tajak.
Wawancara nyoe ka geu edit ringan-ringan mangat panyang dan jeulaih.
Ronan Farrow, droeneuh nakeuh sidroe wartawan dan kontributor keu surat haba. Selamat teuka bak Decoder.
Seunang that na disino. Teurimong geunaseh ka na lon.
Lon that teugageh bak lon peugah haba ngon droeneuh. Kamoe baroe meutuleh saboh karya rayeuk keu The New Yorker. Nyan profil Sam Altman dan, lagee nyan, OpenAI. Bacaan lon keuhai nyan nakeuh bahwa, lagee mandum fitur-fitur nyang rayeuk, nyan, deungon peulapor nyang ketat, jivalidasi le that rasa nyang ka na bak ureung-ureung teuntang Sam Altman seulama treb that. Kamoe ka jeulaih ka kamoe peuteubiet, ka meuteumeung reaksi keu nyan. Kiban rasa droeneuh jinoe?
Nah, lon ka terharu, sebenar jih, deungon sejauh mana nyan terrebut lam masa dipat ekonomi perhatian begitu skizofrenia dan dangkal. Nyoe saboh kisah nyang, meunurot lon, meupeungaroh keu geutanyoe mandum. Dan watee lon peuguna sithon siteungoh dari udep lon, dan rekan peunuleh lon, Andrew Marantz, pih geu peu abeh watee nyan, beutoi-beutoi geu usaha peugot sapeu-sapeu forensik dan teliti, nyan sabee kareuna lon rasa lagee na masalah struktural yang leubeh rayeuk yang mempengaruhi ureung di lua individu dan perusahaan di inti dari kisah.
Sam Altman, deungon latar budaya hype Silicon Valley ngon startup nyang balon keu penilaian nyang rayeuk berdasarkan janji-janji nyang mungken atawa hana mungken teujadi bak masa ukeu, ngon meningkatkan pelukan budaya pendiri nyang meupike peugah bak kelompok-kelompok nyang berbida hal-hal nyang bertentangan nakeuh saboh fitur, kon sabohbug...Bahkan deungon latar njan, Sam Altman nakeuh saboh kasus njang luar biasa dipat bandum ureuëng di Silicon Valley njang meuharap keu hai-hai njan hana djeuët djitheun peugah haba teuntang peukara keupercayaan dan keujujuran djih njoë.
Kamoe ka kamoe teupeu bahwa gobnyan dipeuteubiet ateuh padum-padum boh versi tuduhan hana jujur atawa serial nyang diduga meusulet. Teuma nyang luar biasa, bah pih na laporan nyang jroh that, Keach Hagey ka geupeugot buet nyang rayeuk that bak hai nyoe. Karen Hao ka geupeugot buet nyang rayeuk that bak hai nyoe. Beutoi-beutoi hana pemahaman nyang pasti teuntang poin-poin bukti nyang sebenar jih dan alasan pakon awak nyan teutap di luwa mata umum.
Jadi point nomor saboh nakeuh lon rasa teukeujot deungon fakta bahwa padum-padum boh celah-celah nyan lam pengetahuan umum geutanyoe, dan bahkan lam pengetahuan ureung dalam Silicon Valley, jinoe ka ji peunoh bacut teuk. Padum-padum boh alasan nyang na celah-celah ka geuisi bacut teuk.
Kamoe meulaporkan kasus-kasus dipat ureung-ureung lam perusahaan nyoe beutoi-beutoi meurasa lagee hai-hai nyang ditop atawa sengaja hana didokumentasikan. Salah saboh hai baroe lam calitra nyoe nakeuh investigasi firma hukom pivotal le WilmerHale, nyang jeulaih that firma hukom mewah, kredibel, rayeuk nyang geupeugot investigasi Enron ngon WorldCom, nyang, ngon cara, mandum voluminous, lagee meureutoh halaman nyang geupeuteubiet. WilmerHale geupeugot peunyelidikan nyoe nyang jituntut le anggota dewan nyang ka jipeuteubiet Altman seubagoe syarat keubeurangkat awaknyan watee gobnyan geupeuleupah awaknyan, dan gobnyan geuwoe lom. Dan njang luar biasa — bak mata le that ahli hukom njang ulôn peugah haba, dan njang teukeujot bak mata le that ureuëng dalam perusahaan njoë — awaknjan djipeutheun njan nibak djituléh. Mandum nyang tom deuh dari nyan adalah siaran pers 800 kata dari OpenAI nyang geugamba peu nyang terjadi seubagoe kerusakan kepercayaan. Dan kamoe peukong bahwa hai nyoe disimpan keu briefing lisan.
Na kasus di pat, miseu jih, anggota dewan deuh jih ingin memilih melawan konversi dari bentuk nirlaba asli OpenAI jeut keu entitas nirlaba, ngon nyan tercatat seubagoe abstensi. Na lagee sidroe pengacara lam rapat nyan geupeugah, “Nyoe, nyan jeut keu pemicu le that pengawasan.” Dan ureung nyang keuneuk vote lawan meuteumeung catatan seubagoe abstensi keu mandum penampilan. Na pertikaian faktual. OpenAI jiklaim laen, lagee nyang mungken droeneuh bayangkan. Njoë bandum keudjadian-keudjadian dipat droëneuh na saboh perusahaan njang, deungon akun droëdjih, djimat masa ukeuë geutanjoë dalam djaroë djih.
Taruhan keselamatan that akut sampoe hana jijak. Nyoe keuh alasan perusahaan nyoe dipeudong seubagoe nirlaba nyang berfokus bak keamanan, ngon di pat hai-hai nyang dikaburkan deungon cara ureung-ureung nyang kredibel di sekitar nyoe meurasa kureung dari profesional. Dan droeneuh neupasang nyan deungon latar dipat na napsu politik nyang that ubit keu peraturan nyang bermakna. Lon pike nyan keuadaan nyang that meu-ulang-ulang.
Inti jih bagi lon kon cuma Sam Altman pantas meuteumeung pertanyaan-pertanyaan nyoe seucara akut. Meunan cit bahwa salah sidroe dari awak nyan lam bidang nyoe, dan le dari tokoh-tokoh kunci, geupeuleumah, meunyoe kon idiosinkratik khusus nyoe, sifeut nyang diduga meusulet-seulama-waktu, teunte na tingkat mentalitas ras-keu-miyueb, dipat ureung-ureung nyang safetyists ka geu-iram mandum komitmen-komitmen nyan.
Lon pike, watee ta kalon bocoran baroe-baroe nyoe dari Anthropic, na sidroe ureung nyang peugot pertanyaan soe nyang harus na jaroe bak tombol lam karya nyoe. Jawaban jih, meunyoe geutanyoe hana pengawasan nyang bermakna, lon pike geutanyoe haroh tanyoeng pertanyaan-pertanyaan nyang serius dan ta usaha untuk ta peuteubiet informasi sebanyak mungken teuntang mandum ureung nyoe. Jadi lon ka terharu oleh peu yang meurasa lagee percakapan yang bermakna tentang nyan, atau awai dari saboh.
Alasan lon tanyong lagee nyan nakeuh droeneuh ka neu keurija bak hai nyoe sithon siteungoh. Kamoe meututoe ngon, lon peucaya, 100 droe ngon rakan peunuleh kamoe, Andrew. Nyan trep that keu saboh calitra keu masak. Lon pike kira-kira thon siteungoh nyang ka u likot di AI khusus jih, dan aneuk agam, na sikap dan nilai-nilai mandum karakter nyoe meugese that bagah.
Mungken hana leubeh nibak Sam Altman, nyang mulai seubagoe pemenang default kareuna awak nyan ka geupeuteubiet ChatGPT dan mandum ureung geupike nyan akan geucok alih mantong keu Google. Dan lheuh nyan Google ji jaweub, nyang deuh jih hireun awak nyan bahwa Google akan ji usahakan untuk ji lindong bisnis jih, mungken salah saboh bisnis nyang paleng get lam sejarah teknologi, meunyo kon sejarah bisnis. Anthropic geucok keputusan bahwa jih akan geufokus bak perusahaan. Nampak jih teungoh jicok pimpinan komando .disinan kareuna penggunaan AI enterprise that tinggi.
Jinoe, OpenAI ji fokus lom produk jih jioh dari “kamoe akan tacok Google” keu Codex, dan awak nyan akan jicok perusahaan. Lon cuma hana jeut lon peugah peu, seulama perjalanan laporan droeneuh seulama sithon siteungoh nyoe, meunyo rasa jih lagee tokoh-tokoh nyang droeneuh peugah haba ka meu ubah? Bak sikap dan nilai-nilai awak nyan, peue keuh awak nyan ka meu ubah?
Nye. Lon pike phon-phon that, bahwa kritik nyang dipeujeulajah lam karya nyoe, teuka dari le ureung lam perusahaan-perusahaan nyoe bak saat nyoe — bahwa nyoe adalah industri nyang, meskipun taruhan eksistensial, teungoh meutron jeut keu sesuatu dari perlombaan u miyueb ateuh keselamatan dan dipat kecepatan teungoh meulawan mandum nyang laen — bahwa kekhawatiran ka meutamah akut. Dan lon pike keukhawatiran-keukhawatiran njan ka leubèh djivalidasi lagèë njang ka teudjadi sithôn siteungoh njang ka u likôt. Bak watee nyan cit, sikap teuntang Sam Altman ka khusus meu ubah. Watee kamoe mulai peugah haba ngon sumber-sumber untuk nyoe, ureung-ureung beutoi-beutoi leery dari dikutip teuntang nyoe dan dijak bak catatan teuntang nyoe.
Bak akhe peulapor kamoe, droeneuh na badan peulapor dipat ureung-ureung peugah haba teuntang hai nyoe secara teubuka dan jeulaih, dan droeneuh na anggota dewan peugah haba lagee, "Gobnyan sidroe ureung peugah haba patologis. Gobnyan sidroe ureung sosiopat." Na berbagai perspektif dari, "Nyo bahaya mengingat taruhan keamanan, ngon tanyo perle pemimpin teknologi nyo nyang kaleuh meningkatkan integritas," mandum cara sampoe lagee, "Tuwoe taruhan keamanan, nyo adalah perilaku nyang hana tertahankan bagi eksekutif perusahaan rayeuk manapun, bahwa nyan hanya menciptakan le that disfun."
Jadi percakapan nyan ka jeuet keu leubeh jeulaih deungon cara nyang meurasa mungken ka terlambat, tapi meupeugot hate lam saboh arti. Dan Sam Altman, keu kredit gobnyan... Potongan nyan that adil dan bahkan murah hate, lon akan peugah, keu Sam. Nyoe kon jeuneh potongan nyang le that barang “got you”. Lon peuguna le, le that jeum bak telepon ngon jih watee kamoe teungoh seuleusoe nyoe dan beutoi-beutoi lon deungoe jih jiteubiet.
Lagèë njang ka neukira, dalam saboh karya lagèë njoë, hana mandum njang djeuët keu dalam.Padum-padum boh kasus njan dalam karya njoë nakeuh sabab ulôn deungö deungon ikhlas. Dan meunyo Sam beutoi-beutoi geupeugot saboh argumen bahwa lon rasa jiba ie, bahwa sapeue-sapeue, bah pih beutoi, jeut keu sensasionalis, lon beutoi-beutoi salah bak sisi menjaga forensik nyoe dan diuko. Jadi lon pike nyan diteurimong deungon beutoi, dan lon hanya berharap catatan faktual nyoe nyang terkumpul seulama periode watee nyoe jeut memicu percakapan nyang leubeh teuga teuntang kebutuhan pengawasan.
Nyan keuh seubeutoi jih pertanyaan lon selanjut jih. Lon pike droeneuh ka neumeututoe ngon Sam silusen go seulama neubri laporan calitra nyoe. Sigo teuk, nyan le that percakapan lam watee nyang trep. Peuë neukira Sam ka meu-ubah seulama sithôn siteungöh njang ka u likôt?
Nye. Lon pike salah saboh subplot nyang paleng menarik lam hai nyoe nakeuh Sam Altman pih teungoh geupeugah haba teuntang sifeut nyoe leubeh jeulaih nibak gobnyan bak masa awai. Sikap Sam lam karya nyoe hana lagee, “Hana sapeu disinan, nyoe hana beutoi; lon hana kuteupu peu nyang droeneuh peugah.” Sikap nyang na bak gobnyan nakeuh bahwa gobnyan geupeugah hai nyoe dikaitkan deungon kecenderungan nyang menyenangkan rakyat dan seumacam keji konflik. Jih mengakui bahwa nyan menyebabkan masalah bagi jih, terutama awai lam karir jih.
Gobnyan teungoh geupeugah, “Nyoe, ulôn teungoh lôn pindah lewat nyan, atawa harôh sampoe bataih nyang ka teuntée lôn pindah lewat nyan.” Lon pike peu nyang that menarik bagi lon adalah kontingen ureung-ureung nyang kamoe peugah haba nyang kon hanya pendukung keselamatan, kon hanya peneliti teknis nyang mendasari nyang that seureng cenderung na masalah keselamatan akut nyoe, tapi cit investor pragmatis dan rayeuk. Awak nyan nakeuh pendukung Sam, nyang, lam padum-padum boh kasus, geukaloen pertanyaan nyoe dan geupeugah haba bahkan ka meuen peran kunci lam kembali jih lheuh penembakan. Jinoe, ateuh pertanyaan nyoe peue keuh gobnyan ka geupeugot reformasi, dan sampoe padum boh perubahan nyan na makna, awaknyan jipeugah, “Nyoe, kamoe meubri manfaat keu gobnyan dari keraguan watee nyan.”
Lon pike keu salah sidroe investor terkemuka khusus jih nyang geupeugah, “Tapi sejak saat nyan, deuh jeulaih jih hana dipeuteubiet di likot gudang kayee,” nyang merupakan kalimat nyang dipakek le sidroe nyoe, sampoe bataih nyang peureulee. Akibat jih, lagee nyoe jinoe ka jeut keu sifeut nyang stabil. Tanyoe takalon nyoe deungon cara nyang meulanjot. Droeneuh jeuet neu kalon padum-padum boh bisnis OpenAI nyang paleng rayeuk .hubungan dan cara awak nyan jeut geume beban ketidakpercayaan nyan deungon cara yang sabe.
Lagee ngon Microsoft, droeneuh neumeututoe ngon eksekutif di sinan, dan awak nyan na keukhawatiran nyang beutoi-beutoi akut dan baroe-baroe nyoe jikatalisis. Na contoh nyo di pat, bak uroe nyang sama OpenAI ji tegaskan lom eksklusivitas jih ngen Microsoft sehubungan ngen model AI stateless nyang mendasari jih cit ji umumkan kesepakatan baroe ngen Amazon nyang na hubungan ngen meukat solusi perusahaan keu ji bangun agen AI nyang stateful, arti jih awak nyan na memori.
Droeneuh neumeututoe ngon ureung Microsoft, dan awak nyan lagee, "Nyan hana mungken tapeugot tanpa berinteraksi ngon barang-barang nyang mendasari nyang kamoe na kesepakatan eksklusivitas." Jadi nyan hanya salah saboh dari le contoh ubeut di pat sifeut nyo na urat keu kegiatan bisnis nyang meulanjot sabe ngon merupakan subjek perhatian aktif lam dewan OpenAI, lam suite eksekutif jih, ngon lam komunitas teknologi nyang leubeh luah.
Kamoe sabe kamoe peugah “sifeut” nyan. Na saboh bareh lam calitra nyan nyang bak lon rasa lagee tesis, dan nyan nakeuh deskripsi sifeut nyang droeneuh peugah. Sam Altman hana dibatasi uleh kebenaran dan gobnyan na dua boh sifeut nyang karap hana tom deuh bak ureung nyang sama: nyang phon nakeuh keinginan nyang kreuh untok menyenangkan ureung, untok disukai lam interaksi terteunte, dan nyang keudua nakeuh kureung kepedulian nyang karap sosiopati ateuh konsekuensi nyang mungken teuka dari ureung laen.
Lon haroh peugah bak droeneuh, lon baca kalimat nyan 500 kali, dan lon cuba bayangkan sabe lon peugah peu nyang ureung galak dan lheuh nyan hana keucewa watee awak nyan meurasa dipeugah haba. Dan lon hana jeuet lon peugot keadaan emosi lon meuphom pakriban hai-hai nyan jeuet na lam ureueng nyang saban. Kamoe ka le that meututoe ngon Sam, dan kamoe ka meututoe ngon ureung-ureung nyang ka geualami sifeut-sifeut nyoe. Pakriban cara jih?
Nye. Nyoe menarek bak tingkat manusia karena lon peutoe badan-badan pelaporan lage nyoe ngen fokus yang nyata keu memanusiakan soe manteng yang na di inti jih dan mencari pemahaman dan empati yang mendalam. Watee lon cuba peutoe nyoe dari sudut pandang yang leubeh manusiawi dan peugah, "Hei, nyoe akan hanco bagi lon meunyoe le that ureung yang lon keureuja sama geupeugah lon sidroe ureung peugah haba patologis. Pakriban cara droeneuh neuba beban nyan? Pakriban droeneuh peugah haba tentang nyan lam terapi? Peue kisah yang droeneuh peugah keudroeneuh tentang nyan?"
Lon na macam, lam pandangan lon, mungken platitudes Pantai Barat tentang nyan lagee, “Yeah, lon galak keurija napas.” Tapi hana le rasa bracing konfrontasi droe yang mendalam yang lon pike le dari geutanyoe mungken akan na meunyoe geutanyoe takalon tanggapan lagee nyoe tentang prilaku geutanyoe dan perlakuan geutanyoe keu ureung.
Lon pike nyan sebenar jih meujak keu jawaban nyang leubeh luah keu pertanyaan nyan, cit. Sam ji peugah bahwa sifeut nyo kaleuh ji seubabkan masalah, teutapi cit bahwa nyan bagian dari peu nyang kaleuh ji peuberdaya jih keu ji peucepat pertumbuhan OpenAI sampoe jih jeut ji peusatu ngon ji peu mangat kelompok ureung nyang beda. Gobnyan sabe geuyakinkan mandum daerah pemilihan nyang saleng meulawan nyoe bahwa peu nyang awaknyan pedulikan nakeuh peue nyang gobnyan pedulikan. Dan nyan jeut keu saboh keterampilan nyang that meuguna keu sidroe pendiri. Lon ka lon peugah haba ngon investor nyang lheuh nyan geupeugah, "Nyoe, mungken nyan keterampilan nyang kureung berguna untok menjalankan perusahaan kareuna le that menanam perselisihan."
Teuma bak sisi pribadi Sam, lon pike hal nyang lon cok watee lon cuba meuhubong bak tingkat manusia nakeuh kureung jih konfrontasi, refleksi, ngon pertanggungjawaban droe nyang leubeh dalam, nyang cit menginformasikan bahwa superpower atawa tanggung jaweub keu saboh perusahaan nyang mempersiapkan IPO.
Jih nakeuh sidroe ureung yang, lam kata-kata salah sidroe mantan anggota dewan yang nan jih Sue Yoon, yang na lam catatan lam karya nyan geupeugah bahwa sampoe titik "fecklessness" adalah frasa yang jih pakek, jeut beutoi-beutoi peucaya keu realitas yang bergeser dari lapangan penjualan jih atau jeut meyakinkan droe jih dari awaknyan. Atawa setidak jih meunyoe gobnyan hana geupateh keu awaknyan, gobnyan jeuet geu-bluster rot awaknyan deungon hana ragu-ragu keudroe nyang meumakna.
Lon pike hal yang droneuh peugah, dipat droneuh atau lon mungken, lagee tanyoe peugah hal nyan dan ta sadari bahwa nyan bertentangan ngen jaminan laen yang kaleuh tanyoe peugot, lagee na siat membeku atau memeriksa droe. Lon pike hana teujadi lagee nyan bak jih. Dan na budaya hype Silicon Valley nyang leubeh luah dan budaya pendiri nyang mencakup nyan.
Nyan lucu that. Verge nyan geubangun ateuh peu nyang jeut keu ulasan produk .program nyan. Nyan keuh inti dari peu nyang tanyoe peubuet disino. Lon mat triliun dolar Apple R&D sigo lam sithon dan lon peugah, “Hape nyoe tujoh.” Dan nyan macam meulegitimasi mandum laporan geutanyoe dan pendapat geutanyoe di teumpat laen. Tanyoe na fungsi evaluatif, dan tanyoe ta peuguna watee nyang le that hanya untuk takalon produk AI dan tapeugah, “Peu keuh awak nyan beukeureuja?”
Nyan rasa jih lagee gadoh dari le percakapan teuntang AI lagee jinoe. Na percakapan hana akhe teuntang peu nyang mungken jeut jipeubuet, kiban bahaya jih. Dan lheuhnyan gata ta bor, dan gata tapeugah, “Peu kheueh nyan beutoi-beutoi jipeubuet hai nyang seharus jih jipeubuet uroe nyoe?” Lam padum-padum boh keujadian, jaweueb jih nakeuh jeuet. Teuma lam le that, le that keujadian, jaweueb jih hana.
Nyan rasa jih lagee na hubungan ngon budaya hype nyang droeneuh jelaskan dan cit ngon arti bahwa, yah, meunyoe droeneuh peugah akan geupeugot sapeue-sapeue dan hana, dan na nyang meurasa hana get, nyan hana masalah sabab geutanyoe ka tajak bak hai nyang selanjut jih. Nyan bak masa jameun. Dan lam AI khusus jih, Sam that carong bak geupeugot janji-janji nyang rayeuk.
Baroe minggu nyoe, lon pike bak uroe nyang saban ngon calitra droeneuh nyan ji peu ek, OpenAI ji peu ek saboh dokumen kebijakan nyang jipeugah geutanyoe haroh ta pike ulang kontrak sosial dan na beasiswa efisiensi AI dari pemerintah. Nyo adalah janji rayeuk teuntang kiban padum boh teknologi mungken ji bentuk masa ukeu donya ngon kiban tanyo udep, ngon mandum nyan meugantung bak teknologi nyang beukerija ngen cara nyang persis lagee nyang mungken ji janjikan keu beukerija atawa harus beukerija.
Peu na pernah neu teume Sam ragu AI meu ubah jeut keu AGI atawa superintelligence atawa troh u gareh finish? Sabab nyan keuh hai nyang paleng lon teumanyong. Peu na refleksi teuntang peu teknologi inti nyoe jeut ji peugot mandum hal nyang awak nyan peugah jeut ji peugot?
Nyan keuh persis rangkaian pertanyaan nyang paih. Na ahli teknologi njang kredibel njang kamoë peugah haba dalam badan peulapor njoë — dan djeulaih Sam Altman kon salah sidroë; jih ureung bisnis - nyang peugah cara Sam peugah haba teuntang gareh watee keu teknologi nyoe hanya jalan. Na postingan blog nyang ka lheuh padum thon dipat Sam geupeugah, "Tanyoe ka troh bak cakrawala peristiwa. AGI bak dasar jih na di sinoe. Superintelligence na di sekitar sagoe. Tanyoe akan na di planet laen. Tanyoe akan tapeu ubat mandum bentuk kanker." Beutoi, lon hana meuhias.
Kanker nyan sebenar jih menarik, bahwa Sam hyping ureung yang secara teoritis geupeupuleh kanker anjing awaknyan ngen ChatGPT, dan nyan hana terjadi. Awak nyan geupeugah haba ngon ChatGPT, dan nyan jeut keu bantuan awak nyan untuk membimbing padum-padum droe peneliti nyang sebenar jih geupeugot buet nyan, tapi nyang sidroe-droe, alat nyoe geupeupuleh anjing nyoe kon sebenar jih kisah jih.
Lon seunang droeneuh neu peu ek poin nyan kareuna lon ingin melanjutkan poin nyang leubeh rayeuk nyo teuntang pajan potensi ngon resiko teknologi nyan beutoi-beutoi akan berlaku. Teuma payah ta seubot sisi-sisi ubit nyoe nyang sabe-sabe teujadi dari Sam Altman, dipat gobnyan deuh jih geuwujudkan sifeut nyoe mandum lom.
Maksud lon, untuk pakek contoh laporan WilmerHale, dipat kamoe na informasi nyoe nyang ka disimpan dari tulesan, dan ingin teupeu peu keuh brief lisan seupanjang jalan nyan dijok keu soe mantong selaen dua droe anggota dewan Sam bantu pasang untuk mengawasi. Dan gobnyan geupeugah, “Ya, ya, hana, lon peucaya nyan geujok keu mandum ureung nyang meugabong ngon dewan lheuh nyan.” Dan geutanjoë na sidroë ureuëng njang na ilmeë langsông keuadaan njan djipeugah bahwa njan nakeuh saboh peugah haba njang hana beutôi. Dan njan beutôi-beutôi deuh that, bahwa njan hana beutôi. Meunyo tanyoe tatem murah hate, mungken gobnyan ka salah informasi.
Na le that jaminan santai nyoe. Dan lon pakek contoh nyan sebagian karena nyan contoh yang rayeuk dari dissembling, mari tapeugah, yang jeut na konsekuensi yang nyata secara hukom. Lon hana peureulee lon peugah bak droeneuh, dimiyub hukom perusahaan Delaware, meunyo IPO perusahaan nyoe, pemegang saham jeut, dimiyub bagian 220, mengeluh tentang hal nyoe dan menuntut dokumentasi yang mendasari. Na nyang ka na anggota dewan peugah haba lagee nyoe, “Nyoe, preh siat, briefing nyan seharusjih ka terjadi.”
Jadi hai-hai nyoe nyang deuh jih ji plueng dari babah jih sabe, jeut na efek nyata nyang meugrak pasai, efek nyata keu OpenAI. Meunyo ta ba lom keu jeuneh bahasa hype utopis nyang ka muncul lom, lon pike hana kebetulan bak uroe karya nyoe teuka, nyan pih na efek keu geutanyoe mandum, kareuna bahaya jih that akut sehubungan ngon cara jihnyang dipeuguna lam senjata, cara nyang dipakek untok mengidentifikasi agen prang kimia, potensi disinformasi, ngon kareuna cara hype utopis deuh jih mendorong le ahli ekonomi nyang kredibel untok peugah, "Nyoe na mandum tanda-tanda gelembung."
Bahkan Sam Altman ka geupeugah, “Na nyang akan gadoh peng le that disino.” Nyan beutoi-beutoi jeut keu kawah le pertumbuhan ekonomi Amerika ngon global, meunye na lagee tusukan gelembung nyang beutoi-beutoi ji libatkan mandum perusahaan nyo ji peuget kesepakatan saboh sama laen, ji jak mandum bak AI sambil ji pinjam brat that. Jadi peuë njang djipeugah lé Sam Altman peunténg, dan ulôn piké preponderance ureuëng-ureuëng di seukitar djih, droëneuh neuseubôt kamoë meututô deungon leubèh nibak sireutôh, njan seubeutôijih leubèh nibak sireutôh. Kamoe na percakapan bak gareh finish dipat lagee, “Peu keuh akan that ubeut meunyo tapeugah lagee angka nyang leubeh manyang nyoe?” Dan kamoe lagee, "Yeah, mari tapeuremeh. Kamoe akan meuen nyan keren." Teuma le that ureueng dan mayoritas nyang signifikan dari awaknyan jipeugah, “Nyoe na kheueh keukhawatiran.” Dan lon pike nyan mantong sabab jih.
Neubri lon tanyong bak droeneuh keuhai angka nyan. Lagee nyang ka neu peugah, ureung-ureung seumaken terbuka deungon keprihatinan seuireng watee meujak. Rasa jih lagee tekanan di sekitar gelembung — perlombaan untuk meunang, untuk bayeu mandum investasi nyoe, untuk muncul seubagoe pemenang, untuk IPO — ka le that meu ubah sikap. Nyan teunte ji peugot leubeh le tekanan keu Sam ngon OpenAI.
Kamoe peuteubiet saboh calitra minggu nyoe cuma teuntang vibes OpenAI. Cerita droeneuh nakeuh bagian dari nyan, tapi perubahan staffing nyang rayeuk that lam pangkat eksekutif di OpenAI — ureung-ureung teuka dan jak. Para peneliti mandum ka jijak, sebagian rayeuk u Anthropic, nyang lon pike beutoi-beutoi menarik. Droeneuh jeuet neu kalon mantong perusahaan nyoe teungoh meurasakan tekanan, dan jih teungoh menanggapi tekanan nyan deungon padum-padum boh cara.
Tapi lheuh nyan lon pike kembali keu Sam dipeucat. Nyoe cuma kenangan bagi lon. Nyan hana meuingat keu ureung laen, tapi lon cok panggilan sumber di Kebun Binatang Bronx bak poh 7PM bak uroe Jumat, dan na ureung peugah awak nyan akan mencoba untuk meurumpok Sam kembali. Dan lheuh nyan kamoe peuguna akhe minggu untuk meukejar-kejar kisah nyan u miyueb. Dan lon cuma lagee, "Lon na di kebon binatang. Peue nyang droeneuh neuk lon peugot disino?" Dan jaweueb jih, “Tinggai bak talipun.” Nah, aneuk dara lon lagee, “Turun dari hp.” Dan nyan keuh nyang lon peugot.
Nyan ride atawa mate untuk meurumpok Sam kembali. Perusahaan nyan lagee, "Hana, kamoe hana meubi dewan peucat Sam Altman." Investor, awak nyan dikutip lam karya droeneuh, "Kamoe jak prang," lon pike, nakeuh posisi Thrive Capital, "untuk meurumpok Sam kembali." Microsoft jijak prang untuk jicok lom Sam. Nyan dudoe, dan jinoe mandum ureung lagee, "Kamoe akan IPO. Kamoe ka troh u gareh finish. Kamoe ka troh bak ureung kamoe, dan jih akan troh bak gareh finish. Kamoe khawatir jih ureung peugah haba sulet."
Pakon prang keu geujak cok gobnyan watee nyan? Sabab hana deuh sapeuë njang ka meu-ubah seubeutôijih. Kamoe peugah haba teuntang memo-memo nyang disimpan le Ilya Sutskever dan [CEO Antropic] Dario Amodei watee awak nyan mantong sezaman ngon Sam Altman. Keukhawatiran Ilya nyang phon nakeuh Sam nyan ureueng peugah haba sulet.
Hana meusaboh pih nibak nyan nyang ka meu-ubah. Jadi pakon prang keu peuwoe gobnyan watee nyan? Dan djinoë ka ta trôk bak gareh finish, lagèë bandum keuprihatinan ka djiteubiët bak teumpat teubuka.
Nah, phon-phon that, meuah keu aneuk dara droeneuh dan pasangan lon dan mandum ureung laen di sekitar wartawan.
[Geukhem] Cukop that akhe minggu keu mandum ureung.
Ya, nyan memang mengambil alih hudep sidroe ureung, dan kisah nyoe pasti na lon, seulama periode watee terakhir. Seubeutoi jih na hubungan ngon tema jurnalistik dan akses informasi nyoe, lon pike. Investor nyang jak prang keu Sam ngon mandum berperan lam memastikan jih teuka lom, ngon dewan nyang kaleuh dirancang khusus keu melindungi misi nirlaba keu geupeuduek keamanan ateuh pertumbuhan ngon keu geupeucat sidroe eksekutif meunyoe awak nyan hana jeuet dipeucaya deungon nyan, awak nyan geujak. Nyan mandum gara-gara, ya, insentif pasai nyan na disinan, kon?
Sam jeut meyakinkan ureung, "Nyan, perusahaan nyan akan hanco." Tapi alasan jih na dukungan nakeuh kureung informasi. Investor-investor nyan, lam le kasus, jinoe geupeugah, “Lon kalon keulayi, dan lon pike lon seharusjih na leubeh le kekhawatiran meunyo lon teupeu sepenuh jih peu klaim dan peu kekhawatiran.”
Kon mandum awaknyan;pendapat bervariasi, dan kamoe mengutip berbagai pendapat, tapi na yang signifikan yang teungoh bertindak ateuh info yang sangat parsial. Papan nyang peugot Sam nyan, lam kata-kata sidroe ureung nyang awai na di papan nyan, “that JV,” dan awak nyan ji peugot bola nyan brat that. Dan kamoe mendokumentasikan keluhan-keluhan nyang mendasari, dan ureung-ureung jeut geuputuih keudroe peue keuh nyan meutamah jeut keu jeuneh kekhawatiran mendesak nyang awak nyan rasakan, tapi argumen nyan dan informasi nyan hana dipeuleumah.
Awaknyan jiteurimong peue nyang jinoenyoe ladom nibak awaknyan jiakui sibagoe naseuhat hukom nyang hana get. Keu tagamba, droeneuh akan teuingat keu kutipan nyan, dan mungken le ureueng deungoe dan peunonton droeneuh akan teuingat keu kutipan nyan seubagoe kureung keujujuran. Nyan keuh nyang dipeukureng, dan lheuh nyan awak nyan pada dasar jih hana akan diteurimong panggilan.
Awaknyan hana jitem teurimong panggilan. Lon yakin droeneuh ka neu cuba. Mandum ureung nyang lon turi geucuba, dan troh bak titik dipat, seubagoe wartawan, droeneuh hana seharusjih neubri nasihat keu sumber droeneuh, tapi lon lagee, “Nyoe akan jijak meunyo droeneuh hana mulai neubri penjelasan keudroe.”
Dan nyan keuh nyang teudjadi. Lupa keu wartawan. Kamoe na Satya Nadella peugah, "Peue nyang ka teujadi? Lon hana jeuet lon peugot soe mantong nyang peutrang keu lon." Dan nyan keuh pendukung keuangan utama perusahaan. Dan lheuh nyan droeneuh na Satya neu telepon [salah sidroe pendiri LinkedIn] Reid Hoffman dan Reid neu telepon di sekitar dan neupeugah, “Lon hana kuteupu peu nyang ka terjadi.”
Awak nyan jeut ji pahami lam kekosongan informasi nyan, ji mita indikator non-AI tradisional nyang akan ji benarkan penembakan mendadak ngon mendesak lagee nyan. Bak, oke, peue keuh kejahatan seks? Peuë keuh nyan penggelapan? Dan mandum argumen halus, tapi lon pike bermakna, bahwa teknologi nyoe beda dan bahwa jenis akumulasi mantap pengkhianatan yang leubeh ubeut nyoe jeut na taruhan yang bermakna baik untuk bisnis nyoe dan mungken untuk donya, sebagian rayeuk gadeh. Jadi insentif kapitalis meunang, tapi cit ureung-ureung nyang peugot nyan jiteubiet dan hana sabe beroperasi deungon informasi nyang lengkap.
Lon keuneuk tanyong mantong teuntang aspek “peue nyang dipike le mandum ureung” siat, sabab lon teunte lon kalon haba nyan, dan lon peugah, “Oh, pasti na nyang hana get nyang ka teujadi.” Kamoe ka le that kamoe peugot laporan #MeToo, terkenal. Kamoe meupeubreuk kisah Harvey Weinstein.
Droeneuh neuhabiskan le watee neulaporkan klaim-klaim nyoe nyang lon pike droeneuh neuputuskan bak akhe jih hana dasar: bahwa Altman neuserang seksual aneuk miet atawa neusewa pekerja seks, atawa bahkan neupoh sidroe whistleblower OpenAI. Maksud lon, droeneuh ureung yang jeut neu lapor barang nyoe paleng ketat. Peuë ka neucok keuputosan bahwa hai nyan hana meuguna?
Bah, kalon, lon hana lam bisnis peugah sapeu-sapeu ka troh hana sapeu. Peuë njang djeuët ulôn peugah nakeuh ulôn peu-abeh buleuën-buleuën untôk kalon klaim-klaim njoë dan hana meuteumeung peukong keu klaim-klaim njan. Dan that mencolok keu ulôn bahwa ureuëng-ureuëng njoë, perusahaan-perusahaan njoë njang that le kuasa ateuëh masa ukeuë geutanjoë, beutôi-beutôi djipeu-abeh watèë dan sumber daya njang hana proporsional dalam perdjuangan lumpur aneuk miët.
Sidroe eksekutif geugamba nyan seubagoe "Shakespeare." Jumlah peng penyidik swasta dan dossier oposisi nyang teungoh disusun hana putôh-putôh. Dan nyang sayang nakeuh bahwa jeuneh barang salacious, nyang ji parroted le pesaing Sam, hanya fakta nyang diasumsikan, kon? Na tuduhan nyoe bahwa jih jijak peulet aneuk agam di miyup umu, dan bak le pesta koktail di Silicon Valley, droeneuh neudeungo nyoe. Bak sirkuit konferensi, lon kaleuh lon deungoe nyan diulang le eksekutif terkemuka dan kredibel: "Mandum ureung geuteupeu nyoe adalah fakta."
Nyang seudeh that lon peugah haba teuntang pat teuka hai nyoe, macam-macam vektor nyang ji transmisikan. Elon Musk ngon rakan-rakan jih deuh jih ji dorong dossier nyang that hardcore nyang jumlah jih hana sapeu. Awak nyan meu-uap watee droeneuh beutoi-beutoi mulai neu kalon klaim-klaim nyang mendasari jih. Nyang seudeh nakeuh bahwa nyan beutoi-beutoi mengaburkan kritik-kritik nyang leubeh berbasis bukti disino nyang lon pike beutoi-beutoi pantas geubri pengawasan dan pertimbangan mendesak.
Tema laen nyang beutoi-beutoi teuka lam ceurita nyan karap rasa teumakot bahwa Sam na le that rakan - jih ji investasikan le that perusahaan dari peran jih seugolom jih seubagoe CEO Y Combinator, hanya keu investasi pribadi jih, padum-padum boh nyang bertentangan langsong ngon peran jih seubagoe CEO OpenAI - dan na seungap di sekitar jih.
Nyan meukeunong bak lon watee lon baca saboh bareh khusus jih. Kamoe meugambakan memo Ilya Sutskever, dan awak nyan baroe jiteubiet di Silicon Valley. Mandumgeukheun keu awaknyan memo Ilya. Tapi bahkan na seungap di sekitar nyan. Awak nyan ka ji lewatkan, tapi hana ji bahas. Meunurot gata, pat asai jih nyan? Peuë keuh teumakôt? Peu keuh keinginan untuk meurumpok investasi malaikat? Dipat teuka nyan?
Lon pike nyan le that pengecut, lon akan jujur. Lheuëh geubri laporan teuntang kisah-kisah keamanan nasional dipat sumber-sumber djih nakeuh ureuëng-ureuëng njang peugah haba njang meudong untôk gadôh mandum dan meuhadapi penuntutan, awaknjan mantong djipeubuët hai njang beutôi dan djipeugah haba teuntang hai-hai untôk peugot akuntabilitas. Lon ka lon keureuja bak kisah-kisah nyang meukaet ngon kejahatan seks nyang droeneuh peugah, dipat sumber-sumber that trauma dan teumakot keu balasan nyang that pribadi.
Lam le kasus di sekitar beat nyoe, droeneuh neuhadapi ureung-ureung deungon profil dan kekuatan droe. Awak nyan ureung-ureung terkenal keudroe atawa awak nyan dikeulileng le ureung-ureung terkenal. Awak nyan na kehidupan bisnis nyang teuga. Meunurot lon, sebenar jih eksposur jih that rendah bagi awak nyan untuk peugah haba teuntang hai nyoe. Dan alhamdulillah, jarom ka meugrak lagee nyang ka ta peugah awai, dan ureung jinoe ka leubeh le peugah haba.
Teuma keu treb that, ureung-ureung beutoi-beutoi cuma seungap teuntang nyan sabab lon pike budaya Silicon Valley cuma that hana keujam keu kepentingan droe dan hana keujam keu bisnis dan berorientasi keu pertumbuhan. Jadi lon pike nyoe menyiksa bahkan padum-padum droe ureung nyang terlibat dalam pemecatan Sam, dimana droeneuh kalon bak uroe-uroe lheuh nyan, ya, salah saboh faktor nyang menyebabkan jih teuka lom dan pemecatan anggota dewan tuha nakeuh jih meurapatkan investor nyang bingong keu cause jih.
Teuma nyang laen nakeuh bahwa le that ureueng laen di sekitar jih nyang na keukhawatiran dan geubri su awaknyan deungon mendesak hanya geulipat lagee serbet dan geuubah lagu awaknyan bak saat awaknyan geukaloen angen jipoe u arah laen, dan awaknyan keuneuk tamong lam kereta laba.
Cukop seupôt, jujur, dari sudut pandang lon seubagoe wartawan.
Ladom dari ureung nyan nakeuh Mira Murati, nyang, lon peucaya, seulama 20 minet nakeuh CEO baroe OpenAI. Gobnyan laju geugantoe. Nyan dinamika nyang that rumit, dan jeulaih, Sam teuka lom. Ureuëng laén nakeuh Ilya Sutskever, njang salah sidroë ureuëng njang vote keu peu-ék Sam, lheuëh njan djih dji-ubah pikéran, atawa paleng kureuëng djipeugah djih ka dji-ubah pikéran, dan lheuëh njan djih djidjak peugot perusahaan droëdjih. Peuë gata teupeuë peuë njang peugot gobnjan meu-ubah pikéran? Peuë keuh pèng mantong?
Nah, dan untuk jeulaih, lon hana lon single dua droe nyan. Na anggota pengurus laen nyang terlibat lam penembakan nyan pih rhet that seungap lheuh. Lon pike lagee masalah kolektif nyang leubeh luah. Njoë, dalam padum-padum boh keudjadian, ureuëng-ureuëng njang na serat moral untôk peugot bunyi alarm dan cok tindakan radikal, dan njan keuh njang patôt tapujoë. Dan meunan keuh cara droeneuh neujamin akuntabilitas. Nyan jeut keu bantuan le ureung nyang keunong teknologi nyoe. Nyoe jeut keu bantuan industri untuk teutap leubeh bermakna berfokus bak keamanan.
Tapi meuhadapi whistleblower dan ureung-ureung nyang cuba peugot pertanggungjawaban nyan le, droeneuh pih neu kalon bahwa nyan peureulee serat untuk neuteubiet dan neudong bak keyakinan droeneuh. Dan industri nyoe beutoi-beutoi punoh ngon ureung-ureung nyang cuma hana teudong bak keyakinan droe.
Meskipun awak nyan geupike bahwa awak nyan geubangun Tuhan digital nyang aleh kiban akan geupeugadeh mandum teunaga keurija atawa geupeugot leubeh le teunaga keurija, atawa na nyang akan terjadi.
Bah, nyan keuh hai jih. Jadi budaya hana berdiri bak keyakinan droe dan mandum masalah etika nyang rhet bak bineh jalan watee na suum atawa peu mantong nyang jeut mengancam berdiri droe lam bisnis mungken mandum get dan get sampoe bataih terteunte bagi perusahaan bisnis-lagee-biasa nyang peugot widget peu mantong.
Teuma nyoe pih ureueng-ureueng nyang saban nyang teungoh jipeugah, “Nyoe jeuet keu harfiah jipoh geutanyoe mandum.” Dan lom, hana payah tajak bak ekstrem Terminator Skynet. Na saboh rangkaian resiko nyang ka terwujud. Memang nyata, dan awaknyan beutoi geubri peringatan tentang nyan, tapi droeneuh harus na ureung laen kursi lengan psikologis kiban dua hal nyan jeut udep lam ureung yang sama dipat awaknyan geubri peringatan mendesak, awaknyan mungken geuboh gaki dan geucoba peugot sapeu, dan lheuh nyan awaknyan hanya meulipat dan rhet seungap.
Njoë keuh sabab droëneuh djeuët na contoh-contoh lagèë njoë njang djipeutheun nibak tulésan dan hai-hai njang djisapu dimijub permadani, dan hana meusidroë pih njang peugah haba deungon trang-trang lagèë njoë meuthôn-thôn lheuëh keudjadian njan.
Pihak njang alami, njang meutanggong djaweuëb disinoë hana akan djeuët keu CEO-CEO nibak perusahaan-perusahaan njoë; nyan akan jeuet keu peumeurintah. Di Amerika, mungken .nyan pemerintah nanggroe, mungken pemerintah federal.
Teuntèë, perusahaan-perusahaan njoë bandum keuneuk djeuët keu global. Le that implikasi global disinoë. Lon kalon OpenAI, Google, ngon Anthropic mandum ji dorong pemerintahan Biden keu ji peu ek saboh perintah eksekutif AI. Cukop hana gigi bak akhe jih. Nyoe cuma ji peugah awak nyan harus ji peugah haba teuntang peu model awak nyan mampu dan ji peulheuh padum boh tes keamanan. Dan lheuh nyan awak nyan mandum jidukung Trump, dan Trump tamong dan jisampôh mandum nyan dan jipeugah, "Geutanyoe haroih kompetitif. Nyan bebas-untuk-mandum. Jak keudeh."
Bak watèë njan cit, awak njan bandum djidjak peusapat dana dari nanggroë-nanggroë Timu Teungoh njang le that pèng minjôk dan djidjak ubah ekonomi djih. Nyan ureung politik. Lon rasa lagee awak politik pasti harus meuphom na ureung yang peugah haba dari dua boh sisi babah awak nyan, dan awak nyan hana akan that keucewa meunyoe na ureung yang kecewa bak akhe jih, tapi awak politik nyan pih teungoh dijak. Pakon gata pike meunan?
Nyoe beutoi, lon pike, pakon karya nyan peunteng lam pandangan lon dan pakon nyan layak dipeuguna mandum watee dan detail nyoe. Geutanjoë na dalam lingkungan njang sistem-sistem njang, lagèë droëneuh peugah, seharusdjih geubri pengawasan njan mantong djipeu-ék. Nyan adalah pasca-Citizens United America, di pat arus peng that hana meubatasi, ngon nyan konsentrasi terteunte dari masalah nyan di sekitar AI, di pat na PAC nyo nyang berkembang biak ngon banjir peng keu geu batalkan peraturan nyang bermakna bak tingkat nanggroe bagian ngon federal.
Droeneuh na [salah sidroe pendiri OpenAI] Greg Brockman, Sam nyang keudua lam komando, langsong berkontribusi deungon cara rayeuk keu padum-padum droe awak nyan. Nyoe meuakibatkan situasi dipat beutoi-beutoi na penangkapan legislator dan calon regulator, dan nyan nakeuh spiral nyang brat untuk teubiet dari. Nyang seudeh, lon pike bahwa na langkah-langkah kebijakan sederhana, padum-padum boh nyang teungoh diuji di teumpat laen di donya, nyang akan membantu padum-padum boh masalah akuntabilitas nyoe.
Droeneuh jeuet na tes keselamatan pra-peunerapan nyang leubeh wajib, nyang nakeuh saboh hai nyang ka teudjadi di Eropa keu model perbatasan. Droeneuh jeuet na syarat catatan publik nyang leubeh keutat keu jeuneh investigasi internal dipat kamoe kalon hai-hai nyang teujaga di luwa teutuleh lam kasus nyoe. Droeneuh jeuet neumiliki saboh rangkaian mekanisme peninjauan keamanan nasional nyang leubeh teuga keu jeuneh ambisi infrastruktur Timu Teungoh nyang Sam Altman dorong.
Lagee nyang droeneuh peugah, jih teungoh jipeubuet umpan nyoe dan jigantoe ngon administrasi Biden, jipeugah, "Atur kamoe, atoe kamoe," dan jibantu awaknyan jipeugot saboh perintah eksekutif, dan lheuhnyan bak saat Trump tamong, beutoi-beutoi bak uroe-uroe phon that, cuma hana jimat nyang jitham, "Mari tapeucepat dan mari tapeugot saboh data camp Abi D nyang rayeuk that." Droeneuh jeuet neumiliki, nyoe nakeuh nyang that sederhana, lagee perlindungan whistleblower. Hana undang-undang federal nyang melindungi karyawan perusahaan AI nyang geupeugah masalah keselamatan lagee nyoe nyang teungoh ditayangkan lam karya nyoe.
Kamoe na kasus dipat Jan Leike, nyang nakeuh sidroe ureung agam senior keselamatan di OpenAI, teungoh memimpin penyelarasan super di perusahaan. Jih ji tuleh keu dewan, pada dasar jih bahan whistleblower, jipeugah perusahaan nyan teungoh jiteubiet dari rel bak misi keselamatan jih. Nyan keuh jeuneh ureung nyang seharus jih sebenar jih na badan pengawasan nyang jeut awak nyan jak, dan awak nyan seharus jih na perlindungan hukom nyang jeulaih lagee jeuneh nyang tanyoe kalon di sektor laen. Nyoe sederhana untuk mereplikasi rezim bergaya Sarbanes-Oxley.
Lon pike bahwa meskipun kiban akut masalah Silicon Valley nyang geucok kontrol ateuh mandum tuas kekuasaan, dan meskipun kiban bolong padum-padum boh lembaga nyoe nyang mungken geubri pengawasan dan palang penjaga, lon mantong peucaya keu matematika dasar demokrasi dan politisi nyang meupeunteng droe. Dan seumaken le data jajak pendapat nyang muncul bahwa mayoritas ureung Amerika geu pike bahwa kekhawatiran, pertanyaan, atawa resiko AI saat nyo leubeh rayeuk dari manfaat jih.
Jadi lon pike banjir peng lam politik dari AI, nyan lam mandum kekuatan tanyo untuk tapeuget nyan jeut keu sumber tanda tanya sehubungan ngon politisi. Watee ureung Amerika jak pileh, awak nyan harus ji pareksa peu ureung yang awak nyan pileh, terutama meunyo awak nyan hana kritis dan anti-regulasi, mengingat mandum kekhawatiran nyoe, dibi dana le kepentingan khusus big tech. Jadi lon pike meunyo ureung jeut baca potongan-potongan lagee nyoe, deungoe podcast lagee nyoe, dan cukop peduli untuk meupike kritis tentangkeputusan awaknjan sibagoë peumiléh, na kesempatan njang nyata untôk peuhasé saboh daèrah pemilihan di Washington dari waki-waki njang djaga dan paksa pengawasan.
Nyan mungken salah saboh hal nyang paleng optimis nyang tom lon deungoe ureung peugah teuntang industri AI saat nyoe. Lon hargai that. Lon terobsesi ngon polling nyang droeneuh peugah nyan. Na le that jinoe. Nyoe mandum cukop konsisten, ngon deuh jih seumaken le ureung muda, khusus jih, nyang terkena AI, seumaken hana peucaya ngon beungeh awak nyan teuntang nyan. Nyan keuh valensi mandum polling. Dan lon kalon nyan, dan lon pike, yah, ya, politisi carong akan mantong jijak lawan nyan. Awak nyan akan jipeugah mantong, "Geutanyoe akan tapeutanggong jaweub big tech."
Teuma lon pike keu 20 thon nyang ka u likot, sidroe politisi geupeugah awak nyan akan geupeutanggong jaweub big tech, dan lon berjuang untuk meurumpok bahkan saboh momen big tech nyang dipeutanggong jaweub. Saboh-saboh jih nyang jeut keu lon pike nyoe mungken beda, jroh, droeneuh sebenar jih harus neu peugot pusat-pusat data, dan droeneuh jeut neu vote lawan nyan, dan droeneuh jeut neu petisi lawan nyan, dan droeneuh jeut neu protes lawan nyan.
Lon pike na sidroe politisi nyang baroe ji timbak rumoh awak nyan gara-gara awak nyan ji vote keu pusat data. Teugangan ka troh, lon akan peugah, demam. Kamoe ka meugamba keupulauan Silicon Valley. Nyoe nakeuh ekosistem nyang meutop. Rasa jih lagee awak nyan jipike jeut jijak donya. Awak nyan jipeutamong peng lam politik, dan awak nyan jiplueng jilawan kenyataan bahwa ureung hana galak keu produk-produk nyan, nyang hana jibi le penutup keu awak nyan. Seumaken awak nyan geupake produk, seumaken awak nyan keucewa, ngon awak politik mulai geukaloen na konsekuensi nyata keu geudukong industri teknologi ateuh ureung nyang awak nyan wakili.
Kamoe ka meututoe ngon ureung le that. Peu keuh mungken industri teknologi nyan jeut ji meurunoe peulajaran nyang tepat di keue awak nyan?
Kamoe peugah rasa jih lagee awak nyan jipike jeut ji jalankan donya tanpa pertanggungjawaban. Lon pih hana lon pike nyan peurlee kualifikator “feels like”. Maksud lon, droeneuh neu kalon bahasa nyang dipakek Peter Thiel, nyan eksplisit. Teuntèë, njan saboh contoh njang ekstrem. Dan Sam Altman, meskipun gobnyan toe ngon dan geubri info le ideologi Thiel sampoe bataih terteunte, nakeuh sidroe ureung nyang that beda nyang mungken terdengar beda dan leubeh geu uko sampoe saboh titek.
Teuma ulôn piké ideologi njang leubèh luah njang droëneuh teumeung nibak Thiel, njang bak dasardjih: Geutanjoë ka seuleusoë deungon demokrasi, geutanjoë hana peureulèë le. Geutanjoë ka le that sampoë geutanjoë keuneuk peugot mantong bunker ubit-ubit droëteuh. Tanyoe hana le ta urusan ngon Carnegies atawa Rockefellers le, dipat awak nyan ureung brok, tapi awak nyan meurasa awak nyan peurlee ikot kontrak sosial dan membangun hal-hal keu ureung. Na nihilisme nyang nyata nyang ka teupeugot.
Dan lon pike nyan hanyalah spiral nyang saleng meupeukuat lam seujarah Amerika baroe-baroe nyoe teuntang mogul dan perusahaan swasta nyang meurumpok kekuatan pemerintah nyang super seudangkan lembaga-lembaga demokrasi nyang mungken geupeutanggong jaweub awak nyan ka terbongkar. Lon hana meurasa optimis teuntang gagasan bahwa awak nyan mungken hanya bangun bak saboh uroe dan meupike, “Huh, sebenar jih mungken geutanyoe memang perle berpartisipasi lam masyarakat dan membantu membangun hal-hal untuk ureung-ureung.”
Maksud lon, droeneuh neu kalon lagee contoh mikrokosmik The Giving Pledge, dipat na saboh momen dipat nyan deuh jih amal, dan momen nyan jinoe ka lewat dan bahkan ka ji peuhina. Nyan keuh saboh masalah, masalah nyang leubeh luah kureung akuntabilitas nyang lon pike hanya jeut ta peuseuleusoe secara ekstrinsik. Nyan ka jeut keu pemilih memobilisasi dan peubangket kuasa pengawasan pemerintah. Dan droeneuh beutoi that neupeugah bahwa vektor utama nyang jeut dipeuget le ureung-ureung nyan adalah lokal. Nyan na hubungan ngon teumpat infrastruktur nyang teungoh dipeugot.
Droeneuh neuseubot padum-padum boh ketegangan puteh-puteh di sekitar nyoe nyang menyebabkan kekerasan dan ancaman, dan jeulaih, hana soe nyang harus kekerasan atawa mengancam. Dan lon pih hana disino untuk peugot rekomendasi kebijakan khusus selaen untuk hanya menyajikan padum-padum boh langkah kebijakan yang deuh dasar dan teungoh berfungsi di teumpat laen di donya, kon? Atawa nyang ka keurija bak sektor laen. Lon hana disinoë untôk peugah soe nibak awak njan njang harôih djipeulaku dan pakriban.
Lon memang pike na nyang peurlee terjadi, dan nyan peurlee eksternal, kon hanya peucaya keu perusahaan-perusahaan nyoe. Kareuna beutoi .jinoe geutanyoe na situasi dipat perusahaan-perusahaan nyang teungoh mengembangkan teknologi dan dipeuleungkap paleng get untuk meuphom resiko, dan pada kenyataan jih nakeuh nyang peuingat geutanyoe teuntang resiko, nakeuh cit nyang hana laen seulaen insentif untuk jak bagah dan hana geutem peuduli resiko-resiko nyan. Dan droeneuh cuma hana sapeu untuk neubalaih nyan. Jadi peu mantong reformasi nyang mungken geucok dari segi spesifik, na nyang haroh meulawan ngon nyan. Dan lon memang mantong kembali keu optimisme nyan bahwa rakyat mantong peunteng.
Lon umum jih bloe argumen droeneuh. Bah lon peugot saboh argumen balasan ubeut nyang lon pike jeut lon artikulasikan. Hal laen nyang jeut keujadian di luwa kotak suara nakeuh gelembung nyan jipop, kon? Bahwa hana mandum perusahaan nyo troh u gareh akhir, ngon bahwa hana pasai produk nyang cocok keu aplikasi AI konsumen. Dan lom, lon hana that lon kalon lom, tapi lon sidroe reviewer teknologi konsumen, dan mungken lon cuma na standar yang leubeh tinggi dari ureung laen.
Na produk pasaran pas lam donya bisnis, kon? Memiliki sekumpulan agen AI ji tuleh sekumpulan perangkat lunak deuh jih jeut keu pasai nyata keu alat-alat nyo. Dan droeneuh jeut neubaca argumen dari perusahaan-perusahaan nyoe nyang geupeugah, "Kamoe ka kamoe peuseuleusoe coding, dan nyan berarti kamoe jeut kamoe peuseuleusoe peu mantong. Meunyo kamoe jeut kamoe peugot software, kamoe jeut kamoe peuseuleusoe masalah peu mantong."
Lon pike na bataih nyata keu hal-hal nyang jeut dipeugot le software. Nyan keuh nyang that hayeu lam donya bisnis. Software hana jeuet jipeuseuleusoe tiep-tiep masalah lam kenyataan, tapi awak nyan haroih troh keunan. Awak nyan haroh seuleusoe buet, dan mungken hana mandum ureung troh u gareh finish. Dan na saboh crash, dan bubble nyoe jiteubiet, dan mungken OpenAI atawa Anthropic atawa xAI, salah saboh perusahaan nyoe gagal, dan mandum investasi nyoe jijak.
Peuë neukiraju nyan akan meupeungaroh keu hai nyoe? Seubeutoi jih, bah lon tanyong dilee pertanyaan phon. OpenAI tepat bak puncak IPO. Le that ragu keu Sam seubagoe pemimpin. Peuë neukiraju awak nyan akan trok u gareh finish?
Lon hana akan lon prediksi, tapi lon pike droeneuh neu peu ek saboh poin peunteng, yaitu bahwa insentif pasai memang peunteng secara internal keu Silicon Valley, dan ketidakpastian dinamika gelembung saat nyoe memang berdiri untuk mengganggu, lom, berpotensi, meunurot kritikus, perlombaan keu miyueb ateuh keselamatan.
Lon cit akan menambahkan keu nyan, meunyoe droeneuh neukaloen keudahuluan seujarah dipat na serangkaian insentif pasai nyang sama ngon deuh jih hana jeuet ditembus ngon efek nyang berpotensi meureuloh bagi masyarakat, na litigasi dampak. Dan droeneuh neu kalon nyan seubagoe bidang perhatian akhe-akhe nyoe. Sam Altman na di luwa sinan minggu nyoe geudukung undang-undang nyang akan melindungi perusahaan AI dari padum boh jenis tanggung jawab nyang kaleuh OpenAI terkena lam gugatan mate nyang salah, miseu jih. Teuntèë, na keuheundak keu na peulindong njan nibak tanggong jaweuëb.
Lon pike bahwa pengadilan mantong jeut keu mekanisme nyang bermakna, dan akan that menarik untuk takalon kiban cara jas-jas nyoe meubentuk. Droëneuh ka neukalon, miseuëdjih, gugatan class-action, njang ulôn dan le that, le that peunuléh laén njang ulôn teupeuë nakeuh anggèëta, ateuëh Anthropic sabab djingui buku-buku njang na dimijub hak cipta. Meunyo na pikeran hukom nyang carong dan penggugat nyang peduli, lagee nyang ka ta kalon seucara historis lam kasus-kasus dari tembakau rayeuk sampoe energi rayeuk, droeneuh jeut cit neuteumeung padum-padum boh guardrail dan padum-padum boh insentif untuk neupeulambat, neuhati-hati, atawa neulindong ureung lagee nyan.
Memang meurasa lagee mandum struktur biaya industri AI meugantung bak interpretasi nyang that-that amal dari penggunaan nyang adil. Hana teuka sep. Struktur biaya perusahaan-perusahaan nyoe jeuet meuputa-puta dilua kontrol meunyoe awak nyan haroih jibayeue droeneuh ngon mandum ureueng laen nyang buet jih ka awak nyan cok, tapi hana mangat keu ta pike, jadi geutanyoe hana ta pike mantong. Teungoh di bineh nyan, mandum produk nyoe jinoe ka meujalan deungon rugi. Bak uroe nyoe, awak nyan mandum ji plueng rugoe. Awak nyan ji tutong peng leubeh nibak nyang jeut ji peugot. Bak saboh watee, awak nyan harus ji balek saklar.
Sam nakeuh sidroe pengusaha. Lagee nyang ka neu peugah padum-padum go, gobnyan kon sidroe ahli teknologi. Gobnyan ureueng meukat. Peuë neukiraju gobnyan ka siap geubalék saklar dan geupeugah, “Geutanyoe tajak peugot saboh dolar?” Sabab watee lon tanyong, “Peu neukira OpenAI nyan akan jipeugot?” Nyan watee awak nyan ka ji peugot saboh dolar. Dan seulama nyoe, Sam ka jipeugot mandum dolar jih deungon cara ji lakee peng bak ureung laen daripada ji peugot peng keu perusahaan jih.
Nah, nyan saboh pertanyaan rayeuk nyang mantong meulangsong keu Silicon Valley, keu investor, keu masyarakat.Droeneuh neu kalon padum-padum boh pernyataan dan gerakan dari OpenAI nyang deuh jih membuktikan seumacam panik teuntang nyan. Meututop Sora, meutop padum-padum boh proyek sampingan, meuuseuha nol bak produk inti. Tapi lheuh nyan di sisi laen, droeneuh mantong neu kalon, bak watee nyang saban, ton-ton misi creep, kon? Bahkan saboh contoh ubeut — jeulaih kon inti dari bisnis awak nyan — nakeuh akuisisi TBPN.
Ngon cara, tepat watee kamoe teungoh troh bak gareh akhir dan pemeriksaan fakta, perusahaan nyang menghadapi pengawasan jurnalistik lagee nyoe meurumpok platform dipat awak nyan jeut na kontrol leubeh langsong ateuh percakapan. Lon pike bahwa le that investor nyang khawatir, berdasarkan percakapan nyang ka lon peugot, bahwa masalah nyoe meujanji mandum hai keu mandum ureung pih meuluah keu kureung fokus nyoe lam model bisnis inti. Dan maksud lon, droeneuh leubeh toe ngon jenis prognosis dan nonton pasai daripada lon mungken. Lon tinggai droeneuh dan pendengar jeut keu hakim peu awak nyan jipike OpenAI jeut ji balek saklar.
Bah, lon tanyong pertanyaan nyan kareuna droeneuh na kutipan lam karya dari sidroe eksekutif senior Microsoft, dan nyan nakeuh, "Warisan Sam mungken akhe jih leubeh saban ngon Bernie Madoff atawa Sam Bankman-Fried," nibak Steve Jobs. Nyan cukop that saboh perbandingan. Peue nyang gata peugot nibak perbandingan nyan?
Lon pike nyan parafrase. Bagian Steve Jobs nyan kon bagian dari kutipan nyan. Tapi na jenis kesopanan yang menarik karena diungkapkan lagee nyoe, "lon pike na kemungkenan ubeut tapi nyata bahwa jih berakhir jeut keu SBF atau penipu tingkat Madoff." Maksud jih, bak pikeran lon, kon bahwa Sam ditudoh deungon jenis penipuan atawa kejahatan tertentu nyan, tapi bahwa tingkat pemboboran dan penipuan dari Sam mungken na kesempatan akhe jih diingat bak skala nyan.
Ya, lon pike peu nyang paleng mencolok dari kutipan nyan, jujur, adalah droeneuh neu telepon di Microsoft dan droeneuh hana neuteumeung lagee, "Nyan gila. Kamoe hana tom deungoe nyan." Kamoe meuteumeung le that lagee, “Yep, le that ureung disinoe meupike lagee nyan” nyang luar biasa. Dan lon pike memang jak keu pertanyaan bisnis mur dan baut nyoe.
Saboh investor geupeugah bak lon, miseu jih, meunurot cara sifeut nyo bertahan lam meuthon-thon aleuh penembakan " - ngon nyo cit geu pike nyo adalah pemikiran sadar nyang menarik - bahwa hana teunte Sam harus na di bagian miyueb mutlak daftar, lagee harus paleng miyub dari miyub lam hal ureung-ureung nyang mutlak hana berharga teknologi nyoe untuk ureung-ureung. Elon Musk nakeuh ureung nyan Tapi bahwa sifeut nyoe geupeuduek gobnyan mungken di miyup daftar ureung nyang harus geubangun AGI, dan di miyup padum-padum droe tokoh terkemuka laen lam bidang nyoe.
Jadi lon pike nyan penilaian yang menarik, dan nyan jenis pemikiran yang lon pike yang droneuh teume dari para pragmatis yang nyata yang mungken hana meubloe keu masalah keamanan sebanyak nyan. Awak nyan hanya berorientasi pertumbuhan, dan awak nyan ji pike bahwa OpenAI jinoe na masalah ngen Sam Altman.
Potongan Microsoft nyan beutoi-beutoi menarik. Perusahaan nyan jipike awak nyan na di ateuh donya. Bahwa awak nyan ka jipeugot investasi nyoe dan awak nyan akan ji loncat mandum ureung, terutama dan nyang paleng peunteng, Google, dan ji tamong lom lam rahmat konsumen nyang jroh. Tingkat dipat awak nyan meurasa tutong le petualangan nyoe - nyoe adalah perusahaan yang dijalankan secara sadar - lon pike hana jeut dipeuleubeh-leubeh.
Kamoe meuseubot tokoh-tokoh dan sifeut-sifeut kepribadian. Lon keuneuk peu akhé disinoë deungon saboh peukara nibak ureuëng deungoë geutanjoë. Lon peugah bak acara kamoe nyang laen, The Vergecast, bahwa lon akan lon peugah haba ngon droeneuh, dan lon peugah, “Meunyo droeneuh na pertanyaan keu Ronan teuntang kisah nyoe, neubri info keu lon.” Jadi kamoe na saboh disino nyang lon pike meuikat rapi ngon peu nyang droeneuh jelaskan. Lon keuneuk baca mantong keu droeneuh:
“Pakriban pembenaran keu tingkah laku nyang hana get, tindakan cutthroat Altman dan pemimpin AI laen jih, beda ngon pembenaran nyang ka geudeungo le Ronan dari pemimpin laen nyang berprofil tinggi lam politik dan media? Peuë keuh awaknjan bandum hana djipeubeuna buët djih deungon djipeugah lagèë njoë keuh cara dônja meu-ubah? Meunyo hana lon peugot lagee nyoe, ureung laen nyang peugot?”
Ya, le that nyang meuputa-puta. Lon akan peugah peu nyang khas AI adalah bahwa taruhan eksistensial nyang that unik tinggi berarti kedua pernyataan resiko nyan ekstrim, kon? Kamoe na Sam Altmangeupeugah, “Nyoe jeuet keu lampu mate keu geutanyoe mandum.” Dan cit, mungken kritikus jipeugah, mania nyang dimaksud le ureueng nyang tanyong nyan ekstrem, kon?
Hal nyang Sam tudoh Elon, lam catatan, nakeuh mungken jih keuneuk peuseulamat umat manusia, tapi hanya meunyoe jih. Jeunèh komponen ego nyang keuneuk meunang, nyang nakeuh saboh bingkai nyang Sam pakek sabe, dan bahwa nyoe salah saboh keu buku-buku seujarah, nyoe jeuet keu ubah mandum. Jadi kareuna nyan, bahkan di ateuh dan di lua pola pikeran “droeneuh haroh neupeubreuk padum boh boh telor” dari sebagian rayeuk perusahaan Silicon Valley, na, lam pikeran padum-padum droe tokoh nyang memimpin AI, lon pike, rasionalisasi nyang lengkap keu peu mantong dan mandum rhet.
Dan tuwoe keu peubreuk boh manok. Lon / pike le dari peneliti keselamatan yang mendasari akan geupeugah berpotensi meresikokan peureutoh nanggroe, peureutoh donya, dan peureutoh jutaan ureung yang pekerjaan dan keselamatan jih meugantung lam keseimbangan — nyan yang unik tentang nyan. Di sinan lon peutop, lon pike-pike bak badan peulapor nyoe, beutoi-beutoi peucaya nyoe kira-kira leubeh nibak Sam Altman. Nyoe nakeuh teuntang industri nyang hana meubatasi ngon masalah spiral Amerika hana jeuet meubatasi.
Nye. Bah, kamoe na optimisme disinan, tapi lon pike nyan teumpat nyang jroh untuk ta tinggai.
[Geukhem] Akhé bak downbeat.
Teuntee. Nyan keuh tiep-tiep kisah hebat, sunggoh. Sidang Musk-Altman teungoh teuka. Lon pike geutanyoe akan ta meurunoe le that disino. Lon curiga lon keuneuk peugah haba ngon droeneuh lom. Ronan Farrow, teurimong geunaseh that ka neujak bak Decoder.
Trimeung geunaseh.
Soalan atawa komentar keu episode nyoe? Neujak bak kamoe bak [email protected]. Kamoe beutoi-beutoi baca tiep-tiep email!
