Hari ini di Dekoder, saya bercakap dengan Ronan Farrow, salah seorang bintang terbesar pelaporan penyiasatan yang bekerja hari ini. Dia memecahkan cerita Harvey Weinstein, antara banyak, banyak lagi. Dan hanya minggu lepas, dia dan pengarang bersama Andrew Marantz menerbitkan ciri mendalam yang luar biasa dalam The New Yorker tentang Ketua Pegawai Eksekutif OpenAI Sam Altman, kebolehpercayaannya, dan kebangkitan OpenAI itu sendiri.
Satu nota sebelum kita pergi lebih jauh di sini —The New Yorker menerbitkan cerita itu dan Ronan dan saya mengadakan perbualan ini sebelum kami mengetahui tahap penuh serangan ke atas rumah Altman, jadi anda tidak akan mendengar kami bercakap mengenainya secara langsung. Tetapi untuk menyatakannya, saya rasa apa-apa jenis keganasan tidak boleh diterima, serangan ke atas Sam ini tidak boleh diterima, dan jenis ketidakberdayaan yang dirasai orang ramai, yang membawa kepada keganasan seperti ini, sendiri tidak boleh diterima, dan ia patut diteliti lebih banyak daripada kedua-dua industri dan pemimpin politik kita. Saya harap itu jelas.
Pelanggan verge, jangan lupa anda mendapat akses eksklusif kepada Penyahkod tanpa iklan di mana-mana sahaja anda mendapatkan podcast anda. Pergi ke sini. Bukan pelanggan? Anda boleh mendaftar di sini.
Apa yang dikatakan, terdapat banyak perkara yang berputar di sekitar Altman yang merupakan permainan yang adil untuk pelaporan yang ketat - jenis pelaporan yang ingin dilakukan oleh Ronan dan Andrew. Terima kasih kepada populariti ChatGPT, Altman telah muncul sebagai ketua industri AI yang paling ketara, setelah menjadikan makmal penyelidikan bukan untung yang pernah menjadi sebuah syarikat swasta bernilai hampir trilion dolar dalam beberapa tahun sahaja. Tetapi mitos Altman sangat bercanggah, sama-sama ditakrifkan oleh kebolehan membuat perjanjian yang jelas dan kecenderungannya yang dilaporkan untuk… baiklah, berbohong kepada semua orang di sekelilingnya.
Panjang ceritanya lebih 17,000 patah perkataan, dan ia boleh dikatakan mengandungi akaun muktamad tentang apa yang berlaku pada 2023 apabila lembaga pengarah OpenAI secara tiba-tiba memecat Altman atas dakwaan pembohongannya, hanya untuk dia diupah semula dengan serta-merta. Ia juga menyelami kehidupan peribadi Altman, pelaburannya, meminati wang Timur Tengah, dan refleksinya sendiri tentang tingkah laku dan sifat perwatakannya yang lalu yang menyebabkan satu sumber berkata dia "tidak terkekang oleh kebenaran." Saya sangat mencadangkan anda membaca keseluruhan cerita; Saya mengesyaki ia akan dirujuk untuk beberapa tahun akan datang.
Ronan bercakap dengan Altman berkali-kali sepanjang 18 bulan yang dia habiskan untuk melaporkan karya ini, jadi salah satu perkara utama yang saya ingin tahu ialah sama ada dia merasakan apa-apa perubahan dalam Altman sepanjang masa itu. Lagipun, banyak yang telah berlaku dalam AI, dalam teknologi, dan di dunia sepanjang setahun setengah yang lalu.
Anda akan mendengar Ronan bercakap tentang perkara itu secara langsung, serta perasaannya bahawa orang ramai telah menjadi lebih bersedia untuk bercakap tentang keupayaan Altman untuk menjelaskan kebenaran. Orang ramai mula tertanya-tanya, dengan lantang dan dalam rekod, sama ada tingkah laku orang seperti Altman membimbangkan, bukan hanya untuk AI atau teknologi tetapi juga untuk masa depan kolektif masyarakat.
Okey: Ronan Farrow tentang Sam Altman, AI, dan kebenaran. Di sini kita pergi.
Temu bual ini telah disunting ringan untuk panjang dan jelas.
Ronan Farrow, anda seorang wartawan penyiasat dan penyumbang kepada The New Yorker. Selamat datang ke Dekoder.
Gembira berada di sini. Terima kasih kerana mempunyai saya.
Saya sangat teruja untuk bercakap dengan anda. Anda baru sahaja menulis karya besar untuk The New Yorker. Ia adalah profil Sam Altman dan, sejenis dengannya, OpenAI. Pembacaan saya mengenainya ialah, seperti yang dilakukan oleh semua ciri hebat, ia, dengan pelaporan yang ketat, mengesahkan banyak perasaan orang ramai tentang Sam Altman untuk masa yang sangat lama. Anda jelas telah menerbitkannya, anda telah mendapat reaksi terhadapnya. Bagaimana perasaan anda mengenainya sekarang?
Sebenarnya, saya telah berbesar hati, sejauh mana ia ditembusi dalam masa di mana ekonomi perhatian begitu jenis skizofrenia dan cetek. Ini adalah cerita yang, pada pandangan saya, memberi kesan kepada kita semua. Dan apabila saya menghabiskan satu setengah tahun hidup saya, dan pengarang bersama saya, Andrew Marantz, juga menghabiskan masanya, benar-benar cuba melakukan sesuatu forensik dan teliti, selalunya kerana saya merasakan ada isu struktur yang lebih besar yang mempengaruhi orang di luar individu dan syarikat di tengah-tengah cerita.
Sam Altman, berlatarbelakangkan budaya gembar-gembur Silicon Valley dan pemula yang melonjakkan penilaian besar-besaran berdasarkan janji-janji yang mungkin atau mungkin tidak akan berlaku pada masa hadapan, dan peningkatan pelukan budaya pengasas yang menganggap memberitahu kumpulan berbeza perkara yang bercanggah adalah satu ciri, bukanpepijat…Walaupun berlatarbelakangkan itu, Sam Altman adalah kes yang luar biasa di mana semua orang di Lembah Silikon yang menjangkakan perkara itu tidak boleh berhenti bercakap tentang persoalan kebolehpercayaan dan kejujurannya ini.
Kami sudah tahu bahawa dia telah dipecat kerana beberapa versi dakwaan tidak jujur atau bersiri yang didakwa berbohong. Tetapi yang luar biasa, walaupun terdapat laporan yang menarik, Keach Hagey telah melakukan kerja yang hebat dalam hal ini. Karen Hao telah melakukan kerja yang hebat dalam hal ini. Sebenarnya tidak ada pemahaman yang muktamad tentang titik bukti yang didakwa dan sebab mengapa perkara itu tidak diketahui umum.
Jadi perkara nombor satu ialah saya berasa gembira dengan fakta bahawa beberapa jurang dalam pengetahuan awam kita, dan juga dalam pengetahuan orang dalam Silicon Valley, kini telah diisi sedikit lagi. Beberapa sebab bahawa terdapat jurang telah diisi sedikit lagi.
Kami melaporkan kes di mana orang di dalam syarikat ini benar-benar merasakan perkara itu ditutup atau sengaja tidak didokumenkan. Salah satu perkara baharu dalam cerita ini ialah penyiasatan firma undang-undang penting oleh WilmerHale, yang jelas merupakan firma undang-undang besar yang mewah, boleh dipercayai dan besar yang melakukan penyiasatan terhadap Enron dan WorldCom, yang, secara kebetulan, semuanya besar, seperti beratus-ratus halaman yang diterbitkan. WilmerHale melakukan penyiasatan ini yang dituntut oleh ahli lembaga yang telah memecat Altman sebagai syarat pemergian mereka apabila dia menyingkirkan mereka, dan dia kembali. Dan yang luar biasa - di mata ramai pakar undang-undang yang saya bercakap, dan yang mengejutkan di mata ramai orang dalam syarikat ini - mereka tidak menulisnya. Semua yang pernah muncul daripada itu ialah siaran akhbar 800 perkataan daripada OpenAI yang menggambarkan apa yang berlaku sebagai pecah amanah. Dan kami mengesahkan bahawa ini disimpan untuk taklimat lisan.
Terdapat kes di mana, sebagai contoh, seorang ahli lembaga seolah-olah mahu mengundi menentang penukaran daripada bentuk bukan untung asal OpenAI kepada entiti untung, dan ia direkodkan sebagai berkecuali. Seperti seorang peguam dalam mesyuarat itu berkata, "Nah, itu boleh mencetuskan terlalu banyak penelitian." Dan orang yang mahu mengundi menentang akan direkodkan sebagai tidak hadir untuk semua penampilan. Terdapat pertikaian fakta. OpenAI mendakwa sebaliknya, seperti yang anda bayangkan. Ini semua adalah kes di mana anda mempunyai syarikat yang, dengan akaunnya sendiri, memegang masa depan kita di tangannya.
Pertaruhan keselamatan sangat tajam sehingga ia tidak hilang. Inilah sebabnya syarikat ini diasaskan sebagai organisasi bukan untung yang memfokuskan pada keselamatan, dan apabila keadaan dikaburkan dengan cara yang orang yang boleh dipercayai di sekelilingnya mendapati ia kurang profesional. Dan anda menggandingkannya dengan latar belakang di mana terdapat sedikit selera politik untuk peraturan yang bermakna. Saya fikir ia adalah keadaan yang sangat mudah terbakar.
Intinya bagi saya bukan sahaja Sam Altman layak untuk soalan-soalan ini dengan begitu akut. Mana-mana lelaki dalam bidang ini, dan ramai tokoh utama, mempamerkan, jika bukan sifat idiosinkratik tertentu ini, yang didakwa berbohong sepanjang masa, sudah tentu beberapa tahap mentaliti bangsa-ke-bawah, di mana orang-orang yang menjaga keselamatan telah mengecilkan komitmen tersebut dan postur setiap orang dalam satu kaum.
Saya fikir, semasa kita melihat kebocoran baru-baru ini daripada Anthropic, ada seseorang yang mengemukakan soalan tentang siapa yang harus meletakkan jari mereka pada butang dalam bahagian ini. Jawapannya, jika kita tidak mempunyai pengawasan yang bermakna, saya fikir kita perlu bertanya soalan yang serius dan cuba mengemukakan seberapa banyak maklumat yang kita boleh tentang semua lelaki ini. Oleh itu, saya telah dibesarkan oleh apa yang dirasakan seperti perbualan yang bermakna tentang itu, atau permulaannya.
Sebab saya bertanya seperti itu adalah kerana anda bekerja selama satu setengah tahun. Anda bercakap dengan, saya percaya, 100 orang dengan pengarang bersama anda, Andrew. Lama betul cerita nak masak. Saya fikir tentang tahun lalu dalam AI khususnya, dan budak lelaki, mempunyai sikap dan nilai semua watak ini berubah dengan cepat.
Mungkin tidak lebih daripada Sam Altman, yang bermula sebagai pemenang lalai kerana mereka telah mengeluarkan ChatGPT dan semua orang menganggap itu hanya akan mengambil alih Google. Dan kemudian Google bertindak balas, yang seolah-olah mengejutkan mereka bahawa Google akan cuba melindungi perniagaannya, mungkin salah satu perniagaan terbaik dalam sejarah teknologi, jika bukan sejarah perniagaan. Anthropic memutuskan bahawa ia akan memberi tumpuan kepada perusahaan. Nampaknya sedang memimpindi sana kerana penggunaan AI oleh perusahaan sangat tinggi.
Kini, OpenAI memfokuskan semula produknya daripada "kami akan mengambil alih Google" kepada Codex, dan mereka akan mengambil alih perusahaan itu. Saya tidak dapat mengetahui sama ada, semasa pelaporan anda sepanjang tahun setengah yang lalu, jika rasanya watak yang anda bercakap dengannya berubah? Seperti sikap dan nilai mereka, adakah itu berubah?
ya. Saya fikir pertama sekali, kritikan yang diterokai dalam bahagian ini, datang daripada ramai orang dalam syarikat-syarikat ini pada ketika ini — bahawa ini adalah industri yang, walaupun terdapat kepentingan yang wujud, menjadi sesuatu yang perlumbaan ke bawah mengenai keselamatan dan di mana kepantasan mengatasi segala-galanya — kebimbangan itu telah bertambah meruncing. Dan saya fikir kebimbangan itu telah lebih disahkan kerana setahun setengah yang lalu telah berlaku. Pada masa yang sama, sikap tentang Sam Altman telah berubah secara khusus. Apabila kami mula bercakap dengan sumber untuk perkara ini, orang ramai benar-benar curiga apabila dipetik tentang perkara ini dan membuat rekod tentang perkara ini.
Menjelang akhir pelaporan kami, anda mempunyai badan pelaporan di mana orang ramai bercakap tentang perkara ini secara terbuka dan jelas, dan anda mempunyai ahli lembaga yang mengatakan perkara seperti, "Dia seorang pembohong patologi. Dia seorang sosiopat." Terdapat pelbagai perspektif daripada, "Ini berbahaya memandangkan kepentingan keselamatan, dan kami memerlukan pemimpin teknologi ini yang telah meningkatkan integriti," sehingga suka, "Lupakan kepentingan keselamatan, ini adalah tingkah laku yang tidak boleh dipertahankan untuk mana-mana eksekutif mana-mana syarikat besar, yang hanya mewujudkan terlalu banyak disfungsi."
Jadi perbualan menjadi lebih eksplisit dalam cara yang terasa mungkin terlewat, tetapi menggembirakan dari satu segi. Dan Sam Altman, untuk kreditnya… Sekeping itu sangat adil dan bahkan murah hati, saya akan katakan, kepada Sam. Ini bukan jenis bahagian yang terdapat banyak barangan "mendapat anda". Saya menghabiskan banyak, banyak jam di telefon dengannya semasa kami menyelesaikan perkara ini dan benar-benar mendengarnya.
Seperti yang anda boleh bayangkan, dalam bahagian seperti ini, tidak semuanya berjaya. Beberapa kes dalam kes ini adalah kerana saya mendengar dengan ikhlas. Dan jika Sam benar-benar membuat hujah bahawa saya rasa membawa air, bahawa sesuatu, walaupun ia benar, boleh menjadi sensasi, saya benar-benar tersilap dalam mengekalkan forensik ini dan diukur. Oleh itu, saya fikir ia diterima dengan betul, dan saya hanya berharap rekod fakta yang terkumpul dalam tempoh masa ini boleh mencetuskan perbualan yang lebih mantap tentang keperluan untuk pengawasan.
Itu sebenarnya soalan saya yang seterusnya. Saya rasa anda bercakap dengan Sam berbelas kali sepanjang melaporkan cerita ini. Sekali lagi, itu adalah banyak perbualan dalam jangka masa yang panjang. Adakah anda fikir Sam berubah sepanjang pelaporan sepanjang setahun setengah yang lalu?
Ya. Saya rasa salah satu subplot yang paling menarik dalam ini ialah Sam Altman juga bercakap tentang sifat ini dengan lebih jelas daripada yang dia ada pada masa lalu. Postur Sam dalam bahagian ini tidak seperti, "Tiada apa-apa di sana, ini tidak benar; Saya tidak tahu apa yang anda cakapkan." Sikap yang dia ada ialah dia mengatakan ini disebabkan oleh kecenderungan yang menggembirakan orang ramai dan sejenis keengganan konflik. Dia mengakui bahawa ia menyebabkan masalah untuknya, terutamanya pada awal kariernya.
Dia berkata, "Nah, saya bergerak melepasi itu, atau sedikit sebanyak telah melepasi itu." Saya fikir apa yang benar-benar menarik bagi saya ialah kontinjen orang yang kami bincangkan yang bukan sekadar penyokong keselamatan, bukan sahaja penyelidik teknikal asas yang selalunya cenderung mempunyai kebimbangan keselamatan yang teruk ini, tetapi juga pelabur masa yang pragmatik. Mereka adalah penyokong Sam, yang, dalam beberapa kes, melihat soalan ini dan bercakap tentang walaupun telah memainkan peranan penting dalam kepulangannya selepas dipecat. Sekarang, mengenai persoalan ini sama ada dia telah berubah, dan sejauh mana perubahan itu bermakna, mereka berkata, "Nah, kami memberinya faedah keraguan pada masa itu."
Saya memikirkan seorang pelabur terkemuka khususnya yang berkata, "Tetapi sejak itu, nampaknya jelas dia tidak dibawa keluar di sebalik kawasan hutan," yang merupakan frasa yang digunakan oleh yang ini, setakat yang diperlukan. Akibatnya, nampaknya ini kini merupakan sifat yang stabil. Kami melihat ini secara berterusan. Anda boleh melihat beberapa perniagaan terbesar OpenAIperhubungan dan cara mereka menanggung beban ketidakpercayaan itu dengan cara yang berterusan.
Seperti dengan Microsoft, anda bercakap dengan eksekutif di sana, dan mereka mempunyai kebimbangan yang akut dan baru-baru ini memangkin. Terdapat contoh ini di mana, pada hari yang sama OpenAI mengesahkan semula eksklusivitinya dengan Microsoft berkenaan dengan model AI tanpa negara yang mendasarinya, ia juga mengumumkan perjanjian baharu dengan Amazon yang berkaitan dengan penjualan penyelesaian perusahaan untuk membina ejen AI yang bersifat stateful, bermakna mereka mempunyai ingatan.
Anda bercakap dengan orang Microsoft, dan mereka seperti, "Itu tidak boleh dilakukan tanpa berinteraksi dengan perkara asas yang kami ada perjanjian eksklusif." Jadi itu hanyalah salah satu daripada banyak contoh kecil di mana sifat ini mempunyai sulur ke dalam aktiviti perniagaan yang berterusan sepanjang masa dan menjadi subjek kebimbangan aktif dalam lembaga OpenAI, dalam suite eksekutifnya, dan dalam komuniti teknologi yang lebih luas.
Anda terus mengatakan "sifat" itu. Terdapat satu baris dalam cerita yang bagi saya terasa seperti tesis, dan ia adalah penerangan tentang sifat yang anda huraikan. Ia adalah bahawa "Sam Altman tidak terkekang oleh kebenaran" dan bahawa dia mempunyai "dua sifat yang hampir tidak pernah dilihat pada orang yang sama: yang pertama ialah keinginan yang kuat untuk menggembirakan orang, untuk disenangi dalam mana-mana interaksi tertentu, dan yang kedua adalah kekurangan kebimbangan yang hampir sosiopati terhadap akibat yang mungkin datang daripada menipu seseorang."
Saya perlu memberitahu anda, saya membaca ayat itu 500 kali, dan saya cuba bayangkan sentiasa mengatakan apa yang orang mahu disukai dan kemudian tidak marah apabila mereka rasa dibohongi. Dan saya tidak dapat membuat keadaan emosi saya memahami bagaimana perkara itu boleh wujud dalam orang yang sama. Anda telah banyak bercakap dengan Sam, dan anda telah bercakap dengan orang yang pernah mengalami sifat ini. Bagaimana dia melakukannya?
Ya. Ia menarik pada peringkat manusia kerana saya mendekati badan pelaporan seperti ini dengan fokus sebenar untuk memanusiakan sesiapa sahaja di tengah-tengahnya dan mencari pemahaman dan empati yang mendalam. Apabila saya cuba mendekati perkara ini dari sudut pandangan yang lebih manusiawi dan berkata, "Hei, ini akan memusnahkan saya jika begitu ramai orang yang pernah bekerja dengan saya berkata saya penipu patologi. Bagaimanakah anda membawa berat itu? Bagaimana anda bercakap tentang itu dalam terapi? Apakah cerita yang anda ceritakan kepada diri sendiri tentang perkara itu?"
Saya mendapat semacam, pada pandangan saya, mungkin kata-kata Pantai Barat tentang perkara itu seperti, "Ya, saya suka kerja nafas." Tetapi tidak banyak jenis perasaan konfrontasi diri yang mendalam yang saya fikir mungkin ramai daripada kita jika kita melihat maklum balas sebegini tentang tingkah laku kita dan layanan kita terhadap orang.
Saya fikir itu sebenarnya pergi ke jawapan yang lebih luas kepada soalan itu juga. Sam menegaskan bahawa sifat ini telah menyebabkan masalah, tetapi ia juga sebahagian daripada apa yang telah memberi kuasa kepadanya untuk mempercepatkan pertumbuhan OpenAI sehingga dia dapat menyatukan dan menggembirakan kumpulan orang yang berbeza. Dia sentiasa meyakinkan semua kawasan yang bercanggah ini bahawa perkara yang mereka ambil berat ialah perkara yang dia ambil berat. Dan itu boleh menjadi kemahiran yang sangat berguna untuk pengasas. Saya telah bercakap dengan pelabur yang kemudiannya berkata, "Nah, mungkin ini adalah kemahiran yang kurang berguna untuk benar-benar menjalankan syarikat kerana ia menimbulkan banyak perselisihan."
Tetapi dari segi peribadi Sam, saya fikir perkara yang saya ambil apabila saya cuba berhubung di peringkat manusia ialah kekurangan konfrontasi, refleksi dan akauntabiliti diri yang lebih mendalam, yang juga memaklumkan kuasa besar atau liabiliti itu untuk syarikat yang sedang bersedia untuk IPO.
Dia adalah seseorang yang, dalam kata-kata seorang bekas ahli lembaga yang bernama Sue Yoon, yang berada dalam rekod dalam sekeping mengatakan bahawa sehingga tahap "kecerobohan" adalah frasa yang dia gunakan, dapat benar-benar mempercayai realiti peralihan promosi jualannya atau mampu meyakinkan dirinya tentangnya. Atau sekurang-kurangnya jika dia tidak mempercayainya, dia mampu untuk mengatasinya tanpa keraguan diri yang bermakna.
Saya fikir perkara yang anda bincangkan, di mana anda atau saya mungkin, kerana kami bercakap perkara itu dan menyedari bahawa ia bercanggah dengan jaminan lain yang telah kami buat, agak membeku seketika atau menyemak diri kami. Saya fikir itu tidak berlaku dengan dia. Dan terdapat budaya gembar-gembur Silicon Valley yang lebih luas dan budaya pengasas yang menerimanya.
memang kelakar. The Verge dibina berdasarkan jumlah ulasan produkprogram. Ia adalah nadi kepada apa yang kami lakukan di sini. Saya memegang satu trilion dolar R&D Apple sekali setahun dan berkata, "Telefon ini adalah tujuh." Dan ia semacam menghalalkan semua laporan kami dan pendapat kami di tempat lain. Kami mempunyai fungsi penilaian, dan kami menghabiskan banyak masa hanya melihat produk AI dan berkata, "Adakah ia berfungsi?"
Rasanya ia hilang daripada banyak perbualan tentang AI seperti hari ini. Terdapat perbualan yang tidak berkesudahan tentang perkara yang mungkin boleh dilakukan, betapa berbahayanya ia. Dan kemudian anda menelusuri, dan anda berkata, "Adakah ia benar-benar melakukan perkara yang sepatutnya dilakukan hari ini?" Dalam beberapa kes, jawapannya adalah ya. Tetapi dalam banyak, banyak kes, jawapannya adalah tidak.
Rasanya ia bersambung dengan budaya gembar-gembur yang anda gambarkan dan juga dengan pengertian bahawa, baik, jika anda mengatakan ia akan melakukan sesuatu dan ia tidak, dan seseorang berasa teruk, itu tidak mengapa kerana kita menuju ke perkara seterusnya. Itu pada masa lalu. Dan khususnya dalam AI, Sam sangat pandai membuat janji-janji besar.
Hanya minggu ini, saya rasa pada hari yang sama dengan cerita anda diterbitkan, OpenAI mengeluarkan dokumen dasar yang mengatakan kita perlu memikirkan semula kontrak sosial dan mendapat gaji kecekapan AI daripada kerajaan. Ini adalah janji besar tentang bagaimana sesetengah teknologi mungkin membentuk masa depan dunia dan cara kita hidup, dan semua itu bergantung pada teknologi yang berfungsi dengan tepat seperti yang dijanjikan untuk berfungsi atau ia sepatutnya berfungsi.
Adakah anda pernah mendapati Sam meragui AI bertukar menjadi AGI atau superintelligence atau sampai ke garisan penamat? Kerana itulah perkara yang paling saya tertanya-tanya. Adakah terdapat sebarang refleksi tentang sama ada teknologi teras ini boleh melakukan semua perkara yang mereka katakan boleh lakukan?
Ia betul-betul set soalan yang betul. Terdapat ahli teknologi yang boleh dipercayai yang kami bercakap dengan badan pelaporan ini — dan jelas sekali Sam Altman bukan seorang; dia seorang ahli perniagaan - yang mengatakan cara Sam bercakap tentang garis masa untuk teknologi ini adalah jauh tersasar. Terdapat catatan blog beberapa tahun yang lalu di mana Sam berkata, "Kami telah pun mencapai ufuk acara. AGI pada asasnya ada di sini. Superintelligence hampir tiba. Kami akan berada di planet lain. Kami akan menyembuhkan semua bentuk kanser." Sesungguhnya, saya tidak berhias.
Kanser itu sebenarnya menarik, bahawa Sam memuji orang yang secara teorinya menyembuhkan kanser anjing mereka dengan ChatGPT, dan itu tidak berlaku. Mereka bercakap dengan ChatGPT, dan itu membantu mereka membimbing beberapa penyelidik yang benar-benar melakukan kerja, tetapi satu-satu, alat ini menyembuhkan anjing ini sebenarnya bukan ceritanya.
Saya gembira anda membangkitkan perkara itu kerana saya ingin meneruskan ke perkara yang lebih besar ini tentang apabila kedua-dua potensi dan risiko teknologi itu benar-benar akan diletak hak. Tetapi patut disebutkan sisi kecil ini yang sentiasa berlaku dari Sam Altman, di mana dia nampaknya menjelmakan sifat ini sekali lagi.
Maksud saya, untuk menggunakan contoh laporan WilmerHale, di mana kami mempunyai maklumat ini yang telah disimpan untuk tidak ditulis, dan ingin mengetahui sama ada taklimat lisan di sepanjang jalan diberikan kepada sesiapa selain daripada dua ahli lembaga yang Sam membantu memasang untuk mengawasinya. Dan dia berkata, "Ya, ya, tidak, saya percaya ia diberikan kepada semua orang yang menyertai lembaga itu selepas itu." Dan kami mempunyai seseorang yang mempunyai pengetahuan langsung tentang keadaan yang mengatakan bahawa ia hanyalah pembohongan. Dan itu benar-benar nampaknya berlaku, bahawa ia adalah tidak benar. Jika kita mahu bermurah hati, mungkin dia tersalah maklum.
Terdapat banyak jaminan santai ini. Dan saya menggunakan contoh itu sebahagiannya kerana itu adalah contoh penyelewangan yang bagus, sebut saja, yang boleh membawa akibat sebenar secara sah. Saya tidak perlu memberitahu anda, di bawah undang-undang korporat Delaware, jika IPO syarikat ini, pemegang saham boleh, di bawah seksyen 220, mengadu tentang perkara ini dan menuntut dokumentasi asas. Sudah ada ahli lembaga yang mengatakan perkara seperti, "Nah, tunggu sebentar, taklimat itu sepatutnya berlaku."
Jadi perkara-perkara ini yang seolah-olah melompat keluar dari mulutnya sepanjang masa, ia boleh mempunyai kesan pergerakan pasaran sebenar, kesan sebenar untuk OpenAI. Membawanya kembali kepada jenis bahasa gembar-gembur utopia yang muncul semula, saya fikir bukan secara kebetulan pada hari karya ini dikeluarkan, ia juga memberi kesan kepada kita semua, kerana bahayanya sangat teruk berkenaan dengan cara iadigunakan dalam persenjataan, cara ia digunakan untuk mengenal pasti ejen peperangan kimia, potensi disinformasi, dan kerana cara gembar-gembur utopia nampaknya mendorong ramai ahli ekonomi yang boleh dipercayai untuk berkata, "Ini mempunyai semua tanda-tanda gelembung."
Malah Sam Altman pernah berkata, "Seseorang akan kehilangan banyak wang di sini." Itu benar-benar boleh mencetuskan banyak pertumbuhan ekonomi Amerika dan global, jika terdapat seperti tebuk benar gelembung yang melibatkan semua syarikat ini melakukan perjanjian antara satu sama lain, menggunakan AI sepenuhnya sambil meminjam dengan begitu banyak. Jadi apa yang dikatakan oleh Sam Altman adalah penting, dan saya rasa kelebihan orang di sekelilingnya, anda menyebut kami bercakap dengan lebih daripada seratus, ia sebenarnya lebih daripada seratus. Kami berbual di garisan penamat seperti, "Adakah terlalu remeh untuk mengatakan ia seperti angka yang jauh lebih tinggi?" Dan kami seperti, "Ya, mari kita perkecilkan. Kami akan bermain dengan baik." Tetapi terdapat begitu ramai orang dan sebahagian besar daripada mereka berkata, "Ini adalah kebimbangan." Dan saya rasa itu sahaja sebabnya.
Biar saya tanya awak tentang nombor itu. Seperti yang anda nyatakan, orang ramai semakin terbuka dengan kebimbangan seiring dengan berlalunya masa. Rasanya seperti tekanan di sekeliling gelembung - perlumbaan untuk menang, untuk membayar semua pelaburan ini, untuk muncul sebagai pemenang, kepada IPO - telah mengubah banyak sikap. Ia sudah tentu menimbulkan lebih banyak tekanan pada Sam dan OpenAI.
Kami menerbitkan cerita minggu ini hanya tentang suasana OpenAI. Kisah anda adalah sebahagian daripadanya, tetapi perubahan kakitangan secara besar-besaran dalam kedudukan eksekutif di OpenAI — orang ramai datang dan pergi. Para penyelidik semua menuju, sebahagian besarnya ke Anthropic, yang saya fikir sangat menarik. Anda hanya boleh melihat syarikat ini merasai tekanan, dan ia bertindak balas terhadap tekanan itu dalam beberapa cara.
Tetapi kemudian saya teringat kembali kepada Sam yang dipecat. Ini hanya kenangan untuk saya. Ia tidak dapat dilupakan oleh orang lain, tetapi saya menerima panggilan sumber di Zoo Bronx pada pukul 7 malam pada hari Jumaat, dan seseorang mengatakan bahawa mereka akan cuba mendapatkan Sam kembali. Dan kemudian kami menghabiskan hujung minggu mengejar cerita itu. Dan saya hanya seperti, "Saya berada di zoo. Apa yang anda mahu saya lakukan di sini?" Dan jawapannya ialah, "Kekal di telefon." Nah, anak perempuan saya berkata, "Matikan telefon." Dan itulah yang saya lakukan.
Ia adalah perjalanan atau mati untuk mendapatkan Sam kembali. Syarikat itu seperti, "Tidak, kami tidak membiarkan lembaga memecat Sam Altman." Para pelabur, mereka dipetik dalam bahagian anda, "Kami pergi berperang," saya fikir, adalah kedudukan Thrive Capital, "untuk mendapatkan Sam kembali." Microsoft pergi berperang untuk mendapatkan Sam kembali. Ia kemudian, dan kini semua orang seperti, "Kami akan IPO. Kami sampai ke garisan penamat. Kami mendapatkan lelaki kami kembali, dan dia akan membawa kami ke garisan penamat. Kami bimbang dia penipu."
Mengapa perang untuk mendapatkan dia ketika itu? Kerana ia tidak kelihatan seperti apa-apa yang sebenarnya berubah. Anda bercakap tentang memo yang Ilya Sutskever dan [Ketua Pegawai Eksekutif Anthropic] Dario Amodei simpan semasa mereka sezaman dengan Sam Altman. Kebimbangan nombor satu Ilya ialah Sam seorang pembohong.
Tidak ada yang berubah. Jadi mengapa perang untuk membawa dia kembali ketika itu? Dan kini kita berada di garisan penamat, nampaknya semua kebimbangan sudah terbuka.
Baiklah, pertama sekali, maaf kepada anak perempuan anda dan pasangan saya dan semua orang lain di sekeliling wartawan.
[Ketawa] Ia adalah hujung minggu untuk semua orang.
Ya, ia memang mengambil alih kehidupan seseorang, dan cerita ini pasti mempunyai kisah saya, sepanjang tempoh masa yang terakhir. Ia sebenarnya berkaitan dengan tema kewartawanan dan akses kepada maklumat ini, saya fikir. Pelabur yang berperang untuk Sam dan semua memainkan peranan dalam memastikan dia kembali, dan lembaga yang telah direka khusus untuk melindungi misi organisasi bukan untung untuk meletakkan keselamatan ke atas pertumbuhan dan memecat eksekutif jika mereka tidak boleh dipercayai dengan itu, mereka pergi. Itu semua kerana, ya, insentif pasaran ada, bukan?
Sam dapat meyakinkan orang ramai, "Nah, syarikat itu akan runtuh." Tetapi sebab dia mendapat sokongan adalah kekurangan maklumat. Pelabur tersebut, dalam banyak kes, kini berkata, "Saya melihat ke belakang, dan saya fikir saya sepatutnya mempunyai lebih banyak kebimbangan jika saya tahu sepenuhnya apa tuntutan itu dan apakah kebimbangan itu."
Tidak semuanya;pendapat berbeza-beza, dan kami memetik pelbagai pendapat, tetapi terdapat pendapat penting yang bertindak berdasarkan maklumat yang separa. Lembaga yang memecat Sam ialah, dalam kata-kata seorang yang pernah berada di papan itu, "sangat JV," dan mereka meraba-raba bola dengan kuat. Dan kami mendokumenkan aduan asas, dan orang ramai boleh memutuskan sendiri sama ada ia terkumpul menjadi jenis kebimbangan segera yang mereka rasakan, tetapi hujah itu dan maklumat itu tidak dibentangkan.
Mereka menerima apa yang kini diakui oleh sesetengah daripada mereka sebagai nasihat undang-undang yang tidak baik. Untuk menerangkannya, anda akan mengingati petikan itu, dan mungkin ramai pendengar dan penonton anda akan mengingati petikan itu sebagai kekurangan kejujuran. Itulah yang dikurangkan kepada, dan kemudian mereka pada dasarnya tidak akan menerima panggilan.
Mereka tidak akan menerima panggilan. Saya pasti anda mencuba. Semua orang yang saya kenali mencuba, dan ia sampai ke tahap di mana, sebagai seorang wartawan, anda tidak sepatutnya memberi nasihat sumber anda, tetapi saya berkata, "Ini akan hilang jika anda tidak mula menjelaskan diri anda sendiri."
Dan itulah yang berlaku. Lupakan wartawan. Anda mempunyai Satya Nadella berkata, "Apa yang berlaku? Saya tidak boleh meminta sesiapa untuk menjelaskan kepada saya." Dan itulah penyokong kewangan utama syarikat. Dan kemudian anda meminta Satya memanggil [pengasas bersama LinkedIn] Reid Hoffman dan Reid menelefon dan berkata, "Saya tidak tahu apa yang berlaku."
Difahamkan mereka berada dalam kekosongan maklumat itu, mencari penunjuk bukan AI tradisional yang akan mewajarkan penembakan yang begitu mendesak dan tiba-tiba. Seperti, okay, adakah itu jenayah seks? Adakah ia penyelewengan? Dan keseluruhan hujah yang halus, tetapi saya fikir bermakna, bahawa teknologi ini berbeza dan kumpulan pengkhianatan yang lebih kecil seperti ini boleh mempunyai kepentingan yang bermakna untuk perniagaan ini dan mungkin untuk dunia, telah hilang sebahagian besarnya. Jadi insentif kapitalis menang, tetapi juga orang yang berjaya keluar dan tidak selalu beroperasi dengan maklumat lengkap.
Saya hanya ingin bertanya tentang aspek "apa yang difikirkan oleh semua orang" untuk seketika, kerana saya pasti melihat berita itu, dan saya berkata, "Oh, sesuatu yang buruk pasti telah berlaku." Anda telah melakukan banyak laporan #MeToo, yang terkenal. Anda memecahkan cerita Harvey Weinstein.
Anda menghabiskan banyak masa melaporkan dakwaan ini yang saya fikir anda memutuskan pada akhirnya tidak berasas: bahawa Altman menyerang kanak-kanak bawah umur secara seksual atau mengupah pekerja seks, atau membunuh pemberi maklumat OpenAI. Maksud saya, anda adalah orang yang boleh melaporkan perkara ini dengan paling teliti. Adakah anda memutuskan bahawa ia menjadi sia-sia?
Nah, lihat, saya bukan dalam perniagaan untuk mengatakan sesuatu telah menjadi sia-sia. Apa yang boleh saya katakan ialah saya menghabiskan masa berbulan-bulan melihat dakwaan ini dan tidak menemui pengesahan untuknya. Dan amat mengejutkan saya bahawa mereka ini, syarikat yang mempunyai kuasa yang begitu besar ke atas masa depan kita, benar-benar menghabiskan jumlah masa dan sumber mereka yang tidak seimbang dalam pertarungan lumpur yang kebudak-budakan.
Seorang eksekutif menggambarkannya sebagai "Shakespearean." Jumlah wang penyiasat persendirian dan dokumen pembangkang yang sedang disusun tidak henti-henti. Dan perkara yang malangnya ialah jenis barang cabul, yang dihina oleh pesaing Sam, hanya diandaikan fakta, bukan? Terdapat dakwaan bahawa dia mengejar budak di bawah umur, dan di banyak pesta koktel di Silicon Valley, anda mendengarnya. Di litar persidangan, saya pernah mendengarnya diulangi oleh eksekutif terkemuka yang boleh dipercayai: "Semua orang tahu ini adalah fakta."
Perkara yang menyedihkan ialah saya bercakap tentang dari mana asalnya, pelbagai vektor yang mana ia dihantar. Elon Musk dan rakan-rakannya nampaknya menolak dosier yang benar-benar tegar yang jumlahnya tidak seberapa. Mereka tidak berasas apabila anda benar-benar mula melihat dakwaan asas. Perkara yang menyedihkan ialah ia benar-benar mengaburkan lebih banyak kritikan berasaskan bukti di sini yang saya fikir benar-benar patut diawasi dan dipertimbangkan segera.
Tema lain yang benar-benar muncul dalam cerita ini adalah hampir rasa takut bahawa Sam mempunyai ramai kawan — dia telah melabur dalam banyak syarikat dari peranannya sebelum ini sebagai Ketua Pegawai Eksekutif Y Combinator, hanya untuk pelaburan peribadinya, beberapa daripadanya bercanggah langsung dengan peranannya sebagai Ketua Pegawai Eksekutif OpenAI — dan ada kesunyian di sekelilingnya.
Ia menarik perhatian saya apabila saya membaca satu baris khususnya. Anda menerangkan memo Ilya Sutskever, dan ia baru sahaja keluar di Silicon Valley. Semua orangmemanggil mereka memo Ilya. Tetapi terdapat kesunyian di sekelilingnya. Mereka disebarkan, tetapi mereka tidak dibincangkan. Dari mana anda fikir ia datang? Adakah ia takut? Adakah keinginan untuk mendapatkan pelaburan malaikat? Dari mana datangnya?
Saya fikir ia adalah banyak pengecut, saya akan jujur. Setelah melaporkan kisah keselamatan negara di mana sumbernya adalah pemberi maklumat yang akan kehilangan segala-galanya dan menghadapi pendakwaan, mereka masih melakukan perkara yang betul dan bercakap tentang perkara untuk mewujudkan akauntabiliti. Saya telah mengusahakan cerita berkaitan jenayah seks yang anda nyatakan, di mana sumber sangat trauma dan takut akan hukuman yang sangat peribadi.
Dalam banyak kes di sekitar rentak ini, anda berurusan dengan orang dengan profil dan kuasa mereka sendiri. Mereka sama ada orang terkenal sendiri atau mereka dikelilingi oleh orang terkenal. Mereka mempunyai kehidupan perniagaan yang teguh. Pada pandangan saya, sebenarnya pendedahan yang sangat rendah untuk mereka bercakap tentang perkara ini. Dan syukurlah, jarum itu bergerak seperti yang kita bincangkan tadi, dan orang kini lebih banyak bercakap.
Tetapi untuk masa yang begitu lama, orang benar-benar hanya diam mengenainya kerana saya fikir budaya Lembah Silikon hanya mementingkan diri sendiri dan berorientasikan perniagaan dan pertumbuhan yang kejam. Jadi saya rasa ini menyusahkan walaupun sesetengah orang yang terlibat dalam memecat Sam, di mana anda lihat pada hari-hari selepas itu, ya, satu faktor yang menyebabkan dia kembali dan pemecatan ahli lembaga pengarah lama ialah dia mengumpulkan pelabur yang keliru dengan tujuannya.
Tetapi satu lagi ialah ramai orang lain di sekelilingnya yang mempunyai kebimbangan dan menyuarakan mereka dengan segera hanya melipat seperti serbet dan menukar lagu mereka sebaik sahaja mereka melihat angin bertiup ke arah lain, dan mereka mahu masuk ke dalam kereta api keuntungan.
Ia agak gelap, jujur, dari sudut pandangan saya sebagai wartawan.
Sebahagian daripada mereka ialah Mira Murati, yang, saya percaya, selama 20 minit menjadi CEO OpenAI yang baharu. Dia kemudiannya digantikan. Ia adalah dinamik yang sangat rumit, dan jelas sekali, Sam kembali. Orang lain ialah Ilya Sutskever, yang merupakan salah satu undi untuk menyingkirkan Sam, dan kemudian dia mengubah fikirannya, atau sekurang-kurangnya berkata dia berubah fikiran, dan kemudian dia pergi untuk memulakan syarikatnya sendiri. Adakah anda tahu apa yang membuatkan dia berubah fikiran? Adakah ia hanya wang?
Nah, dan untuk menjadi jelas, saya tidak memilih kedua-duanya. Terdapat ahli lembaga pengarah lain yang terlibat dalam pemecatan itu juga terdiam selepas itu. Saya fikir ia seperti masalah kolektif yang lebih luas. Ini adalah, dalam beberapa kes, orang yang mempunyai serat moral untuk membunyikan penggera dan mengambil tindakan radikal, dan itu patut dipuji. Dan begitulah cara anda memastikan akauntabiliti. Itu boleh membantu ramai orang yang terjejas oleh teknologi ini. Ia boleh membantu industri untuk kekal berfokuskan keselamatan dengan lebih bermakna.
Tetapi berurusan dengan pemberi maklumat dan orang yang banyak cuba mendorong akauntabiliti itu, anda juga melihat bahawa ia memerlukan serabut untuk mempertahankannya dan berdiri dengan keyakinan anda. Dan industri ini benar-benar penuh dengan orang yang tidak berpegang pada keyakinan mereka.
Walaupun mereka berfikir bahawa mereka sedang membina Tuhan digital yang entah bagaimana akan sama ada menghapuskan semua tenaga kerja atau mencipta lebih banyak tenaga kerja, atau sesuatu akan berlaku.
Nah, itulah perkaranya. Jadi budaya tidak berpegang pada keyakinan anda dan semua kebimbangan etika hilang di tepi jalan apabila terdapat sebarang panas atau apa-apa yang boleh mengancam kedudukan anda sendiri dalam perniagaan mungkin semuanya baik dan baik sedikit sebanyak untuk syarikat perniagaan seperti biasa yang membuat apa sahaja jenis widget.
Tetapi ini juga orang yang sama yang berkata, "Ini benar-benar boleh membunuh kita semua." Dan sekali lagi, anda tidak perlu pergi ke Terminator Skynet yang melampau. Terdapat satu set risiko yang sudah menjadi kenyataan. Ia adalah benar, dan mereka betul untuk memberi amaran tentang perkara itu, tetapi anda perlu meminta orang lain yang kerusi berlengan membuat psikologi bagaimana kedua-dua perkara itu boleh hidup dalam orang yang sama di mana mereka membunyikan amaran segera, mereka mungkin meletakkan jari kaki dan cuba melakukan sesuatu, dan kemudian mereka hanya melipat dan diam.
Itulah sebabnya anda boleh mempunyai contoh perkara seperti ini yang tidak boleh ditulis dan perkara-perkara yang disapu di bawah permaidani, dan tiada siapa yang bercakap mengenainya secara terbuka selama bertahun-tahun selepas fakta itu.
Pihak yang semula jadi dan bertanggungjawab di sini bukanlah Ketua Pegawai Eksekutif syarikat-syarikat ini; ia akan menjadi kerajaan. Di Amerika Syarikat, mungkinia adalah kerajaan negeri, mungkin ia adalah kerajaan persekutuan.
Sudah tentu, semua syarikat ini mahu menjadi global. Terdapat banyak implikasi global di sini. Saya menonton OpenAI, Google dan Anthropic semuanya mendorong pentadbiran Biden untuk mengeluarkan perintah eksekutif AI. Ia agak ompong pada akhirnya. Ia hanya mengatakan bahawa mereka perlu bercakap tentang apa yang model mereka mampu dan mengeluarkan beberapa ujian keselamatan. Dan kemudian mereka semua menyokong Trump, dan Trump masuk dan menghapuskan semua itu dan berkata, "Kita harus berdaya saing. Ia percuma untuk semua. Teruskan."
Pada masa yang sama, mereka semua cuba mengumpul dana dari negara Timur Tengah yang mempunyai banyak wang minyak dan ingin mengubah ekonomi mereka. Mereka adalah ahli politik. Saya rasa ahli politik sepatutnya memahami seseorang bercakap keluar dari kedua-dua belah mulut mereka, dan mereka tidak akan terlalu kecewa jika seseorang kecewa pada akhirnya, tetapi ahli politik juga akan dibawa pergi. Mengapa anda fikir begitu?
Ini sebenarnya, saya fikir, mengapa bahagian itu penting pada pandangan saya dan mengapa ia berbaloi untuk menghabiskan masa dan perincian ini. Kami berada dalam persekitaran di mana sistem yang, seperti yang anda katakan, sepatutnya menyediakan pengawasan hanya dilubangkan. Itulah pasca-Citizens United America, di mana aliran wang sangat tidak terkawal, dan ia merupakan tumpuan khusus masalah itu di sekitar AI, di mana terdapat PAC ini yang membiak dan membanjiri wang ke dalam membatalkan peraturan yang bermakna di peringkat negeri dan persekutuan.
Anda mempunyai [pengasas bersama OpenAI] Greg Brockman, arahan kedua Sam, menyumbang secara langsung dengan cara yang besar kepada beberapa daripada mereka. Ia membawa kepada situasi di mana terdapat penangkapan penggubal undang-undang dan pengawal selia yang berpotensi, dan itu adalah lingkaran yang sukar untuk dielakkan. Perkara yang menyedihkan ialah, saya berpendapat bahawa terdapat langkah dasar yang mudah, beberapa daripadanya sedang diuji di tempat lain di dunia, yang akan membantu dengan beberapa masalah akauntabiliti ini.
Anda boleh mempunyai lebih banyak ujian keselamatan pra-pengerahan mandatori, yang merupakan sesuatu yang sudah berlaku di Eropah untuk model sempadan. Anda mungkin mempunyai keperluan rekod awam bertulis yang lebih ketat untuk jenis penyiasatan dalaman di mana kami melihat perkara tidak ditulis dalam kes ini. Anda boleh mempunyai set mekanisme semakan keselamatan negara yang lebih mantap untuk jenis cita-cita infrastruktur Timur Tengah yang didorong oleh Sam Altman.
Seperti yang anda katakan, dia melakukan umpan ini dan bertukar dengan pentadbiran Biden, dengan berkata, "Kawal selia kami, kawal kami," dan membantu mereka membuat perintah eksekutif, dan kemudian apabila Trump masuk, benar-benar pada hari-hari pertama, hanya akan sekatan, "Mari kita percepat dan mari kita bina kampus pusat data yang besar di Abu Dhabi." Anda boleh mempunyai, ini adalah yang sangat mudah, seperti perlindungan pemberi maklumat. Tiada undang-undang persekutuan yang melindungi pekerja syarikat AI yang mendedahkan kebimbangan keselamatan seperti ini yang disiarkan dalam bahagian ini.
Kami mempunyai kes di mana Jan Leike, yang merupakan pegawai keselamatan kanan di OpenAI, mengetuai penjajaran super di syarikat itu. Dia menulis kepada lembaga pengarah, pada dasarnya bahan pemberi maklumat, mengatakan syarikat itu akan keluar dari landasan dalam misi keselamatannya. Mereka adalah jenis orang yang sepatutnya mempunyai badan pengawasan yang boleh mereka pergi, dan mereka harus mempunyai perlindungan berkanun yang jelas seperti yang kita lihat di sektor lain. Ini adalah mudah untuk meniru rejim gaya Sarbanes-Oxley.
Saya berpendapat bahawa walaupun betapa seriusnya masalah Lembah Silikon yang mengawal semua tuil kuasa, dan walaupun betapa kosongnya beberapa institusi yang mungkin memberikan pengawasan dan pagar, saya masih percaya pada matematik asas demokrasi dan ahli politik yang mementingkan diri sendiri. Dan terdapat lebih banyak data pengundian yang muncul yang majoriti rakyat Amerika berpendapat bahawa kebimbangan, persoalan atau risiko AI pada masa ini melebihi manfaatnya.
Jadi saya fikir banjir wang ke dalam politik daripada AI, adalah dalam kuasa kita untuk menjadikannya sebagai sumber tanda tanya berkenaan dengan ahli politik. Apabila rakyat Amerika pergi mengundi, mereka harus meneliti sama ada orang yang mereka undi, terutamanya jika mereka tidak kritis dan anti-peraturan, memandangkan semua kebimbangan ini, dibiayai oleh kepentingan khusus teknologi besar. Jadi, saya fikir jika orang boleh membaca karya seperti ini, mendengar podcast seperti ini dan cukup mengambil berat untuk berfikir secara kritiskeputusan mereka sebagai pengundi, terdapat peluang sebenar untuk menjana kawasan pilihan raya di Washington wakil yang mengawasi dan memaksa pengawasan.
Itu mungkin salah satu perkara paling optimistik yang pernah saya dengar sesiapa berkata tentang industri AI semasa. Saya menghargainya. Saya taksub dengan pengundian yang anda bincangkan. Terdapat banyak sekarang. Semuanya agak konsisten, dan nampaknya semakin ramai golongan muda, khususnya, terdedah kepada AI, semakin tidak percaya dan marah mereka mengenainya. Itulah valensi semua pengundian. Dan saya melihat itu, dan saya fikir, ya, ahli politik pintar akan menentangnya. Mereka hanya akan berkata, "Kami akan mempertanggungjawabkan teknologi besar."
Kemudian saya berfikir tentang 20 tahun yang lalu, seorang ahli politik berkata mereka akan bertanggungjawab kepada teknologi besar, dan saya bergelut untuk mencari walaupun satu saat teknologi besar dipertanggungjawabkan. Satu-satunya perkara yang membuatkan saya fikir ini mungkin berbeza ialah, anda sebenarnya perlu membina pusat data, dan anda boleh mengundi menentangnya, dan anda boleh membuat petisyen menentangnya, dan anda boleh membantahnya.
Saya rasa ada ahli politik yang baru sahaja menembak rumah mereka kerana mereka mengundi pusat data. Ketegangan semakin memuncak, saya akan menyebutnya, demam panas. Anda telah menerangkan keterpencilan Silicon Valley. Ini adalah ekosistem tertutup. Rasanya mereka fikir mereka boleh mengendalikan dunia. Mereka meletakkan banyak wang ke dalam politik, dan mereka menentang realiti bahawa orang ramai tidak menyukai produk, yang tidak memberi mereka banyak perlindungan. Semakin mereka menggunakan produk, semakin kecewa mereka, dan ahli politik mula melihat ada akibat sebenar untuk menyokong industri teknologi ke atas orang yang mereka wakili.
Anda telah bercakap dengan begitu ramai orang. Adakah anda fikir mungkin untuk industri teknologi mempelajari pelajaran yang ada di hadapan mereka?
Anda katakan rasanya mereka fikir mereka boleh menjalankan dunia tanpa akauntabiliti. Saya tidak fikir ia memerlukan kelayakan "terasa seperti". Maksud saya, anda melihat bahasa yang digunakan oleh Peter Thiel, ia jelas. Sudah tentu, itu contoh yang melampau. Dan Sam Altman, walaupun dia rapat dengan dan dimaklumkan oleh ideologi Thiel sedikit sebanyak, adalah jenis orang yang sangat berbeza yang mungkin terdengar berbeza dan lebih diukur sehingga satu tahap.
Tetapi saya fikir ideologi yang lebih luas yang anda dapat daripada Thiel, iaitu pada asasnya: Kita sudah selesai dengan demokrasi, kita tidak memerlukannya lagi. Kami mempunyai begitu banyak sehingga kami hanya mahu membina kubu kecil kami sendiri. Kami tidak lagi berurusan dengan Carnegies atau Rockefellers, di mana mereka adalah orang jahat, tetapi mereka merasakan mereka perlu mengambil bahagian dalam kontrak sosial dan membina sesuatu untuk orang ramai. Terdapat nihilisme sebenar yang berlaku.
Dan saya fikir ia hanyalah satu lingkaran yang saling mengukuhkan dalam sejarah Amerika baru-baru ini tentang mogul dan syarikat swasta yang memperoleh kuasa kerajaan super manakala institusi demokrasi yang mungkin menganggap mereka bertanggungjawab telah dilonggarkan. Saya tidak berasa optimistik tentang idea bahawa lelaki itu mungkin baru bangun suatu hari dan berfikir, "Hah, sebenarnya mungkin kita perlu mengambil bahagian dalam masyarakat dan membantu membina sesuatu untuk orang ramai."
Maksud saya, anda lihat seperti contoh mikrokosmik The Giving Pledge, di mana terdapat saat di mana ia seolah-olah menjadi amal, dan saat itu kini telah berlalu dan bahkan diejek. Itu adalah masalah, masalah yang lebih luas kekurangan akauntabiliti yang saya fikir hanya boleh diselesaikan secara ekstrinsik. Itu mesti pengundi menggerakkan dan membangkitkan kuasa pengawasan kerajaan. Dan anda betul-betul tepat untuk mengatakan bahawa vektor utama yang boleh digunakan oleh orang ramai adalah tempatan. Ia berkaitan dengan tempat infrastruktur sedang dibina.
Anda menyebut beberapa ketegangan yang memuncak di sekeliling perkara ini yang membawa kepada keganasan dan ancaman, dan jelas sekali, tiada siapa yang harus bertindak ganas atau mengancam. Dan saya juga tidak berada di sini untuk membuat pengesyoran dasar khusus selain hanya membentangkan beberapa langkah dasar yang kelihatan asas dan berfungsi di tempat lain di dunia, bukan? Atau mereka yang pernah bekerja di sektor lain. Saya di sini bukan untuk menyatakan yang mana antara mereka harus dilaksanakan dan bagaimana.
Saya fikir sesuatu perlu berlaku, dan ia perlu bersifat luaran, bukan hanya mempercayai syarikat-syarikat ini. Kerana betulkini kita mempunyai situasi di mana syarikat-syarikat yang sedang membangunkan teknologi dan dilengkapi dengan sebaik-baiknya untuk memahami risiko, dan sebenarnya adalah yang memberi amaran kepada kita tentang risiko, juga yang tidak mempunyai apa-apa selain insentif untuk bertindak pantas dan mengabaikan risiko tersebut. Dan anda tidak mempunyai apa-apa untuk mengimbanginya. Oleh itu, apa jua pembaharuan yang mungkin diambil dari segi khusus, sesuatu harus menghadapinya. Dan saya masih kembali kepada keyakinan bahawa rakyat masih penting.
Saya biasanya membeli hujah anda. Biar saya buat satu hujah balas kecil yang saya rasa boleh saya nyatakan. Perkara lain yang boleh berlaku di luar peti undi ialah gelembung muncul, bukan? Bahawa tidak semua syarikat ini sampai ke garisan penamat, dan tidak ada pasaran produk yang sesuai untuk aplikasi AI pengguna. Dan sekali lagi, saya masih belum melihatnya, tetapi saya seorang pengulas teknologi pengguna, dan mungkin saya hanya mempunyai standard yang lebih tinggi daripada orang lain.
Terdapat kesesuaian pasaran produk dalam dunia perniagaan, bukan? Mempunyai sekumpulan ejen AI menulis sekumpulan perisian nampaknya merupakan pasaran sebenar untuk alat ini. Dan anda boleh membaca hujah daripada syarikat ini berkata, "Kami telah menyelesaikan pengekodan, dan itu bermakna kami boleh menyelesaikan apa sahaja. Jika kami boleh membuat perisian, kami boleh menyelesaikan sebarang masalah."
Saya fikir terdapat had sebenar untuk perkara yang boleh dilakukan oleh perisian. Itu hebat dalam dunia perniagaan. Perisian tidak dapat menyelesaikan setiap masalah dalam realiti, tetapi mereka perlu sampai ke sana. Mereka perlu menyelesaikan kerja itu, dan mungkin tidak semua orang berjaya sampai ke garisan penamat. Dan terdapat kemalangan, dan gelembung ini muncul, dan mungkin OpenAI atau Anthropic atau xAI, salah satu syarikat ini gagal, dan semua pelaburan ini hilang.
Adakah anda fikir ia akan menjejaskan ini? Sebenarnya, biar saya tanya soalan pertama dulu. OpenAI berada di puncak IPO. Terdapat banyak keraguan tentang Sam sebagai pemimpin. Adakah anda fikir mereka akan sampai ke garisan penamat?
Saya tidak akan meramalkan, tetapi saya fikir anda membangkitkan satu perkara penting, iaitu insentif pasaran penting secara dalaman kepada Silicon Valley, dan ketidakpastian dinamik gelembung semasa akan mengganggu, sekali lagi, berpotensi, menurut pengkritik, perlumbaan ke bawah untuk keselamatan.
Saya juga akan menambah itu, jika anda melihat keutamaan sejarah di mana terdapat set insentif pasaran yang serupa dan nampaknya tidak dapat ditembusi dan kesan yang berpotensi memudaratkan orang ramai, terdapat litigasi kesan. Dan anda melihatnya sebagai bidang yang membimbangkan sejak kebelakangan ini. Sam Altman berada di luar sana minggu ini mengesahkan undang-undang yang akan melindungi syarikat AI daripada beberapa jenis liabiliti yang OpenAI telah terdedah kepada saman kematian yang salah, contohnya. Sudah tentu, ada keinginan untuk mempunyai perisai itu daripada liabiliti.
Saya berpendapat bahawa mahkamah masih boleh menjadi mekanisme yang bermakna, dan ia akan menjadi sangat menarik untuk melihat bagaimana saman ini terbentuk. Anda telah melihat, sebagai contoh, saman tindakan kelas, yang saya dan ramai, ramai pengarang lain yang saya kenali adalah ahli, menentang Anthropic kerana mereka menggunakan buku yang berada di bawah hak cipta. Jika terdapat minda undang-undang yang bijak dan plaintif yang mengambil berat, seperti yang kita lihat dalam sejarah dalam kes daripada tembakau besar kepada tenaga besar, anda juga boleh mendapatkan beberapa pagar dan beberapa insentif untuk memperlahankan, berhati-hati atau melindungi orang dengan cara itu.
Rasanya keseluruhan struktur kos industri AI bergantung pada tafsiran yang sangat, sangat amal bagi penggunaan adil. Tidak datang cukup. Struktur kos syarikat ini boleh menjadi tidak terkawal jika mereka perlu membayar anda dan semua orang lain yang telah mereka ambil kerja, tetapi menyusahkan untuk difikirkan, jadi kami tidak memikirkannya. Di sebelah itu, semua produk ini kini mengalami kerugian. Seperti hari ini, mereka semua berlari dalam kerugian. Mereka membakar lebih banyak wang daripada yang mereka boleh buat. Pada satu ketika, mereka perlu menukar suis.
Sam seorang ahli perniagaan. Seperti yang anda nyatakan beberapa kali, dia bukan ahli teknologi. Dia seorang ahli perniagaan. Adakah anda fikir dia bersedia untuk menukar suis dan berkata, "Kami akan membuat satu dolar?" Kerana apabila saya bertanya, "Adakah anda fikir OpenAI akan berjaya?" Ia adalah apabila mereka perlu membuat satu dolar. Dan setakat ini, Sam telah membuat semua wangnya dengan meminta wang orang lain daripada meminta syarikatnya membuat wang.
Nah, itu soalan besar yang berlarutan untuk Silicon Valley, untuk pelabur, untuk orang ramai.Anda melihat beberapa kenyataan dan bergerak keluar dari OpenAI yang nampaknya menunjukkan panik tentang perkara itu. Mematikan Sora, menutup beberapa projek sampingan, cuba memusatkan perhatian pada produk teras. Tetapi sebaliknya, anda masih melihat, pada masa yang sama, banyak misi merayap, bukan? Malah contoh kecil - ia jelas bukan teras kepada perniagaan mereka - ialah pemerolehan TBPN.
Ngomong-ngomong, sebaik sahaja kami sampai ke garisan penamat dan semakan fakta, syarikat yang menghadapi penelitian kewartawanan seperti ini memperoleh platform di mana mereka boleh mempunyai lebih kawalan langsung ke atas perbualan. Saya berpendapat bahawa terdapat ramai pelabur yang prihatin, berdasarkan perbualan yang saya alami, bahawa masalah menjanjikan semua perkara kepada semua orang juga berlanjutan kepada kekurangan tumpuan dalam model perniagaan teras ini. Dan maksud saya, anda lebih dekat dengan jenis meramal dan memerhati pasaran daripada saya mungkin. Saya akan meninggalkan anda dan pendengar untuk menilai sama ada mereka fikir OpenAI boleh menukar suis.
Baiklah, saya bertanyakan soalan itu kerana anda mempunyai petikan dalam bahagian itu daripada eksekutif kanan Microsoft, dan ia adalah, "Legasi Sam mungkin lebih serupa dengan Bernie Madoff atau Sam Bankman-Fried," dan bukannya Steve Jobs. Itu adalah perbandingan yang cukup. Apa yang anda buat tentang perbandingan itu?
Saya rasa itu parafrasa. Bahagian Steve Jobs bukan sebahagian daripada petikan. Tetapi ada semacam ketenangan yang menarik kerana ia diungkapkan seperti, "Saya rasa ada peluang kecil tetapi nyata bahawa dia akhirnya menjadi SBF atau penipu peringkat Madoff." Maksudnya, pada fikiran saya, bukan Sam dituduh melakukan jenis penipuan atau jenayah tertentu itu, tetapi tahap penipuan dan penipuan daripada Sam mungkin mempunyai peluang untuk diingati pada skala itu.
Ya, saya rasa apa yang paling menarik tentang petikan itu, secara jujur, ialah anda menghubungi Microsoft dan anda tidak mendapat seperti, "Itu gila. Kami tidak pernah mendengarnya." Anda mendapat banyak seperti, "Ya, ramai orang di sini berfikiran itu" yang luar biasa. Dan saya fikir ia sesuai dengan soalan perniagaan yang tidak penting ini.
Seorang pelabur memberitahu saya, sebagai contoh, berdasarkan cara sifat ini berterusan pada tahun-tahun selepas pemecatan" - dan ini juga menganggap ini adalah pemikiran yang menarik - bahawa tidak semestinya Sam harus berada di bahagian bawah mutlak dalam senarai, seperti yang paling rendah dari segi orang yang sama sekali tidak boleh membina teknologi ini, untuk apa yang dikatakan oleh beberapa orang bahawa Elon memang berbaloi. mungkin di bahagian bawah senarai orang yang harus membina AGI, dan di bawah beberapa tokoh terkemuka lain dalam bidang ini.
Jadi saya fikir itu adalah penilaian yang menarik, dan itulah jenis pemikiran yang saya fikir yang anda dapat daripada pragmatis sebenar yang mungkin tidak terlalu mengambil berat tentang kebimbangan keselamatan. Mereka hanya berorientasikan pertumbuhan, dan mereka berpendapat bahawa OpenAI kini mempunyai masalah dengan Sam Altman.
Sekeping Microsoft benar-benar menarik. Syarikat itu menyangka mereka berada di puncak dunia. Bahawa mereka telah membuat pelaburan ini dan mereka akan melonjakkan semua orang, terutamanya dan yang paling penting, Google, dan kembali ke dalam kebaikan pengguna. Tahap yang mereka rasa terbakar oleh pengembaraan ini — ini adalah syarikat yang dikendalikan dengan sangat bijak — saya rasa tidak boleh dilebih-lebihkan.
Anda menyebut watak dan ciri personaliti. Saya ingin mengakhiri di sini dengan soalan daripada pendengar kami. Saya berkata pada rancangan kami yang lain, The Vergecast, bahawa saya akan bercakap dengan anda, dan saya berkata, "Jika anda mempunyai soalan untuk Ronan tentang cerita ini, beritahu saya." Oleh itu, kami mempunyai satu di sini yang saya fikir berkait rapat dengan perkara yang anda huraikan. Saya hanya akan membacakannya kepada anda:
“Bagaimanakah justifikasi untuk kelakuan buruk, tindakan kejam Altman dan pemimpin AI lain, berbeza daripada justifikasi yang Ronan dengar daripada pemimpin berprofil tinggi lain dalam politik dan media? Tidakkah mereka semua mewajarkan tindakan mereka dengan mengatakan ini adalah bagaimana dunia akan berubah? Jika saya tidak melakukan ini, orang lain akan melakukannya?"
Ya, terdapat banyak perkara yang berlaku. Saya akan katakan apa yang membezakan AI ialah kepentingan kewujudan yang sangat tinggi bermakna kedua-dua kenyataan risiko adalah melampau, bukan? Anda mempunyai Sam Altmanberkata, "Ini mungkin lampu padam untuk kita semua." Dan juga, pengkritik mungkin berkata, mania yang dimaksudkan oleh penanya adalah melampau, bukan?
Perkara yang Sam tuduh Elon, dalam rekod, adalah mungkin dia mahu menyelamatkan manusia, tetapi hanya jika dia. Jenis komponen ego yang ingin menang, yang merupakan pembingkaian yang digunakan Sam sepanjang masa, dan ini adalah salah satu untuk buku sejarah, ini boleh mengubah segala-galanya. Oleh itu, walaupun di atas dan di luar pemikiran "anda perlu memecahkan beberapa telur" kebanyakan perusahaan Silicon Valley, terdapat, dalam fikiran beberapa tokoh yang mengetuai AI, saya fikir, rasionalisasi lengkap untuk mana-mana dan semua kejatuhan.
Dan lupakan pecah telur. Saya/ rasa ramai penyelidik keselamatan yang mendasari akan berkata berpotensi berisiko memecah belah negara, memecah dunia dan mematahkan berjuta-juta orang yang pekerjaan dan keselamatannya bergantung pada keseimbangan — itulah yang unik tentangnya. Di situlah saya menutup, merenung badan pelaporan ini, benar-benar mempercayai ini lebih daripada Sam Altman. Ini adalah mengenai industri yang tidak dikekang dan masalah Amerika yang semakin meningkat yang tidak dapat mengekangnya.
Ya. Nah, kami mempunyai sedikit keyakinan di sana, tetapi saya fikir itu adalah tempat yang baik untuk meninggalkannya.
[Ketawa] Tamat dengan perlahan.
Sudah tentu. Itulah setiap cerita yang hebat, sungguh. Percubaan Musk-Altman akan datang. Saya fikir kita akan belajar lebih banyak lagi di sini. Saya syak saya akan mahu bercakap dengan awak lagi. Ronan Farrow, terima kasih banyak kerana menggunakan Dekoder.
terima kasih.
Soalan atau komen tentang episod ini? Hubungi kami di [email protected]. Kami benar-benar membaca setiap e-mel!
