Hari ini di Decoder, saya berbicara dengan Ronan Farrow, salah satu bintang pelaporan investigasi terbesar yang bekerja saat ini. Dia mengungkap kisah Harvey Weinstein, dan masih banyak lagi kisah lainnya. Dan minggu lalu, dia dan rekan penulisnya Andrew Marantz menerbitkan fitur mendalam yang luar biasa di The New Yorker tentang CEO OpenAI Sam Altman, kepercayaannya, dan kebangkitan OpenAI itu sendiri.
Satu catatan sebelum kita melangkah lebih jauh di sini —The New Yorker menerbitkan cerita itu dan Ronan serta saya melakukan percakapan ini sebelum kami mengetahui sepenuhnya tingkat serangan di rumah Altman, jadi Anda tidak akan mendengar kami membicarakannya secara langsung. Namun sejujurnya, menurut saya kekerasan dalam bentuk apa pun tidak dapat diterima, serangan-serangan terhadap Sam ini tidak dapat diterima, dan ketidakberdayaan yang dirasakan orang-orang, yang berujung pada kekerasan semacam ini, tidak dapat diterima, dan hal ini perlu mendapat perhatian lebih dari para pelaku industri dan para pemimpin politik kita. Saya harap itu jelas.
Pelanggan Verge, jangan lupa Anda mendapatkan akses eksklusif ke Decoder bebas iklan di mana pun Anda mendapatkan podcast. Pergilah ke sini. Bukan pelanggan? Anda dapat mendaftar di sini.
Meski begitu, ada banyak hal yang berputar-putar di sekitar Altman yang merupakan permainan yang adil untuk pelaporan yang ketat - jenis pelaporan yang ingin dilakukan Ronan dan Andrew. Berkat popularitas ChatGPT, Altman telah muncul sebagai tokoh paling menonjol dalam industri AI, setelah mengubah laboratorium penelitian nirlaba menjadi perusahaan swasta bernilai hampir triliun dolar hanya dalam beberapa tahun. Namun mitos Altman sangat bertentangan, karena kemampuannya dalam membuat kesepakatan dan kecenderungannya untuk… yah, berbohong kepada semua orang di sekitarnya.
Ceritanya panjangnya lebih dari 17.000 kata, dan bisa dibilang berisi kisah definitif tentang apa yang terjadi pada tahun 2023 ketika dewan direksi OpenAI tiba-tiba memecat Altman atas dugaan kebohongannya, namun dia segera dipekerjakan kembali. Ini juga merupakan penyelaman mendalam ke dalam kehidupan pribadi Altman, investasinya, ketertarikannya pada uang Timur Tengah, dan refleksinya sendiri mengenai perilaku dan karakter masa lalunya yang membuat sebuah sumber mengatakan bahwa dia “tidak dibatasi oleh kebenaran.” Saya sangat menyarankan Anda membaca keseluruhan cerita; Saya menduga ini akan menjadi referensi selama bertahun-tahun yang akan datang.
Ronan berbicara dengan Altman berkali-kali selama 18 bulan yang dia habiskan untuk melaporkan artikel ini, jadi salah satu hal utama yang membuat saya penasaran adalah apakah dia merasakan adanya perubahan pada Altman selama waktu itu. Bagaimanapun, banyak hal telah terjadi di bidang AI, teknologi, dan dunia selama satu setengah tahun terakhir.
Anda akan mendengar Ronan membicarakan hal itu secara langsung, serta perasaannya bahwa orang-orang menjadi lebih bersedia berbicara tentang kemampuan Altman untuk mengungkapkan kebenaran. Orang-orang mulai bertanya-tanya, baik secara langsung maupun tidak langsung, apakah perilaku orang-orang seperti Altman mengkhawatirkan, tidak hanya bagi AI atau teknologi, namun juga bagi masa depan kolektif masyarakat.
Oke: Ronan Farrow tentang Sam Altman, AI, dan kebenarannya. Ini dia.
Wawancara ini telah sedikit diedit agar panjang dan jelasnya.
Ronan Farrow, Anda adalah reporter investigasi dan kontributor The New Yorker. Selamat datang di Dekoder.
Senang berada di sini. Terima kasih telah menerima saya.
Saya sangat bersemangat untuk berbicara dengan Anda. Anda baru saja menulis artikel besar untuk The New Yorker. Itu adalah profil Sam Altman dan, semacam itu, OpenAI. Yang saya baca adalah, seperti halnya semua fitur hebat, fitur ini, dengan pelaporan yang cermat, memvalidasi banyak perasaan yang dimiliki orang-orang terhadap Sam Altman sejak lama. Anda jelas telah menerbitkannya, Anda mendapat reaksi terhadapnya. Bagaimana perasaan Anda saat ini?
Sebenarnya, saya berbesar hati dengan sejauh mana hal ini berhasil ditembus di saat ekonomi perhatian begitu skizofrenia dan dangkal. Ini adalah kisah yang, dalam pandangan saya, mempengaruhi kita semua. Dan ketika saya menghabiskan satu setengah tahun hidup saya, dan rekan penulis saya, Andrew Marantz, juga menghabiskan waktunya, benar-benar mencoba melakukan sesuatu yang forensik dan teliti, itu selalu karena saya merasa ada masalah struktural yang lebih besar yang mempengaruhi orang-orang di luar individu dan perusahaan sebagai inti cerita.
Sam Altman, dengan latar belakang budaya hype Silicon Valley dan perusahaan rintisan yang melakukan valuasi besar-besaran berdasarkan janji-janji yang mungkin terjadi atau tidak terjadi di masa depan, dan semakin meningkatnya budaya pendiri yang menganggap bahwa memberi tahu kelompok yang berbeda hal-hal yang saling bertentangan adalah sebuah fitur, bukan sebuah fitur.bug…Bahkan dengan latar belakang tersebut, Sam Altman adalah kasus luar biasa di mana setiap orang di Silicon Valley yang mengharapkan hal-hal tersebut tidak dapat berhenti membicarakan pertanyaan tentang kepercayaan dan kejujurannya.
Kami sudah tahu bahwa dia dipecat karena beberapa versi tuduhan ketidakjujuran atau tuduhan serial kebohongan. Namun yang luar biasa, terlepas dari kenyataan bahwa terdapat pemberitaan yang bagus, Keach Hagey telah melakukan pekerjaan yang baik dalam hal ini. Karen Hao telah melakukan pekerjaan besar dalam hal ini. Benar-benar tidak ada pemahaman yang pasti tentang dugaan poin bukti yang sebenarnya dan alasan mengapa hal tersebut tidak diketahui publik.
Jadi poin pertama adalah saya merasa berbesar hati dengan kenyataan bahwa beberapa kesenjangan dalam pengetahuan publik kita, dan bahkan dalam pengetahuan orang dalam Silicon Valley, kini telah terisi lebih banyak lagi. Beberapa alasan mengapa terdapat kesenjangan telah diisi lebih banyak lagi.
Kami melaporkan kasus-kasus di mana orang-orang di dalam perusahaan ini benar-benar merasa ada hal yang ditutup-tutupi atau sengaja tidak didokumentasikan. Salah satu hal baru dalam cerita ini adalah investigasi firma hukum penting yang dilakukan oleh WilmerHale, yang jelas merupakan firma hukum besar yang mewah, kredibel, yang melakukan investigasi terhadap Enron dan WorldCom, yang semuanya sangat banyak, seperti ratusan halaman yang diterbitkan. WilmerHale melakukan penyelidikan yang diminta oleh anggota dewan yang telah memecat Altman sebagai syarat kepergian mereka ketika dia menyingkirkan mereka, dan dia kembali. Dan yang luar biasa – di mata banyak pakar hukum yang saya ajak bicara, dan yang mengejutkan di mata banyak orang di perusahaan ini – mereka tidak menuliskannya. Yang muncul hanyalah siaran pers 800 kata dari OpenAI yang menggambarkan apa yang terjadi sebagai rusaknya kepercayaan. Dan kami menegaskan bahwa hal ini hanya dilakukan dalam pengarahan lisan.
Ada kasus di mana, misalnya, seorang anggota dewan tampaknya ingin memberikan suara menentang konversi dari bentuk asli OpenAI yang nirlaba menjadi entitas nirlaba, dan hal ini dicatat sebagai abstain. Ada seperti seorang pengacara dalam pertemuan tersebut yang berkata, "Hal itu bisa memicu terlalu banyak pengawasan." Dan orang yang ingin memberikan suara menentang akan dicatat sebagai abstain untuk semua penampilan. Ada perselisihan faktual. OpenAI mengklaim sebaliknya, seperti yang Anda bayangkan. Ini semua adalah kasus di mana Anda memiliki perusahaan yang, dengan tanggung jawabnya sendiri, memegang masa depan kita di tangannya.
Taruhan keamanannya sangat besar sehingga belum hilang. Inilah alasan mengapa perusahaan ini didirikan sebagai organisasi nirlaba yang berfokus pada keselamatan, dan segala sesuatunya dikaburkan sedemikian rupa sehingga orang-orang yang kredibel di sekitarnya menganggapnya kurang profesional. Dan hal ini juga dipadukan dengan latar belakang di mana minat politik terhadap regulasi yang berarti sangat kecil. Saya pikir ini adalah situasi yang sangat mudah terbakar.
Bagi saya, intinya bukan hanya Sam Altman yang sangat pantas menerima pertanyaan-pertanyaan ini. Hal ini juga disebabkan oleh salah satu dari orang-orang di bidang ini, dan banyak dari tokoh-tokoh kuncinya, yang menunjukkan, jika bukan sifat istimewa ini, yang dianggap sebagai sifat yang selalu berbohong, tentu saja pada tingkat tertentu mentalitas berlomba-lomba, di mana orang-orang yang menganut paham keselamatan telah melunakkan komitmen-komitmen tersebut dan sikap semua orang yang berada dalam perlombaan.
Saya pikir, saat kita melihat bocoran terbaru dari Anthropic, ada seseorang yang mengajukan pertanyaan tentang siapa yang harus menentukan tombol di bagian ini. Jawabannya adalah, jika kita tidak melakukan pengawasan yang berarti, saya pikir kita harus mengajukan pertanyaan serius dan berusaha memunculkan informasi sebanyak yang kita bisa tentang semua orang ini. Jadi, saya berbesar hati dengan percakapan yang bermakna tentang hal itu, atau awal dari percakapan tersebut.
Alasan saya menanyakannya seperti itu adalah karena Anda mengerjakan ini selama satu setengah tahun. Saya yakin, Anda berbicara dengan 100 orang dengan rekan penulis Anda, Andrew. Itu adalah waktu yang lama untuk sebuah cerita dimasak. Saya memikirkan satu setengah tahun terakhir di bidang AI pada khususnya, dan wah, sikap dan nilai-nilai dari semua karakter ini berubah dengan sangat cepat.
Mungkin tidak lebih dari Sam Altman, yang memulai sebagai pemenang default karena mereka telah merilis ChatGPT dan semua orang mengira itu akan mengambil alih Google. Dan kemudian Google merespons, yang tampaknya mengejutkan mereka bahwa Google akan berusaha melindungi bisnisnya, mungkin salah satu bisnis terbaik dalam sejarah teknologi, jika bukan sejarah bisnis. Anthropic memutuskan akan fokus pada perusahaan. Tampaknya ia sedang memimpindi sana karena penggunaan AI di perusahaan sangat tinggi.
Sekarang, OpenAI memfokuskan kembali produknya dari “kami akan mengambil alih Google” ke Codex, dan mereka akan mengambil alih perusahaan. Saya tidak tahu pasti, selama Anda melakukan liputan selama satu setengah tahun terakhir, apakah karakter yang Anda ajak bicara terasa berubah? Seperti halnya sikap dan nilai-nilai mereka, apakah hal tersebut berubah?
Ya. Saya pikir pertama-tama, bahwa kritik yang dieksplorasi dalam artikel ini, datang dari banyak orang di dalam perusahaan-perusahaan ini pada saat ini – bahwa ini adalah industri yang, meskipun ada pertaruhannya, sedang berlomba-lomba dalam hal keselamatan dan di mana kecepatan mengalahkan segalanya – kekhawatiran tersebut semakin akut. Dan saya pikir kekhawatiran tersebut semakin terbukti seiring berjalannya waktu selama satu setengah tahun terakhir. Pada saat yang sama, sikap terhadap Sam Altman telah berubah secara spesifik. Ketika kami mulai berbicara dengan sumber tentang hal ini, orang-orang benar-benar ragu untuk dikutip dan dipublikasikan tentang hal ini.
Di akhir pelaporan kami, Anda mempunyai kumpulan pemberitaan di mana orang-orang membicarakan hal ini dengan sangat terbuka dan eksplisit, dan ada anggota dewan yang mengatakan hal-hal seperti, "Dia pembohong patologis. Dia sosiopat." Terdapat beragam perspektif, mulai dari, “Hal ini berbahaya karena adanya risiko keselamatan, dan kita memerlukan pemimpin di bidang teknologi yang memiliki integritas tinggi,” hingga “Lupakan risiko keselamatan, ini adalah perilaku yang tidak dapat dipertahankan oleh eksekutif di perusahaan besar mana pun, karena hal ini hanya akan menyebabkan terlalu banyak disfungsi.”
Jadi percakapannya menjadi jauh lebih eksplisit dengan cara yang mungkin terasa terlambat, namun di satu sisi membesarkan hati. Dan Sam Altman, yang patut dipuji… Karyanya sangat adil dan bahkan murah hati, menurut saya, kepada Sam. Ini bukan jenis karya yang berisi banyak hal yang “mengerti”. Saya menghabiskan waktu berjam-jam di telepon dengannya saat kami menyelesaikan ini dan benar-benar mendengarkannya.
Seperti yang dapat Anda bayangkan, dalam karya seperti ini, tidak semuanya berhasil. Beberapa kasus dalam karya ini adalah karena saya mendengarkan dengan tulus. Dan jika Sam benar-benar membuat argumen bahwa saya merasa terbawa air, bahwa sesuatu, meskipun itu benar, bisa jadi sensasional, saya benar-benar keliru dalam menjaga forensik dan terukur ini. Jadi saya pikir hal ini diterima dengan benar, dan saya hanya berharap catatan faktual yang terakumulasi selama periode waktu ini dapat memicu pembicaraan yang lebih menguatkan tentang perlunya pengawasan.
Itu sebenarnya pertanyaan saya selanjutnya. Saya rasa Anda telah berbicara dengan Sam belasan kali selama melaporkan cerita ini. Sekali lagi, itu adalah banyak percakapan dalam jangka waktu yang lama. Apakah menurut Anda Sam berubah selama pelaporan selama satu setengah tahun terakhir?
Ya. Menurut saya, salah satu subplot paling menarik dalam hal ini adalah Sam Altman juga membicarakan sifat ini secara lebih eksplisit dibandingkan sebelumnya. Postur Sam dalam karya ini tidak seperti, "Tidak ada apa-apa di sana, ini tidak benar; Saya tidak mengerti apa yang Anda bicarakan." Sikap yang dia miliki adalah bahwa dia mengatakan hal ini disebabkan oleh kecenderungan untuk menyenangkan orang lain dan semacam keengganan terhadap konflik. Dia mengakui bahwa hal itu menimbulkan masalah baginya, terutama di awal karirnya.
Dia berkata, “Ya, saya sudah melewatinya, atau sampai batas tertentu sudah melewatinya.” Menurut saya, hal yang benar-benar menarik bagi saya adalah sekelompok orang yang kami ajak bicara yang bukan hanya pendukung keselamatan, bukan hanya peneliti teknis yang sering kali cenderung memiliki masalah keselamatan yang akut, namun juga investor besar yang pragmatis. Mereka adalah pendukung Sam, yang, dalam beberapa kasus, melihat pertanyaan ini dan berbicara tentang peran penting Sam dalam kembalinya dia setelah pemecatan. Kini, ketika ditanya apakah ia sudah melakukan reformasi, dan sejauh mana perubahan itu bermakna, mereka berkata, “Ya, kami memberinya manfaat dari keraguan yang ada pada saat itu.”
Saya memikirkan salah satu investor terkemuka yang berkata, “Tetapi sejak saat itu, tampak jelas bahwa dia tidak dianggap remeh,” itulah ungkapan yang digunakan oleh investor ini, sejauh diperlukan. Hasilnya, sepertinya sifat ini sekarang menjadi sifat yang stabil. Kami melihat hal ini secara berkelanjutan. Anda dapat melihat beberapa bisnis terbesar OpenAIhubungan dan cara mereka memikul beban ketidakpercayaan itu secara berkelanjutan.
Seperti halnya dengan Microsoft, Anda berbicara dengan para eksekutif di sana, dan mereka mempunyai kekhawatiran yang sangat akut dan baru-baru ini memicu kekhawatiran. Ada contoh di mana, pada hari yang sama, OpenAI menegaskan kembali eksklusivitasnya dengan Microsoft sehubungan dengan model AI tanpa kewarganegaraan yang mendasarinya. OpenAI juga mengumumkan kesepakatan baru dengan Amazon yang berkaitan dengan penjualan solusi perusahaan untuk membangun agen AI yang bersifat stateful, yang berarti mereka memiliki memori.
Anda berbicara dengan orang-orang Microsoft, dan mereka berkata, “Hal ini tidak mungkin dilakukan tanpa berinteraksi dengan hal-hal mendasar yang menjadi kesepakatan eksklusivitas kami.” Jadi, ini hanyalah salah satu dari banyak contoh kecil di mana sifat ini mempengaruhi aktivitas bisnis yang berkelanjutan sepanjang waktu dan menjadi perhatian aktif di dewan OpenAI, di jajaran eksekutifnya, dan di komunitas teknologi yang lebih luas.
Anda terus mengatakan “sifat” itu. Ada baris dalam cerita yang bagi saya terasa seperti tesis, dan itu adalah deskripsi dari sifat yang Anda gambarkan. Itu adalah bahwa “Sam Altman tidak dibatasi oleh kebenaran” dan bahwa dia memiliki “dua sifat yang hampir tidak pernah terlihat pada orang yang sama: yang pertama adalah keinginan yang kuat untuk menyenangkan orang lain, untuk disukai dalam interaksi apa pun, dan yang kedua adalah kurangnya kepedulian sosiopat terhadap konsekuensi yang mungkin timbul dari menipu seseorang.”
Harus kuberitahu, aku membaca kalimat itu sebanyak 500 kali, dan aku mencoba membayangkan selalu mengatakan apa yang diinginkan orang agar disukai dan kemudian tidak merasa kesal saat merasa dibohongi. Dan saya tidak dapat membuat keadaan emosi saya memahami bagaimana hal-hal itu bisa terjadi pada orang yang sama. Anda telah banyak berbicara dengan Sam, dan Anda telah berbicara dengan orang-orang yang pernah mengalami sifat-sifat ini. Bagaimana dia melakukannya?
Ya. Hal ini menarik dari sudut pandang kemanusiaan karena saya melakukan pendekatan terhadap pemberitaan seperti ini dengan fokus nyata untuk memanusiakan siapa pun yang terlibat dan mencari pemahaman serta empati yang mendalam. Ketika saya mencoba mendekati hal ini dari sudut pandang yang lebih manusiawi dan berkata, "Hei, ini akan sangat merugikan saya jika begitu banyak orang yang pernah bekerja dengan saya mengatakan bahwa saya adalah pembohong yang patologis. Bagaimana Anda menanggung beban itu? Bagaimana Anda membicarakannya dalam terapi? Cerita apa yang Anda ceritakan pada diri Anda sendiri tentang hal itu?"
Menurut pandangan saya, saya mendapat semacam basa-basi di Pantai Barat tentang hal itu seperti, "Ya, saya suka latihan pernapasan." Tapi tidak banyak dari kita yang memiliki rasa konfrontasi diri yang mendalam seperti yang mungkin akan kita alami jika kita melihat masukan seperti ini tentang perilaku dan perlakuan kita terhadap orang lain.
Saya pikir itu juga mengarah pada jawaban yang lebih luas atas pertanyaan tersebut. Sam menegaskan bahwa sifat ini tidak hanya menimbulkan masalah, tetapi juga merupakan bagian dari apa yang telah memberdayakannya untuk mempercepat pertumbuhan OpenAI sehingga ia mampu menyatukan dan menyenangkan kelompok orang yang berbeda. Dia terus-menerus meyakinkan semua konstituen yang berkonflik bahwa apa yang mereka pedulikan adalah apa yang dia pedulikan. Dan itu bisa menjadi keterampilan yang sangat berguna bagi seorang pendiri. Saya telah berbicara dengan investor yang kemudian berkata, “Yah, mungkin itu adalah keterampilan yang kurang berguna untuk menjalankan perusahaan karena dapat menimbulkan banyak perselisihan.”
Namun dari sisi pribadi Sam, menurut saya hal yang saya tangkap saat mencoba terhubung pada tingkat kemanusiaan adalah kurangnya konfrontasi, refleksi, dan akuntabilitas diri yang lebih dalam, yang juga menginformasikan kekuatan super atau tanggung jawab tersebut bagi perusahaan yang sedang mempersiapkan IPO.
Dia adalah seseorang yang, seperti yang diungkapkan oleh salah satu mantan anggota dewan direksi bernama Sue Yoon, yang tercatat dalam artikel tersebut mengatakan bahwa ungkapan yang dia gunakan sampai pada titik “kecerobohan”, mampu benar-benar mempercayai perubahan realitas promosi penjualannya atau mampu meyakinkan dirinya sendiri tentang hal tersebut. Atau setidaknya jika dia tidak memercayainya, dia mampu mengungkapkannya tanpa keraguan yang berarti.
Saya pikir hal yang Anda bicarakan, di mana Anda atau saya mungkin, ketika kita mengatakan hal itu dan menyadari bahwa hal itu bertentangan dengan jaminan lain yang telah kita buat, seperti ada saat-saat untuk menenangkan diri atau memeriksa diri kita sendiri. Saya rasa hal itu tidak terjadi padanya. Dan ada budaya hype dan budaya pendiri Silicon Valley yang lebih luas yang menganut hal tersebut.
Itu lucu. The Verge dibangun berdasarkan ulasan produkprogram. Ini adalah inti dari apa yang kami lakukan di sini. Saya mengadakan penelitian dan pengembangan Apple senilai satu triliun dolar setahun sekali dan berkata, “Ponsel ini bernilai tujuh.” Dan hal ini melegitimasi semua pelaporan dan opini kami di tempat lain. Kami memiliki fungsi evaluatif, dan kami menghabiskan banyak waktu hanya untuk melihat produk AI dan bertanya, “Apakah produk tersebut berfungsi?”
Rasanya hal itu hilang dari banyak perbincangan tentang AI seperti saat ini. Ada perbincangan tanpa henti tentang apa yang bisa dilakukannya, betapa berbahayanya hal itu. Dan kemudian Anda menelusurinya, dan Anda berkata, "Apakah perusahaan tersebut benar-benar melakukan hal yang seharusnya dilakukan hari ini?" Dalam beberapa kasus, jawabannya adalah ya. Namun dalam banyak kasus, jawabannya adalah tidak.
Rasanya hal ini ada kaitannya dengan budaya hype yang Anda gambarkan dan juga dengan perasaan bahwa, jika Anda mengatakan bahwa hal tersebut akan menghasilkan sesuatu namun ternyata tidak, dan seseorang merasa tidak enak, tidak apa-apa karena kita akan melanjutkan ke hal berikutnya. Itu adalah masa lalu. Dan khususnya dalam AI, Sam sangat pandai membuat janji-janji besar.
Baru minggu ini, saya rasa di hari yang sama saat cerita Anda diterbitkan, OpenAI merilis dokumen kebijakan yang menyatakan bahwa kita harus memikirkan kembali kontrak sosial dan mendapatkan tunjangan efisiensi AI dari pemerintah. Ini adalah janji besar tentang bagaimana suatu teknologi dapat membentuk masa depan dunia dan cara kita hidup, dan semua itu bergantung pada teknologi yang bekerja sesuai dengan cara yang dijanjikan atau memang seharusnya berhasil.
Pernahkah Anda menemukan Sam meragukan AI berubah menjadi AGI atau superintelligence atau mencapai garis finis? Karena itulah hal yang paling membuatku penasaran. Apakah ada refleksi mengenai apakah teknologi inti ini dapat melakukan semua hal yang mereka katakan dapat dilakukan?
Ini adalah rangkaian pertanyaan yang tepat. Ada ahli teknologi kredibel yang kami ajak bicara dalam kumpulan pelaporan ini — dan tentu saja Sam Altman bukan salah satunya; dia seorang pebisnis — yang mengatakan cara Sam berbicara tentang garis waktu teknologi ini masih jauh dari kata. Ada postingan blog beberapa tahun yang lalu di mana Sam mengatakan, "Kita telah mencapai cakrawala peristiwa. AGI pada dasarnya ada di sini. Kecerdasan super sudah dekat. Kita akan berada di planet lain. Kita akan menyembuhkan segala bentuk kanker." Sungguh, saya tidak membumbui.
Masalah kanker sebenarnya menarik, Sam sedang memuji orang yang secara teori menyembuhkan kanker anjingnya dengan ChatGPT, dan hal itu tidak terjadi. Mereka berbicara dengan ChatGPT, dan itu membantu mereka membimbing beberapa peneliti yang benar-benar melakukan pekerjaan tersebut, namun secara tatap muka, alat ini menyembuhkan anjing ini sebenarnya bukanlah cerita.
Saya senang Anda mengemukakan poin tersebut karena saya ingin melanjutkan ke poin yang lebih besar tentang kapan potensi dan risiko teknologi benar-benar akan terjadi. Namun perlu disebutkan hal-hal kecil yang terus-menerus terjadi dari Sam Altman, di mana dia tampaknya mewujudkan sifat ini lagi.
Maksud saya, menggunakan contoh laporan WilmerHale, di mana kami memiliki informasi yang tidak dituliskan, dan ingin mengetahui apakah laporan lisan selama ini diberikan kepada orang lain selain dua anggota dewan yang dibantu Sam untuk mengawasinya. Dan dia berkata, “Ya, ya, tidak, saya yakin itu diberikan kepada semua orang yang bergabung dengan dewan setelahnya.” Dan ada seseorang yang mengetahui situasi tersebut secara langsung dan mengatakan bahwa hal tersebut hanyalah sebuah kebohongan. Dan tampaknya hal itu memang benar, dan hal itu tidak benar. Jika kita ingin bermurah hati, mungkin dia salah informasi.
Ada banyak jaminan biasa ini. Dan saya menggunakan contoh tersebut karena ini adalah contoh bagus dari penyembunyian, sebut saja, yang dapat mempunyai konsekuensi nyata secara hukum. Saya tidak perlu memberi tahu Anda, berdasarkan undang-undang perusahaan Delaware, jika perusahaan ini melakukan IPO, pemegang saham dapat, berdasarkan pasal 220, mengeluh tentang hal ini dan meminta dokumentasi yang mendasarinya. Sudah ada anggota dewan yang mengatakan hal-hal seperti, “Tunggu dulu, pengarahan itu seharusnya dilakukan.”
Jadi hal-hal yang sepertinya keluar dari mulutnya sepanjang waktu, dapat memiliki efek penggerak pasar yang nyata, efek nyata untuk OpenAI. Membawanya kembali ke bahasa hype utopis yang muncul kembali, saya pikir bukan suatu kebetulan pada hari artikel ini diterbitkan, hal ini juga berdampak pada kita semua, karena bahayanya sangat akut sehubungan dengan cara pembuatannya.digunakan dalam persenjataan, cara penggunaannya untuk mengidentifikasi agen perang kimia, potensi disinformasi, dan cara di mana hype utopis tampaknya mendorong banyak ekonom yang kredibel untuk mengatakan, “Ini semua menunjukkan tanda-tanda gelembung.”
Bahkan Sam Altman pernah berkata, “Seseorang akan kehilangan banyak uang di sini.” Hal ini benar-benar dapat menghambat pertumbuhan ekonomi Amerika dan global, jika benar-benar terjadi penembusan gelembung yang melibatkan semua perusahaan yang melakukan kesepakatan satu sama lain, memanfaatkan AI sambil meminjam begitu banyak uang. Jadi apa yang dikatakan Sam Altman penting, dan menurut saya jumlah orang di sekitarnya yang lebih banyak, Anda sebutkan kami berbicara dengan lebih dari seratus orang, sebenarnya lebih dari seratus. Kami berbincang di garis finis dan rasanya seperti, “Apakah terlalu remeh untuk mengatakan angkanya jauh lebih tinggi?” Dan kami seperti, "Ya, mari kita anggap remeh. Kami akan bersikap tenang." Namun ada begitu banyak orang dan sebagian besar dari mereka berkata, “Ini mengkhawatirkan.” Dan menurut saya itulah alasannya.
Izinkan saya bertanya tentang nomor itu. Seperti yang Anda sebutkan, orang-orang menjadi semakin terbuka terhadap kekhawatiran mereka seiring berjalannya waktu. Rasanya tekanan di sekitar bubble – perlombaan untuk menang, melunasi semua investasi ini, untuk menjadi pemenang, hingga IPO – telah mengubah banyak sikap. Hal ini tentu saja menciptakan tekanan lebih besar pada Sam dan OpenAI.
Kami menerbitkan sebuah cerita minggu ini tentang getaran OpenAI. Kisah Anda adalah bagian dari hal tersebut, namun terjadi perubahan besar dalam susunan staf di jajaran eksekutif di OpenAI — orang-orang datang dan pergi. Semua peneliti beralih, sebagian besar ke Anthropic, yang menurut saya sangat menarik. Anda dapat melihat perusahaan ini merasakan tekanan tersebut, dan merespons tekanan tersebut dengan cara tertentu.
Tapi kemudian saya teringat kembali pada Sam yang dipecat. Ini hanya kenangan bagi saya. Hal ini tidak dapat diingat oleh orang lain, namun saya menerima telepon dari sumber di Kebun Binatang Bronx pada jam 7 malam pada hari Jumat, dan ada seseorang yang mengatakan bahwa mereka akan mencoba mendapatkan Sam kembali. Dan kemudian kami menghabiskan akhir pekan untuk mengejar cerita itu. Dan saya hanya berkata, "Saya di kebun binatang. Apa yang Anda ingin saya lakukan di sini?" Dan jawabannya adalah, “Tetaplah menelepon.” Nah, putri saya berkata, “Matikan teleponnya.” Dan itulah yang saya lakukan.
Itu adalah perjalanan atau kematian untuk mendapatkan Sam kembali. Perusahaan itu berkata, "Tidak, kami tidak akan membiarkan dewan direksi memecat Sam Altman." Para investor, seperti yang dikutip dalam artikel Anda, “Kami berperang,” menurut saya, adalah posisi Thrive Capital, “untuk mendapatkan Sam kembali.” Microsoft berperang untuk mendapatkan Sam kembali. Itu nanti, dan sekarang semua orang berkata, "Kami akan melakukan IPO. Kami telah mencapai garis finis. Kami mendapatkan orang kami kembali, dan dia akan membawa kami ke garis finis. Kami khawatir dia pembohong."
Mengapa harus terjadi perang untuk mendapatkannya saat itu? Karena sepertinya tidak ada yang berubah. Anda berbicara tentang memo yang disimpan Ilya Sutskever dan [CEO Anthropic] Dario Amodei saat mereka sezaman dengan Sam Altman. Kekhawatiran nomor satu Ilya adalah Sam pembohong.
Tidak ada satupun yang berubah. Jadi mengapa harus terjadi perang untuk membawanya kembali ke masa lalu? Dan kini setelah kita berada di garis finis, sepertinya semua kekhawatiran sudah terungkap.
Pertama-tama, maaf kepada putri Anda dan pasangan saya serta semua orang di sekitar jurnalis.
[Tertawa] Itu adalah akhir pekan yang menyenangkan bagi semua orang.
Ya, itu memang mengambil alih hidup seseorang, dan cerita ini pasti juga menjadi milikku, selama periode waktu terakhir. Ini sebenarnya berkaitan dengan tema jurnalisme dan akses informasi, menurut saya. Para investor yang berperang demi Sam dan semuanya berperan dalam memastikan dia kembali, dan dewan yang dirancang khusus untuk melindungi misi organisasi nirlaba untuk mengutamakan keselamatan dibandingkan pertumbuhan dan memecat seorang eksekutif jika mereka tidak dapat dipercaya dengan hal itu, mereka pergi. Itu semua karena, ya, ada insentif pasar, bukan?
Sam mampu meyakinkan orang, “Perusahaan akan hancur.” Namun alasan dia mendapat dukungan adalah kurangnya informasi. Para investor tersebut, dalam banyak kasus, sekarang berkata, “Saya melihat ke belakang, dan saya pikir saya seharusnya memiliki lebih banyak kekhawatiran jika saya mengetahui sepenuhnya apa klaim dan kekhawatiran yang ada.”
Tidak semuanya;Pendapatnya berbeda-beda, dan kami mengutip beragam pendapat, namun ada beberapa pendapat penting yang bertindak berdasarkan informasi yang sangat parsial. Papan yang memecat Sam, menurut kata-kata salah satu orang yang pernah berada di papan, “sangat JV,” dan mereka memukul bola dengan keras. Dan kami mendokumentasikan keluhan yang mendasarinya, dan masyarakat dapat memutuskan sendiri apakah keluhan tersebut akan terakumulasi menjadi kekhawatiran mendesak yang mereka rasakan, namun argumen dan informasi tersebut tidak disajikan.
Mereka menerima apa yang sebagian dari mereka sekarang akui sebagai nasihat hukum yang buruk. Untuk mendeskripsikannya, Anda akan mengingat kutipan tersebut, dan mungkin banyak pendengar serta pemirsa Anda akan mengingat kutipan tersebut sebagai kurangnya keterusterangan. Itulah yang direduksi menjadi, dan pada dasarnya mereka tidak mau menerima panggilan.
Mereka tidak mau menerima telepon. Saya yakin Anda sudah mencobanya. Semua orang yang saya kenal telah mencobanya, dan hal ini sampai pada titik di mana, sebagai seorang jurnalis, Anda tidak seharusnya memberikan nasihat kepada narasumber Anda, namun saya berpikir, “Ini akan hilang jika Anda tidak mulai menjelaskan diri Anda sendiri.”
Dan itulah yang terjadi. Lupakan jurnalis. Ada Satya Nadella yang berkata, "Apa yang terjadi? Saya tidak bisa meminta siapa pun menjelaskannya kepada saya." Dan itulah pendukung keuangan utama perusahaan. Dan kemudian Satya menelepon [salah satu pendiri LinkedIn] Reid Hoffman dan Reid menelepon dan berkata, "Saya tidak tahu apa yang terjadi."
Dapat dimengerti bahwa mereka berada dalam kekosongan informasi dan mencari indikator tradisional non-AI yang dapat membenarkan tindakan yang mendesak dan tiba-tiba tersebut. Oke, apakah itu kejahatan seks? Apakah itu penggelapan? Dan seluruh argumen yang halus, namun menurut saya bermakna, bahwa teknologi ini berbeda dan bahwa akumulasi pengkhianatan kecil yang terus-menerus dapat memiliki dampak yang berarti baik bagi bisnis ini dan mungkin bagi dunia, sebagian besar telah hilang. Jadi insentif kapitalis lah yang menang, namun orang-orang yang menciptakannya juga ikut tersingkir dan tidak selalu beroperasi dengan informasi yang lengkap.
Saya ingin bertanya sejenak tentang aspek “apa yang dipikirkan semua orang”, karena saya pasti melihat beritanya, dan saya berkata, “Oh, sesuatu yang buruk pasti telah terjadi.” Anda telah melakukan banyak pelaporan #MeToo, yang terkenal. Anda memecahkan cerita Harvey Weinstein.
Anda menghabiskan banyak waktu untuk melaporkan klaim yang menurut saya Anda putuskan pada akhirnya tidak berdasar: bahwa Altman melakukan pelecehan seksual terhadap anak di bawah umur atau mempekerjakan pekerja seks, atau bahkan membunuh pelapor OpenAI. Maksud saya, Anda adalah orang yang paling teliti melaporkan hal ini. Apakah Anda memutuskan bahwa hal itu tidak ada gunanya?
Begini, saya tidak ingin mengatakan bahwa sesuatu telah menjadi sia-sia. Apa yang bisa saya katakan adalah saya menghabiskan waktu berbulan-bulan untuk mempelajari klaim-klaim ini dan tidak menemukan bukti yang mendukungnya. Dan sangat mengejutkan bagi saya bahwa orang-orang ini, perusahaan-perusahaan yang memiliki begitu banyak kekuasaan atas masa depan kita, benar-benar menghabiskan banyak waktu dan sumber daya mereka dalam pertarungan lumpur yang kekanak-kanakan.
Seorang eksekutif menggambarkannya sebagai “Shakespeare.” Jumlah uang penyelidik swasta dan berkas oposisi yang dikumpulkan tidak ada habisnya. Dan sayangnya, hal-hal cabul yang ditiru oleh pesaing Sam hanyalah asumsi fakta, bukan? Ada tuduhan bahwa dia mengejar anak laki-laki di bawah umur, dan di banyak pesta koktail di Silicon Valley, Anda pasti mendengarnya. Di sirkuit konferensi, saya pernah mendengarnya diulangi oleh para eksekutif terkemuka dan kredibel: “Semua orang tahu bahwa ini adalah fakta.”
Hal yang menyedihkan adalah saya berbicara tentang dari mana asalnya, berbagai vektor yang menyebarkannya. Elon Musk dan rekan-rekannya tampaknya mendorong dokumen-dokumen yang sangat keras yang tidak berarti apa-apa. Klaim tersebut tidak jelas ketika Anda benar-benar mulai melihat klaim yang mendasarinya. Hal yang menyedihkan adalah bahwa hal ini mengaburkan kritik-kritik yang lebih berbasis bukti di sini, yang menurut saya layak untuk segera diawasi dan dipertimbangkan.
Tema lain yang benar-benar muncul dalam cerita ini adalah rasa takut bahwa Sam memiliki begitu banyak teman - dia berinvestasi di banyak perusahaan dari peran sebelumnya sebagai CEO Y Combinator, hingga investasi pribadinya, beberapa di antaranya bertentangan langsung dengan perannya sebagai CEO OpenAI - dan ada keheningan di sekelilingnya.
Saya tersadar ketika saya membaca satu baris khususnya. Anda mendeskripsikan memo Ilya Sutskever, dan memo itu baru saja beredar di Silicon Valley. Setiap orangmenyebutnya memo Ilya. Tapi bahkan ada keheningan seputar hal itu. Mereka diedarkan, tapi tidak dibicarakan. Menurut Anda, dari mana asalnya? Apakah itu ketakutan? Apakah ini keinginan untuk mendapatkan investasi malaikat? Dari mana asalnya?
Menurutku itu sangat pengecut, jujur saja. Setelah melaporkan kisah-kisah keamanan nasional yang narasumbernya adalah pelapor yang akan kehilangan segalanya dan menghadapi tuntutan, mereka tetap melakukan hal yang benar dan membicarakan berbagai hal untuk menciptakan akuntabilitas. Saya telah mengerjakan cerita terkait kejahatan seksual yang Anda sebutkan, di mana sumbernya sangat trauma dan takut akan pembalasan yang sangat pribadi.
Dalam banyak kasus seputar hal ini, Anda berurusan dengan orang-orang dengan profil dan kekuatan mereka sendiri. Mereka bisa jadi adalah orang-orang terkenal atau dikelilingi oleh orang-orang terkenal. Mereka memiliki kehidupan bisnis yang kuat. Menurut saya, paparan mereka terhadap hal ini sebenarnya sangat rendah. Dan untungnya, jarumnya mulai bergerak seperti yang kita bicarakan sebelumnya, dan orang-orang kini lebih banyak berbicara.
Namun untuk jangka waktu yang lama, banyak orang yang diam saja karena menurut saya budaya Silicon Valley sangat mementingkan diri sendiri dan sangat berorientasi pada bisnis dan pertumbuhan. Jadi menurut saya hal ini bahkan menimpa beberapa orang yang terlibat dalam pemecatan Sam, seperti yang Anda lihat di hari-hari berikutnya, ya, salah satu faktor yang menyebabkan dia kembali dan pemecatan anggota dewan lama adalah karena dia menggalang investor yang bingung dengan tujuannya.
Namun hal lainnya adalah begitu banyak orang di sekitarnya yang mempunyai kekhawatiran dan menyuarakan keprihatinan mereka hanya melipat diri seperti serbet dan mengubah nada bicara mereka saat mereka melihat angin bertiup ke arah lain, dan mereka ingin ikut serta dalam kereta keuntungan.
Sejujurnya, ini cukup gelap dari sudut pandang saya sebagai reporter.
Beberapa di antaranya adalah Mira Murati, yang menurut saya selama 20 menit adalah CEO baru OpenAI. Dia kemudian digantikan. Itu adalah dinamika yang sangat rumit, dan tentu saja, Sam kembali. Orang lainnya adalah Ilya Sutskever, yang merupakan salah satu suara untuk mencopot Sam, dan kemudian dia berubah pikiran, atau setidaknya mengatakan dia berubah pikiran, dan kemudian dia pergi untuk memulai perusahaannya sendiri. Tahukah Anda apa yang membuatnya berubah pikiran? Apakah itu hanya uang?
Dan untuk lebih jelasnya, saya tidak memilih keduanya. Ada anggota dewan lain yang terlibat dalam pemecatan yang juga terdiam setelahnya. Saya pikir ini seperti masalah kolektif yang lebih luas. Dalam beberapa kasus, mereka adalah orang-orang yang mempunyai moral yang kuat dalam memperingatkan dan mengambil tindakan radikal, dan hal ini patut dipuji. Dan itulah cara Anda menjamin akuntabilitas. Hal ini dapat membantu banyak orang yang terkena dampak teknologi ini. Hal ini dapat membantu industri untuk tetap lebih fokus pada keselamatan.
Namun ketika berhadapan dengan pelapor dan orang-orang yang berusaha mendorong akuntabilitas tersebut, Anda juga melihat bahwa dibutuhkan upaya keras untuk bertahan dan mempertahankan keyakinan Anda. Dan industri ini benar-benar penuh dengan orang-orang yang tidak teguh pada keyakinan mereka.
Meskipun mereka berpikir bahwa mereka sedang membangun Tuhan digital yang entah bagaimana akan menghilangkan semua tenaga kerja atau menciptakan lebih banyak tenaga kerja, atau sesuatu akan terjadi.
Ya, itulah masalahnya. Jadi budaya untuk tidak berpegang teguh pada keyakinan Anda dan semua masalah etika tidak lagi relevan saat terjadi keributan atau apa pun yang dapat mengancam posisi Anda dalam bisnis mungkin baik-baik saja sampai batas tertentu bagi perusahaan-perusahaan yang melakukan bisnis seperti biasa yang membuat widget apa pun.
Namun mereka juga adalah orang-orang yang sama yang mengatakan, “Ini benar-benar bisa membunuh kita semua.” Dan sekali lagi, Anda tidak harus menggunakan Terminator Skynet yang ekstrim. Ada serangkaian risiko yang sudah terwujud. Hal ini nyata, dan mereka benar dalam memperingatkan hal tersebut, namun Anda harus meminta orang lain untuk melakukan psikologi bagaimana kedua hal tersebut dapat terjadi pada orang yang sama ketika mereka menyuarakan peringatan mendesak, mereka mungkin mengambil tindakan dan mencoba melakukan sesuatu, dan kemudian mereka hanya terdiam dan terdiam.
Itulah tepatnya mengapa ada kejadian-kejadian seperti ini yang tidak dituliskan dan disembunyikan, dan tidak ada seorang pun yang membicarakannya secara terbuka selama bertahun-tahun setelah kejadian tersebut.
Pihak yang bertanggung jawab di sini bukanlah CEO dari perusahaan-perusahaan ini; itu adalah pemerintah. Mungkin di Amerikaitu pemerintah negara bagian, mungkin pemerintah federal.
Tentu saja, semua perusahaan ini ingin menjadi global. Ada banyak implikasi global di sini. Saya menyaksikan OpenAI, Google, dan Anthropic mendorong pemerintahan Biden untuk mengeluarkan perintah eksekutif AI. Pada akhirnya, ia menjadi ompong. Mereka hanya mengatakan bahwa mereka harus membicarakan kemampuan model mereka dan merilis beberapa pengujian keamanan. Dan kemudian mereka semua mendukung Trump, dan Trump datang dan menghapus semua itu dan berkata, "Kita harus kompetitif. Ini gratis untuk semua. Lakukanlah."
Pada saat yang sama, mereka semua berusaha mengumpulkan dana dari negara-negara Timur Tengah yang memiliki banyak uang dari minyak dan ingin mengubah perekonomian mereka. Mereka adalah politisi. Saya rasa para politisi harus memahami bahwa ada orang yang mengutarakan pendapat mereka, dan mereka tidak akan terlalu kecewa jika ada orang yang kecewa pada akhirnya, namun para politisi juga ikut terpengaruh. Menurut Anda mengapa demikian?
Menurut saya, inilah mengapa karya tersebut penting dalam pandangan saya dan mengapa karya tersebut layak untuk diluangkan selama ini dan mendetail. Kita berada di lingkungan di mana sistem yang, seperti Anda katakan, seharusnya memberikan pengawasan justru dikosongkan. Hal ini terjadi pasca-Citizens United America, di mana aliran uang tidak terkekang, dan masalah tersebut terkonsentrasi pada AI, dimana terdapat PAC yang berkembang biak dan membanjiri uang untuk membatalkan peraturan penting baik di tingkat negara bagian maupun federal.
Anda memiliki [salah satu pendiri OpenAI] Greg Brockman, orang kedua di komando Sam, yang secara langsung berkontribusi besar pada beberapa di antaranya. Hal ini mengarah pada situasi dimana benar-benar terjadi penangkapan terhadap legislator dan regulator potensial, dan hal ini merupakan sebuah spiral yang sulit untuk dihilangkan. Hal yang menyedihkan adalah, menurut saya ada langkah-langkah kebijakan sederhana, yang beberapa di antaranya sedang diujicobakan di negara lain, yang akan membantu mengatasi beberapa masalah akuntabilitas ini.
Anda dapat melakukan lebih banyak pengujian keamanan wajib sebelum penerapan, yang sudah terjadi di Eropa untuk model frontier. Anda dapat menerapkan persyaratan catatan publik tertulis yang lebih ketat untuk jenis penyelidikan internal yang kami lihat tidak mencantumkan hal-hal dalam kasus ini. Anda dapat memiliki mekanisme peninjauan keamanan nasional yang lebih kuat untuk ambisi infrastruktur Timur Tengah yang didorong oleh Sam Altman.
Seperti yang Anda katakan, dia melakukan umpan ini dan beralih ke pemerintahan Biden, dengan mengatakan, “Atur kami, atur kami,” dan membantu mereka menyusun perintah eksekutif, dan kemudian saat Trump mulai menjabat, pada hari-hari pertama, tanpa hambatan, “Ayo kita percepat dan mari kita bangun kampus pusat data besar-besaran di Abu Dhabi.” Anda bisa saja melakukannya, ini adalah hal yang sangat sederhana, seperti perlindungan pelapor. Tidak ada undang-undang federal yang melindungi karyawan perusahaan AI yang mengungkapkan masalah keselamatan seperti yang diungkapkan dalam artikel ini.
Kami memiliki kasus di mana Jan Leike, yang merupakan staf keselamatan senior di OpenAI, memimpin penyelarasan super di perusahaan. Dia menulis kepada dewan direksi, yang pada dasarnya merupakan materi pengungkap fakta (whistleblower), dengan mengatakan bahwa perusahaan tersebut telah keluar jalur dalam misi keselamatannya. Mereka adalah orang-orang yang seharusnya memiliki badan pengawas yang dapat mereka datangi, dan mereka harus memiliki perlindungan hukum yang jelas seperti yang kita lihat di sektor lain. Hal ini mudah untuk meniru rezim gaya Sarbanes-Oxley.
Saya pikir meskipun betapa akutnya masalah yang dihadapi Silicon Valley dalam mengambil kendali atas seluruh kekuasaan, dan betapa lemahnya beberapa lembaga yang mungkin memberikan pengawasan dan pembatas, saya masih percaya pada matematika dasar demokrasi dan politisi yang mementingkan diri sendiri. Dan semakin banyak data jajak pendapat yang muncul bahwa mayoritas orang Amerika berpendapat bahwa kekhawatiran, pertanyaan, atau risiko AI saat ini lebih besar daripada manfaatnya.
Jadi menurut saya, dengan membanjirnya dana ke dalam politik melalui AI, kita mempunyai wewenang untuk menjadikan hal tersebut sebagai sumber tanda tanya sehubungan dengan politisi. Ketika orang Amerika akan memilih, mereka harus memeriksa dengan cermat apakah orang-orang yang mereka pilih, terutama jika mereka tidak kritis dan anti-regulasi, mengingat semua kekhawatiran ini, dibiayai oleh kepentingan khusus teknologi besar. Jadi menurut saya jika orang bisa membaca artikel seperti ini, mendengarkan podcast seperti ini, dan cukup peduli untuk berpikir kritiskeputusan mereka sebagai pemilih, ada peluang nyata untuk menghasilkan daerah pemilihan di Washington yang terdiri dari perwakilan yang mengawasi dan memaksakan pengawasan.
Itu mungkin salah satu hal paling optimis yang pernah saya dengar orang katakan tentang industri AI saat ini. Saya menghargainya. Saya terobsesi dengan jajak pendapat yang Anda bicarakan. Ada banyak sekali sekarang. Semuanya cukup konsisten, dan sepertinya semakin banyak anak muda, khususnya, yang terpapar AI, semakin mereka merasa tidak percaya dan marah terhadap hal tersebut. Itulah valensi dari semua jajak pendapat. Dan saya melihat hal itu, dan saya pikir, ya, politisi yang cerdas akan menentang hal itu. Mereka hanya akan berkata, “Kami akan meminta pertanggungjawaban perusahaan teknologi besar.”
Lalu saya berpikir tentang 20 tahun terakhir, seorang politisi mengatakan mereka akan meminta pertanggungjawaban teknologi besar, dan saya berjuang untuk menemukan momen ketika teknologi besar dimintai pertanggungjawaban. Satu-satunya hal yang membuat saya berpikir ini mungkin berbeda adalah, Anda sebenarnya harus membangun pusat data, dan Anda dapat memberikan suara menentangnya, dan Anda dapat mengajukan petisi menentangnya, dan Anda dapat memprotesnya.
Saya rasa ada seorang politisi yang rumahnya ditembaki karena memilih pusat data. Ketegangannya mencapai, saya menyebutnya, puncak demam. Anda telah menjelaskan betapa sempitnya Silicon Valley. Ini adalah ekosistem tertutup. Rasanya seperti mereka mengira bisa menguasai dunia. Mereka mengeluarkan banyak uang untuk politik, dan mereka menghadapi kenyataan bahwa masyarakat tidak menyukai produk tersebut, sehingga tidak memberikan mereka banyak perlindungan. Semakin sering mereka menggunakan produk tersebut, mereka semakin kecewa, dan para politisi mulai melihat adanya konsekuensi nyata dalam mendukung industri teknologi dibandingkan orang-orang yang mereka wakili.
Anda telah berbicara dengan banyak orang. Menurut Anda, apakah industri teknologi dapat memetik pelajaran yang ada di hadapan mereka?
Anda bilang mereka merasa bisa menjalankan dunia tanpa akuntabilitas. Saya bahkan tidak berpikir hal itu memerlukan kualifikasi “terasa seperti”. Maksud saya, jika Anda melihat bahasa yang digunakan Peter Thiel, itu eksplisit. Tentu saja, itu adalah contoh ekstrem. Dan Sam Altman, meskipun sampai batas tertentu dia dekat dan mendapat informasi tentang ideologi Thiel, adalah tipe orang yang sangat berbeda yang mungkin terdengar berbeda dan lebih terukur sampai batas tertentu.
Namun menurut saya ideologi yang lebih luas yang Anda dapatkan dari Thiel, yaitu pada dasarnya: Kita sudah selesai dengan demokrasi, kita tidak membutuhkannya lagi. Kami mempunyai begitu banyak sehingga kami hanya ingin membangun bunker kecil kami sendiri. Kita tidak lagi berurusan dengan keluarga Carnegie atau Rockefeller, karena mereka adalah orang-orang jahat, namun mereka merasa perlu berpartisipasi dalam kontrak sosial dan membangun sesuatu untuk masyarakat. Ada nihilisme nyata yang terjadi.
Dan menurut saya hal ini hanyalah sebuah spiral yang saling menguatkan dalam sejarah Amerika baru-baru ini, dimana para maestro dan perusahaan swasta memperoleh kekuasaan super pemerintahan sementara lembaga-lembaga demokrasi yang mungkin meminta pertanggungjawaban mereka dikosongkan. Saya tidak merasa optimis dengan gagasan bahwa orang-orang ini mungkin suatu hari akan bangun dan berpikir, “Hah, sebenarnya mungkin kita perlu berpartisipasi dalam masyarakat dan membantu membangun sesuatu untuk masyarakat.”
Maksud saya, Anda lihat seperti contoh mikrokosmik dari The Giving Pledge, di mana ada suatu momen di mana hal itu terkesan bersifat amal, dan momen itu kini telah berlalu dan bahkan diejek. Itu adalah sebuah masalah, masalah yang lebih luas yaitu kurangnya akuntabilitas yang menurut saya hanya dapat diselesaikan secara ekstrinsik. Hal ini harus dilakukan dengan memobilisasi pemilih dan menghidupkan kembali kekuatan pengawasan pemerintah. Dan Anda benar sekali jika mengatakan bahwa vektor utama yang memungkinkan orang mencapai tujuan tersebut adalah lokal. Hal ini berkaitan dengan lokasi infrastruktur yang sedang dibangun.
Anda menyebutkan beberapa ketegangan yang sangat panas seputar hal ini yang mengarah pada kekerasan dan ancaman, dan tentu saja, tidak ada seorang pun yang boleh melakukan kekerasan atau ancaman. Saya juga di sini bukan untuk memberikan rekomendasi kebijakan yang spesifik selain hanya menyajikan beberapa langkah kebijakan yang tampaknya mendasar dan berhasil diterapkan di tempat lain di dunia, bukan? Atau mereka yang pernah bekerja di sektor lain. Saya di sini bukan untuk mengatakan mana yang harus dijalankan dan bagaimana caranya.
Saya pikir sesuatu perlu dilakukan, dan itu perlu dilakukan secara eksternal, tidak hanya mempercayai perusahaan-perusahaan ini. Karena benarSaat ini kita dihadapkan pada situasi di mana perusahaan-perusahaan yang mengembangkan teknologi dan memiliki kemampuan terbaik untuk memahami risiko-risikonya, dan faktanya adalah perusahaan-perusahaan yang memperingatkan kita mengenai risiko-risiko tersebut, juga merupakan perusahaan-perusahaan yang hanya mempunyai insentif untuk bertindak cepat dan mengabaikan risiko-risiko tersebut. Dan Anda tidak punya apa pun untuk mengimbanginya. Jadi, apa pun reformasi yang dilakukan secara spesifik, pasti ada sesuatu yang menghalangi hal tersebut. Dan saya masih kembali pada optimisme bahwa masyarakat masih penting.
Saya biasanya percaya argumen Anda. Izinkan saya membuat satu argumen tandingan kecil yang menurut saya dapat saya ungkapkan. Hal lain yang bisa terjadi di luar kotak suara adalah gelembungnya pecah, bukan? Tidak semua perusahaan mencapai garis akhir, dan tidak ada pasar produk yang cocok untuk aplikasi AI konsumen. Dan sekali lagi, saya belum begitu memahaminya, namun saya adalah peninjau teknologi konsumen, dan mungkin saya memiliki standar yang lebih tinggi dibandingkan orang lain.
Ada kesesuaian pasar produk dalam dunia bisnis, bukan? Memiliki sekelompok agen AI yang menulis banyak perangkat lunak tampaknya menjadi pasar nyata untuk alat-alat ini. Dan Anda dapat membaca argumen dari perusahaan-perusahaan ini yang mengatakan, "Kami telah memecahkan pengkodean, dan itu berarti kami dapat menyelesaikan apa pun. Jika kami dapat membuat perangkat lunak, kami dapat menyelesaikan masalah apa pun."
Saya pikir ada batasan nyata pada hal-hal yang dapat dilakukan oleh perangkat lunak. Itu bagus dalam dunia bisnis. Perangkat lunak tidak dapat menyelesaikan setiap masalah dalam kenyataan, tetapi perangkat lunak harus mencapainya. Mereka harus menyelesaikan pekerjaannya, dan mungkin tidak semua orang berhasil mencapai garis finis. Dan terjadilah kehancuran, dan gelembung ini muncul, dan mungkin OpenAI atau Anthropic atau xAI, salah satu dari perusahaan ini gagal, dan semua investasi ini hilang.
Apakah menurut Anda hal itu akan memengaruhi hal ini? Sebenarnya izinkan saya menanyakan pertanyaan pertama terlebih dahulu. OpenAI berada tepat di titik puncak IPO. Ada banyak keraguan tentang Sam sebagai seorang pemimpin. Apakah menurut Anda mereka akan berhasil mencapai garis finis?
Saya tidak akan membuat prediksi, namun menurut saya Anda ingin menyampaikan satu poin penting, yaitu bahwa insentif pasar memang penting secara internal bagi Silicon Valley, dan dinamika gelembung yang ada saat ini akan mengganggu, sekali lagi, menurut para kritikus, persaingan menuju titik terendah dalam hal keselamatan berpotensi mengganggu.
Saya juga ingin menambahkan bahwa jika Anda melihat pada sejarah dimana terdapat serangkaian insentif pasar yang serupa dan tampaknya tidak dapat ditembus serta berpotensi menimbulkan dampak buruk bagi publik, maka terdapat dampak litigasi. Dan Anda melihatnya sebagai hal yang memprihatinkan akhir-akhir ini. Sam Altman minggu ini mendukung undang-undang yang akan melindungi perusahaan AI dari beberapa jenis tanggung jawab yang dihadapi OpenAI dalam tuntutan kematian yang salah, misalnya. Tentu saja, ada keinginan untuk mendapatkan perlindungan dari tanggung jawab.
Saya pikir pengadilan masih bisa menjadi mekanisme yang berarti, dan akan sangat menarik untuk melihat bagaimana tuntutan ini terbentuk. Anda sudah melihat, misalnya, gugatan class action, di mana saya dan banyak penulis lain yang saya kenal menjadi anggotanya, melawan Anthropic karena penggunaan buku-buku yang dilindungi hak cipta. Jika ada ahli hukum yang cerdas dan penggugat yang peduli, seperti yang telah kita lihat dalam kasus-kasus mulai dari perusahaan tembakau besar hingga perusahaan energi besar, Anda juga bisa mendapatkan pagar pembatas dan insentif untuk memperlambat, berhati-hati, atau melindungi masyarakat dengan cara tersebut.
Rasanya seluruh struktur biaya industri AI bergantung pada interpretasi penggunaan wajar yang sangat, sangat amal. Tidak cukup. Struktur biaya perusahaan-perusahaan ini bisa lepas kendali jika mereka harus membayar Anda dan orang lain yang pekerjaannya telah mereka ambil, tapi ini merepotkan untuk dipikirkan, jadi kami tidak memikirkannya. Di samping itu, semua produk ini kini merugi. Seperti hari ini, mereka semua mengalami kerugian. Mereka menghabiskan lebih banyak uang daripada yang bisa mereka hasilkan. Pada titik tertentu, mereka harus menekan tombolnya.
Sam adalah seorang pengusaha. Seperti yang telah Anda sebutkan beberapa kali, dia bukanlah seorang teknolog. Dia seorang pebisnis. Apakah menurut Anda dia siap untuk membalikkan keadaan dan berkata, “Kita akan menghasilkan satu dolar?” Karena ketika saya bertanya, “Apakah menurut Anda OpenAI akan berhasil?” Saat itulah mereka harus menghasilkan satu dolar. Dan sejauh ini, Sam menghasilkan seluruh uangnya dengan meminta uang kepada orang lain, bukannya membuat perusahaannya menghasilkan uang.
Itu adalah pertanyaan besar yang masih melekat di Silicon Valley, bagi investor, dan bagi masyarakat.Anda melihat beberapa pernyataan dan tindakan keluar dari OpenAI yang tampaknya menunjukkan semacam kepanikan tentang hal itu. Mematikan Sora, menutup beberapa proyek tambahan, mencoba memusatkan perhatian pada produk inti. Namun di sisi lain, Anda masih melihat, pada saat yang sama, banyak sekali misi yang merayap, bukan? Contoh kecilnya – yang jelas bukan inti bisnis mereka – adalah akuisisi TBPN.
Ngomong-ngomong, saat kami mencapai garis akhir dan pengecekan fakta, perusahaan yang menghadapi pengawasan jurnalistik semacam ini mendapatkan platform di mana mereka dapat memiliki kendali lebih langsung atas percakapan. Saya pikir ada banyak investor yang khawatir, berdasarkan percakapan yang saya lakukan, bahwa masalah dalam menjanjikan segalanya bagi semua orang juga menyebabkan kurangnya fokus pada model bisnis inti. Dan maksud saya, Anda lebih dekat dengan jenis peramalan dan pengamatan pasar daripada saya. Saya akan membiarkan Anda dan para pendengar menjadi hakim apakah menurut mereka OpenAI dapat membalikkan keadaan.
Ya, saya mengajukan pertanyaan karena Anda mendapat kutipan dari seorang eksekutif senior Microsoft, dan menyatakan bahwa, “Warisan Sam mungkin akan lebih mirip dengan Bernie Madoff atau Sam Bankman-Fried,” daripada Steve Jobs. Perbandingannya cukup bagus. Apa pendapat Anda tentang perbandingan itu?
Saya pikir itu adalah sebuah parafrase. Bagian Steve Jobs bukanlah bagian dari kutipan tersebut. Tapi ada semacam ketenangan yang menarik karena diungkapkan seperti, "Saya pikir ada kemungkinan kecil tapi nyata bahwa dia akhirnya menjadi penipu tingkat SBF atau Madoff." Artinya, menurut saya, Sam tidak dituduh melakukan jenis penipuan atau kejahatan tertentu, namun tingkat kepalsuan dan penipuan yang dilakukan Sam mungkin pada akhirnya akan diingat pada skala tersebut.
Ya, menurut saya yang paling mencolok dari kutipan itu, sejujurnya, adalah Anda menelepon Microsoft dan tidak mendapat tanggapan seperti, "Itu gila. Kami belum pernah mendengarnya." Anda mendapat banyak jawaban, “Ya, banyak orang di sini berpikir seperti itu” dan itu luar biasa. Dan menurut saya, hal ini berlaku untuk pertanyaan-pertanyaan penting dalam bisnis ini.
Salah satu investor mengatakan kepada saya, misalnya, mengingat sifat ini masih bertahan hingga bertahun-tahun setelah pemecatan" - dan ini juga merupakan pemikiran yang menarik - bahwa Sam belum tentu berada di urutan terbawah, seperti orang yang paling rendah dari yang terendah dalam hal orang-orang yang sama sekali tidak boleh membangun teknologi ini, berapapun nilainya. Ada beberapa orang yang mengatakan bahwa Elon Musk adalah orang tersebut. Namun sifat ini mungkin menempatkannya di urutan terbawah dari orang-orang yang harus membangun AGI, dan di bawah beberapa tokoh terkemuka lainnya di bidang ini.
Jadi menurut saya itu adalah penilaian yang menarik, dan menurut saya pemikiran seperti itulah yang Anda dapatkan dari para pragmatis sejati yang mungkin tidak terlalu memperhatikan masalah keselamatan. Mereka hanya berorientasi pada pertumbuhan, dan mereka berpikir bahwa OpenAI sekarang mempunyai masalah dengan Sam Altman.
Karya Microsoft sangat menarik. Perusahaan itu mengira mereka berada di puncak dunia. Bahwa mereka telah melakukan investasi ini dan mereka akan melampaui semua orang, terutama dan yang paling penting, Google, dan kembali mendapatkan perhatian konsumen. Tingkat di mana mereka merasa terbebani oleh petualangan ini - ini adalah perusahaan yang dijalankan dengan sangat bijaksana - menurut saya tidak bisa dilebih-lebihkan.
Anda menyebutkan karakter dan ciri kepribadian. Saya ingin mengakhiri di sini dengan pertanyaan dari pendengar kita. Saya katakan di acara kami yang lain, The Vergecast, bahwa saya akan berbicara dengan Anda, dan saya berkata, “Jika Anda memiliki pertanyaan untuk Ronan tentang cerita ini, beri tahu saya.” Jadi di sini kita punya satu yang menurut saya sangat sesuai dengan apa yang Anda gambarkan. Saya hanya akan membacakannya untuk Anda:
“Apa perbedaan pembenaran atas perilaku buruk dan tindakan kejam Altman dan para pemimpin AI lainnya dengan pembenaran yang didengar Ronan dari para pemimpin terkemuka lainnya di bidang politik dan media? Bukankah mereka semua membenarkan tindakan mereka dengan mengatakan bahwa inilah cara dunia berubah? Jika saya tidak melakukan ini, orang lain akan melakukannya?”
Ya, ada banyak hal yang terjadi. Menurut saya, apa yang membedakan AI adalah bahwa taruhan eksistensial yang begitu tinggi berarti pernyataan risikonya sangat ekstrem, bukan? Anda memiliki Sam Altmanberkata, “Ini bisa menjadi pencerahan bagi kita semua.” Dan juga, para kritikus mungkin berkata, mania yang dimaksud si penanya itu ekstrem, bukan?
Hal yang Sam tuduhkan kepada Elon, dalam catatannya, adalah bahwa mungkin dia ingin menyelamatkan umat manusia, tetapi hanya jika itu dia. Jenis komponen ego dari keinginan untuk menang, yang merupakan kerangka yang selalu digunakan Sam, dan ini adalah salah satu yang ada dalam buku sejarah, ini bisa mengubah segalanya. Oleh karena itu, bahkan di luar pola pikir “Anda harus memecahkan beberapa telur” di sebagian besar perusahaan di Silicon Valley, menurut saya, di benak beberapa tokoh terkemuka AI, ada rasionalisasi lengkap untuk setiap dan semua dampak buruk.
Dan lupakan memecahkan telur. Saya rasa banyak peneliti keselamatan yang mendasar akan mengatakan bahwa hal ini berpotensi menimbulkan risiko yang merugikan negara, menghancurkan dunia, dan merugikan jutaan orang yang pekerjaan dan keselamatannya tidak seimbang – itulah yang unik dari hal ini. Di situlah saya menutup, merenungkan isi laporan ini, dan benar-benar yakin bahwa ini lebih dari sekadar Sam Altman. Ini tentang industri yang tidak dibatasi dan masalah yang semakin meningkat karena Amerika tidak mampu membatasinya.
Ya. Ya, kami memiliki sedikit optimisme di sana, tapi menurut saya itu adalah hal yang baik untuk ditinggalkan.
[Tertawa] Berakhir dengan suram.
Tentu saja. Itu adalah kisah yang hebat, sungguh. Uji coba Musk-Altman akan segera dilakukan. Saya pikir kita akan belajar lebih banyak di sini. Saya kira saya ingin berbicara dengan Anda lagi. Ronan Farrow, terima kasih banyak telah menggunakan Decoder.
Terima kasih.
Pertanyaan atau komentar tentang episode ini? Hubungi kami di [email protected]. Kami benar-benar membaca setiap email!
