Hari ini kita berbicara tentang situasi yang berantakan dan bergerak cepat di Anthropic, pembuat Claude yang kini menghadapi perselisihan hukum yang sangat buruk dengan Pentagon.
Proses bolak-balik ini rumit, namun beberapa hari yang lalu, Pentagon telah menganggap Anthropic sebagai risiko rantai pasokan, dan Anthropic telah mengajukan gugatan yang menentang penetapan tersebut, dengan mengatakan bahwa pemerintah telah melanggar hak Amandemen Pertama dan Kelima dengan “berusaha menghancurkan nilai ekonomi yang diciptakan oleh salah satu perusahaan swasta dengan pertumbuhan tercepat di dunia.” Saya dapat memberi tahu Anda sekarang: Kami akan membicarakan liku-liku kasus tersebut di The Verge dan di sini di Decoder dalam beberapa bulan mendatang.
Namun hari ini saya ingin mengambil waktu sejenak dan menggali lebih dalam satu elemen penting dari situasi ini yang kurang mendapat perhatian karena hal ini sudah tidak terkendali: bagaimana pemerintah Amerika Serikat melakukan pengawasan, otoritas hukum yang mengizinkan pengawasan tersebut terjadi, dan mengapa Anthropic tidak percaya pada pemerintah yang mengatakan bahwa mereka akan mengikuti hukum ketika menggunakan AI untuk melakukan lebih banyak pengawasan.
Pelanggan Verge, jangan lupa Anda mendapatkan akses eksklusif ke Decoder bebas iklan di mana pun Anda mendapatkan podcast. Pergilah ke sini. Bukan pelanggan? Anda dapat mendaftar di sini.
Tamu saya hari ini adalah Mike Masnick, pendiri dan CEO Techdirt, situs web kebijakan teknologi yang sangat baik dan sudah berjalan lama. Mike telah menulis tentang jangkauan berlebihan pemerintah, privasi di era digital, dan topik terkait lainnya selama beberapa dekade. Dia ahli dalam menjelaskan bagaimana internet dan pengawasan negara berkembang dan saling berhubungan.
Anda tahu, menurut undang-undang, ada hal yang bisa dilakukan pemerintah dalam hal pengawasan terhadap kita, dan kemudian apa yang ingin dilakukan pemerintah. Dan yang paling penting, ada hal-hal yang menurut pemerintah dapat dilakukan oleh undang-undang tersebut, yang sering kali justru bertolak belakang dengan apa yang dipikirkan oleh orang normal yang hanya membaca undang-undang tersebut.
Anda akan mendengar Mike menjelaskan dengan sangat rinci dalam episode ini bahwa kita tidak dapat – dan tidak seharusnya – mempercayai kata-kata pemerintah AS dalam hal pengawasan. Ada terlalu banyak sejarah dimana pengacara pemerintah memutarbalikkan penafsiran kata-kata sederhana seperti “target” untuk memperluas pengawasan dengan cara yang rumit – cara yang biasanya hanya menimbulkan kekhawatiran di kalangan hukum, dan hanya muncul ketika ada kontroversi besar seperti pengungkapan rahasia NSA yang dilakukan oleh pengungkap fakta (whistleblower) Ed Snowden lebih dari satu dekade yang lalu.
Namun tidak ada hal yang halus atau canggih dalam pembuatan kebijakan di era Trump – dan dengan Anthropic, kita melakukan debat publik yang sangat keras mengenai teknologi dan pengawasan secara real-time, di internet, dalam postingan blog dan kata-kata kasar, serta melalui konferensi pers. Ada sisi positif dan negatifnya, tapi untuk memahami semuanya, Anda benar-benar harus mengetahui sejarahnya.
Itulah yang ingin saya dan Mike jelaskan dalam episode ini — apa pun pandangan Anda tentang AI dan pemerintahan, episode ini akan memperjelas bahwa kedua belah pihak telah membiarkan negara pengawasan menjadi semakin besar dari waktu ke waktu. Kini, kita berada di titik puncak ekspansi terbesar dalam hal AI.
Oke: Pendiri dan CEO Techdirt Mike Masnick di Anthropic, Pentagon, dan pengawasan AI. Ini dia.
Wawancara ini telah sedikit diedit agar panjang dan jelasnya.
Mike Masnick, Anda adalah pendiri dan CEO Techdirt. Selamat datang di Dekoder.
Saya senang berada di sini.
Saya senang Anda bergabung. Saya baru saja mengatakan saya terkejut karena Anda belum pernah tampil di acara itu sebelumnya. Anda dan saya telah lama menulis dan memposting satu sama lain. Banyak cakupan polis The Verge berhutang pada apa yang telah Anda lakukan di Techdirt dan kemudian apa yang terjadi dengan Anthropic sangat rumit, tetapi mencakup begitu banyak tema yang telah Anda liput begitu lama. Saya senang Anda akhirnya sampai di sini.
Ini adalah topik yang rumit dan rumit, tapi saya bersemangat untuk mendalaminya.
Yang ingin saya fokuskan bersama Anda bukanlah rincian apakah Anthropic akan menandatangani kontrak dengan pemerintah atau apakah OpenAI akan mendapatkan kontrak tersebut. Sebaliknya, saya yakin antara saat kami merekam ini dan saat orang-orang mendengarkannya, akan ada lebih banyak tweet dan lebih banyak hal yang berbeda dari sebelumnya.
Yang ingin saya fokuskan hanyalah satu dari dua garis merah yang sebenarnya telah digariskan oleh Anthropic. Salah satunya adalahsenjata otonom, yang merupakan tingkat kerumitan tersendiri. Undang-undang di sana sedikit lebih baru, apakah senjata tersebut ada atau sudah digunakan oleh Rusia dalam Perang Ukraina.
Ada banyak ide di sini yang ingin saya kesampingkan karena menurut saya itu akan menjadi lebih fokus pada jadwalnya sendiri. Jalur merah lain yang ingin saya habiskan banyak waktunya adalah pengawasan massal. Dan ada cukup banyak undang-undang di sini tentang pengawasan massal. Ada banyak sejarah, banyak sejarah kontroversial. Keseluruhan karakter Edward Snowden ada karena kontroversi seputar pengawasan massal.
Semuanya bermuara pada—saya pikir Andalah yang memposting ini—Badan Keamanan Nasional (NSA), yang merupakan bagian dari Departemen Pertahanan, yang sekarang harus kita sebut Departemen Perang karena alasan tertentu.
[Tertawa] Kami tidak perlu melakukan apa pun.
[Tertawa] Kami tidak. Itu benar di sini, di Amerika. Kami tidak perlu melakukan apa pun. Namun NSA pada dasarnya telah mendefinisikan ulang arti dari banyak kata dalam bahasa Inggris sehari-hari menjadi, “Kita bisa melakukan pengawasan.” Dan sering kali terjadi skandal ketika orang mengetahui bahwa mereka hanya melakukan pengawasan. Jadi, atur saja tahapannya di sana, dan saya tidak ingin mengulang kembali semuanya, tapi sudah cukup lama pola ini terulang kembali.
Hal ini tergantung pada seberapa dalam Anda ingin mendalaminya, namun versi singkatnya jelas bahwa di dunia pasca 9/11, AS mengesahkan Undang-Undang Patriot, yang memberikan kemampuan bagi pemerintah untuk melakukan pengawasan, yang seharusnya melindungi kita dari ancaman teroris di masa depan. Seiring waktu, hal itu ditafsirkan dengan cara yang menarik dan ada beberapa batasannya. Kita juga mempunyai pengadilan FISA, yang merupakan pengadilan khusus yang seharusnya meninjau komunitas intelijen dan kegiatan mereka, namun secara tradisional merupakan pengadilan yang berat sebelah. Hanya satu pihak yang dapat mengajukan kasusnya ke pengadilan tersebut dan semuanya dilakukan secara rahasia.
Ada banyak hal yang tidak diketahui. Dan kemudian ada satu bagian lain dari semua ini, yang berasal dari Ronald Reagan, yaitu Perintah Eksekutif 12333, yang dimaksudkan untuk menetapkan aturan-aturan dalam pengumpulan intelijen.
Jadi, Anda mempunyai tiga perangkat undang-undang ini—ya, beberapa perangkat undang-undang—dan sebuah perintah eksekutif yang bagi publik, bagian-bagian yang dapat Anda baca, tampaknya menyatakan hal-hal tertentu tentang apa yang dapat dilakukan oleh pemerintah kita dan khususnya NSA dalam hal pengawasan. Ketika kita membaca kamus bahasa Inggris yang sederhana, yang mungkin sudah Anda dan saya pahami, kita akan yakin bahwa kemampuan NSA untuk mengawasi warga Amerika sangat terbatas, bahkan sampai pada titik di mana mereka seharusnya melakukan hal tersebut, jika mereka menyadari bahwa mereka sedang mengawasi orang Amerika, maka mereka harus segera berhenti dan melakukan pelanggaran serta menghapus data dan semua hal lainnya.
Ada desas-desus selama beberapa waktu bahwa hal itu tidak benar-benar terjadi dan ada petunjuk, dan khususnya Senator Ron Wyden sangat vokal saat ia pergi ke Senat dan berkata, “Ada sesuatu yang tidak beres di sini dan saya tidak bisa memberi tahu Anda apa,” atau dalam dengar pendapat dia akan bertanya kepada pejabat intelijen, “Apakah Anda atau tidak mengumpulkan data massal tentang orang Amerika?”
Para pejabat tersebut akan membelokkan atau dalam beberapa kasus berbohong. Saya yakin ini adalah salah satu sidang pada tahun 2012 dengan James Clapper, yang saat itu menjabat sebagai Direktur Intelijen Nasional, di mana dia ditanya secara langsung mengenai hal ini. Dan dia pada dasarnya berkata, “Tidak, kami tidak mengumpulkan data tentang orang Amerika.” Hal itulah yang menginspirasi Ed Snowden untuk membocorkan data tersebut, laporan yang dia bocorkan juga kepada Glenn Greenwald, Barton Gellman, dan Laura Poitras. Dari semua itu, apa yang kami mulai temukan adalah bahwa NSA mempunyai kamusnya sendiri yang agak berbeda dari kamus yang Anda dan saya gunakan, sehingga mereka dapat menafsirkan kata-kata dengan cara yang berbeda dari arti sebenarnya dalam bahasa Inggris, termasuk kata-kata seperti “target,” yang terasa seperti kata kunci. Pemahaman yang luas tentang hal ini adalah, secara teori, mereka seharusnya hanya menargetkan orang-orang yang bukan warga AS, menurut saya itulah ungkapannya.
Namun penafsirannya dari waktu ke waktu adalah bahwa apa pun yang menyebutkan orang tersebut, apa pun yang berhubungan dengan orang asing kini dianggap wajar, bahkan jika itu adalah komunikasi dari orang asing.orang Amerika. Jadi, jika Anda dan saya saling mengirim pesan dan menyebut orang asing, maka itu adalah hal yang wajar bagi NSA untuk mengumpulkan, menyimpan, dan menyimpannya.
Ada bagian kedua dari ini. Saya menyebutkan Perintah Eksekutif pertama 12333 dari Ronald Reagan, yang, seiring dengan perubahan teknologi dari waktu ke waktu dan berkembangnya internet, secara efektif memungkinkan NSA untuk memanfaatkan komunikasi asing, namun hal tersebut mencakup komunikasi apa pun yang mungkin telah meninggalkan AS dalam perjalanan ke suatu tempat. Jadi jika saya mengirim SMS kepada Anda dan sebuah pesan datang dari saya di California melalui kabel serat optik yang kebetulan meninggalkan AS, NSA dapat menyadap bagian tersebut setelah berada di luar AS dan mengumpulkan informasi tersebut, meskipun informasi tersebut hanya dikirimkan kepada Anda di AS.
NSA kemudian dapat menyimpan informasi tersebut bahkan jika informasi tersebut berasal dari warga Amerika, dan mereka dapat melakukan pencarian spesifik mengenai informasi tersebut di kemudian hari, kadang-kadang disebut sebagai “pencarian pintu belakang.” Mereka mengumpulkan informasi yang kami yakini tidak seharusnya mereka kumpulkan, namun mereka dapat menyimpannya. Dan mereka berjanji, mereka bersumpah, bahwa mereka akan merahasiakannya, tapi jika mereka melakukan pencarian dan menemukan bahwa Anda atau saya menyebut orang asing, maka tiba-tiba wajar saja bagi mereka untuk melakukan apa pun yang mereka inginkan terhadapnya.
Secara total, hal ini telah berubah menjadi dunia di mana pemerintah federal pada dasarnya dapat mengumpulkan informasi apa pun yang terjadi di luar AS. Sekalipun itu sepenuhnya antara dua orang Amerika, jika mereka menyebut atau bahkan memberi isyarat pada seseorang yang bukan orang Amerika, tiba-tiba hal itu dianggap wajar. Dan dari situ kita mendapatkan apa yang tampaknya merupakan bentuk pengawasan massal terhadap warga AS oleh NSA yang mengklaim dan secara terbuka menyatakan bahwa mereka tidak memata-matai warga AS.
Bagaimana kita sampai pada titik ini? Ini adalah langkah kecil tambahan. Anda menyebut James Clapper pada tahun 2012, itu adalah pemerintahan Obama. Anda menyebut Ronald Reagan, itu tahun 1980-an. Kita akan menghadapi Partai Demokrat dan Republik di sini.
Perang melawan teror terjadi pada pemerintahan George W. Bush, dan 9/11 serta Patriot Act terjadi pada pemerintahan George W. Bush. Ada banyak hal buruk yang terjadi di bawah kepemimpinan presiden kedua partai, di bawah kongres kedua partai. Bagaimana ini bisa terjadi?
Bentuk paling sederhananya adalah tidak seorang pun, dan tentunya tidak ada presiden, yang ingin menjadi presiden pada saat terjadi serangan teroris besar-besaran, karena hal itu membuat mereka terlihat buruk. Jelas mereka juga ingin melindungi orang Amerika, bukan? Itu bagian dari pekerjaan mereka. Jika Anda memiliki komunitas intelijen yang pada dasarnya beroperasi dalam kegelapan karena itulah yang dilakukan komunitas intelijen dan mereka terus mendatangi Anda dan berkata, “Hei, jika kita bisa mendapatkan akses terhadap informasi ini, itu akan sangat membantu dalam mencegah serangan teroris.”
Mungkin ada kasus dimana hal tersebut benar, dimana komunitas intelijen dapat menggunakan informasi ini dengan cara yang baik. Namun secara teori, kita juga merupakan masyarakat hukum dengan Konstitusi AS yang harus kita patuhi. Namun hal ini memungkinkan adanya fakta bahwa pemerintahan demi pemerintahan, sekali lagi, Partai Republik dan Demokrat, memiliki pengacara yang sangat cerdas dan akan memeriksa dan berkata, “Baiklah, jika kita mengambil sikap seperti ini atau kita menyatakan seperti ini atau kita menafsirkannya, dengan cara itulah kita bisa mendapatkan apa yang kita inginkan dan tidak secara teknis melanggar hukum atau secara teknis tidak melanggar Amandemen Keempat.”
Asumsinya selalu, “Kita bisa saja membengkokkan hukum atau membengkokkan penafsiran kita terhadap hukum dan tidak akan ada orang yang benar-benar melihat hal ini, atau tidak ada orang yang peduli akan melihat hal ini, dan oleh karena itu kita akan lolos begitu saja.”
Ada dua hal yang benar-benar menarik perhatian saya. Pertama, Anda dan saya sama-sama membaca banyak keputusan pengadilan — keputusan pengadilan banding dan keputusan Mahkamah Agung. Dan ada perdebatan di Mahkamah Agung kita tentang bagaimana menafsirkan kata-kata dalam undang-undang dan undang-undang kita secara harfiah.
Saya tidak akan membahasnya terlalu jauh, namun secara umum saya akan mengatakan bahwa gagasan bahwa Anda sebaiknya membaca kata-kata di halaman tersebut dan melakukan apa yang tertulis di dalamnya merupakan jenis penafsiran undang-undang yang dominan di Amerika Serikat. Kiri atau kanan, keduanya mengatakannya. Mereka berdebat tentang beberapa poin penting yang sangat esoteris tentang apa arti sebenarnya. Tapi Anda seharusnya bisa membaca kata-kata ini dan melakukan apa yang tertulis di dalamnya, itu tidak bisa diperebutkan, bukan?
Kami setidaknya telah mencapai tahap pertama dari apa yang mungkin Anda lakukansebut tekstualisme. Bagaimana pengacara dari kedua pemerintahan bisa menjauhi cara pengambilan keputusan hukum yang dominan di negara kita? Hakim dari kedua belah pihak sepakat bahwa hal tersebut setidaknya merupakan langkah pertama.
Saya berharap saya tahu jawaban pastinya, tapi menurut saya itu adalah alasan yang termotivasi, bukan? Sebagai seorang pengacara, Anda berada di sana untuk membela klien Anda dan keberhasilan – jika Anda bisa menyebutnya sukses – sistem hukum kita cenderung didasarkan pada adanya situasi permusuhan di mana Anda memiliki pihak-pihak yang berbeda yang memperdebatkan hal-hal ini, di mana peran juri adalah untuk mempersempit dan mencari tahu pihak mana yang benar.
Salah satu masalah dengan komunitas intelijen dan pengaturannya adalah bahwa Anda tidak menghadapi situasi yang bermusuhan. Hal ini memudahkan satu pihak untuk membenarkan argumen yang mereka buat karena tidak ada yang benar-benar menolaknya. Anda menggabungkan hal ini dengan ketakutan yang berlebihan terhadap serangan teroris lainnya, apa pun yang berkaitan dengan keamanan nasional, dan bahkan ketika Anda menghadapi situasi di mana Anda memiliki pengadilan FISA — maksud saya pengadilan FISA agak terkenal karena efektif menjadi stempel karet selama bertahun-tahun.
Saya lupa angka pastinya, tapi sepertinya lebih dari 99 persen permohonan yang diajukan ke pengadilan FISA untuk memungkinkan pengawasan terhadap situasi tertentu dikabulkan, dan mudah untuk mengatakan bahwa 99 persen jelas terlalu banyak. Tentu saja mereka yang mengajukan tuntutan ke pengadilan, mereka memilih-milih. Sebagian besar, mereka tidak mengajukan klaim yang benar-benar gila. Namun tanpa adanya aspek permusuhan dan dengan sekelompok orang yang memiliki motivasi kuat yang berpikir, “Kita perlu melakukan ini,” atau diberi tahu oleh pemerintah, “Kita perlu melakukan ini,” mereka akan menemukan cara untuk melakukannya. Dan di situlah Anda berakhir seiring berjalannya waktu.
Pernahkah ada orang yang terlibat dalam proses ini yang pernah terbangun dan berkata pada diri mereka sendiri, “Wah, kita telah berhasil mendefinisikan ulang kata ‘target’ menjadi apa pun yang kita inginkan”?
[Tertawa] Jelas ada Ed Snowden, yang membocorkan banyak dokumen. Ada John Napier Tye, yang menulis artikel untuk The Washington Post pada tahun 2014, yang mengungkapkan interpretasi Perintah Eksekutif 12333, dan mengatakan bahwa itulah masalah sebenarnya yang perlu diperhatikan. Ada orang-orang lain yang telah angkat bicara mengenai hal ini, namun sebagian besar, orang-orang yang terlibat dalam pemerintahan yang menangani isu-isu komunitas intelijen percaya pada pandangan komunitas intelijen, yang menyatakan bahwa tujuan utamanya adalah untuk melindungi negara dari sesuatu yang buruk. Cara terbaik untuk melakukannya adalah dengan mendapatkan informasi sebanyak mungkin.
Sangat mudah untuk bersimpati pada argumen bahwa, ya, memiliki lebih banyak informasi memungkinkan mereka mengetahui sesuatu lebih awal atau menemukan sesuatu yang penting, namun, satu hal, hal itu mungkin tidak benar. Mendapatkan terlalu banyak informasi mungkin sama buruknya dengan terlalu sedikit informasi karena sering kali dapat menyembunyikan informasi yang sebenarnya berguna, informasi yang sebenarnya Anda perlukan untuk menentukan sesuatu.
Tapi juga, kita punya AS. Konstitusi adalah prioritas utama dan kami mempunyai alasan mengapa, secara teori, kami tidak boleh mengizinkan pengawasan massal tanpa kemungkinan penyebabnya. Sebagai negara yang percaya pada supremasi hukum, kita harus mampu mewujudkan hal tersebut, dan ketika semua hal ini terjadi dalam kegelapan, Anda akan cenderung melupakan hal tersebut.
Ini membawa saya ke Antropis. Anthropic pada dasarnya adalah perusahaan enterprise. Mereka baik dalam pemerintahan, mereka telah membangun kekuatan mereka, mereka dikelola oleh orang-orang yang sangat ahli dalam beberapa hal. Mereka jelas melihat Pete Hegseth berkata, "Kami ingin semua penggunaan yang sah," dan mereka menurunkan dua tingkat penafsiran dan berkata, "Yah, keyakinan literal Anda adalah bahwa kata-kata ini tidak berarti apa yang mereka katakan. Jadi 'semua penggunaan yang sah' terlalu besar, dan kami ingin menempatkan beberapa batasan khususnya dalam pengawasan massal."
Sekali lagi, saya akan mengelompokkan senjata otonom, yang merupakan garis merah lainnya, namun khususnya mengenai pengawasan massal, Dario Amodei mengatakan, "Kita bisa melakukan terlalu banyak. Ini terlalu berbahaya. Ini merupakan pelanggaran Amandemen Keempat."
Ketegangan yang terjadi adalah “Anda mengatakan bahwa Anda akan mematuhi undang-undang yang menyatakan satu hal, dan sekarang, setelah sekian lama, undang-undang tersebut mempunyai arti yang sangat berbeda dan kami tidak ingin menjadi bagian dari hal tersebut.” Itu adalahbertarung. Saya hanya ingin membandingkannya dengan Sam Altman, yang langsung mengatakan, “Kami akan melakukan semua penggunaan yang sah,” dan kemudian memposting pesan panjang seperti, “Ini semua hukum yang akan kami patuhi.”
Sepertinya Altman tidak tahu bagaimana NSA menafsirkan ulang hal-hal ini dan jadi ikut campur. Dan dia mulai membatalkannya - bahkan saat kami merekam, saya yakin ada lebih banyak tweet dan posisi semua orang telah berubah. Tapi Altman telah berjalan kembali perlahan-lahan, tapi sepertinya OpenAI terikat untuk membaca undang-undang di wajah mereka dan mempercayai apa yang mereka katakan. Apakah itu juga penafsiran Anda terhadap suatu peristiwa?
Ada dua kemungkinan, dan itu salah satunya. Salah satunya adalah dia dimainkan dengan cara yang sama seperti yang dimainkan publik selama bertahun-tahun. Teori alternatifnya, dan saya tidak tahu mana yang benar, adalah bahwa dia atau beberapa pengacara di OpenAI – yang menurut saya sangat kompeten dan berpengetahuan luas – mengetahui hal ini, namun berpikir bahwa mereka dapat memainkan permainan yang sama seperti yang dilakukan NSA selama beberapa dekade, yaitu selama mereka mengatakan hal-hal ini dan kemudian mengucapkan kata-katanya, namun mereka tidak mengungkapkan interpretasi sebenarnya, bahwa mereka juga bisa lolos. Jadi Sam mengeluarkan pernyataan yang membuatnya tampak seperti “Kami memiliki garis merah yang sama persis dengan Anthropic, dan pemerintah sangat baik dalam hal itu.”
Faktanya, menurut saya Sam Altman mengatakan bahwa Anthropic memiliki dua garis merah dan OpenAI memiliki tiga garis merah, dan pemerintah baik-baik saja dengan hal itu, dan hal itu membuat banyak orang menggaruk-garuk kepala. Namun menurut saya, kemungkinan besar Sam Altman dan siapa pun di sekitarnya tidak memahami cara kerja hal-hal ini dalam praktiknya, atau mereka memahaminya, dan mereka hanya berasumsi bahwa masyarakat tidak akan mengetahuinya sehingga mereka bisa saja lolos begitu saja.
Hal lain yang terlintas dalam pikiran - sekali lagi, AI adalah hal baru dan sangat menggoda untuk menggunakan teknologi baru karena ini adalah masalah kesan pertama. “Belum pernah ada orang yang memikirkan hal ini sebelumnya,” namun kenyataannya semua orang sudah memikirkan hal ini sejak lama. Mungkin hal yang baru di sini bukanlah AI, namun pemerintahan Trump yang kedua, alih-alih melakukan serangkaian pengacara yang mungkin tidak akan pernah dibaca oleh siapa pun untuk membenarkan tindakan mereka ke pengadilan rahasia yang tidak diperhatikan oleh siapa pun, malah tidak sehalus itu.
Mereka tidak secanggih itu dan mereka hanya mengatakan bahwa mereka akan memata-matai semua orang sepanjang waktu. Mereka hanya mengumumkan niat mereka sedemikian rupa sehingga mungkin semua pemerintahan harus mengumumkan niat mereka dan melihat di mana dampaknya.
Tapi saya melihat fakta bahwa ada Ed Snowden di sini, di New York City. AT&T menjalankan gedung yang semua orang tahu adalah gedung NSA. Itu hanya sebuah bangunan raksasa, dan kita harus berpura-pura bahwa itu bukan pusat pengawasan NSA, tapi itu ada di sana. Ini sangat besar. Tampaknya semua itu tidak membuahkan hasil. Semua pengungkapan ini, kebocoran ini, kami belum mundur.
Faktanya, angka ini semakin meningkat seiring dengan semakin banyaknya kehidupan kita yang serba digital. Dan mungkin pemerintahan Trump selalu menjadi instrumen yang blak-blakan, hal itulah yang mungkin menjadi penyebab terjadinya perhitungan tersebut. Apakah Anda melihat hal itu terjadi?
Ada beberapa hal berbeda di sana, dan tidak sepenuhnya benar bahwa kami tidak mundur sama sekali. Pengungkapan Snowden memang menyebabkan beberapa perubahan dalam cara terjadinya hal ini. Dan sekarang ada - Saya lupa apa sebutannya, tapi mereka seperti orang-orang sipil di pengadilan FISA yang akan bertindak sebagai pihak lawan dalam isu-isu tertentu.
Dan kita telah melihat beberapa pihak berwenang membatasi hal-hal tertentu, dan mereka sering meminta otorisasi ulang, dan para aktivis sangat agresif dalam melakukan perlawanan dan mencoba untuk menerapkan lebih banyak batasan. Namun untuk pertanyaan yang lebih besar, menurut saya ada dua hal yang berbeda. Anda setengah benar bahwa pemerintahan ini tidak halus dan hanya mengatakan dengan lantang hal-hal yang tidak seharusnya dilakukan.
"Kami sedang berperang dengan Iran, kami sedang melakukannya, hal itu sedang terjadi. Kami bahkan tidak akan mencoba melakukan tarian tersebut."
Dengan cara yang tidak dilakukan oleh semua pemerintahan sebelumnya. Namun mereka belum mengatakannya secara langsungpengawasan, terutama pengawasan terhadap orang Amerika. Ada petunjuk mengenai hal itu, namun belum ada pernyataan yang kuat mengenai hal itu. Separuh lainnya berkaitan dengan posisi Anthropic dan pandangan umum tentang AI sebagai teknologi yang mungkin ada, di mana Anthropic selalu menampilkan dirinya sebagai, “Kami adalah orang-orang baik yang penuh perhatian,” dan terlepas dari apakah Anda percaya atau tidak, hal itu tidak penting. Mereka mempunyai reputasi sebagai berikut: “Kami berusaha melakukan hal ini dengan cara yang aman, menghormati kemanusiaan, dan memperhatikan semua hal ini.” Jadi ketika Anda mengalami bentrokan itu, di situlah perjuangan muncul.
Anda memiliki pemerintahan Trump yang hanya ingin melakukan apa pun yang mereka ingin lakukan, dan mereka tidak terlalu cerdik dalam hal itu. Lalu ada Anthropic, yang deskripsi dirinya dan kepribadian publiknya selalu seperti, “Kami bijaksana dan kami menghormati kemanusiaan dan hak-hak dan semua hal ini.” Mungkin di sinilah perselisihan terjadi, karena Anthropic, sebagaimana telah dijelaskan, telah bekerja sama dengan Departemen Pertahanan selama beberapa waktu dan memiliki banyak kontrak lain dengan pemerintah yang telah digunakannya. Itu tidak menjadi masalah.
Hanya di bidang-bidang tertentu saja, ketika pemerintah sedang berupaya untuk memperluas kontrak yang dimilikinya, pimpinan senior Anthropic mulai berkata, “Tunggu, kita harus memastikan bahwa kita tidak melewati garis merah yang berpotensi merusak reputasi kita sebagai penyedia AI yang bijaksana dan aman.”
Saya ingin bertanya secara singkat tentang pengawasan secara umum, dan khususnya kekhawatiran Amandemen Keempat Anthropic. Amandemen Keempat mengatakan pemerintah tidak dapat menggeledah Anda secara tidak wajar. Cara terbaik untuk memahami Amandemen Keempat adalah dengan mendengarkan “99 Problems” oleh Jay-Z. Jadi jika Anda perlu istirahat dan mendengarkan “99 Masalah”, itu bagus. Semuanya ada di sana. Saya mendengarkannya ketika saya masih di sekolah hukum dan itu sangat masuk akal.
Namun pemerintah pada umumnya memerlukan surat perintah untuk menggeledah Anda. Dan seiring dengan semakin banyaknya kehidupan Anda yang online, ada banyak sekali pengecualian untuk hal ini. Namun idenya adalah mereka masih memerlukan surat perintah online. Argumen Anthropic adalah, "AI tidak akan pernah lelah. Ia dapat mencari segala sesuatu sepanjang waktu. Artinya, kami hanya akan melakukan pengawasan utama."
Namun bahkan sebelum AI muncul, gagasan bahwa pemerintah dapat menggeledah semua milik Anda sudah ada, gagasan bahwa pemerintah tidak memerlukan surat perintah untuk menggeledah semua barang Anda sudah ada. Gagasan bahwa jika ada data Anda yang keluar negeri untuk sesaat, pemerintah akan menyadapnya di sana,
Ketika saya masih kuliah, sekitar masa Patriot Act, perdebatannya adalah bahwa mereka tidak akan mencari data Anda yang sebenarnya, tetapi mereka bisa mendapatkan metadata dan metadatanya saja. Data tentang data Anda akan cukup untuk menemukan lokasi Anda secara tepat setiap saat. Dan itu pun masih terlalu jauh. Dan kita telah melakukan tarian tentang apa yang bisa dikumpulkan oleh pemerintah? Apa yang diperbolehkan? Apa yang mereka butuhkan untuk menjaga kita semua tetap aman dan apa yang berlebihan? Garis-garis itu telah berpindah.
Jadi, jelaskan secara singkat kekhawatiran umum mengenai pengawasan pada skala dan kondisi kita saat ini. Sebelum situasi AI membuat segalanya menjadi lebih rumit secara eksponensial.
Di sini saya harus memperkenalkan konsep lain yang mungkin seharusnya disebutkan sebelumnya, namun penting, yang disebut “doktrin pihak ketiga.” Gagasan dalam Amandemen Keempat adalah bahwa pemerintah tidak dapat menggeledah Anda atau barang-barang Anda tanpa surat perintah dan pemerintah tidak dapat memperoleh surat perintah tanpa kemungkinan penyebab bahwa Anda telah melakukan suatu kejahatan. Namun ada konsep yang muncul beberapa dekade lalu yang disebut doktrin pihak ketiga, yang mengatakan bahwa hal tersebut tidak selalu berlaku, atau tidak berlaku sama sekali, pada hal-hal yang bukan milik Anda, meskipun itu adalah data Anda.
Versi paling awal dan paling jelas dari hal ini adalah catatan telepon yang dimiliki perusahaan telepon tentang siapa yang Anda hubungi. Perusahaan telepon tidak merekam panggilan Anda, tetapi mereka merekam. Jika saya menelepon Anda, akan ada catatan di perusahaan telepon yang mengatakan, “Mike menelepon Nilay.” Dan apa yang telah ditentukan oleh banyak pengadilan adalah bahwa pemerintah dapat pergi dan meminta hal tersebut, dan mereka tidak memerlukan surat perintah untuk melakukan hal tersebut karena ini bukan penggeledahan.data Anda, itu adalah pihak ketiga dan mereka dapat setuju sebagai pihak ketiga untuk menyerahkan data tersebut begitu saja.
Namun kasus-kasus tersebut terjadi pada tahun 1960-an dan 70-an, ketika pemerintah ditetapkan dapat mengakses data tersebut tanpa surat perintah, ketika tidak banyak data pihak ketiga yang tersedia. Munculnya komputer dan internet mengubah hal itu. Sekarang, semuanya adalah data pihak ketiga. Segala sesuatu yang kita lakukan dikumpulkan oleh suatu perusahaan di suatu tempat dan dicatat. Jadi pada dasarnya setiap data tentang Anda, di mana Anda berada, dengan siapa Anda berbicara, dengan siapa Anda berinteraksi, apa yang Anda katakan, apa yang Anda lakukan, semua itu sebagian besar disimpan oleh pihak ketiga saat ini. Jadi doktrin pihak ketiga telah menelan seluruh Amandemen Keempat sampai batas tertentu, dimana apa pun tentang Anda yang dimiliki orang lain, memiliki standar yang jauh lebih rendah mengenai apa yang dapat dilakukan pemerintah untuk memintanya.
Untuk lebih spesifiknya, ini berarti ketika data saya ada di iCloud, pemerintah dapat menghubungi Apple dan mengeluarkan data saya dari iCloud tanpa pernah memberi tahu saya?
Mereka dapat memintanya. Mereka dapat dengan mudah memintanya tanpa surat perintah. Kemudian perusahaan mempunyai haknya sendiri dan dapat menentukan apa yang ingin mereka lakukan terhadap permintaan tersebut. Mereka bisa menyerah begitu saja. Mereka bisa, seperti kebanyakan dari mereka, jika permintaannya serius, menolak permintaan begitu saja atau mereka bisa memberi tahu Anda dan mereka bisa mengatakan — dan inilah yang akan dilakukan sebagian besar dari mereka — mereka akan memberi tahu Anda dan berkata, "Pemerintah meminta sebagian data Anda. Anda bisa pergi ke pengadilan dan mencoba memblokirnya." Jika tidak, mereka akan menyerahkan data Anda dalam tujuh hari atau berapa pun itu.
Sekali lagi, itu tergantung. Jika ini adalah investigasi kriminal, mungkin ada semacam perintah pembungkaman di mana perusahaan tidak boleh memberi tahu Anda. Ada berbagai macam situasi, namun kebanyakan dari situasi tersebut melibatkan tingkat perlindungan yang kurang dari yang diperlukan oleh Amandemen Keempat jika itu adalah data atau informasi apa pun atau apa pun di rumah Anda sendiri.
Jumlah data yang Anda miliki di server cloud orang lain sangat besar, bukan? Setiap hal yang biasa Anda lakukan di internet sekarang dicadangkan dengan cara tertentu atau direkam dengan cara tertentu di server orang lain. Pemerintah telah menemukan cara ini untuk menyiasati Amandemen Keempat dan berkata, "Yah, itu sebenarnya bukan milik Anda. Ini milik Amazon. Kita bisa bicara dengan Amazon," dan Amazon harus berdiri di tengah-tengah proses tersebut dan berkata, "Kami telah menemukan proses lain untuk melindungi masyarakat."
Saya melihatnya—dan ketika saya meliput kasus doktrin pihak ketiga pertama yang mencakup layanan cloud dan pemerintah terus menang, pada saat itulah saya berubah menjadi Joker. Saya seperti, “Semua hal yang kami anggap sebagai tekstualisme dan [bacaan] biasa, semua ini tidak berarti apa-apa karena kami hanya melakukan upaya ke pintu belakang menggunakan hukum kuno ini ke dalam data semua orang.”
Lalu saya melihat ini dan melihat Anthropic dan saya berkata, "Ini adalah pola yang sama." Ini adalah perusahaan swasta yang mengatakan, "Oke, kami memahami posisi Anda. Kami memahami bahwa Anda telah menafsirkan ulang undang-undang dengan maksud seperti ini, dan kami akan melakukan proses antara Anda, alat kami, dan data orang Amerika yang mengalir melalui layanan kami." Saya hanya ingin tahu apakah Anda melihat persamaan di sana, antara Anthropic dan Amazon dan Azure dan layanan cloud lain apa pun yang ada yang menyimpan begitu banyak data kami.
Ya, meskipun ada beberapa klarifikasi penting di sini yang membuat ini sedikit berbeda. Dan faktanya - menurut saya The New York Times yang pertama kali melaporkan hal ini - klausa utama yang paling penting bagi Anthropic adalah secara khusus tentang data yang dikumpulkan dari layanan komersial dan tidak dapat menggunakan Claude pada data tersebut, yang merupakan masalah khusus ini dalam kaitannya dengan data pihak ketiga. Tapi saya ingin memperjelas perbedaan utama antara apa yang baru saja kita bicarakan sebelumnya dengan Amazon atau pihak ketiga lainnya yang menghosting data Anda, itu adalah kasus di mana mereka berada, karena posisi mereka dalam ekosistem, mereka menghosting data Anda secara langsung.
Dengan Claude, tidak ada yang khawatir tentang NSA yang memeriksa penggunaan Claude Anda. Ini tentang mereka keluar dan mendapatkan data pihak ketiga dari Amazon atau lebih mungkin semacam broker data tersembunyi yang menayangkan iklan di ponsel Anda dan mengetahui lokasi Anda serta minat Anda dan hal-hal seperti itu. Dan kemudian memasukkannya ke dalam sistemyang kemudian akan dikerjakan oleh Claude. Hal itulah yang sebenarnya tidak diinginkan oleh Anthropic. Jadi, di mana pun atau bagaimana pun pemerintah mengumpulkan data tersebut dari pihak ketiga, Anthropic berkata, “Kami tidak ingin alat kami digunakan pada data tersebut.”
Apple terkenal menentang FBI yang memintanya untuk memasang pintu belakang di iPhone, dan Apple berkata "tidak", dan mereka menentang Trump. Dan ada bagian dari cara kerja sistem kami di mana perusahaan swasta besar dapat mengatakan “tidak” kepada pemerintah atas nama pelanggan mereka. Dan hal ini terasa sama ketika Apple, sekali lagi, tidak akan menerapkan backdoor pada iPhone, atau penyedia cloud besar berkata, “Ada sedikit proses yang harus Anda lalui sebelum mendapatkan data individual.”
Di sini sepertinya Anthropic mengatakan, “Kami tidak akan melakukan analisis massal terhadap data yang Anda peroleh dari pihak lain karena hal itu mengarah pada pengawasan massal 24/7 terhadap orang Amerika, dan kami tidak ingin melakukan itu.” Namun hal itu tampaknya merupakan jembatan yang terlalu jauh bagi pemerintahan ini. Apakah ada jalan keluar dari hal itu?
Lihat saja. Di masa lalu, ketika hal ini terjadi – dan hal ini sering terjadi pada sebagian besar perusahaan teknologi besar, pada titik tertentu mereka mengatakan ada sesuatu yang terlalu jauh – biasanya hal tersebut harus dibawa ke pengadilan. Perusahaan akan mengajukan tuntutan ke pengadilan atau pemerintah akan mengajukan gugatan ke pengadilan dan akan terjadi semacam pertarungan di pengadilan.
Pintu belakang ke iPhone adalah contoh sempurna dari hal itu. Kasus ini dibawa ke pengadilan dan mereka bertengkar, meskipun mereka tidak pernah mencapai kesimpulan karena FBI pada akhirnya hanya membobol iPhone secara manual dan kemudian tidak ingin keputusan pengadilan merusaknya di masa depan.
Namun dalam kasus ini, di mana eskalasinya meningkat dan hal ini berbeda dengan situasi di masa lalu, pemerintahan Trump tidak hanya mengajukan tuntutan ke pengadilan, melainkan melakukan penetapan “risiko rantai pasokan”, yang sungguh tidak masuk akal. Gagasan bahwa alat ini dirancang untuk menghentikan calon pelaku kejahatan asing dalam memasok teknologi, yang kemudian dapat memasukkan alat pengawasan tersembunyi ke dalam tumpukan teknologi yang lebih besar, sehingga alat tersebut dapat dilarang. Menerapkan hal ini pada perusahaan yang berbasis di AS karena memiliki kebijakan etika terasa seperti penyalahgunaan alat tersebut.
Bahkan alat tersebut dipertanyakan dalam beberapa hal, tetapi Anda dapat memahami dorongan di baliknya ketika Anda berbicara tentang perusahaan jaringan Tiongkok atau sejenisnya. Di sini, hal itu tidak masuk akal. Jadi reaksi terhadap hal ini jauh melampaui apa yang biasanya terlihat dalam kasus ini. Anda dapat melihat bahwa secara tradisional akan ada semacam kasus pengadilan dan kedua belah pihak dapat memulainya dan yang terjadi hanyalah pertarungan mengenai bagaimana kontrak tersebut dapat diterapkan.
Namun bukan itu yang terjadi di sini. Pemerintahan saat ini secara efektif mengatakan, “Jika Anda tidak memberi kami semua yang kami inginkan, jika Anda tidak menyiapkan alat Anda agar berfungsi sesuai keinginan kami, maka kami akan mencoba menghancurkan seluruh bisnis Anda.” Dan itu adalah sebuah eskalasi.
Ada satu bagian yang ingin saya akhiri, dan ini adalah versi otak galaksi yang paling banyak. FIRE, yang merupakan kelompok advokasi kebebasan berpendapat, mengeluarkan postingan blog tepat sebelum kami mulai merekam dan membuat argumen bahwa memaksa Anthropic membuat alat yang tidak ingin mereka buat adalah pelanggaran kebebasan berbicara, dan ini disebut pidato yang dipaksakan. Ada banyak sejarah di sini. Ada sejarah krisis eksistensial yang mendalam di Verge dan Techdirt, di tengah rumput liar.
Namun pada dasarnya hal ini bermuara pada gagasan bahwa kode adalah ucapan, bahwa menulis kode untuk komputer adalah sebuah bentuk ucapan dan pemerintah tidak dapat memaksa Anda untuk melakukannya, dan banyak hal yang dihasilkan dari hal tersebut. Apakah Anda percaya dengan argumen bahwa memaksa Anthropic membuat alat yang tidak ingin dibuatnya adalah ucapan yang dipaksakan?
Ya, menurutku ini cukup menarik. Pidato yang memaksa. Tapi tidak, menurut saya ini argumen yang menarik. Ini adalah salah satu masalah yang berada sedikit di bawah daftar masalah yang saya pikirkan. Saya jelas lebih fokus pada masalah Amandemen Keempat, tapi menurut saya argumen FIRE tidak salah. Kita telah melihat hal ini dalam konteks lain. Itu juga muncul dalam masalah pintu belakang, dalam hal mencoba membangun pintu belakang ke dalam sistem terenkripsi.
Perusahaan pasti mengangkatnya terlebih dahuluKlaim amandemen tersebut mengatakan, “Ini adalah pidato yang dipaksakan untuk memaksa kita menulis kode semacam itu.” Ini adalah argumen yang valid. Sekali lagi, hal ini mungkin merupakan salah satu permasalahan yang mungkin kurang bersedia ditangani oleh pengadilan pada awalnya jika mereka dapat menangani permasalahan ini dengan cara lain. Tapi saya senang FIRE membuat postingan itu dan menurut saya itu adalah argumen yang menarik dan meyakinkan.
Ya, hanya saja sifat pemerintahan Trump yang kedua adalah instrumennya yang tumpul, hampir bisa dipastikan kita akan menyerang semua masalah sekaligus.
Ya, setiap amandemen Bill of Rights harus ditentang dalam berbagai bentuk dengan segala kemungkinan permasalahannya.
[Tertawa] Putar rodanya.
Saya yakin kita bisa memasukkan pelanggaran Amandemen Ketiga di sini.
Tentu saja ya. Claude harus tinggal di rumahmu sekarang. Tepat. Ini akan menjadi luar biasa. Kami sedang melakukan [amandemen] satu, tiga, empat, dan tujuh. Kami mengumpulkannya.
Mike, ini luar biasa. Saya tidak percaya Anda belum pernah tampil di acara itu sebelumnya. Ini luar biasa. Anda harus segera kembali.
Sangat. Kapan pun kamu menginginkanku.
Pertanyaan atau komentar tentang episode ini? Hubungi kami di decoder@theverge.com. Kami benar-benar membaca setiap email!
