Hari ini kita bercakap tentang keadaan yang tidak kemas dan bergerak pantas di Anthropic, pembuat Claude yang kini mendapati dirinya dalam pertempuran undang-undang yang sangat hodoh dengan Pentagon.
Berulang-alik adalah rumit, tetapi sejak beberapa hari lalu, Pentagon telah menganggap Anthropic sebagai risiko rantaian bekalan, dan Anthropic telah memfailkan tuntutan mahkamah mencabar penunjukan itu, mengatakan kerajaan telah melanggar hak Pindaan Pertama dan Kelimanya dengan "berusaha untuk memusnahkan nilai ekonomi yang dicipta oleh salah satu syarikat swasta yang paling pesat berkembang di dunia." Saya boleh memberitahu anda sekarang: Kami akan bercakap tentang liku-liku kes itu di The Verge dan di sini di Dekoder pada bulan-bulan akan datang.
Tetapi hari ini saya ingin mengambil sedikit masa dan benar-benar menggali di sini tentang satu elemen yang sangat penting dalam situasi ini yang tidak mendapat perhatian yang mencukupi kerana ini telah semakin hilang kawalan: bagaimana kerajaan Amerika Syarikat melakukan pengawasan, pihak berkuasa undang-undang yang membenarkan pengawasan itu berlaku, dan mengapa Anthropic tidak percaya kepada kerajaan yang mengatakan ia akan mematuhi undang-undang apabila menggunakan AI untuk melakukan lebih banyak pengawasan.
Pelanggan verge, jangan lupa anda mendapat akses eksklusif kepada Penyahkod tanpa iklan di mana-mana sahaja anda mendapatkan podcast anda. Pergi ke sini. Bukan pelanggan? Anda boleh mendaftar di sini.
Tetamu saya hari ini ialah Mike Masnick, pengasas dan Ketua Pegawai Eksekutif Techdirt, tapak web dasar teknologi yang sangat baik dan berjalan lama. Mike telah menulis tentang keterlaluan kerajaan, privasi dalam era digital dan topik lain yang berkaitan selama beberapa dekad sekarang. Dia pakar tentang cara internet dan keadaan pengawasan telah berkembang dalam cara yang saling berkaitan.
Anda lihat, ada apa yang dikatakan oleh undang-undang yang boleh dilakukan oleh kerajaan apabila ia datang untuk mengawasi kami, dan kemudian apa yang kerajaan mahu lakukan. Dan yang paling penting, ada apa yang kerajaan katakan undang-undang boleh lakukan, yang selalunya bertentangan dengan apa yang difikirkan oleh mana-mana orang biasa yang hanya membaca undang-undang.
Anda akan mendengar Mike menerangkan dengan terperinci di sini dalam episod ini bahawa kita tidak boleh - dan tidak sepatutnya - mengambil kerajaan AS dengan kata-katanya apabila ia berkaitan dengan pengawasan. Terdapat terlalu banyak sejarah peguam kerajaan yang memutar belit tafsiran perkataan mudah seperti "sasaran" untuk meluaskan pengawasan dengan cara yang rumit - cara yang biasanya hanya menimbulkan kebimbangan dalam kalangan undang-undang, dan hanya timbul apabila terdapat kontroversi besar seperti pendedahan NSA utama Ed Snowden lebih sedekad yang lalu.
Tetapi tiada apa-apa yang halus atau canggih tentang penggubalan dasar dalam era Trump — dan begitu juga dengan Anthropic, kami mengadakan perdebatan yang sangat lantang dan terbuka tentang teknologi dan pengawasan dalam masa nyata, di internet, dalam catatan blog dan kata-kata X, dan melalui sidang akhbar bunyi-gigitan. Terdapat positif dan negatif untuk itu, tetapi untuk memahami semuanya, anda benar-benar perlu mengetahui sejarahnya.
Itulah yang saya dan Mike cuba jelaskan dalam episod ini — apa pun pandangan anda tentang AI dan kerajaan, episod ini akan menjelaskan bahawa kedua-dua pihak telah membiarkan keadaan pengawasan menjadi lebih besar dan lebih besar dari semasa ke semasa. Kini, kami berada di puncak pengembangan terbesar apabila melibatkan AI.
Okey: Pengasas dan Ketua Pegawai Eksekutif Techdirt Mike Masnick pada pengawasan Anthropic, Pentagon dan AI. Di sini kita pergi.
Temu bual ini telah disunting ringan untuk panjang dan jelas.
Mike Masnick, anda ialah pengasas dan Ketua Pegawai Eksekutif Techdirt. Selamat datang ke Dekoder.
Saya gembira berada di sini.
Saya teruja untuk mempunyai anda. Saya hanya mengatakan saya terkejut bahawa anda tidak pernah berada di rancangan itu sebelum ini. Anda dan saya telah lama menulis dan menyiarkan satu sama lain. Banyak perlindungan dasar The Verge berhutang dengan apa yang telah anda lakukan di Techdirt dan kemudian apa yang berlaku dengan Anthropic adalah sangat rumit, tetapi menyentuh begitu banyak tema yang telah anda bincangkan untuk sekian lama. Saya gembira anda akhirnya di sini.
Ia adalah satu topik yang rumit, tetapi saya teruja untuk mempelajarinya.
Apa yang saya ingin fokuskan dengan anda bukanlah butiran sama ada Anthropic akan menandatangani kontrak dengan kerajaan atau sama ada OpenAI akan mendapatkan kontrak itu. Sebaliknya, saya yakin antara masa kami merakam ini dan masa orang mendengarnya, akan ada lebih banyak tweet dan lebih banyak perkara akan berbeza daripada sebelumnya.
Apa yang saya ingin fokuskan hanyalah satu daripada dua garis merah yang telah digariskan oleh Anthropic. Salah satunya ialahsenjata autonomi, yang merupakan tahap kerumitannya sendiri. Undang-undang di sana sedikit lebih baru muncul sama ada senjata itu wujud atau tidak atau telah digunakan oleh Rusia dalam Perang Ukraine.
Terdapat banyak idea di sini yang saya hanya mahu ketepikan kerana saya fikir ia akan menjadi lebih fokus semua pada jadualnya sendiri. Garis merah lain yang saya mahu luangkan banyak masa ialah pengawasan besar-besaran. Dan terdapat banyak undang-undang di sini mengenai pengawasan besar-besaran. Terdapat banyak sejarah, banyak sejarah kontroversi. Keseluruhan watak Edward Snowden wujud kerana kontroversi mengenai pengawasan besar-besaran.
Semuanya berpunca daripada—saya rasa anda adalah orang yang menyiarkan ini—Agensi Keselamatan Negara (NSA), yang merupakan sebahagian daripada Jabatan Pertahanan, yang kita perlu panggil Jabatan Perang sekarang atas sebab tertentu.
[Ketawa] Kami tidak perlu berbuat apa-apa.
[Ketawa] Kami tidak. Itu benar di sini di Amerika. Kami tidak perlu berbuat apa-apa. Tetapi NSA pada dasarnya telah mentakrifkan semula maksud banyak perkataan daripada bahasa Inggeris sehari-hari kepada maksud, "Kami hanya boleh melakukan pengawasan." Dan kemudian selalunya terdapat skandal apabila orang mendapati bahawa mereka hanya melakukan pengawasan. Jadi sediakan sahaja pentas di sana, dan saya tidak mahu memundurkan anda sepanjang jalan, tetapi sudah agak lama corak ini berulang.
Ia bergantung pada sejauh mana anda ingin pergi, tetapi versi pendeknya jelas dalam dunia pasca 9/11, AS meluluskan Akta Patriot, yang mempunyai sedikit keupayaan untuk kerajaan terlibat dalam pengawasan, yang sepatutnya untuk melindungi kita daripada ancaman pengganas masa hadapan. Lama kelamaan, itu ditafsirkan dengan cara yang menarik dan terdapat beberapa had padanya. Kami juga mempunyai mahkamah FISA, iaitu mahkamah khas yang sepatutnya mengkaji komuniti perisikan dan aktiviti mereka, tetapi secara tradisinya adalah mahkamah berat sebelah. Hanya satu pihak yang boleh merayu kes mereka ke mahkamah itu dan semuanya dilakukan secara rahsia.
Terdapat banyak perkara yang tidak diketahui. Dan kemudian terdapat satu bahagian lain dalam semua ini, yang kembali kepada Ronald Reagan, iaitu Perintah Eksekutif 12333, yang kononnya mengenai menetapkan peraturan jalan untuk pengumpulan risikan.
Jadi anda mempunyai tiga set undang-undang ini—baik, beberapa set undang-undang—dan perintah eksekutif yang kepada orang ramai, bahagian yang boleh anda baca, seolah-olah mengatakan perkara tertentu tentang perkara yang boleh dilakukan oleh kerajaan kita dan NSA khususnya dari segi pengawasan. Apabila dibaca dengan kamus bahasa Inggeris biasa, sifat yang anda dan saya mungkin ada dan faham, kami akan datang dengan kepercayaan bahawa keupayaan NSA untuk mengawasi rakyat Amerika adalah sangat terhad, malah ke tahap yang sepatutnya, jika mereka menyedari bahawa mereka sedang mengawasi orang AS, bahawa mereka sepatutnya berhenti serta-merta dan menangis dan memadamkan data dan semua perkara lain ini.
Terdapat khabar angin untuk sementara waktu bahawa itu tidak benar-benar berlaku dan terdapat petunjuk dan khususnya Senator Ron Wyden sangat lantang untuk pergi ke tingkat Senat dan berkata, "Sesuatu yang tidak betul di sini dan saya tidak boleh memberitahu anda apa," atau dalam pendengaran dia akan bertanya kepada pegawai perisikan, "Adakah anda atau adakah anda tidak mengumpul data massa tentang orang Amerika?"
Pegawai-pegawai itu sama ada akan memesongkan atau dalam beberapa kes berbohong secara terang-terangan. Saya percaya ia adalah satu perbicaraan pada 2012 dengan James Clapper, yang merupakan Pengarah Perisikan Negara pada masa itu, di mana beliau ditanya secara langsung mengenai perkara ini. Dan pada dasarnya dia berkata, "Tidak, kami tidak mengumpul data tentang orang Amerika." Itu adalah sebahagian besar daripada apa yang memberi inspirasi kepada Ed Snowden untuk membocorkan data, laporan bahawa dia membocorkan kepada Glenn Greenwald dan Barton Gellman dan Laura Poitras juga. Daripada semua itu, apa yang kami mula temui ialah NSA mempunyai kamusnya sendiri yang agak berbeza daripada kamus yang anda dan saya gunakan, supaya mereka boleh mentafsir perkataan dengan cara yang berbeza daripada makna bahasa Inggeris biasa bagi mereka, termasuk perkataan seperti "sasaran," yang dirasakan seperti kata kunci. Pemahaman yang luas tentang perkara ini ialah, secara teori, mereka hanya sepatutnya menyasarkan orang yang bukan orang AS, saya fikir adalah frasa itu.
Tetapi cara ia telah ditafsirkan dari semasa ke semasa ialah apa-apa yang menyebut orang itu, apa-apa yang mengenai orang asing kini adalah permainan yang adil, walaupun itu adalah komunikasi seorangorang AS. Oleh itu, jika anda dan saya menghantar mesej teks antara satu sama lain dan menyebut orang asing, itu adalah permainan yang adil untuk NSA mengumpulkan dan menyimpan dan menyimpan.
Terdapat bahagian kedua ini. Saya menyebut Perintah Eksekutif pertama 12333 daripada Ronald Reagan, yang, apabila teknologi berubah dari semasa ke semasa dan internet berkembang, dengan berkesan membenarkan NSA untuk memanfaatkan komunikasi asing, tetapi itu termasuk sebarang komunikasi yang mungkin telah meninggalkan AS dalam perjalanan ke suatu tempat. Jadi, jika saya menghantar mesej kepada anda dan mesej dihantar daripada saya di California melalui kabel gentian optik yang kebetulan meninggalkan AS, NSA boleh menekan bahagian itu sebaik sahaja ia berada di luar AS dan mengumpul maklumat itu, walaupun ia hanya dihantar kepada anda di AS.
NSA kemudiannya boleh menyimpan maklumat itu walaupun maklumat itu mengenai orang AS, dan mereka boleh melakukan carian khusus mengenainya kemudian, kadangkala dirujuk sebagai "carian pintu belakang." Mereka mengumpul maklumat ini yang kami percaya mereka tidak sepatutnya kumpulkan pada mulanya, tetapi mereka boleh menyimpannya. Dan mereka berjanji, mereka pinky bersumpah, bahawa mereka akan merahsiakannya, tetapi jika mereka melakukan carian dan mendapati bahawa anda atau saya menyebut orang asing, maka tiba-tiba ia adalah permainan yang adil bagi mereka untuk melakukan apa sahaja yang mereka mahu dengannya.
Secara keseluruhan, itu telah berubah menjadi dunia di mana kerajaan persekutuan pada dasarnya boleh mengumpul sebarang maklumat yang berlaku untuk menyentuh di luar AS. Walaupun ia sepenuhnya antara dua orang AS, jika mereka menyebut atau membayangkan seseorang yang bukan orang AS, tiba-tiba ia adalah permainan yang adil untuk dikumpulkan. Dan daripada itu kami telah mendapat apa yang kelihatan sebagai satu bentuk pengawasan besar-besaran terhadap orang AS oleh NSA yang mendakwa dan secara terbuka menyatakan bahawa ia tidak mengintip orang AS.
Bagaimana kita sampai ke tahap ini? Ini adalah banyak langkah bayi tambahan. Anda menyebut James Clapper pada tahun 2012, itulah pentadbiran Obama. Anda menyebut Ronald Reagan, itu tahun 1980-an. Kami akan melalui Demokrat dan Republikan di sini.
Perang melawan keganasan berlaku dalam pentadbiran George W. Bush, dan 9/11 dan Akta Patriot berlaku dalam pentadbiran George W. Bush. Terdapat banyak perkara buruk yang meningkat di bawah presiden kedua-dua parti, di bawah kongres kedua-dua parti. Bagaimana ini berlaku?
Bentuk yang paling mudah ialah tiada siapa, dan pastinya tiada presiden, mahu menjadi presiden semasa berlaku serangan pengganas yang besar, kerana itu menjadikan mereka kelihatan buruk. Jelas sekali mereka juga mahu melindungi rakyat Amerika, bukan? Itu sebahagian daripada tugas mereka. Jika anda mempunyai komuniti perisikan yang pada asasnya beroperasi dalam kegelapan kerana itulah yang dilakukan oleh komuniti perisikan dan mereka terus datang kepada anda dan berkata, "Hei, jika kami boleh mendapatkan akses kepada maklumat ini, ia akan sangat membantu dalam mencegah serangan pengganas."
Mungkin terdapat kes di mana itu benar, bahawa komuniti perisikan dapat menggunakan maklumat ini dengan cara yang berfungsi dengan baik. Tetapi kami juga, secara teori, sebuah masyarakat undang-undang dengan Perlembagaan AS yang sepatutnya kami patuhi. Tetapi itu membenarkan fakta bahawa pentadbiran selepas pentadbiran, sekali lagi, Republikan dan Demokrat, mempunyai peguam yang sangat bijak dan yang akan melihat dan berkata, "Nah, jika kita menyusun kedudukan dengan cara ini atau kita menyatakan dengan cara ini atau kita mentafsir ini, dengan cara itu kita boleh mendapatkan apa yang kita mahu dan tidak melanggar undang-undang secara teknikal atau tidak secara teknikal melanggar Pindaan Keempat."
Andaian selalunya, "Kita boleh membengkokkan undang-undang atau membengkokkan tafsiran kita tentang undang-undang dan tiada siapa yang benar-benar akan melihat ini, atau tiada sesiapa yang mengambil berat benar-benar akan melihat ini, dan oleh itu kita akan terlepas."
Terdapat dua perkara yang benar-benar melonjak kepada saya. Satu, anda dan saya sama-sama membaca banyak keputusan mahkamah — keputusan mahkamah rayuan dan keputusan Mahkamah Agung. Dan terdapat pergaduhan di Mahkamah Agung kita tentang cara mentafsir perkataan dalam statut dan undang-undang kita secara literal.
Saya tidak akan terlalu mendalaminya, tetapi secara amnya saya akan mengatakan idea bahawa anda hanya perlu membaca perkataan pada halaman dan melakukan apa yang mereka katakan sebagai ketegangan tafsiran berkanun yang dominan di Amerika Syarikat. Kiri atau kanan, mereka berdua menyebutnya. Mereka berhujah tentang beberapa perkara yang sangat esoterik tentang maksud sebenarnya. Tetapi anda sepatutnya boleh membaca perkataan ini dan melakukan apa yang mereka katakan, itu bukan untuk direbut, bukan?
Kami telah mencapai sekurang-kurangnya pas pertama yang anda mungkinmemanggil tekstualisme. Bagaimanakah peguam kedua-dua pentadbiran dapat menjauhi cara dominan dalam membuat keputusan undang-undang di negara kita? Hakim kedua-dua pihak bersetuju bahawa itu sekurang-kurangnya langkah pertama.
Saya harap saya tahu jawapan yang tepat, tetapi saya fikir ia adalah penaakulan bermotivasi, bukan? Sebagai seorang peguam, anda berada di sana untuk membela anak guam anda dan kejayaan — jika anda boleh menyebutnya kejayaan — sistem perundangan kami cenderung berdasarkan situasi permusuhan di mana anda mempunyai pihak berbeza yang berhujah mengenai perkara ini, di mana peranan adjudikator adalah untuk menyempitkan dan memikirkan pihak mana yang sebenarnya betul.
Salah satu masalah dengan komuniti perisikan dan persediaannya ialah anda tidak mempunyai situasi permusuhan itu. Itu memudahkan satu pihak untuk membenarkan hujah yang mereka buat kerana tiada siapa yang benar-benar menolaknya. Anda menggabungkannya dengan ketakutan yang menyeluruh terhadap serangan pengganas lain, apa-apa sahaja yang berkaitan dengan keselamatan negara, dan walaupun anda mempunyai situasi di mana anda mempunyai mahkamah FISA — maksud saya mahkamah FISA agak terkenal kerana berkesan menjadi cop getah selama bertahun-tahun.
Saya terlupa nombor yang tepat, tetapi ia adalah lebih daripada 99 peratus permohonan yang pergi ke mahkamah FISA untuk membenarkan pengawasan situasi tertentu telah diberikan, dan mudah untuk mengatakan 99 peratus jelas terlalu banyak. Jelas sekali mereka yang membawa tuntutan ke mahkamah, mereka memilih dan memilih. Mereka tidak, untuk sebahagian besar, membawa tuntutan yang benar-benar gila. Tetapi tanpa aspek permusuhan itu dan dengan kumpulan orang yang bermotivasi sangat kuat yang berfikir, "Kami perlu melakukan ini," atau diberitahu oleh pentadbiran, "Kami perlu melakukan ini," mereka akan mencari cara untuk melakukannya. Dan di situlah anda berakhir dari semasa ke semasa.
Adakah terdapat sesiapa yang terlibat dalam proses ini yang pernah bangun dan berkata kepada diri mereka sendiri, "Anak lelaki, kita telah berjaya mentakrifkan semula perkataan 'sasaran' untuk bermaksud apa sahaja yang kita mahukan"?
[Ketawa] Jelas sekali anda mempunyai Ed Snowden, yang membocorkan sekumpulan dokumen. Anda mempunyai John Napier Tye, yang menulis karya untuk The Washington Post pada tahun 2014, yang mendedahkan tafsiran Perintah Eksekutif 12333, dan mengatakan bahawa itulah isu sebenar yang perlu diberi perhatian. Anda mempunyai orang lain yang telah bercakap mengenai perkara ini, tetapi sebahagian besarnya, orang yang terlibat dalam bekerja dalam pentadbiran mengenai perkara komuniti perisikan dibeli ke dalam pandangan komuniti perisikan, iaitu matlamat utama adalah untuk melindungi negara daripada sesuatu yang buruk. Cara terbaik untuk melakukannya adalah dengan mempunyai maklumat sebanyak mungkin.
Sangat mudah untuk bersimpati dengan hujah bahawa, ya, mempunyai lebih banyak maklumat mungkin membolehkan mereka menangkap sesuatu lebih awal atau mencari sesuatu yang penting, tetapi, satu, itu mungkin tidak benar. Mendapat terlalu banyak maklumat mungkin sama buruknya dengan terlalu sedikit maklumat kerana ia selalunya boleh menyembunyikan maklumat yang sebenarnya berguna, maklumat yang sebenarnya anda perlukan untuk menentukan sesuatu.
Tetapi juga, kami mempunyai A..S. Perlembagaan di tempat pertama dan kami mempunyai sebab mengapa, secara teori, kami tidak sepatutnya membenarkan pengawasan besar-besaran tanpa sebab yang mungkin. Sebagai sebuah negara yang percaya kepada kedaulatan undang-undang, kita sepatutnya dapat menjalaninya, dan apabila semua perkara ini berlaku dalam kegelapan, anda akan cenderung untuk melupakannya.
Ini membawa saya ke Anthropic. Anthropic adalah terutamanya syarikat perusahaan. Mereka pandai dalam kerajaan, mereka telah membina otot itu, mereka dikendalikan oleh orang yang benar-benar mahir dalam beberapa perkara ini. Mereka jelas memandang Pete Hegseth sambil berkata, "Kami mahu semua penggunaan yang sah," dan mereka menurunkan dua tahap tafsiran dan berkata, "Nah, kepercayaan literal anda ialah perkataan ini tidak bermaksud apa yang mereka katakan di wajah mereka. Jadi 'semua penggunaan yang sah' terlalu besar, dan kami mahu meletakkan beberapa pagar terutamanya di sekitar pengawasan massa."
Sekali lagi, saya akan menyekat senjata autonomi, yang merupakan garis merah yang lain, tetapi terutamanya mengenai pengawasan besar-besaran, Dario Amodei di luar sana berkata, "Kita boleh melakukan terlalu banyak. Ini terlalu berbahaya. Ini adalah pelanggaran Pindaan Keempat."
Ketegangan di sana ialah "anda mengatakan anda akan mematuhi undang-undang ini yang mengatakan satu perkara dan kini, selepas sekian lama, ia bermakna sesuatu yang berbeza dan kami tidak mahu menjadi sebahagian daripadanya." Itulahbergaduh. Saya hanya ingin membandingkannya dengan Sam Altman, yang tiba-tiba berkata, "Kami akan melakukan semua penggunaan yang sah," dan kemudian menyiarkan mesej panjang ini seperti, "Ini semua undang-undang yang akan kami patuhi."
Nampaknya Altman tidak tahu bagaimana NSA telah menafsirkan semula perkara-perkara ini dan jenis dibawa pergi. Dan sejak itu dia mula mengulanginya — walaupun semasa kami sedang merakam, saya yakin terdapat lebih banyak tweet dan kedudukan semua orang telah berubah. Tetapi Altman telah berjalan perlahan-lahan, tetapi nampaknya OpenAI terpaksa membaca statut di wajah mereka dan mempercayai apa yang mereka katakan. Adakah itu tafsiran anda tentang peristiwa juga?
Terdapat dua kemungkinan, dan itu salah satu daripadanya. Salah satunya ialah dia bermain dengan cara yang sama seperti yang dimainkan orang ramai selama bertahun-tahun. Teori alternatif, dan saya tidak tahu yang mana satu daripada ini benar, ialah dia atau beberapa peguam di OpenAI - yang saya fikir sangat cekap dan sangat berpengetahuan - tahu ini, tetapi berfikir bahawa mereka boleh bermain permainan yang sama yang dimainkan oleh NSA selama beberapa dekad, selagi mereka mengatakan perkara ini dan kemudian mereka mengatakan kata-kata, tetapi mereka tidak mendedahkan tafsiran sebenar, sehingga mereka tidak dapat melepaskannya. Jadi Sam mengeluarkan kenyataan yang menjadikannya kelihatan seperti "Kami mempunyai garis merah yang sama seperti yang dilakukan oleh Anthropic, dan kerajaan sangat hebat dengan itu."
Malah, saya rasa Sam Altman berkata bahawa Anthropic mempunyai dua garisan merah dan OpenAI mempunyai tiga, dan kerajaan tidak mempedulikannya, dan itu menyebabkan ramai orang menggaru kepala mereka. Tetapi saya fikir ia mesti sama ada Sam Altman dan sesiapa sahaja yang mengelilinginya tidak memahami bagaimana perkara ini berfungsi dalam amalan, atau mereka melakukannya, dan mereka hanya menganggap bahawa orang ramai tidak akan tahu dan oleh itu mereka boleh lari daripadanya.
Perkara lain yang terlintas di fikiran — sekali lagi, AI adalah baharu dan sangat menggoda untuk menggunakan teknologi baharu kerana ini adalah masalah tanggapan pertama. "Tiada siapa yang perlu memikirkan perkara ini sebelum ini," tetapi realitinya adalah semua orang telah memikirkan perkara ini untuk masa yang lama. Mungkin perkara yang baharu di sini bukanlah AI, tetapi pentadbiran Trump kedua, bukannya melakukan banyak peguam yang mungkin tiada siapa yang akan membaca untuk mewajarkan tindakan mereka ke mahkamah rahsia yang tiada siapa yang memberi perhatian, sebaliknya tidak begitu halus.
Mereka tidak begitu canggih dan mereka hanya mengatakan bahawa mereka akan mengintip semua orang sepanjang masa. Mereka hanya mengumumkan hasrat mereka dengan cara yang mungkin semua pentadbiran hanya perlu mengumumkan niat mereka dan melihat di mana cip itu jatuh.
Tetapi saya melihat fakta bahawa terdapat Ed Snowden di sini di New York City. AT&T menjalankan bangunan yang semua orang tahu ialah bangunan NSA. Ia hanyalah sebuah bangunan gergasi, dan kita sepatutnya berpura-pura ia bukan pusat pengawasan NSA, tetapi ia ada di sana. Ia besar. Tiada satu pun daripada itu nampaknya telah mencapai apa-apa. Semua pendedahan ini, kebocoran ini, kami tidak menolaknya.
Malah, ia hanya meningkat kerana begitu banyak kehidupan kita semakin digital. Dan mungkin pentadbiran Trump menjadi instrumen yang tumpul pada setiap masa, itu sebenarnya boleh menjadi perkara yang menyebabkan pengiraan. Adakah anda melihatnya bermain-main?
Terdapat beberapa perkara yang berbeza di sana, dan tidak sepenuhnya benar bahawa kami tidak menolak perkara ini sama sekali. Pendedahan daripada Snowden memang membawa kepada beberapa perubahan dalam cara perkara ini berlaku. Dan kini ada - saya lupa apa nama mereka, tetapi mereka seperti orang awam dalam mahkamah FISA yang akan bertindak sebagai pembentangan pihak lain mengenai isu tertentu.
Dan kami telah melihat beberapa pihak berkuasa mengehadkan dalam cara tertentu, dan mereka sering datang untuk mendapatkan kebenaran semula, dan aktivis sangat agresif untuk menolak dan cuba meletakkan lebih banyak pagar. Tetapi untuk soalan yang lebih besar, saya fikir terdapat dua perkara yang berbeza. Anda separuh betul kerana pentadbiran ini tidak halus dan hanya mengatakan dengan lantang perkara yang tidak sepatutnya.
"Kami berperang dengan Iran, kami melakukannya, ia sedang berlaku. Kami tidak akan mencuba tarian itu."
Dengan cara yang tidak akan dilakukan oleh semua pentadbiran terdahulu. Tetapi mereka tidak benar-benar mengatakannya secara langsungpengawasan, terutamanya pengawasan orang Amerika. Terdapat petunjuk mengenainya, tetapi ia tidak begitu kuat mengenainya. Separuh lagi daripadanya perlu melakukan lebih banyak dengan kedudukan Anthropic dan pandangan umum AI kerana teknologi yang mungkin wujud ini, di mana Anthropic sentiasa mempersembahkan dirinya sebagai, "Kami adalah orang baik yang bertimbang rasa," dan sama ada anda percaya atau tidak itu adalah sesuatu yang tidak penting. Mereka mempunyai reputasi ini di luar sana: "Kami cuba melakukan ini dengan cara yang selamat, yang menghormati manusia dan memberi perhatian kepada semua perkara ini." Dan apabila anda mempunyai pertembungan itu, di situlah perjuangan datang.
Anda mempunyai pentadbiran Trump yang hanya mahu dapat melakukan apa sahaja yang ia mahu dapat lakukan, dan mereka tidak halus tentang itu. Dan kemudian anda mempunyai Anthropic, yang perihalan diri dan persona awamnya sentiasa seperti, "Kami bertimbang rasa dan kami menghormati kemanusiaan dan hak dan semua perkara ini." Mungkin di situlah pertembungan berlaku, kerana Anthropic, seperti yang telah dijelaskan, telah bekerja dengan Jabatan Pertahanan untuk sementara waktu dan mempunyai banyak kontrak lain dengan kerajaan yang telah digunakan. Ia tidak menjadi masalah.
Hanya di kawasan khusus ini di mana kerajaan sedang berusaha untuk mengembangkan kontrak yang dimilikinya, kepimpinan kanan Anthropic mula berkata, "Tunggu, kami perlu memastikan bahawa kami tidak melintasi garis merah ini yang berpotensi membahayakan reputasi kami sebagai penyedia AI yang bijak dan selamat."
Saya ingin bertanya secara ringkas kepada anda tentang pengawasan secara umum, dan khususnya kebimbangan Pindaan Keempat Anthropic. Pindaan Keempat mengatakan kerajaan tidak boleh mencari anda secara tidak munasabah. Cara terbaik untuk memahami Pindaan Keempat ialah dengan mendengar "99 Masalah" oleh Jay-Z. Jadi, jika anda perlu berehat dan pergi mendengar "99 Masalah," itu bagus. Semuanya ada di sana. Saya mendengarnya semasa saya di sekolah undang-undang dan ia masuk akal.
Tetapi kerajaan secara amnya memerlukan waran untuk menggeledah anda. Dan apabila semakin banyak kehidupan anda berada dalam talian, terdapat banyak dan banyak pengecualian untuk ini. Tetapi ideanya ialah mereka masih memerlukan waran dalam talian. Hujah Anthropic ialah, "Nah, AI tidak akan pernah jemu. Ia boleh mencari segala-galanya sepanjang masa. Ini bermakna kita hanya akan melakukan pengawasan induk."
Namun sebelum AI muncul, idea bahawa kerajaan boleh menggeledah semua kepunyaan anda ada di luar sana, idea bahawa kerajaan tidak memerlukan waran untuk menggeledah semua barangan anda sudah ada di luar sana. Idea bahawa jika mana-mana data anda pernah pergi ke luar negara untuk seketika, kerajaan memintasnya di sana,
Semasa saya berada di kolej, sekitar masa Akta Patriot, perdebatan ialah mereka tidak akan mencari data sebenar anda, tetapi mereka boleh mendapatkan metadata dan metadata sahaja. Data tentang data anda akan mencukupi untuk mengesan anda dengan tepat pada setiap masa. Dan walaupun itu terlalu jauh. Dan kami telah melakukan tarian ini tentang apa yang boleh dikumpulkan oleh kerajaan? Apakah yang dibenarkan? Apakah yang mereka perlukan untuk memastikan kita semua selamat dan apa yang terlalu jauh? Garisan itu telah berpindah.
Jadi terangkan secara ringkas kebimbangan umum tentang pengawasan pada skala dan di mana kita berada sekarang. Sebelum situasi AI menjadikan segala-galanya secara eksponen lebih rumit.
Di sini saya perlu memperkenalkan konsep lain yang mungkin sepatutnya disebut lebih awal, tetapi ia adalah penting, yang dipanggil "doktrin pihak ketiga." Idea dengan Pindaan Keempat ialah kerajaan tidak boleh menggeledah anda atau barang-barang anda tanpa waran dan ia tidak boleh mendapatkan waran tanpa sebab yang berkemungkinan bahawa anda telah melakukan beberapa jenis jenayah. Tetapi ada konsep ini yang muncul kira-kira dekad yang lalu dipanggil doktrin pihak ketiga, yang mengatakan bahawa itu tidak semestinya terpakai, atau tidak terpakai sama sekali, kepada perkara yang bukan milik anda, walaupun ia adalah data anda.
Versi terawal dan paling jelas ini ialah rekod telefon yang dimiliki oleh syarikat telefon tentang siapa yang anda hubungi. Syarikat telefon tidak merakam panggilan anda, tetapi mereka merakam jika saya menghubungi anda, akan ada rekod di syarikat telefon yang mengatakan, "Mike menelefon Nilay." Dan apa yang telah ditentukan oleh pelbagai mahkamah ialah kerajaan boleh pergi dan meminta itu, dan mereka tidak memerlukan waran untuk itu kerana ia bukan cariandata anda, pihak ketiga ini dan mereka boleh bersetuju sebagai pihak ketiga untuk menyerahkan data tersebut sahaja.
Tetapi itu adalah kes-kes dari tahun 1960-an dan 70-an, di mana ia ditentukan bahawa kerajaan boleh mendapatkan akses kepada itu tanpa waran, apabila tidak terdapat banyak data pihak ketiga di luar sana. Kebangkitan komputer dan internet mengubahnya. Kini, semuanya adalah data pihak ketiga. Semua yang kami lakukan dikumpulkan oleh sesetengah syarikat di suatu tempat dan mempunyai rekodnya. Jadi pada asasnya setiap bit data tentang anda, di mana anda berada, dengan siapa anda bercakap, dengan siapa anda berinteraksi, apa yang anda katakan, apa yang anda lakukan, semua itu dipegang oleh pihak ketiga pada hari ini. Jadi doktrin pihak ketiga telah menelan keseluruhan Pindaan Keempat sedikit sebanyak, di mana apa-apa perkara tentang anda yang dimiliki oleh orang lain, terdapat piawaian yang jauh lebih rendah untuk tindakan yang boleh dilakukan oleh kerajaan untuk memintanya.
Secara khusus, ini bermakna apabila data saya berada dalam iCloud, kerajaan boleh pergi ke Apple dan mengeluarkan data saya daripada iCloud tanpa memberitahu saya?
Mereka boleh memintanya. Mereka boleh memintanya dengan mudah tanpa waran. Kemudian syarikat itu mempunyai haknya sendiri dan boleh menentukan apa yang mereka mahu lakukan dengan permintaan itu. Mereka hanya boleh menyerah. Mereka boleh, kerana kebanyakan mereka akan lakukan, jika ia adalah permintaan yang serius, menolak permintaan di luar tangan atau mereka boleh memaklumkan anda dan mereka boleh berkata — dan inilah yang kebanyakan mereka akan lakukan — mereka akan memaklumkan anda dan berkata, "Kerajaan meminta beberapa data anda. Anda boleh pergi ke mahkamah dan cuba menyekat mereka." Jika tidak, mereka akan menyerahkan data anda dalam masa tujuh hari atau apa sahaja yang mungkin.
Sekali lagi, ia bergantung. Jika ia adalah penyiasatan jenayah, maka mungkin terdapat beberapa jenis perintah lelucon di mana syarikat tidak dibenarkan memberitahu anda. Terdapat pelbagai jenis situasi, tetapi kebanyakannya melibatkan kurang daripada tahap perlindungan yang diperlukan oleh Pindaan Keempat jika ia adalah data atau sebarang maklumat atau apa-apa sahaja di rumah anda sendiri.
Jumlah data yang anda ada pada pelayan awan orang lain adalah besar, bukan? Setiap perkara yang anda lakukan secara amnya di internet sekarang disandarkan dalam beberapa cara atau direkodkan dalam beberapa cara pada pelayan orang lain. Kerajaan telah menemui cara ini untuk mengatasi Pindaan Keempat dan berkata, "Nah, itu sebenarnya bukan milik anda. Ia milik Amazon. Kami boleh pergi bercakap dengan Amazon," dan Amazon harus berdiri di tengah-tengah proses itu dan berkata, "Kami telah mencipta satu lagi proses untuk melindungi orang ramai."
Saya melihat itu-dan apabila saya membuat liputan kes doktrin pihak ketiga pertama yang meliputi perkhidmatan awan dan kerajaan terus menang, itu pada dasarnya apabila saya bertukar menjadi Joker. Saya seperti, "Semua perkara ini yang kami berpura-pura tentang tekstualisme dan [pembacaan] biasa, ini tidak bermakna apa-apa kerana kami hanya kuasa kuda ke pintu belakang menggunakan undang-undang kuno ini ke dalam data semua orang."
Dan kemudian saya melihat ini dan saya melihat Anthropic dan saya berkata, "Nah, ini adalah corak yang sama." Ini adalah syarikat swasta yang berkata, "Baiklah, kami faham kedudukan anda. Kami faham bahawa anda telah mentafsir semula undang-undang untuk maksudkan perkara ini, dan kami akan meletakkan beberapa proses di antara anda, alat kami dan data rakyat Amerika yang mengalir melalui perkhidmatan kami." Saya hanya tertanya-tanya jika anda melihat persamaan itu di sana, antara Anthropic dan Amazon dan Azure dan apa sahaja perkhidmatan awan lain yang wujud yang memegang begitu banyak data kami.
Ya, walaupun terdapat beberapa penjelasan yang penting di sini yang menjadikan ini sedikit berbeza. Dan sebenarnya — saya rasa The New York Times mempunyai pelaporan ini terlebih dahulu — klausa utama yang paling penting bagi Anthropic adalah khusus mengenai data yang dikumpul daripada perkhidmatan komersial dan tidak dapat menggunakan Claude pada data tersebut, iaitu isu ini dari segi data pihak ketiga. Tetapi saya ingin menjelaskan perbezaan utama antara perkara yang baru sahaja kami bincangkan sebelum ini dengan Amazon atau pihak ketiga lain yang mengehos data anda, itu adalah kes di mana mereka berada, kerana di mana mereka berada dalam ekosistem, mereka mengehos data anda secara langsung.
Dengan Claude, bukan sesiapa yang bimbang tentang NSA melihat penggunaan Claude anda. Ia mengenai mereka keluar dan mendapatkan data pihak ketiga daripada Amazon atau lebih berkemungkinan jenis broker data tersembunyi yang licik yang menyiarkan iklan pada telefon anda dan mengetahui lokasi anda serta minat anda dan perkara seperti itu. Dan kemudian memasukkannya ke dalam sistemyang akan diusahakan oleh Claude. Itulah yang Anthropic benar-benar tidak mahu menjadi sebahagian daripadanya. Jadi di mana-mana atau bagaimanapun kerajaan akan mengumpul data itu daripada pihak ketiga, Anthropic berkata, "Kami tidak mahu alat kami digunakan pada data itu."
Apple terkenal menentang FBI memintanya untuk meletakkan pintu belakang di iPhone, dan Apple berkata "tidak," dan mereka menentang Trump. Dan terdapat sebahagian daripada cara sistem kami berfungsi di mana syarikat swasta besar boleh berkata "tidak" kepada kerajaan bagi pihak pelanggan mereka. Dan ini dirasakan dengan cara yang sama bahawa Apple, sekali lagi, tidak akan meletakkannya di pintu belakang pada iPhone, atau penyedia awan besar berkata, "Ada sedikit proses yang perlu anda lalui sebelum anda mendapatkan data individu."
Di sini kelihatan seperti Anthropic berkata, "Kami bukan sahaja akan melakukan analisis pukal data yang anda peroleh daripada pihak lain kerana itu membawa kepada pengawasan besar-besaran 24/7 orang Amerika, dan kami tidak mahu berbuat demikian." Namun itu kelihatan seperti jambatan yang terlalu jauh untuk pentadbiran ini. Adakah ada yang kembali dari itu?
Kita akan lihat. Pada masa lalu apabila itu berlaku - dan ia berlaku berkali-kali dengan kebanyakan syarikat teknologi besar, pada satu ketika mereka telah mengatakan sesuatu adalah jambatan yang terlalu jauh - yang biasanya pergi ke mahkamah. Syarikat akan pergi ke mahkamah atau pentadbiran akan pergi ke mahkamah dan akan ada beberapa jenis pertempuran mahkamah.
Pintu belakang ke dalam iPhone adalah contoh yang sempurna untuk itu. Ia pergi ke mahkamah dan mereka melawannya, walaupun mereka tidak pernah membuat kesimpulan kerana FBI akhirnya memecah masuk iPhone secara manual dan kemudian tidak mahu keputusan mahkamah merosakkannya pada masa hadapan.
Tetapi dalam kes ini, di mana peningkatan itu dan di mana ini berbeza daripada situasi masa lalu adalah bahawa daripada hanya pergi ke mahkamah, pentadbiran Trump melakukan sebutan "risiko rantaian bekalan" ini, yang sememangnya tidak siuman. Idea ini bahawa alat ini yang direka untuk menghentikan potensi pelakon jahat asing daripada membekalkan teknologi, yang kemudiannya boleh memasukkan alat pengawasan tersembunyi ke dalam timbunan teknologi yang lebih besar, yang boleh diharamkan. Untuk menerapkannya kepada syarikat yang berpangkalan di AS pada asasnya kerana mempunyai dasar etika terasa seperti penyalahgunaan sebenar alat itu.
Walaupun alat itu boleh dipersoalkan dalam beberapa cara, tetapi anda boleh memahami dorongan di sebaliknya apabila anda bercakap tentang firma rangkaian Cina atau sesuatu yang serupa. Di sini, ia tidak masuk akal. Jadi tindak balas terhadap perkara ini melampaui apa yang biasanya dilihat dalam kes ini. Anda boleh melihat secara tradisinya akan ada beberapa jenis kes mahkamah dan mana-mana pihak boleh memulakannya dan ia hanya akan menjadi pertempuran tentang bagaimana kontrak itu boleh digunakan.
Tetapi bukan itu yang berlaku di sini. Pentadbiran ini dengan berkesan berkata, "Jika anda tidak memberikan kami sepenuhnya semua yang kami mahu, jika anda tidak menyediakan alatan anda untuk berfungsi seperti yang kami mahu ia berfungsi, maka kami akan cuba memusnahkan keseluruhan perniagaan anda dengan berkesan." Dan itu adalah peningkatan.
Terdapat satu bahagian ini yang saya ingin tamatkan, dan ia adalah versi yang paling galaksi-otak ini. FIRE, yang merupakan kumpulan advokasi pertuturan bebas, mengeluarkan catatan blog sejurus sebelum kami mula merakam membuat hujah bahawa memaksa Anthropic membina alat yang tidak mahu dibina adalah pelanggaran pertuturan bebas, bahawa ia adalah sesuatu yang dipanggil ucapan paksa. Terdapat banyak sejarah di sini. Terdapat beberapa Verge dan Techdirt yang mendalam, dalam-rumpai, sejarah krisis kewujudan di sini.
Tetapi pada asasnya ia berpunca daripada idea bahawa kod ialah pertuturan, bahawa menulis kod untuk komputer ialah satu bentuk pertuturan dan kerajaan tidak boleh memaksa anda melakukannya, dan banyak perkara mengalir daripada itu. Adakah anda membeli hujah ini bahawa memaksa Anthropic membina alat yang tidak mahu dibina adalah ucapan yang dipaksakan?
Ya, saya sebenarnya fikir ia agak menarik. Ucapan paksa yang memaksa. Tetapi tidak, saya fikir ia adalah hujah yang menarik. Ia adalah salah satu yang telah jauh sedikit ke bawah senarai isu yang saya fikirkan. Saya jelas kebanyakannya lebih tertumpu pada isu Pindaan Keempat, tetapi saya fikir hujah FIRE tidak salah. Kami telah melihat ini dalam konteks lain. Ia juga muncul dalam isu pintu belakang, dari segi cuba membina pintu belakang ke dalam sistem yang disulitkan.
Syarikat pasti menaikkan PertamaPindaan mendakwa, dengan mengatakan, "Pertuturan terpaksa memaksa kami menulis kod seperti itu." Ia adalah hujah yang sah. Mungkin, sekali lagi, mahkamah mungkin kurang bersedia untuk menangani pada mulanya jika mereka boleh menangani isu ini dengan cara lain. Tetapi saya gembira kerana FIRE membuat siaran itu dan saya fikir ia adalah hujah yang menarik dan menarik.
Ya, ia hanya sifat pentadbiran Trump kedua adalah bahawa ia adalah instrumen yang tumpul, hampir pasti kita akan menyerang semua isu sekaligus.
Ya, setiap pindaan Rang Undang-undang Hak perlu dicabar dalam beberapa bentuk atau yang lain dengan setiap kemungkinan isu.
[Ketawa] Putar roda.
Saya pasti kita boleh memuatkan pelanggaran Pindaan Ketiga di suatu tempat di sini.
Pasti, ya. Claude perlu tinggal di rumah awak sekarang. Tepat sekali. Ia akan menjadi hebat. Kami sedang melakukan [pindaan] satu, tiga, empat, dan tujuh. Kami susun mereka.
Mike, ini hebat. Saya tidak percaya anda tidak pernah menyertai rancangan itu sebelum ini. Ini telah hebat. Awak kena balik cepat.
betul-betul. Bila-bila masa awak nak saya.
Soalan atau komen tentang episod ini? Hubungi kami di decoder@theverge.com. Kami benar-benar membaca setiap e-mel!
