Dina iki kita ngomong babagan kahanan sing ora apik lan cepet ing Anthropic, sing nggawe Claude sing saiki nemoni perang hukum sing ala banget karo Pentagon.
Mundur-mundur rumit, nanging sawetara dina kepungkur, Pentagon nganggep Anthropic minangka risiko rantai pasokan, lan Anthropic wis ngajokake tuntutan hukum sing nantang sebutan kasebut, ujar manawa pamrentah wis nglanggar hak Amandemen Pertama lan Kalima kanthi "ngupaya ngrusak nilai ekonomi sing digawe dening salah sawijining perusahaan swasta sing paling cepet berkembang ing donya." Aku bisa pitutur marang kowe sapunika: Kita bakal ngomong bab twists lan dadi kasus sing ing Verge lan kene ing Decoder ing sasi teka.
Nanging dina iki aku pengin njupuk wayahe lan tenan digali ing kene ing siji unsur penting banget saka kahanan iki sing ora entuk cukup manungsa waé amarga iki wis spiraled metu saka kontrol: carane pamaréntah Amerika Serikat nindakake ndjogo, panguwasa legal sing ngidini ndjogo sing kedaden, lan ngapa Anthropic ora ngandel marang pamaréntah ngandika bakal ngetutake hukum nalika nggunakake AI kanggo nindakake pengawasan luwih.
Pelanggan sing paling cedhak, aja lali sampeyan entuk akses eksklusif menyang Decoder tanpa iklan ing endi wae sampeyan entuk podcast. Kepala kene. Ora langganan? Sampeyan bisa mlebu kene.
Tamuku dina iki yaiku Mike Masnick, pangadeg lan CEO Techdirt, situs web kebijakan teknologi sing apik banget lan suwe. Mike wis nulis babagan overreach pemerintah, privasi ing jaman digital, lan topik liyane sing gegandhengan sajrone pirang-pirang dekade saiki. Dheweke ahli babagan carane internet lan negara pengawasan wis tuwuh kanthi cara sing saling nyambungake.
Sampeyan ndeleng, ana apa hukum ngandika pemerintah bisa nindakake nalika nerangake ndjogo kita, lan banjur apa pemerintah arep apa. Lan sing paling Jahwéh, ana apa pemerintah ngandika hukum bisa nindakake, kang asring persis ngelawan apa wong normal mung maca hukum bakal mikir.
Sampeyan bakal krungu Mike nerangake kanthi rinci ing episode iki yen kita ora bisa - lan ora - njupuk pamrentah AS nalika nerangake pengawasan. Ana mung kakehan sajarah pengacara pamaréntah twisting interpretasi saka tembung prasaja kaya "target" kanggo nggedhekake ndjogo ing cara rumit - cara sing biasane mung nimbulaké badhan ing bunderan legal, lan mung gelembung munggah nalika ana kontroversi ageng kaya whistleblower Ed Snowden kang wahyu NSA utama luwih saka sepuluh taun kepungkur.
Nanging ora ana sing subtle utawa canggih babagan nggawe kebijakan ing jaman Trump - lan uga karo Anthropic, kita duwe debat sing banter banget babagan teknologi lan pengawasan ing wektu nyata, ing internet, ing postingan blog lan X rants, lan liwat konferensi pers swara-cokotan. Ana sing positif lan negatif, nanging kanggo ngerteni kabeh, sampeyan kudu ngerti sejarah.
Iki sing dakkarepake Mike lan aku bakal nerangake ing episode iki - apa wae pandangan sampeyan babagan AI lan pamrentah, episode iki bakal nggawe manawa pihak loro kasebut ngidini negara pengawasan saya suwe saya suwe. Saiki, kita ana ing puncak ekspansi paling gedhe nalika nerangake AI.
Oke: Pendiri lan CEO Techdirt Mike Masnick babagan pengawasan Anthropic, Pentagon, lan AI. Kene kita lunga.
Wawancara iki wis diowahi entheng kanggo dawa lan gamblang.
Mike Masnick, sampeyan pangadeg lan CEO Techdirt. Sugeng rawuh ing Decoder.
Aku seneng ing kene.
Aku bungah kanggo duwe sampeyan. Aku mung ngomong aku kaget amarga sampeyan durung nate melu ing acara kasebut. Aku lan sampeyan wis suwe nulis lan ngeposake saben liyane. Akeh jangkoan kabijakan The Verge duwe utang kanggo apa sing wis sampeyan lakoni ing Techdirt banjur apa sing kedadeyan karo Anthropic dadi rumit, nanging akeh tema sing wis sampeyan tutupi nganti suwe. Aku bungah sampeyan pungkasanipun kene.
Iku kekacoan rumit saka topik, nanging aku bungah kanggo digali ing.
Sing dakkarepake kanggo fokus karo sampeyan dudu rincian apa Anthropic bakal mlebu kontrak karo pamrentah utawa OpenAI bakal entuk kontrak kasebut. Nanging, aku yakin antarane wektu kita ngrekam iki lan wektu wong ngrungokake, bakal ana luwih akeh tweets lan luwih akeh perkara sing beda tinimbang sadurunge.
Apa aku arep fokus ing mung salah siji saka loro garis abang sing Anthropic wis tenan glethakaken metu. Salah sijine yaikusenjata otonom, kang tingkat dhewe saka komplikasi. Angger-anggering Toret ana sethitik liyane nascent apa utawa ora senjata malah ana utawa wis tugasaken dening Rusia ing Perang Ukraina.
Ana akeh gagasan ing kene sing mung dakkarepake amarga aku mikir yen bakal luwih fokus ing jadwal dhewe. Garis abang liyane sing aku pengin nglampahi akeh wektu yaiku pengawasan massal. Lan ana cukup akeh hukum ing kene babagan pengawasan massal. Ana akeh sejarah, akeh sejarah kontroversial. Kabeh karakter Edward Snowden ana amarga kontroversi babagan pengawasan massal.
Kabeh iki mudhun menyang-aku mikir sampeyan sing ngirim iki-Badan Keamanan Nasional (NSA), sing minangka bagean saka Departemen Pertahanan, sing kudu kita sebut Departemen Perang saiki amarga sawetara alasan.
[Ketawa] Kita ora kudu nindakake apa-apa.
[Laughs] Kita ora. Iki bener ing Amerika. Kita ora kudu nindakake apa-apa. Nanging NSA dhasar wis nemtokake maneh apa tegese akeh tembung saka basa Inggris colloquial tegese, "Kita mung bisa nindakake pengawasan." Banjur asring ana skandal nalika wong ngerti yen dheweke mung ngawasi. Dadi mung nyetel panggung ing kana, lan aku ora pengin mundur maneh kabeh, nanging wis cukup suwe yen pola iki wis bola-bali.
Iku gumantung carane jero sampeyan pengin pindhah, nanging versi cendhak temenan ing post-9/11 donya, US liwati Undhang-undhang Patriot, kang wis sawetara kemampuan kanggo pamaréntah kanggo melu ndjogo, kang mestine kanggo nglindhungi kita saka ancaman teroris mangsa. Swara wektu, sing diinterpretasikake kanthi cara sing menarik lan ana sawetara watesan. Kita uga duwe pengadilan FISA, yaiku pengadilan khusus sing kudu mriksa komunitas intelijen lan kegiatane, nanging sacara tradisional dadi pengadilan siji-sisi. Mung siji pihak sing njaluk tulung ing pengadilan kasebut lan kabeh ditindakake kanthi rahasia.
Ana akeh barang sing ora dingerteni. Lan banjur ana siji liyane ing kabeh iki, kang dadi kabeh cara bali menyang Ronald Reagan, kang Executive Order 12333, kang mesthine bab nyetel metu aturan dalan kanggo koleksi Intelligence.
Dadi sampeyan duwe telung set hukum iki-uga, sawetara set hukum-lan pesen eksekutif sing kanggo masyarakat, bagean sing bisa diwaca, katon ngandika bab tartamtu bab apa pemerintah kita lan NSA utamané bisa nindakake ing syarat-syarat ndjogo. Nalika diwaca nganggo kamus basa Inggris sing prasaja, sifat sing sampeyan lan aku bisa ngerti lan ngerti, kita bakal yakin manawa kemampuan NSA kanggo ngawasi wong Amerika diwatesi banget, nyatane, yen dheweke ngerti yen dheweke ngawasi wong AS, dheweke kudu langsung mandheg lan nangis lan mbusak data lan kabeh barang liyane.
Ana desas-desus yen iki ora kedadeyan lan ana pitunjuk lan utamane Senator Ron Wyden banget vokal babagan arep menyang lantai Senat lan ujar, "Ana ana sing ora bener lan aku ora bisa ngomong apa," utawa ing pangrungon dheweke bakal takon pejabat intelijen, "Apa sampeyan utawa sampeyan ora ngumpulake data massa ing Amerika?"
Pejabat kasebut bakal nyingkirake utawa ing sawetara kasus langsung ngapusi. Aku pracaya iku siji pangrungon ing 2012 karo James Clapper, sing direktur Intelligence Nasional ing wektu, ngendi dheweke takon langsung ing titik iki. Lan dheweke ujar, "Ora, kita ora ngumpulake data babagan Amerika." Iki minangka bagean gedhe saka inspirasi Ed Snowden kanggo bocor data, laporan sing bocor menyang Glenn Greenwald lan Barton Gellman lan Laura Poitras uga. Saka kabeh mau, sing wiwit ditemokake yaiku NSA duwe kamus dhewe sing rada beda karo kamus sing sampeyan lan aku gunakake, saengga bisa napsirake tembung kanthi cara sing beda karo makna basa Inggris sing padha, kalebu tembung kaya "target," sing kaya tembung kunci. Pangerten sing wiyar babagan apa iki, ing teori, dheweke mung kudu target wong-wong sing dudu wong AS, aku mikir tembung kasebut.
Nanging cara sing wis diinterpretasikake liwat wektu yaiku apa wae sing nyebutake wong kasebut, apa wae babagan wong asing saiki dadi game sing adil, sanajan iku komunikasi saka wong liya.wong AS. Dadi yen sampeyan lan aku padha ngirim teks lan sebutno wong manca, sing saiki game adil kanggo NSA kanggo ngumpulake lan kanggo nyimpen lan nyimpen.
Ana bagean kapindho iki. Aku kasebut pisanan Executive Order 12333 saka Ronald Reagan, kang, minangka teknologi diganti liwat wektu lan internet tansaya, èfèktif ngidini NSA kanggo nutul komunikasi manca, nanging kalebu komunikasi sembarang sing uga wis ninggalake AS ing rute nang endi wae. Dadi yen aku sms sampeyan lan pesen teka saka kula ing California liwat kabel serat optik sing kedaden kanggo ninggalake AS, NSA bisa sijine tunyuk ing bagean sawise iku njaba AS lan ngumpulake informasi sing, sanajan iku mung arep kanggo sampeyan ing AS.
NSA banjur bisa nyimpen informasi kasebut sanajan ana ing wong AS, lan bisa nindakake telusuran khusus babagan kasebut mengko, kadhangkala diarani minangka "panelusuran lawang mburi." Padha ngumpulake informasi iki sing kita pracaya padha ora mestine kanggo ngumpulake ing Panggonan pisanan, nanging padha bisa tetep. Lan padha janji, padha pinky sumpah, sing padha bakal tetep pribadi, nanging yen padha nindakake panelusuran lan ketemu sing utawa aku kasebut wong manca, banjur dumadakan iku game padha kanggo nindakake apa wae padha arep karo.
Secara total, iki wis dadi jagad ing ngendi pamrentah federal bisa ngumpulake informasi apa wae sing kedadeyan ing njaba AS. Malah yen iku tanggung antarane loro wong US, yen padha sebutno utawa malah Petunjuk ing wong sing dudu wong US, dumadakan iku game padha supaya diklumpukake. Lan saka iku, kita wis entuk apa sing katon minangka bentuk pengawasan massal wong AS dening NSA sing ngaku lan umum nyatakake yen ora Spy wong AS.
Kepiye carane kita tekan titik iki? Iki akeh langkah bayi tambahan. Sampeyan nyebutake James Clapper ing 2012, yaiku administrasi Obama. Sampeyan nyebutake Ronald Reagan, yaiku taun 1980-an. Kita bakal ngliwati Demokrat lan Republik ing kene.
Perang nglawan teror kedadeyan ing administrasi George W. Bush, lan 9/11 lan Undhang-undhang Patriot kedaden ing administrasi George W. Bush. Ana akeh prekara sing ora apik ing presiden loro partai, ing kongres loro partai. Kepiye kedadeyan kasebut?
Wangun sing paling gampang yaiku ora ana wong, lan mesthi ora ana presiden, sing pengin dadi presiden nalika ana serangan teroris sing gedhe, amarga dheweke katon ala. Temenan dheweke uga pengin nglindhungi Amerika, ta? Iki minangka bagean saka pakaryane. Yen sampeyan duwe komunitas intelijen sing umume operasi ing pepeteng amarga kuwi sing ditindakake komunitas intelijen lan dheweke terus teka lan ujar, "Hei, yen kita mung bisa ngakses informasi iki, mesthi bakal mbantu nyegah serangan teroris."
Bisa uga ana kasus sing bener, manawa komunitas intelijen bisa nggunakake informasi kasebut kanthi cara sing apik. Nanging kita uga, ing teori, masyarakat hukum kanthi Konstitusi AS sing kudu kita tindakake. Nanging sing ngidini kasunyatan manawa administrasi sawise administrasi, maneh, Republik lan Demokrat, duwe pengacara sing pinter banget lan bakal ndeleng lan ujar, "Ya, yen kita ngurutake posisi kanthi cara iki utawa kita nyatakake kanthi cara iki utawa kita interpretasi iki, kanthi cara iki kita bisa entuk apa sing dikarepake lan ora teknis nglanggar hukum utawa ora teknis nglanggar Amandemen Papat.
Anggapan kasebut mesthi, "Kita bisa ngurutake ukum utawa mbengkongake interpretasi ukum lan ora ana sing bakal weruh iki, utawa ora ana sing peduli sing bakal weruh iki, mula kita bakal lolos."
Ana rong perkara sing bener-bener mlumpat ing aku. Siji, aku lan sampeyan maca akeh keputusan pengadilan - keputusan pengadilan banding lan keputusan Mahkamah Agung. Lan ana perang ing Mahkamah Agung babagan cara napsirake tembung-tembung ing statuta lan hukum kita.
Aku ora bakal njaluk banget adoh menyang, nanging aku bakal ngomong umume idea sing mung kudu maca tembung ing kaca lan apa padha ngomong galur dominan saka interpretasi statutori ing Amerika Serikat. Ngiwa tengen, wong loro ngomong. Dheweke mbantah babagan sawetara poin sing apik banget babagan apa tegese. Nanging sampeyan mung kudu bisa maca tembung kasebut lan nindakake apa sing diomongake, iku ora bisa ditindakake, ta?
Kita wis ndharat ing paling sing pass pisanan saka apa sampeyan bisadiarani tekstualisme. Kepiye pengacara loro administrasi bisa adoh saka mode pengambilan keputusan hukum sing dominan ing negara kita? Kaadilan loro-lorone pihak setuju yen iki paling ora langkah pisanan.
Muga-muga aku ngerti jawaban sing tepat, nanging aku rumangsa motivasi, ta? Minangka pengacara, sampeyan ana ing kono kanggo mbela klien lan sukses - yen sampeyan bisa nyebat sukses - sistem hukum kita cenderung adhedhasar kahanan sing nglawan ing ngendi sampeyan duwe macem-macem pihak sing mbantah babagan perkara kasebut, ing ngendi peran adjudicator kanggo nyempitake lan nemtokake sisih endi sing bener.
Salah sawijining masalah karo komunitas intelijen lan persiyapan kasebut yaiku sampeyan ora duwe kahanan sing nglawan. Sing nggawe luwih gampang siji sisih mbenerake argumentasi sing ditindakake amarga ora ana sing nolak maneh. Sampeyan gabungke karo wedi overarching saka serangan teroris liyane, apa-apa related kanggo keamanan nasional, lan malah nalika sampeyan duwe kahanan ing ngendi sampeyan duwe pengadilan FISA - Maksudku pengadilan FISA iki Luwih misuwur kanggo èfèktif dadi cap karet kanggo akèh taun.
Aku lali nomer pas, nanging ana kaya liwat 99 persen aplikasi sing tindak menyang pengadilan FISA kanggo ngidini kanggo ndjogo kahanan tartamtu diwenehake, lan iku gampang kanggo ngomong 99 persen temenan banget. Temenan sing nggawa tuntutan menyang pengadilan, dheweke milih lan milih. Padha ora, kanggo sisih paling, nggawa claims babar blas edan. Nanging tanpa aspek adversarial lan klompok wong sing duwe motivasi banget sing mikir, "Kita kudu nindakake iki," utawa dikandhani dening administrasi, "Kita kudu nindakake iki," dheweke bakal nemokake cara kanggo nindakake. Lan sing ngendi sampeyan mungkasi liwat wektu.
Apa ana wong sing melu proses iki sing wis tangi lan ngomong ing awake dhewe, "Bocah, kita wis bisa nemtokake maneh tembung 'target' kanggo tegese apa wae sing dikarepake"?
[Ngguyu] Temenan sampeyan duwe Ed Snowden, sing bocor akeh dokumen. Sampeyan wis John Napier Tye, sing wrote Piece kanggo The Washington Post ing 2014, kang dicethakaké ana interpretasi Executive Order 12333, lan ngandika iku masalah nyata kanggo mbayar manungsa waé. Sampeyan duwe wong liya sing wis ngomong babagan iki, nanging umume, wong-wong sing melu kerja ing administrasi babagan barang-barang komunitas intelijen dituku menyang pandangan komunitas intelijen, yaiku tujuan utama yaiku nglindhungi negara saka perkara sing ala. Cara paling apik kanggo nindakake iku kanggo duwe informasi sabisa.
Iku gampang kanggo dadi simpatik kanggo argumentasi sing, ya, duwe informasi liyane bisa ngidini kanggo nyekel soko sadurungé utawa golek soko penting, nanging siji, sing bisa uga ora bener. Njupuk informasi sing akeh banget bisa uga kaya informasi sing sithik banget amarga bisa ndhelikake informasi sing bener-bener migunani, informasi sing sampeyan butuhake kanggo nemtokake.
Nanging uga, kita duwe U..S. Konstitusi ing wiwitan lan kita duwe alasan kenapa, ing teori, kita ora kudu ngidini pengawasan massal tanpa sabab. Minangka negara sing pracaya marang aturan ukum, kita kudu bisa urip nganti iku, lan nalika kabeh iku kelakon ing pepeteng, sampeyan bakal cenderung kanggo ilang ngarsane.
Iki nggawa aku menyang Anthropic. Anthropic utamane perusahaan perusahaan. Dheweke apik ing pamrentahan, dheweke wis mbangun otot-otot kasebut, dikelola dening wong-wong sing wis ngerti babagan sawetara perkara kasebut. Padha temenan katon ing Pete Hegseth ngandika, "Kita pengin kabeh nggunakake sah,"Lan padha mudhun loro tingkat interpretasi mudhun lan ngandika, "Inggih, kapercayan harfiah sing tembung iki ora ateges apa padha ngomong padha tegese ing pasuryan. Dadi 'kabeh panggunaan sah' amba banget, lan kita pengin sijine sawetara guardrails utamané watara ndjogo massa. "
Maneh, aku bakal nggawe senjata otonomi, yaiku garis abang liyane, nanging utamane babagan pengawasan massal, Dario Amodei metu ana, "Kita bisa nindakake akeh banget. Iki mbebayani banget. Iki minangka pelanggaran Amandemen kaping papat.
Ketegangan sing ana yaiku "sampeyan ujar manawa sampeyan bakal tundhuk karo undang-undang iki sing ujar siji lan saiki, sawise kabeh wektu iki, tegese beda banget lan kita ora pengin dadi bagian saka iku." Singperang. Aku mung pengin mbandhingake karo Sam Altman, sing ujar, "Kita bakal nindakake kabeh panggunaan sing sah," banjur ngirim pesen sing dawa kaya mangkene, "Iki kabeh undang-undang sing bakal ditindakake."
Katon kaya Altman ora ngerti carane NSA wis reinterpreted iki lan jenis dijupuk kanggo kulo. Lan dheweke wiwit mlaku maneh - sanajan kita lagi ngrekam, aku yakin ana luwih akeh tweets lan posisi kabeh wong wis diganti. Nanging Altman wis mlaku alon-alon, nanging kayane OpenAI kudu maca statute ing raine lan percaya apa sing diomongake. Apa interpretasi sampeyan babagan acara uga?
Ana rong kemungkinan, lan sing siji saka wong-wong mau. Salah sijine yaiku dheweke wis main kanthi cara sing padha karo umume main pirang-pirang taun. Teori alternatif, lan aku ora ngerti apa sing bener, yaiku dheweke utawa sawetara pengacara ing OpenAI - sing aku rumangsa kompeten lan duwe kawruh banget - ngerti iki, nanging mikir yen bisa main game sing padha karo NSA sawetara dekade, yen dheweke ngucapake perkara kasebut lan banjur ngucapake tembung kasebut, nanging dheweke ora bisa mbukak interpretasi sing nyata. Dadi Sam metu karo pratelan sing katon kaya "Kita duwe garis abang sing padha karo Anthropic, lan pamrentah apik banget."
Nyatane, aku Sam Altman ngandika sing Anthropic wis loro garis abang lan OpenAI wis telung, lan pemerintah iku sampurna nggoleki karo, lan sing ninggalake akèh wong Urut saka scratching sirah. Nanging aku kudu salah siji Sam Altman lan sapa wae sing ana ing saubengé ora ngerti carane iku bisa ing laku, utawa padha nindakake, lan padha mung nganggep yen umum ora bakal ngerti lan mulane padha bisa lolos.
Bab liyane sing kudu dipikirake - maneh, AI anyar lan nggodho banget kanggo teka ing teknologi anyar amarga iki minangka masalah kesan pertama. "Ora ana sing nate mikir babagan iki sadurunge," nanging kasunyatane kabeh wong wis suwe mikir babagan iki. Mungkin sing anyar ing kene dudu AI, nanging administrasi Trump sing nomer loro, tinimbang nindakake pirang-pirang pengacara sing bisa uga ora ana sing bakal maca kanggo mbenerake tumindake menyang pengadilan rahasia sing ora ana sing nggatekake, tinimbang mung ora subtle.
Dheweke ora canggih lan mung ujar manawa dheweke bakal Spy kabeh wong. Dheweke mung ngumumake maksude kanthi cara sing bisa uga kabeh administrasi mung ngumumake tujuane lan ndeleng endi chip kasebut tiba.
Nanging aku ndeleng kasunyatan sing ana Ed Snowden ing New York City. AT&T mbukak bangunan sing kabeh wong ngerti minangka bangunan NSA. Iki mung minangka bangunan raksasa, lan kita kudu ndalang yen dudu pusat pengawasan NSA, nanging ana ing kana. Iku ageng. Ora ana sing katon apa-apa. Kabeh wahyu iki, bocor iki, ora kita mundur.
Nyatane, mung tambah akeh amarga urip kita wis dadi digital. Lan bisa uga administrasi Trump minangka instrumen sing kethul ing kabeh wektu, bisa uga dadi perkara sing nyebabake perhitungan. Apa sampeyan ndeleng sing muter metu tho?
Ana sawetara bab sing beda-beda, lan iku ora sakabehe bener sing kita wis ora mundur barang iki ing kabeh. Wahyu saka Snowden nyebabake sawetara owah-owahan babagan kedadeyan kasebut. Lan saiki ana - aku lali apa sing diarani, nanging padha kaya wong-wong sipil ing pengadilan FISA sing bakal dadi presenting sisih liyane babagan masalah tartamtu.
Lan kita wis ndeleng sawetara panguwasa diwatesi ing cara tartamtu, lan padha teka munggah kanggo reauthorization saben-saben, lan aktivis wis banget agresif kanggo meksa nindakake perkara maneh lan nyoba kanggo sijine sawetara guardrails liyane. Nanging kanggo pitakonan sing luwih gedhe, aku mikir ana rong perkara sing beda. Sampeyan setengah bener ing administrasi iki ora subtle lan mung ngandika banter bab sing ora ngirim.
"Kita lagi perang karo Iran, kita nindakake, kedadeyan. Kita ora bakal nyoba nari.
Kanthi cara sing ora bakal ditindakake kabeh administrasi sadurunge. Nanging padha ora ngandika langsung babndjogo, utamané ndjogo saka Amerika. Ana wis diwenehi, nanging padha ora metu minangka kuwat ing. Separuh liyane kudu nindakake luwih akeh babagan posisi Anthropic lan tampilan umum AI minangka teknologi eksistensial iki, ing ngendi Anthropic mesthi nampilake awake dhewe minangka, "We are the thoughtful guys good,"Lan manawa sampeyan yakin manawa ora ana sing penting. Dheweke duwe reputasi ing kana: "Kita nyoba nindakake iki kanthi cara sing aman, ngajeni manungsa lan nggatekake kabeh perkara kasebut." Lan yen sampeyan duwe tawuran kasebut, ing kono ana perjuangan.
Sampeyan duwe administrasi Trump sing mung pengin bisa nindakake apa wae sing dikarepake, lan dheweke ora ngerti babagan iki. Banjur sampeyan duwe Anthropic, sing nggambarake dhiri lan persona umume kaya, "Kita wis mikir lan ngurmati manungsa lan hak-hak lan kabeh perkara kasebut." Iki bisa uga kedadeyan, amarga Anthropic, kaya sing wis dingerteni, wis sawetara wektu kerja bareng karo Departemen Pertahanan lan duwe kontrak liyane karo pemerintah sing digunakake. Wis ora dadi masalah.
Mung ing wilayah tartamtu kasebut, amarga pamrentah ngupaya nggedhekake kontrak kasebut, pimpinan senior Anthropic wiwit ujar, "Ngenteni, kita kudu mesthekake yen kita ora nyabrang garis abang iki sing bisa ngrusak reputasi kita minangka panyedhiya AI sing wicaksana lan aman.
Aku arep takon sedhela bab ndjogo ing umum, lan utamané badhan Amandemen kaping papat Anthropic. Amandemen kaping papat ujar manawa pamrentah ora bisa nggoleki sampeyan kanthi ora wajar. Cara paling apik kanggo ngerti Amandemen Papat yaiku ngrungokake "99 Masalah" dening Jay-Z. Dadi yen sampeyan kudu ngaso lan ngrungokake "99 Masalah," pancen apik. Iku kabeh ing kono. Aku ngrungokake nalika aku ana ing sekolah hukum lan iku ndadekake pangertèn sampurna.
Nanging pemerintah umume mbutuhake surat perintah kanggo nggoleki sampeyan. Lan nalika luwih akeh urip sampeyan online, ana akeh pengecualian babagan iki. Nanging idea iku isih kudu njamin online. Argumentasi Anthropic yaiku, "Inggih, AI ora bakal kesel. Bisa nggolèki kabeh sawayah-wayah. Tegese kita mung bakal nindakake pengawasan master."
Nanging sadurunge AI muncul, ide manawa pamrentah bisa nggoleki kabeh sing dadi duweke sampeyan wis ana, ide manawa pamrentah ora butuh surat perintah kanggo nggoleki kabeh barang sampeyan. Gagasan manawa yen ana data sampeyan menyang njaba negara sedhela, pamrentah nyegat ing kana,
Nalika aku kuliah, ing wektu Undhang-undhang Patriot, debat kasebut yaiku dheweke ora bakal nggoleki data nyata sampeyan, nanging mung bisa entuk metadata lan metadata. Data babagan data sampeyan bakal cukup kanggo nemokake sampeyan ing kabeh wektu. Lan malah sing adoh banget. Lan kita wis nindakake tarian iki apa sing bisa diklumpukake pemerintah? Apa sing diijini? Apa sing dibutuhake kanggo njaga kita kabeh lan apa sing adoh banget? Garis-garis kasebut wis pindah.
Dadi mung ringkesan babagan keprihatinan umum babagan pengawasan ing skala lan ing ngendi kita saiki. Sadurunge kahanan AI nggawe kabeh eksponensial luwih rumit.
Ing kene aku kudu ngenalake konsep liyane sing mbokmenawa kudu kasebut sadurunge, nanging penting, sing diarani "doktrin pihak katelu." Gagasan karo Amandemen Papat yaiku pamrentah ora bisa nggoleki sampeyan utawa barang-barang sampeyan tanpa surat perintah lan ora bisa njaluk surat perintah tanpa sebab sing bisa ditindakake yen sampeyan wis nglakoni kejahatan. Nanging ana konsep iki sing teka udakara puluhan taun kepungkur sing diarani doktrin pihak katelu, sing ujar manawa iki ora kudu ditrapake, utawa ora ditrapake, kanggo perkara sing dudu duweke sampeyan, sanajan data sampeyan.
Versi sing paling wiwitan lan paling jelas yaiku cathetan telpon sing diduweni perusahaan telpon babagan sapa sing sampeyan telpon. Perusahaan telpon ora ngrekam telpon sampeyan, nanging dheweke ngrekam yen aku nelpon sampeyan, bakal ana rekaman ing perusahaan telpon sing ujar, "Mike nelpon Nilay." Lan sing wis ditemtokake dening pirang-pirang pengadilan yaiku manawa pamrentah bisa njaluk, lan dheweke ora butuh surat perintah amarga iki dudu telusuran.data sampeyan, iku pihak katelu lan padha bisa setuju minangka pihak katelu mung nyerahke data kasebut.
Nanging kasus kasebut wiwit taun 1960-an lan 70-an, sing ditemtokake manawa pamrentah bisa entuk akses menyang kasebut tanpa jaminan, nalika ora ana data pihak katelu sing akeh. Munculé komputer lan internet ngowahi iku. Saiki, kabeh data pihak katelu. Kabeh sing kita lakoni diklumpukake dening sawetara perusahaan ing endi wae lan duwe rekaman. Dadi, saben data babagan sampeyan, ing ngendi sampeyan, sapa sing diajak guneman, karo sapa sampeyan sesambungan, apa sing sampeyan ucapake, apa sing sampeyan lakoni, kabeh iki dicekel dening pihak katelu ing jaman saiki. Dadi doktrin pihak katelu wis nguntal kabeh Amandemen Papat nganti sawetara, ing ngendi apa wae babagan sampeyan sing diduweni wong liya, ana standar sing luwih murah babagan apa sing bisa ditindakake pemerintah kanggo njaluk.
Kanggo spesifik, iki tegese nalika dataku ana ing iCloud, pamrentah bisa pindhah menyang Apple lan njupuk dataku saka iCloud tanpa ngandhani aku?
Dheweke bisa njaluk. Dheweke bisa kanthi gampang njaluk tanpa surat perintah. Banjur perusahaan duwe hak dhewe lan bisa nemtokake apa sing arep ditindakake karo panjaluk kasebut. Padha mung bisa menehi munggah. Dheweke bisa, kaya sing paling akeh bakal ditindakake, yen panjaluk serius, nolak panjaluk saka tangan utawa bisa menehi tandha lan bisa ngomong - lan iki sing paling akeh bakal ditindakake - dheweke bakal menehi tandha lan ujar, "Pamrentah njaluk sawetara data sampeyan. Sampeyan bisa menyang pengadilan lan nyoba mblokir. Yen ora, dheweke bakal nyerahake data sampeyan sajrone pitung dina utawa apa wae.
Maneh, gumantung. Yen investigasi pidana, bisa uga ana sawetara urutan lelucon ing ngendi perusahaan ora diidini ngandhani sampeyan. Ana macem-macem kahanan, nanging umume kalebu kurang saka tingkat perlindungan sing dibutuhake Amandemen Papat yen data utawa informasi utawa apa wae ing omah sampeyan.
Jumlah data sing sampeyan duwe ing server maya wong liya akeh banget, ta? Saben bab sing sampeyan lakoni umume ing internet saiki wis digawe serep ing sawetara cara utawa direkam ing sawetara cara ing server wong liya. Pamrentah wis nemokake cara iki kanggo ngubengi Amandemen Papat lan ujar, "Inggih, dudu sampeyan. Iku duweke Amazon. Kita bisa ngobrol karo Amazon, "lan Amazon kudu ngadeg ing tengah proses kasebut lan ujar, "Kita wis nggawe proses liyane kanggo nglindhungi wong.
Aku katon ing-lan nalika aku nutupi kasus doktrin pihak katelu pisanan sing nutupi layanan maya lan pemerintah terus menang, sing Sejatine nalika aku dadi Joker. Aku kaya, "Kabeh barang iki sing kita pura-pura babagan tekstualisme lan [maca] polos, ora ana sing artine apa-apa amarga kita mung jaran menyang mburi nggunakake hukum kuno iki menyang data saben wong."
Banjur aku ndeleng iki lan aku ndeleng Anthropic lan aku kandha, "Inggih, iki pola sing padha." Iki minangka perusahaan swasta sing ujar, "Oke, kita ngerti posisi sampeyan. Kita ngerti manawa sampeyan wis menehi interpretasi maneh hukum kanggo maksud iki, lan kita bakal nggawe sawetara proses ing antarane sampeyan, alat kita, lan data Amerika sing mili liwat layanan kita. " Aku mung kepingin weruh yen sampeyan ndeleng paralel kasebut, ing antarane Anthropic lan Amazon lan Azure lan apa wae layanan maya liyane sing ana sing ngemot akeh data.
Ya, sanajan ana sawetara klarifikasi sing penting ing kene sing nggawe iki rada beda. Lan nyatane - aku mikir The New York Times duwe laporan iki luwih dhisik - klausa utama sing paling penting kanggo Anthropic yaiku khusus babagan data sing diklumpukake saka layanan komersial lan ora bisa nggunakake Claude ing data kasebut, sing persis masalah iki babagan data pihak katelu. Nanging aku pengin njlentrehake prabédan utama ing antarane apa sing lagi diomongake sadurunge karo Amazon utawa pihak katelu liyane sing hosting data sampeyan, iku kasus ing ngendi dheweke, amarga ing ngendi dheweke lungguh ing ekosistem, padha hosting data sampeyan langsung.
Kanthi Claude, ora ana sing kuwatir babagan NSA nggoleki panggunaan Claude sampeyan. Iku babagan wong-wong mau metu lan entuk data pihak katelu saka Amazon utawa luwih cenderung minangka makelar data sing didhelikake sing nglayani iklan ing telpon lan ngerti lokasi sampeyan lan kapentingan sampeyan lan liya-liyane. Lan banjur dipakani menyang sistemsing Claude banjur bakal digarap. Sing Anthropic pancene ora pengin dadi bagéan saka. Dadi ing endi wae, pamrentah bakal ngumpulake data kasebut saka pihak katelu, Anthropic ujar, "Kita ora pengin alat kasebut digunakake ing data kasebut."
Apple kondhang ngadeg nganti FBI takon kanggo sijine backdoor ing iPhone, lan Apple ngandika "ora," lan padha ngadeg munggah kanggo Trump. Lan ana bagean saka cara sistem kita bisa digunakake ing perusahaan swasta gedhe supaya ujar "ora" marang pamrentah kanggo para pelanggan. Lan iki dirasakake kanthi cara sing padha Apple, maneh, ora bakal nyelehake backdoor ing iPhone, utawa panyedhiya awan gedhe ujar, "Ana sawetara proses sing kudu sampeyan lakoni sadurunge entuk data individu."
Ing kene kayane Anthropic ujar, "Kita ora mung bakal nganalisa data akeh sing wis dipikolehi saka pihak liya amarga ndadékaké pengawasan massal 24/7 Amerika, lan kita ora pengin nglakoni." Nanging sing katon kaya jembatan sing adoh banget kanggo administrasi iki. Apa ana sing bali saka iku?
Kita bakal weruh. Ing sasi nalika iku kedaden - lan wis kedaden kaping pirang-pirang karo paling saka perusahaan tech gedhe, ing sawetara titik padha wis ngandika soko iku jembatan adoh banget - ngendi sing biasane dadi kanggo pengadilan. Perusahaan bakal menyang pengadilan utawa administrasi bakal menyang pengadilan lan bakal ana sawetara perang pengadilan.
Backdoor menyang iPhone minangka conto sing sampurna. Iku banjur menyang pengadilan lan padha perang metu, sanadyan padha ora tau cukup kanggo kesimpulan amarga FBI pungkasanipun mung manual break menyang iPhone lan banjur ora pengin keputusan pengadilan kanggo ngrusak sing ing mangsa.
Nanging ing kasus iki, ing ngendi eskalasi kasebut lan ing ngendi iki beda karo kahanan sing kepungkur, tinimbang mung arep menyang pengadilan, administrasi Trump nindakake sebutan "risiko rantai pasokan", sing mung edan. Iki idea sing alat iki kang dirancang kanggo mungkasi potensial aktor angkoro manca saka nyediakke teknologi, sing banjur bisa sijine ing pribadi ndjogo didhelikake menyang tumpukan teknologi luwih gedhe, sing sing bisa begalan. Kanggo aplikasi sing kanggo perusahaan basis AS Sejatine kanggo duwe kabijakan etika ngrasa kaya nyata, nyata nyalahi panggunaan saka alat sing.
Malah alat kasebut bisa dipertanyakan ing sawetara cara, nanging sampeyan bisa ngerti impetus nalika sampeyan ngomong babagan perusahaan jaringan Cina utawa apa wae sing ana ing garis kasebut. Ing kene, ora ana gunane. Dadi reaksi kanggo iki dadi adoh ngluwihi apa sing biasane katon ing kasus iki. Sampeyan bisa ndeleng kanthi tradisional bakal ana sawetara kasus pengadilan lan salah siji pihak bisa miwiti lan mung bakal dadi perang babagan carane kontrak bisa ditrapake.
Nanging dudu apa sing kedadeyan ing kene. Administrasi iki kanthi efektif ujar, "Yen sampeyan ora menehi kabeh sing dikarepake, yen sampeyan ora nyiyapake alat supaya bisa digunakake, mula kita bakal nyoba ngrusak kabeh bisnis sampeyan." Lan iku escalation.
Ana siji Piece iki aku arep kanggo mungkasi ing, lan iku jenis paling galaxy-otak versi iki. FIRE, yaiku klompok advokasi pidato gratis, ngetokake kiriman blog sakdurunge kita miwiti ngrekam nggawe argumentasi yen meksa Anthropic kanggo mbangun alat sing ora pengin dibangun minangka pelanggaran wicara bebas, sing diarani wicara paksa. Ana akeh sejarah ing kene. Ana sawetara Verge jero lan Techdirt, ing suket, sejarah krisis eksistensial ing kene.
Nanging Sejatine teka mudhun kanggo idea sing kode iku wicara, sing nulis kode kanggo komputer minangka wangun wicara lan pamaréntah ora bisa meksa sampeyan nindakaken, lan Bunch wutuh saka kuwi mili saka iku. Apa sampeyan tuku argumentasi iki sing meksa Anthropic kanggo mbangun alat sing ora pengin dibangun minangka wicara?
Ya, sejatine aku mikir cukup menarik. Pidhato kepeksa. Nanging ora, aku mikir iki minangka argumentasi sing menarik. Iku salah siji sing wis rada mudhun ing dhaptar masalah sing dakpikirake. Aku temenan luwih fokus ing masalah Amandemen Papat, nanging aku mikir argumen FIRE ora salah. Kita wis ndeleng iki ing konteks liyane. Iku uga teka ing masalah backdoor, ing babagan nyoba mbangun backdoors menyang sistem ndhelik.
Perusahaan temtunipun wungu FirstAmandemen pratelan, ujar, "Sampeyan kepekso wicara kanggo meksa kita nulis kode kaya ngono." Iku argumen sing bener. Bisa uga, maneh, pengadilan sing mbokmenawa kurang gelem ngatasi masalah kasebut kanthi cara liya. Nanging aku bungah yen FIRE nggawe kiriman kasebut lan aku mikir iki minangka argumentasi sing menarik lan menarik.
Ya, mung sifat administrasi Trump sing kapindho yaiku instrumen sing kethul, meh mesthi bakal nyerang kabeh masalah sekaligus.
Ya, saben amandemen Bill of Rights kudu ditantang ing sawetara wangun utawa liyane karo saben masalah bisa.
[Laughs] Puter setir.
Aku yakin kita bisa pas karo pelanggaran Amandemen Katelu nang endi wae ing kene.
Mesthi, ya. Claude kudu manggon ing omahmu saiki. Persis. Iku bakal dadi gedhe. Kita nindakake [amandemen] siji, telu, papat, lan pitu. Kita rak munggah.
Mike, iki wis apik. Aku ora ngandel yen sampeyan durung tau melu ing acara kasebut. Iki wis apik banget. Sampeyan kudu enggal bali.
Pancen. Kapan sampeyan pengin kula.
Pitakonan utawa komentar babagan episode iki? Pencet kita ing decoder@theverge.com. Kita pancene maca saben email!
