Dinten ieu kami nuju ngawangkong ngeunaan kaayaan pabalatak, gancang-pindah di Anthropic, nu maker of Claude nu ayeuna manggih sorangan dina perang légal pisan awon jeung Pentagon.
Balik-balik pajeulit, tapi dina sababaraha dinten kapengker, Pentagon parantos nganggap Anthropic résiko ranté suplai, sareng Anthropic parantos ngajukeun gugatan nantang sebutan éta, nyatakeun pamaréntahan ngalanggar hak Amandemen Kahiji sareng Kalima ku "narékahan ngancurkeun nilai ékonomi anu diciptakeun ku salah sahiji perusahaan swasta anu paling gancang ngembang di dunya." Abdi tiasa nyarioskeun ka anjeun ayeuna: Urang bakal ngobrolkeun ngeunaan twists sareng péngkolan kasus éta dina The Verge sareng di dieu dina Decoder dina sasih-sasih anu bakal datang.
Tapi dinten ayeuna kuring hoyong sakedap sareng leres-leres ngagali di dieu ngeunaan hiji unsur anu penting pisan dina kaayaan ieu anu henteu nampi perhatian anu cekap kumargi ieu parantos kaluar tina kontrol: kumaha pamaréntahan Amérika Serikat ngalakukeun panjagaan, otoritas hukum anu ngamungkinkeun panjagaan éta kajantenan, sareng naha Anthropic teu percanten ka pamaréntah nyarios yén éta bakal nuturkeun hukum nalika ngagunakeun AI pikeun ngalakukeun panjagaan anu langkung seueur.
Langganan Verge, tong hilap anjeun kéngingkeun aksés ekslusif kana Decoder bébas iklan dimana waé anjeun nampi podcast anjeun. Ka dieu. Teu langganan? Anjeun tiasa ngadaptar di dieu.
Tamu kuring ayeuna nyaéta Mike Masnick, pangadeg sareng CEO Techdirt, halaman wéb kawijakan téknologi anu saé sareng panjang. Mike parantos nyerat perkawis overreach pamaréntah, privasi dina jaman digital, sareng topik anu aya hubunganana salami mangpuluh-puluh taun ayeuna. Anjeunna ahli ngeunaan kumaha internét sareng kaayaan panjagaan parantos tumbuh dina cara anu saling nyambungkeun.
Nu katingali, aya naon hukum nyebutkeun pamaréntah bisa ngalakukeun lamun datang ka panjagaan kami, lajeng naon pamaréntah hayang ngalakukeun. Sareng anu paling penting, aya anu nyarioskeun pamaréntahan hukum anu tiasa dilakukeun, anu sering sabalikna tina naon anu dipikiran ku jalma normal anu maca hukum.
Anjeun bakal nguping Mike ngajelaskeun sacara rinci di dieu dina épisode ieu yén urang henteu tiasa - sareng henteu kedah - nyandak pamaréntah AS dina kecap-kecapna ngeunaan panjagaan. Aya ngan teuing sajarah pengacara pamaréntah twisting interpretasi kecap basajan kawas "target" rék dilegakeun panjagaan dina cara pajeulit - cara nu biasana ngan ngabalukarkeun perhatian di kalangan hukum, sarta ngan gelembung up lamun aya controversies badag kawas whistleblower Ed Snowden urang wahyu NSA utama leuwih ti dasawarsa ka tukang.
Tapi teu aya anu halus atanapi canggih ngeunaan pembuatan kabijakan dina jaman Trump - sareng sareng Anthropic, urang gaduh perdebatan anu nyaring, umum pisan ngeunaan téknologi sareng panjagaan sacara real waktos, dina internét, dina tulisan blog sareng X rants, sareng dina konferensi pers. Aya positip sareng négatif pikeun éta, tapi pikeun ngartos sadayana, anjeun leres-leres kedah terang sajarahna.
Éta naon Mike sareng kuring badé ngajelaskeun dina épisode ieu - naon waé pandangan anjeun ngeunaan AI sareng pamaréntahan, épisode ieu bakal ngajelaskeun yén duanana pihak parantos ngantepkeun kaayaan panjagaan janten langkung ageung sareng langkung ageung. Ayeuna, urang nuju kana puncak ékspansi anu paling ageung nalika datang ka AI.
Oke: Pangadeg sareng CEO Techdirt Mike Masnick on Anthropic, Pentagon, sareng panjagaan AI. Tah kieu.
Wawancara ieu parantos diédit sakedik pikeun panjang sareng kajelasan.
Mike Masnick, anjeun pangadeg sareng CEO Techdirt. Wilujeng sumping di Decoder.
Abdi bungah aya di dieu.
Abdi bungah gaduh Anjeun on. Kuring ngan ukur nyarios kuring reuwas yén anjeun henteu kantos dina acara éta. Anjeun sareng kuring parantos nyerat sareng ngeposkeun masing-masing salami lami. Seueur sinyalna kawijakan The Verge ngahutang hutang naon anu anjeun lakukeun di Techdirt teras naon anu lumangsung sareng Anthropic rumit pisan, tapi pencét seueur téma anu anjeun parantos katutupan salami lami. Abdi bungah anjeun tungtungna di dieu.
Éta pajeulitna topik anu rumit, tapi kuring bungah pikeun ngagali kana éta.
Anu kuring hoyong difokuskeun sareng anjeun sanés detil naha Anthropic badé ngadaptarkeun kontrak sareng pamaréntahan atanapi naha OpenAI badé kéngingkeun kontrak éta. Sabalikna, kuring yakin antara waktos urang ngarékam ieu sareng waktos urang ngadangukeun éta, bakal aya langkung seueur tweets sareng langkung seueur hal anu béda ti aranjeunna sateuacanna.
Anu kuring hoyong difokuskeun ngan ukur salah sahiji tina dua garis beureum anu parantos ditataan ku Anthropic. Salah sahijina nyaétapakarang otonom, nu tingkat sorangan komplikasi. Hukum aya saeutik leuwih nascent naha atawa henteu pakarang sanajan aya atawa geus deployed ku Rusia dina Perang Ukraina.
Aya seueur ide di dieu anu kuring ngan ukur hoyong nyisihkeun éta sabab kuring nyangka yén éta bakal langkung difokuskeun kana jadwalna sorangan. Garis beureum sanésna anu kuring hoyong nyéépkeun waktos nyaéta panjagaan massa. Sareng aya seueur hukum di dieu ngeunaan panjagaan massa. Aya seueur sajarah, seueur sajarah kontroversial. Sakabéh karakter Edward Snowden aya kusabab controversies sabudeureun panjagaan massa.
Éta sadayana turun ka-Jigana anjeun anu masangkeun ieu-Badan Kaamanan Nasional (NSA), anu mangrupikeun bagian tina Departemen Pertahanan, anu urang kedah nyauran Departemen Perang ayeuna kusabab sababaraha alesan.
[Seuri] Urang teu kedah ngalakukeun nanaon.
[Seuri] Kami henteu. Éta leres di dieu di Amérika. Urang teu kudu ngalakukeun nanaon. Tapi NSA dasarna geus ngartikeun ulang naon loba kecap hartina kaluar tina basa Inggris sapopoe hartina, "Urang ngan bisa ngalakukeun panjagaan." Teras teras sering aya skandal nalika jalma mendakan yén aranjeunna ngan ukur ngawaskeun. Janten pasangkeun panggung di dinya, sareng kuring henteu hoyong ngabalikan deui anjeun sadayana, tapi parantos lami-lami dimana pola ieu diulang deui.
Eta gumantung kana kumaha jero rék balik, tapi versi pondok téh écés dina post-9/11 dunya, AS ngaluluskeun Patriot Act, nu miboga sababaraha kamampuhan pikeun pamaréntah kalibet dina panjagaan, nu sakuduna dituju pikeun ngajaga urang ngalawan ancaman téroris hareup. Kana waktosna, éta diinterpretasi ku cara anu pikaresepeun sareng aya sababaraha watesan dina éta. Urang ogé kungsi pangadilan FISA, nu pangadilan husus anu sakuduna marios komunitas kecerdasan sarta kagiatanana, tapi geus tradisional geus pangadilan hiji sided. Ngan hiji sisi anu tiasa ngabela kasusna ka pangadilan éta sareng sadayana dilakukeun sacara rahasia.
Aya seueur barang anu henteu dipikanyaho. Teras aya sapotong sanés dina sadaya ieu, anu balik deui ka Ronald Reagan, nyaéta Orde Eksekutif 12333, anu konon ngeunaan netepkeun aturan jalan pikeun ngumpulkeun intelijen.
Janten anjeun gaduh tilu sét hukum ieu — ogé, sababaraha sét undang-undang — sareng paréntah eksekutif anu ka masarakat, bagian-bagian anu anjeun tiasa baca, sigana nyarioskeun hal-hal anu tangtu ngeunaan naon anu tiasa dilakukeun ku pamaréntah urang sareng NSA dina hal panjagaan. Nalika dibaca nganggo kamus basa Inggris anu polos, sifat anu anjeun sareng kuring sigana gaduh sareng ngartos, urang bakal kabur ku kapercayaan yén kamampuan NSA pikeun ngawaskeun Amerika terbatas pisan, bahkan dugi ka titik anu sakuduna, upami aranjeunna sadar yén aranjeunna ngawaskeun jalma AS, yén aranjeunna kedah langsung lirén sareng ceurik kotor sareng mupus data sareng sadaya hal anu sanés.
Sakedapan aya gosip yén éta henteu leres-leres kajantenan sareng aya petunjuk sareng khususna Sénator Ron Wyden nyarios pisan ngeunaan angkat ka lantai Sénat sareng nyarios, "Aya anu henteu leres di dieu sareng kuring henteu tiasa nyarioskeun ka anjeun naon," atanapi dina pamariksaan anjeunna bakal naroskeun ka pejabat intelijen, "Naha anjeun atanapi anjeun henteu ngumpulkeun data massa di Amérika?"
Pajabat-pajabat éta bakal nyimpang atanapi dina sababaraha kasus langsung ngabohong. Kuring yakin éta hiji dédéngéan di 2012 kalawan James Clapper, saha éta Diréktur AKAL Nasional wanoh, dimana anjeunna ditanya langsung dina titik ieu. Sareng dasarna anjeunna nyarios, "Henteu, kami henteu ngumpulkeun data ngeunaan Amerika." Éta mangrupikeun bagian anu ageung tina anu diideuan Ed Snowden pikeun ngabocorkeun data, laporan yén anjeunna bocor ka Glenn Greenwald sareng Barton Gellman sareng Laura Poitras ogé. Tina sadaya éta, anu mimiti urang mendakan nyaéta yén NSA gaduh kamus sorangan anu rada béda ti kamus anu anjeun sareng kuring anggo, ku kituna aranjeunna tiasa napsirkeun kecap-kecap dina cara anu béda ti hartos basa Inggris anu polos, kalebet kecap-kecap sapertos "target," anu karasaeun sapertos kecap konci. Pamahaman anu lega ngeunaan naon ieu nyaéta, dina téori, aranjeunna ngan ukur kedah nargétkeun jalma-jalma anu sanés urang Amérika Serikat, kuring pikir éta frasa.
Tapi cara anu diinterpretasi kana waktosna nyaéta yén naon waé anu nyebatkeun jalma éta, naon waé anu aya ngeunaan jalma asing ayeuna mangrupikeun kaulinan anu adil, sanaos éta mangrupikeun komunikasi hiji jalma.jalma AS. Janten upami anjeun sareng kuring kedah silih téks sareng nyebatkeun jalma asing, éta mangrupikeun kaulinan anu adil pikeun NSA pikeun ngumpulkeun sareng ngajaga sareng nyimpen.
Aya bagian kadua ieu. Kuring disebutkeun Orde Eksekutif munggaran 12333 ti Ronald Reagan, nu, salaku téhnologi robah kana waktu jeung internét tumuwuh, éféktif diwenangkeun NSA ngetok kana komunikasi asing, tapi nu kaasup sagala komunikasi nu mungkin geus ninggalkeun AS dina jalur wae. Janten upami kuring nga-sms anjeun sareng pesen ti kuring di California ngalangkungan kabel serat optik anu kajantenan ninggalkeun AS, NSA tiasa nempatkeun ketok dina bagian éta nalika éta di luar AS sareng ngumpulkeun inpormasi éta, sanaos éta ngan ukur ka anjeun dina AS.
NSA teras tiasa nyimpen inpormasi éta sanaos aya dina jalma-jalma AS, sareng aranjeunna tiasa ngalakukeun panéangan khusus ngeunaan éta engké, sok disebut salaku "pamilarian backdoor." Aranjeunna dikumpulkeun informasi ieu nu urang yakin maranéhna teu sakuduna dituju ngumpulkeun di tempat munggaran, tapi maranéhna bisa tetep. Jeung maranéhna jangji, aranjeunna pinky swore, yén maranéhna bakal tetep swasta, tapi lamun maranéhna ngalakukeun pilarian sarta manggihan yén anjeun atanapi kuring disebutkeun hiji jalma asing, lajeng ujug-ujug éta kaulinan adil pikeun aranjeunna ngalakukeun naon maranéhna rék kalawan eta.
Dina total, éta parantos janten dunya dimana pamaréntah féderal dasarna tiasa ngumpulkeun inpormasi anu aya di luar AS. Malah lamun éta sagemblengna antara dua jalma AS, lamun maranéhna nyebut atawa malah hint di batur anu lain jalma AS, dumadakan éta kaulinan adil dikumpulkeun. Sareng ti éta kami parantos nampi anu katingalina mangrupikeun bentuk panjagaan massal jalma-jalma AS ku NSA anu nyatakeun sareng sacara umum nyatakeun yén éta henteu nénjo jalma-jalma AS.
Kumaha urang dugi ka titik ieu? Ieu seueur léngkah orok tambahan. Anjeun nyebatkeun James Clapper di 2012, éta administrasi Obama. Anjeun nyarios Ronald Reagan, éta 1980s. Kami nuju ngalangkungan Demokrat sareng Republik di dieu.
Perang ngalawan teror lumangsung dina George W. administrasi Bush, jeung 9/11 jeung Patriot Act lumangsung dina George W. administrasi Bush. Aya loba hal goréng incremental handapeun presidents duanana pihak, dina congresses duanana pihak. Kumaha ieu kajadian?
Bentuk pangbasajanna nyaéta yén teu aya anu, sareng pastina teu aya présidén, anu hoyong janten présidén nalika aya serangan teroris anu ageung, sabab éta ngajantenkeun aranjeunna goréng. Jelas aranjeunna ogé hoyong ngajaga Amérika, leres? Éta bagian tina pakasaban maranéhanana. Upami anjeun gaduh komunitas intelijen anu dasarna beroperasi dina gelap sabab éta anu dilakukeun ku komunitas intelijen sareng aranjeunna teras-terasan sumping ka anjeun sareng nyarios, "Eh, upami urang ngan ukur tiasa nampi aksés kana inpormasi ieu, éta bakal ngabantosan pikeun nyegah serangan teroris."
Panginten aya kasus dimana éta leres, yén komunitas intelijen tiasa ngagunakeun inpormasi ieu dina cara anu saé. Tapi kami ogé, dina téori, masarakat hukum sareng Konstitusi AS anu sakuduna urang taat. Tapi éta ngamungkinkeun kanyataan yén administrasi saatos administrasi, deui, Republik sareng Démokrat, gaduh pengacara anu pinter pisan sareng anu bakal ningali sareng nyarios, "Nya, upami urang nyortir posisi ku cara ieu atanapi urang nyatakeun ku cara kieu atanapi urang napsirkeun ieu, ku cara éta urang tiasa nampi naon anu dipikahoyong sareng henteu sacara teknis ngalanggar hukum atanapi henteu sacara teknis ngalanggar Amandemen Kaopat.
Anggapan éta salawasna, "Urang tiasa ngabengkokkeun hukum atanapi ngabengkokkeun interpretasi hukum urang sareng teu aya anu leres-leres bakal ningali ieu, atanapi teu aya anu paduli anu leres-leres bakal ningali ieu, ku kituna urang bakal kabur."
Aya dua hal anu bener-bener luncat ka kuring. Hiji, anjeun jeung kuring duanana maca loba putusan pangadilan - kaputusan pangadilan banding jeung kaputusan Mahkamah Agung. Sareng aya gelut di Mahkamah Agung urang ngeunaan kumaha sacara harfiah napsirkeun kecap-kecap dina katetepan sareng undang-undang urang.
Kuring moal meunang jauh teuing kana eta, tapi kuring bakal nyebutkeun umumna gagasan nu ngan kedah maca kecap dina kaca jeung ngalakukeun naon anu maranehna nyebutkeun galur dominan tina interpretasi statutory di Amérika Serikat. Kénca atawa katuhu, duanana ngomong. Aranjeunna ngajawab ngeunaan sababaraha titik denda pisan esoteric naon sabenerna hartina. Tapi yén anjeun ngan ukur tiasa maca kecap-kecap ieu sareng ngalakukeun naon anu dicarioskeun, éta sanés pikeun direbut, sanés?
Kami geus landed on sahenteuna éta lolos mimiti naon meureundisebutna tékstualisme. Kumaha carana pengacara duanana administrations meunang ieu jauh ti mode dominan hukum-pembuatan kaputusan di nagara urang? Justices duanana pihak duanana satuju yén éta téh sahenteuna léngkah munggaran.
Abdi ngarepkeun kuring terang jawaban anu pasti, tapi kuring pikir éta motivasi, leres? Salaku pengacara, anjeun aya pikeun ngabéla klien anjeun sareng kasuksésan - upami anjeun tiasa nyebat éta kasuksésan - sistem hukum urang condong dumasar kana kaayaan musuh anu anjeun gaduh sisi anu béda pikeun ngabantah hal-hal ieu, dimana peran adjudicator nyaéta pikeun ngahususkeun sareng terang sisi mana anu leres.
Salah sahiji masalah sareng komunitas intelijen sareng pangaturanana nyaéta yén anjeun henteu gaduh kaayaan anu ngaganggu. Éta ngagampangkeun hiji sisi pikeun menerkeun argumen anu aranjeunna lakukeun kumargi teu aya anu leres-leres ngadorong deui. Anjeun ngagabungkeun nu ku sieun overarching serangan teroris sejen, nanaon nu patali jeung kaamanan nasional, komo mun anjeun boga kaayaan dimana anjeun boga pangadilan FISA - Maksad abdi pangadilan FISA éta rada kawentar pikeun éféktif jadi cap karét salila sababaraha taun.
Kuring poho angka pasti, tapi éta hal kawas leuwih 99 persén aplikasi nu indit ka pangadilan FISA pikeun ngidinan pikeun panjagaan kaayaan nu tangtu anu dibéré, tur éta gampang ngomong 99 persen écés teuing. Jelas jalma anu mawa klaim ka pengadilan, aranjeunna milih sareng milih. Aranjeunna henteu, sabagéan ageung, nyangking klaim anu gélo. Tapi tanpa éta aspék adversarial sareng sareng sakelompok jalma anu ngamotivasi pisan anu mikir, "Urang kedah ngalakukeun ieu," atanapi diwartosan ku administrasi, "Urang kedah ngalakukeun ieu," aranjeunna bakal mendakan cara pikeun ngalakukeunana. Tur éta tempat anjeun mungkas nepi kana waktu.
Naha aya saha waé anu kalibet dina prosés ieu anu kantos hudang sareng nyarios ka dirina, "Budak, urang parantos ngahartikeun deui kecap 'target' pikeun hartosna naon waé anu dipikahoyong"?
[Seuri] Jelas anjeun ngagaduhan Ed Snowden, anu ngabocorkeun sakumpulan dokumén. Anjeun kungsi John Napier Tye, anu nulis sapotong pikeun The Washington Post di 2014, nu wangsit interpretasi Orde Eksekutif 12333, sarta ngomong yén éta masalah nyata nengetan. Anjeun gaduh jalma sanés anu nyarios ngeunaan hal-hal ieu, tapi sabagéan ageung, jalma-jalma anu kalibet dina damel dina administrasi ngeunaan barang-barang komunitas intelijen dibeli kana pandangan komunitas intelijen, nyaéta yén tujuan utama nyaéta ngajaga nagara tina hal anu goréng. Cara anu pangsaéna pikeun ngalakukeun éta nyaéta gaduh seueur inpormasi anu jéntré.
Gampang janten simpatik kana argumen yén, enya, gaduh inpormasi langkung seueur tiasa ngamungkinkeun aranjeunna pikeun nyekel hiji hal anu langkung awal atanapi mendakan anu penting, tapi, hiji, éta panginten henteu leres. Kéngingkeun seueur teuing inpormasi sigana langkung goréng sapertos sakedik inpormasi sabab sering tiasa nyumputkeun inpormasi anu leres-leres mangpaat, inpormasi anu anjeun peryogikeun pikeun nangtukeun hiji hal.
Tapi ogé, urang boga U..S. Konstitusi di tempat munggaran tur urang boga alesan naha, dina tiori, urang nuju teu sakuduna dituju pikeun ngidinan pikeun panjagaan massa tanpa alesan probable. Salaku nagara anu percaya kana aturan hukum, urang kedah tiasa hirup dugi ka éta, sareng nalika sadaya hal ieu kajantenan di gelap, anjeun bakal condong kana éta.
Ieu brings kuring ka Anthropic. Anthropic utamina perusahaan perusahaan. Aranjeunna saé dina pamaréntahan, aranjeunna ngawangun otot-otot éta, aranjeunna didamel ku jalma-jalma anu leres-leres terang dina sababaraha hal ieu. Aranjeunna écés melong Pete Hegseth nyebutkeun, "Urang hayang sagala kagunaan halal,"Jeung maranéhna indit dua tingkatan interpretasi handap sarta ngomong, "Muhun, kapercayaan literal anjeun yén kecap ieu teu hartosna naon maranéhna nyebutkeun aranjeunna hartosna dina beungeut maranéhanana. Jadi 'sagala kagunaan halal' badag teuing, sarta kami rék nempatkeun sababaraha guardrails utamana sabudeureun panjagaan massa ".
Sakali deui, kuring badé nyéépkeun senjata otonom, anu mangrupikeun garis beureum anu sanés, tapi khususna dina panjagaan massal, Dario Amodei di luar nyarios, "Urang tiasa ngalakukeun teuing. Ieu bahaya teuing. Ieu palanggaran Amandemen Kaopat. "
Tegangan aya "anjeun nyarios yén anjeun bakal sasuai sareng undang-undang ieu anu nyarioskeun hiji hal sareng ayeuna, saatos waktos ieu, aranjeunna hartosna hal anu béda-béda sareng kami henteu hoyong janten bagian tina éta." Éta étagelut. Kuring ngan ukur hoyong ngabandingkeun éta ka Sam Altman, anu nyarios, "Kami bakal ngalakukeun sagala kagunaan anu sah," teras masangkeun pesen anu panjang ieu sapertos, "Ieu sadaya undang-undang anu bakal kami laksanakeun."
Sigana mah Altman henteu terang kumaha NSA napsirkeun deui hal-hal ieu sareng jinisna dicandak. Sareng anjeunna ti saprak mimiti leumpang deui - sanaos nalika urang ngarékam, kuring yakin aya deui tweets sareng posisi sadayana parantos robih. Tapi Altman geus leumpang deui lalaunan, tapi sigana OpenAI meunang tali kana maca katetepan dina beungeut maranéhanana sarta percanten naon maranéhna ngomong. Éta ogé interpretasi anjeun ngeunaan acara?
Aya dua kemungkinan, tur éta salah sahijina. Salah sahijina nyaéta anjeunna dimaénkeun cara anu sami anu dimaénkeun ku masarakat salami mangtaun-taun. Téori alternatif, sareng kuring henteu terang anu mana anu leres, nyaéta anjeunna atanapi sababaraha pengacara di OpenAI - anu kuring pikir pisan kompeten sareng terang pisan - terang ieu, tapi panginten aranjeunna tiasa maénkeun kaulinan anu sami anu dimaénkeun ku NSA sababaraha dekade, salami aranjeunna nyarioskeun hal-hal ieu teras aranjeunna nyarios kecap-kecap, tapi aranjeunna henteu ngungkabkeun interpretasi anu saleresna. Janten Sam kaluar sareng pernyataan anu ngajantenkeun sapertos "Kami ngagaduhan garis beureum anu sami sareng Anthropic, sareng pamaréntahan hébat sareng éta."
Nyatana, saur Sam Altman nyarios yén Anthropic ngagaduhan dua garis beureum sareng OpenAI ngagaduhan tilu, sareng pamaréntahan éta saé pisan sareng éta, sareng anu nyababkeun seueur jalma anu ngeruk sirahna. Tapi kuring nyangka yén Sam Altman sareng saha waé anu ngurilingan anjeunna henteu ngartos kumaha hal-hal ieu tiasa dianggo dina prakna, atanapi aranjeunna, sareng aranjeunna ngan ukur nganggap yén masarakat henteu terang sareng ku kituna aranjeunna tiasa kabur.
Hal séjén anu aya dina pikiran - deui, AI énggal sareng éta pikabitaeun pikeun datang dina téknologi anyar sabab ieu mangrupikeun masalah kesan munggaran. "Teu aya anu kantos mikirkeun ieu sateuacanna," tapi kanyataanana sadayana parantos lami mikiran barang ieu. Panginten hal anu énggal di dieu sanés AI, tapi yén administrasi Trump anu kadua, tibatan ngalakukeun kebat pengacara anu sigana moal aya anu maca pikeun menerkeun lampahna ka pengadilan rahasia anu teu aya anu nengetan, ngan ukur henteu halus.
Aranjeunna henteu langkung canggih sareng aranjeunna ngan ukur nyarios yén aranjeunna bakal nénjo sadayana unggal waktos. Éta ngan ngumumkeun niat maranéhanana dina cara nu meureun sadayana administrations kedah ngan ngumumkeun niat maranéhanana sarta ningali dimana chip ragrag.
Tapi kuring ningali kanyataan yén aya Ed Snowden di New York City. AT&T ngajalankeun gedong anu sadayana terang mangrupikeun gedong NSA. Éta ngan ukur gedong raksasa, sareng urang kedah pura-pura éta sanés pusat panjagaan NSA, tapi aya di dinya. Éta badag. Taya nu sigana geus datang ka nanaon. Sadaya wahyu ieu, bocor ieu, kami henteu acan mundur.
Nyatana, éta ngan ukur ningkat kusabab seueur kahirupan urang parantos janten digital. Sareng panginten administrasi Trump janten alat anu blunt sepanjang waktos, éta tiasa janten hal anu nyababkeun perhitungan. Naha anjeun ningali éta maén waé?
Aya sababaraha hal anu béda di dinya, sareng éta henteu leres pisan yén kami henteu acan mundur barang ieu. Wahyu ti Snowden nyababkeun sababaraha parobihan dina kumaha kajadian ieu. Sareng ayeuna aya - kuring hilap naon anu disebut aranjeunna, tapi aranjeunna sapertos jalma-jalma amicus sipil ieu dina pangadilan FISA anu bakal bertindak salaku nampilkeun sisi anu sanés dina sababaraha masalah.
Sarta kami geus katempo sababaraha otoritas kawates dina cara nu tangtu, sarta aranjeunna datang nepi ka reauthorization unggal jadi mindeng, sarta aktivis geus pisan agrésif ngeunaan ngadorong deui na nyobian nempatkeun sababaraha guardrails on. Tapi kana patarosan anu langkung ageung, kuring nyangka aya dua hal anu béda. Anjeun satengah leres yén administrasi ieu henteu halus sareng ngan ukur nyarioskeun hal-hal anu henteu kedahna.
"Kami nuju perang sareng Iran, kami ngalakukeun éta, éta kajantenan. Kami malah moal nyobian tarian."
Dina cara anu henteu dilakukeun ku sadayana administrasi sateuacana. Tapi aranjeunna henteu nyarios langsung ngeunaan étapanjagaan, utamana panjagaan Amerika. Aya petunjuk ngeunaan éta, tapi aranjeunna henteu kaluar pisan kana éta. Satengah sanésna kedah langkung seueur sareng posisi Anthropic sareng pandangan umum ngeunaan AI salaku téknologi anu mungkin eksistensi ieu, dimana Anthropic sok nunjukkeun dirina salaku, "Kami mangrupikeun jalma-jalma anu wijaksana," sareng naha anjeun yakin yén éta salian ti titik. Aranjeunna gaduh reputasi ieu di luar: "Kami nyobian ngalakukeun ieu ku cara anu aman, anu ngahormatan umat manusa sareng merhatikeun sadaya hal ieu." Sareng nalika anjeun gaduh pasea éta, éta tempat perjuanganna.
Anjeun gaduh administrasi Trump anu ngan ukur hoyong tiasa ngalakukeun naon waé anu dipikahoyong tiasa dilakukeun, sareng aranjeunna henteu halus ngeunaan éta. Teras anjeun gaduh Anthropic, anu déskripsi diri sareng persona umumna sapertos kieu, "Kami wijaksana sareng urang hormat kamanusaan sareng hak-hak sareng sadaya hal ieu." Éta sigana tempat pasea, sabab Anthropic, sakumaha anu parantos dijelaskeun, parantos damel sareng Departemen Pertahanan samentawis sareng gaduh seueur kontrak sanés sareng pamaréntahan anu parantos dianggo. Éta henteu janten masalah.
Éta ngan ukur di daérah-daérah khusus ieu dimana, nalika pamaréntahan narékahan pikeun ngalegaan kontrak anu dipiboga, pimpinan senior Anthropic mimiti nyarios, "Antosan, urang kedah mastikeun yén urang henteu nyebrang garis beureum ieu anu berpotensi ngabahayakeun reputasi urang salaku panyadia AI anu wijaksana, aman.
Abdi hoyong naroskeun sakedap ngeunaan panjagaan sacara umum, sareng khususna perhatian Amandemen Kaopat Anthropic. Amandemen Kaopat nyatakeun yén pamaréntah henteu tiasa milarian anjeun sacara teu wajar. Cara anu pangsaéna pikeun ngartos Amandemen Kaopat nyaéta ku ngadangukeun "99 Masalah" ku Jay-Z. Janten upami anjeun kedah istirahat sareng ngadangukeun "99 Masalah," éta saé. Éta sadayana aya. Kuring ngadangukeun éta nalika kuring di sakola hukum sareng éta leres pisan.
Tapi pamaréntah umumna peryogi waran pikeun milarian anjeun. Sareng beuki seueur kahirupan anjeun online, seueur pisan pengecualian pikeun ieu. Tapi idena nyaéta aranjeunna tetep kedah peryogi jaminan online. Argumen Anthropic nyaéta, "Muhun, AI moal pernah bosen. Éta tiasa milarian sadayana sadaya waktos. Éta hartosna urang ngan ukur bakal ngalakukeun panjagaan master. "
Sanaos sateuacan AI muncul, ideu yén pamaréntah tiasa milarian sadayana anu anjeun pikahoyong aya di luar, ideu yén pamaréntah henteu peryogi waran pikeun milarian sadaya barang anjeun di luar. Gagasan yén upami aya data anjeun kantos angkat ka luar nagara sakedap, pamaréntahan nyegat éta di dinya,
Nalika kuring kuliah, sakitar waktos Patriot Act, perdebatan éta aranjeunna henteu milarian data anjeun anu saleresna, tapi aranjeunna tiasa nampi metadata sareng metadata nyalira. Data ngeunaan data anjeun bakal cekap pikeun mendakan anjeun unggal waktos. Komo nu jauh teuing. Sareng urang parantos ngalaksanakeun tarian ieu naon anu tiasa dikumpulkeun ku pamaréntah? Naon anu diidinan? Naon anu aranjeunna peryogikeun pikeun ngajaga urang sadayana aman sareng naon anu jauh teuing? Garis-garis éta parantos pindah.
Janten sakedap ngajelaskeun perhatian umum ngeunaan panjagaan dina skala sareng dimana urang ayeuna. Sateuacan kaayaan AI ngajantenkeun sadayana sacara éksponénsial langkung rumit.
Di dieu kuring kedah ngenalkeun konsép sanés anu sigana kedah disebatkeun sateuacana, tapi anu penting, anu disebut "doktrin pihak katilu." Gagasan sareng Amandemen Kaopat nyaéta pamaréntah henteu tiasa milarian anjeun atanapi barang-barang anjeun tanpa nawaran sareng éta henteu tiasa nampi nawaran tanpa sabab kamungkinan yén anjeun parantos ngalakukeun sababaraha kajahatan. Tapi aya konsép ieu nu datang ngeunaan dekade kaliwat disebut doktrin pihak-katilu, nu nyebutkeun yén éta teu merta dilarapkeun, atawa teu berlaku pisan, kana hal anu teu Hormat, sanajan data anjeun.
Versi pangheubeulna jeung paling atra ieu rékaman telepon nu parusahaan telepon miboga saha anjeun nelepon. Perusahaan telepon henteu ngarékam telepon anjeun, tapi aranjeunna ngarékam upami kuring nelepon anjeun, bakal aya rékaman di perusahaan telepon anu nyarios, "Mike nelepon ka Nilay." Sareng anu parantos ditangtukeun ku sababaraha pengadilan nyaéta pamaréntahan tiasa angkat sareng nyuhunkeun éta, sareng aranjeunna henteu peryogi waran pikeun éta sabab éta sanés milariandata anjeun, éta pihak katilu ieu sareng aranjeunna tiasa satuju salaku pihak katilu ngan ukur nyerahkeun data éta.
Tapi éta kasus ti taun 1960-an sareng 70-an, dimana éta ditetepkeun yén pamaréntahan tiasa nampi aksés kana éta tanpa jaminan, nalika teu aya data pihak katilu anu seueur. Kebangkitan komputer sareng internét ngarobih éta. Ayeuna, sadayana mangrupikeun data pihak katilu. Sadayana anu urang laksanakeun dikumpulkeun ku sababaraha perusahaan dimana waé sareng gaduh catetan ngeunaan éta. Janten dasarna unggal bit data ngeunaan anjeun, dimana anjeun, saha anjeun nyarios, saha anjeun berinteraksi, naon anu anjeun carioskeun, naon anu anjeun laksanakeun, sadayana éta dicekel ku pihak katilu ayeuna. Janten doktrin pihak katilu parantos ngelek sadayana Amandemen Kaopat dugi ka sababaraha tingkat, dimana naon waé ngeunaan anjeun anu dipiboga ku batur, aya standar anu langkung handap pikeun naon anu tiasa dilakukeun ku pamaréntah pikeun nyuhunkeunana.
Janten spésifik, ieu hartosna nalika data kuring aya dina iCloud, pamaréntahan tiasa angkat ka Apple sareng kéngingkeun data kuring tina iCloud tanpa kantos nyarios ka kuring?
Éta bisa menta eta. Aranjeunna tiasa kalayan gampang nyuhunkeunana tanpa nawaran. Lajeng parusahaan boga hak sorangan sarta bisa nangtukeun naon maranéhna rék ngalakukeun kalawan pamundut éta. Éta ngan bisa nyerah. Aranjeunna tiasa, sakumaha kalobaannana bakal ngalakukeun, lamun éta pamundut serius, nampik requests kaluar leungeun atawa maranéhna bisa ngingetkeun Anjeun tur maranéhna bisa ngomong - na ieu téh naon kalobaannana bakal ngalakukeun - aranjeunna bakal waspada anjeun sarta ngomong, "Pamaréntah geus requesting sababaraha data anjeun. Anjeun bisa indit ka pangadilan jeung nyoba meungpeuk aranjeunna ". Upami henteu, aranjeunna bakal nyerahkeun data anjeun dina tujuh dinten atanapi naon waé.
Deui, eta gumantung. Upami éta panyelidikan kriminal, maka meureun aya sababaraha jinis pesenan lelucon dimana perusahaan henteu diidinan nyarios ka anjeun. Aya sagala rupa kaayaan, tapi kalobaannana ngalibetkeun kirang ti tingkat panyalindungan anu Kaopat amandemen bakal merlukeun lamun éta data atawa informasi naon atawa nanaon di imah anjeun sorangan.
Jumlah data anu anjeun gaduh dina server awan batur ageung, leres? Unggal hal anu anjeun lakukeun umumna dina internét ayeuna dicadangkeun ku sababaraha cara atanapi dirékam dina sababaraha cara dina server batur. Pamaréntah parantos mendakan cara ieu pikeun ngurilingan Amandemen Kaopat sareng nyarios, "Nya, éta sanés milik anjeun. Éta milik Amazon. Urang tiasa ngobrol sareng Amazon, "sareng Amazon kedah nangtung di tengah prosés éta sareng nyarios, "Kami parantos nimukeun prosés anu sanés pikeun ngajagaan jalma-jalma.
Kuring ningali éta-na nalika kuring nutupan kasus doktrin pihak katilu anu munggaran anu nutupan jasa awan sareng pamaréntahan tetep meunang, éta dasarna nalika kuring janten Joker. Kuring sapertos, "Sadaya barang ieu anu urang pura-pura ngeunaan tékstual sareng [maca] polos, teu aya anu hartosna naon-naon sabab urang ngan ukur tenaga kuda ka tukang nganggo hukum kuno ieu kana data sadayana."
Teras kuring ningal ieu sareng kuring ningal Anthropic sareng kuring nyarios, "Muhun, ieu pola anu sami." Ieu mangrupikeun perusahaan swasta anu nyarios, "Oke, kami ngartos posisi anjeun. Kami ngartos yén anjeun parantos napsirkeun deui hukum pikeun hartosna hal ieu, sareng kami bakal nempatkeun sababaraha prosés di antara anjeun, alat kami, sareng data Amérika anu ngalir dina jasa kami. " Kuring ngan heran naha anjeun ningali paralel anu aya, antara Anthropic sareng Amazon sareng Azure sareng naon waé jasa awan anu aya anu nahan seueur data urang.
Leres, sanaos aya sababaraha klarifikasi anu penting di dieu anu ngajantenkeun ieu rada béda. Sarta dina kanyataanana - Jigana The New York Times kungsi ngalaporkeun ieu munggaran - klausa utama anu paling penting pikeun Anthropic éta husus ngeunaan data dikumpulkeun ti jasa komérsial sarta teu bisa ngagunakeun Claude on data éta, nu persis masalah ieu dina watesan data pihak-katilu. Tapi kuring hoyong netelakeun bédana utama antara naon anu urang ngobrolkeun sateuacan ieu sareng Amazon atanapi pihak katilu anu sanés anu nyayogikeun data anjeun, éta kasus dimana aranjeunna, kusabab dimana aranjeunna linggih dina ékosistem, aranjeunna nyayogikeun data anjeun langsung.
Kalayan Claude, éta sanés yén saha waé anu hariwang ngeunaan NSA ningali pamakean Claude anjeun. Éta ngeunaan aranjeunna kaluar sareng kéngingkeun data pihak katilu ti Amazon atanapi langkung dipikaresep jinis calo data anu disumputkeun anu ngaladénan iklan dina telepon anjeun sareng terang lokasi anjeun sareng kapentingan anjeun sareng hal-hal sapertos kitu. Lajeng nyoco éta kana sistemyén Claude lajeng bakal dianggo dina. Éta naon Anthropic bener teu hayang jadi bagian tina. Janten dimana waé ogé pamaréntah bakal ngumpulkeun data éta ti pihak katilu, Anthropic nyarios, "Kami henteu hoyong alat kami dianggo dina data éta."
Apple famously nangtung nepi ka FBI nanyakeun eta nempatkeun backdoor dina iPhone, sarta Apple nyebutkeun "henteu," sarta aranjeunna nangtung nepi ka Trump. Sareng aya bagian kumaha sistem kami jalan dimana perusahaan swasta ageung nyarios "henteu" ka pamaréntah atas nama konsuménna. Sareng ieu dirasakeun ku cara anu sami Apple, sakali deui, moal nempatkeun éta di tukangeun iPhone, atanapi panyadia awan ageung nyarios, "Aya sakedik prosés anu anjeun kedah luncat sateuacan anjeun nampi data individu."
Di dieu sigana sapertos Anthropic nyarios, "Kami henteu ngan ukur bakal ngalakukeun analisa data anu ageung anu anjeun pikahoyong ti pihak sanés sabab éta nyababkeun panjagaan massa 24/7 Amérika, sareng kami henteu hoyong ngalakukeun éta." Acan éta sigana sasak jauh teuing pikeun administrasi ieu. Aya nu balik ti éta?
Urang tingali. Baheula nalika éta kajantenan - sareng éta sering kajantenan sareng kalolobaan perusahaan téknologi ageung, dina waktosna aranjeunna nyarios yén aya sasak anu jauh teuing - dimana anu biasana kajantenan ka pangadilan. Pausahaan bakal angkat ka pengadilan atanapi administrasi bakal angkat ka pengadilan sareng bakal aya sababaraha perang pangadilan.
Backdoor kana iPhone mangrupikeun conto anu sampurna. Éta angkat ka pengadilan sareng aranjeunna ngalawan éta, sanaos aranjeunna henteu kantos gaduh kacindekan sabab FBI pamustunganana ngan ukur sacara manual ngarobih kana iPhone teras henteu hoyong putusan pengadilan ngarusak éta di hareup.
Tapi dina hal ieu, dimana escalation nyaeta na dimana ieu béda ti eta kaayaan kaliwat éta tinimbang ngan bade pangadilan, administrasi Trump ngalakukeun ieu designation "suplai-ranté", nu ngan gélo. Gagasan ieu yén alat ieu anu dirancang pikeun ngeureunkeun poténsi aktor jahat asing tina nyayogikeun téknologi, anu teras tiasa nempatkeun alat panjagaan anu disumputkeun kana tumpukan téknologi anu langkung ageung, anu tiasa dilarang. Pikeun nerapkeun éta ka perusahaan anu berbasis di AS dina dasarna pikeun gaduh kabijakan etika karasa sapertos nyata, nyalahgunakeun alat éta.
Malahan alat éta tiasa ditaroskeun dina sababaraha cara, tapi anjeun tiasa ngartos dorongan di tukangeunana nalika anjeun nyarioskeun perusahaan jaringan Cina atanapi naon waé anu aya dina garis éta. Di dieu, teu aya rasa. Janten réaksi kana ieu langkung tebih saluareun anu biasana ditingali dina hal ieu. Anjeun tiasa ningali sacara tradisional bakal aya sababaraha kasus pengadilan sareng dua sisi tiasa ngamimitian sareng éta bakal janten perang ngeunaan kumaha kontrak tiasa diterapkeun.
Tapi éta sanés anu kajantenan di dieu. Administrasi ieu sacara efektif nyarios, "Upami anjeun henteu masihan kami sadayana anu kami pikahoyong, upami anjeun henteu nyetél alat anjeun pikeun dianggo ku cara anu kami hoyongkeun, maka kami bakal sacara efektif nyobian ngancurkeun sadayana usaha anjeun." Tur éta hiji escalation.
Aya hiji sapotong ieu nu Abdi hoyong mungkas dina, tur éta jenis paling versi galaksi-otak ieu. FIRE, anu mangrupikeun grup advokasi pidato gratis, ngaluarkeun postingan blog sateuacan urang ngamimitian ngarékam ngadamel argumen yén maksa Anthropic ngawangun alat anu henteu hoyong ngawangun mangrupikeun palanggaran ucapan bébas, yén éta mangrupikeun hal anu disebut ucapan anu dipaksa. Aya seueur sajarah di dieu. Aya sababaraha Verge jero tur Techdirt, dina-the-weeds, sajarah existential-krisis dieu.
Tapi dasarna asalna handap pikeun gagasan yén kode téh ucapan, yén kode nulis pikeun komputer mangrupa wangun ucapan jeung pamaréntah teu bisa maksa anjeun ngalakukeun hal eta, sarta sakabeh kebat barang ngalir ti éta. Naha anjeun ngagaleuh dalil ieu anu maksa Anthropic ngawangun alat anu henteu hoyong ngawangun mangrupikeun ucapan anu dipaksa?
Leres, saleresna kuring pikir éta cukup pikaresepeun. Omongan maksa maksa. Tapi henteu, kuring pikir éta mangrupikeun argumen anu pikaresepeun. Ieu mangrupikeun anu sakedik langkung handap tina daptar masalah anu kuring pikirkeun. Kuring éta écés lolobana leuwih difokuskeun kana masalah Amandemen Kaopat, tapi kuring pikir argumen FIRE teu salah. Kami parantos ningali ieu dina konteks anu sanés. Éta ogé muncul dina masalah backdoor ogé, dina hal nyobian ngawangun backdoors kana sistem énkripsi.
Pausahaan pasti diangkat KahijiAmandemen nyatakeun, nyarios, "Ieu ucapan anu dipaksa pikeun maksa urang nyerat kode sapertos kitu." Ieu argumen valid. Bisa jadi, sakali deui, hiji pangadilan meureun kirang daék tackle mimitina lamun maranéhna bisa nungkulan masalah ieu sababaraha cara séjén. Tapi kuring bungah yén FIRE ngadamel tulisan éta sareng kuring pikir éta mangrupikeun argumen anu pikaresepeun sareng pikaresepeun.
Leres, éta ngan ukur sipat administrasi Trump anu kadua nyaéta yén éta mangrupikeun alat anu bodo, ampir pasti urang bakal nyerang sadaya masalah sakaligus.
Leres, unggal amandemen Bill of Rights kedah ditantang dina sababaraha bentuk atanapi anu sanés kalayan unggal masalah anu mungkin.
[Seuri] Puteran roda.
Kuring yakin urang tiasa nyocogkeun palanggaran Amandemen Katilu dimana waé di dieu.
Leres, nuhun. Claude kedah cicing di bumi anjeun ayeuna. Leres pisan. Éta bakal saé. Kami ngalakukeun [amandemen] hiji, tilu, opat, sareng tujuh. Urang rakkeun aranjeunna.
Mike, ieu geus hébat. Abdi henteu percanten yén anjeun henteu acan kantos dina acara éta. Ieu geus hébat. Anjeun kudu datang deui geura-giru.
Leres pisan. Iraha anjeun hoyong abdi.
Patarosan atanapi komentar ngeunaan episode ieu? Pencét kami di decoder@theverge.com. Kami leres-leres maca unggal email!
