Jodi a nou ap pale sou sitiyasyon an dezòd, k ap deplase rapid nan Anthropic, moun k ap fè Claude a ki kounye a jwenn tèt li nan yon batay legal trè lèd ak Pentagòn lan.
Retounen an konplike, men depi kèk jou de sa, Pentagòn te konsidere Anthropic yon risk pou chèn ekipman, e Anthropic te depoze yon pwosè pou konteste deziyasyon sa a, li di ke gouvènman an te vyole dwa Premye ak Senkyèm Amannman li yo nan "chache detwi valè ekonomik youn nan konpayi prive ki pi rapid nan mond lan te kreye." Mwen ka di ou kounye a: Nou pral pale sou Torsion ak vire nan ka sa a sou The Verge ak isit la sou Decoder nan mwa kap vini yo.
Men jodi a, mwen te vle pran yon ti moman epi vrèman fouye isit la sou yon eleman trè enpòtan nan sitiyasyon sa a ki pa resevwa ase atansyon paske sa a espiral soti nan kontwòl: ki jan gouvènman Etazini an fè siveyans, otorite legal ki pèmèt sa a siveyans fèt, ak poukisa Anthropic te defye gouvènman an di ke li ta swiv lalwa lè li rive itilize AI pou fè plis siveyans.
Abonnés Verge, pa bliye ou jwenn aksè eksklizif nan dekodeur san piblisite kèlkeswa kote ou jwenn podcasts ou yo. Tèt isit la. Pa yon abònen? Ou ka enskri isit la.
Envite mwen jodi a se Mike Masnick, fondatè ak Direktè Jeneral Techdirt, sitwèb politik teknoloji ekselan e ki dire lontan. Depi plizyè dizèn ane kounye a, Mike ap ekri sou depase gouvènman an, enfòmasyon prive nan laj dijital la, ak lòt sijè ki gen rapò. Li se yon ekspè sou fason entènèt la ak eta siveyans la te grandi nan fason ki konekte.
Ou wè, gen sa lalwa di gouvènman an ka fè lè li rive siveye nou, epi apre sa ki gouvènman an vle fè. E sa ki pi enpòtan, gen sa gouvènman an di lalwa a di li ka fè, ki souvan se egzakteman opoze a sa nenpòt moun nòmal tou senpleman li lalwa ta panse.
Ou pral tande Mike eksplike an detay isit la nan epizòd sa a ke nou pa ka - epi li pa ta dwe - pran gouvènman ameriken an nan pawòl li lè li rive siveyans. Genyen jis twòp istwa nan avoka gouvènman yo trese entèpretasyon yo nan mo senp tankou "sib" yo elaji siveyans nan fason konplike - fason ki anjeneral sèlman lakòz enkyetid nan sèk legal, epi sèlman jarèt moute lè gen gwo konfli tankou gwo revelasyon NSA denonsè Ed Snowden a plis pase yon dekad de sa.
Men, pa gen anyen sibtil oswa sofistike sou fè politik nan epòk Trump la - e konsa ak Anthropic, nou ap fè yon deba trè byen fò, trè piblik sou teknoloji ak siveyans an tan reyèl, sou entènèt la, nan pòs blog ak X rants, ak sou konferans pou laprès son-mòde. Genyen pozitif ak negatif nan sa, men pou fè sans de li tout, ou reyèlman dwe konnen istwa a.
Se sa Mike ak mwen te deside eksplike nan Episode sa a - kèlkeswa opinyon ou sou AI ak gouvènman an, Episode sa a pral fè li klè ke tou de pati yo te kite eta a siveyans vin pi gwo ak pi gwo sou tan. Koulye a, nou sou pwent pi gwo ekspansyon ankò lè li rive AI.
Oke: Techdirt fondatè ak CEO Mike Masnick sou Anthropic, Pentagòn lan, ak siveyans AI. Men nou ale.
Entèvyou sa a te alalejè modifye pou longè ak klè.
Mike Masnick, ou se fondatè a ak CEO nan Techdirt. Byenveni nan Decoder.
Mwen byen kontan isit la.
Mwen kontan gen ou sou. Mwen te jis di mwen choke ke ou pa janm te nan emisyon an anvan. Ou menm ak mwen te ekri ak afiche youn ak lòt pou yon tan long. Yon anpil nan kouvèti asirans The Verge dwe yon dèt ak sa ou te fè nan Techdirt ak Lè sa a, sa k ap pase ak Anthropic tèlman konplike, men frape anpil tèm ke ou te kouvri pou lontan. Mwen byen kontan ou finalman isit la.
Li se yon dezòd konplike nan yon sijè, men mwen eksite yo dwe fouye nan sou li.
Sa mwen vle konsantre sou ou se pa detay sou si Anthropic pral siyen yon kontra ak gouvènman an oswa si OpenAI pral jwenn kontra sa a. Olye de sa, mwen gen konfyans ant lè nou anrejistre sa a ak lè moun yo koute li, pral gen plis tweets ak plis bagay yo pral diferan pase yo te anvan.
Ki sa mwen vle konsantre sou se jis youn nan de liy wouj ke Anthropic te reyèlman mete deyò. Youn nan yo sezam otonòm, ki se pwòp nivo konplikasyon li yo. Lwa a gen yon ti kras plis naissant si wi ou non zam yo menm egziste oswa yo te deja deplwaye pa Larisi nan Lagè Ikrèn lan.
Genyen anpil lide isit la ke mwen jis vle mete sa sou kote paske mwen panse ke sa pral antre nan plis konsantre tout sou pwòp orè li yo. Lòt liy wouj la ke mwen vle pase anpil tan sou se siveyans mas. Epi gen anpil lwa isit la sou siveyans mas. Genyen anpil istwa, anpil istwa kontwovèsyal. Tout karaktè Edward Snowden egziste paske nan konfli sou siveyans mas.
Tout sa vin desann nan—mwen panse se ou menm ki afiche sa—Ajans Sekirite Nasyonal (NSA), ki se yon pati nan Depatman Defans, ke nou dwe rele Depatman Lagè kounye a pou kèk rezon.
[Ri] Nou pa oblije fè anyen.
[Ri] Nou pa fè sa. Se vre isit la nan Amerik la. Nou pa oblije fè anyen. Men, NSA a fondamantalman redefini sa anpil mo vle di soti nan lang angle a vle di, "Nou ka jis fè siveyans." Lè sa a, chak konsa souvan gen yon eskandal lè moun dekouvri ke yo ap jis fè siveyans. Se konsa, jis mete etap la la, epi mwen pa vle remonte ou tout wout la, men li te byen yon anpil tan kote modèl sa a te repete tèt li.
Sa depann de ki jan fon ou vle ale, men vèsyon an kout se evidamman nan mond lan apre-9/11, US la te pase Lwa Patriyòt la, ki te gen kèk kapasite pou gouvènman an angaje yo nan siveyans, ki te sipoze pou pwoteje nou kont menas teworis nan lavni. Apre yon tan, sa te entèprete nan fason enteresan e te gen kèk limit sou sa. Nou te gen tou tribinal FISA a, ki se yon tribinal espesyal ki sipoze revize kominote a entèlijans ak aktivite yo, men ki tradisyonèlman te yon tribinal yon sèl-side. Se sèlman yon bò ki vin plede ka yo nan tribinal sa a epi li tout fè an sekrè.
Gen anpil bagay ki pa t konnen. Apre sa, te gen yon lòt moso nan tout bagay sa yo, ki ale nan tout wout tounen nan Ronald Reagan, ki se Dekrè Egzekitif 12333, ki se swadizan sou etabli règleman yo nan wout la pou koleksyon entèlijans.
Donk ou gen sa yo twa ansanm de lalwa-byen, kèk ansanm de lalwa-ak yon lòd egzekitif ki bay piblik la, pati ke ou ka li, sanble yo di sèten bagay sou sa ki gouvènman nou an ak NSA an patikilye kapab fè an tèm de siveyans. Lè nou li ak yon diksyonè anglè klè, nati a nan ki ou menm ak mwen pwobableman genyen ak konprann, nou ta vini ak yon kwayans ke kapasite NSA a siveye Ameriken yo te trè limite, an reyalite nan pwen ke yo ap sipoze, si yo reyalize ke yo ap siveye yon moun US, ke yo ap sipoze imedyatman sispann epi kriye move epi efase done yo ak tout lòt bagay sa yo.
Te gen rimè pou yon ti tan ke sa pa t reyèlman rive e te gen sijesyon e an patikilye Senatè Ron Wyden te trè vokal pou ale nan etaj Sena a epi li di, "Yon bagay ki pa anfòm isit la epi mwen pa ka byen di ou ki sa," oswa nan odyans li ta mande ofisyèl entèlijans, "Èske w oswa èske w pa kolekte done mas sou Ameriken yo?"
Ofisyèl sa yo ta swa devye oswa nan kèk ka kareman bay manti. Mwen kwè se te yon sèl odyans an 2012 ak James Clapper, ki te Direktè Entèlijans Nasyonal nan epòk la, kote yo te poze l dirèkteman sou pwen sa a. Epi li fondamantalman te di, "Non, nou pa kolekte done sou Ameriken yo." Sa te yon gwo pati nan sa ki te enspire Ed Snowden koule done yo, rapò ke li te koule bay Glenn Greenwald ak Barton Gellman ak Laura Poitras tou. Soti nan tout sa, sa nou te kòmanse dekouvri se ke NSA a gen pwòp diksyonè pa li ki yon ti jan diferan pase diksyonè a ke ou menm ak mwen itilize, konsa ke yo ka entèprete mo nan yon fason ki diferan pase siyifikasyon an angle klè nan yo, ki gen ladan mo tankou "sib," ki santi yo tankou yon mo kle. Yon gwo konpreyansyon sou sa sa a se ke, nan teyori, yo ap sipoze sèlman vize moun ki pa moun US, mwen panse se fraz la.
Men, fason yo te entèprete li sou tan an se ke nenpòt bagay ki mansyone moun sa a, nenpòt ki bagay ki sou yon moun etranje se kounye a yon jwèt jis, menm si sa se kominikasyon yo nan yon moun.US moun. Se konsa, si ou menm ak mwen ta dwe tèks youn ak lòt epi mansyone yon moun etranje, sa se kounye a yon jwèt jis pou NSA a kolekte epi kenbe ak estoke.
Gen yon dezyèm pati nan sa a. Mwen mansyone premye Dekrè Egzekitif 12333 ki soti nan Ronald Reagan, ki, kòm teknoloji a te chanje sou tan ak entènèt la te grandi, efektivman pèmèt NSA a pwofite nan kominikasyon etranje, men sa ki enkli nenpòt kominikasyon ki te ka kite peyi Etazini an sou wout yon kote. Se konsa, si m ap voye tèks mesaj ou epi yon mesaj te ale nan men mwen nan Kalifòni atravè yon kab fib optik ki te rive kite peyi Etazini an, NSA a te kapab mete yon tiyo nan pati a yon fwa li nan deyò US la epi kolekte enfòmasyon sa yo, menm si li te jis ale nan ou nan peyi Etazini an.
Lè sa a, NSA a te kapab kenbe enfòmasyon sa yo menm si li te sou moun ameriken, epi yo te kapab fè rechèch espesifik sou sa pita, pafwa yo refere yo kòm "rechèch pòt dèyè." Yo te kolekte enfòmasyon sa yo ke nou kwè ke yo pa te sipoze kolekte an plas an premye, men yo te kapab kenbe li. Apre sa, yo te pwomèt, yo pinky te fè sèman, ke yo ta kenbe li prive, men si yo te fè yon rechèch epi yo te jwenn ke ou oswa mwen mansyone yon moun etranje, Lè sa a, toudenkou li te jis jwèt pou yo fè tou sa yo vle ak li.
An total, sa te tounen yon mond kote gouvènman federal la kapab fondamantalman kolekte nenpòt enfòmasyon ki rive touche andeyò peyi Etazini. Menm si li antyèman ant de moun US, si yo mansyone oswa menm allusion sou yon moun ki pa yon moun US, toudenkou li se jwèt jis yo dwe kolekte. Epi nou jwenn sa ki parèt yon fòm siveyans mas moun Ameriken pa yon NSA ki reklame ak piblikman deklare ke li pa espyone moun ameriken.
Ki jan nou te rive nan pwen sa a? Sa a se yon anpil nan etap ti bebe incrémentielle. Ou mansyone James Clapper an 2012, se administrasyon Obama a. Ou mansyone Ronald Reagan, sa se ane 1980 yo. Nou ap pase atravè Demokrat ak Repibliken isit la.
Lagè kont laterè te pase nan administrasyon George W. Bush, epi 9/11 ak Patriot Act te pase nan administrasyon George W. Bush. Gen anpil move bagay ki ogmante anba prezidan tou de pati yo, anba kongrè tou de pati yo. Ki jan sa te rive?
Fòm ki pi senp nan li se jis ke pèsonn, e sètènman pa gen prezidan, vle prezidan pandan tan an lè gen yon gwo atak teworis, paske sa fè yo gade move. Li evidan yo vle tou pwoteje Ameriken yo, dwa? Sa fè pati travay yo. Si ou gen yon kominote entèlijans ki ap fonksyone nan fènwa paske se sa kominote entèlijans yo fè epi yo kontinye ap vin jwenn ou epi yo di, "Hey, si nou te jis jwenn aksè a enfòmasyon sa a, li ta vrèman itil pou anpeche yon atak teworis."
Ka gen ka kote sa a vre, ke kominote a entèlijans se kapab sèvi ak enfòmasyon sa a nan yon fason ki travay byen. Men, nou tou se, nan teyori, yon sosyete nan lwa ak yon Konstitisyon US ke nou sipoze obeyi. Men, sa te pèmèt pou lefèt ke administrasyon apre administrasyon, ankò, Repibliken ak Demokrat, te gen avoka ki te trè entelijan epi ki ta gade nan ak di, "Oke, si nou sòt nan pozisyon sa a oswa nou deklare sa a oswa nou entèprete sa a, nan fason sa a nou ka jwenn sa nou vle epi yo pa teknikman vyole lalwa oswa pa teknikman vyole Katriyèm Amannman an."
Sipozisyon an te toujou, "Nou ka sòt de pliye lwa a oswa entèpretasyon nou an nan lwa a epi pèsonn pa vrèman janm pral wè sa a, oswa pèsonn ki gen sousi ki vrèman janm pral wè sa a, epi kidonk nou pral jwenn lwen ak li."
Gen de bagay ki vrèman sote sou mwen. Premye, ou menm ak mwen tou de li anpil desizyon tribinal — desizyon tribinal apèl ak desizyon Tribinal Siprèm. Epi gen yon batay nan Tribinal Siprèm nou an sou fason pou literalman entèprete mo ki nan lwa nou yo ak lwa nou yo.
Mwen pa pral twò lwen nan li, men mwen ta di jeneralman lide ke ou ta dwe jis li mo yo sou paj la epi fè sa yo di se souch dominan nan entèpretasyon legal nan peyi Etazini. Agòch oswa adwat, yo tou de di li. Yo diskite sou kèk pwen trè esoterik amann nan sa ki aktyèlman vle di. Men, ke ou ta dwe jis kapab li mo sa yo epi fè sa yo di, sa a pa moute pou pwan, dwa?
Nou te ateri sou omwen premye pas sa ou ta karele tekstualism. Ki jan avoka nan tou de administrasyon yo jwenn sa a lwen mòd dominan nan pran desizyon legal nan peyi nou an? Jij tou de pati yo dakò ke se omwen premye etap la.
Mwen swete mwen konnen repons egzak la, men mwen panse se rezònman ki motive, pa vre? Kòm yon avoka, ou la pou defann kliyan ou ak siksè - si ou ka rele li siksè - nan sistèm legal nou an gen tandans yo dwe baze sou gen yon sitiyasyon advèsè kote ou gen diferan kote diskite sou bagay sa yo, kote wòl nan jijman an se etwat nan ak konnen ki bò ki aktyèlman kòrèk.
Youn nan pwoblèm yo ak kominote a entèlijans ak konfigirasyon an nan li se ke ou pa gen ke sitiyasyon advèsè. Sa fè li pi fasil pou yon bò jistifye agiman ke yo ap fè a paske pèsonn pa vrèman pouse tounen sou li. Ou konbine sa ak laperèz jeneral nan yon lòt atak teworis, nenpòt bagay ki gen rapò ak sekirite nasyonal, e menm lè ou gen sitiyasyon kote ou gen tribinal la FISA - mwen vle di tribinal la FISA te yon ti jan pi popilè pou efektivman yo te yon koupon pou kawotchou pou anpil ane.
Mwen bliye nimewo egzak yo, men se te yon bagay tankou plis pase 99 pousan aplikasyon ki te ale nan tribinal FISA pou pèmèt siveyans sèten sitiyasyon yo te akòde, epi li fasil pou di 99 pousan se evidamman twòp. Li evidan moun ki pote reklamasyon nan tribinal la, yo ap chwazi epi chwazi. Yo pa, pou pati ki pi, pote reklamasyon totalman fou. Men, san aspè kontrè sa a e ak yon gwoup moun ki trè fòtman motive ki panse, "Nou bezwen fè sa," oswa yon administrasyon di yo, "Nou bezwen fè sa," yo pral jwenn fason yo fè li. Epi se la ou fini sou tan.
Èske gen nenpòt moun ki enplike nan pwosesis sa a ki te janm leve epi ki di tèt yo, "Ti gason, nou te jere redefini mo 'sib' a vle di nenpòt bagay nou vle"?
[Ri] Li evidan ou te gen Ed Snowden, ki te koule yon pakèt dokiman. Ou te gen John Napier Tye, ki te ekri yon moso pou The Washington Post an 2014, ki te revele entèpretasyon Dekrè Egzekitif 12333, e li te di ke se pwoblèm reyèl pou peye atansyon sou. Ou gen lòt moun ki te pale sou bagay sa yo, men pou pi fò, moun ki patisipe nan travay nan administrasyon an sou bagay kominote entèlijans yo te achte nan opinyon nan kominote a entèlijans, ki se ke objektif prensipal la se pwoteje peyi a kont yon move bagay. Pi bon fason pou w fè sa se pou w gen plis enfòmasyon ke posib.
Li fasil pou w konprann agiman an ke, wi, gen plis enfòmasyon ka pèmèt yo trape yon bagay pi bonè oswa jwenn yon bagay enpòtan, men, youn, sa ta ka pa vre. Jwenn twòp enfòmasyon se pwobableman jis kòm move kòm enfòmasyon twò piti paske li ka souvan kache enfòmasyon ki aktyèlman itil, enfòmasyon ke ou aktyèlman bezwen detèmine yon bagay.
Men tou, nou gen yon U..S. Konstitisyon an premye e nou gen rezon ki fè, an teyori, nou pa sipoze pèmèt siveyans mas san kòz pwobab. Kòm yon peyi ki kwè nan règ lalwa, nou ta dwe kapab viv jiska sa, epi lè tout bagay sa yo rive nan fènwa, ou pral gen tandans pèdi de je sa.
Sa a mennen m 'nan Anthropic. Anthropic se sitou yon konpayi antrepriz. Yo bon nan gouvènman an, yo te bati misk sa yo, yo ap anplwaye pa moun ki vrèman byen vèrs nan kèk nan bagay sa yo. Evidamman, yo te gade Pete Hegseth ki di, "Nou vle tout itilizasyon legal yo," epi yo te desann de nivo entèpretasyon epi yo te di, "Oke, kwayans literal ou a se ke mo sa yo pa vle di sa yo di yo vle di sou figi yo. Se konsa, 'tout itilizasyon legal yo' twò gwo, epi nou vle mete kèk guardrails patikilyèman alantou siveyans mas."
Yon fwa ankò, mwen pral mete zam otonòm yo, ki te lòt liy wouj la, men patikilyèman sou siveyans mas, Dario Amodei la deyò di, "Nou ka fè twòp. Sa a twò danjere. Sa a se yon vyolasyon Katriyèm Amannman."
Tansyon an gen "ou ap di ou pral konfòme yo ak lwa sa yo ki di yon sèl bagay e kounye a, apre tout tan sa a, yo vle di yon bagay konplètman diferan epi nou jis pa vle fè pati sa a." Sa agoumen. Mwen jis vle konpare sa ak Sam Altman, ki swoops nan di, "Nou pral fè tout itilizasyon legal," epi answit poste mesaj long sa a tankou, "Men tout lwa nou pral konfòme yo avèk yo."
Li sanble ke Altman pa t 'konnen ki jan NSA a te reentèprete bagay sa yo ak kalite yo te pran pou yon woulib. Apre sa, li te kòmanse mache li tounen - menm jan nou ap anrejistreman, mwen gen konfyans gen plis tweets ak pozisyon tout moun yo te chanje. Men, Altman te retounen li tou dousman, men li sanble OpenAI te vin mare nan li lwa yo sou figi yo ak kwè sa yo te di. Èske se sa ou entèpretasyon evènman yo tou?
Gen de posiblite, e se youn nan yo. Youn nan se ke li te jwe menm jan an ke piblik la te jwe pou anpil ane. Teyori altènatif la, epi mwen pa gen okenn lide ki youn nan sa yo ki vre, se ke li oswa kèk nan avoka yo nan OpenAI - ki moun ki mwen panse yo trè konpetan ak anpil konesans - te konnen sa a, men yo te panse ke yo te kapab jwe menm jwèt la ke NSA a te jwe pou kèk deseni, nan ke toutotan yo di bagay sa yo ak Lè sa a, yo di mo yo, men yo pa revele entèpretasyon aktyèl yo ak li tou. Se konsa, Sam soti ak deklarasyon an ki fè li sanble "Nou te gen egzakteman menm liy wouj ak Anthropic te fè, ak gouvènman an te gwo ak sa."
An reyalite, mwen panse ke Sam Altman te di ke Anthropic te gen de liy wouj ak OpenAI te gen twa, ak gouvènman an te parfe byen ak li, e ki te kite yon anpil nan moun sòt de grate tèt yo. Men, mwen panse ke li dwe swa ke Sam Altman ak nenpòt moun ki te antoure l 'pa t' konprann ki jan bagay sa yo travay nan pratik, oswa yo te fè, epi yo jis sipoze ke piblik la pa ta konnen ak Se poutèt sa yo te ka jwenn lwen ak li.
Lòt bagay ki vin nan tèt ou - ankò, AI se nouvo epi li tèlman tante vin nan nouvo teknoloji kòm sa yo se pwoblèm nan premye enpresyon. "Okenn moun pa janm te oblije reflechi sou sa a anvan," men reyalite a se tout moun ap panse sou bagay sa a pou yon tan long. Petèt bagay ki nouvo isit la se pa AI, men ke dezyèm administrasyon Trump la, olye pou yo fè yon pakèt avoka ke petèt pa gen moun ki pral janm li jistifye aksyon yo nan yon tribinal sekrè ke pèsonn pa peye atansyon a, se olye jis pa sa ki sibtil.
Yo pa tèlman sofistike epi yo jis di ke yo pral al rekonèt sou tout moun tout tan tout tan an. Yo jis anonse entansyon yo nan yon fason ke petèt tout administrasyon yo ta dwe jis anonse entansyon yo epi wè ki kote chips yo tonbe.
Men, m ap gade lefèt ke te gen Ed Snowden isit la nan vil Nouyòk. AT&T dirije yon bilding ke tout moun konnen se yon bilding NSA. Li se jis yon bilding jeyan, epi nou sipoze pretann li pa yon sant siveyans NSA, men li la menm. Li gwo. Okenn nan sa sanble te rive nan anyen. Tout revelasyon sa yo, fwit sa yo, nou pa te fè bak li.
An reyalite, li sèlman ogmante kòm anpil nan lavi nou te vinn pi plis ak plis dijital. E petèt administrasyon Trump la se tankou yon enstriman brit tout tan, sa ta ka aktyèlman se bagay ki lakòz kalkil la. Ou wè sa ap jwe kanmenm?
Gen kèk bagay diferan la, epi li pa totalman vre ke nou pa te fè bak nan bagay sa a ditou. Revelasyon Snowden yo te mennen nan kèk chanjman nan fason bagay sa yo rive. Apre sa, gen kounye a - mwen bliye sa yo rele, men yo ap tankou moun sa yo sivil amicus nan tribinal la FISA ki pral aji kòm prezante lòt bò a sou sèten pwoblèm.
Epi nou te wè kèk nan otorite yo limite nan sèten fason, epi yo vini pou re-otorizasyon chak tanzantan, ak aktivis yo te trè agresif sou pouse dèyè epi eseye mete kèk lòt guardrails sou. Men, nan pi gwo kesyon an, mwen panse ke gen de bagay diferan. Ou gen dwa mwatye nan ke administrasyon sa a pa sibtil epi jis di byen fò bagay sa yo li pa ta dwe.
"Nou nan lagè ak Iran, nou ap fè li, li k ap pase. Nou pa menm pral eseye dans la."
Nan fason ke tout administrasyon anvan yo pa ta fè. Men, yo pa te vrèman di sa dirèkteman sousiveyans, espesyalman siveyans Ameriken yo. Te gen sijesyon sou li, men yo pa te soti kòm fòtman sou sa. Lòt mwatye nan li gen pou fè plis ak pwezante Anthropic a ak vi jeneral nan AI kòm teknoloji sa a pètèt ekzistans, kote Anthropic te toujou prezante tèt li kòm, "Nou se bon mesye yo reflechi," epi si wi ou non ou kwè ke se kalite san konte pwen an. Yo gen repitasyon sa a deyò: "Nou ap eseye fè sa nan yon fason ki an sekirite, ki respekte limanite epi ki peye atansyon sou tout bagay sa yo." Se konsa, lè ou gen konfli sa a, se la kote lit la vini nan.
Ou gen yon administrasyon Trump ki jis vle pou kapab fè tou sa li vle pou kapab fè, epi yo pa sibtil sou sa. Apre sa, ou gen Anthropic, ki gen deskripsyon pwòp tèt ou ak pèsonaj piblik li toujou tankou, "Nou reflechi epi nou respekte limanite ak dwa ak tout bagay sa yo." Se la pwobableman kote konfli a te antre, paske Anthropic, jan yo te fè klè, te travay ak Depatman Defans lan pou yon ti tan e li gen anpil lòt kontra ak gouvènman an ke li te itilize. Li pa te yon pwoblèm.
Se sèlman nan domèn espesifik sa yo kote, pandan gouvènman an t ap chèche elaji kontra li te genyen an, lidèchip ansyen Anthropic te kòmanse di, "Tann, nou dwe asire nou ke nou pa travèse liy wouj sa yo ki ta potansyèlman mal repitasyon nou kòm founisè AI reflechi, san danje."
Mwen vle mande w yon ti tan sou siveyans an jeneral, e an patikilye enkyetid Katriyèm Amandman Anthropic la. Katriyèm Amannman an di gouvènman an pa ka fouye w san rezon. Pi bon fason pou konprann Katriyèm Amandman an se lè w koute "99 Pwoblèm" pa Jay-Z. Se konsa, si ou bezwen pran yon ti repo epi ale koute "99 Pwoblèm," sa a se gwo. Li nan tout nan la. Mwen te koute li lè mwen te nan lekòl lalwa e li te fè tout sans.
Men, gouvènman an jeneralman bezwen yon manda pou fouye ou. Ak pi plis ak plis nan lavi ou ale sou entènèt, gen anpil ak anpil eksepsyon nan sa a. Men, lide a se yo ta dwe toujou bezwen yon manda sou entènèt. Agiman Anthropic la se, "Oke, AI a pap janm fatige. Li ka fouye tout bagay tout tan tout tan an. Sa vle di nou jis pral fè siveyans mèt."
Men, menm anvan AI te parèt, lide ke gouvènman an te kapab fouye tout sa ki te pou ou te la deyò, lide ke gouvènman an pa t 'bezwen yon manda pou fouye tout bagay ou te deyò. Lide ke si nenpòt nan done ou yo te janm ale andeyò peyi a pou yon kout segonn, gouvènman an entèsepte li la,
Lè m 'te nan kolèj, nan epòk Lwa Patriyòt la, deba a te ke yo pa pral rechèch done aktyèl ou yo, men yo ka jwenn metadata yo ak metadata yo pou kont li. Done yo sou done ou yo pral ase yo jisteman lokalize ou nan tout tan. E menm sa twò lwen. Epi nou te fè dans sa a nan kisa gouvènman an ka kolekte? Ki sa ki akseptab? Ki sa yo bezwen pou kenbe nou tout an sekirite ak sa ki twò lwen? Liy sa yo te deplase.
Se konsa, jis dekri yon ti tan enkyetid jeneralize sou siveyans nan echèl la ak kote nou ye kounye a. Anvan sitiyasyon AI an te fè tout bagay eksponansyèlman pi konplike.
Isit la mwen dwe prezante yon lòt konsèp ki pwobableman ta dwe mansyone pi bonè, men li enpòtan, ki rele "doktrin twazyèm pati a." Lide a ak Katriyèm Amannman an se ke gouvènman an pa ka fouye ou oswa bagay ou san yon manda epi li pa ka jwenn yon manda san kòz pwobab ke ou te komèt yon sòt de krim. Men, gen konsèp sa a ki te vini sou plizyè deseni de sa yo rele doktrin twazyèm pati a, ki di ke sa pa nesesèman aplike, oswa pa aplike ditou, nan bagay ki pa pou ou, menm si se done ou yo.
Vèsyon an pi bonè ak pi evidan nan sa a se te dosye telefòn ke konpayi telefòn lan te gen nan ki moun ou te rele. Konpayi telefòn yo pa t ap anrejistre apèl ou yo, men yo t ap anrejistre si m te rele w, ta gen yon dosye nan konpayi telefòn lan ki di, "Mike rele Nilay." Epi sa ki te detèmine pa plizyè tribinal se ke gouvènman an ka ale epi mande sa, epi yo pa bezwen yon manda pou sa paske se pa yon rechèch nandone ou yo, li nan twazyèm pati sa a epi yo ka dakò kòm yon twazyèm pati jis remèt done sa yo.
Men, sa yo te ka soti nan ane 1960 yo ak ane 70 yo, kote yo te detèmine ke gouvènman an ka jwenn aksè a sa san yo pa yon manda, lè pa te gen anpil done twazyèm-pati yo deyò. Ogmantasyon nan òdinatè ak entènèt la chanje sa. Koulye a, tout bagay se done twazyèm pati. Tout sa nou fè yo kolekte pa kèk konpayi yon kote epi li gen yon dosye sou li. Se konsa, fondamantalman chak ti done sou ou, ki kote ou ye, ki moun ou pale ak ki moun ou kominike avèk, sa ou di, sa w ap fè, tout sa yo se trè byen kenbe pa twazyèm pati jou sa yo. Se konsa, doktrin twazyèm pati a te vale tout Katriyèm Amannman an nan yon sèten mezi, kote nenpòt ki bagay ki sou ou ke yon lòt moun genyen, gen yon estanda pi ba anpil pou sa gouvènman an ka fè pou mande li.
Jis yo dwe espesifik, sa vle di lè done mwen yo nan iCloud, gouvènman an ka ale nan Apple epi jwenn done mwen an soti nan iCloud san yo pa janm di m '?
Yo ka mande li. Yo ka fasilman mande li san yon manda. Lè sa a, konpayi an gen dwa pwòp li yo epi li ka detèmine kisa yo vle fè ak demann sa a. Yo ka jis bay li. Yo kapab, menm jan pifò nan yo pral fè, si se yon demann serye, rejte demann oswa yo ka alèt ou epi yo ka di - e se sa pifò nan yo pral fè - yo pral avèti ou epi di, "Gouvènman an ap mande kèk nan done ou yo. Ou ka ale nan tribinal epi eseye bloke yo." Si ou pa, yo pral remèt done ou nan sèt jou oswa kèlkeswa sa li ta ka.
Ankò, sa depann de. Si se yon ankèt kriminèl, Lè sa a, ka gen kèk sòt de lòd gag kote konpayi an pa gen dwa di ou. Gen tout kalite sitiyasyon, men pifò nan yo enplike mwens pase nivo pwoteksyon Katriyèm Amannman an ta mande si se te done oswa nenpòt enfòmasyon oswa nenpòt bagay nan pwòp lakay ou.
Kantite done ou genyen sou sèvè nwaj yon lòt moun se masiv, pa vre? Chak bagay ou fè jeneralman sou entènèt la kounye a apiye nan kèk fason oswa anrejistre nan kèk fason sou serveurs yon lòt moun. Gouvènman an te jwenn fason sa a pou l fè katriyèm amandman an epi di, "Oke, sa a pa aktyèlman pou ou. Li fè pati Amazon. Nou ka ale pale ak Amazon, "e Amazon dwe kanpe nan mitan pwosesis sa a epi li di, "Nou te envante yon lòt pwosesis pou yon ti jan pwoteje pèp la."
Mwen gade sa—epi lè mwen te kouvri premye ka doktrin twazyèm pati ki te kouvri sèvis nwaj yo ak gouvènman an te kontinye genyen, se fondamantalman lè mwen te tounen Joker la. Mwen te tankou, "Tout bagay sa yo ke nou ap pretann sou tèks ak plenn [lekti a], pa gen anyen nan sa a vle di anyen paske nou jis puisans nan pòt deye a lè l sèvi avèk ansyen lwa sa a nan done tout moun."
Apre sa, mwen gade sa a epi mwen gade Anthropic epi mwen di, "Oke, sa a se menm modèl la." Sa a se yon konpayi prive ki di, "Oke, nou konprann pozisyon ou. Nou konprann ke ou te reentèprete lwa a vle di bagay sa a, epi nou pral mete kèk pwosesis nan mitan ou, zouti nou an, ak done Ameriken yo ap koule tankou dlo nan sèvis nou an." Mwen jis mande si ou wè paralèl sa a la, ant Anthropic ak Amazon ak Azure ak kèlkeswa lòt sèvis nwaj ki egziste ki kenbe anpil nan done nou yo.
Wi, menm si gen kèk klarifikasyon ki enpòtan isit la ki fè sa yon ti kras diferan. Ak an reyalite - mwen panse ke New York Times te gen rapò sa a an premye - kloz prensipal la ki te pi enpòtan pou Anthropic te espesyalman sou done kolekte nan sèvis komèsyal yo epi yo pa te kapab itilize Claude sou done sa a, ki se egzakteman pwoblèm sa a an tèm de done twazyèm pati. Men, mwen vle klarifye diferans prensipal ki genyen ant sa nou t ap jis pale anvan sa a ak Amazon oswa lòt twazyèm pati hosting done ou yo, sa yo te ka kote yo te, paske nan kote yo chita nan ekosistèm nan, yo te hosting done ou dirèkteman.
Avèk Claude, li pa ke nenpòt moun ki enkyete sou NSA a gade nan itilizasyon Claude ou. Li sou yo ale deyò epi yo jwenn done twazyèm-pati nan Amazon oswa plis chans sòt de koutye done sournwa, kache ki sèvi anons sou telefòn ou epi konnen kote ou ak enterè ou ak bagay sa yo. Lè sa a, manje sa nan yon sistèmke Claude ta pral travay sou. Se sa Anthropic reyèlman pa t 'vle fè pati nan. Donk, kèlkeswa kote oswa nenpòt kòman gouvènman an ta kolekte done sa yo nan men yon twazyèm pati, Anthropic te di, "Nou pa vle zouti nou yo dwe itilize sou done sa yo."
Apple selèb kanpe devan FBI mande li pou mete yon pòt deye nan iPhone a, ak Apple di "non," epi yo kanpe devan Trump. Epi gen yon pati nan fason sistèm nou an fonksyone kote gwo konpayi prive yo rive di "non" bay gouvènman an nan non kliyan yo. Ak sa a te santi nan menm fason an ke Apple, ankò, pa pral mete l 'backdoor sou iPhone a, oswa gwo founisè nwaj yo di, "Genyen yon ti kras nan yon pwosesis ou dwe sote nan anvan ou jwenn done endividyèl yo."
Isit la li sanble tankou Anthropic ap di, "Nou pa jis pral fè analiz an gwo done ke ou te akeri nan men lòt pati paske sa mennen nan siveyans mas Ameriken 24/7, epi nou pa vle fè sa." Poutan sa sanble tankou yon pon twò lwen pou administrasyon sa a. Èske gen nenpòt ki retounen soti nan sa?
Nou pral wè. Nan tan lontan an, lè sa te rive - e li te rive anpil fwa ak pi fò nan gwo konpayi teknoloji yo, nan kèk pwen yo te di yon bagay se yon pon twò lwen - kote ki nòmalman ale se nan tribinal. Konpayi yo pral ale nan tribinal oswa administrasyon an pral ale nan tribinal epi pral gen kèk sòt de batay tribinal.
Backdoor nan iPhone a se yon egzanp pafè de sa. Li te ale nan tribinal epi yo te goumen, menm si yo pa janm byen rive nan yon konklizyon paske FBI a evantyèlman te jis manyèlman kraze iPhone a epi Lè sa a, pa t 'vle desizyon tribinal la ruine sa nan lavni.
Men, nan ka sa a, kote eskalasyon an se ak kote sa a diferan de sitiyasyon sa yo sot pase yo se ke olye ke jis ale nan tribinal, administrasyon an Trump te fè sa a "risk ekipman pou chèn" deziyasyon, ki se jis fou. Lide sa a ke zouti sa a ki te fèt yo sispann potansyèl etranje aktè move soti nan kap founi teknoloji, ki ta ka Lè sa a, mete nan zouti siveyans kache nan pile nan teknoloji pi gwo, ke sa yo ta ka entèdi. Pou aplike sa nan yon konpayi ki baze nan Etazini fondamantalman pou gen yon politik etik santi tankou yon reyèl, reyèl move itilizasyon zouti sa a.
Menm zouti sa a te dout nan kèk fason, men ou ta ka konprann UN a dèyè li lè w ap pale de yon konpayi rezo Chinwa oswa yon bagay sou liy sa yo. Isit la, li pa fè okenn sans. Se konsa, reyaksyon sa a ale byen lwen pi lwen pase sa ki ta nòmalman wè nan ka sa a. Ou ta ka wè tradisyonèlman ta gen kèk sòt de ka tribinal ak chak bò te kapab kòmanse li epi li ta jis yon batay sou ki jan kontra a ta ka aplike.
Men, se pa sa k ap pase isit la. Administrasyon sa a efektivman di, "Si ou pa ban nou absoliman tout sa nou vle, si ou pa mete zouti ou yo travay jan nou vle yo travay, Lè sa a, nou pral efektivman eseye detwi tout biznis ou." E sa se yon eskalade.
Gen yon moso nan sa a ke mwen vle fini sou, epi li nan kalite vèsyon ki pi galaksi-sèvo nan sa a. FIRE, ki se yon gwoup defann libète lapawòl, mete yon pòs nan blog jis anvan nou te kòmanse anrejistreman fè agiman ke fòse Anthropic pou konstwi zouti li pa vle bati se yon vyolasyon libète lapawòl, ke se yon bagay yo rele lapawòl fòse. Genyen anpil istwa isit la. Gen kèk gwo twou san fon Verge ak Techdirt, nan move zèb yo, istwa ekzistans-kriz isit la.
Men, li fondamantalman vini desann nan lide a ke kòd se lapawòl, ki ekri kòd pou yon òdinatè se yon fòm lapawòl ak gouvènman an pa ka fòse ou fè li, ak yon pakèt antye nan bagay ap koule soti nan sa. Èske ou achte agiman sa a ke fòse Anthropic bati zouti ke li pa vle bati se lapawòl oblije?
Wi, mwen aktyèlman panse li se jistis konvenkan. Diskou fòse konvenkan. Men, non, mwen panse ke li se yon agiman enteresan. Li se youn ki te yon ti kras pi lwen nan lis pwoblèm yo ke mwen te panse sou yo. Mwen te evidamman sitou plis konsantre sou pwoblèm Katriyèm Amannman an, men mwen panse agiman FIRE a pa mal. Nou te wè sa nan lòt kontèks. Li te vini nan pwoblèm nan degize tou, an tèm de ap eseye bati degize nan sistèm chiffres.
Konpayi definitivman leve soti vivan PremyeAmannman reklamasyon, li di, "Se lapawòl oblije fòse nou ekri kalite kòd sa a." Se yon agiman valab. Li ta ka, ankò, youn ke tribinal yo pwobableman mwens vle atake okòmansman si yo ka fè fas ak pwoblèm sa yo yon lòt fason. Men, mwen byen kontan ke FIRE te fè pòs sa a e mwen panse ke li se yon agiman enteresan ak konvenkan.
Yeah, se jis nati dezyèm Trump administrasyon an se ke li se tankou yon enstriman kout, li se prèske sèten nou pral atake tout pwoblèm yo tout nan yon fwa.
Wi, chak amannman Deklarasyon Dwa yo dwe defye sou yon fòm oswa yon lòt ak tout pwoblèm posib.
[Ri] Vire wou a.
Mwen sèten nou ka anfòm yon vyolasyon Twazyèm Amannman yon kote nan isit la.
Asire w, wi. Claude oblije rete lakay ou kounye a. Egzakteman. Li pral gwo. Nou ap fè [amannman] youn, twa, kat, ak sèt. Nou rache yo.
Mike, sa te gwo. Mwen pa ka kwè ou pa te nan emisyon an anvan. Sa a te gwo. Ou dwe tounen byento.
Absoliman. Chak fwa ou vle mwen.
Kesyon oswa kòmantè sou epizòd sa a? Frape nou nan decoder@theverge.com. Nou reyèlman li chak imèl!
