Astăzi vorbim despre situația dezordonată și rapidă de la Anthropic, creatorul lui Claude, care se află acum într-o luptă juridică foarte urâtă cu Pentagonul.
Trecerea înainte și înapoi este complicată, dar în urmă cu câteva zile, Pentagonul a considerat Anthropic un risc pentru lanțul de aprovizionare, iar Anthropic a intentat un proces prin care contestă această desemnare, declarând că guvernul și-a încălcat drepturile Primului și al Cincilea Amendament „căutând să distrugă valoarea economică creată de una dintre companiile private cu cea mai rapidă creștere din lume”. Vă pot spune chiar acum: vom vorbi despre răsturnările acelui caz pe The Verge și aici pe Decoder în lunile următoare.
Dar astăzi am vrut să iau o clipă și să analizez cu adevărat un element foarte important al acestei situații, care nu a primit suficientă atenție, deoarece acest lucru a scăpat de sub control: cum supraveghează guvernul Statelor Unite, autoritatea legală care permite ca această supraveghere să aibă loc și de ce Anthropic nu a avut încredere în faptul că guvernul spune că va respecta legea atunci când vine vorba de utilizarea AI pentru a face și mai multă supraveghere.
Abonați Verge, nu uitați că aveți acces exclusiv la Decoder fără anunțuri oriunde vă aflați podcasturile. Du-te aici. Nu sunteți abonat? Vă puteți înscrie aici.
Invitatul meu de astăzi este Mike Masnick, fondatorul și CEO-ul Techdirt, site-ul web excelent și de lungă durată privind politicile tehnologice. De zeci de ani, Mike a scris despre excesul guvernului, confidențialitatea în era digitală și alte subiecte conexe. Este un expert în modul în care internetul și statul de supraveghere au crescut în moduri interconectate.
Vedeți, există ceea ce legea spune că guvernul poate face atunci când vine vorba de a ne supraveghea și apoi ce vrea guvernul să facă. Și, cel mai important, există ceea ce spune guvernul că legea spune că poate face, care este adesea exact opusul a ceea ce ar crede orice persoană normală care citește legea.
Îl veți auzi pe Mike explicând în detaliu aici în acest episod că nu putem – și nu ar trebui – să credem guvernul SUA pe cuvânt când vine vorba de supraveghere. Există prea multă istorie a avocaților guvernamentali care răsturnează interpretările unor cuvinte simple precum „țintă” pentru a extinde supravegherea în moduri complicate – moduri care de obicei provoacă îngrijorare doar în cercurile juridice și care apar doar atunci când există controverse uriașe, cum ar fi dezvăluirile majore ale denunțătorului Ed Snowden NSA în urmă cu mai bine de un deceniu.
Dar nu există nimic subtil sau sofisticat în procesul de elaborare a politicilor în epoca Trump - și, prin urmare, cu Anthropic, avem o dezbatere foarte puternică, foarte publică despre tehnologie și supraveghere în timp real, pe internet, în postări pe blog și dezvăluiri, și în cadrul conferințelor de presă. Există aspecte pozitive și negative în asta, dar pentru a înțelege totul, trebuie să cunoașteți istoria.
Acesta este ceea ce Mike și cu mine ne-am propus să explicăm în acest episod - indiferent de părerile tale despre AI și guvern, acest episod va clarifica faptul că ambele părți au lăsat starea de supraveghere să devină din ce în ce mai mare în timp. Acum, suntem în pragul celei mai mari expansiuni de până acum când vine vorba de AI.
Bine: fondatorul și CEO-ul Techdirt, Mike Masnick, pentru supravegherea Anthropic, Pentagon și AI. Începem.
Acest interviu a fost ușor editat pentru lungime și claritate.
Mike Masnick, ești fondatorul și CEO-ul Techdirt. Bun venit la Decoder.
Mă bucur să fiu aici.
Sunt încântat să te am pe tine. Spuneam doar că sunt șocat că nu ai mai fost niciodată în emisiune. Tu și cu mine ne scriem și postăm unul în jurul celuilalt de mult timp. O mare parte din acoperirea poliței The Verge are o datorie față de ceea ce ați făcut la Techdirt și apoi ceea ce se întâmplă cu Anthropic este atât de complicat, dar atinge atât de multe teme pe care le-ați acoperit atât de mult timp. Mă bucur că în sfârșit sunteți aici.
Este un subiect complicat, dar sunt încântat să mă aflu în el.
Ceea ce vreau să mă concentrez cu tine nu sunt detaliile dacă Anthropic va semna un contract cu guvernul sau dacă OpenAI va obține acel contract. În schimb, sunt încrezător între momentul în care înregistrăm acest lucru și momentul în care oamenii îl ascultă, vor fi mai multe tweet-uri și mai multe lucruri vor fi diferite decât erau înainte.
Pe care vreau să mă concentrez este doar una dintre cele două linii roșii pe care Anthropic le-a trasat cu adevărat. Unul dintre ei estearme autonome, care este propriul nivel de complicație. Legea de acolo este puțin mai în curs de dezvoltare, indiferent dacă armele există sau nu sau au fost deja desfășurate de Rusia în războiul din Ucraina.
Există o mulțime de idei aici pe care vreau doar să le las deoparte, deoarece cred că acestea se vor concentra mai mult pe propriul program. Cealaltă linie roșie pe care vreau să-i petrec mult timp este supravegherea în masă. Și există destul de multă lege aici despre supravegherea în masă. Există multă istorie, multă istorie controversată. Întregul personaj al lui Edward Snowden există din cauza controverselor legate de supravegherea în masă.
Totul se reduce la — cred că tu ești cel care a postat asta — Agenția de Securitate Națională (NSA), care face parte din Departamentul Apărării, pe care trebuie să-l numim acum Departamentul de Război dintr-un anumit motiv.
[Râde] Nu trebuie să facem nimic.
[Râde] Noi nu. Este adevărat aici, în America. Nu trebuie să facem nimic. Dar NSA a redefinit practic ceea ce înseamnă o mulțime de cuvinte din engleza colocvială pentru a însemna „Putem doar să facem supraveghere”. Și apoi, din când în când, există un scandal când oamenii descoperă că fac doar supraveghere. Așa că puneți scena acolo și nu vreau să vă derulez înapoi până la capăt, dar a trecut destul de mult timp în care acest tipar s-a repetat.
Depinde de cât de adânc vrei să mergi, dar versiunea scurtă este evident în lumea de după 11 septembrie, SUA au adoptat Patriot Act, care avea o anumită capacitate pentru guvern de a se angaja în supraveghere, care trebuia să ne protejeze împotriva viitoarelor amenințări teroriste. De-a lungul timpului, asta a fost interpretat în moduri interesante și au existat anumite limite în acest sens. Am avut și instanța FISA, care este o instanță specială care ar trebui să examineze comunitatea de informații și activitățile acestora, dar a fost în mod tradițional o instanță unilaterală. Doar o parte poate să își pledeze cazul la acea instanță și totul se face în secret.
Sunt multe lucruri care nu se știau. Și apoi a mai fost o altă piesă în toate acestea, care merge până la Ronald Reagan, care este Ordinul executiv 12333, care se presupune că este despre stabilirea regulilor de drum pentru colectarea informațiilor.
Deci aveți aceste trei seturi de legi – ei bine, câteva seturi de legi – și un ordin executiv care publicului, părțile pe care le puteți citi, par să spună anumite lucruri despre ceea ce guvernul nostru și NSA în special pot face în ceea ce privește supravegherea. Când se citește cu un dicționar englez simplu, a cărui natură probabil că tu și cu mine o înțelegem, am ieși cu convingerea că capacitatea NSA de a-i supraveghea pe americani a fost foarte limitată, de fapt, până la punctul în care ar trebui să o facă, dacă își dau seama că supraveghează o persoană din SUA, că ar trebui să se oprească imediat și să urmeze și să ștergă datele și toate celelalte lucruri.
Au existat o vreme zvonuri că acest lucru nu se întâmplă cu adevărat și au existat indicii și, în special, senatorul Ron Wyden a spus foarte mult să meargă la Senat și să spună: „Ceva nu este în regulă aici și nu pot să vă spun exact ce”, sau în audieri el le-a întrebat oficialilor de informații: „Colegeți sau nu date în masă despre americani?”
Acei oficiali fie ar devia, fie, în unele cazuri, ar minți. Cred că a fost o audiere în 2012 cu James Clapper, care era directorul National Intelligence la acea vreme, unde a fost întrebat direct asupra acestui aspect. Și practic a spus: „Nu, noi nu colectăm date despre americani”. Asta a fost o mare parte din ceea ce l-a inspirat pe Ed Snowden să divulge datele, rapoartele pe care le-a divulgat și lui Glenn Greenwald și Barton Gellman și Laura Poitras. Din toate acestea, ceea ce am început să descoperim a fost că NSA are propriul său dicționar, care este oarecum diferit de dicționarul pe care tu și eu îl folosim, astfel încât ei pot interpreta cuvintele în moduri diferite de sensul simplu în engleză al acestora, inclusiv cuvinte precum „țintă”, care se simte ca un cuvânt cheie. O înțelegere largă a ceea ce este aceasta este că, în teorie, ar trebui să vizeze doar oameni care nu sunt oameni din SUA, cred că este expresia.
Dar modul în care a fost interpretat de-a lungul timpului a fost că orice menționează acea persoană, orice este despre o persoană străină este acum un joc corect, chiar dacă acestea sunt comunicările unuipersoană americană. Deci, dacă tu și cu mine ar fi să ne trimitem un mesaj text și să menționăm o persoană străină, acum este un joc corect pentru NSA să colecteze, să păstreze și să păstreze.
Există o a doua parte din asta. Am menționat primul Ordin Executiv 12333 de la Ronald Reagan, care, pe măsură ce tehnologia s-a schimbat de-a lungul timpului și internetul a crescut, a permis efectiv NSA să acceseze comunicațiile străine, dar care includea orice comunicații care ar fi putut lăsa SUA pe drum undeva. Așa că, dacă îți trimit mesaje și un mesaj a fost trimis de la mine în California printr-un cablu de fibră optică care s-a întâmplat să părăsească SUA, NSA ar putea să pună un robinet în piesa odată ce este în afara SUA și să colecteze acele informații, chiar dacă ar fi trimis doar la tine în SUA.
NSA ar putea apoi să păstreze acele informații chiar dacă erau despre persoane din SUA și ar putea face căutări specifice asupra acestora mai târziu, denumite uneori „căutări în spate”. Au colectat aceste informații pe care credem că nu ar fi trebuit să le colecteze în primul rând, dar le-au putut păstra. Și ei au promis, au jurat Pinky, că o vor păstra privat, dar dacă au făcut o căutare și au găsit că tu sau eu am menționat o persoană străină, atunci deodată a fost un joc corect pentru ei să facă ce vor cu ea.
În total, asta s-a transformat într-o lume în care guvernul federal poate colecta, practic, orice informație care se întâmplă să atingă în afara SUA. Chiar dacă este în întregime între două persoane din SUA, dacă menționează sau chiar sugerează pe cineva care nu este o persoană din SUA, dintr-o dată este un joc corect să fie colectat. Și din asta am obținut ceea ce pare a fi o formă de supraveghere în masă a persoanelor din SUA de către o NSA care susține și declară public că nu spionează persoanele americane.
Cum am ajuns în acest punct? Acestea sunt o mulțime de pași de bebeluși incrementali. L-ați menționat pe James Clapper în 2012, aceasta este administrația Obama. L-ai menționat pe Ronald Reagan, sunt anii 1980. Trecem aici prin democrați și republicani.
Războiul împotriva terorii a avut loc în administrația George W. Bush, iar 9/11 și Patriot Act au avut loc în administrația George W. Bush. Există o mulțime de lucruri rele progresive sub președinții ambelor partide, în cadrul congreselor ambelor partide. Cum sa întâmplat asta?
Cea mai simplă formă este că nimeni, și cu siguranță niciun președinte, nu vrea să fie președinte în perioada în care are loc un mare atac terorist, pentru că asta îi face să arate rău. Evident că vor să-i protejeze și pe americani, nu? Asta face parte din munca lor. Dacă aveți o comunitate de informații care funcționează practic în întuneric, pentru că asta fac comunitățile de informații și ei continuă să vină la dvs. și să vă spună: „Hei, dacă am putea avea acces la aceste informații, ar fi foarte util în prevenirea unui atac terorist”.
Pot exista cazuri în care acest lucru este adevărat, în care comunitatea de informații este capabilă să folosească aceste informații într-un mod care funcționează bine. Dar suntem și, în teorie, o societate de legi cu o Constituție a SUA pe care ar trebui să o respectăm. Dar asta a permis faptul că administrație după administrație, din nou, republicani și democrați, au avut avocați care erau foarte inteligenți și care se uitau și spuneau: „Ei bine, dacă ne poziționăm în felul acesta sau afirmăm în acest fel sau interpretăm asta, astfel putem obține ceea ce vrem și nu încălcam legea sau nu încălcăm din punct de vedere tehnic al patrulea amendament”.
Presupunerea a fost întotdeauna: „Putem să îndoim legea sau interpretarea noastră asupra legii și nimeni nu va vedea vreodată asta, sau nimeni căruia îi pasă nu va vedea vreodată asta și, prin urmare, vom scăpa de asta.”
Sunt două lucruri care chiar îmi ies în evidență. În primul rând, tu și cu mine am citit o mulțime de hotărâri judecătorești — decizii ale curții de apel și decizii ale Curții Supreme. Și există o luptă în Curtea noastră Supremă despre cum să interpretăm literal cuvintele din statutele și legile noastre.
Nu voi intra prea departe, dar aș spune în general că ideea că trebuie doar să citiți cuvintele de pe pagină și să faceți ceea ce spun ei este tulpina dominantă a interpretării statutare în Statele Unite. Stânga sau dreapta, amândoi o spun. Ei se ceartă despre câteva puncte foarte ezoterice despre ceea ce înseamnă asta de fapt. Dar că ar trebui să poți doar să citești aceste cuvinte și să faci ceea ce spun ele, asta nu este la îndemână, nu?
Am aterizat cel puțin la prima trecere a ceea ce ai putea tunumiți textualism. Cum se îndepărtează atât de departe avocații ambelor administrații de modul dominant de luare a deciziilor juridice în țara noastră? Judecătorii ambelor părți sunt de acord că acesta este cel puțin primul pas.
Aș vrea să știu răspunsul exact, dar cred că este un raționament motivat, nu? În calitate de avocat, sunteți acolo pentru a vă apăra clientul, iar succesul – dacă se poate numi succes – al sistemului nostru juridic tinde să se bazeze pe o situație contradictorie în care aveți părți diferite care se ceartă în legătură cu aceste lucruri, în care rolul arbitrului este de a restrânge și de a afla care parte este de fapt corectă.
Una dintre problemele cu comunitatea de informații și cu configurația acesteia este că nu aveți această situație adversă. Acest lucru face mai ușor pentru o parte să justifice argumentul pe care îl aduce, deoarece nimeni nu o respinge cu adevărat. Combini asta cu teama generală de un alt atac terorist, orice are legătură cu securitatea națională și chiar și atunci când ai situații în care ai tribunalul FISA - vreau să spun că tribunalul FISA a fost oarecum renumit pentru că a fost efectiv o ștampilă de cauciuc timp de mulți ani.
Am uitat cifrele exacte, dar peste 99 la sută din cererile care s-au adresat instanței FISA pentru a permite supravegherea anumitor situații au fost acceptate și este ușor de spus că 99 la sută este evident prea mult. Evident, cei care aduc pretenții în instanță, aleg și aleg. În cea mai mare parte, nu aduc pretenții total nebunești. Dar fără acest aspect contradictoriu și cu un grup foarte puternic motivat de oameni care se gândesc „Trebuie să facem asta” sau li se spune de către o administrație „Trebuie să facem asta”, vor găsi modalități de a face acest lucru. Și acolo ajungi în timp.
A existat cineva implicat în acest proces care s-a trezit vreodată și și-a spus: „Băiete, am reușit să redefinim cuvântul „țintă” pentru a însemna orice ne dorim”?
[Râde] Evident că l-ai avut pe Ed Snowden, care a scurs o grămadă de documente. L-ați avut pe John Napier Tye, care a scris un articol pentru The Washington Post în 2014, care a dezvăluit interpretarea Ordinului executiv 12333 și a spus că aceasta este adevărata problemă la care trebuie să acordați atenție. Aveți și alți oameni care au vorbit despre aceste lucruri, dar în cea mai mare parte, oamenii care sunt implicați în lucrul în cadrul administrației pe chestii comunității de informații sunt asimilați de opinia comunității de informații, și anume că scopul primordial este acela de a proteja țara de ceva rău. Cel mai bun mod de a face asta este să ai cât mai multe informații posibil.
Este ușor să fii înțelegător cu argumentul că, da, a avea mai multe informații le poate permite să prindă ceva mai devreme sau să găsească ceva important, dar, unul, s-ar putea să nu fie adevărat. Obținerea prea multă informație este probabil la fel de rău ca și prea puțină informație, deoarece adesea poate ascunde informațiile care sunt de fapt utile, informațiile de care aveți de fapt nevoie pentru a determina ceva.
Dar, de asemenea, avem un U..S. Constituția în primul rând și avem motive pentru care, teoretic, nu ar trebui să permitem supravegherea în masă fără o cauză probabilă. În calitate de țară care crede în statul de drept, ar trebui să fim capabili să fim la înălțimea asta, iar când toate aceste lucruri se întâmplă în întuneric, vei avea tendința să pierzi asta din vedere.
Asta mă aduce la Anthropic. Anthropic este în primul rând o companie de întreprindere. Sunt buni la guvernare, și-au construit acei mușchi, sunt încadrați de oameni care sunt foarte familiarizați cu unele dintre aceste lucruri. Evident, s-au uitat la Pete Hegseth spunând: „Vrem toate utilizările legale” și au coborât două niveluri de interpretare și au spus: „Ei bine, credința ta literală este că aceste cuvinte nu înseamnă ceea ce spun ei că înseamnă pe față. Așa că „toate utilizările legale” sunt prea mari și vrem să punem niște balustrade în special în jurul supravegherii în masă.”
Din nou, voi opri armele autonome, care era cealaltă linie roșie, dar în special în ceea ce privește supravegherea în masă, Dario Amodei este acolo spunând: "Putem face prea multe. Este prea periculos. Aceasta este o încălcare a celui de-al patrulea amendament".
Tensiunea de acolo este „veți spune că veți respecta aceste legi care spun un lucru și acum, după atâta vreme, ele înseamnă ceva complet diferit și pur și simplu nu vrem să facem parte din asta”. Acesta esteluptă. Vreau doar să compar asta cu Sam Altman, care vine să spună: „Vom face toate utilizările legale” și apoi postează acest mesaj lung de genul „Iată toate legile pe care urmează să le respectăm”.
Se pare că Altman nu știa cum NSA a reinterpretat aceste lucruri și cum a fost luat la plimbare. Și de atunci a început să se întoarcă - chiar dacă înregistrăm, sunt încrezător că există mai multe tweet-uri și că pozițiile tuturor s-au schimbat. Dar Altman a mers înapoi încet, dar se pare că OpenAI a fost obligat să citească pe față statutele și să creadă ce au spus. Asta este și interpretarea ta a evenimentelor?
Există două posibilități și aceasta este una dintre ele. Una este că a fost jucat în același mod în care a fost jucat publicul timp de mulți ani. Teoria alternativă, și nu am idee care dintre acestea este adevărată, este că el sau unii dintre avocații de la OpenAI - care cred că sunt foarte competenți și foarte cunoscători - știau asta, dar s-au gândit că ar putea juca același joc pe care l-a jucat NSA timp de câteva decenii, atâta timp cât spun aceste lucruri și apoi rostesc cuvintele, dar nu dezvăluie interpretările reale, și ei ar putea scăpa de ele. Așa că Sam iese cu declarația care face să pară de genul „Am avut exact aceleași linii roșii ca și Anthropic, iar guvernul a fost grozav cu asta”.
De fapt, cred că Sam Altman a spus că Anthropic avea două linii roșii și OpenAI avea trei, iar guvernul a fost perfect în regulă, iar asta i-a lăsat pe mulți oameni să se zgârie. Dar cred că fie că Sam Altman și oricine îl înconjura nu au înțeles cum funcționează aceste lucruri în practică, fie au făcut-o și au presupus că publicul nu ar ști și, prin urmare, ar putea scăpa de asta.
Celălalt lucru care îmi vine în minte - din nou, AI este nou și este atât de tentant să vii la noi tehnologii, deoarece acestea sunt probleme ale primei impresii. „Nimeni nu a trebuit să se gândească la asta înainte”, dar realitatea este că toată lumea se gândește la aceste lucruri de mult timp. Poate că lucrul care este nou aici nu este inteligența artificială, ci că a doua administrație Trump, în loc să facă o grămadă de avocați pe care poate nimeni nu le va citi vreodată pentru a-și justifica acțiunile în fața unei instanțe secrete la care nimeni nu-i acordă atenție, nu este în schimb atât de subtilă.
Nu sunt atât de sofisticați și doar spun că vor spiona pe toată lumea tot timpul. Tocmai și-au anunțat intențiile într-un mod în care poate toate administrațiile ar trebui să-și anunțe intențiile și să vadă unde cad jetoanele.
Dar mă uit la faptul că a fost Ed Snowden aici, în New York. AT&T conduce o clădire despre care toată lumea știe că este o clădire NSA. Este doar o clădire uriașă și ar trebui să ne prefacem că nu este un centru de supraveghere NSA, dar este chiar acolo. Este imens. Nimic din toate acestea nu pare să fi ajuns la nimic. Toate aceste dezvăluiri, aceste scurgeri, nu ne-am retras.
De fapt, a crescut doar pe măsură ce o mare parte din viețile noastre au devenit din ce în ce mai digitale. Și poate că administrația Trump fiind un instrument atât de contondent în orice moment, acesta ar putea fi de fapt lucrul care provoacă socoteala. Oricum vezi asta jucandu-se?
Există câteva lucruri diferite acolo și nu este în întregime adevărat că nu am renunțat deloc la aceste lucruri. Dezvăluirile de la Snowden au dus la unele schimbări în modul în care se întâmplă aceste lucruri. Și există acum - uit cum se numesc, dar sunt ca acești amicus civili din cadrul instanței FISA care vor acționa ca prezentând partea cealaltă în anumite probleme.
Și am văzut că unele autorități sunt limitate în anumite moduri și au venit pentru reautorizare din când în când, iar activiștii au fost foarte agresivi în ceea ce privește respingerea și încercarea de a pune mai multe balustrade. Dar la întrebarea mai mare, cred că există două lucruri diferite. Ai dreptate pe jumătate în faptul că această administrație nu este subtilă și doar spune cu voce tare lucrurile pe care nu ar trebui.
"Suntem în război cu Iranul, o facem, se întâmplă. Nici măcar nu vom încerca dansul."
În moduri pe care toate administrațiile anterioare nu le-ar face. Dar ei nu au spus asta în mod direct despresupraveghere, în special supravegherea americanilor. Au existat indicii despre asta, dar nu au ieșit la fel de puternic în acest sens. Cealaltă jumătate a ei are de-a face mai mult cu poziționarea lui Anthropic și cu viziunea generală asupra inteligenței artificiale ca această tehnologie posibil existențială, în care Anthropic s-a prezentat întotdeauna ca „Suntem băieții buni și gânditori” și dacă crezi sau nu că acest lucru este în afara sensului. Ei au această reputație acolo: „Încercăm să facem asta într-un mod sigur, care respectă umanitatea și acordăm atenție tuturor acestor lucruri”. Și atunci când ai această ciocnire, acolo intervine lupta.
Aveți o administrație Trump care vrea doar să poată face tot ce dorește să poată face și nu sunt subtili în acest sens. Și apoi aveți Anthropic, a cărui autodescriere și personalitatea sa publică este întotdeauna de genul „Suntem atenți și respectăm umanitatea și drepturile și toate aceste lucruri”. Probabil că aici a apărut ciocnirea, deoarece Anthropic, după cum a fost clar, a lucrat cu Departamentul Apărării pentru o perioadă și are multe alte contracte cu guvernul pe care le-a folosit. Nu a fost o problemă.
Doar în aceste zone specifice, în timp ce guvernul căuta să extindă contractul pe care îl avea, conducerea senior al Anthropic a început să spună: „Stai, trebuie să ne asigurăm că nu depășim aceste linii roșii care ar putea afecta reputația noastră de furnizor de AI atent și sigur.”
Vreau să vă întreb pe scurt despre supraveghere în general și, în special, despre preocuparea Anthropic privind al patrulea amendament. Al patrulea amendament spune că guvernul nu vă poate percheziționa în mod nerezonabil. Cel mai bun mod de a înțelege al patrulea amendament este să asculti „99 Problems” de Jay-Z. Deci, dacă trebuie să faceți o pauză și să ascultați „99 Problems”, este grozav. Totul este acolo. L-am ascultat când eram la facultatea de drept și era perfect logic.
Dar, în general, guvernul are nevoie de un mandat de percheziție. Și pe măsură ce din ce în ce mai mult din viața ta merge online, există o mulțime și o mulțime de excepții de la asta. Dar ideea este că ar trebui să aibă în continuare un mandat online. Argumentul lui Anthropic este: "Ei bine, AI-ul nu va obosi niciodată. Poate căuta totul tot timpul. Asta înseamnă că vom face doar supraveghere principală."
Cu toate acestea, chiar înainte de apariția AI, ideea că guvernul ar putea căuta tot ce-ți aparține era acolo, ideea că guvernul nu avea nevoie de un mandat pentru a percheziționa toate lucrurile tale era acolo. Ideea că, dacă vreuna dintre datele tale a ieșit vreodată în afara țării pentru o scurtă secundă, guvernul a interceptat-o acolo,
Când eram la facultate, pe vremea Patriot Act, dezbaterea a fost că ei nu vor căuta datele tale reale, dar pot obține doar metadatele și metadatele. Datele despre datele dvs. vor fi suficiente pentru a vă localiza cu precizie în orice moment. Și chiar și asta e prea departe. Și am făcut acest dans despre ce poate colecta guvernul? Ce este permis? De ce au nevoie pentru a ne ține pe toți în siguranță și ce este prea departe? Acele linii s-au mutat.
Așa că descrieți pe scurt preocuparea generalizată cu privire la supravegherea la scară și unde ne aflăm acum. Înainte, situația AI a complicat totul exponențial.
Aici trebuie să introduc un alt concept care probabil ar fi trebuit menționat mai devreme, dar este important, care se numește „doctrina terților”. Ideea cu al patrulea amendament este că guvernul nu vă poate percheziționa pe dumneavoastră sau lucrurile dumneavoastră fără un mandat și nu poate obține un mandat fără cauza probabilă că ați comis un fel de infracțiune. Dar există acest concept care a apărut cu aproximativ zeci de ani în urmă, numit doctrina terților, care spune că asta nu se aplică neapărat sau nu se aplică deloc lucrurilor care nu sunt ale tale, chiar dacă sunt datele tale.
Cea mai veche și mai evidentă versiune a acesteia au fost înregistrările telefonice pe care compania de telefonie le avea despre cine ai sunat. Companiile de telefonie nu înregistrau apelurile tale, dar înregistrau dacă te sunam, ar exista o înregistrare la compania de telefonie care spune: „Mike îl sună pe Nilay”. Și ceea ce a fost stabilit de mai multe instanțe a fost că guvernul poate să meargă să solicite asta și nu au nevoie de un mandat pentru asta, deoarece nu este o perchezițiedatele dvs., este această terță parte și poate fi de acord ca terță parte să predea acele date.
Dar acelea au fost cazuri din anii 1960 și 70, în care s-a stabilit că guvernul poate avea acces la acestea fără mandat, când nu existau atâtea date de la terți. Ascensiunea computerelor și a internetului a schimbat asta. Acum, totul sunt date de la terți. Tot ceea ce facem este colectat de o companie de undeva și are o înregistrare. Deci, practic, fiecare fragment de date despre tine, unde ești, cu cine vorbești, cu cine interacționezi, ce spui, ce faci, toate acestea sunt aproape deținute de terți în zilele noastre. Deci, doctrina terțelor părți a înghițit întregul amendament al patrulea într-o oarecare măsură, în cazul în care orice este despre tine pe care altcineva îl are, există un standard mult mai scăzut pentru ceea ce poate face guvernul pentru a-l solicita.
Doar ca să fiu specific, asta înseamnă că atunci când datele mele sunt în iCloud, guvernul poate merge la Apple și poate scoate datele mele din iCloud fără să-mi spună vreodată?
O pot solicita. Îl pot solicita cu ușurință fără mandat. Apoi compania are propriile drepturi și poate determina ce vrea să facă cu acea cerere. Ei pot pur și simplu să renunțe la el. Ei pot, așa cum vor face cei mai mulți dintre ei, dacă este o solicitare serioasă, să respingă cererile din mână sau vă pot alerta și vă pot spune - și asta este ceea ce vor face cei mai mulți dintre ei - vă vor alerta și vă vor spune: "Guvernul solicită unele dintre datele dvs. Puteți să mergeți în instanță și să încercați să le blocați." Dacă nu, vă vor preda datele în șapte zile sau orice ar putea fi.
Din nou, depinde. Dacă este o anchetă penală, atunci poate exista un fel de ordin de călugărie în care compania nu are voie să vă spună. Există tot felul de situații, dar cele mai multe dintre ele implică mai puțin decât nivelul de protecție pe care l-ar cere al patrulea amendament dacă ar fi date sau orice informație sau ceva în propria casă.
Cantitatea de date pe care o ai pe serverul cloud al altcuiva este masivă, nu? Fiecare lucru pe care îl faceți în general pe internet acum este salvat într-un fel sau înregistrat într-un fel pe serverele altcuiva. Guvernul a găsit această modalitate de a ocoli cel de-al patrulea amendament și de a spune: "Ei bine, acesta nu este de fapt al tău. Aparține lui Amazon. Putem să vorbim cu Amazon", iar Amazon trebuie să stea în mijlocul acestui proces și să spună: "Am inventat un alt proces pentru a proteja oarecum oamenii."
Mă uit la asta – și când am acoperit primele cazuri de doctrină terță parte care acopereau serviciile cloud și guvernul a continuat să câștige, practic atunci m-am transformat în Joker. Eram de genul: „Toate aceste lucruri pe care le pretindem despre textualism și simplă [lectura], nimic din toate acestea nu înseamnă nimic pentru că pur și simplu ajungem la ușa din spate folosind această lege străveche în datele tuturor.”
Și apoi mă uit la asta și mă uit la Anthropic și spun: „Ei bine, acesta este același model.” Aceasta este o companie privată care spune: „Bine, înțelegem poziția ta. Înțelegem că ai reinterpretat legea pentru a însemna acest lucru și vom pune un proces între tine, instrumentul nostru și datele americanilor care circulă prin serviciul nostru.” Mă întreb doar dacă vedeți acea paralelă acolo, între Anthropic și Amazon și Azure și orice alte servicii cloud care există și care dețin atât de multe din datele noastre.
Da, deși există câteva clarificări care sunt importante aici care fac acest lucru puțin diferit. Și de fapt – cred că The New York Times a avut mai întâi această raportare – clauza principală care a fost cea mai importantă pentru Anthropic a fost în special despre datele colectate de la serviciile comerciale și despre faptul că nu ai putut folosi Claude pe acele date, care este exact această problemă în ceea ce privește datele terților. Dar vreau să clarific principala diferență dintre ceea ce tocmai vorbeam înainte de asta cu Amazon sau alte terțe părți care găzduiesc datele dvs., acelea erau cazuri în care acestea erau, din cauza locului în care se află în ecosistem, găzduiau datele dvs. direct.
Cu Claude, nu înseamnă că cineva ar fi îngrijorat de faptul că NSA caută prin utilizarea lui Claude. Este vorba despre ei să iasă și să obțină date terțe de la Amazon sau, mai probabil, genul de brokeri de date ascunși, ascunși, care vă oferă reclame pe telefoanele dvs. și vă cunosc locația și interesele și lucruri de genul acesta. Și apoi introducerea asta într-un sistemla care va lucra apoi Claude. Asta este ceea ce Anthropic cu adevărat nu a vrut să facă parte. Deci, oriunde sau oriunde ar colecta acele date de la o terță parte, Anthropic a spus: „Nu dorim ca instrumentul nostru să fie folosit pentru aceste date”.
În mod celebru, Apple se opune FBI-ului cerându-i să pună o ușă în spate în iPhone, iar Apple spune „nu”, iar ei se opun lui Trump. Și există o parte a modului în care funcționează sistemul nostru în care marile companii private ajung să spună „nu” guvernului în numele clienților lor. Și acest lucru s-a simțit în același mod în care Apple, din nou, nu va pune ușa în spate pe iPhone, sau marii furnizori de cloud spun: „Există un mic proces prin care trebuie să treci înainte de a obține datele individuale.”
Aici se pare că Anthropic spune: „Nu vom face doar analize în bloc a datelor pe care le-ați obținut de la alte părți, deoarece asta duce la supravegherea în masă 24/7 a americanilor și nu vrem să facem asta”. Cu toate acestea, pare o punte prea departe pentru această administrație. Există vreo întoarcere din asta?
Vom vedea. În trecut, când s-a întâmplat asta - și s-a întâmplat de multe ori cu majoritatea companiilor mari de tehnologie, la un moment dat au spus că ceva este o punte prea departe - unde se duce în mod normal este în instanță. Companiile vor merge în instanță sau administrația va merge în instanță și va avea loc un fel de bătălie în justiție.
Ușa din spate a iPhone-ului este un exemplu perfect în acest sens. A mers în instanță și s-au luptat, deși nu au ajuns niciodată la o concluzie, deoarece FBI-ul a pătruns în cele din urmă manual în iPhone și apoi nu a vrut ca decizia instanței să strice asta în viitor.
Dar în acest caz, unde este escaladarea și unde este diferit de acele situații anterioare, este că, în loc să meargă doar în instanță, administrația Trump a făcut această denumire de „risc pentru lanțul de aprovizionare”, care este pur și simplu o nebunie. Această idee că acest instrument care a fost conceput pentru a opri potențialii actori străini rău intenționați să furnizeze tehnologie, care ar putea apoi să pună instrumente de supraveghere ascunse în stiva tehnologică mai mare, că acestea ar putea fi interzise. A aplica asta unei companii din SUA, practic, pentru că are o politică de etică, se simte ca o utilizare greșită reală, reală, a acestui instrument.
Chiar și acel instrument era îndoielnic în anumite privințe, dar ai putea înțelege impulsul din spatele lui atunci când vorbești despre o firmă de rețea chineză sau ceva de genul acesta. Aici, nu are sens. Deci reacția la acest lucru depășește cu mult ceea ce ar fi văzut în mod normal în acest caz. Ați putea vedea în mod tradițional că ar exista un fel de dosar în instanță și fiecare parte ar putea începe și ar fi doar o bătălie despre cum ar putea fi aplicat contractul.
Dar nu asta se întâmplă aici. Această administrație spune în mod efectiv: „Dacă nu ne oferi absolut tot ceea ce ne dorim, dacă nu vă configurați instrumentele să funcționeze așa cum vrem noi, atunci vom încerca efectiv să vă distrugem întreaga afacere.” Și asta este o escaladare.
Există o bucată din asta cu care vreau să închei și este cam cea mai galaxie versiune a acesteia. FIRE, care este un grup de promovare a libertății de exprimare, a publicat o postare pe blog chiar înainte de a începe înregistrarea, argumentând că forțarea Anthropic să construiască instrumente pe care nu vrea să le construiască este o încălcare a libertății de exprimare, că este ceva numit vorbire forțată. Există multă istorie aici. Există o istorie profundă de Verge și Techdirt, în buruieni, de criză existențială aici.
Dar, practic, se reduce la ideea că codul este vorbire, că scrierea codului pentru un computer este o formă de vorbire și guvernul nu te poate forța să o faci și o grămadă de lucruri decurg din asta. Cumperi acest argument că forțarea Anthropicului să construiască instrumente pe care nu vrea să le construiască este vorbire forțată?
Da, chiar cred că este destul de convingător. Discurs forțat convingător. Dar nu, cred că este un argument interesant. Este unul care a fost puțin mai jos în lista problemelor la care mă gândeam. Evident, m-am concentrat mai mult pe problemele legate de al patrulea amendament, dar cred că argumentul FIRE nu este greșit. Am văzut asta în alte contexte. A apărut și în problema ușilor din spate, în ceea ce privește încercarea de a construi uși din spate în sisteme criptate.
Firmele au crescut cu siguranță FirstAmendamentul susține, spunând: „Este un discurs forțat să ne obligă să scriem acest tip de cod”. Este un argument valid. Ar putea fi, din nou, una pe care instanțele sunt probabil mai puțin dispuse să o abordeze inițial dacă pot trata aceste probleme într-un alt mod. Dar mă bucur că FIRE a făcut acea postare și cred că este un argument interesant și convingător.
Da, natura celei de-a doua administrații Trump este că este un instrument atât de clar, este aproape sigur că vom ataca toate problemele dintr-o dată.
Da, fiecare amendament al Bill of Rights trebuie contestat într-o formă sau alta cu orice problemă posibilă.
[Râde] Învârte roata.
Sunt sigur că putem încadra o încălcare a celui de-al treilea amendament undeva aici.
Sigur, da. Claude trebuie să locuiască în casa ta acum. Exact. Va fi grozav. Facem [amendamentele] unu, trei, patru și șapte. Le strângem.
Mike, asta a fost grozav. Nu pot să cred că nu ai mai fost în emisiune înainte. Acest lucru a fost grozav. Trebuie să te întorci curând.
Absolut. Ori de câte ori mă vrei.
Întrebări sau comentarii despre acest episod? Adresați-ne la decoder@theverge.com. Chiar citim fiecare e-mail!
