Avui parlem de la situació desordenada i ràpida a Anthropic, el creador de Claude que ara es troba en una batalla legal molt lleig amb el Pentàgon.
L'anada i tornada és complicada, però des de fa uns dies, el Pentàgon havia considerat que Anthropic era un risc per a la cadena de subministrament, i Anthropic ha presentat una demanda impugnant aquesta designació, dient que el govern ha violat els seus drets de la Primera i la Cinquena Esmena en "buscar destruir el valor econòmic creat per una de les empreses privades de més ràpid creixement del món". Us puc dir ara mateix: parlarem dels girs i voltes d'aquest cas a The Verge i aquí a Decoder en els propers mesos.
Però avui volia dedicar-me un moment i aprofundir aquí en un element molt important d'aquesta situació que no ha rebut prou atenció, ja que això s'ha descontrolat: com fa la vigilància el govern dels Estats Units, l'autoritat legal que permet que es produeixi aquesta vigilància i per què Anthropic desconfiava que el govern digués que seguiria la llei quan es tracta d'utilitzar la IA per fer encara més vigilància.
Subscriptors de Verge, no oblideu que teniu accés exclusiu al descodificador sense anuncis allà on tingueu els vostres podcasts. Dirigiu-vos aquí. No ets subscriptor? Us podeu inscriure aquí.
El meu convidat avui és Mike Masnick, el fundador i CEO de Techdirt, l'excel·lent i de llarga durada web de polítiques tecnològiques. Mike ha estat escrivint sobre l'abast del govern, la privadesa a l'era digital i altres temes relacionats des de fa dècades. És un expert en com Internet i l'estat de vigilància han crescut de maneres interconnectades.
Ja veus, hi ha el que la llei diu que el govern pot fer quan es tracta de vigilar-nos, i després el que el govern vol fer. I el més important, hi ha el que el govern diu que la llei diu que pot fer, que sovint és exactament el contrari del que pensaria qualsevol persona normal que simplement llegeixi la llei.
En aquest episodi, escoltareu a Mike explicar amb gran detall que no podem —i no hem de— prendre la paraula del govern dels EUA quan es tracta de vigilància. Hi ha massa història d'advocats governamentals que torcen les interpretacions de paraules senzilles com "objectiu" per ampliar la vigilància de maneres complicades, maneres que normalment només causen preocupació en els cercles legals i que només surten quan hi ha grans controvèrsies com les revelacions importants de la NSA del denunciant Ed Snowden fa més d'una dècada.
Però no hi ha res subtil o sofisticat en l'elaboració de polítiques a l'era de Trump, i per tant, amb Anthropic, estem tenint un debat molt fort i molt públic sobre tecnologia i vigilància en temps real, a Internet, en publicacions de blocs i xantemes, i en conferències de premsa. Hi ha aspectes positius i negatius en això, però per donar-li sentit a tot això, realment cal conèixer la història.
Això és el que en Mike i jo ens hem proposat explicar en aquest episodi: siguin quines siguin les vostres opinions sobre la IA i el govern, aquest episodi deixarà clar que ambdues parts han deixat que l'estat de vigilància es faci més i més gran amb el temps. Ara, estem a la cúspide de l'expansió més gran fins ara pel que fa a la IA.
D'acord: Mike Masnick, fundador i conseller delegat de Techdirt, sobre la vigilància antròpica, el Pentàgon i la IA. Aquí anem.
Aquesta entrevista ha estat lleugerament editada per a la llargada i la claredat.
Mike Masnick, ets el fundador i CEO de Techdirt. Benvingut a Decoder.
M'alegro d'estar aquí.
Estic emocionat de tenir-te. Només deia que estic sorprès que no hagis estat mai al programa. Tu i jo hem estat escrivint i publicant-nos des de fa molt de temps. Gran part de la cobertura de la pòlissa de The Verge té un deute amb el que heu fet a Techdirt i, aleshores, el que està passant amb Anthropic és tan complicat, però afecta tants temes que heu cobert durant tant de temps. M'alegro que finalment estiguis aquí.
És un tema complicat, però estic emocionat d'entrar-hi.
El que vull centrar-me amb vosaltres no són els detalls de si Anthropic signarà un contracte amb el govern o si OpenAI aconseguirà aquest contracte. En canvi, estic segur que entre el moment en què enregistrem això i el moment en què la gent l'escolta, hi haurà més tuits i més coses seran diferents de les que eren abans.
El que vull centrar-me és només en una de les dues línies vermelles que realment ha traçat Anthropic. Un d'ells ésarmes autònomes, que és el seu propi nivell de complicació. La llei allà és una mica més incipient tant si les armes existeixen com si no ja han estat desplegades per Rússia a la guerra d'Ucraïna.
Hi ha moltes idees aquí que només vull deixar-les de banda perquè crec que això es centrarà més en el seu propi horari. L'altra línia vermella a la qual vull dedicar molt de temps és la vigilància massiva. I aquí hi ha molta llei sobre la vigilància massiva. Hi ha molta història, molta història controvertida. Tot el personatge d'Edward Snowden existeix a causa de controvèrsies al voltant de la vigilància massiva.
Tot es redueix a —crec que vostè és qui va publicar això— l'Agència de Seguretat Nacional (NSA), que forma part del Departament de Defensa, que ara hem d'anomenar Departament de Guerra per algun motiu.
[Riu] No hem de fer res.
[Riu] Nosaltres no. Això és cert aquí a Amèrica. No hem de fer res. Però la NSA bàsicament ha redefinit el que signifiquen moltes paraules de l'anglès col·loquial per significar: "Només podem fer vigilància". I de tant en tant hi ha un escàndol quan la gent descobreix que només està fent vigilància. Per tant, només cal que prepareu l'escenari allà, i no vull rebobinar-vos tot el camí, però fa molt de temps que aquest patró s'ha repetit.
Depèn de la profunditat que vulgueu arribar, però la versió curta és, òbviament, al món posterior a l'11 de setembre, els EUA van aprovar la Patriot Act, que tenia una certa capacitat per al govern per participar en la vigilància, que se suposava que havia de ser per protegir-nos de futures amenaces terroristes. Amb el temps, això es va interpretar de maneres interessants i hi va haver alguns límits. També vam tenir el tribunal FISA, que és un tribunal especial que se suposa que revisa la comunitat d'intel·ligència i les seves activitats, però que tradicionalment ha estat un tribunal unilateral. Només una part pot presentar el seu cas davant aquest tribunal i tot es fa en secret.
Hi ha moltes coses que no es coneixien. I després hi havia una altra peça en tot això, que es remunta a Ronald Reagan, que és l'Ordre executiva 12333, que suposadament tracta d'establir les regles del camí per a la recollida d'intel·ligència.
Per tant, teniu aquests tres conjunts de lleis, bé, uns quants conjunts de lleis, i una ordre executiva que al públic, les parts que podeu llegir, semblen dir certes coses sobre el que el nostre govern i la NSA en particular poden fer en termes de vigilància. Quan llegeixem amb un diccionari anglès senzill, la naturalesa del qual tu i jo probablement entenem i entenem, ens sortiríem de la creença que la capacitat de la NSA per vigilar els nord-americans era molt limitada, de fet, fins al punt que se suposa que, si s'adonen que estan vigilant una persona nord-americana, se suposa que s'han d'aturar immediatament i plorar malament i esborrar les dades i totes aquestes altres coses.
Durant un temps hi va haver rumors que això no estava passant realment i hi va haver insinuacions i, en particular, el senador Ron Wyden va ser molt clar sobre anar al Senat i dir: "Alguna cosa no va bé aquí i no puc dir-vos què", o en les audiències preguntava als funcionaris d'intel·ligència: "Esteu recopilant o no dades massives sobre nord-americans?"
Aquests funcionaris desviarien o, en alguns casos, mentirien directament. Crec que va ser una audiència el 2012 amb James Clapper, que era el director d'Intel·ligència Nacional en aquell moment, on se li va preguntar directament sobre aquest punt. I bàsicament va dir: "No, no recollim dades sobre nord-americans". Això va ser una gran part del que va inspirar Ed Snowden a filtrar les dades, els informes que també va filtrar a Glenn Greenwald i Barton Gellman i Laura Poitras. A partir de tot això, el que vam començar a descobrir va ser que la NSA té el seu propi diccionari que és una mica diferent del diccionari que utilitzem tu i jo, de manera que poden interpretar paraules d'una manera diferent del seu significat en anglès senzill, incloses paraules com "objectiu", que sembla una paraula clau. Una comprensió àmplia de què és això és que, en teoria, només se suposa que es dirigeixen a persones que no són persones dels Estats Units, crec que és la frase.
Però la manera com s'havia interpretat al llarg del temps era que tot el que esmenta aquesta persona, qualsevol cosa que es refereixi a una persona estrangera ara és un joc just, encara que siguin les comunicacions d'unpersona dels EUA. Per tant, si tu i jo ens enviàvem un missatge de text i esmentéssim una persona estrangera, ara és un joc just per a la NSA per recollir i guardar i emmagatzemar.
Hi ha una segona part d'això. Vaig esmentar la primera ordre executiva 12333 de Ronald Reagan, que, a mesura que la tecnologia va canviar amb el pas del temps i Internet va créixer, va permetre efectivament a la NSA aprofitar les comunicacions estrangeres, però que incloïa qualsevol comunicació que pogués haver deixat els EUA en ruta. Així que si t'estic enviant un missatge de text i un missatge em va enviar a Califòrnia a través d'un cable de fibra òptica que va sortir dels EUA, l'NSA podria posar un toc a la part un cop estigui fora dels Estats Units i recollir aquesta informació, fins i tot si només va a tu dins dels EUA.
Aleshores, la NSA podria conservar aquesta informació fins i tot si es tractava de persones nord-americanes, i podien fer-hi cerques específiques més tard, de vegades anomenades "cerques de porta posterior". Van recollir aquesta informació que creiem que no havien de recollir en primer lloc, però la podrien conservar. I van prometre, van jurar en Pinky, que ho mantindrien en privat, però si feien una recerca i trobaven que tu o jo vam esmentar una persona estrangera, de sobte era un joc just per a ells fer-hi el que volguessin.
En total, això s'ha convertit en un món en què el govern federal bàsicament pot recollir qualsevol informació que toqui fora dels EUA. Fins i tot si es tracta completament entre dues persones nord-americanes, si esmenten o fins i tot insinuen algú que no és una persona nord-americana, de sobte és un joc just per ser recollit. I d'això hem obtingut el que sembla ser una forma de vigilància massiva de persones nord-americanes per part d'una NSA que afirma i afirma públicament que no espia persones nord-americanes.
Com hem arribat a aquest punt? Aquests són molts passos incrementals del nadó. Vostè va mencionar James Clapper el 2012, aquesta és l'administració Obama. Heu esmentat Ronald Reagan, això és la dècada de 1980. Aquí estem passant per demòcrates i republicans.
La guerra contra el terror va passar a l'administració de George W. Bush, i l'11 de setembre i la Patriot Act van passar a l'administració de George W. Bush. Hi ha moltes coses dolentes incrementals sota els presidents dels dos partits, sota els congressos dels dos partits. Com va passar això?
La forma més senzilla és que ningú, i sens dubte cap president, vol ser president durant el temps en què hi ha un gran atac terrorista, perquè això els fa veure malament. Evidentment també volen protegir els nord-americans, oi? Això forma part de la seva feina. Si teniu una comunitat d'intel·ligència que bàsicament està operant a la foscor perquè això és el que fan les comunitats d'intel·ligència i continuen venint a vosaltres i us diuen: "Eh, si poguéssim accedir a aquesta informació, seria molt útil per prevenir un atac terrorista".
Hi pot haver casos en què això sigui cert, que la comunitat d'intel·ligència sigui capaç d'utilitzar aquesta informació d'una manera que funcioni bé. Però també som, en teoria, una societat de lleis amb una Constitució dels EUA que se suposa que hem d'obeir. Però això va permetre que administració rere administració, de nou, republicans i demòcrates, tinguessin advocats que eren molt intel·ligents i que miraven i deien: "Bé, si ens posicionem d'aquesta manera o afirmem d'aquesta manera o interpretem això, així podrem aconseguir el que volem i no infringir tècnicament la llei o no violar tècnicament la Quarta Esmena".
La hipòtesi sempre va ser: "Podem doblegar la llei o la nostra interpretació de la llei i ningú no ho veurà mai, o ningú a qui li importa no ho veurà mai i, per tant, ens en sortirem".
Hi ha dues coses que realment em sorprenen. Primer, tu i jo llegim moltes decisions judicials: decisions dels tribunals d'apel·lació i decisions del Tribunal Suprem. I hi ha una baralla al nostre Tribunal Suprem sobre com interpretar literalment les paraules dels nostres estatuts i de les nostres lleis.
No m'hi aprofundiré massa, però diria que, en general, la idea que només hauríeu de llegir les paraules de la pàgina i fer el que diuen és la tensió dominant d'interpretació legal als Estats Units. Esquerra o dreta, tots dos ho diuen. Discuten sobre alguns punts molt esotèrics del que això significa realment. Però que només hauríeu de poder llegir aquestes paraules i fer el que diuen, això no està en joc, oi?
Hem aterrat almenys en aquesta primera passada del que podríeuanomenar textualisme. Com s'allunyen tant els advocats d'ambdues administracions del mode dominant de decisió jurídica al nostre país? Els jutges d'ambdues parts coincideixen que aquest és almenys el primer pas.
M'agradaria saber la resposta exacta, però crec que és un raonament motivat, oi? Com a advocat, estàs allà per defensar el teu client i l'èxit, si pots anomenar-ho èxit, del nostre sistema legal acostuma a basar-se en una situació contradictòria en què tens diferents bàndols discutint sobre aquestes coses, on el paper de l'adjudicador és limitar i esbrinar quina és la part correcta.
Un dels problemes amb la comunitat d'intel·ligència i la seva configuració és que no teniu aquesta situació d'enfrontament. Això fa que sigui més fàcil que una part justifiqui l'argument que estan fent perquè ningú realment ho rebutja. Combineu això amb la por general a un altre atac terrorista, qualsevol cosa relacionada amb la seguretat nacional, i fins i tot quan teniu situacions en què teniu el tribunal FISA, vull dir que el tribunal FISA va ser una mica famós per ser un segell de goma durant molts anys.
M'oblido de les xifres exactes, però va ser una cosa així com més del 99 per cent de les sol·licituds que es van dirigir al tribunal FISA per permetre la vigilància de determinades situacions, i és fàcil dir que el 99 per cent és òbviament massa. Òbviament, els que presenten reclamacions al jutjat, estan triant i triant. No són, en la seva majoria, afirmacions totalment boges. Però sense aquest aspecte adversari i amb un grup de persones molt motivades que pensen: "Hem de fer això", o que una administració els diu "Ho hem de fer", trobaran maneres de fer-ho. I aquí és on acabes amb el temps.
Hi ha hagut algú implicat en aquest procés que s'hagi despertat i s'hagi dit: "Noi, hem aconseguit redefinir la paraula "objectiu" perquè signifiqui el que vulguem"?
[Riu] Òbviament teníeu Ed Snowden, que va filtrar un munt de documents. Teniu John Napier Tye, que va escriure un article per a The Washington Post el 2014, que va revelar la interpretació de l'Ordre executiva 12333, i va dir que aquest és el veritable problema al qual cal prestar atenció. Hi ha altres persones que han parlat d'aquestes coses, però en la seva major part, les persones que estan involucrades en el treball dins de l'administració en temes de la comunitat d'intel·ligència estan compromeses amb l'opinió de la comunitat d'intel·ligència, que és que l'objectiu primordial és protegir el país d'alguna cosa dolenta. La millor manera de fer-ho és disposar de la màxima informació possible.
És fàcil ser comprensiu amb l'argument que, sí, tenir més informació els pot permetre captar alguna cosa abans o trobar alguna cosa important, però, un, això potser no és cert. Obtenir massa informació és probablement tan dolent com massa poca informació perquè sovint pot ocultar la informació que realment és útil, la informació que realment necessiteu per determinar alguna cosa.
Però també tenim un U..S. Constitució en primer lloc i tenim raons per les quals, en teoria, no hem de permetre una vigilància massiva sense causa probable. Com a país que creu en l'estat de dret, hauríem de ser capaços d'estar a l'altura d'això, i quan totes aquestes coses succeeixin a la foscor, tendiràs a perdre-ho de vista.
Això em porta a Anthropic. Anthropic és principalment una empresa empresarial. Són bons amb el govern, han construït aquests músculs, estan formats per gent que està molt versada en algunes d'aquestes coses. Òbviament, van mirar Pete Hegseth dient: "Volem tots els usos legals", i van baixar dos nivells d'interpretació i van dir: "Bé, la teva creença literal és que aquestes paraules no volen dir el que diuen que volen dir a la cara. Així que "tots els usos legals" és massa gran, i volem posar algunes baranes particularment al voltant de la vigilància massiva".
De nou, vaig a separar les armes autònomes, que era l'altra línia vermella, però sobretot en la vigilància massiva, Dario Amodei està dient: "Podem fer massa. Això és massa perillós. Aquesta és una violació de la Quarta Esmena".
La tensió que hi ha és "estàs dient que compliràs aquestes lleis que diuen una cosa i ara, després de tot aquest temps, signifiquen una cosa completament diferent i no volem formar part d'això". Això és ellluitar. Només vull comparar-ho amb Sam Altman, que s'aproxima per dir: "Farem tots els usos lícits" i després publica aquest llarg missatge com: "Aquí teniu totes les lleis que complirem".
Sembla que Altman no sabia com l'NSA havia reinterpretat aquestes coses i se'n va fer un passeig. I des d'aleshores ha començat a tornar-hi, tot i que estem gravant, estic segur que hi ha més tuits i que les posicions de tothom han canviat. Però Altman ha anat retrocedint lentament, però sembla que OpenAI es va veure obligat a llegir els estatuts a la cara i a creure el que deien. Aquesta també és la teva interpretació dels esdeveniments?
Hi ha dues possibilitats, i aquesta és una d'elles. Una és que es va tocar de la mateixa manera que el públic durant molts anys. La teoria alternativa, i no tinc ni idea quina d'elles és certa, és que ell o alguns dels advocats d'OpenAI, que crec que són molt competents i molt coneixedors, ho sabien, però pensaven que podrien jugar al mateix joc que va jugar la NSA durant unes dècades, ja que sempre que diguessin aquestes coses i després diguessin les paraules, però no revelen les interpretacions reals, això també podria sortir-se'n. Així que Sam surt amb la declaració que fa que sembli que "teníem exactament les mateixes línies vermelles que Anthropic, i el govern va ser fantàstic amb això".
De fet, crec que Sam Altman va dir que Anthropic tenia dues línies vermelles i OpenAI en tenia tres, i el govern estava perfectament bé amb això, i això va fer que molta gent es gratés el cap. Però crec que ha de ser que Sam Altman i qui l'envoltava no entenien com funcionen aquestes coses a la pràctica, o ho van fer, i van suposar que el públic no ho sabria i, per tant, se'n podria sortir amb la seva.
L'altra cosa que em ve al cap: de nou, la IA és nova i és molt temptador trobar noves tecnologies, ja que són problemes de primera impressió. "Ningú no havia hagut de pensar en això abans", però la realitat és que tothom fa temps que pensa en aquestes coses. Potser el que és nou aquí no és la intel·ligència artificial, sinó que la segona administració de Trump, en lloc de fer un munt d'advocats que potser ningú llegirà mai per justificar les seves accions davant un tribunal secret al qual ningú li presta atenció, no és tan subtil.
No són tan sofisticats i només diuen que espiaran a tothom tot el temps. Acaben d'anunciar les seves intencions d'una manera que potser totes les administracions haurien d'anunciar les seves intencions i veure on cauen les fitxes.
Però estic mirant el fet que hi havia Ed Snowden aquí a la ciutat de Nova York. AT&T gestiona un edifici que tothom sap que és un edifici de la NSA. És només un edifici gegant, i se suposa que hem de fingir que no és un centre de vigilància de la NSA, però és allà mateix. És enorme. Res d'això sembla haver arribat a res. Totes aquestes revelacions, aquestes filtracions, no ho hem fet enrere.
De fet, només ha augmentat a mesura que gran part de les nostres vides s'han tornat cada cop més digitals. I potser que l'administració de Trump sigui un instrument tan contundent en tot moment, això podria ser el que causa el compte. Ho veus jugant de totes maneres?
Hi ha unes quantes coses diferents, i no és del tot cert que no ens hem fet enrere en absolut. Les revelacions de Snowden van provocar alguns canvis en la manera com succeeixen aquestes coses. I ara n'hi ha, m'oblido de com es diuen, però són com aquests amicus civils dins del tribunal FISA que actuaran com a presentant l'altra banda en determinades qüestions.
I hem vist algunes de les autoritats limitades d'alguna manera, i que de tant en tant demanen una reautorització, i els activistes han estat molt agressius a l'hora de fer retrocedir i intentar posar-hi més baranes. Però a la pregunta més gran, crec que hi ha dues coses diferents. Tens mitja raó en què aquesta administració no és subtil i només diu en veu alta les coses que no hauria de fer.
"Estem en guerra amb l'Iran, ho estem fent, està passant. Ni tan sols provarem el ball".
D'una manera que totes les administracions anteriors no ho farien. Però realment no ho han dit directamentvigilància, especialment la vigilància dels nord-americans. Hi ha hagut indicis, però no s'han pronunciat tan fort en això. L'altra meitat té més a veure amb el posicionament d'Anthropic i la visió general de la IA com aquesta tecnologia possiblement existencial, on Anthropic sempre s'ha presentat com: "Som els bons reflexius", i si creus o no que això és més enllà del punt. Tenen aquesta reputació allà fora: "Estem intentant fer-ho d'una manera segura, que respecti la humanitat i prestem atenció a totes aquestes coses". I, per tant, quan tens aquest xoc, aquí és on entra la lluita.
Teniu una administració de Trump que només vol poder fer el que vulgui, i no són subtils al respecte. I després tens Anthropic, l'autodescripció i la seva personalitat pública sempre són com: "Som reflexius i respectem la humanitat i els drets i totes aquestes coses". Segurament és aquí on va entrar el xoc, perquè Anthropic, com s'ha deixat clar, fa temps que treballa amb el Departament de Defensa i té molts altres contractes amb el govern que ha utilitzat. No ha estat cap problema.
Va ser només en aquestes àrees específiques on, mentre el govern buscava ampliar el contracte que tenia, la direcció superior d'Anthropic va començar a dir: "Espera, ens hem d'assegurar que no estem creuant aquestes línies vermelles que podrien danyar la nostra reputació com a proveïdor d'IA atent i segur".
Vull preguntar-vos breument sobre la vigilància en general, i en particular la preocupació de la quarta esmena d'Anthropic. La quarta esmena diu que el govern no us pot buscar sense raó. La millor manera d'entendre la Quarta Esmena és escoltant "99 Problems" de Jay-Z. Així que si necessiteu fer una pausa i anar a escoltar "99 Problems", això és genial. Tot hi és. El vaig escoltar quan estava a la Facultat de Dret i tenia molt sentit.
Però el govern generalment necessita una ordre per escorcollar-te. I a mesura que més i més de la teva vida es connecta, hi ha moltes i moltes excepcions a això. Però la idea és que encara haurien de necessitar una ordre en línia. L'argument d'Anthropic és: "Bé, la IA no es cansarà mai. Pot buscar-ho tot tot el temps. Això vol dir que només farem una vigilància magistral".
Tot i això, fins i tot abans que aparegués la IA, la idea que el govern pogués buscar tot el que et pertanyia estava allà fora, la idea que el govern no necessitava una ordre per buscar totes les teves coses estava allà fora. La idea que si alguna de les vostres dades sortia del país durant un breu segon, el govern les interceptava allà,
Quan estava a la universitat, al voltant de l'època de la Patriot Act, el debat era que no buscaran les vostres dades reals, però només poden obtenir les metadades i les metadades. Les dades sobre les teves dades seran suficients per localitzar-te amb precisió en tot moment. I fins i tot això és massa lluny. I hem estat fent aquest ball de què pot recollir el govern? Què és permès? Què necessiten per mantenir-nos segurs i què hi ha massa lluny? Aquestes línies s'han mogut.
Així que només descriu breument la preocupació generalitzada sobre la vigilància a escala i on ens trobem ara. Abans la situació de la IA ho complicava tot exponencialment.
Aquí he d'introduir un altre concepte que probablement s'hauria d'haver esmentat abans, però que és important, que s'anomena "doctrina de tercers". La idea de la quarta esmena és que el govern no us pot escorcollar a vosaltres ni a les vostres coses sense una ordre i no pot obtenir una ordre sense causa probable que hàgiu comès algun tipus de delicte. Però hi ha aquest concepte que va sorgir fa unes dècades anomenada doctrina de tercers, que diu que això no necessàriament s'aplica, o no s'aplica en absolut, a coses que no són vostres, encara que siguin les vostres dades.
La versió més antiga i òbvia d'això eren els registres telefònics que tenia la companyia telefònica de qui vau trucar. Les companyies telefòniques no estaven gravant les teves trucades, però estaven gravant si et trucava, hi hauria un registre a la companyia telefònica que digués: "En Mike truca a Nilay". I el que s'havia determinat per diversos tribunals era que el govern pot anar a demanar-ho, i no necessiten una ordre perquè no es tracta d'un escorcoll deles teves dades, són aquest tercer i poden acceptar com a tercer només lliurar aquestes dades.
Però eren casos dels anys 60 i 70, on es va determinar que el govern hi pot accedir sense cap ordre, quan no hi havia tantes dades de tercers. L'auge dels ordinadors i d'Internet va canviar això. Ara, tot són dades de tercers. Tot el que fem és recollit per alguna empresa en algun lloc i en té un registre. Així, bàsicament, cada dada sobre tu, on ets, amb qui parles, amb qui interactues, què dius, què estàs fent, tot això està pràcticament en poder de tercers en aquests dies. Per tant, la doctrina de tercers s'ha empasat tota la Quarta Esmena fins a cert punt, on qualsevol cosa que tingui sobre vostè que algú altre tingui, hi ha un estàndard molt més baix pel que fa al que el govern pot fer per demanar-ho.
Per ser específic, això vol dir que quan les meves dades estan a iCloud, el govern pot anar a Apple i treure les meves dades d'iCloud sense dir-m'ho mai?
Ho poden demanar. Ho poden sol·licitar fàcilment sense mandat. Aleshores, l'empresa té els seus propis drets i pot determinar què vol fer amb aquesta sol·licitud. Només poden renunciar-hi. Poden, com faran la majoria d'ells, si es tracta d'una sol·licitud seriosa, rebutjar sol·licituds sense cap mena de dubte o poden avisar-te i dir -i això és el que faran la majoria d'ells- t'avisaran i diuen: "El govern demana algunes de les teves dades. Pots anar als jutjats i intentar bloquejar-les". Si no, et lliuraran les teves dades en set dies o el que sigui.
De nou, depèn. Si es tracta d'una investigació criminal, pot ser que hi hagi algun tipus d'ordre de mordaç on l'empresa no us ho permeti. Hi ha tot tipus de situacions, però la majoria d'elles impliquen un nivell de protecció inferior al que requeriria la Quarta Esmena si es tractés de dades o qualsevol informació o qualsevol cosa a casa teva.
La quantitat de dades que teniu al servidor al núvol d'una altra persona és enorme, oi? Totes les coses que feu generalment a Internet ara es fa una còpia de seguretat d'alguna manera o es registra d'alguna manera als servidors d'una altra persona. El govern ha trobat aquesta manera d'evitar la quarta esmena i dir: "Bé, això no és el vostre. Pertany a Amazon. Podem anar a parlar amb Amazon", i Amazon s'ha de situar al mig d'aquest procés i dir: "Hem inventat un altre procés per protegir una mica la gent".
Ho miro, i quan estava cobrint els primers casos de doctrina de tercers que cobrien els serveis al núvol i el govern va seguir guanyant, bàsicament va ser quan em vaig convertir en el Joker. Vaig dir: "Totes aquestes coses que estem fingint sobre el textualisme i la senzilla [lectura], res d'això vol dir res perquè només ens apropem a la porta del darrere utilitzant aquesta llei antiga a les dades de tothom".
I després miro això i miro Anthropic i dic: "Bé, aquest és el mateix patró". Es tracta d'una empresa privada que diu: "D'acord, entenem la vostra posició. Entenem que heu reinterpretat la llei per significar això, i posarem algun procés entre vosaltres, la nostra eina i les dades dels nord-americans que circulen pel nostre servei". Només em pregunto si veieu aquest paral·lelisme allà, entre Anthropic i Amazon i Azure i qualsevol altre servei al núvol que existeixi que contingui tantes de les nostres dades.
Sí, tot i que hi ha alguns aclariments que són importants aquí que ho fan una mica diferent. I, de fet, crec que el New York Times va tenir aquest informe primer, la clàusula principal que era més important per a Anthropic era específicament sobre les dades recollides de serveis comercials i no poder utilitzar Claude en aquestes dades, que és exactament aquest problema en termes de dades de tercers. Però sí que vull aclarir la diferència principal entre el que estàvem parlant abans d'Amazon o altres tercers que allotjaven les vostres dades, aquells eren casos en què eren, a causa d'on es troben a l'ecosistema, allotjaven les vostres dades directament.
Amb Claude, no és que ningú estigui preocupat perquè la NSA revisi el vostre ús de Claude. Es tracta que surtin i obtinguin dades de tercers d'Amazon o, més probablement, la mena d'agents de dades enganyats i ocults que publiquen anuncis als vostres telèfons i coneixen la vostra ubicació i els vostres interessos i coses així. I després introduir-ho en un sistemaque després treballaria en Claude. Això és del que Anthropic realment no volia formar part. Així, allà on o com sigui el govern recopilaria aquestes dades d'un tercer, Anthropic va dir: "No volem que la nostra eina s'utilitzi en aquestes dades".
Apple s'enfronta a l'FBI que li demana que posi una porta del darrere a l'iPhone, i Apple diu "no" i s'enfronten a Trump. I hi ha una part del funcionament del nostre sistema en què les grans empreses privades poden dir "no" al govern en nom dels seus clients. I això es va sentir de la mateixa manera que Apple, de nou, no la posarà una porta del darrere a l'iPhone, o els grans proveïdors de núvols diuen: "Hi ha una mica d'un procés que heu de passar abans d'obtenir les dades individuals".
Aquí sembla que Anthropic està dient: "No només farem una anàlisi massiva de les dades que heu adquirit d'altres parts perquè això condueix a una vigilància massiva dels nord-americans les 24 hores del dia, i no volem fer-ho". No obstant això, sembla un pont massa llunyà per a aquesta administració. Hi ha algun retorn d'això?
ja ho veurem. En el passat, quan això ha passat, i ha passat moltes vegades amb la majoria de les grans empreses tecnològiques, en algun moment han dit que alguna cosa és un pont massa llunyà, on això normalment arriba als tribunals. Les empreses aniran als jutjats o l'administració anirà als jutjats i hi haurà algun tipus de batalla judicial.
La porta del darrere a l'iPhone és un exemple perfecte d'això. Va anar als jutjats i van lluitar, tot i que mai van arribar a una conclusió perquè l'FBI finalment va entrar manualment a l'iPhone i després no volia que la decisió judicial ho arruïnés en el futur.
Però en aquest cas, on hi ha l'escalada i on això és diferent d'aquelles situacions passades és que en lloc d'anar als tribunals, l'administració de Trump va fer aquesta designació de "risc de la cadena de subministrament", que és una bogeria. Aquesta idea que aquesta eina que va ser dissenyada per impedir que els possibles actors maliciosos estrangers subministrin tecnologia, que després poguessin posar eines de vigilància ocultes a la pila tecnològica més gran, que poguessin ser prohibides. Aplicar això a una empresa amb seu als Estats Units bàsicament per tenir una política ètica sembla un ús real i real d'aquesta eina.
Fins i tot aquesta eina era qüestionable d'alguna manera, però podríeu entendre l'impuls que hi ha darrere quan parleu d'una empresa de xarxes xinesa o alguna cosa en aquesta línia. Aquí, no té sentit. Per tant, la reacció a això va molt més enllà del que normalment es veuria en aquest cas. Es podria veure que tradicionalment hi hauria algun tipus de cas judicial i qualsevol de les parts podria iniciar-lo i només seria una batalla sobre com es podria aplicar el contracte.
Però això no és el que està passant aquí. Aquesta administració està dient efectivament: "Si no ens doneu absolutament tot el que volem, si no configureu les vostres eines perquè funcionin com volem que funcionin, aleshores intentarem destruir tot el vostre negoci". I això és una escalada.
Hi ha una peça d'això amb la qual vull acabar, i és una mena de la versió més galàxia del cervell. FIRE, que és un grup de defensa de la llibertat d'expressió, va publicar una entrada al bloc just abans de començar a gravar argumentant que obligar a Anthropic a construir eines que no vol construir és una violació de la llibertat d'expressió, que és una cosa que s'anomena discurs forçat. Aquí hi ha molta història. Aquí hi ha una història profunda de Verge i Techdirt, entre les males herbes i la crisi existencial.
Però bàsicament es redueix a la idea que el codi és la parla, que escriure codi per a un ordinador és una forma de parla i el govern no us pot obligar a fer-ho, i d'això surten un munt de coses. Creus aquest argument que obligar a Anthropic a construir eines que no vol construir és un discurs forçat?
Sí, de fet crec que és força convincent. Discurs força convincent. Però no, crec que és un argument interessant. És un que havia estat una mica més avall en la llista de temes en què estava pensant. Òbviament, estava més centrat en els problemes de la Quarta Esmena, però crec que l'argument FIRE no està equivocat. Això ho hem vist en altres contextos. També va sorgir en el problema de la porta del darrere, en termes d'intentar crear portes del darrere en sistemes xifrats.
Les empreses definitivament van criar primerL'esmena afirma que diu: "És un discurs forçat per obligar-nos a escriure aquest tipus de codi". És un argument vàlid. Pot ser, de nou, que els tribunals probablement estiguin menys disposats a abordar inicialment si poden tractar aquests problemes d'una altra manera. Però m'alegro que FIRE hagi fet aquesta publicació i crec que és un argument interessant i convincent.
Sí, la naturalesa de la segona administració de Trump és que és un instrument tan contundent, és gairebé segur que atacarem tots els problemes alhora.
Sí, totes les esmenes de la Carta de Drets s'han de desafiar d'una forma o una altra amb tots els problemes possibles.
[Riu] Gira la roda.
Estic segur que podem encaixar una infracció de la Tercera Esmena en algun lloc aquí.
Segur, sí. Claude ha de viure a casa teva ara. Exactament. Serà genial. Estem fent [esmenes] una, tres, quatre i set. Els aixequem.
Mike, això ha estat genial. No puc creure que no hagis estat al programa abans. Això ha estat genial. Has de tornar aviat.
Absolutament. Sempre que em vulguis.
Preguntes o comentaris sobre aquest episodi? Truqueu-nos a decoder@theverge.com. Realment llegim cada correu electrònic!
