Hoxe falamos da situación desordenada e rápida en Anthropic, o creador de Claude que agora se atopa nunha batalla legal moi fea co Pentágono.
O ida e volta é complicado, pero hai uns días, o Pentágono consideraba que Anthropic era un risco na cadea de subministración, e Anthropic presentou unha demanda impugnando esa designación, dicindo que o goberno violou os seus dereitos da Primeira e da Quinta Enmenda ao "buscar destruír o valor económico creado por unha das empresas privadas de máis rápido crecemento do mundo". Podo dicirche agora mesmo: falaremos das reviravoltas dese caso en The Verge e aquí en Decoder nos próximos meses.
Pero hoxe quería dedicarme un momento e profundar aquí nun elemento moi importante desta situación que non recibiu a suficiente atención xa que isto se descontrolou: como fai a vixilancia o goberno dos Estados Unidos, a autoridade legal que permite que se produza esa vixilancia e por que Anthropic desconfiaba de que o goberno dixese que seguiría a lei cando se trata de usar a IA para facer aínda máis vixilancia.
Os subscritores de Verge, non esquezas que tes acceso exclusivo ao decodificador sen anuncios onde queiras os teus podcasts. Diríxete aquí. Non eres subscritor? Podes rexistrarte aquí.
O meu convidado hoxe é Mike Masnick, o fundador e CEO de Techdirt, o excelente sitio web de política tecnolóxica de longa duración. Mike leva décadas escribindo sobre o alcance do goberno, a privacidade na era dixital e outros temas relacionados. É un experto en como Internet e o estado de vixilancia creceron de xeito interconectado.
Mira, hai o que a lei di que o goberno pode facer cando se trata de vixilarnos, e despois o que quere facer o goberno. E o máis importante, está o que o goberno di que a lei di que pode facer, que moitas veces é exactamente o contrario do que pensaría calquera persoa normal que lea a lei.
Escoitarás a Mike explicar con gran detalle neste episodio que non podemos, nin debemos, asumir o goberno dos Estados Unidos na súa palabra cando se trata de vixilancia. Hai demasiada historia de avogados gobernamentais que torcen as interpretacións de palabras simples como "obxectivo" para ampliar a vixilancia de formas complicadas, formas que normalmente só causan preocupación nos círculos xurídicos, e só burbullan cando hai grandes controversias como as principais revelacións do denunciante Ed Snowden na NSA hai máis dunha década.
Pero non hai nada sutil ou sofisticado sobre a formulación de políticas na era de Trump; polo tanto, con Anthropic, estamos tendo un debate moi alto e moi público sobre tecnoloxía e vixilancia en tempo real, en internet, en publicacións de blogs e dianteiras e durante as conferencias de prensa. Hai aspectos positivos e negativos para iso, pero para darlle sentido a todo, realmente tes que coñecer a historia.
Iso é o que Mike e eu nos propuxemos explicar neste episodio: sexan cales sexan as túas opinións sobre a IA e o goberno, este episodio deixará claro que ambas as partes deixaron que o estado de vixilancia fose cada vez máis grande co paso do tempo. Agora, estamos na cúspide da maior expansión ata agora no que se refire á IA.
De acordo: Mike Masnick, fundador e CEO de Techdirt, sobre vixilancia Anthropic, o Pentágono e a IA. Aquí imos.
Esta entrevista foi lixeiramente editada para a extensión e claridade.
Mike Masnick, es o fundador e CEO de Techdirt. Benvido a Decoder.
Alégrome de estar aquí.
Estou emocionado de terte. Só dicía que estou sorprendido de que nunca estiveses no programa. Ti e mais eu levamos moito tempo escribindo e publicando un ao outro. Gran parte da cobertura da póliza de The Verge ten unha débeda co que fixeches en Techdirt e, a continuación, o que está a suceder con Anthropic é tan complicado, pero atinxe a moitos temas que cubriches durante tanto tempo. Alégrome de que por fin esteas aquí.
É un tema complicado, pero estou emocionado de profundizar nel.
No que quero centrarme contigo non son os detalles de se Anthropic vai asinar un contrato co goberno ou se OpenAI vai conseguir ese contrato. Pola contra, confío que entre o momento en que gravamos isto e o momento en que a xente o escoita, haberá máis chíos e máis cousas serán diferentes ás que eran antes.
No que quero centrarme é só nunha das dúas liñas vermellas que realmente trazou Anthropic. Un deles éarmas autónomas, que é o seu propio nivel de complicación. A lei alí é un pouco máis incipiente se as armas existen ou non, ou xa foron despregadas por Rusia na guerra de Ucraína.
Hai moitas ideas aquí que só quero deixar de lado porque creo que se centrará máis na súa propia programación. A outra liña vermella na que quero pasar moito tempo é a vixilancia masiva. E aquí hai moita lei sobre a vixilancia masiva. Hai moita historia, moita historia controvertida. Todo o personaxe de Edward Snowden existe por mor das controversias sobre a vixilancia masiva.
Todo se reduce a —creo que vostede é o que publicou isto— á Axencia de Seguridade Nacional (NSA), que forma parte do Departamento de Defensa, ao que temos que chamar agora Departamento de Guerra por algún motivo.
[Ri] Non temos que facer nada.
[Ri] Nós non. Iso é certo aquí en América. Non temos que facer nada. Pero a NSA basicamente redefiniu o que moitas palabras significan do inglés coloquial para significar: "Só podemos facer vixilancia". E despois, de vez en cando, hai un escándalo cando a xente descobre que só está a facer vixilancia. Así que simplemente prepara o escenario alí, e non quero rebobinarte todo o camiño, pero pasou moito tempo onde este patrón se repetiu.
Depende da profundidade que queiras chegar, pero a versión curta está obviamente no mundo posterior ao 11-S, os EE. UU. aprobaron a Patriot Act, que tiña algunha capacidade para que o goberno se dedicase á vixilancia, que se supón que debía ser para protexernos contra futuras ameazas terroristas. Co paso do tempo, iso foi interpretado de xeitos interesantes e houbo algúns límites. Tamén tivemos o tribunal FISA, que é un tribunal especial que se supón que debe revisar a comunidade de intelixencia e as súas actividades, pero que tradicionalmente foi un tribunal unilateral. Só unha parte pode defender o seu caso ante ese xulgado e todo faise en segredo.
Hai moitas cousas que non se sabían. E despois houbo outra peza en todo isto, que se remonta a Ronald Reagan, que é a Orde Executiva 12333, que supostamente trata de establecer as regras do camiño para a recollida de intelixencia.
Polo tanto, tes estes tres conxuntos de leis -ben, algúns conxuntos de leis- e unha orde executiva que para o público, as partes que podes ler, parecen dicir certas cousas sobre o que o noso goberno e a NSA en particular poden facer en termos de vixilancia. Cando se le cun dicionario inglés sinxelo, cuxa natureza probablemente ti e eu entendemos, sairíamos coa crenza de que a capacidade da NSA para vixiar aos estadounidenses era moi limitada, de feito ata o punto de que se supón que deberían, se se dan conta de que están vixiando a unha persoa estadounidense, que se supón que deberían parar inmediatamente a chorar e borrar os datos e todo isto.
Houbo rumores durante un tempo de que iso non estaba a suceder realmente e houbo indicios e, en particular, o senador Ron Wyden foi moi vocal acerca de ir ao Senado e dicir: "Algo non está ben aquí e non podo dicirche moi ben", ou nas audiencias preguntaba aos funcionarios de intelixencia: "Está ou non está a recoller datos masivos sobre estadounidenses?"
Eses funcionarios desviarían ou, nalgúns casos, mentirían. Creo que foi unha audiencia en 2012 con James Clapper, que era o director de Intelixencia Nacional naquel momento, onde se lle preguntou directamente sobre este punto. E basicamente dixo: "Non, non recollemos datos sobre estadounidenses". Iso foi unha gran parte do que inspirou a Ed Snowden a filtrar os datos, os informes que filtrou a Glenn Greenwald e Barton Gellman e Laura Poitras tamén. A partir de todo iso, o que comezamos a descubrir foi que a NSA ten o seu propio dicionario que é algo diferente do dicionario que usamos ti e eu, de xeito que poden interpretar as palabras de xeitos diferentes do que significan en inglés, incluídas palabras como "obxectivo", que se sente como unha palabra clave. Unha ampla comprensión do que é isto é que, en teoría, só se supón que se dirixan a persoas que non son estadounidenses, creo que é a frase.
Pero a forma en que se interpretou ao longo do tempo foi que calquera cousa que mencione a esa persoa, calquera cousa que se refire a unha persoa estranxeira agora é un xogo limpo, aínda que esas sexan as comunicacións dunpersoa estadounidense. Entón, se ti e eu nos enviásemos un mensaje de texto e mencionamos a unha persoa estranxeira, agora é un xogo xusto para que a NSA recolla, garde e garde.
Hai unha segunda parte disto. Mencionei a primeira Orde Executiva 12333 de Ronald Reagan, que, a medida que a tecnoloxía cambiou co paso do tempo e Internet creceu, permitiu que a NSA puidese acceder ás comunicacións estranxeiras, pero que incluía calquera comunicación que puidese deixar os EUA en ruta. Entón, se che envía un mensaxe de texto e unha mensaxe pasou de min en California a través dun cable de fibra óptica que pasou a saír dos EE. UU., a NSA podería poñer un toque na parte unha vez que estea fóra dos Estados Unidos e recoller esa información, aínda que só fose para ti dentro dos EUA.
A NSA podería manter esa información aínda que fose sobre persoas estadounidenses, e poderían facer buscas específicas sobre iso máis tarde, ás veces denominadas "buscas por porta traseira". Recolleron esta información que cremos que non debían recoller en primeiro lugar, pero poderían gardala. E prometeron, xurou Pinky, que o manterían en privado, pero se facían unha busca e atopaban que ti ou eu mencionabamos unha persoa estranxeira, de súpeto era un xogo xusto para eles facer o que queiran con ela.
En total, iso converteuse nun mundo no que o goberno federal pode recoller basicamente calquera información que toque fóra dos EUA. Aínda que sexa enteiramente entre dúas persoas estadounidenses, se mencionan ou mesmo insinúan a alguén que non é unha persoa estadounidense, de súpeto é un xogo xusto para ser recollido. E diso obtivemos o que parece ser unha forma de vixilancia masiva de persoas estadounidenses por parte dunha NSA que afirma e afirma publicamente que non espía a persoas estadounidenses.
Como chegamos a este punto? Estes son moitos pasos de bebé incrementais. Mencionaches a James Clapper en 2012, esa é a administración de Obama. Mencionaches a Ronald Reagan, é a década de 1980. Estamos pasando por demócratas e republicanos aquí.
A guerra contra o terror ocorreu na administración de George W. Bush, e o 11-S e a Patriot Act ocorreron na administración de George W. Bush. Hai moitas cousas malas incrementais baixo presidentes de ambos os partidos, baixo congresos de ambos os partidos. Como pasou isto?
A forma máis sinxela é que ninguén, e certamente ningún presidente, quere ser presidente durante o momento no que hai un gran ataque terrorista, porque iso fai que parezan mal. Obviamente tamén queren protexer aos estadounidenses, non? Iso forma parte do seu traballo. Se tes unha comunidade de intelixencia que opera basicamente na escuridade porque iso é o que fan as comunidades de intelixencia e seguen vindo a ti e dicíndoche: "Oe, se puidésemos acceder a esta información, sería moi útil para evitar un ataque terrorista".
Pode haber casos nos que iso sexa certo, que a comunidade de intelixencia sexa capaz de usar esta información dun xeito que funcione ben. Pero tamén somos, en teoría, unha sociedade de leis cunha Constitución dos Estados Unidos que se supón que debemos obedecer. Pero iso permitiu que administración tras administración, de novo, republicano e demócrata, tivese avogados moi intelixentes e que mirarían e dicían: "Ben, se nos posicionamos deste xeito ou afirmamos así ou interpretamos isto, así podemos conseguir o que queremos e non infrinxir tecnicamente a lei ou non violar tecnicamente a Cuarta Enmenda".
A suposición sempre foi: "Podemos dobregar a lei ou a nosa interpretación da lei e ninguén o verá nunca, ou ninguén a quen lle importa nunca o verá, e polo tanto sairemos con elo".
Hai dúas cousas que realmente me sorprenden. Un, ti e eu lemos moitas decisións xudiciais: decisións dos tribunais de apelación e decisións do Tribunal Supremo. E hai unha pelexa no noso Tribunal Supremo sobre como interpretar literalmente as palabras dos nosos estatutos e das nosas leis.
Non vou entrar moi lonxe, pero eu diría que, en xeral, a idea de que só debes ler as palabras da páxina e facer o que din é a cepa dominante da interpretación estatutaria nos Estados Unidos. Esquerda ou dereita, ambos o din. Argumentan sobre algúns puntos finos moi esotéricos do que iso realmente significa. Pero que só deberías ser capaz de ler estas palabras e facer o que din, iso non está en xogo, non?
Conseguimos polo menos ese primeiro pase do que podeschamar textualismo. Como se afastan tanto os letrados de ambas as administracións do modo dominante de decisión xurídica no noso país? Os xuíces de ambos os dous partidos coinciden en que ese é polo menos o primeiro paso.
Gustaríame saber a resposta exacta, pero creo que é un razoamento motivado, non? Como avogado, estás aí para defender o teu cliente e o éxito, se podes chamalo éxito, do noso sistema xurídico adoita estar baseado en ter unha situación de contradicción na que tes diferentes bandos discutindo sobre estas cousas, onde o papel do xuíz é limitar e descubrir cal é realmente o correcto.
Un dos problemas coa comunidade de intelixencia e a súa configuración é que non tes esa situación de confrontación. Iso fai que sexa máis doado para unha parte xustificar o argumento que están a facer porque ninguén o está a rexeitar. Combinas iso co medo xeral a outro ataque terrorista, calquera cousa relacionada coa seguridade nacional, e mesmo cando tes situacións nas que tes o tribunal FISA, quero dicir que o tribunal FISA foi un tanto famoso por ser un selo de goma durante moitos anos.
Esquezo as cifras exactas, pero foi algo así como máis do 99 por cento das solicitudes que acudiron ao xulgado da FISA para permitir a vixilancia de determinadas situacións foron concedidas, e é fácil dicir que o 99 por cento é obviamente demasiado. Obviamente, os que presentan reclamacións ante o xulgado, están escollendo e escollendo. Non están, na súa maioría, traendo afirmacións totalmente tolas. Pero sen ese aspecto adversario e cun grupo de persoas moi fortemente motivado que pensa: "Temos que facer isto", ou que unha administración lles di: "Temos que facelo", atoparán formas de facelo. E aí é onde acabas co paso do tempo.
Houbo alguén implicado neste proceso que se espertou algunha vez e se dixo a si mesmo: "Neno, conseguimos redefinir a palabra "obxectivo" para que signifique todo o que queiramos"?
[Ri] Obviamente tiveches a Ed Snowden, que filtrou unha morea de documentos. Tiveches a John Napier Tye, quen escribiu un artigo para The Washington Post en 2014, que revelou a interpretación da Orde executiva 12333, e dixo que ese é o verdadeiro problema ao que hai que prestar atención. Tes outras persoas que falaron sobre estas cousas, pero na súa maior parte, as persoas que están involucradas no traballo na administración en cousas da comunidade de intelixencia son compradas na opinión da comunidade de intelixencia, que é que o obxectivo primordial é protexer o país de algo malo. A mellor forma de facelo é ter a maior información posible.
É fácil ser comprensivo co argumento de que, si, ter máis información pode permitirlles captar algo antes ou atopar algo importante, pero, un, iso pode non ser certo. Obter demasiada información probablemente sexa tan malo como pouca información porque moitas veces pode ocultar a información que é realmente útil, a información que realmente necesitas para determinar algo.
Pero tamén, temos un U..S. Constitución en primeiro lugar e temos razóns polas que, en teoría, non debemos permitir unha vixilancia masiva sen causa probable. Como país que cre no estado de dereito, deberíamos ser capaces de estar á altura, e cando todo isto ocorre na escuridade, tenderás a perder isto de vista.
Isto lévame a Anthropic. Anthropic é principalmente unha empresa empresarial. Son bos no goberno, construíron eses músculos, están formados por persoas que están moi versadas nalgunhas destas cousas. Obviamente miraron a Pete Hegseth dicindo: "Queremos todos os usos lícitos", e baixaron dous niveis de interpretación e dixeron: "Ben, a túa crenza literal é que estas palabras non significan o que eles din que significan na súa cara. Entón, "todos os usos lícitos" é demasiado grande, e queremos poñer algunhas varas de protección especialmente en torno á vixilancia masiva".
Unha vez máis, vou excluír as armas autónomas, que era a outra liña vermella, pero sobre todo na vixilancia masiva, Dario Amodei está aí fóra dicindo: "Podemos facer demasiado. Isto é demasiado perigoso. Esta é unha violación da Cuarta Enmenda".
A tensión hai "estás dicindo que vas cumprir estas leis que din unha cousa e agora, despois de tanto tempo, significan algo completamente diferente e nós simplemente non queremos formar parte diso". Ese é oloitar. Só quero comparar isto con Sam Altman, que se aproxima para dicir: "Faremos todos os usos lícitos" e despois publica esta longa mensaxe como: "Aquí están todas as leis que imos cumprir".
Parece que Altman non sabía como a NSA reinterpretara estas cousas e foi levada a dar un paseo. E desde entón empezou a volver, aínda que estamos a gravar, estou seguro de que haxa máis chíos e que as posicións de todos cambiaron. Pero Altman foi camiñando cara atrás lentamente, pero parece que OpenAI se viu obrigado a ler os estatutos na súa cara e crer o que dicían. Esa é a túa interpretación dos acontecementos tamén?
Hai dúas posibilidades, e esa é unha delas. Unha delas é que tocoulle do mesmo xeito que o público durante moitos anos. A teoría alternativa, e non teño idea de cal delas é verdade, é que el ou algúns dos avogados de OpenAI -que creo que son moi competentes e moi coñecedores- sabían isto, pero pensaron que poderían xogar ao mesmo xogo que xogou a NSA durante unhas décadas, xa que sempre que digan estas cousas e despois digan as palabras, pero non revelan as interpretacións reais, tamén poderían escapar. Entón, Sam sae coa declaración que fai que pareza: "Tiñamos exactamente as mesmas liñas vermellas que Anthropic, e o goberno foi xenial con iso".
De feito, creo que Sam Altman dixo que Anthropic tiña dúas liñas vermellas e OpenAI tiña tres, e que o goberno estaba perfectamente ben con iso, e iso deixou a moita xente rascando a cabeza. Pero creo que ten que ser que Sam Altman e quen o rodeaba non entenderon como funcionan estas cousas na práctica, ou que si, e simplemente asumiron que o público non o sabería e, polo tanto, podían saírse coa súa.
A outra cousa que se me ocorre: de novo, a IA é nova e é tan tentador buscar novas tecnoloxías xa que son problemas de primeiras impresións. "Ninguén tivo que pensar nisto antes", pero a realidade é que todo o mundo leva moito tempo pensando nisto. Quizais o que é novo aquí non é a IA, senón que a segunda administración de Trump, en vez de facer unha chea de avogados que quizais ninguén lea nunca para xustificar as súas accións ante un tribunal secreto ao que ninguén lle presta atención, non é tan sutil.
Non son tan sofisticados e só din que van espiar a todo o mundo todo o tempo. Acaban de anunciar as súas intencións dun xeito que quizais todas as administracións deberían simplemente anunciar as súas intencións e ver onde caen as fichas.
Pero estou vendo o feito de que houbo Ed Snowden aquí en Nova York. AT&T dirixe un edificio que todo o mundo sabe que é un edificio da NSA. É só un edificio xigante, e suponse que pretendemos que non é un centro de vixilancia da NSA, pero está aí. É enorme. Nada diso parece chegar a nada. Todas estas revelacións, estas filtracións, non o apoiamos.
De feito, só aumentou a medida que gran parte das nosas vidas fíxose cada vez máis dixital. E quizais a administración Trump sendo un instrumento tan contundente en todo momento, iso podería ser realmente o que cause o cálculo. Ves que se xoga de todos os xeitos?
Hai algunhas cousas diferentes aí, e non é do todo certo que non nos demos atrás en absoluto. As revelacións de Snowden levaron a algúns cambios na forma en que suceden estas cousas. E agora hai: esquezo o que se chaman, pero son como estes amicus civís dentro do tribunal FISA que actuarán como presentadores do outro lado en certas cuestións.
E vimos que algunhas das autoridades están limitadas en certos aspectos, e cada certo tempo solicitan a súa reautorización, e os activistas foron moi agresivos ao retroceder e tentar poñer máis barandillas. Pero para a pregunta máis ampla, creo que hai dúas cousas diferentes. Ten media razón en que esta administración non é sutil e só di en voz alta as cousas que non debería.
"Estamos en guerra con Irán, facémolo, está pasando. Nin sequera imos probar o baile".
De xeitos que todas as administracións anteriores non farían. Pero realmente non o dixeron directamentevixilancia, especialmente a vixilancia dos estadounidenses. Houbo indicios diso, pero non se pronunciaron con tanta forza. A outra metade ten que ver máis co posicionamento de Anthropic e a visión xeral da intelixencia artificial como esta tecnoloxía posiblemente existencial, onde Anthropic sempre se presentou como: "Somos os bos reflexivos", e se cres ou non que iso é algo alén do punto. Teñen esta reputación por aí: "Estamos tentando facelo dun xeito seguro, que respecte a humanidade e preste atención a todas estas cousas". E entón cando tes ese enfrontamento, aí é onde entra a loita.
Tes unha administración de Trump que só quere poder facer o que queira poder facer, e non son sutís ao respecto. E despois tes a Anthropic, cuxa autodescrición e a súa personalidade pública sempre son como: "Somos reflexivos e respectamos a humanidade e os dereitos e todas estas cousas". Probablemente foi aí onde chegou o enfrontamento, porque Anthropic, como quedou claro, traballou co Departamento de Defensa durante un tempo e ten moitos outros contratos co goberno que utilizou. Non foi un problema.
Foi só nestas áreas específicas onde, mentres o goberno buscaba ampliar o contrato que tiña, a alta dirección de Anthropic comezou a dicir: "Espera, temos que asegurarnos de non cruzar estas liñas vermellas que potencialmente prexudicarían a nosa reputación como o provedor de intelixencia artificial seguro e reflexivo".
Quero preguntarche brevemente sobre a vixilancia en xeral e, en particular, sobre a cuarta emenda de Anthropic. A Cuarta Enmenda di que o goberno non pode buscarche sen razón. A mellor forma de entender a Cuarta Emenda é escoitando "99 Problems" de Jay-Z. Entón, se necesitas facer un descanso e ir escoitar "99 Problems", é xenial. Está todo alí dentro. Escoiteino cando estaba na facultade de Dereito e tiña todo o sentido.
Pero o goberno xeralmente necesita unha orde para rexistrarte. E a medida que máis e máis da túa vida vai en liña, hai moitas e moitas excepcións a isto. Pero a idea é que aínda deberían necesitar unha orde en liña. O argumento de Anthropic é: "Ben, a IA nunca se cansará. Pode buscar todo o tempo. Iso significa que só imos facer unha vixilancia maxistral".
Aínda antes de que aparecese a IA, a idea de que o goberno puidese buscar todo o que che pertencía estaba aí fóra, a idea de que o goberno non necesitaba unha orde para buscar todas as túas cousas estaba aí. A idea de que se algún dos teus datos saía fóra do país por un breve segundo, o goberno interceptouno alí,
Cando estaba na universidade, na época da Patriot Act, o debate era que non ían buscar os teus datos reais, pero poden obter só os metadatos e os metadatos. Os datos sobre os teus datos serán suficientes para localizalo con precisión en todo momento. E mesmo iso está demasiado lonxe. E estivemos facendo este baile de que pode recoller o goberno? Que é permisible? Que necesitan para manternos a todos a salvo e que está demasiado lonxe? Esas liñas movéronse.
Así que describa brevemente a preocupación xeneralizada pola vixilancia a escala e onde estamos agora. Antes a situación da IA facíao todo exponencialmente máis complicado.
Aquí teño que introducir outro concepto que probablemente debería haberse mencionado anteriormente, pero é importante, que se chama "doutrina de terceiros". A idea coa Cuarta Enmenda é que o goberno non pode buscarche nin as túas cousas sen unha orde e non pode obter unha orde sen causa probable de que cometeches algún tipo de delito. Pero hai este concepto que xurdiu hai décadas, chamado doutrina de terceiros, que di que iso non necesariamente se aplica, ou non se aplica en absoluto, a cousas que non son túas, aínda que sexan os teus datos.
A versión máis antiga e obvia disto eran os rexistros telefónicos que tiña a compañía telefónica de quen chamaches. As compañías telefónicas non estaban gravando as túas chamadas, pero gravaban se te chamaba, habería un rexistro na compañía telefónica que diría: "Mike chama a Nilay". E o que fora determinado por varios tribunais foi que o goberno pode solicitar iso, e non necesitan unha orde para iso porque non é un rexistro deos teus datos, son este terceiro e poden aceptar como terceiros simplemente entregar eses datos.
Pero eses foron casos dos anos 60 e 70, nos que se determinou que o goberno pode acceder a iso sen unha orde, cando non había tantos datos de terceiros. O auxe dos ordenadores e internet mudou iso. Agora, todo son datos de terceiros. Todo o que facemos está recollido por algunha empresa nalgún lugar e ten constancia diso. Entón, basicamente, todos os datos sobre ti, onde estás, con quen falas, con quen interactúas, o que dis, o que estás facendo, todo iso está case en mans de terceiros hoxe en día. Entón, a doutrina de terceiros tragou a cuarta emenda enteira ata certo punto, onde calquera cousa sobre ti que teña outra persoa, hai un estándar moito máis baixo sobre o que o goberno pode facer para solicitalo.
Só para ser específicos, isto significa que cando os meus datos están en iCloud, o goberno pode ir a Apple e sacar os meus datos de iCloud sen dicirme nunca?
Poden solicitalo. Poden solicitalo facilmente sen unha orde. Entón, a empresa ten os seus propios dereitos e pode determinar o que quere facer con esa solicitude. Só poden renunciar a iso. Poden, como farán a maioría deles, se se trata dunha solicitude seria, rexeitar solicitudes sen dúbida ou poden avisarte e poden dicir, e isto é o que farán a maioría deles, avisarán e dirán: "O goberno está a solicitar algúns dos teus datos. Podes acudir aos tribunais e intentar bloquealos". Se non, entregarán os teus datos en sete días ou o que sexa.
De novo, depende. Se se trata dunha investigación criminal, entón pode haber algún tipo de orde de mordaza que a empresa non pode dicirche. Hai todo tipo de situacións, pero a maioría delas implican menos que o nivel de protección que requiriría a Cuarta Emenda se fosen datos ou calquera información ou calquera cousa na súa propia casa.
A cantidade de datos que tes no servidor na nube doutra persoa é enorme, non? Todas as cousas que fas xeralmente en Internet agora fanse unha copia de seguranza dalgún xeito ou gravadas dalgún xeito nos servidores doutra persoa. O goberno atopou este xeito de sortear a Cuarta Enmenda e dicir: "Ben, iso non é o teu. Pertence a Amazon. Podemos ir falar con Amazon", e Amazon ten que situarse no medio dese proceso e dicir: "Inventamos outro proceso para protexer un pouco á xente".
Miro iso, e cando cubría os primeiros casos doutrinas de terceiros que cubrían os servizos na nube e o goberno seguía gañando, foi basicamente cando me convertín no Joker. Eu dixen: "Todas estas cousas que pretendemos sobre o textualismo e a simple lectura, nada diso significa nada porque só levamos cabalos de forza á porta traseira usando esta antiga lei nos datos de todos".
E despois miro isto e miro a Anthropic e digo: "Ben, este é o mesmo patrón". Esta é unha empresa privada que di: "Está ben, entendemos a túa posición. Entendemos que reinterpretaches a lei para que signifique isto, e imos poñer algún proceso entre ti, a nosa ferramenta e os datos dos estadounidenses que circulan polo noso servizo". Só me pregunto se ves ese paralelo aí, entre Anthropic e Amazon e Azure e calquera outro servizo na nube que exista que conteña tantos dos nosos datos.
Si, aínda que aquí hai algunhas aclaracións importantes que fan que isto sexa un pouco diferente. E, de feito, creo que The New York Times tivo estes informes primeiro, a cláusula principal que foi máis importante para Anthropic foi especificamente sobre os datos recollidos de servizos comerciais e non poder usar Claude neses datos, que é exactamente este problema en termos de datos de terceiros. Pero si quero aclarar a principal diferenza entre o que falabamos antes con Amazon ou outros terceiros que hospedan os teus datos, eran casos nos que estaban, porque se atopaban no ecosistema, estaban aloxando os teus datos directamente.
Con Claude, non é que ninguén estea preocupado porque a NSA revise o teu uso de Claude. Trátase de que saian e obteñan datos de terceiros de Amazon ou, máis probablemente, o tipo de intermediarios de datos furtivos e ocultos que publican anuncios nos teus teléfonos e coñecen a túa localización e os teus intereses e cousas así. E despois introducilo nun sistemano que Claude traballaría entón. Iso é do que Anthropic realmente non quería formar parte. Entón, onde queira que o goberno recompile eses datos dun terceiro, Anthropic dixo: "Non queremos que a nosa ferramenta se use neses datos".
Apple se enfronta ao FBI que lle pide que poña unha porta traseira no iPhone, e Apple di "non" e fan fronte a Trump. E hai unha parte de como funciona o noso sistema na que as grandes empresas privadas chegan a dicir "non" ao goberno en nome dos seus clientes. E isto sentiuse do mesmo xeito que Apple, de novo, non o poñerá como unha porta traseira no iPhone, ou os grandes provedores de nube din: "Hai un pequeno proceso polo que tes que pasar antes de obter os datos individuais".
Aquí parece que Anthropic está dicindo: "Non só imos facer análises masivas dos datos que adquiriu doutras partes porque iso leva a unha vixilancia masiva dos estadounidenses 24 horas ao día, os 7 días de hoxe, e non queremos facelo". Con todo, parece unha ponte demasiado lonxe para esta administración. Hai algunha volta diso?
Xa veremos. No pasado, cando isto ocorreu, e ocorreu moitas veces coa maioría das grandes empresas tecnolóxicas, nalgún momento dixeron que algo é unha ponte demasiado lonxe, onde normalmente se dirixe aos tribunais. As empresas irán aos tribunais ou a administración acudirá aos tribunais e haberá algún tipo de batalla xudicial.
A porta traseira do iPhone é un exemplo perfecto diso. Foi aos tribunais e loitaron, aínda que nunca chegaron a unha conclusión porque o FBI finalmente entrou manualmente no iPhone e despois non quería que a sentenza xudicial arruinase isto no futuro.
Pero neste caso, onde está a escalada e onde isto é diferente desas situacións pasadas, é que, en lugar de acudir aos tribunais, a administración Trump fixo esta designación de "risco da cadea de subministración", que é unha tolemia. Esta idea que esta ferramenta que foi deseñada para impedir que os potenciais actores maliciosos estranxeiros fornecen tecnoloxía, que poderían poñer ferramentas de vixilancia ocultas na pila tecnolóxica máis grande, que poderían ser prohibidas. Aplicar iso a unha empresa con sede en Estados Unidos basicamente por ter unha política ética parece un mal uso real e real desa ferramenta.
Incluso esa ferramenta era cuestionable nalgúns aspectos, pero poderías entender o impulso detrás dela cando falas dunha empresa de redes chinesa ou algo nesa liña. Aquí, non ten sentido. Así que a reacción a isto vai moito máis alá do que normalmente se vería neste caso. Poderíase ver que tradicionalmente habería algún tipo de caso xudicial e calquera das partes podería inicialo e só sería unha batalla sobre como se podería aplicar o contrato.
Pero iso non é o que está a pasar aquí. Esta administración está dicindo efectivamente: "Se non nos dás absolutamente todo o que queremos, se non configuras as túas ferramentas para que funcionen como queremos, tentaremos destruír todo o teu negocio". E iso é unha escalada.
Hai unha peza disto na que quero rematar, e é a versión máis galaxia-cerebro desta. FIRE, que é un grupo de defensa da liberdade de expresión, publicou unha publicación no blog xusto antes de comezar a gravar argumentando que forzar a Anthropic a construír ferramentas que non quere construír é unha violación da liberdade de expresión, que é algo que se chama discurso obrigado. Aquí hai moita historia. Aquí hai unha profunda historia de Verge e Techdirt, na mala herba, de crise existencial.
Pero basicamente redúcese á idea de que o código é fala, que escribir código para un ordenador é unha forma de discurso e o goberno non pode obrigarche a facelo, e diso flúen un montón de cousas. Compras este argumento de que obrigar a Anthropic a construír ferramentas que non quere construír é un discurso obrigado?
Si, en realidade creo que é bastante convincente. Discurso forzado convincente. Pero non, creo que é un argumento interesante. É un que fora un pouco máis abaixo na lista dos temas nos que estaba a pensar. Obviamente estaba máis centrado nas cuestións da Cuarta Emenda, pero creo que o argumento FIRE non está mal. Isto vimos noutros contextos. Tamén xurdiu no problema das portas traseiras, en termos de tentar construír portas traseiras en sistemas cifrados.
As empresas definitivamente levantaron PrimeiroA emenda afirma: "É un discurso obrigado que nos obriga a escribir ese tipo de código". É un argumento válido. Podería ser, de novo, aquel que probablemente os tribunais estean menos dispostos a abordar inicialmente se poden tratar estes problemas doutro xeito. Pero alégrome de que FIRE fixera esa publicación e creo que é un argumento interesante e convincente.
Si, a natureza da segunda administración de Trump é que é un instrumento tan contundente, é case seguro que atacaremos todos os problemas á vez.
Si, cada modificación da Carta de Dereitos ten que ser impugnada dunha ou outra forma con todos os problemas posibles.
[Ri] Xira a roda.
Estou seguro de que podemos caber unha infracción da Terceira Enmenda nalgún lugar aquí.
Claro, si. Claude ten que vivir na túa casa agora. Exactamente. Vai ser xenial. Estamos facendo [emendas] un, tres, catro e sete. Reunímolos.
Mike, isto foi xenial. Non podo crer que non estiveses no programa antes. Isto foi xenial. Tes que volver pronto.
Absolutamente. Sempre que me queiras.
Preguntas ou comentarios sobre este episodio? Contáctanos en decoder@theverge.com. Realmente lemos todos os correos electrónicos!
