Hoy estamos hablando de la situación complicada y en rápida evolución en Anthropic, el fabricante de Claude, que ahora se encuentra en una batalla legal muy fea con el Pentágono.
El ir y venir es complicado, pero hace unos días, el Pentágono había considerado a Anthropic un riesgo para la cadena de suministro, y Anthropic presentó una demanda impugnando esa designación, diciendo que el gobierno ha violado sus derechos de la Primera y la Quinta Enmienda al "tratar de destruir el valor económico creado por una de las empresas privadas de más rápido crecimiento del mundo". Puedo decírselo ahora mismo: hablaremos sobre los giros y vueltas de ese caso en The Verge y aquí en Decoder en los próximos meses.
Pero hoy quería tomarme un momento y profundizar realmente aquí en un elemento muy importante de esta situación que no ha recibido suficiente atención a medida que se ha salido de control: cómo realiza la vigilancia el gobierno de los Estados Unidos, la autoridad legal que permite que se lleve a cabo esa vigilancia y por qué Anthropic desconfiaba de que el gobierno dijera que seguiría la ley cuando se trata de usar IA para realizar aún más vigilancia.
Suscriptores de Verge, no olviden que obtienen acceso exclusivo a Decoder sin publicidad dondequiera que obtengan sus podcasts. Dirígete aquí. ¿No eres suscriptor? Puedes registrarte aquí.
Mi invitado de hoy es Mike Masnick, fundador y director ejecutivo de Techdirt, el excelente y veterano sitio web de políticas tecnológicas. Mike lleva décadas escribiendo sobre la extralimitación del gobierno, la privacidad en la era digital y otros temas relacionados. Es un experto en cómo Internet y el estado de vigilancia han crecido de manera interconectada.
Verá, está lo que la ley dice que el gobierno puede hacer cuando se trata de vigilarnos, y luego lo que el gobierno quiere hacer. Y lo más importante, está lo que el gobierno dice que la ley dice que puede hacer, que a menudo es exactamente lo contrario de lo que pensaría cualquier persona normal que simplemente leyera la ley.
Escucharás a Mike explicar con gran detalle aquí en este episodio que no podemos (y no debemos) confiar en la palabra del gobierno de Estados Unidos en lo que respecta a la vigilancia. Hay demasiada historia de abogados gubernamentales que tergiversan las interpretaciones de palabras simples como "objetivo" para ampliar la vigilancia de maneras complicadas, formas que normalmente sólo causan preocupación en los círculos legales y sólo surgen cuando hay grandes controversias, como las principales revelaciones de la NSA del denunciante Ed Snowden hace más de una década.
Pero no hay nada sutil o sofisticado en la formulación de políticas en la era Trump, y por eso con Anthropic estamos teniendo un debate muy ruidoso y público sobre tecnología y vigilancia en tiempo real, en Internet, en publicaciones de blogs y diatribas X, y en conferencias de prensa. Hay cosas positivas y negativas en eso, pero para que todo tenga sentido, realmente hay que conocer la historia.
Eso es lo que Mike y yo nos propusimos explicar en este episodio: cualquiera que sea su opinión sobre la IA y el gobierno, este episodio dejará en claro que ambas partes han dejado que el estado de vigilancia crezca cada vez más con el tiempo. Ahora estamos en la cúspide de la mayor expansión hasta el momento en lo que respecta a la IA.
De acuerdo: el fundador y director ejecutivo de Techdirt, Mike Masnick, habla sobre Anthropic, el Pentágono y la vigilancia de IA. Aquí vamos.
Esta entrevista ha sido ligeramente editada para mayor extensión y claridad.
Mike Masnick, eres el fundador y director ejecutivo de Techdirt. Bienvenido a Decodificador.
Me alegro de estar aquí.
Estoy emocionado de tenerte. Sólo decía que me sorprende que nunca hayas estado en el programa antes. Tú y yo hemos estado escribiendo y publicando durante mucho tiempo. Gran parte de la cobertura de pólizas de The Verge tiene una deuda con lo que ha hecho en Techdirt y luego lo que está sucediendo con Anthropic es muy complicado, pero afecta a tantos temas que ha cubierto durante tanto tiempo. Me alegro de que finalmente estés aquí.
Es un tema complicado y complicado, pero estoy emocionado de profundizar en él.
En lo que quiero centrarme con ustedes no son en los detalles de si Anthropic firmará un contrato con el gobierno o si OpenAI obtendrá ese contrato. En cambio, estoy seguro de que entre el momento en que grabemos esto y el momento en que la gente lo escuche, habrá más tweets y más cosas serán diferentes de lo que eran antes.
En lo que quiero centrarme es sólo en una de las dos líneas rojas que Anthropic realmente ha trazado. Uno de ellos esarmas autónomas, que es su propio nivel de complicación. La ley allí es un poco más incipiente, independientemente de que las armas existan o ya hayan sido desplegadas por Rusia en la guerra de Ucrania.
Hay muchas ideas aquí que quiero dejar de lado porque creo que se centrarán más en su propio cronograma. La otra línea roja a la que quiero dedicar mucho tiempo es la vigilancia masiva. Y aquí hay bastantes leyes sobre vigilancia masiva. Hay mucha historia, mucha historia controvertida. Todo el personaje de Edward Snowden existe debido a controversias en torno a la vigilancia masiva.
Todo se reduce a (creo que usted fue quien publicó esto) la Agencia de Seguridad Nacional (NSA), que forma parte del Departamento de Defensa, al que ahora tenemos que llamar Departamento de Guerra por alguna razón.
[Risas] No tenemos que hacer nada.
[Risas] Nosotros no. Eso es cierto aquí en Estados Unidos. No tenemos que hacer nada. Pero la NSA básicamente ha redefinido el significado de muchas palabras en inglés coloquial para que signifiquen: "Podemos simplemente hacer vigilancia". Y luego, de vez en cuando, hay un escándalo cuando la gente descubre que sólo están haciendo vigilancia. Así que simplemente preparen el escenario allí, y no quiero rebobinarlos del todo, pero ha pasado bastante tiempo en el que este patrón se ha repetido.
Depende de qué tan profundo quieras llegar, pero la versión corta es obviamente que en el mundo posterior al 11 de septiembre, Estados Unidos aprobó la Ley Patriota, que tenía cierta capacidad para que el gobierno participara en vigilancia, que se suponía que tenía como objetivo protegernos contra futuras amenazas terroristas. Con el tiempo, eso se interpretó de maneras interesantes y hubo algunos límites al respecto. También teníamos el tribunal FISA, que es un tribunal especial que se supone debe revisar la comunidad de inteligencia y sus actividades, pero que tradicionalmente ha sido un tribunal unilateral. Sólo una de las partes puede defender su caso ante ese tribunal y todo se hace en secreto.
Hay muchas cosas que no se sabían. Y luego hubo otra pieza en todo esto, que se remonta a Ronald Reagan, que es la Orden Ejecutiva 12333, que supuestamente trata de establecer las reglas para la recopilación de inteligencia.
Entonces tenemos estos tres conjuntos de leyes (bueno, algunos conjuntos de leyes) y una orden ejecutiva que, para el público, las partes que se pueden leer parecen decir ciertas cosas sobre lo que nuestro gobierno y la NSA en particular pueden hacer en términos de vigilancia. Cuando se lee con un simple diccionario de inglés, cuya naturaleza usted y yo probablemente tenemos y entendemos, saldríamos con la creencia de que la capacidad de la NSA para vigilar a los estadounidenses era muy limitada, de hecho, hasta el punto de que se supone que, si se dan cuenta de que están vigilando a una persona estadounidense, se supone que deben detenerse inmediatamente, llorar y borrar los datos y todas esas otras cosas.
Durante un tiempo hubo rumores de que eso no estaba sucediendo realmente y hubo insinuaciones y, en particular, el senador Ron Wyden fue muy expresivo acerca de ir al pleno del Senado y decir: "Algo no está bien aquí y no puedo decirles qué", o en las audiencias preguntaba a los funcionarios de inteligencia: "¿Están recopilando o no datos masivos sobre los estadounidenses?"
Esos funcionarios desviarían o, en algunos casos, mentirían abiertamente. Creo que fue una audiencia en 2012 con James Clapper, quien era el Director de Inteligencia Nacional en ese momento, donde se le preguntó directamente sobre este punto. Y básicamente dijo: "No, no recopilamos datos sobre los estadounidenses". Eso fue en gran parte lo que inspiró a Ed Snowden a filtrar los datos, los informes que filtró a Glenn Greenwald, Barton Gellman y también a Laura Poitras. A partir de todo eso, lo que comenzamos a descubrir fue que la NSA tiene su propio diccionario que es algo diferente al diccionario que usted y yo usamos, de modo que pueden interpretar palabras de maneras diferentes a su significado en inglés simple, incluidas palabras como "objetivo", que se siente como una palabra clave. Una comprensión amplia de lo que es esto es que, en teoría, se supone que sólo deben apuntar a personas que no son estadounidenses, creo que es la frase.
Pero la forma en que se interpretó a lo largo del tiempo fue que cualquier cosa que mencione a esa persona, cualquier cosa que tenga que ver con una persona extranjera ahora es un juego limpio, incluso si se trata de comunicaciones de unPersona estadounidense. Entonces, si usted y yo nos enviáramos mensajes de texto y mencionáramos a una persona extranjera, ahora es un juego limpio para que la NSA lo recopile, lo conserve y lo almacene.
Hay una segunda parte de esto. Mencioné la primera Orden Ejecutiva 12333 de Ronald Reagan, que, a medida que la tecnología cambió con el tiempo e Internet creció, efectivamente permitió a la NSA acceder a las comunicaciones extranjeras, pero eso incluía cualquier comunicación que pudiera haber salido de los EE. UU. en ruta hacia algún lugar. Entonces, si te estoy enviando un mensaje de texto y un mensaje mío llegó desde California a través de un cable de fibra óptica que salió de los EE. UU., la NSA podría poner un grifo en la parte una vez que esté fuera de los EE. UU. y recopilar esa información, incluso si solo fuera a ti dentro de los EE. UU.
La NSA podría entonces conservar esa información incluso si se tratara de personas estadounidenses, y podría realizar búsquedas específicas al respecto más adelante, a veces denominadas “búsquedas de puerta trasera”. Recopilaron esta información que creemos que no debían recopilar en primer lugar, pero podrían conservarla. Y prometieron, juraron con el meñique, que lo mantendrían en privado, pero si hacían una búsqueda y descubrían que tú o yo mencionamos a una persona extranjera, de repente era justo que hicieran lo que quisieran con ello.
En total, eso se ha convertido en un mundo en el que el gobierno federal básicamente puede recopilar cualquier información que llegue fuera de Estados Unidos. Incluso si es enteramente entre dos personas estadounidenses, si mencionan o incluso insinúan a alguien que no es una persona estadounidense, de repente es un juego limpio para ser cobrado. Y de ahí hemos obtenido lo que parece ser una forma de vigilancia masiva de personas estadounidenses por parte de una NSA que afirma y declara públicamente que no espía a personas estadounidenses.
¿Cómo llegamos a este punto? Estos son muchos pequeños pasos incrementales. Mencionaste a James Clapper en 2012, esa es la administración Obama. Mencionaste a Ronald Reagan, eso es la década de 1980. Aquí estamos pasando por demócratas y republicanos.
La guerra contra el terrorismo ocurrió en la administración de George W. Bush, y el 11 de septiembre y la Ley Patriota ocurrieron en la administración de George W. Bush. Hay muchas cosas malas incrementales bajo los presidentes de ambos partidos, bajo los congresos de ambos partidos. ¿Cómo sucedió esto?
La forma más simple es simplemente que nadie, y ciertamente ningún presidente, quiere ser presidente durante el tiempo en que hay un gran ataque terrorista, porque eso los hace quedar mal. Obviamente también quieren proteger a los estadounidenses, ¿verdad? Eso es parte de su trabajo. Si tienes una comunidad de inteligencia que básicamente opera en la oscuridad, porque eso es lo que hacen las comunidades de inteligencia y siguen viniendo a ti y diciendo: "Oye, si pudiéramos tener acceso a esta información, sería realmente útil para prevenir un ataque terrorista".
Puede haber casos en los que eso sea cierto, en los que la comunidad de inteligencia pueda utilizar esta información de una manera que funcione bien. Pero también somos, en teoría, una sociedad de leyes con una Constitución estadounidense que se supone que debemos obedecer. Pero eso permitió el hecho de que administración tras administración, nuevamente, republicanos y demócratas, tuvieran abogados que eran muy inteligentes y que mirarían y dirían: "Bueno, si nos posicionamos de esta manera o declaramos de esta manera o interpretamos esto, de esa manera podemos obtener lo que queremos y técnicamente no violar la ley o no violar técnicamente la Cuarta Enmienda".
La suposición siempre fue: “Podemos en cierto modo torcer la ley o torcer nuestra interpretación de la ley y nadie realmente va a ver esto, o nadie a quien le importe realmente va a ver esto, y por lo tanto nos saldremos con la nuestra”.
Hay dos cosas que realmente me llaman la atención. Primero, usted y yo leemos muchas decisiones judiciales: decisiones de la corte de apelaciones y decisiones de la Corte Suprema. Y hay una pelea en nuestra Corte Suprema sobre cómo interpretar literalmente las palabras de nuestros estatutos y nuestras leyes.
No entraré demasiado en ello, pero diría que en general la idea de que uno simplemente debe leer las palabras en la página y hacer lo que dicen es la corriente dominante de interpretación legal en los Estados Unidos. De izquierdas o de derechas, lo dicen ambos. Discuten sobre algunos puntos muy esotéricos de lo que eso realmente significa. Pero el hecho de que puedas leer estas palabras y hacer lo que dicen no está en juego, ¿verdad?
Hemos aterrizado al menos en esa primera pasada de lo que podríasllamar textualismo. ¿Cómo pueden los abogados de ambas administraciones alejarse tanto del modo dominante de toma de decisiones jurídicas en nuestro país? Los jueces de ambos partidos coinciden en que ese es al menos el primer paso.
Ojalá supiera la respuesta exacta, pero creo que es un razonamiento motivado, ¿verdad? Como abogado, usted está ahí para defender a su cliente y el éxito (si se le puede llamar éxito) de nuestro sistema legal tiende a basarse en una situación adversa en la que hay diferentes partes discutiendo sobre estas cosas, donde el papel del juez es limitarse y determinar cuál de las partes tiene realmente razón.
Uno de los problemas con la comunidad de inteligencia y su configuración es que no existe esa situación de confrontación. Eso hace que sea más fácil para una de las partes justificar el argumento que están presentando porque en realidad nadie lo rechaza. Se combina eso con el temor general de otro ataque terrorista, cualquier cosa relacionada con la seguridad nacional, e incluso cuando hay situaciones en las que existe el tribunal FISA; quiero decir, el tribunal FISA fue algo famoso por ser efectivamente un sello de goma durante muchos años.
No recuerdo las cifras exactas, pero fue algo así como más del 99 por ciento de las solicitudes que llegaron al tribunal FISA para permitir la vigilancia de ciertas situaciones y fueron concedidas, y es fácil decir que el 99 por ciento es obviamente demasiado. Obviamente, quienes presentan reclamaciones ante los tribunales, eligen y escogen. En su mayor parte, no están presentando afirmaciones totalmente descabelladas. Pero sin ese aspecto de confrontación y con un grupo de personas muy motivado que piensa: "Tenemos que hacer esto", o que una administración les dice: "Tenemos que hacer esto", encontrarán formas de hacerlo. Y ahí es donde terminas con el tiempo.
¿Ha habido alguien involucrado en este proceso que alguna vez se haya despertado y se haya dicho: "Vaya, hemos logrado redefinir la palabra 'objetivo' para que signifique lo que queramos"?
[Risas] Obviamente estaba Ed Snowden, quien filtró un montón de documentos. Estaba John Napier Tye, quien escribió un artículo para The Washington Post en 2014, que reveló la interpretación de la Orden Ejecutiva 12333 y dijo que ese es el verdadero tema al que debemos prestar atención. Hay otras personas que han hablado sobre estas cosas, pero en su mayor parte, las personas que trabajan dentro de la administración en asuntos de la comunidad de inteligencia están convencidas de la opinión de la comunidad de inteligencia, que es que el objetivo primordial es proteger al país de algo malo. La mejor manera de hacerlo es tener la mayor cantidad de información posible.
Es fácil simpatizar con el argumento de que, sí, tener más información puede permitirles captar algo antes o encontrar algo importante, pero, primero, eso podría no ser cierto. Obtener demasiada información es probablemente tan malo como muy poca información porque a menudo puede ocultar la información que es realmente útil, la información que realmente se necesita para determinar algo.
Pero también tenemos un EE.UU. Constitución en primer lugar y tenemos razones por las cuales, en teoría, se supone que no debemos permitir la vigilancia masiva sin una causa probable. Como país que cree en el estado de derecho, deberíamos poder estar a la altura de eso, y cuando todo esto suceda en la oscuridad, tenderemos a perderlo de vista.
Esto me lleva a Anthropic. Anthropic es principalmente una empresa empresarial. Son buenos en el gobierno, han desarrollado esos músculos, su personal está formado por personas que están muy versadas en algunas de estas cosas. Obviamente miraron a Pete Hegseth diciendo: "Queremos todos los usos legales", y bajaron dos niveles de interpretación y dijeron: "Bueno, su creencia literal es que estas palabras no significan lo que dicen claramente. Así que 'todos los usos legales' es demasiado grande, y queremos poner algunas barreras, particularmente en torno a la vigilancia masiva".
Una vez más, voy a dejar de lado las armas autónomas, que era la otra línea roja, pero particularmente en lo que respecta a la vigilancia masiva, Dario Amodei dice: "Podemos hacer demasiado. Esto es demasiado peligroso. Es una violación de la Cuarta Enmienda".
La tensión ahí es que “estás diciendo que vas a cumplir con estas leyes que dicen una cosa y ahora, después de todo este tiempo, significan algo completamente diferente y simplemente no queremos ser parte de eso”. Ese es elluchar. Solo quiero comparar eso con Sam Altman, quien se abalanza para decir: "Haremos todos los usos legales" y luego publica este mensaje largo que dice: "Aquí están todas las leyes que vamos a cumplir".
Parece que Altman no sabía cómo la NSA había reinterpretado estas cosas y se dejó engañar. Y desde entonces comenzó a retroceder; incluso mientras estamos grabando, estoy seguro de que hay más tweets y las posiciones de todos han cambiado. Pero Altman ha estado retrocediendo lentamente, pero parece que OpenAI se vio obligado a leer los estatutos en su cara y creer lo que decían. ¿Es esa también tu interpretación de los acontecimientos?
Hay dos posibilidades y esa es una de ellas. Una es que lo interpretaron de la misma manera que lo hicieron ante el público durante muchos años. La teoría alternativa, y no tengo idea de cuál de ellas es cierta, es que él o algunos de los abogados de OpenAI, que creo que son muy competentes y tienen mucho conocimiento, lo sabían, pero pensaron que podrían jugar el mismo juego que jugó la NSA durante algunas décadas, en el sentido de que mientras digan estas cosas y luego digan las palabras, pero no revelen las interpretaciones reales, también podrían salirse con la suya. Entonces Sam sale con la declaración que hace que parezca: "Teníamos exactamente las mismas líneas rojas que Anthropic, y el gobierno estuvo muy bien con eso".
De hecho, creo que Sam Altman dijo que Anthropic tenía dos líneas rojas y OpenAI tenía tres, y que el gobierno estaba perfectamente de acuerdo con eso, y eso dejó a mucha gente rascándose la cabeza. Pero creo que tiene que ser que Sam Altman y quienes lo rodeaban no entendían cómo funcionan estas cosas en la práctica, o lo entendían, y simplemente asumieron que el público no lo sabría y, por lo tanto, podrían salirse con la suya.
La otra cosa que me viene a la mente: nuevamente, la IA es nueva y es muy tentador recurrir a nuevas tecnologías, ya que son problemas de primeras impresiones. "Nadie había tenido que pensar en esto antes", pero la realidad es que todos han estado pensando en estas cosas durante mucho tiempo. Tal vez lo nuevo aquí no sea la IA, sino que la segunda administración Trump, en lugar de hacer un montón de abogados que tal vez nadie leerá jamás para justificar sus acciones ante un tribunal secreto al que nadie le presta atención, simplemente no es tan sutil.
No son tan sofisticados y sólo dicen que van a espiar a todo el mundo todo el tiempo. Simplemente anunciaron sus intenciones de una manera que tal vez todas las administraciones deberían simplemente anunciar sus intenciones y ver dónde caen las cosas.
Pero estoy observando el hecho de que Ed Snowden estaba aquí en la ciudad de Nueva York. AT&T administra un edificio que todos saben que es un edificio de la NSA. Es simplemente un edificio gigante y se supone que debemos fingir que no es un centro de vigilancia de la NSA, pero está justo ahí. Es enorme. Nada de eso parece haber llegado a nada. Todas estas revelaciones, estas filtraciones, no hemos retrocedido.
De hecho, solo ha aumentado a medida que gran parte de nuestras vidas se han vuelto cada vez más digitales. Y tal vez el hecho de que la administración Trump sea un instrumento tan contundente en todo momento, eso podría ser lo que provoque el ajuste de cuentas. ¿Ves que eso se desarrollará de todos modos?
Hay algunas cosas diferentes allí, y no es del todo cierto que no hayamos retrocedido en absoluto. Las revelaciones de Snowden provocaron algunos cambios en la forma en que suceden estas cosas. Y ahora los hay, no recuerdo cómo se llaman, pero son como estas personas amicus civiles dentro del tribunal FISA que actuarán como presentadores de la otra parte en ciertos temas.
Y hemos visto a algunas autoridades limitadas de ciertas maneras, y de vez en cuando piden una reautorización, y los activistas han sido muy agresivos a la hora de retroceder y tratar de poner más barreras de seguridad. Pero en cuanto a la pregunta más amplia, creo que hay dos cosas diferentes. Tiene parte de razón en que esta administración no es sutil y simplemente dice en voz alta las cosas que no debería.
"Estamos en guerra con Irán, lo estamos haciendo, está sucediendo. Ni siquiera vamos a intentar el baile".
De maneras que ninguna administración anterior habría hecho. Pero en realidad no han dicho eso directamente sobrevigilancia, especialmente la vigilancia de los estadounidenses. Ha habido indicios de ello, pero no se han manifestado con tanta firmeza al respecto. La otra mitad tiene que ver más con el posicionamiento de Anthropic y la visión general de la IA como esta tecnología posiblemente existencial, donde Anthropic siempre se ha presentado como "Somos los buenos y reflexivos", y si crees o no que eso no viene al caso. Tienen esta reputación: "Estamos tratando de hacer esto de una manera que sea segura, que respete a la humanidad y preste atención a todas estas cosas". Y cuando tienes ese choque, ahí es donde entra la lucha.
Tenemos una administración Trump que simplemente quiere poder hacer lo que quiera, y no son sutiles al respecto. Y luego tienes a Anthropic, cuya autodescripción y su personalidad pública siempre es como: "Somos reflexivos y respetamos la humanidad, los derechos y todas esas cosas". Probablemente ahí es donde surgió el choque, porque Anthropic, como ha quedado claro, ha trabajado con el Departamento de Defensa durante un tiempo y tiene muchos otros contratos con el gobierno que ha utilizado. No ha sido un problema.
Fue solo en estas áreas específicas donde, mientras el gobierno buscaba ampliar el contrato que tenía, los altos directivos de Anthropic comenzaron a decir: "Espera, tenemos que asegurarnos de no cruzar estas líneas rojas que potencialmente dañarían nuestra reputación como proveedor de IA seguro y reflexivo".
Quiero preguntarle brevemente sobre la vigilancia en general y, en particular, sobre la preocupación de Anthropic por la Cuarta Enmienda. La Cuarta Enmienda dice que el gobierno no puede registrarte sin razón. La mejor manera de entender la Cuarta Enmienda es escuchando “99 Problems” de Jay-Z. Entonces, si necesitas tomarte un descanso y escuchar “99 Problems”, genial. Está todo ahí. Lo escuché cuando estaba en la facultad de derecho y tenía mucho sentido.
Pero el gobierno generalmente necesita una orden judicial para registrarlo. Y a medida que más y más parte de su vida pasa en línea, hay muchísimas excepciones a esto. Pero la idea es que aún deberían necesitar una orden judicial en línea. El argumento de Anthropic es: "Bueno, la IA nunca se cansará. Puede buscar todo en todo momento. Eso significa que simplemente vamos a hacer una vigilancia maestra".
Sin embargo, incluso antes de que apareciera la IA, ya existía la idea de que el gobierno podía registrar todo lo que te pertenecía, la idea de que el gobierno no necesitaba una orden judicial para registrar todas tus cosas. La idea de que si alguno de sus datos alguna vez saliera del país por un breve segundo, el gobierno lo interceptara allí,
Cuando estaba en la universidad, en la época de la Ley Patriota, el debate era que no buscarían sus datos reales, pero que pueden obtener los metadatos y solo los metadatos. Los datos sobre tus datos serán suficientes para localizarte con precisión en todo momento. E incluso eso está demasiado lejos. Y hemos estado haciendo este baile de ¿qué puede recaudar el gobierno? ¿Qué está permitido? ¿Qué necesitan para mantenernos a todos seguros y qué está demasiado lejos? Esas líneas se han movido.
Así que describa brevemente la preocupación generalizada sobre la vigilancia a escala y dónde nos encontramos ahora. Antes, la situación de la IA hacía que todo fuera exponencialmente más complicado.
Aquí tengo que introducir otro concepto que probablemente debería haberse mencionado antes, pero que es importante, que se llama “doctrina del tercero”. La idea de la Cuarta Enmienda es que el gobierno no puede registrarte a ti ni a tus cosas sin una orden judicial y no puede obtener una orden judicial sin una causa probable de que hayas cometido algún tipo de delito. Pero existe este concepto que surgió hace décadas llamado doctrina de terceros, que dice que eso no necesariamente se aplica, o no se aplica en absoluto, a cosas que no son suyas, incluso si son sus datos.
La versión más antigua y obvia de esto fueron los registros telefónicos que tenía la compañía telefónica sobre a quién llamabas. Las compañías telefónicas no grababan tus llamadas, pero sí grababan si te llamaba, habría un registro en la compañía telefónica que decía: "Mike llama a Nilay". Y lo que han determinado múltiples tribunales es que el gobierno puede ir y solicitar eso, y no necesitan una orden judicial para eso porque no es un registro desus datos, es este tercero y él puede aceptar como tercero simplemente entregar esos datos.
Pero esos fueron casos de las décadas de 1960 y 1970, en los que se determinó que el gobierno podía acceder a eso sin una orden judicial, cuando no había tantos datos de terceros disponibles. El auge de las computadoras e Internet cambió eso. Ahora, todo son datos de terceros. Todo lo que hacemos lo recoge alguna empresa en algún lugar y tiene un registro de ello. Básicamente, todos los datos sobre usted, dónde se encuentra, con quién habla, con quién interactúa, qué dice, qué está haciendo, todo eso está en manos de terceros en estos días. Entonces, la doctrina del tercero se ha tragado toda la Cuarta Enmienda hasta cierto punto, donde cualquier cosa sobre usted que otra persona tenga, hay un estándar mucho más bajo sobre lo que el gobierno puede hacer para solicitarlo.
Para ser específico, esto significa que cuando mis datos están en iCloud, ¿el gobierno puede acudir a Apple y sacar mis datos de iCloud sin siquiera decírmelo?
Pueden solicitarlo. Pueden solicitarlo fácilmente sin orden judicial. Entonces la empresa tiene sus propios derechos y puede determinar qué quiere hacer con esa solicitud. Pueden simplemente renunciar a ello. Pueden, como lo hará la mayoría de ellos, si se trata de una solicitud seria, rechazar las solicitudes de plano o pueden alertarlo y decirle (y esto es lo que hará la mayoría de ellos): lo alertarán y le dirán: "El gobierno está solicitando algunos de sus datos. Puede acudir a los tribunales e intentar bloquearlos". Si no, te entregarán tus datos en siete días o el que sea.
De nuevo, depende. Si se trata de una investigación criminal, entonces puede haber algún tipo de orden de silencio que la empresa no puede decírselo. Hay todo tipo de situaciones, pero la mayoría de ellas implican menos del nivel de protección que requeriría la Cuarta Enmienda si se tratara de datos o cualquier información o cualquier cosa en su propia casa.
La cantidad de datos que tienes en el servidor en la nube de otra persona es enorme, ¿verdad? Cada cosa que usted hace generalmente en Internet ahora está respaldada de alguna manera o registrada de alguna manera en los servidores de otra persona. El gobierno ha encontrado esta manera de eludir la Cuarta Enmienda y decir: "Bueno, en realidad eso no es suyo. Pertenece a Amazon. Podemos ir a hablar con Amazon", y Amazon tiene que pararse en medio de ese proceso y decir: "Hemos inventado otro proceso para proteger de alguna manera a la gente".
Miro eso, y cuando estaba cubriendo los primeros casos de doctrina de terceros que cubrían los servicios en la nube y el gobierno seguía ganando, fue básicamente cuando me convertí en el Joker. Yo estaba como: "Todo esto que estamos fingiendo sobre el textualismo y la [lectura] simple, nada de esto significa nada porque simplemente avanzamos hasta la puerta trasera usando esta antigua ley en los datos de todos".
Y luego miro esto y miro a Anthropic y digo: "Bueno, este es el mismo patrón". Se trata de una empresa privada que dice: "Está bien, entendemos su posición. Entendemos que ha reinterpretado la ley en el sentido de esto, y vamos a interponer algún proceso entre usted, nuestra herramienta y los datos de los estadounidenses que fluyen a través de nuestro servicio". Sólo me pregunto si ven ese paralelo entre Anthropic, Amazon, Azure y cualquier otro servicio en la nube que exista y que contenga gran parte de nuestros datos.
Sí, aunque hay algunas aclaraciones importantes que hacen que esto sea un poco diferente. Y de hecho, creo que The New York Times publicó este informe primero, la cláusula principal que era más importante para Anthropic se refería específicamente a los datos recopilados de servicios comerciales y no poder utilizar Claude en esos datos, que es exactamente este problema en términos de datos de terceros. Pero sí quiero aclarar la diferencia principal entre lo que estábamos hablando antes con Amazon u otros terceros que alojan sus datos, esos eran casos en los que, debido a su ubicación en el ecosistema, alojaban sus datos directamente.
Con Claude, no es que a nadie le preocupe que la NSA revise su uso de Claude. Se trata de que salgan y obtengan datos de terceros de Amazon o, más probablemente, del tipo de intermediarios de datos ocultos y astutos que publican anuncios en sus teléfonos y conocen su ubicación, sus intereses y cosas así. Y luego introducir eso en un sistemaen el que Claude luego trabajaría. Eso es de lo que Anthropic realmente no quería ser parte. Entonces, donde sea o como sea que el gobierno recopile esos datos de un tercero, Anthropic dijo: "No queremos que nuestra herramienta se utilice con esos datos".
Apple se enfrenta al FBI pidiéndole que ponga una puerta trasera en el iPhone, y Apple dice "no", y se enfrenta a Trump. Y hay una parte de cómo funciona nuestro sistema en la que las grandes empresas privadas pueden decir “no” al gobierno en nombre de sus clientes. Y esto se sintió de la misma manera que Apple, nuevamente, no puso la puerta trasera en el iPhone, o que los grandes proveedores de la nube dijeron: "Hay un pequeño proceso que debes atravesar antes de obtener los datos individuales".
Aquí parece que Anthropic está diciendo: "No vamos a hacer simplemente un análisis masivo de los datos que usted ha adquirido de otras partes porque eso conduce a una vigilancia masiva de los estadounidenses las 24 horas del día, los 7 días de la semana, y no queremos hacer eso". Sin embargo, eso parece un puente demasiado lejos para esta administración. ¿Hay algo que se pueda recuperar de eso?
Veremos. En el pasado, cuando eso sucedió (y ha sucedido muchas veces con la mayoría de las grandes empresas de tecnología, en algún momento dijeron que algo era ir demasiado lejos), a donde normalmente se llega es a los tribunales. Las empresas acudirán a los tribunales o la administración acudirá a los tribunales y habrá algún tipo de batalla judicial.
La puerta trasera del iPhone es un ejemplo perfecto de ello. Fue a los tribunales y pelearon, aunque nunca llegaron a una conclusión porque el FBI eventualmente simplemente irrumpió manualmente en el iPhone y luego no quería que el fallo judicial lo arruinara en el futuro.
Pero en este caso, donde está la escalada y donde esto es diferente de situaciones pasadas es que en lugar de simplemente acudir a los tribunales, la administración Trump hizo esta designación de “riesgo de la cadena de suministro”, lo cual es simplemente una locura. La idea de que esta herramienta, que fue diseñada para impedir que posibles actores maliciosos extranjeros suministren tecnología, que luego podría colocar herramientas de vigilancia ocultas en la pila de tecnología más grande, podría prohibirse. Aplicar eso a una empresa con sede en EE. UU. básicamente por tener una política de ética parece un mal uso real de esa herramienta.
Incluso esa herramienta era cuestionable en algunos aspectos, pero se podía entender el ímpetu detrás de ella cuando se habla de una empresa de redes china o algo por el estilo. Aquí no tiene sentido. Así que la reacción a esto va mucho más allá de lo que normalmente se vería en este caso. Se podía ver que tradicionalmente habría algún tipo de caso judicial y cualquiera de las partes podría iniciarlo y sería simplemente una batalla sobre cómo se podría aplicar el contrato.
Pero eso no es lo que está pasando aquí. Esta administración está diciendo efectivamente: "Si no nos dan absolutamente todo lo que queremos, si no configuran sus herramientas para que funcionen como queremos, entonces efectivamente intentaremos destruir todo su negocio". Y eso es una escalada.
Hay una parte de esto con la que quiero terminar, y es la versión más parecida a un cerebro galáctico. FIRE, que es un grupo de defensa de la libertad de expresión, publicó una publicación en el blog justo antes de comenzar a grabar argumentando que obligar a Anthropic a crear herramientas que no quiere construir es una violación de la libertad de expresión, que es algo que se llama expresión obligada. Hay mucha historia aquí. Aquí hay una historia profunda de crisis existencial de Verge y Techdirt.
Pero básicamente todo se reduce a la idea de que el código es discurso, que escribir código para una computadora es una forma de discurso y que el gobierno no puede obligarte a hacerlo, y de ahí se derivan un montón de cosas. ¿Cree usted en este argumento de que obligar a Anthropic a crear herramientas que no quiere crear es un discurso obligado?
Sí, de hecho creo que es bastante convincente. Discurso convincente y obligado. Pero no, sí creo que es un argumento interesante. Es uno que estaba un poco más abajo en la lista de temas en los que estaba pensando. Obviamente me centré más en las cuestiones de la Cuarta Enmienda, pero creo que el argumento de FIRE no está mal. Lo hemos visto en otros contextos. También surgió el problema de la puerta trasera, en términos de intentar construir puertas traseras en sistemas cifrados.
Las empresas definitivamente subieron primeroLa enmienda afirma que “es un discurso obligado obligarnos a escribir ese tipo de código”. Es un argumento válido. Podría ser, nuevamente, un tema que los tribunales probablemente estén menos dispuestos a abordar inicialmente si pueden abordar estas cuestiones de otra manera. Pero me alegro de que FIRE haya hecho esa publicación y creo que es un argumento interesante y convincente.
Sí, la naturaleza de la segunda administración Trump es que es un instrumento tan contundente que es casi seguro que atacaremos todos los problemas al mismo tiempo.
Sí, cada enmienda a la Declaración de Derechos debe ser cuestionada de una forma u otra con todos los temas posibles.
[Risas] Gira la rueda.
Estoy seguro de que podemos incluir una violación de la Tercera Enmienda en algún lugar de aquí.
Claro, sí. Claude tiene que vivir en tu casa ahora. Exactamente. Va a ser genial. Estamos haciendo [enmiendas] uno, tres, cuatro y siete. Los acumulamos.
Mike, esto ha sido genial. No puedo creer que no hayas estado en el programa antes. Esto ha sido genial. Tienes que volver pronto.
Absolutamente. Cuando me quieras.
¿Preguntas o comentarios sobre este episodio? Contáctenos a decoder@theverge.com. ¡Realmente leemos cada correo electrónico!
