Aujourd’hui, nous parlons de la situation compliquée et en évolution rapide chez Anthropic, le créateur de Claude, qui se retrouve désormais dans une très vilaine bataille juridique avec le Pentagone.
Les allers-retours sont compliqués, mais il y a quelques jours, le Pentagone avait considéré Anthropic comme un risque pour la chaîne d’approvisionnement, et Anthropic a intenté une action en justice pour contester cette désignation, affirmant que le gouvernement avait violé ses droits du premier et du cinquième amendement en « cherchant à détruire la valeur économique créée par l’une des entreprises privées à la croissance la plus rapide au monde ». Je peux vous le dire tout de suite : nous allons parler des rebondissements de cette affaire sur The Verge et ici sur Decoder dans les mois à venir.
Mais aujourd’hui, je voulais prendre un moment et vraiment approfondir ici un élément très important de cette situation qui n’a pas reçu suffisamment d’attention car elle est devenue incontrôlable : comment le gouvernement des États-Unis effectue la surveillance, quelle autorité légale permet cette surveillance, et pourquoi Anthropic se méfiait du gouvernement qui disait qu’il respecterait la loi lorsqu’il s’agit d’utiliser l’IA pour faire encore plus de surveillance.
Abonnés de Verge, n'oubliez pas que vous bénéficiez d'un accès exclusif à Decoder sans publicité partout où vous obtenez vos podcasts. Rendez-vous ici. Vous n'êtes pas abonné ? Vous pouvez vous inscrire ici.
Mon invité aujourd'hui est Mike Masnick, fondateur et PDG de Techdirt, l'excellent site Web de politique technologique de longue date. Mike écrit depuis des décennies sur les excès du gouvernement, la vie privée à l'ère numérique et d'autres sujets connexes. Il est un expert de la manière dont Internet et l’État de surveillance se sont développés de manière interconnectée.
Vous voyez, il y a ce que la loi dit que le gouvernement peut faire lorsqu’il s’agit de nous surveiller, et ensuite ce que le gouvernement veut faire. Et plus important encore, il y a ce que le gouvernement dit pouvoir faire selon la loi, ce qui est souvent exactement le contraire de ce que penserait toute personne normale lisant simplement la loi.
Vous entendrez Mike expliquer en détail ici dans cet épisode que nous ne pouvons pas – et ne devons pas – prendre le gouvernement américain au mot en matière de surveillance. Il y a tout simplement trop d’histoires où les avocats du gouvernement déforment les interprétations de mots simples comme « cible » pour étendre la surveillance de manières compliquées – des manières qui ne suscitent généralement des inquiétudes que dans les cercles juridiques, et qui ne font surface que lorsqu’il y a d’énormes controverses comme les révélations majeures du lanceur d’alerte Ed Snowden sur la NSA il y a plus de dix ans.
Mais il n’y a rien de subtil ou de sophistiqué dans l’élaboration des politiques à l’ère Trump – et donc avec Anthropic, nous avons un débat très bruyant et très public sur la technologie et la surveillance en temps réel, sur Internet, dans les articles de blog et les diatribes X, et lors des extraits sonores des conférences de presse. Il y a du positif et du négatif à cela, mais pour comprendre tout cela, il faut vraiment connaître l’histoire.
C’est ce que Mike et moi avons décidé d’expliquer dans cet épisode : quelle que soit votre opinion sur l’IA et le gouvernement, cet épisode montrera clairement que les deux parties ont laissé l’État de surveillance s’agrandir de plus en plus au fil du temps. Nous sommes désormais à l’aube de la plus grande expansion jamais réalisée en matière d’IA.
D'accord : Mike Masnick, fondateur et PDG de Techdirt, parle d'Anthropic, du Pentagone et de la surveillance de l'IA. On y va.
Cette interview a été légèrement modifiée pour plus de longueur et de clarté.
Mike Masnick, vous êtes le fondateur et PDG de Techdirt. Bienvenue sur Décodeur.
Je suis heureux d'être ici.
Je suis ravi de vous avoir. Je disais juste que je suis choqué que vous n’ayez jamais participé à la série auparavant. Vous et moi écrivons et publions ensemble depuis longtemps. Une grande partie de la couverture politique de The Verge doit beaucoup à ce que vous avez fait chez Techdirt et ce qui se passe avec Anthropic est si compliqué, mais touche tellement de thèmes que vous couvrez depuis si longtemps. Je suis content que tu sois enfin là.
C’est un sujet compliqué, mais je suis ravi de m’y plonger.
Ce sur quoi je veux me concentrer avec vous, ce ne sont pas les détails de savoir si Anthropic va signer un contrat avec le gouvernement ou si OpenAI va obtenir ce contrat. Au lieu de cela, je suis convaincu qu’entre le moment où nous enregistrons ceci et le moment où les gens l’écoutent, il y aura plus de tweets et plus de choses seront différentes de ce qu’elles étaient avant.
Ce sur quoi je veux me concentrer n’est que l’une des deux lignes rouges réellement tracées par Anthropic. L'un d'eux estarmes autonomes, ce qui représente son propre niveau de complication. La loi là-bas est un peu plus naissante, que les armes existent ou non ou qu’elles aient déjà été déployées par la Russie dans la guerre en Ukraine.
Il y a beaucoup d'idées ici que je veux simplement mettre de côté parce que je pense que cela va se concentrer davantage sur son propre calendrier. L’autre ligne rouge sur laquelle je souhaite consacrer beaucoup de temps est la surveillance de masse. Et il existe ici de nombreuses lois concernant la surveillance de masse. Il y a beaucoup d’histoire, beaucoup d’histoire controversée. Le personnage entier d'Edward Snowden existe en raison des controverses autour de la surveillance de masse.
Tout dépend – je pense que c’est vous qui avez posté ceci – de la National Security Agency (NSA), qui fait partie du ministère de la Défense, que nous devons maintenant appeler le ministère de la Guerre pour une raison quelconque.
[Rires] Nous n’avons rien à faire.
[Rires] Nous ne le faisons pas. C'est vrai ici en Amérique. Nous n’avons rien à faire. Mais la NSA a fondamentalement redéfini ce que signifient de nombreux mots en anglais familier pour signifier : « Nous pouvons simplement faire de la surveillance ». Et puis, de temps en temps, il y a un scandale lorsque les gens découvrent qu’ils ne font que surveiller. Alors préparez simplement le terrain, et je ne veux pas vous rembobiner complètement, mais cela fait pas mal de temps que ce schéma se répète.
Cela dépend jusqu'où vous voulez aller, mais la version courte est évidemment que dans le monde d'après le 11 septembre, les États-Unis ont adopté le Patriot Act, qui donnait au gouvernement la possibilité de s'engager dans une surveillance, censée nous protéger contre de futures menaces terroristes. Au fil du temps, cela a été interprété de manière intéressante et il y avait certaines limites à cela. Nous avions également le tribunal FISA, un tribunal spécial censé examiner la communauté du renseignement et ses activités, mais qui est traditionnellement un tribunal unilatéral. Une seule partie peut plaider sa cause devant ce tribunal et tout se fait en secret.
Il y a beaucoup de choses qui n’étaient pas connues. Et puis il y avait un autre élément dans tout cela, qui remonte à Ronald Reagan, à savoir le décret 12333, qui est censé établir les règles de la route pour la collecte de renseignements.
Vous avez donc ces trois ensembles de lois – enfin, quelques ensembles de lois – et un décret qui, pour le public, les parties que vous pouvez lire, semblent dire certaines choses sur ce que notre gouvernement et la NSA en particulier peuvent faire en termes de surveillance. Lorsqu’on le lit avec un simple dictionnaire anglais, dont vous et moi connaissons probablement et comprenons la nature, nous repartirions avec la conviction que la capacité de la NSA à surveiller les Américains était très limitée, en fait au point qu’elle est censée le faire, s’elle se rend compte qu’elle surveille une personne américaine, qu’elle est censée immédiatement s’arrêter et crier au scandale et effacer les données et toutes ces autres choses.
Pendant un certain temps, des rumeurs ont circulé selon lesquelles cela ne se produisait pas réellement et il y avait des indices. En particulier, le sénateur Ron Wyden a déclaré très clairement au Sénat : « Quelque chose ne va pas ici et je ne peux pas vraiment vous dire quoi », ou lors d'audiences, il a demandé aux responsables du renseignement : « Collectez-vous ou non des données massives sur les Américains ?
Ces responsables se détourneraient ou, dans certains cas, mentiraient carrément. Je crois que c'est lors d'une audience en 2012 avec James Clapper, qui était alors directeur du renseignement national, qu'on lui a posé directement des questions sur ce point. Et il a essentiellement répondu : « Non, nous ne collectons pas de données sur les Américains. » C'est en grande partie ce qui a incité Ed Snowden à divulguer les données, les rapports qu'il a divulgués à Glenn Greenwald, Barton Gellman et Laura Poitras également. À partir de tout cela, ce que nous avons commencé à découvrir, c’est que la NSA possède son propre dictionnaire qui est quelque peu différent du dictionnaire que vous et moi utilisons, de sorte qu’elle peut interpréter les mots d’une manière différente de leur sens anglais ordinaire, y compris des mots comme « cible », qui ressemble à un mot clé. Une compréhension générale de ce dont il s’agit est qu’en théorie, ils sont censés cibler uniquement les personnes qui ne sont pas des Américains, je pense que c’est l’expression.
Mais la façon dont cela a été interprété au fil du temps était que tout ce qui mentionne cette personne, tout ce qui concerne une personne étrangère est désormais une proie légitime, même s'il s'agit de communications d'un étranger.Personne américaine. Donc, si vous et moi devions nous envoyer des SMS et mentionner une personne étrangère, ce serait désormais une bonne chose pour la NSA de collecter, de conserver et de stocker.
Il y a une deuxième partie à cela. J'ai mentionné le premier décret 12333 de Ronald Reagan qui, à mesure que la technologie évoluait au fil du temps et qu'Internet se développait, permettait effectivement à la NSA d'accéder aux communications étrangères, mais cela incluait toutes les communications ayant pu quitter les États-Unis en route quelque part. Donc, si je vous envoie un SMS et qu'un message vient de moi en Californie via un câble à fibre optique qui quitte les États-Unis, la NSA pourrait mettre une écoute sur la partie une fois qu'elle est hors des États-Unis et collecter ces informations, même si elles vous étaient destinées uniquement aux États-Unis.
La NSA pourrait alors conserver ces informations même si elles concernaient des personnes américaines, et elle pourrait ensuite effectuer des recherches spécifiques à ce sujet, parfois appelées « recherches détournées ». Ils ont collecté des informations que nous pensons qu’ils n’étaient pas censés collecter au départ, mais ils ont pu les conserver. Et ils ont promis, ils ont juré au petit doigt, qu'ils garderaient cela privé, mais s'ils faisaient une recherche et découvraient que vous ou moi mentionnions une personne étrangère, alors tout à coup, il était juste pour eux d'en faire ce qu'ils voulaient.
Au total, cela s’est transformé en un monde dans lequel le gouvernement fédéral peut essentiellement collecter toute information susceptible de toucher en dehors des États-Unis. Même s'il s'agit entièrement d'une affaire entre deux personnes américaines, si elles mentionnent ou même font allusion à quelqu'un qui n'est pas une personne américaine, tout à coup, c'est un jeu équitable à collectionner. Et de là, nous avons obtenu ce qui semble être une forme de surveillance massive des Américains par une NSA qui prétend et déclare publiquement qu’elle n’espionne pas les Américains.
Comment en sommes-nous arrivés à ce point ? Cela représente de nombreux petits pas progressifs. Vous avez mentionné James Clapper en 2012, c’est l’administration Obama. Vous avez mentionné Ronald Reagan, nous sommes dans les années 1980. Nous traversons ici les démocrates et les républicains.
La guerre contre le terrorisme a eu lieu sous l’administration de George W. Bush, et les attentats du 11 septembre et le Patriot Act ont eu lieu sous l’administration de George W. Bush. Il y a beaucoup de mauvaises choses progressives sous les présidents des deux partis, sous les congrès des deux partis. Comment est-ce arrivé ?
La forme la plus simple est que personne, et certainement aucun président, ne veut être président au moment où il y a une grande attaque terroriste, parce que cela leur donne une mauvaise image. Évidemment, ils veulent aussi protéger les Américains, n’est-ce pas ? Cela fait partie de leur travail. Si vous avez une communauté du renseignement qui opère essentiellement dans l’obscurité, parce que c’est ce que font les communautés du renseignement et qu’elles continuent à venir vers vous et à vous dire : « Hé, si nous pouvions simplement avoir accès à ces informations, cela serait vraiment utile pour prévenir une attaque terroriste. »
Il peut y avoir des cas où cela est vrai, où la communauté du renseignement est capable d’utiliser ces informations de manière efficace. Mais nous sommes aussi, en théorie, une société de lois avec une Constitution américaine à laquelle nous sommes censés obéir. Mais cela tenait compte du fait que administration après administration, encore une fois, républicaine et démocrate, avait des avocats qui étaient très intelligents et qui examineraient et diraient : « Eh bien, si nous nous positionnons de cette façon ou si nous déclarons ceci ou si nous interprétons cela, de cette façon, nous pouvons obtenir ce que nous voulons et ne pas enfreindre techniquement la loi ou ne pas violer techniquement le Quatrième amendement. »
L’hypothèse a toujours été : « Nous pouvons en quelque sorte contourner la loi ou modifier notre interprétation de la loi et personne ne verra vraiment jamais cela, ou personne qui s’en soucie ne verra vraiment jamais cela, et donc nous nous en tirerons.
Il y a deux choses qui me sautent vraiment aux yeux. Premièrement, vous et moi avons tous deux lu beaucoup de décisions de justice – des décisions de cours d’appel et des décisions de la Cour suprême. Et il y a un combat au sein de notre Cour suprême sur la façon d’interpréter littéralement les mots de nos statuts et de nos lois.
Je n’irai pas trop loin, mais je dirais que de manière générale, l’idée selon laquelle il suffit de lire les mots sur la page et de faire ce qu’ils disent est la tendance dominante de l’interprétation des lois aux États-Unis. Gauche ou droite, ils le disent tous les deux. Ils discutent de certains points très ésotériques de ce que cela signifie réellement. Mais que vous soyez simplement capable de lire ces mots et de faire ce qu’ils disent, ce n’est pas à gagner, n’est-ce pas ?
Nous avons atterri au moins sur cette première passe de ce que vous pourriezappelons le textualisme. Comment les avocats des deux administrations peuvent-ils s’éloigner à ce point du mode de décision juridique dominant dans notre pays ? Les juges des deux partis conviennent que c’est au moins la première étape.
J'aurais aimé connaître la réponse exacte, mais je pense que c'est un raisonnement motivé, n'est-ce pas ? En tant qu'avocat, vous êtes là pour défendre votre client et le succès — si vous pouvez appeler cela succès — de notre système juridique a tendance à reposer sur une situation contradictoire dans laquelle différentes parties se disputent sur ces questions, où le rôle de l'arbitre est de se concentrer et de déterminer quelle partie a réellement raison.
L’un des problèmes de la communauté du renseignement et de sa configuration, c’est qu’il n’y a pas de situation conflictuelle. Cela permet à une partie de justifier plus facilement l’argument qu’elle avance, car personne ne s’y oppose vraiment. Vous combinez cela avec la peur dominante d’une autre attaque terroriste, de tout ce qui touche à la sécurité nationale, et même lorsqu’il y a des situations où il y a le tribunal de la FISA – je veux dire que le tribunal de la FISA était en quelque sorte réputé pour être effectivement un tampon automatique pendant de nombreuses années.
J’oublie les chiffres exacts, mais environ 99 pour cent des demandes adressées au tribunal de la FISA pour permettre la surveillance de certaines situations ont été accordées, et il est facile de dire que 99 pour cent, c’est évidemment trop. De toute évidence, ceux qui portent plainte devant le tribunal choisissent. Ils ne présentent pas, pour la plupart, des affirmations totalement folles. Mais sans cet aspect contradictoire et avec un groupe de personnes très fortement motivées qui pensent : « Nous devons faire ceci » ou qui se font dire par une administration : « Nous devons faire ceci », ils trouveront des moyens de le faire. Et c’est là que vous vous retrouvez au fil du temps.
Y a-t-il eu quelqu'un impliqué dans ce processus qui s'est déjà réveillé et s'est dit : « Bon sang, nous avons réussi à redéfinir le mot « cible » pour qu'il signifie tout ce que nous voulons » ?
[Rires] Évidemment, vous aviez Ed Snowden, qui a divulgué un tas de documents. Il y avait John Napier Tye, qui a écrit un article pour le Washington Post en 2014, qui révélait l'interprétation du décret 12333, et disait que c'était le véritable problème auquel il fallait prêter attention. Il y a d’autres personnes qui ont parlé de ces choses, mais pour la plupart, les gens qui travaillent au sein de l’administration sur les questions liées à la communauté du renseignement sont convaincus par l’opinion de la communauté du renseignement, selon laquelle l’objectif primordial est de protéger le pays contre quelque chose de mauvais. La meilleure façon d’y parvenir est d’avoir autant d’informations que possible.
Il est facile d’accepter l’argument selon lequel, oui, avoir plus d’informations peut leur permettre de détecter quelque chose plus tôt ou de trouver quelque chose d’important, mais premièrement, cela pourrait ne pas être vrai. Obtenir trop d’informations est probablement aussi mauvais que trop peu d’informations, car cela peut souvent cacher les informations qui sont réellement utiles, les informations dont vous avez réellement besoin pour déterminer quelque chose.
Mais nous avons aussi les États-Unis. Constitution en premier lieu et nous avons des raisons pour lesquelles, en théorie, nous ne sommes pas censés autoriser une surveillance de masse sans cause probable. En tant que pays qui croit en l’état de droit, nous devrions être capables de respecter cela, et quand tout cela se passe dans l’obscurité, vous aurez tendance à le perdre de vue.
Cela m'amène à Anthropic. Anthropic est avant tout une entreprise. Ils sont bons au sein du gouvernement, ils ont développé ces muscles, leur personnel est composé de personnes qui connaissent très bien certains de ces domaines. Ils ont évidemment regardé Pete Hegseth dire : "Nous voulons toutes les utilisations licites", et ils ont descendu deux niveaux d'interprétation et ont dit : "Eh bien, votre conviction littérale est que ces mots ne signifient pas ce qu'ils disent à première vue. Donc "toutes les utilisations licites" est trop large, et nous voulons mettre des garde-fous, en particulier autour de la surveillance de masse. "
Encore une fois, je vais mettre entre parenthèses les armes autonomes, qui étaient l'autre ligne rouge, mais particulièrement en ce qui concerne la surveillance de masse, Dario Amodei dit : "Nous pouvons en faire trop. C'est trop dangereux. C'est une violation du Quatrième Amendement."
La tension est la suivante : « vous dites que vous allez vous conformer à ces lois qui disent une chose et maintenant, après tout ce temps, elles signifient quelque chose de complètement différent et nous ne voulons tout simplement pas en faire partie. » C'est lelutte. Je veux juste comparer cela à Sam Altman, qui intervient pour dire : « Nous ferons toutes les utilisations licites », puis publie ce long message du genre : « Voici toutes les lois que nous allons respecter ».
Il semble qu’Altman ne savait pas comment la NSA avait réinterprété ces choses et s’est en quelque sorte laissé faire. Et depuis, il a commencé à revenir en arrière – même pendant que nous enregistrons, je suis convaincu qu’il y a plus de tweets et que les positions de chacun ont changé. Mais Altman a reculé lentement, mais il semble qu'OpenAI ait été obligé de lire les statuts sur leur visage et de croire ce qu'ils disaient. Est-ce également votre interprétation des événements ?
Il y a deux possibilités, et c’en est une. La première est qu’il a été joué de la même manière que le public pendant de nombreuses années. L’autre théorie, et je ne sais pas laquelle est vraie, est que lui ou certains des avocats d’OpenAI – qui, je pense, sont très compétents et très bien informés – le savaient, mais pensaient qu’ils pourraient jouer au même jeu que la NSA a joué pendant quelques décennies, à savoir que tant qu’ils disent ces choses, puis qu’ils prononcent les mots, mais qu’ils ne révèlent pas les interprétations réelles, ils pourraient également s’en tirer. Alors Sam sort une déclaration qui donne l'impression que "Nous avions exactement les mêmes lignes rouges qu'Anthropic, et le gouvernement était très bien avec ça."
En fait, je pense que Sam Altman a dit qu'Anthropic avait deux lignes rouges et OpenAI en avait trois, et que le gouvernement était parfaitement d'accord avec cela, et cela a laissé beaucoup de gens se gratter la tête. Mais je pense que soit Sam Altman et ceux qui l’entouraient n’ont pas compris comment ces choses fonctionnent dans la pratique, soit ils l’ont compris, et ils ont simplement supposé que le public ne le saurait pas et qu’ils pourraient donc s’en tirer.
L’autre chose qui me vient à l’esprit : encore une fois, l’IA est nouvelle et il est très tentant de s’intéresser aux nouvelles technologies car ce sont des problèmes de premières impressions. « Personne n’a jamais eu à y penser auparavant », mais la réalité est que tout le monde y pense depuis longtemps. Peut-être que ce qui est nouveau ici n’est pas l’IA, mais le fait que la deuxième administration Trump, au lieu de faire un tas d’avocats que personne ne lira peut-être jamais pour justifier ses actions devant un tribunal secret auquel personne ne prête attention, n’est tout simplement pas si subtile.
Ils ne sont pas si sophistiqués et disent simplement qu’ils vont espionner tout le monde tout le temps. Ils ont simplement annoncé leurs intentions de telle sorte que peut-être que toutes les administrations devraient simplement annoncer leurs intentions et voir où les enjeux tombent.
Mais je regarde le fait qu’il y avait Ed Snowden ici à New York. AT&T gère un bâtiment que tout le monde sait être un bâtiment de la NSA. Ce n’est qu’un bâtiment géant, et nous sommes censés prétendre que ce n’est pas un centre de surveillance de la NSA, mais il est juste là. C'est énorme. Rien de tout cela ne semble avoir abouti. Toutes ces révélations, ces fuites, nous n’avons pas reculé.
En fait, cela n’a fait qu’augmenter à mesure qu’une grande partie de nos vies sont devenues de plus en plus numériques. Et peut-être que l’administration Trump est un instrument aussi brutal à tout moment, c’est peut-être là la cause du jugement. Pensez-vous que cela se produira de toute façon ?
Il y a plusieurs choses différentes là-dedans, et il n’est pas tout à fait vrai que nous n’avons pas du tout reculé sur ce sujet. Les révélations de Snowden ont conduit à certains changements dans la façon dont ces choses se produisent. Et il y en a maintenant – j’oublie comment ils s’appellent, mais ils sont comme ces amis civils au sein du tribunal de la FISA qui présenteront l’autre partie sur certaines questions.
Et nous avons vu certaines autorités limitées d’une certaine manière, et elles demandent une nouvelle autorisation de temps en temps, et les militants ont été très agressifs en repoussant et en essayant de mettre en place des garde-fous supplémentaires. Mais pour ce qui est de la question plus vaste, je pense qu’il y a deux choses différentes. Vous avez à moitié raison en ce sens que cette administration n’est pas subtile et dit simplement à haute voix des choses qu’elle ne devrait pas faire.
"Nous sommes en guerre contre l'Iran, nous le faisons, cela se produit. Nous n'allons même pas essayer la danse."
D’une manière que toutes les administrations précédentes ne feraient pas. Mais ils n’ont pas vraiment dit cela directement à propos desurveillance, en particulier la surveillance des Américains. Il y a eu des allusions à ce sujet, mais ils ne se sont pas prononcés avec autant de force là-dessus. L’autre moitié a davantage à voir avec le positionnement d’Anthropic et la vision générale de l’IA comme cette technologie possiblement existentielle, où Anthropic s’est toujours présenté comme : « Nous sommes les gentils et réfléchis », et que vous y croyiez ou non, c’est un peu hors sujet. Ils ont cette réputation : « Nous essayons de faire cela d’une manière sûre, qui respecte l’humanité et qui prête attention à toutes ces choses. » Et donc quand il y a cet affrontement, c’est là que la lutte entre en jeu.
Vous avez une administration Trump qui veut juste pouvoir faire tout ce qu’elle veut, et elle n’est pas subtile à ce sujet. Et puis vous avez Anthropic, dont la description de soi et sa personnalité publique sont toujours du genre : « Nous sommes réfléchis et nous respectons l’humanité, les droits et toutes ces choses. » C’est probablement là que le conflit est survenu, car Anthropic, comme cela a été clairement indiqué, travaille avec le ministère de la Défense depuis un certain temps et a de nombreux autres contrats avec le gouvernement qu’il a utilisés. Cela n’a pas posé de problème.
Ce n’est que dans ces domaines spécifiques où, alors que le gouvernement cherchait à étendre le contrat dont il disposait, la haute direction d’Anthropic a commencé à dire : « Attendez, nous devons nous assurer que nous ne franchissons pas ces lignes rouges qui pourraient potentiellement nuire à notre réputation de fournisseur d’IA réfléchi et sûr. »
Je voudrais vous poser brièvement des questions sur la surveillance en général, et en particulier sur les préoccupations du quatrième amendement d’Anthropic. Le quatrième amendement stipule que le gouvernement ne peut pas vous fouiller de manière déraisonnable. La meilleure façon de comprendre le Quatrième Amendement est d’écouter « 99 Problems » de Jay-Z. Donc si vous avez besoin de faire une pause et d’aller écouter « 99 Problems », c’est super. Tout est là-dedans. Je l’ai écouté quand j’étais à la faculté de droit et c’était parfaitement logique.
Mais le gouvernement a généralement besoin d’un mandat pour vous fouiller. Et comme de plus en plus de temps dans votre vie est en ligne, il existe de nombreuses exceptions à cette règle. Mais l’idée est qu’ils devraient toujours avoir besoin d’un mandat en ligne. L'argument d'Anthropic est le suivant : "Eh bien, l'IA ne se lassera jamais. Elle peut tout rechercher à tout moment. Cela signifie que nous allons simplement faire une surveillance principale."
Pourtant, avant même l’apparition de l’IA, l’idée selon laquelle le gouvernement pouvait fouiller tout ce qui vous appartenait existait, l’idée que le gouvernement n’avait pas besoin d’un mandat pour fouiller toutes vos affaires existait. L'idée selon laquelle si l'une de vos données sortait du pays pendant une brève seconde, le gouvernement l'interceptait là-bas,
Quand j'étais à l'université, à l'époque du Patriot Act, le débat était qu'ils n'allaient pas rechercher vos données réelles, mais qu'ils pouvaient obtenir les métadonnées et les métadonnées seules. Les données sur vos données suffiront à vous localiser précisément à tout moment. Et même cela, c'est trop loin. Et nous avons fait cette danse de ce que le gouvernement peut collecter ? Qu'est-ce qui est permis ? De quoi ont-ils besoin pour assurer notre sécurité et qu’est-ce qui est trop loin ? Ces lignes ont bougé.
Alors décrivez brièvement l’inquiétude généralisée concernant la surveillance à l’échelle et où nous en sommes actuellement. Avant, la situation de l’IA rendait tout exponentiellement plus compliqué.
Ici, je dois introduire un autre concept qui aurait probablement dû être mentionné plus tôt, mais qui est important, qui s'appelle la « doctrine du tiers ». L’idée du Quatrième Amendement est que le gouvernement ne peut pas vous fouiller ou fouiller vos affaires sans mandat et il ne peut pas obtenir de mandat sans motif probable que vous avez commis une sorte de crime. Mais il existe ce concept apparu il y a des décennies, appelé doctrine du tiers, qui dit que cela ne s’applique pas nécessairement, ou ne s’applique pas du tout, aux choses qui ne vous appartiennent pas, même s’il s’agit de vos données.
La version la plus ancienne et la plus évidente de cette situation concernait les enregistrements téléphoniques que la compagnie de téléphone détenait sur les personnes que vous appeliez. Les compagnies de téléphone n'enregistraient pas vos appels, mais elles enregistraient si je vous appelais, il y aurait un enregistrement chez la compagnie de téléphone qui disait : « Mike appelle Nilay ». Et ce qui a été déterminé par plusieurs tribunaux, c’est que le gouvernement peut demander cela, et il n’a pas besoin d’un mandat pour cela parce qu’il ne s’agit pas d’une perquisition.vos données, c'est ce tiers et ils peuvent accepter en tant que tiers de simplement transmettre ces données.
Mais il s’agissait de cas datant des années 1960 et 1970, où il a été déterminé que le gouvernement pouvait accéder à ces informations sans mandat, alors qu’il n’existait pas beaucoup de données tierces. L’avènement des ordinateurs et d’Internet a changé la donne. Désormais, tout est constitué de données tierces. Tout ce que nous faisons est collecté quelque part par une entreprise et en a une trace. Donc, fondamentalement, toutes les données vous concernant, où vous êtes, à qui vous parlez, avec qui vous interagissez, ce que vous dites, ce que vous faites, tout cela est en grande partie détenu par des tiers de nos jours. Ainsi, la doctrine du tiers parti a avalé dans une certaine mesure l’intégralité du Quatrième Amendement, selon lequel tout ce qui vous concerne et que quelqu’un d’autre possède, il existe des normes bien inférieures quant à ce que le gouvernement peut faire pour le demander.
Juste pour être précis, cela signifie que lorsque mes données sont dans iCloud, le gouvernement peut s'adresser à Apple et extraire mes données d'iCloud sans jamais me le dire ?
Ils peuvent en faire la demande. Ils peuvent facilement en faire la demande sans mandat. L’entreprise dispose alors de ses propres droits et peut déterminer ce qu’elle souhaite faire de cette demande. Ils peuvent simplement y renoncer. Ils peuvent, comme le feront la plupart d’entre eux, s’il s’agit d’une demande sérieuse, rejeter les demandes d’emblée ou ils peuvent vous alerter et ils peuvent dire – et c’est ce que feront la plupart d’entre eux – qu’ils vous alerteront et vous diront : « Le gouvernement demande certaines de vos données. Vous pouvez aller au tribunal et essayer de les bloquer ». Sinon, ils remettront vos données dans sept jours ou quoi que ce soit.
Encore une fois, cela dépend. S’il s’agit d’une enquête criminelle, il peut y avoir une sorte d’ordre de silence selon lequel l’entreprise n’est pas autorisée à vous le dire. Il existe toutes sortes de situations, mais la plupart d'entre elles impliquent moins que le niveau de protection qu'exigerait le quatrième amendement s'il s'agissait de données, d'informations ou de quoi que ce soit se trouvant chez vous.
La quantité de données que vous avez sur le serveur cloud de quelqu’un d’autre est énorme, n’est-ce pas ? Chaque chose que vous faites généralement sur Internet est désormais sauvegardée d’une manière ou d’une autre ou enregistrée d’une manière ou d’une autre sur les serveurs de quelqu’un d’autre. Le gouvernement a trouvé cette façon de contourner le Quatrième Amendement et de dire : "Eh bien, ce n'est pas vraiment le vôtre. Il appartient à Amazon. Nous pouvons aller parler à Amazon", et Amazon doit se tenir au milieu de ce processus et dire : "Nous avons inventé un autre processus pour protéger en quelque sorte les gens."
Je regarde cela – et lorsque je couvrais les premières affaires de doctrine de tiers couvrant les services cloud et que le gouvernement continuait de gagner, c’est essentiellement à ce moment-là que je suis devenu le Joker. Je me suis dit : « Toutes ces choses que nous prétendons à propos du textualisme et de la simple [lecture], rien de tout cela ne veut rien dire parce que nous nous contentons d’utiliser cette ancienne loi dans les données de chacun. »
Et puis je regarde ça et je regarde Anthropic et je dis : « Eh bien, c’est le même modèle. » Il s'agit d'une entreprise privée qui dit : "D'accord, nous comprenons votre position. Nous comprenons que vous avez réinterprété la loi dans ce sens, et nous allons mettre en place un processus entre vous, notre outil et les données des Américains qui transitent par notre service". Je me demande simplement si vous voyez ce parallèle entre Anthropic, Amazon et Azure et tout autre service cloud existant qui contient une grande partie de nos données.
Oui, bien qu'il y ait quelques précisions importantes ici qui rendent les choses un peu différentes. Et en fait — je pense que le New York Times a eu ce reportage en premier — la clause principale qui était la plus importante pour Anthropic concernait spécifiquement les données collectées auprès des services commerciaux et l'impossibilité d'utiliser Claude sur ces données, ce qui est exactement ce problème en termes de données tierces. Mais je tiens à clarifier la principale différence entre ce dont nous parlions auparavant avec Amazon ou d'autres tiers hébergeant vos données, c'étaient des cas où, en raison de leur position dans l'écosystème, ils hébergeaient directement vos données.
Avec Claude, personne ne s’inquiète du fait que la NSA examine votre utilisation de Claude. Il s'agit d'eux qui sortent et obtiennent des données tierces d'Amazon ou, plus probablement, du genre de courtiers de données sournois et cachés qui diffusent des publicités sur vos téléphones et connaissent votre emplacement et vos intérêts et des choses comme ça. Et puis introduire cela dans un systèmesur lequel Claude travaillerait ensuite. C’est à cela qu’Anthropic ne voulait vraiment pas participer. Ainsi, quel que soit le lieu ou la manière dont le gouvernement collecte ces données auprès d’un tiers, Anthropic a déclaré : « Nous ne voulons pas que notre outil soit utilisé sur ces données. »
Apple a résisté au FBI en lui demandant d'installer une porte dérobée dans l'iPhone, et Apple a dit « non » et ils tiennent tête à Trump. Et il y a une partie du fonctionnement de notre système dans laquelle les grandes entreprises privées peuvent dire « non » au gouvernement au nom de leurs clients. Et cela ressemble de la même manière au fait qu’Apple, encore une fois, ne mettra pas de porte dérobée sur l’iPhone, ou que les grands fournisseurs de cloud disent : « Il y a un petit processus que vous devez suivre avant d’obtenir les données individuelles. »
Ici, il semble qu’Anthropic dise : « Nous n’allons pas simplement procéder à une analyse massive des données que vous avez acquises auprès d’autres parties, car cela conduit à une surveillance massive des Américains 24h/24 et 7j/7, et nous ne voulons pas faire cela. » Pourtant, cela semble être un pont trop loin pour cette administration. Est-ce qu'il y a un retour de ça ?
Nous verrons. Dans le passé, lorsque cela s’est produit – et cela s’est produit à maintes reprises avec la plupart des grandes entreprises technologiques, à un moment donné, elles ont dit que quelque chose était un pont trop loin –, cela se dirige normalement vers les tribunaux. Les entreprises iront en justice ou l’administration ira en justice et il y aura une sorte de bataille judiciaire.
La porte dérobée de l’iPhone en est un parfait exemple. L'affaire a été portée devant les tribunaux et ils se sont battus, même s'ils ne sont jamais parvenus à une conclusion définitive, car le FBI a finalement simplement pénétré manuellement l'iPhone et ne voulait pas que la décision du tribunal gâche cela à l'avenir.
Mais dans ce cas-ci, là où se situe l’escalade et où cela est différent des situations passées, c’est que plutôt que de simplement s’adresser aux tribunaux, l’administration Trump a fait cette désignation de « risque pour la chaîne d’approvisionnement », ce qui est tout simplement insensé. Cette idée selon laquelle cet outil, conçu pour empêcher les acteurs malveillants étrangers potentiels de fournir de la technologie, pourrait ensuite intégrer des outils de surveillance cachés dans une pile technologique plus large, pourrait être interdit. Appliquer cela à une entreprise basée aux États-Unis, essentiellement parce qu’elle a une politique d’éthique, semble être une véritable utilisation abusive de cet outil.
Même cet outil était discutable à certains égards, mais vous pouvez comprendre l’impulsion qui le sous-tend lorsque vous parlez d’une entreprise de réseautage chinoise ou quelque chose du genre. Ici, cela n'a aucun sens. La réaction à cela va donc bien au-delà de ce qui serait normalement observé dans ce cas. Traditionnellement, il y aurait une sorte de procès et chaque partie pourrait l'entamer et il s'agirait simplement d'une bataille sur la manière dont le contrat pourrait être appliqué.
Mais ce n’est pas ce qui se passe ici. Cette administration dit en réalité : « Si vous ne nous donnez pas absolument tout ce que nous voulons, si vous ne configurez pas vos outils pour qu’ils fonctionnent comme nous le souhaitons, alors nous tenterons effectivement de détruire l’ensemble de votre entreprise. » Et c’est une escalade.
Il y a un élément sur lequel je veux terminer, et c’est en quelque sorte la version la plus galactique de tout cela. FIRE, qui est un groupe de défense de la liberté d'expression, a publié un article de blog juste avant le début de l'enregistrement, affirmant que forcer Anthropic à créer des outils qu'il ne veut pas créer est une violation de la liberté d'expression, que c'est ce qu'on appelle la parole forcée. Il y a beaucoup d’histoire ici. Il y a ici une histoire profonde de crise existentielle de Verge et Techdirt, dans les mauvaises herbes.
Mais cela revient essentiellement à l’idée que le code est un discours, qu’écrire du code pour un ordinateur est une forme de discours et que le gouvernement ne peut pas vous forcer à le faire, et tout un tas de choses en découlent. Croyez-vous à cet argument selon lequel forcer Anthropic à créer des outils qu’il ne veut pas créer est un discours forcé ?
Ouais, je pense en fait que c'est assez convaincant. Discours forcé et convaincant. Mais non, je pense que c'est un argument intéressant. C’est un problème qui se trouvait un peu plus loin dans la liste des problèmes auxquels je pensais. J’étais évidemment plus concentré sur les questions du Quatrième Amendement, mais je pense que l’argument FIRE n’est pas faux. Nous l’avons vu dans d’autres contextes. Cela a également été soulevé dans le cadre de la question des portes dérobées, lorsqu'il s'agit d'essayer d'intégrer des portes dérobées dans des systèmes chiffrés.
Les entreprises sont définitivement levées en premierL’amendement affirme : « C’est un discours forcé pour nous forcer à écrire ce genre de code. » C'est un argument valable. Il se peut, encore une fois, que les tribunaux soient probablement moins disposés à s'attaquer au départ s'ils peuvent traiter ces questions d'une autre manière. Mais je suis heureux que FIRE ait publié ce message et je pense que c'est un argument intéressant et convaincant.
Oui, la nature de la deuxième administration Trump est qu’elle est un instrument si brutal qu’il est presque certain que nous allons nous attaquer à tous les problèmes d’un seul coup.
Oui, chaque amendement à la Déclaration des droits doit être contesté sous une forme ou une autre pour tous les problèmes possibles.
[Rires] Faites tourner la roue.
Je suis sûr que nous pouvons insérer une violation du troisième amendement quelque part ici.
Bien sûr, ouais. Claude doit vivre dans ta maison maintenant. Exactement. Ça va être génial. Nous proposons les [amendements] un, trois, quatre et sept. Nous les accumulons.
Mike, ça a été génial. Je ne peux pas croire que vous n’ayez jamais participé à la série auparavant. Cela a été génial. Tu dois revenir bientôt.
Absolument. Quand tu veux de moi.
Des questions ou des commentaires sur cet épisode ? Contactez-nous à decoder@theverge.com. Nous lisons vraiment chaque e-mail !
