Heute sprechen wir über die chaotische, schnelllebige Situation bei Anthropic, dem Hersteller von Claude, der sich derzeit in einem sehr hässlichen Rechtsstreit mit dem Pentagon befindet.
Das Hin und Her ist kompliziert, aber vor ein paar Tagen hatte das Pentagon Anthropic als Lieferkettenrisiko eingestuft, und Anthropic hat eine Klage gegen diese Einstufung eingereicht und behauptet, die Regierung habe ihre Rechte aus dem Ersten und Fünften Verfassungszusatz verletzt, indem sie „versuchte, den wirtschaftlichen Wert zu zerstören, der von einem der am schnellsten wachsenden Privatunternehmen der Welt geschaffen wurde“. Ich kann Ihnen schon jetzt sagen: Wir werden in den kommenden Monaten auf The Verge und hier auf Decoder über die Wendungen dieses Falles sprechen.
Aber heute wollte ich mir einen Moment Zeit nehmen und mich wirklich mit einem sehr wichtigen Element dieser Situation befassen, das nicht genügend Aufmerksamkeit erhalten hat, da die Situation außer Kontrolle geraten ist: Wie die Regierung der Vereinigten Staaten Überwachung durchführt, welche rechtliche Autorität diese Überwachung zulässt und warum Anthropic der Regierung gegenüber misstrauisch war und sagte, sie würde sich an das Gesetz halten, wenn es darum geht, KI für noch mehr Überwachung einzusetzen.
Verge-Abonnenten: Vergessen Sie nicht, dass Sie überall dort, wo Sie Ihre Podcasts beziehen, exklusiven Zugriff auf den werbefreien Decoder erhalten. Gehen Sie hierher. Kein Abonnent? Hier können Sie sich anmelden.
Mein heutiger Gast ist Mike Masnick, der Gründer und CEO von Techdirt, der hervorragenden und langjährigen Website für Technologiepolitik. Mike schreibt seit Jahrzehnten über staatliche Übergriffe, Datenschutz im digitalen Zeitalter und andere verwandte Themen. Er ist ein Experte dafür, wie das Internet und der Überwachungsstaat miteinander verknüpft sind.
Sehen Sie, das Gesetz besagt, was die Regierung tun kann, wenn es darum geht, uns zu überwachen, und dann, was die Regierung tun möchte. Und was am wichtigsten ist, es gibt das, was die Regierung laut Gesetz tun kann, was oft genau das Gegenteil von dem ist, was jeder normale Mensch denken würde, wenn er nur das Gesetz liest.
Sie werden Mike hier in dieser Folge ausführlich erklären hören, dass wir die US-Regierung in Sachen Überwachung nicht beim Wort nehmen können und sollten. Es gibt einfach zu viele Fälle, in denen Regierungsanwälte die Interpretation einfacher Wörter wie „Ziel“ verdrehen, um die Überwachung auf komplizierte Weise auszuweiten – Methoden, die normalerweise nur in juristischen Kreisen Anlass zur Sorge geben und nur dann aufflammen, wenn es zu großen Kontroversen wie den großen NSA-Enthüllungen des Whistleblowers Ed Snowden vor mehr als einem Jahrzehnt kommt.
Aber es gibt nichts Subtiles oder Anspruchsvolles an der Politikgestaltung in der Trump-Ära – und so führen wir mit Anthropic eine sehr laute, sehr öffentliche Debatte über Technologie und Überwachung in Echtzeit, im Internet, in Blogbeiträgen und X-Rants sowie bei Pressekonferenzbeiträgen. Das hat Vor- und Nachteile, aber um das Ganze zu verstehen, muss man die Geschichte wirklich kennen.
Das ist es, was Mike und ich in dieser Folge erklären wollen – was auch immer Ihre Meinung zu KI und Regierung sein mag, diese Folge wird deutlich machen, dass beide Parteien zugelassen haben, dass der Überwachungsstaat mit der Zeit immer größer wird. Jetzt stehen wir an der Schwelle zur bisher größten Expansion, wenn es um KI geht.
Okay: Techdirt-Gründer und CEO Mike Masnick über Anthropic, das Pentagon und KI-Überwachung. Auf geht's.
Dieses Interview wurde aus Gründen der Länge und Klarheit leicht bearbeitet.
Mike Masnick, Sie sind der Gründer und CEO von Techdirt. Willkommen bei Decoder.
Ich bin froh, hier zu sein.
Ich freue mich, Sie dabei zu haben. Ich wollte nur sagen, dass ich schockiert bin, dass du noch nie in der Show warst. Sie und ich schreiben und posten schon seit langer Zeit miteinander. Ein Großteil der Policenabdeckung von The Verge ist auf das zurückzuführen, was Sie bei Techdirt getan haben, und was dann mit Anthropic vor sich geht, ist so kompliziert, deckt aber so viele Themen ab, die Sie schon so lange abgedeckt haben. Ich freue mich, dass du endlich da bist.
Es ist ein kompliziertes Thema, aber ich freue mich darauf, mich damit zu befassen.
Worauf ich mich mit Ihnen konzentrieren möchte, sind nicht die Details, ob Anthropic einen Vertrag mit der Regierung unterzeichnen wird oder ob OpenAI diesen Vertrag erhalten wird. Stattdessen bin ich zuversichtlich, dass es zwischen dem Zeitpunkt, an dem wir dies aufnehmen, und dem Zeitpunkt, an dem die Leute es hören, mehr Tweets gegeben hat und mehr Dinge anders sein werden als zuvor.
Worauf ich mich konzentrieren möchte, ist nur eine der beiden roten Linien, die Anthropic wirklich festgelegt hat. Einer von ihnen istautonome Waffen, was eine eigene Komplikation darstellt. Das dortige Gesetz ist noch in den Kinderschuhen, unabhängig davon, ob die Waffen überhaupt existieren oder bereits von Russland im Ukraine-Krieg eingesetzt wurden.
Es gibt hier viele Ideen, die ich einfach beiseite legen möchte, weil ich denke, dass sie ganz nach ihrem eigenen Zeitplan stärker in den Fokus rücken werden. Die andere rote Linie, der ich viel Zeit widmen möchte, ist die Massenüberwachung. Und es gibt hier eine ganze Reihe von Gesetzen zur Massenüberwachung. Es gibt viel Geschichte, viel kontroverse Geschichte. Der gesamte Charakter von Edward Snowden existiert aufgrund von Kontroversen rund um die Massenüberwachung.
Es kommt alles darauf an – ich glaube, Sie sind derjenige, der das gepostet hat – die National Security Agency (NSA), die Teil des Verteidigungsministeriums ist, das wir jetzt aus irgendeinem Grund Kriegsministerium nennen müssen.
[Lacht] Wir müssen nichts tun.
[Lacht] Das tun wir nicht. Das stimmt hier in Amerika. Wir müssen nichts tun. Aber die NSA hat im Grunde genommen die Bedeutung vieler Wörter aus dem umgangssprachlichen Englisch neu definiert und bedeutet: „Wir können einfach Überwachung durchführen.“ Und dann gibt es hin und wieder einen Skandal, wenn Leute entdecken, dass sie nur überwachen. Bereiten Sie also einfach die Bühne vor, und ich möchte Sie nicht ganz zurückspulen, aber es ist schon eine ganze Weile her, dass sich dieses Muster wiederholt hat.
Es hängt davon ab, wie tief man vordringen möchte, aber die Kurzfassung ist offensichtlich: In der Welt nach dem 11. September haben die USA den Patriot Act verabschiedet, der der Regierung die Möglichkeit gab, Überwachungsmaßnahmen durchzuführen, die uns vor künftigen terroristischen Bedrohungen schützen sollten. Im Laufe der Zeit wurde das auf interessante Weise interpretiert und es gab einige Grenzen. Wir hatten auch das FISA-Gericht, ein Sondergericht, das die Geheimdienste und ihre Aktivitäten überprüfen soll, aber traditionell ein einseitiges Gericht war. Nur eine Seite kann ihren Fall vor diesem Gericht vertreten, und das alles geschieht im Geheimen.
Es gibt eine Menge Dinge, die nicht bekannt waren. Und dann gab es noch einen weiteren Punkt in all dem, der bis zu Ronald Reagan zurückreicht, nämlich die Executive Order 12333, in der es angeblich darum geht, die Verkehrsregeln für die Sammlung nachrichtendienstlicher Informationen festzulegen.
Es gibt also diese drei Gesetzespakete – nun ja, ein paar Gesetzespakete – und eine Durchführungsverordnung, deren Teile, die Sie lesen können, für die Öffentlichkeit bestimmte Dinge darüber auszusagen scheinen, was unsere Regierung und insbesondere die NSA im Hinblick auf die Überwachung tun können. Bei der Lektüre mit einem einfachen englischen Wörterbuch, dessen Natur Sie und ich wahrscheinlich haben und verstehen, würden wir zu dem Schluss kommen, dass die Fähigkeit der NSA, Amerikaner zu überwachen, sehr begrenzt war, und zwar so weit, dass sie, wenn sie merken, dass sie eine US-Person überwacht, sofort anhalten und sich beschimpfen und die Daten und all diesen anderen Kram löschen sollen.
Eine Zeit lang gab es Gerüchte, dass dies nicht wirklich der Fall sei, und es gab Hinweise, und insbesondere Senator Ron Wyden äußerte sich sehr lautstark dazu, vor dem Senat zu sagen: „Hier stimmt etwas nicht, und ich kann Ihnen nicht genau sagen, was“, oder er fragte bei Anhörungen Geheimdienstmitarbeiter: „Sammeln Sie Massendaten über Amerikaner oder sammeln Sie nicht?“
Diese Beamten würden entweder ablenken oder in manchen Fällen völlig lügen. Ich glaube, es war eine Anhörung im Jahr 2012 mit James Clapper, dem damaligen Direktor des National Intelligence, bei der er direkt zu diesem Punkt befragt wurde. Und er sagte im Grunde: „Nein, wir sammeln keine Daten über Amerikaner.“ Das war ein großer Teil dessen, was Ed Snowden dazu inspirierte, die Daten weiterzugeben, die Berichte, die er auch an Glenn Greenwald, Barton Gellman und Laura Poitras weitergab. Aus all dem haben wir herausgefunden, dass die NSA über ein eigenes Wörterbuch verfügt, das sich etwas von dem Wörterbuch unterscheidet, das Sie und ich verwenden, sodass sie Wörter auf eine Weise interpretieren kann, die sich von der einfachen englischen Bedeutung unterscheidet, einschließlich Wörtern wie „Ziel“, das sich wie ein Schlüsselwort anfühlt. Im Großen und Ganzen geht man davon aus, dass sie theoretisch nur auf Menschen abzielen sollen, die keine US-Bürger sind, wie ich denke.
Aber die Art und Weise, wie es im Laufe der Zeit interpretiert wurde, war, dass alles, was diese Person erwähnt, alles, was sich auf eine ausländische Person bezieht, jetzt Freiwild ist, selbst wenn es sich dabei um die Kommunikation einer Person handeltUS-Person. Wenn Sie und ich uns also gegenseitig eine SMS schreiben und dabei eine ausländische Person erwähnen würden, wäre es für die NSA jetzt ein faires Spiel, diese Daten einzusammeln, aufzubewahren und aufzubewahren.
Es gibt noch einen zweiten Teil davon. Ich erwähnte zunächst die Executive Order 12333 von Ronald Reagan, die es der NSA im Zuge der technologischen Veränderung im Laufe der Zeit und der Ausbreitung des Internets faktisch erlaubte, auf ausländische Kommunikation zuzugreifen, aber dazu gehörte auch jede Kommunikation, die die USA irgendwo auf dem Weg dorthin verlassen haben könnte. Wenn ich Ihnen also eine SMS schreibe und eine Nachricht von mir in Kalifornien über ein Glasfaserkabel gesendet wird, das zufällig die USA verlässt, könnte die NSA den Teil abhören, sobald er sich außerhalb der USA befindet, und diese Informationen sammeln, selbst wenn sie nur innerhalb der USA an Sie gesendet werden.
Die NSA könnte diese Informationen dann behalten, selbst wenn sie sich auf US-Personen bezögen, und sie könnte später spezifische Durchsuchungen darüber durchführen, die manchmal als „Hintertürdurchsuchungen“ bezeichnet werden. Sie haben diese Informationen gesammelt, von denen wir glauben, dass sie sie eigentlich gar nicht sammeln sollten, aber sie konnten sie behalten. Und sie versprachen, sie schworen, dass sie es geheim halten würden, aber wenn sie eine Suche durchführten und herausfanden, dass Sie oder ich eine ausländische Person erwähnten, dann war es für sie plötzlich ein faires Spiel, damit zu machen, was sie wollten.
Insgesamt ist daraus eine Welt geworden, in der die Bundesregierung grundsätzlich alle Informationen sammeln kann, die außerhalb der USA in Kontakt kommen. Auch wenn es ausschließlich zwischen zwei US-Bürgern geht: Wenn sie jemanden erwähnen oder auch nur andeuten, der kein US-Bürger ist, ist es plötzlich ein faires Spiel, kassiert zu werden. Und daraus ergibt sich scheinbar eine Form der Massenüberwachung von US-Personen durch eine NSA, die behauptet und öffentlich erklärt, dass sie keine US-Personen ausspioniert.
Wie sind wir an diesen Punkt gekommen? Das sind viele inkrementelle kleine Schritte. Sie haben James Clapper im Jahr 2012 erwähnt, das ist die Obama-Regierung. Sie haben Ronald Reagan erwähnt, das sind die 1980er Jahre. Wir gehen hier durch Demokraten und Republikaner.
Der Krieg gegen den Terror fand unter der Regierung von George W. Bush statt, und der 11. September und der Patriot Act ereigneten sich unter der Regierung von George W. Bush. Unter den Präsidenten beider Parteien und unter den Kongressen beider Parteien gibt es viele zunehmend schlechte Dinge. Wie ist das passiert?
Die einfachste Form davon ist einfach, dass niemand und schon gar kein Präsident in der Zeit eines großen Terroranschlags Präsident sein möchte, weil er dadurch schlecht dasteht. Offensichtlich wollen sie auch die Amerikaner schützen, oder? Das ist Teil ihres Jobs. Wenn Sie eine Geheimdienstgemeinschaft haben, die grundsätzlich im Dunkeln operiert, denn das ist es, was Geheimdienstgemeinschaften tun, und sie kommen immer wieder zu Ihnen und sagen: „Hey, wenn wir nur Zugang zu diesen Informationen bekommen könnten, wäre das wirklich hilfreich bei der Verhinderung eines Terroranschlags.“
Es kann Fälle geben, in denen das zutrifft, dass die Geheimdienste diese Informationen auf eine Art und Weise nutzen können, die gut funktioniert. Aber theoretisch sind wir auch eine Gesellschaft von Gesetzen mit einer US-Verfassung, der wir gehorchen sollen. Aber das berücksichtigte die Tatsache, dass eine Regierung nach der anderen, wiederum Republikaner und Demokraten, Anwälte hatte, die sehr schlau waren und durchschauten und sagten: „Nun, wenn wir auf diese Weise Stellung beziehen oder auf diese Weise sagen oder dies interpretieren, können wir auf diese Weise bekommen, was wir wollen, ohne technisch gesehen gegen das Gesetz zu verstoßen oder nicht technisch gesehen gegen den Vierten Verfassungszusatz zu verstoßen.“
Die Annahme war immer: „Wir können das Gesetz irgendwie verbiegen oder unsere Interpretation des Gesetzes verbiegen, und niemand wird das jemals wirklich sehen, oder niemand, der sich darum kümmert, wird das wirklich jemals sehen, und deshalb kommen wir damit durch.“
Es gibt zwei Dinge, die mir wirklich ins Auge fallen. Erstens lesen Sie und ich beide viele Gerichtsentscheidungen – Berufungsgerichtsentscheidungen und Entscheidungen des Obersten Gerichtshofs. Und in unserem Obersten Gerichtshof gibt es einen Streit darüber, wie die Worte in unseren Statuten und Gesetzen wörtlich zu interpretieren sind.
Ich werde nicht zu weit darauf eingehen, aber ich würde generell sagen, dass die vorherrschende Tendenz bei der Gesetzesauslegung in den Vereinigten Staaten darin besteht, dass man einfach nur die Wörter auf der Seite lesen und tun sollte, was sie sagen. Ob links oder rechts, das sagen beide. Sie streiten über einige sehr esoterische Feinheiten dessen, was das eigentlich bedeutet. Aber dass man diese Worte einfach lesen und tun kann, was sie sagen, das steht nicht zur Debatte, oder?
Wir sind zumindest bei dem ersten Durchgang dessen gelandet, was Sie vielleicht erwarten würdennennen wir Textualismus. Wie schaffen es Anwälte beider Regierungen, sich so weit von der in unserem Land vorherrschenden Art der rechtlichen Entscheidungsfindung zu entfernen? Die Richter beider Parteien sind sich einig, dass dies zumindest der erste Schritt ist.
Ich wünschte, ich wüsste die genaue Antwort, aber ich denke, es ist eine motivierte Argumentation, oder? Als Anwalt sind Sie da, um Ihren Mandanten zu verteidigen, und der Erfolg – wenn man es Erfolg nennen kann – unseres Rechtssystems basiert in der Regel auf einer kontradiktorischen Situation, in der verschiedene Seiten über diese Dinge streiten und in der die Rolle des Schiedsrichters darin besteht, die Sache einzugrenzen und herauszufinden, welche Seite tatsächlich Recht hat.
Eines der Probleme mit der Geheimdienstgemeinschaft und ihrem Aufbau besteht darin, dass es diese kontroverse Situation nicht gibt. Das macht es für eine Seite einfacher, das von ihr vorgebrachte Argument zu rechtfertigen, da niemand wirklich dagegen vorgeht. Dazu kommt die allumfassende Angst vor einem weiteren Terroranschlag, vor allem, was mit der nationalen Sicherheit zu tun hat, und selbst wenn es Situationen gibt, in denen es das FISA-Gericht gibt – ich meine, das FISA-Gericht war viele Jahre lang irgendwie dafür bekannt, ein Stempel zu sein.
Ich habe die genauen Zahlen vergessen, aber etwa 99 Prozent der Anträge, die beim FISA-Gericht eingereicht wurden, um die Überwachung bestimmter Situationen zu ermöglichen, wurden bewilligt, und man kann leicht sagen, dass 99 Prozent offensichtlich zu viel sind. Es ist offensichtlich, dass diejenigen, die Klagen vor Gericht einreichen, eine Auswahl treffen. Sie bringen größtenteils keine völlig verrückten Behauptungen auf. Aber ohne diesen kontroversen Aspekt und mit einer sehr stark motivierten Gruppe von Menschen, die denken: „Wir müssen das tun“ oder denen von einer Regierung gesagt wird: „Wir müssen das tun“, werden sie Wege finden, dies zu tun. Und dort landet man mit der Zeit.
War jemals jemand an diesem Prozess beteiligt, der jemals aufgewacht ist und sich gesagt hat: „Junge, wir haben es geschafft, das Wort ‚Ziel‘ so umzudefinieren, dass es alles bedeutet, was wir wollen“?
[Lacht] Offensichtlich hatten Sie Ed Snowden, der eine Menge Dokumente durchsickern ließ. Sie hatten John Napier Tye, der 2014 einen Artikel für die Washington Post schrieb, in dem er die Interpretation der Executive Order 12333 enthüllte und sagte, dass dies das eigentliche Problem sei, dem man Aufmerksamkeit schenken müsse. Es gibt andere Leute, die sich zu diesen Dingen geäußert haben, aber die meisten Leute, die innerhalb der Regierung an Angelegenheiten der Geheimdienste arbeiten, sind von der Sichtweise der Geheimdienste überzeugt, dass das vorrangige Ziel darin besteht, das Land vor etwas Schlechtem zu schützen. Der beste Weg, dies zu erreichen, besteht darin, so viele Informationen wie möglich zu haben.
Es ist leicht, mit dem Argument einverstanden zu sein, dass, ja, mehr Informationen es ihnen ermöglichen, etwas früher zu erkennen oder etwas Wichtiges zu finden, aber erstens ist das vielleicht nicht wahr. Zu viele Informationen zu erhalten ist wahrscheinlich genauso schädlich wie zu wenig Informationen, da dadurch oft die tatsächlich nützlichen Informationen verborgen bleiben, die Informationen, die Sie tatsächlich benötigen, um etwas zu bestimmen.
Aber wir haben auch eine US-amerikanische An erster Stelle steht die Verfassung, und wir haben Gründe, warum wir theoretisch Massenüberwachung ohne triftigen Grund nicht zulassen sollten. Als ein Land, das an die Rechtsstaatlichkeit glaubt, sollten wir in der Lage sein, diesem gerecht zu werden, und wenn all diese Dinge im Dunkeln passieren, verliert man das oft aus den Augen.
Das bringt mich zu Anthropic. Anthropic ist in erster Linie ein Unternehmen. Sie sind gut in der Regierung, sie haben diese Muskeln aufgebaut, sie sind mit Leuten besetzt, die sich in einigen dieser Dinge wirklich gut auskennen. Offensichtlich blickten sie Pete Hegseth an und sagten: „Wir wollen alle rechtmäßigen Verwendungszwecke“, und dann gingen sie zwei Interpretationsebenen tiefer und sagten: „Nun, Sie glauben im wahrsten Sinne des Wortes, dass diese Worte nicht das bedeuten, was sie auf den ersten Blick bedeuten. Daher ist ‚alle rechtmäßigen Verwendungszwecke‘ zu groß, und wir möchten insbesondere im Bereich der Massenüberwachung einige Schutzmaßnahmen ergreifen.“
Auch hier werde ich autonome Waffen ausklammern, was die andere rote Linie war, aber insbesondere im Bereich der Massenüberwachung sagt Dario Amodei: „Wir können zu viel tun. Das ist zu gefährlich. Das ist ein Verstoß gegen den vierten Verfassungszusatz.“
Die Spannung dort ist: „Sie sagen, Sie werden sich an diese Gesetze halten, die eine Sache sagen, und jetzt, nach all der Zeit, bedeuten sie etwas völlig anderes, und wir wollen einfach kein Teil davon sein.“ Das ist daskämpfen. Ich möchte das nur mit Sam Altman vergleichen, der hereinbricht und sagt: „Wir werden alle rechtmäßigen Verwendungen vornehmen“, und dann diese lange Botschaft postet, in der es heißt: „Hier sind alle Gesetze, die wir einhalten werden.“
Es scheint, als wüsste Altman nicht, wie die NSA diese Dinge uminterpretiert hatte, und ließ sich irgendwie auf die Schippe nehmen. Und seitdem hat er damit begonnen, es zurückzunehmen – ich bin zuversichtlich, dass es während der Aufzeichnung noch mehr Tweets gibt und sich die Positionen aller geändert haben. Aber Altman hat es langsam zurückgenommen, aber es scheint, als ob OpenAI dazu gezwungen wurde, die Statuten auf ihrem Gesicht zu lesen und zu glauben, was sie sagten. Ist das auch Ihre Interpretation der Ereignisse?
Es gibt zwei Möglichkeiten, und das ist eine davon. Einer davon ist, dass er auf die gleiche Weise gespielt wurde, wie das Publikum viele Jahre lang gespielt wurde. Die alternative Theorie, und ich habe keine Ahnung, welche davon wahr ist, besagt, dass er oder einige der Anwälte bei OpenAI – die meiner Meinung nach sehr kompetent und sehr sachkundig sind – das wussten, aber dachten, sie könnten das gleiche Spiel spielen, das die NSA ein paar Jahrzehnte lang gespielt hat, nämlich dass sie, solange sie diese Dinge sagen und dann die Worte sagen, aber die tatsächlichen Interpretationen nicht preisgeben, auch damit durchkommen könnten. Also kommt Sam mit der Aussage heraus, dass es so aussieht: „Wir hatten genau die gleichen roten Linien wie Anthropic, und die Regierung war damit großartig.“
Tatsächlich glaube ich, dass Sam Altman gesagt hat, dass Anthropic zwei rote Linien hatte und OpenAI drei, und die Regierung war damit völlig einverstanden, und das hat bei vielen Leuten irgendwie zu Kopfschütteln geführt. Aber ich denke, es muss entweder so sein, dass Sam Altman und wer auch immer ihn umgab, nicht verstanden hat, wie diese Dinge in der Praxis funktionieren, oder sie haben es verstanden und sind einfach davon ausgegangen, dass die Öffentlichkeit es nicht wissen würde und sie deshalb ungestraft davonkommen könnten.
Das andere, was mir in den Sinn kommt: Auch hier ist KI neu und es ist so verlockend, sich mit neuen Technologien auseinanderzusetzen, da es sich hierbei um Probleme des ersten Eindrucks handelt. „Niemand musste jemals darüber nachdenken“, aber die Realität ist, dass jeder schon seit langem darüber nachdenkt. Vielleicht ist die Sache, die hier neu ist, nicht die KI, sondern dass die zweite Trump-Administration einfach nicht so subtil ist, anstatt eine Menge Anwaltskanzleien zu betreiben, die vielleicht niemand jemals lesen wird, um ihre Handlungen vor einem geheimen Gericht zu rechtfertigen, auf das niemand achtet.
Sie sind nicht so raffiniert und sagen nur, dass sie ständig jeden ausspionieren werden. Sie haben ihre Absichten einfach so bekannt gegeben, dass vielleicht alle Regierungen einfach ihre Absichten bekannt geben und abwarten sollten, wo die Dinge fallen.
Aber ich schaue mir die Tatsache an, dass es Ed Snowden hier in New York City gab. AT&T betreibt ein Gebäude, von dem jeder weiß, dass es sich um ein NSA-Gebäude handelt. Es ist nur ein riesiges Gebäude, und wir sollen so tun, als wäre es kein NSA-Überwachungszentrum, aber es steht genau dort. Es ist riesig. Nichts davon scheint zu irgendetwas geführt zu haben. Wir haben all diese Enthüllungen, diese Leaks nicht zurückgedrängt.
Tatsächlich hat sie nur zugenommen, da ein großer Teil unseres Lebens immer digitaler geworden ist. Und vielleicht ist die Trump-Administration, die zu jeder Zeit ein so stumpfes Instrument ist, tatsächlich der Grund für die Abrechnung. Sehen Sie, dass sich das überhaupt abspielt?
Da gibt es ein paar unterschiedliche Dinge, und es stimmt nicht ganz, dass wir überhaupt keinen Rückzieher gemacht haben. Die Enthüllungen von Snowden führten tatsächlich zu einigen Veränderungen in der Art und Weise, wie diese Dinge geschehen. Und jetzt gibt es sie – ich weiß nicht mehr, wie sie heißen, aber sie sind wie diese zivilen Amicus-Leute innerhalb des FISA-Gerichts, die in bestimmten Fragen als Vertreter der anderen Seite fungieren.
Und wir haben gesehen, dass einige der Behörden in gewisser Weise eingeschränkt wurden und von Zeit zu Zeit eine erneute Genehmigung beantragten, und Aktivisten waren sehr aggressiv, indem sie dagegen vorgingen und versuchten, noch mehr Leitplanken zu errichten. Aber zu der größeren Frage gibt es meiner Meinung nach zwei verschiedene Dinge. Sie haben halb recht, wenn Sie sagen, dass diese Regierung nicht subtil ist und nur die Dinge laut ausspricht, die sie nicht sagen sollte.
„Wir führen Krieg mit dem Iran, wir führen ihn, er geschieht. Wir werden den Tanz nicht einmal ausprobieren.“
Auf eine Weise, die alle früheren Regierungen nicht getan hätten. Aber das haben sie nicht wirklich direkt gesagtÜberwachung, insbesondere Überwachung von Amerikanern. Es gab Hinweise darauf, aber sie äußerten sich nicht so deutlich dazu. Die andere Hälfte hat mehr mit der Positionierung von Anthropic und der allgemeinen Sichtweise von KI als dieser möglicherweise existenziellen Technologie zu tun, wobei Anthropic sich immer als „Wir sind die nachdenklichen Guten“ präsentiert hat und ob Sie das glauben oder nicht, ist irgendwie nebensächlich. Sie haben da draußen diesen Ruf: „Wir versuchen, dies auf eine Weise zu tun, die sicher ist, die Menschlichkeit respektiert und auf all diese Dinge achtet.“ Wenn es also zu diesem Zusammenstoß kommt, kommt der Kampf ins Spiel.
Sie haben eine Trump-Administration, die einfach tun und lassen will, was sie will, und sie geht dabei nicht subtil vor. Und dann haben Sie Anthropic, dessen Selbstbeschreibung und öffentliches Auftreten immer so lauten: „Wir sind rücksichtsvoll und respektieren Menschlichkeit, Rechte und all diese Dinge.“ Hier kam es wahrscheinlich zum Konflikt, denn Anthropic hat, wie deutlich wurde, schon seit einiger Zeit mit dem Verteidigungsministerium zusammengearbeitet und viele andere Verträge mit der Regierung abgeschlossen, die es in Anspruch genommen hat. Es war kein Problem.
Nur in diesen spezifischen Bereichen, in denen die Regierung versuchte, ihren bestehenden Vertrag zu erweitern, begann die Führungsspitze von Anthropic zu sagen: „Warten Sie, wir müssen sicherstellen, dass wir diese roten Linien nicht überschreiten, die unserem Ruf als umsichtiger und sicherer KI-Anbieter möglicherweise schaden würden.“
Ich möchte Sie kurz zur Überwachung im Allgemeinen und insbesondere zu Anthropics Bedenken hinsichtlich des vierten Verfassungszusatzes befragen. Der vierte Verfassungszusatz besagt, dass die Regierung Sie nicht unangemessen durchsuchen kann. Der beste Weg, den Vierten Verfassungszusatz zu verstehen, ist, sich „99 Problems“ von Jay-Z anzuhören. Wenn Sie also eine Pause brauchen und sich „99 Problems“ anhören möchten, ist das großartig. Es ist alles drin. Ich habe es mir während meines Jurastudiums angehört und es ergab vollkommen Sinn.
Aber die Regierung benötigt im Allgemeinen einen Durchsuchungsbefehl. Und da ein immer größerer Teil Ihres Lebens online stattfindet, gibt es hiervon viele, viele Ausnahmen. Aber die Idee ist, dass sie immer noch einen Haftbefehl online benötigen sollten. Anthropics Argument lautet: „Nun, die KI wird nie müde. Sie kann ständig alles durchsuchen. Das bedeutet, dass wir einfach die Überwachung beherrschen.“
Doch schon bevor KI auftauchte, gab es die Idee, dass die Regierung alles durchsuchen könnte, was Ihnen gehörte, und dass die Regierung keinen Durchsuchungsbefehl brauchte, um alle Ihre Sachen zu durchsuchen. Die Idee, dass die Regierung Ihre Daten dort abfängt, wenn sie jemals für eine kurze Sekunde das Land verlassen,
Als ich auf dem College war, etwa zur Zeit des Patriot Act, gab es eine Debatte darüber, dass sie nicht Ihre tatsächlichen Daten durchsuchen würden, sondern dass sie die Metadaten und nur die Metadaten erhalten könnten. Die Daten über Ihre Daten reichen aus, um Sie jederzeit genau lokalisieren zu können. Und selbst das ist zu weit. Und wir haben diesen Tanz darüber geführt, was die Regierung einsammeln kann? Was ist zulässig? Was brauchen sie, um uns alle zu schützen, und was ist zu weit entfernt? Diese Zeilen haben sich verschoben.
Beschreiben Sie also kurz die allgemeine Besorgnis über die Überwachung in diesem Ausmaß und wo wir uns jetzt befinden. Bevor die KI-Situation alles exponentiell komplizierter machte.
Hier muss ich ein weiteres Konzept vorstellen, das wahrscheinlich früher hätte erwähnt werden sollen, aber wichtig ist, nämlich die „Doktrin der dritten Partei“. Der Grundgedanke des Vierten Verfassungszusatzes besteht darin, dass die Regierung Sie oder Ihre Sachen nicht ohne Durchsuchungsbefehl durchsuchen und keinen Durchsuchungsbefehl erhalten kann, ohne dass ein begründeter Verdacht besteht, dass Sie eine Straftat begangen haben. Aber es gibt dieses vor Jahrzehnten entstandene Konzept namens Third-Party-Doktrin, das besagt, dass dies nicht unbedingt oder überhaupt nicht auf Dinge zutrifft, die nicht Ihnen gehören, selbst wenn es Ihre Daten sind.
Die früheste und offensichtlichste Version davon waren Telefonaufzeichnungen der Telefongesellschaft darüber, wen Sie angerufen haben. Die Telefongesellschaften zeichneten Ihre Anrufe nicht auf, aber sie zeichneten auf, wenn ich Sie anrief. Bei der Telefongesellschaft gab es eine Aufzeichnung mit der Aufschrift „Mike ruft Nilay an.“ Und was mehrere Gerichte entschieden hatten, war, dass die Regierung gehen und dies beantragen kann, und sie braucht dafür keinen Durchsuchungsbefehl, weil es sich nicht um eine Durchsuchung handeltIhre Daten, es ist dieser Dritte und er kann als Dritter zustimmen, diese Daten einfach weiterzugeben.
Aber das waren Fälle aus den 1960er und 70er Jahren, in denen festgestellt wurde, dass die Regierung ohne Durchsuchungsbefehl darauf zugreifen kann, als es noch nicht so viele Daten Dritter gab. Der Aufstieg der Computer und des Internets hat das geändert. Jetzt handelt es sich bei allen Daten um Daten von Drittanbietern. Alles, was wir tun, wird irgendwo von einer Firma gesammelt und dokumentiert. Im Grunde genommen werden alle Daten über Sie, wo Sie sich befinden, mit wem Sie sprechen, mit wem Sie interagieren, was Sie sagen, was Sie tun, heutzutage praktisch von Dritten gespeichert. Die Doktrin der dritten Partei hat also in gewisser Weise den gesamten Vierten Verfassungszusatz verschluckt, bei dem alles, was jemand anderes über Sie hat, ein viel niedrigerer Standard dafür ist, was die Regierung tun kann, um es anzufordern.
Genauer gesagt bedeutet das: Wenn meine Daten in iCloud sind, kann die Regierung zu Apple gehen und meine Daten aus iCloud holen, ohne es mir jemals zu sagen?
Sie können es beantragen. Sie können es problemlos ohne Haftbefehl beantragen. Dann hat das Unternehmen seine eigenen Rechte und kann bestimmen, was es mit dieser Anfrage machen möchte. Sie können es einfach aufgeben. Sie können, wie die meisten von ihnen es tun, wenn es sich um eine ernsthafte Anfrage handelt, Anfragen sofort ablehnen oder sie können Sie benachrichtigen und sagen – und das werden die meisten von ihnen tun – sie werden Sie benachrichtigen und sagen: „Die Regierung fordert einige Ihrer Daten an. Sie können vor Gericht gehen und versuchen, sie zu blockieren.“ Wenn nicht, werden Ihre Daten innerhalb von sieben Tagen oder wie auch immer herausgegeben.
Auch hier kommt es darauf an. Wenn es sich um eine strafrechtliche Untersuchung handelt, liegt möglicherweise eine Art Schweigebefehl vor, bei dem das Unternehmen Ihnen nichts sagen darf. Es gibt alle möglichen Situationen, aber die meisten von ihnen umfassen weniger als das Schutzniveau, das der Vierte Verfassungszusatz erfordern würde, wenn es sich um Daten, Informationen oder irgendetwas in Ihrem eigenen Zuhause handelt.
Die Datenmenge, die Sie auf dem Cloud-Server einer anderen Person haben, ist riesig, oder? Alles, was Sie heutzutage im Allgemeinen im Internet tun, wird auf die eine oder andere Weise auf den Servern anderer Personen gesichert oder aufgezeichnet. Die Regierung hat diesen Weg gefunden, um den vierten Verfassungszusatz zu umgehen und zu sagen: „Nun, das gehört eigentlich nicht Ihnen. Es gehört Amazon. Wir können mit Amazon reden“, und Amazon muss mitten in diesem Prozess stehen und sagen: „Wir haben einen anderen Prozess erfunden, um die Menschen einigermaßen zu schützen.“
Ich schaue mir das an – und als ich über die ersten Doktrinen Dritter berichtete, die die Cloud-Dienste betrafen und die Regierung weiterhin gewann, war das im Grunde der Zeitpunkt, an dem ich mich in den Joker verwandelte. Ich meinte: „All diese Dinge, die wir über Textualismus und das einfache [Lesen] vorgeben, haben nichts zu bedeuten, weil wir einfach nur Pferdestärken in die Hintertür stecken, indem wir dieses alte Gesetz in die Daten aller einbauen.“
Und dann schaue ich mir das an und ich schaue mir Anthropic an und sage: „Nun, das ist das gleiche Muster.“ Dies ist ein privates Unternehmen, das sagt: „Okay, wir verstehen Ihre Position. Wir verstehen, dass Sie das Gesetz so uminterpretiert haben, dass es diese Sache bedeutet, und wir werden einen Prozess zwischen Ihnen, unserem Tool und den Daten von Amerikanern, die über unseren Dienst fließen, einbauen.“ Ich frage mich nur, ob Sie dort eine Parallele zwischen Anthropic und Amazon und Azure und allen anderen Cloud-Diensten sehen, die so viele unserer Daten speichern.
Ja, obwohl es hier ein paar wichtige Klarstellungen gibt, die das Ganze ein wenig anders machen. Und tatsächlich – ich glaube, die New York Times hatte diese Berichterstattung zuerst – war die Hauptklausel, die für Anthropic am wichtigsten war, speziell die von kommerziellen Diensten gesammelten Daten und die Möglichkeit, Claude nicht für diese Daten zu verwenden, was genau dieses Problem im Hinblick auf Daten Dritter darstellt. Aber ich möchte den Hauptunterschied zwischen dem, worüber wir gerade gesprochen haben, und Amazon oder anderen Drittanbietern, die Ihre Daten hosten, klarstellen. Das waren Fälle, in denen sie Ihre Daten aufgrund ihrer Position im Ökosystem direkt hosteten.
Bei Claude ist es nicht so, dass irgendjemand befürchtet, dass die NSA Ihre Claude-Nutzung durchsieht. Es geht darum, dass sie rausgehen und Daten von Drittanbietern von Amazon oder, was wahrscheinlicher ist, von einer Art hinterhältiger, versteckter Datenbroker erhalten, die Werbung auf Ihren Telefonen schalten und Ihren Standort, Ihre Interessen und ähnliches kennen. Und das dann in ein System einspeisenan dem Claude dann arbeiten würde. Daran wollte Anthropic wirklich nicht teilhaben. Wo auch immer und wie auch immer die Regierung diese Daten von Dritten sammeln würde, sagte Anthropic: „Wir wollen nicht, dass unser Tool für diese Daten verwendet wird.“
Apple stellt sich bekanntermaßen dem FBI mit der Aufforderung, eine Hintertür in das iPhone einzubauen, und Apple sagt „Nein“, und sie stellen sich Trump. Und es gibt einen Teil der Funktionsweise unseres Systems, in dem große Privatunternehmen im Namen ihrer Kunden „Nein“ zur Regierung sagen können. Und das fühlte sich genauso an, als würde Apple wiederum keine Hintertür in das iPhone einbauen oder die großen Cloud-Anbieter sagen: „Es gibt einen kleinen Prozess, den man durchlaufen muss, bevor man die einzelnen Daten erhält.“
Hier scheint Anthropic zu sagen: „Wir werden nicht einfach eine Massenanalyse der Daten durchführen, die Sie von anderen Parteien erhalten haben, denn das führt zu einer Massenüberwachung der Amerikaner rund um die Uhr, und das wollen wir nicht.“ Doch das scheint für diese Regierung eine zu weitreichende Brücke zu sein. Gibt es da eine Rückkehr?
Wir werden sehen. Wenn das in der Vergangenheit passiert ist – und das ist bei den meisten großen Technologieunternehmen oft passiert, haben sie irgendwann gesagt, dass etwas zu weit geht – dann geht das normalerweise vor Gericht. Die Unternehmen werden vor Gericht gehen oder die Verwaltung wird vor Gericht gehen und es wird eine Art Gerichtsstreit geben.
Die Hintertür zum iPhone ist ein perfektes Beispiel dafür. Es ging vor Gericht, und sie kämpften dagegen, kamen jedoch nie zu einem endgültigen Ergebnis, da das FBI schließlich einfach manuell in das iPhone eindrang und dann nicht wollte, dass das Gerichtsurteil dies in Zukunft ruiniert.
Aber in diesem Fall liegt die Eskalation und der Unterschied zu früheren Situationen darin, dass die Trump-Regierung nicht nur vor Gericht ging, sondern diese Bezeichnung als „Lieferkettenrisiko“ bezeichnete, was einfach verrückt ist. Die Idee, dass dieses Tool dazu gedacht ist, potenzielle ausländische böswillige Akteure daran zu hindern, Technologie bereitzustellen, die dann versteckte Überwachungstools in den größeren Technologie-Stack integrieren könnte, dass diese verboten werden könnten. Das auf ein in den USA ansässiges Unternehmen zu übertragen, das im Grunde genommen eine Ethikrichtlinie hat, fühlt sich wie ein echter, echter Missbrauch dieses Instruments an.
Sogar dieses Tool war in gewisser Weise fragwürdig, aber man konnte den Impuls dahinter verstehen, wenn man über ein chinesisches Netzwerkunternehmen oder etwas in dieser Richtung sprach. Hier macht es keinen Sinn. Die Reaktion darauf geht also weit über das hinaus, was normalerweise in diesem Fall zu sehen wäre. Man könnte sich vorstellen, dass es traditionell zu einer Art Gerichtsverfahren kommen würde, bei dem jede Seite damit beginnen könnte und es nur zu einem Streit darüber kommt, wie der Vertrag angewendet werden könnte.
Aber das ist hier nicht der Fall. Diese Regierung sagt im Grunde: „Wenn Sie uns nicht absolut alles geben, was wir wollen, wenn Sie Ihre Tools nicht so einrichten, dass sie so funktionieren, wie wir es wollen, dann werden wir effektiv versuchen, Ihr gesamtes Unternehmen zu zerstören.“ Und das ist eine Eskalation.
Es gibt einen Teil davon, mit dem ich abschließen möchte, und es ist sozusagen die galaxienreichste Version davon. FIRE, eine Interessengruppe für freie Meinungsäußerung, veröffentlichte kurz vor Beginn der Aufnahme einen Blog-Beitrag, in dem sie argumentierte, dass es eine Verletzung der freien Meinungsäußerung sei, Anthropic zu zwingen, Tools zu entwickeln, die es nicht entwickeln wolle, und dass es sich dabei um etwas handele, das „erzwungene Meinungsäußerung“ genannt werde. Hier gibt es viel Geschichte. Hier gibt es eine tiefgründige Verge- und Techdirt-Geschichte, eine tiefgründige, existentielle Krisengeschichte.
Aber im Grunde läuft es auf die Idee hinaus, dass Code Sprache ist, dass das Schreiben von Code für einen Computer eine Form der Sprache ist und die Regierung Sie nicht dazu zwingen kann, und daraus ergibt sich eine ganze Reihe von Dingen. Glauben Sie dem Argument, dass es eine erzwungene Rede ist, Anthropic zu zwingen, Werkzeuge zu entwickeln, die es nicht entwickeln will?
Ja, ich finde es tatsächlich ziemlich überzeugend. Überzeugende, eindringliche Rede. Aber nein, ich denke, es ist ein interessantes Argument. Es ist eines, das etwas weiter unten auf der Liste der Themen stand, über die ich nachgedacht habe. Ich habe mich offensichtlich mehr auf die Fragen des vierten Verfassungszusatzes konzentriert, aber ich denke, das FIRE-Argument ist nicht falsch. Wir haben dies in anderen Zusammenhängen gesehen. Es kam auch beim Thema Hintertüren zur Sprache, nämlich beim Versuch, Hintertüren in verschlüsselte Systeme einzubauen.
Die Unternehmen haben definitiv zuerst angehobenDer Verfassungszusatz behauptet: „Es ist eine erzwungene Rede, die uns dazu zwingt, diese Art von Code zu schreiben.“ Es ist ein gültiges Argument. Auch hier könnte es sich um eine Angelegenheit handeln, mit der sich Gerichte zunächst wahrscheinlich weniger auseinandersetzen würden, wenn sie diese Probleme auf andere Weise lösen könnten. Aber ich bin froh, dass FIRE diesen Beitrag verfasst hat, und ich denke, es ist ein interessantes und überzeugendes Argument.
Ja, es liegt einfach in der Natur der zweiten Trump-Regierung, dass sie ein so stumpfes Instrument ist, dass wir mit ziemlicher Sicherheit alle Probleme auf einmal angehen werden.
Ja, jede Änderung der Bill of Rights muss in irgendeiner Form mit jedem möglichen Problem angefochten werden.
[Lacht] Drehen Sie das Rad.
Ich bin mir sicher, dass wir hier irgendwo einen Verstoß gegen den dritten Verfassungszusatz unterbringen können.
Klar, ja. Claude muss jetzt in deinem Haus wohnen. Genau. Es wird großartig. Wir machen [Änderungsanträge] eins, drei, vier und sieben. Wir machen sie fertig.
Mike, das war großartig. Ich kann nicht glauben, dass Sie noch nie in der Show waren. Das war großartig. Du musst bald zurückkommen.
Absolut. Wann immer du mich willst.
Fragen oder Kommentare zu dieser Episode? Kontaktieren Sie uns unter decoder@theverge.com. Wir lesen wirklich jede E-Mail!
