Vandaag hebben we het over de rommelige, snel evoluerende situatie bij Anthropic, de maker van Claude, die zich nu in een zeer lelijke juridische strijd met het Pentagon bevindt.
Het heen en weer gaan is ingewikkeld, maar een paar dagen geleden beschouwde het Pentagon Anthropic als een risico voor de toeleveringsketen, en Anthropic heeft een rechtszaak aangespannen om die benaming aan te vechten, waarbij hij stelt dat de regering haar rechten op het Eerste en Vijfde Amendement heeft geschonden door “te proberen de economische waarde te vernietigen die is gecreëerd door een van de snelst groeiende particuliere bedrijven ter wereld.” Ik kan je nu meteen vertellen: we gaan het de komende maanden hebben over de wendingen van die zaak op The Verge en hier op Decoder.
Maar vandaag wilde ik even de tijd nemen om dieper in te gaan op een heel belangrijk element van deze situatie dat niet genoeg aandacht heeft gekregen, omdat dit uit de hand is gelopen: hoe de Amerikaanse overheid toezicht houdt, de wettelijke autoriteit die toestaat dat dat toezicht plaatsvindt, en waarom Anthropic de regering wantrouwde en zei dat ze de wet zou volgen als het gaat om het gebruik van AI om nog meer toezicht te houden.
Verge-abonnees, vergeet niet dat u exclusieve toegang krijgt tot de advertentievrije decoder, waar u uw podcasts ook ontvangt. Ga hierheen. Geen abonnee? U kunt zich hier aanmelden.
Mijn gast vandaag is Mike Masnick, de oprichter en CEO van Techdirt, de uitstekende en langlopende website over technologiebeleid. Mike schrijft al tientallen jaren over het bereik van de overheid, privacy in het digitale tijdperk en andere gerelateerde onderwerpen. Hij is een expert op het gebied van de manier waarop het internet en de surveillancestaat op onderling verbonden manieren zijn opgegroeid.
Zie je, er is wat de wet zegt dat de overheid kan doen als het gaat om het in de gaten houden van ons, en dan wat de overheid wil doen. En het allerbelangrijkste: er is wat de overheid zegt dat de wet zegt te kunnen doen, wat vaak precies het tegenovergestelde is van wat ieder normaal persoon die alleen maar de wet leest, zou denken.
Je zult Mike hier in deze aflevering tot in detail horen uitleggen dat we de Amerikaanse regering niet op haar woord kunnen – en mogen – geloven als het gaat om surveillance. Er is gewoon te veel geschiedenis van overheidsjuristen die de interpretaties van eenvoudige woorden als ‘doel’ hebben verdraaid om het toezicht op ingewikkelde manieren uit te breiden – manieren die doorgaans alleen maar zorgen baren in juridische kringen, en alleen opborrelen als er enorme controverses zijn, zoals de grote NSA-onthullingen van klokkenluider Ed Snowden meer dan tien jaar geleden.
Maar er is niets subtiels of verfijnds aan de beleidsvorming in het Trump-tijdperk – en dus voeren we met Anthropic een heel luid, heel publiek debat over technologie en surveillance in realtime, op internet, in blogposts en X-tirades, en tijdens soundbites op persconferenties. Daar zitten positieve en negatieve kanten aan, maar om het allemaal te kunnen begrijpen, moet je echt de geschiedenis kennen.
Dat is wat Mike en ik in deze aflevering wilden uitleggen: wat je mening ook is over AI en de overheid, deze aflevering zal duidelijk maken dat beide partijen de toezichtstaat in de loop van de tijd steeds groter hebben laten worden. Nu staan we aan de vooravond van de grootste uitbreiding tot nu toe als het gaat om AI.
Oké: Techdirt-oprichter en CEO Mike Masnick over Anthropic, het Pentagon en AI-surveillance. Daar gaan we.
Dit interview is licht bewerkt voor lengte en duidelijkheid.
Mike Masnick, jij bent de oprichter en CEO van Techdirt. Welkom bij Decoder.
Ik ben blij om hier te zijn.
Ik ben blij dat je erbij bent. Ik zei alleen dat ik geschokt ben dat je nog nooit eerder in de show bent geweest. Jij en ik schrijven en posten al heel lang om elkaar heen. Veel van de polisdekking van The Verge is te danken aan wat je bij Techdirt hebt gedaan en wat er met Anthropic aan de hand is, is zo ingewikkeld, maar raakt zoveel thema's die je al zo lang hebt behandeld. Ik ben blij dat je er eindelijk bent.
Het is een ingewikkelde puinhoop van een onderwerp, maar ik heb er zin in om me erin te verdiepen.
Waar ik me met u op wil concentreren, zijn niet de details of Anthropic een contract met de overheid gaat ondertekenen of dat OpenAI dat contract gaat krijgen. In plaats daarvan heb ik er vertrouwen in dat er tussen de tijd dat we dit opnemen en de tijd dat mensen ernaar luisteren, er meer tweets zullen zijn geweest en dat er meer dingen anders zullen zijn dan voorheen.
Waar ik me op wil concentreren is slechts een van de twee rode lijnen die Anthropic echt heeft uitgezet. Eén ervan isautonome wapens, wat op zichzelf al een complicatie is. De wet daar is een beetje in opkomst, ongeacht of de wapens überhaupt bestaan of al door Rusland zijn ingezet in de oorlog in Oekraïne.
Er zijn hier veel ideeën die ik gewoon opzij wil zetten, omdat ik denk dat dit allemaal volgens zijn eigen schema meer aandacht zal krijgen. De andere rode lijn waar ik veel tijd aan wil besteden is massasurveillance. En er is hier behoorlijk wat wet over massasurveillance. Er is veel geschiedenis, veel controversiële geschiedenis. Het hele karakter van Edward Snowden bestaat vanwege controverses rond massasurveillance.
Het komt allemaal neer op – ik denk dat jij degene bent die dit heeft gepost – de National Security Agency (NSA), die deel uitmaakt van het Ministerie van Defensie, dat we nu om de een of andere reden het Ministerie van Oorlog moeten noemen.
[Lacht] We hoeven niets te doen.
[Lacht] Wij niet. Dat geldt hier in Amerika. Wij hoeven niets te doen. Maar de NSA heeft feitelijk opnieuw gedefinieerd wat veel woorden in het gewone Engels betekenen: ‘We kunnen gewoon toezicht houden.’ En af en toe ontstaat er een schandaal als mensen ontdekken dat ze alleen maar aan surveillance doen. Zet daar dus gewoon het podium neer, en ik wil je niet helemaal terugspoelen, maar het is een hele tijd geleden dat dit patroon zich heeft herhaald.
Het hangt ervan af hoe diep je wilt gaan, maar de korte versie gaat duidelijk over de wereld van na 11 september: de VS hebben de Patriot Act aangenomen, die de regering enige mogelijkheid gaf om toezicht te houden, wat bedoeld was om ons te beschermen tegen toekomstige terroristische dreigingen. In de loop van de tijd werd dat op interessante manieren geïnterpreteerd en daar waren enkele beperkingen aan. We hadden ook de FISA-rechtbank, een speciale rechtbank die geacht wordt de inlichtingengemeenschap en hun activiteiten te beoordelen, maar die van oudsher een eenzijdige rechtbank is geweest. Slechts één partij mag hun zaak bij die rechtbank bepleiten en dat gebeurt allemaal in het geheim.
Er zijn veel dingen die niet bekend waren. En dan was er nog een ander stuk in dit alles, dat helemaal teruggaat tot Ronald Reagan, namelijk Executive Order 12333, dat zogenaamd gaat over het vaststellen van de verkeersregels voor het verzamelen van inlichtingen.
Je hebt dus deze drie sets wetten – nou ja, een paar sets wetten – en een uitvoerend bevel waarvan de delen die je kunt lezen voor het publiek bepaalde dingen lijken te zeggen over wat onze regering en de NSA in het bijzonder kunnen doen op het gebied van toezicht. Wanneer we dit lezen met een eenvoudig Engels woordenboek, waarvan u en ik de aard waarschijnlijk hebben en begrijpen, zouden we tot de overtuiging komen dat het vermogen van de NSA om Amerikanen in de gaten te houden zeer beperkt was, in feite tot het punt waarop ze dat zouden moeten doen, als ze zich realiseren dat ze een Amerikaans persoon in de gaten houden, dat ze onmiddellijk moeten stoppen en kwaad moeten schreeuwen en de gegevens en al die andere dingen moeten wissen.
Er gingen al een tijdje geruchten dat dat niet echt gebeurde en er waren hints, en vooral senator Ron Wyden was zeer uitgesproken over het betreden van de Senaat en zei: “Er klopt hier iets niet en ik kan je niet helemaal vertellen wat”, of tijdens hoorzittingen vroeg hij aan inlichtingenfunctionarissen: “Verzamelt u wel of niet massale gegevens over Amerikanen?”
Die functionarissen zouden zich afwenden of in sommige gevallen ronduit liegen. Ik meen dat het een hoorzitting in 2012 was met James Clapper, destijds directeur van de Nationale Inlichtingendienst, waar hem rechtstreeks naar dit punt werd gevraagd. En hij zei eigenlijk: “Nee, we verzamelen geen gegevens over Amerikanen.” Dat was een groot deel van wat Ed Snowden inspireerde om de gegevens te lekken, de rapporten die hij ook naar Glenn Greenwald en Barton Gellman en Laura Poitras lekte. Uit dit alles zijn we gaan ontdekken dat de NSA een eigen woordenboek heeft dat enigszins verschilt van het woordenboek dat jij en ik gebruiken, zodat ze woorden kunnen interpreteren op manieren die anders zijn dan de gewone Engelse betekenis ervan, inclusief woorden als ‘doelwit’, wat aanvoelt als een sleutelwoord. Een breed begrip van wat dit is, is dat ze in theorie alleen bedoeld zijn om zich te richten op mensen die geen Amerikaanse ingezetenen zijn, dat is volgens mij de uitdrukking.
Maar de manier waarop het in de loop van de tijd werd geïnterpreteerd, was dat alles waarin die persoon wordt genoemd, alles wat over een buitenlands persoon gaat, nu eerlijk spel is, zelfs als dat de communicatie is van eenAmerikaans persoon. Dus als jij en ik elkaar zouden sms'en en een buitenlands persoon noemen, is dat nu een eerlijk spel voor de NSA om te verzamelen, te bewaren en op te slaan.
Er is een tweede deel hiervan. Ik noemde eerst Executive Order 12333 van Ronald Reagan, die, naarmate de technologie in de loop van de tijd veranderde en het internet groeide, de NSA in feite in staat stelde buitenlandse communicatie aan te boren, maar dat omvatte ook alle communicatie die de VS ergens op weg had kunnen hebben verlaten. Dus als ik je sms en er gaat een bericht van mij in Californië via een glasvezelkabel die toevallig de VS heeft verlaten, dan zou de NSA het onderdeel kunnen aftappen zodra het zich buiten de VS bevindt en die informatie kunnen verzamelen, zelfs als het alleen maar naar jou binnen de VS zou gaan.
De NSA zou die informatie dan kunnen bewaren, zelfs als het over Amerikaanse personen ging, en ze zouden daar later specifieke zoekopdrachten op kunnen uitvoeren, ook wel ‘achterdeurzoekingen’ genoemd. Ze verzamelden deze informatie waarvan we denken dat ze die in de eerste plaats niet hadden mogen verzamelen, maar ze konden deze wel behouden. En ze beloofden, zo zwoor de pink, dat ze het privé zouden houden, maar als ze gingen zoeken en ontdekten dat jij of ik het over een buitenlands persoon hadden, dan was het opeens een eerlijk spel voor hen om ermee te doen wat ze wilden.
In totaal is dat veranderd in een wereld waarin de federale overheid in principe alle informatie kan verzamelen die toevallig buiten de VS raakt. Zelfs als het volledig tussen twee Amerikaanse personen gaat, als ze iemand noemen of er zelfs maar naar verwijzen die geen Amerikaanse persoon is, is het opeens een eerlijk spel om te worden verzameld. En daaruit zijn we gekomen wat lijkt op een vorm van massale surveillance van Amerikaanse personen door een NSA die beweert en publiekelijk verklaart dat zij geen Amerikaanse personen bespioneert.
Hoe zijn we op dit punt gekomen? Dit zijn een heleboel kleine stapjes. U noemde James Clapper in 2012, dat is de regering-Obama. U noemde Ronald Reagan, dat zijn de jaren tachtig. We gaan hier door Democraten en Republikeinen.
De oorlog tegen het terrorisme vond plaats onder de regering van George W. Bush, en 11 september en de Patriot Act vonden plaats onder de regering van George W. Bush. Er gebeuren veel slechte dingen onder presidenten van beide partijen, onder congressen van beide partijen. Hoe is dit gebeurd?
De eenvoudigste vorm ervan is gewoon dat niemand, en zeker geen enkele president, president wil zijn in de tijd dat er een grote terroristische aanslag plaatsvindt, omdat ze er dan slecht uitzien. Ze willen duidelijk ook Amerikanen beschermen, toch? Dat is een deel van hun werk. Als je een inlichtingengemeenschap hebt die feitelijk in het donker opereert, want dat is wat inlichtingengemeenschappen doen en ze blijven naar je toe komen en zeggen: “Hé, als we gewoon toegang zouden kunnen krijgen tot deze informatie, zou dat heel nuttig zijn bij het voorkomen van een terroristische aanval.”
Er kunnen gevallen zijn waarin dat waar is en waarin de inlichtingengemeenschap deze informatie kan gebruiken op een manier die goed werkt. Maar we zijn, in theorie, ook een samenleving van wetten met een Amerikaanse grondwet waaraan we geacht worden te gehoorzamen. Maar dat hield rekening met het feit dat regering na regering, opnieuw Republikeinen en Democraten, advocaten hadden die erg slim waren en die doorkeken en zeiden: “Wel, als we ons op deze manier positioneren, of we stellen dit op deze manier, of we interpreteren dit, op die manier kunnen we krijgen wat we willen en technisch gezien de wet niet overtreden of technisch gezien het Vierde Amendement niet schenden.”
De veronderstelling was altijd: “We kunnen de wet een beetje verbuigen of onze interpretatie van de wet verbuigen, en niemand zal dit ooit zien, of niemand die er iets om geeft, zal dit ooit zien, en daarom komen we ermee weg.”
Er zijn twee dingen die mij echt opvallen. Ten eerste lezen jij en ik allebei veel rechterlijke uitspraken: beslissingen van het hof van beroep en beslissingen van het Hooggerechtshof. En er is een strijd gaande in ons Hooggerechtshof over hoe we de woorden in onze statuten en wetten letterlijk moeten interpreteren.
Ik zal er niet te ver op ingaan, maar ik zou in het algemeen zeggen dat het idee dat je gewoon de woorden op de bladzijde moet lezen en doen wat ze zeggen, de dominante vorm van wettelijke interpretatie in de Verenigde Staten is. Links of rechts, ze zeggen het allebei. Ze discussiëren over enkele zeer esoterische details van wat dat eigenlijk betekent. Maar dat je deze woorden gewoon moet kunnen lezen en doen wat ze zeggen, dat ligt niet voor het grijpen, toch?
We zijn op zijn minst op de eerste pas beland van wat je zou kunnentekstualisme noemen. Hoe komen advocaten van beide regeringen zo ver weg van de dominante wijze van juridische besluitvorming in ons land? De rechters van beide partijen zijn het erover eens dat dit in ieder geval de eerste stap is.
Ik wou dat ik het exacte antwoord wist, maar ik denk dat het een gemotiveerde redenering is, toch? Als advocaat ben je er om je cliënt te verdedigen en het succes – als je het succes mag noemen – van ons rechtssysteem is meestal gebaseerd op een situatie van tegenspraak waarin verschillende partijen over deze zaken discussiëren, waarbij de rol van de scheidsrechter erin bestaat om je te beperken en uit te zoeken welke kant eigenlijk gelijk heeft.
Een van de problemen met de inlichtingengemeenschap en de opzet ervan is dat er geen vijandige situatie bestaat. Dat maakt het voor één partij gemakkelijker om het argument dat ze aanvoeren te rechtvaardigen, omdat niemand er echt op terugdringt. Je combineert dat met de overkoepelende angst voor een nieuwe terroristische aanslag, alles wat met de nationale veiligheid te maken heeft, en zelfs als je situaties hebt waarin je de FISA-rechtbank hebt – ik bedoel dat de FISA-rechtbank enigszins bekend stond omdat hij jarenlang in feite een stempel was.
Ik ben de exacte cijfers vergeten, maar ongeveer 99 procent van de aanvragen die naar de FISA-rechtbank gingen om toezicht op bepaalde situaties mogelijk te maken, werden ingewilligd, en het is gemakkelijk om te zeggen dat 99 procent duidelijk te veel is. Het is duidelijk dat degenen die claims bij de rechtbank indienen, aan het kiezen en kiezen zijn. Ze komen voor het grootste deel niet met totaal gekke claims. Maar zonder dat vijandige aspect en met een zeer sterk gemotiveerde groep mensen die denken: ‘We moeten dit doen’, of die van een regering te horen krijgen: ‘We moeten dit doen’, zullen ze manieren vinden om het te doen. En dat is waar je na verloop van tijd terechtkomt.
Is er iemand bij dit proces betrokken geweest die ooit wakker is geworden en tegen zichzelf heeft gezegd: “Jongen, we zijn erin geslaagd het woord ‘doel’ opnieuw te definiëren, zodat het alles betekent wat we maar willen”?
[Lacht] Je had duidelijk Ed Snowden, die een heleboel documenten lekte. Je had John Napier Tye, die in 2014 een stuk schreef voor The Washington Post, waarin de interpretatie van Executive Order 12333 werd onthuld, en zei dat dit het echte probleem is waar aandacht aan moet worden besteed. Je hebt andere mensen die zich over deze zaken hebben uitgesproken, maar voor het grootste deel zijn de mensen die betrokken zijn bij het werken binnen de regering aan zaken van de inlichtingengemeenschap gekocht in de visie van de inlichtingengemeenschap, namelijk dat het overkoepelende doel is om het land tegen iets slechts te beschermen. De beste manier om dat te doen is door over zoveel mogelijk informatie te beschikken.
Het is gemakkelijk om sympathie te hebben voor het argument dat, ja, als ze meer informatie hebben, ze misschien eerder iets kunnen ontdekken of iets belangrijks kunnen vinden, maar ten eerste is dat misschien niet waar. Te veel informatie krijgen is waarschijnlijk net zo slecht als te weinig informatie, omdat het vaak de informatie kan verbergen die daadwerkelijk nuttig is, de informatie die je daadwerkelijk nodig hebt om iets te bepalen.
Maar we hebben ook een Amerikaanse Grondwet in de eerste plaats en we hebben redenen waarom we in theorie geen massale surveillance zonder waarschijnlijke reden mogen toestaan. Als land dat in de rechtsstaat gelooft, moeten we daaraan kunnen voldoen, en als al deze dingen in het donker gebeuren, heb je de neiging dat uit het oog te verliezen.
Dit brengt mij bij Antropisch. Anthropic is in de eerste plaats een onderneming. Ze zijn goed in de overheid, ze hebben die spieren opgebouwd, ze worden bemand door mensen die heel goed thuis zijn in sommige van deze dingen. Ze keken duidelijk naar Pete Hegseth die zei: "We willen al het legale gebruik", en ze gingen twee interpretatieniveaus naar beneden en zeiden: "Wel, jouw letterlijke overtuiging is dat deze woorden niet betekenen wat ze op hun gezicht zeggen. Dus 'alle legale toepassingen' zijn te groot, en we willen wat vangrails plaatsen, vooral rond massatoezicht."
Nogmaals, ik ga autonome wapens buiten beschouwing laten, wat de andere rode lijn was, maar vooral op het gebied van massasurveillance zegt Dario Amodei: "We kunnen te veel doen. Dit is te gevaarlijk. Dit is een schending van het Vierde Amendement."
De spanning daar is: “Je zegt dat je je gaat houden aan deze wetten die één ding zeggen en nu, na al die tijd, ze iets heel anders betekenen en daar willen we gewoon geen deel van uitmaken.” Dat is degevecht. Ik wil dat alleen maar vergelijken met Sam Altman, die naar voren komt om te zeggen: “We zullen alle wettige toepassingen gebruiken”, en vervolgens dit lange bericht plaatst als: “Hier zijn alle wetten waaraan we gaan voldoen.”
Het lijkt erop dat Altman niet wist hoe de NSA deze dingen opnieuw had geïnterpreteerd en een beetje voor de gek werd gehouden. En sindsdien is hij ermee teruggegaan – zelfs terwijl we aan het opnemen zijn, ben ik ervan overtuigd dat er meer tweets zijn en dat ieders positie is veranderd. Maar Altman heeft het langzaam teruggedraaid, maar het lijkt erop dat OpenAI de statuten op hun gezicht heeft gelezen en heeft geloofd wat ze zeiden. Is dat ook jouw interpretatie van de gebeurtenissen?
Er zijn twee mogelijkheden, en dat is er één van. Eén daarvan is dat hij jarenlang op dezelfde manier werd gespeeld als het publiek. De alternatieve theorie, en ik heb geen idee welke van deze waar is, is dat hij of een aantal van de advocaten bij OpenAI – van wie ik denk dat ze zeer bekwaam en zeer goed geïnformeerd zijn – dit wisten, maar dachten dat ze hetzelfde spel konden spelen dat de NSA een paar decennia speelde, in die zin dat zolang ze deze dingen zeggen en dan de woorden zeggen, maar ze de feitelijke interpretaties niet onthullen, ze er ook mee weg kunnen komen. Dus Sam komt met de verklaring waardoor het lijkt alsof “We hadden exact dezelfde rode lijnen als Anthropic, en de regering was daar geweldig in.”
Ik denk zelfs dat Sam Altman zei dat Anthropic twee rode lijnen had en OpenAI drie, en dat de regering daar prima mee instemde, en dat zorgde ervoor dat veel mensen zich op het hoofd krabden. Maar ik denk dat het moet zijn dat Sam Altman en iedereen die hem omringde niet begrepen hoe deze dingen in de praktijk werken, of dat ze dat wel deden, en ze gingen er gewoon van uit dat het publiek het niet zou weten en daarom konden ze ermee wegkomen.
Het andere dat in je opkomt: AI is nieuw en het is zo verleidelijk om tot nieuwe technologieën te komen, omdat dit problemen van eerste indrukken zijn. “Niemand heeft hier ooit eerder over moeten nadenken”, maar de realiteit is dat iedereen hier al heel lang over nadenkt. Misschien is hetgene dat hier nieuw is niet AI, maar dat de tweede regering-Trump, in plaats van een hoop juridische zaken te doen die misschien niemand ooit zal lezen om hun daden te rechtvaardigen voor een geheime rechtbank waar niemand aandacht aan besteedt, in plaats daarvan gewoon niet zo subtiel is.
Ze zijn niet zo geavanceerd en ze zeggen alleen maar dat ze iedereen de hele tijd gaan bespioneren. Ze hebben zojuist hun bedoelingen aangekondigd op een manier dat misschien alle regeringen gewoon hun bedoelingen zouden moeten bekendmaken en zien waar de chips vallen.
Maar ik kijk naar het feit dat Ed Snowden hier in New York City was. AT&T beheert een gebouw waarvan iedereen weet dat het een NSA-gebouw is. Het is gewoon een gigantisch gebouw, en we moeten doen alsof het geen NSA-bewakingscentrum is, maar het staat er wel. Het is enorm. Niets van dat alles lijkt tot iets te hebben geleid. Al deze onthullingen, deze lekken, we hebben het niet teruggedraaid.
Sterker nog, het is alleen maar toegenomen omdat een groot deel van ons leven steeds digitaler is geworden. En misschien is de regering-Trump te allen tijde zo'n bot instrument, dat zou wel eens de oorzaak kunnen zijn van de afrekening. Zie jij dat überhaupt gebeuren?
Er zijn een paar verschillende dingen, en het is niet helemaal waar dat we hier helemaal geen afstand van hebben gedaan. De onthullingen van Snowden hebben geleid tot enkele veranderingen in de manier waarop deze dingen gebeuren. En er zijn nu – ik ben vergeten hoe ze worden genoemd, maar het zijn net deze burgerlijke amicusmensen binnen de FISA-rechtbank die zullen optreden als vertegenwoordiger van de andere kant over bepaalde kwesties.
En we hebben gezien dat sommige autoriteiten op een bepaalde manier beperkt werden, en dat ze zo nu en dan op de proppen kwamen met herautorisatie, en activisten zijn erg agressief geweest in het terugdringen en proberen wat meer vangrails op te zetten. Maar wat betreft de grotere vraag denk ik dat er twee verschillende dingen zijn. U heeft gedeeltelijk gelijk als u zegt dat deze regering niet subtiel is en alleen maar hardop zegt wat ze niet zou moeten doen.
"We zijn in oorlog met Iran, we doen het, het gebeurt. We gaan de dans niet eens proberen."
Op manieren die alle vorige regeringen niet zouden doen. Maar daar hebben ze niet echt direct iets over gezegdsurveillance, vooral surveillance van Amerikanen. Er zijn hints van, maar ze zijn er niet zo sterk over uitgekomen. De andere helft heeft meer te maken met de positionering van Anthropic en de algemene kijk op AI als deze mogelijk existentiële technologie, waarbij Anthropic zichzelf altijd heeft gepresenteerd als ‘Wij zijn de bedachtzame goeden’, en of je dat wel of niet gelooft, doet er niet toe. Ze hebben de reputatie: “We proberen dit te doen op een manier die veilig is, die de mensheid respecteert en aandacht schenkt aan al deze dingen.” En dus als je die botsing hebt, komt daar de strijd om de hoek kijken.
Je hebt een Trump-regering die gewoon wil kunnen doen wat ze wil kunnen, en daar zijn ze niet subtiel in. En dan heb je Anthropic, wiens zelfbeschrijving en zijn publieke persoonlijkheid altijd zeggen: “We zijn attent en we respecteren de mensheid en de rechten en al deze dingen.” Dat is waarschijnlijk waar de botsing ontstond, omdat Anthropic, zoals duidelijk is gemaakt, al een tijdje met het ministerie van Defensie heeft samengewerkt en veel andere contracten met de overheid heeft waarvan het gebruik heeft gemaakt. Het is geen probleem geweest.
Het was alleen op deze specifieke gebieden waar, terwijl de regering probeerde het contract dat ze had, uit te breiden, de senior leiding van Anthropic begon te zeggen: “Wacht, we moeten ervoor zorgen dat we deze rode lijnen niet overschrijden die mogelijk onze reputatie als bedachtzame, veilige AI-aanbieder zouden kunnen schaden.”
Ik wil u een korte vraag stellen over surveillance in het algemeen, en in het bijzonder de zorgen van Anthropic over het Vierde Amendement. Het Vierde Amendement zegt dat de overheid je niet op onredelijke wijze kan fouilleren. De beste manier om het Vierde Amendement te begrijpen is door te luisteren naar “99 Problems” van Jay-Z. Dus als je even een pauze wilt nemen en naar ‘99 Problems’ wilt luisteren, is dat geweldig. Het zit er allemaal in. Ik heb ernaar geluisterd toen ik rechten studeerde en het was volkomen logisch.
Maar de overheid heeft doorgaans een bevel nodig om u te fouilleren. En naarmate een steeds groter deel van uw leven online plaatsvindt, zijn er heel veel uitzonderingen hierop. Maar het idee is dat ze nog steeds een online bevelschrift nodig hebben. Het argument van Anthropic is: "Nou, de AI zal nooit moe worden. Hij kan de hele tijd alles doorzoeken. Dat betekent dat we alleen maar mastersurveillance gaan doen."
Maar zelfs voordat AI opdook, bestond het idee dat de overheid alles wat van jou was kon doorzoeken, het idee dat de overheid geen bevel nodig had om al je spullen te doorzoeken bestond al. Het idee dat als jouw gegevens ooit voor een korte seconde het land uit zouden gaan, de overheid ze daar zou onderscheppen,
Toen ik op de universiteit zat, rond de tijd van de Patriot Act, was het debat dat ze niet naar je daadwerkelijke gegevens zouden gaan zoeken, maar dat ze alleen de metadata en de metadata konden krijgen. De gegevens over uw gegevens zijn voldoende om u te allen tijde nauwkeurig te kunnen lokaliseren. En zelfs dat is te ver. En we hebben deze dans gedaan van wat kan de overheid verzamelen? Wat is toegestaan? Wat hebben ze nodig om ons allemaal veilig te houden en wat is te ver? Die lijnen zijn verplaatst.
Beschrijf daarom kort de algemene bezorgdheid over surveillance op deze schaal en waar we nu staan. Voordat de AI-situatie alles exponentieel ingewikkelder maakte.
Hier moet ik een ander concept introduceren dat waarschijnlijk eerder had moeten worden genoemd, maar dat wel belangrijk is, namelijk de ‘derdendoctrine’. Het idee achter het Vierde Amendement is dat de overheid jou of je spullen niet kan doorzoeken zonder bevel, en ook geen bevel kan krijgen zonder waarschijnlijke reden dat je een of andere misdaad hebt begaan. Maar er is een concept dat tientallen jaren geleden ontstond, de zogenaamde derdepartijdoctrine, dat zegt dat dit niet noodzakelijkerwijs van toepassing is, of helemaal niet, op dingen die niet van jou zijn, zelfs als het jouw gegevens zijn.
De vroegste en meest voor de hand liggende versie hiervan waren telefoongegevens die het telefoonbedrijf had van wie u belde. De telefoonmaatschappijen namen uw gesprekken niet op, maar als ik u belde, zou er een opname zijn bij de telefoonmaatschappij waarop stond: 'Mike belt Nilay.' En wat door meerdere rechtbanken was bepaald, was dat de regering dat kan gaan vragen, en dat ze daar geen bevel voor nodig hebben, omdat het geen huiszoeking is.uw gegevens, het is deze derde partij en zij kunnen als derde overeenkomen om die gegevens gewoon over te dragen.
Maar dat waren zaken uit de jaren zestig en zeventig, waarin werd vastgesteld dat de overheid daar zonder bevel toegang toe kon krijgen, terwijl er nog niet zoveel gegevens van derden beschikbaar waren. De opkomst van computers en internet heeft daar verandering in gebracht. Nu zijn alles gegevens van derden. Alles wat we doen, wordt ergens door een bedrijf verzameld en vastgelegd. Dus eigenlijk elk stukje gegevens over jou, waar je bent, met wie je spreekt, met wie je communiceert, wat je zegt, wat je doet, dat alles wordt tegenwoordig vrijwel allemaal bewaard door derden. Dus de doctrine van derden heeft tot op zekere hoogte het hele Vierde Amendement opgeslokt, waarbij alles wat over jou gaat en wat iemand anders heeft, een veel lagere standaard heeft voor wat de overheid kan doen om erom te vragen.
Om specifiek te zijn: dit betekent dat wanneer mijn gegevens in iCloud staan, de overheid naar Apple kan gaan en mijn gegevens uit iCloud kan halen zonder mij dit ooit te vertellen?
Zij kunnen het aanvragen. Ze kunnen het eenvoudig aanvragen zonder bevelschrift. Dan heeft het bedrijf zijn eigen rechten en kan het bepalen wat het met dat verzoek wil doen. Ze kunnen het gewoon opgeven. Ze kunnen, zoals de meesten van hen zullen doen, als het een serieus verzoek is, verzoeken zonder meer afwijzen, of ze kunnen je waarschuwen en ze kunnen zeggen – en dit is wat de meesten van hen zullen doen – ze zullen je waarschuwen en zeggen: “De overheid vraagt om een aantal van je gegevens. Je kunt naar de rechter stappen en proberen ze te blokkeren.” Zo niet, dan zullen ze uw gegevens binnen zeven dagen of wat dan ook overhandigen.
Nogmaals, het hangt ervan af. Als het een strafrechtelijk onderzoek betreft, kan er sprake zijn van een soort zwijgbevel waarbij het bedrijf u dit niet mag vertellen. Er zijn allerlei situaties, maar bij de meeste gaat het om minder bescherming dan het niveau van bescherming dat het Vierde Amendement zou vereisen als het om gegevens of informatie of iets anders in uw eigen huis zou gaan.
De hoeveelheid gegevens die u op de cloudserver van iemand anders heeft, is enorm, toch? Van alles wat u nu doorgaans op internet doet, wordt op de een of andere manier een back-up gemaakt of op de een of andere manier opgenomen op de servers van iemand anders. De regering heeft een manier gevonden om het Vierde Amendement te omzeilen en te zeggen: "Nou, dat is eigenlijk niet van jou. Het is van Amazon. We kunnen met Amazon gaan praten", en Amazon moet midden in dat proces staan en zeggen: "We hebben een ander proces bedacht om de mensen enigszins te beschermen."
Ik kijk daar eens naar – en toen ik de eerste doctrinezaken van derden behandelde die betrekking hadden op de clouddiensten en de overheid bleef winnen, veranderde ik in feite in de Joker. Ik had zoiets van: “Al deze dingen die we doen alsof over tekstualisme en het gewone [lezen], dit alles betekent niets, omdat we gewoon paardenkracht naar de achterdeur gebruiken door deze oude wet in ieders gegevens te gebruiken.”
En dan kijk ik hiernaar en ik kijk naar Anthropic en ik zeg: "Wel, dit is hetzelfde patroon." Dit is een particulier bedrijf dat zegt: "Oké, we begrijpen uw standpunt. We begrijpen dat u de wet opnieuw hebt geïnterpreteerd om dit te bedoelen, en we gaan een proces plaatsen tussen u, onze tool, en de gegevens van Amerikanen die door onze dienst stromen." Ik vraag me alleen af of je die parallel daar ziet, tussen Anthropic en Amazon en Azure en welke andere clouddiensten dan ook die bestaan die zoveel van onze gegevens bevatten.
Ja, hoewel er hier een paar verduidelijkingen zijn die belangrijk zijn en dit een beetje anders maken. En in feite – ik denk dat The New York Times deze berichtgeving als eerste had – ging de belangrijkste clausule die voor Anthropic het belangrijkst was specifiek over gegevens verzameld van commerciële diensten en het niet kunnen gebruiken van Claude op die gegevens, wat precies deze kwestie is in termen van gegevens van derden. Maar ik wil wel het belangrijkste verschil verduidelijken tussen waar we het zojuist over hadden met Amazon of andere derde partijen die uw gegevens hosten. Dat waren gevallen waarin ze, vanwege hun plaats in het ecosysteem, uw gegevens rechtstreeks hostten.
Bij Claude is het niet zo dat iemand zich zorgen maakt dat de NSA jouw Claude-gebruik doorzoekt. Het gaat erom dat ze uitgaan en gegevens van derden van Amazon verkrijgen, of waarschijnlijker het soort stiekeme, verborgen gegevensmakelaars die advertenties op je telefoons weergeven en je locatie en je interesses en dat soort dingen kennen. En dat vervolgens in een systeem invoerenwaar Claude dan aan zou werken. Dat is waar Anthropic echt geen deel van uit wilde maken. Dus waar of hoe de overheid die gegevens ook van een derde partij zou verzamelen, zei Anthropic: “We willen niet dat onze tool op die gegevens wordt gebruikt.”
Apple komt op beroemde wijze in opstand tegen de FBI en vraagt deze om een achterdeur in de iPhone te plaatsen, en Apple zegt “nee”, en zij komen in opstand tegen Trump. En er is een deel van de manier waarop ons systeem werkt waarin grote particuliere bedrijven namens hun klanten ‘nee’ kunnen zeggen tegen de overheid. En dit voelde op dezelfde manier dat Apple het niet achter de deur van de iPhone zou plaatsen, of dat de grote cloudproviders zeggen: "Er is een klein proces waar je doorheen moet springen voordat je de individuele gegevens krijgt."
Hier lijkt het erop dat Anthropic zegt: “We gaan niet zomaar bulkanalyses doen van gegevens die je van andere partijen hebt verkregen, want dat leidt tot 24/7 massale surveillance van Amerikanen, en dat willen we niet doen.” Toch lijkt dat voor deze regering een brug te ver. Komt daar iets van terug?
We zullen zien. Als dat in het verleden is gebeurd – en het is bij de meeste grote technologiebedrijven al zo vaak gebeurd, dat ze op een gegeven moment hebben gezegd dat iets een brug te ver is – gaat dat normaal gesproken naar de rechter. De bedrijven zullen naar de rechter stappen of de overheid zal naar de rechter stappen en er zal een soort rechtszaak plaatsvinden.
De achterdeur van de iPhone is daar een perfect voorbeeld van. Het ging naar de rechtbank en ze vochten het uit, hoewel ze nooit helemaal tot een conclusie kwamen omdat de FBI uiteindelijk gewoon handmatig in de iPhone inbrak en vervolgens niet wilde dat de uitspraak van de rechtbank dat in de toekomst zou verpesten.
Maar in dit geval, waar de escalatie plaatsvindt en waar dit verschilt van die situaties uit het verleden, is dat de regering-Trump, in plaats van alleen maar naar de rechter te stappen, deze aanduiding van ‘toeleveringsketenrisico’ heeft gebruikt, wat gewoon krankzinnig is. Het idee dat deze tool, die ontworpen was om potentiële buitenlandse kwaadwillende actoren ervan te weerhouden technologie te leveren, vervolgens verborgen surveillance-instrumenten in de grotere technologiestapel zou kunnen stoppen, zodat deze verboden zouden kunnen worden. Om dat toe te passen op een in de VS gevestigd bedrijf, in de eerste plaats vanwege het voeren van een ethisch beleid, voelt als een echt, echt misbruik van dat instrument.
Zelfs dat hulpmiddel was in sommige opzichten twijfelachtig, maar je kon de drijfveer erachter begrijpen als je het had over een Chinees netwerkbedrijf of iets in die richting. Hier heeft het geen zin. De reactie hierop gaat dus veel verder dan wat normaal gesproken in dit geval te zien zou zijn. Je zou kunnen zien dat er traditioneel een soort rechtszaak zou zijn en dat beide partijen die zouden kunnen beginnen en dat het alleen maar een strijd zou zijn over hoe het contract zou kunnen worden toegepast.
Maar dat is niet wat hier gebeurt. Deze regering zegt feitelijk: “Als u ons niet absoluut alles geeft wat we willen, als u uw tools niet zo inricht dat ze werken zoals wij willen dat ze werken, dan zullen we effectief proberen uw hele bedrijf te vernietigen.” En dat is een escalatie.
Er is één stukje hiervan waar ik mee wil eindigen, en het is een beetje de meest galaxy-brein-versie hiervan. FIRE, een groep die de vrijheid van meningsuiting bepleit, heeft vlak voordat we begonnen met opnemen een blogpost gepubliceerd waarin het argument wordt aangevoerd dat het dwingen van Anthropic om tools te bouwen die het niet wil bouwen een schending van de vrijheid van meningsuiting is, dat het iets is dat gedwongen meningsuiting wordt genoemd. Er is hier veel geschiedenis. Er is hier een diepe Verge- en Techdirt-, in-the-onkruid-, existentiële crisisgeschiedenis.
Maar het komt feitelijk neer op het idee dat code spraak is, dat het schrijven van code voor een computer een vorm van spraak is en dat de overheid je hiertoe niet kan dwingen, en daar vloeit een heleboel dingen uit voort. Gelooft u in dit argument dat het dwingen van Anthropic om tools te bouwen die het niet wil bouwen, gedwongen taal is?
Ja, ik vind het eigenlijk wel overtuigend. Meeslepende, gedwongen toespraak. Maar nee, ik vind het wel een interessant argument. Het is er een die iets verderop op de lijst stond van de problemen waar ik aan dacht. Ik was duidelijk vooral meer gefocust op de kwesties van het Vierde Amendement, maar ik denk dat het FIRE-argument niet verkeerd is. We hebben dit in andere contexten gezien. Het kwam ook ter sprake in de kwestie van de achterdeur, in termen van het inbouwen van achterdeurtjes in versleutelde systemen.
Bedrijven zijn zeker als eerste opgevoedAmendement beweert: “Het is gedwongen taal om ons te dwingen dat soort code te schrijven.” Het is een geldig argument. Het zou wederom een kwestie kunnen zijn die rechtbanken in eerste instantie waarschijnlijk minder bereid zijn aan te pakken als ze deze kwesties op een andere manier kunnen aanpakken. Maar ik ben blij dat FIRE dit bericht heeft geplaatst en ik denk dat het een interessant en overtuigend argument is.
Ja, het is nu eenmaal de aard van de tweede regering-Trump dat het zo’n bot instrument is dat het vrijwel zeker is dat we alle kwesties in één keer zullen aanpakken.
Ja, elk amendement op de Bill of Rights moet op de een of andere manier met elk mogelijk probleem worden aangevochten.
[Lacht] Draai aan het wiel.
Ik ben er zeker van dat we hier ergens een schending van het Derde Amendement kunnen inpassen.
Zeker, ja. Claude moet nu in jouw huis wonen. Precies. Het wordt geweldig. We doen [amendementen] één, drie, vier en zeven. We verzamelen ze.
Mike, dit was geweldig. Ik kan niet geloven dat je nog niet eerder in de show bent geweest. Dit was geweldig. Je moet snel terugkomen.
Absoluut. Wanneer je maar wilt.
Vragen of opmerkingen over deze aflevering? Neem contact met ons op via decoder@theverge.com. Wij lezen echt elke e-mail!
