I dag snakker vi om den rotete, raske situasjonen hos Anthropic, Claude-produsenten som nå befinner seg i en veldig stygg juridisk kamp med Pentagon.
Frem og tilbake er komplisert, men for noen dager siden hadde Pentagon ansett Anthropic som en risiko i forsyningskjeden, og Anthropic har anlagt et søksmål som utfordrer denne betegnelsen, og sa at regjeringen har krenket sine rettigheter til første og femte endring ved å "søke å ødelegge den økonomiske verdien skapt av et av verdens raskest voksende private selskaper." Jeg kan fortelle deg akkurat nå: Vi kommer til å snakke om vendingene i den saken på The Verge og her på Decoder i månedene som kommer.
Men i dag ville jeg ta et øyeblikk og virkelig grave inn her på ett veldig viktig element i denne situasjonen som ikke har fått nok oppmerksomhet ettersom dette har kommet ut av kontroll: hvordan USAs regjering gjør overvåking, den juridiske myndigheten som lar overvåkingen skje, og hvorfor Anthropic var mistroisk til regjeringen og sa at den ville følge loven når det kommer til å bruke AI for å gjøre enda mer overvåking.
Verge-abonnenter, ikke glem at du får eksklusiv tilgang til annonsefri dekoder hvor enn du får podcastene dine. Gå hit. Ikke abonnent? Du kan registrere deg her.
Min gjest i dag er Mike Masnick, grunnlegger og administrerende direktør for Techdirt, det utmerkede og langvarige nettstedet for teknologipolitikk. Mike har skrevet om myndighetenes overgrep, personvern i den digitale tidsalderen og andre relaterte emner i flere tiår nå. Han er en ekspert på hvordan internett og overvåkingsstaten har vokst opp på sammenkoblede måter.
Du skjønner, det er det loven sier at regjeringen kan gjøre når det gjelder å overvåke oss, og deretter hva regjeringen ønsker å gjøre. Og viktigst av alt, det er det regjeringen sier at loven sier at den kan gjøre, som ofte er nøyaktig det motsatte av hva enhver normal person som bare leser loven ville tro.
Du vil høre Mike forklare i detalj her i denne episoden at vi ikke kan – og ikke bør – ta den amerikanske regjeringen på ordet når det gjelder overvåking. Det er rett og slett for mye historie med regjeringsadvokater som vrir på tolkningene av enkle ord som "mål" for å utvide overvåkingen på kompliserte måter - måter som vanligvis bare skaper bekymring i juridiske kretser, og bare bobler opp når det er store kontroverser som varsleren Ed Snowdens store NSA-avsløringer for mer enn et tiår siden.
Men det er ikke noe subtilt eller sofistikert ved politikkutforming i Trump-æraen – og så med Anthropic har vi en veldig høylytt, veldig offentlig debatt om teknologi og overvåking i sanntid, på internett, i blogginnlegg og røntgenmeldinger og over pressekonferanser. Det er positive og negative sider ved det, men for å forstå det hele, må du virkelig kjenne historien.
Det var det Mike og jeg bestemte oss for å forklare i denne episoden - uansett hva du synes om AI og regjeringen, vil denne episoden gjøre det klart at begge parter har latt overvåkingsstaten bli større og større over tid. Nå er vi på vei til den største utvidelsen til nå når det kommer til AI.
Ok: Techdirt-grunnlegger og administrerende direktør Mike Masnick på Anthropic, Pentagon og AI-overvåking. Her går vi.
Dette intervjuet er lett redigert for lengde og klarhet.
Mike Masnick, du er grunnlegger og administrerende direktør i Techdirt. Velkommen til Decoder.
Jeg er glad for å være her.
Jeg er glad for å ha deg med. Jeg sa bare at jeg er sjokkert over at du aldri har vært på programmet før. Du og jeg har skrevet og postet rundt hverandre i lang tid. Mye av The Verge-policydekningen skylder en gjeld til det du har gjort hos Techdirt, og det som skjer med Anthropic er så komplisert, men treffer så mange temaer som du har dekket så lenge. Jeg er glad du endelig er her.
Det er et komplisert rot av et emne, men jeg er spent på å grave i det.
Det jeg vil fokusere på med deg er ikke detaljene om Anthropic kommer til å signere en kontrakt med myndighetene eller om OpenAI kommer til å få den kontrakten. I stedet er jeg sikker på at mellom gangen vi spiller inn dette og gangen folk lytter til det, vil det ha vært flere tweets og flere ting vil være annerledes enn de var før.
Det jeg vil fokusere på er bare en av de to røde linjene som Anthropic virkelig har lagt ut. En av dem erautonome våpen, som er dets eget komplikasjonsnivå. Loven der er litt mer begynnende uansett om våpnene eksisterer eller ikke allerede har blitt utplassert av Russland i Ukraina-krigen.
Det er mange ideer her som jeg bare vil legge det til side fordi jeg tror det kommer til å bli mer fokusert på sin egen timeplan. Den andre røde linjen som jeg ønsker å bruke mye tid på, er masseovervåking. Og det er ganske mye lov her om masseovervåking. Det er mye historie, mye kontroversiell historie. Hele karakteren til Edward Snowden eksisterer på grunn av kontroverser rundt masseovervåking.
Det hele kommer ned til – jeg tror du er den som postet dette – National Security Agency (NSA), som er en del av forsvarsdepartementet, som vi må kalle krigsdepartementet nå av en eller annen grunn.
[Ler] Vi trenger ikke å gjøre noe.
[ler] Det gjør vi ikke. Det er sant her i Amerika. Vi trenger ikke å gjøre noe. Men NSA har i bunn og grunn omdefinert hva mange ord betyr ut av daglig engelsk til å bety "Vi kan bare gjøre overvåking." Og så ofte er det en skandale når folk oppdager at de bare driver med overvåking. Så bare sett scenen der, og jeg vil ikke spole deg tilbake hele veien, men det har vært ganske mye tid hvor dette mønsteret har gjentatt seg.
Det avhenger av hvor dypt du vil gå, men kortversjonen er åpenbart i verden etter 9/11, USA vedtok Patriot Act, som hadde en viss evne for regjeringen til å engasjere seg i overvåking, som skulle være for å beskytte oss mot fremtidige terrortrusler. Over tid ble det tolket på interessante måter, og det var noen begrensninger på det. Vi hadde også FISA-domstolen, som er en spesialdomstol som skal overprøve etterretningsmiljøet og deres virksomhet, men som tradisjonelt har vært en ensidig domstol. Bare én side kan føre saken sin for den domstolen, og det hele gjøres i hemmelighet.
Det er mye som ikke var kjent. Og så var det en annen brikke i alt dette, som går helt tilbake til Ronald Reagan, som er Executive Order 12333, som visstnok handler om å sette opp kjøreregler for etterretningsinnsamling.
Så du har disse tre settene med lover – vel, noen få sett med lover – og en executive order som for offentligheten, delene du kan lese, ser ut til å si visse ting om hva vår regjering og NSA spesielt kan gjøre når det gjelder overvåking. Når vi leser med en vanlig engelsk ordbok, som du og jeg sannsynligvis har og forstår, ville vi komme bort med en tro på at NSAs evne til å overvåke amerikanere var svært begrenset, faktisk til det punktet at de skal, hvis de innser at de overvåker en amerikansk person, at de skal umiddelbart stoppe opp og gråte stygt og slette alt dette andre data og.
Det gikk rykter en stund om at det egentlig ikke skjedde, og det var antydninger, og spesielt senator Ron Wyden var veldig vokal om å gå i senatets gulv og si: "Noe er ikke riktig her, og jeg kan ikke helt fortelle deg hva," eller i høringer spurte han etterretningstjenestemenn: "Samler du eller samler du ikke massedata om amerikanere?"
Disse tjenestemennene ville enten avlede eller i noen tilfeller direkte lyve. Jeg tror det var en høring i 2012 med James Clapper, som var direktør for nasjonal etterretning på den tiden, hvor han ble spurt direkte om dette punktet. Og han sa i utgangspunktet: "Nei, vi samler ikke inn data om amerikanere." Det var en stor del av det som inspirerte Ed Snowden til å lekke dataene, rapportene om at han lekket til Glenn Greenwald og Barton Gellman og Laura Poitras også. Fra alt dette begynte vi å oppdage at NSA har sin egen ordbok som er noe annerledes enn ordboken du og jeg bruker, slik at de kan tolke ord på måter som er annerledes enn den enkle engelske betydningen av dem, inkludert ord som "mål", som føles som et nøkkelord. En bred forståelse av hva dette er, er at de i teorien bare er ment å målrette mot folk som ikke er amerikanske personer, tror jeg er uttrykket.
Men måten det ble tolket over tid var at alt som nevner den personen, alt som handler om en utenlandsk person nå er rettferdig spill, selv om det er kommunikasjonen til enamerikansk person. Så hvis du og jeg skulle sende tekstmeldinger til hverandre og nevne en utenlandsk person, er det nå rettferdig spill for NSA å samle inn og beholde og lagre.
Det er en andre del av dette. Jeg nevnte første Executive Order 12333 fra Ronald Reagan, som, ettersom teknologien endret seg over tid og internett vokste, effektivt tillot NSA å benytte seg av utenlandsk kommunikasjon, men som inkluderte all kommunikasjon som kan ha forlatt USA på rute et sted. Så hvis jeg sender en tekstmelding til deg og en melding gikk fra meg i California gjennom en fiberoptisk kabel som tilfeldigvis forlot USA, kunne NSA trykke på delen når den er utenfor USA og samle inn den informasjonen, selv om den bare skulle til deg i USA.
NSA kunne da beholde denne informasjonen selv om den var på amerikanske personer, og de kunne gjøre spesifikke søk på det senere, noen ganger referert til som «bakdørssøk». De samlet inn denne informasjonen som vi tror de ikke var ment å samle inn i utgangspunktet, men de kunne beholde den. Og de lovet, de pinky sverget, at de ville holde det privat, men hvis de gjorde et søk og fant ut at du eller jeg nevnte en fremmed person, så var det plutselig rettferdig for dem å gjøre hva de vil med det.
Totalt sett har det blitt en verden der den føderale regjeringen i utgangspunktet kan samle all informasjon som tilfeldigvis berører utenfor USA. Selv om det er helt mellom to amerikanske personer, hvis de nevner eller til og med antyder noen som ikke er en amerikansk person, er det plutselig rettferdig spill å bli samlet inn. Og fra det har vi fått det som ser ut til å være en form for masseovervåking av amerikanske personer av en NSA som hevder og offentlig uttaler at den ikke spionerer på amerikanske personer.
Hvordan kom vi til dette punktet? Dette er mange trinnvise babyskritt. Du nevnte James Clapper i 2012, det er Obama-administrasjonen. Du nevnte Ronald Reagan, det er 1980-tallet. Vi går gjennom demokrater og republikanere her.
Krigen mot terror skjedde i George W. Bush-administrasjonen, og 9/11 og Patriot Act skjedde i George W. Bush-administrasjonen. Det er mange inkrementelle dårlige ting under presidenter for begge partier, under kongresser for begge partier. Hvordan skjedde dette?
Den enkleste formen for det er bare at ingen, og absolutt ingen president, ønsker å være president i den tiden det er et stort terrorangrep, fordi det får dem til å se dårlig ut. Tydeligvis ønsker de også å beskytte amerikanere, ikke sant? Det er en del av jobben deres. Hvis du har et etterretningssamfunn som i utgangspunktet opererer i mørke fordi det er det etterretningssamfunn gjør, og de fortsetter å komme til deg og si: "Hei, hvis vi bare kunne få tilgang til denne informasjonen, ville det være veldig nyttig for å forhindre et terrorangrep."
Det kan være tilfeller der det er sant, at etterretningssamfunnet er i stand til å bruke denne informasjonen på en måte som fungerer bra. Men vi er også, i teorien, et lovsamfunn med en amerikansk grunnlov som vi skal adlyde. Men det gjorde det mulig for det faktum at administrasjon etter administrasjon, igjen, republikanere og demokrater, hadde advokater som var veldig flinke og som ville se gjennom og si: "Vel, hvis vi på en måte posisjonerer på denne måten eller vi uttaler oss på denne måten eller vi tolker dette, på den måten kan vi få det vi ønsker og ikke teknisk bryte loven eller ikke teknisk bryte det fjerde endringsforslaget."
Antakelsen var alltid: "Vi kan på en måte bøye loven eller bøye vår tolkning av loven, og ingen kommer virkelig til å se dette, eller ingen som bryr seg kommer virkelig til å se dette, og derfor slipper vi unna med det."
Det er to ting som virkelig slår meg opp. En, du og jeg leser begge mange rettsavgjørelser - lagmannsrettsavgjørelser og høyesterettsavgjørelser. Og det er en kamp i vår høyesterett om hvordan vi bokstavelig talt skal tolke ordene i våre vedtekter og våre lover.
Jeg vil ikke gå for langt inn i det, men jeg vil si generelt at ideen om at du bare bør lese ordene på siden og gjøre det de sier er den dominerende belastningen av lovbestemt tolkning i USA. Venstre eller høyre, de sier det begge to. De krangler om noen veldig esoteriske fine poeng av hva det faktisk betyr. Men at du bare skal kunne lese disse ordene og gjøre det de sier, det er vel ikke å få tak i?
Vi har landet på i det minste det første passet av hva du kanskjekalle tekstualisme. Hvordan kommer advokater fra begge administrasjoner så langt unna den dominerende modusen for juridisk beslutningstaking i vårt land? Begge parters dommere er enige om at det i det minste er det første trinnet.
Jeg skulle ønske jeg visste det nøyaktige svaret, men jeg tror det er motivert resonnement, ikke sant? Som advokat er du der for å forsvare klienten din, og suksessen – hvis du kan kalle det suksess – til vårt rettssystem har en tendens til å være basert på å ha en kontradiktorisk situasjon der du har forskjellige sider som krangler om disse tingene, der dommerens rolle er å begrense og finne ut hvilken side som faktisk er riktig.
Et av problemene med etterretningssamfunnet og oppsettet av det er at du ikke har den motstridende situasjonen. Det gjør det lettere for den ene siden å rettferdiggjøre argumentet de kommer med fordi ingen virkelig presser tilbake på det. Du kombinerer det med den overordnede frykten for et nytt terrorangrep, alt relatert til nasjonal sikkerhet, og selv når du har situasjoner der du har FISA-domstolen — jeg mener at FISA-domstolen var litt kjent for å være et gummistempel i mange år.
Jeg glemmer de nøyaktige tallene, men det var noe sånt som over 99 prosent av søknadene som gikk til FISA-domstolen for å tillate overvåking av visse situasjoner, ble innvilget, og det er lett å si at 99 prosent åpenbart er for mye. Det er klart de som kommer med krav til retten, de velger og velger. De kommer for det meste ikke med helt sprø påstander. Men uten det motstridende aspektet og med en veldig sterkt motivert gruppe mennesker som tenker «vi må gjøre dette» eller blir fortalt av en administrasjon, «vi må gjøre dette», vil de finne måter å gjøre det på. Og det er der du havner over tid.
Har det vært noen involvert i denne prosessen som noen gang har våknet og sagt til seg selv: "Gutt, vi har klart å omdefinere ordet 'mål' til å bety alt vi vil"?
[Ler] Du hadde tydeligvis Ed Snowden, som lekket en haug med dokumenter. Du hadde John Napier Tye, som skrev et stykke for The Washington Post i 2014, som avslørte tolkningen av Executive Order 12333, og sa at det er det virkelige problemet å ta hensyn til. Du har andre mennesker som har uttalt seg om disse tingene, men for det meste er de som er involvert i å jobbe innenfor administrasjonen med etterretningssamfunnssaker kjøpt inn i synet til etterretningsmiljøet, som er at det overordnede målet er å beskytte landet mot noe vondt. Den beste måten å gjøre det på er å ha så mye informasjon som mulig.
Det er lett å være sympatisk med argumentet om at ja, å ha mer informasjon kan tillate dem å fange noe tidligere eller finne noe viktig, men det er kanskje ikke sant. Å få for mye informasjon er sannsynligvis like ille som for lite informasjon fordi det ofte kan skjule informasjonen som faktisk er nyttig, informasjonen som du faktisk trenger for å fastslå noe.
Men også, vi har en U..S. Grunnloven i utgangspunktet, og vi har grunner til at vi i teorien ikke skal tillate masseovervåking uten sannsynlig årsak. Som et land som tror på rettsstaten bør vi kunne leve opp til det, og når alt dette skjer i mørket, vil du ha en tendens til å miste det av syne.
Dette bringer meg til Anthropic. Anthropic er først og fremst et bedriftsselskap. De er gode i myndighetene, de har bygget disse musklene, de er bemannet av folk som er veldig kjent med noe av dette. De så åpenbart på Pete Hegseth og sa: "Vi vil ha all lovlig bruk," og de gikk ned på to nivåer av tolkning og sa: "Vel, din bokstavelige tro er at disse ordene ikke betyr det de sier at de betyr i ansiktet deres. Så 'all lovlig bruk' er for stor, og vi ønsker å sette noen rekkverk spesielt rundt masseovervåking."
Igjen, jeg kommer til å skille ut autonome våpen, som var den andre røde linjen, men spesielt når det gjelder masseovervåking, er Dario Amodi der ute og sier: "Vi kan gjøre for mye. Dette er for farlig. Dette er et brudd på den fjerde endringen."
Spenningen der er "du sier at du kommer til å overholde disse lovene som sier én ting, og nå, etter all denne tiden, betyr de noe helt annet, og vi vil bare ikke være en del av det." Det erslåss. Jeg vil bare sammenligne det med Sam Altman, som stikker inn for å si: «Vi vil gjøre all lovlig bruk», og deretter legger ut denne lange meldingen slik: «Her er alle lovene vi skal overholde».
Det ser ut til at Altman ikke visste hvordan NSA hadde omtolket disse tingene og ble på en måte tatt med på en tur. Og han har siden begynt å gå tilbake - selv mens vi spiller inn, er jeg sikker på at det er flere tweets og alles posisjoner har endret seg. Men Altman har gått sakte tilbake, men det ser ut til at OpenAI ble lurt til å lese vedtektene i ansiktet deres og tro på det de sa. Er det din tolkning av hendelser også?
Det er to muligheter, og det er en av dem. Den ene er at han ble spilt på samme måte som publikum ble spilt i mange år. Den alternative teorien, og jeg aner ikke hvilken av disse som er sann, er at han eller noen av advokatene ved OpenAI – som jeg tror er veldig kompetente og svært kunnskapsrike – visste dette, men trodde at de kunne spille det samme spillet som NSA spilte i noen tiår, ved at så lenge de sier disse tingene og så sier de ordene, men de avslører ikke de faktiske tolkningene, at de også kunne slippe unna med det. Så Sam kommer ut med uttalelsen som får det til å se ut som "Vi hadde nøyaktig de samme røde linjene som Anthropic gjorde, og regjeringen var flink med det."
Faktisk tror jeg Sam Altman sa at Anthropic hadde to røde linjer og OpenAI hadde tre, og myndighetene var helt greie med det, og det fikk mange mennesker til å klø seg i hodet. Men jeg tror det må være enten at Sam Altman og den som omgir ham ikke forsto hvordan disse tingene fungerer i praksis, eller så gjorde de det, og de bare antok at publikum ikke ville vite det, og derfor kunne de slippe unna med det.
Den andre tingen som kommer til tankene - igjen, AI er nytt, og det er så fristende å finne nye teknologier, da dette er problemer med førsteinntrykk. "Ingen har noen gang måtte tenke på dette før," men realiteten er at alle har tenkt på disse tingene i lang tid. Kanskje det som er nytt her ikke er AI, men at den andre Trump-administrasjonen, i stedet for å gjøre en haug med advokatfullmektig som kanskje ingen noen gang vil lese for å rettferdiggjøre sine handlinger til en hemmelig domstol som ingen tar hensyn til, i stedet ikke er så subtil.
De er ikke så sofistikerte, og de sier bare at de kommer til å spionere på alle hele tiden. De kunngjorde nettopp intensjonene sine på en måte som kanskje alle administrasjoner bare burde kunngjøre intensjonene sine og se hvor brikkene faller.
Men jeg ser på det faktum at det var Ed Snowden her i New York City. AT&T driver en bygning som alle vet er en NSA-bygning. Det er bare en gigantisk bygning, og vi skal late som om det ikke er et NSA-overvåkingssenter, men det er akkurat der. Det er enormt. Ingenting av det ser ut til å ha blitt til noe. Alle disse avsløringene, disse lekkasjene, vi har ikke støttet det.
Faktisk har det bare økt ettersom så mye av livene våre har blitt mer og mer digitale. Og kanskje Trump-administrasjonen er et så sløvt instrument til enhver tid, kan det faktisk være det som forårsaker regnskapet. Ser du at det spiller ut uansett?
Det er noen forskjellige ting der, og det er ikke helt sant at vi ikke har støttet disse tingene i det hele tatt. Avsløringene fra Snowden førte til noen endringer i hvordan disse tingene skjer. Og det er nå - jeg glemmer hva de heter, men de er som disse sivile amicus-folkene i FISA-domstolen som vil fungere som å presentere den andre siden i visse saker.
Og vi har sett noen av myndighetene begrenset på visse måter, og de kommer opp for reautorisering av og til, og aktivister har vært veldig aggressive når det gjelder å presse tilbake og prøve å sette noen flere autovern. Men til det større spørsmålet tror jeg det er to forskjellige ting. Du har halv rett i at denne administrasjonen ikke er subtil og bare sier høyt de tingene den ikke burde.
"Vi er i krig med Iran, vi gjør det, det skjer. Vi kommer ikke engang til å prøve dansen."
På måter som alle tidligere administrasjoner ikke ville gjort. Men det har de egentlig ikke sagt direkte omovervåking, spesielt overvåking av amerikanere. Det har vært antydninger til det, men de har ikke kommet like sterkt ut på det. Den andre halvparten av det har mer å gjøre med Anthropics posisjonering og det generelle synet på AI som denne muligens eksistensielle teknologien, der Anthropic alltid har presentert seg selv som «Vi er de gjennomtenkte gode gutta», og hvorvidt du tror det er noe annet enn poenget. De har dette ryktet der ute: "Vi prøver å gjøre dette på en måte som er trygg, som respekterer menneskeheten og tar hensyn til alle disse tingene." Og så når du har det sammenstøtet, er det der kampen kommer inn.
Du har en Trump-administrasjon som bare vil være i stand til å gjøre hva den vil, og de er ikke subtile om det. Og så har du Anthropic, hvis selvbeskrivelse og dens offentlige personlighet alltid er som: "Vi er gjennomtenkte og vi respekterer menneskeheten og rettighetene og alle disse tingene." Det var sannsynligvis der sammenstøtet kom inn, fordi Anthropic, som det har blitt gjort klart, har jobbet med forsvarsdepartementet en stund og har mange andre kontrakter med regjeringen som de har brukt. Det har ikke vært et problem.
Det var bare i disse spesifikke områdene der, mens regjeringen forsøkte å utvide kontrakten den hadde, at seniorledelsen i Anthropic begynte å si: "Vent, vi må sørge for at vi ikke krysser disse røde linjene som potensielt ville skade omdømmet vårt som den gjennomtenkte, trygge AI-leverandøren."
Jeg vil kort spørre deg om overvåking generelt, og spesielt Anthropics fjerde endringsbekymring. Den fjerde endringen sier at regjeringen ikke kan søke deg urimelig. Den beste måten å forstå den fjerde endringen er ved å lytte til "99 Problems" av Jay-Z. Så hvis du trenger å ta en pause og høre på «99 Problems», er det flott. Alt er der inne. Jeg hørte på det da jeg gikk på jusstudiet, og det ga helt mening.
Men myndighetene trenger generelt en arrestordre for å ransake deg. Og etter hvert som mer og mer av livet ditt går på nett, er det mange og mange unntak fra dette. Men ideen er at de fortsatt burde trenge en kjennelse på nettet. Anthropics argument er: "Vel, AI vil aldri bli sliten. Den kan søke i alt hele tiden. Det betyr at vi bare kommer til å gjøre mesterovervåking."
Men selv før AI dukket opp, var ideen om at regjeringen kunne gjennomsøke alt som tilhørte deg der ute, ideen om at regjeringen ikke trengte en arrestordre for å gjennomsøke alle tingene dine var der ute. Ideen om at hvis noen av dataene dine noen gang gikk utenfor landet for et kort sekund, fanget myndighetene det opp der,
Da jeg gikk på college, rundt tidspunktet for Patriot Act, var debatten at de ikke kommer til å søke i de faktiske dataene dine, men de kan få metadataene og metadataene alene. Dataene om dataene dine vil være nok til å finne deg nøyaktig til enhver tid. Og selv det er for langt. Og vi har gjort denne dansen om hva kan regjeringen samle inn? Hva er tillatt? Hva trenger de for å holde oss alle trygge og hva er for langt? De linjene har flyttet seg.
Så beskriv kort den generelle bekymringen for overvåking på den skalaen og hvor vi er nå. Før AI-situasjonen gjorde alt eksponentielt mer komplisert.
Her må jeg introdusere et annet konsept som sannsynligvis burde vært nevnt tidligere, men det er viktig, som kalles "tredjepartsdoktrinen." Ideen med den fjerde endringen er at regjeringen ikke kan ransake deg eller tingene dine uten en arrestordre, og den kan ikke få en arrestordre uten sannsynlig årsak at du har begått en form for kriminalitet. Men det er dette konseptet som kom for flere tiår siden kalt tredjepartsdoktrinen, som sier at det ikke nødvendigvis gjelder, eller ikke gjelder i det hele tatt, for ting som ikke er dine, selv om det er dine data.
Den tidligste og mest åpenbare versjonen av dette var telefonregistreringer som telefonselskapet hadde over hvem du ringte. Telefonselskapene tok ikke opp samtalene dine, men de tok opp hvis jeg ringte deg, ville det være en post hos telefonselskapet som sier: "Mike ringer Nilay." Og det som hadde blitt bestemt av flere domstoler var at regjeringen kan gå og be om det, og de trenger ikke en arrestordre for det fordi det ikke er et søk pådataene dine, det er denne tredjeparten, og de kan godta som en tredjepart å bare overlevere disse dataene.
Men det var saker fra 1960- og 70-tallet, hvor det ble bestemt at regjeringen kan få tilgang til det uten en garanti, da det ikke var så mye tredjepartsdata der ute. Fremveksten av datamaskiner og internett endret det. Nå er alt tredjepartsdata. Alt vi gjør er samlet inn av et eller annet selskap et sted og har oversikt over det. Så i bunn og grunn hver bit av data om deg, hvor du er, hvem du snakker med, hvem du samhandler med, hva du sier, hva du gjør, alt dette holdes stort sett av tredjeparter i disse dager. Så tredjepartsdoktrinen har til en viss grad slukt hele det fjerde endringsforslaget, der alt som handler om deg som noen andre har, det er en mye lavere standard for hva regjeringen kan gjøre for å be om det.
Bare for å være spesifikk betyr dette at når dataene mine er i iCloud, kan myndighetene gå til Apple og få dataene mine ut av iCloud uten å fortelle meg det?
De kan be om det. De kan enkelt be om det uten en garanti. Da har selskapet sine egne rettigheter og kan bestemme hva de vil gjøre med den forespørselen. De kan bare gi opp. De kan, som de fleste av dem vil gjøre, hvis det er en alvorlig forespørsel, avvise forespørsler uten videre, eller de kan varsle deg og de kan si – og dette er hva de fleste av dem vil gjøre – de vil varsle deg og si: «Regjeringen ber om noen av dataene dine. Du kan gå til retten og prøve å blokkere dem.» Hvis ikke, vil de overlevere dataene dine om syv dager eller hva det måtte være.
Igjen, det kommer an på. Hvis det er en kriminell etterforskning, kan det være en slags gag-ordre der selskapet ikke har lov til å fortelle deg det. Det er alle slags situasjoner, men de fleste av dem involverer mindre enn beskyttelsesnivået som den fjerde endringen ville kreve hvis det var data eller informasjon eller noe i ditt eget hjem.
Mengden data du har på andres skyserver er enorm, ikke sant? Hver eneste ting du vanligvis gjør på internett nå, blir sikkerhetskopiert på en eller annen måte eller registrert på noen andres servere. Regjeringen har funnet denne måten å omgå den fjerde endringen og si: "Vel, det er faktisk ikke ditt. Det tilhører Amazon. Vi kan snakke med Amazon," og Amazon må stå midt i den prosessen og si: "Vi har oppfunnet en annen prosess for å beskytte folket litt."
Jeg ser på det – og da jeg dekket de første tredjeparts doktrinesakene som dekket skytjenestene og regjeringen fortsatte å vinne, var det egentlig da jeg ble Jokeren. Jeg tenkte: "Alle disse tingene som vi later som om tekstualisme og vanlig [lesing], ingenting av dette betyr noe fordi vi bare hestekrefter til bakdøren ved å bruke denne eldgamle loven i alles data."
Og så ser jeg på dette og jeg ser på Anthropic og jeg sier: "Vel, dette er det samme mønsteret." Dette er et privat selskap som sier: "Ok, vi forstår din posisjon. Vi forstår at du har omtolket loven slik at den betyr dette, og vi kommer til å sette en prosess mellom deg, verktøyet vårt og dataene til amerikanere som strømmer gjennom tjenesten vår." Jeg bare lurer på om du ser den parallellen der, mellom Anthropic og Amazon og Azure og hvilke andre skytjenester som finnes som inneholder så mye av dataene våre.
Ja, selv om det er noen få avklaringer som er viktige her som gjør dette litt annerledes. Og faktisk - jeg tror The New York Times hadde denne rapporteringen først - hovedklausulen som var viktigst for Anthropic var spesifikt om data samlet inn fra kommersielle tjenester og ikke å kunne bruke Claude på disse dataene, som er akkurat dette problemet når det gjelder tredjepartsdata. Men jeg ønsker å klargjøre hovedforskjellen mellom det vi nettopp snakket om før dette med Amazon eller andre tredjeparter som var vert for dataene dine, det var tilfeller der de var, på grunn av hvor de sitter i økosystemet, de var vert for dataene dine direkte.
Med Claude er det ikke det at noen er bekymret for at NSA ser gjennom Claude-bruken din. Det handler om at de går ut og henter tredjepartsdata fra Amazon, eller mer sannsynlig den typen sleipe, skjulte datameglere som viser annonser på telefonene dine og kjenner posisjonen din og interessene dine og slike ting. Og så mater det inn i et systemsom Claude deretter skulle jobbe med. Det var det Anthropic egentlig ikke ønsket å være en del av. Så uansett hvor eller hvordan regjeringen vil samle inn disse dataene fra en tredjepart, sa Anthropic: "Vi vil ikke at verktøyet vårt skal brukes på disse dataene."
Apple står som kjent opp mot FBI og ber den om å sette en bakdør i iPhone, og Apple sier «nei», og de står opp mot Trump. Og det er en del av hvordan systemet vårt fungerer der store private selskaper kan si «nei» til myndighetene på vegne av kundene sine. Og dette føltes på samme måte som Apple, igjen, ikke vil sette det bakdør på iPhone, eller de store skyleverandørene sier: "Det er litt av en prosess du må gå gjennom før du får de individuelle dataene."
Her ser det ut til at Anthropic sier: "Vi kommer ikke bare til å gjøre masseanalyse av data som du har innhentet fra andre parter fordi det fører til 24/7 masseovervåking av amerikanere, og vi ønsker ikke å gjøre det." Likevel virker det som en bro for langt for denne administrasjonen. Er det noen som kommer tilbake fra det?
Vi får se. Tidligere når det har skjedd - og det har skjedd mange ganger med de fleste av de store teknologiselskapene, har de på et tidspunkt sagt at noe er en bro for langt - hvor det vanligvis går er retten. Selskapene vil gå til retten eller administrasjonen vil gå til retten og det blir en slags rettskamp.
Bakdøren til iPhone er et perfekt eksempel på det. Det gikk til retten og de kjempet mot det, selv om de aldri kom helt til en konklusjon fordi FBI til slutt bare brøt seg inn i iPhone manuelt og så ikke ønsket at rettsavgjørelsen skulle ødelegge det i fremtiden.
Men i dette tilfellet, hvor eskaleringen er og hvor dette er forskjellig fra tidligere situasjoner, er at Trump-administrasjonen i stedet for bare å gå til rettssak, gjorde denne betegnelsen "forsyningskjederisiko", som rett og slett er galskap. Denne ideen om at dette verktøyet som ble designet for å stoppe potensielle utenlandske ondsinnede aktører fra å levere teknologi, som deretter kunne legge inn skjulte overvåkingsverktøy i den større teknologistabelen, at de kunne bli forbudt. Å bruke det på et USA-basert selskap for å ha en etikkpolicy føles som en reell, reell misbruk av det verktøyet.
Selv det verktøyet var tvilsomt på noen måter, men du kunne forstå drivkraften bak det når du snakker om et kinesisk nettverksfirma eller noe i den retning. Her gir det ingen mening. Så reaksjonen på dette går så langt utover det som normalt ville blitt sett i denne saken. Du kunne se tradisjonelt at det ville være en slags rettssak og hver side kunne starte den, og det ville bare være en kamp om hvordan kontrakten kunne brukes.
Men det er ikke det som skjer her. Denne administrasjonen sier effektivt: "Hvis du ikke gir oss absolutt alt vi ønsker, hvis du ikke setter opp verktøyene dine til å fungere slik vi vil at de skal fungere, så vil vi effektivt prøve å ødelegge hele virksomheten din." Og det er en eskalering.
Det er en del av dette jeg vil avslutte på, og det er på en måte den mest galakse-hjerne-versjonen av dette. FIRE, som er en fortalergruppe for ytringsfrihet, la ut et blogginnlegg rett før vi begynte å spille inn og argumenterte for at å tvinge Anthropic til å bygge verktøy den ikke vil bygge er et brudd på ytringsfriheten, at det er noe som kalles tvungen ytring. Det er mye historie her. Det er noe dyp Verge og Techdirt, i-the-weeds, eksistensiell krisehistorie her.
Men det kommer i bunn og grunn til ideen om at kode er tale, at å skrive kode for en datamaskin er en form for tale, og myndighetene kan ikke tvinge deg til å gjøre det, og det kommer en hel haug med ting fra det. Kjøper du dette argumentet om at det er tvunget tale å tvinge Anthropic til å bygge verktøy som de ikke vil bygge?
Ja, jeg synes faktisk det er ganske overbevisende. Overbevisende tvunget tale. Men nei, jeg synes det er et interessant argument. Det er en som hadde vært litt lenger ned på listen over problemene jeg tenkte på. Jeg var åpenbart mest fokusert på spørsmålene om det fjerde endringsforslaget, men jeg tror at FIRE-argumentet ikke er feil. Dette har vi sett i andre sammenhenger. Det kom også opp i bakdørsproblemet, når det gjelder å prøve å bygge bakdører inn i krypterte systemer.
Selskaper hevet definitivt førstEndring hevder, og sier: "Det er tvunget tale for å tvinge oss til å skrive den typen kode." Det er et gyldig argument. Det kan igjen være en som domstolene sannsynligvis er mindre villige til å ta tak i i utgangspunktet hvis de kan håndtere disse problemene på en annen måte. Men jeg er glad for at FIRE skrev det innlegget, og jeg synes det er et interessant og overbevisende argument.
Ja, det er bare naturen til den andre Trump-administrasjonen at det er et så sløvt instrument, det er nesten sikkert vi vil angripe alle problemene på en gang.
Ja, alle endringer i Bill of Rights må utfordres i en eller annen form med alle mulige problemstillinger.
[Ler] Snurr hjulet.
Jeg er sikker på at vi kan passe et tredje endringsbrudd et sted her.
Jada, ja. Claude må bo i huset ditt nå. Nøyaktig. Det kommer til å bli flott. Vi gjør [endringer] en, tre, fire og syv. Vi samler dem opp.
Mike, dette har vært flott. Jeg kan ikke tro at du ikke har vært på programmet før. Dette har vært flott. Du må komme tilbake snart.
Absolutt. Når du vil ha meg.
Spørsmål eller kommentarer om denne episoden? Ta kontakt med oss på decoder@theverge.com. Vi leser virkelig hver e-post!
