I dag taler vi om den rodede, hurtige situation hos Anthropic, Claudes skaber, der nu befinder sig i en meget grim juridisk kamp med Pentagon.
Frem og tilbage er kompliceret, men for et par dage siden havde Pentagon anset Anthropic for en forsyningskæderisiko, og Anthropic har anlagt en retssag, der udfordrer denne betegnelse, og siger, at regeringen har krænket sin første og femte ændringsret ved at "søge at ødelægge den økonomiske værdi skabt af en af verdens hurtigst voksende private virksomheder." Jeg kan fortælle dig lige nu: Vi kommer til at tale om drejningerne i den sag på The Verge og her på Decoder i de kommende måneder.
Men i dag ville jeg tage et øjeblik og virkelig grave ind her på et meget vigtigt element i denne situation, som ikke har fået nok opmærksomhed, da dette er kommet ud af kontrol: hvordan USA's regering udfører overvågning, den juridiske myndighed, der tillader denne overvågning at finde sted, og hvorfor Anthropic var mistroisk over for regeringen og sagde, at den ville følge loven, når det kommer til at bruge AI til at lave endnu mere overvågning.
Verge-abonnenter, glem ikke, at du får eksklusiv adgang til annoncefri dekoder, uanset hvor du får dine podcasts. Gå hertil. Ikke abonnent? Du kan tilmelde dig her.
Min gæst i dag er Mike Masnick, grundlæggeren og administrerende direktør for Techdirt, den fremragende og langvarige hjemmeside for teknologipolitik. Mike har skrevet om regeringens overgreb, privatliv i den digitale tidsalder og andre relaterede emner i årtier nu. Han er ekspert i, hvordan internettet og overvågningsstaten er vokset op på indbyrdes forbundne måder.
Ser du, der er, hvad loven siger, at regeringen kan gøre, når det kommer til at overvåge os, og så hvad regeringen vil gøre. Og vigtigst af alt er der, hvad regeringen siger, loven siger, den kan gøre, hvilket ofte er præcis det modsatte af, hvad enhver normal person, der blot læser loven, ville tro.
Du vil høre Mike forklare meget detaljeret her i denne episode, at vi ikke kan - og ikke bør - tage den amerikanske regering på ordet, når det kommer til overvågning. Der er bare for meget historie om regeringsadvokater, der har fordrejet fortolkningerne af simple ord som "mål" for at udvide overvågningen på komplicerede måder - måder, der normalt kun vækker bekymring i juridiske kredse og kun bobler op, når der er store kontroverser som whistleblower Ed Snowdens store NSA-afsløringer for mere end ti år siden.
Men der er intet subtilt eller sofistikeret ved politikudformning i Trump-æraen - og så med Anthropic har vi en meget højlydt, meget offentlig debat om teknologi og overvågning i realtid, på internettet, i blogindlæg og røntgen og over pressekonferences sound-bites. Der er positive og negative sider ved det, men for at give mening ud af det hele, skal du virkelig kende historien.
Det er, hvad Mike og jeg satte os for at forklare i denne episode - uanset hvad jeres syn på AI og regering er, vil denne episode gøre det klart, at begge parter har ladet overvågningsstaten blive større og større over tid. Nu er vi på nippet til den største udvidelse endnu, når det kommer til AI.
Okay: Techdirt-grundlægger og CEO Mike Masnick om Anthropic, Pentagon og AI-overvågning. Her går vi.
Dette interview er blevet let redigeret for længde og klarhed.
Mike Masnick, du er grundlægger og administrerende direktør for Techdirt. Velkommen til Decoder.
Jeg er glad for at være her.
Jeg er glad for at have dig på. Jeg sagde bare, at jeg er chokeret over, at du aldrig har været med i programmet før. Du og jeg har skrevet og postet omkring hinanden i lang tid. Meget af The Verge-forsikringsdækningen skylder en gæld til det, du har lavet hos Techdirt, og så er det, der foregår med Anthropic, så kompliceret, men rammer så mange temaer, som du har dækket så længe. Jeg er glad for, at du endelig er her.
Det er et kompliceret rod af et emne, men jeg er spændt på at grave i det.
Det, jeg vil fokusere på med dig, er ikke detaljerne om, hvorvidt Anthropic vil underskrive en kontrakt med regeringen, eller om OpenAI vil få den kontrakt. I stedet er jeg sikker på, at mellem det tidspunkt, vi optager dette, og det tidspunkt, folk lytter til det, vil der have været flere tweets, og flere ting vil være anderledes, end de var før.
Det, jeg vil fokusere på, er blot en af de to røde linjer, som Anthropic virkelig har lagt. En af dem erautonome våben, hvilket er dets eget komplikationsniveau. Loven der er en lille smule mere begyndende, uanset om våbnene overhovedet eksisterer eller allerede er blevet indsat af Rusland i Ukrainekrigen.
Der er mange ideer her, som jeg bare vil lægge det til side, fordi jeg tror, at det vil komme i mere fokus alt efter sin egen tidsplan. Den anden røde linje, som jeg vil bruge meget tid på, er masseovervågning. Og der er ret meget lov her om masseovervågning. Der er meget historie, meget kontroversiel historie. Hele karakteren af Edward Snowden eksisterer på grund af kontroverser omkring masseovervågning.
Det hele kommer ned til - jeg tror, det er dig, der har postet dette - National Security Agency (NSA), som er en del af forsvarsministeriet, som vi af en eller anden grund er nødt til at kalde krigsministeriet.
[griner] Vi behøver ikke at gøre noget.
[griner] Det gør vi ikke. Det er sandt her i Amerika. Vi skal ikke gøre noget. Men NSA har dybest set omdefineret, hvad mange ord betyder ud af dagligdags engelsk til at betyde, "Vi kan bare lave overvågning." Og så er der en gang imellem en skandale, når folk opdager, at de bare laver overvågning. Så sæt bare scenen der, og jeg vil ikke spole dig tilbage hele vejen, men det har været ret lang tid, hvor dette mønster har gentaget sig.
Det afhænger af, hvor dybt du vil gå, men den korte version er åbenbart i verden efter 9/11, USA vedtog Patriot Act, som havde en vis evne for regeringen til at engagere sig i overvågning, som skulle være for at beskytte os mod fremtidige terrortrusler. Med tiden blev det fortolket på interessante måder, og det var der nogle grænser for. Vi havde også FISA-domstolen, som er en særdomstol, der skal gennemgå efterretningssamfundet og deres aktiviteter, men som traditionelt har været en ensidig domstol. Kun den ene side kan føre deres sag for den domstol, og det hele foregår i hemmelighed.
Der er mange ting, der ikke var kendt. Og så var der en anden brik i alt dette, som går helt tilbage til Ronald Reagan, som er bekendtgørelse 12333, som angiveligt handler om at udstikke færdselsreglerne for efterretningsindsamling.
Så du har disse tre sæt love – ja, et par sæt love – og en bekendtgørelse, der for offentligheden, de dele, som du kan læse, synes at sige visse ting om, hvad vores regering og NSA i særdeleshed kan gøre med hensyn til overvågning. Når vi læser med en almindelig engelsk ordbog, hvis natur du og jeg sikkert har og forstår, ville vi komme væk med en tro på, at NSA's evne til at overvåge amerikanere var meget begrænset, faktisk til det punkt, at de formodes at, hvis de indser, at de overvåger en amerikansk person, at de formodes straks at stoppe op og græde grimt og slette alle disse andre data og.
Der var rygter i et stykke tid om, at det ikke rigtigt skete, og der var antydninger, og især senator Ron Wyden var meget højrøstet om at gå på senatets gulv og sige: "Der er noget, der ikke er rigtigt her, og jeg kan ikke helt fortælle dig hvad," eller i høringer spurgte han efterretningstjenestemænd, "Er du eller samler du ikke massedata om amerikanere?"
Disse embedsmænd ville enten aflede eller i nogle tilfælde direkte lyve. Jeg tror, det var en høring i 2012 med James Clapper, som var direktør for National Intelligence på det tidspunkt, hvor han blev spurgt direkte om dette punkt. Og han sagde dybest set: "Nej, vi indsamler ikke data om amerikanere." Det var en stor del af det, der inspirerede Ed Snowden til at lække dataene, rapporterne om, at han også lækkede til Glenn Greenwald og Barton Gellman og Laura Poitras. Ud fra alt det begyndte vi at opdage, at NSA har sin egen ordbog, der er noget anderledes end den ordbog, som du og jeg bruger, sådan at de kan fortolke ord på måder, der er anderledes end den almindelige engelske betydning af dem, inklusive ord som "mål", som føles som et nøgleord. En bred forståelse af, hvad dette er, er, at de i teorien kun skal målrette mod folk, der ikke er amerikanske personer, tror jeg er udtrykket.
Men måden det var blevet fortolket over tid på var, at alt, der nævner den person, alt, der handler om en fremmed person, nu er fair game, selvom det er kommunikationen fra enamerikansk person. Så hvis du og jeg skulle skrive til hinanden og nævne en udenlandsk person, er det nu fair game for NSA at indsamle og opbevare og opbevare.
Der er en anden del af dette. Jeg nævnte den første bekendtgørelse 12333 fra Ronald Reagan, som, efterhånden som teknologien ændrede sig over tid, og internettet voksede, effektivt tillod NSA at benytte sig af udenlandsk kommunikation, men det inkluderede enhver kommunikation, der måtte have forladt USA på vej et eller andet sted. Så hvis jeg sender en sms til dig, og en besked gik fra mig i Californien gennem et fiberoptisk kabel, der tilfældigvis forlod USA, kunne NSA sætte et tryk på delen, når den er uden for USA, og indsamle den information, selvom den bare skulle til dig i USA.
NSA kunne så beholde disse oplysninger, selvom det var på amerikanske personer, og de kunne foretage specifikke søgninger på det senere, nogle gange omtalt som "bagdørssøgninger." De indsamlede disse oplysninger, som vi mener, at de ikke skulle indsamle i første omgang, men de kunne beholde dem. Og de lovede, de svor pinky, at de ville holde det privat, men hvis de foretog en søgning og fandt ud af, at du eller jeg nævnte en fremmed person, så var det pludselig fair game for dem at gøre, hvad de vil med det.
I alt er det blevet til en verden, hvor den føderale regering dybest set kan indsamle enhver information, der tilfældigvis berører uden for USA. Selvom det er helt mellem to amerikanske personer, hvis de nævner eller endda antyder en, der ikke er en amerikansk person, er det pludselig fair spil at blive indsamlet. Og derfra har vi fået, hvad der ser ud til at være en form for masseovervågning af amerikanske personer af en NSA, der hævder og offentligt udtaler, at den ikke spionerer på amerikanske personer.
Hvordan kom vi til dette punkt? Dette er en masse trinvise babytrin. Du nævnte James Clapper i 2012, det er Obama-administrationen. Du nævnte Ronald Reagan, det er 1980'erne. Vi gennemgår demokrater og republikanere her.
Krigen mod terror skete i George W. Bush-administrationen, og 9/11 og Patriot Act skete i George W. Bush-administrationen. Der er en masse trinvise dårlige ting under præsidenter for begge partier, under kongresser for begge partier. Hvordan skete dette?
Den enkleste form for det er bare, at ingen, og bestemt ingen præsident, ønsker at være præsident i den tid, hvor der er et stort terrorangreb, fordi det får dem til at se dårligt ud. Det er klart, at de også vil beskytte amerikanerne, ikke? Det er en del af deres job. Hvis du har et efterretningssamfund, der dybest set opererer i mørke, fordi det er, hvad efterretningssamfund gør, og de bliver ved med at komme til dig og sige, "Hey, hvis vi bare kunne få adgang til disse oplysninger, ville det være virkelig nyttigt til at forhindre et terrorangreb."
Der kan være tilfælde, hvor det er sandt, at efterretningssamfundet er i stand til at bruge disse oplysninger på en måde, der fungerer godt. Men vi er også i teorien et samfund af love med en amerikansk forfatning, som vi formodes at adlyde. Men det gjorde det muligt for det faktum, at administration efter administration, igen, republikaner og demokrat, havde advokater, der var meget kloge, og som ville kigge igennem og sige: "Nå, hvis vi en slags holdninger på denne måde, eller vi siger på denne måde, eller vi fortolker dette, på den måde kan vi få, hvad vi ønsker og ikke teknisk bryde loven eller ikke teknisk overtræde det fjerde ændringsforslag."
Antagelsen var altid: "Vi kan på en måde bøje loven eller bøje vores fortolkning af loven, og ingen vil virkelig nogensinde se dette, eller ingen, der bekymrer sig, vil virkelig nogensinde se dette, og derfor slipper vi af sted med det."
Der er to ting, der virkelig springer over mig. For det første læser du og jeg begge en masse retsafgørelser - appelretsafgørelser og højesteretsafgørelser. Og der er en kamp i vores højesteret om, hvordan man bogstaveligt talt skal fortolke ordene i vores vedtægter og vores love.
Jeg vil ikke komme for langt ind i det, men jeg vil generelt sige, at ideen om, at du bare skal læse ordene på siden og gøre, hvad de siger, er den dominerende belastning af lovbestemt fortolkning i USA. Venstre eller højre, de siger det begge to. De skændes om nogle meget esoteriske fine punkter af, hvad det faktisk betyder. Men at du bare skal kunne læse disse ord og gøre, hvad de siger, det er ikke til at få fat i, vel?
Vi er i det mindste landet på det første pass af hvad du måskekalder tekstualisme. Hvordan kommer advokater fra begge administrationer så langt væk fra den dominerende måde for juridisk beslutningstagning i vores land? Begge parters dommere er enige om, at det i det mindste er det første skridt.
Jeg ville ønske, jeg vidste det præcise svar, men jeg tror, det er motiveret ræsonnement, ikke? Som advokat er du der for at forsvare din klient, og vores retssystems succes – hvis man kan kalde det succes – har en tendens til at være baseret på at have en modstridende situation, hvor man har forskellige sider, der skændes om disse ting, hvor dommerens rolle er at indsnævre sig og finde ud af, hvilken side der faktisk er korrekt.
Et af problemerne med efterretningssamfundet og opsætningen af det er, at du ikke har den modstridende situation. Det gør det lettere for den ene side at retfærdiggøre det argument, de fremsætter, fordi ingen virkelig skubber tilbage på det. Du kombinerer det med den overordnede frygt for endnu et terrorangreb, alt relateret til national sikkerhed, og selv når du har situationer, hvor du har FISA-domstolen - jeg mener, FISA-domstolen var noget berømt for effektivt at være et gummistempel i mange år.
Jeg glemmer de nøjagtige tal, men det var noget i retning af, at over 99 procent af ansøgningerne, der gik til FISA-domstolen for at tillade overvågning af visse situationer, blev givet, og det er nemt at sige, at 99 procent åbenlyst er for meget. Det er klart, at de, der fremsætter krav for retten, vælger og vælger. De kommer for det meste ikke med helt skøre påstande. Men uden det modstridende aspekt og med en meget stærkt motiveret gruppe mennesker, der tænker: "Vi er nødt til at gøre det her," eller bliver fortalt af en administration, "Vi skal gøre det her", vil de finde måder at gøre det på. Og det er der, du ender med tiden.
Har der været nogen involveret i denne proces, som nogensinde er vågnet op og sagt til sig selv: "Dreng, vi har formået at omdefinere ordet 'mål' til at betyde alt, hvad vi vil"?
[Griner] Du havde tydeligvis Ed Snowden, som lækkede en masse dokumenter. Du havde John Napier Tye, som skrev et stykke til The Washington Post i 2014, som afslørede fortolkningen af Executive Order 12333, og sagde, at det er det virkelige problem at være opmærksom på. Du har andre mennesker, der har talt om disse ting, men for det meste er de mennesker, der er involveret i at arbejde inden for administrationen med efterretningstjenester, købt ind i efterretningssamfundets syn, som er, at det altoverskyggende mål er at beskytte landet mod noget dårligt. Den bedste måde at gøre det på er at have så meget information som muligt.
Det er let at være sympatisk over for argumentet om, at ja, at have mere information kan give dem mulighed for at fange noget tidligere eller finde noget vigtigt, men det er måske ikke sandt. At få for meget information er sandsynligvis lige så slemt som for lidt information, fordi det ofte kan skjule den information, der faktisk er brugbar, den information, som du faktisk skal bruge for at bestemme noget.
Men vi har også en U..S. Forfatning i første omgang, og vi har grunde til, at vi i teorien ikke skal tillade masseovervågning uden sandsynlig årsag. Som et land, der tror på retsstaten, burde vi være i stand til at leve op til det, og når alt det her sker i mørke, vil du have en tendens til at miste det af syne.
Dette bringer mig til Anthropic. Anthropic er primært en virksomhedsvirksomhed. De er gode til regeringen, de har opbygget de muskler, de er bemandet af folk, der er virkelig velbevandrede i nogle af de her ting. De så åbenbart på Pete Hegseth, der sagde: "Vi vil have alle lovlige anvendelser," og de gik to niveauer af fortolkning ned og sagde: "Nå, din bogstavelige overbevisning er, at disse ord ikke betyder, hvad de siger, de betyder på deres ansigt. Så 'al lovlig brug' er for stor, og vi vil gerne sætte nogle autoværn især omkring masseovervågning."
Igen, jeg har tænkt mig at udskille autonome våben, som var den anden røde linje, men især med hensyn til masseovervågning er Dario Amodi derude og siger: "Vi kan gøre for meget. Det er for farligt. Dette er en overtrædelse af det fjerde ændringsforslag."
Spændingen der er "du siger, at du vil overholde disse love, der siger én ting, og nu, efter al denne tid, betyder de noget helt andet, og det vil vi bare ikke være en del af." Det er denkæmpe. Jeg vil bare sammenligne det med Sam Altman, der stikker ind for at sige: "Vi vil gøre alle lovlige anvendelser," og derefter sender denne lange besked med at sige: "Her er alle de love, vi skal overholde."
Det ser ud til, at Altman ikke vidste, hvordan NSA havde genfortolket disse ting og på en måde blev taget en tur. Og han er siden begyndt at gå tilbage - selvom vi optager, er jeg overbevist om, at der er flere tweets, og alles holdninger har ændret sig. Men Altman har gået det langsomt tilbage, men det ser ud til, at OpenAI blev drevet til at læse vedtægterne på deres ansigt og tro på, hvad de sagde. Er det også din fortolkning af begivenheder?
Der er to muligheder, og det er en af dem. Den ene er, at han blev spillet på samme måde, som offentligheden blev spillet i mange år. Den alternative teori, og jeg har ingen idé om, hvilken af disse er sand, er, at han eller nogle af advokaterne hos OpenAI - som jeg synes er meget kompetente og meget vidende - vidste dette, men troede, at de kunne spille det samme spil, som NSA spillede i et par årtier, idet så længe de siger disse ting, og så siger de ordene, men de afslører ikke de faktiske fortolkninger, at de også kunne slippe af sted med det. Så Sam kommer ud med udtalelsen, der får det til at se ud som "Vi havde nøjagtig de samme røde linjer, som Anthropic havde, og regeringen var fantastisk med det."
Faktisk tror jeg, at Sam Altman sagde, at Anthropic havde to røde streger, og OpenAI havde tre, og regeringen havde det helt fint med det, og det fik mange mennesker til at klø sig i hovedet. Men jeg tror, det må være enten, at Sam Altman og den, der omgav ham, ikke forstod, hvordan disse ting fungerer i praksis, eller også gjorde de det, og de antog bare, at offentligheden ikke ville vide det, og derfor kunne de slippe af sted med det.
Den anden ting, der kommer til at tænke på - igen, AI er nyt, og det er så fristende at komme til nye teknologier, da disse er problemer med det første indtryk. "Ingen har nogensinde skullet tænke på det her før," men virkeligheden er, at alle har tænkt på det her i lang tid. Måske er det, der er nyt her, ikke AI, men at den anden Trump-administration, i stedet for at lave en masse advokater, som måske ingen nogensinde vil læse for at retfærdiggøre deres handlinger over for en hemmelig domstol, som ingen er opmærksomme på, i stedet bare ikke er så subtil.
De er ikke så sofistikerede, og de siger bare, at de vil spionere på alle hele tiden. De har netop annonceret deres intentioner på en måde, så alle administrationer måske bare skulle annoncere deres intentioner og se, hvor chipsene falder.
Men jeg ser på, at der var Ed Snowden her i New York City. AT&T driver en bygning, som alle ved er en NSA-bygning. Det er bare en kæmpe bygning, og vi skal foregive, at det ikke er et NSA-overvågningscenter, men det er lige der. Det er kæmpestort. Intet af det ser ud til at være blevet til noget. Alle disse afsløringer, disse lækager, vi har ikke bakket op om det.
Faktisk er det kun steget, efterhånden som så meget af vores liv er blevet mere og mere digitalt. Og måske, at Trump-administrationen til enhver tid er sådan et afstumpet instrument, kan det faktisk være det, der forårsager regnskabet. Kan du se det spille ud alligevel?
Der er et par forskellige ting der, og det er ikke helt rigtigt, at vi slet ikke har bakket op om det her. Afsløringerne fra Snowden førte til nogle ændringer i, hvordan disse ting sker. Og der er nu - jeg glemmer, hvad de hedder, men de er ligesom disse civile amicus-folk i FISA-domstolen, der vil fungere som at præsentere den anden side i visse spørgsmål.
Og vi har set nogle af myndighederne begrænsede på visse måder, og de kommer op til genautorisation af og til, og aktivister har været meget aggressive med at skubbe tilbage og forsøge at sætte nogle flere autoværn på. Men til det større spørgsmål, så tror jeg, der er to forskellige ting. Du har halvt ret i, at denne administration ikke er subtil og bare siger højt de ting, den ikke burde.
"Vi er i krig med Iran, vi gør det, det sker. Vi vil ikke engang prøve dansen."
På måder, som alle tidligere administrationer ikke ville gøre. Men det har de egentlig ikke sagt direkte omovervågning, især overvågning af amerikanere. Der har været antydninger af det, men de er ikke kommet så stærkt ud af det. Den anden halvdel af det har mere at gøre med Anthropics positionering og det generelle syn på AI som denne muligvis eksistentielle teknologi, hvor Anthropic altid har præsenteret sig selv som: "Vi er de tankevækkende gode fyre", og hvorvidt du tror på det, er noget ud over pointen. De har dette ry derude: "Vi forsøger at gøre dette på en måde, der er sikker, som respekterer menneskeheden og er opmærksom på alle disse ting." Og så når du har det sammenstød, er det her, kampen kommer ind.
Du har en Trump-administration, der bare vil være i stand til at gøre, hvad den vil, og de er ikke subtile omkring det. Og så har du Anthropic, hvis selvbeskrivelse og dens offentlige person altid er som: "Vi er betænksomme, og vi respekterer menneskeheden og rettighederne og alle disse ting." Det var sandsynligvis her, sammenstødet kom ind, for Anthropic har, som det er blevet gjort klart, arbejdet med forsvarsministeriet i et stykke tid og har mange andre kontrakter med regeringen, som det har brugt. Det har ikke været et problem.
Det var kun i disse specifikke områder, hvor regeringen forsøgte at udvide den kontrakt, den havde, at den øverste ledelse af Anthropic begyndte at sige: "Vent, vi er nødt til at sikre os, at vi ikke krydser disse røde linjer, der potentielt ville skade vores omdømme som den betænksomme, sikre AI-udbyder."
Jeg vil kort spørge dig om overvågning generelt, og i særdeleshed Anthropics fjerde ændringsforslag. Den fjerde ændring siger, at regeringen ikke urimeligt kan ransage dig. Den bedste måde at forstå det fjerde ændringsforslag på er ved at lytte til "99 Problemer" af Jay-Z. Så hvis du har brug for at tage en pause og lytte til "99 Problemer", er det fantastisk. Det hele er derinde. Jeg lyttede til det, da jeg gik på jurastudiet, og det gav god mening.
Men regeringen har generelt brug for en kendelse for at ransage dig. Og efterhånden som mere og mere af dit liv går online, er der masser af undtagelser fra dette. Men tanken er, at de stadig skal bruge en kendelse online. Anthropics argument er: "Jamen, AI'en bliver aldrig træt. Den kan søge i alt hele tiden. Det betyder, at vi bare skal lave mesterovervågning."
Men selv før AI dukkede op, var ideen om, at regeringen kunne ransage alt, hvad der tilhørte dig, derude, ideen om, at regeringen ikke behøvede en kendelse til at ransage alle dine ting, var derude. Ideen om, at hvis nogen af dine data nogensinde gik uden for landet i et kort sekund, opsnappede regeringen dem der,
Da jeg gik på college, omkring tidspunktet for Patriot Act, var debatten, at de ikke ville søge i dine faktiske data, men de kan få metadata og metadata alene. Dataene om dine data vil være nok til at finde dig præcist til enhver tid. Og selv det er for langt. Og vi har lavet denne dans om, hvad kan regeringen indsamle? Hvad er tilladt? Hvad har de brug for for at holde os alle sikre, og hvad er for langt? De linjer har flyttet sig.
Så beskriv blot kort den generelle bekymring omkring overvågning på den skala, og hvor vi er nu. Før AI-situationen gjorde alting eksponentielt mere kompliceret.
Her er jeg nødt til at introducere et andet begreb, som nok burde have været nævnt tidligere, men det er vigtigt, som kaldes "tredjepartsdoktrinen." Ideen med det fjerde ændringsforslag er, at regeringen ikke kan ransage dig eller dine ting uden en kendelse, og den kan ikke få en kendelse uden sandsynlig årsag, at du har begået en form for kriminalitet. Men der er dette koncept, som opstod for årtier siden, kaldet tredjepartsdoktrinen, som siger, at det ikke nødvendigvis gælder, eller slet ikke gælder, for ting, der ikke er dine, selvom det er dine data.
Den tidligste og mest åbenlyse version af dette var telefonoptegnelser, som telefonselskabet havde over, hvem du ringede til. Telefonselskaberne optog ikke dine opkald, men de optog, hvis jeg ringede til dig, ville der være en registrering hos telefonselskabet, der siger: "Mike ringer til Nilay." Og hvad der var blevet bestemt af flere domstole var, at regeringen kan gå hen og anmode om det, og de behøver ikke en kendelse for det, fordi det ikke er en ransagning afdine data, det er denne tredjepart, og de kan acceptere som tredjepart blot at udlevere disse data.
Men det var sager fra 1960'erne og 70'erne, hvor det blev fastslået, at regeringen kan få adgang til det uden en kendelse, hvor der ikke var så meget tredjepartsdata derude. Fremkomsten af computere og internettet ændrede det. Nu er alt tredjepartsdata. Alt, hvad vi gør, er indsamlet af et eller andet firma et eller andet sted og har en registrering af det. Så dybest set alle data om dig, hvor du er, hvem du taler med, hvem du interagerer med, hvad du siger, hvad du laver, alt det er stort set i besiddelse af tredjeparter i disse dage. Så tredjepartsdoktrinen har slugt hele det fjerde ændringsforslag til en vis grad, hvor alt, der handler om dig, som en anden har, er der en meget lavere standard for, hvad regeringen kan gøre for at anmode om det.
Bare for at være specifik betyder det, at når mine data er i iCloud, kan regeringen gå til Apple og få mine data ud af iCloud uden nogensinde at fortælle mig det?
De kan anmode om det. De kan nemt anmode om det uden en kendelse. Så har virksomheden sine egne rettigheder og kan bestemme, hvad de vil med den anmodning. De kan bare opgive det. De kan, som de fleste af dem vil gøre, hvis det er en seriøs anmodning, uden videre afvise anmodninger, eller de kan advare dig, og de kan sige - og det er, hvad de fleste af dem vil gøre - de vil advare dig og sige: "Regeringen anmoder om nogle af dine data. Du kan gå til retten og forsøge at blokere dem." Hvis ikke, vil de udlevere dine data om syv dage eller hvad det nu måtte være.
Igen, det afhænger af. Hvis det er en kriminel efterforskning, så kan der være en slags gag-ordre, hvor virksomheden ikke må fortælle dig. Der er alle mulige situationer, men de fleste af dem involverer mindre end det beskyttelsesniveau, som den fjerde ændring ville kræve, hvis det var data eller information eller noget i dit eget hjem.
Mængden af data, du har på en andens cloud-server, er enorm, ikke? Hver eneste ting, du generelt gør på internettet nu, er sikkerhedskopieret på en eller anden måde eller optaget på en eller anden måde på en andens servere. Regeringen har fundet denne måde at komme uden om den fjerde ændring og sige: "Nå, det er faktisk ikke din. Det tilhører Amazon. Vi kan gå og tale med Amazon," og Amazon er nødt til at stå midt i den proces og sige: "Vi har opfundet en anden proces for at beskytte folket lidt."
Jeg ser på det – og da jeg dækkede de første tredjepartsdoktrinsager, der dækkede cloudtjenesterne, og regeringen blev ved med at vinde, var det dybest set, da jeg blev til Jokeren. Jeg tænkte: "Alt det her, som vi foregiver om tekstualisme og almindelig [læsning], intet af dette betyder noget, fordi vi bare hestekræfter til bagdøren ved at bruge denne gamle lov i alles data."
Og så ser jeg på dette, og jeg ser på Anthropic, og jeg siger, "Nå, det er det samme mønster." Dette er et privat firma, der siger: "Okay, vi forstår din holdning. Vi forstår, at du har genfortolket loven til at betyde denne ting, og vi vil lægge en proces ind mellem dig, vores værktøj og data fra amerikanere, der flyder gennem vores tjeneste." Jeg spekulerer bare på, om du ser den parallel der, mellem Anthropic og Amazon og Azure og hvilke andre cloud-tjenester, der findes, der rummer så meget af vores data.
Ja, selvom der er et par afklaringer, der er vigtige her, som gør det lidt anderledes. Og faktisk - jeg tror, at The New York Times havde denne rapportering først - handlede den vigtigste klausul, der var vigtigst for Anthropic, specifikt om data indsamlet fra kommercielle tjenester og ikke at kunne bruge Claude på de data, hvilket er præcis dette problem med hensyn til tredjepartsdata. Men jeg vil gerne præcisere hovedforskellen mellem det, vi lige talte om før dette med Amazon eller andre tredjeparter, der hostede dine data, det var tilfælde, hvor de var, på grund af hvor de sidder i økosystemet, de hostede dine data direkte.
Med Claude er det ikke sådan, at nogen er bekymrede for, at NSA kigger igennem dit Claude-brug. Det handler om, at de går ud og henter tredjepartsdata fra Amazon eller mere sandsynligt den slags luskede, skjulte datamæglere, der viser annoncer på dine telefoner og kender din placering og dine interesser og sådan noget. Og så føre det ind i et systemsom Claude så ville arbejde videre med. Det var det, Anthropic egentlig ikke ønskede at være en del af. Så uanset hvor eller hvordan regeringen ville indsamle disse data fra en tredjepart, sagde Anthropic: "Vi ønsker ikke, at vores værktøj skal bruges på disse data."
Apple stiller sig berømt over for FBI og beder den om at sætte en bagdør i iPhonen, og Apple siger "nej", og de står op mod Trump. Og der er en del af, hvordan vores system fungerer, hvor store private virksomheder får sagt "nej" til regeringen på vegne af deres kunder. Og dette føltes på samme måde, som Apple igen ikke vil sætte det bagdør på iPhone, eller de store cloud-udbydere siger: "Der er lidt af en proces, du skal springe igennem, før du får de individuelle data."
Her ser det ud til, at Anthropic siger: "Vi vil ikke kun lave masseanalyse af data, som du har erhvervet fra andre parter, fordi det fører til 24/7 masseovervågning af amerikanere, og det ønsker vi ikke at gøre." Alligevel virker det som en bro for langt for denne administration. Kommer der nogen tilbage fra det?
Vi vil se. Tidligere, når det er sket - og det er sket mange gange med de fleste af de store teknologivirksomheder, har de på et tidspunkt sagt, at noget er en bro for langt - hvor det normalt går, er retten. Virksomhederne vil gå til retten, eller administrationen vil gå til retten, og der vil være en slags retsstrid.
Bagdøren til iPhone er et perfekt eksempel på det. Det gik til retten, og de kæmpede ud af det, selvom de aldrig nåede til en konklusion, fordi FBI til sidst bare manuelt brød ind i iPhonen og så ikke ønskede, at rettens afgørelse skulle ødelægge det i fremtiden.
Men i dette tilfælde, hvor eskaleringen er, og hvor dette er forskelligt fra de tidligere situationer, er, at Trump-administrationen i stedet for blot at gå til retten, gjorde denne "forsyningskæderisiko", hvilket bare er sindssygt. Denne idé om, at dette værktøj, der var designet til at stoppe potentielle udenlandske ondsindede aktører fra at levere teknologi, som derefter kunne lægge skjulte overvågningsværktøjer ind i den større teknologistak, at de kunne forbydes. At anvende det på en amerikansk-baseret virksomhed grundlæggende for at have en etisk politik føles som et reelt, reelt misbrug af det værktøj.
Selv det værktøj var på nogle måder tvivlsomt, men du kunne forstå drivkraften bag det, når du taler om et kinesisk netværksfirma eller noget i den retning. Her giver det ingen mening. Så reaktionen på dette går så langt ud over, hvad man normalt ville se i denne sag. Man kunne se, at der traditionelt ville være en form for retssag, og begge parter kunne starte den, og det ville bare være en kamp om, hvordan kontrakten kunne anvendes.
Men det er ikke det, der sker her. Denne administration siger effektivt: "Hvis du ikke giver os absolut alt, hvad vi ønsker, hvis du ikke sætter dine værktøjer op til at fungere, som vi vil have dem til at fungere, så vil vi effektivt forsøge at ødelægge hele din virksomhed." Og det er en eskalering.
Der er et stykke af dette, som jeg vil slutte med, og det er en slags den mest galakse-hjerne-version af dette. FIRE, som er en fortalervirksomhed for ytringsfrihed, udsendte et blogindlæg, lige før vi begyndte at optage, med argumentet om, at det at tvinge Anthropic til at bygge værktøjer, det ikke ønsker at bygge, er en krænkelse af ytringsfriheden, at det er noget, der kaldes tvunget tale. Der er meget historie her. Der er noget dyb Verge og Techdirt, in-the-weeds, eksistentiel krisehistorie her.
Men det kommer dybest set ned på ideen om, at kode er tale, at at skrive kode til en computer er en form for tale, og regeringen kan ikke tvinge dig til at gøre det, og en hel masse ting flyder fra det. Køber du dette argument om, at det er tvunget tale at tvinge Anthropic til at bygge værktøjer, som den ikke ønsker at bygge?
Ja, jeg synes faktisk, det er ret overbevisende. Overbevisende tvungen tale. Men nej, jeg synes, det er et interessant argument. Det er en, der havde været lidt længere nede på listen over de problemer, jeg tænkte på. Jeg var åbenbart mest fokuseret på spørgsmålene om det fjerde ændringsforslag, men jeg tror, at FIRE-argumentet ikke er forkert. Det har vi set i andre sammenhænge. Det dukkede også op i bagdørsproblemet med hensyn til at forsøge at bygge bagdøre ind i krypterede systemer.
Virksomheder rejste bestemt førstÆndringen hævder og siger: "Det er tvunget tale at tvinge os til at skrive den slags kode." Det er et gyldigt argument. Det kan igen være en, som domstolene sandsynligvis er mindre villige til at tage fat på i starten, hvis de kan håndtere disse spørgsmål på en anden måde. Men jeg er glad for, at FIRE lavede det indlæg, og jeg synes, det er et interessant og overbevisende argument.
Ja, det er bare naturen af den anden Trump-administration er, at det er så sløvt et instrument, det er næsten sikkert, at vi vil angribe alle problemerne på én gang.
Ja, enhver ændring af Bill of Rights skal anfægtes i en eller anden form med alle mulige spørgsmål.
[griner] Drej hjulet.
Jeg er sikker på, at vi kan passe et tredje ændringsforslag et sted herinde.
Selvfølgelig, ja. Claude skal bo i dit hus nu. Nøjagtig. Det bliver fantastisk. Vi laver [ændringsforslag] et, tre, fire og syv. Vi samler dem op.
Mike, det har været fantastisk. Jeg kan ikke fatte, at du ikke har været med i showet før. Det har været fantastisk. Du er nødt til at komme tilbage snart.
Absolut. Når du vil have mig.
Spørgsmål eller kommentarer til denne episode? Kontakt os på decoder@theverge.com. Vi læser virkelig hver e-mail!
