Vandag praat ons oor die morsige, vinnig bewegende situasie by Anthropic, die vervaardiger van Claude wat hom nou in 'n baie lelike regstryd met die Pentagon bevind.
Die heen-en-weer is ingewikkeld, maar van 'n paar dae gelede het die Pentagon Anthropic as 'n voorsieningskettingrisiko beskou, en Anthropic het 'n regsgeding ingedien wat daardie aanwysing betwis en gesê dat die regering sy Eerste en Vyfde Wysigingsregte geskend het deur "te probeer om die ekonomiese waarde wat deur een van die wêreld se vinnigste groeiende private maatskappye geskep word, te vernietig." Ek kan nou vir jou sê: Ons gaan in die komende maande op The Verge en hier op Decoder oor die kinkels van daardie saak praat.
Maar vandag wou ek 'n oomblik neem en regtig hier ingaan op een baie belangrike element van hierdie situasie wat nie genoeg aandag gekry het nie, aangesien dit buite beheer geraak het: hoe die regering van die Verenigde State toesig doen, die wetlike gesag wat daardie toesig laat plaasvind, en hoekom Anthropic wantrouig was teenoor die regering en gesê het dat hy die wet sal volg wanneer dit kom by die gebruik van KI om nog meer toesig te doen.
Verge-intekenare, moenie vergeet dat jy eksklusiewe toegang tot advertensievrye dekodeerder kry waar jy jou poduitsendings kry nie. Gaan hierheen. Nie 'n intekenaar nie? Jy kan hier inskryf.
My gas vandag is Mike Masnick, die stigter en HUB van Techdirt, die uitstekende en langlopende tegnologiebeleidwebwerf. Mike skryf al dekades lank oor regeringsoortreding, privaatheid in die digitale era en ander verwante onderwerpe. Hy is 'n kenner van hoe die internet en die toesigstaat op onderling gekoppelde maniere grootgeword het.
Jy sien, daar is wat die wet sê die regering kan doen wanneer dit kom by die toesig oor ons, en dan wat die regering wil doen. En die belangrikste, daar is wat die regering sê die wet sê dit kan doen, wat dikwels presies die teenoorgestelde is van wat enige normale persoon wat bloot die wet lees, sou dink.
Jy sal Mike hier in hierdie episode breedvoerig hoor verduidelik dat ons nie die Amerikaanse regering kan – en nie moet – op sy woord neem wanneer dit by toesig kom nie. Daar is net te veel geskiedenis van regeringsadvokate wat die interpretasies van eenvoudige woorde soos "teiken" verdraai om toesig op ingewikkelde maniere uit te brei - maniere wat gewoonlik net kommer veroorsaak in regskringe, en net opborrel wanneer daar groot kontroversies is soos fluitjieblaser Ed Snowden se groot NSA-onthullings meer as 'n dekade gelede.
Maar daar is niks subtiel of gesofistikeerd aan beleidmaking in die Trump-era nie - en so met Anthropic het ons 'n baie harde, baie openbare debat oor tegnologie en toesig in reële tyd, op die internet, in blogplasings en X-rants, en oor perskonferensie-klankstukke. Daar is positiewe en negatiewe aspekte daaraan, maar om sin te maak van dit alles, moet jy regtig die geskiedenis ken.
Dit is wat ek en Mike in hierdie episode wou verduidelik - wat ook al jou sienings oor KI en regering is, hierdie episode sal dit duidelik maak dat beide partye die toesigstaat mettertyd groter en groter laat word het. Nou is ons op die punt van die grootste uitbreiding nog wat KI betref.
Goed: Mike Masnick, stigter en uitvoerende hoof van Techdirt, oor Anthropic, die Pentagon en KI-toesig. Hier gaan ons.
Hierdie onderhoud is lig geredigeer vir lengte en duidelikheid.
Mike Masnick, jy is die stigter en uitvoerende hoof van Techdirt. Welkom by Decoder.
Ek is bly om hier te wees.
Ek is opgewonde om jou aan te hê. Ek het net gesê ek is geskok dat jy nog nooit voorheen op die program was nie. Ek en jy skryf en plaas al lank om mekaar. Baie van die The Verge-polisdekking is skuld aan wat jy by Techdirt gedoen het en dan is wat met Anthropic aangaan so ingewikkeld, maar tref soveel temas wat jy so lank gedek het. Ek is bly jy is uiteindelik hier.
Dit is 'n ingewikkelde gemors van 'n onderwerp, maar ek is opgewonde om daaroor te delf.
Waarop ek met jou wil fokus, is nie die besonderhede of Anthropic 'n kontrak met die regering gaan teken en of OpenAI daardie kontrak gaan kry nie. In plaas daarvan, ek is vol vertroue tussen die tyd wat ons dit opneem en die tyd wat mense daarna luister, sal daar meer twiets gewees het en meer dinge sal anders wees as wat hulle voorheen was.
Waarop ek wil fokus, is net een van die twee rooi lyne wat Anthropic werklik uitgelê het. Een van hulle isoutonome wapens, wat sy eie vlak van komplikasie is. Die wet daar is 'n bietjie meer aan die begin, of die wapens selfs bestaan of nie reeds deur Rusland in die Oekraïne-oorlog ontplooi is nie.
Daar is baie idees hier wat ek net wil opsy sit, want ek dink dit gaan meer gefokus word op sy eie skedule. Die ander rooi lyn waaraan ek wel baie tyd wil spandeer, is massa-toesig. En daar is nogal baie wette hier oor massa-toesig. Daar is baie geskiedenis, baie kontroversiële geskiedenis. Die hele karakter van Edward Snowden bestaan as gevolg van kontroversies rondom massa-toesig.
Dit kom alles neer op—ek dink jy is die een wat dit geplaas het—die Nasionale Veiligheidsagentskap (NSA), wat deel is van die Departement van Verdediging, wat ons nou om een of ander rede die Departement van Oorlog moet noem.
[Lag] Ons hoef niks te doen nie.
[Lag] Ons doen nie. Dit is waar hier in Amerika. Ons hoef niks te doen nie. Maar die NSA het basies herdefinieer wat baie woorde uit spreektaal beteken om te beteken: "Ons kan net toesig doen." En dan is daar kort-kort 'n skandaal wanneer mense ontdek dat hulle net toesig doen. So sit net die verhoog daar, en ek wil jou nie heeltemal terugspoel nie, maar dit was nogal baie tyd waar hierdie patroon homself herhaal het.
Dit hang af van hoe diep jy wil gaan, maar die kort weergawe is natuurlik in die post-9/11 wêreld, die VSA het die Patriot Act aanvaar, wat 'n mate van vermoë gehad het vir die regering om betrokke te raak by toesig, wat veronderstel was om ons te beskerm teen toekomstige terreurbedreigings. Met verloop van tyd het dit op interessante maniere geïnterpreteer en daar was 'n paar beperkings daarop. Ons het ook die FISA-hof gehad, wat 'n spesiale hof is wat veronderstel is om die intelligensiegemeenskap en hul aktiwiteite te hersien, maar wat tradisioneel 'n eensydige hof was. Slegs een kant kan hul saak by daardie hof bepleit en dit word alles in die geheim gedoen.
Daar is baie goed wat nie bekend was nie. En dan was daar nog een stuk in dit alles, wat heeltemal teruggaan na Ronald Reagan, wat Uitvoerende Bevel 12333 is, wat kwansuis gaan oor die uiteensetting van die padreëls vir intelligensie-insameling.
So jy het hierdie drie stelle wette - wel, 'n paar stelle wette - en 'n uitvoerende bevel wat vir die publiek, die dele wat jy kan lees, blykbaar sekere dinge sê oor wat ons regering en die NSA in die besonder kan doen in terme van toesig. Wanneer dit gelees word met 'n eenvoudige Engelse woordeboek, waarvan ek en jy waarskynlik die aard het en verstaan, sou ons wegkom met 'n oortuiging dat die NSA se vermoë om Amerikaners te dophou baie beperk is, eintlik tot die punt dat hulle veronderstel is om, as hulle besef dat hulle 'n Amerikaanse persoon dophou, dat hulle veronderstel is om dadelik te stop en te huil en al hierdie ander goed uit te vee en die ander goed uit te vee.
Daar was vir 'n rukkie gerugte dat dit nie regtig gebeur het nie en daar was wenke en veral senator Ron Wyden was baie stemmig oor die feit dat hy op die vloer van die Senaat gegaan het en gesê het: "Iets is nie reg hier nie en ek kan jou nie heeltemal sê wat nie," of in verhore sou hy intelligensie-amptenare vra, "Is jy of versamel jy nie massadata oor Amerikaners nie?"
Daardie amptenare sou óf aflei óf in sommige gevalle ronduit lieg. Ek glo dit was een verhoor in 2012 met James Clapper, wat destyds die Direkteur van Nasionale Intelligensie was, waar hy direk oor hierdie punt gevra is. En hy het basies gesê: "Nee, ons samel nie data oor Amerikaners in nie." Dit was 'n groot deel van wat Ed Snowden geïnspireer het om die data uit te lek, die berigte wat hy ook aan Glenn Greenwald en Barton Gellman en Laura Poitras uitgelek het. Van dit alles, wat ons begin ontdek het, was dat die NSA sy eie woordeboek het wat ietwat anders is as die woordeboek wat ek en jy gebruik, sodat hulle woorde kan interpreteer op maniere wat anders is as die gewone Engelse betekenis daarvan, insluitend woorde soos "teiken", wat soos 'n sleutelwoord voel. 'n Breë begrip van wat dit is, is dat hulle in teorie slegs veronderstel is om mense te teiken wat nie Amerikaanse persone is nie, dink ek is die frase.
Maar die manier waarop dit met verloop van tyd geïnterpreteer is, was dat enigiets wat daardie persoon noem, enigiets wat oor 'n vreemde persoon handel, nou regverdige spel is, selfs al is dit die kommunikasie van 'nAmerikaanse persoon. So as ek en jy mekaar sou SMS en 'n vreemde persoon noem, is dit nou 'n regverdige spel vir die NSA om in te samel en te hou en te stoor.
Daar is 'n tweede deel hiervan. Ek het die eerste Uitvoerende Bevel 12333 van Ronald Reagan genoem, wat, soos die tegnologie met verloop van tyd verander het en die internet gegroei het, die NSA effektief toegelaat het om buitelandse kommunikasie te benut, maar dit het enige kommunikasie ingesluit wat die VSA dalk iewers op pad gelaat het. So as ek vir jou 'n SMS stuur en 'n boodskap het van my af in Kalifornië gegaan deur 'n optieseveselkabel wat toevallig die VSA verlaat het, kan die NSA 'n kraan in die deel sit sodra dit buite die VSA is en daardie inligting insamel, al sou dit net na jou binne die VSA gaan.
Die NSA kon dan daardie inligting hou, selfs al was dit op Amerikaanse persone, en hulle kon later spesifieke soektogte daarop doen, wat soms na verwys word as "agterdeursoektogte." Hulle het hierdie inligting ingesamel wat ons glo hulle nie veronderstel was om in die eerste plek te versamel nie, maar hulle kon dit behou. En hulle het belowe, hulle het pinkie gesweer, dat hulle dit privaat sal hou, maar as hulle 'n soektog doen en vind dat ek of jy 'n vreemde persoon noem, dan was dit skielik vir hulle 'n regverdige spel om daarmee te doen wat hulle wil.
In totaal het dit 'n wêreld geword waarin die federale regering basies enige inligting kan versamel wat toevallig buite die VSA raak. Selfs al is dit geheel en al tussen twee Amerikaanse persone, as hulle iemand noem wat nie 'n Amerikaanse persoon is nie, is dit skielik regverdige speletjie wat versamel moet word. En daaruit het ons gekry wat blykbaar 'n vorm van massa-toesig van Amerikaanse persone is deur 'n NSA wat beweer en in die openbaar verklaar dat hy nie op Amerikaanse persone spioeneer nie.
Hoe het ons tot hierdie punt gekom? Dit is baie inkrementele baba stappe. Jy het James Clapper in 2012 genoem, dit is die Obama-administrasie. Jy het Ronald Reagan genoem, dit is die 1980's. Ons gaan hier deur Demokrate en Republikeine.
Die oorlog teen terreur het in die George W. Bush-administrasie plaasgevind, en 9/11 en die Patriot Act het in die George W. Bush-administrasie plaasgevind. Daar is baie inkrementele slegte dinge onder presidente van albei partye, onder kongresse van albei partye. Hoe het dit gebeur?
Die eenvoudigste vorm daarvan is net dat niemand, en beslis geen president, president wil wees in die tyd wanneer daar 'n groot terreuraanval is nie, want dit laat hulle sleg lyk. Natuurlik wil hulle ook Amerikaners beskerm, nie waar nie? Dit is deel van hul werk. As jy 'n intelligensiegemeenskap het wat basies in duisternis werk, want dit is wat intelligensiegemeenskappe doen en hulle bly na jou toe kom en sê: "Haai, as ons net toegang tot hierdie inligting kan kry, sal dit baie nuttig wees om 'n terreuraanval te voorkom."
Daar kan gevalle wees waar dit waar is, dat die intelligensiegemeenskap hierdie inligting op 'n manier kan gebruik wat goed werk. Maar ons is ook, in teorie, 'n samelewing van wette met 'n Amerikaanse Grondwet wat ons veronderstel is om te gehoorsaam. Maar dit het voorsiening gemaak vir die feit dat administrasie na administrasie, weereens, Republikein en Demokraat, prokureurs gehad het wat baie slim was en wat sou deurkyk en sê: "Wel, as ons op hierdie manier standpunt of ons dit so stel of ons dit interpreteer, op hierdie manier kan ons kry wat ons wil hê en nie tegnies die wet oortree of nie tegnies die Vierde Wysiging oortree nie."
Die aanname was altyd: "Ons kan soort van die wet buig of ons interpretasie van die wet buig en niemand gaan dit regtig ooit sien nie, of niemand wat omgee gaan dit regtig ooit sien nie, en daarom sal ons daarmee wegkom."
Daar is twee dinge wat my regtig uitval. Een, ek en jy lees albei baie hofbeslissings – appèlhofbeslissings en Hooggeregshofbeslissings. En daar is 'n bakleiery in ons Hooggeregshof oor hoe om die woorde in ons statute en ons wette letterlik te interpreteer.
Ek sal nie te ver daaroor ingaan nie, maar ek sal oor die algemeen sê die idee dat jy net die woorde op die bladsy moet lees en doen wat hulle sê, is die oorheersende stam van statutêre interpretasie in die Verenigde State. Links of regs, albei sê dit. Hulle stry oor 'n paar baie esoteriese fyn punte van wat dit eintlik beteken. Maar dat jy net hierdie woorde moet kan lees en doen wat hulle sê, dit is nie op die spel nie, of hoe?
Ons het ten minste op daardie eerste pas van wat jy kan belandtekstualisme noem. Hoe kom prokureurs van beide administrasies so ver weg van die dominante wyse van regsbesluitneming in ons land? Regters van albei partye stem saam dat dit ten minste die eerste stap is.
Ek wens ek het die presiese antwoord geweet, maar ek dink dit is gemotiveerde redenasie, reg? As 'n prokureur is jy daar om jou kliënt te verdedig en die sukses - as jy dit sukses kan noem - van ons regstelsel is geneig om gebaseer te wees op 'n teenstrydige situasie waar jy verskillende kante het wat stry oor hierdie dinge, waar die rol van die beoordelaar is om te vernou en uit te vind watter kant eintlik korrek is.
Een van die probleme met die intelligensiegemeenskap en die opstelling daarvan is dat jy nie daardie teenstrydige situasie het nie. Dit maak dit makliker vir die een kant om die argument wat hulle maak, te regverdig, want niemand druk dit regtig terug nie. Jy kombineer dit met die oorkoepelende vrees vir nog 'n terreuraanval, enigiets wat met nasionale veiligheid verband hou, en selfs wanneer jy situasies het waar jy die FISA-hof het - ek bedoel die FISA-hof was ietwat bekend daarvoor dat dit vir baie jare 'n rubberstempel was.
Ek vergeet die presiese getalle, maar dit was iets soos meer as 99 persent van die aansoeke wat na die FISA-hof gegaan het om toesig oor sekere situasies toe te laat, is toegestaan, en dit is maklik om te sê 99 persent is natuurlik te veel. Dit is duidelik dat diegene wat eise by die hof bring, hulle kies en keur. Hulle bring vir die grootste deel nie heeltemal gekke eise nie. Maar sonder daardie teenstrydige aspek en met 'n baie sterk gemotiveerde groep mense wat dink: "Ons moet dit doen," of wat deur 'n administrasie gesê word, "Ons moet dit doen," sal hulle maniere vind om dit te doen. En dit is waar jy mettertyd beland.
Was daar iemand betrokke by hierdie proses wat al ooit wakker geword het en vir hulself gesê het: "Seun, ons het daarin geslaag om die woord 'teiken' te herdefinieer om enigiets te beteken wat ons wil hê"?
[Lag] Natuurlik het jy Ed Snowden gehad, wat 'n klomp dokumente uitgelek het. Jy het John Napier Tye gehad, wat in 2014 'n stuk vir The Washington Post geskryf het, wat die interpretasie van Uitvoerende Bevel 12333 onthul het, en gesê het dat dit die werklike kwessie is om aan aandag te gee. Jy het ander mense wat oor hierdie dinge gepraat het, maar vir die grootste deel is die mense wat betrokke is by die werk binne die administrasie aan intelligensie gemeenskap goed ingekoop in die siening van die intelligensie gemeenskap, wat is dat die oorheersende doel is om die land te beskerm teen iets sleg. Die beste manier om dit te doen is om soveel inligting as moontlik te hê.
Dit is maklik om simpatiek te wees met die argument dat, ja, om meer inligting te hê, hulle in staat kan stel om iets vroeër te vang of iets belangrik te vind, maar een, dit is dalk nie waar nie. Om te veel inligting te kry is waarskynlik net so erg soos te min inligting, want dit kan dikwels die inligting versteek wat eintlik nuttig is, die inligting wat jy eintlik nodig het om iets te bepaal.
Maar ook, ons het 'n U..S. Grondwet in die eerste plek en ons het redes waarom ons, in teorie, nie veronderstel is om massatoesig sonder waarskynlike oorsaak toe te laat nie. As 'n land wat in die oppergesag van die reg glo, behoort ons dit te kan nakom, en wanneer al hierdie goed in duisternis gebeur, sal jy geneig wees om dit uit die oog te verloor.
Dit bring my by Antropies. Anthropic is hoofsaaklik 'n ondernemingsmaatskappy. Hulle is goed in die regering, hulle het daardie spiere gebou, hulle word beman deur mense wat baie goed vertroud is met sommige van hierdie goed. Hulle het natuurlik na Pete Hegseth gekyk en gesê: "Ons wil alle wettige gebruike hê," en hulle het twee vlakke van interpretasie afgegaan en gesê: "Wel, jou letterlike oortuiging is dat hierdie woorde nie op hul gesig beteken wat hulle sê hulle beteken nie. So 'alle wettige gebruike' is te groot, en ons wil 'n paar vangrelings veral rondom massa-toesig plaas."
Weereens, ek gaan outonome wapens uitsteek, wat die ander rooi lyn was, maar veral oor massa-toesig, is Dario Amodi daar buite en sê: "Ons kan te veel doen. Dit is te gevaarlik. Dit is 'n oortreding van die Vierde Wysiging."
Die spanning daar is "jy sê jy gaan hierdie wette nakom wat een ding sê en nou, na al die tyd, beteken dit iets heeltemal anders en ons wil net nie deel daarvan wees nie." Dit is dieveg. Ek wil dit net vergelyk met Sam Altman, wat inspring om te sê: "Ons sal alle wettige gebruike doen," en dan hierdie lang boodskap plaas soos: "Hier is al die wette waaraan ons gaan voldoen."
Dit wil voorkom asof Altman nie geweet het hoe die NSA hierdie dinge herinterpreteer het nie en het 'n bietjie vir 'n rit geneem. En hy het sedertdien begin terugloop - selfs terwyl ons opneem, is ek vol vertroue dat daar meer twiets is en almal se posisies het verander. Maar Altman het dit stadig teruggestap, maar dit lyk of OpenAI die tou gekry het om die statute op hul gesig te lees en te glo wat hulle gesê het. Is dit jou interpretasie van gebeure ook?
Daar is twee moontlikhede, en dit is een daarvan. Een daarvan is dat hy vir baie jare op dieselfde manier gespeel is as wat die publiek gespeel is. Die alternatiewe teorie, en ek het geen idee watter een hiervan waar is nie, is dat hy of sommige van die prokureurs by OpenAI - wat ek dink baie bekwaam en baie kundig is - dit geweet het, maar gedink het dat hulle dieselfde speletjie kan speel as wat die NSA vir 'n paar dekades gespeel het, deurdat solank hulle hierdie dinge sê en dan die woorde sê, maar hulle nie die werklike interpretasies daarmee kan onthul nie, kan hulle ook wegkom. So kom Sam uit met die stelling wat dit laat lyk soos "Ons het presies dieselfde rooi lyne gehad as wat Anthropic gehad het, en die regering was wonderlik daarmee."
Trouens, ek dink Sam Altman het gesê dat Anthropic twee rooi lyne gehad het en OpenAI drie, en die regering was heeltemal in orde daarmee, en dit het baie mense soort van kop laat krap. Maar ek dink dit moet óf wees dat Sam Altman en wie ook al om hom was, nie verstaan het hoe hierdie dinge in die praktyk werk nie, óf hulle het, en hulle het net aangeneem dat die publiek nie sou weet nie en daarom kon hulle daarmee wegkom.
Die ander ding wat by jou opkom - weereens, KI is nuut en dit is so aanloklik om na nuwe tegnologieë te kyk, aangesien dit probleme van eerste indrukke is. "Niemand moes nog ooit hieroor dink nie," maar die realiteit is dat almal al lank aan hierdie goed dink. Miskien is die ding wat hier nuut is nie KI nie, maar dat die tweede Trump-administrasie, in plaas daarvan om 'n klomp prokureurs te doen wat miskien niemand ooit sal lees om hul optrede te regverdig aan 'n geheime hof waaraan niemand aandag gee nie, in plaas daarvan net nie so subtiel is nie.
Hulle is nie so gesofistikeerd nie en hulle sê net hulle gaan heeltyd op almal spioeneer. Hulle het net hul voornemens op 'n manier aangekondig dat alle administrasies dalk net hul voornemens moet aankondig en kyk waar die skyfies val.
Maar ek kyk na die feit dat daar Ed Snowden hier in New York City was. AT&T bestuur 'n gebou wat almal weet 'n NSA-gebou is. Dit is net 'n reusegebou, en ons is veronderstel om voor te gee dat dit nie 'n NSA-toesigsentrum is nie, maar dit is net daar. Dit is groot. Dit lyk asof niks hiervan tot iets gekom het nie. Al hierdie onthullings, hierdie lekkasies, ons het dit nie gerugsteun nie.
Trouens, dit het net toegeneem namate soveel van ons lewens al hoe meer digitaal geword het. En miskien is die Trump-administrasie te alle tye so 'n stomp instrument, dit kan eintlik die ding wees wat die afrekening veroorsaak. Sien jy dit in elk geval uitspeel?
Daar is 'n paar verskillende dinge daar, en dit is nie heeltemal waar dat ons glad nie hierdie goed gerugsteun het nie. Die onthullings van Snowden het wel gelei tot 'n paar veranderinge in hoe hierdie dinge gebeur. En daar is nou - ek vergeet wat hulle genoem word, maar hulle is soos hierdie siviele amicus-mense binne die FISA-hof wat sal optree om die ander kant oor sekere kwessies voor te stel.
En ons het gesien hoe sommige van die owerhede op sekere maniere beperk is, en hulle kom kort-kort vir hergoedkeuring, en aktiviste was baie aggressief om terug te stoot en nog 'n paar vangrelings te probeer sit. Maar vir die groter vraag, ek dink daar is twee verskillende dinge. Jy is half reg deurdat hierdie administrasie nie subtiel is nie en net hardop sê die dinge wat dit nie moet nie.
"Ons is in oorlog met Iran, ons doen dit, dit gebeur. Ons gaan nie eers die dans probeer nie."
Op maniere wat alle vorige administrasies nie sou doen nie. Maar hulle het dit nie regtig direk oor gesê nietoesig, veral toesig oor Amerikaners. Daar was wenke daarvan, maar hulle het nie so sterk daaroor uitgekom nie. Die ander helfte daarvan het meer te doen met Anthropic se posisionering en die algemene siening van KI as hierdie moontlik eksistensiële tegnologie, waar Anthropic homself nog altyd voorgehou het as: "Ons is die bedagsame goeie ouens," en of jy dit glo of nie, is soort van behalwe die punt. Hulle het hierdie reputasie daar buite: "Ons probeer dit doen op 'n manier wat veilig is, wat die mensdom respekteer en aandag gee aan al hierdie dinge." En so wanneer jy daardie botsing het, is dit waar die stryd inkom.
Jy het 'n Trump-administrasie wat net wil kan doen wat hy ook al wil doen, en hulle is nie subtiel daaroor nie. En dan het jy Anthropic, wie se selfbeskrywing en sy publieke persoonlikheid altyd soos: "Ons is bedagsaam en ons respekteer menslikheid en regte en al hierdie dinge." Dit is waarskynlik waar die botsing ingekom het, want Anthropic, soos duidelik gestel is, het 'n rukkie saam met die departement van verdediging gewerk en het baie ander kontrakte met die regering wat hy gebruik het. Dit was nie 'n probleem nie.
Dit was net in hierdie spesifieke gebiede waar, terwyl die regering probeer het om die kontrak wat hy gehad het uit te brei, dat die senior leierskap van Anthropic begin sê het: “Wag, ons moet seker maak dat ons nie hierdie rooi lyne oorsteek wat moontlik ons reputasie as die deurdagte, veilige KI-verskaffer kan benadeel nie.”
Ek wil jou kortliks vra oor toesig in die algemeen, en in die besonder oor Anthropic se vierde wysigingskwessie. Die vierde wysiging sê die regering kan jou nie onredelik deursoek nie. Die beste manier om die vierde wysiging te verstaan, is deur na "99 Problems" deur Jay-Z te luister. So as jy 'n breek moet neem en na "99 Problems" gaan luister, is dit wonderlik. Dit is alles daarin. Ek het daarna geluister toe ek in die regskool was en dit het perfek sin gemaak.
Maar die regering het oor die algemeen 'n lasbrief nodig om jou te deursoek. En soos meer en meer van jou lewe aanlyn gaan, is daar baie en baie uitsonderings hierop. Maar die idee is dat hulle steeds 'n lasbrief aanlyn moet benodig. Anthropic se argument is: "Wel, die KI sal nooit moeg word nie. Dit kan heeltyd alles deursoek. Dit beteken ons gaan net meester-toesig doen."
Nog voordat KI opgedaag het, was die idee dat die regering alles wat aan jou behoort kon deursoek daar buite, die idee dat die regering nie 'n lasbrief nodig het om al jou goed te deursoek nie, was daar buite. Die idee dat as enige van jou data ooit vir 'n kort sekonde buite die land gegaan het, die regering dit daar onderskep het,
Toe ek op universiteit was, rondom die tyd van die Patriot Act, was die debat dat hulle nie jou werklike data gaan deursoek nie, maar hulle kan die metadata en die metadata alleen kry. Die data oor jou data sal genoeg wees om jou te alle tye presies op te spoor. En selfs dit is te ver. En ons het hierdie dans gedoen van wat kan die regering insamel? Wat is toelaatbaar? Wat het hulle nodig om ons almal veilig te hou en wat is te ver? Daardie lyne het geskuif.
Beskryf dus net kortliks die algemene kommer oor toesig op die skaal en waar ons nou is. Voor die KI-situasie het alles eksponensieel meer ingewikkeld gemaak.
Hier moet ek 'n ander konsep bekendstel wat waarskynlik vroeër genoem moes word, maar dit is belangrik, wat die "derdeparty-leerstelling" genoem word. Die idee met die Vierde Wysiging is dat die regering nie jou of jou goed kan deursoek sonder 'n lasbrief nie en dit kan nie 'n lasbrief kry sonder waarskynlike oorsaak dat jy een of ander misdaad gepleeg het nie. Maar daar is hierdie konsep wat dekades gelede ontstaan het, genoem die derdeparty-leerstelling, wat sê dat dit nie noodwendig van toepassing is nie, of glad nie van toepassing is op dinge wat nie joune is nie, al is dit jou data.
Die vroegste en mees voor die hand liggende weergawe hiervan was telefoonrekords wat die telefoonmaatskappy gehad het van wie jy gebel het. Die telefoonmaatskappye het nie jou oproepe opgeneem nie, maar hulle het opgeneem as ek jou bel, sou daar 'n rekord by die telefoonmaatskappy wees wat sê: "Mike bel Nilay." En wat deur verskeie howe bepaal is, was dat die regering dit kan gaan versoek, en hulle het nie 'n lasbrief daarvoor nodig nie, want dit is nie 'n deursoeking vanjou data, dit is hierdie derde party en hulle kan as 'n derde party ooreenkom om net daardie data te oorhandig.
Maar dit was gevalle uit die 1960's en 70's, waar vasgestel is dat die regering toegang daartoe kan kry sonder 'n lasbrief, terwyl daar nie soveel derdeparty-data daar buite was nie. Die opkoms van rekenaars en die internet het dit verander. Nou, alles is derdeparty-data. Alles wat ons doen word iewers deur een of ander maatskappy afgehaal en het 'n rekord daarvan. So basies elke stukkie data oor jou, waar jy is, met wie jy praat, met wie jy interaksie het, wat jy sê, wat jy doen, dit alles word deesdae byna deur derde partye gehou. So die derdeparty-doktrine het tot 'n mate die hele vierde wysiging ingesluk, waar enigiets wat oor jou gaan wat iemand anders het, daar 'n baie laer standaard is vir wat die regering kan doen om dit aan te vra.
Net om spesifiek te wees, beteken dit dat wanneer my data in iCloud is, die regering na Apple kan gaan en my data uit iCloud kan kry sonder om my ooit te vertel?
Hulle kan dit versoek. Hulle kan dit maklik aanvra sonder 'n lasbrief. Dan het die maatskappy sy eie regte en kan bepaal wat hulle met daardie versoek wil doen. Hulle kan dit maar opgee. Hulle kan, soos die meeste van hulle sal doen, as dit 'n ernstige versoek is, versoeke sonder meer verwerp of hulle kan jou waarsku en hulle kan sê - en dit is wat die meeste van hulle sal doen - hulle sal jou waarsku en sê: "Die regering versoek van jou data. Jy kan hof toe gaan en probeer om dit te blokkeer." Indien nie, sal hulle jou data oor sewe dae oorhandig of wat dit ook al mag wees.
Weereens, dit hang af. As dit 'n kriminele ondersoek is, is daar dalk 'n soort mondelinge bevel waar die maatskappy jou nie mag vertel nie. Daar is allerhande situasies, maar die meeste van hulle behels minder as die vlak van beskerming wat die Vierde Wysiging sou vereis as dit data of enige inligting of enigiets in jou eie huis was.
Die hoeveelheid data wat jy op iemand anders se wolkbediener het, is groot, reg? Elke ding wat jy nou oor die algemeen op die internet doen, word op een of ander manier gerugsteun of op een of ander manier op iemand anders se bedieners aangeteken. Die regering het hierdie manier gevind om om die vierde wysiging te kom en te sê: "Wel, dit is nie eintlik joune nie. Dit behoort aan Amazon. Ons kan met Amazon gaan praat," en Amazon moet in die middel van daardie proses staan en sê: "Ons het nog 'n proses uitgevind om die mense ietwat te beskerm."
Ek kyk daarna - en toe ek die eerste derdeparty-doktrinesake gedek het wat die wolkdienste dek en die regering aanhou wen het, is dit basies toe ek in die Joker verander het. Ek was soos: "Al hierdie goed wat ons voorgee oor tekstualisme en die gewone [lees], niks hiervan beteken iets nie, want ons gebruik net perdekrag na die agterdeur deur hierdie ou wet in almal se data te gebruik."
En dan kyk ek hierna en ek kyk na Anthropic en ek sê: "Wel, dit is dieselfde patroon." Dit is 'n private maatskappy wat sê: "Goed, ons verstaan jou posisie. Ons verstaan dat jy die wet herinterpreteer het om hierdie ding te beteken, en ons gaan 'n proses tussen jou, ons instrument en die data van Amerikaners wat deur ons diens vloei." Ek wonder net of jy daardie parallel daar sien, tussen Anthropic en Amazon en Azure en watter ander wolkdienste ook al bestaan wat soveel van ons data bevat.
Ja, al is daar 'n paar verduidelikings wat hier belangrik is wat dit 'n bietjie anders maak. En om die waarheid te sê - ek dink The New York Times het hierdie beriggewing eerste gehad - die hoofklousule wat vir Anthropic die belangrikste was, was spesifiek oor data wat van kommersiële dienste ingesamel is en om nie Claude op daardie data te kan gebruik nie, wat presies hierdie kwessie is in terme van derdeparty-data. Maar ek wil wel die hoofverskil uitklaar tussen waaroor ons net voor dit gepraat het met Amazon of ander derde partye wat u data huisves, dit was gevalle waar hulle was, as gevolg van waar hulle in die ekosisteem sit, het hulle u data direk gehuisves.
Met Claude is dit nie dat iemand bekommerd is dat die NSA deur jou Claude-gebruik kyk nie. Dit gaan daaroor dat hulle uitgaan en derdeparty-data van Amazon kry, of meer waarskynlik die soort skelm, versteekte data-makelaars wat advertensies op jou fone aanbied en jou ligging en jou belangstellings en sulke dinge ken. En voer dit dan in 'n stelsel inwaaraan Claude dan sou werk. Dit is waarvan Anthropic regtig nie deel wou wees nie. So waar of hoe ook al die regering daardie data van 'n derde party sou insamel, het Anthropic gesê: "Ons wil nie hê ons instrument moet op daardie data gebruik word nie."
Apple staan bekend teen die FBI en vra hom om 'n agterdeur in die iPhone te sit, en Apple sê "nee", en hulle staan op teen Trump. En daar is 'n deel van hoe ons stelsel werk waarin groot private maatskappye "nee" vir die regering kan sê namens hul kliënte. En dit het gevoel op dieselfde manier dat Apple dit weer nie agterdeur op die iPhone sal plaas nie, of die groot wolkverskaffers sê: "Daar is 'n bietjie van 'n proses waardeur jy moet spring voordat jy die individuele data kry."
Hier wil dit voorkom asof Anthropic sê: "Ons gaan nie net grootmaatontleding doen van data wat jy van ander partye verkry het nie, want dit lei tot 24/7 massa-toesig van Amerikaners, en ons wil dit nie doen nie." Tog lyk dit na 'n brug te ver vir hierdie administrasie. Kom daar enigiets daarvan terug?
Ons sal sien. In die verlede, toe dit gebeur het - en dit het baie keer met die meeste van die groot tegnologiemaatskappye gebeur, het hulle op 'n stadium gesê iets is 'n brug te ver - waar dit normaalweg gaan, is hof toe. Die maatskappye sal hof toe gaan of die administrasie sal hof toe gaan en daar sal een of ander hofstryd wees.
Die agterdeur in die iPhone is 'n perfekte voorbeeld daarvan. Dit het hof toe gegaan en hulle het dit uitgeveg, hoewel hulle nooit heeltemal tot 'n gevolgtrekking gekom het nie, want die FBI het uiteindelik net handmatig by die iPhone ingebreek en toe nie wou hê dat die hofbeslissing dit in die toekoms sou verwoes nie.
Maar in hierdie geval, waar die eskalasie is en waar dit verskil van daardie vorige situasies, is dat eerder as om net hof toe te gaan, die Trump-administrasie hierdie "voorsieningskettingrisiko"-benaming gedoen het, wat net kranksinnig is. Hierdie idee dat hierdie instrument wat ontwerp is om potensiële buitelandse kwaadwillige akteurs te keer om tegnologie te verskaf, wat dan verborge toesiginstrumente in die groter tegnologiestapel kan plaas, dat dit verbied kan word. Om dit toe te pas op 'n VSA-gebaseerde maatskappy omdat dit 'n etiese beleid het, voel soos 'n werklike, werklike misbruik van daardie instrument.
Selfs daardie instrument was op sekere maniere twyfelagtig, maar jy kon die stukrag daaragter verstaan as jy praat van 'n Chinese netwerkfirma of iets in daardie lyn. Hier maak dit geen sin nie. Die reaksie hierop gaan dus soveel verder as wat normaalweg in hierdie geval gesien sou word. Jy kon sien tradisioneel sou daar 'n soort hofsaak wees en beide kante kon dit begin en dit sou net 'n stryd wees oor hoe die kontrak toegepas kan word.
Maar dit is nie wat hier gebeur nie. Hierdie administrasie sê effektief: "As jy nie vir ons absoluut alles gee wat ons wil hê nie, as jy nie jou gereedskap opstel om te werk soos ons wil hê dit moet werk nie, dan sal ons effektief probeer om jou hele besigheid te vernietig." En dit is 'n eskalasie.
Daar is een stuk hiervan waarop ek wil eindig, en dit is soort van die mees sterrestelsel-brein weergawe hiervan. FIRE, wat 'n vrye spraak-voorspraakgroep is, het 'n blogplasing geplaas net voor ons begin opneem en die argument maak dat om Anthropic te dwing om gereedskap te bou wat hy nie wil bou nie, 'n skending van vrye spraak is, dat dit iets is wat gedwonge spraak genoem word. Hier is baie geskiedenis. Daar is 'n diep Verge en Techdirt, in-die-onkruid, eksistensiële-krisis geskiedenis hier.
Maar dit kom basies neer op die idee dat kode spraak is, dat die skryf van kode vir 'n rekenaar 'n vorm van spraak is en die regering kan jou nie dwing om dit te doen nie, en 'n hele klomp goed vloei daaruit. Koop jy hierdie argument dat dit gedwonge spraak is om Anthropic te dwing om gereedskap te bou wat hy nie wil bou nie?
Ja, ek dink eintlik dit is redelik dwingend. Dwingende gedwonge toespraak. Maar nee, ek dink dit is 'n interessante argument. Dit is een wat 'n bietjie verder af was op die lys van die kwessies waaraan ek gedink het. Ek was natuurlik meestal meer gefokus op die vierde wysigingskwessies, maar ek dink die VUUR-argument is nie verkeerd nie. Ons het dit in ander kontekste gesien. Dit het ook in die agterdeur-kwessie na vore gekom, in terme van probeer om agterdeure in geënkripteerde stelsels in te bou.
Maatskappye het beslis Eerste opgewekWysiging beweer, en sê: "Dit is verpligte toespraak om ons te dwing om daardie soort kode te skryf." Dit is 'n geldige argument. Dit is dalk weer een wat howe waarskynlik minder bereid is om aanvanklik aan te pak as hulle hierdie kwessies op 'n ander manier kan hanteer. Maar ek is bly dat FIRE daardie plasing gemaak het en ek dink dit is 'n interessante en oortuigende argument.
Ja, dit is net die aard van die tweede Trump-administrasie is dat dit so 'n stomp instrument is, dit is amper seker dat ons al die kwessies op een slag sal aanval.
Ja, elke wysiging van die Handves van Regte moet in een of ander vorm met elke moontlike kwessie betwis word.
[Lag] Draai die wiel.
Ek is seker ons kan 'n Derde Wysiging-oortreding iewers hier inpas.
Seker, ja. Claude moet nou in jou huis woon. Presies. Dit gaan wonderlik wees. Ons doen [wysigings] een, drie, vier en sewe. Ons rek hulle op.
Mike, dit was wonderlik. Ek kan nie glo jy was nog nie voorheen op die program nie. Dit was wonderlik. Jy moet gou terugkom.
Absoluut. Wanneer jy my wil hê.
Vrae of opmerkings oor hierdie episode? Kontak ons by decoder@theverge.com. Ons lees regtig elke e-pos!
