Dnes hovoríme o neusporiadanej a rýchlo sa vyvíjajúcej situácii v spoločnosti Anthropic, tvorcu Claude, ktorá sa teraz ocitá vo veľmi škaredej právnej bitke s Pentagonom.
Sťahovanie tam a späť je komplikované, ale pred niekoľkými dňami Pentagon považoval Anthropic za riziko dodávateľského reťazca a Anthropic podal žalobu proti tomuto označeniu a uviedol, že vláda porušila svoje práva prvého a piateho dodatku tým, že sa „snažila zničiť ekonomickú hodnotu vytvorenú jednou z najrýchlejšie rastúcich súkromných spoločností na svete“. Môžem vám to povedať hneď teraz: V nasledujúcich mesiacoch budeme hovoriť o zvratoch tohto prípadu na The Verge a tu na Decoder.
Ale dnes som sa chcel na chvíľu venovať jednému veľmi dôležitému prvku tejto situácie, ktorému sa nevenovala dostatočná pozornosť, keďže sa to vymklo spod kontroly: ako vláda Spojených štátov vykonáva dohľad, zákonná autorita, ktorá umožňuje, aby k tomuto dohľadu došlo, a prečo spoločnosť Antropic nedôverovala vláde, že bude postupovať podľa zákona, pokiaľ ide o používanie AI na ešte väčší dohľad.
Zamerajte sa na predplatiteľov, nezabudnite, že získate exkluzívny prístup k dekodéru bez reklám, kdekoľvek dostanete svoje podcasty. Zamierte sem. Nie ste predplatiteľom? Prihlásiť sa môžete tu.
Mojím dnešným hosťom je Mike Masnick, zakladateľ a generálny riaditeľ spoločnosti Techdirt, vynikajúcej a dlhotrvajúcej webovej stránky o technologickej politike. Mike už desiatky rokov píše o vládnom dosahu, súkromí v digitálnom veku a ďalších súvisiacich témach. Je odborníkom na to, ako internet a štát dohľadu vyrástli vzájomne prepojenými spôsobmi.
Vidíte, je tu to, čo zákon hovorí, že vláda môže urobiť, pokiaľ ide o nás sledovať, a potom to, čo vláda chce urobiť. A čo je najdôležitejšie, existuje to, čo vláda hovorí, že zákon hovorí, že môže urobiť, čo je často presný opak toho, čo by si myslel každý normálny človek, ktorý si zákon jednoducho prečíta.
V tejto epizóde budete počuť, ako Mike veľmi podrobne vysvetľuje, že nemôžeme – a nemali by sme – brať vládu USA za slovo, pokiaľ ide o dohľad. Existuje príliš veľa histórie vládnych právnikov, ktorí prekrúcajú interpretácie jednoduchých slov ako „cieľ“, aby rozšírili dohľad komplikovanými spôsobmi – spôsobmi, ktoré zvyčajne vyvolávajú obavy iba v právnych kruhoch a ktoré sa rozvinú len vtedy, keď dôjde k obrovským kontroverziám, ako sú hlavné odhalenia NSA oznamovateľa Eda Snowdena pred viac ako desiatimi rokmi.
Ale na tvorbe politiky v Trumpovej ére nie je nič rafinované alebo sofistikované – a tak s Anthropicom vedieme veľmi hlasnú, veľmi verejnú diskusiu o technológiách a sledovaní v reálnom čase, na internete, v blogových príspevkoch a X rantoch a cez zvuky z tlačových konferencií. Má to pozitíva aj negatíva, ale aby ste tomu všetkému dali zmysel, musíte naozaj poznať históriu.
To je to, čo sme sa s Mikeom rozhodli v tejto epizóde vysvetliť – nech už sú vaše názory na AI a vládu akékoľvek, táto epizóda objasní, že obe strany dovolili, aby sa stav dohľadu časom zväčšoval a zväčšoval. Teraz sme na vrchole doteraz najväčšej expanzie, pokiaľ ide o AI.
Dobre: Zakladateľ a generálny riaditeľ spoločnosti Techdirt Mike Masnick o sledovaní Anthropic, Pentagonu a AI. Ideme na to.
Tento rozhovor bol mierne upravený kvôli dĺžke a jasnosti.
Mike Masnick, ste zakladateľ a generálny riaditeľ spoločnosti Techdirt. Vitajte v Dekodéri.
som rád, že som tu.
Som nadšený, že ťa mám. Len som povedal, že som šokovaný, že si ešte nikdy nebol v šou. Vy a ja si píšeme a píšeme okolo seba už dlho. Veľká časť pokrytia politiky The Verge vďačí za to, čo ste urobili v Techdirt, a potom je to, čo sa deje s Anthropic, také komplikované, ale zasahuje toľko tém, ktoré ste pokrývali tak dlho. Som rád, že si konečne tu.
Je to komplikovaná téma, ale som nadšený, že sa do toho pustím.
To, na čo sa s vami chcem zamerať, nie sú detaily o tom, či Antropic podpíše zmluvu s vládou alebo či OpenAI dostane túto zmluvu. Namiesto toho som presvedčený, že medzi časom, keď to nahráme, a časom, keď to ľudia počúvajú, bude viac tweetov a viac vecí bude iných, ako boli predtým.
Na čo sa chcem zamerať je len jedna z dvoch červených línií, ktoré Anthropic skutočne vytýčil. Jedným z nich jeautonómne zbrane, čo predstavuje vlastnú úroveň komplikácií. Tamojší zákon je o niečo novší, či zbrane vôbec existujú alebo už boli nasadené Ruskom vo vojne na Ukrajine.
Je tu veľa nápadov, ktoré by som chcel odložiť bokom, pretože si myslím, že sa to viac zameria na vlastný harmonogram. Ďalšou červenou líniou, ktorej chcem venovať veľa času, je hromadné sledovanie. A je tu pomerne veľa zákonov o masovom sledovaní. Je tu veľa histórie, veľa kontroverzných dejín. Celá postava Edwarda Snowdena existuje kvôli kontroverziám okolo masového sledovania.
Všetko sa to týka – myslím, že ste to vy, kto to zverejnil – Národnej bezpečnostnej agentúry (NSA), ktorá je súčasťou ministerstva obrany, ktoré teraz z nejakého dôvodu musíme nazývať ministerstvom vojny.
[Smiech] Nemusíme robiť nič.
[Smiech] Nemáme. To je pravda tu v Amerike. nemusíme robiť nič. Ale NSA v podstate predefinovala, čo veľa slov znamená z hovorovej angličtiny, na „Môžeme len dohliadať“. A potom často dochádza k škandálu, keď ľudia zistia, že iba sledujú. Takže len tam pripravte scénu a nechcem vás úplne pretočiť, ale už je to dosť dlho, keď sa tento vzorec opakoval.
Závisí to od toho, ako hlboko chcete ísť, ale krátka verzia je samozrejme vo svete po 11. septembri, USA schválili Patriot Act, ktorý mal určitú schopnosť pre vládu zapojiť sa do sledovania, čo malo slúžiť na ochranu pred budúcimi teroristickými hrozbami. Postupom času sa to začalo interpretovať zaujímavým spôsobom a boli v tom určité limity. Mali sme aj súd FISA, čo je špeciálny súd, ktorý má skúmať spravodajskú komunitu a ich činnosť, ale tradične je jednostranným súdom. Iba jedna strana môže obhajovať svoj prípad pred týmto súdom a všetko sa deje v tajnosti.
Je veľa vecí, o ktorých sa nevedelo. A potom v tom všetkom bol ešte jeden kúsok, ktorý siaha až k Ronaldovi Reaganovi, čo je Výkonný príkaz 12333, ktorý je údajne o stanovení pravidiel cesty pre zhromažďovanie spravodajských informácií.
Takže máte tieto tri súbory zákonov – teda niekoľko súborov zákonov – a výkonný príkaz, ktorý verejnosti, časti, ktoré si môžete prečítať, zrejme hovorí určité veci o tom, čo môže naša vláda a najmä NSA robiť v oblasti dohľadu. Pri čítaní s jednoduchým anglickým slovníkom, ktorého povahe vy a ja pravdepodobne máme a rozumieme, by sme prišli s presvedčením, že schopnosť NSA sledovať Američanov bola veľmi obmedzená, v skutočnosti do tej miery, že by mali, ak si uvedomia, že sledujú osobu v USA, že by mali okamžite prestať kričať a vymazať všetky tieto údaje.
Chvíľu sa šuškalo, že sa to v skutočnosti nedeje a objavili sa náznaky a najmä senátor Ron Wyden veľmi hlasno vystúpil na pôdu Senátu a povedal: „Niečo tu nie je v poriadku a ja vám nemôžem celkom povedať, čo,“ alebo sa na vypočutiach pýtal predstaviteľov spravodajských služieb: „Zhromažďujete alebo nezbierate masové údaje o Američanoch?
Títo úradníci by to buď odvrátili, alebo v niektorých prípadoch priamo klamali. Domnievam sa, že to bolo jedno vypočutie v roku 2012 s Jamesom Clapperom, ktorý bol v tom čase riaditeľom národnej spravodajskej služby, kde sa ho priamo pýtali na tento bod. A v podstate povedal: "Nie, nezhromažďujeme údaje o Američanoch." To bola veľká časť toho, čo inšpirovalo Eda Snowdena k úniku údajov, správ, ktoré unikli aj Glennovi Greenwaldovi a Bartonovi Gellmanovi a Laure Poitrasovej. Z toho všetkého sme začali zisťovať, že NSA má svoj vlastný slovník, ktorý sa trochu líši od slovníka, ktorý používame vy a ja, takže dokáže interpretovať slová iným spôsobom, než je ich obyčajný anglický význam, vrátane slov ako „cieľ“, čo sa javí ako kľúčové slovo. Široké chápanie toho, čo to je, je, že teoreticky by sa mali zameriavať iba na ľudí, ktorí nie sú osobami z USA, myslím, že to je tá fráza.
Postupom času sa to však interpretovalo tak, že čokoľvek, čo spomína túto osobu, čokoľvek, čo sa týka cudzej osoby, je teraz férová hra, aj keď je to komunikáciaosoba USA. Takže ak by sme si mali poslať textovú správu a spomenúť cudziu osobu, je to teraz pre NSA férová hra na zhromažďovanie, uchovávanie a skladovanie.
Toto je druhá časť. Spomenul som prvý výkonný príkaz 12333 od Ronalda Reagana, ktorý, ako sa technológia časom menila a internet rástol, účinne umožnil NSA preniknúť do zahraničnej komunikácie, ale to zahŕňalo akúkoľvek komunikáciu, ktorá mohla niekde opustiť USA. Takže ak vám píšem textovú správu a odo mňa prišla správa z Kalifornie cez optický kábel, ktorý náhodou opustil USA, NSA by mohla túto časť napojiť, keď bude mimo USA, a zhromaždiť tieto informácie, aj keby k vám smerovala len v rámci USA.
NSA by si potom mohla tieto informácie ponechať, aj keď išlo o osoby z USA, a neskôr ich mohli konkrétne vyhľadávať, niekedy označované ako „prehľadávanie zadných vrátok“. Zhromaždili tieto informácie, o ktorých sa domnievame, že ich pôvodne zbierať nemali, ale mohli si ich ponechať. A sľúbili, prisahali, že to budú držať v súkromí, ale ak by pátrali a zistili, že vy alebo ja sme sa zmienili o cudzej osobe, zrazu bolo pre nich fér robiť si s tým, čo chcú.
Celkovo sa to zmenilo na svet, v ktorom môže federálna vláda v podstate zhromažďovať akékoľvek informácie, ktoré sa náhodou dotknú mimo USA. Aj keď je to úplne medzi dvoma americkými osobami, ak sa zmieňujú o niekom, kto nie je americkou osobou, alebo dokonca narážajú na niekoho, zrazu ide o férovú hru. A z toho sme dostali niečo, čo sa javí ako forma hromadného sledovania osôb v USA zo strany NSA, ktorá tvrdí a verejne vyhlasuje, že nešpehuje osoby z USA.
Ako sme sa dostali do tohto bodu? Toto je veľa postupných detských krokov. Spomenuli ste Jamesa Clappera v roku 2012, to je Obamova administratíva. Spomenuli ste Ronalda Reagana, to sú 80. roky. Prechádzame tu cez demokratov a republikánov.
Vojna proti terorizmu sa odohrala v administratíve Georgea W. Busha a 11. september a Patriot Act sa odohrali v administratíve Georgea W. Busha. Pod predsedami oboch strán, na kongresoch oboch strán je veľa postupných zlých vecí. Ako sa to stalo?
Najjednoduchšia forma je, že nikto a už vôbec žiadny prezident nechce byť prezidentom v čase veľkého teroristického útoku, pretože preto vyzerá zle. Očividne chcú chrániť aj Američanov, však? To je súčasť ich práce. Ak máte spravodajskú komunitu, ktorá v podstate funguje v tme, pretože to robia spravodajské komunity a stále za vami prichádzajú a hovoria: „Hej, keby sme mohli získať prístup k týmto informáciám, bolo by to skutočne užitočné pri predchádzaní teroristickému útoku.“
Môžu nastať prípady, keď je to pravda, že spravodajská komunita dokáže tieto informácie použiť spôsobom, ktorý funguje dobre. Ale my sme tiež teoreticky spoločnosťou zákonov s ústavou USA, ktorú by sme mali dodržiavať. To však umožnilo skutočnosť, že administratíva za administratívou, opäť republikánska a demokratická, mala právnikov, ktorí boli veľmi šikovní a ktorí by sa pozreli a povedali: „No, ak sa k tomu postavíme takto alebo sa takto vyjadríme alebo si toto vyložíme, tak môžeme dostať, čo chceme, a technicky neporušiť zákon alebo technicky neporušiť štvrtý dodatok.
Predpoklad bol vždy: „Môžeme trochu ohýbať zákon alebo ohýbať náš výklad zákona a nikto to v skutočnosti nikdy neuvidí, alebo to nikto, koho to zaujíma, naozaj nikdy neuvidí, a preto sa z toho dostaneme.
Naozaj mi naskakujú dve veci. Po prvé, vy aj ja sme čítali veľa súdnych rozhodnutí – rozhodnutia odvolacieho súdu a rozhodnutia najvyššieho súdu. A na našom Najvyššom súde prebieha boj o to, ako doslovne interpretovať slová v našich stanovách a zákonoch.
Nebudem v tom zachádzať príliš ďaleko, ale všeobecne by som povedal, že myšlienka, že by ste si mali prečítať slová na stránke a urobiť to, čo hovoria, je dominantným kmeňom zákonného výkladu v Spojených štátoch. Vľavo alebo vpravo, obaja to hovoria. Dohadujú sa o niektorých veľmi ezoterických jemných bodoch toho, čo to vlastne znamená. Ale že by ste mali byť schopní čítať tieto slová a robiť to, čo hovoria, to nie je na uchopenie, však?
Dostali sme sa aspoň na prvý prechod toho, čo by ste mohlinazývame textalizmus. Ako sa právnici oboch správ dostanú tak ďaleko od dominantného spôsobu súdneho rozhodovania u nás? Sudcovia oboch strán súhlasia s tým, že je to aspoň prvý krok.
Prial by som si vedieť presnú odpoveď, ale myslím, že je to motivované uvažovanie, však? Ako právnik ste tu na to, aby ste obhajovali svojho klienta a úspech – ak to môžete nazvať úspechom – nášho právneho systému má tendenciu byť založený na spornej situácii, v ktorej sa o tieto veci hádajú rôzne strany, pričom úlohou rozhodcu je zúžiť sa a zistiť, ktorá strana je vlastne správna.
Jedným z problémov spravodajskej komunity a jej nastavenia je, že nemáte takúto nepriaznivú situáciu. To uľahčuje jednej strane ospravedlniť argument, ktorý predkladajú, pretože ho v skutočnosti nikto netlačí. Skombinujete to s preklenujúcim strachom z ďalšieho teroristického útoku, všetkého, čo súvisí s národnou bezpečnosťou, a dokonca aj vtedy, keď máte situácie, keď máte súd FISA – mám na mysli súd FISA, ktorý bol do istej miery známy tým, že v skutočnosti bol po mnoho rokov ako pečiatka.
Zabúdam na presné čísla, ale bolo to niečo ako viac ako 99 percent žiadostí, ktoré sa dostali na súd FISA, aby umožnili sledovanie určitých situácií, a je ľahké povedať, že 99 percent je zjavne príliš veľa. Je zrejmé, že tí, ktorí podávajú žaloby na súd, si vyberajú a vyberajú. Z väčšej časti neprinášajú úplne šialené tvrdenia. Ale bez tohto protichodného aspektu a s veľmi silne motivovanou skupinou ľudí, ktorí si myslia: „Musíme to urobiť,“ alebo im administratíva hovorí: „Musíme to urobiť,“ nájdu spôsoby, ako to urobiť. A tam časom skončíte.
Zapojil sa do tohto procesu niekto, kto sa niekedy prebudil a povedal si: „Chlapče, podarilo sa nám predefinovať slovo „cieľ“ tak, aby znamenalo čokoľvek, čo chceme“?
[Smiech] Očividne ste mali Eda Snowdena, ktorý unikol veľa dokumentov. Mali ste Johna Napiera Tyea, ktorý v roku 2014 napísal článok pre The Washington Post, ktorý odhalil výklad výkonného nariadenia 12333 a povedal, že toto je skutočný problém, ktorému treba venovať pozornosť. Máte iných ľudí, ktorí o týchto veciach hovorili, ale väčšinou sú ľudia, ktorí sa podieľajú na práci v administratíve na záležitostiach spravodajskej komunity, kúpení do pohľadu spravodajskej komunity, čo je, že prvoradým cieľom je chrániť krajinu pred niečím zlým. Najlepší spôsob, ako to urobiť, je mať čo najviac informácií.
Je ľahké byť sympatizujúci s argumentom, že áno, viac informácií im môže umožniť zachytiť niečo skôr alebo nájsť niečo dôležité, ale to nemusí byť pravda. Získanie príliš veľkého množstva informácií je pravdepodobne rovnako zlé ako príliš málo informácií, pretože často môže skrývať informácie, ktoré sú skutočne užitočné, informácie, ktoré skutočne potrebujete, aby ste niečo určili.
Ale tiež máme U.S. Ústava na prvom mieste a máme dôvody, prečo by sme teoreticky nemali umožniť masové sledovanie bez pravdepodobného dôvodu. Ako krajina, ktorá verí v právny štát, by sme mali byť schopní podľa toho žiť, a keď sa to všetko stane v tme, budete mať tendenciu to stratiť zo zreteľa.
To ma privádza k Anthropicu. Antropic je predovšetkým podniková spoločnosť. Sú dobrí vo vláde, vybudovali si tie svaly, pracujú v nich ľudia, ktorí sa v niektorých z týchto vecí naozaj dobre vyznajú. Očividne sa pozreli na Peta Hegsetha, ktorý povedal: „Chceme všetky zákonné použitia,“ a prešli o dve úrovne nižšie a povedali: „No, vaše doslovné presvedčenie je, že tieto slová neznamenajú to, čo hovoria, že znamenajú na ich tvári. Takže „všetky zákonné použitia“ sú príliš veľké a chceme dať nejaké zábrany, najmä okolo hromadného sledovania.“
Opäť vymedzím autonómne zbrane, čo bola druhá červená čiara, ale najmä pri masovom sledovaní Dario Amodei hovorí: "Môžeme urobiť príliš veľa. Toto je príliš nebezpečné. Toto je porušenie štvrtého dodatku."
Je tu napätie „hovoríte, že budete dodržiavať tieto zákony, ktoré hovoria jednu vec, a teraz, po takom čase, znamenajú niečo úplne iné a my jednoducho nechceme byť toho súčasťou.“ To jebojovať. Chcem to len porovnať so Samom Altmanom, ktorý sa prihovára a hovorí: „Urobíme všetky zákonné použitia,“ a potom uverejní túto dlhú správu ako: „Tu sú všetky zákony, ktoré budeme dodržiavať.“
Zdá sa, že Altman nevedel, ako NSA reinterpretovala tieto veci, a tak sa nechal vziať na jazdu. A odvtedy to začal vracať – aj keď nahrávame, som si istý, že existuje viac tweetov a pozície každého sa zmenili. Ale Altman to pomaly vracal, ale zdá sa, že OpenAI sa prinútil prečítať si stanovy na ich tvári a uveriť tomu, čo hovoria. Je to aj vaša interpretácia udalostí?
Sú dve možnosti a toto je jedna z nich. Jedným z nich je, že sa hral rovnakým spôsobom, akým sa po mnoho rokov hralo verejnosti. Alternatívna teória, a ja netuším, ktorá z nich je pravdivá, je taká, že on alebo niektorí právnici z OpenAI – o ktorých si myslím, že sú veľmi kompetentní a veľmi dobre informovaní – to vedeli, ale mysleli si, že môžu hrať tú istú hru, akú hrala NSA niekoľko desaťročí, v tom prípade, pokiaľ povedia tieto veci a potom povedia slová, ale neodhalia skutočné interpretácie, že by im to tiež mohlo prechádzať. Takže Sam prichádza s vyhlásením, vďaka ktorému to vyzerá ako „Mali sme presne tie isté červené čiary ako Anthropic a vláda s tým bola skvelá.“
V skutočnosti si myslím, že Sam Altman povedal, že Anthropic mal dve červené čiary a OpenAI tri, a vláda s tým bola úplne v poriadku, a tak sa veľa ľudí škrabalo na hlave. Ale myslím si, že to musí byť buď tým, že Sam Altman a ktokoľvek, kto ho obklopoval, nerozumel tomu, ako tieto veci fungujú v praxi, alebo áno, a len predpokladali, že verejnosť o tom nebude vedieť, a preto im to prejde.
Ďalšia vec, ktorá prichádza na myseľ – opäť, AI je nová a je tak lákavé prísť na nové technológie, pretože to sú problémy prvého dojmu. "Nikto o tom nikdy predtým nemusel premýšľať," ale realita je taká, že každý o tom premýšľa už dlho. Možno to, čo je tu nové, nie je AI, ale to, že druhá Trumpova administratíva namiesto toho, aby robila kopu právnikov, ktoré možno nikto nikdy nebude čítať, aby ospravedlnila svoje činy pred tajným súdom, ktorému nikto nevenuje pozornosť, nie je taká rafinovaná.
Nie sú takí sofistikovaní a len hovoria, že budú neustále každého špehovať. Len oznámili svoje zámery spôsobom, že možno všetky administratívy by mali len oznámiť svoje zámery a zistiť, kam padajú žetóny.
Ale pozerám sa na skutočnosť, že tu v New Yorku bol Ed Snowden. AT&T prevádzkuje budovu, o ktorej každý vie, že je to budova NSA. Je to len obrovská budova a my by sme mali predstierať, že to nie je monitorovacie centrum NSA, ale je tam. je to obrovské. Zdá sa, že nič z toho k ničomu neprišlo. Všetky tieto odhalenia, tieto úniky, sme to neodvolali.
V skutočnosti sa zvyšuje len vtedy, keď sa mnohé z našich životov čoraz viac digitalizujú. A možno je Trumpova administratíva vždy takým tupým nástrojom, čo môže byť v skutočnosti tá vec, ktorá spôsobuje zúčtovanie. Vidíš to aj tak?
Je tam niekoľko rôznych vecí a nie je úplne pravda, že sme s tým vôbec neustúpili. Odhalenia od Snowdena viedli k určitým zmenám v tom, ako sa tieto veci dejú. A teraz existujú – už som zabudol, ako sa volajú, ale sú ako títo civilní ľudia na súde FISA, ktorí budú v určitých otázkach prezentovať druhú stranu.
A videli sme, že niektoré autority sú určitými spôsobmi obmedzené, a tak často prichádzajú so žiadosťou o opätovnú autorizáciu, a aktivisti boli veľmi agresívni, pokiaľ ide o zatlačenie a pokus o nasadenie ďalších zábran. Ale na širšiu otázku si myslím, že existujú dve rôzne veci. Máte napoly pravdu v tom, že táto administratíva nie je rafinovaná a len nahlas hovorí veci, ktoré by nemala.
"Sme vo vojne s Iránom, robíme to, deje sa to. Ani ten tanec neskúsime."
Spôsobmi, ktoré by všetky predchádzajúce administratívy nerobili. Ale v skutočnosti to nepovedali priamosledovanie, najmä sledovanie Američanov. Boli to náznaky, ale nevyjadrili sa tak výrazne. Druhá polovica má čo do činenia s pozíciou Anthropic a všeobecným pohľadom na AI ako túto možno existenčnú technológiu, kde sa Anthropic vždy prezentoval ako „My sme premýšľaví dobrí chlapci“ a či tomu veríte alebo nie, je to niečo iné. Majú túto povesť: „Snažíme sa to robiť spôsobom, ktorý je bezpečný, rešpektuje ľudskosť a venuje pozornosť všetkým týmto veciam. A tak keď dôjde k stretu, tam prichádza boj.
Máte Trumpovu administratívu, ktorá chce len robiť, čo chce, a nie je v tom dômyselná. A potom tu máte Anthropic, ktorého sebapopis a jeho verejná osobnosť sú vždy ako: „Sme ohľaduplní a rešpektujeme ľudskosť a práva a všetky tieto veci.“ To je pravdepodobne miesto, kde došlo k stretu, pretože spoločnosť Antropic, ako bolo objasnené, nejaký čas spolupracovala s ministerstvom obrany a má mnoho ďalších zmlúv s vládou, ktoré využila. Nebol to problém.
Iba v týchto špecifických oblastiach, keď sa vláda snažila rozšíriť zmluvu, ktorú mala, začalo najvyššie vedenie Anthropicu hovoriť: „Počkajte, musíme sa uistiť, že neprekročíme tieto červené čiary, ktoré by potenciálne poškodili našu povesť premysleného a bezpečného poskytovateľa AI.“
Chcem sa vás stručne opýtať na dohľad vo všeobecnosti a najmä na znepokojenie štvrtého dodatku Anthropic. Štvrtý dodatok hovorí, že vláda vás nemôže bezdôvodne prehľadávať. Najlepší spôsob, ako pochopiť štvrtý dodatok, je počúvať „99 problémov“ od Jay-Z. Takže ak si potrebujete dať pauzu a ísť si vypočuť „99 problémov“, je to skvelé. Je tam všetko. Počúval som to, keď som bol na právnickej fakulte a dávalo to dokonalý zmysel.
Ale vláda vo všeobecnosti potrebuje povolenie, aby vás prehľadala. A keďže stále viac a viac vášho života ide online, existuje veľa a veľa výnimiek. Ide však o to, že by stále mali potrebovať príkaz online. Antropic argumentuje: "Umelá inteligencia sa nikdy neunaví. Môže neustále prehľadávať všetko. To znamená, že budeme robiť len hlavný dohľad."
Ešte predtým, ako sa objavila AI, bola vonku myšlienka, že vláda môže prehľadať všetko, čo vám patrí, myšlienka, že vláda nepotrebuje povolenie na prehľadanie všetkých vašich vecí. Myšlienka, že ak sa nejaké vaše údaje dostali na krátku sekundu mimo krajinu, vláda ich tam zachytila,
Keď som bol na vysokej škole, približne v čase zákona Patriot Act, debata bola o tom, že nebudú hľadať vaše skutočné údaje, ale môžu získať metadáta a metadáta sami. Údaje o vašich údajoch budú stačiť na to, aby vás vždy presne našli. A aj to je príliš ďaleko. A my sme tancovali, čo môže vláda zbierať? Čo je prípustné? Čo potrebujú, aby nás všetkých udržali v bezpečí a čo je príliš ďaleko? Tie riadky sa posunuli.
Takže len stručne opíšte všeobecné obavy z dohľadu v takom rozsahu a kde sme teraz. Predtým, ako situácia AI všetko exponenciálne skomplikovala.
Tu musím predstaviť ďalší koncept, ktorý mal byť pravdepodobne spomenutý skôr, ale je dôležitý, ktorý sa nazýva „doktrína tretej strany“. Myšlienkou štvrtého dodatku je, že vláda nemôže prehľadávať vás alebo vaše veci bez príkazu a nemôže dostať príkaz bez pravdepodobného dôvodu, že ste spáchali nejaký zločin. Existuje však koncept, ktorý vznikol pred desiatkami rokov, nazývaný doktrína tretej strany, ktorá hovorí, že sa to nemusí alebo vôbec nevzťahuje na veci, ktoré nie sú vaše, aj keď sú to vaše údaje.
Najskoršou a najzrejmejšou verziou toho boli telefónne záznamy, ktoré mala telefónna spoločnosť o tom, komu ste volali. Telefónne spoločnosti nenahrávali vaše hovory, ale nahrávali, keby som vám zavolal, v telefónnej spoločnosti by bol záznam, ktorý hovorí: "Mike volá Nilay." A to, čo určili viaceré súdy, bolo, že vláda môže ísť a požiadať o to, a nepotrebujú na to príkaz, pretože nejde o vyhľadávanievaše údaje, je to táto tretia strana a môže súhlasiť ako tretia strana s tým, že tieto údaje len odovzdá.
Boli to však prípady zo 60. a 70. rokov 20. storočia, kde sa zistilo, že vláda k tomu môže získať prístup bez povolenia, keď tam nebolo toľko údajov tretích strán. Rozmach počítačov a internetu to zmenil. Teraz sú všetko údaje tretích strán. Všetko, čo robíme, niekde zbiera nejaká firma a má o tom záznam. Takže v podstate každý kúsok údajov o vás, kde sa nachádzate, s kým hovoríte, s kým komunikujete, čo hovoríte, čo robíte, to všetko majú v súčasnosti v podstate tretie strany. Takže doktrína tretej strany do určitej miery pohltila celý štvrtý dodatok, kde čokoľvek, čo sa týka vás, čo má niekto iný, je oveľa nižší štandard toho, čo môže vláda urobiť, aby to požadovala.
Len aby som bol konkrétny, znamená to, že keď sú moje dáta v iCloude, vláda môže ísť do Apple a dostať moje dáta z iCloudu bez toho, aby mi to povedala?
Môžu si to vyžiadať. Pokojne si to môžu vyžiadať aj bez záruky. Potom má spoločnosť svoje vlastné práva a môže určiť, čo chce s touto žiadosťou urobiť. Môžu to jednoducho vzdať. Môžu, ako to urobí väčšina z nich, ak ide o vážnu žiadosť, žiadosti odmietnuť alebo vás môžu upozorniť a môžu povedať – a to je to, čo väčšina z nich urobí – upozornia vás a povedia: „Vláda požaduje niektoré z vašich údajov. Môžete sa obrátiť na súd a pokúsiť sa ich zablokovať.“ Ak nie, vaše údaje odovzdajú do siedmich dní alebo čo to môže byť.
Opäť záleží. Ak ide o vyšetrovanie trestných činov, potom môže existovať nejaký druh rozkazu, o ktorom vám spoločnosť nesmie povedať. Existujú najrôznejšie situácie, ale väčšina z nich zahŕňa menej ako úroveň ochrany, ktorú by vyžadoval štvrtý dodatok, ak by išlo o údaje alebo akékoľvek informácie alebo čokoľvek vo vašom vlastnom dome.
Množstvo údajov, ktoré máte na cloudovom serveri niekoho iného, je obrovské, však? Každá jedna vec, ktorú teraz robíte vo všeobecnosti na internete, je nejakým spôsobom zálohovaná alebo nejakým spôsobom zaznamenaná na serveroch niekoho iného. Vláda našla tento spôsob, ako obísť štvrtý dodatok a povedať: "No, v skutočnosti to nie je tvoje. Patrí Amazonu. Môžeme sa ísť porozprávať s Amazonom," a Amazon musí stáť uprostred tohto procesu a povedať: "Vymysleli sme ďalší proces, aby sme trochu ochránili ľudí."
Pozerám sa na to – a keď som pokrýval prvé prípady doktríny tretích strán, ktoré pokrývali cloudové služby a vláda stále vyhrávala, vtedy som sa v podstate zmenil na Jokera. Hovoril som si: „Všetky tieto veci, ktoré predstierame o textalizme a obyčajnom [čítaní], nič z toho neznamená, pretože sme len konskou silou na zadné vrátka pomocou tohto prastarého zákona do všetkých údajov.“
A potom sa pozriem na toto a pozriem sa na Anthropic a poviem si: "No, toto je rovnaký vzor." Toto je súkromná spoločnosť, ktorá hovorí: „Dobre, chápeme vašu pozíciu. Chápeme, že ste prehodnotili zákon tak, aby to znamenalo túto vec, a my vložíme nejaký proces medzi vás, náš nástroj a údaje Američanov, ktoré prechádzajú cez našu službu.“ Len by ma zaujímalo, či tam vidíte tú paralelu medzi Anthropic a Amazon a Azure a akýmikoľvek inými existujúcimi cloudovými službami, ktoré uchovávajú toľko našich údajov.
Áno, aj keď je tu niekoľko dôležitých vysvetlení, vďaka ktorým je to trochu iné. A v skutočnosti – myslím si, že The New York Times mal túto správu ako prvý – hlavná klauzula, ktorá bola pre Anthropic najdôležitejšia, bola konkrétne o údajoch zozbieraných z komerčných služieb a o nemožnosti použiť Clauda na tieto údaje, čo je presne tento problém, pokiaľ ide o údaje tretích strán. Chcem však objasniť hlavný rozdiel medzi tým, o čom sme práve hovorili predtým s Amazonom alebo inými tretími stranami, ktoré hosťujú vaše údaje, boli to prípady, keď boli, pretože sedia v ekosystéme, priamo hosťovali vaše údaje.
V prípade Clauda to nie je tak, že by sa niekto obával toho, že NSA prezerá vaše používanie Clauda. Ide o to, že vyjdú von a získajú údaje tretích strán od Amazonu alebo pravdepodobnejšie o druhu záludných, skrytých sprostredkovateľov údajov, ktorí zobrazujú reklamy na vašich telefónoch a poznajú vašu polohu a vaše záujmy a podobné veci. A potom to vložiť do systémuna ktorom by potom Claude pracoval. To je to, čoho Anthropic naozaj nechcel byť súčasťou. Takže kdekoľvek alebo akokoľvek by vláda zbierala tieto údaje od tretej strany, Anthropic povedal: „Nechceme, aby sa na tieto údaje používal náš nástroj.
Apple sa slávne postaví FBI, ktorá ju žiada, aby do iPhonu dala zadné vrátka, a Apple povie „nie“ a postavia sa Trumpovi. A je tu časť fungovania nášho systému, v ktorej môžu veľké súkromné spoločnosti povedať „nie“ vláde v mene svojich zákazníkov. A to sa cítilo rovnako, že Apple to opäť nepoloží na zadné vrátka na iPhone, alebo že veľkí poskytovatelia cloudu povedia: „Je tu malý proces, ktorým musíte prejsť, kým získate jednotlivé údaje.“
Zdá sa, že Anthropic hovorí: „Nebudeme robiť len hromadnú analýzu údajov, ktoré ste získali od iných strán, pretože to vedie k 24/7 hromadnému dohľadu nad Američanmi, a to nechceme robiť.“ To sa však zdá byť pre túto administratívu príliš ďaleko. Vracia sa z toho niečo?
Uvidíme. V minulosti, keď sa to stalo – a stalo sa to veľakrát vo väčšine veľkých technologických spoločností, v určitom bode si povedali, že niečo je príliš ďaleko – kde sa to zvyčajne vedie na súd. Spoločnosti sa obrátia na súd alebo sa administratíva obráti na súd a dôjde k nejakému súdnemu sporu.
Zadné vrátka do iPhonu sú toho dokonalým príkladom. Dostalo sa to na súd a oni si to vybojovali, hoci nikdy nedospeli k záveru, pretože FBI sa nakoniec do iPhonu len ručne nabúrala a potom nechcela, aby to súdne rozhodnutie v budúcnosti zničilo.
Ale v tomto prípade, kde dochádza k eskalácii a kde sa to líši od tých minulých situácií, je to, že Trumpova administratíva namiesto toho, aby sa obrátila na súd, urobila toto označenie „riziko dodávateľského reťazca“, čo je jednoducho šialené. Táto myšlienka, že tento nástroj, ktorý bol navrhnutý tak, aby zabránil potenciálnym zahraničným záškodníckym aktérom dodávať technológie, by potom mohol vložiť skryté nástroje na sledovanie do väčšieho technologického balíka, ktoré by mohli byť zakázané. Aplikovať to na spoločnosť so sídlom v USA v podstate za to, že má etické zásady, sa javí ako skutočné, skutočné zneužitie tohto nástroja.
Dokonca aj tento nástroj bol v niektorých ohľadoch sporný, ale mohli ste pochopiť impulz, ktorý za ním stojí, keď hovoríte o čínskej sieťovej firme alebo niečo v tomto zmysle. Tu to nedáva zmysel. Reakcia na to teda ďaleko presahuje to, čo by sa v tomto prípade normálne dalo vidieť. Tradične by ste mohli vidieť, že dôjde k nejakému súdnemu sporu a ktorákoľvek strana ho mohla začať a bol by to len boj o to, ako by sa zmluva mohla uplatniť.
Ale to sa tu nedeje. Táto administratíva v podstate hovorí: „Ak nám nedáte úplne všetko, čo chceme, ak nenastavíte svoje nástroje tak, aby fungovali tak, ako chceme, aby fungovali, potom sa efektívne pokúsime zničiť celé vaše podnikanie.“ A to je eskalácia.
Je tu jeden kúsok, na ktorom by som chcel skončiť, a je to tak trochu najgalaktickejšia verzia tohto mozgu. FIRE, čo je skupina presadzujúca slobodu prejavu, zverejnila blogový príspevok tesne predtým, ako sme začali nahrávať, s argumentom, že nútiť Anthropic vytvárať nástroje, ktoré nechce vytvárať, je porušením slobody prejavu, že je to niečo, čo sa nazýva vynútená reč. Je tu veľa histórie. Je tu nejaká hlboká história Verge a Techdirt, v burine, existenciálnej kríze.
Ale v podstate ide o myšlienku, že kód je reč, že písanie kódu pre počítač je forma reči a vláda vás nemôže donútiť, aby ste to urobili, a z toho plynie veľa vecí. Myslíte si, že nútiť Anthropic vytvárať nástroje, ktoré nechce vytvárať, je vynútená reč?
Áno, skutočne si myslím, že je to dosť presvedčivé. Pútavý vynútený prejav. Ale nie, myslím si, že je to zaujímavý argument. Je to ten, ktorý bol o niečo nižšie v zozname problémov, o ktorých som premýšľal. Očividne som sa väčšinou viac sústredil na otázky štvrtého dodatku, ale myslím si, že argument FIRE nie je nesprávny. Videli sme to v iných súvislostiach. Objavilo sa to aj v otázke zadných vrátok, pokiaľ ide o pokusy o zabudovanie zadných vrátok do šifrovaných systémov.
Spoločnosti určite vznesené ako prvéDodatok tvrdí, že „je vynútenou rečou prinútiť nás napísať takýto druh kódu.“ Je to opodstatnený argument. Môže to byť opäť tá, ktorú súdy budú pravdepodobne menej ochotné spočiatku riešiť, ak môžu tieto problémy riešiť iným spôsobom. Ale som rád, že FIRE urobil tento príspevok a myslím si, že je to zaujímavý a presvedčivý argument.
Áno, povaha druhej Trumpovej administratívy je taká, že je to taký tupý nástroj, že je takmer isté, že narazíme na všetky problémy naraz.
Áno, každý dodatok k Listine práv musí byť v tej či onej forme napadnutý každým možným problémom.
[Smiech] Roztočte koleso.
Som si istý, že niekde tu môžeme zaradiť porušenie Tretieho dodatku.
Jasné, áno. Claude teraz musí bývať vo vašom dome. presne tak. bude to skvelé. Robíme [pozmeňujúce a doplňujúce návrhy] jedna, tri, štyri a sedem. Zbierame ich.
Mike, toto bolo skvelé. Nemôžem uveriť, že ste predtým neboli na šou. Toto bolo skvelé. Musíš sa čoskoro vrátiť.
Absolútne. Kedykoľvek ma budeš chcieť.
Máte otázky alebo komentáre k tejto epizóde? Ozvite sa nám na decoder@theverge.com. Naozaj čítame každý e-mail!
