Dnes mluvíme o chaotické, rychle se měnící situaci ve společnosti Anthropic, tvůrce Claude, která se nyní ocitá ve velmi ošklivé právní bitvě s Pentagonem.
Přechod tam a zpět je komplikovaný, ale před několika dny Pentagon považoval Anthropic za riziko dodavatelského řetězce a Anthropic podal žalobu, která toto označení zpochybňuje a tvrdí, že vláda porušila svá práva prvního a pátého dodatku „snahou zničit ekonomickou hodnotu vytvořenou jednou z nejrychleji rostoucích soukromých společností na světě“. Mohu vám to říct hned teď: V následujících měsících budeme mluvit o zvratech tohoto případu na The Verge a zde na Decoderu.
Ale dnes jsem si chtěl udělat chvilku a pořádně se ponořit do jednoho velmi důležitého prvku této situace, kterému není věnována dostatečná pozornost, protože se to vymklo kontrole: jak vláda Spojených států provádí sledování, zákonná autorita, která umožňuje, aby k takovému sledování docházelo, a proč společnost Anthropic nedůvěřovala vládě, když tvrdila, že se bude řídit zákonem, pokud jde o používání AI k ještě většímu sledování.
Omezte odběratele, nezapomeňte, že získáte exkluzivní přístup k dekodéru bez reklam, ať máte své podcasty kdekoli. Zamiřte sem. Nejste předplatitelem? Přihlásit se můžete zde.
Mým dnešním hostem je Mike Masnick, zakladatel a generální ředitel společnosti Techdirt, vynikající a dlouhotrvající webové stránky o technologické politice. Mike už desítky let píše o překračování státní moci, soukromí v digitálním věku a dalších souvisejících tématech. Je odborníkem na to, jak internet a dozorový stát vyrostly vzájemně propojenými způsoby.
Víte, existuje to, co zákon říká, že vláda může dělat, když nás sleduje, a pak to, co vláda chce udělat. A co je nejdůležitější, existuje to, co vláda říká, že zákon říká, že může dělat, což je často přesný opak toho, co by si myslel každý normální člověk, který si zákon jen přečte.
Uslyšíte, jak Mike v této epizodě velmi podrobně vysvětluje, že nemůžeme – a neměli bychom – brát americkou vládu za slovo, pokud jde o sledování. Existuje příliš mnoho historie vládních právníků, kteří překrucují výklady jednoduchých slov jako „cíl“, aby rozšiřovali dohled komplikovanými způsoby – způsoby, které obvykle vyvolávají obavy pouze v právních kruzích, a které vybuchnou pouze tehdy, když dojde k obrovským kontroverzím, jako je hlavní odhalení NSA oznamovatele Eda Snowdena před více než deseti lety.
Ale na tvorbě politik v Trumpově éře není nic jemného ani sofistikovaného – a tak s Antropicem vedeme velmi hlasitou, velmi veřejnou debatu o technologiích a sledování v reálném čase, na internetu, v příspěvcích na blogu, v X rants a během zvuků z tiskových konferencí. Má to pozitiva i negativa, ale abyste tomu všemu dali smysl, musíte opravdu znát historii.
To je to, co jsme se s Mikem rozhodli v této epizodě vysvětlit – ať už jsou vaše názory na umělou inteligenci a vládu jakékoli, tato epizoda objasní, že obě strany dovolily, aby se stav sledování postupem času zvětšoval a zvětšoval. Nyní jsme na vrcholu dosud největšího rozšíření, pokud jde o AI.
Dobře: Zakladatel a generální ředitel Techdirt Mike Masnick o Anthropic, Pentagonu a sledování AI. Tady to je.
Tento rozhovor byl kvůli délce a srozumitelnosti lehce upraven.
Mike Masnick, jste zakladatel a CEO společnosti Techdirt. Vítejte v Decoderu.
jsem rád, že jsem tady.
Jsem nadšená, že tě mám. Jen jsem řekl, že jsem šokován, že jsi nikdy předtím nebyl v pořadu. Vy a já si píšeme a zveřejňujeme příspěvky už dlouho. Velká část pokrytí politik The Verge vděčí za to, co jste udělali v Techdirt, a pak je to, co se děje s Anthropic, tak komplikované, ale zasahuje tolik témat, která jste pokrývali tak dlouho. Jsem rád, že jsi konečně tady.
Je to komplikované téma, ale jsem nadšený, že se do toho pustím.
Na co se s vámi chci zaměřit, nejsou podrobnosti o tom, zda Anthropic podepíše smlouvu s vládou nebo zda OpenAI tuto smlouvu získá. Místo toho jsem si jistý, že mezi dobou, kdy to nahrajeme, a dobou, kdy to lidé poslouchají, bude více tweetů a více věcí bude jiných, než byly předtím.
Na co se chci zaměřit, je jen jedna ze dvou červených linií, které Anthropic skutečně vytyčil. Jedním z nich jeautonomních zbraní, což je vlastní úroveň komplikací. Tamní právo je trochu rodící se, ať už zbraně vůbec existují nebo už byly Ruskem nasazeny ve válce na Ukrajině.
Je zde spousta myšlenek, které chci jen nechat stranou, protože si myslím, že se více zaměří na svůj vlastní rozvrh. Další červenou linií, které chci věnovat hodně času, je hromadné sledování. A je zde poměrně hodně zákonů o hromadném sledování. Je tam hodně historie, hodně kontroverzní historie. Celá postava Edwarda Snowdena existuje kvůli kontroverzím kolem hromadného sledování.
Všechno se to týká – myslím, že jste to vy, kdo to zveřejnil – Národní bezpečnostní agentury (NSA), která je součástí ministerstva obrany, kterému teď z nějakého důvodu musíme říkat ministerstvo války.
[smích] Nemusíme nic dělat.
[smích] Nemáme. To je pravda tady v Americe. nemusíme nic dělat. Ale NSA v zásadě předefinovala, co mnoho slov znamená z hovorové angličtiny, na „Můžeme prostě dělat dohled“. A pak často dochází ke skandálu, když lidé zjistí, že pouze sledují. Takže tam prostě postavte scénu a nechci vás celou přetáčet, ale už je to hodně dlouho, co se tento vzorec opakoval.
Záleží na tom, jak hluboko chcete jít, ale krátká verze je zjevně ve světě po 11. září, USA přijaly Patriot Act, který měl pro vládu určitou schopnost zapojit se do sledování, což mělo sloužit k ochraně před budoucími teroristickými hrozbami. Postupem času se to začalo interpretovat zajímavým způsobem a byly v tom určité limity. Měli jsme také soud FISA, což je zvláštní soud, který má přezkoumávat zpravodajskou komunitu a jejich činnost, ale tradičně byl jednostranným soudem. Pouze jedna strana může hájit svůj případ u soudu a vše se děje tajně.
Je spousta věcí, o kterých se nevědělo. A pak v tom všem byl ještě jeden kousek, který sahá až k Ronaldu Reaganovi, což je Výkonný příkaz 12333, který má údajně stanovit pravidla cesty pro shromažďování zpravodajských informací.
Takže máte tyto tři soubory zákonů – no, pár souborů zákonů – a exekutivní nařízení, které veřejnosti, části, které si můžete přečíst, jako by říkaly určité věci o tom, co naše vláda a zejména NSA mohou dělat v oblasti sledování. Při čtení s jednoduchým anglickým slovníkem, jehož povaze vy a já pravděpodobně máme a rozumíme, bychom vyšli z přesvědčení, že schopnost NSA sledovat Američany byla velmi omezená, ve skutečnosti do té míry, že by měli, pokud si uvědomí, že sledují osobu z USA, že by měli okamžitě přestat a křičet odporně a vymazat data a všechny tyto další věci.
Chvíli se šuškalo, že se to ve skutečnosti neděje a objevily se náznaky, a zejména senátor Ron Wyden velmi hlasitě vystoupil na půdu Senátu a řekl: „Něco tu není v pořádku a já vám nemohu tak docela říct, co,“ nebo se při slyšení ptal úředníků tajných služeb: „Sbíráte nebo nesbíráte hromadná data o Američanech?
Tito úředníci by se buď odklonili, nebo v některých případech přímo lhali. Domnívám se, že to bylo jedno slyšení v roce 2012 s Jamesem Clapperem, který byl v té době ředitelem Národní zpravodajské služby, kde byl v tomto bodě přímo dotázán. A v podstatě řekl: "Ne, neshromažďujeme data o Američanech." To byla velká část toho, co inspirovalo Eda Snowdena k úniku dat, zprávy, které unikly také Glennu Greenwaldovi a Bartonu Gellmanovi a Lauře Poitrasové. Z toho všeho jsme začali zjišťovat, že NSA má svůj vlastní slovník, který se poněkud liší od slovníku, který používáme vy a já, takže dokáže interpretovat slova jiným způsobem, než je jejich prostý anglický význam, včetně slov jako „cíl“, což je klíčové slovo. Široké chápání toho, co to je, je, že teoreticky se mají zaměřovat pouze na lidi, kteří nejsou americkými osobami, myslím, že to je ta fráze.
Postupem času se to však interpretovalo tak, že cokoli, co zmiňuje tuto osobu, cokoli, co se týká cizí osoby, je nyní férová hra, i když jde o sděleníosoba USA. Takže kdybychom si spolu napsali textové zprávy a zmínili se o cizí osobě, je to nyní pro NSA férová hra, kterou může shromažďovat, uchovávat a uchovávat.
Je tu druhá část. Zmínil jsem první výkonný příkaz 12333 od Ronalda Reagana, který, jak se technologie v průběhu času měnila a internet rostl, účinně umožňoval NSA proniknout do zahraniční komunikace, ale to zahrnovalo jakoukoli komunikaci, která mohla někde opustit USA. Takže pokud vám posílám textovou zprávu a ode mě z Kalifornie odešla zpráva přes optický kabel, který náhodou opustil USA, NSA by mohla napojit na část, jakmile bude mimo USA, a shromáždit tyto informace, i kdyby k vám směřovala jen v USA.
NSA by si pak tyto informace mohla ponechat, i když se jednalo o osoby z USA, a později je mohli provádět konkrétní vyhledávání, někdy označované jako „pátrání v zadních vrátkách“. Shromáždili tyto informace, o kterých se domníváme, že původně sbírat neměli, ale mohli si je ponechat. A slíbili, přísahali, že to budou držet v soukromí, ale když prohledali a zjistili, že vy nebo já jsme se zmínili o cizí osobě, pak pro ně bylo najednou fér, dělat si s tím, co chtějí.
Celkově se to proměnilo ve svět, ve kterém může federální vláda v podstatě shromažďovat jakékoli informace, které se náhodou dotknou mimo USA. I když je to zcela mezi dvěma americkými osobami, pokud zmíní nebo dokonce naznačí někoho, kdo není americkým člověkem, najednou je to férová hra. A z toho jsme dostali to, co se zdá být formou hromadného sledování amerických osob ze strany NSA, která tvrdí a veřejně prohlašuje, že nešpehuje americké osoby.
Jak jsme se dostali do tohoto bodu? To je spousta postupných dětských kroků. Zmínil jste Jamese Clappera v roce 2012, to je Obamova administrativa. Zmínil jste Ronalda Reagana, to jsou osmdesátá léta. Procházíme zde demokraty a republikány.
Válka proti terorismu se odehrála v administrativě George W. Bushe a 11. září a Patriot Act se odehrály v administrativě George W. Bushe. Pod předsedy obou stran, na sjezdech obou stran je spousta postupných špatných věcí. Jak se to stalo?
Nejjednodušší formou je, že nikdo a už vůbec žádný prezident nechce být prezidentem v době, kdy dojde k velkému teroristickému útoku, protože kvůli tomu vypadá špatně. Očividně chtějí také chránit Američany, že? To je součástí jejich práce. Pokud máte zpravodajskou komunitu, která v zásadě funguje v temnotě, protože to je to, co zpravodajské komunity dělají, a stále za vámi přicházejí a říkají: "Hele, kdybychom mohli získat přístup k těmto informacím, bylo by to opravdu užitečné při prevenci teroristického útoku."
Mohou nastat případy, kdy je to pravda, že zpravodajská komunita je schopna tyto informace využít způsobem, který dobře funguje. Ale my jsme také teoreticky společností zákonů s ústavou USA, kterou bychom měli dodržovat. Ale to umožnilo, že administrativa za administrativou, opět republikánská a demokratická, měla právníky, kteří byli velmi chytří a kteří se podívali a řekli: „No, když se k tomu postavíme tímto způsobem nebo takto vyjádříme nebo budeme toto interpretovat, tak můžeme dostat, co chceme, a technicky neporušit zákon nebo technicky neporušit čtvrtý dodatek.
Předpoklad byl vždy: „Můžeme nějak ohnout zákon nebo ohnout náš výklad zákona a nikdo to opravdu nikdy neuvidí, nebo to nikdo, koho to zajímá, opravdu nikdy neuvidí, a proto se z toho dostaneme.
Opravdu mě napadají dvě věci. Za prvé, oba jsme četli spoustu soudních rozhodnutí – rozhodnutí odvolacího soudu a rozhodnutí Nejvyššího soudu. A u našeho Nejvyššího soudu se vede boj o to, jak doslovně vyložit slova v našich stanovách a zákonech.
Nebudu se v tom příliš rozepisovat, ale obecně bych řekl, že myšlenka, že byste si měli přečíst slova na stránce a udělat to, co říkají, je ve Spojených státech dominantním kmenem zákonného výkladu. Vlevo nebo vpravo, říkají to oba. Dohadují se o některých velmi esoterických jemných bodech toho, co to vlastně znamená. Ale že byste měli být schopni číst tato slova a dělat to, co říkají, to není k mání, že?
Dostali jsme se alespoň k prvnímu průchodu toho, co byste mohlinazývat textalismus. Jak se právníci obou správ dostanou tak daleko od dominantního způsobu právního rozhodování u nás? Soudci obou stran se shodují, že je to alespoň první krok.
Přál bych si znát přesnou odpověď, ale myslím, že je to motivované uvažování, že? Jako právník jste tu, abyste bránili svého klienta, a úspěch – dá-li se to nazvat úspěchem – našeho právního systému bývá založen na sporné situaci, kdy máte různé strany, které se o tyto věci dohadují, kde úlohou přísedícího je zúžit a zjistit, která strana je vlastně správná.
Jedním z problémů zpravodajské komunity a jejího nastavení je, že nemáte takovou nepřátelskou situaci. To usnadňuje jedné straně ospravedlnit argument, který předkládají, protože ho ve skutečnosti nikdo netlačí. Kombinujete to s překlenujícím strachem z dalšího teroristického útoku, čehokoli, co souvisí s národní bezpečností, a dokonce i když máte situace, kdy máte soud FISA – mám na mysli soud FISA, který byl do jisté míry známý tím, že byl po mnoho let skutečným razítkem.
Zapomněl jsem na přesná čísla, ale bylo to něco jako více než 99 procent žádostí, které šly k soudu FISA za účelem sledování určitých situací, a je snadné říci, že 99 procent je zjevně příliš mnoho. Je zřejmé, že ti, kdo předkládají žaloby k soudu, vybírají a vybírají. Z velké části nepřinášejí úplně šílená tvrzení. Ale bez tohoto protichůdného aspektu a s velmi silně motivovanou skupinou lidí, kteří si myslí: „Musíme to udělat,“ nebo jim administrativa říká: „Musíme to udělat,“ najdou způsoby, jak to udělat. A tam časem skončíte.
Zapojil se do tohoto procesu někdo, kdo se někdy probudil a řekl si: „Chlapče, podařilo se nám předefinovat slovo ‚cíl‘ tak, aby znamenalo cokoliv, co chceme“?
[smích] Evidentně jste měli Eda Snowdena, který prozradil spoustu dokumentů. Měli jste Johna Napiera Tyea, který v roce 2014 napsal článek pro The Washington Post, který odhalil výklad výkonného nařízení 12333, a řekl, že to je skutečný problém, kterému je třeba věnovat pozornost. Máte další lidi, kteří o těchto věcech mluvili, ale z větší části jsou lidé, kteří se podílejí na práci v rámci administrativy na věcech zpravodajské komunity, koupeni do pohledu zpravodajské komunity, což je, že prvořadým cílem je chránit zemi před něčím špatným. Nejlepší způsob, jak toho dosáhnout, je mít co nejvíce informací.
Je snadné mít pochopení pro argument, že ano, mít více informací jim může umožnit zachytit něco dříve nebo najít něco důležitého, ale to nemusí být pravda. Získání příliš velkého množství informací je pravděpodobně stejně špatné jako příliš málo informací, protože často může skrýt informace, které jsou skutečně užitečné, informace, které skutečně potřebujete, abyste něco určili.
Ale také máme U.S. Ústava na prvním místě a máme důvody, proč teoreticky nemáme umožnit hromadné sledování bez pravděpodobného důvodu. Jako země, která věří v právní stát, bychom měli být schopni podle toho žít, a když se to všechno stane ve tmě, budete mít tendenci to ztrácet ze zřetele.
To mě přivádí k Anthropic. Antropic je především podniková společnost. Jsou dobří ve vládě, vybudovali si svaly, pracují v nich lidé, kteří se v některých věcech opravdu dobře vyznají. Očividně se podívali na Peta Hegsetha, který řekl: „Chceme všechna zákonná použití,“ a přešli o dvě úrovně výkladu dolů a řekli: „No, vaše doslovné přesvědčení je, že tato slova neznamenají to, co říkají, že znamenají na jejich tváři. Takže ‚všechna zákonná použití‘ je příliš velká a my chceme dát nějaké mantinely, zejména kolem hromadného sledování.“
Znovu vymezím autonomní zbraně, což byla druhá červená čára, ale zejména u hromadného sledování Dario Amodei říká: "Můžeme toho udělat příliš mnoho. To je příliš nebezpečné. Toto je porušení čtvrtého dodatku."
Napětí je tam „říkáte, že budete dodržovat tyto zákony, které říkají jednu věc, a teď, po tak dlouhé době, znamenají něco úplně jiného a my prostě nechceme být součástí. To jeboj. Chci to jen porovnat se Samem Altmanem, který se vrhne a řekne: "Uděláme všechna zákonná použití," a pak zveřejní tuto dlouhou zprávu jako: "Tady jsou všechny zákony, které budeme dodržovat."
Zdá se, že Altman nevěděl, jak NSA tyto věci reinterpretovala, a tak se nechal vzít na projížďku. A od té doby začal chodit zpět – i když nahráváme, jsem si jistý, že existuje více tweetů a pozice všech se změnily. Ale Altman to pomalu kráčel zpátky, ale zdá se, že se OpenAI přinutila přečíst si zákony na jejich tvářích a uvěřit tomu, co říkají. Je to i vaše interpretace událostí?
Jsou dvě možnosti a to je jedna z nich. Jedním z nich je, že se s ním hrálo stejným způsobem, jakým se po mnoho let hrálo veřejnosti. Alternativní teorie, a já netuším, která z nich je pravdivá, je ta, že on nebo někteří právníci z OpenAI – kteří jsou podle mě velmi kompetentní a velmi znalí – to věděli, ale mysleli si, že by mohli hrát stejnou hru, jakou NSA hrála několik desetiletí, v tom případě, že budou říkat tyhle věci a pak říkat slova, ale neodhalí skutečné interpretace, že by jim to také mohlo uniknout. Takže Sam přichází s prohlášením, díky kterému to vypadá, že „Měli jsme přesně stejné červené čáry jako Anthropic a vláda s tím byla skvělá.“
Ve skutečnosti si myslím, že Sam Altman řekl, že Anthropic měl dvě červené čáry a OpenAI tři, a vláda s tím byla naprosto v pořádku, a tak se spousta lidí škrábala na hlavě. Ale myslím si, že to musí být buď tím, že Sam Altman a kdokoli, kdo ho obklopoval, nechápal, jak tyto věci v praxi fungují, nebo ano a jen předpokládali, že se to veřejnost nedozví, a proto se z toho mohou dostat.
Další věc, která mě napadá – opět je AI nová a je tak lákavé přijít na nové technologie, protože to jsou problémy prvního dojmu. "Nikdo o tom nikdy předtím nemusel přemýšlet," ale realita je taková, že o tom všichni přemýšlí už dlouho. Možná to, co je zde nové, není umělá inteligence, ale to, že druhá Trumpova administrativa místo toho, aby dělala spoustu právníků, které možná nikdo nikdy nebude číst, aby ospravedlnila své činy tajnému soudu, kterému nikdo nevěnuje pozornost, prostě není tak rafinovaná.
Nejsou tak sofistikovaní a jen říkají, že budou neustále všechny špehovat. Právě oznámili své záměry způsobem, že by možná všechny administrativy měly své záměry oznámit a zjistit, kam žetony padají.
Ale dívám se na skutečnost, že tady v New Yorku byl Ed Snowden. AT&T provozuje budovu, o které každý ví, že je to budova NSA. Je to jen obří budova a my bychom měli předstírat, že to není dohledové centrum NSA, ale je to tam. je to obrovské. Zdá se, že nic z toho k ničemu nedošlo. Všechna tato odhalení, tyto úniky, jsme to neodvolali.
Ve skutečnosti se zvyšuje pouze s tím, jak se mnohé z našich životů stále více digitalizují. A možná, že Trumpova administrativa je za všech okolností tak tupým nástrojem, což může být vlastně věc, která způsobuje zúčtování. Vidíš, že se to vůbec hraje?
Je tam několik různých věcí a není tak úplně pravda, že jsme s tím vůbec neustoupili. Odhalení od Snowdena vedla k určitým změnám v tom, jak se tyto věci dějí. A teď jsou – už jsem zapomněl, jak se jmenují, ale jsou jako tito občanští amikusisté u soudu FISA, kteří budou v určitých otázkách prezentovat druhou stranu.
A viděli jsme, že některé úřady jsou určitými způsoby omezeny a často přicházejí s žádostí o opětovnou autorizaci a aktivisté byli velmi agresivní, když se snažili zatlačit zpět a pokusili se nasadit další zábradlí. Ale k širší otázce si myslím, že existují dvě různé věci. Máte napůl pravdu v tom, že tato administrativa není rafinovaná a jen nahlas říká věci, které by neměla.
"Jsme ve válce s Íránem, děláme to, děje se to. Ani ten tanec nezkusíme."
Způsoby, které by všechny předchozí administrativy nedělaly. Ale ve skutečnosti to neřekli přímosledování, zejména sledování Američanů. Byly to náznaky, ale nevyšly tak důrazně. Druhá polovina toho má co do činění s pozicí Anthropic a obecným pohledem na AI jako na tuto možná existenciální technologii, kde se Anthropic vždy prezentoval jako „Jsme přemýšliví dobří hoši“, a zda tomu věříte nebo ne, je něco jiného. Mají takovou pověst: "Snažíme se to dělat způsobem, který je bezpečný, respektuje lidstvo a věnuje pozornost všem těmto věcem." A tak když dojde k takovému střetu, tam přichází boj.
Máte Trumpovu administrativu, která prostě chce mít možnost dělat, co chce, a není v tom lstivá. A pak máte Anthropic, jehož sebepopis a jeho veřejná osobnost je vždy jako: „Jsme ohleduplní a respektujeme lidskost a práva a všechny tyto věci.“ Tam pravděpodobně došlo ke střetu, protože společnost Antropic, jak bylo objasněno, nějakou dobu spolupracovala s ministerstvem obrany a má mnoho dalších smluv s vládou, které využila. to nebyl problém.
Pouze v těchto konkrétních oblastech, kde se vláda snažila rozšířit smlouvu, kterou měla, začalo nejvyšší vedení Anthropic říkat: „Počkejte, musíme se ujistit, že nepřekračujeme tyto červené čáry, které by potenciálně poškodily naši pověst přemýšlivého a bezpečného poskytovatele umělé inteligence.
Rád bych se vás krátce zeptal na sledování obecně, a zejména na znepokojení čtvrtého dodatku Anthropic. Čtvrtý dodatek říká, že vás vláda nemůže bezdůvodně prohledávat. Nejlepší způsob, jak porozumět čtvrtému dodatku, je poslechnout si „99 problémů“ od Jay-Z. Takže pokud si potřebujete dát pauzu a jít si poslechnout „99 Problems“, je to skvělé. Je to tam všechno. Poslouchal jsem to, když jsem byl na právnické fakultě, a dávalo to dokonalý smysl.
Ale vláda obecně potřebuje povolení, aby vás prohledala. A jak je stále více a více vašeho života online, existuje mnoho a mnoho výjimek. Ale myšlenka je, že by stále měli potřebovat příkaz online. Antropic argumentuje: "Umělá inteligence se nikdy neomrzí. Může neustále prohledávat všechno. To znamená, že budeme dělat jen hlavní dohled."
Ještě předtím, než se objevila AI, byla venku myšlenka, že vláda může prohledat vše, co vám patří, myšlenka, že vláda nepotřebuje povolení k prohledání všech vašich věcí. Myšlenka, že pokud se nějaké vaše údaje na krátkou sekundu dostaly mimo zemi, vláda je tam zachytila,
Když jsem byl na vysoké škole, přibližně v době Patriot Act, debata byla o tom, že nebudou prohledávat vaše skutečná data, ale mohou získat metadata a metadata sami. Údaje o vašich datech budou stačit k tomu, abyste vás vždy přesně našli. A i to je příliš daleko. A my jsme tančili o tom, co může vláda shromáždit? Co je přípustné? Co potřebují, aby nás všechny udrželi v bezpečí, a co je příliš daleko? Ty řádky se posunuly.
Takže jen stručně popište všeobecné obavy ohledně sledování v takovém měřítku a kde jsme nyní. Než situace s AI vše exponenciálně zkomplikovala.
Zde musím představit další koncept, který měl být pravděpodobně zmíněn dříve, ale je důležitý, který se nazývá „doktrína třetí strany“. Myšlenka čtvrtého dodatku spočívá v tom, že vláda nemůže prohledat vás nebo vaše věci bez příkazu a nemůže získat příkaz bez pravděpodobného důvodu, že jste spáchali nějaký druh zločinu. Existuje však koncept, který vznikl před desítkami let, nazvaný doktrína třetí strany, která říká, že se to nutně nebo vůbec nevztahuje na věci, které nejsou vaše, i když jsou to vaše data.
Nejstarší a nejzřejmější verzí toho byly telefonní záznamy, které telefonní společnost měla o tom, komu jste volali. Telefonní společnosti nenahrávaly vaše hovory, ale nahrávaly, kdybych vám zavolal, u telefonní společnosti by byl záznam, který říká: "Mike volá Nilay." A co bylo rozhodnuto několika soudy, bylo, že vláda může jít a požádat o to, a nepotřebují k tomu zatykač, protože to není prohlídkavaše údaje, je to tato třetí strana a může souhlasit jako třetí strana s tím, že tato data pouze předá.
Ale to byly případy z 60. a 70. let, kdy bylo rozhodnuto, že vláda k tomu může získat přístup bez povolení, když tam nebylo tolik dat třetích stran. Vzestup počítačů a internetu to změnil. Nyní jsou vše data třetích stran. Všechno, co děláme, někde shromažďuje nějaká společnost a má o tom záznam. Takže v podstatě každý kousek dat o vás, kde jste, s kým mluvíte, s kým komunikujete, co říkáte, co děláte, to vše je v dnešní době do značné míry drženo třetími stranami. Takže doktrína třetí strany do jisté míry pohltila celý čtvrtý dodatek, kde cokoliv, co se týká vás a co má někdo jiný, je mnohem nižší standard pro to, co může vláda udělat, aby si to vyžádala.
Abych byl konkrétní, znamená to, že když jsou moje data v iCloudu, vláda může jít do Applu a dostat má data z iCloudu, aniž by mi to kdy řekla?
Mohou si to vyžádat. Mohou si to snadno vyžádat bez záruky. Pak má společnost svá vlastní práva a může určit, co chce s touto žádostí udělat. Mohou to prostě vzdát. Mohou, jak to udělá většina z nich, pokud jde o vážnou žádost, žádosti bez váhání odmítnout nebo vás mohou upozornit a mohou říct – a to je to, co většina z nich udělá – upozorní vás a řeknou: „Vláda požaduje některá vaše data. Můžete se obrátit na soud a pokusit se je zablokovat.“ Pokud ne, předá vaše data do sedmi dnů nebo co to může být.
Opět záleží. Pokud se jedná o vyšetřování trestných činů, pak může existovat nějaký druh roubíkového příkazu, o kterém vám společnost nesmí říct. Existují nejrůznější situace, ale většina z nich zahrnuje méně než úroveň ochrany, kterou by vyžadoval čtvrtý dodatek, pokud by šlo o data nebo jakékoli informace nebo cokoli ve vašem vlastním domě.
Množství dat, které máte na cloudovém serveru někoho jiného, je obrovské, že? Každá jednotlivá věc, kterou nyní obecně děláte na internetu, je nějakým způsobem zálohována nebo nějakým způsobem zaznamenána na serverech někoho jiného. Vláda našla tento způsob, jak obejít čtvrtý dodatek a říct: "No, to ve skutečnosti není vaše. Patří Amazonu. Můžeme si promluvit s Amazonem," a Amazon musí stát uprostřed tohoto procesu a říci: "Vymysleli jsme další proces, abychom trochu ochránili lidi."
Dívám se na to – a když jsem pokrýval první případy doktríny třetích stran, které se týkaly cloudových služeb a vláda stále vyhrávala, tehdy jsem se v podstatě změnil v Jokera. Říkal jsem si: "Všechny ty věci, které předstíráme o textalismu a prostém [čtení], nic z toho nic neznamená, protože jsme jen koňskou silou na zadní vrátka pomocí tohoto prastarého zákona do dat všech."
A pak se podívám na tohle a podívám se na Anthropic a říkám: "No, tohle je stejný vzorec." Toto je soukromá společnost, která říká: "Dobře, rozumíme vaší pozici. Chápeme, že jste přepracovali zákon tak, aby znamenal tuto věc, a my vložíme nějaký proces mezi vás, náš nástroj a data Američanů procházející naší službou." Jen by mě zajímalo, jestli tam vidíte tu paralelu mezi Anthropicem a Amazonem a Azure a jakýmikoli dalšími cloudovými službami, které existují a které uchovávají tolik našich dat.
Ano, i když je zde několik důležitých vysvětlení, která to trochu odlišují. A ve skutečnosti – myslím, že The New York Times měl tuto zprávu jako první – hlavní klauzule, která byla pro Anthropic nejdůležitější, se konkrétně týkala dat shromážděných z komerčních služeb a nemožnosti použít Claude na tato data, což je přesně tento problém, pokud jde o data třetích stran. Ale chci objasnit hlavní rozdíl mezi tím, o čem jsme právě mluvili předtím s Amazonem nebo jinými třetími stranami hostujícími vaše data, to byly případy, kdy byly, protože sedí v ekosystému, hostovaly vaše data přímo.
S Claudem to není tak, že by se někdo obával, že NSA prozkoumá vaše používání Clauda. Je to o tom, že jdou ven a získávají data třetích stran z Amazonu nebo pravděpodobněji druh záludných, skrytých zprostředkovatelů dat, kteří zobrazují reklamy na vašich telefonech a znají vaši polohu a vaše zájmy a podobné věci. A pak to vložit do systémuna kterém by pak Claude pracoval. To je to, čeho Anthropic opravdu nechtěl být součástí. Takže kdekoli nebo jakkoli by vláda shromažďovala tato data od třetí strany, Anthropic řekl: "Nechceme, aby byl náš nástroj použit na tato data."
Apple se skvěle postavil FBI a požádal ji, aby do iPhonu vložila zadní vrátka, a Apple řekl „ne“ a postavili se Trumpovi. A je tu část toho, jak náš systém funguje, ve kterém velké soukromé společnosti říkají „ne“ vládě jménem svých zákazníků. A to vypadalo stejně, jako by to Apple opět nedal na iPhone zadními vrátky nebo že by velcí poskytovatelé cloudu řekli: „Je tu malý proces, kterým musíte projít, než získáte jednotlivá data.“
Zde to vypadá, jako by Anthropic řekl: „Nebudeme jen dělat hromadnou analýzu dat, která jste získali od jiných stran, protože to vede k nepřetržitému hromadnému sledování Američanů, a to dělat nechceme.“ To se však zdá být pro tuto administrativu příliš daleko. Vrátí se z toho něco?
Uvidíme. V minulosti, když se to stalo – a stalo se to mnohokrát u většiny velkých technologických společností, v určitém okamžiku řekly, že něco je příliš daleko – kde to normálně jde, je soud. Společnosti půjdou k soudu nebo administrativa k soudu a dojde k nějaké soudní bitvě.
Zadní vrátka do iPhonu jsou toho dokonalým příkladem. Šlo to k soudu a oni to ubojovali, i když nikdy nedospěli k úplnému závěru, protože FBI se nakonec do iPhonu jen ručně nabourala a pak nechtěla, aby to soudní rozhodnutí v budoucnu zničilo.
Ale v tomto případě, kde dochází k eskalaci a kde se to liší od těch minulých situací, je to, že Trumpova administrativa místo pouhého soudního řízení udělala toto označení „riziko dodavatelského řetězce“, což je prostě šílené. Tato myšlenka, že tento nástroj, který byl navržen tak, aby zabránil potenciálním zahraničním zákeřným aktérům dodávat technologie, by pak mohl vložit skryté sledovací nástroje do většího technologického zásobníku, takže ty by mohly být zakázány. Aplikovat to na společnost se sídlem v USA v zásadě za to, že má etické zásady, se jeví jako skutečné, skutečné zneužití tohoto nástroje.
Dokonce i tento nástroj byl v některých ohledech sporný, ale mohli byste pochopit impuls, který se za ním skrývá, když mluvíte o čínské síťové firmě nebo o něčem v tomto smyslu. Tady to nedává smysl. Takže reakce na to jde tak daleko za to, co by bylo v tomto případě normálně vidět. Tradičně byste mohli vidět, že dojde k nějakému soudnímu sporu a kterákoli ze stran jej mohla zahájit a byla by to jen bitva o to, jak by mohla být smlouva aplikována.
Ale to se tady neděje. Tato administrativa v podstatě říká: „Pokud nám nedáte absolutně vše, co chceme, pokud nenastavíte své nástroje tak, aby fungovaly tak, jak chceme, aby fungovaly, pak se efektivně pokusíme zničit celé vaše podnikání.“ A to je eskalace.
Je tu jeden kousek toho, na čem bych chtěl skončit, a je to tak trochu nejgalaktičtější verze tohohle. FIRE, což je skupina prosazující svobodu projevu, zveřejnila blogový příspěvek těsně předtím, než jsme začali nahrávat, s argumentem, že nutit Anthropic vytvářet nástroje, které nechce vytvářet, je porušením svobody projevu, že je to něco, čemu se říká vynucený projev. Je zde hodně historie. Je tu nějaká hluboká historie Verge a Techdirt, zaplevelená, existenciální krize.
Ale v podstatě jde o myšlenku, že kód je řeč, že psaní kódu pro počítač je forma řeči a vláda vás k tomu nemůže nutit, a z toho plyne celá řada věcí. Kupujete tento argument, že nutit Anthropic k vytváření nástrojů, které stavět nechce, je vynucená řeč?
Ano, vlastně si myslím, že je to docela přesvědčivé. Působivá nucená řeč. Ale ne, myslím, že je to zajímavý argument. Je to ten, který byl o něco dále v seznamu problémů, o kterých jsem přemýšlel. Očividně jsem se většinou více soustředil na otázky čtvrtého dodatku, ale myslím, že argument FIRE není špatný. Viděli jsme to v jiných souvislostech. Objevilo se to také v otázce zadních vrátek, pokud jde o snahu zabudovat zadní vrátka do šifrovaných systémů.
Společnosti rozhodně zvedly prvníDodatek prohlašuje: "Je to nucená řeč, aby nás přinutila napsat takový kód." Je to platný argument. Může to být opět ten, který soudy pravděpodobně budou zpočátku méně ochotné řešit, pokud mohou tyto problémy řešit jiným způsobem. Ale jsem rád, že FIRE udělal tento příspěvek a myslím, že je to zajímavý a přesvědčivý argument.
Ano, povaha druhé Trumpovy administrativy je taková, že je to tak neomalený nástroj, že je téměř jisté, že zaútočíme na všechny problémy najednou.
Ano, každý dodatek Listiny práv musí být v té či oné formě napaden všemi možnými problémy.
[smích] Roztočte kolo.
Jsem si jistý, že porušení třetího dodatku můžeme někam umístit.
Jasně, ano. Claude teď musí bydlet ve vašem domě. Přesně. bude to skvělé. Děláme [pozměňovací návrhy] jedna, tři, čtyři a sedm. Poskládáme je.
Miku, bylo to skvělé. Nemůžu uvěřit, že jsi předtím nebyl na výstavě. Bylo to skvělé. Musíš se brzy vrátit.
Absolutně. Kdykoli mě budeš chtít.
Máte otázky nebo komentáře k této epizodě? Kontaktujte nás na decoder@theverge.com. Opravdu čteme každý e-mail!
