Danas govorimo o neurednoj, brzopletoj situaciji u Anthropicu, tvorcu Claudea koji se sada našao u vrlo ružnoj pravnoj bitci s Pentagonom.
Putanje naprijed-nazad je komplikovano, ali od prije nekoliko dana Pentagon je smatrao da je Anthropic rizik za lanac opskrbe, a Anthropic je podnio tužbu osporujući to imenovanje, rekavši da je vlada prekršila svoja prava iz Prvog i Petog amandmana tako što je "nastojala da uništi ekonomsku vrijednost koju stvara jedna od najbrže rastućih privatnih kompanija na svijetu". Mogu vam reći odmah: razgovarat ćemo o zaokretima tog slučaja na The Verge i ovdje na Decoderu u mjesecima koji dolaze.
Ali danas sam želio da odvojim trenutak i stvarno se pozabavim jednim vrlo važnim elementom ove situacije koji nije dobio dovoljno pažnje jer je ovo izmaklo kontroli: kako vlada Sjedinjenih Država vrši nadzor, pravni autoritet koji dozvoljava taj nadzor i zašto je Anthropic bio nepovjerljiv prema vladi koja je rekla da će slijediti zakon kada je u pitanju korištenje AI za još više nadzora.
Pretplatnici Verge, ne zaboravite da imate ekskluzivni pristup dekoderu bez oglasa gdje god da dobijete svoje podcaste. Idi ovamo. Niste pretplatnik? Možete se prijaviti ovdje.
Moj današnji gost je Mike Masnick, osnivač i izvršni direktor Techdirt-a, izvrsne i dugotrajne web stranice tehničke politike. Mike već decenijama piše o prekoračenju vlade, privatnosti u digitalnom dobu i drugim srodnim temama. On je stručnjak za to kako su internet i država nadzora nastali na međusobno povezane načine.
Vidite, postoji ono što zakon kaže da vlada može učiniti kada je u pitanju nadzor nad nama, a onda i ono što vlada želi da uradi. I što je najvažnije, postoji ono što vlada kaže da zakon kaže da može, što je često upravo suprotno od onoga što bi svaka normalna osoba koja samo čita zakon mislila.
Čut ćete kako Mike vrlo detaljno objašnjava ovdje u ovoj epizodi da ne možemo – i ne treba – vjerovati američkoj vladi na riječ kada je u pitanju nadzor. Previše je povijesti vladinih advokata koji izokreću tumačenja jednostavnih riječi poput "cilja" kako bi proširili nadzor na složene načine - načine koji obično izazivaju zabrinutost samo u pravnim krugovima, a nastaju tek kada postoje ogromne kontroverze poput glavnih otkrića NSA zviždača Eda Snowdena prije više od jedne decenije.
Ali nema ničeg suptilnog ili sofisticiranog u kreiranju politike u Trumpovoj eri - pa tako sa Anthropic-om, imamo vrlo glasnu, vrlo javnu debatu o tehnologiji i nadzoru u realnom vremenu, na internetu, u objavama na blogu i X rantovima, i na konferenciji za novinare. U tome ima pozitivnih i negativnih strana, ali da biste imali smisla u svemu, zaista morate poznavati istoriju.
To je ono što smo Mike i ja namjeravali objasniti u ovoj epizodi – bez obzira na vaše stavove o umjetnoj inteligenciji i vladi, ova epizoda će jasno pokazati da su obje strane dozvolile da država nadzora s vremenom postaje sve veća i veća. Sada smo na pragu najveće ekspanzije do sada kada je u pitanju AI.
U redu: Osnivač i izvršni direktor Techdirt-a Mike Masnick o Anthropic-u, Pentagonu i nadzoru umjetne inteligencije. Idemo.
Ovaj intervju je lagano uređen radi dužine i jasnoće.
Mike Masnick, vi ste osnivač i izvršni direktor Techdirta. Dobrodošli u Decoder.
Drago mi je što sam ovdje.
Uzbuđena sam što ste tu. Samo sam rekao da sam šokiran što nikada ranije niste bili u emisiji. Ti i ja već dugo pišemo i objavljujemo jedno oko drugog. Veliki dio pokrivanja politike The Verge duguje onome što ste uradili u Techdirtu, a onda je ono što se događa s Anthropic-om tako komplikovano, ali pogađa toliko tema koje ste pokrivali tako dugo. Drago mi je da si konačno ovdje.
To je komplikovana zbrka teme, ali ja sam uzbuđen što se upuštam u nju.
Ono na šta želim da se fokusiram sa vama nisu detalji da li će Anthropic potpisati ugovor sa vladom ili će OpenAI dobiti taj ugovor. Umjesto toga, uvjeren sam da će između vremena kada ovo snimimo i vremena kada ga ljudi slušaju, biti više tvitova i više stvari će biti drugačije nego što je bilo prije.
Ono na šta želim da se fokusiram je samo jedna od dve crvene linije koje je Anthropic zaista postavio. Jedan od njih jeautonomno oružje, što je sam po sebi nivo složenosti. Tamošnji zakon je još u nastajanju bez obzira da li oružje uopće postoji ili ga je Rusija već koristila u ratu u Ukrajini.
Ovdje ima puno ideja koje samo želim ostaviti po strani jer mislim da će se to više fokusirati na vlastiti raspored. Druga crvena linija na koju želim da potrošim mnogo vremena je masovni nadzor. A ovdje postoji dosta zakona o masovnom nadzoru. Ima mnogo istorije, mnogo kontroverzne istorije. Cijeli lik Edwarda Snowdena postoji zbog kontroverzi oko masovnog nadzora.
Sve se svodi na – mislim da ste vi taj koji je ovo objavio – Agencija za nacionalnu sigurnost (NSA), koja je dio Ministarstva odbrane, koju sada iz nekog razloga moramo nazvati Ministarstvom rata.
[Smijeh] Ne moramo ništa da radimo.
[Smijeh] Mi nemamo. To je istina ovdje u Americi. Ne moramo ništa da radimo. Ali NSA je u osnovi redefinirala šta mnogo riječi znače iz kolokvijalnog engleskog kako bi značile: "Možemo samo vršiti nadzor." A onda s vremena na vrijeme dođe do skandala kada ljudi otkriju da samo vrše nadzor. Zato samo postavite pozornicu i ne želim da vas premotavam do kraja, ali prošlo je dosta vremena kada se ovaj obrazac ponavljao.
Zavisi koliko duboko želite ići, ali kratka verzija je očito u svijetu nakon 11. rujna, SAD su donijele Patriot Act, koji je imao određenu mogućnost da se vlada uključi u nadzor, koji je trebao biti da nas zaštiti od budućih terorističkih prijetnji. Vremenom se to tumačilo na zanimljive načine i tu su postojala neka ograničenja. Imali smo i FISA sud, koji je specijalni sud koji treba da preispituje obavještajnu zajednicu i njihove aktivnosti, ali je tradicionalno bio jednostran sud. Samo jedna strana ima pravo da se izjasni pred tim sudom i sve se radi u tajnosti.
Ima dosta stvari koje nisu bile poznate. A onda je postojao još jedan dio u svemu ovome, koji seže sve do Ronalda Reagana, a to je Izvršna naredba 12333, koja se navodno odnosi na postavljanje pravila puta za prikupljanje obavještajnih podataka.
Dakle, imate ova tri seta zakona – pa, nekoliko setova zakona – i izvršnu naredbu koja javnosti, dijelovi koje možete pročitati, izgleda da govore određene stvari o tome šta naša vlada i NSA posebno mogu učiniti u smislu nadzora. Kada se čita s jednostavnim engleskim rječnikom, čiju prirodu vi i ja vjerovatno imamo i razumijemo, došli bismo do uvjerenja da je sposobnost NSA-e da nadzire Amerikance bila vrlo ograničena, zapravo do te mjere da bi trebali, ako shvate da nadziru osobu iz SAD-a, da bi trebali odmah prestati i isplakati druge podatke i sve ove stvari.
Neko vrijeme su se šuškale da se to zapravo i ne događa i bilo je nagoveštaja, a posebno je senator Ron Wyden bio vrlo glasan u vezi sa izlaskom na pod u Senatu i rekao: „Ovdje nešto nije u redu i ne mogu vam reći šta,“ ili bi na saslušanjima pitao obavještajne službenike: „Da li vi ili ne prikupljate masovne podatke o Amerikancima?“
Ti zvaničnici bi ili odvratili ili bi, u nekim slučajevima, potpuno lagali. Vjerujem da je to bilo jedno saslušanje 2012. s Jamesom Clapperom, koji je u to vrijeme bio direktor Nacionalne obavještajne službe, gdje su ga direktno pitali o ovom pitanju. I on je u suštini rekao: "Ne, mi ne prikupljamo podatke o Amerikancima." To je bio veliki dio onoga što je inspirisalo Eda Snowdena da otkrije podatke, izvještaje koje je procurio i Glennu Greenwaldu, Bartonu Gellmanu i Lauri Poitras. Iz svega toga, ono što smo počeli otkrivati je da NSA ima svoj vlastiti rječnik koji se ponešto razlikuje od rječnika koji vi i ja koristimo, tako da oni mogu tumačiti riječi na načine koji se razlikuju od njihovog običnog engleskog značenja, uključujući riječi poput "target", što se čini kao ključna riječ. Široko razumijevanje o čemu se radi je da, u teoriji, oni bi trebali ciljati samo ljude koji nisu osobe iz SAD-a, mislim da je fraza.
Ali način na koji se to vremenom tumačilo je da je sve što spominje tu osobu, sve što je o stranoj osobi sada poštena igra, čak i ako je to komunikacija nekogUS person. Dakle, ako bismo ti i ja slali poruke jedni drugima i spominjali stranu osobu, to je sada poštena igra za NSA da prikuplja, čuva i skladišti.
Postoji drugi dio ovoga. Spomenuo sam prvu Izvršnu naredbu 12333 Ronalda Reagana, koja je, kako se tehnologija vremenom mijenjala i internet rastao, efektivno omogućila NSA da se uključi u strane komunikacije, ali to je uključivalo bilo koju komunikaciju koja je možda ostavila SAD na nekom putu. Dakle, ako vam šaljem poruku i poruka od mene u Kaliforniji dođe preko optičkog kabla koji je slučajno napustio SAD, NSA bi mogla prisluškivati dio kada se nađe izvan SAD-a i prikupiti te informacije, čak i ako je samo išla do vas unutar SAD-a.
NSA je tada mogla zadržati te informacije čak i ako se odnose na osobe iz SAD-a, a kasnije bi mogle izvršiti posebne pretrage po njima, koje se ponekad nazivaju "backdoor pretragama". Prikupili su ove informacije za koje vjerujemo da ih nisu trebali prikupiti, ali su ih mogli zadržati. I obećali su, zaklinjali su se, da će to čuvati u tajnosti, ali ako su pretražili i otkrili da ste vi ili ja spomenuli stranu osobu, onda je odjednom bila fer igra da rade s tim što žele.
Sve u svemu, to se pretvorilo u svijet u kojem savezna vlada može prikupljati sve informacije koje se dotiču izvan SAD-a. Čak i ako je u potpunosti između dvije osobe iz SAD-a, ako spominju ili čak nagovještavaju nekoga ko nije osoba iz SAD-a, odjednom je poštena igra koju treba prikupiti. I iz toga smo dobili ono što se čini kao oblik masovnog nadzora američkih osoba od strane NSA koja tvrdi i javno izjavljuje da ne špijunira američke osobe.
Kako smo došli do ove tačke? Ovo je mnogo koraka za bebu. Spomenuli ste Jamesa Clappera 2012. godine, to je Obamina administracija. Spomenuli ste Ronalda Regana, to su osamdesete. Ovdje idemo kroz demokrate i republikance.
Rat protiv terorizma dogodio se u administraciji Georgea W. Busha, a 9/11 i Patriot Act desili su se u administraciji Georgea W. Busha. Puno je inkrementalnih loših stvari pod predsjednicima obje stranke, pod kongresima obje stranke. Kako se to dogodilo?
Najjednostavniji oblik je da niko, a svakako nijedan predsjednik, ne želi biti predsjednik u vrijeme kada je veliki teroristički napad, jer zbog toga izgledaju loše. Očigledno i oni žele zaštititi Amerikance, zar ne? To je dio njihovog posla. Ako imate obavještajnu zajednicu koja u osnovi djeluje u mraku jer to rade obavještajne zajednice i stalno vam prilaze i govore: „Hej, kad bismo samo mogli dobiti pristup ovim informacijama, bilo bi od velike pomoći u sprječavanju terorističkog napada.“
Možda postoje slučajevi u kojima je to istina, da je obavještajna zajednica u mogućnosti da koristi ove informacije na način koji dobro funkcionira. Ali mi smo također, u teoriji, društvo zakona s Ustavom SAD-a kojeg bismo trebali poštovati. Ali to je omogućilo činjenicu da su administracija za administracijom, opet, republikanska i demokratska, imala advokate koji su bili vrlo pametni i koji bi progledali i rekli: „Pa, ako ovako postavimo ili ako ovako iznesemo ili tumačimo ovo, na taj način možemo dobiti ono što želimo, a ne tehnički prekršiti zakon ili tehnički ne kršiti Četvrti amandman.
Pretpostavka je uvijek bila: „Možemo na neki način izobličiti zakon ili izokrenuti naše tumačenje zakona i niko to zaista nikada neće vidjeti, ili niko kome je stalo, to zaista neće vidjeti, i stoga ćemo se izvući.
Postoje dvije stvari koje mi zaista iskaču. Prvo, i ti i ja čitamo mnogo sudskih odluka — odluka apelacionih sudova i odluka Vrhovnog suda. I u našem Vrhovnom sudu vodi se borba oko toga kako doslovno tumačiti riječi u našim statutima i našim zakonima.
Neću ulaziti previše u to, ali generalno bih rekao da je ideja da jednostavno pročitate riječi na stranici i učinite ono što kažu dominantna vrsta tumačenja zakona u Sjedinjenim Državama. Lijevo ili desno, oboje govore. Oni se raspravljaju oko nekih vrlo ezoteričnih finih tačaka o tome šta to zapravo znači. Ali da bi trebalo da budete u mogućnosti da čitate ove reči i radite ono što kažu, to nije za hvatanje, zar ne?
Došli smo do barem tog prvog prolaza od onoga što biste moglinazivaju tekstualizmom. Kako se pravnici obe uprave ovoliko udaljavaju od dominantnog načina pravnog odlučivanja u našoj zemlji? Sudije obje strane se slažu da je to barem prvi korak.
Voleo bih da znam tačan odgovor, ali mislim da je to motivisano rezonovanje, zar ne? Kao advokat, vi ste tu da branite svog klijenta, a uspjeh — ako to možete nazvati uspjehom — našeg pravnog sistema obično se zasniva na tome da imate kontradiktornu situaciju u kojoj se različite strane raspravljaju oko ovih stvari, gdje je uloga sudije da suzi i utvrdi koja je strana zapravo ispravna.
Jedan od problema s obavještajnom zajednicom i njenom postavkom je taj što nemate tu suprotstavljenu situaciju. To olakšava jednoj strani da opravda argument koji iznosi, jer ga niko zapravo ne gura. Kombinujete to sa sveobuhvatnim strahom od još jednog terorističkog napada, bilo čega što je u vezi sa nacionalnom sigurnošću, pa čak i kada imate situacije u kojima imate FISA sud — mislim da je FISA sud bio poznat po tome što je zapravo bio pečat dugi niz godina.
Zaboravljam tačne brojke, ali bilo je nešto kao da je oko 99 posto zahtjeva koje su išle na FISA sud za omogućavanje nadzora određenih situacija odobreno, a lako je reći da je 99 posto očito previše. Očigledno je da oni koji podnose zahtjeve sudu, oni biraju i biraju. Oni, uglavnom, ne iznose potpuno sulude tvrdnje. Ali bez tog suprotstavljenog aspekta i sa vrlo snažno motiviranom grupom ljudi koji misle: „Moramo ovo da uradimo“ ili im administracija kaže: „Moramo ovo da uradimo“, oni će pronaći načine da to urade. I tu završite s vremenom.
Da li je bilo ikoga uključenog u ovaj proces ko se ikada probudio i rekao sebi: „Čovječe, uspjeli smo da redefiniramo riječ 'meta' da znači sve što želimo"?
[Smijeh] Očigledno ste imali Eda Snowdena, koji je procurio gomilu dokumenata. Imali ste Johna Napiera Tyea, koji je napisao članak za Washington Post 2014. godine, koji je otkrio tumačenje Izvršnog naloga 12333, i rekao da je to pravi problem na koji treba obratiti pažnju. Imate i druge ljude koji su govorili o tim stvarima, ali uglavnom ljudi koji su uključeni u rad u administraciji na stvarima obavještajne zajednice su uvučeni u pogled obavještajne zajednice, a to je da je prevashodni cilj zaštititi zemlju od nečeg lošeg. Najbolji način da to učinite je da imate što više informacija.
Lako je biti simpatičan prema argumentu da, da, posedovanje više informacija može im omogućiti da nešto ranije uhvate ili pronađu nešto važno, ali, prvo, to možda nije istina. Dobivanje previše informacija je vjerovatno jednako loše kao i premalo informacija jer često može sakriti informacije koje su zapravo korisne, informacije koje su vam zapravo potrebne da biste nešto odredili.
Ali isto tako, imamo U..S. Ustav na prvom mjestu i imamo razloge zašto, u teoriji, ne bismo trebali dozvoliti masovni nadzor bez vjerovatnog razloga. Kao zemlja koja vjeruje u vladavinu prava, trebali bismo biti u mogućnosti to živjeti, a kada se sve ove stvari dešavaju u mraku, gubit ćete to iz vida.
Ovo me dovodi do Anthropic. Anthropic je prvenstveno poduzeće. Oni su dobri u vladi, izgradili su te mišiće, u njima rade ljudi koji su zaista dobro upućeni u neke od ovih stvari. Očigledno su pogledali Petea Hegsetha koji je rekao: "Želimo svu zakonitu upotrebu", a oni su spustili dva nivoa tumačenja i rekli: "Pa, vaše doslovno uvjerenje je da ove riječi ne znače ono što kažu da znače na svom licu. Dakle, 'sva zakonita upotreba' je prevelika, i želimo postaviti neke zaštitne ograde posebno oko masovnog nadzora."
Opet ću izdvojiti autonomno oružje, što je bila druga crvena linija, ali posebno kada je riječ o masovnom nadzoru, Dario Amodei kaže: "Možemo učiniti previše. Ovo je previše opasno. Ovo je kršenje Četvrtog amandmana."
Napetost tamo je "govorite da ćete se pridržavati ovih zakona koji govore jedno, a sada, nakon toliko vremena, oni znače nešto sasvim drugo i mi jednostavno ne želimo biti dio toga." To je onoboriti se. Samo želim da to uporedim sa Samom Altmanom, koji upada i kaže: „Učinićemo sve zakonite upotrebe“, a zatim objavljuje ovu dugačku poruku kao: „Evo svih zakona kojih ćemo se pridržavati“.
Čini se da Altman nije znao kako je NSA reinterpretirala ove stvari i na neki način bio odveden na vožnju. I od tada je počeo da se vraća - čak i dok snimamo, siguran sam da ima još tvitova i da su se svačije pozicije promijenile. Ali Altman se polako vraćao nazad, ali se čini da je OpenAI natjerao da čita statute na licu i vjeruje u ono što su rekli. Da li je to i vaša interpretacija događaja?
Postoje dvije mogućnosti, a ovo je jedna od njih. Jedna je da su ga igrali na isti način na koji je javnost igrana dugi niz godina. Alternativna teorija, a ja nemam pojma koja je od ovih istinita, je da su on ili neki od advokata u OpenAI-u — za koje mislim da su vrlo kompetentni i vrlo obrazovani — to znali, ali su mislili da mogu igrati istu igru koju je NSA igrala nekoliko decenija, u tome dok govore ove stvari, a zatim izgovaraju riječi, ali ne otkrivaju stvarna tumačenja, da bi se i oni mogli izvući. Tako Sam izlazi s izjavom koja čini da izgleda kao "Imali smo potpuno iste crvene linije kao i Anthropic, a vlada je bila sjajna s tim."
U stvari, mislim da je Sam Altman rekao da Anthropic ima dvije crvene linije, a OpenAI tri, i vlada je bila sasvim u redu s tim, i to je ostavilo mnoge ljude da se češu po glavi. Ali mislim da mora biti da Sam Altman i oni koji su ga okruživali nisu razumjeli kako te stvari funkcioniraju u praksi, ili jesu, i samo su pretpostavili da javnost neće znati i stoga bi se mogli izvući.
Druga stvar koja mi pada na pamet — opet, AI je nova i toliko je primamljivo doći do novih tehnologija jer su to problemi prvog utiska. „Niko nikada ranije nije morao da razmišlja o ovome“, ali realnost je da svi razmišljaju o ovim stvarima već duže vreme. Možda ono što je novo ovdje nije umjetna inteligencija, ali da druga Trumpova administracija, umjesto da radi gomilu advokata koje možda niko nikada neće pročitati da opravda svoje postupke pred tajnim sudom na koji niko ne obraća pažnju, nije tako suptilna.
Nisu toliko sofisticirani i samo kažu da će sve špijunirati sve vrijeme. Oni su samo objavili svoje namjere na način da bi možda sve administracije trebale samo da objave svoje namjere i vide gdje će pasti.
Ali gledam na činjenicu da je ovde u Njujorku bio Ed Snouden. AT&T vodi zgradu za koju svi znaju da je zgrada NSA. To je samo ogromna zgrada, a mi bismo se trebali pretvarati da nije nadzorni centar NSA, ali je upravo tu. To je ogromno. Čini se da ništa od toga nije ni do čega. Sva ova otkrića, ova curenja, mi to nismo povukli.
Zapravo, samo se povećao kako je veliki dio naših života postajao sve digitalniji. A možda je Trumpova administracija uvijek tako tupi instrument, da bi to zapravo moglo biti ono što uzrokuje obračun. Vidite li da se to ipak odigrava?
Postoji nekoliko različitih stvari, i nije sasvim tačno da se uopšte nismo povukli od toga. Snowdenova otkrića su dovela do nekih promjena u načinu na koji se te stvari dešavaju. I sada ih ima - zaboravio sam kako se zovu, ali oni su kao ovi građanski amikusi u FISA sudu koji će predstavljati drugu stranu po određenim pitanjima.
I vidjeli smo da su neke od vlasti ograničene na određene načine, i povremeno dolaze na ponovno ovlaštenje, a aktivisti su bili vrlo agresivni u povlačenju i pokušajima da stave još neke zaštitne ograde. Ali što se tiče šireg pitanja, mislim da postoje dvije različite stvari. Napola ste u pravu što ova administracija nije suptilna i samo naglas govori stvari koje ne bi trebala.
"Mi smo u ratu sa Iranom, radimo to, dešava se. Nećemo čak ni probati ples."
Na način na koji sve prethodne administracije ne bi radile. Ali oni to zapravo nisu direktno reklinadzor, posebno nadzor Amerikanaca. Bilo je nagoveštaja o tome, ali oni se nisu tako snažno izjasnili o tome. Druga polovina toga ima više veze s Anthropicovim pozicioniranjem i općim pogledom na umjetnu inteligenciju kao ovu moguću egzistencijalnu tehnologiju, gdje se Anthropic uvijek predstavljao kao, "Mi smo promišljeni dobri momci", i da li vjerujete da to nije bitno. Imaju ovu reputaciju tamo: "Pokušavamo to učiniti na način koji je siguran, koji poštuje čovječanstvo i obraćamo pažnju na sve ove stvari." I tako kada imate taj sukob, tu dolazi borba.
Imate Trampovu administraciju koja samo želi da bude u mogućnosti da radi šta god želi da može, a oni nisu suptilni po pitanju toga. A onda imate Anthropic, čiji je samoopis i njegova javna ličnost uvijek poput: "Mi smo promišljeni i poštujemo čovječanstvo i prava i sve ove stvari." Tu je vjerovatno i došlo do sukoba, jer je Anthropic, kao što je jasno rečeno, neko vrijeme radio sa Ministarstvom odbrane i ima mnoge druge ugovore s vladom koje je koristio. To nije bio problem.
Tek u ovim specifičnim oblastima u kojima je, dok je vlada nastojala da proširi ugovor koji je imala, više rukovodstvo Anthropic-a počelo je govoriti: „Čekaj, moramo se pobrinuti da ne prelazimo ove crvene linije koje bi potencijalno mogle naštetiti našoj reputaciji promišljenog, sigurnog dobavljača umjetne inteligencije.”
Želim vas ukratko pitati o nadzoru općenito, a posebno o Anthropicovom četvrtom amandmanu. Četvrti amandman kaže da vlada ne može neopravdano da vas pretresa. Najbolji način da se razumije Četvrti amandman je slušanje pjesme Jay-Z-ja “99 Problems”. Dakle, ako trebate da napravite pauzu i odete poslušati "99 Problems", to je sjajno. Sve je unutra. Slušao sam ga dok sam bio na pravnom fakultetu i bilo je savršeno logično.
Ali vladi generalno treba nalog da vas pretrese. I kako sve više i više vašeg života ide na internet, postoji mnogo i puno izuzetaka od ovoga. Ali ideja je da im i dalje treba nalog na mreži. Anthropicov argument je: "Pa, AI se nikada neće umoriti. Može sve pretraživati cijelo vrijeme. To znači da ćemo samo vršiti glavni nadzor."
Ipak, čak i prije nego što se AI pojavila, ideja da vlada može pretražiti sve što vam pripada bila je tamo, ideja da vladi nije potreban nalog za pretres svih vaših stvari bila je tamo. Ideja da ako je bilo koji od vaših podataka ikada otišao van zemlje na kratku sekundu, vlada ga tamo presrela,
Kada sam bio na koledžu, otprilike u vrijeme Patriot Acta, rasprava je bila da oni neće pretraživati vaše stvarne podatke, ali mogu dobiti samo metapodatke i metapodatke. Podaci o vašim podacima bit će dovoljni da vas u svakom trenutku precizno lociraju. Čak je i to predaleko. I mi smo igrali ovaj ples šta vlada može da prikupi? Šta je dozvoljeno? Šta im je potrebno da bismo svi bili sigurni, a šta je predaleko? Te linije su se pomerile.
Zato samo ukratko opišite generaliziranu zabrinutost zbog nadzora na skali i gdje smo sada. Prije nego što je AI situacija sve činila eksponencijalno komplikovanijom.
Ovdje moram uvesti još jedan koncept koji je vjerovatno trebao biti spomenut ranije, ali je važan, a koji se zove “doktrina treće strane”. Ideja sa Četvrtim amandmanom je da vlada ne može pretresti vas ili vaše stvari bez naloga i ne može dobiti nalog bez vjerovatnog razloga da ste počinili neku vrstu zločina. Ali postoji koncept koji je nastao prije nekoliko desetljeća i koji se zove doktrina treće strane, koji kaže da se to nužno ne primjenjuje, ili se uopće ne primjenjuje, na stvari koje nisu vaše, čak i ako su to vaši podaci.
Najranija i najočitija verzija ovoga bile su telefonske evidencije koje je telefonska kompanija imala o onome koga ste pozvali. Telefonske kompanije nisu snimale vaše pozive, ali su snimale ako bih vas nazvala, postojao bi zapis u telefonskoj kompaniji koji kaže: "Mike zove Nilay." A ono što je utvrdilo više sudova je da vlada može otići i to zatražiti, a za to im ne treba nalog jer to nije pretresvaše podatke, to je ova treća strana i oni se mogu dogovoriti kao treća strana da samo predaju te podatke.
Ali to su bili slučajevi iz 1960-ih i 70-ih, kada je utvrđeno da vlada može dobiti pristup tome bez naloga, kada nije bilo toliko podataka trećih strana. Uspon kompjutera i interneta su to promijenili. Sada su sve podaci trećih strana. Sve što mi radimo, neka kompanija negdje prikupi i o tome ima evidenciju. Dakle, u osnovi svaki dio podataka o vama, gdje se nalazite, s kim razgovarate, s kim komunicirate, šta kažete, šta radite, sve to danas uglavnom drže treće strane. Dakle, doktrina treće strane je do neke mjere progutala cijeli Četvrti amandman, gdje sve što se tiče vas što neko drugi ima, postoji mnogo niži standard za ono što vlada može učiniti da to zatraži.
Samo da budemo precizni, to znači da kada su moji podaci u iCloud-u, vlada može otići u Apple i izvaditi moje podatke iz iCloud-a bez da mi to ikad kaže?
Oni to mogu zatražiti. Oni to lako mogu zatražiti bez naloga. Tada kompanija ima svoja prava i može odrediti šta želi učiniti s tim zahtjevom. Oni jednostavno mogu odustati od toga. Oni mogu, kao što će većina njih učiniti, ako je riječ o ozbiljnom zahtjevu, odbiti zahtjeve bez nadzora ili mogu vas upozoriti i mogu reći – a to će većina njih učiniti – upozorit će vas i reći: "Vlada traži neke od vaših podataka. Možete otići na sud i pokušati ih blokirati." Ako ne, oni će vam predati podatke za sedam dana ili šta god da je.
Opet, zavisi. Ako je u pitanju krivična istraga, onda može postojati neka vrsta naredbe o gegu u kojoj kompaniji nije dozvoljeno da vam kaže. Postoje razne situacije, ali većina njih uključuje manje od nivoa zaštite koji bi zahtijevao Četvrti amandman da se radi o podacima ili bilo kojoj informaciji ili bilo čemu u vašem domu.
Količina podataka koju imate na tuđem cloud serveru je ogromna, zar ne? Svaka stvar koju generalno radite na internetu sada je na neki način sigurnosna kopija ili na neki način snimljena na tuđim serverima. Vlada je pronašla ovaj način da zaobiđe Četvrti amandman i kaže: "Pa, to zapravo nije vaše. Pripada Amazonu. Možemo razgovarati s Amazonom", a Amazon mora stati usred tog procesa i reći: "Izmislili smo još jedan proces da donekle zaštitimo ljude."
Gledam na to—i kada sam pokrivao prve slučajeve doktrine trećih strana koji su pokrivali usluge u oblaku i vlada je stalno pobjeđivala, tada sam se zapravo pretvorio u Jokera. Pomislio sam: „Sve ove stvari koje se pretvaramo o tekstualizmu i običnom [čitanju], ništa od toga ne znači ništa jer mi samo koristimo ovaj drevni zakon u svačije podatke.“
I onda pogledam ovo i pogledam Anthropic i kažem: "Pa, ovo je isti obrazac." Ovo je privatna kompanija koja kaže: "U redu, razumijemo vaš stav. Razumijemo da ste reinterpretirali zakon tako da znači ovo, a mi ćemo staviti neki proces između vas, našeg alata i podataka Amerikanaca koji prolaze kroz našu uslugu." Pitam se samo vidite li tu paralelu, između Anthropic i Amazona i Azurea i bilo kojih drugih usluga u oblaku koje postoje koje drže toliko naših podataka.
Da, iako postoji nekoliko važnih pojašnjenja koja ovo čine malo drugačijim. I zapravo – mislim da je New York Times prvi imao ovo izvješće – glavna klauzula koja je bila najvažnija za Anthropic odnosila se na podatke prikupljene od komercijalnih usluga i nemogućnost korištenja Claudea na tim podacima, što je upravo ovo pitanje u smislu podataka trećih strana. Ali želim da razjasnim glavnu razliku između onoga o čemu smo upravo razgovarali prije ovoga s Amazonom ili drugim trećim stranama koje su hostovale vaše podatke, to su bili slučajevi u kojima su oni bili, zbog toga gdje se nalaze u ekosistemu, direktno hostirali vaše podatke.
Što se tiče Claudea, nije da je iko zabrinut da NSA pregledava vašu upotrebu Claudea. Radi se o tome da oni izlaze i dobijaju podatke trećih strana od Amazona ili što je vjerojatnije neka vrsta podmuklih, skrivenih posrednika podataka koji poslužuju oglase na vašim telefonima i znaju vašu lokaciju i vaše interese i slične stvari. I onda to unositi u sistemna čemu bi Claude tada radio. To je ono u čemu Anthropic zaista nije želio da bude dio. Dakle, gdje god ili kako god vlada prikupljala te podatke od treće strane, Anthropic je rekao: "Ne želimo da se naš alat koristi na tim podacima."
Apple se čuveno suprotstavlja FBI-u tražeći od njega da stavi backdoor u iPhone, a Apple kaže “ne” i oni se suprotstavljaju Trumpu. I postoji dio načina na koji naš sistem funkcionira u kojem velike privatne kompanije mogu reći "ne" vladi u ime svojih kupaca. I to se osjećalo na isti način na koji Apple, opet, neće to staviti backdoor na iPhone, ili veliki dobavljači oblaka kažu: "Postoji mali dio procesa kroz koji morate preskočiti prije nego što dobijete pojedinačne podatke."
Ovdje se čini da Anthropic kaže: “Nećemo samo raditi masovnu analizu podataka koje ste dobili od drugih strana jer to dovodi do masovnog nadzora Amerikanaca 24/7, a mi to ne želimo raditi.” Ipak, to se čini kao most predaleko za ovu administraciju. Ima li povratka od toga?
Videćemo. U prošlosti, kada se to dešavalo – a dešavalo se dosta puta sa većinom velikih tehnoloških kompanija, u nekom trenutku su rekli da je nešto predaleko – to obično ide na sud. Kompanije će ići na sud ili će uprava ići na sud i bit će neka vrsta sudske bitke.
Zadnja vrata u iPhone je savršen primjer za to. Otišlo je na sud i oni su se borili, iako nikada nisu došli do zaključka jer je FBI na kraju samo ručno provalio u iPhone i onda nije želio da sudska presuda to uništi u budućnosti.
Ali u ovom slučaju, gdje je eskalacija i gdje se to razlikuje od onih prošlih situacija je da je Trumpova administracija umjesto da ide samo na sud, napravila ovu oznaku „rizika lanca snabdijevanja“, što je jednostavno suludo. Ova ideja da ovaj alat koji je dizajniran da spriječi potencijalne strane zlonamjerne aktere da isporučuju tehnologiju, koji bi zatim mogao staviti skrivene alate za nadzor u veći tehnološki niz, da bi se oni mogli zabraniti. Primijeniti to na kompaniju sa sjedištem u SAD-u u osnovi zbog etičke politike čini se kao prava, stvarna zloupotreba tog alata.
Čak je i taj alat na neki način bio upitan, ali mogli ste razumjeti poticaj koji stoji iza njega kada govorite o kineskoj firmi za umrežavanje ili nečemu u tom smislu. Evo, nema smisla. Dakle, reakcija na ovo ide toliko dalje od onoga što bi se inače moglo vidjeti u ovom slučaju. Tradicionalno se moglo vidjeti da bi bilo neke vrste sudskog spora i bilo koja strana bi ga mogla pokrenuti i to bi bila samo bitka oko toga kako bi se ugovor mogao primijeniti.
Ali to se ovde ne dešava. Ova administracija efektivno kaže: „Ako nam ne date apsolutno sve što želimo, ako ne podesite svoje alate da rade na način na koji želimo da rade, onda ćemo efektivno pokušati da uništimo vaš čitav posao.” A to je eskalacija.
Postoji jedan dio ovoga na kojem želim da završim, a to je na neki način verzija ovoga sa najvećom galaksijom. FIRE, grupa koja se zalaže za slobodu govora, objavila je post na blogu neposredno prije nego što smo počeli snimati tvrdeći da je prisiljavanje Anthropic-a da napravi alate koje ne želi da pravi kršenje slobode govora, da je to nešto što se zove prisilni govor. Ovde ima mnogo istorije. Ovde postoji neka duboka istorija Vergea i Techdirt-a, u korovu, egzistencijalne krize.
Ali u osnovi se svodi na ideju da je kod govor, da je pisanje koda za kompjuter oblik govora i da vas vlada ne može natjerati da to radite, a iz toga proizilazi čitava gomila stvari. Da li prihvatate ovaj argument da je prisiljavanje Anthropic-a da pravi alate koje ne želi da pravi prinudni govor?
Da, zapravo mislim da je prilično uvjerljivo. Uvjerljiv usiljeni govor. Ali ne, mislim da je to zanimljiv argument. To je jedan koji je bio malo niže na listi pitanja o kojima sam razmišljao. Očigledno sam bio uglavnom više fokusiran na pitanja Četvrtog amandmana, ali mislim da argument VATRA nije pogrešan. To smo vidjeli u drugim kontekstima. Došlo je i do problema sa backdoor-om, u smislu pokušaja da se backdoor ugrade u šifrirane sisteme.
Kompanije su definitivno podignute na prvom mjestuU amandmanu se tvrdi: “Prinuđen je govor da nas natjera da napišemo takvu vrstu koda.” To je valjan argument. To bi, opet, moglo biti nešto sa čime su sudovi vjerovatno manje voljni da se pozabave u početku ako mogu da riješe ova pitanja na neki drugi način. Ali drago mi je da je FIRE objavio taj post i mislim da je to zanimljiv i uvjerljiv argument.
Da, priroda druge Trumpove administracije je takva da je to tako grub instrument, da je gotovo sigurno da ćemo napasti sva pitanja odjednom.
Da, svaki amandman na Bill of Rights mora biti osporen na ovaj ili onaj način sa svakim mogućim pitanjem.
(Smijeh) Okreni točak.
Siguran sam da negdje ovdje možemo uklopiti kršenje Trećeg amandmana.
Naravno, da. Claude sada mora živjeti u tvojoj kući. Tačno. Bit će sjajno. Radimo [amandmane] jedan, tri, četiri i sedam. Mi ih skupljamo.
Mike, ovo je bilo sjajno. Ne mogu da verujem da niste ranije bili u emisiji. Ovo je bilo sjajno. Morate se vratiti uskoro.
Apsolutno. Kad god me želiš.
Pitanja ili komentari o ovoj epizodi? Javite nam se na decoder@theverge.com. Zaista čitamo svaki email!
