Danas govorimo o zbrkanoj, brzoj situaciji u Anthropicu, proizvođaču Claudea, koji se sada našao u vrlo ružnoj pravnoj bitki s Pentagonom.
Naprijed-natrag je komplicirano, ali od prije nekoliko dana, Pentagon je Anthropic smatrao rizikom za lanac opskrbe, a Anthropic je podnio tužbu osporavajući tu oznaku, rekavši da je vlada prekršila svoja prava iz Prvog i Petog amandmana "nastojeći uništiti ekonomsku vrijednost koju je stvorila jedna od najbrže rastućih privatnih kompanija na svijetu." Odmah vam mogu reći: govorit ćemo o preokretima u tom slučaju na The Vergeu i ovdje na Decoderu u mjesecima koji dolaze.
Ali danas sam želio odvojiti trenutak i doista se pozabaviti jednim vrlo važnim elementom ove situacije koji nije dobio dovoljno pozornosti jer je izmakla kontroli: kako vlada Sjedinjenih Država provodi nadzor, zakonska ovlast koja dopušta taj nadzor i zašto Anthropic nije imao povjerenja u vladu koja je rekla da će slijediti zakon kada je riječ o korištenju umjetne inteligencije za još veći nadzor.
Verge pretplatnici, ne zaboravite da dobivate ekskluzivni pristup dekoderu bez oglasa gdje god dobijete svoje podcaste. Kreni ovamo. Niste pretplatnik? Možete se prijaviti ovdje.
Moj današnji gost je Mike Masnick, osnivač i glavni izvršni direktor Techdirta, izvrsne i dugotrajne web stranice za tehničku politiku. Mike već desetljećima piše o prekoračenju vlasti, privatnosti u digitalnom dobu i drugim srodnim temama. On je stručnjak za to kako su internet i država nadzora međusobno povezani.
Vidite, postoji ono što zakon kaže da vlada može učiniti kada je u pitanju naš nadzor, a zatim što vlada želi učiniti. I što je najvažnije, postoji ono što vlada kaže da zakon kaže da može učiniti, što je često upravo suprotno od onoga što bi svaka normalna osoba koja jednostavno čita zakon pomislila.
Ovdje ćete u ovoj epizodi čuti Mikea kako detaljno objašnjava da ne možemo - i ne bismo trebali - vjerovati američkoj vladi na riječ kada je u pitanju nadzor. Previše je povijesti vladinih odvjetnika koji izvrću tumačenja jednostavnih riječi poput "meta" kako bi proširili nadzor na komplicirane načine - načine koji obično izazivaju zabrinutost samo u pravnim krugovima, a izbijaju samo kada postoje velike kontroverze poput velikih otkrića zviždača Eda Snowdena za NSA prije više od deset godina.
Ali nema ničeg suptilnog ili sofisticiranog u kreiranju politike u Trumpovoj eri - i tako s Anthropicom, imamo vrlo glasnu, vrlo javnu raspravu o tehnologiji i nadzoru u stvarnom vremenu, na internetu, u postovima na blogovima i X-ovim govorkanjima, i preko zvučnih zapisa s konferencija za tisak. U tome ima pozitivnih i negativnih strana, ali da biste sve to shvatili, stvarno morate poznavati povijest.
To je ono što smo Mike i ja namjeravali objasniti u ovoj epizodi - bez obzira na vaše stavove o umjetnoj inteligenciji i vladi, ova će epizoda jasno pokazati da su obje strane dopustile da država nadzora s vremenom postaje sve veća i veća. Sada smo na pragu najveće ekspanzije dosad kada je AI u pitanju.
U redu: osnivač i izvršni direktor Techdirta Mike Masnick o Anthropicu, Pentagonu i nadzoru AI-jem. Idemo.
Ovaj intervju je malo uređen radi duljine i jasnoće.
Mike Masnick, vi ste osnivač i izvršni direktor tvrtke Techdirt. Dobrodošli u Decoder.
Drago mi je što sam ovdje.
Uzbuđen sam što si tu. Samo sam rekao da sam šokiran što nikad prije nisi bio u emisiji. Ti i ja već dugo pišemo i objavljujemo jedno drugom. Velik dio pokrivenosti politike The Vergea duguje onome što ste učinili u Techdirtu, a onda je ono što se događa s Anthropicom tako komplicirano, ali pogađa toliko tema koje ste tako dugo pokrivali. Drago mi je da si napokon ovdje.
To je komplicirana zbrka od teme, ali uzbuđen sam što se bavim njome.
Ono na što se želim usredotočiti s vama nisu detalji o tome hoće li Anthropic potpisati ugovor s vladom ili hoće li OpenAI dobiti taj ugovor. Umjesto toga, uvjeren sam da će između vremena kada ovo snimimo i vremena kada ljudi budu slušali biti više tweetova i više stvari će biti drugačije nego što je bilo prije.
Ono na što se želim usredotočiti je samo jedna od dvije crvene linije koje je Anthropic doista postavio. Jedan od njih jeautonomno oružje, što je zasebna razina komplikacije. Tamo je zakon još malo u povoju bez obzira na to postoji li oružje ili ga je Rusija već rasporedila u Ukrajinskom ratu.
Ovdje ima mnogo ideja koje samo želim ostaviti po strani jer mislim da će se sve više fokusirati na svoj raspored. Druga crvena linija kojoj želim posvetiti puno vremena je masovni nadzor. I ovdje postoji dosta zakona o masovnom nadzoru. Ima puno povijesti, puno kontroverzne povijesti. Cijeli lik Edwarda Snowdena postoji zbog kontroverzi oko masovnog nadzora.
Sve se svodi na—mislim da ste vi taj koji je ovo objavio—Agenciju za nacionalnu sigurnost (NSA), koja je dio Ministarstva obrane, a koju sada iz nekog razloga moramo zvati Ministarstvo rata.
[Smijeh] Ne moramo ništa učiniti.
[Smijeh] Nemamo. To je istina ovdje u Americi. Ne moramo ništa učiniti. Ali NSA je u osnovi redefinirala što mnoge riječi znače iz kolokvijalnog engleskog u značenje: "Možemo samo vršiti nadzor." I onda se svako toliko dogodi skandal kad ljudi otkriju da samo vrše nadzor. Dakle, samo postavite pozornicu i ne želim vas premotavati do kraja, ali prošlo je dosta vremena kada se ovaj obrazac ponavljao.
Ovisi o tome koliko duboko želite ići, ali kratka verzija je očito u svijetu nakon 11. rujna, SAD je donio Patriotski zakon, koji je imao neke mogućnosti za vladu da se uključi u nadzor, što je trebalo služiti za zaštitu od budućih terorističkih prijetnji. S vremenom se to tumačilo na zanimljive načine i tu su postojala neka ograničenja. Imali smo i FISA sud, koji je poseban sud koji bi trebao preispitivati obavještajnu zajednicu i njihove aktivnosti, ali je tradicionalno bio jednostran sud. Samo jedna strana može iznijeti svoj slučaj pred tim sudom i sve se to radi u tajnosti.
Puno je toga što se nije znalo. A tu je bio još jedan dio u svemu ovome, koji seže sve do Ronalda Reagana, a to je Izvršna naredba 12333, koja se navodno odnosi na postavljanje pravila puta za prikupljanje obavještajnih podataka.
Dakle, imate ova tri skupa zakona - pa, nekoliko skupova zakona - i izvršnu naredbu koja javnosti, dijelovi koje možete pročitati, izgleda govore određene stvari o tome što naša vlada i NSA posebno mogu učiniti u smislu nadzora. Kad se čita običnim engleskim rječnikom, čiju prirodu vi i ja vjerojatno imamo i razumijemo, došli bismo do uvjerenja da je sposobnost NSA-e da nadzire Amerikance bila vrlo ograničena, zapravo do te mjere da bi trebali, ako shvate da nadziru osobu iz SAD-a, da bi trebali odmah stati i ispaliti ga i izbrisati podatke i sve te druge stvari.
Neko su vrijeme kružile glasine da se to zapravo ne događa i bilo je nagovještaja, a posebno je senator Ron Wyden bio vrlo glasan kada je izašao u zastupstvo u Senatu i rekao: "Ovdje nešto nije u redu i ne mogu vam točno reći što", ili bi na saslušanjima pitao obavještajne službenike: "Prikupljate li ili ne prikupljate masovne podatke o Amerikancima?"
Ti bi službenici ili odvratili ili u nekim slučajevima otvoreno lagali. Vjerujem da je to bilo jedno saslušanje 2012. godine s Jamesom Clapperom, koji je u to vrijeme bio direktor Nacionalne obavještajne službe, gdje su ga izravno pitali o ovoj točki. I on je zapravo rekao: "Ne, mi ne prikupljamo podatke o Amerikancima." To je bio velik dio onoga što je nadahnulo Eda Snowdena da oda podatke, izvješća koja je odao i Glennu Greenwaldu, Bartonu Gellmanu i Lauri Poitras. Iz svega toga, ono što smo počeli otkrivati je da NSA ima svoj vlastiti rječnik koji je donekle drugačiji od rječnika koji vi i ja koristimo, tako da oni mogu tumačiti riječi na načine koji se razlikuju od njihovog jednostavnog engleskog značenja, uključujući riječi poput "meta", što se čini kao ključna riječ. Općenito razumijevanje onoga što je to jest da bi, u teoriji, trebali ciljati samo na ljude koji nisu osobe iz SAD-a, mislim da je to izraz.
Ali način na koji se s vremenom tumačilo je da je sve što spominje tu osobu, sve što se odnosi na stranu osobu sada poštena igra, čak i ako je to komunikacijaosoba iz SAD-a. Dakle, ako bismo ti i ja slali poruke jedni drugima i spominjali stranu osobu, to je sada poštena igra za NSA da prikuplja, čuva i pohranjuje.
Postoji drugi dio ovoga. Spomenuo sam prvu Izvršnu naredbu 12333 Ronalda Reagana, koja je, kako se tehnologija s vremenom mijenjala, a internet rastao, omogućila NSA-i da pristupi stranim komunikacijama, ali to je uključivalo sve komunikacije koje su možda napustile SAD negdje na putu. Dakle, ako vam šaljem poruku i poruka je od mene iz Kalifornije otišla preko optičkog kabela koji je slučajno napustio SAD, NSA bi mogla staviti priključak na dio kada je izvan SAD-a i prikupiti te informacije, čak i ako je išla samo vama unutar SAD-a.
NSA bi tada mogla zadržati te podatke čak i ako se radilo o osobama iz SAD-a, a kasnije bi mogli izvršiti posebne pretrage za to, što se ponekad naziva "stražnim pretragama". Prikupili su te informacije za koje vjerujemo da ih uopće nisu trebali prikupljati, ali su ih mogli zadržati. I obećali su, pinky su se zakleli, da će to čuvati u tajnosti, ali ako izvrše pretragu i otkriju da ste vi ili ja spomenuli stranu osobu, onda je odjednom bilo pošteno da s tim rade što god žele.
Sveukupno, to se pretvorilo u svijet u kojem savezna vlada može prikupljati sve informacije koje se dotaknu izvan SAD-a. Čak i ako se radi isključivo između dvije osobe iz SAD-a, ako spomenu ili čak nagovijeste nekoga tko nije osoba iz SAD-a, odjednom je poštena igra biti sabran. I iz toga smo dobili nešto što se čini kao oblik masovnog nadzora američkih osoba od strane NSA-e koja tvrdi i javno izjavljuje da ne špijunira američke osobe.
Kako smo došli do ove točke? Ovo je puno inkrementalnih dječjih koraka. Spomenuli ste Jamesa Clappera 2012., to je Obamina administracija. Spomenuli ste Ronalda Reagana, to su osamdesete godine prošlog stoljeća. Ovdje prolazimo kroz demokrate i republikance.
Rat protiv terorizma dogodio se u administraciji Georgea W. Busha, a 11. rujna i Patriotski akt dogodili su se u administraciji Georgea W. Busha. Puno je inkrementalnih loših stvari pod predsjednicima obje stranke, pod kongresima obje stranke. Kako se to dogodilo?
Najjednostavniji oblik toga je da nitko, a pogotovo nijedan predsjednik, ne želi biti predsjednik u vrijeme kada je veliki teroristički napad, jer zbog toga ispadaju loše. Očito i oni žele zaštititi Amerikance, zar ne? To je dio njihovog posla. Ako imate obavještajnu zajednicu koja u osnovi radi u mraku jer to je ono što obavještajne zajednice rade i stalno vam dolaze i govore: "Hej, kad bismo samo mogli dobiti pristup ovim informacijama, bilo bi stvarno od pomoći u sprječavanju terorističkog napada."
Mogu postojati slučajevi u kojima je to istina, da obavještajna zajednica može koristiti te informacije na način koji dobro funkcionira. Ali mi smo također, u teoriji, društvo zakona s američkim ustavom kojeg bismo se trebali pridržavati. Ali to je dopuštalo činjenicu da su administracija za administracijom, ponovno, republikanci i demokrati, imali odvjetnike koji su bili vrlo pametni i koji bi pogledali i rekli: "Pa, ako se ovako postavimo ili ovako izjavimo ili ovo protumačimo, na taj način možemo dobiti što želimo i tehnički ne prekršiti zakon ili tehnički ne prekršiti Četvrti amandman."
Pretpostavka je uvijek bila: "Možemo na neki način izokrenuti zakon ili izokrenuti naše tumačenje zakona i nitko to nikada neće vidjeti, ili nitko kome je stalo neće ovo stvarno ikada vidjeti, i stoga ćemo se izvući s tim."
Dvije su stvari koje mi stvarno padaju u oči. Prvo, i vi i ja smo čitali puno sudskih odluka — odluka žalbenog suda i odluke Vrhovnog suda. I postoji borba na našem Vrhovnom sudu oko toga kako doslovno tumačiti riječi u našim statutima i našim zakonima.
Neću ulaziti predaleko u to, ali općenito bih rekao da je ideja da biste trebali samo pročitati riječi na stranici i učiniti ono što one kažu dominantna vrsta zakonskog tumačenja u Sjedinjenim Državama. Lijevi ili desni, oboje to govore. Oni raspravljaju o nekim vrlo ezoteričnim detaljima o tome što to zapravo znači. Ali da biste trebali samo moći čitati ove riječi i činiti ono što govore, to nije za zgrabiti, zar ne?
Došli smo barem do tog prvog prolaza onoga što biste vi moglinazvati tekstualizmom. Kako se pravnici obiju uprava toliko udaljavaju od dominantnog načina pravnog odlučivanja u našoj zemlji? Suci obje strane slažu se da je to barem prvi korak.
Volio bih da znam točan odgovor, ali mislim da je to motivirano zaključivanje, zar ne? Kao odvjetnik, vi ste tu da branite svog klijenta, a uspjeh - ako se to može nazvati uspjehom - našeg pravnog sustava obično se temelji na suparničkoj situaciji u kojoj imate različite strane koje se svađaju oko ovih stvari, gdje je uloga suca da suzi i shvati koja je strana zapravo u pravu.
Jedan od problema s obavještajnom zajednicom i njezinom postavom je to što nemate tu protivničku situaciju. To jednoj strani olakšava opravdanje argumenta koji iznosi jer se nitko zapravo ne protivi tome. Kombinirate to sa sveobuhvatnim strahom od još jednog terorističkog napada, bilo čega što je povezano s nacionalnom sigurnošću, pa čak i kada imate situacije u kojima imate FISA sud — mislim FISA sud je bio na neki način poznat po tome što je godinama zapravo bio gumeni pečat.
Zaboravio sam točne brojke, ali bilo je nešto poput više od 99 posto zahtjeva koji su otišli FISA sudu da se omogući nadzor određenih situacija i bilo je odobreno, a lako je reći da je 99 posto očito previše. Očito oni koji podnose zahtjeve sudu, oni biraju. Oni, uglavnom, ne iznose potpuno lude tvrdnje. Ali bez tog protivničkog aspekta i s vrlo snažno motiviranom skupinom ljudi koji misle: "Moramo ovo učiniti" ili im administracija kaže: "Moramo to učiniti", oni će pronaći načina da to učine. I tu s vremenom završite.
Je li postojao itko uključen u ovaj proces tko se ikada probudio i rekao sebi: "Čovječe, uspjeli smo redefinirati riječ 'meta' da znači sve što želimo"?
[Smijeh] Očito ste imali Eda Snowdena, koji je otkrio hrpu dokumenata. Imali ste Johna Napiera Tyea, koji je napisao članak za The Washington Post 2014., koji je otkrio tumačenje Izvršne naredbe 12333, i rekao da je to pravi problem na koji treba obratiti pozornost. Imate i druge ljude koji su govorili o tim stvarima, ali većinom su ljudi koji su uključeni u rad unutar administracije na stvarima obavještajne zajednice uvjereni u gledište obavještajne zajednice, a to je da je najvažniji cilj zaštititi zemlju od nečeg lošeg. Najbolji način za to je imati što više informacija.
Lako je biti suosjećajan s argumentom da, da, posjedovanje više informacija može im omogućiti da uhvate nešto ranije ili pronađu nešto važno, ali prvo, to možda nije točno. Dobivanje previše informacija vjerojatno je jednako loše kao i premalo informacija jer često može sakriti informacije koje su zapravo korisne, informacije koje su vam zapravo potrebne da biste nešto odredili.
Ali također, imamo U..S. Ustav na prvom mjestu i imamo razloge zašto, u teoriji, ne bismo trebali dopustiti masovni nadzor bez vjerojatnog razloga. Kao zemlja koja vjeruje u vladavinu zakona, trebali bismo moći živjeti u skladu s tim, a kada se sve ovo događa u mraku, izgubit ćete to iz vida.
Ovo me dovodi do Anthropica. Anthropic je prvenstveno poduzetnička tvrtka. Dobri su u vladi, izgradili su te mišiće, u njima rade ljudi koji su stvarno dobro upućeni u neke od ovih stvari. Očito su pogledali Petea Hegsetha govoreći: "Želimo sve zakonite upotrebe", i spustili su se na dvije razine tumačenja i rekli: "Pa, vaše doslovno uvjerenje je da ove riječi ne znače ono što kažu da znače na njihovom licu. Dakle, 'sve zakonite upotrebe' su prevelike i želimo postaviti zaštitne ograde, posebno oko masovnog nadzora."
Opet ću staviti u zagradu autonomno oružje, koje je bila druga crvena linija, ali posebno kada je riječ o masovnom nadzoru, Dario Amodei je vani i govori: "Možemo učiniti previše. Ovo je preopasno. Ovo je kršenje Četvrtog amandmana."
Napetost je tu "kažete da ćete se pridržavati ovih zakona koji govore jedno, a sada, nakon toliko vremena, znače nešto sasvim drugo i mi jednostavno ne želimo biti dio toga." To jeborba. Samo želim to usporediti sa Samom Altmanom, koji uskoči i kaže: "Učinit ćemo sve zakonite upotrebe", a zatim objavi ovu dugačku poruku poput: "Ovdje su svi zakoni kojih ćemo se pridržavati."
Čini se kao da Altman nije znao kako je NSA reinterpretirala te stvari i nekako je bio zaluđen. I od tada se počeo vraćati - čak i dok snimamo, uvjeren sam da ima još tweetova i da su se svačija stajališta promijenila. But Altman has been walking it back slowly, but it does seem like OpenAI got roped into reading the statutes on their face and believing what they said. Je li to i vaša interpretacija događaja?
Postoje dvije mogućnosti, a to je jedna od njih. Jedna je da su ga izigravali na isti način na koji je godinama izigravana javnost. Alternativna teorija, a nemam pojma koja je od njih točna, jest da su on ili neki od odvjetnika u OpenAI-ju — za koje mislim da su vrlo kompetentni i vrlo obrazovani — znali ovo, ali su mislili da bi mogli igrati istu igru koju je NSA igrala nekoliko desetljeća, u tome da sve dok govore te stvari i onda izgovaraju riječi, ali ne otkrivaju stvarna tumačenja, da bi se i oni mogli izvući s tim. Dakle, Sam izlazi s izjavom koja čini da izgleda kao "Imali smo potpuno iste crvene linije kao Anthropic, a vlada je bila sjajna s tim."
Zapravo, mislim da je Sam Altman rekao da je Anthropic imao dvije crvene linije, a OpenAI tri, i vladi je to savršeno odgovaralo, a to je natjeralo mnoge ljude da se češkaju po glavi. Ali mislim da ili Sam Altman i oni koji su ga okruživali nisu razumjeli kako te stvari funkcioniraju u praksi, ili jesu, i samo su pretpostavili da javnost neće znati i stoga bi se mogli izvući s tim.
Druga stvar koja mi pada na pamet — opet, umjetna inteligencija je nova i tako je primamljivo doći do novih tehnologija jer su to problemi prvog dojma. "Nitko nikada prije nije morao razmišljati o ovome", ali stvarnost je da su svi o ovim stvarima razmišljali dugo vremena. Možda stvar koja je ovdje nova nije umjetna inteligencija, već to što druga Trumpova administracija, umjesto da radi hrpu odvjetnika koje možda nitko nikada neće pročitati kako bi opravdala svoje postupke pred tajnim sudom na koji nitko ne obraća pozornost, umjesto toga jednostavno nije toliko suptilna.
Nisu toliko sofisticirani i samo govore da će sve vrijeme špijunirati. Oni su samo objavili svoje namjere na način da bi možda sve uprave trebale samo objaviti svoje namjere i vidjeti gdje žetoni padaju.
Ali gledam na činjenicu da je Ed Snowden bio ovdje u New Yorku. AT&T upravlja zgradom za koju svi znaju da je zgrada NSA-e. To je samo ogromna zgrada, a mi bismo se trebali pretvarati da nije centar za nadzor NSA-e, ali upravo je tu. Ogromno je. Čini se da ništa od toga nije rezultiralo ničim. Sva ova otkrića, ova curenja informacija, nismo odustali.
Zapravo, samo se povećao jer je velik dio naših života sve više digitaliziran. I možda je Trumpova administracija tako grub instrument u svakom trenutku, što bi zapravo moglo biti ono što uzrokuje obračun. Vidite li da se to uopće odvija?
Tu ima nekoliko različitih stvari i nije sasvim točno da se uopće nismo povukli od tih stvari. The revelations from Snowden did lead to some changes within how these things happen. I sada ih ima - zaboravio sam kako se zovu, ali oni su poput ovih civilnih prijatelja unutar FISA suda koji će djelovati kao predstavljanje druge strane u određenim pitanjima.
Vidjeli smo da su neka od ovlaštenja ograničena na određene načine, i svako toliko dolazi do ponovnog ovlaštenja, a aktivisti su bili vrlo agresivni u odbijanju i pokušaju postavljanja još zaštitnih ograda. Ali što se tiče većeg pitanja, mislim da postoje dvije različite stvari. Napola ste u pravu kada kažete da ova administracija nije suptilna i samo naglas govori ono što ne bi trebala.
"Mi smo u ratu s Iranom, mi to radimo, to se događa. Nećemo ni pokušati plesati."
Na načine na koje sve prethodne uprave ne bi. Ali zapravo to nisu izravno reklinadzor, posebno nadzor nad Amerikancima. Bilo je nagovještaja o tome, ali oni nisu istupili tako snažno oko toga. Druga polovica toga ima više veze s Anthropicovim pozicioniranjem i općim pogledom na umjetnu inteligenciju kao ovu moguću egzistencijalnu tehnologiju, gdje se Anthropic uvijek predstavljao kao: "Mi smo promišljeni dobri momci", a vjerujete li ili ne u to nije bitno. Imaju sljedeću reputaciju: "Pokušavamo ovo učiniti na način koji je siguran, koji poštuje čovječanstvo i obraća pozornost na sve te stvari." I tako, kada imate taj sukob, tu dolazi do borbe.
Imate Trumpovu administraciju koja samo želi biti u mogućnosti učiniti što god želi, a oni nisu suptilni po tom pitanju. A onda imate Anthropic, čiji je samoopis i njegova javna osoba uvijek poput: "Mi smo pažljivi i poštujemo čovječanstvo i prava i sve te stvari." Tu je vjerojatno došlo do sukoba, jer je Anthropic, kao što je jasno, neko vrijeme radio s Ministarstvom obrane i ima mnoge druge ugovore s vladom koje je koristio. To nije bio problem.
Samo u tim specifičnim područjima gdje je, dok je vlada nastojala proširiti ugovor koji je imala, više vodstvo Anthropica počelo je govoriti: "Čekaj, moramo biti sigurni da ne prelazimo ove crvene linije koje bi potencijalno mogle naštetiti našem ugledu promišljenog, sigurnog pružatelja umjetne inteligencije."
Želim vas ukratko pitati o nadzoru općenito, a posebno o zabrinutosti Anthropicovog četvrtog amandmana. Četvrti amandman kaže da vas vlada ne može bezrazložno pretraživati. Najbolji način da shvatite Četvrti amandman je slušajući “99 Problems” od Jay-Z-ja. Dakle, ako trebate uzeti pauzu i otići poslušati "99 Problems", to je super. Sve je unutra. Slušao sam to dok sam bio na pravnom fakultetu i imalo je savršenog smisla.
Ali vlada općenito treba nalog za vaš pretres. I kako sve više i više vašeg života prolazi online, postoji puno, puno iznimaka od ovoga. Ali ideja je da bi im ipak trebao biti nalog na internetu. Anthropicov argument je: "Pa, umjetna inteligencija se nikada neće umoriti. Može pretraživati sve cijelo vrijeme. To znači da ćemo samo raditi glavni nadzor."
Ipak, čak i prije nego što se umjetna inteligencija pojavila, postojala je ideja da vlada može pretražiti sve što vam pripada, ideja da vladi ne treba nalog za pretragu svih vaših stvari. Ideja da ako je bilo koji od vaših podataka ikada otišao izvan zemlje nakratko, vlada ih je tamo presrela,
Kad sam bio na koledžu, otprilike u vrijeme Patriot Acta, raspravljalo se o tome da oni neće pretraživati vaše stvarne podatke, ali mogu dobiti metapodatke i samo metapodatke. Podaci o Vašim podacima bit će dovoljni da Vas u svakom trenutku precizno lociraju. A i to je predaleko. A mi smo plesali što vlada može prikupiti? Što je dopušteno? Što im treba da bi nas sve zaštitili, a što je predaleko? Te su se linije pomaknule.
Dakle, samo ukratko opišite opću zabrinutost oko nadzora na razini i gdje smo sada. Prije AI situacija je sve eksponencijalno zakomplicirala.
Ovdje moram predstaviti još jedan koncept koji je vjerojatno trebao biti spomenut ranije, ali je važan, a koji se zove "doktrina treće strane". Ideja s četvrtim amandmanom je da vlada ne može pretražiti vas ili vaše stvari bez naloga i ne može dobiti nalog bez vjerojatnog razloga da ste počinili neku vrstu zločina. Ali postoji koncept koji se pojavio prije nekoliko desetljeća pod nazivom doktrina treće strane, koja kaže da se to ne odnosi nužno ili se uopće ne odnosi na stvari koje nisu vaše, čak i ako su to vaši podaci.
Najranija i najočitija verzija ovoga bili su telefonski zapisi koje je telefonska kompanija imala o tome koga ste zvali. Telefonske kompanije nisu snimale vaše pozive, ali su snimale ako vas nazovem, postojao bi zapis u telefonskoj kompaniji koji kaže: "Mike zove Nilaya." I ono što je utvrđeno od strane više sudova je da vlada može otići i zatražiti to, i da im ne treba nalog za to jer to nije pretragavaše podatke, to je ta treća strana i oni se mogu složiti da kao treća strana samo predaju te podatke.
Ali to su bili slučajevi iz 1960-ih i 70-ih, gdje je utvrđeno da vlada može dobiti pristup tome bez naloga, kada tamo nije bilo toliko podataka trećih strana. Uspon računala i interneta to je promijenio. Sada su sve podaci trećih strana. Sve što radimo prikuplja negdje neka tvrtka i ima evidenciju o tome. Dakle, u osnovi svaki podatak o vama, gdje se nalazite, s kim razgovarate, s kim komunicirate, što govorite, što radite, sve to ovih dana uglavnom drže treće strane. Dakle, doktrina treće strane donekle je progutala cijeli Četvrti amandman, gdje sve što je o vama što netko drugi ima, postoji mnogo niži standard za ono što vlada može učiniti da to zatraži.
Samo da budem konkretan, to znači da kada su moji podaci u iCloudu, vlada može otići u Apple i izvaditi moje podatke iz iClouda, a da mi to uopće ne kaže?
Oni to mogu zatražiti. Oni to lako mogu zatražiti i bez naloga. Tada tvrtka ima vlastita prava i može odrediti što želi učiniti s tim zahtjevom. Mogu jednostavno odustati od toga. Oni mogu, kao što će većina njih učiniti, ako se radi o ozbiljnom zahtjevu, odmah odbiti zahtjeve ili vas mogu upozoriti i mogu reći - a to je ono što će većina njih učiniti - upozorit će vas i reći: "Vlada traži neke od vaših podataka. Možete otići na sud i pokušati ih blokirati." Ako ne, predat će vam podatke za sedam dana ili koliko već bude.
Opet, ovisi. Ako se radi o kriminalističkoj istrazi, onda može postojati neka vrsta naredbe o zatvaranju o kojoj vam tvrtka ne smije reći. Ima svakakvih situacija, ali većina njih uključuje razinu zaštite nižu od razine koju bi zahtijevao Četvrti amandman ako se radi o podacima ili bilo kakvim informacijama ili bilo čemu u vašem domu.
Količina podataka koju imate na tuđem poslužitelju u oblaku je ogromna, zar ne? Svaka stvar koju općenito radite na internetu sada je sigurnosno kopirana na neki način ili snimljena na neki način na tuđim poslužiteljima. Vlada je pronašla ovaj način da zaobiđe četvrti amandman i kaže: "Pa, to zapravo nije vaše. Pripada Amazonu. Možemo razgovarati s Amazonom", a Amazon mora stajati usred tog procesa i reći: "Izumili smo još jedan proces da donekle zaštitimo ljude."
Gledam to - i kad sam pokrivao prve slučajeve doktrine trećih strana koji su pokrivali usluge u oblaku i vlada je nastavila pobjeđivati, tada sam se zapravo pretvorio u Jokera. Rekao sam, "Sve te stvari koje se pretvaramo o tekstualizmu i običnom [čitanju], ništa od toga ne znači ništa jer samo ubacujemo konjske snage u stražnja vrata koristeći ovaj drevni zakon u svačije podatke."
I onda pogledam ovo i pogledam Anthropic i kažem, "Pa, ovo je isti obrazac." Ovo je privatna tvrtka koja kaže: "U redu, razumijemo vašu poziciju. Razumijemo da ste ponovno protumačili zakon kako bi to značilo, i mi ćemo postaviti neki proces između vas, našeg alata i podataka Amerikanaca koji prolaze kroz našu uslugu." Samo se pitam vidite li tu paralelu, između Anthropica i Amazona i Azurea i svih drugih usluga u oblaku koje postoje i čuvaju toliko naših podataka.
Da, iako postoji nekoliko pojašnjenja koja su ovdje važna i koja ovo čine malo drugačijim. I zapravo - mislim da je New York Times prvi objavio ovo izvješće - glavna klauzula koja je bila najvažnija za Anthropic bila je konkretno o podacima prikupljenim od komercijalnih usluga i nemogućnosti korištenja Claudea na tim podacima, što je upravo ovaj problem u smislu podataka trećih strana. Ali želim razjasniti glavnu razliku između onoga o čemu smo upravo govorili prije ovoga s Amazonom ili drugim trećim stranama koje hostiraju vaše podatke, to su bili slučajevi u kojima su, zbog toga gdje se nalaze u ekosustavu, izravno hostirali vaše podatke.
Što se tiče Claudea, nije da je itko zabrinut zbog toga što NSA provjerava vaše korištenje Claudeom. Radi se o tome da izađu i dobiju podatke trećih strana od Amazona ili vjerojatnije od vrste tajnih, skrivenih brokera podataka koji prikazuju oglase na vašim telefonima i znaju vašu lokaciju, vaše interese i slične stvari. I onda to ubaciti u sustavna kojem bi Claude onda radio. To je ono čega Anthropic stvarno nije želio sudjelovati. Dakle, gdje god ili kako god bi vlada prikupljala te podatke od treće strane, Anthropic je rekao: "Ne želimo da se naš alat koristi za te podatke."
Poznato je da se Apple suprotstavlja FBI-u tražeći od njega da postavi stražnja vrata u iPhone, a Apple kaže "ne", i oni se suprotstavljaju Trumpu. Postoji i dio načina na koji naš sustav funkcionira u kojem velike privatne tvrtke mogu reći "ne" vladi u ime svojih kupaca. I to se osjećalo na isti način na koji Apple, opet, neće staviti backdoor na iPhone, ili veliki pružatelji usluga oblaka kažu: "Postoji mali proces kroz koji morate proći prije nego što dobijete pojedinačne podatke."
Ovdje se čini kao da Anthropic govori: "Nećemo samo napraviti masovnu analizu podataka koje ste dobili od drugih strana jer to dovodi do 24/7 masovnog nadzora Amerikanaca, a mi to ne želimo učiniti." Ipak, to se čini kao predaleki most za ovu upravu. Ima li povratka od toga?
Vidjet ćemo. U prošlosti kad se to dogodilo - a dogodilo se puno puta s većinom velikih tehnoloških kompanija, u nekom su trenutku rekli da je nešto premosnica predaleko - gdje to obično ide je na sud. Firme će ići na sud ili će uprava ići na sud i bit će neka vrsta sudske bitke.
Stražnja vrata u iPhone savršen su primjer toga. Otišlo je na sud i izborili su se, iako nikad nisu došli do zaključka jer je FBI na kraju samo ručno provalio u iPhone i nije želio da sudska presuda uništi to u budućnosti.
Ali u ovom slučaju, gdje je eskalacija i gdje se ovo razlikuje od onih prošlih situacija je to što je Trumpova administracija umjesto da samo ode na sud napravila ovu oznaku "rizika opskrbnog lanca", što je jednostavno suludo. Ova ideja da bi ovaj alat koji je osmišljen kako bi spriječio potencijalne strane zlonamjerne aktere u opskrbi tehnologijom, koji bi potom mogli staviti skrivene alate za nadzor u veći tehnološki skup, da bi se oni mogli zabraniti. Primjeniti to na tvrtku sa sjedištem u SAD-u u osnovi zbog politike etike čini se stvarnom, stvarnom zlouporabom tog alata.
Čak je i taj alat bio upitan na neki način, ali mogli biste razumjeti poticaj koji stoji iza njega kada govorite o kineskoj mrežnoj tvrtki ili nečemu u tom smislu. Evo, nema smisla. Dakle, reakcija na ovo nadilazi ono što bi se inače moglo vidjeti u ovom slučaju. Mogli ste vidjeti da bi tradicionalno postojao neka vrsta sudskog spora i bilo koja strana bi ga mogla pokrenuti i to bi bila samo borba oko toga kako se ugovor može primijeniti.
Ali to se ne događa ovdje. Ova administracija zapravo govori: "Ako nam ne date apsolutno sve što želimo, ako ne postavite svoje alate da rade onako kako mi želimo da rade, tada ćemo učinkovito pokušati uništiti vaš cijeli posao." I to je eskalacija.
Postoji jedan dio ovoga na kojem želim završiti, a to je na neki način najpametnija verzija ovoga. FIRE, grupa za zagovaranje slobode govora, objavila je post na blogu neposredno prije nego što smo počeli snimati iznoseći argument da je prisiljavanje Anthropica na izradu alata koje ne želi izgraditi kršenje slobode govora, da je to nešto što se zove prisilni govor. Ovdje ima puno povijesti. Ovdje postoji duboka povijest Vergea i Techdirta, in-the-weeds, egzistencijalne krize.
Ali u osnovi se svodi na ideju da je kod govor, da je pisanje koda za računalo oblik govora i da vas vlada ne može prisiliti da to učinite, a cijela hrpa stvari proizlazi iz toga. Prihvaćate li ovaj argument da je prisiljavanje Anthropica na izradu alata koje ne želi izgraditi prisilni govor?
Da, zapravo mislim da je prilično uvjerljivo. Uvjerljiv prisiljeni govor. Ali ne, mislim da je to zanimljiv argument. To je jedan koji je bio malo niže na popisu problema o kojima sam razmišljao. Očito sam uglavnom bio više usredotočen na pitanja Četvrtog amandmana, ali mislim da argument VATRA nije pogrešan. Vidjeli smo to u drugim kontekstima. Došlo je do problema i s backdoorom, u smislu pokušaja ugradnje backdoora u šifrirane sustave.
Tvrtke su definitivno podigle prveAmandman tvrdi, kaže: "To je prisilan govor koji nas prisiljava da napišemo takvu vrstu koda." To je valjan argument. Mogao bi, opet, biti slučaj s kojim bi se sudovi vjerojatno manje voljni uhvatiti u koštac u početku ako se mogu pozabaviti tim pitanjima na neki drugi način. Ali drago mi je što je FIRE objavio taj post i mislim da je to zanimljiv i uvjerljiv argument.
Da, samo priroda druge Trumpove administracije je da je to tako tup instrument, gotovo je sigurno da ćemo napasti sva pitanja odjednom.
Da, svaki amandman Povelje o pravima mora se osporiti u nekom obliku sa svakim mogućim problemom.
[Smijeh] Okreni kotač.
Siguran sam da ovdje možemo smjestiti kršenje Trećeg amandmana.
Naravno, da. Claude sad mora živjeti u tvojoj kući. Točno. Bit će super. Radimo [amandmane] jedan, tri, četiri i sedam. Skupljamo ih.
Mike, ovo je bilo sjajno. Ne mogu vjerovati da prije nisi bio u emisiji. Ovo je bilo super. Moraš se uskoro vratiti.
Apsolutno. Kad god me želiš.
Pitanja ili komentari o ovoj epizodi? Javite nam se na decoder@theverge.com. Zaista čitamo svaki e-mail!
