Danes govorimo o grdi, hitro razvijajoči se situaciji pri Anthropicu, proizvajalcu Clauda, ki se je zdaj znašel v zelo grdi pravni bitki s Pentagonom.
Nazaj in nazaj je zapleteno, toda pred nekaj dnevi je Pentagon menil, da Anthropic predstavlja tveganje v dobavni verigi, in Anthropic je vložil tožbo, v kateri je izpodbijal to oznako, češ da je vlada kršila pravice iz prvega in petega amandmaja s tem, da "skuša uničiti ekonomsko vrednost, ki jo je ustvarilo eno najhitreje rastočih zasebnih podjetij na svetu." Takoj vam lahko povem: o preobratih tega primera bomo govorili na The Verge in tukaj na Decoderju v prihodnjih mesecih.
Toda danes sem si želel vzeti trenutek in se res poglobiti v en zelo pomemben element te situacije, ki ni dobil dovolj pozornosti, saj je ušel izpod nadzora: kako vlada Združenih držav izvaja nadzor, pravni organ, ki dovoljuje izvajanje tega nadzora, in zakaj Anthropic ni zaupal vladi, ki je rekla, da bo upoštevala zakon, ko gre za uporabo umetne inteligence za še večji nadzor.
Naročniki na Verge, ne pozabite, da dobite ekskluziven dostop do dekoderja brez oglasov, kjer koli dobite poddaje. Pojdite sem. Niste naročnik? Prijavite se lahko tukaj.
Moj današnji gost je Mike Masnick, ustanovitelj in izvršni direktor Techdirt, odlične in dolgoletne spletne strani o tehnološki politiki. Mike že desetletja piše o prekoračitvi vlade, zasebnosti v digitalni dobi in drugih sorodnih temah. Je strokovnjak za to, kako sta internet in država nadzora zrasla na medsebojno povezane načine.
Vidite, zakon določa, kaj lahko vlada naredi, ko gre za nadzor nad nami, in potem, kaj vlada želi narediti. In kar je najpomembneje, obstaja tisto, kar vlada pravi, da zakon pravi, da lahko stori, kar je pogosto ravno nasprotno od tega, kar bi si mislil vsak normalen človek, ki preprosto bere zakon.
V tej epizodi boste slišali, kako Mike zelo podrobno razlaga, da vladi ZDA ne moremo – in ne smemo – verjeti na besedo, ko gre za nadzor. Preveč je zgodovine vladnih odvetnikov, ki obračajo razlage preprostih besed, kot je »tarča«, da bi razširili nadzor na zapletene načine – načine, ki običajno povzročajo zaskrbljenost le v pravniških krogih in se razplamtijo šele, ko pride do velikih polemik, kot so velika razkritja žvižgača Eda Snowdna NSA pred več kot desetletjem.
Toda pri oblikovanju politik v Trumpovi dobi ni nič subtilnega ali prefinjenega - in tako imamo z Anthropic zelo glasno, zelo javno razpravo o tehnologiji in nadzoru v realnem času, na internetu, v objavah na blogih in X-ovih tarnah ter prek zvočnih posnetkov s tiskovnih konferenc. V tem so pozitivne in negativne strani, a da bi vse razumeli, morate resnično poznati zgodovino.
To sva nameravala z Mikeom razložiti v tej epizodi – ne glede na vaše poglede na umetno inteligenco in vlado bo ta epizoda jasno pokazala, da sta obe strani dovolili, da se stanje nadzora sčasoma povečuje. Zdaj smo na pragu največje širitve doslej, ko gre za AI.
V redu: ustanovitelj in izvršni direktor podjetja Techdirt Mike Masnick o Anthropicu, Pentagonu in nadzoru z umetno inteligenco. Izvolite.
Ta intervju je bil rahlo urejen zaradi dolžine in jasnosti.
Mike Masnick, vi ste ustanovitelj in izvršni direktor podjetja Techdirt. Dobrodošli v Dekoderju.
Vesel sem, da sem tukaj.
Navdušen sem, da si zraven. Samo rekel sem, da sem šokiran, da še nikoli nisi bil v oddaji. Ti in jaz sva si dolgo pisala in objavljala. Veliko pokritosti politike The Verge dolguje temu, kar ste storili pri Techdirtu, in potem je to, kar se dogaja z Anthropic, tako zapleteno, vendar zadeva toliko tem, ki ste jih pokrivali tako dolgo. Vesel sem, da si končno tukaj.
To je zapletena zmešnjava teme, vendar sem navdušen, da se poglobim v to.
To, na kar se želim osredotočiti z vami, niso podrobnosti o tem, ali bo Anthropic podpisal pogodbo z vlado ali ali bo OpenAI to pogodbo dobil. Namesto tega sem prepričan, da bo med časom, ko bomo to posneli, in časom, ko bodo ljudje to poslušali, bilo več tvitov in več stvari bo drugačnih, kot je bilo prej.
Na kar se želim osredotočiti, je samo ena od dveh rdečih črt, ki ju je Anthropic resnično postavil. Eden izmed njih jeavtonomno orožje, kar je posebna stopnja zapleta. Tamkajšnja zakonodaja je nekoliko bolj v povojih, ne glede na to, ali orožje sploh obstaja ali ga je Rusija že uporabila v ukrajinski vojni.
Tukaj je veliko idej, ki jih želim pustiti ob strani, ker menim, da se bo to bolj osredotočilo na svoj urnik. Druga rdeča črta, ki ji želim posvetiti veliko časa, je množični nadzor. In tukaj je precej zakonov o množičnem nadzoru. Veliko je zgodovine, veliko kontroverzne zgodovine. Celoten lik Edwarda Snowdna obstaja zaradi polemik o množičnem nadzoru.
Vse se spušča k – mislim, da ste vi tisti, ki ste to objavili – Agenciji za nacionalno varnost (NSA), ki je del Ministrstva za obrambo, ki jo moramo zdaj iz neznanega razloga imenovati Ministrstvo za vojno.
[Smeh] Ničesar nam ni treba narediti.
[Smeh] Ne. To je res tukaj v Ameriki. Ničesar nam ni treba narediti. Toda NSA je v bistvu na novo opredelila, kaj veliko besed pomeni iz pogovorne angleščine, da pomenijo: "Lahko samo izvajamo nadzor." In potem vsake toliko pride do škandala, ko ljudje odkrijejo, da le izvajajo nadzor. Zato samo pripravite oder in ne želim vas previjati do konca, vendar je preteklo precej časa, ko se je ta vzorec ponavljal.
Odvisno je od tega, kako globoko želite iti, toda kratka različica je očitno v svetu po 11. septembru, ZDA so sprejele Patriot Act, ki je imel nekaj možnosti za vlado, da sodeluje pri nadzoru, kar naj bi nas zaščitilo pred prihodnjimi terorističnimi grožnjami. Sčasoma so si to razlagali na zanimive načine in pri tem je bilo nekaj omejitev. Imeli smo tudi sodišče FISA, ki je posebno sodišče, ki naj bi nadzorovalo obveščevalno skupnost in njeno delovanje, a je bilo tradicionalno enostransko sodišče. Samo ena stran lahko zagovarja svojo zadevo pred tem sodiščem in vse poteka v tajnosti.
Veliko je stvari, ki niso bile znane. In potem je bil v vsem tem še en del, ki sega vse do Ronalda Reagana, to je izvršni ukaz 12333, ki naj bi določal pravila ceste za zbiranje obveščevalnih podatkov.
Torej imate te tri sklope zakonov – no, nekaj sklopov zakonov – in izvršni ukaz, da se javnosti zdi, da tisti deli, ki jih lahko preberete, povedo določene stvari o tem, kaj lahko naša vlada in NSA zlasti naredita v smislu nadzora. Če beremo z navadnim angleškim slovarjem, katerega naravo vi in jaz verjetno poznamo in razumemo, bi prišli do prepričanja, da je bila sposobnost NSA za nadzorovanje Američanov zelo omejena, pravzaprav do te mere, da bi morali, če ugotovijo, da nadzorujejo osebo iz ZDA, da bi se morali nemudoma ustaviti in zajokati ter izbrisati podatke in vse te druge stvari.
Nekaj časa so krožile govorice, da se to v resnici ne dogaja, in pojavili so se namigi, zlasti senator Ron Wyden je bil zelo glasen, ko je šel v dvorano senata in rekel: "Tukaj nekaj ni v redu in ne morem vam natančno povedati," ali pa je na zaslišanjih vprašal uradnike obveščevalne službe: "Ali zbirate ali ne zbirate množičnih podatkov o Američanih?"
Ti uradniki bi se odvrnili ali v nekaterih primerih naravnost lagali. Mislim, da je bilo to eno zaslišanje leta 2012 z Jamesom Clapperjem, ki je bil takrat direktor nacionalne obveščevalne službe, kjer so ga neposredno vprašali o tej točki. In v bistvu je rekel: "Ne, ne zbiramo podatkov o Američanih." To je bil velik del tega, kar je navdihnilo Eda Snowdna, da je razkril podatke, poročila, ki jih je razkril tudi Glennu Greenwaldu, Bartonu Gellmanu in Lauri Poitras. Iz vsega tega smo začeli odkrivati, da ima NSA svoj lasten slovar, ki je nekoliko drugačen od slovarja, ki ga uporabljava ti in jaz, tako da lahko razlagajo besede na načine, ki se razlikujejo od njihovega preprostega angleškega pomena, vključno z besedami, kot je »tarča«, ki se zdi ključna beseda. Splošno razumevanje tega, kaj je to, je, da naj bi v teoriji ciljali le na ljudi, ki niso osebe iz ZDA, mislim, da je ta izraz.
Toda sčasoma se je razlagalo, da je vse, kar omenja to osebo, kar koli, kar je o tuji osebi, poštena igra, tudi če je to komunikacijaoseba iz ZDA. Torej, če bi si ti in jaz pošiljali sporočila in omenjali tujo osebo, je zdaj poštena igra za NSA, da zbira, hrani in hrani.
Obstaja še drugi del tega. Omenil sem prvo izvršno odredbo 12333 Ronalda Reagana, ki je, ko se je tehnologija sčasoma spremenila in je internet rasel, NSA dejansko omogočil dostop do tujih komunikacij, vendar je to vključevalo vse komunikacije, ki so morda nekje zapustile ZDA. Torej, če ti pošiljam sporočilo in je sporočilo od mene iz Kalifornije prispelo prek kabla z optičnimi vlakni, ki je slučajno zapustil ZDA, bi lahko NSA prisluhnila delu, ko je zunaj ZDA, in zbrala te informacije, tudi če bi šlo samo k tebi znotraj ZDA.
NSA bi lahko nato obdržala te informacije, tudi če bi šlo za osebe iz ZDA, in bi lahko pozneje opravila posebna iskanja v zvezi s tem, včasih imenovana "iskanja zakulisja". Zbrali so te podatke, za katere verjamemo, da jih sploh ne bi smeli zbrati, vendar bi jih lahko obdržali. In obljubili so, prisegli so, da bodo ohranili zasebnost, toda če so opravili preiskavo in ugotovili, da ste vi ali jaz omenili tujo osebo, je bilo nenadoma pošteno, da s tem počnejo, kar hočejo.
Na splošno se je to spremenilo v svet, v katerem lahko zvezna vlada v bistvu zbira vse informacije, ki se slučajno dotaknejo zunaj ZDA. Tudi če je v celoti med dvema osebama iz ZDA, če omenita ali celo namigneta na nekoga, ki ni oseba iz ZDA, je nenadoma poštena igra, da si zbran. In iz tega smo dobili nekaj, kar se zdi oblika množičnega nadzora oseb iz ZDA s strani NSA, ki trdi in javno izjavlja, da ne vohuni za osebami iz ZDA.
Kako smo prišli do te točke? To je veliko postopnih otroških korakov. Leta 2012 ste omenili Jamesa Clapperja, to je Obamova administracija. Omenili ste Ronalda Reagana, to so osemdeseta leta. Tukaj gremo skozi demokrate in republikance.
Vojna proti terorizmu se je zgodila v administraciji Georgea W. Busha, 11. september in Patriot Act pa sta se zgodila v administraciji Georgea W. Busha. Pod predsednikoma obeh strank, pod kongresoma obeh strank je veliko naraščajočih slabih stvari. Kako se je to zgodilo?
Najenostavnejša oblika tega je, da nihče, sploh pa noben predsednik, noče biti predsednik v času, ko je velik teroristični napad, ker zaradi tega izgleda slabo. Očitno želijo zaščititi tudi Američane, kajne? To je del njihovega dela. Če imate obveščevalno skupnost, ki v bistvu deluje v temi, ker to počnejo obveščevalne skupnosti, in nenehno prihajajo k vam in govorijo: "Hej, če bi le lahko dobili dostop do teh informacij, bi bilo res koristno pri preprečevanju terorističnega napada."
Obstajajo lahko primeri, ko je to res, da lahko obveščevalna skupnost te informacije uporabi na način, ki dobro deluje. Toda teoretično smo tudi družba zakonov z ustavo ZDA, ki bi jo morali spoštovati. Toda to je dopuščalo dejstvo, da je imela administracija za administracijo, ponovno, republikanec in demokrat, odvetnike, ki so bili zelo pametni in ki so pogledali skozi in rekli: "No, če se tako postavimo ali navedemo tako ali to razlagamo, lahko na ta način dobimo, kar želimo, in tehnično ne kršimo zakona ali tehnično ne kršimo četrtega amandmaja."
Predpostavka je bila vedno: "Lahko nekako zaokrožimo zakon ali našo razlago zakona in nihče ne bo nikoli videl tega, ali nihče, ki mu je mar, tega res ne bo nikoli videl, in zato se bomo izognili."
Dve stvari me res prevzameta. Prvič, ti in jaz sva prebrala veliko sodnih odločb – odločb pritožbenega sodišča in odločb vrhovnega sodišča. In na našem vrhovnem sodišču poteka boj o tem, kako dobesedno razlagati besede v naših statutih in zakonih.
Ne bom se preveč spuščal v to, vendar bi rekel, da je na splošno zamisel, da bi morali samo prebrati besede na strani in narediti, kar pravijo, prevladujoča vrsta zakonske razlage v Združenih državah. Levi ali desni, oba pravita. Prepirajo se o nekaterih zelo ezoteričnih finih točkah, kaj to dejansko pomeni. Ampak, da bi moral biti sposoben prebrati te besede in narediti, kar pravijo, to ni za zgrabiti, kajne?
Pristali smo vsaj na tem prvem prehodu tega, kar bi lahko viimenujemo tekstualizem. Kako se pravniki obeh uprav tako oddaljijo od prevladujočega načina pravnega odločanja pri nas? Sodniki obeh strani se strinjajo, da je to vsaj prvi korak.
Želim si, da bi vedel točen odgovor, vendar mislim, da je to motivirano sklepanje, kajne? Kot odvetnik ste tam, da branite svojo stranko in uspeh – če temu lahko rečete uspeh – našega pravnega sistema ponavadi temelji na kontradiktorni situaciji, kjer se o teh stvareh prepirajo različne strani, kjer je vloga razsodnika, da zoži in ugotovi, katera stran je dejansko pravilna.
Ena od težav z obveščevalno skupnostjo in njeno postavitvijo je, da nimate te kontradiktorne situacije. To eni strani olajša utemeljitev argumenta, ki ga navaja, ker ga nihče v resnici ne zagovarja. To združite s splošnim strahom pred ponovnim terorističnim napadom, vsem, kar je povezano z nacionalno varnostjo, in tudi ko imate situacije, ko imate sodišče FISA – mislim, sodišče FISA je bilo nekoliko znano po tem, da je bilo dolga leta dejansko gumijasti žig.
Pozabil sem natančne številke, vendar je bilo približno 99 odstotkov prošenj, ki so šle na sodišče FISA, da bi omogočili nadzor nad določenimi situacijami, odobrenih, in zlahka je reči, da je 99 odstotkov očitno preveč. Očitno tisti, ki vlagajo zahtevke na sodišče, izbirajo. Večinoma ne prinašajo popolnoma norih trditev. Toda brez tega kontradiktornega vidika in z zelo močno motivirano skupino ljudi, ki mislijo: "To moramo storiti," ali jim uprava reče: "To moramo storiti," bodo našli načine za to. In tu sčasoma končaš.
Ali je bil v tem procesu vpleten kdo, ki se je kdaj zbudil in si rekel: "Fant, uspelo nam je redefinirati besedo 'tarča', da pomeni vse, kar želimo"?
[Smeh] Očitno ste imeli Eda Snowdna, ki je razkril kup dokumentov. Imeli ste Johna Napierja Tyeja, ki je leta 2014 za The Washington Post napisal prispevek, ki je razkril razlago izvršnega ukaza 12333 in dejal, da je to resnično vprašanje, na katerega je treba biti pozoren. Imate druge ljudi, ki so spregovorili o teh stvareh, vendar so večinoma ljudje, ki sodelujejo pri delu v upravi na zadevah obveščevalne skupnosti, kupljeni za mnenje obveščevalne skupnosti, ki je, da je glavni cilj zaščititi državo pred nečim slabim. Najboljši način za to je imeti čim več informacij.
Zlahka je biti naklonjen argumentu, da, da, če imajo več informacij, jim lahko omogočijo, da nekaj prej ujamejo ali najdejo nekaj pomembnega, toda prvič, to morda ni res. Preveč informacij je verjetno prav tako slabo kot premalo informacij, saj lahko pogosto prikrije informacije, ki so dejansko uporabne, informacije, ki jih dejansko potrebujete, da nekaj ugotovite.
Vendar imamo tudi ZDA Ustava na prvem mestu in imamo razloge, zakaj teoretično ne bi smeli dovoliti množičnega nadzora brez verjetnega razloga. Kot država, ki verjame v pravno državo, bi morali biti sposobni živeti v skladu s tem, in ko se vse te stvari dogajajo v temi, boste to izgubili izpred oči.
To me pripelje do Anthropic. Anthropic je predvsem podjetniško podjetje. V vladi so dobri, zgradili so te mišice, zaposleni so ljudje, ki so res dobro seznanjeni z nekaterimi od teh stvari. Očitno so pogledali Peta Hegsetha, ki je rekel: "Želimo vse zakonite uporabe," in šli so na dve ravni interpretacije in rekli: "No, vaše dobesedno prepričanje je, da te besede ne pomenijo tega, kar pravijo, da pomenijo na obrazu. Torej je "vse zakonite uporabe" preveliko in želimo postaviti nekaj zaščitnih ograj, zlasti okoli množičnega nadzora."
Spet bom oklepal avtonomno orožje, ki je bila druga rdeča črta, toda zlasti pri množičnem nadzoru Dario Amodei pravi: "Lahko naredimo preveč. To je preveč nevarno. To je kršitev četrtega amandmaja."
Napetost je "pravite, da se boste ravnali v skladu s temi zakoni, ki pravijo eno stvar, zdaj, po vsem tem času, pa pomenijo nekaj popolnoma drugega in preprosto nočemo biti del tega." To jeboj. To bi rad samo primerjal s Samom Altmanom, ki se oglasi in reče: "Izvedli bomo vse zakonite uporabe," in nato objavi to dolgo sporočilo, kot je: "Tukaj so vsi zakoni, ki jih bomo spoštovali."
Zdi se, kot da Altman ni vedel, kako je NSA na novo interpretirala te stvari, in da so ga nekako vzeli za vožnjo. In od takrat se je začel vračati nazaj – tudi ko snemamo, sem prepričan, da je več tvitov in da so se stališča vseh spremenila. Toda Altman se je počasi vračal nazaj, vendar se zdi, da je OpenAI prisiljen prebrati statute na njihovih obrazih in verjeti temu, kar so rekli. Je to tudi vaša interpretacija dogodkov?
Obstajata dve možnosti in to je ena od njiju. Ena je ta, da so ga igrali na enak način, kot so ga dolga leta igrali javnost. Alternativna teorija, pri čemer nimam pojma, katera od teh je resnična, je, da je on ali nekateri pravniki pri OpenAI — za katere menim, da so zelo kompetentni in zelo dobro obveščeni — vedeli za to, vendar so mislili, da bi lahko igrali isto igro, ki jo je nekaj desetletij igrala NSA, in sicer dokler govorijo te stvari in nato izrečejo besede, vendar ne razkrijejo dejanskih interpretacij, da se lahko tudi oni izognejo. Tako se Sam oglasi z izjavo, zaradi katere je videti, kot da "Imeli smo popolnoma enake rdeče črte kot Anthropic in vlada je bila s tem odlična."
Pravzaprav mislim, da je Sam Altman rekel, da je imel Anthropic dve rdeči črti, OpenAI pa tri, in vlada je bila s tem povsem v redu, zaradi česar so se številni ljudje praskali po glavi. Toda mislim, da Sam Altman in tisti, ki so ga obdajali, niso razumeli, kako te stvari delujejo v praksi, ali pa so razumeli in so samo domnevali, da javnost tega ne bo vedela, in bi se zato lahko izognili.
Druga stvar, ki mi pride na misel - spet, AI je nov in tako mamljivo je priti do novih tehnologij, saj so to težave prvega vtisa. "O tem še nikomur ni bilo treba razmišljati," toda v resnici so vsi o teh stvareh razmišljali že dolgo. Morda stvar, ki je tukaj nova, ni umetna inteligenca, ampak to, da druga Trumpova administracija, namesto da bi delala kup odvetnikov, ki jih morda nihče ne bo nikoli prebral, da bi upravičila svoja dejanja pred tajnim sodiščem, na katerega nihče ne posveča pozornosti, namesto tega preprosto ni tako subtilna.
Niso tako prefinjeni in samo pravijo, da bodo ves čas vohunili za vsemi. Oni so pač napovedali svoje namere na način, da bi morda morale vse uprave samo objaviti svoje namere in videti, kam bodo padli žetoni.
Ampak gledam dejstvo, da je bil Ed Snowden tukaj v New Yorku. AT&T upravlja stavbo, za katero vsi vedo, da je stavba NSA. To je le ogromna zgradba in morali bi se pretvarjati, da ni center za nadzor NSA, vendar je prav tam. To je ogromno. Zdi se, da nič od tega ni prineslo ničesar. Vsa ta razkritja, ta uhajanja informacij, tega nismo zavrnili.
Pravzaprav se le še povečuje, saj je velik del našega življenja vse bolj digitaliziran. In morda je Trumpova administracija ves čas tako neotresen instrument, da je to morda tisto, kar povzroča obračunavanje. Ali vseeno vidite, da se to igra?
Tam je nekaj različnih stvari in ni povsem res, da se od teh stvari sploh nismo umaknili. Snowdnova razkritja so privedla do nekaterih sprememb v tem, kako se te stvari dogajajo. In zdaj obstajajo - pozabil sem, kako se imenujejo, vendar so kot ti civilni prijatelji na sodišču FISA, ki bodo delovali kot predstavniki druge strani v določenih vprašanjih.
Videli smo, da so nekateri organi omejeni na določene načine in vsake toliko pridejo do ponovne odobritve, aktivisti pa so bili zelo agresivni glede potiskanja nazaj in poskušanja postaviti še nekaj ograje. Toda glede večjega vprašanja mislim, da gre za dve različni stvari. Napol imate prav, da ta administracija ni subtilna in samo na glas govori stvari, ki jih ne bi smela.
"Smo v vojni z Iranom, to počnemo, to se dogaja. Sploh ne bomo poskusili plesati."
Na načine, ki jih vse prejšnje uprave ne bi storile. Vendar tega v resnici niso neposredno povedalinadzor, predvsem nadzor nad Američani. Bilo je namigov o tem, vendar niso bili tako odločni glede tega. Druga polovica tega je bolj povezana s položajem Anthropica in splošnim pogledom na AI kot to verjetno eksistencialno tehnologijo, kjer se je Anthropic vedno predstavljal kot: "Smo premišljeni dobri fantje," in ne glede na to, ali verjamete ali ne, je to nekako nepomembno. Tam imajo ta sloves: "To poskušamo narediti na način, ki je varen, ki spoštuje človečnost in je pozoren na vse te stvari." In tako, ko imate ta spopad, pride do boja.
Imate Trumpovo administracijo, ki si samo želi, da bi lahko naredila, kar hoče, in glede tega niso subtilni. In potem imate Anthropic, katerega samoopis in njegova javna osebnost sta vedno takšna: "Smo premišljeni in spoštujemo človečnost, pravice in vse te stvari." Tu je verjetno prišlo do spopada, saj je Anthropic, kot je bilo jasno, nekaj časa sodeloval z ministrstvom za obrambo in ima veliko drugih pogodb z vlado, ki jih je uporabil. To ni bil problem.
Šele na teh specifičnih področjih, kjer si je vlada prizadevala razširiti pogodbo, ki jo je imela, je višje vodstvo Anthropic začelo govoriti: "Počakajte, zagotoviti moramo, da ne prestopimo teh rdečih črt, ki bi lahko škodovale našemu ugledu premišljenega in varnega ponudnika umetne inteligence."
Na kratko vas želim vprašati o nadzoru na splošno in še posebej o Anthropicovi četrti spremembi. Četrti amandma pravi, da vas vlada ne more nerazumno preiskati. Najboljši način za razumevanje četrtega amandmaja je poslušanje pesmi Jay-Z-ja "99 problemov". Torej, če si morate vzeti odmor in poslušati »99 Problems«, je to super. Vse je tam notri. Poslušal sem ga, ko sem bil na pravni šoli, in bilo je popolnoma logično.
Toda vlada običajno potrebuje nalog za vašo preiskavo. In ker vse več vašega življenja poteka na spletu, je pri tem veliko in veliko izjem. Toda ideja je, da bi še vedno potrebovali nalog na spletu. Argument podjetja Anthropic je: "No, umetna inteligenca se ne bo nikoli naveličala. Ves čas lahko išče vse. To pomeni, da bomo samo izvajali glavni nadzor."
Še preden se je pojavila umetna inteligenca, je obstajala zamisel, da lahko vlada preišče vse, kar je tvoje, zamisel, da vlada ne potrebuje naloga za preiskavo vseh tvojih stvari. Ideja, da če bi kateri od vaših podatkov kdaj za kratek trenutek šel izven države, bi jih vlada tam prestregla,
Ko sem bil na kolidžu, v času domoljubnega zakona, je bila razprava o tem, da ne bodo iskali vaših dejanskih podatkov, lahko pa dobijo metapodatke in samo metapodatke. Podatki o vaših podatkih bodo dovolj, da vas bomo v vsakem trenutku natančno locirali. In tudi to je predaleč. In mi smo plesali, kaj lahko vlada zbere? Kaj je dopustno? Kaj potrebujejo, da nas vse varujejo in kaj je predaleč? Te vrstice so se premaknile.
Torej samo na kratko opišite splošno zaskrbljenost glede nadzora v obsegu in kje smo zdaj. Preden je situacija z umetno inteligenco vse eksponentno zakomplicirala.
Tukaj moram predstaviti še en koncept, ki bi ga verjetno morali omeniti prej, vendar je pomemben, ki se imenuje "doktrina tretjih oseb". Zamisel četrtega amandmaja je, da vlada ne more preiskati vas ali vaših stvari brez naloga in ne more dobiti naloga brez verjetnega razloga, da ste storili kakšno kaznivo dejanje. Obstaja pa koncept, ki se je pojavil pred desetletji in se imenuje doktrina tretjih oseb, ki pravi, da to ne velja nujno ali sploh ne velja za stvari, ki niso vaše, tudi če so to vaši podatki.
Najzgodnejša in najbolj očitna različica tega so bili telefonski zapisi, ki jih je imelo telefonsko podjetje o tem, koga ste klicali. Telefonska podjetja niso snemala vaših klicev, vendar so snemala, če bi vas poklical, bi bil zapis v telefonskem podjetju, ki pravi: "Mike kliče Nilaya." Več sodišč je odločilo, da lahko vlada to zahteva in za to ne potrebujejo naloga, ker ne gre za preiskavovaših podatkov, je to tretja oseba in lahko se kot tretja oseba strinjajo, da te podatke preprosto predajo.
Toda to so bili primeri iz šestdesetih in sedemdesetih let, ko je bilo ugotovljeno, da lahko vlada dobi dostop do tega brez naloga, ko ni bilo toliko podatkov tretjih oseb. Razcvet računalnikov in interneta je to spremenil. Zdaj so vse podatki tretjih oseb. Vse, kar počnemo, nekje zbira neko podjetje in ima o tem evidenco. Torej v bistvu vse podatke o vas, kje ste, s kom govorite, s kom komunicirate, kaj govorite, kaj počnete, vse to danes večinoma hranijo tretje osebe. Torej je doktrina tretjih oseb do neke mere pogoltnila celoten četrti amandma, kjer je vse, kar je o vas in ima nekdo drug, veliko nižji standard za to, kaj lahko vlada stori, da to zahteva.
Če sem natančen, to pomeni, da se lahko vlada, ko so moji podatki v iCloudu, obrne na Apple in pridobi moje podatke iz iClouda, ne da bi mi kdaj povedala?
Lahko zahtevajo. Z lahkoto ga lahko zahtevajo brez naloga. Potem ima podjetje svoje pravice in lahko določi, kaj želi narediti s to zahtevo. Lahko se mu preprosto odrečejo. Lahko, kot jih večina stori, če gre za resno zahtevo, takoj zavrnejo zahteve ali pa vas opozorijo in rečejo – in to bo storila večina – vas bodo opozorili in rekli: "Vlada zahteva nekaj vaših podatkov. Lahko greš na sodišče in jih poskušaš blokirati." Če ne, bodo vaše podatke predali čez sedem dni ali karkoli že bo.
Spet odvisno. Če gre za kazensko preiskavo, potem morda obstaja nekakšen ukaz za zapiranje, ki vam ga podjetje ne sme povedati. Situacij je najrazličnejših, vendar večina od njih vključuje manjšo raven zaščite, kot bi jo zahteval četrti amandma, če bi šlo za podatke ali kakršne koli informacije ali karkoli v vašem domu.
Količina podatkov, ki jih imate na strežniku v oblaku nekoga drugega, je ogromna, kajne? Vsaka stvar, ki jo običajno počnete v internetu, je na nek način varnostno kopirana ali na nek način zabeležena na strežnikih nekoga drugega. Vlada je našla ta način, da se izogne četrtemu amandmaju in reče: "No, to pravzaprav ni tvoje. Pripada Amazonu. Lahko se pogovorimo z Amazonom," in Amazon mora stati sredi tega procesa in reči: "Izumili smo drug postopek, da nekoliko zaščitimo ljudi."
Gledam to – in ko sem pokrival prve primere doktrine tretjih oseb, ki so zajemale storitve v oblaku in je vlada vedno znova zmagovala, sem se v bistvu spremenil v Jokerja. Rekel sem si: "Vse te stvari, o katerih se pretvarjamo o tekstovizmu in preprostem [branju], nič od tega ne pomeni ničesar, ker samo konjske moči do zadnjih vrat uporabljamo ta starodavni zakon v podatke vseh."
In potem pogledam to in pogledam Anthropic in rečem: "No, to je isti vzorec." To je zasebno podjetje, ki pravi: "V redu, razumemo vaše stališče. Zavedamo se, da ste zakon na novo razlagali tako, da pomeni to stvar, in med vas, naše orodje in podatke Američanov, ki tečejo prek naše storitve, bomo uvedli nekaj postopka." Zanima me, ali vidite to vzporednico med Anthropic in Amazon ter Azure in vsemi drugimi storitvami v oblaku, ki hranijo toliko naših podatkov.
Ja, čeprav je tu nekaj pomembnih pojasnil, zaradi katerih je to nekoliko drugačno. In pravzaprav – mislim, da je The New York Times prvi poročal o tem – je bila glavna klavzula, ki je bila za Anthropic najpomembnejša, posebej o podatkih, zbranih iz komercialnih storitev, in o nezmožnosti uporabe Clauda na teh podatkih, kar je natanko ta težava v smislu podatkov tretjih oseb. Vendar želim razjasniti glavno razliko med tem, o čemer smo pravkar govorili pred tem, z Amazonom ali drugimi tretjimi osebami, ki gostijo vaše podatke, to so bili primeri, ko so zaradi tega, kje v ekosistemu sedijo, neposredno gostili vaše podatke.
Pri Claudu ne gre za to, da bi koga skrbelo, da bo NSA pregledala vašo uporabo Clauda. Gre za to, da odidejo ven in pridobijo podatke tretjih oseb od Amazona ali bolj verjetno neke vrste zahrbtnih, skritih posrednikov podatkov, ki prikazujejo oglase na vaših telefonih in poznajo vašo lokacijo, vaša zanimanja in podobne stvari. In potem to vnesemo v sistemda bi Claude nato delal. To je tisto, česar Anthropic res ni hotel sodelovati. Ne glede na to, kje ali kakor koli bi vlada zbirala te podatke od tretje osebe, je Anthropic dejal: "Ne želimo, da se naše orodje uporablja za te podatke."
Apple se je znano zoperstavil FBI-ju, ki ga je prosil, naj v iPhone postavi stranska vrata, in Apple je rekel "ne", in uprli so se Trumpu. Obstaja del delovanja našega sistema, v katerem velika zasebna podjetja rečejo "ne" vladi v imenu svojih strank. In to se je zdelo na enak način, kot da Apple spet ne bo zaprl iPhona ali da veliki ponudniki oblakov pravijo: "Obstaja majhen del postopka, skozi katerega morate skočiti, preden dobite posamezne podatke."
Tukaj se zdi, kot da Anthropic pravi: "Ne bomo samo naredili množične analize podatkov, ki ste jih pridobili od drugih strank, ker to vodi do 24/7 množičnega nadzora Američanov, in tega ne želimo storiti." Vendar se zdi, da je to most predaleč za to upravo. Ali se kaj vrne iz tega?
Bomo videli. V preteklosti, ko se je to zgodilo - in to se je zgodilo velikokrat z večino velikih tehnoloških podjetij, so na neki točki rekli, da je nekaj most predaleč - običajno gre to na sodišče. Podjetja bodo šla na sodišče ali uprava bo šla na sodišče in prišlo bo do neke vrste sodne bitke.
Zadnja vrata v iPhone so odličen primer tega. Šlo je na sodišče in borili so se, čeprav nikoli niso povsem prišli do zaključka, ker je FBI nazadnje le ročno vdrl v iPhone in nato ni želel, da sodna odločba to uniči v prihodnosti.
Toda v tem primeru, kjer je eskalacija in kjer se to razlikuje od tistih preteklih situacij, je, da je Trumpova administracija namesto da bi samo šla na sodišče, naredila to oznako "tveganje dobavne verige", kar je preprosto noro. Ta zamisel, da bi to orodje, ki je bilo zasnovano za preprečevanje morebitnih tujih zlonamernih akterjev pri dobavi tehnologije, ki bi lahko nato v večji tehnološki sklop vključila skrita orodja za nadzor, ki bi jih lahko prepovedali. Uporabiti to za podjetje s sedežem v ZDA, ker ima v bistvu politiko etike, je videti kot resnična, resnična zloraba tega orodja.
Tudi to orodje je bilo na nek način vprašljivo, vendar bi lahko razumeli zagon za njim, ko govorite o kitajskem mrežnem podjetju ali čem v tem smislu. Tukaj nima smisla. Odziv na to tako daleč presega tisto, kar bi običajno videli v tem primeru. Lahko bi videli, da bi tradicionalno obstajala nekakšna sodna zadeva in katera koli stran bi jo lahko začela in bila bi le bitka o tem, kako bi se lahko pogodba uporabila.
Ampak tukaj se ne dogaja to. Ta uprava dejansko pravi: "Če nam ne daste absolutno vsega, kar želimo, če svojih orodij ne nastavite tako, da delujejo tako, kot želimo, potem bomo dejansko poskušali uničiti vaše celotno podjetje." In to je stopnjevanje.
Obstaja en del tega, s katerim želim končati, in to je nekako najbolj galaktična različica tega. FIRE, ki je skupina zagovornikov svobode govora, je tik preden smo začeli snemati objavila objavo na spletnem dnevniku, v kateri trdi, da je prisiljevanje Anthropica v izdelavo orodij, ki jih ne želi izdelati, kršitev svobode govora, da gre za nekaj, kar se imenuje prisilni govor. Tukaj je veliko zgodovine. Tu je nekaj globoke zgodovine Verge in Techdirt, in-the-weeds, eksistencialne krize.
Toda v bistvu gre za idejo, da je koda govor, da je pisanje kode za računalnik oblika govora in vas vlada ne more prisiliti, da to storite, in iz tega izhaja cel kup stvari. Se strinjate s tem argumentom, da je prisiljevanje Anthropica v izdelavo orodij, ki jih ne želi zgraditi, izsiljen govor?
Ja, dejansko mislim, da je dokaj prepričljivo. Privlačni prisilni govor. Ampak ne, mislim, da je to zanimiv argument. To je tisto, ki je bilo malo nižje na seznamu vprašanj, o katerih sem razmišljal. Očitno sem bil večinoma bolj osredotočen na vprašanja četrtega amandmaja, vendar mislim, da argument FIRE ni napačen. To smo videli v drugih kontekstih. Pojavilo se je tudi pri vprašanju zakulisnih vrat, v smislu poskusa vgradnje zakulisnih vrat v šifrirane sisteme.
Podjetja so vsekakor prvaSprememba trdi, da nas prisili govor, da napišemo takšno kodo. To je veljaven argument. Morda bi bila spet tista, ki se je sodišča verjetno manj pripravljena lotiti na začetku, če se lahko s temi vprašanji ukvarjajo na drug način. Vendar sem vesel, da je FIRE objavil to objavo in mislim, da je zanimiv in prepričljiv argument.
Ja, narava druge Trumpove administracije je takšna, da je tako topo orodje, da je skoraj gotovo, da bomo napadli vsa vprašanja naenkrat.
Da, vsako spremembo zakona o pravicah je treba v takšni ali drugačni obliki izpodbijati z vsemi možnimi vprašanji.
[Smeh] Zavrtite kolo.
Prepričan sem, da lahko tu nekje umestimo kršitev tretjega amandmaja.
Seveda, ja. Claude mora zdaj živeti v tvoji hiši. Točno tako. Super bo. Delamo [amandmaje] ena, tri, štiri in sedem. Nabiramo jih.
Mike, to je bilo super. Ne morem verjeti, da še nisi bil v oddaji. To je bilo super. Kmalu moraš priti nazaj.
Vsekakor. Kadarkoli me želiš.
Imate vprašanja ali komentarje o tej epizodi? Pišite nam na decoder@theverge.com. Res preberemo vsako elektronsko pošto!
