Sot po flasim për situatën e çrregullt dhe të shpejtë në Anthropic, krijuesi i Claude që tani e gjen veten në një betejë shumë të shëmtuar ligjore me Pentagonin.
Kthimi dhe kthimi është i ndërlikuar, por që disa ditë më parë, Pentagoni e kishte konsideruar Anthropic një rrezik të zinxhirit të furnizimit dhe Anthropic ka ngritur një padi duke sfiduar atë emërtim, duke thënë se qeveria ka shkelur të drejtat e saj të Amendamentit të Parë dhe të Pestë duke "kërkuar të shkatërrojë vlerën ekonomike të krijuar nga një prej kompanive private me rritje më të shpejtë në botë". Mund t'ju them tani: Ne do të flasim për kthesat dhe kthesat e atij rasti në The Verge dhe këtu në Decoder në muajt në vijim.
Por sot doja të merrja një moment dhe të gërmoj këtu me të vërtetë një element shumë të rëndësishëm të kësaj situate që nuk i është kushtuar mjaftueshëm vëmendje pasi kjo ka dalë jashtë kontrollit: si qeveria e Shteteve të Bashkuara bën mbikëqyrjen, autoriteti ligjor që lejon që kjo mbikëqyrje të ndodhë dhe pse Anthropic ishte mosbesues ndaj qeverisë duke thënë se do të ndiqte ligjin kur bëhet fjalë për përdorimin e AI për të bërë edhe më shumë mbikëqyrje.
Abonentë të afërt, mos harroni se keni akses ekskluziv në Dekoderin pa reklama kudo që merrni podkastet tuaja. Drejtohuni këtu. Nuk jeni abonent? Ju mund të regjistroheni këtu.
I ftuari im sot është Mike Masnick, themeluesi dhe CEO i Techdirt, uebsajti i shkëlqyer dhe afatgjatë i politikave teknologjike. Mike ka shkruar për tejkalimin e qeverisë, privatësinë në epokën dixhitale dhe tema të tjera të lidhura me dekada tani. Ai është një ekspert se si interneti dhe shteti i mbikëqyrjes janë rritur në mënyra të ndërlidhura.
E shihni, ja çfarë thotë ligji se qeveria mund të bëjë kur vjen puna për të na survejuar, dhe më pas çfarë dëshiron të bëjë qeveria. Dhe më e rëndësishmja, është ajo që qeveria thotë se ligji thotë se mund të bëjë, gjë që shpesh është pikërisht e kundërta e asaj që çdo person normal që thjesht lexon ligjin do të mendonte.
Ju do të dëgjoni Majk të shpjegojë me shumë detaje këtu në këtë episod se ne nuk mund - dhe nuk duhet - ta marrim fjalën e qeverisë amerikane kur bëhet fjalë për mbikëqyrjen. Ka shumë histori të avokatëve të qeverisë që shtrembërojnë interpretimet e fjalëve të thjeshta si "objektivi" për të zgjeruar mbikëqyrjen në mënyra të ndërlikuara – mënyra që zakonisht shkaktojnë vetëm shqetësim në qarqet ligjore dhe vetëm kur ka polemika të mëdha si zbulimet kryesore të NSA-së të informatorit Ed Snowden më shumë se një dekadë më parë.
Por nuk ka asgjë delikate apo të sofistikuar në lidhje me politikëbërjen në epokën e Trump – dhe kështu me Anthropic, ne po kemi një debat shumë të zhurmshëm, shumë publik rreth teknologjisë dhe mbikëqyrjes në kohë reale, në internet, në postimet në blog dhe xhirime, dhe mbi kafshimet e tingujve të konferencave për shtyp. Ka pozitive dhe negative në këtë, por për t'i kuptuar të gjitha, duhet të dini vërtet historinë.
Kjo është ajo që Majk dhe unë kemi vendosur të shpjegojmë në këtë episod – pavarësisht nga pikëpamjet tuaja për AI dhe qeverinë, ky episod do ta bëjë të qartë se të dyja palët kanë lënë që gjendja e mbikëqyrjes të bëhet gjithnjë e më e madhe me kalimin e kohës. Tani, ne jemi në majë të zgjerimit më të madh ende kur bëhet fjalë për AI.
Në rregull: Themeluesi dhe CEO i Techdirt, Mike Masnick në Anthropic, Pentagon dhe mbikëqyrjen e AI. Ja ku po shkojmë.
Kjo intervistë është redaktuar lehtë për gjatësi dhe qartësi.
Mike Masnick, ju jeni themeluesi dhe CEO i Techdirt. Mirë se vini në Dekoder.
Jam i lumtur që jam këtu.
Jam i emocionuar që ju kam. Thjesht po thoja se jam i shokuar që nuk ke qenë kurrë më parë në shfaqje. Ju dhe unë kemi shkruar dhe postuar rreth njëri-tjetrit për një kohë të gjatë. Një pjesë e madhe e mbulimit të politikave të The Verge i detyrohet asaj që keni bërë në Techdirt dhe më pas ajo që po ndodh me Anthropic është kaq e ndërlikuar, por godet kaq shumë tema që keni mbuluar për kaq shumë kohë. Më vjen mirë që më në fund je këtu.
Është një rrëmujë e ndërlikuar e një teme, por jam i emocionuar që po e gërmoj.
Ajo që dua të fokusohem me ju nuk janë detajet nëse Anthropic do të nënshkruajë një kontratë me qeverinë ose nëse OpenAI do ta marrë atë kontratë. Në vend të kësaj, jam i bindur mes kohës që e regjistrojmë këtë dhe kohës kur njerëzit e dëgjojnë atë, do të ketë pasur më shumë cicërima dhe më shumë gjëra do të jenë ndryshe nga sa ishin më parë.
Ajo në të cilën dua të fokusohem është vetëm një nga dy vijat e kuqe që Anthropic ka vendosur vërtet. Një prej tyre ështëarmë autonome, që është niveli i saj i ndërlikimit. Ligji atje është pak më i ri, pavarësisht nëse armët ekzistojnë apo nuk janë vendosur tashmë nga Rusia në Luftën e Ukrainës.
Ka shumë ide këtu që unë thjesht dua t'i lë mënjanë sepse mendoj se do të fokusohet më shumë në orarin e vet. Vija tjetër e kuqe për të cilën dua të kaloj shumë kohë është mbikëqyrja masive. Dhe këtu ka shumë ligj për mbikëqyrjen masive. Ka shumë histori, shumë histori të diskutueshme. I gjithë personazhi i Edward Snowden ekziston për shkak të polemikave rreth mbikëqyrjes masive.
Gjithçka varet nga - mendoj se ju jeni ai që e postoi këtë - Agjencia e Sigurisë Kombëtare (NSA), e cila është pjesë e Departamentit të Mbrojtjes, të cilën ne duhet ta quajmë Departamenti i Luftës tani për disa arsye.
[Qesh] Nuk kemi pse të bëjmë asgjë.
[Qesh] Ne jo. Kjo është e vërtetë këtu në Amerikë. Ne nuk duhet të bëjmë asgjë. Por NSA në thelb ka ripërcaktuar kuptimin e shumë fjalëve nga anglishtja bisedore në kuptimin "Ne thjesht mund të bëjmë mbikëqyrje". Dhe pastaj shpesh ndodh një skandal kur njerëzit zbulojnë se ata thjesht po bëjnë mbikëqyrje. Pra, thjesht vendosni skenën atje, dhe nuk dua t'ju kthej mbrapsht gjatë gjithë rrugës, por ka qenë shumë kohë kur ky model është përsëritur.
Varet nga sa thellë dëshironi të shkoni, por versioni i shkurtër është padyshim në botën e pas 11 shtatorit, SHBA miratoi Aktin Patriot, i cili kishte njëfarë aftësie për qeverinë për t'u përfshirë në mbikëqyrje, e cila supozohej të ishte për të na mbrojtur nga kërcënimet e ardhshme terroriste. Me kalimin e kohës, kjo u interpretua në mënyra interesante dhe kishte disa kufizime për këtë. Kishim edhe gjykatën FISA, e cila është një gjykatë speciale që duhet të shqyrtojë komunitetin e inteligjencës dhe veprimtarinë e tyre, por tradicionalisht ka qenë një gjykatë e njëanshme. Vetëm njëra palë mund të paraqesë çështjen e saj në atë gjykatë dhe gjithçka bëhet në fshehtësi.
Ka shumë gjëra që nuk diheshin. Dhe pastaj kishte një pjesë tjetër në të gjithë këtë, e cila shkon deri në Ronald Reagan, që është Urdhri Ekzekutiv 12333, i cili supozohet se ka të bëjë me përcaktimin e rregullave të rrugës për mbledhjen e inteligjencës.
Pra, ju keni këto tre grupe ligjesh - mirë, disa grupe ligjesh - dhe një urdhër ekzekutiv që për publikun, pjesët që mund të lexoni, duket se thonë gjëra të caktuara për atë që qeveria jonë dhe NSA në veçanti mund të bëjnë për sa i përket mbikëqyrjes. Kur lexohet me një fjalor të thjeshtë në anglisht, natyrën e të cilit ju dhe unë me siguri e kemi dhe e kuptojmë, do të dilnim me një besim se aftësia e NSA-së për të vëzhguar amerikanët ishte shumë e kufizuar, në fakt deri në atë pikë sa supozohej ta bënin, nëse kuptojnë se po vëzhgojnë një person amerikan, se duhet të ndalojnë menjëherë dhe të qajnë të ndyra dhe të fshijnë të dhënat e tjera.
Kishte thashetheme për njëfarë kohe se kjo nuk po ndodhte në të vërtetë dhe kishte aludime dhe në veçanti senatori Ron Uajden ishte shumë i zëshëm për të shkuar në foltoren e Senatit dhe duke thënë: "Diçka nuk është në rregull këtu dhe nuk mund t'ju them plotësisht se çfarë," ose në seancat dëgjimore ai do t'i pyeste zyrtarët e inteligjencës, "A jeni apo nuk po mbledhni të dhëna masive për amerikanët?"
Ata zyrtarë ose do të shmangnin ose në disa raste do të gënjejnë plotësisht. Besoj se ishte një seancë në vitin 2012 me James Clapper, i cili ishte Drejtori i Inteligjencës Kombëtare në atë kohë, ku u pyet drejtpërdrejt për këtë pikë. Dhe ai në thelb tha: "Jo, ne nuk mbledhim të dhëna për amerikanët." Kjo ishte një pjesë e madhe e asaj që e frymëzoi Ed Snowden të nxirrte të dhënat, raportet që ai zbuloi te Glenn Greenwald dhe Barton Gellman dhe Laura Poitras gjithashtu. Nga e gjithë kjo, ajo që filluam të zbulonim ishte se NSA ka fjalorin e vet që është disi i ndryshëm nga fjalori që përdorim ju dhe unë, në mënyrë që ata mund të interpretojnë fjalë në mënyra që janë të ndryshme nga kuptimi i thjeshtë në anglisht i tyre, duke përfshirë fjalë si "objektivi", që duket si një fjalë kyçe. Një kuptim i gjerë i asaj që është kjo është se, në teori, ata duhet të synojnë vetëm njerëz që nuk janë persona amerikanë, mendoj se është fraza.
Por mënyra se si u interpretua me kalimin e kohës ishte se çdo gjë që përmend atë person, çdo gjë që ka të bëjë me një person të huaj tani është lojë e ndershme, edhe nëse kjo është komunikimi i njëperson amerikan. Pra, nëse ju dhe unë do t'i dërgonim mesazhe njëri-tjetrit dhe do të përmendnim një person të huaj, kjo është një lojë e drejtë që NSA-ja ta mbledhë, ta mbajë dhe ta ruajë.
Ka një pjesë të dytë të kësaj. Unë përmenda Urdhrin e parë Ekzekutiv 12333 nga Ronald Reagan, i cili, ndërsa teknologjia ndryshoi me kalimin e kohës dhe interneti u rrit, në mënyrë efektive lejoi NSA-në të përdorte komunikimet e huaja, por që përfshinte çdo komunikim që mund të ketë lënë SHBA-në në rrugë diku. Pra, nëse po ju dërgoj mesazhe dhe një mesazh erdhi nga unë në Kaliforni përmes një kablloje me fibra optike që ndodhi të largohej nga SHBA-ja, NSA mund të vendoste një trokitje e lehtë në atë pjesë pasi të jetë jashtë SHBA-së dhe ta mbledhë atë informacion, edhe nëse do t'ju shkonte vetëm brenda SHBA-së.
Më pas, NSA mund ta mbante atë informacion edhe nëse ishte për personat amerikanë, dhe ata mund të bënin kërkime specifike për këtë më vonë, të referuara ndonjëherë si "kërkime në prapavijë". Ata mblodhën këtë informacion që ne besojmë se nuk duhej ta mblidhnin në fillim, por ata mund ta mbanin atë. Dhe ata premtuan, u betuan pinky, se do ta mbanin private, por nëse bënin një kërkim dhe gjenin që ju ose unë përmendëm një person të huaj, atëherë befas ishte lojë e drejtë që ata të bënin çfarë të donin me të.
Në total, kjo është kthyer në një botë në të cilën qeveria federale në thelb mund të mbledhë çdo informacion që ndodh të prekë jashtë SHBA-së. Edhe nëse është tërësisht mes dy personave amerikanë, nëse përmendin apo edhe lënë të kuptohet dikë që nuk është person amerikan, befas është një lojë e ndershme për t'u mbledhur. Dhe nga kjo ne kemi marrë atë që duket të jetë një formë e mbikëqyrjes masive të personave amerikanë nga një NSA që pretendon dhe deklaron publikisht se nuk spiunon personat amerikanë.
Si arritëm në këtë pikë? Këto janë shumë hapa rritës të foshnjës. Ju përmendët James Clapper në 2012, kjo është administrata e Obamës. Ju përmendët Ronald Reagan-in, këto janë vitet 1980. Këtu po kalojmë përmes demokratëve dhe republikanëve.
Lufta kundër terrorit ndodhi në administratën e Xhorxh W. Bush, dhe 11 shtatori dhe Akti Patriot ndodhi në administratën e Xhorxh W. Bush. Ka shumë të këqija në rritje nën kryetarët e të dyja partive, nën kongreset e të dyja partive. Si ndodhi kjo?
Forma më e thjeshtë e saj është se askush, dhe sigurisht asnjë president, nuk dëshiron të jetë president gjatë kohës kur ka një sulm të madh terrorist, sepse kjo i bën ata të duken keq. Natyrisht, ata gjithashtu duan të mbrojnë amerikanët, apo jo? Kjo është pjesë e punës së tyre. Nëse keni një komunitet të inteligjencës që në thelb vepron në errësirë, sepse kjo është ajo që bëjnë komunitetet e inteligjencës dhe ata vazhdojnë të vijnë tek ju dhe të thonë, "Hej, nëse do të mund të kishim akses në këtë informacion, do të ishte vërtet e dobishme për të parandaluar një sulm terrorist."
Mund të ketë raste kur kjo është e vërtetë, që komuniteti i inteligjencës është në gjendje ta përdorë këtë informacion në një mënyrë që funksionon mirë. Por ne jemi gjithashtu, në teori, një shoqëri ligjesh me një Kushtetutë të SHBA-së, të cilës ne duhet t'i bindemi. Por kjo lejonte faktin që administrata pas administrate, përsëri, republikanë dhe demokratë, kishte avokatë që ishin shumë të zgjuar dhe të cilët do të shikonin dhe thoshin: "Epo, nëse ne pozicionohemi në këtë mënyrë ose shprehemi në këtë mënyrë ose interpretojmë këtë, në atë mënyrë mund të arrijmë atë që duam dhe të mos shkelim teknikisht ligjin ose të mos shkelim teknikisht Amendamentin e Katërt".
Supozimi ishte gjithmonë, "Ne mund të përkulim ligjin ose të përkulim interpretimin tonë të ligjit dhe askush nuk do ta shohë kurrë këtë, ose askush që kujdeset nuk do ta shohë me të vërtetë ndonjëherë këtë, dhe për këtë arsye ne do t'i shpëtojmë".
Janë dy gjëra që me të vërtetë më shqetësojnë. Një, ju dhe unë të dy lexuam shumë vendime gjykatash - vendime të gjykatës së apelit dhe vendime të Gjykatës së Lartë. Dhe ka një luftë në Gjykatën tonë të Lartë rreth asaj se si të interpretohen fjalë për fjalë fjalët në statutet dhe ligjet tona.
Nuk do të shkoj shumë larg, por në përgjithësi do të thosha idenë që thjesht duhet të lexoni fjalët në faqe dhe të bëni atë që ata thonë se është lloji dominues i interpretimit ligjor në Shtetet e Bashkuara. Majtas apo djathtas, e thonë të dy. Ata debatojnë rreth disa pikave të bukura shumë ezoterike se çfarë do të thotë kjo në të vërtetë. Por që thjesht duhet të jeni në gjendje t'i lexoni këto fjalë dhe të bëni atë që thonë ata, kjo nuk është e përshtatshme, apo jo?
Ne kemi arritur të paktën në atë kalimin e parë të asaj që mund të bëniquaj tekstualizëm. Si e largojnë kaq shumë avokatët e të dy administratave nga mënyra dominuese e vendimmarrjes ligjore në vendin tonë? Gjyqtarët e të dyja palëve pajtohen se ky është të paktën hapi i parë.
Do të doja ta dija përgjigjen e saktë, por mendoj se është arsyetim i motivuar, apo jo? Si avokat, ju jeni atje për të mbrojtur klientin tuaj dhe suksesi — nëse mund ta quani sukses — i sistemit tonë ligjor ka tendencë të bazohet në të paturit e një situate kundërshtuese ku keni palë të ndryshme që debatojnë për këto gjëra, ku roli i gjyqtarit është të kufizohet dhe të kuptojë se cila anë është në të vërtetë e saktë.
Një nga problemet me komunitetin e inteligjencës dhe organizimin e tij është se ju nuk e keni atë situatë kundërshtare. Kjo e bën më të lehtë për njërën palë të justifikojë argumentin që po bëjnë, sepse askush nuk po e shtyn me të vërtetë atë. Ju e kombinoni këtë me frikën gjithëpërfshirëse të një sulmi tjetër terrorist, çdo gjë që lidhet me sigurinë kombëtare, madje edhe kur keni situata ku keni gjykatën FISA - dua të them që gjykata FISA ishte disi e famshme për faktin se ishte një pullë gome për shumë vite.
I harroj shifrat e sakta, por ishte diçka si mbi 99 për qind e aplikimeve që shkuan në gjykatën e FISA-s për të lejuar mbikëqyrjen e situatave të caktuara u miratuan dhe është e lehtë të thuhet se 99 për qind është padyshim shumë. Natyrisht, ata që sjellin pretendime në gjykatë, ata po zgjedhin dhe zgjedhin. Ata, në pjesën më të madhe, nuk po sjellin pretendime krejtësisht të çmendura. Por pa atë aspekt kundërshtar dhe me një grup njerëzish të motivuar shumë të cilët mendojnë, "Ne duhet ta bëjmë këtë", ose që u thuhet nga një administratë, "Ne duhet ta bëjmë këtë", ata do të gjejnë mënyra për ta bërë atë. Dhe këtu përfundoni me kalimin e kohës.
A ka pasur ndonjë të përfshirë në këtë proces që është zgjuar ndonjëherë dhe ka thënë me vete: "Djalë, ne kemi arritur të ripërcaktojmë fjalën "objektiv" për të nënkuptuar gjithçka që duam"?
[Qesh] Natyrisht që kishit Ed Snowden, i cili zbuloi një mori dokumentesh. Ju kishit John Napier Tye, i cili shkroi një artikull për The Washington Post në 2014, i cili zbuloi interpretimin e Urdhrit Ekzekutiv 12333 dhe tha se kjo është çështja e vërtetë që duhet t'i kushtohet vëmendje. Ju keni njerëz të tjerë që kanë folur për këto gjëra, por në pjesën më të madhe, njerëzit që janë të përfshirë në punën brenda administratës për çështjet e komunitetit të inteligjencës janë blerë në këndvështrimin e komunitetit të inteligjencës, që është se qëllimi kryesor është mbrojtja e vendit nga diçka e keqe. Mënyra më e mirë për ta bërë këtë është të keni sa më shumë informacion që të jetë e mundur.
Është e lehtë të jesh simpatik ndaj argumentit se, po, të kesh më shumë informacion mund t'i lejojë ata të kapin diçka më herët ose të gjejnë diçka të rëndësishme, por, një, kjo mund të mos jetë e vërtetë. Marrja e shumë informacionit është ndoshta po aq e keqe sa informacioni i pakët, sepse shpesh mund të fshehë informacionin që është në të vërtetë i dobishëm, informacionin që ju nevojitet për të përcaktuar diçka.
Por gjithashtu, ne kemi një SHBA. Kushtetuta në radhë të parë dhe ne kemi arsye pse, teorikisht, nuk duhet të lejojmë mbikëqyrje masive pa një shkak të mundshëm. Si një vend që beson në shtetin e së drejtës, ne duhet të jemi në gjendje të jetojmë në përputhje me këtë, dhe kur të gjitha këto gjëra ndodhin në errësirë, ju do të prireni ta humbisni këtë.
Kjo më çon në Anthropic. Anthropic është kryesisht një kompani sipërmarrëse. Ata janë të mirë në qeveri, ata i kanë ndërtuar ato muskuj, ata janë të pajisur me njerëz që janë vërtet të përgatitur mirë në disa nga këto gjëra. Ata padyshim që shikuan Pete Hegseth duke thënë: "Ne duam të gjitha përdorimet e ligjshme" dhe ata zbritën dy nivele interpretimi dhe thanë: "Epo, besimi juaj i mirëfilltë është se këto fjalë nuk nënkuptojnë atë që thonë në fytyrën e tyre. Pra, "të gjitha përdorimet e ligjshme" janë shumë të mëdha dhe ne duam të vendosim disa parmakë veçanërisht rreth mbikëqyrjes masive."
Përsëri, unë do të vendos armët autonome, që ishte vija tjetër e kuqe, por veçanërisht për mbikëqyrjen masive, Dario Amodei është atje duke thënë: "Ne mund të bëjmë shumë. Kjo është shumë e rrezikshme. Kjo është një shkelje e Amendamentit të Katërt."
Tensioni atje është "ju po thoni se do të respektoni këto ligje që thonë një gjë dhe tani, pas gjithë kësaj kohe, ato nënkuptojnë diçka krejtësisht të ndryshme dhe ne thjesht nuk duam të jemi pjesë e kësaj." Kjo ështëluftojnë. Unë thjesht dua ta krahasoj atë me Sam Altman, i cili vjen për të thënë, "Ne do të bëjmë të gjitha përdorimet e ligjshme", dhe më pas poston këtë mesazh të gjatë duke thënë: "Këtu janë të gjitha ligjet me të cilat do të respektojmë".
Duket sikur Altman nuk e dinte se si NSA i kishte riinterpretuar këto gjëra dhe u mor për një xhiro. Dhe që atëherë ai ka filluar ta kthejë atë - edhe pse ne po regjistrojmë, jam i bindur se ka më shumë postime në Twitter dhe pozicionet e të gjithëve kanë ndryshuar. Por Altman e ka kthyer ngadalë, por duket sikur OpenAI u angazhua në leximin e statuteve në fytyrën e tyre dhe duke besuar atë që ata thanë. Ky është edhe interpretimi juaj i ngjarjeve?
Ka dy mundësi, dhe kjo është njëra prej tyre. Njëra është se ai u luajt në të njëjtën mënyrë që u luajt publiku për shumë vite. Teoria alternative, dhe nuk e kam idenë se cila nga këto është e vërtetë, është se ai ose disa nga avokatët në OpenAI – të cilët mendoj se janë shumë kompetentë dhe shumë të ditur – e dinin këtë, por menduan se ata mund të luanin të njëjtën lojë që luajti NSA për disa dekada, për aq kohë sa i thonë këto gjëra dhe pastaj i thonë fjalët, por nuk zbulojnë interpretimet aktuale, se ata gjithashtu mund të largohen. Kështu që Sam del me deklaratën që e bën të duket sikur "Ne kishim saktësisht të njëjtat vija të kuqe si Anthropic, dhe qeveria ishte e shkëlqyer me këtë."
Në fakt, mendoj se Sam Altman tha se Anthropic kishte dy vija të kuqe dhe OpenAI kishte tre, dhe qeveria ishte shumë mirë me të, dhe kjo bëri që shumë njerëz të kruanin kokat e tyre. Por unë mendoj se ose Sam Altman dhe kushdo që e rrethonte nuk e kuptuan se si funksionojnë këto gjëra në praktikë, ose ata e kuptuan, dhe thjesht supozuan se publiku nuk do ta dinte dhe për këtë arsye ata mund t'i shpëtonin.
Gjëja tjetër që ju vjen në mendje - përsëri, AI është e re dhe është kaq joshëse për të arritur tek teknologjitë e reja pasi këto janë probleme të përshtypjeve të para. "Askush nuk është dashur të mendojë për këtë më parë", por realiteti është që të gjithë kanë menduar për këtë për një kohë të gjatë. Ndoshta gjëja që është e re këtu nuk është inteligjenca artificiale, por që administrata e dytë e Trump, në vend që të bëjë një sërë avokatësh që ndoshta askush nuk do t'i lexojë kurrë për të justifikuar veprimet e tyre para një gjykate sekrete, së cilës askush nuk i kushton vëmendje, përkundrazi nuk është aq delikate.
Ata nuk janë aq të sofistikuar dhe thjesht po thonë se do të spiunojnë të gjithë gjatë gjithë kohës. Ata thjesht i shpallën qëllimet e tyre në një mënyrë që ndoshta të gjitha administratat thjesht duhet të shpallin qëllimet e tyre dhe të shohin se ku bien çipat.
Por unë po shikoj faktin se ishte Ed Snowden këtu në New York City. AT&T drejton një ndërtesë që të gjithë e dinë se është një ndërtesë NSA. Është thjesht një ndërtesë gjigante dhe ne duhet të pretendojmë se nuk është një qendër mbikëqyrjeje e NSA-së, por është pikërisht aty. është i madh. Asgjë nga këto duket se nuk ka arritur asgjë. Të gjitha këto zbulime, këto rrjedhje, ne nuk i kemi mbështetur.
Në fakt, është rritur vetëm pasi shumë nga jetët tona janë bërë gjithnjë e më dixhitale. Dhe ndoshta administrata Trump duke qenë një instrument kaq i hapur në çdo kohë, kjo mund të jetë në fakt gjëja që shkakton llogarinë. A e shihni atë duke luajtur gjithsesi?
Ka disa gjëra të ndryshme atje, dhe nuk është plotësisht e vërtetë që ne nuk e kemi tërhequr fare këtë gjë. Zbulimet nga Snowden çuan në disa ndryshime në mënyrën se si ndodhin këto gjëra. Dhe tani ka - harroj se si quhen, por ata janë si këta njerëz miqësorë civilë brenda gjykatës FISA që do të veprojnë si prezantimin e palës tjetër për çështje të caktuara.
Dhe ne kemi parë disa nga autoritetet të kufizuara në mënyra të caktuara, dhe ata paraqiten për riautorizim herë pas here, dhe aktivistët kanë qenë shumë agresivë në lidhje me shtyrjen dhe përpjekjen për të vendosur disa parmakë të tjerë. Por për pyetjen më të madhe, mendoj se ka dy gjëra të ndryshme. Ju keni gjysmë të drejtë që kjo administratë nuk është delikate dhe thjesht thotë me zë të lartë gjërat që nuk duhet.
"Ne jemi në luftë me Iranin, po e bëjmë atë, po ndodh. Ne nuk do ta provojmë as kërcimin."
Në mënyra që të gjitha administratat e mëparshme nuk do ta bënin. Por ata në të vërtetë nuk e kanë thënë këtë drejtpërdrejtsurvejimi, sidomos survejimi i amerikaneve. Ka pasur aludime për këtë, por ato nuk kanë dalë aq fort për këtë. Gjysma tjetër e saj ka të bëjë më shumë me pozicionimin e Anthropic dhe pikëpamjen e përgjithshme të AI si kjo teknologji ndoshta ekzistenciale, ku Anthropic është paraqitur gjithmonë si, "Ne jemi djemtë e mirë të zhytur në mendime" dhe nëse besoni apo jo se kjo është diçka përveçse e rëndësishme. Ata kanë këtë reputacion atje: "Ne po përpiqemi ta bëjmë këtë në një mënyrë që të jetë e sigurt, që respekton njerëzimin dhe po u kushton vëmendje të gjitha këtyre gjërave." Dhe kështu, kur keni atë përplasje, këtu hyn lufta.
Ju keni një administratë Trump që thjesht dëshiron të jetë në gjendje të bëjë gjithçka që dëshiron të jetë në gjendje të bëjë, dhe ata nuk janë delikate për këtë. Dhe pastaj ju keni Anthropic, përshkrimi i të cilit për veten dhe personaliteti i tij publik është gjithmonë si: "Ne jemi të zhytur në mendime dhe respektojmë njerëzimin dhe të drejtat dhe të gjitha këto gjëra". Me siguri këtu erdhi përplasja, sepse Anthropic, siç u bë e qartë, ka punuar me Departamentin e Mbrojtjes për një kohë dhe ka shumë kontrata të tjera me qeverinë që ka përdorur. Nuk ka qenë problem.
Vetëm në këto fusha specifike ku, ndërsa qeveria po kërkonte të zgjeronte kontratën që kishte, lidershipi i lartë i Anthropic filloi të thoshte: "Prisni, ne duhet të sigurohemi që të mos i kalojmë këto vija të kuqe që mund të dëmtojnë reputacionin tonë si ofrues i zhytur në mendime dhe i sigurt i AI".
Unë dua t'ju pyes shkurtimisht për mbikëqyrjen në përgjithësi, dhe në veçanti shqetësimin e Amendamentit të Katërt të Anthropic. Amendamenti i Katërt thotë se qeveria nuk mund t'ju kërkojë në mënyrë të paarsyeshme. Mënyra më e mirë për të kuptuar Amendamentin e Katërt është duke dëgjuar "99 Problemet" nga Jay-Z. Pra, nëse keni nevojë të bëni një pushim dhe të dëgjoni "99 Probleme", kjo është e mrekullueshme. Është e gjitha atje. E dëgjova kur isha në fakultetin juridik dhe kishte kuptim të përsosur.
Por qeveria në përgjithësi ka nevojë për një urdhër për t'ju kontrolluar. Dhe ndërsa gjithnjë e më shumë nga jeta juaj shkon në internet, ka shumë e shumë përjashtime nga kjo. Por ideja është se ata ende duhet të kenë nevojë për një urdhër në internet. Argumenti i Anthropic është: "Epo, AI nuk do të lodhet kurrë. Ajo mund të kërkojë gjithçka gjatë gjithë kohës. Kjo do të thotë se ne thjesht do të bëjmë mbikëqyrje master."
Megjithatë, edhe para se të shfaqej AI, ideja se qeveria mund të kërkonte gjithçka që ju përkiste ishte atje, ideja që qeverisë nuk kishte nevojë për një urdhër për të kërkuar të gjitha gjërat tuaja ishte atje. Ideja që nëse ndonjë nga të dhënat tuaja do të dilte ndonjëherë jashtë vendit për një sekondë të shkurtër, qeveria e përgjonte atë atje,
Kur isha në kolegj, rreth kohës së Aktit Patriot, debati ishte se ata nuk do të kërkojnë të dhënat tuaja aktuale, por ata mund të marrin vetëm metadatat dhe metadatat. Të dhënat për të dhënat tuaja do të jenë të mjaftueshme për t'ju gjetur me saktësi në çdo kohë. Dhe edhe kjo është shumë larg. Dhe ne kemi bërë këtë valle se çfarë mund të mbledhë qeveria? Çfarë është e lejuar? Çfarë kanë nevojë për të na mbajtur të gjithëve të sigurt dhe çfarë është shumë larg? Ato rreshta kanë lëvizur.
Pra, thjesht përshkruani shkurtimisht shqetësimin e përgjithësuar në lidhje me mbikëqyrjen në shkallë dhe ku jemi tani. Përpara se situata e AI e bënte gjithçka në mënyrë eksponenciale më të komplikuar.
Këtu më duhet të prezantoj një koncept tjetër që ndoshta duhet të ishte përmendur më herët, por është i rëndësishëm, i cili quhet "doktrina e palës së tretë". Ideja me Amendamentin e Katërt është që qeveria nuk mund t'ju kontrollojë ju ose gjërat tuaja pa një urdhër dhe nuk mund të marrë një urdhër pa ndonjë arsye të mundshme që ju keni kryer një lloj krimi. Por ekziston ky koncept që erdhi rreth dekada më parë i quajtur doktrina e palëve të treta, që thotë se kjo nuk zbatohet domosdoshmërisht, ose nuk zbatohet fare, për gjërat që nuk janë tuajat, edhe nëse janë të dhënat tuaja.
Versioni më i hershëm dhe më i dukshëm i kësaj ishin të dhënat telefonike që kishte kompania telefonike për atë se kush e telefonuat. Kompanitë telefonike nuk po regjistronin telefonatat tuaja, por po regjistronin nëse ju telefonoja, do të kishte një regjistrim në kompaninë telefonike që thotë: "Mike telefonon Nilay". Dhe ajo që ishte përcaktuar nga shumë gjykata ishte se qeveria mund të shkojë dhe ta kërkojë atë, dhe atyre nuk u nevojitet një urdhër për këtë, sepse nuk është një kërkim itë dhënat tuaja, është kjo palë e tretë dhe ata mund të bien dakord si palë e tretë që thjesht t'i dorëzojnë ato të dhëna.
Por këto ishin raste nga vitet 1960 dhe 70, ku u përcaktua se qeveria mund të ketë akses në të pa një urdhër, kur nuk kishte aq shumë të dhëna të palëve të treta atje. Rritja e kompjuterëve dhe e internetit e ndryshoi atë. Tani, gjithçka është të dhëna të palëve të treta. Çdo gjë që bëjmë ne është mbledhur nga ndonjë kompani diku dhe ka një regjistrim të saj. Pra, në thelb çdo pjesë e të dhënave rreth jush, ku jeni, me kë flisni, me kë ndërveproni, çfarë thoni, çfarë po bëni, të gjitha këto mbahen pak a shumë nga palët e treta këto ditë. Pra, doktrina e palës së tretë ka gëlltitur të gjithë Amendamentin e Katërt deri në një farë mase, ku çdo gjë që ka të bëjë me ju që ka dikush tjetër, ka një standard shumë më të ulët për atë që qeveria mund të bëjë për ta kërkuar atë.
Për të qenë specifik, kjo do të thotë se kur të dhënat e mia janë në iCloud, qeveria mund të shkojë te Apple dhe t'i nxjerrë të dhënat e mia nga iCloud pa më thënë ndonjëherë?
Ata mund ta kërkojnë atë. Ata mund ta kërkojnë lehtësisht pa një urdhër. Atëherë kompania ka të drejtat e veta dhe mund të përcaktojë se çfarë duan të bëjnë me atë kërkesë. Ata thjesht mund të heqin dorë. Ata mund, siç do të bëjnë shumica prej tyre, nëse është një kërkesë serioze, t'i refuzojnë kërkesat pa kontroll ose mund t'ju paralajmërojnë dhe mund të thonë - dhe kjo është ajo që do të bëjnë shumica prej tyre - do t'ju njoftojnë dhe do t'ju thonë: "Qeveria po kërkon disa nga të dhënat tuaja. Mund të shkoni në gjykatë dhe të përpiqeni t'i bllokoni." Nëse jo, ata do t'i dorëzojnë të dhënat tuaja brenda shtatë ditësh ose çfarëdo që mund të jetë.
Përsëri, varet. Nëse bëhet fjalë për një hetim penal, atëherë mund të ketë një lloj urdhri gadi ku kompania nuk lejohet t'ju tregojë. Ka të gjitha llojet e situatave, por shumica e tyre përfshijnë më pak se niveli i mbrojtjes që do të kërkonte Amendamenti i Katërt nëse do të ishin të dhëna ose ndonjë informacion ose ndonjë gjë në shtëpinë tuaj.
Sasia e të dhënave që keni në serverin cloud të dikujt tjetër është masive, apo jo? Çdo gjë e vetme që bëni në përgjithësi në internet tani është e kopjuar në një farë mënyre ose e regjistruar në një farë mënyre në serverët e dikujt tjetër. Qeveria e ka gjetur këtë mënyrë për të kapërcyer Amendamentin e Katërt dhe për të thënë: "Epo, në fakt nuk është i juaji. Ai i përket Amazon. Mund të shkojmë të flasim me Amazon", dhe Amazon duhet të qëndrojë në mes të këtij procesi dhe të thotë: "Ne kemi shpikur një proces tjetër për të mbrojtur disi njerëzit."
E shikoj këtë—dhe kur po mbuloja rastet e para të doktrinës së palëve të treta që mbulonin shërbimet cloud dhe qeveria vazhdoi të fitonte, atëherë në thelb u shndërrova në Xhoker. Unë thashë: "Të gjitha këto gjëra që ne po pretendojmë për tekstualizmin dhe [leximin] e thjeshtë, asnjë nga këto nuk do të thotë asgjë, sepse ne thjesht kalojmë kuaj-fuqi në derën e pasme duke përdorur këtë ligj të lashtë në të dhënat e të gjithëve."
Dhe pastaj shikoj këtë dhe shikoj Anthropic dhe them, "Epo, ky është i njëjti model." Kjo është një kompani private që thotë: "Mirë, ne e kuptojmë pozicionin tuaj. Ne e kuptojmë që ju e keni riinterpretuar ligjin për të nënkuptuar këtë gjë dhe ne do të vendosim një proces midis jush, mjetit tonë dhe të dhënave të amerikanëve që rrjedhin përmes shërbimit tonë." Thjesht po pyes veten nëse e shihni atë paralele atje, midis Anthropic dhe Amazon dhe Azure dhe çfarëdo shërbimi tjetër cloud që ekzistojnë që mbajnë kaq shumë nga të dhënat tona.
Po, megjithëse ka disa sqarime që janë të rëndësishme këtu që e bëjnë këtë pak më ndryshe. Dhe në fakt - mendoj se New York Times e kishte fillimisht këtë raportim - klauzola kryesore që ishte më e rëndësishmja për Anthropic ishte veçanërisht në lidhje me të dhënat e mbledhura nga shërbimet tregtare dhe pamundësinë për të përdorur Claude për ato të dhëna, që është pikërisht kjo çështje për sa i përket të dhënave të palëve të treta. Por unë dua të sqaroj ndryshimin kryesor midis asaj që sapo po flisnim më parë me Amazon ose palë të tjera të treta që strehonin të dhënat tuaja, ato ishin raste kur ata ishin, për shkak të vendit ku ndodheshin në ekosistem, ata po i prisnin të dhënat tuaja drejtpërdrejt.
Me Claude, nuk është se dikush shqetësohet që NSA të shikojë përdorimin tuaj të Claude. Bëhet fjalë për daljen e tyre dhe marrjen e të dhënave të palëve të treta nga Amazon ose më shumë gjasa të llojit të ndërmjetësve të fshehtë dhe të fshehtë të të dhënave që shërbejnë reklama në telefonat tuaj dhe njohin vendndodhjen tuaj, interesat tuaja dhe gjëra të tilla. Dhe pastaj duke e ushqyer atë në një sistemqë më pas do të punonte Klodi. Kjo është ajo që Anthropic me të vërtetë nuk donte të bëhej pjesë. Pra, kudo ose sido që qeveria do t'i mbledhë ato të dhëna nga një palë e tretë, Anthropic tha, "Ne nuk duam që mjeti ynë të përdoret për ato të dhëna."
Apple qëndron në mënyrë të famshme përballë FBI-së duke i kërkuar asaj të vendosë një derë të pasme në iPhone, dhe Apple thotë "jo" dhe ata qëndrojnë kundër Trump. Dhe ka një pjesë të mënyrës se si funksionon sistemi ynë në të cilin kompanitë e mëdha private mund t'i thonë "jo" qeverisë në emër të klientëve të tyre. Dhe kjo ndjehet në të njëjtën mënyrë që Apple, përsëri, nuk do ta vendosë atë në "backdoor" në iPhone, ose ofruesit e mëdhenj të cloud thonë: "Ka një proces të vogël që duhet të kaloni përpara se të merrni të dhënat individuale."
Këtu duket sikur Anthropic po thotë: "Ne nuk do të bëjmë vetëm analiza në masë të të dhënave që keni marrë nga palët e tjera, sepse kjo çon në mbikëqyrje masive 24/7 të amerikanëve, dhe ne nuk duam ta bëjmë këtë." Megjithatë kjo duket si një urë shumë larg për këtë administratë. A ka ndonjë kthim nga kjo?
do të shohim. Në të kaluarën, kur kjo ka ndodhur - dhe ka ndodhur shumë herë me shumicën e kompanive të mëdha të teknologjisë, në një moment ata kanë thënë se diçka është një urë shumë larg - aty ku normalisht shkon është gjykata. Kompanitë do të shkojnë në gjykatë ose administrata do të shkojë në gjykatë dhe do të ketë një lloj beteje gjyqësore.
Porta e pasme në iPhone është një shembull i përsosur i kësaj. Ajo shkoi në gjykatë dhe ata e luftuan atë, megjithëse ata kurrë nuk arritën plotësisht në një përfundim, sepse FBI-ja përfundimisht thjesht hyri manualisht në iPhone dhe më pas nuk donte që vendimi i gjykatës ta prishte atë në të ardhmen.
Por në këtë rast, ku është përshkallëzimi dhe ku kjo është e ndryshme nga ato situatat e kaluara, është se në vend që të shkojë thjesht në gjykatë, administrata Trump bëri këtë përcaktim "rreziku i zinxhirit të furnizimit", i cili është thjesht i çmendur. Kjo ide që ky mjet, i cili ishte krijuar për të ndaluar aktorët e huaj potencialë keqdashës nga furnizimi me teknologji, mund të vendoste më pas mjetet e mbikqyrjes së fshehur në grupin më të madh të teknologjisë, se ato mund të ndaloheshin. Për ta zbatuar atë për një kompani me bazë në SHBA, në thelb për të pasur një politikë etike, ndihet si një keqpërdorim i vërtetë dhe i vërtetë i atij mjeti.
Edhe ai mjet ishte i diskutueshëm në disa mënyra, por ju mund të kuptoni shtysën pas tij kur jeni duke folur për një firmë rrjeti kineze ose diçka në këtë drejtim. Këtu, nuk ka kuptim. Pra, reagimi ndaj kësaj shkon përtej asaj që do të shihej normalisht në këtë rast. Ju mund të shihnit se tradicionalisht do të kishte një lloj çështjeje gjyqësore dhe secila palë mund ta fillonte atë dhe do të ishte thjesht një betejë se si mund të zbatohej kontrata.
Por kjo nuk është ajo që po ndodh këtu. Kjo administratë po thotë në mënyrë efektive, "Nëse nuk na jepni absolutisht gjithçka që duam, nëse nuk i vendosni mjetet tuaja që të funksionojnë ashtu siç duam ne, atëherë ne do të përpiqemi efektivisht të shkatërrojmë të gjithë biznesin tuaj." Dhe ky është një përshkallëzim.
Është një pjesë e kësaj me të cilën dua të përfundoj, dhe është një lloj versioni më galaktik i kësaj. FIRE, i cili është një grup për mbrojtjen e fjalës së lirë, publikoi një postim në blog pak para se të fillonim regjistrimin duke argumentuar se detyrimi i Anthropic për të ndërtuar mjete që nuk dëshiron të ndërtojë është një shkelje e fjalës së lirë, se është diçka që quhet fjalim i detyruar. Këtu ka shumë histori. Këtu ka një histori të thellë Verge dhe Techdirt, në barërat e këqija, të krizës ekzistenciale.
Por në thelb ka të bëjë me idenë se kodi është fjalim, se shkrimi i kodit për një kompjuter është një formë e të folurit dhe qeveria nuk mund t'ju detyrojë ta bëni atë, dhe një mori gjërash rrjedhin nga kjo. A e blini këtë argument se detyrimi i Anthropic për të ndërtuar mjete që nuk dëshiron t'i ndërtojë është një fjalim i detyruar?
Po, në fakt mendoj se është mjaft bindëse. Fjalimi i detyruar bindës. Por jo, mendoj se është një argument interesant. Është ajo që kishte qenë pak më poshtë në listën e çështjeve për të cilat po mendoja. Padyshim që isha më shumë i fokusuar në çështjet e Amendamentit të Katërt, por mendoj se argumenti FIRE nuk është i gabuar. Këtë e kemi parë në kontekste të tjera. Ai doli edhe në çështjen e dyerve të pasme, për sa i përket përpjekjes për të ndërtuar dyer të pasme në sisteme të koduara.
Kompanitë u ngritën përfundimisht së pariAmendamenti pretendon, duke thënë, "Është fjalim i detyruar për të na detyruar të shkruajmë atë lloj kodi." Është një argument i vlefshëm. Mund të jetë, përsëri, një çështje që gjykatat janë ndoshta më pak të gatshme ta trajtojnë fillimisht nëse mund t'i trajtojnë këto çështje në një mënyrë tjetër. Por më vjen mirë që FIRE e bëri atë postim dhe mendoj se është një argument interesant dhe bindës.
Po, natyra e administratës së dytë Trump është se është një instrument kaq i hapur, është pothuajse e sigurt që do t'i sulmojmë të gjitha çështjet menjëherë.
Po, çdo ndryshim i Ligjit të të Drejtave duhet të kundërshtohet në një formë ose në një tjetër me çdo çështje të mundshme.
[Qesh] Rrotulloni timonin.
Jam i sigurt se mund të përshtatim një shkelje të Amendamentit të Tretë diku këtu.
Sigurisht, po. Klodi duhet të jetojë në shtëpinë tuaj tani. Pikërisht. Do të jetë e mrekullueshme. Ne po bëjmë [amendamentet] një, tre, katër dhe shtatë. Ne i grumbullojmë ato.
Majk, kjo ka qenë e mrekullueshme. Nuk mund ta besoj që nuk keni qenë në shfaqje më parë. Kjo ka qenë e mrekullueshme. Duhet të ktheheni së shpejti.
Absolutisht. Sa herë që të më duash.
Pyetje apo komente për këtë episod? Na kontaktoni në decoder@teverge.com. Ne vërtet lexojmë çdo email!
