Ma az Anthropic, a Claude készítőjének zűrzavaros, gyorsan változó helyzetéről beszélünk, amely most egy nagyon csúnya jogi csatában találja magát a Pentagonnal.
Az oda-vissza út bonyolult, de néhány nappal ezelőtt a Pentagon az Anthropicot az ellátási lánc kockázatának tekintette, és az Anthropic pert indított a kijelölés ellen, mondván, hogy a kormány megsértette az első és ötödik módosításhoz fűződő jogait, amikor „a világ egyik leggyorsabban növekvő magánvállalata által létrehozott gazdasági értéket akarta megsemmisíteni”. Már most elmondhatom: az elkövetkező hónapokban a The Verge-en és a Decoderen fogunk beszélni ennek az ügynek a fordulatairól.
De ma szerettem volna szánni egy pillanatot, és igazán beleásni magam ennek a helyzetnek egy nagyon fontos elemébe, amely nem kapott kellő figyelmet, mivel ez kikerült az irányítás alól: hogyan végzi az Egyesült Államok kormánya a megfigyelést, a törvényes felhatalmazást, amely lehetővé teszi a megfigyelést, és miért volt bizalmatlan az Anthropic a kormányzattal szemben, mondván, hogy követni fogja a törvényt, amikor mesterséges intelligencia felhasználásáról van szó még nagyobb felügyeletre.
Feliratkozók, ne felejtsd el, hogy exkluzív hozzáférést kapsz a reklámmentes Dekóderhez, bárhol is szerezd be podcastjaidat. Irány ide. Nem előfizető? Itt tudsz jelentkezni.
Mai vendégem Mike Masnick, a Techdirt, a kiváló és régóta működő technológiapolitikai webhely alapítója és vezérigazgatója. Mike évtizedek óta ír a kormányzati túlkapásokról, a magánélet védelméről a digitális korban és más kapcsolódó témákról. Szakértője annak, hogyan nőtt fel az internet és a megfigyelő állam egymáshoz kapcsolódó módon.
Tudja, a törvény szerint a kormány megteheti, ha felügyel bennünket, és az, amit a kormány tenni akar. És ami a legfontosabb, ott van az, amit a kormány szerint a törvény szerint megtehet, ami gyakran pontosan az ellenkezője annak, amit minden normális ember, aki egyszerűen elolvassa a törvényt, gondolná.
Hallani fogja, amint Mike nagyon részletesen elmagyarázza itt ebben az epizódban, hogy nem tudjuk – és nem is szabad – szavát fogadnunk az Egyesült Államok kormányának, ha megfigyelésről van szó. Túl sok múltja van annak, hogy a kormányzati jogászok olyan egyszerű szavak értelmezését csavarják ki, mint a „cél” a megfigyelés bonyolult módon történő kiterjesztése érdekében – olyan módokon, amelyek általában csak jogi körökben keltenek aggodalmat, és csak akkor buborékolnak fel, amikor hatalmas viták vannak, mint például a bejelentő Ed Snowden, az NSA több mint egy évtizeddel ezelőtti fő kinyilatkoztatásai.
De nincs semmi finom vagy kifinomult a döntéshozatalban a Trump-korszakban – és így az Anthropic esetében is nagyon hangos, nagyon nyilvános vitát folytatunk a technológiáról és a felügyeletről valós időben, az interneten, a blogbejegyzésekben és az X rikácsolásokban, valamint a sajtókonferenciák hangharapásán. Ennek vannak pozitívumai és negatívumai, de ahhoz, hogy megértsük az egészet, valóban ismerni kell a történelmet.
Mike és én ezt akartuk elmagyarázni ebben az epizódban – bármi legyen is a nézete az AI-ról és a kormányzatról, ez az epizód világossá teszi, hogy mindkét fél hagyta, hogy a felügyeleti állapot idővel egyre nagyobb és nagyobb legyen. Most az eddigi legnagyobb terjeszkedés küszöbén állunk, ami az AI-t illeti.
Oké: Mike Masnick, a Techdirt alapítója és vezérigazgatója az Anthropicról, a Pentagonról és a mesterséges intelligencia megfigyeléséről. tessék.
Ezt az interjút enyhén szerkesztettük a terjedelem és az egyértelműség kedvéért.
Mike Masnick, Ön a Techdirt alapítója és vezérigazgatója. Üdvözöljük a Dekóderben.
Örülök, hogy itt lehetek.
Izgatott vagyok, hogy itt vagy. Csak azt mondtam, meg vagyok döbbenve, hogy még soha nem szerepeltél a műsorban. Te és én már régóta írunk és posztolunk egymás körül. A The Verge politika jelentős része annak köszönhető, amit a Techdirtnél tett, és ami az Anthropicnál történik, olyan bonyolult, de olyan sok témát érint, amelyekkel oly régóta foglalkozik. Örülök, hogy végre itt vagy.
Bonyolult témája ez, de izgatott vagyok, hogy belemélyedhetek.
Nem arra szeretnék veled foglalkozni, hogy az Anthropic aláír-e szerződést a kormánnyal, vagy hogy az OpenAI megkapja-e ezt a szerződést. Ehelyett biztos vagyok benne, hogy a felvételünk és az emberek meghallgatása között több tweet lesz, és több minden más lesz, mint korábban.
Amire szeretnék összpontosítani, az csak az egyik a két piros vonal közül, amelyet az Anthropic valóban felállított. Az egyik azautonóm fegyverek, ami a saját bonyolultsági szintje. Az ottani törvény egy kicsit még születőben van, függetlenül attól, hogy a fegyverek egyáltalán léteznek-e, vagy Oroszország már bevetette őket az ukrán háborúban.
Rengeteg ötlet van itt, amelyeket csak félre akarok tenni, mert úgy gondolom, hogy ez a saját ütemtervének megfelelően jobban fókuszba kerül. A másik piros vonal, amellyel sok időt szeretnék tölteni, a tömeges megfigyelés. És itt elég sok törvény szól a tömeges megfigyelésről. Sok történelem van, sok ellentmondásos történelem. Edward Snowden egész karaktere a tömeges megfigyelés körüli viták miatt létezik.
Minden a védelmi minisztérium részét képező Nemzetbiztonsági Ügynökségre (NSA) – azt hiszem, ön tette közzé –, amelyet valamiért most hadügyminisztériumnak kell neveznünk.
[nevet] Nem kell tennünk semmit.
[nevet] Mi nem. Ez igaz itt Amerikában. nem kell tennünk semmit. De az NSA alapvetően újradefiniálta, hogy mit jelent sok szó a köznyelvi angolból, és azt jelenti: „Csak felügyeletet tudunk végezni”. És olykor-olykor kitör a botrány, amikor az emberek rájönnek, hogy csak megfigyelést végeznek. Szóval csak állítsd be a terepet, és nem akarlak visszatekerni egészen, de elég sok idő telt el, amikor ez a minta megismétlődött.
Attól függ, milyen mélyre akarsz menni, de a rövid változat nyilvánvalóan a 9/11 utáni világban van, az USA elfogadta a Patriot Act-et, aminek volt némi képessége a kormány számára a megfigyelésbe, aminek az volt a célja, hogy megvédjen minket a jövőbeni terrorfenyegetésekkel szemben. Idővel ezt érdekes módon értelmezték, és ennek voltak bizonyos korlátai. Nálunk volt a FISA-bíróság is, amely egy speciális bíróság, amely a titkosszolgálatokat és azok tevékenységét hivatott felülvizsgálni, de hagyományosan egyoldalú bíróság. Csak az egyik fél nyújthat be ügyét a bíróság előtt, és mindez titokban történik.
Sok olyan dolog van, amit nem ismertek. És volt még egy darab ebben az egészben, ami egészen Ronald Reaganig nyúlik vissza, ez az 12333-as végrehajtói rendelet, amely állítólag a hírszerzési út szabályainak meghatározásáról szól.
Tehát megvan ez a három törvénycsomag – nos, néhány törvénycsomag – és egy végrehajtási rendelet, amely a nyilvánosság számára, azok a részek, amelyeket elolvashat, úgy tűnik, mond bizonyos dolgokat arról, hogy kormányunk és különösen az NSA mit tehet a megfigyelés terén. Ha egy sima angol szótárral olvassuk, amelynek természetét te és én valószínűleg ismerjük és megértjük, akkor azt a meggyőződést kapnánk, hogy az NSA képessége az amerikaiak megfigyelésére nagyon korlátozott volt, egészen addig a pontig, mint amennyire kellene, ha rájönnek, hogy egy amerikai személyt figyelnek meg, hogy azonnal le kell állítaniuk, és csúnya adatokat kell kiáltaniuk, és eltörölni az összes többi adatot.
Egy ideig pletykák keringtek arról, hogy ez nem igazán történik meg, és voltak utalások, és különösen Ron Wyden szenátor nagyon hangosan felment a Szenátus elé, és azt mondta: „Valami nem stimmel itt, és nem tudom pontosan megmondani, mi”, vagy a meghallgatások során megkérdezte a titkosszolgálati tisztviselőket: „Tömeges adatokat gyűjt vagy nem gyűjt az amerikaiakról?”
Ezek a tisztviselők vagy eltérnek, vagy bizonyos esetekben egyenesen hazudnak. Azt hiszem, ez egy 2012-es meghallgatás volt James Clapperrel, aki akkoriban a Nemzeti Hírszerzés igazgatója volt, és közvetlenül megkérdezték erről a kérdésről. És alapvetően azt mondta: "Nem, nem gyűjtünk adatokat amerikaiakról." Ez volt a nagy része annak, ami inspirálta Ed Snowdent, hogy kiszivárogtassa az adatokat, a jelentéseket, amelyeket Glenn Greenwaldnak, Barton Gellmannek és Laura Poitrasnak is kiszivárogtatott. Mindebből azt kezdtük felfedezni, hogy az NSA-nak van saját szótára, amely némileg eltér az általunk használt szótártól, így képesek a szavakat az egyszerű angol jelentéstől eltérő módon értelmezni, beleértve az olyan szavakat, mint a „target”, ami kulcsszónak tűnik. Ez azt jelenti, hogy elméletileg csak olyan embereket kell megcélozniuk, akik nem amerikaiak, szerintem ez a kifejezés.
De az idők során úgy értelmezték, hogy minden, ami megemlíti ezt a személyt, bármi, ami egy külföldi személyről szól, ma már tisztességes játék, még akkor is, ha ez egy személy közlése.amerikai személy. Tehát ha te és én SMS-t küldenénk egymásnak, és megemlítenénk egy külföldi személyt, az most tisztességes játék az NSA számára, hogy begyűjtse, megőrizze és tárolja.
Ennek van egy második része is. Említettem először Ronald Reagan 12333-as végrehajtási utasítását, amely a technológia idővel változott és az internet bővülésével gyakorlatilag lehetővé tette az NSA számára, hogy bekapcsolódjon a külföldi kommunikációba, de ez magában foglalta azokat a kommunikációkat is, amelyek valahol elhagyták az Egyesült Államokat. Tehát ha sms-t küldök neked, és egy üzenet érkezett tőlem Kaliforniából egy üvegszálas kábelen keresztül, amely történetesen elhagyta az Egyesült Államokat, akkor az NSA lecsaphat az alkatrészre, ha az az Egyesült Államokon kívül van, és összegyűjtheti ezt az információt, még akkor is, ha csak az Egyesült Államokon belül érkezik.
Az NSA ezután még akkor is megőrizheti ezeket az információkat, ha amerikai személyekről szól, és később konkrét kereséseket hajthat végre ezeken, amelyeket néha „hátsó ajtókeresésnek” neveznek. Összegyűjtötték ezeket az információkat, amelyekről úgy gondoljuk, hogy először nem kellett volna gyűjteniük, de megtarthatták. És megígérték, megesküdtek, hogy titokban tartják, de ha átkutatták, és azt találták, hogy te vagy én külföldi személyt említettünk, akkor hirtelen tisztességes játék volt, hogy azt csinálnak vele, amit akarnak.
Összességében ez egy olyan világgá változott, amelyben a szövetségi kormány alapvetően minden olyan információt gyűjthet, amely az Egyesült Államokon kívül történik. Még ha teljesen két amerikai személy között van is szó, ha megemlítenek vagy akár céloznak is valakit, aki nem amerikai állampolgár, hirtelen tisztességes játék, ha begyűjtik. És ebből megkaptuk az amerikai személyek tömeges megfigyelésének látszólagos formáját egy NSA által, amely azt állítja és nyilvánosan kijelenti, hogy nem kémkedik amerikai személyek után.
Hogyan jutottunk el idáig? Ez egy csomó lépésenkénti babalépés. Említetted James Clappert 2012-ben, ez az Obama-kormány. Említetted Ronald Reagant, ez az 1980-as évek. Itt a demokratákon és a republikánusokon megyünk keresztül.
A terror elleni háború a George W. Bush-kormányzatban zajlott, a 9/11 és a Patriot Act pedig a George W. Bush-kormányban. Nagyon sok rossz dolog van mindkét párt elnöke alatt, mindkét párt kongresszusa alatt. Hogyan történt ez?
Ennek a legegyszerűbb formája az, hogy senki, és természetesen egyetlen elnök sem akar elnök lenni abban az időben, amikor nagy terrortámadás történik, mert attól rosszul néznek ki. Nyilván az amerikaiakat is meg akarják védeni, nem? Ez a munkájuk része. Ha van egy titkosszolgálati közössége, amely alapvetően sötétben működik, mert ezt csinálják a titkosszolgálati közösségek, és folyamatosan azt mondják: "Hé, ha csak hozzáférnénk ezekhez az információkhoz, az nagyon hasznos lenne egy terrortámadás megelőzésében."
Előfordulhatnak olyan esetek, amikor ez igaz, hogy a hírszerző közösség képes ezeket az információkat jól működő módon felhasználni. De elméletben mi is a törvények társadalma vagyunk az Egyesült Államok alkotmányával, amelynek be kell tartanunk. De ez lehetővé tette azt a tényt, hogy az adminisztráció adminisztráció után, ismét republikánus és demokrata, voltak ügyvédei, akik nagyon okosak voltak, akik végignézték, és azt mondták: "Nos, ha így foglalunk állást, vagy így fogalmazunk, vagy így értelmezzük, akkor így megkaphatjuk, amit akarunk, és nem sértjük meg technikailag a törvényt, vagy technikailag nem sértjük meg a negyedik kiegészítést."
Mindig az volt a feltételezés, hogy „meghajlíthatjuk a törvényt, vagy elferdíthetjük a törvényértelmezésünket, és ezt valójában soha senki nem fogja látni, vagy senki, akit érdekel, nem fogja látni ezt soha, és ezért megússzuk.”
Két dolog van, ami nagyon bejön nekem. Egyrészt te és én is rengeteg bírósági határozatot olvasunk – fellebbviteli bírósági határozatokat és legfelsőbb bírósági határozatokat. A Legfelsőbb Bíróságunkon pedig harc folyik arról, hogyan kell szó szerint értelmezni az alapszabályunkban és törvényeinkben szereplő szavakat.
Nem megyek bele túlságosan, de általánosságban azt mondanám, hogy csak olvassa el az oldalon található szavakat, és tegye azt, amit mondanak, ez a törvényi értelmezés domináns formája az Egyesült Államokban. Bal vagy jobb, mindketten ezt mondják. Vitatkoznak néhány nagyon ezoterikus ponton, hogy mit is jelent ez valójában. De hogy képesnek kell lenned elolvasni ezeket a szavakat, és megtenni azt, amit mondanak, ez nem megfogható, igaz?
Megérkeztünk legalább az első lépéshez, amit lehettextualizmusnak nevezzük. Hogyan kerülhetnek el mindkét közigazgatás jogászai a hazánkban uralkodó jogi döntéshozatali módtól? Mindkét fél bírói egyetértenek abban, hogy ez legalább az első lépés.
Bárcsak tudnám a pontos választ, de szerintem ez motivált érvelés, igaz? Ügyvédként Ön azért van ott, hogy megvédje ügyfelét, és jogrendszerünk sikere – ha lehet ezt sikernek nevezni – általában azon a kontradiktórius helyzeten alapul, amelyben különböző felek vitatkoznak ezekről a dolgokról, ahol a bíró szerepe az, hogy beszűkítsen és kitalálja, melyik oldal a helyes.
Az egyik probléma a hírszerző közösséggel és annak felépítésével az, hogy nincs ilyen ellenséges helyzet. Ez megkönnyíti az egyik fél számára, hogy igazolja az általa felhozott érvet, mert senki sem kényszeríti vissza. Ön ezt kombinálja egy újabb terrortámadástól való átfogó félelemmel, bárminel, ami a nemzetbiztonsággal kapcsolatos, és még akkor is, ha vannak olyan helyzetek, amikor a FISA bírósága van – úgy értem, a FISA-bíróság valamennyire híres volt arról, hogy hosszú éveken át gyakorlatilag gumibélyegző volt.
Elfelejtettem a pontos számokat, de valami olyasmi volt, hogy a FISA-bírósághoz beérkezett kérelmek több mint 99 százaléka bizonyos helyzetek megfigyelése érdekében helyt adott, és könnyű azt mondani, hogy a 99 százalék nyilvánvalóan túl sok. Nyilván azok, akik keresetet nyújtanak be a bírósághoz, válogatnak. A legtöbb esetben nem hoznak teljesen őrült követeléseket. De ezen ellentétes szempont nélkül és egy nagyon erősen motivált embercsoporttal, akik azt gondolják: „Ezt kell tennünk”, vagy egy adminisztráció azt mondja nekik: „Ezt kell tennünk”, megtalálják a módját ennek. És ez az a hely, ahol idővel véget ér.
Részt vett valaki ebben a folyamatban, aki valaha is felébredt, és azt mondta magában: „Fiú, sikerült újradefiniálnunk a „cél” szót úgy, hogy bármit jelentsen, amit akarunk?
[Nevet] Nyilván volt Ed Snowden, aki kiszivárogtatott egy csomó dokumentumot. Ott volt John Napier Tye, aki 2014-ben írt egy darabot a The Washington Post számára, amely feltárta az 12333-as számú végrehajtói rendelet értelmezését, és azt mondta, hogy ez az igazi probléma, amire figyelni kell. Vannak más emberek is, akik felszólaltak ezekről a dolgokról, de többnyire azok, akik a közigazgatáson belül a titkosszolgálati közösség ügyeivel foglalkoznak, a hírszerző közösség szemében vannak, ami az, hogy a legfőbb cél az ország megvédése valami rossztól. Ennek legjobb módja, ha a lehető legtöbb információval rendelkezünk.
Könnyű megértőnek lenni azzal az érveléssel, hogy igen, több információ birtokában lehet, hogy korábban elkapnak valamit, vagy találnak valami fontosat, de lehet, hogy ez nem igaz. A túl sok információ megszerzése valószínűleg ugyanolyan rossz, mint a túl kevés információ, mert gyakran elrejti a ténylegesen hasznos információkat, azokat az információkat, amelyekre valójában szüksége van valami meghatározásához.
De emellett van egy amerikai egyesült államokbeli Mindenekelőtt az alkotmány, és megvannak az okaink, hogy elméletileg miért ne engedjük meg a tömeges megfigyelést valószínű ok nélkül. A jogállamiságban hívő országként képesnek kell lennünk ennek megfelelni, és amikor mindez a sötétben történik, hajlamos lesz ezt szem elől téveszteni.
Ezzel eljutok az Anthropichoz. Az Anthropic elsősorban vállalati társaság. Jók a kormányban, felépítették ezeket az izmokat, olyan emberek dolgoznak bennük, akik nagyon jól ismerik ezeket a dolgokat. Nyilvánvalóan Pete Hegsethre néztek, és azt mondta: „Minden törvényes felhasználást akarunk”, és két értelmezési szinttel lejjebb mentek, és azt mondták: „Nos, az Ön szó szerinti meggyőződése az, hogy ezek a szavak nem azt jelentik, amit az arcán jelentenek. Tehát a „minden jogszerű felhasználás” túl nagy, és szeretnénk néhány védőkorlátot helyezni, különösen a tömeges megfigyelés köré.
Ismét zárójelbe teszem az autonóm fegyvereket, ami a másik piros vonal volt, de különösen a tömeges megfigyelés kapcsán Dario Amodei azt mondja: "Túl sokat tehetünk. Ez túl veszélyes. Ez a negyedik módosítás megsértése."
A feszültség az, hogy „azt mondod, hogy be fogod tartani ezeket a törvényeket, amelyek egy dolgot mondanak, és most, ennyi idő után teljesen mást jelentenek, és egyszerűen nem akarunk részesei lenni ennek”. Ez azharc. Csak azt szeretném összehasonlítani Sam Altmannel, aki lecsap, és azt mondja: „Minden törvényes felhasználást meg fogunk tenni”, majd ezt a hosszú üzenetet úgy küldi el, hogy „Itt van az összes törvény, amelyet be fogunk tartani.”
Úgy tűnik, Altman nem tudta, hogy az NSA hogyan értelmezte újra ezeket a dolgokat, és egy körre vitték. És azóta elkezdett visszamenni – még a felvétel közben is biztos vagyok benne, hogy egyre több tweet érkezik, és mindenki álláspontja megváltozott. De Altman lassan visszasétált, de úgy tűnik, hogy az OpenAI-t belekötték abba, hogy az alapszabályt az arcukról olvassák, és elhiggyék, amit mondtak. Ez a te eseményértelmezésed is?
Két lehetőség van, és ez az egyik. Az egyik az, hogy ugyanúgy játszották, mint a közönséget sok éven át. Az alternatív elmélet, és fogalmam sincs, hogy ezek közül melyik az igaz, az az, hogy ő vagy az OpenAI néhány jogásza – akik szerintem nagyon kompetensek és nagyon jól tájékozottak – tudták ezt, de úgy gondolták, hogy ugyanazt a játékot játszhatják, amit az NSA játszott néhány évtizede, annyiban, hogy amíg kimondják ezeket, aztán kimondják a szavakat, de nem árulják el a tényleges értelmezést, hogy megúszhatnák. Tehát Sam kijelenti, hogy „Pontosan ugyanazok a piros vonalak voltak nálunk, mint az Anthropicnál, és a kormány nagyszerűen bánt vele.”
Valójában azt hiszem, Sam Altman azt mondta, hogy az Anthropicnak két piros vonala van, az OpenAI-nak pedig három, és a kormány teljesen rendben volt vele, és emiatt sokan kapkodták a fejüket. De szerintem vagy annak kell lennie, hogy Sam Altman és bárki, aki körülvette, nem értette, hogyan működnek ezek a dolgok a gyakorlatban, vagy igen, és csak azt feltételezték, hogy a közvélemény nem fogja tudni, és ezért megúszhatják.
A másik dolog, ami eszembe jut – ismét az AI új, és annyira csábító az új technológiák alkalmazása, mivel ezek az első benyomás problémái. „Soha senkinek nem kellett még ezen gondolkodnia”, de a valóság az, hogy mindenki régóta gondolkodik ezen. Talán az újdonság itt nem a mesterséges intelligencia, hanem az, hogy a második Trump-adminisztráció ahelyett, hogy egy csomó ügyvédet végezne, amit talán soha senki nem fog felolvasni, hogy igazolja tettét egy titkos bíróság előtt, amelyre senki sem figyel, ehelyett nem olyan finom.
Nem olyan kifinomultak, és csak azt mondják, hogy állandóan mindenki után kémkedni fognak. Csak úgy bejelentették a szándékaikat, hogy talán minden adminisztrációnak csak be kellene jelentenie a szándékát, és látnia kellene, hova esik a zseton.
De azt nézem, hogy itt volt Ed Snowden New Yorkban. Az AT&T egy olyan épületet üzemeltet, amelyről mindenki tudja, hogy az NSA épülete. Ez csak egy óriási épület, és úgy kell tennünk, mintha nem az NSA megfigyelőközpontja lenne, de ott van. Ez hatalmas. Úgy tűnik, hogy ebből semmi sem lett. Mindezeket a kinyilatkoztatásokat, ezeket a kiszivárogtatásokat nem utasítottuk el.
Valójában ez csak nőtt, mivel életünk nagy része egyre inkább digitálissá vált. És lehet, hogy a Trump-adminisztráció mindig is olyan tompa eszköz volt, hogy valójában ez okozza a számítást. Egyébként látod, hogy ez működik?
Van néhány különböző dolog, és nem teljesen igaz, hogy egyáltalán nem hátráltunk meg ettől a dologtól. Snowden kinyilatkoztatásai bizonyos változásokhoz vezettek abban, ahogy ezek a dolgok történnek. És most vannak – elfelejtettem, hogy hívják őket, de olyanok, mint ezek a civil amicus emberek a FISA-bíróságon belül, akik bizonyos kérdésekben a másik oldalt képviselik.
És láttuk, hogy egyes hatóságok bizonyos szempontból korlátozva vannak, és gyakran felmerülnek újraengedélyezéssel, és az aktivisták nagyon agresszívan léptek vissza, és megpróbáltak még néhány védőkorlátot felhúzni. De a nagyobb kérdéshez azt hiszem, két különböző dologról van szó. Abban félig igazad van, hogy ez az adminisztráció nem finom, és csak azt mondja ki hangosan, amit nem kellene.
"Háborúban állunk Iránnal, csináljuk, ez történik. Meg sem próbáljuk a táncot."
Olyan módon, amit az összes korábbi adminisztráció nem tenne meg. De nem igazán mondták ezt közvetlenülmegfigyelés, különösen az amerikaiak megfigyelése. Voltak utalások rá, de nem jöttek ki ilyen határozottan. A másik fele inkább az Anthropic pozicionálásához és az AI-ról alkotott általános nézethez kapcsolódik, mint ez a lehetséges egzisztenciális technológia, ahol az Anthropic mindig is úgy mutatkozott be, mint „Mi vagyunk a megfontolt jófiúk”, és hogy ezt elhiszi-e vagy sem, az a lényeg mellett szól. Nekik ez a hírneve van odakint: „Megpróbáljuk ezt úgy tenni, hogy biztonságos legyen, tiszteljük az emberiséget, és odafigyelünk mindezekre a dolgokra.” És így amikor ez az összecsapás van, ott jön a küzdelem.
Van egy Trump-adminisztrációja, amely csak azt akarja, hogy bármit meg tudjon tenni, és ezt nem finomkodják. Aztán ott van az Anthropic, akinek önleírása és nyilvános személyisége mindig így hangzik: „Megfontoltak vagyunk, és tiszteletben tartjuk az emberiséget és a jogokat, és mindezeket a dolgokat.” Valószínűleg innen jött az összecsapás, mert az Anthropic, amint világossá vált, egy ideje együtt dolgozik a védelmi minisztériummal, és sok más szerződése is van a kormánnyal, amelyeket felhasznált. nem okozott gondot.
Csak ezeken a konkrét területeken történt, ahol a kormány a szerződés kiterjesztésére törekedett, és az Anthropic felső vezetése ezt mondta: „Várjunk csak, meg kell győződnünk arról, hogy nem lépjük át ezeket a piros vonalakat, amelyek potenciálisan ártanak a jó hírnevünknek, mint a megfontolt, biztonságos AI-szolgáltatónak.”
Röviden szeretném megkérdezni a megfigyelésről általában, és különösen az Anthropic negyedik módosításával kapcsolatban. A negyedik módosítás azt mondja, hogy a kormány nem kereshet Önt indokolatlanul. A negyedik kiegészítés megértésének legjobb módja, ha meghallgatja Jay-Z „99 Problems” című művét. Szóval, ha szünetet kell tartanod, és meghallgatnod a „99 Problems”-t, az nagyszerű. Minden benne van. Hallgattam, amikor a jogi egyetemen voltam, és teljesen logikus volt.
De a kormánynak általában parancsra van szüksége, hogy átkutassa. És ahogy az életed egyre nagyobb része megy online, sok-sok kivétel van ez alól. De az ötlet az, hogy továbbra is szükségük van egy online parancsra. Az Anthropic érvelése a következő: "Nos, az AI soha nem fog elfáradni. Folyamatosan mindent át tud kutatni. Ez azt jelenti, hogy csak mesterfelügyeletet fogunk végezni."
Még az MI megjelenése előtt is ott volt az ötlet, hogy a kormány átkutathat mindent, ami az Öné, és az ötlet, hogy a kormánynak nincs szüksége parancsra, hogy átkutassa az összes holmiját. Az az elképzelés, hogy ha az Ön adatai egy rövid másodpercre az országon kívülre kerültek, a kormány ott elfogta,
Amikor főiskolás voltam, a Patriot Act idején, az volt a vita, hogy nem fognak keresni a tényleges adataidban, de meg tudják szerezni a metaadatokat és a metaadatokat egyedül. Az adataira vonatkozó adatok elegendőek lesznek ahhoz, hogy mindig pontosan meg lehessen határozni Önt. És még ez is túl messze van. És ezt táncoltuk, hogy mit gyűjthet a kormány? Mi a megengedett? Mire van szükségük mindannyiunk biztonságához, és mi van túl messze? Ezek a sorok elköltöztek.
Tehát csak röviden írja le a megfigyeléssel kapcsolatos általános aggodalmakat, és azt, hogy hol tartunk most. Mielőtt az AI helyzet mindent exponenciálisan bonyolultabbá tett.
Itt be kell vezetnem egy másik fogalmat, amelyet valószínűleg korábban kellett volna megemlíteni, de ez fontos, amelyet „harmadik fél doktrínájának” neveznek. A negyedik kiegészítés gondolata az, hogy a kormány nem kutathatja át Önt vagy dolgait elfogatóparancs nélkül, és nem kaphat elfogatóparancsot olyan valószínű ok nélkül, hogy Ön valamilyen bűncselekményt követett el. De van ez a koncepció, amely évtizedekkel ezelőtt megjelent, az úgynevezett harmadik fél doktrínája, amely szerint ez nem feltétlenül vonatkozik, vagy egyáltalán nem vonatkozik olyan dolgokra, amelyek nem a tiéd, még akkor is, ha az Ön adatai.
Ennek a legkorábbi és legnyilvánvalóbb változata a telefontársaság telefonkönyvei voltak arról, akit hívott. A telefontársaságok nem rögzítették a hívásaidat, de ha felhívlak, akkor a telefontársaságnál lesz egy felvétel, amelyen ez állt: „Mike felhívja Nilayt”. És amit több bíróság megállapított, az az volt, hogy a kormány elmehet és kérhet ilyet, és ehhez nincs szükségük végzésre, mert ez nem házkutatás.az Ön adatait, ez a harmadik fél, és harmadik félként beleegyezhetnek abba, hogy csak átadják ezeket az adatokat.
De ezek az 1960-as és 70-es évekből származó esetek voltak, amikor megállapították, hogy a kormány engedély nélkül hozzáférhet ehhez, amikor nem volt túl sok harmadik féltől származó adat. A számítógépek és az internet térnyerése megváltoztatta ezt. Most minden harmadik féltől származó adat. Mindent, amit csinálunk, valahol egy cég gyűjt össze, és van róla nyilvántartás. Tehát alapvetően minden adatot rólad, hol vagy, kivel beszélsz, kivel lépsz kapcsolatba, mit mondasz, mit csinálsz – mindezt manapság nagyjából harmadik felek birtokolják. Tehát a harmadik fél doktrínája bizonyos mértékig lenyelte a teljes negyedik kiegészítést, ahol bármi, ami Önről szól, és valaki másnak megvan, sokkal alacsonyabb színvonalú, hogy a kormány mit tehet annak kérésére.
Csak hogy pontos legyek, ez azt jelenti, hogy amikor az adataim az iCloudban vannak, a kormány anélkül fordulhat az Apple-hez, hogy kivehesse az adataimat az iCloudból anélkül, hogy ezt megmondaná?
Kérhetik. Könnyedén kérhetik jogosítvány nélkül. Ezután a cégnek megvannak a saját jogai, és eldöntheti, hogy mit akar tenni ezzel a kéréssel. Egyszerűen feladhatják. A legtöbbjükhez hasonlóan, ha komoly kérésről van szó, azonnal visszautasíthatják a kéréseket, vagy figyelmeztethetnek, és azt mondhatják – és a legtöbben ezt fogják tenni –, hogy figyelmeztetnek, és azt mondják: „A kormány bekéri az Ön adatait. Bírósághoz fordulhat, és megpróbálhatja letiltani őket.” Ha nem, akkor hét napon belül átadják az adatait, vagy bármi is legyen az.
Megint attól függ. Ha bűnügyi nyomozásról van szó, akkor lehet, hogy van valamiféle geg-rendelet, ahol a cég nem mondhatja meg. Mindenféle helyzet létezik, de ezek többsége alacsonyabb szintű védelmet jelent, mint amit a negyedik módosítás megkövetelne, ha adatról, információról vagy bármiről lenne szó a saját otthonában.
Hatalmas adatmennyiség van valaki más felhőszerverén, igaz? Minden egyes dolog, amit általában az interneten tesz most, valamilyen módon biztonsági mentésre kerül, vagy valamilyen módon rögzítésre kerül valaki más szerverein. A kormány megtalálta a módját, hogy megkerülje a negyedik kiegészítést, és azt mondja: "Nos, ez valójában nem a tiéd. Az Amazonhoz tartozik. Mehetünk beszélni az Amazonnal", és az Amazonnak a folyamat közepén kell állnia, és azt kell mondania: "Kitaláltunk egy másik eljárást, hogy valamelyest megvédjük az embereket."
Ezt nézem – és amikor az első, harmadik féltől származó doktrína-esetekkel foglalkoztam, amelyek a felhőszolgáltatásokra vonatkoztak, és a kormány folyamatosan nyert, akkor alapvetően akkor váltam be a Jokerbe. Úgy voltam vele, hogy „ezek a dolgok, amiket a textualizmusról és a sima [olvasásról] színlelünk, ezek egyike sem jelent semmit, mert csak lóerővel jutunk el a hátsó ajtóig, és ezt az ősi törvényt használjuk mindenki adataiba.”
Aztán ránézek erre, az Anthropicra, és azt mondom: „Nos, ez ugyanaz a minta.” Ez egy magáncég azt mondja: "Rendben, megértjük az álláspontját. Megértjük, hogy újraértelmezte a törvényt úgy, hogy ezt a dolgot értse, és valamilyen folyamatot fogunk helyezni Ön, az eszközünk és a szolgáltatásunkon keresztül áramló amerikaiak adatai közé." Csak arra vagyok kíváncsi, hogy látja-e ezt a párhuzamot ott, az Anthropic és az Amazon és az Azure között, és bármely más létező felhőszolgáltatás között, amelyek annyi adatot tárolnak.
Igen, bár van néhány fontos pontosítás, amelyek ezt egy kicsit mássá teszik. Valójában – azt hiszem, a The New York Times számolt be először erről – a fő záradék, amely az Anthropic számára a legfontosabb volt, kifejezetten a kereskedelmi szolgáltatásoktól gyűjtött adatokról szólt, és arról, hogy nem lehetett Claude-ot felhasználni ezekre az adatokra, ami a harmadik féltől származó adatok tekintetében pontosan ez a probléma. De szeretném tisztázni a fő különbséget aközött, amiről azelőtt beszéltünk az Amazonnal vagy más, az Ön adatait tároló harmadik felekkel, ezek voltak az esetek, amikor ők voltak, mivel az ökoszisztémában hol helyezkednek el, közvetlenül az Ön adatait tárolták.
Claude esetében nem arról van szó, hogy bárki is aggódna amiatt, hogy az NSA átnézi a Claude-használatot. Arról van szó, hogy kimennek, és harmadik féltől származó adatokat kapnak az Amazontól, vagy valószínűleg azoktól a sunyi, rejtett adatközvetítőktől, akik hirdetéseket jelenítenek meg az Ön telefonjain, és ismerik az Ön tartózkodási helyét, érdeklődési körét és hasonlókat. Aztán ezt betáplálni egy rendszerbehogy Claude majd azon dolgozik. Ez az, aminek az Anthropic nem igazán akart részese lenni. Tehát bárhol vagy bármilyen módon gyűjti a kormány ezeket az adatokat egy harmadik féltől, az Anthropic azt mondta: „Nem akarjuk, hogy az eszközünket ezeken az adatokon használjuk.”
Az Apple híresen kiáll az FBI-val szemben, amely arra kéri, hogy tegyen egy hátsó ajtót az iPhone-ba, az Apple pedig „nem”-et mond, és kiállnak Trump ellen. És van a rendszerünk működésének egy része, amelyben a nagy magáncégek „nem”-et mondanak a kormánynak ügyfeleik nevében. És ez ugyanúgy érződött, mint ahogy az Apple sem helyezi háttérbe az iPhone-t, vagy a nagy felhőszolgáltatók azt mondják: „Van egy kis folyamat, amelyet át kell ugrani, mielőtt megkapja az egyedi adatokat.”
Itt úgy tűnik, hogy az Anthropic azt mondja: „Nem csak tömeges elemzést fogunk végezni azon adatokon, amelyeket más felektől szerzett meg, mert ez az amerikaiak 24 órás tömeges megfigyeléséhez vezet, és ezt nem akarjuk megtenni.” Ez azonban túl távoli hídnak tűnik a kormányzat számára. Van ebből valami visszatérés?
majd meglátjuk. A múltban, amikor ez megtörtént – és ez sokszor megtörtént a legtöbb nagy technológiai vállalatnál, valamikor azt mondták, hogy valami túl messze van –, ahol ez általában megtörtént, az a bíróság volt. A cégek bírósághoz fordulnak, vagy az adminisztráció bírósághoz fordul, és lesz valamiféle bírósági csata.
Az iPhone hátsó ajtója tökéletes példa erre. Bíróságra került, és kiharcolták, bár soha nem jutottak egészen a végkifejletig, mert az FBI végül csak manuálisan tört be az iPhone-ba, és nem akarta, hogy a bírósági ítélet ezt tönkretegye a jövőben.
De ebben az esetben, ahol az eszkaláció van, és ahol ez különbözik a korábbi helyzetektől, az az, hogy ahelyett, hogy csak bírósághoz fordultak volna, a Trump-adminisztráció ezt az „ellátási lánc kockázatát” jelölte meg, ami egyszerűen őrült. Ez az ötlet, hogy ezt az eszközt, amelyet arra terveztek, hogy megakadályozza a potenciális külföldi rosszindulatú szereplők technológiát, amelyek aztán rejtett megfigyelő eszközöket helyezhetnek el a nagyobb technológiai halmazba, be lehetne tiltani. Ha ezt egy egyesült államokbeli székhelyű vállalatra alkalmazni alapvetően etikai politikája miatt, az az eszköz valódi, valós visszaélése.
Még ez az eszköz is megkérdőjelezhető volt bizonyos szempontból, de megértheti a mögötte rejlő lendületet, ha egy kínai hálózatépítő cégről vagy ilyesmiről beszélünk. Itt ennek semmi értelme. Tehát az erre adott reakció messze meghaladja azt, amit ebben az esetben általában látni lehetne. Hagyományosan látni lehetett, hogy lesz valamilyen bírósági per, és bármelyik fél elindíthatja azt, és csak a szerződés alkalmazásának módjáról folyik a csata.
De itt nem ez történik. Ez az adminisztráció gyakorlatilag azt mondja: „Ha nem ad meg nekünk mindent, amit akarunk, ha nem úgy állítja be az eszközeit, hogy úgy működjenek, ahogy mi szeretnénk, akkor hatékonyan megpróbáljuk tönkretenni az egész üzletét.” És ez eszkaláció.
Van ennek egy darabja, amellyel szeretnék befejezni, és ez a leginkább galaxis-agy változata ennek. A FIRE, amely egy szólásszabadságot hirdető csoport, közzétett egy blogbejegyzést közvetlenül azelőtt, hogy elkezdtük volna rögzíteni, és azt az érvet hangoztatta, hogy az Anthropic olyan eszközök létrehozására kényszerítése, amelyeket nem akar megépíteni, a szólásszabadság megsértése, és ez az úgynevezett kényszerített beszéd. Itt sok a történelem. Van itt némi mély Verge és Techdirt, in-the-weed, egzisztenciális válságtörténet.
De ez alapvetően abból adódik, hogy a kód beszéd, a kód írása a számítógépre a beszéd egy formája, és a kormány nem kényszeríthet rá, és ebből egy csomó dolog folyik. Megveszed ezt az érvet, miszerint az Anthropicot olyan eszközök megépítésére kényszeríteni, amelyeket nem akar építeni, kényszerbeszéd?
Igen, szerintem ez elég meggyőző. Lenyűgöző kényszerített beszéd. De nem, szerintem ez egy érdekes érv. Ez egy kicsit lejjebb volt azon problémák listáján, amelyeken gondolkodtam. Nyilvánvalóan leginkább a negyedik módosítás kérdéseire koncentráltam, de úgy gondolom, hogy a FIRE érvelése nem rossz. Ezt más összefüggésekben is láthattuk. A backdoor kérdésben is felmerült, ami azt illeti, hogy titkosított rendszerekbe próbáltak hátsó ajtókat építeni.
A cégek határozottan emeltek előszörA módosítás azt állítja, hogy „Kénytelen beszéd arra kényszeríteni, hogy ilyen kódot írjunk.” Ez egy érvényes érv. Lehetséges, hogy a bíróságok kezdetben valószínűleg kevésbé hajlandóak foglalkozni ezzel, ha más módon tudják kezelni ezeket a kérdéseket. De örülök, hogy a FIRE megtette ezt a bejegyzést, és szerintem ez egy érdekes és meggyőző érv.
Igen, a második Trump-adminisztrációnak éppen az a természete, hogy annyira tompa eszköz, szinte biztos, hogy egyszerre támadjuk meg az összes kérdést.
Igen, minden Bill of Rights módosítást valamilyen formában meg kell támadni minden lehetséges kérdéssel.
[Nevet] Forgassa meg a kereket.
Biztos vagyok benne, hogy a harmadik kiegészítés megsértését el tudjuk helyezni valahol.
Persze, igen. Claude-nak most a házadban kell laknia. Pontosan. nagyszerű lesz. Egy, harmadik, négy és hetedik [módosítást] végzünk. Összerakjuk őket.
Mike, ez nagyszerű volt. Nem hiszem el, hogy még nem voltál a műsorban. Ez nagyszerű volt. Hamarosan vissza kell jönnie.
Teljesen. Amikor csak akarsz.
Kérdése vagy megjegyzése van ezzel az epizóddal kapcsolatban? Keressen minket a decoder@theverge.com címen. Tényleg minden e-mailt elolvasunk!
