Täna räägime räpasest ja kiiresti muutuvast olukorrast Anthropicis, Claude'i tegijas, mis on nüüd väga inetus juriidilises võitluses Pentagoniga.
Edasi-tagasi liikumine on keeruline, kuid veel paar päeva tagasi pidas Pentagon Anthropicut tarneahela riskiks ja Anthropic on esitanud selle määramise vaidlustamiseks kohtuasja, väites, et valitsus on rikkunud oma esimese ja viienda muudatuse õigusi, "püüdes hävitada ühe maailma kõige kiiremini kasvava eraettevõtte loodud majanduslikku väärtust". Võin teile kohe öelda: me räägime selle juhtumi keerdkäikudest The Verge'is ja siin Decoderis lähikuudel.
Kuid täna tahtsin võtta hetke ja süveneda siin selle olukorra ühele väga olulisele elemendile, millele pole piisavalt tähelepanu pööratud, kuna see on kontrolli alt väljunud: kuidas USA valitsus jälgib, milline on seaduslik võim, mis seda jälgimist lubab, ja miks Anthropic oli valitsuse suhtes umbusklik, öeldes, et järgib seadusi, kui tegemist on tehisintellekti kasutamisega veelgi suurema jälgimise teostamiseks.
Järjekordsed tellijad, ärge unustage, et saate igalt poolt taskuhäälingusaadete hankimise eksklusiivse juurdepääsu reklaamideta dekoodrile. Suundu siia. Kas te pole tellija? Registreeruda saad siin.
Minu tänane külaline on suurepärase ja pikaajalise tehnoloogiapoliitika veebisaidi Techdirt asutaja ja tegevjuht Mike Masnick. Mike on juba aastakümneid kirjutanud valitsuse liialdamisest, privaatsusest digiajastul ja muudel sellega seotud teemadel. Ta on ekspert selle kohta, kuidas Internet ja jälgimisriik on omavahel seotud viisil üles kasvanud.
Näete, seal on see, mida seadus ütleb, et valitsus võib meie jälgimisel teha, ja siis see, mida valitsus tahab teha. Ja mis kõige tähtsam, on see, mida valitsus ütleb, et ta võib teha, mis on sageli täpselt vastupidine sellele, mida iga normaalne inimene lihtsalt seadust lugedes arvab.
Kuulete, kuidas Mike selgitab siin selles osas väga üksikasjalikult, et me ei saa – ega peakski – jälgima USA valitsust oma sõna järgi. Ajalugu on lihtsalt liiga palju valitsuse juriste, kes on väänanud lihtsate sõnade nagu „sihtmärk” tõlgendusi, et laiendada järelevalvet keerukatel viisidel – viisidel, mis tavaliselt tekitavad muret vaid juriidilistes ringkondades ja muutuvad alles siis, kui on suuri vaidlusi, nagu vilepuhuja Ed Snowdeni peamised NSA paljastused rohkem kui kümme aastat tagasi.
Kuid Trumpi ajastu poliitikakujundamises pole midagi peent ega keerulist – ja nii Anthropicu puhul on meil väga vali ja väga avalik debatt tehnoloogia ja jälgimise üle reaalajas, Internetis, ajaveebipostitustes ja X-i räuskamistes ning pressikonverentsi helihammustuste tõttu. Sellel on positiivseid ja negatiivseid külgi, kuid selle kõige mõistmiseks peate tõesti teadma ajalugu.
Seda otsustasime Mike'iga selles osas selgitada – olenemata teie seisukohast tehisintellekti ja valitsuse kohta, teeb see episood selgeks, et mõlemad pooled on lasknud jälgimisseisundil aja jooksul aina suuremaks muutuda. Nüüd oleme tehisintellekti seni suurima laienemise harjal.
Olgu: Techdirt asutaja ja tegevjuht Mike Masnick Anthropicu, Pentagoni ja tehisintellekti jälgimise kohta. Siin me läheme.
Seda intervjuud on pikkuse ja selguse huvides kergelt muudetud.
Mike Masnick, olete Techdirt asutaja ja tegevjuht. Tere tulemast dekoodrisse.
Mul on hea meel siin olla.
Mul on hea meel, et olete kaasas. Ütlesin lihtsalt, et olen šokeeritud, et te pole kunagi varem saates osalenud. Sina ja mina oleme üksteise ümber kirjutanud ja postitanud juba pikka aega. Suur osa The Verge'i poliitikast on võlgu selle eest, mida olete Techdirtis teinud, ja siis see, mis Anthropiciga toimub, on nii keeruline, kuid puudutab nii palju teemasid, mida olete nii kaua käsitlenud. Mul on hea meel, et sa lõpuks siin oled.
See on teema keeruline segadus, kuid ma olen põnevil, et saan sellesse süveneda.
Ma tahan teiega keskenduda mitte üksikasjadele selle kohta, kas Anthropic sõlmib valitsusega lepingu või kas OpenAI saab selle lepingu. Selle asemel olen kindel, et selle salvestamise ja selle kuulamise vahel on säutse olnud rohkem ja rohkem asju on teistmoodi kui varem.
See, millele tahan keskenduda, on vaid üks kahest punasest joonest, mille Anthropic on tegelikult välja pannud. Üks neist onautonoomsed relvad, mis on omaette keerukuse tase. Sealne seadus on veidi rohkem tekkimas, olenemata sellest, kas relvad on üldse olemas või on need Venemaa poolt juba Ukraina sõjas kasutusele võetud.
Siin on palju ideid, mille tahan lihtsalt kõrvale jätta, sest arvan, et see keskendub rohkem oma ajakavale. Teine punane joon, millele ma tahan palju aega kulutada, on massiline jälgimine. Ja massilise jälgimise kohta on siin üsna palju seadusi. Seal on palju ajalugu, palju vastuolulist ajalugu. Kogu Edward Snowdeni tegelaskuju eksisteerib massilise jälgimise ümber tekkinud vaidluste tõttu.
See kõik taandub – ma arvan, et sina oled see, kes selle postitas – riiklikule julgeolekuagentuurile (NSA), mis on osa kaitseministeeriumist ja mida me peame nüüd mingil põhjusel kutsuma sõjaministeeriumiks.
[Naerab] Me ei pea midagi tegema.
[Naerab] Meil ei ole. See on tõsi siin Ameerikas. Me ei pea midagi tegema. Kuid NSA on põhimõtteliselt ümber defineerinud, mida paljud sõnad kõnekeeles inglise keeles tähendavad, et tähendada: "Me saame lihtsalt järelevalvet teha." Ja siis tekib iga kord skandaal, kui inimesed avastavad, et nad lihtsalt jälgivad. Nii et seadke lihtsalt lava ja ma ei taha teid lõpuni tagasi kerida, kuid see muster on juba palju aega kordunud.
See sõltub sellest, kui sügavale soovite minna, kuid lühiversioon on ilmselgelt 11. septembri järgses maailmas, USA võttis vastu Patriot Acti, millel oli valitsuse jaoks teatud võime osaleda jälgimises, mis pidi olema meie kaitsmine tulevaste terroriohtude eest. Aja jooksul tõlgendati seda huvitaval viisil ja sellel olid teatud piirangud. Meil oli ka FISA kohus, mis on erikohus, mis peaks luurekogukonda ja nende tegevust kontrollima, kuid on traditsiooniliselt olnud ühepoolne kohus. Ainult üks pool saab oma hagi selles kohtus esitada ja seda tehakse salaja.
Seal on palju asju, mis ei olnud teada. Ja siis oli selles kõiges veel üks tükk, mis ulatub tagasi Ronald Reaganini, mis on täidesaatev käskkiri 12333, mis väidetavalt käsitleb luureandmete kogumise reeglite kehtestamist.
Nii et teil on need kolm seaduste kogumit – noh, mõned seaduste komplektid – ja täidesaatev korraldus, mis avalikkusele, osad, mida saate lugeda, näivad ütlevat teatud asju selle kohta, mida meie valitsus ja eriti NSA saavad järelevalve osas teha. Kui lugeda lihtsast inglise keele sõnastikust, mille olemust teil ja minul ilmselt on ja millest me aru saame, tekiks usk, et NSA võime ameeriklasi jälgida oli väga piiratud, tegelikult nii kaugele, nagu nad peaksidki, kui nad mõistavad, et jälgivad USA isikut, et nad peaksid kohe lõpetama ja nutma need andmed ja kõik need muud andmed ja kustutama.
Mõnda aega levisid kuulujutud, et seda tegelikult ei juhtu, ja vihjati, ja eriti oli senaator Ron Wyden väga valjuhäälne, et läks senati põrandale ja ütles: "Midagi on siin valesti ja ma ei saa teile täpselt öelda," või kuulamisel küsis ta luureametnikelt: "Kas te kogute või ei kogu ameeriklaste kohta massiandmeid?"
Need ametnikud kas kalduksid kõrvale või mõnel juhul otse valetaksid. Usun, et see oli üks ärakuulamine 2012. aastal James Clapperiga, kes oli sel ajal riikliku luure direktor, kus talt küsiti selle kohta otse. Ja ta ütles põhimõtteliselt: "Ei, me ei kogu andmeid ameeriklaste kohta." See oli suur osa sellest, mis inspireeris Ed Snowdenit andmeid lekitama, aruanded, mille ta lekitas ka Glenn Greenwaldile ja Barton Gellmanile ning Laura Poitrasele. Sellest kõigest hakkasime avastama, et NSA-l on oma sõnastik, mis erineb mõnevõrra teie ja minu kasutatavast sõnastikust, nii et nad saavad tõlgendada sõnu viisil, mis erineb nende tavalisest ingliskeelsest tähendusest, sealhulgas sõnad nagu „target”, mis tundub võtmesõnana. Laialdane arusaam sellest, mis see on, seisneb selles, et teoreetiliselt peaksid need sihtima ainult inimesi, kes ei ole USA isikud, ma arvan, et see on fraas.
Kuid aja jooksul on seda tõlgendatud nii, et kõik, mis seda inimest mainib, kõik, mis puudutab võõrast inimest, on nüüd aus mäng, isegi kui see onUSA inimene. Nii et kui teie ja mina kirjutaksime üksteisele ja mainiksime välismaalast, on see nüüd NSA jaoks aus mäng koguda, hoida ja säilitada.
Sellel on teine osa. Mainisin esimest Ronald Reagani käskkirja 12333, mis tehnoloogia aja jooksul muutudes ja Interneti kasvades võimaldas NSA-l tõhusalt kasutada välissuhtlusi, kuid see hõlmas kõiki side, mis võis USA-st kuhugi lahkuda. Nii et kui ma saadan teile sõnumi ja minult saabus sõnum Californiast fiiberoptilise kaabli kaudu, mis juhtus USA-st lahkuma, võib NSA selle osa kraani panna, kui see on väljaspool USA-d, ja koguda selle teabe, isegi kui see saadeti teile ainult USA-s.
NSA võiks seda teavet säilitada isegi siis, kui see puudutas USA isikuid, ja nad võisid hiljem teha selle kohta konkreetseid otsinguid, mida mõnikord nimetatakse "tagaukse otsinguteks". Nad kogusid selle teabe, mida me usume, et nad ei pidanudki koguma, kuid nad võisid selle endale jätta. Ja nad lubasid, vandusid, et jätavad selle privaatseks, aga kui nad läbiotsimisel avastasid, et sina või mina mainisime võõrast inimest, siis äkki oli nende jaoks aus mäng teha sellega, mida tahavad.
Kokkuvõttes on see muutunud maailmaks, kus föderaalvalitsus saab põhimõtteliselt koguda mis tahes teavet, mis juhtub puudutama väljaspool USA-d. Isegi kui see on täielikult kahe USA isiku vahel, kui nad mainivad või isegi vihjavad kedagi, kes pole USA kodanik, on järsku aus mäng, mida tuleb koguda. Ja sellest oleme saanud USA isikute massilise jälgimise näiva NSA poolt, mis väidab ja kinnitab avalikult, et ei luura USA isikute järele.
Kuidas me selle punktini jõudsime? See on palju järkjärgulisi beebisamme. Mainisite 2012. aastal James Clapperit, see on Obama administratsioon. Mainisite Ronald Reaganit, need on 1980ndad. Me käime siin läbi demokraatide ja vabariiklaste.
Terrorismivastane sõda toimus George W. Bushi administratsioonis ning 9/11 ja Patriot Act toimusid George W. Bushi administratsioonis. Mõlema partei presidendi, mõlema partei kongressi ajal on palju halbu asju. Kuidas see juhtus?
Selle kõige lihtsam vorm on lihtsalt see, et keegi ja kindlasti mitte ükski president ei taha olla president ajal, mil toimub suur terrorirünnak, sest see muudab nad halvaks. Ilmselgelt tahavad nad ka ameeriklasi kaitsta, eks? See on osa nende tööst. Kui teil on luurekogukond, mis tegutseb põhimõtteliselt pimeduses, sest seda luurekogukonnad teevad ja nad tulevad teie juurde ja ütlevad: "Hei, kui me saaksime lihtsalt juurdepääsu sellele teabele, oleks see tõesti kasulik terrorirünnaku ärahoidmisel."
Võib juhtuda, et see on tõsi, et luurekogukond suudab seda teavet hästi kasutada. Kuid me oleme teoreetiliselt ka seaduste ühiskond, millel on USA põhiseadus, mida me peaksime järgima. Kuid see võimaldas tõsiasja, et administratsioonil administratsiooni järel, taas vabariiklastel ja demokraatidel, olid advokaadid, kes olid väga targad ja kes vaatasid läbi ja ütlesid: "Noh, kui me oma seisukoha võtame nii või ütleme nii või tõlgendame seda, siis saame sel viisil seda, mida tahame, ja mitte tehniliselt seadust rikkuda ega neljandat muudatust tehniliselt rikkuda."
Eeldus oli alati: "Me võime omamoodi moonutada seadust või oma seadusetõlgendust ja keegi ei näe seda tegelikult kunagi või keegi, kes sellest hoolib, ei näe seda kunagi, ja seetõttu me pääseme sellest."
On kaks asja, mis mulle tõesti silma hakkavad. Esiteks loeme teie ja mina mõlemad palju kohtulahendeid – apellatsioonikohtu lahendeid ja riigikohtu otsuseid. Ja meie ülemkohtus käib võitlus selle üle, kuidas meie põhikirjas ja seadustes sisalduvaid sõnu sõna-sõnalt tõlgendada.
Ma ei lasku sellesse liiga kaugele, kuid üldiselt ütleksin, et mõte, et peaksite lihtsalt lugema lehel olevaid sõnu ja tegema seda, mida nad ütlevad, on Ameerika Ühendriikide seadusandliku tõlgenduse domineeriv tüvi. Vasak või parem, mõlemad ütlevad seda. Nad vaidlevad väga esoteeriliste punktide üle, mida see tegelikult tähendab. Aga et sa peaksid lihtsalt suutma neid sõnu lugeda ja tegema seda, mida nad ütlevad, pole see ju ometigi nii?
Oleme saavutanud vähemalt selle esimese läbimise, mida võiksite tehanimetada tekstualismiks. Kuidas pääsevad mõlema administratsiooni juristid nii kaugele meie riigis domineerivast õigusotsuste tegemise viisist? Mõlema poole kohtunikud nõustuvad, et see on vähemalt esimene samm.
Soovin teada täpset vastust, aga ma arvan, et see on motiveeritud arutluskäik, eks? Advokaadina olete seal, et kaitsta oma klienti ja meie õigussüsteemi edu – kui seda võib nimetada eduks – põhineb pigem võistleval olukorral, kus nende asjade üle vaidlevad erinevad pooled, kus kohtuniku roll on kitsendada ja välja selgitada, kumb pool on tegelikult õige.
Üks luurekogukonna ja selle ülesehitusega seotud probleeme on see, et teil pole sellist vastandlikku olukorda. Nii on ühel poolel lihtsam oma argumenti õigustada, sest keegi ei lükka seda tegelikult tagasi. Kombineerite selle üldise hirmuga järjekordse terrorirünnaku ees, kõike, mis on seotud riikliku julgeolekuga, ja isegi siis, kui teil on olukordi, kus teil on FISA kohus – ma mõtlen, et FISA kohus oli mõneti kuulus selle poolest, et oli aastaid olnud kummitempel.
Ma unustan täpsed arvud, kuid üle 99 protsendi FISA kohtusse saadetud taotlustest teatud olukordade jälgimiseks rahuldati ja on lihtne öelda, et 99 protsenti on ilmselgelt liiga palju. Ilmselgelt valivad need, kes esitavad hagi kohtusse. Enamasti ei esita nad täiesti hullumeelseid väiteid. Kuid ilma selle võistleva aspektita ja väga tugevalt motiveeritud inimeste rühmaga, kes arvavad: "Me peame seda tegema" või administratsioon ütleb neile: "Me peame seda tegema", leiavad nad selle tegemiseks viise. Ja sinna sa aja jooksul jõuad.
Kas selles protsessis on olnud keegi, kes on kunagi ärganud ja öelnud endale: "Poiss, meil õnnestus sõna "sihtmärk" ümber defineerida, et see tähendaks kõike, mida me tahame"?
[Naerab] Ilmselgelt oli teil Ed Snowden, kes lekitas hunniku dokumente. Teil oli John Napier Tye, kes kirjutas 2014. aastal ajalehele The Washington Post teose, mis paljastas täitevkorralduse 12333 tõlgenduse ja ütles, et see on tõeline probleem, millele tähelepanu pöörata. Teil on ka teisi inimesi, kes on nendel asjadel sõna võtnud, kuid enamasti on need inimesed, kes tegelevad luurekogukonna asjadega administratsioonis tööga, luurekogukonna vaatevälja, mis seisneb selles, et peamine eesmärk on kaitsta riiki millegi halva eest. Parim viis selleks on omada võimalikult palju teavet.
Lihtne on suhtuda mõistvalt väitesse, et jah, rohkema teabe omamine võib võimaldada neil midagi varem tabada või midagi olulist leida, kuid see ei pruugi tõsi olla. Liiga palju teavet on tõenäoliselt sama halb kui liiga vähe teavet, sest see võib sageli varjata teavet, mis on tegelikult kasulik, teavet, mida te tegelikult vajate millegi kindlakstegemiseks.
Kuid meil on ka U..S. Esiteks põhiseadus ja meil on põhjused, miks me teoreetiliselt ei peaks lubama massilist jälgimist ilma tõenäolise põhjuseta. Õigusriiki uskuva riigina peaksime suutma selle järgi elada ja kui kõik see pimedas juhtub, kipute selle silmist kaotama.
See toob mind Anthropici juurde. Anthropic on peamiselt ettevõte. Nad on valitsuses head, nad on need lihased üles ehitanud, nendes töötavad inimesed, kes on mõne selle asjaga tõesti hästi kursis. Ilmselgelt vaatasid nad Pete Hegsethi, öeldes: "Me tahame kõike seaduslikku kasutust," ja nad langesid kahe tõlgenduse tasemega alla ja ütlesid: "Teie sõnasõnaline veendumus on, et need sõnad ei tähenda seda, mida nad ütlevad, et nende näol on tähendus. Seega on "kõik seaduslikud kasutusviisid" liiga suured ja me tahame panna teatud kaitsepiirded eriti massilise jälgimise ümber."
Jällegi, ma kavatsen eraldada autonoomsed relvad, mis oli teine punane joon, kuid eriti massilise jälgimise puhul ütleb Dario Amodei: "Me saame liiga palju teha. See on liiga ohtlik. See on neljanda muudatuse rikkumine."
Pinge seisneb selles, et "te ütlete, et järgite neid seadusi, mis ütlevad üht ja nüüd, pärast kogu seda aega, tähendavad need midagi täiesti erinevat ja me lihtsalt ei taha sellest osa saada." See onvõitlema. Ma lihtsalt tahan seda võrrelda Sam Altmaniga, kes hüppab sisse ja ütleb: "Teeme kõik seaduslikud kasutused" ja postitab seejärel selle pika sõnumi, nagu "Siin on kõik seadused, mida me järgime."
Näib, et Altman ei teadnud, kuidas NSA oli neid asju ümber tõlgendanud ja teda sõidutati. Ja sellest ajast alates on ta hakanud seda tagasi kõndima – isegi kui me salvestame, olen kindel, et säutse on rohkem ja kõigi positsioonid on muutunud. Kuid Altman on seda aeglaselt tagasi kõndinud, kuid tundub, et OpenAI on sunnitud põhikirja näkku lugema ja nende öeldut uskuma. Kas see on ka teie sündmuste tõlgendus?
On kaks võimalust ja see on üks neist. Üks on see, et teda mängiti samamoodi nagu avalikkust palju aastaid. Alternatiivne teooria ja mul pole õrna aimugi, milline neist on tõsi, on see, et tema või mõned OpenAI juristid – kes minu arvates on väga pädevad ja väga teadlikud – teadsid seda, kuid arvasid, et nad võiksid mängida sama mängu, mida NSA mängis paar aastakümmet, nii kaua, kui nad ütlevad neid asju ja siis ütlevad sõnu, kuid nad ei avalda tegelikke tõlgendusi, et nad saaksid ka sellest lahti saada. Nii et Sam tuleb välja avaldusega, mis jätab mulje, nagu "Meil olid täpselt samad punased jooned nagu Anthropicil ja valitsus oli sellega suurepärane."
Tegelikult arvan, et Sam Altman ütles, et Anthropicul oli kaks punast joont ja OpenAI-l kolm ning valitsus oli sellega täiesti korras ja see jättis paljud inimesed kukalt kratsima. Kuid ma arvan, et asi peab olema selles, et Sam Altman ja kõik, kes teda ümbritsesid, ei mõistnud, kuidas need asjad praktikas töötavad, või nad said aru, ja nad lihtsalt eeldasid, et avalikkus ei tea ja seetõttu saavad nad sellest mööda.
Teine asi, mis meelde tuleb – AI on jällegi uus ja on nii ahvatlev tulla uute tehnoloogiatega, kuna need on esmamulje probleemid. "Keegi pole kunagi varem pidanud sellele mõtlema," kuid reaalsus on see, et kõik on sellele asjale juba pikka aega mõelnud. Võib-olla pole siin uus tegu tehisintellektiga, vaid see, et Trumpi teine administratsioon selle asemel, et tegeleda hunniku advokaaditööga, mida võib-olla keegi kunagi ei loe, et õigustada oma tegusid salakohtule, millele keegi tähelepanu ei pööra, pole lihtsalt nii peen.
Nad ei ole nii kogenud ja nad lihtsalt ütlevad, et hakkavad kogu aeg kõigi järele luurama. Nad lihtsalt teatasid oma kavatsustest nii, et võib-olla peaksid kõik administratsioonid lihtsalt oma kavatsustest teatama ja vaatama, kuhu kiibid kukuvad.
Kuid ma vaatan tõsiasja, et siin New Yorgis oli Ed Snowden. AT&T haldab hoonet, mida kõik teavad, et see on NSA hoone. See on lihtsalt hiiglaslik hoone ja me peaksime teesklema, et see pole NSA seirekeskus, kuid see on sealsamas. See on tohutu. Tundub, et sellest pole midagi välja tulnud. Kõik need paljastused, need lekked, me ei ole seda tagasi lükanud.
Tegelikult on see ainult suurenenud, kuna suur osa meie elust on muutunud üha digitaalsemaks. Ja võib-olla, et Trumpi administratsioon on alati nii nüri vahend, võib see tegelikult olla asi, mis põhjustab arvestuse. Kas sa näed seda ikkagi välja mängimas?
Seal on mõned erinevad asjad ja see pole täiesti tõsi, et me pole seda kraami üldse taganenud. Snowdeni paljastused tõid kaasa mõningaid muutusi selles, kuidas need asjad juhtuvad. Ja nüüd on neid – ma unustan, kuidas neid kutsutakse, aga nad on nagu need FISA kohtus olevad tsiviilisikud, kes esindavad teatud küsimustes vastaspoolt.
Ja me oleme näinud, et mõned võimud on teatud viisil piiratud ja nad tulevad aeg-ajalt uuesti volituste alla ning aktivistid on olnud väga agressiivsed, kui nad on tagasi tõukanud ja üritanud täiendavaid kaitsepiirdeid panna. Kuid laiema küsimuse puhul arvan, et siin on kaks erinevat asja. Teil on pooleldi õigus, et see administratsioon ei ole peen ja ütleb lihtsalt valjult välja asjad, mida ei tohiks.
"Me sõdime Iraaniga, me teeme seda, see juhtub. Me ei kavatse isegi tantsu proovida."
Sel viisil, mida kõik eelmised administratsioonid ei teeks. Kuid nad pole seda otseselt öelnudjälgimine, eriti ameeriklaste jälgimine. Selle kohta on vihjeid olnud, kuid need pole nii tugevalt välja tulnud. Teine pool sellest on rohkem seotud Anthropicu positsioneerimisega ja üldise nägemusega AI-st kui võimalikust eksistentsiaalsest tehnoloogiast, kus Anthropic on end alati esitlenud kui "Me oleme läbimõeldud head poisid" ja kas te usute seda või mitte, on midagi muud. Neil on selline maine: "Püüame seda teha viisil, mis on ohutu, mis austab inimkonda ja pöörab tähelepanu kõigile neile asjadele." Ja kui teil on see kokkupõrge, tuleb võitlus sisse.
Teil on Trumpi administratsioon, mis lihtsalt tahab, et ta saaks teha kõike, mida ta tahab, ja nad ei ole selles suhtes peened. Ja siis on teil Anthropic, kelle enesekirjeldus ja avalik isiksus on alati selline: "Oleme läbimõeldud ja austame inimkonda ja õigusi ja kõiki neid asju." Tõenäoliselt tuli see kokkupõrge just sealt, sest Anthropic, nagu on selgeks tehtud, on töötanud mõnda aega kaitseministeeriumiga ja tal on valitsusega palju muid lepinguid, mida ta on kasutanud. See pole olnud probleem.
Alles nendes konkreetsetes valdkondades, kus valitsus püüdis oma lepingut laiendada, hakkas Anthropicu kõrgem juhtkond ütlema: "Oodake, me peame tagama, et me ei ületaks neid punaseid jooni, mis võiksid kahjustada meie kui läbimõeldud ja turvalise tehisintellekti pakkuja mainet."
Ma tahan teilt lühidalt küsida jälgimise kohta üldiselt ja eriti Anthropicu neljanda muudatuse kohta. Neljas muudatus ütleb, et valitsus ei saa teid põhjendamatult läbi otsida. Parim viis neljandast muudatusest aru saada on kuulata Jay-Z "99 probleemi". Nii et kui teil on vaja pausi teha ja kuulata "99 probleemi", on see suurepärane. See kõik on seal. Kuulasin seda õigusteaduskonnas ja see oli täiesti loogiline.
Kuid tavaliselt vajab valitsus teie läbiotsimiseks korraldust. Ja kuna üha suurem osa teie elust läheb võrku, on sellel palju ja palju erandeid. Kuid idee on see, et nad peaksid siiski vajama veebipõhist orderit. Anthropicu argument on järgmine: "Tehti tehisintellekt ei väsi kunagi. See võib kogu aeg kõike otsida. See tähendab, et me hakkame lihtsalt jälgima."
Kuid juba enne tehisintellekti ilmumist oli väljas idee, et valitsus võib otsida kõike, mis teile kuulub, ja idee, et valitsus ei vaja teie asjade läbiotsimiseks korraldust. Mõte, et kui mõni teie andmetest läks mõneks sekundiks riigist välja, võttis valitsus selle seal kinni,
Kui ma õppisin kolledžis, umbes Patriot Act'i ajal, arutleti selle üle, et nad ei hakka otsima teie tegelikke andmeid, vaid saavad meta- ja metaandmeid üksi. Andmed teie andmete kohta on piisavad, et teid alati täpselt leida. Ja isegi see on liiga kaugel. Ja me oleme tantsinud, mida saab valitsus koguda? Mis on lubatud? Mida nad vajavad meie kõigi turvalisuse tagamiseks ja mis on liiga kaugel? Need read on liikunud.
Nii et lihtsalt kirjeldage lühidalt üldist muret jälgimise pärast selle ulatuse ja selle kohta, kus me praegu oleme. Enne tegi AI olukord kõik eksponentsiaalselt keerulisemaks.
Siin pean tutvustama veel üht mõistet, mida oleks ilmselt pidanud varem mainima, kuid see on oluline, mida nimetatakse "kolmanda osapoole doktriiniks". Neljanda muudatuse idee seisneb selles, et valitsus ei saa teid ega teie asju läbi otsida ilma loata ja ta ei saa orderit ilma tõenäolise põhjuseta, et olete toime pannud mingisuguse kuriteo. Kuid on see kontseptsioon, mis tuli välja umbes aastakümneid tagasi ja mida nimetatakse kolmanda osapoole doktriiniks, mis ütleb, et see ei pruugi kehtida või ei kehti üldse asjade kohta, mis pole teie omad, isegi kui need on teie andmed.
Selle kõige varasem ja ilmsem versioon olid telefonikõnede andmed, mis telefoniettevõttel olid selle kohta, kellele te helistasite. Telefonifirmad ei salvestanud teie kõnesid, kuid nad salvestasid, kui ma teile helistan, oleks telefonifirmas salvestus, mis ütleb: "Mike helistab Nilayle." Ja mitme kohtu poolt oli kindlaks tehtud, et valitsus võib minna ja seda taotleda ning nad ei vaja selleks orderit, sest see ei ole läbiotsimine.teie andmed, see on see kolmas osapool ja nad võivad kolmanda isikuna nõustuda nende andmete üleandmisega.
Kuid need olid juhtumid 1960. ja 70. aastatest, kus tehti kindlaks, et valitsusel on juurdepääs sellele ilma loata, kui kolmandate isikute andmeid polnud nii palju. Arvutite ja Interneti kasv muutis seda. Nüüd on kõik kolmanda osapoole andmed. Kõik, mida me teeme, on kuskilt mõne ettevõtte poolt kokku korjatud ja selle kohta on ülestähendatud. Nii et põhimõtteliselt on kõik andmed teie kohta, kus te asute, kellega räägite, kellega suhtlete, mida räägite, mida teete – kõike seda on tänapäeval üsna palju kolmandate osapoolte käes. Nii et kolmanda osapoole doktriin on mingil määral alla neelanud kogu neljanda muudatuse, kus kõik, mis puudutab teid, mis kellelgi teisel on, on palju madalamal tasemel, mida valitsus saab selle taotlemiseks teha.
Täpsustuseks tähendab see, et kui minu andmed on iCloudis, võib valitsus pöörduda Apple'i poole ja saada minu andmed iCloudist välja, ilma et nad mulle kordagi teataks?
Nad võivad seda taotleda. Nad saavad seda hõlpsalt taotleda ilma garantiita. Siis on ettevõttel oma õigused ja ta saab otsustada, mida nad soovivad selle taotlusega teha. Nad võivad sellest lihtsalt loobuda. Nad võivad, nagu enamik neist teeb, kui see on tõsine taotlus, tagasi lükata taotlused või nad võivad teid hoiatada ja öelda – ja enamik neist teeb seda –, et nad hoiatavad teid ja ütlevad: "Valitsus nõuab mõningaid teie andmeid. Võite pöörduda kohtusse ja proovida neid blokeerida." Kui ei, siis annavad nad teie andmed üle seitsme päeva pärast või mis iganes see võib olla.
Jällegi oleneb. Kui see on kriminaaljuurdlus, siis võib olla mingisugune käsk, mille kohta ettevõttel ei ole lubatud teile seda öelda. On igasuguseid olukordi, kuid enamik neist hõlmab madalamat kaitsetaset, kui neljas muudatus nõuaks, kui tegemist on andmete või teabega või muuga teie kodus.
Andmete hulk, mis teil kellegi teise pilveserveris on, on tohutu, eks? Iga asi, mida praegu Internetis üldiselt teete, varundatakse mingil viisil või salvestatakse mingil viisil kellegi teise serveritesse. Valitsus on leidnud selle viisi, kuidas neljandast muudatusest mööda hiilida ja öelda: "Noh, see pole tegelikult teie oma. See kuulub Amazonile. Me võime minna Amazoniga rääkima," ja Amazon peab seisma selle protsessi keskel ja ütlema: "Me oleme leiutanud teise protsessi, et inimesi mõnevõrra kaitsta."
Ma vaatan seda – ja kui käsitlesin esimesi kolmanda osapoole doktriini juhtumeid, mis hõlmasid pilveteenuseid ja valitsus võitis pidevalt, siis minust sai põhimõtteliselt Joker. Ma mõtlesin: "Kõik see värk, mida me teeskleme tekstilisuse ja lihtsa [lugemise] kohta, ei tähenda see midagi, sest me lihtsalt liigume tagauksele, kasutades seda iidset seadust kõigi andmetes."
Ja siis ma vaatan seda ja vaatan Anthropicit ja ütlen: "Noh, see on sama muster." See on eraettevõte, mis ütleb: "Olgu, me mõistame teie seisukohta. Mõistame, et olete seadust selle asja tähenduseks ümber tõlgendanud, ja paneme teie, meie tööriista ja meie teenuse kaudu liikuvate ameeriklaste andmete vahele protsessi." Ma lihtsalt mõtlen, kas näete seda paralleeli Anthropicu ja Amazoni ja Azure'i ning mis tahes muude olemasolevate pilveteenuste vahel, mis hoiavad nii palju meie andmeid.
Jah, kuigi siin on mõned olulised selgitused, mis muudavad selle pisut teistsuguseks. Ja tegelikult – ma arvan, et The New York Times avaldas selle aruande esimesena – peamine klausel, mis Anthropicu jaoks oli kõige olulisem, puudutas konkreetselt kommertsteenustelt kogutud andmeid ja Claude'i nende andmete puhul kasutamata jätmist, mis on täpselt see probleem kolmandate osapoolte andmete osas. Kuid ma tahan selgitada peamist erinevust selle vahel, millest me just enne seda rääkisime Amazoni või muude teie andmeid hostivate kolmandate osapooltega. Need olid juhtumid, kus nad majutasid ökosüsteemi asukoha tõttu teie andmeid otse.
Claude'i puhul ei ole see, et keegi oleks mures selle pärast, et NSA vaatab teie Claude'i kasutust läbi. See seisneb selles, et nad lähevad välja ja saavad Amazonilt kolmandate osapoolte andmeid või tõenäolisemalt selliseid salakavalaid, peidetud andmemaaklereid, kes esitavad teie telefonides reklaame ja teavad teie asukohta, teie huvisid ja muud taolist. Ja siis selle sisestamine süsteemimille kallal Claude siis tööd teeks. See on see, millest Anthropic tõesti ei tahtnud osa saada. Nii et kus või kuidas valitsus neid andmeid kolmandalt osapoolelt koguks, ütles Anthropic: "Me ei taha, et meie tööriista nende andmete jaoks kasutataks."
Apple astub kuulsalt vastu FBI-le, paludes sellel iPhone'ile tagauks panna, ja Apple ütleb "ei" ja nad astuvad Trumpile vastu. Ja meie süsteemi toimimises on osa, kus suured eraettevõtted saavad oma klientide nimel valitsusele "ei" öelda. Ja see tundus samamoodi, et Apple jällegi ei pane seda iPhone'i tagauksele või suured pilveteenuse pakkujad ütlevad: "Enne üksikute andmete hankimist peate läbima natuke protsessi."
Siin tundub, et Anthropic ütleb: "Me ei kavatse teha lihtsalt teistelt osapooltelt saadud andmete hulgianalüüsi, sest see viib ameeriklaste ööpäevaringse massilise jälgimiseni ja me ei taha seda teha." Kuid see tundub selle administratsiooni jaoks liiga kaugel olevat sild. Kas sellest on tagasitulekut?
Eks me näe. Varem, kui see juhtus – ja seda on juhtunud palju kordi enamiku suurte tehnoloogiaettevõtetega, siis mingil hetkel on nad öelnud, et miski on liiga kaugel –, kus see tavaliselt läheb, on kohtusse pöördumine. Ettevõtted lähevad kohtusse või administratsioon kohtusse ja seal toimub mingisugune kohtulahing.
iPhone'i tagauks on selle suurepärane näide. See läks kohtusse ja nad tülitsesid selle välja, kuigi nad ei jõudnud kunagi päris järeldusele, sest lõpuks tungis FBI lihtsalt käsitsi iPhone'i ega tahtnud, et kohtuotsus seda tulevikus rikuks.
Kuid praegusel juhul, kus eskaleerumine toimub ja kus see erineb varasematest olukordadest, on see, et Trumpi administratsioon ei kasutanud lihtsalt kohtusse pöördumist, vaid määras "tarneahela riski", mis on lihtsalt hull. See idee, et see tööriist, mis oli loodud selleks, et takistada potentsiaalsetel välismaistel pahatahtlikel osalejatel tehnoloogiat tarnimast, mis võiks seejärel panna suuremasse tehnoloogiavirna varjatud jälgimistööriistad, võiks need keelata. Selle rakendamine USA-s asuvale ettevõttele põhimõtteliselt eetikapoliitika tõttu tundub selle tööriista tõelise väärkasutamisena.
Isegi see tööriist oli mõnes mõttes küsitav, kuid võite aru saada selle taga olevast tõukest, kui räägite Hiina võrguettevõttest või muust sellelaadsest. Siin pole mõtet. Seega on reaktsioon sellele palju kaugemale sellest, mida sel juhul tavaliselt nähakse. Näete, et traditsiooniliselt toimub mingi kohtuasi ja kumbki pool võiks seda alustada ja see oleks vaid lahing selle üle, kuidas lepingut kohaldada.
Kuid see pole see, mis siin toimub. See administratsioon ütleb tõhusalt: "Kui te ei anna meile absoluutselt kõike, mida me tahame, kui te ei seadista oma tööriistu nii, et need töötaksid nii, nagu meie tahame, siis püüame tõhusalt hävitada kogu teie ettevõtte." Ja see on eskalatsioon.
Selles on üks osa, millega ma tahan lõpetada, ja see on selle kõige galaktilisem versioon. FIRE, mis on sõnavabadust propageeriv rühm, avaldas vahetult enne seda, kui hakkasime salvestama, ajaveebipostituse, milles väitsime, et Anthropicu sundimine looma tööriistu, mida ta ei taha luua, on sõnavabaduse rikkumine, et seda nimetatakse sundkõneks. Siin on palju ajalugu. Siin on sügav Verge ja Techdirt, in-the-weeds, eksistentsiaalse kriisi ajalugu.
Kuid see taandub põhimõtteliselt ideele, et kood on kõne, et arvuti koodi kirjutamine on kõne vorm ja valitsus ei saa teid sundida seda tegema ning sellest tuleneb terve hulk asju. Kas nõustute selle väitega, et Anthropicu sundimine ehitama tööriistu, mida ta ei taha ehitada, on sunnitud kõne?
Jah, ma arvan, et see on üsna veenev. Kaasahaarav sunnitud kõne. Aga ei, ma arvan, et see on huvitav argument. See oli üks neist probleemidest, millele ma mõtlesin, veidi allpool. Ilmselgelt olin rohkem keskendunud neljanda muudatuse küsimustele, kuid arvan, et FIRE argument ei ole vale. Oleme seda näinud ka teistes kontekstides. See tuli päevakorda ka tagaukse probleemis, kuna üritati luua tagauksi krüptitud süsteemidesse.
Ettevõtted tõstsid kindlasti esimesenaMuudatus väidab: "See on sunnitud kõne, mis sunnib meid sellist koodi kirjutama." See on põhjendatud argument. See võib jällegi olla selline, millega kohtud on tõenäoliselt vähem valmis esialgu tegelema, kui nad saavad neid probleeme lahendada muul viisil. Kuid mul on hea meel, et FIRE selle postituse tegi ja arvan, et see on huvitav ja kaalukas argument.
Jah, Trumpi teise administratsiooni olemus seisneb selles, et see on nii nüri vahend, et on peaaegu kindel, et me ründame kõiki probleeme korraga.
Jah, iga õiguste eelnõu muudatus tuleb ühel või teisel kujul vaidlustada iga võimaliku probleemiga.
[Naerab] Keerake ratast.
Olen kindel, et mahutame siia kuhugi kolmanda muudatuse rikkumise.
Muidugi, jah. Claude peab nüüd teie majas elama. Täpselt nii. See saab olema suurepärane. Teeme [muudatusi] üks, kolm, neli ja seitse. Me kogume need kokku.
Mike, see on olnud suurepärane. Ma ei suuda uskuda, et te pole varem saates osalenud. See on olnud suurepärane. Peate varsti tagasi tulema.
Absoluutselt. Millal iganes sa tahad mind.
Kas teil on selle episoodi kohta küsimusi või kommentaare? Kirjutage meile aadressil decoder@theverge.com. Me tõesti loeme iga meili!
