Šiandien mes kalbame apie nepatogią, greitai besikeičiančią situaciją Anthropic, Claude'o kūrėjoje, kuri dabar atsidūrė labai bjaurioje teisinėje kovoje su Pentagonu.
Pirmyn ir atgal yra sudėtinga, tačiau dar prieš kelias dienas Pentagonas laikė Anthropic tiekimo grandinės pavojų, o Anthropic pateikė ieškinį, kuriuo užginčijo šį paskyrimą, teigdama, kad vyriausybė pažeidė savo Pirmojo ir Penktojo pataisų teises, „siekdama sunaikinti ekonominę vertę, kurią sukuria viena greičiausiai augančių privačių įmonių pasaulyje“. Galiu pasakyti dabar: apie tos bylos vingius kalbėsime „The Verge“ ir čia, „Decoder“ per ateinančius mėnesius.
Tačiau šiandien norėjau šiek tiek pasigilinti į vieną labai svarbų šios situacijos elementą, kuriam nebuvo skirta pakankamai dėmesio, nes ji tapo nekontroliuojama: kaip Jungtinių Valstijų vyriausybė vykdo stebėjimą, teisinę valdžią, leidžiančią tokiam sekimui vykdyti, ir kodėl Anthropic nepatikėjo vyriausybe, sakydama, kad ji laikysis įstatymų, kai bus kalbama apie dirbtinio intelekto naudojimą dar didesniam stebėjimui.
„Verge“ prenumeratoriai, nepamirškite, kad gaunate išskirtinę prieigą prie dekoderio be skelbimų, kad ir kur gautumėte tinklalaides. Eikite čia. Ne prenumeratorius? Registruotis galite čia.
Šiandien mano svečias yra Mike'as Masnickas, puikios ir ilgai veikiančios technologijų politikos svetainės „Techdirt“ įkūrėjas ir generalinis direktorius. Mike'as jau dešimtmečius rašo apie vyriausybės perviršį, privatumą skaitmeniniame amžiuje ir kitas susijusias temas. Jis yra ekspertas, kaip internetas ir stebėjimo valstybė išaugo tarpusavyje susijusiais būdais.
Matote, įstatymai sako, kad vyriausybė gali daryti, kai reikia mus stebėti, ir ką vyriausybė nori daryti. Ir, svarbiausia, yra tai, ką vyriausybė sako įstatyme, o tai dažnai yra visiškai priešinga tam, ką galvoja bet kuris normalus žmogus, tiesiog skaitantis įstatymą.
Šiame epizode išgirsite Mike'ą labai išsamiai paaiškinant, kad mes negalime – ir neturėtume – laikytis JAV vyriausybės žodžio, kai kalbama apie sekimą. Yra tiesiog per daug istorijos, kai vyriausybės teisininkai iškreipė paprastų žodžių, pvz., „tikslinis“, aiškinimus, kad išplėstų stebėjimą sudėtingais būdais – būdais, kurie paprastai kelia susirūpinimą teisininkų sluoksniuose ir tik iškyla, kai kyla didžiulių ginčų, pavyzdžiui, daugiau nei prieš dešimtmetį paskelbti pranešėjo Edo Snowdeno pagrindiniai NSA apreiškimai.
Tačiau Trumpo eros politikoje nėra nieko subtilaus ar sudėtingo – taigi su Anthropic vykstame labai garsiai, labai viešai diskutuojame apie technologijas ir stebėjimą realiuoju laiku, internete, tinklaraščio įrašuose ir X rietenose bei dėl spaudos konferencijos garsų. Tai turi teigiamų ir neigiamų aspektų, tačiau norint visa tai suprasti, reikia žinoti istoriją.
Štai ką Mike'as ir aš nusprendėme paaiškinti šiame epizode – kad ir koks būtų jūsų požiūris į AI ir vyriausybę, šis epizodas aiškiai parodys, kad abi šalys laikui bėgant leido stebėjimo būsenai vis didėti. Dabar, kai kalbama apie AI, esame ant didžiausios plėtros slenksčio.
Gerai: Techdirt įkūrėjas ir generalinis direktorius Mike'as Masnickas apie Anthropic, Pentagoną ir AI stebėjimą. Štai mes einame.
Šis interviu buvo šiek tiek redaguotas, kad būtų ilgas ir aiškus.
Mike'as Masnickas, esate „Techdirt“ įkūrėjas ir generalinis direktorius. Sveiki atvykę į dekoderį.
Džiaugiuosi, kad esu čia.
Džiaugiuosi galėdamas prisijungti. Aš tik sakiau, kad esu sukrėstas, kad jūs niekada anksčiau nebuvote laidoje. Jūs ir aš jau ilgą laiką rašėme ir skelbiame vienas kitam. Daugelis „The Verge“ politikos aprėpties yra skolingi už tai, ką padarėte „Techdirt“, o tai, kas vyksta su „Anthropic“, yra tokia sudėtinga, bet atitinka tiek daug temų, kurias taip ilgai nagrinėjote. Džiaugiuosi, kad tu pagaliau čia.
Tai sudėtinga temos netvarka, bet aš džiaugiuosi galėdamas į ją įsigilinti.
Noriu sutelkti dėmesį ne į tai, ar „Anthropic“ pasirašys sutartį su vyriausybe, ar „OpenAI“ gaus tą sutartį. Vietoj to, esu įsitikinęs, kad nuo to laiko, kai mes tai įrašysime, iki to laiko, kai žmonės jo klausysis, bus daugiau tviterių ir daugiau dalykų bus kitaip nei buvo anksčiau.
Noriu sutelkti dėmesį tik į vieną iš dviejų raudonų linijų, kurias Anthropic tikrai nubrėžė. Vienas iš jų yraautonominiai ginklai, o tai yra sudėtingumo lygis. Įstatymas ten yra šiek tiek labiau gimstantis, nesvarbu, ar ginklai išvis egzistuoja, ar jau buvo dislokuoti Rusijos Ukrainos kare.
Čia yra daug idėjų, kurias tiesiog noriu atidėti į šalį, nes manau, kad visoms jų tvarkaraštis bus skiriamas daugiau dėmesio. Kita raudona linija, kuriai noriu skirti daug laiko, yra masinis stebėjimas. Ir čia yra gana daug įstatymų apie masinį sekimą. Yra daug istorijos, daug prieštaringos istorijos. Visas Edwardo Snowdeno personažas egzistuoja dėl ginčų dėl masinio sekimo.
Viskas priklauso nuo – manau, jūs esate tas, kuris tai paskelbėte – Nacionalinės saugumo agentūros (NSA), kuri yra Gynybos departamento dalis, kurią dabar dėl tam tikrų priežasčių turime vadinti Karo departamentu.
[Juokiasi] Mes neturime nieko daryti.
[Juokiasi] Mes ne. Tai tiesa čia, Amerikoje. Mes neturime nieko daryti. Tačiau NSA iš esmės iš naujo apibrėžė, ką daug žodžių reiškia šnekamojoje anglų kalboje, kad reikštų: „Mes galime tiesiog stebėti“. Ir tada kaskart kyla skandalas, kai žmonės sužino, kad jie tiesiog stebi. Taigi tiesiog nustatykite sceną, ir aš nenoriu tavęs atsukti iki galo, bet praėjo gana daug laiko, kai šis modelis kartojosi.
Tai priklauso nuo to, kaip giliai norite eiti, bet trumpoji versija akivaizdžiai yra pasaulyje po rugsėjo 11-osios, JAV priėmė Patriotų įstatymą, kuris turėjo tam tikrą galimybę vyriausybei įsitraukti į stebėjimą, kuris turėjo būti skirtas apsaugoti mus nuo būsimų terorizmo grėsmių. Laikui bėgant tai buvo interpretuojama įdomiai ir tam buvo tam tikrų apribojimų. Taip pat turėjome FISA teismą, kuris yra specialus teismas, kuris turėtų peržiūrėti žvalgybos bendruomenę ir jų veiklą, bet tradiciškai buvo vienpusis teismas. Tik viena pusė gali pareikšti savo bylą tam teismui ir visa tai daroma slapta.
Yra daug dalykų, kurie nebuvo žinomi. Ir visa tai buvo dar vienas kūrinys, kuris tęsiasi iki Ronaldo Reagano, tai yra Vykdomasis įsakymas 12333, kuris tariamai yra apie žvalgybos duomenų rinkimo kelių taisyklių nustatymą.
Taigi jūs turite šiuos tris įstatymų rinkinius – na, kelis įstatymų rinkinius – ir vykdomąjį įsakymą, kuris visuomenei, dalys, kurias galite perskaityti, tarsi pasako tam tikrus dalykus apie tai, ką mūsų vyriausybė ir ypač NSA gali padaryti vykdydamos priežiūrą. Skaitydami su paprastu anglų kalbos žodynu, kurio pobūdį jūs ir aš tikriausiai turime ir suprantame, manytume, kad NSA galimybės stebėti amerikiečius buvo labai ribotos, iš tikrųjų tiek, kiek jos turėtų, jei suvoktų, kad stebi JAV asmenį, kad jie turėtų tuoj pat sustabdyti ir šaukti nešvankius duomenis ir ištrinti visus kitus duomenis.
Kurį laiką sklandė gandai, kad to iš tikrųjų nevyksta, buvo užuominų, o ypač senatorius Ronas Wydenas labai garsiai ėjo į Senato salę ir pasakė: „Kažkas čia ne taip ir aš negaliu tiksliai pasakyti, kas“, arba per klausymus jis klausdavo žvalgybos pareigūnų: „Ar jūs, ar nerenkate masinių duomenų apie amerikiečius?
Tie pareigūnai arba nukryptų, arba kai kuriais atvejais visiškai meluotų. Manau, kad tai buvo vienas klausymas 2012 m. su Jamesu Clapperiu, kuris tuo metu buvo Nacionalinės žvalgybos direktorius, ir jo buvo tiesiogiai paklausta šiuo klausimu. Ir iš esmės jis pasakė: „Ne, mes nerenkame duomenų apie amerikiečius“. Tai buvo didelė dalis to, kas paskatino Edą Snowdeną nutekėti duomenis, pranešimus, kuriuos jis nutekino ir Glennui Greenwaldui, Bartonui Gellmanui ir Laurai Poitras. Iš viso to, ką mes pradėjome atrasti, buvo tai, kad NSA turi savo žodyną, kuris šiek tiek skiriasi nuo žodyno, kurį naudojame jūs ir aš, todėl jie gali interpretuoti žodžius skirtingais būdais, nei suprantama angliškai, įskaitant tokius žodžius kaip „target“, kuris atrodo kaip pagrindinis žodis. Platus supratimas, kas tai yra, yra tas, kad teoriškai jie turėtų būti nukreipti tik į žmones, kurie nėra JAV piliečiai.
Tačiau laikui bėgant tai buvo aiškinama, kad viskas, kas mini tą asmenį, viskas, kas yra apie užsienį, dabar yra sąžiningas žaidimas, net jei tai yraJAV asmuo. Taigi, jei jūs ir aš parašytume vienas kitam žinutes ir paminėtume užsienietį, dabar NSA būtų sąžiningas žaidimas, kurį rinktų, saugotų ir saugotų.
Yra antroji šito dalis. Minėjau pirmąjį Ronaldo Reagano vykdomąjį įsakymą 12333, kuris, bėgant laikui keitus technologijoms ir augant internetui, veiksmingai leido NSA prisijungti prie užsienio ryšių, tačiau tai apėmė bet kokius ryšius, kurie galėjo kažkur palikti JAV. Taigi, jei rašau jums žinutes ir iš manęs Kalifornijoje per šviesolaidinį kabelį, kuris atsitiktinai buvo išvežtas iš JAV, gautas pranešimas, NSA galėtų įkišti į dalį, kai ji bus už JAV ribų, ir surinkti tą informaciją, net jei ji buvo skirta tik jums JAV.
Tada NSA galėtų saugoti šią informaciją, net jei ji buvo susijusi su JAV asmenimis, ir vėliau galėtų atlikti konkrečias paieškas, kartais vadinamas „užpakalinių durų paieškomis“. Jie surinko šią informaciją, kurios, mūsų manymu, jie neturėjo rinkti iš pradžių, bet galėjo ją pasilikti. Ir jie pažadėjo, jie prisiekė, kad laikys tai privačiai, bet jei jie atliks kratą ir pamatys, kad jūs arba aš paminėjome užsienietį, staiga buvo sąžiningas žaidimas, kad jie su juo darys ką nori.
Apskritai tai virto pasauliu, kuriame federalinė vyriausybė iš esmės gali rinkti bet kokią informaciją, kuri liečiasi už JAV ribų. Net jei tai vyksta tik tarp dviejų JAV asmenų, jei jie pamini ar net užsimena apie ką nors, kas nėra JAV pilietis, netikėtai tai yra sąžiningas žaidimas. Ir iš to gavome masinį JAV asmenų sekimą, kurį atlieka NSA, kuri tvirtina ir viešai teigia, kad nesnipinėja JAV asmenų.
Kaip mes pasiekėme šį tašką? Tai yra daug laipsniškų kūdikio žingsnių. Jūs paminėjote Jamesą Clapperį 2012 m., tai yra Obamos administracija. Minėjote Ronaldą Reiganą, tai 1980 m. Čia einame per demokratus ir respublikonus.
Karas su terorizmu įvyko George'o W. Busho administracijoje, o Rugsėjo 11-oji ir Patriotų aktas įvyko George'o W. Busho administracijoje. Prie abiejų partijų prezidentų, abiejų partijų kongresų yra daug blogų dalykų. Kaip tai atsitiko?
Paprasčiausia jo forma yra ta, kad niekas ir tikrai joks prezidentas nenori būti prezidentu tuo metu, kai įvyksta didelis teroristinis išpuolis, nes dėl to jie atrodo prastai. Akivaizdu, kad jie taip pat nori apsaugoti amerikiečius, tiesa? Tai jų darbo dalis. Jei turite žvalgybos bendruomenę, kuri iš esmės veikia tamsoje, nes taip elgiasi žvalgybos bendruomenės ir jos nuolat kreipiasi į jus ir sako: „Ei, jei galėtume gauti prieigą prie šios informacijos, tai tikrai būtų naudinga siekiant užkirsti kelią teroristiniam išpuoliui“.
Gali būti atvejų, kai tai tiesa, kad žvalgybos bendruomenė gali panaudoti šią informaciją taip, kad ji gerai veiktų. Tačiau teoriškai mes taip pat esame įstatymų visuomenė, turinti JAV konstituciją, kurios turėtume paklusti. Bet tai leido tai, kad administracija po administracijos, vėlgi, respublikonai ir demokratai, turėjo teisininkus, kurie buvo labai protingi, kurie žiūrėdavo ir sakydavo: „Na, jei mes laikomės tokios pozicijos arba mes taip išreiškiame, ar interpretuojame taip, tokiu būdu galime gauti tai, ko norime, ir techniškai nepažeisti įstatymo ar techniškai nepažeisti Ketvirtosios pataisos“.
Visada buvo daroma prielaida: „Mes galime iškreipti įstatymą arba iškreipti savo įstatymo aiškinimą, ir niekas to tikrai niekada nepamatys arba niekas, kam tai rūpi, tikrai niekada to nepamatys, todėl mes to išsisuksime“.
Yra du dalykai, kurie man labai netikėti. Viena, jūs ir aš abu skaitome daug teismų sprendimų – apeliacinių ir Aukščiausiojo teismo sprendimų. Ir mūsų Aukščiausiajame teisme vyksta kova dėl to, kaip pažodžiui interpretuoti žodžius mūsų įstatuose ir įstatymuose.
Per daug nesigilinsiu į tai, bet apskritai sakyčiau, kad mintis, kad turėtumėte tiesiog perskaityti puslapyje esančius žodžius ir daryti tai, ką jie sako, yra dominuojanti įstatyminio aiškinimo atmaina Jungtinėse Valstijose. Kairė ar dešinė, jie abu tai sako. Jie ginčijasi dėl kai kurių labai ezoterinių dalykų, ką tai iš tikrųjų reiškia. Bet kad tu turėtum tiesiog mokėti perskaityti šiuos žodžius ir daryti tai, ką jie sako, tai nėra gudrus dalykas, tiesa?
Mes nusileidome bent jau pirmame žingsnyje, ką galite padarytivadinti tekstualizmu. Kaip abiejų administracijų teisininkai taip nutolsta nuo mūsų šalyje vyraujančio teisinių sprendimų priėmimo būdo? Abiejų šalių teisėjai sutinka, kad tai bent pirmas žingsnis.
Norėčiau žinoti tikslų atsakymą, bet manau, kad tai motyvuotas samprotavimas, tiesa? Kaip advokatas, jūs esate tam, kad apgintumėte savo klientą, o mūsų teisinės sistemos sėkmė (jei galima tai vadinti sėkme) dažniausiai grindžiama rungimosi situacija, kai dėl šių dalykų ginčijasi skirtingos pusės, kai teisėjo vaidmuo yra susiaurinti ir išsiaiškinti, kuri pusė iš tikrųjų yra teisinga.
Viena iš problemų, susijusių su žvalgybos bendruomene ir jos sąranka, yra ta, kad jūs neturite tokios priešiškos situacijos. Dėl to vienai pusei lengviau pateisinti savo argumentą, nes niekas iš tikrųjų jo nestumia. Jūs derinate tai su visa apimančia kito teroristinio išpuolio baime, viskuo, kas susiję su nacionaliniu saugumu, ir net tada, kai susiduriate su situacijomis, kai turite FISA teismą – turiu galvoje, kad FISA teismas buvo šiek tiek garsus tuo, kad daugelį metų veikė kaip guminis antspaudas.
Pamiršau tikslius skaičius, bet maždaug 99 procentai FISA teismui pateiktų prašymų leisti stebėti tam tikras situacijas buvo patenkinti, ir lengva pasakyti, kad 99 procentai yra akivaizdžiai per daug. Akivaizdu, kad tie, kurie pareiškia ieškinį teismui, renkasi ir renkasi. Jie dažniausiai nekelia visiškai beprotiškų pretenzijų. Tačiau be šio priešpriešinio aspekto ir su labai stipriai motyvuota grupe žmonių, kurie galvoja: „Mums reikia tai padaryti“ arba jiems administracija sako: „Mums reikia tai padaryti“, jie ras būdų, kaip tai padaryti. Ir čia laikui bėgant atsiduri.
Ar šiame procese dalyvavo kas nors, kuris kada nors pabudo ir pasakė sau: „Vaikeli, mums pavyko iš naujo apibrėžti žodį „taikinys“, kad jis reikštų viską, ko norime“?
[Juokiasi] Akivaizdu, kad turėjote Edą Snowdeną, kuris nutekino daugybę dokumentų. Jūs turėjote Johną Napier Tye, kuris 2014 m. parašė kūrinį „The Washington Post“, kuriame atskleidė Vykdomojo įsakymo 12333 aiškinimą, ir pasakė, kad tai yra tikroji problema, į kurią reikia atkreipti dėmesį. Turite ir kitų žmonių, kurie kalbėjo apie šiuos dalykus, bet didžioji dalis žmonių, kurie dirba administracijoje su žvalgybos bendruomenės reikalais, yra perkami į žvalgybos bendruomenės požiūrį, o tai yra, kad svarbiausias tikslas yra apsaugoti šalį nuo kažko blogo. Geriausias būdas tai padaryti – turėti kuo daugiau informacijos.
Nesunku pritarti argumentui, kad taip, turėdami daugiau informacijos, jie gali ką nors sugauti anksčiau arba rasti ką nors svarbaus, tačiau viena vertus, tai gali būti netiesa. Gauti per daug informacijos tikriausiai yra lygiai taip pat blogai, kaip ir per mažai informacijos, nes ji dažnai gali paslėpti informaciją, kuri iš tikrųjų yra naudinga, informaciją, kurios jums iš tikrųjų reikia norint ką nors nustatyti.
Tačiau taip pat turime JAV Visų pirma, Konstitucija ir mes turime priežasčių, kodėl teoriškai neturėtume leisti masinio sekimo be tikėtinos priežasties. Kaip šalis, kuri tiki teisine valstybe, turėtume sugebėti tai patenkinti, o kai visa tai atsitiks tamsoje, būsite linkę tai pamiršti.
Tai atveda mane prie antropikos. Anthropic pirmiausia yra verslo įmonė. Jiems gerai sekasi valdžia, jie užaugino tuos raumenis, juose dirba žmonės, kurie tikrai gerai išmano kai kuriuos dalykus. Jie akivaizdžiai pažvelgė į Pete'ą Hegsethą, sakydamas: „Mes norime viso teisėto naudojimo“, ir jie nuleido du aiškinimo lygius ir pasakė: „Na, jūsų pažodinis įsitikinimas yra toks, kad šie žodžiai nereiškia to, ką jie sako, kad jie jiems reiškia. Taigi „visas teisėtas naudojimas“ yra per didelis, ir mes norime uždėti tam tikrus apsauginius turėklus, ypač aplink masinį sekimą.
Vėlgi, ketinu atskirti autonominius ginklus, o tai buvo kita raudona linija, bet ypač masinio stebėjimo klausimu Dario Amodei sako: "Mes galime padaryti per daug. Tai per daug pavojinga. Tai yra ketvirtosios pataisos pažeidimas".
Įtampa yra „jūs sakote, kad laikysitės šių įstatymų, kurie sako viena, o dabar, po tiek laiko, jie reiškia visiškai ką kita, ir mes tiesiog nenorime to dalyvauti“. Tai yrakovoti. Tiesiog noriu palyginti tai su Samu Altmanu, kuris puola sakydamas: „Mes naudosime visus teisėtus veiksmus“, o tada paskelbia šią ilgą žinutę, panašią į: „Štai visi įstatymai, kurių mes ketiname laikytis“.
Panašu, kad Altmanas nežinojo, kaip NSA iš naujo interpretavo šiuos dalykus ir buvo paimtas pasivažinėti. Ir nuo tada jis pradėjo vaikščioti atgal – net kai mes įrašinėjame, esu įsitikinęs, kad yra daugiau tviterių ir visų pozicijos pasikeitė. Tačiau Altmanas lėtai ėjo atgal, bet atrodo, kad „OpenAI“ buvo priverstas perskaityti įstatus ir patikėti tuo, ką jie sako. Ar tokia ir jūsų įvykių interpretacija?
Yra dvi galimybės, ir tai viena iš jų. Viena iš jų yra tai, kad jis buvo žaidžiamas taip pat, kaip visuomenė daugelį metų. Alternatyvi teorija, ir aš neįsivaizduoju, kuri iš jų yra teisinga, yra ta, kad jis arba kai kurie OpenAI teisininkai, kurie, manau, yra labai kompetentingi ir daug išmanantys, tai žinojo, bet manė, kad jie galėtų žaisti tą patį žaidimą, kurį NSA žaidė kelis dešimtmečius, nes kol jie sako šiuos dalykus, o paskui sako žodžius, bet neatskleidžia tikrosios interpretacijos, kad taip pat galėtų išsisukti. Taigi Samas pateikia teiginį, kuris atrodo taip: „Mes turėjome lygiai tokias pačias raudonas linijas kaip ir Anthropic, ir vyriausybei tai puikiai patiko“.
Tiesą sakant, manau, Samas Altmanas sakė, kad „Anthropic“ turi dvi raudonas linijas, o „OpenAI“ – tris, o vyriausybei viskas buvo gerai, ir dėl to daugelis žmonių tarsi laužo galvą. Bet aš manau, kad turi būti, kad Samas Altmanas ir visi, kas jį supa, nesuprato, kaip šie dalykai veikia praktiškai, arba suprato, ir jie tiesiog manė, kad visuomenė to nežinos ir todėl gali išsisukti.
Kitas dalykas, kuris ateina į galvą – vėlgi, dirbtinis intelektas yra naujas dalykas ir taip vilioja naujos technologijos, nes tai yra pirmo įspūdžio problemos. „Anksčiau niekam nereikėjo apie tai galvoti“, bet realybė yra tokia, kad visi apie tai galvojo ilgą laiką. Galbūt čia naujiena ne dirbtinis intelektas, o tai, kad antroji Trumpo administracija, užuot dirbusi daugybę teisininkų, kurių galbūt niekas niekada neskaitys, kad pateisintų savo veiksmus slaptam teismui, į kurį niekas nekreipia dėmesio, yra tiesiog ne tokia subtili.
Jie nėra tokie sudėtingi ir tiesiog sako, kad visą laiką šnipins visus. Jie tiesiog paskelbė apie savo ketinimus taip, kad gal visos administracijos turėtų tik paskelbti savo ketinimus ir pažiūrėti, kur krenta lustai.
Bet aš žiūriu į tai, kad čia, Niujorke, buvo Edas Snowdenas. AT&T valdo pastatą, apie kurį visi žino, kad tai NSA pastatas. Tai tiesiog milžiniškas pastatas, ir mes turėtume apsimesti, kad tai ne NSA stebėjimo centras, bet jis yra čia pat. Tai didžiulis. Atrodo, kad tai nieko nepasiekė. Dėl visų šių apreiškimų, šių nutekėjimų mes to neatmetėme.
Tiesą sakant, jis tik išaugo, nes didžioji mūsų gyvenimo dalis tampa vis labiau skaitmeninė. Ir galbūt Trumpo administracija visada yra tokia buka priemonė, todėl iš tikrųjų tai gali būti priežastis, dėl kurios reikia apskaičiuoti. Ar vis tiek matote, kad tai vyksta?
Yra keletas skirtingų dalykų, ir tai nėra visiškai tiesa, kad mes visiškai neatsisakėme šių dalykų. Snowdeno apreiškimai lėmė tam tikrus pokyčius, kaip tai vyksta. Ir dabar tokių yra – aš pamiršau, kaip jie vadinasi, bet jie yra kaip tie civiliai draugiški žmonės FISA teisme, kurie tam tikrais klausimais pristatys kitą pusę.
Ir mes matėme, kad kai kurios valdžios institucijos yra tam tikrais atžvilgiais apribotos, jos retkarčiais kreipiasi dėl pakartotinio įgaliojimo, o aktyvistai labai agresyviai stumiasi atgal ir bandė uždėti daugiau apsauginių turėklų. Bet į didesnį klausimą, manau, yra du skirtingi dalykai. Jūs pusiau teisus, kad ši administracija nėra subtili ir tik garsiai sako tai, ko neturėtų.
"Mes kariaujame su Iranu, mes tai darome, tai vyksta. Mes net nebandysime šokio."
Taip, kaip to nepadarytų visos ankstesnės administracijos. Bet jie tikrai to nepasakė tiesiogiaisekimas, ypač amerikiečių stebėjimas. Buvo užuominų apie tai, bet jos nebuvo taip stipriai išreikštos. Kita jo pusė yra labiau susijusi su Anthropic padėtimi ir bendru požiūriu į AI kaip į šią galbūt egzistencinę technologiją, kur Anthropic visada prisistatydavo kaip „mes esame mąslūs geri vaikinai“, o tai, ar tu tiki, ar ne, yra ne tik esmė. Jie turi tokią reputaciją: „Stengiamės tai daryti saugiai, gerbdami žmoniją ir atkreipdami dėmesį į visus šiuos dalykus“. Taigi, kai įvyksta susidūrimas, čia ir prasideda kova.
Turite Trumpo administraciją, kuri tiesiog nori turėti galimybę daryti tai, ką nori, ir ji nėra subtili dėl to. Ir tada jūs turite Anthropic, kurio savęs apibūdinimas ir jo viešoji asmenybė visada yra tokie: „Mes esame apgalvoti ir gerbiame žmogiškumą, teises ir visus šiuos dalykus“. Tikriausiai čia ir kilo konfliktas, nes, kaip buvo aišku, Anthropic kurį laiką dirbo su Gynybos departamentu ir turi daug kitų sutarčių su vyriausybe, kuriomis pasinaudojo. Tai nebuvo problema.
Tik šiose konkrečiose srityse, vyriausybei siekiant išplėsti savo sudarytą sutartį, Anthropic vyresnioji vadovybė pradėjo sakyti: „Palauk, turime įsitikinti, kad neperžengiame šių raudonų linijų, kurios gali pakenkti mūsų, kaip apgalvoto ir saugaus AI teikėjo, reputacijai.
Noriu trumpai jūsų paklausti apie stebėjimą apskritai, o ypač apie Anthropic ketvirtąjį pakeitimą. Ketvirtajame pakeitime teigiama, kad vyriausybė negali nepagrįstai jūsų ieškoti. Geriausias būdas suprasti ketvirtąjį pataisą yra klausytis Jay-Z „99 problemos“. Taigi, jei jums reikia padaryti pertrauką ir eiti klausytis „99 problemos“, puiku. Viskas ten. Aš klausiausi jo, kai mokiausi teisės mokykloje, ir tai buvo visiškai logiška.
Tačiau vyriausybei paprastai reikia orderio jūsų kratai. Kadangi vis daugiau jūsų gyvenimo patenka į internetą, yra daug ir daug išimčių. Tačiau idėja yra ta, kad jiems vis tiek turėtų prireikti orderio internetu. Anthropic argumentas yra toks: "Na, AI niekada nepavargs. Jis gali visą laiką ieškoti visko. Tai reiškia, kad mes tiesiog atliksime pagrindinį stebėjimą".
Tačiau dar prieš pasirodžius dirbtiniam intelektui, buvo mintis, kad vyriausybė gali apieškoti viską, kas jums priklauso, ir mintis, kad vyriausybei nereikia orderio apieškoti visus jūsų daiktus. Idėja, kad jei jūsų duomenys trumpam iškeliautų už šalies ribų, vyriausybė juos perimtų ten,
Kai mokiausi koledže, maždaug tuo metu, kai buvo priimtas Patriotų įstatymas, diskutuota, kad jie neieškos jūsų tikrųjų duomenų, bet gali gauti tik metaduomenis ir metaduomenis. Duomenų apie jūsų duomenis pakaks, kad visada būtų galima tiksliai jus rasti. Ir net tai per toli. Ir mes šokame šį šokį, ką valdžia gali surinkti? Kas yra leistina? Ko jiems reikia, kad mes visi būtume saugūs, o kas per toli? Tos linijos persikėlė.
Taigi tiesiog trumpai apibūdinkite bendrą susirūpinimą dėl stebėjimo mastu ir kur esame dabar. Prieš dirbtinio intelekto situaciją viskas buvo eksponentiškai sudėtingesnė.
Čia turiu pristatyti kitą koncepciją, kuri tikriausiai turėjo būti paminėta anksčiau, bet ji yra svarbi, kuri vadinama „trečiosios šalies doktrina“. Ketvirtosios pataisos idėja yra ta, kad vyriausybė negali apieškoti jūsų ar jūsų daiktų be orderio ir negali gauti orderio be tikėtinos priežasties, kad padarėte kokį nors nusikaltimą. Tačiau yra tokia koncepcija, kuri atsirado prieš kelis dešimtmečius, vadinama trečiosios šalies doktrina, kurioje teigiama, kad tai nebūtinai taikoma arba visai netaikoma dalykams, kurie nėra jūsų, net jei tai jūsų duomenys.
Ankstyviausia ir akivaizdžiausia to versija buvo telefonų bendrovės turimi telefono įrašai apie tai, kam skambinote. Telefonų kompanijos neįrašinėjo jūsų skambučių, bet įrašydavo, jei aš jums paskambinsiu, telefonų bendrovėje būtų įrašas, kuriame sakoma: „Maikas skambina Nilay“. Ir tai, ką nustatė keli teismai, buvo tai, kad vyriausybė gali eiti ir to prašyti, ir jiems nereikia tam orderio, nes tai nėra kratajūsų duomenis, tai yra ši trečioji šalis ir jie gali susitarti kaip trečioji šalis tiesiog perduoti tuos duomenis.
Tačiau tai buvo septintojo ir aštuntojo dešimtmečių atvejai, kai buvo nustatyta, kad vyriausybė gali gauti prieigą prie to be orderio, kai ten nebuvo tiek daug trečiųjų šalių duomenų. Kompiuterių ir interneto atsiradimas tai pakeitė. Dabar viskas yra trečiosios šalies duomenys. Viskas, ką mes darome, yra kažkur surinkta kažkurios įmonės ir turi apie tai įrašus. Taigi iš esmės visi duomenys apie jus, kur esate, su kuo kalbate, su kuo bendraujate, ką sakote, ką darote – visa tai šiais laikais beveik turi trečiosios šalys. Taigi trečiosios šalies doktrina tam tikru mastu prarijo visą ketvirtąjį pataisą, kur viskas, kas yra apie jus, ką turi kažkas kitas, yra daug žemesnis standartas, ką vyriausybė gali padaryti, kad to paprašytų.
Tiksliau tariant, tai reiškia, kad kai mano duomenys yra „iCloud“, vyriausybė gali kreiptis į „Apple“ ir gauti mano duomenis iš „iCloud“, man nieko nepranešusi?
Jie gali to prašyti. Jie gali lengvai to paprašyti be orderio. Tada įmonė turi savo teises ir gali nuspręsti, ką nori daryti su tuo prašymu. Jie gali tiesiog to atsisakyti. Jie gali, kaip ir dauguma jų, jei tai rimtas prašymas, atmesti prašymus iš rankų arba gali jus įspėti ir gali pasakyti – ir dauguma jų taip elgsis – įspės jus ir pasakys: „Vyriausybė prašo kai kurių jūsų duomenų. Galite kreiptis į teismą ir pabandyti juos blokuoti“. Jei ne, jie perduos jūsų duomenis per septynias dienas ar kas tai bebūtų.
Vėlgi, tai priklauso. Jei tai yra kriminalinis tyrimas, gali būti, kad įmonei neleidžiama jums tai pasakyti. Yra įvairių situacijų, tačiau dauguma jų yra susijusios su mažesniu nei apsaugos lygiu, kurio būtų reikalaujama pagal ketvirtąjį pataisą, jei tai būtų duomenys, bet kokia informacija ar bet kas jūsų namuose.
Duomenų kiekis, kurį turite kažkieno debesies serveryje, yra didžiulis, tiesa? Kiekvienas dalykas, kurį dabar darote internete, yra tam tikru būdu kuriamas arba įrašomas kažkieno serveriuose. Vyriausybė rado tokį būdą, kaip apeiti ketvirtąjį pataisą ir pasakyti: „Na, tai iš tikrųjų ne tavo. Tai priklauso Amazon. Galime eiti pasikalbėti su Amazon“, o „Amazon“ turi stovėti šio proceso viduryje ir pasakyti: „Mes išradome kitą procesą, kad šiek tiek apsaugotume žmones.
Žiūriu į tai – ir kai aprašiau pirmuosius trečiųjų šalių doktrinų atvejus, susijusius su debesijos paslaugomis, o vyriausybė vis laimi, tai iš esmės tada, kai tapau Džokeriu. Man atrodė: „Visa ši medžiaga, kurią mes apsimetinėjame apie tekstualizmą ir paprastą [skaitymą], tai nieko nereiškia, nes mes tik arklio jėgomis siekiame užpakalinių durų, naudodami šį senovinį dėsnį į kiekvieno duomenis“.
Ir tada aš žiūriu į tai, žiūriu į Anthropic ir sakau: „Na, čia tas pats modelis“. Tai privati įmonė, kuri sako: „Gerai, mes suprantame jūsų poziciją. Suprantame, kad jūs iš naujo interpretavote įstatymą taip, kad tai reiškia, ir mes įdėsime tam tikrą procesą tarp jūsų, mūsų įrankio ir amerikiečių duomenų, perduodamų per mūsų paslaugą“. Man tik įdomu, ar matote tą paralelę tarp Anthropic ir Amazon bei Azure ir bet kokių kitų esamų debesies paslaugų, kuriose saugoma tiek daug mūsų duomenų.
Taip, nors čia yra keletas svarbių paaiškinimų, dėl kurių tai šiek tiek skiriasi. Ir iš tikrųjų – manau, kad „The New York Times“ apie tai pranešė pirmiausia – pagrindinė sąlyga, kuri buvo svarbiausia „Anthropic“, buvo konkrečiai susijusi su duomenimis, surinktais iš komercinių paslaugų, ir apie galimybę naudoti Claude'ą tiems duomenims, o tai yra būtent ši problema, kalbant apie trečiųjų šalių duomenis. Tačiau noriu paaiškinti pagrindinį skirtumą tarp to, apie ką tik kalbėjome prieš tai su „Amazon“ ar kitomis trečiosiomis šalimis, priglobiančiomis jūsų duomenis. Tai buvo atvejai, kai dėl to, kur jie yra ekosistemoje, jie tiesiogiai priglobė jūsų duomenis.
Kalbant apie Claude, niekas nesijaudina dėl to, kad NSA peržiūri jūsų Claude naudojimą. Kalbama apie tai, kad jie išeina ir gauna trečiųjų šalių duomenis iš „Amazon“ arba, greičiausiai, tokių slaptų, paslėptų duomenų brokerių, kurie teikia skelbimus jūsų telefonuose ir žino jūsų vietą, pomėgius ir panašius dalykus. Ir tada įvesti tai į sistemąkad Klodas tada dirbs toliau. Būtent to Antropikas tikrai nenorėjo būti dalimi. Taigi, kad ir kur vyriausybė rinktų duomenis iš trečiosios šalies, Anthropic sakė: „Mes nenorime, kad mūsų įrankis būtų naudojamas tiems duomenims“.
„Apple“ garsiai stoja prieš FTB, prašydama, kad „iPhone“ būtų užpakalinės durys, o „Apple“ sako „ne“, ir jie stoja prieš Trumpą. Ir yra dalis mūsų sistemos veikimo, kai didelės privačios įmonės gali pasakyti „ne“ vyriausybei savo klientų vardu. Ir tai buvo jaučiama taip pat, kaip „Apple“ vėl neperkels „iPhone“ užpakalinių durų arba didieji debesų paslaugų teikėjai sako: „Yra šiek tiek proceso, kurį turite pereiti prieš gaudami atskirus duomenis“.
Atrodo, kad Anthropic sako: „Mes ne tik atliksime masinę duomenų, kuriuos gavote iš kitų šalių, analizę, nes tai veda prie masinio amerikiečių stebėjimo 24 valandas per parą, 7 dienas per savaitę, ir mes to nenorime“. Tačiau tai atrodo per toli šiai administracijai. Ar iš to kas nors grįžta?
Pamatysime. Praeityje, kai taip nutikdavo – ir tai atsitiko daug kartų su dauguma didelių technologijų įmonių, kažkuriuo momentu jos sakydavo, kad kažkas yra per toli – paprastai tai eina į teismą. Įmonės kreipsis į teismą arba administracija kreipsis į teismą ir bus tam tikra teisminė kova.
„IPhone“ užpakalinės durys yra puikus to pavyzdys. Tai nuėjo į teismą ir jie susiginčijo, nors iki galo nepriėjo, nes galiausiai FTB tiesiog rankiniu būdu įsilaužė į „iPhone“ ir nenorėjo, kad teismo sprendimas sugadintų tai ateityje.
Tačiau šiuo atveju, kai eskaluojama ir kai tai skiriasi nuo tų praeities situacijų, yra ta, kad Trumpo administracija ne tik kreipėsi į teismą, bet ir priskyrė „tiekimo grandinės rizikai“, o tai yra tiesiog beprotiška. Ši idėja, kad šis įrankis, kuris buvo sukurtas siekiant sustabdyti potencialius užsienio kenkėjiškus veikėjus tiekti technologijas, kurie vėliau galėtų įdėti paslėptus stebėjimo įrankius į didesnį technologijų krūvą, gali būti uždrausti. Tai taikyti JAV įsikūrusiai įmonei iš esmės dėl etikos politikos laikymosi atrodo kaip tikras, tikras piktnaudžiavimas šia priemone.
Netgi šis įrankis tam tikrais atžvilgiais buvo abejotinas, bet jūs galite suprasti, koks impulsas yra už jo, kai kalbate apie Kinijos tinklų kūrimo įmonę ar kažką panašaus. Čia tai neturi prasmės. Taigi reakcija į tai gerokai viršija tai, kas paprastai būtų matoma šiuo atveju. Galėtumėt matyti, kad tradiciškai būtų kažkokia teismo byla, kurią galėtų pradėti bet kuri pusė, ir tai būtų tik kova dėl sutarties taikymo.
Bet čia ne tai vyksta. Ši administracija veiksmingai sako: „Jei nesuteiksite mums absoliučiai visko, ko norime, jei nesutvarkysite savo įrankių, kad jie veiktų taip, kaip mes norime, mes veiksmingai stengsimės sunaikinti visą jūsų verslą“. Ir tai yra eskalacija.
Noriu užbaigti vieną šio elemento dalį, ir tai yra labiausiai galaktiškai mąstanti versija. FIRE, kuri yra žodžio laisvę propaguojanti grupė, paskelbė tinklaraščio įrašą prieš pat mums pradėdami įrašyti argumentą, kad versti Anthropic kurti įrankius, kurių ji nenori kurti, yra žodžio laisvės pažeidimas, o tai vadinama priverstine kalba. Čia daug istorijos. Čia yra gili „Verge“ ir „Techdirt“, piktžolės, egzistencinės krizės istorija.
Bet iš esmės tai susiję su mintimi, kad kodas yra kalba, kad kodo rašymas kompiuteriui yra kalbos forma ir valdžia negali priversti jūsų to daryti, ir iš to kyla daugybė dalykų. Ar perkate šį argumentą, kad priversti Anthropic kurti įrankius, kurių ji nenori kurti, yra priverstinė kalba?
Taip, aš iš tikrųjų manau, kad tai gana įtikinama. Įtikinama priverstinė kalba. Bet ne, manau, kad tai įdomus argumentas. Tai problema, apie kurią galvojau, buvo šiek tiek žemiau. Akivaizdu, kad daugiausia dėmesio skyriau ketvirtosios pataisos klausimams, bet manau, kad FIRE argumentas nėra neteisingas. Tai matėme kituose kontekstuose. Tai taip pat iškilo sprendžiant užpakalinių durų problemą, kalbant apie bandymą sukurti užpakalines duris šifruotose sistemose.
Įmonės tikrai iškėlė FirstPakeitime teigiama: „Tai yra priverstinė kalba, kuri priversti mus parašyti tokį kodą“. Tai pagrįstas argumentas. Vėlgi, teismai tikriausiai yra mažiau pasirengę tai spręsti iš pradžių, jei galėtų išspręsti šias problemas kitu būdu. Tačiau džiaugiuosi, kad FIRE paskelbė šį įrašą ir manau, kad tai įdomus ir įtikinamas argumentas.
Taip, antrosios Trumpo administracijos pobūdis yra toks bukas instrumentas, kad beveik neabejotina, kad iš karto imsimės visų problemų.
Taip, kiekvienas Teisių įstatymo pakeitimas turi būti tam tikra forma užginčytas visais įmanomais klausimais.
[Juokiasi] Pasukite ratą.
Esu tikras, kad čia galime pritaikyti trečiosios pataisos pažeidimą.
Aišku, taip. Klodas dabar turi gyventi tavo name. Būtent. Bus puiku. Mes darome [pakeitimus] vieną, trečią, ketvirtą ir septynias. Mes juos surenkame.
Maikai, tai buvo puiku. Negaliu patikėti, kad anksčiau nebuvote laidoje. Tai buvo puiku. Turite greitai grįžti.
absoliučiai. Kai tik nori manęs.
Turite klausimų ar komentarų apie šį epizodą? Susisiekite su mumis adresu decoder@theverge.com. Mes tikrai skaitome kiekvieną el. laišką!
