Tänään puhumme Anthropicin, Clauden valmistajan, sotkuisesta, nopeasti muuttuvasta tilanteesta, joka on nyt erittäin rumassa laillisessa taistelussa Pentagonin kanssa.
Edestakaiset ovat monimutkaisia, mutta vielä muutama päivä sitten Pentagon piti Anthropicia toimitusketjun riskinä, ja Anthropic on nostanut kanteen kyseenalaiseksi tuon nimeämisen sanoen, että hallitus on loukannut ensimmäisen ja viidennen lisäyksen oikeuksiaan "pyrkiessään tuhoamaan yhden maailman nopeimmin kasvavan yksityisen yrityksen luoman taloudellisen arvon". Voin kertoa sinulle heti: Aiomme puhua tuon tapauksen käänteistä The Vergessä ja täällä Decoderissa tulevina kuukausina.
Mutta tänään halusin ottaa hetken ja kaivaa tässä todellakin yksi erittäin tärkeä tekijä tässä tilanteessa, joka ei ole saanut tarpeeksi huomiota, koska tämä on karantunut hallinnasta: kuinka Yhdysvaltain hallitus valvoo, mikä on laillinen auktoriteetti, joka sallii tämän valvonnan, ja miksi Anthropic suhtautui epäluuloisesti hallitukseen sanoessaan, että se noudattaa lakia, kun se tulee käyttämään tekoälyä vielä enemmän valvontaan.
Verge-tilaajat, älä unohda, että saat yksinoikeudella pääsyn ilman mainoksia dekooderiin kaikkialla, missä saat podcastisi. Suuntaa tänne. Etkö ole tilaaja? Voit ilmoittautua tästä.
Vieraana tänään on Mike Masnick, erinomaisen ja pitkäkestoisen teknologiapolitiikkasivuston Techdirt perustaja ja toimitusjohtaja. Mike on kirjoittanut hallinnon ylituotannosta, yksityisyydestä digitaaliaikakaudella ja muista asiaan liittyvistä aiheista jo vuosikymmeniä. Hän on asiantuntija siitä, kuinka internet ja valvontatila ovat kasvaneet toisiinsa liittyvillä tavoilla.
Laki sanoo, että hallitus voi tehdä, kun se tulee valvomaan meitä, ja sitten se, mitä hallitus haluaa tehdä. Ja mikä tärkeintä, on se, mitä hallitus sanoo lain mukaan voivansa tehdä, mikä on usein täsmälleen päinvastoin kuin kuka tahansa normaali ihminen vain lukee lakia.
Kuulet Miken selittävän tässä jaksossa hyvin yksityiskohtaisesti, että emme voi – emmekä saa – ottaa Yhdysvaltain hallitusta sanassaan valvonnassa. Hallituksen lakimiehillä on aivan liian paljon historiaa, kun ne ovat vääristäneet tulkintoja yksinkertaisista sanoista, kuten "tavoite" laajentaakseen valvontaa monimutkaisilla tavoilla – tavoilla, jotka yleensä aiheuttavat huolta vain juridisissa piireissä, ja vain kuplivat, kun on olemassa valtavia kiistoja, kuten ilmiantaja Ed Snowdenin suuret NSA-paljastukset yli kymmenen vuotta sitten.
Mutta Trumpin aikakauden poliittisessa päätöksenteossa ei ole mitään hienovaraista tai hienostunutta – ja niin Anthropicin kanssa käymme erittäin kovaäänistä, hyvin julkista keskustelua teknologiasta ja valvonnasta reaaliajassa, Internetissä, blogikirjoituksissa ja X-huutoiluissa sekä lehdistötilaisuuksien ääneen. Siinä on positiivisia ja negatiivisia puolia, mutta ymmärtääksesi kaiken, sinun on todella tunnettava historia.
Sitä Mike ja minä pyrimme selittämään tässä jaksossa – olipa näkemyksesi tekoälystä ja hallituksesta mikä tahansa, tämä jakso tekee selväksi, että molemmat osapuolet ovat antaneet valvontatilan kasvaa ja kasvaa ajan myötä. Nyt olemme tekoälyn suurimman laajentumisen partaalla.
Okei: Techdirin perustaja ja toimitusjohtaja Mike Masnick Anthropicista, Pentagonista ja tekoälyn valvonnasta. Tässä mennään.
Tätä haastattelua on muokattu kevyesti pituuden ja selkeyden vuoksi.
Mike Masnick, olet Techdirtin perustaja ja toimitusjohtaja. Tervetuloa Dekooderiin.
Olen iloinen voidessani olla täällä.
Olen innoissani saadessani sinut mukaan. Sanoin vain, että olen järkyttynyt, ettet ole koskaan ollut ohjelmassa ennen. Sinä ja minä olemme kirjoittaneet ja julkaisseet toisillemme pitkään. Suuri osa The Vergen politiikan kattavuudesta on velkaa siitä, mitä olet tehnyt Techdirtissä, ja sitten se, mitä Anthropicissa tapahtuu, on niin monimutkaista, mutta osuu niin moniin teemoihin, joita olet käsitellyt niin kauan. Olen iloinen, että olet vihdoin täällä.
Se on monimutkainen sotku aiheesta, mutta olen innoissani perehtyäni siihen.
En halua keskittyä kanssasi yksityiskohtiin siitä, aikooko Anthropic allekirjoittaa sopimuksen hallituksen kanssa vai saako OpenAI kyseisen sopimuksen. Sen sijaan olen varma, että sen äänittämisen ja sen kuuntelun välillä on tullut enemmän twiittejä ja enemmän asioita tulee olemaan erilaisia kuin ennen.
Haluan keskittyä vain yhteen kahdesta punaisesta linjasta, jotka Anthropic on todella luonut. Yksi niistä onautonomiset aseet, mikä on omanlaisensa monimutkaisuus. Siellä laki on hieman syntymässä riippumatta siitä, onko aseita edes olemassa tai Venäjä on jo käyttänyt niitä Ukrainan sodassa.
Tässä on paljon ideoita, jotka haluan vain jättää syrjään, koska uskon, että se tulee keskittymään enemmän oman aikataulunsa mukaan. Toinen punainen viiva, johon haluan käyttää paljon aikaa, on joukkovalvonta. Ja täällä on melko paljon lakia joukkovalvonnasta. Siellä on paljon historiaa, paljon kiistanalaista historiaa. Edward Snowdenin koko hahmo on olemassa joukkovalvontaa koskevien kiistojen takia.
Kaikki johtuu – luulen, että sinä olet se, joka julkaisi tämän – National Security Agencystä (NSA), joka on osa puolustusministeriötä, jota meidän täytyy nyt jostain syystä kutsua sotaministeriöksi.
[nauraa] Meidän ei tarvitse tehdä mitään.
[nauraa] Emme. Se on totta täällä Amerikassa. Meidän ei tarvitse tehdä mitään. Mutta NSA on pohjimmiltaan määritellyt uudelleen sen, mitä monet sanat tarkoittavat englannin puhekielessä tarkoittamaan: "Voimme vain valvoa". Ja silloin tällöin syntyy skandaali, kun ihmiset huomaavat suorittavansa vain valvontaa. Joten aseta vain vaihe sinne, enkä halua kelata sinua koko matkaa taaksepäin, mutta on ollut melko kauan, kun tämä kuvio on toistunut.
Se riippuu siitä, kuinka syvälle haluat mennä, mutta lyhyt versio on ilmeisesti 9/11 jälkeisessä maailmassa, USA hyväksyi Patriot Actin, jolla oli hallitukselle jonkin verran kykyä osallistua valvontaan, jonka piti suojella meitä tulevia terroriuhkia vastaan. Ajan myötä sitä tulkittiin mielenkiintoisilla tavoilla, ja sillä oli joitain rajoituksia. Meillä oli myös FISA-tuomioistuin, joka on erityistuomioistuin, jonka on tarkoitus tarkastella tiedusteluyhteisöä ja heidän toimintaansa, mutta joka on perinteisesti ollut yksipuolinen tuomioistuin. Vain toinen osapuoli voi vedota asiansa tuohon tuomioistuimeen ja kaikki tehdään salassa.
On paljon asioita, joita ei tiedetty. Ja sitten tässä kaikessa oli vielä yksi kappale, joka juontaa juurensa Ronald Reaganille, joka on toimeenpanomääräys 12333, jonka oletetaan olevan tiedustelutietojen keräämisen sääntöjä.
Joten sinulla on nämä kolme lakikokonaisuutta – no, muutama lakikokonaisuus – ja toimeenpanomääräys, joka yleisölle, osat, jotka voit lukea, näyttävät kertovan tiettyjä asioita siitä, mitä hallituksemme ja erityisesti NSA voivat tehdä valvonnan suhteen. Kun luetaan tavallisella englanninkielisellä sanakirjalla, jonka luonteen sinä ja minä luultavasti ymmärrämme ja ymmärrämme, uskomme, että NSA:n kyky valvoa amerikkalaisia oli hyvin rajallinen, itse asiassa siinä määrin, että heidän pitäisikin, jos he ymmärtävät tarkkailevansa yhdysvaltalaista henkilöä, että heidän pitäisi välittömästi lopettaa ja huutaa likaa ja poistaa kaikki muut tiedot.
Hetken ajan huhuttiin, että näin ei todellakaan tapahdu, ja vihjauksia oli, ja erityisesti senaattori Ron Wyden oli erittäin äänekäs siitä, että meni senaatin lattialle ja sanoi: "Jotain ei ole oikein, enkä osaa sanoa mitä", tai kuulemistilaisuudessa hän kysyi tiedusteluviranomaisilta: "Kerätkö vai etkö kerää massadataa amerikkalaisista?"
Nämä virkamiehet joko poikkesivat tai joissain tapauksissa suoranaisesti valehtelivat. Uskon, että se oli yksi kuulemistilaisuus vuonna 2012 James Clapperin kanssa, joka oli tuolloin National Intelligence -johtaja, ja jossa häneltä kysyttiin suoraan tästä asiasta. Ja periaatteessa hän sanoi: "Ei, emme kerää tietoja amerikkalaisista." Se oli suuri osa siitä, mikä inspiroi Ed Snowdenia vuotamaan tiedot, raportit, jotka hän vuoti myös Glenn Greenwaldille ja Barton Gellmanille ja Laura Poitrasille. Kaiken tämän perusteella aloimme havaita, että NSA:lla on oma sanakirja, joka on hieman erilainen kuin sinun ja minä käyttämämme sanakirja, joten he voivat tulkita sanoja eri tavoilla kuin niiden englanninkielinen merkitys, mukaan lukien sanat, kuten "target", joka tuntuu avainsanalta. Laaja käsitys siitä, mitä tämä on, on se, että teoriassa niiden pitäisi kohdistaa vain ihmisiin, jotka eivät ole yhdysvaltalaisia, mielestäni tämä lause.
Mutta tapa, jolla sitä oli tulkittu ajan mittaan, oli se, että kaikki, mikä mainitsee kyseisen henkilön, kaikki mikä koskee ulkomaalaista henkilöä, on nyt reilua peliä, vaikka se olisikinYhdysvaltain henkilö. Joten jos sinä ja minä laittaisimme toisillemme tekstiviestin ja mainitsemme vieraan henkilön, se on nyt NSA:n reilu peli kerätä, säilyttää ja varastoida.
Tästä on toinen osa. Mainitsin ensimmäisen Ronald Reaganin antaman toimeenpanomääräyksen 12333, joka tekniikan muuttuessa ajan myötä ja Internetin lisääntyessä antoi NSA:lle mahdollisuuden hyödyntää ulkomaista viestintää, mutta se sisälsi kaikki viestit, jotka saattoivat lähteä Yhdysvalloista matkalla jonnekin. Joten jos lähetän sinulle tekstiviestin ja minulta lähetettiin viesti Kaliforniasta valokuitukaapelin kautta, joka sattui lähtemään Yhdysvalloista, NSA voisi laittaa hanan osaan, kun se on Yhdysvaltojen ulkopuolella, ja kerätä tiedot, vaikka se menisi sinulle vain Yhdysvalloissa.
NSA voisi sitten säilyttää nämä tiedot, vaikka ne koskivat yhdysvaltalaisia henkilöitä, ja he voisivat tehdä niistä myöhemmin erityisiä hakuja, joita joskus kutsutaan "takaoven hauiksi". He keräsivät nämä tiedot, joita uskomme, että heidän ei alun perin pitänyt kerätä, mutta he saattoivat pitää ne. Ja he lupasivat, he pinky vannoivat, että he pitävät sen yksityisenä, mutta jos he tekivät etsinnän ja huomasivat, että sinä tai minä mainitsimme vieraan henkilön, niin yhtäkkiä heidän oli reilu peli tehdä sillä mitä haluavat.
Kaiken kaikkiaan siitä on tullut maailma, jossa liittovaltion hallitus voi pohjimmiltaan kerätä mitä tahansa tietoa, joka sattuu koskettamaan Yhdysvaltojen ulkopuolella. Vaikka se olisi täysin kahden yhdysvaltalaisen välistä, jos he mainitsevat tai jopa vihjaavat jonkun, joka ei ole yhdysvaltalainen, yhtäkkiä se on reilu peli kerätä. Ja siitä olemme saaneet NSA:n suorittaman yhdysvaltalaisten henkilöiden massavalvonnan, joka väittää ja ilmoittaa julkisesti, ettei se vakoile yhdysvaltalaisia henkilöitä.
Kuinka pääsimme tähän pisteeseen? Tämä on paljon asteittaisia vauvan askeleita. Mainitsit James Clapperin vuonna 2012, se on Obaman hallinto. Mainitsit Ronald Reaganin, se on 1980-luku. Täällä käydään läpi demokraatteja ja republikaaneja.
Terrorismin vastainen sota tapahtui George W. Bushin hallinnossa, ja 9/11 ja Patriot Act tapahtuivat George W. Bushin hallinnossa. Molempien puolueiden presidenttien alaisuudessa, molempien puolueiden kongresseissa on paljon huonoja asioita. Miten tämä tapahtui?
Yksinkertaisin muoto on vain se, että kukaan, eikä varmasti kukaan presidentti, ei halua olla presidentti aikana, jolloin tapahtuu suuri terrori-isku, koska se saa heidät näyttämään huonolta. Ilmeisesti he haluavat myös suojella amerikkalaisia, eikö niin? Se on osa heidän työtään. Jos sinulla on tiedusteluyhteisö, joka toimii pohjimmiltaan pimeässä, koska niin tiedusteluyhteisöt tekevät ja he tulevat jatkuvasti luoksesi ja sanovat: "Hei, jos saisimme pääsyn näihin tietoihin, se olisi todella hyödyllistä terrori-iskun estämisessä."
Saattaa olla tapauksia, joissa se on totta, että tiedusteluyhteisö pystyy käyttämään tätä tietoa tavalla, joka toimii hyvin. Mutta teoriassa olemme myös lakiyhteiskunta, jolla on Yhdysvaltain perustuslaki, jota meidän pitäisi noudattaa. Mutta tämä mahdollisti sen tosiasian, että hallinnolla toisensa jälkeen, jälleen republikaaneilla ja demokraateilla, oli asianajajia, jotka olivat erittäin fiksuja ja jotka katsoivat läpi ja sanoivat: "No, jos me tavallaan kannamme tällä tavalla tai ilmaisemme näin tai tulkitsemme tämän, sillä tavalla voimme saada haluamamme, emmekä teknisesti riko lakia tai emme teknisesti riko neljättä lisäystä."
Oletus oli aina: "Voimme tavallaan taivuttaa lakia tai vääristää lain tulkintaamme, eikä kukaan todella koskaan näe tätä, tai kukaan, joka välittää, ei todellakaan tule koskaan näkemään tätä, ja siksi me selviämme siitä."
On kaksi asiaa, jotka todella osuvat minuun. Ensinnäkin, sinä ja minä luimme paljon oikeuden päätöksiä – muutoksenhakutuomioistuimen päätöksiä ja korkeimman oikeuden päätöksiä. Ja korkeimmassa oikeudessamme käydään taistelua siitä, kuinka tulkita kirjaimellisesti sääntöjemme ja lakiemme sanat.
En mene siihen liian pitkälle, mutta sanoisin yleisesti, että ajatus siitä, että sinun pitäisi vain lukea sivulla olevat sanat ja tehdä mitä ne sanovat, on hallitseva lakisääteinen tulkinta Yhdysvalloissa. Vasen tai oikea, molemmat sanovat sen. He kiistelevät joistakin erittäin esoteerisista hienoista kohdista siitä, mitä se todellisuudessa tarkoittaa. Mutta se, että sinun pitäisi vain pystyä lukemaan nämä sanat ja tekemään mitä ne sanovat, ei ole itsestäänselvyys, eikö niin?
Olemme päässeet ainakin siihen ensimmäiseen kiertoonkutsua tekstualismiksi. Miten molempien hallintojen lakimiehet pääsevät näin kauas maamme hallitsevasta laillisesta päätöksenteosta? Molempien osapuolten tuomarit ovat yhtä mieltä siitä, että tämä on ainakin ensimmäinen askel.
Toivon, että tietäisin tarkan vastauksen, mutta mielestäni se on motivoitunutta päättelyä, eikö niin? Asianajajana olet paikalla puolustamassa asiakastasi ja oikeusjärjestelmämme menestys – jos sitä voi kutsua menestykseksi – perustuu yleensä kontradiktoriseen tilanteeseen, jossa eri puolet kiistelevät näistä asioista, jolloin tuomarin tehtävänä on kaventaa ja selvittää, kumpi puoli on itse asiassa oikea.
Yksi tiedusteluyhteisön ja sen kokoonpanon ongelmista on, että sinulla ei ole tuota vastakkainasettelua. Tämä helpottaa toisen osapuolen perustelemista esittämäänsä väitettä, koska kukaan ei todella painosta sitä. Yhdistät tämän kaiken kattavaan toisen terrori-iskun pelkoon, kaikkeen, joka liittyy kansalliseen turvallisuuteen, ja jopa silloin, kun sinulla on tilanteita, joissa sinulla on FISA-tuomioistuin – tarkoitan, että FISA-tuomioistuin oli jossain määrin kuuluisa siitä, että se toimi tehokkaasti kumileimasina useiden vuosien ajan.
Unohdan tarkat luvut, mutta FISA-tuomioistuimelle hakemuksista, joissa haluttiin valvoa tiettyjä tilanteita, yli 99 prosenttia hyväksyttiin, ja on helppo sanoa, että 99 prosenttia on selvästi liikaa. Ilmeisesti ne, jotka tuovat kanteita tuomioistuimeen, he valitsevat ja valitsevat. Ne eivät suurimmaksi osaksi tuota täysin hulluja väitteitä. Mutta ilman tätä vastakkainasettelua ja erittäin vahvasti motivoituneen ryhmän kanssa, joka ajattelee: "Meidän on tehtävä tämä" tai hallinnolta sanotaan: "Meidän on tehtävä tämä", he löytävät tapoja tehdä se. Ja siihen päädyt ajan myötä.
Onko kukaan ollut mukana tässä prosessissa, joka on koskaan herännyt ja sanonut itselleen: "Poika, olemme onnistuneet määrittelemään sanan "kohde" uudelleen tarkoittamaan mitä tahansa haluamme"?
[Nauraa] Ilmeisesti sinulla oli Ed Snowden, joka vuoti joukon asiakirjoja. Sinulla oli John Napier Tye, joka kirjoitti The Washington Postille vuonna 2014 artikkelin, joka paljasti toimeenpanomääräyksen 12333 tulkinnan ja sanoi, että se on todellinen ongelma, johon on kiinnitettävä huomiota. Teillä on muitakin, jotka ovat puhuneet näistä asioista, mutta suurimmaksi osaksi ne, jotka ovat mukana hallinnossa tiedusteluyhteisöasioissa, on ostettu tiedusteluyhteisön näkemykseen, joka on, että ylivoimainen tavoite on suojella maata joltakin pahalta. Paras tapa tehdä se on saada mahdollisimman paljon tietoa.
On helppo suhtautua myötätuntoisesti väitteeseen, että kyllä, jos heillä on enemmän tietoa, he voivat saada jotain aikaisemmin kiinni tai löytää jotain tärkeää, mutta yksi, se ei ehkä ole totta. Liian suuren tiedon saaminen on luultavasti aivan yhtä huonoa kuin liian vähän tietoa, koska se voi usein piilottaa tiedot, jotka ovat todella hyödyllisiä, tiedot, joita tarvitset jonkin määrittämiseen.
Mutta meillä on myös U..S. Ensinnäkin perustuslaki, ja meillä on syitä, miksi meidän ei teoriassa pitäisi sallia joukkovalvontaa ilman todennäköistä syytä. Oikeusvaltioon uskovana maana meidän pitäisi pystyä elämään sen mukaisesti, ja kun tämä kaikki tapahtuu pimeässä, se on taipumus unohtaa.
Tämä vie minut Anthropiciin. Anthropic on ensisijaisesti yritysyritys. He ovat hyviä hallituksessa, he ovat rakentaneet ne lihakset, heillä on ihmisiä, jotka ovat todella perehtyneet joihinkin näihin asioihin. He ilmeisesti katsoivat Pete Hegsethiä sanoen: "Haluamme kaiken laillisen käytön", ja he laskivat kaksi tulkintatasoa alaspäin ja sanoivat: "No, kirjaimellinen uskosi on, että nämä sanat eivät tarkoita sitä, mitä he sanovat tarkoittavan heidän kasvoillaan. Joten 'kaikki lailliset käytöt' on liian suuri, ja haluamme asettaa suojakaiteet erityisesti joukkovalvonnan ympärille.
Jälleen, aion sulkea autonomiset aseet, mikä oli toinen punainen viiva, mutta erityisesti joukkovalvonnassa Dario Amodei sanoo: "Voimme tehdä liikaa. Tämä on liian vaarallista. Tämä on neljännen lisäyksen rikkomus."
Jännite on "sanotte, että aiot noudattaa näitä lakeja, jotka sanovat yhden asian, ja nyt, kaiken tämän ajan jälkeen, ne tarkoittavat jotain täysin erilaista, emmekä halua olla osa sitä." Se ontaistella. Haluan vain verrata sitä Sam Altmaniin, joka ryntää sanoen: "Teemme kaikki lailliset käyttötarkoitukset" ja lähettää sitten tämän pitkän viestin seuraavasti: "Tässä ovat kaikki lait, joita aiomme noudattaa."
Näyttää siltä, että Altman ei tiennyt, kuinka NSA oli tulkinnut nämä asiat uudelleen ja joutui ikään kuin pyöräilemään. Ja hän on sittemmin alkanut kävellä sitä takaisin – vaikka äänitämme, olen varma, että twiittejä on enemmän ja kaikkien asennot ovat muuttuneet. Mutta Altman on kävellyt sitä hitaasti takaisin, mutta näyttää siltä, että OpenAI oli köytynyt lukemaan sääntöjä kasvoiltaan ja uskomaan heidän sanomaansa. Onko tämä myös sinun tulkintasi tapahtumista?
On kaksi mahdollisuutta, ja tämä on yksi niistä. Yksi on se, että häntä pelattiin samalla tavalla kuin yleisöä useiden vuosien ajan. Vaihtoehtoinen teoria, ja minulla ei ole aavistustakaan, kumpi näistä on totta, on se, että hän tai jotkut OpenAI:n lakimiehistä – jotka ovat mielestäni erittäin päteviä ja hyvin perillä – tiesivät tämän, mutta ajattelivat, että he voisivat pelata samaa peliä, jota NSA pelasi muutaman vuosikymmenen ajan, sillä niin kauan kuin he sanovat nämä asiat ja sanovat sitten sanat, mutta eivät paljasta todellisia tulkintoja, että he voisivat myös päästä eroon. Joten Sam esittää lausunnon, joka saa sen näyttämään siltä, että "Meillä oli täsmälleen samat punaiset linjat kuin Anthropicilla, ja hallitus suhtautui siihen loistavasti."
Itse asiassa luulen, että Sam Altman sanoi, että Anthropicilla oli kaksi punaista linjaa ja OpenAI:lla kolme, ja hallitus oli täysin kunnossa sen kanssa, ja se sai monet ihmiset raapimaan päätään. Mutta mielestäni sen täytyy olla joko se, että Sam Altman ja kuka tahansa hänen ympärillään ei ymmärtänyt, miten nämä asiat käytännössä toimivat, tai he ymmärsivät, ja he vain olettivat, että yleisö ei tietäisi ja siksi he voisivat selvitä siitä.
Toinen mieleen tuleva asia – tekoäly on jälleen uusi ja on niin houkuttelevaa lähestyä uusia teknologioita, koska nämä ovat ensivaikutelman ongelmia. "Kenenkään ei ole koskaan tarvinnut ajatella tätä ennen", mutta todellisuus on, että kaikki ovat miettineet tätä asiaa pitkään. Ehkä asia, mikä tässä on uutta, ei ole tekoäly, vaan se, että Trumpin toinen hallinto sen sijaan, että hän tekisi joukon juristeja, joita kukaan ei ehkä koskaan lue perustellakseen toimintaansa salaiselle tuomioistuimelle, johon kukaan ei kiinnitä huomiota, ei sen sijaan ole niin hienovarainen.
He eivät ole niin kehittyneitä ja sanovat vain vakoilevansa kaikkia koko ajan. He vain ilmoittivat aikeestaan tavalla, että ehkä kaikkien hallintojen pitäisi vain ilmoittaa aikeistaan ja katsoa mihin pelimerkit putoavat.
Mutta katson sitä tosiasiaa, että täällä New Yorkissa oli Ed Snowden. AT&T ylläpitää rakennusta, jonka kaikki tietävät olevan NSA:n rakennus. Se on vain jättimäinen rakennus, ja meidän pitäisi teeskennellä, ettei se ole NSA:n valvontakeskus, mutta se on siellä. Se on valtava. Mikään näistä ei näytä johtaneen mihinkään. Kaikki nämä paljastukset, nämä vuodot, emme ole tukeneet sitä.
Itse asiassa se on vain lisääntynyt, kun niin suuri osa elämästämme on muuttunut yhä digitaalisemmaksi. Ja ehkä Trumpin hallinto on aina niin tylsä väline, että se saattaa itse asiassa aiheuttaa laskennan. Näetkö sen kuitenkin toimivan?
Siellä on muutamia erilaisia asioita, emmekä ole täysin totta, ettemme ole luopuneet näistä asioista. Snowdenin paljastukset johtivat joihinkin muutoksiin näiden asioiden tapahtumisessa. Ja nyt niitä on – unohdan, miksi heitä kutsutaan, mutta he ovat kuin nämä siviilimielimiehet FISA-tuomioistuimessa, jotka esittävät toista puolta tietyissä asioissa.
Ja olemme nähneet joidenkin viranomaisten olevan rajoitettuja tietyillä tavoilla, ja he joutuvat uudelleen valtuuttamaan aina niin usein, ja aktivistit ovat olleet erittäin aggressiivisia työntäessään takaisin ja yrittäessään laittaa lisää suojakaiteita. Mutta suurempaan kysymykseen, mielestäni on kaksi eri asiaa. Olet puoliksi oikeassa siinä, että tämä hallinto ei ole hienovarainen ja sanoo vain ääneen asiat, joita sen ei pitäisi.
"Olemme sodassa Iranin kanssa, teemme sen, se tapahtuu. Emme edes aio kokeilla tanssia."
Tavalla, jota kaikki aiemmat hallitukset eivät tekisi. Mutta he eivät ole sanoneet siitä suoraantarkkailu, erityisesti amerikkalaisten valvonta. Siitä on ollut vihjeitä, mutta ne eivät ole tuoneet niin vahvasti esiin. Toinen puoli siitä liittyy enemmän Anthropicin sijoittumiseen ja yleiseen näkemykseen tekoälystä tämän mahdollisesti eksistentiaalisena teknologiana, jossa Anthropic on aina esittänyt itsensä nimellä "Olemme harkitsevia hyviä tyyppejä", ja uskotko sen vai ei, on jotain muuta kuin pointtia. Heillä on tällainen maine: "Yritämme tehdä tämän turvallisella tavalla, joka kunnioittaa ihmisyyttä ja kiinnittää huomiota kaikkiin näihin asioihin." Ja kun teillä on tuo yhteenotto, siinä taistelu tulee esiin.
Teillä on Trumpin hallinto, joka haluaa vain pystyä tekemään mitä haluaa, eivätkä he ole sen suhteen hienovaraisia. Ja sitten sinulla on Anthropic, jonka itsekuvaus ja sen julkinen persoona on aina kuin: "Olemme harkittuja ja kunnioitamme ihmisyyttä ja oikeuksia ja kaikkia näitä asioita." Siellä luultavasti yhteentörmäys tuli, koska Anthropic, kuten on tehty selväksi, on työskennellyt puolustusministeriön kanssa jonkin aikaa ja sillä on monia muita sopimuksia hallituksen kanssa, joita se on käyttänyt. Se ei ole ollut ongelma.
Vain näillä erityisalueilla, kun hallitus pyrki laajentamaan sopimustaan, Anthropicin ylin johto alkoi sanoa: "Odota, meidän on varmistettava, ettemme ylitä näitä punaisia viivoja, jotka mahdollisesti vahingoittaisivat mainettamme harkitsevana ja turvallisena tekoälyn tarjoajana."
Haluan kysyä teiltä lyhyesti valvonnasta yleensä ja erityisesti Anthropicin neljännen muutoksen huolenaiheesta. Neljäs lisäys sanoo, että hallitus ei voi perusteettomasti etsiä sinua. Paras tapa ymmärtää neljäs lisäys on kuunnella Jay-Z:n "99 ongelmaa". Joten jos sinun täytyy pitää tauko ja mennä kuuntelemaan "99 Problems", se on hienoa. Kaikki on siellä. Kuuntelin sitä lakikoulussa ja se oli täysin järkevää.
Mutta hallitus tarvitsee yleensä luvan sinun etsintään. Ja kun yhä suurempi osa elämästäsi menee verkkoon, tähän on monia ja monia poikkeuksia. Mutta ajatuksena on, että heidän pitäisi silti tarvita valtakirja verkossa. Anthropicin argumentti on: "Tekoäly ei koskaan väsy. Se voi etsiä kaikkea koko ajan. Tämä tarkoittaa, että teemme vain päävalvontaa."
Silti jo ennen tekoälyn ilmestymistä oli olemassa ajatus siitä, että hallitus voisi etsiä kaiken, mikä kuului sinulle, ja ajatus siitä, että hallitus ei tarvinnut lupaa etsiäkseen kaikkea tavarasi. Ajatus siitä, että jos jokin tiedoistasi meni hetkeksi maan ulkopuolelle, hallitus sieppasi sen siellä,
Kun olin yliopistossa, Patriot Actin aikoihin, keskustelu oli siitä, että he eivät aio etsiä todellisia tietojasi, mutta he voivat saada metatiedot ja metatiedot yksin. Tietojasi koskevat tiedot riittävät paikantamaan sinut tarkasti aina. Ja sekin on liian kaukana. Ja olemme tanssineet sitä, mitä hallitus voi kerätä? Mikä on sallittua? Mitä he tarvitsevat pitääkseen meidät kaikki turvassa ja mikä on liian kaukana? Nuo rivit ovat siirtyneet.
Joten kuvaile vain lyhyesti yleistä huolta valvonnasta siinä mittakaavassa ja missä olemme nyt. Ennen tekoälyn tilanne teki kaikesta eksponentiaalisesti monimutkaisempaa.
Tässä minun on esitettävä toinen käsite, joka olisi luultavasti pitänyt mainita aiemmin, mutta se on tärkeä, jota kutsutaan "kolmannen osapuolen opiksi". Neljännen lisäyksen ideana on, että hallitus ei voi etsiä sinua tai tavaroitasi ilman lupaa, eikä se voi saada lupaa ilman todennäköistä syytä, että olet tehnyt jonkinlaisen rikoksen. Mutta on tämä konsepti, joka syntyi vuosikymmeniä sitten ja jota kutsutaan kolmannen osapuolen opiksi, jonka mukaan se ei välttämättä päde tai ei päde ollenkaan asioihin, jotka eivät ole sinun, vaikka ne olisivatkin tietosi.
Varhaisin ja ilmeisin versio tästä oli puhelinyhtiön hallussa olleet puhelintiedot siitä, kenelle soitit. Puhelinyhtiöt eivät nauhoittaneet puheluitasi, mutta jos soitan sinulle, puhelinyhtiössä olisi äänite, jossa sanotaan: "Mike soittaa Nilaylle." Ja useat tuomioistuimet olivat päättäneet, että hallitus voi mennä ja pyytää sitä, eivätkä he tarvitse siihen lupaa, koska se ei ole kotietsintä.tietosi, se on tämä kolmas osapuoli, ja he voivat sopia kolmantena osapuolena vain luovuttamaan kyseiset tiedot.
Mutta ne olivat tapauksia 1960- ja 70-luvuilta, jolloin päätettiin, että hallitus voi päästä käsiksi niihin ilman lupaa, kun siellä ei ollut niin paljon kolmannen osapuolen tietoja. Tietokoneiden ja Internetin nousu muutti tämän. Nyt kaikki on kolmannen osapuolen tietoja. Kaikki mitä teemme, on jonkun yrityksen keräämä jostain ja siitä on kirjattu. Joten pohjimmiltaan kaikki tiedot sinusta, missä olet, kenen kanssa puhut, kenen kanssa olet vuorovaikutuksessa, mitä sanot, mitä teet, kaikki tämä on melko suurelta osin kolmansien osapuolien hallussa näinä päivinä. Joten kolmannen osapuolen oppi on niellyt jossain määrin koko neljännen lisäyksen, jossa kaikki, mikä liittyy sinuun ja jollain muulla on, on paljon alhaisempi sille, mitä hallitus voi tehdä pyytääkseen sitä.
Tarkemmin sanottuna tämä tarkoittaa, että kun tietoni ovat iCloudissa, hallitus voi mennä Applelle ja saada tietoni pois iCloudista kertomatta minulle koskaan?
He voivat pyytää sitä. He voivat helposti pyytää sitä ilman lupaa. Sitten yrityksellä on omat oikeutensa ja se voi päättää, mitä he haluavat tehdä pyynnöllä. He voivat vain luopua siitä. He voivat, kuten useimmat heistä tekevät, jos kyseessä on vakava pyyntö, hylätä pyynnöt käsistä tai he voivat varoittaa sinua ja he voivat sanoa – ja useimmat heistä tekevät näin – he varoittavat sinua ja sanovat: "Hallitus pyytää tietojasi. Voit mennä oikeuteen ja yrittää estää ne." Jos ei, he luovuttavat tietosi seitsemän päivän kuluttua tai missä tahansa.
Jälleen se riippuu. Jos kyseessä on rikostutkinta, saattaa olla olemassa jonkinlainen gag-määräys, josta yritys ei saa kertoa sinulle. On kaikenlaisia tilanteita, mutta useimpiin niistä liittyy vähemmän suojaustasoa kuin neljäs lisäys edellyttäisi, jos kyseessä olisi data tai mikä tahansa tieto tai jotain omassa kodissasi.
Tietomäärä, joka sinulla on jonkun toisen pilvipalvelimella, on valtava, eikö? Jokainen asia, jonka teet yleensä Internetissä nyt, varmuuskopioidaan jollakin tavalla tai tallennetaan jollain tavalla jonkun toisen palvelimille. Hallitus on löytänyt tämän tavan kiertää neljäs muutos ja sanoa: "No, se ei todellakaan ole sinun. Se kuuluu Amazonille. Voimme mennä puhumaan Amazonille", ja Amazonin on seisottava tämän prosessin keskellä ja sanottava: "Olemme keksineet toisen prosessin suojellaksemme ihmisiä."
Katson sitä – ja kun kerroin ensimmäisistä kolmannen osapuolen opintapauksista, jotka kattoivat pilvipalvelut ja hallitus voitti jatkuvasti, periaatteessa minusta tuli Jokeri. Ajattelin: "Kaikki nämä asiat, joita teeskentelemme tekstualismista ja yksinkertaisesta [lukemisesta], mikään niistä ei tarkoita mitään, koska me vain hevosvoimia takaovelle käyttämällä tätä ikivanhaa lakia kaikkien tietoihin."
Ja sitten katson tätä ja katson Anthropicia ja sanon: "No, tämä on sama kuvio." Tämä on yksityinen yritys, joka sanoo: "Okei, ymmärrämme kantasi. Ymmärrämme, että olet tulkinnut lain uudelleen tarkoittamaan tätä asiaa, ja aiomme laittaa prosessin sinun, työkalumme ja palvelumme kautta kulkevien amerikkalaisten tietojen väliin." Mietin vain, näetkö tuon rinnakkaisuuden Anthropicin ja Amazonin ja Azuren ja muiden olemassa olevien pilvipalvelujen välillä, jotka sisältävät niin paljon dataamme.
Kyllä, vaikka tässä on muutamia tärkeitä selvennyksiä, jotka tekevät tästä hieman erilaisen. Ja itse asiassa – luulen, että The New York Times kertoi tästä ensin – tärkein lauseke, joka oli Anthropicille tärkein, koski nimenomaan kaupallisista palveluista kerättyä dataa ja sitä, ettei Claudea voinut käyttää kyseisiin tietoihin, mikä on juuri tämä kysymys kolmannen osapuolen tietojen kannalta. Mutta haluan selventää pääasiallista eroa sen välillä, mistä juuri puhuimme ennen tätä Amazonin tai muiden tietojasi isännöivien kolmansien osapuolten kanssa. Nämä olivat tapauksia, joissa he isännöivät tietojasi suoraan ekosysteemin sijainnin vuoksi.
Clauden kohdalla kukaan ei ole huolissaan siitä, että NSA tarkastelee Clauden käyttöäsi. Kyse on siitä, että he lähtevät ulos ja saavat kolmannen osapuolen dataa Amazonista tai todennäköisemmin sellaisista ovelista, piilotetuista tiedonvälittäjistä, jotka näyttävät mainoksia puhelimissasi ja tietävät sijaintisi ja kiinnostuksen kohteesi ja sen kaltaiset asiat. Ja sitten syöttää se järjestelmäänjota Claude sitten tekisi töitä. Sitä Anthropic ei todellakaan halunnut olla osana. Joten missä tahansa tai missä tahansa hallitus kerää nämä tiedot kolmannelta osapuolelta, Anthropic sanoi: "Emme halua, että työkaluamme käytetään näihin tietoihin."
Apple vastustaa tunnetusti FBI:tä ja pyytää sitä laittamaan takaoven iPhoneen, ja Apple sanoo "ei", ja he vastustavat Trumpia. Ja järjestelmämme toiminnassa on osa, jossa suuret yksityiset yritykset voivat sanoa "ei" hallitukselle asiakkaidensa puolesta. Ja tämä tuntui samalta, että Apple ei taaskaan laita sitä takaovelle iPhonelle tai suuret pilvipalveluntarjoajat sanovat: "Sinun täytyy hypätä läpi, ennen kuin saat yksittäisiä tietoja."
Tässä näyttää siltä, että Anthropic sanoo: "Emme vain aio tehdä massa-analyysiä tiedoista, jotka olet hankkinut muilta osapuolilta, koska se johtaa amerikkalaisten 24/7-massavalvontaan, emmekä halua tehdä sitä." Silti se näyttää olevan liian kaukana tälle hallinnolle. Onko siitä mitään paluuta?
Saa nähdä. Aiemmin, kun näin on tapahtunut – ja se on tapahtunut useimpien suurten teknologiayritysten kanssa, niin jossain vaiheessa he ovat sanoneet, että jokin on liian pitkälle –, kun se tavallisesti menee, on tuomioistuin. Yritykset menevät oikeuteen tai hallinto oikeuteen ja siellä on jonkinlainen oikeustaistelu.
iPhonen takaovi on täydellinen esimerkki siitä. Asia meni oikeuteen ja he taistelivat sen, vaikka he eivät koskaan päässeet päätökseen, koska FBI murtautui lopulta vain manuaalisesti iPhoneen eikä halunnut tuomioistuimen päätöksen pilaavan sitä tulevaisuudessa.
Mutta tässä tapauksessa, jossa eskaloituminen on ja missä tämä eroaa aiemmista tilanteista, on se, että Trumpin hallinto ei vain mennyt oikeuteen, vaan teki tämän "toimitusketjuriskin" määrittelyn, mikä on järjetöntä. Tämä ajatus, että tämä työkalu, joka oli suunniteltu estämään mahdollisia ulkomaisia haitallisia toimijoita toimittamasta teknologiaa, joka voisi sitten laittaa piilotettuja valvontatyökaluja laajempaan teknologiapinoon, voitaisiin kieltää. Sen soveltaminen yhdysvaltalaiseen yritykseen pohjimmiltaan eettisen politiikan vuoksi tuntuu työkalun todelliselta väärinkäytöltä.
Jopa tuo työkalu oli jollain tapaa kyseenalainen, mutta sen takana olevan sysäyksen saattoi ymmärtää, kun puhut kiinalaisesta verkostoitumisyrityksestä tai jostain vastaavasta. Tässä ei ole mitään järkeä. Joten reaktio tähän menee niin paljon pidemmälle kuin tässä tapauksessa normaalisti nähdään. Näkisi perinteisesti, että olisi jonkinlainen oikeusjuttu ja kumpi tahansa osapuoli voisi aloittaa sen ja se olisi vain taistelua siitä, kuinka sopimusta voitaisiin soveltaa.
Mutta sitä ei täällä tapahdu. Tämä hallinto sanoo tehokkaasti: "Jos et anna meille kaikkea, mitä haluamme, jos et aseta työkalujasi toimimaan haluamallamme tavalla, yritämme tehokkaasti tuhota koko yrityksesi." Ja se on eskalaatiota.
Tässä on yksi osa, johon haluan päättää, ja se on tavallaan galaksi-aivoisin versio tästä. FIRE, joka on sananvapauden puolestapuhuja, julkaisi blogikirjoituksen juuri ennen kuin aloimme nauhoittaa väittäen, että Anthropicin pakottaminen rakentamaan työkaluja, joita se ei halua rakentaa, on sananvapauden loukkaus, että sitä kutsutaan pakotetuksi puheeksi. Täällä on paljon historiaa. Täällä on syvää Vergeä ja Techdirtiä, in-the-weeds, eksistentiaalisen kriisin historiaa.
Mutta pohjimmiltaan se perustuu ajatukseen, että koodi on puhetta, että koodin kirjoittaminen tietokoneelle on puheen muoto, eikä hallitus voi pakottaa sinua tekemään sitä, ja siitä virtaa koko joukko tavaraa. Luuletko tämän väitteen, jonka mukaan Anthropicin pakottaminen rakentamaan työkaluja, joita se ei halua rakentaa, on pakotettua puhetta?
Kyllä, mielestäni se on melko vakuuttavaa. Vaikuttava pakotettu puhe. Mutta ei, mielestäni se on mielenkiintoinen argumentti. Se oli yksi, joka oli ollut hieman alempana niiden ongelmien luettelossa, joita ajattelin. Keskityin ilmeisesti enimmäkseen neljänteen tarkistukseen liittyviin kysymyksiin, mutta mielestäni FIRE-argumentti ei ole väärä. Olemme nähneet tämän muissa yhteyksissä. Se tuli esille myös takaoven ongelmassa, kun yritettiin rakentaa takaovia salattuihin järjestelmiin.
Yritykset nostivat ehdottomasti ensinMuutos väittää, että "puhe on pakotettu pakottamaan meidät kirjoittamaan sellaista koodia." Se on pätevä argumentti. Voi olla, että tuomioistuimet ovat todennäköisesti vähemmän halukkaita käsittelemään sitä aluksi, jos ne voivat käsitellä näitä asioita jollain muulla tavalla. Mutta olen iloinen, että FIRE teki tuon viestin, ja mielestäni se on mielenkiintoinen ja vakuuttava argumentti.
Joo, Trumpin toisen hallinnon luonne on vain se, että se on niin tylsä väline, että on melkein varmaa, että hyökkäämme kaikkiin asioihin kerralla.
Kyllä, jokainen Bill of Rights -muutos on haastettava tavalla tai toisella kaikilla mahdollisilla kysymyksillä.
[nauraa] Pyöritä pyörää.
Olen varma, että voimme sovittaa kolmannen muutoksen rikkomisen jonnekin tänne.
Toki, joo. Clauden on asuttava nyt talossasi. Täsmälleen. Siitä tulee hienoa. Teemme [tarkistuksia] yksi, kolme, neljä ja seitsemän. Keräämme ne.
Mike, tämä on ollut hienoa. En voi uskoa, että et ole ollut ohjelmassa aiemmin. Tämä on ollut hienoa. Sinun on palattava pian.
Täysin. Aina kun haluat minut.
Onko sinulla kysyttävää tai kommentteja tästä jaksosta? Ota yhteyttä osoitteeseen decoder@theverge.com. Luemme todella jokaisen sähköpostin!
