Í dag erum við að tala um sóðalegt, hraðvirkt ástand hjá Anthropic, framleiðanda Claude sem lendir nú í mjög ljótri lagalegri baráttu við Pentagon.
Fram og til baka er flókið, en fyrir nokkrum dögum hafði Pentagon talið Anthropic áhættu í birgðakeðjunni og Anthropic hefur höfðað mál þar sem hún mótmælir þeirri tilnefningu og sagði stjórnvöld hafa brotið gegn rétti sínum til fyrstu og fimmtu breytingar með því að „reyna að eyðileggja efnahagslegt verðmæti sem skapast af einu af ört vaxandi einkafyrirtækjum heims. Ég get sagt þér núna: Við ætlum að tala um útúrsnúninga málsins á The Verge og hér á Decoder á næstu mánuðum.
En í dag langaði mig að taka smá stund og grafa hér virkilega inn í einn mjög mikilvægan þátt í þessu ástandi sem hefur ekki fengið nægilega athygli þar sem þetta hefur farið úr böndunum: hvernig bandarísk stjórnvöld gera eftirlit, lagaheimildina sem gerir það kleift að eiga sér stað og hvers vegna Anthropic var vantraust á stjórnvöld og sagði að það myndi fylgja lögum þegar kemur að því að nota gervigreind til að gera enn meira eftirlit.
Verge áskrifendur, ekki gleyma að þú færð einkaaðgang að auglýsingalausum afkóðara hvar sem þú færð hlaðvörpin þín. Farðu hingað. Ertu ekki áskrifandi? Þú getur skráð þig hér.
Gestur minn í dag er Mike Masnick, stofnandi og forstjóri Techdirt, hinnar frábæru og langvarandi tæknistefnuvefsíðu. Mike hefur skrifað um ofsóknir stjórnvalda, friðhelgi einkalífsins á stafrænu tímum og önnur skyld efni í áratugi núna. Hann er sérfræðingur í því hvernig internetið og eftirlitsríkið hefur vaxið upp á samtengda vegu.
Þú sérð, það er það sem lögin segja að stjórnvöld geti gert þegar kemur að því að hafa eftirlit með okkur og síðan hvað ríkisstjórnin vill gera. Og síðast en ekki síst, það er það sem ríkisstjórnin segir að lögin segja að þau geti gert, sem er oft nákvæmlega andstæða þess sem allir venjulegir einstaklingar sem einfaldlega lesa lögin myndu halda.
Þú munt heyra Mike útskýra mjög ítarlega hér í þessum þætti að við getum ekki - og ættum ekki - að taka bandarísk stjórnvöld á orðinu þegar kemur að eftirliti. Það er bara of mikil saga um að lögfræðingar stjórnvalda hafi snúið túlkunum á einföldum orðum eins og „markmið“ til að auka eftirlit á flókinn hátt - leiðir sem venjulega valda aðeins áhyggjum í lögfræðihópum og koma aðeins upp þegar miklar deilur eru eins og helstu opinberanir uppljóstrarans Ed Snowden frá NSA fyrir meira en áratug síðan.
En það er ekkert lúmskt eða fágað við stefnumótun á tímum Trumps - og svo með Anthropic erum við með mjög háværa, mjög opinbera umræðu um tækni og eftirlit í rauntíma, á internetinu, í bloggfærslum og röflum og yfir hljóðum blaðamannafunda. Það er jákvætt og neikvætt við það, en til að skilja þetta allt þarftu virkilega að þekkja söguna.
Það er það sem ég og Mike ákváðum að útskýra í þessum þætti - hver sem skoðanir þínar á gervigreind og stjórnvöldum líður mun þessi þáttur gera það ljóst að báðir aðilar hafa látið eftirlitsríkið verða stærra og stærra með tímanum. Nú erum við á barmi stærstu stækkunar til þessa þegar kemur að gervigreind.
Allt í lagi: Mike Masnick, stofnandi og forstjóri Techdirt, um Anthropic, Pentagon og gervigreindareftirlit. Hérna förum við.
Þetta viðtal hefur verið breytt í léttum dráttum til lengdar og skýrleika.
Mike Masnick, þú ert stofnandi og forstjóri Techdirt. Velkomin í Decoder.
Ég er ánægður með að vera hér.
Ég er spenntur að hafa þig með. Ég var bara að segja að ég er hneykslaður yfir því að þú hafir aldrei verið í þættinum áður. Þú og ég höfum skrifað og skrifað um hvort annað í langan tíma. Mikið af The Verge stefnuumfjöllun skuldar það sem þú hefur gert hjá Techdirt og þá er það sem er að gerast með Anthropic svo flókið, en hittir á svo mörg þemu sem þú hefur fjallað um svo lengi. Ég er feginn að þú ert loksins kominn.
Þetta er flókið rugl af efni, en ég er spenntur að grafast fyrir um það.
Það sem ég vil leggja áherslu á með þér eru ekki upplýsingarnar um hvort Anthropic ætlar að skrifa undir samning við stjórnvöld eða hvort OpenAI muni fá þann samning. Þess í stað er ég fullviss um að á milli þess tíma sem við tökum þetta upp og þess tíma sem fólk hlustar á það mun það hafa verið fleiri tíst og fleiri hlutir verða öðruvísi en þeir voru áður.
Það sem ég vil leggja áherslu á er bara önnur af tveimur rauðum línum sem Anthropic hefur í raun lagt fram. Einn þeirra ersjálfstæð vopn, sem er eigin flækjustig. Lögin þar eru aðeins meira í burðarliðnum hvort sem vopnin eru til eða ekki þegar Rússar hafa beitt vopnum í Úkraínustríðinu.
Það eru fullt af hugmyndum hérna sem ég vil bara leggja til hliðar vegna þess að ég held að þær eigi eftir að komast í meiri fókus allt á eigin áætlun. Hin rauða línan sem ég vil eyða miklum tíma í er fjöldaeftirlit. Og það er töluvert mikið af lögum hér um fjöldaeftirlit. Það er mikil saga, mikil umdeild saga. Öll persóna Edward Snowden er til vegna deilna um fjöldaeftirlit.
Allt kemur þetta niður á — ég held að þú sért sá sem birtir þetta — Þjóðaröryggisstofnuninni (NSA), sem er hluti af varnarmálaráðuneytinu, sem við verðum að kalla stríðsráðuneytið núna af einhverjum ástæðum.
[Hlær] Við þurfum ekki að gera neitt.
[Hlær] Við gerum það ekki. Það er satt hér í Ameríku. Við þurfum ekki að gera neitt. En NSA hefur í grundvallaratriðum endurskilgreint hvað mörg orð þýða út frá ensku sem þýðir: „Við getum bara gert eftirlit. Og svo oft kemur upp hneyksli þegar fólk uppgötvar að það er bara að sinna eftirliti. Svo settu bara sviðið þarna, og ég vil ekki spóla þig alla leið til baka, en það hefur verið ansi langur tími þar sem þetta mynstur hefur endurtekið sig.
Það fer eftir því hversu djúpt þú vilt fara, en stutta útgáfan er augljóslega í heiminum eftir 11. september, Bandaríkin samþykktu Patriot Act, sem hafði einhverja getu fyrir stjórnvöld til að taka þátt í eftirliti, sem átti að vera til að vernda okkur gegn hryðjuverkaógnum í framtíðinni. Með tímanum varð það túlkað á áhugaverðan hátt og það voru nokkur takmörk á því. Við vorum líka með FISA-dómstólinn sem er sérdómstóll sem á að fara yfir leyniþjónustuna og starfsemi þeirra en hefur jafnan verið einhliða dómstóll. Aðeins annar aðilinn fær að flytja mál sitt fyrir þeim dómstóli og það er allt gert í leyni.
Það er margt sem ekki var vitað. Og svo var eitt annað stykki í þessu öllu, sem nær alla leið aftur til Ronald Reagan, sem er framkvæmdaskipun 12333, sem snýst um að setja fram umferðarreglur um upplýsingaöflun.
Þannig að þú ert með þessi þrjú sett af lögum — ja, nokkur lög — og framkvæmdarskipun sem almenningi, þeir hlutar sem þú getur lesið, virðist segja ákveðna hluti um hvað ríkisstjórn okkar og NSA sérstaklega geta gert hvað varðar eftirlit. Þegar lesið er með venjulegri enskri orðabók, sem þú og ég líklega höfum og skiljum, þá myndum við trúa því að getu NSA til að fylgjast með Bandaríkjamönnum væri mjög takmörkuð, í raun að því marki að þeir ættu að gera það, ef þeir átta sig á því að þeir eru að fylgjast með bandarískum manni, að þeir ættu að hætta strax og gráta allt og eyða öllum þessum öðrum gögnum og.
Sögusagnir voru um tíma um að það væri í raun og veru ekki að gerast og það voru vísbendingar og sérstaklega Ron Wyden öldungadeildarþingmaður var mjög hávær um að fara á gólfið í öldungadeildinni og segja: „Eitthvað er ekki í lagi hér og ég get ekki alveg sagt þér hvað,“ eða í yfirheyrslum spurði hann leyniþjónustumenn: „Ertu eða ertu ekki að safna fjöldaupplýsingum um Bandaríkjamenn?
Þeir embættismenn myndu annað hvort víkja eða í sumum tilfellum hreinlega ljúga. Ég tel að það hafi verið ein yfirheyrsla árið 2012 með James Clapper, sem var framkvæmdastjóri leyniþjónustunnar á þeim tíma, þar sem hann var spurður beint um þetta atriði. Og hann sagði í grundvallaratriðum: „Nei, við söfnum ekki gögnum um Bandaríkjamenn. Það var stór hluti af því sem hvatti Ed Snowden til að leka gögnunum, skýrslunum um að hann hafi lekið til Glenn Greenwald og Barton Gellman og Laura Poitras líka. Út frá þessu öllu, það sem við fórum að uppgötva var að NSA hefur sína eigin orðabók sem er nokkuð frábrugðin orðabókinni sem þú og ég notum, þannig að þeir geta túlkað orð á annan hátt en hin látlausa enska merking þeirra, þar á meðal orð eins og „markmið“, sem finnst eins og lykilorð. Víðtækur skilningur á því hvað þetta er er að fræðilega séð eiga þeir aðeins að miða á fólk sem er ekki bandarískt fólk, held ég að sé setningin.
En hvernig það hafði verið túlkað í gegnum tíðina var að allt sem nefnir viðkomandi, allt sem er um erlenda manneskju er nú sanngjarn leikur, jafnvel þótt það séu samskiptiBandaríkjamaður. Þannig að ef þú og ég myndum senda hvort öðru sms og minnast á erlendan einstakling, þá er það nú sanngjarn leikur fyrir NSA að safna og geyma og geyma.
Það er annar hluti af þessu. Ég nefndi fyrstu framkvæmdarskipun 12333 frá Ronald Reagan, sem, eftir því sem tæknin breyttist með tímanum og internetið stækkaði, gerði NSA í raun kleift að tengja erlend samskipti, en það innihélt öll samskipti sem kunna að hafa farið frá Bandaríkjunum á leiðinni einhvers staðar. Þannig að ef ég er að senda þér skilaboð og skilaboð fóru frá mér í Kaliforníu í gegnum ljósleiðara sem fór frá Bandaríkjunum, gæti NSA sett á hlutann þegar hann er utan Bandaríkjanna og safnað þeim upplýsingum, jafnvel þótt það væri bara að fara til þín innan Bandaríkjanna.
NSA gæti síðan geymt þessar upplýsingar jafnvel þótt þær væru um bandaríska einstaklinga og þeir gætu gert sérstakar leitir á þeim síðar, stundum kallaðar „bakdyraleitir“. Þeir söfnuðu þessum upplýsingum sem við teljum að þeir hafi ekki átt að safna í upphafi, en þeir gátu haldið þeim. Og þeir lofuðu, þeir pinky sóru, að þeir myndu halda því leyndu, en ef þeir gerðu leit og fundu að þú eða ég minntist á erlendan mann, þá var allt í einu sanngjarn leikur fyrir þá að gera hvað sem þeir vilja við það.
Alls hefur þetta breyst í heim þar sem alríkisstjórnin getur í grundvallaratriðum safnað öllum upplýsingum sem snerta utan Bandaríkjanna. Jafnvel þótt það sé algjörlega á milli tveggja Bandaríkjamanna, ef þeir nefna eða jafnvel gefa í skyn einhvern sem er ekki Bandaríkjamaður, þá er skyndilega sanngjarn leikur að safna. Og upp úr því höfum við fengið það sem virðist vera eins konar fjöldaeftirlit með bandarískum einstaklingum af NSA sem heldur því fram og segir opinberlega að það njósni ekki um bandarískt fólk.
Hvernig komumst við á þennan stað? Þetta er mikið af stigvaxandi barnaskrefum. Þú minntist á James Clapper árið 2012, það er ríkisstjórn Obama. Þú nefndir Ronald Reagan, það er níunda áratugurinn. Við erum að fara í gegnum demókrata og repúblikana hér.
Stríðið gegn hryðjuverkum átti sér stað í George W. Bush-stjórninni og 11. september og Patriot Act gerðist í George W. Bush-stjórninni. Það er mikið af stigvaxandi slæmum hlutum undir formönnum beggja flokka, undir þingum beggja flokka. Hvernig gerðist þetta?
Einfaldasta form þess er bara að enginn, og örugglega enginn forseti, vill vera forseti á þeim tíma þegar það er stór hryðjuverkaárás, því það lætur þá líta illa út. Augljóslega vilja þeir líka vernda Bandaríkjamenn, ekki satt? Það er hluti af starfi þeirra. Ef þú ert með leyniþjónustusamfélag sem starfar í grundvallaratriðum í myrkri vegna þess að það er það sem leyniþjónustufélög gera og þau halda áfram að koma til þín og segja: „Hey, ef við gætum bara fengið aðgang að þessum upplýsingum, þá væri það mjög gagnlegt til að koma í veg fyrir hryðjuverkaárás.
Það geta verið tilvik þar sem það er satt, að leyniþjónustusamfélagið geti notað þessar upplýsingar á þann hátt sem virkar vel. En við erum líka, fræðilega séð, samfélag laga með bandaríska stjórnarskrá sem við eigum að hlýða. En það gerði ráð fyrir þeirri staðreynd að stjórn eftir stjórn, aftur, repúblikana og demókrata, höfðu lögfræðinga sem voru mjög snjallir og sem myndu líta í gegnum og segja: "Jæja, ef við staðnæmum á þennan hátt eða við túlkum þetta eða við túlkum þetta, þannig getum við fengið það sem við viljum og ekki tæknilega brotið lög eða ekki tæknilega brotið fjórðu breytinguna.
Tilgátan var alltaf: „Við getum eins konar beygt lögin eða beygt túlkun okkar á lögunum og enginn mun í rauninni nokkurn tíma sjá þetta, eða enginn sem er sama um að sjá þetta, og þess vegna munum við komast upp með það.
Það er tvennt sem hrífur mig virkilega. Eitt, þú og ég lesum bæði mikið af dómsúrskurðum - áfrýjunardómstóla og hæstaréttardóma. Og það er barátta í Hæstarétti okkar um hvernig eigi að bókstaflega túlka orðin í samþykktum okkar og lögum okkar.
Ég mun ekki fara langt út í það, en ég myndi segja almennt að hugmyndin um að þú ættir bara að lesa orðin á síðunni og gera það sem þau segja er ríkjandi stofn lagatúlkunar í Bandaríkjunum. Vinstri eða hægri, þeir segja það báðir. Þeir rífast um mjög dulspekilega fína punkta um hvað það þýðir í raun og veru. En að þú ættir bara að geta lesið þessi orð og gert það sem þau segja, það er ekki upp á teningnum, ekki satt?
Við höfum lent á að minnsta kosti fyrstu ferðina af því sem þú gætirkalla textahyggju. Hvernig komast lögfræðingar beggja stjórnvalda svona langt frá ríkjandi hátterni lagalegrar ákvarðanatöku í okkar landi? Dómarar beggja aðila eru báðir sammála um að það sé að minnsta kosti fyrsta skrefið.
Ég vildi að ég vissi nákvæmlega svarið, en ég held að það sé hvatinn rökstuðningur, ekki satt? Sem lögfræðingur ertu þarna til að verja skjólstæðing þinn og velgengni - ef hægt er að kalla það velgengni - í réttarkerfi okkar hefur tilhneigingu til að byggjast á því að vera í andstöðu þar sem þú hefur ólíkar hliðar að rífast um þessa hluti, þar sem hlutverk dómara er að þrengja að og finna út hvor hliðin er í raun rétt.
Eitt af vandamálunum við leyniþjónustusamfélagið og uppsetningu þess er að þú ert ekki með þessar andstæður aðstæður. Það gerir það auðveldara fyrir aðra hliðina að réttlæta rökin sem þeir eru að halda fram vegna þess að enginn er í raun að ýta aftur á það. Þú sameinar það með yfirgripsmiklum ótta við aðra hryðjuverkaárás, allt sem tengist þjóðaröryggi, og jafnvel þegar þú hefur aðstæður þar sem þú ert með FISA-dómstólinn — ég meina FISA-dómstóllinn var nokkuð frægur fyrir að vera í raun gúmmífrímerki í mörg ár.
Ég gleymi nákvæmum tölum, en það var eitthvað eins og meira en 99 prósent umsókna sem fóru til FISA-dómstólsins til að leyfa eftirlit með ákveðnum aðstæðum voru veittar, og það er auðvelt að segja að 99 prósent séu augljóslega of mikið. Augljóslega eru þeir sem koma með kröfur fyrir dómstólinn að velja og hafna. Þeir eru að mestu leyti ekki að koma með algerlega vitlausar fullyrðingar. En án þess andstæðingsþáttar og með mjög sterkan áhugasaman hóp fólks sem hugsar: „Við þurfum að gera þetta,“ eða er sagt frá stjórninni: „Við þurfum að gera þetta,“ munu þeir finna leiðir til að gera það. Og það er þar sem þú endar með tímanum.
Hefur einhver tekið þátt í þessu ferli sem hefur einhvern tíma vaknað og sagt við sjálfan sig: „Drengur, okkur hefur tekist að endurskilgreina orðið „markmið“ til að þýða allt sem við viljum“?
[Hlær] Augljóslega varstu með Ed Snowden, sem lak helling af skjölum. Þú varst með John Napier Tye, sem skrifaði grein fyrir The Washington Post árið 2014, sem afhjúpaði túlkun framkvæmdarskipunar 12333, og sagði að þetta væri hið raunverulega mál sem ætti að borga eftirtekt til. Þú ert með annað fólk sem hefur tjáð þig um þessa hluti, en að mestu leyti er fólkið sem tekur þátt í að vinna innan stjórnsýslunnar við leyniþjónustumál keypt inn í þá skoðun leyniþjónustunnar, sem er að yfirmarkmiðið sé að vernda landið fyrir einhverju slæmu. Besta leiðin til að gera það er að hafa eins miklar upplýsingar og mögulegt er.
Það er auðvelt að vera hliðhollur þeim rökum að já, að hafa meiri upplýsingar gæti gert þeim kleift að ná einhverju fyrr eða finna eitthvað mikilvægt, en eitt, það gæti ekki verið satt. Að fá of miklar upplýsingar er líklega jafn slæmt og of litlar upplýsingar vegna þess að það getur oft falið þær upplýsingar sem eru raunverulega gagnlegar, þær upplýsingar sem þú þarft í raun til að ákvarða eitthvað.
En líka höfum við U..S. Stjórnarskrá í fyrsta lagi og við höfum ástæður fyrir því að fræðilega séð eigum við ekki að leyfa fjöldaeftirlit án líklegrar ástæðu. Sem land sem trúir á réttarríkið ættum við að geta staðið undir því og þegar allt þetta gerist í myrkri, munt þú hafa tilhneigingu til að missa sjónar á því.
Þetta færir mig að Anthropic. Anthropic er fyrst og fremst fyrirtækjafyrirtæki. Þeir eru góðir í ríkisstjórninni, þeir hafa byggt upp þessa vöðva, þeir eru mönnuð af fólki sem er mjög vel að sér í sumu af þessu efni. Þeir horfðu augljóslega á Pete Hegseth og sagði: „Við viljum öll lögleg notkun,“ og þeir fóru niður á tvö stig túlkunar og sögðu: „Jæja, bókstafleg trú þín er að þessi orð þýða ekki það sem þau segja að þau þýði á andliti sínu. Þannig að „öll lögleg notkun“ er of stór og við viljum setja varnargrind sérstaklega í kringum fjöldaeftirlit.
Aftur ætla ég að setja út sjálfstæð vopn, sem var hin rauða línan, en sérstaklega hvað varðar fjöldaeftirlit, Dario Amodi er þarna úti og segir: „Við getum gert of mikið. Þetta er of hættulegt. Þetta er brot á fjórðu breytingunni.
Spennan þar er „þú ert að segja að þú ætlir að fara eftir þessum lögum sem segja eitt og núna, eftir allan þennan tíma, þýða þau eitthvað allt annað og við viljum bara ekki vera hluti af því. Það erberjast. Ég vil bara líkja þessu við Sam Altman, sem svífur inn til að segja: „Við munum gera alla löglega notkun,“ og sendir síðan þessi langa skilaboð á borð við „Hér eru öll lögin sem við ætlum að fara eftir.“
Það virðist sem Altman hafi ekki vitað hvernig NSA hafði endurtúlkað þessa hluti og var farið að fara í bíltúr. Og hann hefur síðan byrjað að ganga til baka - jafnvel þegar við erum að taka upp, er ég viss um að það eru fleiri tíst og afstaða allra hefur breyst. En Altman hefur gengið hægt til baka, en það virðist sem OpenAI hafi lent í því að lesa lögin á andliti þeirra og trúa því sem þeir sögðu. Er það líka þín túlkun á atburðum?
Það eru tveir möguleikar, og það er annar þeirra. Ein er sú að hann var spilaður á sama hátt og almenningur var spilaður í mörg ár. Önnur kenningin, og ég hef ekki hugmynd um hver þeirra er sönn, er sú að hann eða sumir lögfræðinganna hjá OpenAI - sem ég held að séu mjög hæfir og mjög fróður - vissu þetta, en héldu að þeir gætu spilað sama leikinn og NSA spilaði í nokkra áratugi, að því leyti að svo lengi sem þeir segja þessa hluti og þá segja þeir orðin, en þeir segja ekki frá raunverulegum túlkunum, að þeir gætu líka komist upp með það. Þannig að Sam kemur út með yfirlýsinguna sem lætur það líta út eins og „Við vorum með nákvæmlega sömu rauðu línurnar og Anthropic gerði, og ríkisstjórnin var frábær með það.
Reyndar held ég að Sam Altman hafi sagt að Anthropic væri með tvær rauðar línur og OpenAI með þrjár, og ríkisstjórnin var alveg í lagi með það, og það lét marga klóra sér í hausnum. En ég held að það hljóti að vera annaðhvort að Sam Altman og hver sem var í kringum hann skildi ekki hvernig þessir hlutir virka í reynd, eða þeir gerðu það, og þeir gerðu bara ráð fyrir að almenningur myndi ekki vita það og þess vegna gætu þeir komist upp með það.
Hitt kemur upp í hugann - aftur, gervigreind er nýtt og það er svo freistandi að koma að nýrri tækni þar sem þetta eru vandamál við fyrstu kynni. „Það hefur enginn þurft að hugsa um þetta áður,“ en raunin er sú að allir hafa verið að hugsa um þetta í langan tíma. Kannski er það sem er nýtt hér ekki gervigreind, heldur að önnur Trump-stjórnin, í stað þess að gera fullt af lögfræði sem kannski enginn mun nokkurn tíma lesa til að réttlæta gjörðir sínar fyrir leynidómi sem enginn tekur eftir, er í staðinn bara ekki svo lúmsk.
Þeir eru ekki svo háþróaðir og þeir eru bara að segja að þeir ætli að njósna um alla allan tímann. Þeir tilkynntu bara fyrirætlanir sínar á þann hátt að kannski ættu allar stjórnir bara að tilkynna fyrirætlanir sínar og sjá hvar spónarnir falla.
En ég er að horfa á þá staðreynd að það var Ed Snowden hér í New York borg. AT&T rekur byggingu sem allir vita að er NSA bygging. Þetta er bara risastór bygging og við eigum að láta eins og þetta sé ekki NSA eftirlitsstöð, en hún er þarna. Það er risastórt. Ekkert af þessu virðist hafa orðið að neinu. Allar þessar opinberanir, þessir lekar, við höfum ekki bakkað það.
Reyndar hefur það aðeins aukist þar sem svo mikið af lífi okkar hefur orðið meira og meira stafrænt. Og kannski er Trump-stjórnin alltaf svo þröngsýnt tæki, það gæti í raun verið það sem veldur uppgjörinu. Sérðu það samt spilast?
Það eru nokkrir mismunandi hlutir þarna og það er ekki alveg satt að við höfum alls ekki bakkað þetta efni. Afhjúpanir Snowden leiddu til nokkurra breytinga á því hvernig þessir hlutir gerast. Og það eru núna - ég gleymi hvað þeir heita, en þeir eru eins og þetta borgaralega amicus fólk innan FISA dómstólsins sem mun starfa sem að kynna hina hliðina í vissum málum.
Og við höfum séð sum yfirvöld takmarkað á vissan hátt, og þau koma til endurheimildar öðru hvoru, og aðgerðarsinnar hafa verið mjög árásargjarnir við að ýta til baka og reyna að setja fleiri varnargrind á. En varðandi stærri spurninguna þá held ég að það sé tvennt ólíkt. Það er hálf rétt hjá þér að þessi stjórnsýsla er ekki lúmsk og segir bara upphátt það sem hún ætti ekki að gera.
"Við erum í stríði við Íran, við gerum það, það er að gerast. Við ætlum ekki einu sinni að prófa dansinn."
Á þann hátt sem allar fyrri stjórnir myndu ekki gera. En þeir hafa í raun ekki sagt það beint umeftirlit, sérstaklega eftirlit með Bandaríkjamönnum. Það hafa verið vísbendingar um það, en þeir hafa ekki komið eins sterkt út á það. Hinn helmingurinn af því hefur meira að gera með staðsetningu Anthropic og almenna sýn á gervigreind sem þessa hugsanlega tilvistartækni, þar sem Anthropic hefur alltaf sett sig fram sem „Við erum hugsi góðir krakkar,“ og hvort þú trúir því eða ekki er eitthvað fyrir utan málið. Þeir hafa þetta orðspor þarna úti: „Við erum að reyna að gera þetta á öruggan hátt, sem ber virðingu fyrir mannkyninu og veitir öllum þessum hlutum eftirtekt. Og svo þegar þú lendir í þessum átökum, það er þar sem baráttan kemur inn.
Þú ert með Trump-stjórn sem vill bara geta gert hvað sem hún vill geta gert og þau eru ekki lúmsk um það. Og svo ertu með Anthropic, en sjálfslýsing hans og opinbera persónu hans er alltaf eins og: „Við erum hugsi og virðum mannúð og réttindi og allt þetta. Það var líklega þar sem átökin komu inn, því Anthropic hefur, eins og skýrt hefur verið, unnið með varnarmálaráðuneytinu um hríð og hefur marga aðra samninga við stjórnvöld sem það hefur notað. Það hefur ekki verið vandamál.
Það var aðeins á þessum tilteknu sviðum þar sem ríkisstjórnin var að reyna að útvíkka samninginn sem hún hafði, sem yfirstjórn Anthropic byrjaði að segja: „Bíddu, við verðum að ganga úr skugga um að við förum ekki yfir þessar rauðu línur sem gætu hugsanlega skaðað orðspor okkar sem hugsandi, örugga gervigreindaraðila.
Mig langar að spyrja þig í stuttu máli um eftirlit almennt, og sérstaklega áhyggjur Anthropic's Fjórða breyting. Fjórða breytingin segir að ríkisstjórnin geti ekki leitað á þig á óeðlilegan hátt. Besta leiðin til að skilja fjórðu breytinguna er með því að hlusta á „99 Problems“ eftir Jay-Z. Svo ef þú þarft að taka þér hlé og fara að hlusta á „99 Problems,“ þá er það frábært. Það er allt þarna inni. Ég hlustaði á það þegar ég var í laganámi og það var fullkomlega sens.
En stjórnvöld þurfa almennt heimild til að leita á þér. Og eftir því sem meira og meira af lífi þínu fer á netið, þá eru margar og margar undantekningar frá þessu. En hugmyndin er að þeir ættu samt að þurfa heimild á netinu. Rök Anthropic eru: "Jæja, gervigreindin verður aldrei þreytt. Það getur leitað í öllu allan tímann. Það þýðir að við ætlum bara að sinna meistaraeftirliti."
Samt áður en gervigreind birtist var hugmyndin um að stjórnvöld gætu leitað í öllu sem tilheyrði þér þarna úti, hugmyndin um að ríkisstjórnin þyrfti ekki heimild til að leita í öllu dótinu þínu var þarna úti. Hugmyndin um að ef eitthvað af gögnum þínum fór einhvern tíma út fyrir landið í stutta sekúndu, þá hleraði ríkisstjórnin þau þar,
Þegar ég var í háskóla, í kringum Patriot Act, var umræðan sú að þeir ætla ekki að leita í raunverulegum gögnum þínum, en þeir geta fengið lýsigögnin og lýsigögnin ein. Gögnin um gögnin þín munu nægja til að staðsetja þig nákvæmlega á hverjum tíma. Og jafnvel það er of langt. Og við höfum verið að dansa um hvað getur ríkisstjórnin safnað? Hvað er leyfilegt? Hvað þurfa þeir til að halda okkur öllum öruggum og hvað er of langt? Þær línur hafa færst til.
Lýstu því aðeins í stuttu máli almennum áhyggjum af eftirliti á þeim mælikvarða og hvar við erum núna. Áður en gervigreind ástandið gerði allt veldishraða flóknara.
Hér verð ég að kynna annað hugtak sem líklega hefði átt að vera nefnt fyrr, en það er mikilvægt, sem er kallað "þriðja aðila kenningin." Hugmyndin með fjórðu breytingunni er sú að stjórnvöld geti ekki leitað í þér eða hlutum þínum án heimildar og það getur ekki fengið heimild án líklegrar ástæðu þess að þú hafir framið einhvers konar glæp. En það er þetta hugtak sem kom upp fyrir áratugum síðan kallað þriðja aðila kenningin, sem segir að það eigi ekki endilega við, eða eigi alls ekki við um hluti sem eru ekki þínir, jafnvel þótt það séu gögnin þín.
Elsta og augljósasta útgáfan af þessu voru símaskrár sem símafyrirtækið hafði um hvern þú hringdir í. Símafyrirtækin voru ekki að taka upp símtölin þín, en þau voru að taka upp ef ég hringdi í þig, þá væri skrá hjá símafyrirtækinu sem segir: "Mike hringir í Nilay." Og það sem hafði verið ákveðið af mörgum dómstólum var að stjórnvöld geta farið og óskað eftir því, og þeir þurfa enga heimild fyrir það vegna þess að það er ekki leit ágögnin þín, það er þessi þriðji aðili og þeir geta samþykkt sem þriðji aðili að afhenda þessi gögn bara.
En þetta voru mál frá sjötta og áttunda áratugnum, þar sem ákveðið var að stjórnvöld gætu fengið aðgang að því án heimildar, þegar það var ekki svo mikið af gögnum frá þriðja aðila þarna úti. Uppgangur tölva og internets breytti því. Nú eru allt gögn frá þriðja aðila. Allt sem við gerum er safnað af einhverju fyrirtæki einhvers staðar og hefur skrá yfir það. Þannig að í rauninni allar upplýsingar um þig, hvar þú ert, við hvern þú talar, við hverja þú hefur samskipti, hvað þú segir, hvað þú ert að gera, allt þetta er nokkurn veginn í höndum þriðja aðila þessa dagana. Þannig að kenning þriðja aðila hefur gleypt alla fjórðu breytinguna að einhverju leyti, þar sem allt sem snýst um þig sem einhver annar hefur, það er miklu lægri staðall fyrir hvað stjórnvöld geta gert til að biðja um það.
Bara til að vera nákvæmur, þá þýðir þetta að þegar gögnin mín eru í iCloud, getur stjórnvöld farið til Apple og fengið gögnin mín úr iCloud án þess að segja mér það?
Þeir geta beðið um það. Þeir geta auðveldlega beðið um það án heimildar. Þá hefur fyrirtækið sinn rétt og getur ákveðið hvað þeir vilja gera við þá beiðni. Þeir geta bara gefist upp. Þeir geta, eins og flestir munu gera, ef um alvarleg beiðni er að ræða, hafnað beiðnum alfarið eða þeir geta gert þig viðvart og þeir geta sagt - og þetta er það sem flestir munu gera - þeir munu gera þér viðvart og segja: "Ríkisstjórnin er að biðja um eitthvað af gögnunum þínum. Þú getur farið fyrir dómstóla og reynt að loka fyrir þau." Ef ekki, munu þeir afhenda gögnin þín eftir sjö daga eða hvað sem það gæti verið.
Aftur, það fer eftir því. Ef um sakamálarannsókn er að ræða, þá gæti verið einhvers konar bannorð þar sem fyrirtækinu er ekki heimilt að segja þér það. Það eru alls konar aðstæður, en flestar þeirra fela í sér minna en verndarstigið sem fjórða breytingin myndi krefjast ef það væri gögn eða einhverjar upplýsingar eða eitthvað á þínu eigin heimili.
Magn gagna sem þú hefur á skýjaþjóni einhvers annars er gríðarlegt, ekki satt? Hvert einasta atriði sem þú gerir almennt á netinu núna er afritað á einhvern hátt eða skráð á einhvern hátt á netþjónum einhvers annars. Ríkisstjórnin hefur fundið þessa leið til að komast í kringum fjórðu breytinguna og segja: "Jæja, þetta er í rauninni ekki þitt. Það tilheyrir Amazon. Við getum farið að tala við Amazon," og Amazon verður að standa í miðju ferlinu og segja: "Við höfum fundið upp annað ferli til að vernda fólkið að einhverju leyti."
Ég horfi á það - og þegar ég var að fjalla um fyrstu kenningarmál þriðja aðila sem fjallaði um skýjaþjónustuna og ríkisstjórnin hélt áfram að vinna, þá var það í rauninni þegar ég breyttist í Jókerinn. Ég var eins og: „Allt þetta dót sem við erum að þykjast um textamennsku og látlausan [lestur], ekkert af þessu þýðir neitt því við erum bara hestöfl að bakdyrunum með því að nota þetta forna lögmál inn í gögn allra.
Og svo horfi ég á þetta og ég horfi á Anthropic og ég segi: "Jæja, þetta er sama mynstur." Þetta er einkafyrirtæki sem segir: "Allt í lagi, við skiljum afstöðu þína. Við skiljum að þú hafir endurtúlkað lögin þannig að þetta þýði þetta og við ætlum að setja eitthvert ferli á milli þín, tækisins okkar og gagna Bandaríkjamanna sem streyma í gegnum þjónustu okkar." Ég er bara að velta því fyrir mér hvort þú sérð þessa hliðstæðu þarna, milli Anthropic og Amazon og Azure og hvaða annarrar skýjaþjónustu sem er til sem geymir svo mikið af gögnum okkar.
Já, þó að það séu nokkrar skýringar sem eru mikilvægar hér sem gera þetta svolítið öðruvísi. Og í raun - ég held að The New York Times hafi haft þessa skýrslu fyrst - var aðalákvæðið sem var mikilvægast fyrir Anthropic sérstaklega um gögn sem safnað var úr viðskiptaþjónustu og að geta ekki notað Claude á þeim gögnum, sem er einmitt þetta mál hvað varðar gögn frá þriðja aðila. En ég vil skýra aðalmuninn á því sem við vorum að tala um áður en þetta með Amazon eða aðra þriðju aðila sem hýsa gögnin þín, þetta voru tilvik þar sem þau voru, vegna þess hvar þau sitja í vistkerfinu, þeir hýstu gögnin þín beint.
Með Claude er það ekki það að einhver hafi áhyggjur af því að NSA líti í gegnum notkun þína á Claude. Þetta snýst um að þeir fari út og fái gögn frá þriðja aðila frá Amazon eða líklegri til að vera lúmskir, faldir gagnamiðlarar sem birta auglýsingar í símunum þínum og þekkja staðsetningu þína og áhugamál þín og svoleiðis. Og fæða það svo inn í kerfisem Claude myndi síðan vinna að. Það er það sem Anthropic vildi í raun ekki vera hluti af. Svo hvar sem eða hvernig sem stjórnvöld myndu safna þessum gögnum frá þriðja aðila, sagði Anthropic: „Við viljum ekki að tólið okkar sé notað á þessi gögn.
Það er frægt að Apple stendur upp við FBI og biður það um að setja bakdyr í iPhone og Apple segir „nei“ og þeir standa uppi gegn Trump. Og það er hluti af því hvernig kerfið okkar virkar þar sem stór einkafyrirtæki fá að segja „nei“ við stjórnvöld fyrir hönd viðskiptavina sinna. Og þetta fannst á sama hátt og Apple, aftur, mun ekki setja það bakdyramegin á iPhone, eða stóru skýjaveiturnar segja: „Það er svolítið ferli sem þú þarft að hoppa í gegnum áður en þú færð einstök gögn.
Hér virðist sem Anthropic sé að segja: „Við ætlum ekki bara að gera magngreiningu á gögnum sem þú hefur aflað frá öðrum aðilum vegna þess að það leiðir til fjöldaeftirlits með Bandaríkjamönnum allan sólarhringinn, og við viljum ekki gera það. Samt virðist þetta vera brú of langt fyrir þessa stjórn. Er einhver að koma til baka frá því?
Við munum sjá. Í fortíðinni þegar það hefur gerst - og það hefur gerst oft með flest stóru tæknifyrirtækin, á einhverjum tímapunkti hafa þeir sagt að eitthvað sé brú of langt - þar sem það fer venjulega fyrir dómstóla. Fyrirtækin munu fara fyrir dómstóla eða stjórnin mun fara fyrir dómstóla og það verður einhvers konar dómstólabarátta.
Bakdyrnar inn í iPhone er fullkomið dæmi um það. Það fór fyrir dómstóla og þeir börðust gegn því, þó þeir hafi aldrei alveg komist að niðurstöðu vegna þess að FBI braut á endanum bara handvirkt inn í iPhone og vildi síðan ekki að dómsúrskurðurinn eyðilagði það í framtíðinni.
En í þessu tilviki, þar sem stigmögnunin er og þar sem þetta er frábrugðið fyrri aðstæðum er að frekar en að fara bara fyrir dómstóla, gerði Trump-stjórnin þessa tilnefningu sem „áhætta á framboðskeðju“, sem er bara geðveikt. Þessi hugmynd að þetta tól sem var hannað til að stöðva hugsanlega erlenda illgjarna leikara frá því að útvega tækni, sem gæti síðan sett falin eftirlitsverkfæri í stærri tæknistafla, að hægt væri að banna þau. Að beita þessu fyrir fyrirtæki með aðsetur í Bandaríkjunum í grundvallaratriðum fyrir að hafa siðareglur finnst eins og raunveruleg, raunveruleg misnotkun á því tæki.
Jafnvel þetta tól var vafasamt að sumu leyti, en þú gætir skilið hvatann á bak við það þegar þú ert að tala um kínverskt netfyrirtæki eða eitthvað í þá áttina. Hér er ekkert vit í því. Þannig að viðbrögðin við þessu ganga svo langt umfram það sem venjulega myndi sjást í þessu tilfelli. Þú gætir séð að venjulega væri einhvers konar dómsmál og hvor aðili gæti hafið það og það væri bara barátta um hvernig samningnum væri hægt að beita.
En það er ekki það sem er að gerast hér. Þessi stjórn er í raun að segja: "Ef þú gefur okkur ekki nákvæmlega allt sem við viljum, ef þú setur ekki upp verkfærin þín til að virka eins og við viljum að þau virki, þá munum við í raun reyna að eyðileggja allt fyrirtækið þitt." Og það er stigmögnun.
Það er eitt stykki af þessu sem ég vil enda á, og það er eins konar útgáfa af þessari vetrarbrautarheila. FIRE, sem er málfrelsishópur, birti bloggfærslu rétt áður en við byrjuðum að taka upp þau rök að það að neyða Anthropic til að smíða verkfæri sem það vill ekki byggja sé brot á tjáningarfrelsi, að það sé eitthvað sem kallast þvinguð málflutningur. Hér er mikil saga. Það er einhver djúp Verge og Techdirt, í illgresinu, tilvistarkreppusögu hér.
En það kemur í grundvallaratriðum niður á þeirri hugmynd að kóða sé tal, að ritun kóða fyrir tölvu sé form af talmáli og stjórnvöld geta ekki þvingað þig til að gera það, og fullt af dóti streymir frá því. Kaupir þú þessi rök að það að neyða Anthropic til að smíða verkfæri sem það vill ekki smíða sé þvingað tal?
Já, mér finnst það reyndar frekar sannfærandi. Sannfærandi þvinguð ræða. En nei, mér finnst þetta áhugaverð rök. Það er eitt sem hafði verið aðeins neðar á listanum yfir þau mál sem ég var að hugsa um. Ég var augljóslega aðallega einbeittur að fjórðu breytingamálum, en ég held að FIRE rökin séu ekki röng. Við höfum séð þetta í öðru samhengi. Það kom líka upp í bakdyramálinu, hvað varðar að reyna að byggja bakdyr inn í dulkóðuð kerfi.
Fyrirtæki hækkuðu örugglega FirstBreytingin heldur því fram og segir: „Það er þvinguð ræða að neyða okkur til að skrifa svona kóða. Það eru gild rök. Það gæti verið, aftur, eitt sem dómstólar eru líklega minna tilbúnir til að takast á við í upphafi ef þeir geta tekist á við þessi mál á annan hátt. En ég er ánægður með að FIRE skrifaði þessa færslu og mér finnst þetta áhugaverð og sannfærandi rök.
Já, það er bara eðli seinni Trump-stjórnarinnar að hún er svo agalegt verkfæri, það er næstum öruggt að við munum ráðast á öll mál í einu.
Já, hverja breytingartillögu um réttindaskrá þarf að mótmæla í einhverri mynd með öllum mögulegum málum.
[hlær] Snúðu hjólinu.
Ég er viss um að við getum komið fyrir broti á þriðju breytingu einhvers staðar hér.
Jú, já. Claude verður að búa í húsinu þínu núna. Einmitt. Það verður frábært. Við gerum [breytingatillögur] eitt, þrjú, fjögur og sjö. Við höldum þeim upp.
Mike, þetta hefur verið frábært. Ég trúi því ekki að þú hafir ekki verið í þættinum áður. Þetta hefur verið frábært. Þú verður að koma aftur fljótlega.
Algjörlega. Hvenær sem þú vilt mig.
Spurningar eða athugasemdir um þennan þátt? Hringdu í okkur á decoder@theverge.com. Við lesum í raun hvern tölvupóst!
