Šodien mēs runājam par netīro, strauji mainīgo situāciju Anthropic, Kloda veidotājs, kurš tagad atrodas ļoti neglītā juridiskā cīņā ar Pentagonu.
Turp un atpakaļ ir sarežģīti, taču vēl pirms dažām dienām Pentagons uzskatīja, ka Anthropic ir piegādes ķēdes risks, un Anthropic ir iesniedzis prasību tiesā, apstrīdot šo apzīmējumu, sakot, ka valdība ir pārkāpusi tās Pirmā un piektā grozījuma tiesības, "cenšoties iznīcināt ekonomisko vērtību, ko rada viens no pasaulē visstraujāk augošajiem privātajiem uzņēmumiem". Es varu jums pateikt tūlīt: turpmākajos mēnešos mēs runāsim par šīs lietas līkločiem vietnē The Verge un šeit, vietnē Decoder.
Taču šodien es vēlējos veltīt brīdi un padziļināti izpētīt vienu ļoti svarīgu šīs situācijas elementu, kuram nav pievērsta pietiekama uzmanība, jo šī situācija ir izgājusi no kontroles: kā ASV valdība veic uzraudzību, juridiskās pilnvaras, kas pieļauj šādu novērošanu, un kāpēc Anthropic neuzticējās valdībai, sakot, ka tā ievēros likumu, kad runa ir par mākslīgā intelekta izmantošanu, lai veiktu vēl lielāku uzraudzību.
Abonenti, neaizmirstiet, ka saņemat ekskluzīvu piekļuvi dekodētājam bez reklāmām — visur, kur saņemat aplādes. Dodies šeit. Vai neesat abonents? Reģistrēties var šeit.
Mans viesis šodien ir Maiks Masniks, izcilās un ilgstošās tehnoloģiju politikas vietnes Techdirt dibinātājs un izpilddirektors. Maiks jau vairākus gadu desmitus ir rakstījis par valdības pārtēriņu, privātumu digitālajā laikmetā un citām saistītām tēmām. Viņš ir eksperts par to, kā internets un uzraudzības valsts ir izauguši savstarpēji saistītos veidos.
Redziet, likumā teikts, ka valdība var darīt, kad runa ir par mūsu novērošanu, un pēc tam tas, ko valdība vēlas darīt. Un vissvarīgākais ir tas, ko valdība saka, ka tā var darīt, kas bieži vien ir tieši pretējs tam, ko domā jebkurš normāls cilvēks, kurš vienkārši lasa likumu.
Jūs dzirdēsiet Maiku ļoti detalizēti paskaidrojam šajā epizodē, ka mēs nevaram un nedrīkstam uzņemties ASV valdības vārdu, kad runa ir par novērošanu. Ir pārāk daudz vēstures, kad valdības juristi ir sagrozījuši vienkāršu vārdu, piemēram, “mērķis”, interpretācijas, lai sarežģītos veidos paplašinātu uzraudzību — veidi, kas parasti rada bažas tikai juristu aprindās, un tikai uzliesmo tad, kad ir milzīgas pretrunas, piemēram, trauksmes cēlēja Eda Snoudena lielākie NSA atklājumi pirms vairāk nekā desmit gadiem.
Taču Trampa laikmetā politikas veidošanā nav nekā smalka vai izsmalcināta — un līdz ar to ar Anthropic mums ir ļoti skaļas, ļoti publiskas debates par tehnoloģijām un uzraudzību reāllaikā, internetā, emuāra ierakstos un X rantās, kā arī preses konferencēs. Tam ir pozitīvas un negatīvas puses, taču, lai to visu saprastu, jums patiešām ir jāzina vēsture.
To mēs ar Maiku mēģinājām paskaidrot šajā epizodē — neatkarīgi no jūsu uzskatiem par mākslīgo intelektu un valdību, šī epizode skaidri parādīs, ka abas puses laika gaitā ir ļāvušas uzraudzības stāvoklim kļūt arvien lielākam un lielākam. Tagad mēs esam uz līdz šim lielākās AI paplašināšanās sliekšņa.
Labi: Techdirt dibinātājs un izpilddirektors Maiks Masniks par Anthropic, Pentagon un AI novērošanu. Lūk.
Šī intervija ir nedaudz rediģēta garuma un skaidrības labad.
Maiks Masniks, jūs esat Techdirt dibinātājs un izpilddirektors. Laipni lūdzam dekodētājā.
Es priecājos būt šeit.
Esmu sajūsmā, ka jūs esat. Es tikai teicu, ka esmu šokēts, ka jūs nekad iepriekš neesat piedalījies šovā. Jūs un es jau ilgu laiku esam rakstījuši un publicējuši viens otru. Liela daļa The Verge politikas segumu ir parādā par to, ko esat paveicis uzņēmumā Techdirt, un tas, kas notiek ar Anthropic, ir tik sarežģīts, bet skar tik daudz tēmu, par kurām esat tik ilgi pievērsies. Priecājos, ka beidzot esat šeit.
Tas ir sarežģīts tēmas juceklis, bet es priecājos par to iedziļināties.
Es vēlos ar jums koncentrēties nevis uz detaļām par to, vai Anthropic gatavojas parakstīt līgumu ar valdību vai arī OpenAI saņems šo līgumu. Tā vietā esmu pārliecināts, ka laikā no brīža, kad mēs to ierakstīsim, līdz brīdim, kad cilvēki to klausās, būs vairāk tvītu un vairāk lietu atšķirsies, nekā bija iepriekš.
Es vēlos pievērsties tikai vienai no divām sarkanajām līnijām, kuras Anthropic patiešām ir izklāstījis. Viens no tiem irautonomie ieroči, kas ir savs sarežģītības līmenis. Tur likums nedaudz top, neatkarīgi no tā, vai ieroči vispār pastāv vai Krievija tos jau ir izvietojusi Ukrainas karā.
Šeit ir daudz ideju, kuras es vienkārši vēlos atlikt malā, jo domāju, ka tās vairāk tiks pievērstas savam grafikam. Otra sarkanā līnija, kurai es vēlos veltīt daudz laika, ir masveida novērošana. Un šeit ir diezgan daudz likumu par masveida novērošanu. Ir daudz vēstures, daudz strīdīgas vēstures. Viss Edvarda Snoudena tēls pastāv masveida novērošanas strīdu dēļ.
Tas viss ir saistīts ar — es domāju, ka jūs esat tas, kas to ievietojis — Nacionālās drošības aģentūras (NSA), kas ir daļa no Aizsardzības departamenta un kas mums kaut kādu iemeslu dēļ tagad ir jāsauc par Kara departamentu.
[Smejas] Mums nekas nav jādara.
[Smejas] Mēs nē. Tā ir taisnība šeit, Amerikā. Mums nekas nav jādara. Taču NSA būtībā ir no jauna definējusi, ko daudzi vārdi nozīmē sarunvalodā, lai nozīmētu: "Mēs varam vienkārši veikt uzraudzību." Un tad ik pa laikam notiek skandāls, kad cilvēki atklāj, ka viņi tikai novēro. Tāpēc vienkārši uzstādiet vietu, un es nevēlos jūs attīt līdz galam, taču ir pagājis diezgan daudz laika, kad šis modelis atkārtojas.
Tas ir atkarīgs no tā, cik dziļi vēlaties iedziļināties, bet īsā versija acīmredzami ir pasaulē pēc 11. septembra, ASV pieņēma Patriotu likumu, kuram bija zināma iespēja valdībai iesaistīties uzraudzībā, kas bija paredzēta, lai aizsargātu mūs pret nākotnes terorisma draudiem. Laika gaitā tas tika interpretēts interesantā veidā, un tam bija daži ierobežojumi. Mums bija arī FISA tiesa, kas ir īpaša tiesa, kurai vajadzētu izskatīt izlūkdienestu kopienu un to darbību, bet tradicionāli ir bijusi vienpusēja tiesa. Tikai viena puse var iesniegt savu lietu šai tiesai, un tas viss tiek darīts slepeni.
Ir daudz lietu, kas nebija zināmas. Un tad tajā visā bija vēl viens gabals, kas attiecas uz Ronaldu Reiganu, kas ir izpildrīkojums 12333, kas it kā ir paredzēts izlūkdatu vākšanas ceļu noteikumu noteikšanai.
Tātad jums ir šie trīs likumu kopumi — labi, daži likumu kopumi — un izpildrīkojums, kas sabiedrībai, tās daļas, kuras jūs varat izlasīt, šķiet, pasaka noteiktas lietas par to, ko mūsu valdība un jo īpaši NSA var darīt novērošanas ziņā. Lasot ar vienkāršu angļu valodas vārdnīcu, kuras būtība jums un man, iespējams, ir un saprotama, mēs nonākam pie pārliecības, ka NSA spēja uzraudzīt amerikāņus bija ļoti ierobežota, patiesībā tiktāl, cik viņiem vajadzētu, ja viņi saprot, ka viņi novēro kādu ASV personu, ka viņiem nekavējoties jāapstājas un jāraud, ka šie dati ir nejauki un jāizdzēš visi šie dati.
Kādu laiku klīda baumas, ka tas īsti nenotiek, un bija mājieni, un jo īpaši senators Rons Vaidens ļoti skaļi izteicās par to, ka iegāja Senāta zālē un teica: "Te kaut kas nav kārtībā, un es nevaru jums pateikt, kas," vai uzklausīšanā viņš izlūkošanas amatpersonām jautāja: "Vai jūs vai nevācat masu datus par amerikāņiem?"
Šīs amatpersonas vai nu novirzītos, vai dažos gadījumos atklāti melotu. Es uzskatu, ka tā bija viena noklausīšanās 2012. gadā ar Džeimsu Kleperu, kurš tajā laikā bija Nacionālās izlūkošanas direktors, un kurā viņam tieši tika uzdots jautājums par šo jautājumu. Un viņš būtībā teica: "Nē, mēs nevācam datus par amerikāņiem." Tā bija liela daļa no tā, kas iedvesmoja Edu Snoudenu nopludināt datus, ziņojumus, ko viņš nopludināja arī Glenam Grīnvaldam un Bārtonam Gelmanam un Laurai Puatrasai. No visa tā mēs sākām atklāt, ka NSA ir sava vārdnīca, kas nedaudz atšķiras no vārdnīcas, ko mēs un jūs lietojam, tādējādi viņi var interpretēt vārdus veidā, kas atšķiras no to vienkāršās angļu valodas nozīmes, tostarp tādus vārdus kā “target”, kas šķiet kā atslēgas vārds. Plaša izpratne par to, kas tas ir, ir tāda, ka teorētiski to mērķauditorija ir tikai cilvēki, kuri nav ASV pilsoņi, manuprāt, tā ir frāze.
Taču laika gaitā tas tika interpretēts, ka viss, kas piemin šo personu, viss, kas attiecas uz ārzemnieku, tagad ir godīga spēle, pat ja tā ir kādaASV persona. Tātad, ja mēs ar jums sūtītu viens otram īsziņas un pieminētu kādu ārzemju personu, NSA tagad ir godīga spēle, kas jāievāc, jāglabā un jāuzglabā.
Tam ir otrā daļa. Es pieminēju pirmo Ronalda Reigana izpildrakstu 12333, kas, tehnoloģijai mainoties laika gaitā un pieaugot internetam, efektīvi ļāva NSA izmantot ārvalstu sakarus, taču tas ietvēra visus sakarus, kas, iespējams, ir atstājuši ASV ceļā kaut kur. Tātad, ja es jums sūtu īsziņu un no manis Kalifornijā pa optiskās šķiedras kabeli, kas izbrauca no ASV, tika nosūtīta ziņa, NSA varētu pieskarties tai daļai, kad tā atrodas ārpus ASV, un apkopot šo informāciju, pat ja tā tika nosūtīta tikai jums ASV.
Pēc tam NSA varētu saglabāt šo informāciju pat tad, ja tā attiecas uz ASV personām, un vēlāk viņi varētu veikt konkrētu meklēšanu, ko dažkārt dēvē par "backdoor" meklēšanu. Viņi vāca šo informāciju, kas, mūsuprāt, viņiem sākotnēji nebija jāievāc, taču varēja to paturēt. Un viņi solīja, viņi zvērēja, ka paturēs to privāti, bet, ja viņi veica kratīšanu un atklāja, ka jūs vai es pieminējām kādu ārzemju, tad pēkšņi viņiem bija godīga spēle ar to darīt, ko vēlas.
Kopumā tā ir kļuvusi par pasauli, kurā federālā valdība būtībā var apkopot jebkuru informāciju, kas notiek ārpus ASV. Pat ja tas ir pilnībā starp divām ASV personām, ja viņi piemin vai pat dod mājienu uz kādu, kas nav ASV pilsonis, pēkšņi tā ir godīga spēle. Un no tā mēs esam ieguvuši, šķiet, ASV personu masveida novērošanu, ko veic NSA, kas apgalvo un publiski paziņo, ka tā neizspiego ASV personas.
Kā mēs nonācām līdz šim punktam? Tas ir daudz pakāpenisku mazuļa soļu. Jūs pieminējāt Džeimsu Kleperu 2012. gadā, tā ir Obamas administrācija. Jūs pieminējāt Ronaldu Reiganu, tie ir astoņdesmitie gadi. Mēs šeit ejam cauri demokrātiem un republikāņiem.
Karš pret terorismu notika Džordža Buša administrācijā, un 11. septembris un Patriotu akts notika Džordža Buša administrācijā. Abu partiju prezidentu vadībā, abu partiju kongresos ir daudz slikto lietu. Kā tas notika?
Vienkāršākā tā forma ir tāda, ka neviens un noteikti neviens prezidents nevēlas būt prezidents laikā, kad notiek liels teroristu uzbrukums, jo tas liek viņiem izskatīties slikti. Acīmredzot viņi arī vēlas aizsargāt amerikāņus, vai ne? Tā ir daļa no viņu darba. Ja jums ir izlūkdienesta kopiena, kas pamatā darbojas tumsā, jo tā dara izlūkošanas kopienas, un viņi pastāvīgi nāk pie jums un saka: "Ei, ja mēs varētu vienkārši piekļūt šai informācijai, tas patiešām būtu noderīgi teroristu uzbrukuma novēršanā."
Var būt gadījumi, kad tā ir taisnība, ka izlūkošanas kopiena var izmantot šo informāciju tā, lai tas darbotos labi. Bet teorētiski mēs esam arī likumu sabiedrība ar ASV konstitūciju, kas mums ir jāpakļaujas. Bet tas pieļāva faktu, ka administrācijai pēc administrācijas, atkal, republikāņiem un demokrātiem, bija juristi, kuri bija ļoti gudri un kuri skatījās cauri un teica: "Nu, ja mēs nostājamies šādi vai mēs tā, vai mēs to interpretējam, tādā veidā mēs varam iegūt to, ko vēlamies, un tehniski nepārkāpt likumu vai tehniski nepārkāpt ceturto grozījumu."
Pieņēmums vienmēr bija šāds: "Mēs varam kaut kā sagrozīt likumu vai savu likuma interpretāciju, un neviens to nekad īsti neredzēs, vai arī neviens, kam tas interesē, to nekad neredzēs, un tāpēc mēs no tā tiksim vaļā."
Ir divas lietas, kas man ļoti uzkrīt. Pirmkārt, jūs un es abi lasām daudz tiesas lēmumu — apelācijas tiesas lēmumus un Augstākās tiesas lēmumus. Un mūsu Augstākajā tiesā notiek cīņa par to, kā burtiski interpretēt vārdus mūsu statūtos un likumos.
Es tajā neiedziļināšos, bet es teiktu vispārīgi, ka ideja, ka jums vajadzētu vienkārši izlasīt vārdus lapā un darīt to, ko viņi saka, ir dominējošā likuma interpretācija Amerikas Savienotajās Valstīs. Pa kreisi vai pa labi, viņi abi to saka. Viņi strīdas par dažiem ļoti ezotēriskiem jautājumiem par to, ko tas patiesībā nozīmē. Bet tas, ka jums vienkārši jāspēj lasīt šos vārdus un darīt to, ko tie saka, tas nav vienkārši, vai ne?
Mēs esam nokļuvuši vismaz pirmajā piegājienā no tā, ko jūs varētusauc par tekstuālismu. Kā abu administrāciju juristi tik tālu attālinās no mūsu valstī dominējošā tiesisko lēmumu pieņemšanas veida? Abu pušu tiesneši ir vienisprātis, ka tas ir vismaz pirmais solis.
Es vēlos zināt precīzu atbildi, bet es domāju, ka tā ir motivēta argumentācija, vai ne? Kā jurists jūs esat tur, lai aizstāvētu savu klientu, un mūsu tiesību sistēmas panākumi — ja to var saukt par panākumiem — parasti ir balstīti uz sacīkstes situāciju, kurā jums ir dažādas puses, kas strīdas par šīm lietām, kur tiesneša uzdevums ir sašaurināt un noskaidrot, kura puse patiesībā ir pareiza.
Viena no izlūkošanas kopienas un tās konfigurācijas problēmām ir tāda, ka jums nav šīs pretrunīgās situācijas. Tādējādi vienai pusei ir vieglāk attaisnot savu argumentu, jo neviens to īsti neatstāj. Jūs to apvienojat ar vispārējām bailēm no cita teroristu uzbrukuma, jebko, kas saistīts ar valsts drošību, un pat tad, ja jums ir situācijas, kad jums ir FISA tiesa — es domāju, ka FISA tiesa bija zināmā mērā slavena ar to, ka daudzus gadus tā faktiski bija gumijas zīmogs.
Es aizmirsu precīzus skaitļus, taču vairāk nekā 99 procenti pieteikumu, kas tika iesniegti FISA tiesai, lai atļautu noteiktu situāciju uzraudzību, tika apmierināti, un ir viegli teikt, ka 99 procenti acīmredzami ir par daudz. Acīmredzot tie, kas iesniedz prasības tiesā, izvēlas un izvēlas. Viņi lielākoties neizvirza pilnīgi trakas pretenzijas. Bet bez šī pretrunīgā aspekta un ar ļoti motivētu cilvēku grupu, kas domā: "Mums tas ir jādara" vai administrācija saka: "Mums tas jādara", viņi atradīs veidus, kā to izdarīt. Un tur jūs laika gaitā nonākat.
Vai šajā procesā ir bijis kāds, kurš kādreiz ir pamodies un sacījis: “Puika, mums ir izdevies no jauna definēt vārdu “mērķis”, lai tas nozīmētu jebko, ko vēlamies”?
[Smejas] Acīmredzot jums bija Eds Snoudens, kurš nopludināja daudz dokumentu. Jums bija Džons Napier Tye, kurš 2014. gadā rakstīja rakstu laikrakstam The Washington Post, kurā tika atklāta izpildrīkojuma 12333 interpretācija, un teica, ka tā ir patiesā problēma, kurai jāpievērš uzmanība. Jums ir citi cilvēki, kas ir runājuši par šīm lietām, bet lielākoties cilvēki, kas ir iesaistīti administrācijas darbā ar izlūkošanas kopienas lietām, ir iepirkti izlūkdienestu skatījumā, proti, galvenais mērķis ir aizsargāt valsti no kaut kā slikta. Labākais veids, kā to izdarīt, ir iegūt pēc iespējas vairāk informācijas.
Ir viegli uztvert argumentu, ka, jā, plašākas informācijas iegūšana var ļaut viņiem kaut ko uztvert agrāk vai atrast kaut ko svarīgu, taču tas var nebūt patiess. Pārāk daudz informācijas iegūšana, iespējams, ir tikpat slikta kā pārāk maz informācijas, jo bieži vien tā var paslēpt informāciju, kas patiešām ir noderīga, informāciju, kas jums patiešām ir nepieciešama, lai kaut ko noteiktu.
Taču mums ir arī ASV Konstitūcija, pirmkārt, un mums ir iemesli, kāpēc teorētiski mums nevajadzētu pieļaut masveida uzraudzību bez iespējama iemesla. Kā valstij, kas tic likuma varai, mums ir jāspēj to ievērot, un, kad tas viss notiek tumsā, jums būs tendence to aizmirst.
Tas mani noved pie Antropikas. Anthropic galvenokārt ir uzņēmumu uzņēmums. Viņiem labi padodas valdība, viņi ir uzaudzējuši muskuļus, strādā cilvēki, kuri patiešām labi pārzina dažas no šīm lietām. Viņi acīmredzot paskatījās uz Pītu Hegsetu, sakot: "Mēs vēlamies visus likumīgos lietojumus", un viņi nolaida divus interpretācijas līmeņus un teica: "Jūsu burtiskā pārliecība ir tāda, ka šie vārdi nenozīmē to, ko viņi saka, ka tie nozīmē viņu sejā. Tātad "visi likumīgie lietojumi" ir pārāk lieli, un mēs vēlamies izveidot dažas aizsargmargas, īpaši ap masveida uzraudzību."
Atkal es noteikšu autonomos ieročus, kas bija otra sarkanā līnija, bet īpaši attiecībā uz masu uzraudzību Dario Amodejs saka: "Mēs varam darīt pārāk daudz. Tas ir pārāk bīstami. Šis ir ceturtā grozījuma pārkāpums."
Spriedze ir tāda, ka "jūs sakāt, ka ievērosit šos likumus, kas saka vienu, un tagad, pēc visa šī laika, tie nozīmē kaut ko pavisam citu, un mēs vienkārši nevēlamies būt daļa no tā." Tas ircīnīties. Es tikai vēlos to salīdzināt ar Semu Altmanu, kurš pievēršas, lai pateiktu: "Mēs veiksim visus likumīgos lietojumus", un pēc tam publicē šo garo ziņojumu, piemēram: "Šeit ir visi likumi, kurus mēs ievērosim."
Šķiet, ka Altmans nezināja, kā NSA šīs lietas ir interpretējusi no jauna, un viņu paņēma izbraucienā. Kopš tā laika viņš ir sācis to atgriezt — pat ierakstīšanas laikā esmu pārliecināts, ka ir vairāk tvītu un ikviena pozīcija ir mainījusies. Taču Altmens ir lēnām gājis atpakaļ, taču šķiet, ka OpenAI tika piespiests lasīt statūtus un ticēt viņu teiktajam. Vai tā ir arī jūsu notikumu interpretācija?
Ir divas iespējas, un tā ir viena no tām. Viens no tiem ir tas, ka viņš tika spēlēts tāpat kā sabiedrība daudzus gadus. Alternatīvā teorija, un man nav ne jausmas, kura no tām ir patiesa, ir tāda, ka viņš vai daži no OpenAI juristiem, kuri, manuprāt, ir ļoti kompetenti un ļoti zinoši, to zināja, taču domāja, ka viņi varētu spēlēt to pašu spēli, ko NSA spēlēja dažas desmitgades, proti, ja vien viņi saka šīs lietas un pēc tam saka vārdus, bet neatklāj patieso interpretāciju, ka arī viņi varētu atbrīvoties. Tāpēc Sems nāk klajā ar paziņojumu, kas liek izskatīties šādi: "Mums bija tieši tādas pašas sarkanās līnijas kā Anthropic, un valdība ar to bija lieliski."
Patiesībā, manuprāt, Sems Altmans teica, ka Anthropic ir divas sarkanās līnijas, bet OpenAI – trīs, un valdībai tas bija pilnīgi labi, un tas lika daudziem cilvēkiem kaut ko saskrāpēt. Bet es domāju, ka ir jābūt tam, ka Sems Altmans un visi, kas bija viņam apkārt, nesaprata, kā šīs lietas darbojas praksē, vai arī viņi saprata, un viņi vienkārši pieņēma, ka sabiedrība to nezinātu, un tāpēc viņi varētu no tā izvairīties.
Otra lieta, kas nāk prātā — AI atkal ir jaunums, un ir tik vilinoši pievērsties jaunām tehnoloģijām, jo tās ir pirmā iespaida problēmas. "Nevienam agrāk par to nav bijis jādomā," taču patiesībā visi par šīm lietām ir domājuši jau ilgu laiku. Varbūt šeit jaunums nav AI, bet gan tas, ka otrā Trampa administrācija tā vietā, lai veiktu daudz juristu, ko varbūt neviens nekad nelasīs, lai attaisnotu savu rīcību slepenai tiesai, kurai neviens nepievērš uzmanību, tā vietā nav tik smalka.
Viņi nav tik izsmalcināti un tikai saka, ka visu laiku izspiegos visus. Viņi vienkārši paziņoja par saviem nodomiem tādā veidā, ka varbūt visām administrācijām vajadzētu tikai paziņot par saviem nodomiem un redzēt, kur nokrīt čipsi.
Bet es skatos uz faktu, ka šeit, Ņujorkā, bija Eds Snoudens. AT&T pārvalda ēku, par kuru visi zina, ka tā ir NSA ēka. Tā ir tikai milzīga ēka, un mums vajadzētu izlikties, ka tas nav NSA novērošanas centrs, bet tas atrodas tieši tur. Tas ir milzīgs. Šķiet, ka nekas no tā nav sanācis. Visas šīs atklāsmes, šīs noplūdes mēs to neesam atspēkojuši.
Patiesībā tas ir tikai palielinājies, jo liela daļa mūsu dzīves ir kļuvusi arvien digitālāka. Un, iespējams, Trampa administrācija vienmēr ir tik strups instruments, kas patiesībā varētu būt tas, kas izraisa aprēķinus. Vai jūs tomēr redzat, ka tas notiek?
Šeit ir dažas dažādas lietas, un tā nav pilnīga taisnība, ka mēs vispār neesam atteikušies no šīs lietas. Snoudena atklājumi izraisīja dažas izmaiņas, kā šīs lietas notiek. Un tagad ir — es aizmirsu, kā viņus sauc, bet viņi ir kā šie civilie mierīgie cilvēki FISA tiesā, kas darbosies kā konkrētos jautājumos prezentēt otru pusi.
Un mēs esam redzējuši, ka dažas iestādes ir ierobežotas noteiktos veidos, un tās ik tik bieži nāk klajā ar atkārtotu autorizāciju, un aktīvisti ir bijuši ļoti agresīvi, spiežot atpakaļ un cenšoties uzlikt vēl dažas aizsargmargas. Bet uz lielāku jautājumu, manuprāt, ir divas dažādas lietas. Jums ir puse taisnības, jo šī administrācija nav smalka un tikai skaļi pasaka lietas, ko tai nevajadzētu darīt.
"Mēs karojam ar Irānu, mēs to darām, tas notiek. Mēs pat negrasāmies izmēģināt deju."
Tādos veidos, kā visas iepriekšējās administrācijas to nedarītu. Bet viņi par to nav teikuši tiešinovērošana, īpaši amerikāņu novērošana. Ir bijuši mājieni par to, bet tie nav tik spēcīgi. Otra puse no tā ir vairāk saistīta ar Anthropic pozicionēšanu un vispārējo skatījumu uz AI kā šo, iespējams, eksistenciālo tehnoloģiju, kur Anthropic vienmēr ir sevi pieteicis kā "Mēs esam pārdomāti labie puiši", un tas, vai jūs uzskatāt, ka tas ir kaut kas cits. Viņiem ir šāda reputācija: "Mēs cenšamies to darīt drošā veidā, respektējot cilvēci un pievēršot uzmanību visām šīm lietām." Un tāpēc, kad jums ir šī sadursme, tur sākas cīņa.
Jums ir Trampa administrācija, kas vienkārši vēlas, lai tā varētu darīt visu, ko tā vēlas, un viņi par to nav smalki. Un tad jums ir Anthropic, kura pašapraksts un tā publiskā persona vienmēr ir šādi: "Mēs esam pārdomāti un cienām cilvēci un tiesības, un visas šīs lietas." Iespējams, tieši tur radās sadursme, jo Anthropic, kā jau tika skaidri norādīts, kādu laiku ir strādājis ar Aizsardzības departamentu un tam ir daudz citu līgumu ar valdību, ko tas ir izmantojis. Tā nav bijusi problēma.
Tikai šajās īpašajās jomās, valdībai cenšoties paplašināt tai noslēgto līgumu, Anthropic augstākā vadība sāka teikt: "Pagaidiet, mums ir jāpārliecinās, ka mēs nepārkāpjam šīs sarkanās līnijas, kas varētu kaitēt mūsu kā pārdomāta, droša AI nodrošinātāja reputācijai."
Es vēlos īsi jautāt jums par novērošanu kopumā un jo īpaši par Anthropic ceturtā grozījuma bažām. Ceturtais grozījums saka, ka valdība nevar jūs nepamatoti pārmeklēt. Labākais veids, kā izprast ceturto grozījumu, ir klausīties Jay-Z “99 problēmas”. Tātad, ja jums ir nepieciešams ieturēt pauzi un doties klausīties "99 problēmas", tas ir lieliski. Tas viss ir tur. Es to klausījos, kad mācījos tiesību zinātnē, un tas bija pilnīgi loģiski.
Taču valdībai parasti ir nepieciešams orderis, lai jūs varētu kratīt. Tā kā arvien vairāk jūsu dzīves ir tiešsaistē, ir daudz izņēmumu. Taču ideja ir tāda, ka viņiem joprojām ir nepieciešams orderis tiešsaistē. Anthropic arguments ir: "AI nekad nenogurs. Tas var visu laiku meklēt visu. Tas nozīmē, ka mēs veiksim tikai galveno uzraudzību."
Tomēr jau pirms AI parādīšanās bija doma, ka valdība var pārmeklēt visu, kas jums pieder, un doma, ka valdībai nav nepieciešams orderis visu jūsu lietu pārmeklēšanai. Doma, ka gadījumā, ja kāds no jūsu datiem kādreiz uz īsu sekundi iziet ārpus valsts, valdība to tur pārtvēra,
Kad es mācījos koledžā, ap Patriot Act, diskusijas bija par to, ka viņi nemeklēs jūsu faktiskos datus, bet viņi var iegūt metadatus un metadatus atsevišķi. Dati par jūsu datiem būs pietiekami, lai jūs vienmēr varētu precīzi noteikt. Un pat tas ir pārāk tālu. Un mēs esam dejojuši to, ko valdība var savākt? Kas ir pieļaujams? Kas viņiem ir vajadzīgs, lai mēs visi būtu drošībā, un kas ir pārāk tālu? Šīs rindas ir pārvietotas.
Tāpēc īsi aprakstiet vispārējās bažas par novērošanu tādā mērogā un to, kur mēs šobrīd atrodamies. Pirms AI situācija visu padarīja eksponenciāli sarežģītāku.
Šeit man ir jāievieš vēl viens jēdziens, kuru, iespējams, vajadzēja pieminēt iepriekš, bet tas ir svarīgs, ko sauc par “trešās puses doktrīnu”. Ceturtā grozījuma ideja ir tāda, ka valdība nevar pārmeklēt jūs vai jūsu lietas bez ordera, un tā nevar saņemt orderi bez iespējama iemesla, ka esat izdarījis kādu noziegumu. Bet ir šis jēdziens, kas parādījās apmēram pirms vairākiem gadu desmitiem, ko sauca par trešās puses doktrīnu, kurā teikts, ka tas ne vienmēr attiecas vai vispār neattiecas uz lietām, kas nav jūsu, pat ja tie ir jūsu dati.
Agrākā un acīmredzamākā versija bija tālruņu kompānijas rīcībā esošie tālruņa ieraksti par to, kam jūs zvanījāt. Tālruņu kompānijas neierakstīja jūsu zvanus, taču ierakstīja, ja es jums piezvanīšu, telefona kompānijā būtu ieraksts, kurā teikts: "Maiks zvana Nilay." Un tas, ko noteica vairākas tiesas, bija tas, ka valdība var iet un to pieprasīt, un viņiem nav vajadzīgs orderis, jo tā nav kratīšanajūsu datus, tā ir šī trešā puse, un tā var piekrist kā trešā puse vienkārši nodot šos datus.
Bet tie bija gadījumi no 1960. un 70. gadiem, kad tika noteikts, ka valdība var piekļūt tam bez ordera, kad nebija tik daudz trešo pušu datu. Datoru un interneta pieaugums to mainīja. Tagad viss ir trešās puses dati. Visu, ko mēs darām, kaut kur savāc kāds uzņēmums un par to ir ieraksts. Tātad būtībā visi dati par jums, kur jūs atrodaties, ar ko runājat, ar ko jūs mijiedarbojaties, ko jūs sakāt, ko jūs darāt, un tas viss mūsdienās lielākoties ir trešo pušu rīcībā. Tātad trešās puses doktrīna zināmā mērā ir aprijusi visu ceturto grozījumu, kur viss, kas attiecas uz jums, kas ir kādam citam, ir daudz zemāks standarts tam, ko valdība var darīt, lai to pieprasītu.
Precīzāk sakot, tas nozīmē, ka tad, kad mani dati ir iCloud, valdība var vērsties pie Apple un iegūt manus datus no iCloud, man to nepaziņojot?
Viņi to var pieprasīt. Viņi to var viegli pieprasīt bez ordera. Tad uzņēmumam ir savas tiesības un tas var noteikt, ko tas vēlas darīt ar šo pieprasījumu. Viņi var vienkārši no tā atteikties. Viņi var, kā to darīs lielākā daļa, ja tas ir nopietns pieprasījums, vai arī viņi var jūs brīdināt, un viņi var teikt — un lielākā daļa no viņiem to darīs — viņi brīdinās jūs un teiks: "Valdība pieprasa dažus jūsu datus. Varat vērsties tiesā un mēģināt tos bloķēt." Ja nē, viņi nodos jūsu datus septiņu dienu laikā vai neatkarīgi no tā, kas tas varētu būt.
Atkal, tas ir atkarīgs. Ja tā ir kriminālizmeklēšana, iespējams, ka uzņēmumam nav atļauts jums to paziņot. Ir visdažādākās situācijas, taču vairums no tām ir saistītas ar zemāku aizsardzības līmeni, nekā prasītu ceturtais grozījums, ja tie būtu dati vai jebkāda informācija vai jebkas cits jūsu mājās.
Datu apjoms, kas jums ir kāda cita mākoņa serverī, ir milzīgs, vai ne? Katra lieta, ko parasti darāt internetā, tiek kaut kādā veidā dublēta vai kaut kādā veidā ierakstīta kāda cita serveros. Valdība ir atradusi šādu veidu, kā apiet ceturto grozījumu un pateikt: "Nu, tas patiesībā nav jūsu. Tas pieder Amazon. Mēs varam iet runāt ar Amazon", un Amazon ir jānostājas šī procesa vidū un jāsaka: "Mēs esam izgudrojuši citu procesu, lai zināmā mērā aizsargātu cilvēkus."
Es skatos uz to — un, kad es aprakstīju pirmās trešās puses doktrīnu lietas, kas aptvēra mākoņpakalpojumus, un valdība turpināja uzvarēt, būtībā es kļuvu par Džokeru. Es domāju: "Visi šie materiāli, ar kuriem mēs izliekamies par tekstuālismu un vienkāršu [lasīšanu], nekas no tā neko nenozīmē, jo mēs vienkārši virzāmies uz aizmugures durvīm, izmantojot šo seno likumu ikviena datos."
Un tad es skatos uz šo un es skatos uz Anthropic un saku: "Nu, tas ir tas pats modelis." Šis ir privāts uzņēmums, kas saka: "Labi, mēs saprotam jūsu nostāju. Mēs saprotam, ka jūs esat pārtulkojis likumu, lai tas nozīmētu šo lietu, un mēs ievietosim procesu starp jums, mūsu rīku un amerikāņu datiem, kas plūst caur mūsu pakalpojumu." Es tikai domāju, vai jūs redzat šo paralēli starp Anthropic un Amazon un Azure un jebkuriem citiem mākoņpakalpojumiem, kas glabā tik daudz mūsu datu.
Jā, lai gan šeit ir daži svarīgi precizējumi, kas padara to nedaudz atšķirīgu. Un patiesībā — es domāju, ka laikrakstam The New York Times šie ziņojumi bija pirmie — galvenā klauzula, kas bija vissvarīgākā Anthropic, bija tieši par datiem, kas savākti no komerciāliem pakalpojumiem, un par to, ka nevar izmantot Klodu šiem datiem, kas ir tieši šī problēma attiecībā uz trešo pušu datiem. Taču es vēlos precizēt galveno atšķirību starp to, par ko mēs tikko runājām pirms šī brīža ar Amazon vai citām trešajām pusēm, kas mitina jūsu datus. Tie bija gadījumi, kad viņi atradās ekosistēmā, jo tie mitināja jūsu datus tieši.
Ar Klodu neviens neuztraucas par to, ka NSA izskata jūsu Kloda lietojumu. Runa ir par to, ka viņi iziet un iegūst trešās puses datus no Amazon vai, visticamāk, tādiem viltīgiem, slēptiem datu brokeriem, kas rāda reklāmas jūsu tālruņos un zina jūsu atrašanās vietu, jūsu intereses un tamlīdzīgas lietas. Un tad ievadiet to sistēmāka Klods tad piestrādās. Tas ir tas, kurā Anthropic īsti nevēlējās piedalīties. Tāpēc neatkarīgi no tā, kur valdība vāktu šos datus no trešās puses, Anthropic sacīja: "Mēs nevēlamies, lai mūsu rīks tiktu izmantots šiem datiem."
Apple lieliski iestājas pret FIB, lūdzot tam iPhone tālrunim uzstādīt aizmugures durvis, un Apple saka “nē”, un viņi iestājas pret Trampu. Un ir daļa no mūsu sistēmas darbības, kurā lielie privātie uzņēmumi var pateikt “nē” valdībai savu klientu vārdā. Un tas jūtas tāpat, kā Apple atkal to neliks iPhone tālrunī, vai arī lielie mākoņpakalpojumu sniedzēji saka: “Ir neliels process, kas jums ir jāiziet pirms individuālo datu iegūšanas.”
Šeit šķiet, ka Anthropic saka: "Mēs ne tikai veiksim lielapjoma datu analīzi, ko esat ieguvis no citām pusēm, jo tas noved pie amerikāņu masveida novērošanas visu diennakti, un mēs to nevēlamies." Tomēr šķiet, ka tas ir pārāk tāls tilts šai administrācijai. Vai no tā ir kāda atgriešanās?
Mēs redzēsim. Agrāk, kad tas notika — un tas ir noticis daudzas reizes ar lielāko daļu lielo tehnoloģiju uzņēmumu, viņi kādā brīdī ir teikuši, ka kaut kas ir pārāk tāls — parasti tas ir tiesā. Uzņēmumi vērsīsies tiesā vai administrācija vērsīsies tiesā, un notiks sava veida tiesas cīņa.
iPhone aizmugurē esošās durvis ir lielisks piemērs tam. Tas nonāca tiesā, un viņi to izcīna, lai gan viņi nekad nav nonākuši līdz secinājumam, jo FIB galu galā vienkārši manuāli uzlauza iPhone un pēc tam nevēlējās, lai tiesas spriedums to sabojātu nākotnē.
Bet šajā gadījumā, kur notiek eskalācija un kur tas atšķiras no iepriekšējām situācijām, Trampa administrācija nevis vienkārši vērsās tiesā, bet gan izmantoja šo “piegādes ķēdes riska” apzīmējumu, kas ir vienkārši neprātīgi. Šī ideja, ka šis rīks, kas bija paredzēts, lai apturētu potenciālos ārvalstu ļaunprātīgos dalībniekus no tehnoloģiju piegādes, kas pēc tam varētu ievietot slēptos novērošanas rīkus lielākā tehnoloģiju kaudzē, ka tos varētu aizliegt. Piemērot to ASV reģistrētam uzņēmumam būtībā ētikas politikas dēļ, šķiet, ka šī rīka tiek izmantota patiesi, patiesi ļaunprātīgi.
Pat šis rīks dažos veidos bija apšaubāms, taču jūs varētu saprast, kāds impulss tam ir, ja runājat par Ķīnas tīklu firmu vai kaut ko līdzīgu. Lūk, tam nav jēgas. Tātad reakcija uz to pārsniedz to, kas parasti būtu redzams šajā gadījumā. Varēja redzēt, ka tradicionāli būtu kaut kāda tiesas prāva, un jebkura puse varētu to sākt, un tā būtu tikai cīņa par to, kā varētu piemērot līgumu.
Bet tas nav tas, kas šeit notiek. Šī administrācija faktiski saka: "Ja jūs nesniedzat mums pilnīgi visu, ko mēs vēlamies, ja jūs neiestatīsit savus rīkus tā, lai tie darbotos tā, kā mēs tos vēlamies, mēs efektīvi mēģināsim iznīcināt visu jūsu biznesu." Un tā ir eskalācija.
Es vēlos beigt šo vienu daļu, un tā ir vislielākā galaktikas smadzeņu versija. FIRE, kas ir vārda brīvības aizstāvības grupa, publicēja emuāra ierakstu tieši pirms mēs sākām ierakstīt, izvirzot argumentu, ka Anthropic piespiešana izveidot rīkus, ko tas nevēlas izveidot, ir runas brīvības pārkāpums, ka to sauc par piespiedu runu. Šeit ir daudz vēstures. Šeit ir dziļa Verge un Techdirt, in-the-weed, eksistenciālas krīzes vēsture.
Bet būtībā tas ir saistīts ar domu, ka kods ir runa, ka koda rakstīšana datoram ir runas veids, un valdība nevar piespiest jūs to darīt, un no tā izriet daudz lietu. Vai jūs piekrītat šim argumentam, ka piespiest Anthropic izveidot rīkus, kurus tā nevēlas izveidot, ir piespiedu runa?
Jā, es patiesībā domāju, ka tas ir diezgan pārliecinoši. Pārliecinoša piespiedu runa. Bet nē, es domāju, ka tas ir interesants arguments. Tas ir viens, kas bija nedaudz tālāk to problēmu sarakstā, par kurām es domāju. Acīmredzot es galvenokārt vairāk koncentrējos uz ceturtā grozījuma jautājumiem, bet es domāju, ka FIRE arguments nav nepareizs. Mēs to esam redzējuši citos kontekstos. Tas parādījās arī aizmugures durvju jautājumā, mēģinot izveidot aizmugures durvis šifrētās sistēmās.
Uzņēmumi noteikti izvirzīja FirstGrozījumā teikts: "Tā ir spiesta runa, lai piespiestu mūs rakstīt šāda veida kodu." Tas ir pamatots arguments. Tas atkal varētu būt tāds, ko tiesas, iespējams, ir mazāk gatavas sākotnēji risināt, ja tās var risināt šos jautājumus citādā veidā. Bet es priecājos, ka FIRE publicēja šo ziņu, un es domāju, ka tas ir interesants un pārliecinošs arguments.
Jā, Trampa otrās administrācijas būtība ir tāda, ka tā ir tik strups instruments, ka ir gandrīz droši, ka mēs uzbruksim visām problēmām uzreiz.
Jā, katrs tiesību likumprojekta grozījums ir jāapstrīd vienā vai otrā veidā ar katru iespējamo jautājumu.
[Smejas] Pagrieziet riteni.
Esmu pārliecināts, ka mēs varam ievietot Trešā grozījuma pārkāpumu kaut kur šeit.
Protams, jā. Klodam tagad jādzīvo tavā mājā. Tieši tā. Tas būs lieliski. Mēs veicam [grozījumus] viens, trīs, četri un septiņi. Mēs tos saliekam.
Maikls, tas bija lieliski. Es nespēju noticēt, ka jūs iepriekš neesat bijis šovā. Tas ir bijis lieliski. Jums drīz jāatgriežas.
Pilnīgi noteikti. Kad vien tu mani vēlies.
Jautājumi vai komentāri par šo sēriju? Sazinieties ar mums pa e-pastu decoder@theverge.com. Mēs tiešām lasām katru e-pastu!
