Oggi parliamo della situazione caotica e in rapida evoluzione di Anthropic, il produttore di Claude che ora si trova in una brutta battaglia legale con il Pentagono.
Il avanti e indietro è complicato, ma fino a pochi giorni fa il Pentagono aveva ritenuto Anthropic un rischio per la catena di approvvigionamento e Anthropic ha intentato una causa contestando tale designazione, affermando che il governo ha violato i diritti del Primo e del Quinto Emendamento "cercando di distruggere il valore economico creato da una delle società private in più rapida crescita al mondo". Posso dirtelo adesso: parleremo dei colpi di scena di quel caso su The Verge e qui su Decoder nei mesi a venire.
Ma oggi volevo prendermi un momento e approfondire davvero un elemento molto importante di questa situazione che non ha ricevuto abbastanza attenzione poiché è andata fuori controllo: come il governo degli Stati Uniti effettua la sorveglianza, l’autorità legale che consente tale sorveglianza e perché Anthropic era diffidente nei confronti del governo che affermava che avrebbe seguito la legge quando si trattava di utilizzare l’intelligenza artificiale per fare ancora più sorveglianza.
Abbonati a Verge, non dimenticate che avrete accesso esclusivo a Decoder senza pubblicità ovunque troviate i vostri podcast. Vai qui. Non sei abbonato? Puoi iscriverti qui.
Il mio ospite oggi è Mike Masnick, fondatore e CEO di Techdirt, l'eccellente e longevo sito web sulla politica tecnologica. Mike scrive ormai da decenni di interventi del governo, privacy nell'era digitale e altri argomenti correlati. È un esperto di come Internet e lo stato di sorveglianza siano cresciuti in modo interconnesso.
Vedi, c'è quello che la legge dice che il governo può fare quando si tratta di sorvegliarci, e poi quello che il governo vuole fare. E, cosa più importante, c’è ciò che il governo dice che la legge dice di poter fare, che spesso è esattamente l’opposto di ciò che penserebbe qualsiasi persona normale che semplicemente leggesse la legge.
Sentirai Mike spiegare in modo molto dettagliato qui in questo episodio che non possiamo – e non dobbiamo – prendere in parola il governo degli Stati Uniti quando si tratta di sorveglianza. C'è semplicemente troppa storia di avvocati governativi che distorcono le interpretazioni di parole semplici come "obiettivo" per espandere la sorveglianza in modi complicati - modi che di solito causano preoccupazione solo negli ambienti legali, e emergono solo quando ci sono enormi controversie come le principali rivelazioni della NSA dell'informatore Ed Snowden più di dieci anni fa.
Ma non c’è nulla di sottile o sofisticato nel processo decisionale nell’era Trump – e così con Anthropic stiamo avendo un dibattito molto forte e molto pubblico sulla tecnologia e la sorveglianza in tempo reale, su Internet, nei post dei blog e negli sproloqui, e durante le conferenze stampa. Ci sono aspetti positivi e negativi in questo, ma per dare un senso a tutto, devi davvero conoscere la storia.
Questo è ciò che Mike e io abbiamo deciso di spiegare in questo episodio: qualunque sia la tua opinione sull'intelligenza artificiale e sul governo, questo episodio chiarirà che entrambe le parti hanno lasciato che lo stato di sorveglianza diventasse sempre più grande nel tempo. Ora siamo all’apice della più grande espansione mai vista prima per quanto riguarda l’intelligenza artificiale.
Ok: il fondatore e amministratore delegato di Techdirt Mike Masnick parla di Anthropic, del Pentagono e della sorveglianza dell'intelligenza artificiale. Eccoci qui.
Questa intervista è stata leggermente modificata per motivi di lunghezza e chiarezza.
Mike Masnick, sei il fondatore e CEO di Techdirt. Benvenuti in Decodificatore.
Sono felice di essere qui.
Sono entusiasta di averti con noi. Stavo solo dicendo che sono scioccato dal fatto che tu non sia mai stato nello show prima. Tu ed io ci scriviamo e postiamo l'uno dell'altro da molto tempo. Gran parte della copertura assicurativa di The Verge è in debito con ciò che hai fatto a Techdirt e poi quello che sta succedendo con Anthropic è così complicato, ma tocca così tanti temi che hai trattato per così tanto tempo. Sono felice che tu sia finalmente qui.
È un argomento complicato, ma sono entusiasta di approfondirlo.
Ciò su cui voglio concentrarmi con te non sono i dettagli se Anthropic firmerà un contratto con il governo o se OpenAI otterrà quel contratto. Invece, sono fiducioso che tra il momento in cui lo registreremo e il momento in cui le persone lo ascolteranno, ci saranno stati più tweet e più cose saranno diverse rispetto a prima.
Ciò su cui voglio concentrarmi è solo una delle due linee rosse che Anthropic ha realmente tracciato. Uno di questi lo èarmi autonome, che è il suo stesso livello di complicazione. La legge è un po’ più nascente indipendentemente dal fatto che le armi esistano o meno o siano già state schierate dalla Russia nella guerra in Ucraina.
Ci sono molte idee qui che voglio semplicemente mettere da parte perché penso che verranno maggiormente focalizzate secondo il proprio programma. L’altra linea rossa su cui voglio dedicare molto tempo è la sorveglianza di massa. E qui ci sono molte leggi sulla sorveglianza di massa. C’è molta storia, molta storia controversa. L'intero personaggio di Edward Snowden esiste a causa delle controversie sulla sorveglianza di massa.
Tutto si riduce a—penso che tu sia quello che ha postato questo—la National Security Agency (NSA), che fa parte del Dipartimento della Difesa, che ora dobbiamo chiamare Dipartimento della Guerra per qualche motivo.
[Ride] Non dobbiamo fare nulla.
[Ride] Non lo facciamo. Questo è vero qui in America. Non dobbiamo fare nulla. Ma la NSA ha sostanzialmente ridefinito il significato di molte parole dell’inglese colloquiale nel senso: “Possiamo semplicemente fare sorveglianza”. E poi ogni tanto scoppia uno scandalo quando le persone scoprono che stanno solo facendo sorveglianza. Quindi prepara il terreno lì, e non voglio riavvolgerti completamente, ma è passato parecchio tempo in cui questo schema si è ripetuto.
Dipende da quanto in profondità si vuole andare, ma la versione breve è ovviamente nel mondo post-11 settembre, gli Stati Uniti hanno approvato il Patriot Act, che ha dato al governo una certa capacità di impegnarsi nella sorveglianza, che avrebbe dovuto proteggerci da future minacce terroristiche. Nel corso del tempo, ciò è stato interpretato in modi interessanti e c'erano alcuni limiti al riguardo. Avevamo anche il tribunale FISA, che è un tribunale speciale che dovrebbe esaminare la comunità dell’intelligence e le loro attività, ma tradizionalmente è stato un tribunale unilaterale. Solo una parte può perorare la propria causa davanti a quel tribunale e tutto viene fatto in segreto.
Ci sono molte cose che non erano note. E poi c’era un altro tassello in tutto questo, che risale a Ronald Reagan, ovvero l’Ordine Esecutivo 12333, che si suppone stabilisca le regole della strada per la raccolta di informazioni.
Quindi ci sono queste tre serie di leggi - beh, alcune serie di leggi - e un ordine esecutivo che al pubblico, le parti che potete leggere, sembrano dire certe cose su ciò che il nostro governo e la NSA in particolare possono fare in termini di sorveglianza. Se letto con un semplice dizionario inglese, la cui natura tu e io probabilmente conosciamo e comprendiamo, ne usciremmo con la convinzione che la capacità della NSA di sorvegliare gli americani fosse molto limitata, al punto che dovrebbero, se si rendono conto che stanno sorvegliando una persona statunitense, dovrebbero fermarsi immediatamente, gridare allo scandalo e cancellare i dati e tutte queste altre cose.
Per un po' ci sono state voci che ciò non stava realmente accadendo e c'erano degli indizi e in particolare il senatore Ron Wyden era molto esplicito nel voler andare all'aula del Senato e dire: "Qualcosa non va bene qui e non posso dirvi cosa," o nelle udienze avrebbe chiesto ai funzionari dell'intelligence: "Stai o non stai raccogliendo dati di massa sugli americani?"
Quei funzionari avrebbero deviato o in alcuni casi mentito apertamente. Credo che sia stata un'udienza nel 2012 con James Clapper, all'epoca direttore dell'intelligence nazionale, in cui gli fu chiesto direttamente su questo punto. E sostanzialmente ha detto: “No, non raccogliamo dati sugli americani”. Questa è stata una parte importante di ciò che ha ispirato Ed Snowden a divulgare i dati, i rapporti che ha fatto trapelare anche a Glenn Greenwald, Barton Gellman e Laura Poitras. Da tutto ciò, quello che abbiamo iniziato a scoprire è che la NSA ha un proprio dizionario che è un po' diverso da quello che usiamo tu e io, in modo tale che possono interpretare le parole in modi diversi dal loro semplice significato inglese, comprese parole come "bersaglio", che sembra una parola chiave. Una comprensione ampia di ciò che significa è che, in teoria, dovrebbero prendere di mira solo persone che non sono cittadini statunitensi, penso che sia la frase.
Ma il modo in cui è stato interpretato nel tempo è stato che tutto ciò che menziona quella persona, tutto ciò che riguarda una persona straniera è ormai un gioco leale, anche se si tratta di comunicazioni di unPersona statunitense. Quindi, se tu ed io dovessimo mandarci messaggi e menzionare una persona straniera, ora sarebbe un gioco lecito per la NSA raccogliere, conservare e archiviare.
C'è una seconda parte di questo. Ho menzionato il primo ordine esecutivo 12333 di Ronald Reagan, che, con il cambiamento della tecnologia nel tempo e la crescita di Internet, ha effettivamente consentito alla NSA di intercettare le comunicazioni estere, ma includeva qualsiasi comunicazione che avrebbe potuto lasciare gli Stati Uniti da qualche parte. Quindi, se ti sto mandando un messaggio e un messaggio è partito da me in California attraverso un cavo in fibra ottica che ha lasciato gli Stati Uniti, la NSA potrebbe mettere un controllo nella parte una volta che è fuori dagli Stati Uniti e raccogliere tali informazioni, anche se erano dirette solo a te negli Stati Uniti.
La NSA potrebbe quindi conservare tali informazioni anche se riguardavano persone statunitensi, e potrebbe successivamente effettuare ricerche specifiche su quelle, a volte definite “ricerche backdoor”. Hanno raccolto queste informazioni che crediamo non avrebbero dovuto raccogliere in primo luogo, ma hanno potuto conservarle. E hanno promesso, hanno giurato, che avrebbero tenuto la cosa privata, ma se avessero fatto una ricerca e avessero scoperto che tu o io abbiamo menzionato una persona straniera, allora all'improvviso sarebbe stato giusto per loro farne quello che volevano.
In totale, questo si è trasformato in un mondo in cui il governo federale può sostanzialmente raccogliere qualsiasi informazione che arrivi al di fuori degli Stati Uniti. Anche se si tratta interamente di due US Person, se menzionano o addirittura accennano a qualcuno che non è un US Person, all'improvviso è un gioco leale da riscuotere. E da ciò abbiamo ottenuto quella che sembra essere una forma di sorveglianza di massa di cittadini statunitensi da parte di una NSA che afferma e dichiara pubblicamente di non spiare cittadini statunitensi.
Come siamo arrivati a questo punto? Si tratta di molti piccoli passi incrementali. Hai menzionato James Clapper nel 2012, cioè l’amministrazione Obama. Hai menzionato Ronald Reagan, siamo negli anni '80. Stiamo attraversando democratici e repubblicani qui.
La guerra al terrorismo è avvenuta durante l'amministrazione di George W. Bush, e l'11 settembre e il Patriot Act sono avvenuti durante l'amministrazione di George W. Bush. Ci sono molte cose negative incrementali sotto i presidenti di entrambi i partiti, sotto i congressi di entrambi i partiti. Come è successo?
La forma più semplice è che nessuno, e certamente nessun presidente, vuole essere presidente nel periodo in cui si verifica un grande attacco terroristico, perché questo li fa fare brutta figura. Ovviamente vogliono anche proteggere gli americani, giusto? Fa parte del loro lavoro. Se hai una comunità di intelligence che fondamentalmente opera nell’oscurità perché è quello che fanno le comunità di intelligence e continuano a venire da te e dire: “Ehi, se solo potessimo avere accesso a queste informazioni, sarebbe davvero utile per prevenire un attacco terroristico”.
Potrebbero esserci casi in cui ciò è vero, in cui la comunità dell’intelligence è in grado di utilizzare queste informazioni in un modo che funzioni bene. Ma siamo anche, in teoria, una società di leggi con una Costituzione americana alla quale dovremmo obbedire. Ma ciò ha consentito il fatto che un’amministrazione dopo l’altra, ancora una volta, repubblicana e democratica, avesse avvocati molto intelligenti che esaminassero e dicessero: “Bene, se in un certo senso ci posizioniamo in questo modo o affermiamo in questo modo o interpretiamo questo, in questo modo possiamo ottenere ciò che vogliamo e non infrangere tecnicamente la legge o non violare tecnicamente il Quarto Emendamento”.
Il presupposto era sempre: “Possiamo in un certo senso piegare la legge o piegare la nostra interpretazione della legge e nessuno lo vedrà mai, o nessuno a cui importa lo vedrà mai, e quindi ce la faremo franca”.
Ci sono due cose che mi colpiscono davvero. Primo, entrambi leggiamo molte decisioni dei tribunali: decisioni della corte d'appello e decisioni della Corte Suprema. E c’è una battaglia nella nostra Corte Suprema su come interpretare letteralmente le parole nei nostri statuti e nelle nostre leggi.
Non entrerò troppo nel merito, ma direi che in generale l’idea che dovresti semplicemente leggere le parole sulla pagina e fare quello che dicono è la tensione dominante dell’interpretazione normativa negli Stati Uniti. Sinistra o destra, lo dicono entrambi. Discutono su alcuni punti molto esoterici di cosa ciò significhi realmente. Ma che tu debba semplicemente essere in grado di leggere queste parole e fare quello che dicono, non è in palio, giusto?
Siamo arrivati almeno al primo passaggio di ciò che potrestichiama testualismo. Come fanno gli avvocati di entrambe le amministrazioni ad allontanarsi così tanto dalla modalità dominante del processo decisionale legale nel nostro paese? I giudici di entrambe le parti concordano sul fatto che questo è almeno il primo passo.
Vorrei sapere la risposta esatta, ma penso che sia un ragionamento motivato, giusto? Come avvocato, sei lì per difendere il tuo cliente e il successo – se così si può chiamare successo – del nostro sistema legale tende a basarsi su una situazione contraddittoria in cui ci sono parti diverse che discutono su queste cose, dove il ruolo del giudice è quello di restringere il campo e capire quale parte ha effettivamente ragione.
Uno dei problemi con la comunità dell’intelligence e la sua struttura è che non si ha quella situazione contraddittoria. Ciò rende più facile per una parte giustificare la propria argomentazione perché nessuno la respinge davvero. Lo combini con la paura generale di un altro attacco terroristico, di qualsiasi cosa relativa alla sicurezza nazionale, e anche quando ci sono situazioni in cui c'è il tribunale FISA - voglio dire che il tribunale FISA è stato in qualche modo famoso per essere stato effettivamente un timbro di gomma per molti anni.
Non ricordo i numeri esatti, ma qualcosa come oltre il 99% delle richieste presentate al tribunale FISA per consentire la sorveglianza di determinate situazioni sono state accolte, ed è facile dire che il 99% è ovviamente troppo. Ovviamente coloro che portano ricorsi in tribunale, scelgono e scelgono. Nella maggior parte dei casi non stanno avanzando affermazioni del tutto folli. Ma senza quell’aspetto contraddittorio e con un gruppo di persone fortemente motivate che pensano: “Dobbiamo fare questo”, o un’amministrazione gli dice: “Dobbiamo fare questo”, troveranno il modo di farlo. Ed è lì che finisci nel tempo.
C’è stato qualcuno coinvolto in questo processo che si è mai svegliato e ha detto a se stesso: “Ragazzo, siamo riusciti a ridefinire la parola ‘bersaglio’ per significare tutto ciò che vogliamo”?
[Ride] Ovviamente c'era Ed Snowden, che ha fatto trapelare un sacco di documenti. C’è stato John Napier Tye, che ha scritto un articolo per il Washington Post nel 2014, in cui ha rivelato l’interpretazione dell’ordine esecutivo 12333 e ha affermato che questo è il vero problema a cui prestare attenzione. Ci sono altre persone che hanno parlato di queste cose, ma per la maggior parte, le persone che sono coinvolte nel lavoro all’interno dell’amministrazione su questioni legate alla comunità dell’intelligence sono accettate dal punto di vista della comunità dell’intelligence, secondo cui l’obiettivo primario è proteggere il paese da qualcosa di brutto. Il modo migliore per farlo è avere quante più informazioni possibili.
È facile essere in sintonia con l’argomentazione secondo cui, sì, avere più informazioni può consentire loro di cogliere qualcosa prima o trovare qualcosa di importante, ma, primo, questo potrebbe non essere vero. Ottenere troppe informazioni è probabilmente altrettanto dannoso quanto troppo poche informazioni perché spesso può nascondere le informazioni che sono effettivamente utili, le informazioni di cui hai effettivamente bisogno per determinare qualcosa.
Ma abbiamo anche gli Stati Uniti La Costituzione in primo luogo e abbiamo ragioni per cui, in teoria, non dovremmo consentire la sorveglianza di massa senza una causa plausibile. Essendo un paese che crede nello stato di diritto, dovremmo essere in grado di essere all’altezza di ciò, e quando tutto questo accade nell’oscurità, tenderai a perderlo di vista.
Questo mi porta ad Anthropic. Anthropic è principalmente una società aziendale. Sono bravi nel governo, hanno costruito quei muscoli, sono composti da persone che sono davvero esperte in alcune di queste cose. Ovviamente hanno guardato Pete Hegseth dicendo: "Vogliamo tutti gli usi leciti", e sono scesi di due livelli di interpretazione e hanno detto: "Bene, la tua convinzione letterale è che queste parole non significano quello che dicono in faccia. Quindi 'tutti gli usi leciti' è troppo grande, e vogliamo mettere dei guardrail in particolare intorno alla sorveglianza di massa. "
Ancora una volta, metterò tra parentesi le armi autonome, che erano l'altra linea rossa, ma in particolare sulla sorveglianza di massa, Dario Amodei è là fuori dicendo: "Possiamo fare troppo. Questo è troppo pericoloso. Questa è una violazione del Quarto Emendamento".
La tensione è “stai dicendo che rispetterai queste leggi che dicono una cosa e ora, dopo tutto questo tempo, significano qualcosa di completamente diverso e noi semplicemente non vogliamo farne parte”. Questo è ilcombattimento. Voglio solo paragonarlo a Sam Altman, che interviene per dire: "Faremo tutti gli usi legali", e poi pubblica questo lungo messaggio in cui dice: "Ecco tutte le leggi a cui rispetteremo".
Sembra che Altman non sapesse come la NSA avesse reinterpretato queste cose e si sia lasciato prendere per il culo. E da allora ha iniziato a tornare indietro: anche mentre stiamo registrando, sono fiducioso che ci siano più tweet e che le posizioni di tutti siano cambiate. Ma Altman è tornato indietro lentamente, ma sembra che OpenAI sia stato costretto a leggere gli statuti in faccia e a credere a ciò che hanno detto. È questa anche la tua interpretazione degli eventi?
Ci sono due possibilità, e questa è una di queste. Uno è che è stato interpretato nello stesso modo in cui è stato interpretato dal pubblico per molti anni. La teoria alternativa, e non ho idea di quale di queste sia vera, è che lui o alcuni avvocati di OpenAI - che ritengo siano molto competenti e ben informati - lo sapevano, ma pensavano di poter giocare allo stesso gioco a cui ha giocato la NSA per alcuni decenni, nel senso che finché dicono queste cose e poi dicono le parole, ma non rivelano le reali interpretazioni, potrebbero farla franca anche loro. Quindi Sam esce con l'affermazione che fa sembrare che "Avevamo esattamente le stesse linee rosse di Anthropic, e il governo è stato bravissimo in questo".
In effetti, penso che Sam Altman abbia detto che Anthropic aveva due linee rosse e OpenAI ne aveva tre, e al governo era perfettamente d'accordo, e questo lasciò molte persone a grattarsi la testa. Ma penso che il motivo sia che Sam Altman e chiunque lo circondasse non capissero come funzionano queste cose nella pratica, oppure lo fecero, e presumevano semplicemente che il pubblico non lo sapesse e quindi avrebbero potuto farla franca.
L’altra cosa che mi viene in mente è che, ancora una volta, l’intelligenza artificiale è nuova ed è così allettante avvicinarsi alle nuove tecnologie poiché questi sono problemi di prima impressione. “Nessuno ci ha mai pensato prima”, ma la realtà è che tutti ci pensano da molto tempo. Forse la novità qui non è l’intelligenza artificiale, ma il fatto che la seconda amministrazione Trump, invece di fare un mucchio di studi legali che forse nessuno leggerà mai per giustificare le proprie azioni davanti a un tribunale segreto a cui nessuno presta attenzione, non è invece così sottile.
Non sono così sofisticati e dicono solo che spieranno tutti in ogni momento. Hanno semplicemente annunciato le loro intenzioni in modo tale che forse tutte le amministrazioni dovrebbero semplicemente annunciarle e vedere dove cadono le conseguenze.
Ma sto considerando il fatto che c’era Ed Snowden qui a New York City. AT&T gestisce un edificio che tutti sanno essere un edificio della NSA. È solo un edificio gigantesco e dovremmo far finta che non sia un centro di sorveglianza della NSA, ma è proprio lì. È enorme. Niente di tutto ciò sembra aver portato a nulla. Tutte queste rivelazioni, queste fughe di notizie, non abbiamo fatto marcia indietro.
In effetti, è solo aumentato poiché gran parte delle nostre vite sono diventate sempre più digitali. E forse, essendo l’amministrazione Trump uno strumento così brusco in ogni momento, potrebbe effettivamente essere la cosa che determina la resa dei conti. Vedi che si sta svolgendo comunque?
Ci sono alcune cose diverse lì, e non è del tutto vero che non abbiamo rinunciato affatto a queste cose. Le rivelazioni di Snowden hanno portato ad alcuni cambiamenti nel modo in cui accadono queste cose. E ora ci sono - non ricordo come si chiamano, ma sono come questi amicus civili all'interno del tribunale FISA che agiranno come rappresentanti dell'altra parte su determinate questioni.
E abbiamo visto alcune autorità limitate in certi modi, e di tanto in tanto si presentano per una nuova autorizzazione, e gli attivisti sono stati molto aggressivi nel respingere e nel cercare di mettere altri guardrail. Ma per quanto riguarda la domanda più ampia, penso che ci siano due cose diverse. Hai ragione in parte nel dire che questa amministrazione non è sottile e dice semplicemente ad alta voce le cose che non dovrebbe.
"Siamo in guerra con l'Iran, lo stiamo facendo, sta accadendo. Non proveremo nemmeno a ballare".
In modi che tutte le amministrazioni precedenti non avrebbero fatto. Ma non l’hanno detto direttamentesorveglianza, in particolare la sorveglianza degli americani. Ci sono stati accenni a ciò, ma non sono emersi così fortemente al riguardo. L’altra metà ha più a che fare con il posizionamento di Anthropic e con la visione generale dell’intelligenza artificiale come una tecnologia possibilmente esistenziale, dove Anthropic si è sempre presentata come “Noi siamo i bravi ragazzi premurosi”, e se tu ci creda o meno è un po’ oltre il punto. Hanno questa reputazione là fuori: “Stiamo cercando di farlo in un modo sicuro, che rispetti l’umanità e prestando attenzione a tutte queste cose”. E così quando c’è quello scontro, è lì che entra in gioco la lotta.
C’è un’amministrazione Trump che vuole solo poter fare tutto ciò che vuole, e non sono sottili al riguardo. E poi c'è Anthropic, la cui descrizione di sé e del suo personaggio pubblico è sempre del tipo: "Siamo premurosi e rispettiamo l'umanità, i diritti e tutte queste cose". Probabilmente è lì che è scoppiato lo scontro, perché Anthropic, come è stato chiarito, ha lavorato per un po’ con il Dipartimento della Difesa e ha molti altri contratti con il governo di cui si è avvalsa. Non è stato un problema.
È stato solo in queste aree specifiche in cui, mentre il governo stava cercando di espandere il contratto che aveva, che la dirigenza di Anthropic ha iniziato a dire: “Aspetta, dobbiamo assicurarci di non oltrepassare queste linee rosse che potrebbero potenzialmente danneggiare la nostra reputazione di fornitore di intelligenza artificiale attento e sicuro”.
Voglio chiederti brevemente della sorveglianza in generale, e in particolare della preoccupazione del Quarto Emendamento di Anthropic. Il Quarto Emendamento dice che il governo non può perquisirti irragionevolmente. Il modo migliore per comprendere il Quarto Emendamento è ascoltare "99 Problems" di Jay-Z. Quindi, se hai bisogno di prenderti una pausa e andare ad ascoltare "99 Problems", è fantastico. È tutto lì. L'ho ascoltato quando frequentavo la facoltà di giurisprudenza e aveva perfettamente senso.
Ma generalmente il governo ha bisogno di un mandato per perquisirti. E poiché sempre più della tua vita passa online, ci sono tantissime eccezioni a questo. Ma l’idea è che dovrebbero comunque aver bisogno di un mandato online. L'argomentazione di Anthropic è: "Beh, l'intelligenza artificiale non si stancherà mai. Può cercare ovunque in ogni momento. Ciò significa che faremo solo sorveglianza approfondita".
Eppure, anche prima che arrivasse l’intelligenza artificiale, l’idea che il governo potesse perquisire tutto ciò che ti apparteneva era là fuori, l’idea che il governo non avesse bisogno di un mandato per perquisire tutte le tue cose. L'idea che se qualcuno dei tuoi dati fosse uscito dal paese per un breve secondo, il governo li avrebbe intercettati lì,
Quando ero al college, all'epoca del Patriot Act, il dibattito era che non avrebbero cercato i tuoi dati reali, ma potevano ottenere solo i metadati e i metadati. Le informazioni sui tuoi dati saranno sufficienti per localizzarti con precisione in ogni momento. E anche questo è troppo lontano. E abbiamo fatto questa danza su cosa può raccogliere il governo? Cosa è consentito? Di cosa hanno bisogno per tenerci tutti al sicuro e cosa è troppo lontano? Quelle linee si sono spostate.
Quindi descriviamo brevemente la preoccupazione generalizzata sulla sorveglianza su larga scala e dove ci troviamo ora. Prima che la situazione dell’IA rendesse tutto esponenzialmente più complicato.
Qui devo introdurre un altro concetto che probabilmente avrebbe dovuto essere menzionato prima, ma che è importante, che si chiama “dottrina della terza parte”. L’idea del Quarto Emendamento è che il governo non può perquisire te o le tue cose senza un mandato e non può ottenere un mandato senza una prova plausibile che tu abbia commesso qualche tipo di crimine. Ma esiste questo concetto, nato decenni fa, chiamato dottrina delle terze parti, secondo il quale ciò non si applica necessariamente, o non si applica affatto, a cose che non sono tue, anche se si tratta di tuoi dati.
La prima e più ovvia versione di ciò erano i tabulati telefonici che la compagnia telefonica aveva di chi hai chiamato. Le compagnie telefoniche non registravano le tue chiamate, ma registravano se ti chiamavo, ci sarebbe stato un record presso la compagnia telefonica che diceva: "Mike chiama Nilay". E ciò che è stato stabilito da più tribunali è che il governo può andare a richiederlo, e non hanno bisogno di un mandato per questo perché non è una perquisizione dii tuoi dati, è questa terza parte e può accettare come terza parte di consegnare semplicemente quei dati.
Ma si trattava di casi degli anni ’60 e ’70, in cui fu stabilito che il governo poteva accedervi senza un mandato, quando non c’erano molti dati di terze parti in circolazione. L’avvento dei computer e di Internet ha cambiato la situazione. Ora, tutto è dati di terze parti. Tutto ciò che facciamo viene raccolto da qualche azienda da qualche parte e ne viene registrato. Quindi praticamente ogni dato su di te, dove sei, con chi parli, con chi interagisci, cosa dici, cosa stai facendo, tutto questo è praticamente conservato da terze parti al giorno d'oggi. Quindi la dottrina della terza parte ha fagocitato in una certa misura l’intero Quarto Emendamento, secondo cui qualsiasi cosa che riguarda te che qualcun altro possiede, c’è uno standard molto più basso su ciò che il governo può fare per richiederlo.
Giusto per essere precisi, questo significa che quando i miei dati sono su iCloud, il governo può rivolgersi ad Apple e far uscire i miei dati da iCloud senza mai dirmelo?
Possono richiederlo. Possono tranquillamente richiederlo senza mandato. Quindi l'azienda ha i propri diritti e può determinare cosa vuole fare con tale richiesta. Possono semplicemente arrendersi. Possono, come fa la maggior parte di loro, se si tratta di una richiesta seria, rifiutare le richieste a priori o possono avvisarti e dire - e questo è ciò che la maggior parte di loro farà - ti avviseranno e diranno: "Il governo sta richiedendo alcuni dei tuoi dati. Puoi andare in tribunale e provare a bloccarli". In caso contrario, consegneranno i tuoi dati entro sette giorni o qualunque cosa possano essere.
Ancora una volta, dipende. Se si tratta di un'indagine penale, potrebbe esserci una sorta di ordine di riservatezza in cui la società non è autorizzata a dirtelo. Esistono situazioni di ogni tipo, ma la maggior parte di esse implica un livello di protezione inferiore al livello di protezione che il Quarto Emendamento richiederebbe se si trattasse di dati, informazioni o qualsiasi cosa in casa tua.
La quantità di dati che hai sul server cloud di qualcun altro è enorme, giusto? Ogni singola cosa che fai generalmente su Internet ora viene sottoposta a backup in qualche modo o registrata in qualche modo sui server di qualcun altro. Il governo ha trovato questo modo per aggirare il Quarto Emendamento e dire: "Beh, in realtà non è tuo. Appartiene ad Amazon. Possiamo andare a parlare con Amazon", e Amazon deve stare nel mezzo di quel processo e dire: "Abbiamo inventato un altro processo per proteggere in qualche modo le persone".
Lo guardo e quando stavo coprendo i primi casi di dottrina di terze parti che riguardavano i servizi cloud e il governo continuava a vincere, è stato praticamente il momento in cui mi sono trasformato nel Joker. Ho pensato: "Tutta questa roba che fingiamo sul testualismo e sulla semplice [lettura], niente di tutto questo significa nulla perché ci limitiamo a spingere verso la porta di servizio usando questa antica legge nei dati di tutti".
E poi guardo questo e guardo Anthropic e dico: "Beh, questo è lo stesso schema". Questa è una società privata che dice: "Va bene, comprendiamo la tua posizione. Comprendiamo che hai reinterpretato la legge per significare questa cosa e inseriremo un processo tra te, il nostro strumento e i dati degli americani che fluiscono attraverso il nostro servizio. " Mi sto solo chiedendo se vedi quel parallelo lì, tra Anthropic, Amazon e Azure e qualunque altro servizio cloud esistente che contenga così tanti dei nostri dati.
Sì, anche se ci sono alcuni chiarimenti importanti che rendono tutto questo un po' diverso. E in effetti - penso che il New York Times abbia pubblicato per primo questo articolo - la clausola principale più importante per Anthropic riguardava specificamente i dati raccolti da servizi commerciali e l'impossibilità di utilizzare Claude su tali dati, che è esattamente questo problema in termini di dati di terze parti. Ma voglio chiarire la differenza principale tra ciò di cui stavamo parlando prima con Amazon o altre terze parti che ospitano i tuoi dati, quelli erano casi in cui, a causa della loro posizione nell'ecosistema, ospitavano direttamente i tuoi dati.
Con Claude, non è che qualcuno sia preoccupato che la NSA controlli il tuo utilizzo di Claude. Si tratta di loro che escono e ottengono dati di terze parti da Amazon o più probabilmente dal tipo di broker di dati subdoli e nascosti che pubblicano annunci sui tuoi telefoni e conoscono la tua posizione, i tuoi interessi e cose del genere. E poi inserirlo in un sistemasu cui Claude avrebbe poi lavorato. Questo è ciò di cui Anthropic non voleva davvero far parte. Quindi, ovunque e in qualunque modo il governo raccolga tali dati da una terza parte, Anthropic ha affermato: “Non vogliamo che il nostro strumento venga utilizzato su tali dati”.
Come è noto, Apple si oppone all’FBI chiedendogli di mettere una backdoor nell’iPhone, ma Apple dice “no” e loro si oppongono a Trump. E c’è una parte del modo in cui funziona il nostro sistema in cui le grandi aziende private possono dire “no” al governo per conto dei loro clienti. E questo sembrava allo stesso modo in cui Apple, ancora una volta, non metterà una backdoor sull’iPhone, o i grandi fornitori di servizi cloud dicono: “C’è un piccolo processo che devi attraversare prima di ottenere i dati individuali”.
Qui sembra che Anthropic stia dicendo: “Non faremo solo analisi di massa dei dati acquisiti da altri soggetti perché ciò porta a una sorveglianza di massa degli americani 24 ore su 24, 7 giorni su 7, e non vogliamo farlo”. Eppure questo sembra un passo troppo lontano per questa amministrazione. C'è qualche ritorno da questo?
Vedremo. In passato, quando ciò è accaduto – ed è successo molte volte con la maggior parte delle grandi aziende tecnologiche, a un certo punto hanno detto che qualcosa è troppo lontano – il luogo in cui normalmente si arriva è in tribunale. Le aziende andranno in tribunale o l’amministrazione andrà in tribunale e ci sarà una sorta di battaglia giudiziaria.
La backdoor dell’iPhone ne è un perfetto esempio. Si è rivolto in tribunale e hanno combattuto, anche se non sono mai arrivati a una conclusione perché l'FBI alla fine è riuscito a entrare manualmente nell'iPhone e quindi non voleva che la sentenza del tribunale rovinasse tutto in futuro.
Ma in questo caso, l’escalation e la differenza rispetto alle situazioni passate è che, invece di andare semplicemente in tribunale, l’amministrazione Trump ha definito questo “rischio nella catena di approvvigionamento”, il che è semplicemente folle. L'idea è che questo strumento, progettato per impedire a potenziali attori malintenzionati stranieri di fornire tecnologia, che potrebbe quindi inserire strumenti di sorveglianza nascosti nello stack tecnologico più ampio, potrebbe essere vietato. Applicarlo a un’azienda con sede negli Stati Uniti fondamentalmente per avere una politica etica sembra un vero, reale abuso di quello strumento.
Anche quello strumento era discutibile in qualche modo, ma potevi capirne l’impulso quando parli di un’azienda di networking cinese o qualcosa del genere. Ecco, non ha senso. Quindi la reazione a questo va ben oltre ciò che normalmente si vedrebbe in questo caso. Si potrebbe vedere che tradizionalmente ci sarebbe una sorta di causa giudiziaria e entrambe le parti potrebbero avviarla e sarebbe solo una battaglia su come applicare il contratto.
Ma non è quello che sta succedendo qui. Questa amministrazione sta effettivamente dicendo: “Se non ci date assolutamente tutto ciò che vogliamo, se non impostate i vostri strumenti in modo che funzionino nel modo in cui vogliamo che funzionino, allora cercheremo effettivamente di distruggere la vostra intera attività”. E questa è un'escalation.
C'è un pezzo di questo con cui voglio concludere, ed è una specie di versione più galattica di questo. FIRE, che è un gruppo a difesa della libertà di parola, ha pubblicato un post sul blog poco prima che iniziassimo a registrare sostenendo che forzare Anthropic a costruire strumenti che non vuole costruire è una violazione della libertà di parola, che è qualcosa chiamato discorso forzato. C'è molta storia qui. C'è una storia profonda di Verge e Techdirt, tra le erbacce, di crisi esistenziale qui.
Ma fondamentalmente si riduce all’idea che il codice è discorso, che scrivere codice per un computer è una forma di discorso e il governo non può costringerti a farlo, e da questo derivano un sacco di cose. Credi che costringere Anthropic a costruire strumenti che non vuole costruire sia un discorso obbligato?
Sì, in realtà penso che sia abbastanza avvincente. Discorso forzato e convincente. Ma no, penso che sia un argomento interessante. È uno che era un po’ più in basso nell’elenco dei problemi a cui stavo pensando. Ovviamente ero più concentrato sulle questioni relative al Quarto Emendamento, ma penso che l’argomentazione FIRE non sia sbagliata. Lo abbiamo visto in altri contesti. È emerso anche il problema delle backdoor, in termini di tentativo di creare backdoor in sistemi crittografati.
Le aziende sono sicuramente cresciute per primeL’emendamento afferma che “è un discorso obbligato a costringerci a scrivere quel tipo di codice”. È un argomento valido. Potrebbe trattarsi, ancora una volta, di un argomento che i tribunali sarebbero probabilmente meno disposti ad affrontare inizialmente se potessero affrontare queste questioni in altro modo. Ma sono felice che FIRE abbia pubblicato quel post e penso che sia un argomento interessante e convincente.
Sì, è proprio la natura della seconda amministrazione Trump che è uno strumento così brusco che è quasi certo che attaccheremo tutte le questioni contemporaneamente.
Sì, ogni emendamento della Carta dei Diritti deve essere contestato in una forma o nell’altra con ogni possibile questione.
[Ride] Gira la ruota.
Sono sicuro che qui da qualche parte possiamo inserire una violazione del Terzo Emendamento.
Certo, sì. Claude deve vivere a casa tua adesso. Esattamente. Sarà fantastico. Stiamo apportando [gli emendamenti] uno, tre, quattro e sette. Li accumuliamo.
Mike, è stato fantastico. Non posso credere che tu non sia mai stato nello show prima. È stato fantastico. Devi tornare presto.
Assolutamente. Ogni volta che mi vuoi.
Domande o commenti su questo episodio? Contattaci a decoder@theverge.com. Leggiamo davvero ogni email!
