Hoje estamos falando sobre a situação complicada e em rápida evolução na Antrópico, o criador de Claude, que agora se encontra em uma batalha legal muito feia com o Pentágono.
As idas e vindas são complicadas, mas há alguns dias, o Pentágono considerou a Antrópico um risco para a cadeia de abastecimento, e a Anthropic entrou com uma ação judicial contestando essa designação, dizendo que o governo violou os seus direitos da Primeira e Quinta Emenda ao “procurar destruir o valor económico criado por uma das empresas privadas de crescimento mais rápido do mundo”. Posso dizer agora: falaremos sobre as reviravoltas desse caso no The Verge e aqui no Decoder nos próximos meses.
Mas hoje eu queria parar um momento e realmente me aprofundar aqui em um elemento muito importante desta situação que não recebeu atenção suficiente porque ficou fora de controle: como o governo dos Estados Unidos faz a vigilância, a autoridade legal que permite que essa vigilância ocorra, e por que a Antrópica desconfiava do governo dizendo que seguiria a lei quando se trata de usar a IA para fazer ainda mais vigilância.
Assinantes do Verge, não se esqueçam de que vocês têm acesso exclusivo ao Decoder sem anúncios, onde quer que você obtenha seus podcasts. Vá aqui. Não é assinante? You can sign up here.
Meu convidado de hoje é Mike Masnick, fundador e CEO da Techdirt, o excelente e antigo site de políticas de tecnologia. Mike tem escrito sobre o excesso do governo, a privacidade na era digital e outros tópicos relacionados há décadas. Ele é um especialista em como a Internet e o estado de vigilância cresceram de forma interconectada.
Veja, há o que a lei diz que o governo pode fazer quando se trata de nos vigiar e, em seguida, o que o governo quer fazer. And most importantly, there’s what the government says the law says it can do, which is often exactly the opposite of what any normal person simply reading the law would think.
Você ouvirá Mike explicar detalhadamente aqui neste episódio que não podemos - e não devemos - acreditar na palavra do governo dos EUA quando se trata de vigilância. Há demasiada história de advogados governamentais que distorcem as interpretações de palavras simples como “alvo” para expandir a vigilância de formas complicadas – formas que normalmente só causam preocupação nos círculos jurídicos e só surgem quando há grandes controvérsias, como as principais revelações do denunciante Ed Snowden sobre a NSA, há mais de uma década.
Mas não há nada de subtil ou sofisticado na elaboração de políticas na era Trump – e por isso, com a Anthropic, estamos a ter um debate muito ruidoso e público sobre tecnologia e vigilância em tempo real, na Internet, em publicações de blogues e reclamações X, e em frases de efeito em conferências de imprensa. Há pontos positivos e negativos nisso, mas para entender tudo, você realmente precisa conhecer a história.
Isso é o que Mike e eu pretendemos explicar neste episódio – quaisquer que sejam suas opiniões sobre IA e governo, este episódio deixará claro que ambas as partes permitiram que o estado de vigilância se tornasse cada vez maior ao longo do tempo. Agora, estamos à beira da maior expansão até agora quando se trata de IA.
Ok: Mike Masnick, fundador e CEO da Techdirt, sobre Antrópico, Pentágono e vigilância de IA. Aqui vamos nós.
Esta entrevista foi levemente editada para maior extensão e clareza.
Mike Masnick, você é o fundador e CEO da Techdirt. Bem-vindo ao Decodificador.
Estou feliz por estar aqui.
Estou animado por ter você. Eu só estava dizendo que estou chocado por você nunca ter estado no programa antes. Você e eu temos escrito e postado um para o outro há muito tempo. Grande parte da cobertura de apólices do The Verge tem uma dívida com o que você fez na Techdirt e o que está acontecendo com a Anthropic é tão complicado, mas atinge tantos temas que você cobre há tanto tempo. Estou feliz que você finalmente esteja aqui.
É um assunto complicado, mas estou animado para me aprofundar nele.
O que quero focar com você não são os detalhes se a Anthropic vai assinar um contrato com o governo ou se a OpenAI vai conseguir esse contrato. Em vez disso, estou confiante de que entre o momento em que gravarmos isso e o momento em que as pessoas ouvirem, haverá mais tweets e mais coisas serão diferentes do que eram antes.
O que quero focar é apenas uma das duas linhas vermelhas que a Anthropic realmente traçou. Um deles éarmas autônomas, que é o seu próprio nível de complicação. A lei lá é um pouco mais incipiente, quer as armas existam ou não ou já tenham sido utilizadas pela Rússia na Guerra da Ucrânia.
Há muitas ideias aqui que quero deixar de lado porque acho que vão entrar em mais foco de acordo com seu próprio cronograma. A outra linha vermelha na qual quero dedicar muito tempo é a vigilância em massa. E há muitas leis aqui sobre vigilância em massa. Há muita história, muita história controversa. Todo o personagem de Edward Snowden existe por causa de controvérsias em torno da vigilância em massa.
Tudo se resume – acho que foi você quem postou isso – a Agência de Segurança Nacional (NSA), que faz parte do Departamento de Defesa, que agora temos que chamar de Departamento de Guerra por algum motivo.
[Risos] Não precisamos fazer nada.
[Risos] Nós não. Isso é verdade aqui na América. Não precisamos fazer nada. Mas a NSA basicamente redefiniu o significado de muitas palavras do inglês coloquial para significar: “Podemos apenas fazer vigilância”. E então, de vez em quando, há um escândalo quando as pessoas descobrem que estão apenas vigiando. Então, basta preparar o cenário aí, e não quero retroceder completamente, mas já faz muito tempo que esse padrão se repetiu.
Depende de quão profundo você quer ir, mas a versão resumida é obviamente no mundo pós-11 de Setembro, os EUA aprovaram a Lei Patriota, que tinha alguma capacidade para o governo se envolver em vigilância, o que deveria ser para nos proteger contra futuras ameaças terroristas. Com o tempo, isso foi interpretado de maneiras interessantes e houve alguns limites para isso. Também tivemos o tribunal FISA, que é um tribunal especial que deveria analisar a comunidade de inteligência e as suas actividades, mas que tem sido tradicionalmente um tribunal unilateral. Apenas um lado pode defender o seu caso nesse tribunal e tudo é feito em segredo.
Há muitas coisas que não eram conhecidas. E depois houve outra peça em tudo isto, que remonta a Ronald Reagan, que é a Ordem Executiva 12333, que supostamente trata de estabelecer as regras para a recolha de informações.
Portanto, temos estes três conjuntos de leis – bem, alguns conjuntos de leis – e uma ordem executiva que, para o público, as partes que podem ler, parecem dizer certas coisas sobre o que o nosso governo e a NSA em particular podem fazer em termos de vigilância. Quando lidos com um dicionário de inglês simples, cuja natureza você e eu provavelmente temos e entendemos, sairíamos com a crença de que a capacidade da NSA de vigiar os americanos era muito limitada, na verdade, ao ponto de que deveriam, se perceberem que estão vigiando uma pessoa dos EUA, que deveriam parar imediatamente e reclamar e apagar os dados e todas essas outras coisas.
Houve rumores durante algum tempo de que isso não estava realmente acontecendo e havia indícios e, em particular, o senador Ron Wyden foi muito veemente sobre ir ao plenário do Senado e dizer: “Algo não está certo aqui e não consigo dizer o quê”, ou nas audiências ele perguntava aos funcionários de inteligência: “Vocês estão ou não coletando dados em massa sobre os americanos?”
Esses funcionários desviariam ou, em alguns casos, mentiriam abertamente. Acredito que tenha sido uma audiência em 2012 com James Clapper, que era o Diretor de Inteligência Nacional na época, onde foi questionado diretamente sobre este ponto. E ele basicamente disse: “Não, não coletamos dados sobre americanos”. Isso foi uma grande parte do que inspirou Ed Snowden a vazar os dados, os relatórios que ele vazou também para Glenn Greenwald, Barton Gellman e Laura Poitras. A partir de tudo isso, o que começamos a descobrir foi que a NSA tem seu próprio dicionário que é um pouco diferente do dicionário que você e eu usamos, de modo que eles podem interpretar palavras de maneiras diferentes do significado simples delas em inglês, incluindo palavras como “alvo”, que parece uma palavra-chave. Uma compreensão ampla do que isto é é que, em teoria, eles só deveriam ter como alvo pessoas que não são norte-americanas, acho que é essa a expressão.
Mas a forma como foi interpretado ao longo do tempo foi que qualquer coisa que mencione essa pessoa, qualquer coisa que seja sobre uma pessoa estrangeira é agora um jogo justo, mesmo que sejam comunicações de umPessoa dos EUA. Portanto, se você e eu trocássemos mensagens de texto e mencionássemos uma pessoa estrangeira, isso agora seria um jogo justo para a NSA coletar, manter e armazenar.
Há uma segunda parte disso. Mencionei primeiro a Ordem Executiva 12333 de Ronald Reagan, que, à medida que a tecnologia mudou ao longo do tempo e a Internet cresceu, permitiu efectivamente à NSA aceder a comunicações estrangeiras, mas que incluía quaisquer comunicações que pudessem ter deixado os EUA em rota para algum lado. Então, se eu estiver mandando uma mensagem para você e uma mensagem minha for enviada da Califórnia através de um cabo de fibra óptica que por acaso saiu dos EUA, a NSA poderia colocar uma escuta na parte quando ela estiver fora dos EUA e coletar essas informações, mesmo que fosse apenas para você dentro dos EUA.
A NSA poderia então manter essas informações, mesmo que fossem sobre pessoas dos EUA, e poderia fazer pesquisas específicas sobre isso mais tarde, por vezes referidas como “buscas de backdoor”. Eles coletaram essas informações que acreditamos que não deveriam coletar em primeiro lugar, mas poderiam mantê-las. E eles prometeram, juraram com o mindinho, que manteriam o assunto em sigilo, mas se fizessem uma pesquisa e descobrissem que você ou eu mencionamos uma pessoa estrangeira, então, de repente, seria um jogo justo para eles fazerem o que quisessem com isso.
No total, isso se transformou em um mundo em que o governo federal pode basicamente coletar qualquer informação que chegue a fora dos EUA. Mesmo que seja inteiramente entre duas pessoas dos EUA, se elas mencionarem ou mesmo sugerirem alguém que não seja uma pessoa dos EUA, de repente é um jogo justo ser colecionado. E daí obtivemos o que parece ser uma forma de vigilância em massa de pessoas dos EUA por uma NSA que afirma e declara publicamente que não espiona pessoas dos EUA.
Como chegamos a este ponto? São muitos passos de bebê incrementais. Você mencionou James Clapper em 2012, esse é o governo Obama. Você mencionou Ronald Reagan, isso é na década de 1980. Estamos passando por Democratas e Republicanos aqui.
A guerra ao terror aconteceu na administração George W. Bush, e o 11 de setembro e o Patriot Act aconteceram na administração George W. Bush. Há muitas coisas ruins crescentes sob os presidentes de ambos os partidos, sob os congressos de ambos os partidos. Como isso aconteceu?
A forma mais simples é que ninguém, e certamente nenhum presidente, quer ser presidente durante um período em que há um grande ataque terrorista, porque isso os faz ficar mal. Obviamente eles também querem proteger os americanos, certo? Isso faz parte do trabalho deles. Se você tem uma comunidade de inteligência que opera basicamente na escuridão, porque é isso que as comunidades de inteligência fazem e elas continuam vindo até você e dizendo: “Ei, se pudéssemos ter acesso a essas informações, seria realmente útil para prevenir um ataque terrorista”.
Pode haver casos em que isso seja verdade, que a comunidade de inteligência seja capaz de utilizar esta informação de uma forma que funcione bem. Mas também somos, em teoria, uma sociedade de leis com uma Constituição dos EUA à qual devemos obedecer. Mas isso permitiu o facto de administração após administração, novamente, Republicanos e Democratas, terem advogados que eram muito inteligentes e que olhavam e diziam: “Bem, se nos posicionarmos desta forma ou declararmos desta forma ou interpretarmos isto, dessa forma poderemos conseguir o que queremos e não infringirmos tecnicamente a lei ou não violarmos tecnicamente a Quarta Emenda”.
A suposição sempre foi: “Podemos de certa forma distorcer a lei ou distorcer a nossa interpretação da lei e ninguém realmente verá isso, ou ninguém que se importe realmente verá isso e, portanto, sairemos impunes”.
Há duas coisas que realmente chamam minha atenção. Primeiro, você e eu lemos muitas decisões judiciais – decisões de tribunais de apelação e decisões da Suprema Corte. E há uma luta no nosso Supremo Tribunal sobre como interpretar literalmente as palavras dos nossos estatutos e das nossas leis.
Não vou me aprofundar muito nisso, mas diria que, de modo geral, a ideia de que você deve apenas ler as palavras na página e fazer o que elas dizem é a linhagem dominante da interpretação legal nos Estados Unidos. Esquerda ou direita, ambos dizem isso. Eles discutem sobre alguns pontos muito esotéricos sobre o que isso realmente significa. Mas que você deveria ser capaz de ler essas palavras e fazer o que elas dizem, isso não está disponível, certo?
Chegamos a pelo menos aquela primeira passagem do que você podechamamos de textualismo. Como é que os advogados de ambas as administrações se afastam tanto do modo dominante de tomada de decisões jurídicas no nosso país? Os juízes de ambas as partes concordam que esse é pelo menos o primeiro passo.
Eu gostaria de saber a resposta exata, mas acho que é um raciocínio motivado, certo? Como advogado, você está lá para defender o seu cliente e o sucesso – se é que se pode chamar isso de sucesso – do nosso sistema jurídico tende a se basear em uma situação contraditória em que há diferentes lados discutindo sobre essas coisas, onde o papel do juiz é estreitar e descobrir qual lado está realmente correto.
Um dos problemas com a comunidade de inteligência e sua configuração é que você não tem essa situação adversária. Isso torna mais fácil para um lado justificar o argumento que está apresentando, porque ninguém está realmente rejeitando-o. Combinamos isso com o medo geral de outro ataque terrorista, qualquer coisa relacionada com a segurança nacional, e mesmo quando temos situações em que temos o tribunal da FISA – quero dizer, o tribunal da FISA foi um tanto famoso por ser efectivamente um carimbo de borracha durante muitos anos.
Esqueci-me dos números exatos, mas foi algo como mais de 99% dos pedidos que foram encaminhados ao tribunal da FISA para permitir a vigilância de determinadas situações, e é fácil dizer que 99% é obviamente demasiado. Obviamente, aqueles que levam ações ao tribunal estão escolhendo. Na maioria das vezes, eles não estão fazendo afirmações totalmente malucas. Mas sem esse aspecto adversário e com um grupo de pessoas fortemente motivadas que pensam: “Precisamos de fazer isto”, ou que uma administração lhes diz: “Precisamos de fazer isto”, encontrarão formas de o fazer. E é aí que você acaba com o tempo.
Houve alguém envolvido neste processo que já acordou e disse para si mesmo: “Rapaz, conseguimos redefinir a palavra ‘alvo’ para significar tudo o que quisermos”?
[Risos] Obviamente você tinha Ed Snowden, que vazou um monte de documentos. Tivemos John Napier Tye, que escreveu um artigo para o The Washington Post em 2014, que revelou a interpretação da Ordem Executiva 12333, e disse que essa é a verdadeira questão a que devemos prestar atenção. Há outras pessoas que falaram sobre estas coisas, mas na maior parte, as pessoas que estão envolvidas no trabalho dentro da administração em questões da comunidade de inteligência são compradas pela visão da comunidade de inteligência, que é a de que o objectivo primordial é proteger o país de algo mau. A melhor maneira de fazer isso é ter o máximo de informações possível.
É fácil simpatizar com o argumento de que, sim, ter mais informações pode permitir-lhes captar algo mais cedo ou encontrar algo importante, mas, primeiro, isso pode não ser verdade. Obter muita informação é provavelmente tão ruim quanto pouca informação, porque muitas vezes pode ocultar a informação que é realmente útil, a informação que você realmente precisa para determinar algo.
Mas também, temos um EUA. Constituição em primeiro lugar e temos razões pelas quais, em teoria, não deveríamos permitir a vigilância em massa sem causa provável. Como um país que acredita no Estado de direito, deveríamos ser capazes de viver de acordo com isso, e quando tudo isto acontece na escuridão, tenderemos a perder isso de vista.
Isso me leva ao Antrópico. A Anthropic é principalmente uma empresa empresarial. Eles são bons no governo, construíram músculos e são formados por pessoas que são realmente versadas em algumas dessas coisas. Eles obviamente olharam para Pete Hegseth dizendo: "Queremos todos os usos legais", e desceram dois níveis de interpretação e disseram: "Bem, sua crença literal é que essas palavras não significam o que dizem que significam em seus rostos. Portanto, 'todos os usos legais' é muito grande, e queremos colocar algumas barreiras de proteção, especialmente em torno da vigilância em massa".
Mais uma vez, vou colocar entre parênteses as armas autónomas, que eram a outra linha vermelha, mas particularmente na vigilância em massa, Dario Amodei está por aí a dizer: "Podemos fazer demasiado. Isto é demasiado perigoso. Esta é uma violação da Quarta Emenda".
A tensão que existe é “você está dizendo que vai cumprir essas leis que dizem uma coisa e agora, depois de todo esse tempo, elas significam algo completamente diferente e nós simplesmente não queremos fazer parte disso”. Esse é olutar. Só quero comparar isso com Sam Altman, que aparece para dizer: “Faremos todos os usos legais” e depois publica esta longa mensagem dizendo: “Aqui estão todas as leis que iremos cumprir”.
Parece que Altman não sabia como a NSA havia reinterpretado essas coisas e meio que foi levado para um passeio. E desde então ele começou a recuar - mesmo enquanto gravamos, estou confiante de que há mais tweets e as posições de todos mudaram. Mas Altman está retrocedendo lentamente, mas parece que a OpenAI foi obrigada a ler os estatutos em seus rostos e acreditar no que eles disseram. Essa também é a sua interpretação dos acontecimentos?
Existem duas possibilidades, e essa é uma delas. Uma é que ele foi tocado da mesma forma que o público foi tocado por muitos anos. A teoria alternativa, e não tenho ideia de qual delas é verdadeira, é que ele ou alguns dos advogados da OpenAI – que considero muito competentes e bem informados – sabiam disso, mas pensavam que poderiam jogar o mesmo jogo que a NSA jogou durante algumas décadas, na medida em que, desde que dissessem estas coisas e depois dissessem as palavras, mas não revelassem as interpretações reais, também poderiam escapar impunes. Então Sam faz uma declaração que faz parecer que “Tínhamos exatamente as mesmas linhas vermelhas que a Anthropic, e o governo foi ótimo com isso”.
Na verdade, acho que Sam Altman disse que a Anthropic tinha duas linhas vermelhas e a OpenAI tinha três, e o governo concordou perfeitamente com isso, e isso deixou muita gente coçando a cabeça. Mas acho que ou Sam Altman e quem quer que o rodeasse não entenderam como essas coisas funcionam na prática, ou entenderam, e simplesmente presumiram que o público não saberia e, portanto, eles poderiam escapar impunes.
A outra coisa que vem à mente - novamente, a IA é nova e é muito tentador recorrer a novas tecnologias, pois são problemas de primeira impressão. “Ninguém nunca teve que pensar nisso antes”, mas a realidade é que todo mundo já pensa nessas coisas há muito tempo. Talvez a novidade aqui não seja a IA, mas o facto de a segunda administração Trump, em vez de fazer um monte de advocacia que talvez ninguém alguma vez leia para justificar as suas ações perante um tribunal secreto ao qual ninguém presta atenção, não seja tão subtil.
Eles não são tão sofisticados e estão apenas dizendo que vão espionar todo mundo o tempo todo. Eles apenas anunciaram as suas intenções de uma forma que talvez todas as administrações devessem apenas anunciar as suas intenções e ver onde vão as fichas.
Mas estou olhando para o fato de que Ed Snowden estava aqui na cidade de Nova York. A AT&T administra um prédio que todos sabem que é da NSA. É apenas um edifício gigante e devemos fingir que não é um centro de vigilância da NSA, mas está mesmo ali. É enorme. Nada disso parece ter dado em nada. Todas essas revelações, esses vazamentos, não recuamos.
Na verdade, só aumentou à medida que grande parte de nossas vidas se tornou cada vez mais digital. E talvez a administração Trump seja um instrumento tão contundente em todos os momentos, que pode realmente ser a causa do acerto de contas. Você vê isso acontecendo de qualquer maneira?
Existem algumas coisas diferentes aí, e não é inteiramente verdade que não tenhamos recuado nessas coisas. As revelações de Snowden levaram a algumas mudanças na forma como essas coisas acontecem. E agora existem - esqueci como são chamados, mas são como essas pessoas amicus civis dentro do tribunal da FISA que atuarão como representantes do outro lado em certas questões.
E vimos algumas das autoridades limitadas de certas maneiras, e elas solicitam uma nova autorização de vez em quando, e os ativistas têm sido muito agressivos ao recuar e tentar colocar mais barreiras de proteção. Mas para a questão mais ampla, acho que há duas coisas diferentes. Você está meio certo ao dizer que esta administração não é sutil e apenas diz em voz alta o que não deveria.
"Estamos em guerra com o Irão, estamos a fazê-lo, está a acontecer. Nem sequer vamos tentar a dança."
De maneiras que todas as administrações anteriores não fariam. Mas eles realmente não disseram isso diretamente sobrevigilância, especialmente vigilância dos americanos. Houve indícios disso, mas eles não foram tão fortemente divulgados sobre isso. A outra metade tem mais a ver com o posicionamento da Anthropic e a visão geral da IA como uma tecnologia possivelmente existencial, onde a Anthropic sempre se apresentou como “Nós somos os mocinhos atenciosos”, e se você acredita ou não nisso, isso não vem ao caso. Eles têm esta reputação: “Estamos tentando fazer isso de uma forma que seja segura, que respeite a humanidade e preste atenção a todas essas coisas”. E então, quando você tem esse conflito, é aí que entra a luta.
Você tem uma administração Trump que só quer poder fazer tudo o que quiser, e eles não são sutis quanto a isso. E então você tem o Anthropic, cuja autodescrição e sua personalidade pública são sempre do tipo: “Somos atenciosos e respeitamos a humanidade, os direitos e todas essas coisas”. Provavelmente foi aí que surgiu o conflito, porque a Anthropic, como ficou claro, já trabalha com o Departamento de Defesa há algum tempo e tem muitos outros contratos com o governo que tem utilizado. Não foi um problema.
Foi apenas nestas áreas específicas em que, à medida que o governo procurava expandir o contrato que tinha, é que a liderança sénior da Anthropic começou a dizer: “Espere, temos de ter a certeza de que não estamos a ultrapassar estas linhas vermelhas que poderiam prejudicar potencialmente a nossa reputação como fornecedor de IA atencioso e seguro”.
Quero fazer uma breve pergunta sobre vigilância em geral e, em particular, sobre a preocupação da Quarta Emenda da Antrópico. A Quarta Emenda diz que o governo não pode revistar você sem motivo. A melhor maneira de entender a Quarta Emenda é ouvindo “99 Problems” de Jay-Z. Então, se você precisar fazer uma pausa e ouvir “99 Problems”, ótimo. Está tudo aí. Ouvi isso quando estava na faculdade de direito e fazia todo o sentido.
Mas o governo geralmente precisa de um mandado para revistar você. E à medida que cada vez mais a sua vida fica online, há muitas e muitas exceções a isso. Mas a ideia é que eles ainda precisem de um mandado online. O argumento da Antrópico é: "Bem, a IA nunca se cansará. Ela pode pesquisar tudo o tempo todo. Isso significa que vamos apenas fazer vigilância mestre".
No entanto, mesmo antes de a IA aparecer, a ideia de que o governo poderia revistar tudo o que pertencia a você já existia, a ideia de que o governo não precisava de um mandado para revistar todas as suas coisas já existia. A ideia de que se algum dos seus dados saísse do país por um breve segundo, o governo os interceptaria lá,
Quando eu estava na faculdade, na época do Patriot Act, o debate era que eles não iriam pesquisar seus dados reais, mas poderiam obter os metadados e apenas os metadados. Os dados sobre seus dados serão suficientes para localizá-lo com precisão em todos os momentos. E mesmo isso é longe demais. E temos feito essa dança do que o governo pode arrecadar? O que é permitido? O que eles precisam para nos manter seguros e o que é longe demais? Essas linhas mudaram.
Portanto, descreva brevemente a preocupação generalizada sobre a vigilância à escala e onde nos encontramos agora. Antes que a situação da IA tornasse tudo exponencialmente mais complicado.
Aqui tenho que introduzir outro conceito que provavelmente deveria ter sido mencionado anteriormente, mas é importante, que é chamado de “doutrina da terceira parte”. A ideia da Quarta Emenda é que o governo não pode revistar você ou suas coisas sem um mandado e não pode obter um mandado sem causa provável de que você cometeu algum tipo de crime. Mas existe um conceito que surgiu há décadas chamado doutrina da terceira parte, que diz que isso não se aplica necessariamente, ou não se aplica de todo, a coisas que não são suas, mesmo que sejam os seus dados.
A versão mais antiga e óbvia disso eram os registros telefônicos que a companhia telefônica tinha de quem você ligou. As companhias telefônicas não estavam gravando suas ligações, mas estavam gravando. Se eu ligasse para você, haveria um registro na companhia telefônica que dizia: “Mike liga para Nilay”. E o que foi determinado por vários tribunais foi que o governo pode solicitar isso, e eles não precisam de um mandado para isso porque não se trata de uma busca deseus dados, é esse terceiro e eles podem concordar como terceiros em apenas entregar esses dados.
Mas esses foram casos das décadas de 1960 e 1970, em que foi determinado que o governo poderia ter acesso a isso sem um mandado, quando não havia muitos dados de terceiros por aí. A ascensão dos computadores e da Internet mudou isso. Agora, tudo são dados de terceiros. Tudo o que fazemos é coletado por alguma empresa em algum lugar e tem registro disso. Então, basicamente, todos os dados sobre você, onde você está, com quem você fala, com quem você interage, o que você diz, o que está fazendo, tudo isso é praticamente mantido por terceiros atualmente. Portanto, a doutrina do terceiro partido engoliu toda a Quarta Emenda até certo ponto, onde qualquer coisa que seja sobre você e que outra pessoa tenha, existe um padrão muito mais baixo para o que o governo pode fazer para solicitá-lo.
Só para ser mais específico, isso significa que quando meus dados estão no iCloud, o governo pode ir até a Apple e retirar meus dados do iCloud sem nunca me avisar?
Eles podem solicitá-lo. Eles podem solicitá-lo facilmente sem um mandado. Então a empresa terá seus próprios direitos e poderá determinar o que deseja fazer com essa solicitação. Eles podem simplesmente desistir. Eles podem, como a maioria deles fará, se for um pedido sério, rejeitar pedidos imediatamente ou podem alertá-lo e podem dizer - e é isso que a maioria deles fará - eles vão alertá-lo e dizer: "O governo está solicitando alguns dos seus dados. Você pode ir a tribunal e tentar bloqueá-los". Caso contrário, eles entregarão seus dados em sete dias ou seja lá o que for.
Novamente, depende. Se for uma investigação criminal, pode haver algum tipo de ordem de silêncio onde a empresa não tem permissão para lhe informar. Existem todos os tipos de situações, mas a maioria delas envolve menos do que o nível de proteção que a Quarta Emenda exigiria se fossem dados ou qualquer informação ou qualquer coisa em sua própria casa.
A quantidade de dados que você tem no servidor em nuvem de outra pessoa é enorme, certo? Cada coisa que você geralmente faz na Internet agora tem backup de alguma forma ou é gravada de alguma forma nos servidores de outra pessoa. O governo encontrou esta forma de contornar a Quarta Emenda e dizer: "Bem, isso não é realmente seu. Pertence à Amazon. Podemos falar com a Amazon", e a Amazon tem de se interpor nesse processo e dizer: "Inventámos outro processo para proteger de alguma forma as pessoas".
Eu olho para isso – e quando eu estava cobrindo os primeiros casos de doutrina de terceiros que cobriam os serviços em nuvem e o governo continuava ganhando, foi basicamente quando me transformei no Coringa. Eu estava tipo, “Todas essas coisas que estamos fingindo sobre o textualismo e a [leitura] simples, nada disso significa nada porque nós apenas forçamos a porta dos fundos usando essa lei antiga nos dados de todos”.
E então eu olho para isso e olho para o Anthropic e digo: “Bem, este é o mesmo padrão”. Esta é uma empresa privada dizendo: "Ok, entendemos sua posição. Entendemos que você reinterpretou a lei para significar isso, e vamos colocar algum processo entre você, nossa ferramenta, e os dados dos americanos que fluem através de nosso serviço". Só estou me perguntando se você vê esse paralelo aí, entre Antrópico e Amazon e Azure e quaisquer outros serviços em nuvem que existem que contêm tantos de nossos dados.
Sim, embora existam alguns esclarecimentos importantes aqui que tornam isso um pouco diferente. E, de fato - acho que o The New York Times fez essa reportagem primeiro - a cláusula principal que era mais importante para a Anthropic era especificamente sobre dados coletados de serviços comerciais e sobre a impossibilidade de usar Claude nesses dados, que é exatamente essa questão em termos de dados de terceiros. Mas quero esclarecer a principal diferença entre o que estávamos falando antes com a Amazon ou outros terceiros hospedando seus dados, esses eram os casos em que eles estavam, por causa de onde estavam no ecossistema, eles estavam hospedando seus dados diretamente.
Com Claude, não é que alguém esteja preocupado com o fato de a NSA analisar seu uso de Claude. Trata-se de eles saírem e obterem dados de terceiros da Amazon ou, mais provavelmente, do tipo de corretores de dados ocultos e sorrateiros que veiculam anúncios em seus telefones e conhecem sua localização, seus interesses e coisas assim. E então alimentar isso em um sistemaque Claude iria então trabalhar. Era disso que a Anthropic realmente não queria fazer parte. Portanto, onde quer que ou como o governo colete esses dados de terceiros, a Anthropic disse: “Não queremos que nossa ferramenta seja usada nesses dados”.
A Apple é famosa por enfrentar o FBI pedindo-lhe para colocar um backdoor no iPhone, e a Apple diz “não”, e eles enfrentam Trump. E há uma parte do funcionamento do nosso sistema em que as grandes empresas privadas podem dizer “não” ao governo em nome dos seus clientes. E isso parecia da mesma forma que a Apple, novamente, não colocaria backdoor no iPhone, ou os grandes provedores de nuvem diriam: “Há um pequeno processo que você precisa percorrer antes de obter os dados individuais”.
Aqui parece que a Anthropic está dizendo: “Não vamos apenas fazer análises em massa de dados que você adquiriu de outras partes porque isso leva à vigilância em massa dos americanos 24 horas por dia, 7 dias por semana, e não queremos fazer isso”. No entanto, isso parece uma ponte longe demais para esta administração. Há alguém voltando disso?
Vamos ver. No passado, quando isso aconteceu – e já aconteceu muitas vezes com a maioria das grandes empresas de tecnologia, em algum momento elas disseram que algo é uma ponte longe demais – onde isso normalmente vai é para os tribunais. As empresas irão a tribunal ou a administração irá a tribunal e haverá algum tipo de batalha judicial.
A porta dos fundos do iPhone é um exemplo perfeito disso. Foi ao tribunal e eles brigaram, embora nunca tenham chegado a uma conclusão porque o FBI acabou invadindo manualmente o iPhone e não queria que a decisão do tribunal arruinasse isso no futuro.
Mas neste caso, onde está a escalada e onde isto é diferente das situações passadas, é que em vez de apenas ir a tribunal, a administração Trump fez esta designação de “risco da cadeia de abastecimento”, o que é simplesmente uma loucura. Esta ideia de que esta ferramenta foi concebida para impedir potenciais agentes maliciosos estrangeiros de fornecer tecnologia, que poderia então colocar ferramentas de vigilância ocultas na pilha de tecnologia maior, que poderiam ser banidas. Aplicar isso a uma empresa sediada nos EUA, basicamente por ter uma política de ética, parece um verdadeiro uso indevido dessa ferramenta.
Mesmo essa ferramenta era questionável em alguns aspectos, mas você pode entender o ímpeto por trás dela quando se fala de uma empresa de rede chinesa ou algo nesse sentido. Aqui não faz sentido. Portanto, a reação a isso vai muito além do que normalmente seria visto neste caso. Você poderia ver que tradicionalmente haveria algum tipo de processo judicial e qualquer um dos lados poderia iniciá-lo e seria apenas uma batalha sobre como o contrato poderia ser aplicado.
Mas não é isso que está acontecendo aqui. Esta administração está efetivamente a dizer: “Se não nos derem absolutamente tudo o que queremos, se não configurarem as vossas ferramentas para funcionarem da forma que queremos que funcionem, então tentaremos efetivamente destruir todo o vosso negócio”. E isso é uma escalada.
Há uma parte disso que quero encerrar, e é a versão mais inteligente de uma galáxia. FIRE, que é um grupo de defesa da liberdade de expressão, publicou uma postagem no blog pouco antes de começarmos a gravar, argumentando que forçar a Anthropic a construir ferramentas que ela não deseja construir é uma violação da liberdade de expressão, que é algo chamado discurso compelido. Há muita história aqui. Há alguma história profunda de crise existencial de Verge e Techdirt, no mato, aqui.
Mas basicamente se resume à ideia de que código é discurso, que escrever código para um computador é uma forma de discurso e que o governo não pode forçá-lo a fazer isso, e um monte de coisas decorrem disso. Você acredita no argumento de que forçar a Anthropic a construir ferramentas que ela não deseja construir é um discurso forçado?
Sim, na verdade acho que é bastante atraente. Discurso obrigatório convincente. Mas não, acho que é um argumento interessante. É um assunto que estava um pouco mais abaixo na lista de questões em que eu estava pensando. Obviamente, eu estava mais focado nas questões da Quarta Emenda, mas acho que o argumento do FOGO não está errado. Vimos isso em outros contextos. Também surgiu na questão do backdoor, em termos de tentativa de construir backdoors em sistemas criptografados.
As empresas definitivamente aumentaram primeiroA emenda afirma, dizendo: “É um discurso obrigatório forçar-nos a escrever esse tipo de código”. É um argumento válido. Poderá ser, mais uma vez, uma questão que os tribunais estarão provavelmente menos dispostos a abordar inicialmente se puderem lidar com estas questões de outra forma. Mas estou feliz que o FIRE tenha feito essa postagem e acho que é um argumento interessante e convincente.
Sim, é simplesmente a natureza da segunda administração Trump que é um instrumento tão contundente que é quase certo que atacaremos todas as questões de uma só vez.
Sim, todas as alterações da Declaração de Direitos devem ser contestadas de uma forma ou de outra em todas as questões possíveis.
[Risos] Gire a roda.
Tenho certeza de que podemos encaixar uma violação da Terceira Emenda em algum lugar aqui.
Claro, sim. Claude tem que morar na sua casa agora. Exatamente. Vai ser ótimo. Estamos fazendo [alterações] um, três, quatro e sete. Nós os acumulamos.
Mike, isso tem sido ótimo. Não posso acreditar que você não esteve no programa antes. Isso tem sido ótimo. Você tem que voltar logo.
Absolutamente. Sempre que você me quiser.
Perguntas ou comentários sobre este episódio? Contate-nos em decoder@theverge.com. Nós realmente lemos todos os e-mails!
