오늘 우리는 Claude의 제작자이자 현재 국방부와 매우 추악한 법적 싸움을 벌이고 있는 Anthropic의 지저분하고 빠르게 움직이는 상황에 대해 이야기하고 있습니다.
앞뒤가 복잡하지만 며칠 전 미 국방부는 Anthropic을 공급망 위험으로 간주했으며 Anthropic은 정부가 "세계에서 가장 빠르게 성장하는 민간 기업 중 하나가 창출한 경제적 가치를 파괴하려고"함으로써 수정헌법 제1조 및 제5조 권리를 침해했다고 주장하며 해당 지정에 이의를 제기하는 소송을 제기했습니다. 지금 바로 말씀드릴 수 있습니다. 우리는 앞으로 몇 달 안에 The Verge와 여기 Decoder에서 해당 사건의 우여곡절에 대해 이야기할 것입니다.
그러나 오늘 저는 잠시 시간을 내어 통제 불능 상태에 빠져 충분한 관심을 받지 못한 이 상황의 매우 중요한 요소 하나에 대해 실제로 파헤치고 싶었습니다. 미국 정부가 감시를 수행하는 방법, 감시를 허용하는 법적 권한, 그리고 더 많은 감시를 수행하기 위해 AI를 사용할 때 법을 따르겠다고 말하는 정부를 Anthropic이 불신한 이유입니다.
Verge 구독자 여러분, 팟캐스트를 다운로드할 때마다 광고 없는 Decoder에 독점적으로 액세스할 수 있다는 것을 잊지 마세요. 여기로 가세요. 구독자가 아니신가요? 여기에서 가입할 수 있습니다.
오늘 제 손님은 훌륭하고 오랫동안 운영되고 있는 기술 정책 웹사이트인 Techdirt의 창립자이자 CEO인 Mike Masnick입니다. Mike는 정부의 과잉 대응, 디지털 시대의 개인 정보 보호 및 기타 관련 주제에 대해 수십 년 동안 글을 써왔습니다. 그는 인터넷과 감시 국가가 어떻게 상호 연결된 방식으로 성장했는지에 대한 전문가입니다.
아시다시피, 우리를 감시할 때 정부가 할 수 있다고 법에 명시된 것과 정부가 원하는 것이 있습니다. 그리고 가장 중요한 것은 정부가 법에 따라 할 수 있다고 말하는 내용이 있다는 것입니다. 이는 단순히 법을 읽는 일반 사람이 생각하는 것과 정반대인 경우가 많습니다.
이번 에피소드에서 마이크가 감시에 관해 미국 정부의 말을 그대로 받아들일 수 없으며, 받아들여서도 안 된다는 매우 자세한 설명을 듣게 될 것입니다. 정부 변호사들이 감시를 복잡한 방식으로 확장하기 위해 "표적"과 같은 간단한 단어의 해석을 왜곡한 역사가 너무 많습니다. 이러한 방식은 일반적으로 법조계에만 우려를 불러일으키고 10여년 전 내부 고발자 Ed Snowden의 주요 NSA 폭로와 같은 큰 논란이 있을 때만 거품이 일었습니다.
하지만 트럼프 시대의 정책 결정에는 미묘하거나 정교한 것이 없습니다. 따라서 Anthropic을 통해 우리는 기술과 감시에 관해 인터넷, 블로그 게시물, X 폭언, 기자회견 사운드비트를 통해 실시간으로 매우 시끄럽고 공개적인 토론을 벌이고 있습니다. 거기에는 긍정적인 면과 부정적인 면이 있지만, 모든 것을 이해하려면 역사를 알아야 합니다.
이것이 바로 Mike와 제가 이번 에피소드에서 설명하기로 한 것입니다. AI와 정부에 대한 귀하의 견해가 무엇이든, 이 에피소드에서는 두 당사자 모두 시간이 지남에 따라 감시 상태가 점점 더 커지도록 허용했다는 점을 분명히 할 것입니다. 이제 우리는 AI 분야에서 사상 최대 규모의 확장을 앞두고 있습니다.
좋아요: Anthropic, Pentagon 및 AI 감시에 관한 Techdirt 창립자이자 CEO인 Mike Masnick입니다. 여기 있습니다.
이 인터뷰는 길이와 명확성을 위해 약간 편집되었습니다.
Mike Masnick, 당신은 Techdirt의 창립자이자 CEO입니다. 디코더에 오신 것을 환영합니다.
여기 있어서 기쁘네요.
당신과 함께하게 되어 기쁩니다. 나는 단지 당신이 이전에 쇼에 한 번도 출연한 적이 없다는 사실에 충격을 받았다고 말한 것뿐입니다. 당신과 나는 오랫동안 서로 주위에 글을 쓰고 게시해 왔습니다. 많은 The Verge 보험 적용 범위는 귀하가 Techdirt에서 수행한 작업에 빚을 지고 있으며 Anthropic에서 진행 중인 작업은 너무 복잡하지만 귀하가 오랫동안 다루어 온 주제가 너무 많습니다. 드디어 오셔서 기뻐요.
복잡하고 난잡한 주제지만, 파고들어가게 되어 기쁩니다.
제가 여러분과 집중하고 싶은 것은 Anthropic이 정부와 계약을 체결할 것인지, OpenAI가 그 계약을 체결할 것인지에 대한 세부 사항이 아닙니다. 대신, 우리가 이것을 녹음하는 시간과 사람들이 그것을 듣는 시간 사이에 트윗이 더 많아지고 이전보다 더 많은 것들이 달라질 것이라고 확신합니다.
제가 집중하고 싶은 것은 Anthropic이 실제로 제시한 두 개의 빨간색 선 중 하나일 뿐입니다. 그 중 하나는자율 무기는 그 자체로 복잡한 수준입니다. 해당 무기가 존재하는지 또는 우크라이나 전쟁에서 러시아가 이미 배치했는지 여부에 대한 법은 조금 더 초기 단계입니다.
여기에는 그 자체의 일정에 따라 더 많은 초점이 맞춰질 것이라고 생각하기 때문에 그것을 제쳐두고 싶은 아이디어가 많이 있습니다. 제가 많은 시간을 투자하고 싶은 또 다른 한계선은 대규모 감시입니다. 그리고 여기에는 대량 감시에 관한 법률이 꽤 많이 있습니다. 많은 역사가 있고 논란이 많은 역사가 있습니다. 에드워드 스노든의 전체 성격은 대량 감시에 대한 논란 때문에 존재합니다.
이 모든 것은 결국 당신이 이 글을 게시한 사람인 것 같습니다. 국가안보국(NSA)은 국방부 산하이며 어떤 이유로 지금은 전쟁부라고 불러야 합니다.
[웃음] 우리는 아무것도 할 필요가 없습니다.
[웃음] 우리는 그렇지 않습니다. 여기 미국에서는 그게 사실이에요. 우리는 아무것도 할 필요가 없습니다. 그러나 NSA는 기본적으로 구어체 영어에서 많은 단어의 의미를 "우리는 감시를 할 수 있습니다"라는 의미로 재정의했습니다. 그리고 사람들이 단지 감시를 하고 있다는 사실을 알게 되면 스캔들이 자주 발생합니다. 그러니 거기에 무대를 놓고 끝까지 되감고 싶지는 않지만 이런 패턴이 반복되는 시간이 꽤 많았습니다.
얼마나 깊이 들어가고 싶은가에 따라 다르지만 간단히 말하면 9/11 이후 세계에서 미국은 정부가 감시에 참여할 수 있는 능력이 있는 애국법을 통과시켰습니다. 이는 미래의 테러리스트 위협으로부터 우리를 보호하기 위한 것이었습니다. 시간이 지나면서 그것은 흥미로운 방식으로 해석되었고 거기에는 몇 가지 한계가 있었습니다. 정보계와 그들의 활동을 검토하는 특별법원인 FISA 법원도 있었지만 전통적으로 일방적인 법원이었습니다. 한쪽만이 해당 법원에 소송을 제기할 수 있으며 모두 비밀리에 진행됩니다.
알려지지 않은 내용이 많습니다. 그리고 이 모든 것에는 정보 수집을 위한 규칙을 설정하는 것에 관한 것으로 추정되는 행정명령 12333호인 로널드 레이건까지 거슬러 올라가는 또 다른 부분이 있습니다.
따라서 이 세 가지 법률 세트(음, 몇 가지 법률 세트)와 행정 명령이 있는데, 대중이 읽을 수 있는 부분은 우리 정부와 특히 NSA가 감시 측면에서 무엇을 할 수 있는지에 대해 특정하게 말하는 것처럼 보입니다. 여러분과 제가 아마 가지고 있고 이해하고 있는 평범한 영어 사전을 읽으면 우리는 미국인을 감시하는 NSA의 능력이 매우 제한되어 있다는 믿음을 가지게 될 것입니다. 실제로 그들이 미국인을 감시하고 있다는 것을 알게 되면 즉시 멈추고 비명을 지르며 데이터와 기타 모든 것을 지워야 한다는 것입니다.
그런 일이 실제로 일어나지 않는다는 소문이 한동안 돌았고 힌트도 있었고, 특히 론 와이든 상원의원은 상원에 가서 “뭔가 잘못됐는데 무슨 일인지 잘 말할 수 없다”고 말하거나 청문회에서 정보 당국자들에게 “당신은 미국인에 대한 대량 데이터를 수집하고 있는가, 아니면 수집하고 있지 않은가?”라고 물을 정도로 목소리가 높았다.
그 관리들은 편향되거나 어떤 경우에는 노골적으로 거짓말을 할 것입니다. 나는 2012년 당시 국가정보국장이었던 제임스 클래퍼에게 이 점에 대해 직접 질문을 받은 청문회였던 것으로 생각합니다. 그리고 그는 기본적으로 "아니요, 우리는 미국인에 대한 데이터를 수집하지 않습니다."라고 말했습니다. 이는 Ed Snowden이 데이터를 유출하도록 영감을 준 큰 부분이었고, 그가 Glenn Greenwald, Barton Gellman 및 Laura Poitras에게도 유출했다는 보고서도 있었습니다. 그 모든 것에서 우리가 발견하기 시작한 것은 NSA가 당신과 내가 사용하는 사전과 다소 다른 자체 사전을 가지고 있다는 것입니다. 따라서 그들은 핵심 단어처럼 느껴지는 "target"과 같은 단어를 포함하여 일반 영어 의미와 다른 방식으로 단어를 해석할 수 있다는 것입니다. 이것이 무엇인지에 대한 폭넓은 이해는 이론적으로 미국인이 아닌 사람들만 표적으로 삼아야 한다는 것입니다.
그러나 시간이 지남에 따라 그것이 해석되는 방식은 그 사람을 언급하는 모든 것, 외국인에 관한 모든 것이 이제는 공정한 게임이라는 것입니다.미국 사람. 따라서 당신과 내가 서로 문자를 보내고 외국인에 대해 언급한다면 그것은 이제 NSA가 수집하고 보관하고 저장하는 공정한 게임입니다.
이것의 두 번째 부분이 있습니다. 나는 로널드 레이건(Ronald Reagan)의 첫 번째 행정 명령 12333을 언급했는데, 이는 시간이 지남에 따라 기술이 변화하고 인터넷이 성장함에 따라 NSA가 외국 통신에 접근할 수 있도록 효과적으로 허용했지만 여기에는 미국을 다른 곳으로 떠났을 수 있는 모든 통신이 포함되었습니다. 따라서 내가 당신에게 문자 메시지를 보내고 있는데 우연히 미국을 떠난 광섬유 케이블을 통해 캘리포니아에 있는 나로부터 메시지가 전달된 경우, NSA는 그것이 미국 내에서 당신에게만 전달되더라도 일단 미국 외부에 있을 때 해당 부품에 탭을 설치하고 해당 정보를 수집할 수 있습니다.
그러면 NSA는 해당 정보가 미국인에 관한 정보라도 보관할 수 있으며 나중에 해당 정보에 대해 "백도어 검색"이라고도 하는 특정 검색을 수행할 수 있습니다. 그들은 애초에 수집해서는 안 된다고 생각되는 정보를 수집했지만 보관할 수 있었습니다. 그리고 그들은 그것을 비공개로 유지하겠다고 약속하고 맹세했습니다. 그러나 그들이 검색을 해서 당신이나 내가 외국 사람을 언급했다는 것을 알게 되면 갑자기 그들이 원하는 것은 무엇이든 하는 것이 공정한 게임이 되었습니다.
전체적으로 그것은 연방 정부가 기본적으로 미국 외부에서 발생하는 모든 정보를 수집할 수 있는 세상으로 바뀌었습니다. 전적으로 미국인 두 사람 사이의 이야기라 할지라도 미국인이 아닌 누군가를 언급하거나 암시라도 한다면 갑자기 수집하는 것이 공평한 게임입니다. 그리고 그로부터 우리는 NSA가 미국인을 염탐하지 않는다고 주장하고 공개적으로 밝히는 미국인에 대한 대규모 감시 형태로 보이는 것을 얻었습니다.
우리는 어떻게 이 지경에 이르렀습니까? 이것은 점진적인 아기 단계입니다. 2012년에 제임스 클래퍼(James Clapper)를 언급했는데, 그게 바로 오바마 행정부였습니다. 당신은 로널드 레이건을 언급했는데, 그때는 1980년대였습니다. 여기서는 민주당과 공화당을 살펴보겠습니다.
테러와의 전쟁은 조지 W 부시 행정부에서 일어났고, 9·11 테러와 애국법은 조지 W 부시 행정부에서 일어났다. 양당의 대통령 아래, 양당의 의회 아래서 점점 더 나쁜 일들이 많이 있습니다. 어떻게 이런 일이 일어났나요?
가장 간단한 형태는 대규모 테러 공격이 있을 때 그 누구도, 심지어 어떤 대통령도 대통령이 되기를 원하지 않는다는 것입니다. 분명히 그들은 또한 미국인을 보호하고 싶어합니다. 그렇죠? 그것은 그들의 일의 일부입니다. 기본적으로 어둠 속에서 활동하는 정보 커뮤니티가 있는데 정보 커뮤니티가 계속해서 여러분에게 와서 "이 정보에 접근할 수 있다면 테러 공격을 예방하는 데 정말 도움이 될 것입니다."라고 말한다면.
정보 커뮤니티가 이 정보를 효과적으로 사용할 수 있는 경우가 있을 수 있습니다. 그러나 이론적으로 우리는 미국 헌법을 준수해야 하는 법률 사회이기도 합니다. 그러나 이는 연이어 공화당과 민주당 행정부에 매우 영리한 변호사들이 있어 샅샅이 살펴보고 이렇게 말할 수 있다는 사실을 허용했습니다. "글쎄, 우리가 이런 입장을 취하거나 이렇게 말하거나 해석하면 우리는 원하는 것을 얻을 수 있고 기술적으로 법을 위반하지 않고 기술적으로 수정헌법 제4조를 위반하지 않을 수 있습니다."
가정은 항상 "우리는 법을 어길 수도 있고 법에 대한 우리의 해석을 어길 수도 있고, 누구도 이것을 보지 못할 것이고, 관심을 갖는 누구도 이것을 보지 않을 것이기 때문에 우리는 그것을 피할 것입니다."였습니다.
나에게 정말 눈에 띄는 두 가지가 있습니다. 첫째, 당신과 나는 둘 다 법원 판결, 즉 항소 법원 판결과 대법원 판결을 많이 읽었습니다. 그리고 우리 대법원에서는 우리 법령과 법률의 단어를 문자 그대로 해석하는 방법을 놓고 싸움이 벌어지고 있습니다.
너무 깊이 들어가지는 않겠지만, 일반적으로 페이지에 있는 단어를 읽고 그 단어가 말하는 대로 행해야 한다는 생각이 미국 법률 해석의 지배적인 변형이라고 말하고 싶습니다. 왼쪽이든 오른쪽이든 둘 다 그렇게 말합니다. 그들은 그것이 실제로 의미하는 바에 대한 매우 난해한 요점에 대해 논쟁합니다. 하지만 당신이 단지 이 말을 읽고 그들이 말하는 대로 행할 수만 있다면 그것은 손에 잡히지 않는 것입니다. 그렇죠?
우리는 적어도 당신이 할 수 있는 첫 번째 단계에 도달했습니다.문자주의를 불러라. 두 정부의 변호사들은 어떻게 우리나라의 지배적인 법적 의사결정 방식에서 이렇게 멀리 벗어날 수 있을까요? 양 당사자의 판사는 이것이 최소한 첫 번째 단계라는 데 동의합니다.
정확한 답을 알았으면 좋겠지만 동기추론인 것 같죠? 변호사로서 귀하는 귀하의 의뢰인을 변호하기 위해 존재하며, 우리 법률 시스템의 성공은 이러한 문제에 대해 서로 다른 측면이 논쟁을 벌이는 적대적인 상황에 기반을 두는 경향이 있습니다. 여기서 심판자의 역할은 범위를 좁혀 어느 쪽이 실제로 올바른지 파악하는 것입니다.
정보 커뮤니티와 그 설정의 문제 중 하나는 적대적인 상황이 없다는 것입니다. 누구도 실제로 반대하지 않기 때문에 한쪽이 주장을 정당화하기가 더 쉬워집니다. 이를 또 다른 테러 공격, 국가 안보와 관련된 모든 것, 심지어 FISA 법원이 있는 상황에 대한 전반적인 두려움과 결합합니다. 즉, FISA 법원은 수년 동안 사실상 고무 도장 역할을 하는 것으로 유명했습니다.
정확한 숫자는 잊어버렸지만 특정 상황에 대한 감시를 허용하기 위해 FISA 법원에 제출한 신청 중 99% 이상이 승인되었으며 99%는 분명히 너무 많다고 말하기 쉽습니다. 분명히 법원에 소송을 제기하는 사람들은 선택하고 선택하고 있습니다. 그들은 대부분 완전히 터무니없는 주장을 하는 것이 아닙니다. 그러나 그러한 적대적인 측면 없이, "우리는 이것을 해야 한다"고 생각하거나 정부로부터 "우리는 이것을 해야 한다"고 말하는 매우 강한 동기를 지닌 사람들 그룹과 함께라면 그들은 그것을 할 수 있는 방법을 찾을 것입니다. 그리고 그것이 시간이 지남에 따라 끝나는 곳입니다.
이 과정에 참여하면서 잠에서 깨어나서 스스로에게 "얘야, 우리는 '목표'라는 단어를 우리가 원하는 무엇이든 의미하도록 재정의할 수 있었다"고 말한 적이 있습니까?
[웃음] 분명히 많은 문서를 유출한 에드 스노든이 있었습니다. 2014년 워싱턴 포스트에 기고한 존 네이피어 타이(John Napier Tye)는 행정명령 12333호의 해석을 공개하고 이것이 주목해야 할 실제 문제라고 말했습니다. 이러한 문제에 대해 언급한 다른 사람들이 있지만 대부분 행정부 내에서 정보 커뮤니티 관련 업무에 참여하는 사람들은 정보 커뮤니티의 관점에 동의합니다. 즉, 최우선 목표는 국가를 나쁜 것으로부터 보호하는 것입니다. 이를 수행하는 가장 좋은 방법은 가능한 한 많은 정보를 얻는 것입니다.
더 많은 정보를 가지고 있으면 더 빨리 뭔가를 파악하거나 중요한 것을 찾을 수 있다는 주장에 공감하기는 쉽지만, 첫째, 그것은 사실이 아닐 수도 있습니다. 너무 많은 정보를 얻는 것은 실제로 유용한 정보, 즉 실제로 무언가를 결정하는 데 필요한 정보를 숨길 수 있기 때문에 정보가 너무 적은 것만큼이나 나쁠 것입니다.
하지만 또한 미국도 있습니다. 우선 헌법이 보장되며 이론적으로 합당한 이유 없이 대규모 감시를 허용해서는 안 되는 이유가 있습니다. 법치주의를 믿는 국가로서 우리는 이에 부응할 수 있어야 하며, 이 모든 일이 어둠 속에서 일어날 때 여러분은 그것을 보지 못하는 경향이 있습니다.
이것이 나를 Anthropic으로 이끈다. Anthropic은 주로 기업 회사입니다. 그들은 정부에 능숙하고, 근육을 키웠으며, 이 분야에 정말 정통한 사람들로 구성되어 있습니다. 그들은 분명히 Pete Hegseth가 "우리는 모든 합법적인 사용을 원합니다"라고 말하는 것을 보고 두 가지 수준의 해석을 내려 "글쎄, 당신의 문자 그대로의 믿음은 이 말이 그들이 얼굴에서 말하는 것과 의미가 다르다는 것입니다. 그래서 '모든 합법적인 사용'은 너무 크므로 우리는 특히 대량 감시에 대한 몇 가지 가드레일을 설치하고 싶습니다."라고 말했습니다.
다시 한 번 다른 한계선이었던 자율 무기를 괄호로 묶을 텐데, 특히 대규모 감시에 있어서 다리오 아모데이는 "우리는 할 수 있는 일이 너무 많다. 이건 너무 위험하다. 이것은 수정헌법 제4조 위반이다"라고 말하고 있다.
긴장감은 "당신은 한 가지를 말하는 이러한 법률을 준수하겠다고 말하고 있는데 이제는 완전히 다른 것을 의미하며 우리는 그 일부가 되고 싶지 않습니다." 그게싸움. 나는 그것을 "우리는 모든 합법적인 사용을 할 것입니다"라고 말하고 "여기에 우리가 준수할 모든 법률이 있습니다"와 같은 긴 메시지를 게시하는 Sam Altman과 비교하고 싶습니다.
알트만은 NSA가 이러한 것들을 어떻게 재해석했는지 몰랐고 일종의 오해를 받은 것 같습니다. 그리고 그 이후로 그는 다시 걷기 시작했습니다. 우리가 녹음하는 동안에도 트윗이 더 많아지고 모든 사람의 입장이 바뀌었다고 확신합니다. 그러나 Altman은 천천히 뒤로 물러나고 있지만 OpenAI는 그들의 얼굴에 있는 법령을 읽고 그들이 말한 것을 믿는 데 묶여 있는 것처럼 보입니다. 사건에 대한 당신의 해석도 그렇습니까?
두 가지 가능성이 있는데 그 중 하나입니다. 하나는 대중이 수년 동안 플레이했던 것과 동일한 방식으로 플레이되었다는 것입니다. 대체 이론은, 그리고 이 중 어느 것이 사실인지는 모르겠습니다. 그 또는 매우 유능하고 지식이 풍부한 OpenAI의 변호사 중 일부가 이것을 알고 있었지만 NSA가 수십 년 동안 플레이했던 것과 동일한 게임을 할 수 있다고 생각했습니다. 즉, 그들이 이런 말을 하고 나서 말만 하면 실제 해석을 밝히지 않기 때문에 그들 역시 그것을 피할 수 있다는 것입니다. 그래서 Sam은 "우리는 Anthropic과 똑같은 빨간 선을 가지고 있었고 정부는 그것에 대해 훌륭했습니다"처럼 보이게 하는 성명을 내놓았습니다.
사실 Sam Altman이 Anthropic에는 두 개의 빨간색 선이 있고 OpenAI에는 세 개의 빨간색 선이 있다고 말한 것 같습니다. 정부는 이에 대해 완벽하게 괜찮았고 이로 인해 많은 사람들이 머리를 긁적였습니다. 하지만 내 생각에는 Sam Altman과 그를 둘러싼 사람들이 이러한 일이 실제로 어떻게 작동하는지 이해하지 못했거나 이해했고 대중이 알지 못할 것이라고 가정했기 때문에 문제를 피할 수 있었습니다.
또 다른 생각나는 점은 AI가 새로운 것이며 첫인상의 문제이기 때문에 새로운 기술을 접하고 싶은 유혹이 크다는 것입니다. “이전에는 누구도 이것에 대해 생각해 본 적이 없었습니다.” 그러나 현실은 모두가 오랫동안 이 문제에 대해 생각해 왔다는 것입니다. 아마도 여기서 새로운 것은 AI가 아닐 수도 있지만, 두 번째 트럼프 행정부는 아무도 관심을 기울이지 않는 비밀 법원에 자신의 행동을 정당화하기 위해 아무도 읽지 않을 수많은 변호사를 수행하는 대신 그다지 미묘하지 않다는 것입니다.
그들은 그다지 정교하지도 않고 항상 모든 사람을 염탐하겠다고 말하고 있을 뿐입니다. 그들은 아마도 모든 행정부가 그들의 의도를 발표하고 칩이 어디에 있는지 확인해야 하는 방식으로 그들의 의도를 발표했을 뿐입니다.
하지만 저는 여기 뉴욕시에 에드 스노든이 있었다는 사실을 보고 있습니다. AT&T는 모두가 알고 있는 NSA 건물을 운영하고 있습니다. 그것은 단지 거대한 건물일 뿐이고 NSA 감시 센터가 아닌 척 해야 하는데 바로 거기에 있습니다. 엄청납니다. 그 어느 것도 아무 일도 일어나지 않은 것 같습니다. 이러한 모든 폭로, 이러한 유출에 대해 우리는 이를 철회하지 않았습니다.
실제로 우리 삶의 상당 부분이 점점 더 디지털화되면서 그 숫자도 늘어났습니다. 그리고 아마도 트럼프 행정부는 항상 그렇게 무뚝뚝한 도구이기 때문에 실제로 계산의 원인이 될 수도 있습니다. 어쨌든 그게 진행되는 걸 보시나요?
여기에는 몇 가지 다른 사항이 있으며, 우리가 이 사항을 전혀 철회하지 않았다는 것은 전적으로 사실이 아닙니다. Snowden의 폭로는 이러한 일이 발생하는 방식에 몇 가지 변화를 가져왔습니다. 그리고 지금은 – 그들이 무엇을 부르는지는 잊어버렸지만, 그들은 특정 문제에 대해 상대방을 제시하는 역할을 하는 FISA 법원 내의 민사 관계 담당자와 같습니다.
그리고 우리는 일부 당국이 특정 방식으로 제한되는 것을 보아왔고, 그들은 자주 재승인을 요청했으며, 활동가들은 매우 공격적으로 물러나고 더 많은 가드레일을 설치하려고 노력했습니다. 그러나 더 큰 질문에는 두 가지 다른 것이 있다고 생각합니다. 이 정부가 미묘하지 않고 해서는 안 될 말만 큰 소리로 하고 있다는 점은 절반만 맞습니다.
"우리는 이란과 전쟁을 벌이고 있고, 그런 일이 일어나고 있습니다. 우리는 춤을 추려고도 하지 않을 것입니다."
이전의 모든 정부에서는 하지 않았던 방식입니다. 하지만 그들은 실제로 그것에 대해 직접적으로 말하지 않았습니다.감시, 특히 미국인에 대한 감시. 그것에 대한 힌트가 있었지만 그것에 대해 그렇게 강력하게 나오지는 않았습니다. 나머지 절반은 Anthropic의 포지셔닝과 AI를 실존적 기술로 보는 일반적인 관점과 더 많은 관련이 있습니다. 여기서 Anthropic은 항상 "우리는 사려 깊은 좋은 사람들입니다"라고 표현했으며, 여러분이 그것을 믿든 안 믿든 그건 요점을 벗어난 것입니다. 그들은 다음과 같은 평판을 갖고 있습니다. "우리는 안전하고 인류를 존중하며 이 모든 것에 주의를 기울이는 방식으로 이 일을 하려고 노력하고 있습니다." 그래서 충돌이 발생하면 투쟁이 시작됩니다.
하고 싶은 것은 무엇이든 할 수 있기를 원하는 트럼프 행정부가 있는데 그들은 그것에 대해 미묘하지 않습니다. 그리고 자기 설명과 공개 인물은 항상 "우리는 사려 깊고 인류와 권리 및 이 모든 것을 존중합니다."와 같은 Anthropic이 있습니다. 분명히 밝혀진 바와 같이 Anthropic은 한동안 국방부와 협력해 왔으며 정부와 다른 많은 계약을 체결했기 때문에 충돌이 발생한 곳일 것입니다. 문제가 되지 않았습니다.
정부가 계약을 확장하려고 할 때 Anthropic의 고위 경영진이 "잠깐만, 우리는 사려 깊고 안전한 AI 제공업체라는 우리의 명성에 잠재적으로 해를 끼칠 수 있는 한계선을 넘지 않도록 해야 합니다."라고 말하기 시작한 것은 이러한 특정 영역에서만 가능했습니다.
저는 감시 전반에 관해, 특히 Anthropic의 수정헌법 제4조에 관한 우려 사항에 대해 간략하게 질문하고 싶습니다. 수정헌법 제4조에 따르면 정부는 귀하를 부당하게 수색할 수 없습니다. 제4차 수정헌법을 이해하는 가장 좋은 방법은 Jay-Z의 "99 Problems"를 듣는 것입니다. 그러니 잠시 쉬고 싶다면 가서 '99 Problems'를 들어보세요. 모든 것이 거기에 있습니다. 제가 로스쿨에 다닐 때 그 말을 들었는데 정말 이해가 되었습니다.
그러나 정부는 일반적으로 귀하를 수색하기 위해 영장이 필요합니다. 그리고 점점 더 많은 삶이 온라인으로 전환되면서 이에 대한 예외도 점점 더 많아지고 있습니다. 그러나 아이디어는 여전히 온라인 영장이 필요하다는 것입니다. Anthropic의 주장은 "글쎄요, AI는 결코 지치지 않을 것입니다. 모든 것을 항상 검색할 수 있습니다. 즉 우리는 단지 마스터 감시만 할 것이라는 의미입니다."
그러나 AI가 나타나기 전에도 정부가 귀하에게 속한 모든 것을 수색할 수 있다는 생각이 있었고, 정부가 귀하의 모든 물건을 수색하는 데 영장이 필요하지 않다는 생각도 있었습니다. 귀하의 데이터가 잠시 동안 해외로 나가면 정부가 그곳에서 이를 가로챌 것이라는 생각은
제가 대학에 다닐 때 애국법(Patriot Act)이 제정될 무렵에는 실제 데이터를 검색하지 않고 메타데이터와 메타데이터만 얻을 수 있다는 논쟁이 있었습니다. 귀하의 데이터에 관한 데이터는 항상 귀하의 위치를 정확하게 찾는 데 충분합니다. 그리고 그것조차 너무 멀다. 그리고 우리는 정부가 무엇을 수집할 수 있는지에 대한 춤을 추고 있습니다. 허용되는 것은 무엇입니까? 우리 모두를 안전하게 보호하려면 무엇이 필요하며 무엇이 너무 멀까요? 그 노선은 옮겨졌습니다.
따라서 규모와 현재 우리가 어디에 있는지 감시에 대한 일반화된 우려를 간략하게 설명하십시오. AI 상황이 발생하기 전에는 모든 것이 기하급수적으로 더 복잡해졌습니다.
여기서는 앞서 언급했어야 했지만 중요한 또 다른 개념, 즉 "제3자 교리"를 소개해야 합니다. 수정헌법 제4조의 취지는 정부가 영장 없이 귀하나 귀하의 물건을 수색할 수 없으며 귀하가 일종의 범죄를 저질렀다는 상당한 이유 없이 영장을 발부받을 수 없다는 것입니다. 하지만 약 수십 년 전에 제3자 원칙이라고 불리는 이 개념이 있습니다. 이는 귀하의 데이터가 아니더라도 귀하의 것이 아닌 것에 반드시 적용되지 않거나 전혀 적용되지 않는다고 말합니다.
이것의 가장 초기이자 가장 분명한 버전은 전화 회사가 전화한 사람에 대한 전화 기록이었습니다. 전화 회사는 귀하의 통화를 녹음하지 않았지만 내가 전화하면 녹음하고 있었습니다. 전화 회사에는 "Mike가 Nilay에게 전화합니다."라는 기록이 있을 것입니다. 그리고 여러 법원에서 판단한 것은 정부가 가서 요청할 수 있고, 수색이 아니기 때문에 영장이 필요하지 않다는 것입니다.귀하의 데이터는 제3자이며 그들은 해당 데이터를 양도하는 데 제3자로 동의할 수 있습니다.
하지만 그것은 1960년대와 70년대의 사례로, 외부에 제3자 데이터가 많지 않았기 때문에 정부가 영장 없이 이에 접근할 수 있다고 결정되었습니다. 컴퓨터와 인터넷의 등장으로 상황이 바뀌었습니다. 이제 모든 것은 제3자 데이터입니다. 우리가 하는 모든 일은 어떤 회사에 의해 어딘가에 수집되어 기록으로 남습니다. 따라서 기본적으로 귀하에 대한 모든 데이터, 귀하가 어디에 있는지, 누구와 대화하는지, 누구와 상호작용하는지, 무엇을 말하고 있는지 등 요즘에는 이 모든 데이터가 거의 제3자가 보유하고 있습니다. 따라서 제3자의 원칙은 수정헌법 제4조 전체를 어느 정도 삼켰습니다. 즉, 다른 사람이 갖고 있는 당신에 관한 모든 것이 정부가 이를 요청할 수 있는 기준이 훨씬 낮습니다.
구체적으로 말하면, 내 데이터가 iCloud에 있으면 정부가 나에게 알리지 않고 Apple에 가서 iCloud에서 내 데이터를 가져올 수 있다는 뜻인가요?
그들은 그것을 요청할 수 있습니다. 영장 없이도 쉽게 요청할 수 있습니다. 그러면 회사는 자체 권리를 가지며 해당 요청에 대해 무엇을 하고 싶은지 결정할 수 있습니다. 그냥 포기하면 됩니다. 그들은 대부분 그렇듯이 심각한 요청인 경우 직접 요청을 거부하거나 귀하에게 경고하고 이렇게 말할 수 있습니다. 대부분의 사람들은 이렇게 말합니다. 그렇지 않은 경우, 그들은 7일 또는 그 밖의 다른 방법으로 귀하의 데이터를 넘겨줄 것입니다.
다시 말하지만, 상황에 따라 다릅니다. 범죄 수사라면 회사에서 알려주는 것이 허용되지 않는 일종의 개그 명령이 있을 수도 있습니다. 모든 종류의 상황이 있지만 대부분은 수정헌법 제4조가 데이터나 정보 또는 집에 있는 어떤 것인 경우에 요구하는 보호 수준보다 낮습니다.
다른 사람의 클라우드 서버에 있는 데이터의 양은 엄청나죠? 현재 인터넷에서 일반적으로 수행하는 모든 작업은 어떤 방식으로든 백업되거나 다른 사람의 서버에 기록됩니다. 정부는 수정헌법 제4조를 피해가며 "글쎄, 그건 사실 당신 것이 아니다. 아마존에 속한다. 아마존에 가서 얘기하면 된다"고 말하는데, 아마존은 그 과정의 중간에 서서 "우리는 국민을 어느 정도 보호하기 위해 또 다른 프로세스를 발명했다"고 말해야 한다.
나는 그것을 봅니다. 그리고 클라우드 서비스를 다루는 최초의 제3자 교리 사례를 취재하고 정부가 계속 승리했을 때 기본적으로 제가 조커로 변했습니다. 나는 "우리가 텍스트주의와 평범한 [읽기]에 관해 가장하고 있는 이 모든 것들은 아무 의미가 없습니다. 왜냐하면 우리는 이 고대 법칙을 모든 사람의 데이터에 사용하여 백도어에 힘을 실어주기 때문입니다."라고 말했습니다.
그런 다음 저는 이것을 보고 Anthropic을 보고 "음, 이건 같은 패턴이에요."라고 말합니다. 이것은 민간 기업이 "네, 우리는 당신의 입장을 이해합니다. 우리는 당신이 법을 이런 의미로 재해석했다는 것을 이해하며, 우리는 당신과 우리 도구, 그리고 우리 서비스를 통해 흐르는 미국인들의 데이터 사이에 어떤 프로세스를 넣을 것입니다."라고 말합니다. Anthropic과 Amazon, Azure, 그리고 우리의 많은 데이터를 보유하고 있는 다른 클라우드 서비스 사이에 유사점이 있는지 궁금합니다.
예, 여기에는 약간 다른 점을 만드는 중요한 몇 가지 설명이 있습니다. 그리고 사실 – 제 생각에는 New York Times가 이 보도를 먼저 한 것 같습니다. Anthropic에 가장 중요한 주요 조항은 특히 상용 서비스에서 수집된 데이터에 관한 것이며 해당 데이터에 Claude를 사용할 수 없다는 것이었습니다. 제3자 데이터 측면에서 이것이 바로 이 문제입니다. 하지만 저는 이전에 Amazon이나 귀하의 데이터를 호스팅하는 다른 제3자에 대해 방금 이야기했던 것과의 주요 차이점을 명확히 하고 싶습니다. 생태계의 위치 때문에 귀하의 데이터를 직접 호스팅하는 경우였습니다.
Claude를 사용하면 NSA가 귀하의 Claude 사용 내역을 조사하는 것에 대해 누구도 걱정하지 않습니다. 그것은 그들이 나가서 Amazon에서 제3자 데이터를 얻는 것에 관한 것입니다. 또는 휴대폰에 광고를 제공하고 귀하의 위치와 관심사 등을 아는 일종의 교활하고 숨겨진 데이터 브로커일 가능성이 높습니다. 그런 다음 이를 시스템에 입력합니다.그런 다음 Claude가 작업할 것입니다. 그것이 바로 Anthropic이 정말로 참여하고 싶지 않았던 것입니다. 따라서 정부가 제3자로부터 해당 데이터를 수집하는 방식과 관계없이 Anthropic은 "우리 도구가 해당 데이터에 사용되는 것을 원하지 않습니다."라고 말했습니다.
애플은 아이폰에 백도어를 넣어달라고 FBI에 맞섰고, 애플은 "아니요"라고 말하며 트럼프에게 맞섰습니다. 그리고 대규모 민간 기업이 고객을 대신하여 정부에 "아니요"라고 말하는 시스템이 작동하는 방식의 일부가 있습니다. 그리고 이는 Apple이 iPhone에 백도어를 설치하지 않거나 대형 클라우드 제공업체가 "개별 데이터를 얻기 전에 건너뛰어야 할 약간의 프로세스가 있습니다"라고 말하는 것과 같은 방식으로 느껴졌습니다.
여기서 Anthropic은 "우리는 미국인에 대한 연중무휴 대량 감시로 이어지기 때문에 다른 당사자로부터 획득한 데이터에 대한 대량 분석을 수행하지 않을 것이며 그렇게 하고 싶지 않습니다"라고 말하는 것 같습니다. 그러나 그것은 현 정부에게는 너무 먼 다리처럼 보입니다. 거기에서 돌아 오는 사람이 있습니까?
우리는 볼 것이다. 과거에 그런 일이 일어났을 때 – 그리고 대부분의 대형 기술 회사에서 그런 일이 여러 번 일어났습니다. 어느 시점에서 그들은 뭔가가 너무 멀다고 말했습니다. 일반적으로 법원에 가는 곳입니다. 회사가 법정에 가거나 행정부가 법정에 가면서 일종의 법정 다툼이 벌어질 것입니다.
iPhone의 백도어가 이에 대한 완벽한 예입니다. 법원에 가서 그들은 싸웠습니다. 하지만 FBI가 결국 수동으로 아이폰에 침입했고 법원 판결이 미래에 아이폰을 망치는 것을 원하지 않았기 때문에 그들은 결론을 내리지 못했습니다.
그런데 이 경우, 에스컬레이션이 일어나고 과거 상황과 다른 점은 트럼프 행정부가 법정에 가는 것이 아니라 이런 '공급망 위험' 지정을 했다는 점인데, 그야말로 미친 짓이다. 잠재적인 외국 악의적 행위자가 기술을 공급하는 것을 막기 위해 설계된 이 도구는 숨겨진 감시 도구를 더 큰 기술 스택에 넣을 수 있고 금지될 수 있다는 아이디어입니다. 기본적으로 윤리 정책을 가지고 있다는 이유로 미국 기반 회사에 이를 적용하는 것은 해당 도구를 실제로 오용하는 것처럼 느껴집니다.
그 도구조차도 어떤 면에서는 의심스럽긴 했지만, 중국 네트워킹 회사나 그와 유사한 것에 대해 이야기할 때 그 뒤에 숨은 추진력을 이해할 수 있습니다. 여기서는 말이 되지 않습니다. 따라서 이에 대한 반응은 이 경우에 일반적으로 볼 수 있는 것보다 훨씬 뛰어납니다. 전통적으로 일종의 법정 소송이 있을 것이고 양측이 이를 시작할 수 있으며 이는 계약이 어떻게 적용될 수 있는지에 대한 싸움일 뿐입니다.
하지만 여기서는 그런 일이 일어나지 않습니다. 이 행정부는 "우리가 원하는 것을 모두 제공하지 않고, 우리가 원하는 방식으로 작동하도록 도구를 설정하지 않으면 우리는 효과적으로 전체 비즈니스를 파괴하려고 시도할 것입니다."라고 말하고 있습니다. 그리고 그것은 확대입니다.
제가 끝내고 싶은 부분이 하나 있는데, 이것은 이것의 가장 은하계 두뇌 버전입니다. 언론의 자유 옹호 단체인 FIRE는 우리가 녹음을 시작하기 직전에 블로그 게시물을 게시하여 Anthropic이 만들고 싶지 않은 도구를 만들도록 강요하는 것은 언론의 자유를 침해하는 것이며, 이를 강제 언론이라고 부르는 것이라고 주장했습니다. 여기에는 많은 역사가 있습니다. 여기에는 깊은 Verge 및 Techdirt, 잡초 속의 실존 위기 역사가 있습니다.
그러나 기본적으로 코드는 음성이고, 컴퓨터용 코드 작성은 음성의 한 형태이며, 정부가 강제할 수 없으며, 거기에서 많은 것들이 흘러나온다는 생각으로 귀결됩니다. Anthropic이 만들고 싶지 않은 도구를 만들도록 강요하는 것은 강요된 발언이라는 주장을 받아들이십니까?
네, 사실 꽤 설득력이 있다고 생각해요. 설득력 있는 강압적인 연설. 하지만 아니요, 저는 그것이 흥미로운 주장이라고 생각합니다. 제가 생각하고 있던 문제 목록에서 조금 더 아래에 있던 문제입니다. 나는 확실히 수정헌법 제4조 문제에 더 집중하고 있었지만 FIRE 주장은 틀리지 않았다고 생각합니다. 우리는 이것을 다른 맥락에서 보았습니다. 암호화된 시스템에 백도어를 구축하려는 시도와 관련하여 백도어 문제에서도 나타났습니다.
확실히 1위를 차지한 기업수정안은 “그런 코드를 작성하도록 강요하는 것은 강요된 발언”이라고 주장한다. 그것은 유효한 주장이다. 다시 말하지만, 법원이 이러한 문제를 다른 방식으로 처리할 수 있다면 처음에는 해결하려는 의지가 덜할 수도 있습니다. 하지만 FIRE가 해당 게시물을 작성하게 되어 기쁘고 흥미롭고 설득력 있는 주장이라고 생각합니다.
네, 두 번째 트럼프 행정부의 특징은 너무 무뚝뚝한 도구라는 점입니다. 모든 문제를 한꺼번에 공격할 것이 거의 확실합니다.
그렇습니다. 모든 권리장전 개정안은 가능한 모든 문제에 대해 어떤 형태로든 이의를 제기해야 합니다.
[웃음] 바퀴를 돌려보세요.
여기 어딘가에 수정헌법 제3조 위반이 있을 수 있다고 확신합니다.
물론이죠. 클로드는 이제 당신 집에 살아야 해요. 정확히. 정말 좋을 거예요. 우리는 하나, 셋, 넷, 일곱 개를 [수정]하고 있습니다. 우리는 그들을 정리합니다.
마이크, 정말 좋았어. 당신이 이전에 쇼에 출연한 적이 없다는 게 믿기지 않아요. 이것은 훌륭했습니다. 곧 다시 와야 해요.
전적으로. 당신이 나를 원할 때마다.
이 에피소드에 대한 질문이나 의견이 있으신가요? decoder@theverge.com으로 연락주세요. 우리는 정말로 모든 이메일을 읽습니다!
