Сегодня мы говорим о запутанной и быстро развивающейся ситуации в компании Anthropic, создателе «Клода», которая сейчас находится в очень неприятной юридической тяжбе с Пентагоном.
Разногласия сложны, но несколько дней назад Пентагон посчитал, что Anthropic представляет собой риск для цепочки поставок, и Anthropic подала иск, оспаривающий это определение, заявив, что правительство нарушило свои права по Первой и Пятой поправкам, «стремясь уничтожить экономическую ценность, созданную одной из самых быстрорастущих частных компаний в мире». Я могу сказать вам прямо сейчас: в ближайшие месяцы мы будем говорить о перипетиях этого дела на The Verge и здесь, на Decoder.
Но сегодня я хотел воспользоваться моментом и по-настоящему углубиться в один очень важный элемент этой ситуации, которому не было уделено достаточно внимания, поскольку она вышла из-под контроля: как правительство Соединенных Штатов осуществляет слежку, юридические полномочия, позволяющие осуществлять такую слежку, и почему Anthropic не доверяет правительству, заявляющему, что оно будет следовать закону, когда дело доходит до использования ИИ для еще большей слежки.
Подписчики Verge, не забывайте, что вы получаете эксклюзивный доступ к декодеру без рекламы, где бы вы ни хранили свои подкасты. Направляйтесь сюда. Не подписчик? Вы можете зарегистрироваться здесь.
Сегодня мой гость — Майк Масник, основатель и генеральный директор Techdirt, превосходного и давно существующего веб-сайта, посвященного технологической политике. Майк уже несколько десятилетий пишет о злоупотреблениях правительства, конфиденциальности в эпоху цифровых технологий и других связанных темах. Он является экспертом в том, как Интернет и государство слежки развивались взаимосвязано.
Видите ли, есть то, что закон говорит, что правительство может делать, когда дело доходит до слежки за нами, а затем то, что правительство хочет делать. И самое главное, есть то, что, по словам правительства, закон говорит, что оно может сделать, что часто является полной противоположностью тому, что подумал бы любой нормальный человек, просто читающий закон.
В этом выпуске вы услышите, как Майк очень подробно объясняет, что мы не можем — и не должны — верить правительству США на слово, когда дело доходит до слежки. Существует слишком много историй о том, как правительственные юристы искажали интерпретации простых слов, таких как «цель», чтобы расширить слежку сложными способами — способами, которые обычно вызывают беспокойство только в юридических кругах и всплывают только тогда, когда возникают огромные противоречия, такие как важные разоблачения АНБ разоблачителя Эда Сноудена более десяти лет назад.
Но в выработке политики в эпоху Трампа нет ничего тонкого или изощренного — и поэтому с Anthropic мы ведем очень громкие, очень публичные дебаты о технологиях и слежке в реальном времени, в Интернете, в сообщениях в блогах и разглагольствованиях, а также в звуковых фрагментах пресс-конференций. В этом есть свои плюсы и минусы, но чтобы во всем этом разобраться, нужно действительно знать историю.
Это то, что мы с Майком намеревались объяснить в этом эпизоде — какими бы ни были ваши взгляды на ИИ и правительство, этот эпизод прояснит, что обе стороны позволяют государству наблюдения со временем становиться все больше и больше. Сейчас мы находимся на пороге самого большого расширения, когда дело касается ИИ.
Хорошо: основатель и генеральный директор Techdirt Майк Масник об Anthropic, Пентагоне и слежке с помощью искусственного интеллекта. Вот так.
Это интервью было слегка отредактировано для обеспечения длины и ясности.
Майк Масник, вы основатель и генеральный директор Techdirt. Добро пожаловать в Декодер.
Я рад быть здесь.
Я очень рад видеть вас. Я просто сказал, что шокирован тем, что ты никогда раньше не был на шоу. Мы с вами уже давно пишем и публикуем сообщения друг о друге. Во многом освещение политики The Verge связано с тем, что вы сделали в Techdirt, а то, что происходит с Anthropic, настолько сложно, но затрагивает так много тем, которые вы так долго освещали. Я рад, что ты наконец здесь.
Это сложная тема, но я очень рад покопаться в ней.
Я хочу с вами сосредоточиться не на деталях того, собирается ли Anthropic подписать контракт с правительством или получит ли OpenAI этот контракт. Вместо этого я уверен, что между моментом, когда мы это запишем, и временем, когда люди его прослушают, будет больше твитов и больше вещей будет отличаться от того, что было раньше.
Я хочу сосредоточиться на одной из двух красных линий, которые на самом деле наметил Anthropic. Один из нихавтономное оружие, что представляет собой отдельный уровень сложности. Закон там находится в более зачаточном состоянии, независимо от того, существует ли оружие вообще или оно уже было использовано Россией в войне на Украине.
Здесь есть много идей, которые я просто хочу отложить, потому что думаю, что этому будет уделяться больше внимания в рамках своего собственного графика. Другая красная линия, которой я хочу уделить много времени, — это массовая слежка. И здесь довольно много законов о массовой слежке. У него много истории, много противоречивой истории. Весь характер Эдварда Сноудена существует из-за разногласий вокруг массовой слежки.
Все сводится к тому — я думаю, что это вы опубликовали это — Агентству национальной безопасности (АНБ), которое является частью Министерства обороны, которое мы теперь почему-то должны называть Министерством войны.
[Смеется] Нам не нужно ничего делать.
[Смеется] Мы этого не делаем. Это правда здесь, в Америке. Нам не нужно ничего делать. Но АНБ, по сути, переосмыслило то, что означают многие слова в разговорном английском языке, и теперь они означают: «Мы можем просто вести наблюдение». А потом время от времени возникает скандал, когда люди обнаруживают, что они просто занимаются слежкой. Так что просто подготовьте почву, и я не хочу перематывать вас полностью, но прошло уже довольно много времени, когда эта картина повторялась.
Это зависит от того, насколько глубоко вы хотите зайти, но короткая версия, очевидно, относится к миру после 11 сентября, когда США приняли Патриотический акт, который давал правительству некоторую возможность участвовать в слежке, которая должна была защитить нас от будущих террористических угроз. Со временем это интерпретировалось по-разному, и на это появились некоторые ограничения. У нас также был суд FISA, специальный суд, который должен проверять разведывательное сообщество и его деятельность, но традиционно был односторонним судом. Только одна сторона может отстаивать свое дело в этом суде, и все это делается тайно.
Есть много вещей, которые не были известны. И затем во всем этом была еще одна деталь, восходящая к Рональду Рейгану, а именно Указ № 12333, который предположительно устанавливает правила сбора разведывательной информации.
Итак, у вас есть эти три свода законов — ну, несколько сводов законов — и указ, который для общественности, части, которые вы можете прочитать, кажется, говорят определенные вещи о том, что наше правительство и АНБ в частности могут сделать с точки зрения слежки. Если читать простой английский словарь, природу которого мы с вами, вероятно, знаем и понимаем, мы приходим к убеждению, что способность АНБ следить за американцами была очень ограничена, фактически до такой степени, что они должны, если они понимают, что следят за человеком из США, что они должны немедленно остановиться и закричать, стереть данные и все такое прочее.
Некоторое время ходили слухи, что на самом деле этого не происходит, и были намеки, и, в частности, сенатор Рон Уайден очень громко говорил о том, чтобы выйти в Сенат и сказать: «Что-то здесь не так, и я не могу вам точно сказать, что», или на слушаниях он спрашивал сотрудников разведки: «Вы собираете или не собираете массовые данные об американцах?»
Эти чиновники либо уклонялись от решения, либо в некоторых случаях откровенно лгали. Я полагаю, что это было одно слушание в 2012 году с Джеймсом Клэппером, который в то время был директором национальной разведки, где его прямо спросили по этому поводу. И он по сути сказал: «Нет, мы не собираем данные об американцах». Во многом именно это вдохновило Эда Сноудена на утечку данных, а также отчетов, которые он передал Гленну Гринвальду, Бартону Геллману и Лоре Пойтрас. Из всего этого мы начали обнаруживать, что у АНБ есть свой собственный словарь, который несколько отличается от словаря, который мы с вами используем, так что они могут интерпретировать слова способами, отличными от их простого английского значения, включая такие слова, как «цель», которое кажется ключевым словом. В широком понимании, что это такое, теоретически они должны быть нацелены только на людей, которые не являются гражданами США, я думаю, это фраза.
Но со временем это интерпретировалось так: все, что упоминает этого человека, все, что связано с иностранцем, теперь является честной добычей, даже если это сообщения какого-либо лица.Человек из США. Так что, если бы мы с вами написали друг другу текстовые сообщения и упомянули иностранца, теперь АНБ может собирать, хранить и хранить эту информацию.
Есть вторая часть этого. Я упомянул первый исполнительный указ 12333 Рональда Рейгана, который, по мере того как технологии со временем менялись и Интернет рос, фактически позволял АНБ подключаться к иностранным коммуникациям, но это включало в себя любые сообщения, которые могли оставить США куда-то на пути. Таким образом, если я пишу вам сообщение, и сообщение пришло от меня в Калифорнии по оптоволоконному кабелю, который случайно покинул США, АНБ могло бы прослушивать эту часть, как только она окажется за пределами США, и собрать эту информацию, даже если она направлялась к вам только в США.
Затем АНБ могло хранить эту информацию, даже если она касалась граждан США, и позже проводить специальные поиски по ней, иногда называемые «обысками через черный ход». Они собрали информацию, которую, как мы считаем, им вообще не следовало собирать, но они могли ее сохранить. И они обещали, они клялись на мизинце, что сохранят это в тайне, но если они проведут поиск и обнаружат, что вы или я упомянули иностранца, то внезапно для них станет честной игрой делать с этим все, что они хотят.
В целом, это превратилось в мир, в котором федеральное правительство может собирать любую информацию, которая выходит за пределы США. Даже если это полностью между двумя гражданами США, если они упоминают или даже намекают на кого-то, кто не является гражданином США, внезапно сбор становится честной игрой. И в результате мы получили то, что выглядит как форма массовой слежки за гражданами США со стороны АНБ, которое утверждает и публично заявляет, что не шпионит за гражданами США.
Как мы дошли до этой точки? Это много дополнительных детских шагов. Вы упомянули Джеймса Клэппера в 2012 году, это администрация Обамы. Вы упомянули Рональда Рейгана, это 1980-е годы. Здесь мы проходим через демократов и республиканцев.
Война с террором произошла при администрации Джорджа Буша-младшего, а события 11 сентября и Патриотический акт произошли при администрации Джорджа Буша-младшего. При президентах обеих партий, при съездах обеих партий происходит много нарастающего плохого. Как это произошло?
Самая простая форма этого заключается в том, что никто, и уж тем более ни один президент, не хочет быть президентом во время крупного теракта, потому что это выставляет их в плохом свете. Очевидно, они также хотят защитить американцев, верно? Это часть их работы. Если у вас есть разведывательное сообщество, которое в основном действует в темноте, потому что именно этим занимаются разведывательные сообщества, и они продолжают приходить к вам и говорить: «Эй, если бы мы могли просто получить доступ к этой информации, это было бы очень полезно для предотвращения террористической атаки».
Могут быть случаи, когда это правда, что разведывательное сообщество может использовать эту информацию так, чтобы это работало. Но теоретически мы также являемся обществом законов с Конституцией США, которой мы должны подчиняться. Но это допускало тот факт, что администрация за администрацией, опять же, республиканская и демократическая, имели очень умных юристов, которые смотрели и говорили: «Что ж, если мы будем позиционировать так, или заявим так, или интерпретируем так, то таким образом мы сможем получить то, что хотим, и не нарушать закон технически или не нарушать Четвёртую поправку».
Предположение всегда заключалось в следующем: «Мы можем как бы обойти закон или изменить нашу интерпретацию закона, и никто никогда этого не увидит, или никто, кого это волнует, на самом деле никогда этого не увидит, и поэтому нам это сойдет с рук».
Есть две вещи, которые меня действительно бросаются в глаза. Во-первых, мы с вами оба читали много судебных решений — решений апелляционных судов и решений Верховного суда. И в нашем Верховном суде идет спор о том, как буквально интерпретировать слова в наших уставах и законах.
Я не буду вдаваться в подробности, но я бы сказал, что в целом идея о том, что вы должны просто читать слова на странице и делать то, что они говорят, является доминирующей формой толкования закона в Соединенных Штатах. Налево или направо, они оба говорят это. Они спорят о некоторых очень эзотерических тонкостях того, что это на самом деле означает. Но то, что вы должны просто уметь читать эти слова и делать то, что они говорят, это же не для того, не так ли?
Мы достигли, по крайней мере, первого этапа того, что вы могли быназывают текстуализмом. Как юристам обеих администраций удалось так далеко уйти от доминирующего способа принятия юридических решений в нашей стране? Судьи обеих сторон согласны с тем, что это, по крайней мере, первый шаг.
Хотел бы я знать точный ответ, но я думаю, что это мотивированное рассуждение, верно? Как юрист, вы находитесь здесь, чтобы защищать своего клиента, и успех — если это можно назвать успехом — нашей правовой системы, как правило, основан на наличии состязательной ситуации, когда разные стороны спорят по этим вопросам, где роль судьи состоит в том, чтобы сузить круг вопросов и выяснить, какая сторона на самом деле права.
Одна из проблем разведывательного сообщества и его структуры заключается в том, что у вас нет такой враждебной ситуации. Это облегчает одной стороне обоснование аргумента, который они выдвигают, потому что никто на самом деле не возражает против него. Вы сочетаете это с всеохватывающим страхом перед новой террористической атакой, всем, что связано с национальной безопасностью, и даже когда у вас есть ситуации, когда у вас есть суд FISA - я имею в виду, что суд FISA был в некоторой степени известен тем, что на протяжении многих лет фактически был штампом.
Я забыл точные цифры, но около 99 процентов заявлений, поступивших в суд FISA с просьбой разрешить наблюдение за определенными ситуациями, были удовлетворены, и легко сказать, что 99 процентов — это явно слишком много. Очевидно, что те, кто подают иски в суд, сами выбирают. По большей части они не выдвигают совершенно безумных претензий. Но без этого враждебного аспекта и с очень сильно мотивированной группой людей, которые думают: «Нам нужно это сделать» или которым администрация говорит: «Нам нужно это сделать», они найдут способы сделать это. И вот где вы в конечном итоге окажетесь со временем.
Был ли в этом процессе кто-нибудь, кто когда-нибудь просыпался и говорил себе: «Ого, нам удалось дать новое определение слову «цель», чтобы оно означало все, что мы хотим»?
[Смеется] Очевидно, у вас был Эд Сноуден, который слил кучу документов. У вас был Джон Нэпьер Тай, который написал статью для The Washington Post в 2014 году, в которой раскрыл толкование указа № 12333 и сказал, что это настоящая проблема, на которую следует обратить внимание. Есть и другие люди, которые высказывались об этих вещах, но по большей части люди, которые участвуют в работе внутри администрации над делами разведывательного сообщества, верят в точку зрения разведывательного сообщества, которая заключается в том, что первостепенной целью является защита страны от чего-то плохого. Лучший способ сделать это — иметь как можно больше информации.
Легко согласиться с аргументом, что да, наличие большего количества информации может позволить им уловить что-то раньше или найти что-то важное, но, во-первых, это может быть неправдой. Получение слишком большого количества информации, вероятно, так же плохо, как и слишком мало информации, потому что оно часто может скрыть информацию, которая действительно полезна, информацию, которая вам действительно нужна, чтобы что-то определить.
Но также у нас есть США. Конституция в первую очередь, и у нас есть причины, по которым теоретически мы не должны допускать массовую слежку без веской причины. Как страна, которая верит в верховенство закона, мы должны быть в состоянии соответствовать этому, и когда все это происходит в темноте, вы склонны упускать это из виду.
Это подводит меня к Anthropic. Anthropic – это, прежде всего, корпоративная компания. Они хорошо разбираются в правительстве, у них есть мускулы, в них работают люди, которые действительно хорошо разбираются в некоторых вопросах. Они, очевидно, посмотрели на Пита Хегсета, говорящего: "Мы хотим использовать все законные виды использования", и они пошли на два уровня интерпретации ниже и сказали: "Ну, вы буквально убеждены, что эти слова означают не то, что они означают на первый взгляд. Таким образом, "все законные виды использования" - это слишком много, и мы хотим поставить некоторые ограждения, особенно вокруг массового наблюдения".
Опять же, я собираюсь вынести за скобки автономное оружие, которое было еще одной красной линией, но, особенно в отношении массового наблюдения, Дарио Амодей говорит: "Мы можем сделать слишком много. Это слишком опасно. Это нарушение Четвертой поправки".
Напряжение здесь в том, что «вы говорите, что будете соблюдать эти законы, которые говорят одно, а теперь, спустя столько времени, они означают что-то совершенно другое, и мы просто не хотим быть частью этого». Этодраться. Я просто хочу сравнить это с Сэмом Альтманом, который налетает и говорит: «Мы будем использовать все законные методы», а затем публикует длинное сообщение вроде: «Вот все законы, которые мы собираемся соблюдать».
Похоже, что Альтман не знал, как АНБ по-новому интерпретировало эти вещи, и его как бы обманули. И с тех пор он начал отступать — даже пока мы записываем, я уверен, что твитов стало больше, и позиции всех изменились. Но Альтман медленно шел назад, но похоже, что OpenAI заставили читать законы на их лицах и верить тому, что они говорят. Вы тоже так интерпретируете события?
Есть две возможности, и это одна из них. Во-первых, с ним играли так же, как с публикой в течение многих лет. Альтернативная теория, и я понятия не имею, какая из них верна, заключается в том, что он или некоторые юристы OpenAI, которые, я считаю, очень компетентны и очень хорошо осведомлены, знали об этом, но думали, что они могут играть в ту же игру, в которую АНБ играло несколько десятилетий, в том смысле, что пока они говорят эти вещи, а затем говорят слова, но не раскрывают реальных интерпретаций, им это тоже может сойти с рук. Итак, Сэм делает заявление, которое выглядит так: «У нас были те же красные линии, что и у Anthropic, и правительство с этим отлично справилось».
На самом деле, я думаю, Сэм Альтман сказал, что у Anthropic было две красные линии, а у OpenAI — три, и правительство это вполне устраивало, и это заставило многих людей как бы почесать затылки. Но я думаю, что либо Сэм Альтман и те, кто его окружал, не понимали, как эти вещи работают на практике, либо они понимали, и они просто предполагали, что публика не знает, и поэтому им это сойдет с рук.
Еще одна вещь, которая приходит на ум — опять же, ИИ — это новое явление, и очень заманчиво заняться новыми технологиями, поскольку это проблемы первого впечатления. «Никому никогда не приходилось думать об этом раньше», но на самом деле все думали об этом уже давно. Возможно, новым здесь является не ИИ, а то, что вторая администрация Трампа, вместо того, чтобы заниматься адвокатской деятельностью, которую, возможно, никто никогда не прочитает, чтобы оправдать свои действия перед секретным судом, на который никто не обращает внимания, вместо этого просто не так уж тонка.
Они не настолько искушены и просто говорят, что будут постоянно шпионить за всеми. Они только что объявили о своих намерениях таким образом, что, возможно, всем администрациям следует просто объявить о своих намерениях и посмотреть, куда выпадут фишки.
Но я смотрю на тот факт, что здесь, в Нью-Йорке, был Эд Сноуден. AT&T управляет зданием, которое, как всем известно, является зданием АНБ. Это просто гигантское здание, и мы должны делать вид, что это не центр наблюдения АНБ, но оно тут как тут. Это огромно. Кажется, ничего из этого ни к чему не привело. Все эти разоблачения, эти утечки мы не опровергли.
На самом деле, оно только увеличивается по мере того, как большая часть нашей жизни становится все более цифровой. И, возможно, администрация Трампа всегда была таким грубым инструментом, что на самом деле это может быть причиной расплаты. Вы все равно видите, что это происходит?
Там есть несколько разных вещей, и не совсем верно, что мы вообще от этого не отказались. Разоблачения Сноудена действительно привели к некоторым изменениям в том, как происходят эти вещи. И сейчас они есть — я забыл, как их зовут, но они похожи на людей, работающих в суде FISA, которые будут представлять другую сторону по определенным вопросам.
И мы видели, как некоторые органы власти были ограничены определенным образом, и они время от времени требовали повторной авторизации, а активисты очень агрессивно сопротивлялись и пытались установить еще какие-то ограждения. Но если говорить о более широком вопросе, я думаю, что это две разные вещи. Вы наполовину правы в том, что эта администрация не хитра и просто говорит вслух то, чего не следует.
"Мы воюем с Ираном, мы делаем это, это происходит. Мы даже не собираемся танцевать".
Так, как не делали все предыдущие администрации. Но они об этом прямо не говорилислежка, особенно слежка за американцами. Намеки на это были, но они не проявлялись так решительно. Другая половина связана скорее с позиционированием Anthropic и общим взглядом на ИИ как на эту, возможно, экзистенциальную технологию, где Anthropic всегда позиционировала себя как «Мы — вдумчивые хорошие парни», а верите ли вы в это или нет — это не имеет значения. У них такая репутация: «Мы пытаемся сделать это безопасным способом, с уважением к человечности и обращая внимание на все эти вещи». И поэтому, когда у вас происходит такое столкновение, именно здесь начинается борьба.
У вас есть администрация Трампа, которая просто хочет иметь возможность делать все, что она хочет, и они не скрывают этого. А еще у вас есть Anthropic, чье самоописание и его публичный имидж всегда такие: «Мы заботливые и уважаем человечество, права и все такое». Вероятно, именно здесь и возник конфликт, потому что Anthropic, как стало ясно, какое-то время сотрудничал с Министерством обороны и имеет множество других контрактов с правительством, которые он использовал. Это не проблема.
И только в этих конкретных областях, когда правительство стремилось расширить имеющийся у него контракт, высшее руководство Anthropic начало говорить: «Подождите, мы должны убедиться, что мы не пересекаем эти красные линии, которые потенциально могут нанести вред нашей репутации как продуманного и безопасного поставщика ИИ».
Я хочу вкратце спросить вас о слежке в целом и, в частности, о беспокойстве Anthropic по поводу Четвертой поправки. Четвертая поправка гласит, что правительство не может необоснованно обыскивать вас. Лучший способ понять Четвертую поправку — прослушать «99 проблем» Джей-Зи. Так что, если вам нужно сделать перерыв и пойти послушать «99 проблем», это здорово. Это все там. Я слушал это, когда учился на юридическом факультете, и это имело смысл.
Но правительству обычно нужен ордер на ваш обыск. И поскольку все большая часть вашей жизни проходит в Интернете, из этого правила появляется множество исключений. Но идея в том, что им все равно понадобится онлайн-ордер. Аргумент Anthropic таков: "Что ж, ИИ никогда не устанет. Он может постоянно обыскивать все. Это означает, что мы просто собираемся осуществлять генеральное наблюдение".
Однако еще до появления ИИ существовала идея о том, что правительство может обыскать все, что вам принадлежит, и идея о том, что правительству не нужен ордер на обыск всех ваших вещей. Идея о том, что если какие-либо ваши данные на короткую секунду попадут за пределы страны, правительство перехватит их там,
Когда я учился в колледже, примерно во времена Патриотического акта, споры велись о том, что они не собираются искать ваши реальные данные, но могут получить метаданные и только метаданные. Данных о ваших данных будет достаточно, чтобы в любой момент точно определить ваше местонахождение. И даже это слишком далеко. И мы исполняем этот танец о том, что может собрать правительство? Что допустимо? Что им нужно, чтобы обеспечить нашу безопасность, а что слишком далеко? Эти линии переместились.
Итак, просто кратко опишите общую обеспокоенность по поводу слежки в том масштабе и о том, где мы находимся сейчас. До того, как ситуация с ИИ все усложнила в геометрической прогрессии.
Здесь я вынужден ввести еще одну концепцию, о которой, наверное, следовало упомянуть раньше, но она важна, и которая называется «доктрина третьей стороны». Идея Четвертой поправки заключается в том, что правительство не может обыскивать вас или ваши вещи без ордера и не может получить ордер без веской причины того, что вы совершили какое-то преступление. Но есть концепция, появившаяся несколько десятилетий назад, называемая доктриной третьей стороны, которая гласит, что это не обязательно применимо или вообще не применимо к вещам, которые не являются вашими, даже если это ваши данные.
Самой ранней и наиболее очевидной версией этого были записи телефонных разговоров тех, кому вы звонили, имевшиеся у телефонной компании. Телефонные компании не записывали ваши звонки, но они записывали, если бы я вам позвонил, в телефонной компании была бы запись: «Майк звонит Нилаю». И что было установлено несколькими судами, так это то, что правительство может пойти и потребовать этого, и им не нужен для этого ордер, потому что это не обыскваши данные, это третья сторона, и она может согласиться как третья сторона просто передать эти данные.
Но это были случаи 1960-х и 70-х годов, когда было установлено, что правительство может получить доступ к этим данным без ордера, когда сторонних данных было не так много. Появление компьютеров и Интернета изменило ситуацию. Теперь все это сторонние данные. Все, что мы делаем, где-то собирается какой-то компанией и фиксируется. Таким образом, практически все данные о вас, о том, где вы находитесь, с кем вы разговариваете, с кем общаетесь, что вы говорите, что вы делаете, — все это в наши дни в значительной степени хранится у третьих лиц. Таким образом, доктрина третьей стороны в некоторой степени поглотила всю Четвертую поправку, где все, что касается вас и есть у кого-то другого, имеет гораздо более низкий стандарт того, что правительство может сделать, чтобы запросить это.
Если говорить конкретно, это означает, что когда мои данные находятся в iCloud, правительство может обратиться в Apple и получить мои данные из iCloud, даже не сказав мне об этом?
Они могут запросить это. Они могут легко запросить это без ордера. Тогда компания имеет свои права и может определить, что они хотят делать с этим запросом. Они могут просто отказаться от этого. Они могут, как и большинство из них, если это серьезный запрос, сразу отклонить запросы или могут предупредить вас и сказать — и это то, что сделает большинство из них — они предупредят вас и скажут: "Правительство запрашивает некоторые из ваших данных. Вы можете обратиться в суд и попытаться заблокировать их". Если нет, они передадут ваши данные через семь дней или сколько угодно.
Опять же, это зависит. Если это уголовное расследование, то может быть какой-то приказ о неразглашении информации, согласно которому компания не имеет права вам ничего сообщать. Ситуации бывают самые разные, но большинство из них подразумевают меньший уровень защиты, чем требуется Четвертой поправкой, если это данные, любая информация или что-то еще в вашем собственном доме.
Объем данных, хранящихся на чужом облачном сервере, огромен, не так ли? Все, что вы сейчас делаете в Интернете, каким-то образом резервируется или каким-то образом записывается на чужих серверах. Правительство нашло способ обойти Четвертую поправку и сказать: "Ну, на самом деле это не ваше. Оно принадлежит Amazon. Мы можем поговорить с Amazon", а Amazon приходится встать в центре этого процесса и сказать: "Мы изобрели другой процесс, чтобы в некоторой степени защитить людей".
Я смотрю на это — и когда я освещал первые дела сторонних доктрин, касающихся облачных сервисов, и правительство продолжало побеждать, по сути, именно тогда я превратился в Джокера. Я сказал: «Все эти вещи, которые мы притворяемся о текстуализме и простом [чтении], ничего из этого не имеют никакого значения, потому что мы просто проталкиваем через черный ход, используя этот древний закон, в всеобщие данные».
А потом я смотрю на это, смотрю на Anthropic и говорю: «Ну, это та же модель». Это частная компания, которая говорит: "Хорошо, мы понимаем вашу позицию. Мы понимаем, что вы по-новому интерпретировали закон, чтобы он подразумевал это, и мы собираемся внедрить некоторый процесс между вами, нашим инструментом и данными американцев, проходящим через наш сервис". Мне просто интересно, видите ли вы эту параллель между Anthropic, Amazon, Azure и любыми другими существующими облачными сервисами, в которых хранится так много наших данных.
Да, хотя здесь есть несколько важных пояснений, которые меняют ситуацию. И на самом деле — я думаю, что New York Times опубликовала этот отчет первым — главный пункт, который был наиболее важным для Anthropic, конкретно касался данных, собранных от коммерческих служб, и невозможности использовать Клода для этих данных, что и является проблемой с точки зрения сторонних данных. Но я хочу прояснить основную разницу между тем, о чем мы только что говорили, с Amazon или другими третьими сторонами, размещающими ваши данные, это были случаи, когда они, из-за того, где они находятся в экосистеме, размещали ваши данные напрямую.
Что касается Клода, то никто не беспокоится о том, что АНБ просматривает использование вами Клода. Речь идет о том, что они выходят и получают сторонние данные от Amazon или, что более вероятно, от каких-то подлых, скрытых брокеров данных, которые показывают рекламу на ваших телефонах и знают ваше местоположение, ваши интересы и тому подобное. А затем вводим это в системунад этим Клод потом будет работать. Это то, частью чего Anthropic действительно не хотела быть. Поэтому где бы и где бы правительство ни собирало эти данные от третьей стороны, Anthropic заявила: «Мы не хотим, чтобы наш инструмент использовался для этих данных».
Apple, как известно, противостоит просьбе ФБР установить бэкдор в iPhone, и Apple говорит «нет», и они противостоят Трампу. И есть часть того, как работает наша система, когда крупные частные компании могут сказать правительству «нет» от имени своих клиентов. И это похоже на то, как Apple, опять же, не будет устанавливать бэкдор на iPhone, или крупные облачные провайдеры говорят: «Есть небольшой процесс, через который вам придется пройти, прежде чем вы получите отдельные данные».
Здесь кажется, что Anthropic говорит: «Мы не собираемся просто проводить массовый анализ данных, которые вы получили от других сторон, потому что это приводит к круглосуточной массовой слежке за американцами, и мы не хотим этого делать». Однако для нынешней администрации это кажется слишком далеким мостом. Есть ли от этого возвращение?
Посмотрим. В прошлом, когда такое случалось (а это случалось много раз с большинством крупных технологических компаний, в какой-то момент они говорили, что что-то зашло слишком далеко), обычно дело доходит до суда. Компании пойдут в суд или администрация пойдет в суд, и будет какая-то судебная тяжба.
Бэкдор в iPhone — прекрасный тому пример. Дело дошло до суда, и они боролись, хотя так и не пришли к окончательному выводу, потому что ФБР в конечном итоге просто вручную взломало iPhone, а затем не хотело, чтобы решение суда разрушило это в будущем.
Но в данном случае эскалация имеет место и отличается от прошлых ситуаций тем, что вместо того, чтобы просто обратиться в суд, администрация Трампа объявила о «риске цепочки поставок», что просто безумие. Эта идея заключается в том, что этот инструмент, который был разработан, чтобы помешать потенциальным иностранным злоумышленникам поставлять технологии, который затем мог бы внедрить инструменты скрытого наблюдения в более крупный набор технологий, которые можно было бы запретить. Применить это к американской компании, по сути, за наличие политики этики, кажется настоящим злоупотреблением этим инструментом.
Даже этот инструмент был в некотором смысле сомнительным, но вы могли понять стимул, стоящий за ним, когда говорили о китайской сетевой фирме или о чем-то в этом роде. Здесь это не имеет смысла. Таким образом, реакция на это выходит далеко за рамки того, что обычно можно было бы увидеть в этом случае. Традиционно можно было видеть, что будет какое-то судебное дело, и любая сторона может его начать, и это будет просто битва о том, как можно применить контракт.
Но здесь происходит не это. Нынешняя администрация фактически говорит: «Если вы не дадите нам абсолютно все, что мы хотим, если вы не настроите свои инструменты так, чтобы они работали так, как мы хотим, то мы фактически попытаемся разрушить весь ваш бизнес». И это эскалация.
Есть один момент, на котором я хочу закончить, и это своего рода самая галактическая версия этого. FIRE, группа по защите свободы слова, незадолго до того, как мы начали запись, опубликовала сообщение в блоге, в котором утверждала, что принуждение Anthropic к созданию инструментов, которые она не хочет создавать, является нарушением свободы слова, что это то, что называется принуждением к высказыванию. Здесь много истории. Здесь есть какая-то глубокая история Verge и Techdirt, зарослей экзистенциального кризиса.
Но в основном это сводится к идее, что код — это речь, что написание кода для компьютера — это форма речи, и правительство не может заставить вас это делать, и из этого вытекает целая куча вещей. Верите ли вы в тот аргумент, что принуждение Anthropic к созданию инструментов, которые она создавать не хочет, — это вынужденная речь?
Да, я действительно думаю, что это довольно убедительно. Убедительная, вынужденная речь. Но нет, я думаю, что это интересный аргумент. Это тот вопрос, который находился немного дальше в списке вопросов, о которых я думал. Очевидно, я был больше сосредоточен на вопросах Четвертой поправки, но я думаю, что аргумент FIRE не ошибочен. Мы видели это в других контекстах. Это также поднималось в вопросе бэкдоров, когда пытались встроить бэкдоры в зашифрованные системы.
Компании определенно привлекли первыеВ поправке говорится: «Это вынужденная речь, заставляющая нас писать такой код». Это веский аргумент. Опять же, это может быть тот вопрос, который суды, вероятно, будут менее склонны рассматривать на начальном этапе, если они смогут решить эти проблемы каким-либо другим способом. Но я рад, что FIRE опубликовал этот пост, и считаю, что это интересный и убедительный аргумент.
Да, просто природа второй администрации Трампа такова, что это настолько грубый инструмент, что почти наверняка мы будем атаковать все проблемы одновременно.
Да, каждая поправка к Биллю о правах должна быть оспорена в той или иной форме по всем возможным вопросам.
[Смеется] Крутите колесо.
Я уверен, что где-то здесь можно найти нарушение Третьей поправки.
Конечно, да. Клод теперь должен жить в твоем доме. Точно. Это будет здорово. Мы вносим [поправки] первую, третью, четвертую и седьмую. Мы их складываем.
Майк, это было здорово. Не могу поверить, что тебя раньше не было на шоу. Это было здорово. Тебе придется скоро вернуться.
Абсолютно. Всякий раз, когда ты хочешь меня.
Есть вопросы или комментарии по поводу этого эпизода? Свяжитесь с нами по адресу decoder@theverge.com. Мы действительно читаем каждое письмо!
