Сьогодні ми говоримо про заплутану, швидкоплинну ситуацію в Anthropic, виробнику Claude, який зараз опинився в дуже неприємній судовій битві з Пентагоном.
Назад і вперед складно, але станом на кілька днів тому Пентагон вважав Anthropic ризиком для ланцюга поставок, і Anthropic подав позов, оскаржуючи це призначення, заявивши, що уряд порушив свої права за Першою та П’ятою поправками, «прагнучи знищити економічну цінність, створену однією з приватних компаній, що найшвидше розвиваються у світі». Я можу вам сказати прямо зараз: найближчими місяцями ми будемо говорити про перипетії цієї справи на The Verge і тут, на Decoder.
Але сьогодні я хотів зупинитися на одному дуже важливому елементі цієї ситуації, якому не привернуто достатньо уваги, оскільки вона вийшла з-під контролю: як уряд Сполучених Штатів здійснює стеження, законні повноваження, які дозволяють таке стеження, і чому Anthropic не довіряв уряду, який говорив, що він дотримуватиметься закону, коли мова йде про використання ШІ для ще більшого стеження.
Підписалися на Verge, не забувайте, що ви отримуєте ексклюзивний доступ до декодера без реклами, де б ви не отримували подкасти. Голова сюди. Не передплатник? Ви можете зареєструватися тут.
Мій сьогоднішній гість — Майк Маснік, засновник і генеральний директор Techdirt, чудового веб-сайту про технічну політику, який давно працює. Майк десятиліттями пише про надмірні дії уряду, конфіденційність у цифрову епоху та інші пов’язані теми. Він експерт у тому, як Інтернет і держава спостереження виросли взаємопов’язаними способами.
Розумієте, закон говорить про те, що уряд може зробити, коли справа доходить до стеження за нами, а потім те, що уряд хоче зробити. І найголовніше, є те, що уряд каже, що закон може зробити, що часто є прямо протилежним тому, що подумає будь-яка нормальна людина, яка просто читає закон.
У цьому епізоді ви почуєте, як Майк дуже докладно пояснює, що ми не можемо — і не повинні — вірити уряду США на слово, коли мова заходить про стеження. Існує занадто багато історії про те, як державні юристи перекручували тлумачення простих слів, як-от «мішень», щоб розширити стеження складними способами — способами, які зазвичай викликають занепокоєння лише в юридичних колах і виникають лише тоді, коли виникають великі суперечки, як-от основні викриття інформатора Еда Сноудена АНБ більше десяти років тому.
Але в епоху Трампа в розробці політики немає нічого тонкого чи витонченого — і тому з Anthropic ми ведемо дуже гучні, дуже публічні дебати про технології та стеження в режимі реального часу, в Інтернеті, у дописах у блогах і висловлюваннях, а також у фрагментах прес-конференцій. У цьому є як позитивні, так і негативні сторони, але щоб зрозуміти все це, вам справді потрібно знати історію.
Це те, що ми з Майком збираємося пояснити в цьому епізоді — якими б не були ваші погляди на штучний інтелект та уряд, у цьому епізоді стане ясно, що обидві сторони дозволили державі стеження ставати все більшою і більшою з часом. Зараз ми знаходимося на порозі найбільшого розширення, коли справа доходить до ШІ.
Гаразд: засновник і генеральний директор Techdirt Майк Маснік про Anthropic, Пентагон і стеження зі штучним інтелектом. Ось і ми.
Це інтерв’ю було дещо відредаговано для тривалості та ясності.
Майк Масник, ви засновник і генеральний директор Techdirt. Ласкаво просимо в Decoder.
Я радий бути тут.
Я радий, що ти з нами. Я просто сказав, що я шокований тим, що ви ніколи раніше не були на шоу. Ми з тобою давно писали та писали один одному. Велика частина висвітлення політики The Verge пов’язана з тим, що ви зробили в Techdirt, а те, що відбувається з Anthropic, настільки складне, але стосується багатьох тем, які ви так довго висвітлювали. Я радий, що ти нарешті тут.
Це складна тема, але я радий заглибитися в неї.
Те, на чому я хочу зосередитися з вами, це не деталі того, чи збирається Anthropic підписати контракт з урядом, чи OpenAI збирається отримати цей контракт. Натомість я впевнений, що між тим часом, коли ми записаємо це, і тим часом, коли люди це прослухають, з’явиться більше твітів і більше речей зміниться, ніж було раніше.
Те, на чому я хочу зосередитися, це лише одна з двох червоних ліній, які насправді проклав Anthropic. Один із нихавтономне озброєння, яке є власним рівнем складності. Там закон ще дещо зароджується, незалежно від того, чи існує зброя чи вона вже була використана Росією під час війни в Україні.
Тут є багато ідей, які я просто хочу залишити вбік, тому що я думаю, що це стане більш зосередженим на власному розкладі. Інша червона лінія, якій я хочу приділити багато часу, – це масове стеження. І тут є чимало законів про масове стеження. Тут багато історії, багато суперечливої історії. Весь характер Едварда Сноудена існує через суперечки навколо масового стеження.
Все зводиться до — я думаю, це ви опублікували це — до Агентства національної безпеки (АНБ), яке є частиною Міністерства оборони, яке ми тепер чомусь маємо називати Військовим департаментом.
[Сміється] Нам нічого не потрібно робити.
[Сміється] Ми ні. Це правда тут, в Америці. Нам нічого не потрібно робити. Але АНБ фактично змінило значення багатьох слів з розмовної англійської мови на «ми можемо просто стежити». І потім час від часу виникає скандал, коли люди виявляють, що вони просто стежать. Тож просто створіть основу, і я не хочу повертати вас до кінця, але минуло досить багато часу, коли ця модель повторювалася.
Це залежить від того, наскільки глибоко ви хочете заглибитися, але коротка версія, очевидно, стосується світу після 9/11, США прийняли Патріотичний акт, який мав певну можливість для уряду брати участь у нагляді, який мав бути для захисту нас від майбутніх терористичних загроз. З часом це було цікаво інтерпретовано, і на це були певні обмеження. У нас також був суд FISA, який є спеціальним судом, який має переглядати розвідувальну спільноту та їх діяльність, але традиційно був одностороннім судом. Лише одна сторона може подати свою справу в цьому суді, і все це робиться таємно.
Є багато речей, які не були відомі. Крім того, у всьому цьому була ще одна частина, яка сягає аж до Рональда Рейгана, а це виконавчий наказ 12333, який нібито містить правила дорожнього руху для збору розвідданих.
Отже, у вас є ці три набори законів — ну, кілька наборів законів — і виконавчий наказ, який для громадськості, ті частини, які ви можете прочитати, здається, говорять певні речі про те, що наш уряд і АНБ зокрема можуть робити щодо спостереження. Якщо прочитати звичайний англійський словник, природу якого ми з вами, напевно, маємо і розуміємо, ми подумаємо, що здатність АНБ стежити за американцями була дуже обмежена, фактично настільки, що вони повинні, якщо вони розуміють, що вони стежать за громадянами США, що вони повинні негайно зупинитися, кричати, стерти дані та всі інші речі.
Деякий час ходили чутки, що це насправді не відбувається, і були натяки, зокрема сенатор Рон Вайден дуже голосно висловлювався про те, щоб вийти в Сенат і сказати: «Тут щось не так, і я не можу вам точно сказати, що», або під час слухань він запитував представників розвідки: «Ви збираєте чи ні масові дані про американців?»
Ці посадовці або відхиляли, або в деяких випадках відверто брехали. Я вважаю, що це було одне слухання у 2012 році з Джеймсом Клеппером, який на той час був директором національної розвідки, де його запитали прямо про це. І він фактично сказав: «Ні, ми не збираємо дані про американців». Це була велика частина того, що надихнуло Еда Сноудена на витік даних, а також звіти, які він передав Гленну Грінвальду, Бартону Геллману та Лорі Пойтрас. З усього цього ми з’ясували, що АНБ має свій власний словник, який дещо відрізняється від словника, яким ми з вами користуємося, таким чином, що вони можуть тлумачити слова способами, відмінними від їхнього простого англійського значення, включаючи такі слова, як «ціль», яке здається ключовим словом. Широке розуміння того, що це таке, полягає в тому, що теоретично вони повинні націлюватися лише на людей, які не є громадянами США, я думаю, це фраза.
Але те, як це було інтерпретовано з часом, полягало в тому, що все, що згадує цю особу, все, що стосується іноземної особи, тепер є чесною грою, навіть якщо це повідомленняособа США. Тож якщо ми з вами напишемо одне одному повідомлення та згадаємо про іноземну особу, тепер для АНБ буде чесна гра збирати, зберігати та зберігати.
Є друга частина цього. Я згадав перший виконавчий наказ 12333 від Рональда Рейгана, який у міру того, як з часом змінилися технології та розширився Інтернет, фактично дозволив АНБ підключатися до іноземних комунікацій, але це включало будь-які комунікації, які могли кудись залишити США. Отже, якщо я надсилаю вам текстове повідомлення, а повідомлення надійшло від мене з Каліфорнії через волоконно-оптичний кабель, який випадково вийшов із США, АНБ може встановити кран у тій частині, щойно вона опиниться за межами США, і зібрати цю інформацію, навіть якщо вона прямуватиме до вас у межах США.
Тоді АНБ могло зберегти цю інформацію, навіть якщо вона стосувалася американських громадян, і згодом вони могли проводити певні пошуки щодо неї, іноді це називають «чорними обшуками». Вони зібрали цю інформацію, яку, на нашу думку, вони не повинні були збирати, але вони могли її зберегти. І вони пообіцяли, вони поклялися, що збережуть це в таємниці, але якщо вони проведуть пошук і виявлять, що ви чи я згадуєте іноземну особу, то раптом для них буде чесна гра робити з цим усе, що їм заманеться.
Загалом це перетворилося на світ, у якому федеральний уряд може фактично збирати будь-яку інформацію, яка трапляється за межами США. Навіть якщо це повністю між двома американськими громадянами, якщо вони згадують або навіть натякають на когось, хто не є американським громадянином, раптом це чесна гра. І з цього ми отримали те, що виглядає як форма масового стеження за громадянами США з боку АНБ, яка стверджує та публічно заявляє, що не шпигує за громадянами США.
Як ми дійшли до цього моменту? Це багато поступових дитячих кроків. Ви згадали Джеймса Клеппера в 2012 році, це була адміністрація Обами. Ви згадали Рональда Рейгана, це 1980-ті роки. Ми тут проходимо через демократів і республіканців.
Війна з терором відбулася в адміністрації Джорджа Буша, а 11 вересня і Патріотичний акт відбулися в адміністрації Джорджа Буша. Є багато наростаючих поганих речей за президентів обох партій, за з’їздів обох партій. Як це сталося?
Найпростіша форма полягає в тому, що ніхто, і точно жоден президент, не хоче бути президентом під час великої терористичної атаки, тому що це робить їх поганими. Очевидно, вони також хочуть захистити американців, чи не так? Це частина їхньої роботи. Якщо у вас є розвідувальна спільнота, яка в основному працює в темряві, тому що це те, що розвідувальні спільноти роблять, і вони постійно приходять до вас і кажуть: «Гей, якби ми просто змогли отримати доступ до цієї інформації, це було б справді корисно для запобігання терористичному нападу».
Можуть бути випадки, коли це правда, що розвідувальне співтовариство може використовувати цю інформацію у спосіб, який працює добре. Але теоретично ми також є суспільством законів із Конституцією США, якої ми маємо підкорятися. Але це враховувало той факт, що адміністрація за адміністрацією, знову ж таки, республіканець і демократ, мали дуже розумних юристів, які проглядали й казали: «Ну, якщо ми маємо таку позицію, або ми так заявляємо, чи ми це тлумачимо, таким чином ми можемо отримати те, що хочемо, і технічно не порушувати закон чи технічно не порушувати Четверту поправку».
Припущення завжди полягало в тому, що «ми можемо змінити закон чи своє тлумачення закону, і ніхто ніколи цього не побачить, або ніхто, кому це не байдуже, ніколи цього не побачить, і тому ми зійдемо з рук».
Є дві речі, які мене справді вражають. По-перше, ми з вами читаємо багато судових рішень — рішень апеляційних судів і рішень Верховного суду. І в нашому Верховному суді точиться боротьба про те, як буквально тлумачити слова в наших статутах і законах.
Я не буду надто глибоко заглиблюватися в це, але я б сказав, що загалом ідея про те, що ви повинні просто прочитати слова на сторінці та робити те, що вони говорять, є домінуючою тенденцією тлумачення законів у Сполучених Штатах. Ліворуч чи праворуч, обидва кажуть. Вони сперечаються про деякі дуже езотеричні тонкощі того, що це насправді означає. Але те, що ви просто повинні вміти читати ці слова і робити те, що вони говорять, це не для захоплення, чи не так?
Ми приземлилися принаймні на перший прохід того, що ви можетеназивають текстуалізмом. Як юристам обох адміністрацій так далеко відійти від домінуючого в нашій країні способу прийняття правових рішень? Судді обох сторін погоджуються, що це принаймні перший крок.
Мені б хотілося знати точну відповідь, але я думаю, що це вмотивовані міркування, чи не так? Як юрист, ви тут, щоб захищати свого клієнта, і успіх — якщо це можна назвати успіхом — нашої правової системи, як правило, ґрунтується на наявності змагальної ситуації, коли різні сторони сперечаються з приводу цих речей, де роль судді полягає в тому, щоб звузити коло й визначити, яка сторона насправді права.
Одна з проблем розвідувального співтовариства та його організації полягає в тому, що у вас немає такої ворожої ситуації. Це полегшує одній стороні виправдання аргументів, які вони висувають, тому що насправді ніхто не відмовляється від них. Ви поєднуєте це з головним страхом перед новим терористичним нападом, будь-чим, що пов’язано з національною безпекою, і навіть коли у вас є ситуації, коли у вас є суд FISA — я маю на увазі, що суд FISA був певною мірою відомий тим, що фактично був штампом протягом багатьох років.
Я забув точні цифри, але приблизно 99 відсотків заявок, які надійшли до суду FISA, щоб дозволити стеження за певними ситуаціями, були задоволені, і легко сказати, що 99 відсотків, очевидно, забагато. Очевидно, що ті, хто подає позови до суду, вони обирають. Вони, здебільшого, не висувають абсолютно божевільних претензій. Але без цього ворожого аспекту та з дуже сильно вмотивованою групою людей, які думають: «Нам потрібно це зробити» або яким адміністрація каже: «Нам потрібно це зробити», вони знайдуть способи це зробити. І ось де ви з часом потрапляєте.
Чи був хтось, залучений до цього процесу, хто коли-небудь прокидався і казав собі: «Хлопче, нам вдалося змінити визначення слова «мішень» на те, що ми хочемо»?
[Сміється] Очевидно, у вас був Ед Сноуден, який оприлюднив купу документів. У вас був Джон Нейпір Тай, який написав статтю для The Washington Post у 2014 році, в якій розкрив тлумачення виконавчого наказу 12333 і сказав, що це справжня проблема, на яку варто звернути увагу. У вас є інші люди, які говорили про ці речі, але здебільшого люди, які беруть участь у роботі в адміністрації над справами розвідувального співтовариства, підкуплені думкою розвідувального співтовариства, яка полягає в тому, що головною метою є захист країни від чогось поганого. Найкращий спосіб зробити це – мати якомога більше інформації.
Легко з розумінням поставитися до аргументу, що, так, наявність додаткової інформації може дозволити їм уловити щось раніше або знайти щось важливе, але, по-перше, це може бути неправдою. Отримувати занадто багато інформації, ймовірно, так само погано, як і занадто мало, тому що це часто може приховати інформацію, яка насправді корисна, інформація, яка вам справді потрібна, щоб щось визначити.
Але також у нас є США. По-перше, Конституція, і ми маємо причини, чому, теоретично, ми не повинні дозволяти масове стеження без вагомої причини. Як країна, яка вірить у верховенство права, ми повинні бути в змозі жити відповідно до цього, і коли все це відбувається в темряві, ви будете схильні втрачати це з поля зору.
Це підводить мене до Anthropic. Anthropic – це насамперед корпоративна компанія. Вони добре справляються з урядом, вони наростили м’язи, у них працюють люди, які справді добре розбираються в деяких із цих речей. Очевидно, вони подивилися на Піта Хегсета, який сказав: "Ми хочемо використовувати всі законні", і вони пішли на два рівні тлумачення нижче і сказали: "Ну, ви буквально переконані, що ці слова не означають того, що вони кажуть, що означають на їхньому обличчі. Отже, "усі законні використання" є занадто великим, і ми хочемо поставити певні огорожі, зокрема, навколо масового спостереження".
Знову ж таки, я збираюся вивести за дужки автономну зброю, яка була іншою червоною лінією, але, зокрема, щодо масового спостереження, Даріо Амодей там каже: "Ми можемо зробити занадто багато. Це занадто небезпечно. Це порушення Четвертої поправки".
Напруга полягає в тому, що «ти кажеш, що будеш виконувати ці закони, які говорять одне, а тепер, після стільки часу, вони означають зовсім інше, і ми просто не хочемо бути частиною цього». Це теборотися. Я просто хочу порівняти це з Семом Олтманом, який каже: «Ми будемо використовувати все законно», а потім публікує таке довге повідомлення: «Ось усі закони, яких ми збираємося дотримуватися».
Схоже, що Альтман не знав, як АНБ переосмислило ці речі, і його начебто захопили. І з тих пір він почав це повертати — навіть коли ми записуємо, я впевнений, що є більше твітів і позиції всіх змінилися. Але Альтман повертався до цього повільно, але схоже, що OpenAI був змушений прочитати статути на їхніх обличчях і повірити тому, що вони сказали. Це також ваша інтерпретація подій?
Є дві можливості, і це одна з них. Одна з них полягає в тому, що його грали так само, як і публіку протягом багатьох років. Альтернативна теорія, і я не знаю, яка з них правдива, полягає в тому, що він або деякі юристи OpenAI — які, на мою думку, є дуже компетентними та обізнаними — знали це, але думали, що вони можуть грати в ту саму гру, у яку грало АНБ кілька десятиліть, тобто якщо вони говорять ці речі, а потім говорять слова, але вони не розкривають фактичних інтерпретацій, вони також можуть зійти з рук. Тож Сем виступає із заявою, яка виглядає так: «У нас були ті самі червоні лінії, що й у Anthropic, і уряду це було чудово».
Насправді, я думаю, Сем Альтман сказав, що у Anthropic було дві червоні лінії, а у OpenAI – три, і уряду це було цілком нормально, і це змусило багатьох людей чухати голови. Але я думаю, що або Сем Олтман і ті, хто його оточував, не розуміли, як ці речі працюють на практиці, або вони розуміли, і вони просто припускали, що громадськість не знатиме, і тому їм це може зійти з рук.
Інша річ, яка спадає на думку, знову ж таки, штучний інтелект є новим і дуже спокусливо прийти до нових технологій, оскільки це проблеми першого враження. «Нікому раніше про це не доводилося думати», але насправді всі думали про це протягом тривалого часу. Можливо, новинка тут не полягає в штучному інтелекті, а в тому, що друга адміністрація Трампа замість того, щоб займатися купою адвокатів, які, можливо, ніхто ніколи не читатиме, щоб виправдати свої дії перед таємним судом, на який ніхто не звертає уваги, натомість просто не така хитра.
Вони не такі досвідчені, і вони просто кажуть, що будуть постійно шпигувати за всіма. Вони просто оголосили про свої наміри таким чином, що, можливо, всі адміністрації повинні просто оголосити про свої наміри та подивитися, куди впадуть фішки.
Але я дивлюся на той факт, що тут, у Нью-Йорку, був Ед Сноуден. AT&T керує будівлею, про яку всі знають, що це будівля АНБ. Це просто гігантська будівля, і ми маємо вдавати, що це не центр спостереження АНБ, але воно тут же. Це величезне. Здається, нічого з цього не вийшло. Усі ці викриття, ці витоки, ми не відмовилися від цього.
Насправді це лише зросло, оскільки велика частина нашого життя стає все більш цифровою. І, можливо, адміністрація Трампа завжди була таким грубим інструментом, що насправді могло стати причиною розрахунків. Ви все одно бачите, що це грає?
Там є кілька різних речей, і це не зовсім правда, що ми взагалі не відмовлялися від цього. Викриття Сноудена дійсно призвели до деяких змін у тому, як ці речі відбуваються. І зараз є — я забув, як їх називають, але вони схожі на цих цивільних amicus у суді FISA, які виступають як представники іншої сторони з певних питань.
І ми бачили, як деякі повноваження були обмежені певним чином, і вони час від часу вимагали повторного дозволу, і активісти дуже агресивно відштовхувались і намагалися поставити ще кілька огорож. Але щодо більшого питання, я думаю, що є дві різні речі. Ви наполовину праві в тому, що ця адміністрація не хитра і просто говорить вголос те, чого не повинна.
"Ми в стані війни з Іраном, ми це робимо, це відбувається. Ми навіть не збираємося пробувати танцювати".
Так, як не робили б усі попередні адміністрації. Але насправді вони не сказали про це прямостеження, особливо стеження за американцями. Були натяки на це, але вони не висловлювалися настільки сильно. Інша половина цього пов’язана більше з позиціонуванням Anthropic і загальним поглядом на штучний інтелект як на цю, можливо, екзистенціальну технологію, де Anthropic завжди представляв себе як «ми вдумливі хороші хлопці», і чи вірите ви в це, не має значення. У них така репутація: «Ми намагаємося робити це безпечно, поважаючи людство та звертаючи увагу на всі ці речі». І тому, коли ви маєте таке зіткнення, саме тут і починається боротьба.
У вас є адміністрація Трампа, яка просто хоче мати можливість робити все, що їй заманеться, і вони не хитрі в цьому. А потім у вас є Anthropic, чий самоопис і його публічна персона завжди такі: «Ми уважні, ми поважаємо людство, права та все це». Ймовірно, тут і виникла суперечка, оскільки Anthropic, як було зрозуміло, деякий час працювала з Міністерством оборони та має багато інших контрактів з урядом, якими вона користувалася. Це не було проблемою.
Лише в тих конкретних сферах, де, оскільки уряд намагався розширити контракт, який він мав, вище керівництво Anthropic почало говорити: «Зачекайте, ми повинні переконатися, що ми не перетинаємо ці червоні лінії, які потенційно можуть зашкодити нашій репутації продуманого та безпечного постачальника ШІ».
Я хочу коротко запитати вас про стеження загалом, і зокрема про четверту поправку Anthropic. Четверта поправка говорить, що уряд не може безпідставно обшукувати вас. Найкращий спосіб зрозуміти Четверту поправку – послухати «99 проблем» Джей-Зі. Тож якщо вам потрібно зробити перерву та піти послухати «99 Problems», це чудово. Це все там. Я слухав це, коли навчався на юридичному факультеті, і це мало сенс.
Але уряду зазвичай потрібен ордер на ваш обшук. І оскільки все більше і більше вашого життя відбувається в Інтернеті, є багато-багато винятків. Але ідея полягає в тому, що їм все одно потрібен ордер онлайн. Аргумент Anthropic такий: "Що ж, штучний інтелект ніколи не втомиться. Він може весь час шукати все. Це означає, що ми просто збираємося робити майстерне спостереження".
Але ще до того, як з’явився штучний інтелект, існувала ідея, що уряд може обшукати все, що вам належить, ідея, що уряду не потрібен ордер на обшук усіх ваших речей. Ідея про те, що якщо будь-які ваші дані на короткий час виходили за межі країни, уряд перехоплював їх там,
Коли я навчався в коледжі, приблизно за часів патріотичного акту, дискусія полягала в тому, що вони не збираються шукати ваші фактичні дані, але вони можуть отримати метадані та лише метадані. Даних про ваші дані буде достатньо, щоб точно визначити ваше місцезнаходження в будь-який час. І навіть це надто далеко. І ми танцювали, що може зібрати уряд? Що допустимо? Що їм потрібно, щоб убезпечити нас усіх, а що занадто далеко? Ці рядки перемістилися.
Тож коротко опишіть загальне занепокоєння щодо стеження в масштабах і де ми зараз знаходимося. До того, як ситуація зі штучним інтелектом експоненціально ускладнювала ситуацію.
Тут я маю представити іншу концепцію, яку, ймовірно, слід було згадати раніше, але вона важлива, яка називається «доктрина третьої сторони». Ідея Четвертої поправки полягає в тому, що уряд не може обшукати вас або ваші речі без ордера, і він не може отримати ордер без ймовірної причини того, що ви вчинили якийсь злочин. Але існує така концепція, яка з’явилася кілька десятиліть тому під назвою доктрина третьої сторони, яка говорить, що це не обов’язково застосовується або взагалі не застосовується до речей, які не є вашими, навіть якщо це ваші дані.
Найпершою та найочевиднішою версією цього були телефонні записи, які телефонна компанія мала про те, кому ви телефонували. Телефонні компанії не записували ваші дзвінки, але вони записували, якби я вам зателефонував, у телефонній компанії був би запис із написом: «Майк дзвонить Нілаю». Кілька судів вирішували, що уряд може піти і вимагати цього, і їм не потрібен ордер на це, оскільки це не обшукваші дані, це третя сторона, і вони можуть погодитися як третя сторона просто передати ці дані.
Але це були випадки з 1960-х і 70-х років, коли було встановлено, що уряд може отримати доступ до цього без ордера, коли там не було так багато сторонніх даних. Зростання комп’ютерів та Інтернету це змінило. Тепер все є сторонніми даними. Все, що ми робимо, десь збирається якоюсь компанією та реєструється. Таким чином, в основному всі дані про вас, де ви перебуваєте, з ким розмовляєте, з ким взаємодієте, що ви говорите, що ви робите, все це майже зберігається третіми сторонами в наші дні. Отже, доктрина третьої сторони певною мірою проковтнула всю Четверту поправку, де все, що стосується вас і є у когось іншого, є набагато нижчий стандарт щодо того, що уряд може зробити, щоб вимагати цього.
Якщо бути конкретним, це означає, що коли мої дані знаходяться в iCloud, уряд може звернутися до Apple і отримати мої дані з iCloud, не повідомляючи мені?
Вони можуть це вимагати. Вони можуть запросити це без ордера. Тоді компанія має власні права та може визначити, що вона хоче робити з цим запитом. Вони можуть просто відмовитися від цього. Вони можуть, як більшість з них зробить, якщо це серйозний запит, відхилити запити відразу, або вони можуть попередити вас і вони можуть сказати — і це те, що більшість з них зробить — вони попередять вас і скажуть: "Уряд запитує деякі ваші дані. Ви можете звернутися до суду та спробувати їх заблокувати". Якщо ні, вони передадуть ваші дані через сім днів або будь-що інше.
Знову ж таки, це залежить. Якщо це кримінальне розслідування, то може бути якийсь припис, про який компанія не має права повідомляти вам. Існують різноманітні ситуації, але більшість із них передбачає рівень захисту, нижчий за рівень захисту, який вимагав би Четверта поправка, якщо це були дані, будь-яка інформація чи щось у вашому власному домі.
Обсяг даних, який ви маєте на чужому хмарному сервері, величезний, чи не так? Усе, що ви зараз зазвичай робите в Інтернеті, певним чином зберігається або записується на чиїсь сервери. Уряд знайшов такий спосіб обійти Четверту поправку і сказати: "Ну, це насправді не ваше. Це належить Amazon. Ми можемо піти поговорити з Amazon", і Amazon має стояти в центрі цього процесу і говорити: "Ми винайшли інший процес, щоб дещо захистити людей".
Я дивлюся на це — і коли я висвітлював перші випадки доктрин сторонніх розробників, які охоплювали хмарні сервіси, і уряд продовжував перемагати, саме тоді я перетворився на Джокера. Я подумав: «Усі ці речі, які ми прикидаємо про текстуалізм і звичайне [читання], нічого з цього не означає, тому що ми просто використовуємо цей стародавній закон у даних кожного».
Потім я дивлюся на це, я дивлюся на Anthropic і кажу: «Ну, це той самий шаблон». Це приватна компанія, яка каже: "Гаразд, ми розуміємо вашу позицію. Ми розуміємо, що ви перетлумачили закон, щоб означати це, і ми збираємося встановити певний процес між вами, нашим інструментом і даними американців, які проходять через наш сервіс". Мені просто цікаво, чи бачите ви ту паралель між Anthropic, Amazon і Azure та будь-якими іншими хмарними сервісами, які зберігають так багато наших даних.
Так, хоча тут є кілька важливих уточнень, які роблять це дещо іншим. І насправді — я думаю, що The New York Times опублікувала цю інформацію першою — головне положення, яке було найважливішим для Anthropic, стосувалося саме даних, зібраних із комерційних служб, і неможливості використовувати Claude для цих даних, що є саме цією проблемою з точки зору даних третіх сторін. Але я хочу пояснити головну різницю між тим, про що ми щойно говорили до цього, з Amazon або іншими третіми сторонами, які розміщували ваші дані, це були випадки, коли вони, через те, де вони сидять в екосистемі, вони розміщували ваші дані безпосередньо.
Що стосується Клода, це не те, що хтось хвилюється про те, що АНБ переглядає ваше використання Клода. Йдеться про те, що вони виходять і отримують дані третіх сторін від Amazon або, швидше за все, від прихованих брокерів даних, які показують рекламу на ваших телефонах і знають ваше місцезнаходження, ваші інтереси тощо. А потім подати це в системунад якою потім працюватиме Клод. Це те, у чому Anthropic дійсно не хотів брати участь. Тож незалежно від того, де чи як би уряд збирав ці дані від третьої сторони, Anthropic сказав: «Ми не хочемо, щоб наш інструмент використовувався для цих даних».
Відомо, що Apple протистоїть ФБР, просячи його встановити бекдор в iPhone, і Apple каже «ні», і вони протистоять Трампу. І є частина того, як працює наша система, у якій великі приватні компанії можуть сказати «ні» уряду від імені своїх клієнтів. І це відчувалося так само, як Apple, знову ж таки, не буде робити бекдор на iPhone, або великі хмарні провайдери кажуть: «Є невеликий процес, який потрібно пройти, перш ніж отримати індивідуальні дані».
Здається, що Anthropic каже: «Ми не збираємося просто проводити масовий аналіз даних, які ви отримали від інших сторін, оскільки це призводить до цілодобового масового стеження за американцями, і ми не хочемо цього робити». Але це здається занадто далеким мостом для цієї адміністрації. Чи є від цього повернення?
Побачимо. У минулому, коли це траплялося — і це траплялося багато разів з більшістю великих технологічних компаній, у якийсь момент вони казали, що щось є надто далеким мостом — зазвичай це відбувається в суді. Компанії підуть до суду або адміністрація піде до суду і буде якась судова тяганина.
Бэкдор в iPhone є прекрасним прикладом цього. Справа дійшла до суду, і вони боролися з нею, хоча так і не дійшли остаточного висновку, оскільки ФБР зрештою просто вручну зламало iPhone і не хотіло, щоб рішення суду зруйнувало це в майбутньому.
Але в цьому випадку де ескалація і де це відрізняється від тих минулих ситуацій полягає в тому, що замість того, щоб просто звернутись до суду, адміністрація Трампа зробила таку назву «ризик ланцюжка поставок», що просто божевільно. Ця ідея, що цей інструмент, який був розроблений, щоб зупинити потенційних іноземних зловмисників у постачанні технологій, які потім могли б додати приховані інструменти стеження до більшого стеку технологій, які можна заборонити. Застосувати це до американської компанії лише за те, що вона має політику етики, виглядає як реальне, справжнє зловживання цим інструментом.
Навіть цей інструмент був у певному сенсі сумнівним, але ви могли б зрозуміти, який поштовх стоїть за ним, коли ви говорите про китайську мережеву компанію чи щось у цьому роді. Тут немає сенсу. Тож реакція на це виходить далеко за межі звичайної в цьому випадку. Ви могли бачити, що традиційно буде якась судова справа, і будь-яка сторона може почати її, і це буде просто битва про те, як можна застосувати контракт.
Але це не те, що тут відбувається. Ця адміністрація фактично каже: «Якщо ви не дасте нам абсолютно все, що ми хочемо, якщо ви не налаштуєте свої інструменти, щоб вони працювали так, як ми хочемо, щоб вони працювали, тоді ми фактично спробуємо знищити весь ваш бізнес». І це ескалація.
Є одна частина цього, на якій я хочу закінчити, і це начебто найбільш галактично-мозкова версія цього. FIRE, яка є групою захисту свободи слова, опублікувала допис у блозі безпосередньо перед тим, як ми почали записувати, висуваючи аргумент, що примушування Anthropic створювати інструменти, які вона не хоче створювати, є порушенням свободи слова, що це те, що називається примусовою промовою. Тут багато історії. Тут є якась глибока історія Verge та Techdirt, in-the-weed, екзистенціальна криза.
Але в основному це зводиться до ідеї, що код – це мова, що написання коду для комп’ютера – це форма мови, і уряд не може змусити вас це робити, і з цього випливає ціла купа речей. Чи погоджуєтесь ви з аргументом, що змушувати Anthropic створювати інструменти, які він не хоче створювати, є вимушеною промовою?
Так, я насправді думаю, що це досить переконливо. Переконлива вимушена мова. Але ні, я думаю, що це цікавий аргумент. Це те, що було трохи далі в списку проблем, про які я думав. Очевидно, я більше зосереджувався на питаннях Четвертої поправки, але я вважаю, що аргумент FIRE не є хибним. Ми бачили це в інших контекстах. Це також виникло в проблемі бекдорів, коли намагалися вбудувати бекдори в зашифровані системи.
Компанії однозначно підняли першіПоправка стверджує: «Це вимушена мова, щоб змусити нас написати такий код». Це вагомий аргумент. Знову ж таки, суди, мабуть, менш охоче братимуться до розгляду, якщо вони зможуть вирішити ці проблеми іншим способом. Але я радий, що FIRE опублікував цей пост, і я вважаю, що це цікавий і переконливий аргумент.
Так, природа другої адміністрації Трампа полягає в тому, що це такий грубий інструмент, що майже впевнений, що ми будемо атакувати всі проблеми одночасно.
Так, кожну поправку до Білля про права потрібно оскаржити в тій чи іншій формі з усіма можливими проблемами.
[Сміється] Крути колесо.
Я впевнений, що ми можемо вписати порушення Третьої поправки десь тут.
Звичайно, так. Клод тепер повинен жити у вашому домі. точно. Це буде чудово. Ми вносимо [поправки] 1, 3, 4 і 7. Ми збираємо їх.
Майк, це було чудово. Я не можу повірити, що ти раніше не був на шоу. Це було чудово. Ви маєте швидше повернутися.
Абсолютно. Щоразу, коли ти хочеш мене.
Запитання чи коментарі щодо цього епізоду? Зверніться до нас за адресою decoder@theverge.com. Ми дійсно читаємо кожен електронний лист!
