Днес говорим за обърканата, бързо развиваща се ситуация в Anthropic, производителят на Claude, който сега се намира в много грозна правна битка с Пентагона.
Обратно-назад е сложно, но преди няколко дни Пентагонът счете Anthropic за риск за веригата за доставки и Anthropic заведе дело, оспорвайки това определяне, заявявайки, че правителството е нарушило правата му по Първата и Петата поправка, като „се стреми да унищожи икономическата стойност, създадена от една от най-бързо развиващите се частни компании в света“. Мога да ви кажа веднага: ще говорим за обратите и обратите на този случай в The Verge и тук в Decoder през идните месеци.
Но днес исках да отделя малко време и наистина да разгледам един много важен елемент от тази ситуация, на който не беше обърнато достатъчно внимание, тъй като това излезе извън контрол: как правителството на Съединените щати извършва наблюдение, законовите органи, които позволяват това наблюдение, и защо Anthropic не вярваше на правителството, казвайки, че ще следва закона, когато става въпрос за използване на AI за още по-голямо наблюдение.
Абонати на Verge, не забравяйте, че получавате ексклузивен достъп до декодер без реклами, където и да получавате своите подкасти. Тръгнете тук. Не сте абонат? Можете да се запишете тук.
Моят гост днес е Майк Масник, основателят и главен изпълнителен директор на Techdirt, отличният и дълготраен уебсайт за технологична политика. Майк пише за прекомерни действия на правителството, неприкосновеност на личния живот в дигиталната ера и други свързани теми от десетилетия. Той е експерт по това как интернет и държавата за наблюдение са израснали по взаимосвързани начини.
Виждате ли, има какво законът казва, че правителството може да направи, когато става въпрос за наблюдението ни, и след това какво правителството иска да направи. И най-важното, има това, което правителството казва, че законът казва, че може да направи, което често е точно обратното на това, което всеки нормален човек, който просто чете закона, би си помислил.
Тук в този епизод ще чуете Майк да обяснява много подробно, че не можем — и не трябва — да вярваме на думата на правителството на САЩ, когато става въпрос за наблюдение. Има твърде много история на правителствени адвокати, които изкривяват тълкуванията на прости думи като „мишена“, за да разширят наблюдението по сложни начини – начини, които обикновено предизвикват безпокойство само в правните кръгове и избухват само когато има огромни противоречия като големите разкрития на разобличителя Ед Сноудън от NSA преди повече от десетилетие.
Но няма нищо фино или сложно в правенето на политики в ерата на Тръмп – и така с Anthropic имаме много силен, много публичен дебат относно технологиите и наблюдението в реално време, в интернет, в публикации в блогове и X-изказвания, и по време на звукови откъси от пресконференции. Има положителни и отрицателни страни в това, но за да разберете всичко това, наистина трябва да знаете историята.
Това е, което Майк и аз се заехме да обясним в този епизод - каквито и да са вашите възгледи за ИИ и правителството, този епизод ще изясни, че и двете страни са позволили състоянието на наблюдение да става все по-голямо и по-голямо с течение на времето. Сега сме на прага на най-голямата експанзия досега, когато става дума за AI.
Добре: Основателят и главен изпълнителен директор на Techdirt Майк Масник за Anthropic, Пентагона и наблюдението на AI. Ето го.
Това интервю е леко редактирано за дължина и яснота.
Майк Масник, вие сте основател и главен изпълнителен директор на Techdirt. Добре дошли в Decoder.
Радвам се, че съм тук.
Вълнувам се да те имам. Просто казвах, че съм шокиран, че никога преди не сте участвали в шоуто. Ти и аз си пишем и публикуваме от доста време. Голяма част от покритието на правилата на The Verge се дължи на това, което сте направили в Techdirt, а това, което се случва с Anthropic, е толкова сложно, но засяга толкова много теми, които сте покривали толкова дълго. Радвам се, че най-накрая си тук.
Това е сложна бъркотия от тема, но съм развълнуван да се заровя по нея.
Това, върху което искам да се съсредоточа с вас, не са подробностите дали Anthropic ще подпише договор с правителството или дали OpenAI ще получи този договор. Вместо това съм убеден, че между времето, когато запишем това и времето, когато хората го слушат, ще има повече туитове и повече неща ще бъдат различни от преди.
Това, върху което искам да се съсредоточа, е само една от двете червени линии, които Anthropic наистина е поставил. Един от тях еавтономни оръжия, което е собствено ниво на усложнение. Законът там е малко по-зараждащ се, независимо дали оръжията изобщо съществуват или вече са били разположени от Русия във войната в Украйна.
Тук има много идеи, които просто искам да оставя настрана, защото смятам, че ще се съсредоточат повече върху собствения си график. Другата червена линия, на която искам да отделя много време, е масовото наблюдение. И тук има доста закони относно масовото наблюдение. Има много история, много противоречива история. Целият характер на Едуард Сноудън съществува поради противоречията около масовото наблюдение.
Всичко се свежда до — мисля, че вие сте този, който е публикувал това — Агенцията за национална сигурност (NSA), която е част от Министерството на отбраната, което сега трябва да наричаме Министерство на войната по някаква причина.
[Смее се] Не трябва да правим нищо.
[Смее се] Ние не го правим. Това е вярно тук, в Америка. Не трябва да правим нищо. Но NSA основно предефинира значението на много думи от разговорния английски, за да означава „Ние можем просто да извършваме наблюдение“. И тогава от време на време има скандал, когато хората открият, че просто извършват наблюдение. Така че просто подгответе сцената и не искам да ви връщам назад докрай, но измина доста време, когато този модел се повтаря.
Зависи колко дълбоко искате да отидете, но кратката версия очевидно е в света след 11 септември, САЩ приеха Патриотичния акт, който имаше известна възможност за правителството да се ангажира с наблюдение, което трябваше да бъде за защита срещу бъдещи терористични заплахи. С течение на времето това беше интерпретирано по интересни начини и имаше някои ограничения за това. Имахме и съд FISA, който е специален съд, който трябва да преглежда разузнавателната общност и техните дейности, но традиционно е бил едностранен съд. Само една страна може да пледира своя случай пред този съд и всичко се прави тайно.
Има много неща, които не са били известни. И тогава имаше още една част от всичко това, която се връща чак до Роналд Рейгън, която е Изпълнителна заповед 12333, която се предполага, че определя правилата за събиране на разузнавателна информация.
Така че имате тези три набора от закони – добре, няколко набора от закони – и изпълнителна заповед, която за обществеността, частите, които можете да прочетете, изглежда казват определени неща за това, което нашето правителство и NSA в частност могат да направят по отношение на наблюдението. Когато се чете с обикновен английски речник, чието естество вие и аз вероятно имаме и разбираме, бихме излезли с убеждението, че способността на NSA да наблюдава американците е била много ограничена, всъщност до степен, че те трябва, ако разберат, че наблюдават американец, че трябва незабавно да спрат и да се разплачат и да изтрият данните и всички тези други неща.
Имаше слухове за известно време, че това не се случва наистина и имаше намеци и по-специално сенатор Рон Уайдън беше много гласов за това да отиде в Сената и да каже: „Тук нещо не е наред и не мога да ви кажа точно какво“, или по време на изслушвания той питаше служители на разузнаването: „Вие събирате ли или не масови данни за американци?“
Тези длъжностни лица или ще отклонят, или в някои случаи направо ще излъжат. Вярвам, че това беше едно изслушване през 2012 г. с Джеймс Клапър, който беше директор на Националното разузнаване по това време, където той беше попитан директно по този въпрос. И той всъщност каза: „Не, ние не събираме данни за американците.“ Това беше голяма част от това, което вдъхнови Ед Сноудън да изтече данните, докладите, които той изтече на Глен Грийнуолд и Бартън Гелман и Лора Поитрас също. От всичко това започнахме да откриваме, че NSA има свой собствен речник, който е малко по-различен от речника, който вие и аз използваме, така че те могат да тълкуват думите по начини, които са различни от обикновения им английски смисъл, включително думи като „мишена“, която се усеща като ключова дума. Широкото разбиране за това какво е това е, че на теория те трябва да се насочват само към хора, които не са граждани на САЩ, мисля, че това е фразата.
Но начинът, по който се тълкуваше с течение на времето, беше, че всичко, което споменава това лице, всичко, което е за чуждо лице, вече е честна игра, дори ако това е комуникацията налице от САЩ. Така че, ако вие и аз трябваше да си изпращаме текстови съобщения и да споменаваме чуждо лице, това вече е честна игра за NSA да събира, пази и съхранява.
Има втора част от това. Споменах първата изпълнителна заповед 12333 от Роналд Рейгън, която, тъй като технологията се промени с течение на времето и интернет се разрасна, ефективно позволи на NSA да се докосне до чуждестранни комуникации, но това включваше всички комуникации, които може да са напуснали САЩ по пътя някъде. Така че, ако ви изпращам текстово съобщение и съобщение е изпратено от мен в Калифорния през оптичен кабел, който случайно е напуснал САЩ, NSA може да постави кран в частта, след като е извън САЩ, и да събере тази информация, дори ако отива само към вас в САЩ.
След това NSA можеше да запази тази информация, дори ако беше за лица от САЩ, и те можеха да извършват специфични търсения по това по-късно, понякога наричани „търсене през задната вратичка“. Те събраха тази информация, която според нас не е трябвало да събират на първо място, но можеха да я запазят. И те обещаха, те се заклеха, че ще го запазят в тайна, но ако направят търсене и установят, че вие или аз споменаваме чуждо лице, тогава изведнъж за тях беше честна игра да правят каквото си искат с него.
Като цяло това се превърна в свят, в който федералното правителство може да събира всяка информация, която се докосне извън САЩ. Дори и да е изцяло между две лица от САЩ, ако те споменат или дори намекнат за някого, който не е лице от САЩ, внезапно е честна игра да бъдете събирани. И от това получихме нещо, което изглежда като форма на масово наблюдение на американски лица от NSA, която твърди и публично заявява, че не шпионира американски лица.
Как стигнахме дотук? Това са много постепенни бебешки стъпки. Споменахте Джеймс Клапър през 2012 г., това е администрацията на Обама. Споменахте Роналд Рейгън, това са 80-те години. Тук минаваме през демократи и републиканци.
Войната срещу тероризма се случи в администрацията на Джордж У. Буш, а 11 септември и Патриотичният акт се случиха в администрацията на Джордж У. Буш. Има много нарастващи лоши неща при президентите на двете партии, при конгресите на двете партии. Как стана това?
Най-простата форма на това е, че никой, и със сигурност никой президент, не иска да бъде президент по време на голяма терористична атака, защото това ги кара да изглеждат зле. Очевидно те също искат да защитят американците, нали? Това е част от тяхната работа. Ако имате разузнавателна общност, която основно работи в тъмнина, защото това е, което разузнавателните общности правят и те продължават да идват при вас и да казват: „Хей, ако можехме просто да получим достъп до тази информация, това би било наистина полезно за предотвратяване на терористична атака.“
Възможно е да има случаи, когато това е вярно, че разузнавателната общност е в състояние да използва тази информация по начин, който работи добре. Но на теория ние също сме общество на закони с конституция на САЩ, на която трябва да се подчиняваме. Но това допускаше факта, че администрация след администрация, отново републиканец и демократ, имаха адвокати, които бяха много умни и които щяха да погледнат и да кажат: „Е, ако позиционираме по този начин или заявяваме по този начин, или тълкуваме това, по този начин можем да получим това, което искаме, и технически да не нарушаваме закона или технически да не нарушаваме Четвъртата поправка.“
Предположението винаги е било: „Можем някак да изкривим закона или да изкривим нашето тълкуване на закона и никой никога няма да види това или никой, който го е грижа, наистина няма да види това и следователно ще ни се размине.“
Има две неща, които наистина ми правят впечатление. Първо, вие и аз четем много съдебни решения - решения на апелативни съдилища и решения на Върховния съд. И в нашия Върховен съд има битка за това как буквално да се тълкуват думите в нашите устави и закони.
Няма да навлизам твърде далеч в това, но бих казал, че като цяло идеята, че трябва просто да прочетете думите на страницата и да правите това, което те казват, е доминиращата форма на законово тълкуване в Съединените щати. Наляво или надясно, и двамата го казват. Те спорят за някои много езотерични тънкости на това какво всъщност означава. Но че трябва просто да можете да четете тези думи и да правите това, което казват, това не е за грабване, нали?
Стигнахме до поне това първо преминаване от това, което бихте моглинаричаме текстуализъм. Как юристите на двете администрации се отдалечават толкова от доминиращия начин на вземане на правни решения у нас? Съдиите и на двете страни са съгласни, че това е поне първата стъпка.
Иска ми се да знам точния отговор, но мисля, че е мотивирано разсъждение, нали? Като адвокат, вие сте там, за да защитавате клиента си и успехът – ако можете да го наречете успех – на нашата правна система обикновено се основава на състезателна ситуация, в която имате различни страни, които спорят за тези неща, където ролята на съдията е да стесни и да разбере коя страна всъщност е права.
Един от проблемите с разузнавателната общност и нейната настройка е, че нямате тази враждебна ситуация. Това улеснява едната страна да оправдае аргумента, който изтъкват, защото никой наистина не го отхвърля. Вие комбинирате това с всеобхватния страх от нова терористична атака, всичко, свързано с националната сигурност, и дори когато имате ситуации, в които имате съда на FISA - имам предвид, че съдът на FISA беше донякъде известен с това, че всъщност беше гумен печат в продължение на много години.
Забравих точните цифри, но беше нещо като над 99 процента от молбите, които отидоха до съда на FISA, за да позволят наблюдение на определени ситуации, бяха предоставени и е лесно да се каже, че 99 процента очевидно са твърде много. Очевидно тези, които предявяват искове в съда, избират. В по-голямата си част те не предявяват напълно луди твърдения. Но без този противопоставящ се аспект и с много силно мотивирана група от хора, които си мислят: „Трябва да направим това“ или им се казва от администрация: „Трябва да направим това“, те ще намерят начини да го направят. И това е мястото, където свършвате с времето.
Имало ли е някой, участващ в този процес, който някога се е събуждал и си е казвал: „Момче, успяхме да предефинираме думата „мишена“, за да означава всичко, което искаме“?
[Смее се] Очевидно сте имали Ед Сноудън, който изнесе куп документи. Имахте Джон Нейпиър Тай, който написа статия за The Washington Post през 2014 г., която разкри тълкуването на Изпълнителна заповед 12333 и каза, че това е истинският проблем, на който трябва да се обърне внимание. Имате други хора, които са говорили за тези неща, но в по-голямата си част хората, които участват в работата в администрацията по неща на разузнавателната общност, са купени от мнението на разузнавателната общност, което е, че основната цел е да се защити страната от нещо лошо. Най-добрият начин да направите това е да имате възможно най-много информация.
Лесно е да бъдем съпричастни към аргумента, че да, наличието на повече информация може да им позволи да уловят нещо по-рано или да намерят нещо важно, но първо, това може да не е вярно. Получаването на твърде много информация вероятно е също толкова лошо, колкото и твърде малко информация, защото често може да скрие информацията, която всъщност е полезна, информацията, която всъщност ви е необходима, за да определите нещо.
Но също така, ние имаме U..S. Конституцията на първо място и имаме причини защо на теория не трябва да позволяваме масово наблюдение без вероятна причина. Като страна, която вярва в върховенството на закона, ние трябва да можем да се справим с това и когато всички тези неща се случват в тъмнината, вие ще сте склонни да изгубите това от поглед.
Това ме отвежда до Anthropic. Anthropic е предимно корпоративна компания. Те са добри в правителството, те са изградили тези мускули, те работят от хора, които са наистина добре запознати с някои от тези неща. Те очевидно погледнаха Пийт Хегсет, казвайки: "Искаме всички законни употреби", и слязоха на две нива на тълкуване и казаха: "Е, вашето буквално убеждение е, че тези думи не означават това, което казват, че означават на лицето им. Така че "всички законни употреби" е твърде голямо и ние искаме да поставим някои парапети, особено около масовото наблюдение."
Отново ще поставя в скоби автономните оръжия, които бяха другата червена линия, но особено при масовото наблюдение Дарио Амодей е там и казва: "Можем да направим твърде много. Това е твърде опасно. Това е нарушение на Четвъртата поправка."
Напрежението там е „вие казвате, че ще спазвате тези закони, които казват едно нещо, а сега, след цялото това време, те означават нещо съвсем различно и ние просто не искаме да сме част от това.“ Това ебой. Просто искам да сравня това със Сам Алтман, който се намесва, за да каже: „Ще направим всички законни употреби“, и след това публикува това дълго съобщение като „Ето всички закони, които ще спазваме“.
Изглежда, че Алтман не е знаел как NSA е претълкувала тези неща и някак си е била подведена. И оттогава той започна да го връща – дори докато записваме, уверен съм, че има още туитове и позициите на всички са се променили. Но Алтман го връща бавно, но наистина изглежда, че OpenAI е принуден да прочете уставите на лицето им и да повярва на казаното от тях. Това ли е и вашето тълкуване на събитията?
Има две възможности и това е една от тях. Едната е, че той беше игран по същия начин, по който публиката беше играна в продължение на много години. Алтернативната теория, и аз нямам представа коя от тях е вярна, е, че той или някои от адвокатите в OpenAI — които според мен са много компетентни и много осведомени — са знаели това, но са смятали, че могат да играят същата игра, която NSA е играла няколко десетилетия, в това, че докато казват тези неща и след това казват думите, но не разкриват действителните интерпретации, те също могат да се измъкнат. И така, Сам излиза с изявлението, което го кара да изглежда като „Имахме точно същите червени линии като Anthropic и правителството беше страхотно с това.“
Всъщност, мисля, че Сам Олтман каза, че Anthropic има две червени линии, а OpenAI има три и правителството е напълно добре с това и това накара много хора да се почешат по главите. Но мисля, че трябва или Сам Олтман и хората около него да не са разбрали как работят тези неща на практика, или са го направили и просто са предположили, че обществеността няма да знае и следователно могат да се измъкнат.
Другото нещо, което идва на ум - отново, AI е нов и е толкова изкушаващо да се стигне до нови технологии, тъй като това са проблеми на първите впечатления. „Никой не е трябвало да мисли за това преди“, но реалността е, че всички са мислили за тези неща от дълго време. Може би нещото, което е ново тук, не е AI, а това, че втората администрация на Тръмп, вместо да прави куп адвокати, които може би никой никога няма да прочете, за да оправдае действията си пред таен съд, на който никой не обръща внимание, вместо това просто не е толкова фина.
Те не са толкова сложни и просто казват, че ще шпионират всички през цялото време. Те просто обявиха намеренията си по начин, по който може би всички администрации просто трябва да обявят намеренията си и да видим къде ще паднат чиповете.
Но аз гледам на факта, че имаше Ед Сноудън тук, в Ню Йорк. AT&T управлява сграда, за която всички знаят, че е сграда на NSA. Това е просто гигантска сграда и трябва да се преструваме, че не е център за наблюдение на NSA, но е точно там. Това е огромно. Нищо от това изглежда не е довело до нищо. Всички тези разкрития, тези изтичания, ние не сме се отказали от това.
Всъщност то само се увеличава, тъй като голяма част от живота ни става все по-дигитален. И може би администрацията на Тръмп, която е толкова груб инструмент през цялото време, може всъщност да е нещото, което причинява сметката. Виждате ли, че все пак това се разиграва?
Има няколко различни неща там и не е съвсем вярно, че изобщо не сме се отказали от тези неща. Разкритията на Сноудън наистина доведоха до някои промени в това как се случват тези неща. И сега има - забравих как се наричат, но те са като тези граждански приятели в съда на FISA, които ще действат като представяне на другата страна по определени въпроси.
И видяхме, че някои от властите са ограничени по определени начини и те идват за преупълномощаване от време на време, а активистите бяха много агресивни да отблъскват и да се опитват да поставят още парапети. Но що се отнася до по-големия въпрос, мисля, че има две различни неща. Наполовина сте прав, че тази администрация не е хитра и просто казва на глас нещата, които не трябва.
"Ние сме във война с Иран, ние го правим, това се случва. Дори няма да опитаме танца."
По начини, които всички предишни администрации не биха направили. Но те всъщност не са казали това директнонаблюдение, особено наблюдение на американци. Имаше намеци за това, но те не излязоха толкова силно по този въпрос. Другата половина от това е свързана повече с позиционирането на Anthropic и общия възглед за AI като тази вероятно екзистенциална технология, където Anthropic винаги се е представял като „Ние сме внимателните добри момчета“ и дали вярвате или не, че това е нещо извън смисъла. Те имат следната репутация: „Опитваме се да направим това по начин, който е безопасен, който уважава човечеството и обръща внимание на всички тези неща.“ И така, когато имате този сблъсък, там идва борбата.
Имате администрация на Тръмп, която просто иска да може да прави всичко, което иска, и те не са хитри в това. И тогава имате Anthropic, чието самоописание и неговата публична личност винаги са като: „Ние сме внимателни и уважаваме човечеството, правата и всички тези неща.“ Това вероятно е мястото, където дойде сблъсъкът, защото Anthropic, както стана ясно, е работил с Министерството на отбраната за известно време и има много други договори с правителството, които е използвал. Не е било проблем.
Само в тези специфични области, където правителството се опитваше да разшири договора, който имаше, висшето ръководство на Anthropic започна да казва: „Чакай, трябва да сме сигурни, че не пресичаме тези червени линии, които биха могли потенциално да навредят на репутацията ни като внимателен и безопасен доставчик на AI.“
Искам да ви попитам накратко за наблюдението като цяло и по-специално за загрижеността на Anthropic за четвъртата поправка. Четвъртата поправка гласи, че правителството не може неоснователно да ви претърсва. Най-добрият начин да разберете Четвъртата поправка е като слушате „99 Problems“ от Jay-Z. Така че, ако трябва да си вземете почивка и да слушате „99 Problems“, това е страхотно. Всичко е там. Слушах го, когато бях в юридическия факултет и имаше пълен смисъл.
Но правителството обикновено се нуждае от заповед за обиск. И тъй като все по-голяма част от живота ви преминава онлайн, има много и много изключения от това. Но идеята е, че те все още трябва да имат заповед онлайн. Аргументът на Anthropic е: "Е, изкуственият интелект никога няма да се умори. Той може да претърсва всичко през цялото време. Това означава, че просто ще направим майсторско наблюдение."
И все пак дори преди AI да се появи, идеята, че правителството може да претърси всичко, което ви принадлежи, беше там, идеята, че правителството не се нуждае от заповед, за да претърси всичките ви неща, беше там. Идеята, че ако някои от вашите данни някога излязат извън страната за кратка секунда, правителството ги прихваща там,
Когато бях в колежа, по времето на Patriot Act, дебатът беше, че те няма да търсят вашите действителни данни, но могат да получат метаданните и само метаданните. Данните за вашите данни ще бъдат достатъчни, за да ви локализират точно по всяко време. И дори това е твърде далеч. И ние правим този танц на това какво може да събере правителството? Какво е допустимо? От какво се нуждаят, за да ни предпазят всички и кое е твърде далеч? Тези линии са се преместили.
Така че просто опишете накратко общата загриженост относно наблюдението в мащаба и къде се намираме сега. Преди ситуацията с AI направи всичко експоненциално по-сложно.
Тук трябва да представя още една концепция, която вероятно трябваше да бъде спомената по-рано, но е важна, която се нарича „доктрина на трета страна“. Идеята на Четвъртата поправка е, че правителството не може да претърси вас или вашите вещи без заповед и не може да получи заповед без вероятна причина, че сте извършили някакъв вид престъпление. Но има тази концепция, възникнала преди десетилетия, наречена доктрина за трети страни, която казва, че това не се прилага непременно или изобщо не се прилага за неща, които не са ваши, дори ако това са вашите данни.
Най-ранната и най-очевидна версия за това бяха телефонните записи, които телефонната компания имаше за това на кого сте се обадили. Телефонните компании не записваха обажданията ви, но записваха, ако ви се обадя, щеше да има запис в телефонната компания, който казва: „Майк се обажда на Нилай“. И това, което беше решено от множество съдилища, беше, че правителството може да отиде и да поиска това и те не се нуждаят от заповед за това, защото това не е претърсване навашите данни, това е тази трета страна и те могат да се съгласят като трета страна просто да предадат тези данни.
Но това бяха случаи от 60-те и 70-те години, когато беше решено, че правителството може да получи достъп до това без заповед, когато нямаше толкова много данни от трети страни. Възходът на компютрите и интернет промени това. Сега всичко е данни на трети страни. Всичко, което правим, се събира от някаква компания някъде и има запис за това. Така че по същество всяка част от данните за вас, къде се намирате, с кого говорите, с кого взаимодействате, какво казвате, какво правите, всичко това се съхранява почти от трети страни в наши дни. Така че доктрината на третата страна е погълнала до известна степен цялата Четвърта поправка, където всичко, което е за вас, което някой друг има, има много по-нисък стандарт за това, което правителството може да направи, за да го поиска.
Само за да бъда конкретен, това означава, че когато данните ми са в iCloud, правителството може да отиде при Apple и да изтегли данните ми от iCloud, без изобщо да ми казва?
Те могат да го поискат. Те могат лесно да го поискат без заповед. Тогава компанията има свои собствени права и може да определи какво иска да направи с това искане. Те могат просто да се откажат от него. Те могат, както повечето от тях ще направят, ако искането е сериозно, да отхвърлят заявките незабавно или могат да ви предупредят и могат да кажат - и това е, което повечето от тях ще направят - ще ви предупредят и ще кажат: "Правителството иска някои от вашите данни. Можете да отидете в съда и да се опитате да ги блокирате." Ако не, те ще предадат данните ви след седем дни или каквото и да е.
Отново, зависи. Ако това е криминално разследване, тогава може да има някаква заповед за запушване, при която компанията няма право да ви казва. Има всякакви ситуации, но повечето от тях включват по-малко от нивото на защита, което Четвъртата поправка би изисквала, ако става дума за данни или каквато и да е информация или нещо в собствения ви дом.
Количеството данни, които имате на нечий облачен сървър, е огромно, нали? Всяко нещо, което обикновено правите в интернет сега, е архивирано по някакъв начин или е записано по някакъв начин на сървърите на някой друг. Правителството е намерило този начин да заобиколи Четвъртата поправка и да каже: "Е, това всъщност не е ваше. Принадлежи на Amazon. Можем да говорим с Amazon", а Amazon трябва да застане по средата на този процес и да каже: "Изобретихме друг процес, за да защитим донякъде хората."
Гледам на това – и когато отразявах първите случаи на доктрина на трети страни, които покриваха облачните услуги и правителството продължаваше да печели, всъщност тогава се превърнах в Жокера. Казах си: „Всички тези неща, които симулираме за текстуализма и обикновеното [четене], нищо от това не означава нищо, защото ние просто прехвърляме конски сили към задната врата, използвайки този древен закон в данните на всички.“
И тогава гледам това и гледам Anthropic и казвам: „Е, това е същият модел.“ Това е частна компания, която казва: "Добре, разбираме позицията ви. Разбираме, че сте претълкували закона, за да означава това нещо, и ще поставим някакъв процес между вас, нашия инструмент и данните на американците, преминаващи през нашата услуга. " Просто се чудя дали виждате този паралел там, между Anthropic и Amazon и Azure и всякакви други облачни услуги, които съществуват и съхраняват толкова много от нашите данни.
Да, въпреки че има няколко уточнения, които са важни тук, които правят това малко по-различно. И всъщност – мисля, че The New York Times първо направи това отчитане – основната клауза, която беше най-важна за Anthropic, беше конкретно относно данните, събрани от търговски услуги и невъзможността да се използва Claude върху тези данни, което е точно този проблем по отношение на данни от трети страни. Но искам да изясня основната разлика между това, за което току-що говорихме преди това с Amazon или други трети страни, хостващи вашите данни, това бяха случаи, в които те бяха, поради това къде се намират в екосистемата, те хостваха вашите данни директно.
Що се отнася до Клод, не че някой се притеснява от това, че NSA преглежда използването на Клод. Става въпрос за това, че излизат и получават данни от трети страни от Amazon или по-вероятно от подъл, скрити брокери на данни, които показват реклами на телефоните ви и знаят местоположението ви, вашите интереси и подобни неща. И след това подаването на това в системавърху които след това Клод ще работи. Това е, от което Anthropic наистина не искаха да участват. Така че където и както правителството да събира тези данни от трета страна, Anthropic каза: „Не искаме нашият инструмент да се използва за тези данни.“
Известно е, че Apple се противопоставя на ФБР, искайки го да постави заден ход в iPhone, а Apple казва „не“ и те се противопоставят на Тръмп. И има част от начина, по който работи нашата система, в която големите частни компании казват „не“ на правителството от името на своите клиенти. И това се почувства по същия начин, че Apple отново няма да го постави задната врата на iPhone или големите доставчици на облачни услуги казват: „Има малък процес, през който трябва да преминете, преди да получите индивидуалните данни.“
Тук изглежда сякаш Anthropic казва: „Ние няма просто да правим групов анализ на данни, които сте придобили от други страни, защото това води до 24/7 масово наблюдение на американците, а ние не искаме да правим това.“ И все пак това изглежда като мост твърде далеч за тази администрация. Има ли връщане от това?
Ще видим. В миналото, когато това се е случвало - и това се е случвало много пъти с повечето от големите технологични компании, в даден момент те са казвали, че нещо е мост твърде далеч - това обикновено се случва в съда. Фирмите ще се изправят на съд или администрацията ще се изправи на съд и ще има някаква съдебна битка.
Задната врата в iPhone е идеален пример за това. Стигна се до съда и те се пребориха, въпреки че така и не стигнаха до заключение, защото ФБР в крайна сметка просто ръчно проникна в iPhone и след това не искаше съдебното решение да съсипе това в бъдеще.
Но в този случай там, където е ескалацията и където това е различно от тези минали ситуации, е, че вместо просто да отиде в съда, администрацията на Тръмп направи това обозначение за „риск по веригата на доставки“, което е просто лудост. Тази идея, че този инструмент, който е предназначен да спре потенциални чуждестранни злонамерени участници да доставят технология, която след това може да постави скрити инструменти за наблюдение в по-големия технологичен стек, че те могат да бъдат забранени. Да се приложи това към базирана в САЩ компания основно за това, че има етична политика, се чувства като истинска, истинска злоупотреба с този инструмент.
Дори този инструмент беше съмнителен по някакъв начин, но можете да разберете импулса зад него, когато говорите за китайска мрежова фирма или нещо в този дух. Ето, няма смисъл. Така че реакцията към това отива толкова далеч отвъд това, което обикновено би се видяло в този случай. Можете да видите, че традиционно ще има някакъв вид съдебно дело и всяка страна може да го започне и просто ще бъде битка за това как договорът може да бъде приложен.
Но това не се случва тук. Тази администрация на практика казва: „Ако не ни дадете абсолютно всичко, което искаме, ако не настроите инструментите си да работят по начина, по който ние искаме да работят, тогава ние ефективно ще се опитаме да унищожим целия ви бизнес.“ И това е ескалация.
Има една част от това, с която искам да свърша, и това е най-галактическият мозъчен вариант на това. FIRE, която е група за защита на свободата на словото, публикува публикация в блога точно преди да започнем да записваме, изтъквайки аргумента, че принуждаването на Anthropic да изгражда инструменти, които не иска да създава, е нарушение на свободата на словото, че това е нещо, наречено принудителна реч. Тук има много история. Тук има някаква дълбока история на Verge и Techdirt, in-the-weeds, екзистенциална криза.
Но основно се свежда до идеята, че кодът е реч, че писането на код за компютър е форма на реч и правителството не може да ви принуди да го направите, и цял куп неща произтичат от това. Приемате ли този аргумент, че принуждаването на Anthropic да създава инструменти, които не иска да създава, е принудителна реч?
Да, всъщност мисля, че е доста завладяващо. Убедителна принудена реч. Но не, мисля, че това е интересен аргумент. Това беше малко по-надолу в списъка с проблемите, за които си мислех. Очевидно бях предимно по-фокусиран върху въпросите на Четвъртата поправка, но мисля, че аргументът FIRE не е грешен. Виждали сме това в други контексти. Това се появи и в проблема със задната врата, по отношение на опитите за изграждане на задна вратичка в криптирани системи.
Компаниите определено са повдигнати на първо мястоПоправката твърди, че „Това е принудена реч, която ни принуждава да пишем такъв код“. Това е валиден аргумент. Отново може да е такъв, с който съдилищата вероятно не са склонни да се справят първоначално, ако могат да се справят с тези проблеми по друг начин. Но се радвам, че FIRE направи тази публикация и мисля, че това е интересен и убедителен аргумент.
Да, просто естеството на втората администрация на Тръмп е, че е толкова тъп инструмент, почти сигурно е, че ще атакуваме всички проблеми наведнъж.
Да, всяко изменение на Закона за правата трябва да бъде оспорено под една или друга форма с всеки възможен проблем.
[Смее се] Завъртете колелото.
Сигурен съм, че можем да впишем нарушение на Третата поправка някъде тук.
Разбира се, да. Сега Клод трябва да живее в къщата ти. точно така Ще бъде страхотно. Ние правим [изменения] едно, три, четири и седем. Ние ги натрупваме.
Майк, това беше страхотно. Не мога да повярвам, че не си бил в шоуто преди. Това беше страхотно. Трябва да се върнеш скоро.
Абсолютно. Винаги, когато ме поискаш.
Въпроси или коментари за този епизод? Свържете се с нас на decoder@theverge.com. Ние наистина четем всеки имейл!
