Сёння мы гаворым аб бязладнай, імклівай сітуацыі ў Anthropic, вытворцу Claude, які цяпер знаходзіцца ў вельмі непрыгожай судовай бітве з Пентагонам.
Усё складана, але некалькі дзён таму Пентагон палічыў Anthropic рызыкай для ланцужкоў паставак, і Anthropic падала пазоў, аспрэчваючы гэта прызначэнне, заявіўшы, што ўрад парушыў правы па першай і пятай папраўках, «імкнучыся знішчыць эканамічную каштоўнасць, створаную адной з самых хуткарослых прыватных кампаній у свеце». Я магу сказаць вам прама зараз: мы будзем гаварыць аб паваротах гэтай справы на The Verge і тут, на Decoder, у наступныя месяцы.
Але сёння я хацеў выдзеліць хвілінку і паглыбіцца ў адзін вельмі важны элемент гэтай сітуацыі, які не атрымаў дастаткова ўвагі, паколькі яна выйшла з-пад кантролю: як урад Злучаных Штатаў ажыццяўляе сачэнне, юрыдычныя паўнамоцтвы, якія дазваляюць такое сачэнне, і чаму Anthropic не давяраў ураду, кажучы, што ён будзе прытрымлівацца закона, калі справа даходзіць да выкарыстання ІІ для яшчэ большага сачэння.
Падпісчыкі Verge, не забывайце, што вы атрымліваеце эксклюзіўны доступ да дэкодэра без рэкламы ўсюды, дзе вы атрымліваеце свае падкасты. Галава сюды. Не падпісчык? Вы можаце падпісацца тут.
Сёння маім госцем з'яўляецца Майк Маснік, заснавальнік і генеральны дырэктар Techdirt, выдатнага і доўгаіграючага вэб-сайта тэхнічнай палітыкі. Майк ужо дзесяцігоддзі піша пра празмерныя дзеянні ўрада, прыватнасць у эпоху лічбавых тэхналогій і іншыя звязаныя з гэтым тэмы. Ён эксперт у тым, як узаемазвязана развіццё Інтэрнэту і сачэння.
Разумееце, у законе ёсць тое, што можа зрабіць урад, калі справа даходзіць да назірання за намі, і тое, што ўрад хоча зрабіць. І самае галоўнае, ёсць тое, што ўрад кажа, што можа зрабіць закон, што часта зусім супрацьлеглае таму, што падумае любы нармальны чалавек, які проста чытае закон.
У гэтым эпізодзе вы пачуеце, як Майк вельмі падрабязна тлумачыць, што мы не можам — і не павінны — верыць ураду ЗША на слова, калі справа даходзіць да сачэння. Занадта шмат гісторыі з тым, як дзяржаўныя юрысты перакручваюць інтэрпрэтацыі простых слоў, такіх як «мішэнь», каб пашырыць сачэнне складанымі спосабамі - спосабамі, якія звычайна выклікаюць занепакоенасць толькі ў юрыдычных колах і ўспыхваюць толькі тады, калі ўзнікаюць вялікія спрэчкі, такія як буйныя выкрыцці інфарматара Эда Сноўдэна АНБ больш за дзесяць гадоў таму.
Але ў выпрацоўцы палітыкі ў эпоху Трампа няма нічога тонкага або складанага — і таму з Anthropic мы вядзем вельмі гучную, вельмі публічную дыскусію аб тэхналогіях і назіранні ў рэжыме рэальнага часу, у інтэрнэце, у паведамленнях у блогах і крытыках X, а таксама падчас гукавых фрагментаў прэс-канферэнцый. У гэтым ёсць станоўчыя і адмоўныя моманты, але каб зразумець усё гэта, вы сапраўды павінны ведаць гісторыю.
Гэта тое, што мы з Майкам збіраемся растлумачыць у гэтым эпізодзе - незалежна ад вашых поглядаў на штучны інтэлект і ўрад, гэты эпізод дасць зразумець, што абодва бакі дазволілі дзяржаве сачэння з цягам часу павялічвацца і павялічвацца. Цяпер мы знаходзімся на парозе самага вялікага пашырэння, калі справа даходзіць да штучнага інтэлекту.
Добра: заснавальнік і генеральны дырэктар Techdirt Майк Маснік пра Anthropic, Пентагон і сачэнне за штучным інтэлектам. Вось і пайшлі.
Гэта інтэрв'ю было злёгку адрэдагавана для даўжыні і яснасці.
Майк Маснік, вы заснавальнік і генеральны дырэктар Techdirt. Сардэчна запрашаем у Decoder.
Я рады быць тут.
Я вельмі рады, што ты з намі. Я проста сказаў, што ў шоку ад таго, што вы ніколі раней не былі ў шоу. Мы з вамі даўно пісалі і пісалі адзін аднаму. Шмат у чым асвятленне палітыкі The Verge звязана з тым, што вы зрабілі ў Techdirt, а тое, што адбываецца з Anthropic, вельмі складанае, але закранае так шмат тэм, якія вы так доўга разглядалі. Я рады, што вы нарэшце тут.
Гэта складаная тэма, але я рады паглыбіцца ў яе.
Тое, на чым я хачу з вамі засяродзіцца, гэта не дэталі таго, ці збіраецца Anthropic падпісваць кантракт з урадам, ці збіраецца OpenAI атрымаць гэты кантракт. Наадварот, я ўпэўнены, што паміж тым, як мы запісваем гэта, і тым, як людзі яго праслухаюць, з'явіцца больш твітаў і больш рэчаў будзе іншымі, чым былі раней.
Тое, на чым я хачу засяродзіцца, гэта толькі адна з дзвюх чырвоных ліній, якія сапраўды выклаў Anthropic. Адзін з іхаўтаномнае ўзбраенне, якое мае свой узровень складанасці. Закон там крыху больш зараджаецца, незалежна ад таго, ці існуе зброя ці яна ўжо была разгорнута Расеяй падчас вайны ва Ўкраіне.
Тут ёсць шмат ідэй, якія я проста хачу пакінуць у баку, таму што я думаю, што гэта будзе больш засяроджана на іх уласным раскладзе. Яшчэ адна чырвоная лінія, якой я хачу надаць шмат часу, - гэта масавае сачэнне. І тут даволі шмат законаў аб масавым сачэнні. Тут шмат гісторыі, шмат супярэчлівай гісторыі. Увесь характар Эдварда Сноўдэна існуе з-за спрэчак вакол масавага сачэння.
Усё зводзіцца да — я думаю, што вы гэта апублікавалі — Агенцтва нацыянальнай бяспекі (АНБ), якое з'яўляецца часткай Міністэрства абароны, якое мы цяпер па нейкай прычыне павінны называць Ваенным дэпартаментам.
[Смяецца] Нам нічога не трэба рабіць.
[Смяецца] Мы не. Гэта праўда тут, у Амерыцы. Нам нічога не трэба рабіць. Але АНБ у асноўным перавызначыла тое, што азначаюць многія словы з гутарковай англійскай мовы, каб азначаць: «Мы можам проста весці назіранне». А потым час ад часу здараецца скандал, калі людзі выяўляюць, што яны проста вядуць сачэнне. Так што проста падрыхтуйце сцэну, і я не хачу перамотваць вас назад, але прайшло даволі шмат часу, калі гэтая мадэль паўтаралася.
Гэта залежыць ад таго, наколькі глыбока вы хочаце паглыбіцца, але кароткая версія, відавочна, у свеце пасля 9/11, ЗША прынялі Патрыятычны акт, які даваў магчымасць ураду ўдзельнічаць у сачэнні, што павінна было быць для абароны нас ад будучых тэрарыстычных пагроз. З цягам часу гэта інтэрпрэтавалася цікавымі спосабамі, і на гэта былі пэўныя абмежаванні. У нас таксама быў суд FISA, які з'яўляецца спецыяльным судом, які павінен разглядаць разведвальную супольнасць і іх дзейнасць, але традыцыйна быў аднабаковым судом. Толькі адзін бок можа выступіць са сваёй справай у гэтым судзе, і ўсё гэта робіцца таемна.
Ёсць шмат рэчаў, якія не былі вядомыя. А яшчэ ва ўсім гэтым быў яшчэ адзін пункт, які ўзыходзіць да Рональда Рэйгана, гэта Указ № 12333, які нібыта ўстанаўлівае правілы дарожнага руху для збору разведдадзеных.
Такім чынам, у вас ёсць гэтыя тры зводы законаў - ну, некалькі зводаў законаў - і выканаўчы загад, які для грамадскасці, тыя часткі, якія вы можаце прачытаць, здаецца, гавораць пэўныя рэчы аб тым, што наш урад і АНБ у прыватнасці можа зрабіць у плане сачэння. Калі чытаць з простым слоўнікам англійскай мовы, прыроду якога мы з вамі, напэўна, ведаем і разумеем, мы прыйшлі б да пераканання, што здольнасць АНБ сачыць за амерыканцамі была вельмі абмежаваная, насамрэч да такой ступені, што яны павінны, калі яны разумеюць, што яны сочаць за амерыканцам, што яны павінны неадкладна спыніцца і заплакаць, сцерці дадзеныя і ўсё гэта іншае.
Некаторы час хадзілі чуткі, што гэтага насамрэч не адбываецца, і былі намёкі, і, у прыватнасці, сенатар Рон Уайдэн вельмі гучна выказаўся аб тым, каб выйсці ў сенат і сказаць: «Тут нешта не так, і я не магу сказаць вам што», або падчас слуханняў ён пытаўся ў супрацоўнікаў спецслужбаў: «Вы збіраеце масавыя дадзеныя аб амерыканцах?»
Гэтыя чыноўнікі альбо адхіляліся, альбо ў некаторых выпадках адкрыта хлусілі. Я лічу, што гэта было адно слуханне ў 2012 годзе з Джэймсам Клэперам, які ў той час быў дырэктарам нацыянальнай разведкі, дзе яго непасрэдна спыталі па гэтым пытанні. І ён у асноўным сказаў: «Не, мы не збіраем дадзеныя аб амерыканцах». Гэта была значная частка таго, што натхніла Эда Сноўдэна на ўцечку дадзеных, справаздачы, якія ён перадаў Глену Грынвальду, Бартану Гэлману і Лауры Пойтрас. З усяго гэтага мы даведаліся, што АНБ мае свой уласны слоўнік, які некалькі адрозніваецца ад слоўніка, якім мы з вамі карыстаемся, такім чынам, што яны могуць інтэрпрэтаваць словы спосабамі, адрознымі ад іх простага ангельскага значэння, у тым ліку такія словы, як «мэта», якое здаецца ключавым. Шырокае разуменне таго, што гэта такое, заключаецца ў тым, што тэарэтычна яны павінны быць накіраваны толькі на людзей, якія не з'яўляюцца жыхарамі ЗША, я думаю, гэта фраза.
Але з цягам часу гэта інтэрпрэтавалася так, што ўсё, што згадвае гэтую асобу, усё, што тычыцца замежнай асобы, цяпер лічыцца сумленнай гульнёй, нават калі гэта камунікацыячалавек ЗША. Такім чынам, калі мы з вамі павінны былі напісаць адзін аднаму тэкставыя паведамленні і згадаць замежнага чалавека, цяпер гэта сумленная гульня для АНБ - збіраць, захоўваць і захоўваць.
Ёсць другая частка гэтага. Я згадваў першае распараджэнне 12333 ад Рональда Рэйгана, якое, калі тэхналогія змянялася з цягам часу і Інтэрнэт рос, фактычна дазваляла АНБ падключацца да замежных камунікацый, але гэта ўключала любыя камунікацыі, якія, магчыма, пакінулі ЗША кудысьці па шляху. Такім чынам, калі я пішу вам тэкставае паведамленне і паведамленне прыйшло ад мяне з Каліфорніі праз валаконна-аптычны кабель, які выпадкова пакінуў ЗША, АНБ магло б паставіць кран у частцы, калі яна апынецца за межамі ЗША, і сабраць гэтую інфармацыю, нават калі яна ішла толькі да вас у ЗША.
Затым АНБ магло захаваць гэтую інфармацыю, нават калі яна датычылася грамадзян ЗША, і пазней яна магла правесці спецыяльныя пошукі, якія часам называюць "закуліснымі пошукамі". Яны сабралі гэтую інфармацыю, якую, на нашу думку, яны не павінны былі збіраць у першую чаргу, але яны маглі яе захаваць. І яны паабяцалі, яны пакляліся, што будуць трымаць гэта ў таямніцы, але калі яны правядуць пошук і выявяць, што вы ці я згадалі замежнага чалавека, то раптам для іх стане сумленнай гульнёй рабіць з гэтым усё, што заўгодна.
У цэлым гэта ператварылася ў свет, у якім федэральны ўрад можа ў асноўным збіраць любую інфармацыю, якая трапляе за межы ЗША. Нават калі гэта выключна паміж двума амерыканцамі, калі яны згадваюць ці нават намякаюць на кагосьці, хто не з'яўляецца грамадзянам ЗША, раптам гэта сумленная гульня. І з гэтага мы атрымалі тое, што выглядае як форма масавага сачэння за грамадзянамі ЗША з боку АНБ, якое сцвярджае і публічна заяўляе, што не шпіёніць за грамадзянамі ЗША.
Як мы дайшлі да гэтага? Гэта шмат паступовых дзіцячых крокаў. Вы згадалі Джэймса Клэппера ў 2012 годзе, гэта была адміністрацыя Абамы. Вы згадалі Рональда Рэйгана, гэта 1980-я гады. Тут мы разглядаем дэмакратаў і рэспубліканцаў.
Вайна з тэрарызмам адбылася ў адміністрацыі Джорджа Буша, а 11 верасьня і Патрыятычны акт адбыліся ў адміністрацыі Джорджа Буша. Шмат дрэннага нарастае пры прэзідэнтах абедзвюх партый, пры з'ездах абедзвюх партый. Як гэта адбылося?
Самая простая форма гэтага палягае ў тым, што ніхто, і асабліва ніякі прэзідэнт, не хоча быць прэзідэнтам падчас вялікага тэрарыстычнага нападу, таму што гэта робіць іх дрэннымі. Відавочна, што яны таксама хочуць абараніць амерыканцаў, так? Гэта частка іх працы. Калі ў вас ёсць разведвальная супольнасць, якая ў асноўным працуе ў цемры, таму што гэта тое, чым займаюцца выведвальныя супольнасці, і яны працягваюць прыходзіць да вас і казаць: «Гэй, калі б мы маглі проста атрымаць доступ да гэтай інфармацыі, гэта было б вельмі карысна для прадухілення тэрарыстычнага нападу».
Могуць быць выпадкі, калі гэта праўда, што разведвальная супольнасць можа выкарыстоўваць гэтую інфармацыю так, каб яна працавала. Але тэарэтычна мы таксама з'яўляемся грамадствам законаў з Канстытуцыяй ЗША, якой мы павінны падпарадкоўвацца. Але гэта ўлічвала той факт, што адміністрацыя за адміністрацыяй, зноў жа, рэспубліканцы і дэмакраты, мелі юрыстаў, якія былі вельмі разумнымі і якія праглядалі і казалі: «Ну, калі мы так пазіцыянуем, або мы так заяўляем, або мы гэта інтэрпрэтуем, такім чынам мы можам атрымаць тое, што хочам, і тэхнічна не парушаць закон або тэхнічна не парушаць Чацвёртую папраўку».
Здагадка заўсёды была такая: «Мы можам змяніць закон або нашу інтэрпрэтацыю закона, і ніхто гэтага ніколі не ўбачыць, або ніхто, хто неабыякавы, ніколі гэтага не ўбачыць, і таму мы сыдзем з рук».
Ёсць дзве рэчы, якія мяне сапраўды выклікаюць. Па-першае, мы з вамі абодва чытаем шмат судовых рашэнняў — апеляцыйных судоў і рашэнняў Вярхоўнага суда. І ў нашым Вярхоўным судзе ідзе спрэчка аб тым, як літаральна інтэрпрэтаваць словы нашых статутаў і законаў.
Я не буду заглыбляцца ў гэта, але я б сказаў, што ў цэлым ідэя, што вы павінны проста прачытаць словы на старонцы і зрабіць тое, што яны кажуць, з'яўляецца дамінуючай напрамкам тлумачэння законаў у Злучаных Штатах. Налева або направа, яны абодва гэта кажуць. Яны спрачаюцца аб некаторых вельмі эзатэрычных тонкасцях таго, што гэта насамрэч азначае. Але тое, што вы проста ўмееце чытаць гэтыя словы і рабіць тое, што яны кажуць, гэта не для захопу, так?
Мы прызямліліся, па меншай меры, што першы праход таго, што вы маглі бназываюць тэксталізмам. Як юрыстам абедзвюх адміністрацый так далёка адысці ад пануючага ў нашай краіне рэжыму прыняцця прававых рашэнняў? Суддзі абодвух бакоў згодныя, што гэта, па меншай меры, першы крок.
Я хацеў бы ведаць дакладны адказ, але я думаю, што гэта матываваныя развагі, так? Як юрыст, вы там, каб абараняць свайго кліента, і поспех — калі гэта можна назваць поспехам — нашай прававой сістэмы, як правіла, заснаваны на наяўнасці спаборніцкай сітуацыі, калі розныя бакі спрачаюцца па гэтых рэчах, дзе роля суддзі заключаецца ў тым, каб звузіць і высветліць, які бок насамрэч мае рацыю.
Адна з праблем з разведвальнай супольнасцю і яе арганізацыяй заключаецца ў тым, што ў вас няма такой канкурэнтнай сітуацыі. Гэта палягчае аднаму боку апраўданне аргументаў, якія яны робяць, таму што ніхто насамрэч не адмаўляецца ад іх. Вы аб'ядноўваеце гэта з усеабдымным страхам перад чарговым тэрарыстычным нападам, чымсьці, што звязана з нацыянальнай бяспекай, і нават калі ў вас ёсць сітуацыі, калі ў вас ёсць суд FISA - я маю на ўвазе, што суд FISA славіўся тым, што на працягу многіх гадоў быў фактычна гумовым штампам.
Я забыўся дакладныя лічбы, але было задаволена больш за 99 працэнтаў заявак, якія паступілі ў суд FISA, каб дазволіць сачэнне за пэўнымі сітуацыямі, і лёгка сказаць, што 99 працэнтаў - гэта, відавочна, занадта. Відавочна, што тыя, хто звяртаецца ў суд, выбіраюць. Яны, па большай частцы, не прад'яўляюць цалкам вар'яцкія прэтэнзіі. Але без гэтага спаборніцкага аспекту і з вельмі моцна матываванай групай людзей, якія думаюць: «Нам трэба гэта зрабіць» або якім адміністрацыя кажа: «Нам трэба гэта зрабіць», яны знойдуць спосабы зрабіць гэта. І вось дзе вы з часам апыняецеся.
Ці быў хто-небудзь з удзельнікаў гэтага працэсу, хто калі-небудзь прачнуўся і сказаў сабе: «Хлопчык, нам удалося пераасэнсаваць слова «мішэнь», каб яно азначала ўсё, што заўгодна»?
[Смяецца] Відавочна, што ў вас быў Эд Сноўдэн, які апублікаваў кучу дакументаў. У вас быў Джон Нэп'ер Тай, які напісаў артыкул для The Washington Post у 2014 годзе, у якім раскрыў інтэрпрэтацыю распараджэння 12333 і сказаў, што гэта сапраўдная праблема, на якую варта звярнуць увагу. У вас ёсць і іншыя людзі, якія выказваліся аб гэтых рэчах, але ў большасці сваёй людзі, якія ўдзельнічаюць у працы ў адміністрацыі над справамі разведвальнай супольнасці, падкупляюцца на думку разведвальнай супольнасці, якая заключаецца ў тым, што галоўная мэта - абараніць краіну ад чагосьці дрэннага. Лепшы спосаб зрабіць гэта - мець як мага больш інфармацыі.
Лёгка з разуменнем паставіцца да аргументу, што, так, наяўнасць дадатковай інфармацыі можа дазволіць ім злавіць нешта раней або знайсці нешта важнае, але, па-першае, гэта можа быць няпраўдай. Атрыманне занадта вялікай колькасці інфармацыі, верагодна, гэтак жа дрэнна, як і занадта мала інфармацыі, таму што гэта часта можа схаваць інфармацыю, якая сапраўды карысная, інфармацыю, якая вам сапраўды патрэбна, каб нешта вызначыць.
Але таксама ў нас ёсць ЗША У першую чаргу Канстытуцыя, і ў нас ёсць прычыны, па якіх, тэарэтычна, мы не павінны дазваляць масавае сачэнне без упэўненых прычын. Як краіна, якая верыць у вяршэнства закона, мы павінны быць у стане адпавядаць гэтаму, і калі ўсё гэта адбываецца ў цемры, вы будзеце схільныя губляць гэта з-пад увагі.
Гэта падводзіць мяне да Anthropic. Anthropic - гэта перш за ўсё карпаратыўная кампанія. Яны добрыя ва ўрадзе, яны нарасцілі мускулы, у іх працуюць людзі, якія сапраўды добра разбіраюцца ў некаторых з гэтых рэчаў. Відавочна, што яны паглядзелі на Піта Хегсэта, які сказаў: "Мы хочам, каб усё было законна выкарыстана", і яны пайшлі на два ўзроўні інтэрпрэтацыі і сказалі: "Ну, вы літаральна перакананыя, што гэтыя словы не азначаюць таго, што яны азначаюць на іх твары. Такім чынам, "усе законныя віды выкарыстання" занадта вялікія, і мы хочам паставіць некаторыя агароджы, асабліва вакол масавага назірання".
Зноў жа, я збіраюся выключыць аўтаномную зброю, якая была яшчэ адной чырвонай лініяй, але, у прыватнасці, што тычыцца масавага назірання, Дарыё Амадэі кажа: "Мы можам зрабіць занадта шмат. Гэта занадта небяспечна. Гэта парушэнне чацвёртай папраўкі".
Напружанасць такая: «вы кажаце, што будзеце выконваць гэтыя законы, якія кажуць адно, а цяпер, пасля ўсяго гэтага часу, яны азначаюць зусім іншае, і мы проста не хочам быць часткай гэтага». Гэта тоезмагацца. Я проста хачу параўнаць гэта з Сэмам Альтманам, які набягае і кажа: «Мы будзем выкарыстоўваць усё законна», а потым публікуе гэтае доўгае паведамленне накшталт: «Вось усе законы, якіх мы будзем выконваць».
Падобна на тое, што Альтман не ведаў, як АНБ пераасэнсавала гэтыя рэчы, і яго як бы ўзялі за паездку. І з тых часоў ён пачаў вяртацца - нават калі мы запісваем, я ўпэўнены, што ёсць больш твітаў і пазіцыі ўсіх змяніліся. Але Альтман павольна вяртаўся да гэтага, але здаецца, што OpenAI быў вымушаны чытаць статуты на іх тварах і верыць таму, што яны кажуць. Гэта і ваша трактоўка падзей?
Ёсць дзве магчымасці, і гэта адна з іх. Адзін з іх заключаецца ў тым, што яго гулялі гэтак жа, як гулялі публіка на працягу многіх гадоў. Альтэрнатыўная тэорыя, і я паняцця не маю, якая з іх праўда, заключаецца ў тым, што ён ці некаторыя з юрыстаў OpenAI — якія, на маю думку, вельмі кампетэнтныя і дасведчаныя — ведалі гэта, але думалі, што яны могуць гуляць у тую ж гульню, у якую некалькі дзесяцігоддзяў гуляла АНБ, калі яны кажуць гэтыя рэчы, а потым кажуць словы, але не раскрываюць рэальных інтэрпрэтацый, яны таксама могуць сысці з рук. Такім чынам, Сэм выступае з заявай, якая робіць гэта падобным на тое, што «ў нас былі сапраўды такія ж чырвоныя лініі, як у Anthropic, і ўраду гэта было добра».
На самай справе, я думаю, што Сэм Альтман сказаў, што ў Anthropic былі дзве чырвоныя лініі, а ў OpenAI - тры, і ўраду гэта было ў парадку, і гэта прымусіла многіх людзей пачасаць патыліцы. Але я думаю, што альбо Сэм Альтман і тыя, хто яго акружаў, не разумелі, як гэтыя рэчы працуюць на практыцы, альбо яны разумелі, і яны проста меркавалі, што грамадскасць не даведаецца, і таму ім гэта можа сысці з рук.
Яшчэ адна рэч, якая прыходзіць на розум, зноў жа, штучны інтэлект новы, і вельмі хочацца прыйсці да новых тэхналогій, бо гэта праблемы першага ўражання. «Раней нікому не даводзілася пра гэта думаць», але на самой справе ўсе думалі пра гэта на працягу доўгага часу. Магчыма, навінка тут не ў штучным інтэлекте, а ў тым, што другая адміністрацыя Трампа замест таго, каб займацца кучай адвакатаў, якія, магчыма, ніхто ніколі не прачытае, каб апраўдаць свае дзеянні ў сакрэтным судзе, на які ніхто не звяртае ўвагі, замест гэтага проста не такая тонкая.
Яны не такія дасканалыя, і яны проста кажуць, што будуць увесь час шпіёніць за ўсімі. Яны проста абвясцілі пра свае намеры такім чынам, што, магчыма, усе адміністрацыі павінны проста абвясціць аб сваіх намерах і паглядзець, дзе ўпадзе фішка.
Але я гляджу на тое, што тут, у Нью-Ёрку, быў Эд Сноўдэн. AT&T кіруе будынкам, пра які ўсе ведаюць, што гэта будынак АНБ. Гэта проста гіганцкі будынак, і мы павінны рабіць выгляд, што гэта не цэнтр назірання АНБ, але ён тут жа. Гэта велізарна. Здаецца, нічога з гэтага не выйшла. Мы не адмовіліся ад усіх гэтых выкрыццяў, гэтых уцечак інфармацыі.
Фактычна, гэта толькі павялічылася, паколькі большая частка нашага жыцця становіцца ўсё больш і больш лічбавай. І, магчыма, адміністрацыя Трампа ўвесь час была такой грубай прыладай, што на самой справе можа быць прычынай расплаты. Вы ўсё роўна бачыце, што гэта адбываецца?
Ёсць некалькі розных рэчаў, і гэта не зусім праўда, што мы зусім не адступіліся ад гэтага. Адкрыцці Сноўдэна прывялі да некаторых змен у тым, як гэтыя рэчы адбываюцца. І цяпер ёсць - я забыўся, як іх завуць, але яны падобныя на гэтых грамадзянскіх сяброў у судзе FISA, якія будуць прадстаўляць іншы бок па пэўных пытаннях.
І мы бачылі, што некаторыя органы ўлады пэўным чынам абмежаваныя, і яны час ад часу звяртаюцца з просьбай аб паўторным паўнамоцтве, і актывісты вельмі агрэсіўна адштурхоўваюцца і спрабуюць паставіць дадатковыя агароджы. Але што тычыцца больш шырокага пытання, я думаю, што ёсць дзве розныя рэчы. Вы напалову маеце рацыю ў тым, што гэтая адміністрацыя не хітрая і проста кажа ўслых тое, чаго не павінна.
"Мы ваюем з Іранам, мы робім гэта, гэта адбываецца. Мы нават не збіраемся спрабаваць танец".
Такім чынам, што не зрабілі б усе папярэднія адміністрацыі. Але наўпрост пра гэта яны не гаварылісачэнне, асабліва сачэнне за амерыканцамі. Былі намёкі на гэта, але яны не выказаліся так рашуча. Другая палова гэтага больш звязана з пазіцыянаваннем Anthropic і агульным поглядам на штучны інтэлект як на гэтую, магчыма, экзістэнцыяльную тэхналогію, дзе Anthropic заўсёды прадстаўляў сябе так: «Мы ўдумлівыя добрыя хлопцы», і незалежна ад таго, верыце вы ў гэта ці не. У іх такая рэпутацыя: «Мы стараемся рабіць гэта бяспечным спосабам, які паважае чалавецтва і звяртае ўвагу на ўсе гэтыя рэчы». І таму, калі ў вас ёсць гэтае сутыкненне, вось дзе пачынаецца барацьба.
У вас ёсць адміністрацыя Трампа, якая проста хоча мець магчымасць рабіць усё, што яна хоча, каб мець магчымасць рабіць, і яны не далікатныя ў гэтым. І тады ў вас ёсць Anthropic, чыё самаапісанне і яго публічная персона заўсёды такія: «Мы ўважлівыя і паважаем чалавецтва, правы і ўсё гэта». Верагодна, тут і адбылося сутыкненне, таму што Anthropic, як было ясна, некаторы час супрацоўнічаў з Міністэрствам абароны і мае шмат іншых кантрактаў з урадам, якімі ён карыстаўся. Гэта не было праблемай.
Толькі ў гэтых канкрэтных галінах, дзе ўрад імкнуўся пашырыць кантракт, які ў яго быў, вышэйшае кіраўніцтва Anthropic пачало казаць: «Пачакайце, мы павінны пераканацца, што мы не перасякаем гэтыя чырвоныя лініі, якія могуць нанесці шкоду нашай рэпутацыі ўважлівага і бяспечнага пастаўшчыка штучнага інтэлекту».
Я хачу коратка спытаць вас пра сачэнне ў цэлым і, у прыватнасці, пра чацвёртую папраўку Anthropic. Чацвёртая папраўка абвяшчае, што ўрад не можа беспадстаўна абшукваць вас. Лепшы спосаб зразумець чацвёртую папраўку - праслухаць «99 праблем» Джэй-Зі. Так што калі вам трэба зрабіць перапынак і пайсці паслухаць «99 праблем», гэта выдатна. Усё гэта ёсць. Я слухаў гэта, калі вучыўся на юрыдычным факультэце, і гэта мела поўны сэнс.
Але звычайна ўраду патрэбны ордэр на ваш ператрус. І паколькі ўсё большая частка вашага жыцця праходзіць у інтэрнэце, з гэтага ёсць шмат-шмат выключэнняў. Але ідэя заключаецца ў тым, што ім усё роўна павінен быць патрэбны ордэр у Інтэрнэце. Аргумент Anthropic такі: "Ну, штучны інтэлект ніколі не стамляецца. Ён можа ўвесь час шукаць усё. Гэта азначае, што мы проста будзем займацца галоўным назіраннем".
Яшчэ да таго, як з'явіўся штучны інтэлектуальны інтэлект, існавала думка, што ўрад можа абшукаць усё, што вам належыць, ідэя, што ўраду не патрэбны ордэр на абшук усіх вашых рэчаў, існавала. Ідэя, што калі якія-небудзь з вашых даных калі-небудзь выходзілі за межы краіны на кароткую секунду, урад перахопліваў іх там,
Калі я вучыўся ў каледжы, прыкладна ў часы патрыятычнага акта, абмяркоўвалася тое, што яны не збіраюцца шукаць вашы фактычныя дадзеныя, але яны могуць атрымаць метаданыя і толькі метаданыя. Дадзеных аб вашых дадзеных будзе дастаткова, каб заўсёды дакладна вызначыць ваша месцазнаходжанне. І нават гэта занадта далёка. І мы танцавалі, што ўрад можа збіраць? Што дапушчальна? Што ім трэба для бяспекі ўсіх нас, а што занадта далёка? Гэтыя радкі зрушыліся.
Такім чынам, проста коратка апішыце агульную занепакоенасць наконт назірання ў маштабах і дзе мы зараз знаходзімся. Да з'яўлення штучнага інтэлекту ўсё ўскладнялася ў геаметрычнай прагрэсіі.
Тут я павінен прадставіць яшчэ адну канцэпцыю, якую, верагодна, варта было б згадаць раней, але яна важная, якая называецца «дактрынай трэцяга боку». Ідэя чацвёртай папраўкі заключаецца ў тым, што ўрад не можа абшукаць вас і вашы рэчы без ордэра і не можа атрымаць ордэр без верагоднай прычыны таго, што вы здзейснілі нейкае злачынства. Але ёсць такая канцэпцыя, якая з'явілася некалькі дзесяцігоддзяў таму пад назвай дактрына трэцяга боку, якая абвяшчае, што гэта неабавязкова прымяняецца або зусім не прымяняецца да рэчаў, якія не належаць вам, нават калі гэта вашы даныя.
Самай ранняй і відавочнай версіяй гэтага былі тэлефонныя запісы, якія былі ў тэлефоннай кампаніі аб тым, каму вы тэлефанавалі. Тэлефонныя кампаніі не запісвалі вашыя званкі, але яны запісвалі, калі б я вам патэлефанаваў, у тэлефоннай кампаніі быў бы запіс з надпісам: «Майк тэлефануе Нілаю». І некалькі судоў пастанавілі, што ўрад можа пайсці і запытаць гэта, і ім не патрэбны ордэр на гэта, таму што гэта не ператрусвашы дадзеныя, гэта трэці бок, і яны могуць пагадзіцца ў якасці трэцяга боку проста перадаць гэтыя дадзеныя.
Але гэта былі выпадкі з 1960-х і 70-х гадоў, калі было ўстаноўлена, што ўрад можа атрымаць доступ да гэтага без ордэра, калі не было так шмат старонніх дадзеных. Рост камп'ютараў і Інтэрнэту змяніў гэта. Цяпер усё з'яўляецца данымі трэціх асоб. Усё, што мы робім, дзесьці збірае нейкая кампанія і запісвае гэта. Такім чынам, у асноўным усе дадзеныя пра вас, дзе вы знаходзіцеся, з кім размаўляеце, з кім узаемадзейнічаеце, што вы кажаце, што вы робіце, усё гэта ў наш час практычна захоўваецца трэцімі асобамі. Такім чынам, дактрына трэцяга боку ў некаторай ступені праглынула ўсю Чацвёртую папраўку, дзе ўсё, што тычыцца вас, што ёсць у кагосьці іншага, існуе значна ніжэйшы стандарт таго, што ўрад можа зрабіць, каб запытаць гэта.
Каб быць канкрэтным, гэта азначае, што калі мае даныя знаходзяцца ў iCloud, урад можа звярнуцца ў Apple і атрымаць мае даныя з iCloud, не паведамляючы мне?
Яны могуць запытаць гэта. Яны могуць лёгка запытаць яго без ордэра. Тады кампанія мае ўласныя правы і можа вызначыць, што яна хоча зрабіць з гэтым запытам. Яны могуць проста адмовіцца ад гэтага. Яны могуць, як большасць з іх зробіць, калі гэта сур'ёзны запыт, адразу адхіліць запыты або яны могуць папярэдзіць вас і сказаць - і гэта тое, што большасць з іх зробіць - яны папярэдзяць вас і скажуць: "Урад запытвае некаторыя з вашых даных. Вы можаце звярнуцца ў суд і паспрабаваць заблакіраваць іх". У адваротным выпадку яны перададуць вашы даныя праз сем дзён ці што б там ні было.
Зноў жа, гэта залежыць. Калі гэта крымінальнае расследаванне, то можа быць нейкі загад аб кляпе, пра які кампанія не мае права паведамляць вам. Існуюць самыя розныя сітуацыі, але большасць з іх прадугледжвае меншы ўзровень абароны, які патрабуе чацвёртая папраўка, калі б гэта былі дадзеныя, інфармацыя або што-небудзь у вашым доме.
Колькасць дадзеных, якія вы маеце на чужым воблачным серверы, велізарная, так? Усё, што вы звычайна робіце ў Інтэрнеце зараз, пэўным чынам захоўваецца або запісваецца на чужых серверах. Урад знайшоў такі спосаб абыйсці чацвёртую папраўку і сказаць: "Ну, гэта насамрэч не ваша. Гэта належыць Amazon. Мы можам пагаварыць з Amazon", і Amazon павінен стаяць у цэнтры гэтага працэсу і казаць: "Мы вынайшлі іншы працэс, каб неяк абараніць людзей".
Я гляджу на гэта - і калі я асвятляў першыя дактрынальныя справы трэціх асоб, якія ахоплівалі воблачныя сэрвісы, і ўрад працягваў перамагаць, тады я, па сутнасці, ператварыўся ў Джокера. Я падумаў: «Усё гэтае, што мы прыкідваемся пра тэкстуалізм і простае [чытанне], нічога з гэтага не значыць, таму што мы проста кідаемся ў бэкдор, выкарыстоўваючы гэты старажытны закон у даных кожнага».
А потым я гляджу на гэта, гляджу на Anthropic і кажу: «Ну, гэта тая ж мадэль». Гэта прыватная кампанія, якая кажа: "Добра, мы разумеем вашу пазіцыю. Мы разумеем, што вы пераасэнсавалі закон, каб азначаць гэта, і мы збіраемся ўвесці нейкі працэс паміж вамі, нашым інструментам і дадзенымі амерыканцаў, якія праходзяць праз наш сэрвіс". Мне проста цікава, ці бачыце вы гэтую паралель паміж Anthropic і Amazon і Azure і любымі іншымі воблачнымі сэрвісамі, якія захоўваюць так шмат нашых даных.
Так, хоць тут ёсць некалькі важных удакладненняў, якія робяць гэта крыху іншым. І насамрэч - я думаю, што The New York Times ўпершыню апублікавала гэтую справаздачу - галоўны пункт, які быў найбольш важным для Anthropic, тычыўся менавіта даных, сабраных з камерцыйных службаў, і немагчымасці выкарыстоўваць гэтыя даныя Claude, што і з'яўляецца гэтай праблемай з пункту гледжання даных трэціх асоб. Але я хачу ўдакладніць асноўную розніцу паміж тым, пра што мы толькі што гаварылі раней, з Amazon або іншымі трэцімі асобамі, якія размяшчалі вашы даныя, гэта былі выпадкі, калі яны размяшчалі вашы даныя непасрэдна з-за таго, дзе яны знаходзяцца ў экасістэме.
Што тычыцца Клода, гэта не значыць, што хто-небудзь хвалюецца, што АНБ правярае, як вы карыстаецеся Клодам. Гаворка ідзе пра тое, што яны выходзяць і атрымліваюць даныя трэціх бакоў ад Amazon або, хутчэй за ўсё, ад нейкіх падступных, схаваных брокераў даных, якія паказваюць рэкламу на вашых тэлефонах і ведаюць ваша месцазнаходжанне, вашы інтарэсы і падобныя рэчы. А потым уводзіць гэта ў сістэмунад якім потым будзе працаваць Клод. Гэта тое, у чым Anthropic сапраўды не хацеў удзельнічаць. Такім чынам, дзе б або як бы ўрад ні збіраў гэтыя даныя ад трэцяга боку, Anthropic сказаў: «Мы не хочам, каб наш інструмент выкарыстоўваўся для гэтых даных».
Вядома, што Apple супрацьстаіць ФБР з просьбай зрабіць бэкдор у iPhone, і Apple адказвае «не», і яны супрацьстаяць Трампу. І ёсць частка таго, як працуе наша сістэма, у якой буйныя прыватныя кампаніі могуць сказаць «не» ўраду ад імя сваіх кліентаў. І гэта адчувалася такім жа чынам, што Apple, зноў жа, не будзе рабіць бэкдор на iPhone, або буйныя воблачныя пастаўшчыкі кажуць: «Ёсць невялікі працэс, які вы павінны прайсці, перш чым атрымаць індывідуальныя дадзеныя».
Тут здаецца, што Anthropic кажа: «Мы не проста збіраемся рабіць масавы аналіз дадзеных, якія вы атрымалі ад іншых бакоў, таму што гэта вядзе да кругласутачнага масавага назірання за амерыканцамі, і мы не хочам гэтага рабіць». Аднак для гэтай адміністрацыі гэта здаецца занадта далёкім мостам. Ці ёсць ад гэтага вяртанне?
Будзем бачыць. У мінулым, калі гэта адбывалася - і гэта здаралася шмат разоў з большасцю буйных тэхналагічных кампаній, у нейкі момант яны казалі, што нешта занадта далёка - што звычайна ідзе ў суд. Пойдуць прадпрыемствы ў суд, або адміністрацыя ў суд, і будзе нейкая судовая бітва.
Бэкдор у iPhone - выдатны таму прыклад. Справа дайшла да суда, і яны змагаліся, але так і не прыйшлі да высновы, таму што ФБР у рэшце рэшт проста ўручную ўзламала iPhone і не хацела, каб рашэнне суда сапсавала гэта ў будучыні.
Але ў гэтым выпадку эскалацыя і тое, што адрозніваецца ад тых мінулых сітуацый, заключаецца ў тым, што замест таго, каб проста звярнуцца ў суд, адміністрацыя Трампа назвала «рызыку ў ланцужку паставак», што проста вар'яцтва. Гэтая ідэя, што гэты інструмент, які быў распрацаваны, каб спыніць патэнцыйных замежных зламыснікаў ад пастаўкі тэхналогій, якія затым могуць уключыць схаваныя інструменты назірання ў большы набор тэхналогій, якія могуць быць забароненыя. Прымяніць гэта да кампаніі, якая базуецца ў ЗША, у асноўным за палітыку этыкі, здаецца сапраўдным, рэальным злоўжываннем гэтым інструментам.
Нават гэты інструмент у пэўным сэнсе быў сумніўным, але вы маглі б зразумець штуршок, які стаіць за ім, калі вы гаворыце пра кітайскую сеткавую фірму ці нешта ў гэтым духу. Тут гэта не мае сэнсу. Такім чынам, рэакцыя на гэта выходзіць далёка за рамкі звычайнай у гэтым выпадку. Вы маглі бачыць, што традыцыйна будзе нейкая судовая справа, і кожны з бакоў можа пачаць яе, і гэта будзе проста бітва аб тым, як можна прымяніць кантракт.
Але гэта не тое, што тут адбываецца. Гэтая адміністрацыя фактычна кажа: «Калі вы не дасце нам абсалютна ўсё, што мы хочам, калі вы не наладзіце свае інструменты так, як мы хочам, каб яны працавалі, то мы фактычна паспрабуем знішчыць увесь ваш бізнес». І гэта эскалацыя.
Ёсць адна частка гэтага, на якой я хачу скончыць, і гэта самая галактычна-разумная версія гэтага. FIRE, якая з'яўляецца прапагандысцкай групай свабоды слова, апублікавала паведамленне ў блогу непасрэдна перад тым, як мы пачалі запісваць, сцвярджаючы, што прымус Anthropic ствараць інструменты, якія ён не жадае ствараць, з'яўляецца парушэннем свабоды слова, што гэта так званае прымусовае выказванне. Тут шмат гісторыі. Тут ёсць глыбокая гісторыя Verge і Techdirt, у пустазеллі, экзістэнцыяльны крызіс.
Але ў асноўным гэта зводзіцца да ідэі, што код - гэта гаворка, што напісанне кода для кампутара - гэта форма мовы, і ўрад не можа прымусіць вас гэта рабіць, і з гэтага вынікае цэлая куча рэчаў. Вы прымаеце гэты аргумент, што прымус Anthropic ствараць інструменты, якія ён не хоча ствараць, з'яўляецца вымушанай прамовай?
Так, я сапраўды думаю, што гэта даволі пераканаўча. Пераканаўчая вымушаная гаворка. Але не, я думаю, што гэта цікавы аргумент. Гэта той, які быў крыху далей у спісе пытанняў, пра якія я думаў. Відавочна, што я больш засяроджваўся на пытаннях чацвёртай папраўкі, але я думаю, што аргумент FIRE не памылковы. Мы бачылі гэта ў іншых кантэкстах. Гэта таксама ўзнікла ў пытанні бэкдораў, калі мы спрабуем убудаваць бэкдоры ў зашыфраваныя сістэмы.
Кампаніі вызначана паднялі ПершыяПапраўка сцвярджае, што "гэта вымушаная гаворка, каб прымусіць нас напісаць такі код". Гэта слушны аргумент. Зноў жа, гэта можа быць тое, што суды, напэўна, менш ахвотна вырашаюць першапачаткова, калі яны могуць вырашыць гэтыя праблемы іншым спосабам. Але я рады, што FIRE зрабіў гэты пост, і я думаю, што гэта цікавы і пераканаўчы аргумент.
Так, проста прырода другой адміністрацыі Трампа такая, што гэта такі грубы інструмент, амаль упэўнены, што мы будзем атакаваць усе праблемы адразу.
Так, кожная папраўка да Біля аб правах павінна быць аспрэчана ў той ці іншай форме з кожным магчымым пытаннем.
[Смяецца] Круці кола.
Я ўпэўнены, што мы можам змясціць парушэнне Трэцяй папраўкі дзесьці тут.
Вядома, так. Клод цяпер павінен жыць у вашым доме. Дакладна. Гэта будзе выдатна. Мы робім [папраўкі] адзін, трэці, чатыры і сем. Мы набіраем іх.
Майк, гэта было выдатна. Я не магу паверыць, што вы не былі на шоу раней. Гэта было выдатна. Ты павінен хутчэй вярнуцца.
Безумоўна. Кожны раз, калі ты хочаш мяне.
Ёсць пытанні ці каментарыі да гэтага эпізоду? Пішыце нам па адрасе decoder@theverge.com. Мы сапраўды чытаем кожны ліст!
