Бүгін біз Клодты жасаушы Anthropic-тегі беймаза, тез қозғалатын жағдай туралы айтып отырмыз, ол қазір Пентагонмен өте жағымсыз құқықтық шайқаста жатыр.
Артқа және артқа қарай күрделі, бірақ бірнеше күн бұрын Пентагон Anthropic-ті жеткізу тізбегіне қауіп төндірді деп санады, ал Anthropic үкімет «әлемдегі ең жылдам дамып келе жатқан жеке компаниялардың бірі жасаған экономикалық құндылықты жоюға тырысу» арқылы өзінің Бірінші және Бесінші түзету құқықтарын бұзды деп, бұл тағайындауға қарсы сотқа шағымданды. Мен сізге дәл қазір айта аламын: біз бұл істің бұрмалары мен бұрылыстары туралы алдағы айларда The Verge және декодерде сөйлесетін боламыз.
Бірақ бүгін мен біраз уақыт бөліп, осы жағдайдың бір маңызды элементіне тереңірек үңілгім келді, өйткені бұл бақылаудан шығып кетті: Америка Құрама Штаттары үкіметі бақылауды қалай жүргізеді, бұл бақылауды жүзеге асыруға мүмкіндік беретін заңды орган және неге Anthropic AI-ны одан да көп бақылау үшін пайдаланған кезде заңға бағынатынын айтқан үкіметке сенімсіз болды.
Verge жазылушылары, подкасттарды қай жерде алсаңыз да, жарнамасыз декодерге эксклюзивті қол жеткізе алатыныңызды ұмытпаңыз. Мұнда жүріңіз. Жазылушы емессіз бе? Мұнда тіркелуге болады.
Менің бүгінгі қонағым Майк Масник, Techdirt негізін қалаушы және бас директоры, тамаша және ұзақ жұмыс істейтін техникалық саясат веб-сайты. Майк ондаған жылдар бойы үкіметтің шектен шығуы, цифрлық дәуірдегі құпиялылық және басқа да қатысты тақырыптар туралы жазып келеді. Ол интернет пен бақылау жағдайының өзара байланысты тәсілдермен қалай өскені туралы сарапшы.
Көрдіңіз бе, заңда үкімет бізді қадағалауға келгенде не істей алады, содан кейін үкімет не істегісі келеді деп айтады. Ең бастысы, үкімет заңның ол жасай алатынын айтқаны бар, бұл көбінесе заңды оқитын кез келген қарапайым адам ойлайтын нәрсеге керісінше.
Осы эпизодта Майктың егжей-тегжейлі түсіндіріп жатқанын естисіз, біз бақылауға келгенде АҚШ үкіметінің сөзін қабылдай алмаймыз және қабылдамауымыз керек. Мемлекеттік заңгерлердің бақылауды күрделі тәсілдермен кеңейту үшін «нысана» сияқты қарапайым сөздердің түсіндірмелерін бұрмалауының тым көп тарихы бар - бұл әдетте тек заңгерлік ортада алаңдаушылық тудыратын және ұшқыш Эд Сноуденнің NSA-ның он жылдан астам уақыт бұрын ашқаны сияқты үлкен қарама-қайшылықтар болған кезде ғана көпіршетін жолдар.
Бірақ Трамп дәуірінде саясат жасауда нәзік немесе күрделі ештеңе жоқ - сондықтан Anthropic-те біз нақты уақыт режимінде, интернетте, блог жазбаларында және X ранттарында, сондай-ақ пресс-конференцияда технология мен бақылау туралы өте қатты, өте ашық пікірталас жүргізіп жатырмыз. Мұның оң және теріс жақтары бар, бірақ мұның бәрін түсіну үшін сіз шынымен тарихты білуіңіз керек.
Майк екеуміз осы эпизодта түсіндіруді мақсат еттік - сіздің AI және үкімет туралы көзқарастарыңыз қандай болса да, бұл эпизод екі тараптың да бақылау жағдайының уақыт өте келе күшейе түсуіне мүмкіндік бергенін көрсетеді. Қазір біз AI-ға келетін болсақ, ең үлкен кеңеюдің шыңында тұрмыз.
Жарайды: Techdirt негізін қалаушы және бас директоры Майк Масник Anthropic, Пентагон және AI бақылауы туралы. Мінеки біз.
Бұл сұхбат ұзақ және анық болу үшін жеңіл өңделген.
Майк Масник, сіз Techdirt негізін қалаушы және бас директорысыз. Декодерге қош келдіңіз.
Мен осында болғаныма қуаныштымын.
Сізді қосқаныма қуаныштымын. Мен сенің бұрын-соңды шоуда болмағаныңа таң қалдым дедім. Сіз екеуміз көптен бері бір-бірімізге жазып, пост салып жүрміз. The Verge саясатын қамтудың көп бөлігі Techdirt-те істегендеріңізге қарыздар, содан кейін Anthropic-те болып жатқан жағдай өте күрделі, бірақ сіз ұзақ уақыт бойы қарастырған көптеген тақырыптарды қамтиды. Ақырында осында болғаныңызға қуаныштымын.
Бұл күрделі тақырып, бірақ мен оны зерттегеніме қуаныштымын.
Мен сіздермен назар аударғым келетін нәрсе - Anthropic үкіметпен келісім-шартқа отыратыны немесе OpenAI бұл келісімшартты алатын-алмайтыны туралы мәліметтер емес. Оның орнына, мен оны жазып алған уақыт пен адамдар оны тыңдаған уақыт арасында твиттер көп болатынына және бұрынғыдан басқаша болатынына сенімдімін.
Менің назар аударғым келетін нәрсе - Anthropic шынымен белгілеген екі қызыл сызықтың бірі ғана. Солардың біріавтономды қару, бұл өзіндік күрделілік деңгейі. Қару-жарақ бар ма, жоқ па, әлде Ресей Украина соғысында орналастырған ба, ол жақтағы заң біршама жаңадан пайда болды.
Мұнда көптеген идеялар бар, мен оны бір жаққа қалдырғым келеді, өйткені бұл өз кестесіне көбірек көңіл бөледі деп ойлаймын. Мен көп уақыт жұмсағым келетін тағы бір қызыл сызық - бұл жаппай бақылау. Мұнда жаппай бақылау туралы өте көп заң бар. Тарихы көп, даулы тарих көп. Эдвард Сноуденнің бүкіл сипаты жаппай бақылау төңірегіндегі қайшылықтарға байланысты бар.
Мұның бәрі - менің ойымша, сіз мұны жариялаған адамсыз - Ұлттық қауіпсіздік агенттігі (ҰҚА), ол қорғаныс департаментінің бөлігі болып табылады, оны қазір қандай да бір себептермен соғыс департаменті деп атауға тура келеді.
[Күлді] Бізге ештеңе істеудің қажеті жоқ.
[Күлді] Бізде жоқ. Бұл Америкада солай. Бізге ештеңе істеу керек емес. Бірақ NSA негізінен ауызекі тілдегі көптеген сөздердің нені білдіретінін қайта анықтады: «Біз жай ғана бақылау жасай аламыз». Содан кейін адамдар жай ғана бақылау жүргізіп жатқанын білгенде жиі жанжал туындайды. Сондықтан сахнаны сол жерге орнатыңыз, мен сізді барлық жолды артқа айналдырғым келмейді, бірақ бұл үлгі қайталанғанына көп уақыт болды.
Бұл сіздің қаншалықты тереңдікке барғыңыз келетініне байланысты, бірақ қысқа нұсқасы 11 қыркүйектен кейінгі әлемде анық, АҚШ Патриот актісін қабылдады, ол үкіметтің бақылаумен айналысу мүмкіндігіне ие болды, бұл бізді болашақтағы лаңкестік қауіптерден қорғау үшін болуы керек еді. Уақыт өте келе бұл қызықты жолдармен түсіндірілді және бұл үшін кейбір шектеулер болды. Бізде FISA соты да болды, ол арнайы сот болып табылады, ол барлау қауымдастығы мен олардың қызметін қарауы керек, бірақ дәстүрлі түрде біржақты сот болды. Тек бір тарап өз ісін сол сотқа жеткізе алады және бәрі жасырын түрде жүргізіледі.
Белгісіз көп нәрсе бар. Сосын мұның бәрінде Рональд Рейганға дейін баратын тағы бір бөлік болды, ол 12333 Атқарушы бұйрық болып табылады, ол барлау мәліметтерін жинау үшін жол жүру ережелерін белгілеу туралы болып табылады.
Сонымен, сізде осы үш заң жинағы бар - жақсы, бірнеше заңдар жинағы - және халыққа оқуға болатын бөлімдер біздің үкіметтің және әсіресе NSA-ның қадағалау тұрғысынан не істей алатыны туралы белгілі бір нәрселерді айтқан сияқты. Ағылшын тілінің қарапайым сөздігімен оқығанда, оның табиғаты сіз бен бізде бар және түсінетін болса, біз NSA-ның американдықтарды бақылау мүмкіндігі өте шектеулі екеніне сенеміз, егер олар американдық адамды бақылап жатқанын түсінсе, олар дереу тоқтап, дөрекі сөздер айтуы керек және осының барлығын өшіруі керек.
Біраз уақыттан бері бұл шынымен болмай жатыр деген қауесеттер болды және кеңестер болды, атап айтқанда сенатор Рон Уайден Сенатқа шығып: «Бұл жерде бірдеңе дұрыс емес, мен сізге нені айта алмаймын» деп қатты дауыстады немесе тыңдауларда ол барлау қызметкерлерінен: «Сіз американдықтар туралы жаппай деректер жинап жатырсыз ба немесе жоқсыз ба?» Деп сұрайтын.
Бұл шенеуніктер не бұрысады, не кейбір жағдайларда өтірік айтады. Менің ойымша, бұл 2012 жылы сол кезде Ұлттық барлаудың директоры болған Джеймс Клэппермен бір тыңдау болды, оған осы мәселе бойынша тікелей сұрақ қойылды. Ол негізінен: «Жоқ, біз американдықтар туралы деректерді жинамаймыз» деді. Бұл Эд Сноуденді мәліметтерді, оның Гленн Гринвальдқа, Бартон Геллманға және Лаура Пойтрасқа жібергені туралы есептерді шығаруға шабыттандырған нәрсенің үлкен бөлігі болды. Осының барлығынан біз NSA-ның өз сөздігі бар екенін анықтай бастадық, ол сіз бен біз қолданатын сөздіктен біршама ерекшеленеді, сондықтан олар сөздерді олардың қарапайым ағылшын тіліндегі мағынасынан өзгеше тәсілдермен түсіндіре алады, соның ішінде негізгі сөз сияқты сезілетін «мақсат» сияқты сөздер. Мұның не екенін кең түсіну, теориялық тұрғыдан алғанда, олар тек АҚШ азаматтары емес адамдарға бағытталған, менің ойымша, бұл сөз тіркесі.
Бірақ уақыт өте келе түсіндірілді: бұл адам туралы кез келген нәрсе, шетелдік адамға қатысты кез келген нәрсе қазір әділ ойын, тіпті егер бұл бір адамның қарым-қатынасы болса да.АҚШ адамы. Егер сіз екеуміз бір-бірімізге хат жазсаңыз және шетелдік адамды атап өтсек, бұл енді NSA үшін жинауға, сақтауға және сақтауға арналған әділ ойын.
Мұның екінші бөлігі бар. Мен Рональд Рейганның бірінші 12333 атқарушы бұйрығын айттым, ол технология уақыт өте келе өзгерген сайын және интернет кеңейген сайын NSA-ға шетелдік коммуникацияларға қол жеткізуге тиімді мүмкіндік берді, бірақ ол АҚШ-ты бір жерде қалдыруы мүмкін кез келген байланыстарды қамтиды. Егер мен сізге SMS жіберіп жатсам және АҚШ-тан шыққан талшықты-оптикалық кабель арқылы Калифорниядан хабарлама келсе, NSA АҚШ-тан тыс жерде орналасқан бөлігін түртіп, сол ақпаратты, тіпті егер ол АҚШ ішінде сізге жіберілсе де, жинай алады.
Содан кейін NSA бұл ақпаратты АҚШ адамдарында болса да сақтай алады және олар кейінірек бұл туралы арнайы іздеулер жүргізе алады, кейде «артқы есік іздеулері» деп аталады. Олар бұл ақпаратты жинады, олар бірінші кезекте жинамауы керек еді, бірақ олар оны сақтай алды. Және олар мұны құпия ұстаймыз деп уәде берді, олар қызғылт ант берді, бірақ егер олар іздестіру жүргізіп, сіз немесе мен шетелдік адамды атап өткенімізді анықтаса, кенеттен олар онымен қалағанын жасауы әділ ойын болды.
Жалпы алғанда, бұл федералды үкімет негізінен АҚШ-тан тыс жерде кез келген ақпаратты жинай алатын әлемге айналды. Егер бұл АҚШ-тың екі адамы арасында болса да, егер олар американдық емес біреуді атап өтсе немесе тіпті тұспалдаса, кенеттен бұл әділ ойын болып табылады. Бұдан біз NSA американдық адамдарға тыңшылық жасамайтынын мәлімдейтін және жария түрде мәлімдеген АҚШ тұлғаларын жаппай бақылаудың бір түрі болып көрінетін нәрсені алдық.
Осы жағдайға қалай жеттік? Бұл нәрестенің көптеген қадамдары. Сіз 2012 жылы Джеймс Клэппер туралы айттыңыз, бұл Обама әкімшілігі. Сіз Рональд Рейганды айттыңыз, бұл 1980 жылдар. Біз бұл жерде демократтар мен республикашылардан өтіп жатырмыз.
Террорға қарсы соғыс Джордж Буш әкімшілігінде, ал 11 қыркүйек пен Патриот актісі Джордж Буш әкімшілігінде болды. Екі партияның президенттері кезінде, екі партияның съездері кезінде көптеген келеңсіздіктер бар. Бұл қалай болды?
Оның ең қарапайым түрі - үлкен лаңкестік шабуыл болған кезде ешкім, әрине, президент болғысы келмейді, өйткені бұл оларды жаман етеді. Олар американдықтарды да қорғағысы келетіні анық, солай емес пе? Бұл олардың жұмысының бір бөлігі. Егер сізде негізінен қараңғылықта жұмыс істейтін барлау қауымдастығы болса, барлау қауымдастықтары осылай істейді және олар сізге келіп: «Ей, егер біз осы ақпаратқа қол жеткізе алсақ, бұл террористік шабуылдың алдын алуға өте пайдалы болар еді».
Бұл шындық, барлау қауымдастығы бұл ақпаратты жақсы жұмыс істейтіндей пайдалана алатын жағдайлар болуы мүмкін. Бірақ біз теориялық тұрғыдан алғанда, біз бағынуымыз керек АҚШ Конституциясы бар заңдар қоғамымыз. Бірақ бұл әкімшіліктен кейінгі әкімшілікте, тағы да, республикашыл және демократ, өте ақылды және мұқият қарап, былай деп айтатын заңгерлерге мүмкіндік берді: «Егер біз осылайша позицияны ұстанатын болсақ немесе осылай білдірсек немесе біз мұны түсіндірсек, осылайша біз қалағанымызды аламыз және техникалық тұрғыдан заңды бұзбаймыз немесе төртінші түзетуді техникалық бұзбаймыз».
Болжам әрқашан: «Біз заңды бүгіп немесе заңның түсіндірмесін бүгіп аламыз және мұны ешкім шынымен ешқашан көрмейді немесе ешкім мұны ешқашан көрмейді, сондықтан біз одан құтыламыз».
Маған қатты секіретін екі нәрсе бар. Біреуі, сіз бен біз сот шешімдерін — апелляциялық сот шешімдерін және Жоғарғы сот шешімдерін көп оқимыз. Біздің Жоғарғы Сотта біздің жарғыларымыз бен заңдарымыздағы сөздерді тура мағынада қалай түсіндіруге болатыны туралы дау бар.
Мен оған тым көп тоқталмаймын, бірақ мен жалпы айтқанда, сіз жай ғана беттегі сөздерді оқып, олардың айтқанын орындауыңыз керек деген идея Құрама Штаттардағы заңды түсіндірудің басым бөлігі болып табылады. Оңға немесе солға, екеуі де айтады. Олар бұл шын мәнінде нені білдіретіні туралы өте эзотерикалық жақсы нүктелер туралы дауласады. Бірақ сіз жай ғана осы сөздерді оқып, олардың айтқанын жасай алуыңыз керек, бұл қол жетімді емес, солай емес пе?
Біз сіз мүмкін болатын нәрсенің кем дегенде бірінші өтуіне қондықтекстуализм деп атайды. Екі әкімшіліктің заңгерлері біздің еліміздегі заңды шешімдерді қабылдаудың басым режимінен қалайша алшақтайды? Екі тараптың да судьялары бұл ең болмағанда бірінші қадам деп келіседі.
Мен нақты жауапты білгім келеді, бірақ менің ойымша, бұл дәлелді дәлелдеу, солай ма? Адвокат ретінде сіз өз клиентіңізді қорғау үшін осындасыз және табысқа жету - егер сіз оны сәтті деп атасаңыз - біздің заң жүйеміз әдетте осы мәселелер бойынша дауласатын әр түрлі тараптар бар, онда судьяның рөлі - қай тараптың дұрыс екенін анықтау.
Барлау қауымдастығымен және оны орнатудағы мәселелердің бірі - сізде мұндай қарсылас жағдайдың болмауы. Бұл бір тарапқа олар айтып отырған дәлелді негіздеуді жеңілдетеді, өйткені ешкім оны кері қайтармайды. Сіз мұны басқа лаңкестік шабуылдан, ұлттық қауіпсіздікке қатысты кез келген нәрседен, тіпті сізде FISA соты болған жағдайда да, жалпы қорқынышпен біріктіресіз - FISA соты көптеген жылдар бойы тиімді резеңке мөр ретінде белгілі болғанын айтқым келеді.
Мен нақты сандарды ұмытып қалдым, бірақ белгілі бір жағдайларды қадағалауға мүмкіндік беру үшін FISA сотына жіберілген өтініштердің 99 пайыздан астамы қанағаттандырылды және 99 пайызы тым көп деп айту оңай. Әлбетте, сотқа шағым түсіргендер таңдап, таңдайды. Олар, негізінен, мүлдем ақылсыз шағымдарды әкелмейді. Бірақ бұл қарама-қайшылықсыз және «біз мұны істеуіміз керек» деп ойлайтын немесе әкімшілік тарапынан «біз мұны істеуіміз керек» деп айтатын өте күшті уәжделген адамдар тобымен олар мұны істеудің жолдарын табады. Міне, сіз уақыт өте келе осы жерде аяқталасыз.
Бұл процеске бір кездері оянып, өзіне: «Балам, біз «нысана» сөзін өзіміз қалаған кез келген нәрсені білдіретіндей етіп қайта анықтадық» деп айтқан кез келген адам болды ма?
[Күлді] Сізде көптеген құжаттарды жария еткен Эд Сноуден болғаны анық. Сізде 2014 жылы The Washington Post газетіне мақала жазған Джон Непьер Тай болды, ол 12333 Жарлықтың түсіндірмесін ашты және бұл нақты мәселе екенін айтты. Сізде бұл туралы айтқан басқа адамдар бар, бірақ көбінесе барлау қауымдастығы мәселелері бойынша әкімшілікте жұмыс істейтін адамдар барлау қауымдастығының пікіріне сәйкес сатып алынады, бұл басты мақсат елді жаман нәрседен қорғау болып табылады. Мұны істеудің ең жақсы жолы - мүмкіндігінше көп ақпарат алу.
Иә, көбірек ақпаратқа ие болу оларға бір нәрсені ертерек анықтауға немесе маңызды нәрсені табуға мүмкіндік береді, бірақ бұл дұрыс емес болуы мүмкін деген дәлелге түсіністікпен қарау оңай. Тым көп ақпарат алу тым аз ақпарат сияқты жаман болуы мүмкін, себебі ол көбінесе пайдалы ақпаратты, бір нәрсені анықтау үшін қажет ақпаратты жасыруы мүмкін.
Сонымен қатар, бізде АҚШ бар. Біріншіден, Конституция және бізде теориялық тұрғыдан ықтимал себепсіз жаппай бақылауға жол бермеу үшін себептер бар. Заңның үстемдігіне сенетін ел ретінде біз осыған сай болуымыз керек, және мұның бәрі қараңғыда болған кезде, сіз оны ұмытып кетесіз.
Бұл мені Антропикке әкеледі. Anthropic - бұл ең алдымен кәсіпорын. Олар үкіметте жақсы, олар бұлшық етті, оларда кейбір нәрселерді жақсы білетін адамдар жұмыс істейді. Олар Пит Хегсетке: «Біз барлық заңды пайдалануды қалаймыз» деген сөзіне қарап, түсініктеменің екі деңгейіне түсіп: «Сіздің нақты сеніміңіз бұл сөздер олардың бет-әлпетінде нені білдіретінін білдірмейді. Сондықтан «барлық заңды пайдаланулар» тым үлкен, сондықтан біз әсіресе жаппай бақылаудың айналасында кейбір қоршаулар қойғымыз келеді», - деді.
Тағы да, мен басқа қызыл сызық болатын автономды қаруларды кесіп тастаймын, бірақ әсіресе жаппай бақылау кезінде Дарио Амодей: "Біз тым көп жасай аламыз. Бұл тым қауіпті. Бұл Төртінші түзетуді бұзу."
Ондағы шиеленіс «сіз бір нәрсені айтатын осы заңдарды ұстанатыныңызды айтасыз, ал енді осынша уақыт өткеннен кейін олар мүлдем басқа нәрсені білдіреді және біз оның бір бөлігі болғымыз келмейді». Бұлкүрес. Мен мұны Сэм Альтманмен салыстырғым келеді, ол: «Біз барлық заңды түрде қолданамыз» деп сөйлеп, содан кейін «Міне, біз ұстанатын барлық заңдар» деп ұзақ хабарлама жариялайды.
Альтман NSA-ның бұл нәрселерді қалай түсіндіргенін және оны сапарға шығарып салғанын білмеген сияқты. Содан бері ол оны кері қайтара бастады - тіпті біз жазып жатқан кезде де, мен твиттер көп болатынына және барлығының ұстанымдары өзгергеніне сенімдімін. Бірақ Альтман оны баяу артқа қайтарды, бірақ OpenAI олардың бетіндегі жарғыларды оқып, олардың айтқандарына сенуге бел буған сияқты. Оқиғаларды да осылай түсіндіресіз бе?
Екі мүмкіндік бар және бұл олардың бірі. Бірі, ол халық көп жылдар бойы ойнағандай ойнады. Альтернативті теория және мен олардың қайсысының дұрыс екенін білмеймін, ол немесе OpenAI-дағы кейбір заңгерлер - менің ойымша, өте сауатты және өте білімді адамдар - мұны білетін, бірақ олар NSA бірнеше онжылдықтар бойы ойнаған ойынды ойнай алады деп ойлады, өйткені олар осы нәрселерді айтып, содан кейін сөздерді айтады, бірақ олар нақты түсіндірмелерді аша алмайды. Сонымен, Сэм «Бізде Anthropic сияқты қызыл сызықтар болды, ал үкімет бұған керемет болды» деген мәлімдеме жасайды.
Менің ойымша, Сэм Альтман Anthropic-те екі қызыл сызық және OpenAI-де үш қызыл сызық бар деп айтты, және үкімет онымен жақсы болды, және бұл көптеген адамдардың басын тырнап тастады. Бірақ менің ойымша, бұл не Сэм Альтман және оның айналасындағы адамдар іс жүзінде бұл нәрселердің қалай жұмыс істейтінін түсінбеді немесе түсінді, және олар жұртшылық білмейді, сондықтан олар онымен құтыла алады деп ойлады.
Тағы бір ойға келетін нәрсе - тағы да AI жаңа және жаңа технологияларға келу соншалықты қызықтырады, өйткені бұл алғашқы әсерлердің проблемалары. «Бұрын бұл туралы ешкім ойланбаған», бірақ шындық бәрі бұл туралы ұзақ уақыт бойы ойлайды. Мүмкін, мұнда жаңа нәрсе AI емес, бірақ Трамптың екінші әкімшілігі ешкім назар аудармайтын құпия сотқа өз әрекеттерін ақтау үшін ешкім ешқашан оқымайтын адвокаттықпен айналысудың орнына, жай ғана емес.
Олар соншалықты күрделі емес және олар әрқашан барлығына тыңшылық жасайтындарын айтады. Олар жай ғана өз ниеттерін жариялады, мүмкін барлық әкімшіліктер өздерінің ниеттерін жариялап, чиптердің қайда түсетінін көруі керек.
Бірақ мен Нью-Йоркте Эд Сноуденнің болғанына қарап отырмын. AT&T барлығы NSA ғимараты деп білетін ғимаратты басқарады. Бұл жай ғана алып ғимарат, және біз оны NSA бақылау орталығы емес деп көрсетуіміз керек, бірақ ол дәл сол жерде. Бұл үлкен. Бұлардың ешқайсысы ештеңеге келмеген сияқты. Барлық осы ашулар, бұл ағып кетулер, біз оны жоққа шығарған жоқпыз.
Шындығында, бұл біздің өміріміздің көп бөлігі цифрлық сипатқа ие болған сайын өсті. Мүмкін, Трамп әкімшілігі әрқашан соншалықты дөрекі құрал болуы мүмкін, бұл есеп беруге себеп болуы мүмкін. Сіз мұны бәрібір ойнап тұрғанын көресіз бе?
Онда бірнеше түрлі нәрселер бар және біз бұл материалдан мүлдем бас тартпағанымыз дұрыс емес. Сноуденнің ашқандары бұл оқиғалардың қалай болатынында кейбір өзгерістерге әкелді. Ал қазір бар - мен олардың не деп аталатынын ұмытып қалдым, бірақ олар FISA сотындағы белгілі бір мәселелер бойынша екінші тарапты ұсынушы ретінде әрекет ететін азаматтық адал адамдар сияқты.
Біз кейбір биліктің белгілі бір тәсілдермен шектелгенін көрдік және олар жиі қайта рұқсат алу үшін келеді, ал белсенділер артқа шегінуге және тағы бірнеше қоршау қоюға тырысуда өте агрессивті болды. Бірақ үлкен сұраққа, менің ойымша, екі түрлі нәрсе бар. Сіз бұл әкімшіліктің нәзік емес екенін және ол болмауы керек нәрселерді дауыстап айтатынын жартысы дұрыс.
«Біз Иранмен соғысып жатырмыз, біз мұны істеп жатырмыз, болып жатыр. Біз тіпті биді де сынап көрмейміз».
Бұрынғы барлық әкімшіліктер жасамайтын жолмен. Бірақ олар бұл туралы нақты айтқан жоққадағалау, әсіресе американдықтарды қадағалау. Бұл туралы кеңестер болды, бірақ олар бұл туралы қатты шыққан жоқ. Оның екінші жартысы Anthropic-тің орналасуына және AI-ға осы ықтимал экзистенциалды технология ретіндегі жалпы көзқарасына көбірек қатысты болуы керек, мұнда Anthropic әрқашан өзін «Біз ойластырылған жақсы жігіттерміз» деп көрсетті және сіз бұл мәселеге сенесіз бе, жоқ па. Олардың мынандай беделі бар: «Біз мұны қауіпсіз, адамзатты құрметтейтін және осының бәріне назар аударатын жолмен жасауға тырысамыз». Осылайша сізде бұл қақтығыс болған кезде, күрес басталады.
Сізде Трамп әкімшілігі бар, ол жай ғана қолынан келгеннің бәрін жасай алғысы келеді, және олар бұл туралы нәзік емес. Содан кейін сізде өзін-өзі сипаттау және оның қоғамдық тұлғасы әрқашан: «Біз ойланамыз және біз адамзатты, құқықтарды және осының барлығын құрметтейміз» деген Антропик бар. Бұл қақтығыстың орын алған жері болуы мүмкін, өйткені Anthropic, белгілі болғандай, қорғаныс министрлігімен біраз уақыт жұмыс істеді және ол қолданған үкіметпен басқа да көптеген келісімшарттары бар. Бұл проблема болған жоқ.
Үкімет келісім-шартты кеңейтуге ұмтылған осы нақты салаларда ғана Anthropic-тің жоғары басшылығы: «Күте тұрыңыз, біз ойластырылған, қауіпсіз AI провайдері ретінде біздің беделімізге нұқсан келтіруі мүмкін осы қызыл сызықтарды кесіп өтпейтінімізге көз жеткізуіміз керек» деп айта бастады.
Мен сізден жалпы бақылау туралы, атап айтқанда Anthropic компаниясының Төртінші Түзету мәселесі туралы қысқаша сұрағым келеді. Төртінші түзету үкімет сізді негізсіз іздей алмайды дейді. Төртінші түзетуді түсінудің ең жақсы жолы - Джей-Зінің «99 проблемасын» тыңдау. Егер сізге үзіліс жасап, «99 мәселені» тыңдау керек болса, бұл өте жақсы. Оның бәрі сонда. Мен оны заң мектебінде оқып жүргенімде тыңдадым және бұл өте мағыналы болды.
Бірақ үкімет сізді іздеуге ордер қажет. Сіздің өміріңіз Интернетте өтіп жатқан сайын, бұған қатысты көптеген ерекшеліктер бар. Бірақ идея олар әлі де онлайн ордер қажет болуы керек. Антропиктің дәлелі: "Жақсы, AI ешқашан шаршамайды. Ол барлық уақытта бәрін іздей алады. Бұл біз жай ғана басты бақылау жүргіземіз дегенді білдіреді."
Дегенмен, AI пайда болғанға дейін, үкімет сізге тиесілі барлық нәрсені іздей алады деген идея, үкіметке сіздің барлық заттарыңызды іздеуге ордер қажет емес деген идея болды. Егер сіздің деректеріңіздің кез келгені елден қысқа уақытқа шығып кетсе, үкімет оны сол жерде ұстайды деген идея,
Мен колледжде оқып жүрген кезімде, Патриот актісі кезінде олар сіздің нақты деректеріңізді іздемейді, бірақ олар тек метадеректер мен метадеректерді ала алады деген пікірталас болды. Сіздің деректеріңіз туралы деректер сізді барлық уақытта дәл табу үшін жеткілікті болады. Тіпті бұл тым алыс. Біз үкімет не жинай алады деген биді орындадық? Не рұқсат етілген? Барлығымызды қауіпсіз ұстау үшін оларға не қажет және не тым алыс? Бұл сызықтар қозғалды.
Сонымен, масштабтағы бақылау туралы жалпы алаңдаушылықты және біз қазір қайда екенімізді қысқаша сипаттаңыз. AI жағдайына дейін бәрін экспоненциалды түрде күрделендірді.
Бұл жерде мен басқа тұжырымдаманы енгізуім керек, бәлкім, бұрын айтылған болуы керек, бірақ бұл маңызды, ол «үшінші тарап доктринасы» деп аталады. Төртінші түзетудің идеясы - үкімет сізді немесе сіздің заттарыңызды ордерсіз тінте алмайды және сіз қандай да бір қылмыс жасағаныңыздың ықтимал себептерінсіз ордер ала алмайды. Бірақ ондаған жылдар бұрын пайда болған үшінші тарап доктринасы деп аталатын тұжырымдама бар, ол сіздің деректеріңіз болса да, сізге тиесілі емес нәрселерге міндетті түрде қолданылмайтынын немесе мүлдем қолданылмайтынын айтады.
Мұның ең ерте және ең айқын нұсқасы телефон компаниясында сіз қоңырау шалған телефон жазбалары болды. Телефон компаниялары сіздің қоңырауларыңызды жазбады, бірақ мен сізге қоңырау шалсам, олар жазып алды, телефон компаниясында «Майк Нилайға қоңырау шалды» деген жазба болады. Көптеген соттар анықтаған нәрсе - бұл үкімет барып, мұны талап ете алады және оларға бұл үшін ордер қажет емес, өйткені бұл іздеу емес.сіздің деректеріңіз болса, бұл үшінші тарап және олар үшінші тарап ретінде осы деректерді жай ғана беруге келісе алады.
Бірақ бұл 1960 және 70-ші жылдардағы жағдайлар болды, онда үкімет бұған үшінші тарап деректері көп болмаған кезде ордерсіз қол жеткізе алатыны анықталды. Компьютерлер мен интернеттің өсуі мұны өзгертті. Енді бәрі үшінші тарап деректері. Біз жасайтын барлық нәрсені бір компания бір жерде жинайды және оның жазбасы бар. Сонымен, сіз туралы, сіз қайда екеніңіз, кіммен сөйлесетініңіз, кіммен қарым-қатынасыңыз, не айтып жатқаныңыз, не істеп жатқаныңыз туралы барлық деректер бүгінде үшінші тараптардың қолында. Сонымен, үшінші тарап доктринасы бүкіл Төртінші Түзетуді белгілі бір дәрежеде жұтып қойды, мұнда сіз туралы басқа біреуде бар нәрседе үкімет оны сұрау үшін не істей алатыны үшін әлдеқайда төмен стандарт бар.
Нақтырақ айтсақ, бұл менің деректерім iCloud-та болғанда, үкімет Apple-ге барып, маған айтпай-ақ менің деректерімді iCloud-тан ала алады ма?
Олар сұрай алады. Олар оны ордерсіз оңай сұрай алады. Сонда компанияның өз құқықтары бар және сол өтінішпен не істегісі келетінін анықтай алады. Олар жай ғана бас тарта алады. Олар, егер бұл елеулі өтініш болса, олардың көпшілігі сияқты, сұрауларды қабылдамау мүмкін немесе олар сізді ескертуі мүмкін және олар айта алады - және олардың көпшілігі осылай жасайды - олар сізді ескертеді және: "Үкімет кейбір деректеріңізді сұрап жатыр. Сотқа барып, оларды бұғаттауға болады." Әйтпесе, олар сіздің деректеріңізді жеті күн ішінде немесе кез келген жағдайда береді.
Тағы да, бұл байланысты. Егер бұл қылмыстық тергеп-тексеру болса, онда компанияның сізге айтуына рұқсат етілмейтін қандай да бір тұйықтау бұйрығы болуы мүмкін. Жағдайлардың барлық түрлері бар, бірақ олардың көпшілігі сіздің жеке үйіңіздегі деректер немесе кез келген ақпарат немесе кез келген нәрсе болса, Төртінші түзету талап ететін қорғаныс деңгейінен азырақ.
Басқа біреудің бұлттық серверіндегі деректердің көлемі өте үлкен, солай емес пе? Қазір интернетте жасайтын әрбір әрекетіңіздің сақтық көшірмесі қандай да бір жолмен немесе басқа біреудің серверлерінде жазылған. Үкімет Төртінші түзетуді айналып өтудің осылайша әдісін тапты және: "Ал, бұл шын мәнінде сіздікі емес. Ол Amazon компаниясына тиесілі. Біз Amazon компаниясымен сөйлесе аламыз" және Amazon бұл процестің ортасында тұрып: "Біз адамдарды қорғау үшін тағы бір процесті ойлап таптық" деп айтуы керек.
Мен бұған қараймын - мен бұлттық қызметтерді қамтитын үшінші тарап доктринасының алғашқы істерін қамтыған кезде және үкімет жеңе берді, мен Джокерге айналдым. Мен: «Біз текстуализм және қарапайым [оқу] туралы айтып жатқан нәрселердің бәрі ештеңені білдірмейді, өйткені біз осы ежелгі заңды әркімнің деректеріне қолдана отырып, артқы есікке ат күшін саламыз».
Сосын мен бұған қарап, Anthropic-ке қарап: «Ал, бұл бірдей үлгі» деп айтамын. Бұл жеке компания: "Жарайды, біз сіздің ұстанымыңызды түсінеміз. Біз сіз осы нәрсені білдіретін заңды қайта түсіндіріп алғаныңызды түсінеміз және біз сіздің, біздің құралымыз бен қызметіміз арқылы өтетін американдықтардың деректерінің арасына қандай да бір процесті енгізетін боламыз". Мен антропикалық және Amazon және Azure арасындағы және біздің деректеріміздің көп бөлігін сақтайтын кез келген басқа бұлттық қызметтер арасындағы параллельді көресіз бе деп ойлаймын.
Иә, бұл жерде маңызды бірнеше түсіндірулер бар, олар мұны сәл өзгеше етеді. Ал шын мәнінде - менің ойымша, бұл репортажды The New York Times бірінші болды - Anthropic үшін ең маңызды болған негізгі тармақ коммерциялық қызметтерден жиналған деректер және Клодты осы деректерде пайдалана алмау туралы болды, бұл үшінші тарап деректері тұрғысынан дәл осы мәселе. Бірақ мен бұған дейін Amazon немесе сіздің деректеріңізді орналастыратын басқа үшінші тараптар туралы сөйлескеніміз арасындағы негізгі айырмашылықты түсіндіргім келеді, олар экожүйеде орналасқан жеріне байланысты деректеріңізді тікелей орналастырған жағдайлар болды.
Клодпен бірге NSA сіздің Клодты пайдалануыңызға қарайтынына ешкім алаңдамайды. Бұл олардың шығуы және Amazon-дан үшінші тарап деректерін алуы немесе телефондарыңызда жарнамаларды көрсететін және сіздің орналасқан жеріңізді, қызығушылықтарыңызды және сол сияқты нәрселерді білетін жасырын, жасырын деректер брокерлері туралы. Содан кейін оны жүйеге беруСодан кейін Клод жұмыс істейтін болады. Бұл Anthropic шынымен бір бөлігі болғысы келмеді. Сондықтан үкімет бұл деректерді үшінші тараптан қай жерде немесе қалай жинаса да, Anthropic: «Біз бұл деректерде біздің құралдың пайдаланылуын қаламаймыз» деді.
Apple әйгілі ФБР-дан iPhone-ға бэкдор қоюды сұрайды, ал Apple «жоқ» дейді және олар Трампқа қарсы тұрады. Біздің жүйенің жұмысының бір бөлігі бар, онда ірі жеке компаниялар өз тұтынушыларының атынан үкіметке «жоқ» деп жауап береді. Бұл Apple тағы да оны iPhone-ға бэкдор қоймауы немесе үлкен бұлт провайдерлері: «Жеке деректерді алудан бұрын өтуіңіз керек біраз процесс бар» деген сияқты сезілді.
Бұл жерде Anthropic: «Біз сіз басқа тараптардан алған деректерге жаппай талдау жасамаймыз, өйткені бұл американдықтарды тәулік бойы жаппай бақылауға алып келеді және біз мұны қаламаймыз» деп айтқан сияқты. Дегенмен бұл әкімшілік үшін тым алыс көпір сияқты. Бұдан қайтып келетіндер бар ма?
Біз көреміз. Бұрын бұл орын алған кезде - және бұл көптеген ірі технологиялық компанияларда жиі болған, бір сәтте олар бірдеңені тым алыс көпір деп айтты - бұл әдетте сотқа барады. Компаниялар сотқа жүгінеді немесе әкімшілік сотқа жүгінеді және қандай да бір сот шайқасы болады.
iPhone телефонындағы бэкдоор - бұл тамаша мысал. Бұл сотқа барды және олар онымен күресті, бірақ олар ешқашан қорытындыға келмеді, өйткені ФБР ақырында iPhone-ды қолмен бұзды, содан кейін сот шешімі оны болашақта бұзғысы келмеді.
Бірақ бұл жағдайда, шиеленісу және бұрынғы жағдайлардан айырмашылығы, бұл жай ғана сотқа барудың орнына, Трамп әкімшілігі бұл «жеткізу тізбегі тәуекелі» белгісін жасады, бұл жай ғана ақылсыз. Бұл әлеуетті шетелдік зиянкестердің технологияны жеткізуін тоқтатуға арналған бұл құрал, содан кейін жасырын бақылау құралдарын үлкенірек технологиялық стекке орналастырады, оларға тыйым салынуы мүмкін. Мұны АҚШ-тағы компанияға негізінен этика саясатын жүргізу үшін қолдану бұл құралды шынайы, шынайы теріс пайдалану сияқты.
Тіпті бұл құрал кейбір жағынан күмәнді болды, бірақ сіз қытайлық желілік фирма немесе осы бағыттағы бір нәрсе туралы сөйлескен кезде оның артындағы серпіні түсінуге болады. Бұл жерде мағынасы жоқ. Демек, бұған реакция әдетте бұл жағдайда көрінетін нәрседен асып түседі. Сіз дәстүрлі түрде қандай да бір сот ісі болатынын және кез келген тарап оны бастай алатынын және бұл келісімшартты қалай қолдануға болатыны туралы шайқас болатынын көре аласыз.
Бірақ бұл жерде болып жатқан нәрсе емес. Бұл әкімшілік тиімді түрде айтады: «Егер сіз бізге қалағанның бәрін бермесеңіз, құралдарыңызды біз қалағандай жұмыс істеу үшін орнатпасаңыз, онда біз сіздің бүкіл бизнесіңізді тиімді түрде жоюға тырысамыз». Және бұл эскалация.
Мұның бір бөлігі бар, мен оны аяқтағым келеді және бұл оның галактикаға негізделген ең жақсы нұсқасы. Сөз бостандығын қорғау тобы болып табылатын FIRE блог жазбасын біз жазуды бастамас бұрын, Anthropic құрастырғысы келмейтін құралдарды жасауға мәжбүрлеу сөз бостандығын бұзу болып табылады және бұл мәжбүрлі сөйлеу деп аталатын нәрсе деп дәлелдеді. Мұнда көп тарих бар. Мұнда кейбір терең Verge және Techdirt, арамшөптер, экзистенциалды-дағдарыс тарихы бар.
Бірақ бұл, негізінен, код - сөйлеу, компьютерге код жазу - бұл сөйлеу түрі және үкімет сізді мұны істеуге мәжбүрлей алмайды және одан көп нәрсе шығады деген идеяға келеді. Сіз Anthropic жасағысы келмейтін құралдарды жасауға мәжбүрлеу мәжбүрлі сөйлеу болып табылады деген дәлелді сатып аласыз ба?
Иә, менің ойымша, бұл өте әсерлі. Мәжбүрлі мәжбүрлі сөйлеу. Бірақ жоқ, бұл қызықты дәлел деп ойлаймын. Бұл мен ойлаған мәселелер тізімінен сәл төменірек болды. Мен, әрине, Төртінші түзету мәселелеріне көбірек көңіл бөлдім, бірақ менің ойымша, FIRE дәлелі дұрыс емес. Біз мұны басқа контексттерде көрдік. Бұл шифрланған жүйелерге бэкдорларды құруға тырысу тұрғысынан да бэкдор мәселесінде пайда болды.
Компаниялар сөзсіз бірінші көтердіТүзетуде: «Бізді осындай кодты жазуға мәжбүр ететін мәжбүрлі сөйлеу» деп мәлімдейді. Бұл орынды дәлел. Бұл тағы да, соттар бұл мәселелерді басқа жолмен шеше алатын болса, бастапқыда шешуге дайын емес болуы мүмкін. Бірақ мен FIRE бұл жазбаны жасағанына қуаныштымын және бұл қызықты әрі тартымды дәлел деп ойлаймын.
Иә, бұл Трамптың екінші әкімшілігінің табиғаты - бұл соншалықты өткір құрал, біз барлық мәселелерге бірден шабуыл жасайтынымыз анық.
Иә, Құқықтар туралы Биллдің әрбір түзетуі кез келген мәселемен қандай да бір түрде немесе басқа түрде даулануы керек.
[Күлді] Дөңгелекті айналдырыңыз.
Үшінші түзетуді бұзғанымызды осы жерде бір жерге жатқыза алатынымызға сенімдімін.
Әрине, иә. Клод қазір сіздің үйіңізде тұруы керек. Дәл. Бұл тамаша болады. Біз [түзетулерді] бір, үш, төрт және жеті жасап жатырмыз. Біз оларды жинаймыз.
Майк, бұл керемет болды. Сіз бұрын шоуда болмағаныңызға сене алмаймын. Бұл тамаша болды. Тезірек қайту керек.
Мүлдем. Мені қалаған кезде.
Осы эпизод туралы сұрақтар немесе пікірлер? Бізге decoder@theverge.com мекенжайы бойынша хабарласыңыз. Біз шынымен әрбір электрондық поштаны оқимыз!
