Бүгүн биз Клоддун жаратуучусу Антропиктеги башаламан, тез өзгөрүп жаткан кырдаал жөнүндө сөз кылып жатабыз, ал азыр Пентагон менен абдан жаман мыйзамдуу күрөштө.
Артка жана алдыга татаал, бирок бир нече күн мурун Пентагон Anthropicти жеткирүү чынжырынын тобокелдиги деп эсептеген жана Anthropic өкмөт "Дүйнөдөгү эң тез өнүгүп жаткан жеке компаниялардын бири тарабынан түзүлгөн экономикалык баалуулукту жок кылууга умтулуу менен Биринчи жана Бешинчи Түзөтүү укуктарын бузган" деп, бул белгини талашып сотко кайрылган. Мен сизге азыр айта алам: биз бул иштин бурулуштары жана бурулуштары жөнүндө The Vergeде жана бул жерде келерки айларда Декодерде сүйлөшөбүз.
Бирок, бүгүн мен бир аз убакыт бөлүп, бул жагдайдын бир маанилүү элементине тереңирээк токтолгум келди, анткени бул көзөмөлдөн чыгып кетти: Америка Кошмо Штаттарынын өкмөтү кантип көзөмөл жүргүзөт, бул көзөмөлдүн болушуна уруксат берген юридикалык бийлик жана эмне үчүн Anthropic өкмөткө ишенбөөчүлүк көрсөттү.
Verge жазылуучулары, подкасттарыңызды кайдан алсаңыз дагы, жарнамасыз декодерге эксклюзивдүү мүмкүнчүлүк ала турганыңызды унутпаңыз. Бул жакка барыңыз. Абонент эмеспи? Бул жерден катталсаңыз болот.
Менин бүгүнкү коногум Майк Масник, Techdirt компаниясынын негиздөөчүсү жана башкы директору, мыкты жана узак мөөнөттүү технологиялык саясат веб-сайты. Майк ондогон жылдар бою өкмөттүн аша чаап кетиши, санариптик доордогу купуялуулук жана башка тиешелүү темалар жөнүндө жазып келет. Ал интернет жана байкоочу мамлекеттин бири-бири менен байланышта кантип өсүп кеткени боюнча эксперт.
Көрдүңүзбү, мыйзамда өкмөт бизди аңдыганга келгенде эмне кыла алат деп жазылган, анан өкмөт эмне кылгысы келет. Эң негизгиси, өкмөт мыйзамдын эмне кыла алат деп айтканы бар, бул мыйзамды жөн эле окуп жүргөн кадимки адам ойлогон нерсеге карама-каршы келет.
Майктын бул эпизоддо биз АКШнын өкмөтүнө байкоо жүргүзүүгө келгенде анын сөзүн кабыл ала албай турганыбызды жана болбошубуз керек экенин майда-чүйдөсүнө чейин түшүндүрүп жатканын уга аласыз. Мамлекеттик юристтердин "максат" сыяктуу жөнөкөй сөздөрдүн чечмелөөнү татаал жолдор менен бурмалоо тарыхы бар - бул адатта юридикалык чөйрөлөрдө тынчсызданууну туудурган ыкмалар жана ышкыбоз Эд Сноудендин NSAнын он жыл мурун ачыкка чыгарган негизги ачылыштары сыяктуу чоң талаш-тартыштар болгондо гана.
Бирок Трамптын доорунда саясатты иштеп чыгууда эч кандай тымызын же татаал эч нерсе жок - антропик менен биз реалдуу убакытта, интернетте, блог билдирүүлөрүндө жана X ранттарында, ошондой эле пресс-конференцияда технология жана көзөмөл жөнүндө абдан катуу, абдан ачык талкууларды өткөрүп жатабыз. Мунун оң жана терс жактары бар, бирок мунун баарын түшүнүү үчүн тарыхты билишиңиз керек.
Майк экөөбүз бул эпизоддо түшүндүрүүнү максат кылдык - AI жана өкмөткө болгон көз карашыңыз кандай болбосун, бул эпизод эки тарап тең көзөмөл абалынын убакыттын өтүшү менен чоңоюп, чоңоюшуна жол бергенин ачык-айкын көрсөтүп турат. Эми AI жөнүндө сөз болгондо, биз эң чоң кеңейүүнүн алдында турабыз.
Макул: Techdirt негиздөөчүсү жана башкы директору Майк Масник Anthropic, Пентагон жана AI көзөмөлү боюнча. Мына.
Бул интервью узундугу жана тактыгы үчүн жеңил редакцияланган.
Майк Масник, сиз Techdirt компаниясынын негиздөөчүсү жана башкы директорусуз. Декодерге кош келиңиз.
Мен бул жерде болгонума кубанычтамын.
Мен сени менен болгонуна кубанычтамын. Мен жөн гана сиздин буга чейин шоуга келбегениңизге таң калдым деп айттым. Сиз экөөбүз көптөн бери бири-бирибиздин айланабызда жазып, пост жазып жүрөбүз. The Verge саясатын чагылдыруунун көп бөлүгү Techdirtте жасаган иштериңизге карыз, андан кийин Anthropic менен болуп жаткан окуялар абдан татаал, бирок сиз көптөн бери камтып жүргөн темаларды камтыйт. Акыры бул жерде экениңизге кубанычтамын.
Бул теманын татаал башаламандыгы, бирок мен аны казып жатканыма кубанычтамын.
Мен сиз менен көңүл бургум келген нерсе, Anthropic өкмөт менен келишим түзөбү же OpenAI ал келишимди алабы же жокпу деген майда-чүйдө эмес. Тескерисинче, биз муну жаздырган убакыт менен адамдар аны укканга чейин, твиттер көп болуп, мурункудан көп нерселер башкача болот деп ишенем.
Мен көңүл бургум келген нерсе - Anthropic чындап койгон эки кызыл сызыктын бири гана. Алардын бириавтономиялуу курал-жарактар, бул езунун татаал децгээли. Ал жактагы мыйзам курал-жарактар барбы же жокпу, же Орусия Украинадагы согушта буга чейин жайгаштырганбы же жокпу, бир аз жаңыраак.
Бул жерде бир топ идеялар бар, мен аны четке кагып койгум келет, анткени ал өз графигине көбүрөөк көңүл бурат деп ойлойм. Мен көп убакыт короткум келген башка кызыл сызык - бул массалык көзөмөл. Ал эми бул жерде массалык көзөмөл жөнүндө бир топ мыйзам бар. Тарыхы көп, талаштуу тарыхы көп. Эдвард Сноудендин бүт мүнөзү массалык байкоонун тегерегиндеги талаш-тартыштардан улам бар.
Мунун баары келип чыгат - менимче, сиз муну жарыялаган адамсыз - Коргоо министрлигинин курамына кирген Улуттук коопсуздук агенттиги (NSA), биз азыр эмнегедир Согуш департаменти деп аташыбыз керек.
[Күлүп] Биз эч нерсе кылышыбыз керек эмес.
[Күлүп] Бизде жок. Бул Америкада бул чындык. Биз эч нерсе кылышыбыз керек эмес. Бирок NSA негизинен англис тилиндеги көптөгөн сөздөрдүн маанисин кайра аныктап, "Биз жөн гана байкоо жүргүзө алабыз" дегенди билдирет. Анан көп учурда адамдар жөн гана аңдып жүргөнүн билишкенде, чатак чыгат. Ошентип, жөн гана сахнаны ошол жерге орнотуңуз, мен сизди толугу менен артка түрткүм келбейт, бирок бул үлгү кайталанганына көп убакыт болду.
Бул канчалык тереңге баргыңыз келгениңизге жараша болот, бирок кыска версия 11-сентябрдан кийинки дүйнөдө, албетте, АКШ Патриот Актыны кабыл алды, ал өкмөткө байкоо жүргүзүү мүмкүнчүлүгүнө ээ болгон, ал бизди келечектеги террордук коркунучтардан коргоо үчүн болушу керек болчу. Убакыттын өтүшү менен бул кызыктуу жолдор менен чечмеленди жана бул боюнча кээ бир чектөөлөр бар. Бизде FISA соту да болгон, ал атайын сот болуп, чалгындоо коомчулугун жана алардын ишмердүүлүгүн карап чыгууга тийиш, бирок адатта бир жактуу сот болуп келген. Бир гана тарап өз ишин ошол сотко бере алат жана мунун баары жашыруун жүргүзүлөт.
Белгисиз көп нерселер бар. Анан булардын бардыгында Рональд Рейганга чейин созулган дагы бир бөлүк бар болчу, ал 12333-аткаруу буйругу, чалгындоо маалыматын чогултуу үчүн жолдо жүрүү эрежелерин аныктайт имиш.
Демек, сизде ушул үч мыйзам топтому бар - бир нече мыйзамдар - жана аткаруу бийлигинин буйругу, аны коомчулукка, сиз окуй турган бөлүктөрүндө биздин өкмөт жана өзгөчө NSA байкоо жүргүзүү жагынан эмне кыла ала тургандыгы жөнүндө белгилүү нерселерди айтып жаткандай сезилет. Жөнөкөй англис сөздүгү менен окуганда, анын табияты сизде жана менде бар жана түшүнөт, биз NSAнын америкалыктарды көзөмөлдөө мүмкүнчүлүгү өтө чектелген деген ишенимге ээ болобуз, чындыгында, алар америкалыктарды аңдып жатышканын түшүнүшсө, алар дароо токтоп, ыплас сөздөрдү айтышы керек жана башка маалыматтарды жок кылышы керек.
Бир аз убакыттан бери бул чындап эле болбой жатат деген имиштер болгон жана ишараттар болгон, атап айтканда сенатор Рон Уайден Сенаттын алдына чыгып: "Бул жерде бир нерсе туура эмес болуп жатат жана мен сизге эмнени айта албайм" деп катуу үндөдү же угууларда чалгындоо кызматкерлеринен: "Сиз америкалыктар жөнүндө массалык маалымат чогултуп жатасызбы же жокпу?"
Ал чиновниктер же четтеп кетишет, же кээ бир учурларда ачыктан-ачык калп айтышат. Менин оюмча, бул 2012-жылы ошол кезде Улуттук чалгындоонун директору болгон Джеймс Клэппер менен болгон бир угуу болду, ал жерде бул боюнча түздөн-түз сурашты. Ал негизинен: "Жок, биз америкалыктар жөнүндө маалыматтарды чогултпайбыз" деди. Бул Эд Сноуденди Гленн Гринвальдга, Бартон Геллманга жана Лаура Пойтраска да ачыкка чыгарган маалыматтардын ачыкка чыгышына түрткү берген чоң бөлүгү болгон. Мунун бардыгынан биз NSAнын өз сөздүгү бар экенин, ал сиз жана мен колдонгон сөздүктөн бир аз башкача экенин, ошондуктан алар сөздөрдү алардын англис тилиндеги жөнөкөй маанисинен башка жолдор менен чечмелей аларын, анын ичинде негизги сөз сыяктуу сезилген “максат” сыяктуу сөздөрдү чечмелей аларын таба баштадык. Бул эмне экенин кеңири түшүнүү, теориялык жактан алганда, алар АКШнын адамдары болбогон адамдарды гана бутага алышы керек, менимче, бул сөз.
Бирок убакыттын өтүшү менен ал адам жөнүндө айтылгандардын баары, чет өлкөлүк адам жөнүндө болгон нерсе азыр адилеттүү оюн болуп саналат, ал тургай, бул адамдын байланышы болсо дагы.АКШ адамы. Демек, эгер сиз экөөбүз бири-бирибизге жазышып, чет өлкөлүк адамды айтсак, бул NSA үчүн чогултуу, сактоо жана сактоо үчүн адилет оюн.
Мунун экинчи бөлүгү бар. Мен Рональд Рейгандын биринчи 12333 Аткаруучу буйругун айттым, ал технология убакыттын өтүшү менен өзгөрүп, интернет өскөн сайын, NSAга чет элдик байланыштарды колдонууга эффективдүү жол ачкан, бирок ага АКШдан бир жакка кетип калышы мүмкүн болгон бардык байланыштар камтылган. Ошентип, эгер мен сизге SMS жазып жатсам жана Калифорнияда менден АКШдан чыгып кеткен оптикалык була кабели аркылуу билдирүү келип калса, NSA АКШдан тышкаркы бөлүгүн таптап, ал маалыматты чогултушу мүмкүн.
Андан кийин NSA бул маалыматты АКШ адамдарында болсо да сактай алат жана алар кийинчерээк бул боюнча атайын издөөлөрдү жүргүзө алышат, кээде "арткы издөөлөр" деп аталат. Алар биринчи кезекте чогултулбашы керек деп эсептеген бул маалыматты чогултушту, бирок алар аны сактап калышты. Анан алар муну купуя сактайбыз деп убада кылышты, ант беришти, бирок эгер алар издеп жүрүп, сиз же мен чет өлкөлүк адамды айтып жатканыбызды табышса, күтүлбөгөн жерден алар каалагандай кылып коюшу адилеттүү оюн болду.
Жалпысынан алганда, бул федералдык өкмөт негизинен АКШдан тышкары жерде тийе турган бардык маалыматты чогулта турган дүйнөгө айланды. Бул толугу менен эки америкалык адамдын ортосунда болсо да, алар америкалык эмес бирөөнү айтып же кыйытып коюшса, күтүлбөгөн жерден бул адилеттүү оюн болуп саналат. Ошондон биз NSA америкалык адамдарды тыңчылык кылбайт деп ырастаган жана ачык айткан америкалык адамдарды массалык түрдө көзөмөлдөөнүн бир түрү болуп көрүнгөн нерсени алдык.
Кантип ушул даражага жеттик? Бул кошумча наристе кадамдары көп. Сиз 2012-жылы Жеймс Клэпперди айткансыз, бул Обаманын администрациясы. Сиз Рональд Рейганды айттыңыз, бул 1980-жылдар. Биз бул жерде демократтар менен республикачылардан өтүп жатабыз.
Террорчулукка каршы согуш Джордж Буштун администрациясында, 11-сентябрь жана Патриоттук акт Жорж Буштун администрациясында болгон. Эки партиянын президенттеринин тушунда, эки партиянын курултайларынын астында бир топ жаман нерселер бар. Бул кантип болду?
Мунун эң жөнөкөй түрү – чоң теракт болуп турганда эч ким, албетте, эч ким президент болгусу келбейт, анткени бул алардын көрүнүшүн начарлатат. Албетте, алар америкалыктарды да коргогусу келет, туурабы? Бул алардын ишинин бир бөлүгү. Эгерде сизде чалгындоо коомчулугу караңгыда иштеп жаткан болсо, анткени чалгындоо жамааттары ушундай кылышат жана алар сизге келип: "Эй, эгер биз бул маалыматка кире алсак, бул террордук чабуулдун алдын алууда абдан пайдалуу болмок."
Бул чындык, чалгындоо коомчулугу бул маалыматты жакшы иштеген жол менен колдоно алган учурлар болушу мүмкүн. Бирок биз теориялык жактан алганда, биз баш ийишибиз керек болгон АКШнын Конституциясы бар мыйзамдар коомубуз. Бирок бул администрациядан кийин администрациянын, дагы, республикачыл жана демократтардын, абдан акылдуу юристтерге ээ болушуна мүмкүндүк берди жана алар: "Эгерде биз ушундай позицияда болсок же мындай деп билдирсек же муну чечмелесек, анда биз каалаган нерсеге ээ болобуз жана техникалык жактан мыйзамды бузбайбыз же Төртүнчү Түзөтүүнү техникалык жактан бузбайбыз".
"Биз мыйзамды ийитип же мыйзамды чечмелей алабыз жана муну эч ким эч качан көрө албайт, же кам көргөн эч ким муну эч качан көрбөйт, ошондуктан биз андан кутулабыз" деген божомол болгон.
Мага чындап секирген эки нерсе бар. Биринчиси, сиз экөөбүз тең соттун чечимдерин — апелляциялык соттун чечимдерин жана Жогорку соттун чечимдерин көп окуйбуз. Ал эми биздин Жогорку Сотто биздин уставдарыбыздагы жана мыйзамдарыбыздагы сөздөрдү сөзмө-сөз чечмелеп берүү боюнча талаш-тартыш жүрүп жатат.
Мен ага анчалык деле барбайм, бирок мен жалпысынан айтаар элем, сиз жөн гана барактагы сөздөрдү окуп, алардын айткандарын аткарышыңыз керек деген идея Кошмо Штаттарда мыйзамдык чечмелөөнүн басымдуу штаммы болуп саналат. Оң же сол, экөө тең айтышат. Алар бул чындыгында эмнени билдирерин абдан эзотерикалык жакшы жактары жөнүндө талашышат. Бирок бул сөздөрдү окуп, алардын айткандарын аткарууга жөндөмдүү болушуңуз керек, туурабы?
Биз, жок эле дегенде, сиз мүмкүн болгон биринчи өтүүгө кондуктекстализм деп аташат. Эки администрациянын юристтери биздин өлкөдө мыйзамдуу чечимдерди кабыл алуунун үстөмдүк кылган режиминен кантип алыстап жатышат? Эки тараптын тең судьялары бул эң жок дегенде биринчи кадам экенине макул.
Мен так жоопту билгим келет, бирок бул жүйөлүү ой жүгүртүү деп ойлойм, туурабы? Юрист катары, сиз кардарыңызды жана ийгилигиңизди коргоо үчүн ошол жердесиз - эгер аны ийгилик деп атасаңыз - биздин укуктук системабыз карама-каршы кырдаалга негизделет, мында сизде ар кандай тараптар бул нерселер боюнча талашып-тартышып жатат, мында судьянын ролу тарыйт жана кайсы тараптын чындыгында туура экенин аныктоо.
Чалгындоо коомчулугунун жана аны орнотуудагы көйгөйлөрдүн бири - бул сизде мындай карама-каршы кырдаал жок. Бул бир тарапка алар айтып жаткан аргументти актоону жеңилдетет, анткени аны эч ким артка кайтарбайт. Сиз муну дагы бир террордук чабуулдан, улуттук коопсуздукка байланыштуу бардык нерседен коркуу менен айкалыштырасыз, жада калса сизде FISA соту болгон учурларда да - FISA соту көп жылдар бою эффективдүү резина мөөрү болгон үчүн белгилүү болгон.
Мен так сандарды унутуп калдым, бирок FISA сотуна белгилүү бир жагдайларды көзөмөлдөө үчүн кайрылган арыздардын 99 пайыздан ашыгы канааттандырылган жана 99 пайызын айтуу оңой эле, албетте, өтө көп. Сотко доомат койгондор, албетте, тандап, тандап жатышат. Алар, негизинен, таптакыр жинди дооматтарды алып келбейт. Бирок бул карама-каршы аспектсиз жана "биз муну кылышыбыз керек" деп ойлогон же администрация тарабынан "биз муну кылышыбыз керек" деп ойлогон адамдардын тобу менен, алар муну жасоонун жолдорун табышат. Ал эми сиз убакыттын өтүшү менен аяктайт.
Бул процессте ойгонуп, өзүнө-өзү: "Балам, биз "максат" деген сөздү биз каалаган нерсени түшүндүрө алдык" деп айткан бирөө болду беле?
[Күлүп] Сизде Эд Сноуден болгон, ал бир топ документтерди ачыкка чыгарган. Сизде 2014-жылы The Washington Post гезитине 12333-аткаруу буйругунун интерпретациясын ачып берген Джон Непьер Тай болгон жана бул көңүл буруу керек болгон чыныгы маселе экенин айткан. Сизде булар жөнүндө айткан башка адамдар да бар, бирок көбүнчө чалгындоо коомчулугунда администрациянын ичинде иштеген адамдар чалгындоо коомчулугунун көз карашында сатылып алынат, бул башкы максат - өлкөнү жаман нерседен коргоо. Мунун эң жакшы жолу - мүмкүн болушунча көбүрөөк маалыматка ээ болуу.
Ооба, көбүрөөк маалыматка ээ болуу аларга бир нерсени мурдараак түшүнүүгө же маанилүү бир нерсени табууга мүмкүндүк берет деген аргументке боорукер болуу оңой, бирок, бул чындыкка дал келбеши мүмкүн. Өтө көп маалымат алуу, балким, өтө аз маалымат сыяктуу эле жаман, анткени ал көп учурда чындыгында пайдалуу болгон маалыматты, бир нерсени аныктоо үчүн зарыл болгон маалыматты жашырышы мүмкүн.
Бирок, бизде АКШ бар. Биринчиден, Конституция жана бизде теориялык жактан, ыктымалдуу себепсиз массалык байкоо жүргүзүүгө жол бербөө үчүн себептерибиз бар. Мыйзамдын үстөмдүгүнө ишенген өлкө катары биз ошого ылайык жашашыбыз керек жана мунун баары караңгыда болгондо, сиз муну унутуп каласыз.
Бул мени Anthropicке алып келет. Anthropic биринчи кезекте ишкана компания болуп саналат. Алар өкмөттө жакшы, алар булчуңдарды курушту, аларда бул нерселердин айрымдарын жакшы билген адамдар иштейт. Алар, албетте, Пит Хегсетке карап: "Биз бардык мыйзамдуу колдонууну каалайбыз" деп чечмелөөнүн эки деңгээлине түшүп, мындай дешти: "Сиздин сөзмө-сөз ишенимиңиз боюнча, бул сөздөр алардын бетинде эмнени билдирерин билдирбейт. Демек, "баардык мыйзамдуу колдонуулар" өтө чоң жана биз өзгөчө массалык көзөмөлдүн айланасына бир нече тосмолорду орноткубуз келет ".
Дагы бир жолу, мен башка кызыл сызык болгон автономдуу курал-жарактарды кронштейнге салам, бирок, айрыкча, массалык көзөмөл боюнча, Дарио Амодей ал жерде: "Биз өтө эле көп нерсе кыла алабыз. Бул өтө кооптуу. Бул Төртүнчү Түзөтүүнү бузуу ".
Ал жердеги чыңалуу "сиз бир нерсени айткан бул мыйзамдарга баш ийесиз деп жатасыз жана ушунча убакыт өткөндөн кийин, алар таптакыр башка нерсени билдирет жана биз анын бир бөлүгү болгубуз келбейт". Мына ошолкүрөш. Мен муну Сэм Алтман менен салыштыргым келет, ал: "Биз бардык мыйзамдуу иштерди жасайбыз" деп, анан бул узун билдирүүнү: "Мына, биз бардык мыйзамдарды сактайбыз" деп жарыялайт.
Алтман NSA бул нерселерди кантип кайра чечмелеп, кантип айдап кеткенин билген эмес окшойт. Ошондон бери ал аны артка кайтара баштады - биз жазып жатканыбызда дагы, твиттер көп болуп, ар бир адамдын позициясы өзгөрдү деп ишенем. Бирок Альтман аны акырындык менен артка кайтарып жатат, бирок OpenAI алардын бетиндеги жоболорду окуп, алардын айткандарына ишенип калган окшойт. Окуяларды да ушундай чечмелейсизби?
Эки мүмкүнчүлүк бар, бул алардын бири. Биринчиси, ал коомчулук көп жылдар бою ойногондой ойноп калган. Альтернативдик теория жана мен булардын кайсынысы чын экенин билбейм, ал же OpenAIдеги кээ бир юристтер - менимче, абдан компетенттүү жана абдан билимдүү - муну билишкен, бирок алар NSA бир нече ондогон жылдар бою ойногон оюнду ойной алышат деп ойлошкон, ушуну айтып, анан сөздөрүн айтышса, бирок алар чыныгы интерпретацияны ачып бере алышпайт. Ошентип, Сэм "Бизде Anthropic сыяктуу кызыл сызыктар болгон жана өкмөт муну менен абдан жакшы болду" деген билдирүү менен чыкты.
Чындыгында, менимче, Сэм Альтман Anthropicтин эки кызыл сызыгы жана OpenAIдин үч сызыгы бар деп айтты, жана өкмөт аны менен абдан жакшы болду жана бул көптөгөн адамдардын башын тырмап салды. Бирок менин оюмча, бул же Сэм Альтман жана аны курчап тургандар бул нерселер иш жүзүндө кандайча иштээрин түшүнүшкөн жок, же алар түшүнүштү жана алар жөн гана коомчулук билбейт деп ойлошкон, ошондуктан алар андан кутулууга мүмкүн.
Акылга келген дагы бир нерсе - дагы бир жолу, AI жаңы жана жаңы технологияларга келүү абдан кызык, анткени булар биринчи таасирлердин көйгөйлөрү. "Мурда эч ким эч качан бул жөнүндө ойлонгон эмес", бирок чындыгында баары бул жөнүндө көптөн бери ойлонуп келишкен. Балким, бул жерде жаңы нерсе AI эмес, бирок Трамптын экинчи администрациясы, балким, эч ким эч качан окубай турган, эч ким көңүл бурбаган жашыруун сотко өз аракеттерин актоо үчүн бир топ адвокаттык иштерди жасоонун ордуна, тескерисинче, анчалык деле тымызын эмес.
Алар анчалык татаал эмес жана алар ар дайым бардыгына тыңчылык кылам деп айтып жатышат. Алар жөн гана, балким, бардык администрациялар өз ниеттерин жарыялоосу керек жана чиптер кайда түшкөнүн көрүш керек деп, өз ниеттерин жарыялашты.
Бирок мен Нью-Йоркто Эд Сноуден бар экенин карап жатам. AT&T баары NSA имараты деп билген имаратты иштетет. Бул жөн эле гигант имарат жана биз аны NSA көзөмөл борбору эмес деп ойлошубуз керек, бирок ал ошол жерде. Бул абдан чоң. Булардын эч кимиси эч нерсеге жеткен жок. Бул ачылыштардын бардыгы, бул агып чыгуулар, биз аны четке каккан жокпуз.
Чынында, бул биздин жашообуздун көбү санарипке өткөн сайын көбөйдү. Балким, Трамптын администрациясы ар дайым ушундай одоно курал болгондур, бул чындыгында эсепке алып келген нерсе болушу мүмкүн. Баары бир ойноп жатканын көрүп жатасызбы?
Ал жерде бир нече ар кандай нерселер бар жана биз бул нерседен такыр эле артка чегинген жокпуз деген таптакыр туура эмес. Сноудендин ачыкка чыгышы бул нерселердин кандайча болуп жатканын айрым өзгөрүүлөргө алып келди. Ал эми азыр бар - мен алардын эмне деп аталганын унутуп калдым, бирок алар FISA сотунун ичиндеги жарандык достор сыяктуу, алар белгилүү бир маселелер боюнча экинчи тарапты сунуштайт.
Жана биз кээ бир бийликтердин белгилүү бир жолдор менен чектелгенин көрдүк жана алар бат-баттан кайра авторизацияга келишет жана активисттер артка чегинип, дагы бир нече тосмолорду коюуга аракет кылып жатышат. Бирок чоңураак суроого, менимче, эки башка нерсе бар. Сиз бул башкаруунун тымызын эместигин жана ага болбошу керек нерселерди үн чыгарып айтып жатканы менен туура айтасыз.
"Биз Иран менен согушуп жатабыз, биз муну кылып жатабыз, болуп жатат. Биз бийге да аракет кылбайбыз."
Мурдагы бардык администрациялар жасай албаган жолдор менен. Бирок алар бул тууралуу түз айтышкан жокбайкоо, айрыкча америкалыктарга байкоо жүргүзүү. Бул боюнча кыйытмалар болгон, бирок алар бул боюнча катуу чыккан эмес. Анын экинчи жарымы Anthropicтин позициясы жана AIга бул мүмкүн экзистенциалдык технология катары жалпы көз карашы менен көбүрөөк байланыштуу, мында Anthropic ар дайым өзүн "Биз ойлонгон жакшы балдарбыз" деп көрсөтүп келген жана сиз буга ишенесизби же жокпу. Алардын мындай репутациясы бар: "Биз муну коопсуз, адамзатты сыйлаган жана булардын баарына көңүл бурган жол менен жасоого аракет кылып жатабыз." Ошентип, сизде ошол кагылышуу болгондо, күрөш ошол жерден башталат.
Сизде Трамптын администрациясы бар, ал эмне кылгысы келсе, ошону жасай алгысы келет жана алар бул жөнүндө тымызын эмес. Анан сизде Anthropic бар, анын өзүн сыпаттоосу жана анын коомдук инсандыгы ар дайым: "Биз ойлонобуз жана биз адамгерчиликти, укуктарды жана булардын баарын сыйлайбыз". Кагылышуу дал ушул жерден келип чыккандыр, анткени Anthropic, белгилүү болгондой, Коргоо министрлиги менен бир аз убакыттан бери иштеген жана өкмөт менен башка көптөгөн келишимдерге ээ. Бул көйгөй болгон жок.
Өкмөт келишимди кеңейтүүнү көздөп жаткан ушул конкреттүү аймактарда гана Anthropic компаниясынын жогорку жетекчилиги мындай деп айта баштады: "Күтө туруңуз, биз ойлонулган, коопсуз AI провайдери катары биздин аброюбузга зыян келтире турган кызыл сызыктарды кесип өтпөгөнүбүзгө ынанышыбыз керек."
Мен сизден жалпысынан байкоо жүргүзүү, атап айтканда Anthropicтин Төртүнчү Түзөтүүсү жөнүндө кыскача сурагым келет. Төртүнчү түзөтүү өкмөт сизди негизсиз издей албайт дейт. Төртүнчү Түзөтүүнү түшүнүүнүн эң жакшы жолу - Жей-Зинин "99 көйгөйүн" угуу. Ошентип, эгер сиз тыныгуу алып, "99 көйгөйдү" угушуңуз керек болсо, бул эң сонун. Мунун баары ошол жерде. Мен аны юридикалык факультетте окуп жүргөндө уккам жана анын мааниси чоң.
Бирок сизди издөө үчүн өкмөт негизинен ордер керек. Жана сиздин жашооңуз онлайнга өткөн сайын, буга көптөгөн өзгөчөлүктөр бар. Бирок идея алар дагы эле онлайн ордер керек болушу керек. Антропиктин аргументи: "Жакшы, AI эч качан чарчабайт. Ал ар дайым бардыгын издей алат. Бул биз жөн гана мастер байкоо жүргүзөбүз дегенди билдирет."
Бирок AI пайда боло электе эле, өкмөт сизге тиешелүү нерселердин бардыгын издей алат деген идея, өкмөткө сиздин бардык нерселериңизди издөө үчүн ордер керек эмес деген ой бар болчу. Эгер сиздин маалыматтарыңыздан бир аз убакытка чет өлкөгө чыгып кетсе, өкмөт аны ошол жерден кармап алат деген ой,
Мен колледжде окуп жүргөндө, Патриоттук Актынын убагында, талаш-тартыштар алар сиздин чыныгы маалыматтарыңызды издешпейт, бирок алар метадайындарды жана метадайындарды жалгыз ала алышат. Сиздин дайындарыңыз тууралуу маалымат сизди так аныктоо үчүн жетиштүү болот. Ал тургай бул өтө алыс. Ал эми биз өкмөт эмне чогулта алат бул бий кылып жатабыз? Эмнеге уруксат берилет? Баарыбыздын коопсуздугубуз үчүн аларга эмне керек жана эмнеси өтө алыс? Ошол саптар жылып кетти.
Ошентип, масштабдагы көзөмөл жөнүндө жалпыланган тынчсызданууну жана биз азыр кайда экенин кыскача сүрөттөп бериңиз. AI кырдаалга чейин баарын экспоненциалдуу түрдө татаалдаштырды.
Бул жерде мен дагы бир концепцияны киргизишим керек, балким, мурда айтылган болушу керек болчу, бирок бул маанилүү, ал “үчүнчү тараптын доктринасы” деп аталат. Төртүнчү Түзөтүүнүн идеясы - өкмөт сизди же сиздин буюмдарыңызды ордерсиз тинтей албайт жана кандайдыр бир кылмыш жасаганыңыз үчүн ордер ала албайт. Бирок бир нече ондогон жылдар мурун пайда болгон жана үчүнчү тараптын доктринасы деп аталган концепция бар, анда бул сиздин маалыматтарыңыз болсо да, сизге таандык эмес нерселерге сөзсүз түрдө колдонулбайт же таптакыр колдонулбайт деп айтылат.
Мунун эң алгачкы жана эң ачык версиясы телефондук компанияда сиз чалган адам тууралуу телефон жазуулары болгон. Телефон компаниялары чалууларыңызды жаздырышкан жок, бирок мен сизге чалсам, телефон компаниясында "Майк Нилайга чалып жатат" деген жазуу бар болчу. Ал эми бир нече соттор тарабынан аныкталган нерсе, өкмөт барып, муну талап кыла алат жана аларга бул үчүн ордер керек эмес, анткени бул издөө эмес.Сиздин маалыматтарыңыз, бул үчүнчү тарап жана алар үчүнчү тарап катары ошол маалыматтарды тапшырууга макул боло алышат.
Бирок булар 1960-70-жылдардагы учурлар болчу, анда өкмөт ага ордерсиз кире алат деп аныкталган, ал жерде үчүнчү тараптын маалыматтары көп эмес болчу. Компьютерлердин жана интернеттин өсүшү муну өзгөрттү. Эми баары үчүнчү тараптын маалыматтары. Биз жасаган нерселердин бардыгын кайсы бир компания бир жерде чогултат жана анын жазуусу бар. Ошентип, негизинен, сиз жөнүндө ар бир аз маалымат, сиз кайда экениңиз, ким менен сүйлөшкөнүңүз, ким менен баарлашып жатканыңыз, эмне деп жатканыңыз, эмне кылып жатканыңыз, мунун баары бүгүнкү күндө үчүнчү тараптардын колунда. Ошентип, үчүнчү тараптын доктринасы Төртүнчү Түзөтүүнү кандайдыр бир деңгээлде толугу менен жутуп алды, анда сиз жөнүндө башка бирөө бар, өкмөт аны талап кылуу үчүн эмне кыла ала тургандыгы үчүн бир топ төмөн стандарт бар.
Тактап айтканда, бул менин маалыматтарым iCloud'та болгондо, өкмөт Apple'ге барып, мага эч качан айтпастан менин маалыматтарымды iCloud'тан ала алат дегенди билдирет?
Алар сураса болот. Алар аны ордерсиз эле сурай алышат. Ошондо компаниянын өзүнүн укуктары бар жана алар ошол өтүнүч менен эмне кылгысы келгенин аныктай алат. Алар жөн эле баш тарта алышат. Алар, эгерде бул олуттуу өтүнүч болсо, алардын көбү кыла тургандай, өтүнүчтөрдү четке кагып коюшу мүмкүн же алар сизге эскертиши мүмкүн жана алар айта алышат - жана алардын көпчүлүгү ушундай кылышат - алар сизге эскертип, "Өкмөт кээ бир маалыматтарыңызды сурап жатат. Сиз сотко кайрылып, аларды бөгөттөп салсаңыз болот" деп айтышат. Антпесе, алар жети күндүн ичинде же кандай болсо да маалыматыңызды өткөрүп беришет.
Дагы, бул көз каранды. Эгер бул кылмыш иликтөө болсо, анда компаниянын сизге айтууга уруксат берилбеген кандайдыр бир гаг буйругу болушу мүмкүн. Ар кандай жагдайлар бар, бирок алардын көбү сиздин үйүңүздө маалымат же кандайдыр бир маалымат же башка нерсе болсо, Төртүнчү Түзөтүү талап кылган коргоо деңгээлинен азыраак.
Башка бирөөнүн булут серверинде болгон маалыматтардын көлөмү чоң, туурабы? Азыр интернетте жасаган ар бир ишиңиз кандайдыр бир жол менен камдык көчүрмөсү сакталат же кандайдыр бир жол менен башка бирөөнүн серверинде жазылган. Өкмөт Төртүнчү Түзөтүүнү айланып өтүүнүн ушундай жолун тапты жана: "Ооба, бул чындыгында сеники эмес. Бул Амазонка таандык. Биз Амазонка менен сүйлөшө алабыз" деп айтууга туура келет жана Amazon бул процесстин ортосунда туруп, "Биз элди кандайдыр бир деңгээлде коргоо үчүн дагы бир процессти ойлоп таптык" деп айтышы керек.
Мен муну карап жатам - жана булут кызматтарын камтыган биринчи үчүнчү тараптын доктринасы боюнча иштерди чагылдырып жатканымда жана өкмөт жеңип келе жаткан кезде, мен Джокерге айланганмын. Мен мындай дедим: "Биз текстализм жана жөнөкөй [окуу] жөнүндө шылтоолоп жаткан нерселердин баары эч нерсени билдирбейт, анткени биз ар бир адамдын маалыматына ушул байыркы мыйзамды колдонуп, арткы эшикке аттын күчүн жумшайбыз".
Анан мен муну карап, Anthropicти карап: "Ооба, бул бир эле үлгү" деп айтам. Бул жеке компания: "Макул, биз сиздин позицияңызды түшүнөбүз. Сиз мыйзамды ушул нерсени түшүндүрүү үчүн кайра чечмелегениңизди түшүнөбүз жана биз сиздин, биздин куралыбыздын жана биздин кызмат аркылуу агып жаткан америкалыктардын маалыматтарынын ортосунда кандайдыр бир процессти киргизебиз." Мен жөн гана антропикалык жана Amazon жана Azure жана башка булут кызматтарынын ортосундагы параллелди көрүп жатасызбы деп ойлоп жатам.
Ооба, бул жерде бир аз башкачараак кылган маанилүү бир нече түшүндүрмөлөр бар. Жана чындыгында - менимче, New York Times биринчи кезекте бул отчетту жазды - Anthropic үчүн эң маанилүү болгон негизги пункт, өзгөчө коммерциялык кызматтардан чогултулган маалыматтар жана Клодду ошол маалыматтар боюнча колдоно албай калуу жөнүндө болгон, бул үчүнчү тараптын маалыматтары боюнча дал ушул маселе. Бирок мен буга чейин биз Amazon же башка үчүнчү тараптар менен сиздин маалыматтарыңызды жайгаштырган негизги айырмачылыкты тактагым келет, алар экосистемада отурган жеринен улам сиздин маалыматтарыңызды түз жайгаштырышкан.
Клод менен, NSA сиздин Клодду колдонууңузду карап көрөт деп эч ким кабатырланбайт. Бул алардын сыртка чыгып, Amazonдан үчүнчү тараптын маалыматтарын же телефондоруңузда жарнамаларды тейлеген, жайгашкан жериңизди, кызыкчылыктарыңызды жана ушул сыяктуу нерселерди билген тымызын, жашыруун маалымат брокерлери жөнүндө. Анан аны системага киргизетошондо Клод иштей турган. Бул Anthropic чындыгында бир бөлүгү болгусу келген эмес. Ошентип, өкмөт бул маалыматтарды үчүнчү тараптан чогулта турган жерде же кандай болбосун, Anthropic: "Биз куралыбыздын бул маалыматтарга колдонулушун каалабайбыз" деди.
Apple белгилүү болгондой, ФБРден iPhone'го арткы эшикти коюуну суранган жана Apple "жок" дейт жана алар Трампка каршы турушат. Ал эми биздин системанын бир бөлүгү бар, анда ири жеке компаниялар өз кардарларынын атынан өкмөткө "жок" деп айта алышат. Бул Apple дагы, аны iPhone'го артка койбой тургандай сезилди же чоң булут провайдерлери: "Жеке маалыматтарды алуудан мурун сиз бир аз процесстен өтүшүңүз керек" деп айтышат.
Бул жерде Anthropic: "Биз башка партиялардан алган маалыматтардын жапырт анализин гана жүргүзбөйбүз, анткени бул америкалыктарды 24/7 массалык түрдө көзөмөлдөөгө алып келет жана биз муну каалабайбыз" деп айтып жатат окшойт. Бирок бул башкаруу үчүн өтө алыс көпүрө сыяктуу. Андан кайтуучу барбы?
Биз көрөбүз. Мурда мындай болгон - жана бул ири технологиялык компаниялардын көпчүлүгү менен көп жолу болгон, кандайдыр бир учурда алар бир нерсе өтө алыс көпүрө деп айтышкан - бул адатта сотко кайрылат. Компаниялар сотко кайрылышат же администрация сотко кайрылат жана кандайдыр бир соттук күрөш болот.
Айфондун арткы эшиктери мунун эң сонун мисалы. Бул сотко өтүп, алар аны менен күрөшүштү, бирок алар эч качан бир жыйынтыкка келишкен жок, анткени ФБР акыры iPhoneду кол менен бузуп, андан кийин соттун чечими келечекте аны бузуп салышын каалабайт.
Бирок бул учурда, эскалация жана бул мурунку жагдайлардан айырмаланып турган жерде, бул жөн гана сотко кайрылуунун ордуна, Трамптын администрациясы бул "жеткирүү чынжырчасы тобокелдигин" белгилеген, бул жөн эле акылсыздык. Бул потенциалдуу чет элдик кесепеттүү актерлордун технология менен камсыз кылуусун токтотуу үчүн иштелип чыккан бул курал, андан кийин жашыруун байкоо куралдарын чоң технологиялык стекке киргизип, аларга тыюу салынышы мүмкүн деген идея. Этика саясаты үчүн АКШда жайгашкан компанияга муну колдонуу бул куралды чыныгы, чыныгы кыянаттык менен колдонуу сыяктуу сезилет.
Ал тургай, бул курал кандайдыр бир деңгээлде шектүү болгон, бирок сиз кытайлык тармактык фирма же ушул линия боюнча бир нерсе жөнүндө сөз кылып жатканыңызда, анын артындагы түрткүнү түшүнө аласыз. Бул жерде эч кандай мааниси жок. Демек, буга болгон реакция бул учурда адаттагыдан да ашып кетет. Сиз салттуу түрдө кандайдыр бир соттук иш болорун жана эки тараптын тең аны башташы мүмкүн экенин жана келишимди кантип колдонуу керектиги боюнча күрөш болорун көрө аласыз.
Бирок бул жерде болуп жаткан нерсе эмес. Бул администрация эффективдүү айтып жатат: "Эгерде сиз бизге каалаган нерсенин бардыгын бербесеңиз, куралдарыңызды биз каалагандай иштеши үчүн орнотуп албасаңыз, анда биз сиздин бүт бизнесиңизди жок кылууга аракет кылабыз." Жана бул эскалация.
Мунун бир бөлүгү бар, мен аягына чыгаргым келет жана бул анын галактика-мээ версиясынын түрү. FIRE, сөз эркиндигин коргоо тобу, биз Anthropicти кургусу келбеген куралдарды курууга мажбурлоо сөз эркиндигин бузуу болуп саналат, бул аргасыз сөз деп аталат деген аргументти жазып баштаганга чейин блог постун жарыялады. Бул жерде көп тарых бар. Бул жерде терең Verge жана Techdirt, отоо чөптөр, экзистенциалдык-кризис тарыхы бар.
Бирок бул, негизинен, код деген сөз, компьютер үчүн код жазуу бул сөздүн бир түрү жана өкмөт сизди муну кылууга мажбурлай албайт жана андан көптөгөн нерселер келип чыгат деген ойго келет. Anthropicти ал кургусу келбеген куралдарды курууга мажбурлоо - бул мажбурлоо деген аргументти сатып аласыңбы?
Ооба, мен чындыгында бул абдан таасирдүү деп ойлойм. Мажбурлуу сөз. Бирок, жок, мен бул кызыктуу аргумент деп ойлойм. Бул мен ойлонгон маселелердин тизмесинен бир аз төмөн болгон. Мен, албетте, төртүнчү түзөтүү маселелерине көбүрөөк көңүл бурганмын, бирок FIRE аргументи туура эмес деп ойлойм. Биз муну башка контексттерде көрдүк. Ал шифрленген системаларга бэкдорлорду курууга аракет кылуу жагынан да арткы эшик маселесинде чыкты.
Компаниялар сөзсүз биринчи көтөрүштүТүзөтүүлөрдө: "Бизди ушундай кодду жазууга мажбурлаган мажбурлоочу сөз" деп айтылат. Бул негиздүү аргумент. Бул дагы бир жолу, балким, соттор бул маселелерди башка жол менен чече алышса, алгач чечүүгө анча даяр эмес болушу мүмкүн. Бирок мен FIRE бул постту жасаганына кубанычтамын жана бул кызыктуу жана ынанымдуу аргумент деп ойлойм.
Ооба, бул Трамптын экинчи администрациясынын табияты - бул ушунчалык ачык аспап, биз бир эле учурда бардык маселелерди чечебиз.
Ооба, ар бир Билл укуктарга түзөтүү ар бир мүмкүн болгон маселе менен кандайдыр бир түрдө же башка талаш болушу керек.
[Күлүп] Дөңгөлөктү айлантыңыз.
Мен бул жерде Үчүнчү Түзөтүүнү бузууга туура келет деп ишенем.
Албетте, ооба. Клод азыр сенин үйүңдө жашашы керек. Так. Бул сонун болот. Биз [түзөтүүлөр] бир, үч, төрт жана жети кылып жатабыз. Биз аларды чогултабыз.
Майк, бул сонун болду. Мен буга чейин шоуга катышпаганыңа ишене албайм. Бул сонун болду. Сен тезирээк кайтып келишиң керек.
Абсолюттук. Качан мени кааласаң.
Бул эпизод боюнча суроолор же комментарийлер? decoder@theverge.com дарегине кайрылыңыз. Биз чындап эле ар бир катты окуйбуз!
