Bugun biz Klodni yaratuvchisi Anthropic-dagi tartibsiz, tez harakatlanuvchi vaziyat haqida gapiramiz, bu hozir Pentagon bilan juda xunuk huquqiy kurashda.
Oldinga va orqaga qaytish juda murakkab, ammo bir necha kun oldin Pentagon Anthropicni ta'minot zanjiri xavfi deb hisobladi va Anthropic hukumat "dunyodagi eng tez rivojlanayotgan xususiy kompaniyalardan biri tomonidan yaratilgan iqtisodiy qiymatni yo'q qilishga intilish" orqali o'zining Birinchi va Beshinchi tuzatish huquqlarini buzganini aytib, ushbu belgiga e'tiroz bildirgan holda sudga murojaat qildi. Men hozir sizga ayta olaman: biz bu ishning burilishlari va burilishlari haqida The Verge va bu erda Decoder-da kelgusi oylarda gaplashamiz.
Ammo bugun men bir oz vaqt ajratmoqchi bo'ldim va bu vaziyatning juda muhim bir elementiga e'tibor qaratmoqchi bo'ldim, chunki bu nazoratdan chiqib ketdi: Qo'shma Shtatlar hukumati kuzatuvni qanday amalga oshiradi, bu kuzatuvni amalga oshirishga ruxsat beruvchi qonuniy hokimiyat va nima uchun Anthropic hukumatga ishonchsizlik bilan qaradi, AIdan yanada ko'proq nazorat qilish uchun foydalanishda qonunga rioya qilishini aytdi.
Verge obunachilari, podkastlaringizni qayerdan olsangiz ham, reklamasiz Dekoder dan eksklyuziv foydalanish imkoniyatini unutmang. Bu yerga bor. Obunachi emasmisiz? Bu yerda roʻyxatdan oʻtishingiz mumkin.
Mening bugungi mehmonim Mayk Masnik, Techdirt asoschisi va bosh direktori, mukammal va uzoq muddatli texnologiya siyosati veb-sayti. Mayk o'nlab yillar davomida hukumatning haddan tashqari ta'siri, raqamli asrdagi maxfiylik va boshqa tegishli mavzular haqida yozmoqda. U internet va kuzatuv holati qanday qilib o'zaro bog'liq bo'lganligi bo'yicha mutaxassis.
Ko'ryapsizmi, qonun bizni kuzatib borishda hukumat nima qilishi mumkin, keyin esa hukumat nima qilishni xohlaydi. Va eng muhimi, hukumat qonunda nima qilishi mumkin, degan narsa bor, bu ko'pincha oddiy odam qonunni o'qiganidan farq qiladi.
Siz ushbu epizodda Maykning batafsil tushuntirishlarini eshitasiz, biz kuzatuv haqida gap ketganda, biz AQSh hukumatini o'z so'zini qabul qila olmaymiz va qilmasligimiz kerak. Hukumat advokatlari kuzatuvni murakkab yo'llar bilan kengaytirish uchun "maqsad" kabi oddiy so'zlarning talqinini burishganliklari tarixi juda ko'p - bu usullar odatda faqat yuridik doiralarda tashvish tug'diradi va faqat ma'lumot tarqatuvchi Ed Snoudenning NSAning o'n yildan ko'proq vaqt oldin oshkor qilgani kabi katta bahs-munozaralar mavjud bo'lganda ko'tariladi.
Ammo Tramp davrida siyosat ishlab chiqishda hech qanday nozik yoki murakkab narsa yo'q - shuning uchun Anthropic bilan biz real vaqtda, internetda, blog postlarida va X rantlarda va matbuot konferentsiyasida texnologiya va kuzatuv haqida juda baland va juda ommaviy bahs-munozaralarni o'tkazmoqdamiz. Buning ijobiy va salbiy tomonlari bor, lekin barchasini tushunish uchun siz haqiqatan ham tarixni bilishingiz kerak.
Mayk va men ushbu epizodda tushuntirmoqchi bo'lgan narsamiz - AI va hukumat haqidagi fikrlaringiz qanday bo'lishidan qat'i nazar, bu epizod ikkala tomon ham kuzatuv holatini vaqt o'tishi bilan katta va kattaroq bo'lishiga imkon berganligini aniq ko'rsatib beradi. Endi AI haqida gap ketganda, biz eng katta kengayish arafasida turibmiz.
Yaxshi: Techdirt asoschisi va bosh direktori Mayk Masnik Anthropic, Pentagon va AI kuzatuvi haqida. Qani boshladik.
Ushbu intervyu uzunlik va ravshanlik uchun biroz tahrirlangan.
Mayk Masnik, siz Techdirt asoschisi va bosh direktorisiz. Dekoderga xush kelibsiz.
Men bu yerda ekanligimdan xursandman.
Siz bilan birga ekanligimdan xursandman. Men shunchaki hayratda ekanligimni aytdim, siz ilgari hech qachon shouda bo'lmagansiz. Siz va men uzoq vaqtdan beri bir-birimiz atrofida yozamiz va nashr qilamiz. The Verge siyosatining ko'plab qamrovi Techdirt-da qilgan ishlaringizdan qarzdor, keyin Anthropic bilan nima sodir bo'layotgani juda murakkab, ammo siz uzoq vaqt davomida qamrab olgan juda ko'p mavzularni qamrab oladi. Nihoyat shu yerda ekanligingizdan xursandman.
Bu mavzuning murakkab chalkashligi, lekin men uni qazib olishdan xursandman.
Men siz bilan e'tibor qaratmoqchi bo'lgan narsa Anthropic hukumat bilan shartnoma imzolamoqchimi yoki OpenAI bu shartnomani oladimi yoki yo'qmi tafsilotlari emas. Buning o'rniga, biz buni yozib olgan vaqtimiz va odamlar uni tinglash vaqti o'rtasida ko'proq tvitlar bo'ladi va ko'proq narsalar avvalgidan farq qiladi.
Men e'tibor qaratmoqchi bo'lgan narsa - Anthropic haqiqatan ham qo'ygan ikkita qizil chiziqdan faqat bittasi. Ulardan biriavtonom qurollar, bu o'zining murakkablik darajasidir. Qurollar bormi yoki yo'qmi yoki Ukraina urushida Rossiya tomonidan allaqachon joylashtirilganmi, u erda qonun biroz ko'proq paydo bo'ldi.
Bu erda juda ko'p g'oyalar bor, men buni chetga surib qo'ymoqchiman, chunki menimcha, bu o'z jadvaliga ko'proq e'tibor qaratadi. Men ko'p vaqt sarflamoqchi bo'lgan boshqa qizil chiziq - bu ommaviy kuzatuv. Va bu erda ommaviy kuzatuv haqida juda ko'p qonunlar mavjud. Ko'p tarix, juda ko'p bahsli tarix bor. Edvard Snoudenning butun xarakteri ommaviy kuzatuv atrofidagi tortishuvlar tufayli mavjud.
Bularning barchasi, menimcha, siz buni e'lon qilgansiz - Mudofaa vazirligining bir qismi bo'lgan Milliy xavfsizlik agentligi (NSA), biz hozir negadir urush departamenti deb atashimiz kerak.
[Kuladi] Biz hech narsa qilishimiz shart emas.
[Kuladi] Bizda yo'q. Bu Amerikada to'g'ri. Biz hech narsa qilishimiz shart emas. Ammo NSA asosan ingliz tilidagi so'zlardan ko'p so'zlar nimani anglatishini "Biz shunchaki kuzatuv qila olamiz" degan ma'noni qayta aniqladi. Va keyin tez-tez odamlar shunchaki kuzatuv bilan shug'ullanayotganini bilishganda, janjal bo'ladi. Shunday qilib, shunchaki sahnani o'rnating va men sizni butunlay orqaga qaytarishni xohlamayman, lekin bu naqsh takrorlanganidan ancha vaqt o'tdi.
Bu siz qanchalik chuqur borishni xohlayotganingizga bog'liq, ammo qisqacha versiya 11 sentyabrdan keyingi dunyoda, AQSh Patriot qonunini qabul qildi, bu hukumat uchun kuzatuv bilan shug'ullanish qobiliyatiga ega edi, bu bizni kelajakdagi terroristik tahdidlardan himoya qilish uchun bo'lishi kerak edi. Vaqt o'tishi bilan bu qiziqarli yo'llar bilan talqin qilindi va bunda ba'zi cheklovlar mavjud edi. Bizda FISA sudi ham bor edi, bu maxsus sud bo'lib, u razvedka hamjamiyatini va ularning faoliyatini ko'rib chiqishi kerak edi, lekin an'anaviy ravishda bir tomonlama sud bo'lib kelgan. Faqat bir tomon o'z ishini sudga topshirishi mumkin va bularning barchasi yashirin tarzda amalga oshiriladi.
Ma'lum bo'lmagan juda ko'p narsalar bor. Va keyin bularning barchasida yana bir qism bor edi, u Ronald Reyganga borib taqaladi, bu 12333-sonli Ijroiya buyrug'i bo'lib, u go'yoki razvedka ma'lumotlarini yig'ish uchun yo'l harakati qoidalarini belgilaydi.
Shunday qilib, sizda ushbu uchta qonunlar to'plami bor - bir nechta qonunlar to'plami - va ijroiya buyrug'i, siz o'qishingiz mumkin bo'lgan qismlar bizning hukumatimiz va ayniqsa NSA kuzatuv nuqtai nazaridan nima qila olishi haqida ma'lum narsalarni aytadi. Oddiy inglizcha lug'at bilan o'qiganimizda, tabiati siz va men tushungan va tushunadigan bo'lsak, biz NSAning amerikaliklarni kuzatish qobiliyati juda cheklangan degan ishonchga ega bo'lamiz, aslida ular amerikalik odamni kuzatayotganliklarini anglab olsalar, darhol to'xtab, yomon yig'lashlari va boshqa ma'lumotlarni o'chirishlari kerak edi.
Bir muncha vaqt bu haqiqatan ham sodir bo'lmayotgani haqida mish-mishlar tarqaldi va maslahatlar bor edi, xususan, senator Ron Uayden Senatga chiqib: "Bu erda nimadir noto'g'ri va men sizga nima deya olmayman" deb juda baland ovozda gapirdi yoki eshituvlarda u razvedka xodimlaridan: "Siz amerikaliklar haqida ommaviy ma'lumot to'playapsizmi yoki yo'qmi?"
Bu amaldorlar yo chetga chiqishadi yoki ba'zi hollarda yolg'on gapirishadi. O'ylaymanki, bu 2012 yilda o'sha paytda Milliy razvedka direktori bo'lgan Jeyms Klapper bilan bir tinglov bo'lib, u erda undan to'g'ridan-to'g'ri bu borada so'ralgan. Va u asosan shunday dedi: "Yo'q, biz amerikaliklar haqida ma'lumot to'plamaymiz." Bu Ed Snoudenni ma'lumotlarni, Glenn Grinvald, Barton Gellman va Laura Poitrasga oshkor qilgani haqidagi xabarlarni oshkor qilishga ilhomlantirgan narsaning katta qismi edi. Bularning barchasidan biz kashf qila boshladik, NSA o'zining lug'atiga ega bo'lib, u siz va men foydalanadigan lug'atdan biroz farq qiladi, ular so'zlarni ularning oddiy inglizcha ma'nosidan farq qiladigan tarzda talqin qilishlari mumkin, shu jumladan kalit so'zga o'xshash "maqsad" kabi so'zlar. Bu nima ekanligini keng tushunish shundaki, nazariy jihatdan ular faqat AQSh fuqarosi bo'lmagan odamlarni nishonga olishlari kerak, menimcha, bu ibora.
Ammo vaqt o'tishi bilan uning talqin qilinishi shundan iborat ediki, bu shaxs haqida gapiradigan har qanday narsa, chet ellik shaxsga tegishli bo'lgan har qanday narsa endi adolatli o'yindir, garchi bu boshqa shaxsning aloqalari bo'lsa ham.AQSh odami. Shunday qilib, agar siz va men bir-birimizga xat yozadigan bo'lsak va chet ellik odam haqida gapiradigan bo'lsak, bu NSA uchun to'plash, saqlash va saqlash uchun adolatli o'yin.
Buning ikkinchi qismi bor. Men Ronald Reyganning birinchi Ijroiya 12333 buyrug'ini eslatib o'tdim, bu texnologiya vaqt o'tishi bilan o'zgargani va internetning o'sishi bilan NSAga xorijiy aloqalarga kirishga imkon berdi, ammo bu AQShni biron bir joyda yo'lda qoldirgan barcha aloqalarni o'z ichiga oladi. Shunday qilib, agar men sizga SMS yozayotgan bo'lsam va Kaliforniyadagi mendan AQShdan chiqib ketgan optik tolali kabel orqali xabar kelgan bo'lsa, NSA AQShdan tashqarida bo'lgan qismga tegib, bu ma'lumotni to'plashi mumkin, hatto u AQShda sizga yuborilgan bo'lsa ham.
Keyin NSA bu ma'lumotni AQSH fuqarolariga tegishli bo'lsa ham saqlab qolishi mumkin edi va ular keyinchalik bu haqda maxsus qidiruvlarni amalga oshirishlari mumkin, ba'zan esa "orqa eshik qidiruvi" deb ataladi. Ular birinchi navbatda to'plashlari kerak bo'lmagan ma'lumotlarni to'plashdi, lekin ular buni saqlab qolishlari mumkin edi. Va ular va'da berishdi, ular buni maxfiy saqlashga qasamyod qilishdi, lekin agar ular qidirib topsalar va siz yoki men chet ellik odamni tilga olganimizni bilishsa, to'satdan ular bilan xohlagan narsani qilishlari adolatli edi.
Umuman olganda, bu federal hukumat AQShdan tashqarida sodir bo'ladigan har qanday ma'lumotni to'plashi mumkin bo'lgan dunyoga aylandi. Garchi bu butunlay ikki AQSh shaxsi o'rtasida bo'lsa ham, agar ular AQSh fuqarosi bo'lmagan odamni eslatib qo'yishsa yoki hatto shama qilishsa, to'satdan to'plangan adolatli o'yin. Shundan kelib chiqib, biz NSA tomonidan amerikaliklarni ommaviy kuzatishning bir turi bo'lib ko'rinadigan narsaga ega bo'ldik, u amerikaliklarga josuslik qilmasligini da'vo qiladi va ochiqchasiga aytadi.
Bu darajaga qanday etib keldik? Bu ko'plab chaqaloq qadamlari. 2012-yilda Jeyms Klapper haqida gapirgansiz, bu Obama ma’muriyati. Siz Ronald Reyganni esladingiz, bu 1980-yillar. Biz bu erda demokratlar va respublikachilardan o'tmoqdamiz.
Terrorga qarshi urush Jorj Bush ma'muriyatida, 11-sentabr va Patriot akti esa Jorj Bush ma'muriyatida sodir bo'ldi. Ikkala partiyaning prezidentlari, har ikki partiyaning qurultoylari ostida ham ko'plab yomon narsalar mavjud. Bu qanday sodir bo'ldi?
Buning eng oddiy ko'rinishi shundan iboratki, hech kim va, albatta, hech qanday prezident katta terrorchilik hujumi sodir bo'lgan paytda prezident bo'lishni xohlamaydi, chunki bu ularni yomon ko'rsatadi. Shubhasiz, ular ham amerikaliklarni himoya qilishni xohlashadi, to'g'rimi? Bu ularning ishining bir qismi. Agar sizda asosan zulmatda ishlaydigan razvedka hamjamiyati bo'lsa, chunki razvedka hamjamiyatlari shunday qiladilar va ular sizga doimo kelib: "Agar biz bu ma'lumotlarga kirish imkoniga ega bo'lsak, bu terroristik hujumning oldini olishda juda foydali bo'lar edi".
Bu to'g'ri bo'lgan holatlar bo'lishi mumkin, razvedka hamjamiyati bu ma'lumotlardan yaxshi ishlaydigan tarzda foydalanishga qodir. Ammo biz nazariy jihatdan AQSh Konstitutsiyasiga ega bo'lgan qonunlar jamiyatimiz va unga bo'ysunishimiz kerak. Ammo bu ma'muriyatda yana respublikachi va demokratlarning juda aqlli advokatlari bo'lishiga imkon berdi: "Agar biz shunday pozitsiyani egallasak yoki shunday deb aytsak yoki buni talqin qilsak, biz xohlagan narsaga erisha olamiz va texnik jihatdan qonunni buzmaymiz yoki To'rtinchi tuzatishni texnik jihatdan buzmaymiz".
Taxmin har doim shunday edi: "Biz qonunni qandaydir egishimiz yoki qonunni talqin qilishimiz mumkin va buni hech kim hech qachon ko'rmaydi, yoki hech kim buni ko'rmaydi va shuning uchun biz undan qutulamiz."
Haqiqatan ham meni hayratga soladigan ikkita narsa bor. Birinchisi, siz ham, men ham ko'plab sud qarorlarini o'qiymiz - apellyatsiya sudining qarorlari va Oliy sud qarorlari. Va bizning Oliy sudimizda qonunlarimiz va qonunlarimizdagi so'zlarni qanday qilib tom ma'noda talqin qilish haqida kurash bor.
Men bu haqda juda uzoqqa bormayman, lekin men aytmoqchimanki, siz shunchaki sahifadagi so'zlarni o'qib chiqishingiz va ular aytganini qilishingiz kerak, degan fikr Qo'shma Shtatlardagi qonunchilik talqinining asosiy zo'ravonligidir. Chap yoki o'ng, ikkalasi ham aytadi. Ular bu aslida nimani anglatishining juda ezoterik nozik tomonlari haqida bahslashadilar. Ammo siz bu so'zlarni o'qib, ular aytganini qila olishingiz kerak, bu hech narsa emas, to'g'rimi?
Biz hech bo'lmaganda siz mumkin bo'lgan birinchi o'tishga tushdiktekstualizm deb ataladi. Qanday qilib ikkala ma'muriyatning advokatlari mamlakatimizda qonuniy qarorlar qabul qilishning hukmron usulidan bu qadar uzoqlashadi? Ikkala tomonning sudyalari ham bu hech bo'lmaganda birinchi qadam ekanligiga rozi.
Men aniq javobni bilsam edi, lekin menimcha, bu asosli fikr, to'g'rimi? Advokat sifatida siz o'z mijozingizni himoya qilish uchun borsiz va muvaffaqiyat - agar buni muvaffaqiyat deb atashingiz mumkin bo'lsa - bizning huquqiy tizimimiz qarama-qarshi vaziyatga asoslangan bo'lib, bu erda sizda turli tomonlar mavjud bo'lib, bu erda sudyaning roli toraytirish va qaysi tomon haqiqatda to'g'ri ekanligini aniqlashdir.
Razvedka hamjamiyati va uni o'rnatish bilan bog'liq muammolardan biri shundaki, sizda bunday qarama-qarshi vaziyat mavjud emas. Bu bir tomon uchun ular keltirayotgan argumentni oqlashni osonlashtiradi, chunki hech kim uni ortga surmaydi. Siz buni yana bir terroristik hujumdan, milliy xavfsizlik bilan bog'liq bo'lgan hamma narsadan qo'rqish bilan birlashtirasiz va hatto sizda FISA sudiga ega bo'lgan vaziyatlarda ham - FISA sudi ko'p yillar davomida samarali rezina muhr bo'lganligi bilan mashhur edi.
Men aniq raqamlarni unutaman, lekin FISA sudiga ma'lum vaziyatlarni kuzatish uchun yuborilgan arizalarning 99 foizdan ortig'i qanoatlantirildi va aytish oson, 99 foizi juda ko'p. Shubhasiz, sudga da'vo qilganlar tanlaydilar va tanlaydilar. Ular, aksariyat hollarda, mutlaqo aqldan ozgan da'volarni keltirib chiqarmaydi. Ammo bu qarama-qarshiliksiz va "biz buni qilishimiz kerak" deb o'ylaydigan yoki ma'muriyat tomonidan "biz buni qilishimiz kerak" deb aytilgan juda kuchli g'ayratli odamlar guruhi bilan ular buni qilish yo'llarini topadilar. Va bu erda siz vaqt o'tishi bilan yakunlanasiz.
Bu jarayonda uyg'onib, o'z-o'ziga: "Bola, biz "maqsad" so'zini o'zimiz xohlagan narsani anglatish uchun qayta belgilashga muvaffaq bo'ldik", deb aytgan odam bormi?
[Kuladi] Shubhasiz sizda Ed Snouden bor edi, u bir qancha hujjatlarni oshkor qildi. Sizda 2014-yilda The Washington Post gazetasiga 12333-sonli Ijroiya farmonining talqinini ochib bergan va e'tibor berish kerak bo'lgan haqiqiy masala ekanligini aytgan Jon Nepier Tye bor edi. Sizda bu narsalar haqida gapirgan boshqa odamlar ham bor, lekin ko'pincha ma'muriyatda razvedka hamjamiyatining ishlarida ishtirok etadigan odamlar razvedka hamjamiyatining fikriga ko'ra sotib olinadi, ya'ni asosiy maqsad mamlakatni yomon narsadan himoya qilishdir. Buning eng yaxshi usuli - imkon qadar ko'proq ma'lumotga ega bo'lish.
Ha, ko'proq ma'lumotga ega bo'lish ularga biror narsani oldinroq qo'lga olish yoki muhim narsani topishga imkon berishi mumkinligi haqidagi dalilga hamdard bo'lish oson, lekin bu to'g'ri bo'lmasligi mumkin. Haddan tashqari ko'p ma'lumot olish, ehtimol, juda kam ma'lumot kabi yomon, chunki u ko'pincha haqiqatda foydali bo'lgan ma'lumotni, aslida biror narsani aniqlash uchun kerak bo'lgan ma'lumotlarni yashirishi mumkin.
Ammo, shuningdek, bizda AQSh bor. Birinchi navbatda Konstitutsiya va bizda nazariy jihatdan mumkin bo'lmagan sabablarsiz ommaviy kuzatuvga yo'l qo'ymasligimiz uchun sabablar bor. Qonun ustuvorligiga ishonadigan mamlakat sifatida biz bunga rioya qilishimiz kerak va bularning barchasi zulmatda sodir bo'lganda, siz buni ko'zdan qochirasiz.
Bu meni Antropikga olib keladi. Anthropic asosan korporativ kompaniya hisoblanadi. Ular hukumatni yaxshi bilishadi, ular mushaklarni qurishgan, ularda ba'zi narsalarni yaxshi biladigan odamlar ishlaydi. Ular, shubhasiz, Pit Xegsetga qaradi: “Biz barcha qonuniy foydalanishni xohlaymiz” va ular ikki darajali talqinni pastga tushirishdi va shunday dedilar: “Sizning tom maʼnodagi fikringizcha, bu soʻzlar ularning yuzlarida aytilgan maʼnoni anglatmaydi. Demak, “barcha qonuniy foydalanish” juda katta va biz, ayniqsa, ommaviy kuzatuv atrofida bir nechta himoya panjaralarini oʻrnatmoqchimiz”.
Yana, men boshqa qizil chiziq bo'lgan avtonom qurollarni ajratmoqchiman, lekin ayniqsa ommaviy kuzatuvda Dario Amodei u erda: "Biz juda ko'p ish qila olamiz. Bu juda xavfli. Bu To'rtinchi Tuzatishning buzilishi".
U erdagi keskinlik "siz bir narsani aytadigan ushbu qonunlarga rioya qilmoqchi ekanligingizni aytyapsiz va endi, buncha vaqt o'tgach, ular butunlay boshqacha narsani anglatadi va biz buning bir qismi bo'lishni xohlamaymiz." Bukurash. Men buni Sem Altman bilan solishtirmoqchiman, u "biz barcha qonuniy maqsadlarda foydalanamiz" deb aytadi va keyin "Mana biz barcha qonunlarga rioya qilamiz" kabi uzun xabarni joylashtiradi.
Aftidan, Altman NSA bu narsalarni qanday talqin qilganini va qandaydir sayohatga olib kelganini bilmaganga o'xshaydi. Va u o'shandan beri uni orqaga qaytarishni boshladi - hatto biz yozib olayotganimizda ham, ko'proq tvitlar borligiga va hammaning pozitsiyasi o'zgarganiga aminman. Ammo Altman asta-sekin orqaga qaytmoqda, ammo OpenAI ularning yuzidagi nizomlarni o'qib, ularning aytganlariga ishonishga majbur bo'lganga o'xshaydi. Voqealar talqini ham shundaymi?
Ikkita imkoniyat bor va bu ulardan biri. Ulardan biri shundaki, u ko'p yillar davomida xalq o'ynagandek o'ynadi. Muqobil nazariya va men ulardan qaysi biri to'g'ri ekanligini bilmayman, u yoki OpenAI'dagi ba'zi advokatlar - menimcha, juda malakali va juda bilimdon - buni bilishgan, lekin ular NSA bir necha o'n yillar davomida o'ynagan o'yinni o'ynashlari mumkin deb o'ylashgan, chunki ular bu narsalarni aytib, keyin so'zlarni aytishadi, lekin ular haqiqiy talqinni ochib berishmaydi. Shunday qilib, Sem "Bizda Anthropic bilan bir xil qizil chiziqlar bor edi va hukumat bu bilan ajoyib edi" kabi ko'rinishga ega bo'lgan bayonot bilan chiqadi.
Aslida, menimcha, Sem Altman Anthropic-da ikkita qizil chiziq borligini va OpenAI-da uchta qizil chiziq borligini aytdi va hukumat bunga juda yaxshi munosabatda bo'ldi va bu ko'p odamlarning boshlarini tirnashdi. Ammo menimcha, Sem Altman va uning atrofidagilar bu narsalar amalda qanday ishlashini tushunmagan yoki tushungan va ular jamoatchilik bilmaydi va shuning uchun ular bundan qutulishlari mumkin deb o'ylashgan.
Aqlga keladigan boshqa narsa - yana, AI yangi va yangi texnologiyalarga murojaat qilish juda jozibali, chunki bu birinchi taassurot muammolari. "Hech kim ilgari bu haqda o'ylamasligi kerak edi", lekin haqiqat shundaki, hamma bu narsa haqida uzoq vaqtdan beri o'ylaydi. Balki bu yerda yangi narsa sun’iy intellekt emas, balki Trampning ikkinchi ma’muriyati o‘z harakatlarini hech kim o‘qimagan, hech kim e’tibor bermayotgan maxfiy sud oldida oqlash uchun bir qancha advokatlik qilish o‘rniga, unchalik nozik emas.
Ular unchalik murakkab emas va ular har doim hammaga josuslik qilishlarini aytishmoqda. Ular shunchaki o'z niyatlarini e'lon qilishdi, ehtimol barcha ma'muriyatlar o'z niyatlarini e'lon qilishlari va chiplar qaerga tushishini ko'rishlari kerak.
Ammo men Nyu-Yorkda Ed Snouden borligini ko'rib turibman. AT&T NSA binosi ekanligini hamma biladigan binoni boshqaradi. Bu shunchaki ulkan bino va biz uni NSA kuzatuv markazi emas deb o'ylashimiz kerak, lekin u o'sha erda. Bu juda katta. Bularning hech biri hech narsaga kelmaganga o'xshaydi. Bu vahiylarning barchasi, bu sizdirishlar, biz buni qo'llab-quvvatlamadik.
Aslida, bu bizning hayotimizning ko'p qismi tobora ko'proq raqamli bo'lganligi sababli ko'paydi. Va, ehtimol, Trump ma'muriyati har doim shunday to'mtoq vosita bo'lib, bu hisob-kitobga sabab bo'lgan narsa bo'lishi mumkin. Bu baribir o'ynaganini ko'ryapsizmi?
U erda bir nechta turli xil narsalar mavjud va biz bu narsadan umuman voz kechmaganimiz to'g'ri emas. Snoudenning vahiylari bu voqealar sodir bo'lishida ba'zi o'zgarishlarga olib keldi. Va hozir ham bor - ular nima deb atalganini unutaman, lekin ular FISA sudidagi ma'lum masalalar bo'yicha boshqa tomonni taqdim etadigan fuqarolik a'zolariga o'xshaydi.
Va biz ba'zi hokimiyatlarning ma'lum yo'llar bilan cheklanganligini ko'rdik va ular tez-tez qayta ruxsat olish uchun kelishadi va faollar orqaga chekinish va qo'shimcha panjara qo'yish uchun juda tajovuzkor bo'lishdi. Ammo kattaroq savolga, menimcha, ikki xil narsa bor. Siz yarim haqsiz, bu ma'muriyat nozik emas va shunchaki bo'lmasligi kerak bo'lgan narsalarni baland ovozda aytadi.
"Biz Eron bilan urushyapmiz, biz buni qilyapmiz, bu sodir bo'lmoqda. Biz raqsni sinab ko'rmoqchi ham emasmiz."
Oldingi barcha ma'muriyatlar qilmagan yo'llar bilan. Ammo ular bu haqda to'g'ridan-to'g'ri aytmaganlarkuzatuv, ayniqsa amerikaliklarni kuzatish. Bu haqda maslahatlar bor edi, lekin ular bu borada kuchli chiqmadi. Uning qolgan yarmi Anthropicning joylashuvi va sun'iy intellektning ushbu ehtimol ekzistensial texnologiya sifatida umumiy nuqtai nazari bilan ko'proq bog'liq bo'lib, bu erda Anthropic har doim o'zini "Biz o'ychan yaxshi yigitlarmiz" deb ko'rsatgan va siz bunga ishonasizmi yoki yo'qmi, bu fikrdan tashqari. Ular u erda shunday obro'ga ega: "Biz buni xavfsiz, insoniyatni hurmat qiladigan va bularning barchasiga e'tibor beradigan tarzda qilishga harakat qilmoqdamiz." Shunday qilib, siz o'sha to'qnashuvga duch kelsangiz, kurash shu erda boshlanadi.
Sizda Trump ma'muriyati bor, u shunchaki o'zi xohlagan narsani qilishni xohlaydi va ular bu haqda nozik emas. Va keyin sizda Antropik bor, uning o'zini tasvirlashi va jamoatchilikka xosligi har doim shunday: "Biz o'ychanmiz va biz insoniyat va huquqlarni va bularning barchasini hurmat qilamiz". To'qnashuv aynan o'sha erda sodir bo'lgan bo'lishi mumkin, chunki Anthropic, aniq bo'lganidek, Mudofaa vazirligi bilan bir muddat ishlagan va hukumat bilan boshqa ko'plab shartnomalarga ega. Bu muammo bo'lmadi.
Hukumat shartnomani kengaytirishga intilayotgan mana shu aniq sohalarda Anthropicning yuqori rahbariyati shunday deyishni boshladi: “Kutib turing, biz o'ylangan, xavfsiz sun'iy intellekt provayderi sifatidagi obro'imizga putur etkazadigan qizil chiziqlarni kesib o'tmasligimizga ishonch hosil qilishimiz kerak.
Men sizdan umuman kuzatuv, xususan Anthropicning To'rtinchi tuzatish tashvishi haqida qisqacha so'ramoqchiman. To'rtinchi tuzatishda aytilishicha, hukumat sizni asossiz ravishda qidira olmaydi. To'rtinchi tuzatishni tushunishning eng yaxshi usuli - Jey-Zning "99 ta muammo" ni tinglash. Agar siz tanaffus qilishingiz va "99 muammo" ni tinglashingiz kerak bo'lsa, bu juda yaxshi. Hammasi u yerda. Men uni huquqshunoslik fakultetida o'qiyotganimda tinglaganman va bu juda mantiqiy edi.
Ammo hukumat sizni qidirish uchun odatda orderga muhtoj. Va sizning hayotingiz tobora ko'proq Internetga o'tayotgani sababli, bundan juda ko'p istisnolar mavjud. Ammo g'oya shundaki, ular hali ham onlayn orderga muhtoj. Antropikning argumenti shunday: "Yaxshi, sun'iy intellekt hech qachon charchamaydi. U har doim hamma narsani qidira oladi. Bu biz shunchaki master kuzatuv bilan shug'ullanamiz, degani."
AI paydo bo'lishidan oldin ham, hukumat sizga tegishli bo'lgan hamma narsani qidirib topishi mumkin degan fikr bor edi, hukumat sizning barcha narsalaringizni qidirish uchun orderga muhtoj emas degan fikr bor edi. Agar sizning ma'lumotlaringizdan birortasi qisqa vaqt ichida mamlakat tashqarisiga chiqib ketgan bo'lsa, hukumat uni o'sha erda ushlab turadi, degan fikr,
Men kollejda bo'lganimda, Patriot qonuni davrida, ular sizning haqiqiy ma'lumotlaringizni qidirmaydilar, ammo ular faqat metadata va metama'lumotlarni olishlari mumkin edi. Sizning ma'lumotlaringiz haqidagi ma'lumotlar sizni har doim aniq aniqlash uchun etarli bo'ladi. Va hatto bu juda uzoq. Va biz hukumat nima to'plashi mumkin bo'lgan bu raqsni qildik? Nimaga ruxsat berilgan? Hammamizni xavfsiz saqlash uchun ularga nima kerak va nima juda uzoq? Bu chiziqlar ko'chdi.
Shunday qilib, miqyosdagi kuzatuv haqidagi umumiy tashvishni va hozir qayerda ekanligimizni qisqacha tasvirlab bering. AI holati hamma narsani eksponent ravishda murakkablashtirmasdan oldin.
Bu erda men, ehtimol, ilgari aytib o'tilgan bo'lishi kerak bo'lgan yana bir kontseptsiyani kiritishim kerak, ammo bu muhim, bu "uchinchi tomon doktrinasi" deb ataladi. To'rtinchi tuzatish g'oyasi shundan iboratki, hukumat sizni yoki sizning narsalaringizni ordersiz tintuv qila olmaydi va siz biron bir jinoyat sodir etganligingiz uchun hech qanday sababsiz order ololmaydi. Ammo bir necha o'n yillar oldin paydo bo'lgan uchinchi tomon doktrinasi deb ataladigan kontseptsiya mavjud bo'lib, u sizning ma'lumotlaringiz bo'lsa ham, sizniki bo'lmagan narsalarga mutlaqo taalluqli emas yoki umuman qo'llanilmasligini aytadi.
Buning eng birinchi va eng aniq versiyasi telefon kompaniyasida siz qo'ng'iroq qilganingiz haqidagi telefon yozuvlari edi. Telefon kompaniyalari sizning qo'ng'iroqlaringizni yozib olishmadi, lekin agar men sizga qo'ng'iroq qilsam, ular yozib olishdi, telefon kompaniyasida "Mayk Nilayga qo'ng'iroq qiladi" degan yozuv bo'lar edi. Va bir nechta sudlar tomonidan aniqlangan narsa shundan iboratki, hukumat borib, buni talab qilishi mumkin va ularga buning uchun order kerak emas, chunki bu qidiruv emas.Sizning ma'lumotlaringiz, bu uchinchi tomon va ular uchinchi tomon sifatida ushbu ma'lumotlarni topshirishga rozi bo'lishlari mumkin.
Ammo bu 1960 va 70-yillardagi holatlar bo'lib, u erda uchinchi tomon ma'lumotlari unchalik ko'p bo'lmaganda, hukumat bunga ordersiz kirishi mumkinligi aniqlangan. Kompyuterlar va internetning paydo bo'lishi buni o'zgartirdi. Endi hamma narsa uchinchi tomon ma'lumotlari. Biz qilayotgan hamma narsa biron bir kompaniya tomonidan to'planadi va bu haqda yozuv mavjud. Shunday qilib, siz haqingizda, qayerda ekanligingiz, kim bilan gaplashayotganingiz, kim bilan muloqot qilayotganingiz, nima deyayotganingiz, nima qilayotganingiz haqidagi har bir ma'lumot bugungi kunda deyarli uchinchi shaxslar tomonidan saqlanadi. Shunday qilib, uchinchi tomon doktrinasi to'liq To'rtinchi tuzatishni ma'lum darajada yutib yubordi, bu erda siz haqingizda boshqa birovga tegishli bo'lgan har qanday narsa, hukumat buni talab qilish uchun nima qilishi mumkinligi uchun ancha past standart mavjud.
Aniqroq qilib aytadigan bo'lsak, bu mening ma'lumotlarim iCloud'da bo'lganda, hukumat Apple'ga borib, menga hech qachon aytmasdan mening ma'lumotlarimni iCloud'dan olishi mumkinligini anglatadimi?
Ular buni talab qilishlari mumkin. Ular buyurtmasiz osongina so'rashlari mumkin. Keyin kompaniya o'z huquqlariga ega va ular ushbu so'rov bilan nima qilishni xohlashlarini aniqlashlari mumkin. Ular shunchaki voz kechishlari mumkin. Ular, ko'pchilik qilganidek, agar bu jiddiy so'rov bo'lsa, so'rovlarni rad etishlari mumkin yoki ular sizni ogohlantirishi mumkin va ular aytishlari mumkin - va ularning aksariyati shunday qiladi - ular sizni ogohlantiradi va: "Hukumat sizning ma'lumotlaringizning bir qismini talab qilmoqda. Siz sudga borib, ularni bloklashga harakat qilishingiz mumkin." Aks holda, ular sizning ma'lumotlaringizni etti kun ichida yoki nima bo'lishidan qat'iy nazar topshirishadi.
Yana, bu bog'liq. Agar bu jinoiy tergov bo'lsa, unda kompaniyaning sizga aytishiga ruxsat berilmagan gag buyrug'i bo'lishi mumkin. Har xil holatlar mavjud, ammo ularning aksariyati sizning uyingizda ma'lumotlar yoki biron bir ma'lumot yoki biror narsa bo'lsa, To'rtinchi tuzatish talab qiladigan himoya darajasidan kamroq narsani o'z ichiga oladi.
Boshqa birovning bulutli serveridagi ma'lumotlaringiz juda katta, to'g'rimi? Hozir internetda qilayotgan har bir ishingiz qandaydir tarzda zaxiralanadi yoki boshqa birovning serverlarida yozib olinadi. Hukumat To'rtinchi tuzatishni aylanib o'tish uchun shunday yo'l topdi va shunday dedi: "Xo'sh, bu sizniki emas. Bu Amazonga tegishli. Biz Amazon bilan gaplashishimiz mumkin" va Amazon bu jarayonning o'rtasida turib: "Biz odamlarni qandaydir himoya qilish uchun boshqa jarayonni ixtiro qildik", deyishi kerak.
Men bunga qarayman - va men bulut xizmatlarini qamrab olgan birinchi uchinchi tomon doktrinasi holatlarini yoritganimda va hukumat g'alaba qozonishda davom etdi, men Jokerga aylandim. Men shunday edim: "Biz matnshunoslik va oddiy [o'qish] haqida da'vo qilayotgan bularning barchasi hech narsani anglatmaydi, chunki biz bu qadimiy qonundan hammaning ma'lumotlariga kirish uchun orqa eshikka ot kuchiga egamiz."
Va keyin men bunga qarayman va Antropikga qarayman va aytaman: "Xo'sh, bu xuddi shu naqsh." Bu xususiy kompaniya: "Yaxshi, biz sizning pozitsiyangizni tushunamiz. Siz qonunni shu narsani anglatish uchun qayta talqin qilganingizni tushunamiz va siz, bizning vositamiz va bizning xizmatimiz orqali oqayotgan amerikaliklar maʼlumotlari oʻrtasida qandaydir jarayonni qoʻymoqchimiz”. Antropik va Amazon va Azure va bizning ko'p ma'lumotlarimizni saqlaydigan boshqa bulut xizmatlari o'rtasidagi parallellikni ko'ryapsizmi, deb hayronman.
Ha, bu erda muhim bo'lgan bir nechta tushuntirishlar mavjud bo'lsa-da, buni biroz boshqacha qiladi. Va aslida - menimcha, The New York Times birinchi bo'lib hisobot bergan - Anthropic uchun eng muhim bo'lgan asosiy band, xususan, tijorat xizmatlaridan to'plangan ma'lumotlar va ushbu ma'lumotlarda Kloddan foydalana olmaslik haqida edi, bu uchinchi tomon ma'lumotlari nuqtai nazaridan aynan shu masala. Ammo men bundan oldin Amazon yoki sizning ma'lumotlaringizni joylashtirgan boshqa uchinchi tomonlar bilan gaplashayotganimiz o'rtasidagi asosiy farqni aniqlamoqchiman, ular ekotizimda joylashganligi sababli ular sizning ma'lumotlaringizni to'g'ridan-to'g'ri joylashtirishgan.
Klod bilan, NSA sizning Kloddan foydalanishingizni ko'rib chiqishdan hech kimni tashvishlantirmaydi. Gap ularning tashqariga chiqib Amazondan uchinchi tomon maʼlumotlarini olishi yoki telefonlaringizda reklamalar koʻrsatadigan, sizning joylashuvingiz, qiziqishlaringiz va shunga oʻxshash narsalarni biladigan yashirin, yashirin maʼlumotlar brokerlari haqida. Va keyin uni tizimga kiritishKlod o'sha paytda ishlaydi. Antropik haqiqatan ham uning bir qismi bo'lishni xohlamagan narsa. Shunday qilib, hukumat bu ma'lumotlarni uchinchi tomondan qaerda yoki qanday qilib to'plashidan qat'i nazar, Anthropic: "Biz ushbu ma'lumotlarda bizning vositamizdan foydalanishni xohlamaymiz", dedi.
Apple mashhur FQBga iPhone-ga orqa eshik qo'yishni so'radi va Apple "yo'q" dedi va ular Trampga qarshi turishadi. Va bizning tizimimizning qanday ishlashi bor, unda yirik xususiy kompaniyalar o'z mijozlari nomidan hukumatga "yo'q" deyishadi. Va bu xuddi Apple yana iPhone-ning orqa eshiklarini o'rnatmaydi yoki katta bulut provayderlari: "Alohida ma'lumotlarni olishdan oldin siz biroz o'tishingiz kerak bo'lgan jarayon bor" deyishadi.
Bu erda Anthropic shunday deganga o'xshaydi: "Biz siz boshqa tomonlardan olgan ma'lumotlarning ommaviy tahlilini o'tkazmoqchi emasmiz, chunki bu amerikaliklarning 24/7 ommaviy kuzatuviga olib keladi va biz buni qilishni xohlamaymiz." Biroq, bu ma'muriyat uchun juda uzoq ko'prik kabi ko'rinadi. Bundan qaytish bormi?
Ko‘ramiz. O'tmishda bu sodir bo'lganida - va bu ko'p marta yirik texnologiya kompaniyalari bilan sodir bo'lgan, bir nuqtada ular biror narsa juda uzoqqa ko'prik ekanligini aytishgan - bu odatda sudga boradigan joy. Kompaniyalar sudga murojaat qilishadi yoki ma'muriyat sudga murojaat qiladi va qandaydir sud jangi bo'ladi.
IPhone-ning orqa eshiklari bunga yorqin misoldir. Bu sudga bordi va ular bunga qarshi kurashishdi, lekin ular hech qachon to'liq xulosaga kelishmagan, chunki FQB oxir-oqibat iPhone-ni qo'lda buzgan va keyin sud qarori kelajakda buni buzishini istamagan.
Ammo bu holatda, keskinlik va bu avvalgi holatlardan farq qiladigan joyda, shunchaki sudga murojaat qilishdan ko'ra, Trump ma'muriyati ushbu "ta'minot zanjiri xavfi" belgisini qildi, bu shunchaki aqldan ozgan. Bu potentsial xorijiy zararli aktyorlarni texnologiyani etkazib berishni to'xtatish uchun mo'ljallangan ushbu vosita, keyinchalik yashirin kuzatuv vositalarini kattaroq texnologiya to'plamiga joylashtirishi va ularni taqiqlashi mumkin degan fikr. Buni AQShda joylashgan kompaniyaga asosan axloq siyosatiga ega bo'lganligi uchun qo'llash ushbu vositadan haqiqiy, haqiqiy noto'g'ri foydalanishdek tuyuladi.
Hatto bu vosita ham qaysidir ma'noda shubhali edi, lekin siz Xitoyning tarmoq firmasi yoki shu yo'nalishdagi biror narsa haqida gapirganda, uning ortida turgan turtkini tushunishingiz mumkin edi. Bu erda hech qanday ma'no yo'q. Shunday qilib, bunga munosabat odatda bu holatda ko'rinadigan narsadan ancha uzoqroq. An'anaga ko'ra, qandaydir sud ishi bo'lishini va har ikki tomon uni boshlashi mumkinligini ko'rishingiz mumkin va bu faqat shartnomani qanday qo'llash haqida jang bo'lar edi.
Ammo bu erda sodir bo'layotgan narsa bu emas. Ushbu ma'muriyat samarali tarzda aytmoqda: "Agar siz bizga xohlagan narsangizni bermasangiz, asboblaringizni biz xohlagan tarzda ishlash uchun sozlamasangiz, biz sizning butun biznesingizni yo'q qilishga harakat qilamiz." Va bu eskalatsiya.
Men tugatmoqchi bo'lgan bitta bo'lagi bor va bu uning eng galaktika-miya versiyasidir. So'z erkinligini himoya qilish guruhi bo'lgan FIRE biz Anthropic-ni o'zi yaratmoqchi bo'lmagan vositalarni yaratishga majburlash so'z erkinligini buzish, bu majburiy nutq deb ataladigan argumentni yozishni boshlashimizdan oldin blog postini e'lon qildi. Bu erda juda ko'p tarix bor. Bu yerda ba'zi chuqur Verge va Techdirt, in-the-begona, ekzistensial-inqiroz tarixi bor.
Ammo bu, asosan, kod - bu nutq, kompyuter uchun kod yozish nutqning bir shakli va hukumat sizni bunga majburlay olmaydi va bundan ko'p narsalar oqib chiqadi, degan fikrga keladi. Anthropic-ni o'zi qurmoqchi bo'lmagan vositalarni yaratishga majburlash majburiy nutq degan dalilni sotib olasizmi?
Ha, menimcha, bu juda jozibali. Majburiy majburiy nutq. Lekin yo'q, menimcha, bu qiziqarli dalil. Bu men o'ylayotgan muammolar ro'yxatidan biroz pastroqda edi. Shubhasiz, men to'rtinchi tuzatish masalalariga ko'proq e'tibor qaratganman, lekin menimcha, FIRE argumenti noto'g'ri emas. Biz buni boshqa kontekstlarda ham ko'rdik. Bu shifrlangan tizimlarga orqa eshiklarni yaratishga urinish nuqtai nazaridan orqa eshik masalasida ham paydo bo'ldi.
Birinchi bo'lib ko'tarilgan kompaniyalarTuzatish "bizni bunday kodni yozishga majburlash uchun majburiy nutqdir" deb da'vo qiladi. Bu asosli dalil. Yana shuni aytish mumkinki, sudlar ushbu muammolarni boshqa yo'l bilan hal qilishlari mumkin bo'lsa, dastlab ularni hal qilishga unchalik tayyor emaslar. Ammo men FIRE ushbu postni yaratganidan xursandman va bu qiziqarli va ishonchli dalil deb o'ylayman.
Ha, bu shunchaki Trampning ikkinchi maʼmuriyatining tabiati shundaki, bu juda aniq vosita, biz barcha masalalarga birdaniga hujum qilishimiz deyarli aniq.
Ha, Huquqlar to'g'risidagi har bir tuzatish har qanday muammo bilan u yoki bu shaklda e'tiroz bildirilishi kerak.
[Kuladi] G'ildirakni aylantiring.
Ishonchim komilki, biz bu erda biror joyda Uchinchi tuzatish buzilishiga mos kelishimiz mumkin.
Albatta, ha. Klod hozir sizning uyingizda yashashi kerak. Aynan. Bu ajoyib bo'ladi. Biz bir, uch, to'rt va ettita [tuzatishlar] qilyapmiz. Biz ularni yig'amiz.
Mayk, bu ajoyib bo'ldi. Siz ilgari shouda bo'lmaganingizga ishonolmayman. Bu ajoyib bo'ldi. Tez orada qaytib kelishingiz kerak.
Mutlaqo. Qachon xohlasang meni.
Ushbu epizod haqida savollar yoki sharhlar? Bizga decoder@theverge.com manziliga murojaat qiling. Biz haqiqatan ham har bir xatni o'qiymiz!
