Bu gün biz Klodun yaradıcısı olan Anthropic-də indi Pentaqonla çox çirkin hüquqi mübarizədə olan qarışıq, sürətlə hərəkət edən vəziyyətdən danışırıq.
Arxa-arxaya mürəkkəbdir, lakin bir neçə gün əvvəl Pentaqon Anthropic-i tədarük zənciri riski hesab etmişdi və Anthropic hökumətin “dünyanın ən sürətlə inkişaf edən özəl şirkətlərindən birinin yaratdığı iqtisadi dəyəri məhv etməyə çalışaraq” Birinci və Beşinci Düzəliş hüquqlarını pozduğunu bildirərək, bu təyinata etiraz edərək məhkəməyə müraciət etdi. Mən sizə indi deyə bilərəm: Gələcək aylarda The Verge-də və burada Decoder-də bu işin dönmələri və dönüşləri haqqında danışacağıq.
Ancaq bu gün mən bir az vaxt ayırıb, bu vəziyyətin nəzarətdən çıxdığı üçün kifayət qədər diqqəti cəlb etməyən bir çox vacib elementi araşdırmaq istədim: Birləşmiş Ştatlar hökuməti nəzarəti necə həyata keçirir, bu müşahidənin baş verməsinə icazə verən hüquqi orqan və niyə Anthropic daha çox müşahidə etmək üçün süni intellektdən istifadə edərkən qanuna əməl edəcəyini söyləyən hökumətə inamsızlıq göstərirdi.
Verge abunəçiləri, podkastlarınızı əldə etdiyiniz hər yerdə reklamsız Dekoderə eksklüziv giriş əldə edəcəyinizi unutmayın. Bura baş çəkin. Abunəçi deyilsiniz? Burada qeydiyyatdan keçə bilərsiniz.
Bugünkü qonağım, əla və uzunmüddətli texnoloji siyasət saytı olan Techdirt-in təsisçisi və baş direktoru Mayk Masnikdir. Mayk artıq onilliklərdir ki, hökumətin aşması, rəqəmsal dövrdə məxfilik və digər əlaqəli mövzular haqqında yazır. O, internet və nəzarət vəziyyətinin bir-biri ilə əlaqəli şəkildə necə inkişaf etdiyinə dair ekspertdir.
Görürsünüz ki, qanun bizi izləməyə gəldikdə hökumətin edə biləcəyini və sonra hökumətin nə etmək istədiyini söyləyir. Və ən əsası, hökumətin qanunun edə biləcəyini söylədiyi şeylər var ki, bu da çox vaxt qanunu oxuyan hər hansı bir normal insanın düşündüyü şeyin tam əksidir.
Bu epizodda Maykın çox təfərrüatlı şəkildə izah etdiyini eşidəcəksiniz ki, biz ABŞ hökumətinə nəzarətə gəldikdə onun sözünü qəbul edə bilmərik və etməməliyik. Hökümət hüquqşünaslarının nəzarəti mürəkkəb üsullarla genişləndirmək üçün “hədəf” kimi sadə sözlərin təfsirlərini təhrif etmələrinin çox tarixi var - bu üsullar adətən yalnız hüquqi dairələrdə narahatlıq doğurur və yalnız məlumat verən Ed Snowden-in NSA-nın on ildən çox əvvəl açıqladığı əsas açıqlamalar kimi böyük mübahisələr olduqda qızışır.
Ancaq Tramp dövründə siyasətin qurulması ilə bağlı incə və ya mürəkkəb bir şey yoxdur - buna görə də Anthropic ilə biz real vaxtda, internetdə, blog yazılarında və X rantlarında texnologiya və nəzarət haqqında çox yüksək, çox ictimai debat keçiririk. Bunun müsbət və mənfi tərəfləri var, amma bunların hamısını başa düşmək üçün həqiqətən tarixi bilmək lazımdır.
Mayk və mən bu epizodda izah etməyə qərar verdik – süni intellekt və hökumət haqqında fikirləriniz nə olursa olsun, bu epizod hər iki tərəfin nəzarət vəziyyətinin zaman keçdikcə daha da böyüməsinə imkan verdiyini aydınlaşdıracaq. İndi süni intellektə gəldikdə ən böyük genişlənmənin astanasındayıq.
Tamam: Techdirt qurucusu və baş icraçı direktoru Mike Masnick Anthropic, Pentaqon və AI nəzarəti haqqında. Budur, gedirik.
Bu müsahibə uzunluq və aydınlıq üçün yüngülcə redaktə edilmişdir.
Mayk Masnik, siz Techdirt-in təsisçisi və baş direktorusunuz. Dekoderə xoş gəlmisiniz.
Burada olmaqdan şadam.
Sənin yanında olduğum üçün həyəcanlıyam. Sadəcə deyirdim ki, sən heç vaxt verilişdə olmamısan deyə şok oldum. Siz və mən uzun müddətdir ki, bir-birimizin ətrafında yazır və göndəririk. Bir çox The Verge siyasətinin əhatə dairəsi Techdirt-də etdiyiniz işlərə borcludur və sonra Anthropic ilə baş verənlər çox mürəkkəbdir, lakin bu qədər uzun müddət əhatə etdiyiniz bir çox mövzuya toxunur. Nəhayət burada olduğunuza şadam.
Mövzunun mürəkkəb bir qarışıqlığıdır, amma mən onun üzərində qazmaqdan həyəcanlanıram.
Sizinlə diqqət yetirmək istədiyim şey Anthropic-in hökumətlə müqavilə imzalayıb-imzalamayacağının və ya OpenAI-nin bu müqaviləni əldə edib-etməyəcəyinin təfərrüatları deyil. Əvəzində əminəm ki, bunu yazdığımız vaxtla insanların onu dinlədiyi vaxt arasında daha çox tvit olacaq və daha çox şey əvvəlkindən fərqli olacaq.
Diqqət yetirmək istədiyim şey Anthropic-in həqiqətən ortaya qoyduğu iki qırmızı xəttdən yalnız biridir. Onlardan biriöz mürəkkəblik səviyyəsi olan muxtar silahlar. Silahların mövcud olub-olmamasından və ya Ukrayna müharibəsində Rusiya tərəfindən yerləşdirilməsindən asılı olmayaraq, orada qanun bir az daha yeni yaranıb.
Burada bir çox ideyalar var ki, mən bunu kənara qoymaq istəyirəm, çünki düşünürəm ki, bu, öz cədvəlində daha çox diqqət mərkəzində olacaq. Çox vaxt sərf etmək istədiyim digər qırmızı xətt kütləvi nəzarətdir. Və burada kütləvi nəzarətlə bağlı kifayət qədər çox qanun var. Çoxlu tarix, çox mübahisəli tarix var. Edvard Snoudenin bütün xarakteri kütləvi müşahidə ətrafında mübahisələr səbəbindən mövcuddur.
Hər şey aşağı düşür - məncə bunu yazan sizsiniz - Müdafiə Departamentinin bir hissəsi olan Milli Təhlükəsizlik Agentliyi (NSA), nədənsə indi Müharibə Departamenti adlandırmalıyıq.
(Gülür) Biz heç nə etməliyik.
[Gülür] Biz yox. Bu Amerikada belədir. heç nə etməli deyilik. Lakin NSA əsasən danışıq dilindəki bir çox sözlərin nə demək olduğunu yenidən müəyyənləşdirdi: "Biz sadəcə nəzarət edə bilərik". Və sonra tez-tez insanlar sadəcə nəzarət etdiklərini aşkar etdikdə qalmaqal yaranır. Ona görə də səhnəni orada qurun və mən sizi bütün yolu geri çəkmək istəmirəm, lakin bu nümunənin təkrarlandığı çox vaxt olub.
Bu, nə qədər dərinə getmək istədiyinizdən asılıdır, lakin qısa versiya açıq şəkildə 9/11-dən sonrakı dünyadadır, ABŞ hökumətin müşahidə ilə məşğul olması üçün müəyyən qabiliyyətə malik olan Patriot Aktını qəbul etdi və bu, bizi gələcək terror təhlükələrindən qorumaq üçün olmalı idi. Zaman keçdikcə bu, maraqlı şəkildə şərh olundu və bununla bağlı bəzi məhdudiyyətlər var idi. Bizdə FISA məhkəməsi də var idi, o, kəşfiyyat cəmiyyətini və onların fəaliyyətlərini nəzərdən keçirməli olan, lakin ənənəvi olaraq birtərəfli məhkəmə olan xüsusi məhkəmədir. Yalnız bir tərəf öz iddiasını həmin məhkəməyə təqdim edə bilər və hər şey gizli şəkildə aparılır.
Bilinməyən çox şey var. Və sonra bütün bunlarda Ronald Reyqana qədər uzanan başqa bir parça var idi, bu, 12333 saylı İcra Sərəncamıdır və bu, guya kəşfiyyat məlumatlarının toplanması üçün yol qaydalarını müəyyən etməkdir.
Beləliklə, sizin bu üç qanun dəsti var - bir neçə qanun dəsti - və ictimaiyyətə oxuya biləcəyiniz hissələr hökumətimizin və xüsusən də NSA-nın müşahidə baxımından nə edə biləcəyi barədə müəyyən şeylər söyləyən bir icra əmri var. Təbiətini yəqin ki, sizin və mənim dərk etdiyimiz sadə bir İngilis dili lüğəti ilə oxuduqda, NSA-nın amerikalıları izləmək qabiliyyətinin çox məhdud olduğuna inanırıq, əslində o qədər məhduddur ki, əgər onlar bir ABŞ insanını izlədiklərini başa düşsələr, dərhal dayanıb pis ağlamalı və bütün bu məlumatları silməlidirlər.
Bir müddət bunun həqiqətən baş vermədiyinə dair şayiələr var idi və işarələr var idi və xüsusən də senator Ron Wyden Senatın zalına çıxmaq və "burada bir şey düzgün deyil və mən sizə nə deyə bilmərəm" deməklə bağlı çox səs-küylü idi və ya dinləmələrdə o, kəşfiyyat rəsmilərindən soruşurdu: "Siz amerikalılar haqqında kütləvi məlumat toplayırsız, yoxsa yox?"
Həmin məmurlar ya yoldan çıxaracaqlar, ya da bəzi hallarda açıq-aşkar yalan danışacaqlar. İnanıram ki, bu, 2012-ci ildə o vaxt Milli Kəşfiyyatın direktoru olan Ceyms Klapper ilə bir dinləmə olub və ondan bu məsələ ilə bağlı birbaşa soruşulub. Və o, əsasən dedi: "Xeyr, biz amerikalılar haqqında məlumat toplamırıq." Ed Snowden-i məlumatları sızdırmağa ruhlandıran şeylərin böyük bir hissəsi, onun Glenn Greenwald, Barton Gellman və Laura Poitrasa da sızdırdığı hesabatları idi. Bütün bunlardan, kəşf etməyə başladığımız şey, NSA-nın sizin və mənim istifadə etdiyimiz lüğətdən bir qədər fərqli olan öz lüğətinə sahib olmasıdır ki, onlar sözləri onların sadə ingiliscə mənasından fərqli şəkildə şərh edə bilirlər, o cümlədən açar söz kimi hiss olunan “hədəf” kimi sözlər. Bunun nə olduğunu geniş şəkildə başa düşmək budur ki, nəzəri olaraq, onlar yalnız ABŞ vətəndaşı olmayan insanları hədəf almalıdırlar, məncə, bu ifadədir.
Lakin zaman keçdikcə bunun təfsiri belə idi ki, həmin şəxsin adı çəkilən hər şey, əcnəbi şəxs haqqında olan hər şey indi ədalətli oyundur, hətta bu, bir şəxsin ünsiyyəti olsa belə, indi ədalətli oyundur.ABŞ adamı. Beləliklə, siz və mən bir-birimizə mesaj yazsaq və əcnəbi şəxsin adını çəksək, bu, NSA-nın toplaması, saxlaması və saxlaması üçün ədalətli oyundur.
Bunun ikinci hissəsi də var. Mən Ronald Reyqanın ilk İcra Sərəncamı 12333-dən bəhs etdim, texnologiya zaman keçdikcə dəyişdikcə və internet böyüdükcə NSA-ya xarici kommunikasiyalardan istifadə etməyə imkan verdi, lakin bu, ABŞ-ı hardasa marşrutda tərk edə biləcək hər hansı rabitəni əhatə etdi. Beləliklə, əgər mən sizə mesaj göndərirəmsə və Kaliforniyada məndən ABŞ-ı tərk edən fiber optik kabel vasitəsilə bir mesaj gəlsə, NSA ABŞ-dan kənarda olan hissəyə bir kran qoya bilər və bu məlumatı toplaya bilər, hətta ABŞ daxilində sizə göndərilsə belə.
Daha sonra NSA bu məlumatları ABŞ-da olan şəxslərdə olsa belə saxlaya bilər və onlar daha sonra bu barədə xüsusi axtarışlar edə bilər, bəzən “arxa qapı axtarışları” adlandırılır. Onlar ilk növbədə toplamamalı olduqlarına inandığımız bu məlumatları topladılar, lakin saxlaya bildilər. Və söz verdilər, çəhrayı and içdilər ki, bunu gizli saxlayacaqlar, amma axtarıb tapsalar ki, sən və ya mən əcnəbi adamın adını çəkmişik, onda birdən-birə onunla istədiklərini etmək ədalətli oyundur.
Ümumilikdə, bu, federal hökumətin ABŞ-dan kənarda toxunan hər hansı bir məlumatı toplaya biləcəyi bir dünyaya çevrildi. Tamamilə iki ABŞ insanı arasında olsa belə, onlar ABŞ vətəndaşı olmayan birini qeyd etsələr və ya hətta işarə etsələr, birdən toplanması ədalətli oyundur. Və bundan biz ABŞ-a qarşı casusluq etmədiyini iddia edən və açıq şəkildə bəyan edən NSA tərəfindən ABŞ şəxslərinin kütləvi şəkildə izlənilməsi forması kimi görünən bir şey əldə etdik.
Bu nöqtəyə necə gəldik? Bu, bir çox artımlı körpə addımlarıdır. 2012-ci ildə James Clapper-in adını çəkdiniz, bu Obama administrasiyasıdır. Siz Ronald Reyqanın adını çəkdiniz, bu, 1980-ci illərdir. Biz burada Demokratlar və Respublikaçılardan keçirik.
Terrorla müharibə Corc Buş administrasiyasında, 11 sentyabr hadisələri və Patriot Aktı isə Corc Buş administrasiyasında baş verdi. Hər iki partiyanın prezidentləri dövründə, hər iki partiyanın qurultayları zamanı artan pisliklər çoxdur. Bu necə oldu?
Bunun ən sadə forması odur ki, heç kim və şübhəsiz ki, heç bir prezident böyük bir terror hücumu zamanı prezident olmaq istəmir, çünki bu, onları pis göstərir. Aydındır ki, onlar da amerikalıları qorumaq istəyirlər, elə deyilmi? Bu, onların işinin bir hissəsidir. Əsasən qaranlıqda fəaliyyət göstərən bir kəşfiyyat icmanız varsa, çünki kəşfiyyat icmaları bunu edir və onlar sizin yanınıza gəlib deyirlər: “Hey, əgər biz sadəcə bu məlumatı əldə edə bilsəydik, bu, terror hücumunun qarşısını almaqda həqiqətən faydalı olardı”.
Bunun doğru olduğu, kəşfiyyat cəmiyyətinin bu məlumatdan yaxşı işləyən şəkildə istifadə edə bildiyi hallar ola bilər. Amma biz həm də nəzəri olaraq, tabe olmalı olduğumuz ABŞ Konstitusiyasına malik qanunlar cəmiyyətiyik. Ancaq bu, administrasiyadan sonra administrasiyanın, yenə də Respublikaçı və Demokratın, çox ağıllı olan hüquqşünaslara sahib olmasına imkan verdi və "Yaxşı, əgər biz bu şəkildə mövqe tutsaq və ya bu şəkildə ifadə etsək və ya bunu şərh etsək, bu şəkildə istədiyimizi əldə edə bilərik və texniki cəhətdən qanunu pozmayaq və ya Dördüncü Düzəlişi texniki cəhətdən pozmayaq."
Fərziyyə həmişə belə idi: "Biz qanunu bir növ əyilə və ya qanuna dair şərhimizi əyə bilərik və bunu heç kim həqiqətən görməyəcək, ya da maraqlanan heç kim bunu heç vaxt görməyəcək və buna görə də biz ondan qaçacağıq."
Mənə həqiqətən də sıçrayan iki şey var. Birincisi, siz də, mən də çoxlu məhkəmə qərarlarını oxuyuruq - apellyasiya məhkəməsinin qərarlarını və Ali Məhkəmənin qərarlarını. Ali Məhkəməmizdə nizamnamə və qanunlarımızdakı sözləri hərfi mənada necə şərh etmək barədə mübahisə var.
Mən çox da uzağa getməyəcəm, amma ümumiyyətlə deyərdim ki, sadəcə səhifədəki sözləri oxumalı və onların dediklərini etməlisiniz ki, ABŞ-da qanuni şərhin dominant gərginliyidir. Sağ və ya sol, hər ikisi deyir. Bunun əslində nə demək olduğuna dair çox ezoterik incə məqamlar haqqında mübahisə edirlər. Ancaq bu sözləri oxuyub dediklərini edə bilməlisən ki, bu, ələ keçirilmir, elə deyilmi?
Ən azı sizin ola biləcəyiniz ilk keçidə çatdıqmətnçilik adlandırırıq. Hər iki administrasiyanın hüquqşünasları ölkəmizdə hökm sürən hüquqi qərarvermə rejimindən bu qədər uzaqlaşmağa necə nail olurlar? Hər iki tərəfin ədalət mühakiməsi bunun ən azı ilk addım olması ilə razılaşır.
Kaş ki, dəqiq cavabı biləydim, amma məncə, bu, əsaslandırılmış əsaslandırmadır, elə deyilmi? Bir vəkil olaraq, siz müştərinizi müdafiə etmək üçün oradasınız və hüquq sistemimizin uğuru - əgər bunu uğur adlandıra bilsəniz - bu məsələlərlə bağlı mübahisə edən müxtəlif tərəflərin olduğu, hakimin rolunun daralma və hansı tərəfin əslində doğru olduğunu anlamaq olduğu bir çəkişmə vəziyyətinə əsaslanır.
Kəşfiyyat icması və onun qurulması ilə bağlı problemlərdən biri odur ki, sizdə belə bir rəqib vəziyyət yoxdur. Bu, bir tərəfin irəli sürdükləri arqumentə haqq qazandırmasını asanlaşdırır, çünki heç kim həqiqətən ondan geri çəkilmir. Siz bunu başqa bir terror hücumundan, milli təhlükəsizliklə bağlı hər hansı bir qorxudan və hətta FISA məhkəməsinin olduğu vəziyyətlərdə belə birləşdirirsiniz - FISA məhkəməsi uzun illər effektiv şəkildə rezin möhür kimi məşhur idi.
Dəqiq rəqəmləri unuduram, amma müəyyən vəziyyətlərə nəzarət etmək üçün FISA məhkəməsinə edilən müraciətlərin yüzdə 99-dan çoxu təmin edildi və 99 faizinin açıq-aydın çox olduğunu söyləmək asandır. Aydındır ki, məhkəməyə iddia qaldıranlar, seçib-seçirlər. Onlar, əksər hallarda, tamamilə çılğın iddialar gətirmirlər. Ancaq bu rəqib aspekt olmadan və "biz bunu etməliyik" deyə düşünən və ya bir administrasiya tərəfindən "biz bunu etməliyik" deyən çox güclü motivasiyalı bir qrup insanlar bunu etmənin yollarını tapacaqlar. Və bu, zamanla bitdiyiniz yerdir.
Bu prosesdə nə vaxtsa yuxudan oyanıb öz-özünə “Oğlum, biz “hədəf” sözünü istədiyimiz mənada yenidən təyin edə bilmişik” deyən biri olubmu?
[Gülür] Aydındır ki, bir çox sənədləri sızdıran Ed Snowden var idi. 2014-cü ildə The Washington Post-a 12333 saylı İcra Sərəncamının təfsirini açıqlayan bir yazı yazan və diqqət yetirilməli olan əsl məsələnin bu olduğunu deyən Con Napier Tye var idi. Bu şeylər haqqında danışan başqa adamlarınız da var, lakin əksər hallarda, administrasiya daxilində kəşfiyyat cəmiyyətinin işi ilə məşğul olan insanlar kəşfiyyat cəmiyyətinin fikrincə satın alınır, yəni əsas məqsəd ölkəni pis bir şeydən qorumaqdır. Bunun ən yaxşı yolu mümkün qədər çox məlumat əldə etməkdir.
Bəli, daha çox məlumatın olması onlara nəyisə daha əvvəl tutmağa və ya vacib bir şey tapmağa imkan verə biləcəyi arqumentinə rəğbət bəsləmək asandır, lakin bu, doğru olmaya bilər. Həddindən artıq məlumat əldə etmək, ehtimal ki, çox az məlumat qədər pisdir, çünki o, çox vaxt həqiqətən faydalı olan məlumatları, həqiqətən bir şeyi müəyyən etmək üçün lazım olan məlumatları gizlədə bilər.
Ancaq eyni zamanda, bizim ABŞ-ımız var. İlk növbədə konstitusiya və nəzəri olaraq, ehtimal olunan səbəb olmadan kütləvi nəzarətə icazə verməməyimiz üçün səbəblərimiz var. Qanunun aliliyinə inanan bir ölkə olaraq biz buna uyğun yaşaya bilməliyik və bütün bunlar qaranlıqda baş verəndə siz bunu gözdən itirməyə meylli olacaqsınız.
Bu məni Antropikə gətirir. Anthropic ilk növbədə müəssisə şirkətidir. Onlar hökumətdə yaxşı işləyirlər, bu əzələləri inkişaf etdiriblər, bu işlərin bəzilərini həqiqətən yaxşı bilən insanlardan ibarətdir. Onlar açıq-aydın Pit Heqsetə baxdılar: "Biz bütün qanuni istifadələri istəyirik" və onlar iki səviyyəli təfsir səviyyəsinə enərək dedilər: "Yaxşı, sizin hərfi inancınız budur ki, bu sözlər onların üzlərində dediklərini ifadə etmir. Ona görə də "bütün qanuni istifadələr" çox böyükdür və biz xüsusilə kütləvi nəzarətin ətrafına bəzi qoruyucu barmaqlıqlar qoymaq istəyirik."
Yenə də mən digər qırmızı xətt olan muxtar silahları mötərizədən çıxaracağam, lakin xüsusən də kütləvi nəzarətdə Dario Amodei orada deyir: "Biz çox şey edə bilərik. Bu çox təhlükəlidir. Bu, Dördüncü Düzəlişin pozulmasıdır."
Oradakı gərginlik "bir şeyi söyləyən bu qanunlara əməl edəcəyinizi deyirsiniz və indi, bütün bu müddətdən sonra, onlar tamamilə fərqli bir şey deməkdir və biz sadəcə bunun bir hissəsi olmaq istəmirik." budurdöyüş. Mən bunu sadəcə olaraq “Biz bütün qanuni istifadələrimizi edəcəyik” deyən və sonra “Budur, riayət edəcəyimiz bütün qanunlar” kimi uzun mesaj göndərən Sam Altmanla müqayisə etmək istəyirəm.
Görünür, Altman NSA-nın bunları necə yenidən şərh etdiyini və bir növ gəzintiyə götürüldüyünü bilmirdi. Və o, o vaxtdan geri qayıtmağa başladı – hətta biz qeyd edərkən, əminəm ki, daha çox tvit var və hər kəsin mövqeyi dəyişib. Ancaq Altman yavaş-yavaş geri addımlayır, amma görünür, OpenAI onların üzlərindəki nizamnamələri oxumağa və dediklərinə inanmağa məcbur oldu. Siz də hadisələri belə şərh edirsiniz?
İki variant var və bu onlardan biridir. Biri odur ki, o, uzun illər xalqın oynadığı şəkildə oynayıb. Alternativ nəzəriyyə və bunlardan hansının doğru olduğuna dair heç bir fikrim yoxdur, o və ya OpenAI-dakı bəzi hüquqşünaslar - məncə, çox bacarıqlı və çox məlumatlıdırlar - bunu bilirdilər, lakin NSA-nın bir neçə onilliklər ərzində oynadığı oyunu oynaya biləcəklərini düşünürdülər. Beləliklə, Sam, "Antropiklə eyni qırmızı xətlərə sahib idik və hökumət bununla əla idi" kimi görünən bəyanatla çıxış edir.
Əslində, Sam Altman demişdi ki, Anthropic-in iki qırmızı xətti və OpenAI-in üç xətti var və hökumət bununla mükəmməl davranırdı və bu, bir çox insanın başını cızmağa məcbur etdi. Ancaq düşünürəm ki, ya Sam Altman və onu əhatə edənlər bunların praktikada necə işlədiyini başa düşməmişlər, ya da başa düşmüşlər və onlar sadəcə olaraq güman edirdilər ki, ictimaiyyət bunu bilməyəcək və buna görə də ondan xilas ola bilərlər.
Ağlıma gələn başqa bir şey - yenə də AI yenidir və yeni texnologiyalarla tanış olmaq o qədər cazibədardır ki, bunlar ilk təəssürat problemləridir. "Əvvəllər heç kim bu barədə düşünməmişdi", amma reallıq budur ki, hər kəs bu barədə çoxdan düşünür. Bəlkə burada yeni olan süni intellekt deyil, amma ikinci Tramp administrasiyası heç kimin diqqət etmədiyi gizli məhkəmə qarşısında öz hərəkətlərinə haqq qazandırmaq üçün bəlkə də heç kimin oxumayacağı bir dəstə vəkillik etmək əvəzinə, o qədər də incə deyil.
Onlar o qədər də mürəkkəb deyillər və sadəcə olaraq hər zaman hamıya casusluq edəcəklərini deyirlər. Sadəcə, niyyətlərini elə elan etdilər ki, bəlkə də bütün idarələr öz niyyətlərini açıqlasınlar və fişlərin hara düşdüyünü görsünlər.
Amma mən Nyu-Yorkda Ed Snowdenin olduğu faktına baxıram. AT&T hər kəsin NSA binası olduğunu bildiyi binanı idarə edir. Bu, sadəcə olaraq nəhəng bir binadır və biz bunu NSA-nın müşahidə mərkəzi olmadığını iddia etməliyik, amma elə oradadır. Bu nəhəngdir. Deyəsən, bunların heç biri heç nəyə gəlməyib. Bütün bu ifşalar, bu sızıntılar, biz bunu dəstəkləməmişik.
Əslində, bu, həyatımızın çox hissəsi getdikcə daha çox rəqəmsallaşdıqca artdı. Və ola bilsin ki, Tramp administrasiyası hər zaman belə küt alət olub, əslində hesablaşmaya səbəb olan şey ola bilər. Hər halda bunun oynadığını görürsən?
Orada bir neçə fərqli şey var və bu şeylərdən ümumiyyətlə geri çəkilməməyimiz tamamilə doğru deyil. Snoudenin açıqlamaları bu hadisələrin necə baş verməsində bəzi dəyişikliklərə səbəb oldu. İndi də var - onların nə adlandığını unuduram, lakin onlar FISA məhkəməsindəki bu vətəndaş dostları kimidirlər və müəyyən məsələlərdə qarşı tərəfi təqdim edəcəklər.
Və biz bəzi səlahiyyətlilərin müəyyən yollarla məhdudlaşdırıldığını gördük və onlar tez-tez yenidən icazə almaq üçün gəlirlər və fəallar geri çəkilmək və daha çox qoruyucu barmaqlıqlar qoymağa çalışmaqda çox aqressiv olublar. Ancaq daha böyük suala, məncə, iki fərqli şey var. Yarım haqlısınız ki, bu administrasiya incə deyil və etməməli olduğu şeyləri ucadan deyir.
"Biz İranla müharibə edirik, bunu edirik, baş verir. Rəqsi sınamaq fikrində deyilik."
Bütün əvvəlki administrasiyaların etməyəcəyi şəkildə. Amma bu barədə birbaşa deməyiblərmüşahidə, xüsusən də amerikalıların müşahidəsi. Bununla bağlı göstərişlər var, lakin onlar bu barədə o qədər də güclü çıxış etməyiblər. Bunun digər yarısı daha çox Anthropic-in mövqeyi və AI-yə bu ehtimal ekzistensial texnologiya kimi ümumi baxışı ilə daha çox əlaqəlidir, burada Anthropic həmişə özünü "Biz düşüncəli yaxşı adamlarıq" kimi təqdim edir və buna inanıb-inanmamağınızdan asılı olmayaraq. Onların orada belə bir nüfuzu var: "Biz bunu təhlükəsiz, insanlığa hörmət edən və bütün bunlara diqqət yetirən şəkildə etməyə çalışırıq." Və beləliklə, bu toqquşma olduqda, mübarizənin başladığı yer budur.
Sizin etmək istədiyi hər şeyi edə bilmək istəyən bir Tramp administrasiyanız var və onlar bu barədə incə deyillər. Və sonra özünü təsviri və ictimai şəxsiyyəti həmişə "Biz düşüncəliyik və insanlığa, hüquqlara və bütün bunlara hörmət edirik" kimi olan Antropik var. Çox güman ki, toqquşma burada baş verdi, çünki Anthropic, açıqlandığı kimi, bir müddət Müdafiə Departamenti ilə işləyib və hökumətlə istifadə etdiyi bir çox başqa müqavilələrə malikdir. Problem olmadı.
Hökumətin müqaviləni genişləndirməyə çalışdığı bu konkret sahələrdə Anthropic-in yüksək səviyyəli rəhbərliyi deməyə başladı: “Gözləyin, düşünməli, təhlükəsiz AI təminatçısı kimi nüfuzumuza potensial xələl gətirəcək bu qırmızı xətləri keçmədiyimizə əmin olmalıyıq.”
Mən qısaca olaraq sizdən ümumi nəzarət, xüsusən də Anthropic-in Dördüncü Düzəlişlə bağlı narahatlığı barədə soruşmaq istəyirəm. Dördüncü Düzəlişdə deyilir ki, hökumət sizi əsassız olaraq axtara bilməz. Dördüncü Düzəlişi başa düşməyin ən yaxşı yolu Jay-Z-nin “99 Problem”inə qulaq asmaqdır. Beləliklə, fasilə verib “99 Problem”ə qulaq asmaq lazımdırsa, bu əladır. Hamısı ordadır. Mən hüquq fakültəsində oxuyanda ona qulaq asırdım və çox mənalı idi.
Ancaq hökumətə ümumiyyətlə sizi axtarmaq üçün order lazımdır. Həyatınızın getdikcə daha çoxu onlayn keçdikcə, bunun üçün çoxlu və çoxlu istisnalar var. Ancaq fikir ondan ibarətdir ki, onlar hələ də onlayn bir orderə ehtiyac duymalıdırlar. Anthropic-in arqumenti belədir: "Yaxşı, süni intellekt heç vaxt yorulmayacaq. O, hər zaman hər şeyi axtara bilər. Bu o deməkdir ki, biz sadəcə olaraq master nəzarət edəcəyik."
Hələ süni intellekt ortaya çıxmazdan əvvəl, hökumətin sizə aid olan hər şeyi axtara biləcəyi fikri orada idi, hökumətin bütün əşyalarınızı axtarmaq üçün orderə ehtiyacı olmadığı fikri orada idi. Sizin məlumatlarınızdan hər hansı biri qısa bir saniyə ərzində ölkədən kənara çıxsa, hökumət onu orada ələ keçirdi.
Mən kollecdə oxuyanda, Patriot Aktı zamanı mübahisə belə idi ki, onlar sizin faktiki məlumatlarınızı axtarmayacaqlar, ancaq metadata və metaməlumatları tək əldə edə bilərlər. Məlumatlarınız haqqında məlumatlar sizi hər zaman dəqiq yerləşdirməyə kifayət edəcəkdir. Və hətta bu çox uzaqdır. Və biz bu rəqsi edirik ki, hökumət nə toplaya bilər? Nəyə icazə verilir? Hamımızı təhlükəsiz saxlamaq üçün onlara nə lazımdır və nə çox uzaqdır? Həmin xətlər yerindən tərpənib.
Beləliklə, miqyasda müşahidə ilə bağlı ümumiləşdirilmiş narahatlığı və indi harada olduğumuzu qısaca təsvir edin. Süni intellektdən əvvəl vəziyyət hər şeyi eksponent olaraq daha da mürəkkəbləşdirirdi.
Burada, yəqin ki, daha əvvəl qeyd edilməli olan başqa bir konsepsiya təqdim etməliyəm, lakin bu, “üçüncü tərəf doktrinası” adlanan vacibdir. Dördüncü Düzəlişin ideyası ondan ibarətdir ki, hökumət sizi və ya əşyalarınızı order olmadan axtara bilməz və hansısa cinayət törətdiyinizə dair ehtimal olunan səbəb olmadan order ala bilməz. Ancaq onilliklər əvvəl üçüncü tərəf doktrinası adlanan bir konsepsiya var ki, bu, sizin məlumatınız olsa belə, sizin olmayan şeylərə mütləq tətbiq olunmur və ya ümumiyyətlə tətbiq olunmur.
Bunun ən erkən və ən bariz versiyası telefon şirkətində sizin zəng etdiyiniz şəxsə dair telefon qeydləri idi. Telefon şirkətləri zənglərinizi qeydə almırdı, amma sizə zəng etsəm, telefon şirkətində “Mayk Nilaya zəng edir” yazısı yazırdı. Və bir çox məhkəmələr tərəfindən müəyyən edilən o idi ki, hökumət gedib bunu tələb edə bilər və bunun üçün orderə ehtiyac yoxdur, çünki bu, axtarış deyil.məlumatlarınız, bu üçüncü tərəfdir və onlar üçüncü tərəf kimi həmin məlumatları təhvil verməyə razılaşa bilərlər.
Ancaq bunlar 1960 və 70-ci illərin halları idi, burada hökumətin orda heç bir üçüncü tərəf məlumatı olmadığı halda buna icazə olmadan daxil ola biləcəyi müəyyən edildi. Kompüterlərin və internetin yüksəlişi bunu dəyişdi. İndi hər şey üçüncü tərəf məlumatlarıdır. Etdiyimiz hər şey haradasa hansısa şirkət tərəfindən toplanır və onun qeydi var. Beləliklə, əsasən sizinlə bağlı hər bir məlumat, harada olduğunuz, kiminlə danışdığınız, kiminlə əlaqə saxladığınız, nə dediyiniz, nə etdiyiniz, bunların hamısı bu günlərdə demək olar ki, üçüncü tərəflər tərəfindən saxlanılır. Beləliklə, üçüncü tərəf doktrinası Dördüncü Düzəlişin hamısını müəyyən dərəcədə uddu, burada başqasının sizin haqqınızda olan hər hansı bir şey, hökumətin bunu tələb etmək üçün edə biləcəyi şeylər üçün daha aşağı standart var.
Konkret olmaq üçün, bu o deməkdir ki, mənim məlumatlarım iCloud-da olduqda, hökumət Apple-a gedə və heç vaxt mənə demədən məlumatlarımı iCloud-dan çıxara bilər?
Bunu tələb edə bilərlər. Sərəncam olmadan asanlıqla tələb edə bilərlər. Onda şirkətin öz hüquqları var və bu sorğu ilə nə etmək istədiklərini müəyyən edə bilər. Sadəcə ondan imtina edə bilərlər. Əksəriyyətinin edəcəyi kimi, əgər bu ciddi bir sorğudursa, sorğuları əlsiz olaraq rədd edə bilər və ya onlar sizi xəbərdar edə bilər və deyə bilərlər - və onların əksəriyyəti bunu edəcək - onlar sizi xəbərdar edib deyəcəklər: "Hökumət bəzi məlumatlarınızı tələb edir. Siz məhkəməyə gedib onları bloklamağa cəhd edə bilərsiniz." Əks halda, onlar məlumatlarınızı yeddi gün ərzində və ya nə olursa olsun təhvil verəcəklər.
Yenə də asılıdır. Əgər bu cinayət təhqiqatıdırsa, o zaman şirkətin sizə bildirməsinə icazə verilməyən bir növ tıxac əmri ola bilər. Hər cür vəziyyət var, lakin onların əksəriyyəti məlumat və ya hər hansı məlumat və ya öz evinizdə hər hansı bir şey olsaydı, Dördüncü Düzəlişin tələb edəcəyi qorunma səviyyəsindən daha aşağı səviyyədədir.
Başqasının bulud serverində olan məlumatların miqdarı böyükdür, elə deyilmi? İndi İnternetdə ümumiyyətlə etdiyiniz hər bir iş hansısa şəkildə ehtiyat nüsxələnir və ya başqasının serverlərində hansısa şəkildə qeyd olunur. Hökumət Dördüncü Düzəlişdən keçmək üçün bu yolu tapıb: "Yaxşı, bu, əslində sizin deyil. O, Amazona məxsusdur. Biz Amazonla danışa bilərik" və Amazon bu prosesin ortasında dayanıb, "Biz insanları bir qədər qorumaq üçün başqa bir proses icad etdik" deməlidir.
Mən buna baxıram - və bulud xidmətlərini əhatə edən ilk üçüncü tərəf doktrina hadisələrini işıqlandırarkən və hökumət qalib gəlməyə davam edərkən, əsasən Jokerə çevrildiyim zaman idi. Mən belə idim: "Mətnçilik və düz [oxumaq] haqqında iddia etdiyimiz bütün bu şeylər, bunların heç biri heç nə demək deyil, çünki biz bu qədim qanunu hər kəsin məlumatlarına daxil etmək üçün arxa qapıya at gücünə çatırıq."
Sonra buna baxıram və Antropikə baxıram və deyirəm: "Yaxşı, bu eyni nümunədir." Bu, özəl şirkət deyir: "Yaxşı, biz sizin mövqeyinizi başa düşürük. Qanunu bu mənada yenidən şərh etdiyinizi başa düşürük və biz sizin, alətimiz və xidmətimiz vasitəsilə axan amerikalıların məlumatları arasında bir proses qoyacağıq." Mən sadəcə maraqlanıram ki, orada Antropik və Amazon və Azure arasında və bu qədər məlumatımızı saxlayan mövcud olan digər bulud xidmətləri arasında bu paraleli görürsənmi?
Bəli, burada vacib olan bir neçə aydınlaşdırma var ki, bunu bir az fərqli edir. Və əslində - məncə, The New York Times ilk olaraq bu hesabatı verdi - Anthropic üçün ən vacib olan əsas bənd xüsusilə kommersiya xidmətlərindən toplanan məlumatlar və bu məlumatlarda Klodu istifadə edə bilməmək idi, üçüncü tərəf məlumatları baxımından məhz bu məsələdir. Ancaq mən bundan əvvəl Amazon və ya məlumatlarınızı yerləşdirən digər üçüncü tərəflər ilə söhbət etdiyimiz əsas fərqi aydınlaşdırmaq istəyirəm.
Claude ilə, heç kimin NSA-nın Klod istifadənizə baxmasından narahat olması deyil. Söhbət onların çıxıb Amazondan üçüncü tərəf məlumatlarını əldə etməsi və ya daha çox ehtimal ki, telefonlarınızda reklamlar təqdim edən, yerinizi, maraqlarınızı və bu kimi şeyləri bilən gizli, gizli məlumat brokerlərindən gedir. Və sonra bir sistemə qidalandırmaqKlod bundan sonra üzərində işləyəcək. Antropik həqiqətən bir hissəsi olmaq istəmədiyi şeydir. Beləliklə, hökumət bu məlumatları üçüncü tərəfdən toplayacağı yerdə və ya necə olursa olsun, Anthropic dedi: "Bizim alətimizin bu məlumatlar üzərində istifadə olunmasını istəmirik."
Apple məşhur şəkildə FTB-dən iPhone-a arxa qapı qoymağı xahiş edir və Apple “yox” deyir və onlar Trampa qarşı çıxırlar. Sistemimizin necə işlədiyinin bir hissəsi var ki, böyük özəl şirkətlər öz müştəriləri adından hökumətə “yox” deyirlər. Və bu, eyni şəkildə hiss olunurdu ki, Apple yenidən iPhone-da arxa qapı qoymayacaq və ya böyük bulud provayderləri “Fərdi məlumatları əldə etməzdən əvvəl keçməli olduğunuz bir az proses var” deyirlər.
Burada deyəsən Anthropic deyir: "Biz yalnız digər tərəflərdən əldə etdiyiniz məlumatların toplu təhlilini aparmayacağıq, çünki bu, amerikalıların 24/7 kütləvi izlənməsinə gətirib çıxarır və biz bunu etmək istəmirik." Bununla belə, bu administrasiya üçün çox uzaq bir körpü kimi görünür. Bundan geri dönüş varmı?
Biz görəcəyik. Keçmişdə bu baş verəndə - və bu, böyük texnologiya şirkətlərinin əksəriyyətində dəfələrlə baş verdi, bir nöqtədə bir şeyin çox uzaq bir körpü olduğunu söylədilər - bu, adətən məhkəməyə gedir. Şirkətlər məhkəməyə gedəcək və ya administrasiya məhkəməyə müraciət edəcək və bir növ məhkəmə çəkişməsi olacaq.
iPhone-un arxa qapısı bunun mükəmməl nümunəsidir. Məhkəməyə getdi və onlar bununla mübarizə apardılar, baxmayaraq ki, heç vaxt bir nəticəyə gələ bilmədilər, çünki FTB sonda iPhone-u əl ilə sındırdı və sonra məhkəmə qərarının gələcəkdə bunu pozmasını istəmədi.
Ancaq eskalasiyanın olduğu və bu keçmiş vəziyyətlərdən fərqli olduğu bu vəziyyətdə, Trump administrasiyası sadəcə məhkəməyə müraciət etməkdənsə, bu "təchizat zənciri riski" təyinatını etdi, bu sadəcə dəlilikdir. Bu, potensial xarici zərərli aktyorların texnologiya təmin etmələrini dayandırmaq üçün nəzərdə tutulmuş bu alətin daha sonra daha böyük texnologiya yığınına gizli nəzarət vasitələrini yerləşdirə biləcəyini və qadağan edilə biləcəyini düşünürdü. Bunu ABŞ-da yerləşən bir şirkətə, əsasən, etika siyasətinə sahib olmaq üçün tətbiq etmək, bu alətdən həqiqi, həqiqi sui-istifadə kimi hiss olunur.
Hətta bu alət müəyyən mənada şübhəli idi, ancaq Çin şəbəkə firması və ya bu xətlər boyunca bir şey haqqında danışarkən bunun arxasındakı təkanı başa düşə bilərsiniz. Burada heç bir mənası yoxdur. Beləliklə, buna reaksiya normal olaraq bu işdə görüləndən çox uzaqdır. Görə bilərsiniz ki, ənənəvi olaraq bir növ məhkəmə işi olacaq və hər iki tərəf buna başlaya bilər və bu, sadəcə olaraq müqavilənin necə tətbiq olunacağı ilə bağlı bir döyüş olacaq.
Ancaq burada baş verən bu deyil. Bu administrasiya effektiv şəkildə deyir: "Əgər bizə istədiyimiz hər şeyi verməsəniz, alətlərinizi bizim istədiyimiz kimi işləmək üçün qurmasanız, o zaman bütün biznesinizi effektiv şəkildə məhv etməyə çalışacağıq." Və bu eskalasiyadır.
Bunun üzərində bitirmək istədiyim bir parça var və bu, bunun ən qalaktika-beyin versiyasıdır. Azad söz müdafiəsi qrupu olan FIRE, Anthropic-i qurmaq istəmədiyi alətlər yaratmağa məcbur etməyin nitqin azadlığının pozulması, bunun məcburi nitq deyilən bir şey olduğu arqumentini yazmağa başlamazdan əvvəl bir blog yazısı yayımladı. Burada çoxlu tarix var. Burada bəzi dərin Verge və Techdirt, alaq otları, ekzistensial-böhran tarixi var.
Ancaq bu, əsasən kodun nitq olduğu, kompüter üçün kod yazmağın bir nitq forması olduğu və hökumətin sizi bunu etməyə məcbur edə bilməyəcəyi fikrindən irəli gəlir və bir çox şey bundan qaynaqlanır. Anthropic-i qurmaq istəmədiyi alətlər yaratmağa məcbur etməyin məcburi nitq olduğuna dair bu arqumenti alırsınız?
Bəli, mən bunun kifayət qədər cəlbedici olduğunu düşünürəm. Məcburi nitq. Amma yox, məncə, maraqlı bir arqumentdir. Bu, düşündüyüm məsələlərin siyahısından bir qədər aşağı olan biri idi. Mən açıq-aydın daha çox Dördüncü Düzəliş məsələlərinə diqqət yetirdim, lakin məncə FIRE arqumenti yanlış deyil. Biz bunu başqa kontekstlərdə də görmüşük. Şifrələnmiş sistemlərə arxa qapılar qurmağa çalışmaq baxımından arxa qapı məsələsində də ortaya çıxdı.
Şirkətlər mütləq Birinci qaldırdıDəyişiklik iddia edir ki, “Bizi bu cür kod yazmağa məcbur edən məcburi nitqdir”. Etibarlı arqumentdir. Yenə də ola bilər ki, məhkəmələr bu məsələləri başqa cür həll edə bilsələr, ilkin mərhələdə həll etməyə daha az hazırdırlar. Ancaq FIRE-nin bu postu hazırlamasına şadam və düşünürəm ki, bu maraqlı və inandırıcı arqumentdir.
Bəli, bu, sadəcə ikinci Tramp administrasiyasının təbiəti ondan ibarətdir ki, bu, belə küt alətdir, demək olar ki, bütün məsələlərə birdən hücum edəcəyik.
Bəli, Hüquqlar Qanununa hər bir düzəliş bu və ya digər formada mümkün olan hər bir məsələ ilə bağlı etiraz edilməlidir.
[Gülür] Sükanı fırladın.
Əminəm ki, Üçüncü Düzəliş pozuntusunu burada harasa yerləşdirə bilərik.
Əlbəttə, bəli. Klod indi sənin evində yaşamalıdır. Tam olaraq. Əla olacaq. Biz bir, üç, dörd və yeddi [düzəlişlər] edirik. Biz onları yığırıq.
Mike, bu əla oldu. Daha əvvəl verilişdə olmamağınıza inana bilmirəm. Bu əla oldu. Tez qayıtmalısan.
Tamamilə. Nə vaxt istəsən məni.
Bu epizod haqqında suallarınız və ya şərhləriniz? Bizə decoder@theverge.com ünvanından müraciət edin. Biz həqiqətən hər e-poçtu oxuyuruq!
