Bu gün biz Pentagon bilen gaty ýigrenji kanuny söweşe giren Klodyň öndürijisi Antropikdäki bulaşyk, çalt hereket edýän ýagdaý barada gürleşýäris.
Yza çekilmek çylşyrymly, ýöne birnäçe gün ozal bolşy ýaly, Pentagon Antropiki üpjünçilik zynjyry töwekgelçiligi hasaplady we Antropik hökümetiň "dünýäde iň çalt ösýän hususy kompaniýalaryň biriniň döreden ykdysady gymmatyny ýok etmek isläp" birinji we bäşinji düzediş hukuklaryny bozandygyny aýdyp, bu bellige garşy kazyýet işi açdy. Edil şu wagt aýdyp bilerin: Biz bu işiň öwrümleri we öwrümleri barada The Verge we ýakyn aýlarda Dekoder hakda gürleşmekçi.
Todayöne bu gün biraz wagt sarp etmek isledim we bu ýagdaýyň gözegçilikden çykanlygy sebäpli ýeterlik ünsi çekip bilmedik bir möhüm elementi öwrenmek isledim: Amerikanyň Birleşen Ştatlarynyň hökümetiniň gözegçiligi nädip amala aşyrýandygyna, gözegçiligiň bolmagyna rugsat berýän kanuny ygtyýarlylyga we Antropikiň AI-den has köp gözegçilik etmek üçin kanuna eýerjekdigini aýdyp, hökümete ynamsyzlygy.
Verge abonentleri, podkastlaryňyzy nirä alsaňyzam, mahabatsyz dekoderlere aýratyn girip biljekdigiňizi ýatdan çykarmaň. Şu ýere gidiň. Abonent dälmi? Bu ýerde ýazylyp bilersiňiz.
Şu gün myhmanym, ajaýyp we uzak wagtlap dowam edýän tehnologiýa syýasaty web sahypasy Techdirt-iň esaslandyryjysy we baş direktory Maýk Masnik. Maýk indi onlarça ýyl bäri hökümetiň kemsidilmegi, sanly döwürde şahsy durmuşyň eldegrilmesizligi we beýleki degişli temalar barada ýazýar. Internet bilen gözegçilik ýagdaýynyň biri-birine bagly görnüşde nähili ösendigi barada bilermen.
Görýäňizmi, hökümetiň bize gözegçilik etmek meselesinde hökümetiň näme edip biljekdigi, soň bolsa hökümetiň näme etmek isleýändigi aýdylýar. Iň esasy zat, hökümetiň kanunyň edip biläýjek zady bar, bu köplenç kanuny okaýan islendik adaty adamyň pikirine ters gelýär.
Maýkyň şu bölümde ABŞ-nyň hökümetine gözegçilik meselesinde öz sözüni alyp bilmejekdigimizi we etmeli däldigimizi bu ýerde giňişleýin düşündirendigini eşidersiňiz. Gözegçiligi giňeltmek üçin "maksat" ýaly ýönekeý sözleriň düşündirişini ýoýýan gaty köp taryh bar - adatça diňe hukuk toparlarynda alada döredýän we on ýyl gowrak mundan ozal habarçy Ed Snowdeniň NSA-nyň esasy açyşlary ýaly uly jedeller ýüze çykanda.
Trumpöne Trump döwründe syýasaty ýöretmek barada inçe ýa-da çylşyrymly zat ýok - we Antropik bilen hakyky wagtda, internetde, blog ýazgylarynda we X ýazgylarynda we metbugat konferensiýasynyň sesleri bilen tehnologiýa we gözegçilik barada gaty güýçli, köpçülikleýin jedel edýäris. Munuň oňyn we negatiw taraplary bar, ýöne manysyna düşünmek üçin hakykatdanam taryhy bilmeli.
Ine, Maýk bilen ikimiziň bu bölümde düşündirmek isleýän zadymyz - AI we hökümet baradaky pikirleriňiz nähili bolsa-da, bu bölüm iki tarapyň hem wagtyň geçmegi bilen gözegçilik ýagdaýynyň ulalmagyna ýol açandygyny görkezer. Indi, AI barada aýdylanda bolsa, iň uly giňelişiň tarapdary.
Bolýar: Antropik, Pentagon we AI gözegçiligi boýunça Techdirt-iň esaslandyryjysy we baş direktory Maýk Masnik. Ine, gidýäris.
Bu söhbetdeşlik uzynlygy we aýdyňlygy üçin ýeňil redaktirlendi.
Maýk Masnik, “Techdirt” -iň düýbüni tutujy we baş direktory. Dekodere hoş geldiňiz.
Men şu ýere gelendigime begenýärin.
Sizi görmäge begenýärin. Justaňy şüweleňe gatnaşmandygyňa geň galýandygymy aýdýardym. Siz we men uzak wagt bäri biri-birimiziň töweregimizde ýazýarys we iberýäris. “The Verge” syýasatynyň köpüsi Techdirt-de eden işleriňize bergili, soň bolsa Antropik bilen bolup geçýän zatlar gaty çylşyrymly, ýöne şunça wagtlap açan mowzuklaryňyza degýär. Ahyry gelendigiňize begenýärin.
Bu mowzugyň çylşyrymly bulam-bujarlygy, ýöne şoňa göz aýlamaga begenýärin.
Siziň bilen ünsi çekmek isleýän zadym, Antropigiň hökümet bilen şertnama baglaşjakdygy ýa-da OpenAI-iň bu şertnamany aljakdygy barada jikme-jiklik däl. Munuň ýerine, muny ýazga alýan wagtymyz bilen adamlaryň diňleýän wagtynyň arasynda has köp twit boljakdygyna we köp zadyň öňküsinden tapawutly boljakdygyna ynanýaryn.
Ünsümi jemlemek isleýän zadym, Antropigiň hakykatdanam goýan iki gyzyl çyzygynyň diňe biri. Olaryň biriözbaşdak ýarag derejesi bolan awtonom ýaraglar. Therearaglaryň barlygy ýa-da Russiýa tarapyndan Ukraina söweşinde ýerleşdirilendigi ýa-da ýokdugy baradaky kanun birneme has täze.
Bu ýerde köp pikir bar, men muny diňe bir gyra goýmak isleýärin, sebäbi bu zatlaryň hemmesi öz meýilnamasyna has köp üns berer diýip pikir edýärin. Köp wagt sarp etmek isleýän beýleki gyzyl çyzygym köpçülikleýin gözegçilik. Köpçülikleýin gözegçilik barada bu ýerde gaty köp kanun bar. Taryh köp, jedelli taryh köp. Edward Snowdeniň ähli keşbi köpçülikleýin gözegçilik baradaky jedeller sebäpli bar.
Allhli zat düşýär - Meniň pikirimçe, Goranmak ministrliginiň bir bölegi bolan Milli Howpsuzlyk Guramasy (NSA), näme üçindir häzir uruş bölümine jaň etmeli bolýarys.
[Gülýär] Biz hiç zat etmeli däl.
[Gülýär] Biz beýle däl. Amerikada bu hakykat. Biz hiç zat etmeli däl. Nöne NSA köp sözleriň iňlis dilinden "Biz diňe gözegçilik edip bileris" diýmek manysyny kesgitledi. Soň bolsa adamlar diňe gözegçilik edýändiklerine göz ýetirenlerinde köplenç dawa bolýar. Şonuň üçin diňe şol ýerde sahna düzüň, men sizi yza gaýtarmak islämok, ýöne bu nagşyň özüni gaýtalaýan wagty gaty köp.
Bu näçe çuňluga gitmek isleýändigiňize bagly, ýöne gysga görnüşi 9/11-den soňky dünýäde, ABŞ-nyň hökümetiň geljekde boljak terrorçylyk howplaryndan goramagy üçin gözegçilik astynda saklamak ukybyna eýe bolan Watançylyk kanunyny kabul etdi. Wagtyň geçmegi bilen bu gyzykly usullar bilen düşündirildi we munuň üçin käbir çäklendirmeler bardy. Şeýle hem, FISA kazyýeti bardy, bu aňtaw gullugyna we olaryň işine göz aýlamaly ýörite kazyýet, ýöne adatça bir taraply kazyýet boldy. Diňe bir tarap kazyýete ýüz tutýar we bularyň hemmesi gizlinlikde edilýär.
Belli bolmadyk zatlar kän. Soň bolsa, bularyň hemmesinde Ronald Reýgana gaýdýan başga bir bölek bar, bu aňtaw ýygnamak üçin ýol düzgünlerini kesgitlemek bilen baglanyşykly 12333 ýerine ýetiriji buýruk.
Şeýlelik bilen sizde bu üç kanun toplumy bar, birnäçe kanunlar toplumy we köpçülige, okap boljak bölekleriňiz, hökümetimiziň we NSA-nyň gözegçilik nukdaýnazaryndan näme edip biljekdigi barada käbir zatlary aýdýan ýaly ýerine ýetiriji buýruk. Siziň we meniň, belki-de, düşünýän we düşünýän aç-açan iňlis sözlügi bilen okalanda, NSA-nyň amerikalylary gözegçilikde saklamak ukybynyň gaty çäklidigine, aslynda bir amerikan adama gözegçilik edýändiklerine düşünseler, derrew durup, aglamaly we maglumatlaryň we beýleki zatlaryň hemmesini ýok etmelidigine ynanýarys.
Birneme wagt bäri munuň hakykatdanam bolup geçmeýändigi barada myş-myşlar ýaýrady we yşaratlar bardy, esasanam senator Ron Waýden Senatyň gatyna çykyp: "Bu ýerde bir zat dogry däl, men saňa aýdyp biljek däl" ýa-da diňlenişikde aňtaw işgärlerinden "Amerikalylar hakda köpçülikleýin maglumat ýygnamaýarsyňyzmy?"
Bu wezipeli adamlar gaçar ýa-da käbir halatlarda aç-açan ýalan sözlär. 2012-nji ýylda şol döwürde Milli aňtaw gullugynyň müdiri Jeýms Klapper bilen göni diňlenişik geçirilen bir diňlenişikdigine ynanýaryn. Ol, esasan, ", ok, Amerikalylar hakda maglumat ýygnamarys" -diýdi. Ed Snowdeniň maglumatlary syzdyrmagyna itergi beren zatlaryň bir bölegi, Glenn Greenwald, Barton Gellman we Laura Poitras-a ýaýradylan habarlar. Bularyň hemmesinden başlap, NSA-nyň siziň we meniň ulanýan sözlügimizden düýpgöter tapawutly öz sözlüginiň bolmagy, sözleri esasy söz ýaly duýulýan “nyşana” ýaly sözleri goşmak bilen iňlis diliniň manysyndan tapawutly görnüşde düşündirip biljekdigi boldy. Munuň nämedigine giňişleýin düşünmek, teoriýa boýunça diňe ABŞ-ly däl adamlary nyşana almalydygy, meniň pikirimçe bu söz.
Timeöne wagtyň geçmegi bilen düşündirilişi ýaly, şol adamy ýatladýan islendik zat, keseki adam bilen baglanyşykly islendik zat adalatly oýun, hatda bu aragatnaşyk bolsa-daABŞ-ly adam. Şeýlelik bilen, siz we men biri-birimize sms iberip, bir daşary ýurtly adamy agzasak, bu indi NSA-nyň ýygnamak, saklamak we saklamak üçin adalatly oýun.
Munuň ikinji bölümi bar. Ronald Reýgandan 12333-nji ilkinji buýruk barada aýtdym, wagtyň geçmegi bilen tehnologiýanyň üýtgemegi we internetiň ösmegi bilen NSA-nyň daşary ýurt aragatnaşygyna täsir etmegine ýol açdy, ýöne ABŞ-ny bir ýere ugrukdyryp biljek islendik aragatnaşyk bar. Şeýlelik bilen, men size sms ugradýan bolsam we ABŞ-dan çykmak üçin bolup geçen süýümli optiki kabeliň üsti bilen Kaliforniýadan bir habar iberen bolsam, NSA ABŞ-dan daşarda bir bölek kran goýup, şol maglumatlary ABŞ-nyň içinde bolsa-da ýygnap biler.
NSA şondan soň bu maglumatlary ABŞ-ly adamlara degişli bolsa-da saklap bilerdi we kämahal “açyk gözleg” diýlip atlandyrylýan bu barada anyk gözleg geçirip bilerdi. Ilki bilen ýygnamaly däldiklerine ynanýarys, ýöne saklap bilerler. Şahsy görnüşde saklajakdyklaryna söz berdiler, gülgüne ant içdiler, ýöne gözleg geçirip, seniň ýa-da bir daşary ýurtly adamy agzandygymyzy bilseler, birden olar bilen islän zadyny etmek adalatly oýun boldy.
Umuman aýdanyňda, bu federal hökümetiň ABŞ-dan başga ýerlerde bolup biljek islendik maglumatlary ýygnap biljek dünýäsine öwrüldi. Tutuşlygyna ABŞ-ly iki adamyň arasynda bolsa-da, ABŞ-ly adam däl birini ýatlasa ýa-da görkezse, birden ýygnamak adalatly oýun. Şondan soň, ABŞ-ly adamlara içalyçylyk etmeýändigini öňe sürýän we aç-açan aýdýan NSA tarapyndan ABŞ-ly adamlara köpçülikleýin gözegçilik etmegiň bir görnüşi ýaly zatlary aldyk.
Bu meselä nädip ýetdik? Bu köpelýän çaga ädimleri. 2012-nji ýylda Obamanyň administrasiýasy Jeýms Klapper hakda aýtdyňyz. Ronald Reýgany agzadyňyz, bu 1980-nji ýyllar. Bu ýerde demokratlardan we respublikanlardan geçýäris.
Terrorçylyga garşy söweş Jorj W. Buşuň administrasiýasynda, 11-nji sentýabr we “Watançylyk kanuny” Jorj W. Buşuň administrasiýasynda bolup geçdi. Iki partiýanyň prezidentleriniň döwründe, iki partiýanyň kongreslerinde köpelýän erbet zatlar bar. Bu nähili boldy?
Iň ýönekeý görnüşi, uly terrorçylykly hüjüm wagtynda hiç kimiň, elbetde hiç bir prezidentiň prezident bolmak islemeýändigi, sebäbi bu olaryň erbet görünmegine sebäp bolýar. Elbetde, olar Amerikalylary hem goramak isleýärler, şeýlemi? Bu olaryň işiniň bir bölegi. Esasan garaňkylykda işleýän aňtaw jemgyýetiňiz bar bolsa, aňtaw jemgyýetleriniň edýän zady şeýledir we olar size gelip: "Haý, bu maglumatlara girip bilsek, terrorçylykly hüjümiň öňüni almakda hakykatdanam peýdaly" diýerler.
Bu hakykat, aňtaw gullugynyň bu maglumatlary gowy işleýän görnüşde ulanyp bilýän ýagdaýlary bolup biler. Şeýle hem, biz, teoriýa boýunça, boýun egmeli ABŞ-nyň konstitusiýasy bolan kanunlar jemgyýetidiris. Thatöne bu, administrasiýadan soň administrasiýanyň, ýene-de respublikan we demokratlaryň gaty akylly we seredip: ", agny, bu ýoly kesgitlän bolsak ýa-da şuny düşündirsek, islän zadymyzy alyp bileris, kanuny bozmarys ýa-da Dördünji düzedişi tehniki taýdan bozmarys" diýerdi.
Elmydama: "Biz kanuny egip ýa-da kanuny düşündirip bileris, hiç kim muny asla görmez, ýa-da hiç kim muny asla görmez, şonuň üçin biz bu zatlardan dynarys".
Maňa hakykatdanam bökjek iki zat bar. Biri, siz we ikimiz kazyýet kararlaryny köp okadyk - şikaýat kazyýet kararlary we Courtokary Kazyýet kararlary. Supremeokary Kazyýetimizde kanunlarymyzdaky we kanunlarymyzdaky sözleri göni manyda nädip düşündirmelidigi barada söweş bar.
Bu meselä gaty kän girip bilmerin, ýöne umuman aýdanymda, sahypadaky sözleri okamaly we olaryň aýdýanlaryny ýerine ýetirmeli diýen pikir ABŞ-da kanuny düşündirişiň esasy ugry. Çep ýa-da sag, ikisi-de aýdýarlar. Aslynda munuň manysynyň käbir ezoteriki ajaýyp taraplary barada jedel edýärler. Theseöne bu sözleri okap, olaryň aýdýanlaryny ýerine ýetirmegi başarmalydygyňyz, şeýlemi?
Iň bärkisi, mümkin bolan ilkinji geçişiňize düşdüktekstualizm diýiň. Iki administrasiýanyň aklawçylary muny ýurdumyzda kanuny karar kabul etmegiň esasy usulyndan nädip daşlaşdyrýarlar? Iki tarapyň kazylary munuň iň bolmanda ilkinji ädimdigi bilen ylalaşýarlar.
Takyk jogabyny bilsedim, ýöne munuň sebäbini pikirlenýärin öýdýärin, şeýlemi? Adwokat hökmünde siz öz müşderiňizi we üstünligiňizi gorap bilersiňiz - eger muny üstünlik diýip atlandyryp bilersiňiz - biziň hukuk ulgamymyz, bu zatlar barada jedelleşýän dürli taraplaryňyz bar bolsa, kazyýetçiniň roly kiçelip, haýsy tarapyň dogrudygyny anyklamak üçin gapma-garşylykly ýagdaýa esaslanýar.
Aňtaw jemgyýeti we ony gurmak bilen baglanyşykly meseleleriň biri, bu garşydaş ýagdaýyň bolmazlygydyr. Bu, bir tarapyň edýän argumentini esaslandyrmagy aňsatlaşdyrýar, sebäbi hiç kim hakykatdanam yza çekilmeýär. Muny başga bir terrorçylykly hüjümden gorkmak, milli howpsuzlyk bilen baglanyşykly islendik zat, hatda FISA kazyýeti bolan ýagdaýlaryňyz bilen birleşdirýärsiňiz - FISA kazyýetiniň köp ýyllap rezin möhür bolmagy bilen belli bir derejede meşhur bolandygyny aýdýaryn.
Takyk sanlary ýatdan çykarýaryn, ýöne käbir ýagdaýlara gözegçilik etmek üçin FISA kazyýetine ýüz tutan arzalaryň 99 göteriminden gowragy ýaly bir zatdy, 99 göteriminiň aşa köpdügini aýtmak aňsat. Elbetde, kazyýete talap bildirýänler saýlaýarlar we saýlaýarlar. Köplenç düýbünden däli talaplary öňe sürmeýärler. Thatöne bu gapma-garşylykly tarap bolmasa we "Muny etmeli" ýa-da administrasiýa "Muny etmeli" diýýän gaty güýçli adamlar topary bilen, muny etmegiň ýollaryny taparlar. Wagtyň geçmegi bilen gutarýan ýeriňiz şol.
Bu işe gatnaşan barmy ýa-da öz-özüne: “Oglan, islän zadymyzy aňlatmak üçin“ maksat ”sözüni täzeden kesgitlemegi başardykmy?
[Gülýär] Elbetde, bir topar resminamany syzdyran Ed Snowden bar. Sizde Jon Napier Taý bardy, ol 2014-nji ýylda "Waşington Post" gazetine 12333-nji buýruk ýerine ýetirilişiniň düşündirişini açyp, ünsi çekmeli hakyky mesele diýdi. Bu zatlar hakda gürlän başga adamlaryňyz bar, ýöne köplenç dolandyryş gullugynyň aňtaw gullugynyň işlerine gatnaşýan adamlar aňtaw jemgyýetiniň pikirine görä satyn alynýar, bu esasy maksat ýurdy erbet zatlardan goramakdyr. Muny etmegiň iň gowy usuly, mümkin boldugyça köp maglumatyň bolmagydyr.
Hawa, has köp maglumatyň bolmagy, öňräk bir zady tutmaga ýa-da möhüm bir zady tapmaga mümkinçilik döredip biljekdigi baradaky argumente duýgudaşlyk etmek aňsat, ýöne biri dogry däl bolup biler. Gaty köp maglumat almak, ähtimal gaty az maglumat ýaly erbetdir, sebäbi köplenç hakykatdanam peýdaly maglumatlary, hakykatdanam bir zady kesgitlemek üçin zerur maglumatlary gizläp biler.
Alsoöne, bizde U..S bar. Ilki bilen konstitusiýa we teoriýa boýunça, ähtimal sebäp bolmazdan köpçülikleýin gözegçilige ýol bermeli däldigimiziň sebäpleri bar. Kanunyň hökmürowanlygyna ynanýan ýurt hökmünde biz şoňa görä ýaşamalydyrys we bu zatlaryň hemmesi garaňkylykda bolup geçse, siz muny ýatdan çykararsyňyz.
Bu meni Antropiýa getirýär. Antropika ilkinji nobatda kärhana kompaniýasydyr. Hökümetde ökde, bu myşsalary gurdular, bu zatlaryň käbirini hakykatdanam gowy bilýän adamlar işleýär. Elbetde, Pit Hegsetiň: "lawhli kanuny ulanylmagyny isleýäris" -diýip, iki derejä düşündiler we: "Siziň sözüňiziň manysy, bu sözleriň ýüzünde näme diýjek bolýandyklaryny aňlatmaýar. Şonuň üçin" ähli kanuny ulanyşlar "gaty uludyr we käbir garawullary esasanam köpçülikleýin gözegçilik astynda goýmak isleýäris" -diýdi.
Againene-de bir gezek beýleki gyzyl çyzyk bolan awtonom ýaraglary ýaýratmakçy, ýöne esasanam köpçülikleýin gözegçilikde Dario Amodei "Biz köp zat edip bileris. Bu gaty howply. Bu dördünji düzedişiň bozulmagy."
Bu ýerdäki dartgynlyk, "bir zady aýdýan şu kanunlary ýerine ýetirjekdigiňizi aýdýarsyňyz, şu wagtdan soň olar düýbünden başga bir zady aňladýar we biz munuň bir bölegi bolmak islemeýäris" -diýdi. Busöweş. Diňe muny "Hemme kanuny ulanarys" diýmäge çalyşýan Sam Altman bilen deňeşdirmek isleýärin, soň bolsa "Ine, berjaý etjek kanunlarymyzyň hemmesi" ýaly uzyn habary iberýär.
Altman, NSA-nyň bu zatlary nädip düşündirendigini we gezelenje çykarylandygyny bilmeýän ýaly. Şondan bäri ol yza gaýdyp başlady - ýazgy edişimiz ýaly, twitleriň köpdügine we her kimiň pozisiýasynyň üýtgändigine ynanýaryn. Emma Altman ýuwaş-ýuwaşdan ýöräp barýar, ýöne OpenAI-iň ýüzündäki düzgünnamalary okamaga we aýdanlaryna ynanýan ýaly. Wakalary şeýle düşündirýärsiňizmi?
Iki mümkinçilik bar we şolaryň biri. Olaryň biri, köpçüligiň köp ýyllap oýnan ýaly oýnady. Alternatiw teoriýa we bularyň haýsysynyň dogrudygyny bilemok, meniň pikirimçe, OpenAI-iň käbir aklawçylary - meniň pikirimçe gaty başarnykly we gaty bilimli - muny bilýärdi, ýöne NSA-nyň birnäçe onýyllyk oýnan oýnuny oýnap biljekdigini, bu zatlary aýdyp, soň sözlerini aýdyp biljekdigini, ýöne hakyky düşündirişlerini açyp bilmeýändiklerini aýtdy. Şeýlelikde, Sam “Antropikanyňky ýaly gyzyl çyzyklar bardy, hökümet bu meselede beýikdi” diýen söz bilen çykýar.
Aslynda, meniň pikirimçe, Sam Altman Antropigiň iki sany gyzyl çyzygynyň we OpenAI-iň üçüsiniň bardygyny we hökümetiň bu meselede gaty gowydygyny aýtdy we bu köp adamyň kellesini syrmagyna sebäp boldy. Samöne meniň pikirimçe, ýa-da Sam Altman we daş-töweregindäkiler bu zatlaryň iş ýüzünde nähili işleýändigine düşünmedik bolmaly ýa-da düşündiler, diňe halkyň bilmejekdigini we şonuň üçin bu zatlardan dynyp biljekdigini çakladylar.
Mindene bir gezek kellä gelýän zat - ýene-de AI täze we täze tehnologiýalara girmek gaty özüne çekiji, sebäbi bular ilkinji täsirleriň problemasy. "Öň hiç kim bu barada pikir etmeli däldi", ýöne hakykat, her kim bu zatlar hakda köpden bäri pikir edýär. Belki, bu ýerde täzelenen zat AI däl, ýöne ikinji Trump administrasiýasy, hiç kimiň üns bermeýän gizlin kazyýete eden hereketlerini aklamak üçin hiç kimiň okamazlygy üçin bir topar kanun çykarmagyň ýerine, diňe bir inçe däl.
Olar beýle çylşyrymly däl we hemişe hemmelere içalyçylyk etjekdiklerini aýdýarlar. Diňe niýetlerini yglan etdiler, belki-de ähli administrasiýalar diňe niýetlerini yglan etmeli we çipleriň nirä gaçýandygyny görmeli.
Newöne bu ýerde Nýu-Yorkork şäherinde Ed Snoudeniň bardygyna seredýärin. AT&T, NSA binasydygyny her kimiň bilýän binasy işleýär. Bu diňe ullakan bina, biz ony NSA gözegçilik merkezi däl öýdýän, ýöne şol ýerde. Bu ullakan. Bularyň hiç biri hiç zada gelmedik ýaly. Bu ylhamlaryň hemmesi, bu maglumatlar, biz muny goldamaýarys.
Aslynda, bu diňe durmuşymyzyň köp sanlysynyň köpelmegi bilen köpeldi. Belki-de, Trump administrasiýasy elmydama şeýle gödek gural bolup, hasaplamaga sebäp bolup biler. Her niçigem bolsa oýnany görýärsiňizmi?
Ol ýerde birnäçe dürli zat bar we bu zatlary asla goldamaýandygymyz düýbünden dogry däl. Snoudeniň aýan edenleri, bu zatlaryň bolup geçmeginde käbir üýtgeşmelere sebäp boldy. Indi bar - näme diýilendigini ýatdan çykarýaryn, ýöne olar käbir meselelerde beýleki tarapy görkezjek ýaly FISA kazyýetindäki bu raýat dostlary ýaly.
Häkimiýetleriň käbiriniň belli bir derejede çäklendirilendigini gördük we olar ýygy-ýygydan rugsat almak üçin gelýärler, aktiwistler yza çekilmek we başga-da garawul goýmak üçin gaty gaharly boldular. Emma has uly soraga iki dürli zat bar diýip pikir edýärin. Bu administrasiýa inçe däl we etmeli däl zatlary gaty ses bilen aýdýarsyňyz.
"Biz Eýran bilen söweşýäris, edýäris, şeýle bolýar. Tans synap görmek islemeýäris."
Öňki administrasiýalaryň etmejek usullary bilen. Emma olar muny göni aýtmadylargözegçilik, esasanam amerikalylaryň gözegçiligi. Bu barada yşaratlar bar, ýöne olar beýle güýçli çykmadylar. Beýleki ýarysy Antropigiň ýerleşişi we AI-iň umumy bolmagy, Antropigiň özüni hemişe “Biz oýlanyşykly gowy ýigitler” diýip görkezýän we mümkin bolan tehnologiýa hökmünde umumy düşünjesi bilen baglanyşyklydyr we bu nokatdan başga bir zatdygyna ynanýarsyňyzmy. Bu ýerde bu abraý bar: "Biz muny howpsuz, adamzada hormat goýýan we bu zatlaryň hemmesine üns berýän görnüşde etmäge synanyşýarys." Şeýlelik bilen, bu çaknyşyk ýüze çykanda, göreş şol ýerden gelýär.
Sizde diňe islän zadyny edip bilmek isleýän Trump administrasiýasy bar we olar bu meselede gizlin däl. Soňra bolsa Antropik bar, özüni düşündirýän we köpçülige hemişe "Biz pikir edýäris we adamzada, hukuklara we bu zatlaryň hemmesine hormat goýýarys" ýaly. Bu çaknyşygyň ýüze çykan ýeri bolsa gerek, sebäbi Antropik, belli bolşy ýaly Goranmak ministrligi bilen birnäçe wagtlap işledi we hökümet bilen ulanan başga-da köp şertnamalary bar. Mesele bolmady.
Diňe hökümetiň baglaşan şertnamasyny giňeltmek isleýän mahaly, Antropikanyň ýokary derejeli ýolbaşçylary: “Garaň, oýlanyşykly, ygtybarly AI üpjünçisi hökmünde abraýymyza zyýan ýetirip biljek bu gyzyl çyzyklardan geçmändigimize göz ýetirmeli.”
Umuman gözegçilik, esasanam Antropikanyň Dördünji düzediş meselesi barada gysgaça soramak isleýärin. Dördünji düzedişde hökümet sizi esassyz gözläp bilmeýär diýilýär. Dördünji düzedişe düşünmegiň iň gowy usuly, Jeý-Z-iň “99 mesele” diňlemekdir. Şonuň üçin dynç alyp, “99 Mesele” diňlemeli bolsaňyz, gaty gowy. Hemmesi şol ýerde. Hukuk fakultetinde okaýarkam diňledim we gaty manylydy.
Emma hökümet, umuman, sizi gözlemek üçin kepilnama zerur. Durmuşyňyzyň barha köpelmegi internete girip barýarka, muňa köp kadadan çykmalar bolýar. Theöne pikir, henizem onlaýn kepilnama gerek. Antropigiň argumenti: "AI hiç wagt ýadamaz. Hemişe hemme zady gözläp biler. Diýmek, biz diňe gözegçilik ederis".
Şeýle-de bolsa, AI ýüze çykmazdan ozal, hökümetiň size degişli ähli zady gözläp biljekdigi baradaky pikir şol ýerde bardy, ähli zatlaryňyzy gözlemek üçin hökümete kepilnama gerek däl diýen pikir bardy. Maglumatlaryňyzyň haýsydyr biri gysga bir sekundyň dowamynda daşary ýurda giden bolsa, hökümet ony şol ýerde saklady,
Uniwersitetde okaýarkam, “Watançylyk kanuny” döwründe jedeller, hakyky maglumatlaryňyzy gözlemejekdikleri, ýöne meta-maglumaty we metadatalary diňe alyp biljekdigi barada jedel boldy. Maglumatlaryňyz baradaky maglumatlar sizi takyk kesgitlemek üçin ýeterlikdir. Bu hatda gaty uzak. Biz hökümetiň ýygnap biljek bu tansyny edýäris. Näme rugsat berilýär? Hemmämizi howpsuz saklamak üçin näme gerek we gaty uzak näme? Şol setirler gymyldy.
Şonuň üçin masştabdaky we häzirki nirededigimizdäki gözegçilik baradaky umumy aladany gysgaça suratlandyryň. AI ýagdaýy hemme zady has çylşyrymlaşdyrýardy.
Bu ýerde, öňem agzalmaly başga bir düşünje hödürlemeli, ýöne "üçünji tarap taglymaty" diýilýän möhüm. Dördünji düzediş bilen baglanyşykly pikir, hökümet sizi ýa-da zatlaryňyzy kepilliksiz gözläp bilmez we haýsydyr bir jenaýat edenligiňiziň ähtimal sebäpsiz kepilnama alyp bilmez. Emma onlarça ýyl mundan ozal üçünji tarap doktrinasy diýlip atlandyrylýan bu düşünje bar, bu siziň maglumatlaryňyz bolsa-da, hökmany suratda ulanylmaýar ýa-da asla ulanylmaýar.
Munuň iň irki we düşnükli wersiýasy, telefon kompaniýasynyň kimiň jaň edendigi baradaky telefon ýazgylarydy. Telefon kompaniýalary siziň jaňlaryňyzy ýazga geçirmeýärdiler, ýöne men size jaň edenimde ýazga alýardylar, telefon kompaniýasynda "Maýk Nilaý jaň edýär" diýlen ýazgy bolardy. Birnäçe kazyýet tarapyndan kesgitlenen zat, hökümetiň gidip, muny talap edip biljekdigi, gözleg däldigi üçin kepilnama gerek däl.maglumatlaryňyz, bu üçünji tarap we olar diňe şol maglumatlary tabşyrmak üçin üçünji tarap hökmünde ylalaşyp bilerler.
Thoseöne bu ýagdaýlar 1960-70-nji ýyllarda bolup geçdi, şol ýerde hökümetiň hiç hili kepilliksiz girip biljekdigi, şol ýerde üçünji tarap maglumatlarynyň ýokdugy kesgitlenildi. Kompýuterleriň we internetiň ösmegi muny üýtgetdi. Indi hemme zat üçünji tarap maglumatlary. Edýän ähli işlerimiz haýsydyr bir kompaniýa tarapyndan bir ýerde ýygnalyp, onuň ýazgysy bar. Şeýlelik bilen, sen hakda, nirede, kim bilen gürleşýärsiň, kim bilen gürleşýärsiň, näme diýýärsiň, näme edýärsiň, bularyň hemmesi şu günler üçünji taraplar tarapyndan saklanýar. Şeýlelik bilen üçünji tarap doktrinasy Dördünji düzedişi belli bir derejede ýuwutdy, bu ýerde başga biriniň bar zady bar bolsa, hökümetiň talap edip biljek zadyndan has pes standart bar.
Has takygy, meniň maglumatlarym iCloud-da bolanda, hökümet Apple-a baryp, maglumatlarymy hiç wagt aýtmazdan iCloud-dan çykaryp biljekdigini aňladýar?
Isläp bilerler. Kepilliksiz aňsatlyk bilen sorap bilerler. Soňra kompaniýanyň öz hukuklary bar we bu haýyş bilen näme etmek isleýändiklerini kesgitläp biler. Olar diňe ondan ýüz öwrüp bilerler. Olaryň köpüsiniň edişi ýaly, çynlakaý haýyş bolsa, eliňizden gelen haýyşlary ret edip bilerler ýa-da size duýduryş berip bilerler we aýdyp bilerler - we köpüsi şeýle eder - size duýduryş bererler we "Hökümet käbir maglumatlaryňyzy soraýar. Kazyýete baryp, petiklemäge synanyşyp bilersiňiz" diýerler. Notok bolsa, ýedi günüň içinde ýa-da näme bolsa-da, maglumatlaryňyzy tabşyrarlar.
Againene-de bagly. Eger bu jenaýat derňewi bolsa, onda kompaniýanyň size aýtmagyna rugsat berilmedik bir hili sargyt bolup biler. Her dürli ýagdaý bar, ýöne olaryň köpüsi, maglumat ýa-da öz öýüňizdäki bir zat bolsa, Dördünji düzedişiň talap edýän gorag derejesinden az.
Başga biriniň bulut serwerindäki maglumatlaryňyzyň mukdary gaty köp, şeýlemi? Umuman internetde edýän her bir işiňiz belli bir derejede ätiýaçlandyrylýar ýa-da başga biriniň serwerlerinde haýsydyr bir görnüşde ýazylýar. Hökümet Dördünji düzedişiň üstünde durup, "Aslynda bu siziňki däl. Amazona degişlidir. Amazon bilen gürleşip bileris" diýmek üçin bu ýoly tapdy we Amazon bu prosesiň ortasynda durmaly we "Adamlary birneme goramak üçin başga bir prosesi oýlap tapdyk" diýmeli.
Muňa seredýärin, we bulut hyzmatlaryny öz içine alýan ilkinji üçünji tarap doktrinasy wakalaryny we hökümet ýeňiş gazanmagyny dowam etdirenimde, esasan Joker-e öwrülenimde. "Tekstualizm we gönümel [okamak] hakda öňe sürýän bu zatlarymyzyň hemmesi hiç zady aňlatmaýar, sebäbi bu gadymy kanuny her kimiň maglumatlaryna ulanýarys.
Soň bolsa muňa seredýärin we Antropiýa seredýärin we: "Ine, bu bir nagyş" diýýärin. Bu, hususy kompaniýa: "Bolýar, biz siziň pozisiýaňyza düşünýäris. Bu zady aňlatmak üçin kanuny täzeden düşündirendigiňize düşünýäris we siziň, guralymyz we hyzmatymyzdan akýan amerikalylaryň maglumatlary arasynda ara alyp maslahatlaşarys". Antropik, Amazon we Azure we beýleki maglumatlarymyzy saklaýan beýleki bulut hyzmatlarynyň arasynda şol bir paralel görýärsiňizmi?
Hawa, bu ýerde muny birneme tapawutlandyrýan möhüm ähmiýetli birnäçe düşündiriş bar. Aslynda, meniň pikirimçe, "Nýu-Yorkork Taýms" gazetinde ilki bilen bu hasabat bar - Antropika üçin iň möhüm zat, täjirçilik hyzmatlaryndan toplanan maglumatlar we Klodyň şol maglumatlarda ulanyp bilmezligi, üçünji taraplaryň maglumatlary babatynda hut şu mesele. Emma, mundan ozal Amazon ýa-da maglumatlaryňyzy ýerleşdirýän beýleki üçünji taraplar bilen öň gürleşýänlerimiziň arasyndaky esasy tapawudy düşündirmek isleýärin, ekosistemada oturan ýerleri sebäpli gönüden-göni maglumatlaryňyzy ýerleşdirýän ýagdaýlarydy.
Klod bilen, NSA-nyň Klod ulanyşyňyza seredip, hiç kimiň aladasy ýok. Bu, Amazondan üçünji tarap maglumatlary almak ýa-da telefonlaryňyzda mahabatlary hödürleýän we ýerleşýän ýeriňizi, gyzyklanmalaryňyzy we şuňa meňzeş zatlary bilýän gizlin, gizlin maglumat dellallary hakda. Soň bolsa bir ulgama iýmitlendirmekKlodyň soň işlejekdigini. Antropigiň hakykatdanam bir bölegi bolmak islemeýän zady. Şonuň üçin hökümet nirede ýa-da üçünji tarapdan maglumat ýygnajak bolsa, Antropik: "Guralymyzyň şol maglumatlarda ulanylmagyny islemeýäris" -diýdi.
"Apple" FBI-e iPhone-da arka gapy goýmagyny haýyş edýär we Apple "ýok" diýýär we olar Trump-a garşy durýarlar. Uly hususy kompaniýalaryň öz müşderileriniň adyndan hökümete “ýok” diýýän ulgamymyzyň işleýşiniň bir bölegi bar. Bu, “Apple” -iň ony ýene-de “iPhone” -da goýmajakdygyna ýa-da uly bulut üpjün edijileriniň: “Aýry-aýry maglumatlary almazdan ozal geçmeli birneme prosesi bar” diýşi ýaly duýuldy.
Bu ýerde Antropik: "Biz diňe beýleki taraplardan alan maglumatlaryňyzyň köpüsini seljermek bilen çäklenmeýäris, sebäbi bu amerikalylaryň 24/7 köpçülikleýin gözegçiligine sebäp bolýar we biz muny etmek islemeýäris" -diýdi. Şeýle-de bolsa, bu administrasiýa üçin gaty köpri ýaly. Ondan gaýdyp gelýän barmy?
Göreris. Geçmişde bu waka bolup geçdi we iri tehnologiýa kompaniýalarynyň köpüsi bilen ençeme gezek bolup geçdi, käbir wagtlarda bir zadyň gaty köpri diýdiler - adatça kazyýete gidýär. Kompaniýalar kazyýete ýa-da administrasiýa kazyýete çykarlar we haýsydyr bir kazyýet söweşi bolar.
“IPhone” -yň arka tarapy munuň ajaýyp mysalydyr. Kazyýet kazyýete gitdi we olar bilen göreşdiler, ýöne hiç haçan netijä gelmediler, sebäbi FBI ahyrsoňy diňe iPhone-a el bilen girdi we kazyýetiň kararynyň geljekde ýok edilmegini islemedi.
Emma ýokarlanmagyň nirede we öňki ýagdaýlardan tapawutly bolan bu ýagdaýda, Trump administrasiýasy diňe kazyýete gitmegiň ýerine, däli däl “üpjünçilik zynjyry töwekgelçiligi” belligini etdi. Mümkin bolan daşary ýurtly zyýanly aktýorlaryň tehnologiýa üpjün etmeginiň öňüni almak üçin döredilen bu guralyň, soňra gizlin gözegçilik gurallaryny has uly tehnologiýa bukjasyna salyp, bu gadagan edilip bilinjekdigi baradaky pikir. Etika syýasaty üçin ABŞ-da ýerleşýän bir kompaniýada ulanmak, bu guralyň hakyky, hakyky nädogry ulanylmagy ýaly duýulýar.
Hatda şol gural käbir tarapdan şübheli bolupdy, ýöne hytaý ulgam firmasy ýa-da şol ugurlar boýunça bir zat hakda gürläniňde, onuň aňyrsyna itergi berip bilersiňiz. Bu ýerde hiç hili many ýok. Şeýlelik bilen muňa reaksiýa, bu ýagdaýda adatça görülýän zatlardan has ýokary bolýar. Däp bolşy ýaly, haýsydyr bir kazyýet işiniň boljakdygyny we iki tarapyň hem başlap biljekdigini, şertnamanyň nädip ulanylyp bilinjekdigi barada söweş boljakdygyny görüp bilersiňiz.
Emma bu ýerde bolup geçýän zat däl. Bu administrasiýa: "Islän zadymyzy bize doly bermeseňiz, gurallaryňyzy isleýşimiz ýaly işlemeseňiz, ähli işiňizi ýok etjek bolarys" diýýär. Bu ýokarlanmak.
Munuň soňuna çykmak isleýän bir bölegi bar we munuň iň galaktika-beýni görnüşi. Söz azatlygyny goraýjy topar bolan IRANGY, Antropikany gurmak islemeýän gurallaryny gurmaga mejbur etmek söz azatlygynyň bozulmagy, mejbury söz diýilýän zat diýip ýazga başlamazdan ozal blog ýazdy. Bu ýerde köp taryh bar. Bu ýerde çuňňur Verge we Techdirt, ot-çöpler, bar bolan krizis taryhy bar.
Itöne bu, esasan, kod sözleýiş, kompýuter üçin kod ýazmagyň söz görnüşidir we hökümet sizi muny etmäge mejbur edip bilmez we bir topar zat ondan çykýar. Antropikany gurmak islemeýän gurallary gurmaga mejbur etmek hökmany söz diýen argumenti satyn alýarsyňyzmy?
Hawa, aslynda gaty täsirli diýip pikir edýärin. Mejbury söz. Nook, meniň pikirimçe bu gyzykly argument. Bu, meniň pikir edýän meselelerimiň sanawyndan birneme öňe geçdi. Elbetde, dördünji düzediş meselesine has köp üns berdim, ýöne IRANGY argument ýalňyş däl diýip pikir edýärin. Muny başga şertlerde-de gördük. Açyk meýdanda, şifrlenen ulgamlara açyk howany gurmaga synanyşmak meselesinde-de ýüze çykdy.
Kompaniýalar hökman Birinjini galdyrdylarDüzedişde "Bizi şunuň ýaly kod ýazmaga mejbur etmek hökmany söz" diýilýär. Dogry argument. Mundan başga-da, kazyýetleriň bu meselelere başga ýol bilen seredip bilseler, ilki bilen çözmek islemeýän bolmagy mümkin. IRöne FIRE-iň bu ýazgyny edendigine begenýärin we gyzykly we ynandyryjy argumentdir öýdýärin.
Hawa, diňe ikinji Trump administrasiýasynyň tebigaty, munuň beýle gödek gural bolmagy, ähli meseleleriň birbada hüjüm etjekdigimiz belli.
Hawa, Hukuklar kanunyna girizilen her bir düzedişde, mümkin bolan islendik mesele bilen haýsydyr bir görnüşde garşy çykmaly.
[Gülýär] Tigiri aýlaň.
Bu ýerde bir ýerde Üçünji düzediş düzgünini bozup biljekdigimize ynanýaryn.
Elbetde, hawa. Klod indi öýüňizde ýaşamaly. Takyk. Gowy bolar. Bir, üç, dört we ýedi [düzedişler] edýäris. Biz ýokaryk çykýarys.
Maýk, bu gaty gowy boldy. Öň sergä gatnaşmandygyňyza ynanamok. Bu gaty gowy boldy. Soonakynda gaýdyp gelmeli.
Elbetde. Haçan meni isleseň.
Bu bölüm hakda soraglar ýa-da teswirler? Bizi decoder@theverge.com salgysyna basyň. Biz hakykatdanam her e-poçta okaýarys!
