Bugün, Claude'un yapımcısı Anthropic'in kendisini Pentagon'la çok çirkin bir hukuk savaşının içinde bulan karmaşık, hızlı ilerleyen durumdan bahsediyoruz.
Bu gidişat karmaşık ama birkaç gün önce Pentagon Anthropic'i bir tedarik zinciri riski olarak değerlendirmişti ve Anthropic, hükümetin "dünyanın en hızlı büyüyen özel şirketlerinden biri tarafından yaratılan ekonomik değeri yok etmeye çalışarak" Birinci ve Beşinci Değişiklik haklarını ihlal ettiğini söyleyerek bu atamaya itiraz eden bir dava açtı. Size şu anda şunu söyleyebilirim: Önümüzdeki aylarda The Verge'de ve burada Decoder'da bu davanın dönüm noktalarından bahsedeceğiz.
Ancak bugün bir dakikanızı ayırıp bu durumun kontrolden çıktığı için yeterince dikkat çekmeyen çok önemli bir unsuruna gerçekten değinmek istedim: Amerika Birleşik Devletleri hükümetinin gözetlemeyi nasıl yaptığı, bu gözetlemenin gerçekleşmesine izin veren yasal otorite ve Anthropic'in daha fazla gözetim yapmak için yapay zekayı kullanma konusunda yasalara uyacağını söyleyen hükümete neden güvenmediği.
Verge aboneleri, podcast'lerinizi aldığınız her yerde reklamsız Kod Çözücüye özel erişim elde edeceğinizi unutmayın. Buraya gidin. Abone değil misiniz? Buradan kaydolabilirsiniz.
Bugünkü konuğum, mükemmel ve uzun süredir devam eden teknoloji politikası web sitesi Techdirt'in kurucusu ve CEO'su Mike Masnick. Mike onlarca yıldır hükümetin aşırı erişimi, dijital çağda mahremiyet ve diğer ilgili konular hakkında yazıyor. Kendisi internet ve gözetleme devletinin birbirine bağlı yollarla nasıl büyüdüğü konusunda uzman.
Görüyorsunuz, iş bizi gözetlemeye geldiğinde yasanın hükümetin yapabileceğini söylediği şeyler var, sonra da hükümetin yapmak istediği şeyler var. Ve en önemlisi, hükümetin yasanın yapabileceğini söylediği şeyler var ki bu genellikle yasayı okuyan herhangi bir normal insanın düşündüğünün tam tersidir.
Mike'ın bu bölümde, konu gözetleme olduğunda ABD hükümetinin sözüne güvenemeyeceğimizi ve vermememiz gerektiğini çok detaylı bir şekilde açıkladığını duyacaksınız. Hükümet avukatlarının, gözetlemeyi karmaşık şekillerde genişletmek için "hedef" gibi basit kelimelerin yorumlarını çarpıttığı çok fazla tarih var - bu yollar genellikle yalnızca hukuk çevrelerinde endişeye neden oluyor ve ancak ihbarcı Ed Snowden'ın on yıldan fazla bir süre önce yaptığı önemli NSA ifşaatları gibi büyük tartışmalar olduğunda ortaya çıkıyor.
Ancak Trump döneminde politika oluşturma konusunda incelikli veya karmaşık hiçbir şey yok - ve Anthropic ile, teknoloji ve gözetim hakkında gerçek zamanlı olarak, internette, blog yazılarında, X rantlarında ve basın konferansı seslendirmelerinde çok gürültülü, çok kamuya açık bir tartışma yapıyoruz. Bunun olumlu ve olumsuz yanları var ama hepsini anlamlandırmak için gerçekten tarihi bilmeniz gerekiyor.
Mike ve benim bu bölümde açıklamaya çalıştığımız şey bu; yapay zeka ve hükümet hakkındaki görüşleriniz ne olursa olsun, bu bölüm, her iki tarafın da gözetim devletinin zaman içinde giderek büyümesine izin verdiğini açıkça ortaya koyacak. Şimdi yapay zeka alanında şimdiye kadarki en büyük genişlemenin eşiğindeyiz.
Tamam: Techdirt'in kurucusu ve CEO'su Mike Masnick, Antropik, Pentagon ve yapay zeka gözetimi hakkında. İşte başlıyoruz.
Bu röportaj uzunluk ve netlik açısından hafifçe düzenlendi.
Mike Masnick, Techdirt'in kurucusu ve CEO'susunuz. Decoder'a hoş geldiniz.
Burada olmaktan mutluyum.
Seni aramızda görmekten heyecan duyuyorum. Daha önce hiç programa çıkmamış olmana şaşırdığımı söylüyordum. Sen ve ben uzun zamandır birbirimize yazıp gönderiyoruz. The Verge poliçe kapsamının büyük bir kısmı Techdirt'te yaptıklarınıza borçludur ve Anthropic'te olup bitenler çok karmaşıktır, ancak bu kadar uzun süredir ele aldığınız pek çok temayı kapsamaktadır. Sonunda burada olmana sevindim.
Konu karmaşık bir konu ama bu konuyu derinlemesine inceleyeceğim için heyecanlıyım.
Sizinle odaklanmak istediğim şey, Anthropic'in hükümetle bir sözleşme imzalayıp imzalamayacağı veya OpenAI'nin bu sözleşmeyi alıp almayacağı ayrıntıları değil. Bunun yerine, bunu kaydettiğimiz zaman ile insanların dinlediği zaman arasında daha fazla tweet olacağından ve daha fazla şeyin eskisinden farklı olacağından eminim.
Odaklanmak istediğim şey, Anthropic'in gerçekten ortaya koyduğu iki kırmızı çizgiden sadece biri. Bunlardan biriotonom silahlar, bu da başlı başına bir komplikasyon seviyesi. Silahların mevcut olup olmadığına veya Rusya tarafından Ukrayna Savaşı'nda konuşlandırılıp konuşlandırılmadığına bakılmaksızın, oradaki yasa biraz daha yeni oluşuyor.
Burada bunu bir kenara bırakmak istediğim pek çok fikir var çünkü bunun kendi takviminde daha fazla odaklanacağını düşünüyorum. Üzerinde çok zaman harcamak istediğim diğer kırmızı çizgi ise kitlesel gözetimdir. Ve burada kitlesel gözetimle ilgili oldukça fazla yasa var. Çok fazla tarih var, çok fazla tartışmalı tarih var. Edward Snowden'ın tüm karakteri, kitlesel gözetleme konusundaki tartışmalar nedeniyle var.
Her şey, sanırım bunu yayınlayan sizsiniz, Savunma Bakanlığı'nın bir parçası olan ve bazı nedenlerden dolayı artık Savaş Bakanlığı olarak adlandırmamız gereken Ulusal Güvenlik Ajansı'na (NSA) bağlı.
(Gülüyor) Hiçbir şey yapmamıza gerek yok.
[Gülüyor] Yapmıyoruz. Bu Amerika'da da geçerli. Hiçbir şey yapmak zorunda değiliz. Ancak NSA, günlük İngilizcedeki pek çok kelimenin anlamını temel olarak yeniden tanımlayarak "Sadece gözetleme yapabiliriz" anlamına geldi. Ve arada sırada insanlar sadece gözetleme yaptıklarını keşfettiklerinde bir skandal çıkıyor. O halde sahneyi oraya hazırlayın ve sizi tamamen geriye sarmak istemiyorum, ancak bu modelin kendini tekrarladığı oldukça fazla zaman oldu.
Bu, ne kadar derine inmek istediğinize bağlıdır, ancak kısa versiyon açıkça 11 Eylül sonrası dünyada, ABD'nin, bizi gelecekteki terörist tehditlere karşı korumak için olması gereken, hükümetin gözetleme yapma kabiliyetine sahip olduğu Vatanseverlik Yasasını kabul etmesidir. Zamanla bu durum ilginç şekillerde yorumlandı ve bunda bazı sınırlamalar oluştu. Ayrıca istihbarat camiasını ve onların faaliyetlerini denetlemesi gereken, ancak geleneksel olarak tek taraflı bir mahkeme olan özel bir mahkeme olan FISA mahkememiz de vardı. Yalnızca bir taraf davasını bu mahkemeye sunabilir ve bunların hepsi gizlice yapılır.
Bilinmeyen pek çok şey vardı. Ve tüm bunların içinde, Ronald Reagan'a kadar uzanan bir başka parça daha vardı; bu, sözde istihbarat toplama yolunun kurallarını belirleyen 12333 sayılı Başkanlık Kararnamesi'ydi.
Yani elinizde bu üç yasa dizisi var - yani birkaç yasa dizisi - ve bir yürütme emri var; okuyabileceğiniz bölümleri hükümetimizin ve özellikle NSA'nın gözetim açısından neler yapabileceği hakkında kamuoyuna belirli şeyler söylüyor gibi görünüyor. Sade bir İngilizce sözlükle okuduğumuzda, ki tabiatı muhtemelen sizin ve benim de bildiğimiz ve anladığımız gibi, NSA'nın Amerikalıları gözetleme yeteneğinin çok sınırlı olduğu inancına varırız, aslında öyle bir noktaya geliriz ki, eğer bir ABD'liyi gözetlediklerini fark ederlerse, derhal durup faul bağırmalı ve verileri ve diğer tüm şeyleri silmeleri gerekir.
Bir süredir bunun gerçekte olmadığına dair söylentiler vardı ve ipuçları vardı ve özellikle Senatör Ron Wyden, Senato kürsüsüne çıkıp "Burada bir şeyler yolunda gitmiyor ve size tam olarak ne olduğunu söyleyemem" deme konusunda çok yüksek sesle konuşuyordu ya da duruşmalarda istihbarat yetkililerine "Amerikalılar hakkında toplu veri topluyor musunuz, toplamıyor musunuz?" diye soruyordu.
Bu yetkililer ya saptıracak ya da bazı durumlarda açıkça yalan söyleyecektir. Sanırım 2012 yılında o dönemde Ulusal İstihbarat Direktörü olan James Clapper ile yapılan ve kendisine doğrudan bu konunun sorulduğu bir duruşmaydı. Ve temelde şöyle dedi: "Hayır, Amerikalılar hakkında veri toplamıyoruz." Ed Snowden'a verileri sızdırma konusunda ilham veren şeyin büyük bir kısmı da buydu; raporlar Glenn Greenwald, Barton Gellman ve Laura Poitras'a da sızdırılmıştı. Tüm bunlardan yola çıkarak, NSA'nın, sizin ve benim kullandığımız sözlükten biraz farklı olan kendi sözlüğüne sahip olduğunu keşfetmeye başladık; böylece anahtar kelime gibi hissettiren "hedef" gibi kelimeler de dahil olmak üzere kelimeleri, düz İngilizce anlamlarından farklı şekillerde yorumlayabiliyorlar. Bunun ne olduğuna dair geniş bir anlayış, teoride yalnızca ABD vatandaşı olmayan kişileri hedef almaları gerektiğidir, sanırım bu ifade.
Ancak zaman içinde yorumlanma şekli şuydu: Bu kişiden bahseden her şey, yabancı bir kişiyle ilgili olan her şey, bu bir kişinin iletişimi olsa bile artık adil bir oyundur.ABD'li kişi. Yani eğer sen ve ben birbirimize mesaj atarsak ve yabancı bir kişiden bahsedersek, bu artık NSA'nın toplaması, saklaması ve saklaması için adil bir oyundur.
Bunun ikinci bir kısmı daha var. Ronald Reagan'ın ilk 12333 sayılı Başkanlık Emri'nden bahsetmiştim; teknoloji zaman içinde değiştikçe ve internet büyüdükçe, NSA'nın yabancı iletişimlere etkin bir şekilde erişmesine olanak tanıdı, ancak bu, ABD'yi bir yere doğru yola koymuş olabilecek her türlü iletişimi de içeriyordu. Yani size mesaj atıyorsam ve Kaliforniya'daki benden ABD'den ayrılan bir fiber optik kablo aracılığıyla bir mesaj gittiyse, NSA, ABD dışına çıktığında bu parçaya bir bağlantı yerleştirebilir ve bu bilgiyi, yalnızca ABD içinde size gidiyor olsa bile toplayabilir.
NSA daha sonra bu bilgiyi ABD'li kişilere ait olsa bile tutabilir ve daha sonra bu konuda belirli aramalar yapabilir, bazen "arka kapı aramaları" olarak anılır. İlk etapta toplamamaları gerektiğini düşündüğümüz bu bilgileri topladılar ama saklayabilirlerdi. Ve bunu gizli tutacaklarına söz verdiler, serçe parmağına yemin ettiler, ama eğer bir arama yaparlarsa ve sizin ya da benim yabancı bir kişiden bahsettiğimi öğrenirlerse, o zaman aniden onunla istediklerini yapmak onlar için adil bir oyun haline geldi.
Toplamda bu, federal hükümetin temelde ABD dışına dokunan her türlü bilgiyi toplayabildiği bir dünyaya dönüştü. Tamamen iki ABD'li kişi arasında olsa bile, ABD vatandaşı olmayan birinden bahsederlerse veya hatta ima ederlerse, birdenbire toplanması adil bir oyun haline gelir. Ve bundan, ABD'li kişiler üzerinde casusluk yapmadığını iddia eden ve kamuoyuna açıklayan bir NSA tarafından ABD'li kişilerin kitlesel gözetimi gibi görünen bir şey elde ettik.
Bu noktaya nasıl geldik? Bu çok sayıda artan bebek adımıdır. 2012'de James Clapper'dan bahsettiniz, bu Obama yönetimi. Ronald Reagan'dan bahsettiniz, o 1980'ler. Burada Demokratlar ve Cumhuriyetçiler arasından geçiyoruz.
Teröre karşı savaş George W. Bush yönetiminde yaşandı, 11 Eylül ve Vatanseverlik Yasası ise George W. Bush yönetiminde yaşandı. Her iki partinin başkanları döneminde, her iki partinin kongrelerinde giderek artan birçok kötü şey var. Bu nasıl oldu?
Bunun en basit şekli, büyük bir terör saldırısının olduğu dönemde hiç kimsenin ve kesinlikle hiçbir cumhurbaşkanının başkan olmak istememesidir çünkü bu onları kötü gösterir. Açıkçası Amerikalıları da korumak istiyorlar, değil mi? Bu onların işinin bir parçası. Temelde karanlıkta faaliyet gösteren bir istihbarat topluluğunuz varsa, çünkü istihbarat toplulukları bunu yapar ve size gelip "Hey, bu bilgiye erişebilseydik, bir terör saldırısını önlemede gerçekten yararlı olurdu" derler.
Bunun doğru olduğu, istihbarat teşkilatının bu bilgiyi işe yarayacak şekilde kullanabileceği durumlar olabilir. Ama aynı zamanda teorik olarak uymamız gereken ABD Anayasası olan bir yasalar topluluğuyuz. Ancak bu, yönetimden sonra yine Cumhuriyetçi ve Demokratların çok akıllı avukatlara sahip olmasına ve şöyle diyebilecek avukatlara sahip olmalarına olanak tanıdı: "Peki, eğer bu şekilde konumlanırsak veya bu şekilde ifade edersek veya bunu yorumlarsak, bu şekilde istediğimizi elde edebiliriz ve teknik olarak yasayı ihlal etmez veya teknik olarak Dördüncü Değişikliği ihlal etmeziz."
Varsayım her zaman şuydu: "Yasayı bir şekilde esnetebiliriz veya yasaya ilişkin yorumumuzu esnetebiliriz ve bunu gerçekte hiç kimse görmeyecek veya umursayan hiç kimse bunu gerçekten görmeyecek ve bu nedenle bundan paçayı kurtaracağız."
Gerçekten dikkatimi çeken iki şey var. Birincisi, sen ve ben çok sayıda mahkeme kararı okuyoruz; temyiz mahkemesi kararları ve Yüksek Mahkeme kararları. Ve Yargıtay'ımızda da tüzüğümüz ve yasalarımızdaki kelimelerin tam anlamıyla nasıl yorumlanacağı konusunda bir kavga var.
Bu konuya çok fazla girmeyeceğim, ancak genel olarak sadece sayfadaki kelimeleri okumanız ve söylediklerini yapmanız gerektiği fikrinin, Amerika Birleşik Devletleri'ndeki yasal yorumun baskın türü olduğunu söyleyebilirim. Sol ya da sağ, ikisi de söylüyor. Bunun gerçekte ne anlama geldiğine dair bazı ezoterik ince noktalar hakkında tartışıyorlar. Ancak bu kelimeleri okuyabilmeniz ve söylediklerini yapabilmeniz, kapılacak bir şey değil, değil mi?
En azından yapabileceğiniz şeyin ilk geçişine indikmetincilik diyoruz. Her iki yönetimin avukatları ülkemizde hakim olan hukuki karar alma tarzından nasıl bu kadar uzaklaşabiliyor? Her iki tarafın yargıçları da bunun en azından ilk adım olduğu konusunda hemfikir.
Keşke kesin cevabı bilseydim, ama bunun motive edilmiş bir akıl yürütme olduğunu düşünüyorum, değil mi? Bir avukat olarak, müvekkilinizi savunmak için oradasınız ve hukuk sistemimizin başarısı (eğer buna başarı diyebilirseniz) genellikle farklı tarafların bu şeyler üzerinde tartıştığı, hakemin rolünün daraltmak ve hangi tarafın gerçekten haklı olduğunu bulmak olduğu çekişmeli bir duruma dayanır.
İstihbarat camiasının ve onun kurgusunun sorunlarından biri de, o kadar düşmanca bir durumun olmamasıdır. Bu, bir tarafın ileri sürdüğü iddiayı haklı çıkarmasını kolaylaştırıyor çünkü kimse gerçekten buna karşı çıkmıyor. Bunu başka bir terör saldırısına, ulusal güvenlikle ilgili herhangi bir şeye dair genel korkuyla birleştiriyorsunuz ve hatta FISA mahkemesinin olduğu durumlar olduğunda bile - yani FISA mahkemesi uzun yıllar boyunca etkili bir şekilde onay damgası olarak ünlüydü.
Kesin rakamları unuttum ama FISA mahkemesine belirli durumların gözetlenmesine izin vermek için yapılan başvuruların yüzde 99'undan fazlası kabul edildi ve yüzde 99'un açıkça çok fazla olduğunu söylemek kolay. Açıkçası mahkemeye iddiada bulunanlar seçiyor ve seçiyorlar. Çoğunlukla tamamen çılgınca iddialarda bulunmuyorlar. Ancak bu düşmanlık olmadan ve "Bunu yapmalıyız" diye düşünen veya bir yönetim tarafından "Bunu yapmalıyız" diyen çok güçlü motivasyona sahip bir grup insanla, bunu yapmanın yollarını bulacaklar. Ve zamanla varacağınız yer burasıdır.
Bu süreçte uyanıp da kendi kendine "Hedef" kelimesini istediğimiz herhangi bir anlama gelecek şekilde yeniden tanımlamayı başardık" diyen var mı bu süreçte?
[Gülüyor] Açıkçası bir sürü belgeyi sızdıran Ed Snowden'ınız vardı. 2014 yılında The Washington Post için 12333 sayılı Başkanlık Kararnamesi'nin yorumunu ortaya koyan bir yazı yazan ve asıl dikkat edilmesi gereken konunun bu olduğunu söyleyen John Napier Tye vardı. Bu konularda konuşan başka insanlar da var, ancak çoğunlukla, istihbarat topluluğu meseleleri üzerinde yönetim içinde çalışan insanlar, istihbarat topluluğunun görüşüne kapılmış durumdalar, ki bu da asıl amacın ülkeyi kötü bir şeyden korumak olduğu yönünde. Bunu yapmanın en iyi yolu mümkün olduğunca fazla bilgiye sahip olmaktır.
Evet, daha fazla bilgiye sahip olmanın onların bir şeyi daha erken yakalamasına veya önemli bir şeyi bulmasına olanak tanıyabileceği argümanına sempati duymak kolaydır, ancak bu doğru olmayabilir. Çok fazla bilgi almak muhtemelen çok az bilgi kadar kötüdür çünkü genellikle gerçekten yararlı olan bilgiyi, bir şeyi belirlemek için gerçekten ihtiyaç duyduğunuz bilgiyi gizleyebilir.
Ama aynı zamanda bir ABD'miz var. İlk etapta anayasa ve teoride, olası bir neden olmadan kitlesel gözetlemeye izin vermememiz gerektiğine dair nedenlerimiz var. Hukukun üstünlüğüne inanan bir ülke olarak buna uygun yaşayabilmeliyiz ve tüm bunlar karanlıkta gerçekleştiğinde, bunu gözden kaçırma eğiliminde olacaksınız.
Bu beni Antropik'e getiriyor. Antropik öncelikle kurumsal bir şirkettir. Hükümette iyiler, kaslarını geliştirmişler, kadrolarında bu konularda gerçekten bilgili insanlar var. Belli ki Pete Hegseth'e şöyle dediler: "Tüm yasal kullanımları istiyoruz" dediler ve yorumu iki seviyeye indirdiler ve şöyle dediler: "Sizin gerçek inancınız, bu kelimelerin yüzlerinde ifade ettikleri anlama gelmediği yönünde. Dolayısıyla 'tüm yasal kullanımlar' çok büyük ve biz özellikle kitlesel gözetleme etrafına bazı korkuluklar koymak istiyoruz."
Yine, diğer kırmızı çizgi olan otonom silahları parantez içine alacağım, ancak özellikle kitlesel gözetleme konusunda Dario Amodei orada şöyle diyor: "Çok fazlasını yapabiliriz. Bu çok tehlikeli. Bu bir Dördüncü Değişiklik ihlalidir."
Oradaki gerilim şu: "Tek bir şey söyleyen bu yasalara uyacağınızı söylüyorsunuz ve bunca zamandan sonra, bunlar tamamen farklı bir şey ifade ediyor ve biz bunun bir parçası olmak istemiyoruz." bukavga. Bunu sadece, "Tüm yasal kullanımları yapacağız" diyerek içeri giren ve ardından "Uyacağımız tüm yasalar burada" şeklinde şu uzun mesajı yayınlayan Sam Altman'la karşılaştırmak istiyorum.
Görünüşe göre Altman, NSA'nın bu şeyleri nasıl yeniden yorumladığını bilmiyordu ve bir nevi oyuna getirilmişti. Ve o zamandan beri geri adım atmaya başladı - biz kayıt yaparken bile, daha fazla tweet olduğundan ve herkesin pozisyonunun değiştiğinden eminim. Ancak Altman yavaş yavaş geri adım atıyor ancak görünen o ki OpenAI, kuralları onların yüzlerinden okumaya ve söylediklerine inanmaya kendini kaptırmış durumda. Olaylara ilişkin yorumunuz da bu mu?
İki ihtimal var, bu da onlardan biri. Birincisi, uzun yıllar boyunca halkın oynadığı gibi oynanmış olması. Alternatif teori ve bunlardan hangisinin doğru olduğuna dair hiçbir fikrim yok, kendisi veya OpenAI'deki bazı avukatlar (ki bunların çok yetkin ve çok bilgili olduklarını düşünüyorum) bunu biliyorlardı, ancak NSA'nın birkaç on yıl boyunca oynadığı oyunun aynısını oynayabileceklerini düşünmüşlerdi, yani bunları söyledikleri ve daha sonra kelimeleri söyledikleri, ancak gerçek yorumları açıklamadıkları, bundan da sıyrılabileceklerini düşünmüşlerdi. Böylece Sam, "Anthropic'inkiyle tamamen aynı kırmızı çizgilere sahiptik ve hükümet bu konuda harikaydı" gibi görünen bir ifadeyle ortaya çıkıyor.
Aslında Sam Altman'ın Antropik'in iki kırmızı çizgisi, OpenAI'nin ise üç kırmızı çizgisi olduğunu ve hükümetin bunda tamamen sorun olmadığını söylediğini düşünüyorum ve bu da pek çok insanın kafasını kaşımasına neden oldu. Ama bence ya Sam Altman ve onu çevreleyen her kimse bu işlerin pratikte nasıl yürüdüğünü anlamadı ya da anladılar ve halkın bilmeyeceğini varsaydılar ve bu yüzden bundan sıyrılabileceklerdi.
Akla gelen diğer şey ise yine yapay zekanın yeni olduğu ve yeni teknolojilere yönelmenin çok cazip olduğu çünkü bunlar ilk izlenimle ilgili sorunlar. "Daha önce kimsenin bunu düşünmesine gerek kalmamıştı" ama gerçek şu ki herkes bu şeyleri uzun zamandır düşünüyor. Belki burada yeni olan şey yapay zeka değil, ikinci Trump yönetiminin, eylemlerini kimsenin dikkate almadığı gizli bir mahkeme önünde haklı çıkarmak için belki de hiç kimsenin okumayacağı bir sürü avukatlık yapmak yerine, o kadar da incelikli olmamasıdır.
O kadar da sofistike değiller ve sadece herkesi sürekli gözetleyeceklerini söylüyorlar. Niyetlerini öyle açıkladılar ki, belki de tüm yönetimler niyetlerini açıklayıp, fişlerin nereye düşeceğini görmeli.
Ama ben burada, New York City'de Ed Snowden'ın olduğu gerçeğine bakıyorum. AT&T, herkesin NSA binası olduğunu bildiği bir binayı işletiyor. Bu sadece dev bir bina ve bizim buranın bir NSA gözetleme merkezi değilmiş gibi davranmamız gerekiyor ama tam orada. Çok büyük. Bunların hiçbiri bir sonuca ulaşmış gibi görünmüyor. Tüm bu ifşaatların, bu sızıntıların arkasında durmadık.
Aslında, hayatlarımızın çoğu giderek daha dijital hale geldikçe bu oran da arttı. Ve belki de Trump yönetiminin her zaman bu kadar kör bir araç olması, aslında hesaplaşmaya neden olan şey olabilir. Bunun yine de oynandığını görüyor musun?
Orada birkaç farklı şey var ve bu şeylerden hiç geri adım atmadığımız tamamen doğru değil. Snowden'ın açıklamaları bu olayların gerçekleşme biçiminde bazı değişikliklere yol açtı. Ve şimdi var - ne dendiklerini unuttum ama onlar FISA mahkemesindeki sivil dostlar gibi, belirli konularda karşı tarafı temsil edecekler.
Yetkililerden bazılarının belirli şekillerde sınırlandırıldığını ve sık sık yeniden yetki almak için geldiklerini gördük. Aktivistler geri adım atma ve biraz daha korkuluk koyma konusunda çok agresif davrandılar. Ancak daha büyük soruya gelince, bence iki farklı şey var. Bu yönetimin incelikli olmadığı ve sadece yapmaması gereken şeyleri yüksek sesle söylediği konusunda kısmen haklısınız.
"İran'la savaştayız, yapıyoruz, oluyor. Dansı denemeyeceğiz bile."
Önceki yönetimlerin yapmayacağı şekillerde. Ama bunu doğrudan söylemedilergözetleme, özellikle Amerikalıların gözetlenmesi. Bununla ilgili ipuçları vardı, ancak bu konuda bu kadar güçlü bir şekilde ortaya çıkmadılar. Diğer yarısı, Anthropic'in konumlandırması ve AI'nın bu muhtemelen varoluşsal teknoloji olarak genel görüşüyle daha fazlasını yapmak zorunda; burada Anthropic kendisini her zaman "Biz düşünceli iyi adamlarız" olarak sundu ve buna inansanız da inanmasanız da, bunun bir nevi konunun dışında olduğunu düşünüyorum. Dışarıda şu itibar var: "Bunu güvenli, insanlığa saygılı ve tüm bunlara dikkat eden bir şekilde yapmaya çalışıyoruz." Ve bu çatışma olduğunda, mücadelenin devreye girdiği yer burasıdır.
Sadece yapmak istediği her şeyi yapabilmek isteyen bir Trump yönetiminiz var ve onlar bu konuda incelikli değiller. Ve bir de, kendini tanımlaması ve kamusal kişiliği her zaman şöyle olan Antropik var: "Düşünceliyiz ve insanlığa, haklara ve tüm bunlara saygı duyuyoruz." Muhtemelen çatışmanın çıktığı yer burası çünkü Anthropic, daha önce de belirtildiği gibi, bir süredir Savunma Bakanlığı ile çalışıyor ve hükümetle kullandığı başka birçok sözleşmeye sahip. Bu bir sorun olmadı.
Anthropic'in üst düzey liderliği, hükümetin sahip olduğu sözleşmeyi genişletmeye çalıştığı yalnızca bu belirli alanlarda şöyle demeye başladı: "Bekle, düşünceli, güvenli yapay zeka sağlayıcısı olarak itibarımıza potansiyel olarak zarar verebilecek bu kırmızı çizgileri aşmadığımızdan emin olmalıyız."
Size genel olarak gözetim ve özel olarak Anthropic'in Dördüncü Değişiklik endişesi hakkında kısaca sorular sormak istiyorum. Dördüncü Değişiklik, hükümetin sizi makul olmayan bir şekilde arayamayacağını söylüyor. Dördüncü Değişikliği anlamanın en iyi yolu Jay-Z'nin "99 Problems" şarkısını dinlemektir. Yani biraz ara verip “99 Problems”i dinlemeniz gerekiyorsa bu harika. Hepsi orada. Hukuk fakültesindeyken dinlemiştim ve çok mantıklı gelmişti.
Ancak hükümetin genellikle sizi aramak için izne ihtiyacı vardır. Ve hayatınızın giderek daha büyük bir kısmı çevrimiçi hale geldikçe, bunun pek çok istisnası var. Ancak fikir şu ki, yine de çevrimiçi bir arama emrine ihtiyaçları var. Anthropic'in argümanı şu: "Yapay zeka asla yorulmayacak. Her zaman her şeyi arayabilir. Bu, bizim yalnızca gözetleme konusunda uzmanlaşacağımız anlamına geliyor."
Ancak yapay zeka ortaya çıkmadan önce bile hükümetin size ait olan her şeyi arayabileceği fikri ortalıktaydı, hükümetin tüm eşyalarınızı aramak için izne ihtiyacı olmadığı fikri ortalıktaydı. Verilerinizden herhangi birinin kısa bir süreliğine de olsa ülke dışına çıkması durumunda hükümetin onu orada ele geçireceği fikri,
Üniversitedeyken, Vatanseverlik Yasası döneminde, gerçek verilerinizi aramayacakları, ancak meta verileri ve meta verileri tek başına alabilecekleri tartışması vardı. Verilerinizle ilgili veriler, konumunuzu her zaman tam olarak belirlemek için yeterli olacaktır. Ve bu bile çok uzak. Ve biz de hükümet ne toplayabilir sorusunun dansını yapıyoruz. Neye izin verilebilir? Hepimizi güvende tutmak için neye ihtiyaçları var ve ne çok uzak? Bu çizgiler taşındı.
Bu nedenle, gözetime ilişkin genel endişeyi bu ölçekte ve şu anda nerede olduğumuzu kısaca anlatın. Yapay zekadan önceki durum her şeyi katlanarak daha karmaşık hale getiriyordu.
Burada, muhtemelen daha önce değinilmesi gereken ama önemli olan, “üçüncü taraf doktrini” olarak adlandırılan başka bir kavramı tanıtmam gerekiyor. Dördüncü Değişiklik'teki fikir, hükümetin sizi veya eşyalarınızı arama izni olmadan arayamaması ve bir tür suç işlediğinize dair olası bir neden olmadan arama izni çıkaramamasıdır. Ancak onlarca yıl önce ortaya çıkan ve üçüncü taraf doktrini olarak adlandırılan bir kavram var; bu, sizin verileriniz olsa bile, bunun size ait olmayan şeyler için mutlaka geçerli olmadığını veya hiç geçerli olmadığını söylüyor.
Bunun en eski ve en bariz versiyonu, telefon şirketinin aradığınız kişiyi gösteren telefon kayıtlarıydı. Telefon şirketleri görüşmelerinizi kaydetmiyordu ama sizi arasaydım kaydediyorlardı, telefon şirketinde 'Mike Nilay'ı arıyor' diye bir kayıt olurdu. Ve birden fazla mahkeme tarafından belirlenen şey, hükümetin gidip bunu talep edebileceği ve bunun için bir arama emrine ihtiyaç duymadıklarıydı çünkü bu bir arama değil.verileriniz bu üçüncü taraftır ve üçüncü taraf olarak bu verileri aktarmayı kabul edebilirler.
Ancak bunlar, ortalıkta çok fazla üçüncü taraf verisinin olmadığı 1960'lı ve 70'li yıllardan kalma, hükümetin herhangi bir izin olmaksızın bunlara erişebileceğinin belirlendiği davalardı. Bilgisayarların ve internetin yükselişi bunu değiştirdi. Artık her şey üçüncü taraf verileridir. Yaptığımız her şey bir yerlerde bir şirket tarafından toplanıyor ve bunun kaydı var. Yani temelde sizinle ilgili her bir veri, nerede olduğunuz, kiminle konuştuğunuz, kiminle etkileşime girdiğiniz, ne söylediğiniz, ne yaptığınız gibi tüm bunlar bugünlerde büyük ölçüde üçüncü şahısların elinde tutuluyor. Yani üçüncü taraf doktrini, Dördüncü Değişiklik'in tamamını bir dereceye kadar yutmuştur; başka birinin sizinle ilgili herhangi bir şeye sahip olduğu durumda, hükümetin bunu talep etmek için yapabilecekleri konusunda çok daha düşük bir standart vardır.
Daha spesifik olmak gerekirse, bu, verilerim iCloud'da olduğunda, hükümetin bana söylemeden Apple'a gidip verilerimi iCloud'dan çıkarabileceği anlamına mı geliyor?
Talep edebilirler. Herhangi bir emir olmadan kolaylıkla talep edebilirler. O zaman şirketin kendi hakları vardır ve bu taleple ne yapmak istediğini belirleyebilir. Sadece vazgeçebilirler. Çoğunun yapacağı gibi, eğer ciddi bir talepse, talepleri anında reddedebilirler ya da sizi uyarabilirler ve şunu söyleyebilirler - ki çoğu da bunu yapacaktır - sizi uyarıp şöyle derler: "Hükümet bazı verilerinizi istiyor. Mahkemeye gidip onları engellemeye çalışabilirsiniz." Aksi takdirde verilerinizi yedi gün içinde veya her ne olursa olsun teslim edecekler.
Yine buna bağlı. Eğer bu bir ceza soruşturmasıysa, şirketin size söylemesine izin verilmeyen bir tür konuşma yasağı söz konusu olabilir. Her türlü durum var, ancak bunların çoğu, eğer veri veya herhangi bir bilgi veya kendi evinizdeki herhangi bir şey olsaydı, Dördüncü Değişiklik'in gerektireceği koruma seviyesinden daha azını içeriyor.
Başka birinin bulut sunucusundaki veri miktarı çok büyük, değil mi? Artık internette genel olarak yaptığınız her şey bir şekilde yedekleniyor veya bir şekilde başkasının sunucularına kaydediliyor. Hükümet Dördüncü Değişiklik'i atlatıp "Bu aslında senin değil. Amazon'a ait. Gidip Amazon'la konuşabiliriz" demenin yolunu buldu ve Amazon bu sürecin ortasında durup "İnsanları bir şekilde korumak için başka bir süreç icat ettik" demek zorunda kaldı.
Şuna bakıyorum ve bulut hizmetlerini kapsayan ilk üçüncü taraf doktrin davalarını haber yaparken ve hükümet kazanmaya devam ederken, işte o zaman Joker'e dönüştüm. Şöyle düşündüm: "Metinsellik ve sadelik (okuma) hakkında iddia ettiğimiz tüm bu şeyler, bunların hiçbiri bir şey ifade etmiyor çünkü bu eski yasayı herkesin verilerine kullanarak arka kapıya güç veriyoruz."
Sonra buna bakıyorum ve Anthropic'e bakıyorum ve şöyle diyorum: "Bu da aynı kalıp." Bu özel bir şirket şöyle diyor: "Tamam, pozisyonunuzu anlıyoruz. Yasayı bu anlama gelecek şekilde yeniden yorumladığınızı anlıyoruz ve sizinle, aracımızla ve hizmetimizden akan Amerikalıların verileri arasına bir süreç koyacağız." Anthropic ile Amazon ve Azure ile verilerimizin çoğunu tutan diğer bulut hizmetleri arasında bir paralellik görüp görmediğinizi merak ediyorum.
Evet, ancak burada konuyu biraz farklı kılan önemli birkaç açıklama var. Ve aslında -sanırım bu haber ilk olarak The New York Times'da vardı- Anthropic için en önemli olan ana madde, özellikle ticari hizmetlerden toplanan verilerle ve bu veriler üzerinde Claude'un kullanılamamasıyla ilgiliydi ki bu da üçüncü taraf verileri açısından tam olarak bu sorun. Ancak bundan önce Amazon veya verilerinizi barındıran diğer üçüncü taraflarla konuştuğumuz şey arasındaki temel farkı açıklığa kavuşturmak istiyorum; bunlar ekosistemdeki konumları nedeniyle verilerinizi doğrudan barındırdıkları durumlardı.
Claude söz konusu olduğunda, NSA'nın Claude kullanımınızı incelemesinden kimsenin endişe duyması söz konusu değil. Bu, onların dışarı çıkıp Amazon'dan üçüncü taraf verileri almasıyla veya daha büyük ihtimalle telefonlarınızda reklam yayınlayan ve konumunuzu, ilgi alanlarınızı ve bunun gibi şeyleri bilen sinsi, gizli veri komisyoncuları ile ilgili. Ve sonra bunu bir sisteme besliyorumClaude'un daha sonra üzerinde çalışacağı. Anthropic'in gerçekten bir parçası olmak istemediği şey buydu. Dolayısıyla hükümet bu verileri üçüncü bir taraftan nerede ve nasıl toplarsa toplasın Anthropic, "Araçımızın bu veriler üzerinde kullanılmasını istemiyoruz" dedi.
Apple, FBI'ın iPhone'a bir arka kapı koymasını istemesine karşı çıkıyor ve Apple "hayır" diyor ve Trump'a karşı çıkıyorlar. Sistemimizin işleyişinde büyük özel şirketlerin müşterileri adına hükümete "hayır" diyebildiği bir kısım da var. Ve bu, Apple'ın yine iPhone'a arka kapı koymaması veya büyük bulut sağlayıcılarının "Bireysel verileri almadan önce atlamanız gereken küçük bir süreç var" demesiyle aynı şekilde hissettim.
Burada Anthropic şunu söylüyor gibi görünüyor: "Diğer taraflardan edindiğiniz verilerin toplu analizini yapmayacağız çünkü bu, Amerikalıların 7/24 kitlesel gözetlenmesine yol açıyor ve biz bunu yapmak istemiyoruz." Ama bu yönetim için çok uzak bir köprü gibi görünüyor. Bundan dönüş var mı?
Göreceğiz. Geçmişte bu gerçekleştiğinde - ve büyük teknoloji şirketlerinin çoğunda bu durum birçok kez yaşandı, bir noktada bir şeyin çok ileri gittiğini söylediler - normalde bu davanın yeri mahkemeye gitmekti. Şirketler mahkemeye gidecek ya da yönetim mahkemeye gidecek ve bir tür mahkeme savaşı yaşanacak.
iPhone'un arka kapısı bunun mükemmel bir örneğidir. Konu mahkemeye gitti ve mücadele ettiler, ancak hiçbir zaman tam olarak bir sonuca varamadılar çünkü FBI en sonunda iPhone'a manuel olarak girdi ve mahkeme kararının gelecekte bunu mahvetmesini istemedi.
Ancak tırmanmanın olduğu ve bunun geçmişteki durumlardan farklı olduğu bu durumda, Trump yönetimi sadece mahkemeye gitmek yerine bu "tedarik zinciri riski" tanımlamasını yaptı ki bu delilik. Potansiyel yabancı kötü niyetli aktörlerin teknoloji sağlamasını engellemek için tasarlanan bu aracın, daha sonra gizli gözetim araçlarını daha büyük teknoloji yığınına yerleştirip bunların yasaklanabileceği fikri. Bunu ABD merkezli bir şirkete temel olarak bir etik politikasına sahip olduğu için uygulamak, bu aracın gerçekten çok kötüye kullanılması gibi geliyor.
Bu araç bile bazı açılardan sorgulanabilirdi, ancak Çinli bir ağ oluşturma firmasından veya buna benzer bir şeyden bahsederken arkasındaki itici gücü anlayabilirsiniz. Burada hiçbir anlam ifade etmiyor. Dolayısıyla buna verilen tepki, bu durumda normalde görülenin çok ötesine geçiyor. Geleneksel olarak bir tür mahkeme davası olacağını ve her iki tarafın da bunu başlatabileceğini ve sözleşmenin nasıl uygulanabileceği konusunda bir savaş olacağını görebilirsiniz.
Ama burada olan bu değil. Bu yönetim etkili bir şekilde şunu söylüyor: "Eğer bize istediğimiz her şeyi kesinlikle vermezseniz, araçlarınızı bizim istediğimiz şekilde çalışacak şekilde ayarlamazsanız, o zaman fiilen tüm işinizi yok etmeye çalışırız." Ve bu bir tırmanmadır.
Bitirmek istediğim bir parçası var ve bu, bunun bir nevi galaksi-beyni versiyonu. İfade özgürlüğünü savunan bir grup olan FIRE, biz kayda başlamadan hemen önce bir blog yazısı yayınladı ve Anthropic'i oluşturmak istemediği araçlar üretmeye zorlamanın ifade özgürlüğünün ihlali olduğunu, bunun zorunlu ifade olarak adlandırılan bir şey olduğunu savundu. Burada çok fazla tarih var. Burada derin bir Verge ve Techdirt, karmakarışık, varoluşsal kriz geçmişi var.
Ancak temel olarak bu, kodun konuşma olduğu, bir bilgisayar için kod yazmanın bir konuşma biçimi olduğu ve hükümetin sizi bunu yapmaya zorlayamayacağı fikrine varıyor ve bundan bir sürü şey çıkıyor. Anthropic'i yapmak istemediği araçları üretmeye zorlamanın zorunlu konuşma olduğu yönündeki argümana inanıyor musunuz?
Evet, aslında oldukça ilgi çekici olduğunu düşünüyorum. Zorlayıcı, zorlayıcı konuşma. Ama hayır, bunun ilginç bir argüman olduğunu düşünüyorum. Bu, düşündüğüm sorunlar listesinin biraz daha aşağılarında yer alan bir konuydu. Açıkçası ben daha çok Dördüncü Değişiklik konularına odaklanmıştım ama YANGIN argümanının yanlış olmadığını düşünüyorum. Bunu başka bağlamlarda da gördük. Şifreli sistemlere arka kapılar oluşturmaya çalışırken arka kapı sorununda da bu durum gündeme geldi.
Şirketler kesinlikle birinci olduDeğişiklik, "Bizi bu tür kod yazmaya zorlamak mecburi konuşmadır" diyor. Bu geçerli bir argümandır. Bu, yine, mahkemelerin bu sorunları başka bir şekilde çözebilmeleri durumunda başlangıçta ele almaya muhtemelen daha az istekli olacağı bir durum olabilir. Ancak FIRE'ın bu gönderiyi yapmasına sevindim ve bunun ilginç ve ikna edici bir argüman olduğunu düşünüyorum.
Evet, ikinci Trump yönetiminin doğası öyle ki, o kadar kör bir araç ki, tüm konulara aynı anda saldıracağımız neredeyse kesin.
Evet, her Haklar Bildirgesi değişikliğine, olası her konuda şu veya bu şekilde itiraz edilmesi gerekir.
[Gülüyor] Çarkı döndürün.
Üçüncü Değişiklik ihlalini burada bir yere sığdırabileceğimize eminim.
Tabii, evet. Claude artık senin evinde yaşamak zorunda. Kesinlikle. Harika olacak. Bir, üç, dört ve yedinciyi [değişiklikler] yapıyoruz. Onları rafa kaldırıyoruz.
Mike, bu harikaydı. Daha önce gösteriye çıkmadığına inanamıyorum. Bu harika oldu. Yakında geri gelmelisin.
Kesinlikle. Beni ne zaman istersen.
Bu bölümle ilgili sorularınız veya yorumlarınız mı var? decoder@theverge.com adresinden bize ulaşın. Gerçekten her e-postayı okuyoruz!
