Bugün Decoder'da araştırmacı haberciliğin günümüzün en büyük yıldızlarından biri olan Ronan Farrow ile konuşuyorum. Pek çok başka hikayenin yanı sıra Harvey Weinstein'ın hikayesini de ortaya çıkardı. Daha geçen hafta, o ve ortak yazar Andrew Marantz, The New Yorker'da OpenAI CEO'su Sam Altman, onun güvenilirliği ve OpenAI'nin yükselişi hakkında inanılmaz derinlemesine bir makale yayınladılar.
Burada daha ileri gitmeden önce bir not - The New Yorker bu hikayeyi yayınladı ve Ronan ve ben bu konuşmayı Altman'ın evine yapılan saldırıların tam boyutunu öğrenmeden önce yapmıştık, dolayısıyla bu konu hakkında doğrudan konuştuğumuzu duyamazsınız. Ancak şunu söylemek gerekirse, şiddetin her türlüsünün kabul edilemez olduğunu, Sam'e yönelik bu saldırıların kabul edilemez olduğunu ve bu tür şiddete yol açan insanların hissettiği türden çaresizliğin kabul edilemez olduğunu düşünüyorum ve bunun hem sektör hem de siyasi liderlerimiz tarafından daha fazla incelenmeye değer olduğunu düşünüyorum. Umarım bu açıktır.
Verge aboneleri, podcast'lerinizi aldığınız her yerde reklamsız Kod Çözücüye özel erişim elde edeceğinizi unutmayın. Buraya gidin. Abone değil misiniz? Buradan kaydolabilirsiniz.
Bütün bunlar, Altman'ın etrafında titiz bir habercilik için adil bir oyun olan pek çok şeyin döndüğünü gösteriyor - Ronan ve Andrew'un yapmak üzere yola çıktığı türden bir habercilik. ChatGPT'nin popülaritesi sayesinde Altman, bir zamanlar kar amacı gütmeyen bir araştırma laboratuvarını sadece birkaç yıl içinde neredeyse trilyon dolarlık özel bir şirkete dönüştürerek yapay zeka endüstrisinin en görünür figürü olarak ortaya çıktı. Ancak Altman'ın efsanesi derinden çelişkilidir ve hem bariz anlaşma yapma yeteneği hem de etrafındaki herkese yalan söyleme eğilimiyle eşit derecede tanımlanmıştır.
Hikaye 17.000 kelimeden uzun ve muhtemelen 2023'te OpenAI yönetim kurulunun Altman'ı yalan söylediği iddiası nedeniyle aniden kovması ve neredeyse anında yeniden işe alınmasıyla ilgili kesin açıklamayı içeriyor. Bu aynı zamanda Altman'ın kişisel hayatına, yatırımlarına, Orta Doğu parasıyla flört etmesine ve geçmişteki davranış ve karakter özelliklerine ilişkin düşüncelerine de derinlemesine bir bakış; bu da bir kaynağın onun "gerçeklerle sınırlı olmadığını" söylemesine yol açtı. Gerçekten hikayenin tamamını okumanızı öneririm; Uzun yıllar referans olarak kullanılacağını düşünüyorum.
Ronan, bu haberi haber yapmak için harcadığı 18 ay boyunca Altman'la birçok kez konuştu ve merak ettiğim en önemli şeylerden biri, bu süre içinde Altman'da herhangi bir değişiklik hissedip hissetmediğiydi. Sonuçta geçtiğimiz bir buçuk yılda yapay zekada, teknolojide ve dünyada pek çok şey yaşandı.
Ronan'ın bu konu hakkında doğrudan konuştuğunu ve insanların Altman'ın gerçeği abartma yeteneği hakkında konuşmaya çok daha istekli hale geldiğine dair hissini duyacaksınız. İnsanlar, Altman gibi insanların davranışlarının sadece yapay zeka veya teknoloji açısından değil aynı zamanda toplumun kolektif geleceği açısından da endişe verici olup olmadığını yüksek sesle ve kayıtlara geçerek merak etmeye başlıyor.
Tamam: Ronan Farrow, Sam Altman, yapay zeka ve gerçekler hakkında. İşte başlıyoruz.
Bu röportaj uzunluk ve netlik açısından hafifçe düzenlendi.
Ronan Farrow, sen araştırmacı bir muhabirsin ve The New Yorker'a katkıda bulunuyorsun. Decoder'a hoş geldiniz.
Burada olmaktan mutluyum. Beni kabul ettiğin için teşekkürler.
Seninle konuşacağım için çok heyecanlıyım. Az önce The New Yorker için büyük bir yazı yazdın. Bu Sam Altman'ın ve bir nevi OpenAI'nin profili. Okuduğum kadarıyla, tüm harika özelliklerde olduğu gibi, titiz bir raporlamayla, insanların Sam Altman hakkında çok uzun zamandır sahip olduğu pek çok duyguyu doğruluyor. Belli ki yayınladınız, tepkiler aldınız. Şu anda bu konuda nasıl hissediyorsun?
Aslında dikkat ekonomisinin bu kadar şizofrenik ve sığ olduğu bir dönemde bu kadar kırılması beni cesaretlendirdi. Bana göre bu hepimizi etkileyen bir hikaye. Hayatımın bir buçuk yılını ve ortak yazarım Andrew Marantz'ın da bu zamanını gerçekten adli ve titiz bir şeyler yapmaya çalışarak geçirmesinin nedeni, hikayenin merkezinde yer alan birey ve şirketin ötesinde insanları etkileyen daha büyük yapısal sorunların olduğunu hissetmemdir.
Sam Altman, Silikon Vadisi'ndeki abartılı kültürün ve gelecekte gerçekleşebilecek ya da gerçekleşmeyebilecek vaatlere dayalı olarak devasa değerlemelere ulaşan startup'ların ve farklı gruplara farklı çelişkili şeyler söylemenin bir özellik değil, bir özellik olduğunu düşünen kurucu kültürün giderek daha fazla benimsenmesinin arka planında.hata... Bu arka planda bile Sam Altman, Silikon Vadisi'nde bunları bekleyen herkesin onun güvenilirliği ve dürüstlüğüyle ilgili bu soru hakkında konuşmayı bırakamadığı olağanüstü bir örnek.
Sahtekârlık iddialarının bazı versiyonları veya seri yalan iddiaları nedeniyle kovulduğunu zaten biliyorduk. Ancak olağanüstü bir şekilde, harika habercilik olmasına rağmen Keach Hagey bu konuda harika iş çıkardı. Karen Hao bu konuda harika iş çıkardı. Gerçekte iddia edilen kanıt noktalarına ve bunların neden kamuoyunun gözünden uzak durduğuna dair kesin bir anlayış yoktu.
Birinci nokta, kamuoyunun bilgisindeki ve hatta Silikon Vadisi'ndekilerin bilgilerindeki bazı boşlukların artık biraz daha doldurulmuş olması beni cesaretlendiriyor. Boşlukların bazı nedenleri biraz daha dolduruldu.
Bu şirketteki kişilerin bazı şeylerin gerçekten örtbas edildiğini veya kasıtlı olarak belgelenmediğini düşündükleri vakaları bildiriyoruz. Bu hikayedeki yeni şeylerden biri, Enron ve WorldCom hakkında soruşturmalar yapan gösterişli, güvenilir, büyük bir hukuk firması olan WilmerHale tarafından yürütülen çok önemli bir hukuk firması soruşturmasıdır; bu arada bunların hepsi, yüzlerce sayfa yayınlanmış gibi hacimlidir. WilmerHale, Altman'ı işten çıkardıktan sonra ayrılma şartı olarak görevden alan yönetim kurulu üyelerinin talep ettiği bu soruşturmayı yaptı ve geri döndü. Ve olağanüstü bir şekilde - konuştuğum birçok hukuk uzmanının gözünde ve bu şirketteki birçok kişinin gözünde şok edici bir şekilde - bunu yazıya dökmeden sakladılar. Bundan ortaya çıkan tek şey, OpenAI'nin olanları güvenin bozulması olarak tanımlayan 800 kelimelik bir basın açıklamasıydı. Ve bunun sözlü brifinglerde saklandığını doğruladık.
Örneğin, bir yönetim kurulu üyesinin görünüşte OpenAI'nin orijinal kâr amacı gütmeyen formundan kâr amacı güden bir kuruluşa dönüştürülmesine karşı oy kullanmak istediği ve bunun çekimser olarak kaydedildiği durumlar vardır. Toplantıda sanki bir avukat şöyle diyor: "Bu çok fazla incelemeyi tetikleyebilir." Ve karşı oy kullanmak isteyen kişi de tüm duruşmalarda çekimser olarak kayıt altına alınıyor. Gerçek bir anlaşmazlık var. Tahmin edebileceğiniz gibi OpenAI aksini iddia ediyor. Bunların hepsi, kendi hesabına geleceğimizi elinde tutan bir şirketinizin olduğu durumlardır.
Güvenlik riskleri o kadar ciddi ki ortadan kalkmış değil. Bu şirketin güvenliğe odaklanan kar amacı gütmeyen bir kuruluş olarak kurulmasının ve etrafındaki güvenilir kişilerin onu profesyonellikten uzak bulmasına neden olacak şekilde işlerin gizlenmesinin nedeni budur. Ve bunu, anlamlı düzenlemeye yönelik siyasi isteğin çok az olduğu bir ortamla birleştiriyorsunuz. Bunun çok yanıcı bir durum olduğunu düşünüyorum.
Benim için önemli olan sadece Sam Altman'ın bu soruları bu kadar şiddetle hak etmesi değil. Aynı zamanda bu alandaki bu adamlardan herhangi biri ve önemli figürlerin çoğu, bu kendine özgü, sözde her zaman yalan söyleme özelliği olmasa da, kesinlikle bir dereceye kadar dibe doğru yarış zihniyeti sergiliyor; güvenlikçi olan insanlar bu taahhütleri sulandırmış ve herkes yarış halindedir duruşu.
Sanırım Anthropic'in son sızıntılarına baktığımızda, bu parçadaki düğmeye kimin basması gerektiği sorusunu gündeme getiren bir kişi var. Cevap şu ki, eğer anlamlı bir gözetimimiz yoksa, ciddi sorular sormamız ve tüm bu adamlar hakkında mümkün olduğunca fazla bilgiyi yüzeye çıkarmaya çalışmamız gerektiğini düşünüyorum. Bu yüzden bununla ilgili anlamlı bir konuşma ya da bir sohbetin başlangıcı gibi hissettiren bir şey beni cesaretlendirdi.
Bunu böyle sormamın sebebi bir buçuk yıl boyunca bunun üzerinde çalışmış olmanızdır. Sanırım ortak yazarınız Andrew ile birlikte 100 kişiyle konuştunuz. Bu bir hikayenin hazırlanması için uzun bir süre. Özellikle yapay zeka konusunda son bir buçuk yılı düşünüyorum ve tüm bu karakterlerin tutumları ve değerleri çok hızlı değişti.
Belki de ChatGPT'yi yayınladıkları ve herkes bunun Google'ın yerini alacağını düşündüğü için varsayılan kazanan olarak başlayan Sam Altman'dan daha fazlası değildi. Ve sonra Google yanıt verdi ve Google'ın, iş tarihinin olmasa da teknoloji tarihinin belki de en iyi işlerinden biri olan işini korumaya çalışması onları şaşırtmış gibi görünüyordu. Anthropic, girişime odaklanmaya karar verdi. Komuta liderliğini üstleniyor gibi görünüyorçünkü yapay zekanın kurumsal kullanımı çok yüksek.
Artık OpenAI, ürününü "Google'ı ele alacağız" yerine Codex'e yeniden odaklıyor ve onlar da işletmeyi ele alacaklar. Geçtiğimiz bir buçuk yıldaki habercilik sırasında konuştuğunuz karakterlerin değiştiğini hissedip hissetmediğinizi tam olarak bilemiyorum. Tutumları ve değerleri gibi bunlar da değişti mi?
Evet. Her şeyden önce, bu yazıda incelenen ve bu noktada bu şirketlerin içindeki pek çok insandan gelen eleştirinin (varoluşsal risklere rağmen bu sektörün güvenlik konusunda dibe doğru inen ve hızın diğer her şeyi gölgede bıraktığı bir sektör olduğu yönünde) bu endişenin daha da şiddetli hale geldiğini düşünüyorum. Ve sanırım bu endişeler geçtiğimiz bir buçuk yıl geçtikçe daha da doğrulandı. Eş zamanlı olarak Sam Altman'a yönelik tutumlar da özellikle değişti. Bunun için kaynaklarla konuşmaya başladığımızda, insanlar bu konuda alıntı yapılması ve bunun kayıt altına alınması konusunda gerçekten çok temkinli davrandılar.
Raporlamamızın sonunda, insanların bu konu hakkında çok açık ve net bir şekilde konuştuğu bir raporlama sisteminiz var ve yönetim kurulu üyeleriniz şöyle şeyler söylüyor: "O patolojik bir yalancı. O bir sosyopat." "Güvenlik riskleri göz önüne alındığında bu tehlikelidir ve bu teknolojinin yüksek düzeyde dürüstlüğe sahip liderlerine ihtiyacımız var"dan "Güvenlik risklerini unutun, bu herhangi bir büyük şirketin yöneticisi için savunulamaz bir davranıştır ve çok fazla işlev bozukluğu yaratır."
Böylece konuşma, belki gecikmiş gibi görünse de bir bakıma cesaret verici bir şekilde çok daha açık hale geldi. Ve Sam Altman, takdire şayan... Parça Sam için çok adil ve hatta cömert diyebilirim. Bu, pek çok "seni yakaladım" olayının olduğu türden bir parça değil. Bu işi bitirirken onunla telefonda çok çok saatler geçirdim ve onu gerçekten dinledim.
Tahmin edebileceğiniz gibi, böyle bir parçada her şey anlaşılmıyor. Buradaki bazı vakalar, samimiyetle dinlediğim içindi. Ve eğer Sam gerçekten su taşıdığımı hissettiğimi, bir şeyin doğru olsa bile sansasyonel olabileceğini öne sürüyorsa, bunu adli ve ölçülü tutma konusunda gerçekten hata yaptım. Dolayısıyla bunun doğru bir şekilde algılandığını düşünüyorum ve umarım bu süre boyunca biriken bu gerçek kayıt, gözetim ihtiyacı konusunda daha canlandırıcı bir konuşmayı tetikleyebilir.
Bu aslında bir sonraki sorum. Sanırım bu hikayeyi anlatırken Sam'le bir düzine kez konuştun. Yine, uzun bir süre boyunca çok fazla konuşma var. Geçtiğimiz bir buçuk yıldaki habercilik sürecinde Sam'in değiştiğini mi düşündünüz?
Evet. Bence buradaki en ilginç alt konulardan biri de Sam Altman'ın bu özellikten geçmişte olduğundan daha açık bir şekilde bahsetmesi. Sam'in bu parçadaki duruşu "Orada bir şey yok, bu doğru değil, neyden bahsettiğini bilmiyorum" gibi değil. Sahip olduğu duruş, bunun insanları memnun etme eğilimine ve bir tür çatışmadan kaçınmaya atfedilebileceğini söylüyor. Özellikle kariyerinin başlarında bunun kendisi için sorunlara yol açtığını kabul ediyor.
O, "Eh, ben bunu aşıyorum ya da bir dereceye kadar aştım" diyor. Sanırım benim için gerçekten ilginç olan şey, sadece bir tür güvenlik savunucusu olmayan, yalnızca bu akut güvenlik kaygılarına sıklıkla sahip olma eğiliminde olan temel teknik araştırmacılar değil, aynı zamanda pragmatik, büyük yatırımcılar olan, konuştuğumuz insanlardan oluşan bir gruptur. Onlar, bazı durumlarda bu soruya bakan ve hatta kovulduktan sonra geri dönmesinde önemli bir rol oynadıklarını söyleyen Sam'in destekçileri. Şimdi, reform yapıp yapmadığı ve bu değişimin ne ölçüde anlamlı olduğu sorusuna, "O zaman ona şüphe avantajını kullanmıştık" diyorlar.
Özellikle, "Ama o zamandan beri odunluğun arkasına götürülmediği açık görünüyor" diyen önde gelen bir yatırımcıyı düşünüyorum, bu da bu ifadeyi gerektiği ölçüde kullandı. Sonuç olarak, bu artık istikrarlı bir özellik gibi görünüyor. Bunu sürekli olarak görüyoruz. OpenAI'nin en büyük işlerinden bazılarına bakabilirsinizilişkiler ve bu güvensizliğin ağırlığını sürekli olarak taşıma biçimleri.
Microsoft'ta olduğu gibi, oradaki yöneticilerle konuşuyorsunuz ve onların gerçekten ciddi ve yakın zamanda harekete geçmiş endişeleri var. OpenAI'nin, temel durum bilgisi olmayan AI modelleri açısından Microsoft'a olan münhasırlığını yeniden onayladığı gün, aynı zamanda Amazon ile durum bilgisi olan, yani hafızaya sahip olan AI aracıları oluşturmaya yönelik kurumsal çözümler satmaya yönelik yeni bir anlaşmayı da duyurduğu bir örnek var.
Microsoft çalışanlarıyla konuşuyorsunuz ve onlar şöyle diyorlar: "Üzerinde münhasırlık anlaşmamızın olduğu temel şeylerle etkileşimde bulunmadan bunu yapmak mümkün değil." Yani bu, bu özelliğin devam eden iş faaliyetlerine her zaman etki ettiği ve OpenAI'nin yönetim kurulunda, yönetim kurulunda ve daha geniş teknoloji topluluğunda aktif bir endişe konusu olduğu birçok küçük örnekten sadece biri.
Sürekli bu "özellik" deyip duruyorsun. Hikayede bana tez gibi gelen bir satır var ve bu, tanımladığınız özelliğin bir açıklaması. "Sam Altman'ın gerçekler tarafından kısıtlanmadığı" ve "neredeyse aynı kişide görülmeyen iki özelliğe sahip olduğu: Birincisi, insanları memnun etmek, herhangi bir etkileşimde sevilmek için güçlü bir arzu, ikincisi ise birini aldatmanın sonuçları konusunda neredeyse sosyopatik bir endişe eksikliği."
İtiraf etmeliyim ki, bu cümleyi 500 kez okudum ve her zaman insanların beğenilmek istediklerini söylediğimi ve yalan söylendiğini hissettiklerinde üzülmediğimi hayal etmeye çalıştım. Ve duygu durumumun, bu şeylerin aynı kişide nasıl var olabileceğini anlamasını sağlayamadım. Sam'le çok konuştunuz ve bu özellikleri deneyimleyen insanlarla konuştunuz. Bunu nasıl yapıyor?
Evet. İnsani düzeyde ilginç çünkü bu tür habercilik gruplarına, olayın kalbinde yer alan kişiyi insanileştirmeye ve derin bir anlayış ve empati arayışına gerçek anlamda odaklanarak yaklaşıyorum. Buna daha insani bir bakış açısıyla yaklaşmaya çalıştığımda ve şunu söylediğimde, "Hey, birlikte çalıştığım bu kadar çok insan benim patolojik bir yalancı olduğumu söyleseydi bu benim için yıkıcı olurdu. Bu ağırlığı nasıl taşıyorsun? Terapide bunun hakkında nasıl konuşuyorsun? Bununla ilgili kendine anlattığın hikaye nedir?"
Benim görüşüme göre Batı Yakası'nda bu konuda "Evet, nefes çalışmasını seviyorum" gibi basmakalıp sözler var olabilir. Ancak davranışlarımız ve insanlara karşı davranışlarımız hakkında bu tür geri bildirimler görseydik çoğumuzun muhtemelen sahip olacağını düşündüğüm, derin bir kendi kendine yüzleşmeye dair canlandırıcı bir duygu değil.
Bunun aslında sorunun daha geniş cevabına da gittiğini düşünüyorum. Sam, bu özelliğin sorunlara yol açtığını, ancak aynı zamanda OpenAI'nin büyümesini hızlandırarak farklı insan gruplarını bir araya getirip memnun edebilmesini sağlayan şeyin de bu özellik olduğunu iddia ediyor. Tüm bu çatışan seçmen gruplarını, onların umursadığı şeyin kendisinin umursadığı şey olduğuna sürekli olarak ikna ediyor. Ve bu bir kurucu için gerçekten yararlı bir beceri olabilir. Yatırımcılarla konuştum ve bana şöyle dediler: "Belki de aslında bir şirketi yönetmek için daha az yararlı bir beceridir çünkü çok fazla anlaşmazlık yaratır."
Ancak Sam'in kişisel tarafında, insani düzeyde bağlantı kurmaya çalıştığımda fark ettiğim şeyin, daha derin yüzleşme, derinlemesine düşünme ve öz sorumluluk eksikliği olduğunu düşünüyorum; bu aynı zamanda bir halka arz için hazırlanan bir şirket için süper gücü veya sorumluluğu da bildirir.
O, yazıda kayıtlarda yer alan ve kullandığı ifadenin "beceriksizlik" noktasına kadar geldiğini söyleyen eski bir yönetim kurulu üyesi olan Sue Yoon'un ifadesiyle, satış sunumlarının değişen gerçekliğine gerçekten inanabilen veya kendini bunlara ikna edebilen biri. Ya da en azından onlara inanmıyorsa, kendinden anlamlı bir şüphe duymadan, onları bağırıp çağırabilir.
Sanırım bahsettiğiniz şey, siz veya ben, biz bunu söylerken ve bunun verdiğimiz diğer güvenceyle çeliştiğini fark ederken, bir tür donma veya kendimizi kontrol etme anımız var. Onun için bunun geçerli olmadığını düşünüyorum. Ve bunu kucaklayan daha geniş bir Silikon Vadisi yutturmaca kültürü ve kurucu kültürü var.
Çok komik. Verge, ürün incelemelerinin ne kadar önemli olduğu üzerine inşa edilmiştirprogramı. Burada yaptığımız işin kalbi bu. Yılda bir trilyon dolarlık Apple Ar-Ge'sini elimde tutuyorum ve "Bu telefon yedili" diyorum. Ve bu, başka yerlerdeki tüm haberlerimizi ve fikirlerimizi bir nevi meşrulaştırıyor. Değerlendirme işlevimiz var ve sadece yapay zeka ürünlerine bakıp "İşe yarıyorlar mı?" diyerek çok fazla zaman harcıyoruz.
Bugün olduğu gibi yapay zeka hakkındaki birçok konuşmada bu eksikmiş gibi geliyor. Neler yapabileceği, ne kadar tehlikeli olabileceği konusunda bitmek bilmeyen konuşmalar var. Ve sonra detaya iniyorsunuz ve "Bugün yapması gereken şeyi gerçekten yapıyor mu?" diyorsunuz. Bazı durumlarda cevap evettir. Ancak pek çok durumda cevap hayırdır.
Bu, tanımladığınız yutturmaca kültürüyle bağlantılıymış gibi geliyor ve aynı zamanda şu anlama da geliyor: Bir şeyin yapacağını söylüyorsanız ama yapmıyorsa ve biri kendini kötü hissediyorsa bunda sorun yok, çünkü bir sonraki şeye geçiyoruz. Bu geçmişte kaldı. Sam, özellikle yapay zeka konusunda büyük sözler verme konusunda çok başarılı.
Daha bu hafta, sanırım hikayenizin yayınlandığı gün OpenAI, sosyal sözleşmeyi yeniden düşünmemiz gerektiğini ve hükümetten yapay zeka verimliliği maaşları almamız gerektiğini söyleyen bir politika belgesi yayınladı. Bu, bazı teknolojilerin dünyanın geleceğini ve nasıl yaşadığımızı nasıl şekillendirebileceğine dair büyük bir vaattir ve bunların hepsi teknolojinin tam olarak vaat edildiği veya çalışması gerektiği şekilde çalışmasına bağlıdır.
Sam'in yapay zekanın yapay zekaya veya süper zekaya dönüşmesinden veya bitiş çizgisine ulaşmasından şüphe ettiğini hiç gördünüz mü? Çünkü en çok merak ettiğim şey bu. Bu çekirdek teknolojinin yapabileceğini söyledikleri her şeyi yapıp yapamayacağına dair herhangi bir düşünce var mı?
Tam olarak doğru soru seti. Bu raporda konuştuğumuz güvenilir teknoloji uzmanları var ve açıkçası Sam Altman onlardan biri değil; o bir iş adamı; Sam'in bu teknolojinin zaman çizelgesi hakkında konuşma şeklinin çok uzak olduğunu söylüyor. Sam'in birkaç yıl öncesine dayanan blog yazıları var: "Olay ufkuna zaten ulaştık. YGZ temelde burada. Süper zeka çok yakında. Diğer gezegenlerde olacağız. Her türlü kanseri tedavi edeceğiz." Aslında süsleme yapmıyorum.
Kanser meselesi aslında ilginç; Sam, teorik olarak köpeğinin kanserini ChatGPT ile tedavi eden kişiyi heyecanlandırıyor ve bu kesinlikle olmadı. ChatGPT ile konuştular ve bu, işi gerçekten yapan bazı araştırmacılara rehberlik etmelerine yardımcı oldu, ancak bu aracın bu köpeği iyileştirdiği bire bir hikaye aslında bu değil.
Bu konuyu gündeme getirmenize sevindim çünkü teknolojinin hem potansiyelinin hem de riskinin gerçekten ne zaman ortaya çıkacağıyla ilgili bu daha büyük noktaya geçmek istiyorum. Ancak bu özelliği yeniden somutlaştırdığı görünen Sam Altman'ın sürekli başına gelen bu küçük yanlarından bahsetmeye değer.
Demek istediğim, WilmerHale raporu örneğini kullanacak olursak, bu bilginin yazı dışında tutulduğu ve sözlü brifingin, Sam'in denetlemesi için kurulmasına yardım ettiği iki kurul üyesi dışında herhangi birine verilip verilmediğini bilmek istediğimiz yer. O da şöyle dedi: "Evet, evet, hayır, bunun daha sonra kurula katılan herkese verildiğine inanıyorum." Ve durumla ilgili doğrudan bilgisi olan bir kişi bunun sadece bir yalan olduğunu söylüyor. Ve bu gerçekten de doğru değilmiş gibi görünüyor. Cömert olmak istiyorsak belki de yanlış bilgilendirilmiştir.
Bu gündelik güvencelerin birçoğu var. Ve bu örneği kısmen kullanıyorum çünkü bu, yasal olarak gerçek sonuçları olabilecek, yalan söylemenin harika bir örneğidir. Delaware şirketler hukuku uyarınca, eğer bu şirketin halka arzı gerçekleşirse, hissedarların bölüm 220 uyarınca bu konuda şikayette bulunabileceğini ve temel belgeleri talep edebileceğini size söylememe gerek yok. Halihazırda “Durun bir dakika, o brifingin gerçekleşmesi gerekirdi” diyen yönetim kurulu üyeleri var.
Yani her zaman ağzından fırlıyormuş gibi görünen bu şeylerin piyasayı harekete geçirecek gerçek etkileri olabilir, OpenAI için gerçek etkileri olabilir. Konuyu yeniden su yüzüne çıkan ütopik abartılı dile geri getirirsek, sanırım bu eserin çıktığı gün tesadüf değil, aynı zamanda hepimizi de etkiliyor, çünkü tehlikeler onun gidişatına göre çok şiddetli.Silahlarda kullanılması, kimyasal savaş ajanlarını tanımlamak için kullanılma şekli, dezenformasyon potansiyeli ve ütopik abartılı reklamın pek çok güvenilir ekonomisti "Bunda bir balonun tüm işaretleri var" demeye sevk etmesi nedeniyle.
Sam Altman bile "Burada birileri çok para kaybedecek" dedi. Tüm bu şirketlerin birbirleriyle anlaşma yapmasını, bu kadar ağır borç alırken yapay zekaya yönelmesini içeren gerçek bir balonun delinmesi gibi bir şey varsa, bu gerçekten Amerika ve küresel ekonomik büyümenin büyük bir kısmını etkileyebilir. Yani Sam Altman'ın söyledikleri önemli ve bence onun etrafındaki insanların çoğunluğu, yüzden fazla kişiyle konuştuğumuzu söylemiştiniz, aslında yüzün çok üzerindeydi. Bitiş çizgisinde şöyle bir konuşma yaptık: "Bunun çok daha yüksek bir rakam olduğunu söylemek çok önemsiz olur mu?" Biz de "Evet, önemsiz gibi davranalım. Sakin davranacağız" dedik. Ama o kadar çok insan vardı ki, onların önemli bir çoğunluğu "Bu bir endişe" diyordu. Ve bence tüm nedeni bu.
Bu rakamı size sorayım. Bahsettiğiniz gibi, insanlar zaman geçtikçe endişelerini giderek daha açık bir şekilde dile getirmeye başladı. Balonun etrafındaki baskı (kazanma, tüm bu yatırımın karşılığını ödeme, kazanan olarak ortaya çıkma ve halka arz etme yarışı) pek çok tutumu değiştirmiş gibi görünüyor. Kesinlikle Sam ve OpenAI üzerinde daha fazla baskı yarattı.
Bu hafta OpenAI'nin titreşimleriyle ilgili bir hikaye yayınladık. Hikayeniz bunun bir parçası, ancak OpenAI'deki yönetici kademelerinde büyük personel değişiklikleri var; insanlar gelip gidiyor. Araştırmacıların hepsi, büyük ölçüde Antropik'e yöneliyor ki bence bu gerçekten ilginç. Bu şirketin baskıyı hissettiğini ve bir şekilde bu baskıya yanıt verdiğini görebilirsiniz.
Ama sonra Sam'in kovulduğu aklıma geldi. Bu benim için sadece unutulmaz. Kimse için unutulmaz bir olay ama cuma günü saat 19.00'da Bronx Hayvanat Bahçesi'nden bir kaynakla görüştüm ve birisi Sam'i geri almaya çalışacağını söyledi. Ve sonra hafta sonunu bu hikayeyi araştırarak geçirdik. Ben de "Hayvanat bahçesindeyim. Burada ne yapmamı istiyorsun?" Cevap şuydu: "Telefonda kalın." Kızım "Telefonu kapat" dedi. Ben de öyle yaptım.
Sam'i geri almak ya sürmek ya da ölmekti. Bu şirket şöyle dedi: "Hayır, yönetim kurulunun Sam Altman'ı kovmasına izin vermiyoruz." Yazınızda alıntılanan yatırımcılar, "Savaşa gittik", sanırım Thrive Capital'in pozisyonu, "Sam'i geri almak için." Microsoft, Sam'i geri almak için savaşa girdi. Daha sonra oldu ve şimdi herkes şöyle diyor: "Halka arza gidiyoruz. Bitiş çizgisine ulaştık. Adamımızı geri aldık ve o bizi bitiş çizgisine götürecek. Onun bir yalancı olduğundan endişeleniyoruz."
O zaman onu geri almak neden bir savaştı? Çünkü aslında hiçbir şey değişmemiş gibi görünüyor. Ilya Sutskever ve [Anthropic CEO'su] Dario Amodei'nin, Sam Altman'ın çağdaşlarıyken sakladıkları notlardan bahsediyorsunuz. Ilya'nın bir numaralı endişesi Sam'in yalancı olmasıydı.
Bunların hiçbiri değişmedi. Peki onu geri getirmek neden savaştı? Artık bitiş çizgisine geldiğimize göre tüm endişeler açığa çıkmış gibi görünüyor.
Öncelikle kızınızdan, ortağımdan ve gazetecilerin etrafındaki tüm insanlardan özür dilerim.
[Gülüyor] Herkes için güzel bir hafta sonuydu.
Evet, insanın hayatını ele geçiriyor ve bu hikaye kesinlikle son dönemde benimkini de kapsıyor. Bunun aslında gazetecilik ve bilgiye erişim temasıyla ilgili olduğunu düşünüyorum. Sam için savaşa giren yatırımcılar ve hepsi onun geri dönmesinde rol oynadılar ve kar amacı gütmeyen bir kuruluşun büyümeyi güvenliğin önüne koyma misyonunu korumak ve bu konuda kendilerine güvenilmezse bir yöneticiyi kovmak için özel olarak tasarlanmış yönetim kurulu gittiler. Hepsinin nedeni, evet, piyasa teşviklerinin mevcut olmasıydı, değil mi?
Sam insanları "Şirket dağılacak" diye ikna etmeyi başardı. Ancak destek almasının nedeni bilgi eksikliğiydi. Bu yatırımcılar çoğu durumda artık şöyle diyor: "Geriye dönüp baktığımda, iddiaların ve endişelerin ne olduğunu tam olarak bilseydim sanırım daha fazla endişeye sahip olurdum."
Hepsi değil;Görüşler farklılık gösteriyor ve çeşitli görüşlerden alıntı yapıyoruz, ancak çok kısmi bilgilere dayanarak hareket eden önemli görüşler var. Sam'i kovan kurul, eskiden kurulda olan bir kişinin ifadesiyle, "çok ortak girişim" idi ve onlar topu sert bir şekilde beceremediler. Ve altta yatan şikayetleri belgeliyoruz ve insanlar bunun, hissettikleri acil endişeye dönüşüp dönüşmediğine kendileri karar verebiliyorlar, ancak bu argüman ve bu bilgi sunulmuyordu.
Bazılarının artık kötü yasal tavsiye olarak kabul ettiği şeyi aldılar. Bunu açıklamak için, alıntıyı hatırlayacaksınız ve muhtemelen birçok dinleyiciniz ve izleyiciniz de alıntıyı samimiyet eksikliği olarak hatırlayacaktır. Bu duruma düşürüldü ve aslında çağrıları kabul etmiyorlardı.
Aramaları kabul etmiyorlardı. Eminim denemişsindir. Tanıdığım herkes denedi ve durum öyle bir noktaya geldi ki, bir gazeteci olarak kaynaklarınıza tavsiyede bulunmamanız gerekiyor ama ben şöyle dedim: "Kendinizi açıklamaya başlamazsanız bu ortadan kalkacaktır."
Ve olan da buydu. Gazetecileri unutun. Satya Nadella'ya "Ne oldu? Kimsenin bana açıklama yapmasını sağlayamıyorum" dediniz. Ve bu şirketin en büyük mali destekçisi. Sonra Satya'nın [LinkedIn kurucu ortağı] Reid Hoffman'ı ve Reid'in arayıp "Ne olduğunu bilmiyorum" dediğini görüyorsunuz.
Anlaşılır bir şekilde bu bilgi eksikliği içindeler ve bu kadar acil, ani bir işten çıkarmayı haklı çıkaracak geleneksel yapay zeka olmayan göstergeleri arıyorlar. Tamam, seks suçları mıydı? Zimmete para geçirme miydi? Ve bu teknolojinin farklı olduğu ve bu tür istikrarlı bir şekilde küçük ihanetlerin birikmesinin hem bu iş hem de belki dünya için anlamlı çıkarları olabileceği yönündeki tüm ince ama bence anlamlı argüman büyük ölçüde kayboldu. Yani kapitalist teşvikler galip geldi ama aynı zamanda bunu yapan insanlar da dışarı çıktı ve her zaman tam bilgiyle hareket etmediler.
Bir anlığına “herkesin ne düşündüğünü” sormak istiyorum çünkü haberi kesinlikle gördüm ve “Ah, kötü bir şey olmuş olmalı” dedim. Çok sayıda #MeToo haberciliği yaptınız. Harvey Weinstein hikayesini ortaya çıkardın.
Nihayetinde asılsız olduğuna karar verdiğiniz bu iddiaları bildirmek için çok zaman harcadınız: Altman'ın reşit olmayanlara cinsel saldırıda bulunduğu veya seks işçilerini işe aldığı, hatta bir OpenAI ihbarcısını öldürdüğü. Yani bu şeyleri en titiz şekilde raporlayabilecek kişi sizsiniz. Hiçbir şeyin olmayacağına mı karar verdin?
Bakın, bir şeyin boşa çıktığını söyleme işinde değilim. Söyleyebileceğim şu ki, bu iddiaları aylarca inceledim ve doğrulanacak bir kanıt bulamadım. Geleceğimiz üzerinde çok fazla güce sahip olan bu adamların, bu şirketlerin gerçekten de zamanlarının ve kaynaklarının orantısız bir kısmını çocukça bir çamur mücadelesine harcamaları bana çok çarpıcı geldi.
Yöneticilerden biri bunu “Shakespeare tarzı” olarak tanımlıyor. Özel dedektif parasının miktarı ve derlenen muhalefet dosyaları acımasızdır. Ve talihsiz olan şey, Sam'in rakipleri tarafından tekrarlanan müstehcen şeylerin sadece gerçek olduğu varsayılması, değil mi? Reşit olmayan erkek çocukların peşine düştüğüne dair bir iddia var ve bunu Silikon Vadisi'ndeki birçok kokteyl partisinde duyuyorsunuz. Konferansta, güvenilir ve önde gelen yöneticilerin şunu tekrarladığını duydum: "Bunun bir gerçek olduğunu herkes biliyor."
Üzücü olan şey ise bunun nereden geldiğinden, bulaştığı çeşitli vektörlerden bahsediyorum. Elon Musk ve ortakları görünüşte hiçbir işe yaramayacak kadar sert dosyalar hazırlıyorlar. Temel iddialara gerçekten bakmaya başladığınızda buharlaşıyorlar. Üzücü olan şey, burada gerçekten acil gözetim ve değerlendirmeyi hak ettiğini düşündüğüm daha fazla kanıta dayalı eleştiriyi gerçekten gölgede bırakması.
Hikayede gerçekten ortaya çıkan diğer tema, Sam'in çok fazla arkadaşı olmasından kaynaklanan neredeyse korku duygusudur - Y Combinator'ın CEO'su olarak önceki görevinden kişisel yatırımlarına kadar pek çok şirkete yatırım yapmıştır, bunlardan bazıları OpenAI CEO'su rolüyle doğrudan çelişmektedir - ve çevresinde sessizlik vardır.
Özellikle bir satırı okurken dikkatimi çekti. Ilya Sutskever'in notlarını anlatıyorsunuz ve bunlar Silikon Vadisi'nde. Herkesbunlara İlya notları diyor. Ama bunun etrafında bile sessizlik var. Bunlar aktarılıyor ama tartışılmıyor. Bunun nereden geldiğini düşünüyorsun? Korku mu? Melek yatırım alma arzusu mu? Bu nereden geliyor?
Bence bu büyük bir korkaklık, dürüst olacağım. Kaynakların, her şeyini kaybedecek ve kovuşturmayla karşı karşıya kalacak muhbirler olduğu ulusal güvenlik hikayelerini haberleştirmiş olsalar da, yine de doğru olanı yapıyorlar ve hesap verebilirlik yaratacak şeyler hakkında konuşuyorlar. Bahsettiğiniz, kaynakların derinden travmatize olduğu ve çok kişisel türden bir intikamdan korktuğu seks suçlarıyla ilgili hikayeler üzerinde çalıştım.
Bu ritim etrafında birçok durumda, kendi profilleri ve güçleri olan insanlarla uğraşıyorsunuz. Ya kendileri ünlü insanlardır ya da etrafı ünlü kişilerle çevrilidir. Sağlam bir iş hayatları var. Benim görüşüme göre, onların bu konular hakkında konuşması aslında çok düşük bir maruziyet. Ve şükürler olsun ki, daha önce konuştuğumuz gibi ibre hareket ediyor ve insanlar artık daha çok konuşuyor.
Ancak bu kadar uzun bir süredir insanlar bu konuda gerçekten susuyor çünkü Silikon Vadisi kültürünün acımasızca kişisel çıkarlara dayalı ve acımasızca iş ve büyüme odaklı olduğunu düşünüyorum. Sanırım bu, Sam'in kovulmasına karışan bazı insanları bile etkiliyor, sonraki günlerde gördüğünüz gibi, evet, onun geri dönmesine ve eski yönetim kurulu üyelerinin kovulmasına neden olan faktörlerden biri, kendi davasıyla kafası karışan yatırımcıları bir araya toplamasıydı.
Ancak bir diğeri, etrafta endişeleri olan ve bunları acilen dile getiren pek çok insanın peçete gibi katlanıp rüzgarın ters yönden estiğini gördükleri anda melodilerini değiştirmeleri ve kâr trenine dahil olmak istemeleridir.
Dürüst olmak gerekirse, bir muhabir olarak benim bakış açıma göre oldukça karanlık.
Bu insanlardan bazıları, sanırım 20 dakikalığına OpenAI'nin yeni CEO'su olan Mira Murati'dir. Daha sonra değiştirildi. Bu çok karmaşık bir dinamikti ve belli ki Sam geri döndü. Diğer kişi ise Sam'i görevden alan oylardan biri olan ve sonra fikrini değiştiren ya da en azından fikrini değiştirdiğini söyleyen ve ardından kendi şirketini kurmak için ayrılan Ilya Sutskever'dir. Fikrini değiştirmesine neyin sebep olduğunu biliyor musun? Sadece para mıydı?
Açık olmak gerekirse, bu ikisini ayırmıyorum. Ateşleme olayına karışan ve sonrasında tamamen sessiz kalan başka yönetim kurulu üyeleri de var. Bunun daha geniş kolektif bir sorun olduğunu düşünüyorum. Bunlar, bazı durumlarda alarm verecek ve radikal eylemlerde bulunacak ahlaki yapıya sahip kişilerdir ve bu da övgüye değerdir. Ve bu şekilde hesap verebilirliği garanti altına alırsınız. Bu, bu teknolojiden etkilenen birçok insana yardımcı olabilirdi. Bu, bir sektörün daha anlamlı bir şekilde güvenlik odaklı kalmasına yardımcı olabilirdi.
Ancak ihbarcılarla ve bu sorumluluğu çok fazla teşvik etmeye çalışan insanlarla uğraşırken, aynı zamanda bunu ortaya koymanın ve inançlarınızın arkasında durmanın da gerekli olduğunu görüyorsunuz. Ve bu sektör gerçekten de inançlarının arkasında durmayan insanlarla dolu.
Her ne kadar bir şekilde ya tüm emeği ortadan kaldıracak ya da daha fazla emek yaratacak dijital bir Tanrı inşa ettiklerini, yoksa bir şeyler olacağını düşünseler de.
İşte olay bu. Dolayısıyla, iş dünyasındaki duruşunuzu tehdit edebilecek herhangi bir sıcaklık veya herhangi bir şey olduğunda, inançlarınızın ve tüm etik kaygılarınızın bir kenara bırakılması kültürü, her ne tür bir alet üreten, her zamanki gibi iş yapan şirketler için bir dereceye kadar gayet iyi ve iyidir.
Ama bunlar aynı zamanda "Bu kelimenin tam anlamıyla hepimizi öldürebilir" diyenlerle aynı kişiler. Ve yine söylüyorum, Terminatör Skynet'in uç noktalarına gitmenize gerek yok. Halihazırda gerçekleşmeye başlayan bir dizi risk var. Bu gerçektir ve bu konuda uyarmakta haklılar, ancak bu iki şeyin aynı insanlarda nasıl yaşayabileceğini, acil uyarıları seslendirdikleri, belki ayak parmaklarını sokup bir şeyler yapmaya çalıştıkları ve sonra sadece katlanıp sessiz kaldıkları bir yerde başka birinin koltukta psikolojik analiz yapması gerekir.
İşte tam da bu yüzden bu tür olaylar yazılmaz, halı altına süpürülür ve yıllar sonra kimse bu kadar açık konuşmaz.
Buradaki doğal sorumlu taraf bu şirketlerin CEO'ları olmayacaktır; hükümetler olurdu. Amerika Birleşik Devletleri'nde belkieyalet hükümetleri, belki federal hükümet.
Elbette bu şirketlerin hepsi küresel olmak istiyor. Burada pek çok küresel sonuç var. OpenAI, Google ve Anthropic'in Biden yönetimini bir AI idari emri yayınlamaya kışkırtmasını izledim. Sonunda oldukça dişsizdi. Sadece modellerinin neler yapabileceği hakkında konuşmaları ve bazı güvenlik testleri yayınlamaları gerektiğini söyledi. Sonra hepsi Trump'ı destekledi ve Trump gelip tüm bunları ortadan kaldırdı ve şöyle dedi: "Rekabetçi olmalıyız. Bu herkes için bedava. Devam edin."
Aynı zamanda hepsi petrol parası bol olan ve ekonomilerini değiştirmek isteyen Orta Doğu ülkelerinden fon toplamaya çalışıyor. Bunlar politikacılar. Politikacıların, birisinin ağzının her iki tarafından da konuştuğunu kesinlikle anlamaları gerektiğini düşünüyorum ve sonunda birisi hayal kırıklığına uğrarsa çok fazla üzülmeyecekler, ancak politikacılar da oyuna getiriliyor. Sizce neden öyle?
Bana göre bu parçanın neden önemli olduğu ve üzerinde bu kadar zaman ve ayrıntı harcamaya değer olmasının nedeni de bu sanırım. Dediğiniz gibi denetimi sağlaması gereken sistemlerin içinin boşaltıldığı bir ortamdayız. Bu, para akışının bu kadar serbest olduğu, Vatandaşlık Sonrası Birleşik Amerika'dır ve bu sorunun özellikle yapay zeka etrafında yoğunlaşması, burada çoğalan ve hem eyalet hem de federal düzeyde anlamlı düzenlemeleri bozmak için para akıtan PAC'lerin olduğu yer.
Sam'in ikinci komutanı olan [OpenAI kurucu ortağı] Greg Brockman bunlardan birkaçına doğrudan önemli bir şekilde katkıda bulunuyor. Bu, yasa koyucuların ve potansiyel düzenleyicilerin gerçekten yakalandığı ve içinden çıkılması zor bir sarmal olan bir duruma yol açıyor. Üzücü olan şu ki, bu hesap verebilirlik sorunlarının bazılarına yardımcı olabilecek, bazıları dünyanın başka yerlerinde denenen basit politika hamlelerinin olduğunu düşünüyorum.
Daha fazla zorunlu dağıtım öncesi güvenlik testine sahip olabilirsiniz; bu, Avrupa'da öncü modeller için halihazırda gerçekleşen bir şeydir. Bu vakada bazı şeylerin yazıdan uzak tutulduğunu gördüğümüz dahili soruşturma türleri için daha katı yazılı kamu kayıt gereksinimleriniz olabilir. Sam Altman'ın öne sürdüğü Orta Doğu altyapı hedefleri için daha sağlam bir dizi ulusal güvenlik inceleme mekanizmasına sahip olabilirsiniz.
Sizin de söylediğiniz gibi, Biden yönetimine bu yemi ve değişimi yapıyor, "Bizi düzenleyin, bizi düzenleyin" diyor ve bir idari emir hazırlamalarına yardım ediyordu ve ardından Trump devreye girdiği anda, gerçekten de ilk günlerde, hiçbir engele girmiyor, "Hızlanalım ve Abu Dabi'de devasa bir veri merkezi kampüsü inşa edelim." Yapabilirdin, bu gerçekten basit bir şey, ihbarcı koruması gibi. Bu yazıda yayınlanan bu tür güvenlik endişelerini açıklayan yapay zeka şirketi çalışanlarını koruyan bir federal yasa yok.
OpenAI'de kıdemli güvenlik görevlisi olan Jan Leike'nin şirkette süper hizalamaya liderlik ettiği vakalar var. Yönetim kuruluna, şirketin güvenlik misyonunda raydan çıktığını söyleyen, esas olarak ihbar malzemesi niteliğinde bir yazı yazıyor. Bunlar aslında gidebilecekleri bir denetim organına sahip olması gereken türden insanlardır ve diğer sektörlerde gördüğümüz türde açık yasal korumalara sahip olmaları gerekir. Bu, Sarbanes-Oxley tarzı bir rejimi kopyalamak için basittir.
Silikon Vadisi'nin tüm güç araçlarının kontrolünü üstlenmesi sorununun ne kadar ciddi olduğuna ve gözetim ve korkuluk sağlayabilecek bu kurumların bazılarının içi ne kadar boşaltılmış olsa da, hâlâ demokrasinin ve çıkarcı politikacıların temel matematiğine inanıyorum. Ve Amerikalıların çoğunluğunun yapay zekanın endişelerinin, sorularının veya risklerinin şu anda faydalarından daha ağır bastığını düşündüğüne dair giderek daha fazla anket verisi ortaya çıkıyor.
Bence yapay zekadan siyasete para akışı, bunu politikacılar açısından bir soru işareti kaynağı haline getirmek bizim elimizde. Amerikalılar oy vermeye gittiğinde, oy verdikleri kişilerin, özellikle de eleştirel olmayan ve düzenleme karşıtı kişilerse, tüm bu endişeler göz önüne alındığında, büyük teknoloji özel çıkarları tarafından finanse edilip edilmediğini incelemeleri gerekiyor. Bence insanlar bunun gibi parçaları okuyabilir, bunun gibi podcast'leri dinleyebilir ve eleştirel düşünebilecek kadar önemseyebilirlerseSeçmen olarak kararlarını verirken, Washington'da göz kulak olan ve denetimi zorlayan temsilcilerden oluşan bir seçim bölgesi oluşturmak için gerçek bir fırsat var.
Bu, mevcut yapay zeka endüstrisi hakkında şimdiye kadar birinin söylediğini duyduğum en iyimser şeylerden biri olabilir. Bunu takdir ediyorum. Bahsettiğiniz ankete takıldım. Artık ondan çok var. Her şey oldukça tutarlı ve öyle görünüyor ki, özellikle gençler yapay zekaya ne kadar çok maruz kalırsa, bu konuda o kadar güvensiz ve öfkeli oluyorlar. Tüm oylamaların değeri budur. Şuna bakıyorum ve düşünüyorum ki, evet, akıllı politikacılar buna karşı çıkacaktır. Sadece "Büyük teknolojiyi sorumlu tutacağız" derlerdi.
Sonra son 20 yılı düşünüyorum, bir politikacı büyük teknolojiyi sorumlu tutacaklarını söylüyor ve ben büyük teknolojinin bir an bile sorumlu tutulduğunu bulmakta zorlanıyorum. Bana bunun farklı olabileceğini düşündüren tek şey, aslında veri merkezlerini inşa etmeniz gerekiyor ve buna karşı oy kullanabilirsiniz, buna karşı dilekçe verebilirsiniz ve buna karşı protesto yapabilirsiniz.
Sanırım bir veri merkezine oy verdiği için evi vurulan bir politikacı var. Gerginlik, ben buna ateşli bir seviyeye ulaşıyor. Silikon Vadisi'nin dar görüşlülüğünü anlattınız. Bu kapalı bir ekosistemdir. Sanki dünyayı yönetebileceklerini sanıyorlar. Politikaya tonlarca para yatırıyorlar ve insanların ürünleri sevmediği gerçeğiyle karşı karşıya kalıyorlar, bu da onlara pek fazla kılıf sağlamıyor. Ürünleri ne kadar çok kullanırlarsa o kadar üzülüyorlar ve politikacılar, teknoloji endüstrisini temsil ettikleri insanlar üzerinden desteklemenin gerçek sonuçları olduğunu görmeye başlıyorlar.
Pek çok insanla konuştun. Teknoloji sektörünün önlerindeki dersi öğrenmesinin mümkün olduğunu düşünüyor musunuz?
Sorumluluk almadan dünyayı yönetebileceklerini düşündüklerini söylüyorsunuz. Bunun "gibi hissettiriyor" niteleyicisine ihtiyacı olduğunu bile düşünmüyorum. Yani Peter Thiel'in kullandığı dile bakıyorsunuz, bu çok açık. Elbette bu uç bir örnek. Ve Sam Altman, Thiel'in ideolojisine bir ölçüde yakın ve ondan bilgi sahibi olmasına rağmen, kulağa farklı ve bir noktaya kadar daha ölçülü gelebilecek, çok farklı türde bir insan.
Ancak Thiel'den alacağınız daha geniş ideolojinin temelde şu olduğunu düşünüyorum: Demokrasiyle işimiz bitti, artık ona ihtiyacımız yok. O kadar çok şeyimiz var ki, kendi küçük sığınaklarımızı inşa etmek istiyoruz. Artık kötü adam oldukları Carnegie'lerle ya da Rockefeller'larla uğraşmıyoruz ama onlar bir toplumsal sözleşmeye katılmaları ve insanlar için bir şeyler inşa etmeleri gerektiğini düşünüyorlar. Ortada gerçek bir nihilizm var.
Ve ben bunun, onları sorumlu tutabilecek demokratik kurumların içi boşalırken, imparatorların ve özel şirketlerin süper hükümet gücü elde etmesiyle dolu yakın Amerikan tarihinde karşılıklı olarak güçlenen bir sarmal olduğunu düşünüyorum. Bu adamların bir gün uyanıp şöyle düşünebilecekleri fikri konusunda iyimser değilim: "Hah, aslında belki de topluma katılmaya ve insanlar için bir şeyler inşa etmeye yardım etmeye ihtiyacımız var."
Demek istediğim, bir zamanlar hayırseverlik gibi görünen ve o anın artık geçmişte kaldığı ve hatta alay konusu olduğu The Giving Pledge'in mikrokozmik örneğine bakıyorsunuz. Bu bir sorun, daha geniş bir sorun olan sorumluluk eksikliğinin yalnızca dışsal olarak çözülebileceğini düşünüyorum. Bu, seçmenlerin hükümet gözetim gücünü harekete geçirmesi ve yeniden diriltmesi olmalıdır. Ve insanların bunu başarabileceği ana vektörün yerel olduğunu söylerken kesinlikle haklısın. Altyapının nerede inşa edildiğiyle alakalı.
Bu konuyla ilgili şiddete ve tehditlere yol açan akkor gerilimin bir kısmından bahsettiniz ve tabii ki hiç kimse şiddet kullanmamalı veya tehdit etmemeli. Ayrıca, temel görünen ve dünyanın başka yerlerinde işe yarayan bazı politika adımlarını sunmak dışında spesifik politika önerilerinde bulunmak için de burada değilim, değil mi? Ya da başka sektörlerde çalışmış olanlar. Bunlardan hangisinin ve nasıl infaz edilmesi gerektiğini söylemek için burada değilim.
Bir şeyin olması gerektiğini düşünüyorum ve bunun sadece bu şirketlere güvenmek değil, dışarıdan da olması gerekiyor. Çünkü doğruArtık teknolojiyi geliştiren ve riskleri en iyi anlayacak donanıma sahip olan ve aslında bizi riskler konusunda uyaran şirketlerin aynı zamanda hızlı gitme ve bu riskleri görmezden gelme teşvikinden başka hiçbir şeyi olmayan şirketler olduğu bir durumla karşı karşıyayız. Ve bunu dengeleyecek hiçbir şeyin yok. Dolayısıyla, ayrıntılar açısından ne tür reformlar olursa olsun, buna karşı bir şeylerle karşılaşılması gerekiyor. Ve yine de insanların hala önemli olduğu yönündeki iyimserliğe geri dönüyorum.
Genelde argümanınızı kabul ediyorum. İfade edebileceğimi düşündüğüm küçük bir karşı argümanı dile getirmeme izin verin. Sandık dışında olabilecek diğer şey de balonun patlaması değil mi? Bu şirketlerin hepsinin bitiş çizgisine ulaşamaması ve tüketici yapay zeka uygulamalarına uygun ürün pazarının bulunmaması. Tekrar ediyorum, bunu henüz tam olarak göremiyorum ama ben bir tüketici teknolojisi eleştirmeniyim ve belki de herkesten daha yüksek standartlara sahibim.
İş dünyasına uygun bir ürün pazarı var, değil mi? Bir grup yapay zeka temsilcisinin bir dizi yazılım yazması, bu araçlar için gerçek bir pazar gibi görünüyor. Ve bu şirketlerin şu argümanlarını okuyabilirsiniz: "Kodlamayı çözdük, bu da her şeyi çözebileceğimiz anlamına geliyor. Yazılım yapabilirsek her sorunu çözebiliriz."
Yazılımın yapabileceklerinin gerçek sınırları olduğunu düşünüyorum. İş dünyasında bu harika. Yazılım gerçekte her sorunu çözemez, ancak oraya varmaları gerekir. İşi bitirmeleri gerekiyor ve belki de herkes bitiş çizgisine ulaşamayabilir. Ve bir çöküş olur ve bu balon patlar ve belki OpenAI, Anthropic veya xAI, bu şirketlerden biri başarısız olur ve tüm bu yatırımlar boşa gider.
Bunun bunu etkileyeceğini düşünüyor musunuz? Aslında önce ilk soruyu sorayım. OpenAI bir halka arzın eşiğinde. Sam'in lider olduğuna dair pek çok şüphe var. Bitiş çizgisine ulaşabileceklerini mi sanıyorsunuz?
Tahminde bulunmayacağım, ancak önemli bir noktaya değindiğinizi düşünüyorum; piyasa teşviklerinin Silikon Vadisi için önemli olduğu ve mevcut balon dinamiklerinin istikrarsızlığının, eleştirmenlere göre yine potansiyel olarak güvenlik konusunda dibe doğru yarışı sekteye uğratacağı.
Buna şunu da eklemek isterim ki, benzer ve aşılmaz görünen bir dizi piyasa teşvikinin ve halk için potansiyel olarak zararlı etkilerin olduğu tarihsel geçmişe bakarsanız, etki davaları vardır. Ve bunu son zamanlarda endişe verici bir alan olarak görüyorsunuz. Sam Altman bu hafta yapay zeka şirketlerini OpenAI'nin haksız ölüm davalarında maruz kaldığı bazı sorumluluk türlerinden koruyacak yasayı onaylıyor. Elbette sorumluluktan korunmak için bir arzu var.
Mahkemelerin hala anlamlı bir mekanizma olabileceğini düşünüyorum ve bu davaların nasıl şekillendiğini görmek gerçekten ilginç olacak. Örneğin benim ve tanıdığım pek çok başka yazarın da üyesi olduğu Anthropic'e telif hakkı kapsamındaki kitapları kullanmaları nedeniyle açılan toplu davayı zaten gördünüz. Tarihsel olarak büyük tütünden büyük enerjiye kadar birçok vakada gördüğümüz gibi, umursayan akıllı yasal beyinler ve davacılar varsa, yavaşlamak, dikkatli olmak veya insanları bu şekilde korumak için bazı korkuluklar ve bazı teşvikler de alabilirsiniz.
Yapay zeka endüstrisinin tüm maliyet yapısının, adil kullanımın çok ama çok hayırsever bir yorumuna bağlı olduğu anlaşılıyor. Yeterince gelmiyor. Bu şirketlerin maliyet yapısı, size ve işini aldıkları herkese ödeme yapmak zorunda kalırlarsa kontrolden çıkabilir, ancak bunu düşünmek sakıncalıdır, bu yüzden bunu düşünmüyoruz. Hemen yanı sıra bu ürünlerin hepsi artık zararına çalışıyor. Bugün olduğu gibi, hepsi kayıplara karışıyor. Kazanabileceklerinden daha fazla para harcıyorlar. Bir noktada anahtarı çevirmeleri gerekiyor.
Sam bir iş adamıdır. Birkaç kez bahsettiğiniz gibi o bir teknoloji uzmanı değil. O bir iş insanı. Sizce düğmeyi çevirip "Bir dolar kazanacağız" demeye hazır mı? Çünkü sorduğumda, "Sizce OpenAI bunu başaracak mı?" Bir dolar kazanmaları gerektiği zamandır. Ve şu ana kadar Sam, şirketlerinin para kazanması yerine, diğer insanlardan para isteyerek tüm parasını kazandı.
Bu Silikon Vadisi, yatırımcılar ve halk için uzun süredir devam eden büyük bir soru.OpenAI'den bu konuda bir tür paniğe işaret eden bazı açıklamalar ve hamleler görüyorsunuz. Sora'yı kapatmak, bazı yardımcı projeleri kapatmak, ana ürüne odaklanmaya çalışmak. Ama öte yandan, aynı zamanda tonlarca görevin süründüğünü de görüyorsunuz, değil mi? Küçük bir örnek bile (bu açıkça onların işinin özü değil) TBPN'nin satın alınmasıdır.
Bu arada, tam bitiş çizgisine ulaşıp gerçekleri kontrol ederken, bu tür bir gazetecilik incelemesiyle karşı karşıya kalan şirket, konuşma üzerinde daha doğrudan kontrole sahip olabilecekleri bir platform ediniyor. Yaptığım görüşmelere dayanarak, herkese her şeyi vaat etme sorununun aynı zamanda temel iş modelindeki odaklanma eksikliğine de yansıdığından endişe duyan pek çok yatırımcının olduğunu düşünüyorum. Demek istediğim, sen piyasayı tahmin etmeye ve izlemeye muhtemelen benden daha yakınsın. OpenAI'nin düğmeyi çevirip çeviremeyeceğini düşünüp düşünmediklerini size ve dinleyicilere bırakıyorum.
Bu soruyu sordum çünkü yazıda üst düzey bir Microsoft yöneticisinden bir alıntı var ve o da şu: "Sam'in mirası Steve Jobs'tan ziyade Bernie Madoff'a veya Sam Bankman-Fried'a daha çok benzeyebilir." Bu tam bir karşılaştırma. Bu karşılaştırmadan ne anladınız?
Bunun bir açıklama olduğunu düşünüyorum. Steve Jobs kısmı alıntının bir parçası değildi. Ancak bunda ilginç bir ağırbaşlılık da var çünkü şu şekilde ifade ediliyor: "Bence onun bir SBF veya Madoff düzeyinde bir dolandırıcı olma ihtimali küçük ama gerçek bir ihtimal." Bana göre bu, Sam'in bu tür belirli dolandırıcılık veya suçlarla suçlandığı anlamına gelmiyor, ancak Sam'in yalan söyleme ve aldatma derecesinin sonuçta bu ölçekte hatırlanma şansı olabileceği anlamına geliyor.
Evet, bence bu alıntının en çarpıcı yanı, açıkçası, Microsoft'u aradığınızda "Bu çok çılgınca. Bunu hiç duymadık." "Evet, burada pek çok insan böyle düşünüyor" şeklinde bir beğeni alıyorsunuz ki bu dikkate değer. Ve bence bu temel iş sorularına da değiniyor.
Bir yatırımcı, örneğin, bu özelliğin işten çıkarılmadan sonraki yıllarda da devam etme şeklinin ışığında bana şunları söyledi" - ve bu aynı zamanda bunun ilginç ve ciddi bir düşünce olduğunu da düşündü - Sam'in mutlaka listenin en altında yer alması gerekmiyor, değeri ne olursa olsun, bu teknolojiyi kesinlikle geliştirmemesi gereken insanlar açısından en düşüklerin en altında olması gerektiği gibi. Elon Musk'un bu kişi olduğunu söyleyen birkaç kişi var. Ancak bu özellik onu belki de yapması gereken insanlar listesinin en altına yerleştiriyor. AGI'yi ve bu alandaki diğer birçok önde gelen figürün altında.
Bunun ilginç bir değerlendirme olduğunu düşündüm ve güvenlik endişelerini o kadar da kabul etmeyen gerçek pragmatistlerden bu tür bir düşünce aldığınızı düşünüyorum. Sadece büyüme odaklılar ve OpenAI'nin artık Sam Altman'la bir sorunu olduğunu düşünüyorlar.
Microsoft'un parçası gerçekten ilginç. O şirket dünyanın zirvesinde olduklarını sanıyordu. Bu yatırımı yapmışlardı ve başta ve en önemlisi Google olmak üzere herkesi geride bırakacak ve tüketicilerin beğenisine yeniden kavuşacaklardı. Bu maceranın kendilerini yaktığını hissettikleri seviye - bu çok ayık yönetilen bir şirket - abartılabileceğini düşünmüyorum.
Karakterlerden ve kişilik özelliklerinden bahsetmişsiniz. Burada dinleyicilerimizin bir sorusuyla bitirmek istiyorum. Diğer programımız The Vergecast'te sizinle konuşacağımı söyledim ve "Ronan'a bu hikaye hakkında sorularınız varsa bana bildirin" dedim. Yani burada, tanımladığınız şeyle düzgün bir şekilde bağlantılı olduğunu düşündüğüm bir tane var. Sadece size okuyacağım:
“Altman ve diğer AI liderlerinin kötü davranışlarına ve acımasız eylemlerine ilişkin gerekçeler, Ronan'ın siyaset ve medyadaki diğer yüksek profilli liderlerden duyduğu gerekçelerden nasıl farklı? Hepsi, dünyanın böyle değiştiğini söyleyerek eylemlerini haklı çıkarmıyorlar mı? Ben bunu yapmazsam başkası yapacak mı?”
Evet, etrafta bundan çok şey oluyor. Yapay zekanın ayırt edici özelliğinin, varoluşsal risklerin bu kadar benzersiz bir şekilde yüksek olmasının, her iki risk ifadesinin de aşırı olduğu anlamına gelmesi olduğunu söyleyebilirim, değil mi? Sam Altman'ınız var“Bu hepimiz için ışıkların sönmesi olabilir” diyor. Ayrıca eleştirmenler, soruyu soran kişinin bahsettiği çılgınlığın aşırı olduğunu söyleyebilir, değil mi?
Sam'in kayıtlara göre Elon'u suçladığı şey onun insanlığı kurtarmak isteyebileceğiydi, ama bu yalnızca kendisiyse. Sam'in her zaman kullandığı, kazanma isteğinin ego bileşeni ve bunun tarih kitaplarında yer alan bir çerçeve olması, her şeyi değiştirebilir. Bu nedenle, Silikon Vadisi şirketlerinin çoğunun "birkaç yumurtayı kırmalısınız" zihniyetinin ötesinde bile, yapay zekaya öncülük eden bazı isimlerin kafasında, sanırım, her türlü sonuç için tam bir rasyonelleştirme var.
Yumurtaları kırmayı da unutun. Sanırım, temel güvenlik araştırmacılarının çoğu, potansiyel olarak ülkeyi ve dünyayı parçalama ve işleri ve güvenlikleri tehlikede olan milyonlarca insanı tehlikeye atma riskinin olduğunu söyleyecektir; bu, onu benzersiz kılan şeydir. Bu haberlerin tamamı üzerinde düşünerek, bunun Sam Altman'dan daha fazlası olduğuna gerçekten inanarak konuyu burada kapatıyorum. Bu, kısıtlanmayan bir endüstri ve Amerika'nın onu kısıtlayamaması gibi sarmal bir sorunla ilgili.
Evet. Bu konuda biraz iyimserlik yaşadık ama bence bu konuyu bırakmak için iyi bir yer.
[Gülüyor] Kötü bir tempoda bitirin.
Elbette. Gerçekten harika hikayeler bunlar. Musk-Altman davası yaklaşıyor. Burada çok daha fazlasını öğreneceğimizi düşünüyorum. Sanırım seninle tekrar konuşmak isteyeceğim. Ronan Farrow, Decoder'a katıldığınız için çok teşekkür ederim.
Teşekkür ederim.
Bu bölümle ilgili sorularınız veya yorumlarınız mı var? [email protected] adresinden bize ulaşın. Gerçekten her e-postayı okuyoruz!
