Bu gün Dekoderdə mən bu gün işləyən araşdırma hesabatının ən böyük ulduzlarından biri olan Ronan Farrow ilə danışıram. O, bir çoxları arasında Harvey Weinstein hekayəsini qırdı. Və elə keçən həftə o, həmmüəllif Andrew Marantz ilə birlikdə The New Yorker jurnalında OpenAI-nin baş direktoru Sem Altman, onun etibarlılığı və OpenAI-nin özünün yüksəlişi haqqında inanılmaz dərin bir məqalə dərc etdi.
Burada daha irəli getməzdən əvvəl bir qeyd - The New Yorker bu hekayəni dərc etdi və Ronan və mən Altmanın evinə edilən hücumların tam həcmini bilməmişdən əvvəl bu söhbətimiz oldu, ona görə də birbaşa bu barədə danışdığımızı eşitməyəcəksiniz. Ancaq bunu demək üçün mən hesab edirəm ki, hər cür zorakılıq qəbuledilməzdir, Semə edilən bu hücumlar qəbuledilməzdir və insanların hiss etdiyi, bu cür zorakılığa səbəb olan çarəsizliyin özü qəbuledilməzdir və bu, həm sənaye, həm də siyasi liderlərimiz tərəfindən daha çox araşdırmaya dəyər. Ümid edirəm ki, bu aydındır.
Verge abunəçiləri, podkastlarınızı əldə etdiyiniz hər yerdə reklamsız Dekoderə eksklüziv giriş əldə edəcəyinizi unutmayın. Bura baş çəkin. Abunəçi deyilsiniz? Burada qeydiyyatdan keçə bilərsiniz.
Bütün deyilənlər, Altmanın ətrafında ciddi hesabatlar üçün ədalətli oyun olan çox şey var - Ronan və Endryu etməyə hazırlaşdıqları hesabat növü. ChatGPT-nin populyarlığı sayəsində Altman, bir vaxtlar qeyri-kommersiya tədqiqat laboratoriyasını cəmi bir neçə il ərzində demək olar ki, trilyon dollar dəyərində özəl şirkətə çevirərək, süni intellekt sənayesinin ən gözə çarpan rəhbəri kimi ortaya çıxdı. Lakin Altmanın mifi dərin ziddiyyətlidir, həm onun açıq-aşkar sövdələşmə qabiliyyəti, həm də ətrafdakı hər kəsə yalan söyləmək meyli ilə eyni dərəcədə müəyyən edilir.
Hekayə 17.000-dən çox sözdən ibarətdir və 2023-cü ildə OpenAI direktorlar şurası Altmanı yalan danışdığına görə qəfildən işdən çıxardığı zaman baş verənlərin qəti hesabını ehtiva edir, ancaq onun demək olar ki, dərhal yenidən işə götürülməsi. Bu, həm də Altmanın şəxsi həyatına, sərmayələrinə, Yaxın Şərqdə pul qazanmasına və keçmiş davranışları və xarakter xüsusiyyətlərinə dair öz düşüncələrinə dərindən nəzər salır ki, bu da bir mənbənin onun “həqiqətlə bağlı olmadığını” söyləməsinə səbəb olub. Mən həqiqətən bütün hekayəni oxumağı təklif edirəm; Güman edirəm ki, uzun illər buna istinad ediləcək.
Ronan Altmanla bu əsəri bildirmək üçün keçirdiyi 18 ay ərzində dəfələrlə danışdı və buna görə də məni maraqlandıran əsas şeylərdən biri o, bu müddət ərzində Altmanda hər hansı bir dəyişiklik hiss edib etməməsi idi. Axı, son il yarım ərzində süni intellektdə, texnologiyada və dünyada çox şey baş verib.
Ronanın bu barədə birbaşa danışdığını eşidəcəksiniz, həm də insanların Altmanın həqiqəti uzatmaq qabiliyyəti haqqında danışmağa daha çox meylli olduqlarını hiss edəcəksiniz. İnsanlar Altman kimi insanların davranışlarının təkcə süni intellekt və ya texnologiyaya deyil, həm də cəmiyyətin kollektiv gələcəyinə aid olub-olmadığını yüksək səslə və qeyd-şərtsiz düşünməyə başlayırlar.
Tamam: Ronan Farrow Sam Altman, AI və həqiqət haqqında. Budur, gedirik.
Bu müsahibə uzunluq və aydınlıq üçün yüngülcə redaktə edilmişdir.
Ronan Farrow, siz araşdırmaçı reportyor və The New Yorker-ə töhfə verənsiniz. Dekoderə xoş gəlmisiniz.
Burada olmaqdan şadam. Thanks for having me.
Sizinlə danışmaqdan çox həyəcanlanıram. Siz indicə The New Yorker üçün böyük bir əsər yazdınız. Bu, Sam Altmanın profilidir və bir növ OpenAI. Mənim oxuduğum budur ki, bütün əla xüsusiyyətlərin etdiyi kimi, ciddi hesabatla insanların çox uzun müddətdir Sam Altman haqqında yaşadıqları bir çox hissləri təsdiqləyir. Siz açıq-aydın yayımladınız, buna reaksiyalar aldınız. Hazırda buna münasibətiniz necədir?
Əslində, diqqət iqtisadiyyatının bu qədər şizofrenik və dayaz olduğu bir dövrdə bunun nə dərəcədə pozulduğu məni sevindirdi. Bu, mənim fikrimcə, hamımıza təsir edən bir hekayədir. Mən həyatımın bir il yarımını keçirəndə və həmmüəllifim Endryu Marantz da onun bu vaxtını həqiqətən məhkəmə-tibbi və vasvası bir iş görməyə sərf edəndə həmişə ona görə olur ki, hekayənin mərkəzində fərdi və şirkətdən başqa insanlara təsir edən daha böyük struktur problemləri var.
Sam Altman, Silikon Vadisi şırınga mədəniyyətinin fonunda və gələcəkdə baş tuta biləcək və ya olmaya biləcək vədlərə əsaslanan kütləvi qiymətləndirmələrə yol açan startaplar və müxtəlif qruplara fərqli ziddiyyətli şeyləri söyləməyin bir xüsusiyyət olduğunu düşünən qurucu mədəniyyətin artan bir şəkildə qucaqlanması.səhv... Hətta bu fonda Sam Altman fövqəladə bir hadisədir ki, Silikon Vadisində bunları gözləyən hər kəs onun etibarlılığı və dürüstlüyü ilə bağlı bu sualdan danışa bilmir.
Biz artıq bilirdik ki, o, vicdansızlıq iddiaları və ya yalan danışdığı iddia edilən serialın bəzi versiyalarına görə işdən çıxarılıb. Ancaq fövqəladə şəkildə, gözəl reportajların olmasına baxmayaraq, Keach Hagey bunun üzərində böyük iş gördü. Karen Hao bunun üzərində böyük işlər görüb. Həqiqətən də iddia edilən faktiki sübut nöqtələri və bunların ictimaiyyətin diqqətindən kənarda qalmasının səbəbləri haqqında qəti bir anlayış yox idi.
Beləliklə, bir nömrəli məqam odur ki, ictimai məlumatımızdakı və hətta Silikon Vadisi insayderlərinin məlumatında olan bəzi boşluqların indi bir az daha doldurulması məni sevindirir. Boşluqların olmasının bəzi səbəbləri bir az daha dolduruldu.
Biz bu şirkət daxilində insanların həqiqətən hər şeyin ört-basdır edildiyini və ya qəsdən sənədləşdirilmədiyini hiss etdiyi hallar haqqında məlumat veririk. Bu hekayədəki yeni şeylərdən biri WilmerHale tərəfindən həyata keçirilən əsas hüquq firması araşdırmasıdır ki, bu, açıq-aydın, Enron və WorldCom-da araşdırmalar aparan dəbdəbəli, etibarlı, böyük hüquq firmasıdır. WilmerHale, Altmanı onlardan qurtulduqdan sonra getmə şərti olaraq işdən çıxaran idarə heyəti üzvlərinin tələb etdiyi bu araşdırmanı etdi və geri döndü. Və qeyri-adi bir şəkildə - danışdığım bir çox hüquq ekspertinin gözündə və bu şirkətdəki bir çox insanın gözündə şok edici bir şəkildə - bunu yazmaqdan çəkindirdilər. Bundan çıxan hər şey, baş verənləri inamın pozulması kimi təsvir edən OpenAI-dən 800 sözdən ibarət press-reliz idi. Və bunun şifahi brifinqlərdə saxlandığını təsdiqlədik.
Məsələn, idarə heyəti üzvünün OpenAI-nin orijinal qeyri-kommersiya formasından kommersiya təşkilatına çevrilməsinə qarşı səs vermək istədiyi və bitərəf kimi qeyd edildiyi hallar var. İclasda bir vəkilin "Yaxşı, bu, çox araşdırmaya səbəb ola bilər" deməsi kimidir. Əleyhinə səs vermək istəyən isə bütün çıxışlarda bitərəf kimi qeydə alınır. Faktiki mübahisə var. OpenAI, təsəvvür etdiyiniz kimi başqa cür iddia edir. Bütün bunlar, öz hesabına gələcəyimizi öz əlində saxlayan bir şirkətin olduğu hallardır.
Təhlükəsizlik payları o qədər kəskindir ki, aradan qalxmayıb. Bu şirkətin təhlükəsizliyə yönəlmiş bir qeyri-kommersiya təşkilatı olaraq qurulmasının səbəbi və ətrafdakı etibarlı insanların onu peşəkardan daha az tapdığı şəkildə gizlədildiyi yerdədir. Və siz bunu mənalı tənzimləmə üçün çox az siyasi iştahın olduğu bir fonla əlaqələndirirsiniz. Düşünürəm ki, bu, çox alovlu bir vəziyyətdir.
Mənim üçün məsələ təkcə Sam Altmanın bu suallara bu qədər kəskin şəkildə layiq olması deyil. Həm də odur ki, bu sahədə olan bu uşaqlardan hər hansı biri və bir çox əsas fiqurlar, bu xüsusi idiosinkratik deyilsə, hər zaman yalan danışan xüsusiyyətlər nümayiş etdirirlər, şübhəsiz ki, təhlükəsizlik işçiləri olan insanların bu öhdəlikləri sulandırdığı və hər kəsin yarışda olduğu bir zehniyyət, şübhəsiz ki, müəyyən dərəcədə aşağıya doğru zehniyyət nümayiş etdirir.
Düşünürəm ki, Anthropic-dən çıxan son sızmalara baxdığımızda, bu əsərdə kimin barmağının düyməyə basması sualını verən bir adam var. Cavab budur ki, əgər mənalı nəzarətimiz yoxdursa, düşünürəm ki, biz ciddi suallar verməliyik və bütün bu uşaqlar haqqında bacardığımız qədər çox məlumatı üzə çıxarmağa çalışmalıyıq. Buna görə də, bu barədə mənalı bir söhbət və ya birinin başlanğıcı məni çox sevindirdi.
Bunu belə soruşmağımın səbəbi odur ki, siz bu işdə il yarım işləmisiniz. Siz həmmüəllifiniz Endryu ilə, məncə, 100 nəfərlə danışdınız. Hekayənin hazırlanması üçün uzun müddətdir. Xüsusilə süni intellektdə keçən il yarım haqqında düşünürəm və oğlan, bütün bu personajların münasibəti və dəyərləri çox tez dəyişdi.
Bəlkə də heç biri ChatGPT-ni buraxdıqları üçün standart qalib kimi başlayan Sam Altmandan başqa bir şey deyil və hamı bunun Google-u ələ keçirəcəyini düşünürdü. Və sonra Google cavab verdi ki, bu da onları təəccübləndirdi ki, Google öz biznesini, bəlkə də biznes tarixində olmasa da, texnologiya tarixindəki ən yaxşı bizneslərdən birini qorumağa çalışacaq. Anthropic qərara aldı ki, o, müəssisəyə diqqət yetirəcək. Deyəsən, bu, komandanlığı öz üzərinə götürürorada, çünki AI-nin müəssisə istifadəsi çox yüksəkdir.
İndi OpenAI öz məhsulunu “Google-u götürəcəyik”dən Codex-ə yönləndirir və onlar müəssisəni ələ keçirəcəklər. Sadəcə deyə bilmərəm ki, son bir il yarım ərzində reportajınız zamanı danışdığınız personajlar dəyişibmi? Like their attitudes and their values, did those change?
Bəli. Mən hər şeydən əvvəl hesab edirəm ki, bu məqalədə araşdırılan və bu nöqtədə bu şirkətlər içərisində olan bir çox insandan gələn tənqid - bu, ekzistensial risklərə baxmayaraq, təhlükəsizlik baxımından aşağıya doğru bir yarışa enən və sürətin hər şeydən üstün olduğu bir sənayedir - bu narahatlıq daha da kəskinləşdi. Və düşünürəm ki, bu narahatlıqlar ötən il yarım ərzində daha çox təsdiqləndi. Eyni zamanda, Sam Altmana münasibət də xüsusi olaraq dəyişdi. Biz bununla bağlı mənbələrlə danışmağa başlayanda insanlar həqiqətən də bu barədə sitat gətirilməkdən və bu barədə qeydlər aparmaqdan qorxurdular.
Hesabatımızın sonunda insanların bu barədə çox açıq və açıq danışdığı bir hesabat orqanınınız var və idarə heyəti üzvləriniz "O, patoloji yalançıdır. O, sosiopatdır" kimi sözlər söyləyirsiniz. “Təhlükəsizlik risklərini nəzərə alsaq, bu təhlükəlidir və bizə dürüstlüyü artıran bu texnologiyanın liderlərinə ehtiyacımız var” və “Təhlükəsizlik paylarını unudun, bu, hər hansı bir böyük şirkətin hər hansı rəhbər işçisi üçün qeyri-mümkün olan davranışdır, sadəcə olaraq çox disfunksiya yaradır” kimi bir sıra perspektivlər var.
Beləliklə, söhbət gec görünə bilən, lakin bir mənada ürəkaçan bir şəkildə daha aydın oldu. Və Sam Altman, onun kreditinə... Əsər çox ədalətli və hətta səxavətlidir, deyərdim ki, Semə. Bu, çoxlu “sənə çatan” şeylərin olduğu bir növ əsər deyil. Mən onunla telefonda çox, çox saatlar keçirdim, çünki biz bunu bitirdik və həqiqətən də onu eşitdik.
Təsəvvür edə bildiyiniz kimi, belə bir parçada heç də hər şey daxil olmur. Bu hadisədə bəzi hallar səmimi dinlədiyim üçün olub. Və əgər Sem həqiqətən su daşıdığını hiss etdiyimi, bir şeyin, hətta həqiqət olsa belə, sensasiya yarada biləcəyini iddia edirdisə, mən bu məhkəmə-tibb ekspertizasını və ölçməni saxlamaqda həqiqətən səhv etdim. Buna görə də hesab edirəm ki, bu, düzgün qəbul edilir və ümid edirəm ki, bu müddət ərzində toplanmış bu faktiki qeydlər nəzarətə ehtiyac haqqında daha möhkəm söhbətə səbəb ola bilər.
Bu, əslində mənim növbəti sualımdır. Düşünürəm ki, bu hekayəni çatdırarkən Sam ilə onlarla dəfə danışmısınız. Yenə də bu, uzun müddət ərzində çoxlu söhbətlərdir. Son bir il yarım ərzində hesabat zamanı Semin dəyişdiyini düşündünüzmü?
Bəli. Düşünürəm ki, burada ən maraqlı alt süjetlərdən biri Sam Altmanın da keçmişdə olduğundan daha açıq şəkildə bu xüsusiyyət haqqında danışmasıdır. Bu əsərdə Semin duruşu belə deyil: "Orada heç nə yoxdur, bu doğru deyil; nə danışdığınızı bilmirəm." Onun mövqeyi ondan ibarətdir ki, o, bunun insanların xoşuna gələn bir tendensiya və bir növ münaqişədən çəkinmə ilə əlaqəli olduğunu söyləyir. O etiraf edir ki, bu, onun üçün, xüsusən də karyerasının əvvəlində problemlərə səbəb olub.
O deyir: “Yaxşı, mən bundan keçmişəm və ya müəyyən dərəcədə keçmişəm”. Düşünürəm ki, mənim üçün həqiqətən maraqlı olan söhbət etdiyimiz insanların kontingentidir ki, onlar təkcə təhlükəsizlik müdafiəçiləri deyil, nəinki bu kəskin təhlükəsizliklə bağlı narahatlıqları olan əsas texniki tədqiqatçılar deyil, həm də praqmatik, böyük sərmayəçilərdir. Onlar Semin dəstəkçiləridir, bəzi hallarda bu suala baxır və hətta onun atəşdən sonra geri qayıtmasında əsas rol oynamasından danışırlar. İndi onun islahat olub-olmaması və bu dəyişikliyin nə dərəcədə məna kəsb etdiyi sualına “Yaxşı, biz ona o vaxt şübhənin faydasını verdik” deyirlər.
Xüsusilə bir tanınmış investor haqqında düşünürəm: "Ancaq o vaxtdan bəri o, odunxananın arxasına aparılmadığı aydın görünür" və bu, lazım olan dərəcədə istifadə etdiyi ifadə idi. Nəticədə, bu, indi sabit bir xüsusiyyət kimi görünür. Biz bunu davamlı şəkildə görürük. OpenAI-nin ən böyük bizneslərindən bəzilərinə baxa bilərsinizmünasibətləri və bu inamsızlığın ağırlığını davamlı şəkildə daşıma tərzi.
Microsoft-da olduğu kimi, siz orada rəhbərlərlə danışırsınız və onların həqiqətən də kəskin və son vaxtlar katalizator narahatlıqları var. Belə bir hal var ki, OpenAI eyni gün vətəndaşlığı olmayan süni intellekt modelləri ilə bağlı Microsoft ilə eksklüzivliyini təsdiqləyir, həmçinin Amazon ilə yeni bir müqavilə elan edir ki, bu da dövlət məlumatları olan AI agentləri yaratmaq üçün korporativ həllərin satışı ilə əlaqədardır, yəni onların yaddaşı var.
Siz Microsoft işçiləri ilə danışırsınız və onlar deyirlər: “Bizim eksklüzivlik müqaviləmiz olan əsas şeylərlə əlaqə yaratmadan bunu etmək mümkün deyil”. Beləliklə, bu, bu xüsusiyyətin hər zaman davam edən biznes fəaliyyətinə meylli olduğu və OpenAI idarə heyətində, onun icraçı dəstində və daha geniş texnoloji icmada fəal narahatlıq doğurduğu bir çox kiçik nümunələrdən yalnız biridir.
Bu “xüsusiyyət”i deyirsən. Hekayədə mənə tezis kimi gələn bir xətt var və bu, təsvir etdiyiniz xüsusiyyətin təsviridir. Bu, "Sam Altman həqiqətdən məhrumdur" və onun "eyni insanda demək olar ki, heç vaxt görülməyən iki xüsusiyyəti var: birincisi, insanları razı salmaq, istənilən qarşılıqlı əlaqədə bəyənilmək istəyi, ikincisi, kimisə aldatmağın nəticələrinə görə demək olar ki, sosiopatik bir narahatlıq olmamasıdır."
Sizə deməliyəm ki, mən o cümləni 500 dəfə oxudum və hər zaman insanların nəyi bəyənmək istədiklərini söylədiklərini və sonra yalan danışdıqlarını hiss etdikdə üzülmədiklərini təsəvvür etməyə çalışdım. Və emosional vəziyyətimi başa sala bilmədim ki, o şeylər eyni insanda necə ola bilər. Siz Sam ilə çox danışdınız və bu xüsusiyyətləri yaşayan insanlarla danışdınız. O bunu necə edir?
Bəli. Bu, insan müstəvisində maraqlıdır, çünki mən bu cür hesabat orqanlarına onun mərkəzində olan hər kəsi humanistləşdirməyə və dərin anlayış və empatiya axtarmağa əsl diqqətlə yanaşıram. Mən buna daha insani nöqteyi-nəzərdən yanaşmağa çalışdığımda və "Hey, işlədiyim bir çox insan patoloji yalançı olduğumu desəydi, bu mənim üçün dağıdıcı olardı. Bu ağırlığı necə daşıyırsan? Terapiyada bu barədə necə danışırsan? Bu barədə özünüzə danışdığınız hekayə nədir?"
Mənim fikrimcə, bəlkə də Qərb Sahilində “Bəli, nəfəs almağı xoşlayıram” kimi sadə sözlər var. Ancaq davranışımız və insanlara münasibətimizlə bağlı bu cür rəyləri görsəydik, düşünürəm ki, bir çoxumuzun ola biləcəyini düşündüyüm dərin öz-özünə qarşıdurma hissi o qədər də çox deyil.
Düşünürəm ki, bu, əslində suala daha geniş cavab verir. Sam iddia edir ki, bu xüsusiyyət problemlərə səbəb olub, həm də bu, ona OpenAI-nin böyüməsini o qədər sürətləndirmək səlahiyyətinin bir hissəsidir ki, o, müxtəlif qrupları birləşdirib onları sevindirə bilir. O, bütün bu ziddiyyətli dairələri daim inandırır ki, onların maraqlandıran şey onun qayğısına qalır. Və bu, təsisçi üçün həqiqətən faydalı bir bacarıq ola bilər. Mən investorlarla danışdım, sonra dedilər: "Bəlkə bu, həqiqətən bir şirkəti idarə etmək üçün daha az faydalı bir bacarıqdır, çünki bu, çox ixtilaf yaradır."
Ancaq Samin şəxsi tərəfində düşünürəm ki, insan səviyyəsində əlaqə qurmağa çalışdığım zaman diqqətimi çəkən şey, daha dərin qarşıdurmanın, əks etdirmənin və öz-özünə cavabdehliyin aşkar olmamasıdır ki, bu da IPO-ya hazırlaşan bir şirkət üçün super güc və ya məsuliyyəti bildirir.
O, Syu Yun adlı keçmiş idarə heyəti üzvlərindən birinin sözləri ilə desək, yazıda qeyd etdiyi kimi, onun işlətdiyi ifadənin “səhvsizlik” nöqtəsinə qədər olduğunu söyləyən, satış planlarının dəyişən reallığına həqiqətən inanmağı bacaran və ya özünü onlara inandıra bilən biridir. Və ya heç olmasa, onlara inanmırsa, özünə şübhə etmədən onların arasından keçə bilir.
Düşünürəm ki, sizin danışdığınız, sizin və ya mən ola biləcəyimiz şey, biz bunu söyləyərkən və bunun verdiyimiz digər təminatla ziddiyyət təşkil etdiyini başa düşdükdə, bir növ donmaq və ya özümüzü yoxlamaq anı var. Düşünürəm ki, onunla bu baş vermir. Və bunu əhatə edən daha geniş Silikon Vadisi şırınga mədəniyyəti və qurucu mədəniyyəti var.
gülməli. Verge, bir məhsul rəyinə uyğun olaraq qurulurproqram. Bu, burada etdiyimiz işlərin ürəyidir. İldə bir dəfə bir trilyon dollarlıq Apple Ar-Ge işini saxlayıram və “Bu telefon yeddidir” deyirəm. Və bu, bütün hesabatlarımızı və başqa yerlərdəki fikirlərimizi qanuniləşdirir. Bizim qiymətləndirmə funksiyamız var və biz AI məhsullarına baxıb “Onlar işləyirmi?” deməklə çox vaxt sərf edirik.
Bu, indiki kimi süni intellektlə bağlı bir çox söhbətdə əskik olduğunu hiss edir. Bunun nə edə biləcəyi, nə qədər təhlükəli ola biləcəyi haqqında sonsuz söhbət var. Sonra qazıb deyirsən: “Bu, həqiqətən də bu gün etməli olduğu şeyi edirmi?” Bəzi hallarda cavab bəli olur. Ancaq bir çox hallarda cavab yox olur.
Bu, təsvir etdiyiniz şırınga mədəniyyəti ilə əlaqələndirilir və eyni zamanda o mənaya gəlir ki, əgər siz onun bir şey edəcəyini söyləyirsinizsə və etməyəcək və kimsə özünü pis hiss edirsə, bu yaxşıdır, çünki biz növbəti işin üzərindəyik. Bu keçmişdə qalıb. Xüsusilə süni intellektdə Sem böyük vədlər verməkdə çox bacarıqlıdır.
Məhz bu həftə, məncə, hekayənizin dərc edildiyi gün, OpenAI sosial müqaviləni yenidən nəzərdən keçirməli olduğumuzu və hökumətdən AI səmərəliliyi təqaüdlərini almalı olduğumuzu bildirən bir siyasət sənədi yayımladı. Bu, bəzi texnologiyaların dünyanın gələcəyini necə formalaşdıra biləcəyi və necə yaşadığımıza dair böyük bir vəddir və bütün bunlar texnologiyanın tam olaraq işləyəcəyi və ya işləməli olduğu şəkildə işləməsinə əsaslanır.
Heç Semin AI-nin AGI və ya super intellektə çevrilməsindən və ya finiş xəttinə çatmasından şübhələndiyini görmüsünüzmü? Çünki ən çox maraqlandığım şey budur. Bu əsas texnologiyanın edə biləcəyini söylədiyi hər şeyi edə biləcəyi ilə bağlı hər hansı bir düşüncə varmı?
Bu, tam olaraq düzgün suallar toplusudur. Bu hesabat orqanında danışdığımız etibarlı texnoloqlar var - və açıq-aydın Sem Altman onlardan biri deyil; o, iş adamıdır - Semin bu texnologiya üçün vaxt qrafiki haqqında danışmasının çox uzaq olduğunu söyləyir. Bir neçə il əvvələ gedib çıxan blog yazıları var ki, Sam deyir: "Biz artıq hadisə üfüqünə çatmışıq. AGI əsasən buradadır. Superkəşfiyyat yaxındadır. Biz başqa planetlərdə olacağıq. Biz xərçəngin bütün formalarını müalicə edəcəyik." Doğrusu, mən bəzəmirəm.
Xərçəng xəstəliyi əslində maraqlıdır, Sem nəzəri olaraq itinin xərçəngini ChatGPT ilə sağaldan insanı təlqin edir və bu, sadəcə olaraq baş vermədi. Onlar ChatGPT ilə danışdılar və bu, həqiqətən işi görən bəzi tədqiqatçılara rəhbərlik etməyə kömək etdi, lakin bu iti müalicə edən tək-tək bu vasitə əslində hekayə deyil.
Bu məqamı qaldırmağınıza şadam, çünki texnologiyanın həm potensialının, həm də riskinin həqiqətən nə vaxt baş verəcəyi ilə bağlı daha böyük məqama keçmək istəyirəm. Ancaq Sam Altmandan daim baş verən bu kiçik cəhətləri xatırlatmaq lazımdır, burada o, bu xüsusiyyəti yenidən təcəssüm etdirir.
Demək istəyirəm ki, WilmerHale hesabatından nümunə götürsək, burada bizdə yazılmamış bu məlumat var idi və yol boyu şifahi məlumatın idarə heyətinin iki üzvü Semin quraşdırmaya kömək etdiyindən başqa hər hansı bir şəxsə verilib-verilmədiyini bilmək istədik. Və dedi: "Bəli, bəli, yox, inanıram ki, sonradan idarə heyətinə qoşulan hər kəsə verildi." Və vəziyyətlə bağlı birbaşa məlumatı olan bir adamımız var ki, bu, sadəcə olaraq yalandır. Və bu, həqiqətən də belə görünür, həqiqətə uyğun deyil. Səxavətli olmaq istəyiriksə, bəlkə də ona yanlış məlumat verilib.
Bu təsadüfi təminatların çoxu var. Və mən bu misaldan qismən istifadə edirəm, çünki bu, sökülmənin gözəl nümunəsidir, deyək ki, hüquqi cəhətdən real nəticələr verə bilər. Delaver ştatının korporativ qanunlarına əsasən, bu şirkət IPO-ya çıxarsa, səhmdarlar 220-ci bölməyə əsasən bundan şikayət edə və əsas sənədləri tələb edə bilsələr, deməyimə ehtiyac yoxdur. Artıq idarə heyəti üzvləri "Yaxşı, bir dəqiqə gözləyin, bu brifinq baş verməli idi" kimi sözlər söyləyirlər.
Beləliklə, hər zaman ağzından sıçrayan kimi görünən bu şeylər, real bazar təsirləri, OpenAI üçün real təsirlər göstərə bilər. Onu yenidən gündəmə gələn bir növ utopik şırınga dilinə qaytararaq, məncə, bu əsərin çıxdığı gün təsadüfi deyil, bu, hamımıza da təsir edir, çünki təhlükələr onun təqdim olunma tərzinə görə çox kəskindir.silahda yerləşdirilməsi, kimyəvi müharibə agentlərini müəyyən etmək üçün istifadə üsulu, dezinformasiya potensialı və utopik şırınganın bir çox etibarlı iqtisadçıları “Bunun bütün əlamətləri var” deməyə sövq etdiyinə görə.
Hətta Sam Altman belə demişdi: “Kimsə burada çox pul itirəcək”. Əgər bu şirkətlərin hamısının bir-biri ilə sövdələşmələr apardığı, çoxlu borc götürərkən süni intellektlə məşğul olacağı bir baloncuk deşilməsi olarsa, bu, həqiqətən də çoxlu Amerika və qlobal iqtisadi artıma səbəb ola bilər. Beləliklə, Sam Altmanın dedikləri vacibdir və məncə, onun ətrafındakı insanların üstünlüyü, yüzdən çox adamla danışdığımızı qeyd etdiniz, əslində yüzdən çox idi. Finiş xəttində belə bir söhbət etdik: "Bu qədər daha yüksək rəqəm demək çox kiçik olarmı?" Və biz dedik: "Bəli, gəlin aşağı salaq. Biz bunu gözəl oynayacağıq." Amma o qədər çox insan var idi ki, onların böyük əksəriyyəti “Bu, narahatlıq doğurur” deyirdi. Və düşünürəm ki, bütün bunlar buna görədir.
İcazə verin o nömrəni sizdən soruşum. Qeyd etdiyiniz kimi, zaman keçdikcə insanlar narahatlıqları ilə daha çox açıq oldular. Bu, qabarcıq ətrafındakı təzyiq kimi hiss olunur - qazanmaq yarışı, bütün bu sərmayəni ödəmək, qalib kimi görünmək, IPO etmək - bir çox münasibəti dəyişdi. Bu, şübhəsiz ki, Sam və OpenAI üzərində daha çox təzyiq yaratdı.
Bu həftə yalnız OpenAI vibes haqqında bir hekayə dərc etdik. Sizin hekayəniz bunun bir hissəsidir, lakin OpenAI-də rəhbər vəzifələrdə kütləvi kadr dəyişiklikləri - insanlar gəlir və gedir. Tədqiqatçıların hamısı, əsasən Anthropic-ə gedirlər, məncə, həqiqətən maraqlıdır. Sadəcə bu şirkətin təzyiq hiss etdiyini və bu təzyiqə hansısa şəkildə cavab verdiyini görə bilərsiniz.
Amma sonra yenidən Semin işdən qovulmasını düşünürəm. Bu mənim üçün sadəcə yaddaqalandır. Bu, heç kim üçün yaddaqalan deyil, amma mən cümə günü saat 19:00-da Bronx Zooparkında mənbəyə zəng etdim və kimsə Semi geri qaytarmağa çalışacaqlarını söylədi. Və sonra həftə sonunu bu hekayəni təqib edərək keçirdik. Mən isə "zooparkdayam. Burada nə etməyimi istəyirsən?" Cavab isə “Telefonda qalın” oldu. Yaxşı, qızım "telefondan əl çək" dedi. Və mən elədim.
Semi geri qaytarmaq üçün minmək və ya ölmək idi. Bu şirkət "Xeyr, biz şuranın Sem Altmanı işdən çıxarmasına icazə vermirik" dedi. İnvestorlar, sizin parçanızda sitat gətirirlər, "Biz müharibəyə getdik" deyə düşünürəm, "Trive Capital" mövqeyidir, "Semi geri qaytarmaq üçün." Microsoft Semi geri qaytarmaq üçün müharibəyə getdi. Daha sonra və indi hamı deyir: "Biz IPO-ya çıxacağıq. Finiş xəttinə çatdıq. Biz oğlanımızı geri qaytardıq və o, bizi finiş xəttinə çatdıracaq. Biz onun yalançı olmasından narahatıq".
Why was it a war to get him back then? Çünki əslində heç nə dəyişməmiş kimi görünür. Siz İlya Sutskever və [Antropik CEO] Dario Amodeinin Sam Altmanın müasirləri olarkən saxladıqları xatirələrdən danışırsınız. İlyanın bir nömrəli narahatlığı Semin yalançı olması idi.
Bunların heç biri dəyişməyib. Bəs onda niyə onu geri qaytarmaq üçün müharibə oldu? İndi finiş xəttinə çatdığımıza görə, deyəsən, bütün narahatlıqlar açıqdır.
Yaxşı, hər şeydən əvvəl qızınızdan, yoldaşımdan və jurnalistlərin ətrafındakı bütün digər insanlardan üzr istəyirəm.
[Gülür] Hamı üçün kifayət qədər həftə sonu idi.
Bəli, bu, bir insanın həyatını alır və bu hekayənin son dövr ərzində mütləq mənimki var. Məncə, bu, əslində jurnalistika və məlumat əldə etmək mövzusuna aiddir. Sem üçün müharibəyə gedən investorlar və hamısı onun qayıtdığından əmin olmaqda rol oynadılar və qeyri-kommersiya təşkilatının təhlükəsizliyin böyümədən üstün olması missiyasını qorumaq və onlara etibar edilmədiyi təqdirdə bir icraçı vəzifədən azad etmək üçün xüsusi olaraq hazırlanmış şura, getdilər. Bütün bunlar ona görə idi ki, bəli, bazar stimulları var idi, elə deyilmi?
Sem insanları “Yaxşı, şirkət dağılacaq” deyə inandıra bildi. Lakin onun dəstəyinin səbəbi məlumat çatışmazlığı idi. Bu investorlar, bir çox hallarda, indi deyirlər: "Mən geriyə baxıram və düşünürəm ki, iddiaların nə olduğunu və narahatlıqların nə olduğunu tam bilsəydim, daha çox narahat olmalıydım."
Onların hamısı deyil;fikirlər müxtəlifdir və biz bir sıra fikirlərdən sitat gətiririk, lakin çox qismən məlumat əsasında hərəkət edən əhəmiyyətli fikirlər var. Semi işdən çıxaran şura, əvvəllər şurada olan bir şəxsin sözləri ilə desək, “çox müştərək müəssisə” idi və onlar topu sərt şəkildə ovladılar. Və biz əsas şikayətləri sənədləşdiririk və insanlar bunun hiss etdikləri təcili narahatlıq növünə daxil olub-olmamasına özləri qərar verə bilərlər, lakin bu arqument və məlumat təqdim edilmir.
Onlar bəzilərinin indi pis hüquqi məsləhət kimi qəbul etdiklərini aldılar. Bunu təsvir etmək üçün sitatı xatırlayacaqsınız və yəqin ki, bir çox dinləyiciləriniz və izləyiciləriniz bu sitatı səmimiyyətsizlik kimi xatırlayacaqlar. Bu azaldıldı və sonra onlar mahiyyətcə zəngləri qəbul etmədilər.
Zəngləri qəbul etmirdilər. Əminəm ki, cəhd etdiniz. Tanıdığım hər kəs cəhd etdi və iş o yerə çatdı ki, bir jurnalist olaraq mənbəyə məsləhət verməməlisən, amma mən dedim ki, "özünü izah etməyə başlamasan, bu aradan qalxacaq".
Və belə oldu. Jurnalistləri unudun. Satya Nadella dedin ki, "Nə olub? Mən heç kimin mənə izahatını verə bilmirəm". Və bu, şirkətin əsas maliyyə dəstəyidir. Və sonra Satya [LinkedIn-in həmtəsisçisi] Reid Hoffmana zəng etdi və Reid ətrafa zəng edərək dedi: "Mən nə baş verdiyini bilmirəm."
Onlar başa düşüləndir ki, belə bir təcili, qəfil atəşə haqq qazandıracaq ənənəvi qeyri-AI göstəricilərini axtarırlar. Yaxşı, cinsi cinayətlər idi? Bu mənimsəmə idi? Və bu texnologiyanın fərqli olması və kiçik xəyanətlərin bu cür davamlı yığılmasının həm bu biznes, həm də bəlkə də dünya üçün mənalı paylara malik ola biləcəyinə dair bütün incə, lakin mənalı hesab edirəm ki, arqument böyük ölçüdə itirildi. Beləliklə, kapitalist təşviqləri qalib gəldi, həm də onu yaradan insanlar çıxdılar və həmişə tam məlumatla işləmirdilər.
Bir anlıq “hamının nə düşündüyü” aspekti haqqında soruşmaq istəyirəm, çünki xəbəri mütləq gördüm və dedim: “Oh, pis bir şey olub.” Məşhur şəkildə #MeToo hesabatlarının çoxunu etmisiniz. Harvey Weinstein hekayəsini qırdınız.
Siz hesab edirəm ki, son nəticədə əsassız olduğuna qərar verdiyiniz bu iddialar haqqında hesabat vermək üçün çox vaxt sərf etdiniz: Altmanın yetkinlik yaşına çatmayanlara cinsi təcavüz etdiyi və ya seks işçiləri işə götürdüyü və ya hətta OpenAI xəbərçisini öldürdüyü. Demək istədiyim odur ki, siz bu barədə ən ciddi şəkildə xəbər verə biləcək adamsınız. Heç bir şey olmadığına qərar verdiniz?
Bax, mən nəyinsə boşa çıxdığını deməklə məşğul deyiləm. Deyə bilərəm ki, mən bu iddialara aylarla baxdım və onlar üçün təsdiq tapmadım. Və məni təəccübləndirdi ki, bu uşaqlar, bizim gələcəyimiz üzərində bu qədər gücə sahib olan bu şirkətlər, həqiqətən, uşaqca bir palçıq mübarizəsinə öz vaxtlarının və resurslarının qeyri-mütənasib hissəsini sərf edirlər.
Bir icraçı bunu “Şekspirçi” kimi təsvir edir. Şəxsi müstəntiqin pulu və yığılan müxalifət sənədləri amansızdır. Təəssüf doğuran odur ki, Semin rəqibləri tərəfindən tutuquşuya məruz qalan alçaldıcı şeylər sadəcə olaraq qəbul edilən faktdır, elə deyilmi? Onun yetkinlik yaşına çatmayan oğlanları təqib etdiyinə dair bir iddia var və Silikon Vadisində bir çox kokteyl məclislərində bunu eşidirsiniz. Konfransda mən bunu etibarlı, tanınmış rəhbərlər tərəfindən təkrarlandığını eşitdim: "Hamı bunun bir həqiqət olduğunu bilir."
Kədərli olan odur ki, mən bunun haradan gəldiyi, ötürüldüyü müxtəlif vektorlar haqqında danışıram. Elon Musk və onun tərəfdaşları, görünür, həqiqətən də, bu cür sənədləri heç bir şeyə sövq edirlər. Əslində əsas iddialara baxmağa başlayanda onlar buxarlanır. Kədərli olan odur ki, bu, həqiqətən də təcili nəzarətə və diqqətə layiq olduğunu düşündüyüm daha çox sübuta əsaslanan tənqidləri gizlədir.
Hekayədə həqiqətən ortaya çıxan digər mövzu, demək olar ki, Semin çoxlu dostları olduğuna dair qorxu hissidir - o, Y Combinator-un CEO-su kimi əvvəlki rolundan tutmuş şəxsi sərmayəsinə qədər çoxlu şirkətlərə sərmayə qoyub, bəziləri OpenAI-nin baş direktoru kimi onun rolu ilə birbaşa ziddiyyət təşkil edir - və ətrafında sükut hökm sürür.
Xüsusilə bir sətri oxuyanda mənə təsir etdi. Siz İlya Sutskeverin xatirələrini təsvir edirsiniz və onlar Silikon Vadisindədir. Hər kəsonları İlya xatirələri adlandırır. Ancaq bunun ətrafında hətta sükut var. Onlar keçib gedirlər, lakin müzakirə olunmurlar. Sizcə bu haradan gəlir? Is it fear? Mələk sərmayəsi almaq arzusudurmu? Bu haradan gəlir?
Məncə, bu, çox qorxaqlıqdır, düzünü desəm. Mənbələrin hər şeyini itirmək və təqiblə üzləşmək təhlükəsi ilə üzləşən məlumat verənlər olduğu milli təhlükəsizlik hekayələri haqqında məlumat verərək, onlar hələ də düzgün iş görürlər və hesabatlılıq yaratmaq üçün şeylər haqqında danışırlar. Mən qeyd etdiyiniz cinsi cinayətlərlə bağlı hekayələr üzərində işləmişəm, burada mənbələr dərin travma alıb və çox şəxsi cəzadan qorxmur.
Bu döyüntü ətrafında bir çox hallarda, öz profili və gücü olan insanlarla məşğul olursunuz. Ya özləri məşhur insanlardır, ya da məşhur insanların əhatəsindədirlər. Onların güclü iş həyatı var. Mənim fikrimcə, onların bu mövzuda danışması əslində çox aşağı səviyyədədir. Və şükürlər olsun ki, iynə əvvəl danışdığımız kimi hərəkət edir və insanlar indi daha çox danışırlar.
Ancaq uzun müddətdir ki, insanlar həqiqətən bu barədə susurdular, çünki düşünürəm ki, Silikon Vadisi mədəniyyəti sadəcə olaraq amansızcasına şəxsi maraqlara və amansızcasına biznesə və inkişafa yönəlib. Düşünürəm ki, bu, hətta Semi işdən çıxarmaqda iştirak edən bəzi insanlara da təsir edir, bəli, onun geri qayıtmasına və köhnə idarə heyəti üzvlərinin işdən çıxarılmasına səbəb olan amillərdən biri onun çaşqın olan investorları bir araya gətirməsi idi.
Ancaq başqa bir şey odur ki, ətrafda narahatlıqları olan və onları təcili dilə gətirən bir çox digər insanlar küləyin əks tərəfə əsdiyini görən kimi salfet kimi büküldülər və səslərini dəyişdirdilər və qazanc qatarına minmək istədilər.
Düzünü desəm, bir müxbir kimi mənim nöqteyi-nəzərdən olduqca qaranlıqdır.
O insanlardan bəziləri, inanıram ki, 20 dəqiqə ərzində OpenAI-nin yeni baş direktoru olan Mira Muratidir. Sonra onu əvəz etdilər. Bu, çox mürəkkəb bir dinamik idi və açıq-aydın Sem geri qayıtdı. Digər şəxs isə İlya Sutskeverdir ki, o, Semi çıxarmaq üçün səs verənlərdən biri olub, sonra fikrini dəyişib, ya da heç olmasa fikrini dəyişdiyini deyib, sonra öz şirkətini qurmaq üçün ayrılıb. Bilirsən, onun fikrini dəyişməsinə nə səbəb oldu? Sadəcə pul idi?
Yaxşı, və aydın olmaq üçün, mən bu ikisini ayırmıram. Atışmada iştirak edən digər idarə heyəti üzvləri də var ki, onlar da sonra çox susublar. Düşünürəm ki, bu, daha geniş kollektiv problem kimidir. Bunlar bəzi hallarda həyəcan təbili çalmaq və radikal addımlar atmaq üçün mənəvi lifləri olan insanlardır və bu, təqdirəlayiqdir. Və beləliklə siz cavabdehliyi təmin edirsiniz. Bu, bu texnologiyadan təsirlənən bir çox insana kömək edə bilərdi. Bu, bir sənayeyə daha mənalı şəkildə təhlükəsizliyə diqqət yetirməyə kömək edə bilərdi.
Ancaq məlumat verənlər və bu məsuliyyəti çox sövq etməyə çalışan insanlarla məşğul olarkən, bunun onu həyata keçirmək və inanclarınızla dayanmaq lifi tələb etdiyini də görürsünüz. Və bu sənaye həqiqətən öz əqidəsinə sadiq olmayan insanlarla doludur.
Baxmayaraq ki, onlar rəqəmsal bir Tanrı qurduqlarını düşünürlər ki, hansısa şəkildə ya bütün əməyi aradan qaldıracaq, ya da daha çox əmək yaradacaq, ya da nəsə olacaq.
Well, that’s the thing. Beləliklə, hər hansı bir istilik və ya biznesdə öz mövqeyinizə təhlükə yarada biləcək hər hansı bir şey olduğu anda öz inanclarınıza və bütün etik narahatlıqlara sadiq qalmamaq mədəniyyəti hər hansı bir vidjet hazırlayan adi biznes şirkətləri üçün hər şey yaxşı və yaxşı ola bilər.
Ancaq bunlar həm də “Bu, hamımızı öldürə bilər” deyən insanlardır. Yenə də Terminator Skynet ekstremalına getməyə ehtiyac yoxdur. Artıq reallaşan bir sıra risklər var. Bu realdır və onlar bu barədə xəbərdarlıq etməkdə haqlıdırlar, amma başqasının kresloya psixologiya verməsi lazımdır ki, bu iki şey eyni insanlarda necə yaşaya bilər, onlar təcili xəbərdarlıqları səsləndirsinlər, bəlkə barmağını içəri salıb nəsə etməyə çalışırlar, sonra isə sadəcə bükülüb susurlar.
Məhz buna görə də bu cür hadisələrin yazılmaqdan uzaq tutulması və əşyaların xalçanın altına süpürülməsi hallarına rast gələ bilərsiniz və faktdan sonra illər boyu heç kim bu barədə açıq danışmır.
Buradakı təbii, məsuliyyətli tərəf bu şirkətlərin baş direktorları olmazdı; hökumətlər olardı. ABŞ-da, bəlkə dəəyalət hökumətləridir, bəlkə də federal hökumətdir.
Şübhəsiz ki, bu şirkətlərin hamısı qlobal olmaq istəyir. Burada çoxlu qlobal təsirlər var. OpenAI, Google və Anthropic-in hamısının Bayden administrasiyasını süni intellektlə bağlı sərəncam çıxarmağa təşviq etdiyini izlədim. Sonda olduqca dişsiz idi. Sadəcə, onların modellərinin nəyə qadir olduğu barədə danışmalı və bəzi təhlükəsizlik testlərini buraxmalı olduqlarını söylədi. Sonra hamı Trampı dəstəklədi və Tramp içəri girdi və bütün bunları sildi və dedi: "Biz rəqabətədavamlı olmalıyıq. Bu, hamı üçün pulsuzdur. Bunun üçün get".
Eyni zamanda, onların hamısı çoxlu neft pulu olan və iqtisadiyyatlarını dəyişmək istəyən Yaxın Şərq ölkələrindən vəsait toplamağa çalışırlar. Bunlar siyasətçilərdir. Mənə elə gəlir ki, siyasətçilər kiminsə ağzının hər iki tərəfindən danışdığını mütləq başa düşməlidirlər və kiminsə sonda məyus olması halında çox üzülməyəcəklər, amma siyasətçilər də gəzməyə götürülürlər. Sizcə niyə belədir?
Bu, həqiqətən, məncə, əsərin mənim fikrimcə nə üçün vacib olduğunu və niyə bütün bu vaxtı və təfərrüatı sərf etməyə dəyər olduğunu düşünürəm. Biz elə bir mühitdəyik ki, sizin dediyiniz kimi, nəzarəti təmin etməli olan sistemlər sadəcə olaraq boşaldılıb. Bu, pul axınının bu qədər maneəsiz olduğu post-Vətəndaşlar Birləşmiş Amerikasıdır və bu, süni intellekt ətrafında bu problemin xüsusi konsentrasiyasıdır, burada həm əyalətdə, həm də federal səviyyədə mənalı tənzimləməni ləğv etmək üçün pulları çoxaldan və daşqın edən bu PAC-lər var.
Sizin [OpenAI həmtəsisçisi] Greg Brockman var, Semin ikinci komandanlığı, bunlardan bir neçəsinə birbaşa töhfə verir. Bu, həqiqətən qanunvericilərin və potensial tənzimləyicilərin tutulduğu bir vəziyyətə gətirib çıxarır və bu, çıxmaq üçün çətin bir spiraldir. Kədərli olan odur ki, hesab edirəm ki, bəziləri dünyanın başqa yerlərində sınaqdan keçirilir və bu hesabatlılıq problemlərinin bəzilərinə kömək edəcək sadə siyasət addımları var.
Sərhəd modelləri üçün artıq Avropada baş verən bir şey olan yerləşdirmədən əvvəl daha çox məcburi təhlükəsizlik testinə sahib ola bilərsiniz. Bu işdə işlərin yazılmadığını gördüyümüz daxili araşdırma növləri üçün daha sərt yazılı ictimai qeyd tələbləriniz ola bilər. Sam Altmanın irəli sürdüyü Yaxın Şərq infrastrukturu ambisiyaları üçün daha möhkəm milli təhlükəsizlik yoxlama mexanizmlərinə sahib ola bilərsiniz.
Dediyiniz kimi, o, bu yemi edir və Bayden administrasiyası ilə əlaqə saxlayır, "Bizi tənzimlə, bizi tənzimlə" deyirdi və onlara bir icra sərəncamı hazırlamağa kömək edirdi və sonra Trump içəri girdiyi anda, doğrudan da, ilk günlərdə heç bir maneə törətmədi, "Gəlin sürətləndirək və Abu Dahabidə böyük bir məlumat mərkəzi şəhərciyi tikək." Siz ola bilərdiniz, bu, məlumat verənlərin müdafiəsi kimi, həqiqətən sadədir. Bu hissədə yayımlanan bu cür təhlükəsizlik problemlərini açıqlayan AI şirkətinin işçilərini qoruyan federal qanun yoxdur.
OpenAI-də baş təhlükəsizlik işçisi olan Jan Leike-nin şirkətdə super uyğunlaşmaya rəhbərlik etdiyi hallarımız var. O, idarə heyətinə yazır, əslində məlumat verən materialdır və şirkətin təhlükəsizlik missiyası üzrə relsdən çıxdığını söyləyir. Bunlar həqiqətən müraciət edə biləcəkləri bir nəzarət orqanına sahib olmalı və digər sektorlarda gördüyümüz növlərə dair qanunla müəyyən edilmiş müdafiəyə malik olan insanlardır. Bu Sarbanes-Oxley rejimini təkrarlamaq üçün sadədir.
Düşünürəm ki, Silikon Vadisinin bütün güc rıçaqlarına nəzarəti öhdəsinə götürməsi probleminin nə qədər kəskin olmasına və nəzarəti təmin edə biləcək bu qurumların bəzilərinin nə qədər boş olmasına baxmayaraq, mən hələ də demokratiyanın və şəxsi mənafeyini düşünən siyasətçilərin əsas riyaziyyatına inanıram. Və getdikcə daha çox səsvermə məlumatları ortaya çıxır ki, amerikalıların əksəriyyəti AI-nin narahatlıqları, sualları və ya risklərinin hazırda faydalarından daha çox olduğunu düşünür.
So I think the flood of money into politics from AI, it’s within all of our power to make that a source of a question mark with respect to politicians. Amerikalılar səs verməyə gedərkən, səs verdikləri insanların, xüsusən də bütün bu narahatlıqları nəzərə alsaq, tənqidi və tənzimləmə əleyhinə olduqları təqdirdə, böyük texnoloji xüsusi maraqlar tərəfindən maliyyələşdirilib-verilmədiyini diqqətlə araşdırmalıdırlar. Düşünürəm ki, insanlar bu kimi parçaları oxuya, bu kimi podkastlara qulaq asa bilsələr və tənqidi düşünmək üçün kifayət qədər qayğı göstərə bilərlərseçicilər kimi onların qərarlarına diqqət yetirən və nəzarəti məcbur edən nümayəndələrdən ibarət Vaşinqtonda seçki dairəsi yaratmaq üçün real fürsət var.
Bu, hazırkı AI sənayesi haqqında hər kəsin dediyini eşitdiyim ən optimist şeylərdən biri ola bilər. Mən bunu yüksək qiymətləndirirəm. Haqqında danışdığınız sorğu ilə bağlıyam. İndi çox var. Hər şey olduqca ardıcıldır və belə görünür ki, gənclər, xüsusən də süni intellektə nə qədər çox məruz qalırlarsa, bir o qədər inamsız və qəzəblidirlər. Bu, bütün sorğuların valentliyidir. Mən buna baxıram və düşünürəm ki, bəli, ağıllı siyasətçilər buna qarşı çıxacaqlar. Sadəcə, "biz böyük texnologiyanı cavabdeh edəcəyik" deyərdilər.
Sonra mən son 20 il haqqında düşünürəm, bir siyasətçi böyük texnologiyanı məsuliyyətə cəlb edəcəklərini söyləyir və mən böyük texnologiyanın bir an belə cavabdeh olduğunu tapmaqda çətinlik çəkirəm. Məni bunun fərqli ola biləcəyini düşünməyə vadar edən yeganə şey budur ki, siz həqiqətən məlumat mərkəzlərini qurmalısınız və bunun əleyhinə səs verə bilərsiniz və buna qarşı petisiya verə bilərsiniz və buna etiraz edə bilərsiniz.
Düşünürəm ki, bir məlumat mərkəzinə səs verdikləri üçün evlərinə atəş açan bir siyasətçi var. Gərginlik çatır, mən buna qızdırma meydançası deyərdim. Silikon Vadisinin təcridini təsvir etdiniz. Bu qapalı ekosistemdir. Sanki dünyanı idarə edə biləcəklərini düşünürlər. Onlar siyasətə bir ton pul qoyurlar və insanların məhsulları sevməmələri reallığına qarşı çıxırlar ki, bu da onlara çox örtük vermir. Məhsullardan nə qədər çox istifadə etsələr, bir o qədər kədərlənirlər və siyasətçilər təmsil etdikləri insanlar üzərində texnologiya sənayesini dəstəkləməyin real nəticələrinin olduğunu görməyə başlayırlar.
Çox adamla danışmısan. Sizcə, texnologiya sənayesi onların qarşısında duran dərsi öyrənə bilərmi?
Deyirsiniz ki, onlar dünyanı məsuliyyətsiz idarə edə biləcəklərini düşünürlər. Düşünmürəm ki, bunun "hiss olunur" seçicisinə ehtiyacı var. Demək istəyirəm ki, Peter Thiel-in istifadə etdiyi dilə baxırsan, bu açıqdır. Təbii ki, bu ifrat bir nümunədir. Sam Altman isə Thiel-in ideologiyası ilə müəyyən dərəcədə yaxın və məlumatlı olsa da, fərqli və bir nöqtəyə qədər ölçülə bilən çox fərqli bir insandır.
Ancaq Thiel-dən əldə etdiyiniz daha geniş ideologiyanı düşünürəm, bu, əsasən: Demokratiya ilə işimiz bitdi, artıq ona ehtiyacımız yoxdur. Bizdə o qədər çox şey var ki, sadəcə öz kiçik bunkerlərimizi tikmək istəyirik. Biz artıq Karnegilərlə və ya Rokfellerlərlə iş görmürük, burada onlar pis adamlardır, lakin onlar sosial müqavilədə iştirak etməli və insanlar üçün əşyalar qurmalı olduqlarını düşünürlər. Orada qurulmuş əsl nihilizm var.
Düşünürəm ki, bu, Amerikanın son tarixində maqnatların və özəl şirkətlərin super dövlət hakimiyyəti əldə etməsi, onları məsuliyyətə cəlb edə biləcək demokratik təsisatların boşaldılması zamanı bir-birini gücləndirən bir spiral idi. Mən o adamların bir gün oyanıb düşünə biləcəyi fikrinə nikbin baxmıram: “Hə, əslində bəlkə biz cəmiyyətdə iştirak etməliyik və insanlar üçün bir şey qurmağa kömək etməliyik”.
Demək istədiyim odur ki, siz “Giving Pledge”in mikrokosmik nümunəsinə bənzəyirsiniz, burada elə bir an var idi ki, o, xeyriyyəçilik kimi görünürdü və o an indi keçmişdir və hətta ələ salınır. Bu, bir problemdir, daha geniş məsuliyyətsizlik problemidir ki, məncə, bunu ancaq xaricdən həll etmək olar. Bu, hökumət nəzarətinin gücünü səfərbər edən və dirildən seçicilər olmalıdır. İnsanların buna nail ola biləcəyi əsas vektorun yerli olduğunu söyləməkdə tam haqlısınız. Bu, infrastrukturun harada qurulduğu ilə bağlıdır.
Bunun ətrafında zorakılıq və təhdidlərə səbəb olan bəzi ağ-qaynar gərginlikdən bəhs etdiniz və açıq-aydın heç kim zorakılıq etməməli və ya təhdid etməməlidir. Həm də mən burada əsas görünən və dünyanın başqa yerlərində işləyən bəzi siyasət addımlarını təqdim etməkdən başqa konkret siyasət tövsiyələri vermək üçün burada deyiləm, elə deyilmi? Yaxud başqa sektorlarda çalışmış şəxslər. Bunlardan hansının və necə icra edilməli olduğunu söyləmək üçün burada deyiləm.
I do think something needs to happen, and it needs to be external, not just trusting these companies. Çünki doğruİndi elə bir vəziyyətimiz var ki, texnologiyanı inkişaf etdirən və riskləri başa düşmək üçün ən yaxşı təchizata malik olan və əslində bizi risklər barədə xəbərdar edən şirkətlər də sürətlə getməyə və bu risklərə məhəl qoymamağa həvəsləndirən şirkətlərdir. Və bunun qarşısını almaq üçün heç bir şeyiniz yoxdur. Beləliklə, spesifiklik baxımından hansı islahatlar aparıla bilərsə, buna qarşı bir şey olmalıdır. Mən hələ də insanların hələ də vacib olduğu nikbinliyinə qayıdıram.
Mən ümumiyyətlə sizin arqumentinizi alıram. İcazə verin, izah edə biləcəyim bir kiçik əks arqumenti deyim. Seçki qutusundan kənarda baş verə biləcək başqa bir şey, qabarcığın partlamasıdır, elə deyilmi? Bütün bu şirkətlər finiş xəttinə çatmır və istehlakçı AI tətbiqləri üçün uyğun məhsul bazarı yoxdur. Yenə də mən bunu hələ tam görmürəm, amma mən istehlakçı texnologiyası üzrə rəyçiyəm və bəlkə də hamıdan daha yüksək standartlara sahibəm.
İş dünyasında məhsul bazarına uyğunluq var, elə deyilmi? Bir dəstə AI agentinin bir dəstə proqram yazması bu alətlər üçün əsl bazar kimi görünür. Bu şirkətlərin arqumentlərini oxuya bilərsiniz: "Biz kodlaşdırmanı həll etdik və bu o deməkdir ki, biz hər şeyi həll edə bilərik. Proqram təminatı yarada bilsək, istənilən problemi həll edə bilərik."
Düşünürəm ki, proqram təminatının edə biləcəyi şeylər üçün real məhdudiyyətlər var. Bu, iş dünyasında əladır. Proqram reallıqda hər problemi həll edə bilməz, lakin onlar ora çatmalıdırlar. Onlar işi bitirməlidirlər və bəlkə də hamı finişə çata bilmir. Və qəza baş verir və bu qabarcıq çıxır və ola bilsin, OpenAI və ya Anthropic və ya xAI, bu şirkətlərdən biri uğursuz olur və bütün bu investisiyalar yox olur.
Sizcə, bu, buna təsir edəcəkmi? Əslində ilk sualı verim. OpenAI IPO-nun zirvəsindədir. Semin lider kimi olması ilə bağlı çoxlu şübhələr var. Sizcə, onlar finiş xəttinə çatacaqlar?
Proqnoz vermək niyyətində deyiləm, amma düşünürəm ki, siz vacib bir məqamı qaldırırsınız, odur ki, bazar stimulları Silikon Vadisi üçün daxili əhəmiyyət kəsb edir və mövcud köpük dinamikasının qeyri-müəyyənliyi, tənqidçilərin fikrincə, təhlükəsizlik üzrə aşağıya doğru yarışı yenidən dayandırır.
Mən bunu da əlavə edərdim, əgər oxşar və zahirən keçilməz bazar təşviqlərinin və ictimaiyyət üçün potensial zərərli təsirlərin mövcud olduğu tarixi üstünlüyə baxsanız, təsirli məhkəmə çəkişmələri var. Və bunu son vaxtlar narahatlıq doğuran bir sahə kimi görürsünüz. Sam Altman bu həftə orada, məsələn, AI şirkətlərini, məsələn, OpenAI-nin qanunsuz ölüm iddialarında məruz qaldığı bəzi məsuliyyət növlərindən qoruyacaq qanunvericiliyi təsdiqləyir. Əlbəttə ki, məsuliyyətdən qorunmaq istəyi var.
Düşünürəm ki, məhkəmələr hələ də mənalı mexanizm ola bilər və bu kostyumların necə formalaşacağını görmək həqiqətən maraqlı olacaq. Siz artıq, məsələn, mənim və bir çox digər tanıdığım müəlliflərin üzvü olduğum, müəllif hüququ altında olan kitablardan istifadə etdiklərinə görə Anthropic-ə qarşı məhkəmə iddiasını artıq gördünüz. Böyük tütündən tutmuş böyük enerjiyə qədər olan işlərdə tarixən gördüyümüz kimi, qayğı göstərən ağıllı hüquqi ağıllar və iddiaçılar varsa, siz həmçinin sürəti azaltmaq, diqqətli olmaq və ya insanları bu şəkildə qorumaq üçün bəzi qoruyucu barmaqlıqlar və bəzi təşviqlər əldə edə bilərsiniz.
Belə hiss olunur ki, AI sənayesinin bütün xərc strukturu ədalətli istifadənin çox, çox xeyriyyəçi bir şərhindən asılıdır. Kifayət qədər gəlmir. Bu şirkətlərin məsrəf strukturu sizə və işini gördükləri hər kəsə ödəməli olsalar, nəzarətdən çıxa bilər, lakin bu barədə düşünmək əlverişsizdir, ona görə də biz bu barədə düşünmürük. Bunun yanında bütün bu məhsullar indi zərərlə işləyir. Bu gün olduğu kimi, hamısı itki ilə işləyir. Onlar qazana bildiklərindən daha çox pul yandırırlar. Müəyyən bir nöqtədə açarı çevirməli olurlar.
Sam iş adamıdır. Bir neçə dəfə qeyd etdiyiniz kimi, o, texnoloq deyil. O, iş adamıdır. Sizcə o, açarı çevirib “Biz dollar qazanacağıq?” deməyə hazırdırmı? Çünki mən soruşduqda "Sizcə OpenAI bunu bacaracaqmı?" Dollar qazanmalı olduqları zamandır. Və indiyə qədər Sem bütün dollarlarını şirkətlərinin pul qazanması əvəzinə başqa insanlardan pullarını istəməklə qazanıb.
Bu, Silikon Vadisi, investorlar və ictimaiyyət üçün böyük bir sualdır.OpenAI-dan bəzi açıqlamalar və hərəkətlər görürsünüz ki, bu, bir növ çaxnaşma yaradır. Sora-nın bağlanması, bəzi köməkçi layihələrin bağlanması, əsas məhsulu sıfırlamağa çalışması. Ancaq digər tərəfdən, yenə də, eyni zamanda, tonlarla missiyanın süründüyünü görürsən, elə deyilmi? Hətta kiçik bir nümunə - bu, açıq-aydın onların biznesi üçün əsas deyil - TBPN alınmasıdır.
Yeri gəlmişkən, finiş xəttinə və faktların yoxlanmasına çatdığımız zaman bu cür jurnalist araşdırması ilə üzləşən şirkət söhbətə daha birbaşa nəzarət edə biləcək bir platforma əldə edir. Düşünürəm ki, apardığım söhbətlərə əsasən narahat olan bir çox investor var ki, bütün insanlara hər şeyi vəd etmək problemi həm də əsas biznes modelindəki diqqətsizliklə əlaqədardır. Demək istəyirəm ki, siz bazarı proqnozlaşdırmaq və izləmək növünə məndən daha yaxınsınız. Sizi və dinləyiciləri OpenAI-nin keçidi çevirə biləcəyini düşündükləri barədə mühakimə etməyə buraxacağam.
Yaxşı, mən sualı ona görə verdim ki, sizdə Microsoft-un yüksək səviyyəli rəhbərlərindən bir sitat var və bu, Stiv Cobsa deyil, “Samın mirası Bernie Madoffa və ya Sam Bankman-Friedə daha çox bənzəyəcək”. Bu, kifayət qədər müqayisədir. Bu müqayisədən nə çıxardın?
Məncə, bu bir ifadədir. Stiv Cobs hissəsi sitatın bir hissəsi deyildi. Ancaq bunun maraqlı bir təmkinli növü var, çünki o, "Məncə, onun SBF və ya Madoff səviyyəli fırıldaqçı olması üçün kiçik, lakin real şans var" kimi ifadə edilir. Mənim fikrimcə, Semin bu xüsusi fırıldaqçılıq və ya cinayətlərdə ittiham olunduğu deyil, Semin dağıdılması və aldadılması dərəcəsi sonda bu miqyasda xatırlanmaq şansına sahib ola bilər.
Bəli, məncə, bu sitatda ən diqqət çəkən şey, düzünü desəm, Microsoft-a zəng vurmağınız və "Bu, çılğınlıqdır. Biz bunu heç vaxt eşitməmişik" kimi rəy almamağınızdır. Çox bəyənirsiniz, “Bəli, burada bir çox insan belə düşünür” ki, bu da diqqətəlayiqdir. Düşünürəm ki, bu, işgüzar suallara cavab verir.
Bir investor, məsələn, atəşdən sonrakı illərdə bu xüsusiyyətin necə davam etdiyini nəzərə alaraq, mənə dedi" - və bu da maraqlı ayıq bir fikir olduğunu düşündü - Semin mütləq siyahının mütləq sonunda olması lazım deyil. O, bəlkə də AGI qurmalı olan insanların siyahısının sonunda və bu sahədə bir sıra digər aparıcı fiqurların altındadır.
Buna görə də düşündüm ki, bu, maraqlı bir qiymətləndirmədir və məncə, təhlükəsizlik məsələlərinə o qədər də əhəmiyyət verməyən həqiqi praqmatiklərdən əldə etdiyiniz düşüncə tərzi budur. Onlar sadəcə böyüməyə yönəliblər və OpenAI-nin indi Sam Altmanla problemi olduğunu düşünürlər.
Microsoft parçası həqiqətən maraqlıdır. Bu şirkət dünyanın zirvəsində olduqlarını düşünürdü. Bu sərmayəni etdiklərini və hər kəsi, xüsusən və ən əsası, Google-u sıçrayacaq və istehlakçıların yaxşı lütflərinə qayıtmaq niyyətində idilər. Onların bu macəradan yandığını hiss etdikləri səviyyə - bu, çox ayıq idarə olunan bir şirkətdir - məncə, şişirtmək olmaz.
Siz xarakterləri və şəxsiyyət xüsusiyyətlərini qeyd etdiniz. Burada dinləyicilərimizin sualı ilə bitirmək istəyirəm. Digər verilişimizdə, Vergecast-da sizinlə danışacağımı dedim və dedim: "Bu hekayə ilə bağlı Ronana sualınız varsa, mənə bildirin." Beləliklə, burada təsvir etdiyiniz şeylə səliqəli şəkildə əlaqəli olduğunu düşünən biri var. Mən sadəcə sizə oxuyacağam:
“Altmanın və digər süni intellekt rəhbərlərinin pis davranışı, amansız hərəkətləri üçün əsaslandırmalar Ronanın siyasət və mediada digər yüksək profilli liderlərdən eşitdiyi əsaslandırmalardan nə ilə fərqlənir? Onların hamısı dünyanın belə dəyişdiyini deməklə öz hərəkətlərinə haqq qazandırmırlarmı? Bunu mən etməsəm, başqası edəcək?”
Bəli, bunun ətrafında çox şey var. Deyərdim ki, süni intellekt üçün fərqli cəhət odur ki, ekzistensial payların bu qədər yüksək olması hər iki risk ifadəsinin həddindən artıq olması deməkdir, elə deyilmi? Sizdə Sam Altman var"Bu hamımız üçün işıq ola bilər" deyir. Həm də tənqidçilər deyə bilər ki, sual verənin dediyi maniya həddindən artıqdır, elə deyilmi?
Semin Elonu günahlandırdığı şey, bəlkə də bəşəriyyəti xilas etmək istəyir, ancaq bu, odur. Semin hər zaman istifadə etdiyi və bunun tarix kitabları üçün olduğu bir çərçivə olan qalib gəlmək istəyinin ego komponenti hər şeyi dəyişə bilər. Buna görə də, hətta Silikon Vadisi müəssisələrinin əksəriyyətinin "bir neçə yumurtanı sındırmalısan" təfəkkürünün üstündə və kənarda, AI-yə rəhbərlik edən bəzi fiqurların fikrincə, hər hansı və bütün zərər üçün tam rasionallaşdırma var.
Və yumurta qırmağı unut. Düşünürəm ki, bir çox əsas təhlükəsizlik tədqiqatçıları potensial olaraq ölkəni sındırmaq, dünyanı sındırmaq və işləri və təhlükəsizliyi tarazlıqda olan milyonlarla insanı sındırmaq riskinin olduğunu söyləyəcəklər - bu, onun unikallığıdır. Bu hesabat orqanını əks etdirərək, həqiqətən bunun Sam Altmandan daha çox olduğuna inanaraq, yekunlaşdırdığım yer budur. Bu, məhdudiyyətsiz bir sənaye və Amerikanın onu məhdudlaşdıra bilməməsinin spiral problemi haqqındadır.
Bəli. Yaxşı, orada bir az nikbin idik, amma məncə, bu, onu tərk etmək üçün yaxşı yerdir.
[Gülür] Sonunu uğursuzluqla bitir.
Əlbəttə. Bu, həqiqətən hər bir gözəl hekayədir. Musk-Altman məhkəməsi yaxınlaşır. Düşünürəm ki, biz burada daha çox şey öyrənəcəyik. Sizinlə yenidən danışmaq istəyəcəyimə şübhə edirəm. Ronan Farrow, Dekoderdə olduğunuz üçün çox sağ olun.
təşəkkür edirəm.
Bu epizod haqqında suallarınız və ya şərhləriniz? Bizə [email protected] ünvanından müraciət edin. Biz həqiqətən hər e-poçtu oxuyuruq!
