Bugun Dekoderda men tergov hisobotining eng katta yulduzlaridan biri Ronan Farrou bilan suhbatlashyapman. U ko'plab boshqalar qatorida Xarvi Vaynshteyn hikoyasini buzdi. Va o'tgan haftada u hammuallif Endryu Marantz bilan The New Yorker jurnalida OpenAI bosh direktori Sem Altman, uning ishonchliligi va OpenAI ning o'sishi haqida ajoyib chuqur sho'ng'igan xususiyatni nashr etdi.
Bu yerga borishdan oldin bir eslatma - The New Yorker bu voqeani nashr etdi va Ronan va men Altmanning uyiga qilingan hujumlarning to'liq hajmini bilishimizdan oldin bu suhbatni o'tkazdik, shuning uchun siz bizning bu haqda to'g'ridan-to'g'ri gaplashayotganimizni eshitmaysiz. Ammo shuni aytishim kerakki, menimcha, har qanday zo'ravonlikni qabul qilib bo'lmaydi, Semga qilingan bu hujumlar qabul qilib bo'lmas edi va odamlarning bunday zo'ravonlikka olib keladigan nochorligining o'zi nomaqbuldir va bu soha va siyosiy rahbarlarimiz tomonidan ko'proq tekshirilishiga arziydi. Umid qilamanki, bu aniq.
Verge obunachilari, podkastlaringizni qayerdan olsangiz ham, reklamasiz Dekoder dan eksklyuziv foydalanish imkoniyatini unutmang. Bu yerga bor. Obunachi emasmisiz? Bu yerda roʻyxatdan oʻtishingiz mumkin.
Bularning barchasi, Altman atrofida juda ko'p aylanib yuribdi, bu qat'iy hisobot berish uchun adolatli o'yin - Ronan va Endryu qilishni maqsad qilgan hisobot turi. ChatGPT mashhurligi tufayli Altman bir necha yil ichida bir paytlar notijorat tadqiqot laboratoriyasini deyarli trillion dollarlik xususiy kompaniyaga aylantirib, sun'iy intellekt sanoatining eng ko'zga ko'ringan arbobi sifatida paydo bo'ldi. Ammo Altman haqidagi afsona chuqur qarama-qarshi bo'lib, uning aniq kelishuv qobiliyati va uning atrofidagilarga yolg'on gapirishga moyilligi bilan bir xil darajada aniqlanadi.
Hikoya 17 000 dan ortiq so'zdan iborat bo'lib, unda 2023 yilda OpenAI direktorlar kengashi to'satdan Altmanni yolg'on gapirgani uchun ishdan bo'shatib, uni deyarli bir zumda qayta ishga olishi uchun nima sodir bo'lganligi haqida aniq ma'lumotni o'z ichiga oladi. Bu, shuningdek, Altmanning shaxsiy hayotiga, uning sarmoyalariga, Yaqin Sharq pullariga intilishlariga, shuningdek, uning o'tmishdagi xatti-harakatlari va fe'l-atvoriga oid o'z fikrlariga chuqur kirib boradi, bu esa bir manba uni "haqiqat bilan cheklanmagan" deb aytishga olib keldi. Men sizga butun hikoyani o'qishni tavsiya qilaman; Ko'p yillar davomida havola qilinadi deb o'ylayman.
Ronan Altman bilan 18 oy davomida ko'p marta suhbatlashdi, shuning uchun meni qiziqtirgan asosiy narsalardan biri bu vaqt ichida u Altmanda biron bir o'zgarish sezganmi yoki yo'qmi edi. Oxir oqibat, so'nggi bir yarim yil ichida sun'iy intellektda, texnologiyada va dunyoda ko'p narsa sodir bo'ldi.
Siz Ronanning bu haqda to'g'ridan-to'g'ri gapirayotganini eshitasiz, shuningdek, uning odamlar Altmanning haqiqatni aytish qobiliyati haqida gapirishga ko'proq tayyor bo'lganligini his qilasiz. Odamlar Altman kabi odamlarning xatti-harakati nafaqat sun'iy intellekt yoki texnologiya, balki jamiyatning jamoaviy kelajagi uchun ham bog'liqmi yoki yo'qmi, deb baland ovozda hayron bo'lishni boshlaydilar.
Yaxshi: Ronan Farrou Sem Altman, AI va haqiqat haqida. Qani boshladik.
Ushbu intervyu uzunlik va ravshanlik uchun biroz tahrirlangan.
Ronan Farrou, siz tadqiqotchi muxbirsiz va The New Yorker gazetasining muallifisiz. Dekoderga xush kelibsiz.
Bu yerda ekanligimdan xursandman. Menga ega bo'lganingiz uchun rahmat.
Siz bilan suhbatlashishdan juda xursandman. Siz hozirgina The New Yorker uchun katta asar yozdingiz. Bu Sem Altmanning profili va u bilan birga OpenAI. Mening o'qiganim shuni ko'rsatadiki, barcha ajoyib xususiyatlar kabi, u qat'iy hisobot bilan odamlarning Sem Altmanga nisbatan uzoq vaqtdan beri bo'lgan ko'plab his-tuyg'ularini tasdiqlaydi. Siz uni e'lon qilganingiz aniq, unga munosabat bildirgansiz. Hozir buni qanday his qilyapsiz?
Haqiqatan ham, e'tibor iqtisodiyoti shizofreniya va sayoz bo'lgan davrda uning qanchalik buzilganligi meni juda xursand qildi. Bu, mening fikrimcha, barchamizga ta'sir qiladigan voqea. Va men bir yarim yil umrimni o'tkazganimda va mening hammuallifim Endryu Marantz ham uning o'sha vaqtini haqiqatan ham sud-tibbiy va sinchkovlik bilan bajarishga harakat qilganimda, men har doim odamlarga ta'sir qiladigan kattaroq tizimli muammolar borligini his qilganman.
Sem Altman, Silikon vodiysidagi shov-shuv madaniyati fonida va kelajakda amalga oshishi mumkin bo'lgan va'dalarga asoslangan katta baholarga o'tadigan startaplar va turli guruhlarga turli xil qarama-qarshi narsalarni aytib berishni o'ylaydigan asoschilar madaniyatining tobora kuchayib borayotgani xususiyat emas, balki xususiyatdir.xato... Hatto shu fonda ham Sem Altman g'ayrioddiy holat bo'lib, Silikon vodiysida bunday narsalarni kutayotgan har bir kishi uning ishonchliligi va halolligi haqida gapirishdan to'xtamaydi.
Biz uning insofsizlik yoki yolg'on so'zlash haqidagi da'volari tufayli ishdan bo'shatilganini allaqachon bilardik. Ajoyib reportajlar bo'lishiga qaramay, Keach Xeygey bu borada katta ishlarni amalga oshirdi. Karen Xao bu borada katta ishlarni amalga oshirdi. Haqiqiy da'vo qilingan dalillar va ularning jamoatchilik e'tiboridan chetda qolishi sabablari haqida aniq tushuncha yo'q edi.
Shunday qilib, birinchi nuqta shundaki, bizning jamoatchilik bilimimizdagi va hatto Silikon vodiysi insayderlari bilimidagi ba'zi bo'shliqlar endi biroz ko'proq to'ldirilganligi meni quvontiradi. Bo'shliqlar mavjudligining ba'zi sabablari biroz ko'proq to'ldirildi.
Biz ushbu kompaniya ichidagi odamlar haqiqatan ham narsalarni yashirilgan yoki ataylab hujjatlashtirilmagandek his qilgan holatlar haqida xabar beramiz. Bu hikoyadagi yangi narsalardan biri WilmerHale tomonidan olib borilgan muhim yuridik firma tergovidir, bu shubhasiz, Enron va WorldCom kompaniyalari bilan bog'liq tekshiruvlar o'tkazgan ajoyib, ishonchli va yirik yuridik firma bo'lib, ular, aytmoqchi, yuzlab sahifalar kabi katta hajmli edi. UilmerXeyl ushbu tekshiruvni olib bordi, uni boshqaruv kengashi a'zolari Altmanni ulardan qutulganidan keyin ketish sharti sifatida ishdan bo'shatishdi va u qaytib keldi. Va g'ayrioddiy - men gaplashgan ko'plab huquqshunoslarning nazarida va bu kompaniyadagi ko'plab odamlarning ko'z o'ngida hayratlanarli darajada - ular buni yozishdan saqladilar. Shundan kelib chiqadigan narsa, nima sodir bo'lganini ishonchning buzilishi sifatida tasvirlaydigan OpenAI-ning 800 so'zli press-relizi edi. Va biz bu og'zaki brifinglarda saqlanganligini tasdiqladik.
Masalan, kengash a'zosi OpenAIning asl notijorat shaklini notijorat tashkilotiga aylantirishga qarshi ovoz bermoqchi bo'lgan holatlar mavjud va u betaraf sifatida qayd etilgan. Uchrashuvda bir advokat: "Xo'sh, bu juda ko'p tekshiruvga sabab bo'lishi mumkin" deydi. Qarshi ovoz bermoqchi bo'lgan kishi esa barcha chiqishlarda betaraf sifatida qayd etiladi. Haqiqiy bahs bor. OpenAI, siz tasavvur qilganingizdek, boshqacha da'vo qiladi. Bularning barchasi sizning kelajagimizni o'z qo'lida ushlab turadigan kompaniyangiz bo'lgan holatlardir.
Xavfsizlik qoziqlari shunchalik keskinki, ular o'tib ketmadi. Aynan shuning uchun bu kompaniya xavfsizlikka yo'naltirilgan notijorat tashkilot sifatida tashkil etilgan va bu erda hamma narsa yashiringan va atrofdagi ishonchli odamlar buni professionaldan kamroq deb bilishgan. Va siz buni mazmunli tartibga solish uchun juda kam siyosiy ishtaha mavjud bo'lgan fon bilan birlashtirasiz. Menimcha, bu juda xavfli vaziyat.
Men uchun gap shundaki, Sem Altman bu savollarga shunchalik keskin loyiqdir. Bundan tashqari, ushbu sohadagi yigitlarning har biri va ko'plab asosiy shaxslar, agar bu o'ziga xos bo'lmasa, yolg'on gapirish xususiyatini namoyon qiladi, shubhasiz, ma'lum darajada poygadan pastgacha bo'lgan mentalitet, xavfsizlik tarafdorlari bo'lgan odamlar bu majburiyatlarni buzgan va hamma poygada.
O'ylaymanki, biz Anthropic-dan yaqinda sizib chiqqan narsalarni ko'rib chiqsak, bu asardagi tugmachada kimning barmog'i bo'lishi kerakligi haqida savol tug'diradigan odam bor. Javob shundaki, agar bizda mazmunli nazorat bo'lmasa, menimcha, biz jiddiy savollar berishimiz va bu yigitlarning barchasi haqida iloji boricha ko'proq ma'lumot berishga harakat qilishimiz kerak. Shunday qilib, bu haqdagi mazmunli suhbat yoki suhbatning boshlanishi meni juda xursand qildi.
Buni shunday so‘raganimga sabab, siz bir yarim yil ishlagansiz. Siz hammuallifingiz Endryu bilan 100 kishi bilan gaplashdingiz. Bu hikoya pishirish uchun uzoq vaqt. O'ylaymanki, so'nggi bir yarim yil davomida sun'iy intellekt, ayniqsa, bola, bu belgilarning barchasining munosabati va qadriyatlari juda tez o'zgardi.
Ehtimol, Sem Altmandan boshqasi yo'q, u standart g'olib sifatida boshlangan, chunki ular ChatGPT-ni chiqargan va hamma buni Google uchun o'z zimmasiga oladi deb o'ylagan. Va keyin Google javob berdi, bu ularni Google o'z biznesini, ehtimol biznes tarixi bo'lmasa, texnologiya tarixidagi eng yaxshi bizneslardan birini himoya qilishga harakat qilishidan hayratda qoldirdi. Antropik korxonaga e'tibor qaratishga qaror qildi. Ko'rinib turibdiki, bu buyruqni boshqarmoqdau erda, chunki AIdan korporativ foydalanish juda yuqori.
Endi, OpenAI o'z mahsulotini "biz Google-ni qabul qilamiz" dan Codex-ga qayta yo'naltiradi va ular korxonani o'z zimmalariga olishadi. Men aniq ayta olmayman, so'nggi bir yarim yil davomida hisobot berish jarayonida siz suhbatlashgan qahramonlar o'zgarganmi? Ularning qarashlari va qadriyatlari kabi, ular o'zgarganmi?
Ha. O'ylaymanki, birinchi navbatda, ushbu maqolada ushbu kompaniyalar ichidagi ko'plab odamlar tomonidan aytilgan tanqid - bu ekzistensial ulushlarga qaramay, xavfsizlik bo'yicha poygaga tushib borayotgan va tezlik hamma narsadan ustun turadigan sanoat - bu tashvish yanada keskinlashdi. O'ylaymanki, bu xavotirlar o'tgan bir yarim yil davomida ko'proq tasdiqlandi. Shu bilan birga, Sem Altmanga nisbatan munosabat o'zgardi. Biz bu haqda manbalar bilan gaplasha boshlaganimizda, odamlar haqiqatan ham bu haqda iqtibos keltirishdan va bu haqda rekord o'rnatishdan qo'rqardi.
Bizning hisobotimiz oxiriga kelib, sizda odamlar bu haqda juda ochiq va aniq gapiradigan hisobotlar to'plami bor va siz boshqaruv kengashi a'zolari "U patologik yolg'onchi. U sosyopat" kabi gaplarni aytmoqdasiz. “Xavfsizlik xavflarini hisobga olsak, bu xavflidir va bizga yaxlitlikni oshirgan ushbu texnologiya yetakchilari kerak” va “Xavfsizlik ulushlarini unuting, bu har qanday yirik kompaniyaning har qanday rahbari uchun to'g'ri kelmaydigan xatti-harakatlar, bu juda ko'p disfunktsiyani keltirib chiqaradi.
Shunday qilib, suhbat ancha ravshanroq bo'lib, kechikib qolgandek tuyuladi, lekin bir ma'noda ko'ngilni ochadi. Va Sem Altman, uning sharafiga ... Asar juda adolatli va hatto saxovatli, men Semga aytaman. Bu juda ko'p "sizni oldim" bo'lgan asar emas. Men u bilan ko'p soatlab telefonda gaplashdim, chunki biz buni tugatdik va uni haqiqatan ham eshitdik.
Tasavvur qilganingizdek, bunday asarda hamma narsa o'z ichiga olmaydi. Bu voqeadagi ba'zi holatlar men chin dildan tinglaganim uchun edi. Va agar Sem haqiqatan ham o'zimni suv olib ketayotganini, biror narsa, hatto bu haqiqat bo'lsa ham, sensatsion bo'lishi mumkinligi haqida bahslashayotgan bo'lsa, men haqiqatan ham bu sud-tibbiyot va o'lchovni saqlash tarafida xato qilganman. Shunday qilib, menimcha, bu to'g'ri qabul qilinmoqda va umid qilamanki, bu vaqt davomida to'plangan ushbu faktik yozuvlar nazorat zarurligi haqida yanada mustahkamroq suhbatni boshlashi mumkin.
Bu aslida mening keyingi savolim. O'ylaymanki, siz ushbu voqeani aytib berish davomida Sem bilan o'nlab marta gaplashgansiz. Shunga qaramay, bu uzoq vaqt davomida juda ko'p suhbatlar. Sizningcha, Sem so'nggi bir yarim yil davomida hisobot davomida o'zgarganmi?
Ha. Menimcha, buning eng qiziqarli subsyujetlaridan biri shundaki, Sem Altman ham bu xususiyat haqida o'tmishdagidan ko'ra aniqroq gapiradi. Ushbu asardagi Semning pozitsiyasi: "U erda hech narsa yo'q, bu haqiqat emas; men nima haqida gapirayotganingizni bilmayman". Uning so'zlariga ko'ra, bu odamlarga yoqadigan tendentsiya va o'ziga xos nizolarni rad etish bilan bog'liq. U bu unga, ayniqsa, karerasining boshida muammolarni keltirib chiqarganini tan oladi.
U: "Xo'sh, men bundan o'tib ketyapman yoki qaysidir ma'noda undan o'tib ketganman" deydi. O'ylaymanki, men uchun juda qiziq bo'lgan narsa biz suhbatlashgan odamlar kontingenti bo'lib, ular nafaqat xavfsizlik bo'yicha himoyachilar, balki xavfsizlik muammolariga tez-tez duch keladigan asosiy texnik tadqiqotchilar emas, balki pragmatik, yirik investorlardir. Ular Semning tarafdorlari bo'lib, ular ba'zi hollarda bu savolga qarashadi va hatto otib tashlanganidan keyin qaytib kelishida asosiy rol o'ynaganliklari haqida gapirishadi. Endi u isloh qilinganmi va bu o'zgarish qay darajada mazmunli degan savolga, ular: "Yaxshi, biz unga o'sha paytda shubhaning foydasini berdik", deyishadi.
Men, xususan, bir taniqli investor haqida o'ylayapman, u shunday degan edi: "Ammo o'shandan beri u o'tinxona orqasida olib ketilmaganga o'xshaydi", bu iborani kerakli darajada ishlatgan. Natijada, bu endi barqaror xususiyatga o'xshaydi. Biz buni doimiy ravishda ko'rib turibmiz. Siz OpenAI ning eng yirik biznesiga qarashingiz mumkinmunosabatlar va ular ushbu ishonchsizlikning og'irligini doimiy ravishda ko'tarish usuli.
Microsoft-da bo'lgani kabi, siz u erda rahbarlar bilan gaplashasiz va ular haqiqatan ham o'tkir va yaqinda tashvishga solmoqda. Shu kunning o‘zida OpenAI fuqaroligi bo‘lmagan sun’iy intellekt modellari bo‘yicha Microsoft bilan o‘zining eksklyuzivligini yana bir bor tasdiqlaydi, shuningdek, Amazon bilan yangi shartnomani e’lon qiladi, bu esa statistik AI agentlarini yaratish uchun korporativ yechimlarni sotish bilan bog‘liq, ya’ni ularning xotirasi bor.
Siz Microsoft odamlari bilan gaplashasiz va ular: "Bizda eksklyuzivlik shartnomasi mavjud bo'lgan asosiy narsalar bilan o'zaro aloqa qilmasdan buni qilish mumkin emas". Shunday qilib, bu ko'plab kichik misollardan faqat bittasi, bu xususiyat doimo davom etayotgan biznes faoliyatiga ta'sir qiladi va OpenAI boshqaruv kengashida, uning boshqaruv guruhida va kengroq texnologiya hamjamiyatida faol tashvish mavzusidir.
Siz o'sha "xislat" ni aytishda davom etasiz. Hikoyada men uchun tezisga o'xshab ketadigan satr bor va bu siz tasvirlayotgan xususiyatning tavsifi. Bu "Sem Altman haqiqat bilan cheklanmaydi" va u "bir odamda deyarli hech qachon uchramaydigan ikkita xususiyatga ega: birinchisi, odamlarni mamnun qilish, har qanday muloqotda yoqtirish istagi, ikkinchisi - kimnidir aldash natijasida yuzaga kelishi mumkin bo'lgan oqibatlarga deyarli sotsiopatik darajada tashvishlanmaslik".
Sizga shuni aytishim kerakki, men bu jumlani 500 marta o'qib chiqdim va men har doim odamlarga nima yoqishni xohlayotganini aytishni va keyin yolg'on gapirganda xafa bo'lmaslikni tasavvur qilishga harakat qildim. Va men o'zimning hissiy holatimni qanday qilib bir odamda mavjud bo'lishi mumkinligini tushunolmadim. Siz Sem bilan ko'p gaplashgansiz va bu xususiyatlarni boshdan kechirgan odamlar bilan gaplashgansiz. U buni qanday qiladi?
Ha. Bu insoniy darajada qiziq, chunki men bu kabi hisobot organlariga kimning markazida bo'lsa, uni insoniylashtirishga va chuqur tushunish va hamdardlik izlashga e'tibor qarataman. Men bunga ko'proq insoniy nuqtai nazardan yondashishga harakat qilganimda: "Agar men ishlagan juda ko'p odamlar meni patologik yolg'onchi deb aytishsa, bu men uchun halokatli bo'lardi. Bu og'irlikni qanday ko'tarasiz? Terapiyada bu haqda qanday gapirasiz? Bu haqda o'zingizga qanday hikoya qilasiz?"
Menda, mening fikrimcha, G'arbiy Sohilda "Ha, men nafas olishni yaxshi ko'raman" kabi oddiy gaplarni oldim. Ammo, agar biz o'z xatti-harakatlarimiz va odamlarga bo'lgan munosabatimiz haqida bunday fikr-mulohazalarni ko'rsak, ko'pchiligimiz o'ylaymanki, o'z-o'ziga nisbatan chuqur qarama-qarshilik tuyg'usi unchalik ko'p emas.
Menimcha, bu aslida savolga kengroq javob beradi. Semning ta'kidlashicha, bu xususiyat muammolarga sabab bo'lgan, ammo bu unga OpenAI ning o'sishini shunchalik tezlashtirishga imkon bergan narsaning bir qismi bo'lib, u turli guruhlarni birlashtirib, ularni xursand qila oladi. U doimiy ravishda bu qarama-qarshi saylov okruglarining barchasini ular nimaga g'amxo'rlik qilayotgani unga g'amxo'rlik qilishiga ishontirmoqda. Va bu asoschi uchun juda foydali mahorat bo'lishi mumkin. Men investorlar bilan gaplashdim, ular: "Ehtimol, bu kompaniyani boshqarish uchun unchalik foydali bo'lmagan mahoratdir, chunki u juda ko'p kelishmovchiliklarni keltirib chiqaradi".
Ammo Semning shaxsiy tomonida, men insoniy darajada bog'lanishga harakat qilganimda, men tushunadigan narsa, chuqur qarama-qarshilik, mulohaza yuritish va o'z-o'zidan hisobdorlikning aniq yo'qligi, bu esa IPOga tayyorlanayotgan kompaniya uchun super kuch yoki javobgarlikdan dalolat beradi.
U Syu Yun ismli sobiq direktorlar kengashi a'zosining so'zlariga ko'ra, u "bema'nilik" iborasini ishlatadigan iborada yozilgan, o'zining savdo maydonlarining o'zgaruvchan haqiqatiga haqiqatan ham ishona oladigan yoki o'zini ularga ishontira oladigan odam. Yoki hech bo'lmaganda, agar u ularga ishonmasa, u o'z-o'zidan shubhalanmasdan ular orqali o'tib keta oladi.
O'ylaymanki, siz aytayotgan narsa, siz yoki men qaerda bo'lishimiz mumkin, biz aytayotganimiz va bu biz bergan boshqa ishonchga zid ekanligini anglaganimiz uchun, bir lahza muzlab qolish yoki o'zimizni tekshirishimiz mumkin. Menimcha, bu u bilan sodir bo'lmaydi. Va Silikon vodiysida kengroq shov-shuv madaniyati va asoschilar madaniyati mavjud, ular buni qamrab oladi.
Bu kulgili. Verge mahsulot sharhlariga asoslanadidastur. Bu biz bu erda qilayotgan ishimizning yuragi. Men yiliga bir marta trillion dollarlik Apple ilmiy-tadqiqot ishlarini olib boraman va “Bu telefon yettita” deb aytaman. Va bu bizning barcha hisobotlarimiz va boshqa joylarda bizning fikrimizni qonuniylashtiradi. Bizda baholash funksiyasi bor va biz sun'iy intellekt mahsulotlarini ko'rib, "Ular ishlaydimi?" Deb ko'p vaqt sarflaymiz.
Bu bugungi kunda bo'lgani kabi AI haqidagi ko'plab suhbatlarda etishmayotgandek tuyuladi. Bu nima qilishi mumkinligi, qanchalik xavfli bo'lishi haqida cheksiz suhbat bor. Va keyin siz burg'ulash va siz: "Bu haqiqatan ham bugungi kunda qilish kerak bo'lgan ishni qiladimi?" Ba'zi hollarda javob ha. Lekin ko'p, ko'p hollarda, javob yo'q.
Bu siz ta’riflayotgan shov-shuv madaniyatiga, shuningdek, agar siz u nimadir qiladi desangiz-u, amalga oshmasa va kimdir o‘zini yomon his qilsa, bu yaxshi, chunki biz keyingi narsaga o‘tamiz. Bu o'tmishda. Ayniqsa, sun'iy intellektda Sem katta va'dalarni berishda juda yaxshi.
Aynan shu hafta, menimcha, sizning hikoyangiz nashr etilgan kunning o'zida, OpenAI ijtimoiy shartnomani qayta ko'rib chiqishimiz va hukumatdan AI samaradorligi stipendiyalariga ega bo'lishimiz kerakligi haqida siyosat hujjatini chiqardi. Bu ba'zi texnologiyalar dunyo kelajagini qanday shakllantirishi va biz qanday yashashi haqidagi katta va'dadir va bularning barchasi texnologiyaning aynan ishlashiga va'da qilingan yoki ishlashi kerak bo'lgan tarzda ishlashiga tayanadi.
Siz Semning sun'iy intellektning AGI yoki super intellektga aylanishiga yoki marraga yetib borishiga shubha qilayotganini ko'rganmisiz? Chunki bu meni eng ko'p qiziqtiradigan narsa. Ushbu asosiy texnologiya ular qila oladigan barcha narsalarni qila oladimi, degan fikr bormi?
Bu to'g'ri savollar to'plami. Ushbu hisobotlar bo'limida biz gaplashgan ishonchli texnologlar bor - va aniqki, Sem Altman ulardan biri emas; u ishbilarmon odam - Semning ushbu texnologiya uchun vaqt jadvali haqida gapiradigan usuli juda uzoqda, deydi. Bir necha yil orqaga qaytgan blog postlari bor, u yerda Sem shunday deydi: "Biz voqea ufqiga yetib keldik. AGI asosan shu yerda. Superrazvedka burchakda. Biz boshqa sayyoralarda bo'lamiz. Biz saratonning barcha shakllarini davolaymiz ". To'g'risi, men bezatganim yo'q.
Saraton kasalligi aslida qiziq, Sem o'z itining saratonini ChatGPT yordamida nazariy jihatdan davolagan odamni aldayapti va bu shunchaki sodir bo'lmadi. Ular ChatGPT bilan suhbatlashdilar va bu ularga ishni amalga oshirgan ba'zi tadqiqotchilarni yo'naltirishga yordam berdi, ammo bu itni davolagan yakkama-yakka bu vosita aslida hikoya emas.
Men bu fikrni ko'targaningizdan xursandman, chunki men texnologiyaning potentsiali va xavfi haqiqatan ham qachon paydo bo'lishi haqida kattaroq fikrga o'tmoqchiman. Ammo Sem Altmanning doimiy ravishda sodir bo'ladigan kichik tomonlarini eslatib o'tish kerak, bu erda u bu xususiyatni yana bir bor o'zida mujassam etganga o'xshaydi.
Aytmoqchimanki, WilmerHale hisoboti misolida, bizda yozilmagan ma'lumotlar bor edi va yo'lda og'zaki brifing uni nazorat qilish uchun o'rnatishga yordam bergan ikki boshqaruv kengashi a'zosidan boshqa hech kimga berilganmi yoki yo'qligini bilmoqchi edik. Va u shunday dedi: "Ha, ha, yo'q, menimcha, bu boshqaruv kengashiga keyin qo'shilganlarning barchasiga berilgan." Vaziyatni to'g'ridan-to'g'ri biladigan odamimiz bor, bu shunchaki yolg'on. Va bu haqiqatan ham shunday ko'rinadi, bu haqiqat emas. Agar biz saxiy bo'lishni istasak, ehtimol u noto'g'ri ma'lumotga ega.
Bunday tasodifiy kafolatlar juda ko'p. Va men bu misolni qisman ishlataman, chunki bu qonuniy ravishda haqiqiy oqibatlarga olib kelishi mumkin bo'lgan qismlarga ajratishning ajoyib namunasidir. Delaver korporativ qonunchiligiga ko'ra, agar ushbu kompaniya IPO qilsa, aktsiyadorlar 220-moddaga binoan bu haqda shikoyat qilishlari va asosiy hujjatlarni talab qilishlari mumkinligini aytishim shart emas. Boshqaruv a'zolari allaqachon "Bir daqiqa kutib turing, bu brifing bo'lishi kerak edi" kabi gaplarni aytishmoqda.
Shunday qilib, har doim uning og'zidan sakrab chiqadigan bu narsalar, ular haqiqiy bozorga ta'sir qiladigan, OpenAI uchun haqiqiy effektlarga ega bo'lishi mumkin. Uni qayta paydo bo'lgan utopik shov-shuv tiliga qaytarish, menimcha, bu asar chiqqan kuni tasodifan emas, balki hammamizga ham ta'sir qiladi, chunki uning yo'li bilan bog'liq xavflar juda keskin.Qurol-yarog'da qo'llanilishi, kimyoviy urush agentlarini aniqlashda foydalanish usuli, dezinformatsiya potentsiali va utopik shov-shuv ko'plab ishonchli iqtisodchilarni "Bu pufakning barcha belgilariga ega" deyishga undayotganga o'xshaydi.
Hatto Sem Altman ham shunday degan: "Bu erda kimdir juda ko'p pul yo'qotadi". Bu haqiqatan ham Amerika va global iqtisodiy o'sishning ko'p qismini buzishi mumkin, agar bu kompaniyalarning barchasi bir-biri bilan bitimlar tuzgan va juda katta miqdorda qarz olayotgan paytda AI bilan shug'ullanadigan pufakning haqiqiy teshilishi kabi bo'lsa. Demak, Sem Altmanning aytganlari muhim va menimcha, uning atrofidagi odamlarning ko'pligi, biz yuzdan ortiq odam bilan gaplashganimizni aytdingiz, aslida bu yuzdan oshib ketdi. Biz marra chizig'ida suhbat qurdik, u erda: "Bu juda katta raqam deb aytish juda kichik bo'larmidi?" Va biz: "Ha, keling, pastroq qilaylik. Biz buni yaxshi o'ynaymiz". Ammo juda ko'p odamlar bor edi va ularning ko'pchiligi: "Bu tashvishli" dedi. Va o'ylaymanki, bularning barchasi shuning uchun.
Sizdan o'sha raqam haqida so'rayman. Siz aytib o'tganingizdek, vaqt o'tishi bilan odamlar tashvishlari bilan ko'proq ochiq bo'lishdi. Bu qabariq atrofidagi bosim - g'alaba qozonish uchun poyga, bu barcha investitsiyalarni to'lash, g'olib sifatida chiqish, IPO uchun - ko'p munosabatlarni o'zgartirgandek tuyuladi. Bu, albatta, Sam va OpenAIga ko'proq bosim o'tkazdi.
Biz shu hafta OpenAI tebranishlari haqida hikoya nashr qildik. Sizning hikoyangiz uning bir qismidir, lekin OpenAI-da rahbarlar saflarida katta kadrlar o'zgarishi - odamlar kelishadi va ketishadi. Tadqiqotchilarning barchasi, asosan, Antropikga yo'l olishdi, menimcha, bu juda qiziq. Siz shunchaki bu kompaniya bosimni his qilayotganini va u qandaydir tarzda bu bosimga javob berayotganini ko'rishingiz mumkin.
Ammo keyin Sem ishdan bo'shatilganini o'ylayman. Bu men uchun shunchaki esda qolarli. Bu hech kim uchun esda qolarli emas, lekin men juma kuni soat 19:00 da Bronks hayvonot bog'ida manba qo'ng'iroq qildim va kimdir Semni qaytarib olishga harakat qilishlarini aytdi. Va keyin biz hafta oxirini o'sha voqeani quvib o'tkazdik. Va men shunchaki: "Men hayvonot bog'idaman. Bu erda nima qilishimni xohlaysiz?" Va javob: "Telefonda qoling". Qizim: “Telefonni o‘chir”, dedi. Va men shunday qildim.
Semni qaytarish uchun minish yoki o'lish kerak edi. O'sha kompaniya: "Yo'q, biz kengash Sem Altmanni ishdan bo'shatishiga ruxsat bermaymiz" degan edi. Sarmoyadorlar, ular sizning maqolangizda keltirilgan: "Biz urushga bordik", menimcha, "Trive Capital" pozitsiyasi, "Semni qaytarish uchun". Microsoft Semni qaytarish uchun urushga kirdi. Bu keyinroq, hozir esa hamma: "Biz IPOga chiqamiz. Biz marraga yetib keldik. Biz yigitimizni qaytarib oldik va u bizni marraga olib chiqadi. Biz u yolg‘onchi ekanidan xavotirdamiz".
Nega uni qaytarib olish uchun urush bo'ldi? Chunki aslida hech narsa o'zgarmaganga o'xshaydi. Siz Ilya Sutskever va [Antropik bosh direktor] Dario Amodei Sem Altmanning zamondoshlari bo'lganlarida saqlagan eslatmalar haqida gapirasiz. Ilyaning birinchi tashvishi Semning yolg'onchi ekanligi edi.
Bularning hech biri o'zgarmadi. Xo'sh, nega uni o'sha paytda qaytarish uchun urush edi? Va endi biz marra chizig'iga kelganimizdan so'ng, barcha tashvishlar ochiq bo'lib qolganga o'xshaydi.
Xo'sh, birinchi navbatda, sizning qizingiz va mening sherigim va jurnalistlar atrofidagi barcha odamlardan kechirim so'rayman.
[Kuladi] Hamma uchun dam olish kuni bo'ldi.
Ha, bu insonning hayotini oladi va bu hikoya, albatta, oxirgi vaqt ichida menikiga ega. Bu, menimcha, bu jurnalistika va axborotga kirish mavzusiga tegishli. Sem uchun urushga borgan sarmoyadorlar va ularning barchasi uning qaytib kelishiga ishonch hosil qilishda rol o'ynaganlar va notijorat tashkilotning o'sish ustidan xavfsizlikni qo'yish va agar ularga ishonib bo'lmasa, rahbarni ishdan bo'shatish missiyasini himoya qilish uchun maxsus ishlab chiqilgan kengash, ular ketishdi. Buning sababi, ha, bozor imtiyozlari bor edi, to'g'rimi?
Sem odamlarni ishontira oldi: "Xo'sh, kompaniya parchalanib ketadi". Ammo uning qo'llab-quvvatlanishining sababi ma'lumot etishmasligi edi. Bu investorlar, ko'p hollarda, endi: "Men orqaga qarayman va agar men da'volar va tashvishlar nima ekanligini to'liq bilganimda, ko'proq tashvishga tushishim kerak edi, deb o'ylayman."
Ularning hammasi emas;fikrlar xilma-xildir va biz bir qator fikrlarni keltiramiz, lekin juda qisman ma'lumotlarga tayangan muhimlari bor. Semni ishdan bo'shatgan doska, bir paytlar doskada bo'lgan bir kishining so'zlariga ko'ra, "juda qo'shma korxona" edi va ular to'pni qattiq tebratishdi. Va biz asosiy shikoyatlarni hujjatlashtiramiz va odamlar o'zlari his qilgan shoshilinch tashvishga to'planishi yoki to'planishini o'zlari hal qilishlari mumkin, ammo bu dalil va ma'lumotlar taqdim etilmagan.
Ular ba'zilari endi yomon huquqiy maslahat deb tan olgan narsalarni oldilar. Buni ta'riflash uchun siz iqtibosni eslaysiz va ehtimol sizning ko'plab tinglovchilaringiz va tomoshabinlaringiz bu iqtibosni samimiylik etishmasligi sifatida eslab qolishadi. Bu qisqartirilgan edi va keyin ular qo'ng'iroqlarni qabul qilmadilar.
Ular qo'ng'iroqlarni qabul qilmadilar. Ishonchim komilki, siz sinab ko'rdingiz. Men bilganlarning barchasi sinab ko'rdi va shu darajaga yetdiki, siz jurnalist sifatida o'z manbalaringizga maslahat bermasligingiz kerak, lekin men: "Agar o'zingizni tushuntirishni boshlamasangiz, bu o'tib ketadi" dedim.
Va shunday bo'ldi. Jurnalistlarni unuting. Siz Satya Nadella: "Nima bo'ldi? Men hech kimni menga tushuntirishga majbur qila olmayman", deb aytdi. Va bu kompaniyaning asosiy moliyaviy yordamchisi. Va keyin siz Satya [LinkedIn hammuassisi] Reid Xofmanga qo'ng'iroq qildi va Reid atrofga qo'ng'iroq qilib, "Men nima bo'lganini bilmayman" deyishdi.
Ular tushunarli ma'lumotlarning bo'shligida, bunday shoshilinch, to'satdan otishmani oqlaydigan an'anaviy AI bo'lmagan ko'rsatkichlarni qidirmoqdalar. Xo'sh, bu jinsiy jinoyatlarmi? Bu o'g'irlikmi? Va menimcha, bu texnologiya boshqacha va bu kabi kichik xiyonatlarning doimiy to'planishi bu biznes uchun ham, balki dunyo uchun ham muhim ulushlarga ega bo'lishi mumkinligi haqidagi barcha nozik, ammo mazmunli dalillar yo'qolgan. Shunday qilib, kapitalistik rag'batlar g'alaba qozondi, lekin uni yaratgan odamlar ham chiqib ketishdi va har doim ham to'liq ma'lumot bilan ishlamadilar.
Men bir lahzaga "hamma buni nima deb o'ylagan" jihati haqida so'ramoqchiman, chunki men, albatta, yangilikni ko'rdim va "Oh, yomon narsa sodir bo'lgandir" dedim. Siz juda ko'p #MeToo hisobotlarini qildingiz, mashhur. Siz Xarvi Vaynshteyn hikoyasini buzdingiz.
Siz bu da'volar haqida xabar berishga ko'p vaqt sarfladingiz, menimcha, siz oxir-oqibat asossiz deb qaror qildingiz: Altman voyaga etmaganlarga jinsiy tajovuz qilgan yoki jinsiy aloqa xodimlarini yollagan yoki hatto OpenAI ma'lumotlarini tarqatuvchini o'ldirgan. Aytmoqchimanki, siz bu haqda eng qattiq xabar bera oladigan odamsiz. Hech narsa bo'lmadi, deb qaror qildingizmi?
Xo'sh, qarang, men biror narsa bekor bo'ldi deyish bilan shug'ullanmayman. Aytishim mumkinki, men bu da'volarni bir necha oy davomida ko'rib chiqdim va ular uchun tasdiq topmadim. Va men uchun hayratlanarli bo'ldiki, bu bolalar, bizning kelajagimiz ustidan juda katta kuchga ega bo'lgan bu kompaniyalar haqiqatan ham bolalarcha loyga qarshi kurashda o'z vaqtlari va resurslarining nomutanosib miqdorini sarflaydilar.
Bir rahbar buni "Shekspir" deb ta'riflaydi. Xususiy tergovchining pullari va tuzilayotgan muxolifatning ma'lumotlari to'xtovsiz. Va afsuski, Semning raqobatchilari tomonidan to'tiqushga duchor bo'ladigan bema'ni narsalar shunchaki taxmin qilingan haqiqat, shunday emasmi? U voyaga etmagan o'g'il bolalarni ta'qib qilmoqda va Silikon vodiysidagi ko'plab kokteyl kechalarida siz buni eshitasiz. Konferentsiyada men buni ishonchli, taniqli rahbarlar tomonidan takrorlanganini eshitdim: "Bu haqiqat ekanligini hamma biladi."
Achinarlisi shundaki, men bu qaerdan kelib chiqqanligi, turli vektorlar orqali uzatilishi haqida gapiraman. Ilon Mask va uning hamkorlari haqiqatan ham juda qattiq ma'lumotlar yig'ishtirishga urinayotganga o'xshaydi. Siz aslida asosiy da'volarni ko'rib chiqishni boshlaganingizda ular bug'lanadi. Achinarlisi shundaki, u haqiqatan ham bu erda ko'proq dalillarga asoslangan tanqidlarni yashiradi, menimcha, haqiqatan ham shoshilinch nazorat va e'tiborga loyiqdir.
Hikoyada haqiqatan ham paydo bo'ladigan boshqa mavzu - Semning juda ko'p do'stlari borligidan qo'rqish hissi - u Y Combinator bosh direktori sifatidagi oldingi rolidan tortib, shaxsiy investitsiyalarigacha juda ko'p kompaniyalarga sarmoya kiritgan, ularning ba'zilari OpenAI bosh direktori roli bilan to'g'ridan-to'g'ri ziddiyatli - va uning atrofida sukunat hukm surmoqda.
Bu, ayniqsa, bir satrni o‘qiyotganimda hayratga tushdi. Siz Ilya Sutskeverning eslatmalarini tasvirlaysiz va ular faqat Silikon vodiysida. Hammaularni Ilya eslatmalari deb ataydi. Ammo buning atrofida hatto sukunat ham mavjud. Ular o'tib ketishdi, lekin ular muhokama qilinmaydi. Sizningcha, bu qayerdan keladi? Bu qo'rquvmi? Bu farishta sarmoyasini olish istagimi? Bu qayerdan keladi?
Menimcha, bu juda qo'rqoqlik, men halol bo'laman. Milliy xavfsizlik haqidagi hikoyalar haqida xabar berib, manbalar hamma narsani yo'qotib, jinoiy javobgarlikka tortilishi mumkin bo'lgan ma'lumot tarqatuvchilar bo'lib, ular hali ham to'g'ri ish qiladilar va javobgarlikka tortiladigan narsalar haqida gapirishadi. Men siz aytib o'tgan jinsiy jinoyatlar bilan bog'liq hikoyalar ustida ishladim, bu erda manbalar chuqur shikastlangan va shaxsiy jazodan qo'rqishadi.
Ko'pgina hollarda, bu zarba atrofida siz o'z profili va kuchiga ega odamlar bilan ishlaysiz. Ularning o'zlari mashhur odamlar yoki ular mashhur odamlar bilan o'ralgan. Ular kuchli biznes hayotiga ega. Menimcha, ular uchun bu narsalar haqida gapirish juda past darajada. Yaxshiyamki, igna yuqorida aytganimizdek harakatlanmoqda va odamlar endi ko'proq gapirmoqda.
Ammo uzoq vaqt davomida odamlar bu haqda jim bo'lishadi, chunki menimcha, Silikon vodiysi madaniyati shafqatsizlarcha shaxsiy manfaatdor va shafqatsizlarcha biznes va o'sishga yo'naltirilgan. Shunday qilib, menimcha, bu hatto Semni ishdan bo'shatishda ishtirok etgan ba'zi odamlarga ham ta'sir qiladi, siz keyingi kunlarda ko'rgansiz, ha, uning qaytib kelishiga va eski boshqaruv a'zolarining ishdan bo'shatilishiga sabab bo'lgan omillardan biri u sarmoyadorlarni o'z ishiga aralashganligi edi.
Ammo yana bir narsa shundaki, atrofdagi juda ko'p tashvishga tushgan va ularni zudlik bilan aytgan odamlar shamolning teskari tomonga esayotganini ko'rishlari bilan salfetkadek buklanib, ohanglarini o'zgartirdilar va ular foyda poezdiga tushishni xohlashdi.
Rostini aytsam, muxbir sifatida mening nuqtai nazarimdan juda qorong'i.
O'sha odamlardan ba'zilari Mira Muratidir, menimcha, u 20 daqiqa davomida OpenAIning yangi bosh direktori bo'lgan. Keyin uni almashtirdilar. Bu juda murakkab dinamika edi va aniqki, Sem qaytib keldi. Boshqa odam - Ilya Sutskever, u Semni olib tashlash uchun ovozlardan biri edi, keyin u o'z fikrini o'zgartirdi yoki hech bo'lmaganda fikrini o'zgartirdi, keyin esa o'z kompaniyasini ochish uchun ketdi. Bilasizmi, uning fikrini o'zgartirishga nima majbur qildi? Bu shunchaki pul edimi?
Xo'sh, va tushunarli bo'lishi uchun, men bu ikkisini ajratib ko'rsatmayapman. Otishmada ishtirok etgan boshqa boshqaruv a'zolari ham bor, ular ham keyin jim bo'lishgan. Menimcha, bu kengroq jamoaviy muammoga o'xshaydi. Bular, ba'zi hollarda, ogohlantiruvchi va radikal choralar ko'rish uchun ma'naviy tolaga ega bo'lgan odamlardir va bu maqtovga loyiqdir. Va shunday qilib siz javobgarlikni kafolatlaysiz. Bu ushbu texnologiyadan ta'sirlangan ko'plab odamlarga yordam berishi mumkin edi. Bu sanoatga yanada mazmunli xavfsizlikka yo'naltirilgan bo'lishiga yordam berishi mumkin edi.
Ammo ma'lumot tarqatuvchilar va bu javobgarlikka tez-tez turtki berishga harakat qiladigan odamlar bilan ish olib borsangiz, siz buni amalga oshirish va o'z e'tiqodingizga sodiq qolish uchun tolalar kerakligini ko'rasiz. Va bu soha haqiqatan ham o'z e'tiqodlarida turmaydigan odamlar bilan to'la.
Garchi ular qandaydir tarzda barcha mehnatni yo'q qiladigan yoki ko'proq mehnat yaratadigan raqamli Xudoni qurmoqdalar deb o'ylashsa ham, yoki biror narsa sodir bo'ladi.
Xo'sh, bu narsa. Shunday qilib, o'z e'tiqodingizga sodiq qolmaslik madaniyati va sizning biznesdagi mavqeingizga tahdid solishi mumkin bo'lgan har qanday jazirama yoki har qanday axloqiy tashvishlar yo'l chetiga tushib qolishi, har qanday turdagi vidjetlarni ishlab chiqaradigan odatdagidek biznes kompaniyalari uchun ma'lum darajada yaxshi va yaxshi bo'lishi mumkin.
Ammo bular ham xuddi shunday odamlar: "Bu hammamizni o'ldirishi mumkin". Va yana, Terminator Skynet ekstremaliga borish shart emas. Allaqachon amalga oshirilayotgan bir qator xavf-xatarlar mavjud. Bu haqiqat va ular bu haqda ogohlantirishlari to'g'ri, lekin siz boshqa birovning kresloga psixologiyasini berishingiz kerak bo'ladi, bu ikki narsa bir xil odamlarda qanday yashashi mumkin, ular shoshilinch ogohlantirishlarni eshitadilar, ular oyoq barmoqlarini qo'yib, nimadir qilishga harakat qilishlari mumkin, keyin ular shunchaki buklanishadi va jim bo'lishadi.
Aynan shuning uchun siz bunday narsalarni yozishdan saqlanish va narsalarni gilam ostida supurish holatlariga duch kelishingiz mumkin va bu haqda yillar davomida hech kim ochiq gapirmaydi.
Bu erda tabiiy, mas'uliyatli tomon bu kompaniyalarning bosh direktorlari bo'lmaydi; hukumatlar bo'lardi. Qo'shma Shtatlarda, ehtimolbu shtat hukumatlari, ehtimol bu federal hukumatdir.
Albatta, bu kompaniyalarning barchasi global bo'lishni xohlaydi. Bu erda juda ko'p global oqibatlar mavjud. Men OpenAI, Google va Anthropic kompaniyalari Bayden ma'muriyatini AI bo'yicha buyruq chiqarishga undaganini ko'rdim. Oxir-oqibat bu juda tishsiz edi. Bu shunchaki ular o'zlarining modellari nimalarga qodir ekanligi haqida gapirishlari va ba'zi xavfsizlik sinovlarini chiqarishlari kerakligi aytildi. Va keyin ularning barchasi Trampni qo‘llab-quvvatladi va Tramp kirib, hammasini yo‘q qildi va “Biz raqobatbardosh bo‘lishimiz kerak, bu hamma uchun bepul. Buning uchun boring”, dedi.
Shu bilan birga, ularning barchasi neft pullari ko'p bo'lgan va iqtisodlarini o'zgartirmoqchi bo'lgan Yaqin Sharq davlatlaridan mablag' yig'ishga harakat qilmoqda. Bu siyosatchilar. Menimcha, siyosatchilar kimdir ikki tomondan gapirayotganini aniq tushunishlari kerak va agar kimdir oxir-oqibat hafsalasi pir bo'lsa, ular juda xafa bo'lmaydilar, lekin siyosatchilarni ham sayr qilishmoqda. Nima uchun shunday deb o'ylaysiz?
Bu, menimcha, nima uchun bu asar mening nazarimda muhim va nima uchun bu vaqt va tafsilotlarni sarflashga arziydi. Biz, siz aytganingizdek, nazoratni ta'minlashi kerak bo'lgan tizimlar shunchaki bo'sh bo'lgan muhitdamiz. Bu Post-Fuqarolar Birlashgan Amerikasi, bu erda pul oqimi juda cheklanmagan va bu muammoning AI atrofida to'planishi, bu erda PAClar ko'payib, pulni shtat va federal darajada mazmunli tartibga solishni bekor qilish uchun suv bosadi.
Sizda [OpenAI asoschisi] Greg Brokman bor, Semning ikkinchi qo'mondoni, ularning bir nechtasiga bevosita katta hissa qo'shgan. Bu haqiqatan ham qonun chiqaruvchilar va potentsial tartibga soluvchilarni qo'lga kiritish mumkin bo'lgan vaziyatga olib keladi va bu spiraldan chiqish qiyin. Achinarlisi shundaki, menimcha, oddiy siyosat harakatlari bor, ularning ba'zilari dunyoning boshqa joylarida sinovdan o'tkazilmoqda va bu javobgarlik muammolarini hal qilishga yordam beradi.
Siz ko'proq majburiy joylashtirishdan oldin xavfsizlik sinoviga ega bo'lishingiz mumkin, bu Evropada chegara modellari uchun allaqachon sodir bo'layotgan narsadir. Sizda ichki tekshiruvlar turlari uchun yozma ommaviy rekord talablari yanada qattiqroq bo'lishi mumkin, biz bu holatda narsalarni yozmaslikni ko'rdik. Sizda Sem Altman ilgari surayotgan Yaqin Sharq infratuzilmasining ambitsiyalari uchun milliy xavfsizlikni tekshirish mexanizmlarining yanada mustahkam to'plami bo'lishi mumkin.
Aytganingizdek, u “Bizni tartibga soling, bizni tartibga soling” deb, Bayden maʼmuriyati bilan oʻzaro oʻrtoqlashdi va ularga buyruq chiqarishda yordam berdi va Tramp kirishi bilanoq, haqiqatan ham birinchi kunlarda “Tezlashtiraylik va Abu-Dhabida yirik maʼlumotlar markazi kampusini quraylik”. Ehtimol, bu juda oddiy, masalan, ma'lumot tarqatuvchi himoyasi. Ushbu maqolada havola qilinayotgan xavfsizlik muammolarini oshkor qiladigan AI kompaniyasi xodimlarini himoya qiladigan federal qonun yo'q.
Bizda OpenAIda xavfsizlik bo'yicha katta mutaxassis bo'lgan Yan Leyke kompaniyada super moslashuvni boshqargan holatlar mavjud. U kengashga yozadi, asosan ma'lumot tarqatuvchi material va kompaniya o'zining xavfsizlik missiyasidan voz kechayotganini aytadi. Aynan shunday odamlar bo'lishi mumkin bo'lgan nazorat organiga ega bo'lishi kerak va ular boshqa sohalarda biz ko'rgan turdagi qonuniy himoyaga ega bo'lishi kerak. Bu Sarbanes-Oxley uslubidagi rejimni takrorlash uchun oddiy.
Menimcha, Kremniy vodiysi hokimiyatning barcha tutqichlari ustidan nazoratni o‘z zimmasiga olishi bilan bog‘liq muammo qanchalik o‘tkir bo‘lsa ham, nazorat va to‘siqlarni ta’minlaydigan ushbu institutlarning ba’zilari bo‘sh bo‘lishiga qaramay, men hali ham demokratiyaning asosiy matematikasiga ishonaman va o‘z manfaatini ko‘zlovchi siyosatchilar. Amerikaliklarning aksariyati AIning tashvishlari, savollari yoki xavflari hozirda foydadan ustun turadi deb o'ylaydigan so'rov ma'lumotlari tobora ko'payib bormoqda.
Shunday qilib, menimcha, AIdan siyosatga pul oqimi, buni siyosatchilarga nisbatan savol belgisiga aylantirish bizning barcha kuchimizda. Amerikaliklar ovoz berishga borganlarida, ular o'zlari ovoz bergan odamlar, ayniqsa, ular tanqidiy bo'lmasa va tartibga qarshi bo'lsa, bu barcha xavotirlarni hisobga olgan holda, katta texnologiyaning maxsus manfaatlari tomonidan bankrot bo'lganligini tekshirishlari kerak. Menimcha, agar odamlar shunga o'xshash asarlarni o'qiy olsalar, shunga o'xshash podkastlarni tinglasa va tanqidiy fikr yuritish uchun etarlicha g'amxo'rlik qilsalarularning saylovchilar sifatidagi qarorlarini kuzatib borish va nazoratni majburlash uchun Vashingtonda saylov okrugini yaratish uchun haqiqiy imkoniyat bor.
Bu hozirgi AI sanoati haqida kimdir aytganini eshitgan eng optimistik fikrlarimdan biri bo'lishi mumkin. Men buni qadrlayman. Men siz aytayotgan so'rovga berilib ketdim. Hozir juda ko'p. Bularning barchasi juda izchil va ko'rinib turibdiki, yoshlar, xususan, sun'iy intellektga qanchalik ko'p duchor bo'lishsa, ular shunchalik ishonchsizlik va g'azablanishadi. Bu barcha so'rovlarning valentligi. Va men bunga qarayman va menimcha, ha, aqlli siyosatchilar bunga qarshi kurashadilar. Ular shunchaki: "Biz katta texnologiyalarni javobgarlikka tortamiz", deyishadi.
Keyin men so'nggi 20 yil haqida o'ylayman, bir siyosatchi katta texnologiyalarni javobgarlikka tortishlarini aytdi va men hatto bir lahzalik katta texnologiyani javobgarlikka tortish uchun kurashaman. Meni bu boshqacha bo'lishi mumkin deb o'ylaydigan yagona narsa shundaki, siz haqiqatan ham ma'lumotlar markazlarini qurishingiz kerak va siz bunga qarshi ovoz berishingiz mumkin va siz bunga qarshi petitsiya qilishingiz mumkin va bunga qarshi norozilik bildirishingiz mumkin.
O'ylaymanki, ma'lumotlar markaziga ovoz bergani uchun o'z uyini otib tashlagan siyosatchi bor. Taranglik yetib bormoqda, men buni isitma balandligi deb atagan bo'lardim. Siz Silikon vodiysining izolyatsiyasini tasvirlab berdingiz. Bu yopiq ekotizim. Ular dunyoni boshqarishi mumkin deb o'ylayotgandek tuyuladi. Ular siyosatga bir tonna pul qo'ymoqdalar va odamlar mahsulotlarni yaxshi ko'rmasliklari haqidagi haqiqatga qarshi chiqishmoqda, bu esa ularga ko'p himoya bermaydi. Ular mahsulotlardan qanchalik ko'p foydalanishsa, shunchalik xafa bo'lishadi va siyosatchilar texnologiya sanoatini o'zlari vakili bo'lgan odamlarga nisbatan qo'llab-quvvatlashning haqiqiy oqibatlari borligini ko'ra boshlaydilar.
Siz juda ko'p odamlar bilan gaplashdingiz. Sizningcha, texnologiya sanoati ularning oldida turgan saboqni o'rganishi mumkinmi?
Sizningcha, ular dunyoni javobgarliksiz boshqarishlari mumkin deb o'ylayotgandek tuyuladi. Menimcha, bu "feels" saralashiga muhtoj emas. Aytmoqchimanki, siz Piter Til ishlatayotgan tilga qaraysiz, bu aniq. Albatta, bu haddan tashqari misol. Sem Altman, garchi u ma'lum darajada Tilning mafkurasi bilan yaqin bo'lsa va undan xabardor bo'lsa-da, juda boshqacha va ma'lum darajada o'lchanadigan odam.
Ammo menimcha, siz Thieldan olgan kengroq mafkura, ya'ni asosan: Biz demokratiya bilan tugatdik, endi bizga kerak emas. Bizda shunchalik ko'p narsa borki, biz o'z kichik bunkerlarimizni qurmoqchimiz. Biz endi Karnegilar yoki Rokfellerlar bilan shug'ullanmaymiz, bu erda ular yomon odamlardir, lekin ular ijtimoiy shartnomada ishtirok etishlari va odamlar uchun narsalarni qurishlari kerakligini his qilishadi. Haqiqiy nigilizm o'rnatilgan.
Va menimcha, bu Amerikaning so'nggi tarixidagi o'zaro mustahkamlovchi spiral bo'lib, mogullar va xususiy kompaniyalar super hukumat hokimiyatiga ega bo'lib, ularni javobgarlikka tortishi mumkin bo'lgan demokratik institutlar bo'shatilgan. Men bu bolalar bir kun uyg'onib: "Ah, biz jamiyatda ishtirok etishimiz va odamlar uchun narsalarni qurishga yordam berishimiz kerakdir" deb o'ylashlari mumkin degan fikrga nisbatan optimistik his qilmayman.
Aytmoqchimanki, siz “Berish va’dasi”ning mikrokosmik misoliga o‘xshaysiz, u yerda bir lahza xayriya bo‘lib tuyulgan va o‘sha lahza endi o‘tgan va hatto masxara qilingan. Bu muammo, menimcha, mas'uliyatning yo'qligi muammosi faqat tashqi tomondan hal qilinishi mumkin. Bu saylovchilar hukumat nazorati kuchini safarbar qilish va tiriltirish bo'lishi kerak. Odamlar bunga erishishlari mumkin bo'lgan asosiy vektor mahalliy ekanligini aytishga to'g'ri keldingiz. Bu infratuzilma qurilayotgan joyga bog'liq.
Siz zo'ravonlik va tahdidlarga olib keladigan ba'zi oq-issiq taranglik haqida gapirdingiz va shubhasiz, hech kim zo'ravonlik yoki tahdid qilmasligi kerak. Bundan tashqari, men bu yerda oddiy bo‘lib ko‘ringan va dunyoning boshqa joylarida ishlayotgan ba’zi siyosat qadamlarini taqdim etishdan tashqari aniq siyosat tavsiyalarini berish uchun emasman, to‘g‘rimi? Yoki boshqa sohalarda ishlaganlar. Men ulardan qaysi biri va qanday qilib qatl qilinishi kerakligini aytmoqchi emasman.
Menimcha, biror narsa bo'lishi kerak va bu faqat bu kompaniyalarga ishonish emas, balki tashqi bo'lishi kerak. Chunki to'g'riEndi bizda shunday vaziyat borki, texnologiyani rivojlantirayotgan va xavflarni tushunish uchun eng yaxshi jihozlangan va aslida bizni xavf-xatarlar haqida ogohlantiruvchi kompaniyalar ham tez borishga va bu xavflarni e'tiborsiz qoldirishga undashdan boshqa hech narsaga ega emaslar. Va sizda bunga qarshi hech narsa yo'q. Demak, o'ziga xoslik nuqtai nazaridan qanday islohotlar o'tkazilishidan qat'i nazar, bunga qarshi nimadir bo'lishi kerak. Va men hali ham odamlar muhim degan optimizmga qaytaman.
Men sizning argumentingizni odatda sotib olaman. Keling, men o'ylaymanki, men aytaman deb o'ylaydigan kichik bir qarama-qarshilikni keltiraman. Saylov qutisidan tashqarida sodir bo'lishi mumkin bo'lgan yana bir narsa - pufak paydo bo'ladi, to'g'rimi? Bu kompaniyalarning hammasi ham marra chizig'iga etib bormaydi va iste'molchi sun'iy intellekt dasturlari uchun mahsulot bozori mavjud emas. Va yana, men buni hali to'liq ko'rmayapman, lekin men iste'molchi texnologiyalari sharhlovchisiman va ehtimol men boshqalarga qaraganda yuqoriroq standartlarga egaman.
Ish dunyosida mahsulot bozori mos keladi, to'g'rimi? Bir qator AI agentlariga ega bo'lish, bir nechta dasturiy ta'minotni yozish ushbu vositalar uchun haqiqiy bozorga o'xshaydi. Va siz ushbu kompaniyalarning argumentlarini o'qishingiz mumkin: "Biz kodlashni hal qildik va bu biz hamma narsani hal qila olamiz. Agar biz dasturiy ta'minot yarata olsak, biz har qanday muammolarni hal qila olamiz".
Menimcha, dasturiy ta'minot qila oladigan narsalarning haqiqiy chegaralari bor. Bu biznes olamida juda yaxshi. Dasturiy ta'minot haqiqatda har qanday muammoni hal qila olmaydi, lekin ular u erga borishlari kerak. Ular ishni tugatishlari kerak va ehtimol hamma ham marraga etib boravermaydi. Va halokat yuz berdi va bu pufak paydo bo'ladi va ehtimol OpenAI yoki Anthropic yoki xAI, bu kompaniyalardan biri muvaffaqiyatsizlikka uchraydi va bu sarmoyalarning barchasi yo'qoladi.
Sizningcha, bu bunga ta'sir qiladimi? Aslida birinchi savolni bersam. OpenAI to'g'ridan-to'g'ri IPO ostonasida. Semga rahbar sifatida ko'p shubhalar bor. Sizningcha, ular marraga etib boradilarmi?
Men bashorat qilmoqchi emasman, lekin menimcha, siz muhim bir fikrni aytasiz, ya'ni bozor rag'batlantirishlari Silikon vodiysi uchun muhim ahamiyatga ega va hozirgi pufak dinamikasining beqarorligi, tanqidchilarning fikriga ko'ra, xavfsizlik bo'yicha poygani yana to'xtatib qo'yishi mumkin.
Men shuni qo'shimcha qilamanki, agar siz tarixiy ustunlikka nazar tashlasangiz, unda shunga o'xshash va o'tib bo'lmaydigan ko'rinadigan bozor imtiyozlari va jamoatchilik uchun potentsial zararli ta'sirlar mavjud bo'lsa, unda sud jarayoni mavjud. Va siz buni so'nggi paytlarda tashvishli soha sifatida ko'rasiz. Sem Altman shu hafta u erda AI kompaniyalarini, masalan, OpenAI nohaq o'lim da'volarida duchor bo'lgan ba'zi javobgarlik turlaridan himoya qiladigan qonunni ma'qullaydi. Albatta, bu javobgarlikdan himoyalanish istagi bor.
Menimcha, sudlar hali ham mazmunli mexanizm bo'lishi mumkin va bu kostyumlar qanday shakllanayotganini ko'rish juda qiziq. Siz, masalan, men va men biladigan boshqa koʻplab mualliflar aʼzosi boʻlgan, mualliflik huquqi ostida boʻlgan kitoblardan foydalanganliklari uchun Anthropic-ga qarshi daʼvo arizasini allaqachon koʻrgansiz. Agar g'amxo'rlik qiladigan aqlli huquqiy aqllar va da'vogarlar bo'lsa, biz tarixan katta tamakidan tortib to katta energiyagacha bo'lgan holatlarda ko'rganimizdek, siz sekinlashtirish, ehtiyot bo'lish yoki odamlarni himoya qilish uchun ba'zi himoya to'siqlari va rag'batlarni ham olishingiz mumkin.
Bu AI sanoatining barcha xarajatlar tarkibi adolatli foydalanishning juda xayriya talqiniga osilgandek tuyuladi. Etarlicha chiqmaydi. Agar ular sizga va o'zlari ishlagan boshqa har bir kishiga to'lashlari kerak bo'lsa, bu kompaniyalarning xarajatlar tarkibi nazoratdan chiqib ketishi mumkin, ammo bu haqda o'ylash noqulay, shuning uchun biz bu haqda o'ylamaymiz. Shu bilan birga, bu mahsulotlarning barchasi endi zarar ko'rmoqda. Bugungi kabi, ularning barchasi yo'qotish bilan ishlamoqda. Ular ishlashlari mumkin bo'lganidan ko'ra ko'proq pul sarflashadi. Bir nuqtada ular kalitni aylantirishlari kerak.
Sem tadbirkor. Siz bir necha bor ta'kidlaganingizdek, u texnolog emas. U ishbilarmon odam. Sizningcha, u kalitni o'girib, "Biz dollar ishlab olamiz?", deyishga tayyormi? Chunki men so'raganimda: "Sizningcha, OpenAI buni uddalay oladimi?" Ular dollar ishlab chiqarishlari kerak bo'lganda. Va hozirgacha Sem o'zining barcha dollarlarini kompaniyalari pul topish o'rniga boshqa odamlardan pullarini so'rash orqali ishlab topgan.
Xo'sh, bu Silikon vodiysi, investorlar va jamoatchilik uchun katta savol.Siz OpenAI-dan ba'zi bayonotlar va harakatlarni ko'rasiz, ular bu borada qandaydir vahima uyg'otadi. Sora-ni yopish, ba'zi yordamchi loyihalarni yopish, asosiy mahsulotni nolga tushirishga harakat qilish. Ammo, boshqa tomondan, siz hali ham bir vaqtning o'zida tonnalab missiyani ko'ryapsiz, shunday emasmi? Hatto kichik bir misol - bu ularning biznesi uchun asosiy ahamiyatga ega emas - TBPN sotib olish.
Aytgancha, biz marraga yetib borganimizda va faktlarni tekshirishda, bunday jurnalistik tekshiruvga duch kelgan kompaniya suhbatni to'g'ridan-to'g'ri nazorat qila oladigan platformaga ega bo'ldi. O'ylaymanki, ko'plab sarmoyadorlar, men bo'lgan suhbatlarimga asoslanib, barcha odamlarga hamma narsani va'da qilish muammosi asosiy biznes modelidagi e'tiborsizlikka ham taalluqlidir. Aytmoqchimanki, siz mendan ko'ra bozorni prognozlash va kuzatish turiga yaqinroqsiz. Men sizni va tinglovchilarni OpenAI kalitni o'zgartira oladimi, deb o'ylashlari uchun hakam bo'lishini qoldiraman.
Xo'sh, men savolni berdim, chunki sizda Microsoft kompaniyasining yuqori lavozimli rahbaridan iqtibos bor va bu Stiv Jobsga emas, balki "Semning merosi Berni Medoff yoki Sem Bankmen-Fridga o'xshash bo'lishi mumkin". Bu juda taqqoslash. Bu taqqoslashdan qanday xulosaga keldingiz?
Menimcha, bu ibora. Stiv Jobs qismi iqtibosning bir qismi emas edi. Ammo buning qiziqarli turi bor, chunki u "Menimcha, u SBF yoki Madoff darajasidagi firibgar bo'lib qolishi uchun kichik, ammo haqiqiy imkoniyat bor" kabi ifodalangan. Menimcha, Sem firibgarlik yoki jinoyatlarning o'ziga xos turlarida ayblanayotgani emas, balki Semni aldash va aldash darajasi oxir-oqibat shu miqyosda eslab qolish imkoniyatiga ega bo'lishi mumkin.
Ha, menimcha, bu iqtibosning eng hayratlanarli tomoni, rostini aytsam, siz Microsoft-ga qo'ng'iroq qilasiz va sizga "Bu aqldan ozgan. Biz buni hech qachon eshitmaganmiz" degan javobni olmaysiz. Siz juda ko'p "Ha, bu erda ko'p odamlar shunday deb o'ylashadi", bu ajoyib. Va menimcha, bu biznes savollariga javob beradi.
Bir investor menga, masalan, ishdan bo'shatilgandan keyingi yillar davomida bu xususiyat saqlanib qolganligini hisobga olib, "va bu ham qiziqarli va aqlli fikr edi - bu Sem ro'yxatning mutlaq eng quyi qismida bo'lishi shart emasligini aytdi. u, ehtimol, AGI ni yaratishi kerak bo'lgan odamlar ro'yxatining pastki qismida va bu sohadagi boshqa etakchi shaxslar ostida.
Shunday qilib, men bu qiziqarli baho deb o'yladim va menimcha, siz xavfsizlik masalalariga unchalik e'tibor bermaydigan haqiqiy pragmatistlardan olasiz deb o'ylayman. Ular shunchaki o'sishga yo'naltirilgan va ular endi OpenAIda Sem Altman bilan muammo bor deb o'ylashadi.
Microsoft parchasi juda qiziq. Bu kompaniya ularni dunyoning eng yuqori pog'onasida deb o'ylardi. Ular bu sarmoyani amalga oshirganliklari va ular hammani, ayniqsa, eng muhimi, Googleni sakrab o'tib, iste'molchilarning yaxshi inoyatiga qaytishga tayyor edilar. Ular bu sarguzashtdan o'zlarini qanday darajada kuydirdilar - bu juda ehtiyotkorlik bilan boshqariladigan kompaniya - menimcha, ortiqcha baholab bo'lmaydi.
Siz xarakterlar va shaxsiy xususiyatlarni eslatib o'tdingiz. Shu o‘rinda tinglovchilarimizning savoli bilan yakunlamoqchiman. Men boshqa ko‘rsatuvimiz “The Vergecast”da siz bilan gaplashmoqchi ekanligimni aytdim va “Agar Ronanga bu voqea haqida savollaringiz bo‘lsa, menga xabar bering”, dedim. Shunday qilib, bizda bittasi bor, menimcha, siz ta'riflayotgan narsaga juda mos keladi. Men buni sizga o'qib chiqmoqchiman:
“Oltman va boshqa sun’iy intellekt rahbarlarining yomon xulq-atvori, shafqatsiz xatti-harakatlari uchun asoslar Ronan siyosat va ommaviy axborot vositalaridagi boshqa nufuzli rahbarlardan eshitgan dalillardan qanday farq qiladi? Ularning hammasi o'z harakatlarini dunyo shunday o'zgaradi deb oqlamaydimi? Agar men buni qilmasam, boshqasi qiladimi? ”
Ha, juda ko'p narsa bor. Aytishim kerakki, sun'iy intellektning o'ziga xos jihati shundaki, ekzistensial ulushlar shunchalik yuqori bo'lishi xavf haqidagi bayonotlar ham haddan tashqari ekanligini anglatadi, to'g'rimi? Sizda Sem Altman bor"Bu barchamiz uchun yorug'lik bo'lishi mumkin", dedi. Bundan tashqari, tanqidchilar aytishlari mumkinki, savol beruvchi nazarda tutayotgan maniya haddan tashqari, to'g'rimi?
Sem Ilonni ayblagan narsa, ehtimol u insoniyatni qutqarishni xohlaydi, lekin agar u bo'lsa. G'alaba qozonishni xohlashning ego komponenti turi, ya'ni Sem har doim foydalanadigan ramka va bu tarix kitoblari uchun bir narsa, bu hamma narsani o'zgartirishi mumkin. Shuning uchun, hatto Kremniy vodiysidagi aksariyat korxonalarning "bir nechta tuxumni sindirish kerak" degan fikrlaridan tashqari, AIni boshqaradigan ba'zi raqamlarning fikriga ko'ra, har qanday va har qanday nosozlik uchun to'liq ratsionalizatsiya mavjud.
Va tuxumni sindirishni unutmang. O'ylaymanki, xavfsizlik bo'yicha ko'plab tadqiqotchilar mamlakatni buzish, dunyoni buzish va ishi va xavfsizligi muvozanatda bo'lgan millionlab odamlarni buzish xavfi borligini aytishadi - bu uning o'ziga xos tomoni. O'sha erda men ushbu hisobot to'plami haqida fikr yuritib, bu Sem Altmandan ko'ra ko'proq narsa ekanligiga ishonaman. Bu cheklanmagan sanoat va Amerikaning uni cheklab qo'yolmasligi bilan bog'liq spiral muammosi haqida.
Ha. Xo'sh, u erda bizda biroz optimizm bor edi, lekin menimcha, bu uni tark etish uchun yaxshi joy.
[Kuladi] Oxirgi tushkunlik bilan yakunlang.
Albatta. Bu har bir ajoyib hikoya, haqiqatan ham. Musk-Altman sud jarayoni yaqinlashmoqda. O'ylaymanki, biz bu erda ko'proq narsani o'rganamiz. Men siz bilan yana gaplashmoqchiman deb o'ylayman. Ronan Farrou, Dekoderda bo'lganingiz uchun katta rahmat.
Rahmat.
Ushbu epizod haqida savollar yoki sharhlar? Bizni [email protected] manziliga yuboring. Biz haqiqatan ham har bir xatni o'qiymiz!
