Бүгін Декодерде мен бүгін жұмыс істейтін тергеу репортажының ең үлкен жұлдыздарының бірі Ронан Фарроумен сөйлесіп жатырмын. Ол көптеген басқалардың арасында Харви Вайнштейн тарихын бұзды. Өткен аптада ол және бірлескен авторы Эндрю Маранц The New Yorker журналында OpenAI бас директоры Сэм Альтман, оның сенімділігі және OpenAI-дің өркендеуі туралы керемет терең ойды жариялады.
Одан әріге бармас бұрын бір ескертпе — Нью-Йоркер бұл оқиғаны жариялады және Ронан екеуміз бұл әңгімені Альтманның үйіне жасалған шабуылдардың толық көлемін білмей тұрып жүргіздік, сондықтан бұл туралы тікелей сөйлескенімізді естімейсіз. Бірақ жай ғана айта кетейін, менің ойымша, кез келген түрдегі зорлық-зомбылыққа жол берілмейді, Сэмге жасалған бұл шабуылдар қабылданбайды және мұндай зорлық-зомбылыққа әкелетін адамдар сезінетін дәрменсіздіктің өзі қабылданбайды және бұл саладан да, біздің саяси көшбасшылардан да көбірек тексеруге тұрарлық. Бұл түсінікті деп үміттенемін.
Verge жазылушылары, подкасттарды қай жерде алсаңыз да, жарнамасыз декодерге эксклюзивті қол жеткізе алатыныңызды ұмытпаңыз. Мұнда жүріңіз. Жазылушы емессіз бе? Мұнда тіркелуге болады.
Мұның бәрі Альтманның айналасында көп нәрсе бар, бұл қатаң есеп беруге арналған әділ ойын - Ронан мен Эндрю жасауды мақсат еткен есеп беру түрі. ChatGPT танымалдығының арқасында Альтман AI индустриясының ең көрнекті тұлғасы ретінде пайда болды, ол бір кездері коммерциялық емес зерттеу зертханасын бірнеше жылдың ішінде триллион долларға жуық жеке компанияға айналдырды. Бірақ Альтман туралы миф өте қайшылықты, оның айқын мәміле жасау қабілетімен де, оның айналасындағылардың бәріне өтірік айтуға бейімділігімен бірдей анықталады.
Әңгіме 17 000 сөзден асады және 2023 жылы OpenAI директорлар кеңесі Альтманды өтірік айтқаны үшін кенеттен жұмыстан шығарған кезде болған оқиғаның нақты есебін қамтиды, тек оны бірден қайта жұмысқа алу үшін. Бұл сонымен қатар Альтманның жеке өміріне, оның инвестицияларына, Таяу Шығыстағы ақшаға құмарлығына және оның бұрынғы мінез-құлқы мен мінез-құлық ерекшеліктеріне қатысты ойларына терең бойлау, бір дереккөз оны «шындықпен шектелмеген» деп айтуға әкелді. Мен сізге бүкіл тарихты оқуды ұсынамын; Менің ойымша, бұл көптеген жылдар бойы сілтеме болады.
Ронан Альтманмен бірнеше рет сөйлесті, ол осы шығарманы хабарлауға жұмсаған 18 ай, сондықтан мені қызықтыратын негізгі нәрселердің бірі - ол осы уақыт ішінде Альтманда қандай да бір өзгерісті сезді ме, жоқ па болды. Өйткені, соңғы бір жарым жылда AI-да, технологияда және әлемде көп нәрсе болды.
Сіз Ронанның бұл туралы тікелей айтқанын естисіз, сондай-ақ оның адамдар Альтманның шындықты тарату қабілеті туралы сөйлесуге әлдеқайда дайын болғанын сезінесіз. Адамдар Альтман сияқты адамдардың мінез-құлқы тек AI немесе технологияға ғана емес, сонымен бірге қоғамның ұжымдық болашағына қатысты ма деген сұраққа дауыстап және жазбаша сұрақ қоя бастады.
Жарайды: Ронан Фарроу Сэм Альтман, AI және шындық туралы. Мінеки біз.
Бұл сұхбат ұзақ және анық болу үшін жеңіл өңделген.
Ронан Фарроу, сіз зерттеуші репортерсіз және The New Yorker журналының авторысыз. Декодерге қош келдіңіз.
Осы жерде болғаныма қуаныштымын. Мені қабылдағаныңызға рахмет.
Мен сізбен сөйлесуге өте қуаныштымын. Сіз жаңа ғана The New Yorker журналына үлкен шығарма жаздыңыз. Бұл Сэм Альтманның профилі және онымен бірге OpenAI. Менің оқығаным, барлық керемет мүмкіндіктер сияқты, ол қатаң есеп беру арқылы адамдардың Сэм Альтманға қатысты ұзақ уақыт бойы болған көптеген сезімдерін растайды. Сіз оны жариялағаныңыз анық, оған реакцияларыңыз болды. Дәл қазір оған қалай қарайсыз?
Шынында да, назар аудару экономикасы шизофренияға шалдыққан және таяз болған уақытта оның қаншалықты бұзылғаны мені қатты қуантты. Бұл, менің ойымша, бәрімізге әсер ететін оқиға. Мен өмірімнің бір жарым жылын және менің бірлескен авторым Эндрю Маранц та оның сол уақытын шынымен сот-медициналық және мұқият нәрсе жасауға тырысқанда өткізген кезде, мен әрқашан тарихтың негізінде жеке адам мен компаниядан тыс адамдарға әсер ететін үлкен құрылымдық мәселелер бар сияқты сезінемін.
Сэм Олтман, Силикон алқабындағы хайп-мәдениет пен болашақта орындалатын немесе орындалмайтын уәделерге негізделген ауқымды бағалауларға әуе шарын тудыратын стартаптар және әртүрлі топтарға әртүрлі қарама-қайшы нәрселерді айту - бұл ерекшелік емес деп санайтын негізін қалаушы мәдениеттің күшеюі фонында.қате...Тіпті осы фонға қарамастан, Сэм Олтман - бұл Силикон алқабындағы барлық адамдар оның сенімділігі мен адалдығы туралы осы сұрақ туралы айтуды тоқтата алмайтын ерекше жағдай.
Біз оның адалдық немесе өтірік деп болжанған сериялық айыптаулардың кейбір нұсқасына байланысты жұмыстан босатылғанын білдік. Бірақ таңқаларлық, керемет репортаждар болғанына қарамастан, Кич Хейгеи бұл туралы үлкен жұмыс жасады. Карен Хао бұл үшін үлкен жұмыс жасады. Нақты болжамды дәлелдеу нүктелері мен олардың көпшілік назарынан тыс қалуының себептері туралы нақты түсінік болған жоқ.
Бірінші мәселе, біздің қоғамдық біліміміздегі, тіпті Силикон алқабының инсайдерлерінің біліміндегі кейбір олқылықтар енді біршама толтырылғаны мені қатты қуантады. Олқылықтардың кейбір себептері аздап толтырылды.
Біз осы компаниядағы адамдар шынымен жасырылған немесе әдейі құжатталмағандай сезінген жағдайлар туралы хабарлаймыз. Бұл оқиғадағы жаңа нәрселердің бірі - WilmerHale компаниясының маңызды заңгерлік фирмасының тергеуі, ол Enron және WorldCom компанияларына тергеу жүргізген сәнді, сенімді, үлкен заң фирмасы болып табылады. УилмерХейл бұл тергеуді Алтманды олардан құтылған кезде жұмыстан шығару шарты ретінде жұмыстан шығарған басқарма мүшелері талап еткен және ол қайтып оралды. Және таңқаларлық - мен сөйлескен көптеген заңгерлердің көзінше және осы компаниядағы көптеген адамдардың көзінше таңқаларлық - олар оны жазбай қалдырды. Мұның бәрі OpenAI-дан 800 сөзден тұратын пресс-релиз болды, ол не болғанын сенімнің бұзылуы ретінде сипаттады. Біз бұл ауызша брифингтерде сақталғанын растадық.
Мысалы, басқарма мүшесі OpenAI бастапқы коммерциялық емес нысанын коммерциялық ұйымға айналдыруға қарсы дауыс бергісі келетін сияқты және ол қалыс деп жазылған жағдайлар бар. Кездесуде заңгер: «Бұл тым көп тексеруді тудыруы мүмкін» деген сияқты. Ал қарсы дауыс бергісі келетін адам барлық кездесулерге қалыс қалды деп жазылады. Нақты дау бар. OpenAI сіз ойлағандай басқаша мәлімдейді. Мұның бәрі сізде біздің болашағымызды өз қолында ұстайтын компания бар жағдайлар.
Қауіпсіздік қауіптерінің өткір болғаны сонша, олар жойылған жоқ. Бұл компанияның қауіпсіздікке бағытталған коммерциялық емес ұйым ретінде құрылуының себебі және айналасындағы сенімді адамдар оны кәсіпқойға қарағанда аз деп санайтындай нәрселер бұлыңғыр болды. Сіз мұны мағыналы реттеуге саяси тәбет өте аз болатын фонмен байланыстырасыз. Менің ойымша, бұл өте қауіпті жағдай.
Мен үшін мәселе Сэм Альтманның бұл сұрақтарға соншалықты өткір лайық екендігінде емес. Сондай-ақ, осы саладағы осы жігіттердің кез келгені және негізгі тұлғалардың көпшілігі, егер бұл ерекше идиосинкратикалық болмаса, жалған сөйлейтін мінезді көрсетеді, әрине, қауіпсіздікті ұстанатын адамдар бұл міндеттемелерді суарып тастаған және бәрі жарыста.
Менің ойымша, біз жақында Anthropic-тен ағып кетуді қарастырған кезде, бұл бөліктегі түймені кімнің саусақтарымен ұстау керек деген сұрақты қоятын адам бар. Жауап: егер бізде маңызды бақылау болмаса, менің ойымша, біз маңызды сұрақтар қойып, осы жігіттердің барлығы туралы мүмкіндігінше көбірек ақпарат беруге тырысуымыз керек. Сондықтан бұл туралы мағыналы әңгіме немесе бір әңгіменің басталуы мені қатты қуантты.
Бұлай сұраған себебім, сіз осымен бір жарым жыл жұмыс істедіңіз. Сіз, менің ойымша, 100 адаммен бірге авторыңыз Эндрюмен сөйлестіңіз. Бұл әңгіме дайындау үшін ұзақ уақыт. Менің ойымша, соңғы бір жарым жыл AI-де, ал бала, осы кейіпкерлердің барлығының көзқарастары мен құндылықтары өте тез өзгерді.
Мүмкін олар ChatGPT-ті шығарғандықтан әдепкі жеңімпаз ретінде бастаған Сэм Альтманнан артық емес шығар және бәрі бұл Google-ді алады деп ойлады. Содан кейін Google жауап берді, бұл Google өз бизнесін қорғауға тырысады деп таң қалдырды, мүмкін бизнес тарихындағы ең жақсы бизнестің бірі. Anthropic кәсіпорынға назар аударады деп шешті. Әміршіл басшылықты қолға алған сияқтымұнда AI-ны кәсіпорында қолдану өте жоғары болғандықтан.
Енді OpenAI өз өнімін «біз Google-ді қабылдаймыз» деген сөзден Codex-ке қайта бағыттайды және олар кәсіпорынды қабылдайды. Мен дәл айта алмаймын, соңғы бір жарым жылдағы есеп беру барысында сіз сөйлескен кейіпкерлер өзгерді ме? Олардың көзқарастары мен құндылықтары сияқты, олар өзгерді ме?
Иә. Менің ойымша, ең алдымен, осы мақалада қарастырылған осы компаниялардың ішіндегі көптеген адамдардан келетін сын - бұл экзистенциалды үлестерге қарамастан, қауіпсіздікте түбегейлі жарысқа түсіп жатқан сала және жылдамдық барлық басқалардан асып түседі - бұл алаңдаушылық одан сайын күшейе түсті. Менің ойымша, бұл алаңдаушылықтар соңғы бір жарым жыл өткен соң расталды. Сонымен қатар, Сэм Альтманға деген көзқарас ерекше өзгерді. Біз бұл туралы дереккөздермен сөйлесе бастағанда, адамдар бұл туралы цитата алуға және бұл туралы жазбаға түсуге шынында да қорқатын болды.
Біздің репортажымыздың соңында сізде адамдар бұл туралы өте ашық және анық айтатын хабарлар жинағы бар және сізде басқарма мүшелері: «Ол патологиялық өтірікші. Ол социопат» деген сияқты сөздерді айтады. «Қауіпсіздікті ескере отырып, бұл қауіпті және бізге адалдықты арттыратын осы технологияның көшбасшылары қажет» дегенге дейін көптеген перспективалар бар: «Қауіпсіздік ставкаларын ұмытыңыз, бұл кез келген ірі компанияның кез келген басшысы үшін қолайсыз мінез-құлық, бұл жай ғана тым көп дисфункция тудырады».
Осылайша, әңгіме кешіктірілген сияқты, бірақ бір жағынан көңілді болатындай анық болды. Ал Сэм Альтман, оның құрметіне... Бұл шығарма өте әділ және тіпті жомарт, мен Сэмге айтар едім. Бұл «сені алдым» деген көп нәрсе болатын шығарма емес. Мен онымен телефон арқылы көптеген сағаттарды өткіздім, өйткені біз мұны аяқтап, оны шынымен естідім.
Өздеріңіз ойлағандай, мұндай шығармада бәрі бірдей орындала бермейді. Бұл оқиғаның кейбірі мен шын жүректен тыңдағандықтан болды. Ал егер Сэм шынымен де өзімді су алып бара жатқандай сезіндім, бірдеңе, тіпті бұл шындық болса да, сенсациялық болуы мүмкін деп дәлелдесе, мен бұл сот-медициналық сараптама мен өлшемді сақтау жағында қателестім. Сондықтан менің ойымша, бұл дұрыс қабылданады және осы уақыт аралығында жинақталған бұл фактілер бақылау қажеттілігі туралы көбірек әңгімелесуді тудыруы мүмкін деп үміттенемін.
Бұл шын мәнінде менің келесі сұрағым. Менің ойымша, сіз бұл оқиғаны баяндау барысында Сэммен ондаған рет сөйлестіңіз. Тағы да, бұл ұзақ уақыт аралығындағы көп әңгіме. Соңғы бір жарым жылдағы есеп беру барысында Сэм өзгерді деп ойладыңыз ба?
Иә. Менің ойымша, бұл ең қызықты ішкі сюжеттердің бірі - Сэм Альтман да бұл қасиет туралы бұрынғыдан гөрі анық айтады. Бұл шығармадағы Сэмнің қалпы: «Онда ештеңе жоқ, бұл дұрыс емес; мен сіз не туралы айтып жатқаныңызды білмеймін». Оның ұстанымы - ол мұны адамдарға ұнамды тенденцияға және жанжалдан бас тарту түріне байланысты дейді. Ол бұл оған қиындықтар тудырғанын мойындайды, әсіресе мансабында.
Ол: «Ал, мен одан өтіп бара жатырмын немесе белгілі бір дәрежеде одан өтіп кеттім» дейді. Менің ойымша, мен үшін ең қызықтысы - біз сөйлескен адамдар контингенті, олар жай ғана қауіпсіздікті қорғаушылар ғана емес, тек қауіпсіздік мәселелеріне жиі ұшырайтын негізгі техникалық зерттеушілер ғана емес, сонымен қатар прагматикалық, ірі инвесторлар болды. Олар Сэмнің қолдаушылары, олар кейбір жағдайларда бұл сұраққа қарап, оның атудан кейін оралуында маңызды рөл атқарғаны туралы айтады. Енді ол реформаланды ма және бұл өзгеріс қаншалықты мағыналы деген сұраққа олар: «Ал, біз оған сол кезде күмәнданудың пайдасын бердік» дейді.
Мен, атап айтқанда, бір көрнекті инвестор туралы ойлаймын, ол: «Бірақ содан бері оны ағаш қоймасының артына алып кетпегені анық көрінеді», - деген сөзді қажетінше қолданған. Нәтижесінде бұл енді тұрақты қасиетке айналған сияқты. Біз мұны тұрақты түрде көріп отырмыз. Сіз OpenAI-дің ең үлкен бизнесін көре аласызқарым-қатынастар және олардың осы сенімсіздіктің салмағын тұрақты түрде көтеру тәсілі.
Майкрософт сияқты, сіз сол жерде басшылармен сөйлесесіз және олардың шынымен де өткір және жақында туындаған алаңдаушылықтары бар. Дәл сол күні OpenAI өзінің азаматтығы жоқ AI модельдеріне қатысты Microsoft корпорациясымен эксклюзивтілігін растап жатқанда, сонымен қатар Amazon-пен жаңа мәміле жариялайды, ол күйі бар AI агенттерін құруға арналған кәсіпорын шешімдерін сатуға қатысты, яғни олардың жады бар.
Сіз Майкрософт адамдарымен сөйлесесіз және олар: «Бізде эксклюзивті келісім бар негізгі материалдармен әрекеттесусіз мұны істеу мүмкін емес». Осылайша, бұл қасиет үнемі үздіксіз іскерлік белсенділікке бейім болатын және OpenAI кеңесінде, оның атқарушы тобында және кеңірек технологиялық қауымдастықта белсенді алаңдаушылық тудыратын көптеген шағын мысалдардың бірі ғана.
Сіз сол «қасиет» деп айта бересіз. Әңгімеде маған тезис сияқты көрінетін бір жол бар және бұл сіз сипаттап отырған қасиеттің сипаттамасы. Бұл «Сэм Альтман шындықпен шектелмейді» және оның «бір адамда ешқашан байқалмайтын екі қасиеті бар: біріншісі - адамдарға ұнауға, кез келген қарым-қатынаста ұнатуға деген қатты ұмтылыс, екіншісі - біреуді алдаудың салдары туралы дерлік социопатиялық алаңдаушылық».
Сізге айтарым, мен бұл сөйлемді 500 рет оқыдым, мен әрқашан адамдарға не ұнағысы келетінін айтуды елестетуге тырыстым, содан кейін олар өтірік айтқан кезде ренжімедім. Ал мен өзімнің эмоционалдық күйімді сол заттардың бір адамда қалай болатынын түсіне алмадым. Сіз Сэммен көп сөйлестіңіз және осы қасиеттерді бастан кешірген адамдармен сөйлестіңіз. Ол мұны қалай жасайды?
Иә. Бұл адами деңгейде қызық, өйткені мен осындай есеп беру органдарына оның негізінде кім тұрғанын ізгілендіруге және терең түсінушілік пен эмпатияға ұмтылуға нақты назар аударамын. Мен бұған адами көзқараспен қарауға тырысқанда және: "Ей, егер мен жұмыс істеген көптеген адамдар мені патологиялық өтірікші деп айтса, бұл мен үшін ауыр болар еді. Сіз бұл салмақты қалай көтересіз? Терапияда бұл туралы қалай айтасыз? Бұл туралы өзіңізге қандай әңгіме айтасыз?"
Менің ойымша, Батыс жағалауында бұл туралы «Иә, мен тыныс алуды жақсы көремін» деген жалаң сөздер бар. Бірақ біздің мінез-құлқымыз бен адамдарға деген қарым-қатынасымыз туралы осындай пікірлерді көретін болсақ, менің ойымша, көпшілігімізде терең өз-өзімен қақтығысты күшейтетін сезім көп емес.
Менің ойымша, бұл шынымен де сұраққа кеңірек жауап береді. Сэм бұл қасиет қиындықтар тудырғанын, сонымен қатар бұл оған OpenAI-дің өсуін тездетуге мүмкіндік берген нәрсенің бір бөлігі екенін, сондықтан ол әртүрлі топтарды біріктіріп, қуанта алатынын айтады. Ол осы қарама-қайшылықты сайлау округтерінің барлығын олар үшін маңызды нәрсе екеніне үнемі сендіреді. Бұл негізін қалаушы үшін өте пайдалы дағды болуы мүмкін. Мен инвесторлармен сөйлестім, олар: «Мүмкін, бұл компанияны басқару үшін пайдалы емес дағды, өйткені ол көп келіспеушілік тудырады».
Бірақ Сэмнің жеке жағынан, менің ойымша, мен адам деңгейінде байланысуға тырысқанда, мен тереңірек қарама-қайшылықтың, рефлексияның және өз-өзіне есеп берудің айқын болмауы деп ойлаймын, бұл сонымен бірге IPO-ға дайындалып жатқан компания үшін үлкен күш немесе жауапкершілік туралы хабарлайды.
Ол Сью Юн есімді бұрынғы директорлар кеңесінің мүшесінің сөзімен айтсақ, ол өз сөзінде ол қолданатын сөз тіркесі «ереңсіздік» екенін айтады, оның сатылымдағы өзгермелі шындыққа шынымен сене алатын немесе өзін соларға сендіре алатын адам. Немесе, кем дегенде, егер ол оларға сенбесе, ол өз-өзіне күмән келтірместен олар арқылы ашуға қабілетті.
Менің ойымша, сіз айтып отырған нәрсе, сіз немесе мен, біз айтып жатқан кезде және оның біз жасаған басқа кепілдікке қайшы келетінін түсінгенде, бір сәт қатып қалу немесе өзімізді тексеру. Менің ойымша, бұл онымен болмайды. Силикон алқабының кең ауқымды хайп мәдениеті мен негізін қалаушы мәдениеті бар.
Бұл күлкілі. Verge өнім шолуларына негізделгенбағдарламасы. Бұл біздің мұнда істейтін ісіміздің жүрегі. Мен жылына бір рет триллион долларлық Apple R&D жүргіземін және: «Бұл телефон жеті» деп айтамын. Бұл біздің барлық есеп берулерімізді және басқа жерде біздің пікірлерімізді заңдасады. Бізде бағалау функциясы бар және біз AI өнімдеріне қарап, «Олар жұмыс істей ме?» Деп көп уақыт жұмсаймыз.
Бұл бүгінгідей AI туралы әңгімелердің көпшілігінде жоқ сияқты. Оның не істей алатыны, қаншалықты қауіпті болуы мүмкін екендігі туралы шексіз әңгіме бар. Содан кейін сіз бұрғылайсыз және сіз: «Ол шынымен де бүгін істеу керек нәрсені жасай ма?» Дейсіз. Кейбір жағдайларда жауап иә. Бірақ көптеген жағдайларда жауап жоқ.
Бұл сіз сипаттап отырған хайп-мәдениетпен, сондай-ақ, егер сіз ол бірдеңе істейтінін және олай жасамайтынын айтсаңыз және біреу өзін жаман сезінсе, бұл жақсы, өйткені біз келесі нәрсеге кірісеміз. Бұл өткенде. Атап айтқанда, AI-де Сэм үлкен уәделер беруде өте жақсы.
Дәл осы аптада, менің ойымша, сіздің әңгімеңіз жарияланған күні, OpenAI бағдарламалық құжатты шығарды, онда біз әлеуметтік келісімшартты қайта қарастыруымыз керек және үкіметтен AI тиімділігі бойынша стипендия алуымыз керек. Бұл қандай да бір технология әлемнің болашағын қалай қалыптастыратыны және біз қалай өмір сүретіні туралы үлкен уәде, және мұның бәрі технологияның жұмыс істеуге уәде етілгендей жұмыс істеуіне негізделген немесе ол жұмыс істеуі керек.
Сіз Сэмнің AI-ның AGI немесе супер интеллектке айналуына немесе мәреге жеткеніне күмәнданғанын көрдіңіз бе? Өйткені бұл мені ең қызықтыратын нәрсе. Бұл негізгі технология олар жасай алатын нәрселердің барлығын жасай алады ма деген ой бар ма?
Бұл дұрыс сұрақтар жиынтығы. Осы есеп беру органында біз сөйлескен сенімді технологтар бар - және анық Сэм Альтман ондай емес; ол іскер адам, ол Сэмнің осы технологияның уақыт шкаласы туралы айтуы өте алыс деп санайды. Бірнеше жыл бұрынғы блог жазбалары бар, онда Сэм: "Біз оқиға көкжиегіне жеттік. AGI негізінен осында. Супербарлау бұрышта. Біз басқа планеталарда боламыз. Біз қатерлі ісіктің барлық түрлерін емдейміз". Рас, мен әшекейленбеймін.
Қатерлі ісік шынымен де қызық, Сэм ChatGPT көмегімен итінің қатерлі ісігін теориялық түрде емдеген адамды ойлап жатыр және бұл жай болмады. Олар ChatGPT-пен сөйлесті, және бұл оларға жұмысты нақты жасаған кейбір зерттеушілерге бағыт-бағдар беруге көмектесті, бірақ бұл итті емдейтін бұл құрал шын мәнінде оқиға емес.
Сіз бұл мәселені көтергеніңізге қуаныштымын, өйткені мен технологияның әлеуеті де, тәуекелі де қашан пайда болатыны туралы осы үлкен мәселеге өткім келеді. Бірақ Сэм Альтманның үнемі болып тұратын осы кішкентай тұстарын атап өткен жөн, онда ол бұл сипатты қайталап көрсететін сияқты.
Айтайын дегенім, WilmerHale есебінің мысалын қолдансақ, онда бізде жазбай қалған бұл ақпарат болған және жол бойындағы ауызша анықтама оны бақылауға орнатуға көмектескен басқарманың екі мүшесінен басқа біреуге берілген-берілмегенін білгіміз келді. Және ол: «Иә, иә, жоқ, мен оны кейіннен басқармаға кіргендердің барлығына берді деп ойлаймын» деді. Ал бізде жағдайды тікелей білетін адам бұл жай өтірік дейді. Және бұл шынымен де солай болып көрінеді, бұл шындыққа жанаспайды. Егер жомарт болғымыз келсе, ол қате хабарланған шығар.
Мұндай кездейсоқ кепілдіктер өте көп. Мен бұл мысалды ішінара қолданамын, өйткені бұл бөлшектеудің тамаша үлгісі, оны атаймыз, бұл заңды түрде нақты салдары болуы мүмкін. Делавэрдің корпоративтік заңына сәйкес, егер бұл компания IPO болса, акционерлер 220-бөлімге сәйкес бұл туралы шағымдануы және негізгі құжаттарды талап етуі мүмкін екенін айтудың қажеті жоқ. Басқарма мүшелері қазірдің өзінде «Ал, сәл күте тұрыңыз, бұл брифинг болуы керек еді» деген сияқты сөздерді айтуда.
Сондықтан оның аузынан үнемі шығып тұратындай көрінетін бұл нәрселер, олар нақты нарықтық әсерлерге, OpenAI үшін нақты әсерлерге ие болуы мүмкін. Оны қайта пайда болған утопиялық хайп-тіл түріне қайтара отырып, менің ойымша, бұл шығарма шыққан күні кездейсоқ емес, ол бәрімізге де әсер етеді, өйткені оның шығу тәсіліне қатысты қауіп өте өткір.қару-жарақта қолданылуы, оны химиялық соғыс агенттерін анықтау үшін қолдану тәсілі, жалған ақпарат беру әлеуеті және утопиялық шуылдың арқасында көптеген сенімді экономистер: «Бұл көпіршіктің барлық белгілері бар» деп айтуға итермелейді.
Тіпті Сэм Альтман: «Бұл жерде біреу көп ақша жоғалтады» деді. Егер осы компаниялардың барлығы бір-бірімен мәмілелер жасап, үлкен қарыз алу кезінде AI-ға кірісетін көпіршіктің шынайы тесілуі сияқты болса, бұл шынымен де американдық және жаһандық экономикалық өсудің көп бөлігін бұзуы мүмкін. Сондықтан Сэм Альтманның айтқаны маңызды және менің ойымша, оның айналасындағы адамдардың басымдығы, сіз біз жүзден астам адаммен сөйлескенімізді айттыңыз, ол жүзден асып кетті. Біз мәре сызығында: «Мұншалықты әлдеқайда жоғары сан деп айту өте ұсақ-түйек болар ма еді?» Деген әңгіме болды. Біз: «Иә, төмендетейік. Біз оны жақсы ойнаймыз». Бірақ көптеген адамдар болды және олардың көпшілігі: «Бұл алаңдаушылық тудырады». Және мен мұның бәрі сол үшін деп ойлаймын.
Сол нөмірді сұрайыншы. Сіз атап өткендей, уақыт өте келе адамдар алаңдаушылықпен ашық бола бастады. Бұл көпіршіктің айналасындағы қысым сияқты сезіледі - жеңіске жету жарысы, барлық осы инвестицияларды өтеу, жеңімпаз ретінде шығу, IPO - көптеген көзқарастарды өзгертті. Бұл, әрине, Сэм мен OpenAI-ге көбірек қысым жасады.
Біз осы аптада OpenAI дірілі туралы әңгіме жарияладық. Сіздің тарихыңыз оның бір бөлігі, бірақ OpenAI-дегі басшылар қатарындағы жаппай кадрлық өзгерістер — адамдар келіп-кетіп жатыр. Зерттеушілердің барлығы, негізінен, Антропикке кетіп қалды, менің ойымша, бұл өте қызықты. Сіз бұл компанияның қысымды сезініп жатқанын және бұл қысымға қандай да бір жолмен жауап беретінін көре аласыз.
Бірақ содан кейін мен Сэмнің жұмыстан босатылғанын ойлаймын. Бұл мен үшін жай ғана есте қалды. Бұл ешкім үшін есте қаларлық емес, бірақ мен жұма күні кешкі сағат 19:00-де Бронкс хайуанаттар бағында бастапқы қоңырау шалдым, ол Сэмді қайтаруға тырысатындарын айтты. Содан кейін біз демалыс күндерін осы оқиғаны қуып жібердік. Мен: "Мен хайуанаттар бағындамын. Мұнда не істегенімді қалайсың?" Жауап: «Телефонда болыңыз». Менің қызым: «Телефонды өшір» деді. Және бұл менің істегенім.
Сэмді қайтару үшін міну немесе өлу болды. Бұл компания: «Жоқ, біз басқармаға Сэм Альтманды жұмыстан шығаруға рұқсат бермейміз» деген сияқты. Инвесторлар, олар сіздің мақалаңызда келтірілген: «Біз соғысқа бардық», менің ойымша, Thrive Capital позициясы, «Сэмді қайтару үшін». Майкрософт Сэмді қайтару үшін соғысқа барды. Бұл кейінірек болды, енді бәрі: "Біз IPO-ға шығамыз. Мәреге жеттік. Жігітімізді қайтардық, ол бізді мәреге жеткізеді. Біз оның өтірікші екеніне алаңдаймыз".
Неліктен оны қайтару үшін соғыс болды? Өйткені, ештеңе өзгермеген сияқты. Сіз Илья Суцкевер мен [Антропикалық бас директор] Дарио Амодей Сэм Альтманның замандастары болған кезде сақтаған естеліктер туралы айтасыз. Ильяны алаңдатқан бірінші мәселе Сэмнің өтірікші екендігі болды.
Мұның ешқайсысы өзгерген жоқ. Ендеше, оны қайтып әкелу үшін неліктен соғыс болды? Енді біз мәре сызығына жеткендіктен, барлық алаңдаушылықтар ашық болған сияқты.
Біріншіден, қызыңыз бен менің серіктесім және журналистердің айналасындағы барлық адамдар үшін кешірім сұраймын.
[Күлді] Барлығы үшін демалыс күні болды.
Иә, ол адамның өмірін алады, және бұл оқиға соңғы уақыт аралығында менікі бар. Бұл шын мәнінде журналистика және ақпаратқа қол жеткізу тақырыбына қатысты деп ойлаймын. Сэм үшін соғысқа аттанған инвесторлар және барлығы оның қайтып келуіне көз жеткізуде рөл атқарды және коммерциялық емес ұйымның өсімнен қауіпсіздікті қамтамасыз ету және егер оларға сенуге болмайтын болса, басшыны жұмыстан шығару миссиясын қорғау үшін арнайы әзірленген басқарма, олар кетіп қалды. Мұның бәрі, иә, нарықтық ынталандырулар болды, солай ма?
Сэм адамдарды: «Компания жай ғана ыдырайтын болады» деп сендіре алды. Бірақ оған қолдау көрсету себебі ақпараттың жетіспеушілігі болды. Бұл инвесторлар, көп жағдайда, қазір: «Мен артқа қарадым және егер мен талаптардың не екенін және алаңдаушылықтың не екенін толық білетін болсам, көбірек алаңдауым керек еді деп ойлаймын».
Олардың барлығы емес;пікірлер әртүрлі және біз көптеген пікірлерді келтіреміз, бірақ өте ішінара ақпаратқа негізделген маңыздылары бар. Сэмді жұмыстан шығарған тақта, бұрын тақтада болған бір адамның сөзімен айтқанда, «өте бірлескен кәсіпорын» болды және олар допты қатты ұрды. Біз негізгі шағымдарды құжаттаймыз және адамдар оның өздері сезінген шұғыл алаңдаушылық түріне жинақталатынын өздері шеше алады, бірақ бұл дәлел мен ақпарат ұсынылмайды.
Олар қазір кейбіреулері нашар заңгерлік кеңесті алды. Оны сипаттау үшін сіз дәйексөзді есіңізде сақтайсыз, мүмкін сіздің көптеген тыңдаушыларыңыз бен көрермендеріңіз дәйексөзді ашықтық ретінде есте сақтайды. Бұл қысқартылды, содан кейін олар қоңырауларды қабылдамайды.
Олар қоңырауларды қабылдамайды. Сіз тырысқаныңызға сенімдімін. Мен білетіндердің бәрі тырысты, және журналист ретінде сіз өз ақпарат көздеріңізге кеңес бермеуіңіз керек жағдайға жетті, бірақ мен: «Егер сіз өзіңізді түсіндіре алмасаңыз, бұл жойылады» деп ойладым.
Және бұл болды. Журналистерді ұмыт. Сіз Сатья Наделла: "Не болды? Мен ешкімді маған түсіндіруге мәжбүрлей алмаймын" деп айтқан болатын. Және бұл компанияның негізгі қаржылық қолдаушысы. Содан кейін сіз Сатьяға [LinkedIn негізін қалаушы] Рейд Хоффманға қоңырау шалып, Рид қоңырау шалып, «Мен не болғанын білмеймін» деп айтты.
Олар мұндай шұғыл, кенеттен атуды ақтайтын дәстүрлі AI емес көрсеткіштерді іздеп, ақпараттың жоқтығында екені түсінікті. Жақсы, бұл жыныстық қылмыстар болды ма? Бұл жымқыру болды ма? Менің ойымша, бұл технологияның басқаша екендігі және кішігірім сатқындықтардың тұрақты жинақталуы осы бизнес үшін де, мүмкін әлем үшін де маңызды үлестерге ие болуы мүмкін деген барлық нәзік, бірақ мағыналы дәлелдер негізінен жоғалды. Осылайша, капиталистік ынталандырулар жеңді, бірақ оны жасаған адамдар да шықты және әрқашан толық ақпаратпен жұмыс істемеді.
Мен бір сәтке «бәрі бұл не деп ойлады» аспектісі туралы сұрағым келеді, өйткені мен бұл жаңалықты көрдім және мен: «О, бір жаман нәрсе болды» дедім. Сіз әйгілі #MeToo репортажын көп жасадыңыз. Сіз Харви Вайнштейн тарихын бұздыңыз.
Сіз бұл шағымдар туралы хабарлауға көп уақыт жұмсадыңыз, менің ойымша, сіз түбегейлі негізсіз деп шештіңіз: Альтман кәмелетке толмағандарға жыныстық зорлық жасады немесе секс-жұмыскерлерді жалдады немесе тіпті OpenAI хабарлаушысын өлтірді. Айтайын дегенім, сіз бұл туралы ең қатаң хабарлай алатын адамсыз. Сіз бұл ештеңеге келмеді деп шештіңіз бе?
Қараңызшы, мен бірдеңе болмай қалды деумен айналыспаймын. Мен айта аламын, мен бұл шағымдарды бірнеше ай бойы қарап шықтым және олар үшін растауды таппадым. Бұл жігіттердің, біздің болашағымызға үлкен билігі бар компаниялар шынымен де балалық балшықпен күресуге уақыттары мен ресурстарының пропорционалды емес мөлшерін жұмсайтыны мені таң қалдырды.
Бір басшы оны «Шекспирдік» деп сипаттайды. Жеке тергеушінің ақшасы мен жиналып жатқан оппозициялық материалдардың көлемі тынымсыз. Бір өкініштісі, Сэмнің бәсекелестері тотыға салатын жағымсыз нәрселер жай ғана болжамды факт, солай емес пе? Ол кәмелетке толмаған ұлдарды қудалайды деген болжам бар және Силикон алқабындағы көптеген коктейль кештерінде сіз мұны естисіз. Конференцияда мен оны сенімді, көрнекті басшылардың қайталағанын естідім: «Бұл факт екенін бәрі біледі».
Ең өкініштісі, мен оның қайдан шыққаны, әртүрлі векторлар арқылы берілетіні туралы айтамын. Илон Маск пен оның серіктестері мұндай сомадағы шын мәнінде ауыр деректемелерді итермелеп жатқан сияқты. Сіз негізгі талаптарды қарастыра бастағанда олар буланады. Ең өкініштісі, бұл шынымен де шұғыл бақылауға және қарауға лайық деп санайтын дәлелдерге негізделген сындарды жасырады.
Әңгімеде шынымен де орын алатын тағы бір тақырып - Сэмнің достары көп деген қорқыныш сезімі - ол Y Combinator-тің бас директоры ретіндегі бұрынғы рөлінен бастап, жеке инвестициясына дейін көптеген компанияларға ақша салды, олардың кейбіреулері OpenAI-дің бас директоры ретіндегі рөліне тікелей қайшы келеді - және оның айналасында тыныштық бар.
Әсіресе бір жолды оқып отырғанымда қатты әсер етті. Сіз Илья Суцкевердің естеліктерін сипаттайсыз және олар Силикон алқабында ғана. Барлығыоларды Илья естеліктері деп атайды. Бірақ оның айналасында тіпті тыныштық бар. Олар өтіп кетті, бірақ олар талқыланбайды. Бұл қайдан шыққан деп ойлайсыз? Бұл қорқыныш па? Бұл періште инвестициясын алу ниеті ме? Бұл қайдан шыққан?
Менің ойымша, бұл өте қорқақтық, мен шынымды айтайын. Дереккөздер барлығын жоғалтып алатын және қудалауға ұшырайтын хабар таратушылар болатын ұлттық қауіпсіздік туралы әңгімелер туралы хабарлаған кезде, олар әлі де дұрыс әрекет жасайды және жауапкершілікті тудыратын нәрселер туралы айтады. Мен сіз айтқан сексуалдық қылмыстарға қатысты оқиғалармен жұмыс істедім, онда дереккөздер қатты күйзеліске ұшырайды және өте жеке жазадан қорқады.
Көптеген жағдайларда сіз өз профилі мен күші бар адамдармен жұмыс жасайсыз. Олар атақты адамдар немесе олар әйгілі адамдармен қоршалған. Олардың сенімді іскерлік өмірі бар. Менің ойымша, олардың бұл туралы айтуы өте төмен. Шүкір, иненің басы ілгеріде айтқанымыздай қозғалып, қазір адамдар көбірек сөйлеп жатыр.
Бірақ ұзақ уақыт бойы адамдар бұл туралы үндемеді, өйткені менің ойымша, Силикон алқабының мәдениеті өте қатыгездікпен жеке мүдделі және аяусыз бизнес пен өсуге бағытталған. Менің ойымша, бұл Сэмді жұмыстан шығаруға қатысқан кейбір адамдарға да әсер етеді, иә, оның қайтып келуіне және ескі директорлар кеңесінің мүшелерін жұмыстан шығаруға әкелген факторлардың бірі оның өз ісіне шатасып кеткен инвесторларды жинағандығы болды.
Бірақ басқасы, айналасындағы көптеген адамдар алаңдаушылық білдіріп, оларды шұғыл түрде айтты, олар желдің басқа бағытта соққанын көргенде майлық сияқты бүктеліп, әуендерін өзгертті және олар пайда табу пойызына мінгісі келді.
Шынымды айтсам, менің тілші ретінде бұл өте қараңғы.
Бұл адамдардың кейбірі Мира Мурати, менің ойымша, ол 20 минут ішінде OpenAI-дің жаңа бас директоры болды. Содан кейін ол ауыстырылды. Бұл өте күрделі динамика болды, және анық, Сэм қайтып келді. Екінші адам - Илья Суцкевер, ол Сэмді алып тастауға дауыс бергендердің бірі болды, содан кейін ол өз ойын өзгертті, немесе кем дегенде, өз ойын өзгертті деп айтты, содан кейін өз компаниясын құруға кетті. Оның ойын өзгертуге не түрткі болғанын білесіз бе? Бұл жай ғана ақша болды ма?
Түсінікті болу үшін мен бұл екеуін бөлектеп отырған жоқпын. Атысуға қатысқан басқарма мүшелері де бар, олар да кейін үнсіз қалды. Менің ойымша, бұл кеңірек ұжымдық мәселе сияқты. Бұл кейбір жағдайларда дабыл қағып, түбегейлі әрекет етуге моральдық талшықтары бар адамдар, және бұл мақтауға тұрарлық. Осылайша сіз жауапкершілікке кепілдік бересіз. Бұл осы технологиядан зардап шеккен көптеген адамдарға көмектесуі мүмкін еді. Бұл салаға қауіпсіздікке көбірек көңіл бөлуге көмектесе алар еді.
Бірақ хабар таратушылармен және бұл жауапкершілікті көп талап етуге тырысатын адамдармен жұмыс жасай отырып, сіз оны ұстануға және сіздің сенімдеріңізде тұруға талшықты қажет ететінін көресіз. Бұл сала шынымен де өз сенімдерінде тұрмайтын адамдарға толы.
Олар сандық Құдайды құрып жатырмыз деп ойласа да, ол қандай да бір жолмен барлық еңбекті жояды немесе көбірек жұмыс жасайды, немесе бірдеңе болады.
Жақсы, бұл нәрсе. Сонымен, бизнестегі өзіңіздің беделіңізге қауіп төндіретін кез келген қызу немесе кез келген нәрсе болған кезде өз сенімдеріңізге және барлық этикалық мәселелерге бой алдырмау мәдениеті кез келген виджетті жасайтын кәдімгі бизнес компаниялары үшін белгілі бір дәрежеде жақсы және жақсы болуы мүмкін.
Бірақ бұлар да: «Бұл бәрімізді өлтіруі мүмкін» деп айтатын адамдар. Тағы да, Skynet экстремалды Терминаторына барудың қажеті жоқ. Қазірдің өзінде жүзеге асатын тәуекелдер жиынтығы бар. Бұл шындық, және олар бұл туралы ескертеді, бірақ сіз басқа біреудің креслоларында бұл екі нәрсенің бір адамдарда қалай өмір сүре алатынын психологиялауы керек, олар шұғыл ескертулер беріп жатыр, мүмкін олар саусақтарын салып, бірдеңе істеуге тырысады, содан кейін олар жай ғана жиналып, үнсіз қалады.
Дәл сол себепті сізде мұндай жағдайларды жазуға болмайды және заттарды кілем астына сыпыруға болады, және бұл фактіден кейін жылдар бойы ешкім бұл туралы ашық айтпайды.
Мұндағы табиғи, жауапты тарап бұл компаниялардың бас директорлары болмайды; бұл үкіметтер болар еді. Америка Құрама Штаттарында, мүмкінбұл штат үкіметтері, мүмкін бұл федералды үкімет.
Әрине, бұл компаниялардың барлығы жаһандық болғысы келеді. Мұнда көптеген жаһандық салдарлар бар. Мен OpenAI, Google және Anthropic компанияларының Байден әкімшілігін AI туралы бұйрық шығаруға шақырғанын көрдім. Соңында бұл өте тіссіз болды. Бұл жай ғана олардың үлгілері не істей алатыны туралы сөйлесіп, кейбір қауіпсіздік сынақтарын шығару керек екенін айтты. Содан кейін олардың барлығы Трампты қолдады, ал Трамп кіріп, мұның бәрін жойып жіберді және: "Біз бәсекеге қабілетті болуымыз керек. Бұл барлығына тегін. Оған барыңыз" деді.
Сонымен бірге олардың барлығы мұнайдан ақшасы көп және экономикасын өзгерткісі келетін Таяу Шығыс елдерінен қаражат жинауға тырысады. Бұл саясаткерлер. Менің ойымша, саясаткерлер біреудің екі жақтан сөйлеп жатқанын түсінуі керек және біреудің көңілі қалса, олар қатты ренжімейді, бірақ саясаткерлер де сапарға шығады. Неліктен бұлай деп ойлайсыз?
Менің ойымша, бұл шынымен де, менің ойымша, бұл шығарма неге маңызды және неге осы уақыт пен егжей-тегжейге жұмсалған жөн. Біз, сіз айтқандай, қадағалауды қамтамасыз ететін жүйелер ойдан шығарылған ортада тұрмыз. Бұл АҚШ-тан кейінгі Біріккен Америка, онда ақша ағыны соншалықты кедергісіз және бұл проблеманың AI айналасында шоғырлануы, онда бұл PAC-тер көбейіп, ақшаны штатта да, федералды деңгейде де маңызды реттеуді жою үшін толтырады.
Сізде [OpenAI негізін қалаушы] Грег Брокман бар, Сэмнің екінші басшысы, олардың бірнешеуіне тікелей үлес қосады. Бұл шынымен де заң шығарушылар мен әлеуетті реттеушілерді басып алатын жағдайға әкеледі және одан шығу қиын спираль. Ең өкініштісі, менің ойымша, қарапайым саяси қадамдар бар, олардың кейбіреулері әлемнің басқа жерінде сыналып жатыр, бұл жауапкершілік мәселелерінің кейбірін шешуге көмектеседі.
Сізде орналастыру алдында міндетті қауіпсіздік сынақтары болуы мүмкін, бұл Еуропада шекаралық модельдер үшін қазірдің өзінде болып жатқан нәрсе. Сізде ішкі тергеу түрлеріне қатысты қатаңырақ жазбаша ашық жазба талаптары болуы мүмкін еді, онда біз бұл жағдайда нәрселердің жазылмағанын көрдік. Сізде Сэм Альтман итермелейтін Таяу Шығыстағы инфрақұрылымдық амбициялардың түрлері үшін ұлттық қауіпсіздікті тексеру механизмдерінің неғұрлым сенімді жиынтығы болуы мүмкін.
Сіз айтып отырғандай, ол Байден әкімшілігімен жұмыс істеп, «бізді реттеңіз, бізді реттеңіз» деп, оларға атқарушылық бұйрық шығаруға көмектесті, содан кейін Трамп кірген сәтте, шын мәнінде, алғашқы күндерде, «Жылдамдаймыз және Абу-Дабиде үлкен деректер орталығының кампусын салайық». Мүмкін, бұл шын мәнінде қарапайым, мысалы, хабар берушіні қорғау. Осы бөлімде көрсетілетін қауіпсіздік мәселелерін ашатын AI компаниясының қызметкерлерін қорғайтын федералды заң жоқ.
Бізде OpenAI-де қауіпсіздік жөніндегі аға маман болған Ян Лейк компанияда супер теңестіруді басқарған жағдайлар бар. Ол басқармаға хат жазады, бұл компания өзінің қауіпсіздік миссиясы бойынша рельстен шығып жатқанын айтады. Дәл осындай адамдар баруға болатын бақылау органы болуы керек және оларда біз басқа секторларда көретіндей анық заңмен қорғалуы керек. Бұл Сарбанес-Оксли стиліндегі режимді қайталау оңай.
Менің ойымша, Силикон алқабының барлық билік тетіктерін бақылауға алуы проблемасы қаншалықты өткір болса да және бақылау мен тосқауылдарды қамтамасыз ете алатын осы институттардың кейбіреулері қаншалықты қуыс болғанына қарамастан, мен әлі де демократияның негізгі математикасына сенемін және өз мүддесін ойлайтын саясаткерлер. Американдықтардың көпшілігі қазіргі уақытта AI-ның алаңдаушылықтары, сұрақтары немесе тәуекелдері артықшылықтардан асып түседі деп санайтын сауалнама деректері көбейіп келеді.
Сондықтан, менің ойымша, AI-дан саясатқа ақша тасқыны, оны саясаткерлерге қатысты сұрақ белгісіне айналдыру біздің қолымыздан келеді. Америкалықтар дауыс беруге барған кезде, олар өздері дауыс беретін адамдар, әсіресе егер олар сыни емес және реттеуге қарсы болса, барлық осы алаңдаушылықтарды ескере отырып, үлкен технологиялық арнайы мүдделермен банкрольді болғанын тексеруі керек. Сондықтан, менің ойымша, егер адамдар осындай шығармаларды оқи алады, осындай подкасттарды тыңдай алады және сыни тұрғыдан ойлана аладысайлаушылар ретінде олардың шешімдерін қадағалайтын және бақылауды күшейтетін өкілдердің Вашингтонда сайлау округін құруға нақты мүмкіндігі бар.
Бұл қазіргі AI индустриясы туралы біреудің айтқанын естіген ең оптимистік нәрселердің бірі болуы мүмкін. Мен оны бағалаймын. Мен сіз айтып отырған сауалнамаға қызығамын. Қазір ол көп. Мұның бәрі өте дәйекті және жас адамдар, атап айтқанда, АИ-ге көбірек ұшыраған сайын, соғұрлым олар оған сенімсіздік пен ашуланшақ болады. Бұл барлық сауалнаманың валенттілігі. Мен бұған қараймын және менің ойымша, иә, ақылды саясаткерлер бұған қарсы шығады. Олар жай ғана: «Біз үлкен технологияны жауапқа тартамыз» деп айтатын.
Содан кейін мен соңғы 20 жыл туралы ойлаймын, саясаткер үлкен технологияны жауапқа тартамыз деп айтты, мен үлкен технологияның бір сәтін де жауапқа тартуға тырысамын. Мені бұл басқаша болуы мүмкін деп ойлайтын жалғыз нәрсе, сіз шынымен де деректер орталықтарын салуыңыз керек, және сіз бұған қарсы дауыс бере аласыз және оған қарсы петиция жасай аласыз және оған қарсы наразылық білдіре аласыз.
Менің ойымша, деректер орталығына дауыс бергені үшін үйіне оқ жаудырған саясаткер бар. Шиеленіс жетіп жатыр, мен оны безгегі деп атар едім. Сіз Силикон алқабының оқшаулануын сипаттадыңыз. Бұл жабық экожүйе. Олар әлемді басқара аламын деп ойлайтын сияқты. Олар саясатқа бір тонна ақша салып жатыр және олар өнімдерді жақсы көрмейтін адамдар шындыққа қарсы шығады, бұл оларға көп жасырмайды. Олар өнімді неғұрлым көп пайдаланса, соғұрлым олар ренжіді және саясаткерлер өздерінің өкілдерінен гөрі технологиялық индустрияны қолдаудың нақты салдары бар екенін көре бастады.
Сіз көптеген адамдармен сөйлестіңіз. Сіздің ойыңызша, технология индустриясы олардың алдында тұрған сабақты ала алады ма?
Сіз олар әлемді есепсіз басқара алады деп ойлайтындай сезінесіз дейсіз. Менің ойымша, бұл «сезім» біліктілігін қажет етпейді. Айтайын дегенім, сіз Питер Тильдің қолданатын тіліне қараңыз, ол анық. Әрине, бұл экстремалды мысал. Ал Сэм Альтман, ол белгілі бір дәрежеде Тильдің идеологиясымен жақын және хабардар болса да, басқаша және белгілі бір дәрежеде өлшенетін адам болып табылады.
Бірақ менің ойымша, сіз Тильден алған кеңірек идеология, ол негізінен: бізде демократия бітті, бізге енді ол қажет емес. Бізде көп нәрсе бар, біз өзіміздің шағын бункерлерімізді салғымыз келеді. Біз енді Карнегилермен немесе Рокфеллермен айналыспаймыз, мұнда олар жаман адамдар, бірақ олар әлеуметтік келісімшартқа қатысып, адамдар үшін нәрселер жасау керек деп санайды. Нағыз нигилизм орнаған.
Менің ойымша, бұл Американың соңғы тарихындағы могулдар мен жеке компаниялардың супер үкіметтік билікке ие болуы, ал оларды жауапқа тартуы мүмкін демократиялық институттар ойсырап жатқанда, өзара нығайтатын спираль болды деп ойлаймын. Мен бұл жігіттер бір күні оянып: «Мүмкін, біз қоғамға араласуымыз керек және адамдар үшін нәрселер құруға көмектесуіміз керек шығар» деп ойлауы мүмкін деген ойға оптимистік емеспін.
Айтайын дегенім, сіз «Сыйлық беру кепілінің» микроғарыштық мысалына ұқсайсыз, мұнда қайырымдылық болып көрінетін сәт болды, ал бұл сәт қазір өткен, тіпті күлкіге айналды. Бұл мәселе, менің ойымша, жауапкершіліктің жоқтығы кеңірек мәселе, оны тек сыртқы түрде шешуге болады. Бұл сайлаушылар үкімет бақылауының күшін жұмылдыратын және қайта тірілтетін болуы керек. Адамдар бұған қол жеткізе алатын негізгі вектор жергілікті деп айтқаныңыз дұрыс. Бұл инфрақұрылымның қай жерде салынып жатқанына байланысты.
Сіз зорлық-зомбылық пен қоқан-лоққыға әкелетін осының айналасындағы кейбір шиеленістерді айттыңыз және ешкім зорлық-зомбылық жасамауы немесе қорқытпауы керек. Мен мұнда негізгі болып көрінетін және әлемнің басқа жерінде жұмыс істейтін кейбір саяси қадамдарды ұсынудан басқа нақты саясат ұсыныстарын жасау үшін келген жоқпын, солай ма? Немесе басқа салаларда жұмыс істегендер. Мен олардың қайсысы және қалай орындалуы керек екенін айту үшін бұл жерде емеспін.
Менің ойымша, бірдеңе болуы керек және ол тек осы компанияларға сену емес, сыртқы болуы керек. Өйткені дұрысҚазір бізде технологияны дамытатын және тәуекелдерді түсіну үшін ең жақсы жабдықталған және шын мәнінде тәуекелдер туралы ескертетін компаниялар да жылдам жүруге және бұл тәуекелдерді елемеуге ынталандыратын жағдайға ие. Ал сізде бұған қарсы тұратын ештеңе жоқ. Ендеше, қандай да бір реформалар спецификалық тұрғыдан қажет болуы мүмкін, оған бір нәрсе қарсы тұру керек. Мен әлі күнге дейін адамдар маңызды деген оптимизмге қайта ораламын.
Мен сіздің аргументіңізді әдетте сатып аламын. Мен айтып бере алатын бір ғана қарсы дәлел келтірейін. Дауыс беру жәшігінен тыс жерде болуы мүмкін тағы бір нәрсе - көпіршіктің пайда болуы, солай емес пе? Бұл компаниялардың бәрі мәре сызығына жете бермейді және тұтынушылардың AI қолданбаларына сәйкес өнім нарығы жоқ. Тағы да, мен оны әлі көрмеймін, бірақ мен тұтынушы технологиясын шолушымын, мүмкін менде басқаларға қарағанда жоғары стандарттар бар.
Іскерлік әлемде өнім нарығы қолайлы, солай ма? Бір топ AI агенттері бағдарламалық жасақтаманы жазады, бұл құралдар үшін нағыз нарық болып көрінеді. Сіз бұл компаниялардың дәлелдерін оқи аласыз: "Біз кодтауды шештік, бұл кез келген нәрсені шеше алатынымызды білдіреді. Егер біз бағдарламалық жасақтаманы жасай алсақ, кез келген мәселені шеше аламыз".
Менің ойымша, бағдарламалық жасақтама жасай алатын нәрселерде нақты шектеулер бар. Бұл бизнес әлемінде тамаша. Бағдарламалық жасақтама шын мәнінде барлық мәселені шеше алмайды, бірақ оларға жету керек. Олар жұмысты аяқтауы керек, мүмкін бәрі де мәреге жете бермейді. Апат болды, және бұл көпіршік пайда болады, мүмкін OpenAI немесе Anthropic немесе xAI, осы компаниялардың бірі сәтсіздікке ұшырайды және бұл инвестицияның бәрі кетеді.
Бұл әсер етеді деп ойлайсыз ба? Негізі бірінші сұрақты қояйын. OpenAI IPO-ның шыңында тұр. Көшбасшы ретінде Сэмге күмән көп. Олар мәреге жетеді деп ойлайсыз ба?
Мен болжам жасамаймын, бірақ менің ойымша, сіз маңызды мәселені көтердіңіз деп ойлаймын, бұл нарықтық ынталандырулар Силикон алқабында маңызды және қазіргі көпіршікті динамиканың тұрақсыздығы, сыншылардың пікірінше, қауіпсіздікте түбегейлі жарысты тоқтатады.
Мен бұған қосар едім, егер сіз нарықтық ынталандырулардың ұқсас және көрінбейтін болып көрінетін жиынтығы және қоғам үшін ықтимал зиянды әсерлері бар тарихи басымдыққа қарасаңыз, әсер етуші сот процестері бар. Сіз мұны соңғы уақытта алаңдаушылық тудыратын сала ретінде көресіз. Сэм Альтман осы аптада AI компанияларын, мысалы, OpenAI заңсыз өлімге қатысты сот ісін жүргізуге ұшыраған жауапкершіліктің кейбір түрлерінен қорғайтын заңнаманы мақұлдады. Әрине, жауапкершіліктен қорғануға деген ұмтылыс бар.
Менің ойымша, соттар әлі де маңызды механизм бола алады және бұл костюмдердің қалай қалыптасатынын көру өте қызықты болады. Сіз, мысалы, мен және мен білетін көптеген басқа авторлар мүше болып табылатын, авторлық құқықпен қорғалған кітаптарды пайдаланғаны үшін Anthropic-ке қарсы сот ісін көрдіңіз. Егер біз үлкен темекіден үлкен энергияға дейінгі істерді тарихи түрде байқағанымыздай, қамқорлық жасайтын ақылды заңгерлер мен талап қоюшылар болса, сіз сондай-ақ баяулау, сақ болу немесе адамдарды осылай қорғау үшін кейбір қоршаулар мен ынталандыруларды ала аласыз.
Бұл AI индустриясының барлық шығындар құрылымы әділ пайдаланудың өте қайырымдылық интерпретациясына негізделген сияқты. Жеткілікті шықпайды. Бұл компаниялардың шығындар құрылымы, егер олар сізге және олар жұмыс істеген басқа адамдарға төлеу керек болса, бақылаудан шығып кетуі мүмкін, бірақ бұл туралы ойлау ыңғайсыз, сондықтан біз бұл туралы ойламаймыз. Дәл осының қасында бұл өнімдердің барлығы қазір шығынға ұшырауда. Бүгінгідей, олардың барлығы шығынмен жұмыс істейді. Олар таба алатынынан да көп ақша жұмсайды. Бір сәтте олар қосқышты аударуы керек.
Сэм - кәсіпкер. Сіз бірнеше рет айтқаныңыздай, ол технолог емес. Ол іскер адам. Қалай ойлайсыз, ол ауыстырып-қосқышты аударып, «Біз доллар табамыз?» деп айтуға дайын ба? Өйткені мен: «Сіздің ойыңызша, OpenAI мұны істей алады ма?» Олар доллар табуы керек кезде. Осы уақытқа дейін Сэм өз компанияларының ақша табуының орнына басқа адамдардан ақшасын сұрау арқылы өзінің барлық долларларын тапты.
Бұл Силикон алқабына, инвесторларға және жұртшылыққа арналған үлкен сұрақ.Сіз OpenAI-ден кейбір мәлімдемелер мен қозғалыстарды көресіз, олар бұл туралы дүрбелең тудыратын сияқты. Сораны жабу, кейбір қосалқы жобаларды жабу, негізгі өнімді нөлге түсіруге тырысу. Бірақ, екінші жағынан, сіз әлі де бір уақытта миссияның тонналағанын көресіз, солай емес пе? Тіпті кішігірім мысал - бұл олардың бизнесі үшін маңызды емес - TBPN сатып алу.
Айтпақшы, біз мәре сызығына және фактчекингке жеткенде, мұндай журналистік тексеруге тап болған компания әңгімені тікелей басқара алатын платформаға ие болды. Менің ойымша, көптеген инвесторлар мен жүргізген әңгімелерге сүйене отырып, барлық адамдарға барлық нәрсені уәде ету проблемасы негізгі бизнес моделіндегі назардың жеткіліксіздігіне де қатысты деп алаңдайды. Айтайын дегенім, сіз маған қарағанда нарықты болжау мен бақылайтын түріне жақынсыз. Мен сізді және тыңдаушыларды OpenAI қосқышты ауыстыра алады ма деп ойлайтын судья болуды қалдырамын.
Мен сұрақты қойдым, өйткені сізде Microsoft корпорациясының жоғары лауазымды қызметкерінен дәйексөз бар және бұл Стив Джобсқа емес, «Сэмнің мұрасы Берни Мэдоффқа немесе Сэм Банкмен-Фридке көбірек ұқсауы мүмкін». Бұл өте салыстыру. Сіз бұл салыстырудан не ойладыңыз?
Менің ойымша, бұл парафраза. Стив Джобс бөлігі дәйексөзге кірмеді. Бірақ оның қызықты түрі бар, өйткені ол: «Менің ойымша, оның SBF немесе Мэдофф деңгейіндегі алаяқ болуының кішкентай, бірақ нақты мүмкіндігі бар» деп жазылған. Менің ойымша, Сэмді алаяқтықтың немесе қылмыстың нақты түрлері үшін айыптау емес, бірақ Сэмді бөлшектеу және алдау дәрежесі, сайып келгенде, осы ауқымда есте қалу мүмкіндігі болуы мүмкін.
Иә, менің ойымша, бұл дәйексөздің ең қызықтысы, шынымды айтсам, сіз Microsoft-қа қоңырау шалып, «Бұл ақылсыз. Біз мұны ешқашан естіген емеспіз». Сізге «Иә, бұл жерде көптеген адамдар осылай ойлайды» деген ұнамды сөздерді аласыз, бұл таңқаларлық. Менің ойымша, бұл бизнес сұрақтарына жауап береді.
Бір инвестор маған, мысалы, атудан кейінгі жылдарда бұл қасиет сақталып қалғанын ескере отырып айтты» - және бұл да қызықты байсалды ой деп ойлады - Сэм тізімнің абсолютті соңында болуы міндетті емес, мысалы, бұл технологияны мүлдем жасамауы керек адамдар тұрғысынан ең төменгі болуы керек. ол AGI құруы керек адамдар тізімінің төменгі жағында және осы саладағы басқа да жетекші тұлғалардың астында болуы мүмкін.
Сондықтан мен бұл қызықты баға болды деп ойладым және бұл сіз қауіпсіздік мәселелерін онша қабылдамайтын шынайы прагматиктерден аласыз деп ойлаймын. Олар жай ғана өсуге бағытталған және олар OpenAIде қазір Сэм Альтманмен проблема бар деп ойлайды.
Microsoft бөлігі шынымен қызықты. Бұл компания өздерін әлемнің шыңында деп ойлады. Олар бұл инвестицияны жасады және олар барлығын, әсіресе, ең бастысы, Google-ды секіріп, тұтынушылардың жақсы рақымына қайта оралады. Бұл шытырман оқиғадан олардың күйіп қалғанын сезіну деңгейі - бұл өте байсалды компания - менің ойымша, артық баға беруге болмайды.
Сіз кейіпкерлер мен жеке қасиеттерді атап өттіңіз. Осы жерде тыңдармандарымыздың сұрағымен аяқтағым келеді. Мен «The Vergecast» атты басқа шоуымызда сізбен сөйлесетінімді айттым және «Ронанға осы оқиға туралы сұрақтарыңыз болса, маған хабарлаңыз» дедім. Сонымен, бізде сіз сипаттаған нәрсемен тығыз байланысты деп ойлаймын. Мен оны сізге оқып беремін:
«Альтманның және басқа да AI жетекшілерінің жаман мінез-құлқын, қиянат әрекеттерін негіздеу Ронанның саясат пен БАҚ-тағы басқа беделді көшбасшылардан естіген негіздеулерінен қалай ерекшеленеді? Олардың барлығы дүние осылай өзгереді деп өз әрекеттерін ақтамай ма? Мен мұны істемесем, басқа біреу жасайды ма?»
Иә, айналада көп нәрсе бар. Мен айтар едім, АИ-нің ерекшелігі - экзистенциалды үлестердің соншалықты жоғары болуы тәуекел туралы мәлімдемелердің де экстремалды екенін білдіреді, солай емес пе? Сізде Сэм Альтман бар«Бұл бәріміз үшін жарық болуы мүмкін» деді. Сондай-ақ, сыншылар сұрақ қоюшы айтып отырған мания төтенше деп айтуы мүмкін, солай емес пе?
Сэм Элонды айыптаған нәрсе, мүмкін, ол адамзатты құтқарғысы келеді, бірақ ол болса ғана. Жеңіске жетуді қалайтын эго құрамдас бөлігі, бұл Сэм үнемі қолданатын фрейм, және бұл тарих кітаптарына арналған, бұл бәрін өзгертуі мүмкін. Сондықтан, тіпті Силикон алқабындағы кәсіпорындардың көпшілігінің «бірнеше жұмыртқаны сындыру керек» санасынан жоғары және одан жоғары, менің ойымша, AI-ға жетекшілік ететін кейбір қайраткерлердің санасында кез келген және барлық құлдыраудың толық ұтымдылығы бар.
Және жұмыртқаны сындыруды ұмытыңыз. Менің ойымша, көптеген қауіпсіздік зерттеушілері елді бұзу, әлемді бұзу және жұмысы мен қауіпсіздігі тепе-теңдікте тұрған миллиондаған адамдарды бұзу қаупі бар деп айтады - бұл оның бірегейлігі. Міне, мен осы есеп беру жүйесіне ой жүгірте отырып, бұл Сэм Альтманнан да көп нәрсеге сенемін. Бұл шектеусіз индустрия туралы және Американың оны шектей алмайтын спираль мәселесі.
Иә. Онда бізде оптимизм болды, бірақ менің ойымша, бұл оны қалдырудың жақсы жері.
[Күлді] Көңілсіз аяқталады.
Әрине. Бұл шын мәнінде әрбір тамаша оқиға. Маск-Алтманның сот процесі алда. Менің ойымша, біз мұнда көп нәрсені үйренеміз. Мен сенімен тағы сөйлескім келеді деп күдіктенемін. Ронан Фарроу, декодерде болғаныңыз үшін көп рахмет.
Рақмет сізге.
Осы эпизод туралы сұрақтар немесе пікірлер? Бізге [email protected] мекенжайы бойынша хабарласыңыз. Біз шынымен әрбір электрондық поштаны оқимыз!
