Денеска на Декодер, разговарам со Ронан Фароу, една од најголемите ѕвезди на истражувачкото известување што работи денес. Тој ја растури приказната за Харви Вајнштајн, меѓу многу, многу други. И токму минатата недела, тој и коавторот Ендрју Маранц објавија неверојатна содржина за длабоко нуркање во The New Yorker за извршниот директор на OpenAI Сем Алтман, неговата доверливост и подемот на самиот OpenAI.
Една забелешка пред да одиме понатаму овде - „Њујоркер“ ја објави таа приказна, а јас и Ронан го имавме овој разговор пред да го дознаеме целосниот обем на нападите врз домот на Алтман, така што нема да слушнете да зборуваме директно за тоа. Но, само да го кажам тоа, мислам дека насилството од секаков вид е неприфатливо, овие напади врз Сем беа неприфатливи и дека тој вид на беспомошност што луѓето го чувствуваат, што доведува до ваков вид насилство, сам по себе е неприфатлив и вреди многу повеќе да се испита и од индустријата и од нашите политички лидери. Се надевам дека тоа е јасно.
Претплатници на граница, не заборавајте дека добивате ексклузивен пристап до декодерот без реклами каде и да ги добивате вашите поткасти. Упатете се овде. Не сте претплатник? Можете да се регистрирате овде.
Сè што е кажано, многу се врти околу Алтман што е фер игра за ригорозно известување - видот на известување што Ронан и Ендрју сакаа да го прават. Благодарение на популарноста на ChatGPT, Алтман се појави како највидливата фигура во индустријата за вештачка интелигенција, откако ја претвори некогашната непрофитна истражувачка лабораторија во приватна компанија од речиси трилиони долари за само неколку години. Но, митот за Алтман е длабоко конфликтен, подеднакво дефиниран и со неговата очигледна способност за склучување договори и со неговата пријавена тенденција да… па, да ги лаже сите околу него.
Приказната е долга преку 17.000 зборови и веројатно содржи дефинитивен приказ за тоа што се случи во 2023 година кога одборот на директори на OpenAI ненадејно го отпушти Алтман поради неговото наводно лажење, само за тој речиси веднаш да биде повторно ангажиран. It’s also a deep dive into Altman’s personal life, his investments, his courting of Middle Eastern money, and his own reflections on his past behavior and character traits that led one source to say he was “unconstrained by the truth.” Навистина предлагам да ја прочитате целата приказна; Се сомневам дека ќе биде референцирано уште многу години.
Ронан разговараше со Алтман многу пати во текот на 18-те месеци што ги помина за известување за ова парче, и затоа една од главните работи за кои бев љубопитен беше дали почувствува некаква промена во Алтман во тоа време. На крајот на краиштата, многу се случија во вештачката интелигенција, во технологијата и во светот во текот на изминатата година и половина.
Ќе го слушнете Ронан како зборува за тоа многу директно, како и неговото чувство дека луѓето станале многу поспремни да зборуваат за способноста на Алтман да ја прошири вистината. Луѓето почнуваат да се прашуваат, гласно и на евиденција, дали однесувањето на луѓето како Алтман е загрижувачко, не само за вештачката интелигенција или технологијата, туку и за колективната иднина на општеството.
Во ред: Ронан Фароу за Сем Алтман, вештачката интелигенција и вистината. Еве одиме.
Ова интервју е лесно уредено за должина и јасност.
Ронан Фароу, ти си истражувачки новинар и соработник на Њујоркер. Добредојдовте во Декодер.
Мило ми е што сум тука. Фала што ме имаш.
Многу сум возбуден што разговарам со тебе. Штотуку напишавте големо парче за The New Yorker. Тоа е профил на Сем Алтман и, некако, OpenAI. Моето читање за него е дека, како што прават сите одлични карактеристики, тој, со ригорозно известување, потврдува многу чувства што луѓето ги имале за Сем Алтман долго време. Очигледно го објавивте, добивте реакции на тоа. How are you feeling about it right now?
Па, всушност, ме охрабри степенот до кој е пробиен во време кога економијата на вниманието е толку шизофренична и плитка. Ова е приказна која, според мене, влијае на сите нас. И кога поминав една и пол година од мојот живот, а мојот коавтор, Ендрју Маранц, исто така, го помина тоа свое време, навистина обидувајќи се да направи нешто форензичко и прецизно, тоа е секогаш затоа што чувствувам дека има поголеми структурни прашања кои ги засегаат луѓето надвор од поединецот и компанијата во срцето на приказната.
Сем Алтман, наспроти позадината на хип-културата во Силиконската долина и стартапи кои се балон за масивни вреднувања засновани на ветувања кои може или не може да се остварат во иднина, и зголемената прегратка на културата основач која мисли дека кажувањето на различни групи различни конфликтни работи е карактеристика, а небубачка… Дури и наспроти таа позадина, Сем Алтман е извонреден случај каде што сите во Силиконската долина што ги очекуваат тие работи не можат да престанат да зборуваат за прашањето за неговата доверливост и неговата искреност.
Веќе знаевме дека тој беше отпуштен поради некоја верзија на наводи за нечесност или сериски наводни лажења. Но, извонредно, и покрај фактот што имаше прекрасно известување, Кич Хејџи направи одлична работа на ова. Карен Хао направи одлична работа на ова. Навистина немаше дефинитивно разбирање за вистинските наводни доказни точки и причините зошто тие останаа надвор од очите на јавноста.
Значи, точката број еден е што се чувствувам охрабрен од фактот што некои од тие празнини во нашето јавно знаење, па дури и во знаењето на упатените во Силиконската долина, сега се пополнети малку повеќе. Уште малку се пополнети некои од причините поради кои имаше празнини.
Известуваме за случаи кога луѓето во оваа компанија навистина се чувствувале како работите да се прикриени или намерно да не се документирани. Една од новите работи во оваа приказна е клучната истрага на адвокатската канцеларија од WilmerHale, која очигледно е фенси, веродостојна, голема адвокатска фирма која вршеше истраги за Enron и WorldCom, кои, патем, беа обемни, како стотици објавени страници. Вилмер Хејл ја направи оваа истрага што ја бараа членовите на одборот кои го отпуштија Алтман како услов за нивно заминување кога тој се ослободи од нив, и тој се врати. И извонредно - во очите на многу правни експерти со кои разговарав, и шокантно во очите на многу луѓе во оваа компанија - тие не пишуваа. Сè што произлезе од тоа беше соопштение за печатот од 800 зборови од OpenAI кое го опиша она што се случи како нарушување на довербата. И потврдивме дека ова е задржано на усни брифинзи.
Има случаи каде што, на пример, член на одборот навидум сака да гласа против конверзијата од оригиналниот непрофитен образец на OpenAI во профитен ентитет, и тоа се евидентира како воздржување. Има како адвокат на состанокот кој вели: „Па, тоа би можело да предизвика преголема контрола“. А тој што сака да гласа против се запишува како воздржан на сите појави. Има фактички спор. OpenAI тврди поинаку, како што може да си замислите. Сето тоа се случаи кога имате компанија која, по своја сметка, ја држи нашата иднина во свои раце.
Безбедносните влогови се толку акутни што не исчезнале. Ова е причината поради која оваа компанија е основана како непрофитна организација фокусирана на безбедноста, и каде што работите се прикриваат на начин што веродостојните луѓе околу ова ја сметаат за помалку од професионални. И го спојувате тоа со позадина каде што има толку малку политички апетит за значајно регулирање. Мислам дека тоа е многу запалива ситуација.
Поентата за мене не е само тоа што Сем Алтман толку акутно ги заслужува овие прашања. Исто така, секој од овие момци на ова поле, и многу од клучните фигури, ја покажуваат, ако не и оваа конкретна идиосинкратска, наводна карактеристика на лажење цело време, секако, одреден степен на менталитет од трка до дното, каде што луѓето кои беа заштитни лица ги намалија тие обврски и ставот на секој е во трка.
Мислам дека, додека ги гледаме неодамнешните протекувања од Антропик, постои личност која го поставува прашањето кој треба да го стави прстот на копчето во овој дел. Одговорот е, ако немаме значаен надзор, мислам дека треба да поставуваме сериозни прашања и да се обидеме да излеземе на површина колку што можеме повеќе информации за сите овие момци. Така, ме охрабри она што изгледа како значаен разговор за тоа, или почетоците на еден.
Причината што го прашав така е што работевте на ова година и пол. Разговаравте, верувам, со 100 луѓе со вашиот коавтор, Андреј. Тоа е долго време за да се готви приказна. I think about the last year and a half in AI in particular, and boy, have the attitudes and values of all these characters shifted very quickly.
Можеби ништо повеќе од Сем Алтман, кој започна како стандарден победник затоа што го објавија ChatGPT и сите мислеа дека тоа само ќе го преземе Google. И тогаш Google одговори, што се чинеше дека ги изненади дека Google ќе се обиде да го заштити својот бизнис, можеби еден од најдобрите бизниси во технолошката историја, ако не и деловната историја. Антропик одлучи дека ќе се фокусира на претпријатието. Се чини дека презема командно водствозатоа што употребата на вештачката интелигенција во претпријатијата е толку висока.
Сега, OpenAI го рефокусира својот производ подалеку од „ние ќе го преземеме Google“ во Codex, а тие ќе го преземат претпријатието. Едноставно не можам да кажам дали, во текот на вашето известување во последните година и пол, дали се чувствувате како ликовите со кои разговаравте да се сменија? Како и нивните ставови и нивните вредности, дали тие се променија?
Да. Најпрво мислам дека критиката што е истражена во овој дел, која доаѓа од многу луѓе во овие компании во овој момент - дека ова е индустрија која, и покрај егзистенцијалните влогови, се спушта во нешто како трка до дното за безбедноста и каде брзината победува сè друго - таа загриженост стана поакутна. И мислам дека тие грижи се потврдени како што се појавија изминатата година и половина. Истовремено, ставовите за Сем Алтман конкретно се променија. Кога почнавме да разговараме со извори за ова, луѓето беа навистина, навистина преплашени да бидат цитирани за ова и да одат на евиденција за ова.
До крајот на нашето известување, имате тело на известувања каде луѓето зборуваат за ова многу отворено и експлицитно, а имате членови на одборот кои кажуваат работи како: „Тој е патолошки лажго. Тој е социопат“. Има низа перспективи од: „Ова е опасно со оглед на безбедносните влогови, и ни требаат лидери на оваа технологија кои имаат покачен интегритет“, сè до лајк, „Заборавете на безбедносните влогови, ова е однесување кое е неодржливо за кој било извршен директор на која било голема компанија, дека само создава премногу дисфункција“.
Така, разговорот стана многу поексплицитен на начин што се чувствува можеби задоцнет, но е охрабрувачки во една смисла. И Сем Алтман, за негова заслуга... Делото е многу фер, па дури и великодушно, би рекол, кон Сем. Ова не е вид на парче каде што имаше многу работи „те најдов“. Поминав многу, многу часови на телефон со него додека го завршувавме ова и навистина го слушнав.
Како што можете да замислите, во ваквото парче не е сè. И ако Сем всушност водеше аргумент дека чувствувам дека носи вода, дека нешто, дури и ако е вистина, може да биде сензационалистичко, јас навистина погрешив што ја задржав оваа форензичка и мерена. Така, мислам дека тоа е правилно прифатено, и само се надевам дека овој фактички запис што е акумулиран во овој временски период може да поттикне потешки разговор за потребата од надзор.
Тоа е всушност моето следно прашање. Мислам дека разговаравте со Сем десетина пати во текот на известувањето за оваа приказна. Повторно, тоа се многу разговори во долг временски период. Дали мислевте дека Сем се промени во текот на известувањето во текот на изминатата година и половина?
Да. Мислам дека една од најинтересните подзаплети во ова е дека Сем Алтман, исто така, зборува за оваа особина поексплицитно отколку во минатото. Позата на Сем во ова парче не е како: „Нема ништо таму, ова не е вистина; не знам за што зборуваш“. Ставот што тој го има е дека вели дека ова се припишува на склоноста на луѓето кои ги задоволуваат луѓето и на еден вид аверзија кон конфликтот. Тој признава дека тоа му предизвикало проблеми, особено порано во неговата кариера.
Тој вели: „Па, јас поминувам покрај тоа, или донекаде го поминав тоа“. Мислам дека она што е навистина интересно за мене е контингентот на луѓе со кои разговаравме, кои не беа само еден вид застапници за безбедност, не само основните технички истражувачи кои многу често имаат тенденција да ги имаат овие акутни безбедносни грижи, туку и прагматични, големи инвеститори. Тие се поддржувачи на Сем, кои, во некои случаи, го гледаат ова прашање и зборуваат дека дури одиграле клучна улога во неговото враќање по отпуштањето. Сега, на ова прашање дали е реформиран и до кој степен е значајна таа промена, тие велат: „Па, ние му дадовме корист од сомнежот во тоа време“.
Посебно мислам на еден истакнат инвеститор кој рече: „Но, оттогаш, се чини јасно дека не беше изнесен зад шумиштето“, што беше фразата што ја користеше овој, до степен до кој беше неопходно. Како резултат на тоа, се чини дека ова сега е стабилна карактеристика. Ние го гледаме ова на тековен начин. Можете да погледнете некои од најголемите бизниси на OpenAIодносите и начинот на кој тие некако ја носат тежината на таа недоверба на тековен начин.
Како и со Мајкрософт, разговарате со директорите таму, и тие имаат навистина акутна и неодамна катализирана загриженост. Има ваков пример кога, истиот ден кога OpenAI ја потврдува својата ексклузивност со Microsoft во однос на основните модели на вештачка интелигенција без државјанство, тој исто така објавува нов договор со Amazon што се однесува на продажба на решенија за претпријатија за изградба на агенти за вештачка интелигенција кои се државни, што значи дека имаат меморија.
Разговарате со луѓе на Microsoft и тие велат: „Тоа не е можно да се направи без интеракција со основните работи за кои имаме договор за ексклузивност“. Така, тоа е само еден од многуте мали примери каде оваа особина постојано влегува во тековната деловна активност и е предмет на активна загриженост во одборот на OpenAI, во неговиот извршен пакет и во пошироката технолошка заедница.
Постојано ја кажувате таа „особина“. Има една линија во приказната што за мене изгледа како теза, и тоа е опис на особината што ја опишувате. Тоа е дека „Сем Алтман е неограничен од вистината“ и дека има „две особини кои речиси никогаш не се забележани кај иста личност: првата е силна желба да им се допадне на луѓето, да се допадне во која било дадена интеракција, а втората е речиси социопатски недостаток на грижа за последиците што може да произлезат од измама некого“.
Морам да ви кажам, ја прочитав таа реченица 500 пати и се обидов да замислам дека секогаш кажувам што сакаат луѓето да им се допаднат, а потоа да не се вознемирувам кога ќе почувствуваат дека ги лажат. И не можев да ја разберам мојата емоционална состојба како тие работи можат да постојат кај истата личност. Разговаравте со Сем многу, и разговаравте со луѓе кои ги искусиле овие особини. Како го прави тоа?
Да. Интересно е на човечко ниво затоа што јас им приоѓам на ваквите тела за известување со вистински фокус на хуманизирање на оној што е во срцето на тоа и барајќи длабоко разбирање и емпатија. Кога се обидов да му пријдам на ова од почовечка гледна точка и да речам: „Еј, ова би било погубно за мене ако толку многу луѓе со кои работев велат дека сум патолошки лажго. Како ја носиш таа тежина? Како зборуваш за тоа во терапија? Која е приказната што си ја кажуваш за тоа?“
Добив некакви, според мене, можеби флоскули на Западниот брег за тоа како: „Да, ми се допаѓа работата со здив“. Но, не многу од видот на засилено чувство на длабока самоконфронтација што мислам дека многумина од нас веројатно би го имале доколку гледаме ваков вид на повратни информации за нашето однесување и нашиот третман кон луѓето.
Мислам дека тоа всушност оди и на поширокиот одговор на прашањето. Сем тврди дека оваа особина предизвикала проблеми, но и дека е дел од она што го овластило да го забрза растот на OpenAI толку многу што може да обедини и да им угодува на различни групи луѓе. Тој постојано ги убедува сите овие конфликтни групи дека она за што се грижи е она за што се грижи. И тоа може да биде навистина корисна вештина за основачот. Разговарав со инвеститори кои потоа велат: „Па, можеби тоа е помалку корисна вештина за всушност водење на компанија бидејќи сее толку многу раздор“.
Но, од личната страна на Сем, мислам дека она што го забележувам кога се обидувам да се поврзам на човечко ниво е очигледниот недостаток на подлабока конфронтација, размислување и самоодговорност, што исто така ја информира таа супермоќ или одговорност за компанија која се подготвува за ИПО.
Тој е некој кој, според зборовите на еден поранешен член на одборот по име Сју Јун, кој е на записот во делото велејќи дека фразата што таа ја користи до точка на „безмисленост“, може навистина да верува во променливата реалност на неговите продажни терени или може да се убеди себеси во нив. Или барем ако не им верува, тој може да се пробие низ нив без значајно да се сомнева во себе.
Мислам дека она за што зборувате, каде што вие или јас би можеле, додека го кажуваме тоа и сфаќаме дека тоа е во спротивност со другото уверување што го дадовме, на некој начин ќе имаме момент на замрзнување или проверка. Мислам дека тоа не се случува со него. And there’s a wider Silicon Valley hype culture and founder culture that kind of embraces that.
смешно е. The Verge е изграден на она што значи преглед на производотпрограма. Тоа е срцето на она што го правиме овде. Имам трилиони долари од Apple R&D еднаш годишно и велам: „Овој телефон е седумка“. И тоа на некој начин го легитимира целото наше известување и нашите мислења на друго место. Имаме евалуациска функција и поминуваме толку многу време само гледајќи ги производите со вештачка интелигенција и велејќи: „Дали тие функционираат?
Се чини дека тоа недостасува во многу разговори за вештачката интелигенција како што е денес. Има бескрајни разговори за тоа што може да се направи, колку опасно може да биде. И тогаш ќе вежбате и велите: „Дали навистина го прави она што треба да го направи денес? Во некои случаи, одговорот е да. Но, во многу, многу случаи, одговорот е не.
Тоа се чувствува како да се поврзува со културата на возбуда што ја опишувате, а исто така и со чувството дека, добро, ако кажете дека ќе направи нешто, а тоа не го прави, а некој се чувствува лошо, тоа е во ред затоа што сме на следното нешто. Тоа е во минатото. А особено во вештачката интелигенција, Сем е толку добар во давањето на големите ветувања.
Само оваа недела, мислам дека истиот ден кога беше објавена вашата приказна, OpenAI објави документ за политика во кој се вели дека треба да го преиспитаме социјалниот договор и да имаме стипендии за ефикасност на вештачката интелигенција од владата. Ова е големо ветување за тоа како некоја технологија може да ја обликува иднината на светот и како живееме, а сето тоа се потпира на технологијата која работи токму на начинот на кој можеби е ветено дека ќе работи или би требало да функционира.
Дали некогаш сте откриле дека Сем се сомнева дека вештачката интелигенција се претвора во АГИ или суперинтелигенција или доаѓа до целта? Затоа што тоа е она за што најмногу се прашувам. Дали постои размислување за тоа дали оваа основна технологија може да ги направи сите работи што тие велат дека може да ги направи?
Тоа е вистинскиот сет на прашања. Има веродостојни технолози со кои разговаравме во ова тело на известување - и очигледно Сем Алтман не е таков; тој е деловен човек - кој вели дека начинот на кој Сем зборува за временската рамка за оваа технологија е многу далеку. Има блог постови од пред неколку години каде Сем вели: „Веќе го достигнавме хоризонтот на настани. AGI е во основа тука. Суперинтелигенцијата е зад аголот. Ќе бидеме на други планети. Ќе ги излечиме сите форми на рак“. Навистина, не разубавувам.
Она од рак е всушност интересно, тоа што Сем ја хитува личноста која теоретски го излечила ракот на нивното куче со ChatGPT, а тоа едноставно не се случи. Тие разговараа со ChatGPT и тоа им помогна да водат некои истражувачи кои всушност ја завршија работата, но тоа што оваа алатка еден-на-еден го излечи ова куче всушност не е приказната.
Драго ми е што ја подигнавте таа точка затоа што сакам да продолжам до оваа поголема точка за тоа кога и потенцијалот и ризикот од технологијата навистина ќе се покријат. Но, вреди да се споменат овие мали страни што постојано се случуваат од Сем Алтман, каде што се чини дека ја отелотворува оваа особина одново.
Мислам, да го користам примерот на извештајот на Вилмер Хејл, каде што ги имавме овие информации кои не беа пишувани и сакавме да знаеме дали усниот бриф по пат беше даден на некој друг освен двајцата членови на одборот што Сем помогна да се инсталира за да го надгледува. И тој рече: „Да, да, не, верувам дека им беше дадена на сите што се приклучија на одборот потоа“. И имаме човек со директно познавање на ситуацијата, кој вели дека тоа е едноставно лага. И тоа навистина се чини дека е така, дека е невистинито. Ако сакаме да бидеме дарежливи, можеби тој бил погрешно информиран.
Има многу од овие случајни гаранции. И го користам тој пример делумно затоа што тоа е одличен пример за растурање, ајде да го наречеме, што може да има реални последици на легален план. Не треба да ви кажам, според корпоративното право на Делавер, дали акционерите би можеле, според член 220, да се жалат на ова и да побараат основна документација. There are already board members saying things like, “Well, wait a minute, that briefing should have happened.”
Така, овие работи кои изгледаат како да скокаат од неговата уста цело време, можат да имаат вистински ефекти за движење на пазарот, вистински ефекти за OpenAI. Враќајќи го на видот на утописки јазик за возбуда што повторно се појави, мислам дека не случајно на денот кога излезе ова парче, исто така влијае на сите нас, бидејќи опасностите се толку акутни во однос на начинот на кој ераспоредувањето во оружје, начинот на кој се користи за да се идентификуваат хемиските борбени агенси, потенцијалот за дезинформација и поради начинот на кој утописката возбуда се чини дека поттикнува многу веродостојни економисти да кажат: „Ова ги има сите знаци на балон“.
Even Sam Altman has said, “Someone’s going to lose a lot of money here.” Тоа навистина би можело да предизвика многу американски и глобален економски раст, ако е како вистинско пробивање на балон во кој сите овие компании склучуваат договори меѓусебно, навлегувајќи се со вештачка интелигенција додека се задолжуваат толку многу. Значи, она што го кажува Сем Алтман е важно, и мислам дека преовладувањето на луѓето околу него, спомнавте дека разговаравме со повеќе од стотина, всушност беше многу повеќе од сто. Имавме разговор на финишот каде што беше како: „Дали би било премногу ситно да се каже дека е многу поголем број? И ние бевме како: „Да, да го минимизираме. Ќе играме кул“. Но, имаше толку многу луѓе и толку значително мнозинство од нив рекоа: „Ова е загриженост“. И мислам дека сето тоа е причината.
Да те прашам за таа бројка. Како што спомнавте, луѓето стануваа се поотворени со грижите како што одминуваше времето. Се чувствува како притисокот околу балонот - трката да се победи, да се исплати сета оваа инвестиција, да се излезе како победник, до ИПО - промени многу ставови. Тоа секако создаде поголем притисок врз Сем и OpenAI.
Оваа недела објавивме приказна за вибрациите на OpenAI. Вашата приказна е дел од неа, но огромни кадровски промени во извршните рангови на OpenAI - луѓето доаѓаат и си одат. Сите истражувачи се упатени, главно во Антропик, што мислам дека е навистина интересно. Можете само да видите дека оваа компанија го чувствува притисокот и реагира на тој притисок на некој начин.
Но, потоа се сеќавам дека Сем доби отказ. Ова е само за паметење за мене. Тоа не е незаборавно за никој друг, но јас се јавив во зоолошката градина во Бронкс во 19 часот во петок, и некој рече дека ќе се обидат да го вратат Сем. И тогаш го поминавме викендот бркајќи ја таа приказна. И јас бев како: „Јас сум во зоолошката градина. Што сакаш да правам овде?“ А одговорот беше: „Остани на телефон“. Па, ќерка ми рече: „Тргни се од телефонот“. И тоа е она што го направив.
Беше возење или умирање за да се врати Сем. Таа компанија беше како: „Не, не дозволуваме одборот да го отпушти Сем Алтман“. Инвеститорите, тие се цитирани во вашиот текст, „Отидовме во војна“, мислам дека е позицијата на Thrive Capital, „да го вратиме Сем“. Мајкрософт тргна во војна за да го врати Сем. Подоцна, а сега сите велат: „Одиме на ИПО. Стигнавме до целта. Го вративме нашиот човек и тој ќе не одведе до целта. Загрижени сме дека е лажго“.
Зошто беше војна да се врати тогаш? Затоа што се чини дека нешто всушност не се променило. Зборувате за белешките што Илја Сутскевер и [извршниот директор на Антропик] Дарио Амодеи ги воделе додека биле современици на Сем Алтман. Загриженоста број еден на Илја беше дека Сем е лажго.
Ништо од тоа не се промени. Па зошто тогаш беше војна да го вратат? И сега, кога сме на финишот, се чини дека сите грижи се отворени.
Па, најпрво, извинете за вашата ќерка и мојот партнер и сите други луѓе околу новинарите.
[Се смее] Беше доста викенд за сите.
Да, тоа навистина го презема нечиј живот, а оваа приказна дефинитивно го има мојот, во последниот временски период. Тоа всушност се однесува на оваа тема на новинарството и пристапот до информации, мислам. Инвеститорите кои влегоа во војна за Сем и сите играа улоги да се осигураат дека тој ќе се врати, а одборот кој беше специјално дизајниран да ја заштити мисијата на непрофитната организација да ја стави безбедноста над растот и да отпушти директор доколку не можеше да им се верува во тоа, тие си заминаа. Сето тоа беше затоа што, да, имаше пазарни стимулации, нели?
Сем можеше да ги убеди луѓето: „Па, компанијата само ќе се распадне“. Но, причината поради која имаше поддршка беше недостатокот на информации. Тие инвеститори, во многу случаи, сега велат: „Погледнувам наназад и мислам дека требаше да имам повеќе грижи ако знаев целосно кои се побарувањата и кои се грижите“.
Не сите од нив;мислењата се разликуваат, а ние цитираме низа мислења, но има и значајни кои дејствувале на многу делумни информации. Таблата што го отпушти Сем беше, според зборовите на едно лице кое порано беше на таблата, „многу ЈВ“, и тие силно ја газеа топката. And we document the underlying complaints, and people can decide for themselves whether it accumulates into the kind of urgent concern they felt it was, but that argument and that information were not being presented.
Тие го добија она што некои од нив сега го признаваат како лош правен совет. За да го опишете, ќе се сеќавате на цитатот и веројатно многу од вашите слушатели и гледачи ќе го запаметат цитатот како недостаток на искреност. Тоа беше она на што беше сведено, и тогаш тие во суштина не прифаќаа повици.
Тие не прифаќаа повици. Сигурен сум дека сте се обиделе. Сите што ги познавам се обидоа, и дојде до точка кога, како новинар, не треба да ги советуваш своите извори, но јас реков: „Ова ќе исчезне ако не почнеш да се објаснуваш“.
И тоа е она што се случи. Заборавете на новинарите. Сатја Надела рече: „Што по ѓаволите се случи? Не можам да натерам некој да ми објасни“. И тоа е главниот финансиски поддржувач на компанијата. Сатја се јавува кај [ко-основачот на LinkedIn] Рид Хофман, а Рид се јавуваат и велат: „Не знам што се случи, по ѓаволите“.
Тие се разбирливо во таа празнина од информации, барајќи ги традиционалните индикатори кои не се ВИ кои би го оправдале таквото итно, ненадејно пукање. Како, во ред, дали се работи за сексуални злосторства? Дали тоа беше проневера? И целиот суптилен, но мислам дека има смисла, аргумент дека оваа технологија е различна и дека ваквата постојана акумулација на помали предавства може да има значајни влогови и за овој бизнис и можеби за светот, беше во голема мера изгубен. Така, победија капиталистичките стимулации, но и луѓето кои го направија тоа згаснаа и не работеа секогаш со целосни информации.
Сакам само за еден момент да прашам за аспектот „што сите мислеа дека е“, бидејќи секако ја видов веста и реков: „Ох, мора да се случило нешто лошо“. Направивте многу известувања за #MeToo, славно. Ја растури приказната за Харви Вајнштајн.
Потрошивте многу време известувајќи за овие тврдења за кои мислам дека одлучивте дека на крајот се неосновани: дека Алтман сексуално напаѓал малолетници или ангажирал сексуални работници, па дури и убил свиркач на OpenAI. Мислам, вие сте личноста која може најригорозно да ги пријави овие работи. Дали решивте дека не дојде до ништо?
Па, види, јас не сум во бизнисот да кажам дека нешто не испаднало. Она што можам да го кажам е дека поминав месеци гледајќи ги овие тврдења и не најдов потврда за нив. И за мене беше впечатливо што овие момци, овие компании кои имаат толку голема моќ врз нашата иднина, навистина трошат непропорционален дел од своето време и ресурси во детска борба со кал.
Еден извршен директор го опишува како „шекспирово“. Количината на пари од приватниот истражител и досиејата на опозицијата што се составуваат е немилосрдна. И несреќното е што видот на здрави работи, кои се папагалирани од конкурентите на Сем, се само претпоставени факт, нели? Има ова тврдење дека тој брка малолетни момчиња, а на многу коктел забави во Силиконската долина го слушате ова. На колото на конференцијата, слушнав како штотуку се повторува од веродостојни, истакнати директори: „Сите знаат дека ова е факт“.
Тажното е што зборувам за тоа од каде доаѓа ова, за различните вектори преку кои се пренесува. Илон Маск и неговите соработници навидум туркаат навистина хардкор досиеја кои не се ништо. Тие се испарливи кога всушност ќе почнете да ги разгледувате основните тврдења. Тажната работа е што навистина ги замаглува критиките засновани на докази овде, за кои мислам дека навистина заслужуваат итен надзор и разгледување.
Другата тема што навистина се појавува во приказната е речиси чувството на страв дека Сем има толку многу пријатели - тој инвестирал во толку многу компании од неговата претходна улога како извршен директор на Y Combinator, само до неговото лично инвестирање, од кои некои се во директен конфликт со неговата улога како извршен директор на OpenAI - и околу него владее тишина.
Ме погоди додека читав особено еден ред. Ги опишувате белешките на Илја Сутскевер, а тие штотуку се објавени во Силиконската долина. Ситеги нарекува белешки на Илја. Но, околу тоа владее дури и тишина. Тие се префрлени, но не се разговара за нив. Што мислите, од каде доаѓа тоа? Дали е тоа страв? Дали е желба да се добие ангелска инвестиција? Од каде доаѓа тоа?
Мислам дека тоа е многу кукавичлук, ќе бидам искрен. Имајќи известување за приказните за националната безбедност каде што изворите се свиркачи кои ќе изгубат сè и ќе се соочат со кривично гонење, тие сепак ја прават вистинската работа и зборуваат за работи за да создадат одговорност. Работев на приказните поврзани со сексуални злосторства што ги спомнавте, каде што изворите се длабоко трауматизирани и се плашат од многу лична одмазда.
Во многу случаи околу овој ритам, имате работа со луѓе со свој профил и моќ. Тие се или самите познати луѓе или се опкружени со познати луѓе. Тие имаат робустен деловен живот. Според мене, всушност е многу ниска изложеност за нив да зборуваат за овие работи. И за среќа, иглата се движи како што зборувавме претходно, а луѓето сега зборуваат повеќе.
Но, за толку долго време, луѓето навистина само молчат за тоа затоа што мислам дека културата на Силиконската долина е само толку безмилосно личен интерес и безмилосно ориентирана кон бизнис и раст. Така, мислам дека ова ги погодува дури и некои од луѓето кои беа вклучени во отпуштањето на Сем, каде што видовте во деновите потоа, да, еден фактор што доведе до негово враќање и отпуштањето на старите членови на одборот беше тоа што тој ги собра инвеститорите кои беа збунети во неговата кауза.
Но, друго е што многу други луѓе околу него, кои имаа загриженост и итно ги искажуваа, само се превиткаа како салфетки и ја сменија мелодијата во моментот кога видоа дека ветрот дува од другата страна и сакаа да влезат во профитниот воз.
Прилично е темно, искрено, од моја гледна точка како новинар.
Некои од тие луѓе се Мира Мурати, која, верувам, 20 минути беше новиот извршен директор на OpenAI. Таа потоа беше заменета. Беше многу комплицирана динамика, и очигледно, Сем се врати. Другото лице е Илја Сутскевер, кој беше еден од гласовите за смена на Сем, а потоа се предомисли, или барем рече дека се предомислил, а потоа заминал да основа своја компанија. Знаете ли што го натера да се премисли? Дали беа тоа само пари?
Па, и да бидам јасен, не ги издвојувам тие две. Во пукањето имало и други членови на одборот кои исто така многу замолчеле. Мислам дека тоа е како поширок колективен проблем. Тоа се, во некои случаи, луѓе кои имаа морални влакна да алармираат и да преземат радикални мерки, и тоа е за пофалба. И на тој начин ја гарантирате одговорноста. Тоа можеше да им помогне на многу луѓе кои се засегнати од оваа технологија. Тоа можеше да и помогне на индустријата да остане позначајно фокусирана на безбедноста.
Но, кога се занимавате со свиркачи и луѓе кои се обидуваат многу да ја поттикнат таа одговорност, исто така, гледате дека е потребно да се чувате и да останете на вашите убедувања. И оваа индустрија е навистина полна со луѓе кои едноставно не стојат на своите убедувања.
Иако мислат дека градат дигитален Бог кој некако или ќе го елиминира целиот труд или ќе создаде повеќе труд, или нешто ќе се случи.
Па, тоа е работата. Така, културата да не се држите зад вашите убедувања и сите етички грижи кои паѓаат настрана во моментот кога има некаква топлина или нешто што би можело да ја загрози вашата сопствена положба во бизнисот е можеби добро и добро до одреден степен за компаниите кои се вообичаени за бизнисот кои произведуваат секаков вид графичка контрола.
Но, ова се исто така истите луѓе кои велат: „Ова буквално може да не убие сите“. И повторно, не мора да одите во крајноста на Терминатор Скајнет. Има збир на ризици кои веќе се материјализираат. Вистина е, и тие се во право што предупредуваат за тоа, но треба да имаш некој друг како фотелја да психологизира како тие две работи можат да живеат во истите луѓе каде што звучат итни предупредувања, можеби ставаат прсти и се обидуваат да направат нешто, а потоа само се превиткуваат и молчат.
Токму затоа може да имате вакви случаи кога работите се држат надвор од пишување и нештата се бришат под тепих, а никој да не зборува за тоа отворено со години после фактот.
Природната, одговорна страна овде не би биле извршните директори на овие компании; тоа би биле владите. Во САД, можебитоа се државните влади, можеби тоа е федералната влада.
Секако, сите овие компании сакаат да бидат глобални. Тука има многу глобални импликации. Гледав OpenAI, Google и Anthropic како ја поттикнуваат администрацијата на Бајден да објави извршна наредба за вештачка интелигенција. На крајот беше прилично без заби. Само рече дека треба да разговараат за тоа што се способни нивните модели и да објават некои безбедносни тестови. И тогаш сите го поддржаа Трамп, а Трамп влезе и го избриша сето тоа и рече: „Мораме да бидеме конкурентни. Тоа е бесплатно за сите. Одете по тоа“.
Во исто време, сите тие се обидуваат да соберат средства од земјите од Блискиот Исток кои имаат многу пари од нафта и сакаат да ги променат своите економии. Тоа се политичари. Чувствувам дека политичарите дефинитивно треба да разберат дека некој зборува од двете страни на нивната уста, и нема да бидат премногу вознемирени ако некој на крајот се разочара, но и политичарите се возат на прошетка. Зошто мислиш дека е тоа?
Ова е навистина, мислам, зошто делото е важно според мене и зошто вреди да се потроши сето ова време и детали. Ние сме во средина каде што системите кои, како што велите, треба да обезбедуваат надзор се само издлабени. Тоа е пост-граѓанска Обединета Америка, каде што протокот на пари е толку неограничен, и тоа е посебна концентрација на тој проблем околу вештачката интелигенција, каде што има овие PAC кои се множат и преплавуваат пари за да ја поништат значајната регулатива и на државно и на федерално ниво.
Го имате [ко-основачот на OpenAI] Грег Брокман, вториот човек на Сем, кој директно придонесува на голем начин за неколку од нив. Тоа доведува до ситуација каде што навистина има фаќање на законодавците и потенцијалните регулатори, а од тоа е тешко да се излезе. Тажното е што мислам дека има едноставни политички потези, од кои некои се судат на друго место во светот, кои би помогнале во некои од овие проблеми со одговорноста.
Може да имате повеќе задолжителни безбедносни тестови пред распоредувањето, што е нешто што веќе се случува во Европа за пограничните модели. Може да имате построги барања за писмена јавна евиденција за видовите внатрешни истраги каде што видовме дека работите не се пишуваат во овој случај. Може да имате посилен сет на механизми за проверка на националната безбедност за видовите инфраструктурни амбиции на Блискиот Исток што ги турка Сем Алтман.
Како што велите, тој ја правеше оваа мамка и се префрли со администрацијата на Бајден, велејќи: „Регулирајте нè, регулирајте нè“, и им помагаше да изготват извршна наредба, а потоа во моментот кога Трамп ќе влезе, навистина во првите денови, едноставно немаше забрана, „Ајде да забрзаме и да изградиме огромен кампус на центарот за податоци во Абу Даби“. Може да имате, ова е навистина едноставно, како заштита на свиркачите. Не постои федерален статут со кој се заштитуваат вработените во компанијата за вештачка интелигенција кои ги откриваат овие видови безбедносни грижи што се емитуваат во овој дел.
Имаме случаи каде што Јан Лејке, кој беше постар човек за безбедност во OpenAI, беше водечки во суперлигашот во компанијата. Тој му пишува на одборот, во суштина материјал за укажувачи, велејќи дека компанијата тргнува од шините на својата безбедносна мисија. Тоа се типови на луѓе кои всушност треба да имаат надзорно тело кај кое може да се обратат, и тие треба да имаат експлицитна законска заштита како што гледаме во другите сектори. Ова е едноставно да се реплицира режимот во стилот на Сарбенес-Оксли.
Мислам дека и покрај тоа колку е акутен проблемот Силиконската долина да ја преземе контролата врз сите лостови на моќта, и покрај тоа колку се издлабени некои од овие институции кои би можеле да обезбедат надзор и заштитни огради, јас сè уште верувам во основната математика на демократијата и на политичарите кои се заинтересирани за лични интереси. И се појавуваат се повеќе податоци од анкетите дека мнозинството Американци мислат дека загриженоста, прашањата или ризиците од вештачката интелигенција моментално ги надминуваат придобивките.
Така, мислам дека напливот на пари во политиката од вештачката интелигенција, е во сета наша моќ да го направиме тоа извор на прашалник во однос на политичарите. Кога Американците одат да гласаат, тие треба внимателно да испитуваат дали луѓето за кои гласаат, особено ако се некритични и антирегулаторни, со оглед на сите овие грижи, се финансирани од големи технолошки специјални интереси. Така, мислам дека луѓето можат да читаат вакви дела, да слушаат вакви подкасти и да се грижат доволно за да размислуваат критичкинивните одлуки како гласачи, постои реална можност да се генерира изборна единица во Вашингтон од претставници кои внимаваат и принудуваат надзор.
Тоа можеби е една од најоптимистичките работи што некогаш сум слушнал некој да каже за актуелната индустрија за вештачка интелигенција. Јас го ценам тоа. Јас сум опседнат со анкетите за кои зборуваш. Сега има многу. Сето тоа е прилично конзистентно, и се чини дека колку повеќе младите луѓе, особено, се изложени на вештачка интелигенција, толку се понедоверливи и лути поради тоа. Тоа е валентноста на сите анкети. И јас гледам на тоа, и мислам, добро, да, паметните политичари едноставно би се спротивставиле на тоа. Тие само би рекле: „Ќе бараме одговорност од големата технологија“.
Потоа размислувам за изминатите 20 години, еден политичар вели дека ќе ја бараат одговорноста од големата технологија, а јас се мачам да најдам дури и еден момент кога големата технологија ќе биде повикана на одговорност. Единственото нешто што ме тера да мислам дека ова може да биде различно е, добро, всушност треба да ги изградите центрите за податоци, и можете да гласате против тоа, и можете да поднесете петиција против тоа, и можете да протестирате против тоа.
Мислам дека има политичар на кој штотуку пукале во нивната куќа затоа што гласале за центар за податоци. Тензијата достигнува, јас би ја нарекол, треска. Ја опишавте изолираноста на Силиконската долина. Ова е затворен екосистем. Се чувствува како да мислат дека можат да управуваат со светот. Тие вложуваат еден тон пари во политиката и се спротивставуваат на реалноста дека луѓето не ги сакаат производите, што не им дава голема покриеност. Колку повеќе ги користат производите, толку повеќе се вознемирени, а политичарите почнуваат да гледаат дека има реални последици од поддршката на технолошката индустрија над луѓето што ги претставуваат.
Разговаравте со многу луѓе. Дали мислите дека е можно технолошката индустрија да ја научи лекцијата што е пред нив?
Велите дека се чувствуваат како да мислат дека можат да управуваат со светот без одговорност. Дури ни мислам дека не е потребен квалификаторот „се чувствува како“. Мислам, гледате на јазикот што Питер Тиел го користи, тоа е експлицитно. Се разбира, тоа е екстремен пример. И Сем Алтман, иако е близок со и донекаде информиран за идеологијата на Тиел, е многу поинаков вид на личност што може да звучи поинаку и поизмерено до одреден степен.
Но, мислам дека пошироката идеологија што ја добивате од Тиел, која во основа е: завршивме со демократијата, не ни треба повеќе. Имаме толку многу што сакаме само да си изградиме сопствени мали бункери. Веќе не се занимаваме со Карнеги или Рокфелер, каде што тие се лоши момци, но тие чувствуваат дека треба да учествуваат во социјален договор и да градат работи за луѓето. Постои вистински нихилизам што е поставен.
И мислам дека тоа е само заемно зајакнувачка спирала во поновата американска историја на магнати и приватни компании кои стекнуваат супервладина моќ додека демократските институции кои би можеле да ги бараат одговорни се издлабени. Не се чувствувам оптимист во врска со идејата дека тие момци може само еден ден да се разбудат и да помислат: „Ах, всушност можеби треба да учествуваме во општеството и да помогнеме да изградиме работи за луѓето“.
Мислам, изгледаш како микрокосмичкиот пример на The Giving Pledge, каде што имаше момент кога навидум беше добротворно, а тој момент сега е минато, па дури и исмеан. Тоа е проблем, поширокиот проблем на неодговорност што мислам дека може да се реши само надворешно. Тоа треба да биде гласачите што ја мобилизираат и воскреснуваат моќта на владиниот надзор. И точно сте во право што велите дека главниот вектор преку кој луѓето би можеле да го постигнат тоа е локален. Тоа е поврзано со тоа каде се гради инфраструктурата.
Спомнавте дел од жешката тензија околу ова што води кон насилство и закани, и очигледно, никој не треба да биде насилен или да се заканува. И, исто така, не сум тука за да дадам конкретни препораки за политиките, освен само да презентирам некои од чекорите на политиката кои изгледаат основни и функционираат на друго место во светот, нели? Или оние кои работеле во други сектори. Не сум тука да кажам кој од нив треба да се изврши и како.
Мислам дека нешто треба да се случи, и тоа треба да биде надворешно, а не само да им се верува на овие компании. Затоа што точносега имаме ситуација кога компаниите кои ја развиваат технологијата и се опремени најдобро да ги разберат ризиците, а всушност се оние кои нè предупредуваат за ризиците, исто така се оние кои немаат ништо друго освен поттик да одат брзо и да ги игнорираат тие ризици. И едноставно немате што да се спротивстави на тоа. Значи, какви и да бидат потребни реформи во однос на спецификите, нешто мора да се спротивстави на тоа. И сè уште се враќам на оптимизмот дека луѓето се уште се важни.
Генерално го купувам твојот аргумент. Дозволете ми да го дадам само еден минијатурен контрааргумент што мислам дека можам да го артикулирам. Другото нешто што може да се случи надвор од гласачката кутија е дека балонот пука, нели? Дека не сите овие компании стигнуваат до финишот и дека не постои пазар на производи погоден за потрошувачки апликации за вештачка интелигенција. И повторно, сè уште не го гледам баш, но јас сум рецензент на технологија за потрошувачи и можеби едноставно имам повисоки стандарди од сите други.
Во деловниот свет се вклопува пазарот на производи, нели? Тоа што еден куп агенти со вештачка интелигенција пишуваат куп софтвер се чини дека е вистински пазар за овие алатки. И можете да ги прочитате аргументите од овие компании кои велат: „Решивме кодирање, а тоа значи дека можеме да решиме сè. Ако можеме да направиме софтвер, можеме да ги решиме сите проблеми“.
Мислам дека има реални ограничувања за работите што софтверот може да ги направи. Тоа е одлично во светот на бизнисот. Софтверот не може да го реши секој проблем во реалноста, но тие мора да стигнат таму. Тие мораа да ја завршат работата, а можеби не секој стигнува до целта. И има крах, и овој меур се појавува, а можеби и OpenAI или Anthropic или xAI, една од овие компании пропаѓа, и целата оваа инвестиција исчезнува.
Дали мислите дека тоа би влијаело на ова? Всушност, прво да го поставам првото прашање. OpenAI е на прагот на ИПО. Има многу сомнежи за Сем како лидер. Дали мислите дека ќе стигнат до финишот?
Нема да прогнозирам, но мислам дека покренувате важна точка, а тоа е дека пазарните стимулации се важни внатрешно за Силиконската долина, а несигурноста на сегашната динамика на меурчиња навистина ја прекинува, повторно, потенцијално, според критичарите, трката до дното за безбедност.
Исто така, би додала на тоа, ако се погледне историската предност каде што има сличен и навидум непробоен сет на пазарни стимуланси и потенцијално штетни ефекти за јавноста, има влијание судски спорови. И тоа го гледате како област на загриженост во последно време. Сем Алтман е таму оваа недела, поддржувајќи ја легислативата што ќе ги заштити компаниите со вештачка интелигенција од некои од видовите на одговорност на кои OpenAI е изложен во погрешни тужби за смрт, на пример. Се разбира, постои желба да се има тој штит од одговорност.
Мислам дека судовите сè уште можат да бидат значаен механизам и ќе биде навистина интересно да се види како се обликуваат овие тужби. Веќе го видовте, на пример, тужбата за класификација, чиј член сум јас и многу, многу други автори за кои знам, против Антропик поради нивната употреба на книги кои биле под авторски права. Ако има паметни правни умови и тужители кои се грижат, како што сме виделе историски во случаите од големиот тутун до големата енергија, може да добиете и некои заштитни огради и некои стимулации да го забавите, да бидете внимателни или да ги заштитите луѓето на тој начин.
Се чини дека целата структура на трошоците на индустријата за вештачка интелигенција виси на многу, многу добротворно толкување на фер употреба. Не излегува доволно. Структурата на трошоците на овие компании би можела да излезе од контрола ако треба да ви платат вам и на сите други чија работа ја преземале, но незгодно е да се размислува, па едноставно не размислуваме за тоа. Веднаш до тоа, сите овие производи сега работат со загуба. Како денес, сите трчаат во загуба. Тие трошат повеќе пари отколку што можат да заработат. Во одреден момент, тие треба да го превртат прекинувачот.
Сем е бизнисмен. Како што спомнавте неколку пати, тој не е технолог. Тој е деловен човек. Дали мислите дека е подготвен да го преврти прекинувачот и да каже: „Ќе заработиме еден долар? Затоа што кога ќе прашам: „Дали мислите дека OpenAI ќе успее? Тоа е кога треба да заработат долар. И досега, Сем ги заработил сите свои долари барајќи пари од други луѓе наместо неговите компании да заработуваат пари.
Па, тоа е големо долгогодишно прашање за Силиконската долина, за инвеститорите, за јавноста.Гледате некои изјави и поместувања од OpenAI кои се чини дека предизвикуваат некаква паника за тоа. Исклучување на Sora, затворање на некои помошни проекти, обид за нула во основниот производ. Но, од друга страна, сè уште гледате, во исто време, тони мисии лази, нели? Дури и мал пример - очигледно не е суштински за нивниот бизнис - е стекнувањето TBPN.
Патем, токму додека стигнувавме до финишот и ги проверувавме фактите, компанијата што се соочува со ваков вид новинарска контрола добива платформа каде што може да има подиректна контрола врз разговорот. Мислам дека има многу инвеститори кои се загрижени, врз основа на разговорите што ги имав, дека овој проблем на ветување сè на сите луѓе, исто така, се протега и на овој недостаток на фокус во основниот бизнис модел. И мислам, вие сте поблиску до видот на прогнозирање и следење на пазарот отколку што веројатно сум јас. Ќе ве оставам вас и слушателите да судите дали мислат дека OpenAI може да го преврти прекинувачот.
Па, го поставив прашањето затоа што имаш цитат во делот од висок извршен директор на Мајкрософт, а тоа е дека „Наследството на Сем може да заврши повеќе слично на Берни Медоф или Сем Бенкмен-Фрид“, наместо на Стив Џобс. Тоа е прилично споредба. Што направи за таа споредба?
Мислам дека тоа е парафраза. Делот на Стив Џобс не беше дел од цитатот. Но, има интересен вид на трезвеност во тоа бидејќи е фразирано како: „Мислам дека има мала, но реална шанса тој да биде SBF или измамник на ниво на Медоф“. Што значи, според мене, не дека Сем е обвинет за тие специфични видови на измами или злосторства, туку дека степенот на разоткривање и измама од Сем може да има шанса на крајот да биде запаметен на тој обем.
Да, мислам дека она што е највпечатливо во тој цитат, искрено, е тоа што се јавувате во Мајкрософт и не добивате лајк: „Тоа е лудо. Никогаш не сме го слушнале тоа“. Добивате многу допаѓања: „Да, многу луѓе овде го мислат тоа“ што е извонредно. И мислам дека оди на овие деловни прашања.
Еден инвеститор ми рече, на пример, во светлината на начинот на кој оваа особина опстојуваше во годините по отпуштањето“ - и ова исто така мислеше дека ова е интересна трезвена мисла - дека не мора да значи дека Сем треба да биде на апсолутното дно на листата, како што треба да биде најнизок од ниските во однос на луѓето што апсолутно не смеат да ја градат оваа технологија, за што вреди оваа личност да каже Ел. го става можеби на дното на листата на луѓе кои треба да градат AGI, и под неколку други водечки фигури во оваа област.
Така, помислив дека тоа е интересна проценка, и тоа е вид на размислување што мислам дека го добивате од вистинските прагматичари кои можеби не се занимаваат толку со безбедносните грижи. Тие се само ориентирани кон раст и мислат дека OpenAI сега има проблем со Сем Алтман.
Делот од Microsoft е навистина интересен. Таа компанија мислеше дека се на врвот на светот. Дека ја направија оваа инвестиција и дека ќе ги прескокнат сите, особено и најважно од Google, и ќе се вратат во добрите милости на потрошувачите. Нивото до кое тие се чувствуваат изгорени од оваа авантура - ова е многу трезвено управувана компанија - мислам дека не може да се прецени.
Ги спомнавте ликовите и особините на личноста. Сакам да завршам овде со прашање од нашите слушатели. Реков во нашата друга емисија, The Vergecast, дека ќе разговарам со тебе и реков: „Ако имате прашања за Ронан за оваа приказна, известете ме“. Значи, имаме еден овде што мислам дека е уредно поврзан со она што го опишувате. Само ќе ти прочитам:
„Како оправдувањата за лошото однесување, жестоките постапки на Алтман и другите лидери на вештачката интелигенција се разликуваат од оправдувањата што Ронан ги слушна од другите лидери од висок профил во политиката и медиумите? Зарем сите тие не ги оправдуваат своите постапки велејќи дека вака се менува светот? Ако јас не го направам ова, некој друг ќе го стори тоа?“
Да, има многу од тоа наоколу. Би рекол дека она што е карактеристично за вештачката интелигенција е тоа што егзистенцијалните влогови што се толку уникатно високи значи дека и двете изјави за ризик се екстремни, нели? Го имаш Сем Алтманвелејќи: „Ова може да биде згаснато светло за сите нас“. И, исто така, критичарите би можеле да кажат, манијата на која се повикува прашувачот е екстремна, нели?
Она за што Сем го обвини Илон, на снимката, е дека можеби сака да го спаси човештвото, но само ако е тој. Вид на его компонента на желбата за победа, што е кадрирање кое Сем го користи цело време, и дека ова е една од историските книги, ова може да промени сè. Затоа, дури и над и надвор од начинот на размислување „мора да скршиш неколку јајца“ на повеќето претпријатија од Силиконската долина, во главите на некои личности што ја водат вештачката интелигенција, мислам, постои целосна рационализација за сите и сите последици.
И заборавете на кршење јајца. Мислам дека многу од основните истражувачи за безбедност би рекле дека потенцијално ризикуваат да ја разбијат земјата, да го разбијат светот и да скршат милиони луѓе чии работни места и безбедност висат на конец - тоа е она што е уникатно за тоа. Тоа е местото каде што затворам, размислувајќи за ова тело на известување, навистина верувајќи дека ова е нешто повеќе од Сем Алтман. Станува збор за индустрија која е неограничена и спирален проблем со тоа што Америка не може да ја ограничи.
Да. Па, имавме одреден оптимизам таму, но мислам дека тоа е добро место да го оставиме.
[Се смее] Заврши со слаб ритам.
Се разбира. Тоа е секоја одлична приказна, навистина. Судењето Маск-Алтман претстои. Мислам дека овде ќе научиме многу повеќе. Се сомневам дека ќе сакам повторно да разговарам со тебе. Ронан Фароу, многу ти благодарам што си на Декодер.
Ви благодарам.
Прашања или коментари за оваа епизода? Посетете не на [email protected]. Навистина ја читаме секоја е-пошта!
