Ma a Decoderen Ronan Farrow-val beszélgetek, az oknyomozó riportok egyik legnagyobb sztárjával, aki ma dolgozik. Megtörte a Harvey Weinstein történetet, sok-sok más mellett. A múlt héten pedig ő és társszerzője, Andrew Marantz egy hihetetlen mélyreható cikket tett közzé a The New Yorkerben az OpenAI vezérigazgatójáról, Sam Altmanról, megbízhatóságáról és magáról az OpenAI felemelkedéséről.
Még egy megjegyzés, mielőtt továbbmennénk: a New Yorker közzétette ezt a történetet, és Ronan és én még azelőtt beszélgettünk erről, mielőtt megismertük volna az Altman otthona elleni támadások teljes terjedelmét, így nem fog hallani, hogy közvetlenül beszélünk erről. De csak hogy mondjam, úgy gondolom, hogy mindenfajta erőszak elfogadhatatlan, ezek a Sam elleni támadások elfogadhatatlanok voltak, és az a fajta tehetetlenség, amelyet az emberek éreznek, és ami ehhez a fajta erőszakhoz vezet, maga elfogadhatatlan, és megér egy sokkal több vizsgálatot mind az iparág, mind a politikai vezetőink részéről. Remélem ez egyértelmű.
Feliratkozók, ne felejtsd el, hogy exkluzív hozzáférést kapsz a reklámmentes Dekóderhez, bárhol is szerezd be podcastjaidat. Irány ide. Nem előfizető? Itt tudsz jelentkezni.
Mindazonáltal sok minden kavarog Altman körül, ami tisztességes játék a szigorú jelentéstételhez – amilyenre Ronan és Andrew is készül. Thanks to the popularity of ChatGPT, Altman has emerged as the most visible figurehead of the AI industry, having turned a once nonprofit research lab into an almost trillion-dollar private company in just a few years. De Altman mítosza mélyen ellentmondásos, és egyformán meghatározza nyilvánvaló üzletkötési képességét és azt a hajlamát, hogy… nos, hazudjon mindenkinek, aki körülveszi.
A történet több mint 17 000 szóból áll, és vitathatatlanul tartalmazza a végleges beszámolót arról, hogy mi történt 2023-ban, amikor az OpenAI igazgatótanácsa nagyon váratlanul kirúgta Altmant állítólagos hazugsága miatt, de szinte azonnal újból felvették. Ez egyben mélyrepülés Altman személyes életébe, befektetéseibe, közel-keleti pénzzel való udvarlásába, valamint múltbeli viselkedésére és jellemvonásaira vonatkozó saját elmélkedéseibe, amelyek alapján az egyik forrás azt mondta, hogy „nem korlátozza az igazság”. Tényleg azt javaslom, hogy olvassa el az egész történetet; Gyanítom, hogy még sok évig hivatkozni fognak rá.
Ronan sokszor beszélt Altmannel az alatt a 18 hónap alatt, amit erről a darabról számolt be, és így az egyik fő dolog, amire kíváncsi voltam, az volt, hogy érzékelt-e változást Altmanben ezalatt az idő alatt. Végül is sok minden történt az AI-ban, a technológiában és a világban az elmúlt másfél évben.
Hallani fogod, amint Ronan nagyon közvetlenül beszél erről, valamint azt az érzését, hogy az emberek sokkal szívesebben beszélnek Altman azon képességéről, hogy kiterjessze az igazságot. Az emberek hangosan és folyamatosan azon tűnődnek, vajon az Altmanhoz hasonló emberek viselkedése aggályos-e nemcsak a mesterséges intelligencia vagy a technológia, hanem a társadalom kollektív jövője szempontjából is.
Oké: Ronan Farrow Sam Altmanről, az AI-ról és az igazságról. tessék.
Ezt az interjút enyhén szerkesztettük a terjedelem és az egyértelműség kedvéért.
Ronan Farrow, Ön oknyomozó riporter és a The New Yorker munkatársa. Üdvözöljük a Dekóderben.
Örülök, hogy itt lehetek. Köszönöm, hogy velem van.
Nagyon izgatott vagyok, hogy beszélhetek veled. Most írtál egy nagy darabot a The New Yorkernek. Ez Sam Altman és vele együtt az OpenAI profilja. Azt olvastam róla, hogy mint minden nagyszerű funkció, szigorú jelentésekkel igazolja az emberek Sam Altman iránt nagyon régóta érzett érzéseit. Nyilván közzétetted, reakciókat kaptál rá. Hogy érzed ezt most?
Nos, tulajdonképpen megnyugtatott, hogy milyen mértékben sikerült áttörni egy olyan időszakban, amikor a figyelemfelkeltő gazdaság annyira skizofrén és sekélyes. Ez egy olyan történet, amely véleményem szerint mindannyiunkat érint. És amikor másfél évet töltöttem az életemből, és társszerzőm, Andrew Marantz is azzal az idővel töltötte az ő idejét, hogy valóban valami törvényszéki és aprólékos dolgot próbált csinálni, ez mindig azért van, mert úgy érzem, vannak nagyobb strukturális problémák, amelyek a történet középpontjában álló egyénen és társaságon túl is érintik az embereket.
Sam Altman, a Szilícium-völgyi hype-kultúra és az olyan induló vállalkozások hátterében, amelyek olyan ígéretekre alapozva tömeges értékeléseket hajtanak végre, amelyek a jövőben beteljesülhetnek, vagy nem, és egy olyan alapítói kultúra egyre növekvő felkarolása, amely úgy gondolja, hogy a különböző csoportoknak különböző, egymással ellentétes dolgokat mondanak el, nem pedighiba… Sam Altman még ebben a háttérben is egy rendkívüli eset, amikor a Szilícium-völgyben mindenki, aki ilyesmire számít, nem tudja megállni, hogy ne beszéljen a megbízhatóságának és őszinteségének kérdéséről.
Már korábban is tudtuk, hogy kirúgták a tisztességtelenség vagy a sorozatos állítólagos hazugság vádja miatt. De rendkívüli módon, annak ellenére, hogy csodálatos tudósítások készültek, Keach Hagey nagyszerű munkát végzett ezen. Karen Hao nagyszerű munkát végzett ezen. Valójában nem volt egyértelmű a tényleges állítólagos bizonyítási pontok és az okok, amelyek miatt ezek nem kerültek a nyilvánosság elé.
Tehát az első számú pont az, hogy megnyugtat a tény, hogy a köztudatunkban, sőt a Szilícium-völgyi bennfentesek tudásában lévő hiányosságok egy részét most egy kicsit pótolták. A hiányosságok okainak egy részét egy kicsit jobban pótolták.
Beszámolunk azokról az esetekről, amikor a vállalaton belüli emberek valóban úgy érezték, hogy a dolgokat eltitkolták vagy szándékosan nem dokumentálták. Az egyik új dolog ebben a történetben a WilmerHale kulcsfontosságú ügyvédi iroda nyomozása, amely nyilvánvalóan egy divatos, hiteles, nagy ügyvédi iroda, amely az Enron és a WorldCom vizsgálatait végezte, amelyek mellesleg mind terjedelmesek voltak, például több száz oldalt publikáltak. WilmerHale elvégezte ezt a vizsgálatot, amit az igazgatótanácsi tagok követeltek, akik kirúgták Altmant a távozásuk feltételeként, amikor megszabadult tőlük, és ő visszatért. És rendkívüli módon – sok jogi szakértő szemében, akivel beszéltem, és megdöbbentően sok ember szemében ebben a társaságban –, nem írták le. Mindebből csak egy 800 szavas sajtóközlemény derült ki az OpenAI-tól, amely a bizalom összeomlásának minősítette a történteket. És megerősítettük, hogy ezt a szóbeli eligazításokra tartottuk.
Vannak olyan esetek, amikor például egy igazgatósági tag látszólag az OpenAI eredeti nonprofit formájából for-profit szervezetté való átalakítás ellen akar szavazni, és ez tartózkodásként kerül rögzítésre. Mintha egy ügyvéd a találkozón azt mondaná: „Nos, ez túl sok vizsgálatot indíthat el.” Aki pedig ellene akar szavazni, azt minden megjelenéstől való tartózkodásként rögzítik. Tényvita van. Az OpenAI ennek ellenkezőjét állítja, ahogyan elképzelhető. Ezek mind olyan esetek, amikor van egy cége, amely saját elhatározása szerint a kezében tartja a jövőnket.
A biztonsági tét annyira éles, hogy nem múlt el. Ez az oka annak, hogy ezt a céget nonprofit szervezetként alapították, amely a biztonságra összpontosított, és ahol a dolgokat oly módon homályosították el, hogy a körülöttük lévő hiteles emberek nem találták professzionálisnak. És ezt párosítod egy olyan háttérrel, ahol olyan kevés a politikai étvágy az értelmes szabályozásra. Szerintem ez egy nagyon gyúlékony helyzet.
Számomra nem csak az a lényeg, hogy Sam Altman olyan élesen megérdemli ezeket a kérdéseket. Az is, hogy ezen a területen ezek a srácok, és sok kulcsfigura, ha nem ezt a sajátos, állítólagos mindig hazudozó tulajdonságot mutatják, bizonyos fokú lefelé menő mentalitást, ahol a biztonságvédők felhígították ezeket az elkötelezettségeket, és mindenki versenyben van.
Azt hiszem, ahogy az Anthropic legutóbbi kiszivárogtatásait nézzük, van egy személy, aki felteszi a kérdést, hogy ebben a darabban kinek kell az ujja a gombon. A válasz az, hogy ha nincs értelmes felügyeletünk, akkor úgy gondolom, hogy komoly kérdéseket kell feltennünk, és meg kell próbálnunk a lehető legtöbb információt felszínre hozni ezekről a srácokról. Így hát megnyugtatott az, ami értelmes beszélgetésnek tűnik erről, vagy annak kezdete.
Azért kérdeztem így, mert másfél évig dolgoztál ezen. Azt hiszem, 100 emberrel beszélgetett társszerzőjével, Andrew-val. Ez hosszú idő egy történet elkészítéséhez. Az elmúlt másfél évre gondolok, különösen a mesterséges intelligenciában, és fiú, ezeknek a karaktereknek a hozzáállása és értékei nagyon gyorsan megváltoztak.
Talán nem több, mint Sam Altman, aki az alapértelmezett nyertesnek indult, mert kiadták a ChatGPT-t, és mindenki azt gondolta, hogy ez csak átveszi a Google-t. És akkor a Google válaszolt, ami láthatóan meglepte őket, hogy a Google megpróbálja megvédeni az üzletét, amely talán az egyik legjobb üzlet a technológiai történelemben, ha nem az üzlettörténetben. Anthropic decided that it would focus on the enterprise. Úgy tűnik, hogy parancsoló vezetést szerezazért, mert az AI vállalati felhasználása olyan magas.
Az OpenAI most a „be fogjuk venni a Google-t” helyett a Codexre fókuszálja termékét, és ők veszik át a vállalkozást. Csak azt nem tudom pontosan megmondani, hogy az elmúlt másfél év beszámolói során úgy érzi-e, hogy megváltoztak-e a szereplők, akikkel beszélgetett? A hozzáállásukhoz és az értékeikhez hasonlóan ezek is megváltoztak?
Igen. Először is azt gondolom, hogy az ebben a cikkben feltárt kritika, amely jelenleg ezekben a cégekben sok embertől érkezik – hogy ez egy olyan iparág, amely az egzisztenciális tét ellenére a biztonsággal kapcsolatos legalacsonyabb versenyfutásba süllyed, és ahol a sebesség minden mást felülmúl –, ez az aggodalom egyre élesebbé vált. És úgy gondolom, hogy ezek az aggodalmak jobban beigazolódtak, ahogy az elmúlt másfél év eltelt. Ezzel párhuzamosan a Sam Altmannel kapcsolatos hozzáállás kifejezetten megváltozott. Amikor elkezdtünk beszélni a forrásokkal erről, az emberek nagyon-nagyon furcsán várták, hogy idézzék őket erről, és rögzítsék ezt.
Jelentésünk végére van egy olyan jelentés, amelyben az emberek nagyon nyíltan és nyíltan beszélnek erről, és vannak olyan igazgatósági tagjai, akik azt mondják, hogy „Ő egy kóros hazug. Ő egy szociopata.” Számos nézőpont létezik a következőtől: „Ez veszélyes a biztonsági téteket tekintve, és ennek a technológiának olyan vezetőire van szükségünk, akiknek fokozott integritása van”, egészen a következőig: „Felejtsd el a biztonsági tétet, ez az a viselkedés, amely bármely nagyvállalat vezetőjénél tarthatatlan, csak túl sok működési zavart okoz.”
Így a beszélgetés sokkal egyértelműbbé vált, oly módon, hogy talán megkésettnek tűnik, de bizonyos értelemben megnyugtató. És Sam Altman, az ő becsületére legyen mondva… A darab nagyon korrekt, sőt nagylelkű, mondhatnám, Sam-mel szemben. Ez nem az a fajta darab, ahol sok volt a „megkaptam” cucc. Sok-sok órát töltöttem vele telefonon, miközben befejeztük a dolgot, és tényleg meghallottam.
Elképzelhető, hogy egy ilyen darabban nem minden jut be. Ebben az esetben az esetek egy része azért volt, mert őszintén hallgattam. És ha Sam valójában azzal érvelt, hogy úgy éreztem, hogy hordja a vizet, hogy valami, még ha igaz is, szenzációhajhász lehet, akkor tényleg tévedtem, amikor ezt a törvényszéki szakértőt és a mértéket tartottam. Úgy gondolom tehát, hogy ezt helyesen fogadták, és csak remélem, hogy ez az időszak alatt felhalmozott tényszerű feljegyzés képes elindítani egy élénkebb beszélgetést a felügyelet szükségességéről.
Ez tulajdonképpen a következő kérdésem. Azt hiszem, tucatszor beszélt Sammel a történet beszámolója során. Ismétlem, ez egy sok beszélgetés hosszú időn keresztül. Gondoltad volna, hogy Sam megváltozott a beszámoló során az elmúlt másfél évben?
Igen. Szerintem az egyik legérdekesebb mellékszál ebben az, hogy Sam Altman is határozottabban beszél erről a tulajdonságról, mint korábban. Sam tartása ebben a darabban nem olyan, mint: "Nincs ott semmi, ez nem igaz; nem tudom, miről beszélsz." A testtartása az, hogy szerinte ez az embereknek tetsző hajlamnak és egyfajta konfliktuskerülőnek tulajdonítható. Elismeri, hogy ez problémákat okozott neki, különösen pályafutása elején.
Azt mondja: "Nos, túllépek ezen, vagy bizonyos mértékig túlléptem ezen." Azt hiszem, ami igazán érdekes számomra, az az olyan emberek csoportja, akikkel beszélgettünk, és akik nem csak amolyan biztonsági szószólói voltak, nem csak a mögöttes műszaki kutatók, akiknek nagyon gyakran vannak ilyen akut biztonsági aggályai, hanem pragmatikus, nagy beruházók is. Ők Sam támogatói, akik bizonyos esetekben megvizsgálják ezt a kérdést, és arról beszélnek, hogy kulcsszerepet játszottak a kirúgás utáni visszatérésében. Arra a kérdésre, hogy megreformálódott-e, és milyen mértékben van értelme ennek a változásnak, azt mondják: „Nos, akkoriban megadtuk neki a kétely előnyét.”
Konkrétan egy prominens befektetőre gondolok, aki azt mondta: „De azóta egyértelműnek tűnik, hogy nem vitték ki a fáskamra mögé”, ezt a kifejezést használta a szükséges mértékben. Ennek eredményeként úgy tűnik, hogy ez most már stabil tulajdonság. Ezt folyamatosan látjuk. Megnézheti az OpenAI legnagyobb üzletétkapcsolatokat és azt, ahogyan ezek folyamatosan hordozzák ennek a bizalmatlanságnak a súlyát.
Akárcsak a Microsoft esetében, itt is beszél a vezetőkkel, és nagyon akut és nemrégiben katalizált aggodalmaik vannak. Van ez a példa, amikor az OpenAI ugyanazon a napon megerősíti kizárólagosságát a Microsofttal a mögöttes állapot nélküli mesterséges intelligencia modellek tekintetében, és új megállapodást jelent be az Amazonnal, amely olyan vállalati megoldások értékesítésére vonatkozik, amelyek állapotalapú, vagyis memóriával rendelkező AI-ügynökök építésére szolgálnak.
A Microsoft embereivel beszélget, és ők azt mondják: „Ez nem lehetséges anélkül, hogy ne lépjünk kapcsolatba azokkal a mögöttes dolgokkal, amelyekre kizárólagos megállapodást kötünk.” Tehát ez csak egy a sok kis példa közül, amikor ez a tulajdonság állandóan a folyamatos üzleti tevékenységbe torkollik, és aktív aggodalomra ad okot az OpenAI igazgatótanácsában, vezetői csomagjában és a szélesebb technológiai közösségben.
Folyamatosan ezt a "tulajdonságot" mondod. Van a történetben egy sor, ami számomra a tézisnek tűnik, és ez az általad leírt tulajdonság leírása. Arról van szó, hogy „Sam Altmant nem korlátozza az igazság”, és hogy „két olyan tulajdonsága van, amelyek szinte soha nem láthatók ugyanabban a személyben: az első az erős vágy, hogy tetszeni akarjon az embereknek, hogy tetszenek neki bármilyen interakcióban, a második pedig az, hogy szinte szociopata aggodalomra ad okot a valaki megtévesztésének következményei miatt”.
El kell mondanom, hogy 500-szor elolvastam ezt a mondatot, és megpróbáltam elképzelni, hogy mindig azt mondom, amit az emberek szeretni akarnak, majd nem idegeskednek, ha úgy érzik, hogy hazudnak. És nem tudtam megértetni az érzelmi állapotommal, hogy ezek a dolgok hogyan létezhetnek ugyanabban az emberben. Sokat beszéltél Sammel, és olyan emberekkel is, akik megtapasztalták ezeket a tulajdonságokat. Hogyan csinálja?
Igen. Emberi szinten azért érdekes, mert én az ehhez hasonló tudósításokat úgy közelítem meg, hogy valódi hangsúlyt helyezek annak humanizálására, aki a középpontjában áll, és mély megértésre és empátiára törekszem. Amikor megpróbáltam emberibb nézőpontból megközelíteni ezt, és azt mondtam: "Hé, ez pusztító lenne számomra, ha annyi ember, akivel együtt dolgoztam, azt mondaná, hogy kóros hazudozó vagyok. Hogy bírod ezt a súlyt? Hogyan beszélsz erről a terápiában? Mi az a történet, amit magadnak mesélsz el erről?"
Meglátásom szerint van néhány nyugati parti közhelyem ezzel kapcsolatban, mint például: „Igen, szeretem a lélegzetvételezést.” De nem sok az önmagunkkal való mély konfrontáció erősítő érzése, mint amilyen szerintem valószínűleg sokunkban lenne, ha ilyen visszajelzéseket látnánk a viselkedésünkről és az emberekkel való bánásmódunkról.
Azt hiszem, ez tulajdonképpen a kérdésre adott tágabb válasz is. Sam azt állítja, hogy ez a tulajdonság problémákat okozott, de egyben része annak is, ami képessé tette őt az OpenAI növekedésének annyira felgyorsítására, hogy képes egyesíteni és tetszeni a különböző embercsoportoknak. Folyamatosan győzködi ezeket az egymásnak ellentmondó választókerületeket, hogy ami őket érdekli, az őt érdekli. Ez pedig nagyon hasznos készség lehet egy alapító számára. Beszéltem befektetőkkel, akik aztán azt mondják: „Nos, talán ez egy kevésbé hasznos készség egy vállalat tényleges vezetéséhez, mert olyan sok viszályt szít.”
De Sam személyes oldaláról úgy gondolom, hogy az a dolog, amit felveszek, amikor megpróbálok emberi szinten kapcsolódni, az a mélyebb konfrontáció, a reflexió és az önfeláldozás nyilvánvaló hiánya, ami egyben a szuperhatalomról vagy felelősségről is árulkodik egy IPO-ra készülő cég esetében.
Ő az, aki az egyik korábbi igazgatósági tag, Sue Yoon szavaival élve, aki a darabban szerepel, és azt mondja, hogy az általa használt kifejezés a „hitetlenségig” képes elhinni az eladási ajánlatok változó valóságát, vagy képes meggyőzni magát ezekről. Vagy legalábbis, ha nem hisz nekik, képes átfutni rajtuk érdemi kétség nélkül.
Azt gondolom, hogy a dolog, amiről beszélsz, ahol te vagy én, amikor kimondjuk a dolgot, és felismerjük, hogy az ütközik a másik biztosítékunkkal, egy pillanatra lefagy vagy ellenőrizzük magunkat. szerintem vele ez nem történik meg. És van egy szélesebb Szilícium-völgyi hype-kultúra és alapítói kultúra, amely ezt magáévá teszi.
ez vicces. A Verge arra épül, hogy mit jelent egy termékértékelésprogram. Ez a szíve annak, amit itt csinálunk. Évente egyszer ezermilliárd dollárt tartok az Apple K+F-hez, és azt mondom: „Ez a telefon egy hetes.” És ez mintegy legitimálja minden jelentésünket és véleményünket máshol. Van egy értékelő funkciónk, és annyi időt töltünk azzal, hogy csak nézzük az AI-termékeket, és azt mondjuk: „Működnek?”
Úgy tűnik, ez hiányzik a mai AI-ról szóló beszélgetésekből. Végtelen beszélgetés folyik arról, hogy mire képes, milyen veszélyes lehet. Aztán elmélyülsz, és azt mondod: „Valóban azt csinálja, amit ma tennie kellene?” Egyes esetekben a válasz igen. De sok-sok esetben a válasz nem.
Ez olyan érzés, mintha kapcsolódik az általad leírt hype-kultúrához, és ahhoz az érzéshez is, hogy ha azt mondod, hogy csinál valamit, de nem, és valaki rosszul érzi magát, az rendben van, mert a következő dologhoz értünk. Ez a múlté. És különösen a mesterséges intelligencia terén, Sam olyan jó a nagy ígéretek megtételében.
Csak ezen a héten, azt hiszem, ugyanazon a napon, amikor a történeted megjelent, az OpenAI kiadott egy politikai dokumentumot, amely szerint újra kell gondolnunk a társadalmi szerződést, és mesterséges intelligencia-hatékonysági ösztöndíjat kell kérnünk a kormánytól. Ez egy nagyszerű ígéret arra vonatkozóan, hogy bizonyos technológia hogyan alakíthatja a világ jövőjét és azt, hogyan élünk, és mindez azon múlik, hogy a technológia pontosan úgy működik, ahogyan azt ígérték, vagy működnie kell.
Találtad valaha, hogy Sam kételkedik abban, hogy a mesterséges intelligencia AGI-vé vagy szuperintelligenciává változzon, vagy hogy célba érjen? Mert ez az, amin a legjobban csodálkozom. Van-e valami gondolat arról, hogy ez az alaptechnológia képes-e mindarra, amire azt mondják, hogy képes?
Pontosan ez a megfelelő kérdéssor. Vannak hiteles technológusok, akikkel beszélgettünk ebben a jelentésben – és nyilvánvalóan Sam Altman nem az; ő egy üzletember – aki szerint az, ahogy Sam beszél ennek a technológiának az idővonaláról, nagyon távol áll. Vannak blogbejegyzések néhány évre visszamenőleg, ahol Sam azt mondja: "Már elértük az eseményhorizontot. Az AGI alapvetően itt van. A szuperintelligencia a sarkon van. Más bolygókon leszünk. A rák minden formáját meg fogjuk gyógyítani." Igaz, nem szépítek.
A rák valójában érdekes, hogy Sam felpörgeti azt a személyt, aki elméletileg meggyógyította a kutyájának rákot a ChatGPT-vel, és ez egyszerűen nem történt meg. Beszélgettek a ChatGPT-vel, és ez segített nekik irányítani néhány kutatót, akik ténylegesen elvégezték a munkát, de az egytől egyig, ez az eszköz meggyógyította ezt a kutyát, valójában nem a történet.
Örülök, hogy felvetette ezt a kérdést, mert szeretnék továbbmenni erre a nagyobb pontra, amely arról szól, hogy a technológia potenciálja és kockázata mikor válik igazán ki. De érdemes megemlíteni ezeket az apró mellékeseket, amelyek állandóan előfordulnak Sam Altmantől, ahol úgy tűnik, újra megtestesíti ezt a tulajdonságát.
Úgy értem, hogy a WilmerHale-jelentés példáját használva, ahol ezeket az információkat nem írták le, és tudni akartuk, hogy a szóbeli eligazítást az út során kapott-e valaki más, mint az a két igazgatósági tag, akik Sam segített a telepítésben, hogy felügyelje azt. És azt mondta: "Igen, igen, nem, azt hiszem, mindenki megkapta, aki ezután csatlakozott a testülethez." És van egy személy, aki közvetlenül ismeri a helyzetet, és azt mondja, hogy ez egyszerűen hazugság. És valóban úgy tűnik, hogy ez nem igaz. Ha nagylelkűek akarunk lenni, talán félretájékoztatták.
Sok ilyen alkalmi biztosíték létezik. És ezt a példát részben azért használom, mert ez egy nagyszerű példa a szétszedésre, nevezzük úgy, hogy ennek jogi következményei lehetnek. Nem kell mondanom, hogy a delaware-i társasági jog értelmében, ha ez a vállalat IPO-t vezet be, a részvényesek a 220. szakasz értelmében panaszt tehetnek ezzel kapcsolatban, és követelhetik az alapul szolgáló dokumentumokat. Vannak már olyan igazgatósági tagok, akik ilyeneket mondanak: „Nos, várjunk egy percet, ennek az eligazításnak meg kellett volna történnie.”
Tehát ezeknek a dolgoknak, amelyek úgy tűnik, hogy folyamatosan kiugranak a száján, valódi piacmozgató hatásuk lehet, valódi hatásuk az OpenAI számára. Visszahozva a fajta utópisztikus hype nyelvezethez, ami újra felszínre került, azt hiszem, nem véletlenül azon a napon, amikor ez a darab megjelent, ez mindannyiunkra hatással van, mert a veszélyek annyira élesek, ahogyan ez a darab.A fegyverzetben való alkalmazás, a vegyi hadviselési szerek azonosításának módja, a dezinformációs potenciál és az utópisztikus hírverés sok hiteles közgazdászt arra késztet, hogy azt mondják: "Ez egy buborék minden jele."
Még Sam Altman is azt mondta: „Valaki sok pénzt fog veszíteni itt.” Ez valóban sok amerikai és világgazdasági növekedést kráterezhet, ha valóban kilyukad egy buborék, amelyben ezek a cégek üzleteket kötnek egymással, mindent belemennek az AI-ba, miközben olyan nagy kölcsönöket vesznek fel. Szóval, amit Sam Altman mond, az számít, és szerintem a körülötte lévő emberek túlsúlya, ahogy említetted, több mint száz emberrel beszéltünk, valójában jóval száz fölött volt. Volt egy beszélgetésünk a célban, ahol ez volt: „Túl kicsinyes lenne azt mondani, hogy ez olyan, mint ez a sokkal magasabb szám?” Mi pedig azt mondtuk: "Igen, kicsinyítsük. Játsszunk egy jót." De nagyon sokan voltak, és jelentős többségük azt mondta: „Ez aggodalomra ad okot.” És szerintem ez az egész.
Hadd kérdezzek erről a számról. Ahogy említetted, az idő előrehaladtával az emberek egyre nyitottabbak lettek az aggodalmakra. Úgy tűnik, hogy a buborék körüli nyomás – a verseny a győzelemért, a befektetés megtérüléséért, a győztesként való megjelenésért, az IPO-ért – sok hozzáállást megváltoztatott. Ez minden bizonnyal nagyobb nyomást gyakorolt Samre és az OpenAI-ra.
Ezen a héten közzétettünk egy történetet az OpenAI hangulatáról. Az Ön története is része ennek, de az OpenAI vezetői beosztásában hatalmas létszámváltozások történtek – az emberek jönnek és mennek. A kutatók mind elmennek, nagyrészt az Anthropic felé, ami szerintem nagyon érdekes. Csak láthatja, hogy ez a vállalat érzi a nyomást, és valamilyen módon reagál erre a nyomásra.
De aztán eszembe jut, hogy Sam kirúgott. Ez egyszerűen emlékezetes számomra. Senki más számára nem emlékezetes, de felvettem egy forráshívást a bronxi állatkertben péntek este 7-kor, és valaki azt mondta, hogy megpróbálják visszaszerezni Samet. Aztán a hétvégét azzal töltöttük, hogy ezt a történetet kergettük. És én csak azt mondtam: "Az állatkertben vagyok. Mit akarsz, mit csináljak itt?" A válasz pedig ez volt: Maradj a telefonnál. Nos, a lányom azt mondta: „Ki a telefont”. És ezt tettem.
Az volt, hogy lovagolj vagy halj, hogy visszaszerezd Samet. Ez a társaság így szólt: „Nem, nem hagyjuk, hogy az igazgatóság kirúgja Sam Altmant.” A befektetők, akiket az Ön írása idéz, „Háborúba mentünk”, azt hiszem, a Thrive Capital álláspontja, „hogy visszaszerezzük Samet”. A Microsoft háborúba lépett, hogy visszaszerezze Samet. Később van, és most mindenki azt mondja: "IPO-ra megyünk. Beértünk a célba. Visszakaptuk a srácunkat, és ő visz minket a célba. Aggódom, hogy hazudik."
Miért volt háború akkoriban visszaszerezni? Mert úgy tűnik, valójában semmi sem változott. Azokról a feljegyzésekről beszél, amelyeket Ilya Sutskever és [Anthropic vezérigazgatója] Dario Amodei őriztek, amikor Sam Altman kortársai voltak. Ilja első számú gondja az volt, hogy Sam hazudik.
Egyik sem változott. Akkor miért volt háború, hogy visszahozzam? És most, hogy a célegyenesben vagyunk, úgy tűnik, hogy minden aggodalom nyílt.
Nos, először is elnézést kérek a lányától, a páromtól és az újságírók körüli többi embertől.
[Nevet] Ez egy jó hétvége volt mindenkinek.
Igen, ez átveszi az uralmat az ember életén, és ez a történet határozottan az enyémet, az elmúlt időszakban. Valójában az újságírás és az információhoz való hozzáférés témájához kapcsolódik, azt hiszem. A befektetők, akik háborúba indultak Samért, és mindannyian szerepet játszottak abban, hogy visszajöjjön, és az igazgatóság, amelyet kifejezetten egy nonprofit szervezet küldetésének védelmére terveztek, hogy a biztonságot a növekedés elé helyezzék, és elbocsássanak egy vezetőt, ha ezt nem lehetett rájuk bízni. Mindez azért volt, mert igen, megvoltak a piaci ösztönzők, nem?
Sam meg tudta győzni az embereket: "Nos, a cég csak úgy szét fog esni." De az oka annak, hogy támogatást kapott, az információhiány volt. Ezek a befektetők sok esetben most azt mondják: „Visszatekintek, és úgy gondolom, hogy több aggályom lett volna, ha teljesen tisztában lettem volna a követelésekkel és az aggodalmakkal.”
Nem mindegyik;a vélemények eltérőek, és számos véleményt idézünk, de vannak jelentősek, akik nagyon részleges információk alapján cselekedtek. A tábla, amelyik Samet kirúgta, egy olyan személy szavai szerint, aki korábban a táblán volt, „nagyon JV” volt, és keményen megtapogatták a labdát. És dokumentáljuk az alapjául szolgáló panaszokat, és az emberek maguk dönthetik el, hogy ez olyan sürgős aggodalommá halmozódik fel, mint amilyennek érezték, de ez az érv és az információ nem került bemutatásra.
Néhányuk most rossz jogi tanácsot kaptak. Leírásához emlékezni fog az idézetre, és valószínűleg sok hallgatója és nézője az őszinteség hiányaként fogja emlékezni az idézetre. Erre redukálták, és akkor lényegében nem fogadták a hívásokat.
Nem fogadták a hívásokat. Biztos vagyok benne, hogy megpróbáltad. Mindenki, akit ismerek, próbálkozott, és ez eljutott odáig, hogy újságíróként nem szabad tanácsot adnod a forrásaidnak, de én azt mondtam: "Ez elmúlik, ha nem kezded el magyarázkodni."
És ez történt. Felejtsd el az újságírókat. Satya Nadella azt mondta: "Mi a fene történt? Nem tudok senkit rávenni, hogy magyarázza el nekem." És ez a cég fő pénzügyi támogatója. Aztán Satya felhívja [a LinkedIn társalapítóját] Reid Hoffmant, Reid pedig felhívja és azt mondja: „Nem tudom, mi a fasz történt.”
Érthető módon ebben az információhiányban vannak, és a hagyományos, nem mesterséges intelligencia indikátorokat keresik, amelyek indokolnák az ilyen sürgős, hirtelen kirúgást. Például, oké, szexuális bűncselekmények voltak? Sikkasztás volt? És az egész finom, de szerintem értelmes érv, miszerint ez a technológia más, és hogy a kisebb árulások ilyenfajta folyamatos felhalmozódása jelentős téttel bírhat mind ennek az üzletnek, mind talán a világnak, nagyrészt elveszett. Győztek tehát a kapitalista ösztönzők, de azok is kimentek, akik ezt megvalósították, és nem mindig működtek teljes információval.
Egy pillanatra csak a „mindenki azt hitte” aspektusról szeretném kérdezni, mert biztosan láttam a hírt, és azt mondtam: „Ó, valami rossz történhetett.” Nagyon sok #MeToo riportot készítettél, híresen. Megtörted a Harvey Weinstein sztorit.
Ön sok időt töltött azzal, hogy beszámoljon ezekről az állításokról, amelyekről úgy gondolom, hogy végül megalapozatlanok voltak: Altman kiskorúakat szexuálisan bántalmazott, szexmunkásokat alkalmazott, vagy akár meggyilkolt egy OpenAI bejelentőt. Úgy értem, te vagy az, aki a legszigorúbban jelentheti ezt a dolgot. Úgy döntöttél, hogy nem lesz semmi?
Nos, nézd, nem az a dolgom, hogy azt mondjam, valamiből nem lett semmi. Azt mondhatom, hogy hónapokig néztem ezeket az állításokat, és nem találtam rájuk igazolást. És feltűnő volt számomra, hogy ezek a srácok, ezek a cégek, amelyeknek olyan nagy hatalmuk van a jövőnk felett, valóban aránytalanul sok időt és erőforrást töltenek el egy gyerekes sárharcban.
Az egyik vezető „shakespeare-i”-ként írja le. Irgalmatlan a magánnyomozói pénzek és az összeállított ellenzéki dossziék mennyisége. És az a szerencsétlen, hogy az a fajta nyálas cucc, amit Sam versenytársai lecsapnak, csak feltételezett tény, nem? Azt állítják, hogy kiskorú fiúkat üldöz, és a Szilícium-völgyben sok koktélpartin hallani ezt. A konferencia során azt hallottam, hogy hiteles, prominens vezetők ismételgetik: „Mindenki tudja, hogy ez tény.”
Az a szomorú, hogy arról beszélek, hogy ez honnan származik, a különböző vektorokról, amelyeken keresztül továbbítják. Elon Musk és társai látszólag nagyon kemény dossziékat nyomnak, amelyek semmihez sem érnek. Ezek elpárologtak, ha ténylegesen elkezdi megvizsgálni a mögöttes állításokat. Az a szomorú, hogy ez valóban elhomályosítja a több bizonyítékon alapuló kritikát, amelyek szerintem sürgős felügyeletet és megfontolást érdemelnek.
A másik téma, ami igazán átjön a történetben, szinte a félelem érzése, hogy Samnek annyi barátja van – az Y Combinator korábbi vezérigazgatói szerepétől kezdve rengeteg cégbe fektetett be, egészen a személyes befektetéseiig, amelyek közül néhány közvetlen ellentétben áll az OpenAI vezérigazgatói szerepével –, és csend van körülötte.
Ez különösen akkor tűnt fel, amikor egy sort olvastam. Leírod Ilya Sutskever feljegyzéseit, és éppen kint vannak a Szilícium-völgyben. MindenkiIlja feljegyzéseknek nevezi őket. De még csend is van körülötte. Átadják őket, de nem vitatják meg őket. Szerinted ez honnan jön? Ez a félelem? Ez egy angyal befektetés iránti vágy? ez honnan jön?
Szerintem ez nagy gyávaság, őszinte leszek. Miután beszámoltak olyan nemzetbiztonsági történetekről, amelyekben a források bejelentők, akik mindent elveszítenek, és felelősségre vonják őket, mégis helyesen cselekszenek, és olyan dolgokról beszélnek, amelyek az elszámoltathatóság megteremtését szolgálják. Dolgoztam az Ön által említett szexuális bűnözéssel kapcsolatos történeteken, ahol a források mélyen traumatizáltak, és nagyon személyes megtorlástól tartanak.
Sok esetben ebben a ritmusban olyan emberekkel van dolgod, akik saját profiljukkal és erejükkel rendelkeznek. Vagy maguk híres emberek, vagy híres emberek veszik körül őket. Erőteljes üzleti életük van. Véleményem szerint valójában nagyon csekély a kitettség, hogy ezekről a dolgokról beszéljenek. And thankfully, the needle is moving as we talked about earlier, and people are now talking more.
De ilyen hosszú ideig az emberek tényleg csak hallgatnak róla, mert szerintem a Szilícium-völgyi kultúra olyan kíméletlenül önérdekű, és könyörtelenül üzleti és növekedés-orientált. Szóval szerintem ez még azokat az embereket is sújtja, akik részt vettek Sam elbocsátásában, ahol a napokban igen, az egyik tényező, ami a visszatéréséhez és a régi igazgatósági tagok kirúgásához vezetett, az volt, hogy összegyűjtötte azokat a befektetőket, akik összezavarodtak az ügyében.
De egy másik, hogy körülötte sok más ember, akinek aggályai voltak, és sürgősen hangot adtak nekik, csak összehajtogatták, mint a szalvétát, és megváltoztatták a dallamot, amint látták, hogy a szél másfelé fúj, és be akartak szállni a profitvonatba.
Őszintén szólva, az én riporteri szemszögemből nézve elég sötét.
Néhányan közülük Mira Murati, aki, úgy gondolom, 20 percig az OpenAI új vezérigazgatója volt. Aztán lecserélték. Nagyon bonyolult dinamika volt, és nyilvánvalóan Sam visszatért. A másik személy Ilya Sutskever, aki az egyik szavazója volt Sam eltávolítására, majd meggondolta magát, vagy legalábbis azt mondta, hogy meggondolta magát, majd elment, hogy saját céget alapítson. Tudod, mi késztette arra, hogy meggondolta magát? Csak pénz volt?
Nos, és hogy egyértelmű legyen, nem emelem ki ezt a kettőt. Vannak más igazgatósági tagok is, akik részt vettek a kilövésben, akik szintén nagyon elhallgattak. Szerintem ez egy tágabb kollektív probléma. Bizonyos esetekben ezek olyan emberek, akiknek megvolt az erkölcsi szála ahhoz, hogy riasztjanak és radikális lépéseket tegyenek, és ez dicséretre méltó. És így biztosítod az elszámoltathatóságot. Ez sok embernek segíthetett volna, akiket érint ez a technológia. Segíthetett volna egy iparágnak abban, hogy jelentőségteljesebben a biztonságra összpontosítson.
De ha a visszaélést bejelentőkkel és azokkal az emberekkel foglalkozik, akik sokat próbálnak erre az elszámoltatásra ösztönözni, akkor azt is látja, hogy ki kell állnia a meggyőződése mellett. És ez az iparág valóban tele van olyan emberekkel, akik egyszerűen nem állnak ki a meggyőződésük mellett.
Még akkor is, ha azt hiszik, hogy egy digitális istent építenek, amely valahogy vagy megszünteti az összes munkát, vagy több munkát hoz létre, vagy valami történik.
Nos, ez a lényeg. Tehát az a kultúra, hogy ne állj ki a meggyőződésed mellett, és minden etikai aggály félreesik abban a pillanatban, amikor hőség van, vagy bármi, ami veszélyeztetheti saját pozíciódat az üzletben, bizonyos mértékig jó és jó a szokásos üzleti vállalkozások számára, amelyek bármilyen kütyüt készítenek.
De ezek is ugyanazok az emberek, akik azt mondják: "Ez szó szerint megölhet mindannyiunkat." És megint nem kell a Terminator Skynet szélsőségébe menni. Van egy sor kockázat, amely már megvalósul. Valóságos, és joggal figyelmeztetnek erre, de valaki más fotelpszichologizálja, hogyan élhet meg ez a két dolog ugyanazokban az emberekben, ahol sürgős figyelmeztetéseket hangoztatnak, esetleg bedugják a lábujjukat, és megpróbálnak tenni valamit, aztán csak összecsukódnak és elhallgatnak.
Pontosan ezért fordulhatnak elő ilyen esetek, amikor a dolgokat nem írják le, és a dolgokat a szőnyeg alá söpörték, és senki sem beszél erről nyíltan évekig a tények után.
A természetes, felelős fél itt nem e cégek vezérigazgatói lennének; kormányok lennének. Az Egyesült Államokban talánaz államok kormányai, talán a szövetségi kormányok.
Természetesen ezek a cégek mind globálisak akarnak lenni. Ennek számos globális vonatkozása van. Néztem, ahogy az OpenAI, a Google és az Anthropic arra késztette a Biden-adminisztrációt, hogy kiadjanak egy AI végrehajtási utasítást. A végén elég foghíjas volt. Csak annyit mondott, hogy beszélniük kell arról, mire képesek a modelljeik, és ki kell adniuk néhány biztonsági tesztet. Aztán mindannyian támogatták Trumpot, és Trump belépett, és mindent eltörölt, és azt mondta: "Versenyképesnek kell lennünk. Ez mindenki számára ingyenes. Hajrá."
Ugyanakkor mindannyian olyan közel-keleti országokból próbálnak forrásokat szerezni, amelyek sok olajpénzzel rendelkeznek, és meg akarják változtatni a gazdaságukat. Ezek politikusok. Úgy érzem, a politikusoknak feltétlenül meg kell érteniük, hogy valaki kétoldalt beszél, és nem fognak nagyon ideges lenni, ha valaki a végén csalódik, de a politikusokat is elviszik. Szerinted miért?
Szerintem ez az, amiért a darab számít szerintem, és miért volt érdemes ennyi időt és részletre szánni. Olyan környezetben élünk, ahol a rendszerek, amelyeknek – ahogy Ön mondja – felügyeletet kellene ellátniuk, kiüresedtek. Ez egy poszt-Citizens United America, ahol a pénz áramlása annyira korlátlan, és ez a probléma sajátos koncentrációja a mesterséges intelligencia körül, ahol vannak ezek a PAC-k, amelyek elszaporodnak, és pénzt árasztanak el az értelmes szabályozás felszámolására állami és szövetségi szinten egyaránt.
Ön [OpenAI társalapítója] Greg Brockman, Sam második parancsnoka, aki közvetlenül hozzájárult ezek közül néhányhoz. Ez olyan helyzethez vezet, amikor valóban megragadják a jogalkotókat és a potenciális szabályozókat, és ebből nehéz kilépni. A szomorú dolog az, hogy úgy gondolom, hogy vannak olyan egyszerű politikai lépések, amelyek némelyikét a világ más részein is kipróbálják, és amelyek segíthetnek az elszámoltathatósági problémák némelyikén.
Lehetne több kötelező üzembe helyezés előtti biztonsági tesztelés, ami már most is történik Európában a határmodellek esetében. Szigorúbb írásos nyilvános nyilvántartási követelmények vonatkozhatnának azokra a belső vizsgálatokra, amelyeknél ebben az esetben azt tapasztaltuk, hogy a dolgokat nem írják le. Lehetne egy robusztusabb nemzetbiztonsági felülvizsgálati mechanizmus azokra a közel-keleti infrastrukturális ambíciókra, amelyeket Sam Altman szorgalmazott.
Ahogy mondod, a Biden-adminisztrációval csinálta ezt a csalit, és azt mondta: „Szabályozzanak minket, szabályozzanak minket”, és segített nekik létrehozni egy végrehajtási utasítást, majd abban a pillanatban, amikor Trump belép, igazából az első napokban, csak úgy, hogy nincs akadály, „Gyorsítsunk fel, és építsünk egy hatalmas adatközpont campust Abu Dhabiban”. Lehetett volna, ez egy nagyon egyszerű, mint a bejelentők védelme. Nincs olyan szövetségi törvény, amely védené az AI-cégek alkalmazottait, akik ilyen jellegű biztonsági aggályokat fednek fel, amelyeket ebben a cikkben sugároznak.
Vannak eseteink, amikor Jan Leike, aki az OpenAI vezető biztonsági embere volt, szuper összehangolást vezetett a cégnél. Ír a testületnek, lényegében bejelentői anyagot, mondván, hogy a cég biztonsági küldetése miatt letér a sínekről. Az ilyen embereknek ténylegesen rendelkezniük kell egy felügyeleti testülettel, ahová el tudnak fordulni, és olyan kifejezett törvényi védelemmel kell rendelkezniük, mint amilyeneket más ágazatokban látunk. Ezzel egyszerűen meg lehet ismételni a Sarbanes-Oxley-stílusú rezsimet.
Úgy gondolom, hogy annak ellenére, hogy milyen akut probléma a Szilícium-völgy, amely átveszi az irányítást a hatalom összes karja felett, és annak ellenére, hogy mennyire kiürültek ezek az intézmények, amelyek felügyeletet és védőkorlátokat biztosíthatnak, még mindig hiszek a demokrácia és az önérdekű politikusok alapvető matematikájában. Egyre több közvélemény-kutatási adat jelenik meg arról, hogy az amerikaiak többsége úgy gondolja, hogy a mesterséges intelligencia aggodalmai, kérdései vagy kockázatai jelenleg meghaladják az előnyöket.
Tehát úgy gondolom, hogy a mesterséges intelligencia által a politikába beáramló pénz minden hatalmunkban áll, hogy ezt kérdőjelként kezeljük a politikusok számára. Amikor az amerikaiaknak szavazni mennek, alaposan meg kell vizsgálniuk, hogy az emberek, akikre szavaznak, különösen, ha kritikátlanok és szabályozásellenesek, mindezen aggodalmak fényében a nagy technológiai speciális érdekek bankrollja-e. Szóval úgy gondolom, ha az emberek tudnak ilyen darabokat olvasni, ilyen podcastokat hallgatni, és eléggé törődnek ahhoz, hogy kritikusan gondolkodjanakválasztói döntéseikben reális lehetőség van Washingtonban olyan képviselőkből álló választókerület létrehozására, akik szemmel tartják és kikényszerítik a felügyeletet.
Talán ez az egyik legoptimistább dolog, amit valaha is hallottam a jelenlegi AI-iparról. nagyra értékelem. Megszállott vagyok a szavazás miatt, amiről beszélsz. Most sok van belőle. Mindez meglehetősen következetes, és úgy tűnik, hogy minél több fiatal van kitéve az MI-nek, annál bizalmatlanabbak és dühösebbek emiatt. Ez az összes szavazás vegyértéke. És én ezt nézem, és azt gondolom, hogy igen, az okos politikusok egyszerűen szembeszállnának ezzel. Csak azt mondanák: „Elszámoltatjuk a nagy technológiát”.
Aztán az elmúlt 20 évre gondolok, amikor egy politikus azt mondta, hogy elszámoltatják a nagy technológiát, és küzdök, hogy a nagytechnológiát akár egyetlen pillanatra is felelősségre vonják. Az egyetlen dolog, ami miatt arra gondolok, hogy ez másképp lehet, az az, hogy tulajdonképpen meg kell építeni az adatközpontokat, és ez ellen lehet szavazni, és lehet ez ellen petíciót benyújtani, és ez ellen lehet tiltakozni.
Azt hiszem, van olyan politikus, akinek csak azért lőtték le a házát, mert adatközpontra szavazott. A feszültség eléri, úgy mondanám, hogy lázba jött. Leírtad a Szilícium-völgy elszigeteltségét. Ez egy zárt ökoszisztéma. Olyan érzés, mintha azt hiszik, képesek irányítani a világot. Rengeteg pénzt fektetnek a politikába, és szembeszállnak azzal a valósággal, hogy az emberek nem szeretik a termékeket, ami nem ad sok fedezetet. Minél többet használják a termékeket, annál idegesebbek, és a politikusok kezdik belátni, hogy a technológiai ipar támogatásának valódi következményei vannak az általuk képviselt emberekkel szemben.
Nagyon sok emberrel beszéltél. Ön szerint lehetséges, hogy a technológiai ipar megtanulja a leckét, ami előttük áll?
Azt mondod, olyan érzés, mintha azt hiszik, elszámoltatás nélkül is irányíthatják a világot. Nem is hiszem, hogy ehhez kell a „feels like” minősítő. Úgy értem, ha megnézi Peter Thiel nyelvét, az egyértelmű. Persze ez egy szélsőséges példa. És Sam Altman, bár közel áll Thiel ideológiájához, és bizonyos mértékig tájékozott az általa, egy egészen másfajta ember, aki talán másként és egy bizonyos pontig kimérten hangozhat.
De szerintem a tágabb ideológia, amit Thieltől kap, ami alapvetően a következő: végeztünk a demokráciával, már nincs rá szükségünk. Annyi minden van, hogy csak saját kis bunkereket akarunk építeni. Már nem foglalkozunk Carnegiékkel vagy Rockefellerekkel, ahol ők rosszfiúk, de úgy érzik, részt kell venniük egy társadalmi szerződésben, és dolgokat kell építeniük az emberek számára. Valóságos nihilizmus van benne.
És úgy gondolom, hogy ez csak egy egymást erősítő spirál a közelmúlt amerikai történetében, amikor a mogulok és magáncégek szuperkormányzati hatalomra tettek szert, miközben kiüresedtek az őket felelősségre vonó demokratikus intézmények. Nem vagyok optimista azzal a gondolattal kapcsolatban, hogy ezek a srácok egyszer csak felébrednek és azt gondolják: "Hú, valójában talán részt kell vennünk a társadalomban, és segíteni kell az embereknek való dolgokat építeni."
Úgy értem, úgy nézel, mint a The Giving Pledge mikrokozmikus példája, ahol volt egy pillanat, amikor úgy tűnt, jótékony célú, és ez a pillanat már elmúlt, sőt nevetségessé vált. Ez egy probléma, az elszámoltathatóság hiányának tágabb problémája, amely szerintem csak külsőleg oldható meg. Ennek a szavazóknak kell mozgósítania és újjáélesztenie a kormányzati felügyelet hatalmát. És teljesen igazad van, ha azt mondod, hogy a fő vektor, amelyen keresztül az emberek ezt elérhetik, a helyi. Ez azzal függ össze, hogy hol épül az infrastruktúra.
Említette a körülötte fenyegető izzó feszültséget, amely erőszakhoz és fenyegetésekhez vezet, és nyilvánvalóan senki sem lehet erőszakos vagy fenyegetőző. És nem azért vagyok itt, hogy konkrét szakpolitikai ajánlásokat tegyek, csak hogy bemutassak néhány olyan politikai lépést, amelyek alapvetőnek tűnnek, és a világ más részein működnek, igaz? Vagy azok, akik más ágazatokban dolgoztak. Nem azért vagyok itt, hogy megmondjam, hogy ezek közül melyiket kell végrehajtani és hogyan.
Úgy gondolom, hogy valaminek történnie kell, és ennek külsőnek kell lennie, nem csak ezekben a cégekben bízni. Mert helyesmost olyan helyzet áll előttünk, hogy a technológiát fejlesztő vállalatok, amelyek a legjobban fel vannak szerelve a kockázatok megértésére, és valójában azok, amelyek figyelmeztetnek minket a kockázatokra, azok is csak arra ösztönöznek, hogy gyorsan haladjanak és figyelmen kívül hagyják ezeket a kockázatokat. És egyszerűen nincs semmi, ami ezt ellensúlyozza. Bármilyen reformot hoznak is a konkrétumok tekintetében, valaminek szembe kell szállnia ezzel. És még mindig visszatérek ahhoz az optimizmushoz, hogy az emberek még mindig számítanak.
Általában elfogadom az érvelését. Hadd mondjam el azt az egy apró ellenérvet, amelyet úgy gondolom, meg tudok fogalmazni. A másik dolog, ami megtörténhet az urnán kívül, hogy kiugrik a buborék, nem? Hogy nem mindegyik vállalat ér a célba, és nincs olyan termékpiac, amely megfelelne a fogyasztói AI-alkalmazásoknak. És még egyszer mondom, még nem egészen értem, de fogyasztói műszaki értékelő vagyok, és talán csak magasabb követelményeket támasztok, mint mindenki más.
Van termékpiaci illeszkedés az üzleti világban, igaz? Az, hogy egy csomó AI-ügynök egy csomó szoftvert ír, valódi piacot jelent ezeknek az eszközöknek. És elolvashatja ezeknek a cégeknek az érveit: "Megoldottuk a kódolást, és ez azt jelenti, hogy bármit meg tudunk oldani. Ha tudunk szoftvereket készíteni, akkor minden problémát megoldunk."
Úgy gondolom, hogy a szoftvereknek valós korlátai vannak. Ez nagyszerű az üzleti világban. A szoftverek a valóságban nem tudnak minden problémát megoldani, de el kell jutniuk oda. Be kell fejezniük a munkát, és talán nem mindenki jut el a célig. És összeomlik, és ez a buborék kipattan, és lehet, hogy az OpenAI vagy az Anthropic vagy az xAI, ezek közül az egyik cég megbukik, és ez a befektetés megszűnik.
Szerinted ez befolyásolja ezt? Valójában hadd tegyem fel először az első kérdést. Az OpenAI az IPO küszöbén áll. Sok kétség merül fel Sammel, mint vezetővel kapcsolatban. Gondolod, hogy célba érnek?
Nem fogok prognosztizálni, de azt hiszem, felvet egy fontos szempontot, mégpedig azt, hogy a piaci ösztönzők igenis számítanak a Szilícium-völgyben, és a jelenlegi buborékok dinamikájának bizonytalansága megszakítja a kritikusok szerint potenciálisan a biztonsággal kapcsolatos versenyfutást.
Azt is hozzátenném, hogy ha megnézzük a történelmi elsőbbséget, ahol hasonló és áthatolhatatlannak tűnő piaci ösztönzők és potenciálisan káros hatások vannak a nyilvánosság számára, akkor van hatásper. És ezt mostanában aggodalomra ad okot. Sam Altman ezen a héten támogatja azokat a jogszabályokat, amelyek megvédik az AI-cégeket az olyan felelősség alól, amely az OpenAI-nak ki volt téve például jogtalan haláleseti perekben. Természetesen megvan a vágy, hogy ez a pajzs megvédje a felelősséget.
Úgy gondolom, hogy a bíróságok továbbra is értelmes mechanizmusok lehetnek, és nagyon érdekes lesz látni, hogyan alakulnak ezek a perek. Láttad például a csoportos keresetet, amelynek én és sok-sok más, általam ismert szerző is tagja, az Anthropic ellen a szerzői jogvédelem alatt álló könyvek használata miatt. Ha vannak okos jogi elmék és felperesek, akiket érdekel, ahogyan azt történelmileg láthattuk a nagy dohányzástól a nagy energiáig terjedő ügyekben, akkor kaphat némi korlátot és ösztönzést a lassításra, az óvatosságra vagy az emberek védelmére.
Úgy tűnik, hogy az AI-ipar teljes költségstruktúrája a méltányos használat nagyon-nagyon jótékony értelmezésén múlik. Nem jön fel eléggé. Ezeknek a cégeknek a költségstruktúrája kicsúszik az irányítás alól, ha fizetniük kell Önnek és mindenki másnak, akinek a munkáját elvállalták, de kényelmetlen belegondolni, ezért egyszerűen nem gondolunk rá. Mindemellett ezek a termékek most veszteségesen működnek. Akárcsak ma, mindannyian veszteségesen futnak. Több pénzt égetnek el, mint amennyit keresni tudnak. Egy ponton át kell fordítaniuk a kapcsolót.
Sam üzletember. Mint már többször említette, nem technológus. Ő egy üzletember. Gondolja, hogy készen áll arra, hogy átkapcsolja a kapcsolót, és azt mondja: „Keressünk egy dollárt?” Mert amikor megkérdezem: „Szerinted sikerülni fog az OpenAI?” Ez az, amikor egy dollárt kell keresniük. És eddig Sam úgy kereste az összes dollárját, hogy másoktól kérte a pénzüket ahelyett, hogy a cégei pénzt keresnének.
Nos, ez egy nagy elhúzódó kérdés a Szilícium-völgynek, a befektetőknek és a nyilvánosságnak.Látsz néhány kijelentést és lépést az OpenAI-ból, amelyek egyfajta pánikról tanúskodnak ezzel kapcsolatban. A Sora leállítása, néhány kiegészítő projekt leállítása, megpróbáljuk nullázni az alapterméket. De másrészt még mindig látod, ugyanakkor rengeteg küldetés csúszás, igaz? Még egy apró példa is – ez nyilvánvalóan nem tartozik az üzletükhöz – a TBPN felvásárlása.
Egyébként éppen a célba érve és a tényellenőrzéskor, az effajta újságírói vizsgálat előtt álló cég olyan platformot szerez, ahol közvetlenebbül irányíthatják a beszélgetést. Úgy gondolom, hogy sok befektető aggódik a beszélgetéseim alapján amiatt, hogy a minden embernek mindent megígérő probléma az alapvető üzleti modellben való összpontosítás hiányára is kiterjed. És úgy értem, te közelebb állsz ahhoz a fajta prognózishoz és piacfigyeléshez, mint valószínűleg én. Rád és a hallgatókra bízom a bírókat, hogy szerintük az OpenAI át tudja-e kapcsolni.
Nos, azért tettem fel a kérdést, mert van egy idézet a Microsoft egyik vezető vezetőjétől, és ez az, hogy „Sam öröksége jobban hasonlíthat Bernie Madoffra vagy Sam Bankman-Friedre”, nem pedig Steve Jobsra. Ez eléggé összehasonlítás. mit szólsz ehhez az összehasonlításhoz?
Szerintem ez egy parafrázis. A Steve Jobs-rész nem volt az idézet része. De van benne egy érdekes józanság, mert így van megfogalmazva: „Szerintem kicsi, de valós esélye van annak, hogy SBF vagy Madoff-szintű csaló lesz.” Véleményem szerint nem azt jelenti, hogy Sam-et az ilyen típusú csalásokkal vagy bűncselekményekkel vádolják, hanem azt, hogy Sam megtévesztésének és megtévesztésének mértéke meglehet, hogy végül ilyen léptékben emlékeznek rá.
Igen, azt hiszem, őszintén szólva az a legszembetűnőbb ebben az idézetben, hogy felhívod a Microsoftot, és nem kapsz egy lájkot: "Ez őrület. Ezt még soha nem hallottuk." Sokszor kapsz ilyeneket: „Igen, itt sokan így gondolják”, ami figyelemre méltó. És úgy gondolom, hogy ez az üzleti kérdésekre vonatkozik.
Az egyik befektető például azt mondta nekem annak fényében, ahogy ez a tulajdonság megmaradt a kirúgás utáni években” – és ez is érdekes józan gondolatnak tartotta –, hogy nem feltétlenül Samnek kell a lista abszolút végén lennie, hanem a legalacsonyabbnak kell lennie az emberek tekintetében, akiknek egyáltalán nem szabad ezt a technológiát az aljára építeni, amiért érdemes. azon személyek listájából, akiknek meg kell építeniük az AGI-t, és több más vezető alakja alatt van ezen a területen.
Szóval azt hittem, hogy ez egy érdekes értékelés, és ez az a fajta gondolkodás, amelyet az igazi pragmatikusok kapnak, akik talán nem veszik annyira a biztonsági aggályokat. Csak növekedés-orientáltak, és úgy gondolják, hogy az OpenAI-nak most gondja van Sam Altmannel.
A Microsoft-darab nagyon érdekes. Ez a cég azt hitte, hogy a világ tetején vannak. Azt, hogy megtették ezt a befektetést, és mindenkit, különösen és ami a legfontosabb, a Google-t átugranak, és visszakapják a fogyasztók kegyeit. Azt a szintet, ameddig úgy érzik, leégette ez a kaland – ez egy nagyon józanul irányított társaság –, azt hiszem, nem lehet túlbecsülni.
Említetted a karaktereket és a személyiségjegyeket. Itt szeretném befejezni hallgatóink kérdését. A másik műsorunkban, a The Vergecastban azt mondtam, hogy beszélni fogok veled, és azt mondtam: „Ha kérdése van Ronannak ezzel a történettel kapcsolatban, tudassa velem.” Tehát van itt egy, amely szerintem jól illeszkedik az általad leírtakhoz. Csak felolvasom neked:
„Miben térnek el Altman és más mesterséges intelligencia-vezetők rossz viselkedésének, átkozott cselekedeteinek indoklásai azoktól az indokoktól, amelyeket Ronan a politika és a média más magas rangú vezetőitől hallott? Nem igazolják-e mindannyian tetteiket azzal, hogy így változik meg a világ? Ha én nem teszem ezt, akkor valaki más megteszi?”
Igen, sok ilyen van. Azt mondanám, hogy a mesterséges intelligencia számára az a sajátosság, hogy az egzisztenciális tét ilyen egyedülállóan magas azt jelenti, hogy mindkét kockázati állítás szélsőséges, igaz? Neked van Sam Altmanmondván: "Ez mindannyiunk számára kiolthatja a fényt." És azt is mondhatják a kritikusok, hogy a mánia, amire a kérdező hivatkozik, szélsőséges, nem?
Sam azzal vádolta Elont a felvételen, hogy talán meg akarja menteni az emberiséget, de csak akkor, ha ő az. A nyerni akarás ego-komponense, amit Sam mindig használ, és ez a történelemkönyvek egyike, ez mindent megváltoztathat. Ezért tehát a legtöbb szilícium-völgyi vállalkozás „törni kell néhány tojást” gondolkodásmódja mellett is – úgy gondolom – a mesterséges intelligencia vezető szereplőinek fejében van egy teljes racionalizálás minden eseménnyel kapcsolatban.
És felejtsd el a tojástörést. Szerintem a mögöttes biztonsági kutatók közül sokan azt mondanák, hogy potenciálisan fennáll annak a veszélye, hogy széttörik az országot, összetörik a világot, és több millió embert tönkretesznek, akiknek munkája és biztonsága a mérlegen múlik – ez az, ami egyedülálló. Itt fejezem be, elmélkedem a jelentésekben, és azt hiszem, hogy ez többről szól, mint Sam Altmanről. Ez egy olyan iparágról szól, amely korlátlan, és egy olyan spirális problémáról van szó, hogy Amerika nem tudja korlátozni.
Igen. Nos, volt némi optimizmusunk, de azt hiszem, ez egy jó hely, hogy elhagyjuk.
[Nevet] Lefelé mutató vége.
Természetesen. Ez minden nagyszerű történet, tényleg. Közeleg a Musk-Altman-per. Azt hiszem, itt még sokat fogunk tanulni. Gyanítom, hogy újra beszélni akarok majd veled. Ronan Farrow, nagyon köszönöm, hogy a Decoderben vagy.
Köszönöm.
Kérdése vagy megjegyzése van ezzel az epizóddal kapcsolatban? Keressen minket a [email protected] címen. Tényleg minden e-mailt elolvasunk!
