Täna vestlen Decoderis Ronan Farrow'ga, kes on praegu üks suurimaid uuriva aruandluse staare. Ta murdis paljude, paljude teiste seas ka Harvey Weinsteini loo. Ja just eelmisel nädalal avaldas ta koos kaasautori Andrew Marantziga ajakirjas The New Yorker uskumatu põhjaliku loo OpenAI tegevjuhi Sam Altmani, tema usaldusväärsuse ja OpenAI enda tõusu kohta.
Üks märkus, enne kui me siin edasi läheme – The New Yorker avaldas selle loo ja meil Ronaniga oli see vestlus enne, kui teadsime Altmani kodu vastu suunatud rünnakute täielikku ulatust, nii et te ei kuule meid sellest otse rääkimas. Aga lihtsalt öeldes, ma arvan, et igasugune vägivald on vastuvõetamatu, need rünnakud Sami vastu olid vastuvõetamatud ja see abitus, mida inimesed tunnevad, mis viib sellise vägivallani, on iseenesest vastuvõetamatu ning see on väärt palju põhjalikumat kontrolli nii tööstuse kui ka meie poliitiliste juhtide poolt. Loodan, et see on selge.
Järjekordsed tellijad, ärge unustage, et saate igalt poolt taskuhäälingusaadete hankimise eksklusiivse juurdepääsu reklaamideta dekoodrile. Suundu siia. Kas te pole tellija? Registreeruda saad siin.
Sellegipoolest keerleb Altmani ümber palju, mis on aus mäng range aruandluse jaoks – sedalaadi aruandlus, mida Ronan ja Andrew kavatsesid teha. Tänu ChatGPT populaarsusele on Altman tõusnud tehisintellektitööstuse kõige nähtavamaks kujuks, muutes kunagise mittetulundusliku uurimislabori vaid mõne aastaga peaaegu triljoni dollari suuruse eraettevõtte. Kuid müüt Altmanist on sügavalt vastuoluline, seda määratlevad võrdselt nii tema ilmselge tehingute tegemise võime kui ka tema teadaolev kalduvus… noh, valetada kõigile tema ümber.
Lugu on üle 17 000 sõna pikk ja see sisaldab vaieldamatult lõplikku ülevaadet sellest, mis juhtus 2023. aastal, kui OpenAI direktorite nõukogu vallandas ootamatult Altmani tema väidetava valetamise tõttu, kuid ta võeti peaaegu koheselt tööle. See on ka sügav sukeldumine Altmani isiklikku ellu, tema investeeringutesse, Lähis-Ida rahaga kurameerimisesse ja tema enda mõtisklustesse tema varasemast käitumisest ja iseloomuomadustest, mis ajendasid ühte allikat väitma, et "tõde ei piira teda". Ma tõesti soovitan teil lugeda kogu lugu; Ma kahtlustan, et sellele viidatakse veel palju aastaid.
Ronan vestles Altmaniga palju kordi 18 kuu jooksul, mil ta sellest artiklist aru andis, ja seega oli üks peamisi asju, mille vastu mind huvitas, see, kas ta tajus selle aja jooksul Altmanis mingeid muutusi. Lõppude lõpuks on AI-s, tehnikas ja maailmas viimase pooleteise aasta jooksul palju juhtunud.
Kuulete Ronani sellest väga otse rääkimas, aga ka tema tunnet, et inimesed on muutunud palju valmis rääkima Altmani võimest tõde välja sirutada. Inimesed hakkavad valjuhäälselt ja jäädvustatud mõtlema, kas Altmani sarnaste inimeste käitumine on murettekitav mitte ainult tehisintellekti või tehnoloogia, vaid ka ühiskonna kollektiivse tuleviku jaoks.
Olgu: Ronan Farrow Sam Altmanist, tehisintellektist ja tõest. Siin me läheme.
Seda intervjuud on pikkuse ja selguse huvides kergelt muudetud.
Ronan Farrow, olete uuriv reporter ja The New Yorkeri kaastööline. Tere tulemast dekoodrisse.
Hea meel siin olla. Aitäh, et mul on.
Mul on väga hea meel teiega rääkida. Kirjutasite just suure tüki ajalehele The New Yorker. See on Sam Altmani profiil ja sellega sarnaselt ka OpenAI profiil. Lugesin selle kohta, et nagu kõik suurepärased funktsioonid, kinnitab see koos range aruandlusega palju tundeid, mis inimestel on Sam Altmani suhtes väga pikka aega olnud. Ilmselgelt olete selle avaldanud, olete saanud sellele reaktsioone. Kuidas sa sellesse praegu suhtud?
Noh, tegelikult on mind julgustanud see, kuivõrd see on läbi murdnud ajal, mil tähelepanumajandus on nii skisofreeniline ja pinnapealne. See on lugu, mis minu arvates puudutab meid kõiki. Ja kui veetsin poolteist aastat oma elust ja ka mu kaasautor Andrew Marantz veetis selle aja, püüdes tõesti teha midagi kohtuekspertiisi ja põhjalikku, on see alati sellepärast, et ma tunnen, et on suuremaid struktuurseid probleeme, mis mõjutavad loo keskmes olevaid inimesi väljaspool üksikisikut ja ettevõtet.
Sam Altman, Silicon Valley hype-kultuuri ja idufirmade taustal, mis õhutavad tohutuid väärtushinnanguid, mis põhinevad lubadustel, mis võivad tulevikus täituda või mitte, ning asutajakultuuri kasvav omaksvõtt, mis arvab, et erinevatele rühmadele erinevate vastuoluliste asjade rääkimine on iseloomulik, mitteviga… Isegi sellel taustal on Sam Altman erakordne juhtum, kus kõik Silicon Valleys, kes neid asju ootavad, ei saa lõpetada rääkimist tema usaldusväärsuse ja aususe küsimusest.
Teadsime juba, et ta vallandati mõne ebaaususe väidetava versiooni või väidetava valetamise tõttu. Kuid erakordselt, hoolimata tõsiasjast, et on olnud suurepäraseid aruandeid, on Keach Hagey teinud selles suurepärast tööd. Karen Hao on selle nimel suurepärast tööd teinud. Tegelikult ei olnud lõplikku arusaama tegelikest väidetavatest tõestuspunktidest ja põhjustest, miks need on avalikkuse tähelepanu alt välja jäänud.
Nii et punkt number üks on see, et mind julgustab tõsiasi, et mõned nendest lünkadest meie avalikes teadmistes ja isegi Silicon Valley insaiderite teadmistes on nüüd veidi rohkem täidetud. Mõningaid lünkade põhjuseid on veidi rohkem täidetud.
Anname teada juhtumitest, kus selles ettevõttes olevad inimesed tundsid tõesti, et asjad on varjatud või jäetud tahtlikult dokumenteerimata. Üks uusi asju selles loos on WilmerHale'i pöördeline advokaadibüroo uurimine, mis on ilmselgelt väljamõeldud, usaldusväärne ja suur advokaadibüroo, mis uuris Enronit ja WorldComi, mis muide olid kõik mahukad, nagu avaldatud sadu lehekülgi. WilmerHale tegi selle uurimise, mida nõudsid juhatuse liikmed, kes olid Altmani vallandanud, kui ta neist lahti sai, ja ta tuli tagasi. Ja erakordsel kombel – paljude õigusekspertide silmis, kellega ma rääkisin, ja šokeerivalt paljude selle ettevõtte inimeste silmis – hoidsid nad seda kirja panemast. Kõik, mis sellest kunagi välja tuli, oli OpenAI 800-sõnaline pressiteade, mis kirjeldas juhtunut kui usalduse purunemist. Ja me kinnitasime, et seda tehti suuliste briifingutega.
On juhtumeid, kus näiteks juhatuse liige näiliselt soovib hääletada OpenAI algse mittetulundusliku vormi muutmise vastu kasumit mittetaotlevaks üksuseks, ja see registreeritakse hääletamisest hoidumisena. Kohtumisel on nagu advokaat, kes ütleb: "Noh, see võib käivitada liiga palju kontrolli." Ja isik, kes soovib vastu hääletada, märgitakse kõigist esinemistest hoidumisena. Tekib faktiline vaidlus. OpenAI väidab teisiti, nagu võite ette kujutada. Need on kõik juhtumid, kus teil on ettevõte, mis omal arust hoiab meie tulevikku enda kätes.
Ohutuspanused on nii teravad, et pole kuhugi kadunud. See on põhjus, miks see ettevõte asutati mittetulundusühinguna, mis keskendus ohutusele ja kus asjad olid nii varjatud, et usaldusväärsed inimesed selle ümber ei pidanud seda vähem professionaalseks. Ja ühendate selle taustaga, kus on nii vähe poliitilist isu sisuka reguleerimise järele. Ma arvan, et see on väga tuleohtlik olukord.
Minu jaoks pole mõte ainult selles, et Sam Altman väärib neid küsimusi nii teravalt. Asi on ka selles, et kõigil nendel selle valdkonna meestel ja paljudel võtmeisikutel on, kui mitte see konkreetne omapärane, väidetav kogu aeg valetamise joon, kindlasti teatud määral võidujooksmise mentaliteet, kus ohutuskaitsjad on need kohustused ja kõik-on-rassipoosid vesitanud.
Arvan, et kui me vaatame Anthropicu hiljutisi lekkeid, siis on inimene, kes esitab küsimuse, kellel peaks selles tükis näpp nupul olema. Vastus on see, et kui meil pole sisulist järelevalvet, siis arvan, et peame esitama tõsiseid küsimusi ja püüdma kõigi nende meeste kohta võimalikult palju teavet tuua. Nii et mind on julgustanud see, mis tundub mõtteka vestlusena või selle alguses.
Põhjus, miks ma seda nii küsisin, on see, et töötasite selle kallal poolteist aastat. Ma usun, et rääkisite oma kaasautori Andrewga 100 inimesega. See on pikk aeg, kui lugu valmib. Ma mõtlen eriti viimase pooleteise aasta peale tehisintellektis ja poiss, on kõigi nende tegelaste hoiakud ja väärtused väga kiiresti muutunud.
Võib-olla mitte rohkem kui Sam Altman, kes alustas vaikimisi võitjana, kuna nad olid välja andnud ChatGPT ja kõik arvasid, et see võtab Google'i võimust. Ja siis Google vastas, mis näis neid üllatavat, et Google püüab kaitsta oma äri, võib-olla üht parimat ettevõtet tehnikaajaloos, kui mitte äriajaloos. Anthropic otsustas, et keskendub ettevõttele. Tundub, et see võtab juhtrollisest AI kasutamine ettevõtetes on nii kõrge.
Nüüd keskendub OpenAI oma tootele "me võtame Google'i" asemel Codexi ja nemad võtavad ettevõtte ette. Ma lihtsalt ei oska täpselt öelda, kas teie viimase pooleteise aasta aruandluse ajal on tunne, et tegelased, kellega rääkisite, muutusid? Kas need muutusid nagu nende hoiakud ja väärtused?
Jah. Ma arvan esiteks, et selles artiklis käsitletav kriitika, mis tuleb praegu paljudelt nendesse ettevõtetesse kuuluvatelt inimestelt – et see on tööstusharu, mis vaatamata eksistentsiaalsetele panustele laskub ohutusega seotud võidujooksuks ja kus kiirus ületab kõik muu –, on see mure muutunud teravamaks. Ja ma arvan, et need mured on viimase pooleteise aasta jooksul saanud rohkem kinnitust. Samal ajal on suhtumine Sam Altmani konkreetselt muutunud. Kui me selle kohta allikatega rääkima hakkasime, olid inimesed väga-väga kirglikud, kui neid sellel teemal tsiteeritakse ja seda lindistada.
Meie aruandluse lõpuks on teil aruannete kogum, kus inimesed räägivad sellest väga avalikult ja selgesõnaliselt, ning teie juhatuse liikmed ütlevad näiteks: "Ta on patoloogiline valetaja. Ta on sotsiopaat." On erinevaid vaatenurki: "See on ohutuspanusid arvestades ohtlik ja me vajame selle tehnoloogia juhte, kellel on kõrgendatud terviklikkus", kuni näiteks: "Unustage turvalisuse panused, see on käitumine, mis pole ühegi suurema ettevõtte juhi jaoks vastuvõetav, kuna see tekitab lihtsalt liiga palju häireid."
Nii et vestlus on muutunud palju selgesõnalisemaks viisil, mis tundub võib-olla hilinenud, kuid on ühes mõttes südamlik. Ja Sam Altman, tema kiituseks… Tükk on Sami suhtes väga õiglane ja isegi helde. See ei ole selline tükk, kus oli palju "sain sind" asju. Veetsin temaga palju-palju tunde telefonis, kui me seda lõpetasime ja kuulsime teda tõesti.
Nagu võite ette kujutada, ei saa sellises teoses kõik sisse. Mõned juhtumid selles teoses olid tingitud sellest, et ma kuulasin siiralt. Ja kui Sam väitis tegelikult, et ma tundsin vett kandvat, et miski, isegi kui see on tõsi, võib olla sensatsiooni tekitav, siis ma tõesti eksisin selle kohtuekspertiisi ja mõõdutundega. Nii et ma arvan, et seda võetakse õigesti vastu ja ma lihtsalt loodan, et selle aja jooksul kogunenud faktilised andmed võivad käivitada julgustavama vestluse järelevalve vajadusest.
See on tegelikult minu järgmine küsimus. Ma arvan, et sa rääkisid Samiga tosin korda selle loo kajastamise jooksul. Jällegi, see on palju vestlusi pika aja jooksul. Kas arvate, et Sam on viimase pooleteise aasta jooksul aruandluse käigus muutunud?
Jah. Ma arvan, et üks selle kõige huvitavamaid alajooni on see, et Sam Altman räägib sellest tunnusest selgemalt kui varem. Sami poos selles tükis ei ole selline: "Seal pole midagi, see pole tõsi; ma ei tea, millest sa räägid." Tema poos on selline, et ta ütleb, et selle põhjuseks on kalduvus inimestele meeldida ja omamoodi konfliktide vastumeelsus. Ta tunnistab, et see tekitas talle probleeme, eriti karjääri alguses.
Ta ütleb: "Noh, ma liigun sellest mööda või olen mingil määral sellest möödas." Ma arvan, et minu jaoks on tõeliselt huvitav inimeste kontingent, kellega me rääkisime, kes ei olnud lihtsalt omamoodi ohutuse eestkõnelejad, mitte ainult tehnilised teadlased, kellel on sageli sellised teravad ohutusprobleemid, vaid ka pragmaatilised, suured investorid. Nad on Sami toetajad, kes mõnel juhul vaatavad seda küsimust ja räägivad, et mängisid isegi võtmerolli tema tagasitulekus pärast vallandamist. Selle küsimuse kohta, kas ta on reformitud ja mil määral see muutus on mõttekas, ütlevad nad: "Noh, me andsime talle tol ajal kahtluse kasu."
Pean silmas eelkõige üht silmapaistvat investorit, kes ütles: "Aga sellest ajast peale on selge, et teda ei viidud puukuuri taha," mis oli fraas, mida see vajalikul määral kasutas. Selle tulemusena tundub, et see on nüüd stabiilne omadus. Näeme seda jooksvalt. Võite vaadata mõnda OpenAI suurimat ärisuhted ja viis, kuidas nad kannavad pidevalt selle usaldamatuse raskust.
Nagu Microsofti puhul, räägite ka sealsete juhtidega ja neil on tõesti terav ja hiljuti katalüüsitud mure. See juhtum, kus samal päeval kinnitab OpenAI oma ainuõigust Microsoftiga seoses aluseks olevate kodakondsuseta tehisintellekti mudelitega, teatab ta ka uuest tehingust Amazoniga, mis on seotud ettevõtte lahenduste müümisega tehisintellekti agentide loomiseks, mis on olekupõhised, mis tähendab, et neil on mälu.
Rääkides Microsofti inimestega ja nad ütlevad: "Seda pole võimalik teha ilma nende aluseks olevate asjadega suhtlemiseta, mille kohta meil on eksklusiivsusleping." Nii et see on vaid üks paljudest väikestest näidetest, kus see omadus on kogu aeg pidevas äritegevuses ja on OpenAI juhatuses, selle juhtkonnas ja laiemas tehnoloogilises kogukonnas aktiivse mure teemaks.
Sa ütled pidevalt seda "omadust". Loos on rida, mis mulle tundub lõputööna, ja see on teie kirjeldatava tunnuse kirjeldus. See seisneb selles, et "Sam Altmani ei piira tõde" ja et tal on "kaks omadust, mida ühes ja samas inimeses peaaegu kunagi ei näe: esimene on tugev soov inimestele meeldida, olla meeldiv mis tahes suhtluses ja teine peaaegu sotsiopaatiline hoolimatus tagajärgede pärast, mis võivad tekkida kellegi petmisel."
Pean teile ütlema, et lugesin seda lauset 500 korda ja püüdsin ette kujutada, et ütlen alati, mis inimesed tahavad meeldida, ja siis ei ärritu, kui nad tunnevad, et neile valetatakse. Ja ma ei suutnud oma emotsionaalset seisundit mõista, kuidas need asjad võivad eksisteerida samas inimeses. Olete Samiga palju rääkinud ja rääkinud inimestega, kes on neid jooni kogenud. Kuidas ta seda teeb?
Jah. See on inimlikul tasandil huvitav, sest ma lähenen sellistele aruandluskogudele, keskendudes tõeliselt selle keskmes oleva inimese humaniseerimisele ning sügava mõistmise ja empaatia otsimisele. Kui ma üritasin sellele läheneda inimlikumast vaatenurgast ja öelda: "Kuule, see oleks minu jaoks laastav, kui nii paljud inimesed, kellega olen töötanud, ütleksid, et olen patoloogiline valetaja. Kuidas te seda kaalu talute? Kuidas te sellest teraapias räägite? Mis on lugu, mille te sellest endale räägite?"
Minu arvates on mul selle kohta mingisuguseid võib-olla lääneranniku alamõtteid, näiteks: "Jah, mulle meeldib hingeõhk." Kuid mitte palju sellist julgustavat sügavat vastasseisu, mis minu arvates paljudel meist tõenäoliselt oleks, kui näeksime sellist tagasisidet oma käitumise ja inimeste kohtlemise kohta.
Ma arvan, et see puudutab tegelikult ka laiemat vastust küsimusele. Sam kinnitab, et see omadus on tekitanud probleeme, aga ka seda, et see on osa sellest, mis on andnud talle võimaluse OpenAI kasvu nii palju kiirendada, et ta suudab ühendada ja meeldida erinevatele inimrühmadele. Ta veenab pidevalt kõiki neid vastuolulisi valijaskondi, et see, millest nad hoolivad, on see, millest ta hoolib. Ja see võib olla asutaja jaoks väga kasulik oskus. Olen rääkinud investoritega, kes siis ütlevad: "Noh, võib-olla on see ettevõtte tegelikuks juhtimiseks vähem kasulik, sest see külvab nii palju lahkarvamusi."
Kuid Sami isikliku poole pealt arvan, et asi, mida ma inimlikul tasandil ühendust võtta püüan, on ilmselge sügavama vastasseisu, refleksiooni ja enesevastutuse puudumine, mis annab ka teada, et IPO-ks valmistuva ettevõtte ülivõim või vastutus.
Ta on keegi, kes ühe endise juhatuse liikme, nimega Sue Yoon, kes on kirjatükis plaadil ja ütleb, et tema kasutatud fraas on "ettepahutuseni", suudab tõesti uskuda oma müügipakkumiste muutuvat reaalsust või suudab end selles veenda. Või vähemalt kui ta neid ei usu, suudab ta neist läbi põrutada ilma sisulise enesekahtluseta.
Ma arvan, et asjal, millest te räägite, võib teie või mina, kui me seda asja välja ütleme ja mõistame, et see läheb vastuollu muu kinnitusega, mille oleme andnud, omamoodi külmetuse või enda kontrollimise hetke. Ma arvan, et temaga seda ei juhtu. Ja seal on laiem Silicon Valley hype kultuur ja asutajakultuur, mis omaks seda.
See on naljakas. The Verge põhineb toote arvustustelprogramm. See on meie tegevuse süda. Mul on kord aastas triljon dollarit Apple'i teadus- ja arendustegevust ja ütlen: "See telefon on seitse." Ja see legitimeerib kogu meie aruandluse ja meie arvamused mujal. Meil on hindamisfunktsioon ja me kulutame nii palju aega lihtsalt tehisintellekti tooteid vaadates ja küsides: "Kas need töötavad?"
Tundub, et see puudub paljudest AI-teemalistest vestlustest, nagu see praegu on. Seal on lõputu vestlus selle üle, mida see võib teha, kui ohtlik see võib olla. Ja siis uurite ja küsite: "Kas see teeb tegelikult seda, mida ta peaks täna tegema?" Mõnel juhul on vastus jaatav. Kuid paljudel juhtudel on vastus eitav.
Tundub, et see seostub teie kirjeldatava hype-kultuuriga ja ka mõttega, et noh, kui ütlete, et see teeb midagi ja ei tee, ja keegi tunneb end halvasti, on see hea, sest me oleme järgmise asjaga. See on minevik. Ja eriti tehisintellektis oskab Sam nii hästi suuri lubadusi anda.
Just sel nädalal, ma arvan, et samal päeval, kui teie lugu avaldati, avaldas OpenAI poliitikadokumendi, milles öeldi, et peame sotsiaalse lepingu ümber mõtlema ja saama valitsuselt tehisintellekti tõhususe stipendiume. See on suur lubadus selle kohta, kuidas mõni tehnoloogia võib kujundada maailma tulevikku ja seda, kuidas me elame, ning see kõik sõltub sellest, et tehnoloogia töötab täpselt nii, nagu see võib-olla töötab või peaks töötama.
Kas olete kunagi avastanud, et Sam kahtleb tehisintellektist AGI-ks või superintellektiks muutumises või finišisse jõudmises? Sest see on asi, mille üle ma kõige rohkem imestan. Kas mõeldakse selle üle, kas see põhitehnoloogia suudab teha kõike, mida nad väidetavalt suudavad?
See on täpselt õige küsimuste komplekt. On usaldusväärseid tehnolooge, kellega me selles aruandluskogus rääkisime – ja ilmselgelt pole Sam Altman üks; ta on äriinimene – kelle sõnul on Sami rääkimine selle tehnika ajakavast lihtsalt kaugel. On blogipostitusi, mis ulatuvad mõne aasta tagusesse aega, kus Sam ütleb: "Oleme juba sündmuste horisondini jõudnud. AGI on põhimõtteliselt siin. Superintellekt on nurga taga. Me asume teistele planeetidele. Me ravime kõiki vähivorme." Tõesti, ma ei kaunista.
Vähktõbi on tegelikult huvitav, et Sam erutab inimest, kes teoreetiliselt ravis ChatGPT-ga nende koera vähi, ja seda lihtsalt ei juhtunud. Nad rääkisid ChatGPT-ga ja see aitas neil juhendada mõnda teadlast, kes seda tööd tegelikult tegid, kuid üks-ühele, see tööriist selle koera ravis, pole tegelikult lugu.
Mul on hea meel, et te selle küsimuse tõstatasite, sest ma tahan minna edasi selle suurema punkti juurde, mis puudutab seda, millal tehnoloogia potentsiaal ja risk tõesti üle lähevad. Kuid tasub mainida neid väikseid kõrvalekaldeid, mis Sam Altmanilt pidevalt juhtuvad, kus ta näib seda iseloomujoont uuesti kehastavat.
Ma pean silmas WilmerHale'i aruande näidet, kus meil oli see teave, mida ei olnud kirjutatud, ja tahtsime teada, kas suuline ülevaade anti kellelegi teisele peale kahe juhatuse liikme, mille Sam aitas installida, et seda jälgida. Ja ta ütles: "Jah, jah, ei, ma usun, et see anti kõigile, kes hiljem juhatusega liitusid." Ja meil on olukorrast otseselt teadlik inimene, kes ütleb, et see on lihtsalt vale. Ja see tundub tõesti nii olevat, et see ei vasta tõele. Kui tahame olla helded, võib-olla oli ta valesti informeeritud.
Neid juhuslikke tagatisi on palju. Ja ma kasutan seda näidet osaliselt, sest see on suurepärane näide lahtivõtmisest, nimetagem seda, millel võivad olla õiguslikud tagajärjed. Delaware'i äriühinguõiguse alusel ei pea ma teile ütlema, et kui see ettevõte teeb IPO, võivad aktsionärid jaotise 220 alusel selle üle kaevata ja nõuda alusdokumente. Juba on juhatuse liikmeid, kes ütlevad selliseid asju nagu: "Oota üks hetk, see briifing oleks pidanud toimuma."
Nii et need asjad, mis näivad tal kogu aeg suust välja hüppavat, võivad avaldada tõelisi turgu liigutavaid efekte, OpenAI jaoks tõelisi mõjusid. Kui tuues selle tagasi utoopilise hüppekeele juurde, mis on uuesti esile kerkinud, siis ma arvan, et mitte juhuslikult sel päeval, kui see tükk ilmus, mõjutab see ka meid kõiki, sest ohud on selle viisiga seoses nii teravad.relvastuses kasutuselevõtt, viis, kuidas seda kasutatakse keemiliste sõjaainete tuvastamiseks, desinformatsiooni potentsiaal ja viis, kuidas utoopiline hüpe näib sunnivat paljusid usaldusväärseid majandusteadlasi ütlema: "Sellel on kõik mulli tunnused."
Isegi Sam Altman on öelnud: "Keegi kaotab siin palju raha." Kui kõik need ettevõtted teevad omavahel tehinguid, panustavad tehisintellekti ja võtavad nii palju laenu, võib see tõesti tekitada suure osa Ameerika ja maailma majanduskasvust. Nii et see, mida Sam Altman ütleb, on oluline, ja ma arvan, et tema ümber olevate inimeste ülekaal, sa mainisid, et me rääkisime rohkem kui sajaga, tegelikult oli see palju üle saja. Meil oli lõpusirgel vestlus, kus kõlas: "Kas oleks liiga väiklane öelda, et see on nagu palju suurem number?" Ja me vastasime: "Jah, vähendame mängu. Mängime lahedasti." Kuid seal oli nii palju inimesi ja nii suur enamus neist ütles: "See on mure." Ja ma arvan, et see on kõik põhjus.
Lubage mul küsida selle numbri kohta. Nagu mainisite, muutusid inimesed aja möödudes muredele aina avatumaks. Tundub, et surve mulli ümber – võidujooks, et kogu see investeering tasuda, võitjana välja tulla, IPO-le – on muutnud palju suhtumist. Kindlasti tekitas see Samile ja OpenAI-le suuremat survet.
Avaldasime sel nädalal loo just OpenAI hõngu kohta. Teie lugu on osa sellest, kuid tohutud personalimuudatused OpenAI juhtide ametikohtadel – inimesi tuleb ja läheb. Teadlased on kõik minemas, suures osas Anthropic'i, mis on minu arvates tõesti huvitav. Näete lihtsalt, et see ettevõte tunneb survet ja reageerib sellele survele mingil moel.
Aga siis mõtlen tagasi Samile vallandamisele. See on minu jaoks lihtsalt meeldejääv. See pole kellelegi teisele meeldejääv, kuid helistasin reedel kell 19.00 Bronxi loomaaeda ja keegi ütles, et nad üritavad Sami tagasi saada. Ja siis veetsime nädalavahetuse seda lugu taga ajades. Ja ma ütlesin lihtsalt: "Ma olen loomaaias. Mida sa tahad, et ma siin teeksin?" Ja vastus oli: "Jääge telefonile." Noh, mu tütar ütles: "Ära telefonist." Ja seda ma tegingi.
Sami tagasi toomiseks oli vaja sõita või surra. See ettevõte ütles: "Ei, me ei lase juhatusel Sam Altmani vallandada." Investorid, keda tsiteeritakse teie kirjatükis "Me läksime sõtta," arvan, on Thrive Capitali positsioon, "et Sam tagasi saada." Microsoft läks Sami tagasi saamiseks sõtta. See on hiljem ja nüüd on kõik nagu: "Me läheme IPO-le. Jõudsime finišisse. Saime oma mehe tagasi ja ta viib meid finišisse. Oleme mures, et ta on valetaja."
Miks oli siis sõda, et teda tagasi saada? Sest tundub, et tegelikult pole midagi muutunud. Räägite memodest, mida Ilya Sutskever ja [Anthropic'i tegevjuht] Dario Amodei hoidsid, kui nad olid Sam Altmani kaasaegsed. Ilja mure number üks oli see, et Sam on valetaja.
Ükski neist pole muutunud. Miks oli siis sõda, et teda tagasi tuua? Ja nüüd, kui oleme lõpusirgel, tundub, et kõik mured on avalikud.
Esiteks, vabandust teie tütrest ja mu elukaaslasest ja kõigist teistest ajakirjanike ümber.
[Naerab] See oli kõigi jaoks üsna tore nädalavahetus.
Jah, see võtab inimese elu üle ja see lugu on kindlasti minu oma viimase aja jooksul. Ma arvan, et see on tegelikult seotud selle ajakirjanduse ja teabele juurdepääsu teemaga. Investorid, kes läksid Sami pärast sõtta ja kõik mängisid rolli, et ta tagasi tuleks, ja juhatus, mis oli spetsiaalselt loodud selleks, et kaitsta mittetulundusühingu missiooni seada ohutus kasvust kõrgemale ja vallandada juht, kui neid ei saanud seda usaldada, läksid nad minema. See oli kõik sellepärast, et jah, turustiimulid olid olemas, eks?
Sam suutis inimesi veenda: "Noh, ettevõte hakkab lihtsalt lagunema." Kuid põhjus, miks ta toetas, oli teabe puudumine. Need investorid ütlevad paljudel juhtudel nüüd: "Ma vaatan tagasi ja arvan, et oleksin pidanud rohkem muretsema, kui oleksin täielikult teadnud, millised on nõuded ja millised mured."
Mitte kõik;arvamused on erinevad ja me tsiteerime erinevaid arvamusi, kuid on olulisi arvamusi, kes lähtusid väga osalisest teabest. Laud, mis Sami vallandas, oli ühe laual olnud inimese sõnul "väga JV" ja nad kobasid palli kõvasti. Ja me dokumenteerime aluseks olevad kaebused ja inimesed saavad ise otsustada, kas see kuhjub selliseks pakiliseks mureks, mida nad arvasid, kuid seda argumenti ja seda teavet ei esitatud.
Nad said seda, mida mõned neist tunnistavad nüüd halvaks õigusnõuks. Selle kirjeldamiseks mäletate seda tsitaati ja tõenäoliselt mäletavad paljud teie kuulajad ja vaatajad seda tsitaati kui avameelsuse puudumist. See oli see, milleks see taandati ja siis nad sisuliselt kõnesid vastu ei võtnud.
Nad ei võtnud kõnesid vastu. Olen kindel, et proovisite. Kõik, keda ma tean, proovisid ja see jõudis nii kaugele, et ajakirjanikuna ei tohtinud te oma allikatele nõu anda, kuid ma ütlesin: "See läheb mööda, kui te ei hakka ennast selgitama."
Ja see juhtus. Unustage ajakirjanikud. Satya Nadella ütles: "Mis kuradit juhtus? Ma ei saa kedagi mulle seletama panna." Ja see on ettevõtte peamine rahaline toetaja. Ja siis helistab Satya [LinkedIni kaasasutaja] Reid Hoffmanile ja Reid helistavad ja ütlevad: "Ma ei tea, mis kurat juhtus."
Nad on arusaadavalt selles teabetühjas, otsides traditsioonilisi mitte-AI-indikaatoreid, mis õigustaksid nii kiiret ja äkilist vallandamist. Nagu, okei, kas see oli seksikuritegu? Kas see oli omastamine? Ja kogu peen, kuid minu arvates tähendusrikas argument, et see tehnoloogia on teistsugune ja väiksemate reetmiste pidev kuhjumine võib omada olulist panust nii selle ettevõtte kui ka võib-olla kogu maailma jaoks, läks suures osas kaduma. Nii võitsid kapitalistlikud stiimulid, aga ka inimesed, kes selle saavutasid, läksid välja ega tegutsenud alati täieliku teabega.
Ma tahan lihtsalt korraks küsida aspekti "mida kõik arvasid" kohta, sest ma kindlasti nägin uudist ja ütlesin: "Oh, midagi halba pidi juhtuma." Olete kuulsalt #MeToo raporteerinud. Sa murdsid Harvey Weinsteini loo.
Veetsite palju aega nende väidete kajastamiseks, mis minu arvates olid lõpuks alusetu: Altman ründas seksuaalselt alaealisi või palkas seksitöötajaid või mõrvas isegi OpenAI vilepuhuja. Ma mõtlen, et teie olete see inimene, kes saab sellest kõigest kõige rangemalt teatada. Kas otsustasite, et sellest pole midagi?
Noh, vaata, ma ei taha öelda, et millestki pole midagi välja kukkunud. Võin öelda, et vaatasin mitu kuud neid väiteid ega leidnud neile kinnitust. Ja minu jaoks oli rabav, et need tüübid, need ettevõtted, kellel on meie tuleviku üle nii palju võimu, kulutavad tõesti ebaproportsionaalselt palju oma aega ja ressursse lapselikule mudavõitlusele.
Üks juht kirjeldab seda kui "Shakespeare'i". Eradetektiivide raha ja koostatavate opositsioonitoimikute hulk on halastamatu. Ja kahetsusväärne on see, et selline salapärane kraam, mida Sami konkurendid papagoideks saavad, on lihtsalt oletatav fakt, eks? Väide, et ta jälitab alaealisi poisse, ja paljudel Silicon Valley kokteilipidudel kuulete seda. Konverentsiringil olen kuulnud seda just usaldusväärsete, silmapaistvate juhtide poolt kordamas: "Kõik teavad, et see on tõsiasi."
Kurb on see, et ma räägin sellest, kust see tuleb, erinevatest vektoritest, mille kaudu see edastatakse. Näib, et Elon Musk ja tema kaaslased suruvad läbi tõeliselt raskeid toimikuid, mis ei tähenda midagi. Need on aurud, kui hakkate tegelikult uurima nende aluseks olevaid väiteid. Kurb on see, et see varjab tõesti tõenditepõhisemat kriitikat, mis minu arvates tõesti väärivad kiiret järelevalvet ja kaalumist.
Teine teema, mis selles loos tõesti läbi tuleb, on peaaegu hirmutunne, et Samil on nii palju sõpru – ta on investeerinud nii paljudesse ettevõtetesse alates oma varasemast Y Combinatori tegevjuhi rollist kuni isikliku investeerimiseni, millest mõned on otseses vastuolus tema rolliga OpenAI tegevjuhina – ja tema ümber valitseb vaikus.
See jäi mulle silma, kui lugesin ühte rida eriti. Kirjeldate Ilja Sutskeveri memosid ja need on just Silicon Valleys väljas. Kõikkutsub neid Ilja memodeks. Kuid selle ümber valitseb isegi vaikus. Neid antakse mööda, kuid neist ei räägita. Mis sa arvad, kust see tuleb? Kas see on hirm? Kas see on soov saada ingliinvesteeringut? Kust see tuleb?
Ma arvan, et see on suur argus, ütlen ausalt. Olles teatanud riikliku julgeoleku lugudest, kus allikad on vilepuhujad, kes kaotavad kõik ja seisavad silmitsi kohtu alla andmisega, teevad nad siiski õigesti ja räägivad asjadest, et tekitada vastutust. Olen töötanud teie mainitud seksikuritegudega seotud lugude kallal, kus allikad on sügavalt traumeeritud ja kardavad väga isiklikku kättemaksu.
Paljudel juhtudel on selle rütmi ümber tegemist inimestega, kellel on nende profiil ja jõud. Nad on kas ise kuulsad inimesed või ümbritsevad kuulsad inimesed. Neil on tugev ärielu. Minu arvates on neil sellest asjadest rääkimine tegelikult väga väike. Ja õnneks nõel liigub, nagu me varem rääkisime, ja inimesed räägivad nüüd rohkem.
Kuid nii pika aja jooksul on inimesed tõesti vaikinud, sest ma arvan, et Silicon Valley kultuur on lihtsalt nii halastamatult omakasu ja halastamatult ärile ja kasvule orienteeritud. Nii et ma arvan, et see puudutab isegi mõningaid inimesi, kes olid seotud Sami vallandamisega – jah, üks tegur, mis viis tema tagasitulekuni ja vanade juhatuse liikmete vallandamiseni, oli see, et ta koondas investoreid, kes olid oma eesmärgist segaduses.
Kuid teine on see, et nii paljud teised inimesed, kes selle ümber olid muret tundnud ja neid tungivalt väljendanud, olid lihtsalt salvrätikutena kokku voldinud ja muutnud oma meloodiat hetkel, kui nad nägid, et tuul puhus teisele poole, ja nad tahtsid kasumirongile minna.
Ausalt öeldes on see minu kui reporteri seisukohast üsna tume.
Mõned neist inimestest on Mira Murati, kes minu arvates oli 20 minutit OpenAI uus tegevjuht. Seejärel asendati ta. See oli väga keeruline dünaamika ja ilmselgelt tuli Sam tagasi. Teine inimene on Ilja Sutskever, kes oli üks häältest Sami tagandamisel ja siis mõtles ümber või vähemalt ütles, et muutis meelt ja siis lahkus, et asutada oma ettevõte. Kas sa tead, mis pani ta meelt muutma? Kas see oli ainult raha?
Noh, ja et oleks selge, ma ei tõsta neid kahte välja. Vallandamisega seotud juhatuse liikmeid on ka teisi, kes samuti pärast seda väga vait jäid. Ma arvan, et see on nagu laiem kollektiivne probleem. Need on mõnel juhul inimesed, kellel oli moraalne kiuste anda häirekella ja võtta ette radikaalseid meetmeid, ning seda tuleb kiita. Ja nii kindlustate vastutuse. See oleks võinud aidata paljusid inimesi, keda see tehnoloogia mõjutab. See oleks võinud aidata tööstusel rohkem ohutusele keskenduda.
Kuid suheldes vilepuhujate ja inimestega, kes püüavad seda vastutust palju õhutada, näete ka, et see nõuab sellest kinnipidamisest ja oma veendumustele kindlaks jäämist. Ja see tööstus on tõeliselt täis inimesi, kes lihtsalt ei seisa oma veendumuste juures.
Isegi kui nad arvavad, et nad ehitavad digitaalset jumalat, mis kuidagi kas kaotab kogu töö või loob tööd juurde, või midagi juhtub.
No selles on asi. Nii et kultuur, mille kohaselt ei jää oma veendumustele kindlaks ja kõik eetilised mured jäävad kõrvale, kui on kuumus või midagi, mis võib teie positsiooni ettevõttes ohustada, on võib-olla mõnel määral hea tavapärastele ettevõtetele, kes teevad mis tahes vidinaid.
Kuid need on ka samad inimesed, kes ütlevad: "See võib meid kõiki sõna otseses mõttes tappa." Ja jällegi, te ei pea minema Terminator Skyneti äärmusesse. On hulk riske, mis juba realiseeruvad. See on tõsi ja neil on õigus selle eest hoiatada, kuid sa peaksid laskma kellelgi teisel tugitoolil psühhologeerida, kuidas need kaks asja saavad elada samades inimestes, kui nad annavad kiireloomulisi hoiatusi, võib-olla panevad varba vahele ja üritavad midagi teha, ja siis nad lihtsalt voldivad kokku ja vaikivad.
Just seepärast võib juhtuda, et selliseid asju hoitakse kirja panemast ja pühitakse vaiba alla ning keegi ei räägi sellest avalikult aastaid hiljem.
Loomulik, vastutav osapool ei oleks siin nende ettevõtete tegevjuhid; need oleksid valitsused. USA-s ehksee on osariikide valitsused, võib-olla föderaalvalitsus.
Kindlasti tahavad need ettevõtted olla globaalsed. Siin on palju globaalseid mõjusid. Vaatasin, kuidas OpenAI, Google ja Anthropic sundisid Bideni administratsiooni tehisintellekti korraldust välja andma. See oli lõpuks üsna hambutu. See lihtsalt ütles, et nad peavad rääkima, milleks nende mudelid on võimelised, ja vabastama mõned ohutustestid. Ja siis nad kõik toetasid Trumpi ja Trump astus sisse ja pühkis selle kõik ära ning ütles: "Peame olema konkurentsivõimelised. See on kõigile tasuta. Laske käia."
Samal ajal püüavad nad kõik koguda raha Lähis-Ida riikidest, millel on palju naftaraha ja kes soovivad oma majandust muuta. Need on poliitikud. Ma tunnen, et poliitikud peaksid kindlasti aru saama, et keegi räägib kahest suust, ja nad ei lähe liiga ärritunuks, kui keegi lõpuks pettub, kuid poliitikuid hakatakse ka ujuma. Miks sa arvad, et see nii on?
Ma arvan, et see on tõesti põhjus, miks see tükk on minu arvates oluline ja miks tasus kogu selle aja ja detailide peale kulutada. Oleme keskkonnas, kus süsteemid, mis, nagu te ütlete, peaksid pakkuma järelevalvet, on lihtsalt tühjad. See on post-Citizens United America, kus raha liikumine on nii piiramatu ja see probleem on eriti koondunud tehisintellekti ümber, kus on need PAC-id, mis vohavad ja ujutavad raha üle nii osariigi kui ka föderaalse tasandi mõtestatud regulatsiooni tühistamiseks.
Teil on [OpenAI kaasasutaja] Greg Brockman, Sami teine juhataja, kes annab mõnele neist otseselt olulise panuse. See viib olukorrani, kus seadusandjad ja potentsiaalsed reguleerijad on tõesti haaratud ning sellest on raske välja tulla. Kurb on see, et ma arvan, et on olemas lihtsad poliitilised meetmed, millest mõnda proovitakse mujal maailmas, mis aitaksid mõningaid neid vastutusprobleeme lahendada.
Teil võiks olla rohkem kohustuslikku kasutuselevõtueelset ohutustesti, mida Euroopas juba eesliinimudelite puhul tehakse. Teil võiksid olla rangemad kirjalikud avaliku registri nõuded selliste sisejuurdluste jaoks, mille puhul nägime, et antud juhul hoiti asju kirjalikult välja. Teil võiks olla tugevam riikliku julgeoleku läbivaatamise mehhanismide komplekt selliste Lähis-Ida infrastruktuuri ambitsioonide jaoks, mida Sam Altman õhutas.
Nagu te ütlete, tegi ta seda sööta ja vahetas Bideni administratsiooniga, öeldes: "Reguleerige meid, reguleerige meid" ja aitas neil koostada korraldust, ja siis hetkel, kui Trump siseneb, tõesti esimestel päevadel, lihtsalt ilma takistusteta, "Kiirendame ja ehitame Abu Dhabisse tohutu andmekeskuse ülikoolilinnak." See on tõesti lihtne, nagu vilepuhujate kaitsed. Ei ole föderaalset seadust, mis kaitseks tehisintellekti ettevõtte töötajaid, kes avalikustavad seda tüüpi ohutusprobleeme, mida selles artiklis eetrisse tuuakse.
Meil on juhtumeid, kus Jan Leike, kes oli OpenAI vanemohutusmees, juhtis ettevõttes superviimist. Ta kirjutab juhatusele sisuliselt vilepuhuja materjalist, öeldes, et ettevõte läheb oma ohutusülesande täitmisel rööpast välja. Need on seda tüüpi inimesed, kellel peaks tegelikult olema järelevalveasutus, kuhu nad saaksid pöörduda, ja neil peaks olema selgesõnaline kohustuslik kaitse, nagu me näeme teistes sektorites. Sarbanesi-Oxley stiilis režiimi on lihtne korrata.
Ma arvan, et hoolimata sellest, kui terav on Silicon Valley probleem kõigi võimuhoobade üle kontrolli alla võtmisega ja hoolimata sellest, kui õõnsad on mõned järelevalvet ja kaitsepiire tagavad institutsioonid, usun ma siiski demokraatia ja omakasupüüdlike poliitikute matemaatikasse. Üha enam ilmneb küsitlusandmeid, mille kohaselt enamik ameeriklasi arvab, et tehisintellektiga seotud mured, küsimused või riskid kaaluvad praegu üles kasu.
Nii et ma arvan, et tehisintellekti raha tulvamine poliitikasse on meie kõigi võimuses muuta see poliitikute jaoks küsimärgi allikaks. Kui ameeriklased hääletama lähevad, peaksid nad kontrollima, kas inimesed, kelle poolt nad hääletavad, eriti kui nad on kriitilised ja regulatsioonivastased, on kõiki neid muresid arvesse võttes rahastatud suurte tehnoloogiliste erihuvide poolt. Nii et ma arvan, et kui inimesed saavad lugeda selliseid lugusid, kuulata selliseid taskuhäälingusaateid ja hoolivad piisavalt, et kriitiliselt mõeldaNende kui valijate otsuste puhul on reaalne võimalus tekitada Washingtonis esindajate ringkond, kes jälgib ja sunnib järelevalvet.
See võib olla üks optimistlikumaid asju, mida ma praeguse AI tööstuse kohta kunagi kuulnud olen. Ma hindan seda. Olen kinnisideeks küsitlusest, millest te räägite. Praegu on seda palju. See kõik on üsna järjekindel ja tundub, et mida rohkem noori inimesi tehisintellektiga kokku puutuvad, seda umbusklikumad ja vihasemad nad selle pärast on. See on kogu küsitluse valents. Ja ma vaatan seda ja arvan, et noh, jah, targad poliitikud jookseksid sellele lihtsalt vastu. Nad ütleksid lihtsalt: "Me võtame suurtehnoloogia vastutusele."
Siis mõtlen viimase 20 aasta peale, poliitik, kes ütles, et nad hakkavad suuri tehnoloogiaid vastutama, ja mul on raskusi, et leida kasvõi üks hetk, mil suurtehnoloogia oleks vastutusele võetud. Ainus, mis paneb mind arvama, et see võib olla teistsugune, on see, et tegelikult peate üles ehitama andmekeskused ja te saate selle vastu hääletada ja selle vastu esitada petitsiooni ja protestida selle vastu.
Ma arvan, et on poliitik, kelle maja tulistati just seetõttu, et nad hääletasid andmekeskuse poolt. Pinge ulatub, ma nimetaksin seda, palavikuni. Olete kirjeldanud Silicon Valley saarelisust. See on suletud ökosüsteem. Tundub, et nad arvavad, et suudavad maailma juhtida. Nad panevad poliitikasse palju raha ja lähevad vastu tegelikkusele, et inimesed ei armasta tooteid, mis ei anna neile palju katet. Mida rohkem nad tooteid kasutavad, seda rohkem nad on ärritunud ja poliitikud hakkavad nägema, et tehnoloogiatööstuse toetamisel on tegelikud tagajärjed inimeste ees, keda nad esindavad.
Olete rääkinud nii paljude inimestega. Kas arvate, et tehnoloogiatööstusel on võimalik õppida õppetundi, mis nende ees on?
Ütlete, et tundub, et nad arvavad, et suudavad maailma juhtida ilma vastutuseta. Ma isegi arvan, et see ei vaja kvalifikatsiooni „tunneb nagu”. Ma mõtlen, et kui vaatate keelt, mida Peter Thiel kasutab, on see selgesõnaline. Muidugi, see on äärmuslik näide. Ja kuigi Sam Altman on Thieli ideoloogiaga mingil määral lähedane ja sellest teadlik, on ta hoopis teist tüüpi inimene, kes võib kõlada teistmoodi ja teatud punktini mõõdetavamalt.
Kuid ma arvan, et laiem ideoloogia, mille saate Thielilt, mis on põhimõtteliselt järgmine: oleme demokraatiaga läbi, me ei vaja seda enam. Meil on nii palju, et tahame lihtsalt oma väikseid punkriid ehitada. Me ei tegele enam Carnegie'de ega Rockefelleritega, kus nad on pahad poisid, kuid nad tunnevad, et peavad osalema ühiskondlikus lepingus ja looma asju inimeste jaoks. Seal on tõeline nihilism, mis on sisse seatud.
Ja ma arvan, et Ameerika hiljutises ajaloos on see lihtsalt üksteist tugevdav spiraal, kus mogulite ja eraettevõtete valitsus on omandanud ülivõimsa võimu, samal ajal kui demokraatlikud institutsioonid, mis võivad neid vastutusele võtta, on õõnestatud. Ma ei tunne end optimistlikult idee suhtes, et need tüübid võivad ühel päeval lihtsalt ärgata ja mõelda: "Huh, võib-olla peame osalema ühiskonnaelus ja aitama inimeste jaoks asju luua."
Ma mõtlen, et te vaatate nagu mikrokosmiline näide filmist The Giving Pledge, kus oli hetk, kus see näis olevat heategevuslik, ja see hetk on nüüd möödas ja isegi naeruvääristatud. See on probleem, vastutuse puudumise laiem probleem, mida saab minu arvates lahendada ainult väliselt. See peab olema valijate mobiliseerimine ja valitsuse järelevalve võimu taaselustamine. Ja teil on täpselt õigus öelda, et peamine vektor, mille kaudu inimesed võivad seda saavutada, on kohalik. See on seotud infrastruktuuri ehitamisega.
Mainisite mõnda selle ümber valitsevat kuumust pinget, mis viib vägivalla ja ähvardusteni, ning ilmselgelt ei tohiks keegi olla vägivaldne ega ähvardav. Ja ma ei ole siin ka selleks, et anda konkreetseid poliitilisi soovitusi, vaid lihtsalt tutvustada mõningaid poliitikameetmeid, mis tunduvad elementaarsed ja toimivad mujal maailmas, eks? Või need, kes on töötanud muudes sektorites. Ma ei ole siin selleks, et öelda, milline neist tuleks täide viia ja kuidas.
Ma arvan, et midagi peab juhtuma ja see peab olema väline, mitte ainult neid ettevõtteid usaldama. Sest õigeNüüd on meil olukord, kus ettevõtted, kes arendavad tehnoloogiat ja on kõige paremini varustatud riskide mõistmiseks ja tegelikult hoiatavad meid riskide eest, on ka need, kellel pole muud kui stiimulit kiiresti minna ja neid riske ignoreerida. Ja teil pole lihtsalt midagi selle vastukaaluks. Nii et mis iganes reformid konkreetselt ka ei võtaks, peab midagi sellele vastu minema. Ja ma pöördun endiselt tagasi selle optimismi juurde, et inimesed on endiselt olulised.
Üldiselt ma ostan teie argumenti. Lubage mul esitada vaid üks pisike vastuargument, mida ma arvan, et suudan sõnastada. Teine asi, mis võib juhtuda väljaspool valimiskasti, on see, et mull hüppab, eks? Kõik need ettevõtted ei jõua finišisse ja tarbijate tehisintellekti rakenduste jaoks ei sobi tooteturg. Ja jällegi, ma ei näe seda veel päris täpselt, kuid olen tarbijatehnoloogia ülevaataja ja võib-olla on mul lihtsalt kõrgemad standardid kui kõigil teistel.
Ärimaailmas on tooteturu sobivus, eks? Tundub, et nende tööriistade jaoks on tõeline turg, kui palju tehisintellekti agente kirjutab hulga tarkvara. Ja võite lugeda nende ettevõtete argumente, öeldes: "Oleme lahendanud kodeerimise ja see tähendab, et saame lahendada kõike. Kui suudame tarkvara teha, saame lahendada kõik probleemid."
Arvan, et tarkvaral on tõelised piirid. See on ärimaailmas suurepärane. Tarkvara ei suuda tegelikkuses kõiki probleeme lahendada, kuid nad peavad selleni jõudma. Nad peavad töö lõpetama ja võib-olla ei jõua kõik finišisse. Ja toimub krahh ja see mull hüppab ja võib-olla OpenAI või Anthropic või xAI, üks neist ettevõtetest ebaõnnestub ja kogu see investeering kaob.
Kas arvate, et see mõjutaks seda? Tegelikult lubage mul kõigepealt esitada esimene küsimus. OpenAI on otse IPO tipus. Sami kui juhi suhtes on palju kahtlusi. Kas arvate, et nad jõuavad finišisse?
Ma ei hakka ennustama, kuid arvan, et tõstatate esile olulise punkti, milleks on see, et turustiimulid on Silicon Valley jaoks sisemiselt olulised ja praeguse mulli dünaamika ebakindlus võib kriitikute sõnul jällegi katkestada ohutusega seotud võidujooksu.
Lisaksin sellele veel, et kui vaadata ajaloolist tähtsust, kus on sarnaselt ja näiliselt läbitungimatute turustiimulite kogum ja potentsiaalselt avalikkusele kahjulik mõju, on mõjuga seotud kohtuvaidlused. Ja te näete seda viimasel ajal murekohana. Sam Altman toetab sel nädalal õigusakte, mis kaitseksid tehisintellekti ettevõtteid teatud tüüpi vastutuse eest, mis OpenAI-le on sattunud näiteks ebaseaduslike surmajuhtumite korral. Loomulikult soovitakse seda vastutuse eest kaitsta.
Ma arvan, et kohtud võivad siiski olla mõttekas mehhanism ja on tõesti huvitav näha, kuidas need ülikonnad kujunevad. Olete juba näinud näiteks ühishagi, mille liikmed olen mina ja paljud, paljud teised autorid, keda ma tean, Anthropicu vastu autoriõigustega kaitstud raamatute kasutamise eest. Kui leidub nutikaid juristid ja kaebajaid, kes hoolivad, nagu oleme ajalooliselt näinud juhtumite puhul alates suurest tubakast kuni suure energiani, võite saada ka mõningaid kaitsepiirdeid ja stiimuleid, et sel viisil kiirust maha võtta, olla ettevaatlik või kaitsta inimesi.
Tundub, et kogu tehisintellektitööstuse kulustruktuur sõltub õiglase kasutamise väga-väga heategevuslikust tõlgendusest. Ei tule piisavalt esile. Nende ettevõtete kulustruktuur võib kontrolli alt väljuda, kui nad peavad maksma teile ja kõigile teistele, kelle töö nad on võtnud, kuid sellele on ebamugav mõelda, nii et me lihtsalt ei mõtle sellele. Selle kõrval töötavad kõik need tooted nüüd kahjumis. Nagu täna, on nad kõik kahjumis. Nad põletavad rohkem raha, kui suudavad teenida. Mingil hetkel peavad nad lülitit ümber keerama.
Sam on ärimees. Nagu olete korduvalt maininud, pole ta tehnoloog. Ta on äriinimene. Kas arvate, et ta on valmis lülitit ümber keerama ja ütlema: "Me teeme dollari?" Sest kui ma küsin: "Kas sa arvad, et OpenAI saab hakkama?" See on siis, kui nad peavad teenima dollari. Ja siiani on Sam teeninud kõik oma dollarid sellega, et küsis teistelt inimestelt raha selle asemel, et lasta oma ettevõtetel raha teenida.
Noh, see on Silicon Valley, investorite ja avalikkuse jaoks suur püsiv küsimus.Näete OpenAI-st mõningaid avaldusi ja väljaminekuid, mis näivad viitavat teatud paanikale. Sora sulgemine, mõnede kõrvalprojektide sulgemine, põhitoote nullimine. Kuid teisest küljest näete ikkagi samal ajal palju missioonide hiilimist, eks? Isegi väike näide – see pole ilmselgelt nende äritegevuse tuum – on TBPN-i omandamine.
Muide, just siis, kui jõudsime finišisse ja faktide kontrolli, omandab sedalaadi ajakirjandusliku kontrolliga silmitsi seisev ettevõte platvormi, kus nad saavad vestlust otsesemalt kontrollida. Ma arvan, et paljud investorid tunnevad minu peetud vestluste põhjal muret, et kõigile inimestele kõike lubamise probleem laieneb ka sellele keskendumatusest põhiärimudelis. Ja ma mõtlen, et sa oled sellisele ennustamisele ja turu jälgimisele lähemal kui mina. Jätan teie ja kuulajate otsustada, kas nende arvates suudab OpenAI lülitit ümber pöörata.
Noh, ma esitasin selle küsimuse, kuna teil on tsitaat Microsofti kõrgemalt juhilt ja see tähendab, et "Sami pärand võib lõpuks sarnaneda pigem Bernie Madoffi või Sam Bankman-Friedi omaga", mitte Steve Jobsiga. See on päris võrdlus. Mida sa sellest võrdlusest arvasid?
Ma arvan, et see on parafraas. Steve Jobsi osa ei olnud tsitaadi osa. Kuid selles on huvitav kainuse tüüp, sest see on sõnastatud järgmiselt: "Ma arvan, et on väike, kuid reaalne võimalus, et temast saab SBF või Madoffi tasemel pettur." See tähendab minu meelest mitte seda, et Samit süüdistatakse nendes teatud tüüpi pettustes või kuritegudes, vaid seda, et Sami moonutamise ja petmise aste võib lõpuks jääda sellisel määral meelde.
Jah, ma arvan, et ausalt öeldes on selle tsitaadi juures kõige silmatorkavam see, et helistate Microsofti ja teile ei anta meeldimist: "See on hull. Me pole seda kunagi kuulnud." Sa saad palju nagu: "Jah, paljud inimesed siin arvavad nii", mis on tähelepanuväärne. Ja ma arvan, et see puudutab neid mutreid ja polte äriküsimusi.
Üks investor ütles mulle näiteks selle valguses, kuidas see omadus on vallandamise järgsetel aastatel püsinud” – ja see oli ka huvitav kaine mõte –, et Sam ei pruugi olla edetabeli absoluutses lõpus, nagu peaks olema madalaim inimeste arvu poolest, kes seda tehnoloogiat ei tohi absoluutselt põhja ehitada, sest võib-olla on see Musk, kes on seda väärt. inimeste loendist, kes peaksid AGI-d ehitama, ja mitmete teiste selle valdkonna juhtivate tegelaste all.
Nii et ma arvasin, et see oli huvitav hinnang ja ma arvan, et see on selline mõtlemine, mille saate tõelistelt pragmaatikutelt, kes võib-olla ei suhtu ohutusprobleemidesse nii palju. Nad on lihtsalt kasvule orienteeritud ja arvavad, et OpenAI-l on nüüd Sam Altmaniga probleem.
Microsofti tükk on tõesti huvitav. See ettevõte arvas, et nad on maailma tipus. Et nad tegid selle investeeringu ja hüppavad kõik, eriti ja mis kõige tähtsam, Google, ning saavad tagasi tarbijate headuse. Taset, milleni nad end sellest seiklusest põletanud tunnevad – see on väga kainelt juhitud ettevõte –, ma arvan, et ei saa üle hinnata.
Mainisite tegelasi ja isiksuseomadusi. Tahan siinkohal lõpetada meie kuulajate küsimusega. Ütlesin meie teises saates The Vergecast, et kavatsen teiega rääkida, ja ütlesin: "Kui teil on Ronanile selle loo kohta küsimusi, andke mulle teada." Nii et meil on siin üks, mis minu arvates on teie kirjeldatuga täpselt kooskõlas. Ma lihtsalt loen selle teile ette:
„Kuidas erinevad Altmani ja teiste tehisintellekti juhtide halva käitumise õigustused, õigustused, mida Ronan on kuulnud teistelt kõrgetasemelistelt poliitika- ja meediajuhtidelt? Kas nad kõik ei õigusta oma tegusid sellega, et maailm muutub nii? Kui mina seda ei tee, teeb seda keegi teine?"
Jah, seda liigub palju. Ma ütleksin, et tehisintellektile on omane see, et eksistentsiaalsed panused on nii ainulaadselt kõrged, et mõlemad riskiavaldused on äärmuslikud, eks? Sul on Sam Altmanöeldes: "See võib meile kõigile tuled kustutada." Ja ka kriitikud võivad öelda, et maania, millele küsija viitab, on äärmuslik, eks?
Asi, milles Sam Elonit salvestusel süüdistas, oli see, et võib-olla tahab ta inimkonda päästa, kuid ainult siis, kui see on tema. Selline võita tahtmise egokomponent, mida Sam kasutab kogu aeg ja mis on ajalooraamatute jaoks üks, võib see kõike muuta. Seega, isegi lisaks enamiku Silicon Valley ettevõtete mõtteviisile "peate murdma paar muna", on mõnede tehisintellekti juhtivate tegelaste meelest igasugune ja kõigi tagajärgede täielik ratsionaliseerimine.
Ja unusta munade purustamine. Ma arvan, et paljud selle aluseks olevad ohutusteadlased ütlevad, et see on potentsiaalne oht purustada riik, purustada maailm ja murda miljoneid inimesi, kelle töö ja ohutus on kaalul – see on selle ainulaadne omadus. Siinkohal ma lõpetan, mõtiskledes selle aruandluse üle ja usun, et see on rohkem kui Sam Altman. See puudutab tööstust, mis on piiramatu, ja Ameerika ei suuda seda piirata.
Jah. Noh, meil oli seal veidi optimismi, kuid ma arvan, et see on hea koht, kust see lahkuda.
[Naerab] Lõpp madalal tasemel.
Muidugi. See on tõesti iga suurepärane lugu. Musk-Altmani kohtuprotsess on tulemas. Ma arvan, et me õpime siin palju rohkem. Ma kahtlustan, et tahan sinuga uuesti rääkida. Ronan Farrow, tänan teid väga, et olete dekooderis.
Aitäh.
Kas teil on selle episoodi kohta küsimusi või kommentaare? Kirjutage meile aadressil [email protected]. Me tõesti loeme iga meili!
