Tänään Decoderissa puhun Ronan Farrow'n kanssa, joka on yksi parhaista tutkivan raportoinnin tähdistä. Hän rikkoi Harvey Weinsteinin tarinan monien, monien muiden joukossa. Ja juuri viime viikolla hän ja toinen kirjoittaja Andrew Marantz julkaisivat The New Yorkerissa uskomattoman syvän sukellusominaisuuden OpenAI:n toimitusjohtajasta Sam Altmanista, hänen luotettavuudestaan ja itse OpenAI:n noususta.
Yksi huomautus ennen kuin menemme pidemmälle: New Yorker julkaisi tämän tarinan, ja Ronan ja minä kävimme tämän keskustelun ennen kuin tiesimme Altmanin kotiin kohdistuneiden hyökkäysten laajuuden, joten et kuule meidän puhuvan siitä suoraan. Mutta sanon vain sen, että kaikenlaista väkivaltaa ei voida hyväksyä, nämä hyökkäykset Samia vastaan olivat mahdottomia hyväksyä, ja että ihmisten tuntemaa avuttomuutta, joka johtaa tällaiseen väkivaltaan, ei voida hyväksyä, ja se on paljon enemmän tarkastelun arvoinen sekä alan että poliittisten johtajiemme taholta. Toivottavasti asia on selvä.
Verge-tilaajat, älä unohda, että saat yksinoikeudella pääsyn ilman mainoksia dekooderiin kaikkialla, missä saat podcastisi. Suuntaa tänne. Etkö ole tilaaja? Voit ilmoittautua tästä.
Kaiken kaikkiaan Altmanin ympärillä pyörii paljon, mikä on reilu peli tiukan raportoinnin suhteen – sellaiseen raportointiin, jonka Ronan ja Andrew aikoivat tehdä. ChatGPT:n suosion ansiosta Altman on noussut tekoälyteollisuuden näkyvimmäksi hahmoksi, kun hän on muuttanut kerran voittoa tavoittelemattoman tutkimuslaboratorion lähes biljoonan dollarin yksityisyritykseksi muutamassa vuodessa. Mutta myytti Altmanista on syvästi ristiriitainen, ja sen määrittelee yhtä lailla hänen ilmeinen kaupantekokykynsä että hänen raportoitu taipumus… no valehdella kaikille ympärillään.
Tarina on yli 17 000 sanaa pitkä, ja se sisältää kiistatta lopullisen selonteon siitä, mitä tapahtui vuonna 2023, kun OpenAI:n hallitus äkillisesti erotti Altmanin väitetyn valehtelun vuoksi, mutta hänet palkattiin lähes välittömästi uudelleen. Se on myös syvä sukellus Altmanin henkilökohtaiseen elämään, hänen sijoituksiinsa, Lähi-idän rahan seurustelemiseen ja hänen omiin pohdiskeluihinsa hänen menneisyydestään ja luonteensa piirteistä, jotka saivat yhden lähteen sanomaan, että "totuus ei rajoita häntä". Suosittelen todella lukemaan koko tarinan; Epäilen, että siihen viitataan vielä monta vuotta.
Ronan puhui Altmanin kanssa monta kertaa niiden 18 kuukauden aikana, jotka hän käytti raportoidessaan tätä teosta, ja siksi yksi tärkeimmistä asioista, joista olin utelias, oli, aistiko hän muutoksia Altmanissa tuona aikana. Loppujen lopuksi paljon on tapahtunut tekoälyssä, tekniikassa ja maailmassa viimeisen puolentoista vuoden aikana.
Kuulet Ronanin puhuvan siitä hyvin suoraan, samoin kuin hänen käsityksensä siitä, että ihmiset ovat tulleet paljon halukkaammiksi puhumaan Altmanin kyvystä laajentaa totuutta. Ihmiset alkavat pohtia ääneen ja levyllä, onko Altmanin kaltaisten ihmisten käyttäytyminen huolestuttavaa, ei vain tekoälyn tai tekniikan vaan myös yhteiskunnan kollektiivisen tulevaisuuden kannalta.
Okei: Ronan Farrow Sam Altmanista, tekoälystä ja totuudesta. Tässä mennään.
Tätä haastattelua on muokattu kevyesti pituuden ja selkeyden vuoksi.
Ronan Farrow, olet tutkiva toimittaja ja The New Yorkerin avustaja. Tervetuloa Dekooderiin.
Kiva olla täällä. Kiitos, että sain minut.
Olen erittäin innoissani voidessani keskustella kanssasi. Kirjoitit juuri suuren teoksen The New Yorkeriin. Se on Sam Altmanin profiili ja tavallaan OpenAI. Luin siitä, että kuten kaikki hienot ominaisuudet tekevät, se tiukan raportoinnin kanssa vahvistaa monia tunteita, joita ihmisillä on ollut Sam Altmania kohtaan hyvin pitkään. Olet ilmeisesti julkaissut sen, olet saanut siihen reaktioita. Miltä sinusta tuntuu tällä hetkellä?
No, olen itse asiassa rohkaissut sitä, kuinka paljon se on murtunut aikana, jolloin huomiotalous on niin skitsofreenistä ja pinnallista. Tämä on tarina, joka mielestäni koskettaa meitä kaikkia. Ja kun vietin puolitoista vuotta elämästäni, ja myös kirjoittajani Andrew Marantz vietti tuon aikansa yrittäen todella tehdä jotain rikosteknistä ja huolellista, se johtuu aina siitä, että minusta tuntuu, että on olemassa suurempia rakenteellisia ongelmia, jotka vaikuttavat ihmisiin tarinan ytimessä olevan yksilön ja yrityksen ulkopuolella.
Sam Altman, taustalla Piilaakson hype-kulttuuri ja startupit, jotka nousevat massiivisiin arvostuksiin, jotka perustuvat lupauksiin, jotka saattavat toteutua tulevaisuudessa tai eivät, ja perustajakulttuurin lisääntyvä omaksuminen, jonka mielestä eri ryhmien erilaisten ristiriitaisten asioiden kertominen on ominaisuus, eibugi… Jopa tuota taustaa vasten Sam Altman on poikkeuksellinen tapaus, jossa kaikki Piilaaksossa, jotka odottavat näitä asioita, eivät voi lakata puhumasta tästä kysymyksestä hänen luotettavuudestaan ja rehellisyydestään.
Tiesimme jo, että hänet erotettiin jostain epärehellisyydestä tai sarjasta väitetystä valehtelusta. Mutta poikkeuksellista, huolimatta siitä, että on tehty upeita raportteja, Keach Hagey on tehnyt hienoa työtä tämän parissa. Karen Hao on tehnyt hienoa työtä tässä. Varsinaisista väitetyistä todisteista ja syistä, miksi ne ovat jääneet julkisuuden ulkopuolelle, ei todellakaan ollut lopullista käsitystä.
Joten kohta numero yksi on se, että tunnen oloni rohkaisevaksi siitä tosiasiasta, että jotkut julkisen tietämyksen aukoista ja jopa Piilaakson sisäpiiriläisten tiedosta on nyt täytetty hieman enemmän. Joitakin syitä aukkojen esiintymiseen on täytetty hieman enemmän.
Raportoimme tapauksista, joissa tämän yrityksen sisällä olevat ihmiset todella kokivat, että asioita oli salattu tai niitä ei tarkoituksella dokumentoitu. Yksi tämän tarinan uusista asioista on WilmerHalen keskeinen asianajotoimiston tutkinta, joka on ilmeisesti hieno, uskottava, iso asianajotoimisto, joka teki Enronin ja WorldComin tutkimuksia, jotka muuten olivat kaikki laajoja, kuten satoja sivuja julkaistu. WilmerHale teki tämän tutkimuksen, jota Altmanin eroamisen edellytyksenä vaativat hallituksen jäsenet, ja hän tuli takaisin. Ja poikkeuksellista - monien lakiasiantuntijoiden silmissä, joiden kanssa puhuin, ja hämmästyttävän monien tämän yrityksen ihmisten silmissä - he pitivät sen kirjoittamatta. Siitä paljastui vain 800 sanan pituinen OpenAI:n lehdistötiedote, joka kuvaili tapahtunutta luottamuksen hajoamiseksi. Ja vahvistimme, että tämä pidettiin suullisissa tiedotustilaisuuksissa.
On tapauksia, joissa esimerkiksi hallituksen jäsen näennäisesti haluaa äänestää OpenAI:n alkuperäisen voittoa tavoittelemattoman muodon muuntamista voittoa tavoittelevaksi yhteisöksi, ja se kirjataan pidättäytymisenä. Kokouksessa on kuin lakimies sanoisi: "No, se voi laukaista liikaa tarkastelua." Ja henkilö, joka haluaa äänestää vastaan, kirjataan pidättyväksi kaikesta esiintymisestä. Asiasta on kiistaa. OpenAI väittää toisin, kuten saatat kuvitella. Nämä ovat kaikki tapauksia, joissa sinulla on yritys, joka omalla vastuullaan pitää tulevaisuutemme käsissään.
Turvallisuuspanokset ovat niin akuutit, etteivät ne ole kadonneet. Tästä syystä tämä yritys perustettiin voittoa tavoittelemattomaksi järjestöksi, joka keskittyi turvallisuuteen ja jossa asiat hämärtyivät niin, että uskottavat ihmiset ympärillä pitivät sitä vähemmän kuin ammattimaisena. Ja yhdistät sen taustaan, jossa on niin vähän poliittista halukkuutta järkevään sääntelyyn. Minusta se on erittäin syttyvä tilanne.
Minusta pointti ei ole vain siinä, että Sam Altman ansaitsee nämä kysymykset niin akuutisti. On myös se, että kenellä tahansa näistä tämän alan tyypeistä ja monista avainhahmoista, ellei tämä erityinen, väitetty kaiken aikaa valehteleva piirre, varmasti jonkinasteinen kilpajuoksu-mentaliteetti, jossa turvamiehiä ovat vesittäneet nämä sitoumukset ja jokainen on kilpailussa.
Luulen, että kun tarkastelemme Anthropicin viimeaikaisia vuotoja, on olemassa henkilö, joka kysyy, kenen pitäisi olla napin päällä tässä kappaleessa. Vastaus on, että jos meillä ei ole mielekästä valvontaa, meidän on mielestäni esitettävä vakavia kysymyksiä ja pyrittävä tuomaan esiin mahdollisimman paljon tietoa kaikista näistä kavereista. Joten olen rohkaissut sitä, mikä tuntuu merkitykselliseltä keskustelulta siitä tai sellaisen alusta.
Syy, miksi kysyin sitä tällä tavalla, on se, että työskentelit tämän parissa puolitoista vuotta. Puhuit varmaan 100 ihmisen kanssa kirjoittajasi Andrew'n kanssa. Se on pitkä aika tarinan keittämiseen. Ajattelen erityisesti tekoälyn viimeistä puolitoista vuotta, ja pojat, ovat kaikkien näiden hahmojen asenteet ja arvot muuttuneet hyvin nopeasti.
Ehkä ei sen enempää kuin Sam Altman, joka aloitti oletusvoittajana, koska he olivat julkaisseet ChatGPT:n ja kaikki ajattelivat, että se ottaisi vain Googlen vallan. Ja sitten Google vastasi, mikä näytti yllättävän heidät, että Google yrittää suojella liiketoimintaansa, joka on ehkä yksi parhaista yrityksistä tekniikan historiassa, ellei yrityshistoriassa. Anthropic päätti keskittyä yritykseen. Se näyttää ottavan hallitsevaa johtoakoska tekoälyn yrityskäyttö on niin korkea.
Nyt OpenAI keskittyy uudelleen tuotteensa pois "otamme vastaan Googlen" Codexiin, ja he ottavat yrityksen vastaan. En vain osaa sanoa, ovatko hahmot, joiden kanssa puhuit, muuttuneet viimeisen puolentoista vuoden aikana raportoinnin aikana? Muuttuivatko ne, kuten heidän asenteensa ja arvonsa?
Kyllä. Luulen ensinnäkin, että tässä artikkelissa tutkittu kritiikki, joka tulee monilta näissä yrityksissä tällä hetkellä olevilta ihmisiltä - että tämä on toimiala, joka eksistentiaalisista panoksista huolimatta on laskeutumassa jonkinlaiseen kilpailuun turvallisuuden pohjalta ja jossa nopeus päihittää kaiken muun - tämä huoli on pahentunut. Ja uskon, että nämä huolenaiheet ovat vahvistuneet, kun viimeinen puolitoista vuotta on käynyt ilmi. Samaan aikaan asenteet Sam Altmaniin ovat erityisesti muuttuneet. Kun aloimme puhua lähteiden kanssa tästä, ihmiset olivat todella, todella ilkeitä, kun heitä lainattiin tästä ja kirjoitettiin tästä.
Raportointimme loppuun mennessä sinulla on raportteja, joissa ihmiset puhuvat tästä hyvin avoimesti ja selkeästi, ja sinulla on hallituksen jäseniä, jotka sanovat esimerkiksi: "Hän on patologinen valehtelija. Hän on sosiopaatti." On olemassa erilaisia näkökulmia: "Tämä on vaarallista, kun otetaan huomioon turvallisuuspanokset, ja tarvitsemme tämän tekniikan johtajia, joilla on korkea rehellisyys", aina seuraavaan: "Unohda turvallisuuspanokset, tämä on käyttäytymistä, joka on kestämätön kenellekään suuren yrityksen johtajalle, ja se aiheuttaa vain liikaa toimintahäiriöitä."
Joten keskustelusta on tullut paljon selkeämpi tavalla, joka tuntuu ehkä myöhäiseltä, mutta on jossain mielessä rohkaisevaa. Ja Sam Altman, hänen kunniakseen… Teos on erittäin oikeudenmukainen ja jopa antelias, sanoisin, Samille. Tämä ei ole sellainen kappale, jossa oli paljon "sain sinut" -tavaraa. Vietin monta, monta tuntia puhelimessa hänen kanssaan, kun olimme lopettamassa tätä ja todella kuulimme hänet.
Kuten voitte kuvitella, tällaisessa kappaleessa kaikki ei pääse mukaan. Jotkut näistä tapauksista johtuivat siitä, että kuuntelin vilpittömästi. Ja jos Sam todella väitti, että minusta tuntui olevan vettä, että jokin, vaikka se olisikin totta, voisi olla sensaatiohakuista, erehdyin todella pitäessäni tätä oikeuslääkettä ja mitattuna. Joten uskon, että se otetaan vastaan oikein, ja toivon vain, että tämä tämän ajanjakson aikana kertynyt tosiasiallinen ennätys voi laukaista voimakkaamman keskustelun valvonnan tarpeesta.
Se on oikeastaan seuraava kysymykseni. Luulen, että puhuit Samin kanssa kymmeniä kertoja tämän tarinan raportoinnin aikana. Jälleen kerran, se on paljon keskusteluja pitkän ajan kuluessa. Luulitko Sam muuttuneen raportoinnin aikana viimeisen puolentoista vuoden aikana?
Joo. Mielestäni yksi mielenkiintoisimmista alajuomista tässä on se, että Sam Altman puhuu myös tästä piirteestä selkeämmin kuin aiemmin. Samin asento tässä teoksessa ei ole sellainen: "Siellä ei ole mitään, tämä ei ole totta; en tiedä mistä puhut." Hänen asentonsa on se, että hän sanoo tämän johtuvan ihmisten miellyttämisestä ja eräänlaisesta konfliktien vastenmielisyydestä. Hän myöntää, että se aiheutti hänelle ongelmia, etenkin uransa alussa.
Hän sanoo: "No, olen siirtymässä sen ohi tai olen jossain määrin siirtynyt sen ohi." Luulen, että minua kiinnostaa todella se joukko ihmisiä, joiden kanssa keskustelimme ja jotka eivät olleet vain eräänlaisia turvallisuuden puolestapuhujia, eivät vain taustalla olevia teknisiä tutkijoita, joilla on usein näitä akuutteja turvallisuusongelmia, vaan myös pragmaattisia, suuria sijoittajia. He ovat Samin tukijoita, jotka joissakin tapauksissa katsovat tätä kysymystä ja puhuvat jopa avainroolistaan hänen paluussaan ampumisen jälkeen. Nyt tähän kysymykseen, onko hän uudistunut ja missä määrin tämä muutos on mielekästä, he sanovat: "No, annoimme hänelle tuolloin epäilyksen edun."
Ajattelen erityisesti erästä merkittävää sijoittajaa, joka sanoi: "Mutta sen jälkeen näyttää selvältä, ettei häntä ole viety puuvajan taakse", jota tämä käytti siinä määrin kuin oli tarpeen. Tämän seurauksena näyttää siltä, että tämä on nyt vakaa ominaisuus. Näemme tämän jatkuvalla tavalla. Voit katsoa joitain OpenAI:n suurimmista yrityksistäsuhteet ja tapa, jolla ne kantavat jatkuvasti tuon epäluottamuksen painon.
Kuten Microsoftin kanssa, puhut siellä olevien johtajien kanssa, ja heillä on todella akuutteja ja äskettäin katalysoituja huolenaiheita. On tämä tapaus, jossa samana päivänä OpenAI vahvistaa yksinoikeutensa Microsoftin kanssa taustalla olevien valtiottomien tekoälymallien suhteen, ja se ilmoittaa myös uudesta sopimuksesta Amazonin kanssa, joka koskee tilallisten tekoälyagenttien rakentamiseen tarkoitettujen yritysratkaisujen myyntiä, eli niillä on muistia.
Keskustelet Microsoftin ihmisten kanssa, ja he sanovat: "Se ei ole mahdollista ilman vuorovaikutusta niiden taustalla olevien asioiden kanssa, joista meillä on yksinoikeussopimus." Tämä on siis vain yksi monista pienistä esimerkeistä, joissa tämä piirre on johtanut jatkuvaan liiketoimintaan koko ajan ja on aktiivisen huolen kohteena OpenAI:n hallituksessa, sen johtoryhmässä ja laajemmassa teknologiayhteisössä.
Sanot jatkuvasti tuota "piirrettä". Tarinassa on linja, joka minusta tuntuu opinnäytetyöltä, ja se on kuvaus piirteestä, jota kuvaat. Se johtuu siitä, että "Sam Altmania ei rajoita totuus" ja että hänellä on "kaksi ominaisuutta, joita ei juuri koskaan nähdä samassa henkilössä: ensimmäinen on voimakas halu miellyttää ihmisiä, olla pidetty missä tahansa vuorovaikutuksessa, ja toinen on melkein sosiopaattinen välinpitämättömyys seurauksista, joita jonkun pettäminen voi johtua."
Minun täytyy kertoa teille, että luin tuon lauseen 500 kertaa ja yritin kuvitella, että sanoisin aina, mistä ihmiset halusivat pitää, enkä sitten suuttunu, kun he tunsivat olevansa valehdeltu. Enkä voinut saada tunnetilaani ymmärtämään, kuinka nuo asiat voivat olla olemassa samassa henkilössä. Olet puhunut Samin kanssa paljon, ja olet puhunut ihmisten kanssa, jotka ovat kokeneet näitä piirteitä. Miten hän tekee sen?
Joo. Se on mielenkiintoista inhimillisellä tasolla, koska lähestyn tällaisia raportointielimiä keskittyen todella inhimillistämään sen ytimessä olevia ja etsimään syvää ymmärrystä ja empatiaa. Kun yritin lähestyä asiaa inhimillisemmästä näkökulmasta ja sanoin: "Hei, tämä olisi tuhoisaa minulle, jos niin monet ihmiset, joiden kanssa olen työskennellyt, sanoisivat, että olen patologinen valehtelija. Miten sinä jaksat sitä painoa? Miten puhut siitä terapiassa? Mikä on tarina, jonka kerrot itsellesi siitä?"
Minulla on mielestäni jonkinlaisia, ehkä länsirannikon latteuksia, kuten "Joo, pidän hengitystyöstä." Mutta ei paljon sellaista rohkaisevaa syvän itsensä vastakkainasettelun tunnetta, jota monilla meistä luultavasti olisi, jos saisimme tällaista palautetta käyttäytymisestämme ja ihmisten kohtelusta.
Luulen, että tämä liittyy itse asiassa myös laajempaan kysymykseen. Sam väittää, että tämä piirre on aiheuttanut ongelmia, mutta myös osa sitä, mikä on antanut hänelle voiman nopeuttaa OpenAI:n kasvua niin paljon, että hän pystyy yhdistämään ja miellyttämään erilaisia ihmisryhmiä. Hän vakuuttaa jatkuvasti kaikki nämä ristiriitaiset vaalipiirit, että he välittävät siitä, mistä hän välittää. Ja se voi olla perustajalle todella hyödyllinen taito. Olen puhunut sijoittajien kanssa, jotka sitten sanovat: "No, ehkä se on vähemmän hyödyllinen taito yrityksen johtamiseen, koska se kylvää niin paljon erimielisyyksiä."
Mutta Samin henkilökohtaisella puolella mielestäni asia, jonka huomaan yrittäessäni muodostaa yhteyttä ihmistasolla, on ilmeinen syvemmän vastakkainasettelun, pohdiskelun ja omavastuullisuuden puute, mikä myös kertoo siitä supervoimasta tai vastuusta listautumiseen valmistautuvalle yritykselle.
Hän on joku, joka, erään entisen hallituksen jäsenen, Sue Yoonin sanoin, joka kertoo, että hänen käyttämänsä ilmaisu on "pitämättömyyteen asti" asti, pystyy todella uskomaan myyntipuheidensa muuttuvaan todellisuuteen tai vakuuttamaan itsensä niistä. Tai ainakin jos hän ei usko niitä, hän pystyy räpyttelemään niiden läpi ilman merkityksellistä epäluuloa.
Luulen, että asia, josta puhut, jossa sinä tai minä voisimme, kun sanomme asian ja ymmärrämme, että se on ristiriidassa toisen antamamme vakuutuksen kanssa, jäätyy tai tarkistaisi itsemme hetken. Luulen, että niin ei tapahdu hänen kanssaan. Ja siellä on laajempi Piilaakson hype-kulttuuri ja perustajakulttuuri, jotka hyväksyvät sen.
Se on hauskaa. The Verge perustuu tuotearvosteluihinohjelmoida. Se on täällä tekemämme toimintamme ydin. Minulla on biljoona dollaria Applen tuotekehitystä kerran vuodessa ja sanon: "Tämä puhelin on seitsemän." Ja se tavallaan legitimoi kaiken raportointimme ja mielipiteemme muualla. Meillä on arviointitoiminto, ja vietämme niin paljon aikaa vain katsomalla tekoälytuotteita ja sanomalla: "Toimivatko ne?"
Se tuntuu puuttuvan monista keskusteluista tekoälystä sellaisena kuin se on nykyään. Keskustelua käydään loputtomasti siitä, mitä se voi tehdä, kuinka vaarallista se voi olla. Ja sitten syvennät ja sanot: "Tekeekö se todella sen asian, mitä sen pitäisi tehdä tänään?" Joissakin tapauksissa vastaus on kyllä. Mutta monissa, monissa tapauksissa vastaus on ei.
Se tuntuu siltä, että se liittyy kuvaamaasi hype-kulttuuriin ja myös siihen tunteeseen, että jos sanot, että se tekee jotain, mutta se ei tee, ja joku tuntee olonsa huonoksi, se on hyvä, koska olemme siirtymässä seuraavaan asiaan. Se on menneisyyttä. Ja erityisesti tekoälyssä Sam on niin hyvä tekemään suuria lupauksia.
Luulen, että juuri tällä viikolla, samana päivänä, kun tarinasi julkaistiin, OpenAI julkaisi politiikka-asiakirjan, jossa sanottiin, että meidän on harkittava uudelleen yhteiskuntasopimusta ja saatava hallitukselta tekoälyn tehostamisapurahoja. Tämä on suuri lupaus siitä, kuinka jokin teknologia saattaa muokata maailman tulevaisuutta ja elämäämme, ja kaikki tämä perustuu siihen, että teknologia toimii täsmälleen sillä tavalla, jolla sen ehkä on luvattu toimivan tai sen pitäisi toimia.
Oletko koskaan huomannut Samin epäilevän tekoälyä AGI:ksi tai superälyksi tai pääsevän maaliin? Koska se on asia, jota ihmettelen eniten. Onko pohdintaa siitä, pystyykö tämä ydintekniikka tekemään kaiken sen, mitä he sanovat pystyvänsä?
Se on juuri oikea kysymyssarja. On olemassa uskottavia teknikoita, joiden kanssa puhuimme tässä raportointiryhmässä – ja ilmeisesti Sam Altman ei ole sellainen; hän on liikemies – joka sanoo, että tapa, jolla Sam puhuu tämän tekniikan aikajanasta, on vain kaukana. Blogissa on muutaman vuoden takaisia viestejä, joissa Sam sanoo: "Olemme jo saavuttaneet tapahtumahorisontin. AGI on pohjimmiltaan täällä. Superäly on kulman takana. Aiomme olla muilla planeetoilla. Aiomme parantaa kaikkia syövän muotoja." Todellakin, en kaunista.
Syöpä on itse asiassa mielenkiintoinen, että Sam hyppii henkilöä, joka teoriassa paransi koiransa syövän ChatGPT:llä, ja niin ei yksinkertaisesti tapahtunut. He keskustelivat ChatGPT:n kanssa, ja se auttoi heitä ohjaamaan joitain tutkijoita, jotka todella tekivät työn, mutta yksilöllinen työkalu, joka paransi tämän koiran, ei oikeastaan ole tarina.
Olen iloinen, että otit asian esille, koska haluan jatkaa tähän suurempaan kohtaan siitä, milloin sekä teknologian mahdollisuudet että riskit todella tulevat voimaan. Mutta on syytä mainita nämä pienet sivut, joita tapahtuu jatkuvasti Sam Altmanilta, jossa hän näyttää ilmentävän tätä ominaisuutta uudelleen.
Tarkoitan WilmerHalen raportin esimerkkiä, jossa meillä oli nämä tiedot, jotka oli pidetty poissa kirjallisista, ja halusimme tietää, annettiinko suullinen ohje matkan varrella kenellekään muulle kuin kahdelle hallituksen jäsenelle, jotka Sam auttoivat asentamaan sitä valvomaan. Ja hän sanoi: "Joo, joo, ei, uskon, että se annettiin kaikille, jotka liittyivät hallitukseen sen jälkeen." Ja meillä on henkilö, joka tietää tilanteesta suoraan, ja hän sanoo, että se on yksinkertaisesti valhe. Ja niin näyttää todellakin olevan, että se ei ole totta. Jos haluamme olla anteliaita, ehkä hän sai väärää tietoa.
Näitä satunnaisia vakuutuksia on paljon. Ja käytän tätä esimerkkiä osittain, koska se on loistava esimerkki hajoamisesta, sanotaanpa niin, jolla voi olla todellisia laillisia seurauksia. Minun ei tarvitse kertoa sinulle Delawaren yhtiölain mukaan, jos tämä yritys listautuu, osakkeenomistajat voivat pykälän 220 mukaisesti valittaa tästä ja vaatia taustalla olevia asiakirjoja. Hallituksen jäsenet sanovat jo esimerkiksi: "No, hetkinen, sen tiedotuksen olisi pitänyt tapahtua."
Joten näillä asioilla, jotka näyttävät hyppäävän ulos hänen suustaan koko ajan, niillä voi olla todellisia markkinoita liikuttavia vaikutuksia, todellisia vaikutuksia OpenAI:lle. Palauttaen sen takaisin sellaiseen utopistiseen hype-kieleen, joka on noussut esiin, en usko, että sattumalta sinä päivänä, jolloin tämä teos ilmestyi, se vaikuttaa myös meihin kaikkiin, koska vaarat ovat niin akuutteja sen tapaan nähden.Aseissa käytetty tapa, tapa, jolla sitä käytetään kemiallisten sodankäyntiaineiden tunnistamiseen, disinformaatiopotentiaali ja tavasta, jolla utopistinen hype näyttää saavan monet uskottavat taloustieteilijät sanomaan: "Tässä on kaikki kuplan merkit."
Jopa Sam Altman on sanonut: "Joku menettää täällä paljon rahaa." Se voisi todella kraatteroida paljon Amerikan ja maailmanlaajuista talouskasvua, jos tapahtuu kuin todellinen kuplan puhkeaminen, jossa kaikki nämä yritykset tekevät kauppoja keskenään, panostavat tekoälyyn samalla kun lainaavat niin paljon. Joten sillä, mitä Sam Altman sanoo, on merkitystä, ja mielestäni hänen ympärillään olevien ihmisten enemmistöllä, mainitsimme, että puhuimme yli sadan kanssa, itse asiassa se oli reilusti yli sata. Kävimme keskustelun maaliviivalla, jossa se oli kuin: "Onko liian pikkumainen sanoa, että se on kuin tämä paljon suurempi numero?" Ja me sanoimme: "Joo, vähätellään. Pelaamme siististi." Mutta siellä oli niin paljon ihmisiä ja niin merkittävä enemmistö heistä sanoi: "Tämä on huolenaihe." Ja mielestäni tämä on kaikki syy.
Kysyn sinulta tuosta numerosta. Kuten mainitsit, ihmiset tulivat yhä avoimemmiksi huolenaiheilleen ajan myötä. Tuntuu siltä, että kuplan ympärillä vallitseva paine – kilpailu voittaa, maksaa kaikki tämä investointi, tulla voittajaksi listautumisannissa – on muuttanut monia asenteita. Se lisäsi paineita Samiin ja OpenAI:hin.
Julkaisimme tällä viikolla tarinan vain OpenAI:n tunnelmasta. Tarinasi on osa sitä, mutta massiiviset henkilöstömuutokset OpenAI:n johtotehtävissä – ihmisiä tulee ja menee. Kaikki tutkijat ovat matkalla, suurelta osin Anthropiciin, mikä on mielestäni todella mielenkiintoista. Voit vain nähdä, että tämä yritys tuntee painetta, ja se vastaa siihen paineeseen jollain tavalla.
Mutta sitten ajattelen Samin potkua. Tämä on vain mieleenpainuva minulle. Se ei ole mieleenpainuva kenellekään muulle, mutta otin lähdepuhelun Bronxin eläintarhassa perjantaina klo 19.00, ja joku sanoi, että he yrittävät saada Samin takaisin. Ja sitten vietimme viikonlopun jahtaamme sitä tarinaa. Ja minä sanoin vain: "Olen eläintarhassa. Mitä haluat minun tekevän täällä?" Ja vastaus oli: "Pysy puhelimessa." No, tyttäreni sanoi: "Mene pois puhelimesta." Ja niin minä tein.
Oli ratsastaa tai kuolla saadaksesi Sam takaisin. Se yritys sanoi: "Ei, emme anna hallituksen erottaa Sam Altmania." Sijoittajat, joita lainataan artikkelissasi, "Me lähdimme sotaan", luulen, on Thrive Capital -asema "saadaksemme Samin takaisin". Microsoft lähti sotaan saadakseen Samin takaisin. Se on myöhemmin, ja nyt kaikki ovat kuin: "Me olemme menossa listautumiseen. Pääsimme maaliin. Saimme kaverimme takaisin, ja hän vie meidät maaliin. Olemme huolissamme siitä, että hän on valehtelija."
Miksi hänen takaisin saaminen oli silloin sota? Koska mikään ei näytä olevan muuttunut. Puhut muistioista, joita Ilya Sutskever ja [Anthropic-toimitusjohtaja] Dario Amodei pitivät Sam Altmanin aikalaisina. Iljan huolenaihe numero yksi oli, että Sam on valehtelija.
Mikään niistä ei ole muuttunut. Joten miksi sota oli tuoda hänet takaisin silloin? Ja nyt kun olemme maaliviivalla, näyttää siltä, että kaikki huolenaiheet ovat julkisuudessa.
Ensinnäkin, pahoittelut tyttärellesi ja kumppanilleni ja kaikille muille toimittajien ympärillä oleville ihmisille.
[nauraa] Se oli melkoinen viikonloppu kaikille.
Kyllä, se valtaa ihmisen elämän, ja tällä tarinalla on ehdottomasti omani viimeisen ajanjakson aikana. Luulen, että se liittyy itse asiassa tähän journalismin ja tiedonsaannin teemaan. Sijoittajat, jotka menivät sotaan Samin puolesta, ja kaikki osallistuivat hänen takaisintulonsa varmistamiseen, ja hallitus, joka oli erityisesti suunniteltu suojelemaan voittoa tavoittelemattoman järjestön tehtävää asettaa turvallisuus kasvun edelle ja irtisanoa johtaja, jos siihen ei voitu luottaa, he lähtivät. Se johtui siitä, että kyllä, markkinakannustimet olivat olemassa, eikö niin?
Sam pystyi vakuuttamaan ihmiset: "No, yritys vain hajoaa." Mutta syy, miksi hän sai tukea, oli tiedon puute. Nuo sijoittajat sanovat monissa tapauksissa nyt: "Katson taaksepäin, ja mielestäni minun olisi pitänyt olla enemmän huolissaan, jos olisin tiennyt täysin, mitkä väitteet olivat ja mitä huolenaiheet olivat."
Eivät kaikki;mielipiteet vaihtelevat, ja lainaamme useita mielipiteitä, mutta on merkittäviä, jotka toimivat hyvin osittaisten tietojen perusteella. Lauta, joka ampui Samin, oli erään laudalla olleen henkilön sanojen mukaan "erittäin JV", ja he rähmätelivät palloa kovasti. Ja dokumentoimme taustalla olevat valitukset, ja ihmiset voivat itse päättää, kumuloituuko se sellaiseksi kiireelliseksi huoleksi, jonka he kokivat sen olevan, mutta sitä väitettä ja tietoja ei esitetty.
He saivat sen, mitä jotkut heistä pitävät nyt huonona oikeudellisena neuvona. Kuvataksesi sitä, muistat lainauksen, ja luultavasti monet kuuntelijasi ja katsojasi muistavat lainauksen rehellisyyden puutteena. Siihen se pelkistettiin, ja sitten he eivät käytännössä vastanneet puheluihin.
He eivät ottaneet puheluita vastaan. Olen varma, että yritit. Kaikki tuntemani yrittivät, ja se meni siihen pisteeseen, että toimittajana sinun ei pitäisi antaa lähteille neuvoja, mutta minä sanoin: "Tämä menee ohi, jos et ala selittämään itseäsi."
Ja niin tapahtui. Unohda toimittajat. Satya Nadella sanoi: "Mitä helvettiä tapahtui? En saa ketään selittämään minulle." Ja se on yrityksen tärkein taloudellinen tukija. Ja sitten Satya soittaa [LinkedInin perustajalle] Reid Hoffmanille ja Reid soittaa ympärilleen ja sanoo: "En tiedä mitä vittua tapahtui."
He ovat ymmärrettävästi tiedon tyhjyydessä etsiessään perinteisiä ei-AI-indikaattoreita, jotka oikeuttaisivat tällaisen kiireellisen, äkillisen laukaisun. Kuten, okei, oliko se seksirikoksia? Oliko se kavallusta? Ja koko hienovarainen, mutta mielestäni merkityksellinen väite, jonka mukaan tämä tekniikka on erilaista ja että tällaisella pienten petosten jatkuvalla kertymisellä voisi olla merkityksellisiä panoksia sekä tälle liiketoiminnalle että ehkä koko maailmalle, meni suurelta osin hukkaan. Joten kapitalistiset kannustimet voittivat, mutta myös ihmiset, jotka onnistuivat, menivät ulos eivätkä aina toimineet täydellä tiedolla.
Haluan vain kysyä hetken "mitä kaikki ajattelivat" -näkökulmasta, koska näin varmasti uutiset ja sanoin: "Voi, jotain pahaa on täytynyt tapahtua." Olet tehnyt tunnetusti paljon #MeToo-raportointia. Rikoit Harvey Weinsteinin tarinan.
Käytit paljon aikaa raportoidaksesi näistä väitteistä, joiden mielestäni päätit lopulta perusteettomiksi: Altman hyökkäsi seksuaalisesti alaikäisiin tai palkkasi seksityöntekijöitä tai jopa murhasi OpenAI:n ilmiantajan. Tarkoitan, että olet henkilö, joka voi ilmoittaa näistä asioista tiukimmin. Päätitkö, ettei siitä tullut mitään?
No, katso, minulla ei ole tarkoitus sanoa, että jostain ei ole tullut mitään. Voin sanoa, että vietin kuukausia näiden väitteiden tarkastelussa enkä löytänyt niille vahvistusta. Ja minusta oli hämmästyttävää, että nämä kaverit, nämä yritykset, joilla on niin paljon valtaa tulevaisuutemme suhteen, todella käyttävät suhteettoman paljon aikaa ja resursseja lapselliseen mutataisteluun.
Eräs johtaja kuvailee sitä "shakespearelaisiksi". Yksityisetsivärahojen ja koottavien oppositioasiakirjojen määrä on säälimätön. Ja ikävä asia on, että sellaiset salakavalat tavarat, joita Samin kilpailijat pitävät, on vain oletettu tosiasia, eikö niin? Hän väittää, että hän jahtaa alaikäisiä poikia, ja monissa cocktailjuhlissa Piilaaksossa kuulet tämän. Konferenssikierroksella olen kuullut uskottavien, merkittävien johtajien juuri toistavan sen: "Kaikki tietävät, että tämä on tosiasia."
Surullista on, että puhun siitä, mistä tämä tulee, eri vektoreista, joilla se välittyy. Elon Musk ja hänen työtoverinsa näyttävät ajavan todella kovia asiakirjoja, jotka eivät ole mitään. Ne ovat hämäriä, kun alat todella tarkastella taustalla olevia väitteitä. Surullista on, että se todella hämärtää todisteisiin perustuvan kritiikin, joka mielestäni todella ansaitsee kiireellisen valvonnan ja harkinnan.
Toinen tarinassa todella esiin nouseva teema on melkein pelko siitä, että Samilla on niin paljon ystäviä – hän on sijoittanut niin moniin yrityksiin edellisestä Y Combinatorin toimitusjohtajan roolistaan, henkilökohtaiseen sijoitukseensa asti, joista osa on suorassa ristiriidassa hänen roolinsa kanssa OpenAI:n toimitusjohtajana – ja hänen ympärillään on hiljaisuus.
Se vaikutti minuun, kun luin yhden rivin erityisesti. Kuvailet Ilja Sutskeverin muistioita, ja ne ovat juuri Piilaaksossa. Kaikkikutsuu niitä Ilja-muistioiksi. Mutta sen ympärillä on jopa hiljaisuus. Niitä välitetään, mutta niistä ei keskustella. Mistä luulet sen tulevan? Onko se pelko? Onko se halu saada enkelisijoitusta? Mistä se tulee?
Minusta se on paljon pelkuruutta, olen rehellinen. Raportoituaan kansallisen turvallisuuden tarinoista, joissa lähteet ovat ilmiantajia, jotka menettävät kaiken ja joutuvat syytteeseen, he tekevät silti oikein ja puhuvat asioista vastuullisuuden luomiseksi. Olen työskennellyt mainitsemiesi seksirikoksiin liittyvien tarinoiden parissa, joissa lähteet ovat syvästi traumatisoituneita ja pelkäävät hyvin henkilökohtaista kostoa.
Monissa tapauksissa tämän rytmin ympärillä olet tekemisissä ihmisten kanssa, joilla on oma profiili ja voima. He ovat joko itse kuuluisia ihmisiä tai heitä ympäröivät kuuluisat ihmiset. Heillä on vahva liikeelämä. Minun mielestäni heillä on todella alhainen altistuminen puhua näistä asioista. Ja onneksi neula liikkuu, kuten aiemmin puhuimme, ja ihmiset puhuvat nyt enemmän.
Mutta niin pitkään ihmiset todella vain vaikenevat siitä, koska mielestäni Piilaakson kulttuuri on vain niin häikäilemättömän omahyväinen ja armottomasti liiketoiminta- ja kasvusuuntautunut. Joten luulen, että tämä koskettaa jopa joitain ihmisiä, jotka olivat mukana Samin erottamisessa, ja näit näinä päivinä, kyllä, yksi tekijä, joka johti hänen palaamiseen ja vanhojen hallituksen jäsenten erottamiseen, oli se, että hän kokosi sijoittajia, jotka olivat hämmentyneitä hänen asiansa.
Mutta toinen on se, että niin monet muut ihmiset ympärillä, jotka olivat huolissaan ja ilmaisivat ne kiireesti, vain taittuivat kuin lautasliinat ja muuttivat säveltään heti, kun he näkivät tuulen puhaltavan toiseen suuntaan, ja he halusivat mukaan voittojunaan.
Se on rehellisesti sanottuna aika synkkää minun toimittajan näkökulmasta.
Jotkut heistä ovat Mira Murati, joka uskoakseni oli 20 minuuttia OpenAI:n uusi toimitusjohtaja. Sitten hänet korvattiin. Se oli hyvin monimutkaista dynamiikkaa, ja ilmeisesti Sam palasi. Toinen henkilö on Ilja Sutskever, joka oli yksi äänistä Samin poistamisessa, ja sitten hän muutti mielensä tai ainakin sanoi muuttaneensa mielensä ja lähti sitten perustamaan oman yrityksen. Tiedätkö, mikä sai hänet muuttamaan mieltään? Oliko se vain rahaa?
Selvyyden vuoksi en erottele näitä kahta. On myös muita ampumiseen osallistuneita hallituksen jäseniä, jotka myös vaikenivat sen jälkeen. Minusta se on kuin laajempi kollektiivinen ongelma. Nämä ovat joissakin tapauksissa ihmisiä, joilla oli moraalista kykyä soittaa hälytyksiä ja ryhtyä radikaaleihin toimiin, ja se on kiitettävä. Ja näin varmistat vastuullisuuden. Se olisi voinut auttaa monia ihmisiä, joihin tämä tekniikka vaikuttaa. Se olisi voinut auttaa toimialaa pysymään mielekkäämmin turvallisuuspainotteisena.
Mutta kun olet tekemisissä ilmiantajien ja ihmisten kanssa, jotka yrittävät saada vastuuta paljon, huomaat myös, että se vaatii näkemystäsi ja vakaumustesi tukemista. Ja tämä ala on todella täynnä ihmisiä, jotka eivät vain kestä vakaumustaan.
Vaikka he ajattelevat rakentavansa digitaalista jumalaa, joka jollakin tavalla joko poistaa kaiken työn tai luo lisää työtä, tai jotain tapahtuu.
No, se on asia. Joten se kulttuuri, jossa et seiso vakaumuksissasi ja kaikki eettiset huolenaiheet jäävät sivuun sillä hetkellä, kun on kuumuutta tai jotain, mikä voisi uhata omaa asemaasi yrityksessä, on ehkä jossain määrin hyvä ja hyvä yrityksille, jotka tekevät kaikenlaista widgetiä.
Mutta nämä ovat myös samoja ihmisiä, jotka sanovat: "Tämä voi kirjaimellisesti tappaa meidät kaikki." Ja jälleen kerran, sinun ei tarvitse mennä Terminator Skynet -äärimmäisyyteen. On olemassa joukko riskejä, jotka ovat jo toteutumassa. Se on totta, ja he ovat oikeassa varoittaessaan siitä, mutta sinun täytyy saada joku muu nojatuolipsykologisoimaan, kuinka nuo kaksi asiaa voivat elää samoissa ihmisissä, joissa he antavat kiireellisiä varoituksia, he saattavat laittaa varpaan ja yrittää tehdä jotain, ja sitten he vain taittuvat ja vaikenevat.
Juuri tästä syystä voi olla tällaisia tapauksia, joissa asiat jätetään kirjoittamatta ja lakaistaan maton alle, eikä kukaan puhu tästä avoimesti vuosiin sen jälkeen.
Luonnollinen vastuullinen osapuoli tässä ei olisi näiden yritysten toimitusjohtajat; se olisi hallituksia. Yhdysvalloissa ehkäse on osavaltioiden hallitukset, ehkä se on liittovaltion hallitus.
Varmasti kaikki nämä yritykset haluavat olla globaaleja. Tässä on monia maailmanlaajuisia vaikutuksia. Katselin, kuinka OpenAI, Google ja Anthropic saivat Bidenin hallinnon julkaisemaan tekoälyn toimeenpanomääräyksen. Se oli lopulta aika hampaaton. Se vain sanoi, että heidän piti puhua siitä, mihin heidän mallinsa pystyivät, ja julkaista turvallisuustestejä. Ja sitten he kaikki tukivat Trumpia, ja Trump tuli sisään ja pyyhki kaiken pois ja sanoi: "Meidän on oltava kilpailukykyisiä. Se on kaikille ilmainen. Mene siihen."
Samaan aikaan he kaikki yrittävät kerätä varoja Lähi-idän maista, joilla on paljon öljyrahaa ja jotka haluavat muuttaa talouttaan. He ovat poliitikkoja. Minusta poliitikkojen pitäisi ehdottomasti ymmärtää, että joku puhuu molemmin puolin, eivätkä he ole kovin järkyttyneitä, jos joku lopulta pettyy, mutta poliitikotkin lähtevät mukaan. Miksi luulet niin?
Tämä on mielestäni todellakin syy, miksi teoksella on mielestäni merkitystä ja miksi siihen kannatti uhrata kaikki tämä aika ja yksityiskohdat. Olemme ympäristössä, jossa järjestelmät, joiden, kuten sanotte, pitäisi tarjota valvontaa, on vain tyhjä. Se on post-Citizens United America, jossa rahavirta on niin esteetön, ja tämä ongelma keskittyy erityisesti tekoälyn ympärille, jossa on näitä PAC:ita, jotka lisääntyvät ja tulvivat rahaa kumoamaan merkityksellisen sääntelyn sekä osavaltion että liittovaltion tasolla.
Sinulla on [OpenAI:n toinen perustaja] Greg Brockman, Samin toinen komentaja, joka osallistuu suoraan merkittävällä tavalla muutamiin niistä. Se johtaa tilanteeseen, jossa lainsäätäjät ja mahdolliset sääntelijät todella vangitaan, ja siitä on vaikea päästä eroon. Surullista on se, että mielestäni on olemassa yksinkertaisia poliittisia toimenpiteitä, joista joitain kokeillaan muualla maailmassa, ja jotka auttaisivat joihinkin näistä vastuullisuusongelmista.
Teillä voisi olla enemmän pakollista käyttöönottoa edeltävää turvallisuustestausta, mikä on jotain, mitä tehdään jo Euroopassa rajamalleille. Sinulla voisi olla tiukemmat kirjalliset julkiset asiakirjat sellaisille sisäisille tutkimuksille, joissa näimme tässä tapauksessa asiat jääneen kirjoittamatta. Sinulla voisi olla vahvempi joukko kansallisen turvallisuuden arviointimekanismeja sam Altmanin ajamia Lähi-idän infrastruktuuritavoitteita varten.
Kuten sanot, hän teki tätä syöttiä ja vaihtoa Bidenin hallinnon kanssa sanoen: "Sääntele meitä, säätele meitä" ja auttoi heitä laatimaan toimeenpanomääräyksen, ja sitten sillä hetkellä, kun Trump astuu sisään, todella aivan ensimmäisinä päivinä, vain mennä ilman estoa, "kiihdytetään ja rakennetaan massiivinen datakeskuksen kampus Abu Dhabiin." Olisit voinut, tämä on todella yksinkertainen, kuten ilmiantajien suojat. Ei ole olemassa liittovaltion lakia, joka suojelisi tekoälyyrityksen työntekijöitä, jotka paljastavat tällaisia tässä artikkelissa esitettäviä turvallisuusongelmia.
Meillä on tapauksia, joissa Jan Leike, joka oli OpenAI:n vanhempi turvallisuusmies, johti superlinjausta yrityksessä. Hän kirjoittaa hallitukselle, lähinnä ilmiantajien materiaalia, sanoen, että yritys lähtee raiteilta turvallisuustehtävässään. He ovat sellaisia ihmisiä, joilla pitäisi itse asiassa olla valvontaelin, jonka puoleen he voivat mennä, ja heillä pitäisi olla nimenomainen lakisääteinen suoja, jollaista näemme muilla aloilla. Tämä on helppo toistaa Sarbanes-Oxley-tyylistä järjestelmää.
Uskon, että huolimatta siitä, kuinka akuutti ongelma on, että Piilaakso ottaa hallintaansa kaikki vallanvivut, ja vaikka jotkut näistä instituutioista, jotka voivat tarjota valvontaa ja suojakaiteita, ovat, uskon silti demokratian ja itsekkäiden poliitikkojen perusmatematiikkaan. Ja yhä enemmän ilmaantuu mielipidemittauksia, joiden mukaan suurin osa amerikkalaisista ajattelee, että tekoälyn huolet, kysymykset tai riskit ovat tällä hetkellä suuremmat kuin hyödyt.
Joten uskon, että tekoälyn rahan tulva politiikkaan on meidän kaikkien voimissamme tehdä siitä kysymysmerkki poliitikkoja kohtaan. Kun amerikkalaiset menevät äänestämään, heidän pitäisi tutkia, ovatko ihmiset, joita he äänestävät, varsinkin jos he ovat kritiikkiä ja sääntelyn vastaisia, ottaen huomioon kaikki nämä huolenaiheet. Joten luulen, että jos ihmiset voivat lukea tällaisia kappaleita, kuunnella tällaisia podcasteja ja välittää tarpeeksi ajatellakseen kriittisestiHeidän päätöksissään äänestäjinä on todellinen mahdollisuus luoda Washingtoniin vaalipiiri, joka pitää silmällä ja pakottaa valvontaan.
Se saattaa olla yksi optimistisimmista asioista, jonka olen koskaan kuullut kenenkään sanovan nykyisestä tekoälyteollisuudesta. Arvostan sitä. Olen pakkomielle äänestykseen, josta puhut. Sitä on nyt paljon. Kaikki on melko johdonmukaista, ja näyttää siltä, että mitä enemmän erityisesti nuoret altistuvat tekoälylle, sitä epäluottamuksellisempia ja vihaisempia he ovat siitä. Se on kaiken kyselyn valenssi. Ja katson sitä ja luulen, että no, joo, älykkäät poliitikot vain asettuisivat sitä vastaan. He sanoisivat vain: "Aiomme pitää suuret teknologiat vastuullisina."
Sitten ajattelen kuluneita 20 vuotta, kun eräs poliitikko sanoi, että he aikovat asettaa suuren teknologian vastuuseen, ja minulla on vaikeuksia löytää edes hetkeä, jolloin iso teknologia joutuisi vastuuseen. Ainoa asia, joka saa minut ajattelemaan, että tämä voisi olla erilainen, on se, että sinun on itse asiassa rakennettava datakeskukset, ja voit äänestää sitä vastaan, voit tehdä vetoomuksen sitä vastaan ja voit protestoida sitä vastaan.
Luulen, että eräs poliitikko ammuttiin taloonsa, koska he äänestivät datakeskuksen puolesta. Jännitys saavuttaa, sanoisin sitä, kuumepiste. Olet kuvaillut Piilaakson saaristoisuutta. Tämä on suljettu ekosysteemi. Tuntuu, että he luulevat voivansa hallita maailmaa. He sijoittavat paljon rahaa politiikkaan ja vastustavat todellisuutta, että ihmiset eivät rakasta tuotteita, mikä ei anna heille paljon suojaa. Mitä enemmän he käyttävät tuotteita, sitä suuttuneempia he ovat, ja poliitikot alkavat nähdä, että teknologiateollisuuden tukemisella on todellisia seurauksia edustamiinsa ihmisiin nähden.
Olet puhunut niin monen ihmisen kanssa. Luuletko, että teknologia-alan on mahdollista oppia opetus, joka on heidän edessään?
Sanot, että tuntuu siltä, että he luulevat voivansa johtaa maailmaa ilman vastuuvelvollisuutta. En edes usko, että se tarvitsee "tuntuu" -määritteitä. Tarkoitan, että katsot Peter Thielin käyttämää kieltä, se on selkeää. Tämä on tietysti äärimmäinen esimerkki. Ja vaikka Sam Altman on jossain määrin läheinen ja tietoinen Thielin ideologiasta, hän on hyvin erilainen henkilö, joka saattaa kuulostaa erilaiselta ja tiettyyn pisteeseen asti mitatummalta.
Mutta mielestäni laajempi ideologia, jonka saat Thieliltä, joka on pohjimmiltaan: Olemme lopettaneet demokratian, emme tarvitse sitä enää. Meillä on niin paljon, että haluamme vain rakentaa omia pieniä bunkkereita. Emme ole enää tekemisissä Carnegieiden tai Rockefellerien kanssa, joissa he ovat pahiksia, mutta he kokevat, että heidän täytyy osallistua sosiaaliseen sopimukseen ja rakentaa asioita ihmisille. Siellä vallitsee todellinen nihilismi.
Ja uskon, että se on vain ollut toisiaan vahvistava kierre Amerikan viimeaikaisessa historiassa, jossa mogulit ja yksityiset yritykset ovat saaneet ylivaltaa hallitusvaltaa, kun taas demokraattiset instituutiot, jotka saattavat saada heidät vastuuseen, on tyhjennetty. En ole optimistinen ajatuksesta, että nuo kaverit voisivat vain herätä jonain päivänä ja ajatella: "Huh, ehkä meidän täytyy osallistua yhteiskuntaan ja auttaa rakentamaan asioita ihmisille."
Tarkoitan, että katsot The Giving Pledgen mikrokosmisen esimerkkiä, jossa oli hetki, jolloin se näytti olevan hyväntekeväisyyttä, ja se hetki on nyt ohi ja jopa naurettu. Se on ongelma, laajempi vastuun puutteen ongelma, joka voidaan mielestäni ratkaista vain ulkoisesti. Sen on oltava äänestäjien mobilisoimista ja hallituksen valvontavallan elvyttämistä. Ja olet aivan oikeassa sanoessasi, että päävektori, jonka kautta ihmiset voivat saavuttaa sen, on paikallinen. Se liittyy siihen, mihin infrastruktuuria rakennetaan.
Mainitsit joitain tähän liittyvästä kuumasta jännitteestä, joka johtaa väkivaltaan ja uhkauksiin, eikä kenenkään pitäisi ilmeisesti olla väkivaltainen tai uhkaava. En myöskään ole täällä antamassa konkreettisia poliittisia suosituksia muuten kuin vain esitelläkseni joitain politiikan vaiheita, jotka vaikuttavat perustavanlaatuisilta ja toimivat muualla maailmassa, eikö niin? Tai ne, jotka ovat työskennelleet muilla aloilla. En ole täällä sanomassa, mitkä niistä pitäisi toteuttaa ja miten.
Mielestäni jotain täytyy tapahtua, ja sen on oltava ulkoista, ei vain näihin yrityksiin luottamista. Koska oikeinNyt meillä on tilanne, jossa yritykset, jotka kehittävät tekniikkaa ja joilla on parhaat valmiudet ymmärtää riskejä ja itse asiassa varoittavat meitä riskeistä, ovat myös niitä, joilla ei ole muuta kuin kannustinta mennä nopeasti ja jättää riskit huomiotta. Ja sinulla ei vain ole mitään vastapainoa sitä. Joten mitä tahansa uudistuksia vaativatkin yksityiskohdat, jotain on vastustettava sitä vastaan. Ja palaan edelleen siihen optimismiin, että ihmisillä on edelleen merkitystä.
Yleensä ostan argumenttisi. Esitän vain yhden pienen vasta-argumentin, jonka uskon pystyväni ilmaisemaan. Toinen asia, joka voi tapahtua äänestyslaatikon ulkopuolella, on se, että kupla ponnahtaa, eikö niin? Että kaikki nämä yritykset eivät pääse maaliin ja että kuluttajien tekoälysovelluksille sopivia tuotemarkkinoita ei ole. Ja taas, en ymmärrä sitä vielä, mutta olen kuluttajatekniikan arvioija, ja ehkä minulla on vain korkeammat standardit kuin kaikilla muilla.
Yritysmaailmassa on tuotemarkkinoiden sopivuus, eikö niin? Se, että joukko tekoälyagentteja kirjoittaa joukon ohjelmistoja, näyttää olevan todellinen markkina näille työkaluille. Ja voit lukea näiden yritysten väitteet: "Olemme ratkaisseet koodauksen, mikä tarkoittaa, että voimme ratkaista mitä tahansa. Jos voimme tehdä ohjelmistoja, voimme ratkaista kaikki ongelmat."
Mielestäni ohjelmistoilla on todellisia rajoituksia. Se on hienoa yritysmaailmassa. Ohjelmistot eivät voi ratkaista kaikkia ongelmia todellisuudessa, mutta niiden on päästävä siihen. Heidän on saatava työ valmiiksi, ja ehkä kaikki eivät pääse maaliin. Ja tapahtuu kaatuminen ja tämä kupla poksahtaa, ja ehkä OpenAI tai Anthropic tai xAI, yksi näistä yrityksistä epäonnistuu, ja kaikki tämä investointi katoaa.
Luuletko sen vaikuttavan tähän? Itse asiassa, sallikaa minun kysyä ensin ensimmäinen kysymys. OpenAI on listautumisannin kynnyksellä. Samista johtajana on paljon epäilyksiä. Luuletko, että he pääsevät maaliin?
En aio ennustaa, mutta mielestäni nostat esiin tärkeän seikan, joka on se, että markkinakannustimilla on Piilaakson sisäisesti merkitystä, ja nykyisen kupladynamiikan epävarmuus keskeyttää jälleen, kriitikkojen mukaan, mahdollisesti kilpajuoksua turvallisuuden pohjalta.
Lisäisin vielä tähän, että jos tarkastellaan historiallista etusijaa, jossa on vastaavanlainen ja näennäisesti läpäisemätön joukko markkinakannustimia ja mahdollisesti haitallisia vaikutuksia yleisölle, on olemassa vaikutusoikeudellisia riita-asioita. Ja näet sen huolenaiheena viime aikoina. Sam Altman tukee tällä viikolla lainsäädäntöä, joka suojelisi tekoälyyrityksiä joiltakin sellaisilta vastuutyypeiltä, joita OpenAI on joutunut esimerkiksi laittomissa kuolemantapauksissa. Tietysti halutaan suojata vastuuta.
Uskon, että tuomioistuimet voivat silti olla mielekäs mekanismi, ja on todella mielenkiintoista nähdä, miten nämä puvut muotoutuvat. Näitte jo esimerkiksi ryhmäkanteen, johon minä ja monet muut tuntemani kirjailijat kuulumme, Anthropicia vastaan, koska he ovat käyttäneet tekijänoikeudella suojattuja kirjoja. Jos on älykkäitä lakimiehiä ja kantajia, jotka välittävät, kuten olemme historiallisesti nähneet tapauksista suuresta tupakasta suureen energiaan, voit saada myös suojakaiteita ja kannustimia hidastaa vauhtia, olla varovainen tai suojella ihmisiä tällä tavalla.
Tuntuu siltä, että tekoälyteollisuuden koko kustannusrakenne riippuu hyvin, hyvin hyväntekeväisyydestä reilun käytön tulkinnasta. Ei tule tarpeeksi esille. Näiden yritysten kustannusrakenne voi karkaa käsistä, jos ne joutuvat maksamaan sinulle ja kaikille muille, joiden työn he ovat tehneet, mutta sitä on hankala ajatella, joten emme vain ajattele sitä. Sen lisäksi kaikki nämä tuotteet toimivat nyt tappiolla. Kuten tänään, he kaikki ovat tappiolla. He polttavat enemmän rahaa kuin voivat ansaita. Jossain vaiheessa heidän on käännettävä kytkintä.
Sam on liikemies. Kuten olet useaan otteeseen maininnut, hän ei ole tekniikan asiantuntija. Hän on liikemies. Luuletko, että hän on valmis kääntämään kytkimen ja sanomaan: "Aiomme tienata dollarin?" Koska kun kysyn: "Luuletko, että OpenAI selviää?" Se on silloin, kun heidän on ansaittava dollari. Ja toistaiseksi Sam on ansainnut kaikki dollarinsa pyytämällä muilta rahojaan sen sijaan, että hänen yrityksensä olisi ansainnut rahaa.
No, se on suuri viipyvä kysymys Piilaaksolle, sijoittajille ja yleisölle.Näet joitakin lausuntoja ja siirtymiä OpenAI: sta, jotka näyttävät osoittavan eräänlaista paniikkia siitä. Soran sulkeminen, joidenkin apuprojektien sulkeminen, ydintuotteen nollaaminen. Mutta toisaalta, näet silti samaan aikaan tonnia tehtävähiipimistä, eikö niin? Jopa pieni esimerkki – se ei tietenkään ole heidän liiketoimintansa ydin – on TBPN:n hankinta.
Muuten, juuri kun olimme saavuttamassa maaliviivaa ja faktantarkistusta, tällaisen journalistisen tarkastelun edessä oleva yritys hankkii alustan, jolla he voivat hallita keskustelua suoremmin. Uskon, että monet sijoittajat ovat käymieni keskustelujen perusteella huolissaan siitä, että tämä kaikille ihmisille kaiken lupauksen ongelma ulottuu myös tähän keskittymisen puutteeseen ydinliiketoimintamallissa. Ja tarkoitan, että olet lähempänä sellaista ennustamista ja markkinoiden seuraamista kuin minä luultavasti. Jätän sinut ja kuuntelijat arvioimaan, voiko heidän mielestään OpenAI kääntää kytkimen.
No, esitin kysymyksen, koska sinulla on lainaus eräältä Microsoftin johtavalta johtajalta, ja se tarkoittaa, että "Samin perintö saattaa muistuttaa enemmän Bernie Madoffia tai Sam Bankman-Friedia" kuin Steve Jobsia. Se on melkoinen vertailu. Mitä pidit tästä vertailusta?
Mielestäni se on parafraasi. Steve Jobsin osa ei ollut osa lainausta. Mutta siinä on mielenkiintoinen raittius, koska se on muotoiltu seuraavasti: "Luulen, että on pieni mutta todellinen mahdollisuus, että hän päätyy SBF- tai Madoff-tason huijariksi." Tämä ei mielestäni tarkoita sitä, että Samia syytetään sellaisista tietyntyyppisistä petoksista tai rikoksista, vaan sitä, että Samilla saattaa olla viime kädessä mahdollisuus muistaa hänet siinä mittakaavassa.
Kyllä, mielestäni tuossa lainauksessa silmiinpistävintä on se, että soitat Microsoftille, etkä saa tykkäystä: "Se on hullua. Emme ole koskaan kuulleet sitä." Saat paljon kuten "Jep, monet ihmiset täällä ajattelevat niin", mikä on huomattavaa. Ja luulen, että se liittyy näihin mutteriin ja pultteihin liiketoimintakysymyksiin.
Eräs sijoittaja kertoi minulle esimerkiksi sen tavan valossa, jolla tämä piirre on säilynyt ampumisen jälkeisinä vuosina” – ja tämä piti tätä myös mielenkiintoisena raittiina ajatuksena –, että Samin ei välttämättä pitäisi olla listan ehdottoman lopussa, vaan sen pitäisi olla alhaisimmillaan niiden ihmisten suhteen, jotka eivät ehdottomasti saa rakentaa tätä tekniikkaa, koska se on sen arvoista. ihmisten luettelosta, joiden pitäisi rakentaa AGI, ja useiden muiden tämän alan johtavien hahmojen alapuolella.
Joten ajattelin, että tämä oli mielenkiintoinen arvio, ja tämänkaltaisen ajattelun uskon saavan todellisilta pragmaattikoilta, jotka eivät ehkä ota niin paljon huomioon turvallisuushuolia. He ovat vain kasvuhakuisia, ja he ajattelevat, että OpenAI:lla on nyt ongelma Sam Altmanin kanssa.
Microsoftin teos on todella mielenkiintoinen. Yritys luuli olevansa maailman huipulla. Että he olivat tehneet tämän investoinnin ja aikoivat hypätä kaikki, erityisesti ja mikä tärkeintä, Googlen, ja saada takaisin kuluttajien hyväntahtoisuuden. En usko, että sitä tasoa, jolle he tuntevat polttoa tästä seikkailusta – tämä on hyvin hillitysti johdettu yritys – ei mielestäni voi yliarvioida.
Mainitsit hahmot ja persoonallisuuden piirteet. Haluan lopettaa tähän kuuntelijoidemme esittämään kysymykseen. Sanoin toisessa ohjelmassamme, The Vergecastissa, että aion puhua kanssasi, ja sanoin: "Jos sinulla on kysyttävää Ronanille tästä tarinasta, kerro minulle." Joten meillä on täällä yksi, joka mielestäni liittyy siististi kuvaamaasi. Aion vain lukea sen sinulle:
"Miten perustelut Altmanin ja muiden tekoälyjohtajien huonolle käytökselle, kamalalle käytökselle eroavat niistä perusteluista, joita Ronan on kuullut muilta politiikan ja median korkean profiilin johtajilta? Eivätkö he kaikki oikeuta tekojaan sanomalla, että näin maailma muuttuu? Jos minä en tee tätä, joku muu tekee?"
Joo, sitä on paljon liikkeellä. Sanoisin, että tekoälylle on ominaista se, että eksistentiaaliset panokset ovat niin ainutlaatuisen korkeita, että molemmat riskilausekkeet ovat äärimmäisiä, eikö niin? Sinulla on Sam Altmansanoen: "Tämä voisi olla valoa meille kaikille." Ja myös, kriitikot saattavat sanoa, että mania, johon kysyjä viittaa, on äärimmäistä, eikö?
Asia, josta Sam syytti Elonia, oli se, että hän ehkä haluaa pelastaa ihmiskunnan, mutta vain jos se on hän. Sellainen voitonhalun egokomponentti, jota Sam käyttää koko ajan, ja että tämä kuuluu historiankirjoihin, se voi muuttaa kaiken. Siksi, jopa useimpien Piilaakson yritysten "sinun täytyy rikkoa muutama muna" -ajattelutavan lisäksi, joidenkin tekoälyä johtavien henkilöiden mielessä on mielestäni täydellinen rationalisointi kaikelle seuraukselle.
Ja unohda munien rikkominen. Luulen, että monet taustalla olevista turvallisuustutkijoista sanoisivat, että potentiaalinen riski rikkoa maa, hajottaa maailma ja murtaa miljoonia ihmisiä, joiden työ ja turvallisuus ovat vaakalaudalla – se on siinä ainutlaatuista. Päätän tähän, pohtien tätä raportointia ja uskon todella, että tässä on kyse muustakin kuin Sam Altmanista. Tässä on kyse toimialasta, joka ei ole rajoittunut, ja kierteessä kasvavasta ongelmasta, jossa Amerikka ei pysty rajoittamaan sitä.
Joo. No, meillä oli vähän optimismia, mutta mielestäni se on hyvä paikka jättää se.
[Nauraa] Päättyy huonoon tahtiin.
Tietenkin. Se on todella hieno tarina. Musk-Altmanin oikeudenkäynti on tulossa. Uskon, että opimme täällä paljon lisää. Epäilen, että haluan puhua kanssasi uudelleen. Ronan Farrow, kiitos paljon Dekooderin käyttämisestä.
Kiitos.
Onko sinulla kysyttävää tai kommentteja tästä jaksosta? Ota yhteyttä osoitteeseen [email protected]. Luemme todella jokaisen sähköpostin!
