Şu gün Dekoderde, şu gün işleýän derňew hasabatlarynyň iň uly ýyldyzlaryndan biri Ronan Farrow bilen gürleşýärin. Köpleriň arasynda Harwi Weinşteýn hekaýasyny pozdy. Geçen hepde özi we bilelikde ýazyjy Endrýu Marantz bilen Nýu-Yorkorkda OpenAI-iň baş direktory Sam Altman, ygtybarlylygy we OpenAI-iň ösmegi barada ajaýyp çuňňur bir aýratynlyk çap etdi.
Bu ýere gitmezden ozal bir bellik - Nýu Yorkorkly bu hekaýany neşir etdi we Ronan bilen Altmanyň öýüne edilen hüjümleriň doly derejesini bilmezden ozal söhbetdeş bolduk, şonuň üçin bu hakda göni gürleşmegimizi eşitmersiňiz. Justöne muny aýtmak üçin, islendik görnüşdäki zorlugy kabul edip bolmajakdygyny, Samyň garşysyna edilen bu hüjümleri kabul edip bolmajakdygyny, şeýle zorluga sebäp bolýan adamlaryň duýýan ejizliginiň özi kabul ederliksizdigini, bu pudakdan we syýasy ýolbaşçylarymyzdan has köp gözden geçirilmelidigini aýtdy. Bu düşnükli diýip umyt edýärin.
Verge abonentleri, podkastlaryňyzy nirä alsaňyzam, mahabatsyz dekoderlere aýratyn girip biljekdigiňizi ýatdan çykarmaň. Şu ýere gidiň. Abonent dälmi? Bu ýerde ýazylyp bilersiňiz.
Aýdylanlaryň hemmesi, Altmanyň töwereginde gaty köp habar bermek üçin adalatly oýun - Ronan bilen Endrýu tarapyndan taýýarlanylýan hasabat görnüşi. ChatGPT-iň meşhurlygy sebäpli, Altman AI pudagynyň iň göze görnüp duran şahsyýeti hökmünde ýüze çykdy, birnçe ýylda täjirçilik däl gözleg laboratoriýasyny birnäçe ýylda trillion dollarlyk hususy kompaniýa öwürdi. Emma Altman baradaky mif çuňňur gapma-garşy bolup, aç-açan söwda ukyby we daş-töweregindäkileriň hemmesine ýalan sözlemek meýli bilen deň derejede kesgitlenýär.
Hekaýanyň uzynlygy 17,000 sözden ybarat bolup, 2023-nji ýylda OpenAI direktorlar geňeşi Altmany ýalan sözlänligi sebäpli birden işden kowlanda bolup geçen wakanyň takyk hasabatyny öz içine alýar, diňe derrew işe alynmagy üçin. Şeýle hem, Altmanyň şahsy durmuşyna, maýa goýumlaryna, Easternakyn Gündogardaky pullara we öňki özüni alyp barşyna we häsiýetlerine çuňňur täsir edýär, bir çeşmäniň özüni “hakykat tarapyndan çäklendirilmändigini” aýtdy. Hakykatdanam, ähli hekaýany okamagyňyzy maslahat berýärin; Geljek ýyllaryň dowamynda salgylanjakdygyna ynanýaryn.
Ronan, bu eseri habar bermek bilen geçiren 18 aýynyň dowamynda Altman bilen ençeme gezek gürleşdi, şonuň üçin meni gyzyklandyran esasy zatlaryň biri, şol döwürde Altmanda haýsydyr bir üýtgeşmäni duýandygy ýa-da däldigi. Galyberse-de, soňky bir ýarym ýylda AI-de, tehnologiýada we dünýäde köp zat boldy.
Ronanyň bu hakda gönüden-göni gürleşýänini, şeýle hem adamlaryň Altmanyň hakykaty ýaýratmak ukyby barada gürleşmäge has isleg bildirendiklerini duýarsyňyz. Adamlar, Altman ýaly adamlaryň özüni alyp barşynyň diňe AI ýa-da tehnologiýa üçin däl, eýsem jemgyýetiň kollektiw geljegi bilen baglanyşyklydygyna ýaňzytmaga başlaýarlar.
Bolýar: Sam Altman, AI we hakykat barada Ronan Farrow. Ine, gidýäris.
Bu söhbetdeşlik uzynlygy we aýdyňlygy üçin ýeňil redaktirlendi.
Ronan Farrow, derňewçi habarçy we “The New Yorker” -iň goşantçysy. Dekodere hoş geldiňiz.
Şu ýerde bolanyma begenýärin. Meni alanyň üçin sag bol.
Men siziň bilen gürleşmäge diýseň begenýärin. “The New Yorker” üçin diňe bir uly eser ýazdyňyz. Bu Sam Altmanyň profilidir we şuňa meňzeş görnüşde OpenAI. Ony okadym, ähli ajaýyp aýratynlyklaryň edişi ýaly, berk hasabat bilen adamlaryň Sam Altman hakda uzak wagtlap başdan geçiren duýgularyny tassyklaýar. Elbetde, ony çap etdiň, oňa reaksiýa bildirdiň. Häzirki wagtda bu barada nähili pikir edýärsiňiz?
Dogrusy, üns ykdysadyýetiniň şizofreniki we ýalpak görnüşdäki döwürde näderejede döwülendigi meni ýüregime düwdi. Bu, meniň pikirimçe, hemmämize täsir edýän hekaýa. Ömrümiň bir ýarym ýylyny geçirenimde, bilelikde ýazan ýazyjym Endrýu Marantz hem şol wagtyny hakykatdanam kazyýet we oýlanyşykly bir zat etmäge synanyşanda, elmydama hekaýanyň merkezinde şahsyýetden we kompaniýadan daşgary adamlara täsir edýän has uly gurluş meseleleriniň bardygyny duýýaryn.
Silikon jülgesiniň gykylyk medeniýeti we geljekde bolup biläýjek ýa-da bolup bilmejek wadalara esaslanýan şarlary köpeltmek we dürli toparlara dürli gapma-garşylykly zatlary aýtmagy pikir edýän esaslandyryjy medeniýetiň artmagy sebäpli Sam Altmanbug… Hatda şol fonda-da, Sam Altman Silikon jülgesinde bu zatlara garaşýanlaryň hemmesiniň ygtybarlylygy we dogruçyllygy baradaky bu sorag hakda gürleşmegi bes edip bilmeýän adatdan daşary ýagdaý.
Namyssyzlyk ýa-da ýalan sözlemek baradaky aýyplamalaryň käbir görnüşi sebäpli işden aýrylandygyny eýýäm bilýärdik. Emma adatdan daşary, ajaýyp hasabatyň bardygyna garamazdan, Keç Hagey bu ugurda uly işler etdi. Karen Hao bu ugurda uly işler etdi. Hakyky subut edilýän nokatlar we bularyň köpçüligiň gözüniň alnynda galmagynyň sebäpleri barada takyk düşünje ýokdy.
Şeýlelik bilen, birinji nokat, köpçülige mälim bolan käbir boşluklaryň, hatda Silikon jülgesiniň içerki işgärleriniň bilimindäki käbir boşluklaryň birneme doldurylandygy meni ýüregime düwýär. Boşluklaryň bolmagynyň käbir sebäpleri birneme dolduryldy.
Bu kompaniýanyň içindäki adamlaryň hakykatdanam zatlaryň örtülen ýa-da bilkastlaýyn dokumentleşdirilmedik ýaly duýýan ýagdaýlary barada hasabat berýäris. Bu hekaýadaky täze zatlaryň biri, WilmerHale tarapyndan esasy hukuk firmasynyň derňewi, bu, Enron we WorldCom-yň derňewlerini geçiren hyýaly, ygtybarly, uly hukuk firmasydyr, ýogsa-da, çap edilen ýüzlerçe sahypa ýaly. WilmerHale bu derňewi Altmandan dynansoň, gitmeginiň şerti hökmünde işden aýyran geňeş agzalary tarapyndan talap edilipdi we yzyna gaýdyp geldi. Adatdan daşary - meniň bilen gürleşen köp sanly hukuk hünärmeniniň we bu kompaniýadaky köp adamyň gözüniň alnynda geň galdyryjy zat - olar muny ýazmakdan sakladylar. Ondan ýüze çykanlaryň hemmesi, OpenAI-den 800 sözden ybarat metbugat beýanaty bolup, bolup geçen wakany ynamyň bozulmagy hökmünde häsiýetlendirdi. Munuň dilden brifinglerde saklanýandygyny tassykladyk.
Mysal üçin, geňeş agzasynyň OpenAI-iň asyl kommersiýa görnüşinden girdeji gazanmak maksadyna öwrülmegine garşy ses bermek isleýän ýaly bolup, ol saklanmak hökmünde hasaba alyndy. Duşuşykda bir aklawçynyň: "Bu, gaty köp barlag geçirip biler" diýýän ýaly. Garşy ses bermek isleýän adam, ähli çykyşlardan saklanmak hökmünde hasaba alynýar. Hakyky jedel bar. Göz öňüne getirişiňiz ýaly, OpenAI başgaça talap edýär. Bularyň hemmesi, öz hasabyna geljegimizi elinde saklaýan bir kompaniýaňyz bar.
Howpsuzlyk nokatlary şeýle bir ýiti welin, gitmedi. Bu kompaniýanyň howpsuzlyga gönükdirilen girdeji gazanmak maksady bilen döredilmeginiň we töweregindäki ynamdar adamlaryň hünär derejesinden pes bolmagy üçin zatlaryň gizlenmeginiň sebäbi. Munuň manyly düzgünleşdirilmegine syýasy isleg az bolan fon bilen jübütleşýärsiňiz. Meniň pikirimçe, bu gaty ýanýan ýagdaý.
Meniň üçin esasy zat, Sam Altmanyň bu soraglara gaty mynasyp bolmagy däl. Mundan başga-da, bu ugurdaky ýigitleriň haýsydyr biriniň we esasy şahsyýetleriň köpüsiniň, hemişe ýalan hasaplaýan bu samsyk häsiýetli däl bolsa, elbetde, belli bir derejede ýaryşdan-aşaky mentalitetiň bardygyny görkezýär, bu ýerde howpsuzlyk işgärleri bu borçnamalary ýerine ýetirip, her kim ýaryşda durýarlar.
Antropikden soňky çykan maglumatlara seredenimizde, bu bölekdäki düwmä kimiň barmagy bolmaly diýen soragy berýän bir adam bar diýip pikir edýärin. Jogap, manyly gözegçilik etmesek, çynlakaý soraglar bermeli we bu ýigitleriň hemmesi hakda mümkin boldugyça köp maglumat bermäge synanyşmalydyrys diýip pikir edýärin. Şonuň üçin bu hakda manyly söhbetdeşlik ýa-da biriniň başlangyjy ýaly duýulýan zatlar meni ýüregime düwdi.
Şeýle soramagymyň sebäbi, bu ýerde bir ýarym ýyl işlediňiz. Meniň pikirimçe, bilelikde ýazyjy Endrýu bilen 100 adam bilen gürleşdiň. Bu hekaýanyň bişirilmegi üçin köp wagt. Aýratynam AI-de soňky bir ýarym ýyl hakda pikir edýärin we oglan, bu gahrymanlaryň garaýyşlary we gymmatlyklary gaty çalt üýtgedi.
Belki, ChatGPT-ni çykarandyklary üçin deslapky ýeňiji hökmünde başlanan Sam Altmandan başga hiç kim ýok, hemmeler muny diňe Google üçin alar öýdüpdirler. Soň bolsa Google jogap berdi, bu bolsa Google-yň öz işini goramaga synanyşjakdygyna geň galdyran ýaly bolup, işewürlik taryhy bolmasa, tehnologiýa taryhynyň iň oňat kärhanalarynyň biri bolmagy mümkin. Antrop kärhanada ünsi jemlemegi karar etdi. Buýruk berýän ýalykärhanada AI ulanylyşy gaty ýokary.
Indi, OpenAI önümini “Google-dan alarys” -dan “Codex” -e geçirýär we olar kärhana aljak bolýarlar. Diňe soňky bir ýarym ýylda hasabatyňyzyň dowamynda gürleşýän gahrymanlaryňyzyň üýtgän ýaly duýulýandygyny doly aýdyp biljek däl? Olaryň garaýyşlary we gymmatlyklary ýaly üýtgedimi?
Hawa. Ilki bilen, şu döwürde bu kompaniýalaryň içindäki köp adamdan gelip çykýan bu eserde bar bolan tankydy bellikler - bar bolan paýnamalara garamazdan howpsuzlygyň aşagyndaky ýaryşa girýän we tizligiň hemme zady basýan pudagy - bu alada has ýitileşdi. Meniň pikirimçe, bu aladalar soňky bir ýarym ýylyň içinde has ygtybarly boldy. Şol bir wagtyň özünde Sam Altmana bolan garaýyş aýratyn üýtgedi. Munuň üçin çeşmeler bilen gürleşip başlanymyzda, adamlar hakykatdanam bu hakda sitata berilmegini we bu barada ýazgy ýazmagy makul bildiler.
Hasabatymyzyň ahyryna çenli adamlaryň bu barada aç-açan we aç-açan gürleşýän bir topary bar, we geňeş agzalarynyň "Ol patologik ýalançy. Ol sosiopat" ýaly sözleri aýdýar. “Howpsuzlyk nukdaýnazaryndan bu howply, bize bütewiligi ýokarlandyran bu tehnologiýanyň ýolbaşçylary gerek” diýen dürli pikirler bar, “Howpsuzlyk nokatlaryny ýatdan çykaryň, bu haýsydyr bir uly kompaniýanyň ýolbaşçysy üçin mümkin däl, bu gaty köp işsizlik döredýär.”
Şeýlelik bilen söhbetdeşlik, belki, gijä galan ýaly duýulýar, ýöne bir manyda ýürege düşýär. Sam Altman bolsa, öz pikirine görä ... Sam gaty adalatly we hatda jomart. Bu, "saňa" köp zat bolan ýer däl. Muny gutaranymyzdan soň, onuň bilen telefonda köp, köp sagat geçirdim.
Göz öňüne getirişiňiz ýaly, şuňa meňzeş bir eserde hemme zat muny döredenok. Bu hadysalaryň käbiri çyn ýürekden diňlänligim sebäpli boldy. Eger-de Sam hakykatdanam özümi suw göterýän ýaly duýýan bolsam, bir zat, hatda hakykat bolsa-da, sensasion bolup biler diýip jedel edýän bolsa, men hakykatdanam kazyýet işini ýöretmekde ýalňyşdym. Şonuň üçin bu dogry kabul edilýär diýip pikir edýärin we diňe şu döwürde toplanan bu hakykat ýazgysynyň gözegçiligiň zerurlygy barada has gyzykly söhbetdeşlige sebäp bolup biljekdigine umyt edýärin.
Aslynda bu meniň indiki soragym. Bu hekaýany habar bermegiň dowamynda Sam bilen on gezek gürleşdiň öýdýärin. Againene-de, bu uzak wagtyň dowamynda köp gürleşilýär. Soňky bir ýarym ýylda hasabatyň dowamynda Sam üýtgedi öýdýärdiňizmi?
Hawa. Meniň pikirimçe, munuň iň gyzykly böleklerinden biri, Sam Altmanyň hem bu häsiýet hakda geçmişine garanyňda has aç-açan gürlemegidir. Samyň bu eserdäki ýagdaýy: "Ol ýerde hiç zat ýok, bu dogry däl; näme hakda gürleşýändigiňizi bilemok." Özüniň duruşy, munuň adamlary göwnünden turýan tendensiýa we bir hili dawa-jenjel bilen baglanyşyklydygyny aýdýar. Munuň özi üçin esasanam karýerasynda kynçylyk döredendigini boýun alýar.
Ol: "Hawa, men geçmişden geçýärin ýa-da belli bir derejede geçmeli bolýaryn" diýýär. Meniň pikirimçe, meni hakykatdanam gyzyklandyrýan zat, diňe bir howpsuzlyk goragçylary däl-de, eýsem bu ýiti howpsuzlyk aladalaryna köplenç ýykgyn edýän esasy tehniki gözlegçiler däl, eýsem pragmatiki, uly maýa goýujylar bilen söhbetdeş bolan adamlaryň toparydyr. Käbir ýagdaýlarda bu soraga seredýän we atyşykdan soň gaýdyp gelmeginde möhüm rol oýnan Samyň tarapdarlary. Indi, onuň reforma edilendigi ýa-da bu üýtgeşmäniň nä derejede manylydygy baradaky soragda olar: "Hawa, şol wagt şübhe artykmaçlygyny berdik" diýýärler.
Hususan-da, belli bir maýa goýujy hakda pikir edýärin, "thenöne şondan bäri tokaýyň aňyrsyna çykarylmadygy aýdyň" -diýip, bu sözüň zerur derejede ulanylandygy aýdylýar. Netijede, bu indi durnukly bir häsiýet ýaly bolup görünýär. Muny dowam etdirýäris. OpenAI-iň iň uly işine seredip bilersiňizgatnaşyklar we olaryň görnüşi şol ynamsyzlygyň agyrlygyny dowam etdirýär.
Microsoft-da bolşy ýaly, ol ýerdäki ýolbaşçylar bilen gürleşýärsiňiz, hakykatdanam ýiti we ýakynda katalizasiýa aladalary bar. Şol bir wagtyň özünde, OpenAI-iň esasy raýatsyz AI modelleri babatynda Microsoft bilen aýratynlygyny tassyklaýan, şeýle hem Amazon bilen täze şertnama baglaşyp, döwlet eýe bolan AI agentlerini gurmak üçin kärhana çözgütlerini satmak bilen baglanyşykly täze şertnama yglan edýär.
Microsoft adamlary bilen gürleşýärsiňiz, olar: "Bu, aýratyn şertnama baglaşýan esasy zatlarymyz bilen täsirleşmezden edip bolmaz" ýaly. Şeýlelik bilen, bu häsiýetiň hemişe dowam edýän iş işjeňligine ýykgyn edýän we OpenAI-iň dolandyryş geňeşinde, ýerine ýetiriji toplumynda we has giň tehnologiýa jemgyýetinde işjeň alada döredýän köp sanly mysallaryň diňe biri.
Siz bu "häsiýet" diýmegi dowam etdirýärsiňiz. Hekaýada maňa tezis ýaly duýulýan bir setir bar we bu siziň suratlandyrýan häsiýetiňiziň beýany. "Sam Altman hakykat bilen çäklendirilmedik" we "bir adamda asla görülmeýän iki häsiýeti bar: birinjisi adamlary göwnünden turmak, haýsydyr bir gatnaşykda halanmak islegi, ikinjisi kimdir birini aldamakdan gelip biljek netijeler barada sosiopatiki alada ýok."
Saňa aýdasym gelýär, bu sözlemi 500 gezek okadym we elmydama adamlaryň göwnünden turmak isleýän zadyny aýdyp, soň ýalan sözlänlerinde gaharlanmazlygy göz öňüne getirmäge synanyşdym. Şol zatlaryň şol bir adamda nädip bolup biljekdigine duýgy ýagdaýymy düşündirip bilmedim. Sam bilen köp gürleşdiň we bu häsiýetleri başdan geçiren adamlar bilen gürleşdiň. Muny nädip edýär?
Hawa. Adam derejesinde bu gyzykly, sebäbi men munuň ýaly habar beriş guramalaryna, ýüreginiň kimdigini adamlaşdyrmaga we çuňňur düşünmek we duýgudaşlyk gözlemäge çynlakaý çemeleşýärin. Haçan-da men muňa has ynsan nukdaýnazaryndan çemeleşmäge synanyşanymda: "Haý, meniň bilen işleşen köp adam patologik ýalançy diýseler, bu meniň üçin gaty agyr degýär. Bu agramy nädip göterýärsiňiz? Terapiýada bu barada nädip gürleşýärsiňiz? Bu hakda özüňize aýdýan hekaýaňyz näme?"
Meniň pikirimçe, Günbatar kenarda “Hawa, dem almagy halaýaryn” ýaly bir hili pikir bar. Deepöne özümizi alyp barşymyz we adamlara bolan garaýşymyz hakda şular ýaly pikirleri gören bolsak, köpümiziň pikirimizçe çuňňur öz-özüňe garşy çykmak duýgusy däl.
Bu, hakykatdanam, soraga has giňişleýin jogap berýär diýip pikir edýärin. Sam bu häsiýetiň problema döredendigini, ýöne OpenAI-iň ösüşini çaltlaşdyrmaga mümkinçilik beren bir bölegidigini, dürli toparlary birleşdirip we göwnünden turup biljekdigini öňe sürýär. Bu gapma-garşylykly saýlaw okruglarynyň hemmesini gyzyklandyrýan zadynyň hemişe gyzyklandyrýandygyna ynandyrýar. Bu esaslandyryjy üçin hakykatdanam peýdaly ussatlyk bolup biler. Soňra maýa goýujylar bilen gürleşdim, olar: "Belki-de, hakykatdanam bir kompaniýa dolandyrmak üçin has peýdaly ussatlykdyr, sebäbi gaty köp düşünişmezlik döredýär".
Samöne Samyň şahsy tarapynda, adam derejesine birikmäge synanyşanymda alýan zadym, has çuňňur gapma-garşylygyň, pikirlenmegiň we öz-özüňe jogapkärçiligiň ýoklugydyr, bu hem IPO taýynlanýan bir kompaniýa üçin ägirt güýç ýa-da jogapkärçiligiň bardygyny habar berýär.
Geňeşiň öňki agzasy Sýu oonun sözüniň aýdyşy ýaly, bu ýazgyda "kemsizlik" derejesine çenli ulanylýan söz, satuw meýdançalarynyň üýtgeýän hakykatyna hakykatdanam ynanýan ýa-da özüni ynandyryp bilýän adam. Ora-da bolmasa, iň bolmanda, olara ynanmasa, manyly öz-özüne şübhelenmän, içini bulaşdyryp biler.
Meniň pikirimçe, gürleşýän zadyňyz, nirede ýa-da nirede bolup biljekdigimiz, bu zady aýdanymyzda we beýleki beren kepilligimize ters gelýändigine göz ýetirmek bilen, doňmak ýa-da özümizi barlamak ýaly pursatlar bar. Meniň pikirimçe, bu onuň bilen bolup geçmeýär. Silikon jülgesiniň has giň gerimli medeniýeti we esaslandyryjy medeniýeti bar.
Bu gülkünç. The Verge önümiň gözden geçirilişiniň mukdaryna esaslanýarprogrammasy. Bu ýerde edýän işlerimiziň ýüregi. “Apple R&D” -e ýylda bir gezek trillion dollar saklaýaryn we “Bu telefon ýedi” diýýärin. Bu, ähli hasabatlarymyzy we pikirlerimizi başga bir ýerde kanunlaşdyrýar. Bahalandyryş funksiýamyz bar we diňe AI önümlerine seredip, “Işleýärmi?” Diýmek üçin köp wagt sarp edýäris.
AI hakda şu günki ýaly köp söhbetdeşlikden ýiten ýaly duýulýar. Näme edip biljekdigi, nähili howply bolup biljekdigi barada tükeniksiz söhbetdeşlik bar. Soň bolsa burawlaýarsyňyz we "Aslynda şu gün edilmeli zady edýärmi?" Käbir hadysalarda jogap hawa. Emma köp halatlarda jogap ýok.
Bu, siziň suratlandyrýan gykylyk medeniýetiňiz bilen baglanyşýan ýaly duýulýar, şeýle hem, bir zat etjekdigini aýtmasaňyz, etmeseňiz, kimdir biri özüni erbet duýsa, bu gowy bolar, sebäbi indiki işe başlaýarys. Bu geçmişde. Hususan-da AI-de Sam uly wadalary bermäge ökde.
Diňe şu hepde, meniň pikirimçe, hekaýaňyzyň çap edilen güni, OpenAI sosial şertnamany täzeden gözden geçirmeli we hökümetden AI netijeliligi stipendiýalaryny almaly syýasat resminamasyny çykardy. Bu, käbir tehnologiýalaryň dünýäniň geljegini nähili emele getirip biljekdigi we biziň nähili ýaşaýandygymyz barada ajaýyp wada we bularyň hemmesi, belki-de işlemegi wada berlen ýa-da işlemeli takyk tehnologiýa esaslanýar.
Samyň AI-iň AGI-e ýa-da aňtawçylyga öwrülmegine ýa-da pellehana çykýandygyna şübhelenip gördüňizmi? Sebäbi bu meniň iň köp gyzyklandyrýan zadym. Bu esasy tehnologiýanyň edip biljek zatlarynyň hemmesini edip biljekdigi barada pikir barmy?
Bu, dogry soraglar toplumy. Bu hasabat toparynda gürleşen ygtybarly tehnologlarymyz bar - we Sam Altman beýle däl; ol işewür adam - Samyň bu tehnologiýanyň wagt tertibi barada gürleşişiniň ýaňy çykýandygyny aýdýar. Birnäçe ýyl mundan ozal Samyň: "Biz eýýäm hadysanyň gözýetimine ýetdik. AGI esasan şu ýerde. Gözegçilik bir burçda. Biz beýleki planetalarda bolarys. Rak keseliniň ähli görnüşlerini bejereris" -diýdi. Hakykatdanam, bezemok.
Düwnük keseli, hakykatdanam gyzykly zat, Sam itiň rak keselini teoretiki taýdan ChatGPT bilen bejeren adamy köpeldýär we bu beýle bolmady. ChatGPT bilen gürleşdiler we bu olara hakykatdanam bu işi amala aşyran käbir gözlegçilere ýol görkezmäge kömek etdi, ýöne ýeke-ýekeden bu gural bu itiň bejergisi aslynda hekaýa däl.
Bu meseläni öňe sürendigiňize begenýärin, sebäbi tehnologiýanyň potensialynyň we töwekgelçiliginiň haçan haçan boljakdygy barada has uly meselä geçmek isleýärin. Samöne bu aýratynlygy täzeden özünde jemleýän ýaly görünýän Sam Altmandan yzygiderli bolup geçýän bu kiçijik taraplary bellemelidiris.
Diýjek bolýanym, WilmerHale hasabatynyň mysalyny ulanmak üçin, bu ýerde ýazuwdan saklanmadyk maglumatlarymyz bardy we ýolda dilden gysgaça gysgaça iki geňeş agzasyndan başga hiç kime berilmändigini ýa-da ýokdugyny bilmek isledim. Ol: "Hawa, hawa, ýok, geňeşe goşulanlaryň hemmesine berilendigine ynanýaryn" -diýdi. We ýagdaýy gönüden-göni bilýän adamymyz bar, munuň diňe ýalandygyny aýdýar. Bu hakykatdanam hakykat däl ýaly bolup görünýär. Jomart bolmak islesek, belki oňa nädogry maglumat berler.
Bu tötänleýin kepillikler kän. Men bu mysaly bölekleýin ulanýaryn, sebäbi bu kanuny taýdan hakyky netijelere getirip biljek bölünmegiň ajaýyp mysaly. Delawer kompaniýasynyň kanunlaryna laýyklykda, bu kompaniýanyň IPO-lary, paýdarlar 220-nji bölüme laýyklykda şikaýat edip, esasy resminamalary talap edip bilýän bolsalar, size aýtmak hökman däl. Geňeş agzalary eýýäm: "Bir minut garaşyň, brifing bolmalydy" ýaly zatlary aýdýarlar.
Şonuň üçin hemişe agzyndan bökjek ýaly görünýän bu zatlar, hakyky bazara täsir ediji, OpenAI üçin hakyky täsir edip biler. Ony täzeden ýüze çykan utopik gypjak diline gaýdyp getirmek, meniň pikirimçe, bu eseriň çykan güni tötänleýin däl, bu hemmämize täsir edýär, sebäbi howplar onuň görnüşine görä gaty ýiti.ýarag bilen enjamlaşdyrylmagy, himiki söweş serişdelerini kesgitlemek üçin ulanylyşy, dezinformasiýa potensialy we utopiýa sesiniň köp ynamdar ykdysatçylara: "Bu köpürjik alamatlary bar" diýmegine sebäp bolýan ýaly.
Hatda Sam Altman: "Kimdir biri bu ýerde köp pul ýitirer" -diýdi. Bu kompaniýalaryň hemmesiniň biri-biri bilen iş salyşýan, gaty köp karz alýan mahaly AI-e girýän köpürjigiň hakyky deşilmegi ýaly bolsa, bu hakykatdanam Amerikanyň we global ykdysady ösüşiň köpüsine zyýan ýetirip biler. Şeýlelik bilen Sam Altmanyň aýdýanlary möhümdir we meniň pikirimçe, töweregindäkileriň artykmaçlygy, ýüzden gowrak gürleşendigimizi aýtdyňyz, aslynda ýüzden gowrakdy. Pellehanada söhbetdeş bolduk: "Munuň ýaly has köp san ýalydygyny aýtmak gaty ownuk bolarmy?" Bizem: "Hawa, aşak düşeliň. Gowy oýnarys" ýaly bolduk. Emma gaty köp adam bardy we olaryň aglaba köplügi: "Bu alada". Meniň pikirimçe, şonuň üçinem şeýle.
Size bu san hakda soraýyn. Mentionedokarda belläp geçişiňiz ýaly, adamlar wagtyň geçmegi bilen aladalar bilen has açyklaşdylar. Köpürgäniň töweregindäki basyş - ýeňiş gazanmak, bu maýa goýumlarynyň hemmesini tölemek, ýeňiji hökmünde ýüze çykmak, IPO-da köp garaýyş üýtgedi ýaly duýulýar. Elbetde, Sam we OpenAI-de has köp basyş döretdi.
Şu hepde diňe OpenAI-iň sarsgynlary hakda hekaýa çap etdik. Hekaýaňyz onuň bir bölegi, ýöne OpenAI-de ýerine ýetiriji derejelerde köp sanly işgär üýtgemegi - adamlar gelýär we gidýär. Gözlegçileriň hemmesi esasan Antropiýa ugradylar, meniň pikirimçe hakykatdanam gyzykly. Bu kompaniýanyň basyşy duýýandygyny we bu basyşa belli bir derejede jogap berýändigini görüp bilersiňiz.
Thenöne soň Samyň işden aýrylmagy hakda pikir edýärin. Bu meniň üçin ýatdan çykmajak zat. Bu hiç kim üçin ýatdan çykmajak zat, ýöne anna güni Bronks haýwanat bagynda 7 PM-de çeşme jaň etdim, kimdir biri Samy yzyna aljak bolýandyklaryny aýtdy. Soň bolsa dynç günlerini şol hekaýany kowalap geçirdik. Menem: "Men haýwanat bagynda. Bu ýerde näme etmegimi isleýärsiňiz?" Jogap: "Telefonda gal". Dogrusy, gyzym “Telefondan çyk” ýalydy. Ine, men etdim.
Samy yzyna almak üçin münmek ýa-da ölmekdi. Bu kompaniýa: ", ok, biz Sam Altmana tagtany otlamaga ýol bermeris" ýalydy. Maýa goýumçylary, "Sam söweşini yzyna almak üçin" Urşa gitdik "diýip pikir edýärin. Microsoft Samy yzyna almak üçin söweşe gitdi. Soňrak, indi hemmeler: "IPO-a bararys. Pellehana çykdyk. Guyigidimizi yzyna aldyk, ol bolsa pellehana çykar. Biz onuň ýalançydygyna alada edýäris".
Näme üçin ony yzyna almak üçin uruş boldy? Sebäbi aslynda hiç zat üýtgän ýaly däl. Ilýa Sutskeweriň we [Antropiki baş direktor] Dario Amodeýiň Sam Altmanyň döwürdeşleri bolup ýören ýatlamalary hakda gürleşýärsiňiz. Ilýanyň ilkinji aladasy Samyň ýalançydygydy.
Bularyň hiç biri üýtgemedi. Onda näme üçin ony yzyna getirmek uruş boldy? Indi pellehana çykanymyzda, ähli aladalar açyk däl ýaly.
Ilki bilen, gyzyňyza, ýoldaşymyza we journalistsurnalistleriň töweregindäki beýleki adamlara bagyşlaň.
[Gülýär] Hemmeler üçin dynç güni boldy.
Hawa, bu bir adamyň ömrüni alýar we bu hekaýa soňky döwürde hökman meniňki. Aslynda bu ismurnalistikanyň mowzugy we maglumat elýeterliligi bilen baglanyşykly. Sam üçin söweşe giden maýa goýujylar we onuň hemmesiniň gaýdyp gelmeginde rol oýnadylar, we täjirçilik däl guramanyň ösüşiň howpsuzlygyny ýokarlandyrmak we ynamdar bolmasa, ýerine ýetirijini işden aýyrmak üçin ýörite döredilen geňeş, gitdiler. Bularyň hemmesi, hawa, bazar höwesleri bardy, şeýlemi?
Sam adamlary ynandyrmagy başardy: "Kompaniýa ýykylar". Emma goldawynyň sebäbi maglumat ýetmezçiligi boldy. Şol maýa goýujylar köplenç "Indi yza seredýärin we talaplaryň nämedigini we aladalaryň nämedigini doly bilýän bolsam has köp aladalanmalydygymy pikir edýärin" diýýärler.
Olaryň hemmesi däl;pikirler dürli-dürli bolýar we dürli pikirleri sitata edýäris, ýöne gaty bölekleýin maglumat bilen hereket edýän möhümler bar. Samy işden aýyran tagta, öň tagtada oturan bir adamyň aýdyşy ýaly “gaty JV”, topy gaty ýykdylar. Esasy şikaýatlary dokumentleşdirýäris we adamlar munuň duýulýan gaýragoýulmasyz görnüşe jemlenýändigini ýa-da ýokdugyny özleri çözüp bilerler, ýöne bu argument we maglumatlar berilmeýär.
Käbirleriniň indi kanuny maslahat hökmünde kabul edýän zatlaryny aldylar. Ony düşündirmek üçin sitatany ýadyňyzda saklarsyňyz, belki-de diňleýjileriňiziň we tomaşaçylaryňyzyň köpüsi sitatany ýadyňyza salmaz. Munuň özi azaldyldy, soň bolsa jaň etmezdiler.
Jaň etmezdiler. Synanşandygyňyza ynanýaryn. Tanaýanlarymyň hemmesi synap gördüler we journalisturnalist hökmünde çeşmeleriňize maslahat bermeli däl derejä ýetdi, ýöne men: "Özüňizi düşündirip başlamasaňyz, bu ýok bolar" ýaly boldum.
Bu näme boldy. Journalistsurnalistleri ýatdan çykaryň. Sizde Satýa Nadella: "Näme boldy? Maňa düşündirjek birini alyp bilemok" diýdiňiz. Bu kompaniýanyň esasy maliýe goldawçysy. Soňra Satýa jaň edýär [LinkedIn-iň esaslandyryjysy] Reid Hoffman we Reid jaň edip: "Näme bolandygyny bilemok" diýýär.
Maglumatyň boşlugynda, şeýle gyssagly, duýdansyz atyşy esaslandyrjak adaty AI däl görkezijileri gözleýärler. Bolýar, bolýar, jyns jenaýatlary boldumy? Bu ogurlykmy? Tutuş inçe, ýöne meniň pikirimçe, bu tehnologiýanyň başgaçadygyny we ownuk dönüklikleriň yzygiderli toplanmagynyň bu iş üçinem, belki-de dünýä üçinem manyly bolup biljekdigi baradaky argument esasan ýitirildi. Şeýlelik bilen kapitalistik höwesler ýeňiş gazandy, ýöne muny amala aşyran adamlar hem doly maglumat bilen işlemeýärdiler.
Diňe "her kimiň pikir edişi ýaly" tarapy barada bir salym soramak isleýärin, sebäbi bu habary hökman gördüm we "Aý, erbet bir zat bolmaly" diýdim. Meşhur #MeToo hasabatyny köp etdiň. Garwi Weinşteýn hekaýasyny bozduň.
Bu talaplar barada habar bermek üçin ep-esli wagt sarp etdiňiz, meniň pikirimçe ahyrky netijesiz: Altman kämillik ýaşyna ýetmediklere jyns taýdan zor saldy ýa-da seks işgärlerini hakyna tutdy, hatda OpenAI habarçysyny öldürdi. Diýjek bolýanym, bu zatlary iň berk habar berip biljek adam. Munuň netijesizdigine karar berdiňizmi?
Garaz, bir zadyň puja çykandygyny aýtmak bilen meşgullanamok. Meniň aýdyp biljek zadym, bu talaplara göz aýlap birnäçe aý sarp etdim we olar üçin tassyklama tapmadym. Geljegimize gaty güýçli bu ýigitleriň, çagalarynyň palçyk söweşinde hakykatdanam wagtynyň we serişdeleriniň deňsiz-taýsyz sarp edýändigi meni haýran galdyrdy.
Executiveolbaşçylaryň biri muny “Şekspir” diýip häsiýetlendirýär. Hususy derňewçiniň pullarynyň we düzülýän oppozisiýa resminamalarynyň mukdary yzygiderli. Gynansak-da, Samyň bäsdeşleri tarapyndan aýdylýan ýakymly zatlaryň diňe hakykat hasaplanýar, şeýlemi? Kämillik ýaşyna ýetmedik oglanlary yzarlaýar diýen aýyplama bar we Silikon jülgesindäki köp kokteýl oturylyşyklarynda muny eşidýärsiňiz. Maslahatyň çäginde, muny diňe ynamdar, görnükli ýolbaşçylar gaýtaladylar: "Munuň hakykatdygyny hemmeler bilýär."
Gynanýan zat, munuň nireden gelýändigi, ýaýradylan dürli wektorlary hakda gürleşýärin. Elon Musk we onuň egindeşleri hakykatdanam gaty agyr doslary itekleýän ýaly. Aslynda esasy talaplara seredip başlanyňyzda bug bolýar. Gynandyrýan zat, bu ýerde hakykatdanam gyssagly gözegçilik edilmegine we garalmagyna mynasyp diýip hasaplaýan has köp subutnama esaslanýan tankytlary gizleýär.
Hekaýada hakykatdanam ýüze çykýan beýleki tema, Samyň köp dostunyň barlygyndan gorkmak duýgusy diýen ýaly - Y Combinator-yň baş müdiri wezipesinden başlap, diňe şahsy maýa goýumlaryna çenli köp kompaniýa maýa goýdy, käbirleri OpenAI-iň baş direktory wezipesine gönüden-göni garşy gelýär we töwereginde ümsümlik bar.
Esasanam bir setiri okaýarkam, meni haýran galdyrdy. Ilýa Sutskeweriň ýatlamalaryny suratlandyrýarsyňyz, olar ýaňy Silikon jülgesinde. Hemmelerolara Ilýa ýatlamalary diýýär. Emma töwereginde dymmaklyk hem bar. Geçdiler, ýöne ara alnyp maslahatlaşylmady. Siziň pikiriňizçe bu nireden gelýär? Gorky? Perişde maýa goýmak islegi barmy? Bu nireden gelýär?
Meniň pikirimçe, bu gaty gorkaklyk, dogrymy aýtsam. Çeşmeleriň hemme zady ýitirip, kazyýet jogapkärçiligine çekiljek çeşmeler bolup durýan milli howpsuzlyk wakalary barada habar berenlerinden soňam dogry zady edýärler we jogapkärçilik döretmek üçin zatlar hakda gürleşýärler. Jyns jenaýatlary bilen baglanyşykly hekaýalaryň üstünde işledim, çeşmelerde çuňňur şikes ýetýär we şahsy jezadan gorkýar.
Bu urgynyň töwereginde köp halatlarda öz şahsyýeti we güýji bilen adamlar bilen iş salyşýarsyňyz. Olar ýa meşhur adamlar, ýa-da meşhur adamlar bilen gurşalan. Ygtybarly iş durmuşy bar. Meniň pikirimçe, bu zatlar hakda gürleşmek olar üçin gaty pes täsir. Şükür, iňňe öň gürleşişimiz ýaly hereket edýär, indi adamlar has köp gürleşýärler.
Suchöne şeýle uzak wagtlap adamlar hakykatdanam bu barada ýapyşýarlar, sebäbi meniň pikirimçe, Silikon jülgesiniň medeniýeti gaty rehimsiz öz-özüne gyzyklanýar we rehimsiz iş we ösüşe gönükdirilen. Şeýlelik bilen, bu Samyň işden kowulmagyna gatnaşan käbir adamlara-da agyr degýär diýip pikir edýärin, birnäçe günden soň gören ýeriňiz, hawa, onuň gaýdyp gelmegine we geňeş agzalarynyň işden kowulmagyna sebäp bolan bir faktor, onuň işine düşünmedik maýadarlary ýygnady.
Anotheröne beýlekisi, töweregindäki aladalary başdan geçiren we gyssagly ses beren salfetkalar ýaly bukulyp, ýeliň başga tarapa öwüsýänini gören pursatlaryny üýtgedip, girdeji otlusynda islediler.
Habarçy hökmünde meniň pikirimçe gaty garaňky.
Şol adamlaryň käbiri Mira Murati, meniň pikirimçe, 20 minutlap OpenAI-iň täze baş direktorydy. Soňra onuň ýerine çalşyldy. Bu gaty çylşyrymly dinamikdi we Samyň gaýdyp gelendigi äşgärdir. Beýleki adam, Samy aýyrmak üçin sesleriň biri bolan Ilýa Sutskewer, soň bolsa pikirini üýtgetdi, ýa-da iň bolmanda pikirini üýtgedendigini aýtdy, soň bolsa öz kompaniýasyny açmak üçin gitdi. Pikirini üýtgetmegine näme sebäp bolandygyny bilýärsiňizmi? Diňe pul boldumy?
Dogrusy, düşnükli bolsa, men bu ikisini aýdym aýdamok. Ot açmaga gatnaşan beýleki geňeş agzalary hem bar, soňam gaty dymdylar. Bu has giň köpçülikleýin meselä meňzeýär diýip pikir edýärin. Bular, käbir ýagdaýlarda duýduryşlary çykarmak we düýpli çäre görmek üçin ahlak süýümi bolan adamlardyr we bu öwgä mynasyp. Jogapkärçiligi kepillendirýärsiňiz. Bu tehnologiýa täsir eden köp adama kömek edip bilerdi. Howpsuzlyga gönükdirilen bir pudaga has manyly bolup bilerdi.
Whöne pälwanlar we bu jogapkärçiligi köp talap etjek adamlar bilen iş salyşanyňyzda, ony berkitmek we öz ynanjyňyz bilen durmak üçin süýüm gerekdigini görýärsiňiz. Bu pudak hakykatdanam öz ynançlary bilen durmaýan adamlardan doly.
Her niçigem bolsa ähli zähmeti ýok eder ýa-da has köp zähmet döreder ýa-da bir zat bolar ýaly sanly Hudaý gurýarys diýip pikir etseler-de.
Dogry, bu zat. Şeýlelik bilen, yssylygyň ýa-da işdäki ornuňyza howp abandyrjak islendik pursatda öz ynanjyňyz bilen durmazlyk medeniýeti, haýsydyr bir widjet ýasaýan işewürler üçin belli bir derejede gowy we gowy bolmagy mümkin.
Theseöne bular "Bu sözüň manysynda hemmämizi öldürip biler" diýýän adamlar. Againene-de “Terminator Skynet” -e aşa gitmeli däl. Eýýäm durmuşa geçirilýän töwekgelçilikler toplumy bar. Bu hakykat we bu barada duýduryş bermek dogry, ýöne başga bir kreslo oturgyjynyň gyssagly duýduryşlary eşidýän şol bir adamda nädip ýaşap biljekdigini psihologiki taýdan öwrenmeli bolarsyňyz, belki aýagynyň barmaklaryny goýup, bir zatlar etjek bolýarlar, soň bolsa bukulyp dymýarlar.
Hut şonuň üçinem zatlaryň ýazylmazlygy we halynyň aşagyna süpürilmegi ýaly mysallara eýe bolup bilersiňiz, hakykatdan soň ençeme ýyllap bu barada hiç kim aç-açan gürleşmeýär.
Bu ýerdäki tebigy, jogapkär tarap bu kompaniýalaryň baş direktory bolmaz; hökümet bolardy. ABŞ-da, belkiştatlaryň hökümetleri, belki federal hökümetdir.
Elbetde, bu kompaniýalaryň hemmesi global bolmak isleýär. Bu ýerde global täsirler köp. OpenAI, Google we Antropic-iň hemmesine Baýden administrasiýasynyň AI ýerine ýetiriji buýrugyny goýbermegine syn etdim. Ahyrynda gaty dişsizdi. Diňe modelleriniň nämäni başarýandyklary barada gürleşmelidigi we käbir howpsuzlyk synaglaryny goýbermelidigi aýdylýar. Soň bolsa hemmesi Trump-ny goldadylar, Trump içeri girip, hemmesini süpürdi-de: "Bäsdeşlik etmeli. Bu hemmeler üçin mugt. Munuň üçin gidiň" -diýdi.
Şol bir wagtyň özünde, hemmesi nebit pullary köp bolan we ykdysadyýetini üýtgetmek isleýän Easternakyn Gündogar ýurtlaryndan serişdeleri toplamaga synanyşýarlar. Bu syýasatçylar. Syýasatçylar kimdir biriniň agzyndan iki tarapdan gürleýändigine hökman düşünmeli ýaly duýýaryn, ahyrynda kimdir biri lapykeç bolsa, gaty gynanmazlar, ýöne syýasatçylar hem gezelenje çykýarlar. Siziň pikiriňizçe näme üçin beýle?
Bu, hakykatdanam, meniň pikirimçe, eseriň näme üçin möhümdigi we näme üçin bu wagty we jikme-jiklikleri sarp etmegiň ähmiýeti bar. Biz, aýdyşyňyz ýaly, gözegçilik etmegi üpjün etmeli ulgamlaryň diňe boşadylan gurşawynda. “Citizens” -den soňky Amerikanyň Birleşen Ştatlary, bu ýerde pul akymynyň çözülmezligi we bu meseläniň AI-iň töwereginde jemlenmegi, bu döwlet we federal derejede manyly düzgünleri ýatyrmak üçin pul köpelýän we suw joşýan bu PAC-lary bar.
Sizde [OpenAI esaslandyryjy] Greg Brokman, Samyň ikinji serkerdesi, şolaryň ikisine esasy goşant goşdy. Kanun çykaryjylaryň we potensial düzgünleşdirijileriň hakykatdanam tutulýan ýagdaýyna eltýär we bu çykmak gaty spiral. Gynanýan zat, bu jogapkärçilik meseleleriniň käbirine kömek edip biljek käbir syýasatlar, dünýäniň başga bir ýerinde synagdan geçirilýän ýönekeý syýasat hereketleri bar diýip pikir edýärin.
Loydewropada serhet modelleri üçin eýýäm bolup geçýän bir zat, deslapky howpsuzlyk synagyny geçirip bilersiňiz. Içerki derňewleriň görnüşleri üçin bu ýagdaýda zatlaryň ýazylmaýandygyny gören has berk jemgyýetçilik talaplary bolup biler. Sam Altmanyň öňe sürýän Easternakyn Gündogar infrastruktura ambisiýalarynyň görnüşleri üçin has ygtybarly milli howpsuzlyk gözden geçiriş mehanizmleri bolup biler.
Aýdyşyňyz ýaly, ol bu ýumrugy edýärdi we Baýden administrasiýasy bilen "Bizi düzgünleşdiriň, düzgünleşdiriň" -diýip, ýerine ýetiriji buýruk taýýarlamaga kömek etdi, soň bolsa Trumpyň giren ilkinji pursady, hakykatdanam, tizleşeliň we Abu-Dabide uly maglumat merkezini guralyň. Mümkin bolup biler, bu hakykatdanam goragçy ýaly gorag. Bu bölümde efire berilýän bu hili howpsuzlyk aladalaryny açýan AI kompaniýasynyň işgärlerini goraýan federal kanun ýok.
OpenAI-de uly howpsuzlyk ýigidi bolan Lean Leike-iň kompaniýada super tekizlige ýolbaşçylyk eden ýagdaýlary bar. Geňeşe, esasan, habar beriji material ýazyp, kompaniýanyň howpsuzlyk missiýasyndan relsden çykýandygyny aýtdy. Bular hakykatdanam baryp biljek gözegçilik guramasy bolmaly we beýleki pudaklarda görýän görnüşlerimiziň aç-açan kanuny goragy bolmaly. Sarbanes-Oksli stilindäki re regimeimi köpeltmek ýönekeý.
Silikon jülgesinde ähli güýç ulanyjylara gözegçilik etmek meselesiniň näderejede ýiti bolandygyna we gözegçilik we garawul berip biljek bu edaralaryň käbiriniň näderejede boşdugyna garamazdan, men henizem demokratiýanyň we öz-özüni gyzyklandyrýan syýasatçylaryň esasy matematikasyna ynanýaryn. Amerikalylaryň köpüsiniň häzirki wagtda AI-iň aladalary, soraglary ýa-da töwekgelçilikleri artykmaçlyklardan ýokary diýip pikir edýän saýlaw soraglary barha köpelýär.
Şeýlelik bilen, AI-den syýasata pul joşmagy, syýasatçylara degişlilikde sorag belgisiniň çeşmesini döretmek biziň elimizde. Amerikalylar ses bermäge gidenlerinde, ses beren adamlarynyň, esasanam, bu aladalary göz öňünde tutup, tankyt etmeýän we düzgünleşdirme garşy bolsa, uly tehnologiýa aýratyn gyzyklanmalary bilen hasaba alynýandyklaryny barlamaly. Şonuň üçin adamlar şuňa meňzeş eserleri okap, şular ýaly podkastlary diňläp we tankydy pikirlenmek üçin ýeterlik alada edip bilýän bolsalar diýip pikir edýärinsaýlawçylar hökmünde kabul eden kararlary, gözegçilikde saklaýan we gözegçiligi güýçlendirýän wekillerden Waşingtonda saýlaw okrugyny döretmek üçin hakyky mümkinçilik bar.
Bu, häzirki AI pudagy barada kimdir biriniň aýdanyny eşiden iň optimistik zatlarymyň biri bolup biler. Men muňa ýokary baha berýärin. Siziň aýdýan ses berişligiňiz bilen gyzyklanýaryn. Häzir gaty köp. Bularyň hemmesi gaty yzygiderli we esasanam ýaşlar AI-e näçe köp täsir etse, şonça-da ynamsyz we gaharly ýaly görünýär. Bu, ähli ses berişligiň gymmaty. Men muňa seredýärin we akylly syýasatçylar munuň garşysyna ylgaýarlar diýip pikir edýärin. Diňe: "Uly tehnologiýalary jogapkärçilige çekeris" diýerler.
Soň bolsa, soňky 20 ýyl hakda pikir edýärin, bir syýasatçy uly tehnologiýa jogapkärçiligini çekjekdiklerini aýdýar we uly tehnologiýalaryň bir pursatynyň hem jogapkärçilige çekilmegini tapmak üçin göreşýärin. Munuň başgaça bolup biljekdigini pikir edýän ýeke-täk zat, hakykatdanam maglumat merkezlerini gurmaly bolarsyňyz we muňa garşy ses berip bilersiňiz, garşy çykyp bilersiňiz we muňa garşy çykyp bilersiňiz.
Meniň pikirimçe, maglumat merkezine ses berendikleri üçin öýüni ýaňy atan syýasatçy bar. Dartgynlylyk ýetýär, gyzzyrma diýip atlandyrardym. Silikon jülgesiniň özboluşlylygyny suratlandyrdyňyz. Bu ýapyk ekosistema. Dünýäni dolandyryp bilerler öýdýän. Syýasata bir tonna pul goýýarlar we adamlar önümleri kän bir halamaýan önümleri halamaýarlar diýen hakykata garşy çykýarlar. Önümleri näçe köp ulansalar, şonça-da gaharlanýarlar we syýasatçylar tehnologiýa pudagyny wekilçilik edýän adamlaryndan goldamagyň hakyky netijeleriniň bardygyny görüp başlaýarlar.
Siz köp adam bilen gürleşdiňiz. Tehnologiýa pudagynyň öňünde dogry sapak almagy mümkin diýip pikir edýärsiňizmi?
Dünýäni jogapkärçiliksiz dolandyryp bilerler öýdýän ýaly duýýarsyňyz. "Duýulýan ýaly" kwalifikasiýa zerur diýip pikir etmeýärin. Diýjek bolýanym, Piter Tiýeliň ulanýan diline seredýärsiňiz. Elbetde, bu gaty gowy mysal. Sam Altman, Tiýeliň ideologiýasy bilen ýakyn gatnaşykda bolsa we belli bir derejede habarly bolsa-da, üýtgeşik we belli bir derejede ölçelip bilýän başga bir adam.
Iöne, meniň pikirimçe, Tiýelden alýan has giň ideologiýa: Demokratiýa bilen iş bitirdik, mundan beýläk bize zerurlyk ýok. Bizde gaty köp zat bar, diňe öz kiçijik bunkerlerimizi gurmak isleýäris. Indi Karnegi ýa-da Rokfeller bilen iş salyşmaýarys, olar erbet adamlar, ýöne olar sosial şertnama gatnaşmaly we adamlar üçin zatlar gurmaly diýip hasaplaýarlar. Içinde hakyky nihilizm bar.
Meniň pikirimçe, bu Amerikanyň soňky taryhynda mogollaryň we ýokary hökümet güýjüne eýe bolan hususy kompaniýalaryň taryhynda birek-biregi güýçlendirýän spiral boldy, jogapkärçilik çekip biljek demokratik institutlar ýok. Şol ýigitleriň diňe bir gün oýanyp, "Huh, aslynda jemgyýete gatnaşmagymyz we adamlar üçin zatlar gurmagymyz gerek" diýen pikiri umytly duýamok.
Diýjek bolýanym, haýyr-sahawat ýaly bolup görünýän bir pursat bar, şol pursat indi geçdi we hatda üstünden güldi. Bu bir mesele, jogapkärçiligiň ýoklugynyň has giň meselesi, meniň pikirimçe diňe daşardan çözülip bilner. Bu, hökümetiň gözegçiligini güýçlendirýän we täzeden dikeldýän saýlawçylar bolmaly. Adamlaryň gazanyp biljek esasy wektorynyň ýerli bolandygyny aýtmak dogry. Bu infrastrukturanyň nirede gurulýandygy bilen baglanyşykly.
Zorluga we howplara sebäp bolýan ak-dartgynly dartgynlylygy agzadyňyz, elbetde hiç kim zorlukly ýa-da haýbat atmaly däldir. Şeýle hem, men bu ýerde esasy ýaly görünýän we dünýäniň başga bir ýerinde işleýän käbir syýasat ädimlerini hödürlemekden başga anyk syýasat tekliplerini bermek üçin gelenok, şeýlemi? Ora-da beýleki pudaklarda işlänler. Bularyň haýsysynyň jezalandyrylmalydygyny we nädip edilmelidigini aýtmak üçin bärde däl.
Meniň pikirimçe, bir zat bolmaly we diňe bu kompaniýalara ynanman, daşarky bolmaly. Sebäbi dogryindi tehnologiýany ösdürýän we töwekgelçiliklere düşünmek üçin iň oňat enjamlaşdyrylan we aslynda töwekgelçilikler barada bize duýduryş berýän kompaniýalar hem çalt gitmäge we şol töwekgelçilikleri äsgermezlik etmekden başga zat ýok. Munuň bilen deňagramlylygy saklajak zadyňyz ýok. Şonuň üçin aýratynlyklar nukdaýnazaryndan haýsy reformalar amala aşyrylyp bilner, bir zat muňa garşy çykmaly. Halkyň henizem möhüm bolan şol optimizmine gaýdyp gelýärin.
Men köplenç siziň argumentiňizi satyn alýaryn. Diňe aýdyp bilerin öýdýän, kiçijik bir garşylyk görkezmäge rugsat ediň. Saýlaw gutusynyň daşynda bolup biläýjek başga bir zat, köpürjik çykýar, şeýlemi? Bu kompaniýalaryň hemmesiniň pellehana ýetip bilmeýändigi we sarp ediji AI programmalary üçin önüm bazarynyň ýokdugy. Againene-de bir gezek, entek doly göremok, ýöne sarp ediji tehnologiýa synçysy, belki, hemmelerden has ýokary standartlarym bar.
Iş dünýäsinde önüm bazary bar, şeýlemi? Bir topar AI agentiniň bolmagy bir topar programma üpjünçiligini ýazmak bu gurallar üçin hakyky bazar ýaly bolup görünýär. Bu kompaniýalaryň "Kodlaşdyrmagy çözdük we bu islendik zady çözüp biljekdigimizi aňladýar. Programma üpjünçiligini ýasap bilsek, islendik meseläni çözüp bileris" diýen argumentleri okap bilersiňiz.
Programma üpjünçiliginiň edip biljek zatlarynyň hakyky çäkleri bar diýip pikir edýärin. Bu iş dünýäsinde gaty gowy. Programma üpjünçiligi hakykatda her meseläni çözüp bilmeýär, ýöne olar şol ýere ýetmeli. Işi gutarmaly boldular, belki hemmeler pellehana çykmaz. Bir heläkçilik bar, bu köpürjik açylýar, belki OpenAI ýa-da Antrop ýa-da xAI, bu kompaniýalaryň biri şowsuz bolup, bu maýa goýumlarynyň hemmesi ýitip gidýär.
Siziň pikiriňizçe munuň täsiri bolarmy? Aslynda, ilki bilen birinji soragy bermäge rugsat ediň. OpenAI IPO-nyň başynda. Sam hökmünde lider hökmünde köp şübheler bar. Pellehana çykarlar öýdýärsiňizmi?
Öňünden çaklamak islämok, ýöne möhüm bir pikiri öňe sürýärsiňiz, ýagny Silikon jülgesinde bazar höwesleriniň möhümdigi we häzirki köpürjik dinamikasynyň takyklygy, tankytçylaryň pikiriçe, howpsuzlygyň aşagyndaky ýaryşa päsgel berer.
Mundan başga-da, şuňa meňzeş we geçip bolmajak ýaly görünýän bazar höweslendiriş toplumy we halk üçin potensial öçürip biljek taryhy ähmiýetine seretseňiz, kazyýet işi täsir eder. Soňky döwürde muny alada goýýan bir ugur hökmünde görýärsiňiz. Sam Altman şu hepde AI kompaniýalaryny, mysal üçin, OpenAI-nyň nädogry ölüm kazyýet işlerine sezewar bolan käbir jogapkärçilik görnüşlerinden gorajak kanunlary goldaýar. Elbetde, jogapkärçilikden şol galkana eýe bolmak islegi bar.
Kazyýetler henizem manyly bir mehanizm bolup biler we bu kazyýet işleriniň nähili emele gelýändigini görmek gaty gyzykly bolar diýip pikir edýärin. Mysal üçin, meniň we tanaýan beýleki köp sanly ýazyjymyň, awtorlyk hukugy astyndaky kitaplary ulanandyklary üçin Antropikanyň garşysyna synp kostýumyny eýýäm gördüňiz. Uly temmäkiden uly energiýa çenli taryhda görşümiz ýaly akylly kanuny akyllar we şikaýatçylar bar bolsa, adamlary haýallatmak, seresap bolmak ýa-da goramak üçin käbir garawullary we käbir höwesleri alyp bilersiňiz.
AI pudagynyň ähli çykdajy gurluşy adalatly peýdalanmagyň gaty haýyr-sahawat düşündirişine bagly ýaly duýulýar. Enougheterlik däl. Bu kompaniýalaryň çykdajy gurluşy, size we işlerine gatnaşan beýleki adamlara tölemeli bolsa, gözegçilikden çykyp biler, ýöne bu hakda pikir etmek amatsyz, şonuň üçin bu hakda pikir etmeýäris. Edil şol gapdalynda, bu önümleriň hemmesi indi ýitgi bilen işleýär. Häzirki döwürdäki ýaly, hemmesi ýitgi bilen ylgaýarlar. Girdejisinden has köp pul ýakýarlar. Belli bir wagt, wyklýuçateliň üstünden süýşmeli bolýarlar.
Sam telekeçi. Birnäçe gezek belläp geçişiňiz ýaly, ol tehnolog däl. Ol işewür adam. Siziň pikiriňizçe, ol wyklýuçatelini süpürip: "Dollar ederis?" Sebäbi, "OpenAI muny eder öýdýärsiňizmi?" Dollar gazanmaly bolanda. Şu wagta çenli Sam kompaniýalaryndan pul gazanmagyň ýerine beýleki adamlardan pul sorap, ähli dollarlaryny gazandy.
Bu, Silikon jülgesi, maýadarlar we halk üçin gaty uzyn sorag.Käbir jümleleri görýärsiňiz we bu barada bir hili howsala döredýän ýaly OpenAI-den göçýärsiňiz. Sorany ýapmak, käbir goşmaça taslamalary ýapmak, esasy önümde nola öwrülmäge synanyşmak. Thenöne beýleki tarapdan, şol bir wagtyň özünde-de tonna missiýanyň süýşmegini görýärsiňiz, şeýlemi? Hat-da kiçijik bir mysal - bu olaryň işinde esasy däl - TBPN-ni satyn almak.
Theeri gelende aýtsak, pellehana ýetip, hakykaty barlamak bilen, şunuň ýaly isticurnalistik gözleg bilen ýüzbe-ýüz bolýan kompaniýa, söhbetdeşlige has göni gözegçilik edip biljek platforma edinýär. Gepleşigime esaslanyp, ähli adamlara hemme zady wada bermek meselesiniň esasy işewürlik modelinde bu ünsi ýoklugyna ünsi çekýän köp maýa goýujy bar diýip pikir edýärin. Diýjek bolýanym, bazary çaklamak we synlamak görnüşine, ähtimal, has ýakyn. Men sizi we diňleýjileri OpenAI-iň wyklýuçatelini agdaryp biljekdigine ýa-da ýokdugyna kazy hökmünde goýaryn.
Dogrusy, men bu soragy berdim, sebäbi sizde Microsoft-yň ýokary derejeli bir ýolbaşçysyndan bir söz bar, we "Samyň mirasy Stiw Jobs däl-de, Berni Madoff ýa-da Sam Bankman-Frid ýaly bolup biler". Bu gaty deňeşdirme. Bu deňeşdirmeden näme edýärsiňiz?
Meniň pikirimçe, bu bir söz. Stiw Jobs bölegi sitatanyň bir bölegi däldi. Itöne munuň üçin gyzykly bir pikir bar, sebäbi "SBF ýa-da Madoff derejesindäki kezzap bolmakdan ýüz öwürmek üçin kiçijik, ýöne hakyky bir mümkinçilik bar" ýaly sözler bar. Manysy, meniň pikirimçe, Samyň bu aýratyn galplyklarda ýa-da jenaýatlarda günäkärlenýändigi däl-de, eýsem Samdan aýrylmak we aldaw derejesi ahyrsoňy şol ölçegde ýatda galmak mümkinçiligine eýe bolup biler.
Hawa, meniň pikirimçe, bu sitatada iň täsir galdyryjy zat, dogrymy aýtsam, Microsoft-a jaň edip, "Bu däli. Biz muny asla eşitmedik" ýaly bir zat bolmaz. “Hawa, bu ýerde köp adam pikir edýär” ýaly köp zat alýarsyňyz, bu ajaýyp. Meniň pikirimçe, bu hozlara gidýär we işewürlik soraglaryny döredýär.
Bir maýa goýujy, mysal üçin, atyşdan soňky ýyllarda bu häsiýetiň dowam etdirilişini göz öňünde tutup aýtdy "- we bu hem gyzykly bir pikirdi - Samyň bu tehnologiýany düýbünden gurmaly däldigi sebäpli, iň pes derejäniň bolmalydygy, bu sanawyň iň pes derejesini görkezýän adamlar bar. Elon Musk diýýänler bar. AGI guruň we bu ugurda başga-da birnäçe öňdebaryjy şahsyýetiň aşagynda.
Şeýlelik bilen, bu gyzykly baha berildi diýip pikir etdim we bu pikir, hakyky howpsuzlyk pragmatistlerinden alarsyňyz öýdýärin, belki-de howpsuzlyk aladalaryny kän satyn almaz. Diňe ösüşe gönükdirilen we OpenAI-de indi Sam Altman bilen baglanyşykly problema bar öýdýärler.
Microsoft eseri hakykatdanam gyzykly. Şol kompaniýa özlerini dünýäniň başynda diýip pikir etdi. Bu maýa goýumlaryny goýandyklary we hemmeleriň, esasanam iň möhümi Google-dan böküp, sarp edijileriň hoşniýetliligine gaýdyp geljekdikleri. Bu başdan geçirmelerden ýanandyklaryny duýýan derejeleri - bu gaty seresaply bir kompaniýa - artykmaç pikir edip bilmerin.
Nyşanlary we şahsyýet aýratynlyklaryny agzadyňyz. Bu ýerde diňleýjilerimiziň soragy bilen tamamlamak isleýärin. Beýleki görkezişimiz bolan “The Vergecast” -da siziň bilen gürleşjekdigimi aýtdym we “Ronan üçin bu hekaýa barada soraglaryňyz bar bolsa habar beriň” diýdim. Şeýlelik bilen, bu ýerde siziň suratlandyrýan zatlaryňyz bilen arabaglanyşyk bar diýip pikir edýän birimiz bar. Men muny diňe size okamakçy:
Badaramaz gylyk-häsiýetleriň, Altmanyň we beýleki AI liderleriniň hereketleri Ronanyň syýasatda we metbugatda beýleki ýokary derejeli ýolbaşçylardan eşiden delillerinden nähili tapawutlanýar? Olaryň hemmesi dünýäni üýtgedýär diýmek bilen hereketlerini aklap bilenokmy? Muny etmesem, başga biri eder? "
Hawa, töwereginde köp zat bar. AI-den tapawutly zat, ekzistensial paýlaryň gaty ýokary bolmagy töwekgelçilik jümleleriniň ikisiniň hem aşa bolandygyny aňladýar, şeýlemi? Sizde Sam Altman bar"Bu hemmämiz üçin yşyk bolup biler" -diýdi. Tankytçylaryň pikiriçe, sorag berijiniň aýdýan manysy aşa, şeýlemi?
Samyň Elony günäkärlän zady, belki-de adamzady halas etmek isleýän bolmagy mümkin, ýöne diňe özi bolsa. Wineňmek isleýän ego komponenti, çarçuwaly Sam hemişe ulanýar we bu taryh kitaplary üçin bir zat, bu hemme zady üýtgedip biler. Şonuň üçin, Silikon jülgesindäki kärhanalaryň köpüsiniň “birnäçe ýumurtgany döwmeli” pikiriniň üstünde we daşynda, AI-ni öňe sürýän käbir şahsyýetleriň aňynda, islendik ýalňyşlyklar üçin doly rasionalizasiýa bar.
Eggsumurtga döwmegi ýatdan çykaryň. Howpsuzlyk boýunça gözlegçileriň köpüsi ýurdy döwmek, dünýäni bozmak we iş we howpsuzlygy deňagramlylygy saklaýan millionlarça adamy döwmek howpy abanýar diýýärler - bu üýtgeşik zat. Ine, ýapýan ýerim, hasabat hasabaty hakda pikirlenip, munuň Sam Altmandan has köpdügine ynanýaryn. Bu, çäklendirilmedik bir pudak we Amerikanyň çäklendirip bilmeýän meselesi.
Hawa. Dogrusy, ol ýerde birneme optimizm bardy, ýöne bu ýerden çykmak üçin gowy ýer diýip pikir edýärin.
[Gülýär] Pese gaçmak bilen gutar.
Elbetde. Bu hakykatdanam ajaýyp hekaýa. “Musk-Altman” kazyýet işi ýakyn wagtda. Meniň pikirimçe, bu ýerde has köp zat öwreneris. Men ýene siziň bilen gürleşmek isleýändigime ynanýaryn. Ronan Farrow, “Decoder” -de bolanyňyz üçin köp sag boluň.
Sag boluň.
Bu bölüm hakda soraglar ýa-da teswirler? Bizi [email protected] salgysyna basyň. Biz hakykatdanam her e-poçta okaýarys!
