Îro li ser Decoder, ez bi Ronan Farrow re diaxivim, yek ji mezintirîn stêrkên raporkirina lêkolînê ku îro dixebite. Wî çîroka Harvey Weinstein, di nav gelek, gelekên din de şikand. Hefteya çûyî, wî û hev-nivîskar Andrew Marantz di The New Yorker-ê de taybetmendiyek kûr a bêhempa li ser CEOyê OpenAI Sam Altman, pêbaweriya wî, û bilindbûna OpenAI-yê bi xwe weşand.
Nîşeyek berî ku em li vir herin pêşdetir - The New Yorker ew çîrok weşand û min û Ronan ev sohbet kir berî ku em berfirehiya êrîşên li ser mala Altman zanibin, ji ber vê yekê hûn ê nebihîzin ku em rasterast li ser wê biaxivin. Lê tenê ji bo vê yekê bêjim, ez difikirim ku tundûtûjiya her cûre nayê qebûl kirin, ev êrîşên li ser Sam nayê qebûl kirin, û ew celebê bêçaretiya ku mirov hîs dike, ku dibe sedema vî cûreyê şîdetê, bi xwe nayê pejirandin, û hêjayî lêkolînek pir zêde ye hem ji hêla pîşesaziyê û hem jî ji rêberên me yên siyasî. Ez hêvî dikim ku ew eşkere ye.
Aboneyên Verge, ji bîr nekin ku hûn li ku derê podkastên xwe distînin hûn gihîştina taybetî ji Dekodera bê reklam digirin. Li vir serî. Ne aboneyek? Hûn dikarin li vir qeyd bikin.
Tiştê ku got, li dora Altman ku lîstikek adil e ji bo raporkirina hişk - celebê raporê ku Ronan û Andrew destnîşan kirin ku bikin, gelek dizivirin. Bi saya populerbûna ChatGPT, Altman wekî fîgurê herî diyar ê pîşesaziya AI derketiye holê, ku di nav çend salan de laboratûwarek lêkolînê ya neqezenc veguherandiye pargîdaniyek taybetî ya hema hema trîlyon dolar. Lê efsaneya Altman bi kûrahî nakokî ye, hem ji hêla kapasîteya wî ya eşkere ya danûstandinê ve û hem jî meyla wî ya ragihandinê ya ku… baş e, derewan li her kesê li dora xwe dike.
Çîrok zêdetirî 17,000 peyvan dirêj e, û tê de bê guman hesabek diyar a tiştê ku di sala 2023-an de qewimî dema ku desteya rêveber a OpenAI ji nişka ve Altman ji ber derewa wî ya îdiakirî ji kar derxist, tenê ji bo ku ew hema di cih de ji nû ve were xebitandin. Di heman demê de ew di jiyana kesane ya Altman de, veberhênanên wî, dîwankirina wî ya dravê Rojhilata Navîn, û nerînên wî yên li ser tevger û taybetmendiyên karakterê wî yên berê ku rê li yek çavkaniyê girt ku bêje ew "ji rastiyê re bêsînor bû." Ez bi rastî pêşniyar dikim ku hûn tevahiya çîrokê bixwînin; Ez guman dikim ku ew ê gelek salên pêş de were referans kirin.
Ronan di nav 18 mehên ku wî ji raporkirina vê beşê re derbas kir gelek caran bi Altman re peyivî, û ji ber vê yekê yek ji tiştên sereke ku ez jê meraq kirim ev bû ku wî di wê demê de guhertinek di Altman de hîs kir. Beriya her tiştî, di sal û nîvê borî de di AI, teknolojî û li cîhanê de pir tişt qewimîn.
Hûn ê bibihîzin ku Ronan pir rasterast li ser vê yekê diaxive, û hem jî hesta wî ya ku mirov pir dilxwaztir bûne ku li ser şiyana Altman a dirêjkirina rastiyê biaxivin. Mirov dest pê dikin, bi dengekî bilind û li ser qeydê bipirsin, gelo tevgera mirovên mîna Altman ne tenê ji bo AI an teknolojiyê lê di heman demê de ji bo paşeroja kolektîf a civakê jî eleqedar e.
Okay: Ronan Farrow li ser Sam Altman, AI, û rastiyê. Gelek xirab.
Ev hevpeyivîn ji bo dirêj û zelaliyê bi sivikî hate guherandin.
Ronan Farrow, tu nûçegihanek lêkolîner û hevkarê The New Yorker î. Hûn bi xêr hatin Dekoderê.
Kêfxweş im ku li vir im. Spas ji bo hebûna min.
Ez pir kêfxweş im ku bi we re biaxivim. We tenê ji bo The New Yorker perçeyek mezin nivîsand. Ew profîla Sam Altman e û, bi vî rengî, OpenAI ye. Xwendina min a wê ev e ku, wekî ku hemî taybetmendiyên mezin dikin, ew, bi raporkirina hişk, gelek hestên ku mirov ji bo demek pir dirêj di derbarê Sam Altman de hebûn piştrast dike. We eşkere weşandiye, we bertek nîşanî vê yekê daye. Hûn niha li ser wê çawa hîs dikin?
Welê, ez dilgiran bûm, bi rastî, ji ber ku ew di demek ku aboriya baldariyê ew qas şîzofrenîk û sivik e de têk çûye. Ev çîrokek e ku, bi dîtina min, bandorê li me hemûyan dike. Û gava ku min sal û nîvek ji jiyana xwe derbas kir, û hev-nivîskarê min, Andrew Marantz, ew dema xwe jî derbas kir, bi rastî hewl da ku tiştek dadperwerî û hûrbîn bike, ew her gav ji ber ku ez hîs dikim ku pirsgirêkên avahîsaziyê yên mezintir hene ku bandorê li mirovên li derveyî ferd û pargîdanî dikin di dilê çîrokê de.
Sam Altman, li dijî paşxaneya çanda hîpe ya Silicon Valley û destpêkên ku balonê didin nirxanên girseyî yên li ser bingeha sozên ku dibe ku di pêşerojê de pêk werin an jî nebin, û hembêzek zêde ya çandek damezrîner ku difikire ku ji komên cûda re tiştên cûda yên nakok bêje taybetmendiyek e, nexelet… Tewra li hember wê paşerojê jî, Sam Altman dozek awarte ye ku her kesê li Silicon Valley ku li benda wan tiştan e, nikare dev ji axaftina li ser vê pirsa pêbawerî û durustiya wî berde.
Me berê dizanibû ku ew ji ber hin guhertoyên îdiayên bêrûmetiyê an rêzefîlmê ku derewan dike hate avêtin. Lê ecêb, tevî vê yekê ku raporek ecêb heye, Keach Hagey li ser vê yekê xebatek mezin kiriye. Karen Hao li ser vê yekê xebatek mezin kiriye. Bi rastî têgihiştinek bêkêmasî ya xalên îsbatkirî yên rastîn û sedemên ku ew ji çavê gelemperî mane tune bû.
Ji ber vê yekê xala hejmar yek ev e ku ez dilgiran im ji vê yekê ku hin ji wan valahiyan di zanîna meya giştî de, û tewra di zanîna hundurînên Silicon Valley de, nuha piçekî bêtir hatine dagirtin. Hin sedemên ku kêmasî hebûn hinekî din jî hatin dagirtin.
Em li ser bûyerên ku mirovên di hundurê vê pargîdaniyê de bi rastî hîs dikin ku tişt hatine nixumandin an bi qestî nehatine belgekirin radigihînin. Yek ji tiştên nû di vê çîrokê de vekolînek pargîdaniya dadrêsî ya bingehîn e ji hêla WilmerHale ve, ku eşkere ye ku pargîdaniyek dadrêsî ya xeyalî, pêbawer, mezin e ku lêkolînên Enron û WorldCom kir, yên ku, bi awayê, hemî pir mezin bûn, mîna bi sedan rûpelan hatine weşandin. WilmerHale ev lêpirsîna ku ji aliyê endamên lijneyê yên ku Altman wek şertê çûna wan ji kar derxistibû, kir û ew vegeriya. Û bi awayekî awarte - li ber çavên gelek pisporên dadrêsî ku ez pê re axivîm, û bi şok di çavên gelek kesên di vê pargîdaniyê de - wan ew ji nivîsandinê dûr xistin. Tiştê ku ji wê derketibû, daxuyaniyek çapameniyê ya 800-peyv bû ji OpenAI-ê ku tiştê ku qewimî wekî têkçûna baweriyê binav kir. Û me piştrast kir ku ev ji bo kurteyên devkî hate girtin.
Bûyer hene ku, wek nimûne, endamek lijneyê dixuye ku li dijî veguheztina ji forma nefermî ya orîjînal a OpenAI-yê li saziyek berjewendiyê deng bide, û ew wekî betaliyek tê tomar kirin. Mîna ku parêzerek di civînê de dibêje, "Belê, ew dikare pir lêpirsînê bike." Û kesê ku dixwaze li dijî dengê xwe bide, ji hemî xuyaniyan re wekî betal tê tomar kirin. Nakokiyek rastîn heye. OpenAI wekî din îdîa dike, wekî ku hûn difikirin. Vana hemî doz in ku we pargîdaniyek heye ku, bi hesabê xwe, pêşeroja me di destên xwe de digire.
Xetereyên ewlehiyê ew qas giran in ku neçûne. Ji ber vê yekê ev pargîdanî wekî nehfek ku li ser ewlehiyê sekinîn hate damezrandin, û li cihê ku tişt bi rengekî ku mirovên pêbawer ên li dora vê yekê ew ji pisporê kêmtir didîtin têne veşartin. Û hûn vê yekê bi paşverûyek ku ji bo rêziknameya watedar hewqasî hindik eleqeya siyasî heye. Ez difikirim ku ew rewşek pir şewitandî ye.
Xala ji bo min ne tenê ev e ku Sam Altman van pirsan bi awakî tûj heq dike. Ev jî ev e ku her yek ji van zilaman di vî warî de, û gelek kesayetên sereke, heke ne vê taybetmendiya xwerû, ya ku her dem derewan dike, nîşan didin, bê guman hin dereceyek zihniyeta nijad-to-bi-nî, ku mirovên ku ewlekar bûn, wan soz û pozîsyona herkesî-di nijadê de av dane.
Ez difikirim, gava ku em li lepikên vê dawiyê yên Anthropic dinêrin, kesek heye ku pirsa kê divê di vê perçê de tiliya xwe li ser bişkojkê hebe. Bersiv ev e, ger çavdêriya me ya watedar nebe, ez difikirim ku divê em pirsên ciddî bipirsin û hewl bidin ku bi qasî ku em dikarin di derheqê van hemî kesan de agahdarî derxînin holê. Ji ber vê yekê ez ji tiştê ku di derbarê wê de, an destpêka yekê de wekî danûstendinek watedar xuya dike dilgiran bûm.
Sedema ku min wisa pirsî ew e ku hûn salek û nîv li ser vê yekê xebitîn. Bi baweriya min, te bi hev-nivîskarê xwe Andrew re bi 100 kesan re axivî. Ew demek dirêj e ku çîrokek çêbibe. Ez bi taybetî li ser sal û nîvê paşîn di AI-ê de difikirim, û kur, helwest û nirxên van hemî karakteran pir zû guheztin.
Dibe ku ji Sam Altman wêdetir nebe, yê ku wekî serketiya xwerû dest pê kir ji ber ku wan ChatGPT derxistibû û her kes difikirî ku ew ê tenê Google bigire. Û paşê Google bersiv da, ku xuya bû ku wan şaş kir ku Google dê hewl bide ku karsaziya xwe biparêze, dibe ku yek ji çêtirîn karsaziyên di dîroka teknolojiyê de, heke ne dîroka karsaziyê. Anthropic biryar da ku ew ê balê bikişîne ser pargîdaniyê. Wusa dixuye ku pêşengiya fermandariyê dikeli wir ji ber ku karanîna pargîdanî ya AI-ê pir zêde ye.
Naha, OpenAI hilbera xwe ji nû ve ji "em ê Google bigirin" berbi Codex-ê dûr dixe, û ew ê li ser pargîdaniyê bigirin. Ez tenê nikarim bibêjim gelo, di dema raporkirina we ya sal û nîvê borî de, gelo wusa dixuye ku karakterên ku hûn pê re dipeyivîn hatine guhertin? Mîna helwest û nirxên wan, ew guhertin?
Erê. Ez berî her tiştî difikirim, ku rexneya ku di vê beşê de tê vekolîn, ku di vê nuqteyê de ji hêla gelek kesan ve di hundurê van pargîdaniyan de tê - ku ev pîşesaziyek e ku, tevî kêşeyên hebûnî, li ser ewlehiyê berbi pêşbaziyek berbi binî ve dadikeve û li cihê ku lez li ser her tiştê din dixe - ew fikar tundtir bûye. Û ez difikirim ku ew fikar ji ber ku sal û nîvek borî derbas bûye bêtir hatine pejirandin. Di heman demê de, helwestên li ser Sam Altman bi taybetî hatine guhertin. Dema ku me ji bo vê yekê bi çavkaniyan re dest bi axaftinê kir, mirov bi rastî, bi rastî dilgiran bûn ku li ser vê yekê behs bikin û li ser vê yekê qeyd bikin.
Di dawiya raporkirina me de, we organek raporê heye ku mirov li ser vê yekê pir vekirî û eşkere diaxivin, û we endamên desteyê tiştên wekî, "Ew derewkarek patholojîk e. Ew sosyopatek e." Rêjeyek perspektîfan heye: "Ev ji ber pîvanên ewlehiyê xeternak e, û em hewceyê rêberên vê teknolojiyê yên ku xwedan yekparebûnek bilind in," heya ku jê hez dikin, "Pêşeyên ewlehiyê ji bîr bikin, ev reftarek e ku ji bo her rêveberek pargîdaniyek mezin negunca ye, ku ew tenê pir bêkarihiyê diafirîne."
Ji ber vê yekê danûstendin bi rengek ku dibe ku dereng xuya dike, lê di yek wateyekê de dilgiran e, pir zelaltir bûye. Û Sam Altman, bi rûmeta wî… Ev beş ji Sam re pir adil û bi comerdî ye. Ev ne ew celeb e ku tê de gelek tiştên "te girtin" hene. Gava ku me ev yek diqedand, min gelek, gelek demjimêran bi têlefonê bi wî re derbas kir û bi rastî wî bihîst.
Wekî ku hûn dikarin bifikirin, di perçeyek weha de, her tişt ne pêkan e. Hin ji wan rewşan di vê yekê de ji ber ku min ji dil guhdarî dikir. Û ger Sam bi rastî nîqaşek kir ku min hîs dikir ku av hilgirtiye, ku tiştek, her çend rast be jî, dikaribû sansasyonalîst be, ez bi rastî di aliyê parastina vê dadperwerî û pîvandinê de xelet bûm. Ji ber vê yekê ez difikirim ku ew rast tê wergirtin, û ez tenê hêvî dikim ku ev qeyda rastîn a ku di vê heyamê de hatî berhev kirin dikare di derbarê hewcedariya çavdêriyê de danûstendinek bişewitîne.
Ew bi rastî pirsa min a din e. Ez difikirim ku we di dema raporkirina vê çîrokê de deh caran bi Sam re axivî. Dîsa, ew gelek danûstandinên di demek dirêj de ne. Ma we difikirî ku Sam di nav sal û nîvê borî de di dema raporê de guherî?
Yeah. Ez wisa difikirim ku di vê yekê de yek ji wan xalên herî balkêş ev e ku Sam Altman jî ji ya berê bêtir eşkere li ser vê taybetmendiyê diaxive. Helwesta Sam di vê beşê de ne wusa ye, "Tiştek li wir tune, ev ne rast e; ez nizanim hûn li ser çi diaxivin." Helwesta wî ew e ku ew dibêje ku ev yek ji meyla dilşadiya gel û cûreyek nefretkirina pevçûnê ve girêdayî ye. Ew pejirand ku ew ji wî re bû sedema pirsgirêkan, nemaze di destpêka kariyera wî de.
Ew dibêje, "Belê, ez berê xwe didim wê, an jî heya radeyekê berê xwe didim wê." Ez difikirim ku ya ku bi rastî ji min re balkêş e, konteynerên mirovên ku em pê re axivîn e ku ne tenê parêzvanên ewlehiyê bûn, ne tenê lêkolînerên teknîkî yên bingehîn ên ku pir caran meyla van fikarên ewlehiyê yên tûj in, lê di heman demê de veberhênerên pragmatîk, yên mezin. Ew piştgirên Sam in, ku di hin rewşan de, li vê pirsê dinêrin û diaxivin ku tewra di vegera wî ya piştî gulebaranê de rolek sereke lîstiye. Naha, li ser vê pirsê ku gelo ew reform bûye, û ew guhertin ta çi radeyê watedar e, ew dibêjin, "Belê, me wê demê sûda gumanê da wî."
Ez bi taybetî li ser veberhênerek navdar difikirim ku got, "Lê ji hingê ve, xuya ye ku ew li pişt daristanê nehatiye derxistin," ev gotina ku ev yek bikar anî bû, bi qasî ku hewce bû. Wekî encamek, wusa dixuye ku ev nuha taybetmendiyek domdar e. Em vê yekê bi awayekî berdewam dibînin. Hûn dikarin li hin karsaziya herî mezin a OpenAI binêrintêkilî û awayê ku ew bi rengekî domdar giraniya wê bêbaweriyê hildigirin.
Mîna bi Microsoft-ê re, hûn li wir bi rêveberan re diaxivin, û wan bi rastî fikarên tûj û vê dawîyê derxistine. Ev mînakek heye ku, di heman rojê de OpenAI ji nû ve taybetmendiya xwe bi Microsoft-ê re bi rêzgirtina modelên bingehîn ên AI-ê yên bêdewlet piştrast dike, ew di heman demê de peymanek nû bi Amazon re ragihand ku bi firotina çareseriyên pargîdanî re ji bo avakirina nûnerên AI-yê ku dewletdar in, tê vê wateyê ku bîranîna wan heye.
Hûn bi mirovên Microsoft-ê re dipeyivin, û ew wiha ne, "Ev ne gengaz e ku meriv bi tiştên bingehîn ên ku me li ser peymanek taybetmendiyê heye re têkilî daynin." Ji ber vê yekê ew tenê yek ji gelek mînakên piçûk e ku ev taybetmendî her gav di çalakiya karsaziya domdar de diherike û di nav desteya OpenAI-yê de, di hundurê komîteya wê ya rêveberiyê de, û di civata teknolojiyê ya berfireh de mijarek xemgîniyek çalak e.
Tu berdewam dibêjî wê "xislet". Di çîrokê de xêzek heye ku ji min re wekî tezê xuya dike, û ew ravekirina taybetmendiya ku hûn vedibêjin e. Ev e ku "Sam Altman ji rastiyê bêsînor e" û "du taybetmendiyên wî hene ku hema hema di heman mirovî de nayên dîtin: ya yekem xwestekek xurt e ku meriv xweş bike, di her danûstendinek diyar de were ecibandin, û ya duyemîn jî kêmasiyek hema hema sosyopathîk e ku ji encamên ku ji xapandina kesek derkeve."
Divê ez ji we re bibêjim, min ew hevok 500 caran xwend, û min hewl da ku her gav bibêjim tiştê ku mirov dixwest ku were ecibandin û dûv re gava ku hîs dikin ku jê hatî derewîn kirin aciz nebim. Û min nekarî rewşa xwe ya hestyarî fam bikim ka ew tişt çawa dikarin di heman mirovî de hebin. We gelek bi Sam re peyivî, û we bi kesên ku van taybetmendiyan ceribandî re peyivî. Ew çawa dike?
Yeah. Ew di astek mirovî de balkêş e ji ber ku ez nêzîkê organên ragihandinê yên bi vî rengî dibim bi baldariyek rastîn li ser mirovatîkirina kesê ku di dilê wê de ye û li têgihiştin û empatiyek kûr digerim. Gava ku min hewil da ku ji nihêrînek mirovîtir nêzikî vê yekê bibim û bibêjim, "Hey, ev ê ji bo min wêranker be ger ew qas kesên ku ez bi wan re xebitîm bigotana ez derewkerek patholojîk im. Hûn wê giraniyê çawa hildigirin? Hûn di terapiyê de çawa qala wê dikin? Çîroka ku hûn li ser vê yekê ji xwe re vedibêjin çi ye?"
Bi dîtina min, dibe ku di derheqê wê de, belkî belkî li ser vê yekê belkî li perava rojavayî hin cûrbecûr hebin, "Erê, ez ji xebata bêhnê hez dikim." Lê ne pir celebek hestiyarbûna xwe-rûbirûbûna kûr a ku ez difikirim ku gelek ji me belkî dê hebin ger me bi vî rengî bertekên derbarê behremendî û muameleya xwe ya bi mirovan re bidîta.
Ez difikirim ku ew bi rastî jî digihîje bersiva berfireh a pirsê. Sam îdia dike ku ev taybetmendî bûye sedema pirsgirêkan, lê di heman demê de ew beşek e ku ew hêz daye mezinbûna OpenAI-yê ewqasî ku ew bikaribe kom bike û komên cûda yên mirovan xweş bike. Ew bi domdarî hemî van pêkhateyên nakok qani dike ku tiştê ku ew jê re eleqedar e ew e ku ew jê re eleqedar e. Û ew dikare ji bo damezrînerek bi rastî jêhatîbûnek kêrhatî be. Min bi veberhêneran re axifî ku wê hingê dibêjin, "Belê, dibe ku ew jêhatîbûnek kêmtir bikêr be ji bo ku bi rastî pargîdaniyek bi rê ve bibe ji ber ku ew pir nakokiyê diçîne."
Lê di aliyê kesane yê Sam de, ez difikirim ku tiştê ku ez pê hildibijêrim dema ku ez hewl didim ku li ser astek mirovî ve girêbide, nebûna xuya ya rûbirûbûna kûrtir, refleks û xwe-hesibandinê ye, ku di heman demê de wê superhêz an berpirsiyariya pargîdaniyek ku ji bo IPO amade dike agahdar dike.
Ew kesek e ku, bi gotinên endamek berê yê rêveberiyê bi navê Sue Yoon, ku di nivîsê de di tomarê de ye û dibêje ku heya xala "bêhiş" peyva ku ew bikar tîne, dikare bi rastî ji rastiya guhezbar a deverên firotanê yên xwe bawer bike an jî karibe xwe bi wan qane bike. An jî bi kêmanî heke ew ji wan bawer neke, ew dikare bêyî gumana xwe ya watedar di nav wan de bişewitîne.
Ez difikirim ku tiştê ku hûn behs dikin, li ku derê dibe ku hûn an ez, ji ber ku em tiştê dibêjin û fam dikin ku ew bi piştrastiya din a ku me çêkiriye re nakokî ye, bi rengekî ku em xwe dicemidin an xwe kontrol dikin. Ez difikirim ku ew bi wî re nabe. Û kulturek hîpertansiyonê ya Berfirehtir a Silicon Valley û çanda damezrîner heye ku bi vî rengî wê hembêz dike.
Ev henek e. The Verge li ser kîjan nirxandinên hilberek tête çêkirinbername. Ew dilê tiştê ku em li vir dikin. Ez salê carekê trîlyonek dolar R&D Apple digire û dibêjim, "Ev têlefon hefteyek e." Û ew bi rengekî hemî raporên me û nerînên me li cîhek din rewa dike. Fonksiyonek me ya nirxandinê heye, û em ew qas wext tenê li hilberên AI-yê dinihêrin û dibêjin, "Ma ew dixebitin?"
Wusa dixuye ku ew ji gelek danûstendinên li ser AI-ê wekî ku îro ye winda ye. Axaftinek bêdawî heye ku ew dikare çi bike, çiqas xeternak dibe. Û dûv re hûn dişoxilînin, û hûn dibêjin, "Gelo ew bi rastî tiştê ku divê îro bike dike?" Di hin rewşan de, bersiv erê ye. Lê di gelek, pir rewşan de, bersiv na ye.
Wusa dixuye ku ew bi çanda hypeyê ya ku hûn diyar dikin ve girêdide û di heman demê de bi vê wateyê ve girêdayî ye ku, baş e, heke hûn bibêjin ew ê tiştek bike û ew nake, û kesek xwe xirab hîs dike, ew baş e ji ber ku em li ser tiştê din in. Ew di paşerojê de ye. Û bi taybetî di AI-ê de, Sam di dayîna sozên mezin de ew qas baş e.
Tenê vê hefteyê, ez difikirim ku heman roja ku çîroka we hate weşandin, OpenAI belgeyek siyasetê derxist ku got divê em ji nû ve li peymana civakî bifikirin û ji hukûmetê berdêlên karbidestiya AI-ê bistînin. Ev sozek mezin e ku meriv çawa dibe ku hin teknolojiyek pêşeroja cîhanê çêbike û em çawa dijîn, û hemî ew bi teknolojiyê ve girêdayî ye ku tam bi awayê ku dibe ku soz hatiye dayîn ku bixebite an jî divê bixebite.
We qet dît ku Sam guman dike ku AI vediguhere AGI an superîstîxbaratê an digihîje xeta dawî? Ji ber ku ew tiştê ku ez herî zêde jê meraq dikim ev e. Ma di derheqê ku ev teknolojiya bingehîn dikare hemî tiştên ku ew dibêjin ew dikare bike an na?
Ew tam koma pirsan rast e. Teknologên pêbawer hene ku em di vê beşê ragihandinê de pê re axivîn - û eşkere ye ku Sam Altman ne yek e; ew kesek karsaz e - yê ku dibêje awayê ku Sam li ser demjimêra vê teknolojiyê diaxive pir dûr e. Mesajên blogê yên çend sal berê vedigerin hene ku Sam dibêje, "Em berê xwe gihandine asoya bûyerê. AGI bi bingehîn li vir e. Zêdebarî li dora quncikê ye. Em ê li gerstêrkên din bin. Em ê her cûreyên penceşêrê derman bikin." Bi rastî, ez xemilandî nakim.
Yeka penceşêrê bi rastî balkêş e, ku Sam li kesê ku bi teorîkî kansera kûçikê xwe bi ChatGPT sax kiriye, dike, û ew bi hêsanî pêk nehat. Wan bi ChatGPT re peyivî, û ev ji wan re bû alîkar ku rêberiya hin lêkolînerên ku bi rastî kar kirine, bikin, lê yek-bi-yek, vê amûrê ku vî kûçikî qenc kir bi rastî ne çîrok e.
Ez kêfxweş im ku we ew xal bilind kir ji ber ku ez dixwazim biçim ser vê xala mezintir li ser dema ku hem potansiyel û hem jî xetereya teknolojiyê bi rastî biqede. Lê hêjayî gotinê ye ku van aliyên piçûk ên ku bi domdarî ji Sam Altman diqewimin, li wir xuya dike ku ew vê taybetmendiyê ji nû ve vedihewîne.
Yanî ez mînaka rapora WilmerHale bikar bînim, li wir me ev agahdariya ku ji nivîsandinê dûr ketibû hebû, û dixwest em zanibin ka kurtenivîsa devkî ya di rê de ji kesekî din re ji bilî her du endamên lijneyê hatiye dayîn ku Sam alîkariya sazkirinê kir da ku çavdêriya wê bike. Û wî got, "Erê, erê, na, ez bawer dikim ku ew ji her kesê ku piştî beşdarî lijneyê bû hat dayîn." Û me kesek heye ku rasterast ji rewşê agahdar e ku dibêje ku ew bi tenê derew e. Û ew bi rastî jî wusa xuya dike, ku ew nerast e. Ger em bixwazin bi comerdî bin, dibe ku ew xelet agahdar bûbe.
Gelek ji van temînatên casual hene. Û ez wê nimûneyê hinekî bikar tînim ji ber ku ew mînakek mezin a belavkirinê ye, em jê re bibêjin, ku dikare encamên rastîn ên qanûnî hebe. Ne hewce ye ku ez ji we re bibêjim, li gorî zagona pargîdaniya Delaware, heke ev pargîdanî IPO-yên pargîdanî, hîsedar dikarin, di binê beşa 220-ê de, gilî li ser vê yekê bikin û belgeyên bingehîn bixwazin. Jixwe endamên meclîsê hene ku tiştên wekî, "Belê, deqeyek bisekinin, diviya bû ku ew agahdarî çêbibe."
Ji ber vê yekê ev tiştên ku dixuye ku her dem ji devê wî derdikevin, ew dikarin ji bo OpenAI-ê bandorên tevgera bazarê, bandorên rastîn bikin. Dema ku wê vegerînim ser celebê zimanê hîpeya utopîkî yê ku ji nû ve derketiye holê, ez difikirim ku ne tesaduf roja ku ev perçe derketiye, ew jî bandorê li me hemûyan dike, ji ber ku xeterî li ser awayê wê ew qas giran in.ku di çekan de têne bicîh kirin, awayê ku ew tê bikar anîn ji bo naskirina ajanên şerê kîmyewî, potansiyela dezenformasyonê, û ji ber awayê ku têgîna utopîk tê de xuya dike ku gelek aborînasên pêbawer dihêlin ku bibêjin, "Ev hemî nîşanên bilbilê hene."
Tewra Sam Altman jî gotiye, "Yek dê li vir gelek drav winda bike." Ew dikare bi rastî pir mezinbûna aborî ya Amerîkî û gerdûnî têk bibe, heke mîna qutbûnek rastîn a kulîlkek be ku tev van pargîdaniyan bi hev re danûstendinan dikin, dema ku ew qas giran deyn dikin tev li AI-ê bibin. Ji ber vê yekê tiştê ku Sam Altman dibêje girîng e, û ez difikirim ku serdestiya mirovên li dora wî, we behs kir ku em bi zêdetirî sed kesan re axivîn, ew bi rastî ji sed zêdetir bû. Me li ser xeta qedandinê danûstendinek kir ku wusa ye, "Gelo ew ê pir piçûk be ku meriv bêje ku ev hejmar pir zêde ye?" Û me digot, "Erê, em kêm bikin. Em ê wê xweş bilîzin." Lê pir kes hebûn û piraniyek wusa girîng ji wan digot, "Ev fikar e." Û ez difikirim ku ji ber vê yekê ye.
Ka ez li ser wê hejmarê ji we bipirsim. Weke ku we behs kir, her ku diçû gel zêdetir bi fikaran vebûn. Wusa dixuye ku zexta li dora bilbilê - pêşbaziya serketinê, dayîna hemî vê veberhênanê, derketina wekî serketî, ji bo IPO - gelek helwest guherandiye. Bê guman ew bêtir zext li ser Sam û OpenAI çêkir.
Me vê hefteyê çîrokek tenê li ser vibên OpenAI weşand. Çîroka we beşek jê ye, lê di rêzên rêveberiyê de li OpenAI-ê di rêzên karmendan de guherînên girseyî - mirov tên û diçin. Lêkolîner hemî bi rê ve diçin, bi giranî ji Anthropic, ku ez difikirim ku bi rastî balkêş e. Hûn dikarin tenê bibînin ku ev pargîdanî zextê hîs dike, û ew bi rengekî bersivê dide wê zextê.
Lê paşê ez difikirim ku Sam ji kar hat avêtin. Ev ji bo min tenê bîranîn e. Ew ji bo kesek din nayê bîranîn, lê min roja Înê saet 19:00 li Zooya Bronx-ê çavkaniyek jêderek girt, û ew kesek bû ku digot ew ê hewl bidin ku Sam vegere. Û paşê me dawiya hefteyê li dû wê çîrokê derbas kir. Û min digot, "Ez li zozanan im. Tu dixwazî ez li vir çi bikim?" Û bersiv ev bû, "Li ser têlefonê bimîne." Welê, keça min weha bû, "Telefonê jê derkeve." Û ya ku min kir ev e.
Siwarbûn an mirin bû ku Sam vegere. Ew pargîdanî weha bû, "Na, em nahêlin panel Sam Altman ji kar derxe." Veberhêner, ew di nivîsa we de têne gotin, "Em çûn şer," ez difikirim, pozîsyona Sermayeya Pêşverû ye, "da ku Sam vegere." Microsoft çû şer da ku Sam vegere. Dûv re ye, û naha her kes mîna, "Em ê biçin IPO-yê. Em gihîştin xeta qedandinê. Me zilamê xwe vegeriya, û ew ê me bigihîne xeta dawî. Em ditirsin ku ew derewkar e."
Wê demê çima ew şer bû ku ew vegere? Ji ber ku ew xuya nake ku tiştek bi rastî guherî. Hûn behsa bîranînên ku Ilya Sutskever û [CEOyê Anthropic] Dario Amodei dema ku ew hevdemên Sam Altman bûn, diparêzin. Xemgîniya yekem a Ilya ev bû ku Sam derewker e.
Tiştek ji wan nehatiye guhertin. Wê demê çima şer bû ku wî paşde vegerînin? Û naha ku em li xeta qedandinê ne, wusa dixuye ku hemî fikar eşkere ne.
Belê, berî her tiştî ji keça te û hevjîna min û hemû kesên din ên li dora rojnamegeran re bibore.
[Dikene] Ew ji bo her kesî dawiya heftê bû.
Erê, ew jiyana yekî digire, û ev çîrok bê guman ya min heye, di heyama paşîn de. Ew bi rastî bi vê mijara rojnamegeriyê û gihîştina agahdariyan ve girêdayî ye, ez difikirim. Veberhênerên ku ji bo Sam çûn şer û hemî rola xwe lîstin da ku ew vegere, û lijneya ku bi taybetî ji bo parastina mîsyona nefermî hatibû çêkirin da ku ewlehiyê deyne ser mezinbûnê û ger ku nikaribin bi wê yekê bawer bikin rêveberek ji kar derxînin, ew çûn. Ew hemî ji ber ku, erê, teşwîqên bazarê li wir bûn, rast?
Sam karîbû mirovan razî bike, "Belê, pargîdanî dê tenê ji hev biçe." Lê sedema ku piştgiriya wî hebû nebûna agahiyê bû. Ew veberhêner, di pir rewşan de, naha dibêjin, "Ez li paş xwe dinihêrim, û ez difikirim ku heke min bi tevahî zanibûya ku îddîa çi ne û fikar çi ne, diviyabû min bêtir fikarên min hebûya."
Ne hemû;nerîn diguhezin, û em cûrbecûr nêrînan vedibêjin, lê yên girîng hene ku li ser agahdariya pir qismî tevdigerin. Lijneya ku Sam ji kar derxist, bi gotina kesek ku berê li ser panelê bû, "pir JV" bû û wan top bi dijwarî hejand. Û em giliyên bingehîn belge dikin, û mirov dikarin bi xwe biryarê bidin ka ew di nav cûreyek xemgîniyek lezgîn de ku ew pê hesiyane kom dibe, lê ew arguman û ew agahdarî nehatin pêşkêş kirin.
Wan tiştê ku hin ji wan niha wekî şîreta qanûnî ya xirab qebûl dikin, standin. Ji bo danasîna wê, hûn ê gotinê bi bîr bînin, û dibe ku gelek guhdar û temaşevanên we wê gotinê wekî kêmasiya dilpakiyê bi bîr bînin. Ya ku ew jê re hate kêm kirin ev bû, û wê hingê ew ê bi rastî bang nekin.
Ew ê gazî negirtin. Ez bawer im ku we ceriband. Her kesê ku ez nas dikim hewl da, û ew gihîşt wê astê ku, wekî rojnamevan, hûn ne hewce ne ku şîreta çavkaniyên xwe bidin, lê min digot, "Eger hûn dest bi ravekirina xwe nekin ev ê ji holê rabe."
Û ev çi bû. Rojnamevanan ji bîr bikin. We Satya Nadella digot, "Çi dojeh bû? Ez nikarim kesek ji min re rave bikim." Û ew piştgira darayî ya sereke ya pargîdanî ye. Û paşê we Satya gazî [hev-damezrînerê LinkedIn] Reid Hoffman dike û Reid bang li dora xwe dike û dibêje, "Ez nizanim ka çi qewimî."
Ew bi têgihiştinê di wê valahiya agahdariyê de ne, li nîşanên kevneşopî yên ne-AI-ê digerin ku dê gulebarana wusa bilez, ji nişka ve rastdar bike. Wekî, baş e, ew sûcên seksê bû? Ma îxrackirin bû? Tevahiya nazik, lê ez watedar difikirim, argumana ku ev teknolojî cûda ye û ku bi vî rengî berhevkirina domdar a xiyanetên piçûktir dikare hem ji bo vê karsaziyê û belkî jî ji bo cîhanê xwedan behreyên watedar be, bi piranî winda bû. Ji ber vê yekê teşwîqên kapîtalîst bi ser ketin, lê kesên ku ev yek çêkiribûn jî derketin û her tim bi agahiyên tam tevnegeriyan.
Ez dixwazim ji bo yek kêliyê tenê li ser "her kes çi difikirî" bipirsim, ji ber ku min bê guman nûçe dît, û min got, "Oh, tiştek xirab diviya bû." We gelek raporên #MeToo, navdar, kirine. We çîroka Harvey Weinstein şikand.
We gelek wext derbas kir û li ser van îdîayên ku ez difikirim ku we biryar da ku di dawiyê de bêbingeh bûn rapor kirin: ku Altman destdirêjiya seksî li piçûkan kir an jî karkerên seksê kirê kir, an jî tewra belavkerek OpenAI kuşt. Yanî hûn ew kes in ku dikarin van tiştan bi tundî ragihînin. We biryar da ku ew ne tiştek bû?
Welê, binere, ez ne di karê xwe de me ku bibêjim tiştek neserketî ye. Tiştê ku ez dikarim bibêjim ev e ku min bi mehan li van îddîayan nihêrî û ji wan re piştrastiyek nedît. Û ji min re balkêş bû ku ev zilam, ev pargîdaniyên ku ew qas hêz li ser dahatûya me hene, bi rastî rêjeyek bênavber ji dem û çavkaniyên xwe di nav şerek çolê de xerc dikin.
Rêveberek wê wekî "Shakespearean" binav dike. Rêjeya pereyên lêkolînerên taybet û dosyayên muxalefetê yên ku têne berhev kirin, bênavber e. Û ya nebaş ev e ku celebê tiştên dilşewat, ku ji hêla hevrikên Sam ve têne parsandin, tenê rastiyek tê texmîn kirin, rast? Ev îdia heye ku ew li dû kurên temenbiçûk dimeşe, û di gelek partiyên kokteylê de li Silicon Valley, hûn vê dibihîzin. Li ser qada konferansê, min bihîst ku ew tenê ji hêla rêveberên pêbawer, navdar ve hatî dubare kirin: "Her kes dizane ku ev rastiyek e."
Tiştê xemgîn ev e ku ez diaxivim ku ev ji ku tê, vektorên cihêreng ên ku ew veguhezîne. Elon Musk û hevkarên wî dixuye ku dosyayên bi rastî hişk ên ku bi vî rengî ne tiştek in. Gava ku hûn bi rastî dest pê dikin ku li îddîayên bingehîn mêze bikin, ew gemar in. Tiştê xemgîn ev e ku ew bi rastî li vir rexneyên bêtir-bingeha delîlan vedişêre ku ez difikirim ku bi rastî jî heqê çavdêrî û lênihêrîna lezgîn e.
Mijara din a ku bi rastî di çîrokê de derbas dibe hema hema hestek tirsê ye ku Sam gelek hevalên wî hene - wî ji rola xweya berê ya wekî CEO ya Y Combinator li gelek pargîdaniyan veberhênan kiriye, tenê veberhênana wî ya kesane, ku hin ji wan rasterast bi rola wî ya CEO ya OpenAI-ê re nakok in - û li dora wî bêdengiyek heye.
Gava ku min yek rêzek bi taybetî dixwend, bala min kişand. Hûn bîranînên Ilya Sutskever vedibêjin, û ew tenê li Silicon Valley derketine. Everyoneji wan re dibêje memoyên Îlya. Lê li derdora wê jî bêdengiyek heye. Ew li dor têne derbas kirin, lê ew nayên nîqaş kirin. Hûn difikirin ku ew ji ku tê? Ma tirs e? Ma ew daxwazek e ku meriv veberhênana milyaket bistîne? Ew ji ku tê?
Ez difikirim ku ew pir tirsonek e, ez ê rast bibêjim. Li ser çîrokên ewlekariya neteweyî rapor kirin ku jêderên wan îxbarker in ku radibin her tiştî wenda dikin û rû bi darizandinê dibin, ew hîn jî tiştê rast dikin û li ser tiştan diaxivin da ku berpirsiyariyê çêbikin. Min li ser çîrokên têkildarî sûcên zayendî yên ku we behs kir xebitî, ku çavkanî bi kûrahî trawmatîze dibin û ji celebek pir kesane ya tolhildanê ditirsin.
Di gelek rewşan de li dora vê lêdanê, hûn bi kesên bi profîl û hêza xwe re mijûl dibin. Ew bi xwe jî kesên navdar in an jî ji aliyê kesên navdar ve hatine dorpêçkirin. Ew xwedî jiyanek karsaziyek bihêz in. Bi dîtina min, bi rastî ji wan re pir kêm eşkere ye ku li ser van tiştan biaxivin. Û şukur, derzî her ku diçe wek me berê behs kir, û mirov niha bêtir diaxivin.
Lê ji bo demek wusa dirêj, mirov bi rastî tenê li ser wê disekinin ji ber ku ez difikirim ku çanda Silicon Valley ew qas bi hovane berjewendîperest e û bi hovîtî karsazî û mezinbûnê ye. Ji ber vê yekê ez difikirim ku ev yek ji hin kesên ku beşdarî derxistina Sam bûne jî diêşîne, cihê ku we di rojên piştî wê de dît, erê, faktorek ku bû sedem ku ew vegere û ji kar avêtina endamên desteya kevin ev bû ku wî veberhênerên ku di doza wî de tevlihev bûn berhev kir.
Lê ya din ev e ku ew qas kesên din ên li dora wê yên ku fikarên wan hebûn û bi lezgînî dengê wan dianîn tenê mîna destmalan li hev kirin û awazê xwe guherandin gava ku wan dît ku bayê berevajî lê dide, û wan dixwest ku têkevin trêna qezencê.
Bi rastî, ji nihêrîna min wekî nûçegihanek pir tarî ye.
Hin ji wan kesan Mira Muratî ne, ku bi baweriya min 20 hûrdem bû CEO yê nû yê OpenAI. Dûv re ew hat guhertin. Ew dînamîkek pir tevlihev bû, û eşkere, Sam vegeriya. Kesê din Ilya Sutskever e, ku yek ji dengdêrên rakirina Samê bû, û paşê wî fikra xwe guhert, an bi kêmanî got ku wî biryara xwe guhert, û paşê ew derket ku dest bi pargîdaniya xwe bike. Ma hûn dizanin ku çi kir ku wî fikra xwe biguherîne? Ma ew tenê pere bû?
Belê, û ji bo zelal be, ez wan her duyan yekcar nakim. Endamên din ên lijneyê jî hene ku di gulebaranê de cih girtine û piştî wê jî pir bêdeng man. Ez difikirim ku ew wekî pirsgirêkek kolektîfek berfireh e. Vana, di hin rewşan de, mirovên ku xwedî wêrekiya exlaqî bûn ku hişyariyê bidin û tevgerek radîkal bikin, û ev yek divê were pesnandin. Û bi vî awayî hûn berpirsiyariyê piştrast dikin. Vê yekê dikaribû alîkariya gelek kesên ku ji vê teknolojiyê bandor bûne. Ew dikaribû alîkariya pîşesaziyek bikira ku bi watedartir li ser ewlehiyê bimîne.
Lê mijûlbûna bi belavkeran û kesên ku hewil didin wê berpirsiyariyê pir bişopînin, hûn di heman demê de dibînin ku ew tîrêja derxistina wê û sekinîna li ser baweriyên we digire. Û ev pîşesazî bi rastî tije ye ji mirovên ku tenê li ser baweriyên xwe nasekinin.
Her çend ew difikirin ku ew Xwedayek dîjîtal ava dikin ku dê bi rengekî an hemî kedê ji holê rabike an bêtir kedê biafirîne, an dê tiştek çêbibe.
Belê, mesele ev e. Ji ber vê yekê çanda ku li ser baweriyên we nesekinin û hemî fikarên exlaqî li ber çavan dikevin dema ku germek an tiştek ku dikare pozîsyona we di karsaziyê de tehdîd bike belkî ji bo pargîdaniyên karsaziyê-wek-adetî ku her cûre widgetê çêdikin hemî baş û baş e.
Lê ev jî heman kesên ku dibêjin, "Ev bi rastî dikare me hemûyan bikuje." Û dîsa, hûn ne hewce ne ku biçin Terminator Skynet extreme. Komek xetereyên ku jixwe pêk tên hene. Rast e, û ew rast in ku li ser vê yekê hişyar dikin, lê hûn neçar in ku kesek din psîkolog bike ka ew du tişt çawa dikarin di heman mirovan de bijîn, li cihê ku ew hişyariyên lezgîn dikin, dibe ku ew tiliya xwe têxin hundur û hewl bidin ku tiştek bikin, û dûv re ew tenê diqulipînin û bêdeng dibin.
Bi rastî ji ber vê yekê hûn dikarin bi vî rengî tiştên ku ji nivîsandinê têne hiştin û tiştên ku di bin xalîçeyê de têne hilanîn, û kes bi salan piştî rastiyê li ser vê yekê eşkere neaxive.
Aliyê xwezayî, berpirsiyar li vir dê ne CEO yên van pargîdaniyan bin; ew ê hukûmet bin. Li Dewletên Yekbûyî, dibeew hikûmetên eyaletan e, dibe ku ew hikûmeta federal be.
Bê guman, ev pargîdan hemî dixwazin bibin gerdûnî. Li vir gelek bandorên gerdûnî hene. Min li OpenAI, Google, û Anthropic temaşe kir ku hemî rêveberiya Biden dikin ku fermanek rêveberê AI-yê azad bike. Di dawiyê de pir bê diran bû. Tenê got ku ew neçar bûn ku biaxivin ka modelên wan çi ne û hin ceribandinên ewlehiyê berdan. Û paşê wan hemûyan piştgirî da Trump, û Trump hat hundur û ew hemî ji holê rakir û got, "Divê em reqabetê bin. Ew ji her kesî re belaş e. Biçin."
Di heman demê de, ew hemî hewl didin ku ji welatên Rojhilata Navîn ku gelek pereyên petrolê hene û dixwazin aboriyên xwe biguherînin, drav berhev bikin. Ew siyasetmedar in. Ez hest dikim ku siyasetmedar divê bê guman fêm bikin ku kesek ji her du aliyên devê xwe diaxive, û ew ê pir aciz nebin ger di dawiyê de kesek bêhêvî bibe, lê siyasetmedar jî ji bo siwarbûnê têne girtin. Çima hûn difikirin ku ew e?
Bi rastî ev e, ez difikirim, çima perçe bi dîtina min girîng e û çima hêja bû ku ev dem û hûrgulî li ser were xerc kirin. Em li hawîrdorek in ku pergalên ku, wekî hûn dibêjin, divê çavdêriyê peyda bikin, tenê qul bûne. Ew Amerîkaya Yekbûyî ya piştî Hemwelatiyan e, ku herikîna drav ew qas bêsînor e, û ew hûrguliyek taybetî ya wê pirsgirêkê li dora AI-ê ye, ku li wir ev PAC hene ku zêde dibin û drav diherikînin da ku rêziknameya watedar hem li dewletek û hem jî di astek federal de betal bikin.
We heye [hev-damezrînerê OpenAI] Greg Brockman, di fermana duyemîn de Sam, ku rasterast bi awayek girîng beşdarî çend ji wan dibe. Ew dibe sedema rewşek ku bi rastî girtina qanûndaner û rêwerzanên potansiyel heye, û ew çuçek dijwar e ku meriv jê derkeve. Tiştê xemgîn ev e, ez difikirim ku tevgerên polîtîk ên hêsan hene, ku hin ji wan li cîhek din li cîhanê têne ceribandin, ku dê ji van pirsgirêkên berpirsiyariyê re bibin alîkar.
Hûn dikarin ceribandina ewlehiya pêş-dabeşkirinê ya mecbûrîtir bin, ku ev tiştek e ku berê li Ewrûpayê ji bo modelên sînor diqewime. Hûn dikarin ji bo cûreyên lêpirsînên hundurîn ên ku me dît ku di vê dozê de tiştên ku ji nivîsandinê hatine girtin, hewcedariyên tomara giştî ya nivîskî hişktir hebin. Hûn dikarin ji bo cûrbecûr ambargoyên binesaziya Rojhilata Navîn ên ku Sam Altman dişopand, komek mekanîzmayên vekolîna ewlehiya neteweyî ya bihêztir hebin.
Wekî ku hûn dibêjin, wî bi rêveberiya Biden re vî karî dikir û diguhezand, digot, "Me birêkûpêk bike, me birêkûpêk bike," û alîkariya wan kir ku fermanek îcrayê çêbikin, û dûv re gava ku Trump bikeve hundur, bi rastî di rojên yekem de, tenê nehiştin, "Werin em bilezînin û em kampusek navendek daneyê ya mezin li Abu Dhabi ava bikin." Hûn dikarin bibin, ev yek bi rastî hêsan e, mîna parastina whistleblower. Qanûnek federal tune ku karmendên pargîdaniya AI-ê biparêze ku van cûreyên ewlehiyê yên ku di vê beşê de têne weşandin eşkere dikin.
Bûyerên me hene ku Jan Leike, ku li OpenAI zilamek ewlekarî yê payebilind bû, li pargîdaniyê pêşengiya super ahengê dikir. Ew ji panelê re dinivîse, bi esasî materyalê îxbarker, û dibêje ku pargîdanî ji peywira xwe ya ewlehiyê derdikeve. Ew cûre mirov in ku divê bi rastî xwedan saziyek çavdêriyê bin ku ew dikarin biçin cem wan, û divê ew xwedî parastinên zagonî yên eşkere yên ku em di sektorên din de dibînin hebin. Ev hêsan e ku meriv rejîmek bi şêwaza Sarbanes-Oxley dubare bike.
Ez difikirim ku tevî ku pirsgirêka Silicon Valley çiqas tûj e ku kontrola hemî lingên desthilatdariyê digire ser xwe, û tevî ku hin ji van saziyên ku dibe ku çavdêrî û parêzvaniyê peyda bikin çiqas vala ne jî, ez hîn jî bi matematîka bingehîn a demokrasiyê û ji siyasetmedarên berjewendîxwaz bawer dikim. Û bêtir û bêtir daneyên anketê derdikevin holê ku pirraniya Amerîkî difikirin ku fikar, pirs, an xetereyên AI-ê niha ji feydeyan zêdetir in.
Ji ber vê yekê ez difikirim ku lehiya drav di siyasetê de ji AI-ê re, ew di hundurê hemî hêza me de ye ku em wê ji siyasetmedaran re bikin çavkaniya pirsek. Dema ku Amerîkî diçin dengdanê, divê ew bi hûrgulî bikolin gelo kesên ku ew deng didin, nemaze heke ew ne rexnegir û dijî-rêkûpêk bin, ji ber van hemî fikaran, ji hêla berjewendîyên taybetî yên teknolojiya mezin ve têne fînanse kirin. Ji ber vê yekê ez difikirim ku ger mirov bikaribe perçeyên bi vî rengî bixwîne, li podcastên bi vî rengî guhdarî bike, û têra xwe bala xwe bide ku bi rexneyî li ser bifikirebiryarên wan wekî dengdêran, derfetek rast heye ku li Washingtonê navendek ji nûnerên ku çavê xwe li ser diparêzin û zorê li ser çavdêriyê dikin çêbikin.
Dibe ku ew yek ji wan tiştên herî xweşbîn be ku min çu carî bihîstiye ku kesek li ser pîşesaziya AI-ya heyî bêje. Ez teqdîr dikim. Ez bi anketa ku tu behs dikî meraq dikim. Niha gelek jê heye. Hemî pir domdar e, û wusa dixuye ku her ku ciwan, bi taybetî, bi AI-yê re rû bi rû bin, ew qas bêtir bêbawer û hêrs dibin li ser wê. Ev valahiya hemû anketan e. Û ez li wê dinêrim, û ez difikirim, baş e, erê, siyasetmedarên jîr dê tenê li dijî wê bisekinin. Ew ê tenê bibêjin, "Em ê teknolojiya mezin berpirsiyar bigirin."
Dûv re ez li ser 20 salên borî difikirim, siyasetmedarek ku dibêje ew ê teknolojiyên mezin berpirsiyar bigirin, û ez têdikoşim ku heya yek kêliyek teknolojiya mezin jî berpirsiyar bibînim. Tenê tiştê ku min dihêle ku ez bifikirim ku dibe ku ev cûda be ev e, baş e, hûn bi rastî neçar in ku navendên daneyê ava bikin, û hûn dikarin li dijî wê deng bidin, û hûn dikarin li dijî wê daxwaznameyê bikin, û hûn dikarin li dijî wê protesto bikin.
Ez difikirim ku siyasetmedarek heye ku tenê li mala wan hat gulebarankirin ji ber ku wan deng da navendek daneyê. Tengezarî digihîje, ez jê re dibêjim, tayê. We girava Silicon Valley vegot. Ev ekosîstema girtî ye. Wusa dixuye ku ew difikirin ku ew dikarin cîhanê birêve bibin. Ew tonek drav didin nav siyasetê, û ew li dijî rastiya ku mirov ji hilberan hez nakin, ku ew pir nixumandî nade wan, radibin. Her ku ew hilberan bikar tînin, ew qas bêtir aciz dibin, û siyasetmedar dest pê dikin ku encamên rastîn ên piştgirîkirina pîşesaziya teknolojiyê li ser kesên ku ew temsîl dikin hene.
Te bi gelek kesan re peyivî. Ma hûn difikirin ku gengaz e ku pîşesaziya teknolojiyê dersa ku li pêşiya wan rast e fêr bibe?
Hûn dibêjin wisa dixuye ku ew difikirin ku ew dikarin cîhanê bêyî berpirsiyariyê bimeşînin. Ez nafikirim ku ew pêdivî bi kalîfîyeka "hest dike". Ez dibêjim, hûn li zimanê ku Peter Thiel bikar tîne dinêrin, ew eşkere ye. Bê guman, ew mînakek zehf e. Sam Altman, her çend ew bi îdeolojiya Thiel re heya radeyekê nêzîk û agahdar be jî, celebek celebek cûda ye ku dibe ku heya deverek cûda û pirtir xuya bike.
Lê ez difikirim ku îdeolojiya berfireh a ku hûn ji Thiel digirin, ku bi bingehîn ev e: Em bi demokrasiyê qediyan, êdî hewcedariya me bi wê tune. Me ewqas pir heye ku em tenê dixwazin kozikên xwe yên piçûk ava bikin. Em êdî bi Carnegies an jî Rockefellers re mijûl nabin, ku ew zilamên xirab in, lê ew hest dikin ku ew hewce ne ku beşdarî peymanek civakî bibin û tiştan ji mirovan re ava bikin. Nîhîlîzmek rasteqîn heye ku tê de ye.
Û ez difikirim ku ew tenê di dîroka Amerîkî ya nû ya mogul û pargîdaniyên taybet de ku hêza super hukûmetê distînin de, di heman demê de ku saziyên demokratîk ên ku dibe ku wan berpirsiyar bigirin qul dibin, ew di dîroka Amerîkî ya vê dawiyê de hêzdarek hevûdu ye. Ez ji vê fikra ku ew xort tenê rojekê şiyar bibin û bifikirin, ne xweşbîn im, "Ha, bi rastî dibe ku em hewce ne ku beşdarî civakê bibin û alîkariya avakirina tiştan ji mirovan re bikin."
Yanî hûn wek mînaka mîkrokozmîk ya The Giving Pledge dinêrin, ku li wir demek hebû ku dixuya ku ew xêrxwaz bû, û ew dem êdî derbas bûye û tewra jî tê tinazî. Ew pirsgirêkek e, pirsgirêka berfireh a nebûna berpirsiyariyê ku ez difikirim ku tenê bi derveyî dikare were çareser kirin. Pêdivî ye ku dengdêr hêza çavdêriya hukûmetê seferber bikin û vejînin. Û hûn tam rast in ku hûn dibêjin ku vektora sereke ya ku mirov dikare bigihîje wê herêmî ye. Ew bi ku binesaziyê tê çêkirin ve girêdayî ye.
We behsa hin tansiyona spî ya li dora vê yekê kir ku dibe sedema tundî û gefan, û eşkere ye, nabe ku kes tundûtûj û tehdîdkar be. Û ez jî ne li vir im ku pêşniyarên polîtîkaya taybetî bikim ji bilî ku tenê hin gavên siyasetê yên ku bingehîn xuya dikin û li cîhek din a cîhanê dixebitin pêşkêş bikim, rast? An jî yên ku di sektorên din de xebitîne. Ez ne li vir im ku bibêjim kîjan ji wan divê çawa û çawa were darvekirin.
Ez difikirim ku pêdivî ye ku tiştek biqewime, û pêdivî ye ku ew derveyî be, ne tenê bi van pargîdaniyan bawer bike. Ji ber ku rastnaha rewşek me heye ku ew pargîdaniyên ku teknolojiyê pêşdixînin û ji bo têgihîştina metirsiyan çêtirîn amade ne, û di rastiyê de yên ku me ji xetereyan hişyar dikin, di heman demê de ew in ku ji bilî teşwîqê tiştek wan tune ku bilez biçin û wan xetereyan paşguh bikin. Û hûn tenê tiştek tune ku wê berevajî bike. Ji ber vê yekê di warê taybetî de çi reform dibe bila bibe, divê tiştek li dijî wê derkeve. Û ez dîsa jî vedigerim ser wê geşbîniya ku gel hîn jî girîng e.
Ez bi gelemperî argumana we bikirim. Bihêle ez tenê dijberiyek piçûk a ku ez difikirim ku ez dikarim vebêjim bikim. Tiştê din ê ku dikare li derveyî sindoqê çêbibe ev e ku bilbil diqelişe, rast? Ku ne hemî van pargîdanî digihîjin xeta qedandinê, û ku bazara hilberê ji bo serîlêdanên AI-ya xerîdar tune. Û dîsa, ez hîna wê bi tevahî nabînim, lê ez lêkolînerek teknolojiya xerîdar im, û dibe ku ez tenê ji her kesê din standardên bilindtir hebin.
Di cîhana karsaziyê de lihevhatina bazara hilberê heye, rast? Hebûna komek ajanên AI-ê ku komek nermalava dinivîse ji bo van amûran bazarek rastîn xuya dike. Û hûn dikarin argumanên van pargîdaniyan bixwînin ku dibêjin, "Me kodkirin çareser kir, û ev tê vê wateyê ku em dikarin her tiştî çareser bikin. Ger em karibin nermalavê çêbikin, em dikarin her pirsgirêkê çareser bikin."
Ez difikirim ku ji tiştên ku nermalavê dikare bike re tixûbên rastîn hene. Ew di cîhana karsaziyê de mezin e. Nermalava di rastiyê de nikare her pirsgirêkê çareser bike, lê ew neçar in ku biçin wir. Wan neçar kir ku kar biqedînin, û dibe ku her kes negihîje xeta dawî. Û şikestinek heye, û ev bilbil derdikeve, û dibe ku OpenAI an Anthropic an xAI, yek ji van pargîdaniyan têk biçe, û hemî ev veberhênanê ji holê radibe.
Ma hûn difikirin ku ew ê bandorê li ser vê yekê bike? Bi rastî, bila ez pêşî pirsa yekem bipirsim. OpenAI rast li ber deriyê IPO-yê ye. Li ser Sam wekî serokek gelek guman hene. Ma hûn difikirin ku ew ê bigihîjin xeta dawiyê?
Ez naxwazim pêşbîniyê bikim, lê ez difikirim ku hûn xalek girîng radigihînin, ew jî ev e ku teşwîqên bazarê di hundurê Silicon Valley de girîng in, û xeternakiya dînamîkên bulbikê yên heyî radiweste ku, dîsa, bi potansiyel, li gorî rexnegiran, pêşbaziya li ser ewlehiyê heya binî bide sekinandin.
Ez ê vê yekê jî lê zêde bikim, heke hûn li pêşengiya dîrokî binihêrin ku li wir komek teşwîqên sûkê yên bi heman rengî û xuyayî nederbasdar û bandorên potansiyel ên zirardar ên ji bo gel heye, dozek bandorek heye. Û hûn vê dawiyê wekî qada xemgîniyê dibînin. Sam Altman vê hefteyê li wir e û qanûnên ku dê pargîdaniyên AI-ê ji hin cûreyên berpirsiyariyê yên ku OpenAI-yê di cil û bergên mirinê yên nerast de rû bi rû maye biparêze, dipejirîne. Bê guman, daxwazek heye ku ew mertalê ji berpirsiyariyê hebe.
Ez difikirim ku dadgeh hîn jî dikarin mekanîzmayek watedar bin, û ew ê bi rastî balkêş be ku hûn bibînin ka van dozan çawa çêdibin. We berê dît, wek nimûne, cilê-çalakiya çîna, ku ez û gelek, gelek nivîskarên din ên ku ez nas dikim endamên wê ne, li dijî Anthropic ji ber karanîna wan pirtûkên ku di bin mafên çapkirinê de bûn. Ger hişên dadrêsî û dozgerên jîr hebin ku xem dikin, wekî ku me di dîrokê de di dozên ji titûna mezin bigire heya enerjiya mezin dîtiye, hûn dikarin hin parêzvanan û hin teşwîqan jî bistînin da ku hêdî bikin, baldar bin, an bi vî rengî mirovan biparêzin.
Wusa dixuye ku tevahiya strûktûra lêçûnê ya pîşesaziya AI-ê li ser şîroveyek pir, pir xêrxwaz a karanîna adil ve girêdayî ye. Têra xwe dernakeve. Struktura lêçûnên van pargîdaniyan dikare ji kontrolê derkeve heke ew neçar bin ku hûn û her kesê ku xebata wan girtiye bidin, lê nerehet e ku meriv li ser bifikirin, ji ber vê yekê em tenê li ser nefikirin. Hema li kêleka wê, van hemî hilberan naha bi windahî dimeşin. Mîna îro, hemû bi windahî dimeşin. Ew ji wan bêtir pereyan dişewitînin. Di hin xalan de, ew neçar in ku guhêrbar bixin.
Sam karsazek e. Wekî ku we çend caran behs kiriye, ew ne teknolojiyê ye. Ew kesek karsaz e. Ma hûn difikirin ku ew amade ye ku guhêrbar bike û bêje, "Em ê dolarek çêbikin?" Ji ber ku gava ku ez dipirsim, "Ma hûn difikirin ku OpenAI dê wê çêbike?" Dema ku ew neçar in ku dolarek çêbikin. Û heta niha, Sam hemû dolarên xwe bi pereyan ji kesên din dipirse li şûna ku pargîdaniyên wî pereyan bikin.
Welê, ew ji bo Silicon Valley, ji bo veberhêneran, ji bo gel pirsek domdar a mezin e.Hûn hin daxuyanî û tevgerên ji OpenAI-yê derdikevin dibînin ku dixuye ku di derheqê wê de celebek panîkê ye. Rakirina Sora, girtina hin projeyên alîkar, hewldana sifirkirina hilberîna bingehîn. Lê dûv re ji hêla din ve, hûn hîn jî dibînin, di heman demê de, bi tonên mîsyonê diherikin, rast? Nimûneyek piçûk jî - ew eşkere ji karsaziya wan re ne bingehîn e - stendina TBPN e.
Bi awayê, rast gava ku em digihîjin xeta qedandinê û kontrolkirina rastiyan, pargîdaniya ku bi vî rengî vekolîna rojnamegeriyê re rû bi rû maye platformek ku ew dikarin bêtir rasterast li ser danûstendinê bibin xwedî dike. Ez difikirim ku gelek veberhêner hene ku bi fikar in, li ser bingeha danûstendinên ku min kirine, ku ev pirsgirêka soza hemî tiştan ji hemî mirovan re di heman demê de vê kêmbûna balê di modela karsaziya bingehîn de jî dirêj dike. Û ez dibêjim, hûn ji belkî ez nêzîkê celebê pêşbînîkirin û temaşekirina bazarê ne. Ez ê we û guhdaran bihêlim da ku hûn bibin dadger ka gelo ew difikirin ku OpenAI dikare guhêrbar bike.
Welê, min pirs kir ji ber ku we di beşê de ji rêveberek payebilind ê Microsoft-ê gotarek girtiye, û ew e ku, "mîrata Sam dibe ku bêtir dişibihe Bernie Madoff an Sam Bankman-Fried," ji Steve Jobs. Ew bi tevahî berhevokek e. Te ji wê berhevdanê çi kir?
Ez difikirim ku ew parafrazek e. Beşa Steve Jobs ne beşek jêderê bû. Lê celebek dilşewatiyek balkêş heye ji ber ku ew bi vî rengî tête gotin, "Ez difikirim ku şansek piçûk lê rast heye ku ew bibe SBF an xapînokek asta Madoff." Wate, bi hişê min, ne ku Sam bi wan celebên xapînok an tawanên taybetî têne tawanbar kirin, lê dibe ku asta belavbûn û xapandinê ji Sam re hebe ku di dawiyê de di wê astê de were bîranîn.
Erê, ez difikirim ku ya herî balkêş di derbarê wê gotinê de, bi rastî, ev e ku hûn gazî li Microsoft-ê dikin û hûn jê hez nakin, "Ew dîn e. Me qet ew nebihîstiye." Hûn gelek tiştên mîna, "Erê, gelek kes li vir difikirin" digirin ku balkêş e. Û ez difikirim ku ew diçe ser van pirsên karsaziyê yên gûz û tîrêj.
Weberhênerekî ji min re got, ji bo nimûne, di ronahiya awayê ku ev taybetmendî di salên piştî gulebaranê de domandiye" - û ev jî fikirîn ku ev ramanek hişyariyek balkêş bû - ku ne hewce ye ku Sam di binê mutleq a lîsteyê de be, mîna ku divê di warê mirovên ku bi rastî ne hewce ne ku vê teknolojiyê ava bikin, ji ber ku ev mirov hêjayî gotinê ye. dibe ku wî di binê navnîşa kesên ku divê AGI ava bikin, û di binê çend kesayetiyên pêşeng ên din ên di vî warî de datîne.
Ji ber vê yekê min fikir kir ku ew nirxandinek balkêş bû, û ew celeb raman e ku ez difikirim ku hûn ji pragmatîstên rastîn ên ku dibe ku ew qas fikarên ewlehiyê nekirin bistînin. Ew tenê geşbûnê ne, û ew difikirin ku OpenAI naha bi Sam Altman re pirsgirêkek heye.
Parçeya Microsoft-ê bi rastî balkêş e. Wê pargîdanî difikirî ku ew li serê cîhanê ne. Ku wan ev veberhênanê çêkiribû û ew ê her kes, nemaze û ya herî girîng, Google-ê bişopînin û vegerin nav xêr û kerema xerîdaran. Asta ku ew di vê serpêhatiyê de xwe dişewitînin - ev pargîdaniyek pir bi hişyarane ye - ez nafikirim ku were zêde kirin.
Te behsa karakter û taybetmendiyên kesayetiyê kir. Ez dixwazim li vir bi pirseke guhdarên me bi dawî bînim. Min di pêşandana me ya din de, The Vergecast, got ku ez ê bi we re bipeyivim, û min got, "Ger pirsên we ji Ronan re li ser vê çîrokê hebin, ji min re agahdar bikin." Ji ber vê yekê me li vir yek heye ku ez difikirim ku bi ya ku hûn diyar dikin re têkildar e. Ez ê tenê ji we re bixwînim:
"Çawa hincetên ji bo behremendiya xirab, kiryarên hovane yên Altman û rêberên din ên AI-yê, ji hincetên ku Ronan ji serokên din ên payebilind ên di siyaset û medyayê de bihîstiye, cûda dibin? Ma ew hemî kirinên xwe rewa nakin ku dibêjin cîhan bi vî rengî tê guhertin? Ger ez vê yekê nekim, yekî din wê bike?”
Erê, gelek tişt hene ku li dora xwe diçin. Ez ê bibêjim ya ku ji AI-ê veqetandî ye ev e ku kêşeyên hebûnê ew qas bêhempa bilind in tê vê wateyê ku her du daxuyaniyên xetereyê jî tund in, rast? We Sam Altman heyegot, "Ev dikare ji bo me hemûyan bibe ronahî." Û her weha, rexnegir dikarin bibêjin, manaya ku pirsyar behs dike tund e, rast?
Tiştê ku Sam li ser tomarê Elon tawanbar kir, ew bû ku dibe ku ew dixwaze mirovahiyê xilas bike, lê tenê heke ew ew be. Cûreyek pêkhateya ego ya ku dixwaze bi ser bikeve, ku çarçoveyek e ku Sam her dem bikar tîne, û ku ev yek ji bo pirtûkên dîrokê ye, ev dikare her tiştî biguhezîne. Ji ber vê yekê, tewra li jor û derveyî hişmendiya "divê hûn çend hêkan bişkînin" ya piraniya pargîdaniyên Silicon Valley, di hişê hin fîgurên ku pêşengiya AI-ê dikin de, ez difikirim ku ji bo her û her hilweşandinê rasyonalasyonek bêkêmasî heye.
Û şikandina hêkan ji bîr bike. Ez / difikirim ku gelek lêkolînerên ewlehiyê yên bingehîn dê bibêjin potansiyel metirsiya şikandina welat, şikandina cîhanê, û şikandina bi mîlyonan mirovên ku kar û ewlehiya wan di hevsengiyê de ne - ev yek di derheqê wê de bêhempa ye. Li wê derê ez nêzîk dikim, li ser vê laşê raporê radiwestim, bi rastî bawer dikim ku ev ji Sam Altman zêdetir e. Ev li ser pîşesaziyek ku bêsînor e û pirsgirêkek spiral a Amerîkî ye ku nikare wê asteng bike.
Yeah. Welê, me li wir hin xweşbîniyek hebû, lê ez difikirim ku ew cîhek baş e ku meriv wê bihêle.
[Dikene] Li ser xwarê bi dawî bibe.
Bê guman. Ew her çîrokek mezin e, bi rastî. Dadgehkirina Musk-Altman nêzîk e. Ez difikirim ku em ê li vir pir bêtir fêr bibin. Ez guman dikim ku ez dixwazim dîsa bi te re bipeyivim. Ronan Farrow, gelek spas ji bo ku hûn li Dekoderê ne.
Sipas ji were.
Pirs an şîrove li ser vê beşê? Li me bixin [email protected]. Em bi rastî her e-nameyê dixwînin!
