Heddiw ar Decoder, rwy'n siarad â Ronan Farrow, un o sêr mwyaf adrodd ymchwiliol sy'n gweithio heddiw. Torrodd stori Harvey Weinstein, ymhlith llawer, llawer o rai eraill. A dim ond yr wythnos diwethaf, fe gyhoeddodd ef a’i gyd-awdur Andrew Marantz nodwedd hynod ddwfn yn The New Yorker am Brif Swyddog Gweithredol OpenAI, Sam Altman, ei ddibynadwyedd, a thwf OpenAI ei hun.
Un nodyn cyn i ni fynd ymhellach yma - cyhoeddodd y New Yorker y stori honno a chafodd Ronan a minnau'r sgwrs hon cyn i ni wybod maint llawn yr ymosodiadau ar gartref Altman, felly ni fyddwch yn ein clywed yn siarad am hynny'n uniongyrchol. Ond dim ond i’w ddweud, rwy’n meddwl bod trais o unrhyw fath yn annerbyniol, roedd yr ymosodiadau hyn ar Sam yn annerbyniol, a bod y math o ddiymadferthedd y mae pobl yn ei deimlo, sy’n arwain at y math hwn o drais, ynddo’i hun yn annerbyniol, ac mae’n werth llawer mwy o graffu gan y diwydiant a’n harweinwyr gwleidyddol. Rwy'n gobeithio bod hynny'n glir.
Tanysgrifwyr ymylon, peidiwch ag anghofio eich bod yn cael mynediad unigryw i ddatgodiwr di-hysbyseb lle bynnag y cewch eich podlediadau. Pennaeth yma. Ddim yn danysgrifiwr? Gallwch gofrestru yma.
Wedi dweud hynny, mae yna lawer yn chwyrlïo o gwmpas Altman sy'n gêm deg ar gyfer adrodd trylwyr - y math o ohebu yr oedd Ronan ac Andrew yn bwriadu ei wneud. Diolch i boblogrwydd ChatGPT, mae Altman wedi dod i'r amlwg fel arweinydd mwyaf gweladwy'r diwydiant AI, ar ôl troi labordy ymchwil a oedd unwaith yn ddielw yn gwmni preifat bron i driliwn o ddoleri mewn ychydig flynyddoedd yn unig. Ond mae myth Altman yn gwrthdaro'n fawr, wedi'i ddiffinio'n gyfartal gan ei allu amlwg i wneud bargeinion a'i duedd a adroddir i ... wel, celwydd wrth bawb o'i gwmpas.
Mae'r stori dros 17,000 o eiriau o hyd, a gellir dadlau ei bod yn cynnwys y cyfrif diffiniol o'r hyn a ddigwyddodd yn 2023 pan daniodd bwrdd cyfarwyddwyr OpenAI Altman yn sydyn iawn dros ei gelwydd honedig, dim ond iddo gael ei ail-gyflogi bron yn syth. Mae hefyd yn blymio’n ddwfn i fywyd personol Altman, ei fuddsoddiadau, ei garu arian o’r Dwyrain Canol, a’i fyfyrdodau ei hun ar ei ymddygiad yn y gorffennol a’i nodweddion cymeriad a arweiniodd at un ffynhonnell i ddweud ei fod “heb ei gyfyngu gan y gwir.” Dwi wir yn awgrymu eich bod chi'n darllen y stori gyfan; Rwy'n amau y cyfeirir ato am flynyddoedd lawer i ddod.
Bu Ronan yn siarad ag Altman lawer gwaith dros y 18 mis a dreuliodd yn adrodd y darn hwn, ac felly un o'r prif bethau roeddwn yn chwilfrydig yn ei gylch oedd a oedd yn synhwyro unrhyw newid yn Altman dros yr amser hwnnw. Wedi'r cyfan, mae llawer wedi digwydd mewn AI, mewn technoleg, ac yn y byd dros y flwyddyn a hanner diwethaf.
Fe glywch Ronan yn siarad am hynny'n uniongyrchol iawn, yn ogystal â'i synnwyr bod pobl wedi dod yn llawer mwy parod i siarad am allu Altman i ymestyn y gwir. Mae pobl yn dechrau meddwl, yn uchel ac ar gofnod, a yw ymddygiad pobl fel Altman yn peri pryder, nid yn unig i AI neu dechnoleg ond hefyd i ddyfodol cyfunol cymdeithas.
Iawn: Ronan Farrow ar Sam Altman, AI, a'r gwir. Dyma ni'n mynd.
Mae'r cyfweliad hwn wedi'i olygu'n ysgafn o ran hyd ac eglurder.
Ronan Farrow, rydych chi'n ohebydd ymchwiliol ac yn cyfrannu at The New Yorker. Croeso i Decoder.
Falch o fod yma. Diolch am fy nghael i.
Rwy'n gyffrous iawn i siarad â chi. Rydych chi newydd ysgrifennu darn mawr ar gyfer The New Yorker. Mae'n broffil o Sam Altman ac, fel hyn, OpenAI. Fy narlleniad ohono yw, fel y mae pob nodwedd wych yn ei wneud, ei fod, gydag adroddiadau trylwyr, yn dilysu llawer o deimladau y mae pobl wedi'u cael am Sam Altman ers amser maith. Rydych chi'n amlwg wedi'i gyhoeddi, rydych chi wedi cael ymatebion iddo. Sut ydych chi'n teimlo amdano ar hyn o bryd?
Wel, rwyf wedi fy nghalonogi, mewn gwirionedd, gan y graddau y mae wedi torri drwodd mewn cyfnod lle mae'r economi sylw mor sgitsoffrenig a bas. Mae hon yn stori sydd, yn fy marn i, yn effeithio ar bob un ohonom. A phan dreuliais i flwyddyn a hanner o fy mywyd, a fy nghyd-awdur, Andrew Marantz, hefyd wedi treulio’r amser hwnnw, yn ceisio gwneud rhywbeth fforensig a manwl iawn, mae bob amser oherwydd fy mod yn teimlo bod materion strwythurol mwy sy’n effeithio ar bobl y tu hwnt i’r unigolyn a’r cwmni wrth wraidd y stori.
Sam Altman, yn erbyn cefndir o ddiwylliant hype Silicon Valley a busnesau newydd sy'n cynnal prisiadau enfawr yn seiliedig ar addewidion a allai ddod i ben neu beidio yn y dyfodol, a chofleidiad cynyddol o ddiwylliant sylfaenwyr sy'n meddwl bod dweud wrth wahanol grwpiau o wahanol bethau sy'n gwrthdaro yn nodwedd, nid ahyd yn oed yn erbyn y cefndir hwnnw, mae Sam Altman yn achos rhyfeddol lle na all pawb yn Silicon Valley sy'n disgwyl y pethau hynny roi'r gorau i siarad am y cwestiwn hwn o'i ddibynadwyedd a'i onestrwydd.
Roeddem yn gwybod eisoes ei fod wedi'i ddiswyddo dros ryw fersiwn o honiadau o anonestrwydd neu gelwydd cyfresol honedig. Ond yn hynod, er gwaethaf y ffaith bod adroddiadau gwych wedi bod, mae Keach Hagey wedi gwneud gwaith gwych ar hyn. Mae Karen Hao wedi gwneud gwaith gwych ar hyn. Nid oedd dealltwriaeth bendant mewn gwirionedd o'r pwyntiau prawf honedig gwirioneddol a'r rhesymau pam mae'r rheini wedi aros allan o lygad y cyhoedd.
Felly pwynt rhif un yw fy mod yn teimlo fy mod wedi fy nghalonogi gan y ffaith bod rhai o'r bylchau hynny yn ein gwybodaeth gyhoeddus, a hyd yn oed yng ngwybodaeth mewnwyr Silicon Valley, bellach wedi'u llenwi ychydig yn fwy. Mae rhai o'r rhesymau pam roedd bylchau wedi'u llenwi ychydig yn fwy.
Rydyn ni'n adrodd ar achosion lle roedd pobl y tu mewn i'r cwmni hwn wir yn teimlo bod pethau wedi'u cuddio neu heb eu dogfennu'n fwriadol. Un o'r pethau newydd yn y stori hon yw ymchwiliad cwmni cyfreithiol canolog gan WilmerHale, sy'n amlwg yn gwmni cyfreithiol ffansi, credadwy, mawr a wnaeth ymchwiliadau i Enron a WorldCom, a oedd, gyda llaw, i gyd yn swmpus, fel cannoedd o dudalennau a gyhoeddwyd. Gwnaeth WilmerHale yr ymchwiliad hwn a geisiwyd gan aelodau'r bwrdd a oedd wedi tanio Altman fel amod o'u hymadawiad pan gafodd wared arnynt, a daeth yn ôl. Ac yn hynod—yng ngolwg llawer o arbenigwyr cyfreithiol y siaradais â nhw, ac yn ysgytwol yng ngolwg llawer o bobl yn y cwmni hwn—fe'u cadwodd allan o ysgrifen. Y cyfan a ddeilliodd erioed o hynny oedd datganiad i'r wasg 800 gair gan OpenAI a ddisgrifiodd yr hyn a ddigwyddodd fel chwalfa mewn ymddiriedaeth. A chadarnhawyd gennym fod hyn yn cael ei gadw i sesiynau briffio llafar.
Mae yna achosion, er enghraifft, lle mae’n ymddangos bod aelod bwrdd eisiau pleidleisio yn erbyn y trosi o ffurflen ddi-elw wreiddiol OpenAI yn endid er-elw, ac mae wedi’i gofnodi fel ymataliad. Mae yna fel cyfreithiwr yn y cyfarfod yn dweud, “Wel, fe allai hynny sbarduno gormod o graffu.” Ac mae'r person sydd am bleidleisio yn erbyn yn cael ei gofnodi fel ymatal rhag pob ymddangosiad. Mae anghydfod ffeithiol. Mae OpenAI yn honni fel arall, fel y gallech ddychmygu. Mae'r rhain i gyd yn achosion lle mae gennych gwmni sydd, yn ei gyfrif ei hun, yn dal ein dyfodol yn ei ddwylo.
Mae'r polion diogelwch mor ddifrifol fel nad ydynt wedi diflannu. Dyma'r rheswm y sefydlwyd y cwmni hwn fel cwmni dielw yn canolbwyntio ar ddiogelwch, a lle'r oedd pethau'n cael eu cuddio mewn ffordd yr oedd pobl gredadwy o gwmpas hyn yn ei chael yn llai na phroffesiynol. Ac rydych chi'n cyplysu hynny â chefndir lle mae cyn lleied o awydd gwleidyddol am reoleiddio ystyrlon. Rwy'n meddwl ei bod yn sefyllfa hylosg iawn.
Nid y pwynt i mi yn unig yw bod Sam Altman yn haeddu’r cwestiynau hyn mor llym. Mae hefyd yn wir bod unrhyw un o'r dynion hyn yn y maes hwn, a llawer o'r ffigurau allweddol, yn arddangos, os nad y nodwedd hynod hynod honedig honedig hon sy'n gorwedd drwy'r amser, yn sicr rhyw raddau o feddylfryd hil-i-y-gwaelod, lle mae'r bobl a oedd yn ddiogelwyr wedi gwanhau'r ymrwymiadau hynny ac osgo pawb-yn-y-ras.
Rwy'n meddwl, wrth i ni edrych ar ollyngiadau diweddar o Anthropic, mae yna berson sy'n gofyn y cwestiwn pwy ddylai gael ei fys ar y botwm yn y darn hwn. Yr ateb yw, os nad oes gennym ni arolygiaeth ystyrlon, rwy'n meddwl bod yn rhaid i ni fod yn gofyn cwestiynau difrifol ac yn ceisio dod i'r amlwg cymaint o wybodaeth ag y gallwn am yr holl fechgyn hyn. Felly rydw i wedi cael fy nghalonogi gan yr hyn sy'n teimlo fel sgwrs ystyrlon am hynny, neu ddechreuadau un.
Y rheswm pam y gofynnais iddo felly yw eich bod wedi gweithio ar hyn am flwyddyn a hanner. Fe siaradoch chi, rwy’n credu, â 100 o bobl gyda’ch cyd-awdur, Andrew. Dyna amser hir i stori goginio. Rwy'n meddwl am y flwyddyn a hanner ddiwethaf yn AI yn arbennig, a bachgen, a yw agweddau a gwerthoedd yr holl gymeriadau hyn wedi newid yn gyflym iawn.
Efallai dim mwy na Sam Altman, a ddechreuodd fel yr enillydd rhagosodedig oherwydd eu bod wedi rhyddhau ChatGPT ac roedd pawb yn meddwl y byddai hynny'n cymryd drosodd i Google. Ac yna ymatebodd Google, a oedd yn ymddangos yn syndod iddynt y byddai Google yn ceisio amddiffyn ei fusnes, efallai un o'r busnesau gorau yn hanes technoleg, os nad hanes busnes. Penderfynodd Anthropic y byddai'n canolbwyntio ar y fenter. Mae'n ymddangos ei fod yn cymryd yr awenauyno oherwydd bod y defnydd menter o AI mor uchel.
Nawr, mae OpenAI yn ailffocysu ei gynnyrch i ffwrdd o “rydym yn mynd i gymryd Google” i Codex, ac maen nhw'n mynd i ymgymryd â'r fenter. Ni allaf ddweud yn union, yn ystod eich gohebu dros y flwyddyn a hanner diwethaf, a yw'n teimlo fel bod y cymeriadau yr oeddech yn siarad â nhw wedi newid? Fel eu hagweddau a'u gwerthoedd, a newidiodd y rheini?
Oes. Rwy’n meddwl yn gyntaf oll, bod y feirniadaeth sy’n cael ei harchwilio yn y darn hwn, sy’n dod gan lawer o bobl y tu mewn i’r cwmnïau hyn ar y pwynt hwn—fod hwn yn ddiwydiant sydd, er gwaethaf y polion dirfodol, yn disgyn i rywbeth o ras i’r gwaelod ar ddiogelwch a lle mae cyflymder yn trechu popeth arall—mae’r pryder hwnnw wedi mynd yn fwy acíwt. Ac rwy'n meddwl bod y pryderon hynny wedi'u dilysu'n fwy wrth i'r flwyddyn a hanner ddiwethaf ddod i'r amlwg. Ar yr un pryd, mae agweddau am Sam Altman wedi newid yn benodol. Pan ddechreuon ni siarad â ffynonellau ar gyfer hyn, roedd pobl yn wirioneddol awyddus i gael eu dyfynnu am hyn a mynd ar y cofnod am hyn.
Erbyn diwedd ein hadroddiadau, mae gennych gorff o adroddiadau lle mae pobl yn siarad am hyn yn agored ac yn eglur iawn, ac mae gennych aelodau bwrdd yn dweud pethau fel, "Mae'n gelwyddgi patholegol. Mae'n sociopath." Mae yna amrywiaeth o safbwyntiau o, “Mae hyn yn beryglus o ystyried y polion diogelwch, ac mae angen arweinwyr y dechnoleg hon sydd wedi dyrchafu cywirdeb,” yr holl ffordd i fyny i hoffi, “Anghofiwch y polion diogelwch, dyma ymddygiad sy'n anghynaladwy i unrhyw weithredwr unrhyw gwmni mawr, ei fod yn creu gormod o gamweithrediad.”
Felly mae'r sgwrs wedi dod yn llawer mwy amlwg mewn ffordd sy'n teimlo'n hwyr efallai, ond sy'n galonogol ar un olwg. A Sam Altman, er clod iddo… Mae’r darn yn deg iawn a hyd yn oed yn hael, byddwn i’n dweud, i Sam. Nid dyma’r math o ddarn lle roedd llawer o stwff “got ti”. Treuliais lawer, llawer o oriau ar y ffôn gydag ef gan ein bod yn gorffen hyn ac yn ei glywed allan.
Fel y gallwch ddychmygu, mewn darn fel hwn, nid yw popeth yn ei gwneud hi i mewn. Roedd rhai o'r achosion hynny yn yr un hwn oherwydd fy mod yn gwrando'n ddiffuant. Ac os oedd Sam mewn gwirionedd yn dadlau fy mod i'n teimlo'n cario dŵr, y gallai rhywbeth, hyd yn oed os oedd yn wir, fod yn gyffrous, fe wnes i wir gyfeiliorni ar yr ochr fforensig a phwyllog hwn. Felly rwy’n meddwl bod hynny’n cael ei dderbyn yn gywir, ac rwy’n gobeithio y gall y cofnod ffeithiol hwn sydd wedi cronni dros y cyfnod hwn o amser ysgogi sgwrs fwy cyffrous am yr angen am oruchwyliaeth.
Dyna fy nghwestiwn nesaf mewn gwirionedd. Rwy'n meddwl ichi siarad â Sam ddwsin o weithiau yn ystod y cyfnod o adrodd y stori hon. Unwaith eto, mae hynny'n llawer o sgyrsiau dros gyfnod hir o amser. Oeddech chi'n meddwl bod Sam wedi newid yn ystod yr adrodd dros y flwyddyn a hanner ddiwethaf?
Ie. Rwy'n meddwl mai un o'r is-blotiau mwyaf diddorol yn hyn o beth yw bod Sam Altman hefyd yn siarad am y nodwedd hon yn fwy penodol nag y bu yn y gorffennol. Nid yw ystum Sam yn y darn hwn yn debyg, “Does dim byd yno, nid yw hyn yn wir; wn i ddim am beth rydych chi'n siarad.” Yr ystum sydd ganddo yw ei fod yn dweud bod hyn i'w briodoli i duedd sy'n plesio pobl a rhyw fath o wrthwynebiad i wrthdaro. Mae’n cydnabod ei fod wedi achosi problemau iddo, yn enwedig yn gynharach yn ei yrfa.
Mae’n dweud, “Wel, rydw i’n symud heibio i hynny, neu wedi symud heibio i hynny i raddau.” Rwy’n meddwl mai’r hyn sy’n ddiddorol iawn i mi yw’r nifer o bobl y buom yn siarad â nhw nad oeddent yn fath o eiriolwyr diogelwch yn unig, nid yn unig yr ymchwilwyr technegol sylfaenol sy’n aml iawn yn dueddol o fod â’r pryderon diogelwch acíwt hyn, ond hefyd yn fuddsoddwyr pragmatig, mawr. Maent yn gefnogwyr Sam, sydd, mewn rhai achosion, yn edrych ar y cwestiwn hwn ac yn siarad am hyd yn oed wedi chwarae rhan allweddol yn ei ddychwelyd ar ôl y tanio. Nawr, ar y cwestiwn hwn a yw wedi diwygio, ac i ba raddau y mae'r newid hwnnw'n ystyrlon, maen nhw'n dweud, “Wel, fe wnaethon ni roi mantais yr amheuaeth iddo ar y pryd.”
Rwy’n meddwl am un buddsoddwr amlwg yn benodol a ddywedodd, “Ond ers hynny, mae’n ymddangos yn glir na chafodd ei dynnu allan y tu ôl i’r cwt pren,” sef yr ymadrodd a ddefnyddiodd yr un hwn, i’r graddau a oedd yn angenrheidiol. O ganlyniad, mae'n ymddangos fel hyn bellach yn nodwedd sefydlog. Rydym yn gweld hyn mewn ffordd barhaus. Gallwch edrych ar rai o fusnes mwyaf OpenAIperthnasoedd a'r ffordd y maent yn fath o gario pwysau'r ddrwgdybiaeth honno mewn ffordd barhaus.
Yn yr un modd â Microsoft, rydych chi'n siarad â swyddogion gweithredol yno, ac maen nhw wedi achosi pryderon acíwt iawn ac wedi sbarduno pryderon yn ddiweddar. Mae’r achos hwn, ar yr un diwrnod, lle mae OpenAI yn ailddatgan ei unigedd gyda Microsoft mewn perthynas â modelau AI di-wladwriaeth sylfaenol, mae hefyd yn cyhoeddi bargen newydd gydag Amazon sy’n ymwneud â gwerthu datrysiadau menter ar gyfer adeiladu asiantau AI sy’n wladwriaethol, sy’n golygu bod ganddyn nhw gof.
Rydych chi'n siarad â phobl Microsoft, ac maen nhw fel, “Nid yw hynny'n bosibl ei wneud heb ryngweithio â'r pethau sylfaenol y mae gennym ni fargen unigryw arnynt.” Felly dyna un yn unig o lawer o enghreifftiau bach lle mae'r nodwedd hon yn tueddu i fynd i mewn i weithgarwch busnes parhaus drwy'r amser ac yn destun pryder gweithredol o fewn bwrdd OpenAI, yn ei gyfres weithredol, ac yn y gymuned dechnoleg ehangach.
Rydych chi'n dal i ddweud y “nodwedd.” Mae yna linell yn y stori sy'n teimlo fel y traethawd ymchwil i mi, ac mae'n ddisgrifiad o'r nodwedd rydych chi'n ei disgrifio. “Mae Sam Altman heb ei gyfyngu gan y gwir” a bod ganddo “ddwy nodwedd na welir bron byth yn yr un person: y cyntaf yw awydd cryf i blesio pobl, i gael ei hoffi mewn unrhyw ryngweithio penodol, a’r ail yw diffyg pryder bron yn sociopathig am y canlyniadau a all ddod o dwyllo rhywun.”
Rhaid imi ddweud wrthych, darllenais y frawddeg honno 500 o weithiau, a cheisiais ddychmygu dweud bob amser yr hyn yr oedd pobl am gael eu hoffi ac yna peidio â chynhyrfu pan oeddent yn teimlo celwydd. Ac ni allwn wneud i'm cyflwr emosiynol ddeall sut y gall y pethau hynny fodoli yn yr un person. Rydych chi wedi siarad llawer gyda Sam, ac rydych chi wedi siarad â phobl sydd wedi profi'r nodweddion hyn. Sut mae'n ei wneud?
Ie. Mae'n ddiddorol ar lefel ddynol oherwydd rydw i'n mynd at gyrff adrodd fel hyn gyda ffocws gwirioneddol ar ddyneiddio pwy bynnag sydd wrth wraidd y peth a cheisio dealltwriaeth ddofn ac empathi. Pan geisiais fynd at hyn o safbwynt mwy dynol a dweud, "Hei, byddai hyn yn ddinistriol i mi pe bai cymaint o bobl rydw i wedi gweithio gyda nhw yn dweud fy mod yn gelwyddgi patholegol. Sut ydych chi'n cario'r pwysau hwnnw? Sut ydych chi'n siarad am hynny mewn therapi? Beth yw'r stori rydych chi'n ei hadrodd i chi'ch hun am hynny?"
Cefais ryw fath o, yn fy marn i, efallai platitudes West Coast am hynny fel, “Ydw, rwy'n hoffi gwaith anadl.” Ond dim llawer o'r math o ymdeimlad bracing o hunan-wrthdaro dwfn yr wyf yn meddwl y byddai llawer ohonom yn ôl pob tebyg pe byddem yn gweld y math hwn o adborth am ein hymddygiad a'n triniaeth o bobl.
Rwy’n meddwl bod hynny mewn gwirionedd yn mynd at yr ateb ehangach i’r cwestiwn, hefyd. Mae Sam yn honni bod y nodwedd hon wedi achosi problemau, ond hefyd ei fod yn rhan o'r hyn sydd wedi ei rymuso i gyflymu twf OpenAI cymaint fel ei fod yn gallu uno a phlesio gwahanol grwpiau o bobl. Mae’n argyhoeddi’r holl etholaethau gwrthdaro hyn yn gyson mai’r hyn sy’n bwysig iddyn nhw yw’r hyn sy’n bwysig iddo. A gall hynny fod yn sgil ddefnyddiol iawn i sylfaenydd. Rwyf wedi siarad â buddsoddwyr sydd wedyn yn dweud, “Wel, efallai ei fod yn sgil llai defnyddiol ar gyfer rhedeg cwmni mewn gwirionedd oherwydd ei fod yn hau cymaint o anghytgord.”
Ond ar ochr bersonol Sam, rwy’n meddwl mai’r peth rwy’n sylwi arno wrth geisio cysylltu ar lefel ddynol yw’r diffyg ymddangosiadol o wrthdaro dyfnach, myfyrio, a hunan-atebolrwydd, sydd hefyd yn hysbysu’r pŵer neu atebolrwydd hwnnw i gwmni sy’n paratoi ar gyfer IPO.
Mae’n rhywun sydd, yng ngeiriau un cyn-aelod bwrdd o’r enw Sue Yoon, sydd ar y record yn y darn yn dweud mai i’r pwynt o “ddiffygrwydd” yw’r ymadrodd y mae’n ei ddefnyddio, yn gallu credu realiti cyfnewidiol ei feysydd gwerthu neu’n gallu argyhoeddi ei hun ohonyn nhw. Neu o leiaf os nad yw'n eu credu, mae'n gallu chwythu trwyddynt heb hunan-amheuaeth ystyrlon.
Rwy’n meddwl bod y peth yr ydych yn sôn amdano, lle gallech chi neu fi, gan ein bod yn dweud y peth ac yn sylweddoli ei fod yn gwrthdaro â’r sicrwydd arall yr ydym wedi’i wneud, yn cael eiliad o rewi neu wirio ein hunain. Rwy'n credu nad yw hynny'n digwydd gydag ef. Ac mae yna ddiwylliant hype ehangach yn Silicon Valley a diwylliant sylfaenwyr sy'n cofleidio hynny.
Mae'n ddoniol. Mae The Verge wedi'i seilio ar yr hyn sy'n gyfystyr ag adolygiadau cynnyrchrhaglen. Dyna galon yr hyn a wnawn yma. Rwy'n dal triliwn o ddoleri o ymchwil a datblygu Apple unwaith y flwyddyn ac yn dweud, "Saith yw'r ffôn hwn." Ac mae'n cyfreithloni ein holl adroddiadau a'n barn mewn mannau eraill. Mae gennym swyddogaeth werthusol, ac rydym yn treulio cymaint o amser yn edrych ar y cynhyrchion AI a dweud, “Ydyn nhw'n gweithio?”
Mae hynny'n teimlo ei fod ar goll o lawer o'r sgwrs am AI fel y mae heddiw. Mae sgwrs ddiddiwedd am yr hyn y gallai ei wneud, pa mor beryglus y gallai fod. Ac yna rydych chi'n drilio i lawr, ac rydych chi'n dweud, “A yw'n gwneud y peth y mae i fod i'w wneud heddiw mewn gwirionedd?” Mewn rhai achosion, yr ateb yw ydy. Ond mewn llawer, llawer o achosion, yr ateb yw na.
Mae hynny'n teimlo fel ei fod yn cysylltu â'r diwylliant hype rydych chi'n ei ddisgrifio a hefyd â'r ymdeimlad, wel, os ydych chi'n dweud ei fod yn mynd i wneud rhywbeth ac nad yw'n gwneud, a bod rhywun yn teimlo'n ddrwg, mae hynny'n iawn oherwydd rydyn ni ar y peth nesaf. Mae hynny yn y gorffennol. Ac yn AI yn arbennig, mae Sam mor dda am wneud yr addewidion mawreddog.
Dim ond yr wythnos hon, rwy'n meddwl yr un diwrnod ag y cyhoeddwyd eich stori, rhyddhaodd OpenAI ddogfen bolisi a ddywedodd fod yn rhaid i ni ailfeddwl y contract cymdeithasol a chael cyflogau effeithlonrwydd AI gan y llywodraeth. Mae hwn yn addewid mawr ynglŷn â sut y gallai rhywfaint o dechnoleg lunio dyfodol y byd a sut yr ydym yn byw, ac mae hynny i gyd yn dibynnu ar y dechnoleg yn gweithio yn yr union ffordd efallai y bydd yn gweithio neu y dylai weithio.
A wnaethoch chi erioed weld Sam yn amau AI yn troi i mewn i AGI neu uwch-ddeallusrwydd neu gyrraedd y llinell derfyn? Achos dyna'r peth dwi'n pendroni fwyaf amdano. A oes unrhyw ystyriaeth ynghylch a all y dechnoleg graidd hon wneud yr holl bethau y dywedant y gall eu gwneud?
Mae'n union y set gywir o gwestiynau. Mae yna dechnolegwyr credadwy y buom yn siarad â nhw yn y corff hwn o adrodd—ac yn amlwg nid yw Sam Altman yn un; mae'n berson busnes - sy'n dweud bod y ffordd y mae Sam yn siarad am yr amserlen ar gyfer y dechnoleg hon ymhell i ffwrdd. Mae yna bostiadau blog yn mynd yn ôl ychydig o flynyddoedd lle mae Sam yn dweud, "Rydyn ni eisoes wedi cyrraedd gorwel y digwyddiad. Mae AGI yma yn y bôn. Mae goruchwyliaeth rownd y gornel. Rydyn ni'n mynd i fod ar blanedau eraill. Rydyn ni'n mynd i fod yn iacháu pob math o ganser." Yn wir, nid wyf yn addurno.
Mae'r un canser yn ddiddorol mewn gwirionedd, sef bod Sam yn hyping i fyny'r person a oedd yn ddamcaniaethol wella canser eu ci gyda ChatGPT, ac yn syml ni ddigwyddodd hynny. Buont yn siarad â ChatGPT, ac roedd hynny'n eu helpu i arwain rhai ymchwilwyr a wnaeth y gwaith mewn gwirionedd, ond nid y stori un-i-un, yr offeryn hwn sy'n gwella'r ci hwn yw'r stori mewn gwirionedd.
Rwy’n falch eich bod wedi codi’r pwynt hwnnw oherwydd rwyf am fynd ymlaen at y pwynt mwy hwn ynghylch pryd y bydd potensial a risg y dechnoleg mewn gwirionedd yn breinio. Ond mae'n werth sôn am yr ochrau bach hyn sy'n digwydd yn gyson o Sam Altman, lle mae'n ymddangos ei fod yn ymgorffori'r nodwedd hon eto.
Hynny yw, defnyddio enghraifft adroddiad WilmerHale, lle'r oedd gennym y wybodaeth hon a oedd wedi'i chadw allan o ysgrifen, ac roeddem am wybod a roddwyd y briff llafar ar hyd y ffordd i unrhyw un heblaw'r ddau aelod o'r bwrdd a helpodd Sam i'w osod i'w oruchwylio. Ac meddai, “Ie, ie, na, rwy'n credu ei fod wedi'i roi i bawb a ymunodd â'r bwrdd ar ôl hynny.” Ac mae gennym ni berson sydd â gwybodaeth uniongyrchol am y sefyllfa yn dweud mai dim ond celwydd ydyw. Ac mae'n ymddangos bod hynny'n wir, ei fod yn anwir. Os ydym am fod yn hael, efallai ei fod yn anghywir.
Mae llawer o'r sicrwydd achlysurol hyn. Ac rwy'n defnyddio'r enghraifft honno'n rhannol oherwydd mae hynny'n enghraifft wych o ddadosod, gadewch i ni ei alw, a all gael canlyniadau gwirioneddol yn gyfreithiol. Nid oes angen i mi ddweud wrthych, o dan gyfraith gorfforaethol Delaware, os gallai IPO y cwmni hwn, cyfranddalwyr, o dan adran 220, gwyno am hyn a mynnu dogfennaeth sylfaenol. Mae aelodau bwrdd eisoes yn dweud pethau fel, “Wel, arhoswch funud, dylai’r briffio hwnnw fod wedi digwydd.”
Felly mae'r pethau hyn sy'n ymddangos fel pe baent yn neidio allan o'i geg drwy'r amser, yn gallu cael effeithiau gwirioneddol sy'n symud y farchnad, effeithiau gwirioneddol i OpenAI. A dod ag ef yn ôl at y math o iaith hype iwtopaidd sydd wedi ail-wynebu, dwi'n meddwl nad yn gyd-ddigwyddiad ar y diwrnod y daeth y darn hwn allan, mae hefyd yn effeithio ar bob un ohonom, oherwydd mae'r peryglon mor ddifrifol o ran y ffordd y mae.cael ei ddefnyddio mewn arfau, y ffordd y mae'n cael ei ddefnyddio i nodi cyfryngau rhyfela cemegol, y potensial dadffurfiad, ac oherwydd y ffordd y mae'r hype iwtopaidd yn ymddangos fel pe bai'n ysgogi llawer o economegwyr credadwy i ddweud, “Mae gan hyn oll arwyddion o swigen.”
Mae hyd yn oed Sam Altman wedi dweud, “Mae rhywun yn mynd i golli llawer o arian yma.” Gallai hynny wir gratio llawer o dwf economaidd Americanaidd a byd-eang, os oes yna wir dylliad o swigen yn cynnwys yr holl gwmnïau hyn yn delio â'i gilydd, gan fynd i mewn ar AI wrth fenthyca mor drwm. Felly mae'r hyn y mae Sam Altman yn ei ddweud yn bwysig, ac rwy'n meddwl bod y mwyafrif o bobl o'i gwmpas, fe wnaethoch chi sôn ein bod ni wedi siarad â mwy na chant, roedd ymhell dros gant mewn gwirionedd. Cawsom sgwrs ar y llinell derfyn lle mae fel, “A fyddai’n rhy fân i ddweud ei fod fel y nifer llawer uwch hwn?” Ac roeddem fel, "Ie, gadewch i ni downplay. Byddwn yn chwarae yn cŵl." Ond roedd cymaint o bobl a mwyafrif mor sylweddol ohonyn nhw yn dweud, “Mae hyn yn bryder.” A dwi'n meddwl mai dyna pam i gyd.
Gadewch imi ofyn ichi am y rhif hwnnw. Fel y soniasoch, daeth pobl yn fwyfwy agored gyda’r pryderon wrth i amser fynd rhagddo. Mae’n teimlo fel bod y pwysau o amgylch y swigen—y ras i ennill, i dalu’r holl fuddsoddiad hwn, i ddod i’r amlwg fel yr enillydd, i IPO—wedi newid llawer o agweddau. Yn sicr fe greodd fwy o bwysau ar Sam ac OpenAI.
Fe wnaethom gyhoeddi stori yr wythnos hon am naws OpenAI. Mae eich stori yn rhan ohoni, ond mae newidiadau staffio enfawr yn y rhengoedd gweithredol yn OpenAI—mae pobl yn mynd a dod. Mae'r ymchwilwyr i gyd yn mynd i ffwrdd, yn bennaf i Anthropic, sy'n ddiddorol iawn yn fy marn i. Gallwch chi weld bod y cwmni hwn yn teimlo'r pwysau, ac mae'n ymateb i'r pwysau hwnnw mewn rhyw ffordd.
Ond wedyn dwi'n meddwl yn ôl i Sam gael ei danio. Mae hyn yn gofiadwy i mi. Mae'n gofiadwy i neb arall, ond cymerais alwad ffynhonnell yn Sw Bronx am 7PM ar ddydd Gwener, ac roedd rhywun yn dweud eu bod yn mynd i geisio cael Sam yn ôl. Ac yna fe dreulion ni'r penwythnos yn mynd ar ôl y stori honno i lawr. Ac roeddwn yn union fel, "Rwyf yn y sw. Beth ydych chi eisiau i mi wneud yma?" A’r ateb oedd, “Arhoswch ar y ffôn.” Wel, roedd fy merch fel, “Ewch oddi ar y ffôn.” A dyna beth wnes i.
Roedd yn reid neu farw i gael Sam yn ôl. Roedd y cwmni hwnnw fel, “Na, nid ydym yn gadael i'r bwrdd danio Sam Altman.” Y buddsoddwyr, maen nhw’n cael eu dyfynnu yn eich darn, “Aethon ni i ryfel,” rwy’n meddwl, yw safbwynt Thrive Capital, “i gael Sam yn ôl.” Aeth Microsoft i ryfel i gael Sam yn ôl. Mae'n ddiweddarach, ac yn awr mae pawb fel, "Rydyn ni'n mynd i'r IPO. Fe gyrhaeddon ni'r llinell derfyn. Fe wnaethon ni gael ein boi yn ôl, ac mae'n mynd i'n cael ni i'r llinell derfyn. Rydyn ni'n poeni ei fod yn gelwyddog."
Pam roedd hi'n rhyfel i'w gael yn ôl bryd hynny? Oherwydd nid yw'n ymddangos bod unrhyw beth wedi newid mewn gwirionedd. Rydych chi'n sôn am y memos a gadwodd Ilya Sutskever a [Prif Swyddog Gweithredol Anthropig] Dario Amodei tra'u bod yn gyfoeswyr i Sam Altman. Pryder pennaf Ilya oedd bod Sam yn gelwyddog.
Nid oes dim o hynny wedi newid. Felly pam mai rhyfel oedd dod ag ef yn ôl bryd hynny? A nawr ein bod ni ar y llinell derfyn, mae'n ymddangos bod yr holl bryderon allan yn yr awyr agored.
Wel, yn gyntaf oll, mae'n ddrwg gennyf i'ch merch a fy mhartner a'r holl bobl eraill o gwmpas y newyddiadurwyr.
[Chwerthin] Roedd yn dipyn o benwythnos i bawb.
Ydy, mae'n cymryd drosodd eich bywyd, ac yn bendant mae gan y stori hon fy un i, dros y cyfnod olaf o amser. Mae'n ymwneud mewn gwirionedd â'r thema hon o newyddiaduraeth a mynediad at wybodaeth, rwy'n meddwl. Chwaraeodd y buddsoddwyr a aeth i ryfel dros Sam a phawb ran wrth sicrhau ei fod yn dod yn ôl, a’r bwrdd a oedd wedi’i gynllunio’n benodol i amddiffyn cenhadaeth di-elw i roi diogelwch dros dwf ac i danio swyddog gweithredol os na ellid ymddiried ynddo â hynny, aethant i ffwrdd. Roedd hynny i gyd oherwydd, ie, roedd cymhellion y farchnad yno, iawn?
Roedd Sam yn gallu argyhoeddi pobl, “Wel, mae’r cwmni jyst yn mynd i chwalu.” Ond y rheswm y cafodd gefnogaeth oedd diffyg gwybodaeth. Mae’r buddsoddwyr hynny, mewn llawer o achosion, bellach yn dweud, “Rwy’n edrych yn ôl, ac rwy’n meddwl y dylwn fod wedi cael mwy o bryderon pe bawn wedi gwybod yn iawn beth oedd yr honiadau a beth oedd y pryderon.”
Nid pob un ohonynt;mae barn yn amrywio, ac rydym yn dyfynnu amrywiaeth o safbwyntiau, ond mae rhai arwyddocaol a oedd yn gweithredu ar wybodaeth rannol iawn. Roedd y bwrdd a daniodd Sam, yng ngeiriau un person oedd yn arfer bod ar y bwrdd, yn “JV iawn,” ac fe wnaethon nhw falu’r bêl yn galed. Ac rydym yn dogfennu'r cwynion sylfaenol, a gall pobl benderfynu drostynt eu hunain a yw'n cronni i'r math o bryder brys y teimlent ei fod, ond nid oedd y ddadl honno na'r wybodaeth honno'n cael eu cyflwyno.
Cawsant yr hyn y mae rhai ohonynt bellach yn ei gydnabod fel cyngor cyfreithiol gwael. I'w ddisgrifio, byddwch chi'n cofio'r dyfyniad, ac mae'n debyg y bydd llawer o'ch gwrandawyr a'ch gwylwyr yn cofio'r dyfyniad fel diffyg gonestrwydd. Dyna oedd ei le, ac yna yn y bôn ni fyddent yn cymryd galwadau.
Ni fyddent yn cymryd galwadau. Rwy'n siŵr eich bod wedi ceisio. Ceisiodd pawb rydw i'n eu hadnabod, a daeth i'r pwynt lle nad ydych chi, fel newyddiadurwr, i fod i roi cyngor i'ch ffynonellau, ond roeddwn i fel, "Bydd hyn yn mynd i ffwrdd os na fyddwch chi'n dechrau esbonio'ch hun."
A dyna beth ddigwyddodd. Anghofiwch newyddiadurwyr. Roedd gennych chi Satya Nadella yn dweud, "Beth ddigwyddodd uffern? Ni allaf gael unrhyw un i egluro i mi." A dyna brif gefnogwr ariannol y cwmni. Ac yna mae gennych chi Satya yn galw [cyd-sylfaenydd LinkedIn] Reid Hoffman a Reid yn galw o gwmpas ac yn dweud, "Dydw i ddim yn gwybod beth ddigwyddodd."
Maent yn ddealladwy yn y gwagle hwnnw o wybodaeth, yn chwilio am y dangosyddion traddodiadol nad ydynt yn AI a fyddai'n cyfiawnhau tanio mor frys, sydyn. Fel, iawn, ai troseddau rhyw ydoedd? Ai ladrad oedd hi? Ac fe gollwyd i raddau helaeth y ddadl gynnil, ond ystyrlon, fod y dechnoleg hon yn wahanol ac y gallai'r math hwn o grynhoad cyson o fradychu llai fod â manteision ystyrlon i'r busnes hwn ac efallai i'r byd. Felly enillodd cymhellion cyfalafol allan, ond hefyd aeth y bobl a'i gwnaeth allan ac nid oeddent bob amser yn gweithredu gyda gwybodaeth gyflawn.
Rwyf am ofyn am yr agwedd “beth oedd pawb yn ei feddwl” am eiliad, oherwydd yn sicr gwelais y newyddion, a dywedais, “O, mae'n rhaid bod rhywbeth drwg wedi digwydd.” Rydych chi wedi gwneud llawer o adroddiadau #MeToo, yn enwog. Fe wnaethoch chi dorri stori Harvey Weinstein.
Treuliasoch lawer o amser yn adrodd ar yr honiadau hyn yr wyf yn meddwl ichi benderfynu nad oedd sail iddynt yn y pen draw: bod Altman wedi ymosod yn rhywiol ar blant dan oed neu'n cyflogi gweithwyr rhyw, neu hyd yn oed wedi llofruddio chwythwr chwiban OpenAI. Hynny yw, chi yw'r person a all adrodd y pethau hyn yn fwyaf trwyadl. A wnaethoch chi benderfynu na ddaeth i ddim?
Wel, edrychwch, nid wyf yn y busnes o ddweud bod rhywbeth wedi dod i ddim. Yr hyn y gallaf ei ddweud yw treuliais fisoedd yn edrych ar yr honiadau hyn ac ni chefais gadarnhad ar eu cyfer. Ac roedd yn drawiadol i mi fod y dynion hyn, y cwmnïau hyn sydd â chymaint o bŵer dros ein dyfodol, yn wirioneddol yn treulio swm anghymesur o'u hamser a'u hadnoddau mewn brwydr fwd plentynnaidd.
Mae un swyddog gweithredol yn ei ddisgrifio fel “Shakespearean.” Mae swm yr arian ymchwilydd preifat a'r coflenni gwrthbleidiau sy'n cael eu llunio yn ddi-baid. A’r peth anffodus yw bod y math o stwff salacious, sy’n cael ei baroteiddio gan gystadleuwyr Sam, yn cael ei dybio’n ffaith, iawn? Mae'r honiad hwn ei fod yn erlid bechgyn dan oed, ac mewn llawer o bartïon coctel yn Silicon Valley, rydych chi'n clywed hyn. Ar gylchdaith y gynhadledd, rwyf newydd ei glywed yn cael ei ailadrodd gan swyddogion gweithredol credadwy, amlwg: “Mae pawb yn gwybod bod hyn yn ffaith.”
Y peth trist yw fy mod yn siarad am o ble mae hyn yn dod, y gwahanol fectorau y mae'n cael ei drosglwyddo trwyddynt. Mae'n ymddangos bod Elon Musk a'i gymdeithion yn gwthio coflenni craidd caled iawn sy'n gyfystyr â dim. Maen nhw'n anweddog pan fyddwch chi'n dechrau edrych ar yr hawliadau sylfaenol. Y peth trist yw ei fod mewn gwirionedd yn cuddio'r beirniadaethau mwy seiliedig ar dystiolaeth yma yr wyf yn meddwl sy'n wirioneddol haeddu goruchwyliaeth ac ystyriaeth frys.
Y thema arall sy’n dod drwodd mewn gwirionedd yn y stori yw bron ymdeimlad o ofn bod gan Sam gymaint o ffrindiau - mae wedi buddsoddi mewn cymaint o gwmnïau o’i rôl flaenorol fel Prif Swyddog Gweithredol Y Combinator, dim ond i’w fuddsoddiad personol, rhai ohonynt yn gwrthdaro’n uniongyrchol â’i rôl fel Prif Swyddog Gweithredol OpenAI - ac mae tawelwch o’i gwmpas.
Fe'm trawodd gan fy mod yn darllen un llinell yn benodol. Rydych chi'n disgrifio memos Ilya Sutskever, ac maen nhw jyst allan yn Silicon Valley. Pawbyn eu galw y Ilya memos. Ond mae hyd yn oed distawrwydd o gwmpas hynny. Maent yn cael eu pasio o gwmpas, ond nid ydynt yn cael eu trafod. O ble ydych chi'n meddwl y daw hynny? Ai ofn? Ai awydd yw cael buddsoddiad angel? O ble mae hynny'n dod?
Rwy'n meddwl ei fod yn llawer o llwfrdra, byddaf yn onest. Ar ôl adrodd ar straeon diogelwch cenedlaethol lle mae'r ffynonellau yn chwythwyr chwiban sy'n sefyll i golli popeth ac wynebu erlyniad, maen nhw'n dal i wneud y peth iawn ac yn siarad am bethau i greu atebolrwydd. Rwyf wedi gweithio ar y straeon yn ymwneud â throseddau rhyw y soniasoch amdanynt, lle mae ffynonellau wedi’u trawmateiddio’n fawr ac yn ofni dial personol iawn.
Mewn llawer o achosion o amgylch y curiad hwn, rydych chi'n delio â phobl sydd â'u proffil a'u pŵer eu hunain. Maen nhw naill ai'n bobl enwog eu hunain neu maen nhw wedi'u hamgylchynu gan bobl enwog. Mae ganddynt fywydau busnes cadarn. Yn fy marn i, mewn gwirionedd mae'n amlygiad isel iawn iddynt siarad am y pethau hyn. A diolch byth, mae’r nodwydd yn symud fel y soniasom amdano’n gynharach, ac mae pobl bellach yn siarad mwy.
Ond am gyfnod mor hir, mae pobl wir yn cau i fyny am y peth oherwydd fy mod yn meddwl y diwylliant Silicon Valley yn unig mor ddidrugaredd hunan-ddiddordeb a didostur busnes a thwf-oriented. Felly rwy’n meddwl bod hyn yn cystuddio hyd yn oed rhai o’r bobl a fu’n ymwneud â thanio Sam, lle y gwelsoch yn y dyddiau wedyn, ie, un ffactor a arweiniodd ato’n dychwelyd a thanio hen aelodau’r bwrdd oedd iddo hel buddsoddwyr a oedd wedi drysu at ei achos.
Ond un arall yw bod cymaint o bobl eraill o'i gwmpas a oedd â'r pryderon ac yn eu lleisio ar frys jest wedi plygu fel napcynnau a newid eu tiwn y funud y gwelsant fod y gwynt yn chwythu'r ffordd arall, ac roedden nhw eisiau i mewn ar y trên elw.
Mae'n eithaf tywyll, a dweud y gwir, o'm safbwynt i fel gohebydd.
Rhai o'r bobl hynny yw Mira Murati, a oedd, yn fy marn i, yn Brif Swyddog Gweithredol newydd OpenAI am 20 munud. Yna disodlwyd hi. Roedd yn ddeinamig cymhleth iawn, ac yn amlwg, daeth Sam yn ôl. Y person arall yw Ilya Sutskever, a oedd yn un o'r pleidleisiau i gael gwared ar Sam, ac yna newidiodd ei feddwl, neu o leiaf dywedodd iddo newid ei feddwl, ac yna gadawodd i ddechrau ei gwmni ei hun. Ydych chi'n gwybod beth wnaeth iddo newid ei feddwl? Ai arian yn unig ydoedd?
Wel, ac i fod yn glir, nid wyf yn canu'r ddau hynny allan. Mae yna aelodau eraill o'r bwrdd a fu'n rhan o'r tanio a oedd hefyd yn dawel iawn ar ôl. Rwy'n meddwl ei bod fel problem ehangach ar y cyd. Mae’r rhain, mewn rhai achosion, yn bobl a oedd â’r ffibr moesol i seinio larymau a chymryd camau radical, ac mae hynny i’w ganmol. A dyna sut rydych chi'n sicrhau atebolrwydd. Gallai hynny fod wedi helpu llawer o bobl y mae'r dechnoleg hon yn effeithio arnynt. Gallai fod wedi helpu diwydiant i barhau i ganolbwyntio'n fwy ystyrlon ar ddiogelwch.
Ond wrth ymdrin â chwythwyr chwiban a phobl sy'n ceisio ysgogi'r atebolrwydd hwnnw lawer, rydych hefyd yn gweld ei fod yn cymryd y ffibr o'i gadw allan a sefyll wrth eich argyhoeddiadau. Ac mae'r diwydiant hwn yn wirioneddol llawn pobl nad ydynt yn sefyll wrth eu hargyhoeddiadau.
Er eu bod yn meddwl eu bod yn adeiladu Duw digidol a fydd rywsut naill ai'n dileu'r holl lafur neu'n creu mwy o lafur, neu bydd rhywbeth yn digwydd.
Wel, dyna'r peth. Felly mae’r diwylliant o beidio â sefyll wrth eich argyhoeddiadau a’r holl bryderon moesegol sy’n cwympo wrth ymyl y ffordd ar hyn o bryd y mae unrhyw wres neu unrhyw beth a allai fygwth eich safiad eich hun yn y busnes yn iawn ac yn dda i ryw raddau i gwmnïau busnes fel arfer sy’n gwneud pa fath bynnag o declyn.
Ond dyma'r un bobl hefyd sy'n dweud, “Gallai hyn ein lladd ni i gyd yn llythrennol.” Ac eto, does dim rhaid i chi fynd i eithaf Terminator Skynet. Mae yna gyfres o risgiau sydd eisoes yn dod i'r amlwg. Mae'n real, ac maen nhw'n iawn i rybuddio am hynny, ond byddai'n rhaid i chi gael rhywun arall mewn cadair freichiau i seicoleg sut y gall y ddau beth hynny fyw yn yr un bobl lle maen nhw'n seinio'r rhybuddion brys, efallai eu bod nhw'n rhoi bysedd traed ac yn ceisio gwneud rhywbeth, ac yna maen nhw'n plygu ac yn mynd yn dawel.
Dyna'n union pam y gallwch chi gael y mathau hyn o achosion o bethau'n cael eu cadw allan o ysgrifennu a phethau'n cael eu hysgubo o dan y ryg, a neb yn siarad amdano mor agored am flynyddoedd ar ôl y ffaith.
Nid y parti naturiol, cyfrifol yma fyddai Prif Weithredwyr y cwmnïau hyn; llywodraethau fyddai hi. Yn yr Unol Daleithiau, efallaillywodraethau'r wladwriaeth ydyw, efallai mai'r llywodraeth ffederal ydyw.
Yn sicr, mae'r cwmnïau hyn i gyd eisiau bod yn fyd-eang. Mae yna lawer o oblygiadau byd-eang yma. Gwyliais OpenAI, Google, ac Anthropic i gyd yn annog gweinyddiaeth Biden i ryddhau gorchymyn gweithredol AI. Roedd yn eithaf di-ddannedd yn y diwedd. Dywedodd fod yn rhaid iddynt siarad am yr hyn y gallai eu modelau ei wneud a rhyddhau rhai profion diogelwch. Ac yna fe wnaethon nhw i gyd gefnogi Trump, a daeth Trump i mewn a dileu hynny i gyd a dweud, "Mae'n rhaid i ni fod yn gystadleuol. Mae'n rhad ac am ddim i bawb. Ewch amdani."
Ar yr un pryd, maen nhw i gyd yn ceisio codi arian o wledydd y Dwyrain Canol sydd â llawer o arian olew ac eisiau newid eu heconomïau. Gwleidyddion yw’r rheini. Rwy’n teimlo y dylai gwleidyddion yn bendant ddeall bod rhywun yn siarad o’r ddwy ochr i’w ceg, ac nid ydynt yn mynd i fod yn rhy ofidus os bydd rhywun yn siomedig yn y diwedd, ond mae’r gwleidyddion yn cael eu cymryd am reid hefyd. Pam ydych chi'n meddwl hynny?
Dyma mewn gwirionedd, rwy’n meddwl, pam mae’r darn yn bwysig yn fy marn i a pham yr oedd yn werth treulio’r holl amser a’r manylion hyn arno. Rydym mewn amgylchedd lle mae'r systemau a ddylai, fel y dywedwch, fod yn darparu goruchwyliaeth, wedi'u cau allan. Dyna ôl-Dinesydd America, lle mae'r llif arian mor ddilyffethair, ac mae'n grynodiad penodol o'r broblem honno o amgylch AI, lle mae'r PACs hyn sy'n amlhau ac yn gorlifo arian i ddileu rheoleiddio ystyrlon ar lefel y wladwriaeth a lefel ffederal.
Mae gennych chi [cyd-sylfaenydd OpenAI] Greg Brockman, ail bennaeth Sam, sy'n cyfrannu'n uniongyrchol mewn ffordd fawr at un neu ddau o'r rheini. Mae'n arwain at sefyllfa lle mae deddfwyr a darpar reoleiddwyr yn cael eu dal mewn gwirionedd, ac mae hynny'n droell anodd i ddod allan ohono. Y peth trist yw, rwy’n meddwl bod symudiadau polisi syml, y mae rhai ohonynt yn cael eu treialu mewn mannau eraill yn y byd, a fyddai’n helpu gyda rhai o’r problemau atebolrwydd hyn.
Fe allech chi gael mwy o brofion diogelwch cyn-leoli gorfodol, sy'n rhywbeth sydd eisoes yn digwydd yn Ewrop ar gyfer modelau ffiniol. Gallai fod gennych ofynion cofnod cyhoeddus ysgrifenedig llymach ar gyfer y mathau o ymchwiliadau mewnol lle gwelsom bethau'n cael eu cadw allan o ysgrifen yn yr achos hwn. Gallech gael set fwy cadarn o fecanweithiau adolygu diogelwch cenedlaethol ar gyfer y mathau o uchelgeisiau seilwaith y Dwyrain Canol yr oedd Sam Altman yn eu gwthio.
Fel y dywedwch, roedd yn gwneud yr abwyd hwn ac yn newid gyda gweinyddiaeth Biden, gan ddweud, “Rheolwch ni, rheoleiddiwch ni,” a'u helpu i lunio gorchymyn gweithredol, ac yna'r eiliad y bydd Trump yn dod i mewn, yn wir yn y dyddiau cyntaf un, dim ond mynd heb unrhyw rwystr, “Dewch i ni gyflymu a gadewch i ni adeiladu campws canolfan ddata enfawr yn Abu Dhabi.” Fe allech chi fod wedi, mae hwn yn un syml iawn, fel amddiffyniadau chwythu'r chwiban. Nid oes unrhyw statud ffederal yn amddiffyn gweithwyr cwmni AI sy'n datgelu'r mathau hyn o bryderon diogelwch sy'n cael eu mynegi yn y darn hwn.
Mae gennym ni achosion lle roedd Jan Leike, a oedd yn uwch ddyn diogelwch yn OpenAI, yn arwain y gwaith o alinio gwych yn y cwmni. Mae'n ysgrifennu at y bwrdd, deunydd chwythu'r chwiban yn ei hanfod, gan ddweud bod y cwmni'n mynd oddi ar y cledrau ar ei genhadaeth diogelwch. Dyna’r mathau o bobl a ddylai gael corff goruchwylio y gallant fynd ato mewn gwirionedd, a dylent gael amddiffyniadau statudol penodol o’r mathau a welwn mewn sectorau eraill. Mae hyn yn syml i'w ddyblygu trefn arddull Sarbanes-Oxley.
Rwy’n meddwl, er gwaethaf pa mor ddifrifol yw’r broblem bod Silicon Valley yn cymryd rheolaeth dros yr holl ysgogiadau pŵer, ac er gwaethaf pa mor wag yw rhai o’r sefydliadau hyn a allai ddarparu goruchwyliaeth a rheiliau gwarchod, rwy’n dal i gredu ym mathemateg sylfaenol democratiaeth a gwleidyddion hunan-ddiddordeb. Ac mae mwy a mwy o ddata pleidleisio yn dod i'r amlwg bod mwyafrif o Americanwyr yn meddwl bod pryderon, cwestiynau neu risgiau AI yn gorbwyso'r buddion ar hyn o bryd.
Felly rwy'n meddwl bod y llif arian i wleidyddiaeth gan AI, o fewn ein holl bŵer i wneud hynny'n ffynhonnell marc cwestiwn mewn perthynas â gwleidyddion. Pan fydd Americanwyr yn mynd i bleidleisio, dylent fod yn craffu a yw'r bobl y maent yn pleidleisio drostynt, yn enwedig os ydynt yn anfeirniadol ac yn wrth-reoleiddio, o ystyried yr holl bryderon hyn, yn cael eu bancio gan ddiddordebau technoleg arbennig mawr. Felly dwi'n meddwl os ydi pobl yn gallu darllen darnau fel hyn, gwrando ar bodlediadau fel hyn, a malio digon i feddwl yn feirniadol amdanyn nhweu penderfyniadau fel pleidleiswyr, mae cyfle gwirioneddol i gynhyrchu etholaeth yn Washington o gynrychiolwyr sy'n cadw llygad ar ac yn gorfodi goruchwyliaeth.
Efallai mai dyna un o'r pethau mwyaf optimistaidd i mi glywed unrhyw un yn ei ddweud erioed am y diwydiant AI presennol. Rwy'n ei werthfawrogi. Mae gen i obsesiwn â'r pleidleisio rydych chi'n sôn amdano. Mae llawer ohono nawr. Mae'r cyfan yn eithaf cyson, ac mae'n edrych yn debyg po fwyaf o bobl ifanc, yn arbennig, sy'n agored i AI, y mwyaf drwgdybus a blin y maent yn ei gylch. Dyna falens yr holl bleidleisio. Ac rwy'n edrych ar hynny, ac rwy'n meddwl, wel, ie, byddai gwleidyddion craff yn rhedeg yn erbyn hynny. Byddent yn dweud, “Rydyn ni'n mynd i ddal technoleg fawr yn atebol.”
Yna rwy'n meddwl am yr 20 mlynedd diwethaf, gwleidydd yn dweud ei fod yn mynd i ddal technoleg fawr yn atebol, ac rwy'n cael trafferth dod o hyd i hyd yn oed un eiliad o dechnoleg fawr yn cael ei dal yn atebol. Yr unig beth sy'n gwneud i mi feddwl y gallai hyn fod yn wahanol yw, wel, mae'n rhaid i chi adeiladu'r canolfannau data mewn gwirionedd, a gallwch chi bleidleisio yn erbyn hynny, a gallwch chi ddeisebu yn erbyn hynny, a gallwch chi brotestio yn erbyn hynny.
Rwy'n credu bod yna wleidydd a gafodd ei saethu yn ei dŷ oherwydd iddo bleidleisio dros ganolfan ddata. Mae'r tensiwn yn cyrraedd, byddwn yn ei alw, traw twymyn. Rydych chi wedi disgrifio ynysigrwydd Silicon Valley. Mae hon yn ecosystem gaeedig. Mae'n teimlo fel eu bod yn meddwl y gallant redeg y byd. Maen nhw'n rhoi tunnell o arian mewn gwleidyddiaeth, ac maen nhw'n rhedeg yn erbyn y realiti nad yw pobl yn caru'r cynhyrchion, nad yw'n rhoi llawer o yswiriant iddyn nhw. Po fwyaf y defnyddiant y cynhyrchion, y mwyaf ypset y maent, ac mae'r gwleidyddion yn dechrau gweld bod canlyniadau gwirioneddol i gefnogi'r diwydiant technoleg dros y bobl y maent yn eu cynrychioli.
Rydych chi wedi siarad â chymaint o bobl. Ydych chi'n meddwl ei bod hi'n bosibl i'r diwydiant technoleg ddysgu'r wers sydd o'u blaenau?
Rydych chi'n dweud ei fod yn teimlo fel eu bod yn meddwl y gallant redeg y byd heb atebolrwydd. Dydw i ddim hyd yn oed yn meddwl bod angen y rhagbrofol “teimlo fel” arno. Hynny yw, rydych chi'n edrych ar yr iaith y mae Peter Thiel yn ei defnyddio, mae'n amlwg. Wrth gwrs, mae hynny'n enghraifft eithafol. Ac mae Sam Altman, er ei fod yn agos ac yn cael ei hysbysu gan ideoleg Thiel i raddau, yn fath gwahanol iawn o berson a allai swnio'n wahanol ac yn fwy pwyllog hyd at bwynt.
Ond rwy'n meddwl bod yr ideoleg ehangach a gewch gan Thiel, sef yn y bôn: Rydym wedi gorffen gyda democratiaeth, nid oes ei angen arnom mwyach. Mae gennym ni gymaint fel ein bod ni eisiau adeiladu ein bynceri bach ein hunain. Nid ydym yn delio â'r Carnegies bellach na'r Rockefellers, lle maen nhw'n ddynion drwg, ond maen nhw'n teimlo bod angen iddyn nhw gymryd rhan mewn contract cymdeithasol ac adeiladu pethau i bobl. Mae yna nihiliaeth go iawn wedi'i gosod ynddo.
Ac rwy'n credu ei fod wedi bod yn droell sy'n atgyfnerthu ei gilydd yn hanes diweddar America o mogwliaid a chwmnïau preifat yn caffael pŵer llywodraeth uwch tra bod sefydliadau democrataidd a allai eu dal yn atebol yn cael eu cau allan. Nid wyf yn teimlo’n optimistaidd ynglŷn â’r syniad y gallai’r dynion hynny ddeffro un diwrnod a meddwl, “Huh, mewn gwirionedd efallai bod angen i ni gymryd rhan mewn cymdeithas a helpu i adeiladu pethau ar gyfer pobl.”
Hynny yw, rydych chi'n edrych fel yr enghraifft ficrocosmig o The Giving Pledge, lle roedd yna foment pan oedd yn ymddangos yn elusennol, ac mae'r foment honno bellach wedi mynd heibio a hyd yn oed yn cael ei gwawdio. Mae hynny'n broblem, y broblem ehangach o ddiffyg atebolrwydd y credaf mai dim ond yn anghynhenid y gellir ei datrys. Mae'n rhaid i hynny olygu pleidleiswyr yn cynnull ac yn atgyfodi pŵer goruchwyliaeth y llywodraeth. Ac rydych chi'n llygad eich lle wrth ddweud mai'r prif fector y gallai pobl ei ddefnyddio, efallai, yw lleol. Mae'n ymwneud â lle mae seilwaith yn cael ei adeiladu.
Soniasoch am rywfaint o’r tensiwn gwyn-poeth ynghylch hyn sy’n arwain at drais a bygythiadau, ac yn amlwg, ni ddylai neb fod yn dreisgar nac yn fygythiol. Ac nid wyf yma ychwaith i wneud argymhellion polisi penodol ar wahân i gyflwyno rhai o'r camau polisi sy'n ymddangos yn sylfaenol ac sy'n gweithio mewn mannau eraill yn y byd, iawn? Neu'r rhai sydd wedi gweithio mewn sectorau eraill. Dydw i ddim yma i ddweud pa un o'r rheini y dylid eu gweithredu a sut.
Rwy'n meddwl bod angen i rywbeth ddigwydd, ac mae angen iddo fod yn allanol, nid dim ond ymddiried yn y cwmnïau hyn. Achos yn iawnyn awr mae gennym sefyllfa lle mae'r cwmnïau sy'n datblygu'r dechnoleg ac sydd â'r offer gorau i ddeall y risgiau, ac mewn gwirionedd y rhai sy'n ein rhybuddio am y risgiau, hefyd y rhai heb ddim ond cymhelliad i fynd yn gyflym ac anwybyddu'r risgiau hynny. Ac nid oes gennych unrhyw beth i wrthbwyso hynny. Felly pa bynnag ddiwygiadau a all eu cymryd o ran manylion, mae'n rhaid i rywbeth fynd yn groes i hynny. Ac rwy'n dal i ddychwelyd at yr optimistiaeth honno y mae'r bobl yn dal i fod o bwys.
Yr wyf yn gyffredinol yn prynu eich dadl. Gadewch i mi wneud yr un gwrthddadl fach y credaf y gallaf ei mynegi. Y peth arall a allai ddigwydd y tu allan i'r blwch pleidleisio yw bod y swigen yn popio, iawn? Nad yw'r holl gwmnïau hyn yn cyrraedd y llinell derfyn, ac nad oes marchnad cynnyrch sy'n addas ar gyfer cymwysiadau AI defnyddwyr. Ac eto, nid wyf yn ei weld eto, ond rwy'n adolygydd technoleg defnyddwyr, ac efallai bod gen i safonau uwch na phawb arall.
Mae marchnad cynnyrch yn addas yn y byd busnes, iawn? Mae'n ymddangos bod cael criw o asiantau AI yn ysgrifennu criw o feddalwedd yn farchnad wirioneddol ar gyfer yr offer hyn. A gallwch ddarllen y dadleuon gan y cwmnïau hyn gan ddweud, "Rydym wedi datrys codio, ac mae hynny'n golygu y gallwn ddatrys unrhyw beth. Os gallwn wneud meddalwedd, gallwn ddatrys unrhyw broblemau."
Rwy'n meddwl bod cyfyngiadau gwirioneddol i'r pethau y gall meddalwedd eu gwneud. Mae hynny'n wych ym myd busnes. Ni all meddalwedd ddatrys pob problem mewn gwirionedd, ond mae'n rhaid iddynt gyrraedd yno. Cawsant orffen y swydd, ac efallai nad yw pawb yn cyrraedd y llinell derfyn. Ac mae yna ddamwain, ac mae'r swigen hon yn ymddangos, ac efallai OpenAI neu Anthropic neu xAI, mae un o'r cwmnïau hyn yn methu, ac mae'r holl fuddsoddiad hwn yn diflannu.
Ydych chi'n meddwl y byddai hynny'n effeithio ar hyn? A dweud y gwir, gadewch imi ofyn y cwestiwn cyntaf yn gyntaf. Mae OpenAI ar drothwy IPO. Mae yna lawer o amheuon am Sam fel arweinydd. Ydych chi'n meddwl eu bod nhw'n mynd i gyrraedd y llinell derfyn?
Dydw i ddim yn mynd i ragfynegi, ond rwy’n meddwl eich bod yn codi pwynt pwysig, sef bod cymhellion y farchnad yn bwysig yn fewnol i Silicon Valley, ac mae ansicrwydd deinameg y swigen presennol yn torri ar draws y ras, unwaith eto, o bosibl, yn ôl beirniaid, i’r gwaelod ar ddiogelwch.
Byddwn hefyd yn ychwanegu at hynny, os edrychwch ar flaenoriaeth hanesyddol lle mae set debyg ac anhreiddiadwy o gymhellion marchnad ac effeithiau a allai fod yn niweidiol i’r cyhoedd, mae ymgyfreitha effaith. Ac rydych chi'n gweld hynny'n faes sy'n peri pryder yn ddiweddar. Mae Sam Altman allan yna yr wythnos hon yn cymeradwyo deddfwriaeth a fyddai'n amddiffyn cwmnïau AI rhag rhai o'r mathau o atebolrwydd y mae OpenAI wedi bod yn agored iddynt mewn siwtiau marwolaeth anghyfiawn, er enghraifft. Wrth gwrs, mae yna awydd i gael y darian honno rhag atebolrwydd.
Rwy’n meddwl y gall y llysoedd fod yn fecanwaith ystyrlon o hyd, a bydd yn ddiddorol iawn gweld sut mae’r rhain yn gweddu. Gwelsoch eisoes, er enghraifft, y siwt dosbarth-gweithredu, yr wyf fi a llawer, llawer o awduron eraill yr wyf yn eu hadnabod yn aelodau, yn erbyn Anthropic am eu defnydd o lyfrau a oedd dan hawlfraint. Os oes yna feddyliau cyfreithiol craff a plaintiffs sy'n malio, fel y gwelsom yn hanesyddol mewn achosion o dybaco mawr i ynni mawr, gallwch hefyd gael rhai rheiliau gwarchod a rhai cymhellion i arafu, bod yn ofalus, neu amddiffyn pobl felly.
Mae'n teimlo bod strwythur cost cyfan y diwydiant AI yn dibynnu ar ddehongliad elusennol iawn, iawn o ddefnydd teg. Nid yw'n dod i fyny digon. Gallai strwythur costau’r cwmnïau hyn fynd allan o reolaeth os bydd yn rhaid iddynt eich talu chi a phawb arall y maent wedi cymryd eu gwaith, ond mae’n anghyfleus i feddwl amdano, felly nid ydym yn meddwl am y peth. Wrth ymyl hynny, mae'r holl gynhyrchion hyn bellach yn rhedeg ar golled. Fel heddiw, maen nhw i gyd yn rhedeg ar golled. Maen nhw'n llosgi mwy o arian nag y gallant ei wneud. Ar ryw adeg, mae'n rhaid iddynt fflipio'r switsh.
Dyn busnes yw Sam. Fel y soniasoch sawl gwaith, nid yw'n dechnolegydd. Mae'n berson busnes. Ydych chi'n meddwl ei fod yn barod i droi'r switsh a dweud, “Rydyn ni'n mynd i wneud doler?” Oherwydd pan ofynnaf, "Ydych chi'n meddwl bod OpenAI yn mynd i'w wneud?" Dyna pryd mae'n rhaid iddyn nhw wneud doler. A hyd yn hyn, mae Sam wedi gwneud ei ddoleri i gyd trwy ofyn i bobl eraill am eu harian yn lle cael ei gwmnïau i wneud arian.
Wel, mae hwnnw'n gwestiwn mawr i Silicon Valley, i fuddsoddwyr, i'r cyhoedd.Rydych chi'n gweld rhai datganiadau a symudiadau allan o OpenAI sy'n ymddangos fel pe baent yn amlygu rhyw fath o banig am hynny. Cau Sora i lawr, cau rhai prosiectau ategol, ceisio sero i mewn ar y cynnyrch craidd. Ond yna ar y llaw arall, rydych chi'n dal i weld, ar yr un pryd, tunnell o ymgripiad cenhadaeth, iawn? Hyd yn oed enghraifft fach - mae'n amlwg nad yw'n greiddiol i'w busnes - yw'r caffaeliad TBPN.
Gyda llaw, wrth inni gyrraedd y llinell derfyn a gwirio ffeithiau, mae'r cwmni sy'n wynebu'r math hwn o graffu newyddiadurol yn cael llwyfan lle gallant gael mwy o reolaeth uniongyrchol dros y sgwrs. Rwy’n meddwl bod llawer o fuddsoddwyr yn pryderu, yn seiliedig ar y sgyrsiau a gefais, fod y broblem hon o addo popeth i bawb hefyd yn ymestyn i’r diffyg ffocws hwn yn y model busnes craidd. Ac rwy'n golygu, rydych chi'n agosach at y math o brognostig a gwylio'r farchnad nag ydw i yn ôl pob tebyg. Gadawaf chi a'r gwrandawyr i farnu a ydynt yn meddwl y gall OpenAI droi'r switsh.
Wel, gofynnais y cwestiwn oherwydd bod gennych chi ddyfyniad yn y darn gan uwch weithredwr Microsoft, a dyna, “Efallai y bydd etifeddiaeth Sam yn debycach i Bernie Madoff neu Sam Bankman-Fried,” yn hytrach na Steve Jobs. Mae hynny'n dipyn o gymhariaeth. Beth wnaethoch chi o'r gymhariaeth honno?
Rwy’n meddwl mai aralleiriad yw hynny. Nid oedd rhan Steve Jobs yn rhan o'r dyfyniad. Ond mae yna fath diddorol o sobrwydd iddo oherwydd mae wedi'i eirio fel, "Rwy'n meddwl bod siawns fach ond gwirioneddol y bydd yn dod i ben fel SBF neu sgamiwr lefel Madoff." Mae hyn yn golygu, yn fy marn i, nid bod Sam yn cael ei gyhuddo o’r mathau penodol hynny o dwyll neu droseddau, ond y gallai’r graddau o ddatgymalu a thwyll oddi wrth Sam fod â siawns o gael ei gofio ar y raddfa honno yn y pen draw.
Ie, rwy'n meddwl mai'r hyn sydd fwyaf trawiadol am y dyfyniad hwnnw, a dweud y gwir, yw eich bod chi'n galw o gwmpas yn Microsoft ac nid ydych chi'n cael tebyg, "Mae hynny'n wallgof. Nid ydym erioed wedi clywed hynny." Rydych chi'n cael llawer o bethau fel, “Ie, mae llawer o bobl yma yn meddwl hynny” sy'n rhyfeddol. Ac rwy'n meddwl ei fod yn mynd i'r cwestiynau busnes cnau a bolltau hyn.
Dywedodd un buddsoddwr wrthyf, er enghraifft, yng ngoleuni’r ffordd y mae’r nodwedd hon wedi parhau yn y blynyddoedd ar ôl y tanio”—ac roedd hwn hefyd yn meddwl bod hwn yn syniad sobr diddorol—nad yw o reidrwydd y dylai Sam fod ar waelod llwyr y rhestr, fel y dylai fod yr isaf o’r isel o ran y bobl na ddylai adeiladu’r dechnoleg hon o gwbl, am yr hyn y mae’n werth. y rhestr o bobl a ddylai adeiladu AGI, ac o dan sawl ffigwr blaenllaw arall yn y maes hwn.
Felly roeddwn i’n meddwl bod hwnna’n arfarniad diddorol, a dyna’r math o feddylfryd rwy’n meddwl y byddwch chi’n ei gael gan y pragmatyddion go iawn sydd efallai ddim yn prynu cymaint â’r pryderon diogelwch. Maent yn canolbwyntio ar dwf yn unig, ac maent yn meddwl bod gan OpenAI broblem gyda Sam Altman bellach.
Mae'r darn Microsoft yn ddiddorol iawn. Roedd y cwmni hwnnw'n meddwl eu bod nhw ar ben y byd. Eu bod wedi gwneud y buddsoddiad hwn a'u bod yn mynd i neidio pawb, yn enwedig ac yn bwysicaf oll, Google, a dychwelyd i rasusau da defnyddwyr. I ba raddau y maent yn teimlo eu bod wedi'u llosgi gan yr antur hon - mae hwn yn gwmni sy'n cael ei redeg yn sobr iawn - ni chredaf y gellir ei orbwysleisio.
Soniasoch am y cymeriadau a'r nodweddion personoliaeth. Rwyf am orffen yma gyda chwestiwn gan ein gwrandawyr. Dywedais ar ein sioe arall, The Vergecast, fy mod yn mynd i fod yn siarad â chi, a dywedais, “Os oes gennych gwestiynau i Ronan am y stori hon, gadewch i mi wybod.” Felly mae gennym ni un yma rydw i'n meddwl sy'n cyd-fynd yn daclus â'r hyn rydych chi'n ei ddisgrifio. Dw i'n mynd i'w ddarllen i chi:
“Sut mae’r cyfiawnhad dros ymddygiad gwael, gweithredoedd torcalonnus Altman ac arweinwyr AI eraill, yn wahanol i’r cyfiawnhad y mae Ronan wedi’i glywed gan arweinwyr proffil uchel eraill mewn gwleidyddiaeth a’r cyfryngau? Onid ydyn nhw i gyd yn cyfiawnhau eu gweithredoedd trwy ddweud mai dyma sut mae'r byd yn newid? Os na wnaf hyn, bydd rhywun arall?”
Oes, mae yna lawer o hynny'n digwydd. Byddwn yn dweud mai'r hyn sy'n nodedig i AI yw bod y polion dirfodol mor unigryw o uchel yn golygu bod y ddau ddatganiad risg yn eithafol, iawn? Mae gennych chi Sam Altmangan ddweud, “Gallai hyn fod yn oleuadau i ni i gyd.” A hefyd, efallai y bydd beirniaid yn dweud, mae'r mania y mae'r holwr yn cyfeirio ato yn eithafol, iawn?
Y peth y cyhuddodd Sam Elon ohono, ar y cofnod, oedd efallai ei fod eisiau achub dynoliaeth, ond dim ond os mai ef ydyw. Y math o gydran ego o eisiau ennill, sef ffram mae Sam yn ei ddefnyddio drwy'r amser, a bod hwn yn un ar gyfer y llyfrau hanes, gallai hyn newid popeth. Felly, felly, hyd yn oed y tu hwnt i feddylfryd “mae'n rhaid i chi dorri ychydig o wyau” y rhan fwyaf o fentrau Silicon Valley, rwy'n meddwl bod rhai ffigurau sy'n arwain AI, rwy'n meddwl, yn rhesymoliad llwyr ar gyfer unrhyw ganlyniadau.
Ac anghofio torri wyau. Rydw i/yn meddwl y byddai llawer o’r ymchwilwyr diogelwch sylfaenol yn dweud y gallai peryglu torri’r wlad, torri’r byd, a thorri miliynau o bobl y mae eu swyddi a’u diogelwch yn y fantol - dyna beth sy’n unigryw amdani. Dyna lle dwi'n cau, gan fyfyrio ar y corff hwn o adrodd, gan wir gredu bod hyn yn ymwneud â mwy na Sam Altman. Mae hyn yn ymwneud â diwydiant sy'n ddigyfyngiad a phroblem gynyddol o America yn methu â'i chyfyngu.
Ie. Wel, roedd gennym ni rywfaint o optimistiaeth yno, ond rwy'n meddwl bod hwnnw'n lle da i'w adael.
[Chwerthin] Diwedd ar guriad isel.
Wrth gwrs. Dyna bob stori wych, a dweud y gwir. Mae treial Musk-Altman ar ddod. Rwy'n meddwl ein bod ni'n mynd i ddysgu llawer mwy yma. Rwy'n amau byddaf eisiau siarad â chi eto. Ronan Farrow, diolch yn fawr iawn am fod ar Decoder.
Diolch.
Cwestiynau neu sylwadau am y bennod hon? Tarwch ni i fyny yn [email protected]. Rydyn ni wir yn darllen pob e-bost!
