Leo kwenye Dekoda, ninazungumza na Ronan Farrow, mmoja wa nyota wakubwa wa ripoti za uchunguzi anayefanya kazi leo. Alivunja hadithi ya Harvey Weinstein, kati ya wengi, wengine wengi. Na wiki iliyopita tu, yeye na mwandishi mwenza Andrew Marantz walichapisha kipengele cha ajabu cha kupiga mbizi katika The New Yorker kuhusu Mkurugenzi Mtendaji wa OpenAI Sam Altman, uaminifu wake, na kuongezeka kwa OpenAI yenyewe.
Ujumbe mmoja kabla hatujaendelea zaidi hapa—The New Yorker ilichapisha hadithi hiyo na mimi na Ronan tulifanya mazungumzo haya kabla hatujajua kiwango kamili cha mashambulizi dhidi ya nyumba ya Altman, kwa hivyo hutasikia tukizungumza kuhusu hilo moja kwa moja. Lakini kusema tu, nadhani vurugu za aina yoyote hazikubaliki, mashambulizi haya dhidi ya Sam hayakukubalika, na kwamba aina ya unyonge ambayo watu wanahisi, ambayo husababisha aina hii ya vurugu, yenyewe haikubaliki, na inafaa kuchunguzwa zaidi kutoka kwa tasnia na viongozi wetu wa kisiasa. Natumai hilo liko wazi.
Karibu na wanaojisajili, usisahau kuwa unapata ufikiaji wa kipekee wa Kisimbuaji bila matangazo popote unapopata podikasti zako. Nenda hapa. Je, si mteja? Unaweza kujiandikisha hapa.
Yote yaliyosemwa, kuna mengi yanayozunguka Altman ambayo ni mchezo mzuri kwa kuripoti kwa ukali - aina ya kuripoti Ronan na Andrew walivyopanga kufanya. Shukrani kwa umaarufu wa ChatGPT, Altman ameibuka kama kinara anayeonekana zaidi wa tasnia ya AI, baada ya kugeuza maabara ya utafiti isiyo ya faida kuwa kampuni ya kibinafsi ya karibu dola trilioni katika miaka michache tu. Lakini hadithi ya Altman inakinzana sana, inafafanuliwa kwa usawa na uwezo wake wa kushughulika na tabia yake iliyoripotiwa… vizuri, kusema uwongo kwa kila mtu karibu naye.
Hadithi hiyo ina urefu wa zaidi ya maneno 17,000, na bila shaka ina maelezo mahususi ya kile kilichotokea mwaka wa 2023 wakati bodi ya wakurugenzi ya OpenAI ilipomfukuza kazi Altman kwa madai ya uwongo, ili tu aajiriwe tena mara moja. Pia ni kuzama kwa kina katika maisha ya kibinafsi ya Altman, uwekezaji wake, uchumba wake wa pesa za Mashariki ya Kati, na tafakari yake mwenyewe juu ya tabia yake ya zamani na tabia ambayo ilisababisha chanzo kimoja kusema "hakuzuiliwa na ukweli." Ninapendekeza usome hadithi nzima; Ninashuku kuwa itarejelewa kwa miaka mingi ijayo.
Ronan alizungumza na Altman mara nyingi zaidi ya miezi 18 aliyotumia kuripoti kipande hiki, na kwa hivyo moja ya mambo makuu niliyotamani kujua ni ikiwa alihisi mabadiliko yoyote katika Altman kwa wakati huo. Baada ya yote, mengi yametokea katika AI, katika teknolojia, na katika ulimwengu zaidi ya mwaka mmoja na nusu uliopita.
Utasikia Ronan akizungumzia hilo moja kwa moja, pamoja na hisia zake kwamba watu wamekuwa tayari zaidi kuzungumza juu ya uwezo wa Altman kunyoosha ukweli. Watu wanaanza kushangaa, kwa sauti kubwa na kwenye rekodi, ikiwa tabia ya watu kama Altman inahusu, sio tu kwa AI au teknolojia lakini pia kwa mustakabali wa pamoja wa jamii.
Sawa: Ronan Farrow kwenye Sam Altman, AI, na ukweli. Hapa sisi kwenda.
Mahojiano haya yamehaririwa kwa urefu na uwazi.
Ronan Farrow, wewe ni mwandishi wa habari za uchunguzi na mchangiaji wa The New Yorker. Karibu kwenye Kisimbuaji.
Nimefurahi kuwa hapa. Asante kwa kuwa nami.
Nimefurahi sana kuzungumza na wewe. Umeandika kipande kikubwa kwa The New Yorker. Ni wasifu wa Sam Altman na, aina yake, OpenAI. Usomaji wangu ni kwamba, kama vipengele vyote vyema hufanya, kwa kuripoti kwa ukali, inathibitisha hisia nyingi ambazo watu wamekuwa nazo kuhusu Sam Altman kwa muda mrefu sana. Bila shaka umeichapisha, umepata maoni kwayo. Je, unajisikiaje kuhusu hilo kwa sasa?
Kweli, nimetiwa moyo, kwa kweli, kwa kiwango ambacho kimevunjwa wakati ambapo uchumi wa tahadhari ni aina ya schizophrenic na ya kina. Hii ni hadithi ambayo, kwa maoni yangu, inatuhusu sisi sote. Na nilipokaa mwaka mmoja na nusu wa maisha yangu, na mwandishi mwenzangu, Andrew Marantz, pia alitumia wakati wake huo, akijaribu sana kufanya kitu cha uchunguzi na uangalifu, ni kwa sababu ninahisi kama kuna masuala makubwa zaidi ya kimuundo ambayo huathiri watu zaidi ya mtu binafsi na kampuni katika kiini cha hadithi.
Sam Altman, dhidi ya hali ya nyuma ya tamaduni ya hype ya Silicon Valley na uanzishaji ambao huchangia uthamini mkubwa kulingana na ahadi ambazo zinaweza au zisiweze kutimia katika siku zijazo, na kukumbatia kuongezeka kwa utamaduni wa mwanzilishi ambao hufikiria kuwaambia vikundi tofauti vitu tofauti tofauti ni sifa, sio sifa.mdudu...Hata dhidi ya hali hiyo, Sam Altman ni kisa cha ajabu ambapo kila mtu katika Silicon Valley ambaye anatarajia mambo hayo hawezi kuacha kuzungumzia swali hili la uaminifu wake na uaminifu wake.
Tayari tulijua kwamba alifutwa kazi kutokana na toleo fulani la madai ya kutokuwa mwaminifu au madai ya uwongo mfululizo. Lakini cha ajabu, licha ya ukweli kwamba kumekuwa na ripoti nzuri, Keach Hagey amefanya kazi nzuri juu ya hili. Karen Hao amefanya kazi nzuri juu ya hili. Kwa kweli hakukuwa na uelewa wa uhakika wa hoja halisi za uthibitisho na sababu kwa nini hizo zimekaa nje ya macho ya umma.
Kwa hivyo hatua ya kwanza ni kwamba ninahisi kutiwa moyo na ukweli kwamba baadhi ya mapengo hayo katika ufahamu wetu wa umma, na hata katika ufahamu wa watu wa ndani wa Silicon Valley, sasa yamejazwa kidogo zaidi. Baadhi ya sababu ambazo kulikuwa na mapungufu zimejazwa kidogo zaidi.
Tunaripoti kuhusu matukio ambapo watu ndani ya kampuni hii walihisi kama mambo yamefichwa au kwa makusudi hayakuandikwa. Mojawapo ya mambo mapya katika hadithi hii ni uchunguzi muhimu wa kampuni ya sheria na WilmerHale, ambayo kwa hakika ni kampuni pendwa, ya kuaminika, na kubwa ya kisheria ambayo ilifanya uchunguzi wa Enron na WorldCom, ambayo, kwa njia, zote zilikuwa nyingi, kama mamia ya kurasa zilizochapishwa. WilmerHale alifanya uchunguzi huu ambao ulitakiwa na wajumbe wa bodi ambao walimfukuza kazi Altman kama sharti la kuondoka kwao alipowaondoa, na akarudi. Na cha ajabu - machoni pa wataalam wengi wa sheria niliozungumza nao, na kwa kushangaza machoni pa watu wengi katika kampuni hii - hawakuandika. Yote ambayo yaliwahi kuibuka kutoka kwa hiyo ilikuwa taarifa ya vyombo vya habari ya maneno 800 kutoka OpenAI ambayo ilielezea kile kilichotokea kama kuvunjika kwa uaminifu. Na tulithibitisha kuwa hii iliwekwa kwa muhtasari wa mdomo.
Kuna matukio ambapo, kwa mfano, mjumbe wa bodi anaonekana kutaka kupiga kura dhidi ya kugeuzwa kutoka kwa fomu ya asili ya OpenAI isiyo ya faida hadi kuwa huluki ya kupata faida, na imerekodiwa kama kutoshiriki. Kuna kama wakili katika mkutano akisema, "Vema, hiyo inaweza kusababisha uchunguzi mwingi." Na mtu ambaye anataka kupiga kura dhidi yake anarekodiwa kama kutohudhuria maonyesho yote. Kuna mzozo wa ukweli. OpenAI inadai vinginevyo, kama unavyoweza kufikiria. Haya yote ni matukio ambapo una kampuni ambayo, kwa akaunti yake yenyewe, inashikilia mustakabali wetu mikononi mwake.
Vigingi vya usalama ni vikali sana hivi kwamba havijaondoka. Hii ndiyo sababu kampuni hii ilianzishwa kama shirika lisilo la faida lililolenga usalama, na ambapo mambo yalikuwa yanafichwa kwa njia ambayo watu wanaoaminika karibu na hili waliipata chini ya taaluma. Na unaunganisha hilo na hali ya nyuma ambapo kuna hamu ndogo sana ya kisiasa ya udhibiti mzuri. Nadhani ni hali inayowaka sana.
Jambo kwangu sio tu kwamba Sam Altman anastahili maswali haya sana. Pia ni kwamba yeyote kati ya watu hawa katika uwanja huu, na wengi wa watu muhimu, wanaonyesha, ikiwa sio tabia hii ya kijinga, inayodaiwa kuwa ya uwongo wakati wote, kwa hakika kiwango fulani cha mawazo ya kutoka mbio hadi chini, ambapo watu ambao walikuwa walinda usalama wamepuuza ahadi hizo na kila mtu yuko katika mbio.
Nadhani, tunapoangalia uvujaji wa hivi karibuni kutoka kwa Anthropic, kuna mtu ambaye anauliza swali la nani anapaswa kuwa na kidole chake kwenye kifungo kwenye kipande hiki. Jibu ni kwamba, ikiwa hatuna uangalizi wa maana, nadhani tunapaswa kuuliza maswali mazito na kujaribu kutoa habari nyingi tuwezavyo kuhusu watu hawa wote. Kwa hivyo nimetiwa moyo na kile kinachohisi kama mazungumzo ya maana kuhusu hilo, au mwanzo wa moja.
Sababu niliuliza hivyo ni kwamba ulifanya kazi kwa mwaka mmoja na nusu. Ulizungumza na, naamini, watu 100 na mwandishi mwenza wako, Andrew. Hiyo ni muda mrefu kwa hadithi kupika. Nadhani kuhusu mwaka uliopita na nusu katika AI hasa, na kijana, kuwa na mitazamo na maadili ya wahusika hawa wote kubadilishwa haraka sana.
Labda si zaidi ya Sam Altman, ambaye alianza kama mshindi chaguo-msingi kwa sababu walikuwa wametoa ChatGPT na kila mtu alifikiri kwamba hiyo ingechukua tu nafasi ya Google. Na kisha Google ikajibu, ambayo ilionekana kuwashangaza kwamba Google ingejaribu kulinda biashara yake, labda moja ya biashara bora katika historia ya teknolojia, ikiwa sio historia ya biashara. Anthropic iliamua kwamba itazingatia biashara. Inaonekana kuchukua uongozi wa amrihuko kwa sababu matumizi ya biashara ya AI ni ya juu sana.
Sasa, OpenAI inaangazia tena bidhaa yake mbali na "tutachukua Google" hadi Codex, na watachukua biashara. Siwezi kujua kama, wakati wa kuripoti kwako katika mwaka mmoja na nusu uliopita, ikiwa inahisi kama wahusika uliokuwa ukizungumza nao walibadilika? Je, mitazamo na maadili yao yalibadilika?
Ndiyo. Nadhani kwanza kabisa, kwamba ukosoaji ambao umegunduliwa katika kipande hiki, kutoka kwa watu wengi ndani ya kampuni hizi kwa wakati huu - kwamba hii ni tasnia ambayo, licha ya hatari zilizopo, inashuka katika kitu cha mbio hadi chini juu ya usalama na ambapo kasi inazidi kila kitu kingine - wasiwasi huo umeongezeka zaidi. Na nadhani wasiwasi huo umethibitishwa zaidi kwani mwaka na nusu uliopita umepita. Wakati huo huo, mitazamo kuhusu Sam Altman imebadilika haswa. Tulipoanza kuzungumza na vyanzo vya habari hii, watu walikuwa na wasiwasi sana wa kunukuliwa juu ya hili na kwenda kwenye rekodi kuhusu hili.
Kufikia mwisho wa ripoti yetu, una kikundi cha kuripoti ambapo watu wanazungumza juu ya hili kwa uwazi na kwa uwazi, na una wajumbe wa bodi wanaosema mambo kama, "Yeye ni mwongo wa pathological. Yeye ni sociopath." Kuna mitazamo mbalimbali kutoka kwa, "Hii ni hatari kwa kuzingatia vigingi vya usalama, na tunahitaji viongozi wa teknolojia hii ambao wameinua uadilifu," hadi kufikia kupenda, "Sahau dau za usalama, hii ni tabia ambayo haiwezi kutekelezwa kwa mtendaji yeyote wa kampuni kubwa yoyote, ambayo inaleta shida nyingi."
Kwa hivyo mazungumzo yamekuwa wazi zaidi kwa njia ambayo huhisi labda yamechelewa, lakini yanatia moyo kwa maana moja. Na Sam Altman, kwa sifa yake… Sehemu hiyo ni ya haki sana na hata ni ya ukarimu, ningesema, kwa Sam. Hii sio aina ya kipande ambapo kulikuwa na vitu vingi vya "kupata". Nilitumia saa nyingi sana kwenye simu pamoja naye tulipokuwa tukimaliza hili na nikamsikia kweli.
Kama unavyoweza kufikiria, katika kipande kama hiki, sio kila kitu kinaingia. Baadhi ya kesi hizo katika hii ni kwa sababu nilikuwa nikisikiliza kwa dhati. Na kama Sam alikuwa akitoa hoja ambayo nilihisi imebebwa na maji, kwamba jambo fulani, hata kama ni kweli, linaweza kuwa la kusisimua, nilikosea sana kutunza uchunguzi huu na kupima. Kwa hivyo nadhani hilo linapokewa ipasavyo, na ninatumai tu rekodi hii ya ukweli ambayo imekusanywa katika kipindi hiki cha muda inaweza kuanzisha mazungumzo zaidi kuhusu hitaji la uangalizi.
Hilo ni swali langu linalofuata. Nadhani ulizungumza na Sam mara kadhaa wakati wa kuripoti hadithi hii. Tena, hayo ni mazungumzo mengi kwa muda mrefu. Je, ulifikiri Sam alibadilika katika kipindi cha kuripoti katika mwaka mmoja na nusu uliopita?
Ndiyo. Nadhani moja ya sehemu ndogo za kupendeza zaidi katika hii ni kwamba Sam Altman pia anazungumza juu ya tabia hii kwa uwazi zaidi kuliko hapo awali. Mkao wa Sam katika kipande hiki sio kama, "Hakuna kitu hapo, hii sio kweli; sijui unazungumza nini." Mkao alionao ni kwamba anasema hii inatokana na tabia ya kufurahisha watu na aina ya chuki ya migogoro. Anakubali kwamba ilimletea shida, haswa mapema katika kazi yake.
Anasema, "Vema, ninasonga mbele, au kwa kiasi fulani nimepita hapo." Nadhani kinachonivutia sana ni kundi la watu tuliozungumza nao ambao hawakuwa tu aina ya watetezi wa usalama, sio tu watafiti wa kimsingi wa kiufundi ambao mara nyingi huwa na wasiwasi huu wa usalama, lakini pia wawekezaji wa wakati mkuu. Wao ni waungaji mkono wa Sam, ambaye, katika hali nyingine, hutazama swali hili na kuzungumza juu ya kuwa hata alikuwa na jukumu muhimu katika kurudi kwake baada ya kupigwa risasi. Sasa, juu ya swali hili la kama amerekebishwa, na ni kwa kiwango gani mabadiliko hayo yana maana, wanasema, "Vema, tulimpa faida ya shaka wakati huo."
Ninafikiria mwekezaji mmoja mashuhuri haswa ambaye alisema, "Lakini tangu wakati huo, inaonekana wazi hakutolewa nyuma ya msitu," ambayo ilikuwa msemo ambao huyu alitumia, kwa kiwango ambacho kilikuwa cha lazima. Kama matokeo, inaonekana kama hii sasa ni sifa thabiti. Tunaliona hili kwa njia inayoendelea. Unaweza kuangalia baadhi ya biashara kubwa ya OpenAImahusiano na namna wanavyobeba uzito wa kutoaminiana huko kwa njia inayoendelea.
Kama ilivyo kwa Microsoft, unazungumza na watendaji huko, na wana wasiwasi mkubwa na wa hivi majuzi. Kuna mfano huu ambapo, siku hiyo hiyo OpenAI inathibitisha kutengwa kwake na Microsoft kwa heshima na mifano ya msingi ya AI isiyo na uraia pia inatangaza mpango mpya na Amazon ambao unahusiana na uuzaji wa suluhisho za biashara za kujenga mawakala wa AI ambao ni wa hali ya juu, ikimaanisha kuwa wana kumbukumbu.
Unazungumza na watu wa Microsoft, na wao ni kama, "Hiyo haiwezekani kufanya bila kuingiliana na mambo ya msingi ambayo tuna mpango wa kipekee." Kwa hivyo hiyo ni moja tu ya mifano mingi midogo ambapo sifa hii ina mwelekeo wa shughuli inayoendelea ya biashara wakati wote na ni mada ya wasiwasi ndani ya bodi ya OpenAI, ndani ya kitengo chake cha mtendaji, na katika jamii pana ya teknolojia.
Unaendelea kusema "sifa" hiyo. Kuna mstari katika hadithi ambao kwangu ninahisi kama nadharia, na ni maelezo ya sifa unayoelezea. Ni kwamba "Sam Altman hajazuiliwa na ukweli" na kwamba ana "tabia mbili ambazo hazionekani kamwe kwa mtu yule yule: ya kwanza ni hamu kubwa ya kufurahisha watu, kupendwa katika mwingiliano wowote, na ya pili ni ukosefu wa karibu wa kijamii wa kujali matokeo ambayo yanaweza kutokea kwa kudanganya mtu."
Lazima nikuambie, nilisoma sentensi hiyo mara 500, na nilijaribu kufikiria kila wakati nikisema kile ambacho watu walitaka kupendwa na bila kukasirika wanapohisi uwongo. Na sikuweza kufanya hali yangu ya kihisia-moyo ielewe jinsi mambo hayo yanavyoweza kuwa katika mtu yuleyule. Umezungumza na Sam mara nyingi, na umezungumza na watu ambao wamepitia tabia hizi. Anafanyaje?
Ndiyo. Inafurahisha katika kiwango cha kibinadamu kwa sababu mimi hukaribia mashirika ya kuripoti kama hii kwa lengo la kweli la kuleta ubinadamu yeyote aliye katika moyo wake na kutafuta uelewa wa kina na huruma. Nilipojaribu kukabili hili kwa mtazamo wa kibinadamu zaidi na kusema, "Haya, hili lingekuwa la kusikitisha kwangu ikiwa watu wengi sana ambao nimefanya nao kazi wangesema mimi ni mwongo wa kimatibabu. Je, unabebaje uzito huo? Unazungumziaje hilo katika matibabu? Ni hadithi gani unayojiambia kuhusu hilo?"
Nina aina fulani ya, kwa maoni yangu, labda maoni ya Pwani ya Magharibi kuhusu hilo kama, "Ndio, napenda kazi ya kupumua." Lakini sio aina nyingi za hisia za kujipambanua ambazo nadhani wengi wetu labda tungekuwa nao ikiwa tungekuwa tunaona aina hii ya maoni kuhusu tabia zetu na jinsi tunavyowatendea watu.
Nadhani hiyo inaenda kwa jibu pana la swali pia. Sam anadai kuwa sifa hii imesababisha matatizo, lakini pia kwamba ni sehemu ya kile ambacho kimemwezesha kuharakisha ukuaji wa OpenAI kiasi kwamba ana uwezo wa kuunganisha na kufurahisha makundi mbalimbali ya watu. Anashawishi kila mara majimbo haya yote yanayokinzana kwamba wanachojali ndicho anachojali. Na hiyo inaweza kuwa ujuzi muhimu sana kwa mwanzilishi. Nimezungumza na wawekezaji ambao kisha wanasema, "Vema, labda ni ujuzi usiofaa sana kwa kuendesha kampuni kwa sababu inakuza ugomvi mwingi."
Lakini kwa upande wa kibinafsi wa Sam, nadhani jambo ambalo mimi huchukua wakati ninapojaribu kuunganishwa kwa kiwango cha kibinadamu ni ukosefu wa dhahiri wa makabiliano ya kina, kutafakari, na uwajibikaji binafsi, ambayo pia inajulisha nguvu kubwa au dhima kwa kampuni inayojiandaa kwa IPO.
Yeye ni mtu ambaye, kwa maneno ya mjumbe mmoja wa zamani wa bodi aitwaye Sue Yoon, ambaye yuko kwenye rekodi katika kipande hicho akisema kwamba hadi kufikia hatua ya "kutokuwa na wasiwasi" ni msemo anaotumia, anaweza kuamini kweli ukweli wa mabadiliko ya uwanja wake wa mauzo au anaweza kujihakikishia kwao. Au angalau asipoziamini, anaweza kuzipitia bila kujiona kuwa na shaka.
Nadhani jambo ambalo unazungumzia, ambapo wewe au mimi tunaweza, tunaposema jambo hilo na kutambua kwamba linakinzana na uhakikisho mwingine ambao tumetoa, kwa namna fulani kuwa na muda wa kuganda au kujichunguza wenyewe. Nadhani hiyo haifanyiki naye. Na kuna tamaduni pana ya Silicon Valley hype na tamaduni ya mwanzilishi ambayo inakumbatia hiyo.
Inachekesha. Verge imejengwa juu ya kiasi gani cha ukaguzi wa bidhaaprogramu. Ni moyo wa kile tunachofanya hapa. Ninashikilia dola trilioni za Apple R&D mara moja kwa mwaka na kusema, "Simu hii ni saba." Na ni aina ya kuhalalisha taarifa zetu zote na maoni yetu mahali pengine. Tuna kazi ya kutathmini, na tunatumia muda mwingi tu kuangalia bidhaa za AI na kusema, "Je, zinafanya kazi?"
Hiyo inahisi kama haipo kwenye mazungumzo mengi kuhusu AI kama ilivyo leo. Kuna mazungumzo yasiyoisha kuhusu kile kinachoweza kufanya, jinsi inaweza kuwa hatari. Na kisha unajichimba chini, na unasema, "Je! kweli hufanya jambo ambalo inapaswa kufanya leo?" Katika baadhi ya matukio, jibu ni ndiyo. Lakini katika hali nyingi, jibu ni hapana.
Hiyo inahisi kama inaunganishwa na tamaduni ya hype unayoelezea na pia kwa maana kwamba, sawa, ikiwa unasema itafanya jambo fulani na halifanyiki, na mtu anahisi vibaya, ni sawa kwa sababu tuko kwenye jambo linalofuata. Hiyo ni katika siku za nyuma. Na katika AI haswa, Sam ni mzuri sana katika kutoa ahadi kuu.
Wiki hii tu, nadhani siku ile ile hadithi yako ilipochapishwa, OpenAI ilitoa hati ya sera iliyosema kwamba tunapaswa kufikiria upya mkataba wa kijamii na kuwa na malipo ya ufanisi wa AI kutoka kwa serikali. Hii ni ahadi nzuri kuhusu jinsi teknolojia fulani inavyoweza kuunda mustakabali wa dunia na jinsi tunavyoishi, na yote hayo yanategemea teknolojia kufanya kazi kwa njia haswa ambayo labda imeahidiwa kufanya kazi au inapaswa kufanya kazi.
Je, umewahi kumpata Sam akitilia shaka AI ikibadilika kuwa AGI au akili ya juu au kufika kwenye mstari wa kumalizia? Kwa sababu hilo ndilo jambo ambalo ninajiuliza zaidi. Je, kuna tafakari yoyote kuhusu iwapo teknolojia hii ya msingi inaweza kufanya mambo yote ambayo wanasema inaweza kufanya?
Ni seti sahihi ya maswali. Kuna wanateknolojia wanaoaminika ambao tulizungumza nao katika kundi hili la kuripoti - na ni wazi kwamba Sam Altman sio mmoja; yeye ni mfanyabiashara - ambaye anasema jinsi Sam anazungumza kuhusu kalenda ya matukio ya teknolojia hii sasa hivi. Kuna machapisho ya blogu yanayorudi nyuma miaka michache ambapo Sam anasema, "Tayari tumefika upeo wa tukio. AGI iko hapa kimsingi. Ujasusi umekaribia. Tutakuwa kwenye sayari zingine. Tutakuwa tunaponya aina zote za saratani." Kwa kweli, sikupamba.
Saratani inavutia sana, kwamba Sam anamlaghai mtu ambaye kinadharia aliponya saratani ya mbwa wao kwa ChatGPT, na hiyo haikufanyika. Walizungumza na ChatGPT, na hiyo iliwasaidia kuwaongoza watafiti wengine ambao walifanya kazi hiyo, lakini moja kwa moja, chombo hiki kilimponya mbwa huyu sio hadithi.
Nimefurahi kuwa umeongeza hoja hiyo kwa sababu ninataka kuendelea hadi kwenye hatua hii kubwa kuhusu wakati uwezo na hatari ya teknolojia itaegemea. Lakini inafaa kutaja kando hizi ndogo ambazo hufanyika kila mara kutoka kwa Sam Altman, ambapo anaonekana kujumuisha sifa hii tena.
Ninamaanisha, kutumia mfano wa ripoti ya WilmerHale, ambapo tulikuwa na habari hii ambayo ilikuwa haijaandikwa, na tulitaka kujua ikiwa muhtasari wa mdomo njiani ulitolewa kwa mtu mwingine yeyote isipokuwa washiriki wawili wa bodi ambayo Sam alisaidia kusakinisha kuisimamia. Naye akasema, “Ndio, ndiyo, hapana, ninaamini ilitolewa kwa kila mtu aliyejiunga na bodi baadaye.” Na tunaye mtu mwenye ujuzi wa moja kwa moja wa hali hiyo akisema kuwa ni uwongo tu. Na hiyo inaonekana kuwa hivyo, kwamba sio kweli. Ikiwa tunataka kuwa wakarimu, labda alifahamishwa vibaya.
Kuna mengi ya uhakikisho huu wa kawaida. Na mimi hutumia mfano huo kwa sehemu kwa sababu hiyo ni mfano mzuri wa kutenganisha, wacha tuite, ambayo inaweza kuwa na matokeo halisi kisheria. Sihitaji kukuambia, chini ya sheria ya kampuni ya Delaware, ikiwa IPO za kampuni hii, wenyehisa wanaweza, chini ya kifungu cha 220, kulalamika kuhusu hili na kudai hati za msingi. Tayari kuna wajumbe wa bodi wanaosema mambo kama vile, "Sawa, subiri kidogo, maelezo hayo mafupi yanapaswa kutokea."
Kwa hivyo mambo haya ambayo yanaonekana kuruka kutoka kinywani mwake kila wakati, yanaweza kuwa na athari halisi ya soko, athari halisi kwa OpenAI. Nikirejesha kwa aina ya lugha ya utopia iliyoibuka tena, nadhani sio kwa bahati siku ambayo kipande hiki kilitoka, pia inaathiri sisi sote, kwa sababu hatari ni kubwa sana kwa heshima na jinsi ilivyo.kutumwa kwa silaha, jinsi inavyotumiwa kutambua mawakala wa vita vya kemikali, uwezekano wa kutoa taarifa za upotoshaji, na kwa sababu ya jinsi msukumo wa hali ya juu unavyoonekana kuwachochea wanauchumi wengi wanaoaminika kusema, "Hii ina dalili zote za kiputo."
Hata Sam Altman amesema, "Mtu atapoteza pesa nyingi hapa." Hiyo inaweza kusababisha ukuaji mkubwa wa uchumi wa Amerika na wa kimataifa, ikiwa kuna kama utoboaji wa kweli wa kiputo unaohusisha kampuni hizi zote kufanya mikataba, zikiingia kwenye AI huku zikikopa sana. Kwa hivyo anachosema Sam Altman ni muhimu, na nadhani upendeleo wa watu karibu naye, uliyotaja tulizungumza na zaidi ya mia moja, kwa kweli ilikuwa zaidi ya mia moja. Tulikuwa na mazungumzo kwenye mstari wa kumalizia ambapo ni kama, "Je, itakuwa ndogo sana kusema ni kama nambari hii ya juu zaidi?" Na tulikuwa kama, "Ndio, wacha tuidharau. Tutaicheza vizuri." Lakini kulikuwa na watu wengi na wengi wao wakisema, "Hii ni wasiwasi." Na nadhani hiyo ndiyo sababu.
Ngoja nikuulize kuhusu hiyo namba. Kama ulivyotaja, watu walizidi kufunguka na wasiwasi kadri muda ulivyosonga. Inahisi kama shinikizo karibu na kiputo - mbio za kushinda, kulipa uwekezaji huu wote, kuibuka mshindi, kwa IPO - imebadilisha mitazamo mingi. Kwa hakika iliunda shinikizo zaidi kwa Sam na OpenAI.
Tulichapisha hadithi wiki hii kuhusu mitetemo ya OpenAI. Hadithi yako ni sehemu yake, lakini mabadiliko makubwa ya wafanyikazi katika safu ya watendaji katika OpenAI - watu wanakuja na kuondoka. Watafiti wote wameelekea mbali, kwa kiasi kikubwa kwa Anthropic, ambayo nadhani inavutia sana. Unaweza tu kuona kampuni hii inahisi shinikizo, na inajibu shinikizo hilo kwa njia fulani.
Lakini basi nadhani nyuma ya Sam kufukuzwa kazi. Hili ni jambo la kukumbukwa kwangu tu. Haikumbuki kwa mtu mwingine yeyote, lakini nilichukua simu ya chanzo katika Bustani ya Wanyama ya Bronx saa 7PM siku ya Ijumaa, na ilikuwa mtu akisema watajaribu kumrudisha Sam. Na kisha tulitumia wikendi kufuatilia hadithi hiyo chini. Na nikasema, "Niko kwenye mbuga ya wanyama. Unataka nifanye nini hapa?" Na jibu lilikuwa, "Kaa kwenye simu." Kweli, binti yangu alikuwa kama, "Ondoa simu." Na ndivyo nilivyofanya.
Ilikuwa ni panda au kufa ili kumrudisha Sam. Kampuni hiyo ilikuwa kama, "Hapana, haturuhusu bodi kumfukuza Sam Altman." Wawekezaji, wamenukuliwa katika kipande chako, "Tulienda vitani," nadhani, ni nafasi ya Thrive Capital, "kumrudisha Sam." Microsoft ilienda vitani ili kumrudisha Sam. Ni baadaye, na sasa kila mtu ni kama, "Tunaenda kwa IPO. Tumefika kwenye mstari wa kumalizia. Tumemrejesha mtu wetu, na atatufikisha kwenye mstari wa kumalizia. Tuna wasiwasi kuwa yeye ni mwongo."
Kwa nini ilikuwa vita kumrudisha wakati huo? Kwa sababu haionekani kuwa chochote kimebadilika. Unazungumza kuhusu kumbukumbu ambazo Ilya Sutskever na [Anthropic CEO] Dario Amodei walihifadhi walipokuwa wakati mmoja na Sam Altman. Wasiwasi wa kwanza wa Ilya ulikuwa kwamba Sam ni mwongo.
Hakuna kati ya hayo ambayo yamebadilika. Basi kwa nini ilikuwa vita kumrudisha wakati huo? Na sasa kwa kuwa tuko kwenye mstari wa kumalizia, inaonekana kama wasiwasi wote uko wazi.
Naam, kwanza kabisa, pole kwa binti yako na mpenzi wangu na watu wengine wote karibu na waandishi wa habari.
[Anacheka] Ilikuwa wikendi kwa kila mtu.
Ndio, inachukua maisha ya mtu, na hadithi hii hakika ina yangu, katika kipindi cha mwisho cha wakati. Kwa kweli inahusiana na mada hii ya uandishi wa habari na ufikiaji wa habari, nadhani. Wawekezaji ambao waliingia kwenye vita kwa ajili ya Sam na wote walishiriki katika kuhakikisha kwamba amerejea, na bodi ambayo ilikuwa imeundwa mahususi kulinda dhamira ya shirika lisilo la faida la kuweka usalama juu ya ukuaji na kumfukuza kazi mtendaji ikiwa hawangeweza kuaminiwa na hilo, waliondoka. Hiyo yote ilikuwa kwa sababu, ndiyo, vivutio vya soko vilikuwepo, sivyo?
Sam aliweza kuwashawishi watu, "Vema, kampuni itasambaratika." Lakini sababu ya yeye kuungwa mkono ni ukosefu wa habari. Wawekezaji hao, mara nyingi, sasa wanasema, "Ninaangalia nyuma, na nadhani ningekuwa na wasiwasi zaidi kama ningejua kikamilifu madai ni nini na wasiwasi ulikuwa nini."
Sio wote;maoni hutofautiana, na tunanukuu maoni mbalimbali, lakini kuna yale muhimu ambayo yalikuwa yakizingatia maelezo kidogo sana. Ubao uliomtimua Sam ulikuwa, kwa maneno ya mtu mmoja aliyewahi kuwa kwenye ubao, "JV sana," na wakaupapasa mpira kwa nguvu. Na tunaandika malalamiko ya msingi, na watu wanaweza kuamua wenyewe ikiwa yanajilimbikiza katika aina ya wasiwasi wa haraka waliona kuwa ni, lakini hoja hiyo na habari hiyo haikuwasilishwa.
Walipokea kile ambacho baadhi yao wanakiri kuwa ushauri mbaya wa kisheria. Ili kuielezea, utakumbuka nukuu, na labda wasikilizaji wako wengi na watazamaji watakumbuka nukuu kama ukosefu wa ukweli. Hiyo ndiyo ilipunguzwa, na kisha kimsingi hawakupokea simu.
Hawakupokea simu. Nina hakika ulijaribu. Kila mtu ninayemjua alijaribu, na ikafika mahali, kama mwandishi wa habari, hutakiwi kutoa ushauri kwa vyanzo vyako, lakini nilikuwa kama, "Hii itatoweka ikiwa hautaanza kujielezea."
Na ndivyo ilivyotokea. Wasahau waandishi wa habari. Ulikuwa na Satya Nadella akisema, "Ni nini kilitokea? Siwezi kupata mtu yeyote anifafanulie." Na huyo ndiye mfadhili mkuu wa kampuni. Halafu una Satya anayepiga simu [mwanzilishi mwenza wa LinkedIn] Reid Hoffman na Reid wakipiga simu na kusema, "Sijui ni nini kilitokea."
Wako katika utupu huo wa habari, wakitafuta viashiria vya jadi visivyo vya AI ambavyo vinaweza kuhalalisha ufyatuaji risasi wa haraka kama huo. Kama, sawa, ilikuwa uhalifu wa ngono? Je, ulikuwa ni ubadhirifu? Na hoja nzima ya hila, lakini nadhani yenye maana, kwamba teknolojia hii ni tofauti na kwamba aina hii ya mrundikano wa wasaliti wadogo inaweza kuwa na vigingi vya maana kwa biashara hii na labda kwa ulimwengu, ilipotea kwa kiasi kikubwa. Kwa hivyo motisha za kibepari zilishinda, lakini pia watu waliotengeneza walitoka na hawakuwa wakifanya kazi na habari kamili.
Ninataka tu kuuliza kuhusu kipengele cha "kile ambacho kila mtu alifikiri kilikuwa" kwa muda mmoja, kwa sababu kwa hakika niliona habari, na nikasema, "Loo, lazima jambo baya limetokea." Umeripoti sana #MeToo, maarufu. Ulivunja hadithi ya Harvey Weinstein.
Ulitumia muda mwingi kuripoti madai haya ambayo nadhani uliamua kuwa hayana msingi: kwamba Altman aliwanyanyasa watoto kingono au kuwaajiri wafanyabiashara ya ngono, au hata kumuua mtoa taarifa wa OpenAI. Namaanisha, wewe ndiye mtu ambaye unaweza kuripoti mambo haya kwa ukali zaidi. Je, uliamua kwamba haikuwa kitu?
Kweli, angalia, siko katika biashara ya kusema kitu kimeharibika. Ninachoweza kusema ni kwamba nilitumia miezi kadhaa kuangalia madai haya na sikupata uthibitisho kwao. Na ilikuwa ya kushangaza kwangu kwamba watu hawa, makampuni haya ambayo yana nguvu nyingi juu ya maisha yetu ya baadaye, kwa kweli wanatumia kiasi kikubwa cha wakati na rasilimali katika vita vya kitoto vya matope.
Mtendaji mmoja anaielezea kama "Shakespearean." Kiasi cha pesa za wachunguzi wa kibinafsi na hati za upinzani zinazokusanywa hazipunguki. Na jambo la kusikitisha ni kwamba aina ya vitu vya kufurahisha, ambavyo huchangiwa na washindani wa Sam, ni ukweli unaochukuliwa tu, sivyo? Kuna madai haya kwamba anafuata wavulana wa umri mdogo, na katika karamu nyingi za karamu huko Silicon Valley, unasikia hili. Kwenye mzunguko wa mkutano, nimesikia ikirejelewa hivi punde na watendaji wanaoaminika, mashuhuri: "Kila mtu anajua huu ni ukweli."
Jambo la kusikitisha ni kwamba ninazungumza juu ya wapi hii inatoka, veta anuwai ambayo hupitishwa. Elon Musk na washirika wake wanaonekana kusukuma dozi kali kama hizo kuwa bure. Ni mvuke unapoanza kuangalia madai ya msingi. Jambo la kusikitisha ni kwamba inaficha uhakiki zaidi wa msingi hapa ambao nadhani unastahili uangalizi wa haraka na kuzingatiwa.
Mada nyingine inayokuja katika hadithi ni karibu hisia ya hofu kwamba Sam ana marafiki wengi - amewekeza katika kampuni nyingi kutoka kwa jukumu lake la awali kama Mkurugenzi Mtendaji wa Y Combinator, hadi uwekezaji wake wa kibinafsi, ambao baadhi yao wanakinzana moja kwa moja na jukumu lake kama Mkurugenzi Mtendaji wa OpenAI - na kuna ukimya karibu naye.
Ilinigusa sana nilipokuwa nikisoma mstari mmoja hasa. Unaelezea memo za Ilya Sutskever, na wako nje katika Silicon Valley. Kila mtuhuwaita memos za Ilya. Lakini kuna ukimya karibu na hilo. Zinapitishwa, lakini hazijadiliwi. Unafikiri hiyo inatoka wapi? Je, ni hofu? Je, ni hamu ya kupata uwekezaji wa malaika? Hiyo inatoka wapi?
Nadhani ni uoga mwingi, nitakuwa mkweli. Baada ya kuripoti juu ya hadithi za usalama wa kitaifa ambapo vyanzo ni watoa taarifa ambao wanaweza kupoteza kila kitu na kushtakiwa, bado wanafanya jambo sahihi na kuzungumza juu ya mambo ya kuunda uwajibikaji. Nimeshughulikia hadithi zinazohusiana na uhalifu wa ngono ulizotaja, ambapo vyanzo vina kiwewe sana na vinaogopa adhabu ya kibinafsi.
Katika hali nyingi karibu na mpigo huu, unashughulika na watu walio na wasifu na nguvu zao. Ni watu mashuhuri wenyewe au wamezungukwa na watu maarufu. Wana maisha ya biashara yenye nguvu. Kwa maoni yangu, kwa kweli ni mfiduo mdogo sana kwao kuzungumza juu ya mambo haya. Na kwa bahati nzuri, sindano inasonga kama tulivyozungumza hapo awali, na watu sasa wanazungumza zaidi.
Lakini kwa muda mrefu sana, watu walinyamaza tu kuhusu hilo kwa sababu nadhani tamaduni ya Silicon Valley ina nia ya kibinafsi isiyo na huruma na biashara isiyo na huruma na yenye mwelekeo wa ukuaji. Kwa hiyo nadhani hili linawatesa hata baadhi ya watu waliohusika katika kumtimua Sam, ambapo uliona siku za nyuma, ndiyo, sababu moja iliyomfanya arudi na kutimuliwa kwa wazee wa bodi ni kuwakusanya wawekezaji waliochanganyikiwa na mambo yake.
Lakini lingine ni kwamba watu wengine wengi karibu nayo ambao walikuwa na wasiwasi na wakatoa sauti kwa haraka walikunjwa kama leso na kubadilisha sauti zao mara tu waliona upepo unavuma kwa njia nyingine, na walitaka kuingia kwenye gari la moshi la faida.
Ni giza sana, kwa uaminifu, kutoka kwa maoni yangu kama mwandishi wa habari.
Baadhi ya watu hao ni Mira Murati, ambaye, naamini, kwa dakika 20 alikuwa Mkurugenzi Mtendaji mpya wa OpenAI. Kisha akabadilishwa. Ilikuwa ni nguvu ngumu sana, na ni wazi, Sam alirudi. Mwingine ni Ilya Sutskever, ambaye alikuwa mmoja wa kura za kumuondoa Sam, kisha akabadili mawazo, au angalau akasema amebadili mawazo, kisha akaondoka na kuanzisha kampuni yake. Unajua ni nini kilimfanya abadili uamuzi wake? Ilikuwa pesa tu?
Kweli, na kuwa wazi, sichangi hizo mbili. Kuna wajumbe wengine wa bodi ambao walihusika katika kurusha risasi ambao nao walinyamaza sana baada ya hapo. Nadhani ni kama tatizo pana la pamoja. Hawa ni, katika baadhi ya matukio, watu ambao walikuwa na nyuzi za maadili za kupiga kengele na kuchukua hatua kali, na hilo lapaswa kupongezwa. Na hivyo ndivyo unavyohakikisha uwajibikaji. Hiyo inaweza kusaidia watu wengi ambao wameathiriwa na teknolojia hii. Ingeweza kusaidia tasnia kuendelea kuzingatia usalama zaidi.
Lakini kushughulika na watoa taarifa na watu wanaojaribu kuchochea uwajibikaji huo mara nyingi, unaona pia kwamba inachukua nguvu ya kuiweka nje na kusimama na imani yako. Na tasnia hii imejaa watu ambao hawakubaliani na imani zao.
Hata ingawa wanafikiri kwamba wanajenga Mungu wa kidijitali ambaye kwa njia fulani ataondoa kazi yote au kuunda kazi zaidi, au jambo fulani litatokea.
Naam, hilo ndilo jambo. Kwa hivyo utamaduni wa kutosimama na imani yako na maswala yote ya kimaadili yanayoanguka kando ya njia wakati kuna joto lolote au kitu chochote kinachoweza kutishia msimamo wako katika biashara labda ni sawa na nzuri kwa kiasi fulani kwa makampuni ya biashara-kama-kawaida ambayo yanatengeneza wijeti ya aina yoyote.
Lakini hawa pia ni watu wale wale ambao wanasema, "Hii inaweza kutuua sisi sote." Na tena, sio lazima uende kwa Terminator Skynet uliokithiri. Kuna seti ya hatari ambazo tayari zinaonekana. Ni kweli, na wana haki ya kuonya kuhusu hilo, lakini itabidi mtu mwingine awe na kiti cha mkono cha kisaikolojia jinsi vitu hivyo viwili vinaweza kuishi katika watu wale wale ambapo wanatoa maonyo ya dharura, labda wanaweka kidole na kujaribu kufanya kitu, na kisha wanakunja na kunyamaza kimya.
Ndio maana unaweza kuwa na aina hizi za matukio ya mambo kuzuiwa kuandikwa na mambo kufagiwa chini ya rug, na hakuna mtu anayezungumza juu yake kwa uwazi kwa miaka mingi baada ya ukweli.
Wahusika wa asili, wanaowajibika hapa hawangekuwa Wakurugenzi wakuu wa kampuni hizi; zingekuwa serikali. Huko Merika, labdani serikali za majimbo, labda ni serikali ya shirikisho.
Hakika, makampuni haya yote yanataka kuwa ya kimataifa. Kuna athari nyingi za ulimwengu hapa. Nilitazama OpenAI, Google, na Anthropic zote zikichochea utawala wa Biden kutoa agizo kuu la AI. Ilikuwa pretty toothless katika mwisho. Ilisema tu walilazimika kuzungumza juu ya kile wanamitindo wao waliweza kufanya na kuachilia majaribio ya usalama. Na kisha wote walimuunga mkono Trump, na Trump akaingia na kufuta yote hayo na kusema, "Lazima tuwe washindani. Ni bure-kwa-yote. Nenda kwa hilo."
Wakati huo huo, wote wanajaribu kutafuta fedha kutoka nchi za Mashariki ya Kati ambazo zina pesa nyingi za mafuta na zinataka kubadilisha uchumi wao. Hao ni wanasiasa. Ninahisi kama wanasiasa wanapaswa kuelewa kuwa mtu anazungumza kutoka pande zote mbili za midomo yao, na hawatakasirika sana ikiwa mtu atakatishwa tamaa mwishowe, lakini wanasiasa wanachukuliwa kwa safari, pia. Unafikiri ni kwa nini?
Hii ni kweli, nadhani, kwa nini kipande hicho ni muhimu kwa maoni yangu na kwa nini ilifaa kutumia wakati huu wote na maelezo. Tuko katika mazingira ambayo mifumo ambayo, kama unavyosema, inapaswa kutoa uangalizi haijawekwa wazi. Hiyo ni baada ya Citizens United States, ambapo mtiririko wa pesa hauzuiliki, na ni mkusanyiko fulani wa shida hiyo karibu na AI, ambapo kuna hizi PAC ambazo zinazidisha na kuingiza pesa katika kufuta udhibiti wa maana katika ngazi ya serikali na shirikisho.
Una [mwanzilishi mwenza wa OpenAI] Greg Brockman, wa pili wa Sam katika amri, akichangia moja kwa moja kwa njia kuu kwa michache kati ya hizo. Inasababisha hali ambapo kuna kukamatwa kwa wabunge na wasimamizi wanaowezekana, na hiyo ni mzunguko mgumu kutoka. Jambo la kusikitisha ni kwamba, nadhani kuna hatua rahisi za kisera, ambazo baadhi yake zinajaribiwa kwingineko duniani, ambazo zingesaidia katika baadhi ya matatizo haya ya uwajibikaji.
Unaweza kuwa na majaribio ya lazima zaidi ya usalama kabla ya kupelekwa, jambo ambalo tayari linafanyika Ulaya kwa miundo ya mipakani. Unaweza kuwa na mahitaji magumu zaidi ya maandishi ya umma kwa aina za uchunguzi wa ndani ambapo tuliona mambo yakizuiliwa kuandikwa katika kesi hii. Unaweza kuwa na seti thabiti zaidi ya mifumo ya ukaguzi wa usalama wa kitaifa kwa aina ya matamanio ya miundombinu ya Mashariki ya Kati ambayo Sam Altman alikuwa anasukuma.
Kama unavyosema, alikuwa akifanya chambo hiki na kubadili na utawala wa Biden, akisema, "Tudhibiti, tudhibiti," na kuwasaidia kuunda agizo la mtendaji, halafu wakati Trump anaingia, kwa kweli katika siku za kwanza, bila kuzuiliwa, "Wacha tuharakishe na tujenge chuo kikuu cha kituo cha data huko Abu Dhabi." Unaweza kuwa nayo, hii ni rahisi sana, kama ulinzi wa watoa taarifa. Hakuna sheria ya shirikisho inayolinda wafanyikazi wa kampuni ya AI ambao hufichua aina hizi za maswala ya usalama ambayo yanapeperushwa katika sehemu hii.
Tuna matukio ambapo Jan Leike, ambaye alikuwa gwiji mkuu wa usalama katika OpenAI, alikuwa akiongoza uwiano bora katika kampuni. Anaiandikia bodi, ambayo kimsingi ni nyenzo ya watoa taarifa, akisema kampuni inaondoka kwenye dhamira yake ya usalama. Hizi ndizo aina za watu ambao wanapaswa kuwa na bodi ya uangalizi ambayo wanaweza kwenda, na wanapaswa kuwa na ulinzi wa kisheria wa aina tunazoona katika sekta zingine. Hii ni rahisi kuiga serikali ya mtindo wa Sarbanes-Oxley.
Nadhani licha ya jinsi tatizo lilivyo kubwa la Silicon Valley kutwaa udhibiti wa wasimamizi wote wa mamlaka, na licha ya jinsi baadhi ya taasisi hizi ambazo zinaweza kutoa uangalizi na ulinzi zilivyo, bado ninaamini katika hisabati ya msingi ya demokrasia na ya wanasiasa wenye maslahi binafsi. Na kuna data zaidi na zaidi ya upigaji kura inayojitokeza ambayo Wamarekani wengi wanafikiri kuwa wasiwasi, maswali, au hatari za AI kwa sasa ni kubwa kuliko manufaa.
Kwa hivyo nadhani mafuriko ya pesa katika siasa kutoka kwa AI, ni ndani ya uwezo wetu wote kufanya hiyo kuwa chanzo cha alama ya swali kwa heshima na wanasiasa. Wakati Wamarekani wanaenda kupiga kura, wanapaswa kuchunguza ikiwa watu wanaowapigia kura, haswa ikiwa sio wakosoaji na wanapinga udhibiti, kutokana na wasiwasi huu wote, wanafadhiliwa na maslahi makubwa ya teknolojia. Kwa hivyo nadhani ikiwa watu wanaweza kusoma vipande kama hivi, kusikiliza podikasti kama hii, na kujali vya kutosha kufikiria kwa kinamaamuzi yao kama wapiga kura, kuna fursa ya kweli ya kuzalisha eneo bunge la Washington la wawakilishi ambao huweka macho na kulazimisha uangalizi.
Hiyo inaweza kuwa moja ya mambo yenye matumaini ambayo nimewahi kusikia mtu yeyote akisema kuhusu tasnia ya sasa ya AI. Ninashukuru. Nimevutiwa na upigaji kura unaozungumzia. Yapo mengi sasa. Yote ni thabiti, na inaonekana kama vijana zaidi, haswa, wanakabiliwa na AI, ndivyo wanavyokosa uaminifu na hasira juu yake. Huo ndio ushujaa wa kura zote. Na ninaangalia hilo, na nadhani, vema, ndio, wanasiasa wenye akili wangepinga tu hilo. Wangesema tu, "Tutawajibisha teknolojia kubwa."
Kisha ninafikiria kuhusu miaka 20 iliyopita, mwanasiasa akisema watawajibisha teknolojia kubwa, na ninajitahidi kupata hata wakati mmoja wa teknolojia kubwa kuwajibishwa. Kitu pekee ambacho kinanifanya nadhani hii inaweza kuwa tofauti ni, vizuri, kwa kweli unapaswa kujenga vituo vya data, na unaweza kupiga kura dhidi ya hilo, na unaweza kuomba dhidi ya hilo, na unaweza kupinga dhidi ya hilo.
Nadhani kuna mwanasiasa ambaye nyumba yake ilipigwa risasi kwa sababu walipiga kura kwa kituo cha data. Mvutano unafikia, ningeiita, lami ya homa. Umeelezea insularity ya Silicon Valley. Huu ni mfumo ikolojia uliofungwa. Inahisi kama wanafikiri wanaweza kuendesha ulimwengu. Wanaweka tani ya fedha katika siasa, na wanakimbia dhidi ya ukweli kwamba watu hawapendi bidhaa, ambayo haiwapa bima nyingi. Kadiri wanavyotumia bidhaa, ndivyo wanavyokasirika zaidi, na wanasiasa wanaanza kuona kuna matokeo halisi ya kusaidia tasnia ya teknolojia juu ya watu wanaowawakilisha.
Umezungumza na watu wengi sana. Je, unafikiri inawezekana kwa tasnia ya teknolojia kujifunza somo lililo mbele yao?
Unasema inahisi kama wanafikiri wanaweza kuendesha dunia bila uwajibikaji. Sidhani hata hiyo inahitaji kufuzu "inahisi kama". Ninamaanisha, ukiangalia lugha anayotumia Peter Thiel, iko wazi. Bila shaka, huo ni mfano uliokithiri. Na Sam Altman, ingawa yuko karibu na kufahamishwa na itikadi ya Thiel kwa kiasi fulani, ni aina tofauti sana ya mtu ambaye anaweza kusikika tofauti na kupimwa zaidi kwa uhakika.
Lakini nadhani itikadi pana zaidi unayopata kutoka kwa Thiel, ambayo kimsingi ni: Tumemaliza demokrasia, hatuitaji tena. Tunayo mengi sana kwamba tunataka tu kujenga vyumba vyetu vidogo. Hatushughulikii tena na Carnegies au Rockefellers tena, ambapo wao ni watu wabaya, lakini wanahisi wanahitaji kushiriki katika mkataba wa kijamii na kujenga mambo kwa watu. Kuna nihilism halisi ambayo imewekwa.
Na nadhani imekuwa ni hali ya kuimarishana katika historia ya hivi majuzi ya Marekani ya watu mashuhuri na makampuni ya kibinafsi kupata mamlaka ya kiserikali huku taasisi za kidemokrasia zinazoweza kuwawajibisha zikitupwa nje. Sina matumaini kuhusu wazo kwamba watu hao wanaweza kuamka tu siku moja na kufikiria, "Aha, labda tunahitaji kushiriki katika jamii na kusaidia kujenga vitu kwa watu."
Ninamaanisha, unatazama kama mfano wa ulimwengu mdogo wa The Giving Pledge, ambapo kulikuwa na wakati ambapo ilionekana kuwa ya hisani, na wakati huo sasa umepita na hata kudhihakiwa. Hilo ni tatizo, tatizo pana la ukosefu wa uwajibikaji ambalo nadhani linaweza kutatuliwa tu kutoka nje. Hiyo inabidi wapiga kura wahamasishe na kufufua nguvu ya uangalizi wa serikali. Na uko sawa kusema kwamba vekta kuu ambayo watu wanaweza kupata hiyo ni ya ndani. Inahusiana na wapi miundombinu inajengwa.
Ulitaja baadhi ya mvutano mkali kuhusu hili ambao unasababisha vurugu na vitisho, na ni wazi, hakuna mtu anayepaswa kuwa na vurugu au vitisho. Na pia siko hapa kutoa mapendekezo mahususi ya sera zaidi ya kuwasilisha tu baadhi ya hatua za sera zinazoonekana kuwa za msingi na zinafanya kazi kwingineko duniani, sivyo? Au wale ambao wamefanya kazi katika sekta nyingine. Siko hapa kusema ni ipi kati ya hizo inapaswa kutekelezwa na jinsi gani.
Nadhani kuna kitu kinahitaji kutokea, na inahitaji kuwa nje, sio tu kuamini kampuni hizi. Kwa sababu sawasasa tuna hali ambapo makampuni ambayo yanaendeleza teknolojia na yameandaliwa vyema kuelewa hatari, na kwa kweli ndiyo yanayotuonya juu ya hatari, pia ni wale ambao hawana chochote isipokuwa motisha ya kwenda haraka na kupuuza hatari hizo. Na huna chochote cha kupinga hilo. Kwa hivyo mageuzi yoyote yanaweza kuchukua katika suala la maalum, kitu lazima kiende kinyume na hilo. Na bado ninarudi kwenye matumaini hayo kwamba watu bado ni muhimu.
Kwa ujumla nanunua hoja yako. Acha nitoe hoja moja ndogo tu ambayo nadhani ninaweza kueleza. Kitu kingine ambacho kinaweza kutokea nje ya sanduku la kura ni kwamba mapovu yanatokea, sivyo? Kwamba si makampuni haya yote yanafika mwisho, na kwamba hakuna soko la bidhaa linalofaa kwa matumizi ya AI ya watumiaji. Na tena, siioni kabisa, lakini mimi ni mkaguzi wa teknolojia ya watumiaji, na labda nina viwango vya juu kuliko kila mtu mwingine.
Kuna soko la bidhaa linalofaa katika ulimwengu wa biashara, sivyo? Kuwa na kundi la mawakala wa AI kuandika rundo la programu inaonekana kuwa soko halisi la zana hizi. Na unaweza kusoma hoja kutoka kwa kampuni hizi zinazosema, "Tumetatua usimbaji, na hiyo inamaanisha tunaweza kutatua chochote. Ikiwa tunaweza kutengeneza programu, tunaweza kutatua matatizo yoyote."
Nadhani kuna mipaka halisi kwa mambo ambayo programu inaweza kufanya. Hiyo ni nzuri katika ulimwengu wa biashara. Programu haiwezi kutatua kila tatizo kwa ukweli, lakini wanapaswa kufika huko. Walipaswa kumaliza kazi, na labda si kila mtu anayefika kwenye mstari wa kumalizia. Na kuna hitilafu, na kiputo hiki kinatokea, na labda OpenAI au Anthropic au xAI, mojawapo ya makampuni haya hayatafaulu, na uwekezaji huu wote unatoweka.
Unafikiri hiyo ingeathiri hii? Kweli, ngoja niulize swali la kwanza kwanza. OpenAI iko kwenye kilele cha IPO. Kuna mashaka mengi kuhusu Sam kama kiongozi. Je, unafikiri watafanikiwa kufika kwenye mstari wa kumalizia?
Sitatabiri, lakini nadhani unaongeza hoja muhimu, ambayo ni kwamba motisha ya soko ni muhimu ndani ya Silicon Valley, na uhakika wa mienendo ya sasa ya Bubble inasimama kukatiza, tena, uwezekano, kulingana na wakosoaji, mbio hadi chini juu ya usalama.
Ningeongeza pia kwa hilo, ukiangalia utangulizi wa kihistoria ambapo kuna seti sawa na inayoonekana kutoweza kupenyeka ya motisha ya soko na athari zinazoweza kuwa mbaya kwa umma, kuna madai ya athari. Na unaona hilo kama eneo la wasiwasi hivi karibuni. Sam Altman yuko nje wiki hii akiidhinisha sheria ambayo ingelinda kampuni za AI kutokana na baadhi ya aina za dhima ambazo OpenAI imekabiliwa nazo katika suti za kifo zisizo sahihi, kwa mfano. Bila shaka, kuna tamaa ya kuwa na ngao hiyo kutokana na dhima.
Nadhani mahakama bado inaweza kuwa njia ya maana, na itapendeza sana kuona jinsi suti hizi zinavyoundwa. Tayari umeona, kwa mfano, suti ya hatua ya darasani, ambayo mimi na wengi, waandishi wengine wengi ninaowajua ni wanachama, dhidi ya Anthropic kwa matumizi yao ya vitabu ambavyo vilikuwa chini ya hakimiliki. Iwapo kuna watu wenye akili timamu za kisheria na walalamikaji wanaojali, kama tulivyoona kihistoria katika kesi kutoka kwa tumbaku kubwa hadi nishati kubwa, unaweza pia kupata kanuni za ulinzi na baadhi ya vivutio vya kupunguza kasi, kuwa mwangalifu, au kulinda watu kwa njia hiyo.
Inahisi kama muundo mzima wa gharama ya tasnia ya AI hutegemea tafsiri nzuri sana ya matumizi ya haki. Haiji vya kutosha. Muundo wa gharama wa kampuni hizi unaweza kukosa udhibiti ikiwa itakulipa wewe na kila mtu mwingine ambaye kazi yake imechukua, lakini ni shida kufikiria, kwa hivyo tusifikirie kuihusu. Karibu na hayo, bidhaa hizi zote sasa zinafanya kazi kwa hasara. Kama leo, wote wanakimbia kwa hasara. Wanachoma pesa nyingi kuliko wanaweza kupata. Wakati fulani, wanapaswa kugeuza swichi.
Sam ni mfanyabiashara. Kama ulivyosema mara kadhaa, yeye sio mwanateknolojia. Yeye ni mtu wa biashara. Je, unafikiri yuko tayari kugeuza swichi na kusema, "Tutatengeneza dola?" Kwa sababu ninapouliza, "Je, unafikiri OpenAI itafanikiwa?" Ni wakati wanapaswa kutengeneza dola. Na hadi sasa, Sam amepata dola zake zote kwa kuwauliza watu wengine pesa zao badala ya kampuni zake kutengeneza pesa.
Kweli, hilo ni swali kubwa linaloendelea kwa Silicon Valley, kwa wawekezaji, kwa umma.Unaona baadhi ya taarifa na kuondoka kwa OpenAI ambazo zinaonekana kudhihirisha aina fulani ya hofu juu ya hilo. Kuzima Sora, kuzima baadhi ya miradi saidizi, kujaribu kuweka sifuri kwenye bidhaa ya msingi. Lakini basi kwa upande mwingine, bado unaona, wakati huo huo, tani za misheni huenda, sawa? Hata mfano mdogo - ni wazi sio msingi wa biashara yao - ni upataji wa TBPN.
Kwa njia, mara tu tulipokuwa tukifikia mstari wa kumalizia na kuangalia ukweli, kampuni inayokabili aina hii ya uchunguzi wa wanahabari inapata jukwaa ambapo wanaweza kuwa na udhibiti wa moja kwa moja wa mazungumzo. Nadhani kuna wawekezaji wengi ambao wana wasiwasi, kulingana na mazungumzo ambayo nimekuwa nayo, kwamba tatizo hili la kuahidi mambo yote kwa watu wote pia linaenea kwa ukosefu huu wa kuzingatia katika mtindo wa msingi wa biashara. Na ninamaanisha, uko karibu na aina ya kutabiri na kutazama soko kuliko mimi labda. Nitakuacha wewe na wasikilizaji kuwa mwamuzi wa ikiwa wanafikiri OpenAI inaweza kugeuza swichi.
Kweli, niliuliza swali kwa sababu umepata nukuu kutoka kwa mtendaji mkuu wa Microsoft, na ni kwamba, "Urithi wa Sam unaweza kuishia sawa na Bernie Madoff au Sam Bankman-Fried," badala ya Steve Jobs. Huo ni ulinganisho kabisa. Ulifanya nini kwa ulinganisho huo?
Nadhani hiyo ni paraphrase. Sehemu ya Steve Jobs haikuwa sehemu ya nukuu. Lakini kuna aina ya ustadi wa kuvutia kwake kwa sababu inasemwa kama, "Nadhani kuna nafasi ndogo lakini ya kweli kwamba ataishia kuwa SBF au tapeli wa kiwango cha Madoff." Maana, kwa akili yangu, si kwamba Sam anatuhumiwa kwa aina hizo maalum za ulaghai au uhalifu, lakini kwamba kiwango cha kutenganisha na kudanganya kutoka kwa Sam kinaweza kuwa na nafasi ya kukumbukwa kwa kiwango hicho.
Ndio, nadhani kinachovutia zaidi kuhusu nukuu hiyo, kwa uaminifu, ni kwamba unapiga simu kwa Microsoft na haupati kama, "Hiyo ni wazimu. Hatujawahi kusikia hivyo." Unapata maoni mengi kama, "Ndiyo, watu wengi hapa wanafikiria hivyo" ambayo ni ya kushangaza. Na nadhani inaenda kwa maswali haya ya biashara ya karanga na bolts.
Mwekezaji mmoja aliniambia, kwa mfano, kwa kuzingatia jinsi tabia hii imeendelea kwa miaka mingi baada ya kurusha risasi "- na hii pia ilifikiri kwamba hili lilikuwa wazo la kuvutia - kwamba sio lazima kwamba Sam awe chini kabisa ya orodha, kama vile anapaswa kuwa wa chini zaidi wa watu wa chini kabisa ambao hawapaswi kuunda teknolojia hii, kwa sababu kuna watu wengi ambao Musk alisema inafaa. inamweka labda chini ya orodha ya watu ambao wanapaswa kujenga AGI, na chini ya takwimu zingine kadhaa zinazoongoza katika uwanja huu.
Kwa hivyo nilifikiri hiyo ilikuwa tathmini ya kuvutia, na hiyo ndiyo aina ya mawazo ninayofikiri kwamba unapata kutoka kwa wataalamu wa kweli ambao labda hawanunui masuala ya usalama sana. Wana mwelekeo wa ukuaji tu, na wanafikiria kuwa OpenAI sasa ina shida na Sam Altman.
Kipande cha Microsoft kinavutia sana. Kampuni hiyo ilifikiri walikuwa juu ya ulimwengu. Kwamba walikuwa wamefanya uwekezaji huu na wangeenda kuruka kila mtu, hasa na muhimu zaidi, Google, na kurejea katika neema nzuri za watumiaji. Kiwango ambacho wanahisi kuchoshwa na tukio hili - hii ni kampuni inayoendeshwa kwa kiasi kikubwa - sidhani kama inaweza kupitiwa.
Umetaja wahusika na sifa za utu. Nataka nimalizie hapa kwa swali kutoka kwa wasikilizaji wetu. Nilisema kwenye kipindi chetu kingine, The Vergecast, kwamba ningezungumza nawe, na nikasema, “Ikiwa una maswali kwa Ronan kuhusu hadithi hii, nijulishe.” Kwa hivyo tunayo moja hapa ambayo nadhani inahusiana vyema na kile unachokielezea. Nitakusomea tu:
"Je, uhalali wa tabia mbaya, vitendo vya kukata tamaa vya Altman na viongozi wengine wa AI, vinatofautiana vipi na uhalali ambao Ronan amesikia kutoka kwa viongozi wengine wa juu katika siasa na vyombo vya habari? Je, wote hawahalalishi matendo yao kwa kusema hivi ndivyo ulimwengu unavyobadilika? Ikiwa sitafanya hivi, mtu mwingine atafanya?"
Ndio, kuna mengi ya hayo yanayozunguka. Ningesema kilicho tofauti kwa AI ni kwamba vigingi vinavyopatikana kuwa vya juu sana inamaanisha kuwa taarifa zote za hatari ni kali, sivyo? Una Sam Altmanwakisema, “Hii inaweza kuwa nuru kwetu sote.” Na pia, wakosoaji wanaweza kusema, mania ambayo muulizaji anarejelea ni ya kupita kiasi, sivyo?
Kitu ambacho Sam alimshutumu Elon, kwenye rekodi, ni kwamba labda anataka kuokoa ubinadamu, lakini tu ikiwa ni yeye. Aina ya kipengele cha ego cha kutaka kushinda, ambacho ni muundo wa Sam anatumia kila wakati, na kwamba hii ni moja ya vitabu vya historia, hii inaweza kubadilisha kila kitu. Kwa hivyo, hata juu na zaidi ya mawazo ya "lazima uvunje mayai machache" ya biashara nyingi za Silicon Valley, kuna, katika mawazo ya baadhi ya takwimu zinazoongoza AI, nadhani, upatanisho kamili kwa kuanguka yoyote na yote.
Na kusahau kuvunja mayai. Ni/nadhani watafiti wengi wa msingi wa usalama wangesema uwezekano wa kuhatarisha kuvunja nchi, kuvunja ulimwengu, na kuvunja mamilioni ya watu ambao kazi zao na usalama wao hutegemea usawa - hiyo ndiyo jambo la kipekee kuihusu. Hapo ndipo ninapofunga, nikitafakari juu ya chombo hiki cha kuripoti, nikiamini kweli hii ni zaidi ya Sam Altman. Hii ni kuhusu tasnia ambayo haijadhibitiwa na shida inayoendelea ya Amerika kutoweza kuizuia.
Ndiyo. Kweli, tulikuwa na matumaini huko, lakini nadhani hiyo ni mahali pazuri pa kuiacha.
[Anacheka] Maliza kwa mdundo wa chini.
Bila shaka. Hiyo ni kila hadithi nzuri, kwa kweli. Kesi ya Musk-Altman inakuja. Nadhani tutajifunza mengi zaidi hapa. Ninashuku nitataka kuzungumza nawe tena. Ronan Farrow, asante sana kwa kuwa kwenye Kisimbuaji.
Asante.
Je, una maswali au maoni kuhusu kipindi hiki? Tupigie kwa [email protected]. Kweli tunasoma kila barua pepe!
