Այսօր Decoder-ի եթերում ես խոսում եմ Ռոնան Ֆերոուի հետ՝ այսօր աշխատող հետաքննական ռեպորտաժի ամենամեծ աստղերից մեկը: Նա կոտրեց Հարվի Վայնշտեյնի պատմությունը, ի թիվս շատ ու շատ ուրիշների: Եվ հենց անցած շաբաթ նա և համահեղինակ Էնդրյու Մարանցը հրապարակեցին The New Yorker-ում անհավանական խորը սուզվող հոդված OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանի, նրա վստահելիության և հենց OpenAI-ի վերելքի մասին:
Մեկ նշում, նախքան այստեղ գնալը. The New Yorker-ը հրապարակեց այդ պատմությունը, և Ռոնանը և ես այս խոսակցությունն ունեցանք նախքան Ալթմանի տան վրա հարձակումների ամբողջ ծավալը իմանալը, այնպես որ դուք չեք լսի, որ մենք ուղղակիորեն խոսենք այդ մասին: Բայց պարզապես ասեմ, որ ես կարծում եմ, որ ցանկացած տեսակի բռնությունն անընդունելի է, Սեմի վրա այս հարձակումներն անընդունելի էին, և որ անօգնականության տեսակը, որը մարդիկ զգում են, որը հանգեցնում է այս տեսակի բռնության, ինքնին անընդունելի է, և արժե ավելի շատ ուսումնասիրել թե՛ ոլորտի, թե՛ մեր քաղաքական առաջնորդների կողմից: Հուսով եմ, որ դա պարզ է:
Ծայրամասային բաժանորդներ, մի մոռացեք, որ դուք ստանում եք բացառիկ մուտք դեպի առանց գովազդի Ապակոդավորիչ ուր էլ որ ստանաք ձեր փոդքաստները: Գնացեք այստեղ: Բաժանորդ չե՞ս։ Դուք կարող եք գրանցվել այստեղ:
Այս ամենն ասված է, որ Ալթմանի շուրջ շատ բան է պտտվում, որը արդար խաղ է կոշտ հաշվետվությունների համար, ինչպիսի զեկուցումներ էին պատրաստվում անել Ռոնանը և Էնդրյուն: ChatGPT-ի հանրաճանաչության շնորհիվ Ալթմանը հայտնվեց որպես AI արդյունաբերության ամենատեսանելի գործիչը՝ ընդամենը մի քանի տարում վերածելով երբեմնի ոչ առևտրային հետազոտական լաբորատորիան գրեթե տրիլիոն դոլար արժողությամբ մասնավոր ընկերության: Սակայն Ալթմանի առասպելը խորապես հակասական է, որը հավասարապես սահմանվում է ինչպես նրա ակնհայտ գործարքներ կնքելու կարողությամբ, այնպես էլ նրա հակվածությամբ… լավ, ստել բոլորին իր շրջապատում:
Պատմությունը ավելի քան 17,000 բառ է, և այն պարունակում է, անկասկած, վերջնական պատմությունը, թե ինչ է տեղի ունեցել 2023 թվականին, երբ OpenAI-ի տնօրենների խորհուրդը շատ հանկարծակի աշխատանքից ազատեց Ալթմանին իր ենթադրյալ ստելու պատճառով, միայն այն բանի համար, որ նա գրեթե անմիջապես նորից աշխատանքի ընդունվի: Սա նաև խորը սուզում է Ալթմանի անձնական կյանքի, նրա ներդրումների, մերձավորարևելյան փողերի նկատմամբ նրա սիրահետման և իր անցյալի վարքագծի և բնավորության գծերի մասին նրա սեփական մտորումների մասին, որոնք ստիպեցին մի աղբյուր ասել, որ նա «չկաշկանդված է ճշմարտությունից»: Ես իսկապես առաջարկում եմ կարդալ ամբողջ պատմությունը. Ես կասկածում եմ, որ այն դեռ երկար տարիներ կանդրադառնա:
Ռոնանը բազմիցս խոսեց Ալթմանի հետ 18 ամիսների ընթացքում, երբ նա ծախսեց այս հոդվածը զեկուցելու համար, և այսպիսով, ինձ հետաքրքրում էր հիմնական բաներից մեկը, թե արդյոք նա այդ ընթացքում որևէ փոփոխություն զգաց Ալթմանում: Ի վերջո, վերջին մեկուկես տարվա ընթացքում շատ բան է տեղի ունեցել AI-ի, տեխնոլոգիայի և աշխարհում:
Դուք կլսեք Ռոնանի խոսակցությունը դրա մասին շատ անմիջականորեն, ինչպես նաև նրա զգացումը, որ մարդիկ շատ ավելի պատրաստակամ են դարձել խոսելու Ալթմանի՝ ճշմարտությունը տարածելու ունակության մասին: Մարդիկ սկսում են բարձրաձայն և ձայնագրության մեջ մտածել, թե արդյոք Ալթմանի նման մարդկանց վարքագիծը մտահոգիչ է ոչ միայն AI-ի կամ տեխնոլոգիաների, այլև հասարակության հավաքական ապագայի համար:
Լավ. Ռոնան Ֆերոուն Սեմ Ալթմանի, AI-ի և ճշմարտության մասին: Ահա մենք գնում ենք:
Այս հարցազրույցը թեթև խմբագրվել է երկարության և պարզության համար:
Ռոնան Ֆերոու, դու հետաքննող լրագրող ես և The New Yorker-ի մասնակից: Բարի գալուստ Decoder:
Ուրախ եմ այստեղ լինելու համար: Շնորհակալություն ինձ ունենալու համար:
Ես շատ հուզված եմ ձեզ հետ զրուցելու համար: Դուք հենց նոր մեծ կտոր գրեցիք The New Yorker-ի համար: Դա Սեմ Ալթմանի պրոֆիլն է և, մի տեսակ, OpenAI-ն: Դրա մասին իմ կարդացածն այն է, որ, ինչպես անում են բոլոր հիանալի հատկությունները, այն, խիստ հաշվետվություններով, հաստատում է բազմաթիվ զգացմունքներ, որոնք մարդիկ ունեցել են Սեմ Ալթմանի մասին շատ երկար ժամանակ: Դուք ակնհայտորեն հրապարակել եք այն, արձագանքներ եք ստացել դրա վերաբերյալ: Ինչպե՞ս եք վերաբերվում դրան հենց հիմա:
Դե, իրականում ես ոգևորվել եմ այն բանից, թե որքանով է այն կոտրվել մի ժամանակաշրջանում, երբ ուշադրության տնտեսությունն այնքան շիզոֆրենիկ և մակերեսային է: Սա մի պատմություն է, որը, իմ կարծիքով, ազդում է բոլորիս վրա: Եվ երբ ես անցկացրեցի իմ կյանքի մեկուկես տարին, և իմ համահեղինակը՝ Էնդրյու Մարանցը, նույնպես ծախսեց իր այդ ժամանակը՝ իսկապես փորձելով ինչ-որ դատաբժշկական և մանրակրկիտ ինչ-որ բան անել, դա միշտ այն պատճառով է, որ ես զգում եմ, որ ավելի մեծ կառուցվածքային խնդիրներ կան, որոնք ազդում են մարդկանցից դուրս, անհատից և ընկերության հիմքում:
Սեմ Ալթմանը, Սիլիկոնային հովտի հիփ մշակույթի և ստարտափների ֆոնին, որոնք փուչիկ են անում դեպի հսկայական գնահատումներ՝ հիմնված խոստումների վրա, որոնք կարող են կամ չկատարվել ապագայում, և հիմնադիր մշակույթի աճող ընդգրկումը, որը կարծում է, որ տարբեր խմբերին տարբեր հակասական բաներ ասելը հատկանիշ է, այլ ոչսխալ…Նույնիսկ այդ ֆոնին Սեմ Ալթմանը արտասովոր դեպք է, երբ Սիլիկոնյան հովտում բոլորը, ովքեր սպասում են այդ բաներին, չեն կարող դադարել խոսել նրա վստահելիության և ազնվության այս հարցի մասին:
Մենք արդեն գիտեինք, որ նա աշխատանքից ազատվել է անազնվության կամ սերիական ենթադրյալ ստախոսության մեղադրանքների պատճառով: Բայց արտասովոր կերպով, չնայած այն հանգամանքին, որ եղել են հիանալի զեկույցներ, Քիչ Հեյգին մեծ աշխատանք է կատարել այս ուղղությամբ: Կարեն Հաոն մեծ աշխատանք է կատարել այս ուղղությամբ: Իրոք, չկար վերջնական ըմբռնում փաստացի ենթադրյալ ապացույցների և պատճառների մասին, թե ինչու են դրանք դուրս մնացել հանրության աչքից:
Այսպիսով, թիվ մեկ կետն այն է, որ ես ինձ ոգևորում է այն փաստը, որ մեր հանրային գիտելիքների և նույնիսկ Սիլիկոնային հովտի ինսայդերների գիտելիքների որոշ բացեր այժմ մի փոքր ավելի են լրացվել: Որոշ պատճառներ, որ կային բացեր, մի փոքր էլ լրացվել են։
Մենք զեկուցում ենք դեպքերի մասին, երբ այս ընկերության ներսում գտնվող մարդիկ իսկապես զգացել են, որ իրերը թաքցված են կամ միտումնավոր չեն փաստաթղթավորվել: Այս պատմության նոր բաներից մեկը WilmerHale-ի առանցքային իրավաբանական գրասենյակի հետաքննությունն է, որն ակնհայտորեն շքեղ, վստահելի, մեծ իրավաբանական ընկերություն է, որը կատարել է Enron-ի և WorldCom-ի հետաքննությունները, որոնք, ի դեպ, բոլորն էլ ծավալուն էին, ինչպես հրապարակված հարյուրավոր էջերը: Ուիլմեր Հեյլը կատարեց այս հետաքննությունը, որը պահանջվել էր խորհրդի անդամների կողմից, ովքեր աշխատանքից ազատել էին Ալթմանին որպես իրենց հեռանալու պայման, երբ նա ազատվեց նրանցից, և նա վերադարձավ: Եվ արտասովոր կերպով, շատ իրավաբանների աչքում, որոնց հետ ես խոսեցի, և ցնցող՝ այս ընկերության շատ մարդկանց աչքերում, նրանք զերծ պահեցին այն գրելուց: Այն ամենը, ինչ երբևէ երևաց դրանից, OpenAI-ի 800 բառանոց մամուլի հաղորդագրությունն էր, որը նկարագրում էր տեղի ունեցածը որպես վստահության խզում: Եվ մենք հաստատեցինք, որ դա պահվել է բանավոր ճեպազրույցների համար:
Կան դեպքեր, երբ, օրինակ, խորհրդի անդամը կարծես թե ցանկանում է դեմ քվեարկել OpenAI-ի բնօրինակ շահույթ չհետապնդող ձևից շահույթ հետապնդող կազմակերպության վերածելուն, և դա գրանցվում է որպես ձեռնպահ: Դա նման է հանդիպման ժամանակ փաստաբանին, ով ասում է. «Դե, դա կարող է չափազանց մեծ քննություն առաջացնել»: Իսկ դեմ քվեարկել ցանկացողը գրանցվում է որպես ձեռնպահ: Փաստացի վեճ կա. OpenAI-ն հակառակն է պնդում, ինչպես կարող եք պատկերացնել: Սրանք բոլորն այն դեպքերն են, երբ դուք ունեք մի ընկերություն, որն իր հաշվին պահում է մեր ապագան իր ձեռքերում:
Անվտանգության ցցերն այնքան սուր են, որ դրանք չեն վերացել: Սա է պատճառը, որ այս ընկերությունը հիմնադրվել է որպես շահույթ չհետապնդող կազմակերպություն, որը կենտրոնացած է անվտանգության վրա, և որտեղ ամեն ինչ մթագնվում էր այնպես, որ շրջապատող վստահելի մարդիկ այն ավելի քիչ էին համարում, քան պրոֆեսիոնալները: Եվ դուք դա զուգակցում եք մի ֆոնի հետ, որտեղ իմաստալից կարգավորման քաղաքական ախորժակը շատ քիչ է: Ես կարծում եմ, որ դա շատ այրվող իրավիճակ է.
Ինձ համար խնդիրն այն չէ, որ Սեմ Ալթմանը այդքան սուր է արժանի այս հարցերին: Սա նաև այն է, որ այս ոլորտում այս տղաներից որևէ մեկը, և առանցքային գործիչներից շատերը, ցուցադրում են, եթե ոչ այս առանձնահատուկ, ենթադրյալ սուտ խոսելու հատկանիշը, անշուշտ, որոշակի աստիճանի մրցավազքի մտածողություն, որտեղ մարդիկ, ովքեր անվտանգության կողմնակից էին, թուլացրել են այդ պարտավորությունները և բոլորը մրցավազքի մեջ են:
Կարծում եմ, երբ մենք նայում ենք Anthropic-ի վերջին արտահոսքերին, կա մի մարդ, ով հարց է տալիս, թե ով պետք է իր մատը սեղմի կոճակի վրա այս հատվածում: Պատասխանն այն է, որ եթե մենք չունենանք բովանդակալից վերահսկողություն, ես կարծում եմ, որ մենք պետք է լուրջ հարցեր տանք և փորձենք բացահայտել այնքան շատ տեղեկատվություն, որքան կարող ենք այս բոլոր տղաների մասին: Այսպիսով, ես ոգևորվել եմ այն բանից, թե ինչ է թվում այդ մասին իմաստալից խոսակցություն կամ դրա սկիզբը:
Այդպես հարցրի պատճառն այն է, որ դուք աշխատել եք դրա վրա մեկուկես տարի: Դու խոսեցիր, կարծում եմ, 100 հոգու հետ քո համահեղինակ Էնդրյուի հետ: Դա երկար ժամանակ է պատմություն պատրաստելու համար: Ես մտածում եմ հատկապես AI-ի վերջին մեկուկես տարվա մասին, և տղա, այս բոլոր կերպարների վերաբերմունքն ու արժեքները շատ արագ փոխվեցին:
Միգուցե ոչ ավելին, քան Սեմ Ալթմանը, ով սկսեց որպես լռելյայն հաղթող, քանի որ նրանք թողարկել էին ChatGPT-ն, և բոլորը կարծում էին, որ դա պարզապես կվերցնի Google-ը: Եվ հետո Google-ը պատասխանեց, ինչը կարծես զարմացրեց նրանց, որ Google-ը կփորձի պաշտպանել իր բիզնեսը, գուցե լավագույն բիզնեսներից մեկը տեխնոլոգիական պատմության մեջ, եթե ոչ բիզնեսի պատմության մեջ: Anthropic-ը որոշել է, որ կենտրոնանալու է ձեռնարկության վրա: Թվում է, թե այն վերցնում է հրամայական առաջնորդությունայնտեղ, քանի որ AI-ի ձեռնարկատիրական օգտագործումը շատ բարձր է:
Այժմ OpenAI-ն իր արտադրանքը վերակենտրոնացնում է «մենք կվերցնենք Google»-ից դեպի Codex, և նրանք պատրաստվում են վերցնել ձեռնարկությունը: Ես պարզապես չեմ կարող հստակ ասել, թե արդյոք վերջին մեկուկես տարվա ընթացքում ձեր զեկույցների ընթացքում փոխվե՞լ են կերպարները, որոնց հետ խոսում էիք: Ինչպես իրենց վերաբերմունքն ու արժեքները, փոխվե՞լ են դրանք:
Այո՛։ Ես առաջին հերթին կարծում եմ, որ քննադատությունը, որը ուսումնասիրվում է այս հոդվածում, այս պահին գալիս է այս ընկերությունների ներսում գտնվող շատ մարդկանց կողմից, որ սա մի արդյունաբերություն է, որը, չնայած էկզիստենցիալ խաղադրույքներին, իջնում է անվտանգության հետ կապված ինչ-որ մրցավազքի մեջ, և որտեղ արագությունը հաղթում է մնացած ամեն ինչին, այդ մտահոգությունն ավելի սուր է դարձել: Եվ ես կարծում եմ, որ այդ մտահոգություններն ավելի են հաստատվել, քանի որ անցած մեկուկես տարին անցել է: Միաժամանակ, Սեմ Ալթմանի նկատմամբ վերաբերմունքը հատուկ փոխվել է։ Երբ մենք սկսեցինք խոսել դրա համար աղբյուրների հետ, մարդիկ իսկապես, իրոք, զզվել էին այս մասին մեջբերումներ անելուց և այդ մասին արձանագրել:
Մեր զեկույցի վերջում դուք ունեք հաշվետվությունների մի խումբ, որտեղ մարդիկ խոսում են այդ մասին շատ բացահայտ և բացահայտ, և խորհրդի անդամներ ունեք այնպիսի բաներ, ինչպիսիք են՝ «Նա պաթոլոգիական ստախոս է, նա սոցիոպաթ է»: «Սա վտանգավոր է՝ հաշվի առնելով անվտանգության խաղադրույքները, և մեզ անհրաժեշտ են այս տեխնոլոգիայի առաջնորդներ, որոնք ունեն բարձր ազնվություն», ընդհուպ մինչև հավանել. «Մոռացեք անվտանգության խաղադրույքները, սա անընդունելի է ցանկացած խոշոր ընկերության ցանկացած գործադիրի համար, որը պարզապես չափազանց մեծ դիսֆունկցիա է ստեղծում»:
Այսպիսով, խոսակցությունը շատ ավելի բացահայտ է դարձել այնպես, որ թվում է, թե գուցե ուշացած է, բայց մի իմաստով ջերմացնող է: Եվ Սեմ Ալթմանը, ի պատիվ իրեն… Կտորը շատ արդար է և նույնիսկ առատաձեռն, ես կասեի, Սեմի համար: Սա այն կտորը չէ, որտեղ շատ «գտավ քեզ» իրեր: Ես շատ ու շատ ժամեր անցկացրի նրա հետ հեռախոսով, մինչ մենք ավարտում էինք այս աշխատանքը և իսկապես լսեցի նրան:
Ինչպես կարող եք պատկերացնել, այսպիսի ստեղծագործության մեջ ամեն ինչ չէ, որ հաջողվում է: Եվ եթե Սեմն իրականում փաստարկ էր բերում, որ ես զգում էի, որ ինչ-որ բան, նույնիսկ եթե դա ճիշտ է, կարող է սենսացիոն լինել, ես իսկապես սխալվել եմ այս դատաբժշկական և չափված պահելու հարցում: Այսպիսով, ես կարծում եմ, որ դա ճիշտ է ընդունվում, և ես պարզապես հուսով եմ, որ այս փաստացի արձանագրությունը, որը կուտակվել է այս ժամանակահատվածում, կարող է ավելի բուռն խոսակցություն առաջացնել վերահսկողության անհրաժեշտության մասին:
Դա իրականում իմ հաջորդ հարցն է: Կարծում եմ, որ այս պատմությունը հաղորդելու ընթացքում դու խոսեցիր Սեմի հետ տասնյակ անգամ: Կրկին, դա շատ խոսակցություններ է երկար ժամանակի ընթացքում: Ձեր կարծիքով Սեմը փոխվե՞ց վերջին մեկուկես տարվա ընթացքում հաշվետվության ընթացքում:
Այո՛։ Կարծում եմ, որ դրա ամենահետաքրքիր սյուժեներից մեկն այն է, որ Սեմ Ալթմանը նույնպես խոսում է այս հատկանիշի մասին ավելի բացահայտ, քան նախկինում: Սեմի կեցվածքն այս հատվածում նման չէ. «Այնտեղ ոչինչ չկա, սա ճիշտ չէ, ես չգիտեմ, թե ինչի մասին ես խոսում»: Նրա կեցվածքն այն է, որ նա ասում է, որ դա վերագրվում է մարդկանց հաճոյանալու միտումին և մի տեսակ կոնֆլիկտային հակակրանքին: Նա ընդունում է, որ դա խնդիրներ է առաջացրել իր համար, հատկապես իր կարիերայի սկզբում:
Նա ասում է. «Դե, ես անցնում եմ դրանից, կամ ինչ-որ չափով անցել եմ դրանից»: Կարծում եմ, որ ինձ համար իսկապես հետաքրքիրն այն մարդկանց կոնտինգենտն է, ում հետ մենք զրուցել ենք, ովքեր ոչ միայն անվտանգության ջատագովներ են եղել, ոչ միայն հիմքում ընկած տեխնիկական հետազոտողները, ովքեր հաճախ հակված են ունենալ անվտանգության այս սուր մտահոգությունները, այլ նաև պրագմատիկ, խոշոր ներդրողներ: Նրանք Սեմի աջակիցներն են, ովքեր որոշ դեպքերում նայում են այս հարցին և խոսում այն մասին, որ նույնիսկ առանցքային դեր են ունեցել կրակոցից հետո նրա վերադառնալու գործում: Հիմա այս հարցին, թե արդյոք նա բարեփոխվել է, և որքանո՞վ է այդ փոփոխությունը իմաստալից, նրանք ասում են.
Ես հատկապես մտածում եմ մի նշանավոր ներդրողի մասին, ով ասաց. «Բայց այդ ժամանակից ի վեր, պարզ է, որ նրան դուրս չեն բերել անտառի ետևում», սա այն արտահայտությունն էր, որն այս մեկը օգտագործում էր այնքանով, որքանով որ անհրաժեշտ էր: Արդյունքում, թվում է, թե սա այժմ կայուն հատկանիշ է: Մենք սա տեսնում ենք շարունակական կերպով: Դուք կարող եք դիտել OpenAI-ի ամենամեծ բիզնեսներից մի քանիսըհարաբերությունները և այն, թե ինչպես են դրանք կրում այդ անվստահության ծանրությունը շարունակական ձևով:
Ինչպես Microsoft-ի դեպքում, դուք այնտեղ խոսում եք ղեկավարների հետ, և նրանք իսկապես սուր և վերջերս առաջացրել են մտահոգություններ: Կա այս դեպքը, երբ նույն օրը OpenAI-ը վերահաստատում է իր բացառիկությունը Microsoft-ի հետ կապված հիմքում ընկած քաղաքացիություն չունեցող AI մոդելների հետ, նա նաև հայտարարում է նոր գործարք Amazon-ի հետ, որը կապված է AI գործակալների ստեղծման համար ձեռնարկությունների լուծումների վաճառքի հետ, որոնք պետական են, այսինքն՝ ունեն հիշողություն:
Դուք խոսում եք Microsoft-ի մարդկանց հետ, և նրանք ասում են. «Դա հնարավոր չէ անել առանց հիմքում ընկած նյութերի հետ շփվելու, որոնց շուրջ մենք բացառիկության պայմանագիր ունենք»: Այսպիսով, սա ընդամենը շատ փոքր օրինակներից մեկն է, երբ այս հատկանիշը մշտապես ձգվում է դեպի շարունակական բիզնես գործունեություն և ակտիվ մտահոգության առարկա է OpenAI-ի խորհրդի, նրա գործադիր փաթեթի և ավելի լայն տեխնոլոգիական համայնքում:
Դուք անընդհատ ասում եք այդ «հատկությունը»: Պատմության մեջ կա մի տող, որն ինձ թվում է թեզի նման, և դա քո նկարագրած հատկանիշի նկարագրությունն է: Սա այն է, որ «Սեմ Ալթմանը կաշկանդված չէ ճշմարտությունից» և որ նա ունի «երկու հատկանիշ, որոնք գրեթե երբեք չեն երևում միևնույն մարդու մեջ. առաջինը մարդկանց հաճոյանալու, ցանկացած փոխազդեցության մեջ դուր գալու ուժեղ ցանկությունն է, և երկրորդը՝ գրեթե սոցիոպաթիկ անհանգստությունը այն հետևանքների համար, որոնք կարող են առաջանալ ինչ-որ մեկին խաբելուց»:
Պետք է ասեմ ձեզ, որ ես կարդացել եմ այդ նախադասությունը 500 անգամ և փորձել եմ պատկերացնել, որ միշտ ասում եմ այն, ինչ ուզում են մարդկանց դուր գալ, իսկ հետո չհուզվել, երբ զգում են, որ ստում են: Եվ ես չկարողացա իմ էմոցիոնալ վիճակին հասկացնել, թե ինչպես կարող են այդ բաները լինել նույն մարդու մեջ։ Դուք շատ եք խոսել Սեմի հետ և զրուցել եք մարդկանց հետ, ովքեր զգացել են այս հատկությունները: Ինչպե՞ս է նա դա անում:
Այո՛։ Հետաքրքիր է մարդկային մակարդակով, քանի որ ես մոտենում եմ այսպիսի հաշվետվությունների մարմիններին՝ իրական կենտրոնանալով մարդկայնացնելու վրա, ով գտնվում է դրա հիմքում և փնտրելով խորը փոխըմբռնում և կարեկցանք: Երբ ես փորձեցի մոտենալ դրան ավելի մարդկային տեսանկյունից և ասել. «Հեյ, սա ինձ համար կործանարար կլիներ, եթե այդքան շատ մարդիկ, ում հետ ես աշխատել եմ, ասեին, որ ես պաթոլոգիական ստախոս եմ: Ինչպե՞ս եք կրում այդ քաշը: Ինչպե՞ս եք խոսում այդ մասին թերապիայի ժամանակ: Ո՞րն է այն պատմությունը, որը դուք պատմում եք դրա մասին»:
Ես ստացել եմ, իմ կարծիքով, միգուցե Արևմտյան ափի պարզաբանումներ այդ մասին, ինչպիսիք են՝ «Այո, ես սիրում եմ շնչառական աշխատանքը»: Բայց ոչ այնքան խորը ինքնառերեսման այնպիսի ուժեղ զգացում, որը ես կարծում եմ, որ մեզանից շատերը հավանաբար կունենային, եթե ականատես լինեին մեր վարքի և մարդկանց հանդեպ մեր վերաբերմունքի վերաբերյալ նման արձագանքների:
Կարծում եմ, որ դա իրականում վերաբերում է նաև հարցի ավելի լայն պատասխանին: Սեմը պնդում է, որ այս հատկանիշը խնդիրներ է առաջացրել, բայց նաև այն մի մասն է, ինչն իրեն հնարավորություն է տվել արագացնել OpenAI-ի աճն այնքան, որ նա կարողանա միավորել և գոհացնել մարդկանց տարբեր խմբերին: Նա անընդհատ համոզում է բոլոր այս հակամարտող ընտրազանգվածներին, որ այն, ինչի մասին հոգ է տանում, դա այն է, ինչ ինքն է մտածում: Եվ դա կարող է իսկապես օգտակար հմտություն լինել հիմնադիրի համար: Ես խոսել եմ ներդրողների հետ, ովքեր հետո ասում են. «Դե, միգուցե դա ավելի քիչ օգտակար հմտություն է իրականում ընկերություն ղեկավարելու համար, քանի որ այն շատ տարաձայնություններ է սերմանում»:
Բայց Սեմի անձնական կողմից, ես կարծում եմ, որ այն, ինչ ես վերաբերվում եմ, երբ փորձում եմ կապվել մարդկային մակարդակի վրա, ավելի խորը առճակատման, արտացոլման և ինքնահաշվետվության ակնհայտ բացակայությունն է, որը նաև տեղեկացնում է այդ գերտերությունը կամ պատասխանատվությունը IPO-ի պատրաստվող ընկերության համար:
Նա մեկն է, ով, Սյու Յուն անունով խորհրդի նախկին անդամներից մեկի խոսքերով, ով ձայնագրված է հոդվածում, ասելով, որ «անմիտ» արտահայտությունը նա օգտագործում է, կարող է իսկապես հավատալ իր վաճառքի կետերի փոփոխվող իրականությանը կամ կարողանում է համոզել իրեն դրանցում: Կամ գոնե, եթե նա չի հավատում դրանց, նա կարող է շփոթել դրանց միջով՝ առանց իմաստալից ինքնավստահության:
Կարծում եմ, որ այն, ինչի մասին դուք խոսում եք, որտեղ դուք կամ ես կարող ենք, երբ մենք ասում ենք այդ բանը և գիտակցում, որ դա հակասում է մեր տված մյուս հավաստիացմանը, մի տեսակ սառչելու կամ ինքներս մեզ ստուգելու պահ է սպասում: Կարծում եմ, որ դա նրա հետ չի լինում: Եվ կա ավելի լայն Սիլիկոնային հովտի հիպեր մշակույթ և հիմնադիր մշակույթ, որը նման է դրան:
Ծիծաղելի է։ The Verge-ը կառուցված է այն բանի վրա, թե ինչ է կազմում ապրանքի ակնարկներըծրագիրը։ Դա մեր արածի սիրտն է այստեղ: Ես տարեկան մեկ տրիլիոն դոլար եմ պահում Apple R&D-ում և ասում. «Այս հեռախոսը յոթն է»: Եվ դա մի տեսակ օրինականացնում է մեր բոլոր հաշվետվությունները և մեր կարծիքները այլուր: Մենք գնահատող գործառույթ ունենք, և մենք այդքան ժամանակ ենք ծախսում պարզապես նայելով արհեստական ինտելեկտի արտադրանքներին և ասելով. «Արդյո՞ք դրանք աշխատում են»:
Դա կարծես թե բացակայում է AI-ի մասին շատ խոսակցություններից, ինչպես դա այսօր է: Անվերջ խոսակցություն կա այն մասին, թե ինչ կարող է դա անել, որքան վտանգավոր կարող է լինել: Եվ հետո դուք խորամանկում եք, և ասում եք. «Արդյո՞ք այն իրականում անում է այն, ինչ պետք է անի այսօր»: Որոշ դեպքերում պատասխանը այո է: Բայց շատ ու շատ դեպքերում պատասխանը ոչ է:
Դա կարծես թե կապված է ձեր նկարագրած հիպ մշակույթի հետ, ինչպես նաև այն իմաստի հետ, որ, լավ, եթե ասում եք, որ ինչ-որ բան է անելու, և դա չի անում, և ինչ-որ մեկը վատ է զգում, դա լավ է, որովհետև մենք անցնում ենք հաջորդ բանին: Դա անցյալում է: Եվ հատկապես արհեստական ինտելեկտում Սեմն այնքան լավ է կարողանում մեծ խոստումներ տալ:
Հենց այս շաբաթ, կարծում եմ, նույն օրը, երբ հրապարակվեց ձեր պատմությունը, OpenAI-ը հրապարակեց քաղաքականության փաստաթուղթ, որտեղ ասվում էր, որ մենք պետք է վերանայենք սոցիալական պայմանագիրը և Կառավարության կողմից AI-ի արդյունավետության կրթաթոշակներ ստանան: Սա մեծ խոստում է այն մասին, թե ինչպես որոշ տեխնոլոգիաներ կարող են ձևավորել աշխարհի ապագան և ինչպես ենք մենք ապրում, և այդ ամենը հիմնված է տեխնոլոգիայի վրա, որն աշխատում է ճիշտ այնպես, ինչպես խոստացված է աշխատել կամ պետք է աշխատի:
Երբևէ տեսե՞լ եք, որ Սեմը կասկածում է, որ AI-ն վերածվում է AGI-ի կամ գերհետախուզության կամ հասնում է վերջնագծին: Որովհետև դա այն բանն է, որի վրա ես ամենաշատը զարմանում եմ: Արդյո՞ք որևէ արտացոլում կա այն մասին, թե արդյոք այս հիմնական տեխնոլոգիան կարող է անել այն ամենը, ինչ նրանք ասում են, որ կարող է անել:
Դա ճիշտ հարցերի փաթեթն է: Կան վստահելի տեխնոլոգներ, որոնց հետ մենք խոսեցինք այս զեկույցում, և ակնհայտ է, որ Սեմ Ալթմանը այդպիսին չէ. նա գործարար մարդ է, ով ասում է, թե ինչպես է Սեմը խոսում այս տեխնոլոգիայի ժամանակացույցի մասին, շատ հեռու է: Կան մի քանի տարի առաջ բլոգային գրառումներ, որտեղ Սեմն ասում է. «Մենք արդեն հասել ենք իրադարձությունների հորիզոնին: AGI-ն հիմնականում այստեղ է: Գերհետախուզությունը մոտ է: Մենք լինելու ենք այլ մոլորակներում: Մենք բուժելու ենք քաղցկեղի բոլոր ձևերը»: Իրոք, ես չեմ զարդարում:
Քաղցկեղը իրականում հետաքրքիր է, որ Սեմը հիացնում է այն մարդուն, ով տեսականորեն բուժել է իրենց շան քաղցկեղը ChatGPT-ով, և դա պարզապես տեղի չի ունեցել: Նրանք խոսեցին ChatGPT-ի հետ, և դա օգնեց նրանց ուղղորդել որոշ հետազոտողների, ովքեր իրականում կատարեցին աշխատանքը, բայց այս շանը բուժող մեկ առ մեկ այս գործիքը իրականում պատմությունը չէ:
Ուրախ եմ, որ դուք բարձրացրիք այդ կետը, քանի որ ես ուզում եմ անցնել այս ավելի մեծ կետին, երբ տեխնոլոգիայի և՛ ներուժը, և՛ ռիսկը իսկապես կվերածվեն: Բայց հարկ է նշել այս փոքրիկ կողմերը, որոնք անընդհատ տեղի են ունենում Սեմ Ալթմանից, որտեղ նա կարծես նորից մարմնավորում է այս հատկանիշը:
Ես նկատի ունեմ, որ օգտագործենք WilmerHale զեկույցի օրինակը, որտեղ մենք ունեինք այս տեղեկությունը, որը գրավոր չէր, և ուզում էինք իմանալ, թե ճանապարհին բանավոր ամփոփագիրը տրվել է որևէ մեկին, բացի խորհրդի երկու անդամներից, որոնց Սեմն օգնեց տեղադրել այն վերահսկելու համար: Եվ նա ասաց. «Այո, այո, ոչ, ես հավատում եմ, որ այն տրվել է բոլորին, ովքեր միացել են խորհրդի հետո»: Իսկ իրավիճակին անմիջականորեն տիրապետող մարդ ունենք, որ ասում է, որ դա ուղղակի սուտ է։ Եվ դա իսկապես այդպես է թվում, որ դա իրականությանը չի համապատասխանում: Եթե ուզում ենք առատաձեռն լինել, միգուցե նրան ապատեղեկացրել են։
Այս պատահական հավաստիացումները շատ են: Եվ ես օգտագործում եմ այդ օրինակը մասամբ, որովհետև դա, եկեք կոչենք, քանդելու հիանալի օրինակ է, որը կարող է իրավական հետևանքներ ունենալ: Ես կարիք չունեմ ձեզ ասելու, համաձայն Դելավերի կորպորատիվ օրենսդրության, եթե այս ընկերության IPO-ները, բաժնետերերը, համաձայն 220-րդ հոդվածի, կարող են բողոքել այս մասին և պահանջել հիմքում ընկած փաստաթղթերը: Արդեն կան խորհրդի անդամներ, որոնք ասում են՝ «Դե, մի րոպե, այդ ճեպազրույցը պետք է լիներ»:
Այսպիսով, այս բաները, որոնք թվում է, թե անընդհատ դուրս են թռչում նրա բերանից, դրանք կարող են ունենալ իրական շուկայական ազդեցություն, իրական ազդեցություն OpenAI-ի համար: Վերադարձնելով այն ուտոպիստական հիպ լեզվին, որը նորից հայտնվեց, կարծում եմ, պատահական չէ այն օրը, երբ լույս տեսավ այս կտորը, այն նաև ազդում է բոլորիս վրա, քանի որ վտանգները շատ սուր են դրա ձևի հետ կապված:Զենքի մեջ տեղակայվելը, քիմիական պատերազմի նյութերը բացահայտելու համար դրա կիրառման եղանակը, ապատեղեկատվության ներուժը և ուտոպիստական աղմուկի պատճառով շատ վստահելի տնտեսագետների դրդում են ասել. «Սա փուչիկի բոլոր նշաններն ունի»:
Նույնիսկ Սեմ Ալթմանը ասել է. «Այստեղ ինչ-որ մեկը շատ գումար կկորցնի»: Դա իսկապես կարող է մեծ խառնարան առաջացնել ամերիկյան և համաշխարհային տնտեսական աճի վրա, եթե նման լինի փուչիկի իրական ծակմանը, որը ներառում է այս բոլոր ընկերությունները միմյանց հետ գործարքներ կնքելով՝ ինտելեկտուալ արհեստական ինտելեկտի վրա, մինչդեռ այդքան մեծ պարտքեր են վերցնում: Այսպիսով, այն, ինչ ասում է Սեմ Ալթմանը, կարևոր է, և ես կարծում եմ, որ նրա շրջապատի մարդկանց գերակշռությունը, դուք նշեցիք, որ մենք զրուցել ենք ավելի քան հարյուրի հետ, իրականում դա հարյուրից ավելի էր: Մենք զրույց ունեցանք վերջնագծի մոտ, որտեղ ասվում էր. Եվ մենք ասում էինք. «Այո, եկեք նսեմացնենք: Մենք դա լավ կխաղանք»: Բայց այնքան շատ մարդիկ կային, և նրանց մեծամասնությունն ասում էր. «Սա մտահոգություն է»: Եվ ես կարծում եմ, որ դրա համար է:
Հարցնեմ այդ թվի մասին։ Ինչպես նշեցիք, ժամանակի ընթացքում մարդիկ ավելի ու ավելի էին բացվում մտահոգությունների հետ: Կարծես փուչիկի շուրջ ճնշումը` հաղթելու մրցավազքը, այս ամբողջ ներդրումները մարելու, հաղթող դուրս գալու, IPO-ի նկատմամբ, փոխել է շատ վերաբերմունք: Դա, անշուշտ, ավելի մեծ ճնշում գործադրեց Սեմի և OpenAI-ի վրա:
Այս շաբաթ մենք հրապարակեցինք մի պատմություն միայն OpenAI-ի տրամադրությունների մասին: Ձեր պատմությունը դրա մի մասն է, բայց OpenAI-ի գործադիր շարքերում կադրային զանգվածային փոփոխություններ՝ մարդիկ գալիս ու գնում են: Հետազոտողները բոլորը հեռանում են, հիմնականում դեպի Անթրոպիկ, ինչը, կարծում եմ, իսկապես հետաքրքիր է: Դուք պարզապես կարող եք տեսնել, որ այս ընկերությունը զգում է ճնշումը և ինչ-որ կերպ արձագանքում է այդ ճնշմանը:
Բայց հետո ես մտածում եմ, որ Սեմին հեռացնեն աշխատանքից: Սա ուղղակի հիշարժան է ինձ համար: Ուրիշ ոչ ոքի համար դա հիշարժան չէ, բայց ես ուրբաթ օրը, ժամը 19:00-ին, զանգահարեցի Բրոնքսի կենդանաբանական այգում, և ինչ-որ մեկն ասաց, որ իրենք կփորձեն վերադարձնել Սեմին: Եվ հետո մենք անցկացրեցինք հանգստյան օրերը՝ հետապնդելով այդ պատմությունը: Եվ ես հենց այնպես ասացի. «Ես կենդանաբանական այգում եմ: Ի՞նչ եք ուզում, որ ես այստեղ անեմ»: Եվ պատասխանն էր՝ «Մնա հեռախոսով»: Դե, աղջիկս ասաց. «Հեռացի՛ր հեռախոսից»։ Եվ դա այն է, ինչ ես արեցի:
Սեմին վերադարձնելու համար դա ձիավարություն կամ մահ էր: Այդ ընկերությունը նման էր «Ոչ, մենք թույլ չենք տա, որ խորհուրդը աշխատանքից ազատի Սեմ Ալթմանին»: Ներդրողները, նրանց մեջբերված են ձեր հոդվածում, «Մենք գնացինք պատերազմ», կարծում եմ Thrive Capital-ի դիրքորոշումն է՝ «Սեմին հետ վերադարձնելու համար»: Microsoft-ը պատերազմ սկսեց Սեմին վերադարձնելու համար: Դա ավելի ուշ է, և հիմա բոլորն ասում են. «Մենք գնում ենք IPO: Մենք հասանք վերջնագծին: Մենք վերադարձանք մեր տղային, և նա մեզ կհասցնի ավարտի գիծ: Մենք մտահոգված ենք, որ նա ստախոս է»:
Ինչու՞ պատերազմ էր նրան վերադարձնելու համար: Որովհետև թվում է, թե իրականում որևէ բան չի փոխվել: Դուք խոսում եք այն հուշագրերի մասին, որոնք Իլյա Սուցկվերը և [Anthropic-ի գործադիր տնօրեն] Դարիո Ամոդեյը պահել են, երբ նրանք Սեմ Ալթմանի ժամանակակիցներն էին: Իլյայի թիվ մեկ մտահոգությունն այն էր, որ Սեմը ստախոս է:
Դրանցից ոչ մեկը չի փոխվել։ Ուրեմն ինչու՞ պատերազմ էր նրան հետ բերելու համար: Եվ հիմա, երբ մենք վերջնագծին ենք, թվում է, թե բոլոր մտահոգությունները բաց են:
Դե, նախ և առաջ ներողություն եմ խնդրում ձեր աղջկան և իմ գործընկերոջը և լրագրողների շրջապատի մյուս բոլոր մարդկանց։
[Ծիծաղում է] Բոլորի համար բավականին հանգստյան օր էր:
Այո, այն տիրում է մարդու կյանքին, և այս պատմությունը հաստատ իմն է վերջին ժամանակահատվածում: Դա իրականում վերաբերում է լրագրության և տեղեկատվության հասանելիության այս թեմային, կարծում եմ: Ներդրողները, ովքեր պատերազմեցին Սեմի համար, և բոլորն էլ դեր խաղացին՝ համոզվելու, որ նա կվերադառնա, և խորհուրդը, որը հատուկ նախագծված էր պաշտպանելու ոչ առևտրային կազմակերպության առաքելությունը՝ անվտանգությունն աճի վրա դնելու և գործադիրին աշխատանքից հեռացնելու համար, եթե դա նրանց վստահել չկար, նրանք հեռացան: Դա այն պատճառով էր, որ, այո, շուկայական խթանները կային, չէ՞:
Սեմը կարողացավ մարդկանց համոզել. «Դե, ընկերությունը պարզապես քանդվելու է»: Բայց նրա աջակցության պատճառը տեղեկատվության պակասն էր։ Այդ ներդրողները, շատ դեպքերում, այժմ ասում են. «Ես հետ եմ նայում, և կարծում եմ, որ պետք է ավելի շատ մտահոգվեի, եթե ես լիովին իմանայի, թե որոնք են պահանջները և որոնք են մտահոգությունները»:
Ոչ բոլորը;կարծիքները տարբեր են, և մենք մեջբերում ենք մի շարք կարծիքներ, բայց կան կարևոր կարծիքներ, որոնք գործում էին շատ մասնակի տեղեկատվության հիման վրա: Տախտակը, որը հեռացրեց Սեմին, մի մարդու խոսքերով, ով նախկինում խաղատախտակի վրա էր, «շատ JV» էր, և նրանք կոշտ խփեցին գնդակը: Եվ մենք փաստագրում ենք հիմքում ընկած բողոքները, և մարդիկ կարող են իրենք որոշել, թե արդյոք այն կուտակվում է այնպիսի հրատապ մտահոգության մեջ, որը նրանք զգում էին, բայց այդ փաստարկը և այդ տեղեկատվությունը չներկայացվեցին:
Նրանք ստացել են այն, ինչ նրանցից ոմանք այժմ ընդունում են որպես վատ իրավաբանական խորհրդատվություն: Այն նկարագրելու համար դուք կհիշեք մեջբերումը, և հավանաբար ձեր ունկնդիրներից և դիտողներից շատերը կհիշեն մեջբերումը որպես անկեղծության պակաս: Դա այն էր, ինչին կրճատվեց, և հետո նրանք, ըստ էության, զանգեր չէին ընդունում:
Զանգեր չէին ընդունում։ Համոզված եմ, որ դուք փորձել եք: Բոլորը, ում ես ճանաչում եմ, փորձեցին, և բանը հասավ նրան, որ դուք, որպես լրագրող, չպետք է ձեր աղբյուրներին խորհուրդներ տաք, բայց ես ասացի. «Սա կվերանա, եթե չսկսես բացատրել քեզ»:
Եվ դա այն է, ինչ տեղի ունեցավ. Մոռացեք լրագրողներին. Սատյա Նադելլան ասում էր. «Ի՞նչ է պատահել, ես չեմ կարող ստիպել որևէ մեկին բացատրել ինձ»: Եվ դա ընկերության հիմնական ֆինանսական աջակիցն է: Եվ հետո Սատյան զանգահարում է [LinkedIn-ի համահիմնադիր] Ռիդ Հոֆմանին, իսկ Ռիդը զանգահարում է շուրջը և ասում. «Ես չգիտեմ, թե ինչ է պատահել»:
Նրանք հասկանալի է, որ տեղեկատվության այդ դատարկության մեջ են, փնտրում են ավանդական ոչ արհեստական ինդեքսներ, որոնք կհիմնավորեն նման հրատապ, հանկարծակի կրակոցը: Օրինակ, լավ, դա սեռական հանցագործությո՞ւն էր: Հափշտակություն էր. Եվ ամբողջ նուրբ, բայց իմ կարծիքով իմաստալից փաստարկը, որ այս տեխնոլոգիան տարբերվում է, և որ ավելի փոքր դավաճանությունների այս տեսակ կայուն կուտակումը կարող է նշանակալից խաղադրույքներ ունենալ և՛ այս բիզնեսի, և՛ գուցե աշխարհի համար, հիմնականում կորցրեց: Այսպիսով, կապիտալիստական խթանները հաղթեցին, բայց նաև այն մարդիկ, ովքեր դա ստեղծեցին, դուրս եկան և միշտ չէ, որ գործում էին ամբողջական տեղեկություններով:
Ես ուզում եմ ընդամենը մի պահ հարցնել «այն, ինչ բոլորը կարծում էին» ասպեկտի մասին, քանի որ ես, անշուշտ, տեսա այդ լուրը և ասացի. «Օ՜, ինչ-որ վատ բան պետք է պատահած լինի»: Դուք շատ #MeToo-ի հաղորդումներ եք արել, հայտնի է: Դուք կոտրեցիք Հարվի Վայնշտեյնի պատմությունը:
Դուք շատ ժամանակ ծախսեցիք՝ հաղորդելով այս պնդումների մասին, որոնք, կարծում եմ, որոշեցիք, որ ի վերջո անհիմն էին. որ Ալթմանը սեռական ոտնձգություններ է կատարել անչափահասների նկատմամբ կամ վարձել սեռական աշխատողների, կամ նույնիսկ սպանել OpenAI-ի ազդարարին: Ես նկատի ունեմ, որ դուք այն մարդն եք, ով կարող է ամենախիստ կերպով հաղորդել այս մասին: Դու որոշեցի՞ր, որ ոչինչ չի ստացվել։
Դե, տեսեք, ես այն գործով չեմ, որ ասեմ, որ ինչ-որ բան չի ստացվել: Այն, ինչ կարող եմ ասել, այն է, որ ես ամիսներ եմ անցկացրել՝ նայելով այս պնդումներին և չեմ գտել դրանց հաստատումը: Եվ ինձ համար զարմանալի էր, որ այս տղաները, այս ընկերությունները, որոնք այդքան մեծ իշխանություն ունեն մեր ապագայի վրա, իսկապես իրենց ժամանակի և ռեսուրսների անհամաչափ քանակն են ծախսում մանկական ցեխակռվի մեջ:
Գործադիրներից մեկն այն նկարագրում է որպես «շեքսպիրյան»։ Մասնավոր քննիչի գումարների և կազմվող ընդդիմադիր դոսյեների չափն անողոք է. Եվ դժբախտությունն այն է, որ այն ողորմելի բաները, որոնք թութակ են դառնում Սեմի մրցակիցների կողմից, պարզապես ենթադրյալ փաստ է, չէ՞: Կա այս պնդումը, որ նա հետապնդում է անչափահաս տղաներին, և Սիլիկոնյան հովտում շատ կոկտեյլների ժամանակ դուք լսում եք դա: Համաժողովի շրջագծում ես լսել եմ, որ դա պարզապես կրկնում են վստահելի, հայտնի ղեկավարները. «Բոլորը գիտեն, որ սա փաստ է»:
Ցավալին այն է, որ ես խոսում եմ այն մասին, թե որտեղից է սա գալիս, տարբեր վեկտորների, որոնց միջոցով այն փոխանցվում է: Իլոն Մասկը և նրա համախոհները, ըստ երևույթին, մղում են իսկապես կոշտ դոսյեներ, որոնք ոչնչի են հասնում: Նրանք գոլորշի են, երբ իրականում սկսում ես նայել հիմքում ընկած պահանջներին: Ցավալին այն է, որ այն իսկապես մթագնում է այստեղ ավելի շատ ապացույցների վրա հիմնված քննադատությունները, որոնք, կարծում եմ, իսկապես արժանի են հրատապ վերահսկողության և քննարկման:
Մյուս թեման, որն իսկապես հայտնվում է պատմության մեջ, գրեթե վախի զգացումն է, որ Սեմն այդքան շատ ընկերներ ունի. նա ներդրումներ է կատարել շատ ընկերություններում՝ Y Combinator-ի գործադիր տնօրենի նախկին պաշտոնից մինչև իր անձնական ներդրումները, որոնցից մի քանիսն ուղղակիորեն հակասում են OpenAI-ի գործադիր տնօրենի նրա դերին, և նրա շուրջը լռություն է:
Դա ինձ ցնցեց, երբ ես կարդում էի հատկապես մեկ տող: Դուք նկարագրում եք Իլյա Սուցկվերի հուշագրերը, և դրանք հենց նոր են հայտնվել Սիլիկոնյան հովտում: Բոլորընրանց անվանում է Իլյա հուշագրեր: Բայց դրա շուրջ նույնիսկ լռություն է. Դրանք փոխանցվել են, բայց դրանք չեն քննարկվում: Ինչ եք կարծում, որտեղի՞ց է դա գալիս: Դա վախ է՞ Արդյո՞ք դա հրեշտակի ներդրում ստանալու ցանկություն է: Որտեղի՞ց է դա գալիս:
Ես կարծում եմ, որ դա շատ վախկոտություն է, ես անկեղծ կլինեմ: Զեկուցելով ազգային անվտանգության պատմությունների մասին, որտեղ աղբյուրները ազդարարողներ են, որոնք կկորցնեն ամեն ինչ և կենթարկվեն քրեական հետապնդման, նրանք դեռ ճիշտ են անում և խոսում են այնպիսի բաների մասին, որոնք պետք է պատասխանատվություն ստանան: Ես աշխատել եմ ձեր նշած սեռական հանցագործությունների հետ կապված պատմությունների վրա, որտեղ աղբյուրները խորապես տրավմատացված են և վախենում են խիստ անձնական տեսակի հատուցումից:
Շատ դեպքերում այս հարվածի շուրջ դուք գործ ունեք իրենց սեփական պրոֆիլով և հզորությամբ մարդկանց հետ: Նրանք կամ իրենք հայտնի մարդիկ են, կամ շրջապատված են հայտնի մարդկանցով: Նրանք ունեն ամուր բիզնես կյանք: Իմ կարծիքով, իրականում նրանց համար շատ ցածր բացահայտում է այս նյութի մասին խոսելը: Եվ բարեբախտաբար, ասեղը շարժվում է այնպես, ինչպես նախկինում խոսեցինք, և մարդիկ այժմ ավելի շատ են խոսում:
Բայց այսքան երկար ժամանակ մարդիկ իսկապես լռում էին դրա մասին, քանի որ կարծում եմ, որ Սիլիկոնային հովտի մշակույթը շատ անխղճորեն շահագրգռված է և անխղճորեն ուղղված է բիզնեսին և աճին: Այսպիսով, ես կարծում եմ, որ սա տառապում է նույնիսկ որոշ մարդկանցից, ովքեր ներգրավված էին Սեմին աշխատանքից հեռացնելու մեջ, որտեղ դուք տեսաք օրեր անց, այո, մի գործոն, որը հանգեցրեց նրան, որ նա վերադառնա և հին խորհրդի անդամների հեռացումն այն էր, որ նա հավաքեց ներդրողներին, ովքեր շփոթված էին իր գործի հետ:
Բայց մեկ ուրիշն այն է, որ շրջապատի շատ այլ մարդիկ, ովքեր մտահոգություններ ունեին և շտապ բարձրաձայնում էին դրանք, պարզապես անձեռոցիկների պես ծալեցին և փոխեցին իրենց մեղեդին այն պահին, երբ տեսան, որ քամին փչում է հակառակ կողմը, և նրանք ուզում էին ներս մտնել շահույթի գնացքով:
Բավականին մութ է, անկեղծ ասած, իմ՝ որպես լրագրողի տեսանկյունից:
Այդ մարդկանցից ոմանք Միրա Մուրատին են, ով, կարծում եմ, 20 րոպե շարունակ OpenAI-ի նոր գործադիր տնօրենն էր: Այնուհետև նրան փոխարինեցին: Դա շատ բարդ դինամիկա էր, և ակնհայտորեն Սեմը վերադարձավ: Մյուս անձը Իլյա Սուցկվերն է, ով Սեմին հեռացնելու ձայներից մեկն էր, հետո մտափոխվեց, կամ գոնե ասաց, որ մտափոխվել է, իսկ հետո գնաց՝ սեփական ընկերությունը հիմնելու։ Գիտե՞ք, թե ինչն է ստիպել նրան փոխել իր միտքը։ Արդյո՞ք դա պարզապես փող էր:
Դե, և պարզ լինելու համար, ես չեմ առանձնացնում այդ երկուսը: Կրակոցների մեջ ներգրավված խորհրդի այլ անդամներ էլ կան, որոնք նույնպես շատ լռեցին։ Կարծում եմ, որ դա ավելի լայն կոլեկտիվ խնդիր է: Սրանք, որոշ դեպքերում, մարդիկ են, ովքեր բարոյական մանրաթել ունեին ահազանգեր հնչեցնելու և արմատական քայլեր ձեռնարկելու, և դա արժանի է գովասանքի: Եվ այսպես, դուք երաշխավորում եք պատասխանատվությունը: Դա կարող էր օգնել շատ մարդկանց, ովքեր ազդում են այս տեխնոլոգիայի վրա: Դա կարող էր օգնել արդյունաբերությանը մնալ ավելի բովանդակալից անվտանգության վրա կենտրոնացած:
Բայց գործ ունենալով ազդարարների և այն մարդկանց հետ, ովքեր փորձում են այդ պատասխանատվությունը շատ հուշել, դուք նաև տեսնում եք, որ անհրաժեշտ է այն առանձնացնելու և ձեր համոզմունքներին հավատարիմ մնալու մանրաթելը: Եվ այս արդյունաբերությունը իսկապես լի է մարդկանցով, ովքեր պարզապես չեն կանգնում իրենց համոզմունքների վրա:
Չնայած նրանք կարծում են, որ իրենք կառուցում են թվային Աստված, որն ինչ-որ կերպ կամ կվերացնի ամբողջ աշխատանքը, կամ ավելի շատ աշխատուժ կստեղծի, կամ ինչ-որ բան տեղի կունենա:
Դե, դա է բանը: Այսպիսով, ձեր համոզմունքներին և էթիկական բոլոր մտահոգություններին կողք չդնելու մշակույթը, երբ կա որևէ ջերմություն կամ որևէ բան, որը կարող է սպառնալ ձեր սեփական դիրքին բիզնեսում, գուցե որոշ չափով լավ և լավ է բիզնեսի սովորական ընկերությունների համար, որոնք ստեղծում են ցանկացած տեսակի վիջեթ:
Բայց սրանք նաև նույն մարդիկ են, ովքեր ասում են. «Սա կարող է բառացիորեն սպանել մեզ բոլորիս»: Եվ կրկին, դուք պետք չէ գնալ Terminator Skynet ծայրահեղության: Կա մի շարք ռիսկեր, որոնք արդեն իսկ իրականանում են։ Դա իրական է, և նրանք ճիշտ են զգուշացնում դրա մասին, բայց դուք պետք է մեկ ուրիշի բազկաթոռին հոգեբանություն տա, թե ինչպես կարող են այդ երկու բաները ապրել նույն մարդկանց մեջ, որտեղ նրանք շտապ զգուշացումներ են հնչեցնում, նրանք միգուցե մատը դնում են և փորձում ինչ-որ բան անել, իսկ հետո նրանք պարզապես ծալվում են և լռում:
Հենց դա է պատճառը, որ դուք կարող եք ունենալ այսպիսի դեպքեր, երբ իրերը դուրս են մնում գրությունից և գորգի տակ են մաքրվում, և ոչ ոք այդ մասին բացահայտորեն չի խոսում տարիներ անց:
Այստեղ բնական, պատասխանատու կողմը այս ընկերությունների գործադիր տնօրենները չէին լինի. դա կլիներ կառավարությունները: Միացյալ Նահանգներում, գուցեդա նահանգի կառավարություններն են, գուցե դաշնային կառավարությունն է:
Իհարկե, այս ընկերությունները բոլորն էլ ցանկանում են համաշխարհային լինել: Այստեղ կան բազմաթիվ գլոբալ հետևանքներ: Ես դիտեցի OpenAI-ը, Google-ը և Anthropic-ը, որոնք բոլորն էլ ստիպում էին Բայդենի վարչակազմին հրապարակել AI գործադիր հրամանը: Ի վերջո, դա բավականին անատամ էր: Պարզապես ասվում էր, որ նրանք պետք է խոսեին այն մասին, թե ինչի են ունակ իրենց մոդելները և թողարկեին անվտանգության որոշ փորձարկումներ: Եվ հետո նրանք բոլորն աջակցեցին Թրամփին, և Թրամփը ներս մտավ և ջնջեց այդ ամենը և ասաց.
Միևնույն ժամանակ, նրանք բոլորը փորձում են միջոցներ հայթայթել Մերձավոր Արևելքի երկրներից, որոնք ունեն շատ նավթային փողեր և ցանկանում են փոխել իրենց տնտեսությունները: Սրանք քաղաքական գործիչներ են։ Կարծում եմ, որ քաղաքական գործիչները պետք է անպայման հասկանան, որ ինչ-որ մեկը խոսում է իրենց բերանի երկու կողմերից, և նրանք շատ չեն տխրի, եթե ինչ-որ մեկը ի վերջո հիասթափվի, բայց քաղաքական գործիչները նույնպես զբոսանքի են ենթարկվում: Ինչու եք կարծում, որ այդպես է:
Սա իսկապես, կարծում եմ, թե ինչու է կտորը կարևոր իմ կարծիքով և ինչու արժե ծախսել այս ամբողջ ժամանակն ու մանրամասնությունը: Մենք այնպիսի միջավայրում ենք, որտեղ համակարգերը, որոնք, ինչպես դուք ասում եք, պետք է վերահսկողություն ապահովեն, պարզապես փչացել են: Սա հետքաղաքացիների Միացյալ Ամերիկան է, որտեղ փողի հոսքն այնքան անկաշկանդ է, և այդ խնդրի առանձնահատուկ կենտրոնացումն է արհեստական ինտելեկտի շուրջ, որտեղ կան այս PAC-ները, որոնք բազմապատկվում են և փող են լցնում՝ տապալելու իմաստալից կարգավորումները ինչպես նահանգային, այնպես էլ դաշնային մակարդակում:
Դուք ունեք [OpenAI-ի համահիմնադիր] Գրեգ Բրոքմանը՝ Սեմի երկրորդ հրամանատարը, որն ուղղակիորեն մեծապես նպաստում է դրանցից մի քանիսին: Դա հանգեցնում է մի իրավիճակի, երբ իսկապես կա օրենսդիրների և պոտենցիալ կարգավորողների գրավում, և դա դժվար պարույր է դուրս գալու համար: Ցավալին այն է, որ ես կարծում եմ, որ կան պարզ քաղաքական քայլեր, որոնցից մի քանիսը փորձարկվում են աշխարհի այլ վայրերում, որոնք կօգնեն լուծել այս հաշվետվողականության որոշ խնդիրներ:
Դուք կարող եք ունենալ ավելի շատ պարտադիր նախքան տեղակայման անվտանգության թեստավորում, ինչն արդեն տեղի է ունենում Եվրոպայում սահմանային մոդելների համար: Դուք կարող եք ունենալ ավելի խիստ գրավոր հանրային գրառումների պահանջներ ներքին հետաքննության այն տեսակների համար, որտեղ մենք տեսանք, որ այս դեպքում ինչ-որ բան չի գրավորվում: Դուք կարող եք ունենալ ազգային անվտանգության վերանայման մեխանիզմների ավելի ամուր շարք մերձավորարևելյան ենթակառուցվածքի այնպիսի հավակնությունների համար, որոնք առաջ էր քաշում Սեմ Ալթմանը:
Ինչպես դուք ասում եք, նա անում էր այս խայծը և փոխակերպվում Բայդենի վարչակազմի հետ՝ ասելով. «Կարգավորե՛ք մեզ, կարգավորե՛ք մեզ», և նրանց օգնում էր գործադիր հրաման ստեղծել, և այն պահին, երբ Թրամփը ներս մտնի, իսկապես առաջին օրերին, պարզապես արգելքներ չդնելով, «Արագացնենք և եկեք կառուցենք հսկայական տվյալների կենտրոն Աբու Դաբիում»: Դուք կարող եք ունենալ, սա իսկապես պարզ է, ինչպես ազդարարների պաշտպանությունը: Չկա դաշնային օրենսդրություն, որը պաշտպանում է AI ընկերության աշխատակիցներին, ովքեր բացահայտում են անվտանգության այս տեսակի մտահոգությունները, որոնք ցուցադրվում են այս հոդվածում:
Մենք ունենք դեպքեր, երբ Յան Լեյկը, ով OpenAI-ի անվտանգության աշխատակից էր, ղեկավարում էր ընկերությունում գերադասելիությունը: Նա գրում է խորհրդի, ըստ էության, ազդարարող նյութ, ասելով, որ ընկերությունը դուրս է գալիս ռելսերից իր անվտանգության առաքելության համար: Սրանք այն մարդիկ են, ովքեր իրականում պետք է ունենան վերահսկող մարմին, որտեղ նրանք կարող են գնալ, և նրանք պետք է ունենան բացահայտ կանոնադրական պաշտպանություն, ինչպիսին մենք տեսնում ենք այլ ոլորտներում: Սա պարզ է Սարբանես-Օքսլիի ոճի ռեժիմը կրկնելու համար:
Կարծում եմ, որ չնայած Սիլիկոնյան հովտի խնդրին, որը վերահսկում է իշխանության բոլոր լծակները, և չնայած այն հաստատություններին, որոնք կարող են վերահսկել և պաշտպանել, ես դեռ հավատում եմ ժողովրդավարության հիմնական մաթեմատիկականին և շահագրգիռ քաղաքական գործիչներին: Եվ ավելի ու ավելի շատ հարցումների տվյալներ են ի հայտ գալիս, որ ամերիկացիների մեծամասնությունը կարծում է, որ AI-ի մտահոգությունները, հարցերը կամ ռիսկերը ներկայումս գերակշռում են օգուտներից:
Այսպիսով, ես կարծում եմ, որ փողի հոսքը դեպի քաղաքականություն արհեստական ինտելեկտից, մեր ողջ ուժերի սահմաններում է դա քաղաքական գործիչների համար հարցականի աղբյուր դարձնելը: Երբ ամերիկացիները գնում են քվեարկության, նրանք պետք է մանրակրկիտ ստուգեն, թե արդյոք այն մարդիկ, ում օգտին քվեարկում են, հատկապես, եթե նրանք քննադատական չեն և հակականոնակարգային են, հաշվի առնելով այս բոլոր մտահոգությունները, ֆինանսավորվում են տեխնոլոգիական հատուկ շահերի կողմից: Այսպիսով, ես կարծում եմ, որ եթե մարդիկ կարող են կարդալ նման կտորներ, լսել նման փոդքասթներ և բավականաչափ հոգ տանել քննադատաբար մտածելու մասիննրանց որոշումները որպես ընտրողներ, իսկական հնարավորություն կա Վաշինգտոնում ընտրատարածք ստեղծելու ներկայացուցիչներից, ովքեր հետևում են և ստիպում վերահսկողություն իրականացնել:
Դա կարող է լինել ամենալավատեսական բաներից մեկը, որ ես երբևէ լսել եմ, որ որևէ մեկը ասում է ընթացիկ AI արդյունաբերության մասին: Ես գնահատում եմ դա։ Ես տարված եմ այն հարցումով, որի մասին դուք խոսում եք: Հիմա շատ կա: Այս ամենը բավականին հետևողական է, և թվում է, թե որքան շատ երիտասարդներ, մասնավորապես, ենթարկվում են արհեստական ինտելեկտին, այնքան ավելի անվստահ ու զայրացած են նրանք դրանով: Դա բոլոր հարցումների վալենտությունն է: Եվ ես նայում եմ դրան, և կարծում եմ, լավ, այո, խելացի քաղաքական գործիչները պարզապես կհակառակվեն դրան: Նրանք պարզապես կասեին. «Մենք պատասխանատվության կենթարկենք խոշոր տեխնոլոգիաներին»:
Հետո ես մտածում եմ անցած 20 տարիների մասին, մի քաղաքական գործիչ ասում է, որ իրենք պատասխանատվության են ենթարկելու մեծ տեխնոլոգիաներին, և ես պայքարում եմ գտնելու թեկուզ մի պահ, երբ մեծ տեխնոլոգիաները պատասխանատվության ենթարկվեն: Միակ բանը, որ ստիպում է ինձ մտածել, որ սա կարող է տարբեր լինել, այն է, որ դուք իրականում պետք է կառուցեք տվյալների կենտրոնները, և դուք կարող եք դեմ քվեարկել դրան, և կարող եք միջնորդել դրա դեմ, և դուք կարող եք բողոքել դրա դեմ:
Կարծում եմ, որ կա մի քաղաքական գործիչ, ում հենց նոր կրակեցին իրենց տան վրա, քանի որ նրանք քվեարկեցին տվյալների կենտրոնի օգտին: Լարվածությունը հասնում է, ես դա կանվանեի՝ տենդի բարձրության։ Դուք նկարագրել եք Սիլիկոնային հովտի կղզիությունը: Սա փակ էկոհամակարգ է։ Այնպիսի տպավորություն է, որ նրանք կարծում են, որ կարող են ղեկավարել աշխարհը: Նրանք հսկայական գումարներ են ներդնում քաղաքականության մեջ և հակադրվում են այն իրականությանը, որ մարդիկ չեն սիրում ապրանքները, ինչը նրանց մեծ ծածկույթ չի տալիս: Որքան շատ են նրանք օգտագործում ապրանքները, այնքան ավելի են տխրում, և քաղաքական գործիչները սկսում են տեսնել, որ տեխնոլոգիական արդյունաբերությանն աջակցելու իրական հետևանքներն այն մարդկանց վրա են, որոնք իրենք ներկայացնում են:
Դուք շատ մարդկանց հետ եք խոսել: Ի՞նչ եք կարծում, հնարավո՞ր է, որ տեխնոլոգիական արդյունաբերությունը քաղի այն դասը, որն իրենց առջև է:
Դուք ասում եք, որ թվում է, թե նրանք կարծում են, որ կարող են կառավարել աշխարհը առանց պատասխանատվության: Ես նույնիսկ չեմ կարծում, որ դրան պետք է «զգում եմ» որակավորումը: Ես նկատի ունեմ, որ դուք նայում եք այն լեզվին, որն օգտագործում է Փիթեր Թիելը, դա բացահայտ է: Իհարկե, դա ծայրահեղ օրինակ է. Եվ Սեմ Ալթմանը, թեև նա որոշ չափով մտերիմ է և տեղեկացված Թիելի գաղափարախոսությունից, բայց շատ տարբեր տեսակի մարդ է, որը կարող է հնչել տարբեր և ավելի չափված մինչև որոշակի կետ:
Բայց ես կարծում եմ, որ ավելի լայն գաղափարախոսություն, որը դուք ստանում եք Թիելից, որը հիմնականում հետևյալն է. Մենք այնքան շատ բան ունենք, որ մենք պարզապես ցանկանում ենք կառուցել մեր փոքրիկ բունկերը: Մենք այլևս գործ չունենք Քարնեգիների կամ Ռոքֆելլերների հետ, որտեղ նրանք վատ տղաներ են, բայց նրանք զգում են, որ պետք է մասնակցեն սոցիալական պայմանագրին և մարդկանց համար բաներ կառուցեն: Կա իրական նիհիլիզմ, որը դրված է.
Եվ ես իսկապես կարծում եմ, որ դա պարզապես փոխադարձ ամրացնող պարույր է ամերիկյան մագնատների և մասնավոր ընկերությունների վերջին պատմության մեջ, որոնք ձեռք են բերում գերկառավարական իշխանություն, մինչդեռ դեմոկրատական ինստիտուտները, որոնք կարող են նրանց պատասխանատվության ենթարկել, դատարկվում են: Ես լավատես չեմ այն մտքի առնչությամբ, որ այդ տղաները կարող են պարզապես մի օր արթնանալ և մտածել.
Ես նկատի ունեմ, որ դուք նման եք The Giving Pledge-ի միկրոտիեզերական օրինակին, որտեղ կար մի պահ, երբ թվում էր, թե դա բարեգործություն էր, և այդ պահն այժմ անցյալ է և նույնիսկ ծաղրված: Դա խնդիր է, հաշվետվողականության պակասի ավելի լայն խնդիրը, որը, կարծում եմ, կարող է լուծվել միայն արտաքին ճանապարհով։ Դա պետք է լինի ընտրողները, որոնք մոբիլիզացնեն և վերակենդանացնեն կառավարության վերահսկողության ուժը: Եվ դուք ճիշտ եք ասում, որ հիմնական վեկտորը, որի միջոցով մարդիկ կարող են հասնել դրան, տեղական է: Դա կապված է այն բանի հետ, թե որտեղ են կառուցվում ենթակառուցվածքները:
Դուք նշեցիք դրա շուրջ տիրող լարվածության մի մասը, որը հանգեցնում է բռնության և սպառնալիքների, և ակնհայտ է, որ ոչ ոք չպետք է բռնի կամ սպառնա: Եվ ես նաև այստեղ չեմ, որպեսզի կոնկրետ քաղաքականության առաջարկություններ անեմ, քան պարզապես ներկայացնելու քաղաքականության որոշ քայլեր, որոնք թվում են հիմնական և գործում են աշխարհի այլուր, այնպես չէ՞: Կամ նրանք, ովքեր աշխատել են այլ ոլորտներում։ Ես այստեղ չեմ, որպեսզի ասեմ, թե դրանցից որն ու ինչպես պետք է մահապատժի ենթարկվի։
Կարծում եմ, որ ինչ-որ բան պետք է տեղի ունենա, և դա պետք է լինի արտաքին, ոչ միայն վստահել այս ընկերություններին: Որովհետև ճիշտ էԱյժմ մենք ունենք մի իրավիճակ, երբ այն ընկերությունները, որոնք զարգացնում են տեխնոլոգիաները և ամենալավն են պատրաստվել ռիսկերը հասկանալու համար, և իրականում մեզ զգուշացնում են ռիսկերի մասին, նրանք նույնպես չունեն ոչ այլ ինչ, քան խթան՝ արագ գնալ և անտեսել այդ ռիսկերը: Եվ դուք պարզապես ոչինչ չունեք դրան հակակշռելու համար: Այսպիսով, ինչ բարեփոխումներ կարող են պահանջվել կոնկրետության առումով, ինչ-որ բան պետք է հակադրվի դրան: Եվ ես դեռ վերադառնում եմ այն լավատեսությանը, որ ժողովուրդը դեռ կարևոր է:
Ես ընդհանրապես գնում եմ ձեր փաստարկը: Թույլ տվեք միայն մի փոքր հակափաստարկը, որը, կարծում եմ, կարող եմ արտահայտել: Մյուս բանը, որ կարող է պատահել քվեատուփից դուրս, այն է, որ պղպջակը հայտնվի, չէ՞: Որ այս ոչ բոլոր ընկերություններն են հասնում ավարտի գծին, և որ ապրանքային շուկան հարմար չէ սպառողների AI հավելվածների համար: Եվ կրկին, ես դա դեռ այնքան էլ չեմ տեսնում, բայց ես սպառողական տեխնոլոգիաների վերանայող եմ, և գուցե ես պարզապես ավելի բարձր չափանիշներ ունեմ, քան բոլորը:
Գործարար աշխարհում կա ապրանքային շուկայի համապատասխանություն, չէ՞: Արհեստական ինտելեկտի մի խումբ գործակալների մի խումբ ծրագրակազմ գրելը, թվում է, իրական շուկա է այս գործիքների համար: Եվ դուք կարող եք կարդալ այս ընկերությունների փաստարկները, որոնք ասում են. «Մենք լուծել ենք կոդավորումը, և դա նշանակում է, որ մենք կարող ենք լուծել ամեն ինչ: Եթե մենք կարողանանք ծրագրակազմ ստեղծել, մենք կարող ենք լուծել ցանկացած խնդիր»:
Կարծում եմ, որ իրական սահմաններ կան այն բաների համար, որոնք ծրագրաշարը կարող է անել: Դա հիանալի է բիզնեսի աշխարհում: Ծրագրային ապահովումը չի կարող իրականում լուծել բոլոր խնդիրներ, բայց նրանք պետք է հասնեն դրան: Նրանք պետք է ավարտեն գործը, և գուցե ոչ բոլորն են հասնում ավարտի գիծ: Եվ կա վթար, և այս պղպջակը բացվում է, և միգուցե OpenAI-ն կամ Anthropic-ը կամ xAI-ն, այս ընկերություններից մեկը ձախողվում է, և այս ամբողջ ներդրումը անհետանում է:
Ի՞նչ եք կարծում, դա կազդի՞ սրա վրա: Իրականում առաջին հարցը տամ. OpenAI-ը գտնվում է IPO-ի շեմին: Շատ կասկածներ կան Սեմի՝ որպես առաջնորդի մասին: Ի՞նչ եք կարծում, նրանք կհասնե՞ն ավարտի գիծ:
Ես չեմ պատրաստվում կանխատեսումներ անել, բայց կարծում եմ, որ դուք բարձրացնում եք մի կարևոր կետ, այն է, որ շուկայական խթանները ներքին նշանակություն ունեն Սիլիկոնային հովտի համար, և փուչիկների ներկայիս դինամիկայի անկայունությունը կարող է ընդհատել, կրկին, պոտենցիալ, ըստ քննադատների, անվտանգության համար ամենավերջին մրցավազքը:
Ես նաև կավելացնեմ դրան, եթե նայեք պատմական գերակայությանը, որտեղ կա շուկայական խթանների և հանրության համար պոտենցիալ վնասակար հետևանքների նմանատիպ և անթափանց թվացող մի շարք, կան դատական գործընթացների ազդեցություն: Եվ դուք վերջին շրջանում դա տեսնում եք որպես մտահոգության առարկա: Սեմ Ալթմանը դուրս է եկել այս շաբաթ՝ հաստատելով օրենսդրությունը, որը կպաշտպանի AI ընկերություններին պատասխանատվության որոշ տեսակներից, որոնց վրա, օրինակ, OpenAI-ն ենթարկվել է անօրինական մահվան հայցերի: Իհարկե, ցանկություն կա այդ վահանն ունենալ պատասխանատվությունից:
Կարծում եմ, որ դատարանները դեռևս կարող են իմաստալից մեխանիզմ լինել, և իսկապես հետաքրքիր կլինի տեսնել, թե ինչպես են ձևավորվում այս հայցերը: Դուք արդեն տեսել եք, օրինակ, կոլեկտիվ հայցը, որի անդամ ենք ես և շատ ու շատ այլ հեղինակներ, որոնց ես ճանաչում եմ, ընդդեմ Anthropic-ի՝ հեղինակային իրավունքի տակ գտնվող գրքերի օգտագործման համար: Եթե կան խելացի իրավաբաններ և հայցվորներ, ովքեր հոգ են տանում, ինչպես մենք պատմականորեն տեսել ենք մեծ ծխախոտից մինչև մեծ էներգիա գործերում, դուք կարող եք նաև ձեռք բերել որոշ պաշտպանական բազրիքներ և որոշակի խթաններ՝ դանդաղեցնելու, զգույշ լինելու կամ մարդկանց այդ կերպ պաշտպանելու համար:
Կարծես AI արդյունաբերության ծախսերի ամբողջ կառուցվածքը կախված է արդար օգտագործման շատ, շատ բարեգործական մեկնաբանությունից: Բավականաչափ չի առաջանում: Այս ընկերությունների ծախսերի կառուցվածքը կարող է դուրս գալ վերահսկողությունից, եթե նրանք ստիպված լինեն վճարել ձեզ և բոլորին, ում աշխատանքը նրանք վերցրել են, բայց անհարմար է մտածել, այնպես որ մենք պարզապես չենք մտածում դրա մասին: Հենց դրա կողքին, այս բոլոր ապրանքներն այժմ աշխատում են վնասով: Ինչպես այսօր, նրանք բոլորն էլ վնասով են վազում: Նրանք ավելի շատ գումար են այրում, քան կարող են աշխատել: Ինչ-որ պահի նրանք պետք է շրջեն անջատիչը:
Սեմը գործարար է։ Ինչպես դուք մի քանի անգամ նշել եք, նա տեխնոլոգ չէ: Նա գործարար մարդ է: Ի՞նչ եք կարծում, նա պատրա՞ստ է շրջել անջատիչը և ասել՝ «մենք դոլար ենք վաստակելու»: Որովհետև երբ ես հարցնում եմ. «Դուք կարծում եք, որ OpenAI-ը կհաջողվի՞»: Դա այն ժամանակ է, երբ նրանք պետք է դոլար վաստակեն: Եվ մինչ այժմ Սեմը վաստակել է իր բոլոր դոլարները՝ խնդրելով այլ մարդկանց իրենց գումարը, այլ ոչ թե իր ընկերությունները գումար վաստակեն:
Դե, դա մեծ երկարաժամկետ հարց է Սիլիկոնային հովտի, ներդրողների և հանրության համար:Դուք տեսնում եք որոշ հայտարարություններ և շարժումներ OpenAI-ից, որոնք կարծես թե ինչ-որ խուճապ են առաջացնում դրա վերաբերյալ: Sora-ն անջատելը, որոշ օժանդակ նախագծերի փակումը, հիմնական արտադրանքը զրոյացնելու փորձ: Բայց հետո, մյուս կողմից, դուք դեռ տեսնում եք, միևնույն ժամանակ, տոննաներով առաքելություններ սողում են, չէ՞: Նույնիսկ փոքր օրինակը, որն ակնհայտորեն իրենց բիզնեսի համար առանցքային չէ, TBPN-ի ձեռքբերումն է:
Ի դեպ, հենց այն պահին, երբ մենք հասնում էինք վերջնագծին և փաստերի ստուգմանը, նման լրագրողական ստուգման ենթարկվող ընկերությունը ձեռք է բերում հարթակ, որտեղ նրանք կարող են ավելի անմիջական վերահսկողություն ունենալ զրույցի վրա: Կարծում եմ, որ կան շատ ներդրողներ, ովքեր մտահոգված են, հիմնվելով իմ ունեցած խոսակցությունների վրա, որ բոլոր մարդկանց խոստանալու այս խնդիրը տարածվում է նաև հիմնական բիզնես մոդելի կենտրոնացման բացակայության վրա: Եվ ես նկատի ունեմ, որ դուք ավելի մոտ եք շուկան կանխատեսելու և հետևելու այն տեսակին, քան ես, հավանաբար: Ես ձեզ և ունկնդիրներին կթողնեմ դատավորը, թե արդյոք նրանք կարծում են, որ OpenAI-ը կարող է շրջել անջատիչը:
Դե, ես հարցը տվեցի, քանի որ դուք մեջբերում եք ստացել Microsoft-ի բարձրաստիճան ղեկավարից, և դա այն է, որ «Սեմի ժառանգությունը կարող է ավելի շատ նմանվել Բեռնի Մեդոֆին կամ Սեմ Բենքմեն-Ֆրիդին», քան Սթիվ Ջոբսին: Դա բավականին համեմատություն է։ Ի՞նչ կասեք այդ համեմատությունից:
Կարծում եմ, որ դա պարաֆրազ է: Սթիվ Ջոբսի հատվածը մեջբերումների մաս չէր: Բայց դրա մեջ կա մի հետաքրքիր սթափություն, քանի որ այն ձևակերպված է այսպես. «Կարծում եմ, որ փոքր, բայց իրական հնարավորություն կա, որ նա դառնա SBF կամ Մեդոֆի մակարդակի խաբեբա»: Դա նշանակում է, որ, իմ կարծիքով, ոչ թե այն, որ Սեմին մեղադրում են խարդախության կամ հանցագործության հատուկ տեսակների մեջ, այլ այն, որ Սեմի կողմից ապօրինի հանելու և խաբեության աստիճանը կարող է ի վերջո հիշվելու այդ մասշտաբով:
Այո, ես կարծում եմ, որ ամենաուշագրավն այդ մեջբերումում, ազնվորեն, այն է, որ դուք զանգում եք Microsoft-ում և չեք ստանում նմանակում՝ «Դա խենթություն է: Մենք երբեք դա չենք լսել»: Դուք ստանում եք «Այո, այստեղ շատ մարդիկ այդպես են մտածում», ինչը ուշագրավ է: Եվ ես կարծում եմ, որ դա վերաբերում է այս բիզնես հարցերին:
Մի ներդրող ինձ ասաց, օրինակ, այն բանի լույսի ներքո, որով այս հատկանիշը պահպանվել է կրակոցից հետո» — և սա նաև մտածեց, որ սա հետաքրքիր սթափ միտք էր, որ պարտադիր չէ, որ Սեմը լինի ցուցակի բացարձակ վերջին հորիզոնականում, ինչպես պետք է լինի ամենացածրը այն մարդկանց առումով, ովքեր բացարձակապես չպետք է կառուցեն այս տեխնոլոգիան, բայց մի քանի մարդ, ով ասաց, որ դա արժե: նրան դնում է միգուցե այն մարդկանց ցանկի ամենավերջում, ովքեր պետք է կառուցեն AGI-ն, և այս ոլորտում մի քանի այլ առաջատար դեմքերից ցածր:
Այսպիսով, ես մտածեցի, որ դա հետաքրքիր գնահատական էր, և դա այն մտածողության տեսակն է, որը ես կարծում եմ, որ դուք ստանում եք իրական պրագմատիկներից, ովքեր, հնարավոր է, այդքան էլ չեն գնում անվտանգության խնդիրները: Նրանք պարզապես ուղղված են աճին, և նրանք կարծում են, որ OpenAI-ն այժմ խնդիր ունի Սեմ Ալթմանի հետ:
Microsoft-ի նյութն իսկապես հետաքրքիր է: Այդ ընկերությունը կարծում էր, որ նրանք աշխարհի գագաթին են: Որ նրանք կատարել էին այս ներդրումը, և նրանք պատրաստվում էին ցատկել բոլորին, հատկապես և ամենակարևորը, Google-ին, և վերադառնալ սպառողների բարի շնորհներին: Այն մակարդակը, որին նրանք այրված են զգում այս արկածից, - սա շատ սթափ կառավարվող ընկերություն է, - չեմ կարծում, որ կարելի է գերագնահատել:
Դուք նշեցիք կերպարներն ու բնավորության գծերը։ Այստեղ ուզում եմ ավարտել մեր ունկնդիրների հարցով. Մեր մյուս շոուում՝ The Vergecast-ում, ես ասացի, որ պատրաստվում եմ խոսել ձեզ հետ, և ասացի. «Եթե հարցեր ունեք Ռոնանի հետ այս պատմության վերաբերյալ, տեղեկացրեք ինձ»: Այսպիսով, մենք այստեղ ունենք մեկը, որը, կարծում եմ, կոկիկորեն կապված է ձեր նկարագրածի հետ: Ես պարզապես պատրաստվում եմ կարդալ այն ձեզ համար.
«Ինչո՞վ են Ալթմանի և այլ արհեստական ինտելեկտի այլ ղեկավարների վատ պահվածքի, դաժան գործողությունների հիմնավորումները տարբերվում այն հիմնավորումներից, որոնք Ռոնանը լսել է քաղաքականության և լրատվամիջոցների այլ բարձրաստիճան ղեկավարներից: Մի՞թե նրանք բոլորը չեն արդարացնում իրենց գործողությունները՝ ասելով, թե այսպես է փոխվում աշխարհը: Եթե ես չանեմ սա, ուրիշը կանի՞»:
Այո, դրա շուրջ շատ բան կա: Ես կասեի, որ արհեստական ինտելեկտի առանձնահատկությունն այն է, որ էքզիստենցիալ խաղադրույքները այդքան եզակի բարձր լինելը նշանակում է, որ ռիսկի երկու հայտարարություններն էլ ծայրահեղ են, չէ՞: Դուք ունեք Սեմ Ալթմանասելով. «Սա կարող է լույսեր մարել բոլորիս համար»: Եվ նաև, քննադատները կարող են ասել, որ մոլուցքը, որին ակնարկում է հարց տվողը, ծայրահեղ է, չէ՞:
Այն, ինչի համար Սեմը մեղադրում էր Իլոնին ձայնագրության մեջ, այն էր, որ գուցե նա ցանկանում է փրկել մարդկությանը, բայց միայն այն դեպքում, եթե դա նա է: Հաղթելու ցանկության էգոյի բաղադրիչը, որը Սեմը մշտապես օգտագործում է շրջանակում, և որ սա պատմության գրքերի համար է, սա կարող է փոխել ամեն ինչ: Այսպիսով, Սիլիկոնային հովտի ձեռնարկությունների մեծ մասի «դուք պետք է մի քանի ձու կոտրեք» մտածելակերպից վեր և այն կողմ, AI-ի առաջատար որոշ գործիչների մտքում, կարծում եմ, կա ամբողջական ռացիոնալացում ցանկացած և բոլոր հետևանքների համար:
Եվ մոռացեք կոտրել ձվերը: Կարծում եմ, որ անվտանգության հիմքում ընկած շատ հետազոտողներ կասեին, որ հնարավոր է վտանգի ենթարկել երկիրը, կոտրել աշխարհը և կոտրել միլիոնավոր մարդկանց, ում աշխատանքն ու անվտանգությունը կախված են հավասարակշռությունից, դա այն է, ինչ յուրահատուկ է դրանում: Այստեղ ես փակում եմ՝ անդրադառնալով զեկույցների այս մարմնին, իսկապես հավատալով, որ սա ավելին է, քան Սեմ Ալթմանը: Սա մի արդյունաբերության մասին է, որն անկաշկանդ է, և Ամերիկայի սրընթաց խնդիրն է, որ չկարողանա սահմանափակել այն:
Այո՛։ Դե, մենք որոշակի լավատեսություն ունեինք այնտեղ, բայց ես կարծում եմ, որ դա լավ տեղ է դա թողնելու համար:
[Ծիծաղում է] Ավարտեք անկումով:
Իհարկե։ Դա, իրոք, յուրաքանչյուր հիանալի պատմություն է: Մասկ-Ալթմանի դատավարությունն առաջիկայում է։ Կարծում եմ, որ մենք այստեղ շատ ավելին ենք սովորելու: Ես կասկածում եմ, որ կցանկանամ նորից խոսել ձեզ հետ: Ռոնան Ֆերոու, շատ շնորհակալություն Decoder-ում գտնվելու համար:
Շնորհակալություն։
Հարցեր կամ մեկնաբանություններ այս դրվագի վերաբերյալ: Հպեք մեզ [email protected] հասցեով: Մենք իսկապես կարդում ենք յուրաքանչյուր նամակ:
