Бүгүн Декодерде мен бүгүн иштеп жаткан тергөө репортажынын эң чоң жылдыздарынын бири Ронан Фарроу менен сүйлөшүп жатам. Ал көптөгөн башкалардын арасында Харви Вайнштейндин окуясын талкалады. Өткөн жумада ал жана биргелешип автору Эндрю Маранц The New Yorker журналына OpenAIнин башкы директору Сэм Алтман, анын ишенимдүүлүгү жана OpenAIдин өсүшү жөнүндө укмуштуудай терең ойлорду жарыялашты.
Мындан ары бул жерге барардын алдында бир эскертүү — The New Yorker бул окуяны жарыялады жана Ронан экөөбүз Альтмандын үйүнө кол салуулардын көлөмүн толук билгенге чейин сүйлөшкөнбүз, андыктан бул тууралуу түз сөзүбүздү укпайсыз. Бирок, менимче, зомбулуктун ар кандай түрүн кабыл алууга болбойт, Сэмге жасалган бул кол салуулар кабыл алынгыс жана мындай зомбулукка алып келген адамдар сезип жаткан алсыздыктын өзү кабыл алынгыс жана бул тармактын да, биздин саясий лидерлердин дагы бир топ текшерүүсүнө арзыйт. Мен бул түшүнүктүү деп үмүттөнөм.
Verge жазылуучулары, подкасттарыңызды кайдан алсаңыз дагы, жарнамасыз декодерге эксклюзивдүү мүмкүнчүлүк ала турганыңызды унутпаңыз. Бул жакка барыңыз. Абонент эмеспи? Бул жерден катталсаңыз болот.
Мунун баары, Алтмандын айланасында көп нерсе бар, бул катаал отчеттуулук үчүн адилет оюн - Ронан менен Эндрю жасай турган отчеттун түрү. ChatGPT популярдуулугунун аркасында Альтман AI индустриясынын эң көрүнүктүү жетекчиси болуп чыкты, бир кездеги коммерциялык эмес изилдөө лабораториясын бир нече жылдын ичинде дээрлик триллион долларлык жеке компанияга айландырды. Бирок Альтмандын мифи терең карама-каршы келет, анын ачык келишим түзүү жөндөмдүүлүгү жана анын тенденциясы менен бирдей аныкталат ... жакшы, айланасындагылардын баарына калп айтуу.
Окуя 17 000ден ашык сөздөн турат жана анда 2023-жылы OpenAI директорлор кеңеши Алтманды калп айтканы үчүн күтүлбөгөн жерден жумуштан бошотуп, аны дароо кайра жумушка алуу үчүн болгон окуянын так баянын камтыйт. Бул ошондой эле Альтмандын жеке жашоосуна, анын инвестицияларына, Жакынкы Чыгыштагы акчага болгон кызыгуусуна жана анын мурунку жүрүм-турумуна жана мүнөзүнө болгон ой жүгүртүүсүнө терең сүңгүп, бир булак аны "чындык менен чектелбеген" деп айтууга алып келди. Мен чындап эле бүт окуяны окуп чыгууну сунуштайм; Мен ал көп жылдар бою шилтеме болот деп ойлойм.
Ронан Алтман менен 18 ай бою көп жолу сүйлөшкөн, ошондуктан, мени кызыктырган негизги нерселердин бири - ал Альтмандагы кандайдыр бир өзгөрүүнү сездиби. Анткени, акыркы бир жарым жылда AI, технология жана дүйнөдө көп нерсе болду.
Сиз Ронандын бул жөнүндө түздөн-түз сүйлөгөнүн, ошондой эле анын Алтмандын чындыкты айтууга болгон жөндөмдүүлүгү жөнүндө сүйлөшүүгө көбүрөөк даяр болуп калганын сезесиз. Адамдар Альтман сыяктуу адамдардын жүрүм-туруму AI же технологияга эле эмес, коомдун жамааттык келечегине да тиешелүүбү деп катуу жана жазуу жүзүндө таң кала башташат.
Макул: Ронан Фарроу Сэм Альтман, AI жана чындык жөнүндө. Мына.
Бул интервью узундугу жана тактыгы үчүн жеңил редакцияланган.
Ронан Фарроу, сиз иликтөөчү кабарчысыз жана The New Yorker гезитинин авторусуз. Декодерге кош келиңиз.
Бул жерде болгонума кубанычтамын. Мени барыңыз үчүн рахмат.
Мен сиз менен сүйлөшүүгө абдан кубанычтамын. Сиз жаңы эле The New Yorker үчүн чоң чыгарма жаздыңыз. Бул Сэм Альтмандын профили жана аны менен бирге OpenAI. Менин окуганым, бардык сонун өзгөчөлүктөр сыяктуу эле, ал катуу отчеттуулук менен адамдардын Сэм Альтманга карата көптөн бери болгон сезимдерин тастыктайт. Сиз аны ачык жарыяладыңыз, ага реакциялар болдуңуз. Сиз азыр аны кандай сезип жатасыз?
Чынында, көңүл экономикасы шизофрениялык жана тайыз болгон мезгилде анын канчалык деңгээлде талкаланганы мени кубандырды. Бул, менин оюмча, баарыбызга таасир эткен окуя. Мен өмүрүмдүн бир жарым жылын өткөргөндө жана менин авторлошум Эндрю Маранц да анын ошол убактысын чындап эле соттук-медициналык жана кылдаттык менен жасоого аракет кылып өткөргөнүмдө, мен ар дайым окуянын өзөгүн түзгөн инсандан жана компаниядан тышкары адамдарга таасир эткен чоң структуралык маселелер бар экенин сезем.
Сэм Олтман, Силикон өрөөнүндөгү хайп маданиятынын фонунда жана стартаптар келечекте аткарыла турган же ишке ашпай турган убадалардын негизинде масштабдуу баалоолорду көздөйт жана ар кандай топторго ар кандай карама-каршы нерселерди айтууну ойлогон негиздөөчүнүн маданиятынын күчөшү өзгөчөлүк эмес, өзгөчөлүк.мүчүлүштүктөр... Ошол фонго карабастан, Сэм Олтман өзгөчө окуя болуп саналат, анда Силикон өрөөнүндө ушундай нерселерди күткөн ар бир адам анын ишенимдүү жана чынчылдыгы жөнүндө бул суроону токтото албайт.
Биз анын абийирсиздик же сериал жалган деген айыптоолордун айрым версияларынан улам кызматтан алынганын билгенбиз. Бирок, укмуштуудай, сонун репортаждар болгонуна карабастан, Кеч Хейгеи бул боюнча чоң иш жасады. Карен Хао бул боюнча чоң иш жасады. Чынында болжолдонгон далил пункттары жана алардын коомчулуктун назарынан чыкпай калган себептер жөнүндө так түшүнүк болгон эмес.
Ошентип, №1 жагдай, биздин коомдук билимибиздеги, атүгүл Силикон өрөөнүнүн инсайдерлеринин билиминдеги айрым боштуктар азыр бир аз көбүрөөк толтурулганы мени кубандырат. Кемчиликтердин кээ бир себептери дагы бир аз толтурулду.
Биз бул компаниянын ичиндеги адамдар чындап эле нерселерди жаап-жашырганда же атайын документтештирилбей калгандай сезилген учурлар жөнүндө кабарлайбыз. Бул окуядагы жаңы нерселердин бири WilmerHale тарабынан жасалган негизги юридикалык фирманын иликтөөсү болуп саналат, бул, албетте, Enron жана WorldCom компанияларын иликтөөлөрдү жүргүзгөн кооз, ишенимдүү, чоң юридикалык фирма. УилмерХейл бул иликтөөнү Алтманды алардан кутулгандан кийин кетирүүнүн шарты катары кызматтан кетирген башкармалыктын мүчөлөрү талап кылган жана ал кайра кайтып келген. Жана укмуштуудай - мен сүйлөшкөн көптөгөн юридикалык эксперттердин көз алдында жана бул компаниядагы көптөгөн адамдардын көз алдында таң калыштуу түрдө - алар аны жазуудан алыс кылышкан. Мунун баары OpenAIдин 800 сөздөн турган пресс-релизинде пайда болгон, анда эмне болгонун ишенимдин бузулушу катары сүрөттөгөн. Ал эми бул оозеки брифингдерде сакталганын тастыктадык.
Мисалы, башкармалыктын мүчөсү OpenAIдин баштапкы коммерциялык эмес формасын коммерциялык уюмга айландыруу үчүн каршы добуш бергиси келген учурлар бар жана ал калыс катары жазылган. Жолугушууда юрист "Ооба, бул өтө эле көп текшерүүгө алып келиши мүмкүн" деген сыяктуу. Ал эми каршы добуш бергиси келген адам бардык көрүнүштөрдөн калыс деп жазылып калат. Фактылуу талаш бар. OpenAI, сиз ойлогондой, башкача ырастайт. Мунун баары сиздерде биздин келечегибизди өз колунда кармап турган компания бар учурлар.
Коопсуздук коюмдары ушунчалык курч болгондуктан, алар жок боло элек. Бул компаниянын коопсуздукка багытталган коммерциялык эмес уюм катары негизделгенинин себеби жана айланасындагы ишенимдүү адамдар аны профессионалдуу эмес деп табышты. Жана сиз муну маанилүү жөнгө салуу үчүн саясий аппетит аз болгон фон менен жупташтырасыз. Мен бул абдан күйүүчү кырдаал деп ойлойм.
Мен үчүн кеп Сэм Альтман бул суроолорго абдан татыктуу экенинде эмес. Ошондой эле, бул чөйрөдөгү бул жигиттердин кайсынысы болбосун жана негизги фигуралардын көбү, эгерде бул өзгөчө идиосинкратикалык, жалган айтуу мүнөзүн көрсөтүшөт, албетте, кандайдыр бир деңгээлде жарыштан ылдыйга чейинки менталитет, мында коопсуздукту жактаган адамдар бул милдеттенмелерди сугарып коюшкан жана баары жарышта.
Менимче, биз Anthropicтин акыркы агып чыгышын карап жатканыбызда, бул чыгармада кимдин сөөмөйү бар деген суроону койгон адам бар. Жооп, эгерде бизде олуттуу көзөмөл жок болсо, менимче, биз олуттуу суроолорду берип, бул жигиттердин бардыгы жөнүндө мүмкүн болушунча көбүрөөк маалымат берүүгө аракет кылышыбыз керек. Ошентип, мен бул жөнүндө маңыздуу маектешүү же биринин башталышы сыяктуу сезилчү нерсеге кубандым.
Минтип сураганымдын себеби, сиз бул боюнча бир жарым жыл иштедиңиз. Сиз, менин оюмча, авторлошуңуз Эндрю менен 100 киши менен сүйлөштүңүз. Бул окуяны даярдоо үчүн көп убакыт. Айрыкча AI тармагындагы акыркы бир жарым жыл жөнүндө ойлоном, бала, бул каармандардын мамилеси жана баалуулуктары абдан тез өзгөрдү.
Балким, Сэм Альтмандан башка эч нерсе жок, ал демейки жеңүүчү катары баштаган, анткени алар ChatGPTти чыгарышкан жана бардыгы Google үчүн жөн гана ээ болот деп ойлошкон. Анан Google жооп берди, бул аларды Google өзүнүн бизнесин, балким бизнес тарыхында болбосо, технология тарыхындагы эң мыкты бизнестердин бири болгон коргоого аракет кылат деп таң калтырды. Anthropic бул ишканага басым жасоону чечти. Бул командалык жетекчиликти колго алып жаткандайал жерде, анткени AI ишканалардын пайдалануусу абдан жогору.
Эми, OpenAI өзүнүн продуктуну "биз Google'ду кабыл алабыз" дегенден Codexке кайра багыттоодо жана алар ишкананы өз мойнуна алышат. Мен так айта албайм, акыркы бир жарым жыл бою отчет берип жатканда, сиз сүйлөшкөн каармандар өзгөрдүбү? Алардын көз караштары жана баалуулуктары сыяктуу эле, алар өзгөрдүбү?
Ооба. Менин оюмча, биринчи кезекте, бул макалада ушул компаниялардын ичиндеги көптөгөн адамдардан келип чыккан сын - бул экзистенциалдык коюмдарга карабастан, коопсуздук боюнча ылдыйга карай жарышка түшүп жаткан жана ылдамдык башка бардык нерседен ашып түшкөн тармак - бул тынчсыздануу күчөдү. Менимче, бул кооптонуулар акыркы бир жарым жыл өткөн сайын тастыкталды. Ошол эле учурда, Сэм Альтманга карата мамиле өзгөчө өзгөрдү. Биз бул үчүн булактар менен сүйлөшө баштаганда, адамдар бул жөнүндө цитата келтирилгенден жана бул жөнүндө жазуудан чындап эле корккон.
Биздин отчетубуздун аягында сизде адамдар бул жөнүндө ачык жана ачык айтып жаткан отчеттордун органы бар жана сизде директорлор кеңешинин мүчөлөрү "Ал патологиялык жалганчы. Ал социопат" деген сыяктуу сөздөрдү айтып жатышат. "Коопсуздук коркунучун эске алганда, бул кооптуу жана бизге бул технологиянын ак ниеттүүлүгүн көтөргөн лидерлери керек" дегенге чейин бир катар көз караштар бар: "Коопсуздук коюмдарын унутуп коюңуз, бул кандайдыр бир ири компаниянын жетекчилери үчүн туура эмес, бул жөн гана өтө көп дисфункцияны жаратат."
Ошентип, баарлашуу, балким, кечигип калгандай сезилет, бирок бир жагынан жүрөк козгоорлук түрдө бир топ ачык-айкын болуп калды. Ал эми Сэм Альтман, анын кредити үчүн... Чыгарма абдан адилет жана ал тургай берешен, мен Сэмге айтаар элем. Бул "сени алдым" деген нерселер көп болгон чыгарма эмес. Мен аны менен телефон аркылуу көп, көп сааттарды өткөрдүм, анткени биз муну бүтүрүп, анын чындыгында уктум.
Сиз элестетип тургандай, мындай чыгармада баары эле боло бербейт. Бул окуянын кээ бирлери мен чын жүрөктөн угуп жаткандыктан болду. Эгерде Сэм чындыгында мен өзүмдү суу ташып бараткандай сезип, бир нерсе, ал чын болсо да, сенсация болушу мүмкүн деп жүйө келтирсе, мен чындап эле бул соттук экспертизаны жана өлчөөчү тарапта жаңылып калдым. Ошентип, мен бул туура кабыл алынды деп ойлойм жана ушул убакыт аралыгында топтолгон бул фактылык жазуу көзөмөлдүн зарылдыгы жөнүндө көбүрөөк талкууну жаратат деп үмүттөнөм.
Бул чындыгында менин кийинки суроом. Менимче, сиз бул окуяны баяндап жатканда Сэм менен ондогон жолу сүйлөштүңүз. Дагы, бул узак убакыттын ичинде көп сүйлөшүүлөр. Акыркы бир жарым жыл ичинде Сэм өзгөрдү деп ойлодуңуз беле?
Ооба. Менимче, бул жерде эң кызыктуу субплоттордун бири, Сэм Альтман дагы бул өзгөчөлүк жөнүндө мурункуга караганда ачык айтып жатат. Бул чыгармадагы Сэмдин абалы мындай эмес: "Ал жерде эч нерсе жок, бул чындыкка дал келбейт; мен эмне жөнүндө айтып жатканыңызды билбейм." Анын позициясы мындай дейт: муну элге жаккан тенденция жана чыр-чатакты жийиркеничтүү деп айтууга болот. Ал, айрыкча, карьерасынын башында, ал үчүн көйгөйлөрдү жаратканын моюнга алууда.
Ал: "Ооба, мен андан өтүп баратам же кандайдыр бир деңгээлде андан өтүп кеттим" деп жатат. Менимче, мен үчүн эң кызыктуусу, биз сүйлөшкөн адамдардын контингенти, алар жөн гана коопсуздуктун жактоочулары эмес, техникалык изилдөөчүлөр гана эмес, коопсуздуктун бул курч кооптонуусуна ыкташат, ошондой эле прагматикалык, чоң инвесторлор. Алар Сэмдин колдоочулары, алар кээ бир учурларда бул суроону карап, атүгүл анын октон кийин кайтып келишине негизги ролду ойногону жөнүндө сүйлөшүшөт. Эми ал реформаландыбы, бул өзгөрүү канчалык деңгээлде мааниге ээ деген суроого: «Ошондой эле, биз ага ошол кездеги шек саноонун пайдасын бергенбиз» дешет.
Мен, атап айтканда, бир көрүнүктүү инвесторду ойлоп жатам, ал: "Бирок ошондон бери аны отундун артына алып чыгышкан эмес окшойт" деген сөздү ушул киши керектүү деңгээлде колдонгон. Натыйжада, бул азыр туруктуу мүнөзгө айланды окшойт. Биз муну үзгүлтүксүз түрдө көрүп жатабыз. Сиз OpenAIнин эң чоң бизнесин карап көрсөңүз болотмамилелер жана алар бул ишенбөөчүлүктүн салмагын үзгүлтүксүз түрдө көтөрүп жүрүшөт.
Майкрософттогудай эле, сиз ошол жердеги жетекчилер менен сүйлөшөсүз жана алардын чындап эле курч жана жакында эле тынчсыздануулары бар. Ошол эле күнү OpenAI жарандыгы жок AI моделдерине карата Microsoft менен өзүнүн эксклюзивдүүлүгүн дагы бир жолу ырастап жатат, ал ошондой эле Amazon менен жаңы келишимди жарыялайт, ал мамлекеттик AI агенттерин куруу үчүн ишкана чечимдерин сатуу менен байланыштуу, алар эс тутумуна ээ.
Сиз Microsoft адамдары менен сүйлөшөсүз, алар: "Бизде эксклюзивдүүлүк келишими бар негизги нерселер менен иштешпей туруп муну жасоо мүмкүн эмес" деп айтышат. Ошентип, бул өзгөчөлүк ар дайым үзгүлтүксүз ишкердик жигердүүлүккө ээ болгон жана OpenAI башкармасында, анын аткаруучу топтомунда жана кеңири технологиялык коомчулукта активдүү тынчсыздануунун предмети болгон көптөгөн кичинекей мисалдардын бири гана.
Сен ошол “касиет” деп айта бересиң. Окуяда мага тезис сыяктуу сезилген сап бар жана бул сиз сүрөттөп жаткан өзгөчөлүктүн сүрөттөлүшү. Бул "Сэм Олтман чындык менен чектелбейт" жана анын "бир эле адамда дээрлик эч качан байкалбаган эки өзгөчөлүгү бар: биринчиси - адамдарга жагууну, кандайдыр бир өз ара аракеттенүүдө жактырууга умтулуу, экинчиси - кимдир-бирөөнү алдоонун кесепеттери жөнүндө дээрлик социопатиялык тынчсыздануу."
Сага айтып коюшум керек, мен ал сүйлөмдү 500 жолу окуп чыктым жана ар дайым адамдар эмнени жактыргысы келгенин айтып, анан калп болуп калганда капа болбоону элестеткенге аракет кылдым. Жана мен эмоционалдык абалымды ошол нерселер бир эле адамда кантип бар экенин түшүнө алган жокмун. Сиз Сэм менен көп сүйлөштүңүз жана ушул сапаттарды башынан өткөргөн адамдар менен сүйлөштүңүз. Ал муну кантип кылат?
Ооба. Бул адамдык деңгээлде кызыктуу, анткени мен ушул сыяктуу отчеттордун органдарына анын жүрөгүндө турган адамды гумандаштырууга жана терең түшүнүү менен боорукердикке умтулуу менен кайрылам. Мен буга адамдык көз караш менен мамиле кылууга аракет кылганымда: "Эй, эгер мен иштешкен көп адамдар мени патологиялык калпычы деп айтышса, бул мен үчүн кыйратуучу болмок. Бул салмакты кантип көтөрөсүң? Терапияда бул тууралуу кантип айтасың? Бул тууралуу өзүңө кандай окуяны айтып бересиң?"
Менде, менин оюмча, Батыш Жээктин "Ооба, мен дем алганды жакшы көрөм" деген өңдүү жалаң сөздөрү бар. Бирок биздин жүрүм-турумубузга жана адамдарга болгон мамилебизге карата ушундай пикирлерди көргөндө, менимче, менимче, көбүбүзгө ээ болмок деп ойлойм.
Менимче, бул чындыгында суроого кеңири жооп берет. Сэмдин ырасташынча, бул өзгөчөлүк көйгөйлөрдү жаратты, бирок бул ага OpenAIдин өсүшүн ушунчалык тездетүүгө күч берген нерселердин бир бөлүгү болуп саналат, ошондуктан ал биригип, ар кандай адамдардын топторуна жага алат. Ал ар дайым бул карама-каршы шайлоо округдарынын баарын, алар эмне жөнүндө кам көрөт деп ишендирип жатат. Жана бул негиздөөчү үчүн чындап эле пайдалуу чеберчилик болушу мүмкүн. Мен инвесторлор менен сүйлөштүм, алар: "Балким, бул компанияны башкаруу үчүн анча пайдалуу эмес, анткени ал ушунчалык көп келишпестиктерди жаратат" деп айтышкан.
Бирок Сэмдин жеке тарабында, мен адамдык деңгээлде байланышууга аракет кылганда, мен түшүнгөн нерсе - бул тереңирээк тирешүүнүн, ой жүгүртүүнүн жана өзүн-өзү эсепке алуунун жоктугу, бул супер күч же компаниянын жоопкерчилигин билдирет IPOго даярданууда.
Ал, директорлор кеңешинин мурдагы мүчөсү Сью Юндун сөзү менен айтканда, ал өзүнүн сөз айкашын "уятсыздык" деп айткан, чындап эле өзүнүн сатуу аянтчаларынын өзгөрүп жаткан реалдуулугуна ишене алган же өзүн аларга ынандыра алган адам. Же, жок эле дегенде, эгер ал аларга ишенбесе, анда ал өзүн эч кандай шектенбестен, алар аркылуу жарылып кете алат.
Менин оюмча, сиз айтып жаткан нерсе, сиз же мен кайсы жерде, биз айтып жатканыбызда жана бул биз берген башка кепилдикке карама-каршы келерин түшүнгөнүбүздө, бир аз тоңуп же өзүбүздү текшерген учур болот. Мен аны менен андай болбойт деп ойлойм. Ал эми Силикон өрөөнүнүн кеңири жайылган маданияты жана негиздөөчү маданияты бар.
Бул күлкүлүү. Verge продукттун сын-пикирлерине негизделгенпрограммасы. Бул биздин бул жерде кылган ишибиздин жүрөгү. Мен жылына бир жолу Apple R&D боюнча триллион долларды кармап, "Бул телефон жети" деп айтам. Жана бул биздин бардык отчетторубузду жана башка жерлердеги пикирибизди мыйзамдаштырат. Бизде баалоо функциясы бар жана биз AI өнүмдөрүн карап, "Алар иштейби?"
Бул бүгүнкүдөй AI жөнүндө көп маектешүүдө жоктой сезилет. Бул эмне кыла алат, ал канчалык кооптуу болушу мүмкүн деген чексиз сүйлөшүүлөр бар. Анан сиз бургулап: "Чынында ал бүгүн жасашы керек болгон нерсени жасайбы?" Кээ бир учурларда, жооп ооба. Бирок көп, көп учурларда, жооп жок.
Бул сиз сүрөттөп жаткан хайп маданиятына жана ошондой эле, эгер сиз ал бир нерсе кылам деп айтып, ал ишке ашпай калса жана кимдир бирөө өзүн жаман сезип жатса, анда бул жакшы, анткени биз кийинки нерсеге өтүп жатабыз. Бул өткөндө. Айрыкча AIда Сэм чоң убадаларды бергенди жакшы билет.
Ушул жумада, менимче, сиздин аңгемеңиз жарыяланган күнү, OpenAI саясий документти чыгарды, анда биз коомдук келишимди кайра карап чыгышыбыз керек жана өкмөттөн AI эффективдүүлүгү боюнча стипендия алышыбыз керек. Бул кандайдыр бир технология дүйнөнүн келечегин кантип түзөөрү жана биз кандай жашап жаткандыгы жөнүндө чоң убада жана мунун баары технологиянын так, балким, ал убада кылынгандай иштешине көз каранды.
Сиз Сэмдин AI AGI же супер интеллектке айланышынан же марага жеткенинен күмөн санаганын көрдүңүз беле? Анткени мени эң көп кызыктырган нерсе ушул. Бул негизги технология алар айткан нерселердин баарын жасай алабы деген ой барбы?
Бул так суроолордун топтому. Бул отчеттук органда биз сүйлөшкөн ишенимдүү технологдор бар - жана албетте, Сэм Альтман андай эмес; ал бизнес адам - Сэмдин бул технологиянын убакыт графиги жөнүндө айтканы такыр алыс. Бир нече жыл мурун жазылган блогдор бар, анда Сэм: "Биз окуянын горизонтуна жеттик. AGI негизинен бул жерде. Суперинтеллект жакындап калды. Биз башка планеталарда болобуз. Биз рактын бардык түрлөрүн айыктырабыз ". Чынында, мен кооздоп жаткан жокмун.
Рак оорусу чындыгында кызыктуу, Сэм өзүнүн итинин рагын ChatGPT менен теориялык жактан айыктырган адамды ойлоп жатат жана бул жөн эле болгон жок. Алар ChatGPT менен сүйлөшүштү жана бул аларга иш жүзүндө ишти жасаган кээ бир изилдөөчүлөргө жетекчилик кылууга жардам берди, бирок бул итти айыктырган жекеме-жеке бул курал чындыгында окуя эмес.
Мен бул ойду көтөргөнүңүзгө кубанычтамын, анткени мен технологиянын потенциалы да, тобокелдиги да качан пайда боло тургандыгы жөнүндө ушул чоң пунктка баргым келет. Бирок Сэм Олтмандын дайыма болуп турган бул кичинекей жактарын айта кетүү керек, ал жерде ал бул өзгөчөлүктү кайра-кайра чагылдырып тургандай.
Айтайын дегеним, WilmerHale отчетунун мисалын колдонсок, анда бизде бул маалымат жазылбай калган жана жол боюнда оозеки кыскача маалымат директорлор кеңешинин эки мүчөсүнөн башка бирөөнө берилгенби же жокпу билгибиз келди. Анан ал: "Ооба, ооба, жок, мен бул кеңешке кийин киргендердин баарына берилген деп ишенем" деди. Ал эми бизде абалды түздөн-түз билген адам бул жөн эле калп экенин айтып жатат. Жана бул чындап эле ошондой болуп көрүнөт, бул чындыкка дал келбейт. Эгерде биз берешен болгубуз келсе, балким ал туура эмес маалымат алгандыр.
Мындай кокусунан кепилдиктер көп. Мен бул мисалды жарым-жартылай колдоном, анткени бул ажыратуунун эң сонун мисалы, келгиле, мыйзамдуу түрдө реалдуу кесепеттерге алып келиши мүмкүн. Делавэрдин корпоративдик мыйзамына ылайык, эгер бул компания IPO кылса, акционерлер 220-бөлүмгө ылайык, бул жөнүндө арызданып, негизги документтерди талап кылышы мүмкүн деп айтуунун кереги жок. Башкарманын мүчөлөрү буга чейин эле: "Бир аз күтө тур, бул брифинг болушу керек болчу" деген сыяктуу сөздөрдү айтып жатышат.
Ошентип, анын оозунан ар дайым секирип көрүнгөн бул нерселер, алар OpenAI үчүн реалдуу рыноктук эффекттерге, реалдуу эффекттерге ээ болушу мүмкүн. Аны кайра пайда болгон утопиялык хайп тилге кайра алып келүү, менимче, бул чыгарма чыккан күнү кокусунан эмес, бул баарыбызга таасир этет, анткени коркунучтар анын ыкмасына карата өтө курч.Куралда колдонулушу, анын химиялык согуш агенттерин аныктоо үчүн колдонулушу, жалган маалымат берүү потенциалы жана утопиялык шумдуктан улам көптөгөн ишенимдүү экономисттер: "Мында көбүктүн бардык белгилери бар" деп айтууга түрткөн.
Атүгүл Сэм Альтман: "Кимдир бирөө бул жерде көп акчасын жоготот" деп айткан. Бул чындап эле Американын жана дүйнөлүк экономикалык өсүштүн көп болушуна алып келиши мүмкүн, эгерде бул компаниялардын баары бири-бири менен келишим түзүп, AI менен алектенип, абдан чоң карыз алып жаткан көбүктүн чындап тешип кетиши мүмкүн. Ошентип, Сэм Олтмандын айтканы маанилүү жана мен анын тегерегиндеги адамдардын басымдуулугун эске салдыңыз, биз жүздөн ашык адам менен сүйлөшкөнбүз, чындыгында жүздөн ашты. Биз мара сызыгында маектештик, ал жерде: "Ушунчалык көп санды деп айтуу өтө эле кичинекей болуп калабы?" Ошондо биз: "Ооба, келгиле, төмөндөтүп көрөлү. Биз аны жакшы ойнойбуз" деп жаттык. Бирок ушунчалык көп адамдар бар болчу жана алардын көпчүлүгү: "Бул кооптонуу" деп айтышкан. Ошондо мен мунун баары ошол үчүн деп ойлойм.
Ошол номерди сурайынчы. Сиз белгилегендей, убакыттын өтүшү менен адамдар тынчсыздануу менен көбүрөөк ачык болуп калды. Бул көбүктүн айланасындагы кысым сыяктуу сезилет - жеңишке жетүү үчүн жарыш, бул инвестициялардын баарын төлөп берүү, жеңүүчү катары чыгуу, IPO - көптөгөн мамилелерди өзгөрттү. Бул, албетте, Сэм менен OpenAIге көбүрөөк басым жасады.
Ушул аптада биз OpenAIдин толкундары жөнүндө окуяны жарыяладык. Сиздин окуяңыз анын бир бөлүгү, бирок OpenAIдеги жетекчи кызматтарда массалык кадрдык өзгөрүүлөр - адамдар келип-кетип жатышат. Изилдөөчүлөрдүн баары алыстап кетишти, негизинен Anthropic, менимче, бул абдан кызыктуу. Сиз жөн гана бул компаниянын кысымды сезип жатканын жана ал кысымга кандайдыр бир жол менен жооп берип жатканын көрө аласыз.
Бирок, анан кайра Сэмди жумуштан кетиргенин ойлоп кетем. Бул мен үчүн жөн гана эсте каларлык. Бул эч ким үчүн эсте каларлык эмес, бирок мен жума күнү саат 19:00дө Бронкс зоопаркында булактан чалдым, ал кимдир бирөө Сэмди кайра кайтарууга аракет кылып жатканын айтты. Анан дем алыш күндөрү ошол окуяны кууп өттүк. Ошондо мен жөн эле: "Мен зоопарктамын. Бул жерде эмне кылышымды каалайсың?" Ал эми жооп: "Телефондо кал". Кызым "телефонду өчүр" деп калды. Жана мен эмне кылдым.
Сэмди кайтаруу үчүн минүү же өлүү болду. Ал компания: "Жок, биз директорлор кеңешине Сэм Альтманды иштен кетирүүгө жол бербейбиз" деген сыяктуу эле. Инвесторлор, алар сиздин бөлүгүңүздө келтирилген: "Биз согушка кеттик" деп ойлойм, Thrive Capital позициясы, "Сэмди кайтарып алуу үчүн". Майкрософт Сэмди кайтаруу үчүн согушка барган. Бул кийинчерээк, азыр бардыгы: "Биз IPOго чыгабыз. Биз марага жеттик. Биз жигитибизди кайтарып алдык, ал бизди марага жеткирет. Биз ал жалганчы деп кооптонуп жатабыз".
Эмне үчүн аны кайра алуу үчүн согуш болду? Анткени эч нерсе өзгөргөн жок окшойт. Сиз Илья Суцкевер менен [Антропикалык башкы директор] Дарио Амодей Сэм Альтмандын замандаштары болуп турганда сактаган меморандумдар жөнүндө айтып жатасыз. Илянын биринчи кабатырлануусу Сэмдин жалганчы экени эле.
Мунун эч бири өзгөргөн жок. Анда эмне үчүн аны кайра алып келүү үчүн согуш болду? Эми марага жеткенибизде, бардык тынчсыздануулар ачыкка чыкты окшойт.
Биринчиден, кызыңызды, менин өнөктөшүмдү жана журналисттердин айланасындагы башка адамдарды кечириңиз.
[Күлүп] Баары үчүн дем алыш күн болду.
Ооба, бул адамдын өмүрүн алат жана бул окуя, албетте, меники, акыркы мезгилде. Бул, менимче, бул журналистика жана маалыматка жетүү темасына тиешелүү. Сэм үчүн согушка кеткен инвесторлор жана баары анын кайтып келишине ынануу үчүн роль ойношкон, ошондой эле коммерциялык эмес уюмдун миссиясын коргоо үчүн атайын иштелип чыккан башкармалык, эгерде аларга ишене албаса, жетекчини иштен кетирүү үчүн, алар кетишти. Мунун баары, ооба, рыноктук стимулдар бар болчу, туурабы?
Сэм адамдарды: "Ошондой эле компания ыдырайт" деп ишендире алды. Бирок анын колдоосуна маалымат жетишсиздиги себеп болгон. Ошол инвесторлор, көп учурда, азыр: "Мен артка кылчайып карап жатам, эгер мен дооматтар эмне экенин жана тынчсызданууларды толук билгенимде көбүрөөк тынчсыздануу керек болчу деп ойлойм".
Алардын баары эмес;пикирлер ар кандай, жана биз бир катар пикирлерди келтиребиз, бирок өтө жарым-жартылай маалымат боюнча иш-аракет кылган маанилүү адамдар бар. Сэмди иштен кетирген такта, мурда тактайда отурган бир адамдын сөзү менен айтканда, "өтө БК" болгон жана алар топту катуу сүзүшкөн. Жана биз негизги даттанууларды документтештиребиз жана адамдар бул алар сезген шашылыш тынчсыздануунун түрүнө топтолбогондугун өздөрү чече алышат, бирок бул аргумент жана ал маалымат берилген жок.
Алар азыр алардын айрымдары жаман юридикалык кеңештерди алышты. Аны сүрөттөө үчүн, сиз цитатаны эстеп каласыз, балким, көптөгөн угуучуларыңыз жана көрүүчүлөрүңүз бул цитатаны ачык-айкындуулуктун жоктугу катары эстеп калышат. Бул кыскартылды, анан алар чалууларды кабыл алышкан жок.
Алар чалууларды кабыл алышчу эмес. Мен аракет кылганыңызга ишенем. Мен тааныгандардын баары аракет кылышты, журналист катары сиз өз булактарыңызга кеңеш бербешиңиз керек болгон деңгээлге жетти, бирок мен: "Эгер өзүңүздү түшүндүрүп баштабасаңыз, бул нерсе жок болот" дедим.
Жана ушундай болду. Журналисттерди унут. Сатья Наделла: "Эмне болду? Мен эч кимди мага түшүндүрүп бере албайм" деп айткан элеңиз. Жана бул компаниянын негизги каржылык колдоочусу. Анан сиз Сатяга [LinkedIn'дин негиздөөчүсү] Рейд Хоффманга чалып, Рид чалып: "Мен эмне болгонун билбейм" деп айтышат.
Алар түшүнүктүү болгондой, мындай шашылыш, күтүлбөгөн жерден ок чыгарууну актай турган салттуу AI эмес көрсөткүчтөрдү издеп, маалымат боштугунда. Макул, бул сексуалдык кылмыштар беле? Бул уурдоо болгонбу? Ал эми бул технологиянын башка экенин жана майда чыккынчылыктардын мындай туруктуу топтолушу бул бизнес үчүн да, балким, дүйнө үчүн да маанилүү ставкага ээ болушу мүмкүн деген бүтүндөй тымызын, бирок маңыздуу деп ойлойм. Ошентип, капиталисттик стимулдар жеңип чыкты, бирок аны жасаган адамдар да чыгып кетишти жана ар дайым толук маалымат менен иштей беришпейт.
Мен бир саамга "баары эмне деп ойлоду" деген жагын сурайын дегем, анткени мен бул жаңылыкты көрдүм жана мен: "Ой, жаман нерсе болуп кетти окшойт" дедим. Сиз көп #MeToo репортажын жасадыңыз, белгилүү. Сиз Харви Вайнштейндин окуясын сындырдыңыз.
Сиз бул дооматтар боюнча отчет берүүгө көп убакыт короттуңуз, менимче, сиз акыры негизсиз деп чечтиңиз: Алтман жашы жете электерге сексуалдык зомбулук көрсөткөн же секс-кызматкерлерди жалдаган, ал тургай OpenAI ышкыбозун өлтүргөн. Айтайын дегеним, сиз бул нерсени эң катуу кабарлай турган адамсыз. Эч нерсеси жок деп чечтиңизби?
Макул, карачы, мен бир нерсе болбой калды деп айта албайм. Мен айта алам, мен бул дооматтарды карап бир нече ай өткөрдүм жана алар үчүн ырастоо таба албадым. Ал эми бул балдар, биздин келечегибизге ушунчалык бийликке ээ болгон бул компаниялар, чынында эле, балдардай ылай менен күрөшүп, өз убактысынын жана ресурстарынын пропорционалдуу эмес көлөмүн коротуп жатканы мени таң калтырды.
Бир жетекчи аны "Шекспирдик" деп мүнөздөйт. Жеке тергөөчүнүн акчасынын жана топтолуп жаткан оппозициялык досьелердин көлөмү тынымсыз. Жана өкүнүчтүүсү, Сэмдин атаандаштары тарабынан тоту кылынган жаман нерселер жөн эле болжолдонгон чындык, туурабы? Ал жашы жете элек балдардын артынан сая түшүп жүрөт деген доомат бар жана Силикон өрөөнүндөгү көптөгөн коктейлдик кечелерде муну угасың. Конференциянын айланасында мен аны ишенимдүү, көрүнүктүү жетекчилердин кайталаганын уктум: "Бул чындык экенин баары билет."
Эң өкүнүчтүүсү, мен мунун кайдан келип чыгышы, анын ар кандай векторлору жөнүндө айтып жатам. Илон Маск жана анын шериктери чындап эле катуу досьелерди эч нерсеге түртүп жатышат окшойт. Сиз негизи дооматтарды карап баштаганда, алар бууланып калат. Эң өкүнүчтүүсү, бул жерде чындап эле тезирээк көзөмөлгө жана кароого татыктуу деп эсептеген далилдерге негизделген сын-пикирлерди жаап салат.
Окуяда чындап эле пайда болгон башка тема - Сэмдин ушунчалык көп достору бар деген коркуу сезими - ал Y Combinator компаниясынын башкы директору катары мурунку ролунан тартып, жеке инвестициясына чейин көптөгөн компанияларга инвестиция салган, алардын айрымдары OpenAIдин башкы директору катары анын ролуна түздөн-түз карама-каршы келет - жана анын айланасында жымжырттык өкүм сүрүүдө.
Айрыкча бир сапты окуп жүргөндө таң калдым. Сиз Илья Суцкевердин эскермелерин сүрөттөп бересиз, алар Силикон өрөөнүндө эле. Баарыаларды Илья мемо деп атайт. Бирок анын айланасында да жымжырттык өкүм сүрүүдө. Алар өтүп жатат, бирок алар талкууланган эмес. Бул кайдан келет деп ойлойсуз? Коркуубу? Бул периштенин инвестициясын алуу каалообу? Бул кайдан келет?
Менин оюмча, бул көп коркоктук, мен чынын айтсам. Улуттук коопсуздук боюнча окуяларды кабарлап, булактары бардыгын жоготуп, куугунтукка кабылып турган ышкыбоздор болуп саналат, алар дагы эле туура иш кылышат жана жоопкерчиликти жаратуучу нерселер жөнүндө сүйлөшүшөт. Мен сиз айткан сексуалдык кылмыштарга байланыштуу окуялардын үстүндө иштедим, мында булактар терең травмаланган жана өтө жеке жазадан коркушат.
Бул биттин тегерегинде көп учурларда, сиз өз профили жана күчү бар адамдар менен күрөшүп жатасыз. Алар же атактуу адамдар, же атактуу адамдар менен курчалган. Алардын күчтүү бизнес жашоосу бар. Менин оюмча, алар үчүн бул нерсе жөнүндө сүйлөшүү өтө төмөн. Бактыга жараша, ийне жогоруда айткандай кыймылдап, азыр эл көп сүйлөп жатат.
Бирок ушунчалык узак убакыт бою адамдар бул жөнүндө ооздорун жабышты, анткени мен Силикон өрөөнүнүн маданияты ушунчалык ырайымсыз жеке кызыкчылыкты көздөгөн жана аёосуз бизнеске жана өсүүгө багытталган деп ойлойм. Ошондуктан, менимче, бул Сэмди кызматтан кетирүүгө катышкан кээ бир адамдарды да азапка салат, сиз андан кийинки күндөрдө көрдүңүз, ооба, анын кайтып келишине жана директорлор кеңешинин эски мүчөлөрүнүн иштен алынышына алып келген факторлордун бири ал өзүнүн ишине чаташтырылган инвесторлорду чогултканы болду.
Бирок башкасы, айланасында тынчсызданган жана шашылыш түрдө айткан көптөгөн адамдар шамалдын башка тарапка согуп жатканын көргөндө салфеткадай бүктөлүшүп, обонун өзгөртүшүп, пайда табуучу поездге түшүүнү каалашкан.
Чынын айтсам, кабарчы катары менин көз карашым боюнча бул абдан караңгы.
Ошол адамдардын айрымдары Мира Мурати, мен ойлойм, 20 мүнөт бою OpenAIдин жаңы башкы директору болгон. Андан кийин ал алмаштырылды. Бул абдан татаал динамика болгон жана, албетте, Сэм кайтып келди. Экинчиси Илья Суцкевер, ал Сэмди кетирүү үчүн добуштардын бири болгон, анан ал оюнан кайтты, же жок дегенде оюн өзгөрттү деп, анан өз компаниясын ачуу үчүн кетип калды. Анын оюн өзгөртүүгө эмне себеп болгонун билесиңби? Бул жөн эле акча беле?
Ооба, ачык айтуу үчүн, мен бул экөөнү бөлбөйм. Атышууга катышкан башкармалыктын башка мүчөлөрү да бар, алар да кийин унчукпай калышты. Бул кененирээк жамааттык көйгөй сыяктуу деп ойлойм. Булар кээ бир учурларда коңгуроо кагып, радикалдуу чараларды көрүүгө моралдык жактан жетилген адамдар, бул мактоого арзырлык. Жана ушундай жол менен сиз жоопкерчиликке кепилдик бересиз. Бул технологиянын таасирине кабылган көптөгөн адамдарга жардам бериши мүмкүн. Бул тармакка коопсуздукка көбүрөөк көңүл бурууга жардам бере алмак.
Бирок маалымат таратуучулар жана бул жоопкерчиликти көп түртүүгө аракет кылган адамдар менен иш алып баруу, сиз аны жабыштырып, ынанымдарыңызга бекем туруу үчүн жипти талап кыларын көрөсүз. Жана бул тармак чындап эле өз ишенимине туруштук бербеген адамдарга толгон.
Алар санариптик Кудайды куруп жатабыз деп ойлошот да, ал кандайдыр бир жол менен бардык эмгекти жок кылат же көбүрөөк эмгекти жаратат, же бир нерсе болот.
Ооба, бул нерсе. Демек, сиздин ишенимиңизге жана этикалык тынчсызданууларга каршы турбоо маданияты, кандайдыр бир жылуулук же бизнестеги өзүңүздүн абалына коркунуч келтире турган кандайдыр бир нерсе пайда болгондо, кандайдыр бир виджетти жасап жаткан бизнес-кадимки компаниялар үчүн кандайдыр бир деңгээлде жакшы жана жакшы болушу мүмкүн.
Бирок булар да ошол эле адамдар: "Бул бардыгыбызды түзмө-түз өлтүрүшү мүмкүн". Жана дагы, сиз Терминатор Скайнеттин экстремалдык оюнуна баруунун кереги жок. Азыртадан эле ишке ашып келе жаткан бир катар тобокелдиктер бар. Бул чын, жана алар бул жөнүндө эскерткени туура, бирок сиз башка бирөөнүн креслосунда психолог болушуңуз керек, бул эки нерсе бир эле адамдарда кантип жашай алат, алар шашылыш эскертүүлөрдү берип жатышат, алар бутунун бармагын салып, бир нерсе кылууга аракет кылып жатышат, анан алар жөн эле бүктөлүп, унчукпай калышат.
Дал ушул себептен улам, сизде мындай учурларды жазууга болбойт жана нерселерди килемдин астына шыпырып коюшуңуз мүмкүн, бирок бул тууралуу эч ким ачык айтпайт.
Бул жерде табигый, жоопкерчиликтүү тарап бул компаниялардын башкы директорлору болмок эмес; ал өкмөттөр болмок. Америка Кошмо Штаттарында, балкимбул штаттын өкмөттөрү, балким бул федералдык өкмөт.
Албетте, бул компаниялардын баары глобалдуу болгусу келет. Бул жерде көптөгөн глобалдуу кесепеттер бар. Мен OpenAI, Google жана Anthropicтин баары Байдендин администрациясын AI буйругун чыгарууга мажбурлаганын көрдүм. Аягында ал абдан тишсиз болду. Бул жөн гана алардын моделдери эмнеге жөндөмдүү экени жөнүндө сүйлөшүп, кээ бир коопсуздук сыноолорун чыгаруу керек деп айтты. Анан алардын баары Трампты колдошту, Трамп кирип келип, мунун баарын жок кылды жана "Биз атаандаштыкка жөндөмдүү болушубуз керек. Бул бардыгы үчүн бекер. Ал үчүн баргыла" деди.
Ошол эле учурда, алардын баары мунай акчасы көп жана экономикасын өзгөртүүнү каалаган Жакынкы Чыгыш өлкөлөрүнөн каражат табууга аракет кылып жатышат. Булар саясатчылар. Менимче, саясатчылар кимдир бирөө эки тараптан тең чыгып сүйлөп жатканын түшүнүшү керек жана акыры кимдир бирөөнүн көңүлү калган болсо, алар өтө капа болушпайт, бирок саясатчылар да аттанып жатышат. Эмне үчүн мындай деп ойлойсуз?
Бул чындыгында, менин оюмча, эмне үчүн чыгарма менин оюмча маанилүү жана эмне үчүн бул убакыттын баарын жана майда-чүйдөсүнө чейин коротуу керек. Биз, сиз айткандай, көзөмөлдү камсыз кылуучу системалар жөн эле оюп кеткен чөйрөдө турабыз. Бул пост-Жарандардын Бириккен Америкасы, анда акчанын агымы ушунчалык тоскоолдуксуз жана бул көйгөйдүн өзгөчө AI айланасында топтолушу, ал жерде бул ПАКлар көбөйүп, акчаны штатта да, федералдык деңгээлде да маанилүү жөнгө салууну жокко чыгарат.
Сизде [OpenAIнин негиздөөчүсү] Грег Брокман, Сэмдин экинчи командири, алардын бир нечесине түздөн-түз чоң салым кошкон. Бул чындап эле мыйзам чыгаруучуларды жана потенциалдуу жөнгө салуучуларды басып алган кырдаалга алып келет жана андан чыгуу кыйынга турган спираль. Өкүнүчтүүсү, менимче, жөнөкөй саясий кадамдар бар, алардын айрымдары дүйнөнүн башка жеринде сыналып жатат, бул жоопкерчилик көйгөйлөрүнүн айрымдарына жардам берет.
Сиз дагы милдеттүү түрдө жайгаштыруу алдында коопсуздук сыноосуна ээ болушуңуз мүмкүн, бул Европада чек ара моделдери үчүн болуп жаткан нерсе. Бул учурда биз нерселерди жазууга тыюу салынганын көргөн ички иликтөөлөрдүн түрлөрү үчүн сизде каттуураак жазуу талаптары болушу мүмкүн. Сизде Сэм Альтман түртүп жаткан Жакынкы Чыгыштагы инфраструктуралык амбициялардын түрлөрү үчүн улуттук коопсуздукту карап чыгуу механизмдеринин күчтүүрөөк топтому болушу мүмкүн.
Сиз айткандай, ал бул жемди жасап, Байдендин администрациясы менен алмашып, "Бизди жөнгө сал, бизди жөнгө сал" деп, аларга аткаруу буйругун түзүүгө жардам берди, анан Трамп киргенде, чындап эле, биринчи күндөрү эч кандай тоскоолдук жок, "Келгиле, тездетели жана Абу-Дахада массалык маалымат борборунун кампусун куралы." Сиз болушу мүмкүн, бул чындап эле жөнөкөй, мисалы, ышкырыкчыны коргоо. Бул бөлүмдө көрсөтүлүп жаткан коопсуздук маселелерин ачыкка чыгарган AI компаниясынын кызматкерлерин коргогон федералдык мыйзам жок.
Бизде OpenAIде коопсуздук боюнча улук жигит болгон Ян Лейке компанияда супер трассаны жетектеген учурлар бар. Ал компания өзүнүн коопсуздук миссиясын аткаруудан баш тартып жатканын айтып, директорлор кеңешине жазат. Мына ушундай адамдар, чынында, алар бара турган көзөмөл органына ээ болушу керек жана алар башка секторлордо көргөндөй ачык мыйзамдуу коргоого ээ болушу керек. Бул Сарбенс-Оксли стилиндеги режимди кайталоо үчүн жөнөкөй.
Менимче, Силикон өрөөнүнүн бардык бийлик рычагдарын өз көзөмөлүнө алуу көйгөйү канчалык курч экенине жана көзөмөлдү жана тосмолорду камсыз кыла турган бул институттардын айрымдары канчалык ойдуңдап кеткенине карабастан, мен дагы эле демократиянын негизги математикасына ишенем деп ойлойм жана жеке кызыкчылыкты көздөгөн саясатчылар. Америкалыктардын көпчүлүгү AIнын кооптонуулары, суроолору же тобокелдиктери азыркы учурда пайдасынан жогору деп ойлогон сурамжылоо маалыматтары улам көбөйүүдө.
Ошентип, менимче, AIдан саясатка акча агылып жатат, муну саясатчыларга карата суроо белгисине айлантуу биздин бардык күчүбүздө. Америкалыктар добуш берүүгө барганда, алар добуш берген адамдар, айрыкча, эгерде алар сынга алынбаган жана жөнгө салууга каршы болсо, бул кооптонууларды эске алганда, чоң технологиялык атайын кызыкчылыктардын банкролдолуп жатканын текшериши керек. Ошондуктан, мен ойлойм, эгер адамдар ушул сыяктуу чыгармаларды окуп, подкасттарды угуп, сын көз караш менен ойлоно алышсашайлоочулар катары алардын чечимдерине көз салып турган жана көзөмөлдү күчтөндүргөн өкүлдөрдүн Вашингтондо шайлоо округун түзүү үчүн реалдуу мүмкүнчүлүгү бар.
Бул азыркы AI индустриясы жөнүндө мен уккан эң оптимисттик нерселердин бири болушу мүмкүн. Мен аны баалайм. Мен сиз айтып жаткан шайлоолорго көз жумуп жатам. Азыр ал көп. Мунун баары ырааттуу жана жаштар, айрыкча, AIга канчалык көп дуушар болушса, алар ошончолук ишенбестик жана ачууланышат. Бул бардык сурамжылоонун валенттүүлүгү. Мен муну карап, мен ойлойм, ооба, акылдуу саясатчылар буга каршы чыгышат. Алар жөн гана: "Биз чоң технологияны жоопко тартабыз" деп айтышат.
Анан мен акыркы 20 жыл жөнүндө ойлоном, бир саясатчы чоң технологияларды жоопко тартабыз деп айтты жана мен чоң технологиянын бир көз ирмеминде жоопкерчиликке тартылуу үчүн күрөшүп жатам. Мени бул башкача болушу мүмкүн деп ойлогон бир гана нерсе, сиз чындыгында маалымат борборлорун курушуңуз керек, жана сиз ага каршы добуш бере аласыз жана ага каршы арыз бере аласыз жана буга каршы нааразычылык билдире аласыз.
Менимче, бир саясатчы бар, анткени алар маалымат борборуна добуш беришкен. Чыңалуу жетип баратат, мен аны ысытма деп атайт элем. Сиз Силикон өрөөнүнүн изоляциясын сүрөттөп бердиңиз. Бул жабык экосистема. Алар дүйнөнү башкара алабыз деп ойлогондой сезилет. Алар саясатка бир тонна акча салып жатышат, жана алар аларга көп капкагын бербейт, адамдар өнүмдөрдү сүйбөйт деген чындыкка каршы чуркап жатышат. Алар өнүмдөрдү канчалык көп колдонсо, ошончолук капаланып, саясатчылар технология тармагын колдоонун чыныгы кесепеттерин алар өкүлдөрүнөн көрө башташат.
Сиз көп адамдар менен сүйлөштүңүз. Сиздин оюңузча, технология индустриясы алардын алдында турган сабакты үйрөнө алабы?
Сиз айткандай, алар дүйнөнү жоопкерчиликсиз башкара алабыз деп ойлошот. Менимче, бул "сезилет" квалификациясынын кереги жок. Айтайын дегеним, сиз Питер Тиль колдонуп жаткан тилди карасаңыз, бул ачык. Албетте, бул экстремалдуу мисал. Ал эми Сэм Альтман, кандайдыр бир деңгээлде Тиелдин идеологиясы менен жакын жана маалыматы бар болсо да, такыр башкача угулушу мүмкүн жана бир чекитке чейин өлчөнгөн адам.
Бирок, менимче, сиз Тилден алган кеңири идеологияны, ал негизинен: демократияны бүтүрдүк, бизге мындан ары анын кереги жок. Бизде ушунчалык көп болгондуктан, биз өзүбүздүн кичинекей бункерлерибизди кургубуз келет. Биз мындан ары Карнегилер же Рокфеллер менен мамиле кылбайбыз, алар жаман балдар, бирок алар коомдук келишимге катышып, адамдар үчүн нерселерди куруу керек деп эсептешет. Бул жерде чыныгы нигилизм орнотулган.
Менимче, бул Американын соңку тарыхындагы моголдор менен жеке компаниялардын супер мамлекеттик бийликке ээ болушу, ал эми аларды жоопкерчиликке тарта турган демократиялык институттар жок кылынган. Мен ал балдар бир күнү ойгонуп, "Аа, балким, биз коомго катышып, адамдар үчүн нерселерди курууга жардам беришибиз керек" деп ойлошу мүмкүн деген ойго оптимисттик маанайда эмесмин.
Айтайын дегеним, сиз «Белгилөө убадасынын» микрокосмостук мисалын карап турасыз, ал жерде кайрымдуулук болуп көрүнгөн учур болгон жана ал учур азыр өтүп кеткен, атүгүл шылдыңдаган да. Бул маселе, менимче, жоопкерчиликсиздиктин кеңири көйгөйү сырттан гана чечилет. Бул шайлоочуларды мобилизациялап, өкмөттүн көзөмөлүнүн күчүн кайра жандандырышы керек. Жана сиз туура айтасыз, ал аркылуу эл жетиши мүмкүн болгон негизги вектор жергиликтүү болуп саналат. Бул кайсы жерде инфраструктура курулуп жатканына байланыштуу.
Сиз зордук-зомбулукка жана коркутууларга алып баруучу ушуга байланыштуу кээ бир курч чыңалууларды айттыңыз жана албетте, эч ким зордук-зомбулукка же коркутууга жол бербеши керек. Ошондой эле мен бул жерде негизги сыяктуу көрүнгөн жана дүйнөнүн башка жеринде иштеп жаткан саясаттын айрым кадамдарын көрсөтүүдөн башка конкреттүү саясат сунуштарын берүү үчүн келген жокмун, туурабы? Же башка тармактарда иштегендер. Мен бул жерде алардын кайсынысы жана кантип аткарылышы керек экенин айткым келген жок.
Мен бир нерсе болушу керек деп ойлойм жана бул компанияларга ишенүү эмес, тышкы болушу керек. Анткени туураАзыр бизде технологияны өнүктүрүп жаткан жана тобокелдиктерди түшүнүү үчүн эң жакшы жабдылган жана чындыгында бизге тобокелдиктерди эскертип жаткан компаниялар да тез барып, бул тобокелдиктерди этибарга албай коюуга түрткү берген жагдайга ээ. Жана сизде буга каршы эч нерсе жок. Демек, кандай гана реформа болбосун, спецификалык жактан алганда, бир нерсе ага каршы чыгышы керек. Мен дагы эле адамдар дагы деле маанилүү деген оптимизмге кайтып келем.
Мен көбүнчө сиздин аргументиңизди сатып алам. Мен айтып бере алам деп ойлогон кичинекей каршы аргументти айтайын. Шайлоо урнасынын сыртында болушу мүмкүн болгон дагы бир нерсе, көбүктүн чыгышы, туурабы? Бул компаниялардын баары эле марага жете алышпайт жана керектөөчү AI колдонмолоруна ылайыктуу продукт базары жок. Дагы бир жолу, мен аны азырынча такыр көрө элекмин, бирок мен керектөөчүлөрдүн технологиялык серепчисимин, балким, менде башкаларга караганда жогору стандарттар бар.
Бизнес дүйнөсүндө өнүм рыногу бар, туурабы? Бир топ AI агенттерине ээ болуу, бир топ программалык камсыздоону жазуу бул куралдар үчүн чыныгы рынок болуп көрүнөт. Жана сиз бул компаниялардын аргументтерин окуй аласыз: "Биз коддоону чечтик, демек, биз бардыгын чече алабыз. Эгерде биз программалык камсыздоону жасай алсак, анда бардык көйгөйлөрдү чече алабыз."
Менин оюмча, программалык камсыздоо жасай турган нерселерге реалдуу чектөөлөр бар. Бул бизнес дүйнөсүндө сонун. Программалык камсыздоо иш жүзүндө ар бир көйгөйдү чече албайт, бирок алар ошол жакка жетиши керек. Алар ишти бүтүрүшү керек, балким, баары эле марага жете бербейт. Жана кыйроо болуп, бул көбүк пайда болот, мүмкүн OpenAI же Anthropic же xAI, бул компаниялардын бири иштебей калат жана бул инвестициянын баары жок болот.
Бул таасир этет деп ойлойсузбу? Негизи биринчи суроону берейин. OpenAI IPOнун алдында турат. Сэмдин лидер катары күмөн саноолор көп. Алар марага жетет деп ойлойсузбу?
Мен прогноз кылбайм, бирок менимче, сиз маанилүү жагдайды көтөрөсүз, бул рыноктук стимулдар Силикон өрөөнү үчүн ички мааниге ээ жана учурдагы көбүк динамикасынын кооптуулугу, сынчылардын айтымында, коопсуздук боюнча ылдыйга карай жарышты үзгүлтүккө учуратышы мүмкүн.
Мен буга кошумчалайт элем, эгерде сиз тарыхый артыкчылыкты карасаңыз, анда рыноктук стимулдардын жана коомчулук үчүн потенциалдуу зыяндуу эффекттердин окшош жана өтпөс көрүнүшү бар, анда соттук териштирүүлөр болот. Сиз муну акыркы убакта тынчсыздандырган аймак катары көрүп жатасыз. Сэм Альтман ушул аптада AI компанияларын OpenAI мыйзамсыз өлүмгө байланыштуу соттолгон жоопкерчиликтин айрым түрлөрүнөн коргой турган мыйзамдарды колдоп жатат. Албетте, жоопкерчиликтен ошол калкан үчүн каалоо бар.
Менин оюмча, соттор дагы эле маанилүү механизм боло алат жана бул костюмдар кандайча түзүлөөрүн көрүү абдан кызыктуу болот. Сиз, мисалы, мен жана башка көптөгөн авторлор мүчө болуп саналган Anthropic компаниясына автордук укук астында болгон китептерди колдонгону үчүн класстык доо арызды көрдүңүз. Эгерде биз тарыхый жактан чоң тамекиден баштап чоң энергияга чейин көргөндөй, кам көрүүчү акылдуу юридикалык акылдар жана доогерлер бар болсо, сиз дагы бир аз тосмолорду жана стимулдарды басаңдатуу, этият болуу же адамдарды ушундай жол менен коргоо үчүн ала аласыз.
Бул AI индустриясынын бүткүл чыгым структурасы адилеттүү колдонуунун абдан кайрымдуу чечмелөөгө илингендей сезилет. Жетишпейт. Бул компаниялардын чыгымдарынын түзүмү көзөмөлдөн чыгып кетиши мүмкүн, эгерде алар сизге жана алар жумушун аткаргандардын баарына төлөшү керек, бирок бул жөнүндө ойлонуу ыңгайсыз, ошондуктан биз бул жөнүндө ойлонбойбуз. Анын жанында азыр бул продукциялардын баары чыгаша менен иштеп жатат. Бүгүнкүдөй, алардын баары жоготуу менен иштеп жатышат. Алар жасай алгандан көбүрөөк акчаны күйгүзүп жатышат. Кайсы бир убакта алар которгучту которушу керек.
Сэм бизнесмен. Сиз бир нече жолу белгилегендей, ал технолог эмес. Ал ишкер адам. Сиздин оюңузча, ал которгучту которуп, "Биз доллар табабыз?" деп айтууга даярбы? Анткени мен: "Сен OpenAI муну жасай алат деп ойлойсуңбу?" Алар долларга ээ болушу керек. Ал эми ушул убакка чейин Сэм өзүнүн бардык долларларын башка адамдардан акча сурап, анын компаниялары акча табууну талап кылуу менен тапкан.
Бул Силикон өрөөнү үчүн, инвесторлор үчүн, коомчулук үчүн чоң суроо.Сиз OpenAIден кээ бир билдирүүлөрдү жана кыймылдарды көрүп жатасыз, бул кандайдыр бир дүрбөлөңгө түшкөндөй сезилет. Сораны япмакъ, бир къадар комекчи проектлерни япмакъ, непзюгю продуктыны нюлге тырыш. Бирок, экинчи жагынан, сиз дагы эле, ошол эле учурда, тонналаган миссиянын сойлоп жатканын көрүп турасыз, туурабы? Кичинекей эле мисал - бул алардын бизнесинин негизгиси эмес - TBPN сатып алуу.
Айтмакчы, биз марага жана фактчекингге жеткенибизде, мындай журналисттик текшерүүгө дуушар болгон компания сүйлөшүүнү түз көзөмөлдөй турган аянтчага ээ болду. Менин оюмча, көптөгөн инвесторлор мен болгон сүйлөшүүлөрдүн негизинде, бардык адамдарга бардык нерсени убада кылуу көйгөйү негизги бизнес моделиндеги көңүл буруунун жетишсиздигине да байланыштуу деп тынчсызданышат. Айтайын дегеним, сиз мага караганда базарды болжолдоо жана карап турган түргө жакынсыз. Мен сизди жана угуучуларды OpenAI которгучту которушу мүмкүн деп эсептейби деген калыстык кылуу үчүн калтырам.
Макул, мен суроону бердим, анткени сизде Microsoftтун жогорку даражалуу жетекчисинин цитатасы бар жана ал Стив Жобско эмес, "Сэмдин мурасы Берни Мэдофф же Сэм Банкмен-Фридге көбүрөөк окшош болушу мүмкүн" деген. Бул абдан салыштыруу. Сиз бул салыштырууну эмне кылдыңыз?
Мен бул парафраза деп ойлойм. Стив Джобс бөлүгү цитатанын бир бөлүгү болгон эмес. Бирок анын бир кызыктуу түрү бар, анткени ал: "Менин оюмча, анын SBF же Мэдофф деңгээлиндеги шылуун болуп калышына кичинекей, бирок реалдуу мүмкүнчүлүк бар" деп айтылат. Менин оюмча, Сэмди алдамчылыктын же кылмыштуулуктун конкреттүү түрлөрү боюнча айыпталып жатканы эмес, бирок Сэмди шылтоо жана алдоо даражасы акыры ошол масштабда эсте калуу мүмкүнчүлүгүнө ээ болушу мүмкүн.
Ооба, менин оюмча, бул цитатанын эң таң калыштуусу, чынын айтсам, сиз Microsoft компаниясына чалып, "Бул жинди. Биз муну эч качан уккан эмеспиз" деген лайк алган эмессиз. Сизге "Ооба, бул жерде көп адамдар ушинтип ойлошот" деген сыяктуу сөздөрдү көп аласыз, бул таң калыштуу. Менимче, бул бизнес суроолоруна жооп берет.
Маселен, бир инвестор мага бул өзгөчөлүк аткылоодон кийинки жылдарда сакталып калганын эске алуу менен айтып берди" - бул дагы кызыктуу эстүү ой деп ойлоду - бул Сэм сөзсүз түрдө тизменин абсолюттук ылдыйында болушу керек эмес, мисалы, адамдардын эң төмөнкүсү болушу керек, бул технологияны таптакыр курбашы керек. ал, балким, AGI кура турган адамдардын тизмесинин ылдый жагында жана бул тармактагы башка бир нече алдыңкы фигуралардын астында болушу мүмкүн.
Ошентип, мен бул кызыктуу баа болду деп ойлогом, менимче, сиз чыныгы прагматиктерден, балким, коопсуздук маселесине анча маани бербеген адамдардан аласыз деп ойлойм. Алар жөн гана өсүүгө багытталган жана алар OpenAIде азыр Сэм Альтман менен көйгөй бар деп ойлошот.
Microsoft бөлүгү чынында эле кызыктуу. Бул компания аларды дүйнөнүн чокусунда деп ойлогон. Алар бул инвестицияны жасап, бардыгын, өзгөчө жана эң негизгиси, Google'ду секирип, керектөөчүлөрдүн жакшы ырайымына ээ болушкан. Бул укмуштуу окуядан алардын күйүп калганын сезген деңгээли - бул абдан сергек компания - менимче, ашыкча баалоого болбойт.
Сиз каармандарды жана инсандык сапаттарды айттыңыз. Ушул жерден угармандарыбыздын суроосу менен аяктагым келет. Мен башка шоубузда, The Vergecast, сиз менен сүйлөшөм деп айттым жана мен: "Эгерде Ронанга бул окуя боюнча суроолоруңуз болсо, мага кабарлаңыз" дедим. Ошентип, бизде бул жерде сиз сүрөттөп жаткан нерсе менен тыгыз байланышта деп ойлойм. Мен аны сага окуп берейин деп жатам:
"Альтман жана башка AI лидерлеринин жаман жүрүм-туруму, кыянаттык аракеттери үчүн негиздөөлөр Ронандын саясаттагы жана медиадагы башка жогорку деңгээлдеги лидерлерден уккан негиздемелеринен эмнеси менен айырмаланат? Алардын баары дүйнө ушундай өзгөрөт деп өз иштерин актабайбы? Мен муну кылбасам, башка бирөө жасайбы?»
Ооба, айланасында көп нерсе бар. Мен айтаар элем, AI үчүн өзгөчөлүк - экзистенциалдык коюмдардын ушунчалык уникалдуу жогору болушу тобокелдик жөнүндөгү билдирүүлөрдүн тең экстремалдуу экенин билдирет, туурабы? Сизде Сэм Альтман бар"Бул баарыбыз үчүн жарык болушу мүмкүн" деп. Ошондой эле, сынчылар айтышы мүмкүн, суроо берүүчү айтып жаткан мания экстремалдуу, туурабы?
Сэм Элонду айыптаган нерсе, балким, ал адамзатты сактап калгысы келет, бирок ал болсо гана. Жеңүүнү каалаган эго компоненти, бул Сэм ар дайым колдонот жана бул тарых китептери үчүн, бул бардыгын өзгөртө алат. Ошондуктан, Силикон өрөөнүндөгү ишканалардын көпчүлүгүнүн “бир нече жумурткасын сындырышың керек” деген ойдон тышкары, AI жетектеген кээ бир фигуралардын оюнда, менимче, ар кандай жана бардык кыйроолор үчүн толук рационализация бар.
Жана жумуртканы сындырууну унутпаңыз. Мен / мен ойлойм, көптөгөн коопсуздук изилдөөчүлөрү өлкөнү бузуп, дүйнөнү бузуп, жумушу менен коопсуздугу тең салмакта турган миллиондогон адамдарды сындырышы мүмкүн деп айтышат - бул анын өзгөчөлүгү. Мына ушул жерде мен бул отчеттуулук жөнүндө ой жүгүртүп, бул Сэм Альтманга караганда көбүрөөк нерсеге ишенип, бүтүрдүм. Бул чектөөсүз тармак жана Американын аны чектей албаган спирал проблемасы жөнүндө.
Ооба. Ооба, ал жерде бизде кандайдыр бир оптимизм бар болчу, бирок мен аны таштап кетүүгө жакшы жер деп ойлойм.
[Күлүп] Аягы жамандык менен бүттү.
Албетте. Бул, чынында эле, ар бир улуу окуя. Маск-Алтман соту алдыда. Мен бул жерден дагы көп нерсени үйрөнөбүз деп ойлойм. Мен сени менен дагы сүйлөшкүм келет деп ойлойм. Ронан Фарроу, Декодерде болгонуңуз үчүн чоң рахмат.
Рахмат.
Бул эпизод боюнча суроолор же комментарийлер? [email protected] дарегине кайрылыңыз. Биз чындап эле ар бир катты окуйбуз!
