Өнөөдөр Decoder дээр би эрэн сурвалжлах сурвалжлагын хамгийн том одуудын нэг Ронан Фарроутай ярилцаж байна. Тэрээр бусад олон хүмүүсийн дунд Харви Вайнштейний түүхийг эвдсэн. Өнгөрсөн долоо хоногт тэрээр хамтран зохиолч Эндрю Маранцтай хамт The New Yorker сэтгүүлд OpenAI-ийн гүйцэтгэх захирал Сэм Алтман, түүний найдвартай байдал, OpenAI-ийн өсөлтийн талаар гайхалтай гүнзгийрүүлсэн нийтлэл нийтлэв.
Эндээс цааш явахын өмнө нэг тэмдэглэл - Нью Йоркер тэр түүхийг нийтэлсэн бөгөөд Ронан бид хоёр Альтманы гэрт халдсан халдлагыг бүрэн мэдэхээс өмнө ийм яриа өрнүүлсэн тул та бидний энэ тухай шууд ярихыг сонсохгүй. Гэхдээ зүгээр л хэлэхийн тулд ямар ч төрлийн хүчирхийллийг хүлээн зөвшөөрөх боломжгүй, Сэм рүү хийсэн эдгээр халдлагууд нь хүлээн зөвшөөрөгдөхгүй бөгөөд ийм төрлийн хүчирхийлэлд хүргэдэг хүмүүсийн мэдэрдэг арчаагүй байдал нь өөрөө хүлээн зөвшөөрөгдөхгүй бөгөөд энэ нь салбарынхан болон манай улс төрийн удирдагчдын аль алинаас нь илүү нягт нямбай шалгах нь зүйтэй гэж би бодож байна. Энэ нь ойлгомжтой гэж найдаж байна.
Verge захиалагчид, та подкастаа хаанаас ч авсан зар сурталчилгаагүй декод тайлагчийг ашиглах эрх авахаа бүү мартаарай. Наашаа яв. Захиалагч биш үү? Та энд бүртгүүлж болно.
Ронан, Эндрю хоёрын хийхээр зорьсон тайлагналын төрөл нь Алтманы эргэн тойронд маш нарийн тайлагнах шударга тоглоом юм. ChatGPT-ийн алдар нэрийн ачаар Алтман хиймэл оюун ухааны салбарын хамгийн тод томруунаар тодорч, нэг удаа ашгийн бус судалгааны лабораторийг хэдхэн жилийн дотор бараг их наяд долларын хувийн компани болгож чадсан юм. Гэхдээ Алтманы тухай домог нь маш их зөрчилддөг бөгөөд түүний илт наймаа хийх чадвар, түүний эргэн тойронд байгаа бүх хүмүүст худал хэлэх хандлага зэрэг нь адилхан тодорхойлогддог.
Энэ түүх нь 17,000 гаруй үгтэй бөгөөд 2023 онд OpenAI-ийн захирлуудын зөвлөл Алтманыг худал хэлсэн хэргээр гэнэт халж, түүнийг бараг тэр даруй ажилд нь авахын тулд юу болсныг тодорхой өгүүлсэн байж магадгүй юм. Энэ нь бас Алтманы хувийн амьдрал, түүний хөрөнгө оруулалт, Ойрхи Дорнодын мөнгөтэй холбоотой байдал, түүний өмнөх зан авир, зан чанарын талаархи өөрийн эргэцүүлэл зэрэг нь түүнийг "үнэнээр хязгаарлагдахгүй" гэж хэлэх эх сурвалж юм. Би танд түүхийг бүхэлд нь уншихыг санал болгож байна; Би үүнийг олон жилийн турш лавлана гэж бодож байна.
Ронан энэ нийтлэлийг тайлагнахад зарцуулсан 18 сарын хугацаанд Алтмантай олон удаа ярилцсан бөгөөд миний сонирхож байсан гол зүйл бол тэр Альтман дахь өөрчлөлтийг мэдэрсэн эсэх явдал байв. Эцсийн эцэст сүүлийн нэг жил хагасын хугацаанд хиймэл оюун ухаан, технологи, дэлхийд маш их зүйл болсон.
Та Ронан энэ тухай шууд ярихыг сонсохоос гадна хүмүүс Алтманы үнэнийг дэлгэх чадварын талаар ярихад илүү бэлэн болсон гэсэн мэдрэмжийг сонсох болно. Хүмүүс Алтман шиг хүмүүсийн зан авир нь зөвхөн хиймэл оюун ухаан, технологид төдийгүй нийгмийн хамтын ирээдүйд хамаатай эсэхийг чанга дуугаар гайхаж эхэлж байна.
За: Ронан Фарроу Сэм Алтман, хиймэл оюун ухаан ба үнэний тухай. Энд байна.
Энэхүү ярилцлагыг урт, ойлгомжтой болгох үүднээс бага зэрэг засварласан болно.
Ронан Фарроу, та эрэн сурвалжлах сурвалжлагч бөгөөд The New Yorker сэтгүүлд хувь нэмэр оруулдаг хүн юм. Декодерт тавтай морил.
Энд байгаадаа баяртай байна. Намайг байсанд баярлалаа.
Би тантай ярилцахдаа маш их баяртай байна. Та саяхан The New Yorker сэтгүүлд том зохиол бичсэн. Энэ бол Сэм Алтманы профайл ба үүнтэй адил OpenAI юм. Миний уншсан зүйл бол бүх гайхалтай шинж чанаруудын нэгэн адил нарийн тайлагналт нь хүмүүсийн Сэм Алтманы талаар удаан хугацааны туршид мэдэрч байсан олон мэдрэмжийг баталгаажуулдаг. Та үүнийг нийтэлсэн нь тодорхой, та үүнд хариу үйлдэл үзүүлсэн. Та яг одоо энэ талаар ямар сэтгэгдэлтэй байна вэ?
Анхаарал татах эдийн засаг нь шизофрени, гүехэн байдаг цаг үед энэ нь хэр зэрэг эвдэрсэнд би үнэхээр их баярласан. Энэ бол миний бодлоор бид бүгдэд нөлөөлдөг түүх юм. Би амьдралынхаа нэг жил хагасыг, миний хамтран зохиолч Эндрю Маранц ч мөн адил шүүх эмнэлгийн, нарийн нямбай зүйл хийхийг хичээж өнгөрүүлэхдээ энэ түүхийн гол цөмд хувь хүн, компаниас гадна хүмүүст нөлөөлдөг илүү том бүтцийн асуудлууд байгаа юм шиг санагддаг.
Сэм Алтман, Цахиурын хөндийн шуугиан тарьж буй соёл, гарааны бизнесүүд ирээдүйд биелэх эсвэл биелэхгүй байх амлалтууд дээр тулгуурлан асар их үнэлэмжийг бий болгож, өөр өөр бүлгүүдэд өөр хоорондоо зөрчилдсөн зүйлийг хэлэх нь нэг онцлог шинж биш гэж боддог үүсгэн байгуулагчийн соёл улам бүр нэмэгдэж байгаагийн эсрэг.алдаа... Тэр ч байтугай Сэм Алтман бол Цахиурын хөндийд ийм зүйлийг хүлээж байгаа хүн бүр түүний найдвартай байдал, үнэнч байдлын тухай энэ асуултын талаар ярихаа больдоггүй онцгой тохиолдол юм.
Бид түүнийг шударга бус үйлдэл, худал хэлсэн гэх хэд хэдэн хувилбарын улмаас ажлаас нь халсан гэдгийг аль хэдийн мэдэж байсан. Гайхалтай нь, гайхалтай мэдээллүүд гарч байсан ч Keach Hagey энэ талаар маш сайн ажилласан. Карен Хао энэ талаар маш их ажил хийсэн. Бодит нотлох баримтууд болон тэдгээр нь яагаад олон нийтийн анхаарлын төвд ороогүй шалтгаануудын талаар тодорхой ойлголт байгаагүй.
Нэгдүгээр зүйл бол манай олон нийтийн мэдлэг, тэр ч байтугай Цахиурын хөндийн хүмүүсийн мэдлэгийн зарим цоорхойг одоо арай илүү нөхсөнд сэтгэл хангалуун байна. Цоорхой байсан зарим шалтгаануудыг бага зэрэг нөхсөн.
Энэ компанийн доторх хүмүүст аливаа зүйлийг нуун дарагдуулсан эсвэл зориудаар баримтжуулаагүй мэт санагдсан тохиолдлуудыг бид мэдээлдэг. Энэ түүхийн шинэлэг зүйлсийн нэг бол WilmerHale-ийн хийсэн гол хуулийн фирмийн мөрдөн байцаалт бөгөөд энэ нь Enron болон WorldCom-ын мөрдөн байцаалтыг хийсэн тансаг, найдвартай, том хуулийн фирм болох нь ойлгомжтой. УилмерХейл энэ мөрдөн байцаалтыг хийж, Алтманыг ажлаас нь халах нөхцөлөөр халсан ТУЗ-ийн гишүүдийн шаардсан бөгөөд тэрээр буцаж ирэв. Гайхалтай нь - миний ярьсан олон хуулийн мэргэжилтнүүдийн нүдээр, мөн энэ компанийн олон хүмүүсийн нүдэн дээр тэд үүнийг бичихгүй байсан. Үүнээс гарсан бүх зүйл бол итгэлцэл эвдэрсэн гэж тайлбарласан OpenAI-ийн 800 үгтэй хэвлэлийн мэдэгдэл байв. Үүнийг бид аман танилцуулгад хадгалсан гэдгийг баталсан.
Жишээлбэл, ТУЗ-ийн гишүүн OpenAI-ийн анхны ашгийн бус маягтыг ашгийн төлөө байгууллага болгохын эсрэг санал өгөхийг хүсч байгаа бөгөөд энэ нь түдгэлзсэн гэж бүртгэгдсэн тохиолдол байдаг. Хурал дээр нэгэн хуульч "За, энэ нь хэтэрхий их шалгалтыг өдөөж магадгүй юм" гэж хэлэх шиг байна. Эсрэг санал өгөхийг хүссэн хүн бүх хуралдаанд оролцохгүй гэж бичигддэг. Бодит маргаан байна. OpenAI нь таны төсөөлж байгаачлан өөрөөр мэдэгддэг. Энэ бүхэн нь бидний ирээдүйг гартаа атгах компанитай байх тохиолдол юм.
Аюулгүй байдлын гадас маш хурц тул тэд арилаагүй байна. Энэ нь энэ компанийг аюулгүй байдалд анхаардаг ашгийн бус байгууллага хэлбэрээр үүсгэн байгуулсан бөгөөд эргэн тойрных нь найдвартай хүмүүст мэргэжлийнхээс доогуур гэж ойлгогдохоор бүх зүйл бүрхэг байсан юм. Мөн та үүнийг утга учиртай зохицуулалт хийх улс төрийн хүсэл сонирхол багатай фонтой хослуулж байна. Энэ бол маш шатамхай нөхцөл байдал гэж би бодож байна.
Миний хувьд гол зүйл бол зөвхөн Сэм Алтман эдгээр асуултыг маш их хүртэх ёстой гэсэн үг биш юм. Мөн энэ салбарт ажиллаж буй эдгээр залуусын хэн нь ч, мөн гол дүрүүдийн ихэнх нь энэ өвөрмөц бус юмаа гэхэд үргэлж худал хэлдэг зан чанарыг харуулдаг бөгөөд аюулгүй байдлыг сахин хамгаалж байсан хүмүүс эдгээр амлалтыг бууруулж, хүн бүр уралдаанд оролцох хандлагатай байдаг.
Антропикийн сүүлийн үеийн мэдээллийг харахад энэ хэсэгт хэн хуруугаа дарах ёстой вэ гэсэн асуултыг тавьж байгаа хүн байгаа гэж би бодож байна. Хариулт нь, хэрэв бидэнд утга учиртай хяналт байхгүй бол бид нухацтай асуулт асууж, эдгээр бүх залуусын талаар аль болох их мэдээлэл өгөхийг хичээх ёстой гэж би бодож байна. Тиймээс энэ тухай утга учиртай яриа юм уу эсвэл нэг ярианы эхлэл мэт санагдаж байгаа нь миний сэтгэлийг хөдөлгөсөн.
Яагаад ингэж асуусан бэ гэхээр та энэ тал дээр жил хагас ажилласан. Та хамтран зохиолч Эндрютэй 100 хүнтэй ярилцсан гэдэгт би итгэдэг. Энэ бол түүхийг бэлтгэхэд удаан хугацаа юм. Би сүүлийн нэг жил хагасын тухай бодож байна, ялангуяа хиймэл оюун ухаан, хүү минь, эдгээр бүх дүрүүдийн хандлага, үнэ цэнэ маш хурдан өөрчлөгдсөн.
Магадгүй тэд ChatGPT-ийг гаргаснаар анхдагч ялагч болж эхэлсэн Сэм Алтманаас өөр зүйл байхгүй ч хүн бүр Google-ийн эрхийг авна гэж бодсон. Дараа нь Google хариулсан нь Google бизнесээ хамгаалахыг хичээх болно гэж гайхсан бололтой, магадгүй бизнесийн түүхэн дэх хамгийн шилдэг бизнесүүдийн нэг юм. Антропик нь аж ахуйн нэгжид анхаарлаа хандуулахаар шийдсэн. Захирамжаар удирдаж байх шиг байнаУчир нь аж ахуйн нэгжийн хиймэл оюун ухааны хэрэглээ маш өндөр байдаг.
Одоо OpenAI бүтээгдэхүүнээ "бид Google-ийг ашиглах болно" гэснээс Codex рүү шилжүүлж, тэд аж ахуйн нэгжийг авах гэж байна. Таны сүүлийн жил хагасын хугацаанд сурвалжлага хийх явцад таны ярилцаж байсан дүрүүд өөрчлөгдсөн юм шиг санагдаж байна уу гэдгийг би сайн хэлж чадахгүй байна уу? Тэдний хандлага, үнэт зүйлсийн нэгэн адил эдгээр нь өөрчлөгдсөн үү?
Тиймээ. Юуны өмнө энэ нийтлэлд тусгагдсан эдгээр компаниудын доторх олон хүмүүсээс ирсэн шүүмжлэл нь энэ салбар хэдийгээр оршин тогтнох эрсдэлтэй хэдий ч аюулгүй байдлын хувьд доод тал руугаа уралдаж, хурд нь бусад бүх зүйлийг даван туулж байна гэсэн шүүмжлэл улам хурцадсан гэж би бодож байна. Өнгөрсөн жил хагасын хугацаанд эдгээр санаа зовоосон асуудлууд илүү батлагдсан гэж би бодож байна. Үүний зэрэгцээ Сэм Алтманы талаарх хандлага онцгой өөрчлөгдсөн. Биднийг энэ талаар эх сурвалжтай ярьж эхлэхэд хүмүүс энэ талаар эш татан, энэ тухай бичлэг хийхээс үнэхээр, үнэхээр болгоомжилж байсан.
Бидний сурвалжлагын төгсгөлд та хүмүүс энэ талаар маш илэн далангүй, илэн далангүй ярьж, ТУЗ-ийн гишүүд "Тэр бол патологийн худалч. Тэр бол социопат" гэх мэт зүйлийг илтгэдэг. "Аюулгүй байдлын үүднээс энэ нь аюултай, бидэнд шударга ёсыг дээдэлсэн энэ технологийн удирдагчид хэрэгтэй байна" гэхээс эхлээд "Аюулгүй байдлын гадасыг март, энэ нь аливаа томоохон компанийн удирдах албан тушаалтны хувьд боломжгүй зан үйл бөгөөд энэ нь хэт их үйл ажиллагааг доголдуулдаг" гэх мэт олон янзын үзэл бодол байдаг.
Тиймээс энэ яриа хоцрогдсон мэт боловч нэг талаараа сэтгэл хөдөлгөм байдлаар илүү тодорхой болсон. Мөн Сэм Алтман, түүний үнэлэмжээр ... Энэ бүтээл нь маш шударга, бүр өгөөмөр юм гэж би Сэмд хэлэх болно. Энэ бол "чамайг авсан" зүйл их байсан тийм бүтээл биш юм. Бид үүнийг дуусгаж байхад би түүнтэй олон цагийг утсаар ярьж, түүний яриаг үнэхээр сонссон.
Таны төсөөлж байгаачлан ийм зохиолд бүх зүйл багтахгүй. Энэ удаагийнх зарим тохиолдлууд нь би чин сэтгэлээсээ сонсож байсантай холбоотой. Хэрэв Сэм үнэхээр надад ус зөөвөрлөж, ямар нэг зүйл, тэр нь үнэн байсан ч сенсаци үүсгэж болзошгүй гэж маргаж байсан бол би энэ шүүх эмнэлгийн дүгнэлт, хэмжилтийг хийх тал дээр үнэхээр алдаа гаргасан. Тиймээс би үүнийг зөвөөр хүлээн авч байна гэж бодож байгаа бөгөөд энэ хугацаанд хуримтлагдсан баримтууд нь хяналт тавих хэрэгцээний талаар илүү хүчтэй яриа өрнүүлж чадна гэж найдаж байна.
Энэ бол үнэндээ миний дараагийн асуулт. Та энэ түүхийг мэдээлэх явцад Сэмтэй хэдэн арван удаа ярилцсан гэж бодож байна. Дахин хэлэхэд, энэ бол удаан хугацааны туршид маш олон яриа юм. Сүүлийн жил хагасын хугацаанд Сэм өөрчлөгдсөн гэж та бодож байсан уу?
Тиймээ. Сэм Алтман энэ зан чанарын талаар урьд өмнөхөөсөө илүү тодорхой ярьж байгаа нь хамгийн сонирхолтой дэд үйл явдлуудын нэг гэж би бодож байна. Энэ хэсэг дэх Сэмийн байр суурь нь "Тэнд юу ч байхгүй, энэ үнэн биш, би чиний юу яриад байгааг мэдэхгүй байна." Энэ нь хүмүүст таалагдах хандлага, зөрчилдөөнийг үл тоомсорлох хандлагатай холбоотой гэж тэр хэлдэг. Энэ нь түүнд, ялангуяа карьерийнх нь эхэнд асуудал үүсгэсэн гэдгийг тэр хүлээн зөвшөөрч байна.
Тэр "За, би үүнийг даван туулж байна, эсвэл ямар нэг хэмжээгээр өнгөрсөн байна" гэж хэлж байна. Миний хувьд хамгийн сонирхолтой зүйл бол бидний ярилцсан хүмүүсийн бүрэлдэхүүн нь зөвхөн аюулгүй байдлын талаар сурталчлагчид төдийгүй эдгээр аюулгүй байдлын асуудалд байнга тулгардаг үндсэн техникийн судлаачид төдийгүй прагматик, томоохон хөрөнгө оруулагчид байсан гэж би бодож байна. Тэд Сэмийг дэмжигчид бөгөөд зарим тохиолдолд энэ асуултыг харж, түүнийг халагдсаны дараа буцаж ирэхэд гол үүрэг гүйцэтгэсэн гэж ярьдаг. Одоо тэр шинэчлэгдсэн эсэх, энэ өөрчлөлт нь хэр зэрэг ач холбогдолтой вэ гэсэн асуултад тэд "За, тэр үед бид түүнд эргэлзээ төрүүлсэн" гэж хэлдэг.
Тэр дундаа нэгэн нэр хүндтэй хөрөнгө оруулагч "Гэхдээ тэр үеэс хойш түүнийг модны амбаарын ард гаргаагүй нь тодорхой юм шиг байна" гэж хэлсэн нь энэ хүний шаардлагатай хэмжээнд хэрэглэгдэж байсан хэллэгийг би санаж байна. Үүний үр дүнд энэ нь одоо тогтвортой шинж чанар болсон юм шиг санагддаг. Бид үүнийг байнгын байдлаар харж байна. Та OpenAI-ийн хамгийн том бизнесийг үзэж болнохарилцаа, тэдгээр үл итгэх байдлын ачааллыг тасралтгүй үүрч байгаа хэлбэр.
Майкрософт компанийн нэгэн адил та тэнд байгаа удирдлагуудтай ярилцдаг бөгөөд тэд үнэхээр хурц бөгөөд сүүлийн үед санаа зовоосон асуудалтай байгаа. Яг тэр өдөр OpenAI нь харьяалалгүй хиймэл оюун ухаантай загваруудын хувьд Microsoft-той онцгой эрхтэй гэдгээ дахин баталж байгаа нь Amazon-той хийсэн шинэ хэлэлцээрийг зарлаж байгаа бөгөөд энэ нь AI агентуудыг төлөвшүүлэх, өөрөөр хэлбэл санах ойтой гэсэн үг юм.
Та Майкрософт-ын хүмүүстэй ярилцахад тэд "Бидний онцгой эрхийн гэрээ байгуулсан үндсэн зүйлтэй харилцахгүйгээр үүнийг хийх боломжгүй" гэж хэлдэг. Энэ бол энэ шинж чанар нь байнгын бизнесийн үйл ажиллагаанд чиглэгддэг бөгөөд OpenAI-ийн удирдах зөвлөл, гүйцэтгэх удирдлага болон өргөн хүрээний технологийн нийгэмлэгт идэвхтэй анхаарал хандуулдаг олон жижиг жишээнүүдийн нэг юм.
Та энэ "зан чанар" гэж байнга хэлдэг. Түүхэнд миний хувьд дипломын ажил мэт санагдах мөр бий бөгөөд энэ нь таны дүрсэлж буй зан чанарын тайлбар юм. Энэ бол "Сэм Алтман үнэнд баригддаггүй" бөгөөд түүнд "нэг хүнд бараг хэзээ ч харагддаггүй хоёр шинж чанар байдаг: эхнийх нь хүмүүст таалагдах, аливаа харилцаанд таалагдах хүсэл эрмэлзэл, хоёр дахь нь хэн нэгнийг хууран мэхлэхээс үүдэн гарах үр дагаврыг үл тоомсорлодог бараг социопатик байдал юм."
Би та нарт хэлэх ёстой, би тэр өгүүлбэрийг 500 удаа уншсан, би үргэлж хүмүүст юу таалагдахыг хүсч байгаагаа хэлж, дараа нь худал хэлэхийг мэдрэх үед бухимдахгүй байхыг төсөөлөхийг хичээсэн. Мөн эдгээр зүйлс нэг хүнд хэрхэн оршиж болохыг би сэтгэл хөдлөлөө ойлгуулж чадаагүй. Та Сэмтэй олон удаа ярилцаж, эдгээр зан чанарыг мэдэрсэн хүмүүстэй ярилцсан. Тэр яаж үүнийг хийдэг вэ?
Тиймээ. Энэ нь хүний түвшинд сонирхолтой юм, учир нь би ийм сурвалжлагад гол анхаарлаа хандуулж байгаа хүмүүсийг хүнлэг болгох, гүн гүнзгий ойлголт, өрөвдөх сэтгэлийг эрэлхийлэхэд анхаарч ажилладаг. Би үүнд илүү хүний байр сууринаас хандаж, "Хөөе, хэрэв миний хамтран ажиллаж байсан олон хүмүүс намайг эмгэгийн худалч гэж хэлсэн бол энэ нь намайг сүйрүүлэх болно. Чи яаж ийм жинтэй байдаг юм бэ? Та энэ талаар эмчилгээнд хэрхэн ярьдаг вэ? Та энэ талаар ямар түүх ярьдаг вэ?"
Миний бодлоор Баруун эргийн талаар "Тиймээ, би амьсгалын дасгалд дуртай" гэх мэтээр ярьдаг. Гэхдээ бидний зан байдал, хүмүүст хандах хандлагын талаар ийм төрлийн санал хүсэлтийг олж харвал бидний ихэнх нь өөртэйгөө сөргөлдөөнтэй байх тийм ч их биш юм.
Энэ нь асуултын илүү өргөн хариулттай холбоотой гэж би бодож байна. Сэм энэ зан чанар нь асуудал үүсгэсэн боловч OpenAI-ийн өсөлтийг хурдасгаж, өөр өөр бүлгүүдийг нэгтгэж, баярлуулах чадвартай болсон зүйлийн нэг хэсэг гэж батлав. Тэрээр эдгээр зөрчилдөөнтэй бүх тойргийнхныг өөрт нь санаа тавьдаг зүйл гэж байнга итгүүлдэг. Энэ нь үүсгэн байгуулагчийн хувьд үнэхээр хэрэгтэй ур чадвар байж болох юм. Би хөрөнгө оруулагчидтай ярилцсан бөгөөд тэд "Магадгүй энэ нь компанийг удирдахад ашиггүй ур чадвар байж магадгүй, учир нь энэ нь маш их зөрчилдөөн үүсгэдэг."
Гэхдээ Сэмийн хувийн тал дээр би хүний түвшинд холбогдохыг оролдохдоо миний олж авдаг зүйл бол илүү гүнзгий сөргөлдөөн, эргэцүүлэн бодох, өөртөө хариуцлага хүлээх чадваргүй байгаа нь илт харагдаж байгаа бөгөөд энэ нь IPO хийхээр бэлтгэж буй компанийн хувьд супер хүч эсвэл хариуцлага гэдгийг илтгэж байна гэж би боддог.
Тэр бол ТУЗ-ийн гишүүн асан Сью Юн гэгчийн хэлснээр бол түүний ашигладаг хэллэг бол "ер бусын" гэсэн үг бөгөөд борлуулалтын чиглэлийнхээ өөрчлөгдөж буй бодит байдалд үнэхээр итгэж чаддаг эсвэл түүнд өөрийгөө итгүүлж чаддаг хүн юм. Эсвэл ядаж тэр тэдэнд итгэхгүй байгаа бол тэр өөртөө ямар ч эргэлзээгүйгээр тэднийг даван туулж чадна.
Таны ярьж байгаа зүйл бол та эсвэл би хаана ч байж болох юм, бид үүнийг хэлж байгаа бөгөөд энэ нь бидний хийсэн бусад баталгаатай зөрчилдөж байгааг ухаарч, хэсэг хугацаанд царцах эсвэл өөрсдийгөө шалгах үе байх болно гэж би бодож байна. Түүнтэй ийм зүйл болохгүй гэж би бодож байна. Цахиурын хөндийн шуугиан дэгдээх соёл, үүсгэн байгуулагчдын соёл нь илүү өргөн хүрээтэй байдаг.
Энэ нь инээдтэй юм. Verge нь бүтээгдэхүүний тойм дээр тулгуурладагхөтөлбөр. Энэ бол бидний энд хийж буй зүйлийн гол цөм юм. Би жилдээ нэг их наяд долларын Apple-ийн судалгаа шинжилгээний ажилд оролцож, "Энэ утас бол долоо юм" гэж хэлдэг. Мөн энэ нь бидний бүх мэдээ, санал бодлыг бусад газар хууль ёсны болгодог. Бид үнэлгээний функцтэй бөгөөд хиймэл оюун ухааны бүтээгдэхүүнүүдийг хараад л “Тэд ажиллаж байна уу?” гэж маш их цаг зарцуулдаг.
Өнөөдрийнх шиг хиймэл оюун ухааны тухай олон ярианд энэ нь алга болсон мэт санагдаж байна. Энэ нь юу хийж чадах, ямар аюултай байж болох талаар эцэс төгсгөлгүй яриа байдаг. Тэгээд та нар өрөмдөөд, "Энэ үнэхээр өнөөдөр хийх ёстой зүйлээ хийж байна уу?" Зарим тохиолдолд тийм гэж хариулдаг. Гэхдээ олон, олон тохиолдолд хариулт нь үгүй.
Энэ нь таны тайлбарлаж буй шуугиан тарьсан соёлтой холбогдож байгаа юм шиг санагдаж байгаа бөгөөд хэрэв та энэ нь ямар нэг зүйл хийх болно, тэгэхгүй гэж хэлэхэд хэн нэгэн муу санагдах юм бол бид дараагийн зүйл рүү шилжиж байгаа гэсэн утгатай юм шиг санагдаж байна. Энэ бол өнгөрсөн. Ялангуяа хиймэл оюун ухаанд Сэм гайхалтай амлалт өгөхдөө маш сайн.
Яг энэ долоо хоногт, миний бодлоор таны түүхийг нийтэлсэн өдөр OpenAI бодлогын баримт бичгийг нийтэлсэн бөгөөд үүнд бид нийгмийн гэрээг эргэн харж, засгийн газраас AI-ийн үр ашгийн тэтгэлэг авах ёстой. Энэ бол зарим технологи нь дэлхийн ирээдүйг хэрхэн тодорхойлох, бидний хэрхэн амьдрах тухай том амлалт бөгөөд энэ бүхэн технологи нь яг ажиллах болно гэж амласан эсвэл ажиллах ёстой арга барилд тулгуурладаг.
Та Сэмийг хиймэл оюун ухаан, оюун ухаан болон хувирч, барианд ороход эргэлзэж байгааг олж харсан уу? Учир нь энэ бол миний хамгийн их гайхдаг зүйл юм. Энэхүү үндсэн технологи нь тэдний хийж чадах бүх зүйлийг хийж чадах эсэх талаар ямар нэгэн эргэцүүлэл бий юу?
Энэ бол яг зөв асуултуудын багц юм. Энэ тайлангийн хэсэгт бидний ярилцсан найдвартай технологичид байдаг бөгөөд мэдээж Сэм Алтман тийм биш юм; Тэр бол бизнесийн хүн бөгөөд Сэм энэ технологийн цагийн хуваарийн талаар ярьж байгаа нь арай л хол байна гэж хэлдэг. Хэдхэн жилийн өмнөх блог нийтлэлүүд байдаг бөгөөд Сэм "Бид үйл явдлын давхрагад аль хэдийн хүрсэн байна. AGI үндсэндээ энд байна. Супер тагнуулын ажилтнууд булангийн ойролцоо байна. Бид бусад гаригууд дээр байх болно. Бид бүх төрлийн хорт хавдрыг эмчлэх болно." Үнэнийг хэлэхэд, би гоёдоггүй.
Хорт хавдар нь үнэхээр сонирхолтой бөгөөд Сэм нохойныхоо хавдрыг ChatGPT-ээр онолын хувьд эдгээсэн хүнийг гайхшруулж байгаа бөгөөд энэ нь зүгээр л болоогүй юм. Тэд ChatGPT-тэй ярилцсан бөгөөд энэ нь тэдэнд уг ажлыг хийж байсан зарим судлаачдыг чиглүүлэхэд тусалсан боловч энэ нохойг эдгээх ганцаарчилсан хэрэгсэл нь үнэндээ түүх биш юм.
Технологийн боломж болон эрсдэл аль аль нь үнэхээр биелэх гэж байгаа энэ том цэг рүү орохыг хүсч байгаа тул та энэ асуудлыг хөндөж байгаад баяртай байна. Гэхдээ Сэм Алтманаас байнга тохиолддог эдгээр жижиг гажигийг дурдах нь зүйтэй бөгөөд тэрээр энэ зан чанарыг дахин өөртөө шингээдэг бололтой.
WilmerHale-ийн тайлангийн жишээг ашиглавал бид бичихгүй байсан энэ мэдээлэлтэй байсан бөгөөд замдаа аман товч мэдээллийг ТУЗ-ийн хоёр гишүүн Сэм суулгаж өгөхөд нь туслахаас өөр хүнд өгсөн эсэхийг мэдэхийг хүссэн юм. Тэгээд тэр "Тийм ээ, тийм ээ, үгүй, би үүнийг дараа нь удирдах зөвлөлд элссэн бүх хүмүүст өгсөн гэдэгт би итгэдэг." Тэгээд ч энэ бол худлаа гэж шууд л мэдэх хүн манайд байна. Энэ нь үнэхээр тийм юм шиг санагдаж байна, энэ нь худал юм. Өгөөмөр байя гэвэл тэр буруу мэдээлэлтэй байж магадгүй.
Ийм тохиолдлын баталгаа маш олон байдаг. Би энэ жишээг хэсэгчлэн ашиглаж байна, учир нь энэ нь хууль ёсны дагуу бодит үр дагаварт хүргэж болзошгүй, задлах гайхалтай жишээ юм. Делавэрийн корпорацийн хуулийн дагуу, хэрэв энэ компани IPO хийвэл хувьцаа эзэмшигчид 220-р зүйлийн дагуу энэ талаар гомдол гаргаж, үндсэн баримт бичгийг шаардаж болно гэж би хэлэх шаардлагагүй. Удирдах зөвлөлийн гишүүд "За, түр хүлээнэ үү, энэ мэдээлэл болох ёстой байсан" гэх мэт үгсийг хэлж байна.
Тиймээс түүний амнаас байнга үсэрдэг мэт санагддаг эдгээр зүйлс нь зах зээлд бодит нөлөө үзүүлж, OpenAI-д бодит нөлөө үзүүлж чадна. Үүнийг дахин гарч ирсэн утопи шуугиан дэгдээсэн хэллэг рүү буцаан авчрахад энэ бүтээл гарсан өдөр санамсаргүй тохиолдлоор биш бид бүгдэд нөлөөлсөн гэж би бодож байна, учир нь энэ нь аюул заналхийллийн хувьд маш хурц юм.Зэвсэгт зэвсэгт ашиглаж байгаа байдал, химийн дайны бодисыг илрүүлэхэд ашиглаж байгаа байдал, худал мэдээлэл тараах боломж, мөн утопи шуугиан дэгдээж байгаа нь олон найдвартай эдийн засагчдыг "Үүнд хөөс үүсэх бүх шинж тэмдэг байна" гэж хэлэхийг уриалж байна.
Сэм Алтман хүртэл "Хэн нэгэн энд маш их мөнгө алдах болно" гэж хэлсэн. Хэрэв эдгээр бүх компаниуд хоорондоо гэрээ хийж, асар их хэмжээний зээл авахын зэрэгцээ хиймэл оюун ухаанд бүрэн хамрагдаж, хөөс хагарах юм бол энэ нь Америкийн болон дэлхийн эдийн засгийн өсөлтийг үнэхээр сүйрүүлж болзошгүй юм. Тэгэхээр Сэм Алтманы хэлж байгаа зүйл чухал бөгөөд миний бодлоор түүний эргэн тойронд байгаа хүмүүсийн давамгайлал, бид зуу гаруй хүнтэй ярилцсан гэж та хэлсэн, үнэндээ зуу гаруй байсан. Бид барианы шугам дээр "Үүнээс хамаагүй өндөр тоо гэж хэлэхэд хэтэрхий өчүүхэн хэрэг үү?" Тэгээд бид "Тийм ээ, багасцгаая. Бид үүнийг сайхан тоглох болно." Гэхдээ маш олон хүн байсан бөгөөд тэдний ихэнх нь "Энэ бол санаа зовоож байна" гэж хэлдэг. Тэгээд би энэ бүхний учир гэж бодож байна.
Тэр дугаарын талаар асууя. Таны дурьдсанчлан цаг хугацаа өнгөрөх тусам хүмүүс санаа зовоосон асуудалдаа улам бүр нээлттэй болсон. Ялахын төлөөх уралдаан, энэ бүх хөрөнгө оруулалтаа нөхөх, ялагчаар тодрох, IPO хийх зэрэг хөөсийг тойрсон дарамт маш их хандлагыг өөрчилсөн юм шиг санагдаж байна. Энэ нь мэдээж Сэм болон OpenAI-д илүү их дарамт учруулсан.
Бид энэ долоо хоногт OpenAI-ийн тухай өгүүллийг нийтэлсэн. Таны түүх бол үүний нэг хэсэг боловч OpenAI-ийн удирдах албан тушаалтны томоохон өөрчлөлтүүд - хүмүүс ирж, явж байна. Судлаачид бүгдээрээ Антропик руу явж байгаа нь миний бодлоор үнэхээр сонирхолтой юм. Энэ компани дарамтыг мэдэрч байгаа бөгөөд энэ дарамтад ямар нэгэн байдлаар хариу үйлдэл үзүүлж байгааг та харж байна.
Гэхдээ дараа нь би Сэмийг ажлаас халагдсан тухайгаа санадаг. Энэ бол миний хувьд мартагдашгүй зүйл юм. Энэ нь хэнд ч мартагдашгүй зүйл байсан ч би Баасан гаригийн 19:00 цагт Бронкс амьтны хүрээлэнгээс эх сурвалж руу залгахад хэн нэгэн Сэмийг эргүүлэн авах гэж байна гэж хэлсэн. Тэгээд бид амралтын өдрийг тэр түүхийг хөөж өнгөрөөсөн. Тэгээд би зүгээр л "Би амьтны хүрээлэнд байна. Та намайг энд юу хиймээр байна?" Хариулт нь "Утсаар бай" гэсэн. За миний охин "утсаа тасал" гэж байсан. Тэгээд энэ бол миний хийсэн зүйл.
Сэмийг буцааж авахын тулд унах эсвэл үхэх байсан. Тэр компани "Үгүй ээ, бид ТУЗ-д Сэм Алтманыг халахыг зөвшөөрөхгүй" гэж байсан. Хөрөнгө оруулагчид "Бид дайнд явсан" гэж миний бодлоор "Сэмийг эргүүлэн авахын тулд Thrive Capital"-ын байр суурь гэж таны нийтлэлд иш татсан байна. Майкрософт Сэмийг эргүүлэн авахын тулд дайнд орсон. Энэ нь хожим болсон бөгөөд одоо бүгд "Бид IPO хийх гэж байна. Бид барианд орлоо. Бид залуугаа буцааж авлаа, тэр биднийг барианд хүргэх болно. Түүнийг худалч байна гэж бид санаа зовж байна."
Яагаад тэр үед түүнийг эргүүлэн авах дайн байсан юм бэ? Учир нь юу ч өөрчлөгдөөгүй юм шиг санагддаг. Та Илья Суцкевер болон [Антропикийн гүйцэтгэх захирал] Дарио Амодей нар Сэм Алтмантай үе тэнгийнхэн байхдаа хадгалж байсан дурсамжийн тухай ярьж байна. Ильягийн санаа зовоосон асуудал бол Сэм бол худалч юм.
Үүний аль нь ч өөрчлөгдөөгүй. Тэгвэл яагаад түүнийг буцаан авчрах дайн байсан юм бэ? Одоо бид барианы шугам дээр ирсэн тул бүх санаа зовоосон асуудлууд ил гарч байх шиг байна.
Юуны өмнө охиноо, миний хань болон бусад сэтгүүлчдийн эргэн тойронд байгаа хүмүүсийг уучлаарай.
[Инээв] Энэ бол хүн бүрийн хувьд амралтын өдөр байлаа.
Тийм ээ, энэ нь хүний амьдралыг эзэлдэг бөгөөд сүүлийн үеийн энэ түүх минийх байх нь дамжиггүй. Энэ нь үнэндээ сэтгүүл зүй, мэдээлэл олж авах гэсэн энэ сэдэвтэй холбоотой гэж би бодож байна. Сэмийн төлөө дайнд оролцсон хөрөнгө оруулагчид бүгд түүнийг эргэж ирэхэд чухал үүрэг гүйцэтгэсэн бөгөөд өсөлтөөс илүү аюулгүй байдлыг хангах ашгийн бус байгууллагын эрхэм зорилгыг хамгаалах, хэрэв тэдэнд итгэж чадахгүй бол гүйцэтгэх захирлаа халах зорилгоор тусгайлан зохион бүтээсэн ТУЗ-ийг орхисон. Тийм ээ, зах зээлийн хөшүүрэг байсан учраас л тэр байсан биз дээ?
Сэм хүмүүсийг "За яахав, компани зүгээр л задрах болно" гэж итгүүлж чадсан. Гэвч түүнийг дэмжсэн шалтгаан нь мэдээлэл дутмаг байсан. Эдгээр хөрөнгө оруулагчид ихэнх тохиолдолд "Би эргэн харж, хэрэв би нэхэмжлэлийн шаардлага, санаа зовоосон асуудал юу болохыг бүрэн мэдэж байсан бол илүү их санаа зовох ёстой байсан гэж бодож байна" гэж хэлдэг.
Бүгд биш;санал бодол өөр өөр байдаг бөгөөд бид олон тооны санал бодлыг иш татсан боловч маш хэсэгчилсэн мэдээлэл дээр ажиллаж байсан чухал хүмүүс байдаг. Сэмийг халсан самбар нь өмнө нь самбарт байсан нэг хүний хэлснээр "маш JV" байсан бөгөөд тэд бөмбөгийг хүчтэй цохив. Мөн бид үндсэн гомдлуудыг баримтжуулж, хүмүүс энэ нь тэдний мэдэрсэн яаралтай санаа зовоосон асуудалд хуримтлагдах эсэхийг өөрсдөө шийдэх боломжтой, гэхдээ тэр маргаан, мэдээллийг танилцуулаагүй байна.
Тэдний зарим нь одоо муу хууль зүйн зөвлөгөө гэж хүлээн зөвшөөрсөн зүйлийг тэд хүлээн авсан. Үүнийг дүрслэхийн тулд та эшлэлийг санаж байх болно, магадгүй таны олон сонсогч, үзэгчид энэ ишлэлийг илэн далангүй гэж санах байх. Энэ нь багассан зүйл байсан бөгөөд дараа нь тэд үндсэндээ дуудлага хүлээж авдаггүй байв.
Тэд дуудлага хүлээж авахгүй байсан. Та оролдсон гэдэгт итгэлтэй байна. Миний таньдаг бүх хүмүүс оролдсон бөгөөд энэ нь сэтгүүлчийн хувьд та эх сурвалждаа зөвлөгөө өгөх ёсгүй, гэхдээ би "Та өөрийгөө тайлбарлаж эхлэхгүй бол энэ нь алга болно" гэж байсан.
Тэгээд ийм зүйл болсон. Сэтгүүлчдийг март. Та Сатья Наделла "Яасан бэ? Би хэнийг ч надад тайлбарлаж өгөх боломжгүй байна" гэж хэлсэн. Мөн энэ нь компанийн санхүүгийн гол дэмжигч юм. Дараа нь та Сатьяа [LinkedIn-ийн үүсгэн байгуулагч] Рэйд Хоффман, Рид нар руу утасдаж, "Би юу болсныг мэдэхгүй байна" гэж хэлэх болно.
Тэд ийм яаралтай, гэнэтийн халалтыг зөвтгөх хиймэл хиймэл бус уламжлалт үзүүлэлтүүдийг хайж байгаа мэдээлэлгүй байгаа нь ойлгомжтой. Сексийн гэмт хэрэг байсан уу? Энэ нь мөнгө завшсан хэрэг үү? Энэ технологи нь өөр бөгөөд ийм жижиг урвалтуудын тогтмол хуримтлал нь энэ бизнест ч, магадгүй дэлхий дахинд ч чухал ач холбогдолтой байж болох юм гэсэн бүх нарийн, гэхдээ утга учиртай аргументууд алдагдсан. Тиймээс капиталист урамшуулал ялсан ч үүнийг хийсэн хүмүүс гарч, тэр бүр бүрэн мэдээлэлтэй ажилладаггүй байв.
Би энэ мэдээг хараад "Өө, ямар нэг муу зүйл болсон байх" гэж хэлсэн болохоор "бүх хүн юу гэж бодсон бэ" гэсэн зүйлийн талаар нэг хором асуумаар байна. Та маш их #MeToo сурвалжлага хийсэн, алдартай. Та Харви Вайнштейний түүхийг эвдсэн.
Та Алтман насанд хүрээгүй хүүхдүүдэд бэлгийн хүчирхийлэл үйлдсэн, биеэ үнэлэгч хөлсөлсөн, эсвэл бүр OpenAI-ийн мэдээлэгчийг хөнөөсөн гэсэн үндэслэлгүй гэж үзсэн эдгээр мэдэгдлийн талаар мэдээлэхэд маш их цаг зарцуулсан. Та энэ талаар хамгийн хатуу мэдээлэх чадвартай хүн юм. Энэ нь юу ч болоогүй гэж та шийдсэн үү?
За, хар даа, би ямар нэг зүйл бүтэлгүйтлээ гэж хэлэхгүй байна. Миний хэлж чадах зүйл бол би эдгээр нэхэмжлэлийг хайж олон сар зарцуулсан бөгөөд тэдгээрийн баталгааг олж чадаагүй юм. Бидний ирээдүйд маш их эрх мэдэлтэй эдгээр залуус, эдгээр компаниуд хүүхдүүдийн шавартай тэмцэлд үнэхээр их цаг хугацаа, нөөц бололцоогоо зарцуулж байгаа нь надад гайхалтай байсан.
Нэгэн удирдах ажилтан үүнийг "Шекспирийн" гэж тодорхойлдог. Хувийн мөрдөн байцаагчийн мөнгө, сөрөг хүчний хавтаст хэрэг бүрдүүлсэн хэмжээ нь уйгагүй. Харамсалтай нь Сэмийн өрсөлдөгчид тоть руу татдаг ийм өөдгүй зүйл бол зүгээр л таамагласан зүйл, тийм ээ? Түүнийг насанд хүрээгүй хөвгүүдийн араас хөөцөлддөг гэсэн таамаг байдаг бөгөөд Цахиурын хөндий дэх олон коктейлийн үдэшлэг дээр та үүнийг сонсдог. Чуулганы тойргийн үеэр би үүнийг итгэмжит, нэр хүндтэй удирдлагууд "Энэ бол баримт гэдгийг бүгд мэднэ" гэж давтан хэлэхийг би сонссон.
Хамгийн харамсалтай нь би энэ нь хаанаас гардаг, ямар янз бүрийн векторуудаар дамждаг талаар ярьдаг. Элон Маск болон түүний хамтрагчид ийм хэмжээний хатуу файлуудыг шахаж байгаа бололтой. Та үндсэн нэхэмжлэлийг харж эхлэхэд тэд ууртай байдаг. Хамгийн харамсалтай нь энэ нь нотолгоонд суурилсан шүүмжлэлийг бүрхэг болгож байгаа бөгөөд миний бодлоор яаралтай хяналт, анхаарал хандуулах ёстой.
Түүхэнд үнэхээр гарч ирдэг өөр нэг сэдэв бол Сэм маш олон найзтай болсон гэсэн айдас юм - тэр өмнөх Y Combinator-ийн гүйцэтгэх захирлаар ажиллаж байхдаа маш олон компанид хөрөнгө оруулалт хийсэн, зөвхөн хувийн хөрөнгө оруулалтаа хийсэн, зарим нь OpenAI-ийн гүйцэтгэх захирлын үүрэг хариуцлагатай шууд зөрчилдөж байсан - түүний эргэн тойронд чимээгүй байдал бий.
Ялангуяа нэг мөрийг уншиж байхад энэ нь надад их санагдав. Та Илья Суцкеверийн санамж бичгүүдийг дүрсэлсэн бөгөөд тэд зүгээр л Цахиурын хөндийд гарчээ. Бүгдтэднийг Илья тэмдэглэл гэж нэрлэдэг. Гэхдээ үүний эргэн тойронд бүр чимээгүй байдал бий. Тэдгээрийг дамжуулсан боловч хэлэлцдэггүй. Энэ нь хаанаас ирсэн гэж та бодож байна вэ? Энэ айдас уу? Энэ нь сахиусан тэнгэрийн хөрөнгө оруулалтыг авах хүсэл мөн үү? Энэ хаанаас ирсэн юм бэ?
Би үүнийг маш их хулчгар зан гэж бодож байна, би үнэнийг хэлье. Үндэсний аюулгүй байдлын тухай мэдээлсэн эх сурвалжууд нь бүх зүйлээ алдаж, хариуцлага хүлээх болно гэдгийг мэдээлэгчид байсан ч тэд зөв зүйл хийж, хариуцлага тооцох талаар ярьдаг. Би таны дурдсан бэлгийн гэмт хэрэгтэй холбоотой түүхүүд дээр ажиллаж байсан бөгөөд эх сурвалжууд нь маш их цочирддог бөгөөд маш хувийн шийтгэлээс айдаг.
Ихэнх тохиолдолд энэ цохилтын эргэн тойронд та өөрийн гэсэн дүр төрх, хүч чадалтай хүмүүстэй харьцдаг. Тэд өөрсдөө алдартай хүмүүс эсвэл алдартай хүмүүсээр хүрээлэгдсэн байдаг. Тэд хүчирхэг бизнесийн амьдралтай. Миний бодлоор тэдний хувьд энэ зүйлийн талаар ярих нь үнэндээ маш бага өртөмтгий байдаг. Баярлалаа, зүү түрүүний ярьсан шиг хөдөлж, хүмүүс одоо илүү их ярьж байна.
Гэхдээ ийм удаан хугацаанд хүмүүс энэ тухай амаа тагладаг байсан, учир нь би Цахиурын хөндийн соёлыг зөвхөн хувийн ашиг сонирхол, хэрцгий бизнес, өсөлтөд чиглэсэн гэж боддог. Тиймээс энэ нь Сэмийг халах ажиллагаанд оролцсон зарим хүмүүсийг хүртэл зовоож байгаа гэж бодож байна, тийм ээ, түүнийг эргэж ирэхэд хүргэсэн нэг хүчин зүйл нь Сэмийг халах, хуучин ТУЗ-ийн гишүүдийг халах нь түүний зорилгод эргэлзсэн хөрөнгө оруулагчдыг цуглуулсан явдал байв.
Харин өөр нэг зүйл бол эргэн тойронд санаа зовж, яаралтай дуу хоолойгоо хүргэсэн олон хүмүүс салхи эсрэгээр үлээж байхыг харсан даруйдаа салфетка шиг эвхэж, аяыг нь өөрчилж, ашгийн галт тэргэнд суухыг хүссэн явдал юм.
Үнэнийг хэлэхэд миний сурвалжлагчийн үүднээс харахад үнэхээр харанхуй байна.
Тэдгээр хүмүүсийн зарим нь 20 минутын турш OpenAI-ийн шинэ гүйцэтгэх захирал байсан Мира Мурати юм. Дараа нь түүнийг сольсон. Энэ бол маш төвөгтэй динамик байсан бөгөөд Сэм буцаж ирсэн нь ойлгомжтой. Нөгөө хүн нь Илья Суцкевер бөгөөд Сэмийг огцруулах саналын нэг байсан, дараа нь тэр бодлоо өөрчилсөн, эсвэл ядаж бодлоо өөрчилсөн гэж хэлээд, дараа нь өөрийн компаниа байгуулахаар явсан. Түүний бодлоо өөрчлөхөд юу нөлөөлснийг та мэдэх үү? Зүгээр л мөнгө байсан уу?
Мэдээжийн хэрэг, би энэ хоёрыг ялгаж салгахгүй байна. ТУЗ-ийн бусад гишүүдийг ажлаас халах ажиллагаанд оролцсон хүмүүс ч бас чимээгүй байсан. Энэ бол илүү өргөн хүрээний хамтын асуудал гэж би бодож байна. Эдгээр нь зарим тохиолдолд түгшүүрийн дохио өгч, эрс арга хэмжээ авах ёс суртахууны чадвартай хүмүүс байдаг бөгөөд энэ нь сайшаалтай байдаг. Ингэснээр та хариуцлага хүлээх болно. Энэ нь энэ технологид өртсөн олон хүмүүст тусалсан байж болох юм. Энэ нь тухайн салбарыг аюулгүй байдалд илүү анхаарч ажиллахад тусалж болох байсан.
Гэхдээ мэдээлэгчид болон ийм хариуцлага тооцохыг оролддог хүмүүстэй харьцахдаа энэ нь таны итгэл үнэмшилд бат зогсоход маш их хүч шаарддаг гэдгийг та харж байна. Мөн энэ салбар үнэхээр итгэл үнэмшилдээ үл барам хүмүүсээр дүүрэн байна.
Хэдийгээр тэд дижитал Бурханыг бүтээж байна гэж бодож байгаа ч ямар нэгэн байдлаар бүх хөдөлмөрийг үгүй хийх эсвэл илүү их хөдөлмөрийг бий болгох эсвэл ямар нэгэн зүйл тохиолдох болно.
За, энэ л зүйл. Иймээс бизнес дэх өөрийн нэр хүндэд ямар нэгэн халууралт эсвэл ямар нэгэн зүйл тохиолдох үед өөрийн итгэл үнэмшил, ёс суртахууны бүх асуудалд зогсохгүй байх соёл нь ямар ч төрлийн виджет хийж буй бизнесийн ердийн компаниудын хувьд ямар нэгэн хэмжээгээр сайн, сайн байж магадгүй юм.
Гэхдээ эдгээр нь бас "Энэ нь биднийг бүгдийг нь алж магадгүй" гэж хэлдэг хүмүүс юм. Дахин хэлэхэд, та Терминатор Skynet-ийн туйл руу явах шаардлагагүй. Нэгэнт хэрэгжиж эхэлсэн олон эрсдэл бий. Энэ нь бодитой бөгөөд тэдний энэ талаар сэрэмжлүүлэх нь зөв, гэхдээ та өөр хэн нэгэнд сандал дээр сууж, энэ хоёр зүйл яаралтай сэрэмжлүүлэг өгч байгаа, магадгүй тэд хөлийнхөө хурууг оруулан, ямар нэгэн зүйл хийхийг оролдож байгаа, дараа нь зүгээр л нугалж, чимээгүй болж байгаа нэг хүмүүст хэрхэн амьдарч болохыг сэтгэл зүйчтэй болгох хэрэгтэй.
Чухам ийм учраас л ийм төрлийн зүйлийг бичихгүй байх, хивсэнцэр дор шүүрдэх тохиолдол гарч болох бөгөөд үүнээс хойш олон жилийн турш хэн ч энэ тухай нээлттэй ярихгүй.
Энд байгаа төрөлхийн, хариуцлагатай тал нь эдгээр компаниудын гүйцэтгэх захирлууд байх ёсгүй; энэ нь засгийн газрууд байх болно. АНУ-д, магадгүйЭнэ бол муж улсын засгийн газар, магадгүй энэ нь холбооны засгийн газар юм.
Мэдээжийн хэрэг, эдгээр компаниуд бүгд дэлхийн хэмжээнд байхыг хүсдэг. Энд дэлхийн олон үр дагавар бий. Би OpenAI, Google, Anthropic нар Байдены засаг захиргааг хиймэл оюун ухааны тушаал гаргахыг уриалж байгааг харсан. Энэ нь эцэстээ нэлээд шүдгүй байсан. Энэ нь зүгээр л тэд өөрсдийн загварууд юу чадвартай болохыг ярилцаж, аюулгүй байдлын туршилтыг гаргах ёстой гэж хэлсэн. Дараа нь тэд бүгд Трампыг дэмжиж, Трамп орж ирээд бүгдийг устгаад "Бид өрсөлдөх чадвартай байх ёстой. Энэ бол бүгдэд зориулсан үнэ төлбөргүй зүйл. Үүний төлөө яв" гэж хэлсэн.
Үүний зэрэгцээ тэд бүгд газрын тосны мөнгө ихтэй, эдийн засгаа өөрчлөх хүсэлтэй Ойрхи Дорнодын орнуудаас хөрөнгө босгохыг хичээж байна. Эдгээр нь улс төрчид. Улстөрчид хэн нэгнийг амнаас нь салгаж ярьж байгааг ойлгох ёстой юм шиг санагдаж, эцэст нь хэн нэгний урам хугарах юм бол тэд тийм ч их бухимдахгүй, харин улстөрчдийг ч мөн адил унадаг. Яагаад тэгсэн гэж та бодож байна вэ?
Энэ бол миний бодлоор энэ хэсэг яагаад чухал вэ, яагаад энэ бүх цаг хугацаа, нарийн ширийн зүйлийг зарцуулах нь зүйтэй гэж бодож байна. Таны хэлж байгаачлан хяналт тавих ёстой системүүд нь зүгээр л ховхорсон орчинд бид байна. Энэ бол "Иргэний Нэгдсэн Америк"-аас хойшхи мөнгөний урсгал нь хязгаарлагдмал байдаг бөгөөд энэ нь хиймэл оюун ухааны эргэн тойронд энэ асуудлын тодорхой төвлөрөл бөгөөд муж болон холбооны түвшинд утга учиртай зохицуулалтыг хүчингүй болгохын тулд мөнгө цутгаж байгаа эдгээр PAC-ууд байдаг.
Танд [OpenAI-г үүсгэн байгуулагч] Грег Брокман, Сэмийн хоёрдугаар тушаалтан, эдгээрт томоохон хувь нэмэр оруулсан. Энэ нь хууль тогтоогчид болон боломжит зохицуулагчдыг үнэхээр барьж авах нөхцөл байдалд хүргэдэг бөгөөд үүнээс гарахад хэцүү спираль юм. Харамсалтай нь хариуцлагын зарим асуудлыг шийдвэрлэхэд тустай бодлогын энгийн алхамууд байдаг, заримыг нь дэлхийн бусад оронд туршиж байгаа гэж бодож байна.
Та Европт хилийн загварт аль хэдийн тохиолдож байгаа зүйл болох ашиглалтын өмнөх аюулгүй байдлын шалгалтыг заавал хийлгэж болно. Энэ тохиолдолд бид бичихгүй байхыг харсан дотоод мөрдөн байцаалтын төрлүүдэд олон нийтийн бүртгэлийн бичгээр илүү хатуу шаардлага тавьж болно. Та Сэм Алтманы дэвшүүлж байсан Ойрхи Дорнодын дэд бүтцийн амбицын төрлүүдэд үндэсний аюулгүй байдлын хяналт шалгалтын илүү бат бөх механизмтай байж болно.
Таны хэлснээр тэрээр Байдены засаг захиргаатай "Биднийг зохицуул, биднийг зохицуулаарай" гэж хэлж, гүйцэтгэх тушаал гаргахад нь тусалж байсан бөгөөд дараа нь Трамп орж ирэх тэр мөчид, үнэхээр эхний өдрүүдэд "Абу Дахабид асар том дата төвийн кампусыг хурдасгацгаая." Энэ бол шүгэл үлээгчийн хамгаалалт гэх мэт үнэхээр энгийн зүйл юм. Энэхүү нийтлэлд гарч буй аюулгүй байдлын ийм төрлийн асуудлуудыг илчилсэн хиймэл оюун ухааны компанийн ажилчдыг хамгаалах холбооны хууль байдаггүй.
OpenAI-д аюулгүй байдлын ахлах ажилтан байсан Ян Лейк компанид супер зохицуулалтыг удирдаж байсан тохиолдол бидэнд бий. Тэрээр ТУЗ-д бичээд, компани аюулгүй байдлын зорилгоо биелүүлэхээс татгалзаж байна гэж мэдээлсэн материал юм. Ийм л хүмүүс өөрсдийнхөө хандаж болох хяналтын байгууллагатай байх ёстой бөгөөд бусад салбарт бидний харж байгаа шиг хуулиар тодорхой хамгаалалттай байх ёстой. Энэ нь Сарбанес-Окслийн маягийн дэглэмийг хуулбарлахад хялбар юм.
Цахиурын хөндийд эрх мэдлийн бүх хөшүүргийг хяналтдаа авах асуудал хэчнээн хурцаар тавигдаж, хяналт тавьж, хашлага хийж чадах эдгээр байгууллагуудын зарим нь хэчнээн хонхорхойтой байсан ч ардчиллын үндсэн математик, хувийн ашиг сонирхолд нийцсэн улстөрчдийн итгэл үнэмшилтэй хэвээр байна гэж би бодож байна. Америкчуудын дийлэнх нь хиймэл оюун ухааны санаа зовоосон асуудал, асуултууд эсвэл эрсдэлүүд нь ашиг тусаас давж байна гэж боддог гэсэн санал асуулгын тоо улам бүр нэмэгдэж байна.
Тиймээс хиймэл оюун ухаанаас улс төрд орж ирсэн мөнгөний урсгалыг улстөрчдийн хувьд асуултын тэмдгийн эх үүсвэр болгох нь бидний бүхий л эрх мэдэлд багтаж байна гэж би бодож байна. Америкчууд санал өгөхөөр явахдаа саналаа өгсөн хүмүүсээ, ялангуяа шүүмжлэлтэй ханддаггүй, зохицуулалтыг эсэргүүцдэг бол энэ бүх санаа зовнилоос харахад технологийн томоохон ашиг сонирхолд автсан эсэхийг нягталж үзэх хэрэгтэй. Тиймээс хүмүүс ийм хэсгүүдийг уншиж, ийм подкаст сонсож, шүүмжлэлтэй сэтгэх хангалттай анхаарал тавьж чаддаг бол би боддогСонгогчдын хувьд тэдний шийдвэрт хяналт тавьж, хяналт тавьдаг төлөөлөгчдийн Вашингтонд тойрог бий болгох бодит боломж бий.
Энэ нь одоогийн хиймэл оюун ухааны салбарын талаар хэн нэгнээс хэлж байсан хамгийн өөдрөг үгсийн нэг байж магадгүй юм. Би үүнийг үнэлж байна. Би чиний яриад байгаа санал асуулгад сэтгэл догдолж байна. Одоо маш их байна. Энэ бүхэн нэлээд нийцтэй бөгөөд ялангуяа залуучууд хиймэл оюун ухаанд өртөх тусам тэд илүү итгэлгүй, ууртай байдаг бололтой. Энэ бол бүх санал асуулгын валент юм. Би үүнийг хараад, тийм ээ, ухаалаг улстөрчид үүнийг эсэргүүцэх болно гэж бодож байна. Тэд зүгээр л "Бид том технологитой хариуцлага тооцох болно" гэж хэлэх болно.
Дараа нь би өнгөрсөн 20 жилийн тухай бодоход нэгэн улстөрч том технологид хариуцлага тооцно гэж хэлсэн, би том технологид хариуцлага тооцох ганц хором ч олох гэж тэмцэж байна. Энэ нь өөр байж магадгүй гэж намайг бодоход хүргэдэг цорын ганц зүйл бол та дата төвүүдийг барих ёстой бөгөөд үүний эсрэг санал өгч, үүний эсрэг өргөдөл гаргаж, эсэргүүцэж болно.
Дата төвийн төлөө саналаа өгснөөс болж байшингаа буудсан улстөрч байдаг гэж би бодож байна. Хурцадмал байдал хүрч байна, би үүнийг халууралт гэж нэрлэх болно. Та Цахиурын хөндийн тусгаарлалтыг тодорхойлсон. Энэ бол хаалттай экосистем юм. Тэд дэлхийг удирдаж чадна гэж бодож байгаа юм шиг санагддаг. Тэд улс төрд асар их мөнгө зарцуулж, хүмүүс бүтээгдэхүүнд дургүй байдаг, энэ нь тэдэнд тийм ч их халхавч өгдөггүй гэсэн бодит байдлын эсрэг тэмцэж байна. Тэд бүтээгдэхүүнийг хэрэглэх тусам улам их бухимдаж, улстөрчид өөрсдийн төлөөлдөг хүмүүсээс илүү технологийн салбарыг дэмжих нь бодит үр дагавартайг харж эхэлжээ.
Та маш олон хүнтэй ярилцсан. Технологийн салбарынхан тэдний өмнө байгаа сургамжийг авах боломжтой гэж та бодож байна уу?
Тэд хариуцлага хүлээхгүйгээр дэлхийг удирдаж чадна гэж бодож байгаа юм шиг санагдаж байна гэж та хэлж байна. Үүнд "мэдрэмжтэй" гэсэн шалгуур хэрэггүй гэж би бодохгүй байна. Питер Тиэлийн хэрэглэж буй хэлийг харвал энэ нь тодорхой байна. Мэдээжийн хэрэг, энэ бол туйлын жишээ юм. Сэм Алтман хэдийгээр Тиелийн үзэл суртлын талаар тодорхой хэмжээгээр ойр дотно, мэдээлэлтэй ч гэсэн арай өөр, нэг цэг хүртэл хэмжигдэхүйц сонсогдож болох тэс өөр төрлийн хүн юм.
Гэхдээ би таны Тиелээс олж авсан илүү өргөн хүрээний үзэл суртал гэж бодож байна, энэ нь үндсэндээ: Бид ардчилалыг дуусгасан, энэ нь бидэнд хэрэггүй болсон. Бидэнд маш их зүйл байгаа тул бид өөрсдийн гэсэн жижиг бункер барихыг хүсдэг. Бид дахиж Карнеги эсвэл Рокфеллеруудтай харьцахаа больсон, тэд муу хүмүүс, гэхдээ тэд нийгмийн гэрээнд оролцож, хүмүүст зориулж зүйлийг бүтээх хэрэгтэй гэж боддог. Жинхэнэ нигилизм бий болсон.
Энэ нь Америкийн сүүлийн үеийн түүхэн дэх могулууд болон хувийн компаниуд засгийн газрын супер эрх мэдлийг олж авсан, харин тэдэнд хариуцлага тооцож болох ардчилсан институциуд хоосорч байгаа нь харилцан бие биенээ бататгасан эргэлт байсан гэж би бодож байна. Тэр залуус нэг л өдөр сэрчихээд “Үнэн хэрэгтээ бид нийгэмд оролцож, хүмүүсийн төлөө юм бүтээхэд нь туслах хэрэгтэй юм болов уу” гэсэн бодол надад өөдрөг санагддаггүй.
Та "Өгөх амлалт"-ын бичил сансар огторгуйн жишээ шиг хараарай, тэр мөч нь буяны хэрэг мэт санагдаж байсан, одоо тэр мөч өнгөрсөн, бүр шоолж байна. Энэ бол миний бодлоор зөвхөн гаднаас нь шийдэж болно гэж боддог хариуцлагагүй байдлын өргөн хүрээний асуудал юм. Энэ нь сонгогчид дайчлан, төрийн хяналтын эрх мэдлийг сэргээх ёстой. Хүмүүс үүнд хүрч болох гол вектор нь орон нутгийнх гэж та хэлэх нь зөв. Энэ нь дэд бүтэц хаана баригдаж байгаатай холбоотой.
Хүчирхийлэл, заналхийлэлд хүргэж буй энэ талаар та зарим нэг хурцадмал байдлын талаар дурдсан бөгөөд мэдээжийн хэрэг хэн ч хүчирхийлэл, заналхийлэлд өртөх ёсгүй. Мөн би энд зөвхөн энгийн мэт санагдах, дэлхийн бусад улс орнуудад хэрэгжиж буй бодлогын зарим алхмуудыг танилцуулахаас өөр тодорхой бодлогын зөвлөмж гаргах гэж ирээгүй, тийм үү? Эсвэл өөр салбарт ажиллаж байсан хүмүүс. Би эдгээрийн алийг нь яаж гүйцэтгэх ёстойг хэлэх гэсэнгүй.
Ямар нэг зүйл тохиолдох ёстой гэж би бодож байна, энэ нь зөвхөн эдгээр компаниудад итгэх биш харин гадны байх ёстой. Яагаад гэвэл зөвТехнологийг хөгжүүлж байгаа, эрсдэлийг ойлгох хамгийн сайн тоног төхөөрөмжөөр хангагдсан, үнэндээ эрсдэлийг бидэнд анхааруулж байгаа компаниуд ч гэсэн хурдан явах, эдгээр эрсдлийг үл тоомсорлохоос өөр зүйлгүй нөхцөл байдал бидэнд бий. Мөн танд үүнийг тэнцвэржүүлэх зүйл байхгүй. Тиймээс ямар ч өөрчлөлт шинэчлэлтийн онцлог шинж чанартай байж болох ч үүний эсрэг ямар нэг зүйл гарах ёстой. Мөн би ард түмэн чухал хэвээр байгаа гэсэн өөдрөг үзэл рүүгээ буцаж байна.
Би ерөнхийдөө таны аргументыг худалдаж авдаг. Би хэлж чадна гэж бодож байгаа ганц жижиг сөрөг аргументыг хэлье. Саналын хайрцгаас гадуур гарч болох өөр нэг зүйл бол хөөс гарч ирдэг, тийм ээ? Эдгээр бүх компаниуд барианы шугамд хүрч чаддаггүй, мөн хэрэглэгчдийн хиймэл оюун ухааны хэрэглээнд тохирох бүтээгдэхүүний зах зээл байхгүй байна. Дахин хэлэхэд би үүнийг хараахан олж харахгүй байна, гэхдээ би хэрэглэгчийн технологийн шүүмжлэгч, магадгүй би бусдаас илүү өндөр стандарттай байж магадгүй юм.
Бизнесийн ертөнцөд бүтээгдэхүүний зах зээлд тохирох зүйл байдаг, тийм ээ? Олон тооны AI агентуудтай байх нь олон тооны програм хангамж бичих нь эдгээр хэрэгслүүдийн жинхэнэ зах зээл юм шиг санагддаг. Та эдгээр компаниудын аргументуудыг уншиж болно, "Бид кодчиллыг шийдсэн, энэ нь бид юуг ч шийдэж чадна гэсэн үг. Хэрэв бид програм хангамж хийж чадвал ямар ч асуудлыг шийдэж чадна."
Програм хангамжийн хийж чадах зүйлд үнэхээр хязгаар байдаг гэж би бодож байна. Энэ нь бизнесийн ертөнцөд гайхалтай. Програм хангамж нь бодит байдал дээр бүх асуудлыг шийдэж чадахгүй, гэхдээ тэд тэнд хүрэх ёстой. Тэд ажлаа дуусгах ёстой, магадгүй хүн бүр барианд орохгүй байх. Мөн сүйрэл гарч, энэ хөөс гарч, магадгүй OpenAI эсвэл Anthropic эсвэл xAI, эдгээр компаниудын аль нэг нь бүтэлгүйтэж, энэ бүх хөрөнгө оруулалт алга болно.
Энэ нь үүнд нөлөөлнө гэж та бодож байна уу? Ер нь эхлээд эхний асуултыг асууя. OpenAI IPO хийх яг ирмэг дээр байна. Сэмийг удирдагчийн хувьд маш их эргэлзэж байна. Тэд барианд орно гэж та бодож байна уу?
Би урьдчилан таамаглахгүй, гэхдээ миний бодлоор та зах зээлийн хөшүүрэг нь Цахиурын хөндийд дотооддоо чухал ач холбогдолтой бөгөөд одоогийн хөөс динамикийн найдваргүй байдал нь шүүмжлэгчдийн үзэж байгаагаар аюулгүй байдлын доод тал руу уралдах нь дахин тасалдахад хүргэдэг.
Хэрэв та зах зээлийн хөшүүрэг, олон нийтэд хор хөнөөл учруулж болзошгүй үр дагавартай ижил төстэй бөгөөд үл давшгүй мэт санагдах түүхэн давуу талыг харвал нөлөөллийн шүүх ажиллагаа байдаг. Та үүнийг сүүлийн үед санаа зовоосон асуудал гэж харж байна. Сэм Алтман энэ долоо хоногт AI компаниудыг жишээлбэл, OpenAI-ийн буруутай үхлийн нэхэмжлэлд учирсан зарим төрлийн хариуцлагаас хамгаалах хууль тогтоомжийг баталж байна. Мэдээжийн хэрэг, хариуцлагаас хамгаалах хүсэл эрмэлзэл байдаг.
Шүүх нь утга учиртай механизм хэвээр байж чадна гэж би бодож байгаа бөгөөд эдгээр нэхэмжлэл хэрхэн бүрэлдэх нь үнэхээр сонирхолтой байх болно. Жишээлбэл, миний болон бусад олон, миний гишүүн олон зохиолчид зохиогчийн эрхээр хамгаалагдсан номыг ашигласан хэргээр Anthropic-ийн эсрэг зарга үүсгэснийг та аль хэдийн харсан. Хэрэв том тамхинаас эхлээд том энерги хүртэлх тохиолдлуудад анхаарал хандуулдаг ухаалаг хууль эрх зүй, нэхэмжлэгч нар байгаа бол та хурдыг сааруулах, болгоомжтой байх эсвэл хүмүүсийг хамгаалах зарим хөшүүрэг, урамшуулал авах боломжтой.
Хиймэл оюун ухааны салбарын зардлын бүтэц бүхэлдээ шударга хэрэглээний талаар маш их буяны тайлбар дээр суурилдаг юм шиг санагддаг. Хангалттай гарч ирэхгүй байна. Эдгээр компаниудын зардлын бүтэц нь танд болон тэдний ажилд орсон бүх хүмүүст төлөх шаардлагатай бол хяналтаас гарч болзошгүй, гэхдээ энэ нь бодоход тохиромжгүй тул бид энэ талаар бодохгүй байна. Яг хажууд нь эдгээр бүтээгдэхүүнүүд бүгд алдагдалтай ажиллаж байна. Өнөөдрийнх шиг тэд бүгд алдагдалтай ажиллаж байна. Тэд хийж чадахаасаа илүү их мөнгө шатааж байна. Хэзээ нэгэн цагт тэд шилжүүлэгчийг эргүүлэх хэрэгтэй болдог.
Сэм бол бизнесмэн. Та хэд хэдэн удаа хэлсэнчлэн тэр технологич биш. Тэр бол ажил хэрэгч хүн. Түүнийг "Бид доллар хийх гэж байна?" гэж хэлэхэд бэлэн гэж бодож байна уу? Учир нь би "Чи OpenAI амжилтанд хүрнэ гэж бодож байна уу?" Энэ нь тэд нэг доллар хийх ёстой үед юм. Өнөөг хүртэл Сэм өөрийн компаниудыг мөнгөтэй болгохын оронд бусад хүмүүсээс мөнгийг нь гуйж бүх доллараа олсон байна.
Энэ бол Цахиурын хөндий, хөрөнгө оруулагчид, олон нийтийн хувьд маш том асуулт юм.Та OpenAI-аас гарсан зарим мэдэгдэл, нүүдлийг харж байгаа нь энэ талаар ямар нэгэн айдас төрүүлж буй мэт санагдана. Сора-г хааж, зарим туслах төслүүдийг хааж, үндсэн бүтээгдэхүүнээ тэглэхийг хичээж байна. Гэхдээ нөгөө талаас, та нэгэн зэрэг олон тонн номлолын мөлхөж байгааг харж байна, тийм үү? Жижиг жишээ ч гэсэн - энэ нь тэдний бизнесийн гол зүйл биш нь мэдээжийн хэрэг - TBPN-ийн худалдан авалт юм.
Дашрамд хэлэхэд, биднийг барианы шугаманд хүрч, баримт шалгах үед ийм төрлийн сэтгүүлзүйн хяналттай тулгарсан компани харилцан яриаг илүү шууд хянах боломжтой платформтой болсон. Бүх хүмүүст бүх зүйлийг амлах асуудал нь бизнесийн үндсэн загварт анхаарал хандуулахгүй байгаатай холбоотой гэж миний хийсэн ярианаас үзэхэд санаа зовж буй олон хөрөнгө оруулагчид байгаа гэж би бодож байна. Та надаас илүү зах зээлийг урьдчилан таамаглах, ажиглах хандлагад ойр байна гэж хэлэх гэсэн юм. Би танд болон сонсогчдод OpenAI-г шилжүүлж чадна гэж бодож байгаа эсэхийг шүүхээр үлдээе.
Би энэ асуултыг тавьсан учир нь танд Майкрософт компанийн ахлах захирлын ишлэл байгаа бөгөөд энэ нь Стив Жобс гэхээсээ илүү "Сэмийн өв Берни Мадофф эсвэл Сэм Банкман-Фридтэй илүү төстэй байж магадгүй" гэсэн утгатай юм. Энэ бол нэлээд харьцуулалт юм. Та энэ харьцуулалтыг юу гэж дүгнэсэн бэ?
Энэ бол тайлбар гэж би бодож байна. Стив Жобсын хэсэг нь ишлэлд ороогүй болно. Гэхдээ "Түүнд SBF эсвэл Мадоффын түвшний луйварчин болох магадлал бага ч гэсэн бодит боломж байгаа гэж би бодож байна" гэх мэт хэллэгтэй учраас энэ нь сонирхолтой төрлийн ухаалаг байдал юм. Миний бодлоор Сэмийг эдгээр тодорхой төрлийн луйвар, гэмт хэрэгт буруутгаж байгаа юм биш, харин Сэмийг задлах, хууран мэхлэх зэрэг нь эцсийн дүндээ тэр хэмжээгээр дурсагдах боломжтой гэсэн үг юм.
Тийм ээ, миний бодлоор энэ эшлэлээс хамгийн анхаарал татсан зүйл бол та Майкрософт руу залгаад "Энэ бол галзуу юм. Бид хэзээ ч ийм зүйл сонсож байгаагүй" гэсэн таамаглал хүлээж авдаггүй явдал юм. Та "Тийм ээ, энд маш олон хүмүүс тэгж боддог" гэх мэтийг маш их хүлээж авдаг нь гайхалтай юм. Мөн энэ нь эдгээр самар, боолт бизнесийн асуултуудад хамаатай гэж би бодож байна.
Жишээ нь, нэг хөрөнгө оруулагч надад энэ зан чанар нь халагдсаны дараах жилүүдэд хадгалагдан үлдэж буйг харгалзан хэлсэн” гэж хэлсэн бөгөөд энэ нь бас сонирхолтой ухаалаг бодол гэж бодсон юм. Энэ нь Сэм жагсаалтын үнэмлэхүй хамгийн доод хэсэгт байх албагүй, жишээлбэл, энэ технологийг үнэхээр бүтээх ёсгүй гэсэн хүмүүсийн хувьд хамгийн доод нь байх ёстой. Тэр магадгүй AGI-г байгуулах ёстой хүмүүсийн жагсаалтын хамгийн сүүлд, мөн энэ салбарын бусад хэд хэдэн тэргүүлэх хүмүүсийн доор байж магадгүй юм.
Тиймээс энэ бол сонирхолтой үнэлгээ гэж би бодсон бөгөөд энэ бол аюулгүй байдлын асуудалд тийм ч их анхаарал хандуулдаггүй жинхэнэ прагматикуудаас авсан бодол юм. Тэд зүгээр л өсөлтөд чиглэсэн бөгөөд OpenAI одоо Сэм Алтмантай холбоотой асуудалтай гэж бодож байна.
Майкрософт бүтээл үнэхээр сонирхолтой юм. Тэр компани өөрсдийгөө дэлхийд дээгүүрт бичигддэг гэж бодсон. Тэд энэ хөрөнгө оруулалтыг хийсэн бөгөөд тэд хүн бүрийг, ялангуяа хамгийн чухал нь Google-ийг үсэрч, хэрэглэгчдийн сайн сайхан ивээлд эргэн орох болно. Тэдний энэ адал явдалд шатаж байгаа мэт мэдрэмж төрж байна - энэ бол маш ухаалаг ажилладаг компани юм - би хэтрүүлэн дүгнэж болохгүй гэж бодож байна.
Та дүрүүд болон хувийн шинж чанаруудын талаар дурдсан. Би энд сонсогчдоос асуусан асуултаар дуусгамаар байна. Би өөр нэг нэвтрүүлэг болох The Vergecast дээр тантай ярилцах гэж байна гэж хэлээд "Хэрэв та Ронанаас энэ түүхийн талаар асуух зүйл байвал надад хэлээрэй" гэж хэлсэн. Тиймээс таны тайлбарлаж буй зүйлтэй нягт уялдаатай гэж бодож байгаа нэг зүйл энд байна. Би зүгээр л танд унших гэж байна:
"Альтман болон хиймэл оюун ухааны бусад удирдагчдын муу зан үйлийг зөвтгөх үндэслэлүүд нь Ронан улс төр, хэвлэл мэдээллийн салбарын бусад өндөр түвшний удирдагчдаас сонссон үндэслэлүүдээс юугаараа ялгаатай вэ? Дэлхий ингэж өөрчлөгддөг гэж тэд бүгд өөрсдийн үйлдлээ зөвтгөдөггүй гэж үү? Хэрэв би үүнийг хийхгүй бол өөр хүн хийх үү?"
Тиймээ, ийм зүйл маш их болж байна. Би хэлмээр байна, хиймэл оюун ухаанаас ялгарах зүйл бол оршихуйн бооцоо маш өндөр байх нь эрсдэлийн мэдэгдэл хоёулаа хэт туйлширсан гэсэн үг, тийм ээ? Танд Сэм Алтман байна"Энэ нь бид бүгдийн гэрлийг унтрааж магадгүй юм." Түүнчлэн, шүүмжлэгчид асуулт асууж буй хүний хэлсэн маниа нь туйлширсан гэж хэлж магадгүй юм, тийм үү?
Сэм Элоныг буруутгаж байсан зүйл бол тэр хүн төрөлхтнийг аврахыг хүсч байгаа байх, гэхдээ энэ нь зөвхөн тэр л бол. Ялахыг хүсэх гэсэн эгогийн бүрэлдэхүүн хэсэг нь Сэмийн үргэлж ашигладаг хүрээ бөгөөд энэ нь түүхийн номнуудын нэг юм, энэ нь бүх зүйлийг өөрчилж чадна. Тиймээс, Цахиурын хөндийн ихэнх аж ахуйн нэгжүүдийн "та хэд хэдэн өндөг хагалах ёстой" гэсэн сэтгэлгээнээс гадна хиймэл оюун ухааныг удирдаж буй зарим хүмүүсийн оюун ухаанд миний бодлоор аливаа уналтын бүрэн үндэслэл байдаг.
Мөн өндөг хагалахаа март. Аюулгүй байдлын үндсэн судлаачдын ихэнх нь улс орныг эвдэж, дэлхийг сүйрүүлж, ажлын байр, аюулгүй байдал нь тэнцвэрт байдалд байгаа сая сая хүмүүсийг эвдэх эрсдэлтэй гэж би бодож байна - энэ бол түүний өвөрмөц зүйл юм. Би энэ тайлангийн талаар тунгаан бодож, энэ нь Сэм Алтманаас илүү чухал зүйл гэдэгт итгэлтэй байгаа газар бол энд байна. Энэ бол хязгаарлалтгүй үйлдвэрлэлийн тухай бөгөөд Америк үүнийг хязгаарлаж чадахгүй байгаа нь эргэлдэж буй асуудал юм.
Тиймээ. Тэнд бид өөдрөг үзэлтэй байсан ч үүнийг орхиход тохиромжтой газар гэж би бодож байна.
[Инээв] Муухайгаар төгсгөе.
Мэдээжийн хэрэг. Энэ бол үнэхээр гайхалтай түүх бүр юм. Маск-Алтманы шүүх хурал удахгүй болох гэж байна. Бид эндээс илүү их зүйлийг сурах болно гэж бодож байна. Би чамтай дахин ярилцахыг хүсч байна гэж сэжиглэж байна. Ронан Фарроу, Декодер дээр байсанд маш их баярлалаа.
Баярлалаа.
Энэ ангийн талаар асуулт эсвэл сэтгэгдэл байна уу? [email protected] хаягаар бидэнтэй холбогдоорой. Бид имэйл бүрийг үнэхээр уншдаг!
