Androany amin'ny Decoder, miresaka amin'i Ronan Farrow aho, iray amin'ireo kintana lehibe indrindra amin'ny tatitra momba ny fanadihadiana miasa ankehitriny. Nopotehiny ny tantaran'i Harvey Weinstein, ankoatra ny maro hafa. Ary vao tamin'ny herinandro lasa teo, izy sy ny mpiara-manoratra Andrew Marantz dia namoaka endri-javatra lalina lalina ao amin'ny The New Yorker momba ny CEO OpenAI Sam Altman, ny fahatokisany ary ny fiakaran'ny OpenAI mihitsy.
Fanamarihana iray alohan'ny handehanantsika bebe kokoa eto - Namoaka an'io tantara io ny New Yorker ary nanao an'io resaka io izahay sy Ronan talohan'ny nahafantaranay ny halehiben'ny fanafihana ny tranon'i Altman, ka tsy ho renao izahay hiresaka momba izany mivantana. Saingy raha miteny fotsiny aho, heveriko fa tsy azo ekena ny herisetra na inona na inona, tsy azo ekena ireo fanafihana an'i Sam ireo, ary ny karazana tsy fahampiana tsapan'ny olona, izay mitarika ho amin'izany karazana herisetra izany, dia tsy azo ekena, ary mendrika hojerena bebe kokoa avy amin'ny indostria sy ny mpitarika ara-politika eto amintsika. Manantena aho fa mazava izany.
Ry mpanjifa verge, aza adino fa mahazo fidirana manokana amin'ny Decoder tsy misy doka izay ahazoanao podcasts. Loha eto. Tsy mpanjifa? Afaka misoratra anarana eto ianao.
Izany rehetra izany dia betsaka ny mihodinkodina manodidina an'i Altman izay lalao ara-drariny ho an'ny tatitra henjana - ny karazana tatitra nataon'i Ronan sy Andrew. Noho ny lazan'ny ChatGPT, Altman dia nipoitra ho lohan'ny indostrian'ny AI, izay nanova ny laboratoara fikarohana tsy mitady tombony ho orinasa tsy miankina efa ho trily tapitrisa dolara tao anatin'ny taona vitsivitsy. Saingy ny angano momba an'i Altman dia mifanohitra tanteraka, voafaritra mitovy amin'ny fahaizany mibaribary amin'ny fifampiraharahana sy ny fironany lazaina ho… eny, mandainga amin'ny olona rehetra manodidina azy.
Maherin'ny 17.000 ny halavan'ilay tantara, ary azo inoana fa mirakitra ny fitantarana voafaritra tsara momba ny zava-nitranga tamin'ny 2023 rehefa nandroaka tampoka an'i Altman ny filankevi-pitantanan'ny OpenAI noho ny filazana lainga nataony, ka saika noraisina indray avy hatrany izy. Famakafakana lalina amin'ny fiainan'i Altman ihany koa izany, ny fampiasam-bolany, ny fitadiavany vola any Afovoany Atsinanana, ary ny fisaintsainany manokana momba ny fitondrantenany taloha sy ny toetrany izay nahatonga ny loharanom-baovao iray nilaza fa “tsy voafehin'ny fahamarinana” izy. Tena manoro hevitra anao aho hamaky ny tantara manontolo; Miahiahy aho fa horesahina mandritra ny taona maro ho avy.
Niresaka imbetsaka tamin'i Altman i Ronan tao anatin'ny 18 volana nitaterana an'ity lahatsoratra ity, ka ny iray amin'ireo zavatra tena mahaliana ahy dia ny hoe nahatsapa fiovana tao amin'i Altman ve izy nandritra izany fotoana izany. Rehefa dinihina tokoa, be dia be ny zava-nitranga tao amin'ny AI, amin'ny teknolojia, ary izao tontolo izao nandritra ny herintaona sy tapany.
Handre an'i Ronan miresaka mivantana momba izany ianao, ary koa ny fahatsapany fa lasa vonona kokoa hiresaka momba ny fahaizan'i Altman manitatra ny fahamarinana ny olona. Manomboka manontany tena ny olona, amin'ny feo avo ary amin'ny firaketana an-tsoratra, raha toa ny fitondran-tenan'ny olona toa an'i Altman, tsy ho an'ny AI na teknolojia ihany fa ho an'ny hoavin'ny fiaraha-monina ihany koa.
Okay: Ronan Farrow momba an'i Sam Altman, AI, ary ny marina. Lasa izao.
Ity dinidinika ity dia nohavaozina maivana mba ho lava sy mazava.
Ronan Farrow, mpanangom-baovao fanadihadiana ianao ary mpandray anjara amin'ny The New Yorker. Tongasoa eto amin'ny Decoder.
Faly eto. Misaotra anao nanana ahy.
Tena faly aho miresaka aminao. Nanoratra lahatsoratra lehibe ho an'ny The New Yorker ianao. Sarimihetsika an'i Sam Altman ary, karazana miaraka aminy, OpenAI. Ny famakiako azy dia ny hoe, tahaka ny ataon'ireo endri-javatra lehibe rehetra, izany, miaraka amin'ny tatitra henjana, dia manamarina ny fihetseham-pon'ny olona momba an'i Sam Altman hatry ny ela. Mazava ho azy fa navoakanao izany, nahazo fanehoan-kevitra momba izany ianao. Ahoana ny fihetseham-ponao momba izany amin'izao fotoana izao?
Eny, faly aho, raha ny marina, tamin'ny halehiben'ny fahatapahan'izy io tamin'ny fotoana izay ny toekaren'ny saina dia karazana schizophrenic sy marivo. Tantara iray izay, raha ny fahitako azy, dia mahakasika antsika rehetra. Ary rehefa nandany herintaona sy tapany tamin'ny fiainako aho, ary ny mpiara-manoratra amiko, Andrew Marantz, dia nandany izany fotoana izany ihany koa, tena nanandrana nanao zavatra ara-tsiansa sy tamim-pitandremana, dia satria tsapako fa misy olana ara-drafitra lehibe kokoa izay misy fiantraikany amin'ny olona mihoatra ny tsirairay sy ny orinasa ao am-pon'ny tantara.
Sam Altman, manoloana ny kolontsain'ny Silicon Valley hype sy ny fanombohana izay miorim-paka amin'ny tombam-bidy goavana mifototra amin'ny fampanantenana izay mety hitranga na mety tsy hitranga amin'ny ho avy, ary ny fitomboan'ny famihin'ny kolontsaina mpanorina izay mihevitra ny filazana amin'ny vondrona samihafa ny zavatra mifanohitra dia singa iray, fa tsy abug…Na dia eo aza izany toe-javatra izany, Sam Altman dia tranga miavaka izay tsy ahafahan'ny olona rehetra ao amin'ny Lohasahan'i Silicon izay manantena an'ireo zavatra ireo tsy hiresaka momba ity fanontaniana ity momba ny fahatokisany sy ny fahamarinany.
Efa fantatray fa voaroaka izy noho ny fiampangana sasany momba ny tsy fahamarinan-toetra na andian-dahatsoratra voalaza fa lainga. Saingy ny mahagaga, na dia eo aza ny fisian'ny tatitra mahafinaritra, dia nanao asa lehibe momba izany i Keach Hagey. Nanao asa lehibe momba izany i Karen Hao. Tena tsy nisy ny fahatakarana mazava tsara ireo teboka voalaza ho porofo sy ny antony nahatonga ireo tsy ho hitan'ny besinimaro.
Noho izany ny teboka voalohany dia ny fahatsapako ny fahazotoako noho ny zava-misy fa ny sasany amin'ireo banga eo amin'ny fahalalantsika ampahibemaso, ary na dia eo amin'ny fahalalan'ny olona ao amin'ny Silicon Valley aza, dia efa feno kokoa ankehitriny. Ny sasany amin'ireo antony nahatonga ny banga dia nofenoina kely kokoa.
Taterinay ny tranga izay nahatsapan'ny olona tao anatin'ity orinasa ity fa tena saronana na ninia tsy voarakitra an-tsoratra. Iray amin'ireo zava-baovao amin'ity tantara ity ny famotopotorana orinasa mpanao lalàna lehibe nataon'i WilmerHale, izay mazava ho azy fa orinasa mpanao lalàna raitra, azo itokisana, lehibe nanao fanadihadiana momba an'i Enron sy WorldCom, izay, raha ny marina, dia be dia be, toy ny pejy an-jatony navoaka. Nanao ity fanadihadiana ity i WilmerHale izay notakian'ireo mpikambana ao amin'ny filankevi-pitantanana izay nandroaka an'i Altman ho fepetran'ny fialany rehefa nesoriny izy ireo, ary niverina izy. Ary ny tena miavaka - eo imason'ireo manampahaizana ara-dalàna maro noresahiko, ary nanafintohina teo imason'ny olona maro tao amin'ity orinasa ity - nosakanan'izy ireo tsy ho nosoratana izany. Ny zava-drehetra nipoitra avy amin'izany dia ny famoahana an-gazety 800 teny avy amin'ny OpenAI izay nanoritsoritra ny zava-nitranga ho fahapotehan'ny fitokisana. Ary nanamafy izahay fa notazonina tamin'ny fampahafantarana am-bava izany.
Misy tranga izay, ohatra, ny mpikambana iray ao amin'ny filankevi-pitantanana toa te-hifidy hanohitra ny fiovam-po avy amin'ny endrika tsy mitady tombontsoa tany am-boalohany an'ny OpenAI ho lasa fikambanana mitady tombom-barotra, ary voarakitra ho toy ny tsy fijanonana. Misy toy ny mpisolovava iray ao amin'ny fivoriana milaza hoe: "Eny, mety hiteraka fanadihadiana be loatra izany." Ary ny olona te hifidy dia voarakitra ho tsy miraharaha ny fisehoana rehetra. Misy fifandirana marina. OpenAI dia milaza raha tsy izany, araka ny azonao eritreretina. Ireo rehetra ireo dia tranga izay anananao orinasa izay, amin'ny kaontiny manokana, mitazona ny hoavintsika eo am-pelatanany.
Ny tsato-kazo fiarovana dia mafy loatra ka tsy afaka. Izany no antony nananganana ity orinasa ity ho toy ny fikambanana tsy mitady tombontsoa mifantoka amin'ny fiarovana, ary amin'ny toerana misy zavatra saron-tava amin'ny fomba izay hitan'ny olona azo itokisana manodidina azy fa tsy matihanina. Ary ampifanaraho amin'ny lamosina izay tsy dia misy faniriana ara-politika firy amin'ny fitsipika manan-danja. Heveriko fa toe-javatra tena mora mirehitra izany.
Ny tiako holazaina dia tsy hoe mendrika an'ireo fanontaniana ireo fotsiny i Sam Altman. Ny iray amin'ireo lehilahy ireo amin'ity sehatra ity, ary ny maro amin'ireo olo-malaza, dia mampiseho, raha tsy io toetra manokana io, izay lazaina fa mandainga amin'ny fotoana rehetra, azo antoka fa manana toe-tsaina hazakazaka mankany amin'ny farany ambany, izay nandrava ireo fanoloran-tena ireo sy ny fihetsiky ny olona rehetra.
Heveriko fa, rehefa mijery ny fivoahana vao haingana avy amin'ny Anthropic isika, dia misy olona iray mametraka ny fanontaniana hoe iza no tokony hanisy rantsantanana amin'ny bokotra amin'ity ampahany ity. Ny valiny dia, raha tsy manana fanaraha-maso manan-danja isika, heveriko fa tsy maintsy mametraka fanontaniana matotra isika ary miezaka mamoaka vaovao betsaka araka izay tratra momba ireo lehilahy ireo. Noho izany dia nampionona ahy ny fahatsapana toy ny resaka misy dikany momba izany, na ny fiandohan'ny iray.
Ny antony nanontaniako an'izany dia ny nanaovanao an'io nandritra ny herintaona sy tapany. Niresaka taminao aho, mino aho fa olona 100 miaraka amin'i Andrew mpiara-manoratra aminao. Efa ela no nahandro ny tantara. Mieritreritra momba ny taona sy tapany farany amin'ny AI manokana aho, ary ny zazalahy, dia niova haingana ny fihetsika sy ny soatoavin'ireo toetra ireo.
Angamba tsy misy afa-tsy i Sam Altman, izay nanomboka ho mpandresy mahazatra satria namoaka ChatGPT izy ireo ary nihevitra ny rehetra fa haka an'i Google fotsiny izany. Ary avy eo dia namaly i Google, izay toa nanaitra azy ireo fa hiezaka hiaro ny orinasany i Google, angamba iray amin'ireo orinasa tsara indrindra amin'ny tantaran'ny teknolojia, raha tsy ny tantaran'ny orinasa. Nanapa-kevitra i Anthropic fa hifantoka amin'ny orinasa. Toa mibaikoany satria avo be ny fampiasana AI amin'ny orinasa.
Ankehitriny, ny OpenAI dia mamerina mifantoka amin'ny vokatra avy amin'ny "handeha amin'ny Google" mankany amin'ny Codex, ary handray ny orinasa izy ireo. Tsy haiko mihitsy raha, nandritra ny tatitra nataonao tao anatin'ny herintaona sy tapany farany, raha toa ka niova ny toetra niresahanao? Toy ny fihetsiny sy ny soatoaviny, niova ve izany?
Eny. Heveriko aloha fa ny fanakianana nodinihina ato amin'ity lahatsoratra ity, izay avy amin'ny olona maro ao anatin'ireo orinasa ireo amin'izao fotoana izao - fa ity dia indostria iray izay, na dia eo aza ny tsatòka misy, dia midina amin'ny hazakazaka mankany amin'ny farany ambany amin'ny fiarovana ary ny hafainganam-pandeha dia manenika ny zava-drehetra - nitombo ny ahiahy. Ary heveriko fa nohamarinina bebe kokoa ireo ahiahy ireo rehefa nitranga ny taona sy tapany lasa. Nandritra izany fotoana izany, niova manokana ny fihetsika momba an'i Sam Altman. Rehefa nanomboka niresaka tamin'ny loharanom-baovao momba an'io izahay, dia tena liana tokoa ny olona voatonona momba an'io ary nandeha an-tsoratra momba izany.
Amin'ny fiafaran'ny tatitray dia manana vondron'olona mitatitra ianao izay iresahan'ny olona momba an'io an-karihary sy miharihary, ary misy mpikambana ao amin'ny filankevi-pitantanana milaza zavatra toy ny hoe: "Mpandainga ara-tsaina izy. Sociopath izy." Misy fomba fijery isan-karazany avy amin'ny hoe, "Mampidi-doza izany raha jerena ny tsatòka fiarovana, ary mila mpitarika an'ity teknolojia ity isika izay manandratra ny fahamendrehana," hatramin'ny hoe, "Adino ny tsatòka fiarovana, fitondran-tena tsy azo ekena ho an'ny mpanatanteraka amin'ny orinasa lehibe rehetra, ka miteraka fahasahiranana be loatra."
Noho izany, ny resaka dia nanjary mazava kokoa amin'ny fomba izay mety ho tara, fa mampahery amin'ny lafiny iray. Ary i Sam Altman, amin'ny fiderana azy… Tena rariny sy malala-tanana mihitsy ilay lahatsoratra, hoy aho, ho an'i Sam. Tsy io no karazana sombin-javatra izay nisy zavatra "nahazo anao" be dia be. Nandany ora maro tamin'ny telefaonina niaraka taminy aho rehefa namita an'io izahay ary tena nandre azy.
Araka ny azonao alaina sary an-tsaina, amin'ny ampahany tahaka izao, tsy ny zava-drehetra no tafiditra ao. Ny sasany tamin'ireo tranga tamin'ity dia satria nihaino tamim-pahatsorana aho. Ary raha tena nanao tohan-kevitra i Sam hoe tsapako hoe mitondra rano aho, fa misy zavatra, na dia marina aza izany, dia mety ho mampitolagaga, tena diso aho tamin'ny fitazonana an'io forensika sy fandrefesana io. Noho izany dia heveriko fa azo raisina araka ny tokony ho izy izany, ary manantena aho fa ity firaketana zava-misy voaangona mandritra ity vanim-potoana ity dia mety hiteraka resadresaka misimisy kokoa momba ny filàna fanaraha-maso.
Izany no fanontaniako manaraka. Heveriko fa efa im-polony no niresahanao tamin'i Sam nandritra ny tatitra momba ity tantara ity. Averina indray, resaka be dia be mandritra ny fotoana maharitra izany. Nihevitra ve ianao fa niova i Sam nandritra ny tatitra nandritra ny herintaona sy tapany?
Eny. Heveriko fa ny iray amin'ireo subplots mahaliana indrindra amin'ity dia ny hoe i Sam Altman dia miresaka momba an'io toetra io mazava kokoa noho ny taloha. Ny fihetsik'i Sam amin'ity lahatsoratra ity dia tsy toy ny hoe: "Tsy misy na inona na inona ao, tsy marina izany; tsy fantatro izay lazainao." Ny fijoroany dia milaza izy fa io dia vokatry ny fironana mampifaly ny olona sy ny karazana tsy fifanoherana. Niaiky izy fa niteraka olana ho azy izany, indrindra teo amin’ny asany.
Hoy izy hoe: "Eny, mandalo an'io aho, na tsy maintsy nandalo an'io." Heveriko fa ny tena mahaliana ahy dia ny vondron'olona niresahanay izay tsy karazana mpiaro ny fiarovana fotsiny, fa tsy ireo mpikaroka ara-teknika fototra izay matetika manana olana momba ny fiarovana, fa koa ireo mpampiasa vola be mpampiasa. Mpanohana an'i Sam izy ireo, izay, amin'ny toe-javatra sasany, mijery ity fanontaniana ity ary miresaka momba ny nitana anjara toerana lehibe tamin'ny fiverenany taorian'ny tifitra. Ankehitriny, amin'ity fanontaniana ity raha toa ka niova izy, ary hatraiza ny maha-zava-dehibe an'io fiovana io, dia hoy izy ireo: "Eny, nomenay ny tombontsoan'ny fisalasalana izy tamin'izany fotoana izany."
Mieritreritra ny mpampiasa vola malaza iray manokana aho izay nilaza hoe: "Saingy nanomboka teo dia toa mazava fa tsy navoaka tao ambadiky ny ala izy", izay ilay fehezanteny nampiasain'ity iray ity, araka izay nilaina. Vokany, toa toetra marin-toerana izany ankehitriny. Mahita izany amin'ny fomba mitohy isika. Azonao atao ny mijery ny sasany amin'ireo orinasa lehibe indrindra amin'ny OpenAIfifandraisana sy ny fomba itondrany ny vesatry ny tsy fahatokisana amin'ny fomba mitohy.
Tahaka ny amin'i Microsoft, miresaka amin'ny mpanatanteraka any ianao, ary manana ahiahy mafy sy vao haingana izy ireo. Amin'ity tranga ity, ny OpenAI dia nanamafy ny maha-tokana azy miaraka amin'i Microsoft momba ny modely AI tsy misy fanjakana ary manambara fifanarahana vaovao miaraka amin'i Amazon koa izy ireo amin'ny fivarotana vahaolana amin'ny orinasa amin'ny fananganana mpiasan'ny AI izay manara-penitra, midika izany fa manana fitadidiana izy ireo.
Miresaka amin'ny olona Microsoft ianao, ary toy ny hoe: "Tsy azo atao izany raha tsy mifandray amin'ny zavatra fototra izay ananantsika fifanarahana manokana." Izany dia iray amin'ireo ohatra madinidinika izay ahitana ity toetra ity izay mirona amin'ny hetsika ara-barotra mitohy amin'ny fotoana rehetra ary lohahevitra mampanahy mavitrika ao anatin'ny biraon'ny OpenAI, ao anatin'ny suite mpanatanteraka ary ao amin'ny vondrom-piarahamonina teknolojia midadasika kokoa.
Miteniteny foana ianao hoe "toetra". Misy andalana ao amin'ny tantara izay amiko dia toy ny thesis, ary famaritana ny toetra asehonao izany. Ny hoe "Sam Altman dia tsy voafehin'ny fahamarinana" ary manana "toetra roa izay saika tsy hita velively amin'ny olona iray izy: ny voalohany dia faniriana mafy hampifaly ny olona, ho tian'ny olona amin'ny fifandraisana rehetra, ary ny faharoa dia ny tsy fahampian'ny fiaraha-monina saika tsy miraharaha ny mety ho vokatry ny famitahana olona iray."
Tsy maintsy milaza aminareo aho, namaky io fehezan-teny io in-500 aho, ary niezaka naka sary an-tsaina foana hoe inona no tian'ny olona ho tian'ny olona ary avy eo dia tsy sosotra rehefa mahatsapa lainga. Ary tsy azoko natao ho takatry ny saiko hoe ahoana no mety hisian'ireo zavatra ireo ao amin'ny olona iray ihany. Niresaka betsaka tamin’i Sam ianao, ary niresaka tamin’ireo olona niaina ireo toetra ireo. Ahoana no ataony?
Eny. Mahaliana eo amin'ny sehatry ny maha-olombelona izany satria manatona vondron'olona mitatitra tahaka izao aho miaraka amin'ny tena fifantohana amin'ny maha-olombelona izay ao am-pony ary mitady fahatakarana lalina sy fiaraha-miory. Rehefa somary nanandrana nanatona an'io amin'ny fomba fijerin'olombelona kokoa aho ka niteny hoe: "Hey, mety hanimba ahy izany raha maro be ny olona niara-niasa tamiko no nilaza fa mpandainga ara-pahasalamana aho. Ahoana no hitondranao an'io lanjany io? Ahoana no iresahanao momba izany amin'ny fitsaboana? Inona no tantara lazainao momba izany?"
Nahazo karazana, raha ny fahitako azy, angamba ny fitenenan-dratsy any amin'ny morontsiraka Andrefana momba izany toy ny hoe, "Eny, tiako ny miasa fofonaina." Saingy tsy dia maro ny karazana fahatsapana fifanoherana lalina izay heveriko fa mety ho azon'ny maro amintsika raha mahita izany karazana fanehoan-kevitra izany momba ny fitondran-tenantsika sy ny fitondrantsika ny olona isika.
Heveriko fa mandeha amin'ny valiny midadasika kokoa amin'ny fanontaniana ihany koa izany. Nanamafy i Sam fa niteraka olana io toetra io, nefa koa anisan'ny nanome hery azy hanafaingana ny fitomboan'ny OpenAI ka afaka mampiray sy mampifaly vondron'olona samihafa. Resy lahatra hatrany amin’ireo fokontany mifanipaka rehetra ireo izy fa izay karakarain’izy ireo no zava-dehibe aminy. Ary mety ho fahaiza-manao tena ilaina ho an'ny mpanorina izany. Niresaka tamin'ireo mpampiasa vola aho, izay avy eo nilaza hoe: "Eny, mety ho fahaiza-manao tsy dia ilaina loatra amin'ny fitantanana orinasa izany satria mamafy korontana be."
Saingy eo amin'ny lafiny manokana an'i Sam, heveriko fa ny zavatra raisiko rehefa manandrana mifandray amin'ny olombelona aho dia ny tsy fisian'ny fifandonana lalina kokoa, ny fisaintsainana ary ny fandraisan'anjaran'ny tena, izay mampahafantatra ihany koa izany hery lehibe izany na andraikitra ho an'ny orinasa iray miomana amin'ny IPO.
Izy dia olona iray izay, araka ny tenin'ny mpikambana iray ao amin'ny filankevi-pitantanana taloha antsoina hoe Sue Yoon, izay ao amin'ny firaketana an-tsoratra ao amin'ilay sombin-javatra milaza fa hatramin'ny "fahasosorana" ny fehezanteny ampiasainy, dia afaka mino ny tena zava-misy miovaova amin'ny fivarotana azy na afaka mandresy lahatra ny tenany amin'izy ireo. Na fara faharatsiny, raha tsy mino an’ireo izy, dia afaka mikomy amin’izy ireo tsy misy fisalasalana manan-danja.
Heveriko fa ny zavatra resahinao, izay mety aminao na izaho, rehefa miteny an'ilay zavatra isika ary mahatsapa fa mifanohitra amin'ny toky hafa nataontsika izany, dia karazana fotoana hivaingana na hijerena ny tenantsika. Heveriko fa tsy mitranga aminy izany. Ary misy kolontsain'ny Silicon Valley midadasika kokoa sy kolontsaina mpanorina izay manaiky an'izany.
Mampihomehy izany. Ny Verge dia miorina amin'ny vidin'ny famerenana ny vokatraprograma. Io no fototry ny zavatra ataontsika eto. Mitazona Apple R&D iray tapitrisa dolara aho indray mandeha isan-taona ary miteny hoe: "Fito ity finday ity." Ary toy ny manara-dalàna ny tatitra rehetra ataonay sy ny hevitray any an-kafa. Manana asa fanombanana izahay, ary mandany fotoana be dia be mijery fotsiny ny vokatra AI ary miteny hoe: "Miasa ve izy ireo?"
Toa tsy hita amin'ny resaka maro momba ny AI tahaka ny amin'izao fotoana izao izany. Misy resaka tsy misy farany momba izay mety ho vitany, ny loza mety hitranga. Ary avy eo ianao dia mamakafaka, ary miteny ianao hoe, "Moa ve izany tena manao ny zavatra tokony hataony androany?" Amin'ny toe-javatra sasany, ny valiny dia eny. Saingy amin'ny tranga maro dia tsia ny valiny.
Izany dia toa mifandray amin'ny kolontsaina hype izay faritanao ary koa amin'ny fahatsapana fa, eny, raha milaza ianao fa hanao zavatra ary tsy hanao izany, ary misy olona malahelo, dia tsara izany satria mankany amin'ny zavatra manaraka isika. Efa taloha izany. Ary amin'ny AI manokana, Sam dia tena mahay manao ny fampanantenana lehibe.
Tamin'ity herinandro ity ihany, heveriko fa tamin'ny andro namoahana ny tantaranao ihany, OpenAI dia namoaka antontan-taratasy momba ny politika izay nilaza fa tokony handinika indray ny fifanarahana ara-tsosialy isika ary hanana famatsiam-bola avy amin'ny governemanta AI. Fampanantenana lehibe momba ny fomba mety hamolavolana ny ho avin'izao tontolo izao sy ny fomba fiainantsika izany rehetra izany, ary miankina amin'ny teknolojia miasa amin'ny fomba izay mety nampanantenaina fa hiasa na tokony hiasa izany rehetra izany.
Efa nahita an'i Sam ve ianao misalasala AI mivadika ho AGI na superintelligence na tonga any amin'ny tsipika fahatongavana? Satria io no zavatra mampanontany tena ahy indrindra. Misy fisaintsainana ve raha afaka manao ny zavatra rehetra lazainy fa vitany io teknolojia fototra io?
Io no fanontaniana napetraka tsara. Misy teknolojia azo itokisana izay niresahanay tamin'ity vondron'ny tatitra ity - ary mazava ho azy fa tsy iray i Sam Altman; olona mpandraharaha izy - izay milaza fa tsy lavitra ny fomba iresahan'i Sam momba ny fandaharam-potoana ho an'ity teknolojia ity. Misy lahatsoratra bilaogy efa lasa taona vitsivitsy izay nilazan'i Sam hoe: "Efa tonga any amin'ny faravodilanitra ny hetsika isika. AGI dia eto amin'ny ankapobeny. Any an-jorony ny superintelligence. Ho any amin'ny planeta hafa isika. Hitsabo ny karazana homamiadana rehetra isika." Raha ny marina, tsy manangom-bokatra aho.
Ny homamiadana iray dia tena mahaliana, fa i Sam dia mampihomehy ilay olona nanasitrana ny homamiadan'ny alikany tamin'ny ChatGPT, ary tsy nitranga izany. Niresaka tamin'ny ChatGPT izy ireo, ary nanampy azy ireo hitarika mpikaroka sasany izay tena nanao ny asa, fa ny iray amin'ny iray, ity fitaovana nanasitrana ity alika ity dia tsy ny tantara.
Faly aho fa nampiakatra an'io hevitra io ianao satria te-hitohy amin'ity teboka lehibe ity momba ny fotoana tena hipetrahan'ny mety sy ny loza ateraky ny teknolojia. Saingy ilaina ny manonona ireo sisiny kely izay mitranga tsy tapaka avy amin'i Sam Altman, izay toa naveriny indray io toetra io.
Ny tiako holazaina dia ny hampiasa ny ohatry ny tatitry ny WilmerHale, izay nanananay ity vaovao ity izay tsy voarakitra an-tsoratra, ary te-hahafantatra raha nomena olon-kafa ankoatra ireo mpikambana roa ao amin'ny filankevi-pitantanana Sam mba hanara-maso izany. Ary hoy izy: “Eny, eny, tsia, mino aho fa nomena ny rehetra izay niditra tao amin’ny birao taorian’izay.” Ary misy olona mahafantatra mivantana ny zava-misy isika milaza fa lainga tsotra izao. Ary izany no tena hita fa tsy marina. Raha te ho malala-tanana isika, dia mety ho diso hevitra izy.
Misy be dia be amin'ireny fanomezan-toky tsy ara-dalàna ireny. Ary mampiasa an'io ohatra io amin'ny ampahany aho satria ohatra tsara amin'ny fanakorontanana izany, andao hiantso azy io, izay mety hisy vokany marina ara-dalàna. Tsy mila milaza aminao aho, eo ambanin'ny lalànan'ny orinasa Delaware, raha toa ity orinasa IPO ity, dia afaka mitaraina momba izany ny tompon'andraikitra, eo ambanin'ny fizarana 220, ary mitaky antontan-taratasy fototra. Efa misy mpikambana ao amin'ny filankevi-pitantanana milaza zavatra toy ny hoe, "Eny, andraso kely, tokony ho nitranga izany."
Noho izany ireo zavatra izay toa mitsambikina avy amin'ny vavany amin'ny fotoana rehetra, dia mety hisy fiantraikany amin'ny tsenan'ny tsena tena izy, ny vokatra tena izy ho an'ny OpenAI. Avereno amin'ny karazana fiteny utopia mipoitra indray izany, heveriko fa tsy kisendrasendra tamin'ny andro nivoahan'ity lahatsoratra ity, fa miantraika amintsika rehetra ihany koa izany, satria ny loza dia tena manjavozavo amin'ny fomba misy azy.apetraka amin'ny fitaovam-piadiana, ny fomba ampiasana azy hamantarana ireo mpiasan'ny ady simika, ny mety hisian'ny fanalam-baraka, ary noho ny fomba izay toa mampirisika ny mpahay toekarena azo itokisana hilaza hoe: "Ity dia manana ny famantarana ny bubble."
Na i Sam Altman aza dia nilaza hoe: “Hisy ho very vola be eto.” Tena mety hiteraka fitomboana ara-toekarena amerikana sy eran-tany izany, raha toa ka misy ny fanindronana marina amin'ny bubble misy ireo orinasa rehetra ireo izay mifampiraharaha, miditra ao amin'ny AI raha mindrana be. Noho izany dia zava-dehibe izay lazain'i Sam Altman, ary heveriko fa ny fahamaroan'ny olona manodidina azy, nolazainao fa niresaka tamin'ny zato mahery izahay, raha ny marina dia zato mahery izany. Niresaka teo amin'ny tsipika fahatongavana izahay, izay toy ny hoe: "Tsy dia kely loatra ve ny milaza fa toy ny isa ambony kokoa?" Ary toy ny hoe: "Eny, andao isika hanambany. Hilalao tsara isika." Saingy nisy olona maro be ary ny ankamaroan'izy ireo dia nilaza hoe: "Mampanahy izany." Ary heveriko fa izany rehetra izany no antony.
Mamelà ahy hanontany anao momba io isa io. Araka ny voalazanao dia nisokatra hatrany ny olona noho ny ahiahy rehefa nandeha ny fotoana. Toa ny fanerena manodidina ny bubble — ny hazakazaka handresy, handoa izany fampiasam-bola rehetra izany, hivoaka ho mpandresy, ho IPO — dia nanova toe-tsaina maro. Azo antoka fa niteraka fanerena bebe kokoa amin'i Sam sy OpenAI izany.
Namoaka tantara izahay tamin'ity herinandro ity momba ny vibe OpenAI. Anisan'izany ny tantaranao, fa ny fiovan'ny mpiasa be dia be amin'ny laharan'ny mpanatanteraka ao amin'ny OpenAI - ho avy sy handeha ny olona. Niala daholo ny mpikaroka, indrindra ho any Anthropic, izay heveriko fa tena mahaliana. Hitanao fotsiny fa mahatsapa ny tsindry ity orinasa ity, ary mamaly izany fanerena izany amin'ny fomba sasany.
Fa avy eo dia mieritreritra aho fa voaroaka i Sam. Tsy hay hadinoina fotsiny izany ho ahy. Tsy hay hadinoina ho an'olon-kafa izany, fa naka antso an-tariby tao amin'ny Zoo Bronx aho tamin'ny 7 ora hariva tamin'ny zoma, ary nisy olona nilaza fa hiezaka hamerina an'i Sam izy ireo. Ary avy eo dia nandany ny faran'ny herinandro nanenjika an'io tantara io izahay. Ary toy ny hoe: "Ao amin'ny zoo aho. Inona no tianao hataoko eto?" Ary ny valiny dia: "Mijanòna amin'ny telefaona." Eny ary, ny zanako vavy dia toy ny hoe, "Alaivo ny telefaona." Ary izany no nataoko.
Nandeha na maty mba hamerenana an'i Sam. Io orinasa io dia toy ny hoe, "Tsia, tsy avelanay handoro an'i Sam Altman ny birao." Ireo mpampiasa vola, voatonona ao amin'ny lahatsoratrao izy ireo, "Nandeha niady izahay", heveriko fa ny toeran'ny Thrive Capital, "hamerenana an'i Sam." Niady i Microsoft mba hamerenana an'i Sam. Taty aoriana, ary izao ny rehetra dia toy izao: "Handeha IPO izahay. Tonga amin'ny tsipika fahatongavana izahay. Naverinay ilay lehilahy, ary hitondra anay any amin'ny tsipika fahatongavana izy. Manahy izahay fa mpandainga izy."
Nahoana no ady ny nahazo azy tamin’izany? Satria toa tsy nisy fiovana mihitsy. Miresaka momba ny memo izay notazonin'i Ilya Sutskever sy [Tale Jeneralin'ny Anthropic] Dario Amodei fony izy ireo niara-belona tamin'i Sam Altman. Ny ahiahin'i Ilya voalohany dia ny hoe mpandainga i Sam.
Tsy nisy niova na inona na inona. Koa nahoana no ady ny namerina azy tamin’izay? Ary amin'izao fotoana izao dia eo amin'ny tsipika fahatongavana isika, toa mibaribary ny ahiahy rehetra.
Eny ary, voalohany indrindra, miala tsiny amin'ny zanakao vavy sy ny namako ary ny olona hafa rehetra manodidina ny mpanao gazety.
[Hehy] Tena faran'ny herinandro ho an'ny rehetra izany.
Eny, maka ny fiainan'ny olona iray izany, ary ity tantara ity dia manana ny ahy, nandritra ny fotoana farany. Tena misy ifandraisany amin'io lohahevitry ny asa fanaovan-gazety sy ny fahazoana vaovao io, hoy aho. Ireo mpampiasa vola izay nandeha niady ho an'i Sam sy ny rehetra dia nandray anjara tamin'ny fanaovana antoka ny fiverenany, ary ny birao izay natao manokana hiarovana ny iraka tsy mitady tombontsoa mba hametraka fiarovana amin'ny fitomboana sy ny fandroahana mpanatanteraka raha tsy azo itokisana amin'izany izy ireo, dia lasa izy ireo. Izany rehetra izany dia satria, eny, nisy ny fandrisihana tsena, sa tsy izany?
Afaka nandresy lahatra ny olona i Sam hoe: "Eny, hirodana ny orinasa." Fa ny antony nahazoany fanohanana dia ny tsy fahampian'ny fampahalalana. Ireo mpampiasa vola, amin'ny toe-javatra maro, dia miteny izao hoe: "Mitodika ny lasa aho, ary heveriko fa tokony ho nanana ahiahy bebe kokoa aho raha nahafantatra tsara ny momba ny fitakiana sy ny olana."
Tsy izy rehetra;Miovaova ny hevitra, ary mitanisa hevitra isan-karazany izahay, saingy misy olona manan-danja izay nanao zavatra tamin'ny ampahany. Ny solaitrabe izay nitifitra an'i Sam dia, araka ny tenin'ny olona iray izay teo amin'ny solaitrabe taloha, dia "tena JV", ary nopotehin'izy ireo mafy ny baolina. Ary noraketinay ny fitarainana fototra, ary afaka manapa-kevitra ho an'ny tenany ny olona raha miangona ao anatin'ny karazana fiahiahiana maika izay tsapany fa nisy izany, saingy tsy naseho izany adihevitra izany sy izany fampahalalana izany.
Nahazo izay heverin'ny sasany ho torohevitra ara-dalàna ratsy izy ireo ankehitriny. Mba hamaritana azy dia ho tsaroanao ilay teny nalaina, ary angamba maro amin'ireo mpihaino sy mpijery anao no hahatsiaro ilay teny nalaina ho toy ny tsy fahampian'ny fahatsoram-po. Izany no nampihena azy, ary avy eo dia tsy nandray antso izy ireo.
Tsy nandray antso izy ireo. Azoko antoka fa nanandrana ianao. Nanandrana ny olona rehetra fantatro, ary tonga amin'ny toerana izay, amin'ny maha-mpanao gazety anao, dia tsy tokony hanome toro-hevitra momba ny loharanon-kevitrao ianao, fa toy ny hoe: "Hiala izany raha tsy manomboka manazava ny tenanao ianao."
Ary izany no nitranga. Adino ny mpanao gazety. Nilaza i Satya Nadella ianao hoe: "Inona no nitranga? Tsy misy olona afaka manazava amiko." Ary izany no mpanohana ara-bola lehibe ny orinasa. Ary avy eo ianao dia miantso an'i Satya [mpiara-manorina LinkedIn] Reid Hoffman sy Reid miantso manodidina ary miteny hoe: "Tsy fantatro izay nitranga."
Mazava ho azy fa ao anatin'izany tsy fahampian'ny fampahalalam-baovao izany izy ireo, mitady ireo tondro nentim-paharazana tsy AI izay hanamarina ny tifitra maika sy tampoka. Toy ny, okay, heloka ara-pananahana ve izany? Fanodinkodinam-bola ve? Ary ny tohan-kevitra manjavozavo rehetra, saingy heveriko fa misy dikany, fa hafa ity teknolojia ity ary ity karazana fanangonan-tsonia tsy mitsaha-mitombo amin'ny famadihana kely kokoa ity dia mety hisy fiantraikany manan-danja ho an'ity orinasa ity ary mety ho an'izao tontolo izao. Noho izany dia nandresy ny fandrisihana kapitalista, fa ireo olona nanao izany dia nivoaka ary tsy niasa tamin'ny fampahalalana feno.
Te-hanontany fotsiny aho momba ny lafiny "inona no heverin'ny rehetra fa izany" indray mandeha, satria azo antoka fa nahita ny vaovao aho, ary hoy aho hoe: "Oh, tsy maintsy nisy zavatra ratsy nitranga." Nanao tatitra betsaka momba ny #MeToo ianao, malaza. Nopotehinao ny tantaran'i Harvey Weinstein.
Nandany fotoana be ianao tamin'ny tatitra momba ireo fanambarana izay heveriko fa tsy mitombina ny fanapahan-kevitrao tamin'ny farany: fa i Altman dia nanao herisetra ara-nofo na nanakarama mpivaro-tena, na namono mpitsikilo OpenAI mihitsy aza. Ny tiako holazaina dia ianao no olona afaka mitatitra ity zavatra ity amin'ny fomba hentitra indrindra. Nanapa-kevitra ve ianao fa lasa tsinontsinona izany?
Eny ary, jereo, tsy ao anatin'ny raharaha ny filazana fa nisy zavatra tonga tsinontsinona. Ny azoko ambara dia nandany volana maro nijery ireo fitakiana ireo aho ary tsy nahita fanamafisana ho azy ireo. Ary nahavariana ahy fa ireo lehilahy ireo, ireo orinasa izay manana fahefana lehibe amin'ny hoavintsika, dia tena mandany vola be amin'ny fotoanany sy ny fananany amin'ny ady amin'ny fotaka zaza.
Ny mpanatanteraka iray dia mamaritra azy io ho "Shakespearean." Ny volan’ny mpanao famotorana tsy miankina sy ny antontan-taratasin’ny mpanohitra voaangona dia tsy misy fitsaharana. Ary ny mampalahelo dia ny karazan-javatra mahasosotra, izay ataon'ny mpifaninana amin'i Sam, dia heverina ho zava-misy, sa tsy izany? Misy ny fiampangana fa manenjika zazalahy tsy ampy taona izy, ary amin'ny fety cocktail maro any Silicon Valley, henonao izany. Tao amin’ny fizaran’ny kaonferansa, dia nandre izany vao avy naverin’ireo mpanatanteraka azo itokisana sy malaza aho hoe: “Fantatry ny rehetra fa zava-misy izany.”
Ny mampalahelo dia ny hoe avy aiza izany no resahiko, ireo vectors isan-karazany mampita izany. Elon Musk sy ny mpiara-miasa aminy dia toa manosika dosie tena mafy be toy izany. Mandoto izy ireo rehefa manomboka mijery ny fitakiana fototra ianao. Ny mampalahelo dia tena manamaizina ny fanakianana mifototra amin'ny porofo eto izay heveriko fa tena mendrika ny hojerena sy hodinihina maika.
Ny lohahevitra hafa tena tonga ao amin'ny tantara dia saika fahatsapana tahotra fa manana namana be dia be i Sam - nampiasa orinasa maro be izy tamin'ny asany teo aloha tamin'ny maha Tale Jeneralin'ny Y Combinator azy, hatramin'ny fampiasam-bolany manokana, ny sasany amin'izy ireo dia mifanohitra mivantana amin'ny andraikiny amin'ny maha Tale Jeneralin'ny OpenAI azy - ary misy fahanginana manodidina azy.
Nanaitra ahy izany rehefa namaky andalana iray manokana aho. Manoritsoritra ny memo an'i Ilya Sutskever ianao, ary any amin'ny Valley Silicon izy ireo. Ny olon-drehetramiantso azy ireo ny memo Ilya. Saingy misy aza ny fahanginana manodidina izany. Nandalo izy ireo, saingy tsy resahina. Avy aiza izany araka ny hevitrao? tahotra ve izany? Faniriana ve ny hahazo fampiasam-bola anjely? Avy aiza izany?
Heveriko fa kanosa be izany, tsoriko. Rehefa avy nanao tatitra momba ny tantaram-piarovam-pirenena izay ny loharanom-baovao dia mpitsikilo izay mijoro ho very ny zava-drehetra ary miatrika fanenjehana, dia mbola manao ny marina izy ireo ary miresaka momba ny zavatra hamoronana tamberin'andraikitra. Niasa tamin'ireo tantara mifandraika amin'ny heloka bevava momba ny firaisana ara-nofo izay nolazainao aho, izay ahitana loharanon-javatra mampalahelo be ary matahotra karazana famaizana tena manokana.
Amin'ny tranga maro manodidina an'io kapoka io, ianao dia mifandray amin'ny olona manana ny mombamomba azy sy ny heriny manokana. Na olona malaza izy ireo na voahodidin'ny olona malaza. Manana fiainana ara-barotra matanjaka izy ireo. Raha ny fahitako azy dia tena ambany dia ambany ny firesahana momba an'io zavatra io. Soa ihany fa mihetsiketsika ny fanjaitra araka ny efa noresahina teo aloha, ary lasa miresaka bebe kokoa ny olona ankehitriny.
Saingy nandritra ny fotoana maharitra toy izany, tena nangina fotsiny ny olona momba izany satria heveriko fa ny kolontsain'ny Silicon Valley dia tsy miraharaha ny tombontsoan'ny tena manokana ary tsy miraharaha ny raharaham-barotra sy ny fitomboana. Noho izany dia heveriko fa na dia ny sasany tamin'ireo olona voarohirohy tamin'ny fandroahana an'i Sam aza izany, izay hitanao tao anatin'ny andro vitsivitsy, eny, ny antony iray nahatonga azy hiverina sy ny fandroahana ireo mpikambana taloha tao amin'ny birao dia ny famoriana ireo mpampiasa vola izay very hevitra amin'ny antony.
Saingy ny iray hafa dia ny fisian'ny olona maro hafa manodidina azy izay nanana ahiahy sy nanetsika azy ireo haingana dia nivalona toy ny servieta ary niova ny feon'izy ireo raha vao nahita ny rivotra nitsoka tamin'ny fomba hafa, ary te-hiditra tao amin'ny fiaran-dalamby.
Maizina tokoa izany, raha ny marina, raha ny fahitako ny mpanao gazety.
Ny sasany amin'ireo olona ireo dia Mira Murati, izay mino aho fa nandritra ny 20 minitra no tale jeneralin'ny OpenAI vaovao. Nosoloina izy avy eo. Fihetsiketsehana sarotra be ilay izy, ary mazava ho azy fa niverina i Sam. Ny iray hafa dia Ilya Sutskever, izay iray tamin'ireo vato hanesorana an'i Sam, ary avy eo dia niova hevitra, na farafaharatsiny nilaza fa niova hevitra, ary avy eo dia lasa nanangana orinasa manokana. Fantatrao ve hoe inona no nahatonga azy niova hevitra? Vola ihany ve izany?
Eny ary, mazava ho azy, tsy manavaka ireo roa ireo aho. Misy ihany koa ireo mpikambana ao amin’ny filankevi-pitantanana voarohirohy tamin’ny tifitra variraraka izay nangina mafy ihany koa taorian’izay. Heveriko fa toy ny olana iraisana midadasika kokoa izany. Ireo dia, amin'ny toe-javatra sasany, ireo olona manana filamatra ara-moraly hanaitra ny fanairana sy hanao hetsika mahery vaika, ary tokony hoderaina izany. Ary izany no hiantoka ny fandraisanao andraikitra. Mety ho nanampy olona maro izay tratran'ity teknolojia ity izany. Mety ho nanampy ny indostria iray hijanona ho mifantoka kokoa amin'ny fiarovana.
Saingy ny fiatrehana ireo mpitsikilo sy ireo olona izay miezaka mafy mamporisika izany fandraisana andraikitra izany dia hitanao ihany koa fa mila ny fikolokoloana azy sy ny fijoroanao amin'ny finoanao. Ary ity indostria ity dia tena feno olona izay tsy mijoro amin'ny finoany fotsiny.
Na dia mihevitra aza izy ireo fa manangana Andriamanitra nomerika izay hanafoana ny asa rehetra na hamorona asa bebe kokoa, na hisy zavatra hitranga.
Eny, izany no zavatra. Noho izany, ny kolontsaina tsy mijoro amin'ny faharesen-dahatrao sy ny olana ara-moraly rehetra dia miala eny an-dalana amin'ny fotoana misy hafanana na zavatra mety hanohintohina ny fijoroanao manokana amin'ny orinasa dia mety ho tsara sy tsara amin'ny lafiny sasany ho an'ny orinasam-barotra toy ny mahazatra izay manao karazana widget.
Saingy ireo ihany koa ireo olona ireo izay miteny hoe: “Mety hahafaty antsika rehetra tokoa ity.” Ary indray, tsy mila mandeha any amin'ny Terminator Skynet extreme ianao. Misy karazana risika efa mipoitra. Tena misy izany, ary marina ny fampitandremana momba izany, saingy mila manana seza hafa ianao mba handinika ny fomba ahafahan'ireo zavatra roa ireo hiaina ao anatin'ny olona iray izay ampandrenesiny ny fampitandremana maika, mety hampidi-doza izy ireo ary manandrana manao zavatra, ary avy eo miforitra sy mangina fotsiny.
Izany indrindra no antony ahafahanao manana ireo karazan-javatra tsy voarakitra an-tsoratra sy ireo zavatra voafafa ao ambanin'ny karipetra, ary tsy misy olona miresaka an-karihary izany nandritra ny taona maro taorian'ny zava-misy.
Ny antoko voajanahary sy tompon'andraikitra eto dia tsy ho Tale Jeneralin'ireo orinasa ireo; ho governemanta izany. Any Etazonia angambagovernemantam-panjakana io, angamba ny governemanta federaly.
Azo antoka fa samy te ho eran-tany avokoa ireo orinasa ireo. Betsaka ny fiantraikany maneran-tany eto. Nijery ny OpenAI, Google, ary Anthropic aho dia samy nitaona ny fitantanan'i Biden hamoaka baiko mpanatanteraka AI. Tena tsy nisy nify ilay izy tamin'ny farany. Nilaza fotsiny izy ireo fa tsy maintsy miresaka momba ny fahaizan'izy ireo modely izy ireo ary namoaka fitsapana fiarovana. Ary avy eo dia nanohana an'i Trump izy rehetra, ary niditra i Trump ary namafa izany rehetra izany ary nilaza hoe: "Tsy maintsy mifaninana isika. Maimaim-poana ho an'ny rehetra izany. Mandehana."
Etsy andanin'izany, samy miezaka manangona vola avy amin'ny firenena Afovoany Atsinanana izay manana vola solika be dia be izy ireo ary te hanova ny toekareny. Ireo no mpanao politika. Tsapako fa tokony ho takatry ny mpanao politika tokoa fa misy olona miteny avy amin'ny andaniny roa amin'ny vavany, ary tsy ho sosotra loatra izy ireo raha misy diso fanantenana amin'ny farany, fa ny mpanao politika koa dia raisina an-tanety. Nahoana araka ny hevitrao?
Izany no tena, heveriko, ny antony maha-zava-dehibe ilay sombin-javatra araka ny fahitako azy ary nahoana no mendrika ny handany izany fotoana sy antsipiriany rehetra izany. Ao anatin'ny tontolo iray izay misy rafitra izay, araka ny lazainao, tokony hanara-maso, dia rava fotsiny. Izany dia taorian'ny Citizens United America, izay tsy voafehy ny fikorianan'ny vola, ary ny fifantohana manokana amin'io olana io manodidina ny AI, izay misy ireo PAC ireo izay mihamitombo sy manondraka vola amin'ny fanafoanana ny fitsipika manan-danja eo amin'ny fanjakana sy federaly.
Manana [mpiara-manorina ny OpenAI] Greg Brockman ianao, ny baikon'i Sam faharoa, mandray anjara mivantana amin'ny fomba lehibe ho an'ny roa amin'izy ireo. Izany dia mitarika amin'ny toe-javatra izay tena misy ny fisamborana ireo mpanao lalàna sy ny mety ho mpandrindra, ary sarotra ny miala amin'izany. Ny mampalahelo dia, heveriko fa misy hetsika politika tsotra, ny sasany amin'izy ireo dia andrana any an-kafa eto amin'izao tontolo izao, izay hanampy amin'ny olana sasany amin'ny fandraisana andraikitra.
Azonao atao ny manana fitsapana fiarovana mialoha ny fametrahana azy, izay zavatra efa mitranga any Eropa ho an'ny modely sisintany. Azonao atao ny manana fepetra henjana kokoa momba ny firaketana an-tsoratra ho an'ny daholobe momba ireo karazana fanadihadiana anatiny izay nahitanay zavatra tsy voarakitra an-tsoratra tamin'ity tranga ity. Azonao atao ny manana rafitra fanaraha-maso momba ny fiarovam-pirenena matanjaka kokoa ho an'ireo karazana hetahetan'ny fotodrafitrasa Afovoany Atsinanana izay natosiky ny Sam Altman.
Araka ny voalazanao dia nanao an'io fandrika io izy ary nifindra tamin'ny fitantanan'i Biden, nanao hoe: "Ampio izahay, fehezo izahay," ary manampy azy ireo hamolavola baiko mpanatanteraka, ary avy eo amin'ny fotoana hidiran'i Trump, amin'ny andro voalohany indrindra, dia tsy ho voasakana fotsiny, "Andao hanafaingana ary andao hanangana tobim-pamokarana data midadasika ao Abu Dhabi." Mety ho azonao, ity dia tena tsotra, toy ny fiarovana ny mpitsikilo. Tsy misy lalàna federaly miaro ny mpiasan'ny orinasa AI izay manambara ireo karazana olana momba ny fiarovana izay alefa amin'ity lahatsoratra ity.
Izahay dia manana tranga izay nahatonga an'i Jan Leike, izay lehilahy mpiaro zokiolona tao amin'ny OpenAI, nitarika ny fampifanarahana lehibe tao amin'ny orinasa. Nanoratra tany amin'ny birao izy, izay fitaovana mpitsikilo indrindra, nilaza fa miala amin'ny lalamby ny orinasa amin'ny iraka fiarovana azy. Ireo no karazan'olona izay tokony hanana vatana manara-maso azony aleha, ary tokony hanana fiarovana ara-dalàna mazava tsara amin'ny karazana hitantsika any amin'ny sehatra hafa. Tsotra ny mamerina fomba fitondrana Sarbanes-Oxley.
Heveriko fa na dia eo aza ny hamafin'ny olan'ny Silicon Valley amin'ny fifehezana ny fahefana rehetra, ary na dia eo aza ny fanafoanana ny sasany amin'ireo andrim-panjakana izay mety hanome fanaraha-maso sy fiambenana, dia mbola mino ny matematika fototra momba ny demokrasia sy ny mpanao politika liana amin'ny tena manokana aho. Ary mihabetsaka hatrany ny angon-drakitra fandatsaham-bato mipoitra izay mihevitra ny ankamaroan'ny Amerikanina fa ny ahiahy, ny fanontaniana, na ny loza ateraky ny AI amin'izao fotoana izao dia mihoatra ny tombontsoa.
Noho izany dia heveriko fa ny fitombon'ny vola miditra amin'ny politika avy amin'ny AI, dia ao anatin'ny herintsika rehetra ny manao izany ho loharanom-panontaniana momba ny mpanao politika. Rehefa handeha hifidy ny Amerikanina dia tokony handinika raha toa ka ny olona nofidiany, indrindra raha tsy mitsikera sy manohitra ny lalàna izy ireo, raha jerena ireo ahiahy rehetra ireo, dia atolotry ny tombontsoa manokana amin'ny teknolojia lehibe. Noho izany dia heveriko fa raha afaka mamaky sombin-javatra tahaka izao ny olona, mihaino podcast tahaka izao, ary mikarakara tsara mba hieritreretana tsarany fanapahan-kevitr'izy ireo amin'ny maha-mpifidy azy, dia misy ny tena fahafahana hamorona faritra iray ao Washington amin'ny solontena izay manara-maso sy manery ny fanaraha-maso.
Mety ho iray amin'ireo zavatra be fanantenana indrindra henoko ny olona nilaza momba ny indostrian'ny AI ankehitriny. Mankasitra aho. Tena variana amin'ny fandatsaham-bato resahinao aho. Be dia be izao. Mifanaraka tsara daholo izany, ary toa ny tanora kokoa, indrindra indrindra, no tratran'ny AI, ny tsy fahatokisana sy ny fahatezerany amin'izany. Izany no valim-pifidianana rehetra. Ary mijery an'izany aho, ary mieritreritra aho, eny, eny, ireo mpanao politika hendry dia hifaninana amin'izany fotsiny. Hoy fotsiny izy ireo: "Hanatana tompon'andraikitra amin'ny teknolojia lehibe izahay."
Avy eo aho mieritreritra ny 20 taona lasa izay, mpanao politika iray milaza fa ho tompon'andraikitra amin'ny teknolojia lehibe izy ireo, ary sahirana aho hahita na dia fotoana iray aza ny teknolojia lehibe ho tompon'andraikitra. Ny hany mahatonga ahy hieritreritra fa mety ho hafa izany dia, eny, tena mila manangana ivon-toerana ianao, ary afaka mifidy hanohitra an'izany ianao, ary afaka manao fanangonan-tsonia hanoherana izany, ary afaka manohitra izany ianao.
Heveriko fa misy mpanao politika iray izay vao avy notifirina ny tranony satria nifidy ivontoerana data izy ireo. Tonga ny fihenjanana, hoy aho hoe, tazo. Nofaritanao ny tsy fahampian'ny Silicon Valley. Ity dia tontolo iainana mihidy. Toa mihevitra izy ireo fa afaka mitantana izao tontolo izao. Mametraka vola be amin'ny politika izy ireo, ary manohitra ny zava-misy fa tsy tian'ny olona ny vokatra, izay tsy manome azy ireo sarona be. Arakaraka ny ampiasany ny vokatra no mahatezitra azy ireo, ary manomboka mahita ny mpanao politika fa misy vokany tokoa ny fanohanana ny indostrian'ny teknolojia amin'ny olona soloiny.
Niresaka tamin'olona maro ianao. Heverinao ve fa azon'ny indostrian'ny teknolojia ny mianatra ny lesona eo anoloan'izy ireo?
Milaza ianao fa toa mihevitra izy ireo fa afaka mitantana izao tontolo izao tsy misy tamberin'andraikitra. Tsy heveriko akory fa mila ny "feels like" qualifier izany. Ny tiako holazaina dia mijery ny fiteny ampiasain'i Peter Thiel ianao, mazava ho azy. Mazava ho azy fa ohatra faran'izay mafy izany. Ary Sam Altman, na dia akaiky sy ampahafantarin'ny firehan-kevitr'i Thiel amin'ny lafiny iray aza izy, dia karazana olona tena hafa izay mety ho hafa sy azo refesina kokoa amin'ny teboka iray.
Saingy heveriko fa ny ideolojia midadasika kokoa azonao avy amin'i Thiel, izay amin'ny ankapobeny dia: Vita ny demokrasia, tsy mila izany intsony izahay. Manana be dia be izahay ka te-hanorina bunkers kely izahay. Tsy mifampiraharaha amin'ny Carnegies na ny Rockefellers intsony izahay, izay olon-dratsy, fa mahatsapa izy ireo fa mila mandray anjara amin'ny fifanarahana ara-tsosialy sy manangana zavatra ho an'ny olona. Misy ny nihilisma tena misy.
Ary heveriko fa fifanandrifian-javatra mifanandrify amin'ny tantaran'ny moguls sy orinasa tsy miankina amerikanina vao haingana izay mahazo fahefana ambony amin'ny governemanta nefa ireo andrim-panjakana demaokratika izay mety hitazona azy ireo ho tompon'andraikitra dia voavaha. Tsy matoky tena aho amin'ny hevitra hoe mety hifoha fotsiny ireo lehilahy ireo indray andro any ka hieritreritra hoe: “Hay, angamba mila mandray anjara amin'ny fiaraha-monina isika ary manampy amin'ny fananganana zavatra ho an'ny olona.”
Ny tiako holazaina dia mijery tahaka ny ohatry ny microcosmic amin'ny The Giving Pledge ianao, izay nisy fotoana iray izay toa natao ho fiantrana, ary izany fotoana izany dia lasa ary naneso mihitsy aza. Olana izany, ny olana midadasika kokoa amin'ny tsy fahampian'ny tamberin'andraikitra izay heveriko fa tsy ho voavaha amin'ny fomba ivelany fotsiny. Izany dia tsy maintsy ataon'ny mpifidy manetsika sy mamerina amin'ny laoniny ny fahefan'ny governemanta. Ary marina tokoa ny filazanao fa ny vector lehibe indrindra ahafahan'ny olona manatratra izany dia eo an-toerana. Mifandraika amin’ny toerana amboarina ny fotodrafitrasa izany.
Notanisainao ny sasany amin'ireo fihenjanana fotsy manodidina an'io izay mitarika ho amin'ny herisetra sy fandrahonana, ary mazava ho azy fa tsy misy olona tokony ho mahery setra na mandrahona. Ary tsy eto ihany koa aho mba hanao tolo-kevitra politika manokana afa-tsy ny hanolotra fotsiny ny sasany amin'ireo dingana politika izay toa fototra sy miasa any an-kafa eto amin'izao tontolo izao, sa tsy izany? Na ireo efa niasa tamin’ny sehatra hafa. Tsy eto aho hilaza hoe iza amin'ireo no tokony hovonoina ary ahoana.
Heveriko fa misy zavatra tokony hitranga, ary mila ivelany izany, fa tsy matoky ireo orinasa ireo fotsiny. Satria marinaAmin'izao fotoana izao isika dia manana toe-javatra izay ny orinasa izay mampivelatra ny teknolojia sy ny fitaovana tsara indrindra hahatakatra ny risika, ary raha ny marina dia ireo izay mampitandrina antsika amin'ny risika, dia ireo ihany koa ny tsy misy afa-tsy ny fandrisihana handeha haingana sy tsy miraharaha ireo risika. Ary tsy manana na inona na inona hanoherana izany fotsiny ianao. Noho izany, na inona na inona fanavaozana mety horaisina amin'ny lafiny manokana dia tsy maintsy misy zavatra mifanohitra amin'izany. Ary mbola miverina amin'ny fanantenana fa mbola manan-danja ny vahoaka.
Amin'ny ankapobeny dia mividy ny hevitrao aho. Avelao aho hanao ilay fanoherana kely iray izay heveriko fa azoko ambara. Ny zavatra hafa mety hitranga ivelan'ny vata fandatsaham-bato dia ny mipoitra, sa tsy izany? Tsy ny orinasa rehetra no tonga amin'ny tsipika fahatongavana, ary tsy misy tsenan'ny vokatra mety amin'ny fampiharana AI mpanjifa. Ary indray, mbola tsy hitako loatra izany, fa mpandinika teknolojia mpanjifa aho, ary angamba manana fenitra ambony kokoa noho ny olon-drehetra aho.
Misy ny tsenan'ny vokatra eo amin'ny tontolon'ny fandraharahana, sa tsy izany? Ny fananana andiana mpiasan'ny AI manoratra andiana rindrambaiko dia toa tena tsena ho an'ireo fitaovana ireo. Ary azonao atao ny mamaky ny tohan-kevitra avy amin'ireo orinasa ireo manao hoe: "Namaha ny coding izahay, ary midika izany fa afaka mamaha na inona na inona izahay. Raha afaka manamboatra rindrambaiko izahay dia afaka mamaha ny olana rehetra."
Heveriko fa misy fetrany ny zavatra azon'ny rindrambaiko atao. Tsara izany eo amin'ny tontolon'ny fandraharahana. Ny rindrambaiko dia tsy afaka mamaha ny olana rehetra amin'ny zava-misy, fa tsy maintsy tonga any izy ireo. Tsy maintsy nahavita ny asa izy ireo, ary angamba tsy ny rehetra no tonga amin'ny tsipika fahatongavana. Ary misy fianjerana, ary mipoitra ity bubble ity, ary mety ho OpenAI na Anthropic na xAI, tsy nahomby ny iray amin'ireo orinasa ireo, ary lasa daholo ireo fampiasam-bola ireo.
Mety hisy fiantraikany amin'izany ve izany? Raha ny marina, avelao aho hametraka ny fanontaniana voalohany. OpenAI dia eo an-tampon'ny IPO. Betsaka ny fisalasalana momba an'i Sam amin'ny maha-mpitarika azy. Heverinao ve fa ho tonga amin'ny tsipika fahatongavana izy ireo?
Tsy haminavina aho, fa heveriko fa manangana teboka iray manan-danja ianao, dia ny hoe ny famporisihana ny tsena dia manan-danja ao anatiny ao amin'ny Silicon Valley, ary ny tsy fahampian'ny dinamika bubble amin'izao fotoana izao dia manapaka ny, indray, mety, araka ny mpitsikera, hazakazaka mankany amin'ny farany ambany amin'ny fiarovana.
Hanampy an'izany koa aho, raha mijery ny laharam-pahamehana ara-tantara ianao izay misy andiana fandrisihana tsena mitovy sy toa tsy azo tsinontsinoavina ary mety hanimba ny vahoaka, dia misy fiantraikany amin'ny fitsarana. Ary hitanao fa faritra mampanahy izany tato ho ato. Sam Altman dia any ivelany amin'ity herinandro ity izay manohana ny lalàna izay miaro ny orinasa AI amin'ny karazana andraikitra sasany izay niharan'ny OpenAI tamin'ny fitoriana fahafatesana diso, ohatra. Mazava ho azy fa misy ny faniriana hanana izany ampinga amin'ny andraikitra.
Heveriko fa mbola mety ho mekanika manan-danja ny fitsarana, ary tena mahaliana ny mahita ny fomba fiforonan'ireo akanjo ireo. Efa hitanao, ohatra, ny fitoriana atao amin'ny kilasy, izay izaho sy ny maro, mpanoratra maro hafa fantatro dia mpikambana, manohitra an'i Anthropic noho ny fampiasàn'izy ireo boky voarakitra an-tsoratra. Raha misy saina ara-dalàna marani-tsaina sy mpitory izay mikarakara, araka ny hitantsika ara-tantara amin'ny tranga avy amin'ny paraky lehibe ka hatramin'ny angovo lehibe, dia azonao atao ihany koa ny mahazo fiambenana sy fandrisihana sasany mba hampiadana, hitandrina, na hiarovana ny olona amin'izany fomba izany.
Toa ny firafitry ny vidin'ny indostrian'ny AI dia mihantona amin'ny fandikana tena feno fiantrana ny fampiasana ara-drariny. Tsy tonga dia ampy. Ny firafitry ny vidin'ireo orinasa ireo dia mety hikorontana raha toa ka tsy maintsy mandoa vola anao sy ny olon-drehetra izay niasany izy ireo, saingy sarotra ny mieritreritra izany, ka tsy mieritreritra an'izany izahay. Manaraka izany, ireo vokatra rehetra ireo dia mandeha amin'ny fatiantoka. Toy ny amin'izao fotoana izao, samy mihazakazaka avokoa izy ireo. Mandoro vola bebe kokoa noho izay azony atao izy ireo. Amin'ny fotoana iray dia tsy maintsy mamadika ny switch izy ireo.
Mpandraharaha i Sam. Araka ny efa noresahinao imbetsaka dia tsy teknolojia izy. Olona mpandraharaha izy. Heverinao ve fa vonona ny hamadika ny jiro izy ary hiteny hoe: "Hahazo dolara ve isika?" Satria rehefa manontany aho hoe: "Heverinao ve fa ho vita izany ny OpenAI?" Rehefa tsy maintsy mahazo dolara izy ireo. Ary hatramin'izao, Sam dia nahazo ny dolara rehetra tamin'ny fangatahana vola tamin'ny olon-kafa fa tsy ny orinasany no mahazo vola.
Eny, fanontaniana lehibe mitarazoka ho an'ny Silicon Valley izany, ho an'ny mpampiasa vola, ho an'ny besinimaro.Mahita fanambarana sasantsasany ianao ary miala amin'ny OpenAI izay toa mampiseho karazana tahotra momba izany. Ny fanakatonana an'i Sora, ny fanakatonana ny tetikasa fanampiny sasany, ny fiezahana hanamafisana ny vokatra fototra. Saingy amin'ny lafiny iray, mbola hitanao, amin'ny fotoana iray ihany, ny misiônera marobe, sa tsy izany? Na dia ohatra kely aza - mazava ho azy fa tsy fototry ny orinasany - dia ny fahazoana TBPN.
Raha ny marina, raha vao tonga teo amin'ny tsipika fahatongavana sy nanamarina ny zava-misy izahay, dia nahazo sehatra ahafahan'izy ireo mifehy mivantana kokoa ny resaka ny orinasa miatrika io karazana fanadihadian'ny mpanao gazety io. Heveriko fa be dia be ny mpampiasa vola izay miahiahy, mifototra amin'ny resadresaka nataoko, fa ity olana amin'ny fampanantenana ny zava-drehetra amin'ny olona rehetra ity dia miitatra amin'ity tsy fifantohana amin'ny modely ara-barotra fototra ity. Ary ny tiako holazaina dia ianao dia akaiky kokoa ny karazana prognosticing sy mijery ny tsena noho ny mety ho ahy. Avelako ianao sy ny mpihaino ho mpitsara raha mihevitra izy ireo fa afaka mamadika ny switch ny OpenAI.
Eny, nametraka ny fanontaniana aho satria manana teny iray avy amin'ny mpanatanteraka ambony Microsoft ianao, ary izany dia hoe, "Ny lova navelan'i Sam dia mety hitovy amin'i Bernie Madoff na Sam Bankman-Fried", fa tsy Steve Jobs. Tena fampitahana izany. Inona no nataonao tamin'io fampitahana io?
Heveriko fa fanoharana izany. Ny ampahany Steve Jobs dia tsy anisan'ny teny nalaina. Saingy misy karazana fahononan-tena mahaliana ao aminy satria voatonona toy ny hoe, "Heveriko fa misy ny vintana kely nefa tena izy fa ho lasa SBF na mpisoloky amin'ny Madoff izy." Ny tiako holazaina dia tsy hoe i Sam no voampanga ho amin'ireny karazana hosoka na heloka bevava ireny, fa ny haavon'ny famadihana sy ny fitaka avy amin'i Sam dia mety ho tsaroany amin'ny farany.
Eny, heveriko fa ny tena manaitra indrindra amin'io teny io, am-pahatsorana, dia ny miantso an'i Microsoft ianao ary tsy mahazo toy ny hoe, "Adala izany. Tsy mbola nandre izany izahay." Mahazo toy ny ianao hoe, "Eny, maro ny olona eto no mieritreritra an'izany" izay mahavariana. Ary heveriko fa mandeha amin'ireo fanontaniana ara-barotra ireo.
Nilaza tamiko, ohatra, ny mpampiasa vola iray, raha jerena ny fomba nijanonan'io toetra io tao anatin'ny taona vitsivitsy taorian'ny nitifitra" - ary nihevitra ihany koa fa hevitra mahonon-tena mahaliana izany - fa tsy voatery hoe Sam no tokony ho eo amin'ny farany ambany indrindra amin'ny lisitra, toy ny tokony ho ambany indrindra amin'ny olona izay tsy tokony hanorina ity teknolojia ity, noho ny maha-zava-dehibe azy. angamba any amin'ny farany ambany amin'ny lisitry ny olona tokony hanorina AGI, ary eo ambanin'ny olo-malaza maro hafa amin'ity sehatra ity.
Noho izany dia nihevitra aho fa fanombanana mahaliana izany, ary izany no karazana fisainana heveriko fa azonao avy amin'ireo tena pragmatista izay mety tsy dia miraharaha loatra ny olana momba ny fiarovana. Miompana amin'ny fitomboana fotsiny izy ireo, ary mihevitra izy ireo fa manana olana amin'i Sam Altman izao ny OpenAI.
Tena mahaliana ny ampahany Microsoft. Nihevitra io orinasa io fa ambony eran-tany izy ireo. Izy ireo no nanao an'io fampiasam-bola io ary hanitsaka ny rehetra izy ireo, indrindra indrindra ary indrindra indrindra, Google, ary hiverina amin'ny fahasoavan'ny mpanjifa. Ny haavon'ny fahatsapan'izy ireo ho may amin'ity zava-mitranga ity - ity dia orinasa tena mahonon-tena - tsy heveriko fa azo atao be loatra.
Nolazainao ny toetra sy ny toetra maha-olona. Fanontaniana avy amin'ny mpihaino no tiako hamarana eto. Nolazaiko tao amin'ny fampisehoana iray hafa, The Vergecast, fa hiresaka aminao aho, ary hoy aho hoe: "Raha manana fanontaniana momba an'i Ronan momba ity tantara ity ianao dia ampahafantaro ahy." Noho izany dia manana iray eto isika izay heveriko fa mifamatotra tsara amin'izay lazainao. Hamaky anao fotsiny aho:
“Ahoana no maha-samihafa ny fanamarinana ny fitondran-tena ratsy, ny fihetsika manafintohina ataon'i Altman sy ireo mpitarika AI hafa, amin'ny fanamarinana henoin'i Ronan avy amin'ireo mpitarika ambony amin'ny politika sy ny media? Moa ve izy rehetra tsy manamarina ny fihetsiny amin'ny filazana fa izao no fiovan'izao tontolo izao? Raha tsy manao izany aho, olon-kafa no hanao izany?”
Eny, be dia be ny mandeha manodidina. Lazaiko fa ny mampiavaka an'i AI dia ny hoe ny tsatòka misy dia avo dia avo dia midika fa ny fanambarana ny loza dia tafahoatra, sa tsy izany? Manana Sam Altman ianaomanao hoe: “Mety ho jiro ho antsika rehetra izany.” Ary koa, mety hiteny ny mpitsikera, ny mania resahin'ny mpanontany dia tafahoatra, sa tsy izany?
Ny zavatra niampangan'i Sam an'i Elon, ao amin'ny firaketana an-tsoratra, dia angamba te-hanavotra ny olombelona izy, fa raha izy ihany. Ny karazana ego amin'ny faniriana handresy, izay fandrafetana ampiasain'i Sam amin'ny fotoana rehetra, ary ity dia iray ho an'ny boky tantara, mety hanova ny zava-drehetra izany. Noho izany, na dia ambony sy mihoatra ny "tsy maintsy manapaka atody vitsivitsy ianao" amin'ny ankamaroan'ny orinasa Silicon Valley, dia misy, ao an-tsain'ny olona sasany mitarika AI, heveriko fa fanamarinan-tena tanteraka ho an'ny fianjerana rehetra.
Ary hadino ny mamaky atody. Mieritreritra aho fa maro amin'ireo mpikaroka momba ny fiarovana no milaza fa mety hampidi-doza ny handrava ny firenena, handrava izao tontolo izao, ary handrava olona an-tapitrisany izay mihantona eo amin'ny fifandanjana ny asany sy ny fiarovana - izany no mampiavaka azy. Eo no mamaranako, misaintsaina an'ity vondron'ny tatitra ity, tena mino fa ity dia momba an'i Sam Altman. Ity dia momba ny indostria iray tsy voafehy ary olana miolikolika an'i Amerika izay tsy afaka manery azy.
Eny. Eny, nanana fanantenana kely izahay teo, saingy heveriko fa toerana tsara hialana izany.
[Mihomehy] Mifarana amin'ny fihemorana.
Mazava ho azy. Izany no tantara lehibe rehetra, tena. Ho avy ny fitsarana Musk-Altman. Heveriko fa hianatra bebe kokoa isika eto. Miahiahy aho fa te hiresaka aminao indray. Ronan Farrow, misaotra betsaka anao tamin'ny fandraisanao decoder.
Misaotra anao.
Fanontaniana na fanehoan-kevitra momba ity fizarana ity? Tsindrio eto amin'ny [email protected]. Tena mamaky ny mailaka rehetra izahay!
