Gaur Anthropic-en egoera nahasi eta bizkor bati buruz hitz egiten ari gara, Pentagonoaren aurkako borroka juridiko oso itsusi batean aurkitzen den Clauderen sortzailea.
Atzera-aurrera konplikatua da, baina duela egun batzuk, Pentagonoak Anthropic hornikuntza-katearen arriskutzat jo zuen, eta Anthropic-ek auzi bat aurkeztu du izendapen hori auzitan, gobernuak bere Lehen eta Bosgarren Zuzenketa eskubideak urratu dituela esanez, "munduko enpresa pribatu azkarrenetako batek sortutako balio ekonomikoa suntsitu nahian". Oraintxe esango dizut: The Verge-n eta hemen Decoder-en kasu horren bira-biraez hitz egingo dugu datozen hilabeteetan.
Baina gaur une bat hartu nahi nuen eta hemen sakondu nahi nuen egoera honen elementu oso garrantzitsu batean, eta horrek ez du arreta nahikoa jaso, hau kontroletik kanpo geratu baita: nola egiten duen zaintza Estatu Batuetako gobernuak, zaintza hori gertatzea ahalbidetzen duen legezko agintaritza, eta zergatik mesfidatzen zen Anthropic-ek gobernuak legea beteko zuela esanez AI erabiltzean zaintza are gehiago egiteko.
Harpidedunok, ez ahaztu iragarkirik gabeko deskodetzailea sarbide esklusiboa duzula zure podcastak eskuratzen dituzun lekuan. Burutu hona. Ez zara harpideduna? Hemen izena eman dezakezu.
Nire gonbidatua Mike Masnick da, Techdirt-en sortzaile eta zuzendari nagusia, teknologia-politiken webgune bikaina eta luzea. Mikek hainbat hamarkada daramatza gobernuaren gainbehera, pribatutasuna aro digitalean eta erlazionatutako beste gaiei buruz idazten. Internet eta zaintza-egoera elkarrekin lotuta nola hazi diren jakiteko aditua da.
Ikusten duzu, legeak dioena gobernuak egin dezakeela gu gainbegiratzeko orduan, eta gero gobernuak egin nahi duena. Eta garrantzitsuena, gobernuak legeak dioena egin dezakeela dioena dago, hau da, sarritan, legeak irakurri besterik ez duen edozein pertsona arruntek pentsatuko lukeenaren aurkakoa da.
Mikeli entzungo duzu hemen atal honetan xehetasun handiz azaltzen ezin dugula (eta ez luketela) AEBetako gobernua hitza hartu zaintzari dagokionez. Historia gehiegi dago gobernuko abokatuek "helburua" bezalako hitz sinpleen interpretazioak bihurrituz zaintza modu korapilatsuetan zabaltzeko - normalean zirkulu juridikoetan soilik kezka sortzen duten moduak, eta duela hamarkada bat baino gehiago Ed Snowden txistulariaren NSAren errebelazio nagusiak bezalako eztabaida handiak daudenean sortzen dira.
Baina Trumpen garaiko politikagintzan ez dago ezer sotil edo sofistikaturik - eta, beraz, Anthropic-ekin, teknologiari eta zaintzari buruzko eztabaida oso ozen eta publikoa izaten ari gara denbora errealean, Interneten, blogeko argitalpenetan eta X iragarkietan, eta prentsaurrekoen soinu-hotsetan. Alde positiboak eta negatiboak daude, baina horri guztiari zentzua emateko, benetan historia ezagutu behar duzu.
Hori da Mike eta biok atal honetan azaldu nahi duguna: AI eta gobernuari buruz duzun iritzia edozein dela ere, pasarte honek argi utziko du bi alderdiek denboran zehar zaintza-egoera gero eta handiagoa egiten utzi dutela. Orain, orain arteko hedapen handienaren atarian gaude AIari dagokionez.
Ados: Mike Masnick Techdirt-en sortzaile eta zuzendari nagusia Anthropic, Pentagonoa eta AI zaintzan. Hemen goaz.
Elkarrizketa hau arinki editatu da luzera eta argitasunerako.
Mike Masnick, Techdirt-en sortzaile eta zuzendari nagusia zara. Ongi etorri Deskodetzailea.
Pozten naiz hemen egoteaz.
Ilusioz nago zu gainean edukitzeak. Esaten ari nintzen harrituta nagoela inoiz ikuskizunean egon ez zarela. Zu eta biok elkarren inguruan idazten eta bidaltzen ari gara denbora luzez. The Verge-ren polizaren estaldura asko Techdirt-en egin duzunarekin zorra dago eta, gero, Anthropic-ekin gertatzen ari dena oso konplikatua da, baina hainbeste denboran landu dituzun hainbat gairi heltzen dio. Pozten naiz azkenean hemen zaudela.
Gai baten nahaspila konplikatua da, baina ilusioz nago horretan sakontzea.
Zurekin zentratu nahi dudana ez dira Anthropic-ek gobernuarekin kontratu bat sinatuko duen edo OpenAI-k kontratu hori lortuko duen xehetasunak. Horren ordez, ziur nago hau grabatzen dugun eta jendeak entzuten duen bitartean txio gehiago egongo direla eta lehen baino gauza gehiago desberdinak izango direla.
Zentratu nahi dudana Anthropic-ek benetan ezarri dituen bi marra gorrietako bat besterik ez da. Horietako bat daarma autonomoak, hau da, bere konplikazio maila. Han dagoen legea apur bat hasiberriagoa da, armak existitu edo jadanik Errusiak Ukrainako Gerran zabaldu dituen ala ez.
Ideia asko daude hemen hori alde batera utzi nahi dudala, uste dudalako hori guztia bere ordutegian arreta gehiago jarriko duela. Denbora asko eman nahi dudan beste marra gorria zaintza masiboa da. Eta hemen zaintza masiboari buruzko lege asko dago. Historia asko dago, historia eztabaidagarri asko. Edward Snowden pertsonaia osoa zaintza masiboaren inguruko polemikengatik existitzen da.
Hori guztia —uste dut zu zarela hau argitaratu duena— Segurtasun Agentzia Nazionala (NSA), Defentsa Sailaren parte dena, orain Gerra Sailari deitu behar diogula arrazoiren batengatik.
[Barreak] Ez dugu ezer egin behar.
[Barreak] Ez dugu. Hori egia da hemen Amerikan. Ez dugu ezer egin behar. Baina NSAk funtsean berdefinitu du hitz askok ingeles hiztunetik esan nahi dutena: "Zaintza egin dezakegu". Eta gero, noizean behin eskandalu bat sortzen da jendeak zaintza besterik ez duela egiten jakiten duenean. Beraz, eszenatokia hor jarri besterik ez dago, eta ez zaitut bide guztia atzera bota nahi, baina denbora dezente igaro da eredu hau errepikatu den.
Noraino sartu nahi duzunaren araberakoa da, baina bertsio laburra, jakina, irailaren 11aren osteko munduan dago, AEBek Patriot Acta onartu zuten, gobernuak zaintzan aritzeko gaitasun batzuk zituena, etorkizuneko mehatxu terroristetatik babesteko izan behar zuena. Denborarekin, hori modu interesgarri batean interpretatu zen eta horretarako muga batzuk zeuden. FISA epaitegia ere izan genuen, hau da, inteligentzia komunitatea eta haien jarduerak berrikustea behar duen auzitegi berezia, baina tradizioz alde bakarreko auzitegia izan da. Alde bakar batek bere auzia epaitegi horretan alegatzea lortzen du eta dena isilpean egiten da.
Ezagutzen ez ziren gauza asko daude. Eta gero, beste pieza bat zegoen honetan guztian, Ronald Reaganengana itzuli dena, hau da, 12333 Agindu Exekutiboa, ustez inteligentzia biltzeko bide-arauak ezartzeari buruzkoa.
Beraz, hiru lege-multzo hauek dituzu —beno, lege multzo batzuk— eta agindu exekutibo bat jendaurrean, irakur ditzakezun atalek, gure gobernuak eta NSAk bereziki zaintzari dagokionez egin dezaketenari buruz gauza batzuk esaten dituztela dirudi. Ingelesezko hiztegi arrunt batekin irakurtzen denean, ziurrenik zuk eta biok dugun eta ulertzen dugun izaera, uste izango genuke NSAk estatubatuarrak gainbegiratzeko duen gaitasuna oso mugatua zela, hain zuzen ere, ustezko punturaino, AEBetako pertsona bat kontrolatzen ari direla konturatzen badira, berehala gelditu behar dutela eta gaizki negar egin eta datuak eta beste gauza hauek guztiak ezabatu behar direla.
Denbora batez, hori ez zela benetan gertatzen ari zen zurrumurruak egon ziren eta, bereziki, Ron Wyden senataria oso ahoskatu zuen Senatuko solairura joatea eta esan zuen: "Hemen zerbait ez dago ondo eta ezin dizut oso esan zer", edo entzunaldietan inteligentziako funtzionarioei galdetzen zien: "Estabatuarrei buruzko datu masiboa biltzen ari zarete ala ez?"
Funtzionario horiek desbideratuko lukete edo kasu batzuetan erabat gezurra esango lukete. Uste dut 2012an entzunaldi bat izan zela James Clapperrekin, garai hartan Inteligentzia Nazionaleko zuzendaria zena, non zuzenean galdetu zioten puntu honi buruz. Eta funtsean esan zuen: "Ez, ez dugu amerikarren daturik biltzen". Hori izan zen Ed Snowdenek datuak filtratzera bultzatu zuenaren zati handi bat, Glenn Greenwald eta Barton Gellman eta Laura Poitrasi ere filtratutako txostenak. Horregatik guztiagatik, deskubritzen hasi ginena izan zen NSAk bere hiztegia duela, zuk eta biok erabiltzen dugun hiztegia baino zertxobait ezberdina dena, hala nola, hitzak ingelesezko esanahi arrunta ez diren modu desberdinetan interpreta ditzaketela, "helburua" bezalako hitzak barne, gako-hitz gisa sentitzen dena. Hau zer den ulertzen da, teorian, AEBetako pertsonak ez diren pertsonei soilik zuzendu behar zaizkiela, nire ustez esaldia da.
Baina denboran zehar interpretatu zen modua zen pertsona hori aipatzen duen edozer, pertsona atzerritar bati buruzkoa, gaur egun joko bidezkoa dela, nahiz eta hori baten komunikazioak izan.AEBetako pertsona. Beraz, zu eta biok elkarri mezuak bidaliko bagenio eta atzerriko pertsona bat aipatuko bagenu, hori orain bidezko jokoa da NSAk biltzea eta gordetzea eta gordetzea.
Honen bigarren zati bat dago. Ronald Reaganen lehen Agindu Exekutiboa 12333 aipatu nuen, zeinak, denborarekin teknologia aldatu eta Internet hazi ahala, NSAri modu eraginkorrean atzerriko komunikazioak ukitzeko aukera eman zion, baina horrek AEBak nonbait bidean utzi izan zituen komunikazioak barne hartzen zituen. Beraz, mezu bat bidaltzen badizut eta Kalifornian mezu bat AEBetatik irtetean gertatu zen zuntz optikoko kable baten bidez iristen bazait, NSAk zati bat sartu lezake behin AEBetatik kanpo dagoenean eta informazio hori bildu, nahiz eta AEBetan zuregana joan.
NSAk informazio hori gorde zezakeen AEBetako pertsonei buruzkoa bazen ere, eta bilaketa zehatzak egin ditzake gero, batzuetan "atzealdeko bilaketak" deitzen direnak. Gure ustez, lehenik eta behin bildu behar ez zuten informazio hori bildu zuten, baina gorde egin zuten. Eta hitzeman zuten, zin egin zuten Pinkyk, pribatua mantenduko zutela, baina bilaketa bat egin eta zuk edo nik atzerriko pertsona bat aipatu genuela aurkitzen bazuten, orduan, bat-batean, joko ona zen haiekin nahi zutena egitea.
Guztira, gobernu federalak funtsean AEBetatik kanpo ukitzen duen edozein informazio biltzeko mundu batean bihurtu da. Nahiz eta guztiz AEBetako bi pertsonaren artekoa izan, AEBetako pertsona ez den norbait aipatzen edo iradokitzen badute ere, bat-batean bidezko jokoa da biltzea. Eta hortik atera dugu AEBetako pertsonen zaintza masiboa dela dirudiena, AEBetako pertsonak ez dituela espiatzen aldarrikatzen eta publikoki adierazten duen NSA batek.
Nola iritsi gara puntu honetara? Hau haurtxoen urrats asko da. James Clapper aipatu zenuen 2012an, hori da Obamaren administrazioa. Ronald Reagan aipatu duzu, hori da 1980ko hamarkada. Hemen demokratak eta errepublikanoak pasatzen ari gara.
Terrorismoaren aurkako gerra George W. Bush administrazioan gertatu zen, eta 9/11 eta Patriot Acta George W. Bush administrazioan. Bi alderdietako presidenteen azpian, bi alderdien kongresuetan, gauza txar asko daude. Nola gertatu da hau?
Modurik errazena da inork, eta, zalantzarik gabe, presidente batek ere ez duela presidente izan nahi eraso terrorista handi bat dagoen garaian, horrek itxura txarra ematen duelako. Argi dago amerikarrak ere babestu nahi dituztela, ezta? Hori euren lanaren parte da. Funtsean iluntasunean funtzionatzen duen inteligentzia-komunitate bat baduzu, inteligentzia-komunitateek egiten dutena delako eta zuregana etortzen jarraitzen dute eta esaten dizute: "Aizu, informazio hau atzituko bagenu, oso lagungarria izango litzateke eraso terrorista bat saihesteko".
Baliteke kasuak non hori egia den, adimen-komunitateak informazio hori ondo funtzionatzen duen moduan erabiltzeko gai dela. Baina, teorian, legeen gizartea ere bagara, AEBetako Konstituzio bat duena, bete behar duguna. Baina horrek ahalbidetu zuen administrazioz administrazio, berriro ere, errepublikanoak eta demokratak, oso argiak ziren eta ondo begiratu eta esango zutenak: "Beno, horrela kokatzen badugu edo horrela adierazten badugu edo hau interpretatzen badugu, horrela lortu ahal izango dugu nahi duguna eta ez teknikoki legea hautsi edo teknikoki ez urratu Laugarren Zuzenketa".
Suposizioa beti izan zen: "Legea nolabait okertu edo legearen interpretazioa okertu dezakegu eta inork ez du inoiz hau ikusiko, edo axola zaion inork ez du inoiz hau ikusiko, eta, beraz, alde egingo dugu".
Bi gauza dira benetan salto egiten nautenak. Bata, zuk eta biok epaitegietako erabaki asko irakurri ditugu: apelazio auzitegien erabakiak eta Auzitegi Goreneko erabakiak. Eta gure Auzitegi Gorenean borroka bat dago gure estatutuetan eta gure legeetan hitzak literalki nola interpretatu jakiteko.
Ez naiz gehiegi sartuko, baina orokorrean esango nuke orrialdeko hitzak irakurri eta esaten dutena egitea dela Estatu Batuetako interpretazio estatutarioaren tentsio nagusia. Ezker edo eskuin, biek esaten dute. Horrek benetan esan nahi duenaren oso esoteriko puntu fin batzuei buruz eztabaidatzen dute. Baina hitz hauek irakurri eta esaten dutena egiteko gai izan behar duzula, hori ez dago aukera, ezta?
Zuen lehen pase horretan lurreratu dugu behintzattestualismoa deitu. Nola aldentzen dira bi administrazioetako abokatuak gure herrian erabaki juridikoak hartzeko modu nagusitik hain urrun? Bi alderdietako epaileek ados daude hori dela lehen urratsa behintzat.
Erantzun zehatza jakin nahiko nuke, baina arrazoiketa motibatua dela uste dut, ezta? Abokatu gisa, zure bezeroa defendatzeko zaude eta gure sistema juridikoaren arrakasta - arrakasta deitu badiozu - egoera kontraesankorra izatean oinarritu ohi da, non alderdi desberdinak eztabaidatzen dituzun gauza horien inguruan, non epaitzailearen eginkizuna zein den benetan zuzena den mugatzea eta asmatzea.
Inteligentzia komunitatearen eta horren konfigurazioaren arazoetako bat aurkaritasun egoera hori ez duzula da. Horrek errazagoa du alde batek egiten ari den argudioa justifikatzea, inork ez duelako benetan atzera botatzen. Hori konbinatzen duzu beste eraso terrorista baten beldur orokorrarekin, segurtasun nazionalarekin zerikusia duen edozerrekin, eta baita FISA auzitegia daukazun egoerak dituzunean ere —esan nahi dut FISA auzitegia oso famatua izan zela urte askotan gomazko zigilua izan zelako.
Zenbaki zehatzak ahazten ditut, baina egoera jakin batzuen zaintza ahalbidetzeko FISA auzitegira joandako eskaeren ehuneko 99 baino gehiagoren antzeko zerbait zen, eta erraza da esatea ehuneko 99 gehiegizkoa dela. Jakina, auzitegira erreklamazioak aurkezten dituztenak, hautatzen eta aukeratzen ari dira. Ez dira, gehienetan, erabateko aldarrikapen zoroak ekartzen. Baina kontrako alderdi hori gabe eta “hau egin behar dugu” pentsatzen duen edo “hau egin behar dugu” esaten dioten jende talde oso motibatu batekin, horretarako bideak aurkituko dituzte. Eta hor amaitzen zara denborarekin.
Izan al da prozesu honetan parte hartu duen inor esnatu eta bere buruari esan diona: “Mutil, lortu dugu ‘helburu’ hitza nahi duguna adierazteko birdefinitzea?
[Barreak] Argi dago Ed Snowden zenuela, dokumentu mordoa filtratu zuena. John Napier Tye izan zenuen, 2014an The Washington Post-erako idatzi zuena, 12333 Agindu Exekutiboaren interpretazioa agerian utzi zuena, eta esan zuen hori dela arreta jarri beharreko benetako arazoa. Baduzu gauza horiei buruz hitz egin duten beste pertsona batzuk, baina gehienetan, administrazioan inteligentzia komunitateko gauzetan lanean ari diren pertsonak inteligentzia komunitatearen ikuspegian erosita daude, hau da, helburu nagusia herrialdea zerbait txarretatik babestea da. Horretarako modurik onena ahalik eta informazio gehien edukitzea da.
Erraza da argudioarekin jatorra izatea, bai, informazio gehiago izateak lehenago zerbait harrapatzea edo garrantzitsua den zerbait aurkitzea ahalbidetzea, baina, bat, hori agian ez da egia. Informazio gehiegi lortzea informazio gutxi bezain txarra da ziurrenik, askotan erabilgarria den informazioa ezkutatu baitezake, benetan zerbait zehazteko behar duzun informazioa.
Baina, gainera, U..S. Konstituzioa, lehenik eta behin, eta arrazoiak ditugu, teorian, ez dugula zaintza masiborik onartu behar arrazoi litekeena izan gabe. Zuzenbide estatuan sinesten duen herrialde gisa, hori bizitzeko gai izan beharko genuke, eta gauza horiek guztiak iluntasunean gertatzen direnean, hori bistatik galduko duzu.
Honek Anthropicera eramaten nau. Anthropic enpresa-enpresa bat da batez ere. Gobernuan onak dira, gihar horiek eraiki dituzte, gauza horietako batzuk oso ondo ezagutzen dituzten pertsonak daude. Jakina, Pete Hegseth-i begiratu zioten esanez: "Legezko erabilera guztiak nahi ditugu", eta bi interpretazio maila jaitsi eta esan zuten: "Beno, zure uste literala da hitz hauek ez dutela esan nahi dutena aurpegian esan nahi dutena. Beraz, 'legezko erabilera guztiak' handiegia da, eta zaintza masiboaren inguruan babesle batzuk jarri nahi ditugu bereziki".
Berriz ere, arma autonomoak kenduko ditut, beste marra gorria zena, baina batez ere zaintza masiboari dagokionez, Dario Amodei esaten ari da: "Gehiegi egin dezakegu. Hau arriskutsuegia da. Hau Laugarren Zuzenketaren urraketa da ".
Hor dagoen tentsioa "gauza bat esaten duten lege hauek beteko dituzula esaten ari zara eta orain, denbora guzti honen ostean, guztiz bestelakoa esan nahi dute eta ez dugu horren parte izan nahi". Hori daborrokatu. Sam Altman-ekin alderatu nahi dut, hau da, "Legezko erabilera guztiak egingo ditugu" esateko eta, ondoren, mezu luze hau honela argitaratu du: "Hona hemen beteko ditugun lege guztiak".
Badirudi Altmanek ez zekiela NSAk nola berrinterpretatu zituen gauza horiek eta ibilaldi bat egitera eraman zuten. Eta harrezkero itzultzen hasi da - grabatzen ari garen bitartean ere, ziur nago txio gehiago daudela eta guztion posizioak aldatu direla. Baina Altman poliki-poliki itzuli da, baina badirudi OpenAI estatutuak aurpegian irakurtzera eta esandakoa sinestera lotu zuela. Hori al da gertaeren interpretazioa ere?
Bi aukera daude, eta hori da horietako bat. Bata da publikoak urte askotan jo zuen moduan jokatu zuela. Teoria alternatiboa, eta ez dakit zein den egia, OpenAI-ko abokatu batzuek —oso konpetenteak eta oso jakitunak direla uste dut— bazekiela hori, baina uste zuten hamarkada batzuetan NSAk jokatu zuen joko bera jokatu zezaketela, beti ere gauza hauek esan eta gero hitzak esaten badituzte, baina ez dute benetako interpretaziorik ere agerian uzten. Beraz, Sam-ek "Anthropic-ek zituen marra gorri berdinak genituen, eta gobernua bikaina izan zen horrekin".
Izan ere, uste dut Sam Altman-ek esan zuela Anthropicek bi marra gorri zituela eta OpenAIk hiru zituela, eta gobernua primeran zebilela, eta horrek jende asko burua urratuta utzi zuen. Baina uste dut izan behar dela edo Sam Altmanek eta inguratzen zuenak ez zutela ulertzen nola funtzionatzen duten gauza horiek praktikan, edo bai, eta uste zuten publikoak ez zuela jakingo eta, beraz, alde egin zezaketela.
Burura datorkidan beste gauza bat - berriro ere, AI berria da eta oso tentagarria da teknologia berrietara etortzea, hauek lehen inpresioaren arazoak baitira. "Inork ez du inoiz honetaz pentsatu behar izan", baina errealitatea da denek denbora luzez gauza honetaz pentsatzen. Agian hemen berria den gauza ez da AI, baina Trump bigarren administrazioa, agian inork inoiz irakurriko ez dituen abokatu mordoa egin beharrean, inork kasurik egiten ez dion epaitegi sekretu batean beren ekintzak justifikatzeko, ez dela hain sotila.
Ez dira horren sofistikatuak eta denbora guztian denak espiatuko dituztela esaten ari dira. Haien asmoak iragarri besterik ez dute egin, beharbada administrazio guztiek beren asmoak ezagutarazi eta txipak nondik erortzen diren ikusi beharko lukete.
Baina New Yorken Ed Snowden egon zela ikusten ari naiz. AT&T-k denek dakien eraikin bat zuzentzen du NSA eraikina dela. Eraikin erraldoi bat besterik ez da, eta NSA zaintza zentro bat ez dela itxuratu behar dugu, baina hortxe dago. Handia da. Badirudi ez dela ezer lortu. Errebelazio hauek guztiak, filtrazio hauek, ez ditugu atzera egin.
Izan ere, areagotu egin da gure bizitzaren zati handi bat gero eta digitalagoa bihurtu baita. Eta agian Trumpen administrazioa uneoro tresna zorrotza izanik, hori izan daiteke kontua eragiten duen gauza. Hala ere ikusten al duzu hori jokatzen?
Hainbat gauza daude hor, eta ez da guztiz egia gauza hauei batere atzera egin ez dugula. Snowdenen errebelazioek aldaketa batzuk ekarri zituzten gauza hauek gertatzen direnean. Eta orain badaude - ahazten dut nola deitzen diren, baina FISA auzitegiko amicus zibil horiek bezalakoak dira, gai jakin batzuetan beste aldea aurkezten arituko direnak.
Eta agintari batzuk nolabait mugatuta ikusi ditugu, eta noizean behin berriro baimena eskatzen dute, eta aktibistak oso oldarkor agertu dira atzera bota eta baranda gehiago jartzen saiatzeko. Baina galdera handiagoari dagokionez, bi gauza ezberdin daudela uste dut. Arrazoi erdia duzu administrazio hau ez dela sotila eta besterik gabe esaten ditu ozenki behar ez dituen gauzak.
"Iranekin gerran gaude, egiten ari gara, gertatzen ari da. Ez gara dantzan probatu ere egingo".
Aurreko administrazio guztiek egingo ez luketen moduan. Baina ez dute hori zuzenean esanzaintza, batez ere amerikarren zaintza. Horren zantzuak egon dira, baina ez dira horren indartsu atera. Beste erdiak gehiago zerikusi du Anthropic-en posizionamenduarekin eta AIaren ikuspegi orokorrarekin agian teknologia existentzial hau, non Anthropic-ek beti aurkeztu duen bere burua: "Gogoetatsuak gara mutil onak" eta uste duzun ala ez hori nolabaiteko kontua den. Ospe hori daukate hor: "Hau modu seguruan egiten saiatzen ari gara, gizadia errespetatuko duena eta gauza guzti horiei arreta jartzen diena". Eta, beraz, talka hori duzunean, hor sartzen da borroka.
Nahi duen guztia egin ahal izan nahi duen Trump administrazio bat duzu, eta ez dira sotil horretan. Eta gero Anthropic duzu, zeinaren autodeskribapena eta bere pertsonaia publikoa beti bezala: "Pentsakor gaude eta gizatasuna eta eskubideak eta gauza hauek guztiak errespetatzen ditugu". Ziurrenik hor sortu zen liskarra, Anthropic, argi geratu den bezala, Defentsa Sailarekin denbora batez lan egin duelako eta gobernuarekin erabili dituen beste hainbat kontratu dituelako. Ez da arazorik izan.
Arlo zehatz horietan bakarrik, gobernuak zeukan kontratua zabaldu nahian, Anthropic-eko goi-zuzendaritzak esaten hasi ziren: "Itxaron, ziurtatu behar dugu ez ditugula gurutzatzen ari gure ospea kaltetuko luketen AI hornitzaile pentsakor eta seguru gisa".
Laburki galdetu nahi dizut zaintzaz oro har, eta bereziki Anthropic-en Laugarren Zuzenketari buruz. Laugarren emendakinak dio gobernuak ezin zaituela arrazoirik gabe miatu. Laugarren Zuzenketa ulertzeko modurik onena Jay-Z-ren "99 Problems" entzutea da. Beraz, atseden bat hartu eta "99 Problems" entzutera joan behar baduzu, bikaina da. Dena dago hor. Zuzenbide fakultatean nengoela entzun nuen eta zentzu osoa zuen.
Baina gobernuak, oro har, agindu bat behar du zu miatzeko. Eta zure bizitzako gero eta gehiago sarean doan heinean, salbuespen asko eta asko daude honetan. Baina ideia da linean agindu bat behar dutela oraindik. Anthropic-en argudioa hauxe da: "Beno, AI ez da inoiz nekatuko. Dena bilatu dezake denbora guztian. Horrek esan nahi du zaintza nagusia egingo dugula".
Hala ere, AI agertu baino lehen ere, gobernuak zurea zen guztia arakatu zezakeen ideia hor zegoen, gobernuak zure gauza guztiak miatzeko agindurik behar ez zuelako ideia. Zure daturen bat segundu labur batez herrialdetik kanpo ateratzen bazen, gobernuak han atzeman zuela ideia,
Unibertsitatean nengoela, Patriot Act-aren garaian, eztabaida izan zen ez zituztela zure benetako datuak bilatuko, baina metadatuak eta metadatuak bakarrik lor ditzaketela. Zure datuei buruzko datuak nahikoak izango dira uneoro zu zehaztasunez kokatzeko. Eta hori ere urrunegi dago. Eta gobernuak zer bildu dezakeen dantza hau egiten aritu gara? Zer da zilegi? Zer behar dute guztiok seguru mantentzeko eta zer dago urrunegi? Lerro horiek mugitu egin dira.
Beraz, laburki deskribatu eskalan zaintzari buruzko kezka orokortua eta orain non gauden. AI egoerak dena esponentzialki zaildu baino lehen.
Hemen, ziurrenik, lehenago aipatu beharko zen beste kontzeptu bat sartu behar dut, baina garrantzitsua da, "hirugarrenen doktrina" deitzen dena. Laugarren emendakinaren ideia da gobernuak ezin duela zu edo zure gauzak arakatu agindurik gabe eta ezin duela mandaturik lortu delitu motaren bat egin izanaren arrazoirik gabe. Baina badago duela hamarkada batzuk hirugarrenen doktrina deituriko kontzeptu hau, zeinak dio horrek ez duela zertan zureak ez diren gauzetan zertan aplikatzen, edo ez duela batere aplikatzen, zure datuak izan arren.
Honen bertsiorik zaharrena eta nabarmenena telefono-konpainiak deitu zenuenari buruz zituen telefono-erregistroak ziren. Telefono-konpainiek ez zituzten zure deiak grabatzen ari, baina grabatzen ari ziren zuri deituko banu, "Mike-k Nilayri deitzen dio" dioen erregistro bat egongo litzateke telefono konpainian. Eta hainbat auzitegik zehaztutakoa zen gobernua joan eta hori eska dezakeela, eta ez dute horretarako agindurik behar, ez delako miaketa bat.zure datuak, hirugarren hau da eta hirugarren gisa adostu dezakete datu horiek lagatzea.
Baina 1960ko eta 70eko hamarkadetako kasuak izan ziren, non zehaztu zen gobernuak horretarako atzitu dezakeela bermerik gabe, hirugarrenen datu askorik ez zegoenean. Ordenagailuen eta interneten gorakadak hori aldatu zuten. Orain, dena hirugarrenen datuak dira. Egiten dugun guztia enpresaren batek biltzen du nonbait eta horren erregistroa du. Beraz, funtsean, zuri buruzko datu guztiak, non zauden, norekin hitz egiten duzun, norekin elkarreragiten duzun, zer esaten duzun, zer egiten ari zaren, hori guztia hirugarrenen esku dago egun. Beraz, hirugarrenen doktrinak Laugarren Zuzenketa osoa irentsi du hein batean, non beste norbaitek zuri buruzko edozer gauza, gobernuak eskatzeko egin dezakeenaren estandar askoz txikiagoa dagoen.
Zehazki esateko, horrek esan nahi du nire datuak iCloud-en daudenean gobernuak Apple-ra joan eta nire datuak iCloud-etik atera ditzakeela inoiz esan gabe?
Eska dezakete. Erraz eska dezakete bermerik gabe. Orduan enpresak bere eskubideak ditu eta eskaera horrekin zer egin nahi duen zehaztu dezake. Besterik gabe, amore eman dezakete. Gehienek egingo duten bezala, eskaera larria bada, eskaerak baztertu edo abisatu eta esan dezakete -eta hau da gehienek egingo dutena- abisatu eta esango dizute: "Gobernuak zure datu batzuk eskatzen ditu. Epaitegietara joan zaitezke eta blokeatzen saia zaitezke". Hala ez bada, zazpi egunetan edo dena delakoan emango dituzte zure datuak.
Berriz ere, araberakoa da. Ikerketa kriminala bada, baliteke enpresari esatea baimentzen ez den gai-aginduren bat egotea. Denetariko egoerak daude, baina horietako gehienek Laugarren Zuzenketak eskatuko lukeen babes maila baino txikiagoa da, zure etxean datuak edo informazio edozer gauza izango balira.
Beste norbaiten hodeiko zerbitzarian duzun datu kopurua izugarria da, ezta? Orokorrean Interneten orain egiten duzun gauza bakoitza nolabait babeskopia egiten da edo nolabait beste norbaiten zerbitzarietan grabatzen da. Gobernuak bide hau aurkitu du Laugarren Zuzenketari aurre egiteko eta esateko: "Beno, hori ez da benetan zurea. Amazoni dagokio. Amazonekin hitz egin dezakegu", eta Amazonek prozesu horren erdian jarri behar du eta esan: "Beste prozesu bat asmatu dugu jendea nolabait babesteko".
Horri begiratzen diot, eta hodeiko zerbitzuak estaltzen zituzten hirugarrenen doktrinaren lehen kasuak estaltzen nituenean eta gobernuak irabazten jarraitu zuenean, Joker bihurtu nintzen funtsean. Esan nuen: "Testualismoari eta [irakurketa] arruntari buruz itxuratzen ari garen gauza guzti hauek, honek ez du ezer esan nahi, atzeko aterantz zaldi-potentzia besterik ez dugulako antzinako lege hau guztion datuetan erabiliz".
Eta gero hau ikusten dut eta Anthropic-i begiratu eta esaten diot: "Beno, hau eredu bera da". Enpresa pribatu bat da hau esaten duena: "Ongi da, ulertzen dugu zure jarrera. Ulertzen dugu legea berrinterpretatu duzula gauza hau esan nahi izateko, eta prozesu bat jarriko dugu zure, gure tresna eta gure zerbitzutik igarotzen diren amerikarren datuen artean". Anthropic eta Amazon eta Azureren eta gure datu asko gordetzen dituzten hodeiko beste edozein zerbitzuren artean paralelo hori ikusten ote duzun galdetzen ari naiz.
Bai, nahiz eta hemen garrantzitsuak diren argipen batzuk badaude, hau apur bat desberdintzen dutenak. Eta hain zuzen ere —uste dut The New York Times-ek erreportaje hau izan zuela lehenik— Anthropic-entzat garrantzitsuena zen klausula nagusia merkataritza-zerbitzuetatik bildutako datuei buruzkoa zen eta Claude datu horietan ezin erabiltzeari buruzkoa, hau da, hain zuzen ere, hirugarrenen datuei dagokienez. Baina argitu nahi dut Amazon-ekin edo zure datuak ostatatzen dituzten beste hirugarren batzuek aurretik hitz egiten ari ginenaren arteko desberdintasun nagusia, haiek zeuden kasuak ziren, ekosisteman esertzen zirenagatik, zure datuak zuzenean ostatatzen zituzten.
Clauderekin, ez da inor kezkatzen NSAk zure Claude erabilera aztertzeaz. Amazonetik hirugarrenen datuak eskuratzea edo, seguruenik, zure telefonoetan iragarkiak hornitzen dituzten eta zure kokapena eta zure interesak eta horrelako gauzak ezagutzen dituzten datu-artekari maltzur eta ezkutuak eskuratzea da kontua. Eta gero sistema batean elikatzeaClaudek orduan lan egingo zuela. Hori da Anthropic-ek benetan parte izan nahi ez zuena. Beraz, gobernuak hirugarren batengandik datu horiek bilduko lituzkeen tokian edo edonola ere, Anthropic-ek esan zuen: "Ez dugu nahi gure tresna datu horietan erabiltzea".
Applek FBIri aurre egiten dio iPhonean atzeko atea jartzeko eskatuz, eta Applek "ez" esaten dio eta Trumpi aurre egiten diote. Eta bada gure sistemak funtzionatzen duenaren zati bat, enpresa pribatu handiek gobernuari "ez" esaten dioten bezeroen izenean. Eta Apple-k, berriro ere, iPhone-n atzeko atea jarriko ez duen modu berean sentitu zen, edo hodeiko hornitzaile handiek esaten duten moduan: "Prozesu txiki bat egin behar duzu datu indibidualak lortu aurretik".
Badirudi Anthropic-ek esaten duela: "Ez dugu beste alderdi batzuetatik eskuratu dituzun datuen analisi masiboa egingo, horrek amerikarren 24/7 zaintza masiboa dakarrelako, eta ez dugu hori egin nahi". Hala ere, administrazio honentzat urrunegi dagoen zubi bat dirudi. Itzuli al da hortik?
Ikusiko dugu. Iraganean hori gertatu zenean - eta askotan gertatu zen teknologia-enpresa handi gehienekin, noizbait zerbait zubi bat dela esan dute - normalean epaitegietara joaten den tokira. Enpresak epaitegietara joango dira edo administrazioa epaitegietara joango da eta nolabaiteko borroka judiziala izango da.
iPhonearen atzeko atea horren adibide ezin hobea da. Epaitegira joan zen eta borrokatu zuten, nahiz eta inoiz ez zuten ondoriorik lortu, azkenean FBIk eskuz sartu zuelako iPhonea eta gero ez zuelako epailearen ebazpenak etorkizunean hondatzea nahi.
Baina kasu honetan, eskalada dagoen eta iraganeko egoera horietatik desberdina den, epaitegietara jo beharrean, Trump administrazioak "hornikuntza-katearen arriskua" izendapen hau egin zuen, zoramena besterik ez da. Atzerriko aktore gaizto potentzialak teknologia hornitzeari uzteko diseinatu zen tresna honek, gero ezkutuko zaintza tresnak teknologia-pila handiago batean sar ditzakeen ideia hori debekatu egin daitekeela. Hori AEBetan oinarritutako enpresa bati funtsean etika politika bat izateagatik aplikatzea tresna horren benetako erabilera oker bat da.
Tresna hori ere zalantzagarria zen nolabait, baina uler zitekeen horren atzean dagoen bultzada txinatar sareko enpresa bati buruz edo horren inguruko zerbaiti buruz ari zarenean. Hemen, ez du zentzurik. Beraz, honen erreakzioa kasu honetan normalean ikusiko litzatekeena baino askoz haratago doa. Tradizionalki ikus zitekeen auzitegi moduko bat egongo zela eta bi aldeek hasi zezaketela eta kontratua nola aplikatu ahal izateko borroka bat besterik ez litzateke izango.
Baina hori ez da hemen gertatzen ari dena. Administrazio honek modu eraginkorrean esaten ari da: "Ez badiguzu nahi dugun guztia ematen, zure tresnak ez badituzu konfiguratzen nahi dugun moduan lan egiteko, orduan zure negozio osoa suntsitzen saiatuko gara". Eta hori eskalada bat da.
Amaitu nahi dudan zati bat dago, eta honen bertsio galaxia-garunekoena da. FIRE, adierazpen askearen aldeko talde bat dena, blogeko argitalpen bat argitaratu zuen grabatzen hasi baino lehen, Anthropic eraiki nahi ez dituen tresnak eraikitzera behartzea adierazpen askatasunaren urraketa dela argudiatuz, hizkera behartua deitzen den zerbait dela. Historia asko dago hemen. Badira hemen Verge eta Techdirt sakona, belar txarrak, krisi existentzialaren historia.
Baina, funtsean, kodea hizketa dela ideiara dator, ordenagailu baterako kodea idaztea hizketa modu bat dela eta gobernuak ezin zaituela behartu horretara, eta hortik gauza mordoa ateratzen da. Anthropic eraiki nahi ez dituen tresnak eraikitzera behartzea hizkera behartua dela dioen argudio hau erosten al duzu?
Bai, benetan uste dut nahiko sinesgarria dela. Derrigorrezko hizkera sinesgarria. Baina ez, argudio interesgarria iruditzen zait. Pentsatzen ari nintzen gaien zerrendan pixka bat beherago zegoena da. Jakina, gehienbat Laugarren Zuzenketaren gaietan zentratu nintzen, baina uste dut FIRE argudioa ez dagoela okerra. Beste testuinguru batzuetan ikusi dugu hori. Atzeko atearen arazoan ere sortu zen, sistema enkriptatutako atzeko ateak eraikitzen saiatzean.
Enpresak behin betiko planteatu LehenZuzenketak esaten du: "Hizkuntza behartua da kode mota hori idaztera behartzea". Baliozko argumentua da. Baliteke, berriro ere, auzitegiek hasiera batean aurre egiteko prest ez egotea, gai horiei beste modu batera aurre egin ahal badiote. Baina pozik nago FIREk mezu hori egin zuelako eta argudio interesgarria eta sinesgarria dela uste dut.
Bai, Trumpen bigarren administrazioaren izaera da hain tresna zorrotza dela, ia segurua da arazo guztiak aldi berean erasoko ditugula.
Bai, Eskubideen Legeko zuzenketa bakoitza modu batean edo bestean auzitan jarri behar da arazo guztiekin.
[Barre] Biratu gurpila.
Ziur Hirugarren Zuzenketaren urraketa bat sartu dezakegula hemen nonbait.
Noski, bai. Claudek zure etxean bizi behar du orain. Zehazki. Handia izango da. [zuzenketak] bat, hiru, lau eta zazpi egiten ari gara. Bildu egiten ditugu.
Mikel, hau bikaina izan da. Ezin dut sinetsi aurretik ikuskizunean egon ez zarenik. Hau bikaina izan da. Laster itzuli behar duzu.
Erabat. Nahi nauzuenean.
Atal honi buruzko galdera edo iruzkinak? Jarri iezaguzu decoder@theverge.com helbidera. Benetan irakurtzen ditugu mezu elektroniko guztiak!
