Hodiaŭ ni parolas pri la senorda, rapide moviĝanta situacio ĉe Anthropic, la kreinto de Claude, kiu nun trovas sin en tre malbela jura batalo kun la Pentagono.
La tien kaj reen estas komplika, sed de antaŭ kelkaj tagoj, la Kvinangulo opiniis Anthropic kiel risko pri provizoĉeno, kaj Anthropic prezentis proceson defiante tiun nomumon, dirante, ke la registaro malobservis siajn rajtojn pri la Unua kaj Kvina Amendo per "sercante detrui la ekonomian valoron kreitan de unu el la plej rapide kreskantaj privataj kompanioj en la mondo." Mi povas diri al vi nun: Ni parolos pri la turniĝoj de tiu kazo sur The Verge kaj ĉi tie sur Decoder en la venontaj monatoj.
Sed hodiaŭ mi volis preni momenton kaj vere enprofundiĝi ĉi tie pri unu tre grava elemento de ĉi tiu situacio, kiu ne ricevis sufiĉe da atento, ĉar ĉi tio senkontrolis: kiel la usona registaro faras gvatadon, la laŭleĝan aŭtoritaton, kiu permesas ke tiu gvatado okazu, kaj kial Anthropic malfidis la registaron, ke ĝi sekvus la leĝon kiam temas pri uzi AI por fari eĉ pli da gvatado.
Verge-abonantoj, ne forgesu, ke vi ricevas ekskluzivan aliron al senreklam-malĉifrilo, kie ajn vi ricevas viajn podkastojn. Kapu ĉi tien. Ĉu vi ne estas abonanto? Vi povas registriĝi ĉi tie.
Mia gasto hodiaŭ estas Mike Masnick, la fondinto kaj Ĉefoficisto de Techdirt, la bonega kaj longdaŭra retejo pri teknika politiko. Mike skribas pri registara troa atingo, privateco en la cifereca epoko kaj aliaj rilataj temoj jam de jardekoj. Li estas sperta pri kiel la interreto kaj la gvata ŝtato kreskis interkonektitaj.
Vi vidas, jen kion la leĝo diras, ke la registaro povas fari kiam temas pri kontroli nin, kaj tiam kion la registaro volas fari. Kaj plej grave, estas tio, kion la registaro diras, ke la leĝo diras, ke ĝi povas fari, kio ofte estas ĝuste la malo de tio, kion pensus ĉiu normala homo simple legante la leĝon.
Vi aŭdos Mike klarigi tre detale ĉi tie en ĉi tiu epizodo, ke ni ne povas - kaj ne devas - preni la usonan registaron laŭ sia vorto kiam temas pri gvatado. Estas tro multe da historio de registaraj advokatoj tordante la interpretojn de simplaj vortoj kiel "celo" por pligrandigi gvatadon en komplikaj manieroj - manieroj kiuj kutime nur kaŭzas zorgon en juraj rondoj, kaj nur bobeliĝas kiam estas grandegaj polemikoj kiel la ĉefaj revelacioj de la NSA de denuncanto Ed Snowden antaŭ pli ol jardeko.
Sed estas nenio subtila aŭ altnivela pri politikofarado en la Trump-epoko - kaj do kun Anthropic, ni havas tre laŭtan, tre publikan debaton pri teknologio kaj gvatado en reala tempo, en la interreto, en blogaj afiŝoj kaj X-diskoj, kaj super gazetaraj konferencoj. Estas pozitivaj kaj negativoj al tio, sed por kompreni ĉion, vi vere devas scii la historion.
Jen kion Mike kaj mi intencis klarigi en ĉi tiu epizodo - kia ajn estas viaj opinioj pri AI kaj registaro, ĉi tiu epizodo evidentigos, ke ambaŭ partioj lasis la gvatŝtaton pli kaj pli granda kun la tempo. Nun ni estas sur la rando de la plej granda ekspansio ĝis nun kiam temas pri AI.
Bone: Techdirt fondinto kaj CEO Mike Masnick pri Anthropic, la Pentagono, kaj AI-gvatado. Jen ni iras.
Ĉi tiu intervjuo estis malpeze redaktita por longeco kaj klareco.
Mike Masnick, vi estas la fondinto kaj Ĉefoficisto de Techdirt. Bonvenon al Decoder.
Mi ĝojas esti ĉi tie.
Mi estas ekscitita havi vin sur. Mi nur diris, ke mi estas ŝokita, ke vi neniam antaŭe estis en la spektaklo. Vi kaj mi jam delonge skribas kaj afiŝas unu ĉirkaŭ la alia. Multa politiko de The Verge ŝuldas al tio, kion vi faris ĉe Techdirt, kaj tio, kio okazas kun Anthropic, estas tiel komplika, sed trafas tiom da temoj, kiujn vi kovris tiom longe. Mi ĝojas, ke vi finfine estas ĉi tie.
Ĝi estas komplika fuŝaĵo de temo, sed mi ĝojas esplori ĝin.
Kion mi volas koncentriĝi kun vi, ne estas la detaloj ĉu Anthropic subskribos kontrakton kun la registaro aŭ ĉu OpenAI ricevos tiun kontrakton. Anstataŭe, mi certas, ke inter la tempo kiam ni registras ĉi tion kaj la tempo kiam homoj aŭskultos ĝin, estos pli da tweetoj kaj pli da aferoj estos malsamaj ol ili estis antaŭe.
Kion mi volas koncentriĝi estas nur unu el la du ruĝaj linioj, kiujn Anthropic vere aranĝis. Unu el ili estasaŭtonomaj armiloj, kiu estas sia propra nivelo de komplikaĵo. La leĝo tie estas iom pli naskiĝanta ĉu aŭ ne la armiloj eĉ ekzistas aŭ jam estis deplojitaj de Rusio en la Ukrainia Milito.
Estas multaj ideoj ĉi tie, kiujn mi nur volas flankenmeti tion ĉar mi pensas, ke tio pli fokusiĝos laŭ sia propra horaro. La alia ruĝa linio, pri kiu mi volas pasigi multe da tempo, estas amasa gvatado. Kaj estas sufiĉe da leĝo ĉi tie pri amasa gvatado. Estas multe da historio, multe da polemika historio. La tuta karaktero de Edward Snowden ekzistas pro konfliktoj ĉirkaŭ amasgvatado.
Ĉio dependas de—mi pensas, ke vi estas tiu, kiu afiŝis ĉi tion—la Nacia Sekureca Agentejo (NSA), kiu estas parto de la Departemento pri Defendo, kiun ni devas nomi la Departemento de Milito nun ial.
[Ridas] Ni ne devas fari ion ajn.
[Ridas] Ni ne faras. Tio veras ĉi tie en Ameriko. Ni ne devas fari ion ajn. Sed la NSA esence redifinis tion, kion multaj vortoj signifas el la parollingva angla por signifi, "Ni povas simple fari gvatadon." Kaj tiam ĉiufoje okazas skandalo, kiam homoj malkovras, ke ili nur faras gvatadon. Do simple starigu la scenejon tie, kaj mi ne volas rebobeni vin la tutan vojon, sed pasis sufiĉe da tempo, kie ĉi tiu ŝablono ripetiĝis.
Ĝi dependas de kiom profunde vi volas iri, sed la mallonga versio estas evidente en la post-9/11 mondo, Usono pasigis la Patriot Act, kiu havis iun kapablon por la registaro okupiĝi pri gvatado, kiu laŭsupoze estis por protekti nin kontraŭ estontaj terorismaj minacoj. Kun la tempo, tio estis interpretita en interesaj manieroj kaj estis iuj limoj al tio. Ni ankaŭ havis la FISA-tribunalon, kiu estas speciala tribunalo, kiu laŭsupoze revizias la spionkomunumon kaj iliajn agadojn, sed tradicie estis unuflanka tribunalo. Nur unu flanko povas pledi sian kazon al tiu tribunalo kaj ĉio estas farita sekrete.
Estas multaj aferoj, kiuj ne estis konataj. Kaj tiam estis unu alia peco en ĉio ĉi, kiu reiras ĝis Ronald Reagan, kiu estas Plenuma Ordo 12333, kiu supozeble temas pri starigo de la reguloj de la vojo por la kolekto de inteligenteco.
Do vi havas ĉi tiujn tri arojn da leĝoj—nu, kelkajn arojn da leĝoj—kaj plenuma ordono, ke al la publiko, la partoj kiujn vi povas legi, ŝajnas diri certajn aferojn pri tio, kion nia registaro kaj la NSA precipe povas fari rilate al gvatado. Se legite per simpla angla vortaro, kies naturon vi kaj mi verŝajne havas kaj komprenas, ni kredus, ke la kapablo de la NSA kontroli usonanojn estis tre limigita, fakte ĝis la punkto, ke ili supozeble, se ili rimarkas, ke ili kontrolas usonan personon, ke ili devas tuj halti kaj plori malbonon kaj forviŝi la datumojn kaj ĉiujn ĉi aliajn aferojn.
Ekzistis onidiroj por tempeto ke tio ne vere okazis kaj estis sugestoj kaj precipe senatano Ron Wyden estis tre voĉa pri irado sur la plankon de la Senato kaj dirado, "Io ne estas en ordo ĉi tie kaj mi ne povas tute diri al vi kio", aŭ en demandosesioj li demandus spionoficistojn, "Ĉu vi aŭ ĉu vi ne kolektas amasajn datumojn pri usonanoj?"
Tiuj oficialuloj aŭ deturnus aŭ en kelkaj kazoj rekte mensogus. Mi kredas, ke ĝi estis unu aŭdienco en 2012 kun James Clapper, kiu estis la Direktoro de Nacia Inteligenteco tiutempe, kie li estis demandita rekte pri ĉi tiu punkto. Kaj li esence diris, "Ne, ni ne kolektas datumojn pri usonanoj." Tio estis granda parto de kio inspiris Ed Snowden por liki la datenojn, la raportojn ke li likis al Glenn Greenwald kaj Barton Gellman kaj Laura Poitras ankaŭ. De ĉio tio, kion ni komencis malkovri estis, ke la NSA havas sian propran vortaron, kiu estas iom malsama ol la vortaro kiun vi kaj mi uzas, tiel ke ili povas interpreti vortojn en manieroj kiuj estas malsamaj ol la simpla angla signifo de ili, inkluzive de vortoj kiel "celo", kiu sentas kiel ŝlosilvorto. Larĝa kompreno pri tio, kio estas tio, estas, ke, en teorio, ili nur devas celi homojn, kiuj ne estas usonanoj, mi pensas, ke estas la frazo.
Sed la maniero kiel ĝi estis interpretita laŭlonge de la tempo estis, ke ĉio, kio mencias tiun personon, ĉio, kio temas pri fremda persono, nun estas justa ludo, eĉ se tio estas la komunikado de iu.usona persono. Do se vi kaj mi tekstus unu la alian kaj mencius fremdan personon, tio nun estas justa ludo por la NSA kolekti kaj konservi kaj konservi.
Estas dua parto de ĉi tio. Mi menciis unuan Plenuman Ordon 12333 de Ronald Reagan, kiu, ĉar la teknologio ŝanĝiĝis kun la tempo kaj la interreto kreskis, efike permesis al la NSA ektuŝi eksterlandajn komunikadojn, sed tio inkludis iujn ajn komunikadojn, kiuj eble lasis Usonon survoje ie. Do se mi mesaĝas al vi kaj mesaĝo iris de mi en Kalifornio per optika kablo de fibro kiu hazarde forlasis Usonon, la NSA povus meti frapeton en la parto post kiam ĝi estas ekster Usono kaj kolekti tiujn informojn, eĉ se ĝi nur iris al vi ene de Usono.
La NSA tiam povus konservi tiujn informojn eĉ se ĝi estis sur usonaj personoj, kaj ili povus fari specifajn serĉojn pri tio poste, foje nomataj "malantaŭaj serĉoj". Ili kolektis ĉi tiujn informojn, kiujn ni kredas, ke ili unue ne devis kolekti, sed ili povus konservi ĝin. Kaj ili promesis, ili pinky ĵuris, ke ili konservos ĝin privata, sed se ili serĉus kaj trovis ke vi aŭ mi menciis fremdan personon, tiam subite estis justa ludo por ili fari kion ajn ili volas kun ĝi.
Entute tio fariĝis mondo, en kiu la federacia registaro povas esence kolekti ajnan informon, kiu hazarde tuŝas ekster Usono. Eĉ se ĝi estas tute inter du usonaj personoj, se ili mencias aŭ eĉ aludas iun, kiu ne estas usonano, subite estas justa ludo esti kolektita. Kaj el tio ni ricevis tion, kio ŝajnas esti formo de amasa gvatado de usonaj personoj fare de NSA, kiu asertas kaj publike deklaras, ke ĝi ne spionas usonajn homojn.
Kiel ni alvenis al ĉi tiu punkto? Ĉi tio estas multaj pliigaj bebaj paŝoj. Vi menciis James Clapper en 2012, tio estas la Obama registaro. Vi menciis Ronald Reagan, tio estas la 1980-aj jaroj. Ni trapasas demokratojn kaj respublikanojn ĉi tie.
La milito kontraŭ teruro okazis en la registaro de George W. Bush, kaj la 11-a de septembro kaj la Patriot Act okazis en la registaro de George W. Bush. Estas multaj pliigaj malbonaĵoj sub prezidantoj de ambaŭ partioj, sub kongresoj de ambaŭ partioj. Kiel ĉi tio okazis?
La plej simpla formo estas nur, ke neniu, kaj certe neniu prezidanto, volas esti prezidanto dum la tempo, kiam okazas granda terorista atako, ĉar tio igas ilin aspekti malbonaj. Evidente ili ankaŭ volas protekti usonanojn, ĉu ne? Tio estas parto de ilia laboro. Se vi havas spionkomunumon, kiu esence funkcias en mallumo, ĉar tion faras spionkomunumoj kaj ili daŭre venas al vi kaj diras: "He, se ni nur povus akiri aliron al ĉi tiu informo, ĝi estus vere helpema por malhelpi terorisman atakon."
Povas esti kazoj kie tio estas vera, ke la spionkomunumo kapablas uzi ĉi tiujn informojn en maniero kiu funkcias bone. Sed ni ankaŭ estas, en teorio, socio de leĝoj kun usona konstitucio, kiun ni devas obei. Sed tio permesis la fakton, ke administrado post administrado, denove, Respublikanoj kaj Demokratoj, havis advokatojn, kiuj estis tre lertaj kaj kiuj trarigardus kaj dirus: "Nu, se ni tiel poziciiĝas aŭ ni deklaras tiel aŭ ni interpretas tion, tiamaniere ni povas akiri tion, kion ni volas kaj ne teknike malobei la leĝon aŭ ne teknike malobservi la Kvaran Amendon."
La supozo ĉiam estis, "Ni povas ia fleksi la leĝon aŭ fleksi nian interpreton de la leĝo kaj neniu vere iam vidos ĉi tion, aŭ neniu, kiu zorgas, vere iam vidos ĉi tion, kaj tial ni sukcesos."
Estas du aferoj, kiuj vere elsaltas min. Unu, vi kaj mi ambaŭ legas multajn kortumajn decidojn — apelaciakortumajn decidojn kaj kasacian kortuman decidojn. Kaj estas batalo en nia Supera Kortumo pri kiel laŭvorte interpreti la vortojn en niaj statutoj kaj niaj leĝoj.
Mi ne tro malproksimiĝos en ĝin, sed mi dirus ĝenerale, ke la ideo, ke vi simple legu la vortojn sur la paĝo kaj faru tion, kion ili diras, estas la domina streĉo de laŭleĝa interpreto en Usono. Maldekstre aŭ dekstre, ili ambaŭ diras ĝin. Ili kverelas pri kelkaj tre esoteraj bonaj punktoj de tio, kion tio fakte signifas. Sed ke vi nur povu legi ĉi tiujn vortojn kaj fari tion, kion ili diras, tio ne estas por preni, ĉu ne?
Ni alteriĝis sur almenaŭ tiun unuan paŝon de kion vi povusnomi tekstismon. Kiel advokatoj de ambaŭ administracioj malproksimiĝas de la reganta maniero de jura decido en nia lando? Juĝistoj de ambaŭ partioj ambaŭ konsentas, ke tio estas almenaŭ la unua paŝo.
Mi ŝatus scii la ĝustan respondon, sed mi pensas, ke ĝi estas motivita rezonado, ĉu ne? Kiel advokato, vi estas tie por defendi vian klienton kaj la sukceso - se vi povas nomi ĝin sukceso - de nia jura sistemo tendencas bazi sur havado de kontraŭa situacio kie vi havas malsamajn flankojn kverelante pri ĉi tiuj aferoj, kie la rolo de la adjudikanto estas malvastigi kaj eltrovi kiu flanko estas fakte ĝusta.
Unu el la problemoj kun la spionkomunumo kaj la aranĝo de ĝi estas ke vi ne havas tiun kontraŭan situacion. Tio faciligas al unu flanko pravigi la argumenton, kiun ili faras, ĉar neniu vere repuŝas ĝin. Vi kombinas tion kun la ĝenerala timo de alia terorista atako, io ajn rilata al nacia sekureco, kaj eĉ kiam vi havas situaciojn kie vi havas la FISA-tribunalon - mi volas diri, ke la FISA-tribunalo estis iom fama pro efike esti kaŭĉuka stampo dum multaj jaroj.
Mi forgesas la precizajn nombrojn, sed ĝi estis io kiel pli ol 99 procentoj de aplikoj kiuj iris al la FISA-tribunalo por permesi gvatado de certaj situacioj estis koncedita, kaj estas facile diri ke 99 procentoj estas evidente tro multe. Evidente tiuj, kiuj alportas asertojn al la tribunalo, ili elektas kaj elektas. Ili ne estas, plejparte, alportantaj plene frenezajn asertojn. Sed sen tiu kontraŭa aspekto kaj kun tre forte motivita grupo de homoj, kiuj pensas, "Ni devas fari ĉi tion", aŭ estas dirita de administrado, "Ni devas fari ĉi tion", ili trovos manierojn fari ĝin. Kaj tie vi finiĝas laŭlonge de la tempo.
Ĉu estis iu implikita en ĉi tiu procezo, kiu iam vekiĝis kaj diris al si: "Knabo, ni sukcesis redifini la vorton 'celo' por signifi ion ajn, kion ni volas"?
[Ridas] Evidente vi havis Ed Snowden, kiu likis amason da dokumentoj. Vi havis John Napier Tye, kiu skribis pecon por The Washington Post en 2014, kiu malkaŝis la interpreton de Plenuma Ordo 12333, kaj diris, ke tio estas la vera afero atentenda. Vi havas aliajn homojn, kiuj parolis pri ĉi tiuj aferoj, sed plejparte, la homoj, kiuj okupiĝas pri laborado ene de la administracio pri aferoj de la spionkomunumo, estas aĉetitaj en la vidpunkto de la spionkomunumo, kiu estas, ke la superrega celo estas protekti la landon kontraŭ io malbona. La plej bona maniero fari tion estas havi kiel eble plej multe da informoj.
Estas facile esti simpatia al la argumento, ke jes, havi pli da informoj povas permesi al ili kapti ion pli frue aŭ trovi ion gravan, sed, unu, tio eble ne estas vera. Akiri tro da informoj verŝajne estas same malbona kiel tro malmulte da informoj ĉar ĝi ofte povas kaŝi la informojn, kiuj efektive utilas, la informojn, kiujn vi efektive bezonas por determini ion.
Sed ankaŭ, ni havas U..S. Konstitucio unue kaj ni havas kialojn kial, en teorio, ni ne laŭsupoze permesas amasan gvatadon sen verŝajna kaŭzo. Kiel lando kiu kredas je la jurŝtato, ni devus povi vivi ĝis tio, kaj kiam ĉiuj ĉi aferoj okazas en mallumo, vi tendencos perdi tion de vidon.
Ĉi tio alportas min al Anthropic. Anthropic estas ĉefe entreprena kompanio. Ili estas bonaj ĉe la registaro, ili konstruis tiujn muskolojn, ili estas dungitaj de homoj, kiuj vere bone konas iujn ĉi tiujn aferojn. Ili evidente rigardis Pete Hegseth dirante: "Ni volas ĉiujn laŭleĝajn uzojn", kaj ili malsupreniris du nivelojn de interpretado kaj diris: "Nu, via laŭvorta kredo estas, ke ĉi tiuj vortoj ne signifas tion, kion ili diras, ke ili signifas sur sia vizaĝo. Do "ĉiuj laŭleĝaj uzoj" estas tro grandaj, kaj ni volas meti iujn gardrelojn precipe ĉirkaŭ amasa gvatado."
Denove, mi dismetos aŭtonomiajn armilojn, kio estis la alia ruĝa linio, sed precipe pri amasa gvatado, Dario Amodei estas tie ekstere dirante, "Ni povas fari tro multe. Ĉi tio estas tro danĝera. Ĉi tio estas malobservo de la Kvara Amendo."
La streĉiĝo estas "vi diras, ke vi plenumos ĉi tiujn leĝojn, kiuj diras unu aferon, kaj nun, post ĉi tiu tempo, ili signifas ion tute alian kaj ni simple ne volas esti parto de tio." Tio estas labatali. Mi nur volas kompari tion kun Sam Altman, kiu svingas por diri, "Ni faros ĉiujn laŭleĝajn uzojn", kaj poste afiŝas ĉi tiun longan mesaĝon kiel: "Jen ĉiuj leĝoj, kiujn ni plenumos."
Ŝajnas, ke Altman ne sciis kiel la NSA reinterpretis ĉi tiujn aferojn kaj ia estis prenita por veturo. Kaj li ekde tiam komencis reiri ĝin - eĉ dum ni registras, mi certas, ke estas pli da tweets kaj la pozicioj de ĉiuj ŝanĝiĝis. Sed Altman marŝis ĝin malrapide, sed ŝajnas, ke OpenAI estis ligita por legi la statutojn sur sia vizaĝo kaj kredi tion, kion ili diris. Ĉu tio estas ankaŭ via interpreto de eventoj?
Estas du eblecoj, kaj tio estas unu el ili. Unu estas, ke li estis ludita same kiel la publiko estis ludita dum multaj jaroj. La alternativa teorio, kaj mi ne scias, kiu unu el ĉi tiuj estas vera, estas ke li aŭ kelkaj advokatoj ĉe OpenAI - kiuj mi opinias tre kompetentaj kaj tre spertaj - sciis tion, sed pensis, ke ili povus ludi la saman ludon, kiun la NSA ludis dum kelkaj jardekoj, dum ili diras ĉi tiujn aferojn kaj poste diras la vortojn, sed ili ne malkaŝas la realajn interpretojn, ankaŭ tion ili povus eliri. Do Sam eliras la deklaron, kiu aspektas kiel "Ni havis la ekzakte samajn ruĝajn liniojn kiel Anthropic, kaj la registaro estis bonega kun tio."
Fakte, mi pensas, ke Sam Altman diris, ke Anthropic havis du ruĝajn liniojn kaj OpenAI havis tri, kaj la registaro estis tute bone kun ĝi, kaj tio lasis multajn homojn kvazaŭ gratante siajn kapojn. Sed mi pensas, ke devas esti aŭ ke Sam Altman kaj kiu ajn ĉirkaŭis lin ne komprenis kiel ĉi tiuj aferoj funkcias praktike, aŭ ili faris, kaj ili simple supozis, ke la publiko ne scius kaj tial ili povus sukcesi.
La alia afero, kiu venas al la menso - denove, AI estas nova kaj estas tiom tenta veni al novaj teknologioj ĉar ĉi tiuj estas problemoj de unuaj impresoj. "Neniu iam devis pensi pri ĉi tio antaŭe," sed la realeco estas, ke ĉiuj pensas pri ĉi tio delonge. Eble la novaĵo ĉi tie ne estas AI, sed ke la dua Trump-administrado, anstataŭ fari amason da advokatoj, kiujn eble neniu iam legos por pravigi siajn agojn al sekreta tribunalo, pri kiu neniu atentas, estas anstataŭe simple ne tiom subtila.
Ili ne estas tiom sofistikaj kaj ili nur diras, ke ili spionos ĉiujn la tutan tempon. Ili ĵus anoncis siajn intencojn tiel, ke eble ĉiuj administracioj devus nur anonci siajn intencojn kaj vidi kie falas la blatoj.
Sed mi rigardas la fakton, ke estis Ed Snowden ĉi tie en Novjorko. AT&T administras konstruaĵon, kiun ĉiuj scias, estas konstruaĵo de NSA. Ĝi estas nur giganta konstruaĵo, kaj ni supozeble ŝajnigu, ke ĝi ne estas NSA-gvatcentro, sed ĝi estas ĝuste tie. Ĝi estas grandega. Neniu el tio ŝajnas esti veninta al io ajn. Ĉiuj ĉi tiuj revelacioj, ĉi tiuj likoj, ni ne subtenis ĝin.
Fakte, ĝi nur pliiĝis, ĉar tiom multe da niaj vivoj fariĝis pli kaj pli ciferecaj. Kaj eble la Trump-administrado estante tiel malakra instrumento ĉiam, tio efektive povus esti la afero, kiu kaŭzas la kalkulon. Ĉu vi tamen vidas tion ludi?
Estas kelkaj malsamaj aferoj tie, kaj ne estas tute vere, ke ni tute ne retiriĝis ĉi tiujn aferojn. La revelacioj de Snowden kondukis al iuj ŝanĝoj ene de kiel ĉi tiuj aferoj okazas. Kaj nun ekzistas - mi forgesas kiel ili nomiĝas, sed ili estas kiel ĉi tiuj civilaj amicus homoj ene de la FISA-kortumo, kiuj funkcios kiel prezentantaj la alian flankon pri certaj aferoj.
Kaj ni vidis kelkajn el la aŭtoritatoj limigitaj en certaj manieroj, kaj ili venas por reaŭtorigo ĉiu tiel ofte, kaj aktivuloj estis tre agresemaj pri puŝi reen kaj provi meti kelkajn pliajn barilbarojn. Sed al la pli granda demando, mi pensas, ke estas du malsamaj aferoj. Vi duone pravas, ke ĉi tiu administrado ne estas subtila kaj nur laŭte diras tion, kion ĝi ne devus.
"Ni estas en milito kun Irano, ni faras ĝin, ĝi okazas. Ni eĉ ne provos la dancon."
En manieroj kiujn ĉiuj antaŭaj administracioj ne farus. Sed ili ne vere diris tion rekte prigvatado, precipe gvatado de usonanoj. Estis sugestoj pri tio, sed ili ne eliris tiel forte pri tio. La alia duono de ĝi devas fari pli kun la poziciigado de Anthropic kaj la ĝenerala vido de AI kiel ĉi tiu eble ekzisteca teknologio, kie Anthropic ĉiam prezentis sin kiel, "Ni estas la pripensemaj bonaj uloj", kaj ĉu aŭ ne vi kredas, ke tio estas iom krom la punkto. Ili havas ĉi tiun reputacion tie ekstere: "Ni provas fari tion en maniero sekura, kiu respektas la homaron kaj atentas ĉiujn ĉi tiujn aferojn." Kaj do kiam vi havas tiun kolizion, tie venas la lukto.
Vi havas Trump-administradon, kiu nur volas povi fari ĉion, kion ĝi volas fari, kaj ili ne estas subtilaj pri tio. Kaj tiam vi havas Anthropic, kies mempriskribo kaj ĝia publika persono ĉiam estas kiel: "Ni estas pripensemaj kaj ni respektas homaron kaj rajtojn kaj ĉiujn ĉi tiujn aferojn." Tie verŝajne venis la kolizio, ĉar Anthropic, kiel estis klare, laboris kun la Defendo-Sekcio dum tempo kaj havas multajn aliajn kontraktojn kun la registaro, kiujn ĝi uzis. Ĝi ne estis problemo.
Nur en ĉi tiuj specifaj lokoj, kiam la registaro serĉis pligrandigi la kontrakton, kiun ĝi havis, la altranga gvidantaro de Anthropic komencis diri: "Atendu, ni devas certigi, ke ni ne transiras ĉi tiujn ruĝajn liniojn, kiuj eble damaĝus nian reputacion kiel la pensema, sekura AI-provizanto."
Mi volas mallonge demandi vin pri gvatado ĝenerale, kaj aparte pri la Kvara Amendo de Anthropic. La Kvara Amendo diras, ke la registaro ne povas senracie serĉi vin. La plej bona maniero kompreni la Kvaran Amendon estas aŭskultante "99 Problems" de Jay-Z. Do se vi bezonas paŭzon kaj iri aŭskulti "99 Problems", tio estas bonega. Ĉio estas tie. Mi aŭskultis ĝin kiam mi estis en jurstudo kaj ĝi havis tute sencon.
Sed la registaro ĝenerale bezonas mandaton por traserĉi vin. Kaj ĉar pli kaj pli da via vivo enretas, ekzistas multaj kaj multaj esceptoj al ĉi tio. Sed la ideo estas, ke ili ankoraŭ bezonas mandaton interrete. La argumento de Anthropic estas, "Nu, la AI neniam laciĝos. Ĝi povas serĉi ĉion la tutan tempon. Tio signifas, ke ni nur faros majstran gvatadon."
Tamen eĉ antaŭ ol AI aperis, la ideo, ke la registaro povus serĉi ĉion, kio apartenis al vi, estis tie, la ideo ke la registaro ne bezonas mandaton por serĉi ĉiujn viajn aferojn estis tie. La ideo ke se iu el viaj datumoj iam iris ekster la landon por mallonga sekundo, la registaro kaptis ĝin tie,
Kiam mi estis en kolegio, ĉirkaŭ la tempo de la Patriot Act, la debato estis, ke ili ne serĉos viajn realajn datumojn, sed ili povas akiri la metadatumojn kaj la metadatumojn sole. La datumoj pri viaj datumoj sufiĉos por precize lokalizi vin ĉiam. Kaj eĉ tio estas tro malproksime. Kaj ni faris ĉi tiun dancon pri kio la registaro povas kolekti? Kio estas permesebla? Kion ili bezonas por konservi nin ĉiujn sekuraj kaj kio estas tro malproksime? Tiuj linioj moviĝis.
Do nur mallonge priskribu la ĝeneraligitan zorgon pri gvatado je la skalo kaj kie ni estas nun. Antaŭ la AI-situacio igis ĉion eksponente pli komplika.
Ĉi tie mi devas enkonduki alian koncepton, kiu verŝajne devus esti menciita antaŭe, sed ĝi estas grava, kiu nomiĝas la "triaparta doktrino". La ideo kun la Kvara Amendo estas, ke la registaro ne povas traserĉi vin aŭ viajn aferojn sen mandato kaj ĝi ne povas ricevi mandaton sen probabla kaŭzo, ke vi faris ian krimon. Sed ekzistas ĉi tiu koncepto, kiu aperis antaŭ proksimume jardekoj, nomata la triaparta doktrino, kiu diras, ke tio ne nepre validas, aŭ tute ne validas, por aferoj kiuj ne estas viaj, eĉ se ĝi estas viaj datumoj.
La plej frua kaj evidenta versio de ĉi tio estis telefonaj registroj, kiujn la telefonkompanio havis pri kiu vi telefonis. La telefonkompanioj ne registris viajn vokojn, sed ili registris, se mi vokus vin, estus rekordo ĉe la telefonkompanio kiu diras: "Mike vokas Nilay." Kaj kio estis determinita de multoblaj tribunaloj estis ke la registaro povas iri kaj peti tion, kaj ili ne bezonas mandaton por tio ĉar ĝi ne estas serĉo deviaj datumoj, ĝi estas ĉi tiu tria partio kaj ili povas konsenti kiel tria partio simple transdoni tiujn datumojn.
Sed tiuj estis kazoj de la 1960-aj kaj 70-aj jaroj, kie estis determinite ke la registaro povas akiri aliron al tio sen mandato, kiam ne estis tiom da triaj datumoj tie. La pliiĝo de komputiloj kaj interreto ŝanĝis tion. Nun ĉio estas triaj datumoj. Ĉio, kion ni faras, estas kolektita de iu firmao ie kaj havas registron pri ĝi. Do esence ĉiu datumo pri vi, kie vi estas, kun kiu vi parolas, kun kiu vi interagas, kion vi diras, kion vi faras, ĉio ĉi estas preskaŭ tenata de triaj nuntempe. Do la triaparta doktrino englutis la tutan Kvaran Amendon iagrade, kie io ajn pri vi, kion iu alia havas, estas multe pli malalta normo pri tio, kion la registaro povas fari por peti ĝin.
Nur por esti specifa, tio signifas, kiam miaj datumoj estas en iCloud, la registaro povas iri al Apple kaj eltiri miajn datumojn el iCloud sen iam diri al mi?
Ili povas peti ĝin. Ili povas facile peti ĝin sen mandato. Tiam la kompanio havas siajn proprajn rajtojn kaj povas determini kion ili volas fari kun tiu peto. Ili povas simple rezigni ĝin. Ili povas, kiel la plej multaj el ili faros, se temas pri serioza peto, malakcepti petojn senprokraste aŭ ili povas atentigi vin kaj ili povas diri - kaj jen kion la plej multaj el ili faros - ili atentigos vin kaj diros: "La registaro petas kelkajn el viaj datumoj. Vi povas iri al tribunalo kaj provi bloki ilin." Se ne, ili transdonos viajn datumojn en sep tagoj aŭ kio ajn ĝi estu.
Denove, ĝi dependas. Se ĝi estas krima enketo, tiam povas esti ia gaga ordo, kie la kompanio ne rajtas diri al vi. Estas ĉiaj situacioj, sed la plej multaj el ili implikas malpli ol la nivelon de protekto, kiun postulus la Kvara Amendo, se ĝi estus datumoj aŭ ajnaj informoj aŭ io ajn en via propra hejmo.
La kvanto da datumoj, kiujn vi havas sur la nuba servilo de aliulo, estas amasa, ĉu ne? Ĉiu afero, kiun vi ĝenerale faras en la interreto nun, estas iel subtenita aŭ registrita iel en la serviloj de aliulo. La registaro trovis ĉi tiun manieron ĉirkaŭiri la Kvaran Amendon kaj diri, "Nu, tio ne estas fakte via. Ĝi apartenas al Amazon. Ni povas iri paroli kun Amazon," kaj Amazon devas stari en la mezo de tiu procezo kaj diri: "Ni inventis alian procezon por iom protekti la homojn."
Mi rigardas tion—kaj kiam mi kovris la unuajn tripartiajn doktrinajn kazojn, kiuj kovris la nubajn servojn kaj la registaro daŭre venkis, tio estas esence kiam mi fariĝis la Joker. Mi estis kiel, "Ĉiuj ĉi aferoj, kiujn ni ŝajnigas pri tekstismo kaj la ebenaĵo [legado], nenio el ĉi tio signifas ion ajn ĉar ni nur ĉevalfortas al la malantaŭa pordo uzante ĉi tiun antikvan leĝon en ĉies datumoj."
Kaj tiam mi rigardas ĉi tion kaj mi rigardas Anthropic kaj mi diras, "Nu, ĉi tio estas la sama ŝablono." Ĉi tio estas privata kompanio diranta: "Bone, ni komprenas vian pozicion. Ni komprenas, ke vi reinterpretis la leĝon por signifi ĉi tiun aferon, kaj ni metos iun procezon inter vi, nian ilon, kaj la datumojn de usonanoj fluantaj tra nia servo." Mi nur scivolas, ĉu vi vidas tiun paralelon tie, inter Anthropic kaj Amazon kaj Azure kaj kiaj ajn aliaj nubaj servoj, kiuj ekzistas, kiuj enhavas tiom da niaj datumoj.
Jes, kvankam estas kelkaj klarigoj, kiuj estas gravaj ĉi tie, kiuj iom diferencas ĉi tion. Kaj fakte — mi pensas, ke The New York Times havis ĉi tiun raporton unue — la ĉefa klaŭzo, kiu estis plej grava al Anthropic, estis specife pri datumoj kolektitaj de komercaj servoj kaj ne povi uzi Claude pri tiuj datumoj, kio estas ĝuste ĉi tiu afero laŭ triaj datumoj. Sed mi volas klarigi la ĉefan diferencon inter tio, pri kio ni ĵus parolis antaŭ ĉi tio kun Amazon aŭ aliaj triaj gastigantoj de viaj datumoj, tiuj estis kazoj kie ili estis, pro kie ili sidas en la ekosistemo, ili gastigis viajn datumojn rekte.
Kun Claude, ne estas ke iu ajn maltrankviliĝas pri la NSA trarigardanta vian Claude-uzadon. Temas pri ili elirantaj kaj akirantaj triajn datumojn de Amazon aŭ pli verŝajne la speco de kaŝitaj datummakleristoj, kiuj servas reklamojn en viaj telefonoj kaj konas vian lokon kaj viajn interesojn kaj tiajn aferojn. Kaj poste nutri tion en sistemonke Claude tiam laborus. Jen kion Anthropic vere ne volis esti parto. Do kie ajn aŭ kiel ajn la registaro kolektus tiujn datumojn de tria partio, Anthropic diris, "Ni ne volas, ke nia ilo estu uzata por tiuj datumoj."
Apple fame staras kontraŭ la FBI petante ĝin meti malantaŭan pordon en la iPhone, kaj Apple diras "ne", kaj ili kontraŭstaras Trump. Kaj estas parto de kiel nia sistemo funkcias, en kiu grandaj privataj kompanioj diras "ne" al la registaro nome de siaj klientoj. Kaj ĉi tio sentis en la sama maniero, ke Apple, denove, ne metos ĝin malantaŭa pordo sur la iPhone, aŭ la grandaj nubaj provizantoj diras: "Estas iom da procezo, kiun vi devas trapasi antaŭ ol vi ricevas la individuajn datumojn."
Ĉi tie ŝajnas, ke Anthropic diras, "Ni ne nur faros amasan analizon de datumoj, kiujn vi akiris de aliaj partioj, ĉar tio kondukas al amasa gvatado 24/7 de usonanoj, kaj ni ne volas fari tion." Tamen tio ŝajnas ponto tro malproksima por ĉi tiu administracio. Ĉu estas reveno de tio?
Ni vidos. En la pasinteco, kiam tio okazis - kaj ĝi okazis multajn fojojn kun la plej multaj el la grandaj teknologiaj kompanioj, iam ili diris, ke io estas ponto tro malproksime - kie tio kutime iras estas juĝi. La kompanioj iros al tribunalo aŭ la administrado iros al tribunalo kaj estos ia kortuma batalo.
La malantaŭa pordo en la iPhone estas perfekta ekzemplo de tio. Ĝi iris al tribunalo kaj ili kontraŭbatalis ĝin, kvankam ili neniam tute alvenis al konkludo ĉar la FBI finfine ĵus mane enrompis la iPhone kaj tiam ne volis, ke la tribunala verdikto ruinigu tion en la estonteco.
Sed en ĉi tiu kazo, kie la eskalado estas kaj kie ĉi tio diferencas de tiuj pasintaj situacioj, estas tio, ke prefere ol nur iri al tribunalo, la Trump-administrado faris ĉi tiun "provizoĉen-riskon", kiu estas nur freneza. Ĉi tiu ideo, ke ĉi tiu ilo, kiu estis desegnita por malhelpi eblajn eksterlandajn malicajn agantojn provizi teknologion, kiu tiam povus meti kaŝitajn gvatajn ilojn en la pli grandan teknologian stakon, ke tiuj povus esti malpermesitaj. Apliki tion al usona kompanio esence por havi etikan politikon sentas kiel vera, vera misuzo de tiu ilo.
Eĉ tiu ilo estis dubinda iel, sed vi povus kompreni la impulson malantaŭ ĝi kiam vi parolas pri ĉina interreta firmao aŭ io laŭ tiuj linioj. Ĉi tie, ĝi ne havas sencon. Do la reago al tio iras tiom multe preter tio, kio kutime vidus en ĉi tiu kazo. Vi povus vidi tradicie, ke estus ia kortumkazo kaj ambaŭ flankoj povus komenci ĝin kaj estus nur batalo pri kiel la kontrakto povus esti aplikita.
Sed tio ne okazas ĉi tie. Ĉi tiu administrado efike diras: "Se vi ne donas al ni absolute ĉion, kion ni volas, se vi ne agordas viajn ilojn por funkcii tiel, kiel ni volas, ke ili funkciu, tiam ni efike provos detrui vian tutan komercon." Kaj tio estas eskalado.
Estas unu peco de ĉi tio, pri kiu mi volas fini, kaj ĝi estas la plej galaksi-cerba versio de ĉi tio. FAJRO, kiu estas libera sinesprim-defenda grupo, publikigis blogan afiŝon ĵus antaŭ ol ni komencis registri argumentante, ke devigi Anthropic konstrui ilojn, kiujn ĝi ne volas konstrui, estas liberesprim-malobservo, ke ĝi estas io nomata deviga parolado. Estas multe da historio ĉi tie. Estas iu profunda Verge kaj Techdirt, en-la-herboj, ekzisteca-kriza historio ĉi tie.
Sed esence temas pri la ideo, ke kodo estas parolo, ke skribi kodon por komputilo estas parolformo kaj la registaro ne povas devigi vin fari ĝin, kaj tuta amaso da aĵoj fluas de tio. Ĉu vi aĉetas ĉi tiun argumenton, ke devigi Anthropic konstrui ilojn, kiujn ĝi ne volas konstrui, estas devigata parolado?
Jes, mi fakte pensas, ke ĝi estas sufiĉe konvinka. Konvinka devigata parolado. Sed ne, mi ja opinias, ke ĝi estas interesa argumento. Ĝi estas unu, kiu estis iom pli malsupre en la listo de la aferoj, pri kiuj mi pensis. Mi evidente estis plejparte pli koncentrita pri la Kvara Amendo-temoj, sed mi pensas, ke la FAJRO-argumento ne estas malĝusta. Ni vidis tion en aliaj kuntekstoj. Ĝi aperis ankaŭ en la malantaŭa problemo, koncerne provi konstrui malantaŭajn pordojn en ĉifritajn sistemojn.
Firmaoj certe levis UnueAmendo asertas, dirante, "Estas devigata parolado devigi nin skribi tian kodon." Ĝi estas valida argumento. Ĝi povus esti, denove, tiu, kiun tribunaloj verŝajne malpli pretas pritrakti komence se ili povas trakti ĉi tiujn aferojn alimaniere. Sed mi ĝojas, ke FAJRO faris tiun afiŝon kaj mi pensas, ke ĝi estas interesa kaj konvinka argumento.
Jes, estas nur la naturo de la dua Trump-administrado, ke ĝi estas tiel malakra instrumento, estas preskaŭ certe, ke ni atakos ĉiujn aferojn samtempe.
Jes, ĉiu amendo pri Rajtoj devas esti defiita en iu formo aŭ alia kun ĉiu ebla afero.
[Ridas] Turnu la radon.
Mi certas, ke ni povas konveni malobservon de Tria Amendo ie ĉi tie.
Certe, jes. Claude devas nun loĝi en via domo. Ĝuste. Ĝi estos bonega. Ni faras [amendojn] unu, tri, kvar kaj sep. Ni amasigas ilin.
Mike, ĉi tio estis bonega. Mi ne povas kredi, ke vi ne estis en la spektaklo antaŭe. Ĉi tio estis bonega. Vi devas baldaŭ reveni.
Absolute. Kiam ajn vi volas min.
Ĉu demandoj aŭ komentoj pri ĉi tiu epizodo? Kontaktu nin ĉe decoder@theverge.com. Ni vere legas ĉiun retpoŝton!
