Ngayon ay pinag-uusapan natin ang magulo, mabilis na gumagalaw na sitwasyon sa Anthropic, ang gumawa ni Claude na ngayon ay nahahanap ang sarili sa isang napakapangit na legal na labanan sa Pentagon.
Ang pabalik-balik ay kumplikado, ngunit noong ilang araw na nakalipas, itinuring ng Pentagon ang Anthropic na isang panganib sa supply chain, at si Anthropic ay nagsampa ng kaso na hinahamon ang pagtatalagang iyon, na nagsasabing nilabag ng gobyerno ang mga karapatan nito sa Una at Ikalimang Susog sa pamamagitan ng "paglalayong sirain ang halaga ng ekonomiya na nilikha ng isa sa pinakamabilis na lumalagong pribadong kumpanya sa mundo." Masasabi ko sa iyo ngayon: Pag-uusapan natin ang tungkol sa mga twist at turn ng case na iyon sa The Verge at dito sa Decoder sa mga darating na buwan.
Ngunit ngayon gusto kong maglaan ng ilang sandali at talagang maghukay dito sa isang napakahalagang elemento ng sitwasyong ito na hindi nabibigyan ng sapat na atensyon dahil ito ay nawala sa kontrol: kung paano ginagawa ng gobyerno ng Estados Unidos ang pagsubaybay, ang legal na awtoridad na nagpapahintulot sa pagmamatyag na iyon na mangyari, at kung bakit walang tiwala si Anthropic sa gobyerno na nagsasabing susundin nito ang batas pagdating sa paggamit ng AI para gumawa ng higit pang pagsubaybay.
Mga verge subscriber, huwag kalimutang makakakuha ka ng eksklusibong access sa ad-free Decoder saan mo man makuha ang iyong mga podcast. Tumungo dito. Hindi subscriber? Maaari kang mag-sign up dito.
Ang aking panauhin ngayon ay si Mike Masnick, ang tagapagtatag at CEO ng Techdirt, ang napakahusay at matagal nang tech policy website. Nagsusulat si Mike tungkol sa overreach ng gobyerno, privacy sa digital age, at iba pang nauugnay na paksa sa loob ng mga dekada. Isa siyang eksperto sa kung paano lumaki ang internet at ang estado ng pagsubaybay sa magkakaugnay na paraan.
Kita mo, nandiyan ang sinasabi ng batas na magagawa ng gobyerno pagdating sa pag-survey sa amin, at kung ano ang gustong gawin ng gobyerno. At higit sa lahat, nariyan ang sinasabi ng gobyerno na sinasabi ng batas na magagawa nito, na kadalasang eksaktong kabaligtaran ng kung ano ang iisipin ng sinumang normal na tao na nagbabasa lamang ng batas.
Maririnig mo si Mike na nagpapaliwanag nang detalyado dito sa episode na ito na hindi natin - at hindi dapat - tanggapin ang salita ng gobyerno ng US pagdating sa pagsubaybay. Napakaraming kasaysayan ng mga abogado ng gobyerno na pinipilipit ang mga interpretasyon ng mga simpleng salita tulad ng "target" upang palawakin ang pagsubaybay sa mga kumplikadong paraan - mga paraan na kadalasang nagdudulot lamang ng pag-aalala sa mga legal na lupon, at bumubula lamang kapag may malalaking kontrobersiya tulad ng mga pangunahing paghahayag ng whistleblower na si Ed Snowden sa NSA mahigit isang dekada na ang nakalipas.
Ngunit walang banayad o sopistikado tungkol sa paggawa ng patakaran sa panahon ng Trump — at gayundin sa Anthropic, nagkakaroon kami ng napakalakas, napaka-publikong debate tungkol sa teknolohiya at pagsubaybay sa real time, sa internet, sa mga post sa blog at X rants, at sa mga tunog-bites sa press conference. May mga positibo at negatibo iyon, ngunit para magkaroon ng kahulugan ang lahat ng ito, kailangan mo talagang malaman ang kasaysayan.
Iyan ang itinakda namin ni Mike na ipaliwanag sa episode na ito — anuman ang iyong mga pananaw sa AI at gobyerno, lilinawin ng episode na ito na hinayaan ng parehong partido na lumaki at lumaki ang estado ng pagsubaybay sa paglipas ng panahon. Ngayon, nasa tuktok na tayo ng pinakamalaking pagpapalawak pagdating sa AI.
Okay: Techdirt founder at CEO Mike Masnick sa Anthropic, Pentagon, at AI surveillance. Dito na tayo.
Ang panayam na ito ay bahagyang na-edit para sa haba at kalinawan.
Mike Masnick, ikaw ang tagapagtatag at CEO ng Techdirt. Maligayang pagdating sa Decoder.
Natutuwa akong nandito.
Nasasabik akong makasama ka. Sinasabi ko lang na nabigla ako na hindi ka pa nakapunta sa palabas. Ikaw at ako ay nagsusulat at nagpo-post sa bawat isa sa mahabang panahon. Marami sa saklaw ng patakaran ng The Verge ang may utang sa ginawa mo sa Techdirt at kung ano ang nangyayari sa Anthropic ay napakakumplikado, ngunit naabot ang napakaraming tema na matagal mo nang sinakop. I'm glad narito ka na sa wakas.
Ito ay isang kumplikadong gulo ng isang paksa, ngunit ako ay nasasabik na pag-aralan ito.
Ang gusto kong pagtuunan ng pansin sa iyo ay hindi ang mga detalye kung pipirma si Anthropic ng kontrata sa gobyerno o kung makukuha ng OpenAI ang kontratang iyon. Sa halip, kumpiyansa ako sa pagitan ng oras na i-record namin ito at sa oras na pakikinggan ito ng mga tao, magkakaroon ng mas maraming tweet at mas maraming bagay ang magiging iba kaysa dati.
Ang gusto kong pagtuunan ng pansin ay isa lamang sa dalawang pulang linya na talagang inilatag ni Anthropic. Ang isa sa kanila ayautonomous na armas, na sariling antas ng komplikasyon. Ang batas doon ay mas umuusbong kung mayroon man o wala ang mga armas o nai-deploy na ng Russia sa Digmaang Ukraine.
Mayroong maraming mga ideya dito na gusto ko lamang i-set aside dahil sa tingin ko na iyon ay pagpunta sa mas focus lahat sa sarili nitong iskedyul. Ang isa pang pulang linya na gusto kong paglaanan ng maraming oras ay mass surveillance. At napakaraming batas dito tungkol sa mass surveillance. Maraming kasaysayan, maraming kontrobersyal na kasaysayan. Umiiral ang buong karakter ni Edward Snowden dahil sa mga kontrobersiya tungkol sa malawakang pagsubaybay.
Ang lahat ay nagmumula sa—sa tingin ko ikaw ang nag-post nito—ang National Security Agency (NSA), na bahagi ng Department of Defense, na kailangan nating tawagan ngayon ang Department of War para sa ilang kadahilanan.
[Laughs] Wala tayong dapat gawin.
[Laughs] Hindi kami. Totoo yan dito sa America. Wala tayong dapat gawin. Ngunit ang NSA ay karaniwang muling tinukoy kung ano ang ibig sabihin ng maraming salita mula sa kolokyal na Ingles na ibig sabihin ay, "Maaari lang tayong mag-surveillance." At pagkatapos ay madalas na mayroong isang iskandalo kapag natuklasan ng mga tao na ginagawa lamang nila ang pagsubaybay. Kaya itakda lang ang entablado doon, at hindi ko nais na i-rewind ka sa lahat ng paraan, ngunit medyo matagal na kung saan naulit ang pattern na ito.
Depende ito sa kung gaano kalalim ang gusto mong gawin, ngunit ang maikling bersyon ay malinaw na nasa post-9/11 world, ipinasa ng US ang Patriot Act, na may ilang kakayahan para sa gobyerno na makisali sa pagsubaybay, na dapat ay para sa pagprotekta sa amin laban sa mga banta ng terorista sa hinaharap. Sa paglipas ng panahon, nabigyang-kahulugan iyon sa mga kawili-wiling paraan at may ilang limitasyon doon. Nagkaroon din kami ng FISA court, na isang espesyal na hukuman na dapat suriin ang intelligence community at ang kanilang mga aktibidad, ngunit tradisyonal na naging one-sided court. Isang panig lamang ang maaaring magsampa ng kanilang kaso sa korte na iyon at lahat ng ito ay ginagawa nang palihim.
Mayroong maraming mga bagay na hindi alam. At pagkatapos ay mayroong isa pang bahagi sa lahat ng ito, na napupunta sa lahat ng paraan pabalik sa Ronald Reagan, na Executive Order 12333, na diumano ay tungkol sa pagtatakda ng mga patakaran ng kalsada para sa koleksyon ng katalinuhan.
So you have these three sets of laws—well, a few sets of laws—at isang executive order na sa publiko, ang mga bahagi na mababasa mo, ay tila nagsasabi ng ilang bagay tungkol sa kung ano ang maaaring gawin ng ating gobyerno at ng NSA partikular sa mga tuntunin ng pagsubaybay. Kapag binasa gamit ang isang payak na diksyunaryo sa Ingles, ang likas na katangian ng kung saan ikaw at ako ay malamang na mayroon at nauunawaan, magkakaroon tayo ng isang paniniwala na ang kakayahan ng NSA na subaybayan ang mga Amerikano ay napakalimitado, sa katunayan hanggang sa punto na dapat nilang gawin, kung napagtanto nila na sila ay nagmamasid sa isang tao sa US, na sila ay dapat na agad na huminto at sumigaw ng masama at burahin ang data at lahat ng iba pang bagay na ito.
May mga tsismis nang ilang sandali na hindi talaga iyon nangyayari at may mga pahiwatig at partikular na si Senator Ron Wyden ay napaka-vocal tungkol sa pagpunta sa sahig ng Senado at sinabing, "May hindi tama dito at hindi ko masasabi sa iyo kung ano," o sa mga pagdinig ay tatanungin niya ang mga opisyal ng intelligence, "Ikaw ba o hindi ka nangongolekta ng data ng masa sa mga Amerikano?"
Ang mga opisyal na iyon ay maaaring lumihis o sa ilang mga kaso ay tahasang magsisinungaling. Naniniwala ako na ito ay isang pagdinig noong 2012 kay James Clapper, na Direktor ng National Intelligence noong panahong iyon, kung saan direktang tinanong siya sa puntong ito. At karaniwang sinabi niya, "Hindi, hindi kami nangongolekta ng data sa mga Amerikano." Malaking bahagi iyon ng naging inspirasyon ni Ed Snowden na i-leak ang data, ang mga ulat na na-leak din niya kina Glenn Greenwald at Barton Gellman at Laura Poitras. Mula sa lahat ng iyon, ang sinimulan naming matuklasan ay ang NSA ay may sariling diksyunaryo na medyo naiiba kaysa sa diksyunaryo na ginagamit mo at ko, upang mabigyang-kahulugan nila ang mga salita sa mga paraan na iba kaysa sa simpleng Ingles na kahulugan ng mga ito, kabilang ang mga salitang tulad ng "target," na parang isang pangunahing salita. Ang isang malawak na pag-unawa sa kung ano ito ay na, sa teorya, dapat lamang nilang i-target ang mga tao na hindi mga tao sa US, sa tingin ko ay ang parirala.
Ngunit ang paraan ng pagbibigay kahulugan sa paglipas ng panahon ay ang anumang bagay na nagbabanggit sa taong iyon, anumang bagay na tungkol sa isang dayuhang tao ay patas na laro na ngayon, kahit na iyon ang mga komunikasyon ng isangtao sa US. Kaya kung ikaw at ako ay magte-text sa isa't isa at magbanggit ng isang dayuhang tao, iyon na ngayon ay patas na laro para sa NSA na kolektahin at itago at iimbak.
May pangalawang bahagi nito. Binanggit ko ang unang Executive Order 12333 mula kay Ronald Reagan, na, habang nagbabago ang teknolohiya sa paglipas ng panahon at lumago ang internet, epektibong pinahintulutan ang NSA na mag-tap sa mga dayuhang komunikasyon, ngunit kasama doon ang anumang mga komunikasyon na maaaring umalis sa US sa ruta sa isang lugar. Kaya kung nagte-text ako sa iyo at may mensahe mula sa akin sa California sa pamamagitan ng fiber optic cable na nagkataong umalis sa US, maaaring maglagay ng gripo ang NSA sa bahagi kapag nasa labas na ito ng US at kolektahin ang impormasyong iyon, kahit na papunta lang ito sa iyo sa loob ng US.
Maaaring panatilihin ng NSA ang impormasyong iyon kahit na ito ay nasa mga tao sa US, at maaari silang gumawa ng mga partikular na paghahanap tungkol doon sa ibang pagkakataon, kung minsan ay tinutukoy bilang "mga paghahanap sa likod ng pinto." Kinokolekta nila ang impormasyong ito na pinaniniwalaan naming hindi nila dapat kolektahin noong una, ngunit maaari nilang itago ito. And they promised, they pinky swore, that they will keep it private, but if they did a search and found that you or I mention a foreign person, then suddenly it was fair game for them to do whatever they want with it.
Sa kabuuan, iyon ay naging isang mundo kung saan maaaring mangolekta ang pederal na pamahalaan ng anumang impormasyon na mangyayari sa labas ng US. Kahit na ito ay ganap sa pagitan ng dalawang tao sa US, kung binanggit nila o kahit na magpahiwatig ng isang tao na hindi isang tao sa US, biglang ito ay patas na laro na kolektahin. At mula roon ay nakuha namin ang tila isang anyo ng malawakang pagsubaybay sa mga tao sa US ng isang NSA na nag-aangkin at nagsasaad sa publiko na hindi ito nang-espiya sa mga tao sa US.
Paano tayo umabot sa puntong ito? Ito ay maraming incremental na hakbang ng sanggol. Nabanggit mo si James Clapper noong 2012, iyon ang administrasyong Obama. Nabanggit mo si Ronald Reagan, 1980s iyon. Dumadaan kami sa mga Democrat at Republicans dito.
Ang digmaan laban sa terorismo ay nangyari sa George W. Bush administration, at 9/11 at ang Patriot Act ay nangyari sa George W. Bush administration. Mayroong maraming mga incremental na masamang bagay sa ilalim ng mga pangulo ng parehong partido, sa ilalim ng mga kongreso ng parehong partido. Paano ito nangyari?
Ang pinakasimpleng anyo nito ay walang sinuman, at tiyak na walang presidente, ang gustong maging presidente sa panahon na mayroong malaking pag-atake ng terorista, dahil iyon ang nagpapasama sa kanila. Halatang gusto rin nilang protektahan ang mga Amerikano, di ba? Iyon ay bahagi ng kanilang trabaho. Kung mayroon kang isang intelligence community na karaniwang tumatakbo sa kadiliman dahil iyon ang ginagawa ng mga intelligence community at patuloy silang lumalapit sa iyo at sinasabing, "Hoy, kung makukuha lang natin ang impormasyong ito, talagang makakatulong ito sa pagpigil sa pag-atake ng terorista."
Maaaring may mga kaso kung saan totoo iyon, na magagamit ng intelligence community ang impormasyong ito sa paraang gumagana nang maayos. Ngunit tayo rin, sa teorya, ay isang lipunan ng mga batas na may Konstitusyon ng US na dapat nating sundin. Ngunit pinahihintulutan nito ang katotohanan na ang administrasyon pagkatapos ng administrasyon, muli, Republikano at Demokratiko, ay may mga abogado na napakatalino at titingnan at sasabihin, "Buweno, kung ganito ang ating posisyon o ipahayag natin ito sa paraang ito o bigyang-kahulugan natin ito, sa paraang iyon ay makukuha natin ang gusto natin at hindi teknikal na lumabag sa batas o hindi teknikal na lumalabag sa Ika-apat na Susog."
Ang palagay ay palaging, "Maaari nating ibaluktot ang batas o ibaluktot ang ating interpretasyon ng batas at walang sinuman ang talagang makakakita nito, o walang sinumang nagmamalasakit ang talagang makakakita nito, at samakatuwid ay malalampasan natin ito."
Mayroong dalawang bagay na talagang tumalon sa akin. Isa, ikaw at ako ay parehong nagbabasa ng maraming desisyon ng korte — mga desisyon ng korte sa paghahabol at mga desisyon ng Korte Suprema. At mayroong labanan sa ating Korte Suprema tungkol sa kung paano literal na bigyang-kahulugan ang mga salita sa ating mga batas at ating mga batas.
Hindi ako masyadong lalayo dito, ngunit sasabihin ko sa pangkalahatan ang ideya na dapat mo lang basahin ang mga salita sa pahina at gawin ang sinasabi nilang nangingibabaw na strain ng interpretasyon ayon sa batas sa Estados Unidos. Kaliwa o kanan, pareho nilang sinasabi. Nagtatalo sila tungkol sa ilang napaka esoteric na magagandang punto kung ano talaga ang ibig sabihin nito. Pero dapat lang na mabasa mo ang mga salitang ito at gawin ang sinasabi nila, hindi iyon basta-basta, di ba?
Nakarating na kami sa hindi bababa sa unang pass ng kung ano ang maaari mong gawintawag sa textualismo. Paano nalalayo ito ng mga abogado ng parehong administrasyon mula sa dominanteng paraan ng legal na pagdedesisyon sa ating bansa? Ang mga katarungan ng parehong partido ay parehong sumang-ayon na iyon ay hindi bababa sa unang hakbang.
Sana alam ko ang eksaktong sagot, pero sa tingin ko ito ay motivated reasoning, tama ba? Bilang isang abogado, nandiyan ka para ipagtanggol ang iyong kliyente at ang tagumpay — kung matatawag mo itong tagumpay — ng ating legal na sistema ay may posibilidad na nakabatay sa pagkakaroon ng isang adversarial na sitwasyon kung saan mayroon kang iba't ibang panig na nagtatalo sa mga bagay na ito, kung saan ang tungkulin ng tagahatol ay upang makitid at alamin kung aling panig ang talagang tama.
Ang isa sa mga problema sa komunidad ng katalinuhan at ang pag-setup nito ay na wala kang ganoong sitwasyon ng kalaban. Na ginagawang mas madali para sa isang panig na bigyang-katwiran ang argumento na kanilang ginagawa dahil walang sinuman ang talagang tumutulak dito. Pinagsama mo iyon sa labis na takot sa isa pang pag-atake ng terorista, anumang bagay na nauugnay sa pambansang seguridad, at kahit na mayroon kang mga sitwasyon kung saan mayroon kang hukuman ng FISA — Ibig kong sabihin, ang hukuman ng FISA ay medyo sikat sa pagiging epektibong rubber stamp sa loob ng maraming taon.
Nakalimutan ko ang eksaktong mga numero, ngunit ito ay tulad ng higit sa 99 porsiyento ng mga aplikasyon na pumunta sa FISA court upang payagan ang pagsubaybay sa ilang mga sitwasyon ay ipinagkaloob, at madaling sabihin na 99 porsiyento ay halatang sobra. Malinaw na ang mga nagdadala ng mga paghahabol sa korte, sila ay pumipili at pumipili. Hindi sila, para sa karamihan, nagdadala ng mga ganap na nakakabaliw na pag-aangkin. Ngunit kung wala ang kalaban na aspetong iyon at may napakalakas na motibasyon na grupo ng mga tao na nag-iisip, "Kailangan nating gawin ito," o sinabihan ng isang administrasyon, "Kailangan nating gawin ito," hahanap sila ng mga paraan upang gawin ito. At diyan ka matatapos sa paglipas ng panahon.
Mayroon bang sinumang kasangkot sa prosesong ito na nagising at nagsabi sa kanilang sarili, "Anak, nagawa nating muling tukuyin ang salitang 'target' upang sabihin ang anumang gusto natin"?
[Laughs] Malinaw na mayroon kang Ed Snowden, na nag-leak ng isang grupo ng mga dokumento. Mayroon kang John Napier Tye, na nagsulat ng isang piraso para sa The Washington Post noong 2014, na nagsiwalat ng interpretasyon ng Executive Order 12333, at sinabi na iyon ang tunay na isyu na dapat bigyang pansin. Mayroon kang ibang mga tao na nagsalita tungkol sa mga bagay na ito, ngunit para sa karamihan, ang mga taong kasangkot sa pagtatrabaho sa loob ng administrasyon sa mga bagay-bagay sa intelligence community ay binili sa pananaw ng intelligence community, na ang pangunahing layunin ay protektahan ang bansa mula sa isang bagay na masama. Ang pinakamahusay na paraan upang gawin iyon ay ang magkaroon ng maraming impormasyon hangga't maaari.
Madaling maging simpatiya sa argumento na, oo, ang pagkakaroon ng higit pang impormasyon ay maaaring magpapahintulot sa kanila na mahuli ang isang bagay nang mas maaga o makahanap ng isang bagay na mahalaga, ngunit, isa, maaaring hindi iyon totoo. Ang pagkuha ng masyadong maraming impormasyon ay malamang na kasing sama ng masyadong maliit na impormasyon dahil madalas nitong itago ang impormasyon na talagang kapaki-pakinabang, ang impormasyong talagang kailangan mo upang matukoy ang isang bagay.
Ngunit din, mayroon kaming isang U..S. Konstitusyon sa unang lugar at mayroon tayong mga dahilan kung bakit, sa teorya, hindi natin dapat payagan ang malawakang pagsubaybay nang walang posibleng dahilan. Bilang isang bansang naniniwala sa panuntunan ng batas, dapat nating mabuhay hanggang sa iyon, at kapag nangyari ang lahat ng bagay na ito sa kadiliman, malamang na makalimutan mo iyon.
Dinadala ako nito sa Anthropic. Pangunahing isang enterprise na kumpanya ang Anthropic. Magaling sila sa gobyerno, binuo nila ang mga kalamnan na iyon, may tauhan sila ng mga taong talagang bihasa sa ilan sa mga bagay na ito. Malinaw na tumingin sila kay Pete Hegseth na nagsasabing, "Gusto namin ang lahat ng legal na gamit," at bumaba sila ng dalawang antas ng interpretasyon at sinabing, "Well, ang iyong literal na paniniwala ay ang mga salitang ito ay hindi nangangahulugan sa kung ano ang sinasabi nila sa kanilang mga mukha. Kaya't 'lahat ng legal na paggamit' ay masyadong malaki, at gusto naming maglagay ng ilang mga guardrail partikular sa paligid ng malawakang pagbabantay."
Muli, ipapa-bracket ko ang mga autonomous na armas, na isa pang pulang linya, ngunit partikular sa mass surveillance, nandiyan si Dario Amodei na nagsasabing, "Masyado tayong magagawa. Masyadong mapanganib ito. Ito ay isang paglabag sa Ika-apat na Susog."
Ang tensyon doon ay "sinasabi mo na susunod ka sa mga batas na ito na nagsasabi ng isang bagay at ngayon, pagkatapos ng lahat ng oras na ito, ang ibig sabihin ng mga ito ay isang bagay na ganap na naiiba at hindi namin nais na maging bahagi nito." Iyon anglumaban. Gusto ko lang ikumpara iyon kay Sam Altman, na sumulpot para sabihing, "Gagawin namin ang lahat ng legal na gamit," at pagkatapos ay i-post ang mahabang mensaheng ito na parang, "Narito ang lahat ng batas na susundin namin."
Tila hindi alam ni Altman kung paano muling binigyang-kahulugan ng NSA ang mga bagay na ito at uri ng pagkuha para sa isang biyahe. At nagsimula na siyang maglakad pabalik — kahit na nagre-record kami, kumpiyansa ako na marami pang tweet at nagbago ang posisyon ng lahat. Ngunit dahan-dahan itong ibinalik ni Altman, ngunit tila ang OpenAI ay nakuha sa pagbabasa ng mga batas sa kanilang mukha at paniniwalaan ang kanilang sinabi. Ganyan din ba ang interpretasyon mo sa mga pangyayari?
Mayroong dalawang mga posibilidad, at iyon ang isa sa kanila. Ang isa ay na naglaro siya sa parehong paraan na nilalaro ng publiko sa loob ng maraming taon. Ang alternatibong teorya, at wala akong ideya kung alin sa mga ito ang totoo, ay siya o ang ilan sa mga abogado sa OpenAI - na sa tingin ko ay napakahusay at napakaraming kaalaman - ay alam ito, ngunit naisip na maaari nilang laruin ang parehong laro na nilalaro ng NSA sa loob ng ilang dekada, na hangga't sinasabi nila ang mga bagay na ito at pagkatapos ay sinasabi nila ang mga salita, ngunit hindi rin nila nabubunyag ang aktwal na mga interpretasyon, na maaari nilang ipaalam dito. Kaya lumabas si Sam sa pahayag na nagmumukhang "Nagkaroon kami ng eksaktong parehong mga pulang linya gaya ng ginawa ni Anthropic, at ang gobyerno ay mahusay sa bagay na iyon."
Sa katunayan, sa palagay ko sinabi ni Sam Altman na ang Anthropic ay may dalawang pulang linya at ang OpenAI ay may tatlo, at ang gobyerno ay ganap na maayos dito, at nag-iwan ng maraming tao na nagkakamot ng kanilang mga ulo. Ngunit sa palagay ko, maaaring hindi naunawaan ni Sam Altman at ng sinumang nakapaligid sa kanya kung paano gumagana ang mga bagay na ito sa pagsasanay, o ginawa nila, at ipinapalagay lang nila na hindi malalaman ng publiko at samakatuwid ay makakawala sila dito.
Ang isa pang bagay na pumapasok sa isip - muli, ang AI ay bago at ito ay nakatutukso na dumating sa mga bagong teknolohiya dahil ito ay mga problema ng mga unang impression. "Walang sinuman ang kailangang mag-isip tungkol dito dati," ngunit ang katotohanan ay ang lahat ay nag-iisip tungkol sa bagay na ito sa loob ng mahabang panahon. Marahil ang bagay na bago dito ay hindi AI, ngunit ang pangalawang administrasyong Trump, sa halip na gumawa ng isang grupo ng mga abogado na marahil ay walang sinuman ang magbabasa upang bigyang-katwiran ang kanilang mga aksyon sa isang lihim na hukuman na walang sinumang binibigyang pansin, sa halip ay hindi gaanong banayad.
Hindi sila ganoon ka-sopistikado at sinasabi lang nila na sila ay mag-espiya sa lahat ng tao sa lahat ng oras. Inanunsyo lang nila ang kanilang intensyon sa paraang baka lahat ng administrasyon ay ipahayag na lang ang kanilang intensyon at tingnan kung saan nahuhulog ang mga chips.
Ngunit tinitingnan ko ang katotohanang mayroong Ed Snowden dito sa New York City. Ang AT&T ay nagpapatakbo ng isang gusali na alam ng lahat na isang gusali ng NSA. Ito ay isang higanteng gusali lamang, at dapat tayong magpanggap na ito ay hindi isang NSA surveillance center, ngunit nariyan ito. Napakalaki nito. Wala sa mga iyon ay tila napunta sa anumang bagay. Ang lahat ng mga paghahayag na ito, ang mga pagtagas na ito, hindi namin ito nai-back off.
Sa katunayan, nadagdagan lamang ito dahil ang karamihan sa ating buhay ay naging digital. At marahil ang administrasyong Trump ay tulad ng isang mapurol na instrumento sa lahat ng oras, na maaaring aktwal na ang bagay na nagiging sanhi ng pagtutuos. Nakikita mo ba na naglalaro pa rin?
Mayroong ilang iba't ibang mga bagay doon, at hindi ganap na totoo na hindi pa namin nai-back off ang mga bagay na ito. Ang mga paghahayag mula kay Snowden ay humantong sa ilang pagbabago sa kung paano nangyayari ang mga bagay na ito. At mayroon na ngayon - nakalimutan ko kung ano ang tawag sa kanila, ngunit sila ay tulad ng mga sibil na amicus na mga tao sa loob ng hukuman ng FISA na magsisilbing pagtatanghal ng kabilang panig sa ilang mga isyu.
At nakita namin ang ilan sa mga awtoridad na limitado sa ilang partikular na paraan, at madalas silang pumupunta para sa muling awtorisasyon, at ang mga aktibista ay naging napaka-agresibo tungkol sa pagtulak at pagsisikap na maglagay ng higit pang mga guardrail. Ngunit sa mas malaking tanong, sa tingin ko mayroong dalawang magkaibang bagay. Ikaw ay kalahating tama na ang administrasyong ito ay hindi banayad at sinasabi lamang nang malakas ang mga bagay na hindi dapat.
"Kami ay nasa digmaan sa Iran, ginagawa namin ito, nangyayari ito. Ni hindi namin susubukan ang sayaw."
Sa mga paraan na hindi gagawin ng lahat ng nakaraang administrasyon. Ngunit hindi nila ito sinabi nang direkta tungkol sapagmamatyag, lalo na ang pagsubaybay sa mga Amerikano. May mga pahiwatig tungkol dito, ngunit hindi sila lumabas nang malakas tungkol doon. Ang iba pang kalahati nito ay may higit na kinalaman sa pagpoposisyon ng Anthropic at sa pangkalahatang pananaw ng AI bilang posibleng umiiral na teknolohiya, kung saan ang Anthropic ay palaging nagpapakita ng sarili bilang, "Kami ang maalalahanin na mabubuting tao," at kung naniniwala ka o hindi na ito ay uri ng bukod sa punto. Mayroon silang ganitong reputasyon doon: "Sinusubukan naming gawin ito sa paraang ligtas, na iginagalang ang sangkatauhan at binibigyang pansin ang lahat ng mga bagay na ito." At kaya kapag mayroon kang pag-aaway, doon papasok ang pakikibaka.
Mayroon kang isang administrasyong Trump na nais lamang na magawa ang anumang nais nitong magawa, at hindi sila banayad tungkol doon. At pagkatapos ay mayroon kang Anthropic, na ang paglalarawan sa sarili at ang pampublikong katauhan nito ay palaging tulad ng, "Kami ay maalalahanin at iginagalang namin ang sangkatauhan at mga karapatan at lahat ng mga bagay na ito." Malamang na kung saan dumating ang sagupaan, dahil ang Anthropic, tulad ng ginawang malinaw, ay nagtrabaho sa Departamento ng Depensa ng ilang sandali at may maraming iba pang mga kontrata sa gobyerno na ginamit nito. Hindi ito naging problema.
Sa mga partikular na lugar lamang na ito kung saan, habang hinahangad ng gobyerno na palawakin ang kontrata na mayroon ito, nagsimulang sabihin ng nakatataas na pamunuan ng Anthropic, "Sandali, kailangan nating tiyakin na hindi tayo tumatawid sa mga pulang linyang ito na posibleng makapinsala sa ating reputasyon bilang maalalahanin, ligtas na tagapagbigay ng AI."
Nais kong maikli na tanungin ka tungkol sa pagsubaybay sa pangkalahatan, at sa partikular na pag-aalala sa Ika-apat na Susog ng Anthropic. Sinasabi ng Ika-apat na Susog na hindi ka maaaring hanapin ng gobyerno nang hindi makatwiran. Ang pinakamahusay na paraan upang maunawaan ang Ika-apat na Susog ay sa pamamagitan ng pakikinig sa "99 Problema" ni Jay-Z. Kaya kung kailangan mong magpahinga at makinig sa "99 Problems," maganda iyon. Nasa loob na ang lahat. Pinakinggan ko ito noong ako ay nasa paaralan ng batas at ito ay may perpektong kahulugan.
Ngunit ang gobyerno sa pangkalahatan ay nangangailangan ng isang warrant upang maghanap sa iyo. At habang parami nang parami ang iyong buhay na napupunta online, marami at maraming mga pagbubukod dito. Ngunit ang ideya ay kailangan pa rin nila ng warrant online. Ang argumento ni Anthropic ay, "Buweno, hinding-hindi mapapagod ang AI. Maaari nitong hanapin ang lahat sa lahat ng oras. Ibig sabihin, gagawa lang tayo ng master surveillance."
Ngunit bago pa man lumitaw ang AI, ang ideya na maaaring hanapin ng gobyerno ang lahat ng pag-aari mo ay nasa labas na, ang ideya na hindi kailangan ng gobyerno ng warrant para hanapin ang lahat ng iyong gamit ay nasa labas. Ang ideya na kung ang alinman sa iyong data ay napunta sa labas ng bansa sa isang maikling segundo, naharang ito ng gobyerno doon,
Noong nasa kolehiyo ako, noong panahon ng Patriot Act, ang debate ay hindi nila hahanapin ang iyong aktwal na data, ngunit maaari nilang makuha ang metadata at ang metadata nang mag-isa. Ang data tungkol sa iyong data ay magiging sapat upang tumpak na mahanap ka sa lahat ng oras. At kahit na ito ay masyadong malayo. At ginagawa na natin itong sayaw na ito kung ano ang makokolekta ng gobyerno? Ano ang pinahihintulutan? Ano ang kailangan nila para mapanatiling ligtas tayong lahat at ano ang napakalayo? Lumipat na ang mga linyang iyon.
Kaya maikling ilarawan ang pangkalahatang alalahanin tungkol sa pagsubaybay sa sukat at kung nasaan tayo ngayon. Bago ang sitwasyon ng AI ay ginawa ang lahat ng exponentially mas kumplikado.
Dito kailangan kong ipakilala ang isa pang konsepto na marahil ay dapat na nabanggit nang mas maaga, ngunit ito ay mahalaga, na tinatawag na "third-party na doktrina." Ang ideya sa Ika-apat na Susog ay hindi ka mahahanap ng gobyerno o ang iyong mga bagay nang walang warrant at hindi ito makakakuha ng warrant nang walang posibleng dahilan na nakagawa ka ng isang uri ng krimen. Ngunit may ganitong konsepto na dumating mga dekada na ang nakalipas na tinatawag na third-party na doktrina, na nagsasabing hindi iyon nalalapat, o hindi talaga nalalapat, sa mga bagay na hindi sa iyo, kahit na ito ay iyong data.
Ang pinakauna at pinaka-halatang bersyon nito ay ang mga tala ng telepono na mayroon ang kumpanya ng telepono kung sino ang tinawagan mo. Hindi nire-record ng mga kumpanya ng telepono ang iyong mga tawag, ngunit nire-record nila kung tatawagan kita, magkakaroon ng record sa kumpanya ng telepono na nagsasabing, "Tinatawagan ni Mike si Nilay." At kung ano ang natukoy ng maraming korte ay maaaring pumunta ang gobyerno at hilingin iyon, at hindi nila kailangan ng warrant para doon dahil hindi ito paghahanap ngiyong data, ito ang ikatlong partido at maaari silang sumang-ayon bilang isang third party na ibigay lang ang data na iyon.
Ngunit ang mga iyon ay mga kaso mula noong 1960s at 70s, kung saan natukoy na ang gobyerno ay makakakuha ng access doon nang walang warrant, kapag walang gaanong data ng third-party doon. Ang pagtaas ng mga computer at internet ay nagbago nito. Ngayon, ang lahat ay third-party na data. Lahat ng ginagawa namin ay kinokolekta ng ilang kumpanya sa isang lugar at may rekord nito. Kaya karaniwang bawat bit ng data tungkol sa iyo, kung nasaan ka, kung sino ang kausap mo, kung sino ang iyong nakikipag-ugnayan, kung ano ang iyong sinasabi, kung ano ang iyong ginagawa, lahat ng iyon ay halos hawak ng mga third party sa mga araw na ito. Kaya't ang doktrina ng ikatlong partido ay nilamon ang buong Ika-apat na Susog sa ilang lawak, kung saan ang anumang bagay na tungkol sa iyo na mayroon ang ibang tao, mayroong isang mas mababang pamantayan para sa kung ano ang magagawa ng gobyerno para hilingin ito.
Para maging partikular, nangangahulugan ito na kapag nasa iCloud ang aking data, maaaring pumunta ang gobyerno sa Apple at kunin ang aking data sa iCloud nang hindi sinasabi sa akin?
Maaari nilang hilingin ito. Madali nilang hihilingin ito nang walang warrant. Kung gayon ang kumpanya ay may sariling mga karapatan at maaaring matukoy kung ano ang gusto nilang gawin sa kahilingang iyon. Pwede namang isuko na lang nila. Maaari nilang, gaya ng gagawin ng karamihan sa kanila, kung ito ay seryosong kahilingan, tanggihan ang mga kahilingan nang walang kamay o maaari nilang alertuhan ka at masasabi nila — at ito ang gagawin ng karamihan sa kanila — aalertuhan ka nila at sasabihing, "Humihiling ang gobyerno ng ilan sa iyong data. Maaari kang pumunta sa korte at subukang harangan sila." Kung hindi, ibibigay nila ang iyong data sa loob ng pitong araw o anuman ito.
Muli, depende ito. Kung isa itong pagsisiyasat na kriminal, maaaring mayroong isang uri ng gag order kung saan hindi pinapayagang sabihin sa iyo ng kumpanya. Mayroong lahat ng uri ng mga sitwasyon, ngunit karamihan sa mga ito ay nagsasangkot ng mas mababa kaysa sa antas ng proteksyon na kakailanganin ng Ika-apat na Pagbabago kung ito ay data o anumang impormasyon o anumang bagay sa iyong sariling tahanan.
Ang dami ng data na mayroon ka sa cloud server ng ibang tao ay napakalaki, tama ba? Bawat isang bagay na ginagawa mo sa pangkalahatan sa internet ngayon ay naka-back up sa ilang paraan o naitala sa ilang paraan sa mga server ng ibang tao. Natagpuan ng gobyerno ang ganitong paraan upang makalibot sa Ika-apat na Susog at sabihin, "Buweno, hindi talaga sa iyo iyan. Pag-aari ito ng Amazon. Maaari tayong makipag-usap sa Amazon," at kailangang tumayo ang Amazon sa gitna ng prosesong iyon at sabihin, "Nag-imbento kami ng isa pang proseso upang medyo protektahan ang mga tao."
Tinitingnan ko iyon-at noong sinasaklaw ko ang unang mga kaso ng doktrina ng third-party na sumasaklaw sa mga serbisyo ng cloud at patuloy na nanalo ang gobyerno, iyon talaga noong naging Joker ako. Ako ay tulad ng, "Lahat ng mga bagay na ito na kami ay nagpapanggap tungkol sa textualism at ang simpleng [pagbabasa], wala sa mga ito ay nangangahulugan ng anuman dahil kami lamang ang lakas-kabayo sa backdoor gamit ang sinaunang batas na ito sa data ng lahat."
At pagkatapos ay tumingin ako dito at tumingin ako sa Anthropic at sinasabi ko, "Buweno, ito ang parehong pattern." Ito ay isang pribadong kumpanya na nagsasabing, "Okay, naiintindihan namin ang iyong posisyon. Nauunawaan namin na muli mong binibigyang kahulugan ang batas na ito ang ibig sabihin, at maglalagay kami ng ilang proseso sa pagitan mo, ng aming tool, at ng data ng mga Amerikano na dumadaloy sa aming serbisyo." Nagtataka lang ako kung nakikita mo ang parallel doon, sa pagitan ng Anthropic at Amazon at Azure at anumang iba pang mga serbisyo sa cloud na umiiral na mayroong napakaraming data.
Oo, kahit na mayroong ilang mga paglilinaw na mahalaga dito na ginagawa itong medyo naiiba. At sa katunayan — sa palagay ko ang New York Times ang unang nagkaroon ng pag-uulat na ito — ang pangunahing sugnay na pinakamahalaga sa Anthropic ay partikular na tungkol sa data na nakolekta mula sa mga komersyal na serbisyo at hindi magagamit si Claude sa data na iyon, na eksaktong isyu na ito sa mga tuntunin ng data ng third-party. Ngunit gusto kong linawin ang pangunahing pagkakaiba sa pagitan ng pinag-uusapan natin bago ito sa Amazon o iba pang mga third party na nagho-host ng iyong data, iyon ay mga kaso kung saan sila naroroon, dahil sa kung saan sila nakaupo sa ecosystem, direkta silang nagho-host ng iyong data.
Kasama si Claude, hindi ito nag-aalala tungkol sa NSA na tumitingin sa iyong paggamit ni Claude. Ito ay tungkol sa kanilang paglabas at pagkuha ng data ng third-party mula sa Amazon o mas malamang ang uri ng palihim, nakatagong data broker na naghahatid ng mga ad sa iyong mga telepono at alam ang iyong lokasyon at ang iyong mga interes at mga bagay na tulad niyan. At pagkatapos ay pinapakain iyon sa isang sistemana gagawin ni Claude. Iyan ang talagang ayaw ni Anthropic na maging bahagi. Kaya kahit saan o gayunpaman ay kolektahin ng gobyerno ang data na iyon mula sa isang third party, sinabi ni Anthropic, "Hindi namin gustong gamitin ang aming tool sa data na iyon."
Ang Apple ay tanyag na tumayo sa FBI na humihiling na maglagay ito ng backdoor sa iPhone, at sinabi ng Apple na "hindi," at tumayo sila kay Trump. At may bahagi kung paano gumagana ang aming system kung saan ang malalaking pribadong kumpanya ay maaaring magsabi ng "hindi" sa gobyerno sa ngalan ng kanilang mga customer. At ito ay naramdaman sa parehong paraan na ang Apple, muli, ay hindi ilalagay ito sa backdoor sa iPhone, o ang malalaking cloud provider ay nagsasabi, "May kaunting proseso na kailangan mong lampasan bago mo makuha ang indibidwal na data."
Dito, tila sinasabi ni Anthropic, "Hindi lang kami gagawa ng maramihang pagsusuri ng data na nakuha mo mula sa ibang mga partido dahil humahantong iyon sa 24/7 mass surveillance ng mga Amerikano, at hindi namin gustong gawin iyon." Ngunit iyon ay tila isang tulay na napakalayo para sa administrasyong ito. May babalikan pa ba yan?
makikita natin. Noong nakaraan kapag nangyari iyon - at nangyari ito ng maraming beses sa karamihan ng malalaking kumpanya ng teknolohiya, sa isang punto ay sinabi nila na ang isang bagay ay isang tulay na masyadong malayo - kung saan iyon ay karaniwang napupunta ay sa korte. Ang mga kumpanya ay pupunta sa korte o ang administrasyon ay pupunta sa korte at magkakaroon ng isang uri ng labanan sa korte.
Ang backdoor sa iPhone ay isang perpektong halimbawa nito. Napunta ito sa korte at ipinaglaban nila ito, kahit na hindi pa sila nakakakuha ng konklusyon dahil sa kalaunan ay manu-manong nasira ng FBI ang iPhone at pagkatapos ay hindi nais na sirain iyon ng desisyon ng korte sa hinaharap.
Ngunit sa kasong ito, kung saan ang pagtaas at kung saan ito ay naiiba sa mga nakaraang sitwasyon ay na sa halip na pumunta lamang sa korte, ginawa ng administrasyong Trump ang pagtatalagang ito na "supply-chain risk", na nakakabaliw. Ang ideyang ito na ang tool na ito na idinisenyo upang pigilan ang mga potensyal na dayuhang malisyosong aktor sa pagbibigay ng teknolohiya, na maaaring maglagay ng mga nakatagong tool sa pagsubaybay sa mas malaking stack ng teknolohiya, na maaaring ipagbawal ang mga iyon. Para ilapat iyon sa isang kumpanyang nakabase sa US para sa pagkakaroon ng patakaran sa etika ay parang tunay, totoong maling paggamit ng tool na iyon.
Kahit na ang tool na iyon ay kaduda-dudang sa ilang paraan, ngunit mauunawaan mo ang impetus sa likod nito kapag pinag-uusapan mo ang tungkol sa isang Chinese networking firm o isang bagay sa mga linyang iyon. Dito, walang saysay. Kaya't ang reaksyon dito ay higit pa sa karaniwang makikita sa kasong ito. Maaari mong makita ayon sa kaugalian na magkakaroon ng isang uri ng kaso sa korte at maaaring simulan ito ng magkabilang panig at ito ay magiging isang labanan lamang tungkol sa kung paano mailalapat ang kontrata.
Ngunit hindi iyon ang nangyayari dito. Epektibong sinasabi ng administrasyong ito, "Kung hindi mo talaga ibibigay sa amin ang lahat ng gusto namin, kung hindi mo ise-set up ang iyong mga tool para gumana sa paraang gusto naming gumana ang mga ito, epektibong susubukan naming sirain ang iyong buong negosyo." At iyon ay isang pagtaas.
May isang piraso nito na gusto kong tapusin, at ito ang uri ng pinaka-galaxy-utak na bersyon nito. Ang FIRE, na isang grupo ng pagtataguyod ng libreng pagsasalita, ay naglabas ng isang post sa blog bago pa lang namin simulan ang pag-record sa paggawa ng argumento na ang pagpilit sa Anthropic na bumuo ng mga tool na ayaw nitong buuin ay isang paglabag sa malayang pananalita, na ito ay tinatawag na sapilitang pananalita. Maraming kasaysayan dito. Mayroong ilang malalim na Verge at Techdirt, in-the-weeds, existential-crisis history dito.
Ngunit ito ay karaniwang nagmumula sa ideya na ang code ay pagsasalita, na ang pagsulat ng code para sa isang computer ay isang anyo ng pagsasalita at hindi ka maaaring pilitin ng gobyerno na gawin ito, at ang isang buong grupo ng mga bagay ay dumadaloy mula doon. Binili mo ba ang argumentong ito na ang pagpilit sa Anthropic na bumuo ng mga tool na ayaw nitong buuin ay sapilitang pagsasalita?
Oo, sa tingin ko ito ay medyo nakakahimok. Mapilit na mapilit na pananalita. Ngunit hindi, sa palagay ko ito ay isang kawili-wiling argumento. Ito ay isa na medyo malayo sa listahan ng mga isyu na iniisip ko. Malinaw na mas nakatuon ako sa mga isyu sa Ika-apat na Susog, ngunit sa palagay ko ay hindi mali ang argumento ng FIRE. Nakita natin ito sa ibang mga konteksto. Dumating din ito sa isyu sa backdoor, sa mga tuntunin ng pagsubok na bumuo ng mga backdoor sa mga naka-encrypt na system.
Ang mga kumpanya ay tiyak na itinaas ang UnaInaangkin ng susog, na nagsasabing, "Napipilitang pagsasalita upang pilitin kaming sumulat ng ganoong uri ng code." Ito ay isang wastong argumento. Maaaring, muli, ang isa na ang mga korte ay malamang na hindi gaanong handang harapin sa simula kung maaari nilang harapin ang mga isyung ito sa ibang paraan. Ngunit natutuwa ako na ginawa ng FIRE ang post na iyon at sa tingin ko ito ay isang kawili-wili at nakakahimok na argumento.
Oo, ito ay likas na katangian lamang ng pangalawang administrasyon ng Trump na ito ay isang mapurol na instrumento, halos tiyak na aatakehin natin ang lahat ng mga isyu nang sabay-sabay.
Oo, ang bawat pag-amyenda sa Bill of Rights ay kailangang hamunin sa ilang anyo o iba pa sa bawat posibleng isyu.
[Laughs] Paikutin ang gulong.
Sigurado akong maaari tayong magkasya sa isang paglabag sa Third Amendment sa isang lugar dito.
Oo naman. Kailangang tumira si Claude sa bahay mo ngayon. Eksakto. Ito ay magiging mahusay. Gumagawa kami ng [amendments] isa, tatlo, apat, at pito. Pinaghahampas namin sila.
Mike, ito ay naging mahusay. Hindi ako makapaniwala na hindi ka pa nakapunta sa palabas. Ito ay naging mahusay. Kailangan mong bumalik kaagad.
Talagang. Sa tuwing gusto mo ako.
Mga tanong o komento tungkol sa episode na ito? Puntahan kami sa decoder@theverge.com. Talagang binabasa namin ang bawat email!
