Dziś mówimy o chaotycznej, szybko rozwijającej się sytuacji w firmie Anthropic, twórcy Claude’a, która obecnie toczy bardzo paskudną batalię prawną z Pentagonem.
Ta wymiana zdań jest skomplikowana, ale kilka dni temu Pentagon uznał Anthropic za ryzyko w łańcuchu dostaw, a Anthropic złożył pozew kwestionując to oznaczenie, twierdząc, że rząd naruszył prawa wynikające z Pierwszej i Piątej Poprawki, „próbując zniszczyć wartość ekonomiczną stworzoną przez jedną z najszybciej rozwijających się prywatnych firm na świecie”. Mogę ci już teraz powiedzieć: w nadchodzących miesiącach będziemy rozmawiać o zwrotach akcji w tej sprawie w The Verge i tutaj, w Decoder.
Ale dzisiaj chciałem poświęcić chwilę i naprawdę zagłębić się w jeden bardzo ważny element tej sytuacji, któremu nie poświęcono wystarczającej uwagi, ponieważ wymknęła się ona spod kontroli: w jaki sposób rząd Stanów Zjednoczonych prowadzi inwigilację, organ prawny, który pozwala na taką inwigilację oraz dlaczego firma Anthropic nie ufała rządowi, twierdząc, że będzie postępował zgodnie z prawem, jeśli chodzi o wykorzystanie sztucznej inteligencji do jeszcze większej inwigilacji.
Abonenci Verge, nie zapomnijcie, że macie wyłączny dostęp do dekodera bez reklam, gdziekolwiek odbieracie swoje podcasty. Kieruj się tutaj. Nie jesteś subskrybentem? Możesz zarejestrować się tutaj.
Moim dzisiejszym gościem jest Mike Masnick, założyciel i dyrektor generalny Techdirt, doskonałej i działającej od dawna witryny poświęconej polityce technologicznej. Mike od dziesięcioleci pisze o nadmiernych działaniach rządu, prywatności w epoce cyfrowej i innych powiązanych tematach. Jest ekspertem w dziedzinie powiązanych ze sobą sposobów rozwoju Internetu i państwa inwigilacyjnego.
Widzisz, jest to, co prawo mówi, że rząd może zrobić, jeśli chodzi o inwigilowanie nas, i co rząd chce zrobić. A co najważniejsze, rząd twierdzi, że może zrobić to, co mówi prawo, co często jest dokładnym przeciwieństwem tego, co pomyślałaby każda normalna osoba, która po prostu czyta prawo.
W tym odcinku usłyszysz, jak Mike szczegółowo wyjaśnia, że nie możemy – i nie powinniśmy – wierzyć rządowi USA na słowo, jeśli chodzi o inwigilację. Zbyt często zdarza się, że prawnicy rządowi przekręcają interpretacje prostych słów, takich jak „cel”, aby rozszerzyć nadzór w skomplikowany sposób – w sposób, który zwykle budzi jedynie obawy w kręgach prawniczych i pojawia się dopiero w przypadku ogromnych kontrowersji, takich jak główne rewelacje ujawnione przez NSA sygnalisty Eda Snowdena ponad dziesięć lat temu.
Ale w epoce Trumpa nie ma nic subtelnego ani wyrafinowanego w kształtowaniu polityki – dlatego w przypadku Anthropic toczymy bardzo głośną, bardzo publiczną debatę na temat technologii i nadzoru w czasie rzeczywistym, w Internecie, we wpisach na blogach i tyradach X, a także podczas konferencji prasowych. Są tego pozytywne i negatywne strony, ale żeby to wszystko zrozumieć, naprawdę trzeba poznać historię.
Właśnie to Mike i ja postanowiliśmy wyjaśnić w tym odcinku — niezależnie od twoich poglądów na temat sztucznej inteligencji i rządu, ten odcinek wyjaśni, że obie strony pozwoliły, aby państwo inwigilacji z czasem stawało się coraz większe. Teraz jesteśmy u progu największego jak dotąd rozwoju sztucznej inteligencji.
OK: założyciel i dyrektor generalny Techdirt Mike Masnick o Anthropic, Pentagonie i inwigilacji AI. Zaczynamy.
Wywiad ten został lekko zredagowany pod kątem długości i przejrzystości.
Mike Masnick, jesteś założycielem i dyrektorem generalnym Techdirt. Witamy w Dekoderze.
Cieszę się, że tu jestem.
Jestem podekscytowany, że cię mam. Mówiłem tylko, że jestem zszokowany, że nigdy wcześniej nie byłeś w programie. Ty i ja pisaliśmy i publikowaliśmy między sobą przez długi czas. Duża część polis The Verge ma dług po tym, czego zrobiłeś w Techdirt, a to, co dzieje się z Anthropic, jest tak skomplikowane, ale dotyka tak wielu tematów, którymi zajmowałeś się tak długo. Cieszę się, że w końcu tu jesteś.
To skomplikowany temat, ale cieszę się, że mogę go zgłębić.
To, na czym chcę się z wami skupić, to nie szczegóły tego, czy Anthropic podpisze kontrakt z rządem, czy OpenAI otrzyma ten kontrakt. Zamiast tego jestem pewien, że pomiędzy momentem, w którym to nagramy, a momentem, w którym ludzie tego słuchają, będzie więcej tweetów i więcej rzeczy będzie innych niż wcześniej.
Chcę się skupić na jednej z dwóch czerwonych linii, które tak naprawdę wyznaczyła firma Anthropic. Jednym z nich jestbroń autonomiczną, co stanowi jej własny poziom komplikacji. Tamtejsze prawo jest nieco bardziej rodzące się, niezależnie od tego, czy broń w ogóle istnieje, czy też została już użyta przez Rosję podczas wojny na Ukrainie.
Jest tu wiele pomysłów, które chcę po prostu odłożyć na bok, ponieważ myślę, że zostaną one bardziej skupione na swoim własnym harmonogramie. Drugą czerwoną linią, której naprawdę chcę poświęcić dużo czasu, jest masowa inwigilacja. Jest tu sporo przepisów dotyczących masowej inwigilacji. Jest wiele historii, wiele kontrowersyjnych historii. Cała postać Edwarda Snowdena istnieje z powodu kontrowersji wokół masowej inwigilacji.
Wszystko sprowadza się do – myślę, że to ty to opublikowałeś – Agencji Bezpieczeństwa Narodowego (NSA), która jest częścią Departamentu Obrony, który z jakiegoś powodu musimy teraz nazwać Departamentem Wojny.
[śmiech] Nie musimy nic robić.
[śmiech] Nie. To prawda tutaj, w Ameryce. Nie musimy nic robić. Jednak NSA zasadniczo na nowo zdefiniowała znaczenie wielu słów w potocznym języku angielskim: „Możemy po prostu prowadzić inwigilację”. A potem co jakiś czas dochodzi do skandalu, gdy ludzie odkrywają, że po prostu nadzorują. Więc po prostu przygotujcie scenę i nie chcę was przewijać do końca, ale minęło sporo czasu, gdy ten schemat się powtarzał.
To zależy od tego, jak głęboko chcesz sięgnąć, ale najkrótsza wersja jest oczywiście taka, że w świecie po 11 września Stany Zjednoczone uchwaliły Patriot Act, który dawał rządowi pewne możliwości zaangażowania się w inwigilację, która miała chronić nas przed przyszłymi zagrożeniami terrorystycznymi. Z biegiem czasu zaczęto to interpretować na ciekawe sposoby i istniały pewne ograniczenia. Mieliśmy także sąd FISA, który jest sądem specjalnym, który ma kontrolować środowisko wywiadowcze i jego działalność, ale tradycyjnie był sądem jednostronnym. Tylko jedna strona może przedstawić swoją sprawę przed sądem i wszystko odbywa się w tajemnicy.
Jest wiele rzeczy, o których nie było wiadomo. Jest jeszcze jeden element tego wszystkiego, który sięga aż do Ronalda Reagana, a mianowicie rozporządzenie wykonawcze nr 12333, które rzekomo określa zasady gromadzenia danych wywiadowczych.
Mamy więc te trzy zestawy przepisów – cóż, kilka zestawów przepisów – i rozporządzenie wykonawcze, które dla opinii publicznej – te fragmenty, które możesz przeczytać – wydają się mówić pewne rzeczy na temat tego, co nasz rząd, a w szczególności NSA, może zrobić w zakresie inwigilacji. Czytając to ze zwykłym słownikiem języka angielskiego, którego naturę prawdopodobnie posiadamy i rozumiemy, doszlibyśmy do przekonania, że zdolność NSA do inwigilowania Amerykanów jest bardzo ograniczona, w rzeczywistości do tego stopnia, że powinna to zrobić, jeśli zda sobie sprawę, że inwigiluje osobę z USA, że powinna natychmiast przestać, krzyknąć obelgi i usunąć dane i wszystkie inne rzeczy.
Przez jakiś czas krążyły pogłoski, że tak się nie dzieje naprawdę i pojawiały się wskazówki, a w szczególności senator Ron Wyden bardzo głośno wypowiadał się na temat wystąpienia na parkiecie Senatu i powiedzenia: „Coś tu jest nie tak i nie do końca mogę powiedzieć co” lub podczas przesłuchań zadawał urzędnikom wywiadu: „Czy gromadzicie masowe dane o Amerykanach, czy nie?”
Urzędnicy ci albo odstąpiliby od tej propozycji, albo w niektórych przypadkach po prostu kłamali. Wydaje mi się, że było to jedno przesłuchanie w 2012 r. z Jamesem Clapperem, wówczas dyrektorem wywiadu narodowego, podczas którego zapytano go bezpośrednio w tej kwestii. I w zasadzie powiedział: „Nie, nie zbieramy danych o Amerykanach”. To w dużej mierze zainspirowało Eda Snowdena do ujawnienia danych – doniesienia, które przekazał Glennowi Greenwaldowi, Bartonowi Gellmanowi i Laurze Poitras. Z tego wszystkiego zaczęliśmy odkrywać, że NSA ma swój własny słownik, który różni się nieco od słownika, którego używamy ty i ja, w taki sposób, że może interpretować słowa w sposób inny niż ich zwykłe angielskie znaczenie, w tym słowa takie jak „target”, które wydają się słowem kluczowym. Szerokie zrozumienie tego jest takie, że teoretycznie mają one być skierowane wyłącznie do osób, które nie są obywatelami USA, tak mi się wydaje.
Jednak z biegiem czasu interpretowano to tak, że wszystko, co wspomina o tej osobie, wszystko, co dotyczy obcej osoby, jest teraz uczciwą grą, nawet jeśli jest to komunikacjaOsoba z USA. Jeśli więc ty i ja mielibyśmy wysłać do siebie SMS-a i wspomnieć o obcokrajowcu, byłoby to teraz uczciwe dla NSA, aby je zebrać, zatrzymać i przechowywać.
Jest druga część tego. Wspomniałem o pierwszym rozporządzeniu wykonawczym nr 12333 wydanym przez Ronalda Reagana, które w miarę zmieniania się technologii i rozwoju Internetu skutecznie umożliwiało NSA korzystanie z komunikacji zagranicznej, ale obejmowało to wszelką komunikację, która mogła gdzieś opuścić Stany Zjednoczone. Jeśli więc napiszę do Ciebie SMS-a i wiadomość zostanie wysłana przeze mnie z Kalifornii za pośrednictwem kabla światłowodowego i przypadkowo opuści USA, NSA może podpiąć tę część, gdy znajdzie się ona poza Stanami Zjednoczonymi, i zebrać te informacje, nawet jeśli miała ona trafiać tylko do Ciebie na terenie USA.
NSA mogłaby następnie zachować te informacje, nawet jeśli dotyczyły osób z USA, i mogłaby później przeprowadzić szczegółowe wyszukiwania na ten temat, czasami określane jako „przeszukiwanie tylnymi drzwiami”. Zebrali informacje, których naszym zdaniem nie powinni w ogóle zbierać, ale mogli je zatrzymać. I obiecali, przysięgali na mały palec, że zachowają to dla siebie, ale jeśli przeszukają i odkryją, że ty lub ja wspominaliśmy o obcej osobie, to nagle uznali, że mogą zrobić z tym, co im się podoba.
W sumie powstał świat, w którym rząd federalny może w zasadzie gromadzić wszelkie informacje, które mają wpływ poza USA. Nawet jeśli sprawa jest wyłącznie pomiędzy dwiema osobami z USA, jeśli wspominają lub nawet sugerują o kimś, kto nie jest obywatelem USA, nagle zbieranie informacji jest uczciwą grą. Stąd otrzymaliśmy coś, co wydaje się być formą masowej inwigilacji osób z USA przez NSA, która twierdzi i publicznie stwierdza, że nie szpieguje osób z USA.
Jak dotarliśmy do tego punktu? To wiele małych kroków. Wspomniałeś Jamesa Clappera w 2012 roku, to administracja Obamy. Wspomniałeś Ronalda Reagana, to były lata 80. Przechodzimy tutaj przez Demokratów i Republikanów.
Wojna z terroryzmem miała miejsce za administracji George'a W. Busha, a 11 września i Patriot Act miały miejsce za administracji George'a W. Busha. Pod rządami prezydentów obu partii, podczas kongresów obu partii dzieje się wiele złych rzeczy. Jak to się stało?
Najprostsza forma jest taka, że nikt, a już na pewno żaden prezydent, nie chce być prezydentem w czasie dużego ataku terrorystycznego, bo to stawia go w złym świetle. Oczywiście chcą także chronić Amerykanów, prawda? To część ich pracy. Jeśli masz społeczność wywiadowczą, która w zasadzie działa w ciemności, bo tak właśnie robią społeczności wywiadowcze, i przychodzą do ciebie i mówią: „Hej, gdybyśmy tylko mogli uzyskać dostęp do tych informacji, byłoby to naprawdę pomocne w zapobieganiu atakowi terrorystycznemu”.
Mogą zaistnieć przypadki, gdy to prawda i społeczność wywiadowcza będzie w stanie wykorzystać te informacje w skuteczny sposób. Ale teoretycznie jesteśmy także społeczeństwem prawa z amerykańską konstytucją, której powinniśmy przestrzegać. Ale to pozwoliło na fakt, że administracja za administracją, znowu Republikanów i Demokratów, miała prawników, którzy byli bardzo bystrzy, którzy przejrzeli wszystko i mówili: „No cóż, jeśli zajmiemy takie stanowisko, stwierdzimy w ten sposób lub zinterpretujemy to, w ten sposób możemy uzyskać to, czego chcemy, bez technicznego łamania prawa lub technicznego naruszania Czwartej Poprawki”.
Założenie było zawsze takie: „Możemy w pewnym sensie nagiąć prawo lub naszą interpretację prawa i nikt tak naprawdę nigdy tego nie zobaczy lub nikt, kogo to obchodzi, tak naprawdę nigdy tego nie zobaczy, więc ujdzie nam to na sucho”.
Są dwie rzeczy, które naprawdę rzucają mi się w oczy. Po pierwsze, oboje czytamy wiele orzeczeń sądów – orzeczeń sądów apelacyjnych i orzeczeń Sądu Najwyższego. W naszym Sądzie Najwyższym toczy się spór o to, jak dosłownie interpretować słowa zawarte w naszych statutach i naszych prawach.
Nie będę się w to zagłębiać, ale ogólnie powiedziałbym, że pogląd, że należy po prostu przeczytać słowa na stronie i postępować zgodnie z nimi, jest dominującą odmianą interpretacji ustawowej w Stanach Zjednoczonych. Lewica czy prawa, obaj to mówią. Kłócą się o pewne bardzo ezoteryczne szczegóły tego, co to właściwie oznacza. Ale to, że powinieneś po prostu móc przeczytać te słowa i zrobić to, co mówią, nie jest do przyjęcia, prawda?
Wylądowaliśmy przynajmniej na pierwszym przejściu tego, co możesznazwać tekstalizmem. Jak prawnicy obu administracji odchodzą tak daleko od dominującego w naszym kraju sposobu podejmowania decyzji prawnych? Sędziowie obu stron są zgodni, że to przynajmniej pierwszy krok.
Chciałbym znać dokładną odpowiedź, ale myślę, że jest to motywowane rozumowanie, prawda? Jako prawnik jesteś po to, aby bronić swojego klienta, a sukces – jeśli można to nazwać sukcesem – naszego systemu prawnego zwykle opiera się na sytuacji kontradyktoryjnej, w której różne strony kłócą się o te kwestie, a rolą arbitra jest zawężenie zakresu kwestii i ustalenie, która ze stron ma faktycznie rację.
Jednym z problemów związanych ze społecznością wywiadowczą i jej strukturą jest to, że nie ma takiej wrogiej sytuacji. Dzięki temu jednej stronie łatwiej jest uzasadnić wysuwaną przez siebie argumentację, ponieważ nikt tak naprawdę jej nie odpiera. Łączy się to z nadrzędnym strachem przed kolejnym atakiem terrorystycznym, wszystkim, co ma związek z bezpieczeństwem narodowym, a nawet w sytuacjach, w których mamy do czynienia z sądem FISA – mam na myśli, że sąd FISA słynął z tego, że przez wiele lat skutecznie działał jako pieczątka.
Nie pamiętam dokładnych liczb, ale około 99 procent wniosków, które trafiły do sądu FISA w celu umożliwienia nadzoru określonych sytuacji, zostało rozpatrzonych pozytywnie, a łatwo powiedzieć, że 99 procent to oczywiście za dużo. Oczywiście ci, którzy wnoszą roszczenia do sądu, przebierają i wybierają. W większości nie przedstawiają całkowicie szalonych roszczeń. Ale bez tego kontradyktoryjnego aspektu i z bardzo silnie zmotywowaną grupą ludzi, którzy myślą: „Musimy to zrobić” lub gdy administracja mówi im: „Musimy to zrobić”, znajdą sposoby, aby to zrobić. I tu z czasem dojdziesz do celu.
Czy był ktoś zaangażowany w ten proces, kto kiedykolwiek obudził się i powiedział sobie: „Chłopcze, udało nam się na nowo zdefiniować słowo „cel” tak, aby oznaczało wszystko, czego chcemy”?
[śmiech] Oczywiście miałeś Eda Snowdena, który ujawnił wiele dokumentów. Był John Napier Tye, który w 2014 roku napisał artykuł dla The Washington Post, w którym ujawnił interpretację rozporządzenia wykonawczego nr 12333 i stwierdził, że to jest prawdziwa kwestia, na którą należy zwrócić uwagę. Są jeszcze inne osoby, które wypowiadały się na ten temat, ale większość osób zaangażowanych w pracę w administracji nad sprawami społeczności wywiadowczej daje się przekonać społeczności wywiadowczej, że nadrzędnym celem jest ochrona kraju przed czymś złym. Najlepszym sposobem na osiągnięcie tego jest posiadanie jak największej ilości informacji.
Łatwo zgodzić się z argumentem, że owszem, posiadanie większej ilości informacji może pozwolić im wcześniej złapać coś lub znaleźć coś ważnego, ale po pierwsze, może to nie być prawdą. Uzyskanie zbyt dużej ilości informacji jest prawdopodobnie tak samo złe, jak zbyt mało informacji, ponieważ często może ukryć informacje, które są rzeczywiście przydatne, informacje, które faktycznie są potrzebne do ustalenia czegoś.
Ale mamy też USA Przede wszystkim Konstytucja i mamy powody, dla których teoretycznie nie powinniśmy pozwalać na masową inwigilację bez prawdopodobnej przyczyny. Jako kraj wierzący w praworządność powinniśmy być w stanie temu sprostać, a kiedy to wszystko będzie się działo w ciemności, stracicie to z oczu.
To prowadzi mnie do Anthropic. Anthropic jest przede wszystkim firmą korporacyjną. Są dobrzy w rządzie, wypracowali sobie mięśnie, zatrudniają ludzi, którzy są naprawdę dobrze zorientowani w niektórych z tych rzeczy. Najwyraźniej spojrzeli na Pete'a Hegsetha, który mówił: „Chcemy wszelkich zgodnych z prawem zastosowań", po czym zeszli o dwa poziomy interpretacji w dół i powiedzieli: "No cóż, według ciebie te słowa nie znaczą tego, co mówią na pierwszy rzut oka. Zatem określenie "wszelkie zgodne z prawem użycie" jest zbyt duże i chcemy postawić pewne bariery, szczególnie wokół masowej inwigilacji."
Ponownie uwzględnię broń autonomiczną, co stanowi drugą czerwoną linię, ale szczególnie w kwestii masowej inwigilacji Dario Amodei mówi: "Możemy zrobić za dużo. To jest zbyt niebezpieczne. To naruszenie Czwartej Poprawki. "
Napięcie jest takie, że „mówisz, że będziesz przestrzegać tych praw, które mówią jedno, a teraz, po tak długim czasie, mają na myśli coś zupełnie innego, a my po prostu nie chcemy być tego częścią”. To jest towalka. Chcę to porównać do Sama Altmana, który wpada i mówi: „Wykorzystamy wszelkie zgodne z prawem zastosowania”, a następnie publikuje długą wiadomość w stylu: „Oto wszystkie przepisy, których będziemy przestrzegać”.
Wygląda na to, że Altman nie wiedział, jak NSA zinterpretowała te rzeczy i w pewnym sensie dał się nabrać. I od tego czasu zaczął wracać do tematu – jestem pewien, że nawet w trakcie nagrywania pojawia się więcej tweetów i stanowiska wszystkich się zmieniły. Altman jednak powoli wraca do normy, ale wygląda na to, że OpenAI zostało wciągnięte w czytanie im statutów i wierzenie w to, co mówią. Czy to także Twoja interpretacja wydarzeń?
Są dwie możliwości i to jest jedna z nich. Po pierwsze, grano z nim w ten sam sposób, w jaki przez wiele lat bawiono się z publicznością. Alternatywna teoria – i nie mam pojęcia, która z nich jest prawdziwa – jest taka, że on lub niektórzy prawnicy w OpenAI – którzy moim zdaniem są bardzo kompetentni i posiadają dużą wiedzę – wiedzieli o tym, ale myśleli, że mogą grać w tę samą grę, w którą grała NSA przez kilka dziesięcioleci, pod warunkiem, że będą to mówić, a potem wypowiadać słowa, ale nie ujawniają rzeczywistych interpretacji, że im też ujdzie to na sucho. Dlatego Sam wygłasza oświadczenie, które wygląda tak: „Mieliśmy dokładnie te same czerwone linie co Anthropic i rząd świetnie sobie z tym poradził”.
Właściwie myślę, że Sam Altman powiedział, że Anthropic ma dwie czerwone linie, a OpenAI trzy, a rządowi nie przeszkadza to, co spowodowało, że wiele osób drapało się po głowie. Ale myślę, że musiało być tak, że albo Sam Altman i wszyscy, którzy go otaczali, nie rozumieli, jak te rzeczy działają w praktyce, albo tak było i po prostu założyli, że opinia publiczna nie będzie wiedzieć, i dlatego ujdzie im to na sucho.
Kolejna rzecz, która przychodzi na myśl – sztuczna inteligencja jest czymś nowym i bardzo kuszące jest zapoznanie się z nowymi technologiami, ponieważ są to problemy związane z pierwszym wrażeniem. „Nikt wcześniej nie musiał o tym myśleć”, ale rzeczywistość jest taka, że wszyscy myśleli o tych rzeczach od długiego czasu. Być może nowością tutaj nie jest sztuczna inteligencja, ale to, że druga administracja Trumpa zamiast zadawać się z prawnikami, których być może nikt nigdy nie przeczyta, aby uzasadnić swoje działania przed tajnym sądem, na który nikt nie zwraca uwagi, zamiast tego jest po prostu niezbyt subtelna.
Nie są aż tak wyrafinowani i po prostu mówią, że będą przez cały czas wszystkich szpiegować. Po prostu ogłosili swoje zamiary w taki sposób, że może wszystkie administracje powinny po prostu ogłosić swoje zamiary i zobaczyć, gdzie spadnie los.
Ale patrzę na fakt, że tutaj, w Nowym Jorku, był Ed Snowden. AT&T prowadzi budynek, o którym wszyscy wiedzą, że jest budynkiem NSA. To po prostu gigantyczny budynek i powinniśmy udawać, że to nie centrum nadzoru NSA, ale tam jest. Jest ogromny. Wygląda na to, że nic z tego nie wyszło. Nie popieraliśmy tych wszystkich rewelacji, tych przecieków.
W rzeczywistości wzrósł on tylko w miarę, jak duża część naszego życia staje się coraz bardziej cyfrowa. A może administracja Trumpa, będąc przez cały czas tak tępym narzędziem, może faktycznie być tym, co powoduje rozliczenie. Czy w ogóle widzisz, że to się rozgrywa?
Jest tam kilka różnych rzeczy i nie jest do końca prawdą, że w ogóle ich nie wycofaliśmy. Rewelacje Snowdena faktycznie doprowadziły do pewnych zmian w sposobie, w jaki te rzeczy się dzieją. A teraz są – nie pamiętam, jak się nazywają, ale przypominają tych cywilnych amicus w sądzie FISA, którzy będą przedstawiać drugą stronę w pewnych kwestiach.
Widzieliśmy też, że niektóre władze były pod pewnymi względami ograniczane i co jakiś czas zwracały się o ponowną autoryzację, a aktywiści bardzo agresywnie odpychali i próbowali postawić więcej barier ochronnych. Ale jeśli chodzi o szersze pytanie, myślę, że są dwie różne rzeczy. W połowie masz rację, że ta administracja nie jest subtelna i po prostu mówi na głos to, czego nie powinna.
"Jesteśmy w stanie wojny z Iranem, robimy to, to się dzieje. Nawet nie będziemy próbować tańczyć. "
W sposób, jakiego nie zrobiłaby żadna poprzednia administracja. Ale tak naprawdę nie powiedzieli tego bezpośrednioinwigilacja, zwłaszcza inwigilacja Amerykanów. Pojawiły się pewne sugestie, ale nie były one tak mocne. Druga połowa ma więcej wspólnego z pozycją Anthropic i ogólnym poglądem na sztuczną inteligencję jako na technologię potencjalnie egzystencjalną, przy czym Anthropic zawsze przedstawiał się jako „jesteśmy rozważnymi, dobrymi ludźmi” – a to, czy w to wierzysz, czy nie, nie ma większego znaczenia. Mają tam taką reputację: „Staramy się to robić w sposób bezpieczny, szanujący ludzkość i zwracający uwagę na wszystkie te rzeczy”. Kiedy więc dochodzi do starcia, wtedy pojawia się walka.
Masz administrację Trumpa, która po prostu chce móc robić, co chce, i nie jest w tym subtelna. A potem jest Anthropic, którego opis samego siebie i jego publicznego wizerunku jest zawsze taki: „Jesteśmy rozważni i szanujemy ludzkość, prawa i wszystkie te rzeczy”. Prawdopodobnie tu właśnie doszło do starcia, ponieważ Anthropic, jak zostało wyjaśnione, współpracuje od jakiegoś czasu z Departamentem Obrony i ma wiele innych kontraktów z rządem, z których korzysta. To nie był problem.
Dopiero w tych konkretnych obszarach, gdy rząd starał się rozszerzyć posiadaną umowę, kierownictwo wyższego szczebla Anthropic zaczęło mówić: „Poczekaj, musimy upewnić się, że nie przekroczymy czerwonych linii, które potencjalnie mogłyby zaszkodzić naszej reputacji jako przemyślanego i bezpiecznego dostawcy sztucznej inteligencji”.
Chcę krótko zapytać ogólnie o inwigilację, a w szczególności o kwestię czwartej poprawki Anthropic. Czwarta Poprawka stanowi, że rząd nie może Cię przeszukiwać w sposób nieuzasadniony. Najlepszym sposobem na zrozumienie Czwartej Poprawki jest wysłuchanie „99 problemów” Jaya-Z. Jeśli więc chcesz zrobić sobie przerwę i posłuchać „99 Problems”, to świetnie. To wszystko tam jest. Słuchałem tego, kiedy byłem na studiach prawniczych, i wydało mi się to całkowicie logiczne.
Ale rząd zazwyczaj potrzebuje nakazu, aby cię przeszukać. A ponieważ coraz większa część Twojego życia toczy się w Internecie, istnieje wiele wyjątków od tej reguły. Pomysł jest jednak taki, że nadal powinni potrzebować nakazu online. Argument Anthropic brzmi: "Cóż, sztuczna inteligencja nigdy się nie znudzi. Może przeszukiwać wszystko przez cały czas. Oznacza to, że po prostu przeprowadzimy główny nadzór. "
Jednak jeszcze zanim pojawiła się sztuczna inteligencja, krążył pomysł, że rząd może przeszukać wszystko, co należy do ciebie, i że rząd nie potrzebuje nakazu, aby przeszukać wszystkie twoje rzeczy. Pomysł, że jeśli jakiekolwiek Twoje dane kiedykolwiek wyjdą poza kraj na krótką sekundę, rząd je tam przechwyci,
Kiedy byłem na studiach, mniej więcej w czasach Patriot Act, debata była taka, że nie będą przeszukiwać rzeczywistych danych, ale mogą uzyskać metadane i same metadane. Dane o Twoich danych wystarczą, aby w każdej chwili precyzyjnie Cię zlokalizować. A nawet to jest za daleko. I tańczyliśmy ten taniec tego, co może zebrać rząd? Co jest dozwolone? Czego potrzebują, abyśmy wszyscy byli bezpieczni, a co jest za daleko? Te linie się przesunęły.
Zatem krótko opisz ogólne obawy dotyczące inwigilacji na skalę i na tym, gdzie się obecnie znajdujemy. Przed sytuacją związaną ze sztuczną inteligencją wszystko było wykładniczo bardziej skomplikowane.
Muszę tu wprowadzić jeszcze jedną koncepcję, o której zapewne należało wspomnieć wcześniej, a jakże istotną, a która nazywa się „doktryną strony trzeciej”. Ideą Czwartej Poprawki jest to, że rząd nie może przeszukać Ciebie ani Twoich rzeczy bez nakazu i nie może uzyskać nakazu bez prawdopodobnej przyczyny, że popełniłeś jakieś przestępstwo. Istnieje jednak koncepcja, która pojawiła się kilkadziesiąt lat temu, zwana doktryną strony trzeciej, która mówi, że niekoniecznie ma to zastosowanie lub w ogóle nie ma zastosowania do rzeczy, które nie należą do Ciebie, nawet jeśli są to Twoje dane.
Najwcześniejszą i najbardziej oczywistą wersją tego były zapisy rozmów telefonicznych firmy telekomunikacyjnej dotyczące osób, do których dzwoniłeś. Firmy telekomunikacyjne nie nagrywały twoich rozmów, ale jeśli do ciebie zadzwonię, w firmie telekomunikacyjnej będzie nagranie z informacją: „Mike dzwoni do Nilay”. Wiele sądów ustaliło, że rząd może wystąpić z wnioskiem i nie potrzebuje do tego nakazu, ponieważ nie jest to przeszukanieTwoich danych, jest to ta strona trzecia i ona może jako osoba trzecia zgodzić się na przekazanie tych danych.
Były to jednak przypadki z lat 60. i 70. XX w., kiedy ustalono, że rząd może uzyskać do nich dostęp bez nakazu, gdy nie było zbyt wielu danych pochodzących od osób trzecich. Rozwój komputerów i Internetu zmienił to. Teraz wszystko jest danymi osób trzecich. Wszystko co robimy jest gdzieś gromadzone przez jakąś firmę i jest to rejestrowane. Zatem w zasadzie wszystkie dane o Tobie, gdzie jesteś, z kim rozmawiasz, z kim wchodzisz w interakcję, co mówisz, co robisz – wszystko to jest obecnie w dużej mierze przechowywane przez strony trzecie. Tak więc doktryna strony trzeciej w pewnym stopniu pochłonęła całą Czwartą Poprawkę, w przypadku której wszystko, co dotyczy ciebie, a co posiada ktoś inny, ma znacznie niższe standardy w zakresie tego, co rząd może zrobić, aby o to poprosić.
Mówiąc konkretnie, oznacza to, że gdy moje dane znajdują się w iCloud, rząd może zwrócić się do Apple i pobrać moje dane z iCloud, nigdy mi o tym nie informując?
Mogą o to poprosić. Z łatwością mogą o to wystąpić bez nakazu. Wtedy firma ma swoje prawa i może określić, co chce zrobić z tym żądaniem. Mogą po prostu z tego zrezygnować. Mogą, jak większość z nich, jeśli jest to poważna prośba, od razu odrzucić wnioski lub mogą Cię zaalarmować i powiedzieć – i to właśnie zrobi większość z nich – zaalarmują Cię i powiedzą: „Rząd żąda niektórych Twoich danych. Możesz udać się do sądu i spróbować je zablokować”. Jeśli nie, przekażą Twoje dane w ciągu siedmiu dni lub cokolwiek to będzie.
To zależy. Jeśli jest to dochodzenie karne, może obowiązywać jakiś nakaz milczenia, o którym firma nie może Ci powiedzieć. Istnieje wiele różnych sytuacji, ale większość z nich wiąże się z poziomem ochrony niższym niż wymagany na mocy Czwartej Poprawki, gdyby chodziło o dane lub jakiekolwiek informacje lub cokolwiek innego w Twoim własnym domu.
Ilość danych, które masz na cudzym serwerze w chmurze, jest ogromna, prawda? Każda rzecz, którą robisz obecnie w Internecie, ma jakąś kopię zapasową lub jest w jakiś sposób rejestrowana na serwerach innej osoby. Rząd znalazł sposób na obejście Czwartej Poprawki i powiedzenie: „Cóż, to właściwie nie jest twoje. Należy do Amazona. Możemy porozmawiać z Amazonem”, a Amazon musi stanąć w środku tego procesu i powiedzieć: „Wymyśliliśmy inny proces, aby w pewnym stopniu chronić ludzi”.
Patrzę na to i kiedy omawiałem pierwsze przypadki dotyczące doktryn stron trzecich, które dotyczyły usług w chmurze, a rząd wciąż wygrywał, w zasadzie wtedy zmieniłem się w Jokera. Pomyślałem: „Wszystkie te rzeczy, które udajemy na temat tekstualizmu i zwykłego [czytania], nic z tego nie mają żadnego znaczenia, ponieważ po prostu wchodzimy tylnymi drzwiami, używając tego starożytnego prawa do danych wszystkich”.
A potem patrzę na to, patrzę na Anthropic i mówię: „No cóż, to jest ten sam wzór”. To prywatna firma, która mówi: "OK, rozumiemy Twoje stanowisko. Rozumiemy, że zinterpretowałeś prawo w ten sposób, że ma to takie znaczenie, i zamierzamy wprowadzić pewien proces pomiędzy Tobą, naszym narzędziem i danymi Amerykanów przepływającymi przez nasz serwis. " Zastanawiam się tylko, czy dostrzegasz tę paralelę między Anthropic, Amazonem, Azure i innymi istniejącymi usługami w chmurze, które przechowują tak dużo naszych danych.
Tak, chociaż jest tu kilka ważnych wyjaśnień, które sprawiają, że sytuacja jest nieco inna. I tak naprawdę – myślę, że „The New York Times” jako pierwszy zamieścił tę informację – główna klauzula, która była najważniejsza dla Anthropic, dotyczyła konkretnie danych zebranych z usług komercyjnych i braku możliwości wykorzystania Claude na tych danych, co właśnie stanowi tę kwestię w kontekście danych stron trzecich. Chcę jednak wyjaśnić główną różnicę między tym, o czym właśnie rozmawialiśmy wcześniej, a Amazonem lub innymi stronami trzecimi przechowującymi Twoje dane. Były to przypadki, w których to one, ze względu na swoje miejsce w ekosystemie, hostowały Twoje dane bezpośrednio.
W przypadku Claude nikt nie martwi się, że NSA sprawdzi Twoje użycie Claude. Chodzi o to, że wychodzą i uzyskują dane od osób trzecich od Amazona lub, co bardziej prawdopodobne, od podstępnych, ukrytych brokerów danych, którzy wyświetlają reklamy na Twoich telefonach i znają Twoją lokalizację, zainteresowania i tym podobne. A następnie wprowadzenie tego do systemunad którym Claude będzie następnie pracował. To właśnie w tym Anthropic tak naprawdę nie chciał być częścią. Zatem niezależnie od tego, gdziekolwiek i jakkolwiek rząd miałby gromadzić te dane od strony trzeciej, Anthropic stwierdziła: „Nie chcemy, aby nasze narzędzie było wykorzystywane do przetwarzania tych danych”.
Apple słynie z sprzeciwu wobec FBI, prosząc o umieszczenie backdoora w iPhonie, na co Apple mówi „nie” i przeciwstawia się Trumpowi. W pewnym stopniu nasz system działa tak, że duże prywatne firmy mogą powiedzieć rządowi „nie” w imieniu swoich klientów. Odnosiłem takie samo wrażenie, że Apple ponownie nie umieści backdoora na iPhonie lub że wielcy dostawcy usług w chmurze mówią: „Przed uzyskaniem poszczególnych danych trzeba przejść pewien proces”.
Wygląda na to, że Anthropic mówi: „Nie będziemy po prostu przeprowadzać zbiorczej analizy danych, które uzyskaliście od innych stron, ponieważ prowadzi to do masowej inwigilacji Amerykanów 24 godziny na dobę, 7 dni w tygodniu, a nie chcemy tego robić”. Wydaje się jednak, że dla tej administracji jest to o jeden most za daleko. Czy jest z tego jakiś powrót?
Zobaczymy. W przeszłości, gdy coś takiego miało miejsce – a zdarzało się to wiele razy w przypadku większości dużych firm technologicznych, w pewnym momencie stwierdziły, że coś jest o jeden most za daleko – zwykle dochodziło do sądu. Firmy pójdą do sądu, albo administracja pójdzie do sądu i będzie coś w rodzaju batalii sądowej.
Backdoor do iPhone'a jest tego doskonałym przykładem. Sprawa trafiła do sądu, a oni ją stoczyli, choć nigdy nie doszli do konkluzji, ponieważ FBI ostatecznie ręcznie włamało się do iPhone’a, a potem nie chciało, aby orzeczenie sądu zrujnowało to w przyszłości.
Jednak w tym przypadku, gdy mamy do czynienia z eskalacją i różni się to od sytuacji z przeszłości, zamiast skierować sprawę do sądu, administracja Trumpa określiła to jako „ryzyko dla łańcucha dostaw”, co jest po prostu szaleństwem. Pomysł, że narzędzie to, zaprojektowane w celu powstrzymania potencjalnych zagranicznych szkodliwych podmiotów przed dostarczaniem technologii, i które mogłoby następnie umieścić ukryte narzędzia nadzoru w większym stosie technologii, mógłby zostać zakazany. Stosowanie tego do firmy z siedzibą w USA, głównie ze względu na posiadanie polityki etycznej, wydaje się prawdziwym, rzeczywistym niewłaściwym użyciem tego narzędzia.
Nawet to narzędzie było pod pewnymi względami wątpliwe, ale można zrozumieć jego impuls, gdy mówisz o chińskiej firmie sieciowej lub czymś w tym stylu. Tutaj to nie ma sensu. Zatem reakcja na to wykracza daleko poza to, co normalnie można by zaobserwować w tym przypadku. Można było zobaczyć, że tradycyjnie odbędzie się jakiś proces sądowy i każda ze stron może go rozpocząć, a będzie to po prostu bitwa o to, w jaki sposób umowa może być stosowana.
Ale to nie jest to, co się tutaj dzieje. Ta administracja faktycznie mówi: „Jeśli nie dasz nam absolutnie wszystkiego, czego chcemy, jeśli nie skonfigurujesz swoich narzędzi tak, aby działały tak, jak tego chcemy, to skutecznie spróbujemy zniszczyć cały twój biznes”. I to jest eskalacja.
Jest jeden element, na którym chcę zakończyć i jest to wersja najbardziej galaktyczna. FIRE, grupa zajmująca się wolnością słowa, tuż przed rozpoczęciem nagrywania opublikowała post na blogu, w którym argumentowała, że zmuszanie Anthropic do tworzenia narzędzi, których nie chce budować, stanowi naruszenie wolności słowa i nazywa się to wymuszoną mową. Jest tu mnóstwo historii. Jest tu trochę głębokiej historii Verge i Techdirt, ukrytej w chwastach historii kryzysu egzystencjalnego.
Ale zasadniczo sprowadza się to do pomysłu, że kod to mowa, że pisanie kodu dla komputera jest formą mowy i rząd nie może cię do tego zmusić, i wypływa z tego cała masa rzeczy. Czy wierzysz w ten argument, że zmuszanie Anthropic do budowania narzędzi, których nie chce budować, jest wymuszoną mową?
Tak, myślę, że to całkiem przekonujące. Wciągająca, wymuszona mowa. Ale nie, uważam, że to ciekawy argument. To kwestia, która znajdowała się nieco niżej na liście problemów, o których myślałem. Oczywiście byłem bardziej skupiony na kwestiach związanych z czwartą poprawką, ale myślę, że argument OGNIA nie jest błędny. Widzieliśmy to w innych kontekstach. Pojawiło się to również w przypadku backdoorów, jeśli chodzi o próbę wbudowania backdoorów w zaszyfrowane systemy.
Firmy zdecydowanie podniosły się jako pierwszePoprawka głosi, że: „Zmuszanie nas do napisania tego rodzaju kodu jest wymuszoną mową”. To ważny argument. Może to być znowu kwestia, którą sądy będą prawdopodobnie mniej skłonne zajmować się na początku, jeśli będą mogły rozwiązać te kwestie w inny sposób. Ale cieszę się, że FIRE napisał ten post i myślę, że jest to interesujący i przekonujący argument.
Tak, druga administracja Trumpa ma taką specyfikę, że jest to tak tępy instrument, że jest prawie pewne, że zaatakujemy wszystkie kwestie na raz.
Tak, każda poprawka do Karty Praw musi zostać zakwestionowana w takiej czy innej formie w każdej możliwej kwestii.
[śmiech] Zakręć kołem.
Jestem pewien, że zmieścimy tu gdzieś naruszenie Trzeciej Poprawki.
Jasne, tak. Claude musi teraz mieszkać w twoim domu. Dokładnie. Będzie wspaniale. Wprowadzamy [poprawki] pierwszą, trzecią, czwartą i siódmą. Podbijamy je.
Mike, było wspaniale. Nie mogę uwierzyć, że nie byłeś wcześniej w programie. To było świetne. Musisz wkrótce wrócić.
Absolutnie. Kiedykolwiek mnie chcesz.
Masz pytania lub komentarze na temat tego odcinka? Napisz do nas na adres decoder@theverge.com. Naprawdę czytamy każdy e-mail!
