امروز ما در مورد وضعیت آشفته و سریع در Anthropic صحبت می کنیم، سازنده کلود که اکنون خود را در یک نبرد حقوقی بسیار زشت با پنتاگون می بیند.
این عقب و جلو پیچیده است، اما از چند روز پیش، پنتاگون آنتروپیک را یک ریسک زنجیره تامین تلقی کرده بود، و آنتروپیک شکایتی را در اعتراض به این نام تنظیم کرده است و می گوید دولت حقوق متمم اول و پنجم خود را با "به دنبال از بین بردن ارزش اقتصادی ایجاد شده توسط یکی از شرکت های خصوصی با سریع ترین رشد جهان" نقض کرده است. همین الان می توانم به شما بگویم: ما در ماه های آینده در مورد پیچ و خم های آن مورد در The Verge و اینجا در Decoder صحبت خواهیم کرد.
اما امروز میخواستم لحظهای وقت بگذارم و واقعاً یک عنصر بسیار مهم از این وضعیت را بررسی کنم که به اندازه کافی مورد توجه قرار نگرفته است زیرا از کنترل خارج شده است: چگونه دولت ایالات متحده نظارت را انجام میدهد، مرجع قانونی که اجازه میدهد این نظارت انجام شود، و چرا آنتروپیک به دولت بیاعتماد بود که میگفت در استفاده از هوش مصنوعی برای نظارت بیشتر از قانون پیروی میکند.
مشترکین همگام، فراموش نکنید که از هر کجا که پادکستهای خود را دریافت میکنید، به رمزگشای بدون آگهی دسترسی انحصاری دارید. به اینجا سر بزن مشترک نیستید؟ شما می توانید در اینجا ثبت نام کنید.
مهمان امروز من مایک مسنیک، بنیانگذار و مدیر عامل Techdirt، وب سایت عالی و طولانی مدت سیاست های فناوری است. مایک دهها سال است که درباره نفوذ بیش از حد دولت، حریم خصوصی در عصر دیجیتال و سایر موضوعات مرتبط مینویسد. او متخصصی است که چگونه اینترنت و دولت نظارتی به روش های به هم پیوسته رشد کرده اند.
ببینید، قانون میگوید که دولت میتواند در هنگام نظارت از ما انجام دهد و سپس آنچه که دولت میخواهد انجام دهد، وجود دارد. و مهمتر از همه، چیزی است که دولت می گوید قانون می گوید که می تواند انجام دهد، که اغلب دقیقاً برعکس آن چیزی است که هر فرد عادی با خواندن قانون به سادگی فکر می کند.
شما می شنوید که مایک در اینجا در این قسمت با جزئیات زیاد توضیح می دهد که ما نمی توانیم - و نباید - دولت ایالات متحده را در مورد نظارت به حرفش بپذیریم. سابقه بسیار زیادی از وکلای دولتی وجود دارد که تفاسیر کلمات ساده مانند «هدف» را برای گسترش نظارت به روشهای پیچیده تغییر میدهند - روشهایی که معمولاً فقط باعث نگرانی در محافل حقوقی میشوند و تنها زمانی که مناقشات بزرگی مانند افشاگریهای اصلی NSA اد اسنودن در بیش از یک دهه پیش وجود داشته باشد، ایجاد میشود.
اما هیچ چیز ظریف یا پیچیدهای در مورد سیاستگذاری در دوره ترامپ وجود ندارد - و بنابراین با آنتروپیک، ما یک بحث بسیار بلند و عمومی در مورد فناوری و نظارت در زمان واقعی، در اینترنت، در پستهای وبلاگ و اخبار ایکس و در مورد صدای کنفرانس مطبوعاتی داریم. نکات مثبت و منفی در آن وجود دارد، اما برای درک همه آن، واقعاً باید تاریخ را بدانید.
این همان چیزی است که من و مایک در این اپیزود توضیح دادیم – هر نظری که در مورد هوش مصنوعی و دولت دارید، این قسمت به وضوح نشان میدهد که هر دو طرف اجازه دادهاند وضعیت نظارت در طول زمان بزرگتر و بزرگتر شود. در حال حاضر، ما در آستانه بزرگترین توسعهای هستیم که به هوش مصنوعی میرسد.
خوب: مایک مسنیک، بنیانگذار و مدیر عامل Techdirt در Anthropic، پنتاگون و نظارت هوش مصنوعی. در اینجا ما می رویم.
این مصاحبه برای طولانی بودن و وضوح کمی ویرایش شده است.
مایک مسنیک، شما بنیانگذار و مدیر عامل Techdirt هستید. به Decoder خوش آمدید.
خوشحالم که اینجا هستم.
من از حضور شما هیجان زده هستم. فقط میگفتم از اینکه قبلاً در برنامه حضور نداشتی، شوکه شدم. من و شما مدتهاست که در مورد یکدیگر می نویسیم و پست می گذاریم. بسیاری از پوششهای خطمشی The Verge مدیون کارهایی هستند که در Techdirt انجام دادهاید و سپس آنچه در آنتروپیک میگذرد بسیار پیچیده است، اما موضوعات بسیاری را مورد توجه قرار میدهد که برای مدت طولانی پوشش دادهاید. خوشحالم که بالاخره اینجایی
این یک موضوع پیچیده است، اما من هیجان زده هستم که در آن جستجو کنم.
چیزی که من میخواهم روی آن تمرکز کنم، جزئیات این نیست که آیا آنتروپیک قرار است با دولت قراردادی امضا کند یا OpenAI آن قرارداد را به دست خواهد آورد. درعوض، من مطمئن هستم بین زمانی که ما این را ضبط می کنیم و زمانی که مردم به آن گوش می دهند، توییت های بیشتری وجود خواهد داشت و چیزهای بیشتری نسبت به قبل متفاوت خواهند بود.
آنچه من می خواهم روی آن تمرکز کنم تنها یکی از دو خط قرمزی است که آنتروپیک واقعاً ترسیم کرده است. یکی از آنها استسلاح های خودمختار که سطح پیچیدگی خود را دارد. قانون آنجا کمی نوپاتر است، خواه این تسلیحات وجود داشته باشد یا قبلاً توسط روسیه در جنگ اوکراین مستقر شده باشد.
ایدههای زیادی در اینجا وجود دارد که من فقط میخواهم آنها را کنار بگذارم، زیرا فکر میکنم این ایدهها روی برنامهریزی خود تمرکز بیشتری خواهند داشت. خط قرمز دیگری که میخواهم زمان زیادی را روی آن صرف کنم، نظارت جمعی است. و در اینجا قوانین زیادی در مورد نظارت جمعی وجود دارد. تاریخ زیادی وجود دارد، تاریخ بحث برانگیز زیادی. کل شخصیت ادوارد اسنودن به دلیل جنجال هایی که در مورد نظارت جمعی وجود دارد وجود دارد.
همه چیز به آژانس امنیت ملی (NSA)، که بخشی از وزارت دفاع است، که بنا به دلایلی اکنون باید آن را وزارت جنگ بنامیم، به شما برمی گردد.
[می خندد] ما کاری نداریم.
[می خندد] ما نداریم. اینجا در آمریکا درست است. ما مجبور نیستیم کاری انجام دهیم. اما NSA اساساً معنای بسیاری از کلمات را از زبان انگلیسی محاوره ای به معنای "ما فقط می توانیم نظارت انجام دهیم" را دوباره تعریف کرده است. و هر چند وقت یکبار یک رسوایی به وجود می آید که مردم متوجه می شوند که فقط در حال انجام نظارت هستند. پس فقط صحنه را همانجا تنظیم کنید، و من نمیخواهم شما را تا آخر به عقب برگردانم، اما زمان زیادی است که این الگو تکرار شده است.
بستگی به این دارد که می خواهید به چه عمقی بروید، اما نسخه کوتاه آن بدیهی است که در جهان پس از 11 سپتامبر است، ایالات متحده قانون میهن پرستی را تصویب کرد، که برخی از توانایی های دولت را برای درگیر شدن در نظارت داشت، که قرار بود برای محافظت از ما در برابر تهدیدات تروریستی آینده باشد. با گذشت زمان، این به روش های جالبی تفسیر شد و محدودیت هایی در آن وجود داشت. دادگاه FISA را هم داشتیم که دادگاه ویژه ای است که قرار است جامعه اطلاعاتی و فعالیت های آنها را بررسی کند اما به طور سنتی دادگاه یک طرفه بوده است. فقط یک طرف می تواند پرونده خود را در آن دادگاه مطرح کند و همه اینها مخفیانه انجام می شود.
چیزهای زیادی وجود دارد که شناخته نشده است. و سپس یک قطعه دیگر در همه اینها وجود داشت، که تمام راه را به رونالد ریگان بازمیگرداند، که فرمان اجرایی 12333 است، که ظاهراً در مورد تعیین قوانین جاده برای جمعآوری اطلاعات است.
بنابراین شما این سه مجموعه قانون را دارید - خوب، چند مجموعه قانون - و یک فرمان اجرایی که برای مردم، بخش هایی که می توانید بخوانید، به نظر می رسد چیزهای خاصی را در مورد آنچه دولت ما و به ویژه NSA می توانند از نظر نظارت انجام دهند، می گوید. وقتی با یک فرهنگ لغت ساده انگلیسی که احتمالاً من و شما آن را میدانیم و درک میکنیم، میخوانیم، با این باور مواجه میشویم که توانایی آژانس امنیت ملی برای زیر نظر گرفتن آمریکاییها بسیار محدود است، در واقع تا جایی که قرار است، اگر متوجه شوند که دارند یک فرد آمریکایی را زیر نظر دارند، باید فوراً متوقف شوند و فریاد بزنند و همه چیزهای دیگر را مخدوش کنند.
برای مدتی شایعاتی وجود داشت مبنی بر اینکه واقعاً چنین اتفاقی نمی افتد و نکاتی وجود داشت و به ویژه سناتور ران وایدن در مورد رفتن به صحن مجلس سنا بسیار پر سر و صدا بود و می گفت: "اینجا چیزی درست نیست و من نمی توانم کاملاً به شما بگویم که چیست" یا در جلسات شنیداری از مقامات اطلاعاتی می پرسید: "آیا شما اطلاعات جمعی درباره آمریکایی ها جمع آوری می کنید یا ندارید؟"
آن مقامات یا منحرف می شوند یا در برخی موارد آشکارا دروغ می گویند. فکر میکنم یکی از جلسات شنیداری جیمز کلاپر، که در آن زمان مدیر اطلاعات ملی بود، در سال 2012 بود که مستقیماً در این مورد از او سؤال شد. و او اساساً گفت: "نه، ما اطلاعاتی در مورد آمریکایی ها جمع آوری نمی کنیم." این بخش بزرگی از الهام بخش اد اسنودن برای افشای اطلاعات بود، گزارش هایی که او به گلن گرینوالد و بارتون گلمن و لورا پویتراس نیز درز کرده بود. از همه اینها، چیزی که ما شروع به کشف کردیم این بود که NSA فرهنگ لغت خود را دارد که تا حدودی با فرهنگ لغتی که من و شما استفاده می کنیم متفاوت است، به طوری که آنها می توانند کلمات را به روشی متفاوت از معنای انگلیسی ساده آنها تفسیر کنند، از جمله کلماتی مانند "هدف" که به نظر یک کلمه کلیدی است. درک گسترده از آنچه این است این است که، در تئوری، آنها فقط افرادی را هدف قرار می دهند که آمریکایی نیستند، فکر می کنم این عبارت است.
اما نحوه تفسیر آن در طول زمان این بود که هر چیزی که از آن شخص نام می برد، هر چیزی که در مورد یک فرد خارجی باشد، اکنون یک بازی منصفانه است، حتی اگر این ارتباطات یک شخص باشد.شخص آمریکایی بنابراین، اگر من و شما به یکدیگر پیامک ارسال کنیم و از یک فرد خارجی نام ببریم، اکنون این بازی منصفانه ای برای NSA است که جمع آوری، نگهداری و ذخیره کند.
قسمت دوم این هم هست من اولین فرمان اجرایی 12333 از رونالد ریگان را ذکر کردم، که با تغییر فناوری در طول زمان و رشد اینترنت، عملاً به NSA اجازه میداد تا از ارتباطات خارجی استفاده کند، اما این دستور شامل هرگونه ارتباطی میشد که ممکن است ایالات متحده را در مسیری قرار داده باشد. بنابراین اگر من به شما پیامک میدهم و پیامی از من در کالیفرنیا از طریق یک کابل فیبر نوری که اتفاقاً ایالات متحده را ترک میکند، ارسال میشود، NSA میتواند هنگامی که در خارج از ایالات متحده است، روی آن ضربه بزند و آن اطلاعات را جمعآوری کند، حتی اگر فقط در داخل ایالات متحده برای شما ارسال شود.
NSA میتواند آن اطلاعات را حتی اگر مربوط به افراد آمریکایی باشد، حفظ کند، و بعداً میتواند جستجوهای خاصی را در مورد آن انجام دهد، که گاهی اوقات به عنوان «جستجوهای در پشتی» شناخته میشود. آنها این اطلاعات را جمع آوری کردند که ما معتقدیم از ابتدا قرار نبود جمع آوری کنند، اما می توانستند آن را حفظ کنند. و قول دادند، پینکی قسم خوردند که آن را خصوصی نگه دارند، اما اگر جست و جو کردند و متوجه شدند که من یا شما از یک فرد خارجی نام برده ایم، ناگهان بازی انصافی برای آنها بود که هر کاری می خواهند با آن انجام دهند.
در مجموع، این به جهانی تبدیل شده است که در آن دولت فدرال می تواند اساساً هر اطلاعاتی را که اتفاقاً در خارج از ایالات متحده به دست می آید جمع آوری کند. حتی اگر کاملاً بین دو فرد آمریکایی باشد، اگر آنها به کسی که آمریکایی نیست اشاره یا حتی اشاره کنند، ناگهان جمع آوری بازی منصفانه است. و از آن جا به چیزی رسیدیم که به نظر می رسد نوعی نظارت جمعی از افراد آمریکایی توسط NSA است که ادعا می کند و علناً اعلام می کند که از افراد آمریکایی جاسوسی نمی کند.
چگونه به این نقطه رسیدیم؟ این تعداد زیادی از مراحل کودک افزایشی است. شما در سال 2012 به جیمز کلاپر اشاره کردید، این دولت اوباما است. شما به رونالد ریگان اشاره کردید، این دهه 1980 است. ما در اینجا از دموکرات ها و جمهوری خواهان عبور می کنیم.
جنگ با تروریسم در دولت جورج دبلیو بوش و 11 سپتامبر و قانون میهن پرستی در دولت جورج دبلیو بوش اتفاق افتاد. در زمان روسای جمهور هر دو حزب، در کنگره های هر دو حزب، اتفاقات بد افزایشی زیادی وجود دارد. چگونه این اتفاق افتاد؟
سادهترین شکل آن این است که هیچکس، و مطمئناً هیچ رئیسجمهوری، نمیخواهد در زمانی که یک حمله تروریستی بزرگ رخ میدهد، رئیسجمهور شود، زیرا این باعث میشود آنها بد به نظر برسند. بدیهی است که آنها همچنین می خواهند از آمریکایی ها محافظت کنند، درست است؟ این بخشی از کار آنهاست اگر یک جامعه اطلاعاتی دارید که اساساً در تاریکی فعالیت میکند، زیرا این همان کاری است که جوامع اطلاعاتی انجام میدهند و آنها مدام به سراغ شما میآیند و میگویند: "هی، اگر بتوانیم به این اطلاعات دسترسی داشته باشیم، برای جلوگیری از یک حمله تروریستی واقعا مفید خواهد بود."
ممکن است مواردی وجود داشته باشد که این درست باشد، که جامعه اطلاعاتی بتواند از این اطلاعات به نحوی استفاده کند که به خوبی کار کند. اما از نظر تئوری، ما نیز جامعهای از قوانین با قانون اساسی ایالات متحده هستیم که باید از آن تبعیت کنیم. اما این امر به این واقعیت اجازه داد که دولت پس از دولت، دوباره جمهوریخواه و دموکرات، وکلایی داشتند که بسیار باهوش بودند و نگاه میکردند و میگفتند: «خب، اگر ما اینطور موضع بگیریم یا اینطور بیان کنیم یا اینطور تفسیر کنیم، به این ترتیب میتوانیم به آنچه میخواهیم برسیم و از نظر فنی قانون را زیر پا نگذاریم یا از نظر فنی متمم چهارم را نقض نکنیم.»
این فرض همیشه این بود: «ما میتوانیم به نوعی قانون را منحرف کنیم یا تفسیر خود از قانون را تغییر دهیم و هیچ کس واقعاً هرگز این را نخواهد دید، یا کسی که اهمیت میدهد واقعاً هرگز این را نخواهد دید، و بنابراین از آن دور میشویم».
دو چیز وجود دارد که واقعاً از من بیرون می زند. یکی، من و شما هر دو تصمیمات دادگاه زیادی را خواندیم - تصمیمات دادگاه استیناف و تصمیمات دادگاه عالی. و در دادگاه عالی ما در مورد چگونگی تفسیر تحت اللفظی کلمات در اساسنامه و قوانینمان دعوا وجود دارد.
من زیاد وارد آن نمی شوم، اما به طور کلی می گویم این ایده که شما باید فقط کلمات موجود در صفحه را بخوانید و آنچه را که آنها می گویند نوع غالب تفسیر قانونی در ایالات متحده است، انجام دهید. چپ یا راست هر دو می گویند. آنها در مورد برخی از نکات ظریف بسیار باطنی از معنای واقعی آن بحث می کنند. اما اینکه شما فقط باید بتوانید این کلمات را بخوانید و آنچه می گویند را انجام دهید، این قابل قبول نیست، درست است؟
ما حداقل در اولین پاس از آنچه شما ممکن است فرود آمده ایممتن گرایی را بنامیم چگونه وکلای هر دو دولت تا این حد از شیوه غالب تصمیمگیری قانونی در کشور ما فاصله میگیرند؟ قضات هر دو طرف موافق هستند که این حداقل قدم اول است.
ای کاش جواب دقیق را می دانستم، اما فکر می کنم دلیل انگیزشی است، درست است؟ به عنوان یک وکیل، شما آنجا هستید تا از موکل خود دفاع کنید و موفقیت - اگر بتوان آن را موفقیت نامید - سیستم حقوقی ما مبتنی بر داشتن یک موقعیت خصمانه است که در آن طرفهای مختلف بر سر این موارد با هم بحث میکنند، جایی که نقش قاضی این است که در این مورد محدود شود و بفهمد کدام طرف واقعاً درست است.
یکی از مشکلات جامعه اطلاعاتی و راه اندازی آن این است که شما آن موقعیت خصمانه را ندارید. این باعث می شود که یک طرف توجیه استدلالی را که انجام می دهد آسان تر کند زیرا هیچ کس واقعاً از آن عقب نشینی نمی کند. شما آن را با ترس کلی از یک حمله تروریستی دیگر، هر چیزی که به امنیت ملی مربوط می شود، و حتی زمانی که موقعیت هایی دارید که دادگاه FISA دارید، ترکیب می کنید - منظورم این است که دادگاه FISA تا حدودی به این دلیل که عملاً سال ها یک تمبر لاستیکی بود مشهور بود.
من اعداد دقیق را فراموش می کنم، اما چیزی شبیه به بیش از 99 درصد از درخواست هایی بود که به دادگاه FISA مراجعه کردند تا نظارت بر برخی موقعیت ها را فراهم کنند، و به راحتی می توان گفت که 99 درصد بسیار زیاد است. بدیهی است که کسانی که ادعاهایی را به دادگاه می آورند، انتخاب می کنند. آنها در بیشتر موارد ادعاهای کاملاً دیوانه کننده ای ندارند. اما بدون آن جنبه خصمانه و با گروهی با انگیزه بسیار قوی از مردم که فکر میکنند، «ما باید این کار را انجام دهیم»، یا توسط دولت به آنها گفته میشود، «ما باید این کار را انجام دهیم»، راههایی برای انجام آن پیدا خواهند کرد. و این جایی است که در طول زمان به پایان می رسید.
آیا کسی درگیر این فرآیند بوده است که تا به حال از خواب بیدار شده باشد و به خود گفته باشد: "پسرم، ما موفق شدیم کلمه "هدف" را به معنای هر چیزی که می خواهیم دوباره تعریف کنیم؟
[می خندد] بدیهی است که شما اد اسنودن را داشتید که تعدادی از اسناد را فاش کرد. شما جان ناپیر تای را داشتید که در سال 2014 قطعه ای برای واشنگتن پست نوشت که تفسیر فرمان اجرایی 12333 را فاش کرد و گفت که این موضوع واقعی است که باید به آن توجه کرد. شما افراد دیگری دارید که در مورد این چیزها صحبت کرده اند، اما در بیشتر موارد، افرادی که در داخل دولت درگیر کار در امور جامعه اطلاعاتی هستند، در نظر جامعه اطلاعاتی مورد توجه قرار می گیرند، که هدف اصلی محافظت از کشور در برابر چیز بد است. بهترین راه برای انجام این کار داشتن اطلاعات تا حد امکان است.
دلسوزی با این استدلال آسان است که بله، داشتن اطلاعات بیشتر ممکن است به آنها اجازه دهد زودتر چیزی را پیدا کنند یا چیز مهمی پیدا کنند، اما، یکی، ممکن است این درست نباشد. به دست آوردن اطلاعات بیش از حد احتمالاً به همان اندازه بد است که اطلاعات بسیار کم، زیرا اغلب می تواند اطلاعاتی را که واقعاً مفید هستند پنهان کند، اطلاعاتی که شما واقعاً برای تعیین چیزی به آن نیاز دارید.
اما همچنین، ما یک ایالات متحده داریم. در وهله اول قانون اساسی و ما دلایلی داریم که چرا، از نظر تئوری، قرار نیست اجازه نظارت انبوه بدون دلیل احتمالی را بدهیم. به عنوان کشوری که به حاکمیت قانون اعتقاد دارد، باید بتوانیم به آن عمل کنیم، و وقتی همه این اتفاقات در تاریکی رخ می دهد، شما تمایل به فراموشی آن دارید.
این مرا به آنتروپیک می رساند. آنتروپیک در درجه اول یک شرکت سازمانی است. آنها در دولت خوب هستند، آنها این ماهیچه ها را ساخته اند، آنها توسط افرادی کار می کنند که واقعاً در برخی از این چیزها به خوبی آشنا هستند. آنها آشکارا به پیت هگزث نگاه کردند که میگفت: «ما همه استفادههای قانونی را میخواهیم» و دو سطح تفسیر را پایین آوردند و گفتند: «خب، باور تحت اللفظی شما این است که این کلمات به معنای آن چیزی نیستند که در چهرهشان میگویند. بنابراین «همه استفادههای قانونی» خیلی بزرگ است، و ما میخواهیم برخی نردههای محافظ بهویژه در اطراف نظارت جمعی قرار دهیم.»
باز هم، من قصد دارم سلاحهای خودمختار را کنار بگذارم، که خط قرمز دیگری بود، اما به ویژه در مورد نظارت جمعی، داریو آمودی در آنجا میگوید: "ما میتوانیم کارهای زیادی انجام دهیم. این خیلی خطرناک است. این نقض متمم چهارم است."
تنش در آنجا این است که "شما می گویید از این قوانینی پیروی خواهید کرد که یک چیز می گویند و حالا، بعد از این همه مدت، معنایی کاملاً متفاوت دارند و ما فقط نمی خواهیم بخشی از آن باشیم." این استمبارزه کن من فقط میخواهم آن را با سام آلتمن مقایسه کنم، که میخواهد بگوید: «ما همه استفادههای قانونی را انجام خواهیم داد» و سپس این پیام طولانی را پست میکند: «در اینجا همه قوانینی است که ما قرار است از آنها پیروی کنیم.»
به نظر میرسد آلتمن نمیدانست NSA چگونه این چیزها را بازتفسیر کرده است و به نوعی سوار شده است. و او از آن زمان شروع به عقب نشینی کرده است - حتی زمانی که در حال ضبط هستیم، من مطمئن هستم که توییت های بیشتری وجود دارد و موقعیت همه تغییر کرده است. اما آلتمن به آرامی آن را به عقب برمیگرداند، اما به نظر میرسد که OpenAI به خواندن قوانین روی صورت آنها و باور به گفتههای آنها طناب زده است. آیا تفسیر شما از وقایع نیز همین است؟
دو احتمال وجود دارد و این یکی از آنهاست. یکی این است که او به همان شیوه ای بازی می شود که مردم سال ها بازی می کردند. تئوری جایگزین، و من نمیدانم کدام یک از اینها درست است، این است که او یا برخی از وکلای OpenAI - که به نظر من بسیار شایسته و بسیار آگاه هستند - این را میدانستند، اما فکر میکردند که میتوانند همان بازیای را انجام دهند که NSA برای چند دهه انجام داد، تا زمانی که این چیزها را میگویند و سپس کلمات را میگویند، اما تفاسیر واقعی را فاش نمیکنند، که میتوانند با آن فرار کنند. بنابراین سام با این جمله به نظر میرسد که «ما دقیقاً همان خطوط قرمز آنتروپیک را داشتیم، و دولت با آن عالی بود».
در واقع، من فکر میکنم سام آلتمن گفت که آنتروپیک دو خط قرمز دارد و OpenAI سه خط قرمز دارد، و دولت با آن کاملاً خوب عمل میکند، و این باعث شد که افراد زیادی سرشان را خاراند. اما من فکر میکنم که یا باید سام آلتمن و هرکسی که او را احاطه کرده بود، نمیدانستند که این چیزها در عمل چگونه کار میکنند، یا میدانستند، و فقط تصور میکردند که عموم مردم نمیدانند و بنابراین میتوانند از آن دور شوند.
نکته دیگری که به ذهن متبادر می شود - باز هم، هوش مصنوعی جدید است و ورود به فناوری های جدید بسیار وسوسه انگیز است زیرا اینها مشکلات اولین برداشت هستند. "هیچ کس قبلاً مجبور نبوده است به این موضوع فکر کند" اما واقعیت این است که همه برای مدت طولانی به این چیزها فکر می کردند. شاید چیزی که در اینجا جدید است هوش مصنوعی نباشد، اما دولت دوم ترامپ، به جای انجام یکسری وکالت که شاید هیچ کس هرگز نخواند تا اقدامات خود را در دادگاهی مخفی که هیچ کس به آن توجهی ندارد، توجیه کند، در عوض آنقدرها هم ظریف نیست.
آنها آنقدرها هم پیچیده نیستند و فقط می گویند که قرار است همیشه از همه جاسوسی کنند. آنها فقط قصد خود را به گونه ای اعلام کردند که شاید همه دولت ها فقط نیت خود را اعلام کنند و ببینند که چیپ ها کجا می افتد.
اما من به این واقعیت نگاه می کنم که اد اسنودن اینجا در شهر نیویورک بود. AT&T ساختمانی را اداره می کند که همه می دانند ساختمان NSA است. این فقط یک ساختمان غول پیکر است، و ما قرار است وانمود کنیم که یک مرکز نظارتی NSA نیست، اما درست همان جاست. بزرگ است به نظر می رسد هیچ کدام از اینها نتیجه ای نداشته است. همه این افشاگریها، این افشاگریها، ما از آن عقبنشینی نکردهایم.
در واقع، با افزایش روز افزون زندگی ما بیشتر و بیشتر شده است. و شاید دولت ترامپ همیشه ابزار بیپردهای باشد، این ممکن است عاملی برای محاسبه باشد. آیا به هر حال آن را در حال پخش می بینید؟
چند چیز متفاوت وجود دارد، و این کاملاً درست نیست که ما اصلاً از این چیزها عقب نشینی نکرده ایم. افشاگری های اسنودن منجر به تغییراتی در نحوه وقوع این اتفاقات شد. و در حال حاضر وجود دارد - من فراموش کرده ام که آنها چه نامیده می شوند، اما آنها مانند این افراد دوست مدنی در دادگاه FISA هستند که به عنوان ارائه دهنده طرف مقابل در مورد مسائل خاص عمل می کنند.
و ما دیدهایم که برخی از مقامات به روشهای خاصی محدود شدهاند، و آنها هر از چند گاهی برای دریافت مجوز مجدد مراجعه میکنند، و فعالان در مورد عقب راندن و تلاش برای قرار دادن نردههای محافظ بیشتر بسیار تهاجمی بودهاند. اما در مورد سوال بزرگتر، من فکر می کنم دو چیز متفاوت وجود دارد. حق با شماست که این دولت ظریف نیست و فقط چیزهایی را که نباید با صدای بلند می گوید.
ما در حال جنگ با ایران هستیم، این کار را انجام میدهیم، این اتفاق میافتد. ما حتی نمیخواهیم این رقص را امتحان کنیم.»
به روش هایی که همه دولت های قبلی انجام نمی دادند. اما آنها واقعاً این را مستقیماً نگفته اندنظارت، به ویژه نظارت بر آمریکایی ها. نکاتی در مورد آن وجود داشته است، اما آنها به شدت در مورد آن اظهار نظر نکرده اند. نیمه دیگر آن بیشتر به موقعیت آنتروپیک و دیدگاه کلی از هوش مصنوعی به عنوان این فناوری احتمالاً وجودی مربوط می شود، جایی که آنتروپیک همیشه خود را به عنوان «ما بچه های خوب متفکر هستیم» معرفی کرده است، و اینکه آیا شما معتقدید که این موضوع به نوعی غیر از موضوع است یا خیر. آنها این شهرت را دارند: "ما سعی می کنیم این کار را به گونه ای انجام دهیم که ایمن باشد، به انسانیت احترام بگذارد و به همه این چیزها توجه کند." و بنابراین هنگامی که شما آن درگیری را دارید، این جایی است که مبارزه شروع می شود.
شما یک دولت ترامپ دارید که فقط میخواهد بتواند هر کاری را که میخواهد انجام دهد، و آنها در این مورد ظریف نیستند. و سپس شما آنتروپیک را دارید که توصیف خود و شخصیت عمومی اش همیشه این گونه است: "ما متفکر هستیم و به انسانیت و حقوق و همه این چیزها احترام می گذاریم." این درگیری احتمالاً از همین جا شروع شد، زیرا آنتروپیک، همانطور که مشخص شد، مدتی با وزارت دفاع کار کرده است و قراردادهای زیادی با دولت دارد که از آنها استفاده کرده است. مشکلی نبوده است
تنها در این مناطق خاص بود که در حالی که دولت به دنبال گسترش قراردادی بود که داشت، رهبری ارشد آنتروپیک شروع به گفتن کرد: «صبر کنید، ما باید مطمئن شویم که از این خطوط قرمز که به طور بالقوه به اعتبار ما به عنوان ارائهدهنده متفکر و ایمن هوش مصنوعی آسیب میزند، نمیگذریم.»
من می خواهم به طور خلاصه در مورد نظارت به طور کلی، و به طور خاص نگرانی اصلاحیه چهارم آنتروپیک را بپرسم. اصلاحیه چهارم می گوید که دولت نمی تواند شما را به طور غیرمنطقی جستجو کند. بهترین راه برای درک متمم چهارم، گوش دادن به «۹۹ مشکل» نوشته جی زی است. بنابراین اگر لازم است کمی استراحت کنید و به «۹۹ مشکل» گوش دهید، عالی است. همه چیز در آنجاست زمانی که در دانشکده حقوق بودم به آن گوش دادم و کاملا منطقی بود.
اما دولت به طور کلی به یک حکم برای بازرسی شما نیاز دارد. و هر چه بیشتر و بیشتر از زندگی شما آنلاین می شود، استثناهای زیادی در این مورد وجود دارد. اما ایده این است که آنها هنوز باید به یک حکم آنلاین نیاز داشته باشند. استدلال آنتروپیک این است: "خب، هوش مصنوعی هرگز خسته نمی شود. می تواند همه چیز را همیشه جستجو کند. این بدان معنی است که ما فقط نظارت اصلی را انجام خواهیم داد."
با این حال، حتی قبل از اینکه هوش مصنوعی ظاهر شود، این ایده که دولت می تواند هر چیزی را که متعلق به شما است جستجو کند، وجود داشت، این ایده که دولت برای جستجوی همه چیزهای شما به حکمی نیاز ندارد، وجود داشت. این ایده که اگر هر یک از داده های شما برای یک ثانیه کوتاه به خارج از کشور رفت، دولت آن را در آنجا رهگیری کرد،
زمانی که من در کالج بودم، در حول و حوش قانون میهن پرستی، بحث این بود که آنها قرار نیست داده های واقعی شما را جستجو کنند، اما می توانند به تنهایی ابرداده و ابرداده را دریافت کنند. داده های مربوط به داده های شما برای مکان یابی دقیق شما در هر زمان کافی است. و حتی این خیلی دور است. و ما این رقص را انجام داده ایم که دولت چه چیزی می تواند جمع کند؟ چه چیزی جایز است؟ آنها برای حفظ امنیت همه ما به چه چیزی نیاز دارند و چه چیزی خیلی دور است؟ آن خطوط حرکت کرده اند.
بنابراین فقط به طور خلاصه نگرانی عمومی در مورد نظارت در مقیاس و جایی که ما اکنون هستیم را توضیح دهید. قبل از اینکه وضعیت هوش مصنوعی همه چیز را به طور تصاعدی پیچیدهتر کند.
در اینجا باید مفهوم دیگری را معرفی کنم که احتمالاً باید قبلاً ذکر می شد، اما مهم است که به آن «دکترین شخص ثالث» می گویند. ایده اصلاحیه چهارم این است که دولت نمیتواند شما یا وسایلتان را بدون حکم بازرسی کند و نمیتواند بدون دلیل احتمالی که شما مرتکب نوعی جرم شدهاید، حکمی دریافت کند. اما مفهومی وجود دارد که حدود دههها پیش به نام دکترین شخص ثالث مطرح شد، که میگوید این موضوع لزوماً در مورد چیزهایی که متعلق به شما نیستند، حتی اگر دادههای شما باشد، صدق نمیکند یا اصلاً صدق نمیکند.
اولین و واضح ترین نسخه از این، سوابق تلفنی بود که شرکت تلفن از افرادی که شما با آنها تماس گرفتید داشت. شرکتهای تلفن تماسهای شما را ضبط نمیکردند، اما اگر من با شما تماس میگرفتم، ضبط میکردند، ضبطی در شرکت تلفن وجود داشت که میگوید: «مایک با نیلای تماس میگیرد». و آنچه توسط دادگاه های متعدد تعیین شده بود این بود که دولت می تواند برود و آن را درخواست کند، و آنها برای این کار نیازی به حکم ندارند، زیرا جستجوی آن نیست.داده های شما، این شخص ثالث است و آنها می توانند به عنوان شخص ثالث موافقت کنند که فقط آن داده ها را تحویل دهند.
اما این موارد مربوط به دهههای 1960 و 70 بود که مشخص شد دولت میتواند بدون حکم به آن دسترسی داشته باشد، در حالی که دادههای شخص ثالث زیادی وجود نداشت. ظهور کامپیوتر و اینترنت این را تغییر داد. اکنون، همه چیز داده های شخص ثالث است. هر کاری که ما انجام می دهیم توسط فلان شرکت در جایی جمع آوری می شود و سابقه آن را دارد. بنابراین اساساً تمام دادههای مربوط به شما، جایی که هستید، با چه کسی صحبت میکنید، با چه کسی تعامل میکنید، چه میگویید، چه کار میکنید، همه اینها این روزها تقریباً در اختیار اشخاص ثالث است. بنابراین دکترین شخص ثالث کل متمم چهارم را تا حدودی بلعیده است، در جایی که هر چیزی که در مورد شما باشد که شخص دیگری دارد، استاندارد بسیار پایین تری برای آنچه دولت می تواند برای درخواست آن انجام دهد وجود دارد.
فقط به طور خاص، این بدان معناست که وقتی اطلاعات من در iCloud است، دولت می تواند به اپل مراجعه کند و بدون اینکه به من بگوید داده های من را از iCloud خارج کند؟
می توانند درخواست کنند. آنها به راحتی می توانند آن را بدون حکم درخواست کنند. سپس شرکت حقوق خود را دارد و می تواند تعیین کند که با آن درخواست چه کاری می خواهند انجام دهند. آنها فقط می توانند آن را رها کنند. آنها میتوانند، همانطور که اکثر آنها انجام میدهند، اگر درخواست جدی باشد، درخواستها را بیسابقه رد کنند یا میتوانند به شما هشدار دهند و میتوانند بگویند - و این همان کاری است که اکثر آنها انجام میدهند - به شما هشدار میدهند و میگویند: "دولت برخی از دادههای شما را درخواست میکند. میتوانید به دادگاه بروید و سعی کنید آنها را مسدود کنید." در غیر این صورت، آنها داده های شما را طی هفت روز یا هر چیز دیگری تحویل خواهند داد.
باز هم بستگی دارد. اگر این یک تحقیقات جنایی باشد، ممکن است نوعی حکم تهوع وجود داشته باشد که شرکت مجاز نباشد به شما بگوید. انواع موقعیتها وجود دارد، اما بیشتر آنها کمتر از سطح حفاظتی است که اصلاحیه چهارم اگر دادهها یا اطلاعات یا هر چیز دیگری در خانه شما باشد، نیاز دارد.
مقدار داده ای که در سرور ابری شخص دیگری دارید، بسیار زیاد است، درست است؟ هر کاری که در حال حاضر به طور کلی در اینترنت انجام می دهید به نوعی پشتیبان گیری می شود یا به نوعی در سرورهای شخص دیگری ضبط می شود. دولت این راه را پیدا کرده است تا اصلاحیه چهارم را دور بزند و بگوید: "خب، این در واقع مال شما نیست. متعلق به آمازون است. ما می توانیم با آمازون صحبت کنیم" و آمازون باید در میانه این روند بایستد و بگوید: "ما فرآیند دیگری را اختراع کرده ایم تا تا حدودی از مردم محافظت کنیم."
من به آن نگاه میکنم – و زمانی که اولین پروندههای دکترین شخص ثالث را پوشش میدادم که سرویسهای ابری را پوشش میداد و دولت همچنان برنده میشد، اساساً زمانی بود که به جوکر تبدیل شدم. من میگفتم: «همه چیزهایی که ما درباره متنگرایی و [خواندن] ساده وانمود میکنیم، هیچکدام از اینها معنایی ندارند، زیرا ما فقط با استفاده از این قانون باستانی در دادههای همه، اسب بخار را به پشت در میآوریم».
و سپس به این نگاه میکنم و به آنتروپیک نگاه میکنم و میگویم: "خب، این همان الگو است." این یک شرکت خصوصی است که میگوید، "خوب، ما موضع شما را درک میکنیم. ما درک میکنیم که شما قانون را به این معنا تفسیر کردهاید، و ما میخواهیم فرآیندی را بین شما، ابزار ما و دادههای آمریکاییهایی که از طریق سرویس ما جریان مییابند، قرار دهیم." من فقط نمیدانم که آیا شما آن موازی را در آنجا میبینید، بین Anthropic و Amazon و Azure و هر سرویس ابری دیگری که وجود دارد و این همه داده ما را نگه میدارد.
بله، اگرچه چند توضیح مهم در اینجا وجود دارد که این موضوع را کمی متفاوت می کند. و در واقع - فکر می کنم نیویورک تایمز ابتدا این گزارش را داشت - بند اصلی که برای آنتروپیک بسیار مهم بود، به طور خاص در مورد داده های جمع آوری شده از خدمات تجاری و عدم امکان استفاده از کلود در آن داده ها بود، که دقیقاً از نظر داده های شخص ثالث همین موضوع است. اما من میخواهم تفاوت اصلی بین آنچه قبلاً درباره آن صحبت میکردیم با آمازون یا سایر اشخاص ثالثی که دادههای شما را میزبانی میکردند، روشن کنم، این موارد در مواردی بود که آنها بودند، به دلیل جایی که در اکوسیستم قرار داشتند، آنها مستقیماً دادههای شما را میزبانی میکردند.
با کلود، اینطور نیست که کسی نگران استفاده از کلود توسط NSA باشد. این مربوط به این است که آنها بیرون میروند و دادههای شخص ثالث را از آمازون دریافت میکنند یا به احتمال زیاد از نوع دلالهای دادههای مخفی و پنهانی که تبلیغات را روی تلفنهای شما ارائه میکنند و مکان و علایق شما و چیزهایی از این قبیل را میدانند. و سپس آن را به یک سیستم تغذیه کنیدکه کلود سپس روی آن کار خواهد کرد. این چیزی است که آنتروپیک واقعاً نمیخواست بخشی از آن باشد. بنابراین هر کجا یا هر طور که دولت این داده ها را از شخص ثالث جمع آوری کند، آنتروپیک گفت: "ما نمی خواهیم ابزار ما روی آن داده ها استفاده شود."
اپل معروف است که در مقابل FBI می ایستد و از آن می خواهد یک درب پشتی در آیفون قرار دهد و اپل می گوید "نه" و آنها در مقابل ترامپ می ایستند. و بخشی از نحوه عملکرد سیستم ما وجود دارد که در آن شرکتهای خصوصی بزرگ به نمایندگی از مشتریان خود به دولت «نه» میگویند. و این به همان شکلی است که اپل دوباره آن را در پشتی آیفون قرار نمی دهد، یا ارائه دهندگان بزرگ ابری می گویند: «فرایند کمی وجود دارد که باید قبل از دریافت اطلاعات فردی از آن عبور کنید.»
در اینجا به نظر میرسد که آنتروپیک میگوید: «ما فقط تحلیل انبوه دادههایی را که شما از طرفهای دیگر به دست آوردهاید انجام نمیدهیم، زیرا این امر منجر به نظارت انبوه 24 ساعته آمریکاییها میشود، و ما نمیخواهیم این کار را انجام دهیم.» با این حال به نظر می رسد که این یک پل برای این دولت بسیار دور است. آیا بازگشتی از آن وجود دارد؟
خواهیم دید. در گذشته، زمانی که این اتفاق میافتاد - و بارها در مورد اکثر شرکتهای بزرگ فناوری اتفاق افتاده است، در برخی مواقع آنها گفتهاند که یک پل بسیار دور است - جایی که معمولاً به دادگاه میرود. شرکت ها به دادگاه می روند یا دولت به دادگاه می رود و نوعی دعوای دادگاه وجود خواهد داشت.
درب پشتی آیفون نمونه کاملی از آن است. این به دادگاه رفت و آنها با آن مبارزه کردند، اگرچه هرگز به نتیجه ای نرسیدند زیرا FBI در نهایت فقط به صورت دستی وارد آیفون شد و سپس نمی خواست حکم دادگاه در آینده آن را خراب کند.
اما در این مورد، جایی که تشدید است و با موقعیتهای گذشته متفاوت است، این است که دولت ترامپ به جای اینکه فقط به دادگاه مراجعه کند، این نامگذاری "خطر زنجیره تامین" را انجام داد که فقط دیوانه کننده است. این ایده که این ابزار که برای جلوگیری از عرضه فناوری توسط بازیگران مخرب خارجی طراحی شده است، می تواند ابزارهای نظارتی پنهان را در پشته فناوری بزرگتر قرار دهد، که می تواند ممنوع شود. اعمال آن در مورد یک شرکت مستقر در ایالات متحده اساساً به دلیل داشتن یک خط مشی اخلاقی، مانند یک سوء استفاده واقعی و واقعی از آن ابزار است.
حتی آن ابزار از جهاتی مشکوک بود، اما وقتی در مورد یک شرکت شبکه چینی یا چیزی در این راستا صحبت میکنید، میتوانید انگیزه پشت آن را درک کنید. اینجا، معنی ندارد. بنابراین واکنش به این امر بسیار فراتر از آن چیزی است که به طور معمول در این مورد مشاهده می شود. شما می توانید ببینید که به طور سنتی نوعی پرونده قضایی وجود دارد و هر یک از طرفین می توانند آن را شروع کنند و این فقط یک نبرد در مورد نحوه اجرای قرارداد است.
اما این چیزی نیست که اینجا اتفاق می افتد. این دولت عملاً میگوید: "اگر شما مطلقاً هر آنچه را که میخواهیم به ما ندهید، اگر ابزارهای خود را طوری تنظیم نکنید که ما میخواهیم کار کنند، ما به طور مؤثر سعی خواهیم کرد کل تجارت شما را نابود کنیم." و این یک تشدید است.
یک قسمت از این وجود دارد که میخواهم به آن پایان دهم، و این کهکشانیترین نسخه از آن است. FIRE که یک گروه حامی آزادی بیان است، درست قبل از شروع ضبط، یک پست وبلاگی منتشر کرد و این استدلال را مطرح کرد که مجبور کردن آنتروپیک به ساخت ابزارهایی که نمیخواهد بسازد، نقض آزادی بیان است، که چیزی به نام سخنرانی اجباری است. در اینجا تاریخ زیادی وجود دارد. در اینجا برخی از Verge و Techdirt عمیق، در علف های هرز، تاریخ بحران وجودی وجود دارد.
اما اساساً به این ایده برمیگردد که کد، گفتار است، نوشتن کد برای رایانه نوعی گفتار است و دولت نمیتواند شما را مجبور به انجام آن کند، و کلی چیز از آن سرچشمه میگیرد. آیا این استدلال را قبول دارید که مجبور کردن آنتروپیک به ساخت ابزارهایی که نمیخواهد بسازد، گفتار اجباری است؟
بله، من در واقع فکر می کنم نسبتا قانع کننده است. گفتار اجباری اجباری اما نه، من فکر می کنم بحث جالبی است. این یکی از موضوعاتی است که کمی پایین تر از فهرست موضوعاتی بود که من به آن فکر می کردم. واضح است که من بیشتر روی موضوعات متمم چهارم متمرکز بودم، اما فکر می کنم استدلال FIRE اشتباه نیست. ما این را در زمینه های دیگر دیده ایم. از نظر تلاش برای ساخت دربهای پشتی در سیستمهای رمزگذاریشده، در مورد درب پشتی نیز مطرح شد.
شرکت ها قطعا اول مطرح کردندمتمم مدعی است و می گوید: «سخنرانی اجباری است که ما را مجبور به نوشتن آن نوع کد می کند.» استدلال معتبری است. ممکن است مجدداً یکی از مواردی باشد که اگر دادگاه ها بتوانند به طریق دیگری با این مسائل برخورد کنند، احتمالاً کمتر تمایلی به رسیدگی به آن دارند. اما خوشحالم که FIRE آن پست را منتشر کرد و فکر می کنم استدلال جالب و قانع کننده ای است.
بله، ماهیت دولت دوم ترامپ این است که ابزاری بیپرده است، تقریباً مطمئن است که ما به یکباره به همه مسائل حمله خواهیم کرد.
بله، هر اصلاحیه منشور حقوق باید به شکلی با هر موضوع ممکن به چالش کشیده شود.
[می خندد] چرخ را بچرخانید.
من مطمئن هستم که میتوانیم یک نقض متمم سوم را در اینجا جای دهیم.
مطمئنا، بله. کلود باید در خانه شما زندگی کند. دقیقا. عالی میشه ما در حال انجام [اصلاحات] یک، سه، چهار و هفت هستیم. ما آنها را جمع می کنیم.
مایک، این عالی بود من نمی توانم باور کنم که شما قبلاً در برنامه حضور نداشته اید. این عالی بوده است باید زود برگردی
کاملا. هر وقت منو بخوای
سوال یا نظری در مورد این قسمت دارید؟ ما را در decoder@teverge.com سر بزنید. ما واقعاً هر ایمیلی را می خوانیم!
