نتحدث اليوم عن الوضع الفوضوي سريع الحركة في شركة Anthropic، صانعة فيلم Claude، والتي تجد نفسها الآن في معركة قانونية قبيحة للغاية مع البنتاغون.
إن هذا الأمر معقد، ولكن منذ بضعة أيام، اعتبر البنتاغون أنثروبيك تمثل خطرًا على سلسلة التوريد، وقد رفعت أنثروبيك دعوى قضائية تتحدى هذا التصنيف، قائلة إن الحكومة انتهكت حقوق التعديل الأول والخامس من خلال "السعي إلى تدمير القيمة الاقتصادية التي أنشأتها واحدة من أسرع الشركات الخاصة نموًا في العالم". أستطيع أن أخبرك الآن: سنتحدث عن التقلبات والمنعطفات في هذه القضية على The Verge وهنا على Decoder في الأشهر القادمة.
لكنني أردت اليوم أن أتوقف لحظة وأتعمق هنا في عنصر مهم جدًا في هذا الوضع الذي لم يحظ باهتمام كافٍ حيث خرج الأمر عن نطاق السيطرة: كيف تقوم حكومة الولايات المتحدة بالمراقبة، والسلطة القانونية التي تسمح بحدوث هذه المراقبة، ولماذا لم تكن شركة أنثروبك تثق في قول الحكومة إنها ستتبع القانون عندما يتعلق الأمر باستخدام الذكاء الاصطناعي للقيام بمزيد من المراقبة.
لا تنسوا، أيها المشتركون في Verge، أنكم تحصلون على وصول حصري إلى برنامج فك التشفير الخالي من الإعلانات أينما حصلتم على ملفات البودكاست الخاصة بكم. رئيس هنا. لست مشتركا؟ يمكنك الاشتراك هنا.
ضيفي اليوم هو مايك ماسنيك، المؤسس والرئيس التنفيذي لموقع Techdirt، الموقع الإلكتروني الممتاز وطويل الأمد لسياسة التكنولوجيا. لقد كان مايك يكتب عن تجاوزات الحكومة، والخصوصية في العصر الرقمي، وغيرها من المواضيع ذات الصلة منذ عقود. إنه خبير في كيفية نشوء الإنترنت ودولة المراقبة بطرق مترابطة.
كما ترون، هناك ما يقول القانون أن الحكومة يمكن أن تفعله عندما يتعلق الأمر بمراقبتنا، ثم ما تريد الحكومة أن تفعله. والأهم من ذلك، أن هناك ما تقول الحكومة إن القانون يمكن أن يفعله، وهو غالبًا ما يكون عكس ما قد يفكر فيه أي شخص عادي يقرأ القانون.
ستسمع مايك يشرح بتفصيل كبير هنا في هذه الحلقة أننا لا نستطيع - ولا ينبغي لنا - أن نأخذ كلام حكومة الولايات المتحدة على محمل الجد عندما يتعلق الأمر بالمراقبة. هناك تاريخ طويل للغاية من قيام المحامين الحكوميين بتحريف تفسيرات كلمات بسيطة مثل "الهدف" لتوسيع المراقبة بطرق معقدة - وهي طرق عادة ما تسبب القلق في الدوائر القانونية فقط، ولا تثار إلا عندما تكون هناك خلافات ضخمة مثل ما كشف عنه المخبر إد سنودن من وكالة الأمن القومي قبل أكثر من عقد من الزمن.
ولكن لا يوجد شيء دقيق أو متطور في صنع السياسات في عهد ترامب - وهكذا مع الأنثروبيك، نجري نقاشًا صاخبًا وعامًا للغاية حول التكنولوجيا والمراقبة في الوقت الفعلي، على الإنترنت، في منشورات المدونات والأحاديث الصاخبة، وفي المقاطع الصوتية للمؤتمرات الصحفية. هناك إيجابيات وسلبيات لذلك، ولكن لكي تفهم كل ذلك، عليك حقًا أن تعرف التاريخ.
هذا ما شرعنا أنا ومايك في شرحه في هذه الحلقة - مهما كانت وجهات نظركم حول الذكاء الاصطناعي والحكومة، ستوضح هذه الحلقة أن كلا الطرفين قد سمحا لدولة المراقبة بالتوسع بمرور الوقت. نحن الآن على أعتاب التوسع الأكبر حتى الآن عندما يتعلق الأمر بالذكاء الاصطناعي.
حسنًا: المؤسس والرئيس التنفيذي لشركة Techdirt، مايك ماسنيك، يتحدث عن مراقبة الأنثروبيك والبنتاغون والذكاء الاصطناعي. ها نحن.
تم تحرير هذه المقابلة بشكل طفيف من أجل الطول والوضوح.
مايك ماسنيك، أنت المؤسس والرئيس التنفيذي لشركة Techdirt. مرحبا بكم في فك التشفير.
يسعدني أن أكون هنا.
أنا متحمس لوجودك. كنت أقول فقط أنني مصدومة لأنك لم تشاركي في العرض من قبل. أنا وأنت نكتب وننشر حول بعضنا البعض لفترة طويلة. الكثير من تغطية سياسة The Verge تدين بما فعلته في Techdirt ومن ثم فإن ما يحدث مع Anthropic معقد للغاية، ولكنه يضرب العديد من الموضوعات التي قمت بتغطيتها لفترة طويلة. أنا سعيد لأنك هنا أخيرا.
إنها فوضى معقدة للموضوع، لكني متحمس للبحث فيه.
ما أريد التركيز عليه معك ليس تفاصيل ما إذا كانت Anthropic ستوقع عقدًا مع الحكومة أو ما إذا كانت OpenAI ستحصل على هذا العقد. بدلاً من ذلك، أنا واثق من أنه بين الوقت الذي نسجل فيه هذا والوقت الذي يستمع فيه الناس إليه، سيكون هناك المزيد من التغريدات وستكون المزيد من الأشياء مختلفة عما كانت عليه من قبل.
ما أريد التركيز عليه هو مجرد خط واحد من الخطين الأحمرين اللذين وضعتهما الأنثروبيك بالفعل. واحد منهم هوالأسلحة المستقلة، وهو مستوى التعقيد الخاص بها. إن القانون هناك أكثر حداثة قليلاً سواء كانت الأسلحة موجودة أم لا أو تم نشرها بالفعل من قبل روسيا في حرب أوكرانيا.
هناك الكثير من الأفكار هنا التي أريد فقط أن أضعها جانبًا لأنني أعتقد أنها ستركز بشكل أكبر على جدولها الزمني الخاص. الخط الأحمر الآخر الذي أريد أن أقضي الكثير من الوقت عليه هو المراقبة الجماعية. وهناك الكثير من القوانين هنا بشأن المراقبة الجماعية. هناك الكثير من التاريخ، والكثير من التاريخ المثير للجدل. إن شخصية إدوارد سنودن بأكملها موجودة بسبب الجدل الدائر حول المراقبة الجماعية.
يعود الأمر كله – أعتقد أنك من نشر هذا – إلى وكالة الأمن القومي (NSA)، التي تعد جزءًا من وزارة الدفاع، والتي يجب أن نطلق عليها الآن اسم وزارة الحرب لسبب ما.
[يضحك] ليس علينا أن نفعل أي شيء.
[يضحك] نحن لا نفعل ذلك. وهذا صحيح هنا في أمريكا. ليس علينا أن نفعل أي شيء. لكن وكالة الأمن القومي أعادت تعريف ما تعنيه الكثير من الكلمات من اللغة الإنجليزية العامية لتعني: "يمكننا فقط القيام بالمراقبة". ومن ثم تحدث فضيحة بين الحين والآخر عندما يكتشف الناس أنهم يقومون فقط بالمراقبة. لذا، قم بتهيئة المسرح هناك، ولا أريد إرجاعك إلى النهاية، ولكن لقد مر وقت طويل حيث كرر هذا النمط نفسه.
يعتمد الأمر على مدى العمق الذي تريد الوصول إليه، ولكن من الواضح أن النسخة المختصرة هي في عالم ما بعد 11 سبتمبر، حيث أقرت الولايات المتحدة قانون باتريوت، الذي كان لديه بعض القدرة للحكومة على المشاركة في المراقبة، والتي كان من المفترض أن تكون لحمايتنا من التهديدات الإرهابية المستقبلية. وبمرور الوقت، تم تفسير ذلك بطرق مثيرة للاهتمام وكانت هناك بعض القيود على ذلك. لدينا أيضًا محكمة قانون مراقبة الاستخبارات الأجنبية (FISA)، وهي محكمة خاصة من المفترض أن تراجع مجتمع الاستخبارات وأنشطته، لكنها كانت تقليديًا محكمة أحادية الجانب. يحق لطرف واحد فقط أن يترافع عن قضيته أمام تلك المحكمة، ويتم كل ذلك سرًا.
هناك الكثير من الأشياء التي لم تكن معروفة. ثم كان هناك جزء آخر في كل هذا، والذي يعود إلى عهد رونالد ريغان، وهو الأمر التنفيذي رقم 12333، والذي من المفترض أن يحدد قواعد الطريق لجمع المعلومات الاستخبارية.
إذًا لديك هذه المجموعات الثلاث من القوانين - حسنًا، مجموعات قليلة من القوانين - وأمر تنفيذي يبدو للجمهور، الأجزاء التي يمكنك قراءتها، أنها تقول أشياء معينة حول ما يمكن أن تفعله حكومتنا ووكالة الأمن القومي على وجه الخصوص فيما يتعلق بالمراقبة. عندما نقرأ باستخدام قاموس إنجليزي بسيط، وهو قاموس ربما نفهمه أنا وأنت، فإننا نخرج باعتقاد مفاده أن قدرة وكالة الأمن القومي على مراقبة الأمريكيين كانت محدودة للغاية، في الواقع إلى الحد الذي يفترض بهم القيام به، إذا أدركوا أنهم يراقبون شخصًا أمريكيًا، فمن المفترض أن يتوقفوا فورًا ويصرخوا ويمسحوا البيانات وكل هذه الأشياء الأخرى.
كانت هناك شائعات لفترة من الوقت بأن ذلك لم يحدث بالفعل وكانت هناك تلميحات، وعلى وجه الخصوص، كان السيناتور رون وايدن صريحًا جدًا بشأن الذهاب إلى قاعة مجلس الشيوخ والقول: "هناك شيء ليس صحيحًا هنا ولا أستطيع أن أخبركم بالضبط ما هو"، أو في جلسات الاستماع كان يسأل مسؤولي المخابرات، "هل تقومون أم لا بجمع بيانات جماعية عن الأمريكيين؟"
هؤلاء المسؤولون إما أن ينحرفوا عن مسارهم أو يكذبوا صراحة في بعض الحالات. أعتقد أنها كانت جلسة استماع واحدة في عام 2012 مع جيمس كلابر، الذي كان مديرًا للاستخبارات الوطنية في ذلك الوقت، حيث سُئل مباشرة عن هذه النقطة. وقد قال في الأساس: "لا، نحن لا نجمع بيانات عن الأمريكيين". وكان ذلك جزءًا كبيرًا مما ألهم إد سنودن لتسريب البيانات، والتقارير التي سربها إلى جلين جرينوالد وبارتون جيلمان ولورا بويتراس أيضًا. ومن كل ذلك، ما بدأنا نكتشفه هو أن وكالة الأمن القومي لديها قاموسها الخاص الذي يختلف إلى حد ما عن القاموس الذي نستخدمه أنا وأنت، بحيث يمكنهم تفسير الكلمات بطرق مختلفة عن معناها الإنجليزي البسيط، بما في ذلك كلمات مثل "الهدف"، والتي تبدو وكأنها كلمة رئيسية. الفهم الواسع لماهية هذا هو أنه، من الناحية النظرية، من المفترض أن يستهدفوا فقط الأشخاص الذين ليسوا مواطنين أمريكيين، كما أعتقد، هذه هي العبارة.
لكن الطريقة التي تم تفسيرها مع مرور الوقت هي أن أي شيء يذكر ذلك الشخص، أو أي شيء يتعلق بشخص أجنبي، أصبح الآن لعبة عادلة، حتى لو كان ذلك عبارة عن اتصالات من دولة ما.شخص أمريكي. لذا، إذا قمت أنا وأنت بمراسلة بعضنا البعض وذكرنا شخصًا أجنبيًا، فهذه الآن لعبة عادلة بالنسبة لوكالة الأمن القومي لجمعها والاحتفاظ بها وتخزينها.
هناك جزء ثان من هذا. لقد ذكرت أولاً الأمر التنفيذي رقم 12333 الصادر عن رونالد ريغان، والذي، مع تغير التكنولوجيا بمرور الوقت ونمو الإنترنت، سمح لوكالة الأمن القومي فعليًا بالتنصت على الاتصالات الأجنبية، لكن ذلك شمل أي اتصالات ربما تركت الولايات المتحدة في طريقها إلى مكان ما. لذا، إذا كنت أرسل إليك رسالة نصية وأرسلت رسالة مني في كاليفورنيا عبر كابل ألياف بصرية حدث أنه غادر الولايات المتحدة، فيمكن لوكالة الأمن القومي أن تضغط على الجزء بمجرد أن يكون خارج الولايات المتحدة وتجمع تلك المعلومات، حتى لو كانت مرسلة إليك داخل الولايات المتحدة فقط.
يمكن لوكالة الأمن القومي بعد ذلك الاحتفاظ بهذه المعلومات حتى لو كانت تخص أشخاصًا أمريكيين، ويمكنها إجراء عمليات بحث محددة عنها لاحقًا، والتي يشار إليها أحيانًا باسم "التفتيش الخلفي". لقد جمعوا هذه المعلومات التي نعتقد أنه لم يكن من المفترض أن يجمعوها في المقام الأول، لكن يمكنهم الاحتفاظ بها. وقد وعدوا، وأقسموا، أنهم سيحافظون على خصوصية الأمر، ولكن إذا أجروا بحثًا ووجدوا أنك أو أنا ذكرت شخصًا أجنبيًا، فجأة كانت لعبة عادلة بالنسبة لهم أن يفعلوا ما يريدون به.
في المجمل، تحول ذلك إلى عالم تستطيع فيه الحكومة الفيدرالية بشكل أساسي جمع أي معلومات يتم لمسها خارج الولايات المتحدة. حتى لو كان الأمر بين شخصين أمريكيين بالكامل، إذا ذكرا أو حتى أشارا إلى شخص ليس مواطنًا أمريكيًا، فجأة يصبح جمع الأموال لعبة عادلة. ومن ذلك حصلنا على ما يبدو أنه شكل من أشكال المراقبة الجماعية للأشخاص الأمريكيين من قبل وكالة الأمن القومي التي تدعي وتعلن علنًا أنها لا تتجسس على الأشخاص الأمريكيين.
كيف وصلنا إلى هذه النقطة؟ هذا كثير من الخطوات الصغيرة الإضافية. لقد ذكرت جيمس كلابر في عام 2012، وهي إدارة أوباما. لقد ذكرت رونالد ريغان، تلك كانت فترة الثمانينات. نحن نمر بالديمقراطيين والجمهوريين هنا.
لقد حدثت الحرب على الإرهاب في إدارة جورج دبليو بوش، وحدثت أحداث 11 سبتمبر وقانون الوطنية في إدارة جورج دبليو بوش. هناك الكثير من الأشياء السيئة المتزايدة في ظل رؤساء كلا الحزبين، وفي ظل مؤتمرات كلا الحزبين. كيف حدث هذا؟
أبسط أشكال ذلك هو أنه لا أحد، وبالتأكيد لا يوجد رئيس، يريد أن يصبح رئيسًا خلال الوقت الذي يقع فيه هجوم إرهابي كبير، لأن ذلك يجعلهم يبدون سيئين. من الواضح أنهم يريدون أيضًا حماية الأمريكيين، أليس كذلك؟ هذا جزء من عملهم. إذا كان لديك مجتمع استخباراتي يعمل بشكل أساسي في الظلام لأن هذا ما تفعله مجتمعات الاستخبارات ويستمرون في القدوم إليك ويقولون: "مرحبًا، إذا تمكنا من الوصول إلى هذه المعلومات، فسيكون ذلك مفيدًا حقًا في منع وقوع هجوم إرهابي".
قد تكون هناك حالات يكون فيها هذا صحيحًا، حيث يكون مجتمع الاستخبارات قادرًا على استخدام هذه المعلومات بطريقة تعمل بشكل جيد. ولكننا أيضاً، من الناحية النظرية، مجتمع قوانين وله دستور أميركي من المفترض أن نلتزم به. لكن هذا يسمح بحقيقة أن الإدارة تلو الأخرى، مرة أخرى، الجمهوريين والديمقراطيين، كان لديها محامون أذكياء للغاية والذين ينظرون إلى الأمر ويقولون: "حسنًا، إذا اتخذنا موقفًا بهذه الطريقة أو فسرنا هذا، وبهذه الطريقة يمكننا الحصول على ما نريد وعدم خرق القانون من الناحية الفنية أو عدم انتهاك التعديل الرابع من الناحية الفنية".
كان الافتراض دائمًا هو: "يمكننا نوعًا ما أن نطوي القانون أو نحرف تفسيرنا للقانون ولن يرى أحد هذا أبدًا، أو لن يرى أي شخص مهتم هذا أبدًا، وبالتالي سنفلت من العقاب".
هناك شيئان يقفزان في وجهي حقًا. أولاً، أنا وأنت نقرأ الكثير من قرارات المحكمة – قرارات محكمة الاستئناف وقرارات المحكمة العليا. وهناك صراع في محكمتنا العليا حول كيفية تفسير الكلمات الواردة في قوانيننا وقوانيننا حرفيًا.
لن أخوض في هذا الأمر كثيرًا، لكنني أود أن أقول بشكل عام إن فكرة أنه يجب عليك فقط قراءة الكلمات الموجودة على الصفحة والقيام بما تقوله هي السلالة السائدة في التفسير القانوني في الولايات المتحدة. يميناً ويساراً، كلاهما يقول ذلك. إنهم يتجادلون حول بعض النقاط الدقيقة للغاية حول ما يعنيه ذلك في الواقع. لكن يجب أن تكون قادرًا فقط على قراءة هذه الكلمات والقيام بما تقوله، فهذا ليس في متناول يدك، أليس كذلك؟
لقد وصلنا على الأقل إلى تلك التمريرة الأولى لما قد تحصل عليهاستدعاء النصوصية. كيف يبتعد المحامون في كلتا الإدارتين عن النمط السائد في اتخاذ القرارات القانونية في بلادنا؟ ويتفق قضاة كلا الطرفين على أن هذه هي الخطوة الأولى على الأقل.
أتمنى أن أعرف الإجابة الدقيقة، لكني أعتقد أنه تفكير مدفوع، أليس كذلك؟ كمحامي، أنت هناك للدفاع عن موكلك ونجاح نظامنا القانوني - إذا كنت تستطيع تسميته بالنجاح - يميل إلى الاعتماد على وجود موقف خصامي حيث يكون لديك أطراف مختلفة تتجادل حول هذه الأمور، حيث يكون دور المحكم هو تضييق نطاق الأمر ومعرفة الجانب الصحيح بالفعل.
إحدى مشاكل مجتمع الاستخبارات وطريقة تشكيله هي أنك لا تواجه هذا الوضع العدائي. وهذا يجعل من السهل على أحد الأطراف تبرير الحجة التي يقدمها لأنه لا أحد يعارضها حقًا. يمكنك دمج ذلك مع الخوف الشامل من هجوم إرهابي آخر، أو أي شيء يتعلق بالأمن القومي، وحتى عندما يكون لديك مواقف حيث تكون لديك محكمة قانون مراقبة الاستخبارات الأجنبية - أعني أن محكمة قانون مراقبة الاستخبارات الأجنبية كانت مشهورة إلى حد ما لكونها ختمًا مطاطيًا لسنوات عديدة.
لقد نسيت الأرقام الدقيقة، ولكن ما يزيد عن 99 بالمائة من الطلبات التي تم تقديمها إلى محكمة قانون مراقبة الاستخبارات الأجنبية للسماح بمراقبة مواقف معينة قد تمت الموافقة عليها، ومن السهل القول أن 99 بالمائة من الطلبات أكثر من اللازم. من الواضح أن أولئك الذين يرفعون الدعاوى إلى المحكمة، يقومون بالاختيار والاختيار. إنهم، في أغلب الأحيان، لا يقدمون ادعاءات مجنونة تمامًا. ولكن من دون هذا الجانب العدائي، ومع وجود مجموعة متحمسة للغاية من الأشخاص الذين يعتقدون: "نحن بحاجة إلى القيام بذلك"، أو الذين تقول لهم الإدارة: "نحن بحاجة إلى القيام بذلك"، فسوف يجدون طرقًا للقيام بذلك. وهذا هو المكان الذي ينتهي بك الأمر مع مرور الوقت.
هل كان هناك أي شخص مشارك في هذه العملية استيقظ يومًا وقال لنفسه: "يا فتى، لقد تمكنا من إعادة تعريف كلمة "الهدف" لتعني أي شيء نريده"؟
[يضحك] من الواضح أن لديك إد سنودن، الذي سرب مجموعة من الوثائق. كان لديك جون نابير تاي، الذي كتب مقالاً لصحيفة واشنطن بوست في عام 2014، والذي كشف عن تفسير الأمر التنفيذي رقم 12333، وقال إن هذه هي القضية الحقيقية التي يجب الاهتمام بها. هناك أشخاص آخرون تحدثوا عن هذه الأمور، لكن في الأغلب، الأشخاص الذين يشاركون في العمل داخل الإدارة في أمور مجتمع الاستخبارات يتم اقتناؤهم من وجهة نظر مجتمع الاستخبارات، وهو أن الهدف الأسمى هو حماية البلاد من شيء سيء. أفضل طريقة للقيام بذلك هي الحصول على أكبر قدر ممكن من المعلومات.
من السهل أن تتعاطف مع الحجة القائلة بأن الحصول على المزيد من المعلومات قد يسمح لهم بالتعرف على شيء ما في وقت مبكر أو العثور على شيء مهم، ولكن قد لا يكون هذا صحيحًا. ربما يكون الحصول على قدر كبير جدًا من المعلومات أمرًا سيئًا مثل القليل جدًا من المعلومات، لأنه غالبًا ما يؤدي إلى إخفاء المعلومات المفيدة بالفعل، وهي المعلومات التي تحتاجها بالفعل لتحديد شيء ما.
ولكن لدينا أيضًا الولايات المتحدة. الدستور في المقام الأول، ولدينا أسباب تجعلنا، من الناحية النظرية، لا يفترض بنا أن نسمح بالمراقبة الجماعية دون سبب محتمل. كدولة تؤمن بسيادة القانون، يجب أن نكون قادرين على الارتقاء إلى مستوى ذلك، وعندما تحدث كل هذه الأشياء في الظلام، فسوف تميل إلى إغفال ذلك.
هذا يقودني إلى الأنثروبي. الأنثروبيك هي في المقام الأول شركة مؤسسة. إنهم جيدون في الحكومة، لقد بنوا تلك العضلات، ويعمل بهم أشخاص على دراية جيدة ببعض هذه الأشياء. ومن الواضح أنهم نظروا إلى بيت هيجسيث وهو يقول: "نريد كل الاستخدامات المشروعة"، ثم نزلوا مستويين من التفسير وقالوا: "حسناً، اعتقادك الحرفي هو أن هذه الكلمات لا تعني ما يقولونه في ظاهرها. لذا فإن عبارة "كل الاستخدامات المشروعة" كبيرة للغاية، ونحن نريد وضع بعض الحواجز وخاصة حول المراقبة الجماعية".
مرة أخرى، سأقوم بتحديد الأسلحة المستقلة، والتي كانت بمثابة الخط الأحمر الآخر، ولكن بشكل خاص فيما يتعلق بالمراقبة الجماعية، داريو أمودي يقول: "يمكننا أن نفعل الكثير. وهذا أمر خطير للغاية. وهذا انتهاك للتعديل الرابع".
التوتر هناك هو "أنت تقول إنك ستلتزم بهذه القوانين التي تقول شيئًا واحدًا، والآن، بعد كل هذا الوقت، تعني شيئًا مختلفًا تمامًا ونحن لا نريد أن نكون جزءًا من ذلك". هذا هويعارك. أريد فقط أن أقارن ذلك بسام ألتمان، الذي انقضاض ليقول: "سنقوم بجميع الاستخدامات القانونية"، ثم نشر هذه الرسالة الطويلة مثل: "هذه هي جميع القوانين التي سنلتزم بها".
يبدو أن ألتمان لم يكن يعرف كيف أعادت وكالة الأمن القومي تفسير هذه الأشياء وتم التلاعب به نوعًا ما. وقد بدأ منذ ذلك الحين في التراجع عن الأمر - حتى ونحن نسجل، أنا واثق من أن هناك المزيد من التغريدات وأن مواقف الجميع قد تغيرت. لكن ألتمان كان يتراجع ببطء، ولكن يبدو أن OpenAI قد اضطرت إلى قراءة القوانين على وجوههم وتصديق ما قالوه. فهل هذا تفسيرك للأحداث أيضا؟
هناك احتمالان، وهذا أحدهما. الأول هو أنه تم اللعب به بنفس الطريقة التي تم اللعب بها مع الجمهور لسنوات عديدة. النظرية البديلة، وليس لدي أي فكرة عن صحة أي منها، هي أنه أو بعض المحامين في OpenAI - الذين أعتقد أنهم على درجة عالية من الكفاءة والمعرفة - يعرفون ذلك، لكنهم اعتقدوا أنهم يمكن أن يلعبوا نفس اللعبة التي لعبتها وكالة الأمن القومي لبضعة عقود، حيث طالما أنهم يقولون هذه الأشياء ثم يقولون الكلمات، لكنهم لا يكشفون عن التفسيرات الفعلية، فيمكنهم الإفلات من العقاب أيضًا. لذلك خرج سام بالبيان الذي جعل الأمر يبدو كما لو: "كانت لدينا نفس الخطوط الحمراء التي كانت لدى الأنثروبيك، وكانت الحكومة رائعة في ذلك".
في الواقع، أعتقد أن سام ألتمان قال إن الأنثروبيك لديها خطان أحمران وأن OpenAI لديها ثلاثة، وكانت الحكومة راضية تمامًا عن ذلك، مما ترك الكثير من الناس في حيرة من أمرهم. لكنني أعتقد أنه إما أن سام ألتمان ومن كان يحيط به لم يفهموا كيفية عمل هذه الأشياء عمليًا، أو أنهم فعلوا ذلك، وافترضوا فقط أن الجمهور لن يعرف، وبالتالي يمكنهم الإفلات من العقاب.
الشيء الآخر الذي يتبادر إلى ذهني هو أن الذكاء الاصطناعي جديد ومن المغري للغاية أن نتوصل إلى تقنيات جديدة لأن هذه مشكلات تتعلق بالانطباعات الأولى. "لم يضطر أحد إلى التفكير في هذا من قبل"، ولكن الحقيقة هي أن الجميع كانوا يفكرون في هذه الأشياء لفترة طويلة. ربما يكون الشيء الجديد هنا ليس الذكاء الاصطناعي، لكن إدارة ترامب الثانية، بدلاً من القيام بمجموعة من المحاماة التي ربما لن يقرأها أحد على الإطلاق لتبرير تصرفاتها أمام محكمة سرية لا ينتبه إليها أحد، بدلاً من ذلك، ليست بهذه الدقة.
إنهم ليسوا متطورين إلى هذا الحد ويقولون فقط إنهم سيتجسسون على الجميع طوال الوقت. لقد أعلنوا للتو عن نواياهم بطريقة ربما ينبغي على جميع الإدارات أن تعلن عن نواياها وترى أين ستقع الرقائق.
لكنني أنظر إلى حقيقة وجود إد سنودن هنا في مدينة نيويورك. تدير AT&T مبنى يعرف الجميع أنه مبنى تابع لوكالة الأمن القومي. إنه مجرد مبنى عملاق، ومن المفترض أن نتظاهر بأنه ليس مركز مراقبة تابع لوكالة الأمن القومي، ولكنه موجود هناك. إنها ضخمة. ويبدو أن لا شيء من هذا قد وصل إلى أي شيء. كل هذه الاكتشافات، وهذه التسريبات، لم نتراجع عنها.
في الواقع، لقد ازداد هذا الرقم مع تحول الكثير من حياتنا إلى رقمية أكثر فأكثر. وربما تكون إدارة ترامب أداة فظة في جميع الأوقات، وقد يكون هذا في الواقع هو الشيء الذي يسبب الحساب. هل ترى أن هذا يحدث على أي حال؟
هناك بعض الأشياء المختلفة، وليس صحيحًا تمامًا أننا لم نتراجع عن هذه الأشياء على الإطلاق. لقد أدت اكتشافات سنودن إلى بعض التغييرات في كيفية حدوث هذه الأشياء. وهناك الآن - نسيت ما يطلقون عليه، لكنهم مثل هؤلاء الأصدقاء المدنيين داخل محكمة قانون مراقبة الاستخبارات الأجنبية الذين سيعملون كممثلين للجانب الآخر في قضايا معينة.
وقد رأينا بعض السلطات مقيدة بطرق معينة، ويطالبون بإعادة التفويض بين الحين والآخر، وكان النشطاء عدوانيين للغاية في الرد ومحاولة وضع المزيد من حواجز الحماية. لكن بالنسبة للسؤال الأكبر، أعتقد أن هناك شيئين مختلفين. أنت نصف محق في أن هذه الإدارة ليست خفية وتقول بصوت عالٍ فقط الأشياء التي لا ينبغي لها فعلها.
"نحن في حالة حرب مع إيران، نحن نفعل ذلك، إنه يحدث. لن نجرب حتى الرقصة".
بطرق لم تفعلها جميع الإدارات السابقة. لكنهم لم يقولوا ذلك بشكل مباشرالمراقبة، وخاصة مراقبة الأمريكيين. لقد كانت هناك تلميحات لذلك، لكنهم لم يخرجوا بقوة عن ذلك. النصف الآخر من الأمر يتعلق بالمزيد من خلال تحديد موقع Anthropic والنظرة العامة للذكاء الاصطناعي باعتبارها تقنية ربما تكون وجودية، حيث قدمت Anthropic نفسها دائمًا على أنها "نحن الأخيار المدروسون"، وما إذا كنت تعتقد أن هذا أمر خارج عن الموضوع أم لا. لديهم هذه السمعة: "نحن نحاول القيام بذلك بطريقة آمنة، تحترم الإنسانية وتهتم بكل هذه الأشياء". وهكذا عندما يكون لديك هذا الصدام، هنا يأتي الصراع.
لديك إدارة ترامب التي تريد فقط أن تكون قادرة على القيام بكل ما تريد أن تكون قادرة على القيام به، وهم ليسوا دقيقين بشأن ذلك. ثم لدينا الأنثروبولوجي، الذي يكون وصفه الذاتي وشخصيته العامة دائمًا مثل: "نحن مفكرون ونحترم الإنسانية والحقوق وكل هذه الأشياء". ربما كان هذا هو المكان الذي وقع فيه الصدام، لأن شركة أنثروبيك، كما تم التوضيح، عملت مع وزارة الدفاع لفترة من الوقت ولديها العديد من العقود الأخرى مع الحكومة التي استخدمتها. لم تكن مشكلة.
فقط في هذه المجالات المحددة، حيث كانت الحكومة تسعى إلى توسيع العقد الذي أبرمته، بدأت القيادة العليا لشركة Anthropic بالقول: "انتظر، علينا أن نتأكد من أننا لا نتجاوز هذه الخطوط الحمراء التي من شأنها أن تضر بسمعتنا كمزود مدروس وآمن للذكاء الاصطناعي".
أريد أن أسألك بإيجاز عن المراقبة بشكل عام، وعلى وجه الخصوص الاهتمام بالتعديل الرابع للأنثروبيك. ينص التعديل الرابع على أن الحكومة لا يمكنها تفتيشك بشكل غير معقول. أفضل طريقة لفهم التعديل الرابع هي الاستماع إلى أغنية "99 مشكلة" للكاتب جاي زي. لذا، إذا كنت بحاجة إلى أخذ قسط من الراحة والاستماع إلى "99 مشكلة"، فهذا رائع. كل شيء هناك. لقد استمعت إليها عندما كنت في كلية الحقوق وكان الأمر منطقيًا تمامًا.
لكن الحكومة بشكل عام تحتاج إلى أمر تفتيش لتفتيشك. ومع مرور المزيد والمزيد من حياتك عبر الإنترنت، هناك الكثير والكثير من الاستثناءات لذلك. لكن الفكرة هي أنهم ما زالوا بحاجة إلى مذكرة عبر الإنترنت. وحجة الأنثروبيك هي: "حسنًا، الذكاء الاصطناعي لن يكل أبدًا. يمكنه البحث في كل شيء طوال الوقت. وهذا يعني أننا سنقوم فقط بالمراقبة الرئيسية".
ومع ذلك، حتى قبل ظهور الذكاء الاصطناعي، كانت فكرة أن الحكومة يمكنها تفتيش كل ما يخصك موجودة، وفكرة أن الحكومة لا تحتاج إلى مذكرة تفتيش لتفتيش جميع أغراضك كانت موجودة. فكرة أنه إذا خرجت أي من بياناتك خارج البلاد لمدة ثانية قصيرة، فإن الحكومة تعترضها هناك،
عندما كنت في الكلية، في وقت قريب من صدور قانون باتريوت، كان النقاش يدور حول أنهم لن يبحثوا في بياناتك الفعلية، لكن يمكنهم الحصول على البيانات الوصفية والبيانات الوصفية فقط. ستكون البيانات المتعلقة ببياناتك كافية لتحديد موقعك بدقة في جميع الأوقات. وحتى هذا بعيد جدًا. وكنا نقوم بهذه الرقصة حول ما الذي يمكن للحكومة أن تجمعه؟ ما هو المسموح به؟ ما الذي يحتاجونه للحفاظ على سلامتنا جميعًا وما هو بعيد جدًا؟ لقد تحركت تلك الخطوط.
لذا، قم فقط بوصف موجز للقلق العام بشأن المراقبة على نطاق واسع وأين نحن الآن. قبل أن يجعل وضع الذكاء الاصطناعي كل شيء أكثر تعقيدًا بشكل كبير.
وهنا لا بد لي من أن أطرح مفهوماً آخر ربما كان ينبغي ذكره سابقاً، لكنه مهم، وهو ما يسمى بـ”مبدأ الطرف الثالث”. الفكرة في التعديل الرابع هي أن الحكومة لا يمكنها تفتيشك أو تفتيش الأشياء الخاصة بك دون أمر قضائي، ولا يمكنها الحصول على أمر قضائي دون سبب محتمل لارتكابك نوعاً من الجرائم. ولكن هناك هذا المفهوم الذي جاء منذ عقود مضت يسمى مبدأ الطرف الثالث، والذي يقول أن هذا لا ينطبق بالضرورة، أو لا ينطبق على الإطلاق، على الأشياء التي ليست لك، حتى لو كانت بياناتك.
كانت النسخة الأقدم والأكثر وضوحًا من ذلك هي سجلات الهاتف التي كانت لدى شركة الهاتف لمن اتصلت به. لم تكن شركات الهاتف تسجل مكالماتك، لكنها كانت تسجل إذا اتصلت بك، سيكون هناك سجل في شركة الهاتف يقول، "مايك يتصل بنيلاي". وما قررته محاكم متعددة هو أنه يمكن للحكومة أن تذهب وتطلب ذلك، وهم لا يحتاجون إلى أمر قضائي لذلك لأنه ليس تفتيشًابياناتك، إنه هذا الطرف الثالث ويمكنه الموافقة كطرف ثالث على تسليم تلك البيانات فقط.
لكن تلك كانت حالات من الستينيات والسبعينيات، حيث تقرر أن الحكومة يمكنها الوصول إلى ذلك دون أمر قضائي، عندما لم يكن هناك الكثير من بيانات الطرف الثالث. أدى ظهور أجهزة الكمبيوتر والإنترنت إلى تغيير ذلك. الآن، كل شيء هو بيانات طرف ثالث. كل ما نقوم به يتم جمعه بواسطة شركة ما في مكان ما ولديها سجل به. لذا، فإن كل جزء من البيانات المتعلقة بك، ومكان تواجدك، ومن تتحدث إليه، ومن تتفاعل معه، وما تقوله، وما تفعله، كل ذلك تقريبًا تحتفظ به أطراف ثالثة هذه الأيام. لذا فقد ابتلع مبدأ الطرف الثالث التعديل الرابع بأكمله إلى حد ما، حيث أن أي شيء يتعلق بك ويمتلكه شخص آخر، هناك معيار أقل بكثير لما يمكن أن تفعله الحكومة لطلب ذلك.
فقط لأكون محددًا، هذا يعني أنه عندما تكون بياناتي في iCloud، يمكن للحكومة الذهاب إلى Apple وإخراج بياناتي من iCloud دون إخباري على الإطلاق؟
يمكنهم أن يطلبوا ذلك. يمكنهم طلب ذلك بسهولة دون أمر قضائي. ومن ثم تتمتع الشركة بحقوقها الخاصة ويمكنها تحديد ما تريد فعله بهذا الطلب. يمكنهم فقط التخلي عنها. يمكنهم، كما سيفعل معظمهم، إذا كان الطلب جديًا، رفض الطلبات تمامًا أو يمكنهم تنبيهك ويمكنهم القول - وهذا ما سيفعله معظمهم - سينبهونك ويقولون: "الحكومة تطلب بعض بياناتك. يمكنك الذهاب إلى المحكمة ومحاولة حظرها". إذا لم يكن الأمر كذلك، فسوف يقومون بتسليم بياناتك في سبعة أيام أو أيًا كان.
مرة أخرى، هذا يعتمد. إذا كان الأمر يتعلق بتحقيق جنائي، فقد يكون هناك نوع من أمر حظر النشر حيث لا يُسمح للشركة بإخبارك. هناك جميع أنواع المواقف، لكن معظمها ينطوي على مستوى أقل من مستوى الحماية الذي يتطلبه التعديل الرابع إذا كان بيانات أو أي معلومات أو أي شيء في منزلك.
كمية البيانات الموجودة على خادم سحابي لشخص آخر هائلة، أليس كذلك؟ يتم الآن نسخ كل شيء تفعله بشكل عام على الإنترنت احتياطيًا بطريقة ما أو تسجيله بطريقة ما على خوادم شخص آخر. لقد وجدت الحكومة هذه الطريقة للالتفاف على التعديل الرابع والقول: "حسنا، هذا ليس ملكك في الواقع. إنه ينتمي إلى أمازون. يمكننا أن نتحدث إلى أمازون"، ويتعين على أمازون أن تقف في منتصف تلك العملية وتقول: "لقد اخترعنا عملية أخرى لحماية الناس إلى حد ما".
أنظر إلى ذلك، وعندما كنت أغطي أول حالات عقيدة الطرف الثالث التي غطت الخدمات السحابية واستمرت الحكومة في الفوز، كان ذلك في الأساس عندما تحولت إلى الجوكر. لقد كنت مثل، "كل هذه الأشياء التي نتظاهر بها بشأن النصوص و[القراءة] البسيطة، لا شيء من هذا يعني شيئًا لأننا فقط نصل إلى الباب الخلفي باستخدام هذا القانون القديم في بيانات الجميع."
ثم أنظر إلى هذا وأنظر إلى الأنثروبي وأقول، "حسنًا، هذا هو نفس النمط." هذه شركة خاصة تقول: "حسنًا، نحن نفهم موقفك. نحن ندرك أنك قمت بإعادة تفسير القانون ليعني هذا الشيء، وسوف نقوم بوضع بعض العمليات بينك وبين أداتنا، وبيانات الأمريكيين التي تتدفق عبر خدمتنا". أنا فقط أتساءل عما إذا كنت ترى هذا التوازي هناك، بين Anthropic وAmazon وAzure وأي خدمات سحابية أخرى موجودة تحتوي على الكثير من بياناتنا.
نعم، على الرغم من وجود بعض التوضيحات المهمة هنا والتي تجعل الأمر مختلفًا بعض الشيء. وفي الواقع - أعتقد أن صحيفة نيويورك تايمز نشرت هذه التقارير أولاً - كان البند الرئيسي الأكثر أهمية بالنسبة إلى أنثروبيك يتعلق على وجه التحديد بالبيانات التي تم جمعها من الخدمات التجارية وعدم القدرة على استخدام كلود في تلك البيانات، وهي بالضبط هذه المشكلة فيما يتعلق ببيانات الطرف الثالث. لكنني أريد توضيح الفرق الرئيسي بين ما كنا نتحدث عنه للتو من قبل مع أمازون أو الجهات الخارجية الأخرى التي تستضيف بياناتك، وكانت تلك حالات حيث كانوا، بسبب موقعهم في النظام البيئي، كانوا يستضيفون بياناتك مباشرة.
بالنسبة لكلود، لا يعني ذلك أن أي شخص يشعر بالقلق من قيام وكالة الأمن القومي بالبحث في استخدامات كلود الخاصة بك. يتعلق الأمر بخروجهم والحصول على بيانات طرف ثالث من أمازون أو على الأرجح نوع من وسطاء البيانات المختبئين الذين يقدمون الإعلانات على هواتفك ويعرفون موقعك واهتماماتك وأشياء من هذا القبيل. ومن ثم إدخال ذلك في النظامالذي سيعمل عليه كلود بعد ذلك. هذا ما لم ترغب الأنثروبيك حقًا في أن تكون جزءًا منه. لذا، أينما أو كيف ستجمع الحكومة تلك البيانات من طرف ثالث، قالت أنثروبك: "لا نريد أن يتم استخدام أداتنا في تلك البيانات".
من المعروف أن شركة أبل تقف في وجه مكتب التحقيقات الفيدرالي وتطلب منه وضع باب خلفي في جهاز آيفون، وتقول أبل "لا"، ويقفون في وجه ترامب. وهناك جزء من كيفية عمل نظامنا حيث تستطيع الشركات الخاصة الكبرى أن تقول "لا" للحكومة نيابة عن عملائها. وهذا يبدو بنفس الطريقة التي تقول بها شركة Apple، مرة أخرى، إنها لن تضعها في باب خلفي على iPhone، أو يقول مقدمو الخدمات السحابية الكبار: "هناك القليل من العملية التي يتعين عليك القفز خلالها قبل أن تحصل على البيانات الفردية."
هنا يبدو أن الأنثروبيك تقول: "نحن لن نقوم فقط بإجراء تحليل مجمع للبيانات التي حصلنا عليها من أطراف أخرى لأن ذلك يؤدي إلى مراقبة جماعية للأمريكيين على مدار الساعة طوال أيام الأسبوع، ونحن لا نريد أن نفعل ذلك". ومع ذلك، يبدو هذا بمثابة جسر بعيد جدًا بالنسبة لهذه الإدارة. فهل هناك عودة من ذلك؟
سوف نرى. في الماضي، عندما حدث ذلك - وقد حدث ذلك مرات عديدة مع معظم شركات التكنولوجيا الكبرى، في مرحلة ما قالوا إن شيئًا ما يعد جسرًا بعيدًا جدًا - حيث يذهب ذلك عادةً إلى المحكمة. ستذهب الشركات إلى المحكمة أو ستذهب الإدارة إلى المحكمة وسيكون هناك نوع من المعركة القضائية.
يعد الباب الخلفي لجهاز iPhone مثالًا مثاليًا على ذلك. تم رفع الأمر إلى المحكمة وتجادلوا بشأنه، على الرغم من أنهم لم يتوصلوا أبدًا إلى نتيجة لأن مكتب التحقيقات الفيدرالي قام في النهاية باقتحام جهاز iPhone يدويًا ثم لم يرغب في أن يفسد حكم المحكمة ذلك في المستقبل.
ولكن في هذه الحالة، حيث يكون التصعيد ويختلف عن تلك المواقف السابقة، بدلاً من مجرد الذهاب إلى المحكمة، قامت إدارة ترامب بتسمية "مخاطر سلسلة التوريد"، وهو أمر جنوني. هذه الفكرة هي أن هذه الأداة التي تم تصميمها لمنع الجهات الخبيثة الأجنبية المحتملة من توفير التكنولوجيا، والتي يمكنها بعد ذلك وضع أدوات مراقبة مخفية في مجموعة التكنولوجيا الأكبر، يمكن حظرها. إن تطبيق ذلك على شركة مقرها الولايات المتحدة بشكل أساسي من أجل وجود سياسة أخلاقية يبدو وكأنه إساءة استخدام حقيقية لتلك الأداة.
حتى تلك الأداة كانت محل شك في بعض النواحي، ولكن يمكنك فهم الدافع وراءها عندما تتحدث عن شركة شبكات صينية أو شيء من هذا القبيل. هنا، لا معنى له. لذا فإن رد الفعل على ذلك يتجاوز بكثير ما يمكن رؤيته عادة في هذه الحالة. يمكنك أن ترى تقليديًا أنه سيكون هناك نوع من الدعاوى القضائية ويمكن لأي من الطرفين أن يبدأها وستكون مجرد معركة حول كيفية تطبيق العقد.
لكن هذا ليس ما يحدث هنا. تقول هذه الإدارة فعلياً: "إذا لم تقدم لنا كل ما نريده على الإطلاق، وإذا لم تقم بإعداد أدواتك للعمل بالطريقة التي نريدها أن تعمل بها، فسنحاول فعلياً تدمير عملك بالكامل". وهذا تصعيد.
هناك جزء واحد من هذا أريد أن أنهيه، وهو نوع من النسخة الأكثر ذكاءً من هذا. نشرت FIRE، وهي مجموعة مناصرة لحرية التعبير، تدوينة قبل أن نبدأ التسجيل مباشرة، حيث قدمت الحجة القائلة بأن إجبار Anthropic على بناء أدوات لا ترغب في بنائها يعد انتهاكًا لحرية التعبير، وأنه شيء يسمى الكلام القسري. هناك الكثير من التاريخ هنا. هناك بعض الأحداث العميقة لـ Verge و Techdirt، في الأعشاب، وتاريخ الأزمة الوجودية هنا.
لكن الأمر في الأساس يعود إلى فكرة أن البرمجة هي كلام، وأن كتابة التعليمات البرمجية للكمبيوتر هي شكل من أشكال الكلام ولا تستطيع الحكومة إجبارك على القيام بذلك، وتتدفق مجموعة كاملة من الأشياء من ذلك. هل تصدق هذه الحجة القائلة بأن إجبار الأنثروبولوجيا على بناء أدوات لا ترغب في بنائها هو خطاب قسري؟
نعم، في الواقع أعتقد أنه مقنع إلى حد ما. خطاب مقنع مقنع. لكن لا، أعتقد أنها حجة مثيرة للاهتمام. لقد كانت هذه إحدى المشكلات التي كانت في أسفل قائمة المشكلات التي كنت أفكر فيها. من الواضح أنني كنت أكثر تركيزًا في الغالب على قضايا التعديل الرابع، لكنني أعتقد أن حجة FIRE ليست خاطئة. وقد رأينا هذا في سياقات أخرى. لقد ظهرت هذه المشكلة أيضًا في مسألة الباب الخلفي، فيما يتعلق بمحاولة بناء أبواب خلفية في الأنظمة المشفرة.
الشركات أثارت بالتأكيد أولايزعم التعديل قائلاً: "إنه خطاب إجباري لإجبارنا على كتابة هذا النوع من التعليمات البرمجية". إنها حجة صحيحة. ربما تكون المحاكم، مرة أخرى، أقل استعدادًا لمعالجتها في البداية إذا تمكنت من التعامل مع هذه القضايا بطريقة أخرى. لكنني سعيد لأن FIRE نشرت هذا المنشور وأعتقد أنها حجة مثيرة للاهتمام ومقنعة.
نعم، إن طبيعة إدارة ترامب الثانية هي أنها أداة فظة، ومن شبه المؤكد أننا سنهاجم كل القضايا في وقت واحد.
نعم، يجب الطعن في كل تعديل على ميثاق الحقوق بشكل أو بآخر مع كل قضية محتملة.
[يضحك] أدر العجلة.
أنا متأكد من أنه يمكننا وضع انتهاك التعديل الثالث في مكان ما هنا.
بالتأكيد، نعم. يجب على كلود أن يعيش في منزلك الآن. بالضبط. سيكون الأمر رائعًا. نحن نقوم بإجراء [التعديلات] الأول والثالث والرابع والسابع. نحن نجمعها.
مايك، لقد كان هذا رائعًا. لا أستطيع أن أصدق أنك لم تشارك في العرض من قبل. لقد كان هذا عظيما. عليك أن تعود قريبا.
قطعاً. متى شئت .
أسئلة أو تعليقات حول هذه الحلقة؟ تابعنا على decoder@theverge.com. نحن حقا نقرأ كل البريد الإلكتروني!
