اليوم في برنامج Decoder، أتحدث مع رونان فارو، أحد أكبر نجوم التحقيقات الاستقصائية اليوم. لقد كسر قصة هارفي وينشتاين، من بين العديد من القصص الأخرى. وفي الأسبوع الماضي فقط، نشر هو والمؤلف المشارك أندرو مارانتز مقالًا عميقًا مذهلاً في مجلة The New Yorker حول الرئيس التنفيذي لشركة OpenAI، سام ألتمان، ومصداقيته، وصعود OpenAI نفسها.
ملاحظة واحدة قبل أن نمضي قدمًا هنا — نشرت صحيفة نيويوركر تلك القصة، وقد أجرينا هذه المحادثة أنا ورونان قبل أن نعرف المدى الكامل للهجمات على منزل ألتمان، لذلك لن تسمعنا نتحدث عن ذلك بشكل مباشر. ولكن فقط لأقول ذلك، أعتقد أن العنف من أي نوع غير مقبول، وهذه الهجمات على سام كانت غير مقبولة، وأن هذا النوع من العجز الذي يشعر به الناس، والذي يؤدي إلى هذا النوع من العنف، هو في حد ذاته غير مقبول، ويستحق المزيد من التدقيق من كل من الصناعة وقادتنا السياسيين. آمل أن يكون هذا واضحا.
لا تنسوا، أيها المشتركون في Verge، أنكم تحصلون على وصول حصري إلى برنامج فك التشفير الخالي من الإعلانات أينما حصلتم على ملفات البودكاست الخاصة بكم. رئيس هنا. لست مشتركا؟ يمكنك الاشتراك هنا.
بعد كل ما قيل، هناك الكثير من الأمور التي تدور حول ألتمان والتي تعتبر لعبة عادلة للتقارير الدقيقة - وهو نوع التقارير التي شرع رونان وأندرو في القيام بها. بفضل شعبية ChatGPT، برز ألتمان باعتباره الشخصية الأكثر وضوحًا في صناعة الذكاء الاصطناعي، بعد أن حول مختبر أبحاث غير ربحي في السابق إلى شركة خاصة تبلغ قيمتها تريليون دولار تقريبًا في غضون سنوات قليلة. لكن أسطورة ألتمان متضاربة بشدة، ويتم تحديدها بالتساوي من خلال قدرته الواضحة على عقد الصفقات وميله المعلن إلى ... حسنًا، الكذب على كل من حوله.
يبلغ طول القصة أكثر من 17000 كلمة، ويمكن القول إنها تحتوي على الرواية النهائية لما حدث في عام 2023 عندما قام مجلس إدارة OpenAI فجأة بطرد ألتمان بسبب كذبه المزعوم، فقط ليتم إعادة تعيينه على الفور تقريبًا. إنه أيضًا غوص عميق في حياة ألتمان الشخصية، واستثماراته، ومغازلته لأموال الشرق الأوسط، وتأملاته الخاصة حول سلوكه السابق وسماته الشخصية التي دفعت أحد المصادر إلى القول إنه "غير مقيد بالحقيقة". أقترح عليك قراءة القصة بأكملها؛ أظن أنه سيتم الرجوع إليه لسنوات عديدة قادمة.
تحدث رونان إلى ألتمان عدة مرات خلال الأشهر الثمانية عشر التي قضاها في كتابة هذا المقال، لذا فإن أحد الأشياء الرئيسية التي أثارت فضولي هو ما إذا كان قد شعر بأي تغيير في ألتمان خلال تلك الفترة. ففي نهاية المطاف، لقد حدث الكثير في مجال الذكاء الاصطناعي، وفي مجال التكنولوجيا، وفي العالم على مدى العام ونصف العام الماضيين.
ستسمع رونان يتحدث عن ذلك بشكل مباشر للغاية، بالإضافة إلى إحساسه بأن الناس أصبحوا أكثر استعدادًا للحديث عن قدرة ألتمان على توسيع الحقيقة. بدأ الناس يتساءلون، بصوت عالٍ وبشكل رسمي، ما إذا كان سلوك أشخاص مثل ألتمان مثيرًا للقلق، ليس فقط بالنسبة للذكاء الاصطناعي أو التكنولوجيا، ولكن أيضًا بالنسبة للمستقبل الجماعي للمجتمع.
حسنًا: رونان فارو يتحدث عن سام ألتمان والذكاء الاصطناعي والحقيقة. ها نحن.
تم تحرير هذه المقابلة بشكل طفيف من أجل الطول والوضوح.
رونان فارو، أنت مراسل استقصائي ومساهم في صحيفة نيويوركر. مرحبا بكم في فك التشفير.
سعيد لوجودي هنا. شكرا لاستضافتي.
أنا متحمس جدًا للتحدث معك. لقد كتبت للتو مقالة كبيرة لصحيفة نيويوركر. إنها ملف تعريفي لـ Sam Altman، وOpenAI نوعًا ما. قراءتي له هي أنه، كما تفعل جميع الميزات الرائعة، فإنه، من خلال التقارير الدقيقة، يؤكد صحة الكثير من المشاعر التي كان لدى الناس تجاه Sam Altman لفترة طويلة جدًا. من الواضح أنك نشرته، وحصلت على ردود فعل عليه. كيف تشعر حيال ذلك الآن؟
حسنًا، لقد شجعتني، في الواقع، من مدى نجاحها في وقت أصبح فيه اقتصاد الاهتمام مصابًا بالفصام وضحلًا. وهذه قصة، في رأيي، تؤثر علينا جميعا. وعندما أمضيت عامًا ونصف من حياتي، وقضى المؤلف المشارك، أندرو مارانتز، ذلك الوقت من حياته، محاولًا فعلًا القيام بشيء شرعي ودقيق، كان ذلك دائمًا لأنني أشعر أن هناك قضايا هيكلية أكبر تؤثر على الأشخاص بما يتجاوز الفرد والشركة في قلب القصة.
سام ألتمان، على خلفية ثقافة الضجيج في وادي السيليكون والشركات الناشئة التي تتضخم إلى تقييمات هائلة بناءً على وعود قد تتحقق أو لا تتحقق في المستقبل، واحتضان متزايد لثقافة المؤسس التي تعتقد أن إخبار المجموعات المختلفة بأشياء متضاربة مختلفة هو ميزة، وليس ميزة.علة... حتى في ظل هذه الخلفية، يعد سام ألتمان حالة استثنائية حيث لا يستطيع كل من يتوقع تلك الأشياء في وادي السيليكون التوقف عن الحديث عن مسألة مصداقيته وأمانته.
كنا نعلم بالفعل أنه تم فصله بسبب نسخة من مزاعم عدم الأمانة أو الكذب المزعوم. لكن بشكل غير عادي، وعلى الرغم من وجود تقارير رائعة، فقد قام كيتش هاجي بعمل رائع في هذا الشأن. لقد قامت كارين هاو بعمل رائع في هذا الشأن. لم يكن هناك حقًا فهم نهائي لنقاط الإثبات الفعلية المزعومة والأسباب التي جعلت تلك النقاط بعيدة عن أعين الجمهور.
لذا فإن النقطة الأولى هي أنني أشعر بالارتياح لحقيقة أن بعض تلك الفجوات في معرفتنا العامة، وحتى في معرفة المطلعين على بواطن الأمور في وادي السيليكون، قد تم سدها الآن بشكل أكبر قليلاً. لقد تم ملء بعض الأسباب التي أدت إلى وجود فجوات أكثر قليلاً.
نقوم بالإبلاغ عن الحالات التي شعر فيها الأشخاص داخل هذه الشركة حقًا أنه تم التستر على الأشياء أو عدم توثيقها عمدًا. أحد الأشياء الجديدة في هذه القصة هو التحقيق المحوري الذي أجرته شركة المحاماة WilmerHale، والتي من الواضح أنها شركة محاماة كبيرة وذات مصداقية قامت بإجراء تحقيقات بشأن Enron وWorldCom، والتي، بالمناسبة، كانت كلها ضخمة، مثل مئات الصفحات المنشورة. أجرى ويلمرهيل هذا التحقيق الذي طلبه أعضاء مجلس الإدارة الذين طردوا ألتمان كشرط لرحيلهم عندما تخلص منهم، وعاد. وبشكل غير عادي - في نظر العديد من الخبراء القانونيين الذين تحدثت إليهم، وبشكل صادم في نظر العديد من الأشخاص في هذه الشركة - فقد أبقوا الأمر بعيدًا عن الكتابة. كل ما نتج عن ذلك كان بيانًا صحفيًا مكونًا من 800 كلمة من OpenAI يصف ما حدث بأنه انهيار الثقة. وأكدنا أن هذا الأمر تم الاحتفاظ به في الإحاطات الشفهية.
هناك حالات، على سبيل المثال، يبدو أن أحد أعضاء مجلس الإدارة يريد التصويت ضد التحويل من النموذج الأصلي غير الربحي لـ OpenAI إلى كيان ربحي، ويتم تسجيله على أنه امتناع عن التصويت. وكأن أحد المحامين يقول في الاجتماع: "حسنًا، قد يؤدي ذلك إلى الكثير من التدقيق". والشخص الذي يريد التصويت ضده يتم تسجيله كممتنع عن التصويت عن جميع المظاهر. هناك نزاع على الحقائق. تدعي شركة OpenAI خلاف ذلك، كما قد تتخيل. هذه كلها حالات تكون فيها لديك شركة تحمل، من خلال حسابها الخاص، مستقبلنا بين يديها.
إن المخاطر الأمنية حادة للغاية لدرجة أنها لم تختف. هذا هو السبب وراء تأسيس هذه الشركة كمنظمة غير ربحية تركز على السلامة، وحيث تم حجب الأمور بطريقة وجدها الأشخاص ذوو المصداقية في هذا الأمر أقل احترافية. وتقترن ذلك بخلفية حيث لا يوجد سوى القليل من الرغبة السياسية في التنظيم الهادف. أعتقد أنه وضع قابل للاشتعال للغاية.
النقطة المهمة بالنسبة لي ليست فقط أن سام التمان يستحق هذه الأسئلة بشدة. إنه أيضًا أن أيًا من هؤلاء الأشخاص في هذا المجال، والعديد من الشخصيات الرئيسية، يُظهرون، إن لم يكن هذه السمة المميزة، سمة الكذب المزعومة طوال الوقت، بالتأكيد درجة ما من عقلية السباق إلى القاع، حيث قام الأشخاص الذين كانوا من دعاة السلامة بتخفيف تلك الالتزامات ووضعية الجميع في سباق.
أعتقد أنه بينما ننظر إلى التسريبات الأخيرة من Anthropic، هناك شخص يطرح سؤالاً حول من يجب أن يضع إصبعه على الزر في هذه القطعة. الجواب هو، إذا لم يكن لدينا رقابة ذات معنى، أعتقد أنه يتعين علينا طرح أسئلة جدية ومحاولة كشف أكبر قدر ممكن من المعلومات حول كل هؤلاء الأشخاص. لذا فقد أسعدني ما بدا وكأنه محادثة ذات معنى حول ذلك الأمر، أو بداياته.
سبب سؤالي بهذه الطريقة هو أنك عملت على هذا لمدة عام ونصف. لقد تحدثت، على ما أعتقد، مع 100 شخص مع مؤلفك المشارك، أندرو. هذا وقت طويل لطهي القصة. أفكر في العام ونصف العام الماضيين في الذكاء الاصطناعي على وجه الخصوص، وقد تغيرت مواقف وقيم كل هذه الشخصيات بسرعة كبيرة.
ربما ليس أكثر من Sam Altman، الذي بدأ كفائز افتراضي لأنه أطلق سراح ChatGPT واعتقد الجميع أن ذلك سيحل محل Google. وبعد ذلك ردت جوجل، الأمر الذي بدا مفاجئًا لهم بأن جوجل ستحاول حماية أعمالها، التي ربما تكون واحدة من أفضل الشركات في تاريخ التكنولوجيا، إن لم يكن في تاريخ الأعمال. قررت الأنثروبيك أنها ستركز على المشروع. يبدو أنها تأخذ زمام المبادرةهناك لأن استخدام المؤسسات للذكاء الاصطناعي مرتفع جدًا.
الآن، تعمل شركة OpenAI على إعادة تركيز منتجها بعيدًا عن عبارة "سنتغلب على Google" إلى Codex، وسوف تستحوذ على المؤسسة. لا أستطيع أن أعرف تمامًا ما إذا كان يبدو أن الشخصيات التي كنت تتحدث إليها قد تغيرت خلال فترة إعداد تقاريرك على مدار العام ونصف العام الماضيين؟ مثل مواقفهم وقيمهم، هل تغيرت تلك؟
نعم. أعتقد أولاً وقبل كل شيء، أن النقد الذي يتم استكشافه في هذه المقالة، والذي يأتي من العديد من الأشخاص داخل هذه الشركات في هذه المرحلة - أن هذه صناعة تنحدر، على الرغم من المخاطر الوجودية، إلى ما يشبه السباق نحو القاع فيما يتعلق بالسلامة وحيث تتفوق السرعة على كل شيء آخر - وقد أصبح هذا القلق أكثر حدة. وأعتقد أن هذه المخاوف قد تأكدت أكثر مع مرور العام ونصف العام الماضيين. في الوقت نفسه، تغيرت المواقف تجاه سام ألتمان على وجه التحديد. عندما بدأنا التحدث إلى المصادر حول هذا الأمر، كان الناس حذرين حقًا من أن يتم نقلهم عن هذا الأمر والتسجيل في هذا الشأن.
بحلول نهاية تقريرنا، يكون لديك مجموعة من التقارير يتحدث فيها الأشخاص عن هذا الأمر بشكل علني وصريح للغاية، ويكون لديك أعضاء مجلس إدارة يقولون أشياء مثل، "إنه كاذب مرضي. إنه معتل اجتماعيًا". هناك مجموعة من وجهات النظر تبدأ من "هذا أمر خطير بالنظر إلى المخاطر المتعلقة بالسلامة، ونحن بحاجة إلى قادة في هذه التكنولوجيا يتمتعون بنزاهة عالية"، وصولاً إلى ما يلي: "انسوا المخاطر المتعلقة بالسلامة، هذا سلوك لا يمكن الدفاع عنه لأي مسؤول تنفيذي في أي شركة كبرى، فهو يخلق الكثير من الخلل الوظيفي".
لذلك أصبحت المحادثة أكثر وضوحًا بطريقة قد تبدو متأخرة، ولكنها مشجعة من ناحية. ويُحسب لسام ألتمان... أن هذه القطعة عادلة جدًا، بل وسخية أيضًا، بالنسبة لسام. ليس هذا هو نوع القطعة التي تحتوي على الكثير من الأشياء التي "فهمتك". لقد أمضيت ساعات عديدة على الهاتف معه بينما كنا ننهي هذا الأمر وسمعناه حقًا.
كما يمكنك أن تتخيل، في مقطوعة كهذه، لا ينجح كل شيء. بعض تلك الحالات في هذه القطعة كانت بسبب أنني كنت أستمع بإخلاص. وإذا كان سام يقدم حجة بالفعل بأنني شعرت بأنني أحمل الماء، وأن شيئًا ما، حتى لو كان صحيحًا، يمكن أن يكون مثيرًا، فقد أخطأت حقًا في الحفاظ على هذا الطب الشرعي وقياسه. لذلك أعتقد أن هذا يتم تلقيه بشكل صحيح، وآمل فقط أن يؤدي هذا السجل الواقعي الذي تراكم خلال هذه الفترة الزمنية إلى إطلاق محادثة أكثر تحفيزًا حول الحاجة إلى الرقابة.
هذا في الواقع سؤالي التالي. أعتقد أنك تحدثت إلى سام عشرات المرات خلال كتابة هذه القصة. مرة أخرى، هذا كثير من المحادثات على مدى فترة طويلة من الزمن. هل تعتقد أن سام قد تغير خلال فترة إعداد التقارير خلال العام ونصف العام الماضيين؟
نعم. أعتقد أن إحدى الحبكات الفرعية الأكثر إثارة للاهتمام في هذا هو أن سام ألتمان يتحدث أيضًا عن هذه السمة بشكل أكثر وضوحًا مما كان عليه في الماضي. موقف سام في هذه القطعة ليس مثل: "لا يوجد شيء هناك، هذا غير صحيح؛ لا أعرف ما الذي تتحدث عنه". الموقف الذي يتخذه هو أنه يقول إن هذا يعزى إلى الميل إلى إرضاء الناس ونوع من النفور من الصراع. إنه يعترف بأن ذلك سبب له مشاكل، خاصة في وقت سابق من حياته المهنية.
فهو يقول: "حسنًا، أنا أتجاوز ذلك، أو تجاوزت ذلك إلى حد ما". أعتقد أن ما يثير الاهتمام حقًا بالنسبة لي هو مجموعة الأشخاص الذين تحدثنا إليهم والذين لم يكونوا مجرد نوع من المدافعين عن السلامة، وليس فقط الباحثين الفنيين الأساسيين الذين غالبًا ما يكون لديهم هذه المخاوف الحادة المتعلقة بالسلامة، ولكن أيضًا المستثمرين الواقعيين الكبار. إنهم من أنصار سام، الذين ينظرون، في بعض الحالات، إلى هذا السؤال ويتحدثون عن أنهم لعبوا دورًا رئيسيًا في عودته بعد الطرد. والآن، فيما يتعلق بهذا السؤال حول ما إذا كان قد تم إصلاحه، وإلى أي مدى يعتبر هذا التغيير ذا معنى، يقولون: "حسنًا، لقد منحناه فائدة الشك في ذلك الوقت".
وأفكر في أحد المستثمرين البارزين على وجه الخصوص الذي قال: "ولكن منذ ذلك الحين، يبدو من الواضح أنه لم يتم إخراجه خلف مخزن الحطب"، وهي العبارة التي استخدمها هذا المستثمر، إلى الحد الذي كان ضروريًا. ونتيجة لذلك، يبدو أن هذه سمة مستقرة الآن. نحن نرى هذا بطريقة مستمرة. يمكنك إلقاء نظرة على بعض أكبر أعمال OpenAIالعلاقات والطريقة التي تحمل بها ثقل عدم الثقة بطريقة مستمرة.
كما هو الحال مع ميكروسوفت، تتحدث إلى المديرين التنفيذيين هناك، ويكون لديهم مخاوف حادة ومحفزة مؤخرًا. هناك هذا المثال حيث، في نفس اليوم، تؤكد OpenAI مجددًا على حصريتها مع Microsoft فيما يتعلق بنماذج الذكاء الاصطناعي الأساسية عديمة الجنسية، كما تعلن أيضًا عن صفقة جديدة مع Amazon تتعلق ببيع حلول المؤسسات لبناء وكلاء الذكاء الاصطناعي ذوي الحالة، مما يعني أن لديهم ذاكرة.
عندما تتحدث إلى موظفي Microsoft، يقولون: "لا يمكن القيام بذلك دون التفاعل مع الأشياء الأساسية التي لدينا صفقة حصرية بشأنها." وهذا مجرد مثال واحد من العديد من الأمثلة الصغيرة التي تدخل فيها هذه السمة في النشاط التجاري المستمر طوال الوقت، وهي موضوع اهتمام نشط داخل مجلس إدارة OpenAI، وداخل جناحها التنفيذي، وفي مجتمع التكنولوجيا الأوسع.
أنت تستمر في قول تلك "السمة". هناك سطر في القصة يبدو لي وكأنه أطروحة، وهو وصف للسمة التي تصفها. إنها أن "سام ألتمان غير مقيد بالحقيقة" وأنه يمتلك "سمتين لا يمكن رؤيتهما تقريبًا في نفس الشخص: الأولى هي الرغبة القوية في إرضاء الناس، وأن يكون محبوبًا في أي تفاعل معين، والثانية هي عدم الاهتمام بالعواقب التي قد تأتي من خداع شخص ما".
يجب أن أخبرك، لقد قرأت تلك الجملة 500 مرة، وحاولت أن أتخيل دائمًا قول ما يريد الناس أن ينال إعجابهم ثم عدم الانزعاج عندما يشعرون بالكذب عليهم. ولم أتمكن من جعل حالتي العاطفية تفهم كيف يمكن لهذه الأشياء أن توجد في نفس الشخص. لقد تحدثت مع سام كثيرًا، وتحدثت مع أشخاص اختبروا هذه السمات. كيف يفعل ذلك؟
نعم. إنه أمر مثير للاهتمام على المستوى الإنساني لأنني أتعامل مع هيئات مثل هذه التقارير مع التركيز الحقيقي على إضفاء الطابع الإنساني على كل من هو في قلبها والسعي إلى الفهم العميق والتعاطف. عندما حاولت نوعًا ما أن أتناول هذا الأمر من وجهة نظر أكثر إنسانية وأقول: "سيكون هذا مدمرًا بالنسبة لي إذا قال الكثير من الأشخاص الذين عملت معهم إنني كاذب مرضي. كيف تتحمل هذا العبء؟ كيف تتحدث عن ذلك في العلاج؟ ما هي القصة التي ترويها لنفسك عن ذلك؟"
لدي نوع من العبارات المبتذلة في الساحل الغربي، من وجهة نظري، حول هذا الأمر مثل، "نعم، أحب تمارين التنفس". لكن ليس هناك الكثير من هذا النوع من الإحساس القوي بالمواجهة الذاتية العميقة الذي أعتقد أنه من المحتمل أن يكون لدى الكثير منا إذا رأينا هذا النوع من ردود الفعل حول سلوكنا ومعاملتنا للناس.
أعتقد أن هذا ينطبق في الواقع على الإجابة الأوسع على السؤال أيضًا. يؤكد سام أن هذه السمة تسببت في حدوث مشكلات، ولكنها أيضًا جزء مما مكنه من تسريع نمو OpenAI لدرجة أنه أصبح قادرًا على توحيد وإرضاء مجموعات مختلفة من الناس. إنه يقنع باستمرار كل هذه الدوائر المتضاربة بأن ما يهتمون به هو ما يهتم به. ويمكن أن تكون هذه مهارة مفيدة حقًا للمؤسس. لقد تحدثت إلى المستثمرين الذين قالوا بعد ذلك: "حسنًا، ربما تكون هذه مهارة أقل فائدة لإدارة الشركة فعليًا لأنها تزرع الكثير من الخلافات".
لكن على الجانب الشخصي لسام، أعتقد أن الشيء الذي ألاحظه عندما أحاول التواصل على المستوى الإنساني هو الافتقار الواضح إلى المواجهة الأعمق والتفكير والمساءلة الذاتية، وهو ما يوضح أيضًا تلك القوة العظمى أو المسؤولية التي تتحملها الشركة التي تستعد للاكتتاب العام الأولي.
إنه شخص، على حد تعبير أحد أعضاء مجلس الإدارة السابقين الذي يُدعى سو يون، والذي تم تسجيله في المقال الذي يقول إن العبارة التي تستخدمها إلى حد "العجز"، قادر حقًا على تصديق الواقع المتغير لعروض مبيعاته أو قادر على إقناع نفسه بها. أو على الأقل إذا لم يصدقهم، فهو قادر على التبجح بهم دون أي شك ذاتي.
أعتقد أن الشيء الذي تتحدث عنه، حيث يمكننا أنت أو أنا، بينما نقول الشيء وندرك أنه يتعارض مع الضمانات الأخرى التي قطعناها على أنفسنا، نحظى بلحظة من التجميد أو التحقق من أنفسنا. أعتقد أن هذا لا يحدث معه. وهناك ثقافة الضجيج الأوسع في وادي السيليكون وثقافة المؤسس التي تحتضن ذلك نوعًا ما.
إنه مضحك. تم بناء The Verge على ما يرقى إلى مستوى مراجعات المنتجبرنامج. إنه قلب ما نقوم به هنا. أحمل تريليون دولار من أموال البحث والتطوير لشركة Apple مرة واحدة سنويًا وأقول: "هذا الهاتف هو سبعة". وهذا يضفي الشرعية على كل تقاريرنا وآرائنا في أماكن أخرى. لدينا وظيفة تقييمية، ونقضي الكثير من الوقت في النظر إلى منتجات الذكاء الاصطناعي ونتساءل: "هل تعمل؟"
يبدو هذا وكأنه مفقود من الكثير من المحادثات حول الذكاء الاصطناعي كما هو الحال اليوم. هناك نقاش لا نهاية له حول ما يمكن أن يفعله، ومدى خطورته. ومن ثم تتعمق أكثر وتقول: "هل يقوم بالفعل بالشيء الذي من المفترض أن يفعله اليوم؟" في بعض الحالات، الجواب هو نعم. ولكن في كثير من الحالات، الجواب هو لا.
يبدو هذا وكأنه يرتبط بثقافة الضجيج التي تصفها وأيضًا بمعنى أنه، حسنًا، إذا قلت إنها ستفعل شيئًا ولم تفعله، وشعر شخص ما بالسوء، فلا بأس لأننا في الشيء التالي. هذا في الماضي. وفي مجال الذكاء الاصطناعي على وجه الخصوص، يجيد سام تقديم الوعود الكبرى.
في هذا الأسبوع فقط، أعتقد أنه في نفس اليوم الذي نُشرت فيه قصتك، أصدرت OpenAI وثيقة سياسة تنص على أنه يتعين علينا إعادة التفكير في العقد الاجتماعي والحصول على رواتب كفاءة الذكاء الاصطناعي من الحكومة. هذا وعد كبير حول كيف يمكن لبعض التكنولوجيا أن تشكل مستقبل العالم وكيف نعيش، وكل ذلك يعتمد على التكنولوجيا التي تعمل بالطريقة التي وعدت بها بالعمل أو ينبغي أن تعمل.
هل سبق لك أن وجدت سام يشكك في تحول الذكاء الاصطناعي إلى الذكاء الاصطناعي العام أو الذكاء الفائق أو الوصول إلى خط النهاية؟ لأن هذا هو الشيء الذي أتساءل عنه أكثر. هل هناك أي تفكير حول ما إذا كانت هذه التكنولوجيا الأساسية قادرة على القيام بكل الأشياء التي يقولون إنها تستطيع القيام بها؟
إنها بالضبط مجموعة الأسئلة الصحيحة. هناك خبراء تكنولوجيون ذوو مصداقية تحدثنا إليهم في هذه المجموعة من التقارير - ومن الواضح أن سام ألتمان ليس واحدًا منهم؛ إنه رجل أعمال - يقول إن الطريقة التي يتحدث بها سام عن الجدول الزمني لهذه التكنولوجيا بعيدة كل البعد عن الواقع. هناك منشورات على مدونة تعود إلى بضع سنوات حيث يقول سام: "لقد وصلنا بالفعل إلى أفق الحدث. الذكاء الاصطناعي العام موجود هنا بشكل أساسي. الذكاء الفائق قاب قوسين أو أدنى. سنكون على كواكب أخرى. سوف نعالج جميع أشكال السرطان." الحقيقة أنني لا أتجمل.
إن حالة السرطان مثيرة للاهتمام في الواقع، حيث أن سام يضخم الشخص الذي عالج نظريًا سرطان كلبه باستخدام ChatGPT، وهذا ببساطة لم يحدث. لقد تحدثوا إلى ChatGPT، وقد ساعدهم ذلك في توجيه بعض الباحثين الذين قاموا بالعمل بالفعل، لكن هذه الأداة الفردية التي عالجت هذا الكلب ليست في الواقع القصة.
أنا سعيد لأنك أثرت هذه النقطة لأنني أريد أن أنتقل إلى هذه النقطة الأكبر حول متى ستتحقق إمكانات التكنولوجيا ومخاطرها بالفعل. لكن من الجدير بالذكر هذه الجوانب الصغيرة التي تحدث باستمرار من سام ألتمان، حيث يبدو أنه يجسد هذه السمة مرة أخرى.
أعني، استخدام مثال تقرير ويلمر هيل، حيث كانت لدينا هذه المعلومات التي تم إبقاؤها خارج الكتابة، وأردنا معرفة ما إذا كان الموجز الشفهي على طول الطريق قد تم تقديمه إلى أي شخص آخر غير عضوي مجلس الإدارة اللذين ساعد سام في تثبيتهما للإشراف عليه. فقال: "نعم، نعم، لا، أعتقد أنها مُنحت لكل من انضم إلى مجلس الإدارة بعد ذلك." ولدينا شخص لديه معرفة مباشرة بالوضع يقول إنها مجرد كذبة. ويبدو أن هذا هو الحال حقًا، وهو غير صحيح. إذا أردنا أن نكون كرماء، فربما كان مخطئًا.
هناك الكثير من هذه التأكيدات غير الرسمية. وأنا أستخدم هذا المثال جزئيًا لأنه مثال رائع على الإخفاء، دعنا نسميه، والذي يمكن أن يكون له عواقب حقيقية من الناحية القانونية. لا أحتاج أن أخبرك، بموجب قانون الشركات في ولاية ديلاوير، إذا كانت هذه الاكتتابات العامة الأولية للشركة، فيمكن للمساهمين، بموجب المادة 220، تقديم شكوى حول هذا الأمر والمطالبة بالوثائق الأساسية. هناك بالفعل أعضاء في مجلس الإدارة يقولون أشياء مثل، "حسنًا، انتظر لحظة، كان ينبغي أن تتم هذه الإحاطة".
لذا فإن هذه الأشياء التي تبدو وكأنها تقفز من فمه طوال الوقت، يمكن أن يكون لها تأثيرات حقيقية تحرك السوق، تأثيرات حقيقية على OpenAI. إن إعادتها إلى نوع لغة الضجيج اليوتوبية التي عادت إلى الظهور، أعتقد أنه ليس من قبيل الصدفة في اليوم الذي صدرت فيه هذه القطعة، فهي تؤثر أيضًا علينا جميعًا، لأن المخاطر حادة جدًا فيما يتعلق بالطريقة التي يتم بها عرضها.يتم نشرها في الأسلحة، والطريقة التي يتم استخدامها لتحديد عوامل الحرب الكيميائية، وإمكانية التضليل، وبسبب الطريقة التي يبدو أن الضجيج الطوباوي يدفع بها الكثير من الاقتصاديين الموثوقين إلى القول: "هذا يحمل كل علامات الفقاعة".
حتى سام ألتمان قال: "سيخسر شخص ما الكثير من المال هنا". يمكن أن يؤدي ذلك إلى إحداث فجوة كبيرة في النمو الاقتصادي الأمريكي والعالمي، إذا كان هناك ثقب حقيقي للفقاعة التي تشمل جميع هذه الشركات التي تعقد صفقات مع بعضها البعض، وتعتمد كل شيء على الذكاء الاصطناعي بينما تقترض بكثافة. لذا فإن ما يقوله سام ألتمان مهم، وأعتقد أن أغلبية الأشخاص من حوله، كما ذكرت، تحدثنا إلى أكثر من مائة، وكان العدد في الواقع أكثر من مائة. أجرينا محادثة عند خط النهاية حيث كان الأمر كالتالي: "هل سيكون من التافه أن نقول أن هذا الرقم أعلى بكثير؟" وكنا نقول: "نعم، دعونا نقلل من شأن الأمر. سنلعب الأمر بشكل رائع". لكن كان هناك الكثير من الناس وأغلبية كبيرة منهم يقولون: "هذا مصدر قلق". وأعتقد أن هذا هو السبب.
دعني أسألك عن هذا الرقم. كما ذكرت، أصبح الناس أكثر انفتاحًا بشأن مخاوفهم مع مرور الوقت. يبدو الأمر كما لو أن الضغط المحيط بالفقاعة - السباق للفوز، وسداد كل هذه الاستثمارات، والظهور كفائز، والاكتتاب العام الأولي - قد غيّر الكثير من المواقف. من المؤكد أنه خلق المزيد من الضغط على Sam وOpenAI.
لقد نشرنا قصة هذا الأسبوع حول المشاعر الإيجابية لـ OpenAI. قصتك جزء منها، ولكن هناك تغييرات هائلة في التوظيف في الرتب التنفيذية في OpenAI - فالناس يأتون ويذهبون. يتجه جميع الباحثين بعيدًا، إلى حد كبير إلى الأنثروبولوجيا، وهو ما أعتقد أنه مثير للاهتمام حقًا. يمكنك أن ترى أن هذه الشركة تشعر بالضغط، وأنها تستجيب لهذا الضغط بطريقة ما.
ولكن بعد ذلك أفكر في طرد سام. هذا لا ينسى بالنسبة لي. إنه أمر لا يُنسى بالنسبة لأي شخص آخر، لكنني تلقيت مكالمة من مصدر في حديقة حيوان برونكس في الساعة 7 مساءً يوم الجمعة، وكان هناك شخص يقول إنهم سيحاولون استعادة سام. وبعد ذلك أمضينا عطلة نهاية الأسبوع في مطاردة تلك القصة. فقلت لنفسي: "أنا في حديقة الحيوان. ماذا تريد مني أن أفعل هنا؟" وكان الجواب: "ابق على الهاتف". حسنًا، كانت ابنتي تقول: "ابتعد عن الهاتف". وهذا ما فعلته.
لقد كان الأمر أشبه بالركوب أو الموت لاستعادة سام. كانت تلك الشركة تقول: "لا، لن نسمح لمجلس الإدارة بإقالة سام ألتمان". أعتقد أن المستثمرين، كما ورد في مقالتك، "لقد ذهبنا إلى الحرب" هو موقف شركة Thrive Capital، "لاستعادة سام". ذهبت مايكروسوفت إلى الحرب لاستعادة سام. لقد حان الوقت لاحقًا، والآن يقول الجميع: "نحن ذاهبون إلى الاكتتاب العام. وصلنا إلى خط النهاية. لقد استعدنا رجلنا، وسيوصلنا إلى خط النهاية. نحن قلقون من أنه كاذب".
لماذا كانت الحرب لاستعادته في ذلك الوقت؟ لأنه لا يبدو أن أي شيء قد تغير بالفعل. أنت تتحدث عن المذكرات التي احتفظ بها إيليا سوتسكيفر و[الرئيس التنفيذي لشركة الأنثروبي] داريو أمودي عندما كانا معاصرين لسام التمان. كان اهتمام إيليا الأول هو أن سام كاذب.
لم يتغير شيء من ذلك. فلماذا كانت الحرب لإعادته في ذلك الوقت؟ والآن بعد أن وصلنا إلى خط النهاية، يبدو أن كل المخاوف أصبحت مكشوفة.
حسنًا، أولاً، آسف لابنتك وشريكي وجميع الأشخاص الآخرين المحيطين بالصحفيين.
[يضحك] لقد كانت عطلة نهاية أسبوع رائعة للجميع.
نعم، إنها تسيطر على حياة المرء، وهذه القصة هي قصتي بالتأكيد، خلال الفترة الأخيرة من الزمن. أعتقد أن الأمر يتعلق في الواقع بموضوع الصحافة والوصول إلى المعلومات. المستثمرون الذين خاضوا الحرب من أجل سام ولعبوا جميعًا أدوارًا في التأكد من عودته، ومجلس الإدارة الذي تم تصميمه خصيصًا لحماية مهمة المنظمة غير الربحية المتمثلة في وضع السلامة على النمو وإقالة مسؤول تنفيذي إذا لم يكن من الممكن الوثوق بهم في ذلك، ذهبوا بعيدًا. وكان هذا كله لأن حوافز السوق كانت موجودة، أليس كذلك؟
لقد كان سام قادرًا على إقناع الناس، "حسنًا، الشركة سوف تنهار". لكن سبب حصوله على الدعم هو نقص المعلومات. ويقول هؤلاء المستثمرون، في كثير من الحالات، الآن: "إنني أنظر إلى الوراء، وأعتقد أنه كان ينبغي لي أن أشعر بمزيد من المخاوف لو كنت أعرف بشكل كامل ما هي المطالبات وما هي المخاوف".
ليس كلهم؛تختلف الآراء، ونحن نقتبس مجموعة من الآراء، ولكن هناك آراء مهمة كانت تتصرف بناءً على معلومات جزئية للغاية. كانت اللوحة التي طردت سام، على حد تعبير أحد الأشخاص الذين اعتادوا أن يكونوا على اللوحة، "فريقًا مشتركًا للغاية"، وقد تلمسوا الكرة بقوة. ونقوم بتوثيق الشكاوى الأساسية، ويمكن للناس أن يقرروا بأنفسهم ما إذا كانت تتراكم في نوع القلق العاجل الذي شعروا به، ولكن لم يتم تقديم تلك الحجة وتلك المعلومات.
لقد تلقوا ما يعترف البعض منهم الآن بأنه نصيحة قانونية سيئة. لوصف ذلك، ستتذكر الاقتباس، وربما سيتذكر الكثير من المستمعين والمشاهدين الاقتباس باعتباره افتقارًا إلى الصراحة. كان هذا هو ما تم اختصاره إليه، وبعد ذلك لن يقوموا بتلقي المكالمات.
لن يتلقوا مكالمات. أنا متأكد من أنك حاولت. لقد حاول كل شخص أعرفه، ووصل الأمر إلى النقطة التي لا يُفترض فيها، كصحفي، أن تقدم نصائح لمصادرك، لكنني قلت: "سيختفي هذا إذا لم تبدأ في شرح نفسك".
وهذا ما حدث. ننسى الصحفيين. لقد قال ساتيا ناديلا: "ماذا حدث بحق الجحيم؟ لا أستطيع أن أطلب من أي شخص أن يشرح لي". وهذا هو الداعم المالي الرئيسي للشركة. ثم يتصل ساتيا بـ [المؤسس المشارك لـ LinkedIn] ريد هوفمان، ويتصل ريد ويقول: "لا أعرف ما الذي حدث بحق الجحيم".
ومن المفهوم أنهم في هذا الفراغ من المعلومات، يبحثون عن المؤشرات التقليدية غير المتعلقة بالذكاء الاصطناعي التي من شأنها أن تبرر مثل هذا الإطلاق العاجل والمفاجئ. مثل، حسنًا، هل كانت جرائم جنسية؟ هل كان اختلاساً؟ وقد ضاعت إلى حد كبير الحجة الدقيقة، ولكن أعتقد أنها ذات معنى، بأن هذه التكنولوجيا مختلفة وأن هذا النوع من التراكم المستمر للخيانات الصغيرة يمكن أن يكون له حصص ذات مغزى لكل من هذا العمل وربما للعالم. وهكذا انتصرت الحوافز الرأسمالية، ولكن أيضًا الأشخاص الذين صنعوها خرجوا ولم يكونوا يعملون دائمًا بمعلومات كاملة.
أريد فقط أن أسأل عن جانب "ما اعتقده الجميع" للحظة واحدة، لأنني بالتأكيد رأيت الأخبار، وقلت: "أوه، لا بد أن شيئًا سيئًا قد حدث". لقد قمت بالكثير من التقارير عن #MeToo، بشكل مشهور. لقد كسرت قصة هارفي وينشتاين.
لقد أمضيت الكثير من الوقت في الإبلاغ عن هذه الادعاءات التي أعتقد أنك قررت أنها لا أساس لها من الصحة في نهاية المطاف: أن ألتمان اعتدى جنسيًا على قاصرين أو استأجر عاملات في مجال الجنس، أو حتى قتل أحد المبلغين عن مخالفات OpenAI. أعني أنك الشخص الذي يمكنه الإبلاغ عن هذه الأشياء بدقة أكبر. هل قررت أن الأمر لم يصل إلى شيء؟
حسنًا، انظر، أنا لست في مجال القول بأن شيئًا ما قد وصل إلى لا شيء. ما يمكنني قوله هو أنني قضيت أشهرًا في النظر في هذه الادعاءات ولم أجد ما يدعمها. وكان من المذهل بالنسبة لي أن هؤلاء الأشخاص، هذه الشركات التي لديها الكثير من السلطة على مستقبلنا، تنفق حقًا قدرًا غير متناسب من وقتها ومواردها في معركة طينية طفولية.
يصفه أحد المسؤولين التنفيذيين بأنه "شكسبيري". إن حجم أموال المحققين الخاصين وملفات المعارضة التي يتم تجميعها لا هوادة فيها. والشيء المؤسف هو أن هذا النوع من الأشياء البذيئة، التي يرددها منافسو سام، هي مجرد حقيقة مفترضة، أليس كذلك؟ هناك هذا الادعاء بأنه يلاحق الأولاد القاصرين، وفي العديد من حفلات الكوكتيل في وادي السيليكون، تسمع هذا. وفي دائرة المؤتمرات، سمعت ذلك يكرره للتو مسؤولون تنفيذيون بارزون وذوو مصداقية: "الجميع يعلم أن هذه حقيقة".
الشيء المحزن هو أنني أتحدث عن مصدر هذا المرض، والناقلات المختلفة التي ينتقل من خلالها. يبدو أن إيلون موسك ورفاقه يدفعون بملفات فاضحة لا تصل إلى أي شيء. إنها غامضة عندما تبدأ فعليًا في النظر إلى المطالبات الأساسية. الشيء المحزن هو أنه يحجب بالفعل المزيد من الانتقادات القائمة على الأدلة هنا والتي أعتقد أنها تستحق الإشراف والنظر العاجل.
الموضوع الآخر الذي يظهر حقًا في القصة هو الشعور بالخوف تقريبًا لأن سام لديه الكثير من الأصدقاء - لقد استثمر في العديد من الشركات بدءًا من منصبه السابق كرئيس تنفيذي لشركة Y Combinator، فقط إلى استثماراته الشخصية، والتي يتعارض بعضها بشكل مباشر مع دوره كرئيس تنفيذي لشركة OpenAI - وهناك صمت حوله.
لقد أذهلني عندما كنت أقرأ سطرًا واحدًا على وجه الخصوص. لقد وصفت مذكرات إيليا سوتسكيفر، وهي موجودة للتو في وادي السيليكون. الجميعيطلق عليهم مذكرات ايليا. ولكن هناك حتى الصمت حول ذلك. لقد تم تداولها، لكن لم يتم مناقشتها. من أين تعتقد أن ذلك يأتي؟ هل هو الخوف؟ هل هي الرغبة في الحصول على استثمار ملائكي؟ من أين يأتي ذلك؟
أعتقد أن هذا كثير من الجبن، وسأكون صادقًا. بعد أن نقلوا تقارير عن قصص الأمن القومي حيث تكون المصادر من المبلغين عن المخالفات الذين قد يخسرون كل شيء ويواجهون الملاحقة القضائية، فإنهم ما زالوا يفعلون الشيء الصحيح ويتحدثون عن الأشياء لخلق المساءلة. لقد عملت على القصص المتعلقة بالجرائم الجنسية التي ذكرتها، حيث تعاني المصادر من صدمة شديدة وتخشى من نوع شخصي للغاية من الانتقام.
في كثير من الحالات حول هذا الإيقاع، أنت تتعامل مع أشخاص لديهم ملفهم الشخصي وقوتهم الخاصة. إنهم إما أشخاص مشهورون أنفسهم أو أنهم محاطون بأشخاص مشهورين. لديهم حياة تجارية قوية. من وجهة نظري، فإن الحديث عن هذه الأشياء هو في الواقع مستوى منخفض للغاية بالنسبة لهم. ولحسن الحظ أن الإبرة تتحرك كما تحدثنا سابقاً، والناس الآن يتحدثون أكثر.
لكن لفترة طويلة، ظل الناس يصمتون عن هذا الأمر لأنني أعتقد أن ثقافة وادي السيليكون هي مجرد ثقافة مصالح ذاتية بلا رحمة وموجهة نحو الأعمال والنمو بلا رحمة. لذلك أعتقد أن هذا يؤثر حتى على بعض الأشخاص الذين شاركوا في إقالة سام، حيث رأيتم في الأيام التالية، نعم، أحد العوامل التي أدت إلى عودته وإقالة أعضاء مجلس الإدارة القدامى هو أنه حشد المستثمرين الذين كانوا في حيرة من أمرهم بشأن قضيته.
لكن السبب الآخر هو أن الكثير من الأشخاص الآخرين الذين كانت لديهم مخاوف وعبروا عنها بشكل عاجل، طويوا مثل المناديل وغيروا لهجتهم في اللحظة التي رأوا فيها الريح تهب في الاتجاه الآخر، وأرادوا الانضمام إلى قطار الربح.
الأمر مظلم جدًا، بصراحة، من وجهة نظري كمراسل.
بعض هؤلاء الأشخاص هم ميرا موراتي، التي أعتقد أنها كانت الرئيس التنفيذي الجديد لشركة OpenAI لمدة 20 دقيقة. ثم تم استبدالها. لقد كانت ديناميكية معقدة للغاية، ومن الواضح أن سام عاد. الشخص الآخر هو إيليا سوتسكيفر، الذي كان أحد المصوتين على إقالة سام، ثم غير رأيه، أو على الأقل قال إنه غير رأيه، ثم غادر ليبدأ شركته الخاصة. هل تعرف ما الذي جعله يغير رأيه؟ هل كان مجرد مال؟
حسنًا، ولكي أكون واضحًا، أنا لا أخص هذين الاثنين. هناك أعضاء آخرون في مجلس الإدارة شاركوا في عملية الإقالة وصمتوا أيضًا بعد ذلك. أعتقد أنها مشكلة جماعية أوسع. وهؤلاء، في بعض الحالات، أشخاص لديهم الشجاعة الأخلاقية لدق ناقوس الخطر واتخاذ إجراءات جذرية، وهذا أمر يستحق الثناء. وهذه هي الطريقة التي تضمن بها المساءلة. كان من الممكن أن يساعد ذلك الكثير من الأشخاص المتأثرين بهذه التكنولوجيا. كان من الممكن أن يساعد هذا الصناعة على البقاء أكثر تركيزًا على السلامة.
لكن التعامل مع المبلغين عن المخالفات والأشخاص الذين يحاولون فرض تلك المساءلة كثيرًا، ترى أيضًا أن الأمر يتطلب الالتزام بها والوقوف إلى جانب قناعاتك. وهذه الصناعة مليئة حقًا بالأشخاص الذين لا يلتزمون بقناعاتهم.
على الرغم من أنهم يعتقدون أنهم يبنون إلهًا رقميًا من شأنه بطريقة أو بأخرى إما القضاء على كل العمالة أو خلق المزيد من العمالة، أو سيحدث شيء ما.
حسنا، هذا هو الشيء. لذا فإن ثقافة عدم الالتزام بقناعاتك وجميع المخاوف الأخلاقية التي تتجاهلها لحظة وجود أي حرارة أو أي شيء يمكن أن يهدد مكانتك في العمل ربما تكون جيدة وجيدة إلى حد ما بالنسبة للشركات التي تعمل كالمعتاد والتي تصنع أي نوع من الأدوات.
لكن هؤلاء هم أيضًا نفس الأشخاص الذين يقولون: "هذا يمكن أن يقتلنا جميعًا حرفيًا". ومرة أخرى، ليس عليك الذهاب إلى Terminator Skynet Extreme. هناك مجموعة من المخاطر التي بدأت تتحقق بالفعل. إنه حقيقي، وهم على حق في التحذير من ذلك، ولكن يجب أن يكون لديك شخص آخر يجلس على كرسي بذراعين ليعلمك كيف يمكن لهذين الشيئين أن يعيشا في نفس الأشخاص حيث يطلقون التحذيرات العاجلة، وربما يضعون إصبع قدمهم ويحاولون القيام بشيء ما، وبعد ذلك يستسلمون ويصمتون.
ولهذا السبب على وجه التحديد، يمكن أن يكون لديك مثل هذه الحالات من الأشياء التي يتم إبعادها عن الكتابة ويتم كنس الأشياء تحت السجادة، ولا أحد يتحدث عنها بشكل علني لسنوات بعد وقوعها.
الجهة الطبيعية المسؤولة هنا لن تكون الرؤساء التنفيذيين لهذه الشركات؛ ستكون الحكومات. في الولايات المتحدة، ربماإنها حكومات الولايات، وربما الحكومة الفيدرالية.
ومن المؤكد أن هذه الشركات جميعها تريد أن تصبح عالمية. هناك الكثير من الآثار العالمية هنا. لقد شاهدت OpenAI وGoogle وAnthropic جميعهم يحثون إدارة بايدن على إصدار أمر تنفيذي للذكاء الاصطناعي. لقد كانت بلا أسنان جدًا في النهاية. لقد قيل فقط أنه يتعين عليهم التحدث عما تستطيع نماذجهم القيام به وإطلاق بعض اختبارات السلامة. وبعد ذلك دعموا جميعًا ترامب، وجاء ترامب وألغى كل ذلك وقال: "علينا أن نكون قادرين على المنافسة. إنه أمر مجاني للجميع. افعل ذلك".
وفي الوقت نفسه، يحاولون جميعًا جمع الأموال من دول الشرق الأوسط التي لديها الكثير من أموال النفط وتريد تغيير اقتصاداتها. هؤلاء هم السياسيون. أشعر أنه يجب على السياسيين أن يفهموا بالتأكيد أن شخصًا ما يتحدث من كلا الجانبين، ولن ينزعجوا كثيرًا إذا شعر شخص ما بخيبة أمل في النهاية، ولكن السياسيين يتم خداعهم أيضًا. لماذا تعتقد أن هذا؟
أعتقد أن هذا هو سبب أهمية هذه القطعة من وجهة نظري ولماذا تستحق قضاء كل هذا الوقت والتفاصيل فيها. نحن في بيئة حيث الأنظمة التي، كما تقول، ينبغي أن توفر الرقابة، أصبحت فارغة. هذا هو ما بعد "مواطنون متحدون في أمريكا"، حيث يكون تدفق الأموال غير مقيد، وهو تركيز خاص لهذه المشكلة حول الذكاء الاصطناعي، حيث توجد لجان العمل السياسي التي تتكاثر وتغمر الأموال في قمع التنظيم الهادف على مستوى الولاية والمستوى الفيدرالي.
لديك [المؤسس المشارك لـ OpenAI] جريج بروكمان، الرجل الثاني في القيادة بعد سام، ويساهم بشكل مباشر بشكل كبير في اثنين من هؤلاء. إنه يؤدي إلى وضع حيث يوجد بالفعل سيطرة على المشرعين والمنظمين المحتملين، وهذه دوامة يصعب الخروج منها. الأمر المحزن هو أنني أعتقد أن هناك خطوات سياسية بسيطة، يتم تجربة بعضها في أماكن أخرى من العالم، من شأنها أن تساعد في حل بعض مشاكل المساءلة هذه.
يمكن أن يكون لديك المزيد من اختبارات السلامة الإلزامية قبل النشر، وهو أمر يحدث بالفعل في أوروبا للنماذج الحدودية. يمكن أن يكون لديك متطلبات أكثر صرامة للسجل العام المكتوب لأنواع التحقيقات الداخلية التي رأينا فيها أشياء تم إبعادها عن الكتابة في هذه الحالة. يمكن أن يكون لديك مجموعة أكثر قوة من آليات مراجعة الأمن القومي لأنواع طموحات البنية التحتية في الشرق الأوسط التي كان سام ألتمان يدفع بها.
كما تقول، كان يفعل هذا الطعم ويتحول مع إدارة بايدن قائلاً: "نظمونا، نظمونا"، وساعدهم في صياغة أمر تنفيذي، ثم في اللحظة التي يتولى فيها ترامب السلطة، حقًا في الأيام الأولى، لم يقم بأي قيود، "دعونا نسرع ودعنا نبني حرمًا جامعيًا ضخمًا لمركز البيانات في أبو ظبي". يمكنك فعل ذلك، وهذا أمر بسيط حقًا، مثل حماية المبلغين عن المخالفات. لا يوجد قانون فيدرالي يحمي موظفي شركة الذكاء الاصطناعي الذين يكشفون عن هذه الأنواع من المخاوف المتعلقة بالسلامة والتي يتم بثها في هذه المقالة.
لدينا حالات كان فيها جان لايكي، الذي كان أحد كبار مسؤولي السلامة في OpenAI، يقود عملية التنسيق الفائقة في الشركة. يكتب إلى مجلس الإدارة، بشكل أساسي مادة المبلغين عن المخالفات، قائلًا إن الشركة خرجت عن المسار الصحيح في مهمة السلامة الخاصة بها. هؤلاء هم الأشخاص الذين يجب أن يكون لديهم بالفعل هيئة رقابية يمكنهم الذهاب إليها، ويجب أن يتمتعوا بحماية قانونية صريحة من الأنواع التي نراها في القطاعات الأخرى. وهذا أمر بسيط لتكرار نظام ساربانيس-أوكسلي.
أعتقد أنه على الرغم من مدى خطورة المشكلة المتمثلة في سيطرة وادي السليكون على كافة أدوات السلطة، وعلى الرغم من إفراغ بعض هذه المؤسسات التي قد توفر الرقابة وحواجز الحماية، إلا أنني ما زلت أؤمن بالحسابات الأساسية للديمقراطية والساسة الذين يهتمون بمصلحتهم الذاتية. وهناك المزيد والمزيد من بيانات استطلاعات الرأي الناشئة التي يعتقد أغلبية الأميركيين أن المخاوف أو الأسئلة أو المخاطر المرتبطة بالذكاء الاصطناعي تفوق فوائده حاليا.
لذلك أعتقد أن تدفق الأموال إلى السياسة من الذكاء الاصطناعي، هو في وسعنا أن نجعل ذلك مصدرًا لعلامة استفهام فيما يتعلق بالسياسيين. عندما يذهب الأمريكيون إلى التصويت، ينبغي لهم أن يدققوا في ما إذا كان الأشخاص الذين يصوتون لصالحهم، خاصة إذا كانوا غير منتقدين ومناهضين للتنظيم، نظرا لكل هذه المخاوف، يتم تمويلهم من قبل المصالح الخاصة لشركات التكنولوجيا الكبرى. لذا أعتقد أنه إذا كان بإمكان الناس قراءة مقالات كهذه، والاستماع إلى ملفات بودكاست كهذه، والاهتمام بما يكفي للتفكير بشكل نقديقراراتهم كناخبين، هناك فرصة حقيقية لتكوين دائرة انتخابية في واشنطن من الممثلين الذين يراقبون ويفرضون الرقابة.
قد يكون هذا أحد أكثر الأشياء تفاؤلاً التي سمعت أي شخص يقولها عن صناعة الذكاء الاصطناعي الحالية. أنا أقدر ذلك. أنا مهووس بالاقتراع الذي تتحدث عنه. هناك الكثير منه الآن. كل هذا متسق إلى حد كبير، ويبدو أنه كلما زاد عدد الشباب، على وجه الخصوص، الذين يتعرضون للذكاء الاصطناعي، زاد عدم ثقتهم وغضبهم بشأنه. هذا هو التكافؤ في كل الاقتراعات. وأنا أنظر إلى ذلك، وأعتقد، حسنًا، نعم، السياسيون الأذكياء سيتنافسون ضد ذلك. سيقولون فقط: "سنحاسب شركات التكنولوجيا الكبرى".
ثم أفكر في العشرين عامًا الماضية، حيث قال أحد السياسيين إنهم سيحاسبون شركات التكنولوجيا الكبرى، وأنا أجد صعوبة في العثور على لحظة واحدة لمحاسبة شركات التكنولوجيا الكبرى. الشيء الوحيد الذي يجعلني أعتقد أن هذا قد يكون مختلفًا هو، حسنًا، عليك بالفعل بناء مراكز البيانات، ويمكنك التصويت ضد ذلك، ويمكنك تقديم التماس ضد ذلك، ويمكنك الاحتجاج ضد ذلك.
أعتقد أن هناك سياسيًا تعرض منزله للتو لإطلاق النار لأنه صوت لصالح مركز بيانات. لقد وصل التوتر، كما أسميه، إلى درجة الحمى. لقد وصفت عزلة وادي السيليكون. هذا نظام بيئي مغلق. يبدو الأمر وكأنهم يعتقدون أنهم قادرون على إدارة العالم. إنهم يستثمرون أموالاً طائلة في السياسة، ويواجهون حقيقة أن الناس لا يحبون المنتجات، الأمر الذي لا يمنحهم الكثير من التغطية. كلما زاد استخدامهم للمنتجات، زاد انزعاجهم، وبدأ السياسيون في رؤية أن هناك عواقب حقيقية لدعم صناعة التكنولوجيا على الأشخاص الذين يمثلونهم.
لقد تحدثت مع الكثير من الناس. هل تعتقد أنه من الممكن لصناعة التكنولوجيا أن تتعلم الدرس الذي أمامها مباشرة؟
أنت تقول أنه يبدو أنهم يعتقدون أنهم يستطيعون إدارة العالم دون مساءلة. لا أعتقد حتى أن هذا يحتاج إلى مؤهل "يبدو وكأنه". أعني أنك تنظر إلى اللغة التي يستخدمها بيتر ثيل، فهي واضحة. وبطبيعة الحال، هذا مثال متطرف. وسام ألتمان، على الرغم من أنه قريب من أيديولوجية ثيل ومطلع عليها إلى حد ما، إلا أنه نوع مختلف تمامًا من الأشخاص وقد يبدو مختلفًا وأكثر قياسًا إلى حد ما.
لكنني أعتقد أن الأيديولوجية الأوسع التي تحصل عليها من ثيل، والتي هي في الأساس: لقد انتهينا من الديمقراطية، ولم نعد بحاجة إليها. لدينا الكثير لدرجة أننا نريد فقط بناء مخابئنا الصغيرة. لم نعد نتعامل مع عائلة كارنيجي أو عائلة روكفلر بعد الآن، حيث إنهم أشرار، لكنهم يشعرون أنهم بحاجة إلى المشاركة في عقد اجتماعي وبناء أشياء للناس. هناك عدمية حقيقية موجودة.
وأعتقد أنها كانت مجرد دوامة يعزز بعضها البعض في التاريخ الأمريكي الحديث حيث اكتسب الأباطرة والشركات الخاصة سلطة حكومية عظمى في حين تم إفراغ المؤسسات الديمقراطية التي قد تحاسبهم. لا أشعر بالتفاؤل بشأن فكرة أن هؤلاء الأشخاص قد يستيقظون يومًا ما ويفكروا: "هاه، في الواقع ربما نحتاج إلى المشاركة في المجتمع والمساعدة في بناء الأشياء للناس".
أعني، أنك تنظر إلى المثال المصغر لتعهد العطاء، حيث كانت هناك لحظة بدا فيها الأمر بمثابة عمل خيري، وهذه اللحظة قد مضت الآن بل وأصبحت موضع سخرية. هذه مشكلة، المشكلة الأوسع المتمثلة في انعدام المساءلة والتي أعتقد أنه لا يمكن حلها إلا من الخارج. ويجب أن يقوم الناخبون بتعبئة وإحياء سلطة الرقابة الحكومية. وأنت على حق تمامًا عندما تقول إن العامل الرئيسي الذي يمكن للناس من خلاله تحقيق ذلك هو المحلي. يتعلق الأمر بالمكان الذي يتم فيه بناء البنية التحتية.
لقد ذكرت بعض التوتر الشديد حول هذا الأمر والذي يؤدي إلى العنف والتهديدات، ومن الواضح أنه لا ينبغي لأحد أن يستخدم العنف أو التهديد. ولست هنا أيضًا لتقديم توصيات سياسية محددة بخلاف مجرد تقديم بعض خطوات السياسة التي تبدو أساسية وناجحة في أماكن أخرى من العالم، أليس كذلك؟ أو أولئك الذين عملوا في قطاعات أخرى. ولست هنا لأقول أيًا من هؤلاء يجب تنفيذه وكيف.
أعتقد أن شيئًا ما يجب أن يحدث، ويجب أن يكون خارجيًا، وليس مجرد الثقة في هذه الشركات. لأن الحقالآن لدينا موقف حيث الشركات التي تعمل على تطوير التكنولوجيا والمجهزة بشكل أفضل لفهم المخاطر، وهي في الواقع هي التي تحذرنا من المخاطر، هي أيضًا الشركات التي ليس لديها سوى الحافز للتحرك بسرعة وتجاهل تلك المخاطر. وليس لديك أي شيء لموازنة ذلك. لذا، مهما كانت الإصلاحات التي قد تتطلبها من حيث التفاصيل، فلا بد أن يتعارض شيء ما مع ذلك. وما زلت أعود إلى هذا التفاؤل بأن الناس ما زالوا مهمين.
عموما أنا أؤيد حجتك. اسمحوا لي فقط أن أقدم الحجة المضادة الصغيرة التي أعتقد أنني أستطيع التعبير عنها. والشيء الآخر الذي يمكن أن يحدث خارج صندوق الاقتراع هو أن تنفجر الفقاعة، أليس كذلك؟ لا تصل جميع هذه الشركات إلى خط النهاية، ولا يوجد سوق منتجات مناسب لتطبيقات الذكاء الاصطناعي الاستهلاكية. ومرة أخرى، لا أرى ذلك تمامًا بعد، لكنني مراجع للتكنولوجيا الاستهلاكية، وربما لدي معايير أعلى من أي شخص آخر.
هناك سوق منتجات مناسبة لعالم الأعمال، أليس كذلك؟ يبدو أن وجود مجموعة من وكلاء الذكاء الاصطناعي يكتبون مجموعة من البرامج يمثل سوقًا حقيقيًا لهذه الأدوات. ويمكنك أن تقرأ حجج هذه الشركات التي تقول: "لقد نجحنا في حل البرمجة، وهذا يعني أننا قادرون على حل أي شيء. وإذا تمكنا من صنع البرمجيات، فيمكننا حل أي مشاكل".
أعتقد أن هناك حدودًا حقيقية للأشياء التي يمكن للبرنامج القيام بها. هذا شيء عظيم في عالم الأعمال. لا يمكن للبرمجيات أن تحل كل المشاكل في الواقع، لكن عليها أن تصل إلى هناك. عليهم إنهاء المهمة، وربما لا يصل الجميع إلى خط النهاية. ويحدث انهيار، وتنفجر هذه الفقاعة، وربما OpenAI أو Anthropic أو xAI، تفشل إحدى هذه الشركات، ويختفي كل هذا الاستثمار.
هل تعتقد أن ذلك سيؤثر على هذا؟ في الواقع، اسمحوا لي أن أطرح السؤال الأول أولاً. OpenAI على أعتاب الاكتتاب العام. هناك الكثير من الشكوك حول سام كقائد. هل تعتقد أنهم سيصلون إلى خط النهاية؟
لن أتكهن، ولكن أعتقد أنك تثير نقطة مهمة، وهي أن حوافز السوق تشكل أهمية داخلية بالنسبة لوادي السيليكون، وأن هشاشة ديناميكيات الفقاعة الحالية من شأنها أن تعرقل، مرة أخرى، وفقاً للنقاد، السباق نحو القاع فيما يتصل بالأمان.
أود أيضًا أن أضيف إلى ذلك، إذا نظرت إلى الأسبقية التاريخية حيث توجد مجموعة مماثلة وغير قابلة للاختراق من حوافز السوق وتأثيرات ضارة محتملة على الجمهور، فستجد أن هناك دعوى قضائية بشأن التأثير. وأنت ترى ذلك كمجال للقلق في الآونة الأخيرة. سام ألتمان موجود هذا الأسبوع ليؤيد تشريعًا من شأنه أن يحمي شركات الذكاء الاصطناعي من بعض أنواع المسؤولية التي تعرضت لها شركة OpenAI في دعاوى القتل غير المشروع، على سبيل المثال. وبطبيعة الحال، هناك رغبة في الحصول على هذا الدرع من المسؤولية.
أعتقد أن المحاكم لا يزال بإمكانها أن تكون آلية ذات معنى، وسيكون من المثير للاهتمام حقًا أن نرى كيف تتشكل هذه الدعاوى. لقد رأيت بالفعل، على سبيل المثال، الدعوى الجماعية، التي أنا والعديد من المؤلفين الآخرين الذين أعرفهم أعضاء فيها، ضد شركة Anthropic لاستخدامها كتبًا كانت خاضعة لحقوق الطبع والنشر. إذا كانت هناك عقول قانونية ذكية ومدعون يهتمون، كما رأينا تاريخياً في القضايا من شركات التبغ الكبيرة إلى شركات الطاقة الكبرى، فيمكنك أيضًا الحصول على بعض حواجز الحماية وبعض الحوافز لإبطاء الناس أو توخي الحذر أو حمايتهم بهذه الطريقة.
يبدو الأمر وكأن هيكل التكلفة الكامل لصناعة الذكاء الاصطناعي يعتمد على تفسير خيري للغاية للاستخدام العادل. لا يأتي بما فيه الكفاية. يمكن أن يخرج هيكل تكلفة هذه الشركات عن نطاق السيطرة إذا كان عليهم أن يدفعوا لك ولجميع الأشخاص الآخرين الذين تولىوا عملهم، ولكن من غير المناسب التفكير في ذلك، لذلك نحن لا نفكر في الأمر. بجانب ذلك، كل هذه المنتجات تعمل الآن بخسارة. مثل اليوم، كلهم يركضون في حيرة. إنهم يحرقون أموالاً أكثر مما يمكنهم كسبه. في مرحلة ما، عليهم أن يقلبوا المفتاح.
سام رجل أعمال. كما ذكرت عدة مرات، فهو ليس تقنيًا. إنه رجل أعمال. هل تعتقد أنه مستعد لقلب المفتاح والقول: "سنجني دولارًا؟" لأنني عندما أسأل: "هل تعتقد أن OpenAI ستنجح؟" إنه الوقت الذي يتعين عليهم فيه جني الدولار. وحتى الآن، حصل سام على كل دولاراته من خلال مطالبة أشخاص آخرين بأموالهم بدلاً من جعل شركاته تجني الأموال.
حسنًا، هذا سؤال كبير عالق بالنسبة لوادي السيليكون، وللمستثمرين، وللجمهور.ترى بعض التصريحات والتحركات الصادرة عن OpenAI والتي يبدو أنها تظهر نوعًا من الذعر بشأن ذلك. إغلاق Sora، وإغلاق بعض المشاريع الإضافية، ومحاولة التركيز على المنتج الأساسي. ولكن من ناحية أخرى، لا تزال ترى، في نفس الوقت، عددًا كبيرًا من المهام تزحف، أليس كذلك؟ حتى مثال صغير - من الواضح أنه ليس جوهر أعمالهم - هو الاستحواذ على TBPN.
بالمناسبة، بينما كنا نصل إلى خط النهاية ونقوم بالتحقق من الحقائق، فإن الشركة التي تواجه هذا النوع من التدقيق الصحفي تحصل على منصة حيث يمكنهم الحصول على مزيد من السيطرة المباشرة على المحادثة. أعتقد أن هناك الكثير من المستثمرين الذين يشعرون بالقلق، بناءً على المحادثات التي أجريتها، من أن مشكلة الوعد بكل شيء لجميع الناس تمتد أيضًا إلى عدم التركيز على نموذج العمل الأساسي. وأعني أنك أقرب إلى نوع التنبؤ ومراقبة السوق مما أنا عليه على الأرجح. سأترك لك وللمستمعين الحكم على ما إذا كانوا يعتقدون أن OpenAI يمكنه قلب المفتاح.
حسنًا، لقد طرحت هذا السؤال لأن لديك اقتباسًا في المقال من أحد كبار المسؤولين التنفيذيين في شركة Microsoft، وهو أن "إرث سام قد ينتهي به الأمر إلى التشابه أكثر مع بيرني مادوف أو سام بانكمان فرايد"، بدلاً من ستيف جوبز. هذه مقارنة تماما. ما رأيك في تلك المقارنة؟
أعتقد أن هذه إعادة صياغة. لم يكن جزء ستيف جوبز جزءًا من الاقتباس. ولكن هناك نوعًا مثيرًا للاهتمام من الرصانة لأنه تمت صياغته على النحو التالي: "أعتقد أن هناك فرصة صغيرة ولكن حقيقية لأن ينتهي به الأمر إلى أن يصبح SBF أو محتالًا على مستوى مادوف". وهذا يعني، في رأيي، ليس أن سام متهم بهذه الأنواع المحددة من الاحتيال أو الجرائم، ولكن درجة الخداع والخداع من سام قد يكون لها فرصة في أن يتم تذكرها في النهاية على هذا النطاق.
نعم، أعتقد أن الأمر الأكثر إثارة للدهشة في هذا الاقتباس، بصراحة، هو أنك تتصل بشركة Microsoft ولا تحصل على مثل، "هذا جنون. لم نسمع ذلك من قبل." تحصل على الكثير من الإعجابات، "نعم، الكثير من الناس هنا يعتقدون ذلك" وهو أمر رائع. وأعتقد أن الأمر يتعلق بهذه الأسئلة التجارية.
"أخبرني أحد المستثمرين، على سبيل المثال، في ضوء الطريقة التي استمرت بها هذه السمة في السنوات التي تلت الطرد" - وهذا أيضًا يعتقد أن هذه كانت فكرة رصينة مثيرة للاهتمام - أنه ليس من الضروري أن يكون "سام" في أسفل القائمة بشكل مطلق، كما ينبغي أن يكون في أدنى مستوى من حيث الأشخاص الذين لا يجب عليهم مطلقًا بناء هذه التكنولوجيا، مقابل ما تستحقه. هناك العديد من الأشخاص الذين قالوا إن "إيلون ماسك" هو ذلك الشخص. لكن هذه السمة تضعه ربما في أسفل قائمة الأشخاص الذين ينبغي بناء AGI، وتحت العديد من الشخصيات الرائدة الأخرى في هذا المجال.
لذلك اعتقدت أن هذا كان تقييمًا مثيرًا للاهتمام، وهذا هو نوع التفكير الذي أعتقد أنه يأتي من البراغماتيين الحقيقيين الذين ربما لا يؤمنون بالمخاوف المتعلقة بالسلامة بالقدر نفسه. إنهم موجهون نحو النمو فحسب، ويعتقدون أن OpenAI تواجه الآن مشكلة مع Sam Altman.
قطعة مايكروسوفت مثيرة للاهتمام حقًا. اعتقدت تلك الشركة أنهم كانوا على قمة العالم. لقد قاموا بهذا الاستثمار وأنهم سيتجاوزون الجميع، وخاصة جوجل والأهم من ذلك، ويعودون إلى النعم الطيبة للمستهلكين. لا أعتقد أن المستوى الذي يشعرون فيه بالحرق بسبب هذه المغامرة - هذه شركة تدار برصانة شديدة - مبالغ فيه.
لقد ذكرت الشخصيات والسمات الشخصية. أريد أن أختتم هنا بسؤال من مستمعينا. لقد قلت في برنامجنا الآخر، The Vergecast، أنني سأتحدث معك، وقلت: "إذا كانت لديك أسئلة لرونان حول هذه القصة، فأخبرني بها". إذن لدينا هنا واحدة أعتقد أنها تتوافق تمامًا مع ما تصفه. سأقرأها لك فقط:
"كيف تختلف مبررات السلوك السيئ، والأفعال القاسية التي يقوم بها ألتمان وغيره من قادة الذكاء الاصطناعي، عن المبررات التي سمعها رونان من القادة البارزين الآخرين في السياسة والإعلام؟ ألا يبررون جميعًا أفعالهم بالقول إن هذه هي الطريقة التي يتغير بها العالم؟ إذا لم أفعل هذا، فسيفعله شخص آخر؟ "
نعم، هناك الكثير مما يدور حولنا. أود أن أقول إن ما يميز الذكاء الاصطناعي هو أن المخاطر الوجودية مرتفعة للغاية بشكل فريد مما يعني أن بيانات المخاطر متطرفة، أليس كذلك؟ لديك سام التمانقائلًا: "قد يكون هذا بمثابة إطفاء الأنوار لنا جميعًا." وأيضاً قد يقول النقاد إن الهوس الذي يشير إليه السائل متطرف، أليس كذلك؟
الشيء الذي اتهم به "سام" "إيلون" بشكل رسمي هو أنه ربما يريد إنقاذ البشرية، ولكن فقط إذا كان هو نفسه. هذا النوع من عنصر الأنا المتمثل في الرغبة في الفوز، وهو الإطار الذي يستخدمه سام طوال الوقت، وهذا أحد كتب التاريخ، وهذا يمكن أن يغير كل شيء. لذلك، فحتى بالإضافة إلى عقلية "عليك أن تكسر بضع بيضات" لمعظم شركات وادي السيليكون، أعتقد أن هناك، في أذهان بعض الشخصيات الرائدة في مجال الذكاء الاصطناعي، تبريرًا كاملاً لأي وجميع التداعيات.
وننسى كسر البيض. أعتقد/أعتقد أن الكثير من الباحثين في مجال السلامة الأساسية قد يقولون إنه من المحتمل المخاطرة بكسر البلاد، وكسر العالم، وكسر ملايين الأشخاص الذين أصبحت وظائفهم وسلامتهم على المحك - وهذا هو ما يميز هذا الأمر. وهنا أختتم كلامي، متأملًا هذا الكم من التقارير، معتقدًا حقًا أن الأمر يتعلق بما هو أكثر من مجرد سام ألتمان. يتعلق الأمر بصناعة غير مقيدة ومشكلة متصاعدة تتمثل في عدم قدرة أمريكا على تقييدها.
نعم. حسنًا، كان لدينا بعض التفاؤل هناك، لكنني أعتقد أن هذا مكان جيد لترك الأمر.
[يضحك] انتهى الأمر متشائمًا.
بالطبع. هذه هي كل قصة رائعة حقًا. محاكمة Musk-Altman قادمة. أعتقد أننا سنتعلم الكثير هنا. أظن أنني سأرغب في التحدث معك مرة أخرى. رونان فارو، شكرًا جزيلاً لك على تواجدك في برنامج فك التشفير.
شكرًا لك.
أسئلة أو تعليقات حول هذه الحلقة؟ تابعنا على [email protected]. نحن حقا نقرأ كل البريد الإلكتروني!
