היום ב-Decoder, אני מדבר עם רונן פארו, אחד הכוכבים הגדולים ביותר של דיווח חקירות שעובד היום. הוא שבר את הסיפור של הארווי ויינשטיין, בין רבים, רבים אחרים. ורק בשבוע שעבר, הוא והכותב השותף אנדרו מרנץ פרסמו ב-The New Yorker מאמר צלילה עמוק מדהים על מנכ"ל OpenAI, סם אלטמן, על מהימנותו ועלייתה של OpenAI עצמה.
הערה אחת לפני שנמשיך כאן - הניו יורקר פרסם את הסיפור הזה ורונן ואני קיימנו את השיחה הזו לפני שידענו את היקף ההתקפות על ביתו של אלטמן, אז לא תשמעו אותנו מדברים על זה ישירות. אבל רק כדי לומר את זה, אני חושב שאלימות מכל סוג היא בלתי מתקבלת על הדעת, ההתקפות האלה על סם היו בלתי מתקבלות על הדעת, ושסוג חוסר האונים שאנשים מרגישים, שמוביל לסוג כזה של אלימות, הוא כשלעצמו בלתי מתקבל על הדעת, וזה שווה הרבה יותר בדיקה הן מהתעשייה והן מהמנהיגים הפוליטיים שלנו. אני מקווה שזה ברור.
מנויי Verge, אל תשכחו שאתם מקבלים גישה בלעדית למפענח ללא פרסומות בכל מקום בו אתם מקבלים את הפודקאסטים שלכם. ראש לכאן. לא מנוי? אתה יכול להירשם כאן.
כל זה אמר, יש הרבה מסתחררים סביב אלטמן שזה משחק הוגן לדיווח קפדני - סוג הדיווחים שרונאן ואנדרו התכוונו לעשות. הודות לפופולריות של ChatGPT, אלטמן התגלה כדמות הדמות הגלויה ביותר של תעשיית הבינה המלאכותית, לאחר שהפכה מעבדת מחקר של פעם ללא מטרות רווח לחברה פרטית של כמעט טריליון דולר תוך שנים ספורות. אבל המיתוס של אלטמן מסוכסך עמוקות, ומוגדר באותה מידה הן על ידי יכולת ביצוע העסקאות הברורה שלו והן בנטייתו המדווחת... ובכן, לשקר לכל הסובבים אותו.
הסיפור הוא יותר מ-17,000 מילים, והוא מכיל ללא ספק את התיאור הסופי של מה שקרה בשנת 2023 כאשר מועצת המנהלים של OpenAI פיטרה בפתאומיות את אלטמן בגלל השקר לכאורה שלו, רק כדי שיתקבל לעבודה מחדש כמעט מיידית. זו גם צלילה עמוקה לתוך חייו האישיים של אלטמן, השקעותיו, החיזור שלו אחר כסף מהמזרח התיכון והרהורים שלו על התנהגותו ותכונות האופי שלו בעבר, שהובילו מקור אחד לומר שהוא "לא מוגבל על ידי האמת". אני באמת מציע לך לקרוא את כל הסיפור; אני חושד שיתייחסו לזה עוד שנים רבות.
רונן שוחח עם אלטמן פעמים רבות במהלך 18 החודשים שהוא בילה בדיווח על הקטע הזה, ולכן אחד הדברים העיקריים שהייתי סקרן לגביהם היה האם הוא חש בשינוי כלשהו באלטמן במהלך הזמן הזה. אחרי הכל, הרבה קרה ב-AI, בטכנולוגיה ובעולם בשנה וחצי האחרונות.
אתה תשמע את רונן מדבר על זה בצורה מאוד ישירה, כמו גם את התחושה שלו שאנשים נעשו הרבה יותר מוכנים לדבר על היכולת של אלטמן למתוח את האמת. אנשים מתחילים לתהות, בקול רם ובתיעוד, אם ההתנהגות של אנשים כמו אלטמן מדאיגה, לא רק עבור AI או טכנולוגיה אלא גם לעתיד הקולקטיבי של החברה.
אוקיי: רונן פארו על סם אלטמן, AI והאמת. הנה אנחנו הולכים.
ראיון זה עבר עריכה קלה עבור אורך ובהירות.
רונן פארו, אתה כתב חוקר ותורם ל"ניו יורקר". ברוכים הבאים ל-Decoder.
שמח להיות כאן. תודה שקיבלת אותי.
אני מאוד נרגש לדבר איתך. זה עתה כתבת קטע גדול ל"ניו יורקר". זה פרופיל של סם אלטמן, וכמו כן גם OpenAI. הקריאה שלי בו היא שככל התכונות הנהדרות עושות, הוא, עם דיווח קפדני, מאמת הרבה רגשות שהיו לאנשים לגבי סם אלטמן במשך זמן רב מאוד. ברור שפרסמת את זה, קיבלת תגובות על זה. איך אתה מרגיש עם זה עכשיו?
ובכן, התלהבתי, למעשה, מהמידה שבה זה נפרץ בתקופה שבה כלכלת הקשב היא כל כך סכיזופרנית ורדודה. זה סיפור שלדעתי משפיע על כולנו. וכשביליתי שנה וחצי מחיי, וגם המחבר שלי, אנדרו מרנץ, בילה את הזמן הזה שלו, באמת בניסיון לעשות משהו משפטי ומדוקדק, זה תמיד בגלל שאני מרגיש שיש בעיות מבניות גדולות יותר שמשפיעות על אנשים מעבר לפרט ולחברה בלב הסיפור.
סם אלטמן, על רקע תרבות ההייפ של עמק הסיליקון וסטארט-אפים שמגיעים להערכות שווי מסיביות המבוססות על הבטחות שאולי יתממשו בעתיד ואולי לא, וחיבוק הולך וגובר של תרבות מייסדת שחושבת לספר לקבוצות שונות דברים סותרים שונים היא תכונה, לאבאג... אפילו על רקע זה, סם אלטמן הוא מקרה יוצא דופן שבו כל מי מעמק הסיליקון שמצפה לדברים האלה לא יכול להפסיק לדבר על השאלה הזו של מהימנותו והיושר שלו.
כבר ידענו שהוא פוטר בגלל גרסה כלשהי של האשמות על חוסר יושר או שקר כביכול סדרתי. אבל באופן יוצא דופן, למרות העובדה שהיו דיווחים נפלאים, קיץ' הייגי עשה עבודה נהדרת על זה. קארן האו עשתה עבודה נהדרת על זה. באמת לא הייתה הבנה מוחלטת של נקודות ההוכחה בפועל כביכול והסיבות לכך שהן לא היו מעיני הציבור.
אז נקודה מספר אחת היא שאני מתרגש מהעובדה שחלק מהפערים האלה בידע הציבורי שלנו, ואפילו בידע של מקורבים בעמק הסיליקון, התמלאו עכשיו קצת יותר. חלק מהסיבות לכך שהיו פערים הושלמו עוד קצת.
אנו מדווחים על מקרים שבהם אנשים בתוך החברה הזו באמת הרגישו שהדברים מכוסים או לא מתועדים בכוונה. אחד הדברים החדשים בסיפור הזה הוא חקירה מרכזית של משרד עורכי דין על ידי WilmerHale, שהוא ללא ספק משרד עורכי דין מפואר, אמין וגדול שערך חקירות של אנרון ו-WorldCom, שדרך אגב, כולן היו נרחבות, כמו מאות עמודים שפורסמו. וילמרהייל עשה את החקירה הזו שדרשו חברי דירקטוריון שפיטרו את אלטמן כתנאי לעזיבתם כשנפטר מהם, והוא חזר. ובאופן יוצא דופן - בעיני מומחים משפטיים רבים שדיברתי איתם, ובאופן מזעזע בעיני אנשים רבים בחברה הזו - הם לא הפסיקו לכתוב את זה. כל מה שאי פעם יצא מזה היה הודעה לעיתונות בת 800 מילים מ-OpenAI שתיארה את מה שקרה כהתמוטטות באמון. ואישרנו שזה נשמר לתדרוכים בעל פה.
ישנם מקרים שבהם, למשל, חבר מועצת המנהלים רוצה לכאורה להצביע נגד ההמרה מהטופס המקורי של OpenAI ללא מטרות רווח לגוף למטרות רווח, וזה מתועד כהימנעות. יש כמו עורך דין בפגישה שאומר, "טוב, זה יכול לעורר יותר מדי בדיקה." ומי שרוצה להצביע נגד נרשם כנמנע מכל הופעות. יש מחלוקת עובדתית. OpenAI טוען אחרת, כפי שאתה יכול לדמיין. כל אלה הם מקרים שבהם יש לך חברה שלדעתה מחזיקה את עתידנו בידיה.
סיכון הבטיחות כה חריף עד שהם לא נעלמו. זו הסיבה שהחברה הזו נוסדה כעמותה המתמקדת בבטיחות, ושהדברים היו מעורפלים בצורה שאנשים אמינים סביב זה מצאו את זה פחות ממקצועי. ואתה מצמיד את זה לרקע שבו יש כל כך מעט תיאבון פוליטי לרגולציה משמעותית. אני חושב שזה מצב מאוד דליק.
הנקודה מבחינתי היא לא רק שסם אלטמן ראוי לשאלות האלה בצורה כה חריפה. זה גם שכל אחד מהחבר'ה האלה בתחום הזה, ורבים מדמויות המפתח, מפגינים, אם לא את התכונה הייחודית הזו, לכאורה של שקר-כל-הזמן, בוודאי מידה מסוימת של מנטליות של מירוץ לתחתית, שבה האנשים שהיו אנשי בטיחות השקיעו את ההתחייבויות האלה ואת העמדה של כולם במירוץ.
אני חושב שכאשר אנו מסתכלים על הדלפות אחרונות מאנתרופיק, יש אדם שמציב את השאלה מי צריך להיות עם האצבע על הכפתור ביצירה הזו. התשובה היא שאם אין לנו פיקוח משמעותי, אני חושב שעלינו לשאול שאלות רציניות ולנסות להציג מידע רב ככל האפשר על כל החבר'ה האלה. אז התלהבתי ממה שמרגיש כמו שיחה משמעותית על זה, או על ההתחלה של שיחה.
הסיבה ששאלתי את זה ככה היא שעבדת על זה שנה וחצי. דיברת עם, אני מאמין, 100 אנשים עם המחבר שלך, אנדרו. זה הרבה זמן לסיפור לבשל. אני חושב על השנה וחצי האחרונות בתחום הבינה המלאכותית במיוחד, וילד, הגישות והערכים של כל הדמויות האלה השתנו מהר מאוד.
אולי לא יותר מסם אלטמן, שהתחיל כמנצח ברירת המחדל כי הם שחררו את ChatGPT וכולם חשבו שזה פשוט ישתלט על גוגל. ואז גוגל הגיבה, מה שנראה שהפתיע אותם שגוגל תנסה להגן על העסק שלה, אולי אחד העסקים הטובים ביותר בהיסטוריה הטכנולוגית, אם לא בהיסטוריה העסקית. אנתרופיק החליטה שהיא תתמקד במפעל. נראה שהוא תופס מנהיגות פיקודיתשם כי השימוש הארגוני ב-AI הוא כל כך גבוה.
כעת, OpenAI ממקדת מחדש את המוצר שלה הרחק מ"אנחנו הולכים לקחת על גוגל" לקודקס, והם הולכים לקחת על עצמם את הארגון. אני פשוט לא ממש יכול לדעת אם, במהלך הדיווח שלך בשנה וחצי האחרונות, אם זה מרגיש כאילו הדמויות שדיברת איתן השתנו? כמו העמדות והערכים שלהם, האם אלה השתנו?
כֵּן. אני חושב קודם כל, שהביקורת שנחקרה ביצירה הזו, שמגיעה מאנשים רבים בתוך החברות האלה בשלב זה - על כך שזו תעשייה שלמרות ההימור הקיומי, יורדת למשהו של מירוץ לתחתית בנושא בטיחות ושבה המהירות גוברת על כל השאר - הדאגה הזו הלכה וגברה. ואני חושב שהחששות האלה קיבלו תוקף יותר ככל שהשנה וחצי האחרונות התרחשו. במקביל, עמדות לגבי סם אלטמן השתנו במיוחד. כשהתחלנו לדבר עם מקורות על זה, אנשים ממש ממש חששו מציטוטים על זה ולעשות על זה תיעוד.
בסוף הדיווח שלנו, יש לך גוף דיווח שבו אנשים מדברים על זה בצורה מאוד פתוחה ומפורשת, ויש לך חברי דירקטוריון שאומרים דברים כמו, "הוא שקרן פתולוגי. הוא סוציופת". יש מגוון של נקודות מבט: "זה מסוכן בהתחשב בהימור הבטיחותי, ואנחנו צריכים מנהיגים של הטכנולוגיה הזו שיש להם יושרה מוגברת", עד כדי כך שאוהבים, "עזוב את עניין הבטיחות, זו התנהגות בלתי נסבלת עבור כל בכיר בכל חברה גדולה, שהיא פשוט יוצרת יותר מדי חוסר תפקוד".
אז השיחה הפכה הרבה יותר מפורשת בצורה שמרגישה אולי מאוחרת, אבל מעודדת במובן אחד. ולסם אלטמן ייאמר לזכותו... היצירה מאוד הוגנת ואפילו נדיבה, הייתי אומר, לסם. זה לא מסוג הקטעים שבהם היו הרבה דברים של "יש לך". ביליתי איתו הרבה מאוד שעות בטלפון בזמן שסיימנו את זה ובאמת שמעתי אותו.
כפי שאתם יכולים לתאר לעצמכם, ביצירה כזו, לא הכל נכנס. חלק מהמקרים האלה היו בגלל שהקשבתי בכנות. ואם סם באמת העלה טיעון שהרגשתי נושא מים, שמשהו, גם אם הוא נכון, יכול להיות סנסציוני, באמת טעיתי בשמירה על זיהוי פלילי ומדוד. אז אני חושב שזה מתקבל בצדק, ואני רק מקווה שהתיעוד העובדתי הזה שנצבר במהלך פרק הזמן הזה יכול לעורר שיחה מעודדת יותר על הצורך בפיקוח.
זו בעצם השאלה הבאה שלי. אני חושב שדיברת עם סם תריסר פעמים במהלך הדיווח על הסיפור הזה. שוב, זה הרבה שיחות על פני תקופה ארוכה של זמן. חשבתם שסם השתנה במהלך הדיווח במהלך השנה וחצי האחרונות?
כֵּן. אני חושב שאחת מעלילות המשנה הכי מעניינות בזה היא שגם סם אלטמן מדבר על התכונה הזו בצורה מפורשת יותר ממה שהוא דיבר בעבר. היציבה של סם ביצירה זו אינה כמו, "אין שם כלום, זה לא נכון; אני לא יודע על מה אתה מדבר." העמדה שיש לו היא שלדבריו זה מיוחס לנטייה לרצות אנשים ולסוג של סלידה מקונפליקט. הוא מודה שזה גרם לו לבעיות, במיוחד מוקדם יותר בקריירה שלו.
הוא אומר, "ובכן, אני עובר את זה, או עברתי את זה במידה מסוימת." אני חושב שמה שבאמת מעניין אותי הוא קבוצת האנשים שדיברנו איתם שלא היו רק סוג של תומכי בטיחות, לא רק החוקרים הטכניים הבסיסיים שלעתים קרובות מאוד נוטים להיות חששות בטיחות חריפים אלה, אלא גם משקיעים פרגמטיים גדולים. הם תומכים של סאם, שבמקרים מסוימים מסתכלים על השאלה הזו ומדברים על כך שאפילו מילא תפקיד מפתח בחזרתו לאחר הירי. כעת, בשאלה האם הוא עבר רפורמה, ועד כמה השינוי הזה משמעותי, הם אומרים, "ובכן, נתנו לו את הספק בזמנו".
אני חושב על משקיע בולט אחד במיוחד שאמר, "אבל מאז, נראה ברור שהוא לא הוצא מאחורי מחסן העצים", וזה היה הביטוי שהחבר הזה השתמש בו, במידה שהיה צורך. כתוצאה מכך, נראה שעכשיו זו תכונה יציבה. אנחנו רואים את זה בצורה מתמשכת. אתה יכול להסתכל על כמה מהעסקים הגדולים ביותר של OpenAIמערכות יחסים והדרך שבה הם נושאים את המשקל של חוסר האמון הזה באופן מתמשך.
כמו עם מיקרוסופט, אתה מדבר עם מנהלים שם, ויש להם חששות מאוד חריפים ולאחרונה זירזו. יש מקרה זה שבו, באותו יום ש-OpenAI מאשרת את הבלעדיות שלה עם מיקרוסופט ביחס למודלים הבסיסיים של AI חסרי מדינה, היא גם מכריזה על עסקה חדשה עם אמזון הקשורה למכירת פתרונות ארגוניים לבניית סוכני בינה מלאכותית, כלומר יש להם זיכרון.
אתה מדבר עם אנשי מיקרוסופט, והם אומרים, "זה לא אפשרי בלי אינטראקציה עם הדברים הבסיסיים שיש לנו עסקת בלעדיות עליהם." אז זו רק אחת מדוגמאות קטנות רבות שבהן לתכונה זו יש נטייה לפעילות עסקית מתמשכת כל הזמן והיא נושא לדאגה פעילה במועצת המנהלים של OpenAI, בחבילת המנהלים שלה ובקהילת הטכנולוגיה הרחבה יותר.
אתה כל הזמן אומר את ה"תכונה" הזו. יש שורה בסיפור שבעיניי מרגישה כמו התזה, והיא תיאור של התכונה שאתה מתאר. זה ש"סם אלטמן אינו מוגבל על ידי האמת" ושיש לו "שתי תכונות שכמעט אף פעם לא נראות באותו אדם: הראשונה היא רצון עז לרצות אנשים, למצוא חן בכל אינטראקציה נתונה, והשנייה היא חוסר דאגה כמעט סוציופטית להשלכות שעלולות לנבוע מהונאת מישהו".
אני חייב לומר לך, קראתי את המשפט הזה 500 פעמים, וניסיתי לדמיין שתמיד אומר מה אנשים רוצים שיאהבו ואז לא מתעצבן כשהם מרגישים ששיקרו להם. ולא יכולתי לגרום למצב הרגשי שלי להבין איך הדברים האלה יכולים להתקיים באותו אדם. דיברת עם סם הרבה, ודיברת עם אנשים שחוו את התכונות האלה. איך הוא עושה את זה?
כֵּן. זה מעניין ברמה האנושית כי אני כן ניגש לגופי דיווח כאלה עם התמקדות אמיתית בהאנשת מי שנמצא בלב ומחפש הבנה עמוקה ואמפתיה. כשניסיתי לגשת לזה מנקודת מבט אנושית יותר ולומר, "היי, זה יהיה הרסני עבורי אם כל כך הרבה אנשים שעבדתי איתם יגידו שאני שקרן פתולוגי. איך אתה נושא את המשקל הזה? איך אתה מדבר על זה בטיפול? מה הסיפור שאתה מספר לעצמך על זה?"
יש לי איזושהי, לדעתי, אולי פלפולים בחוף המערבי לגבי זה כמו, "כן, אני אוהב עבודת נשימה". אבל לא הרבה מהסוג של תחושה מחזקת של עימות עצמי עמוק, שאני חושב שלהרבה מאיתנו היו כנראה אם היינו רואים משוב מסוג זה על ההתנהגות שלנו והיחס שלנו לאנשים.
אני חושב שבעצם זה נוגע גם לתשובה הרחבה יותר לשאלה. סם טוען שהתכונה הזו גרמה לבעיות, אבל גם שהיא חלק ממה שהעצים אותו להאיץ את הצמיחה של OpenAI עד כדי כך שהוא מסוגל לאחד ולרצות קבוצות שונות של אנשים. הוא כל הזמן משכנע את כל מחוזות הבחירה הסותרים האלה שמה שאכפת להם הוא מה שאכפת לו. וזו יכולה להיות מיומנות שימושית מאוד עבור מייסד. דיברתי עם משקיעים שאומרים אז, "טוב, אולי זו מיומנות פחות שימושית לניהול חברה, כי היא זורעת כל כך הרבה מחלוקת."
אבל בפן האישי של סאם, אני חושב שהדבר שאני קולט כשאני מנסה להתחבר ברמה האנושית הוא היעדר לכאורה של עימות עמוק יותר, שיקוף ואחריות עצמית, מה שמודיע גם על כוח-על או אחריות לחברה שמתכוננת להנפקה.
הוא מישהו, במילותיה של אחד מחברי ההנהלה לשעבר בשם סו יון, שנרשם ביצירה שאומר שעד לנקודה של "חוסר אכזריות" הוא הביטוי שבו היא משתמשת, מסוגל באמת להאמין במציאות המשתנה של הצעות המכירות שלו או מסוגל לשכנע את עצמו בהן. או לפחות אם הוא לא מאמין להם, הוא מסוגל להתפרץ דרכם ללא ספק עצמי משמעותי.
אני חושב שהדבר שאתה מדבר עליו, איפה שאתה או אני עלולים, בזמן שאנחנו אומרים את הדבר ומבינים שהוא מתנגש עם ההבטחה האחרת שהבטחנו, יש לנו רגע של קפוא או בדיקה של עצמנו. אני חושב שזה לא קורה איתו. ויש תרבות הייפ רחבה יותר של עמק הסיליקון ותרבות מייסדים שסוג של מחבקת את זה.
זה מצחיק. The Verge בנוי על מה שמסתכם בביקורת מוצרתָכְנִית. זה הלב של מה שאנחנו עושים כאן. אני מחזיק טריליון דולר של מו"פ של אפל פעם בשנה ואומר, "הטלפון הזה הוא שבעה." וזה מעין נותן לגיטימציה לכל הדיווח שלנו ולדעות שלנו במקומות אחרים. יש לנו פונקציה הערכתית, ואנחנו מבלים כל כך הרבה זמן רק להסתכל על מוצרי הבינה המלאכותית ולומר, "האם הם עובדים?"
זה מרגיש כאילו זה חסר בהרבה מהשיחה על AI כפי שהוא היום. יש דיבורים אינסופיים על מה זה יכול לעשות, כמה זה מסוכן. ואז אתה מתעמק, ואתה אומר, "האם זה באמת עושה את מה שהוא אמור לעשות היום?" במקרים מסוימים, התשובה היא כן. אבל במקרים רבים, רבים, התשובה היא לא.
זה מרגיש כאילו זה מתחבר לתרבות ההייפ שאתה מתאר וגם לתחושה שאם אתה אומר שזה יעשה משהו וזה לא, ומישהו מרגיש רע, זה בסדר כי אנחנו על הדבר הבא. זה בעבר. וב-AI במיוחד, סאם כל כך טוב בהבטחות הגדולות.
רק השבוע, אני חושב שבאותו יום שבו פורסם הסיפור שלך, OpenAI פרסמה מסמך מדיניות שאומר שעלינו לחשוב מחדש על האמנה החברתית ולקבל קצבאות התייעלות בינה מלאכותית מהממשלה. זוהי הבטחה גדולה לגבי האופן שבו טכנולוגיה כלשהי עשויה לעצב את עתיד העולם וכיצד אנו חיים, וכל זה מסתמך על כך שהטכנולוגיה תעבוד בדיוק בצורה שבה אולי הבטיחו שהיא תעבוד או שהיא צריכה לעבוד.
האם אי פעם מצאת את סם מטיל ספק בבינה מלאכותית הופך ל-AGI או מודיעין-על או מגיע לקו הסיום? כי זה הדבר שאני הכי תוהה לגביו. האם יש הרהור האם טכנולוגיית הליבה הזו יכולה לעשות את כל הדברים שהם אומרים שהיא יכולה לעשות?
זה בדיוק סדרת השאלות הנכונה. ישנם טכנולוגים אמינים שדיברנו איתם בגוף הדיווח הזה - וברור שסם אלטמן אינו אחד מהם; הוא איש עסקים - שאומרים שהדרך שבה סם מדבר על ציר הזמן של הטכנולוגיה הזו היא ממש רחוקה. יש פוסטים בבלוג שחזרו כמה שנים אחורה שבהם סם אומר, "כבר הגענו לאופק האירועים. AGI בעצם כאן. מודיעין על מעבר לפינה. אנחנו הולכים להיות בכוכבי לכת אחרים. אנחנו הולכים לרפא את כל צורות הסרטן." באמת, אני לא מייפה.
הסרטן דווקא מעניין, שסאם ממריץ את האדם שבאופן תיאורטי ריפא את הסרטן של הכלב שלו עם ChatGPT, וזה פשוט לא קרה. הם דיברו עם ChatGPT, וזה עזר להם להדריך כמה חוקרים שבאמת עשו את העבודה, אבל האחד-על-אחד, הכלי הזה ריפא את הכלב הזה הוא לא בעצם הסיפור.
אני שמח שהעלית את הנקודה הזו כי אני רוצה להמשיך לנקודה הגדולה יותר הזו לגבי מתי הן הפוטנציאל והן הסיכון של הטכנולוגיה באמת הולכים להתבסס. אבל כדאי להזכיר את הצידים הקטנים האלה שקורים כל הזמן מסם אלטמן, שם נראה שהוא מגלם את התכונה הזו מחדש.
כלומר, אם להשתמש בדוגמה של דו"ח WilmerHale, שבו היה לנו מידע זה שלא היה בכתב, ורצינו לדעת אם התקציר בעל פה לאורך הדרך ניתן למישהו מלבד שני חברי ההנהלה שסאם עזר להתקין כדי לפקח עליו. והוא אמר, "כן, כן, לא, אני מאמין שזה ניתן לכל מי שהצטרף לדירקטוריון לאחר מכן." ויש לנו אדם עם ידע ישיר על המצב שאומר שזה פשוט שקר. וזה באמת נראה כך, שזה לא נכון. אם אנחנו רוצים להיות נדיבים, אולי הוא קיבל מידע מוטעה.
יש הרבה מההבטחות המזדמנות האלה. ואני משתמש בדוגמה הזו בין השאר כי זו דוגמה מצוינת לפירוק, בוא נקרא לזה, שיכולות להיות לה השלכות אמיתיות מבחינה משפטית. אני לא צריך להגיד לך, על פי דיני התאגידים של דלאוור, אם החברה הזו הנפקת הנפקות, בעלי המניות יוכלו, לפי סעיף 220, להתלונן על כך ולדרוש תיעוד בסיס. כבר יש חברי דירקטוריון שאומרים דברים כמו, "טוב, חכה רגע, התדריך הזה היה צריך לקרות."
אז לדברים האלה שנדמה שהם קופצים מהפה שלו כל הזמן, הם יכולים להיות בעלי השפעות של ממש מזיזות שוק, השפעות אמיתיות עבור OpenAI. אם מחזירים את זה לסוג של שפת הייפ אוטופית שצצה מחדש, אני חושב שלא במקרה ביום שבו היצירה הזו יצאה, היא גם משפיעה על כולנו, כי הסכנות הן כל כך חריפות ביחס לאופן שבו היא מופיעה.הפריסה בכלי נשק, האופן שבו משתמשים בו לזיהוי גורמי לוחמה כימיים, פוטנציאל הדיסאינפורמציה, ובגלל האופן שבו ההייפ האוטופי אכן גורם להרבה כלכלנים אמינים לומר, "יש לזה את כל הסימנים של בועה".
אפילו סם אלטמן אמר, "מישהו הולך להפסיד כאן הרבה כסף". זה באמת יכול לצבוע הרבה צמיחה כלכלית אמריקאית וגלובלית, אם יש כמו ניקוב אמיתי של בועה המערבת את כל החברות האלה שעושות עסקאות זו עם זו, עוברות הכל על AI תוך הלוואות כה כבדות. אז מה שסם אלטמן אומר חשוב, ואני חושב שהרוב של האנשים סביבו, הזכרת שדיברנו עם יותר ממאה, זה היה למעשה הרבה יותר ממאה. הייתה לנו שיחה בקו הסיום שבה זה אומר, "האם זה יהיה קטנוני מדי להגיד שזה מספר גבוה בהרבה?" והיינו כמו, "כן, בוא נצמצם. נשחק את זה מגניב". אבל היו כל כך הרבה אנשים ורוב כה משמעותי מהם אמרו, "זה דאגה". ואני חושב שבגלל זה.
תן לי לשאול אותך על המספר הזה. כפי שציינת, אנשים נפתחו יותר ויותר עם החששות ככל שחלף הזמן. זה מרגיש כאילו הלחץ סביב הבועה - המירוץ לנצח, לשלם את כל ההשקעה הזו, להתגלות כמנצח, להנפקה - שינה הרבה גישות. זה בהחלט יצר יותר לחץ על סם ו-OpenAI.
פרסמנו השבוע סיפור רק על הוויב של OpenAI. הסיפור שלך הוא חלק מזה, אבל שינויים מסיביים בצוות בדרגות ההנהלה ב-OpenAI - אנשים באים והולכים. החוקרים כולם הולכים, בעיקר לאנתרופי, שלדעתי הוא באמת מעניין. אתה פשוט יכול לראות שהחברה הזו מרגישה את הלחץ, והיא מגיבה ללחץ הזה בדרך כלשהי.
אבל אז אני חושב על סם שפוטר. זה פשוט בלתי נשכח עבורי. זה בלתי נשכח עבור אף אחד אחר, אבל קיבלתי שיחת מקור בגן החיות של ברונקס בשעה 19:00 ביום שישי, וזה היה מישהו שאמר שהם הולכים לנסות להחזיר את סאם. ואז בילינו את סוף השבוע במרדף אחרי הסיפור הזה. והייתי בדיוק כמו, "אני בגן החיות. מה אתה רוצה שאעשה כאן?" והתשובה הייתה, "תישאר בטלפון." ובכן, הבת שלי הייתה כמו, "צא מהטלפון." וזה מה שעשיתי.
זה היה לרכוב או למות כדי להחזיר את סאם. החברה הזו אמרה, "לא, אנחנו לא נותנים לדירקטוריון לפטר את סם אלטמן". המשקיעים, הם מצוטט בקטע שלך, "יצאנו למלחמה", אני חושב, היא עמדת Thrive Capital, "כדי להחזיר את סאם". מיקרוסופט יצאה למלחמה כדי להחזיר את סם. זה מאוחר יותר, ועכשיו כולם אומרים, "אנחנו הולכים להנפקה. הגענו לקו הסיום. החזרנו את הבחור שלנו, והוא יביא אותנו לקו הסיום. אנחנו חוששים שהוא שקרן".
למה זו הייתה מלחמה להחזיר אותו אז? כי לא נראה שמשהו באמת השתנה. אתה מדבר על התזכירים שאיליה סוצקבר ו[מנכ"ל אנתרופי] דריו אמודי שמרו בזמן שהיו בני דורו של סם אלטמן. הדאגה מספר אחת של איליה הייתה שסאם הוא שקרן.
שום דבר מזה לא השתנה. אז למה הייתה מלחמה להחזיר אותו אז? ועכשיו, כשאנחנו בקו הסיום, נראה שכל החששות נמצאים בשטח פתוח.
ובכן, קודם כל, סליחה לבת שלך ולבן זוגי וכל שאר האנשים סביב העיתונאים.
[צוחק] זה היה די סוף שבוע לכולם.
כן, זה משתלט על החיים של האדם, והסיפור הזה בהחלט יש את שלי, במהלך תקופת הזמן האחרונה. זה בעצם קשור לנושא הזה של עיתונות וגישה למידע, אני חושב. המשקיעים שיצאו למלחמה למען סם וכולם שיחקו תפקיד בדאגה שהוא יחזור, והדירקטוריון שתוכנן במיוחד כדי להגן על המשימה של עמותה לשים בטיחות על צמיחה ולפטר מנהל בכיר אם לא ניתן היה לסמוך עליהם עם זה, הם הלכו משם. זה הכל בגלל, כן, התמריצים בשוק היו שם, נכון?
סם הצליח לשכנע אנשים, "ובכן, החברה פשוט הולכת להתפרק." אבל הסיבה שהייתה לו תמיכה הייתה חוסר מידע. אותם משקיעים, במקרים רבים, אומרים כעת, "אני מסתכל אחורה, ואני חושב שהיו צריכים להיות לי יותר חששות אילו ידעתי היטב מה היו הטענות ומה החששות".
לא כולם;הדעות משתנות, ואנחנו מצטטות מגוון דעות, אבל ישנן דעות משמעותיות שפעלו על מידע חלקי מאוד. הלוח שפיטר את סם היה, במילותיו של אדם אחד שהיה בלוח, "מאוד JV", והם גיששו את הכדור בחוזקה. ואנחנו מתעדים את התלונות הבסיסיות, ואנשים יכולים להחליט בעצמם אם זה מצטבר לסוג של דאגה דחופה שהם הרגישו, אבל הטיעון הזה והמידע הזה לא הוצגו.
הם קיבלו את מה שחלק מהם מכירים כיום בייעוץ משפטי גרוע. כדי לתאר את זה, תזכור את הציטוט, וכנראה שהרבה מהמאזינים והצופים שלך יזכרו את הציטוט כחוסר כנות. לזה זה צומצם, ואז הם בעצם לא קיבלו שיחות.
הם לא היו מקבלים שיחות. אני בטוח שניסית. כל מי שאני מכיר ניסה, וזה הגיע לנקודה שבה, כעיתונאי, אתה לא אמור לתת עצות למקורות שלך, אבל הייתי כמו, "זה ייעלם אם לא תתחיל להסביר את עצמך".
וזה מה שקרה. תשכחו מעיתונאים. גרמת לסאטיה נדלה לומר, "מה לעזאזל קרה? אני לא יכול לגרום לאף אחד להסביר לי." וזה התומך הפיננסי העיקרי של החברה. ואז יש לך שסתיה מתקשרת לריד הופמן [מייסד LinkedIn] וריד מתקשרת ואומרת, "אני לא יודעת מה לעזאזל קרה."
מובן שהם נמצאים בחלל המידע הזה, ומחפשים את האינדיקטורים המסורתיים שאינם בינה מלאכותית שיצדיקו ירי כל כך דחוף ופתאומי. כאילו, בסדר, זה היה פשעי מין? האם זו הייתה מעילה? וכל הטיעון העדין, אבל לדעתי המשמעותי, שהטכנולוגיה הזו שונה ושסוג זה של הצטברות מתמדת של בגידות קטנות יותר עשוי להיות בעל סיכון משמעותי הן עבור העסק הזה ואולי עבור העולם, אבד במידה רבה. אז התמריצים הקפיטליסטיים ניצחו, אבל גם האנשים שעשו את זה יצאו החוצה ולא תמיד פעלו עם מידע מלא.
אני רק רוצה לשאול על היבט "מה כולם חשבו שזה" לרגע אחד, כי בהחלט ראיתי את החדשות, ואמרתי, "אוי, משהו רע בטח קרה". עשית הרבה דיווחים של #MeToo, באופן מפורסם. שברת את הסיפור של הארווי ויינשטיין.
השקעת זמן רב בדיווח על הטענות האלה שלדעתי החלטת שהן בסופו של דבר מופרכות: שאלטמן תקף מינית קטינים או שכרה עובדי מין, או אפילו רצח מלשיין של OpenAI. כלומר, אתה האדם שיכול לדווח על הדברים האלה בצורה הכי קפדנית. החלטת שזה לא יוצא כלום?
ובכן, תראה, אני לא בעניין של להגיד שמשהו לא יצא לפועל. מה שאני יכול לומר הוא שביליתי חודשים בבחינת הטענות הללו ולא מצאתי אישור להן. וזה היה בולט בעיני שהחבר'ה האלה, החברות האלה שיש להן כל כך הרבה כוח על העתיד שלנו, באמת מבזבזים כמות לא פרופורציונלית מזמנם ומשאביהם במאבק בוץ ילדותי.
מנהל אחד מתאר את זה כ"שייקספירי". סכום הכסף של החוקר הפרטי ותיקי האופוזיציה שנערכים הוא בלתי פוסק. והדבר המצער הוא שסוג הדברים המטופשים, שמתחרים של סם תוכיים לו, הם פשוט מניחים, נכון? יש את הטענה הזו שהוא רודף אחרי נערים קטינים, ובמסיבות קוקטייל רבות בעמק הסיליקון, אתה שומע את זה. במעגל הכנסים, שמעתי את זה רק חוזר על ידי מנהלים אמינים ובולטים: "כולם יודעים שזו עובדה."
הדבר העצוב הוא שאני מדבר על מאיפה זה מגיע, על הוקטורים השונים שבאמצעותם זה מועבר. אילון מאסק ומקורביו דוחפים לכאורה תיקים הארדקורים שכאלה מסתכמים בשום דבר. הם אדים כאשר אתה באמת מתחיל להסתכל על הטענות הבסיסיות. הדבר העצוב הוא שזה באמת מטשטש את הביקורות היותר מבוססות ראיות כאן שלדעתי באמת ראויות לפיקוח ושיקול דעת דחוף.
הנושא השני שבאמת עובר בסיפור הוא כמעט תחושת פחד שלסאם יש כל כך הרבה חברים - הוא השקיע בכל כך הרבה חברות מתפקידו הקודם כמנכ"ל Y Combinator, רק להשקעה האישית שלו, שחלקן עומדות בסתירה ישירה לתפקידו כמנכ"ל OpenAI - ויש שקט סביבו.
זה הדהים אותי כשקראתי שורה אחת במיוחד. אתה מתאר את התזכירים של איליה סוצקבר, והם רק יצאו בעמק הסיליקון. כֹּל אֶחָדקורא להם תזכירי איליה. אבל יש אפילו שקט סביב זה. הם מועברים, אבל לא מדברים עליהם. מאיפה אתה חושב שזה בא? האם זה פחד? האם זה רצון להשיג השקעה באנג'ל? מאיפה זה בא?
אני חושב שזה הרבה פחדנות, אני אהיה כנה. לאחר שדיווחו על סיפורי ביטחון לאומי שבהם המקורות הם חושפי שחיתויות שעומדים להפסיד הכל ועומדים לדין, הם עדיין עושים את הדבר הנכון ומדברים על דברים כדי ליצור דין וחשבון. עבדתי על הסיפורים הקשורים לפשעי מין שהזכרת, שבהם המקורות בטראומה עמוקה וחוששים מסוג מאוד אישי של גמול.
במקרים רבים סביב הקצב הזה, אתה מתמודד עם אנשים עם פרופיל וכוח משלהם. או שהם אנשים מפורסמים בעצמם או שהם מוקפים באנשים מפורסמים. יש להם חיים עסקיים חזקים. לדעתי, זו בעצם חשיפה נמוכה מאוד עבורם לדבר על הדברים האלה. ולמרבה המזל, המחט זזה כפי שדיברנו עליו קודם, ואנשים מדברים עכשיו יותר.
אבל במשך כל כך הרבה זמן, אנשים פשוט סותמים את הפה בגלל זה, כי אני חושב שתרבות עמק הסיליקון היא פשוט כל כך אינטרסנטית וחסרת רחמים עסקית וצמיחה. אז אני חושב שזה פוגע אפילו בחלק מהאנשים שהיו מעורבים בפיטורי סם, שם ראית בימים שאחרי, כן, גורם אחד שהוביל לכך שהוא חזר ולפיטורי חברי דירקטוריון ותיקים היה שהוא ריכז משקיעים שהיו מבולבלים למטרה שלו.
אבל אחר הוא שכל כך הרבה אנשים אחרים סביב זה שהיו להם את החששות והשמיעו אותם בדחיפות פשוט התקפלו כמו מפיות ושינו את המנגינה שלהם ברגע שראו שהרוח נושבת לכיוון השני, והם רצו להיכנס לרכבת הרווח.
זה די אפל, בכנות, מנקודת המבט שלי ככתב.
חלק מהאנשים האלה הם מירה מוראטי, שלדעתי, במשך 20 דקות הייתה המנכ"לית החדשה של OpenAI. לאחר מכן היא הוחלפה. זו הייתה דינמיקה מאוד מסובכת, וברור שסאם חזר. האדם השני הוא איליה סוצקבר, שהיה אחד מהקולות להדיח את סם, ואז הוא שינה את דעתו, או לפחות אמר שהוא שינה את דעתו, ואז הוא עזב כדי להקים חברה משלו. אתה יודע מה גרם לו לשנות את דעתו? זה היה רק כסף?
ובכן, וכדי להיות ברור, אני לא מפריד בין שני אלה. ישנם חברי דירקטוריון נוספים שהיו מעורבים בירי שגם הם השתתקו מאוד לאחר מכן. אני חושב שזה כמו בעיה קולקטיבית רחבה יותר. מדובר, בחלק מהמקרים, באנשים שהיו להם את הסיב המוסרי להשמיע אזעקה ולנקוט בפעולה קיצונית, ועל כך יש לשבח. וככה אתה מבטיח אחריות. זה יכול היה לעזור להרבה אנשים שמושפעים מהטכנולוגיה הזו. זה יכול היה לעזור לתעשייה להישאר ממוקדת יותר בבטיחות.
אבל בהתמודדות עם חושפי שחיתויות ואנשים שמנסים לעורר דין וחשבון זה הרבה, אתה גם רואה שזה דורש את הסיב של להדביק את זה ולעמוד על הרשעות שלך. והתעשייה הזו באמת מלאה באנשים שפשוט לא עומדים באמונותיהם.
למרות שהם חושבים שהם בונים אלוהים דיגיטלי שאיכשהו או שיבטל את כל העבודה או יצור עוד עבודה, או שמשהו יקרה.
ובכן, זה העניין. אז התרבות של אי עמידה באמונותיכם וכל החששות האתיים נופלים מהדרך ברגע שיש חום או כל דבר שיכול לאיים על מעמדכם בעסק, אולי הכל טוב ויפה במידה מסוימת עבור חברות עסקיות כרגיל שמייצרות כל סוג של יישומון.
אבל אלה גם אותם אנשים שאומרים, "זה יכול ממש להרוג את כולנו." ושוב, אתה לא צריך ללכת לקיצוניות Terminator Skynet. יש מכלול של סיכונים שכבר מתממשים. זה אמיתי, והם צודקים להזהיר על כך, אבל תצטרך שמישהו אחר יכסה פסיכולוגיה איך שני הדברים האלה יכולים לחיות באותם אנשים שבהם הם משמיעים את האזהרות הדחופות, הם אולי שמים יד ומנסים לעשות משהו, ואז הם פשוט מתקפלים ושותקים.
בדיוק בגלל זה אתה יכול לקבל מקרים כאלה של דברים שלא בכתב ודברים מטאטאים מתחת לשטיח, ואף אחד לא מדבר על זה בגלוי במשך שנים לאחר מעשה.
הצד הטבעי, האחראי כאן, לא יהיה המנכ"לים של החברות הללו; זה יהיו ממשלות. בארצות הברית, אוליזה ממשלות מדינה, אולי זה הממשלה הפדרלית.
אין ספק, החברות האלה כולן רוצות להיות גלובליות. יש כאן הרבה השלכות גלובליות. צפיתי ב-OpenAI, Google ו-Anthropic כולן מעודדות את ממשל ביידן לשחרר צו ביצוע של AI. זה היה די חסר שיניים בסופו של דבר. זה רק אמר שהם צריכים לדבר על מה הדגמים שלהם מסוגלים ולשחרר כמה בדיקות בטיחות. ואז כולם תמכו בטראמפ, וטראמפ נכנס ומחק את כל זה ואמר, "אנחנו חייבים להיות תחרותיים. זה חופשי לכולם. לכו על זה".
במקביל, כולם מנסים לגייס כספים ממדינות המזרח התיכון שיש להן הרבה כסף נפט ורוצות לשנות את הכלכלות שלהן. אלה פוליטיקאים. אני מרגיש שפוליטיקאים בהחלט צריכים להבין שמישהו מדבר משני צידי הפה שלהם, והם לא יתעצבנו יותר מדי אם מישהו יתאכזב בסופו של דבר, אבל גם הפוליטיקאים נלקחים לסיבוב. למה אתה חושב שזה?
זו באמת, אני חושב, למה היצירה חשובה בעיניי ולמה היה שווה להשקיע את כל הזמן והפרטים האלה. אנחנו נמצאים בסביבה שבה המערכות שכפי שאתה אומר צריכות לספק פיקוח פשוט חלולות. זו אמריקה שלאחר האזרחים המאוחדת, שבה זרימת הכסף כל כך בלתי מוגבלת, וזה ריכוז מסוים של הבעיה הזאת סביב AI, שם יש את ה-PAC האלה שמתרבים ומציפים כסף לביטול רגולציה משמעותית הן ברמה המדינה והן ברמה הפדרלית.
יש לך [מייסד-שותף של OpenAI] גרג ברוקמן, השני בפיקודו של סם, שתרם ישירות לכמה כאלה. זה מוביל למצב שבו באמת יש לכידה של מחוקקים ורגולטורים פוטנציאליים, וזו ספירלה שקשה לצאת ממנה. הדבר העצוב הוא שאני חושב שיש מהלכי מדיניות פשוטים, שחלקם עומדים לדין במקומות אחרים בעולם, שיעזרו לחלק מבעיות האחריות הללו.
אתה יכול לעשות יותר בדיקות בטיחות חובה לפני פריסה, וזה משהו שכבר קורה באירופה עבור דגמי חזית. אתה יכול לקבל דרישות כתובות ציבוריות מחמירות יותר לסוגי החקירות הפנימיות שבהן ראינו שהדברים לא כתובים במקרה הזה. אתה יכול לקבל מערך חזק יותר של מנגנוני סקירת ביטחון לאומי לסוגי שאיפות התשתית של המזרח התיכון שסם אלטמן דחף.
כפי שאתה אומר, הוא עשה את הפיתיון הזה והחליף עם ממשל ביידן, ואמר, "תסדיר אותנו, תסדיר אותנו", ועזר להם לגבש צו ביצוע, ואז ברגע שטראמפ נכנס, ממש בימים הראשונים, פשוט לא מתאפק, "בואו נאיץ ובואו נבנה קמפוס מרכז נתונים מאסיבי באבו דאבי". אתה יכול, זה באמת פשוט, כמו הגנות על חושפי שחיתויות. אין חוק פדרלי המגן על עובדי חברות בינה מלאכותית שחושפים חששות בטיחות מסוג זה המושמעים ביצירה זו.
יש לנו מקרים שבהם יאן לייק, שהיה איש בטיחות בכיר ב-OpenAI, הוביל מערך סופר על החברה. הוא כותב לדירקטוריון, בעיקרו חומר לחושפי שחיתויות, ואומר שהחברה יורדת מהפסים במשימת הבטיחות שלה. אלה הם סוגי האנשים שצריכים להיות להם גוף מפקח שהם יכולים ללכת אליו, וצריכות להיות להם הגנות סטטוטוריות מפורשות מהסוג שאנו רואים במגזרים אחרים. זה פשוט לשכפל משטר בסגנון סרבנס-אוקסלי.
אני חושב שלמרות כמה חריפה הבעיה היא של עמק הסיליקון שנוטל על עצמו את השליטה בכל מנופי הכוח, ולמרות כמה חלולים חלק מהמוסדות האלה שעשויים לספק פיקוח ומעקות בטיחות, אני עדיין מאמין במתמטיקה הבסיסית של דמוקרטיה ושל פוליטיקאים בעלי אינטרס. ויש יותר ויותר נתוני סקרים שרוב האמריקנים חושבים שהחששות, השאלות או הסיכונים של AI עולים כיום על היתרונות.
אז אני חושב שהשטף של כסף לפוליטיקה מ-AI, זה בכוחנו לעשות את זה למקור לסימן שאלה ביחס לפוליטיקאים. כשאמריקאים הולכים להצביע, הם צריכים לבחון אם האנשים שהם מצביעים עבורם, במיוחד אם הם חסרי ביקורת ואנטי-רגולציה, בהתחשב בכל החששות הללו, מוגנים על ידי אינטרסים טכנולוגיים גדולים. אז אני חושב שאם אנשים יכולים לקרוא קטעים כאלה, להאזין לפודקאסטים כאלה, ולהקפיד עליהם לחשוב בצורה ביקורתיתהחלטותיהם כבוחרים, ישנה הזדמנות אמיתית ליצור בוושינגטון מחוז בחירה של נציגים שפוקחים עין וכופים פיקוח.
זה עשוי להיות אחד הדברים האופטימיים ביותר ששמעתי אי פעם מישהו אומר על תעשיית הבינה המלאכותית הנוכחית. אני מעריך את זה. אני אובססיבי לגבי הסקר שאתה מדבר עליו. יש הרבה מזה עכשיו. הכל די עקבי, ונראה שככל שאנשים צעירים יותר, בפרט, נחשפים לבינה מלאכותית, כך הם חוששים יותר וכועסים על כך. זו הערך של כל הסקרים. ואני מסתכל על זה, ואני חושב, ובכן, כן, פוליטיקאים חכמים פשוט יתמודדו נגד זה. הם פשוט יגידו, "אנחנו הולכים לתת אחריות על הטכנולוגיה הגדולה".
אחר כך אני חושב על 20 השנים האחרונות, פוליטיקאי שאומר שהם עומדים לתת דין וחשבון לטכנולוגיה גדולה, ואני נאבק למצוא אפילו רגע אחד של טכנולוגיה גדולה באחריות. הדבר היחיד שגורם לי לחשוב שזה יכול להיות שונה הוא, ובכן, אתה בעצם צריך לבנות את מרכזי הנתונים, ואתה יכול להצביע נגד זה, ואתה יכול לעתור נגד זה, ואתה יכול למחות נגד זה.
אני חושב שיש פוליטיקאי שפשוט ירו על הבית שלו כי הוא הצביע עבור מרכז נתונים. המתח מגיע, הייתי קורא לזה, גובה חום. תיארת את הבידוד של עמק הסיליקון. זוהי מערכת אקולוגית סגורה. זה מרגיש כאילו הם חושבים שהם יכולים לנהל את העולם. הם משקיעים המון כסף בפוליטיקה, והם נתקלים במציאות שאנשים לא אוהבים את המוצרים, מה שלא נותן להם הרבה כיסוי. ככל שהם משתמשים יותר במוצרים, כך הם נסערים יותר, והפוליטיקאים מתחילים לראות שיש השלכות אמיתיות לתמיכה בתעשיית הטכנולוגיה על האנשים שהם מייצגים.
דיברת עם כל כך הרבה אנשים. האם אתה חושב שאפשר לתעשיית הטכנולוגיה ללמוד את הלקח שנמצא ממש מולם?
אתה אומר שזה מרגיש כאילו הם חושבים שהם יכולים לנהל את העולם ללא אחריות. אני אפילו לא חושב שצריך את המוקדמות "מרגיש כמו". כלומר, אתה מסתכל על השפה שבה משתמש פיטר ת'יל, היא מפורשת. כמובן, זו דוגמה קיצונית. וסם אלטמן, למרות שהוא קרוב לאידיאולוגיה של ת'יל ומיודע בה במידה מסוימת, הוא אדם מסוג שונה מאוד שעשוי להישמע שונה ומדוד יותר עד נקודה מסוימת.
אבל אני כן חושב שהאידיאולוגיה הרחבה יותר שאתה מקבל מתיל, שהיא בעצם: סיימנו עם הדמוקרטיה, אנחנו לא צריכים אותה יותר. יש לנו כל כך הרבה שאנחנו רק רוצים לבנות בונקרים קטנים משלנו. אנחנו לא מתעסקים יותר עם הקרנגיז או ברוקפלרים, שם הם בחורים רעים, אבל הם מרגישים שהם צריכים להשתתף בחוזה חברתי ולבנות דברים לאנשים. יש ניהיליזם אמיתי שמתרחש.
ואני כן חושב שזו רק הייתה ספירלה מחזקת הדדית בהיסטוריה האמריקאית האחרונה של אילי בירה וחברות פרטיות שרכשו כוח שלטוני-על בזמן שמוסדות דמוקרטיים שעשויים לתת להם דין וחשבון חלולים. אני לא מרגיש אופטימי לגבי הרעיון שהחבר'ה האלה פשוט יתעוררו יום אחד ויחשבו, "אה, בעצם אולי אנחנו צריכים להשתתף בחברה ולעזור לבנות דברים לאנשים."
אני מתכוון, אתה מסתכל על כמו הדוגמה המיקרוקוסמית של ההבטחה הנותנת, שבו היה רגע שבו זה היה נראה כמו צדקה, והרגע הזה כבר עבר ואפילו נלעג. זו בעיה, הבעיה הרחבה יותר של חוסר אחריות, שלדעתי אפשר לפתור רק באופן חיצוני. זה חייב להיות הבוחרים שיגייסו ויחיו את כוח הפיקוח הממשלתי. ואתה צודק בדיוק אם אתה אומר שהווקטור העיקרי שדרכו אנשים יכולים אולי להשיג את זה הוא מקומי. זה קשור למקום שבו נבנית תשתית.
הזכרת חלק מהמתח הלוהט סביב זה שמוביל לאלימות ואיומים, וברור שאף אחד לא צריך להיות אלים או מאיים. ואני גם לא כאן כדי להמליץ המלצות ספציפיות על מדיניות מלבד רק להציג כמה מצעדי המדיניות שנראים בסיסיים ופועלים במקומות אחרים בעולם, נכון? או כאלה שעבדו במגזרים אחרים. אני לא כאן כדי לומר איזה מהם צריך לצאת להורג וכיצד.
אני כן חושב שמשהו צריך לקרות, וזה צריך להיות חיצוני, לא רק לסמוך על החברות האלה. כי נכוןכעת יש לנו מצב שבו החברות שמפתחות את הטכנולוגיה ומצוידות בצורה הטובה ביותר להבין את הסיכונים, ולמעשה הן אלו שמזהירות אותנו מפני הסיכונים, הן גם אלו שאין להן שום דבר מלבד תמריץ ללכת מהר ולהתעלם מהסיכונים הללו. ופשוט אין לך משהו לאזן את זה. אז לא משנה מה הרפורמות עשויות לנקוט במונחים של פרטים ספציפיים, משהו חייב להיתקל בזה. ואני עדיין חוזר לאופטימיות ההיא שהאנשים עדיין חשובים.
אני בדרך כלל קונה את הטיעון שלך. תן לי רק להעלות את הטיעון הנגד הקטן שאני חושב שאני יכול לבטא. הדבר הנוסף שיכול לקרות מחוץ לקלפי הוא שהבועה קופצת, נכון? שלא כל החברות הללו מגיעות לקו הסיום, ושאין שוק מוצרים מתאים ליישומי AI לצרכנים. ושוב, אני עדיין לא ממש רואה את זה, אבל אני מבקר טכנולוגיה צרכנית, ואולי פשוט יש לי סטנדרטים גבוהים יותר מכל אחד אחר.
יש התאמה לשוק מוצרים בעולם העסקים, נכון? נראה שחבורה של סוכני בינה מלאכותית כותבת חבורה של תוכנה היא שוק אמיתי לכלים האלה. ואתה יכול לקרוא את הטיעונים של החברות האלה שאומר, "פתרנו את הקידוד, וזה אומר שאנחנו יכולים לפתור כל דבר. אם אנחנו יכולים לייצר תוכנה, אנחנו יכולים לפתור כל בעיה."
אני חושב שיש גבולות אמיתיים לדברים שהתוכנה יכולה לעשות. זה נהדר בעולם העסקים. תוכנה לא יכולה לפתור כל בעיה במציאות, אבל היא חייבת להגיע לשם. הם צריכים לסיים את העבודה, ואולי לא כולם מגיעים לקו הסיום. ויש התרסקות, והבועה הזו קופצת, ואולי OpenAI או Anthropic או xAI, אחת מהחברות האלה נכשלת, וכל ההשקעה הזו נעלמת.
אתה חושב שזה ישפיע על זה? למעשה, תן לי לשאול את השאלה הראשונה קודם. OpenAI נמצאת ממש על סף הנפקה. יש הרבה ספקות לגבי סם כמנהיג. אתה חושב שהם יגיעו לקו הסיום?
אני לא מתכוון לשער, אבל אני חושב שאתה מעלה נקודה חשובה, שהיא שתמריצי השוק אכן חשובים לעמק הסיליקון, והאיכות הצפופה של דינמיקת הבועות הנוכחית יכולה להפריע, שוב, פוטנציאלית, על פי המבקרים, למירוץ לתחתית בנושא בטיחות.
אני גם אוסיף לזה, אם אתה מסתכל על קדימות היסטורית שבה יש מערך דומה ולכאורה בלתי חדיר של תמריצי שוק והשפעות מזיקות לציבור, ישנה ליטיגציה של השפעה. ואתה רואה בזה תחום דאגה לאחרונה. סם אלטמן נמצא שם השבוע ומאשר חקיקה שתגן על חברות בינה מלאכותית מחלק מסוגי האחריות ש-OpenAI נחשפה אליהם בתביעות מוות שלא כדין, למשל. כמובן, יש רצון לקבל את המגן הזה מפני אחריות.
אני חושב שבתי המשפט עדיין יכולים להיות מנגנון משמעותי, וזה יהיה ממש מעניין לראות איך התביעות האלה מתפתחות. כבר ראית, למשל, את התביעה הייצוגית, שאני והרבה, הרבה מחברים אחרים שאני מכיר חברים בה, נגד אנתרופיק על השימוש שלהם בספרים שהיו תחת זכויות יוצרים. אם יש מוחות משפטיים חכמים ותובעים שאכפת להם, כפי שראינו היסטורית במקרים מטבק גדול ועד אנרגיה גדולה, אתה יכול גם לקבל כמה מעקות בטיחות וכמה תמריצים להאט את הקצב, להיזהר או להגן על אנשים כך.
זה כן מרגיש כאילו כל מבנה העלויות של תעשיית הבינה המלאכותית תלוי בפרשנות מאוד מאוד צדקה של שימוש הוגן. לא עולה מספיק. מבנה העלויות של החברות האלה עלול לצאת מכלל שליטה אם הן יצטרכו לשלם לך ולכל אחד אחר שהעבודה שלהם הם לקחו, אבל זה לא נוח לחשוב על זה, אז אנחנו פשוט לא חושבים על זה. ממש ליד זה, כל המוצרים הללו פועלים כעת בהפסד. כמו היום, כולם אובדי עצות. הם שורפים יותר כסף ממה שהם יכולים להרוויח. בשלב מסוים, הם צריכים להפעיל את המתג.
סם הוא איש עסקים. כפי שציינת כמה פעמים, הוא לא טכנולוג. הוא איש עסקים. האם אתה חושב שהוא מוכן להפעיל את המתג ולומר, "אנחנו הולכים להרוויח דולר?" כי כשאני שואל, "האם אתה חושב ש-OpenAI עומד להצליח?" זה כאשר הם צריכים להרוויח דולר. ועד כה, סאם הרוויח את כל הדולרים שלו בכך שביקש מאנשים אחרים את כספם במקום שהחברות שלו ירוויחו כסף.
ובכן, זו שאלה גדולה עבור עמק הסיליקון, עבור משקיעים, עבור הציבור.אתה רואה כמה הצהרות ומהלכים מחוץ ל-OpenAI שנראים מעידים על סוג של פאניקה לגבי זה. לסגור את סורה, לסגור כמה פרויקטים נלווים, לנסות לאפס את מוצר הליבה. אבל אז מצד שני, אתה עדיין רואה, באותו זמן, טונות של משימה זוחלת, נכון? אפילו דוגמה קטנה - ברור שזה לא הליבה לעסק שלהם - היא רכישת TBPN.
אגב, ממש כשהגענו לקו הסיום ובדיקת עובדות, החברה העומדת בפני בדיקה עיתונאית מסוג זה רוכשת פלטפורמה שבה היא יכולה לשלוט יותר ישירה על השיחה. אני חושב שיש הרבה משקיעים שמודאגים, על סמך השיחות שניהלתי, שהבעיה הזו של הבטחת כל הדברים לכל האנשים משתרעת גם על חוסר המיקוד הזה במודל העסקי הליבה. ואני מתכוון, אתה קרוב יותר לסוג של חיזוי וצפייה בשוק מאשר אני כנראה. אני אשאיר אותך ואת המאזינים לשפוט האם הם חושבים ש-OpenAI יכולה להפעיל את המתג.
ובכן, שאלתי את השאלה כי יש לך ציטוט ביצירה מבכירי מיקרוסופט, והוא ש"המורשת של סם עשויה להיגמר דומה יותר לברני מיידוף או לסם בנמן-פריד", ולא לסטיב ג'ובס. זו ממש השוואה. מה חשבת על ההשוואה הזו?
אני חושב שזו פרפרזה. החלק של סטיב ג'ובס לא היה חלק מהציטוט. אבל יש בזה סוג מעניין של פיכחון כי זה מנוסח כמו, "אני חושב שיש סיכוי קטן אבל אמיתי שהוא בסופו של דבר יהיה SBF או רמאי ברמת מיידוף." כלומר, לטעמי, לא שסאם מואשם באותם סוגים ספציפיים של הונאה או פשעים, אלא שלמידת הפירוק וההטעיה מסאם יש סיכוי בסופו של דבר להיזכר בקנה מידה כזה.
כן, אני חושב שמה שהכי בולט בציטוט הזה, בכנות, הוא שאתה מתקשר למיקרוסופט ואינך מקבל סימן לייק, "זה מטורף. מעולם לא שמענו את זה." אתה מקבל הרבה דברים כמו, "כן, הרבה אנשים כאן חושבים את זה" וזה מדהים. ואני חושב שזה קשור לשאלות העסקיות האלה.
משקיע אחד אמר לי, למשל, לאור האופן שבו התכונה הזו נמשכה בשנים שלאחר הפיטורים" - וגם זה חשב שזו מחשבה מפוכחת מעניינת - שזה לא בהכרח שסאם צריך להיות בתחתית המוחלטת של הרשימה, כמו שצריך להיות הנמוך מבין השפל מבחינת האנשים שממש אסור לבנות את הטכנולוגיה הזו, בשביל מה שיש לו כמה אנשים ששווה את האדם הזה. שם אותו אולי בתחתית רשימת האנשים שצריכים לבנות את AGI, ומתחת לכמה דמויות מובילות אחרות בתחום הזה.
אז חשבתי שזו הערכה מעניינת, וזה סוג החשיבה שאני חושב שאתה מקבל מהפרגמטיסטים האמיתיים שאולי לא מתעסקים בדאגות הבטיחות כל כך. הם פשוט מכוונים לצמיחה, והם חושבים של-OpenAI יש כעת בעיה עם סם אלטמן.
היצירה של מיקרוסופט באמת מעניינת. החברה הזאת חשבה שהם בפסגת העולם. שהם ביצעו את ההשקעה הזו והם הולכים לזנק לכולם, במיוחד והכי חשוב, גוגל, ולחזור לחסדיהם של הצרכנים. הרמה שבה הם מרגישים נכווים מההרפתקה הזו - זו חברה המנוהלת בצורה מאוד מפוכחת - אני לא חושב שאפשר להפריז.
הזכרת את הדמויות ואת תכונות האישיות. אני רוצה לסיים כאן בשאלה מהמאזינים שלנו. אמרתי בתוכנית השנייה שלנו, The Vergecast, שאני הולך לדבר איתך, ואמרתי, "אם יש לך שאלות לרונן לגבי הסיפור הזה, תגיד לי." אז יש לנו כאן אחד שלדעתי מתחבר בצורה מסודרת למה שאתה מתאר. אני רק הולך לקרוא לך את זה:
"במה ההצדקות להתנהגות רעה, לפעולות גסות של אלטמן ומנהיגי בינה מלאכותית אחרים, שונות מההצדקות ששמע רונן ממנהיגים בעלי פרופיל גבוה אחרים בפוליטיקה ובתקשורת? האם לא כולם מצדיקים את מעשיהם בכך שכך העולם משתנה? אם אני לא אעשה את זה, מישהו אחר יעשה זאת?"
כן, יש הרבה מזה מסתובב. הייתי אומר שמה שמייחד את הבינה המלאכותית הוא שההימור הקיומי כל כך גבוה אומר ששתי הצהרות הסיכון הן קיצוניות, נכון? יש לך את סם אלטמןאומר, "זה יכול להיות כיבוי האורות לכולנו." וגם, יכולים המבקרים לומר, המאניה שהשואל מתייחס אליה היא קיצונית, נכון?
הדבר שסם האשים בו את אילון, בפרוטוקול, היה שאולי הוא רוצה להציל את האנושות, אבל רק אם זה הוא. סוג של מרכיב האגו של הרצון לנצח, שהוא מסגור שסם משתמש בו כל הזמן, ושזה מרכיב לספרי ההיסטוריה, זה יכול לשנות הכל. לכן, אפילו מעל ומעבר למחשבה של "אתה חייב לשבור כמה ביצים" של רוב מפעלי עמק הסיליקון, יש, לדעתי, בראשם של כמה דמויות המובילות בינה מלאכותית, רציונליזציה מלאה לכל נפילה.
ותשכחו לשבור ביצים. אני חושב שהרבה מחוקרי הבטיחות הבסיסיים יגידו שהם עלולים להסתכן בשבירת המדינה, לשבור את העולם ולשבור מיליוני אנשים שעבודתם ובטיחותם תלויים במאזן - זה מה שמייחד את זה. שם אני סוגר, מהרהר בגוף הדיווח הזה, באמת מאמין שזה יותר מאשר סם אלטמן. מדובר בתעשייה שאינה מוגבלת ובבעיה ספירלית של אמריקה שאינה מסוגלת להגביל אותה.
כֵּן. ובכן, הייתה לנו קצת אופטימיות שם, אבל אני חושב שזה מקום טוב לעזוב את זה.
[צוחק] סוף בקצב נמוך.
כַּמוּבָן. זה כל סיפור נהדר, באמת. משפט מאסק-אלטמן מתקרב. אני חושב שאנחנו הולכים ללמוד הרבה יותר כאן. אני חושד שארצה לדבר איתך שוב. רונן פארו, תודה רבה שהייתם ב-Decoder.
תודה לך.
שאלות או הערות לגבי הפרק הזה? פנה אלינו בכתובת [email protected]. אנחנו באמת קוראים כל מייל!
