היום אנחנו מדברים על המצב המבולגן והמהיר באנתרופיק, יצרנית קלוד, שעכשיו נקלע למאבק משפטי מכוער מאוד עם הפנטגון.
הלוך ושוב הוא מסובך, אבל החל לפני כמה ימים, הפנטגון ראה באנתרופיק סיכון שרשרת אספקה, ואנתרופיק הגישה תביעה נגד ייעוד זה, ואמרה שהממשלה הפרה את זכויות התיקון הראשון והחמישי שלה בכך ש"חיפשה להרוס את הערך הכלכלי שנוצר על ידי אחת החברות הפרטיות הצומחות ביותר בעולם". אני יכול להגיד לכם עכשיו: אנחנו הולכים לדבר על הפיתולים של המקרה הזה ב-The Verge וכאן ב-Decoder בחודשים הבאים.
אבל היום רציתי לקחת רגע ולהתעמק כאן במרכיב חשוב מאוד של המצב הזה שלא קיבל מספיק תשומת לב מכיוון שזה יצא מכלל שליטה: איך ממשלת ארצות הברית עושה מעקב, הסמכות החוקית שמאפשרת למעקב הזה להתרחש, ומדוע אנתרופיק לא אמון בממשלה ואמרה שהיא תפעל לפי החוק בכל הנוגע לשימוש ב-AI כדי לעשות עוד יותר מעקבים.
מנויי Verge, אל תשכחו שאתם מקבלים גישה בלעדית למפענח ללא פרסומות בכל מקום בו אתם מקבלים את הפודקאסטים שלכם. ראש לכאן. לא מנוי? אתה יכול להירשם כאן.
האורח שלי היום הוא מייק מסניק, המייסד והמנכ"ל של Techdirt, אתר מדיניות הטכנולוגיה המצוין והותיק. מייק כותב על הישגים מוגזמים של הממשלה, פרטיות בעידן הדיגיטלי ונושאים קשורים אחרים כבר עשרות שנים. הוא מומחה לאופן שבו האינטרנט ומדינת המעקב גדלו בדרכים מחוברות.
אתה מבין, יש מה שהחוק אומר שהממשלה יכולה לעשות כשזה מגיע למעקב אחרינו, ואז מה שהממשלה רוצה לעשות. והכי חשוב, יש את מה שהממשלה אומרת שהחוק אומר שהיא יכולה לעשות, וזה לרוב בדיוק ההפך ממה שכל אדם נורמלי שפשוט קורא את החוק היה חושב.
תשמעו את מייק מסביר בפירוט רב כאן בפרק הזה שאנחנו לא יכולים - ולא צריכים - לקחת את ממשלת ארה"ב על המילה שלה בכל הנוגע למעקב. יש פשוט יותר מדי היסטוריה של עורכי דין ממשלתיים שמעוותים את הפרשנויות של מילים פשוטות כמו "מטרה" כדי להרחיב את המעקב בדרכים מסובכות - דרכים שבדרך כלל מעוררות דאגה בחוגים משפטיים, ומבעבעות רק כשיש מחלוקות ענק כמו הגילויים העיקריים של המלשין אד סנודן של ה-NSA לפני יותר מעשור.
אבל אין שום דבר עדין או מתוחכם בקביעת מדיניות בעידן טראמפ - ולכן עם אנתרופיק, אנחנו מנהלים דיון מאוד רועש, מאוד ציבורי על טכנולוגיה ומעקב בזמן אמת, באינטרנט, בפוסטים בבלוגים ובהתפרצויות, ועל קולות של מסיבת עיתונאים. יש בזה דברים חיוביים ושליליים, אבל כדי להבין את כל זה, אתה באמת צריך לדעת את ההיסטוריה.
זה מה שמייק ואני קבענו להסביר בפרק הזה - לא משנה מה הדעות שלך לגבי AI וממשל, הפרק הזה יבהיר ששני הצדדים נתנו למדינת המעקב להתרחב יותר ויותר עם הזמן. כעת, אנחנו על סף ההתרחבות הגדולה ביותר עד כה בכל הנוגע ל-AI.
אוקיי: מייסד ומנכ"ל Techdirt, מייק מסניק, בנושא מעקבי אנטרופיק, הפנטגון ו-AI. הנה אנחנו הולכים.
ראיון זה עבר עריכה קלה עבור אורך ובהירות.
מייק מסניק, אתה המייסד והמנכ"ל של Techdirt. ברוכים הבאים ל-Decoder.
אני שמח להיות כאן.
אני מתרגשת לראות אותך. רק אמרתי שאני בהלם מכך שמעולם לא היית בתוכנית לפני כן. אני ואתה כותבים ומפרסמים אחד את השני כבר הרבה זמן. הרבה מכיסויי הפוליסות של The Verge חייבים בחוב למה שעשית ב-Techdirt ואז מה שקורה עם Anthropic הוא כל כך מסובך, אבל פוגע בכל כך הרבה נושאים שכיסית כל כך הרבה זמן. אני שמח שאתה סוף סוף כאן.
זה בלגן מסובך של נושא, אבל אני נרגש לחפור בו.
מה שאני רוצה להתמקד בו איתך הוא לא הפרטים של האם אנתרופיק עומדת לחתום על חוזה עם הממשלה או האם OpenAI עומדת לקבל את החוזה הזה. במקום זאת, אני בטוח שבין הזמן שבו אנחנו מקליטים את זה לבין הזמן שבו אנשים מאזינים לזה, יהיו יותר ציוצים ויותר דברים יהיו שונים ממה שהם היו קודם.
מה שאני רוצה להתמקד בו הוא רק אחד משני הקווים האדומים שאנתרופי באמת קבע. אחד מהם הואכלי נשק אוטונומיים, שזו רמת הסיבוך שלו. החוק שם קצת יותר מתגבש בין אם הנשק בכלל קיים ובין אם לאו כבר נפרס על ידי רוסיה במלחמת אוקראינה.
יש כאן הרבה רעיונות שאני רק רוצה לשים אותם בצד כי אני חושב שהם הולכים להתמקד יותר בלוח הזמנים שלו. הקו האדום השני שאני כן רוצה להשקיע בו הרבה זמן הוא מעקב המוני. ויש כאן די הרבה חוק על מעקב המוני. יש הרבה היסטוריה, הרבה היסטוריה שנויה במחלוקת. כל דמותו של אדוארד סנודן קיימת בגלל מחלוקות סביב מעקב המוני.
הכל מסתכם - אני חושב שאתה זה שפרסם את זה - הסוכנות לביטחון לאומי (NSA), שהיא חלק ממשרד ההגנה, שאנחנו צריכים לקרוא לו עכשיו מחלקת המלחמה מסיבה כלשהי.
[צוחק] אנחנו לא צריכים לעשות כלום.
[צוחק] אנחנו לא. זה נכון כאן באמריקה. אנחנו לא צריכים לעשות כלום. אבל ה-NSA הגדיר מחדש את המשמעות של הרבה מילים מאנגלית דיבורית למשמעות, "אנחנו יכולים פשוט לעשות מעקב". ואז מדי כמה זמן יש שערורייה כשאנשים מגלים שהם רק עושים מעקב. אז פשוט תעמיד את הבמה שם, ואני לא רוצה להחזיר אותך לאחור עד הסוף, אבל עבר די הרבה זמן שבו הדפוס הזה חזר על עצמו.
זה תלוי כמה עמוק אתה רוצה ללכת, אבל הגרסה הקצרה היא ללא ספק בעולם שלאחר ה-11 בספטמבר, ארה"ב העבירה את חוק הפטריוט, שהיה לו איזושהי יכולת לממשלה לעסוק במעקב, שאמור היה להגן עלינו מפני איומי טרור עתידיים. עם הזמן, זה התפרש בדרכים מעניינות והיו כמה מגבלות על זה. היה לנו גם בית משפט FISA, שהוא בית משפט מיוחד שאמור לבחון את קהילת המודיעין ופעילותה, אך באופן מסורתי היה בית משפט חד צדדי. רק צד אחד יכול להגיש את טענותיו בפני בית המשפט ההוא והכל נעשה בסתר.
יש הרבה דברים שלא היו ידועים. ואז היה עוד קטע אחד בכל זה, שחוזר כל הדרך חזרה לרונלד רייגן, שהוא הוראת ביצוע 12333, שעוסקת כביכול בהגדרת כללי הדרך לאיסוף מודיעין.
אז יש לך שלוש מערכות חוקים אלה - ובכן, כמה מערכות חוקים - וצו ביצוע שלציבור, החלקים שאתה יכול לקרוא, נראה אומר דברים מסוימים על מה שהממשלה שלנו וה-NSA בפרט יכולים לעשות במונחים של מעקב. כשקוראים עם מילון אנגלי פשוט, שאת אופיו יש ומבינים כנראה, היינו יוצאים מתוך אמונה שהיכולת של ה-NSA לפקח על אמריקאים הייתה מוגבלת מאוד, למעשה עד כדי כך שהם אמורים, אם הם מבינים שהם עוקבים אחר אדם אמריקאי, שהם אמורים לעצור מיד ולבכות על כל המידע הזה ולמחוק את כל הנתונים האחרים.
היו שמועות במשך זמן מה שזה לא באמת קורה והיו רמזים ובמיוחד הסנאטור רון ווידן היה קולני מאוד על כך שהוא עלה על רצפת הסנאט ואמר, "משהו כאן לא בסדר ואני לא ממש יכול להגיד לך מה", או בדיונים הוא היה שואל פקידי מודיעין, "האם אתה או שאתה לא אוסף נתונים המוני על אמריקאים?"
פקידים אלה היו מסיטים או שבמקרים מסוימים ישקרו על הסף. אני מאמין שזה היה שימוע אחד ב-2012 עם ג'יימס קלפר, שהיה מנהל המודיעין הלאומי באותה תקופה, שבו הוא נשאל ישירות בנקודה זו. והוא בעצם אמר, "לא, אנחנו לא אוספים נתונים על אמריקאים." זה היה חלק גדול ממה שנתן השראה לאד סנודן להדליף את הנתונים, הדיווחים שהוא הדליף גם לגלן גרינוולד ולבארטון גלמן ולורה פויטרס. מכל זה, מה שהתחלנו לגלות הוא של-NSA יש מילון משלו שהוא שונה במקצת מהמילון שבו אתה ואני משתמשים, כך שהם יכולים לפרש מילים בדרכים השונות מהמשמעות האנגלית הפשוטה שלהן, כולל מילים כמו "מטרה", שמרגישה כמו מילת מפתח. הבנה רחבה של מה זה היא שבתיאוריה הם אמורים לכוון רק לאנשים שאינם אנשים בארה"ב, אני חושב שזה הביטוי.
אבל האופן שבו זה התפרש לאורך זמן היה שכל מה שמזכיר את אותו אדם, כל דבר שעוסק באדם זר הוא כעת משחק הוגן, גם אם זה התקשורת שלאדם אמריקאי. אז אם אתה ואני היינו מסמסים אחד לשני ומזכירים אדם זר, זה עכשיו משחק הוגן עבור ה-NSA לאסוף, לשמור ולאחסן.
יש חלק שני של זה. הזכרתי צו ביצוע ראשון 12333 מאת רונלד רייגן, שככל שהטכנולוגיה השתנתה עם הזמן והאינטרנט גדל, למעשה אפשר ל-NSA להתחבר לתקשורת זרה, אבל זה כלל כל תקשורת שאולי השאירה את ארה"ב במסלול לאנשהו. אז אם אני שולח לך הודעת טקסט והודעה עברה ממני בקליפורניה דרך כבל סיבים אופטיים שבמקרה יצא מארה"ב, ה-NSA יכול ללחוץ על החלק ברגע שהוא מחוץ לארה"ב ולאסוף את המידע הזה, גם אם הוא רק הולך אליך בתוך ארה"ב.
לאחר מכן, ה-NSA יכול לשמור את המידע הזה גם אם הוא היה על אנשים בארה"ב, והם יכלו לבצע חיפושים ספציפיים על זה מאוחר יותר, המכונה לפעמים "חיפושים בדלת אחורית". הם אספו את המידע הזה שאנחנו מאמינים שהם לא היו אמורים לאסוף מלכתחילה, אבל הם יכלו לשמור אותו. והם הבטיחו, הם נשבעו פינקי, שהם ישמרו את זה בפרטי, אבל אם הם עשו חיפוש וגילו שאתה או אני הזכרנו אדם זר, אז פתאום זה היה משחק הוגן עבורם לעשות עם זה מה שהם רוצים.
בסך הכל, זה הפך לעולם שבו הממשל הפדרלי יכול בעצם לאסוף כל מידע שבמקרה נוגע מחוץ לארה"ב. גם אם זה לגמרי בין שני אנשים אמריקאים, אם הם מזכירים או אפילו רומזים על מישהו שאינו אדם אמריקאי, פתאום זה משחק הוגן להיאסף. ומכאן קיבלנו מה שנראה כסוג של מעקב המוני אחר אנשים בארה"ב על ידי NSA שטוען ומצהיר בפומבי שהיא לא מרגלת אחרי אנשים אמריקאים.
איך הגענו למצב הזה? זה הרבה צעדי תינוק מצטברים. הזכרת את ג'יימס קלפר ב-2012, זה ממשל אובמה. הזכרת את רונלד רייגן, אלו שנות השמונים. אנחנו עוברים כאן על הדמוקרטים והרפובליקנים.
המלחמה בטרור התרחשה בממשל ג'ורג' בוש, ו-11 בספטמבר וחוק הפטריוט התרחשו בממשל ג'ורג' בוש. יש הרבה דברים רעים מצטברים תחת נשיאים של שתי המפלגות, תחת קונגרסים של שתי המפלגות. איך זה קרה?
הצורה הפשוטה ביותר היא שאף אחד, ובוודאי אף נשיא, לא רוצה להיות נשיא בתקופה שבה יש מתקפת טרור גדולה, כי זה גורם להם להיראות רע. ברור שהם גם רוצים להגן על האמריקאים, נכון? זה חלק מהעבודה שלהם. אם יש לך קהילת מודיעין שפועלת בעצם בחושך כי זה מה שקהילות מודיעין עושות והן כל הזמן באות אליך ואומרות, "היי, אם רק נוכל לקבל גישה למידע הזה, זה יעזור מאוד במניעת התקפת טרור."
ייתכנו מקרים שבהם זה נכון, שקהילת המודיעין מסוגלת להשתמש במידע הזה בצורה שעובדת היטב. אבל אנחנו גם, בתיאוריה, חברה של חוקים עם חוקה אמריקאית שאנחנו אמורים לציית לה. אבל זה איפשר את העובדה שלממשל אחרי ממשל, שוב, רפובליקנים ודמוקרטים, היו עורכי דין שהיו מאוד חכמים ואשר היו מסתכלים ואומרים, "ובכן, אם נעמוד כך או נציין כך או נפרש זאת, כך נוכל להשיג את מה שאנו רוצים ולא לעבור טכנית על החוק או לא להפר את התיקון הרביעי מבחינה טכנית".
ההנחה הייתה תמיד, "אנחנו יכולים לכופף את החוק או לכופף את הפרשנות שלנו לחוק ואף אחד לא באמת יראה את זה, או שאף אחד שאכפת לו לא באמת יראה את זה, ולכן אנחנו נצא מזה".
יש שני דברים שממש קופצים לי. אחד, שנינו אתה ואני קראנו הרבה החלטות של בית משפט - החלטות של ערכאות ערעור והחלטות של בית המשפט העליון. ויש מאבק בבית המשפט העליון שלנו על איך לפרש מילולית את המילים בחוקינו ובחוקינו.
אני לא אכנס לזה יותר מדי, אבל הייתי אומר באופן כללי שהרעיון שאתה צריך פשוט לקרוא את המילים בדף ולעשות מה שהם אומרים הוא הזן הדומיננטי של פרשנות סטטוטורית בארצות הברית. שמאל או ימין, שניהם אומרים את זה. הם מתווכחים על כמה נקודות עדינות אזוטריות של מה זה אומר בעצם. אבל שאתה צריך פשוט להיות מסוגל לקרוא את המילים האלה ולעשות מה שהן אומרות, זה לא מובן מאליו, נכון?
הגענו לפחות על המעבר הראשון של מה שאתה יכולקוראים טקסטואליזם. איך עורכי דין של שני הממשלים מתרחקים כל כך מהאופן הדומיננטי של קבלת החלטות משפטיות בארצנו? שופטי שני הצדדים מסכימים כי זה לפחות הצעד הראשון.
הלוואי וידעתי את התשובה המדויקת, אבל אני חושב שזה נימוק מונע, נכון? כעורך דין, אתה שם כדי להגן על הלקוח שלך והצלחת - אם אפשר לקרוא לזה הצלחה - של המערכת המשפטית שלנו נוטה להתבסס על מצב יריב שבו יש לך צדדים שונים שמתווכחים על הדברים האלה, כאשר תפקידו של השופט הוא לצמצם ולהבין איזה צד הוא בעצם נכון.
אחת הבעיות עם קהילת המודיעין וההתנהלות שלה היא שאין לך את המצב היריב הזה. זה מקל על צד אחד להצדיק את הטיעון שהם מעלים כי אף אחד לא באמת דוחה את זה. אתה משלב את זה עם הפחד הגורף מפיגוע טרור נוסף, כל מה שקשור לביטחון לאומי, וגם כשיש לך מצבים שבהם יש לך בית משפט FISA - אני מתכוון שבית המשפט FISA היה קצת מפורסם בכך שהוא למעשה חותמת גומי במשך שנים רבות.
אני שוכח את המספרים המדויקים, אבל זה היה משהו כמו למעלה מ-99 אחוז מהבקשות שהגיעו לבית המשפט של FISA כדי לאפשר מעקב אחר מצבים מסוימים, וקל לומר ש-99 אחוז זה כמובן יותר מדי. ברור שמי שמביא תביעות לבית המשפט, הם בוחרים ובוחרים. הם לא, לרוב, מביאים טענות מטורפות לחלוטין. אבל בלי ההיבט היריב הזה ועם קבוצה בעלת מוטיבציה חזקה מאוד של אנשים שחושבים, "אנחנו צריכים לעשות את זה", או שממשל אומרים להם, "אנחנו צריכים לעשות את זה", הם ימצאו דרכים לעשות את זה. ושם אתה מגיע עם הזמן.
האם היה מישהו שמעורב בתהליך הזה שאי פעם התעורר ואמר לעצמו, "ילד, הצלחנו להגדיר מחדש את המילה 'מטרה' למשמעות של כל מה שאנחנו רוצים"?
[צוחק] ברור שהיה לך את אד סנודן, שהדליף חבורה של מסמכים. היה לך את ג'ון נאפייר טיי, שכתב מאמר ל"וושינגטון פוסט" ב-2014, שחשף את הפרשנות של הוראת ביצוע 12333, ואמר שזה הנושא האמיתי שצריך לשים לב אליו. יש לך אנשים אחרים שדיברו על הדברים האלה, אבל לרוב, האנשים שמעורבים בעבודה בתוך הממשל על דברים של קהילת המודיעין קונים לתפיסה של קהילת המודיעין, שהיא שהמטרה העליונה היא להגן על המדינה ממשהו רע. הדרך הטובה ביותר לעשות זאת היא לקבל מידע רב ככל האפשר.
קל להיות אוהד לטיעון כי כן, מידע נוסף עשוי לאפשר להם לתפוס משהו מוקדם יותר או למצוא משהו חשוב, אבל אחד, אולי זה לא נכון. קבלת יותר מדי מידע היא כנראה גרועה בדיוק כמו מעט מדי מידע, כי זה יכול לעתים קרובות להסתיר את המידע שבאמת שימושי, את המידע שאתה באמת צריך כדי לקבוע משהו.
אבל גם, יש לנו ארה"ב החוקה מלכתחילה ויש לנו סיבות מדוע, בתיאוריה, אנחנו לא אמורים לאפשר מעקב המוני ללא סיבה סבירה. כמדינה שמאמינה בשלטון החוק, אנחנו צריכים להיות מסוגלים לעמוד בזה, וכאשר כל הדברים האלה מתרחשים בחושך, אתה נוטה לאבד את זה מהעין.
זה מביא אותי לאנתרופי. אנתרופיק היא בעיקר חברה ארגונית. הם טובים בממשלה, הם בנו את השרירים האלה, הם מאוישים על ידי אנשים שמאוד בקיאים בחלק מהדברים האלה. ברור שהם הסתכלו על פיט הגסת' באומרו, "אנחנו רוצים את כל השימושים החוקיים", והם ירדו בשתי רמות של פרשנות ואמרו, "ובכן, האמונה המילולית שלך היא שהמילים האלה לא אומרות על פניהן את מה שהן אומרות שהן מתכוונות. אז 'כל השימושים החוקיים' הוא גדול מדי, ואנחנו רוצים לשים כמה מעקות בטיחות במיוחד סביב מעקב המוני".
שוב, אני הולך להגדיר נשק אוטונומי, שהיה הקו האדום השני, אבל במיוחד במעקב המוני, דריו אמודיי שם בחוץ ואומר, "אנחנו יכולים לעשות יותר מדי. זה מסוכן מדי. זו הפרה של התיקון הרביעי".
המתח שם הוא "אתה אומר שאתה הולך לציית לחוקים האלה שאומרים דבר אחד ועכשיו, אחרי כל הזמן הזה, הם מתכוונים למשהו אחר לגמרי ואנחנו פשוט לא רוצים להיות חלק מזה". זה המַאֲבָק. אני רק רוצה להשוות את זה לסם אלטמן, שנכנס פנימה ואומר, "נעשה את כל השימושים החוקיים", ואז מפרסם את ההודעה הארוכה הזו כמו, "הנה כל החוקים שאנו הולכים לציית להם".
נראה כאילו אלטמן לא ידע איך ה-NSA פירש מחדש את הדברים האלה וקצת נלקח לסיבוב. ומאז הוא התחיל ללכת בחזרה - אפילו בזמן שאנחנו מקליטים, אני בטוח שיש עוד ציוצים והעמדות של כולם השתנו. אבל אלטמן החזיר את זה לאט לאט, אבל נראה כאילו OpenAI נרתעה לקרוא את החוקים על פניהם ולהאמין למה שהם אמרו. האם זו גם הפרשנות שלך לאירועים?
יש שתי אפשרויות, וזו אחת מהן. האחת היא ששיחקו אותו באותו אופן שבו שיחק הציבור במשך שנים רבות. התיאוריה האלטרנטיבית, ואין לי מושג איזו מהן נכונה, היא שהוא או חלק מעורכי הדין ב-OpenAI - שלדעתי הם מאוד מוכשרים ומאוד בקיאים - ידעו את זה, אבל חשבו שהם יכולים לשחק באותו משחק שה-NSA שיחק במשך כמה עשורים, בכך שכל עוד הם אומרים את הדברים האלה ואז הם אומרים את המילים, אבל הם לא חושפים את הפרשנויות האמיתיות, גם הם יכולים להתחמק מזה. אז סם יוצא עם ההצהרה שגורמת לזה להיראות כאילו "היו לנו אותם קווים אדומים בדיוק כמו שאנתרופיק עשה, והממשלה הייתה מצוינת עם זה".
למעשה, אני חושב שסם אלטמן אמר שלאנתרופיק יש שני קווים אדומים ול-OpenAI היו שלושה, והממשלה הייתה בסדר גמור עם זה, וזה השאיר הרבה אנשים קצת מגרדים את הראש. אבל אני חושב שזה צריך להיות או שסם אלטמן ומי שהיה מקיף אותו לא הבינו איך הדברים האלה עובדים בפועל, או שהם כן, והם פשוט הניחו שהציבור לא יידע ולכן הם יכולים לצאת מזה.
הדבר הנוסף שעולה על הדעת - שוב, AI חדש וזה כל כך מפתה להגיע לטכנולוגיות חדשות כי אלו בעיות של רושם ראשוני. "אף אחד מעולם לא היה צריך לחשוב על זה קודם", אבל המציאות היא שכולם חשבו על הדברים האלה כבר הרבה זמן. אולי הדבר החדש כאן הוא לא בינה מלאכותית, אלא שהממשל השני של טראמפ, במקום לעשות חבורה של עורכי דין שאולי אף אחד לא יקרא כדי להצדיק את מעשיו בפני בית משפט סודי שאף אחד לא שם לב אליו, הוא במקום זאת פשוט לא עדין.
הם לא כל כך מתוחכמים והם רק אומרים שהם הולכים לרגל אחרי כולם כל הזמן. הם פשוט הכריזו על כוונותיהם בצורה שאולי כל הממשלות צריכות להכריז על כוונותיהן ולראות לאן נופלים הצ'יפים.
אבל אני מסתכל על העובדה שהיה אד סנודן כאן בניו יורק. AT&T מנהלת בניין שכולם יודעים שהוא בניין NSA. זה רק בניין ענק, ואנחנו אמורים להעמיד פנים שזה לא מרכז מעקב של NSA, אבל זה ממש שם. זה ענק. נראה שכל זה לא הגיע למשהו. כל הגילויים האלה, ההדלפות האלה, לא חזרנו בזה.
למעשה, זה רק גדל ככל שכל כך הרבה מהחיים שלנו הפכו ליותר ויותר דיגיטליים. ואולי ממשל טראמפ בהיותו מכשיר כה בוטה בכל עת, זה עשוי להיות בעצם הדבר שגורם להתחשבנות. אתה רואה את זה מתנגן בכל מקרה?
יש שם כמה דברים שונים, וזה לא לגמרי נכון שלא חזרנו מהדברים האלה בכלל. הגילויים מסנודן אכן הובילו לכמה שינויים באופן שבו הדברים האלה קורים. ויש עכשיו - אני שוכח איך קוראים להם, אבל הם כמו אנשי האמיקוס האזרחיים האלה בבית המשפט של FISA שיפעלו כמציגים את הצד השני בנושאים מסוימים.
וראינו כמה מהרשויות מוגבלות בדרכים מסוימות, והן מגיעות לאישור מחדש מדי כמה זמן, ופעילים היו מאוד אגרסיביים לגבי דחיקה לאחור ומנסים לשים עוד כמה מעקות בטיחות. אבל לשאלה הגדולה יותר, אני חושב שיש שני דברים שונים. אתה חצי צודק בכך שהממשל הזה לא מתוחכם ורק אומר בקול את הדברים שאסור לו.
"אנחנו במלחמה עם איראן, אנחנו עושים את זה, זה קורה. אנחנו אפילו לא מתכוונים לנסות את הריקוד".
בדרכים שכל הממשלות הקודמות לא היו עושות. אבל הם לא באמת אמרו את זה ישירות עלמעקב, במיוחד מעקב אחר אמריקאים. היו רמזים לכך, אבל הם לא יצאו כל כך חזק על זה. החצי השני של זה קשור יותר למיצוב של אנתרופיק ולראייה הכללית של AI כטכנולוגיה אולי קיומית זו, שבה אנתרופיק תמיד הציגה את עצמה בתור, "אנחנו החבר'ה הטובים המתחשבים", והאם אתה מאמין בזה או לא, זה סוג של חוץ מהעניין. יש להם את המוניטין הזה בחוץ: "אנחנו מנסים לעשות את זה בצורה בטוחה, שמכבדת את האנושות ושמה לב לכל הדברים האלה". אז כשיש לך את ההתנגשות, זה המקום שבו המאבק נכנס לתמונה.
יש לך ממשל טראמפ שרק רוצה להיות מסוגל לעשות כל מה שהוא רוצה להיות מסוגל לעשות, והם לא עדינים לגבי זה. ואז יש לך את אנתרופיק, שהתיאור העצמי שלו והאישיות הציבורית שלו הם תמיד כמו, "אנחנו מתחשבים ואנחנו מכבדים את האנושות ואת הזכויות ואת כל הדברים האלה." כנראה שם הגיעה ההתנגשות, כי אנתרופיק, כפי שהובהר, עבדה עם משרד ההגנה במשך זמן מה ויש לה חוזים רבים אחרים עם הממשלה שבהם השתמשה. זו לא הייתה בעיה.
רק באזורים הספציפיים האלה, כשהממשלה ביקשה להרחיב את החוזה שהיה ברשותה, החלה ההנהגה הבכירה של אנתרופיק לומר, "רגע, אנחנו חייבים לוודא שאנחנו לא חוצים את הקווים האדומים האלה שעלולים לפגוע במוניטין שלנו כספק הבינה המלאכותית המתחשב והבטוח".
אני רוצה לשאול אותך בקצרה על מעקב בכלל, ובפרט על עניין התיקון הרביעי של אנתרופיק. התיקון הרביעי אומר שהממשלה לא יכולה לחפש אותך באופן בלתי סביר. הדרך הטובה ביותר להבין את התיקון הרביעי היא על ידי האזנה ל-"99 Problems" מאת Jay-Z. אז אם אתה צריך לקחת הפסקה וללכת להאזין ל"99 בעיות", זה נהדר. הכל נמצא שם. הקשבתי לו כשהייתי בלימודי משפטים וזה היה הגיוני לחלוטין.
אבל הממשלה בדרך כלל זקוקה לצו כדי לחפש אותך. וככל שיותר ויותר מהחיים שלך נכנסים לאינטרנט, יש המון המון חריגים לזה. אבל הרעיון הוא שהם עדיין צריכים צו מקוון. הטיעון של אנתרופיק הוא, "ובכן, הבינה המלאכותית לעולם לא תתעייף. היא יכולה לחפש בכל דבר כל הזמן. זה אומר שאנחנו פשוט הולכים לעשות מעקב מאסטר."
אבל עוד לפני שה-AI הופיע, הרעיון שהממשלה יכולה לחפש בכל מה ששייך לך היה שם בחוץ, הרעיון שהממשלה לא צריכה צו כדי לחפש בכל הדברים שלך היה שם בחוץ. הרעיון שאם כל הנתונים שלך יצאו מחוץ למדינה לשנייה קצרה, הממשלה יירטה אותו שם,
כשהייתי בקולג', בערך בזמן חוק הפטריוט, הוויכוח היה שהם לא הולכים לחפש את הנתונים האמיתיים שלך, אבל הם יכולים לקבל את המטא נתונים ואת המטא נתונים לבד. הנתונים על הנתונים שלך יספיקו כדי לאתר אותך במדויק בכל עת. ואפילו זה רחוק מדי. ועשינו את הריקוד הזה של מה הממשלה יכולה לאסוף? מה מותר? מה הם צריכים כדי לשמור על בטיחות כולנו ומה רחוק מדי? השורות האלה זזו.
אז רק תאר בקצרה את הדאגה הכללית לגבי מעקב בקנה מידה והיכן אנו נמצאים כעת. לפני מצב הבינה המלאכותית הפך הכל למסובך יותר באופן אקספוננציאלי.
כאן אני צריך להציג מושג נוסף שכנראה היה צריך להזכיר קודם לכן, אבל הוא חשוב, שנקרא "דוקטרינת הצד השלישי". הרעיון עם התיקון הרביעי הוא שהממשלה לא יכולה לחפש בך או בחפצים שלך בלי צו והיא לא יכולה לקבל צו בלי סיבה סבירה שביצעת פשע כלשהו. אבל יש את המושג הזה שהגיע לפני עשרות שנים שנקרא דוקטרינת הצד השלישי, שאומרת שזה לא בהכרח חל, או לא חל בכלל, על דברים שאינם שלך, גם אם זה הנתונים שלך.
הגרסה המוקדמת והברורה ביותר של זה הייתה רישומי טלפון שהיו לחברת הטלפון של מי שהתקשרת. חברות הטלפונים לא הקליטו את השיחות שלך, אבל הן הקליטו אם אני מתקשר אליך, תהיה רשומה בחברת הטלפונים שאומר, "מייק מתקשר לנילאי". ומה שנקבע על ידי כמה בתי משפט היה שהממשלה יכולה ללכת ולבקש את זה, והם לא צריכים צו בשביל זה כי זה לא חיפוש שלהנתונים שלך, זה הצד השלישי הזה והם יכולים להסכים כצד שלישי פשוט למסור את הנתונים האלה.
אבל אלה היו מקרים משנות ה-60 וה-70, שבהם נקבע שהממשלה יכולה לקבל גישה לזה ללא צו, כאשר לא היו כל כך הרבה נתונים של צד שלישי בחוץ. עליית המחשבים והאינטרנט שינתה את זה. עכשיו, הכל נתונים של צד שלישי. כל מה שאנחנו עושים נאסף על ידי חברה כלשהי איפשהו ויש לו תיעוד של זה. אז בעצם כל פיסת מידע עליך, היכן אתה נמצא, עם מי אתה מדבר, עם מי אתה מקיים אינטראקציה, מה אתה אומר, מה אתה עושה, כל זה כמעט מוחזק על ידי צדדים שלישיים בימים אלה. אז דוקטרינת הצד השלישי בלעה את כל התיקון הרביעי במידה מסוימת, כאשר כל דבר שקשור אליך שיש למישהו אחר, יש סטנדרט נמוך בהרבה למה שהממשלה יכולה לעשות כדי לבקש זאת.
רק ליתר דיוק, זה אומר שכאשר הנתונים שלי נמצאים ב-iCloud, הממשלה יכולה ללכת לאפל ולהוציא את הנתונים שלי מ-iCloud מבלי לומר לי?
הם יכולים לבקש זאת. הם יכולים לבקש זאת בקלות ללא צו. אז לחברה יש זכויות משלה והיא יכולה לקבוע מה היא רוצה לעשות עם הבקשה הזו. הם יכולים פשוט לוותר על זה. הם יכולים, כמו שרובם יעשו, אם זו בקשה רצינית, לדחות בקשות על הסף או שהם יכולים להזהיר אותך והם יכולים להגיד - וזה מה שרובם יעשו - יתריעו ויאמרו, "הממשלה מבקשת חלק מהנתונים שלך. אתה יכול לפנות לבית המשפט ולנסות לחסום אותם". אם לא, הם ימסרו את הנתונים שלך בעוד שבעה ימים או מה שזה לא יהיה.
שוב, זה תלוי. אם זו חקירה פלילית, אז אולי יש איזשהו צו איסור פרסום שבו החברה אינה רשאית לומר לך. יש כל מיני מצבים, אבל רובם כרוכים בפחות מרמת ההגנה שהתיקון הרביעי היה דורש אם זה היה מידע או מידע כלשהו או משהו בבית שלך.
כמות הנתונים שיש לך בשרת הענן של מישהו אחר היא עצומה, נכון? כל דבר שאתה עושה בדרך כלל באינטרנט עכשיו מגובה בדרך כלשהי או מוקלט בדרך כלשהי בשרתים של מישהו אחר. הממשלה מצאה את הדרך הזו לעקוף את התיקון הרביעי ולהגיד, "טוב, זה לא באמת שלך. זה שייך לאמזון. אנחנו יכולים ללכת לדבר עם אמזון", ואמזון צריכה לעמוד באמצע התהליך הזה ולומר, "המצאנו תהליך אחר כדי להגן במידת מה על האנשים".
אני מסתכל על זה - וכשסיקרתי את מקרי הדוקטרינה הראשונים של צד שלישי שכיסו את שירותי הענן והממשלה המשיכה לנצח, זה בעצם הזמן שבו הפכתי לג'וקר. הייתי כמו, "כל הדברים האלה שאנחנו מעמידים פנים על טקסטואליות ופשוט [קריאה], שום דבר מזה לא אומר כלום כי אנחנו פשוט כוח סוס לדלת האחורית תוך שימוש בחוק העתיק הזה לתוך הנתונים של כולם."
ואז אני מסתכל על זה ואני מסתכל על אנתרופי ואני אומר, "טוב, זה אותו דפוס." זו חברה פרטית שאומרת, "בסדר, אנחנו מבינים את עמדתך. אנחנו מבינים שפירשתם מחדש את החוק כך שהוא מתכוון לדבר הזה, ואנחנו הולכים להכניס איזשהו תהליך בינכם, הכלי שלנו, לבין הנתונים של האמריקאים שזורמים בשירות שלנו". אני רק תוהה אם אתה רואה את ההקבלה הזו שם, בין Anthropic לאמזון ו-Azure וכל שירותי ענן אחרים שקיימים שמכילים כל כך הרבה מהנתונים שלנו.
כן, אם כי יש כמה הבהרות שחשובות כאן שעושות את זה קצת שונה. ולמעשה - אני חושב של"ניו יורק טיימס" היה הדיווח הזה קודם - הסעיף המרכזי שהיה הכי חשוב לאנתרופיק היה ספציפית לגבי נתונים שנאספו משירותים מסחריים ואי היכולת להשתמש בקלוד על הנתונים האלה, וזה בדיוק הנושא הזה במונחים של נתונים של צד שלישי. אבל אני כן רוצה להבהיר את ההבדל העיקרי בין מה שדיברנו עליו לפני זה עם אמזון או צדדים שלישיים אחרים שמארחים את הנתונים שלך, אלה היו מקרים שבהם הם היו, בגלל המקום שבו הם יושבים במערכת האקולוגית, הם אירחו את הנתונים שלך ישירות.
עם קלוד, זה לא שמישהו מודאג מכך שה-NSA יסתכל על השימוש שלך בקלוד. מדובר על כך שהם יוצאים ומשיגים נתונים של צד שלישי מאמזון, או יותר סביר מהסוג של מתווכים נתונים ערמומיים ומוסתרים שמגישים מודעות בטלפונים שלך ויודעים את המיקום שלך ואת תחומי העניין שלך ודברים כאלה. ואז להזין את זה למערכתשאחר כך קלוד יעבוד עליו. זה מה שאנתרופיק באמת לא רצה להיות חלק ממנו. אז בכל מקום או איך שהממשלה תאסוף את הנתונים הללו מגורם שלישי, אמר אנתרופיק, "אנחנו לא רוצים שהכלי שלנו ישמש על הנתונים האלה".
אפל, כידוע, עומדת מול ה-FBI מבקשת ממנו לשים דלת אחורית באייפון, ואפל אומרת "לא", והם עומדים מול טראמפ. ויש חלק מאיך שהמערכת שלנו עובדת שבה חברות פרטיות גדולות זוכות להגיד "לא" לממשלה בשם הלקוחות שלהן. וזה הרגיש באותו אופן שאפל, שוב, לא תכניס אותו לדלת אחורית באייפון, או שספקי הענן הגדולים אומרים, "יש תהליך קטן שאתה צריך לדלג דרכו לפני שאתה מקבל את הנתונים האישיים."
כאן זה נראה כאילו אנתרופיק אומר, "אנחנו לא הולכים לעשות רק ניתוח בכמות גדולה של נתונים שרכשת מגורמים אחרים כי זה מוביל למעקב המוני 24/7 על אמריקאים, ואנחנו לא רוצים לעשות את זה." אבל זה נראה כמו גשר רחוק מדי עבור הממשל הזה. יש משהו שחוזר מזה?
אנחנו נראה. בעבר כשזה קרה - וזה קרה הרבה פעמים עם רוב חברות הטכנולוגיה הגדולות, בשלב מסוים הם אמרו שמשהו הוא גשר רחוק מדי - שם זה בדרך כלל הולך לבית המשפט. החברות יפנו לבית המשפט או שהממשל יפנה לבית המשפט ויהיה איזשהו מאבק בבית המשפט.
הדלת האחורית לאייפון היא דוגמה מושלמת לכך. זה הלך לבית המשפט והם נלחמו על זה, למרות שהם מעולם לא הגיעו למסקנה כי בסופו של דבר ה-FBI פשוט פרץ ידנית לאייפון ואז לא רצה שפסיקת בית המשפט תהרוס את זה בעתיד.
אבל במקרה הזה, היכן שההסלמה ושונה ממצבי העבר האלה, הוא שבמקום ללכת לבית המשפט, ממשל טראמפ עשה את הכינוי הזה של "סיכון שרשרת האספקה", וזה פשוט מטורף. הרעיון הזה שהכלי הזה שנועד למנוע משחקנים זדוניים פוטנציאליים לספק טכנולוגיה, שיכול אז להכניס כלי מעקב נסתרים לערימת הטכנולוגיה הגדולה יותר, שאפשר לאסור אותם. להחיל את זה על חברה שבסיסה בארה"ב בעצם בגלל שיש לה מדיניות אתית מרגיש כמו שימוש לרעה אמיתי, אמיתי בכלי הזה.
אפילו הכלי הזה היה מפוקפק במובנים מסוימים, אבל אתה יכול להבין את הדחף מאחוריו כשאתה מדבר על חברת נטוורקינג סינית או משהו בסגנון הזה. כאן, זה לא הגיוני. אז התגובה לזה חורגת כל כך הרבה מעבר למה שבדרך כלל נראה במקרה הזה. אתה יכול לראות שבאופן מסורתי יהיה איזשהו תיק בית משפט וכל אחד מהצדדים יכול להתחיל אותו וזה יהיה רק מאבק על איך ניתן ליישם את החוזה.
אבל זה לא מה שקורה כאן. הממשל הזה אומר למעשה, "אם לא תיתן לנו את כל מה שאנחנו רוצים, אם לא תגדיר את הכלים שלך לעבוד כמו שאנחנו רוצים שהם יעבדו, אז ננסה למעשה להרוס את כל העסק שלך." וזו הסלמה.
יש חלק אחד מזה שאני רוצה לסיים בו, וזה סוג של הגרסה הכי מוחית של הגלקסיה של זה. FIRE, שהיא קבוצת הסברה לחופש ביטוי, פרסמה פוסט בבלוג רגע לפני שהתחלנו להקליט את הטיעון שלהכריח את אנתרופיק לבנות כלים שהיא לא רוצה לבנות זו הפרה של חופש הביטוי, שזה משהו שנקרא דיבור מאולץ. יש כאן הרבה היסטוריה. יש כאן היסטוריה עמוקה של Verge ו-Techdirt, בתוך העשבים, היסטוריה של משבר קיומי.
אבל זה בעצם מסתכם ברעיון שקוד הוא דיבור, שכתיבת קוד למחשב היא סוג של דיבור והממשלה לא יכולה להכריח אותך לעשות את זה, ומזה נובע חבורה שלמה של דברים. האם אתה קונה את הטיעון הזה שלכריח את אנתרופיקה לבנות כלים שהיא לא רוצה לבנות זה דיבור מאולץ?
כן, אני דווקא חושב שזה די משכנע. דיבור מאולץ משכנע. אבל לא, אני כן חושב שזה טיעון מעניין. זה היה קצת יותר למטה ברשימת הנושאים שחשבתי עליהם. ברור שהייתי בעיקר מרוכז יותר בנושאי התיקון הרביעי, אבל אני חושב שהטיעון של FIRE אינו שגוי. ראינו זאת בהקשרים אחרים. זה אכן עלה גם בסוגיית הדלת האחורית, במונחים של ניסיון לבנות דלתות אחוריות למערכות מוצפנות.
חברות בהחלט העלו Firstהתיקון טוען, "זה דיבור מאולץ להכריח אותנו לכתוב סוג כזה של קוד." זה טיעון תקף. זה אולי, שוב, כזה שבתי משפט כנראה פחות מוכנים לטפל בתחילה אם הם יכולים להתמודד עם הבעיות האלה בדרך אחרת. אבל אני שמח ש-FIRE פרסם את הפוסט הזה ואני חושב שזה טיעון מעניין ומשכנע.
כן, זה פשוט טבעו של ממשל טראמפ השני שהוא מכשיר כה בוטה, זה כמעט בטוח שנתקוף את כל הנושאים בבת אחת.
כן, יש לערער על כל תיקון למגילת זכויות בצורה כזו או אחרת בכל נושא אפשרי.
[צוחק] סובב את הגלגל.
אני בטוח שנוכל להתאים הפרת תיקון שלישי איפשהו כאן.
בטח, כן. קלוד צריך לגור בבית שלך עכשיו. בְּדִיוּק. זה הולך להיות נהדר. אנחנו עושים [תיקונים] אחד, שלושה, ארבע ושבע. אנחנו אוספים אותם.
מייק, זה היה נהדר. אני לא מאמין שלא היית בתוכנית בעבר. זה היה נהדר. אתה חייב לחזור בקרוב.
בְּהֶחלֵט. מתי שאתה רוצה אותי.
שאלות או הערות לגבי הפרק הזה? פנה אלינו בכתובת decoder@theverge.com. אנחנו באמת קוראים כל מייל!
