วันนี้เรากำลังพูดถึงสถานการณ์ที่ยุ่งเหยิงและเคลื่อนไหวอย่างรวดเร็วที่ Anthropic ผู้สร้าง Claude ที่ตอนนี้พบว่าตัวเองอยู่ในการต่อสู้ทางกฎหมายที่น่าเกลียดมากกับเพนตากอน
การกลับไปกลับมามีความซับซ้อน แต่เมื่อไม่กี่วันที่ผ่านมา เพนตากอนถือว่า Anthropic เป็นความเสี่ยงในห่วงโซ่อุปทาน และ Anthropic ได้ยื่นฟ้องเพื่อท้าทายการกำหนดดังกล่าว โดยกล่าวว่ารัฐบาลได้ละเมิดสิทธิ์ในการแก้ไขครั้งแรกและครั้งที่ห้าโดย "พยายามทำลายมูลค่าทางเศรษฐกิจที่สร้างขึ้นโดยหนึ่งในบริษัทเอกชนที่เติบโตเร็วที่สุดในโลก" ฉันสามารถบอกคุณได้ตอนนี้: เราจะพูดถึงการพลิกผันของคดีนั้นใน The Verge และที่นี่ใน Decoder ในอีกไม่กี่เดือนข้างหน้า
แต่วันนี้ฉันต้องการใช้เวลาสักครู่และเจาะลึกองค์ประกอบที่สำคัญอย่างหนึ่งของสถานการณ์นี้ซึ่งไม่ได้รับความสนใจมากพอเนื่องจากสิ่งนี้ลุกลามจนควบคุมไม่ได้: วิธีที่รัฐบาลสหรัฐฯ สอดแนม อำนาจทางกฎหมายที่อนุญาตให้มีการสอดแนมนั้นเกิดขึ้น และเหตุใด Anthropic จึงไม่ไว้วางใจรัฐบาลที่บอกว่าจะใช้ AI เพื่อสอดแนมมากขึ้นจะเป็นไปตามกฎหมาย
สมาชิก Verge อย่าลืมว่าคุณได้รับสิทธิพิเศษในการเข้าถึงตัวถอดรหัสแบบไม่มีโฆษณาไม่ว่าคุณจะรับพอดแคสต์จากทุกที่ มุ่งหน้าไปที่นี่ ไม่ใช่สมาชิกใช่ไหม? คุณสามารถลงทะเบียนได้ที่นี่
แขกของฉันในวันนี้คือ Mike Masnick ผู้ก่อตั้งและ CEO ของ Techdirt ซึ่งเป็นเว็บไซต์นโยบายด้านเทคโนโลยีที่ยอดเยี่ยมและดำเนินกิจการมายาวนาน ไมค์เขียนเกี่ยวกับการเข้าถึงของรัฐบาล ความเป็นส่วนตัวในยุคดิจิทัล และหัวข้ออื่นๆ ที่เกี่ยวข้องมานานหลายทศวรรษแล้ว เขาเป็นผู้เชี่ยวชาญว่าอินเทอร์เน็ตและสถานะการเฝ้าระวังเติบโตขึ้นมาในรูปแบบที่เชื่อมโยงถึงกันอย่างไร
คุณคงเห็นว่ามีสิ่งที่กฎหมายบอกว่ารัฐบาลสามารถทำได้เมื่อต้องสอดแนมเรา และสิ่งที่รัฐบาลต้องการทำ และที่สำคัญที่สุด มีสิ่งที่รัฐบาลบอกว่ากฎหมายบอกว่าสามารถทำได้ ซึ่งมักจะตรงกันข้ามกับสิ่งที่คนปกติทั่วไปเพียงแค่อ่านกฎหมายจะคิดโดยสิ้นเชิง
คุณจะได้ยินไมค์อธิบายอย่างละเอียดในตอนนี้ว่าเราไม่สามารถและไม่ควรถือว่ารัฐบาลสหรัฐฯ ทำตามคำพูดของตนเมื่อพูดถึงการสอดแนม มีประวัติศาสตร์มากเกินไปที่ทนายความของรัฐบิดเบือนการตีความคำง่ายๆ เช่น "เป้าหมาย" เพื่อขยายการเฝ้าระวังด้วยวิธีที่ซับซ้อน ซึ่งมักจะก่อให้เกิดความกังวลในแวดวงกฎหมายเท่านั้น และจะเกิดขึ้นเฉพาะเมื่อมีการถกเถียงกันใหญ่โต เช่น การเปิดเผยข้อมูลสำคัญของ NSA ของผู้แจ้งเบาะแส Ed Snowden เมื่อกว่าทศวรรษที่แล้ว
แต่ไม่มีอะไรที่ละเอียดอ่อนหรือซับซ้อนเกี่ยวกับการกำหนดนโยบายในยุคของทรัมป์ — และสำหรับ Anthropic เรากำลังอภิปรายสาธารณะอย่างดังมากเกี่ยวกับเทคโนโลยีและการเฝ้าระวังแบบเรียลไทม์ บนอินเทอร์เน็ต ในบล็อกโพสต์และ X โวยวาย และเสียงกัดในงานแถลงข่าว มีทั้งแง่บวกและแง่ลบ แต่เพื่อที่จะเข้าใจทั้งหมด คุณต้องรู้ประวัติศาสตร์จริงๆ
นั่นคือสิ่งที่ Mike และฉันได้ตั้งใจจะอธิบายในตอนนี้ ไม่ว่าคุณจะมีความคิดเห็นอย่างไรเกี่ยวกับ AI และรัฐบาลก็ตาม ตอนนี้จะทำให้ชัดเจนว่าทั้งสองฝ่ายปล่อยให้รัฐสอดแนมขยายใหญ่ขึ้นเรื่อยๆ เมื่อเวลาผ่านไป ตอนนี้เราอยู่บนจุดสูงสุดของการขยายตัวครั้งใหญ่ที่สุดเมื่อพูดถึง AI
โอเค: Mike Masnick ผู้ก่อตั้งและซีอีโอของ Techdirt เกี่ยวกับ Anthropic, Pentagon และการเฝ้าระวัง AI เอาล่ะ.
บทสัมภาษณ์นี้ได้รับการแก้ไขเล็กน้อยเพื่อให้มีความยาวและชัดเจน
Mike Masnick คุณเป็นผู้ก่อตั้งและ CEO ของ Techdirt ยินดีต้อนรับสู่เครื่องถอดรหัส
ฉันดีใจที่ได้อยู่ที่นี่
ฉันตื่นเต้นที่มีคุณอยู่ ฉันแค่บอกว่าฉันตกใจที่คุณไม่เคยไปแสดงมาก่อน คุณและฉันเขียนและโพสต์กันมานานแล้ว นโยบายที่ครอบคลุมของ The Verge จำนวนมากเป็นหนี้สิ่งที่คุณได้ทำที่ Techdirt และสิ่งที่เกิดขึ้นกับ Anthropic นั้นซับซ้อนมาก แต่ก็พบกับธีมมากมายที่คุณได้กล่าวถึงมาเป็นเวลานาน ฉันดีใจที่คุณมาที่นี่ในที่สุด
มันเป็นหัวข้อที่ซับซ้อน แต่ฉันตื่นเต้นที่จะได้เข้าไปค้นหาในนั้น
สิ่งที่ฉันต้องการเน้นกับคุณไม่ใช่รายละเอียดว่า Anthropic จะเซ็นสัญญากับรัฐบาลหรือ OpenAI จะได้รับสัญญานั้นหรือไม่ แต่ฉันมั่นใจว่าระหว่างเวลาที่เราบันทึกสิ่งนี้กับเวลาที่ผู้คนฟังมันจะต้องมีการทวีตมากขึ้นและสิ่งต่าง ๆ จะแตกต่างจากเมื่อก่อนมากขึ้น
สิ่งที่ฉันต้องการเน้นคือเพียงหนึ่งในสองเส้นสีแดงที่ Anthropic ได้วางไว้จริงๆ หนึ่งในนั้นก็คืออาวุธอัตโนมัติซึ่งเป็นระดับของความยุ่งยากในตัวมันเอง กฎหมายยังเพิ่งเกิดขึ้นอีกเล็กน้อย ไม่ว่าอาวุธดังกล่าวจะมีอยู่จริงหรือถูกนำไปใช้โดยรัสเซียในสงครามยูเครนแล้วก็ตาม
มีแนวคิดมากมายที่นี่ที่ฉันแค่อยากจะทิ้งเรื่องนั้นไว้ เพราะฉันคิดว่านั่นจะได้รับความสนใจมากขึ้นตามกำหนดการของมันเอง เส้นสีแดงอีกเส้นที่ฉันต้องการใช้เวลามากคือการสอดแนมมวลชน และมีกฎหมายเกี่ยวกับการสอดแนมมวลชนค่อนข้างมาก มีประวัติศาสตร์มากมาย ประวัติศาสตร์ที่มีการถกเถียงกันมากมาย ตัวละครทั้งหมดของ Edward Snowden เกิดขึ้นเนื่องจากการถกเถียงเรื่องการสอดแนมมวลชน
ทั้งหมดนี้มาจาก - ฉันคิดว่าคุณคือคนที่โพสต์สิ่งนี้ - สำนักงานความมั่นคงแห่งชาติ (NSA) ซึ่งเป็นส่วนหนึ่งของกระทรวงกลาโหม ซึ่งเราต้องโทรหากระทรวงกลาโหมในตอนนี้ด้วยเหตุผลบางประการ
[หัวเราะ] เราไม่จำเป็นต้องทำอะไรเลย
[หัวเราะ] เราไม่ทำ นั่นเป็นเรื่องจริงในอเมริกา เราไม่ต้องทำอะไรเลย แต่โดยพื้นฐานแล้ว NSA ได้ให้คำจำกัดความใหม่ว่าคำต่างๆ มากมายในภาษาอังกฤษเป็นภาษาพูดหมายถึงอะไร ให้หมายถึง “เราทำได้แค่สอดแนม” และบ่อยครั้งก็เกิดเรื่องอื้อฉาวเมื่อผู้คนค้นพบว่าพวกเขาแค่สอดแนม ดังนั้น แค่จัดเวทีไว้ตรงนั้น และฉันไม่อยากย้อนคุณกลับไปตลอด แต่มันผ่านมาหลายครั้งแล้วที่รูปแบบนี้เกิดขึ้นซ้ำๆ
ขึ้นอยู่กับว่าคุณต้องการเจาะลึกแค่ไหน แต่เวอร์ชันสั้นเห็นได้ชัดว่าอยู่ในโลกหลังเหตุการณ์ 9/11 สหรัฐฯ ผ่านพระราชบัญญัติ Patriot Act ซึ่งมีความสามารถบางอย่างที่รัฐบาลจะมีส่วนร่วมในการสอดแนม ซึ่งควรจะเป็นเพื่อปกป้องเราจากภัยคุกคามจากการก่อการร้ายในอนาคต เมื่อเวลาผ่านไป มีการตีความในลักษณะที่น่าสนใจและมีข้อจำกัดบางประการ นอกจากนี้เรายังมีศาล FISA ซึ่งเป็นศาลพิเศษที่ควรตรวจสอบชุมชนข่าวกรองและกิจกรรมของพวกเขา แต่เดิมทีจะเป็นศาลฝ่ายเดียว มีเพียงฝ่ายเดียวเท่านั้นที่จะยื่นคำร้องต่อศาลและทั้งหมดนี้ทำเป็นความลับ
มีเรื่องมากมายที่ไม่รู้ แล้วยังมีอีกส่วนหนึ่งในทั้งหมดนี้ ซึ่งย้อนกลับไปถึงโรนัลด์ เรแกน ซึ่งก็คือคำสั่งฝ่ายบริหารที่ 12333 ซึ่งควรจะเกี่ยวกับการกำหนดกฎเกณฑ์ของการรวบรวมข่าวกรอง
คุณมีกฎหมายสามชุดนี้ ก็คือกฎหมายสองสามชุด และคำสั่งของผู้บริหารที่ต่อสาธารณะ ส่วนที่คุณอ่านได้ ดูเหมือนจะบอกอะไรบางอย่างเกี่ยวกับสิ่งที่รัฐบาลของเราและ NSA โดยเฉพาะสามารถทำได้ในแง่ของการสอดแนม เมื่ออ่านพจนานุกรมภาษาอังกฤษธรรมดาๆ โดยธรรมชาติที่คุณและฉันอาจมีและเข้าใจ เราจะเกิดความเชื่อว่าความสามารถของ NSA ในการสำรวจชาวอเมริกันนั้นมีจำกัดมาก ที่จริงแล้วถึงจุดที่พวกเขาควรจะทำ หากพวกเขาตระหนักว่าพวกเขากำลังสอดแนมคนอเมริกัน ว่าพวกเขาควรจะหยุดทันทีและร้องไห้เหม็นและลบข้อมูลและสิ่งอื่น ๆ ทั้งหมดนี้
มีข่าวลือมาระยะหนึ่งแล้วว่าเรื่องนั้นไม่ได้เกิดขึ้นจริงและมีเบาะแส โดยเฉพาะอย่างยิ่งวุฒิสมาชิกรอน ไวเดนพูดเสียงดังมากเกี่ยวกับการไปดำรงตำแหน่งวุฒิสภาและพูดว่า "มีบางอย่างไม่ถูกต้องที่นี่ และฉันก็บอกคุณไม่ได้ว่าเรื่องอะไร" หรือในการพิจารณาคดี เขาจะถามเจ้าหน้าที่ข่าวกรองว่า "คุณหรือไม่ได้รวบรวมข้อมูลจำนวนมากเกี่ยวกับชาวอเมริกัน"
เจ้าหน้าที่เหล่านั้นอาจเบี่ยงเบนความสนใจหรือในบางกรณีก็โกหกโดยสิ้นเชิง ฉันเชื่อว่าเป็นการไต่สวนคดีครั้งหนึ่งในปี 2012 กับ James Clapper ซึ่งเป็นผู้อำนวยการหน่วยข่าวกรองแห่งชาติในขณะนั้น ซึ่งเขาถูกถามโดยตรงในประเด็นนี้ และโดยพื้นฐานแล้วเขากล่าวว่า "ไม่ เราไม่รวบรวมข้อมูลเกี่ยวกับชาวอเมริกัน" นั่นเป็นส่วนสำคัญของสิ่งที่เป็นแรงบันดาลใจให้ Ed Snowden ทำข้อมูลรั่วไหล รายงานที่ว่าเขารั่วไหลไปยัง Glenn Greenwald และ Barton Gellman และ Laura Poitras เช่นกัน จากทั้งหมดนั้น สิ่งที่เราเริ่มค้นพบก็คือ NSA มีพจนานุกรมของตัวเองที่ค่อนข้างแตกต่างจากพจนานุกรมที่คุณและฉันใช้อยู่บ้าง เพื่อให้สามารถตีความคำต่างๆ ในรูปแบบที่แตกต่างจากความหมายภาษาอังกฤษธรรมดา รวมถึงคำอย่าง “เป้าหมาย” ซึ่งให้ความรู้สึกเหมือนเป็นคำสำคัญ ความเข้าใจอย่างกว้างๆ ว่าสิ่งนี้คืออะไร ในทางทฤษฎีแล้ว พวกเขาควรจะกำหนดเป้าหมายไปที่ผู้คนที่ไม่ใช่คนอเมริกันเท่านั้น ฉันคิดว่าเป็นวลีนี้
แต่การตีความตามกาลเวลาก็คือ อะไรก็ตามที่เอ่ยถึงบุคคลนั้น สิ่งใดที่เป็นเรื่องเกี่ยวกับบุคคลต่างชาติ ในตอนนี้ถือเป็นเกมที่ยุติธรรม แม้ว่าจะเป็นการสื่อสารของคนอเมริกัน. ดังนั้น หากคุณและฉันจะส่งข้อความหากัน และพูดถึงชาวต่างชาติ นั่นเป็นเกมที่ยุติธรรมสำหรับ NSA ที่จะรวบรวม เก็บรักษา และจัดเก็บ
มีส่วนที่สองของเรื่องนี้ ฉันกล่าวถึงคำสั่งผู้บริหารฉบับแรกเลขที่ 12333 จากโรนัลด์ เรแกน ซึ่งเมื่อเทคโนโลยีเปลี่ยนแปลงไปตามกาลเวลาและอินเทอร์เน็ตเติบโตขึ้น ก็ทำให้ NSA สามารถใช้ประโยชน์จากการสื่อสารต่างประเทศได้อย่างมีประสิทธิภาพ แต่นั่นรวมถึงการสื่อสารใดๆ ก็ตามที่อาจออกจากสหรัฐฯ ไปที่ไหนสักแห่ง ดังนั้นหากฉันส่งข้อความถึงคุณและมีข้อความส่งจากฉันในแคลิฟอร์เนียผ่านสายเคเบิลใยแก้วนำแสงที่บังเอิญออกจากสหรัฐอเมริกา NSA ก็สามารถแตะส่วนนั้นได้เมื่ออยู่นอกสหรัฐอเมริกาและรวบรวมข้อมูลนั้น แม้ว่าข้อมูลนั้นจะถูกส่งถึงคุณภายในสหรัฐอเมริกาก็ตาม
NSA จึงสามารถเก็บข้อมูลนั้นไว้ได้แม้ว่าจะเป็นของบุคคลชาวอเมริกันก็ตาม และพวกเขาสามารถทำการค้นหาเฉพาะเจาะจงในภายหลัง ซึ่งบางครั้งเรียกว่า "การค้นหาลับๆ" พวกเขารวบรวมข้อมูลนี้ซึ่งเราเชื่อว่าไม่ควรรวบรวมตั้งแต่แรก แต่พวกเขาสามารถเก็บไว้ได้ และพวกเขาสัญญา โดยพิ้งกี้สาบานว่าพวกเขาจะเก็บเป็นความลับ แต่ถ้าพวกเขาค้นหาและพบว่าคุณหรือฉันพูดถึงชาวต่างชาติ ทันใดนั้น มันก็เป็นเกมที่ยุติธรรมสำหรับพวกเขาที่จะทำสิ่งที่พวกเขาต้องการ
โดยรวมแล้วสิ่งนี้กลายเป็นโลกที่รัฐบาลกลางสามารถรวบรวมข้อมูลใด ๆ ที่เกิดขึ้นภายนอกสหรัฐอเมริกาได้ แม้ว่าจะเป็นเรื่องระหว่างคนอเมริกันสองคน แต่หากพวกเขาพูดถึงหรือบอกใบ้ถึงใครบางคนที่ไม่ใช่คนอเมริกัน จู่ๆ ก็ถือเป็นเกมที่ยุติธรรมที่จะรวบรวม จากนั้นเราก็ได้รับสิ่งที่ดูเหมือนจะเป็นรูปแบบหนึ่งของการสอดแนมบุคคลจำนวนมากในสหรัฐฯ โดย NSA ที่อ้างสิทธิ์และระบุต่อสาธารณะว่าไม่ได้สอดแนมบุคคลในสหรัฐฯ
เรามาถึงจุดนี้ได้อย่างไร? นี่เป็นขั้นตอนของทารกที่เพิ่มขึ้นอย่างมาก คุณพูดถึง James Clapper ในปี 2012 นั่นคือฝ่ายบริหารของ Obama คุณพูดถึงโรนัลด์ เรแกน นั่นคือช่วงปี 1980 เรากำลังพูดถึงพรรคเดโมแครตและรีพับลิกันที่นี่
สงครามต่อต้านการก่อการร้ายเกิดขึ้นในฝ่ายบริหารของจอร์จ ดับเบิลยู บุช และเหตุการณ์ 9/11 และพระราชบัญญัติต่อต้านการก่อการร้ายเกิดขึ้นในฝ่ายบริหารของจอร์จ ดับเบิลยู บุช มีสิ่งเลวร้ายเพิ่มมากขึ้นมากมายภายใต้ประธานาธิบดีของทั้งสองฝ่าย ในรัฐสภาของทั้งสองฝ่าย สิ่งนี้เกิดขึ้นได้อย่างไร?
รูปแบบที่ง่ายที่สุดคือไม่มีใคร และแน่นอนว่าไม่มีประธานาธิบดีคนใดต้องการเป็นประธานาธิบดีในช่วงเวลาที่มีการโจมตีของผู้ก่อการร้ายครั้งใหญ่ เพราะมันทำให้พวกเขาดูแย่ แน่นอนว่าพวกเขาต้องการปกป้องชาวอเมริกันด้วยใช่ไหม? นั่นเป็นส่วนหนึ่งของงานของพวกเขา หากคุณมีชุมชนข่าวกรองที่ปฏิบัติการอยู่ในความมืดมิดเพราะนั่นคือสิ่งที่ชุมชนข่าวกรองทำ และพวกเขาก็มาหาคุณและพูดว่า "เฮ้ ถ้าเราสามารถเข้าถึงข้อมูลนี้ได้ มันจะมีประโยชน์มากในการป้องกันการโจมตีของผู้ก่อการร้าย"
อาจมีบางกรณีที่มันเป็นเรื่องจริงที่ชุมชนข่าวกรองสามารถใช้ข้อมูลนี้ในลักษณะที่ใช้งานได้ดี แต่ในทางทฤษฎีแล้ว เราก็ยังเป็นสังคมแห่งกฎหมายที่มีรัฐธรรมนูญของสหรัฐอเมริกาซึ่งเราควรปฏิบัติตาม แต่นั่นทำให้เกิดความจริงที่ว่าฝ่ายบริหารแล้วฝ่ายบริหารอีกฝ่ายคือพรรครีพับลิกันและพรรคเดโมแครต มีทนายความที่ฉลาดมากและใครจะพิจารณาและพูดว่า "ถ้าเราวางจุดยืนแบบนี้ หรือเราระบุแบบนี้ หรือเราตีความสิ่งนี้ วิธีนั้นเราจะได้สิ่งที่เราต้องการ และไม่ละเมิดกฎหมายในทางเทคนิค หรือไม่ละเมิดการแก้ไขเพิ่มเติมครั้งที่สี่ในทางเทคนิค"
มีสมมติฐานอยู่เสมอว่า “เราสามารถบิดเบือนกฎหมายหรือบิดเบือนการตีความกฎหมายของเราได้ และจะไม่มีใครได้เห็นสิ่งนี้จริงๆ หรือไม่มีใครสนใจจริงๆ จะได้เห็นสิ่งนี้จริงๆ ดังนั้น เราจะหลีกเลี่ยงมัน”
มีสองสิ่งที่ทำให้ฉันโดดเด่นจริงๆ หนึ่ง คุณและฉันทั้งคู่อ่านคำตัดสินของศาลมากมาย ทั้งคำตัดสินของศาลอุทธรณ์และคำตัดสินของศาลฎีกา และมีการต่อสู้กันในศาลฎีกาเกี่ยวกับวิธีตีความคำในกฎเกณฑ์และกฎหมายของเราอย่างแท้จริง
ฉันจะไม่เจาะลึกเรื่องนี้มากนัก แต่โดยทั่วไปแล้ว ความคิดที่ว่าคุณควรอ่านข้อความบนหน้าเว็บและทำในสิ่งที่พวกเขาพูดถือเป็นความเครียดที่ครอบงำของการตีความตามกฎหมายในสหรัฐอเมริกา ซ้ายหรือขวาก็พูดกันทั้งนั้น พวกเขาโต้เถียงกันเกี่ยวกับประเด็นเล็กๆ น้อยๆ ที่ลึกลับของความหมายที่แท้จริง แต่คุณควรอ่านคำเหล่านี้และทำในสิ่งที่พวกเขาพูดได้ นั่นไม่ขัดข้องใช่ไหม
อย่างน้อยเราก็ได้ทำสำเร็จในครั้งแรกของสิ่งที่คุณอาจทำได้เรียกข้อความ ทนายความของฝ่ายบริหารทั้งสองจะหลีกหนีจากรูปแบบการตัดสินใจทางกฎหมายที่ครอบงำในประเทศของเราได้อย่างไร ผู้พิพากษาทั้งสองฝ่ายต่างเห็นพ้องกันว่าอย่างน้อยนั่นเป็นก้าวแรก
ฉันหวังว่าฉันจะรู้คำตอบที่แน่นอน แต่ฉันคิดว่ามันเป็นเหตุผลที่มีแรงจูงใจใช่ไหม ในฐานะทนายความ คุณอยู่เคียงข้างเพื่อปกป้องลูกความของคุณและความสำเร็จ หากคุณสามารถเรียกได้ว่าเป็นความสำเร็จ ระบบกฎหมายของเรามีแนวโน้มที่จะมีพื้นฐานอยู่บนสถานการณ์ที่ไม่ลงรอยกันที่คุณมีฝ่ายต่างๆ ถกเถียงกันในเรื่องเหล่านี้ โดยที่บทบาทของผู้ตัดสินคือการจำกัดวงให้แคบลงและพิจารณาว่าฝ่ายใดถูกต้องจริงๆ
ปัญหาประการหนึ่งเกี่ยวกับชุมชนข่าวกรองและการตั้งค่าก็คือคุณไม่มีสถานการณ์ที่เป็นปฏิปักษ์ นั่นทำให้ฝ่ายหนึ่งสามารถหาเหตุผลในการโต้แย้งที่พวกเขากำลังทำได้ง่ายขึ้นเพราะไม่มีใครต่อต้านมันจริงๆ คุณรวมสิ่งนั้นเข้ากับความกลัวที่ครอบงำว่าจะมีการโจมตีของผู้ก่อการร้ายอีกครั้ง สิ่งใดก็ตามที่เกี่ยวข้องกับความมั่นคงของชาติ และแม้ว่าคุณจะมีสถานการณ์ที่คุณมีศาล FISA ฉันหมายความว่าศาล FISA ค่อนข้างมีชื่อเสียงในด้านตรายางอย่างมีประสิทธิภาพมาหลายปี
ฉันลืมตัวเลขที่แน่นอน แต่ดูเหมือนว่ามากกว่า 99 เปอร์เซ็นต์ของใบสมัครที่ไปที่ศาล FISA เพื่อให้มีการเฝ้าระวังสถานการณ์บางอย่างได้รับอนุมัติ และเป็นเรื่องง่ายที่จะพูดได้ว่า 99 เปอร์เซ็นต์นั้นมากเกินไปอย่างเห็นได้ชัด แน่นอนว่าผู้ที่ยื่นข้อเรียกร้องต่อศาล พวกเขากำลังเลือกและเลือก โดยส่วนใหญ่แล้วพวกเขาไม่ได้นำเสนอการกล่าวอ้างที่บ้าคลั่งโดยสิ้นเชิง แต่หากไม่มีแง่มุมที่เป็นปฏิปักษ์และด้วยกลุ่มคนที่มีแรงจูงใจอย่างมากที่คิดว่า “เราจำเป็นต้องทำเช่นนี้” หรือได้รับคำสั่งจากฝ่ายบริหารว่า “เราจำเป็นต้องทำเช่นนี้” พวกเขาจะหาวิธีในการทำเช่นนั้น และนั่นคือสิ่งที่คุณจบลงเมื่อเวลาผ่านไป
มีใครที่เกี่ยวข้องกับกระบวนการนี้ที่เคยตื่นขึ้นมาแล้วพูดกับตัวเองว่า “เจ้าหนู เราได้นิยามคำว่า 'เป้าหมาย' ใหม่ให้หมายถึงอะไรก็ได้ที่เราต้องการ” แล้วหรือยัง?
[หัวเราะ] แน่นอนว่าคุณมี Ed Snowden ที่ทำให้เอกสารจำนวนมากรั่วไหล คุณมี John Napier Tye ผู้เขียนบทความให้กับ The Washington Post ในปี 2014 ซึ่งเปิดเผยการตีความคำสั่งผู้บริหารที่ 12333 และบอกว่านั่นคือปัญหาที่แท้จริงที่ต้องใส่ใจ คุณมีคนอื่นที่พูดถึงเรื่องเหล่านี้ แต่โดยส่วนใหญ่แล้ว คนที่เกี่ยวข้องกับการทำงานในฝ่ายบริหารงานด้านชุมชนข่าวกรองจะถูกซื้อในมุมมองของชุมชนข่าวกรอง ซึ่งก็คือเป้าหมายหลักคือการปกป้องประเทศจากสิ่งที่เลวร้าย วิธีที่ดีที่สุดในการทำเช่นนั้นคือการมีข้อมูลให้มากที่สุด
เป็นเรื่องง่ายที่จะเห็นอกเห็นใจต่อการโต้แย้งว่า ใช่ การมีข้อมูลเพิ่มเติมอาจทำให้พวกเขาได้รับบางสิ่งเร็วขึ้นหรือพบบางสิ่งที่สำคัญ แต่อย่างใดอย่างหนึ่ง นั่นอาจไม่เป็นความจริง การได้รับข้อมูลมากเกินไปก็อาจจะแย่พอๆ กับข้อมูลน้อยเกินไป เพราะมักจะซ่อนข้อมูลที่มีประโยชน์จริงๆ ซึ่งเป็นข้อมูลที่คุณต้องการเพื่อระบุบางสิ่งบางอย่างจริงๆ
แต่เรายังมีสหรัฐอเมริกา... รัฐธรรมนูญเป็นอันดับแรก และเรามีเหตุผลว่าทำไมตามทฤษฎีแล้ว เราไม่ควรปล่อยให้มีการสอดแนมมวลชนโดยไม่มีสาเหตุที่น่าจะเป็นไปได้ ในฐานะประเทศที่เชื่อในหลักนิติธรรม เราควรจะสามารถดำเนินชีวิตตามนั้นได้ และเมื่อเรื่องราวทั้งหมดนี้เกิดขึ้นในความมืดมิด คุณก็จะมองข้ามสิ่งนั้นไป
สิ่งนี้นำฉันไปสู่มานุษยวิทยา Anthropic เป็นบริษัทวิสาหกิจเป็นหลัก พวกเขาเก่งเรื่องรัฐบาล พวกเขาสร้างกล้ามเนื้อ มีเจ้าหน้าที่ที่เชี่ยวชาญเรื่องพวกนี้เป็นอย่างดี เห็นได้ชัดว่าพวกเขามองไปที่ Pete Hegseth โดยพูดว่า "เราต้องการการใช้งานที่ถูกต้องตามกฎหมายทั้งหมด" และพวกเขาก็ตีความลงไปสองระดับแล้วพูดว่า "ความเชื่อตามตัวอักษรของคุณคือคำเหล่านี้ไม่ได้หมายความว่าสิ่งที่พวกเขาพูดหมายถึงบนใบหน้าของพวกเขา ดังนั้น 'การใช้งานที่ถูกต้องตามกฎหมายทั้งหมด' จึงใหญ่เกินไปและเราต้องการที่จะวางรั้วไว้โดยเฉพาะในการสอดแนมมวลชน"
อีกครั้ง ฉันจะแยกอาวุธอัตโนมัติซึ่งเป็นเส้นสีแดงอีกเส้นหนึ่ง แต่โดยเฉพาะอย่างยิ่งในการสอดแนมมวลชน Dario Amodei อยู่ที่นั่นและพูดว่า "เราทำได้มากเกินไป สิ่งนี้อันตรายเกินไป นี่เป็นการละเมิดการแก้ไขครั้งที่สี่"
ความตึงเครียดเกิดขึ้น “คุณกำลังบอกว่าคุณจะปฏิบัติตามกฎหมายเหล่านี้ที่กล่าวไว้สิ่งหนึ่ง และตอนนี้ หลังจากเวลานี้ กฎหมายเหล่านั้นมีความหมายแตกต่างไปจากเดิมอย่างสิ้นเชิง และเราไม่ต้องการเป็นส่วนหนึ่งของสิ่งนั้น” นั่นคือต่อสู้. ฉันแค่อยากจะเปรียบเทียบกับ Sam Altman ที่โฉบเข้ามาพูดว่า “เราจะใช้อย่างถูกกฎหมาย” แล้วโพสต์ข้อความยาวๆ ว่า “นี่คือกฎหมายทั้งหมดที่เราจะปฏิบัติตาม”
ดูเหมือนว่าอัลท์แมนจะไม่รู้ว่า NSA ตีความสิ่งเหล่านี้ใหม่ได้อย่างไร และถูกพาตัวไปนั่งรถ และตั้งแต่นั้นมาเขาก็เริ่มเดินกลับมา แม้ว่าเราจะบันทึกเสียงอยู่ก็ตาม ฉันมั่นใจว่าจะมีทวีตเพิ่มขึ้น และตำแหน่งของทุกคนก็เปลี่ยนไป แต่อัลท์แมนเดินกลับมาอย่างช้าๆ แต่ดูเหมือนว่า OpenAI จะถูกมัดให้อ่านกฎเกณฑ์บนใบหน้าและเชื่อในสิ่งที่พวกเขาพูด นั่นคือการตีความเหตุการณ์ของคุณด้วยหรือเปล่า?
มีความเป็นไปได้สองประการ และนั่นคือหนึ่งในนั้น หนึ่งคือเขาเล่นแบบเดียวกับที่คนทั่วไปเล่นมาหลายปี ทฤษฎีทางเลือก และฉันไม่รู้ว่าข้อใดเป็นจริง ก็คือเขาหรือทนายความบางคนของ OpenAI ซึ่งฉันคิดว่ามีความสามารถและมีความรู้มาก รู้เรื่องนี้ แต่คิดว่าพวกเขาสามารถเล่นเกมแบบเดียวกับที่ NSA เล่นมาสองสามทศวรรษ ตราบใดที่พวกเขาพูดสิ่งเหล่านี้ แล้วพวกเขาก็พูดคำนั้น แต่พวกเขาไม่ได้เปิดเผยการตีความที่แท้จริง ว่าพวกเขาก็สามารถหลีกเลี่ยงมันได้เช่นกัน แซมจึงออกมาพร้อมกับข้อความที่ทำให้ดูเหมือนว่า "เรามีเส้นสีแดงแบบเดียวกับที่ Anthropic มี และรัฐบาลก็เยี่ยมยอดในเรื่องนี้"
อันที่จริง ฉันคิดว่า Sam Altman บอกว่า Anthropic มีเส้นสีแดงสองเส้น และ OpenAI มีสามเส้น และรัฐบาลก็โอเคกับมัน และนั่นทำให้ผู้คนจำนวนมากเกาหัว แต่ฉันคิดว่าน่าจะเป็นที่ Sam Altman และใครก็ตามที่อยู่รอบตัวเขาไม่เข้าใจว่าสิ่งเหล่านี้ทำงานอย่างไรในทางปฏิบัติ หรือพวกเขาเข้าใจ และพวกเขาแค่คิดว่าสาธารณชนจะไม่รู้ ดังนั้น พวกเขาจึงสามารถหลีกเลี่ยงมันได้
อีกสิ่งหนึ่งที่อยู่ในใจ – อีกครั้ง AI เป็นสิ่งใหม่และเป็นเรื่องที่น่าสนใจมากที่จะใช้เทคโนโลยีใหม่ ๆ เนื่องจากสิ่งเหล่านี้เป็นปัญหาของการแสดงผลครั้งแรก “ไม่มีใครต้องคิดถึงเรื่องนี้มาก่อน” แต่ความจริงก็คือทุกคนคิดเกี่ยวกับเรื่องนี้มานานแล้ว บางทีสิ่งใหม่ที่นี่ไม่ใช่ AI แต่การบริหารของทรัมป์คนที่สองแทนที่จะทำทนายความที่อาจไม่มีใครอ่านเพื่อพิสูจน์การกระทำของพวกเขาต่อศาลลับที่ไม่มีใครสนใจ กลับกลายเป็นเพียงไม่ละเอียดอ่อนเท่านั้น
พวกเขาไม่ได้ซับซ้อนขนาดนั้นและพวกเขาแค่บอกว่าพวกเขาจะสอดแนมทุกคนตลอดเวลา พวกเขาเพิ่งประกาศความตั้งใจของตนในลักษณะที่บางทีฝ่ายบริหารทั้งหมดควรจะประกาศความตั้งใจของตนและดูว่าชิปตกอยู่ที่ไหน
แต่ฉันกำลังดูความจริงที่ว่ามีเอ็ด สโนว์เดนอยู่ที่นี่ในนิวยอร์กซิตี้ AT&T บริหารอาคารที่ใครๆ ก็รู้ว่าเป็นอาคาร NSA มันเป็นเพียงอาคารขนาดใหญ่ และเราควรแกล้งทำเป็นว่าไม่ใช่ศูนย์เฝ้าระวังของ NSA แต่อยู่ตรงนั้น มันใหญ่มาก ดูเหมือนว่าจะไม่มีอะไรเกิดขึ้นเลย การเปิดเผยทั้งหมดนี้ การรั่วไหลเหล่านี้ เราไม่ได้สำรองข้อมูลไว้
ในความเป็นจริง มันเพิ่มขึ้นก็ต่อเมื่อชีวิตส่วนใหญ่ของเราเข้าสู่ยุคดิจิทัลมากขึ้นเรื่อยๆ และบางทีการบริหารของทรัมป์อาจเป็นเครื่องมือทื่อๆ ตลอดเวลา ซึ่งจริงๆ แล้วอาจเป็นต้นตอของการคำนวณก็ได้ คุณเห็นไหมว่ากำลังเล่นอยู่?
มีบางสิ่งที่แตกต่างกันออกไป และไม่เป็นความจริงเลยที่เราไม่ได้สนับสนุนสิ่งนี้เลย การเปิดเผยจากสโนว์เดนนำไปสู่การเปลี่ยนแปลงบางประการในการที่สิ่งเหล่านี้เกิดขึ้น และตอนนี้ก็มี — ฉันลืมไปแล้วว่าพวกเขาเรียกอะไร แต่พวกเขาเป็นเหมือนคนในศาล FISA ที่จะทำหน้าที่นำเสนออีกฝ่ายในบางประเด็น
และเราพบว่าเจ้าหน้าที่บางคนถูกจำกัดด้วยวิธีการบางอย่าง และพวกเขาก็มักจะมาขออนุมัติอีกครั้ง และนักเคลื่อนไหวก็เข้มงวดมากที่จะถอยกลับและพยายามวางแนวป้องกันเพิ่มเติม แต่สำหรับคำถามที่ใหญ่กว่านั้น ฉันคิดว่ามีสองสิ่งที่แตกต่างกัน คุณพูดถูกเพียงครึ่งเดียวว่าการบริหารชุดนี้ไม่ได้ละเอียดอ่อนและแค่พูดออกมาดังๆ ถึงสิ่งที่ไม่ควรทำ
“เรากำลังทำสงครามกับอิหร่าน เรากำลังทำมัน กำลังเกิดขึ้น เราจะไม่ลองเต้นด้วยซ้ำ”
ในแบบที่รัฐบาลชุดก่อนๆไม่ทำกัน แต่พวกเขาไม่ได้พูดแบบนั้นโดยตรงเลยการสอดแนม โดยเฉพาะการสอดแนมชาวอเมริกัน มีเบาะแสเกี่ยวกับเรื่องนี้ แต่ก็ไม่ได้ออกมาชัดเจนนัก อีกครึ่งหนึ่งต้องทำมากกว่าด้วยการวางตำแหน่งของ Anthropic และมุมมองทั่วไปของ AI ว่าเป็นเทคโนโลยีที่มีอยู่จริง โดยที่ Anthropic มักจะนำเสนอตัวเองว่า "เราเป็นคนดีที่มีความคิด" และไม่ว่าคุณจะเชื่อหรือไม่ก็ตามว่านั่นเป็นสิ่งที่นอกเหนือจากประเด็น พวกเขามีชื่อเสียงนี้: “เรากำลังพยายามทำสิ่งนี้ในลักษณะที่ปลอดภัย เคารพมนุษยชาติ และให้ความสนใจกับสิ่งเหล่านี้ทั้งหมด” ดังนั้นเมื่อคุณมีความขัดแย้ง นั่นคือจุดที่การต่อสู้เข้ามา
คุณมีฝ่ายบริหารของทรัมป์ที่แค่อยากจะทำอะไรก็ได้ที่อยากทำ และพวกเขาไม่ได้ละเอียดอ่อนเกี่ยวกับเรื่องนั้น จากนั้นคุณก็จะพบกับกลุ่ม Anthropic ซึ่งมีคำอธิบายตนเองและบุคลิกต่อสาธารณะอยู่เสมอว่า “เราเป็นคนรอบคอบ และเราเคารพต่อมนุษยชาติ สิทธิ และสิ่งเหล่านี้ทั้งหมด” นั่นอาจเป็นจุดเริ่มต้นของการปะทะกัน เนื่องจาก Anthropic ได้ทำงานร่วมกับกระทรวงกลาโหมมาระยะหนึ่งแล้ว และมีสัญญาอื่นๆ อีกมากมายกับรัฐบาลที่กระทรวงใช้ มันไม่ได้เป็นปัญหา
เฉพาะในพื้นที่เฉพาะเหล่านี้เท่านั้น ซึ่งในขณะที่รัฐบาลพยายามขยายสัญญาที่มีอยู่นั้น ผู้นำระดับสูงของ Anthropic เริ่มพูดว่า "เดี๋ยวก่อน เราต้องตรวจสอบให้แน่ใจว่าเราจะไม่ก้าวข้ามเส้นสีแดงเหล่านี้ที่อาจส่งผลเสียต่อชื่อเสียงของเราในฐานะผู้ให้บริการ AI ที่รอบคอบและปลอดภัย"
ฉันอยากจะถามคุณสั้นๆ เกี่ยวกับการสอดส่องโดยทั่วไป และโดยเฉพาะอย่างยิ่งข้อกังวลเกี่ยวกับการแก้ไขเพิ่มเติมครั้งที่สี่ของ Anthropic การแก้ไขครั้งที่สี่กล่าวว่ารัฐบาลไม่สามารถค้นหาคุณได้โดยไม่มีเหตุผล วิธีที่ดีที่สุดในการทำความเข้าใจการแก้ไขครั้งที่สี่คือการฟัง "99 Problems" ของ Jay-Z ดังนั้นหากคุณต้องการหยุดพักแล้วไปฟัง “99 Problems” ก็ถือว่าเยี่ยมมาก มันอยู่ในนั้นทั้งหมด ฉันฟังมันตอนที่ฉันเรียนโรงเรียนกฎหมายและมันก็สมเหตุสมผลดี
แต่โดยทั่วไปแล้วรัฐบาลจำเป็นต้องมีหมายค้นเพื่อตรวจค้นคุณ และยิ่งชีวิตของคุณออนไลน์มากขึ้นเรื่อยๆ ก็มีข้อยกเว้นมากมายสำหรับเรื่องนี้ แต่แนวคิดก็คือพวกเขายังควรมีหมายจับทางออนไลน์ ข้อโต้แย้งของ Anthropic คือ "AI จะไม่มีวันเบื่อ มันสามารถค้นหาทุกสิ่งได้ตลอดเวลา นั่นหมายความว่าเราจะทำการเฝ้าระวังระดับผู้เชี่ยวชาญ"
ก่อนที่ AI จะปรากฏตัว ความคิดที่ว่ารัฐบาลสามารถค้นหาทุกสิ่งที่เป็นของคุณก็ยังมีอยู่ ความคิดที่ว่ารัฐบาลไม่จำเป็นต้องมีหมายค้นก็อยู่ที่นั่น แนวคิดที่ว่าหากข้อมูลของคุณถูกส่งออกไปนอกประเทศในช่วงเวลาสั้นๆ รัฐบาลจะดักจับข้อมูลนั้นที่นั่น
ตอนที่ฉันเรียนมหาวิทยาลัย ในช่วงที่มีพระราชบัญญัติ Patriot Act มีการถกเถียงกันว่าพวกเขาไม่ได้ค้นหาข้อมูลจริงของคุณ แต่สามารถรับข้อมูลเมตาและข้อมูลเมตาเพียงอย่างเดียวได้ ข้อมูลเกี่ยวกับข้อมูลของคุณจะเพียงพอที่จะระบุตำแหน่งของคุณได้อย่างแม่นยำตลอดเวลา และแม้นั่นจะไกลเกินไป และเราก็กำลังเต้นอยู่ว่ารัฐบาลเก็บอะไรได้บ้าง? อะไรได้รับอนุญาต? พวกเขาต้องมีอะไรเพื่อให้เราทุกคนปลอดภัย และอะไรที่ไกลเกินไป? เส้นเหล่านั้นได้ย้ายไปแล้ว
ดังนั้น ให้อธิบายสั้นๆ ถึงข้อกังวลทั่วไปเกี่ยวกับการเฝ้าระวังในระดับและจุดที่เราอยู่ในขณะนี้ ก่อนที่สถานการณ์ AI จะทำให้ทุกอย่างซับซ้อนมากขึ้นแบบทวีคูณ
ในที่นี้ผมต้องแนะนำแนวคิดอีกประการหนึ่งที่อาจควรจะกล่าวถึงก่อนหน้านี้ แต่เป็นสิ่งสำคัญซึ่งเรียกว่า “หลักคำสอนของบุคคลที่สาม” แนวคิดในการแก้ไขครั้งที่สี่คือ รัฐบาลไม่สามารถตรวจค้นคุณหรือสิ่งของของคุณโดยไม่มีหมายจับ และไม่สามารถออกหมายจับได้หากไม่มีสาเหตุที่น่าจะเป็นไปได้ว่าคุณได้ก่ออาชญากรรมบางประเภท แต่มีแนวคิดนี้ซึ่งเกิดขึ้นเมื่อหลายสิบปีก่อนเรียกว่าหลักคำสอนของบุคคลที่สาม ซึ่งบอกว่านั่นไม่จำเป็นต้องใช้หรือไม่ใช้เลยกับสิ่งที่ไม่ใช่ของคุณ แม้ว่าจะเป็นข้อมูลของคุณก็ตาม
เวอร์ชันแรกสุดและชัดเจนที่สุดคือบันทึกโทรศัพท์ที่บริษัทโทรศัพท์มีเกี่ยวกับคนที่คุณโทรหา บริษัทโทรศัพท์ไม่ได้บันทึกการโทรของคุณ แต่บันทึกเสียงอยู่ถ้าฉันโทรหาคุณ จะมีบันทึกที่บริษัทโทรศัพท์แจ้งว่า “ไมค์โทรหานิเลย์” และที่ศาลหลายศาลตัดสินก็คือรัฐบาลสามารถไปร้องขอได้ และไม่จำเป็นต้องมีหมาย เพราะไม่ใช่การตรวจค้นข้อมูลของคุณ เป็นบุคคลที่สาม และพวกเขาสามารถตกลงในฐานะบุคคลที่สามเพื่อส่งมอบข้อมูลนั้นได้
แต่นั่นเป็นกรณีที่เกิดขึ้นในช่วงทศวรรษที่ 1960 และ 1970 ซึ่งมีการพิจารณาแล้วว่ารัฐบาลสามารถเข้าถึงข้อมูลดังกล่าวได้โดยไม่ต้องมีหมายจับ ในเมื่อไม่มีข้อมูลของบุคคลที่สามมากนัก การเพิ่มขึ้นของคอมพิวเตอร์และอินเทอร์เน็ตได้เปลี่ยนแปลงสิ่งนั้น ตอนนี้ทุกอย่างเป็นข้อมูลของบุคคลที่สาม ทุกสิ่งที่เราทำจะถูกรวบรวมโดยบริษัทบางแห่งและมีบันทึกไว้ โดยพื้นฐานแล้วข้อมูลทุกอย่างเกี่ยวกับคุณ สถานที่ที่คุณอยู่ คนที่คุณพูดคุยด้วย คนที่คุณโต้ตอบด้วย สิ่งที่คุณพูด สิ่งที่คุณกำลังทำ ทั้งหมดนี้ค่อนข้างจะถูกเก็บไว้โดยบุคคลที่สามในทุกวันนี้ ดังนั้นหลักคำสอนของบุคคลที่สามได้กลืนกินการแก้ไขฉบับที่สี่ทั้งหมดไปบ้างแล้ว โดยที่สิ่งใดก็ตามที่เป็นเรื่องเกี่ยวกับคุณเหมือนกับที่คนอื่นมี มีมาตรฐานที่ต่ำกว่ามากสำหรับสิ่งที่รัฐบาลสามารถทำได้เพื่อร้องขอ
กล่าวให้เจาะจงก็คือ เมื่อข้อมูลของฉันอยู่ใน iCloud รัฐบาลสามารถไปที่ Apple และนำข้อมูลของฉันออกจาก iCloud โดยไม่ต้องบอกฉันเลย
พวกเขาสามารถขอได้ พวกเขาสามารถขอได้อย่างง่ายดายโดยไม่ต้องมีหมายจับ จากนั้นบริษัทก็มีสิทธิของตนเองและสามารถกำหนดสิ่งที่พวกเขาต้องการจะทำกับคำขอนั้นได้ พวกเขาสามารถยอมแพ้ได้ หากเป็นคำขอที่จริงจัง พวกเขาสามารถทำได้ ปฏิเสธคำขอที่ไม่ได้อยู่ในมือหรือพวกเขาสามารถแจ้งเตือนคุณและพวกเขาสามารถพูดได้ — และนี่คือสิ่งที่พวกเขาส่วนใหญ่จะทำ — พวกเขาจะแจ้งเตือนคุณและพูดว่า “รัฐบาลกำลังขอข้อมูลบางส่วนของคุณ คุณสามารถไปที่ศาลและพยายามบล็อกพวกเขาได้” ถ้าไม่เช่นนั้น พวกเขาจะส่งข้อมูลของคุณภายในเจ็ดวันหรืออะไรก็ตาม
มันขึ้นอยู่กับอีกครั้ง หากเป็นการสืบสวนคดีอาญา อาจมีคำสั่งปิดปากบางประเภทที่บริษัทไม่ได้รับอนุญาตให้บอกคุณ มีสถานการณ์หลายประเภท แต่ส่วนใหญ่เกี่ยวข้องกับระดับการป้องกันน้อยกว่าที่การแก้ไขครั้งที่สี่จะต้องใช้ หากเป็นข้อมูลหรือข้อมูลใด ๆ หรืออะไรก็ตามในบ้านของคุณเอง
ปริมาณข้อมูลที่คุณมีบนเซิร์ฟเวอร์คลาวด์ของคนอื่นนั้นมีมากมายมหาศาลใช่ไหม? ทุกสิ่งที่คุณทำโดยทั่วไปบนอินเทอร์เน็ตในขณะนี้ได้รับการสำรองไว้ไม่ทางใดก็ทางหนึ่งหรือบันทึกไว้ในเซิร์ฟเวอร์ของผู้อื่น รัฐบาลพบวิธีนี้เพื่อหลีกเลี่ยงการแก้ไขรัฐธรรมนูญฉบับที่สี่และพูดว่า "นั่นไม่ใช่ของคุณจริงๆ มันเป็นของ Amazon เราสามารถไปคุยกับ Amazon ได้" และ Amazon ก็ต้องยืนอยู่ตรงกลางกระบวนการนั้นและพูดว่า "เราได้คิดค้นกระบวนการอื่นขึ้นมาเพื่อปกป้องประชาชนบ้าง"
ฉันดูเรื่องนี้—และเมื่อฉันพูดถึงกรณีหลักคำสอนของบุคคลที่สามกรณีแรกที่ครอบคลุมบริการคลาวด์และรัฐบาลยังคงชนะ นั่นคือตอนที่ฉันกลายเป็นโจ๊กเกอร์ ฉันก็แบบว่า “เรื่องทั้งหมดนี้เราแกล้งทำเป็นเกี่ยวกับข้อความและการอ่านธรรมดาๆ ทั้งหมดนี้ไม่ได้มีความหมายอะไรเลย เพราะเราแค่แรงม้าไปที่ประตูหลังโดยใช้กฎหมายโบราณนี้ในข้อมูลของทุกคน”
จากนั้นฉันก็ดูสิ่งนี้และมองไปที่มานุษยวิทยาแล้วฉันก็พูดว่า "นี่เป็นรูปแบบเดียวกัน" นี่คือบริษัทเอกชนที่พูดว่า “โอเค เราเข้าใจจุดยืนของคุณ เราเข้าใจดีว่าคุณตีความกฎหมายใหม่เพื่อหมายถึงสิ่งนี้ และเราจะวางกระบวนการบางอย่างระหว่างคุณ เครื่องมือของเรา และข้อมูลของชาวอเมริกันที่ไหลผ่านบริการของเรา” ฉันแค่สงสัยว่าคุณเห็นความคล้ายคลึงกันระหว่าง Anthropic กับ Amazon และ Azure และบริการคลาวด์อื่นๆ ที่มีอยู่ซึ่งเก็บข้อมูลของเราไว้มากมายหรือไม่
ใช่ แม้ว่าจะมีการชี้แจงบางประการที่สำคัญที่นี่ซึ่งทำให้สิ่งนี้แตกต่างออกไปเล็กน้อย และในความเป็นจริง ฉันคิดว่า The New York Times มีการรายงานนี้ก่อน — ประโยคหลักที่สำคัญที่สุดสำหรับ Anthropic คือเกี่ยวกับข้อมูลที่รวบรวมจากบริการเชิงพาณิชย์โดยเฉพาะ และไม่สามารถใช้ Claude กับข้อมูลนั้นได้ ซึ่งก็คือปัญหานี้ในแง่ของข้อมูลบุคคลที่สาม แต่ฉันต้องการชี้แจงความแตกต่างที่สำคัญระหว่างสิ่งที่เราเพิ่งพูดถึงก่อนหน้านี้กับ Amazon หรือบุคคลที่สามอื่นๆ ที่โฮสต์ข้อมูลของคุณ นั่นเป็นกรณีที่พวกเขาอยู่ เนื่องจากพวกเขานั่งอยู่ในระบบนิเวศ พวกเขาจึงโฮสต์ข้อมูลของคุณโดยตรง
สำหรับ Claude ไม่ใช่ว่าทุกคนจะกังวลเกี่ยวกับ NSA ในการพิจารณาการใช้งาน Claude ของคุณ มันเกี่ยวกับพวกเขาออกไปและรับข้อมูลบุคคลที่สามจาก Amazon หรือมีแนวโน้มว่าจะเป็นนายหน้าข้อมูลลับๆ ที่ซ่อนเร้นซึ่งแสดงโฆษณาบนโทรศัพท์ของคุณ และรู้ตำแหน่งของคุณ ความสนใจของคุณ และสิ่งต่าง ๆ เช่นนั้น แล้วป้อนมันเข้าระบบว่าโคลดจะทำงานต่อไป นั่นคือสิ่งที่ Anthropic ไม่อยากมีส่วนร่วมจริงๆ ดังนั้นไม่ว่ารัฐบาลจะรวบรวมข้อมูลนั้นจากบุคคลที่สามไม่ว่าที่ใดก็ตาม Anthropic กล่าวว่า "เราไม่ต้องการให้ใช้เครื่องมือของเรากับข้อมูลนั้น"
Apple ยืนหยัดต่อสู้กับ FBI อย่างโด่งดังโดยขอให้ติดตั้งแบ็คดอร์ใน iPhone และ Apple ก็ปฏิเสธว่า “ไม่” และพวกเขาก็ยืนหยัดต่อสู้กับ Trump และมีส่วนหนึ่งของวิธีการทำงานของระบบของเราที่บริษัทเอกชนขนาดใหญ่จะปฏิเสธรัฐบาลในนามของลูกค้าของพวกเขา และสิ่งนี้ให้ความรู้สึกแบบเดียวกับที่ Apple จะไม่ใส่แบ็คดอร์บน iPhone อีกครั้ง หรือผู้ให้บริการคลาวด์รายใหญ่พูดว่า "มีขั้นตอนเล็กน้อยที่คุณต้องดำเนินการก่อนจึงจะได้รับข้อมูลส่วนบุคคล"
ที่นี่ดูเหมือนว่า Anthropic กำลังพูดว่า "เราจะไม่เพียงแค่ทำการวิเคราะห์ข้อมูลที่คุณได้รับจากบุคคลอื่นจำนวนมากเท่านั้น เพราะนั่นนำไปสู่การสอดแนมชาวอเมริกันจำนวนมากตลอด 24 ชั่วโมงทุกวัน และเราไม่ต้องการทำเช่นนั้น" แต่นั่นดูเหมือนเป็นสะพานที่ไกลเกินไปสำหรับการบริหารชุดนี้ มีการกลับมาจากสิ่งนั้นบ้างไหม?
เราจะเห็น. ในอดีตที่สิ่งนี้เกิดขึ้น – และมันเกิดขึ้นหลายครั้งกับบริษัทเทคโนโลยีขนาดใหญ่ส่วนใหญ่ ในบางจุดพวกเขากล่าวว่ามีบางอย่างที่เป็นสะพานที่ไกลเกินไป – ซึ่งปกติจะไปที่ศาล บริษัทจะไปที่ศาลหรือฝ่ายบริหารจะไปที่ศาล และจะมีการต่อสู้ในศาลบางประเภท
แบ็คดอร์ใน iPhone เป็นตัวอย่างที่สมบูรณ์แบบของสิ่งนั้น มันขึ้นศาลและพวกเขาก็ต่อสู้ดิ้นรน แม้ว่าพวกเขาจะไม่ได้ข้อสรุปเลย เพราะในที่สุด FBI ก็บุกเข้าไปใน iPhone ด้วยตนเอง และไม่ต้องการให้คำตัดสินของศาลทำลายสิ่งนั้นในอนาคต
แต่ในกรณีนี้ จุดที่การบานปลายและจุดที่แตกต่างจากสถานการณ์ในอดีตคือ แทนที่จะไปขึ้นศาล ฝ่ายบริหารของทรัมป์กลับใช้การกำหนด "ความเสี่ยงในห่วงโซ่อุปทาน" นี้ ซึ่งถือว่าบ้าไปแล้ว แนวคิดนี้ว่าเครื่องมือนี้ซึ่งออกแบบมาเพื่อหยุดยั้งผู้ประสงค์ร้ายจากต่างประเทศไม่ให้จัดหาเทคโนโลยี ซึ่งสามารถใส่เครื่องมือเฝ้าระวังที่ซ่อนอยู่ลงในกลุ่มเทคโนโลยีที่ใหญ่กว่า ซึ่งสิ่งเหล่านั้นอาจถูกแบนได้ การนำนโยบายดังกล่าวไปใช้กับบริษัทในสหรัฐฯ โดยพื้นฐานแล้วสำหรับนโยบายด้านจริยธรรมนั้น รู้สึกเหมือนเป็นการใช้เครื่องมือนั้นในทางที่ผิดอย่างแท้จริง
แม้แต่เครื่องมือนั้นก็ยังน่าสงสัยในบางแง่ แต่คุณสามารถเข้าใจแรงผลักดันเบื้องหลังได้เมื่อคุณพูดถึงบริษัทเครือข่ายของจีนหรืออะไรทำนองนั้น ที่นี่มันไม่สมเหตุสมผลเลย ดังนั้นปฏิกิริยาต่อสิ่งนี้ไปไกลเกินกว่าที่จะเห็นได้ตามปกติในกรณีนี้ คุณจะเห็นได้ว่าโดยปกติแล้วจะมีการดำเนินคดีในศาล และทั้งสองฝ่ายสามารถเริ่มคดีได้ และมันจะเป็นแค่การต่อสู้เกี่ยวกับวิธีการนำสัญญาไปใช้
แต่นั่นไม่ใช่สิ่งที่เกิดขึ้นที่นี่ ฝ่ายบริหารชุดนี้พูดได้อย่างมีประสิทธิภาพว่า “ถ้าคุณไม่ให้ทุกสิ่งที่เราต้องการอย่างแน่นอน ถ้าคุณไม่ตั้งค่าเครื่องมือของคุณให้ทำงานในแบบที่เราต้องการให้พวกเขาทำงาน เราก็จะพยายามทำลายธุรกิจของคุณทั้งหมดอย่างมีประสิทธิผล” และนั่นคือการเพิ่มขึ้น
มีเรื่องหนึ่งที่ฉันอยากจะจบ และมันเป็นเวอร์ชั่นที่สมองที่สุดในจักรวาลนี้ FIRE ซึ่งเป็นกลุ่มผู้สนับสนุนเสรีภาพในการพูด โพสต์ในบล็อกก่อนที่เราจะเริ่มบันทึกการโต้แย้งที่บังคับให้ Anthropic สร้างเครื่องมือที่ไม่ต้องการสร้างถือเป็นการละเมิดเสรีภาพในการพูด ซึ่งเรียกว่าคำพูดบังคับ มีประวัติศาสตร์มากมายที่นี่ มี Verge และ Techdirt ที่ลึกซึ้ง ประวัติความเป็นมาในวิกฤตการณ์ที่มีอยู่ที่นี่
แต่โดยพื้นฐานแล้วมันมาจากแนวคิดที่ว่าโค้ดคือคำพูด การเขียนโค้ดสำหรับคอมพิวเตอร์เป็นรูปแบบหนึ่งของคำพูด และรัฐบาลไม่สามารถบังคับให้คุณทำแบบนั้นได้ และสิ่งต่างๆ มากมายก็ไหลออกมาจากนั้น คุณซื้อข้อโต้แย้งนี้ที่บังคับให้ Anthropic สร้างเครื่องมือที่ไม่ต้องการสร้างนั้นเป็นคำพูดที่ถูกบังคับหรือไม่?
ใช่แล้ว ฉันคิดว่ามันค่อนข้างน่าสนใจจริงๆ คำพูดบังคับที่น่าดึงดูด แต่ไม่ ฉันคิดว่ามันเป็นข้อโต้แย้งที่น่าสนใจ เป็นเรื่องที่อยู่ไกลออกไปเล็กน้อยจากรายการปัญหาที่ฉันคิดอยู่ เห็นได้ชัดว่าฉันมุ่งเน้นไปที่ประเด็นการแก้ไขครั้งที่สี่เป็นส่วนใหญ่ แต่ฉันคิดว่าข้อโต้แย้ง FIRE ไม่ผิด เราได้เห็นสิ่งนี้ในบริบทอื่น มันเกิดขึ้นในปัญหาแบ็คดอร์เช่นกัน ในแง่ของการพยายามสร้างแบ็คดอร์เข้าสู่ระบบที่เข้ารหัส
บริษัทขึ้นก่อนอย่างแน่นอนการแก้ไขอ้างว่า “เป็นคำพูดบังคับที่บังคับให้เราเขียนโค้ดประเภทนั้น” มันเป็นข้อโต้แย้งที่ถูกต้อง อาจเป็นอีกครั้งหนึ่งที่ศาลอาจไม่เต็มใจที่จะจัดการในตอนแรกหากพวกเขาสามารถจัดการกับปัญหาเหล่านี้ด้วยวิธีอื่นได้ แต่ฉันดีใจที่ FIRE โพสต์นั้น และฉันคิดว่ามันเป็นข้อโต้แย้งที่น่าสนใจและน่าสนใจ
ใช่ มันเป็นเพียงธรรมชาติของการบริหารงานของทรัมป์ครั้งที่สองคือมันเป็นเครื่องมือที่ทื่อ เกือบจะแน่นอนว่าเราจะโจมตีทุกประเด็นพร้อมกัน
ใช่ การแก้ไขกฎหมายสิทธิทุกครั้งจะต้องถูกโต้แย้งในรูปแบบใดรูปแบบหนึ่งกับทุกประเด็นที่เป็นไปได้
[หัวเราะ] หมุนวงล้อ
ฉันแน่ใจว่าเราสามารถฝ่าฝืนการแก้ไขครั้งที่สามได้ที่ไหนสักแห่งที่นี่
แน่นอนใช่ ตอนนี้คลอดด์ต้องอาศัยอยู่ในบ้านของคุณแล้ว อย่างแน่นอน. มันจะดีมาก เรากำลังดำเนินการ [แก้ไข] หนึ่ง สาม สี่ และเจ็ด เราเก็บพวกมันไว้
ไมค์ มันเยี่ยมมาก ฉันไม่อยากจะเชื่อเลยว่าคุณไม่เคยไปแสดงมาก่อน นี่เป็นสิ่งที่ดีมาก คุณต้องกลับมาเร็วๆ นี้
อย่างแน่นอน. เมื่อใดก็ตามที่คุณต้องการฉัน
คำถามหรือความคิดเห็นเกี่ยวกับตอนนี้? ติดต่อเราที่ decoder@theverge.com เราอ่านอีเมลทุกฉบับจริงๆ!
