วันนี้ในรายการ Decoder ฉันกำลังพูดคุยกับ Ronan Farrow ซึ่งเป็นหนึ่งในดาวเด่นด้านการรายงานเชิงสืบสวนที่ยิ่งใหญ่ที่สุดที่ทำงานอยู่ในปัจจุบัน เขาทำลายเรื่องราวของฮาร์วีย์ ไวน์สไตน์ และเรื่องราวอื่นๆ อีกมากมาย และเมื่อสัปดาห์ที่แล้ว เขาและผู้เขียนร่วม Andrew Marantz ตีพิมพ์ฟีเจอร์เจาะลึกที่น่าทึ่งใน The New Yorker เกี่ยวกับ Sam Altman CEO ของ OpenAI ความน่าเชื่อถือของเขา และการเติบโตของ OpenAI
หมายเหตุหนึ่งก่อนที่เราจะไปไกลกว่านี้ —The New Yorker ตีพิมพ์เรื่องราวนั้น และ Ronan กับฉันได้พูดคุยกันก่อนที่เราจะรู้ถึงขอบเขตของการโจมตีบ้านของ Altman อย่างครบถ้วน ดังนั้นคุณจะไม่ได้ยินเราพูดถึงเรื่องนั้นโดยตรง แต่เพื่อจะพูดแบบนั้น ฉันคิดว่าความรุนแรงทุกรูปแบบเป็นสิ่งที่ยอมรับไม่ได้ การโจมตี Sam เหล่านี้เป็นสิ่งที่ยอมรับไม่ได้ และการที่ผู้คนรู้สึกทำอะไรไม่ถูกซึ่งนำไปสู่ความรุนแรงประเภทนี้ เองก็เป็นสิ่งที่ยอมรับไม่ได้ และมันก็คุ้มค่าที่จะได้รับการพิจารณาอย่างละเอียดมากขึ้นจากทั้งในอุตสาหกรรมและผู้นำทางการเมืองของเรา ฉันหวังว่ามันชัดเจน
สมาชิก Verge อย่าลืมว่าคุณได้รับสิทธิพิเศษในการเข้าถึงตัวถอดรหัสแบบไม่มีโฆษณาไม่ว่าคุณจะรับพอดแคสต์จากทุกที่ มุ่งหน้าไปที่นี่ ไม่ใช่สมาชิกใช่ไหม? คุณสามารถลงทะเบียนได้ที่นี่
ทั้งหมดที่กล่าวมา มีการหมุนรอบ Altman มากมายซึ่งเป็นเกมที่ยุติธรรมสำหรับการรายงานที่เข้มงวด - การรายงานแบบที่ Ronan และ Andrew ตั้งใจจะทำ Thanks to the popularity of ChatGPT, Altman has emerged as the most visible figurehead of the AI industry, having turned a once nonprofit research lab into an almost trillion-dollar private company in just a few years. แต่ตำนานของอัลท์แมนนั้นขัดแย้งกันอย่างมาก โดยนิยามไว้พอๆ กันทั้งจากความสามารถในการตกลงซื้อขายที่ชัดเจนของเขาและแนวโน้มที่รายงานของเขาที่จะ... คือโกหกทุกคนที่อยู่รอบตัวเขา
เรื่องราวมีความยาวมากกว่า 17,000 คำ และเนื้อหาดังกล่าวมีเนื้อหาที่แน่ชัดเกี่ยวกับสิ่งที่เกิดขึ้นในปี 2023 เมื่อคณะกรรมการบริหารของ OpenAI ไล่อัลท์แมนออกกะทันหันเนื่องจากข้อกล่าวหาว่าเขาโกหก เพียงแต่เขาจะถูกจ้างงานใหม่เกือบจะในทันที นอกจากนี้ยังเจาะลึกเกี่ยวกับชีวิตส่วนตัวของอัลท์แมน การลงทุน การแสวงหาเงินจากตะวันออกกลาง และการไตร่ตรองพฤติกรรมในอดีตและลักษณะนิสัยที่ทำให้แหล่งข่าวรายหนึ่งกล่าวว่าเขา “ไม่มีข้อจำกัดจากความจริง” ฉันขอแนะนำให้คุณอ่านเรื่องราวทั้งหมด ฉันสงสัยว่ามันจะถูกอ้างอิงไปอีกหลายปีข้างหน้า
Ronan พูดคุยกับอัลท์แมนหลายครั้งตลอด 18 เดือนที่เขาใช้เวลารายงานผลงานชิ้นนี้ และสิ่งสำคัญอย่างหนึ่งที่ฉันสงสัยก็คือเขาสัมผัสได้ถึงการเปลี่ยนแปลงในอัลท์แมนในช่วงเวลานั้นหรือไม่ ท้ายที่สุดแล้ว ในช่วงครึ่งปีที่ผ่านมา มีเรื่องราวมากมายเกิดขึ้นทั้งในด้าน AI เทคโนโลยี และในโลก
You’ll hear Ronan talk about that very directly, as well as his sense that people have become much more willing to talk about Altman’s ability to stretch the truth. ผู้คนเริ่มสงสัยอย่างเปิดเผยและบันทึกไว้ว่าพฤติกรรมของคนอย่างอัลท์แมนนั้นเกี่ยวข้องหรือไม่ ไม่ใช่แค่สำหรับ AI หรือเทคโนโลยีเท่านั้น แต่ยังรวมถึงอนาคตโดยรวมของสังคมด้วย
โอเค: Ronan Farrow กับ Sam Altman, AI และความจริง เอาล่ะ.
บทสัมภาษณ์นี้ได้รับการแก้ไขเล็กน้อยเพื่อให้มีความยาวและชัดเจน
Ronan Farrow คุณเป็นนักข่าวสืบสวนและผู้มีส่วนร่วมใน The New Yorker ยินดีต้อนรับสู่ตัวถอดรหัส
ดีใจที่ได้อยู่ที่นี่ ขอบคุณที่มีฉัน
ฉันตื่นเต้นมากที่จะพูดคุยกับคุณ คุณเพิ่งเขียนงานชิ้นใหญ่ให้กับ The New Yorker มันเป็นโปรไฟล์ของ Sam Altman และ OpenAI เช่นเดียวกัน การอ่านของฉันก็คือ เช่นเดียวกับฟีเจอร์ที่ยอดเยี่ยมทั้งหมด ด้วยการรายงานที่เข้มงวด ช่วยยืนยันความรู้สึกมากมายที่ผู้คนมีเกี่ยวกับ Sam Altman มาเป็นเวลานาน คุณได้เผยแพร่มันอย่างชัดเจน คุณได้รับปฏิกิริยาตอบรับต่อมันอย่างชัดเจน ตอนนี้คุณรู้สึกอย่างไรกับเรื่องนี้?
จริงๆ แล้วฉันรู้สึกดีใจมากที่มันพังทลายลงในช่วงเวลาที่เศรษฐกิจแห่งความสนใจนั้นค่อนข้างจะจิตเภทและตื้นเขิน นี่เป็นเรื่องราวที่ในมุมมองของฉันส่งผลต่อเราทุกคน และเมื่อฉันใช้เวลาหนึ่งปีครึ่งในชีวิตของฉัน และผู้เขียนร่วมของฉัน Andrew Marantz ก็ใช้เวลานั้นของเขาเช่นกัน พยายามทำอะไรบางอย่างทางนิติวิทยาศาสตร์และพิถีพิถัน มักเป็นเพราะฉันรู้สึกว่ามันมีปัญหาเชิงโครงสร้างที่ใหญ่กว่าที่ส่งผลกระทบต่อผู้คนนอกเหนือจากปัจเจกบุคคลและบริษัทที่เป็นหัวใจสำคัญของเรื่องราว
Sam Altman ท่ามกลางฉากหลังของวัฒนธรรมโฆษณาเกินจริงและบริษัทสตาร์ทอัพใน Silicon Valley ที่เพิ่มมูลค่ามหาศาลตามคำสัญญาที่อาจจะเกิดขึ้นหรือไม่เกิดขึ้นในอนาคต และการเปิดรับวัฒนธรรมผู้ก่อตั้งที่คิดว่าการบอกเล่าสิ่งที่ขัดแย้งกันแก่กลุ่มต่างๆ มากขึ้นเป็นคุณลักษณะ ไม่ใช่แมลง…แม้จะอยู่ตรงข้ามกับฉากหลังนั้น Sam Altman ก็เป็นกรณีพิเศษที่ทุกคนใน Silicon Valley ที่คาดหวังสิ่งเหล่านั้นไม่สามารถหยุดพูดถึงคำถามเกี่ยวกับความน่าเชื่อถือและความซื่อสัตย์ของเขาได้
เรารู้อยู่แล้วว่าเขาถูกไล่ออกเนื่องจากข้อกล่าวหาเรื่องความไม่ซื่อสัตย์หรือการโกหกอย่างต่อเนื่อง แต่ที่พิเศษกว่านั้น แม้ว่าจะมีการรายงานที่ยอดเยี่ยม แต่ Keach Hagey ก็ทำได้ดีมากในเรื่องนี้ คาเรน ห่าวทำผลงานได้ดีมากในเรื่องนี้ ไม่มีความเข้าใจที่แน่ชัดเกี่ยวกับประเด็นหลักฐานที่ถูกกล่าวหาจริงและสาเหตุที่ทำให้สิ่งเหล่านั้นไม่อยู่ในสายตาของสาธารณชน
ประเด็นแรกคือฉันรู้สึกดีใจกับความจริงที่ว่าช่องว่างบางส่วนในความรู้สาธารณะของเรา และแม้แต่ในความรู้ของคนใน Silicon Valley ได้ถูกเติมเต็มเพิ่มขึ้นอีกเล็กน้อย เหตุผลบางประการที่มีช่องว่างได้ถูกเติมเต็มเพิ่มอีกเล็กน้อย
เรารายงานกรณีที่ผู้คนในบริษัทนี้รู้สึกว่าสิ่งต่างๆ ถูกปกปิดหรือจงใจไม่บันทึกไว้ สิ่งใหม่ๆ ในเรื่องนี้คือการสืบสวนของบริษัทกฎหมายที่สำคัญโดยวิลเมอร์เฮล ซึ่งเห็นได้ชัดว่าเป็นบริษัทกฎหมายขนาดใหญ่ที่ดูดี น่าเชื่อถือ และทำการสืบสวนเอ็นรอนและเวิลด์คอม ซึ่งจริงๆ แล้วทั้งหมดมีขนาดใหญ่มาก เหมือนกับที่ตีพิมพ์หลายร้อยหน้า วิลเมอร์เฮลทำการสอบสวนนี้ตามที่สมาชิกคณะกรรมการเรียกร้องซึ่งไล่อัลท์แมนออกเป็นเงื่อนไขในการจากไปเมื่อเขากำจัดพวกเขาออก และเขาก็กลับมา และที่พิเศษกว่านั้น — ในสายตาของผู้เชี่ยวชาญด้านกฎหมายหลายคนที่ฉันพูดคุยด้วย และที่น่าตกใจในสายตาของผู้คนจำนวนมากในบริษัทนี้ — พวกเขาไม่ยอมเขียนมันออกมา สิ่งที่เกิดขึ้นทั้งหมดคือการแถลงข่าวความยาว 800 คำจาก OpenAI ที่อธิบายถึงสิ่งที่เกิดขึ้นว่าเป็นการพังทลายของความไว้วางใจ และเราขอยืนยันว่าข้อมูลนี้ถูกเก็บไว้เป็นการบรรยายสรุปแบบปากเปล่า
มีหลายกรณีที่ดูเหมือนว่าสมาชิกคณะกรรมการต้องการลงคะแนนคัดค้านการเปลี่ยนรูปแบบจากรูปแบบไม่แสวงหาผลกำไรดั้งเดิมของ OpenAI ไปเป็นองค์กรที่แสวงหาผลกำไร และจะถูกบันทึกว่าเป็นงดออกเสียง มีเหมือนทนายความในที่ประชุมพูดว่า "นั่นอาจทำให้เกิดการตรวจสอบข้อเท็จจริงมากเกินไป" และบุคคลที่ต้องการลงคะแนนเสียงคัดค้านจะถูกบันทึกว่างดออกเสียงทุกกรณี มีข้อพิพาทข้อเท็จจริง OpenAI อ้างสิทธิ์เป็นอย่างอื่นอย่างที่คุณอาจจินตนาการได้ นี่เป็นกรณีที่คุณมีบริษัทที่กุมอนาคตของเราไว้ในมือโดยบัญชีของตัวเอง
ความเสี่ยงด้านความปลอดภัยนั้นรุนแรงมากจนไม่ได้หายไป นี่คือเหตุผลที่บริษัทนี้ก่อตั้งขึ้นในฐานะองค์กรไม่แสวงผลกำไรที่เน้นเรื่องความปลอดภัย และสิ่งต่างๆ ถูกปกปิดในลักษณะที่ผู้คนที่น่าเชื่อถือรอบนี้พบว่าบริษัทนี้ด้อยกว่าความเป็นมืออาชีพ และคุณจับคู่สิ่งนั้นกับฉากหลังที่มีความอยากทางการเมืองน้อยมากสำหรับกฎระเบียบที่มีความหมาย ฉันคิดว่ามันเป็นสถานการณ์ที่ติดไฟได้มาก
ประเด็นสำหรับฉันไม่ใช่แค่ว่า Sam Altman สมควรได้รับคำถามเหล่านี้อย่างเฉียบขาด นอกจากนี้ คนเหล่านี้ในสาขานี้และบุคคลสำคัญหลายๆ คน ยังได้แสดงให้เห็นว่ามีนิสัยโกหกตลอดเวลา ซึ่งหากไม่ใช่คนที่มีนิสัยแปลกประหลาดเช่นนี้ แน่นอนว่ามีความคิดแบบแข่งกับล่างสุดในระดับหนึ่ง โดยที่ผู้คนที่เป็นนักความปลอดภัยได้ลดทอนความมุ่งมั่นเหล่านั้นและท่าทางที่ทุกคนอยู่ในการแข่งขัน
ฉันคิดว่าในขณะที่เราดูการรั่วไหลของ Anthropic เมื่อเร็ว ๆ นี้ มีคนตั้งคำถามว่าใครควรจะกดปุ่มในส่วนนี้ คำตอบคือ ถ้าเราไม่มีการกำกับดูแลที่มีความหมาย ฉันคิดว่าเราต้องถามคำถามที่จริงจังและพยายามเปิดเผยข้อมูลให้มากที่สุดเท่าที่จะเป็นไปได้เกี่ยวกับคนเหล่านี้ทั้งหมด ดังนั้นฉันจึงมีกำลังใจกับสิ่งที่รู้สึกเหมือนเป็นการสนทนาที่มีความหมายเกี่ยวกับเรื่องนั้นหรือเป็นจุดเริ่มต้นของการสนทนา
เหตุผลที่ฉันถามแบบนั้นก็คือคุณทำงานนี้มาได้หนึ่งปีครึ่งแล้ว ฉันเชื่อว่าคุณคุยกับคน 100 คนกับแอนดรูว์ ผู้เขียนร่วมของคุณ นั่นเป็นเวลานานสำหรับเรื่องราวในการปรุงอาหาร ฉันนึกถึงช่วงครึ่งปีที่แล้วโดยเฉพาะในด้าน AI และเด็กผู้ชาย ทัศนคติและค่านิยมของตัวละครเหล่านี้เปลี่ยนไปอย่างรวดเร็วมาก
อาจจะไม่มีอะไรมากไปกว่า Sam Altman ซึ่งเริ่มต้นจากการเป็นผู้ชนะเริ่มต้นเพราะพวกเขาได้เปิดตัว ChatGPT และทุกคนคิดว่านั่นจะเข้ามาแทนที่ Google And then Google responded, which seemed to surprise them that Google would try to protect its business, maybe one of the best businesses in tech history, if not business history. Anthropic ตัดสินใจว่าจะมุ่งเน้นไปที่องค์กร ดูเหมือนว่าจะเป็นผู้นำผู้บังคับบัญชาเนื่องจากการใช้งาน AI ในองค์กรมีสูงมาก
ตอนนี้ OpenAI กำลังเปลี่ยนโฟกัสผลิตภัณฑ์ของตนจาก "เราจะดำเนินการกับ Google" ไปที่ Codex และพวกเขากำลังจะเข้าสู่องค์กร ฉันไม่สามารถบอกได้เลยว่าในระหว่างการรายงานของคุณในช่วงครึ่งปีที่ผ่านมานั้นรู้สึกว่าตัวละครที่คุณพูดคุยด้วยเปลี่ยนไปหรือไม่? เช่นเดียวกับทัศนคติและค่านิยมของพวกเขา สิ่งเหล่านั้นเปลี่ยนไปหรือไม่?
ใช่. ก่อนอื่นฉันคิดว่าคำวิจารณ์ที่สำรวจในบทความนี้ซึ่งมาจากคนจำนวนมากในบริษัทเหล่านี้ ณ จุดนี้ นั่นคืออุตสาหกรรมที่แม้จะมีเดิมพันที่มีอยู่ แต่ก็กำลังลงไปสู่การแข่งขันไปสู่จุดต่ำสุดด้านความปลอดภัย และที่ความเร็วเหนือกว่าสิ่งอื่นใด - ความกังวลนั้นรุนแรงมากขึ้น และฉันคิดว่าข้อกังวลเหล่านั้นได้รับการตรวจสอบมากขึ้นเมื่อผ่านไปครึ่งปีครึ่งแล้ว ในขณะเดียวกัน ทัศนคติเกี่ยวกับ Sam Altman ก็เปลี่ยนไปเป็นพิเศษ เมื่อเราเริ่มพูดคุยกับแหล่งข่าวเกี่ยวกับเรื่องนี้ ผู้คนต่างกลั้นใจจริงๆ ที่ถูกอ้างถึงเกี่ยวกับเรื่องนี้และไปจดบันทึกเกี่ยวกับเรื่องนี้
ในตอนท้ายของการรายงานของเรา คุณจะมีเนื้อหาในการรายงานว่าผู้คนพูดถึงเรื่องนี้อย่างเปิดเผยและชัดเจน และคุณมีสมาชิกในคณะกรรมการที่พูดประมาณว่า "เขาเป็นคนโกหกทางพยาธิวิทยา เขาเป็นคนต่อต้านสังคม" มีมุมมองที่หลากหลายตั้งแต่ “สิ่งนี้เป็นอันตรายเมื่อพิจารณาจากความเสี่ยงด้านความปลอดภัย และเราต้องการผู้นำของเทคโนโลยีนี้ที่มีความซื่อสัตย์สุจริต” ไปจนถึงชอบ “ลืมเรื่องความปลอดภัยไปได้เลย นี่เป็นพฤติกรรมที่ผู้บริหารของบริษัทใหญ่ๆ ไม่สามารถป้องกันได้ ซึ่งมันสร้างความผิดปกติมากเกินไป”
ดังนั้นบทสนทนาจึงมีความชัดเจนมากขึ้นในลักษณะที่อาจล่าช้า แต่ก็น่าชื่นใจในแง่หนึ่ง และแซม อัลท์แมน ต้องให้เครดิตเขาด้วย… งานชิ้นนี้ยุติธรรมมากและยังใจกว้างอีกด้วย ฉันอยากจะบอกว่าสำหรับแซม นี่ไม่ใช่งานประเภทที่มีของ "เข้าใจคุณ" มากมาย ฉันใช้เวลาหลายชั่วโมงทางโทรศัพท์กับเขาในขณะที่เรากำลังทำเรื่องนี้ให้เสร็จและได้ยินเขาพูดจริงๆ
อย่างที่คุณคงจินตนาการได้ ท่อนแบบนี้ไม่ใช่ทุกอย่างที่ลงตัว บางกรณีในท่อนนี้เป็นเพราะผมฟังอย่างจริงใจ และถ้าแซมโต้แย้งจริงๆ ว่าฉันรู้สึกหนักใจ ว่าบางสิ่ง แม้ว่ามันจะเป็นเรื่องจริง ก็อาจเป็นเรื่องอื้อฉาวได้ ฉันก็คิดผิดจริงๆ ที่ต้องรักษาและวัดผลทางนิติเวชนี้ ดังนั้นฉันคิดว่าสิ่งนี้ได้รับการตอบรับอย่างถูกต้อง และฉันแค่หวังว่าบันทึกข้อเท็จจริงที่สะสมในช่วงเวลานี้สามารถกระตุ้นให้เกิดการสนทนาที่ชัดเจนมากขึ้นเกี่ยวกับความจำเป็นในการกำกับดูแล
นั่นเป็นคำถามถัดไปของฉันจริงๆ ฉันคิดว่าคุณได้พูดคุยกับแซมเป็นสิบครั้งในระหว่างการรายงานเรื่องนี้ ขอย้ำอีกครั้งว่าเป็นการสนทนาจำนวนมากในช่วงเวลาที่ยาวนาน คุณคิดว่าแซมเปลี่ยนแปลงไปในระหว่างการรายงานในช่วงครึ่งปีที่ผ่านมาหรือไม่?
ใช่. ฉันคิดว่าแผนย่อยที่น่าสนใจที่สุดประการหนึ่งในเรื่องนี้ก็คือ Sam Altman กำลังพูดถึงคุณลักษณะนี้อย่างชัดเจนมากกว่าที่เขาเคยมีในอดีต ท่าทางของแซมในงานชิ้นนี้ไม่ใช่ว่า “ไม่มีอะไร อยู่ตรงนั้น ไม่จริง ฉันไม่รู้ว่าคุณกำลังพูดถึงอะไร” ทัศนคติที่เขามีคือเขาบอกว่าสิ่งนี้เป็นผลมาจากแนวโน้มที่ผู้คนชื่นชอบและความรังเกียจความขัดแย้ง เขายอมรับว่ามันสร้างปัญหาให้กับเขา โดยเฉพาะอย่างยิ่งในช่วงเริ่มต้นอาชีพของเขา
เขากำลังพูดว่า "เอาล่ะ ฉันกำลังก้าวผ่านเรื่องนั้นไปแล้ว หรือต้องก้าวผ่านเรื่องนั้นไปบ้างแล้ว" ฉันคิดว่าสิ่งที่น่าสนใจจริงๆ สำหรับฉันคือกลุ่มคนที่เราได้พูดคุยด้วยซึ่งไม่ได้เป็นเพียงผู้สนับสนุนด้านความปลอดภัย ไม่ใช่แค่นักวิจัยทางเทคนิคที่อยู่เบื้องหลังซึ่งมักจะมีปัญหาด้านความปลอดภัยเฉียบพลันเหล่านี้ แต่ยังรวมถึงนักลงทุนรายใหญ่ที่จริงจังและจริงจังด้วย พวกเขาเป็นผู้สนับสนุนของ Sam ซึ่งในบางกรณีก็ดูคำถามนี้และพูดคุยเกี่ยวกับการมีบทบาทสำคัญในการกลับมาของเขาหลังการยิง สำหรับคำถามนี้ว่าเขากลับเนื้อกลับตัวแล้วหรือไม่ และการเปลี่ยนแปลงนั้นมีความหมายมากน้อยเพียงใด พวกเขากล่าวว่า "เอาล่ะ เราให้ประโยชน์แก่เขาจากข้อสงสัยในขณะนั้น"
ฉันกำลังคิดถึงนักลงทุนที่มีชื่อเสียงคนหนึ่งที่พูดว่า “แต่ตั้งแต่นั้นมา ดูเหมือนชัดเจนว่าเขาไม่ได้ถูกพาออกไปหลังป่า” ซึ่งเป็นวลีที่คนนี้ใช้เท่าที่จำเป็น ด้วยเหตุนี้ ดูเหมือนว่าตอนนี้จะเป็นลักษณะที่มั่นคงแล้ว เราเห็นสิ่งนี้อย่างต่อเนื่อง คุณสามารถดูธุรกิจที่ใหญ่ที่สุดของ OpenAI ได้ความสัมพันธ์และวิธีที่พวกเขาแบกรับภาระของความไม่ไว้วางใจนั้นอย่างต่อเนื่อง
เช่นเดียวกับ Microsoft คุณได้พูดคุยกับผู้บริหารที่นั่น และพวกเขาก็มีข้อกังวลที่รุนแรงและเพิ่งกระตุ้นให้เกิดข้อกังวลเมื่อเร็วๆ นี้ มีกรณีนี้ที่ในวันเดียวกันกับที่ OpenAI ยืนยันอีกครั้งถึงความพิเศษเฉพาะของตนกับ Microsoft ในส่วนที่เกี่ยวกับโมเดล AI ไร้สัญชาตินั้น ยังได้ประกาศข้อตกลงใหม่กับ Amazon ที่เกี่ยวข้องกับการขายโซลูชันระดับองค์กรสำหรับการสร้างตัวแทน AI ที่เก็บสถานะ ซึ่งหมายความว่าพวกเขามีหน่วยความจำ
คุณพูดคุยกับพนักงานของ Microsoft และพวกเขาก็แบบว่า "นั่นเป็นไปไม่ได้ที่จะทำโดยไม่ต้องโต้ตอบกับสิ่งที่ซ่อนอยู่ซึ่งเรามีข้อตกลงพิเศษเฉพาะตัว" นั่นเป็นเพียงหนึ่งในตัวอย่างเล็กๆ น้อยๆ ที่ลักษณะนี้มีแนวโน้มในกิจกรรมทางธุรกิจที่กำลังดำเนินอยู่ตลอดเวลา และเป็นประเด็นกังวลอย่างแข็งขันภายในคณะกรรมการของ OpenAI ภายในชุดผู้บริหาร และในชุมชนเทคโนโลยีในวงกว้าง
คุณเอาแต่พูดว่า “นิสัย” มีบรรทัดในเรื่องราวที่สำหรับฉันรู้สึกเหมือนเป็นวิทยานิพนธ์ และเป็นคำอธิบายถึงลักษณะที่คุณกำลังอธิบาย “Sam Altman ไม่มีข้อจำกัดจากความจริง” และเขามี “ลักษณะสองประการที่แทบจะไม่เคยเห็นในบุคคลคนเดียวกัน ลักษณะแรกคือความปรารถนาอย่างแรงกล้าที่จะทำให้ผู้คนพอใจ เป็นที่ชื่นชอบในการโต้ตอบใดๆ ก็ตาม และลักษณะที่สองคือการขาดความห่วงใยทางสังคมวิทยาต่อผลที่ตามมาที่อาจเกิดจากการหลอกลวงใครบางคน”
ฉันต้องบอกคุณว่าฉันอ่านประโยคนั้น 500 ครั้ง และฉันพยายามจินตนาการว่ามักจะพูดในสิ่งที่ผู้คนอยากให้ชอบ แล้วไม่อารมณ์เสียเมื่อพวกเขารู้สึกโกหก และฉันไม่สามารถทำให้สภาวะทางอารมณ์ของฉันเข้าใจว่าสิ่งเหล่านั้นมีอยู่ในคนคนเดียวกันได้อย่างไร คุณได้พูดคุยกับแซมมามาก และคุณได้พูดคุยกับผู้คนที่มีคุณสมบัติเหล่านี้ด้วย เขาทำมันได้อย่างไร?
ใช่. สิ่งที่น่าสนใจในระดับมนุษย์เพราะฉันเข้าถึงเนื้อหาที่รายงานในลักษณะนี้โดยเน้นไปที่การทำให้มีมนุษยธรรม ใครก็ตามที่เป็นหัวใจสำคัญของเรื่อง และแสวงหาความเข้าใจอย่างลึกซึ้งและความเห็นอกเห็นใจ เมื่อฉันพยายามเข้าใกล้สิ่งนี้จากมุมมองของมนุษย์มากขึ้นและพูดว่า "เฮ้ นี่คงจะทำลายล้างฉันมากถ้าคนจำนวนมากที่ฉันทำงานด้วยบอกว่าฉันเป็นคนโกหกทางพยาธิวิทยา คุณจะรับน้ำหนักนั้นได้อย่างไร คุณจะพูดถึงสิ่งนั้นในการบำบัดได้อย่างไร เรื่องราวที่คุณบอกตัวเองเกี่ยวกับสิ่งนั้นคืออะไร"
ในมุมมองของฉัน ฉันมีความซ้ำซากจำเจในฝั่งตะวันตกประมาณนั้น "ใช่ ฉันชอบการหายใจ" แต่มีความรู้สึกเผชิญหน้าตัวเองอย่างลึกซึ้งไม่มากเท่าที่ฉันคิดว่าพวกเราหลายคนน่าจะมีหากเราเห็นคำติชมประเภทนี้เกี่ยวกับพฤติกรรมของเราและการปฏิบัติต่อผู้คนของเรา
ฉันคิดว่านั่นเป็นคำตอบที่กว้างกว่าสำหรับคำถามเช่นกัน Sam ยืนยันว่าคุณลักษณะนี้ก่อให้เกิดปัญหา แต่ยังเป็นส่วนหนึ่งของสิ่งที่ช่วยให้เขาสามารถเร่งการเติบโตของ OpenAI ได้มากจนสามารถรวมตัวและเอาใจกลุ่มคนต่างๆ ได้ เขาโน้มน้าวผู้มีสิทธิเลือกตั้งที่ขัดแย้งกันเหล่านี้อย่างต่อเนื่องว่าสิ่งที่พวกเขาสนใจคือสิ่งที่เขาใส่ใจ และนั่นอาจเป็นทักษะที่มีประโยชน์มากสำหรับผู้ก่อตั้ง ฉันได้พูดคุยกับนักลงทุนที่พูดว่า "อาจเป็นทักษะที่มีประโยชน์น้อยกว่าในการดำเนินธุรกิจจริง ๆ เพราะมันทำให้เกิดความขัดแย้งอย่างมาก"
แต่ในด้านส่วนตัวของ Sam ฉันคิดว่าสิ่งที่ฉันได้รับเมื่อพยายามเชื่อมโยงในระดับมนุษย์ก็คือการขาดการเผชิญหน้า การไตร่ตรอง และความรับผิดชอบในตนเองที่ลึกซึ้งยิ่งขึ้น ซึ่งยังแจ้งถึงมหาอำนาจหรือความรับผิดสำหรับบริษัทที่เตรียมพร้อมสำหรับการเสนอขายหุ้น IPO
เขาเป็นคนที่ตามคำพูดของอดีตสมาชิกคณะกรรมการคนหนึ่งชื่อซู ยุน ผู้ซึ่งบันทึกไว้ในผลงานชิ้นนี้ว่าถึงจุดที่ "ไร้ศีลธรรม" คือวลีที่เธอใช้ สามารถเชื่อความจริงที่เปลี่ยนแปลงไปของการขายของเขา หรือสามารถโน้มน้าวตัวเองให้เชื่อสิ่งเหล่านั้นได้ หรืออย่างน้อยถ้าเขาไม่เชื่อพวกเขา เขาก็สามารถที่จะพูดพล่ามผ่านสิ่งเหล่านั้นได้โดยไม่ต้องสงสัยในตัวเองอย่างมีความหมาย
ฉันคิดว่าสิ่งที่คุณกำลังพูดถึง ที่คุณหรือฉันอาจทำแบบนั้น ในขณะที่เรากำลังพูดสิ่งนั้นและตระหนักว่ามันขัดแย้งกับความมั่นใจอื่นๆ ที่เราทำ ก็มีช่วงเวลาหนึ่งที่จะหยุดนิ่งหรือตรวจสอบตัวเอง ฉันคิดว่านั่นจะไม่เกิดขึ้นกับเขา และมีวัฒนธรรมที่แพร่หลายใน Silicon Valley และวัฒนธรรมผู้ก่อตั้งที่กว้างใหญ่ซึ่งครอบคลุมถึงสิ่งนั้น
มันตลกดี The Verge สร้างขึ้นจากจำนวนรีวิวผลิตภัณฑ์โปรแกรม นี่คือหัวใจสำคัญของสิ่งที่เราทำที่นี่ ฉันถือครองฝ่ายวิจัยและพัฒนาของ Apple ไว้ปีละล้านล้านดอลลาร์ และพูดว่า "โทรศัพท์เครื่องนี้อายุเจ็ดขวบ" และมันทำให้การรายงานและความคิดเห็นของเราในที่อื่นทั้งหมดถูกต้องตามกฎหมาย เรามีฟังก์ชันการประเมิน และเราใช้เวลามากมายเพียงแค่ดูผลิตภัณฑ์ AI แล้วพูดว่า "มันใช้งานได้ไหม"
รู้สึกเหมือนขาดหายไปจากการสนทนามากมายเกี่ยวกับ AI ในปัจจุบัน มีการสนทนาไม่รู้จบเกี่ยวกับสิ่งที่สามารถทำได้ และอันตรายแค่ไหน จากนั้นคุณเจาะลึกและพูดว่า “วันนี้ได้ทำสิ่งที่ควรทำจริงหรือ?” ในบางกรณี คำตอบคือใช่ แต่ในหลาย ๆ กรณี คำตอบคือไม่
มันให้ความรู้สึกเหมือนว่ามันเชื่อมโยงกับวัฒนธรรมที่เกินกระแสที่คุณกำลังอธิบาย และยังรวมถึงความรู้สึกที่ว่า ถ้าคุณบอกว่ามันจะทำอะไรบางอย่างแต่มันไม่ได้ผล และมีคนรู้สึกแย่ ก็ไม่เป็นไรเพราะเรากำลังเข้าสู่สิ่งต่อไป นั่นคือในอดีต และโดยเฉพาะอย่างยิ่งในด้าน AI แซมสามารถทำตามสัญญาที่ยิ่งใหญ่ได้ดีมาก
เพียงสัปดาห์นี้ ฉันคิดว่าในวันเดียวกับที่เรื่องราวของคุณเผยแพร่ OpenAI เผยแพร่เอกสารนโยบายที่ระบุว่าเราต้องคิดใหม่เกี่ยวกับสัญญาทางสังคมและได้รับค่าตอบแทนด้านประสิทธิภาพของ AI จากรัฐบาล นี่เป็นคำสัญญาอันยิ่งใหญ่ว่าเทคโนโลยีบางอย่างอาจกำหนดอนาคตของโลกและวิถีชีวิตของเราได้อย่างไร และทั้งหมดนี้ขึ้นอยู่กับเทคโนโลยีที่ทำงานในลักษณะที่บางทีอาจสัญญาว่าจะทำงานหรือควรจะทำงาน
คุณเคยพบว่า Sam สงสัยว่า AI จะกลายเป็น AGI หรือสติปัญญาขั้นสูง หรือกำลังจะไปถึงเส้นชัยหรือไม่? เพราะนั่นคือสิ่งที่ฉันสงสัยมากที่สุด มีการไตร่ตรองว่าเทคโนโลยีหลักนี้สามารถทำทุกสิ่งที่พวกเขาบอกว่าสามารถทำได้หรือไม่?
มันเป็นชุดคำถามที่ถูกต้องจริงๆ มีนักเทคโนโลยีที่น่าเชื่อถือที่เราพูดคุยด้วยในรายงานฉบับนี้ และเห็นได้ชัดว่า Sam Altman ไม่ใช่คนเดียว เขาเป็นนักธุรกิจ เขาบอกว่าวิธีที่ Sam พูดถึงไทม์ไลน์ของเทคโนโลยีนี้ช่างห่างไกลเหลือเกิน มีโพสต์ในบล็อกย้อนกลับไปไม่กี่ปีโดยที่ Sam พูดว่า "เรามาถึงขอบฟ้าของเหตุการณ์แล้ว โดยพื้นฐานแล้ว AGI อยู่ที่นี่แล้ว ความฉลาดล้ำเลิศอยู่ใกล้แค่เอื้อม เราจะไปอยู่บนดาวดวงอื่น เราจะรักษามะเร็งทุกรูปแบบ" จริงๆแล้วฉันไม่ได้ปรุงแต่ง
มะเร็งเป็นเรื่องที่น่าสนใจจริงๆ ที่แซมกำลังหลอกคนที่รักษามะเร็งของสุนัขด้วย ChatGPT ตามทฤษฎี แต่นั่นไม่ได้เกิดขึ้นเลย พวกเขาพูดคุยกับ ChatGPT และนั่นช่วยแนะนำนักวิจัยบางคนที่ทำงานจริง แต่เครื่องมือแบบตัวต่อตัวที่ใช้รักษาสุนัขตัวนี้ไม่ใช่เรื่องราวจริงๆ
ฉันดีใจที่คุณยกประเด็นนั้นขึ้นมาเพราะฉันอยากจะไปยังจุดที่ใหญ่กว่านี้ว่าเมื่อใดที่ทั้งศักยภาพและความเสี่ยงของเทคโนโลยีจะตกเป็นเหยื่อจริงๆ แต่มันก็คุ้มค่าที่จะกล่าวถึงสิ่งเล็กๆ น้อยๆ เหล่านี้ที่เกิดขึ้นตลอดเวลาจาก Sam Altman ซึ่งดูเหมือนว่าเขาจะรวบรวมคุณลักษณะนี้ไว้อีกครั้ง
ฉันหมายถึงว่า ให้ใช้ตัวอย่างรายงานของ WilmerHale ซึ่งเรามีข้อมูลนี้ที่ไม่ได้เขียนเป็นลายลักษณ์อักษร และต้องการทราบว่ามีการมอบบรีฟแบบปากเปล่าระหว่างทางให้กับบุคคลอื่นที่ไม่ใช่สมาชิกคณะกรรมการสองคนที่ Sam ช่วยติดตั้งเพื่อกำกับดูแลหรือไม่ และเขาพูดว่า “ใช่ ใช่ ไม่ใช่ ฉันเชื่อว่ามันถูกมอบให้กับทุกคนที่เข้าร่วมคณะกรรมการหลังจากนั้น” และเรามีผู้รู้เหตุการณ์โดยตรงบอกว่ามันเป็นเรื่องโกหก และดูเหมือนว่าจะเป็นเช่นนั้นจริง ๆ ว่ามันไม่เป็นความจริง ถ้าเราอยากจะมีน้ำใจ บางทีเขาอาจจะให้ข้อมูลผิดไป
มีการรับประกันแบบไม่เป็นทางการเหล่านี้มากมาย และฉันใช้ตัวอย่างนั้นในส่วนหนึ่งเพราะนั่นเป็นตัวอย่างที่ดีของการแยกส่วน ที่อาจส่งผลทางกฎหมายอย่างแท้จริง ภายใต้กฎหมายบริษัทเดลาแวร์ ฉันไม่จำเป็นต้องบอกคุณว่า หากการเสนอขายหุ้น IPO ของบริษัทนี้ ผู้ถือหุ้นสามารถร้องเรียนเกี่ยวกับเรื่องนี้และเรียกร้องเอกสารที่เกี่ยวข้องได้ตามมาตรา 220 มีสมาชิกคณะกรรมการอยู่แล้วที่พูดประมาณว่า “เดี๋ยวก่อน การบรรยายสรุปนั้นน่าจะเกิดขึ้นแล้ว”
ดังนั้นสิ่งเหล่านี้ที่ดูเหมือนจะหลุดออกจากปากของเขาตลอดเวลา สิ่งเหล่านี้สามารถมีผลกระทบต่อการเคลื่อนไหวของตลาดได้อย่างแท้จริง ผลกระทบที่แท้จริงสำหรับ OpenAI หากนำกลับมาใช้ภาษายูโทเปียแบบฮือฮาอีกครั้ง ผมว่าไม่ใช่เรื่องบังเอิญในวันที่งานชิ้นนี้ออก มันกระทบพวกเราทุกคนด้วยเพราะอันตรายนั้นรุนแรงมากเมื่อคำนึงถึงลักษณะที่เป็นการใช้อาวุธ วิธีที่ใช้ในการระบุตัวแทนสงครามเคมี ศักยภาพในการบิดเบือนข้อมูล และเนื่องจากวิธีที่กระแสสังคมยูโทเปียดูเหมือนจะกระตุ้นให้นักเศรษฐศาสตร์ที่น่าเชื่อถือจำนวนมากพูดว่า "นี่คือสัญญาณทั้งหมดของฟองสบู่"
แม้แต่ Sam Altman ยังเคยพูดว่า “มีคนจะสูญเสียเงินจำนวนมากที่นี่” นั่นอาจทำให้เกิดการเติบโตทางเศรษฐกิจในอเมริกาและทั่วโลกได้อย่างมาก หากเกิดฟองสบู่แตกอย่างแท้จริงซึ่งบริษัทเหล่านี้ทั้งหมดทำข้อตกลงร่วมกัน หันมาใช้ AI ในขณะที่ยืมเงินจำนวนมาก ดังนั้นสิ่งที่แซม อัลท์แมนพูดจึงมีความสำคัญ และฉันคิดว่าความมีน้ำใจของคนรอบตัวเขา คุณบอกว่าเราพูดคุยด้วยมากกว่าร้อยคน จริงๆ แล้วมีมากกว่าร้อยคน เราคุยกันที่เส้นชัยประมาณว่า "มันจะน้อยไปหรือเปล่าที่จะบอกว่าตัวเลขที่สูงกว่านี้มาก?" และเราก็แบบว่า "ใช่ มาดูกันดีกว่า เราจะเล่นให้เจ๋ง" แต่มีผู้คนจำนวนมากและคนส่วนใหญ่พูดว่า “นี่เป็นข้อกังวล” และฉันคิดว่านั่นคือทั้งหมดว่าทำไม
ขอถามเรื่องเลขนั้นหน่อยครับ ดังที่คุณกล่าวไว้ ผู้คนเปิดใจมากขึ้นเรื่อยๆ กับข้อกังวลเมื่อเวลาผ่านไป รู้สึกเหมือนความกดดันรอบฟองสบู่ การแข่งขันเพื่อชัยชนะ การชดใช้การลงทุนทั้งหมดนี้ การกลายเป็นผู้ชนะ การเสนอขายหุ้น IPO ได้เปลี่ยนแปลงทัศนคติไปมาก มันสร้างความกดดันให้กับ Sam และ OpenAI มากขึ้นอย่างแน่นอน
เราได้เผยแพร่เรื่องราวในสัปดาห์นี้เกี่ยวกับความรู้สึกของ OpenAI เรื่องราวของคุณเป็นส่วนหนึ่งของเรื่องนี้ แต่การเปลี่ยนแปลงจำนวนพนักงานจำนวนมากในตำแหน่งผู้บริหารของ OpenAI ผู้คนต่างเข้ามาและจากไป นักวิจัยต่างมุ่งหน้าไปยัง Anthropic เป็นหลัก ซึ่งฉันคิดว่าน่าสนใจมาก คุณคงเห็นว่าบริษัทนี้รู้สึกถึงความกดดัน และกำลังตอบสนองต่อความกดดันนั้นในทางใดทางหนึ่ง
แต่แล้วฉันก็นึกย้อนกลับไปที่แซมถูกไล่ออก นี่เป็นเพียงความทรงจำสำหรับฉัน ไม่มีใครน่าจดจำ แต่ฉันรับสายที่สวนสัตว์บรองซ์เวลา 19.00 น. ในวันศุกร์ และมีคนบอกว่าจะพยายามพาแซมกลับมา จากนั้นเราก็ใช้เวลาช่วงสุดสัปดาห์เพื่อไล่ตามเรื่องราวนั้น และฉันก็แบบว่า “ฉันอยู่ที่สวนสัตว์ คุณอยากให้ฉันทำอะไรที่นี่” และคำตอบคือ “ใช้โทรศัพท์ต่อไป” ลูกสาวของฉันก็แบบว่า "ปิดโทรศัพท์ซะ" และนั่นคือสิ่งที่ฉันทำ
จะต้องนั่งรถหรือตายเพื่อพาแซมกลับมา บริษัทนั้นก็ประมาณว่า “ไม่ เราจะไม่ปล่อยให้บอร์ดไล่ Sam Altman ออก” พวกเขาอ้างถึงนักลงทุนในผลงานของคุณว่า "เราไปทำสงคราม" ฉันคิดว่าเป็นตำแหน่งของ Thrive Capital "เพื่อนำแซมกลับมา" ไมโครซอฟต์ทำสงครามเพื่อเอาแซมกลับมา ในเวลาต่อมา และตอนนี้ทุกคนก็แบบว่า “เรากำลังจะเสนอขายหุ้น IPO เราไปถึงเส้นชัยแล้ว เราได้คนของเรากลับมา และเขาจะพาเราไปถึงเส้นชัย เรากังวลว่าเขาเป็นคนโกหก”
ทำไมมันถึงเป็นสงครามที่จะพาเขากลับมา? เพราะดูเหมือนไม่มีอะไรเปลี่ยนแปลงเลยจริงๆ คุณพูดถึงบันทึกที่ Ilya Sutskever และ [Anthropic CEO] Dario Amodei เก็บไว้ในขณะที่พวกเขาเป็นคนรุ่นเดียวกันของ Sam Altman ข้อกังวลอันดับหนึ่งของอิลยาคือแซมเป็นคนโกหก
ไม่มีสิ่งใดที่มีการเปลี่ยนแปลง แล้วเหตุใดจึงต้องทำสงครามเพื่อนำเขากลับมา? และตอนนี้เรามาถึงเส้นชัยแล้ว ดูเหมือนว่าข้อกังวลทั้งหมดจะเปิดเผยออกมาแล้ว
ก่อนอื่นเลย ฉันขอโทษลูกสาวของคุณและคู่ของฉัน และคนอื่นๆ ที่อยู่รอบๆ นักข่าวด้วย
[หัวเราะ] มันเป็นวันหยุดสุดสัปดาห์สำหรับทุกคน
ใช่ มันครอบงำชีวิตของเรา และเรื่องราวนี้ก็ตกเป็นของฉันในช่วงเวลาสุดท้ายนี้ ฉันคิดว่าจริงๆ แล้ว มันเกี่ยวข้องกับธีมของการสื่อสารมวลชนและการเข้าถึงข้อมูลนี้ นักลงทุนที่ทำสงครามเพื่อ Sam และทุกคนต่างมีบทบาทเพื่อให้แน่ใจว่าเขากลับมา และคณะกรรมการที่ได้รับการออกแบบมาเป็นพิเศษเพื่อปกป้องภารกิจขององค์กรไม่แสวงหาผลกำไรในการรักษาความปลอดภัยเหนือการเติบโต และไล่ผู้บริหารหากพวกเขาไม่สามารถไว้วางใจได้ พวกเขาก็จากไป นั่นเป็นเพราะว่า ใช่ มีแรงจูงใจจากตลาดใช่ไหม?
แซมสามารถโน้มน้าวผู้คนได้ว่า “บริษัทกำลังจะล่มสลาย” แต่เหตุผลที่เขาได้รับการสนับสนุนก็เพราะขาดข้อมูล ในหลายกรณี นักลงทุนเหล่านั้นพูดว่า “ฉันมองย้อนกลับไป และฉันคิดว่าฉันควรจะมีข้อกังวลมากกว่านี้หากฉันรู้อย่างถ่องแท้ว่าข้อเรียกร้องคืออะไรและข้อกังวลคืออะไร”
ไม่ใช่ทั้งหมดความคิดเห็นแตกต่างกันไป และเราเสนอความคิดเห็นที่หลากหลาย แต่มีความคิดเห็นที่สำคัญที่ดำเนินการกับข้อมูลเพียงบางส่วน ตามคำพูดของคนๆ หนึ่งที่เคยอยู่บนกระดาน กระดานที่ไล่แซมออกคือ “ร่วมทุนกันมาก” และพวกเขาก็คลำลูกบอลอย่างหนัก และเราบันทึกข้อร้องเรียนที่เกี่ยวข้องไว้ และผู้คนสามารถตัดสินใจได้ด้วยตนเองว่าเรื่องดังกล่าวสะสมอยู่ในความกังวลเร่งด่วนที่พวกเขารู้สึกหรือไม่ แต่ข้อโต้แย้งนั้นและข้อมูลนั้นไม่ได้ถูกนำเสนอ
พวกเขาได้รับสิ่งที่บางคนยอมรับว่าเป็นคำแนะนำทางกฎหมายที่ไม่ดี ในการอธิบาย คุณจะต้องจำคำพูดนั้นได้ และผู้ฟังและผู้ชมจำนวนมากอาจจำคำพูดนั้นได้เนื่องจากขาดน้ำใสใจจริง นั่นคือสิ่งที่ถูกลดขนาดลง จากนั้นพวกเขาก็จะไม่รับสาย
พวกเขาจะไม่รับสาย ฉันแน่ใจว่าคุณพยายามแล้ว ทุกคนที่ฉันรู้จักพยายามแล้ว และมันก็มาถึงจุดที่ในฐานะนักข่าว คุณไม่ควรให้คำแนะนำแหล่งข้อมูลของคุณ แต่ฉันก็แบบว่า “สิ่งนี้จะหมดไปถ้าคุณไม่เริ่มอธิบายตัวเอง”
และนั่นคือสิ่งที่เกิดขึ้น ลืมนักข่าว.. คุณทำให้ Satya Nadella พูดว่า “เกิดอะไรขึ้น ฉันไม่สามารถให้ใครอธิบายให้ฉันฟังได้” และนั่นคือผู้สนับสนุนทางการเงินรายใหญ่ของบริษัท จากนั้นคุณให้ Satya โทรหา [ผู้ร่วมก่อตั้ง LinkedIn] Reid Hoffman และ Reid โทรไปรอบๆ และพูดว่า "ฉันไม่รู้ว่ามันเกิดอะไรขึ้น"
เป็นที่เข้าใจได้ว่าพวกเขากำลังอยู่ในความว่างเปล่า โดยมองหาตัวบ่งชี้ที่ไม่ใช่ AI แบบดั้งเดิมที่จะพิสูจน์ให้เห็นถึงการยิงอย่างเร่งด่วนและกะทันหัน แบบว่า โอเค มันเป็นอาชญากรรมทางเพศหรือเปล่า? เป็นการยักยอกเงินหรือเปล่า? และการโต้แย้งที่ละเอียดอ่อนทั้งหมด แต่ฉันคิดว่ามีความหมาย การโต้แย้งว่าเทคโนโลยีนี้แตกต่าง และการสะสมของการทรยศเล็ก ๆ น้อย ๆ อย่างต่อเนื่องนี้อาจมีส่วนได้ส่วนเสียที่มีความหมายทั้งสำหรับธุรกิจนี้และบางทีสำหรับโลกนั้นหายไปอย่างมาก ดังนั้นแรงจูงใจของทุนนิยมจึงได้รับชัยชนะ แต่คนที่ทำมันออกไปและไม่ได้ดำเนินการด้วยข้อมูลที่สมบูรณ์เสมอไป
ผมอยากถามถึงแง่มุม “ที่ใครๆ ก็คิดว่าเป็น” สักพัก เพราะผมเห็นข่าวนี้แน่นอน ผมก็เลยตอบไปว่า “โอ้ มีเรื่องแย่ๆ เกิดขึ้นแน่ๆ” คุณได้ทำการรายงาน #MeToo มามากมายแล้ว คุณทำลายเรื่องราวของฮาร์วีย์ ไวน์สไตน์
คุณใช้เวลาส่วนใหญ่ในการรายงานคำกล่าวอ้างเหล่านี้ ซึ่งฉันคิดว่าท้ายที่สุดแล้วคุณตัดสินใจว่าไม่มีมูลความจริง: การที่ Altman ล่วงละเมิดทางเพศผู้เยาว์หรือจ้างผู้ให้บริการทางเพศ หรือแม้แต่สังหารผู้แจ้งเบาะแสของ OpenAI ฉันหมายถึงคุณคือคนที่สามารถรายงานเรื่องนี้ได้อย่างเข้มงวดที่สุด คุณตัดสินใจว่ามันไม่มีอะไรเกิดขึ้นหรือไม่?
ดูสิ ฉันไม่ได้อยู่ในธุรกิจที่จะบอกว่ามีบางอย่างที่ไร้ประโยชน์ สิ่งที่ฉันสามารถพูดได้คือฉันใช้เวลาหลายเดือนในการดูการเรียกร้องเหล่านี้และไม่พบข้อยืนยันสำหรับพวกเขา และมันก็น่าทึ่งสำหรับฉันที่คนเหล่านี้ บริษัทเหล่านี้ที่มีอำนาจเหนืออนาคตของเราอย่างมาก กำลังใช้เวลาและทรัพยากรอย่างไม่สมสัดส่วนอย่างแท้จริง ในการต่อสู้โคลนแบบเด็ก ๆ
ผู้บริหารคนหนึ่งเรียกสิ่งนี้ว่า “เช็คสเปียร์” จำนวนเงินของนักสืบเอกชนและเอกสารฝ่ายค้านที่รวบรวมมีอยู่อย่างไม่หยุดยั้ง และสิ่งที่โชคร้ายก็คือสิ่งที่น่ารังเกียจซึ่งคู่แข่งของแซมล้อเลียนนั้นเป็นเพียงความจริงใช่ไหม? มีข้อกล่าวหาว่าเขาติดตามเด็กชายที่ยังไม่บรรลุนิติภาวะ และในงานปาร์ตี้ค็อกเทลหลายแห่งใน Silicon Valley คุณได้ยินสิ่งนี้ ในวงจรการประชุม ฉันได้ยินคำพูดนี้จากผู้บริหารที่มีชื่อเสียงและน่าเชื่อถือว่า “ทุกคนรู้ดีว่านี่เป็นข้อเท็จจริง”
สิ่งที่น่าเศร้าก็คือฉันพูดถึงที่มาของสิ่งนี้ เวกเตอร์ต่างๆ ที่มันถ่ายทอด ดูเหมือนว่า Elon Musk และเพื่อนร่วมงานของเขากำลังผลักดันเอกสารที่ฮาร์ดคอร์จริงๆ ซึ่งแทบไม่มีประโยชน์อะไรเลย สิ่งเหล่านี้จะระเหยออกไปเมื่อคุณเริ่มดูข้อเรียกร้องที่แท้จริง สิ่งที่น่าเศร้าก็คือ มันบดบังการวิพากษ์วิจารณ์ตามหลักฐานมากกว่าที่นี่ ซึ่งฉันคิดว่าสมควรได้รับการดูแลและพิจารณาอย่างเร่งด่วนจริงๆ
อีกประเด็นหนึ่งที่เกิดขึ้นจริงในเรื่องนี้เกือบจะเป็นความรู้สึกกลัวที่ Sam มีเพื่อนมากมาย เขาลงทุนในบริษัทมากมายตั้งแต่ตำแหน่ง CEO ของ Y Combinator ก่อนหน้านี้ ไปจนถึงการลงทุนส่วนตัว ซึ่งบางบริษัทขัดแย้งโดยตรงกับบทบาทของเขาในฐานะ CEO ของ OpenAI และมีความเงียบอยู่รอบตัวเขา
มันทำให้ฉันทึ่งในขณะที่ฉันกำลังอ่านบรรทัดหนึ่งโดยเฉพาะ คุณอธิบายบันทึกของ Ilya Sutskever และเพิ่งเผยแพร่ใน Silicon Valley ทุกคนเรียกพวกเขาว่าบันทึกช่วยจำของอิลยา แต่ก็มีความเงียบอยู่รอบนั้น ผ่านไปแล้วแต่ไม่ได้พูดคุยกัน คุณคิดว่ามันมาจากไหน? มันคือความกลัวเหรอ? เป็นความปรารถนาที่จะได้รับการลงทุนจากนางฟ้าหรือไม่? มันมาจากไหน?
ฉันคิดว่ามันขี้ขลาดมาก ฉันจะซื่อสัตย์ มีการรายงานเรื่องราวความมั่นคงแห่งชาติโดยที่แหล่งข่าวเป็นผู้แจ้งเบาะแสที่ยอมสูญเสียทุกสิ่งและถูกดำเนินคดี พวกเขายังคงทำสิ่งที่ถูกต้องและพูดถึงสิ่งต่าง ๆ เพื่อสร้างความรับผิดชอบ ฉันเคยทำงานเกี่ยวกับเรื่องราวที่เกี่ยวข้องกับอาชญากรรมทางเพศที่คุณกล่าวถึง ซึ่งมีแหล่งข่าวที่บอบช้ำทางจิตใจอย่างลึกซึ้งและกลัวว่าจะถูกลงโทษเป็นการส่วนตัว
ในหลายกรณีในช่วงเวลานี้ คุณกำลังติดต่อกับผู้คนที่มีโปรไฟล์และอำนาจเป็นของตัวเอง พวกเขาเป็นคนที่มีชื่อเสียงหรือถูกรายล้อมไปด้วยคนดัง พวกเขามีชีวิตทางธุรกิจที่แข็งแกร่ง ในความคิดของฉัน จริงๆ แล้วพวกเขาเปิดรับคนพูดเกี่ยวกับเรื่องนี้น้อยมาก และโชคดีที่เข็มกำลังเคลื่อนไหวอย่างที่เราพูดถึงก่อนหน้านี้ และตอนนี้ผู้คนก็พูดคุยกันมากขึ้น
แต่เป็นเวลานานมากแล้วที่ผู้คนปิดปากเรื่องนี้จริงๆ เพราะฉันคิดว่าวัฒนธรรมของ Silicon Valley ให้ความสำคัญกับตนเองอย่างไร้ความปรานีและมุ่งเน้นธุรกิจและการเติบโตอย่างไร้ความปรานี ดังนั้น ฉันคิดว่าสิ่งนี้สร้างความเจ็บปวดให้กับคนบางคนที่เกี่ยวข้องกับการไล่แซมออก ซึ่งคุณคงเห็นในวันถัดมา ใช่ ปัจจัยหนึ่งที่ทำให้เขากลับมาและการไล่สมาชิกคณะกรรมการเก่าออกก็คือ เขารวบรวมนักลงทุนที่สับสนกับสาเหตุของเขา
แต่อีกประการหนึ่งคือคนอื่นๆ จำนวนมากที่อยู่รอบๆ ที่มีความเป็นกังวลและเปล่งเสียงให้พวกเขาอย่างเร่งด่วนก็แค่พับเหมือนผ้าเช็ดปากและเปลี่ยนทำนองทันทีที่พวกเขาเห็นลมพัดไปทางอื่น และพวกเขาต้องการขึ้นรถไฟแห่งผลกำไร
พูดตามตรงนะ มันค่อนข้างมืดมนในมุมมองของฉันในฐานะนักข่าว
คนเหล่านั้นบางคนคือ Mira Murati ซึ่งฉันเชื่อว่าเป็นเวลา 20 นาทีเป็น CEO คนใหม่ของ OpenAI จากนั้นเธอก็ถูกแทนที่ มันเป็นไดนามิกที่ซับซ้อนมากและเห็นได้ชัดว่าแซมกลับมา อีกคนคือ Ilya Sutskever ซึ่งเป็นหนึ่งในผู้โหวตให้ถอด Sam ออก จากนั้นเขาก็เปลี่ยนใจ หรืออย่างน้อยก็บอกว่าเขาเปลี่ยนใจ จากนั้นเขาก็ออกไปตั้งบริษัทของตัวเอง คุณรู้ไหมว่าอะไรทำให้เขาเปลี่ยนใจ? มันเป็นแค่เงินเหรอ?
และเพื่อความชัดเจน ฉันไม่ได้แยกสองคนนั้นออกไป มีสมาชิกคณะกรรมการคนอื่นๆ ที่เกี่ยวข้องกับการยิงซึ่งก็เงียบไปเช่นกัน ฉันคิดว่ามันเหมือนกับปัญหาส่วนรวมในวงกว้าง ในบางกรณี บุคคลเหล่านี้มีศีลธรรมที่จะส่งเสียงเตือนและดำเนินการที่รุนแรง และนั่นเป็นสิ่งที่น่ายกย่อง และนั่นคือวิธีที่คุณรับประกันความรับผิดชอบ นั่นอาจช่วยผู้คนจำนวนมากที่ได้รับผลกระทบจากเทคโนโลยีนี้ได้ อาจช่วยให้อุตสาหกรรมยังคงมุ่งเน้นด้านความปลอดภัยอย่างมีความหมายมากขึ้น
แต่ในการจัดการกับผู้แจ้งเบาะแสและผู้ที่พยายามกระตุ้นความรับผิดชอบนั้นบ่อยครั้ง คุณยังเห็นว่าต้องใช้ความพยายามในการยืนหยัดต่อความเชื่อมั่นของคุณ และอุตสาหกรรมนี้เต็มไปด้วยผู้คนที่ไม่ยืนหยัดต่อความเชื่อมั่นของตน
แม้ว่าพวกเขาจะคิดว่าพวกเขากำลังสร้างพระเจ้าดิจิทัลที่จะกำจัดแรงงานทั้งหมดหรือสร้างแรงงานมากขึ้น ไม่เช่นนั้นจะมีบางอย่างเกิดขึ้น
นั่นคือสิ่งที่ ดังนั้นวัฒนธรรมของการไม่ยืนหยัดต่อความเชื่อมั่นของคุณและข้อกังวลด้านจริยธรรมทั้งหมดที่ตกอยู่ข้างทางในขณะที่มีความร้อนแรงหรืออะไรก็ตามที่อาจคุกคามจุดยืนของคุณในธุรกิจนั้นอาจจะดีและดีในระดับหนึ่งสำหรับบริษัทที่ดำเนินธุรกิจตามปกติซึ่งกำลังสร้างวิดเจ็ตประเภทใดก็ตาม
แต่คนเหล่านี้ก็เป็นคนกลุ่มเดียวกับที่พูดว่า "นี่อาจฆ่าพวกเราทุกคนอย่างแท้จริง" และขอย้ำอีกครั้งว่าคุณไม่จำเป็นต้องไปที่ Terminator Skynet extreme มีความเสี่ยงชุดหนึ่งกำลังเกิดขึ้นแล้ว มันเป็นเรื่องจริง และพวกเขามีสิทธิ์ที่จะเตือนเกี่ยวกับเรื่องนั้น แต่คุณต้องมีเก้าอี้เท้าแขนคนอื่นมาวิเคราะห์ทางจิตวิทยาว่าทั้งสองสิ่งนี้สามารถอยู่ในคนเดียวกันได้อย่างไร โดยที่พวกเขาส่งเสียงเตือนเร่งด่วน พวกเขาอาจจะเข้ามาแล้วพยายามทำอะไรสักอย่าง แล้วพวกเขาก็หมอบลงและเงียบไป
นั่นเป็นเหตุผลว่าทำไมคุณถึงสามารถเก็บเรื่องพวกนี้ไว้ไม่ให้เขียนและเรื่องต่างๆ ถูกซุกไว้ใต้พรม และไม่มีใครพูดถึงเรื่องนี้อย่างเปิดเผยมานานหลายปีหลังจากข้อเท็จจริง
บุคคลที่มีความรับผิดชอบโดยธรรมชาติในที่นี้จะไม่ใช่ซีอีโอของบริษัทเหล่านี้ มันจะเป็นรัฐบาล ในสหรัฐอเมริกาอาจจะเป็นรัฐบาลของรัฐ อาจเป็นรัฐบาลกลาง
แน่นอนว่าบริษัทเหล่านี้ล้วนต้องการก้าวไปสู่ระดับโลก มีผลกระทบระดับโลกมากมายที่นี่ ฉันดู OpenAI, Google และ Anthropic ต่างกระตุ้นฝ่ายบริหารของ Biden ให้ออกคำสั่งผู้บริหาร AI สุดท้ายมันก็ไร้ฟันอยู่ดี เพียงบอกว่าพวกเขาต้องพูดคุยเกี่ยวกับความสามารถของโมเดลของตนและเปิดตัวการทดสอบความปลอดภัย จากนั้นพวกเขาทั้งหมดก็สนับสนุนทรัมป์ และทรัมป์ก็เข้ามาและกวาดล้างทุกสิ่งออกไปแล้วพูดว่า “เราจะต้องแข่งขันได้ มันเป็นเกมที่เสรีสำหรับทุกคน ลงมือเลย”
ในเวลาเดียวกัน พวกเขาทั้งหมดพยายามที่จะระดมทุนจากประเทศในตะวันออกกลางที่มีเงินน้ำมันจำนวนมากและต้องการเปลี่ยนแปลงเศรษฐกิจของพวกเขา เหล่านั้นคือนักการเมือง ฉันรู้สึกว่านักการเมืองควรเข้าใจอย่างแน่นอนว่ามีใครบางคนพูดออกมาจากปากทั้งสองข้างของพวกเขา และพวกเขาก็จะไม่เสียใจเกินไปหากใครบางคนผิดหวังในท้ายที่สุด แต่นักการเมืองก็ถูกพาตัวไปนั่งรถเช่นกัน ทำไมคุณถึงคิดว่าเป็นเช่นนั้น?
ฉันคิดว่านี่คือเหตุผลจริงๆ ว่าทำไมงานชิ้นนี้จึงมีความสำคัญในมุมมองของฉัน และเหตุใดจึงคุ้มค่าที่จะใช้เวลาและรายละเอียดทั้งหมดนี้ เราอยู่ในสภาพแวดล้อมที่ระบบต่างๆ ที่ควรให้การกำกับดูแลนั้นพังทลายลงอย่างที่คุณพูด นั่นคือประเทศหลังพลเมืองของอเมริกา ซึ่งการไหลเวียนของเงินไม่มีข้อจำกัด และเป็นปัญหาเฉพาะของ AI ซึ่งมี PAC เหล่านี้ที่กำลังแพร่ขยายและหลั่งไหลเงินไปสู่การล้มล้างกฎระเบียบที่มีความหมายทั้งในระดับรัฐและรัฐบาลกลาง
คุณมี [ผู้ร่วมก่อตั้ง OpenAI] Greg Brockman ซึ่งเป็นผู้บังคับบัญชาคนที่สองของ Sam ซึ่งมีส่วนโดยตรงในแนวทางหลักในสองสามประการ มันนำไปสู่สถานการณ์ที่มีการจับกุมสมาชิกสภานิติบัญญัติและผู้กำกับดูแลที่มีศักยภาพจริงๆ และนั่นเป็นเรื่องยากที่จะหลบหนี สิ่งที่น่าเศร้าคือ ฉันคิดว่ามีการเคลื่อนไหวทางนโยบายง่ายๆ ซึ่งบางส่วนกำลังถูกทดลองที่อื่นในโลก ซึ่งจะช่วยแก้ไขปัญหาความรับผิดชอบเหล่านี้ได้
คุณอาจมีการทดสอบความปลอดภัยก่อนการปรับใช้งานที่บังคับมากกว่านี้ ซึ่งเป็นสิ่งที่เกิดขึ้นแล้วในยุโรปสำหรับรุ่นชายแดน คุณอาจมีข้อกำหนดบันทึกสาธารณะที่เป็นลายลักษณ์อักษรที่เข้มงวดมากขึ้นสำหรับการสืบสวนภายในประเภทต่างๆ ซึ่งเราเห็นว่าสิ่งต่าง ๆ ไม่ได้รับการเขียนในกรณีนี้ คุณอาจมีชุดกลไกการตรวจสอบความมั่นคงของชาติที่แข็งแกร่งมากขึ้นสำหรับความทะเยอทะยานด้านโครงสร้างพื้นฐานของตะวันออกกลางที่ Sam Altman กำลังผลักดัน
อย่างที่คุณพูด เขากำลังทำเหยื่อล่อนี้และเปลี่ยนมาใช้ฝ่ายบริหารของ Biden โดยพูดว่า “ควบคุมเรา ควบคุมเรา” และช่วยพวกเขาสร้างคำสั่งของผู้บริหาร จากนั้นช่วงเวลาที่ทรัมป์เข้ามาอย่างแท้จริงในวันแรก ๆ โดยไม่มีข้อ จำกัด “มาเร่งความเร็วและสร้างวิทยาเขตศูนย์ข้อมูลขนาดใหญ่ในอาบูดาบีกันเถอะ” คุณน่าจะทำได้ นี่เป็นวิธีง่ายๆ จริงๆ เช่น การคุ้มครองผู้แจ้งเบาะแส ไม่มีกฎหมายของรัฐบาลกลางที่คุ้มครองพนักงานบริษัท AI ที่เปิดเผยข้อกังวลด้านความปลอดภัยประเภทนี้ที่ออกอากาศในบทความนี้
เรามีกรณีที่ Jan Leike ซึ่งเป็นเจ้าหน้าที่รักษาความปลอดภัยอาวุโสของ OpenAI เป็นผู้นำการจัดตำแหน่งขั้นสูงในบริษัท เขาเขียนถึงคณะกรรมการ โดยพื้นฐานแล้วคือเนื้อหาของผู้แจ้งเบาะแส โดยกล่าวว่าบริษัทกำลังออกจากเส้นทางในภารกิจด้านความปลอดภัย คนเหล่านี้คือคนประเภทที่ควรจะมีหน่วยงานกำกับดูแลที่พวกเขาสามารถเข้าไปได้ และพวกเขาควรได้รับความคุ้มครองตามกฎหมายที่ชัดเจนเหมือนกับที่เราเห็นในภาคส่วนอื่นๆ นี่เป็นเรื่องง่ายที่จะจำลองระบอบการปกครองสไตล์ Sarbanes-Oxley
ฉันคิดว่าแม้ว่าปัญหาจะรุนแรงแค่ไหนใน Silicon Valley โดยสมมติว่าสามารถควบคุมอำนาจทั้งหมดได้ และแม้ว่าสถาบันบางแห่งที่อาจจัดให้มีการกำกับดูแลและรั้วจะกลวงแค่ไหน แต่ฉันยังคงเชื่อในคณิตศาสตร์พื้นฐานของประชาธิปไตยและนักการเมืองที่สนใจตนเอง และมีข้อมูลการสำรวจมากขึ้นเรื่อยๆ ที่ชาวอเมริกันส่วนใหญ่คิดว่าข้อกังวล คำถาม หรือความเสี่ยงของ AI ในปัจจุบันมีมากกว่าประโยชน์ที่ได้รับ
ดังนั้นฉันคิดว่าเงินจำนวนมากเข้าสู่การเมืองจาก AI มันอยู่ในอำนาจทั้งหมดของเราที่จะสร้างแหล่งที่มาของเครื่องหมายคำถามเกี่ยวกับนักการเมือง เมื่อชาวอเมริกันไปลงคะแนนเสียง พวกเขาควรพิจารณาว่าคนที่พวกเขาลงคะแนนให้โดยเฉพาะอย่างยิ่งหากพวกเขาไม่มีวิพากษ์วิจารณ์และต่อต้านกฎระเบียบ เมื่อพิจารณาถึงข้อกังวลทั้งหมดนี้ ได้รับการสนับสนุนจากผลประโยชน์พิเศษด้านเทคโนโลยีขนาดใหญ่หรือไม่ ดังนั้นผมคิดว่าหากผู้คนสามารถอ่านเนื้อหาประเภทนี้ ฟังพอดแคสต์ประเภทนี้ และใส่ใจมากพอที่จะคิดอย่างมีวิจารณญาณการตัดสินใจในฐานะผู้มีสิทธิเลือกตั้ง ถือเป็นโอกาสที่แท้จริงในการสร้างเขตเลือกตั้งในวอชิงตันของผู้แทนที่คอยจับตาดูและบังคับกำกับดูแล
นั่นอาจเป็นหนึ่งในแง่ดีที่สุดที่ฉันเคยได้ยินใครพูดถึงเกี่ยวกับอุตสาหกรรม AI ในปัจจุบัน ฉันซาบซึ้งมาก ฉันหมกมุ่นอยู่กับการเลือกตั้งที่คุณกำลังพูดถึง ตอนนี้มีเยอะมาก ทุกอย่างค่อนข้างสอดคล้องกัน และดูเหมือนว่ายิ่งคนหนุ่มสาวได้สัมผัสกับ AI มากขึ้นเท่าไร พวกเขาก็จะยิ่งไม่ไว้วางใจและโกรธเคืองกับมันมากขึ้นเท่านั้น นั่นคือความจุของการเลือกตั้งทั้งหมด และฉันก็มองดูสิ่งนั้น และฉันก็คิดว่า ใช่แล้ว นักการเมืองที่ฉลาดคงจะต่อต้านเรื่องนั้น พวกเขาแค่พูดว่า "เราจะรับผิดชอบต่อเทคโนโลยีรายใหญ่"
จากนั้นฉันก็นึกถึงช่วง 20 ปีที่ผ่านมา นักการเมืองคนหนึ่งบอกว่าพวกเขาจะรับผิดชอบต่อเทคโนโลยีขนาดใหญ่ และฉันกำลังดิ้นรนเพื่อค้นหาแม้แต่ช่วงเวลาหนึ่งที่เทคโนโลยีขนาดใหญ่ต้องรับผิดชอบ สิ่งเดียวที่ทำให้ฉันคิดว่าสิ่งนี้อาจจะแตกต่างออกไป ก็คือ คุณต้องสร้างศูนย์ข้อมูลจริงๆ และคุณสามารถลงคะแนนคัดค้านสิ่งนั้นได้ และคุณสามารถยื่นคำร้องต่อต้านสิ่งนั้น และคุณสามารถประท้วงต่อต้านสิ่งนั้นได้
ฉันคิดว่ามีนักการเมืองคนหนึ่งที่เพิ่งถูกโจมตีเพราะพวกเขาโหวตให้ศูนย์ข้อมูล ความตึงเครียดกำลังมาถึง เรียกได้ว่าเป็นไข้เลยทีเดียว คุณได้อธิบายความโดดเดี่ยวของ Silicon Valley แล้ว นี่คือระบบนิเวศแบบปิด รู้สึกเหมือนพวกเขาคิดว่าพวกเขาสามารถครองโลกได้ พวกเขากำลังทุ่มเงินมหาศาลในการเมือง และพวกเขากำลังเผชิญกับความจริงที่ว่าผู้คนไม่ได้ชอบผลิตภัณฑ์ ซึ่งไม่ได้ปกปิดพวกเขามากนัก ยิ่งพวกเขาใช้ผลิตภัณฑ์มากเท่าไร พวกเขาก็ยิ่งไม่พอใจมากขึ้นเท่านั้น และนักการเมืองก็เริ่มเห็นว่าการสนับสนุนอุตสาหกรรมเทคโนโลยีมีผลกระทบอย่างแท้จริงต่อผู้คนที่พวกเขาเป็นตัวแทน
คุณได้พูดคุยกับผู้คนมากมาย คุณคิดว่าเป็นไปได้ไหมที่อุตสาหกรรมเทคโนโลยีจะเรียนรู้บทเรียนที่อยู่ตรงหน้าพวกเขา เพราะเหตุใด
คุณบอกว่ารู้สึกเหมือนพวกเขาคิดว่าพวกเขาสามารถบริหารโลกได้โดยไม่ต้องรับผิดชอบ ฉันไม่คิดว่าจำเป็นต้องมีคุณสมบัติ "รู้สึกเหมือน" ฉันหมายความว่าคุณดูภาษาที่ Peter Thiel ใช้สิ มันชัดเจน แน่นอนว่านั่นคือตัวอย่างสุดขั้ว และแซม อัลท์แมน แม้ว่าเขาจะสนิทสนมและได้รับความรู้จากอุดมการณ์ของธีลบ้าง แต่ก็เป็นคนประเภทที่แตกต่างออกไปมากที่อาจฟังดูแตกต่างและวัดผลได้มากกว่า
แต่ฉันคิดว่าอุดมการณ์ที่กว้างขึ้นที่คุณได้รับจาก Thiel ซึ่งโดยพื้นฐานแล้ว: เรายุติระบอบประชาธิปไตยแล้ว เราไม่ต้องการมันอีกต่อไป เรามีอะไรมากมายจนอยากจะสร้างบังเกอร์เล็กๆ ของตัวเองขึ้นมา เราไม่ได้ติดต่อกับครอบครัว Carnegies หรือ Rockefellers อีกต่อไป ซึ่งพวกเขาเป็นคนเลว แต่พวกเขารู้สึกว่าจำเป็นต้องมีส่วนร่วมในสัญญาทางสังคมและสร้างสิ่งต่างๆ เพื่อผู้คน มีการทำลายล้างที่แท้จริงเกิดขึ้น
และฉันคิดว่ามันเป็นแค่เกลียวคลื่นที่เสริมกำลังร่วมกันในประวัติศาสตร์อเมริกาเมื่อเร็ว ๆ นี้เกี่ยวกับเจ้าพ่อและบริษัทเอกชนที่ได้รับอำนาจจากรัฐบาลขั้นสูง ในขณะที่สถาบันประชาธิปไตยที่อาจทำให้พวกเขาต้องรับผิดชอบกลับถูกกลวงออกไป ฉันไม่ได้มองโลกในแง่ดีกับความคิดที่ว่าสักวันหนึ่งคนพวกนั้นอาจจะตื่นขึ้นมาแล้วคิดว่า “อืม จริงๆ แล้วเราอาจจะต้องมีส่วนร่วมในสังคมและช่วยสร้างสิ่งต่างๆ ให้กับผู้คน”
ฉันหมายถึง คุณดูเหมือนกับตัวอย่างระดับจุลภาคของ The Giving Pledge ซึ่งมีช่วงเวลาที่ดูเหมือนว่าจะเป็นการกุศล และช่วงเวลานั้นผ่านไปแล้วและแม้กระทั่งถูกเยาะเย้ยด้วยซ้ำ นั่นคือปัญหา ปัญหาที่กว้างขึ้นของการขาดความรับผิดชอบที่ฉันคิดว่าสามารถแก้ไขได้จากภายนอกเท่านั้น นั่นจะต้องเป็นผู้ลงคะแนนเสียงที่ระดมและรื้อฟื้นอำนาจการกำกับดูแลของรัฐบาล และคุณพูดถูกจริงๆ ที่จะบอกว่าเวกเตอร์หลักที่ผู้คนสามารถทำได้นั้นคือเวกเตอร์ในท้องถิ่น มันเกี่ยวข้องกับสถานที่ที่มีการสร้างโครงสร้างพื้นฐาน
คุณพูดถึงความตึงเครียดที่ร้อนแรงซึ่งนำไปสู่ความรุนแรงและการคุกคาม และแน่นอนว่าไม่มีใครควรใช้ความรุนแรงหรือข่มขู่ และฉันไม่ได้มาที่นี่เพื่อให้คำแนะนำด้านนโยบายที่เฉพาะเจาะจง นอกเหนือจากการนำเสนอขั้นตอนนโยบายบางอย่างที่ดูเหมือนเป็นพื้นฐานและกำลังทำงานอยู่ที่อื่นในโลกใช่ไหม หรือผู้ที่เคยทำงานในภาคอื่นๆ ฉันไม่ได้มาที่นี่เพื่อบอกว่าควรประหารชีวิตอันไหนและอย่างไร
ฉันคิดว่าต้องมีอะไรบางอย่างเกิดขึ้น และมันจำเป็นต้องเกิดขึ้นจากภายนอก ไม่ใช่แค่เชื่อใจบริษัทเหล่านี้ เพราะถูกแล้วตอนนี้เรามีสถานการณ์ที่บริษัทต่างๆ ที่กำลังพัฒนาเทคโนโลยีและพร้อมที่สุดที่จะเข้าใจความเสี่ยง และในความเป็นจริงคือบริษัทที่เตือนเราถึงความเสี่ยง ก็เป็นบริษัทที่ไม่มีแรงจูงใจให้ดำเนินการอย่างรวดเร็วและเพิกเฉยต่อความเสี่ยงเหล่านั้น และคุณไม่มีอะไรที่จะถ่วงดุลสิ่งนั้นได้ ดังนั้นไม่ว่าการปฏิรูปใดจะเกิดขึ้นในแง่ของความเฉพาะเจาะจง จะต้องมีบางสิ่งบางอย่างที่ขัดขวางสิ่งนั้น และฉันยังคงกลับไปสู่การมองโลกในแง่ดีว่าผู้คนยังคงมีความสำคัญ
ฉันมักจะซื้อข้อโต้แย้งของคุณ ฉันขอโต้แย้งข้อโต้แย้งเล็กๆ น้อยๆ ข้อหนึ่งที่ฉันคิดว่าฉันสามารถพูดได้อย่างชัดเจน อีกสิ่งหนึ่งที่อาจเกิดขึ้นนอกกล่องลงคะแนนก็คือ ฟองสบู่แตก ใช่ไหม? ไม่ใช่ทุกบริษัทที่จะไปถึงเส้นชัย และไม่มีตลาดผลิตภัณฑ์ที่เหมาะกับแอปพลิเคชัน AI สำหรับผู้บริโภค ขอย้ำอีกครั้งว่าฉันยังไม่ค่อยเห็นสิ่งนี้ แต่ฉันเป็นผู้ตรวจสอบเทคโนโลยีสำหรับผู้บริโภค และบางทีฉันอาจมีมาตรฐานที่สูงกว่าคนอื่นๆ
มีตลาดสินค้าที่เหมาะกับโลกธุรกิจใช่ไหม? การมีตัวแทน AI จำนวนมากเขียนซอฟต์แวร์จำนวนมากดูเหมือนจะเป็นตลาดที่แท้จริงสำหรับเครื่องมือเหล่านี้ และคุณสามารถอ่านข้อโต้แย้งจากบริษัทเหล่านี้ได้ว่า “เราได้แก้ไขการเขียนโค้ดแล้ว และนั่นหมายความว่าเราสามารถแก้ไขอะไรก็ได้ หากเราสร้างซอฟต์แวร์ได้ เราก็สามารถแก้ไขปัญหาใดๆ ก็ได้”
ฉันคิดว่ามีข้อจำกัดที่แท้จริงสำหรับสิ่งที่ซอฟต์แวร์สามารถทำได้ นั่นเป็นสิ่งที่ยอดเยี่ยมในโลกธุรกิจ ซอฟต์แวร์ไม่สามารถแก้ปัญหาทุกอย่างได้ในความเป็นจริง แต่พวกเขาจะต้องไปถึงที่นั่น พวกเขาต้องทำงานให้เสร็จ และไม่ใช่ทุกคนที่จะถึงเส้นชัย และเกิดความผิดพลาดขึ้น และฟองสบู่แตก และอาจเป็น OpenAI หรือ Anthropic หรือ xAI หนึ่งในบริษัทเหล่านี้ที่ล้มเหลว และการลงทุนทั้งหมดนี้ก็หายไป
คุณคิดว่ามันจะส่งผลกระทบต่อเรื่องนี้หรือไม่? จริงๆแล้วผมขอถามคำถามแรกก่อนนะครับ OpenAI อยู่ในจุดสูงสุดของการเสนอขายหุ้น IPO มีข้อสงสัยมากมายเกี่ยวกับแซมในฐานะผู้นำ คุณคิดว่าพวกเขาจะไปถึงเส้นชัยหรือไม่?
ฉันจะไม่พยากรณ์โรค แต่ฉันคิดว่าคุณยกประเด็นสำคัญขึ้นมา ซึ่งก็คือแรงจูงใจของตลาดมีความสำคัญภายใน Silicon Valley และความล่อแหลมของการเปลี่ยนแปลงของฟองสบู่ในปัจจุบันก็ขัดขวางอีกครั้ง ตามที่นักวิจารณ์อาจแข่งขันกันที่จุดต่ำสุดด้านความปลอดภัย
นอกจากนี้ ฉันยังจะเพิ่มเข้าไปอีกว่า หากคุณดูลำดับความสำคัญในอดีตซึ่งมีชุดสิ่งจูงใจของตลาดที่คล้ายคลึงกันและดูเหมือนจะเข้าถึงไม่ได้ และอาจส่งผลเสียต่อสาธารณะ ก็จะมีการดำเนินคดีที่กระทบกระเทือน และคุณเห็นว่านั่นเป็นประเด็นที่น่ากังวลในช่วงนี้ สัปดาห์นี้ Sam Altman ออกมารับรองกฎหมายที่จะปกป้องบริษัท AI จากความรับผิดบางประเภทที่ OpenAI เผชิญในคดีฟ้องร้องโดยมิชอบ เป็นต้น แน่นอนว่ามีความปรารถนาที่จะได้รับความคุ้มครองจากความรับผิด
ฉันคิดว่าศาลยังคงเป็นกลไกที่มีความหมายได้ และจะน่าสนใจมากที่จะเห็นว่าชุดเหล่านี้มีรูปร่างอย่างไร ตัวอย่างเช่น คุณได้เห็นแล้วว่าการฟ้องร้องในชั้นเรียนซึ่งฉันและนักเขียนคนอื่นๆ อีกหลายคนที่ฉันรู้ว่าเป็นสมาชิก ได้ฟ้องร้องกลุ่ม Anthropic จากการใช้หนังสือที่อยู่ภายใต้ลิขสิทธิ์ หากมีนักกฎหมายและโจทก์ที่ชาญฉลาดที่ใส่ใจ ดังที่เราเคยพบเห็นในอดีตในกรณีต่างๆ ตั้งแต่ยาสูบรายใหญ่ไปจนถึงพลังงานมหาศาล คุณยังอาจได้รับราวกั้นและสิ่งจูงใจบางประการในการชะลอตัว ระมัดระวัง หรือปกป้องผู้คนในลักษณะนั้น
รู้สึกว่าโครงสร้างต้นทุนทั้งหมดของอุตสาหกรรม AI ขึ้นอยู่กับการตีความการใช้งานโดยชอบอย่างการกุศล ขึ้นมาไม่พอ โครงสร้างต้นทุนของบริษัทเหล่านี้อาจลุกลามจนควบคุมไม่ได้หากพวกเขาต้องจ่ายเงินให้คุณและคนอื่นๆ ที่ทำงานที่พวกเขารับไป แต่มันไม่สะดวกที่จะคิด ดังนั้นเราจึงไม่คิดถึงเรื่องนี้ ถัดจากนั้นผลิตภัณฑ์ทั้งหมดเหล่านี้กำลังขาดทุน เช่นเดียวกับวันนี้ พวกเขาทั้งหมดกำลังขาดทุน พวกเขากำลังเผาเงินมากกว่าที่พวกเขาสามารถทำได้ เมื่อถึงจุดหนึ่งพวกเขาก็ต้องพลิกสวิตช์
แซมเป็นนักธุรกิจ ดังที่คุณได้กล่าวไปแล้วหลายครั้ง เขาไม่ใช่นักเทคโนโลยี เขาเป็นนักธุรกิจ คุณคิดว่าเขาพร้อมที่จะพลิกสวิตช์แล้วพูดว่า "เราจะทำเงินได้หนึ่งดอลลาร์" เพราะเมื่อฉันถามว่า “คุณคิดว่า OpenAI จะทำได้หรือไม่” ถึงเวลาที่พวกเขาต้องทำเงินหนึ่งดอลลาร์ จนถึงตอนนี้ Sam สร้างรายได้ทั้งหมดจากการขอเงินจากคนอื่น แทนที่จะให้บริษัทของเขาทำเงิน
นั่นเป็นคำถามใหญ่ที่ยังคงค้างคาใจสำหรับ Silicon Valley สำหรับนักลงทุน และสาธารณะคุณเห็นข้อความบางอย่างและย้ายออกจาก OpenAI ซึ่งดูเหมือนจะแสดงความตื่นตระหนกเกี่ยวกับเรื่องนั้น ปิดตัว Sora ปิดโปรเจ็กต์เสริมบางโปรเจ็กต์ โดยพยายามให้ความสำคัญกับผลิตภัณฑ์หลักเป็นศูนย์ แต่ในทางกลับกัน คุณยังคงเห็นว่าภารกิจคืบคลานมากมายใช่ไหม? แม้แต่ตัวอย่างเล็กๆ น้อยๆ ซึ่งเห็นได้ชัดว่าไม่ใช่ธุรกิจหลักของพวกเขา ก็คือการเข้าซื้อกิจการ TBPN
อย่างไรก็ตาม ขณะที่เราไปถึงเส้นชัยและตรวจสอบข้อเท็จจริง บริษัทที่ต้องเผชิญกับการตรวจสอบข้อเท็จจริงของนักข่าวประเภทนี้ก็ได้รับแพลตฟอร์มที่พวกเขาสามารถควบคุมการสนทนาได้โดยตรงมากขึ้น ฉันคิดว่ามีนักลงทุนจำนวนมากที่เป็นกังวล จากการสนทนาที่ฉันมี ปัญหาของการให้คำมั่นสัญญาว่าจะทำทุกอย่างให้กับทุกคน ยังขยายไปสู่การขาดการมุ่งเน้นในรูปแบบธุรกิจหลักด้วย และฉันหมายความว่าคุณเข้าใกล้การพยากรณ์และการเฝ้าดูตลาดมากกว่าที่ฉันเป็น ฉันจะปล่อยให้คุณและผู้ฟังเป็นผู้ตัดสินว่าพวกเขาคิดว่า OpenAI สามารถพลิกสวิตช์ได้หรือไม่
ฉันถามคำถามนี้เพราะคุณได้รับคำพูดจากผู้บริหารอาวุโสของ Microsoft และก็คือ “มรดกของ Sam อาจจบลงคล้ายกับ Bernie Madoff หรือ Sam Bankman-Fried” มากกว่า Steve Jobs นั่นถือเป็นการเปรียบเทียบเลยทีเดียว คุณคิดอย่างไรกับการเปรียบเทียบนั้น?
ฉันคิดว่านั่นเป็นการถอดความ ส่วนของ Steve Jobs ไม่ได้เป็นส่วนหนึ่งของคำพูด แต่ก็มีความมีสติที่น่าสนใจอยู่บ้าง เพราะมันใช้ถ้อยคำประมาณว่า "ฉันคิดว่ามีโอกาสเล็กน้อยแต่แท้จริงแล้วที่เขาจะกลายเป็น SBF หรือนักต้มตุ๋นระดับ Madoff" ในใจของฉัน ไม่ใช่ว่าแซมถูกกล่าวหาว่าฉ้อโกงหรือก่ออาชญากรรมบางประเภท แต่ระดับของการหลอกลวงและการหลอกลวงจากแซมอาจมีโอกาสที่จะถูกจดจำในระดับนั้นในท้ายที่สุด
ใช่แล้ว ฉันคิดว่าสิ่งที่โดดเด่นที่สุดเกี่ยวกับคำพูดนั้น พูดตรงๆ เลยก็คือการที่คุณโทรหา Microsoft แล้วคุณคงไม่รู้สึกว่า “บ้าไปแล้ว เราไม่เคยได้ยินเรื่องนี้มาก่อน” คุณได้รับความคิดเห็นมากมายว่า “ใช่ ผู้คนจำนวนมากที่นี่คิดอย่างนั้น” ซึ่งน่าทึ่งมาก และฉันคิดว่ามันเกี่ยวข้องกับคำถามทางธุรกิจที่สำคัญเหล่านี้
ตัวอย่างเช่น นักลงทุนรายหนึ่งบอกฉันในแง่ของลักษณะที่คุณลักษณะนี้ยังคงมีอยู่ในช่วงหลายปีหลังจากการถูกไล่ออก” - และนี่ก็คิดว่านี่เป็นความคิดที่เงียบขรึมที่น่าสนใจ - ไม่จำเป็นว่า Sam จะต้องอยู่อันดับท้ายสุดของรายการ เช่น ควรอยู่อันดับต่ำสุดในแง่ของคนที่ต้องไม่สร้างเทคโนโลยีนี้อย่างแน่นอนเพื่อสิ่งที่คุ้มค่า มีหลายคนที่บอกว่า Elon Musk คือบุคคลนั้น แต่ลักษณะนี้ทำให้เขาอาจอยู่ที่ด้านล่างของรายการ ผู้ที่ควรสร้าง AGI และอยู่ต่ำกว่าบุคคลสำคัญอื่นๆ ในสาขานี้
ดังนั้นฉันจึงคิดว่านั่นเป็นการประเมินที่น่าสนใจ และนั่นเป็นความคิดแบบที่ฉันคิดว่าคุณได้รับจากนักปฏิบัติตัวจริงที่อาจไม่ได้คำนึงถึงข้อกังวลด้านความปลอดภัยมากนัก พวกเขาแค่มุ่งเน้นการเติบโต และพวกเขาคิดว่าตอนนี้ OpenAI มีปัญหากับ Sam Altman
ผลงานของ Microsoft น่าสนใจมาก บริษัทนั้นคิดว่าพวกเขาอยู่อันดับต้นๆ ของโลก ว่าพวกเขาได้ทำการลงทุนนี้และพวกเขาจะก้าวกระโดดทุกคน โดยเฉพาะอย่างยิ่งและที่สำคัญที่สุดคือ Google และกลับไปสู่พระคุณที่ดีของผู้บริโภค ระดับที่พวกเขารู้สึกว่าถูกเผาไหม้จากการผจญภัยครั้งนี้ - นี่คือบริษัทที่ดำเนินกิจการอย่างมีสติมาก - ฉันไม่คิดว่าจะพูดเกินจริงได้
คุณพูดถึงตัวละครและลักษณะบุคลิกภาพ ฉันอยากจะจบที่นี่ด้วยคำถามจากผู้ฟังของเรา ฉันพูดในรายการอื่นของเรา The Vergecast ว่าฉันกำลังจะคุยกับคุณ และฉันก็พูดว่า "หากคุณมีคำถามเกี่ยวกับ Ronan เกี่ยวกับเรื่องนี้ โปรดบอกฉันด้วย" ดังนั้นเราจึงมีสิ่งหนึ่งที่ฉันคิดว่าเชื่อมโยงอย่างเรียบร้อยกับสิ่งที่คุณกำลังอธิบาย ฉันจะอ่านให้คุณฟัง:
“การให้เหตุผลสำหรับพฤติกรรมที่ไม่ดี การกระทำอันโหดเหี้ยมของ Altman และผู้นำ AI คนอื่นๆ แตกต่างจากเหตุผลที่ Ronan เคยได้ยินจากผู้นำระดับสูงคนอื่นๆ ในด้านการเมืองและสื่ออย่างไร พวกเขาทุกคนไม่ได้แสดงเหตุผลให้การกระทำของตนโดยบอกว่านี่คือวิธีที่โลกเปลี่ยนแปลงไปใช่ไหม ถ้าฉันไม่ทำสิ่งนี้คนอื่นจะทำเหรอ?”
ใช่แล้ว มีเรื่องมากมายเกิดขึ้น ฉันจะบอกว่าสิ่งที่โดดเด่นสำหรับ AI ก็คือการเดิมพันที่มีอยู่ซึ่งสูงมากเป็นพิเศษ หมายความว่าข้อความแสดงความเสี่ยงทั้งสองนั้นรุนแรงมาก ใช่ไหม? คุณมีแซม อัลท์แมนโดยกล่าวว่า “นี่อาจเป็นแสงสว่างสำหรับเราทุกคน” และนักวิจารณ์อาจบอกว่า ความคลั่งไคล้ที่ผู้ถามอ้างถึงนั้นรุนแรงมาก ใช่ไหม?
สิ่งที่แซมกล่าวหาอีลอนในบันทึกก็คือบางทีเขาอาจต้องการกอบกู้มนุษยชาติ แต่ถ้าเป็นเขาเท่านั้น องค์ประกอบอีโก้ของการต้องการชนะ ซึ่งเป็นกรอบที่แซมใช้อยู่ตลอดเวลา และนี่เป็นหนึ่งในหนังสือประวัติศาสตร์ สิ่งนี้สามารถเปลี่ยนแปลงทุกสิ่งได้ ดังนั้น ยิ่งกว่านั้นความคิดแบบ "คุณต้องทำลายไข่สักสองสามใบ" ขององค์กรส่วนใหญ่ใน Silicon Valley ฉันคิดว่าบุคคลบางคนที่เป็นผู้นำด้าน AI ฉันคิดว่ามีการหาเหตุผลเข้าข้างตนเองอย่างสมบูรณ์สำหรับผลกระทบใดๆ ทั้งหมด
และลืมตอกไข่ ฉัน/คิดว่านักวิจัยด้านความปลอดภัยหลายคนอาจบอกว่าอาจเสี่ยงต่อการทำลายประเทศ ทำลายโลก และทำลายผู้คนนับล้านที่งานและความปลอดภัยอยู่ในสมดุล นั่นคือสิ่งที่เป็นเอกลักษณ์ ฉันปิดท้ายไว้เพียงเท่านี้ เมื่อพิจารณาถึงเนื้อหาการรายงานนี้ โดยเชื่อว่านี่เป็นมากกว่า Sam Altman นี่เป็นเรื่องเกี่ยวกับอุตสาหกรรมที่ไม่มีข้อจำกัด และปัญหาที่เพิ่มขึ้นอย่างรวดเร็วของอเมริกาที่ไม่สามารถจำกัดได้
ใช่. เรามีแง่ดีอยู่บ้าง แต่ฉันคิดว่านั่นเป็นสถานที่ที่ดีที่จะทิ้งมันไว้
[หัวเราะ] จบลงด้วยจังหวะตกต่ำ
แน่นอน. นั่นเป็นเรื่องราวที่ยอดเยี่ยมจริงๆ การทดลองใช้ Musk-Altman กำลังจะเกิดขึ้น ฉันคิดว่าเราจะเรียนรู้มากขึ้นที่นี่ สงสัยฉันอยากจะคุยกับคุณอีกครั้ง โรแนน ฟาร์โรว์ ขอบคุณมากที่มาเข้าร่วม Decoder
ขอบคุณ
คำถามหรือความคิดเห็นเกี่ยวกับตอนนี้? ติดต่อเราที่ [email protected] เราอ่านอีเมลทุกฉบับจริงๆ!
