आज डिकोडरमा, म रोनान फारोसँग कुरा गर्दैछु, आज काम गर्ने खोज रिपोर्टिङको सबैभन्दा ठूलो ताराहरू मध्ये एक। उसले हार्वे वाइनस्टाइनको कथा तोड्यो, धेरैको बीचमा, धेरै अन्य। र भर्खरै गत हप्ता, उनी र सह-लेखक एन्ड्रयू मारन्ट्जले ओपनएआई सीईओ साम अल्टम्यान, उनको विश्वासयोग्यता र ओपनएआईको उदयको बारेमा द न्यू योर्करमा एउटा अविश्वसनीय गहिरो-डाइभ फिचर प्रकाशित गरे।
हामी यहाँ अगाडि बढ्नु अघि एउटा नोट — द न्यू योर्करले त्यो कथा प्रकाशित गर्यो र रोनान र मसँग यो कुराकानी थियो अल्टम्यानको घरमा भएको आक्रमणको पूर्ण हद थाहा हुनु अघि, त्यसैले तपाईंले हामीलाई यसबारे सीधै कुरा गरेको सुन्नुहुन्न। तर यो भन्नुको लागि, मलाई लाग्छ कि कुनै पनि प्रकारको हिंसा अस्वीकार्य छ, साममा यी आक्रमणहरू अस्वीकार्य थिए, र मानिसहरूले महसुस गर्ने प्रकारको असहायता, जसले यस प्रकारको हिंसालाई निम्त्याउँछ, आफैंमा अस्वीकार्य छ, र यो उद्योग र हाम्रा राजनीतिक नेताहरू दुवैबाट धेरै छानबिनको लायक छ। मलाई आशा छ कि स्पष्ट छ।
किनारा सदस्यहरू, तपाईंले आफ्ना पोडकास्टहरू जहाँ भए पनि विज्ञापन-रहित डिकोडरमा विशेष पहुँच प्राप्त गर्न नबिर्सनुहोस्। यहाँ जानुहोस्। ग्राहक होइन? तपाईं यहाँ साइन अप गर्न सक्नुहुन्छ।
सबैले भने, त्यहाँ अल्टम्यानको वरिपरि धेरै घुमाउरो छ जुन कठोर रिपोर्टिङको लागि उचित खेल हो - रिपोर्टिङको प्रकार रोनान र एन्ड्रयूले गर्न थाले। ChatGPT को लोकप्रियताको लागि धन्यवाद, Altman AI उद्योगको सबैभन्दा देखिने फिगरहेडको रूपमा उभिएको छ, जसले एक पटकको गैर-नाफामुखी अनुसन्धान प्रयोगशालालाई केही वर्षमा लगभग ट्रिलियन डलरको निजी कम्पनीमा परिणत गरेको छ। तर अल्टम्यानको मिथक गहिरो विवादित छ, समान रूपमा परिभाषित गरिएको छ उसको स्पष्ट सम्झौता गर्ने क्षमता र उसको रिपोर्ट गर्ने प्रवृत्तिले ... ठीक छ, उसको वरपरका सबैलाई झूट बोल्ने।
कथा 17,000 शब्दहरू भन्दा लामो छ, र यसले 2023 मा के भयो भन्ने कुराको निश्चित विवरण समावेश गर्दछ जब ओपनएआई बोर्डको निर्देशकले अल्टम्यानलाई उनको कथित झूट बोलेको कारण अचानक बर्खास्त गर्यो, केवल उसलाई तुरुन्तै रिहायर गर्नको लागि। यो अल्टम्यानको व्यक्तिगत जीवन, उसको लगानी, मध्य पूर्वी पैसाको उसको न्यानोपन, र उसको विगतको व्यवहार र चरित्रका विशेषताहरूमा उनको आफ्नै प्रतिबिम्बमा गहिरो डुब्न पनि हो जसले एक स्रोतले उसलाई "सत्यबाट अव्यवस्थित" भनी बतायो। म तपाईंलाई साँच्चै सम्पूर्ण कथा पढ्न सुझाव दिन्छु; मलाई शंका छ कि यो आउने धेरै वर्षहरूमा सन्दर्भ हुनेछ।
रोनानले यो टुक्रा रिपोर्ट गर्न बिताएका 18 महिनाहरूमा अल्टम्यानसँग धेरै पटक कुरा गरे, र त्यसैले म उत्सुक थिएँ कि उसले त्यो समयमा Altman मा कुनै परिवर्तन महसुस गर्यो कि थिएन। आखिर, विगत डेढ वर्षमा एआई, प्रविधि र विश्वमा धेरै कुराहरू भएका छन्।
तपाईंले रोनानको बारेमा प्रत्यक्ष रूपमा कुरा गरेको सुन्नुहुनेछ, साथसाथै मानिसहरू सत्यलाई फैलाउने अल्टम्यानको क्षमताको बारेमा कुरा गर्न धेरै इच्छुक भएका छन् भन्ने उनको भावना। मानिसहरू अचम्म लाग्न थालेका छन्, चर्को स्वरमा र रेकर्डमा, Altman जस्ता मानिसहरूको व्यवहार एआई वा टेकको लागि मात्र होइन तर समाजको सामूहिक भविष्यको लागि पनि सम्बन्धित छ।
ठीक छ: रोनन फारो सैम अल्टम्यान, एआई, र सत्यमा। यहाँ हामी जान्छौं।
यो अन्तर्वार्ता लम्बाइ र स्पष्टताको लागि हल्का रूपमा सम्पादन गरिएको छ।
रोनान फारो, तपाईं एक खोज रिपोर्टर र न्यू योर्कर को योगदानकर्ता हुनुहुन्छ। डिकोडरमा स्वागत छ।
यहाँ आउन पाउँदा खुसी लाग्यो। मलाई भएकोमा धन्यवाद।
म तपाईसँग कुरा गर्न धेरै उत्साहित छु। तपाईंले भर्खरै द न्यू योर्करको लागि ठूलो लेख लेख्नुभयो। यो सैम अल्टम्यानको प्रोफाइल हो र, यसको साथमा, OpenAI। यसको बारे मेरो पढाइ यो हो कि, सबै उत्कृष्ट सुविधाहरू जस्तै, यसले, कठोर रिपोर्टिङको साथ, धेरै लामो समयदेखि साम अल्टम्यानको बारेमा मानिसहरूले पाएका धेरै भावनाहरूलाई प्रमाणित गर्दछ। तपाईंले यसलाई स्पष्ट रूपमा प्रकाशित गर्नुभएको छ, तपाईंले यसमा प्रतिक्रियाहरू पाउनुभएको छ। तपाईलाई अहिले कस्तो लाग्छ?
ठीक छ, वास्तवमा, ध्यान अर्थतन्त्र यति प्रकारको स्किजोफ्रेनिक र उथलपुथल भएको समयमा यो कुन हदसम्म टुटेको छ भनेर मलाई मन छ। यो एउटा कथा हो जुन मेरो विचारमा, हामी सबैलाई असर गर्छ। र जब मैले मेरो जीवनको डेढ वर्ष बिताएँ, र मेरो सह-लेखक, एन्ड्रयू मारन्ट्जले पनि आफ्नो त्यो समय बिताए, वास्तवमै केही फोरेन्सिक र सावधानीपूर्वक गर्न कोशिस गर्दै, यो सधैं किनभने मलाई लाग्छ कि त्यहाँ ठूला संरचनात्मक समस्याहरू छन् जसले व्यक्ति र कम्पनीभन्दा बाहिरका मानिसहरूलाई प्रभाव पार्छ।
सैम अल्टम्यान, सिलिकन भ्याली हाइप कल्चर र स्टार्टअपहरूको पृष्ठभूमिमा जुन भविष्यमा पूरा हुन वा नहुने वाचाहरूको आधारमा ठूलो मूल्याङ्कनमा बलून हुन्छ, र विभिन्न समूहहरूलाई फरक-फरक कुराहरू बताउने सोच्ने संस्थापक संस्कृतिको बढ्दो अंगालो एउटा विशेषता हो, होइन।बग...यस पृष्ठभूमिमा पनि, साम अल्टम्यान एउटा असाधारण मामला हो जहाँ सिलिकन भ्यालीमा ती चीजहरूको अपेक्षा गर्ने सबैले आफ्नो विश्वासयोग्यता र इमानदारीको यस प्रश्नको बारेमा कुरा गर्न रोक्न सक्दैनन्।
हामीलाई पहिले नै थाहा थियो कि उसलाई बेइमानी वा धारावाहिक कथित झूटको आरोपको केहि संस्करणको कारण बर्खास्त गरिएको थियो। तर असाधारण रूपमा, त्यहाँ अद्भुत रिपोर्टिङ भएको तथ्यको बावजुद, Keach Hagey ले यसमा ठूलो काम गरेको छ। करेन हाओले यसमा ठूलो काम गरेका छन्। त्यहाँ वास्तवमा वास्तविक कथित प्रमाण बिन्दुहरू र ती कारणहरू सार्वजनिक नजरबाट बाहिर रहनुको कारणहरूको निश्चित समझ थिएन।
त्यसोभए बिन्दु नम्बर एक यो हो कि हाम्रो सार्वजनिक ज्ञान र सिलिकन भ्याली भित्रका ज्ञानमा पनि ती कमीहरू मध्ये केही अब अलि बढी भरिएको छ भन्ने तथ्यबाट मलाई खुशी लाग्छ। केही कारणले खाली ठाउँहरू अलिकति बढी भरिएको छ।
हामी घटनाहरूमा रिपोर्ट गर्छौं जहाँ यस कम्पनी भित्रका मानिसहरूले चीजहरू ढाकिएको वा जानाजानी कागजात नभएको जस्तो महसुस गरे। यस कथामा नयाँ चीजहरू मध्ये एउटा विल्मरहेलद्वारा गरिएको एक निर्णायक कानून फर्म अनुसन्धान हो, जुन स्पष्ट रूपमा एक फैंसी, विश्वसनीय, ठूलो कानुनी फर्म हो जसले एनरोन र वर्ल्डकमको अनुसन्धान गर्यो, जुन सयौं पृष्ठहरू प्रकाशित जस्तै, सबै ठूला थिए। विल्मरहेलले यो अनुसन्धान गरेका थिए जुन बोर्ड सदस्यहरूले माग गरेका थिए जसले अल्टम्यानलाई उनीहरूबाट छुटकारा पाएको बेला तिनीहरूको प्रस्थानको शर्तको रूपमा बर्खास्त गरेका थिए, र उनी फिर्ता आए। र असाधारण रूपमा - मैले बोलेको धेरै कानुनी विशेषज्ञहरूको नजरमा, र यस कम्पनीका धेरै व्यक्तिहरूको नजरमा अचम्मको रूपमा - उनीहरूले यसलाई लेख्नबाट बाहिर राखे। त्यसबाट उभिएको सबै ओपनएआईबाट 800-शब्दको प्रेस विज्ञप्ति थियो जसले विश्वासमा ब्रेकडाउनको रूपमा के भयो भनेर वर्णन गर्यो। र हामीले पुष्टि गर्यौं कि यो मौखिक ब्रीफिंगहरूमा राखिएको थियो।
त्यहाँ केसहरू छन् जहाँ, उदाहरणका लागि, एक बोर्ड सदस्यले OpenAI को मूल गैर-नाफामुखी फारमबाट नाफामुखी संस्थामा रूपान्तरणको विरुद्धमा मतदान गर्न चाहन्छ जस्तो देखिन्छ, र यसलाई एक परित्यागको रूपमा रेकर्ड गरिएको छ। बैठकमा एक वकिलले भनेजस्तो छ, "ठीक छ, यसले धेरै छानबिन गर्न सक्छ।" र विपक्षमा मतदान गर्न चाहने व्यक्ति सबै उपस्थितिको लागि अनुपस्थितको रूपमा रेकर्ड हुन्छ। त्यहाँ एक वास्तविक विवाद छ। OpenAI अन्यथा दावी गर्दछ, तपाईले कल्पना गर्न सक्नुहुन्छ। यी सबै केसहरू हुन् जहाँ तपाईंसँग एउटा कम्पनी छ जुन आफ्नै खाताले हाम्रो भविष्यलाई आफ्नो हातमा राख्छ।
सुरक्षा दांव यति तीव्र छ कि तिनीहरू टाढा गएका छैनन्। यही कारणले गर्दा यो कम्पनी सुरक्षामा केन्द्रित गैर-नाफामुखी संस्थाको रूपमा स्थापित भएको थियो, र जहाँ चीजहरू यसरी अस्पष्ट गरिएको थियो कि यस वरपरका विश्वसनीय व्यक्तिहरूले यसलाई व्यावसायिक भन्दा कम पाए। र तपाईले त्यो पृष्ठभूमिको साथ जोड्नुहुन्छ जहाँ अर्थपूर्ण नियमनको लागि धेरै कम राजनीतिक भूख छ। मलाई लाग्छ यो एक धेरै दहनशील अवस्था हो।
मेरो लागि पोइन्ट केवल यो होइन कि सैम अल्टम्यान यी प्रश्नहरू यति तीव्र रूपमा योग्य छन्। यो पनि हो कि यस क्षेत्रमा यी मध्ये कुनै पनि केटाहरू, र धेरै प्रमुख व्यक्तित्वहरूले, यदि यो विशेष विचित्र, कथित झूट-सधै-समयको लक्षण होइन भने, निश्चित रूपमा दौड-देखि-तल-मानसिकताको केही हदसम्म प्रदर्शन गर्दछ, जहाँ सुरक्षावादी मानिसहरूले ती प्रतिबद्धताहरूलाई पानी दिएका छन् र सबै-एक-दौड मुद्रामा छन्।
मलाई लाग्छ, हामीले एन्थ्रोपिकबाट भर्खरको चुहावटलाई हेर्दा, त्यहाँ एक व्यक्ति हो जसले यस टुक्रामा बटनमा आफ्नो औंला कसको हुनुपर्छ भन्ने प्रश्न खडा गर्छ। जवाफ हो, यदि हामीसँग अर्थपूर्ण निरीक्षण छैन भने, मलाई लाग्छ कि हामीले गम्भीर प्रश्नहरू सोध्नु पर्छ र यी सबै केटाहरूको बारेमा हामीले सकेसम्म धेरै जानकारी सतहमा ल्याउने प्रयास गर्नुपर्छ। त्यसोभए त्यसको बारेमा सार्थक कुराकानी, वा एउटाको सुरुवात जस्तो लाग्छ त्यसबाट म उत्साहित भएको छु।
मैले यसरी सोध्नुको कारण यो हो कि तपाईंले डेढ वर्ष यो काम गर्नुभयो। तपाईंले आफ्नो सह-लेखक एन्ड्रयूसँग १०० जनासँग कुरा गर्नुभयो, मलाई विश्वास छ। कथा पकाउनको लागि त्यो लामो समय हो। म विशेष गरी AI मा गत डेढ वर्षको बारेमा सोच्छु, र केटा, यी सबै पात्रहरूको मनोवृत्ति र मूल्यहरू धेरै चाँडै परिवर्तन भएको छ।
सायद साम अल्टम्यान बाहेक अरू कोही छैन, जसले पूर्वनिर्धारित विजेताको रूपमा सुरु गरेका थिए किनभने उनीहरूले ChatGPT जारी गरेका थिए र सबैले सोचे कि गुगलको लागि मात्र लिनेछ। र त्यसपछि गुगलले प्रतिक्रिया दियो, जसले उनीहरूलाई आश्चर्यचकित तुल्यायो कि गुगलले आफ्नो व्यवसायलाई सुरक्षित गर्न प्रयास गर्नेछ, हुनसक्छ प्राविधिक इतिहासमा उत्कृष्ट व्यवसायहरू मध्ये एक, यदि व्यवसाय इतिहास होइन। एन्थ्रोपिकले यो उद्यममा ध्यान केन्द्रित गर्ने निर्णय गर्यो। यसले कमाण्डिङ नेतृत्व लिइरहेको देखिन्छत्यहाँ किनभने AI को उद्यम प्रयोग धेरै उच्च छ।
अब, ओपनएआईले आफ्नो उत्पादनलाई "हामी गुगलमा लिन जाँदैछौं" बाट कोडेक्समा केन्द्रित गर्दैछ, र तिनीहरू उद्यममा लागिरहेका छन्। म भर्खरै भन्न सक्दिन कि, गत डेढ वर्षको तपाईंको रिपोर्टिंगको क्रममा, यदि तपाईंले कुरा गरिरहनुभएको पात्रहरू परिवर्तन भए जस्तो लाग्छ? तिनीहरूको मनोवृत्ति र तिनीहरूको मूल्यहरू जस्तै, के ती परिवर्तन भए?
हो। मलाई सबै भन्दा पहिले लाग्छ, यस टुक्रामा अन्वेषण गरिएको आलोचना, यस बिन्दुमा यी कम्पनीहरू भित्रका धेरै व्यक्तिहरूबाट आउँदैछ - कि यो एक उद्योग हो जुन अस्तित्वको दांवको बावजुद, सुरक्षाको तलसम्मको दौडमा ओर्लिरहेको छ र जहाँ गतिले अरू सबै कुरालाई ट्रम्प गरिरहेको छ - त्यो चिन्ता अझ तीव्र भएको छ। र मलाई लाग्छ कि ती चिन्ताहरू गत डेढ वर्ष बितिसक्दा बढी मान्य भएको छ। एकै साथ, साम अल्टम्यानको बारेमा मनोवृत्ति विशेष रूपमा परिवर्तन भएको छ। जब हामीले यसका लागि स्रोतहरूसँग कुरा गर्न थाल्यौं, मानिसहरू साँच्चै, वास्तवमै यस बारे उद्धृत हुन र यस बारे रेकर्डमा जाँदै थिए।
हाम्रो रिपोर्टिङको अन्त्यमा, तपाईंसँग रिपोर्टिङको एउटा निकाय छ जहाँ मानिसहरूले यसबारे धेरै खुल्ला र स्पष्ट रूपमा कुरा गरिरहेका छन्, र तपाईंसँग बोर्ड सदस्यहरू छन्, "उनी एक रोगविज्ञानी झूटो हो। ऊ एक समाजशास्त्री हो।" त्यहाँ दृष्टिकोणको दायरा छ, "सुरक्षा दांवलाई ध्यानमा राख्दै यो खतरनाक छ, र हामीलाई यस प्रविधिका नेताहरू चाहिन्छ जसले उच्च अखण्डता छ," सबै तरिकाले मनपर्छ, "सुरक्षा दांवलाई बिर्सनुहोस्, यो कुनै पनि प्रमुख कम्पनीको कुनै पनि कार्यकारीको लागि असक्षम हुने व्यवहार हो, कि यसले धेरै अव्यवस्थितता सिर्जना गर्दछ।"
त्यसैले कुराकानी ढिलो भएको महसुस गर्ने तरिकामा धेरै स्पष्ट भएको छ, तर एक अर्थमा हृदयस्पर्शी छ। र साम अल्टम्यान, उनको क्रेडिटमा ... टुक्रा धेरै निष्पक्ष र उदार पनि छ, म भन्न चाहन्छु, सैमलाई। यो त्यस्तो प्रकारको टुक्रा होइन जहाँ त्यहाँ धेरै "तपाईंलाई" सामानहरू थिए। मैले उहाँसँग फोनमा धेरै, धेरै घण्टा बिताएँ किनकि हामीले यो समाप्त गरिरहेका थियौं र वास्तवमै उहाँको कुरा सुने।
तपाईले कल्पना गर्न सक्नुहुन्छ, यस जस्तो टुक्रामा, सबै कुराले यसलाई बनाउँदैन। यसका ती घटनाहरू मध्ये केही थिए किनभने मैले ईमानदारीपूर्वक सुनेको थिएँ। र यदि सामले वास्तवमा तर्क गर्दै थिए कि मैले पानी बोकेको महसुस गरें, कि केहि, यो सत्य भए पनि, सनसनीपूर्ण हुन सक्छ, मैले यो फोरेंसिक र मापनको पक्षमा साँच्चै गल्ती गरें। त्यसोभए मलाई लाग्छ कि यो सही रूपमा प्राप्त भइरहेको छ, र मलाई आशा छ कि यो तथ्यात्मक रेकर्ड जुन यस अवधिमा जम्मा भएको छ निरीक्षणको आवश्यकताको बारेमा थप ब्रेसिङ कुराकानी ट्रिगर गर्न सक्छ।
यो वास्तवमा मेरो अर्को प्रश्न हो। मलाई लाग्छ तपाईंले यो कथा रिपोर्ट गर्ने क्रममा सामसँग दर्जनौं पटक कुरा गर्नुभयो। फेरि, त्यो लामो समयको अवधिमा धेरै कुराकानीहरू छन्। के तपाईंले गत डेढ वर्षमा रिपोर्टिङको क्रममा साम परिवर्तन भएको सोच्नुभयो?
हो। मलाई लाग्छ कि यसमा सबैभन्दा चाखलाग्दो सबप्लटहरू मध्ये एक हो कि सैम अल्टम्यानले पनि यस विशेषताको बारेमा विगतमा भन्दा बढी स्पष्ट रूपमा कुरा गरिरहेका छन्। यस टुक्रामा सामको मुद्रा यस्तो छैन, "त्यहाँ केहि छैन, यो सत्य होइन; मलाई थाहा छैन तपाई के कुरा गर्दै हुनुहुन्छ।" उसको आसन भनेको यो हो कि यो जनतालाई खुशी पार्ने प्रवृत्ति र एक प्रकारको द्वन्द्वबाट घृणाको कारण हो। उसले स्वीकार गर्दैछ कि यसले उसको लागि समस्याहरू निम्त्यायो, विशेष गरी आफ्नो क्यारियरमा।
उसले भन्यो, "ठीक छ, म त्यो भन्दा माथि जाँदैछु, वा केहि हदसम्म त्यो भन्दा अघि सरेको छु।" मलाई लाग्छ कि मेरो लागि साँच्चै चाखलाग्दो कुरा भनेको हामीले कुरा गरेका मानिसहरूको दल हो जो सुरक्षाका पक्षधर मात्र थिएनन्, न केवल अन्तर्निहित प्राविधिक अनुसन्धानकर्ताहरू जसले प्रायः यी तीव्र सुरक्षा चिन्ताहरू राख्छन्, तर व्यावहारिक, ठूलो-समयका लगानीकर्ताहरू पनि। तिनीहरू सामका समर्थकहरू हुन्, जसले केही अवस्थामा, यो प्रश्नलाई हेर्छन् र गोलीबारी पछि उनको फिर्ता आउनमा मुख्य भूमिका खेलेको कुरा पनि गर्छन्। अब, उहाँ सुधार भएको छ कि छैन, र त्यो परिवर्तन कति हदसम्म अर्थपूर्ण छ भन्ने प्रश्नमा, तिनीहरू भन्छन्, "ठीक छ, हामीले उसलाई त्यसबेला शंकाको फाइदा दियौं।"
म विशेष गरी एक प्रख्यात लगानीकर्ताको बारेमा सोच्दै छु जसले भने, "तर त्यसबेलादेखि, यो स्पष्ट देखिन्छ कि उसलाई वुडशेड पछाडि लगिएको थिएन," जुन यो वाक्यांश थियो जुन यो व्यक्तिले प्रयोग गरेको थियो, आवश्यक हदसम्म। फलस्वरूप, यो अब एक स्थिर विशेषता जस्तो देखिन्छ। हामी यसलाई निरन्तर रूपमा हेरिरहेका छौं। तपाईंले OpenAI को सबैभन्दा ठूलो व्यवसाय हेर्न सक्नुहुन्छसम्बन्धहरू र तिनीहरूले त्यस प्रकारको अविश्वासको भार निरन्तर रूपमा बोक्छन्।
माइक्रोसफ्टसँग जस्तै, तपाईले त्यहाँका कार्यकारीहरूसँग कुरा गर्नुहुन्छ, र तिनीहरूसँग वास्तवमै तीव्र र भर्खरै उत्प्रेरित चिन्ताहरू छन्। त्यहाँ यो उदाहरण छ जहाँ, उही दिन OpenAI ले माइक्रोसफ्टसँग अन्तर्निहित स्टेटलेस एआई मोडेलहरूको सन्दर्भमा आफ्नो विशिष्टतालाई पुन: पुष्टि गर्दैछ, यसले Amazon सँग नयाँ सम्झौताको घोषणा गर्दैछ जुन स्टेटफुल एआई एजेन्टहरू निर्माण गर्न उद्यम समाधानहरू बेच्नको लागि हो, जसको मतलब तिनीहरूसँग मेमोरी छ।
तपाइँ Microsoft मान्छेहरूसँग कुरा गर्नुहुन्छ, र तिनीहरू जस्तै छन्, "हामीसँग विशेष सम्झौता भएको अन्तर्निहित सामानहरूसँग अन्तर्क्रिया नगरी यो गर्न सम्भव छैन।" त्यसोभए यो धेरै साना उदाहरणहरू मध्ये एक मात्र हो जहाँ यो विशेषताले सधैं चलिरहेको व्यावसायिक गतिविधिमा टेन्ड्रिलहरू राखेको छ र OpenAI को बोर्ड भित्र, यसको कार्यकारी सूट भित्र, र फराकिलो टेक समुदायमा सक्रिय चिन्ताको विषय हो।
तपाईले त्यो "गुण" भनिरहनु भएको छ। कथामा एउटा रेखा छ जुन मलाई थीसिस जस्तो लाग्छ, र यो तपाईंले वर्णन गरिरहनुभएको विशेषताको विवरण हो। यो हो कि "स्याम अल्टम्यान सत्यबाट अव्यवस्थित छन्" र उनीसँग "एउटै व्यक्तिमा लगभग कहिल्यै नदेखिने दुईवटा लक्षणहरू छन्: पहिलो भनेको मानिसहरूलाई खुसी पार्ने तीव्र इच्छा हो, कुनै पनि अन्तरक्रियामा मन पराउनु, र दोस्रो कसैलाई धोका दिएर आउन सक्ने नतिजाहरूको लागि लगभग सामाजिक चिन्ताको कमी।
मैले तपाईलाई भन्नु पर्छ, मैले त्यो वाक्य 500 पटक पढेँ, र मैले सधैं मानिसहरूले के मन पराउन चाहन्छन् भनेर भन्ने कल्पना गर्ने प्रयास गरें र जब उनीहरूले झूट बोलेको महसुस गरे भने निराश नहुने। र मैले मेरो भावनात्मक अवस्थालाई बुझ्न सकिन कि ती चीजहरू एकै व्यक्तिमा कसरी हुन सक्छन्। तपाईंले सैमसँग धेरै कुरा गर्नुभएको छ, र तपाईंले यी लक्षणहरू अनुभव गरेका मानिसहरूसँग कुरा गर्नुभएको छ। उहाँले यो कसरी गर्नुहुन्छ?
हो। यो मानवीय स्तरमा चाखलाग्दो छ किनभने म यस किसिमको रिपोर्टिङको निकायमा पुग्छु जो यसको हृदयमा छ र गहिरो समझ र समानुभूति खोज्ने मानवीकरणमा वास्तविक फोकसको साथ। जब मैले यसलाई थप मानवीय दृष्टिकोणबाट हेर्ने प्रयास गरें र भनें, "हे, यो मेरो लागि विनाशकारी हुनेछ यदि मैले काम गरेको धेरै मानिसहरूले म एक प्याथोलॉजिकल लियर हुँ भने। तपाइँ कसरी त्यो वजन बोक्नुहुन्छ? तपाइँ कसरी थेरापीमा यसको बारेमा कुरा गर्नुहुन्छ? तपाइँ आफैले यसको बारेमा बताउनुभएको कथा के हो?"
मैले केहि प्रकारको पाएँ, मेरो विचारमा, सायद वेस्ट कोस्ट प्लैटिट्यूडहरू जस्तै कि, "हो, मलाई सास फेर्न मन पर्छ।" तर गहिरो आत्म-द्वन्द्वको धेरै प्रकारको ब्रेसिंग भावना होइन जुन मलाई लाग्छ कि हामी मध्ये धेरैले सायद हाम्रो व्यवहार र मानिसहरूप्रतिको हाम्रो व्यवहारको बारेमा यस प्रकारको प्रतिक्रिया देखिरहेका छौं भने।
मलाई लाग्छ कि त्यो वास्तवमा प्रश्नको फराकिलो जवाफमा जान्छ। सामले दाबी गर्छन् कि यो विशेषताले समस्याहरू निम्त्याएको छ, तर यो पनि उसलाई ओपनएआईको विकासलाई यति धेरै गति दिनको लागि शक्ति दिएको छ कि उसले मानिसहरूका विभिन्न समूहहरूलाई एकताबद्ध गर्न र खुशी पार्न सक्षम छ। उहाँले यी सबै विवादित निर्वाचन क्षेत्रहरूलाई निरन्तर रूपमा विश्वस्त गरिरहनुभएको छ कि तिनीहरूले के ख्याल राख्छन् त्यो हो। र त्यो एक संस्थापक को लागी एक साँच्चै उपयोगी कौशल हुन सक्छ। मैले लगानीकर्ताहरूसँग कुरा गरेको छु जसले त्यसपछि भन्छन्, "ठीक छ, वास्तवमा कम्पनी चलाउनको लागि यो कम उपयोगी सीप हो किनभने यसले धेरै विवाद छ।"
तर साम व्यक्तिगत पक्षमा, मलाई लाग्छ कि मैले मानव स्तरमा जडान गर्ने प्रयास गर्दा मैले उठाएको कुरा गहिरो टकराव, प्रतिबिम्ब र आत्म-जवाबदेहीको स्पष्ट अभाव हो, जसले आईपीओको लागि तयारी गरिरहेको कम्पनीको लागि महाशक्ति वा दायित्वलाई पनि सूचित गर्दछ।
उनी त्यस्तो व्यक्ति हुन् जसले स्यू यून नामको एक पूर्व बोर्ड सदस्यको शब्दमा रेकर्डमा छ कि "निर्दोषता" को बिन्दुमा उसले प्रयोग गरेको वाक्यांश हो, वास्तवमै आफ्नो बिक्री पिचहरूको परिवर्तनशील वास्तविकतामा विश्वास गर्न सक्षम छ वा आफैलाई विश्वस्त पार्न सक्षम छ। वा कमसेकम यदि उसले तिनीहरूलाई विश्वास गर्दैन भने, उसले अर्थपूर्ण आत्म-शङ्का बिना तिनीहरू मार्फत ब्लस्टर गर्न सक्षम छ।
मलाई लाग्छ कि तपाईंले कुरा गरिरहनुभएको कुरा, जहाँ तपाईं वा म हुन सक्छौं, हामीले कुरा भनिरहेका छौं र यो हामीले बनाएका अन्य आश्वासनहरूसँग बाझिएको महसुस गर्दैछौं, एक प्रकारको चिसो वा आफैलाई जाँच्ने क्षण छ। मलाई लाग्छ कि उहाँसँग त्यस्तो हुँदैन। र त्यहाँ फराकिलो सिलिकन भ्याली हाइप संस्कृति र संस्थापक संस्कृति छ जुन त्यसलाई अँगालेको छ।
यो हास्यास्पद छ। Verge उत्पादन समीक्षा को मात्रा मा निर्मित छकार्यक्रम। यो हामी यहाँ के गर्छौं को मुटु हो। म वर्षमा एक पटक एप्पलको आर एन्ड डी ट्रिलियन डलर राख्छु र भन्छु, "यो फोन सात हो।" र यसले हाम्रो सबै रिपोर्टिङ र हाम्रा विचारहरूलाई अन्यत्र वैध बनाउँछ। हामीसँग एउटा मूल्याङ्कनात्मक कार्य छ, र हामी एआई उत्पादनहरू हेर्दै र "के तिनीहरूले काम गर्छन्?" भन्दै धेरै समय खर्च गर्छौं।
यस्तो लाग्छ कि यो आजको जस्तै AI को बारेमा धेरै कुराकानीबाट हराइरहेको छ। यसले के गर्न सक्छ, यो कति खतरनाक हुन सक्छ भन्ने बारे अनन्त कुराकानी छ। र त्यसपछि तपाइँ ड्रिल डाउन गर्नुहुन्छ, र तपाइँ भन्नुहुन्छ, "के यसले वास्तवमा आज गर्नु पर्ने कुरा गर्छ?" केही अवस्थामा, जवाफ हो हो। तर धेरै, धेरै अवस्थामा, जवाफ होईन।
यसले तपाईंले वर्णन गरिरहनुभएको हाइप संस्कृतिसँग जोडिएको जस्तो लाग्छ र यो अर्थमा पनि, राम्रो, यदि तपाईंले भन्नुभयो कि यसले केहि गर्न गइरहेको छ र यो गर्दैन, र कसैलाई नराम्रो लाग्छ, त्यो ठीक छ किनभने हामी अर्को कुरामा छौं। त्यो विगतमा हो । र विशेष गरी AI मा, साम भव्य प्रतिज्ञाहरू गर्न धेरै राम्रो छ।
यो हप्ता मात्र, मलाई लाग्छ तपाईको कथा प्रकाशित भएको दिन, OpenAI ले एउटा नीति कागजात जारी गर्यो जसमा हामीले सामाजिक सम्झौतामा पुनर्विचार गर्नुपर्नेछ र सरकारबाट AI दक्षता छात्रवृत्तिहरू छन्। यो कसरी कुनै प्रविधिले संसारको भविष्यलाई आकार दिन सक्छ र हामी कसरी बाँच्न सक्छौं भन्ने बारेको एउटा ठूलो वाचा हो, र ती सबै प्रविधिमा काम गर्ने वा काम गर्ने वाचा गरेको वा काम गर्नुपर्छ भन्ने कुरामा भर पर्छ।
के तपाईंले कहिल्यै सैमलाई AI लाई AGI वा सुपरइन्टेलिजेन्समा परिणत भएको वा अन्तिम रेखामा पुग्ने शंका गरेको भेट्टाउनुभयो? किनकी त्यो त्यो कुरा हो जसको बारेमा म सबैभन्दा अचम्मित छु। के यो कोर टेक्नोलोजीले उनीहरूले भन्न सक्ने सबै चीजहरू गर्न सक्छ कि भनेर कुनै प्रतिबिम्ब छ?
यो एकदम सही प्रश्नहरूको सेट हो। त्यहाँ विश्वसनीय टेक्नोलोजिस्टहरू छन् जुन हामीले रिपोर्टिङको यस निकायमा कुरा गर्यौं - र स्पष्ट रूपमा साम अल्टम्यान एक होइनन्; उहाँ एक व्यवसायिक व्यक्ति हुनुहुन्छ — जसले यस प्रविधिको लागि टाइमलाइनको बारेमा सैमले कुरा गर्ने तरिका भने एकदमै टाढा छ। त्यहाँ केही वर्ष पछाडि जाने ब्लग पोष्टहरू छन् जहाँ सामले भनिरहेका छन्, "हामी घटनाको क्षितिजमा पुगिसकेका छौं। AGI मूलतया यहाँ छ। सुपरइन्टेलिजेन्स कुनाको वरिपरि छ। हामी अन्य ग्रहहरूमा जाँदैछौं। हामी सबै प्रकारको क्यान्सरको उपचार गर्न जाँदैछौं।" साँच्चै, म सुशोभित छैन।
क्यान्सर वास्तवमा चाखलाग्दो छ, कि सैमले ChatGPT मार्फत आफ्नो कुकुरको क्यान्सरलाई सैद्धान्तिक रूपमा निको पार्ने व्यक्तिलाई हाइप गर्दैछ, र त्यो मात्र भएन। तिनीहरूले ChatGPT सँग कुरा गरे, र यसले उनीहरूलाई वास्तवमा काम गर्ने केही अनुसन्धानकर्ताहरूलाई मार्गदर्शन गर्न मद्दत गर्यो, तर यो कुकुरलाई निको पार्ने उपकरणले वास्तवमा कथा होइन।
मलाई खुशी छ कि तपाईंले त्यो बिन्दु उठाउनुभयो किनभने म यो ठूलो बिन्दुमा जान चाहन्छु जब टेक्नोलोजीको सम्भाव्यता र जोखिम दुवै साँच्चै बन्न गइरहेको छ। तर यी साना पक्षहरू उल्लेख गर्न लायक छ जुन साम अल्टम्यानबाट लगातार हुन्छ, जहाँ उसले फेरि यो विशेषतालाई मूर्त रूप दिन्छ जस्तो देखिन्छ।
मेरो मतलब, विल्मरहेल रिपोर्टको उदाहरण प्रयोग गर्न, जहाँ हामीसँग यो जानकारी थियो जुन लेखन बाहिर राखिएको थियो, र जान्न चाहन्थ्यौं कि बाटोमा मौखिक संक्षिप्त दुई बोर्ड सदस्यहरू बाहेक अरू कसैलाई दिइएको थियो कि सैमले यसलाई निरीक्षण गर्न स्थापना गर्न मद्दत गर्यो। र उसले भन्यो, "हो, हो, होइन, म विश्वास गर्छु कि यो पछि बोर्डमा सामेल हुने सबैलाई दिइएको थियो।" र हामीसँग स्थितिको प्रत्यक्ष ज्ञान भएको व्यक्ति छ कि यो केवल झूट हो। र त्यो साँच्चै मामला देखिन्छ, कि यो असत्य छ। यदि हामी उदार हुन चाहन्छौं भने, सायद उहाँलाई गलत जानकारी दिइएको थियो।
यी आकस्मिक आश्वासनहरू धेरै छन्। र म त्यो उदाहरण आंशिक रूपमा प्रयोग गर्दछु किनकि त्यो डिसेम्बल गर्ने उत्कृष्ट उदाहरण हो, यसलाई बोलौं, यसले कानुनी रूपमा वास्तविक परिणामहरू हुन सक्छ। म तपाईंलाई बताउन आवश्यक छैन, डेलावेयर कर्पोरेट कानून अन्तर्गत, यदि यो कम्पनीको आईपीओ, सेयरधारकहरूले, धारा 220 अन्तर्गत, यस बारे गुनासो गर्न र अन्तर्निहित कागजातहरू माग गर्न सक्छन्। त्यहाँ पहिले नै बोर्ड सदस्यहरू छन्, "ठीक छ, एक मिनेट पर्खनुहोस्, त्यो ब्रीफिंग हुनुपर्थ्यो।"
त्यसोभए यी चीजहरू जुन उसको मुखबाट जहिले पनि बाहिर निस्कन्छ, तिनीहरूले वास्तविक बजार-चल्ने प्रभावहरू, OpenAI को लागि वास्तविक प्रभावहरू हुन सक्छन्। यसलाई पुनरुत्थान भएको युटोपियन हाइप भाषाको प्रकारमा ल्याउँदै, मलाई लाग्छ कि यो टुक्रा बाहिर आएको दिन संयोगले होइन, यसले हामी सबैलाई पनि असर गर्छ, किनभने खतराहरू यसको तरीकाको सन्दर्भमा धेरै तीव्र छन्।हतियारमा तैनाथ गरिएको, रासायनिक युद्ध एजेन्टहरू पहिचान गर्न प्रयोग भइरहेको तरिका, विकृतिको सम्भावना, र जसरी युटोपियन हाइपले धेरै विश्वसनीय अर्थशास्त्रीहरूलाई यसो भन्न उत्प्रेरित गरेको देखिन्छ, "यसमा बुलबुलेका सबै संकेतहरू छन्।"
साम अल्टम्यानले पनि भनेका छन्, "कसैले यहाँ धेरै पैसा गुमाउनेछ।" यसले वास्तवमै धेरै अमेरिकी र विश्वव्यापी आर्थिक वृद्धिलाई खत्तम पार्न सक्छ, यदि त्यहाँ यी सबै कम्पनीहरू एकअर्कासँग सम्झौताहरू गर्ने बबलको साँचो पंक्चरिंग जस्तै हो भने, धेरै उधारो लिँदा AI मा जाँदैछ। त्यसोभए सैम अल्टम्यानले के भन्छन् त्यो महत्त्वपूर्ण छ, र मलाई लाग्छ कि उहाँ वरपरका मानिसहरूको प्रबलता, तपाईंले उल्लेख गर्नुभयो हामीले सय भन्दा बढीसँग कुरा गर्यौं, यो वास्तवमा सय भन्दा बढी थियो। हामीले अन्तिम रेखामा वार्तालाप गरेका थियौं जहाँ यो जस्तो छ, "यति धेरै ठूलो संख्या हो भन्नु यो धेरै सानो हुनेछ?" र हामी जस्तै थियौं, "हो, डाउनप्ले गरौं। हामी यसलाई राम्रो खेल्नेछौं।" तर त्यहाँ धेरै मानिसहरू थिए र तिनीहरूमध्ये यस्तो महत्त्वपूर्ण बहुमतले "यो चिन्ताको विषय हो।" र मलाई लाग्छ कि यो सबै कारण हो।
मलाई त्यो नम्बरको बारेमा सोध्नुहोस्। तपाईंले उल्लेख गरेझैं, समय बित्दै जाँदा मानिसहरू चिन्ताका साथ अझ बढी खुल्दै गए। यो बबल वरपरको दबाब जस्तै महसुस हुन्छ - जित्ने दौड, यो सबै लगानी चुक्ता गर्न, विजेताको रूपमा उभिने, IPO मा - धेरै मनोवृत्ति परिवर्तन भएको छ। यसले निश्चित रूपमा साम र ओपनएआईमा थप दबाब सिर्जना गर्यो।
हामीले यो हप्ता OpenAI को भाइब्सको बारेमा एउटा कथा प्रकाशित गर्यौं। तपाईंको कथा यसको अंश हो, तर OpenAI मा कार्यकारी श्रेणीहरूमा ठूलो कर्मचारी परिवर्तनहरू - मानिसहरू आउँदैछन् र जाँदैछन्। अन्वेषकहरू सबै टाढा छन्, ठूलो मात्रामा एन्थ्रोपिकमा, जुन मलाई साँच्चै रोचक छ। तपाईले यो कम्पनीले दबाब महसुस गरिरहेको देख्न सक्नुहुन्छ, र यसले कुनै न कुनै रूपमा त्यो दबाबलाई प्रतिक्रिया दिइरहेको छ।
तर त्यसपछि म फेरि सैमलाई बर्खास्त गरेको सोच्छु। यो मेरो लागि अविस्मरणीय मात्र हो। यो अरू कसैको लागि स्मरणीय छैन, तर मैले शुक्रबार साँझ 7PM मा ब्रोन्क्स चिडियाखानामा स्रोत कल लिएँ, र यो कसैले भन्यो कि तिनीहरू सामलाई फिर्ता ल्याउन प्रयास गर्दैछन्। र त्यसपछि हामीले त्यो कथालाई पछ्याउँदै सप्ताहन्त बितायौं। र म जस्तै थिएँ, "म चिडियाखानामा छु। तपाईं मलाई यहाँ के गर्न चाहनुहुन्छ?" र जवाफ थियो, "फोनमा रहनुहोस्।" ठीक छ, मेरी छोरी जस्तै थियो, "फोन बन्द गर्नुहोस्।" र त्यो मैले गरें।
यो सैमलाई फिर्ता लिनको लागि सवारी वा मर थियो। त्यो कम्पनी यस्तो थियो, "होइन, हामी बोर्डलाई सैम अल्टम्यानलाई बर्खास्त गर्न दिँदैनौं।" लगानीकर्ताहरू, उनीहरूलाई तपाईंको टुक्रामा उद्धृत गरिएको छ, "हामी युद्धमा गयौं," मलाई लाग्छ, थ्राइभ क्यापिटल स्थिति हो, "स्याम फिर्ता लिन।" माइक्रोसफ्ट सैमलाई फिर्ता लिन युद्धमा गयो। यो पछिको हो, र अब सबैजनाले जस्तै, "हामी IPO मा जाँदैछौं। हामी अन्तिम रेखामा पुग्यौं। हामीले हाम्रो केटा फिर्ता पायौं, र उसले हामीलाई अन्तिम रेखामा पुर्याउनेछ। हामी चिन्तित छौं कि ऊ झूटा हो।"
त्यसबेला उनलाई फिर्ता ल्याउन युद्ध किन भयो ? किनभने यो वास्तवमा केहि परिवर्तन भएको जस्तो लाग्दैन। तपाईं इल्या सुत्स्केभर र [एन्थ्रोपिक सीईओ] डारियो अमोदेईले राखेका मेमोहरूको बारेमा कुरा गर्नुहुन्छ जब उनीहरू साम अल्टम्यानका समकालीन थिए। इल्याको नम्बर एक चिन्ता थियो कि सैम झूटा हो।
त्यसमा कुनै परिवर्तन भएको छैन। त्यसोभए उसलाई फिर्ता ल्याउन युद्ध किन भयो? र अब जब हामी अन्तिम रेखामा छौं, यस्तो देखिन्छ कि सबै चिन्ताहरू खुला छन्।
ठीक छ, सबैभन्दा पहिले, तपाइँको छोरी र मेरो साथी र पत्रकार वरपर अन्य सबै मानिसहरूलाई माफ गर्नुहोस्।
[हाँसो] यो सबैका लागि एकदमै सप्ताहन्त थियो।
हो, यसले कसैको जीवन लिन्छ, र यो कथा पक्कै मेरो छ, समयको अन्तिम अवधिमा। यो वास्तवमा पत्रकारिता र सूचनाको पहुँचको विषयसँग सम्बन्धित छ, मलाई लाग्छ। सामका लागि युद्धमा गएका लगानीकर्ताहरू र सबैले उनी फिर्ता आएको सुनिश्चित गर्न भूमिका खेलेका थिए, र विशेष रूपमा विकासमा सुरक्षा राख्नको लागि गैर-नाफामुखी संस्थाको मिशनको रक्षा गर्न र उनीहरूलाई विश्वास गर्न नसकेमा कार्यकारीलाई बर्खास्त गर्न डिजाइन गरिएको बोर्ड, तिनीहरू गए। त्यो सबै थियो किनभने, हो, बजार प्रोत्साहनहरू थिए, हैन?
साम मानिसहरूलाई विश्वस्त पार्न सक्षम थिए, "ठीक छ, कम्पनी भर्खरै बिग्रेको छ।" तर उनको समर्थन हुनुको कारण जानकारीको कमी थियो। ती लगानीकर्ताहरू, धेरै अवस्थामा, अब भन्छन्, "म फर्केर हेर्छु, र मलाई लाग्छ कि यदि मैले दावीहरू के थिए र चिन्ताहरू के थिए भनेर पूर्ण रूपमा थाहा पाएको भए मैले अझ बढी चिन्ता लिनुपर्थ्यो।"
ती सबै होइनन्;विचारहरू भिन्न हुन्छन्, र हामी विचारहरूको दायरा उद्धृत गर्छौं, तर त्यहाँ महत्त्वपूर्ण व्यक्तिहरू छन् जसले धेरै आंशिक जानकारीमा काम गरिरहेका थिए। सैमलाई निकाल्ने बोर्ड बोर्डमा हुने एक व्यक्तिको शब्दमा "धेरै JV" थियो र उनीहरूले बललाई कडा पारे। र हामी अन्तर्निहित गुनासोहरू कागजात गर्छौं, र मानिसहरूले आफैले निर्णय गर्न सक्छन् कि यो उनीहरूले महसुस गरेको तत्काल चिन्ताको प्रकारमा जम्मा हुन्छ कि हुँदैन, तर त्यो तर्क र त्यो जानकारी प्रस्तुत गरिएको थिएन।
तिनीहरूले प्राप्त गरे जुन तिनीहरूमध्ये केहीले अहिले खराब कानुनी सल्लाहको रूपमा स्वीकार गरे। यसलाई वर्णन गर्नको लागि, तपाइँ उद्धरण सम्झनुहुनेछ, र सम्भवतः तपाइँका धेरै श्रोताहरू र दर्शकहरूले उद्धृतिको कमीको रूपमा सम्झनेछन्। त्यो त्यो थियो जुन यो घटाइएको थियो, र त्यसपछि तिनीहरूले अनिवार्य रूपमा कलहरू लिने छैनन्।
उनीहरुले फोन उठाएनन् । म पक्का छु कि तपाईंले प्रयास गर्नुभयो। मैले चिनेका सबैजनाले प्रयास गरे, र यो बिन्दुमा पुग्यो जहाँ, पत्रकारको रूपमा, तपाईंले आफ्नो स्रोतहरूलाई सल्लाह दिनुहुँदैन, तर म जस्तो थिएँ, "यदि तपाईंले आफैलाई व्याख्या गर्न सुरु गर्नुभएन भने यो टाढा जान्छ।"
अनि त्यही भयो। पत्रकारलाई बिर्सनुहोस्। तपाईंले सत्य नाडेलालाई भन्नुभएको थियो, "के भयो? म कसैलाई बुझाउन सक्दिन।" र त्यो कम्पनीको प्रमुख वित्तीय समर्थक हो। र त्यसपछि तपाईले सत्यलाई [LinkedIn सह-संस्थापक] रीड होफम्यान र रीडलाई फोन गर्दै हुनुहुन्छ र भन्नुहुन्छ, "मलाई थाहा छैन के भयो।"
तिनीहरू स्पष्ट रूपमा जानकारीको त्यो शून्यमा छन्, परम्परागत गैर-एआई सूचकहरू खोज्दैछन् जसले यस्तो अत्यावश्यक, अचानक फायरिङलाई औचित्य दिन्छ। जस्तै, ठीक छ, यो यौन अपराध थियो? के यो घोटाला थियो? र सम्पूर्ण सूक्ष्म, तर मलाई सार्थक लाग्छ, तर्क छ कि यो प्रविधि फरक छ र यस प्रकारको साना विश्वासघातहरूको स्थिर संचयले यस व्यवसाय र हुनसक्छ संसारको लागि दुबै अर्थपूर्ण दांव हुन सक्छ, धेरै हदसम्म हराएको थियो। त्यसैले पूँजीवादी प्रोत्साहनहरू जित्यो, तर त्यसलाई बनाउने मानिसहरू पनि बाहिर गए र सधैं पूर्ण जानकारीको साथ काम गर्दैनन्।
म एक क्षणको लागि "सबैले के सोचेका थिए" पक्षको बारेमा मात्र सोध्न चाहन्छु, किनकि मैले पक्कै पनि समाचार हेरेँ, र मैले भनें, "ओह, केहि नराम्रो भएको हुनुपर्छ।" तपाईंले धेरै #MeToo रिपोर्टिङ गर्नुभएको छ, प्रसिद्ध रूपमा। तपाईंले हार्वे वाइन्स्टाइनको कथा तोड्नु भयो।
तपाईंले यी दावीहरूमा रिपोर्ट गर्न धेरै समय बिताउनुभयो जुन मलाई लाग्छ कि तपाईंले अन्ततः निराधार निर्णय गर्नुभयो: कि अल्टम्यानले नाबालिगहरूलाई यौन दुर्व्यवहार गरे वा काममा लिने यौनकर्मीहरू, वा ओपनएआई व्हिसलब्लोअरको हत्या गरे। मेरो मतलब, तपाईं त्यो व्यक्ति हुनुहुन्छ जसले यो सामानलाई सबैभन्दा कडा रूपमा रिपोर्ट गर्न सक्नुहुन्छ। के तपाईंले निर्णय गर्नुभयो कि यो शून्य भयो?
ठीक छ, हेर्नुहोस्, म केहि बेकार भएको छ भन्ने व्यवसायमा छैन। म के भन्न सक्छु मैले यी दावीहरू हेर्दै महिनौं बिताएँ र तिनीहरूको लागि पुष्टि फेला पारेन। र यो मेरो लागि अचम्मको थियो कि यी केटाहरू, यी कम्पनीहरू जसले हाम्रो भविष्यमा यति धेरै शक्ति राख्छन्, वास्तवमा बालिश माटोको लडाईमा उनीहरूको समय र स्रोतहरूको असमान मात्रा खर्च गर्दैछन्।
एक कार्यकारीले यसलाई "शेक्सपियर" को रूपमा वर्णन गर्दछ। निजी अन्वेषकको पैसा र विपक्षी डोजियरहरू संकलन भइरहेको रकम अथक छ। र दुर्भाग्यपूर्ण कुरा यो हो कि सैमका प्रतिद्वन्द्वीहरू द्वारा तोता हुने प्रकारको सलासियस सामानहरू मात्र तथ्य मानिन्छ, हैन? त्यहाँ यो आरोप छ कि उसले कम उमेरका केटाहरूलाई पछ्याउँछ, र सिलिकन भ्यालीका धेरै ककटेल पार्टीहरूमा, तपाईंले यो सुन्नुहुन्छ। सम्मेलन सर्किटमा, मैले भर्खरै विश्वसनीय, प्रमुख कार्यकारीहरूले दोहोर्याएको सुनेको छु: "सबैलाई थाहा छ यो तथ्य हो।"
दुःखको कुरा यो हो कि म यो कहाँबाट आउँछ भन्ने कुरा गर्छु, विभिन्न भेक्टरहरू जसद्वारा यो प्रसारित हुन्छ। एलोन मस्क र तिनका सहयोगीहरूले वास्तवमै हार्डकोर डोजियरहरूलाई त्यस प्रकारको रकमलाई कुनै पनि हालतमा धकेलिरहेका छन्। जब तपाइँ वास्तवमा अन्तर्निहित दावीहरू हेर्न सुरु गर्नुहुन्छ तिनीहरू वाष्पशील हुन्छन्। दुःखको कुरा यो हो कि यसले यहाँ थप प्रमाण-आधारित आलोचनाहरूलाई अस्पष्ट बनाउँछ जुन मलाई लाग्छ कि वास्तवमै तत्काल निरीक्षण र विचारको योग्य छ।
कथामा साँच्चै आउने अर्को विषयवस्तु भनेको सैमका धेरै साथीहरू छन् भन्ने डरको भावना हो — उसले Y कम्बिनेटरको सीईओको रूपमा आफ्नो अघिल्लो भूमिकादेखि आफ्नो व्यक्तिगत लगानीसम्म धेरै कम्पनीहरूमा लगानी गरेको छ, जसमध्ये केही ओपनएआईको सीईओको रूपमा उसको भूमिकासँग प्रत्यक्ष द्वन्द्वमा छन् — र उहाँको वरिपरि मौन छ।
मैले विशेष गरी एउटा लाइन पढ्दा मलाई छक्क पर्यो। तपाईंले Ilya Sutskever को memos को वर्णन गर्नुहुन्छ, र तिनीहरू सिलिकन भ्यालीमा मात्र बाहिर छन्। सबैजनाउनीहरूलाई इल्या मेमो भन्छन्। तर वरपर पनि मौनता छ। तिनीहरू वरिपरि पारित छन्, तर तिनीहरूको चर्चा छैन। तपाईलाई यो कहाँबाट आउँछ जस्तो लाग्छ? के यो डर हो? के यो परी लगानी प्राप्त गर्ने इच्छा छ? त्यो कहाँबाट आउँछ?
मलाई लाग्छ यो धेरै कायरता हो, म इमानदार हुनेछु। राष्ट्रिय सुरक्षा कथाहरूमा रिपोर्ट गरिसकेपछि जहाँ स्रोतहरू व्हिसलब्लोअरहरू हुन् जसले सबै कुरा गुमाउन र अभियोगको सामना गर्न खडा हुन्छन्, तिनीहरू अझै पनि सही काम गर्छन् र जवाफदेहिता सिर्जना गर्न चीजहरूको बारेमा कुरा गर्छन्। मैले तपाईंले उल्लेख गर्नुभएको यौन अपराध-सम्बन्धित कथाहरूमा काम गरेको छु, जहाँ स्रोतहरू गहिरो आघातमा परेका छन् र धेरै व्यक्तिगत प्रकारको प्रतिशोधको डर छ।
यस बीट वरपर धेरै केसहरूमा, तपाइँ मानिसहरूसँग तिनीहरूको आफ्नै प्रोफाइल र शक्तिको साथ व्यवहार गर्दै हुनुहुन्छ। तिनीहरू या त प्रसिद्ध व्यक्तिहरू हुन् वा तिनीहरू प्रसिद्ध व्यक्तिहरूले घेरिएका छन्। तिनीहरूको बलियो व्यापार जीवन छ। मेरो विचारमा, यो वास्तवमा तिनीहरूको लागि यो सामानको बारेमा कुरा गर्न धेरै कम जोखिम हो। र धन्यबाद, हामीले पहिले कुरा गरे जस्तै सुई चलिरहेको छ, र मानिसहरू अहिले धेरै कुरा गरिरहेका छन्।
तर यति लामो समयको लागि, मानिसहरू वास्तवमै यसको बारेमा चुप लागेका छन् किनभने मलाई लाग्छ कि सिलिकन भ्याली संस्कृति यति निर्दयी रूपमा स्वार्थी र निर्दयी रूपमा व्यापार र विकास उन्मुख छ। त्यसोभए मलाई लाग्छ कि यसले सामलाई बर्खास्त गर्ने केही व्यक्तिहरूलाई पनि असर गर्छ, जहाँ तपाईंले पछिका दिनहरूमा देख्नुभयो, हो, एउटा कारक जसले उसलाई फिर्ता ल्याउने र पुराना बोर्ड सदस्यहरूलाई बर्खास्त गरेको थियो त्यो थियो कि उनले लगानीकर्ताहरूलाई भेला गरे जो आफ्नो कारणमा अलमलमा थिए।
तर अर्को यो छ कि वरपरका धेरै अन्य व्यक्तिहरू जसलाई चिन्ता थियो र उनीहरूलाई तुरुन्तै आवाज उठाए, केवल रुमाल जस्तै फोल्ड गरे र हावा उल्टो बगिरहेको देख्ने बित्तिकै आफ्नो धुन परिवर्तन गरे, र उनीहरू लाभको ट्रेनमा जान चाहन्छन्।
यो एकदम अँध्यारो छ, इमानदारीपूर्वक, एक रिपोर्टरको रूपमा मेरो दृष्टिकोणबाट।
ती व्यक्तिहरू मध्ये केही मीरा मुराती हुन्, जो २० मिनेटका लागि OpenAI को नयाँ सीईओ थिइन्। त्यसपछि उनको प्रतिस्थापन गरिएको थियो। यो एक धेरै जटिल गतिशील थियो, र स्पष्ट रूपमा, साम फिर्ता आयो। अर्को व्यक्ति इल्या सुत्स्केभर हो, जो सामलाई हटाउनको लागि एक भोट थियो, र त्यसपछि उसले आफ्नो मन परिवर्तन गर्यो, वा कम्तिमा उसले आफ्नो मन परिवर्तन गर्यो, र त्यसपछि उसले आफ्नै कम्पनी सुरु गर्न छोड्यो। के तपाईंलाई थाहा छ उसले आफ्नो मन परिवर्तन गर्यो? पैसा मात्रै थियो र ?
ठिक छ, र स्पष्ट हुनको लागि, म ती दुईलाई बाहिर निकालिरहेको छैन। गोलीबारीमा संलग्न अन्य बोर्ड सदस्यहरू पनि छन् जो पछि एकदमै मौन छन्। मलाई लाग्छ यो एक व्यापक सामूहिक समस्या जस्तै हो। यी हुन्, केही अवस्थामा, अलार्म बजाउन र कट्टरपन्थी कारबाही गर्ने नैतिक फाइबर भएका व्यक्तिहरू, र त्यो प्रशंसा गर्न सकिन्छ। र यसरी तपाइँ जवाफदेहीता सुनिश्चित गर्नुहुन्छ। यसले यस प्रविधिबाट प्रभावित धेरै मानिसहरूलाई मद्दत गर्न सक्छ। यसले उद्योगलाई अझ अर्थपूर्ण रूपमा सुरक्षामा केन्द्रित रहन मद्दत गर्न सक्छ।
तर ह्विस्टलब्लोअरहरू र त्यो जवाफदेहीतालाई धेरै प्रम्प्ट गर्ने प्रयास गर्ने व्यक्तिहरूसँग व्यवहार गर्दा, तपाईंले यो पनि देख्नुहुन्छ कि यसले यसलाई टाँसिने र तपाईंको विश्वासमा खडा हुने फाइबर लिन्छ। र यो उद्योग साँच्चै मानिसहरूले भरिएको छ जो आफ्नो विश्वासमा खडा हुँदैनन्।
यद्यपि उनीहरू सोच्छन् कि उनीहरूले डिजिटल भगवानको निर्माण गर्दैछन् जसले कुनै न कुनै रूपमा सबै श्रमलाई हटाउनेछ वा थप श्रम सिर्जना गर्नेछ, वा केहि हुनेछ।
खैर, यो कुरा हो। त्यसोभए तपाईंको विश्वास र सबै नैतिक सरोकारहरूमा खडा नहुने संस्कृति जुन पल त्यहाँ कुनै पनि गर्मी वा व्यापारमा तपाईंको आफ्नै स्थितिलाई खतरामा पार्न सक्ने कुनै पनि कुरा हो जुन जुनसुकै किसिमको विजेट बनाउने व्यापार-जस्तै-सामान्य कम्पनीहरूका लागि केही हदसम्म राम्रो छ।
तर यी पनि उही मानिसहरू हुन् जसले यसो भनिरहेका छन्, "यसले शाब्दिक रूपमा हामी सबैलाई मार्न सक्छ।" र फेरि, तपाईंले टर्मिनेटर स्काइनेट चरममा जानु पर्दैन। त्यहाँ जोखिमहरूको एक सेट छ जुन पहिले नै साकार भइरहेको छ। यो वास्तविक हो, र तिनीहरूले यसको बारेमा चेताउनी दिन सही छन्, तर तपाईंले अरू कसैलाई आर्मचेयर राख्नु पर्छ मनोवैज्ञानिक रूपमा ती दुई चीजहरू एउटै मानिसहरूमा कसरी बस्न सक्छन् जहाँ उनीहरूले तत्काल चेतावनीहरू सुनिरहेका छन्, तिनीहरूले एक औंला राख्दै छन् र केहि गर्न कोशिस गर्दै छन्, र त्यसपछि तिनीहरू केवल फोल्ड गर्दै र चुप लागिरहेका छन्।
यही कारणले गर्दा तपाईसँग यस्ता प्रकारका चीजहरू लेख्नबाट बाहिर राखिएको र चीजहरू गलीचा मुनि फ्याँकिएको हुन सक्छ, र तथ्य पछि वर्षौंसम्म कसैले पनि यसबारे खुलेर कुरा गर्दैन।
यहाँ स्वाभाविक, जिम्मेवार पक्ष यी कम्पनीहरूको सीईओ हुनेछैन; यो सरकार हुनेछ। संयुक्त राज्यमा, सायदयो राज्य सरकार हो, हुनसक्छ यो संघीय सरकार हो।
पक्कै पनि, यी कम्पनीहरू सबै विश्वव्यापी हुन चाहन्छन्। यहाँ धेरै विश्वव्यापी प्रभावहरू छन्। मैले ओपनएआई, गुगल र एन्थ्रोपिक सबैले बाइडेन प्रशासनलाई एआई कार्यकारी आदेश जारी गर्न प्रेरित गरेको हेरे। यो अन्तमा धेरै दाँतविहीन थियो। यसले भर्खरै भन्यो कि उनीहरूले उनीहरूका मोडेलहरू के सक्षम छन् भन्ने बारे कुरा गर्नुपर्दछ र केही सुरक्षा परीक्षणहरू जारी गर्नुपर्दछ। र त्यसपछि तिनीहरू सबैले ट्रम्पलाई समर्थन गरे, र ट्रम्प भित्र आए र ती सबै मेटाए र भने, "हामी प्रतिस्पर्धी हुनुपर्छ। यो सबैका लागि नि: शुल्क हो। यसको लागि जानुहोस्।"
एकै समयमा, तिनीहरू सबै मध्य पूर्वी देशहरूबाट कोष जुटाउन कोशिस गरिरहेका छन् जससँग धेरै तेलको पैसा छ र तिनीहरू आफ्नो अर्थव्यवस्था परिवर्तन गर्न चाहन्छन्। ती राजनीतिज्ञ हुन् । मलाई लाग्छ कि राजनीतिज्ञहरूले निश्चित रूपमा बुझ्नुपर्छ कि कसैले उनीहरूको मुखको दुबै तर्फबाट कुरा गरिरहेको छ, र यदि कोही अन्तमा निराश भएमा उनीहरू धेरै विचलित हुने छैनन्, तर राजनीतिज्ञहरू पनि सवारीको लागि लगिरहेका छन्। तपाईलाई यस्तो किन लाग्छ?
यो साँच्चै हो, मलाई लाग्छ, किन टुक्रा मेरो विचारमा महत्त्वपूर्ण छ र किन यो सबै समय र विवरणमा खर्च गर्न लायक थियो। हामी यस्तो वातावरणमा छौं जहाँ प्रणालीहरू, जुन तपाईंले भन्नुहुन्छ, निरीक्षण उपलब्ध गराउनु पर्छ, खाली खाली छन्। त्यो पोस्ट-सिटिजन्स युनाइटेड अमेरिका हो, जहाँ पैसाको प्रवाह यति अव्यवस्थित छ, र यो AI को वरिपरि त्यो समस्याको विशेष एकाग्रता हो, जहाँ यी PAC हरू छन् जसले राज्य र संघीय दुवै तहमा अर्थपूर्ण नियमनलाई रद्द गर्न पैसालाई बढाउँदै र बाढी गरिरहेका छन्।
तपाईंसँग [ओपनएआई सह-संस्थापक] ग्रेग ब्रोकम्यान छन्, सामको कमाण्डमा दोस्रो, सीधै ती मध्ये केहीलाई प्रमुख तरिकामा योगदान गर्दै। यसले वास्तवमा विधायकहरू र सम्भावित नियामकहरूको कब्जामा रहेको स्थितिमा पुर्याउँछ, र त्यो बाहिर निस्कन गाह्रो छ। दुःखको कुरा के हो भने, मलाई लाग्छ कि त्यहाँ साधारण नीतिगत चालहरू छन्, जसमध्ये केही संसारमा अन्यत्र परीक्षण भइरहेको छ, जसले यी जवाफदेहिता समस्याहरू मध्ये केहीलाई मद्दत गर्नेछ।
तपाईंसँग अधिक अनिवार्य पूर्व-तैंचाई सुरक्षा परीक्षण हुन सक्छ, जुन त्यस्तो चीज हो जुन युरोपमा फ्रन्टियर मोडेलहरूको लागि भैरहेको छ। तपाइँसँग आन्तरिक अनुसन्धानका प्रकारहरूको लागि थप कडा लिखित सार्वजनिक रेकर्ड आवश्यकताहरू हुन सक्छ जहाँ हामीले यस मामलामा चीजहरू लेख्न बाहिर राखिएको देख्यौं। साम अल्टम्यानले अघि सारेका मध्य पूर्वी पूर्वाधारको महत्वाकांक्षाका लागि तपाईसँग राष्ट्रिय सुरक्षा समीक्षा संयन्त्रको अझ बलियो सेट हुन सक्छ।
तपाईले भन्नुभएझैं, उसले यो प्रलोभन गरिरहेको थियो र बिडेन प्रशासनसँग स्विच गर्दै थियो, "हामीलाई नियमन गर्नुहोस्, हामीलाई नियमन गर्नुहोस्" र उनीहरूलाई कार्यकारी आदेश बनाउन मद्दत गर्दै, र त्यसपछि ट्रम्प प्रवेश गर्ने क्षणमा, साँच्चिकै पहिलो दिनहरूमा, कुनै रोकटोक छैन, "हामी गति बढाऔं र अबु डीमा विशाल डाटा सेन्टर क्याम्पस निर्माण गरौं।" तपाईंसँग हुन सक्छ, यो एक साँच्चै सरल हो, जस्तै ह्वाइटलब्लोअर सुरक्षा। AI कम्पनीका कर्मचारीहरूलाई सुरक्षा दिने कुनै संघीय कानून छैन जसले यस टुक्रामा प्रसारित गरिएका सुरक्षा चिन्ताहरूको यस प्रकारको खुलासा गर्दछ।
हामीसँग केसहरू छन् जहाँ जान लीके, जो ओपनएआईमा वरिष्ठ सुरक्षा व्यक्ति थिए, कम्पनीमा सुपर पङ्क्तिबद्धताको नेतृत्व गरिरहेका थिए। उनले बोर्डलाई लेखे, अनिवार्य रूपमा व्हिसलब्लोअर सामग्री, कम्पनीले आफ्नो सुरक्षा मिशनमा रेलहरू बन्द गर्दैछ। ती मानिसहरूका प्रकारहरू हुन् जससँग वास्तवमा तिनीहरू जान सक्ने निरीक्षण निकाय हुनुपर्दछ, र तिनीहरूसँग हामीले अन्य क्षेत्रहरूमा देख्ने प्रकारहरूको स्पष्ट वैधानिक सुरक्षाहरू हुनुपर्दछ। यो एक Sarbanes-Oxley-शैली शासन प्रतिकृति गर्न सरल छ।
मलाई लाग्छ कि सिलिकन भ्यालीको समस्या जति गम्भीर छ, शक्तिका सबै लिभरहरू नियन्त्रणमा लिएको छ, र यी मध्ये केही संस्थाहरू जसले निरीक्षण र रेलिङ प्रदान गर्न सक्छ कत्तिको खोक्रो भए तापनि, म अझै पनि लोकतन्त्रको आधारभूत गणित र स्वार्थी राजनीतिज्ञहरूमा विश्वास गर्छु। र त्यहाँ धेरै र धेरै मतदान डाटा उभरिरहेको छ कि धेरै अमेरिकीहरूले सोच्छन् कि एआईका चिन्ता, प्रश्नहरू वा जोखिमहरू हालका फाइदाहरू भन्दा बढी छन्।
त्यसैले मलाई लाग्छ कि AI बाट राजनीतिमा पैसाको बाढी, यो राजनीतिज्ञहरूको सन्दर्भमा प्रश्न चिन्हको स्रोत बनाउनु हाम्रो सबै शक्ति भित्र छ। जब अमेरिकीहरू मतदान गर्न जान्छन्, उनीहरूले आफूले मतदान गर्ने मानिसहरूलाई, विशेष गरी यदि तिनीहरू अनालोचनात्मक र नियम विरोधी छन् भने, यी सबै चिन्ताहरूलाई ध्यानमा राखेर, ठूला प्राविधिक विशेष चासोहरूद्वारा बैंकरोल गरिएको छ कि छैन भनी जाँच गर्नुपर्छ। त्यसैले मलाई लाग्छ कि यदि मानिसहरूले यस प्रकारका टुक्राहरू पढ्न सक्छन्, यस प्रकारका पोडकास्टहरू सुन्न सक्छन्, र आलोचनात्मक रूपमा सोच्न पर्याप्त ध्यान दिन्छन्।मतदाताको रूपमा उनीहरूका निर्णयहरू, त्यहाँ वाशिंगटनमा प्रतिनिधिहरूको एक निर्वाचन क्षेत्र उत्पन्न गर्ने वास्तविक अवसर हो जसले निगरानी र बलियो निगरानी गर्दछ।
त्यो सबैभन्दा आशावादी चीजहरू मध्ये एक हुन सक्छ जुन मैले हालको एआई उद्योगको बारेमा कसैले भनेको सुनेको छु। म यसको कदर गर्छु। तपाईले कुरा गरिरहनु भएको मतदानमा म पागल छु। अहिले धेरै छ। यो सबै एकदम मिल्दोजुल्दो छ, र यस्तो देखिन्छ कि अधिक युवा मानिसहरू, विशेष गरी, AI को सम्पर्कमा छन्, तिनीहरू यस बारे उति धेरै अविश्वासी र क्रोधित छन्। यो सबै मतदानको valence हो। र म त्यो हेर्छु, र मलाई लाग्छ, ठीक छ, हो, स्मार्ट राजनीतिज्ञहरू यसको विरुद्धमा दौडनेछन्। तिनीहरूले मात्र भन्नेछन्, "हामी ठूला टेकलाई जवाफदेही बनाउँदैछौं।"
त्यसपछि म विगत २० वर्षको बारेमा सोच्छु, एक राजनीतिज्ञले उनीहरूले ठूला टेकलाई जवाफदेही बनाउँदैछन् भनी सोच्दछन्, र म ठूला टेकको एक क्षण पनि जवाफदेही हुन खोज्दैछु। एक मात्र चीज जसले मलाई यो फरक हुन सक्छ भन्ने सोच्दछ, ठीक छ, तपाईले वास्तवमा डाटा सेन्टरहरू निर्माण गर्नुपर्नेछ, र तपाईले यसको विरुद्धमा मतदान गर्न सक्नुहुन्छ, र तपाईले त्यसको विरुद्धमा निवेदन दिन सक्नुहुन्छ, र तपाईले यसको विरुद्धमा विरोध गर्न सक्नुहुन्छ।
मलाई लाग्छ कि त्यहाँ एक राजनीतिज्ञ हुनुहुन्छ जसले भर्खरै आफ्नो घरमा गोली हानेको थियो किनभने उनीहरूले डाटा सेन्टरको लागि मतदान गरे। तनाव पुग्दैछ, म यसलाई भन्छु, ज्वरो पिच। तपाईंले सिलिकन भ्यालीको इन्सुलरिटी वर्णन गर्नुभएको छ। यो बन्द इकोसिस्टम हो। यस्तो लाग्छ कि उनीहरूले संसार चलाउन सक्छन्। तिनीहरूले राजनीतिमा धेरै पैसा लगाइरहेका छन्, र तिनीहरू वास्तविकताको विरुद्धमा दौडिरहेका छन् कि मानिसहरूले उत्पादनहरू मन पराउँदैनन्, जसले तिनीहरूलाई धेरै कभर दिँदैन। उनीहरूले उत्पादनहरू जति धेरै प्रयोग गर्छन्, उनीहरू उति नै निराश हुन्छन्, र राजनीतिज्ञहरूले उनीहरूले प्रतिनिधित्व गर्ने मानिसहरूमा टेक उद्योगलाई समर्थन गर्ने वास्तविक परिणामहरू देख्न थालेका छन्।
तपाईंले धेरै मानिसहरूसँग कुरा गर्नुभयो। के तपाईलाई लाग्छ कि प्राविधिक उद्योगले उनीहरूको अगाडि रहेको पाठ सिक्न सम्भव छ?
तपाईं भन्नुहुन्छ कि उनीहरूले सोच्छन् कि उनीहरूले जवाफदेही बिना संसार चलाउन सक्छन्। मलाई लाग्दैन कि त्यसलाई "जस्तो लाग्छ" क्वालिफायर चाहिन्छ। मेरो मतलब, तपाईले पीटर थिलले प्रयोग गरिरहेको भाषा हेर्नुहुन्छ, यो स्पष्ट छ। निस्सन्देह, यो एक चरम उदाहरण हो। र सैम अल्टम्यान, यद्यपि ऊ नजिक छ र थियेलको विचारधाराबाट केही हदसम्म सूचित छ, एक धेरै फरक प्रकारको व्यक्ति हो जुन एक बिन्दुमा फरक र अधिक मापन गर्न सक्छ।
तर मलाई लाग्छ कि तपाईले Thiel बाट प्राप्त गर्नुभएको व्यापक विचारधारा, जुन मूलतः हो: हामीले लोकतन्त्रको साथ गरिसकेका छौं, हामीलाई अब यसको आवश्यकता छैन। हामीसँग यति धेरै छ कि हामी केवल आफ्नै सानो बन्करहरू बनाउन चाहन्छौं। हामी अब कार्नेगीहरू वा रकफेलरहरूसँग व्यवहार गरिरहेका छैनौं, जहाँ तिनीहरू खराब मान्छे हुन्, तर उनीहरूले सामाजिक सम्झौतामा भाग लिन र मानिसहरूका लागि चीजहरू निर्माण गर्न आवश्यक महसुस गर्छन्। त्यहाँ एक वास्तविक शून्यवाद छ जुन सेट गरिएको छ।
र मलाई लाग्छ कि यो भर्खरको अमेरिकी इतिहासमा मोगलहरू र निजी कम्पनीहरूले सुपर सरकारी शक्ति प्राप्त गर्ने पारस्परिक रूपमा सुदृढ पार्ने सर्पिल भएको छ जबकि उनीहरूलाई जवाफदेही बनाउन सक्ने प्रजातान्त्रिक संस्थाहरू खाली छन्। ती केटाहरू एक दिन मात्र उठ्छन् र सोच्छन्, "हुह, वास्तवमा हामीले समाजमा भाग लिन र मानिसहरूका लागि चीजहरू निर्माण गर्न मद्दत गर्न आवश्यक छ।"
मेरो मतलब, तपाईं दि गिभिङ प्लेजको माइक्रोकोस्मिक उदाहरण जस्तै हेर्नुहुन्छ, जहाँ एक पल थियो जहाँ यो परोपकारी जस्तो देखिन्छ, र त्यो क्षण अब अतीत र उपहास पनि छ। त्यो एउटा समस्या हो, जवाफदेहीताको अभावको फराकिलो समस्या जुन मलाई लाग्छ बाह्य रूपमा मात्र समाधान गर्न सकिन्छ। त्यो मतदाताहरूलाई परिचालन र सरकारी निरीक्षणको शक्ति पुनरुत्थान गर्नुपर्दछ। र तपाईले भन्नु ठीक छ कि मुख्य भेक्टर जसको माध्यमबाट मानिसहरूले त्यो हासिल गर्न सक्छन् स्थानीय हो। यो जहाँ पूर्वाधार निर्माण भइरहेको छ त्यससँग सम्बन्धित छ।
तपाईंले यसको वरिपरि केही सेतो-तातो तनाव उल्लेख गर्नुभयो जसले हिंसा र धम्कीहरू निम्त्याउँछ, र स्पष्ट रूपमा, कोही पनि हिंसात्मक वा धम्की हुनु हुँदैन। र म यहाँ आधारभूत देखिने र विश्वको अन्यत्र काम गरिरहेका केही नीति चरणहरू प्रस्तुत गर्न बाहेक विशिष्ट नीति सिफारिसहरू गर्न यहाँ आएको छैन, हैन? वा अन्य क्षेत्रमा काम गर्नेहरू। ती मध्ये कसलाई र कसरी कार्यान्वयन गर्नुपर्छ भन्ने म यहाँ छैन।
मलाई लाग्छ कि केहि हुन आवश्यक छ, र यो बाह्य हुनु आवश्यक छ, यी कम्पनीहरूमा मात्र विश्वास गर्दैन। किनभने सहीअब हामीसँग यस्तो अवस्था छ जहाँ कम्पनीहरू जसले प्रविधिको विकास गरिरहेका छन् र जोखिमहरू बुझ्नको लागि उत्तम रूपमा सुसज्जित छन्, र वास्तवमा हामीलाई जोखिमहरूबारे चेतावनी दिने कम्पनीहरू पनि छन्, ती कम्पनीहरूले छिटो जान र ती जोखिमहरूलाई बेवास्ता गर्ने प्रोत्साहन बाहेक अरू केही छैन। र तपाइँसँग त्यसलाई सन्तुलनमा राख्नको लागि केहि पनि छैन। त्यसोभए जेसुकै सुधारहरूले विशिष्टताको सर्तमा लिन सक्छ, त्यसको विरुद्धमा केही न केही चल्नुपर्छ। र म अझै पनि त्यो आशावादमा फर्कन्छु कि मानिसहरू अझै महत्त्वपूर्ण छन्।
म सामान्यतया तपाईको तर्क किन्छु। मलाई एउटा सानो प्रतिवाद गर्न दिनुहोस् जुन मलाई लाग्छ कि म व्यक्त गर्न सक्छु। मतपेटिका बाहिर हुन सक्ने अर्को कुरा भनेको बबल पप हुन्छ, हैन? कि यी सबै कम्पनीहरू अन्तिम रेखामा पुग्दैनन्, र उपभोक्ता AI अनुप्रयोगहरूको लागि उत्पादन बजार फिट छैन। र फेरि, म यसलाई अझै देख्दिन, तर म एक उपभोक्ता प्राविधिक समीक्षक हुँ, र हुनसक्छ मसँग अरू सबै भन्दा उच्च स्तरहरू छन्।
व्यापार संसारमा उत्पादन बजार फिट छ, हैन? एआई एजेन्टहरूको गुच्छा भएको सफ्टवेयरको गुच्छा लेख्नु यी उपकरणहरूको लागि वास्तविक बजार जस्तो देखिन्छ। र तपाईले यी कम्पनीहरूबाट तर्कहरू पढ्न सक्नुहुन्छ, "हामीले कोडिङ समाधान गर्यौं, र यसको मतलब हामी जे पनि समाधान गर्न सक्छौं। यदि हामीले सफ्टवेयर बनाउन सक्छौं भने, हामी कुनै पनि समस्या समाधान गर्न सक्छौं।"
मलाई लाग्छ कि सफ्टवेयरले गर्न सक्ने चीजहरूको वास्तविक सीमाहरू छन्। यो व्यापार संसारमा ठूलो छ। सफ्टवेयरले वास्तविकतामा हरेक समस्या समाधान गर्न सक्दैन, तर तिनीहरू त्यहाँ पुग्नु पर्छ। तिनीहरूले काम समाप्त गर्न पाए, र सायद सबैले यसलाई अन्तिम रेखामा बनाउँदैनन्। र त्यहाँ एक दुर्घटना हुन्छ, र यो बबल पप हुन्छ, र हुनसक्छ OpenAI वा एन्थ्रोपिक वा xAI, यी मध्ये कुनै एक कम्पनी असफल हुन्छ, र यो सबै लगानी जान्छ।
के तपाईलाई लाग्छ कि यसले यसलाई असर गर्छ? वास्तवमा, मलाई पहिलो प्रश्न सोध्न दिनुहोस्। OpenAI एक IPO को कुर्सी मा छ। नेताको रूपमा सामको बारेमा धेरै शंकाहरू छन्। के तपाइँ सोच्नुहुन्छ कि तिनीहरूले यसलाई अन्तिम रेखामा बनाउन जाँदैछन्?
म भविष्यवाणी गर्न गइरहेको छैन, तर मलाई लाग्छ कि तपाईंले एउटा महत्त्वपूर्ण बिन्दु उठाउनुहुन्छ, जुन यो हो कि बजार प्रोत्साहनहरूले सिलिकन भ्यालीमा आन्तरिक रूपमा फरक पार्छ, र हालको बबल गतिशीलताको यथार्थताले फेरि, सम्भावित रूपमा, आलोचकहरूका अनुसार, सुरक्षाको तलसम्म दौडमा बाधा पुर्याउँछ।
म यसमा थप्छु, यदि तपाईले ऐतिहासिक प्राथमिकतालाई हेर्नुभयो जहाँ बजार प्रोत्साहनको समान र अभेद्य सेट र जनताको लागि सम्भावित रूपमा हानिकारक प्रभावहरू छन्, त्यहाँ प्रभाव मुकदमा छ। र तपाइँ यसलाई हालसालै चिन्ताको क्षेत्रको रूपमा देख्नुहुन्छ। उदाहरणका लागि, Sam Altman यस हप्ता बाहिर छन् कानूनको समर्थन गर्दै जसले AI कम्पनीहरूलाई केही प्रकारका दायित्वहरूबाट जोगाउनेछ जुन OpenAI गलत मृत्युको मुद्दामा पर्दाफास भएको छ। अवश्य पनि, दायित्वबाट त्यो ढाल प्राप्त गर्ने इच्छा छ।
मलाई लाग्छ कि अदालतहरू अझै पनि सार्थक संयन्त्र हुन सक्छन्, र यी सूटहरू कसरी आकार दिन्छन् भनेर हेर्न वास्तवमै रोचक हुनेछ। तपाईंले पहिले नै देख्नुभएको छ, उदाहरणका लागि, क्लास-एक्शन सूट, जसमध्ये म र मैले चिनेका अन्य धेरै लेखकहरू एन्थ्रोपिकको विरुद्धमा प्रतिलिपि अधिकार अन्तर्गत रहेका पुस्तकहरूको प्रयोगको लागि सदस्यहरू छन्। यदि त्यहाँ स्मार्ट कानुनी दिमाग र वादीहरू छन् जसले हेरचाह गर्छन्, हामीले ऐतिहासिक रूपमा ठूला तंबाकूदेखि ठूलो ऊर्जासम्मका मामिलाहरूमा देखेका छौं, तपाईंले केही रेलहरू र केही प्रोत्साहनहरू पनि कम गर्न, सावधान रहन वा मानिसहरूलाई यसरी जोगाउन सक्नुहुन्छ।
यस्तो लाग्छ कि एआई उद्योगको सम्पूर्ण लागत संरचना उचित प्रयोगको धेरै, धेरै परोपकारी व्याख्यामा झुण्डिएको छ। पर्याप्त मात्रामा आउँदैन। यी कम्पनीहरूको लागत संरचना नियन्त्रण बाहिर सर्पिल हुन सक्छ यदि उनीहरूले तपाईंलाई र अरू सबै जसको काम उनीहरूले लिएका छन् तिर्नुपर्छ, तर यो सोच्न असुविधाजनक छ, त्यसैले हामी यसको बारेमा सोच्दैनौं। त्यसको ठीक छेउमा, यी सबै उत्पादनहरू अहिले घाटामा चलिरहेका छन्। आज जस्तै, तिनीहरू सबै घाटामा चलिरहेका छन्। उनीहरूले कमाउन सक्ने भन्दा बढी पैसा जलाउँदैछन्। केही बिन्दुमा, तिनीहरूले स्विच फ्लिप गर्नुपर्छ।
सैम एक व्यापारी हो। तपाईंले धेरै पटक उल्लेख गरिसक्नुभएको छ, उहाँ प्राविधिक होइनन्। उनी व्यवसायी हुन् । के तपाई सोच्नुहुन्छ कि उहाँ स्विच फ्लिप गर्न र भन्न तयार हुनुहुन्छ, "हामी एक डलर बनाउन जाँदैछौं?" किनभने जब मैले सोध्छु, "के तपाईलाई लाग्छ कि OpenAI ले यो बनाउन गइरहेको छ?" यो जब तिनीहरूले एक डलर बनाउनु पर्छ। र अहिलेसम्म, सामले आफ्ना कम्पनीहरूलाई पैसा कमाउनको सट्टा अन्य मानिसहरूलाई उनीहरूको पैसाको लागि सोधेर आफ्नो सबै डलर बनाएका छन्।
खैर, यो सिलिकन भ्यालीका लागि, लगानीकर्ताहरूका लागि, जनताका लागि ठूलो लामो प्रश्न हो।तपाईले केहि कथनहरू देख्नुहुन्छ र ओपनएआईबाट बाहिर निस्कन्छ जुन त्यसको बारेमा एक प्रकारको आतंक प्रकट गर्दछ। सोरा बन्द गर्दै, केही सहायक परियोजनाहरू बन्द गर्दै, मुख्य उत्पादनमा शून्य गर्ने प्रयास गर्दै। तर अर्को तर्फ, तपाईले अझै पनि देख्नुहुन्छ, एकै समयमा, धेरै मिशन क्रिप, हैन? एउटा सानो उदाहरण पनि - यो स्पष्ट रूपमा तिनीहरूको व्यवसायको लागि मूल होइन - TBPN अधिग्रहण हो।
वैसे, हामी अन्तिम रेखा र तथ्य-जाँचमा पुग्दा, यस प्रकारको पत्रकारिता छानबिनको सामना गरिरहेको कम्पनीले एउटा प्लेटफर्म प्राप्त गर्दछ जहाँ उनीहरूले कुराकानीमा बढी प्रत्यक्ष नियन्त्रण गर्न सक्छन्। मलाई लाग्छ कि त्यहाँ धेरै लगानीकर्ताहरू छन् जो चिन्तित छन्, मैले गरेको कुराकानीको आधारमा, सबै मानिसहरूलाई सबै चीजहरू वाचा गर्ने यो समस्या पनि मुख्य व्यापार मोडेलमा फोकसको कमीलाई विस्तार गर्दछ। र मेरो मतलब, तपाईं अनुमान लगाउने र बजार हेर्ने प्रकारको नजिक हुनुहुन्छ सायद म भन्दा। म तपाई र श्रोताहरूलाई ओपनएआईले स्विच फ्लिप गर्न सक्छ कि भनेर सोच्नको लागि न्यायाधीश हुन छोड्नेछु।
ठिक छ, मैले प्रश्न सोधें किनभने तपाईंले माइक्रोसफ्टका एक वरिष्ठ कार्यकारीबाट एउटा उद्धरण प्राप्त गर्नुभएको छ, र यो हो, "स्यामको विरासत स्टीव जब्सको सट्टा बर्नी म्याडफ वा साम बैंकम्यान-फ्राइडसँग मिल्दोजुल्दो हुन सक्छ।" त्यो एकदम तुलना हो। तपाईंले त्यो तुलनालाई के गर्नुभयो?
मलाई लाग्छ कि यो एक उपन्यास हो। स्टीव जब्सको अंश उद्धरणको अंश थिएन। तर यसमा एउटा चाखलाग्दो प्रकारको संयमता छ किनकि यसलाई यसरी भनिएको छ, "मलाई लाग्छ कि त्यहाँ एउटा सानो तर वास्तविक मौका छ कि उसले SBF वा Madoff-स्तर स्क्यामर बन्न सक्छ।" मतलब, मेरो दिमागमा, सामलाई ती विशेष प्रकारका धोखाधडी वा अपराधहरूको आरोप लगाइएको होइन, तर सैमबाट डिसेम्बलिंग र छलको डिग्री अन्ततः त्यो स्तरमा सम्झिने मौका हुन सक्छ।
हो, मलाई लाग्छ कि त्यो उद्धरणको बारेमा सबैभन्दा उल्लेखनीय कुरा के हो, इमान्दारीपूर्वक, यो हो कि तपाइँ माइक्रोसफ्टमा कल गर्नुहुन्छ र तपाइँले लाइक पाउनुभएको छैन, "यो पागल हो। हामीले त्यो कहिल्यै सुनेका छैनौं।" तपाईंले धेरै लाइक पाउनुहुन्छ, "हो, यहाँ धेरै मानिसहरूले सोच्छन" जुन उल्लेखनीय छ। र मलाई लाग्छ कि यो यी नट र बोल्ट व्यवसाय प्रश्नहरूमा जान्छ।
एक लगानीकर्ताले मलाई भने, उदाहरणका लागि, गोलीबारी पछिका वर्षहरूमा यो विशेषता कसरी रहिरह्यो भन्ने प्रकाशमा" - र यसले यो पनि चाखलाग्दो विवेकपूर्ण विचार हो भन्ने सोच्यो - कि यो आवश्यक छैन कि साम सूचीको निरपेक्ष तलमा हुनुपर्छ, जस्तै मानिसहरूको हिसाबले तल्लो भन्दा तल्लो हुनुपर्दछ कि यो धेरै व्यक्तिहरूले यो टेक्नोलोजी निर्माण गर्न लायक छैन भनेर भनेका छन्। तर यो विशेषताले उसलाई एजीआई बनाउनु पर्ने व्यक्तिहरूको सूचीको तल र यस क्षेत्रमा धेरै अन्य प्रमुख व्यक्तित्वहरू भन्दा तल राख्छ।
त्यसोभए मैले सोचे कि यो एक चाखलाग्दो मूल्याङ्कन हो, र यो त्यस्तो प्रकारको सोच हो जुन मलाई लाग्छ कि तपाइँ वास्तविक व्यावहारिकवादीहरूबाट प्राप्त गर्नुहुन्छ जसले सायद सुरक्षा चिन्ताहरूमा धेरै किनिरहेका छैनन्। तिनीहरू केवल विकास-उन्मुख छन्, र तिनीहरू सोच्छन् कि OpenAI अब साम अल्टम्यानसँग समस्या छ।
माइक्रोसफ्ट टुक्रा साँच्चै रोचक छ। त्यो कम्पनीले सोच्यो कि तिनीहरू संसारको शीर्षमा छन्। कि उनीहरूले यो लगानी गरेका थिए र उनीहरूले सबैलाई, विशेष गरी र सबैभन्दा महत्त्वपूर्ण कुरा, Google, र उपभोक्ताहरूको राम्रो अनुग्रहमा फर्कन लागेका थिए। तिनीहरूले यस साहसिक कार्यबाट जलेको महसुस गरेको स्तर - यो एक धेरै संयमित कम्पनी हो - मलाई लाग्दैन कि अतिरंजित हुन सक्छ।
तपाईंले पात्रहरू र व्यक्तित्व लक्षणहरू उल्लेख गर्नुभयो। म हाम्रा श्रोताहरूको प्रश्नको साथ यहाँ अन्त्य गर्न चाहन्छु। मैले हाम्रो अर्को शो, द भर्जकास्टमा भनेँ कि म तपाईंसँग कुरा गर्न जाँदैछु, र मैले भनें, "यदि तपाईंसँग यस कथाको बारेमा रोनानको लागि प्रश्नहरू छन् भने, मलाई थाहा दिनुहोस्।" त्यसोभए हामीसँग यहाँ एउटा छ जुन मलाई लाग्छ कि तपाईंले वर्णन गरिरहनुभएको कुरासँग राम्रोसँग सम्बन्ध छ। म तपाईलाई यो पढ्न जाँदैछु:
"नराम्रो व्यवहारको औचित्य, अल्टम्यान र अन्य एआई नेताहरूको कटथ्रोट कार्यहरू, रोनानले राजनीति र मिडियामा अन्य उच्च-प्रोफाइल नेताहरूबाट सुनेका औचित्यहरू भन्दा कसरी भिन्न छन्? संसार यसरी बदलिन्छ भनेर सबैले आ-आफ्नो कर्मलाई जायज ठहराउँदैनन् र ? यदि मैले यो गरेन भने, अरू कसैले गर्छ?"
हो, त्यहाँ धेरै कुराहरू छन्। म भन्न चाहन्छु कि AI को विशिष्टता के हो कि अस्तित्वको दांव यति विशिष्ट रूपमा उच्च हुनुको अर्थ दुबै जोखिमको बयान चरम छ, हैन? तपाईंसँग Sam Altman छयसो भन्दै, "यो हामी सबैको लागि उज्यालो हुन सक्छ।" र पनि, आलोचकहरूले भन्न सक्छन्, प्रश्नकर्ताले उल्लेख गरेको उन्माद चरम छ, हैन?
सामले एलोनलाई अभियोग लगाएको कुरा, रेकर्डमा, त्यो हो कि उसले मानवता बचाउन चाहन्छ, तर मात्र यदि यो उहाँ हो। जित्न चाहने अहंकारको प्रकार, जुन फ्रेमिङ सैमले सधैं प्रयोग गर्दछ, र यो इतिहास पुस्तकहरूको लागि एक हो, यसले सबै कुरा परिवर्तन गर्न सक्छ। त्यसकारण, धेरै जसो सिलिकन भ्याली उद्यमहरूको "तपाईंले केही अण्डाहरू तोड्नु पर्छ" भन्ने मानसिकता माथि र पछाडि पनि, त्यहाँ एआई नेतृत्व गर्ने केही व्यक्तिहरूको दिमागमा छ, मलाई लाग्छ, कुनै पनि र सबै नतिजाहरूको लागि पूर्ण तर्कसंगतता।
र अण्डा तोड्न बिर्सनुहोस्। मलाई/ लाग्छ कि धेरै अन्तर्निहित सुरक्षा अनुसन्धानकर्ताहरूले सम्भावित रूपमा देश तोड्ने, संसार तोड्ने, र लाखौं मानिसहरूलाई तोड्ने जोखिममा छन् जसको रोजगारी र सुरक्षा सन्तुलनमा छ - यो यसको बारेमा अद्वितीय छ। त्यहि ठाउँमा म बन्द गर्छु, रिपोर्टिङको यस शरीरमा प्रतिबिम्बित गर्दै, वास्तवमा विश्वास गर्दै यो साम अल्टम्यान भन्दा बढी हो। यो एक उद्योग को बारे मा हो जुन अनियन्त्रित छ र अमेरिका को एक घुमाउरो समस्या यसलाई सीमित गर्न असमर्थ छ।
हो। ठिक छ, हामीसँग त्यहाँ केही आशावादी थियो, तर मलाई लाग्छ कि यो छोड्ने राम्रो ठाउँ हो।
[हाँसो] डाउनबिटमा अन्त्य गर्नुहोस्।
अवश्य पनि। त्यो हरेक महान कथा हो, साँच्चै। Musk-Altman trial आगामी छ। मलाई लाग्छ हामीले यहाँ धेरै कुरा सिक्ने छौं। मलाई शंका छ म तपाईसँग फेरि कुरा गर्न चाहन्छु। रोनान फारो, डिकोडरमा भएकोमा धेरै धेरै धन्यवाद।
धन्यवाद।
यस एपिसोडको बारेमा प्रश्न वा टिप्पणीहरू? हामीलाई [email protected] मा हिट गर्नुहोस्। हामी वास्तवमै हरेक इमेल पढ्छौं!
