Σήμερα στο Decoder, μιλάω με τον Ronan Farrow, έναν από τους μεγαλύτερους αστέρες του ερευνητικού ρεπορτάζ που εργάζεται σήμερα. Έσπασε την ιστορία του Χάρβεϊ Γουάινστιν, μεταξύ πολλών, πολλών άλλων. Και μόλις την περασμένη εβδομάδα, αυτός και ο συν-συγγραφέας Andrew Marantz δημοσίευσαν μια απίστευτη αφήγηση στο The New Yorker σχετικά με τον CEO του OpenAI Sam Altman, την αξιοπιστία του και την άνοδο του ίδιου του OpenAI.
Μια σημείωση προτού πάμε παρακάτω εδώ — The New Yorker δημοσίευσε αυτή την ιστορία και ο Ronan και εγώ είχαμε αυτή τη συνομιλία πριν μάθουμε την πλήρη έκταση των επιθέσεων στο σπίτι του Altman, οπότε δεν θα μας ακούσετε να μιλάμε απευθείας γι' αυτό. Αλλά για να το πω μόνο, νομίζω ότι η βία κάθε είδους είναι απαράδεκτη, αυτές οι επιθέσεις στον Σαμ ήταν απαράδεκτες και ότι το είδος της αδυναμίας που νιώθουν οι άνθρωποι, που οδηγεί σε αυτό το είδος βίας, είναι από μόνο του απαράδεκτο και αξίζει πολύ περισσότερο έλεγχο τόσο από τη βιομηχανία όσο και από τους πολιτικούς μας ηγέτες. Ελπίζω να είναι ξεκάθαρο.
Συνδρομητές Verge, μην ξεχνάτε ότι έχετε αποκλειστική πρόσβαση στον Αποκωδικοποιητή χωρίς διαφημίσεις όπου κι αν λαμβάνετε τα podcast σας. Κατευθυνθείτε εδώ. Δεν είστε συνδρομητής; Μπορείτε να εγγραφείτε εδώ.
Τούτου λεχθέντος, υπάρχει πολύς στροβιλισμός γύρω από τον Altman που είναι δίκαιο παιχνίδι για αυστηρές αναφορές - το είδος της αναφοράς που ο Ronan και ο Andrew είχαν σκοπό να κάνουν. Χάρη στη δημοτικότητα του ChatGPT, ο Altman έχει αναδειχθεί ως το πιο ορατό πρόσωπο της βιομηχανίας AI, έχοντας μετατρέψει ένα άλλοτε μη κερδοσκοπικό ερευνητικό εργαστήριο σε ιδιωτική εταιρεία σχεδόν τρισεκατομμυρίων δολαρίων μέσα σε λίγα μόλις χρόνια. Αλλά ο μύθος του Άλτμαν είναι βαθιά αντικρουόμενος, ο οποίος ορίζεται εξίσου τόσο από την προφανή ικανότητα του να κάνει συναλλαγές όσο και από την αναφερόμενη τάση του να… καλά, να λέει ψέματα σε όλους γύρω του.
Η ιστορία έχει περισσότερες από 17.000 λέξεις και περιέχει αναμφισβήτητα την οριστική περιγραφή του τι συνέβη το 2023 όταν το διοικητικό συμβούλιο του OpenAI απέλυσε πολύ ξαφνικά τον Altman για το υποτιθέμενο ψέμα του, μόνο για να επαναπροσληφθεί σχεδόν αμέσως. Είναι επίσης μια βαθιά βουτιά στην προσωπική ζωή του Άλτμαν, τις επενδύσεις του, το φλερτ του για τα χρήματα της Μέσης Ανατολής και τις δικές του σκέψεις σχετικά με την προηγούμενη συμπεριφορά και τα χαρακτηριστικά του χαρακτήρα του που οδήγησαν μια πηγή να πει ότι δεν περιοριζόταν από την αλήθεια. Σας προτείνω πραγματικά να διαβάσετε ολόκληρη την ιστορία. Υποψιάζομαι ότι θα αναφέρεται για πολλά χρόνια ακόμα.
Ο Ρόναν μίλησε με τον Άλτμαν πολλές φορές κατά τη διάρκεια των 18 μηνών που αφιέρωσε αναφέροντας αυτό το κομμάτι, και έτσι ένα από τα κύρια πράγματα για το οποίο ήμουν περίεργος ήταν αν ένιωσε κάποια αλλαγή στον Άλτμαν κατά τη διάρκεια αυτής της περιόδου. Εξάλλου, έχουν συμβεί πολλά στην τεχνητή νοημοσύνη, στην τεχνολογία και στον κόσμο τον τελευταίο ενάμιση χρόνο.
Θα ακούσετε τον Ρόναν να μιλάει γι' αυτό πολύ άμεσα, καθώς και την αίσθηση του ότι οι άνθρωποι έχουν γίνει πολύ πιο πρόθυμοι να μιλήσουν για την ικανότητα του Άλτμαν να απλώνει την αλήθεια. Οι άνθρωποι αρχίζουν να αναρωτιούνται, φωναχτά και στο αρχείο, εάν η συμπεριφορά ανθρώπων όπως ο Altman αφορά, όχι μόνο για την τεχνητή νοημοσύνη ή την τεχνολογία, αλλά και για το συλλογικό μέλλον της κοινωνίας.
Εντάξει: Ο Ρόναν Φάροου για τον Σαμ Άλτμαν, την τεχνητή νοημοσύνη και την αλήθεια. Πάμε λοιπόν.
Αυτή η συνέντευξη έχει υποστεί ελαφρά επεξεργασία για μεγαλύτερη διάρκεια και σαφήνεια.
Ρόναν Φάροου, είσαι ερευνητικός ρεπόρτερ και συνεργάτης στο The New Yorker. Καλώς ήρθατε στο Decoder.
Χαίρομαι που είμαι εδώ. Ευχαριστώ που με έχεις.
Είμαι πολύ ενθουσιασμένος που θα σας μιλήσω. Μόλις έγραψες ένα μεγάλο κομμάτι για τον New Yorker. Είναι ένα προφίλ του Sam Altman και, κατά κάποιο τρόπο, του OpenAI. Η διάβασή μου είναι ότι, όπως κάνουν όλα τα εξαιρετικά χαρακτηριστικά, με αυστηρές αναφορές, επικυρώνει πολλά συναισθήματα που είχαν οι άνθρωποι για τον Sam Altman εδώ και πολύ καιρό. Προφανώς το έχετε δημοσιεύσει, έχετε αντιδράσεις σε αυτό. Πώς νιώθεις γι' αυτό αυτή τη στιγμή;
Λοιπόν, με ενθουσίασε, στην πραγματικότητα, ο βαθμός στον οποίο έχει σπάσει σε μια εποχή όπου η οικονομία της προσοχής είναι τόσο σχιζοφρενική και ρηχή. Αυτή είναι μια ιστορία που, κατά την άποψή μου, μας επηρεάζει όλους. Και όταν πέρασα ενάμιση χρόνο από τη ζωή μου και ο συν-συγγραφέας μου, ο Andrew Marantz, πέρασε επίσης αυτόν τον χρόνο, προσπαθώντας πραγματικά να κάνει κάτι ιατροδικαστικό και σχολαστικό, είναι πάντα επειδή αισθάνομαι ότι υπάρχουν μεγαλύτερα δομικά ζητήματα που επηρεάζουν ανθρώπους πέρα από το άτομο και την εταιρεία στην καρδιά της ιστορίας.
Ο Sam Altman, με φόντο τη διαφημιστική κουλτούρα της Silicon Valley και τις νεοφυείς επιχειρήσεις που οδηγούν σε τεράστιες αποτιμήσεις βασισμένες σε υποσχέσεις που μπορεί ή όχι να πραγματοποιηθούν στο μέλλον και μια αυξανόμενη αγκαλιά μιας ιδρυτικής κουλτούρας που πιστεύει ότι το να λέει σε διαφορετικές ομάδες διαφορετικά αντικρουόμενα πράγματα είναι χαρακτηριστικό, όχιbug… Ακόμα και σε αυτό το πλαίσιο, ο Sam Altman είναι μια εξαιρετική περίπτωση όπου όλοι στη Silicon Valley που περιμένουν αυτά τα πράγματα δεν μπορούν να σταματήσουν να μιλάνε για αυτό το ζήτημα της αξιοπιστίας και της ειλικρίνειας του.
Γνωρίζαμε ήδη ότι απολύθηκε λόγω κάποιας εκδοχής ισχυρισμών ανεντιμότητας ή σειριακών υποτιθέμενων ψεμάτων. Αλλά εξαιρετικά, παρά το γεγονός ότι υπήρξαν υπέροχα ρεπορτάζ, ο Keach Hagey έχει κάνει εξαιρετική δουλειά σε αυτό. Η Karen Hao έχει κάνει εξαιρετική δουλειά σε αυτό. Δεν υπήρχε πραγματικά μια οριστική κατανόηση των πραγματικών υποτιθέμενων αποδεικτικών σημείων και των λόγων για τους οποίους αυτά έμειναν μακριά από τη δημοσιότητα.
Το σημείο ένα, λοιπόν, είναι ότι νιώθω ενθαρρυντικός από το γεγονός ότι ορισμένα από αυτά τα κενά στη δημόσια γνώση μας, ακόμη και στη γνώση των εμπιστευόμενων στη Silicon Valley, έχουν πλέον καλυφθεί λίγο περισσότερο. Κάποιοι από τους λόγους που υπήρχαν κενά έχουν καλυφθεί λίγο περισσότερο.
Αναφέρουμε περιπτώσεις όπου οι άνθρωποι εντός αυτής της εταιρείας ένιωθαν πραγματικά ότι τα πράγματα συγκαλύφθηκαν ή σκόπιμα δεν τεκμηριώθηκαν. Ένα από τα νέα πράγματα σε αυτή την ιστορία είναι μια κομβική έρευνα δικηγορικού γραφείου από την WilmerHale, η οποία είναι προφανώς μια φανταχτερή, αξιόπιστη, μεγάλη δικηγορική εταιρεία που έκανε έρευνες της Enron και της WorldCom, οι οποίες, παρεμπιπτόντως, ήταν όλες ογκώδεις, όπως εκατοντάδες σελίδες που δημοσιεύτηκαν. Ο WilmerHale έκανε αυτή την έρευνα που ζητήθηκε από τα μέλη του διοικητικού συμβουλίου που είχαν απολύσει τον Altman ως προϋπόθεση για την αποχώρησή τους όταν τους ξεφορτώθηκε, και επέστρεψε. Και εξαιρετικά — στα μάτια πολλών νομικών εμπειρογνωμόνων με τους οποίους μίλησα, και συγκλονιστικά στα μάτια πολλών ανθρώπων αυτής της εταιρείας — το κράτησαν εκτός γραφής. Το μόνο που προέκυψε από αυτό ήταν ένα δελτίο τύπου 800 λέξεων από το OpenAI που περιέγραφε αυτό που συνέβη ως κατάρρευση της εμπιστοσύνης. Και επιβεβαιώσαμε ότι αυτό κρατήθηκε στις προφορικές ενημερώσεις.
Υπάρχουν περιπτώσεις όπου, για παράδειγμα, ένα μέλος του διοικητικού συμβουλίου φαινομενικά θέλει να ψηφίσει κατά της μετατροπής από την αρχική φόρμα μη κερδοσκοπικού χαρακτήρα του OpenAI σε κερδοσκοπική οντότητα και καταγράφεται ως αποχή. Είναι σαν ένας δικηγόρος στη συνάντηση να λέει, «Λοιπόν, αυτό θα μπορούσε να προκαλέσει υπερβολικό έλεγχο». Και αυτός που θέλει να καταψηφίσει καταγράφεται ως αποχή σε όλες τις εμφανίσεις. Υπάρχει μια πραγματική διαφωνία. Το OpenAI ισχυρίζεται το αντίθετο, όπως μπορείτε να φανταστείτε. Αυτές είναι όλες οι περιπτώσεις όπου έχετε μια εταιρεία που, με δικό της λογαριασμό, κρατά το μέλλον μας στα χέρια της.
Τα διακυβεύματα ασφαλείας είναι τόσο έντονα που δεν έχουν εξαφανιστεί. Αυτός είναι ο λόγος που ιδρύθηκε αυτή η εταιρεία ως μη κερδοσκοπικός οργανισμός που επικεντρώνεται στην ασφάλεια και όπου τα πράγματα κρύβονταν με τρόπο που αξιόπιστοι άνθρωποι γύρω από αυτήν τη βρήκαν λιγότερο από επαγγελματίες. Και το συνδυάζετε με ένα σκηνικό όπου υπάρχει τόσο μικρή πολιτική όρεξη για ουσιαστική ρύθμιση. Νομίζω ότι είναι μια πολύ εύφλεκτη κατάσταση.
Το θέμα για μένα δεν είναι μόνο ότι ο Sam Altman αξίζει αυτές τις ερωτήσεις τόσο έντονα. Είναι επίσης ότι οποιοσδήποτε από αυτούς τους τύπους σε αυτόν τον τομέα, και πολλές από τις βασικές προσωπικότητες, επιδεικνύουν, αν όχι αυτό το συγκεκριμένο ιδιοσυγκρασιακό, υποτιθέμενο χαρακτηριστικό ψεύδους, σίγουρα κάποιου βαθμού νοοτροπία αγώνα μέχρι τα κάτω, όπου οι άνθρωποι που ήταν οπαδοί της ασφάλειας έχουν αποδυναμώσει αυτές τις δεσμεύσεις και τη στάση του καθενός σε αγώνα.
Νομίζω ότι, καθώς εξετάζουμε τις πρόσφατες διαρροές από το Anthropic, υπάρχει ένα άτομο που θέτει το ερώτημα ποιος πρέπει να έχει το δάχτυλό του στο κουμπί σε αυτό το κομμάτι. Η απάντηση είναι, αν δεν έχουμε ουσιαστική επίβλεψη, νομίζω ότι πρέπει να κάνουμε σοβαρές ερωτήσεις και να προσπαθούμε να βγάλουμε στην επιφάνεια όσες περισσότερες πληροφορίες μπορούμε για όλους αυτούς τους τύπους. Έτσι, με ενθουσίασε αυτό που μοιάζει με μια ουσιαστική συζήτηση για αυτό, ή την αρχή μιας συζήτησης.
Ο λόγος που το ρώτησα έτσι είναι ότι δούλευες πάνω σε αυτό για ενάμιση χρόνο. Μίλησες, πιστεύω, με 100 άτομα με τον συν-συγγραφέα σου, τον Andrew. Είναι πολύς χρόνος για να μαγειρευτεί μια ιστορία. Σκέφτομαι τον τελευταίο ενάμιση χρόνο στην τεχνητή νοημοσύνη, και αγόρι μου, οι στάσεις και οι αξίες όλων αυτών των χαρακτήρων άλλαξαν πολύ γρήγορα.
Ίσως τίποτα περισσότερο από τον Sam Altman, ο οποίος ξεκίνησε ως ο προεπιλεγμένος νικητής, επειδή είχε κυκλοφορήσει το ChatGPT και όλοι πίστευαν ότι αυτό απλώς θα έπαιρνε τη διαχείριση της Google. Και τότε η Google απάντησε, η οποία φάνηκε να τους ξάφνιασε ότι η Google θα προσπαθούσε να προστατεύσει την επιχείρησή της, ίσως μια από τις καλύτερες επιχειρήσεις στην ιστορία της τεχνολογίας, αν όχι στην ιστορία της επιχείρησης. Η Anthropic αποφάσισε ότι θα επικεντρωθεί στην επιχείρηση. Φαίνεται να παίρνει ένα επιβλητικό προβάδισμαεκεί επειδή η επιχειρηματική χρήση της τεχνητής νοημοσύνης είναι τόσο υψηλή.
Τώρα, το OpenAI εστιάζει εκ νέου το προϊόν του μακριά από το «θα αντιμετωπίσουμε την Google» στο Codex και θα αναλάβουν την επιχείρηση. Απλώς δεν μπορώ να καταλάβω αν, κατά τη διάρκεια των ρεπορτάζ σας τον τελευταίο ενάμιση χρόνο, αν νιώθετε ότι οι χαρακτήρες με τους οποίους μιλούσατε άλλαξαν; Όπως και οι στάσεις και οι αξίες τους, άλλαξαν αυτά;
Ναί. Νομίζω ότι πρώτα απ 'όλα, ότι η κριτική που διερευνάται σε αυτό το κομμάτι, που προέρχεται από πολλούς ανθρώπους σε αυτές τις εταιρείες σε αυτό το σημείο - ότι πρόκειται για έναν κλάδο που, παρά τα υπαρξιακά διακυβεύματα, κατεβαίνει σε έναν αγώνα δρόμου προς τα κάτω για την ασφάλεια και όπου η ταχύτητα υπερτερεί όλων των άλλων - αυτή η ανησυχία έχει γίνει πιο έντονη. Και νομίζω ότι αυτές οι ανησυχίες έχουν επιβεβαιωθεί περισσότερο καθώς έχει περάσει ο τελευταίος ενάμιση χρόνο. Ταυτόχρονα, οι στάσεις για τον Sam Altman έχουν αλλάξει συγκεκριμένα. Όταν αρχίσαμε να μιλάμε με πηγές για αυτό, οι άνθρωποι ήταν πραγματικά, πολύ διστακτικοί για να τους αναφέρουν και να γράψουν για αυτό.
Μέχρι το τέλος της αναφοράς μας, έχετε ένα σύνολο αναφορών όπου οι άνθρωποι μιλούν γι' αυτό πολύ ανοιχτά και ρητά, και έχετε μέλη του διοικητικού συμβουλίου να λένε πράγματα όπως: "Είναι ένας παθολογικός ψεύτης. Είναι κοινωνιοπαθής". Υπάρχει μια σειρά από προοπτικές από το "Αυτό είναι επικίνδυνο δεδομένου του διακυβεύματος ασφαλείας, και χρειαζόμαστε ηγέτες αυτής της τεχνολογίας που έχουν αυξημένη ακεραιότητα", μέχρι όπως, "Ξεχάστε τα διακυβεύματα ασφαλείας, αυτή είναι συμπεριφορά που δεν μπορεί να υποστηριχθεί για οποιοδήποτε στέλεχος οποιασδήποτε μεγάλης εταιρείας, ότι απλώς δημιουργεί υπερβολική δυσλειτουργία".
Έτσι, η συζήτηση έχει γίνει πολύ πιο σαφής με έναν τρόπο που φαίνεται ίσως καθυστερημένη, αλλά είναι ενθαρρυντική από μια άποψη. Και ο Sam Altman, προς τιμήν του… Το κομμάτι είναι πολύ δίκαιο και γενναιόδωρο, θα έλεγα, για τον Sam. Αυτό δεν είναι το είδος του κομματιού όπου υπήρχαν πολλά πράγματα "σε πήρα". Πέρασα πολλές, πολλές ώρες στο τηλέφωνο μαζί του καθώς τελειώναμε και τον άκουσα πραγματικά.
Όπως μπορείτε να φανταστείτε, σε ένα τέτοιο κομμάτι δεν τα καταφέρνουν όλα. Μερικές από αυτές τις περιπτώσεις σε αυτό ήταν επειδή άκουγα ειλικρινά. Και αν ο Σαμ όντως προέβαλλε ένα επιχείρημα ότι ένιωθα ότι έβγαζε νερό, ότι κάτι, ακόμα κι αν ήταν αλήθεια, θα μπορούσε να είναι συνταρακτικό, πραγματικά έκανα λάθος στο να κρατήσω αυτό το ιατροδικαστικό και μετρημένο. Επομένως, νομίζω ότι αυτό γίνεται σωστά και ελπίζω ότι αυτό το τεκμηριωμένο αρχείο που έχει συσσωρευτεί κατά τη διάρκεια αυτής της χρονικής περιόδου μπορεί να πυροδοτήσει μια πιο ενθαρρυντική συζήτηση σχετικά με την ανάγκη για επίβλεψη.
Αυτή είναι στην πραγματικότητα η επόμενη ερώτησή μου. Νομίζω ότι μιλήσατε με τον Σαμ δεκάδες φορές κατά τη διάρκεια της αναφοράς αυτής της ιστορίας. Και πάλι, πρόκειται για πολλές συζητήσεις για μεγάλο χρονικό διάστημα. Νομίζατε ότι ο Σαμ άλλαξε κατά τη διάρκεια του ρεπορτάζ τον τελευταίο ενάμιση χρόνο;
Ναι. Νομίζω ότι μία από τις πιο ενδιαφέρουσες υποπλοκές σε αυτό είναι ότι ο Sam Altman μιλά επίσης για αυτό το χαρακτηριστικό πιο ξεκάθαρα από ό,τι στο παρελθόν. Η στάση του Σαμ σε αυτό το κομμάτι δεν είναι σαν, «Δεν υπάρχει τίποτα εκεί, αυτό δεν είναι αλήθεια· δεν ξέρω για τι πράγμα μιλάς». Η στάση που έχει είναι ότι λέει ότι αυτό οφείλεται σε μια τάση που αρέσει στους ανθρώπους και σε ένα είδος σύγκρουσης αποστροφής. Αναγνωρίζει ότι του προκάλεσε προβλήματα, ιδιαίτερα νωρίτερα στην καριέρα του.
Λέει, «Λοιπόν, το ξεπερνάω, ή σε κάποιο βαθμό το έχω ξεπεράσει». Νομίζω ότι αυτό που είναι πραγματικά ενδιαφέρον για μένα είναι το σύνολο των ανθρώπων με τους οποίους μιλήσαμε, οι οποίοι δεν ήταν απλώς κάποιοι υποστηρικτές της ασφάλειας, όχι μόνο οι υποκείμενοι τεχνικοί ερευνητές που πολύ συχνά τείνουν να έχουν αυτές τις έντονες ανησυχίες για την ασφάλεια, αλλά και πραγματιστές, μεγάλους επενδυτές. Είναι υποστηρικτές του Sam's, οι οποίοι, σε ορισμένες περιπτώσεις, εξετάζουν αυτήν την ερώτηση και μιλούν ότι έπαιξαν ακόμη και έναν βασικό ρόλο στην επιστροφή του μετά την απόλυση. Τώρα, σε αυτό το ερώτημα εάν έχει μεταρρυθμιστεί και σε ποιο βαθμό έχει νόημα αυτή η αλλαγή, λένε, «Λοιπόν, του δώσαμε το πλεονέκτημα της αμφιβολίας εκείνη τη στιγμή».
Σκέφτομαι συγκεκριμένα έναν εξέχοντα επενδυτή που είπε, «Αλλά από τότε, φαίνεται ξεκάθαρο ότι δεν τον έβγαλαν πίσω από το ξυλόστεγο», που ήταν η φράση που χρησιμοποίησε αυτός, στον βαθμό που ήταν απαραίτητο. Ως αποτέλεσμα, φαίνεται ότι αυτό είναι πλέον ένα σταθερό χαρακτηριστικό. Αυτό το βλέπουμε με συνεχή τρόπο. Μπορείτε να δείτε μερικές από τις μεγαλύτερες επιχειρήσεις του OpenAIοι σχέσεις και ο τρόπος με τον οποίο φέρουν το βάρος αυτής της δυσπιστίας σε συνεχή τρόπο.
Όπως και με τη Microsoft, μιλάτε με στελέχη εκεί και έχουν πραγματικά έντονες και πρόσφατα καταλυτικές ανησυχίες. Υπάρχει αυτή η περίπτωση όπου, την ίδια ημέρα που το OpenAI επιβεβαιώνει την αποκλειστικότητά του με τη Microsoft σε σχέση με τα υποκείμενα μοντέλα τεχνητής νοημοσύνης χωρίς ιθαγένεια, ανακοινώνει επίσης μια νέα συμφωνία με την Amazon που έχει να κάνει με την πώληση επιχειρηματικών λύσεων για την κατασκευή πρακτόρων τεχνητής νοημοσύνης που είναι κρατικά, που σημαίνει ότι έχουν μνήμη.
Μιλάτε με άτομα της Microsoft και λένε, "Αυτό δεν είναι δυνατό να γίνει χωρίς να αλληλεπιδράσετε με τα υποκείμενα πράγματα για τα οποία έχουμε συμφωνία αποκλειστικότητας". Αυτό είναι ένα μόνο από τα πολλά μικρά παραδείγματα όπου αυτό το χαρακτηριστικό επηρεάζει συνεχώς τη συνεχή επιχειρηματική δραστηριότητα και αποτελεί αντικείμενο ενεργού ενδιαφέροντος στο διοικητικό συμβούλιο του OpenAI, στην εκτελεστική του σουίτα και στην ευρύτερη τεχνολογική κοινότητα.
Συνεχίζεις να λες αυτό το «χαρακτηριστικό». Υπάρχει μια γραμμή στην ιστορία που για μένα μοιάζει με τη διατριβή και είναι μια περιγραφή του χαρακτηριστικού που περιγράφετε. Είναι ότι «ο Σαμ Άλτμαν δεν περιορίζεται από την αλήθεια» και ότι έχει «δύο χαρακτηριστικά που δεν φαίνονται σχεδόν ποτέ στο ίδιο άτομο: το πρώτο είναι μια έντονη επιθυμία να ευχαριστεί τους ανθρώπους, να αρέσει σε οποιαδήποτε δεδομένη αλληλεπίδραση και το δεύτερο είναι μια σχεδόν κοινωνιοπαθητική έλλειψη ενδιαφέροντος για τις συνέπειες που μπορεί να προκύψουν από την εξαπάτηση κάποιου».
Πρέπει να σας πω ότι διάβασα αυτή τη φράση 500 φορές και προσπάθησα να φανταστώ ότι λέω πάντα αυτό που ήθελαν να αρέσουν οι άνθρωποι και μετά να μην στενοχωριέμαι όταν ένιωθαν ότι τους λένε ψέματα. Και δεν μπορούσα να κάνω τη συναισθηματική μου κατάσταση να καταλάβει πώς μπορεί να υπάρχουν αυτά τα πράγματα στον ίδιο άνθρωπο. Έχετε μιλήσει με τον Sam πολύ και έχετε μιλήσει με άτομα που έχουν βιώσει αυτά τα χαρακτηριστικά. Πώς το κάνει;
Ναι. Είναι ενδιαφέρον σε ανθρώπινο επίπεδο, επειδή προσεγγίζω τέτοιους φορείς αναφοράς με πραγματική εστίαση στον εξανθρωπισμό οποιουδήποτε βρίσκεται στο επίκεντρό του και αναζητώντας βαθιά κατανόηση και ενσυναίσθηση. Όταν προσπάθησα να το προσεγγίσω από μια πιο ανθρώπινη σκοπιά και να πω: "Γεια, αυτό θα ήταν καταστροφικό για μένα αν τόσοι πολλοί άνθρωποι με τους οποίους έχω συνεργαστεί έλεγαν ότι είμαι παθολογικός ψεύτης. Πώς αντέχεις αυτό το βάρος; Πώς το μιλάς για αυτό στη θεραπεία; Ποια είναι η ιστορία που λες στον εαυτό σου γι' αυτό;"
Κατά την άποψή μου, είχα κάποιου είδους κοινοτοπίες στη Δυτική Ακτή, όπως «Ναι, μου αρέσει η αναπνοή». Αλλά όχι πολύ από το είδος της έντονης αίσθησης βαθιάς αντιπαράθεσης με τον εαυτό μας που πιστεύω ότι πολλοί από εμάς θα είχαν πιθανώς αν βλέπαμε αυτό το είδος ανατροφοδότησης σχετικά με τη συμπεριφορά μας και τη μεταχείρισή μας προς τους ανθρώπους.
Νομίζω ότι στην πραγματικότητα αφορά και την ευρύτερη απάντηση στην ερώτηση. Ο Sam ισχυρίζεται ότι αυτό το χαρακτηριστικό έχει προκαλέσει προβλήματα, αλλά και ότι είναι μέρος αυτού που τον ενδυνάμωσε να επιταχύνει την ανάπτυξη του OpenAI τόσο πολύ ώστε να είναι σε θέση να ενώνει και να ευχαριστεί διαφορετικές ομάδες ανθρώπων. Πείθει συνεχώς όλες αυτές τις αντικρουόμενες εκλογικές ομάδες ότι αυτό που τους ενδιαφέρει είναι αυτό που τον ενδιαφέρει. Και αυτό μπορεί να είναι μια πραγματικά χρήσιμη δεξιότητα για έναν ιδρυτή. Έχω μιλήσει με επενδυτές που στη συνέχεια λένε: «Λοιπόν, ίσως είναι μια λιγότερο χρήσιμη δεξιότητα για τη διαχείριση μιας εταιρείας, επειδή σπέρνει τόση διχόνοια».
Αλλά από την προσωπική πλευρά του Σαμ, νομίζω ότι αυτό που αναλαμβάνω όταν προσπαθώ να συνδεθώ σε ανθρώπινο επίπεδο είναι η προφανής έλλειψη βαθύτερης αντιπαράθεσης, προβληματισμού και υπευθυνότητας, κάτι που επίσης πληροφορεί αυτή την υπερδύναμη ή ευθύνη για μια εταιρεία που προετοιμάζεται για μια δημόσια εγγραφή.
Είναι κάποιος που, σύμφωνα με τα λόγια ενός πρώην μέλους του διοικητικού συμβουλίου, ονόματι Sue Yoon, ο οποίος είναι στο δίσκο στο κομμάτι λέγοντας ότι μέχρι σημείου «άστοχης» είναι η φράση που χρησιμοποιεί, είναι σε θέση να πιστέψει πραγματικά τη μεταβαλλόμενη πραγματικότητα των θέσεων πωλήσεών του ή μπορεί να πείσει τον εαυτό του για αυτά. Ή τουλάχιστον αν δεν τα πιστεύει, είναι σε θέση να τα ξεπεράσει χωρίς ουσιαστική αμφιβολία για τον εαυτό του.
Νομίζω ότι αυτό για το οποίο μιλάτε, όπου θα μπορούσαμε εσείς ή εγώ, καθώς λέμε το πράγμα και συνειδητοποιούμε ότι έρχεται σε αντίθεση με την άλλη διαβεβαίωση που έχουμε κάνει, να έχουμε μια στιγμή να παγώσουμε ή να ελέγξουμε τον εαυτό μας. Νομίζω ότι αυτό δεν συμβαίνει με αυτόν. Και υπάρχει μια ευρύτερη κουλτούρα διαφημιστικής εκστρατείας της Silicon Valley και κουλτούρα ιδρυτών που το αγκαλιάζει.
είναι αστείο. Το Verge βασίζεται σε αυτό που ισοδυναμεί με κριτικές ενός προϊόντοςπρόγραμμα. Είναι η καρδιά αυτού που κάνουμε εδώ. Διατηρώ ένα τρισεκατομμύριο δολάρια Ε&Α της Apple μία φορά το χρόνο και λέω: "Αυτό το τηλέφωνο είναι επτά". Και κάπως νομιμοποιεί όλα τα ρεπορτάζ μας και τις απόψεις μας αλλού. Έχουμε μια λειτουργία αξιολόγησης και αφιερώνουμε τόσο πολύ χρόνο κοιτάζοντας τα προϊόντα τεχνητής νοημοσύνης και λέγοντας: «Λειτουργούν;»
Αυτό μοιάζει σαν να λείπει από πολλές συζητήσεις για την τεχνητή νοημοσύνη όπως είναι σήμερα. Υπάρχει ατελείωτη συζήτηση για το τι μπορεί να κάνει, πόσο επικίνδυνο μπορεί να είναι. Και μετά ξετρυπώνεις και λες, «Κάνει πράγματι αυτό που υποτίθεται ότι πρέπει να κάνει σήμερα;» Σε ορισμένες περιπτώσεις, η απάντηση είναι ναι. Αλλά σε πολλές, πολλές περιπτώσεις, η απάντηση είναι όχι.
Αυτό μοιάζει σαν να συνδέεται με την κουλτούρα της διαφημιστικής εκστρατείας που περιγράφετε και επίσης με την αίσθηση ότι, καλά, αν λέτε ότι θα κάνει κάτι και δεν το κάνει, και κάποιος αισθάνεται άσχημα, αυτό είναι εντάξει, γιατί προχωράμε στο επόμενο πράγμα. Αυτό είναι στο παρελθόν. Και συγκεκριμένα στην τεχνητή νοημοσύνη, ο Sam είναι τόσο καλός στο να δίνει τις μεγάλες υποσχέσεις.
Μόλις αυτή την εβδομάδα, νομίζω την ίδια μέρα που δημοσιεύτηκε η ιστορία σας, το OpenAI κυκλοφόρησε ένα έγγραφο πολιτικής που έλεγε ότι πρέπει να επανεξετάσουμε το κοινωνικό συμβόλαιο και να λάβουμε επιχορηγήσεις για την αποτελεσματικότητα της τεχνητής νοημοσύνης από την κυβέρνηση. Αυτή είναι μια μεγάλη υπόσχεση για το πώς κάποια τεχνολογία θα μπορούσε να διαμορφώσει το μέλλον του κόσμου και πώς ζούμε, και όλα αυτά βασίζονται στην τεχνολογία που λειτουργεί ακριβώς με τον τρόπο που ίσως έχει υποσχεθεί ότι θα λειτουργήσει ή θα έπρεπε να λειτουργήσει.
Βρήκατε ποτέ τον Sam να αμφιβάλλει για την τεχνητή νοημοσύνη να μετατραπεί σε AGI ή superintelligence ή να φτάσει στη γραμμή του τερματισμού; Γιατί αυτό είναι το πράγμα που αναρωτιέμαι περισσότερο. Υπάρχει κάποιος προβληματισμός σχετικά με το εάν αυτή η βασική τεχνολογία μπορεί να κάνει όλα τα πράγματα που λένε ότι μπορεί να κάνει;
Είναι ακριβώς το σωστό σύνολο ερωτήσεων. Υπάρχουν αξιόπιστοι τεχνολόγοι με τους οποίους μιλήσαμε σε αυτό το ρεπορτάζ — και προφανώς ο Sam Altman δεν είναι ένας. είναι επιχειρηματίας — που λένε ότι ο τρόπος με τον οποίο ο Sam μιλάει για το χρονοδιάγραμμα αυτής της τεχνολογίας είναι πολύ μακριά. Υπάρχουν αναρτήσεις ιστολογίου πριν από μερικά χρόνια, όπου ο Sam λέει: "Έχουμε ήδη φτάσει στον ορίζοντα των γεγονότων. Το AGI είναι βασικά εδώ. Η SuperIntelligence είναι στη γωνία. Θα είμαστε σε άλλους πλανήτες. Θα θεραπεύσουμε όλες τις μορφές καρκίνου." Αλήθεια, δεν στολίζω.
Ο καρκίνος είναι πραγματικά ενδιαφέρον, ότι ο Σαμ διαφημίζει το άτομο που θεράπευσε θεωρητικά τον καρκίνο του σκύλου του με το ChatGPT, και αυτό απλά δεν συνέβη. Μίλησαν με το ChatGPT και αυτό τους βοήθησε να καθοδηγήσουν μερικούς ερευνητές που πραγματοποίησαν πραγματικά τη δουλειά, αλλά το εργαλείο ένας προς έναν θεράπευσε αυτόν τον σκύλο δεν είναι στην πραγματικότητα η ιστορία.
Χαίρομαι που θίξατε αυτό το σημείο, γιατί θέλω να συνεχίσω σε αυτό το μεγαλύτερο σημείο σχετικά με το πότε θα διατεθούν πραγματικά τόσο οι δυνατότητες όσο και ο κίνδυνος της τεχνολογίας. Αλλά αξίζει να αναφέρουμε αυτές τις μικρές πλευρές που συμβαίνουν συνεχώς από τον Sam Altman, όπου φαίνεται να ενσαρκώνει αυτό το χαρακτηριστικό ξανά.
Εννοώ, για να χρησιμοποιήσω το παράδειγμα της έκθεσης WilmerHale, όπου είχαμε αυτές τις πληροφορίες που δεν γράφονταν και θέλαμε να μάθουμε εάν η προφορική ενημέρωση στην πορεία δόθηκε σε οποιονδήποτε άλλο εκτός από τα δύο μέλη του διοικητικού συμβουλίου που βοήθησε ο Sam να την επιβλέπει. Και είπε, «Ναι, ναι, όχι, πιστεύω ότι δόθηκε σε όλους όσοι μπήκαν στο διοικητικό συμβούλιο μετά». Και έχουμε ένα άτομο με άμεση γνώση της κατάστασης που λέει ότι είναι απλά ένα ψέμα. Και αυτό όντως φαίνεται να ισχύει, ότι είναι αναληθές. Αν θέλουμε να είμαστε γενναιόδωροι, ίσως παραπληροφορήθηκε.
Υπάρχουν πολλές από αυτές τις περιστασιακές διαβεβαιώσεις. Και χρησιμοποιώ αυτό το παράδειγμα εν μέρει επειδή αυτό είναι ένα εξαιρετικό παράδειγμα διασποράς, ας το πούμε, που μπορεί να έχει πραγματικές συνέπειες νομικά. Δεν χρειάζεται να σας πω, σύμφωνα με το εταιρικό δίκαιο του Ντέλαγουερ, εάν οι δημόσιες εγγραφές αυτής της εταιρείας, οι μέτοχοι θα μπορούσαν, σύμφωνα με το άρθρο 220, να διαμαρτυρηθούν για αυτό και να απαιτήσουν την υποκείμενη τεκμηρίωση. Υπάρχουν ήδη μέλη του διοικητικού συμβουλίου που λένε πράγματα όπως, "Λοιπόν, περίμενε λίγο, αυτή η ενημέρωση θα έπρεπε να είχε γίνει".
Έτσι, αυτά τα πράγματα που φαίνονται να ξεπηδούν από το στόμα του όλη την ώρα, μπορούν να έχουν πραγματικά αποτελέσματα που κινούν την αγορά, πραγματικά αποτελέσματα για το OpenAI. Επαναφέροντάς το στο είδος της ουτοπικής γλώσσας διαφημιστικής εκστρατείας που επανεμφανίστηκε, νομίζω ότι όχι τυχαία την ημέρα που κυκλοφόρησε αυτό το κομμάτι, επηρεάζει επίσης όλους εμάς, επειδή οι κίνδυνοι είναι τόσο έντονοι όσον αφορά τον τρόπο με τον οποίο είναιπου αναπτύσσεται σε όπλα, ο τρόπος που χρησιμοποιείται για τον εντοπισμό παραγόντων χημικού πολέμου, η δυνατότητα παραπληροφόρησης και λόγω του τρόπου με τον οποίο η ουτοπική διαφημιστική εκστρατεία φαίνεται να ωθεί πολλούς αξιόπιστους οικονομολόγους να πουν: «Αυτό έχει όλα τα σημάδια μιας φούσκας».
Ακόμη και ο Σαμ Άλτμαν έχει πει: «Κάποιος θα χάσει πολλά χρήματα εδώ». Αυτό θα μπορούσε πραγματικά να προκαλέσει μεγάλη αμερικανική και παγκόσμια οικονομική ανάπτυξη, αν είναι σαν ένα αληθινό τρύπημα μιας φούσκας που περιλαμβάνει όλες αυτές τις εταιρείες να κάνουν συμφωνίες μεταξύ τους, να συμμετέχουν στην τεχνητή νοημοσύνη ενώ δανείζονται τόσο βαριά. Επομένως, αυτό που λέει ο Sam Altman έχει σημασία, και νομίζω ότι η υπεροχή των ανθρώπων γύρω του, αναφέρατε ότι μιλήσαμε με περισσότερους από εκατό, στην πραγματικότητα ήταν πολύ πάνω από εκατό. Κάναμε μια συζήτηση στη γραμμή του τερματισμού, όπου λέγαμε, «Θα ήταν πολύ μικρό να πούμε ότι είναι πολύ μεγαλύτερος ο αριθμός;» Και είπαμε, "Ναι, ας υποβαθμίσουμε. Θα το παίξουμε κουλ." Αλλά υπήρχαν τόσοι πολλοί άνθρωποι και μια τόσο σημαντική πλειοψηφία από αυτούς έλεγαν: «Αυτό είναι ανησυχητικό». Και νομίζω ότι αυτός είναι ο λόγος.
Επιτρέψτε μου να σας ρωτήσω για αυτόν τον αριθμό. Όπως αναφέρατε, ο κόσμος άνοιγε όλο και περισσότερο με τις ανησυχίες όσο περνούσε ο καιρός. Αισθάνεται ότι η πίεση γύρω από τη φούσκα - ο αγώνας για τη νίκη, για την αποπληρωμή όλης αυτής της επένδυσης, για την ανάδειξη του νικητή, για την IPO - έχει αλλάξει πολλές στάσεις. Σίγουρα δημιούργησε μεγαλύτερη πίεση στον Sam και στο OpenAI.
Δημοσιεύσαμε μια ιστορία αυτή την εβδομάδα μόνο για τα vibes του OpenAI. Η ιστορία σας είναι μέρος της, αλλά τεράστιες αλλαγές προσωπικού στις τάξεις στελεχών στο OpenAI — οι άνθρωποι έρχονται και φεύγουν. Όλοι οι ερευνητές απομακρύνονται, σε μεγάλο βαθμό στο Anthropic, το οποίο νομίζω ότι είναι πραγματικά ενδιαφέρον. Μπορείτε απλώς να δείτε ότι αυτή η εταιρεία αισθάνεται την πίεση και ανταποκρίνεται σε αυτήν την πίεση με κάποιο τρόπο.
Αλλά μετά σκέφτομαι ότι ο Σαμ απολύθηκε. Αυτό είναι απλώς αξέχαστο για μένα. Δεν είναι αξέχαστο για κανέναν άλλον, αλλά έλαβα μια κλήση πηγής στο ζωολογικό κήπο του Μπρονξ στις 7 μ.μ. μια Παρασκευή, και κάποιος είπε ότι θα προσπαθήσουν να πάρουν πίσω τον Σαμ. Και μετά περάσαμε το Σαββατοκύριακο κυνηγώντας αυτή την ιστορία. Και είπα, "Είμαι στο ζωολογικό κήπο. Τι θέλετε να κάνω εδώ;" Και η απάντηση ήταν: «Μείνε στο τηλέφωνο». Λοιπόν, η κόρη μου είπε: «Κατεβάστε το τηλέφωνο». Και αυτό έκανα.
Ήταν βόλτα ή πεθάνει για να πάρει πίσω τον Σαμ. Αυτή η εταιρεία ήταν σαν, «Όχι, δεν αφήνουμε το διοικητικό συμβούλιο να απολύσει τον Sam Altman». Οι επενδυτές, αναφέρονται στο άρθρο σας, «Πήγαμε στον πόλεμο», νομίζω, είναι η θέση του Thrive Capital, «για να πάρουμε πίσω τον Σαμ». Η Microsoft πήγε στον πόλεμο για να πάρει πίσω τον Sam. Είναι αργότερα, και τώρα όλοι λένε, "Θα πάμε στην IPO. Φτάσαμε στη γραμμή του τερματισμού. Πήραμε τον άντρα μας πίσω και θα μας πάει στη γραμμή του τερματισμού. Ανησυχούμε ότι είναι ψεύτης."
Γιατί ήταν πόλεμος για να τον ξαναπάρουμε τότε; Γιατί δεν φαίνεται να έχει αλλάξει κάτι στην πραγματικότητα. Μιλάτε για τα υπομνήματα που κράτησαν ο Ilya Sutskever και ο [Διευθύνων Σύμβουλος της Anthropic] Dario Amodei όσο ήταν σύγχρονοι του Sam Altman. Η νούμερο ένα ανησυχία του Ilya ήταν ότι ο Sam είναι ψεύτης.
Τίποτα από αυτά δεν έχει αλλάξει. Γιατί λοιπόν ήταν πόλεμος για να τον φέρουν πίσω; Και τώρα που βρισκόμαστε στη γραμμή του τερματισμού, φαίνεται ότι όλες οι ανησυχίες είναι ανοιχτές.
Λοιπόν, πρώτα από όλα, συγγνώμη στην κόρη σας και στον σύντροφό μου και σε όλους τους άλλους ανθρώπους γύρω από τους δημοσιογράφους.
[Γέλια] Ήταν ένα πολύ Σαββατοκύριακο για όλους.
Ναι, κυριεύει τη ζωή κάποιου, και αυτή η ιστορία έχει σίγουρα τη δική μου, την τελευταία χρονική περίοδο. Στην πραγματικότητα σχετίζεται με αυτό το θέμα της δημοσιογραφίας και της πρόσβασης στην πληροφόρηση, νομίζω. Οι επενδυτές που πήγαν στον πόλεμο για τον Σαμ και όλοι έπαιξαν ρόλο για να βεβαιωθούν ότι θα επιστρέψει και το διοικητικό συμβούλιο που είχε σχεδιαστεί ειδικά για να προστατεύει την αποστολή ενός μη κερδοσκοπικού οργανισμού να θέσει την ασφάλεια πάνω από την ανάπτυξη και να απολύσει ένα στέλεχος αν δεν μπορούσε να το εμπιστευτεί αυτό, αποχώρησαν. Αυτό έγινε επειδή, ναι, υπήρχαν τα κίνητρα της αγοράς, σωστά;
Ο Σαμ κατάφερε να πείσει τους ανθρώπους: «Λοιπόν, η εταιρεία θα καταρρεύσει». Αλλά ο λόγος που είχε υποστήριξη ήταν η έλλειψη ενημέρωσης. Αυτοί οι επενδυτές, σε πολλές περιπτώσεις, λένε τώρα, «Κοιτάζω πίσω και νομίζω ότι θα έπρεπε να είχα περισσότερες ανησυχίες αν ήξερα πλήρως ποιες ήταν οι απαιτήσεις και ποιες ήταν οι ανησυχίες».
Όχι όλοι τους.Οι απόψεις ποικίλλουν και παραθέτουμε μια σειρά από απόψεις, αλλά υπάρχουν σημαντικές που ενήργησαν με πολύ επιμέρους πληροφορίες. Το ταμπλό που απέλυσε τον Σαμ ήταν, σύμφωνα με τα λόγια ενός ατόμου που ήταν στο ταμπλό, «πολύ JV», και τσάκωσαν δυνατά τη μπάλα. Και τεκμηριώνουμε τις υποκείμενες καταγγελίες και οι άνθρωποι μπορούν να αποφασίσουν μόνοι τους εάν συσσωρεύονται στο είδος της επείγουσας ανησυχίας που ένιωσαν ότι ήταν, αλλά αυτό το επιχείρημα και αυτές οι πληροφορίες δεν παρουσιάστηκαν.
Έλαβαν αυτό που ορισμένοι από αυτούς τώρα αναγνωρίζουν ως κακές νομικές συμβουλές. Για να το περιγράψετε, θα θυμάστε το απόσπασμα και πιθανώς πολλοί από τους ακροατές και τους θεατές σας θα θυμούνται το απόσπασμα ως έλλειψη ειλικρίνειας. Σε αυτό περιορίστηκε και στη συνέχεια ουσιαστικά δεν δέχονταν κλήσεις.
Δεν δέχονταν κλήσεις. Είμαι σίγουρος ότι προσπάθησες. Όλοι όσοι γνωρίζω προσπάθησαν και έφτασαν στο σημείο που, ως δημοσιογράφος, δεν έπρεπε να δώσεις συμβουλές στις πηγές σου, αλλά είπα: «Αυτό θα φύγει αν δεν αρχίσεις να εξηγείς τον εαυτό σου».
Και αυτό έγινε. Ξεχάστε τους δημοσιογράφους. Είχατε τον Satya Nadella να λέει: "Τι στο διάολο συνέβη; Δεν μπορώ να κάνω κανέναν να μου εξηγήσει". Και αυτός είναι ο σημαντικός οικονομικός υποστηρικτής της εταιρείας. Και μετά έχετε τον Satya να τηλεφωνεί στον [συνιδρυτή του LinkedIn] Reid Hoffman και τον Reid να τηλεφωνεί και να λέει, «Δεν ξέρω τι στο διάολο συνέβη».
Είναι κατανοητό ότι βρίσκονται σε αυτό το κενό πληροφοριών, αναζητώντας τους παραδοσιακούς δείκτες χωρίς AI που θα δικαιολογούσαν μια τόσο επείγουσα, ξαφνική πυροδότηση. Λοιπόν, εντάξει, ήταν σεξουαλικά εγκλήματα; Ήταν υπεξαίρεση; Και ολόκληρο το λεπτό, αλλά νομίζω σημαντικό, επιχείρημα ότι αυτή η τεχνολογία είναι διαφορετική και ότι αυτού του είδους η σταθερή συσσώρευση μικρότερων προδοσών θα μπορούσε να έχει σημαντικά διακυβεύματα τόσο για αυτήν την επιχείρηση όσο και ίσως για τον κόσμο, χάθηκε σε μεγάλο βαθμό. Έτσι κέρδισαν τα καπιταλιστικά κίνητρα, αλλά και οι άνθρωποι που το έκαναν έσβησαν και δεν λειτουργούσαν πάντα με πλήρη ενημέρωση.
Θέλω να ρωτήσω για μια στιγμή την πτυχή «αυτό που όλοι πίστευαν», γιατί σίγουρα είδα τα νέα και είπα, «Ω, κάτι κακό πρέπει να συνέβη». Έχετε κάνει πολλές αναφορές #MeToo, περίφημα. Έσπασες την ιστορία του Χάρβεϊ Γουάινστιν.
Ξοδέψατε πολύ χρόνο αναφέροντας αυτούς τους ισχυρισμούς που πιστεύω ότι αποφασίσατε ότι τελικά ήταν αβάσιμοι: ότι ο Άλτμαν επιτέθηκε σεξουαλικά σε ανηλίκους ή προσέλαβε σεξουαλικές υπηρεσίες ή ακόμη και δολοφόνησε έναν πληροφοριοδότη του OpenAI. Εννοώ, είστε το άτομο που μπορεί να αναφέρει αυτό το θέμα με τη μεγαλύτερη αυστηρότητα. Αποφασίσατε ότι δεν έγινε τίποτα;
Λοιπόν, κοιτάξτε, δεν είμαι στη δουλειά να πω ότι κάτι δεν πήγε καλά. Αυτό που μπορώ να πω είναι ότι πέρασα μήνες κοιτάζοντας αυτούς τους ισχυρισμούς και δεν βρήκα επιβεβαίωσή τους. Και ήταν εντυπωσιακό για μένα ότι αυτοί οι τύποι, αυτές οι εταιρείες που έχουν τόση δύναμη στο μέλλον μας, ξοδεύουν πραγματικά ένα δυσανάλογο μέρος του χρόνου και των πόρων τους σε έναν παιδικό αγώνα λάσπης.
Ένα στέλεχος το περιγράφει ως «σαιξπηρικό». Το ποσό των χρημάτων των ιδιωτικών ερευνητών και οι φάκελοι της αντιπολίτευσης που συντάσσονται είναι αμείλικτο. Και το δυσάρεστο είναι ότι το είδος των σατανικών πραγμάτων, που παπαγαλίζονται από τους ανταγωνιστές του Σαμ, είναι απλώς υποτιθέμενο γεγονός, σωστά; Υπάρχει αυτός ο ισχυρισμός ότι καταδιώκει ανήλικα αγόρια και σε πολλά κοκτέιλ πάρτι στη Silicon Valley, το ακούτε αυτό. Στο κύκλωμα του συνεδρίου, το άκουσα να επαναλαμβάνεται από αξιόπιστα, εξέχοντα στελέχη: «Όλοι γνωρίζουν ότι αυτό είναι γεγονός».
Το λυπηρό είναι ότι μιλάω για το από πού προέρχεται αυτό, τους διάφορους φορείς μέσω των οποίων μεταδίδεται. Ο Έλον Μασκ και οι συνεργάτες του φαινομενικά προωθούν πραγματικά σκληροπυρηνικούς φακέλους που δεν είναι τίποτα. Είναι ατμοσφαιρικά όταν αρχίζετε να εξετάζετε τους υποκείμενους ισχυρισμούς. Το λυπηρό είναι ότι πραγματικά συσκοτίζει τις πιο βασισμένες σε αποδείξεις κριτικές εδώ που πιστεύω ότι πραγματικά αξίζουν επείγουσας επίβλεψης και εξέτασης.
Το άλλο θέμα που έρχεται πραγματικά στην ιστορία είναι σχεδόν μια αίσθηση φόβου ότι ο Σαμ έχει τόσους πολλούς φίλους – έχει επενδύσει σε τόσες πολλές εταιρείες από τον προηγούμενο ρόλο του ως Διευθύνων Σύμβουλος του Y Combinator, μέχρι την προσωπική του επένδυση, μερικές από τις οποίες έρχονται σε άμεση σύγκρουση με τον ρόλο του ως Διευθύνων Σύμβουλος της OpenAI – και υπάρχει σιωπή γύρω του.
Μου έκανε εντύπωση καθώς διάβαζα μια γραμμή συγκεκριμένα. Περιγράφεις τα υπομνήματα του Ilya Sutskever και μόλις βγήκαν στη Silicon Valley. Καθέναςτους αποκαλεί υπομνήματα Ilya. Αλλά υπάρχει ακόμη και σιωπή γύρω από αυτό. Έχουν περάσει, αλλά δεν συζητούνται. Από πού πιστεύετε ότι προέρχεται αυτό; Είναι φόβος; Είναι επιθυμία να αποκτήσετε επένδυση αγγέλου; Από πού προέρχεται αυτό;
Νομίζω ότι είναι πολύ δειλία, θα είμαι ειλικρινής. Έχοντας αναφερθεί σε ιστορίες εθνικής ασφάλειας όπου οι πηγές είναι πληροφοριοδότες που πρόκειται να χάσουν τα πάντα και να αντιμετωπίσουν τη δίωξη, εξακολουθούν να κάνουν το σωστό και να μιλούν για πράγματα για να δημιουργήσουν υπευθυνότητα. Έχω δουλέψει στις ιστορίες που αναφέρατε σχετικά με σεξουαλικά εγκλήματα, όπου οι πηγές είναι βαθιά τραυματισμένες και φοβούνται μια πολύ προσωπική τιμωρία.
Σε πολλές περιπτώσεις γύρω από αυτό το ρυθμό, έχετε να κάνετε με άτομα με το δικό τους προφίλ και τη δύναμή τους. Είναι είτε οι ίδιοι διάσημοι άνθρωποι είτε περιτριγυρίζονται από διάσημους ανθρώπους. Έχουν εύρωστη επιχειρηματική ζωή. Κατά την άποψή μου, είναι στην πραγματικότητα πολύ χαμηλή έκθεση για αυτούς να μιλάνε για αυτό το θέμα. Και ευτυχώς, η βελόνα κινείται όπως είπαμε νωρίτερα, και οι άνθρωποι τώρα μιλούν περισσότερο.
Αλλά για τόσο μεγάλο χρονικό διάστημα, οι άνθρωποι πραγματικά σιωπούν γι' αυτό γιατί πιστεύω ότι η κουλτούρα της Silicon Valley είναι τόσο αδίστακτα ιδιοτελής και αδίστακτα προσανατολισμένη προς τις επιχειρήσεις και την ανάπτυξη. Οπότε νομίζω ότι αυτό ταλαιπωρεί ακόμη και μερικούς από τους ανθρώπους που συμμετείχαν στην απόλυση του Σαμ, όπου είδατε τις επόμενες μέρες, ναι, ένας παράγοντας που τον οδήγησε στην επιστροφή του και στην απόλυση παλαιών μελών του διοικητικού συμβουλίου ήταν ότι συγκέντρωσε επενδυτές που είχαν μπερδευτεί με τον σκοπό του.
Αλλά ένα άλλο είναι ότι τόσοι άλλοι άνθρωποι γύρω του που είχαν τις ανησυχίες και τις εξέφρασαν επειγόντως απλώς δίπλωσαν σαν χαρτοπετσέτες και άλλαξαν τη μελωδία τους τη στιγμή που είδαν τον άνεμο να φυσούσε αντίθετα και ήθελαν να μπουν στο τρένο για το κέρδος.
Είναι πολύ σκοτεινό, ειλικρινά, από τη σκοπιά μου ως ρεπόρτερ.
Μερικοί από αυτούς τους ανθρώπους είναι η Mira Murati, η οποία, πιστεύω, για 20 λεπτά ήταν η νέα διευθύνουσα σύμβουλος του OpenAI. Στη συνέχεια αντικαταστάθηκε. Ήταν μια πολύ περίπλοκη δυναμική και προφανώς, ο Σαμ επέστρεψε. Το άλλο πρόσωπο είναι ο Ilya Sutskever, ο οποίος ήταν ένας από τους ψήφους για την απομάκρυνση του Sam, και μετά άλλαξε γνώμη ή τουλάχιστον είπε ότι άλλαξε γνώμη και μετά έφυγε για να ξεκινήσει τη δική του εταιρεία. Ξέρεις τι τον έκανε να αλλάξει γνώμη; Ήταν μόνο χρήματα;
Λοιπόν, και για να είμαι σαφής, δεν ξεχωρίζω αυτά τα δύο. Υπάρχουν και άλλα μέλη του διοικητικού συμβουλίου που ενεπλάκησαν στα πυρά, τα οποία επίσης σιώπησαν πολύ μετά. Νομίζω ότι είναι σαν ένα ευρύτερο συλλογικό πρόβλημα. Πρόκειται, σε ορισμένες περιπτώσεις, για άτομα που είχαν την ηθική ίνα να ηχήσουν συναγερμό και να λάβουν ριζοσπαστικά μέτρα, και αυτό είναι αξιέπαινο. Και έτσι διασφαλίζετε την ευθύνη. Αυτό θα μπορούσε να έχει βοηθήσει πολλούς ανθρώπους που επηρεάζονται από αυτήν την τεχνολογία. Θα μπορούσε να είχε βοηθήσει μια βιομηχανία να παραμείνει πιο ουσιαστικά εστιασμένη στην ασφάλεια.
Αλλά όταν ασχολείσαι με καταγγέλλοντες και ανθρώπους που προσπαθούν να προκαλέσουν πολύ αυτή τη λογοδοσία, βλέπεις επίσης ότι χρειάζεται να το ξεχωρίσεις και να τηρείς τις πεποιθήσεις σου. Και αυτή η βιομηχανία είναι πραγματικά γεμάτη από ανθρώπους που απλώς δεν στέκονται στις πεποιθήσεις τους.
Παρόλο που πιστεύουν ότι χτίζουν έναν ψηφιακό Θεό που με κάποιο τρόπο είτε θα εξαλείψει όλη την εργασία είτε θα δημιουργήσει περισσότερη εργασία, ή κάτι θα συμβεί.
Λοιπόν, αυτό είναι το θέμα. Έτσι, η κουλτούρα του να μην τηρείτε τις πεποιθήσεις σας και όλες τις ηθικές ανησυχίες να παραμερίζονται τη στιγμή που υπάρχει θερμότητα ή οτιδήποτε που θα μπορούσε να απειλήσει τη δική σας θέση στην επιχείρηση είναι ίσως καλή και καλή σε κάποιο βαθμό για τις επιχειρήσεις που κατασκευάζουν οποιοδήποτε είδος widget.
Αλλά αυτοί είναι επίσης οι ίδιοι άνθρωποι που λένε, «Αυτό θα μπορούσε κυριολεκτικά να μας σκοτώσει όλους». Και πάλι, δεν χρειάζεται να πάτε στο άκρο του Terminator Skynet. Υπάρχει ένα σύνολο κινδύνων που ήδη υλοποιούνται. Είναι αληθινό, και έχουν δίκιο να προειδοποιούν γι' αυτό, αλλά θα έπρεπε να βάλεις κάποιον άλλο στην πολυθρόνα να ψυχολογήσει πώς αυτά τα δύο πράγματα μπορούν να ζήσουν στους ίδιους ανθρώπους όπου εκπέμπουν τις επείγουσες προειδοποιήσεις, ίσως βάζουν το δάχτυλο του ποδιού και προσπαθούν να κάνουν κάτι και μετά απλώς διπλώνουν και σιωπούν.
Αυτός είναι ακριβώς ο λόγος για τον οποίο μπορείτε να έχετε αυτού του είδους τις περιπτώσεις που δεν γράφουν πράγματα και τα πράγματα παρασύρονται κάτω από το χαλί, και κανείς δεν μιλάει γι' αυτό ανοιχτά για χρόνια μετά το γεγονός.
Το φυσικό, υπεύθυνο μέρος εδώ δεν θα ήταν οι διευθύνοντες σύμβουλοι αυτών των εταιρειών. θα ήταν κυβερνήσεις. Στις Ηνωμένες Πολιτείες, ίσωςείναι κυβερνήσεις των πολιτειών, ίσως είναι η ομοσπονδιακή κυβέρνηση.
Σίγουρα, όλες αυτές οι εταιρείες θέλουν να είναι παγκόσμιες. Υπάρχουν πολλές παγκόσμιες επιπτώσεις εδώ. Παρακολούθησα τα OpenAI, Google και Anthropic να ενθαρρύνουν την κυβέρνηση Μπάιντεν να εκδώσει ένα εκτελεστικό διάταγμα τεχνητής νοημοσύνης. Ήταν αρκετά χωρίς δόντια στο τέλος. Απλώς είπε ότι έπρεπε να μιλήσουν για το τι ήταν ικανά τα μοντέλα τους και να κυκλοφορήσουν κάποιες δοκιμές ασφαλείας. Και μετά όλοι υποστήριξαν τον Τραμπ, και ο Τραμπ μπήκε και τα εξαφάνισε όλα αυτά και είπε: "Πρέπει να είμαστε ανταγωνιστικοί. Είναι δωρεάν για όλους. Προχωρήστε".
Ταυτόχρονα, όλοι προσπαθούν να συγκεντρώσουν κεφάλαια από χώρες της Μέσης Ανατολής που έχουν πολλά χρήματα από πετρέλαιο και θέλουν να αλλάξουν τις οικονομίες τους. Αυτοί είναι πολιτικοί. Νιώθω ότι οι πολιτικοί πρέπει οπωσδήποτε να καταλάβουν ότι κάποιος μιλάει και από τις δύο πλευρές του στόματός τους και δεν πρόκειται να στεναχωρηθούν πολύ αν κάποιος απογοητευτεί στο τέλος, αλλά και οι πολιτικοί παίρνουν μια βόλτα. Γιατί νομίζεις ότι είναι αυτό;
Αυτός είναι πραγματικά, νομίζω, γιατί το κομμάτι έχει σημασία κατά την άποψή μου και γιατί άξιζε να αφιερώσω όλο αυτό τον χρόνο και τις λεπτομέρειες. Βρισκόμαστε σε ένα περιβάλλον όπου τα συστήματα που, όπως λέτε, θα έπρεπε να παρέχουν επίβλεψη έχουν απλώς καταργηθεί. Αυτή είναι μια ενωμένη Αμερική μετά τους πολίτες, όπου η ροή του χρήματος είναι τόσο ανεμπόδιστη και είναι μια ιδιαίτερη συγκέντρωση αυτού του προβλήματος γύρω από την τεχνητή νοημοσύνη, όπου υπάρχουν αυτά τα PAC που πολλαπλασιάζονται και κατακλύζουν χρήματα για να καταργήσουν ουσιαστικές ρυθμίσεις τόσο σε πολιτειακό όσο και σε ομοσπονδιακό επίπεδο.
Έχετε τον [συνιδρυτή του OpenAI] Γκρεγκ Μπρόκμαν, τον δεύτερο στην εξουσία του Σαμ, που συνεισφέρει άμεσα με σημαντικό τρόπο σε μερικά από αυτά. Οδηγεί σε μια κατάσταση όπου υπάρχει πραγματικά σύλληψη νομοθετών και πιθανών ρυθμιστικών αρχών, και αυτό είναι ένα δύσκολο σπιράλ για να βγούμε. Το λυπηρό είναι ότι νομίζω ότι υπάρχουν απλές πολιτικές κινήσεις, μερικές από τις οποίες δοκιμάζονται αλλού στον κόσμο, που θα βοηθούσαν σε ορισμένα από αυτά τα προβλήματα λογοδοσίας.
Θα μπορούσατε να κάνετε πιο υποχρεωτικές δοκιμές ασφαλείας πριν από την ανάπτυξη, κάτι που συμβαίνει ήδη στην Ευρώπη για τα μοντέλα συνόρων. Θα μπορούσατε να έχετε πιο αυστηρές απαιτήσεις γραπτού δημόσιου αρχείου για τα είδη των εσωτερικών ερευνών όπου είδαμε ότι τα πράγματα δεν γράφονταν σε αυτήν την περίπτωση. Θα μπορούσατε να έχετε ένα πιο ισχυρό σύνολο μηχανισμών ελέγχου εθνικής ασφάλειας για τα είδη των φιλοδοξιών για τις υποδομές της Μέσης Ανατολής που ωθούσε ο Sam Altman.
Όπως λέτε, έκανε αυτό το δόλωμα και άλλαζε με την κυβέρνηση Μπάιντεν, λέγοντας: «Ρυθμίστε μας, ρυθμίστε μας» και τους βοηθούσε να δημιουργήσουν ένα εκτελεστικό διάταγμα και στη συνέχεια τη στιγμή που ο Τραμπ θα μπει μέσα, πραγματικά τις πρώτες μέρες, «Ας επιταχύνουμε και ας χτίσουμε μια τεράστια πανεπιστημιούπολη κέντρου δεδομένων στο Άμπου Ντάμπι». Θα μπορούσατε να έχετε, αυτό είναι πολύ απλό, όπως η προστασία των πληροφοριοδοτών. Δεν υπάρχει ομοσπονδιακός νόμος που να προστατεύει τους υπαλλήλους εταιρειών τεχνητής νοημοσύνης που αποκαλύπτουν αυτού του είδους τις ανησυχίες για την ασφάλεια που προβάλλονται σε αυτό το κομμάτι.
Έχουμε περιπτώσεις όπου ο Jan Leike, ο οποίος ήταν ανώτερος τύπος ασφαλείας στο OpenAI, ήταν επικεφαλής της σούπερ ευθυγράμμισης στην εταιρεία. Γράφει στο διοικητικό συμβούλιο, ουσιαστικά υλικό πληροφοριοδότη, λέγοντας ότι η εταιρεία αποχωρεί από τις ράγες για την αποστολή της για την ασφάλεια. Αυτοί είναι οι τύποι ανθρώπων που θα πρέπει να έχουν ένα εποπτικό όργανο στο οποίο μπορούν να απευθυνθούν και θα πρέπει να έχουν ρητές νομοθετικές προστασίες όπως αυτές που βλέπουμε σε άλλους τομείς. Αυτό είναι απλό να αναπαραχθεί ένα καθεστώς τύπου Sarbanes-Oxley.
Νομίζω ότι παρά το πόσο οξύ είναι το πρόβλημα της ανάληψης του ελέγχου όλων των μοχλών εξουσίας από τη Silicon Valley και παρά το πόσο κούφιοι είναι ορισμένοι από αυτούς τους θεσμούς που θα μπορούσαν να παρέχουν εποπτεία και προστατευτικά κιγκλιδώματα, εξακολουθώ να πιστεύω στα βασικά μαθηματικά της δημοκρατίας και των πολιτικών που έχουν συμφέροντα. Και υπάρχουν όλο και περισσότερα δημοσκοπικά στοιχεία που προκύπτουν ότι η πλειοψηφία των Αμερικανών πιστεύει ότι οι ανησυχίες, τα ερωτήματα ή οι κίνδυνοι της τεχνητής νοημοσύνης υπερτερούν επί του παρόντος των οφελών.
Επομένως, νομίζω ότι η πλημμύρα χρημάτων στην πολιτική από την τεχνητή νοημοσύνη, είναι μέσα σε όλες μας τις δυνάμεις να το κάνουμε πηγή ερωτηματικού σε σχέση με τους πολιτικούς. Όταν οι Αμερικανοί πηγαίνουν να ψηφίσουν, θα πρέπει να ελέγχουν αν οι άνθρωποι που ψηφίζουν, ειδικά εάν είναι άκριτοι και αντιρρύθμισης, δεδομένων όλων αυτών των ανησυχιών, χρηματοδοτούνται από μεγάλα τεχνολογικά ειδικά συμφέροντα. Επομένως, νομίζω ότι αν οι άνθρωποι μπορούν να διαβάσουν κομμάτια όπως αυτό, να ακούσουν podcast όπως αυτό και να νοιαστούν αρκετά για να σκεφτούν κριτικάΟι αποφάσεις τους ως ψηφοφόροι, υπάρχει μια πραγματική ευκαιρία να δημιουργήσουν μια εκλογική περιφέρεια στην Ουάσιγκτον από εκπροσώπους που παρακολουθούν και επιβάλλουν την εποπτεία.
Αυτό μπορεί να είναι ένα από τα πιο αισιόδοξα πράγματα που έχω ακούσει ποτέ να λέει κάποιος για την τρέχουσα βιομηχανία AI. Το εκτιμώ. Έχω εμμονή με τις δημοσκοπήσεις για τις οποίες μιλάς. Υπάρχουν πολλά τώρα. Όλα είναι αρκετά συνεπή και φαίνεται ότι όσο περισσότεροι νέοι άνθρωποι, ειδικότερα, εκτίθενται στην τεχνητή νοημοσύνη, τόσο πιο δύσπιστοι και θυμωμένοι είναι γι' αυτό. Αυτό είναι το σθένος όλων των δημοσκοπήσεων. Και το κοιτάζω αυτό, και νομίζω, καλά, ναι, οι έξυπνοι πολιτικοί απλώς θα έτρεχαν εναντίον αυτού. Θα έλεγαν απλώς, «Θα θέσουμε υπόλογη τη μεγάλη τεχνολογία».
Στη συνέχεια, σκέφτομαι τα τελευταία 20 χρόνια, ένας πολιτικός που λέει ότι θα φέρουν την ευθύνη της μεγάλης τεχνολογίας, και αγωνίζομαι να βρω έστω και μια στιγμή μεγάλης τεχνολογίας να λογοδοτήσει. Το μόνο πράγμα που με κάνει να πιστεύω ότι αυτό μπορεί να είναι διαφορετικό είναι, λοιπόν, πρέπει στην πραγματικότητα να δημιουργήσετε τα κέντρα δεδομένων και μπορείτε να το καταψηφίσετε, και μπορείτε να υποβάλετε αίτηση εναντίον αυτού και μπορείτε να διαμαρτυρηθείτε για αυτό.
Νομίζω ότι υπάρχει ένας πολιτικός που μόλις πυροβολήθηκε στο σπίτι του επειδή ψήφισαν για ένα κέντρο δεδομένων. Η ένταση φτάνει, θα την έλεγα, σε πυρετό. Περιγράψατε τη νησιωτικότητα της Silicon Valley. Αυτό είναι ένα κλειστό οικοσύστημα. Είναι σαν να πιστεύουν ότι μπορούν να κυβερνήσουν τον κόσμο. Βάζουν ένα σωρό χρήματα στην πολιτική και έρχονται αντιμέτωποι με την πραγματικότητα ότι οι άνθρωποι δεν αγαπούν τα προϊόντα, κάτι που δεν τους προσφέρει μεγάλη κάλυψη. Όσο περισσότερο χρησιμοποιούν τα προϊόντα, τόσο περισσότερο αναστατώνονται, και οι πολιτικοί αρχίζουν να βλέπουν ότι υπάρχουν πραγματικές συνέπειες για την υποστήριξη της βιομηχανίας τεχνολογίας έναντι των ανθρώπων που εκπροσωπούν.
Έχετε μιλήσει με τόσους πολλούς ανθρώπους. Πιστεύετε ότι είναι δυνατό για τη βιομηχανία της τεχνολογίας να πάρει το μάθημα που βρίσκεται ακριβώς μπροστά της;
Λέτε ότι είναι σαν να πιστεύουν ότι μπορούν να κυβερνήσουν τον κόσμο χωρίς να λογοδοτήσουν. Δεν νομίζω ότι χρειάζεται καν τον προκριματικό «αισθάνεται σαν». Εννοώ, κοιτάτε τη γλώσσα που χρησιμοποιεί ο Peter Thiel, είναι σαφής. Φυσικά, αυτό είναι ένα ακραίο παράδειγμα. Και ο Sam Altman, αν και είναι κοντά και ενημερωμένος από την ιδεολογία του Thiel σε κάποιο βαθμό, είναι ένα πολύ διαφορετικό είδος ανθρώπου που μπορεί να ακούγεται διαφορετικό και πιο μετρημένο ως ένα σημείο.
Αλλά πιστεύω ότι η ευρύτερη ιδεολογία που παίρνετε από τον Thiel, η οποία είναι βασικά: Τελειώσαμε με τη δημοκρατία, δεν τη χρειαζόμαστε πια. Έχουμε τόσα πολλά που θέλουμε απλώς να φτιάξουμε τα δικά μας μικρά καταφύγια. Δεν έχουμε να κάνουμε πια με τους Carnegies ή με τους Rockefellers, όπου είναι κακοί, αλλά νιώθουν ότι πρέπει να συμμετάσχουν σε ένα κοινωνικό συμβόλαιο και να χτίσουν πράγματα για τους ανθρώπους. Υπάρχει ένας πραγματικός μηδενισμός που έχει δημιουργηθεί.
Και νομίζω ότι ήταν απλώς μια αλληλοενισχυόμενη σπείρα στην πρόσφατη αμερικανική ιστορία των μεγιστάνων και των ιδιωτικών εταιρειών που αποκτούν υπερκυβερνητική εξουσία, ενώ οι δημοκρατικοί θεσμοί που θα μπορούσαν να τους θέσουν υπόλογους έχουν καταργηθεί. Δεν αισθάνομαι αισιόδοξος για την ιδέα ότι αυτοί οι τύποι μπορεί απλώς να ξυπνήσουν μια μέρα και να σκεφτούν: «Ε, στην πραγματικότητα ίσως χρειάζεται να συμμετέχουμε στην κοινωνία και να βοηθήσουμε να χτιστούν πράγματα για τους ανθρώπους».
Εννοώ, μοιάζετε με το μικροκοσμικό παράδειγμα του The Giving Pledge, όπου υπήρχε μια στιγμή όπου φαινόταν ότι ήταν φιλανθρωπικό, και αυτή η στιγμή είναι πλέον παρελθόν και μάλιστα γελοιοποιημένη. Αυτό είναι ένα πρόβλημα, το ευρύτερο πρόβλημα της έλλειψης λογοδοσίας που νομίζω ότι μπορεί να λυθεί μόνο εξωτερικά. Αυτό πρέπει να είναι οι ψηφοφόροι που κινητοποιούν και αναβιώνουν την εξουσία της κυβερνητικής εποπτείας. Και έχετε ακριβώς δίκιο που λέτε ότι ο κύριος φορέας μέσω του οποίου οι άνθρωποι θα μπορούσαν ίσως να το πετύχουν αυτό είναι τοπικός. Έχει να κάνει με το πού κατασκευάζονται οι υποδομές.
Αναφέρατε κάποια από την έντονη ένταση γύρω από αυτό που οδηγεί σε βία και απειλές, και προφανώς, κανείς δεν πρέπει να είναι βίαιος ή απειλητικός. Και επίσης δεν είμαι εδώ για να κάνω συγκεκριμένες συστάσεις πολιτικής εκτός από το να παρουσιάσω απλώς μερικά από τα βήματα πολιτικής που φαίνονται βασικά και λειτουργούν αλλού στον κόσμο, σωστά; Ή όσοι έχουν εργαστεί σε άλλους τομείς. Δεν είμαι εδώ για να πω ποια από αυτά πρέπει να εκτελεστούν και πώς.
Πιστεύω ότι κάτι πρέπει να συμβεί, και πρέπει να είναι εξωτερικό, όχι μόνο να εμπιστεύεσαι αυτές τις εταιρείες. Γιατί σωστάΤώρα έχουμε μια κατάσταση όπου οι εταιρείες που αναπτύσσουν την τεχνολογία και είναι εξοπλισμένες καλύτερα για να κατανοήσουν τους κινδύνους, και στην πραγματικότητα είναι αυτές που μας προειδοποιούν για τους κινδύνους, είναι επίσης εκείνες που δεν έχουν παρά κίνητρο να προχωρήσουν γρήγορα και να αγνοήσουν αυτούς τους κινδύνους. Και απλά δεν έχετε τίποτα να το αντισταθμίσετε. Επομένως, όποιες μεταρρυθμίσεις και αν χρειαστούν όσον αφορά τις ιδιαιτερότητες, κάτι πρέπει να αντιμετωπιστεί. Και εξακολουθώ να επιστρέφω σε αυτή την αισιοδοξία ότι οι άνθρωποι εξακολουθούν να έχουν σημασία.
Γενικά αγοράζω το επιχείρημά σου. Επιτρέψτε μου να κάνω μόνο το ένα μικρό αντεπιχείρημα που νομίζω ότι μπορώ να διατυπώσω. Το άλλο πράγμα που θα μπορούσε να συμβεί έξω από την κάλπη είναι να σκάσει η φούσκα, σωστά; Ότι δεν φτάνουν όλες αυτές οι εταιρείες στη γραμμή του τερματισμού και ότι δεν υπάρχει αγορά προϊόντος που να ταιριάζει στις εφαρμογές τεχνητής νοημοσύνης των καταναλωτών. Και πάλι, δεν το βλέπω ακόμα, αλλά είμαι κριτικός τεχνολογίας καταναλωτών και ίσως απλώς έχω υψηλότερα πρότυπα από όλους τους άλλους.
Υπάρχει κατάλληλη αγορά προϊόντων στον επιχειρηματικό κόσμο, σωστά; Το να έχουν μια δέσμη πρακτόρων AI να γράφουν ένα σωρό λογισμικό φαίνεται να είναι μια πραγματική αγορά για αυτά τα εργαλεία. Και μπορείτε να διαβάσετε τα επιχειρήματα αυτών των εταιρειών που λένε: "Έχουμε λύσει την κωδικοποίηση, και αυτό σημαίνει ότι μπορούμε να λύσουμε τα πάντα. Εάν μπορούμε να φτιάξουμε λογισμικό, μπορούμε να λύσουμε τυχόν προβλήματα."
Νομίζω ότι υπάρχουν πραγματικά όρια στα πράγματα που μπορεί να κάνει το λογισμικό. Αυτό είναι υπέροχο στον επιχειρηματικό κόσμο. Το λογισμικό δεν μπορεί να λύσει κάθε πρόβλημα στην πραγματικότητα, αλλά πρέπει να φτάσουν εκεί. Πρέπει να ολοκληρώσουν τη δουλειά και ίσως να μην φτάνουν όλοι στη γραμμή του τερματισμού. Και υπάρχει μια συντριβή, και αυτή η φούσκα σκάει, και ίσως η OpenAI ή η Anthropic ή η xAI, μια από αυτές τις εταιρείες να αποτύχει και όλη αυτή η επένδυση πάει μακριά.
Πιστεύετε ότι αυτό θα επηρεάσει αυτό; Στην πραγματικότητα, επιτρέψτε μου να κάνω την πρώτη ερώτηση πρώτα. Το OpenAI βρίσκεται ακριβώς στο κατώφλι μιας IPO. Υπάρχουν πολλές αμφιβολίες για τον Σαμ ως ηγέτη. Πιστεύετε ότι θα φτάσουν στη γραμμή του τερματισμού;
Δεν πρόκειται να προβλέπω, αλλά νομίζω ότι θίγετε ένα σημαντικό σημείο, το οποίο είναι ότι τα κίνητρα της αγοράς έχουν σημασία εσωτερικά για τη Silicon Valley και η επισφάλεια της τρέχουσας δυναμικής της φούσκας όντως διακόπτει την, και πάλι, δυνητικά, σύμφωνα με τους επικριτές, αγώνα προς τα κάτω για την ασφάλεια.
Θα πρόσθετα επίσης σε αυτό, εάν κοιτάξετε την ιστορική προτεραιότητα όπου υπάρχει ένα παρόμοιο και φαινομενικά αδιαπέραστο σύνολο κινήτρων της αγοράς και δυνητικά επιβλαβείς επιπτώσεις για το κοινό, υπάρχει αντίκτυπος σε δικαστικές αγωγές. Και το βλέπετε ως τομέα ανησυχίας τον τελευταίο καιρό. Ο Sam Altman είναι εκεί έξω αυτήν την εβδομάδα και εγκρίνει νομοθεσία που θα προστατεύει τις εταιρείες τεχνητής νοημοσύνης από ορισμένους από τους τύπους ευθύνης στους οποίους έχει εκτεθεί το OpenAI σε παράνομες αγωγές θανάτου, για παράδειγμα. Φυσικά, υπάρχει η επιθυμία να έχουμε αυτή την ασπίδα έναντι της ευθύνης.
Νομίζω ότι τα δικαστήρια μπορούν ακόμα να είναι ένας ουσιαστικός μηχανισμός και θα είναι πολύ ενδιαφέρον να δούμε πώς διαμορφώνονται αυτές οι αγωγές. Είδατε ήδη, για παράδειγμα, τη μήνυση ομαδικής δράσης, της οποίας μέλη είμαι εγώ και πολλοί, πολλοί άλλοι συγγραφείς που γνωρίζω, εναντίον της Anthropic για τη χρήση βιβλίων που καλύπτονταν από πνευματικά δικαιώματα. Εάν υπάρχουν έξυπνα νομικά μυαλά και ενάγοντες που νοιάζονται, όπως έχουμε δει ιστορικά σε υποθέσεις από μεγάλο καπνό έως μεγάλη ενέργεια, μπορείτε επίσης να πάρετε κάποια προστατευτικά κιγκλιδώματα και κάποια κίνητρα για να επιβραδύνετε, να είστε προσεκτικοί ή να προστατεύσετε τους ανθρώπους με αυτόν τον τρόπο.
Αισθάνεται ότι ολόκληρη η δομή του κόστους της βιομηχανίας AI εξαρτάται από μια πολύ, πολύ φιλανθρωπική ερμηνεία της δίκαιης χρήσης. Δεν προκύπτει αρκετά. Η διάρθρωση του κόστους αυτών των εταιρειών θα μπορούσε να ξεφύγει από τον έλεγχο εάν χρειαστεί να πληρώσουν εσάς και όλους τους άλλους των οποίων την εργασία έχουν αναλάβει, αλλά είναι άβολο να το σκεφτόμαστε, επομένως δεν το σκεφτόμαστε. Ακριβώς δίπλα σε αυτό, όλα αυτά τα προϊόντα τρέχουν τώρα με ζημία. Σαν σήμερα, τρέχουν όλοι με απώλεια. Κάνουν περισσότερα χρήματα από όσα μπορούν να βγάλουν. Κάποια στιγμή πρέπει να γυρίσουν τον διακόπτη.
Ο Σαμ είναι επιχειρηματίας. Όπως έχετε αναφέρει αρκετές φορές, δεν είναι τεχνολόγος. Είναι επιχειρηματίας. Πιστεύετε ότι είναι έτοιμος να γυρίσει τον διακόπτη και να πει, «Θα βγάλουμε ένα δολάριο;» Γιατί όταν ρωτάω, "Πιστεύετε ότι το OpenAI θα τα καταφέρει;" Είναι όταν πρέπει να βγάλουν ένα δολάριο. Και μέχρι στιγμής, ο Sam έχει κερδίσει όλα του τα δολάρια ζητώντας από άλλους ανθρώπους τα χρήματά τους αντί να βάζουν οι εταιρείες του να βγάζουν χρήματα.
Λοιπόν, αυτό είναι ένα μεγάλο ερώτημα για τη Silicon Valley, για τους επενδυτές, για το κοινό.Βλέπετε κάποιες δηλώσεις και κινήσεις εκτός OpenAI που φαίνεται να προκαλούν ένα είδος πανικού σχετικά με αυτό. Κλείσιμο του Sora, κλείσιμο ορισμένων βοηθητικών έργων, προσπάθεια μηδενισμού του βασικού προϊόντος. Αλλά από την άλλη πλευρά, εξακολουθείτε να βλέπετε, ταυτόχρονα, τόνους ερπυσμού αποστολών, σωστά; Ακόμη και ένα μικρό παράδειγμα - προφανώς δεν είναι ο πυρήνας της επιχείρησής τους - είναι η εξαγορά TBPN.
Παρεμπιπτόντως, καθώς φτάναμε στη γραμμή του τερματισμού και ελέγχαμε τα γεγονότα, η εταιρεία που αντιμετωπίζει αυτό το είδος δημοσιογραφικού ελέγχου αποκτά μια πλατφόρμα όπου μπορεί να έχει πιο άμεσο έλεγχο στη συζήτηση. Νομίζω ότι υπάρχουν πολλοί επενδυτές που ανησυχούν, με βάση τις συζητήσεις που είχα, ότι αυτό το πρόβλημα της υπόσχεσης όλων των πραγμάτων σε όλους τους ανθρώπους επεκτείνεται και σε αυτήν την έλλειψη εστίασης στο βασικό επιχειρηματικό μοντέλο. Και εννοώ, είστε πιο κοντά στο είδος της πρόβλεψης και της παρακολούθησης της αγοράς από ό,τι πιθανώς είμαι εγώ. Θα αφήσω εσάς και τους ακροατές να είστε ο κριτής για το εάν πιστεύουν ότι το OpenAI μπορεί να γυρίσει τον διακόπτη.
Λοιπόν, έθεσα την ερώτηση επειδή έχετε ένα απόσπασμα στο κομμάτι από ένα ανώτερο στέλεχος της Microsoft και είναι ότι, «η κληρονομιά του Sam μπορεί να καταλήξει περισσότερο παρόμοια με τον Bernie Madoff ή τον Sam Bankman-Fried», παρά με τον Steve Jobs. Αυτό είναι αρκετά μια σύγκριση. Τι έκανες για αυτή τη σύγκριση;
Νομίζω ότι είναι μια παράφραση. Το μέρος του Steve Jobs δεν ήταν μέρος του αποσπάσματος. Αλλά υπάρχει ένα ενδιαφέρον είδος νηφαλιότητας σε αυτό επειδή διατυπώνεται ως εξής: «Νομίζω ότι υπάρχει μια μικρή αλλά πραγματική πιθανότητα να καταλήξει να είναι SBF ή απατεώνας επιπέδου Madoff». Αυτό σημαίνει, κατά τη γνώμη μου, όχι ότι ο Σαμ κατηγορείται για αυτούς τους συγκεκριμένους τύπους απάτης ή εγκλημάτων, αλλά ότι ο βαθμός εξάρθρωσης και εξαπάτησης από τον Σαμ μπορεί να έχει την ευκαιρία να τον θυμούνται τελικά σε αυτήν την κλίμακα.
Ναι, νομίζω ότι το πιο εντυπωσιακό σε αυτό το απόσπασμα, ειλικρινά, είναι ότι τηλεφωνείτε στη Microsoft και δεν λαμβάνετε ένα like, "Αυτό είναι τρελό. Δεν το έχουμε ακούσει ποτέ". Παίρνετε πολλά όπως, "Ναι, πολλοί άνθρωποι εδώ το πιστεύουν αυτό" που είναι αξιοσημείωτο. Και νομίζω ότι πηγαίνει σε αυτές τις επιχειρηματικές ερωτήσεις.
Ένας επενδυτής μου είπε, για παράδειγμα, υπό το πρίσμα του τρόπου με τον οποίο αυτό το χαρακτηριστικό παρέμεινε τα χρόνια μετά την πυρκαγιά» - και αυτό θεώρησε επίσης ότι ήταν μια ενδιαφέρουσα νηφάλια σκέψη - ότι δεν είναι απαραίτητα ότι ο Σαμ πρέπει να βρίσκεται στον απόλυτο πάτο της λίστας, όπως θα έπρεπε να είναι ο χαμηλότερος από τους χαμηλούς όσον αφορά τους ανθρώπους που δεν πρέπει οπωσδήποτε να δημιουργήσουν αυτήν την τεχνολογία. τον τοποθετεί ίσως στο κάτω μέρος της λίστας των ανθρώπων που πρέπει να χτίσουν το AGI, και κάτω από πολλές άλλες ηγετικές φυσιογνωμίες σε αυτόν τον τομέα.
Έτσι, σκέφτηκα ότι ήταν μια ενδιαφέρουσα αξιολόγηση, και αυτό είναι το είδος της σκέψης που πιστεύω ότι έχετε από τους πραγματικούς πραγματιστές που ίσως δεν ασχολούνται τόσο με τις ανησυχίες για την ασφάλεια. Είναι απλώς προσανατολισμένοι στην ανάπτυξη και πιστεύουν ότι το OpenAI έχει τώρα πρόβλημα με τον Sam Altman.
Το κομμάτι της Microsoft είναι πραγματικά ενδιαφέρον. Αυτή η εταιρεία πίστευε ότι ήταν στην κορυφή του κόσμου. Ότι είχαν κάνει αυτή την επένδυση και επρόκειτο να υπερπηδήσουν τους πάντες, ειδικά και το πιο σημαντικό, την Google, και να επανέλθουν στην καλή χάρη των καταναλωτών. Το επίπεδο στο οποίο αισθάνονται καμένοι από αυτή την περιπέτεια - αυτή είναι μια πολύ νηφάλια εταιρεία - δεν νομίζω ότι μπορεί να υπερεκτιμηθεί.
Αναφέρατε τους χαρακτήρες και τα χαρακτηριστικά της προσωπικότητας. Θέλω να τελειώσω εδώ με μια ερώτηση των ακροατών μας. Είπα στην άλλη μας εκπομπή, The Vergecast, ότι επρόκειτο να μιλήσω μαζί σου και είπα: «Αν έχετε ερωτήσεις για τον Ronan σχετικά με αυτήν την ιστορία, ενημερώστε με». Έχουμε λοιπόν ένα εδώ που νομίζω ότι ταιριάζει απόλυτα με αυτό που περιγράφετε. Απλώς θα σας το διαβάσω:
«Πώς διαφέρουν οι δικαιολογίες για την κακή συμπεριφορά, τις αυθόρμητες ενέργειες του Άλτμαν και άλλων ηγετών της τεχνητής νοημοσύνης, από τις δικαιολογίες που έχει ακούσει ο Ρόναν από άλλους ηγέτες υψηλού προφίλ στην πολιτική και τα μέσα ενημέρωσης; Δεν δικαιολογούν όλοι τις πράξεις τους λέγοντας ότι έτσι αλλάζει ο κόσμος; Αν δεν το κάνω εγώ, κάποιος άλλος θα το κάνει;»
Ναι, κυκλοφορούν πολλά από αυτά. Θα έλεγα ότι αυτό που χαρακτηρίζει την τεχνητή νοημοσύνη είναι ότι τα υπαρξιακά διακυβεύματα που είναι τόσο μοναδικά υψηλά σημαίνει ότι και οι δύο δηλώσεις κινδύνου είναι ακραίες, σωστά; Έχετε τον Sam Altmanλέγοντας, «Αυτό θα μπορούσε να είναι σβηστό για όλους μας». Και επίσης, θα μπορούσαν να πουν οι κριτικοί, η μανία στην οποία αναφέρεται ο ερωτών είναι ακραία, σωστά;
Αυτό για το οποίο ο Σαμ κατηγόρησε τον Έλον, στο αρχείο, ήταν ότι ίσως θέλει να σώσει την ανθρωπότητα, αλλά μόνο αν είναι αυτός. Το είδος της συνιστώσας του εγώ που θέλει να κερδίσει, που είναι ένα καδράρισμα που χρησιμοποιεί ο Sam όλη την ώρα, και αυτό είναι ένα για τα βιβλία ιστορίας, αυτό θα μπορούσε να αλλάξει τα πάντα. Επομένως, ακόμη και πέρα από τη νοοτροπία «πρέπει να σπάσεις μερικά αυγά» των περισσότερων επιχειρήσεων της Silicon Valley, υπάρχει, στο μυαλό ορισμένων προσωπικοτήτων που οδηγεί στην τεχνητή νοημοσύνη, νομίζω, ένας πλήρης εξορθολογισμός για όλες τις συνέπειες.
Και ξεχάστε το σπάσιμο των αυγών. Νομίζω/νομίζω ότι πολλοί από τους υποκείμενους ερευνητές ασφάλειας θα έλεγαν ότι μπορεί να διακινδυνεύσουν να σπάσουν τη χώρα, να σπάσουν τον κόσμο και να σπάσουν εκατομμύρια ανθρώπους των οποίων η δουλειά και η ασφάλεια κρέμονται από την ισορροπία - αυτό είναι το μοναδικό σε αυτό. Εκεί κλείνω, αναλογιζόμενος αυτό το ρεπορτάζ, πιστεύοντας πραγματικά ότι πρόκειται για κάτι περισσότερο από τον Sam Altman. Πρόκειται για έναν κλάδο που είναι απεριόριστος και ένα σπειροειδές πρόβλημα που η Αμερική δεν μπορεί να τον περιορίσει.
Ναι. Λοιπόν, είχαμε κάποια αισιοδοξία εκεί, αλλά νομίζω ότι αυτό είναι ένα καλό μέρος για να το αφήσουμε.
[Γέλια] Τέλος με χαμηλούς ρυθμούς.
Φυσικά. Αυτή είναι κάθε υπέροχη ιστορία, πραγματικά. Η δίκη Musk-Altman πλησιάζει. Νομίζω ότι θα μάθουμε πολλά περισσότερα εδώ. Υποψιάζομαι ότι θα θέλω να ξαναμιλήσω μαζί σου. Ronan Farrow, σε ευχαριστώ πολύ που είσαι στο Decoder.
Σας ευχαριστώ.
Ερωτήσεις ή σχόλια για αυτό το επεισόδιο; Επισκεφτείτε μας στο [email protected]. Πραγματικά διαβάζουμε κάθε email!
