Σήμερα μιλάμε για την ακατάστατη, ταχέως εξελισσόμενη κατάσταση στο Anthropic, τον κατασκευαστή του Claude που βρίσκεται τώρα σε μια πολύ άσχημη νομική μάχη με το Πεντάγωνο.
Το μπρος-πίσω είναι περίπλοκο, αλλά πριν από λίγες ημέρες, το Πεντάγωνο είχε θεωρήσει την Anthropic κίνδυνο της εφοδιαστικής αλυσίδας και η Anthropic κατέθεσε μήνυση αμφισβητώντας αυτόν τον χαρακτηρισμό, λέγοντας ότι η κυβέρνηση παραβίασε τα δικαιώματά της στην Πρώτη και την Πέμπτη Τροποποίηση «επιδιώκοντας να καταστρέψει την οικονομική αξία που δημιουργήθηκε από μια από τις ταχύτερα αναπτυσσόμενες ιδιωτικές εταιρείες στον κόσμο». Μπορώ να σας πω τώρα: Θα μιλήσουμε για τις ανατροπές αυτής της υπόθεσης στο The Verge και εδώ στο Decoder τους επόμενους μήνες.
Αλλά σήμερα ήθελα να αφιερώσω μια στιγμή και πραγματικά να σκάψω εδώ σε ένα πολύ σημαντικό στοιχείο αυτής της κατάστασης που δεν έχει λάβει αρκετή προσοχή καθώς έχει ξεφύγει από τον έλεγχο: πώς η κυβέρνηση των Ηνωμένων Πολιτειών κάνει την επιτήρηση, τη νομική αρχή που επιτρέπει αυτή την παρακολούθηση και γιατί η Anthropic δεν εμπιστεύτηκε την κυβέρνηση λέγοντας ότι θα ακολουθούσε το νόμο όταν πρόκειται να χρησιμοποιήσει AI για ακόμη μεγαλύτερη παρακολούθηση.
Συνδρομητές Verge, μην ξεχνάτε ότι έχετε αποκλειστική πρόσβαση στον Αποκωδικοποιητή χωρίς διαφημίσεις όπου κι αν λαμβάνετε τα podcast σας. Κατευθυνθείτε εδώ. Δεν είστε συνδρομητής; Μπορείτε να εγγραφείτε εδώ.
Ο καλεσμένος μου σήμερα είναι ο Mike Masnick, ο ιδρυτής και Διευθύνων Σύμβουλος της Techdirt, της εξαιρετικής και μακροχρόνιας ιστοσελίδας τεχνολογικής πολιτικής. Ο Mike γράφει για την υπερβολή της κυβέρνησης, το απόρρητο στην ψηφιακή εποχή και άλλα σχετικά θέματα εδώ και δεκαετίες. Είναι ειδικός στο πώς το Διαδίκτυο και το κράτος επιτήρησης έχουν αναπτυχθεί με αλληλένδετους τρόπους.
Βλέπετε, υπάρχει αυτό που λέει ο νόμος ότι η κυβέρνηση μπορεί να κάνει όταν πρόκειται να μας παρακολουθεί, και μετά τι θέλει να κάνει η κυβέρνηση. Και το πιο σημαντικό, υπάρχει αυτό που λέει η κυβέρνηση ότι ο νόμος λέει ότι μπορεί να κάνει, κάτι που συχνά είναι ακριβώς το αντίθετο από αυτό που θα σκεφτόταν κάθε κανονικός άνθρωπος που διαβάζει απλώς τον νόμο.
Θα ακούσετε τον Μάικ να εξηγεί με μεγάλη λεπτομέρεια εδώ σε αυτό το επεισόδιο ότι δεν μπορούμε - και δεν πρέπει - να λάβουμε υπόψη την κυβέρνηση των ΗΠΑ όταν πρόκειται για παρακολούθηση. Υπάρχει απλώς πάρα πολλή ιστορία κυβερνητικών δικηγόρων που διαστρεβλώνουν τις ερμηνείες απλών λέξεων όπως «στόχος» για να επεκτείνουν την επιτήρηση με περίπλοκους τρόπους – τρόπους που συνήθως προκαλούν ανησυχία μόνο στους νομικούς κύκλους και μόνο όταν υπάρχουν τεράστιες διαμάχες όπως οι σημαντικές αποκαλύψεις της NSA του πληροφοριοδότη Ed Snowden πριν από περισσότερο από μια δεκαετία.
Αλλά δεν υπάρχει τίποτα λεπτό ή περίπλοκο σχετικά με τη χάραξη πολιτικής στην εποχή του Τραμπ – και έτσι με το Anthropic, έχουμε μια πολύ δυνατή, πολύ δημόσια συζήτηση για την τεχνολογία και την επιτήρηση σε πραγματικό χρόνο, στο Διαδίκτυο, σε αναρτήσεις ιστολογίου και χαζομάρες, και με ήχο συνεντεύξεων τύπου. Υπάρχουν θετικά και αρνητικά σε αυτό, αλλά για να κατανοήσετε όλα αυτά, πρέπει πραγματικά να γνωρίζετε την ιστορία.
Αυτό θέλαμε να εξηγήσουμε ο Μάικ και εγώ σε αυτό το επεισόδιο - όποιες και αν είναι οι απόψεις σας για την τεχνητή νοημοσύνη και την κυβέρνηση, αυτό το επεισόδιο θα καταστήσει σαφές ότι και τα δύο μέρη έχουν αφήσει την κατάσταση επιτήρησης να γίνεται όλο και μεγαλύτερη με την πάροδο του χρόνου. Τώρα, βρισκόμαστε στο κατώφλι της μεγαλύτερης επέκτασης μέχρι τώρα όσον αφορά την τεχνητή νοημοσύνη.
Εντάξει: Ο ιδρυτής και διευθύνων σύμβουλος της Techdirt, Mike Masnick, στο Anthropic, το Πεντάγωνο και την επιτήρηση AI. Πάμε λοιπόν.
Αυτή η συνέντευξη έχει υποστεί ελαφρά επεξεργασία για μεγαλύτερη διάρκεια και σαφήνεια.
Mike Masnick, είσαι ο ιδρυτής και διευθύνων σύμβουλος της Techdirt. Καλώς ήρθατε στο Decoder.
Είμαι χαρούμενος που βρίσκομαι εδώ.
Είμαι ενθουσιασμένος που σε έχω μαζί. Απλώς έλεγα ότι είμαι σοκαρισμένος που δεν είχατε πάει ποτέ στην εκπομπή. Εσείς και εγώ γράφουμε και δημοσιεύουμε ο ένας γύρω από τον άλλο εδώ και πολύ καιρό. Πολλές από τις πολιτικές κάλυψης του The Verge οφείλουν ένα χρέος σε αυτό που έχετε κάνει στο Techdirt και, στη συνέχεια, αυτό που συμβαίνει με το Anthropic είναι τόσο περίπλοκο, αλλά έχει τόσα πολλά θέματα που έχετε καλύψει για τόσο καιρό. Χαίρομαι που είσαι επιτέλους εδώ.
Είναι ένα περίπλοκο μπέρδεμα ενός θέματος, αλλά είμαι ενθουσιασμένος που το σκαλίζω.
Αυτό στο οποίο θέλω να επικεντρωθώ μαζί σας δεν είναι οι λεπτομέρειες σχετικά με το εάν η Anthropic πρόκειται να υπογράψει συμβόλαιο με την κυβέρνηση ή εάν η OpenAI πρόκειται να αποκτήσει αυτό το συμβόλαιο. Αντίθετα, είμαι σίγουρος ότι από τη στιγμή που θα ηχογραφήσουμε αυτό και τη στιγμή που θα το ακούσουν οι άνθρωποι, θα υπάρξουν περισσότερα tweets και περισσότερα πράγματα θα είναι διαφορετικά από ό,τι πριν.
Αυτό στο οποίο θέλω να εστιάσω είναι μόνο μία από τις δύο κόκκινες γραμμές που έχει πραγματικά χαράξει η Anthropic. Ένα από αυτά είναιαυτόνομα όπλα, που είναι το δικό του επίπεδο περιπλοκής. Ο νόμος εκεί είναι λίγο πιο εκκολαπτόμενος είτε υπάρχουν είτε όχι τα όπλα είτε έχουν ήδη αναπτυχθεί από τη Ρωσία στον πόλεμο της Ουκρανίας.
Υπάρχουν πολλές ιδέες εδώ που θέλω απλώς να τις αφήσω στην άκρη γιατί πιστεύω ότι θα εστιαστεί περισσότερο στο δικό της πρόγραμμα. Η άλλη κόκκινη γραμμή στην οποία θέλω να αφιερώσω πολύ χρόνο είναι η μαζική επιτήρηση. Και υπάρχει πολύς νόμος εδώ για τη μαζική παρακολούθηση. Υπάρχει πολλή ιστορία, πολλή αμφιλεγόμενη ιστορία. Ολόκληρος ο χαρακτήρας του Έντουαρντ Σνόουντεν υπάρχει λόγω των αντιπαραθέσεων γύρω από τη μαζική παρακολούθηση.
Όλα εξαρτώνται από —νομίζω ότι είστε αυτός που το δημοσίευσε— η Υπηρεσία Εθνικής Ασφάλειας (NSA), η οποία είναι μέρος του Υπουργείου Άμυνας, το οποίο πρέπει να αποκαλούμε Υπουργείο Πολέμου τώρα για κάποιο λόγο.
[Γέλια] Δεν χρειάζεται να κάνουμε τίποτα.
[Γέλια] Δεν το κάνουμε. Αυτό ισχύει εδώ στην Αμερική. Δεν χρειάζεται να κάνουμε τίποτα. Αλλά η NSA έχει ουσιαστικά επαναπροσδιορίσει τι σημαίνουν πολλές λέξεις από την καθομιλουμένη στα αγγλικά ως «Μπορούμε απλώς να κάνουμε επιτήρηση». Και τότε κάθε τόσο υπάρχει ένα σκάνδαλο όταν οι άνθρωποι ανακαλύπτουν ότι απλώς κάνουν παρακολούθηση. Οπότε απλώς βάλτε το σκηνικό εκεί, και δεν θέλω να σας επαναφέρω μέχρι το τέλος, αλλά έχει περάσει πολύς καιρός όπου αυτό το μοτίβο έχει επαναληφθεί.
Εξαρτάται από το πόσο βαθιά θέλετε να πάτε, αλλά η σύντομη έκδοση είναι προφανώς στον κόσμο μετά την 11η Σεπτεμβρίου, οι ΗΠΑ ψήφισαν τον Patriot Act, ο οποίος είχε κάποια ικανότητα για την κυβέρνηση να συμμετέχει σε επιτήρηση, η οποία υποτίθεται ότι ήταν για την προστασία μας από μελλοντικές τρομοκρατικές απειλές. Με τον καιρό, αυτό ερμηνεύτηκε με ενδιαφέροντες τρόπους και υπήρχαν κάποια όρια σε αυτό. Είχαμε επίσης το δικαστήριο FISA, το οποίο είναι ένα ειδικό δικαστήριο που υποτίθεται ότι ελέγχει την κοινότητα πληροφοριών και τις δραστηριότητές τους, αλλά παραδοσιακά ήταν ένα μονόπλευρο δικαστήριο. Μόνο η μία πλευρά μπορεί να επικαλεστεί την υπόθεσή της σε αυτό το δικαστήριο και όλα γίνονται κρυφά.
Υπάρχουν πολλά πράγματα που δεν ήταν γνωστά. Και μετά υπήρχε ένα άλλο κομμάτι σε όλο αυτό, το οποίο πηγαίνει μέχρι τον Ronald Reagan, το οποίο είναι το Executive Order 12333, το οποίο υποτίθεται ότι καθορίζει τους κανόνες του δρόμου για τη συλλογή πληροφοριών.
Έχετε λοιπόν αυτά τα τρία σύνολα νόμων —καλά, μερικά σύνολα νόμων— και ένα εκτελεστικό διάταγμα που στο κοινό, τα μέρη που μπορείτε να διαβάσετε, φαίνεται να λένε ορισμένα πράγματα για το τι μπορεί να κάνει η κυβέρνησή μας και η NSA ειδικότερα όσον αφορά την επιτήρηση. Όταν διαβαζόταν με ένα απλό αγγλικό λεξικό, τη φύση του οποίου εσείς και εγώ πιθανότατα έχουμε και καταλαβαίνουμε, θα καταλήξαμε στην πεποίθηση ότι η ικανότητα της NSA να παρακολουθεί Αμερικανούς ήταν πολύ περιορισμένη, στην πραγματικότητα σε σημείο που υποτίθεται ότι θα έπρεπε, εάν συνειδητοποιήσουν ότι παρακολουθούν έναν Αμερικανό, ότι υποτίθεται ότι πρέπει να σταματήσουν αμέσως και να κλάψουν τα δεδομένα και όλα τα άλλα.
Υπήρχαν φήμες για λίγο ότι αυτό δεν συνέβαινε στην πραγματικότητα και υπήρξαν υπαινιγμοί και συγκεκριμένα ο γερουσιαστής Ρον Γουάιντεν ήταν πολύ φωνητικός ότι πήγαινε στο βήμα της Γερουσίας και έλεγε: «Κάτι δεν πάει καλά εδώ και δεν μπορώ να σας πω ακριβώς τι», ή σε ακροάσεις ρωτούσε αξιωματούχους των υπηρεσιών πληροφοριών, «Συλλέγετε ή δεν συλλέγετε μαζικά δεδομένα για Αμερικανούς;»
Αυτοί οι αξιωματούχοι είτε θα εκτρέπονταν είτε σε ορισμένες περιπτώσεις θα έλεγαν ξεκάθαρα ψέματα. Πιστεύω ότι ήταν μια ακρόαση το 2012 με τον James Clapper, ο οποίος ήταν τότε Διευθυντής της Εθνικής Υπηρεσίας Πληροφοριών, όπου ρωτήθηκε απευθείας για αυτό το σημείο. Και βασικά είπε, «Όχι, δεν συλλέγουμε δεδομένα για Αμερικανούς». Αυτό ήταν ένα μεγάλο μέρος αυτού που ενέπνευσε τον Ed Snowden να διαρρεύσει τα δεδομένα, τις αναφορές που διέρρευσε στον Glenn Greenwald και στον Barton Gellman και στη Laura Poitras επίσης. Από όλα αυτά, αυτό που αρχίσαμε να ανακαλύψουμε ήταν ότι η NSA έχει το δικό της λεξικό που είναι κάπως διαφορετικό από το λεξικό που χρησιμοποιούμε εσείς και εγώ, έτσι ώστε να μπορούν να ερμηνεύουν λέξεις με τρόπους διαφορετικούς από την απλή αγγλική σημασία τους, συμπεριλαμβανομένων λέξεων όπως "target", που μοιάζει με λέξη-κλειδί. Μια ευρεία κατανόηση του τι είναι αυτό είναι ότι, θεωρητικά, υποτίθεται ότι στοχεύουν μόνο άτομα που δεν είναι άτομα των ΗΠΑ, νομίζω ότι είναι η φράση.
Αλλά ο τρόπος με τον οποίο είχε ερμηνευτεί με την πάροδο του χρόνου ήταν ότι οτιδήποτε αναφέρει αυτό το άτομο, οτιδήποτε αφορά ένα ξένο άτομο είναι πλέον δίκαιο παιχνίδι, ακόμα κι αν αυτό είναι η επικοινωνία ενόςπρόσωπο των ΗΠΑ. Επομένως, εάν εσείς και εγώ στέλναμε μηνύματα ο ένας στον άλλο και αναφέρουμε ένα ξένο άτομο, αυτό είναι πλέον δίκαιο παιχνίδι για την NSA να συλλέγει, να διατηρεί και να αποθηκεύει.
Υπάρχει ένα δεύτερο μέρος αυτού. Ανέφερα το πρώτο Εκτελεστικό Διάταγμα 12333 από τον Ρόναλντ Ρίγκαν, το οποίο, καθώς η τεχνολογία άλλαξε με την πάροδο του χρόνου και το Διαδίκτυο μεγάλωνε, επέτρεψε ουσιαστικά στην NSA να αξιοποιήσει ξένες επικοινωνίες, αλλά περιλάμβανε οποιεσδήποτε επικοινωνίες που μπορεί να άφηναν τις ΗΠΑ σε κάποια διαδρομή. Επομένως, εάν σας στέλνω μήνυμα και έστειλε ένα μήνυμα από εμένα στην Καλιφόρνια μέσω ενός καλωδίου οπτικών ινών που έτυχε να φύγει από τις ΗΠΑ, η NSA θα μπορούσε να βάλει ένα χτύπημα στο εξάρτημα μόλις βρεθεί εκτός των ΗΠΑ και να συλλέξει αυτές τις πληροφορίες, ακόμα κι αν σας πήγαιναν μόνο εντός των ΗΠΑ.
Στη συνέχεια, η NSA θα μπορούσε να διατηρήσει αυτές τις πληροφορίες, ακόμη και αν αφορούσαν άτομα των Η.Π.Α., και θα μπορούσαν να κάνουν συγκεκριμένες αναζητήσεις για αυτές αργότερα, που μερικές φορές αναφέρονται ως "ψάχνεις στην πίσω πόρτα". Συνέλεξαν αυτές τις πληροφορίες που πιστεύουμε ότι δεν έπρεπε να συλλέξουν εξαρχής, αλλά μπορούσαν να τις κρατήσουν. Και υποσχέθηκαν, ορκίστηκαν ροζ, ότι θα το κρατήσουν ιδιωτικό, αλλά αν έκαναν μια έρευνα και βρήκαν ότι εσύ ή εγώ αναφέραμε κάποιον ξένο, τότε ξαφνικά ήταν δίκαιο παιχνίδι να κάνουν ό,τι θέλουν με αυτό.
Συνολικά, αυτό έχει μετατραπεί σε έναν κόσμο στον οποίο η ομοσπονδιακή κυβέρνηση μπορεί βασικά να συλλέξει οποιαδήποτε πληροφορία τύχει να αγγίξει εκτός των ΗΠΑ. Ακόμα κι αν είναι εξ ολοκλήρου μεταξύ δύο ατόμων των Η.Π.Α., αν αναφέρουν ή ακόμα και υπαινίσσονται κάποιον που δεν είναι Αμερικανός, ξαφνικά είναι δίκαιο παιχνίδι να συλλεχθεί. Και από αυτό λάβαμε αυτό που φαίνεται να είναι μια μορφή μαζικής παρακολούθησης Αμερικανών προσώπων από μια NSA που ισχυρίζεται και δηλώνει δημόσια ότι δεν κατασκοπεύει Αμερικανούς.
Πώς φτάσαμε σε αυτό το σημείο; Αυτά είναι πολλά σταδιακά βήματα του μωρού. Αναφέρατε τον Τζέιμς Κλάπερ το 2012, αυτή είναι η κυβέρνηση Ομπάμα. Ανέφερες τον Ρόναλντ Ρίγκαν, είναι η δεκαετία του 1980. Εδώ περνάμε από Δημοκρατικούς και Ρεπουμπλικάνους.
Ο πόλεμος κατά της τρομοκρατίας συνέβη στην κυβέρνηση του Τζορτζ Μπους, και η 11η Σεπτεμβρίου και η Πράξη Πατριωτών συνέβησαν στην κυβέρνηση του Τζορτζ Μπους. Υπάρχουν πολλά σταδιακά κακά πράγματα υπό τους προέδρους και των δύο κομμάτων, στα συνέδρια και των δύο κομμάτων. Πώς έγινε αυτό;
Η απλούστερη μορφή του είναι απλώς ότι κανείς, και σίγουρα κανένας πρόεδρος, δεν θέλει να είναι πρόεδρος την ώρα που γίνεται μια μεγάλη τρομοκρατική επίθεση, γιατί αυτό τους κάνει να φαίνονται άσχημα. Προφανώς θέλουν επίσης να προστατεύσουν τους Αμερικανούς, σωστά; Αυτό είναι μέρος της δουλειάς τους. Εάν έχετε μια κοινότητα πληροφοριών που λειτουργεί βασικά στο σκοτάδι, επειδή αυτό κάνουν οι κοινότητες πληροφοριών και συνεχίζουν να έρχονται σε εσάς και να σας λένε, "Ε, αν μπορούσαμε να αποκτήσουμε πρόσβαση σε αυτές τις πληροφορίες, θα ήταν πραγματικά χρήσιμο για την αποτροπή τρομοκρατικής επίθεσης".
Μπορεί να υπάρχουν περιπτώσεις όπου αυτό είναι αλήθεια, ότι η κοινότητα πληροφοριών μπορεί να χρησιμοποιήσει αυτές τις πληροφορίες με τρόπο που λειτουργεί καλά. Αλλά είμαστε επίσης, θεωρητικά, μια κοινωνία νόμων με Σύνταγμα των ΗΠΑ που υποτίθεται ότι πρέπει να υπακούουμε. Αλλά αυτό επέτρεπε το γεγονός ότι η κυβέρνηση μετά την κυβέρνηση, πάλι, Ρεπουμπλικάνοι και Δημοκρατικοί, είχαν δικηγόρους που ήταν πολύ έξυπνοι και που θα έλεγαν: "Λοιπόν, αν τοποθετούμε έτσι ή δηλώνουμε έτσι ή ερμηνεύουμε αυτό, έτσι μπορούμε να πάρουμε αυτό που θέλουμε και να μην παραβιάσουμε τεχνικά τον νόμο ή να μην παραβιάσουμε τεχνικά την Τέταρτη Τροποποίηση".
Η υπόθεση ήταν πάντα, «Μπορούμε να κάμψουμε τον νόμο ή να κάμψουμε την ερμηνεία του νόμου και κανείς δεν πρόκειται να το δει ποτέ αυτό, ή κανείς που νοιάζεται δεν πρόκειται να το δει πραγματικά ποτέ, και επομένως θα ξεφύγουμε».
Υπάρχουν δύο πράγματα που με εκπλήσσουν πραγματικά. Πρώτον, εσείς και εγώ διαβάσαμε πολλές δικαστικές αποφάσεις — αποφάσεις εφετείου και αποφάσεις του Ανωτάτου Δικαστηρίου. Και υπάρχει μια μάχη στο Ανώτατο Δικαστήριο μας για το πώς να ερμηνεύσουμε κυριολεκτικά τις λέξεις στα καταστατικά και τους νόμους μας.
Δεν θα μπω πολύ σε αυτό, αλλά θα έλεγα γενικά την ιδέα ότι πρέπει απλώς να διαβάσετε τις λέξεις στη σελίδα και να κάνετε αυτό που λένε ότι είναι το κυρίαρχο στέλεχος της νομοθετικής ερμηνείας στις Ηνωμένες Πολιτείες. Αριστερά ή δεξιά, το λένε και οι δύο. Διαφωνούν για μερικά πολύ εσωτερικά λεπτά σημεία του τι σημαίνει αυτό στην πραγματικότητα. Αλλά ότι θα πρέπει απλώς να μπορείτε να διαβάζετε αυτές τις λέξεις και να κάνετε ό,τι λένε, αυτό δεν είναι επιτρεπτό, σωστά;
Έχουμε προσγειωθεί τουλάχιστον σε αυτό το πρώτο πέρασμα από όσα θα μπορούσατεονομάζουμε κειμενισμό. Πώς οι δικηγόροι και των δύο διοικήσεων απομακρύνονται τόσο πολύ από τον κυρίαρχο τρόπο νομικής λήψης αποφάσεων στη χώρα μας; Οι δικαστές και των δύο μερών συμφωνούν ότι αυτό είναι τουλάχιστον το πρώτο βήμα.
Μακάρι να ήξερα την ακριβή απάντηση, αλλά νομίζω ότι είναι παρακινημένος συλλογισμός, σωστά; Ως δικηγόρος, είστε εκεί για να υπερασπιστείτε τον πελάτη σας και η επιτυχία —αν μπορείτε να την ονομάσετε επιτυχία— του νομικού μας συστήματος τείνει να βασίζεται στο να έχετε μια αντίπαλη κατάσταση όπου έχετε διαφορετικές πλευρές να διαφωνούν για αυτά τα πράγματα, όπου ο ρόλος του δικαστή είναι να περιορίσει και να καταλάβει ποια πλευρά είναι πραγματικά σωστή.
Ένα από τα προβλήματα με την κοινότητα πληροφοριών και τη συγκρότησή της είναι ότι δεν έχετε αυτήν την αντίπαλη κατάσταση. Αυτό διευκολύνει τη μία πλευρά να δικαιολογήσει το επιχείρημα που προβάλλουν, επειδή κανείς δεν το πιέζει πραγματικά. Το συνδυάζετε με τον γενικό φόβο μιας άλλης τρομοκρατικής επίθεσης, οτιδήποτε σχετίζεται με την εθνική ασφάλεια, ακόμα και όταν αντιμετωπίζετε καταστάσεις όπου έχετε το δικαστήριο FISA — εννοώ ότι το δικαστήριο της FISA ήταν κάπως διάσημο επειδή ήταν ουσιαστικά μια σφραγίδα για πολλά χρόνια.
Ξεχνώ τους ακριβείς αριθμούς, αλλά ήταν κάτι σαν πάνω από το 99 τοις εκατό των αιτήσεων που πήγαν στο δικαστήριο της FISA για να επιτραπεί η παρακολούθηση ορισμένων καταστάσεων, και ήταν εύκολο να πούμε ότι το 99 τοις εκατό είναι προφανώς υπερβολικό. Προφανώς όσοι φέρνουν αξιώσεις στο δικαστήριο, διαλέγουν και επιλέγουν. Δεν προκαλούν, ως επί το πλείστον, εντελώς τρελούς ισχυρισμούς. Αλλά χωρίς αυτήν την αντίπαλη πτυχή και με μια ομάδα ανθρώπων με πολύ ισχυρά κίνητρα που σκέφτονται, «Πρέπει να το κάνουμε αυτό», ή τους λέει μια διοίκηση, «Πρέπει να το κάνουμε αυτό», θα βρουν τρόπους να το κάνουν. Και εκεί καταλήγεις με τον καιρό.
Έχει εμπλακεί κάποιος σε αυτή τη διαδικασία που να έχει ξυπνήσει ποτέ και να έχει πει στον εαυτό του: «Αγόρι μου, καταφέραμε να επαναπροσδιορίσουμε τη λέξη «στόχος» ώστε να σημαίνει οτιδήποτε θέλουμε»;
[Γέλια] Προφανώς είχατε τον Ed Snowden, ο οποίος διέρρευσε ένα σωρό έγγραφα. Είχατε τον John Napier Tye, ο οποίος έγραψε ένα κομμάτι για την Washington Post το 2014, το οποίο αποκάλυψε την ερμηνεία του Executive Order 12333, και είπε ότι αυτό είναι το πραγματικό ζήτημα που πρέπει να προσέξουμε. Έχετε άλλους ανθρώπους που έχουν μιλήσει για αυτά τα πράγματα, αλλά ως επί το πλείστον, οι άνθρωποι που ασχολούνται με τη δουλειά στη διοίκηση για θέματα της κοινότητας πληροφοριών εξαγοράζονται σύμφωνα με την άποψη της κοινότητας των πληροφοριών, η οποία είναι ότι ο πρωταρχικός στόχος είναι να προστατεύσει τη χώρα από κάτι κακό. Ο καλύτερος τρόπος για να το κάνετε αυτό είναι να έχετε όσο το δυνατόν περισσότερες πληροφορίες.
Είναι εύκολο να δεχθούμε το επιχείρημα ότι, ναι, το να έχουν περισσότερες πληροφορίες μπορεί να τους επιτρέψει να πιάσουν κάτι νωρίτερα ή να βρουν κάτι σημαντικό, αλλά, ένα, αυτό μπορεί να μην είναι αλήθεια. Το να λαμβάνετε πάρα πολλές πληροφορίες είναι πιθανώς εξίσου κακό με τις πολύ λίγες πληροφορίες, επειδή μπορεί συχνά να κρύψει τις πληροφορίες που είναι πραγματικά χρήσιμες, τις πληροφορίες που χρειάζεστε πραγματικά για να προσδιορίσετε κάτι.
Αλλά επίσης, έχουμε μια Η.Π.Α. Καταρχήν το Σύνταγμα και έχουμε λόγους για τους οποίους, θεωρητικά, δεν πρέπει να επιτρέπουμε τη μαζική παρακολούθηση χωρίς πιθανή αιτία. Ως χώρα που πιστεύει στο κράτος δικαίου, θα πρέπει να είμαστε σε θέση να ανταποκριθούμε σε αυτό, και όταν όλα αυτά συμβαίνουν στο σκοτάδι, θα τείνετε να το χάσετε από τα μάτια σας.
Αυτό με φέρνει στο Anthropic. Η Anthropic είναι κατά κύριο λόγο μια επιχειρηματική εταιρεία. Είναι καλοί στην κυβέρνηση, έχουν χτίσει αυτούς τους μυς, στελεχώνονται από ανθρώπους που είναι πολύ καλά γνώστες σε κάποια από αυτά τα πράγματα. Προφανώς κοίταξαν τον Πιτ Χέγκσεθ λέγοντας: «Θέλουμε όλες τις νόμιμες χρήσεις» και κατέβασαν δύο επίπεδα ερμηνείας και είπαν: «Λοιπόν, η κυριολεκτική σας πεποίθηση είναι ότι αυτές οι λέξεις δεν σημαίνουν αυτό που λένε στο πρόσωπό τους. Άρα, «όλες οι νόμιμες χρήσεις» είναι πολύ μεγάλες και θέλουμε να βάλουμε κάποια προστατευτικά κιγκλιδώματα ιδιαίτερα γύρω από τη μαζική επιτήρηση».
Και πάλι, θα υποστηρίξω τα αυτόνομα όπλα, που ήταν η άλλη κόκκινη γραμμή, αλλά ιδιαίτερα στη μαζική επιτήρηση, ο Dario Amodei είναι εκεί έξω λέγοντας, "Μπορούμε να κάνουμε πάρα πολλά. Αυτό είναι πολύ επικίνδυνο. Αυτή είναι μια παραβίαση της τέταρτης τροπολογίας."
Η ένταση εκεί είναι «λέτε ότι θα συμμορφωθείτε με αυτούς τους νόμους που λένε ένα πράγμα και τώρα, μετά από τόσο καιρό, σημαίνουν κάτι εντελώς διαφορετικό και εμείς απλά δεν θέλουμε να είμαστε μέρος αυτού». Αυτό είναι τοπάλη. Θέλω απλώς να το συγκρίνω με τον Σαμ Άλτμαν, ο οποίος πέφτει για να πει, «Θα κάνουμε όλες τις νόμιμες χρήσεις» και μετά δημοσιεύει αυτό το μακροσκελές μήνυμα λέγοντας: «Εδώ είναι όλοι οι νόμοι με τους οποίους πρόκειται να συμμορφωθούμε».
Φαίνεται ότι ο Άλτμαν δεν ήξερε πώς η NSA είχε ερμηνεύσει εκ νέου αυτά τα πράγματα και κάπως τον πήραν για βόλτα. Και από τότε άρχισε να το κάνει πίσω – ακόμα και καθώς ηχογραφούμε, είμαι βέβαιος ότι υπάρχουν περισσότερα tweets και οι θέσεις όλων έχουν αλλάξει. Αλλά ο Άλτμαν το οδήγησε πίσω αργά, αλλά φαίνεται ότι το OpenAI αναγκάστηκε να διαβάσει τα καταστατικά στο πρόσωπό τους και να πιστέψει αυτό που είπαν. Αυτή είναι και η δική σας ερμηνεία των γεγονότων;
Υπάρχουν δύο δυνατότητες, και αυτό είναι ένα από αυτά. Το ένα είναι ότι έπαιξε με τον ίδιο τρόπο που έπαιζε το κοινό για πολλά χρόνια. Η εναλλακτική θεωρία, και δεν έχω ιδέα ποια από αυτές είναι αλήθεια, είναι ότι αυτός ή κάποιοι από τους δικηγόρους στο OpenAI —που νομίζω ότι είναι πολύ ικανοί και πολύ γνώστες— το γνώριζαν, αλλά πίστευαν ότι μπορούσαν να παίξουν το ίδιο παιχνίδι που έπαιζε η NSA για μερικές δεκαετίες, εφόσον λένε αυτά τα πράγματα και μετά λένε τα λόγια, αλλά δεν αποκαλύπτουν τις πραγματικές ερμηνείες, ότι θα μπορούσαν να ξεφύγουν. Έτσι, ο Sam βγαίνει με τη δήλωση που το κάνει να μοιάζει σαν «Είχαμε ακριβώς τις ίδιες κόκκινες γραμμές με την Anthropic, και η κυβέρνηση ήταν εξαιρετική με αυτό».
Στην πραγματικότητα, νομίζω ότι ο Sam Altman είπε ότι το Anthropic είχε δύο κόκκινες γραμμές και το OpenAI τρεις, και η κυβέρνηση τα πήγαινε πολύ καλά με αυτό, και αυτό άφησε πολλούς ανθρώπους να ξύνουν τα κεφάλια τους. Αλλά νομίζω ότι είτε ο Σαμ Άλτμαν και όποιος τον περιτριγύριζε δεν κατάλαβαν πώς λειτουργούν αυτά τα πράγματα στην πράξη, είτε το κατάλαβαν, και απλώς υπέθεσαν ότι το κοινό δεν θα το γνώριζε και επομένως θα μπορούσαν να το ξεφύγουν.
Το άλλο πράγμα που έρχεται στο μυαλό - και πάλι, η τεχνητή νοημοσύνη είναι καινούργια και είναι τόσο δελεαστικό να προσεγγίζουμε νέες τεχνολογίες καθώς αυτά είναι προβλήματα πρώτης εντύπωσης. «Κανείς δεν χρειάστηκε ποτέ να το σκεφτεί αυτό πριν», αλλά η πραγματικότητα είναι ότι όλοι σκέφτονται αυτά τα πράγματα εδώ και πολύ καιρό. Ίσως το καινούργιο εδώ δεν είναι η τεχνητή νοημοσύνη, αλλά ότι η δεύτερη κυβέρνηση Τραμπ, αντί να κάνει ένα σωρό δικηγορίες που ίσως κανείς δεν θα διαβάσει ποτέ για να δικαιολογήσει τις ενέργειές του σε ένα μυστικό δικαστήριο που κανείς δεν δίνει σημασία, δεν είναι απλώς τόσο λεπτή.
Δεν είναι τόσο εξελιγμένοι και απλώς λένε ότι θα κατασκοπεύουν τους πάντες όλη την ώρα. Απλώς ανακοίνωσαν τις προθέσεις τους με τρόπο που ίσως όλες οι διοικήσεις θα έπρεπε απλώς να ανακοινώσουν τις προθέσεις τους και να δουν πού πέφτουν οι μάρκες.
Αλλά κοιτάζω το γεγονός ότι υπήρχε ο Ed Snowden εδώ στη Νέα Υόρκη. Η AT&T διαχειρίζεται ένα κτίριο που όλοι γνωρίζουν ότι είναι κτίριο της NSA. Είναι απλώς ένα τεράστιο κτίριο και υποτίθεται ότι δεν είναι κέντρο παρακολούθησης της NSA, αλλά είναι ακριβώς εκεί. είναι τεράστιο. Τίποτα από αυτά δεν φαίνεται να έχει καταλήξει σε τίποτα. Όλες αυτές οι αποκαλύψεις, αυτές οι διαρροές, δεν τις έχουμε κάνει πίσω.
Στην πραγματικότητα, έχει αυξηθεί μόνο καθώς τόσο μεγάλο μέρος της ζωής μας γίνεται όλο και πιο ψηφιακό. Και ίσως η κυβέρνηση Τραμπ να είναι ένα τόσο αμβλύ εργαλείο ανά πάσα στιγμή, αυτό μπορεί στην πραγματικότητα να είναι το πράγμα που προκαλεί τον απολογισμό. Το βλέπεις να παίζει ούτως ή άλλως;
Υπάρχουν μερικά διαφορετικά πράγματα εκεί, και δεν είναι απολύτως αλήθεια ότι δεν έχουμε υποχωρήσει καθόλου από αυτά τα πράγματα. Οι αποκαλύψεις από τον Σνόουντεν οδήγησαν σε κάποιες αλλαγές στον τρόπο με τον οποίο συμβαίνουν αυτά τα πράγματα. Και υπάρχουν τώρα — ξεχνώ πώς λέγονται, αλλά είναι σαν αυτούς τους πολιτικούς φιλικούς ανθρώπους στο δικαστήριο της FISA που θα λειτουργούν ως παρουσιάσεις της άλλης πλευράς σε ορισμένα ζητήματα.
Και έχουμε δει ορισμένες από τις αρχές να περιορίζονται με συγκεκριμένους τρόπους, και να προσφεύγουν για επανεξουσιοδότηση κάθε τόσο, και οι ακτιβιστές ήταν πολύ επιθετικοί στο να απωθήσουν και να προσπαθήσουν να βάλουν μερικά ακόμη προστατευτικά κιγκλιδώματα. Αλλά στο μεγαλύτερο ερώτημα, νομίζω ότι υπάρχουν δύο διαφορετικά πράγματα. Έχετε το ήμισυ δίκιο στο ότι αυτή η διοίκηση δεν είναι λεπτή και απλώς λέει δυνατά τα πράγματα που δεν πρέπει.
«Είμαστε σε πόλεμο με το Ιράν, το κάνουμε, συμβαίνει. Δεν πρόκειται καν να δοκιμάσουμε τον χορό».
Με τρόπους που δεν θα έκαναν όλες οι προηγούμενες διοικήσεις. Αλλά δεν το έχουν πει ευθέωςεπιτήρηση, ειδικά την επιτήρηση Αμερικανών. Υπήρξαν υπαινιγμοί για αυτό, αλλά δεν έχουν βγει τόσο έντονα σε αυτό. Το άλλο μισό έχει να κάνει περισσότερο με την τοποθέτηση της Anthropic και τη γενική άποψη της τεχνητής νοημοσύνης ως αυτής της πιθανώς υπαρξιακής τεχνολογίας, όπου η Anthropic ανέκαθεν εμφανιζόταν ως «Είμαστε οι στοχαστικοί καλοί τύποι» και είτε πιστεύετε είτε όχι, αυτό είναι κάτι άλλο. Έχουν αυτή τη φήμη εκεί έξω: «Προσπαθούμε να το κάνουμε αυτό με τρόπο που είναι ασφαλής, που σέβεται την ανθρωπότητα και δίνει προσοχή σε όλα αυτά τα πράγματα». Και έτσι όταν έχεις αυτή τη σύγκρουση, εκεί μπαίνει ο αγώνας.
Έχετε μια κυβέρνηση Τραμπ που θέλει απλώς να μπορεί να κάνει ό,τι θέλει να μπορεί να κάνει, και δεν είναι λεπτές γι' αυτό. Και μετά έχετε το Anthropic, του οποίου η περιγραφή του εαυτού και η δημόσια προσωπικότητά του είναι πάντα σαν, «Είμαστε στοχαστικοί και σεβόμαστε την ανθρωπότητα και τα δικαιώματα και όλα αυτά τα πράγματα». Εκεί πιθανότατα ήρθε η σύγκρουση, γιατί η Anthropic, όπως έχει γίνει σαφές, έχει συνεργαστεί με το Υπουργείο Άμυνας για λίγο και έχει πολλά άλλα συμβόλαια με την κυβέρνηση που χρησιμοποίησε. Δεν ήταν πρόβλημα.
Μόνο σε αυτούς τους συγκεκριμένους τομείς, καθώς η κυβέρνηση επιδίωκε να επεκτείνει το συμβόλαιο που είχε, η ανώτερη ηγεσία της Anthropic άρχισε να λέει: «Περιμένετε, πρέπει να βεβαιωθούμε ότι δεν υπερβαίνουμε αυτές τις κόκκινες γραμμές που θα μπορούσαν ενδεχομένως να βλάψουν τη φήμη μας ως στοχαστικού, ασφαλούς παρόχου τεχνητής νοημοσύνης».
Θέλω να σας ρωτήσω εν συντομία σχετικά με την επιτήρηση γενικά, και ειδικότερα την ανησυχία της τέταρτης τροποποίησης της Anthropic. Η Τέταρτη Τροποποίηση λέει ότι η κυβέρνηση δεν μπορεί να σας ψάξει αδικαιολόγητα. Ο καλύτερος τρόπος για να κατανοήσετε την Τέταρτη Τροποποίηση είναι ακούγοντας το "99 Problems" του Jay-Z. Επομένως, αν χρειαστεί να κάνετε ένα διάλειμμα και να ακούσετε το "99 Problems", αυτό είναι υπέροχο. Είναι όλα εκεί μέσα. Το άκουσα όταν ήμουν στη νομική σχολή και ήταν απολύτως λογικό.
Αλλά η κυβέρνηση χρειάζεται γενικά ένα ένταλμα για να σας ερευνήσει. Και καθώς όλο και περισσότερο από τη ζωή σας πηγαίνει στο Διαδίκτυο, υπάρχουν πολλές και πολλές εξαιρέσεις σε αυτό. Αλλά η ιδέα είναι ότι θα πρέπει ακόμα να χρειαστούν ένα ένταλμα στο διαδίκτυο. Το επιχείρημα του Anthropic είναι: "Λοιπόν, η τεχνητή νοημοσύνη δεν θα κουραστεί ποτέ. Μπορεί να ψάχνει τα πάντα συνεχώς. Αυτό σημαίνει ότι θα κάνουμε απλώς κύρια επιτήρηση".
Ωστόσο, ακόμη και πριν εμφανιστεί η τεχνητή νοημοσύνη, η ιδέα ότι η κυβέρνηση θα μπορούσε να ψάξει ό,τι σας ανήκε ήταν εκεί έξω, η ιδέα ότι η κυβέρνηση δεν χρειαζόταν ένταλμα για να ψάξει όλα τα πράγματά σας ήταν εκεί έξω. Η ιδέα ότι εάν κάποια από τα δεδομένα σας βγήκε ποτέ εκτός της χώρας για ένα σύντομο δευτερόλεπτο, η κυβέρνηση τα υποκλοπή εκεί,
Όταν ήμουν στο κολέγιο, περίπου την εποχή του Patriot Act, η συζήτηση ήταν ότι δεν πρόκειται να αναζητήσουν τα πραγματικά δεδομένα σας, αλλά μπορούν να λάβουν τα μεταδεδομένα και τα μεταδεδομένα μόνοι τους. Τα δεδομένα σχετικά με τα δεδομένα σας θα είναι αρκετά για να σας εντοπίζουν με ακρίβεια ανά πάσα στιγμή. Και ακόμη και αυτό είναι πολύ μακριά. Και κάναμε αυτόν τον χορό τι μπορεί να μαζέψει η κυβέρνηση; Τι είναι επιτρεπτό; Τι χρειάζονται για να μας κρατήσουν όλους ασφαλείς και τι είναι πολύ μακριά; Αυτές οι γραμμές έχουν μετακινηθεί.
Απλώς περιγράψτε εν συντομία τη γενικευμένη ανησυχία για την επιτήρηση σε κλίμακα και πού βρισκόμαστε τώρα. Πριν η κατάσταση της τεχνητής νοημοσύνης έκανε τα πάντα εκθετικά πιο περίπλοκα.
Εδώ πρέπει να εισαγάγω μια άλλη έννοια που πιθανώς θα έπρεπε να είχε αναφερθεί νωρίτερα, αλλά είναι σημαντική, η οποία ονομάζεται «δόγμα τρίτων». Η ιδέα με την Τέταρτη Τροποποίηση είναι ότι η κυβέρνηση δεν μπορεί να ψάξει εσάς ή τα πράγματά σας χωρίς ένταλμα και δεν μπορεί να λάβει ένταλμα χωρίς πιθανή αιτία ότι έχετε διαπράξει κάποιου είδους έγκλημα. Αλλά υπάρχει αυτή η έννοια που προέκυψε πριν από περίπου δεκαετίες που ονομάζεται δόγμα τρίτου μέρους, που λέει ότι αυτό δεν ισχύει απαραίτητα ή δεν ισχύει καθόλου για πράγματα που δεν είναι δικά σας, ακόμα κι αν είναι δεδομένα σας.
Η παλαιότερη και πιο προφανής εκδοχή αυτού ήταν τα τηλεφωνικά αρχεία που είχε η τηλεφωνική εταιρεία για το ποιος καλούσατε. Οι εταιρείες τηλεφωνίας δεν ηχογραφούσαν τις κλήσεις σας, αλλά ηχογραφούσαν αν σας καλούσα, θα υπήρχε ένα αρχείο στην τηλεφωνική εταιρεία που θα έλεγε: "Ο Μάικ καλεί τη Νάιλεϊ". Και αυτό που είχε καθοριστεί από πολλά δικαστήρια ήταν ότι η κυβέρνηση μπορεί να πάει και να το ζητήσει, και δεν χρειάζονται ένταλμα για αυτό επειδή δεν πρόκειται για έρευνατα δεδομένα σας, είναι αυτό το τρίτο μέρος και μπορούν να συμφωνήσουν ως τρίτο μέρος να παραδώσουν απλώς αυτά τα δεδομένα.
Αλλά αυτές ήταν περιπτώσεις από τις δεκαετίες του 1960 και του 70, όπου καθορίστηκε ότι η κυβέρνηση μπορεί να έχει πρόσβαση σε αυτό χωρίς ένταλμα, όταν δεν υπήρχαν τόσα πολλά δεδομένα τρίτων εκεί έξω. Η άνοδος των υπολογιστών και του Διαδικτύου το άλλαξε. Τώρα, όλα είναι δεδομένα τρίτων. Ό,τι κάνουμε συλλέγεται από κάποια εταιρεία κάπου και έχει ένα αρχείο. Οπότε, βασικά όλα τα δεδομένα για εσάς, πού βρίσκεστε, με ποιους μιλάτε, με ποιους αλληλεπιδράτε, τι λέτε, τι κάνετε, όλα αυτά βρίσκονται σε μεγάλο βαθμό από τρίτα μέρη αυτές τις μέρες. Έτσι, το δόγμα του τρίτου μέρους έχει καταπιεί ολόκληρη την Τέταρτη Τροποποίηση σε κάποιο βαθμό, όπου οτιδήποτε αφορά εσάς που έχει κάποιος άλλος, υπάρχει πολύ χαμηλότερο πρότυπο για το τι μπορεί να κάνει η κυβέρνηση για να το ζητήσει.
Για να είμαι συγκεκριμένος, αυτό σημαίνει ότι όταν τα δεδομένα μου βρίσκονται στο iCloud, η κυβέρνηση μπορεί να πάει στην Apple και να βγάλει τα δεδομένα μου από το iCloud χωρίς να μου το πει ποτέ;
Μπορούν να το ζητήσουν. Μπορούν εύκολα να το ζητήσουν χωρίς ένταλμα. Τότε η εταιρεία έχει τα δικά της δικαιώματα και μπορεί να καθορίσει τι θέλει να κάνει με αυτό το αίτημα. Μπορούν απλά να τα παρατήσουν. Μπορούν, όπως θα κάνουν οι περισσότεροι από αυτούς, εάν είναι σοβαρό αίτημα, να απορρίψουν αιτήματα απεριόριστα ή μπορούν να σας ειδοποιήσουν και μπορούν να πουν - και αυτό θα κάνουν οι περισσότεροι - θα σας ειδοποιήσουν και θα σας πουν, "Η κυβέρνηση ζητά ορισμένα από τα δεδομένα σας. Μπορείτε να πάτε στο δικαστήριο και να προσπαθήσετε να τα αποκλείσετε." Εάν όχι, θα παραδώσουν τα δεδομένα σας σε επτά ημέρες ή ό,τι άλλο μπορεί να είναι.
Και πάλι, εξαρτάται. Εάν πρόκειται για ποινική έρευνα, τότε μπορεί να υπάρξει κάποιου είδους εντολή φίμωσης όπου η εταιρεία δεν επιτρέπεται να σας το πει. Υπάρχουν όλων των ειδών οι καταστάσεις, αλλά οι περισσότερες από αυτές περιλαμβάνουν λιγότερο από το επίπεδο προστασίας που θα απαιτούσε η Τέταρτη Τροποποίηση εάν επρόκειτο για δεδομένα ή οποιαδήποτε πληροφορία ή οτιδήποτε άλλο στο σπίτι σας.
Ο όγκος των δεδομένων που έχετε στον διακομιστή cloud κάποιου άλλου είναι τεράστιος, σωστά; Κάθε μεμονωμένο πράγμα που κάνετε γενικά στο Διαδίκτυο τώρα δημιουργείται αντίγραφα ασφαλείας με κάποιο τρόπο ή καταγράφεται με κάποιο τρόπο στους διακομιστές κάποιου άλλου. Η κυβέρνηση βρήκε αυτόν τον τρόπο για να παρακάμψει την Τέταρτη Τροποποίηση και να πει, "Λοιπόν, αυτή δεν είναι στην πραγματικότητα δική σας. Ανήκει στην Amazon. Μπορούμε να μιλήσουμε με την Amazon" και η Amazon πρέπει να σταθεί στη μέση αυτής της διαδικασίας και να πει: "Εφεύραμε μια άλλη διαδικασία για να προστατεύσουμε κάπως τους ανθρώπους".
Το κοιτάζω αυτό—και όταν κάλυπτα τις πρώτες υποθέσεις δόγματος τρίτων που κάλυπταν τις υπηρεσίες cloud και η κυβέρνηση συνέχιζε να κερδίζει, τότε ήταν βασικά όταν μετατράπηκα στον Τζόκερ. Έλεγα, «Όλα αυτά τα πράγματα που προσποιούμαστε για τον κειμενισμό και την απλή [ανάγνωση], τίποτα από αυτά δεν σημαίνει τίποτα γιατί απλώς φτιάχνουμε ιπποδύναμη στην πίσω πόρτα χρησιμοποιώντας αυτόν τον αρχαίο νόμο στα δεδομένα όλων».
Και μετά κοιτάζω αυτό και κοιτάζω το Anthropic και λέω, "Λοιπόν, αυτό είναι το ίδιο μοτίβο." Αυτή είναι μια ιδιωτική εταιρεία που λέει, "Εντάξει, καταλαβαίνουμε τη θέση σας. Καταλαβαίνουμε ότι έχετε ερμηνεύσει εκ νέου το νόμο για να σημαίνει αυτό το πράγμα και θα βάλουμε κάποια διαδικασία ανάμεσα σε εσάς, το εργαλείο μας και τα δεδομένα των Αμερικανών που ρέουν μέσω της υπηρεσίας μας." Απλώς αναρωτιέμαι αν βλέπετε αυτόν τον παράλληλο εκεί, μεταξύ του Anthropic και του Amazon και του Azure και οποιωνδήποτε άλλων υπηρεσιών cloud που υπάρχουν και κρατούν τόσα πολλά από τα δεδομένα μας.
Ναι, αν και υπάρχουν μερικές διευκρινίσεις που είναι σημαντικές εδώ που το κάνουν λίγο διαφορετικό. Και στην πραγματικότητα — νομίζω ότι οι New York Times είχαν πρώτα αυτήν την αναφορά — η κύρια ρήτρα που ήταν πιο σημαντική για την Anthropic αφορούσε συγκεκριμένα δεδομένα που συλλέγονται από εμπορικές υπηρεσίες και τη μη δυνατότητα χρήσης του Claude σε αυτά τα δεδομένα, που είναι ακριβώς αυτό το ζήτημα όσον αφορά τα δεδομένα τρίτων. Θέλω όμως να διευκρινίσω την κύρια διαφορά μεταξύ αυτού που μόλις λέγαμε πριν από αυτό με την Amazon ή άλλα τρίτα μέρη που φιλοξενούσαν τα δεδομένα σας, αυτές ήταν περιπτώσεις όπου ήταν, λόγω του σημείου που βρίσκονται στο οικοσύστημα, φιλοξενούσαν απευθείας τα δεδομένα σας.
Με τον Claude, δεν ανησυχεί κανείς ότι η NSA εξετάζει τη χρήση του Claude. Έχει να κάνει με το να βγαίνουν έξω και να λαμβάνουν δεδομένα τρίτων από το Amazon ή πιο πιθανό το είδος των ύπουλων, κρυφών μεσάζων δεδομένων που προβάλλουν διαφημίσεις στα τηλέφωνά σας και γνωρίζουν την τοποθεσία σας και τα ενδιαφέροντά σας και τέτοια πράγματα. Και μετά τροφοδοτώντας το σε ένα σύστημαπου θα δούλευε τότε ο Κλοντ. Αυτό είναι που ο Anthropic δεν ήθελε πραγματικά να είναι μέρος. Έτσι, όπου και αν η κυβέρνηση θα συλλέγει αυτά τα δεδομένα από τρίτο μέρος, η Anthropic είπε, «Δεν θέλουμε το εργαλείο μας να χρησιμοποιηθεί σε αυτά τα δεδομένα».
Η Apple στέκεται περίφημα απέναντι στο FBI ζητώντας του να βάλει μια κερκόπορτα στο iPhone, και η Apple λέει «όχι» και αντέχουν στον Τραμπ. Και υπάρχει ένα μέρος του τρόπου λειτουργίας του συστήματός μας στο οποίο οι μεγάλες ιδιωτικές εταιρείες μπορούν να πουν «όχι» στην κυβέρνηση για λογαριασμό των πελατών τους. Και αυτό αισθάνθηκε με τον ίδιο τρόπο που η Apple, πάλι, δεν θα το βάλει σε backdoor στο iPhone, ή οι μεγάλοι πάροχοι cloud λένε, "Υπάρχει μια μικρή διαδικασία που πρέπει να περάσετε πριν λάβετε τα μεμονωμένα δεδομένα".
Εδώ φαίνεται ότι η Anthropic λέει: «Δεν πρόκειται απλώς να κάνουμε μαζική ανάλυση δεδομένων που έχετε αποκτήσει από άλλα μέρη, επειδή αυτό οδηγεί σε 24/7 μαζική παρακολούθηση των Αμερικανών, και δεν θέλουμε να το κάνουμε». Ωστόσο, αυτό φαίνεται σαν μια γέφυρα πολύ μακριά για αυτήν τη διοίκηση. Υπάρχει επιστροφή από αυτό;
Θα δούμε. Στο παρελθόν, όταν συνέβαινε αυτό - και συνέβη πολλές φορές με τις περισσότερες από τις μεγάλες εταιρείες τεχνολογίας, κάποια στιγμή είπαν ότι κάτι είναι μια γέφυρα πολύ μακριά - όπου αυτό συνήθως πηγαίνει είναι στο δικαστήριο. Οι εταιρείες θα πάνε στα δικαστήρια ή η διοίκηση θα πάει στα δικαστήρια και θα υπάρξει κάποιου είδους δικαστικός αγώνας.
Η κερκόπορτα στο iPhone είναι ένα τέλειο παράδειγμα αυτού. Πήγε στο δικαστήριο και το πολέμησαν, αν και ποτέ δεν κατέληξαν σε ένα συμπέρασμα, επειδή το FBI τελικά εισέβαλε χειροκίνητα στο iPhone και στη συνέχεια δεν ήθελε η δικαστική απόφαση να το καταστρέψει αυτό στο μέλλον.
Αλλά σε αυτή την περίπτωση, όπου είναι η κλιμάκωση και όπου αυτό διαφέρει από εκείνες τις προηγούμενες καταστάσεις, είναι ότι αντί να προσφύγει απλώς στα δικαστήρια, η κυβέρνηση Τραμπ έκανε αυτόν τον χαρακτηρισμό «κίνδυνος εφοδιαστικής αλυσίδας», που είναι απλώς τρελό. Αυτή η ιδέα ότι αυτό το εργαλείο που σχεδιάστηκε για να σταματήσει πιθανούς ξένους κακόβουλους παράγοντες από την παροχή τεχνολογίας, που θα μπορούσε στη συνέχεια να βάλει κρυφά εργαλεία επιτήρησης στη μεγαλύτερη στοίβα τεχνολογίας, ότι αυτά θα μπορούσαν να απαγορευθούν. Το να το εφαρμόσετε σε μια εταιρεία με έδρα τις ΗΠΑ, βασικά επειδή έχει μια πολιτική δεοντολογίας, μοιάζει με πραγματική, πραγματική κατάχρηση αυτού του εργαλείου.
Ακόμη και αυτό το εργαλείο ήταν αμφισβητήσιμο κατά κάποιο τρόπο, αλλά θα μπορούσατε να καταλάβετε την ώθηση πίσω από αυτό όταν μιλάτε για μια κινεζική εταιρεία δικτύωσης ή κάτι ανάλογο. Εδώ, δεν έχει νόημα. Έτσι, η αντίδραση σε αυτό υπερβαίνει τόσο πολύ αυτό που θα φαίνονταν κανονικά σε αυτή την περίπτωση. Θα μπορούσατε να δείτε ότι παραδοσιακά θα υπήρχε κάποιου είδους δικαστική υπόθεση και θα μπορούσε να ξεκινήσει η κάθε πλευρά και θα ήταν απλώς μια μάχη για το πώς θα μπορούσε να εφαρμοστεί η σύμβαση.
Αλλά αυτό δεν συμβαίνει εδώ. Αυτή η διοίκηση ουσιαστικά λέει: «Εάν δεν μας δώσετε απολύτως όλα όσα θέλουμε, εάν δεν ρυθμίσετε τα εργαλεία σας να λειτουργούν όπως τα θέλουμε, τότε θα προσπαθήσουμε ουσιαστικά να καταστρέψουμε ολόκληρη την επιχείρησή σας». Και αυτό είναι μια κλιμάκωση.
Υπάρχει ένα κομμάτι αυτού στο οποίο θέλω να τελειώσω, και είναι κάπως η πιο γαλαξιακή εκδοχή αυτού. Η FIRE, η οποία είναι μια ομάδα υπεράσπισης του ελεύθερου λόγου, δημοσίευσε μια ανάρτηση ιστολογίου λίγο πριν ξεκινήσουμε την ηχογράφηση, υποστηρίζοντας ότι το να εξαναγκάσει την Anthropic να δημιουργήσει εργαλεία που δεν θέλει να δημιουργήσει είναι παραβίαση της ελευθερίας του λόγου, ότι είναι κάτι που ονομάζεται υποχρεωτικός λόγος. Υπάρχει πολλή ιστορία εδώ. Υπάρχει κάποιο βαθύ Verge και Techdirt, in-the-weeds, υπαρξιακή κρίση εδώ.
Αλλά βασικά καταλήγει στην ιδέα ότι ο κώδικας είναι ομιλία, ότι η σύνταξη κώδικα για έναν υπολογιστή είναι μια μορφή ομιλίας και η κυβέρνηση δεν μπορεί να σας αναγκάσει να το κάνετε, και ένα σωρό πράγματα απορρέουν από αυτό. Αντιμετωπίζετε αυτό το επιχείρημα ότι το να αναγκάσετε την Anthropic να κατασκευάσει εργαλεία που δεν θέλει να κατασκευάσει είναι αναγκαστική ομιλία;
Ναι, πραγματικά πιστεύω ότι είναι αρκετά συναρπαστικό. Επιτακτική αναγκαστική ομιλία. Αλλά όχι, νομίζω ότι είναι ένα ενδιαφέρον επιχείρημα. Είναι κάτι που ήταν λίγο πιο κάτω από τη λίστα με τα θέματα που σκεφτόμουν. Προφανώς επικεντρώθηκα περισσότερο στα θέματα της Τέταρτης Τροποποίησης, αλλά νομίζω ότι το επιχείρημα FIRE δεν είναι λάθος. Το έχουμε δει και σε άλλα πλαίσια. Προέκυψε και στο θέμα των backdoor, όσον αφορά την προσπάθεια δημιουργίας backdoors σε κρυπτογραφημένα συστήματα.
Οι εταιρείες σίγουρα αυξήθηκαν ΠρώταΗ τροπολογία υποστηρίζει, λέγοντας, «Είναι αναγκαστική ομιλία για να μας αναγκάσει να γράψουμε αυτού του είδους τον κώδικα». Είναι ένα έγκυρο επιχείρημα. Θα μπορούσε, πάλι, να είναι κάτι που τα δικαστήρια είναι πιθανώς λιγότερο πρόθυμα να αντιμετωπίσουν αρχικά, εάν μπορούν να αντιμετωπίσουν αυτά τα ζητήματα με άλλο τρόπο. Αλλά χαίρομαι που η FIRE έκανε αυτή την ανάρτηση και νομίζω ότι είναι ένα ενδιαφέρον και συναρπαστικό επιχείρημα.
Ναι, η φύση της δεύτερης κυβέρνησης Τραμπ είναι ότι είναι ένα τόσο αμβλύ εργαλείο, είναι σχεδόν βέβαιο ότι θα επιτεθούμε σε όλα τα ζητήματα ταυτόχρονα.
Ναι, κάθε τροποποίηση της Διακήρυξης των Δικαιωμάτων πρέπει να αμφισβητηθεί με κάποια μορφή με κάθε πιθανό ζήτημα.
[Γέλια] Γύρνα τον τροχό.
Είμαι βέβαιος ότι μπορούμε να χωρέσουμε μια παραβίαση της Τρίτης Τροποποίησης κάπου εδώ.
Σίγουρα, ναι. Ο Κλοντ πρέπει να μένει στο σπίτι σου τώρα. Ακριβώς. Θα είναι υπέροχο. Κάνουμε [τροπολογίες] μία, τρεις, τέσσερις και επτά. Τα μαζεύουμε.
Mike, αυτό ήταν υπέροχο. Δεν μπορώ να πιστέψω ότι δεν έχετε ξαναπεί στην εκπομπή. Αυτό ήταν υπέροχο. Πρέπει να επιστρέψεις σύντομα.
Απολύτως. Όποτε με θέλεις.
Ερωτήσεις ή σχόλια για αυτό το επεισόδιο; Επισκεφτείτε μας στο decoder@teverge.com. Πραγματικά διαβάζουμε κάθε email!
