Hôm nay chúng ta đang nói về tình hình lộn xộn, diễn biến nhanh chóng tại Anthropic, nhà sản xuất Claude hiện đang vướng vào một cuộc chiến pháp lý rất tồi tệ với Lầu Năm Góc.
Việc qua lại rất phức tạp, nhưng kể từ vài ngày trước, Lầu Năm Góc đã coi Anthropic là một rủi ro trong chuỗi cung ứng và Anthropic đã đệ đơn kiện thách thức chỉ định đó, nói rằng chính phủ đã vi phạm các quyền của Tu chính án thứ nhất và thứ năm khi “tìm cách phá hủy giá trị kinh tế được tạo ra bởi một trong những công ty tư nhân phát triển nhanh nhất thế giới”. Tôi có thể nói với bạn ngay bây giờ: Chúng ta sẽ nói về những khúc mắc của vụ án đó trên The Verge và ở đây trên Decoder trong những tháng tới.
Nhưng hôm nay tôi muốn dành một chút thời gian và thực sự đào sâu vào đây về một yếu tố rất quan trọng của tình huống này chưa được chú ý đầy đủ vì nó đã vượt khỏi tầm kiểm soát: cách chính phủ Hoa Kỳ thực hiện giám sát, cơ quan pháp lý cho phép việc giám sát đó diễn ra và tại sao Anthropic lại không tin tưởng vào việc chính phủ nói rằng họ sẽ tuân theo luật pháp khi sử dụng AI để thực hiện giám sát nhiều hơn nữa.
Những người đăng ký Verge, đừng quên bạn sẽ có quyền truy cập độc quyền vào Bộ giải mã không có quảng cáo ở bất cứ nơi nào bạn nhận podcast. Hãy đến đây. Không phải là người đăng ký? Bạn có thể đăng ký ở đây.
Khách mời của tôi hôm nay là Mike Masnick, người sáng lập và CEO của Techdirt, trang web chính sách công nghệ xuất sắc và lâu đời. Mike đã viết về sự tiếp cận quá mức của chính phủ, quyền riêng tư trong thời đại kỹ thuật số và các chủ đề liên quan khác trong nhiều thập kỷ nay. Anh ấy là một chuyên gia về việc Internet và cơ quan giám sát đã phát triển như thế nào theo những cách liên kết với nhau.
Bạn thấy đấy, luật pháp quy định chính phủ có thể làm những gì khi giám sát chúng ta và sau đó là những gì chính phủ muốn làm. Và quan trọng nhất, có những điều chính phủ nói rằng luật pháp có thể làm, điều này thường trái ngược hoàn toàn với những gì mà bất kỳ người bình thường nào chỉ đọc luật sẽ nghĩ.
Bạn sẽ nghe Mike giải thích rất chi tiết trong tập này rằng chúng ta không thể - và không nên - tin lời chính phủ Hoa Kỳ khi nói đến vấn đề giám sát. Đã có quá nhiều lịch sử về việc các luật sư của chính phủ bóp méo cách giải thích những từ đơn giản như “mục tiêu” để mở rộng giám sát theo những cách phức tạp - những cách thường chỉ gây lo ngại trong giới pháp lý và chỉ nổi lên khi có những tranh cãi lớn như những tiết lộ lớn về NSA của người tố giác Ed Snowden hơn một thập kỷ trước.
Nhưng không có gì tinh tế hay phức tạp trong việc hoạch định chính sách trong thời đại Trump - và với Anthropic, chúng ta đang có một cuộc tranh luận rất ồn ào, rất công khai về công nghệ và giám sát trong thời gian thực, trên internet, trong các bài đăng trên blog và những lời tán dương X, cũng như qua những đoạn âm thanh trong cuộc họp báo. Điều đó có những mặt tích cực và tiêu cực, nhưng để hiểu được tất cả, bạn thực sự phải biết lịch sử.
Đó là những gì Mike và tôi bắt đầu giải thích trong tập này - bất kể quan điểm của bạn về AI và chính phủ, tập này sẽ làm rõ rằng cả hai bên đã để trạng thái giám sát ngày càng lớn hơn theo thời gian. Bây giờ, chúng ta đang trên đà mở rộng lớn nhất về AI.
Được rồi: Người sáng lập và Giám đốc điều hành Techdirt Mike Masnick về Anthropic, Lầu Năm Góc và giám sát AI. Bắt đầu nào.
Cuộc phỏng vấn này đã được chỉnh sửa nhẹ để có độ dài và rõ ràng.
Mike Masnick, bạn là người sáng lập và CEO của Techdirt. Chào mừng đến với Bộ giải mã.
Tôi rất vui khi được ở đây.
Tôi rất vui khi có bạn tham gia. Tôi chỉ đang nói là tôi rất sốc vì bạn chưa từng tham gia chương trình này trước đây. Bạn và tôi đã viết và đăng bài cho nhau được một thời gian dài. Rất nhiều chính sách của The Verge mắc nợ nhờ những gì bạn đã làm tại Techdirt và sau đó những gì đang diễn ra với Anthropic rất phức tạp nhưng lại chạm đến rất nhiều chủ đề mà bạn đã đề cập từ lâu. Tôi rất vui vì cuối cùng bạn cũng ở đây.
Đó là một chủ đề lộn xộn phức tạp, nhưng tôi rất hào hứng khi tìm hiểu sâu về nó.
Điều tôi muốn tập trung vào với bạn không phải là chi tiết về việc liệu Anthropic sẽ ký hợp đồng với chính phủ hay liệu OpenAI có nhận được hợp đồng đó hay không. Thay vào đó, tôi tin tưởng từ thời điểm chúng tôi ghi lại bài hát này cho đến khi mọi người nghe nó, sẽ có nhiều tweet hơn và nhiều thứ sẽ khác so với trước đây.
Điều tôi muốn tập trung vào chỉ là một trong hai ranh giới đỏ mà Anthropic đã thực sự vạch ra. Một trong số đó làvũ khí tự động, đó là mức độ phức tạp của chính nó. Luật ở đó còn non trẻ hơn một chút cho dù vũ khí đó có tồn tại hay đã được Nga triển khai trong Chiến tranh Ukraine hay không.
Có rất nhiều ý tưởng ở đây mà tôi chỉ muốn đặt nó sang một bên vì tôi nghĩ rằng nó sẽ tập trung hơn vào lịch trình riêng của nó. Ranh giới đỏ khác mà tôi muốn dành nhiều thời gian là giám sát hàng loạt. Và ở đây có khá nhiều luật về giám sát hàng loạt. Có rất nhiều lịch sử, rất nhiều lịch sử gây tranh cãi. Toàn bộ nhân vật Edward Snowden tồn tại nhờ những tranh cãi xung quanh việc giám sát hàng loạt.
Tất cả đều bắt nguồn từ—tôi nghĩ bạn là người đã đăng bài này—Cơ quan An ninh Quốc gia (NSA), một bộ phận của Bộ Quốc phòng, mà bây giờ chúng ta phải gọi là Bộ Chiến tranh vì lý do nào đó.
[Cười] Chúng tôi không phải làm gì cả.
[Cười] Chúng tôi không. Điều đó đúng ở Mỹ. Chúng tôi không phải làm gì cả. Nhưng về cơ bản, NSA đã định nghĩa lại ý nghĩa của rất nhiều từ trong tiếng Anh thông tục, “Chúng tôi chỉ có thể thực hiện hoạt động giám sát”. Và rồi thường xuyên xảy ra một vụ bê bối khi mọi người phát hiện ra rằng họ chỉ đang thực hiện hoạt động giám sát. Vì vậy, hãy bắt đầu ở đó và tôi không muốn tua lại cho bạn hết, nhưng đã khá lâu rồi mô hình này đã lặp lại chính nó.
Nó phụ thuộc vào mức độ bạn muốn đi sâu, nhưng phiên bản ngắn gọn rõ ràng là trong thế giới hậu 11/9, Hoa Kỳ đã thông qua Đạo luật Yêu nước, đạo luật này có một số khả năng để chính phủ tham gia giám sát, vốn được cho là để bảo vệ chúng ta trước các mối đe dọa khủng bố trong tương lai. Theo thời gian, điều đó được diễn giải theo những cách thú vị và có một số giới hạn về điều đó. Chúng tôi cũng có tòa án FISA, một tòa án đặc biệt có nhiệm vụ xem xét cộng đồng tình báo và các hoạt động của họ, nhưng theo truyền thống là tòa án một chiều. Chỉ có một bên được khiếu nại vụ việc của mình lên tòa án đó và tất cả đều được thực hiện trong bí mật.
Có rất nhiều thứ chưa được biết đến. Và sau đó, có một phần khác trong tất cả những điều này, bắt nguồn từ thời Ronald Reagan, đó là Sắc lệnh hành pháp 12333, được cho là đặt ra các quy tắc về con đường thu thập thông tin tình báo.
Vì vậy, bạn có ba bộ luật này—à, một vài bộ luật—và một mệnh lệnh hành pháp mà công chúng, những phần mà bạn có thể đọc, dường như nói lên những điều nhất định về những gì chính phủ của chúng ta và NSA nói riêng có thể làm về mặt giám sát. Khi đọc bằng một cuốn từ điển tiếng Anh đơn giản, bản chất mà bạn và tôi có thể hiểu và hiểu, chúng ta sẽ tin rằng khả năng của NSA trong việc giám sát người Mỹ là rất hạn chế, trên thực tế đến mức mà họ phải làm, nếu họ nhận ra rằng họ đang giám sát một người Mỹ, thì họ phải dừng lại ngay lập tức và khóc lóc và xóa dữ liệu cũng như tất cả những thứ khác.
Có tin đồn trong một thời gian rằng điều đó không thực sự xảy ra và có những gợi ý, đặc biệt là Thượng nghị sĩ Ron Wyden đã lên tiếng về việc lên phát biểu tại Thượng viện và nói, “Có điều gì đó không ổn ở đây và tôi không thể nói cho bạn biết điều gì,” hoặc trong các phiên điều trần, ông ấy sẽ hỏi các quan chức tình báo, “Các bạn có đang thu thập dữ liệu hàng loạt về người Mỹ không?”
Những quan chức đó sẽ làm chệch hướng hoặc trong một số trường hợp nói dối hoàn toàn. Tôi tin rằng đó là một phiên điều trần vào năm 2012 với James Clapper, Giám đốc Tình báo Quốc gia vào thời điểm đó, nơi ông đã được hỏi trực tiếp về điểm này. Và về cơ bản anh ấy nói, "Không, chúng tôi không thu thập dữ liệu về người Mỹ." Đó là một phần lớn nguyên nhân đã truyền cảm hứng cho Ed Snowden rò rỉ dữ liệu, các báo cáo mà anh ta đã rò rỉ cho Glenn Greenwald, Barton Gellman và Laura Poitras. Từ tất cả những điều đó, điều chúng tôi bắt đầu khám phá là NSA có từ điển riêng hơi khác với từ điển mà bạn và tôi sử dụng, đến mức họ có thể diễn giải các từ theo những cách khác với nghĩa tiếng Anh đơn giản của chúng, bao gồm cả những từ như “mục tiêu”, có cảm giác giống như một từ khóa. Tôi nghĩ đó là một sự hiểu biết rộng rãi về điều này, về mặt lý thuyết, họ chỉ được phép nhắm mục tiêu vào những người không phải là người Hoa Kỳ.
Nhưng cách nó được giải thích theo thời gian là bất cứ điều gì đề cập đến người đó, bất cứ điều gì về một người nước ngoài giờ đây đều là trò chơi công bằng, ngay cả khi đó là thông tin liên lạc của một người nước ngoài.người Mỹ. Vì vậy, nếu bạn và tôi nhắn tin cho nhau và đề cập đến một người nước ngoài, đó là trò chơi công bằng để NSA thu thập, lưu giữ và lưu trữ.
Có phần thứ hai của điều này. Tôi đã đề cập đến Sắc lệnh hành pháp 12333 đầu tiên của Ronald Reagan, khi công nghệ thay đổi theo thời gian và internet phát triển, đã cho phép NSA khai thác một cách hiệu quả các thông tin liên lạc nước ngoài, nhưng điều đó bao gồm bất kỳ thông tin liên lạc nào có thể đã rời khỏi Hoa Kỳ trên đường đi nào đó. Vì vậy, nếu tôi đang nhắn tin cho bạn và một tin nhắn được gửi từ tôi ở California thông qua cáp quang tình cờ rời khỏi Hoa Kỳ, NSA có thể cài đặt một thiết bị nghe lén khi nó ở bên ngoài Hoa Kỳ và thu thập thông tin đó, ngay cả khi nó chỉ được chuyển đến bạn ở Hoa Kỳ.
Sau đó, NSA có thể giữ thông tin đó ngay cả khi thông tin đó thuộc về người Mỹ và họ có thể thực hiện các tìm kiếm cụ thể về thông tin đó sau này, đôi khi được gọi là “tìm kiếm cửa sau”. Họ đã thu thập thông tin này mà chúng tôi tin rằng ngay từ đầu họ không nên thu thập nhưng họ có thể giữ nó. Và họ đã hứa, họ ngón út thề rằng họ sẽ giữ bí mật, nhưng nếu họ tìm kiếm và phát hiện ra rằng bạn hoặc tôi đã đề cập đến một người nước ngoài, thì đột nhiên họ có thể làm bất cứ điều gì họ muốn với nó.
Nhìn chung, điều đó đã trở thành một thế giới trong đó chính phủ liên bang về cơ bản có thể thu thập bất kỳ thông tin nào xảy ra bên ngoài Hoa Kỳ. Ngay cả khi nó hoàn toàn là giữa hai người Hoa Kỳ, nếu họ đề cập hoặc thậm chí ám chỉ ai đó không phải là người Hoa Kỳ, thì đột nhiên đó là trò chơi công bằng được thu thập. Và từ đó, chúng ta đã nhận ra cái có vẻ là một hình thức giám sát hàng loạt người Mỹ bởi NSA tuyên bố và công khai tuyên bố rằng họ không theo dõi người Mỹ.
Làm thế nào chúng ta đạt được điểm này? Đây là rất nhiều bước tăng dần của bé. Bạn đã đề cập đến James Clapper vào năm 2012, đó là chính quyền Obama. Bạn đã đề cập đến Ronald Reagan, đó là những năm 1980. Chúng tôi đang xem xét các đảng viên Đảng Dân chủ và Đảng Cộng hòa ở đây.
Cuộc chiến chống khủng bố đã xảy ra dưới thời chính quyền George W. Bush, và vụ 11/9 và Đạo luật Yêu nước đã xảy ra dưới thời chính quyền George W. Bush. Có rất nhiều điều tồi tệ gia tăng dưới thời các tổng thống của cả hai đảng, dưới thời các đại hội của cả hai đảng. Làm thế nào điều này xảy ra?
Hình thức đơn giản nhất của nó là không ai, và chắc chắn không có tổng thống nào, muốn trở thành tổng thống vào thời điểm xảy ra một cuộc tấn công khủng bố lớn, bởi vì điều đó khiến họ trông thật tồi tệ. Rõ ràng họ cũng muốn bảo vệ người Mỹ phải không? Đó là một phần công việc của họ. Nếu bạn có một cộng đồng tình báo về cơ bản đang hoạt động trong bóng tối vì đó là điều cộng đồng tình báo làm và họ liên tục đến gặp bạn và nói, "Này, nếu chúng tôi có thể truy cập được thông tin này, điều đó sẽ thực sự hữu ích trong việc ngăn chặn một cuộc tấn công khủng bố."
Có thể có những trường hợp điều đó đúng, cộng đồng tình báo có thể sử dụng thông tin này theo cách hiệu quả. Nhưng về mặt lý thuyết, chúng ta cũng là một xã hội luật pháp với Hiến pháp Hoa Kỳ mà chúng ta phải tuân theo. Nhưng điều đó cho phép thực tế là hết chính quyền này đến chính quyền khác, Đảng Cộng hòa và Đảng Dân chủ, đều có những luật sư rất thông minh và những người sẽ xem xét kỹ lưỡng và nói, "Chà, nếu chúng ta sắp xếp quan điểm theo cách này hoặc chúng ta tuyên bố theo cách này hoặc chúng ta diễn giải theo cách này, thì theo cách đó chúng ta có thể đạt được điều chúng ta muốn mà không vi phạm luật về mặt kỹ thuật hoặc không vi phạm về mặt kỹ thuật Tu chính án thứ tư."
Giả định luôn là, “Chúng ta có thể bẻ cong luật hoặc bẻ cong cách giải thích luật của mình và không ai thực sự nhìn thấy điều này, hoặc không ai quan tâm thực sự sẽ nhìn thấy điều này, và do đó chúng ta sẽ bỏ qua nó.”
Có hai điều thực sự làm tôi chú ý. Thứ nhất, bạn và tôi đều đọc rất nhiều quyết định của tòa án - các quyết định của tòa phúc thẩm và quyết định của Tòa án tối cao. Và đang có một cuộc tranh cãi tại Tòa án Tối cao về cách giải thích theo nghĩa đen các từ trong quy chế và luật pháp của chúng ta.
Tôi sẽ không đi quá sâu vào vấn đề này, nhưng tôi sẽ nói một cách tổng quát rằng ý tưởng rằng bạn chỉ nên đọc các từ trên trang và làm những gì chúng nói là xu hướng chủ đạo trong cách giải thích theo luật định ở Hoa Kỳ. Trái hay phải đều nói như vậy. Họ tranh luận về một số điểm rất bí truyền về ý nghĩa thực sự của điều đó. Nhưng bạn chỉ có thể đọc những từ này và làm những gì họ nói, điều đó không phù hợp, phải không?
Ít nhất chúng tôi đã đạt được thành công đầu tiên trong số những gì bạn có thểgọi là chủ nghĩa văn bản. Làm thế nào để luật sư của cả hai chính quyền có thể thoát khỏi phương thức ra quyết định pháp lý thống trị ở nước ta? Thẩm phán của cả hai bên đều đồng ý rằng đó ít nhất là bước đầu tiên.
Tôi ước mình biết câu trả lời chính xác, nhưng tôi nghĩ đó là lý do có động cơ, phải không? Với tư cách là một luật sư, bạn ở đó để bảo vệ khách hàng của mình và sự thành công - nếu bạn có thể gọi nó là thành công - của hệ thống pháp luật của chúng ta có xu hướng dựa trên việc có một tình huống đối đầu trong đó bạn có các bên tranh luận khác nhau về những điều này, trong đó vai trò của người xét xử là thu hẹp và tìm ra bên nào thực sự đúng.
Một trong những vấn đề với cộng đồng tình báo và việc thiết lập nó là bạn không gặp phải tình huống đối đầu đó. Điều đó giúp một bên dễ dàng biện minh cho lập luận mà họ đang đưa ra vì không ai thực sự phản bác lại lập luận đó. Bạn kết hợp điều đó với nỗi sợ hãi bao trùm về một cuộc tấn công khủng bố khác, bất cứ điều gì liên quan đến an ninh quốc gia và ngay cả khi bạn gặp tình huống phải có tòa án FISA - ý tôi là tòa án FISA phần nào nổi tiếng vì thực tế là một con dấu cao su trong nhiều năm.
Tôi quên con số chính xác, nhưng có vẻ như hơn 99% đơn đăng ký gửi đến tòa án FISA để cho phép giám sát một số tình huống nhất định đã được chấp thuận và có thể dễ dàng nói rằng 99% rõ ràng là quá nhiều. Rõ ràng là những người đưa đơn ra tòa, họ đang chọn và chọn. Phần lớn, họ không đưa ra những tuyên bố hoàn toàn điên rồ. Nhưng nếu không có khía cạnh đối nghịch đó và với một nhóm người có động cơ rất mạnh mẽ nghĩ rằng “Chúng ta cần phải làm điều này” hoặc được chính quyền yêu cầu “Chúng ta cần phải làm điều này”, thì họ sẽ tìm ra cách để làm điều đó. Và đó là nơi bạn kết thúc theo thời gian.
Đã có ai tham gia vào quá trình này thức dậy và tự nhủ: “Ôi trời, chúng ta đã định nghĩa lại từ ‘mục tiêu’ thành bất cứ thứ gì chúng ta muốn” chưa?
[Cười] Rõ ràng là bạn có Ed Snowden, người đã rò rỉ một loạt tài liệu. Bạn có John Napier Tye, người đã viết một bài cho The Washington Post vào năm 2014, trong đó tiết lộ cách giải thích của Sắc lệnh 12333 và nói rằng đó là vấn đề thực sự cần chú ý. Bạn có những người khác đã lên tiếng về những điều này, nhưng phần lớn, những người tham gia làm việc trong chính quyền về các vấn đề của cộng đồng tình báo đều bị thu hút vào quan điểm của cộng đồng tình báo, đó là mục tiêu quan trọng nhất là bảo vệ đất nước khỏi điều gì đó tồi tệ. Cách tốt nhất để làm điều đó là có càng nhiều thông tin càng tốt.
Thật dễ dàng để đồng cảm với lập luận rằng, vâng, có nhiều thông tin hơn có thể cho phép họ nắm bắt được điều gì đó sớm hơn hoặc tìm thấy điều gì đó quan trọng, nhưng, một điều, điều đó có thể không đúng. Nhận được quá nhiều thông tin có lẽ cũng tệ như quá ít thông tin vì nó thường có thể che giấu thông tin thực sự hữu ích, thông tin mà bạn thực sự cần để xác định điều gì đó.
Nhưng ngoài ra, chúng ta có một nước Mỹ. Hiến pháp ngay từ đầu và chúng tôi có lý do tại sao, về mặt lý thuyết, chúng tôi không được phép cho phép giám sát hàng loạt mà không có lý do chính đáng. Là một quốc gia tin tưởng vào pháp quyền, chúng ta phải có khả năng tuân thủ điều đó, và khi tất cả những điều này xảy ra trong bóng tối, bạn sẽ có xu hướng đánh mất điều đó.
Điều này đưa tôi đến với Anthropic. Anthropic chủ yếu là một công ty doanh nghiệp. Họ giỏi về chính phủ, họ đã xây dựng được những cơ bắp đó, họ có đội ngũ nhân viên thực sự thông thạo một số vấn đề này. Rõ ràng là họ đã nhìn Pete Hegseth và nói, "Chúng tôi muốn tất cả các cách sử dụng hợp pháp", và họ đã giải thích theo hai cấp độ và nói, "Chà, niềm tin theo nghĩa đen của bạn là những từ này không có nghĩa như những gì họ nói trên bề mặt. Vì vậy, 'tất cả các cách sử dụng hợp pháp' là quá lớn và chúng tôi muốn đặt một số rào cản, đặc biệt là xung quanh việc giám sát hàng loạt. "
Một lần nữa, tôi sẽ phân loại vũ khí tự động, đó là ranh giới đỏ khác, nhưng đặc biệt là về giám sát hàng loạt, Dario Amodei đã nói rằng, "Chúng tôi có thể làm quá nhiều. Điều này quá nguy hiểm. Đây là vi phạm Tu chính án thứ tư."
Sự căng thẳng ở đây là “bạn đang nói rằng bạn sẽ tuân thủ những luật này nói lên một điều và bây giờ, sau ngần ấy thời gian, chúng có ý nghĩa hoàn toàn khác và chúng tôi chỉ không muốn trở thành một phần của điều đó.” Đó làtrận đánh. Tôi chỉ muốn so sánh điều đó với Sam Altman, người đã lao vào nói: “Chúng tôi sẽ thực hiện tất cả các mục đích sử dụng hợp pháp” và sau đó đăng thông báo dài này có nội dung như “Đây là tất cả các luật mà chúng tôi sẽ tuân thủ”.
Có vẻ như Altman không biết NSA đã diễn giải lại những điều này như thế nào và gần như đã bị bắt quả tang. Và anh ấy đã bắt đầu quay trở lại - ngay cả khi chúng tôi đang ghi âm, tôi tin rằng sẽ có nhiều tweet hơn và vị trí của mọi người đã thay đổi. Nhưng Altman đã tiến hành lại nó một cách chậm rãi, nhưng có vẻ như OpenAI đã bị cuốn vào việc đọc các quy chế trên khuôn mặt của họ và tin vào những gì họ nói. Đó có phải là cách giải thích của bạn về các sự kiện không?
Có hai khả năng, và đó là một trong số đó. Một là anh ấy đã chơi giống như cách mà công chúng đã chơi trong nhiều năm. Lý thuyết thay thế, và tôi không biết lý thuyết nào trong số này là đúng, đó là anh ấy hoặc một số luật sư tại OpenAI - những người mà tôi nghĩ là rất có năng lực và rất hiểu biết - biết điều này, nhưng nghĩ rằng họ có thể chơi cùng một trò chơi mà NSA đã chơi trong vài thập kỷ, miễn là họ nói những điều này và sau đó nói những lời đó, nhưng họ không tiết lộ những cách diễn giải thực tế, rằng họ cũng có thể thoát khỏi nó. Vì vậy, Sam đưa ra tuyên bố khiến nó trông giống như "Chúng tôi có những ranh giới đỏ giống hệt như Anthropic đã làm và chính phủ rất tuyệt vời với điều đó."
Trên thực tế, tôi nghĩ Sam Altman đã nói rằng Anthropic có hai ranh giới đỏ và OpenAI có ba ranh giới, và chính phủ hoàn toàn hài lòng với điều đó, và điều đó khiến nhiều người phải gãi đầu. Nhưng tôi nghĩ chắc chắn là Sam Altman và những người xung quanh anh ấy đã không hiểu cách thức hoạt động của những thứ này trong thực tế, hoặc họ đã hiểu và họ chỉ cho rằng công chúng sẽ không biết và do đó họ có thể thoát khỏi nó.
Một điều khác tôi nghĩ đến - một lần nữa, AI là một lĩnh vực mới và việc tiếp cận các công nghệ mới rất hấp dẫn vì đây là những vấn đề về ấn tượng đầu tiên. “Trước đây chưa ai phải nghĩ đến điều này cả,” nhưng thực tế là mọi người đều đã nghĩ về vấn đề này từ lâu. Có thể thứ mới ở đây không phải là AI, mà là chính quyền thứ hai của Trump, thay vì thực hiện một loạt các luật mà có lẽ sẽ không ai đọc để biện minh cho hành động của họ trước một tòa án bí mật mà không ai chú ý đến, thay vào đó lại không tinh tế đến thế.
Họ không tinh vi lắm và họ chỉ nói rằng họ sẽ theo dõi mọi người mọi lúc. Họ vừa công bố ý định của mình theo cách mà có lẽ tất cả các chính quyền chỉ nên công bố ý định của mình và xem con chip rơi ở đâu.
Nhưng tôi đang nhìn vào thực tế là có Ed Snowden ở thành phố New York này. AT&T điều hành một tòa nhà mà mọi người đều biết là tòa nhà của NSA. Nó chỉ là một tòa nhà khổng lồ và chúng ta phải giả vờ như đó không phải là trung tâm giám sát của NSA nhưng nó ở ngay đó. Nó rất lớn. Không ai trong số đó dường như đã đi đến bất cứ điều gì. Tất cả những tiết lộ, những rò rỉ này, chúng tôi không hề ủng hộ.
Trên thực tế, nó chỉ tăng lên khi phần lớn cuộc sống của chúng ta ngày càng trở nên kỹ thuật số hơn. Và có thể chính quyền Trump luôn là một công cụ thẳng thừng như vậy, đó thực sự có thể là nguyên nhân gây ra sự tính toán. Bạn có thấy điều đó diễn ra không?
Có một số điều khác nhau ở đó và không hoàn toàn đúng khi chúng tôi không ủng hộ những điều này. Những tiết lộ từ Snowden đã dẫn đến một số thay đổi về cách thức những điều này xảy ra. Và bây giờ - tôi quên họ được gọi là gì, nhưng họ giống như những người amicus dân sự này trong tòa án FISA sẽ đóng vai trò đại diện cho phía bên kia về một số vấn đề nhất định.
Và chúng tôi đã thấy một số chính quyền bị hạn chế theo một số cách nhất định và họ thường xuyên đề nghị cấp lại quyền, và các nhà hoạt động đã rất quyết liệt trong việc đẩy lùi và cố gắng thắt chặt thêm một số rào chắn. Nhưng đối với câu hỏi lớn hơn, tôi nghĩ có hai điều khác nhau. Bạn đúng một nửa khi cho rằng chính quyền này không tinh tế và chỉ nói to những điều không nên làm.
"Chúng ta đang có chiến tranh với Iran, chúng ta đang làm điều đó, nó đang diễn ra. Chúng ta thậm chí sẽ không thử khiêu vũ."
Theo những cách mà tất cả các chính quyền trước đây không làm được. Nhưng họ chưa thực sự nói điều đó một cách trực tiếp vềgiám sát, đặc biệt là giám sát người Mỹ. Đã có những gợi ý về điều đó, nhưng họ chưa thể hiện rõ ràng về điều đó. Nửa còn lại của nó phải làm nhiều hơn với vị trí của Anthropic và quan điểm chung về AI vì đây là công nghệ có thể tồn tại, nơi Anthropic luôn thể hiện mình là “Chúng tôi là những người tốt chu đáo” và liệu bạn có tin điều đó hay không thì cũng không quan trọng lắm. Họ nổi tiếng thế này: “Chúng tôi đang cố gắng thực hiện việc này theo cách an toàn, tôn trọng nhân loại và chú ý đến tất cả những điều này”. Và vì vậy khi bạn gặp phải xung đột đó, đó là lúc cuộc đấu tranh xuất hiện.
Bạn có một chính quyền Trump chỉ muốn có thể làm bất cứ điều gì họ muốn và họ không tinh tế về điều đó. Và sau đó bạn có Anthropic, người mà tự mô tả và tính cách công khai của nó luôn như thế này, "Chúng tôi chu đáo và chúng tôi tôn trọng nhân loại, quyền lợi cũng như tất cả những điều này." Đó có lẽ là nơi xảy ra xung đột, bởi vì Anthropic, như đã nói rõ, đã làm việc với Bộ Quốc phòng một thời gian và có nhiều hợp đồng khác với chính phủ mà họ đã sử dụng. Nó không phải là một vấn đề.
Chỉ ở những lĩnh vực cụ thể này, khi chính phủ đang tìm cách mở rộng hợp đồng mà họ đã có, lãnh đạo cấp cao của Anthropic mới bắt đầu nói: “Đợi đã, chúng tôi phải đảm bảo rằng chúng tôi không vượt qua những ranh giới đỏ này, điều này có khả năng gây tổn hại đến danh tiếng của chúng tôi với tư cách là nhà cung cấp AI an toàn và chu đáo”.
Tôi muốn hỏi bạn ngắn gọn về vấn đề giám sát nói chung và đặc biệt là mối quan ngại về Tu chính án thứ tư của Anthropic. Tu chính án thứ tư quy định rằng chính phủ không thể khám xét bạn một cách vô lý. Cách tốt nhất để hiểu Tu chính án thứ tư là nghe “99 vấn đề” của Jay-Z. Vì vậy, nếu bạn cần nghỉ ngơi và nghe “99 Issues”, điều đó thật tuyệt. Tất cả đều ở trong đó. Tôi đã nghe nó khi còn học trường luật và nó hoàn toàn có ý nghĩa.
Nhưng chính phủ thường cần có lệnh khám xét bạn. Và khi cuộc sống của bạn ngày càng trực tuyến nhiều hơn, thì có rất nhiều trường hợp ngoại lệ cho điều này. Nhưng ý tưởng là họ vẫn cần có lệnh trực tuyến. Lập luận của Anthropic là, "Chà, AI sẽ không bao giờ mệt mỏi. Nó có thể tìm kiếm mọi thứ mọi lúc. Điều đó có nghĩa là chúng tôi sẽ thực hiện giám sát tổng thể."
Tuy nhiên, ngay cả trước khi AI xuất hiện, ý tưởng rằng chính phủ có thể khám xét mọi thứ thuộc về bạn đã có sẵn, ý tưởng rằng chính phủ không cần lệnh để khám xét tất cả nội dung của bạn đã có sẵn. Ý tưởng rằng nếu bất kỳ dữ liệu nào của bạn đi ra nước ngoài trong một giây ngắn ngủi, chính phủ sẽ chặn nó ở đó,
Khi tôi còn học đại học, vào khoảng thời gian có Đạo luật Yêu nước, cuộc tranh luận là họ sẽ không tìm kiếm dữ liệu thực tế của bạn mà chỉ có thể lấy siêu dữ liệu và siêu dữ liệu. Dữ liệu về dữ liệu của bạn sẽ đủ để xác định vị trí chính xác của bạn mọi lúc. Và thậm chí điều đó là quá xa. Và chúng tôi đã thực hiện điệu nhảy này để biết chính phủ có thể thu thập được những gì? Điều gì được cho phép? Họ cần gì để giữ an toàn cho tất cả chúng ta và điều gì là quá xa? Những dòng đó đã di chuyển.
Vì vậy, chỉ cần mô tả ngắn gọn mối quan tâm chung về giám sát ở quy mô lớn và hiện tại chúng ta đang ở đâu. Trước tình hình AI khiến mọi thứ trở nên phức tạp hơn theo cấp số nhân.
Ở đây tôi phải giới thiệu một khái niệm khác mà đáng lẽ phải được đề cập trước đó, nhưng nó rất quan trọng, được gọi là “học thuyết của bên thứ ba”. Ý tưởng của Tu chính án thứ tư là chính phủ không thể khám xét bạn hoặc đồ đạc của bạn mà không có lệnh và không thể có lệnh mà không có lý do chính đáng rằng bạn đã phạm một loại tội phạm nào đó. Nhưng có một khái niệm xuất hiện cách đây hàng thập kỷ được gọi là học thuyết bên thứ ba, cho rằng điều đó không nhất thiết phải áp dụng hoặc hoàn toàn không áp dụng cho những thứ không phải của bạn, ngay cả khi đó là dữ liệu của bạn.
Phiên bản sớm nhất và rõ ràng nhất của điều này là hồ sơ điện thoại mà công ty điện thoại có về người bạn gọi. Các công ty điện thoại không ghi âm cuộc gọi của bạn, nhưng họ sẽ ghi âm nếu tôi gọi cho bạn, công ty điện thoại sẽ có một bản ghi âm có nội dung: “Mike gọi cho Nilay”. Và điều đã được nhiều tòa án xác định là chính phủ có thể đến và yêu cầu điều đó, và họ không cần lệnh cho việc đó vì đây không phải là khám xétdữ liệu của bạn, đó là bên thứ ba và họ có thể đồng ý với tư cách là bên thứ ba chỉ chuyển giao dữ liệu đó.
Nhưng đó là những trường hợp từ những năm 1960 và 70, khi người ta xác định rằng chính phủ có thể truy cập vào đó mà không cần có lệnh, khi không có nhiều dữ liệu của bên thứ ba ở đó. Sự phát triển của máy tính và internet đã thay đổi điều đó. Bây giờ, mọi thứ đều là dữ liệu của bên thứ ba. Mọi thứ chúng ta làm đều được một công ty nào đó ở đâu đó thu thập và ghi lại. Vì vậy, về cơ bản, mọi dữ liệu về bạn, bạn ở đâu, bạn nói chuyện với ai, bạn tương tác với ai, bạn nói gì, bạn đang làm gì, tất cả những điều đó ngày nay hầu như đều do các bên thứ ba nắm giữ. Vì vậy, học thuyết của bên thứ ba đã nuốt chửng toàn bộ Tu chính án thứ tư ở một mức độ nào đó, trong đó bất cứ điều gì về bạn mà người khác có, đều có tiêu chuẩn thấp hơn nhiều đối với những gì chính phủ có thể làm để yêu cầu điều đó.
Nói cụ thể hơn, điều này có nghĩa là khi dữ liệu của tôi nằm trong iCloud, chính phủ có thể đến Apple và lấy dữ liệu của tôi ra khỏi iCloud mà không cần thông báo cho tôi?
Họ có thể yêu cầu nó. Họ có thể dễ dàng yêu cầu nó mà không cần có lệnh. Khi đó công ty có quyền riêng của mình và có thể xác định họ muốn làm gì với yêu cầu đó. Họ chỉ có thể từ bỏ nó. Họ có thể, như hầu hết họ sẽ làm, nếu đó là một yêu cầu nghiêm túc, từ chối các yêu cầu ngay lập tức hoặc họ có thể cảnh báo bạn và họ có thể nói — và đây là điều mà hầu hết họ sẽ làm — họ sẽ cảnh báo bạn và nói, "Chính phủ đang yêu cầu một số dữ liệu của bạn. Bạn có thể ra tòa và cố gắng chặn chúng." Nếu không, họ sẽ bàn giao dữ liệu của bạn sau bảy ngày hoặc bất cứ điều gì có thể.
Một lần nữa, nó phụ thuộc. Nếu đó là một cuộc điều tra hình sự thì có thể sẽ có một số loại lệnh bịt miệng mà công ty không được phép nói cho bạn biết. Có đủ loại tình huống, nhưng hầu hết chúng đều liên quan đến mức độ bảo vệ thấp hơn mức độ bảo vệ mà Tu chính án thứ tư yêu cầu nếu đó là dữ liệu hoặc bất kỳ thông tin nào hoặc bất cứ thứ gì trong chính ngôi nhà của bạn.
Lượng dữ liệu bạn có trên máy chủ đám mây của người khác rất lớn phải không? Mọi việc bạn thường làm trên Internet hiện nay đều được sao lưu theo cách nào đó hoặc được ghi lại theo cách nào đó trên máy chủ của người khác. Chính phủ đã tìm ra cách này để lách Tu chính án thứ tư và nói, "Chà, nó không thực sự là của bạn. Nó thuộc về Amazon. Chúng tôi có thể nói chuyện với Amazon," và Amazon phải đứng giữa quá trình đó và nói, "Chúng tôi đã phát minh ra một quy trình khác để phần nào bảo vệ người dân."
Tôi nhìn vào điều đó—và khi tôi đề cập đến các trường hợp học thuyết của bên thứ ba đầu tiên bao gồm các dịch vụ đám mây và chính phủ liên tục giành chiến thắng, về cơ bản đó là lúc tôi biến thành Joker. Tôi đã nói, "Tất cả những thứ mà chúng tôi đang giả vờ về chủ nghĩa văn bản và [đọc] đơn giản, không có ý nghĩa gì vì chúng tôi chỉ mã hóa cửa sau bằng cách sử dụng luật cổ xưa này vào dữ liệu của mọi người."
Và sau đó tôi nhìn vào cái này và nhìn vào Anthropic và tôi nói, "Chà, đây là mô hình tương tự." Đây là một công ty tư nhân nói rằng: "Được rồi, chúng tôi hiểu quan điểm của bạn. Chúng tôi hiểu rằng bạn đã diễn giải lại luật theo nghĩa này và chúng tôi sẽ đưa ra một số quy trình giữa bạn, công cụ của chúng tôi và dữ liệu của người Mỹ chảy qua dịch vụ của chúng tôi." Tôi chỉ tự hỏi liệu bạn có thấy sự song song đó không, giữa Anthropic, Amazon và Azure cũng như bất kỳ dịch vụ đám mây nào khác hiện có chứa rất nhiều dữ liệu của chúng ta.
Vâng, mặc dù có một số giải thích rõ ràng quan trọng ở đây khiến điều này hơi khác một chút. Và trên thực tế - tôi nghĩ The New York Times đã đưa tin này đầu tiên - điều khoản chính quan trọng nhất đối với Anthropic cụ thể là về dữ liệu được thu thập từ các dịch vụ thương mại và việc không thể sử dụng Claude trên dữ liệu đó, đây chính xác là vấn đề về mặt dữ liệu của bên thứ ba. Nhưng tôi muốn làm rõ sự khác biệt chính giữa những gì chúng ta vừa nói trước đây với Amazon hoặc các bên thứ ba khác lưu trữ dữ liệu của bạn, đó là những trường hợp như vậy, do vị trí của họ trong hệ sinh thái, họ đang lưu trữ dữ liệu của bạn trực tiếp.
Với Claude, không có ai lo lắng về việc NSA xem xét việc sử dụng Claude của bạn. Đó là về việc họ đi ra ngoài và lấy dữ liệu của bên thứ ba từ Amazon hoặc nhiều khả năng là loại nhà môi giới dữ liệu ẩn, lén lút phân phát quảng cáo trên điện thoại của bạn và biết vị trí cũng như sở thích của bạn cũng như những thứ tương tự. Và sau đó đưa nó vào hệ thốngmà Claude sau đó sẽ làm việc tiếp. Đó là điều mà Anthropic thực sự không muốn trở thành một phần của nó. Vì vậy, dù chính phủ có thu thập dữ liệu đó từ bên thứ ba hay không, Anthropic cho biết: “Chúng tôi không muốn công cụ của mình được sử dụng trên dữ liệu đó”.
Apple nổi tiếng khi đứng lên chống lại FBI yêu cầu đặt cửa sau vào iPhone, và Apple nói “không” và họ chống lại Trump. Và có một phần trong cách thức hoạt động của hệ thống của chúng tôi, trong đó các công ty tư nhân lớn có thể thay mặt khách hàng của họ nói “không” với chính phủ. Và điều này cũng giống như việc Apple, một lần nữa, sẽ không đặt cửa hậu trên iPhone hoặc các nhà cung cấp dịch vụ đám mây lớn nói, “Có một chút quy trình bạn phải thực hiện trước khi lấy được dữ liệu riêng lẻ”.
Ở đây có vẻ như Anthropic đang nói, "Chúng tôi sẽ không chỉ phân tích hàng loạt dữ liệu mà bạn thu được từ các bên khác vì điều đó dẫn đến việc giám sát hàng loạt người Mỹ 24/7 và chúng tôi không muốn làm điều đó." Tuy nhiên, điều đó dường như là một cây cầu quá xa đối với chính quyền này. Có sự trở lại nào từ đó không?
Chúng ta sẽ thấy. Trước đây, khi điều đó đã xảy ra - và nó đã xảy ra rất nhiều lần với hầu hết các công ty công nghệ lớn, tại một thời điểm nào đó, họ đã nói rằng điều gì đó là một cầu nối quá xa - nơi mà điều đó thường dẫn đến tòa án. Các công ty sẽ ra tòa hoặc chính quyền sẽ ra tòa và sẽ có một cuộc chiến nào đó ở tòa án.
Cửa hậu của iPhone là một ví dụ hoàn hảo về điều đó. Vụ việc đã được đưa ra tòa và họ đã đấu tranh, mặc dù họ chưa bao giờ đưa ra kết luận chính xác vì FBI cuối cùng chỉ đột nhập vào iPhone theo cách thủ công và sau đó không muốn phán quyết của tòa án hủy hoại điều đó trong tương lai.
Nhưng trong trường hợp này, sự leo thang xảy ra và điều này khác với những tình huống trước đây là thay vì chỉ ra tòa, chính quyền Trump đã đưa ra chỉ định "rủi ro chuỗi cung ứng" này, điều này thật điên rồ. Ý tưởng này cho rằng công cụ này được thiết kế để ngăn chặn các tác nhân độc hại tiềm năng từ nước ngoài cung cấp công nghệ, sau đó có thể đưa các công cụ giám sát ẩn vào kho công nghệ lớn hơn, rằng những công cụ đó có thể bị cấm. Áp dụng điều đó cho một công ty có trụ sở tại Hoa Kỳ về cơ bản vì có chính sách đạo đức có cảm giác giống như một hành vi lạm dụng thực sự đối với công cụ đó.
Ngay cả công cụ đó cũng có vấn đề ở một số khía cạnh, nhưng bạn có thể hiểu động lực đằng sau nó khi nói về một công ty mạng Trung Quốc hoặc thứ gì đó tương tự. Ở đây, nó không có ý nghĩa. Vì vậy, phản ứng đối với điều này vượt xa những gì thường thấy trong trường hợp này. Theo truyền thống, bạn có thể thấy sẽ có một số loại vụ kiện tại tòa án và một trong hai bên có thể bắt đầu vụ kiện đó và đó sẽ chỉ là một cuộc chiến về cách áp dụng hợp đồng.
Nhưng đó không phải là những gì đang xảy ra ở đây. Chính quyền này đang nói một cách hiệu quả rằng: “Nếu bạn không cung cấp cho chúng tôi tất cả mọi thứ chúng tôi muốn, nếu bạn không thiết lập các công cụ của mình để hoạt động theo cách chúng tôi muốn, thì chúng tôi sẽ cố gắng phá hủy toàn bộ doanh nghiệp của bạn một cách hiệu quả”. Và đó là một sự leo thang.
Có một phần trong số này mà tôi muốn kết thúc và đó là phiên bản mang tính thiên hà nhất của phần này. FIRE, một nhóm ủng hộ quyền tự do ngôn luận, đã đăng một bài đăng trên blog ngay trước khi chúng tôi bắt đầu ghi lại việc đưa ra lập luận rằng việc buộc Anthropic xây dựng các công cụ mà họ không muốn xây dựng là vi phạm quyền tự do ngôn luận, đó là thứ gọi là lời nói bắt buộc. Có rất nhiều lịch sử ở đây. Có một số lịch sử sâu sắc về Verge và Techdirt, trong cỏ dại, khủng hoảng hiện sinh ở đây.
Nhưng về cơ bản, nó xuất phát từ ý tưởng rằng mã là lời nói, viết mã cho máy tính là một dạng ngôn luận và chính phủ không thể buộc bạn làm điều đó, và cả đống thứ bắt nguồn từ đó. Bạn có chấp nhận lập luận này rằng việc buộc Anthropic xây dựng những công cụ mà họ không muốn xây dựng là lời nói ép buộc không?
Vâng, tôi thực sự nghĩ nó khá hấp dẫn. Lời nói ép buộc đầy thuyết phục. Nhưng không, tôi nghĩ đó là một cuộc tranh luận thú vị. Đó là một vấn đề nằm sâu hơn một chút trong danh sách các vấn đề mà tôi đang nghĩ tới. Rõ ràng là tôi chủ yếu tập trung hơn vào các vấn đề của Tu chính án thứ tư, nhưng tôi nghĩ lập luận FIRE không sai. Chúng tôi đã thấy điều này trong các bối cảnh khác. Nó cũng nảy sinh vấn đề về cửa hậu, khi cố gắng xây dựng các cửa sau vào các hệ thống được mã hóa.
Các công ty chắc chắn đã huy động được vị trí đầu tiênTuyên bố về sửa đổi, nói rằng, "Việc buộc chúng tôi phải viết loại mã đó là lời nói bắt buộc." Đó là một lý lẽ hợp lệ. Một lần nữa, nó có thể là một vấn đề mà các tòa án có lẽ ít sẵn lòng giải quyết ban đầu hơn nếu họ có thể giải quyết những vấn đề này theo cách khác. Nhưng tôi rất vui vì FIRE đã đăng bài đó và tôi nghĩ đó là một lập luận thú vị và hấp dẫn.
Vâng, bản chất của chính quyền Trump thứ hai là nó là một công cụ thẳng thừng, gần như chắc chắn rằng chúng ta sẽ tấn công tất cả các vấn đề cùng một lúc.
Có, mọi sửa đổi Tuyên ngôn Nhân quyền đều phải được phản đối dưới hình thức này hay hình thức khác với mọi vấn đề có thể xảy ra.
[Cười] Quay bánh xe.
Tôi chắc chắn rằng chúng ta có thể đưa ra vi phạm Tu chính án thứ ba ở đâu đó ở đây.
Chắc chắn rồi, vâng. Claude phải sống trong nhà của bạn bây giờ. Chính xác. Nó sẽ rất tuyệt vời. Chúng tôi đang thực hiện [sửa đổi] một, ba, bốn và bảy. Chúng tôi sắp xếp chúng.
Mike, điều này thật tuyệt vời. Tôi không thể tin rằng bạn chưa từng tham gia chương trình trước đây. Điều này thật tuyệt vời. Bạn phải quay lại sớm.
Tuyệt đối. Bất cứ khi nào bạn muốn tôi.
Câu hỏi hoặc nhận xét về tập phim này? Hãy liên hệ với chúng tôi tại bộ giải mã@theverge.com. Chúng tôi thực sự đọc mọi email!
