Trong phần đầu tiên của loạt bài này, chúng tôi đã thiết lập sự chuyển đổi cơ bản từ trí tuệ nhân tạo tổng quát sang trí tuệ nhân tạo tác nhân. Chúng tôi đã khám phá lý do tại sao bước nhảy vọt từ đề xuất sang hành động này lại đòi hỏi một bộ công cụ tâm lý và phương pháp luận mới dành cho các nhà nghiên cứu UX, giám đốc sản phẩm và lãnh đạo. Chúng tôi đã xác định cách phân loại các hành vi tác nhân, từ đề xuất đến hành động tự chủ, vạch ra các phương pháp nghiên cứu thiết yếu, xác định rủi ro của bùn tác nhân và thiết lập các số liệu trách nhiệm giải trình cần thiết để điều hướng lãnh thổ mới này. Chúng tôi đã đề cập đến những gì và tại sao. Bây giờ, chúng ta chuyển từ nền tảng sang chức năng. Bài viết này cung cấp cách thức: các mẫu thiết kế cụ thể, khung vận hành và thực tiễn tổ chức cần thiết để xây dựng các hệ thống tác nhân không chỉ mạnh mẽ mà còn minh bạch, có thể kiểm soát và đáng tin cậy của người dùng. Nếu nghiên cứu của chúng tôi là công cụ chẩn đoán thì những mô hình này là kế hoạch điều trị. Chúng là những cơ chế thực tế mà qua đó chúng tôi có thể mang lại cho người dùng cảm giác kiểm soát rõ ràng, ngay cả khi chúng tôi trao cho AI quyền tự chủ chưa từng có. Mục tiêu là tạo ra trải nghiệm trong đó quyền tự chủ giống như một đặc quyền do người dùng cấp chứ không phải là một quyền bị hệ thống chiếm giữ. Các mẫu UX cốt lõi cho hệ thống đại lý Thiết kế cho AI tác nhân là thiết kế cho một mối quan hệ. Mối quan hệ này, giống như bất kỳ mối quan hệ hợp tác thành công nào, phải được xây dựng trên cơ sở giao tiếp rõ ràng, hiểu biết lẫn nhau và xác lập ranh giới. Để quản lý quá trình chuyển từ đề xuất sang hành động, chúng tôi sử dụng sáu mẫu tuân theo vòng đời chức năng của tương tác tác nhân:
Trước hành động (Thiết lập ý định) Quay số tự động và xem trước ý định đảm bảo người dùng xác định kế hoạch và ranh giới của tác nhân trước khi bất kỳ điều gì xảy ra. Đang thực hiện (Cung cấp bối cảnh) Tín hiệu cơ sở và độ tin cậy có thể giải thích được duy trì tính minh bạch trong khi tác nhân hoạt động, hiển thị “tại sao” và “chắc chắn như thế nào”. Hậu hành động (An toàn và phục hồi) Lộ trình kiểm tra hành động & hoàn tác và nâng cấp cung cấp một mạng lưới an toàn cho các lỗi hoặc những thời điểm có mức độ mơ hồ cao.
Dưới đây, chúng tôi sẽ trình bày chi tiết từng mẫu, bao gồm các đề xuất về số liệu để thành công. Những mục tiêu này là điểm chuẩn mang tính đại diện dựa trên tiêu chuẩn ngành; điều chỉnh chúng dựa trên rủi ro tên miền cụ thể của bạn. 1. Bản xem trước ý định: Làm rõ cái gì và như thế nào Mẫu câu này tương đương với việc nói chuyện, "Đây là điều tôi sắp làm. Bạn thấy ổn với điều đó chứ?" Đó là thời điểm cơ bản để tìm kiếm sự đồng ý trong mối quan hệ tác nhân người dùng. Trước khi một tác nhân thực hiện bất kỳ hành động quan trọng nào, người dùng phải hiểu rõ ràng, rõ ràng về những gì sắp xảy ra. Bản xem trước ý định hoặc Tóm tắt kế hoạch sẽ thiết lập sự đồng ý có hiểu biết. Đó là sự tạm dừng trò chuyện trước khi hành động, biến hộp đen gồm các quy trình tự trị thành một kế hoạch minh bạch và có thể xem xét lại. Nền tảng tâm lý Trình bày một kế hoạch trước khi hành động giúp giảm tải nhận thức và loại bỏ sự ngạc nhiên, giúp người dùng có một chút thời gian để xác minh rằng nhân viên thực sự hiểu ý định của họ. Cấu trúc của bản xem trước ý định hiệu quả:
Rõ ràng và ngắn gọnBản xem trước phải dễ hiểu ngay lập tức. Nó nên tóm tắt các hành động và kết quả chính bằng ngôn ngữ đơn giản, tránh các thuật ngữ kỹ thuật. Ví dụ: thay vì “Thực thi lệnh gọi API tới cancel_booking(id: 4A7B)”, nó phải ghi “Hủy chuyến bay AA123 đến San Francisco”. Các bước tuần tựĐối với các thao tác gồm nhiều bước, bản xem trước sẽ phác thảo các giai đoạn chính. Điều này tiết lộ logic của tác nhân và cho phép người dùng phát hiện các vấn đề tiềm ẩn theo trình tự được đề xuất. Xóa hành động của người dùngBản xem trước là điểm quyết định chứ không chỉ là thông báo. Nó phải đi kèm với một loạt các lựa chọn rõ ràng. Đó là khoảnh khắc ma sát có chủ ý, một 'sự va chạm tốc độ' trong quá trình được thiết kế để đảm bảo người dùng đưa ra lựa chọn có ý thức, đặc biệt đối với các hành động không thể đảo ngược hoặc có tính rủi ro cao.
Hãy cùng xem lại kịch bản trợ lý du lịch của chúng tôi từ phần đầu tiên của loạt bài này. Chúng tôi sử dụng trợ lý chủ động này để minh họa cách đại lý xử lý việc hủy chuyến bay. Đại lý đã phát hiện chuyến bay bị hủy và đã lập kế hoạch phục hồi. Bản xem trước ý định sẽ trông giống như thế này: Kế hoạch đề xuất cho sự gián đoạn chuyến đi của bạnTôi phát hiện thấy chuyến bay lúc 10:05 sáng của bạn đã bị hủy. Đây là những gì tôi dự định làm:Hủy chuyến bay UA456Xử lý hoàn tiền và xác nhận chi tiết hủy. Đặt lại vé trên chuyến bay DL789Đặt chỗ đã xác nhận trên chuyến bay thẳng lúc 2:30 chiều, vì đây là chuyến bay thẳng tiếp theo có sẵn với mộtđã xác nhận chỗ ngồi.Cập nhật đặt phòng khách sạnThông báo cho Marriott rằng bạn sẽ đến muộn.Email Hành trình đã cập nhậtGửi thông tin chi tiết về chuyến bay và khách sạn mới cho bạn và trợ lý của bạn, Jane Doe.[Tiếp tục với kế hoạch này] [Chỉnh sửa kế hoạch] [Tự xử lý nó]
Bản xem trước này có hiệu quả vì nó cung cấp một bức tranh hoàn chỉnh, từ hủy bỏ đến liên lạc và đưa ra ba con đường riêng biệt để tiến về phía trước: sự đồng ý hoàn toàn (Tiếp tục), mong muốn sửa đổi (Chỉnh sửa kế hoạch) hoặc ghi đè hoàn toàn (Tự mình xử lý). Sự kiểm soát nhiều mặt này là nền tảng của sự tin cậy.
Khi nào nên ưu tiên mẫu nàyMẫu này không thể thương lượng đối với bất kỳ hành động nào không thể đảo ngược (ví dụ: xóa dữ liệu người dùng), liên quan đến giao dịch tài chính với số lượng bất kỳ, chia sẻ thông tin với người hoặc hệ thống khác hoặc thực hiện một thay đổi quan trọng mà người dùng không thể dễ dàng hoàn tác. Rủi ro bỏ sót Nếu không có điều này, người dùng sẽ cảm thấy bị phục kích bởi hành động của tác nhân và sẽ vô hiệu hóa tính năng này để lấy lại quyền kiểm soát. Số liệu cho sự thành công:
Tỷ lệ chấp nhậnCác kế hoạch được chấp nhận mà không cần chỉnh sửa / Tổng số kế hoạch được hiển thị. Mục tiêu > 85%. Ghi đè Tần sốTotal Tự xử lý Số lần nhấp / Tổng số gói được hiển thị. Tỷ lệ > 10% sẽ kích hoạt đánh giá mô hình. Nhớ lại độ chính xácPhần trăm người tham gia thử nghiệm có thể liệt kê chính xác các bước của kế hoạch 10 giây sau khi bản xem trước bị ẩn.
Áp dụng điều này cho các tên miền có giá trị cao Mặc dù kế hoạch du lịch là một đường cơ sở có thể tin cậy được, nhưng mô hình này trở nên không thể thiếu trong những môi trường phức tạp, có rủi ro cao, nơi mà sai sót sẽ gây ra nhiều bất tiện hơn cho một cá nhân khi đi du lịch. Nhiều người trong chúng ta làm việc ở những nơi mà những quyết định sai lầm có thể dẫn đến ngừng hoạt động hệ thống, gây nguy hiểm cho sự an toàn của bệnh nhân hoặc nhiều hậu quả thảm khốc khác mà công nghệ không đáng tin cậy có thể gây ra. Hãy xem xét một Đại lý phát hành DevOps được giao nhiệm vụ quản lý cơ sở hạ tầng đám mây. Trong bối cảnh này, Bản xem trước ý định đóng vai trò như một rào cản an toàn chống lại thời gian ngừng hoạt động do tai nạn.
Trong giao diện này, thuật ngữ cụ thể (Drain Traffic, Rollback) thay thế các thuật ngữ chung và các hành động mang tính nhị phân và có tác động. Người dùng ủy quyền một ca vận hành chính dựa trên logic của tổng đài viên, thay vì phê duyệt đề xuất. 2. Vòng quay tự chủ: Hiệu chỉnh niềm tin bằng sự ủy quyền lũy tiến Mọi mối quan hệ lành mạnh đều có ranh giới. Vòng quay tự chủ là cách người dùng thiết lập nó với đại lý của họ, xác định những gì họ cảm thấy thoải mái khi tự mình xử lý đại lý. Niềm tin không phải là một công tắc nhị phân; đó là một quang phổ. Người dùng có thể tin tưởng một tác nhân sẽ tự động xử lý các nhiệm vụ có mức độ rủi ro thấp nhưng yêu cầu xác nhận đầy đủ đối với các quyết định có mức độ rủi ro cao. Vòng quay tự động, một hình thức ủy quyền lũy tiến, cho phép người dùng đặt mức độ độc lập ưa thích của họ, khiến họ trở thành những người tham gia tích cực trong việc xác định mối quan hệ. Nền tảng tâm lý Việc cho phép người dùng điều chỉnh quyền tự chủ của đại lý sẽ cấp cho họ một địa điểm kiểm soát, cho phép họ điều chỉnh hành vi của hệ thống phù hợp với khả năng chấp nhận rủi ro cá nhân của họ. Triển khai Điều này có thể được triển khai dưới dạng cài đặt đơn giản, rõ ràng trong ứng dụng, lý tưởng nhất là trên cơ sở từng loại nhiệm vụ. Sử dụng phân loại từ bài viết đầu tiên của chúng tôi, cài đặt có thể là:
Quan sát & Đề xuấtTôi muốn được thông báo về các cơ hội hoặc vấn đề, nhưng người đại diện sẽ không bao giờ đề xuất kế hoạch. Lập kế hoạch & Đề xuất Người đại diện có thể tạo các kế hoạch, nhưng tôi phải xem xét từng kế hoạch trước khi thực hiện bất kỳ hành động nào. Hành động với xác nhậnĐối với các nhiệm vụ quen thuộc, nhân viên có thể chuẩn bị các hành động và tôi sẽ đưa ra xác nhận cuối cùng là thực hiện/không thực hiện. Hành động tự chủĐối với các nhiệm vụ được phê duyệt trước (ví dụ: tranh chấp các khoản phí dưới 50 USD), đại lý có thể hành động độc lập và thông báo cho tôi sau khi thực hiện.
Ví dụ: một trợ lý email có thể có một vòng quay tự chủ riêng biệt để lên lịch các cuộc họp so với việc gửi email thay mặt người dùng. Mức độ chi tiết này rất quan trọng vì nó phản ánh thực tế sắc thái về niềm tin của người dùng. Khi nào nên ưu tiên mô hình này Ưu tiên mô hình này trong các hệ thống nơi các nhiệm vụ có mức độ rủi ro và sở thích cá nhân rất khác nhau (ví dụ: các công cụ quản lý tài chính, nền tảng truyền thông). Nó rất cần thiết cho quá trình làm quen, cho phép người dùng bắt đầu với mức độ tự chủ thấp và tăng cường quyền tự chủ khi sự tự tin của họ tăng lên. Rủi ro bỏ sót Nếu không có điều này, người dùng gặp phải một lỗi duy nhất sẽ từ bỏ tác nhân hoàn toàn thay vì chỉ quay lại các quyền của nó. Số liệu cho sự thành công:
Mật độ tin cậy Phân tích phần trăm người dùng trên mỗi cài đặt (ví dụ: Đề xuất 20%, Xác nhận 50%, Tự động 30%). Đặt số lượt thay đổi cài đặt / Tổng số người dùng hoạt động mỗi tháng. Tỷ lệ rời bỏ cao cho thấy sự tin tưởngsự biến động.
3. Lý do có thể giải thích: Trả lời Tại sao? Sau khi thực hiện một hành động, một đối tác tốt sẽ giải thích lý do của họ. Mô hình này là sự giao tiếp cởi mở theo sau một hành động, trả lời câu hỏi Tại sao? thậm chí trước khi nó được hỏi. “Tôi làm vậy vì trước đây bạn đã nói với tôi rằng bạn thích X hơn.” Khi một tác nhân hành động, đặc biệt là một cách tự chủ, câu hỏi ngay lập tức trong đầu người dùng thường là: Tại sao nó lại làm như vậy? Mẫu Cơ sở lý luận có thể giải thích chủ động trả lời câu hỏi này, đưa ra lời giải thích ngắn gọn cho các quyết định của tổng đài viên. Đây không phải là một tập tin nhật ký kỹ thuật. Trong bài viết đầu tiên của loạt bài này, chúng tôi đã thảo luận về việc dịch các nguyên tắc cơ bản của hệ thống sang ngôn ngữ hướng tới người dùng để ngăn chặn sự lừa dối. Mẫu này là ứng dụng thực tế của nguyên tắc đó. Nó biến logic thô thành lời giải thích mà con người có thể đọc được dựa trên sở thích đã nêu của chính người dùng và thông tin đầu vào trước đó. Nền tảng tâm lý Khi hành động của một tác nhân có thể giải thích được, chúng mang lại cảm giác logic hơn là ngẫu nhiên, giúp người dùng xây dựng một mô hình tinh thần chính xác về cách suy nghĩ của tác nhân. Cơ sở lý luận hiệu quả:
Căn cứ vào tiền lệ Những lời giải thích tốt nhất liên kết ngược lại với một quy tắc, sở thích hoặc hành động trước đó. Đơn giản và trực tiếpTránh logic điều kiện phức tạp. Sử dụng cấu trúc đơn giản “Vì bạn nói X nên tôi làm Y”.
Quay lại ví dụ về chuyến đi, sau khi chuyến bay được đặt lại một cách tự động, người dùng có thể thấy điều này trong nguồn cấp dữ liệu thông báo của họ: Tôi đã đặt lại chuyến bay bị hủy của bạn. Chuyến bay mới: Delta 789, khởi hành lúc 2:30 chiều. Lý do tôi thực hiện hành động này: Chuyến bay ban đầu của bạn đã bị hãng hàng không hủy. Bạn đã phê duyệt trước việc tự đặt lại vé cho các chuyến bay thẳng trong ngày.[ Xem hành trình mới ] [ Hoàn tác hành động này ]
Cơ sở lý luận rõ ràng, có thể bào chữa được và củng cố ý tưởng rằng tác nhân đang hoạt động trong ranh giới mà người dùng đã thiết lập. Khi nào nên ưu tiên mẫu này Ưu tiên nó cho bất kỳ hành động tự chủ nào mà lý do không rõ ràng ngay từ ngữ cảnh, đặc biệt đối với các hành động xảy ra trong nền hoặc được kích hoạt bởi một sự kiện bên ngoài (chẳng hạn như ví dụ về hủy chuyến bay). Rủi ro bỏ sót Nếu không có điều này, người dùng sẽ hiểu các hành động tự chủ hợp lệ là hành vi ngẫu nhiên hoặc 'lỗi', ngăn cản họ hình thành một mô hình tinh thần chính xác. Số liệu cho sự thành công:
Tại sao? Khối lượng yêu cầuSố lượng yêu cầu hỗ trợ được gắn thẻ “Hành vi của nhân viên - Không rõ ràng” trên 1.000 người dùng đang hoạt động. Xác thực cơ sởPhần trăm người dùng đánh giá lời giải thích là 'Hữu ích' trong các cuộc khảo sát vi mô sau tương tác.
4. Tín hiệu tự tin Mô hình này nói về việc người đại diện tự nhận thức được mối quan hệ. Bằng cách truyền đạt sự tự tin của chính mình, nó giúp người dùng quyết định khi nào nên tin tưởng vào phán đoán của mình và khi nào cần xem xét kỹ lưỡng hơn. Để giúp người dùng điều chỉnh niềm tin của chính họ, đại lý nên thể hiện sự tự tin của chính mình trong các kế hoạch và hành động của mình. Điều này làm cho trạng thái nội bộ của tổng đài viên dễ đọc hơn và giúp người dùng quyết định thời điểm xem xét kỹ lưỡng quyết định. Nền tảng tâm lý Bề mặt không chắc chắn giúp ngăn chặn sự thiên vị tự động hóa, khuyến khích người dùng xem xét kỹ lưỡng các kế hoạch có độ tin cậy thấp thay vì chấp nhận chúng một cách mù quáng. Thực hiện:
Điểm tin cậyMột tỷ lệ phần trăm đơn giản (ví dụ: Độ tin cậy: 95%) có thể là một chỉ báo nhanh chóng, có thể quét được. Tuyên bố phạm vi Một tuyên bố rõ ràng về lĩnh vực chuyên môn của đại lý (ví dụ: Phạm vi: chỉ đặt vé du lịch) giúp quản lý kỳ vọng của người dùng và ngăn họ yêu cầu đại lý thực hiện các nhiệm vụ không được thiết kế. Dấu hiệu trực quan Dấu kiểm màu xanh lá cây có thể biểu thị độ tin cậy cao, trong khi dấu chấm hỏi màu vàng có thể biểu thị sự không chắc chắn, nhắc người dùng xem xét cẩn thận hơn.
Khi nào nên ưu tiên mẫu nàyƯu tiên khi hiệu suất của tác nhân có thể thay đổi đáng kể dựa trên chất lượng của dữ liệu đầu vào hoặc tính không rõ ràng của nhiệm vụ. Nó đặc biệt có giá trị trong các hệ thống chuyên gia (ví dụ: hỗ trợ y tế, trợ lý mã), nơi con người phải đánh giá nghiêm túc kết quả đầu ra của AI. Rủi ro bỏ sót Nếu không có điều này, người dùng sẽ trở thành nạn nhân của thành kiến tự động hóa, chấp nhận một cách mù quáng những ảo giác có độ tin cậy thấp hoặc kiểm tra lại một cách lo lắng công việc có độ tin cậy cao. Số liệu cho sự thành công:
Điểm hiệu chuẩn Tương quan Pearson giữa Điểm tin cậy của mô hình và Tỷ lệ chấp nhận của người dùng. Mục tiêu > 0,8. Rà soát DeltaSự khác biệt giữa thời gian xem xét trung bình của các kế hoạch có độ tin cậy thấp và các kế hoạch có độ tin cậy cao. Dự kiến là dương (ví dụ: +12 giây).
5. Kiểm tra hành động & Hoàn tác: Mạng lưới an toàn tối ưu Sự tin tưởng đòi hỏi bạn phải biết rằng bạn có thể phục hồi sau một sai lầm. Hoàn tácchức năng là mạng lưới an toàn mối quan hệ cuối cùng, đảm bảo với người dùng rằng ngay cả khi người đại diện hiểu lầm thì hậu quả cũng không nghiêm trọng. Cơ chế mạnh mẽ nhất để xây dựng niềm tin của người dùng là khả năng dễ dàng đảo ngược hành động của nhân viên. Nhật ký Kiểm tra Hành động liên tục, dễ đọc, với nút Hoàn tác nổi bật cho mọi hành động có thể thực hiện, là mạng lưới an toàn tối ưu. Nó làm giảm đáng kể rủi ro được nhận thấy khi trao quyền tự chủ. Nền tảng tâm lý Biết rằng một sai lầm có thể dễ dàng sửa chữa sẽ tạo ra sự an toàn về mặt tâm lý, khuyến khích người dùng giao phó nhiệm vụ mà không sợ những hậu quả không thể khắc phục được. Thực tiễn tốt nhất về thiết kế:
Chế độ xem dòng thời gian Nhật ký theo trình tự thời gian của tất cả các hành động do tổng đài viên thực hiện là định dạng trực quan nhất. Xóa chỉ báo trạng tháiHiển thị xem một hành động đã thành công, đang diễn ra hay đã được hoàn tác. Hoàn tác có giới hạn thời gianĐối với các hành động không thể hoàn tác sau một thời điểm nhất định (ví dụ: đặt phòng không hoàn tiền), giao diện người dùng phải thông báo rõ ràng về khoảng thời gian này (ví dụ: Hoàn tác có sẵn trong 15 phút). Sự minh bạch về các hạn chế của hệ thống cũng quan trọng như chính khả năng hoàn tác. Thành thật về thời điểm một hành động trở thành lâu dài sẽ xây dựng niềm tin.
Khi nào nên ưu tiên mẫu nàyĐây là mẫu nền tảng cần được triển khai trong hầu hết các hệ thống tổng đài. Điều này hoàn toàn không thể thương lượng khi giới thiệu các tính năng tự trị hoặc khi chi phí xảy ra lỗi (liên quan đến tài chính, xã hội hoặc dữ liệu) cao. Rủi ro bỏ sót Nếu không có điều này, một lỗi sẽ vĩnh viễn phá hủy niềm tin vì người dùng nhận ra rằng họ không có mạng lưới an toàn. Số liệu cho sự thành công:
Tỷ lệ đảo ngược Hành động chưa hoàn tất / Tổng số hành động đã thực hiện. Nếu Tỷ lệ đảo ngược > 5% cho một tác vụ cụ thể, hãy tắt tính năng tự động hóa cho tác vụ đó. Chuyển đổi Mạng lưới An toànPhần trăm người dùng nâng cấp lên Hành động tự động trong vòng 7 ngày kể từ khi sử dụng Hoàn tác thành công.
6. Lộ trình thăng tiến: Xử lý sự không chắc chắn một cách khéo léo Một đối tác thông minh biết khi nào nên yêu cầu giúp đỡ thay vì đoán mò. Mẫu này cho phép tác nhân xử lý sự mơ hồ một cách khéo léo bằng cách chuyển đến người dùng, thể hiện sự khiêm tốn giúp xây dựng, thay vì làm xói mòn, niềm tin. Ngay cả tác nhân tiên tiến nhất cũng sẽ gặp phải những tình huống không chắc chắn về ý định của người dùng hoặc cách hành động tốt nhất. Cách nó xử lý sự không chắc chắn này là một thời điểm quyết định. Một tác nhân được thiết kế tốt sẽ không đoán; nó leo thang. Nền tảng tâm lý Khi một tác nhân thừa nhận giới hạn của mình thay vì đoán mò, nó sẽ xây dựng niềm tin bằng cách tôn trọng quyền hạn của người dùng trong các tình huống không rõ ràng. Các mô hình nâng cao bao gồm:
Yêu cầu làm rõ “Bạn đã đề cập đến ‘Thứ Ba tuần tới.’ Ý bạn là ngày 30 tháng 9 hay ngày 7 tháng 10?” Tùy chọn trình bày"Tôi đã tìm thấy ba chuyến bay phù hợp với tiêu chí của bạn. Bạn thấy chuyến bay nào phù hợp nhất?" Yêu cầu sự can thiệp của con ngườiĐối với các nhiệm vụ có tính rủi ro cao hoặc rất mơ hồ, tác nhân phải có lộ trình rõ ràng để liên hệ với chuyên gia con người hoặc tác nhân hỗ trợ. Lời nhắc có thể là: "Giao dịch này có vẻ bất thường và tôi không tự tin về cách tiếp tục. Bạn có muốn tôi gắn cờ giao dịch này để nhân viên xem xét không?"
Khi nào nên ưu tiên mẫu này Ưu tiên trong các miền mà mục đích của người dùng có thể mơ hồ hoặc phụ thuộc nhiều vào ngữ cảnh (ví dụ: tương tác ngôn ngữ tự nhiên, truy vấn dữ liệu phức tạp). Sử dụng điều này bất cứ khi nào tác nhân hoạt động với thông tin không đầy đủ hoặc khi tồn tại nhiều đường dẫn chính xác. Rủi ro bỏ sót Nếu không có điều này, tác nhân cuối cùng sẽ đưa ra một phỏng đoán đầy tự tin và thảm khốc khiến người dùng xa lánh. Số liệu cho sự thành công:
Tần suất nâng cao Yêu cầu tác nhân trợ giúp / Tổng số nhiệm vụ. Phạm vi khỏe mạnh: 5-15%. Tỷ lệ khôi phục thành công Nhiệm vụ đã hoàn thành sau khi leo thang / Tổng số lần leo thang. Mục tiêu > 90%.
mẫu Tốt nhất cho Rủi ro chính Số liệu chính Xem trước ý định Hành động tài chính hoặc không thể đảo ngược Người dùng cảm thấy bị phục kích > Tỷ lệ chấp nhận 85% Quay số tự chủ Nhiệm vụ có mức độ rủi ro thay đổi Tổng số tính năng bị bỏ rơi Thiết lập tỷ lệ rời bỏ Lý do có thể giải thích được Nhiệm vụ nền hoặc tự trị Người dùng nhận thấy lỗi “Tại sao?” Số lượng vé Tín hiệu tự tin Hệ thống chuyên gia hoặc cổ phần cao Xu hướng tự động hóa Kiểm tra kỹ lưỡng Delta Kiểm tra hành động & Hoàn tác Tất cả các hệ thống đại lý Mất niềm tin vĩnh viễn <5%Tỷ lệ đảo ngược Lộ trình thăng tiến Ý định của người dùng không rõ ràng Những phỏng đoán đầy tự tin và thảm khốc >Phục hồi thành công 90%
Bảng 1: Tóm tắt các mẫu UX AI của Agentic. Hãy nhớ điều chỉnh số liệu dựa trên rủi ro và nhu cầu tên miền cụ thể của bạn. Thiết kế để sửa chữa và khắc phục Đây là học cách xin lỗi một cách hiệu quả. Một lời xin lỗi đúng đắn sẽ thừa nhận sai lầm, khắc phục thiệt hại và hứa sẽ rút kinh nghiệm. Lỗi không thể xảy ra; chúng là một điều tất yếu. Sự thành công lâu dài của một hệ thống tác tử phụ thuộc ít hơn vào khả năng hoàn hảo của nó mà phụ thuộc nhiều hơn vào khả năng phục hồi một cách khéo léo khi nó gặp sự cố. Một khuôn khổ mạnh mẽ để sửa chữa và khắc phục là một tính năng cốt lõi, không phải là một điều cần cân nhắc. Lời xin lỗi đồng cảm và cách khắc phục rõ ràng Khi một nhân viên mắc lỗi, thông báo lỗi chính là lời xin lỗi. Nó phải được thiết kế với độ chính xác về mặt tâm lý. Thời điểm này là một cơ hội quan trọng để thể hiện trách nhiệm. Từ góc độ thiết kế dịch vụ, đây là lúc các công ty có thể sử dụng nghịch lý phục hồi dịch vụ: hiện tượng một khách hàng gặp phải sự cố dịch vụ, sau đó là sự phục hồi thành công và đồng cảm, thực sự có thể trở nên trung thành hơn một khách hàng chưa từng trải qua thất bại nào. Một sai lầm được xử lý tốt có thể là một sự kiện xây dựng lòng tin mạnh mẽ hơn là một lịch sử lâu dài về việc thực hiện hoàn hảo. Điều quan trọng là coi lỗi lầm như một sự rạn nứt trong mối quan hệ cần được hàn gắn. Điều này liên quan đến:
Xác nhận lỗi Thông báo phải nêu rõ ràng và đơn giản rằng đã xảy ra lỗi. Ví dụ: Tôi đã chuyển tiền không chính xác. Nêu rõ biện pháp khắc phục ngay lập tức Thực hiện ngay hành động khắc phục. Ví dụ: Tôi đã hủy bỏ hành động đó và tiền đã được trả lại vào tài khoản của bạn. Cung cấp con đường để được trợ giúp thêm Luôn đưa ra mối liên kết rõ ràng với sự hỗ trợ của con người. Điều này làm giảm bớt sự thất vọng và cho thấy rằng có một hệ thống chịu trách nhiệm vượt ra ngoài bản thân người đại diện.
Giao diện người dùng sửa chữa được thiết kế tốt có thể trông như thế này: Chúng tôi đã mắc sai lầm trong lần chuyển tiền gần đây của bạn. Tôi xin lỗi. Tôi đã chuyển sai $250 vào tài khoản sai. ✔ Hành động khắc phục: Quá trình chuyển khoản đã bị hủy và $250 của bạn đã được hoàn lại. ✔ Các bước tiếp theo: Sự cố đã được gắn cờ để xem xét nội bộ nhằm ngăn chặn sự việc xảy ra lần nữa. Bạn cần trợ giúp thêm? [ Liên hệ hỗ trợ ]
Xây dựng công cụ quản trị để đổi mới an toàn Các mẫu thiết kế được mô tả ở trên là các điều khiển hướng tới người dùng, nhưng chúng không thể hoạt động hiệu quả nếu không có cấu trúc hỗ trợ bên trong mạnh mẽ. Đây không phải là việc tạo ra những rào cản quan liêu; đó là về việc xây dựng một lợi thế chiến lược. Một tổ chức có khuôn khổ quản trị hoàn thiện có thể cung cấp các tính năng tác nhân đầy tham vọng hơn với tốc độ và độ tin cậy cao hơn, biết rằng các biện pháp bảo vệ cần thiết luôn sẵn sàng để giảm thiểu rủi ro thương hiệu. Công cụ quản trị này biến sự an toàn từ danh sách kiểm tra thành tài sản cạnh tranh. Công cụ này sẽ hoạt động như một cơ quan quản trị chính thức, Hội đồng đạo đức AI của Agentic, bao gồm một liên minh đa chức năng gồm UX, Sản phẩm và Kỹ thuật, với sự hỗ trợ quan trọng từ Pháp lý, Tuân thủ và Hỗ trợ. Trong các tổ chức nhỏ hơn, các vai trò 'Hội đồng' này thường được chia thành một bộ ba gồm các trưởng nhóm Sản phẩm, Kỹ thuật và Thiết kế. Danh sách kiểm tra cho quản trị
Pháp lý/Tuân thủ Nhóm này là tuyến phòng thủ đầu tiên, đảm bảo các hành động tiềm năng của đại lý nằm trong ranh giới quy định và pháp lý. Chúng giúp xác định các khu vực cấm đi lại cho hành động tự chủ. Sản phẩmNgười quản lý sản phẩm là người quản lý mục đích của đại lý. Họ xác định và giám sát các ranh giới hoạt động của nó thông qua chính sách tự chủ chính thức ghi lại những gì đại lý được phép làm và không được phép làm. Họ sở hữu Sổ đăng ký rủi ro đại lý. Nghiên cứu UX Nhóm này đại diện cho sự tin tưởng và lo lắng của người dùng. Họ chịu trách nhiệm về một quy trình định kỳ để thực hiện các nghiên cứu hiệu chỉnh lòng tin, kiểm tra hành vi sai trái mô phỏng và phỏng vấn định tính để hiểu mô hình tinh thần đang phát triển của người dùng về nhân viên. Kỹ thuậtNhóm này xây dựng nền tảng kỹ thuật của sự tin cậy. Họ phải kiến trúc hệ thống để ghi nhật ký mạnh mẽ, chức năng hoàn tác chỉ bằng một cú nhấp chuột và các điểm kết nối cần thiết để tạo ra các lý do rõ ràng, có thể giải thích được. Hỗ trợCác đội này đang ở tuyến đầu của sự thất bại. Họ phải được đào tạo và trang bị để xử lý các sự cố do lỗi của nhân viên gây ra, đồng thời họ phải có vòng phản hồi trực tiếp tới Hội đồng Đạo đức để báo cáo về các kiểu lỗi trong thế giới thực.
Cơ cấu quản trị này cần duy trì mộtbộ tài liệu sống, bao gồm Sổ đăng ký rủi ro tác nhân chủ động xác định các chế độ lỗi tiềm ẩn, Nhật ký kiểm tra hành động được xem xét thường xuyên và Tài liệu chính sách tự chủ chính thức. Bắt đầu từ đâu: Cách tiếp cận theo từng giai đoạn dành cho người dẫn đầu sản phẩm Đối với các nhà quản lý và điều hành sản phẩm, việc tích hợp AI tác nhân có thể giống như một nhiệm vụ to lớn. Điều quan trọng là tiếp cận nó không phải như một lần ra mắt duy nhất mà là một hành trình theo từng giai đoạn nhằm xây dựng song song cả năng lực kỹ thuật và niềm tin của người dùng. Lộ trình này cho phép tổ chức của bạn học hỏi và thích nghi, đảm bảo mỗi bước đi đều được xây dựng trên nền tảng vững chắc. Giai đoạn 1: An toàn cơ bản (Đề xuất & Đề xuất) Mục tiêu ban đầu là xây dựng nền tảng của niềm tin mà không phải chịu những rủi ro đáng kể về quyền tự chủ. Trong giai đoạn này, quyền lực của người đại diện bị giới hạn ở việc phân tích và đề xuất.
Triển khai Bản xem trước ý định vững chắc: Đây là mô hình tương tác cốt lõi của bạn. Giúp người dùng cảm thấy thoải mái với ý tưởng về việc tác nhân lập kế hoạch, đồng thời giúp người dùng có toàn quyền kiểm soát việc thực hiện. Xây dựng cơ sở hạ tầng Kiểm tra hành động & Hoàn tác: Ngay cả khi tác nhân chưa hoạt động tự chủ, hãy xây dựng nền tảng kỹ thuật để ghi nhật ký và đảo ngược. Điều này chuẩn bị cho hệ thống của bạn cho tương lai và xây dựng niềm tin của người dùng rằng mạng lưới an toàn tồn tại.
Giai đoạn 2: Quyền tự chủ đã được hiệu chỉnh (Hành động có xác nhận) Khi người dùng cảm thấy thoải mái với các đề xuất của đại lý, bạn có thể bắt đầu áp dụng quyền tự chủ có rủi ro thấp. Giai đoạn này hướng dẫn người dùng cách suy nghĩ của nhân viên và để họ tự thiết lập tốc độ của mình.
Giới thiệu Quay số tự động với cài đặt giới hạn: Bắt đầu bằng cách cho phép người dùng cấp cho đại lý quyền Hành động với xác nhận. Triển khai Cơ sở lý luận có thể giải thích: Đối với mọi hành động mà tổng đài viên chuẩn bị, hãy đưa ra lời giải thích rõ ràng. Điều này làm sáng tỏ logic của tác nhân và củng cố rằng nó đang hoạt động dựa trên sở thích riêng của người dùng.
Giai đoạn 3: Ủy quyền chủ động (Hành động tự chủ) Đây là bước cuối cùng, chỉ được thực hiện sau khi bạn có dữ liệu rõ ràng từ các giai đoạn trước chứng minh rằng người dùng tin tưởng vào hệ thống.
Bật Hành động tự động cho các nhiệm vụ cụ thể, được phê duyệt trước: Sử dụng dữ liệu từ Giai đoạn 2 (ví dụ: tỷ lệ Tiến hành cao, tỷ lệ Hoàn tác thấp) để xác định nhóm nhiệm vụ có rủi ro thấp đầu tiên có thể được tự động hóa hoàn toàn. Giám sát và lặp lại: Việc ra mắt các tính năng tự động không phải là sự kết thúc mà là sự khởi đầu của một chu kỳ liên tục giám sát hiệu suất, thu thập phản hồi của người dùng cũng như tinh chỉnh phạm vi và hành vi của tác nhân dựa trên dữ liệu trong thế giới thực.
Thiết kế như đòn bẩy an toàn tối thượng Sự xuất hiện của AI đại diện cho một biên giới mới trong tương tác giữa người và máy tính. Nó hứa hẹn một tương lai nơi công nghệ có thể chủ động giảm bớt gánh nặng và hợp lý hóa cuộc sống của chúng ta. Nhưng quyền lực này đi kèm với trách nhiệm sâu sắc. Quyền tự chủ là đầu ra của một hệ thống kỹ thuật, nhưng độ tin cậy là đầu ra của quá trình thiết kế. Thách thức của chúng tôi là đảm bảo rằng trải nghiệm người dùng không phải là yếu tố phụ thuộc vào khả năng kỹ thuật mà là người được hưởng lợi chính. Với tư cách là chuyên gia UX, người quản lý sản phẩm và lãnh đạo, vai trò của chúng tôi là đóng vai trò là người quản lý niềm tin đó. Bằng cách triển khai các mẫu thiết kế rõ ràng để kiểm soát và đồng ý, thiết kế các lộ trình sửa chữa chu đáo cũng như xây dựng các khuôn khổ quản trị mạnh mẽ, chúng tôi tạo ra các đòn bẩy an toàn thiết yếu giúp AI tác nhân trở nên khả thi. Chúng tôi không chỉ thiết kế giao diện; chúng tôi đang xây dựng các mối quan hệ. Tương lai của tiện ích và sự chấp nhận của AI phụ thuộc vào khả năng của chúng ta trong việc thiết kế những hệ thống phức tạp này bằng trí tuệ, tầm nhìn xa và sự tôn trọng sâu sắc đối với quyền hạn tối cao của người dùng.
