Việc thiết kế cho các tác nhân tự trị mang lại một sự thất vọng đặc biệt. Chúng tôi giao một nhiệm vụ phức tạp cho AI, nhiệm vụ này sẽ biến mất trong 30 giây (hoặc 30 phút) và sau đó quay lại với một kết quả. Chúng tôi nhìn chằm chằm vào màn hình. Nó có hoạt động không? Nó có bị ảo giác không? Nó đã kiểm tra cơ sở dữ liệu tuân thủ hay bỏ qua bước đó? Chúng ta thường phản ứng lại sự lo lắng này bằng một trong hai thái cực. Chúng tôi giữ cho hệ thống là Hộp đen, ẩn mọi thứ để duy trì sự đơn giản hoặc chúng tôi hoảng sợ và cung cấp Kết xuất dữ liệu, truyền trực tuyến mọi dòng nhật ký và lệnh gọi API tới người dùng. Cả hai cách tiếp cận đều không trực tiếp giải quyết sắc thái cần thiết để cung cấp cho người dùng mức độ minh bạch lý tưởng. Hộp đen khiến người dùng cảm thấy bất lực. Kết xuất dữ liệu tạo ra điểm mù thông báo, phá hủy tính hiệu quả mà tác nhân đã hứa mang lại. Người dùng bỏ qua luồng thông tin liên tục cho đến khi có thứ gì đó bị hỏng, lúc đó họ thiếu ngữ cảnh để khắc phục nó. Chúng ta cần một cách có tổ chức để tìm sự cân bằng. Trong bài viết trước của tôi, “Thiết kế cho AI tác nhân”, chúng tôi đã xem xét các yếu tố giao diện tạo dựng niềm tin, chẳng hạn như hiển thị trước hành động dự định của AI (Bản xem trước ý định) và cấp cho người dùng quyền kiểm soát mức độ hoạt động của AI (Quay số tự động). Nhưng biết nên sử dụng yếu tố nào chỉ là một phần của thách thức. Câu hỏi khó hơn đối với các nhà thiết kế là biết khi nào nên sử dụng chúng. Làm thế nào để bạn biết thời điểm cụ thể nào trong quy trình làm việc 30 giây yêu cầu Xem trước ý định và thời điểm nào có thể được xử lý bằng một mục nhật ký đơn giản? Bài viết này cung cấp một phương pháp để trả lời câu hỏi đó. Chúng ta sẽ hướng dẫn Kiểm tra Nút Quyết định. Quá trình này yêu cầu các nhà thiết kế và kỹ sư ở cùng phòng để ánh xạ logic phụ trợ tới giao diện người dùng. Bạn sẽ học cách xác định chính xác những thời điểm người dùng cần cập nhật về những gì AI đang làm. Chúng tôi cũng sẽ đề cập đến ma trận Tác động/Rủi ro giúp ưu tiên các nút quyết định nào sẽ hiển thị và mọi mẫu thiết kế liên quan để kết hợp với quyết định đó. Những khoảnh khắc minh bạch: Một ví dụ nghiên cứu điển hình Hãy xem xét Meridian (không phải tên thật), một công ty bảo hiểm sử dụng AI để xử lý các yêu cầu bồi thường tai nạn ban đầu. Người dùng tải lên hình ảnh xe hư hỏng và trình báo cảnh sát. Sau đó, đại lý biến mất trong một phút trước khi quay lại với bản đánh giá rủi ro và phạm vi thanh toán được đề xuất. Ban đầu, giao diện của Meridian chỉ hiển thị Trạng thái tính toán yêu cầu. Người dùng ngày càng thất vọng. Họ đã gửi một số tài liệu chi tiết và cảm thấy không chắc chắn về việc liệu AI có xem xét báo cáo của cảnh sát hay không, trong đó có các tình tiết giảm nhẹ. Hộp đen tạo ra sự ngờ vực. Để khắc phục điều này, nhóm thiết kế đã tiến hành Kiểm tra nút quyết định. Họ phát hiện ra rằng AI thực hiện ba bước riêng biệt, dựa trên xác suất, với nhiều bước nhỏ hơn được nhúng:
Phân tích hình ảnh Người đại diện đã so sánh các bức ảnh hư hỏng với cơ sở dữ liệu về các tình huống va chạm ô tô điển hình để ước tính chi phí sửa chữa. Điều này liên quan đến một điểm tin cậy. Đánh giá bằng văn bản Nó quét báo cáo của cảnh sát để tìm các từ khóa ảnh hưởng đến trách nhiệm pháp lý (ví dụ: lỗi, điều kiện thời tiết, mức độ tỉnh táo). Điều này liên quan đến việc đánh giá xác suất về vị thế pháp lý. Tham chiếu chéo chính sách Nó khớp các chi tiết xác nhận quyền sở hữu với các điều khoản chính sách cụ thể của người dùng, tìm kiếm các trường hợp ngoại lệ hoặc giới hạn phạm vi bảo hiểm. Điều này cũng liên quan đến việc kết hợp xác suất.
Nhóm đã biến những bước này thành những khoảnh khắc minh bạch. Trình tự giao diện đã được cập nhật thành:
Đánh giá ảnh hư hỏng: So sánh với 500 hồ sơ va chạm của xe. Xem xét Báo cáo của Cảnh sát: Phân tích từ khóa trách nhiệm pháp lý và tiền lệ pháp lý. Xác minh phạm vi bảo hiểm của chính sách: Kiểm tra các trường hợp loại trừ cụ thể trong gói của bạn.
Hệ thống vẫn mất cùng một khoảng thời gian, nhưng thông tin liên lạc rõ ràng về hoạt động nội bộ của nhân viên đã khôi phục niềm tin của người dùng. Người dùng hiểu rằng AI đang thực hiện nhiệm vụ phức tạp mà nó được thiết kế và họ biết chính xác cần tập trung chú ý vào đâu nếu đánh giá cuối cùng có vẻ không chính xác. Lựa chọn thiết kế này đã biến khoảnh khắc lo lắng thành khoảnh khắc kết nối với người dùng. Áp dụng Ma trận Tác động/Rủi ro: Điều chúng tôi đã chọn để che giấu Hầu hết các trải nghiệm AI đều không thiếu các sự kiện và nút quyết định có khả năng được hiển thị trong quá trình xử lý. Một trong những kết quả quan trọng nhất của cuộc kiểm toán là quyết định những gì cần giữ kín. Trong ví dụ về Meridian, nhật ký phụ trợ đã tạo ra hơn 50 sự kiện cho mỗi yêu cầu. Chúng tôi có thể đặt mặc định hiển thị từng sự kiện khi chúng được xử lý như một phần của giao diện người dùng. Thay vào đó, chúng tôi áp dụng ma trận rủi ro để cắt giảm chúng:
Nhật ký sự kiện: Máy chủ PingWest-2 để kiểm tra dự phòng. Phán quyết lọc: Ẩn. (Cổ phần thấp, kỹ thuật cao).
Nhật ký sự kiện: So sánh ước tính sửa chữa với giá trị BlueBook. Phán quyết của bộ lọc: Hiển thị. (Cổ phần cao, ảnh hưởng đến khoản thanh toán của người dùng).
Bằng cách cắt bỏ những chi tiết không cần thiết, những thông tin quan trọng — như xác minh mức độ phù hợp — sẽ có tác động mạnh mẽ hơn. Chúng tôi đã tạo ra một giao diện mở và thiết kế một trải nghiệm mở. Cách tiếp cận này sử dụng ý tưởng rằng mọi người cảm thấy hài lòng hơn về một dịch vụ khi họ có thể thấy công việc đang được thực hiện. Bằng cách hiển thị các bước cụ thể (Đánh giá, Xem xét, Xác minh), chúng tôi đã thay đổi khoảng thời gian chờ đợi 30 giây từ lúc lo lắng (“Nó có bị hỏng không?”) thành lúc cảm thấy như có thứ gì đó có giá trị được tạo ra (“Đang suy nghĩ”). Bây giờ, hãy xem xét kỹ hơn cách chúng tôi có thể xem xét quy trình ra quyết định trong các sản phẩm của mình để xác định những thời điểm quan trọng cần thông tin rõ ràng. Kiểm tra nút quyết định Tính minh bạch không thành công khi chúng ta coi nó như một sự lựa chọn về phong cách hơn là một yêu cầu về chức năng. Chúng ta có xu hướng hỏi: “Giao diện người dùng nên trông như thế nào?” trước khi chúng ta hỏi “Người đại diện thực sự đang quyết định điều gì?” Kiểm tra nút quyết định là một cách đơn giản để làm cho hệ thống AI dễ hiểu hơn. Nó hoạt động bằng cách vạch ra cẩn thận quy trình nội bộ của hệ thống. Mục tiêu chính là tìm và xác định rõ ràng những thời điểm chính xác mà hệ thống dừng tuân theo các quy tắc đã đặt ra và thay vào đó đưa ra lựa chọn dựa trên cơ hội hoặc ước tính. Bằng cách ánh xạ cấu trúc này, người sáng tạo có thể hiển thị trực tiếp những điểm không chắc chắn này cho những người sử dụng hệ thống. Điều này thay đổi các bản cập nhật hệ thống từ những tuyên bố mơ hồ thành các báo cáo cụ thể, đáng tin cậy về cách AI đưa ra kết luận. Ngoài nghiên cứu điển hình về bảo hiểm ở trên, gần đây tôi đã làm việc với một nhóm xây dựng một đại lý thu mua. Hệ thống đã xem xét các hợp đồng của nhà cung cấp và đánh dấu rủi ro. Ban đầu, màn hình hiển thị một thanh tiến trình đơn giản: “Đang xem xét hợp đồng”. Người dùng ghét nó. Nghiên cứu của chúng tôi cho thấy họ cảm thấy lo lắng về ý nghĩa pháp lý của một điều khoản còn thiếu. Chúng tôi đã khắc phục điều này bằng cách tiến hành Kiểm tra nút quyết định. Tôi đã đính kèm danh sách kiểm tra từng bước để thực hiện quá trình kiểm tra này ở phần kết của bài viết này. Chúng tôi đã tổ chức một buổi họp với các kỹ sư và phác thảo cách thức hoạt động của hệ thống. Chúng tôi đã xác định “Điểm quyết định” - những khoảnh khắc mà AI phải lựa chọn giữa hai lựa chọn tốt. Trong các chương trình máy tính tiêu chuẩn, quy trình rất rõ ràng: nếu A xảy ra thì B sẽ luôn xảy ra. Trong các hệ thống AI, quá trình này thường dựa trên cơ hội. AI cho rằng A có lẽ là lựa chọn tốt nhất, nhưng nó chỉ có thể chắc chắn được 65%. Trong hệ thống hợp đồng, chúng tôi nhận thấy có một thời điểm AI kiểm tra các điều khoản trách nhiệm pháp lý theo quy định của công ty chúng tôi. Nó hiếm khi là một sự kết hợp hoàn hảo. AI phải quyết định xem tỷ lệ trùng khớp 90% có đủ tốt hay không. Đây là một điểm quyết định quan trọng.
Sau khi xác định được nút này, chúng tôi sẽ hiển thị nó cho người dùng. Thay vì "Đánh giá hợp đồng", giao diện được cập nhật thành: "Điều khoản trách nhiệm pháp lý khác nhau tùy theo mẫu tiêu chuẩn. Phân tích mức độ rủi ro." Bản cập nhật cụ thể này đã mang lại sự tự tin cho người dùng. Họ biết người đại diện đã kiểm tra điều khoản trách nhiệm pháp lý. Họ hiểu lý do của sự chậm trễ và tin tưởng rằng hành động mong muốn đang diễn ra ở phía sau. Họ cũng biết nơi để đào sâu hơn sau khi người đại diện tạo ra hợp đồng. Để kiểm tra cách AI đưa ra quyết định, bạn cần hợp tác chặt chẽ với các kỹ sư, giám đốc sản phẩm, nhà phân tích kinh doanh và những người chủ chốt đang đưa ra các lựa chọn (thường bị ẩn) ảnh hưởng đến cách hoạt động của công cụ AI. Vẽ ra các bước mà công cụ thực hiện. Đánh dấu mọi vị trí mà quá trình thay đổi hướng vì đáp ứng được xác suất. Đây là những nơi bạn nên tập trung vào việc minh bạch hơn. Như được hiển thị trong Hình 2 bên dưới, Kiểm tra nút quyết định bao gồm các bước sau:
Tập hợp nhóm: Tập hợp các chủ sở hữu sản phẩm, nhà phân tích kinh doanh, nhà thiết kế, người ra quyết định quan trọng và các kỹ sư đã xây dựng AI. Ví dụ, Hãy nghĩ về một nhóm sản phẩm đang xây dựng một công cụ AI được thiết kế để xem xét các hợp đồng pháp lý lộn xộn. Nhóm bao gồm nhà thiết kế UX, giám đốc sản phẩm, nhà nghiên cứu UX, luật sư hành nghề đóng vai trò là chuyên gia về chủ đề và kỹ sư phụ trợ viết mã phân tích văn bản.
Vẽ toàn bộ quá trình: Ghi lại từng bước AI thực hiện, từ hành động đầu tiên của người dùng đến kết quả cuối cùng. Nhóm đứng trước bảng trắng và phác thảo toàn bộ trình tự cho quy trình công việc chính liên quan đến việc AI tìm kiếm điều khoản trách nhiệm pháp lý trong một hợp đồng phức tạp. Luật sư tải lênbản PDF năm mươi trang → Hệ thống chuyển đổi tài liệu thành văn bản có thể đọc được. → AI quét các trang để tìm các điều khoản trách nhiệm pháp lý. → Người dùng chờ đợi. → Một lúc hoặc vài phút sau, công cụ sẽ đánh dấu các đoạn văn tìm được bằng màu vàng trên giao diện người dùng. Họ làm điều này cho nhiều quy trình công việc khác mà công cụ này cũng hỗ trợ.
Tìm chỗ chưa rõ ràng: Xem bản đồ quy trình để tìm bất kỳ vị trí nào mà AI so sánh các tùy chọn hoặc đầu vào không có một kết quả khớp hoàn hảo. Nhóm nhìn vào bảng trắng để phát hiện các bước không rõ ràng. Chuyển đổi hình ảnh thành văn bản tuân theo các quy tắc nghiêm ngặt. Việc tìm kiếm một điều khoản trách nhiệm pháp lý cụ thể đòi hỏi phải phỏng đoán. Mỗi công ty viết các mệnh đề này một cách khác nhau, vì vậy AI phải cân nhắc nhiều lựa chọn và đưa ra dự đoán thay vì tìm một từ khớp chính xác.
Xác định các bước 'dự đoán tốt nhất': Đối với mỗi điểm không rõ ràng, hãy kiểm tra xem hệ thống có sử dụng điểm tin cậy hay không (ví dụ: nó có chắc chắn 85% không?). Đây là những điểm mà AI đưa ra lựa chọn cuối cùng. Hệ thống phải đoán (đưa ra xác suất) đoạn nào gần giống với điều khoản trách nhiệm pháp lý tiêu chuẩn. Nó chỉ định điểm tin cậy cho dự đoán tốt nhất của nó. Dự đoán đó là một nút quyết định. Giao diện cần cho luật sư biết rằng nó đang nêu bật một kết quả phù hợp tiềm năng, thay vì nêu rõ nó đã tìm thấy điều khoản dứt khoát.
Kiểm tra lựa chọn: Đối với mỗi điểm lựa chọn, hãy tìm ra phép toán nội bộ cụ thể hoặc so sánh đang được thực hiện (ví dụ: khớp một phần của hợp đồng với chính sách hoặc so sánh hình ảnh một chiếc ô tô bị hỏng với một thư viện ảnh ô tô bị hỏng). Người kỹ sư giải thích rằng hệ thống so sánh các đoạn văn khác nhau với cơ sở dữ liệu về các điều khoản trách nhiệm pháp lý tiêu chuẩn từ các trường hợp công ty trước đây. Nó tính toán điểm tương tự của văn bản để quyết định trận đấu dựa trên xác suất.
Viết giải thích rõ ràng: Tạo thông báo cho người dùng mô tả rõ ràng hành động nội bộ cụ thể xảy ra khi AI đưa ra lựa chọn. Người thiết kế nội dung viết một thông điệp cụ thể cho thời điểm chính xác này. Văn bản có nội dung: So sánh văn bản tài liệu với các điều khoản tiêu chuẩn của công ty để xác định các rủi ro trách nhiệm pháp lý tiềm ẩn.
Cập nhật màn hình: Đưa những giải thích mới, rõ ràng này vào giao diện người dùng, thay thế những thông báo mơ hồ như “Đang xem xét hợp đồng”. Nhóm thiết kế loại bỏ vòng quay tải xử lý PDF chung. Họ chèn lời giải thích mới vào thanh trạng thái nằm ngay phía trên trình xem tài liệu trong khi AI suy nghĩ.
Kiểm tra độ tin cậy: Đảm bảo thông báo trên màn hình mới cung cấp cho người dùng lý do đơn giản về thời gian chờ đợi hoặc kết quả, điều này sẽ khiến họ cảm thấy tự tin và đáng tin cậy hơn.
Ma trận tác động/rủi ro Khi bạn xem xét kỹ quy trình của AI, bạn có thể sẽ tìm thấy nhiều điểm để nó đưa ra lựa chọn. AI có thể đưa ra hàng tá lựa chọn nhỏ cho một nhiệm vụ phức tạp. Hiển thị tất cả chúng tạo ra quá nhiều thông tin không cần thiết. Bạn cần nhóm các lựa chọn này lại. Bạn có thể sử dụng Ma trận Tác động/Rủi ro để sắp xếp các lựa chọn này dựa trên (các) loại hành động mà AI đang thực hiện. Dưới đây là ví dụ về ma trận tác động/rủi ro: Đầu tiên, hãy tìm kiếm những quyết định ít rủi ro và ít tác động. Cổ phần thấp / Tác động thấp
Ví dụ: Tổ chức cấu trúc tệp hoặc đổi tên tài liệu. Nhu cầu minh bạch: Tối thiểu. Một thông báo chúc mừng tinh tế hoặc một mục nhật ký là đủ. Người dùng có thể hoàn tác các hành động này một cách dễ dàng.
Sau đó, xác định các quyết định mang tính rủi ro cao và có tác động lớn. Tiền đặt cược cao / Tác động cao
Ví dụ: Từ chối đơn xin vay tiền hoặc thực hiện giao dịch chứng khoán. Nhu cầu minh bạch: Cao. Những hành động này yêu cầu Bằng chứng công việc. Hệ thống phải chứng minh được lý do trước hoặc ngay khi nó hoạt động.
Hãy xem xét một bot giao dịch tài chính xử lý tất cả các lệnh mua/bán như nhau. Nó thực hiện giao dịch 5 đô la với độ mờ tương tự như giao dịch 50.000 đô la. Người dùng có thể đặt câu hỏi liệu công cụ này có nhận ra tác động tiềm tàng của tính minh bạch đối với giao dịch với số tiền lớn hay không. Họ cần hệ thống tạm dừng và hiển thị hoạt động của nó đối với các giao dịch có mức đặt cược cao. Giải pháp là giới thiệu trạng thái Logic xem xét cho bất kỳ giao dịch nào vượt quá số tiền cụ thể, cho phép người dùng xem các yếu tố thúc đẩy quyết định trước khi thực hiện. Ánh xạ các nút tới các mẫu: Phiếu tự đánh giá lựa chọn mẫu thiết kế Khi đã xác định được các nút quyết định quan trọng trong trải nghiệm của mình, bạn phải quyết định mẫu giao diện người dùng nào áp dụng cho từng nút bạn sẽ hiển thị. Trong Thiết kế cho AI tác nhân, chúng tôi đã giới thiệu các mẫu như Xem trước ý định (để kiểm soát mức độ đặt cược cao) và Kiểm tra hành động (để đảm bảo an toàn hồi cứu). Yếu tố quyết định trong việc lựa chọn giữa chúng là khả năng đảo ngược. Chúng tôi lọc mọinút quyết định thông qua ma trận tác động để gán mẫu chính xác: Cổ phần cao & Không thể đảo ngược: Các nút này yêu cầu Xem trước ý định. Vì người dùng không thể dễ dàng hoàn tác hành động (ví dụ: xóa vĩnh viễn cơ sở dữ liệu), thời điểm minh bạch phải xảy ra trước khi thực thi. Hệ thống phải tạm dừng, giải thích ý định của nó và yêu cầu xác nhận. Cổ phần cao & có thể đảo ngược: Các nút này có thể dựa vào mẫu Kiểm tra hành động & Hoàn tác. Nếu đại lý bán hàng được hỗ trợ bởi AI chuyển khách hàng tiềm năng sang một đường dẫn khác, thì đại lý này có thể thực hiện việc đó một cách tự động miễn là thông báo cho người dùng và cung cấp nút Hoàn tác ngay lập tức. Bằng cách phân loại nghiêm ngặt các nút theo cách này, chúng tôi tránh được “sự mệt mỏi do cảnh báo”. Chúng tôi chỉ dành Bản xem trước ý định có độ ma sát cao cho những khoảnh khắc thực sự không thể thay đổi được, đồng thời dựa vào Kiểm tra hành động để duy trì tốc độ cho mọi thứ khác.
Có thể đảo ngược không thể đảo ngược Tác động thấp Loại: Tự động thực thiUI: Bánh mì nướng thụ động / LogEx: Đổi tên tệp Loại: Xác nhậnUI: Tùy chọn Hoàn tác đơn giảnVí dụ: Lưu trữ email Tác động cao Loại: ReviewUI: Thông báo + Review TrailEx: Gửi bản nháp cho khách hàng Loại: Xem trước ý địnhUI: Quyền phương thức / rõ ràngEx: Xóa máy chủ
Bảng 1: Sau đó, ma trận tác động và khả năng đảo ngược có thể được sử dụng để ánh xạ các khoảnh khắc minh bạch của bạn vào các mẫu thiết kế. Xác thực định tính: “Chờ đợi, tại sao?” kiểm tra Bạn có thể xác định các nút tiềm năng trên bảng trắng, nhưng bạn phải xác thực chúng bằng hành vi của con người. Bạn cần xác minh xem bản đồ của bạn có phù hợp với mô hình tinh thần của người dùng hay không. Tôi sử dụng một giao thức có tên là "Đợi đã, tại sao?" Bài kiểm tra. Yêu cầu người dùng xem tác nhân hoàn thành một nhiệm vụ. Hướng dẫn họ nói to. Bất cứ khi nào họ đặt câu hỏi, "Đợi đã, tại sao nó lại làm như vậy?" hoặc "Nó có bị kẹt không?" hoặc "Nó có nghe thấy tôi không?" - bạn đánh dấu dấu thời gian. Những câu hỏi này báo hiệu sự nhầm lẫn của người dùng. Người dùng cảm thấy sự kiểm soát của họ bị mất đi. Ví dụ: trong một nghiên cứu về trợ lý lên lịch chăm sóc sức khỏe, người dùng đã xem nhân viên đó đặt lịch hẹn. Màn hình tĩnh trong bốn giây. Những người tham gia luôn hỏi: "Đó là kiểm tra lịch của tôi hay của bác sĩ?"
Câu hỏi đó tiết lộ Khoảnh khắc minh bạch còn thiếu. Hệ thống cần chia khoảng thời gian chờ đợi 4 giây đó thành hai bước riêng biệt: “Kiểm tra tính khả dụng của bạn”, sau đó là “Đồng bộ hóa với lịch trình của nhà cung cấp”. Sự thay đổi nhỏ này làm giảm mức độ lo lắng của người dùng. Tính minh bạch không thành công khi nó chỉ mô tả một hành động của hệ thống. Giao diện phải kết nối quy trình kỹ thuật với mục tiêu cụ thể của người dùng. Màn hình hiển thị “Đang kiểm tra tình trạng phòng trống của bạn” bị phẳng vì thiếu ngữ cảnh. Người dùng hiểu rằng AI đang xem lịch nhưng họ không biết tại sao. Chúng ta phải kết hợp hành động với kết quả. Hệ thống cần chia thời gian chờ 4 giây đó thành hai bước riêng biệt. Đầu tiên, giao diện hiển thị “Đang kiểm tra lịch của bạn để tìm thời gian mở cửa”. Sau đó, nó cập nhật thành “Đang đồng bộ hóa với lịch trình của nhà cung cấp để đảm bảo cuộc hẹn của bạn”. Điều này đặt nền tảng cho quy trình kỹ thuật trong cuộc sống thực tế của người dùng. Hãy xem xét việc sử dụng AI quản lý hàng tồn kho cho một quán cà phê địa phương. Hệ thống gặp phải tình trạng thiếu nguồn cung. Giao diện ghi “liên hệ với nhà cung cấp” hoặc “các tùy chọn xem xét” sẽ tạo ra sự lo lắng. Người quản lý thắc mắc liệu hệ thống đang hủy đơn hàng hay mua một đơn hàng thay thế đắt tiền. Một cách tiếp cận tốt hơn là giải thích kết quả dự kiến: “Đánh giá các nhà cung cấp thay thế để duy trì lịch giao hàng vào thứ Sáu của bạn”. Điều này cho người dùng biết chính xác những gì AI đang cố gắng đạt được. Vận hành kiểm toán Bạn đã hoàn thành Kiểm tra nút quyết định và lọc danh sách của mình thông qua Ma trận tác động và rủi ro. Bây giờ bạn có một danh sách những thời điểm cần thiết để minh bạch. Tiếp theo, bạn cần tạo chúng trong giao diện người dùng. Bước này yêu cầu tinh thần đồng đội giữa các phòng ban khác nhau. Bạn không thể tự mình thiết kế tính minh bạch bằng công cụ thiết kế. Bạn cần hiểu cách hệ thống hoạt động đằng sau hậu trường. Bắt đầu với việc xem xét logic. Gặp gỡ người thiết kế hệ thống khách hàng tiềm năng của bạn. Mang theo bản đồ các nút quyết định của bạn. Bạn cần xác nhận rằng hệ thống thực sự có thể chia sẻ những trạng thái này. Tôi thường thấy hệ thống kỹ thuật không thể hiện chính xác trạng thái mà tôi muốn thể hiện. Kỹ sư có thể nói rằng hệ thống chỉ trả về trạng thái “đang hoạt động” chung. Bạn phải thúc đẩy để cập nhật chi tiết. Bạn cần hệ thống gửi thông báo cụ thểkhi nó chuyển từ đọc văn bản sang kiểm tra quy tắc. Nếu không có kết nối kỹ thuật đó, thiết kế của bạn sẽ không thể xây dựng được. Tiếp theo, hãy mời nhóm Thiết kế Nội dung tham gia. Bạn có lý do kỹ thuật cho hành động của AI, nhưng bạn cần một lời giải thích rõ ràng, thân thiện với con người. Các kỹ sư cung cấp quy trình cơ bản, nhưng các nhà thiết kế nội dung cung cấp cách thức truyền đạt nó. Đừng viết những tin nhắn này một mình. Nhà phát triển có thể viết “Chức năng thực thi 402”, đúng về mặt kỹ thuật nhưng vô nghĩa đối với người dùng. Một nhà thiết kế có thể viết “Suy nghĩ”, tuy thân thiện nhưng lại quá mơ hồ. Một nhà chiến lược nội dung sẽ tìm được điểm trung gian phù hợp. Họ tạo ra các cụm từ cụ thể, chẳng hạn như “Đang quét tìm rủi ro trách nhiệm pháp lý”, để cho thấy AI đang hoạt động mà không gây nhầm lẫn cho người dùng. Cuối cùng, hãy kiểm tra tính minh bạch của tin nhắn của bạn. Đừng đợi cho đến khi sản phẩm cuối cùng được tạo ra mới xem văn bản có hoạt động hay không. Tôi tiến hành kiểm tra so sánh trên các nguyên mẫu đơn giản trong đó điều duy nhất thay đổi là thông báo trạng thái. Ví dụ: tôi hiển thị một nhóm (Nhóm A) một thông báo có nội dung “Xác minh danh tính” và một nhóm khác (Nhóm B) một thông báo có nội dung “Đang kiểm tra cơ sở dữ liệu của chính phủ” (đây là những ví dụ bịa đặt, nhưng bạn hiểu ý chính). Sau đó tôi hỏi họ AI nào cảm thấy an toàn hơn. Bạn sẽ thường phát hiện ra rằng một số từ có thể gây lo lắng, trong khi những từ khác lại tạo dựng niềm tin. Bạn phải coi cách diễn đạt như một thứ bạn cần kiểm tra và chứng minh tính hiệu quả. Điều này thay đổi quá trình thiết kế như thế nào Việc tiến hành các cuộc kiểm tra này có khả năng củng cố cách thức một nhóm làm việc cùng nhau. Chúng tôi ngừng cung cấp các tập tin thiết kế bóng bẩy. Chúng tôi bắt đầu sử dụng các nguyên mẫu lộn xộn và bảng tính được chia sẻ. Công cụ cốt lõi trở thành ma trận minh bạch. Các kỹ sư và nhà thiết kế nội dung cùng nhau chỉnh sửa bảng tính này. Họ ánh xạ các mã kỹ thuật chính xác tới các từ mà người dùng sẽ đọc. Các đội sẽ gặp xích mích trong quá trình xem xét logic. Hãy tưởng tượng một nhà thiết kế hỏi kỹ sư về cách AI quyết định từ chối một giao dịch được gửi trên báo cáo chi phí. Kỹ sư có thể nói rằng phần phụ trợ chỉ xuất ra mã trạng thái chung như “Lỗi: Thiếu dữ liệu”. Nhà thiết kế tuyên bố rằng đây không phải là thông tin có thể thực hiện được trên màn hình. Người thiết kế thương lượng với kỹ sư để tạo ra một móc kỹ thuật cụ thể. Kỹ sư viết quy tắc mới để hệ thống báo cáo chính xác những gì còn thiếu, chẳng hạn như thiếu hình ảnh biên nhận. Các nhà thiết kế nội dung đóng vai trò là người phiên dịch trong giai đoạn này. Nhà phát triển có thể viết một chuỗi chính xác về mặt kỹ thuật như “Tính ngưỡng tin cậy để so sánh nhà cung cấp”. Nhà thiết kế nội dung dịch chuỗi đó thành cụm từ tạo dựng niềm tin cho một kết quả cụ thể. Chiến lược gia viết lại nó thành “So sánh giá của nhà cung cấp địa phương để đảm bảo giao hàng vào thứ Sáu của bạn”. Người dùng hiểu hành động và kết quả. Toàn bộ nhóm chức năng chéo tham gia vào các phiên thử nghiệm người dùng. Họ xem người thật phản ứng với các thông báo trạng thái khác nhau. Nhìn thấy người dùng hoảng sợ vì màn hình thông báo “Thực hiện giao dịch” buộc nhóm phải suy nghĩ lại cách tiếp cận của họ. Các kỹ sư và nhà thiết kế sắp xếp từ ngữ tốt hơn. Họ thay đổi dòng chữ thành “Xác minh đủ tiền” trước khi mua cổ phiếu. Việc thử nghiệm cùng nhau đảm bảo giao diện cuối cùng phục vụ cả logic hệ thống và sự yên tâm của người dùng. Cần có thời gian để kết hợp các hoạt động bổ sung này vào lịch của nhóm. Tuy nhiên, kết quả cuối cùng sẽ là một nhóm giao tiếp cởi mở hơn và người dùng hiểu rõ hơn về những gì các công cụ hỗ trợ AI của họ đang thay mặt họ thực hiện (và tại sao). Cách tiếp cận tích hợp này là nền tảng để thiết kế những trải nghiệm AI thực sự đáng tin cậy. Niềm tin là một sự lựa chọn thiết kế Chúng tôi thường xem niềm tin là sản phẩm phụ về mặt cảm xúc của trải nghiệm người dùng tốt. Sẽ dễ dàng hơn nếu coi sự tin cậy là kết quả cơ học của hoạt động giao tiếp có thể dự đoán được. Chúng ta xây dựng niềm tin bằng cách hiển thị thông tin phù hợp vào đúng thời điểm. Chúng tôi phá hủy nó bằng cách áp đảo người dùng hoặc giấu hoàn toàn máy móc. Bắt đầu với Kiểm tra nút quyết định, đặc biệt đối với các sản phẩm và công cụ AI tác nhân. Tìm những thời điểm mà hệ thống đưa ra phán quyết. Hãy ánh xạ những khoảnh khắc đó vào Ma trận Rủi ro. Nếu tiền đặt cược cao, hãy mở hộp. Hiển thị tác phẩm. Trong bài viết tiếp theo, chúng ta sẽ xem xét cách thiết kế những khoảnh khắc này: cách viết bản sao, cấu trúc giao diện người dùng và xử lý các lỗi không thể tránh khỏi khi tác nhân mắc sai lầm. Phụ lục: Danh sách kiểm tra nút quyết định Giai đoạn 1: Thiết lập và lập bản đồ ✅ Tập hợp nhóm lại: Tập hợp các chủ sở hữu sản phẩm, nhà phân tích kinh doanh, nhà thiết kế,những người ra quyết định quan trọng và các kỹ sư đã xây dựng AI. Gợi ý: Bạn cần các kỹ sư giải thích logic phụ trợ thực tế. Đừng thử bước này một mình. ✅ Vẽ toàn bộ quá trình: Ghi lại từng bước AI thực hiện, từ hành động đầu tiên của người dùng đến kết quả cuối cùng. Gợi ý: Một buổi học trên bảng trắng thường có hiệu quả tốt nhất để rút ra những bước ban đầu này. Giai đoạn 2: Xác định logic ẩn ✅ Tìm những điểm chưa rõ ràng: Xem bản đồ quy trình để tìm bất kỳ điểm nào mà AI so sánh các tùy chọn hoặc đầu vào không có một kết quả khớp hoàn hảo. ✅ Xác định các bước đoán tốt nhất: Với mỗi điểm chưa rõ ràng, hãy kiểm tra xem hệ thống có sử dụng điểm tin cậy hay không. Ví dụ: hỏi xem hệ thống có chắc chắn 85% không. Đây là những điểm mà AI đưa ra lựa chọn cuối cùng. ✅ Kiểm tra phương án lựa chọn: Với mỗi điểm lựa chọn, hãy đưa ra phép tính nội bộ cụ thể hoặc phép so sánh đang thực hiện. Một ví dụ là kết hợp một phần của hợp đồng với chính sách. Một ví dụ khác liên quan đến việc so sánh hình ảnh một chiếc ô tô bị hỏng với một thư viện ảnh ô tô bị hỏng. Giai đoạn 3: Tạo trải nghiệm người dùng ✅ Viết lời giải thích rõ ràng: Tạo thông điệp cho người dùng mô tả rõ ràng hành động nội bộ cụ thể xảy ra khi AI đưa ra lựa chọn. Gợi ý: Hãy đặt thông điệp của bạn vào thực tế cụ thể. Nếu AI đặt lịch hẹn với khách hàng tại một quán cà phê địa phương, hãy cho người dùng biết rằng hệ thống đang kiểm tra hệ thống đặt chỗ quán cà phê. ✅ Cập nhật màn hình: Đưa những giải thích mới, rõ ràng này vào giao diện người dùng. Thay thế những thông điệp mơ hồ như Xem lại hợp đồng bằng những lời giải thích cụ thể của bạn. ✅ Kiểm tra độ tin cậy: Đảm bảo thông báo trên màn hình mới cung cấp cho người dùng lý do đơn giản về thời gian chờ đợi hoặc kết quả. Điều này sẽ làm cho họ cảm thấy tự tin và đáng tin cậy. Gợi ý: Kiểm tra những thông báo này với người dùng thực tế để xác minh rằng họ hiểu kết quả cụ thể đạt được.
