ในส่วนแรกของซีรีส์นี้ เราได้กำหนดการเปลี่ยนแปลงขั้นพื้นฐานจากปัญญาประดิษฐ์เชิงกำเนิดไปสู่เชิงเอเจนต์ เราได้สำรวจว่าทำไมการก้าวกระโดดจากการเสนอแนะไปสู่การปฏิบัติจึงจำเป็นต้องมีชุดเครื่องมือทางจิตวิทยาและระเบียบวิธีใหม่สำหรับนักวิจัย UX ผู้จัดการผลิตภัณฑ์ และผู้นำ เราได้กำหนดอนุกรมวิธานของพฤติกรรมสาร ตั้งแต่การแนะนำไปจนถึงการดำเนินการโดยอัตโนมัติ โดยสรุปวิธีการวิจัยที่จำเป็น กำหนดความเสี่ยงของตะกอนจากสารก่อมะเร็ง และสร้างตัวชี้วัดความรับผิดชอบที่จำเป็นในการสำรวจขอบเขตใหม่นี้ เราครอบคลุมถึงอะไรและทำไม ตอนนี้เราย้ายจากพื้นฐานไปสู่การทำงาน บทความนี้จะอธิบายวิธีการ: รูปแบบการออกแบบที่เป็นรูปธรรม กรอบการทำงาน และแนวทางปฏิบัติขององค์กรที่จำเป็นสำหรับการสร้างระบบเอเจนต์ที่ไม่เพียงแต่มีประสิทธิภาพ แต่ยังโปร่งใส ควบคุมได้ และคุ้มค่าแก่ความไว้วางใจของผู้ใช้ หากการวิจัยของเราเป็นเครื่องมือในการวินิจฉัย รูปแบบเหล่านี้คือแผนการรักษา สิ่งเหล่านี้เป็นกลไกในทางปฏิบัติที่ช่วยให้เราสัมผัสได้ถึงการควบคุมที่ชัดเจน แม้ว่าเราจะให้ AI มีอิสระอย่างที่ไม่เคยมีมาก่อนก็ตาม เป้าหมายคือการสร้างประสบการณ์ที่ความเป็นอิสระรู้สึกเหมือนเป็นสิทธิพิเศษที่ผู้ใช้มอบให้ ไม่ใช่สิทธิ์ที่ระบบยึดไว้ รูปแบบ Core UX สำหรับระบบ Agentic การออกแบบสำหรับเอเจนต์ AI คือการออกแบบเพื่อความสัมพันธ์ ความสัมพันธ์นี้ เช่นเดียวกับหุ้นส่วนที่ประสบความสำเร็จ จะต้องสร้างขึ้นจากการสื่อสารที่ชัดเจน ความเข้าใจร่วมกัน และการกำหนดขอบเขต ในการจัดการการเปลี่ยนแปลงจากข้อเสนอแนะไปสู่การดำเนินการ เราใช้รูปแบบหกรูปแบบที่เป็นไปตามวงจรการใช้งานของการโต้ตอบแบบตัวแทน:
การดำเนินการล่วงหน้า (การสร้างเจตนา) การแสดงตัวอย่างเจตนาและการโทรอัตโนมัติช่วยให้มั่นใจได้ว่าผู้ใช้จะกำหนดแผนและขอบเขตของตัวแทนก่อนที่จะมีอะไรเกิดขึ้น การดำเนินการ (การให้บริบท) เหตุผลที่อธิบายได้และสัญญาณความเชื่อมั่นจะรักษาความโปร่งใสในขณะที่ตัวแทนทำงาน โดยแสดงให้เห็นว่า "ทำไม" และ "แน่นอนเพียงใด" หลังการดำเนินการ (ความปลอดภัยและการกู้คืน) การตรวจสอบการดำเนินการ & เลิกทำ และเส้นทางการยกระดับจะมอบตาข่ายนิรภัยสำหรับข้อผิดพลาดหรือช่วงเวลาที่มีความคลุมเครือสูง
ด้านล่างนี้ เราจะกล่าวถึงรายละเอียดแต่ละรูปแบบ รวมถึงคำแนะนำสำหรับตัวชี้วัดความสำเร็จ เป้าหมายเหล่านี้เป็นเกณฑ์มาตรฐานที่เป็นตัวแทนตามมาตรฐานอุตสาหกรรม ปรับตามความเสี่ยงโดเมนเฉพาะของคุณ 1. การแสดงตัวอย่างเจตนา: ชี้แจงว่าอะไรและอย่างไร รูปแบบนี้เทียบเท่ากับการสนทนาด้วยการพูดว่า “นี่คือสิ่งที่ฉันกำลังจะทำ คุณโอเคกับเรื่องนั้นไหม?” เป็นช่วงเวลาพื้นฐานของการขอความยินยอมในความสัมพันธ์ระหว่างตัวแทนผู้ใช้ ก่อนที่ตัวแทนจะดำเนินการที่สำคัญใดๆ ผู้ใช้จะต้องมีความเข้าใจที่ชัดเจนและไม่คลุมเครือเกี่ยวกับสิ่งที่กำลังจะเกิดขึ้น การดูตัวอย่างเจตนาหรือสรุปแผนจะสร้างความยินยอมที่ได้รับการบอกกล่าว เป็นการหยุดการสนทนาก่อนดำเนินการ โดยเปลี่ยนกล่องดำของกระบวนการอัตโนมัติให้เป็นแผนที่โปร่งใสและตรวจสอบได้ การสนับสนุนทางจิตวิทยา การนำเสนอแผนก่อนดำเนินการจะช่วยลดภาระการรับรู้และขจัดความประหลาดใจ ทำให้ผู้ใช้มีเวลาสักครู่เพื่อยืนยันว่าเจ้าหน้าที่เข้าใจเจตนาของตนอย่างแท้จริง กายวิภาคของการดูตัวอย่างเจตนาที่มีประสิทธิผล:
ความชัดเจนและความกระชับ การแสดงตัวอย่างจะต้องเข้าใจได้ง่ายในทันที ควรสรุปการดำเนินการหลักและผลลัพธ์ในภาษาธรรมดา หลีกเลี่ยงศัพท์เฉพาะทางเทคนิค ตัวอย่างเช่น แทนที่จะ “ดำเนินการเรียก API เพื่อ cancel_booking(id: 4A7B)” ควรระบุว่า “ยกเลิกเที่ยวบิน AA123 ไปยังซานฟรานซิสโก” ขั้นตอนตามลำดับสำหรับการดำเนินการหลายขั้นตอน การแสดงตัวอย่างควรสรุปขั้นตอนสำคัญ สิ่งนี้เผยให้เห็นตรรกะของตัวแทนและช่วยให้ผู้ใช้มองเห็นปัญหาที่อาจเกิดขึ้นในลำดับที่เสนอ ล้างการดำเนินการของผู้ใช้ การแสดงตัวอย่างเป็นจุดตัดสินใจ ไม่ใช่แค่การแจ้งเตือน จะต้องมาพร้อมกับชุดตัวเลือกที่ชัดเจน เป็นช่วงเวลาแห่งการเสียดสีโดยเจตนา ซึ่งเป็น "การเร่งความเร็ว" ในกระบวนการที่ออกแบบมาเพื่อให้แน่ใจว่าผู้ใช้ตัดสินใจเลือกอย่างมีสติ โดยเฉพาะอย่างยิ่งสำหรับการกระทำที่ไม่สามารถย้อนกลับได้หรือมีเดิมพันสูง
เรามาทบทวนสถานการณ์ผู้ช่วยการเดินทางของเราตั้งแต่ส่วนแรกของซีรี่ส์นี้กันดีกว่า เราใช้ผู้ช่วยเชิงรุกนี้เพื่อแสดงให้เห็นว่าตัวแทนจัดการกับการยกเลิกเที่ยวบินอย่างไร เจ้าหน้าที่ตรวจพบการยกเลิกเที่ยวบินและได้จัดทำแผนการกู้คืน การแสดงตัวอย่างเจตนาจะมีลักษณะดังนี้: แผนการเสนอสำหรับการหยุดชะงักการเดินทางของคุณฉันตรวจพบว่าเที่ยวบินเวลา 10:05 น. ของคุณถูกยกเลิก นี่คือสิ่งที่ฉันวางแผนจะทำ:ยกเลิกเที่ยวบิน UA456ดำเนินการคืนเงินและยืนยันรายละเอียดการยกเลิก จองที่นั่งที่ยืนยันแล้วในเที่ยวบินแบบไม่แวะพักเวลา 14:30 น. เนื่องจากเป็นเที่ยวบินเที่ยวบินตรงถัดไปที่พร้อมให้บริการโดยมีที่นั่งที่ยืนยันแล้ว อัปเดตการจองโรงแรม แจ้ง Marriott ว่าคุณจะมาถึงช้า ส่งอีเมลกำหนดการเดินทางที่อัปเดต ส่งรายละเอียดเที่ยวบินและโรงแรมใหม่ให้กับคุณและผู้ช่วยของคุณ Jane Doe[ ดำเนินการตามแผนนี้ ] [ แก้ไขแผน ] [ จัดการด้วยตัวเอง ]
การแสดงตัวอย่างนี้มีประสิทธิภาพเนื่องจากให้ภาพรวมที่สมบูรณ์ ตั้งแต่การยกเลิกไปจนถึงการสื่อสาร และเสนอเส้นทางที่แตกต่างกันสามเส้นทางไปข้างหน้า: ความยินยอมโดยสมบูรณ์ (ดำเนินการต่อ) ความปรารถนาที่จะแก้ไข (แก้ไขแผน) หรือการแทนที่ทั้งหมด (จัดการด้วยตนเอง) การควบคุมที่หลากหลายนี้เป็นรากฐานของความไว้วางใจ
เมื่อใดที่ควรจัดลำดับความสำคัญของรูปแบบนี้ รูปแบบนี้ไม่สามารถต่อรองได้สำหรับการกระทำใด ๆ ที่ไม่สามารถย้อนกลับได้ (เช่น การลบข้อมูลผู้ใช้) เกี่ยวข้องกับธุรกรรมทางการเงินในจำนวนเท่าใดก็ได้ แบ่งปันข้อมูลกับบุคคลอื่นหรือระบบ หรือทำการเปลี่ยนแปลงที่สำคัญซึ่งผู้ใช้ไม่สามารถยกเลิกได้อย่างง่ายดาย ความเสี่ยงของการละเว้น หากไม่มีสิ่งนี้ ผู้ใช้จะรู้สึกถูกซุ่มโจมตีโดยการกระทำของตัวแทน และจะปิดใช้งานคุณสมบัตินี้เพื่อควบคุมอีกครั้ง ตัวชี้วัดความสำเร็จ:
แผนอัตราส่วนการยอมรับที่ยอมรับโดยไม่มีการแก้ไข / แสดงแผนทั้งหมด เป้าหมาย > 85% แทนที่ความถี่รวม จัดการเอง คลิก / แผนทั้งหมดที่แสดง อัตรา > 10% จะทำให้เกิดการตรวจสอบโมเดล Recall AccuracyPercentage ของผู้เข้าร่วมการทดสอบที่สามารถแสดงรายการขั้นตอนของแผนได้อย่างถูกต้อง 10 วินาทีหลังจากซ่อนการแสดงตัวอย่าง
การใช้สิ่งนี้กับโดเมนที่มีเดิมพันสูง แม้ว่าแผนการเดินทางจะเป็นพื้นฐานที่เกี่ยวข้อง แต่รูปแบบนี้จะขาดไม่ได้ในสภาพแวดล้อมที่ซับซ้อนและมีความเสี่ยงสูง ซึ่งข้อผิดพลาดส่งผลให้เกิดความไม่สะดวกมากกว่าการเดินทางของแต่ละคน พวกเราหลายคนทำงานในสภาวะที่การตัดสินใจผิดพลาดอาจส่งผลให้ระบบหยุดทำงาน ทำให้ความปลอดภัยของผู้ป่วยตกอยู่ในความเสี่ยง หรือผลลัพธ์ภัยพิบัติอื่นๆ อีกมากมายที่เทคโนโลยีที่ไม่น่าเชื่อถือจะนำมาสู่ พิจารณาตัวแทนการเผยแพร่ DevOps ที่ได้รับมอบหมายให้จัดการโครงสร้างพื้นฐานระบบคลาวด์ ในบริบทนี้ Intent Preview จะทำหน้าที่เป็นอุปสรรคด้านความปลอดภัยจากการหยุดทำงานโดยไม่ตั้งใจ
ในอินเทอร์เฟซนี้ คำศัพท์เฉพาะ (Drain Traffic, Rollback) จะแทนที่คำทั่วไป และการดำเนินการเป็นแบบไบนารี่และมีผลกระทบ ผู้ใช้อนุมัติการเปลี่ยนแปลงการปฏิบัติงานหลักตามตรรกะของตัวแทน แทนที่จะอนุมัติข้อเสนอแนะ 2. Autonomy Dial: ปรับเทียบความน่าเชื่อถือด้วยการอนุญาตแบบก้าวหน้า ทุกความสัมพันธ์ที่ดีย่อมมีขอบเขต Autonomy Dial เป็นวิธีที่ผู้ใช้สร้างขึ้นกับตัวแทนของตน โดยกำหนดสิ่งที่พวกเขาพอใจกับการจัดการของตัวแทนด้วยตนเอง ความน่าเชื่อถือไม่ใช่สวิตช์แบบไบนารี่ มันเป็นสเปกตรัม ผู้ใช้อาจไว้วางใจตัวแทนให้จัดการงานที่มีเดิมพันต่ำได้โดยอัตโนมัติ แต่ต้องการการยืนยันเต็มรูปแบบสำหรับการตัดสินใจที่มีเดิมพันสูง Autonomy Dial ซึ่งเป็นรูปแบบหนึ่งของการอนุญาตแบบก้าวหน้า ช่วยให้ผู้ใช้สามารถตั้งค่าระดับความเป็นอิสระของตัวแทนได้ตามต้องการ ทำให้พวกเขามีส่วนร่วมอย่างแข็งขันในการกำหนดความสัมพันธ์ รากฐานทางจิตวิทยา การอนุญาตให้ผู้ใช้ปรับแต่งความเป็นอิสระของตัวแทนทำให้พวกเขามีสถานที่ตั้งในการควบคุม ปล่อยให้พวกเขาจับคู่พฤติกรรมของระบบกับการยอมรับความเสี่ยงส่วนบุคคล การนำไปใช้งานสามารถนำไปใช้เป็นการตั้งค่าที่เรียบง่ายและชัดเจนภายในแอปพลิเคชัน โดยพิจารณาตามหลักประเภทงานแต่ละงาน การใช้อนุกรมวิธานจากบทความแรกของเรา การตั้งค่าอาจเป็น:
Observe & Suggest ฉันต้องการรับการแจ้งเตือนถึงโอกาสหรือปัญหา แต่ตัวแทนจะไม่เสนอแผนเลย วางแผนและเสนอตัวแทนสามารถสร้างแผนได้ แต่ฉันต้องตรวจสอบทุกแผนก่อนที่จะดำเนินการใดๆ ดำเนินการด้วยการยืนยันสำหรับงานที่คุ้นเคย ตัวแทนสามารถเตรียมการดำเนินการได้ และฉันจะให้คำยืนยันขั้นสุดท้ายว่าไป/ไม่ไป ดำเนินการโดยอัตโนมัติสำหรับงานที่ได้รับการอนุมัติล่วงหน้า (เช่น การโต้แย้งค่าใช้จ่ายที่ต่ำกว่า $50) ตัวแทนสามารถดำเนินการได้อย่างอิสระและแจ้งให้ฉันทราบภายหลังข้อเท็จจริง
ตัวอย่างเช่น ผู้ช่วยอีเมลอาจมีแป้นหมุนอัตโนมัติแยกต่างหากสำหรับการกำหนดเวลาการประชุมเทียบกับการส่งอีเมลในนามของผู้ใช้ รายละเอียดนี้เป็นสิ่งสำคัญ เนื่องจากสะท้อนถึงความเป็นจริงอันละเอียดอ่อนของความไว้วางใจของผู้ใช้ เมื่อใดควรจัดลำดับความสำคัญของรูปแบบนี้ จัดลำดับความสำคัญในระบบที่งานแตกต่างกันอย่างมากในด้านความเสี่ยงและความชอบส่วนตัว (เช่น เครื่องมือการจัดการทางการเงิน แพลตฟอร์มการสื่อสาร) เป็นสิ่งสำคัญสำหรับการเริ่มต้นใช้งาน โดยอนุญาตให้ผู้ใช้เริ่มต้นด้วยอิสระที่ต่ำ และเพิ่มได้ตามความมั่นใจที่เพิ่มมากขึ้น ความเสี่ยงของการละเว้น หากไม่มีสิ่งนี้ ผู้ใช้ที่ประสบความล้มเหลวเพียงครั้งเดียวจะละทิ้งตัวแทนโดยสิ้นเชิง แทนที่จะเพียงหมุนกลับสิทธิ์อนุญาต ตัวชี้วัดความสำเร็จ:
การแบ่งเปอร์เซ็นต์ความหนาแน่นของความน่าเชื่อถือของผู้ใช้ต่อการตั้งค่า (เช่น แนะนำ 20%, ยืนยัน 50%, อัตโนมัติ 30%) การตั้งค่า Churnจำนวนการเปลี่ยนแปลงการตั้งค่า / ผู้ใช้ที่ใช้งานทั้งหมดต่อเดือน การปั่นป่วนสูงบ่งบอกถึงความไว้วางใจความผันผวน
3. เหตุผลที่อธิบายได้: คำตอบว่าทำไม? หลังจากดำเนินการแล้ว พันธมิตรที่ดีจะอธิบายเหตุผลของตน รูปแบบนี้เป็นการสื่อสารแบบเปิดที่ติดตามการกระทำ โดยตอบว่า ทำไม? ก่อนที่จะถูกถามด้วยซ้ำ “ฉันทำอย่างนั้นเพราะคุณเคยบอกฉันในอดีตว่าคุณชอบ X” เมื่อตัวแทนดำเนินการ โดยเฉพาะอย่างยิ่งโดยอัตโนมัติ คำถามในใจของผู้ใช้มักจะเป็น ทำไมจึงทำเช่นนั้น รูปแบบเหตุผลที่อธิบายได้จะตอบคำถามนี้ในเชิงรุก โดยให้เหตุผลที่กระชับสำหรับการตัดสินใจของตัวแทน นี่ไม่ใช่ไฟล์บันทึกทางเทคนิค ในบทความแรกของฉันในชุดนี้ เราได้พูดคุยถึงการแปลระบบดั้งเดิมเป็นภาษาที่ผู้ใช้เห็นเพื่อป้องกันการหลอกลวง รูปแบบนี้เป็นการนำหลักการดังกล่าวไปใช้ในทางปฏิบัติ โดยจะเปลี่ยนตรรกะดิบให้เป็นคำอธิบายที่มนุษย์สามารถอ่านได้ โดยมีพื้นฐานมาจากการตั้งค่าและอินพุตก่อนหน้าของผู้ใช้เอง การสนับสนุนทางจิตวิทยาเมื่อการกระทำของตัวแทนสามารถอธิบายได้ พวกเขารู้สึกว่ามีเหตุผลมากกว่าการสุ่ม ซึ่งช่วยให้ผู้ใช้สร้างแบบจำลองทางจิตที่แม่นยำของวิธีที่ตัวแทนคิด เหตุผลที่มีประสิทธิผล:
มีพื้นฐานอยู่ในแบบอย่างคำอธิบายที่ดีที่สุดจะเชื่อมโยงกลับไปยังกฎ การตั้งค่า หรือการดำเนินการก่อนหน้า แบบง่ายและ DirectAvoid ตรรกะแบบมีเงื่อนไขที่ซับซ้อน ใช้โครงสร้างง่ายๆ “เพราะคุณบอกว่า X ฉันจึงทำ Y”
กลับมาที่ตัวอย่างการเดินทาง หลังจากที่เที่ยวบินถูกจองใหม่โดยอัตโนมัติ ผู้ใช้อาจเห็นสิ่งนี้ในฟีดการแจ้งเตือน: ฉันได้จองเที่ยวบินที่ยกเลิกของคุณใหม่แล้ว เที่ยวบินใหม่: Delta 789 ซึ่งออกเดินทางเวลา 14.30 น. เหตุใดฉันจึงดำเนินการนี้: เที่ยวบินเดิมของคุณถูกยกเลิกโดยสายการบิน คุณได้อนุมัติการจองใหม่โดยอัตโนมัติล่วงหน้าสำหรับเที่ยวบินแบบไม่หยุดในวันเดียวกัน [ ดูแผนการเดินทางใหม่ ] [ เลิกทำการดำเนินการนี้ ]
เหตุผลมีความชัดเจน ป้องกันได้ และตอกย้ำแนวคิดที่ว่าตัวแทนกำลังดำเนินการภายในขอบเขตที่ผู้ใช้กำหนดไว้ เมื่อใดที่ควรจัดลำดับความสำคัญของรูปแบบนี้ จัดลำดับความสำคัญสำหรับการดำเนินการอัตโนมัติใดๆ โดยที่เหตุผลไม่ชัดเจนจากบริบทในทันที โดยเฉพาะอย่างยิ่งสำหรับการดำเนินการที่เกิดขึ้นในเบื้องหลังหรือถูกกระตุ้นโดยเหตุการณ์ภายนอก (เช่น ตัวอย่างการยกเลิกเที่ยวบิน) ความเสี่ยงของการละเว้น หากปราศจากสิ่งนี้ ผู้ใช้จะตีความการกระทำอัตโนมัติที่ถูกต้องว่าเป็นพฤติกรรมแบบสุ่มหรือ 'จุดบกพร่อง' ซึ่งขัดขวางไม่ให้พวกเขาสร้างแบบจำลองทางจิตที่ถูกต้อง ตัวชี้วัดความสำเร็จ:
ทำไม? ปริมาณตั๋วจำนวนตั๋วสนับสนุนที่ติดแท็ก “พฤติกรรมของตัวแทน — ไม่ชัดเจน” ต่อผู้ใช้งาน 1,000 ราย การตรวจสอบเหตุผลเปอร์เซ็นต์ของผู้ใช้ที่ให้คะแนนคำอธิบายว่า "มีประโยชน์" ในการสำรวจขนาดเล็กหลังการโต้ตอบ
4. สัญญาณความมั่นใจ รูปแบบนี้เป็นเรื่องเกี่ยวกับตัวแทนที่ตระหนักรู้ในตนเองในความสัมพันธ์ ด้วยการสื่อสารความมั่นใจของตนเอง จะช่วยให้ผู้ใช้ตัดสินใจได้ว่าเมื่อใดควรเชื่อถือวิจารณญาณของตน และเมื่อใดควรใช้การตรวจสอบอย่างละเอียดมากขึ้น เพื่อช่วยให้ผู้ใช้ปรับเทียบความไว้วางใจของตนเอง ตัวแทนควรแสดงความมั่นใจของตนเองในแผนและการดำเนินการ ทำให้สถานะภายในของตัวแทนชัดเจนยิ่งขึ้น และช่วยให้ผู้ใช้ตัดสินใจได้ว่าเมื่อใดควรพิจารณาการตัดสินใจอย่างใกล้ชิดยิ่งขึ้น รากฐานทางจิตวิทยา การเปิดเผยความไม่แน่นอนจะช่วยป้องกันอคติของระบบอัตโนมัติ โดยกระตุ้นให้ผู้ใช้พิจารณาแผนที่มีความมั่นใจต่ำอย่างละเอียด แทนที่จะยอมรับแบบสุ่มสี่สุ่มห้า การนำไปปฏิบัติ:
คะแนนความเชื่อมั่น เปอร์เซ็นต์ง่ายๆ (เช่น ความมั่นใจ: 95%) อาจเป็นตัวบ่งชี้ที่รวดเร็วและสแกนได้ การประกาศขอบเขต คำแถลงที่ชัดเจนเกี่ยวกับความเชี่ยวชาญของตัวแทน (เช่น ขอบเขต: การจองการเดินทางเท่านั้น) ช่วยจัดการความคาดหวังของผู้ใช้ และป้องกันไม่ให้พวกเขาขอให้ตัวแทนปฏิบัติงานที่ไม่ได้ออกแบบมาเพื่อ Visual Cues เครื่องหมายถูกสีเขียวอาจแสดงถึงความมั่นใจสูง ในขณะที่เครื่องหมายคำถามสีเหลืองอาจบ่งบอกถึงความไม่แน่นอน กระตุ้นให้ผู้ใช้ตรวจสอบอย่างรอบคอบมากขึ้น
เมื่อใดที่ควรจัดลำดับความสำคัญของรูปแบบนี้ จัดลำดับความสำคัญเมื่อประสิทธิภาพของตัวแทนอาจแตกต่างกันอย่างมีนัยสำคัญ ขึ้นอยู่กับคุณภาพของข้อมูลอินพุตหรือความคลุมเครือของงาน โดยเฉพาะอย่างยิ่งในระบบผู้เชี่ยวชาญ (เช่น ความช่วยเหลือทางการแพทย์ ผู้ช่วยโค้ด) ซึ่งมนุษย์ต้องประเมินผลลัพธ์ของ AI อย่างมีวิจารณญาณ ความเสี่ยงของการละเว้น หากไม่มีสิ่งนี้ ผู้ใช้จะตกเป็นเหยื่อของอคติอัตโนมัติ ยอมรับภาพหลอนที่มีความมั่นใจต่ำอย่างสุ่มสี่สุ่มห้า หรือตรวจสอบงานที่มีความมั่นใจสูงอีกครั้งอย่างกังวล ตัวชี้วัดความสำเร็จ:
คะแนนการสอบเทียบความสัมพันธ์แบบเพียร์สันระหว่างคะแนนความเชื่อมั่นของแบบจำลองและอัตราการยอมรับของผู้ใช้ เป้าหมาย > 0.8 ส่วนต่างของการตรวจสอบข้อเท็จจริง ความแตกต่างระหว่างเวลาทบทวนโดยเฉลี่ยของแผนที่มีความมั่นใจต่ำและแผนที่มีความมั่นใจสูง คาดว่าจะเป็นบวก (เช่น +12 วินาที)
5. การตรวจสอบการดำเนินการและเลิกทำ: สุดยอดเครือข่ายความปลอดภัย ความไว้วางใจจำเป็นต้องรู้ว่าคุณสามารถฟื้นตัวจากความผิดพลาดได้ การเลิกทำฟังก์ชั่นเป็นเครือข่ายความปลอดภัยความสัมพันธ์ขั้นสูงสุด ทำให้ผู้ใช้มั่นใจได้ว่าแม้ว่าตัวแทนจะเข้าใจผิด แต่ผลที่ตามมาจะไม่เป็นหายนะ กลไกเดียวที่ทรงพลังที่สุดในการสร้างความมั่นใจให้กับผู้ใช้คือความสามารถในการย้อนกลับการกระทำของตัวแทนได้อย่างง่ายดาย บันทึกการตรวจสอบการดำเนินการที่ต่อเนื่องและอ่านง่าย พร้อมด้วยปุ่มเลิกทำที่โดดเด่นสำหรับทุกการกระทำที่เป็นไปได้ ถือเป็นเครือข่ายความปลอดภัยขั้นสูงสุด ช่วยลดความเสี่ยงในการรับรู้การให้เอกราชได้อย่างมาก รากฐานทางจิตวิทยาการรู้ว่าข้อผิดพลาดสามารถยกเลิกได้ง่ายจะช่วยสร้างความปลอดภัยทางจิตใจ โดยกระตุ้นให้ผู้ใช้มอบหมายงานโดยไม่ต้องกลัวผลที่ตามมาซึ่งแก้ไขไม่ได้ แนวทางปฏิบัติที่ดีที่สุดในการออกแบบ:
มุมมองไทม์ไลน์ บันทึกตามลำดับเวลาของการดำเนินการที่เจ้าหน้าที่ริเริ่มทั้งหมดเป็นรูปแบบที่ใช้งานง่ายที่สุด ตัวบ่งชี้สถานะที่ชัดเจน แสดงว่าการดำเนินการสำเร็จ กำลังดำเนินการ หรือเลิกทำแล้ว การเลิกทำแบบจำกัดเวลาสำหรับการดำเนินการที่ไม่สามารถย้อนกลับได้หลังจากจุดหนึ่ง (เช่น การจองที่ไม่สามารถคืนเงินได้) UI จะต้องสื่อสารกรอบเวลานี้อย่างชัดเจน (เช่น การเลิกทำใช้ได้เป็นเวลา 15 นาที) ความโปร่งใสเกี่ยวกับข้อจำกัดของระบบมีความสำคัญพอๆ กับความสามารถในการเลิกทำ การซื่อสัตย์เมื่อการกระทำกลายเป็นเรื่องถาวรจะสร้างความไว้วางใจ
เมื่อใดที่ควรจัดลำดับความสำคัญของรูปแบบนี้ นี่คือรูปแบบพื้นฐานที่ควรนำไปใช้ในระบบเอเจนต์เกือบทั้งหมด ไม่สามารถต่อรองได้อย่างแน่นอนเมื่อแนะนำคุณสมบัติอัตโนมัติหรือเมื่อต้นทุนของข้อผิดพลาด (ทางการเงิน สังคม หรือข้อมูล) สูง ความเสี่ยงของการละเว้น หากปราศจากสิ่งนี้ ข้อผิดพลาดหนึ่งประการจะทำลายความไว้วางใจอย่างถาวร เนื่องจากผู้ใช้ตระหนักว่าพวกเขาไม่มีเครือข่ายความปลอดภัย ตัวชี้วัดความสำเร็จ:
อัตราการกลับตัว การกระทำที่เลิกทำ / การกระทำทั้งหมดที่ดำเนินการ ถ้าอัตราการกลับรายการ > 5% สำหรับงานเฉพาะ ให้ปิดใช้งานระบบอัตโนมัติสำหรับงานนั้น คอนเวอร์ชันสุทธิด้านความปลอดภัยของผู้ใช้ที่อัปเกรดเป็น Act Autonomously ภายใน 7 วันหลังจากใช้ Undo ได้สำเร็จ
6. เส้นทางยกระดับ: จัดการกับความไม่แน่นอนอย่างสง่างาม พันธมิตรที่ชาญฉลาดรู้ว่าเมื่อใดควรขอความช่วยเหลือแทนที่จะคาดเดา รูปแบบนี้ช่วยให้ตัวแทนสามารถจัดการกับความคลุมเครือได้อย่างสง่างามโดยยกระดับไปยังผู้ใช้ แสดงให้เห็นถึงความอ่อนน้อมถ่อมตนที่สร้าง แทนที่จะกัดกร่อน ความไว้วางใจ แม้แต่ตัวแทนที่ก้าวหน้าที่สุดก็ยังต้องเผชิญกับสถานการณ์ที่ไม่แน่นอนเกี่ยวกับจุดประสงค์ของผู้ใช้หรือแนวทางปฏิบัติที่ดีที่สุด วิธีจัดการกับความไม่แน่นอนนี้เป็นช่วงเวลาที่กำหนด ตัวแทนที่ออกแบบมาอย่างดีจะไม่คาดเดา มันบานปลาย รากฐานทางจิตวิทยา เมื่อตัวแทนยอมรับขีดจำกัดของตนแทนที่จะคาดเดา มันจะสร้างความไว้วางใจโดยการเคารพอำนาจของผู้ใช้ในสถานการณ์ที่ไม่ชัดเจน รูปแบบการยกระดับ ได้แก่:
ขอชี้แจง “คุณพูดถึง 'วันอังคารหน้า' คุณหมายถึง 30 กันยายน หรือ 7 ตุลาคม เหรอ?” การนำเสนอตัวเลือก“ฉันพบสามเที่ยวบินที่ตรงกับเกณฑ์ของคุณ เที่ยวบินใดที่เหมาะกับคุณที่สุด” การร้องขอการแทรกแซงจากมนุษย์สำหรับงานที่มีเดิมพันสูงหรือคลุมเครืออย่างมาก เจ้าหน้าที่ควรมีแนวทางที่ชัดเจนในการติดต่อกับผู้เชี่ยวชาญที่เป็นมนุษย์หรือเจ้าหน้าที่สนับสนุน ข้อความแจ้งอาจเป็น: “ธุรกรรมนี้ดูผิดปกติ และฉันไม่มั่นใจเกี่ยวกับวิธีการดำเนินการ คุณต้องการให้ฉันตั้งค่าสถานะนี้เพื่อให้ตัวแทนที่เป็นมนุษย์ตรวจสอบหรือไม่”
เมื่อใดควรจัดลำดับความสำคัญของรูปแบบนี้ จัดลำดับความสำคัญในโดเมนที่จุดประสงค์ของผู้ใช้อาจไม่ชัดเจนหรือขึ้นอยู่กับบริบทสูง (เช่น การโต้ตอบด้วยภาษาธรรมชาติ การสืบค้นข้อมูลที่ซับซ้อน) ใช้สิ่งนี้ทุกครั้งที่ตัวแทนดำเนินการด้วยข้อมูลที่ไม่สมบูรณ์หรือเมื่อมีเส้นทางที่ถูกต้องหลายเส้นทาง ความเสี่ยงของการละเลย หากไม่มีสิ่งนี้ ในที่สุดตัวแทนก็จะคาดเดาอย่างมั่นใจและเป็นหายนะซึ่งทำให้ผู้ใช้แปลกแยก ตัวชี้วัดความสำเร็จ:
การยกระดับความถี่ตัวแทนร้องขอความช่วยเหลือ / งานทั้งหมด ช่วงสุขภาพ: 5-15% อัตราความสำเร็จในการกู้คืนงานที่เสร็จสมบูรณ์หลังการยกระดับ / การยกระดับทั้งหมด เป้าหมาย > 90%
รูปแบบ ดีที่สุดสำหรับ ความเสี่ยงเบื้องต้น เมตริกหลัก การแสดงตัวอย่างเจตนา การกระทำที่ไม่สามารถย้อนกลับหรือทางการเงิน ผู้ใช้รู้สึกถูกซุ่มโจมตี > อัตราการยอมรับ 85% แป้นหมุนอัตโนมัติ งานที่มีระดับความเสี่ยงผันแปร การละทิ้งคุณลักษณะทั้งหมด การตั้งค่าปั่น เหตุผลอธิบายได้ งานเบื้องหลังหรืองานอิสระ ผู้ใช้รับรู้ข้อบกพร่อง “ทำไม?” ปริมาณตั๋ว สัญญาณความมั่นใจ ระบบผู้เชี่ยวชาญหรือเดิมพันสูง อคติอัตโนมัติ เดลต้าการตรวจสอบ การดำเนินการตรวจสอบและเลิกทำ ระบบตัวแทนทั้งหมด การสูญเสียความไว้วางใจอย่างถาวร <5%อัตราการพลิกกลับ เส้นทางยกระดับ เจตนาของผู้ใช้ที่ไม่ชัดเจน มั่นใจคาดเดาหายนะ > ความสำเร็จในการกู้คืน > 90%
ตารางที่ 1: สรุปรูปแบบ Agentic AI UX อย่าลืมปรับเมตริกตามความเสี่ยงและความต้องการเฉพาะด้านของคุณ การออกแบบเพื่อการซ่อมแซมและแก้ไข นี่คือการเรียนรู้วิธีการขอโทษอย่างมีประสิทธิภาพ คำขอโทษที่ดีจะยอมรับข้อผิดพลาด แก้ไขความเสียหาย และสัญญาว่าจะเรียนรู้จากข้อผิดพลาด ข้อผิดพลาดไม่สามารถทำได้ สิ่งเหล่านี้เป็นสิ่งที่หลีกเลี่ยงไม่ได้ ความสำเร็จในระยะยาวของระบบตัวแทนขึ้นอยู่กับความสามารถในการสมบูรณ์แบบน้อยลง แต่ขึ้นอยู่กับความสามารถในการฟื้นตัวอย่างสง่างามเมื่อล้มเหลวมากขึ้น กรอบการทำงานที่แข็งแกร่งสำหรับการซ่อมแซมและแก้ไขเป็นคุณลักษณะหลัก ไม่ใช่สิ่งที่ต้องคำนึงถึงในภายหลัง การขอโทษอย่างเอาใจใส่และการแก้ไขที่ชัดเจน เมื่อตัวแทนทำผิดพลาด ข้อความแสดงข้อผิดพลาดคือการขอโทษ จะต้องได้รับการออกแบบด้วยความแม่นยำทางจิตวิทยา ช่วงเวลานี้เป็นโอกาสสำคัญในการแสดงให้เห็นถึงความรับผิดชอบ จากมุมมองของการออกแบบบริการ นี่คือจุดที่บริษัทต่างๆ สามารถใช้ความขัดแย้งในการกู้คืนบริการได้ นั่นคือปรากฏการณ์ที่ลูกค้าที่ประสบกับความล้มเหลวของบริการ ตามมาด้วยการกู้คืนที่ประสบความสำเร็จและเห็นอกเห็นใจ จริงๆ แล้วสามารถกลายเป็นลูกค้าที่ภักดีมากกว่าลูกค้าที่ไม่เคยประสบกับความล้มเหลวเลย ข้อผิดพลาดที่ได้รับการจัดการอย่างดีอาจเป็นเหตุการณ์ที่สร้างความไว้วางใจที่ทรงพลังมากกว่าประวัติศาสตร์อันยาวนานของการดำเนินการที่ไร้ที่ติ สิ่งสำคัญคือการรักษาข้อผิดพลาดเสมือนการแตกหักของความสัมพันธ์ที่ต้องแก้ไข สิ่งนี้เกี่ยวข้องกับ:
รับทราบข้อผิดพลาดข้อความควรระบุอย่างชัดเจนและเรียบง่ายว่ามีข้อผิดพลาดเกิดขึ้น ตัวอย่าง: ฉันโอนเงินไม่ถูกต้อง ระบุการแก้ไขทันที ติดตามผลการดำเนินการแก้ไขทันที ตัวอย่าง: ฉันได้ยกเลิกการดำเนินการแล้ว และเงินได้ถูกส่งกลับไปยังบัญชีของคุณแล้ว จัดเตรียมเส้นทางสำหรับความช่วยเหลือเพิ่มเติม เสนอการเชื่อมโยงที่ชัดเจนไปยังการสนับสนุนของมนุษย์เสมอ สิ่งนี้จะช่วยลดความคับข้องใจและแสดงให้เห็นว่ามีระบบความรับผิดชอบนอกเหนือจากตัวตัวแทนเอง
UI การซ่อมแซมที่ออกแบบมาอย่างดีอาจมีลักษณะดังนี้: เราทำผิดพลาดในการโอนเงินครั้งล่าสุดของคุณ ฉันขอโทษ ฉันโอนเงิน $250 ไปยังบัญชีที่ไม่ถูกต้อง✔ การดำเนินการแก้ไข: การโอนเงินได้รับการย้อนกลับแล้ว และเงิน $250 ของคุณได้รับการคืนเงินแล้ว ✔ขั้นตอนถัดไป: เหตุการณ์ดังกล่าวได้รับการตั้งค่าสถานะสำหรับการตรวจสอบภายในเพื่อป้องกันไม่ให้เกิดขึ้นอีก ต้องการความช่วยเหลือเพิ่มเติมหรือไม่ [ ติดต่อฝ่ายสนับสนุน ]
การสร้างกลไกการกำกับดูแลเพื่อนวัตกรรมที่ปลอดภัย รูปแบบการออกแบบที่อธิบายไว้ข้างต้นเป็นการควบคุมที่ผู้ใช้ต้องเผชิญ แต่จะไม่สามารถทำงานได้อย่างมีประสิทธิภาพหากไม่มีโครงสร้างการสนับสนุนภายในที่แข็งแกร่ง นี่ไม่เกี่ยวกับการสร้างอุปสรรคของระบบราชการ มันเป็นเรื่องเกี่ยวกับการสร้างความได้เปรียบเชิงกลยุทธ์ องค์กรที่มีกรอบการกำกับดูแลที่ครบถ้วนสามารถส่งมอบคุณสมบัติตัวแทนที่มีความทะเยอทะยานมากขึ้นด้วยความรวดเร็วและความมั่นใจที่มากขึ้น โดยรู้ว่ามีรั้วกั้นที่จำเป็นเพื่อลดความเสี่ยงของแบรนด์ เครื่องมือกำกับดูแลนี้เปลี่ยนความปลอดภัยจากรายการตรวจสอบให้กลายเป็นสินทรัพย์ที่สามารถแข่งขันได้ กลไกนี้ควรทำหน้าที่เป็นหน่วยงานกำกับดูแลอย่างเป็นทางการ ซึ่งก็คือ Agentic AI Ethics Council ซึ่งประกอบด้วยพันธมิตรข้ามสายงานด้าน UX ผลิตภัณฑ์ และวิศวกรรม โดยได้รับการสนับสนุนที่สำคัญจากกฎหมาย การปฏิบัติตามข้อกำหนด และการสนับสนุน ในองค์กรขนาดเล็ก บทบาทของ "สภา" เหล่านี้มักจะแบ่งออกเป็นสามกลุ่มเดียวคือผู้นำด้านผลิตภัณฑ์ วิศวกรรม และการออกแบบ รายการตรวจสอบเพื่อการกำกับดูแล
กฎหมาย/การปฏิบัติตามข้อกำหนด ทีมนี้เป็นแนวหน้าในการป้องกัน เพื่อให้มั่นใจว่าการดำเนินการที่อาจเกิดขึ้นของตัวแทนจะอยู่ภายในขอบเขตด้านกฎระเบียบและกฎหมาย ช่วยกำหนดโซนที่ห้ามเข้าอย่างหนักสำหรับการดำเนินการอัตโนมัติ ผลิตภัณฑ์ผู้จัดการผลิตภัณฑ์คือผู้พิทักษ์วัตถุประสงค์ของตัวแทน พวกเขากำหนดและติดตามขอบเขตการปฏิบัติงานผ่านนโยบายอิสระอย่างเป็นทางการที่บันทึกสิ่งที่ตัวแทนทำได้และไม่ได้รับอนุญาตให้ทำ พวกเขาเป็นเจ้าของทะเบียนความเสี่ยงของตัวแทน การวิจัย UX ทีมนี้คือเสียงแห่งความไว้วางใจและความวิตกกังวลของผู้ใช้ พวกเขามีหน้าที่รับผิดชอบกระบวนการที่เกิดซ้ำสำหรับการดำเนินการศึกษาการปรับเทียบความน่าเชื่อถือ การทดสอบพฤติกรรมที่ไม่เหมาะสม และการสัมภาษณ์เชิงคุณภาพเพื่อทำความเข้าใจรูปแบบทางจิตที่เปลี่ยนแปลงของผู้ใช้ของตัวแทน วิศวกรรมทีมนี้สร้างรากฐานทางเทคนิคของความไว้วางใจ พวกเขาจะต้องออกแบบระบบสำหรับการบันทึกที่มีประสิทธิภาพ ฟังก์ชันการยกเลิกการทำงานในคลิกเดียว และตะขอที่จำเป็นในการสร้างเหตุผลที่ชัดเจนและอธิบายได้ การสนับสนุน ทีมเหล่านี้คือแนวหน้าของความล้มเหลว พวกเขาต้องได้รับการฝึกอบรมและความพร้อมในการจัดการกับเหตุการณ์ที่เกิดจากข้อผิดพลาดของตัวแทน และต้องมีข้อเสนอแนะโดยตรงไปยังสภาจริยธรรมเพื่อรายงานรูปแบบความล้มเหลวในโลกแห่งความเป็นจริง
โครงสร้างการกำกับดูแลนี้ควรรักษากชุดเอกสารที่มีชีวิต รวมถึง Agent Risk Register ที่ระบุรูปแบบความล้มเหลวที่อาจเกิดขึ้นในเชิงรุก บันทึกการตรวจสอบการดำเนินการที่ได้รับการตรวจสอบเป็นประจำ และเอกสารนโยบาย Autonomy อย่างเป็นทางการ จุดเริ่มต้น: แนวทางแบบเป็นขั้นตอนสำหรับผู้นำผลิตภัณฑ์ สำหรับผู้จัดการผลิตภัณฑ์และผู้บริหาร การบูรณาการ AI แบบตัวแทนอาจรู้สึกเหมือนเป็นงานที่ยิ่งใหญ่ กุญแจสำคัญคือการเข้าใกล้ไม่ใช่เป็นการเปิดตัวครั้งเดียว แต่เป็นการเดินทางแบบเป็นขั้นตอนเพื่อสร้างทั้งความสามารถด้านเทคนิคและความไว้วางใจของผู้ใช้ควบคู่กันไป แผนงานนี้ช่วยให้องค์กรของคุณสามารถเรียนรู้และปรับตัว เพื่อให้มั่นใจว่าแต่ละขั้นตอนจะถูกสร้างขึ้นบนรากฐานที่มั่นคง ระยะที่ 1: ความปลอดภัยขั้นพื้นฐาน (แนะนำและเสนอ) เป้าหมายเริ่มแรกคือการสร้างรากฐานแห่งความไว้วางใจโดยไม่ต้องรับความเสี่ยงที่สำคัญจากตนเอง ในระยะนี้ อำนาจของตัวแทนจะจำกัดอยู่ที่การวิเคราะห์และข้อเสนอแนะเท่านั้น
ใช้การแสดงตัวอย่างเจตนาที่แข็งแกร่ง: นี่คือโมเดลการโต้ตอบหลักของคุณ ทำให้ผู้ใช้รู้สึกสบายใจกับแนวคิดของตัวแทนในการกำหนดแผน ในขณะเดียวกันก็ให้ผู้ใช้ควบคุมการดำเนินการได้อย่างเต็มที่ สร้างโครงสร้างพื้นฐานการตรวจสอบการดำเนินการและเลิกทำ: แม้ว่าตัวแทนจะไม่ได้ดำเนินการโดยอัตโนมัติ แต่ให้สร้างโครงทางเทคนิคสำหรับการบันทึกและการกลับรายการ สิ่งนี้จะเตรียมระบบของคุณสำหรับอนาคตและสร้างความมั่นใจให้กับผู้ใช้ว่ามีตาข่ายนิรภัยอยู่
ระยะที่ 2: การปรับเทียบเอกราช (ดำเนินการพร้อมการยืนยัน) เมื่อผู้ใช้พอใจกับข้อเสนอของตัวแทนแล้ว คุณก็สามารถเริ่มต้นใช้งานระบบอัตโนมัติที่มีความเสี่ยงต่ำได้ ช่วงนี้เป็นเรื่องเกี่ยวกับการสอนผู้ใช้ว่าตัวแทนคิดอย่างไร และปล่อยให้พวกเขากำหนดจังหวะของตนเอง
แนะนำ Autonomy Dial ด้วยการตั้งค่าที่จำกัด: เริ่มต้นด้วยการอนุญาตให้ผู้ใช้มอบอำนาจให้กับตัวแทนในการดำเนินการพร้อมการยืนยัน ใช้เหตุผลที่อธิบายได้: สำหรับทุกการกระทำที่เจ้าหน้าที่เตรียมการ ให้อธิบายที่ชัดเจน สิ่งนี้ทำให้เข้าใจตรรกะของตัวแทนได้ง่ายขึ้นและตอกย้ำว่าตัวแทนทำงานตามความต้องการของผู้ใช้เอง
ระยะที่ 3: การมอบหมายเชิงรุก (ดำเนินการด้วยตนเอง) นี่เป็นขั้นตอนสุดท้ายที่จะดำเนินการหลังจากที่คุณมีข้อมูลที่ชัดเจนจากขั้นตอนก่อนหน้าซึ่งแสดงให้เห็นว่าผู้ใช้เชื่อถือระบบเท่านั้น
เปิดใช้งานการดำเนินการโดยอัตโนมัติสำหรับงานเฉพาะเจาะจงที่ได้รับอนุมัติล่วงหน้า: ใช้ข้อมูลจากระยะที่ 2 (เช่น อัตราการดำเนินการสูง อัตราการเลิกทำต่ำ) เพื่อระบุชุดแรกของงานที่มีความเสี่ยงต่ำที่สามารถทำงานอัตโนมัติได้อย่างสมบูรณ์ ตรวจสอบและทำซ้ำ: การเปิดตัวคุณสมบัติอัตโนมัติไม่ใช่จุดสิ้นสุด แต่เป็นจุดเริ่มต้นของวงจรการตรวจสอบประสิทธิภาพอย่างต่อเนื่อง การรวบรวมความคิดเห็นของผู้ใช้ และการปรับแต่งขอบเขตและพฤติกรรมของตัวแทนตามข้อมูลในโลกแห่งความเป็นจริง
การออกแบบเป็นคันโยกความปลอดภัยขั้นสูงสุด การเกิดขึ้นของ Agentic AI แสดงให้เห็นถึงขอบเขตใหม่ของการโต้ตอบระหว่างมนุษย์กับคอมพิวเตอร์ โดยสัญญาถึงอนาคตที่เทคโนโลยีสามารถลดภาระและปรับปรุงชีวิตของเราในเชิงรุกได้ แต่พลังนี้มาพร้อมกับความรับผิดชอบอันลึกซึ้ง ความเป็นอิสระเป็นผลจากระบบทางเทคนิค แต่ความน่าเชื่อถือเป็นผลจากกระบวนการออกแบบ ความท้าทายของเราคือเพื่อให้แน่ใจว่าประสบการณ์ของผู้ใช้ไม่ใช่ความเสียหายต่อความสามารถด้านเทคนิค แต่เป็นผู้รับผลประโยชน์หลัก ในฐานะผู้เชี่ยวชาญด้าน UX ผู้จัดการผลิตภัณฑ์ และผู้นำ บทบาทของเราคือทำหน้าที่เป็นผู้ดูแลความไว้วางใจนั้น ด้วยการใช้รูปแบบการออกแบบที่ชัดเจนสำหรับการควบคุมและการยินยอม การออกแบบเส้นทางที่รอบคอบสำหรับการซ่อมแซม และสร้างกรอบการกำกับดูแลที่แข็งแกร่ง เราสร้างเครื่องมือด้านความปลอดภัยที่จำเป็นที่ทำให้ AI ตัวแทนสามารถทำงานได้ เราไม่ได้เป็นเพียงการออกแบบอินเทอร์เฟซเท่านั้น เรากำลังสร้างความสัมพันธ์ อนาคตของประโยชน์ใช้สอยและการยอมรับของ AI ขึ้นอยู่กับความสามารถของเราในการออกแบบระบบที่ซับซ้อนเหล่านี้ด้วยสติปัญญา การมองการณ์ไกล และการเคารพอย่างลึกซึ้งต่ออำนาจสูงสุดของผู้ใช้
