Reka bentuk untuk ejen autonomi memberikan kekecewaan yang unik. Kami menyerahkan tugas yang kompleks kepada AI, ia hilang selama 30 saat (atau 30 minit), dan kemudian ia kembali dengan hasilnya. Kami merenung skrin. Adakah ia berkesan? Adakah ia berhalusinasi? Adakah ia menyemak pangkalan data pematuhan atau melangkau langkah itu? Kami biasanya bertindak balas terhadap kebimbangan ini dengan salah satu daripada dua keterlaluan. Kami sama ada mengekalkan sistem sebagai Kotak Hitam, menyembunyikan segala-galanya untuk mengekalkan kesederhanaan, atau kami panik dan menyediakan Dump Data, menstrim setiap baris log dan panggilan API kepada pengguna. Kedua-dua pendekatan tidak secara langsung menangani nuansa yang diperlukan untuk memberikan pengguna tahap ketelusan yang ideal. Kotak Hitam membuatkan pengguna berasa tidak berdaya. Data Dump mencipta kebutaan pemberitahuan, memusnahkan kecekapan yang dijanjikan ejen untuk menyediakan. Pengguna mengabaikan aliran maklumat yang berterusan sehingga sesuatu rosak, pada ketika itu mereka kekurangan konteks untuk membetulkannya. Kami memerlukan cara yang teratur untuk mencari keseimbangan. Dalam artikel saya sebelum ini, "Merancang Untuk AI Agentik", kami melihat elemen antara muka yang membina kepercayaan, seperti menunjukkan tindakan yang dimaksudkan AI terlebih dahulu (Pratonton Niat) dan memberi pengguna kawalan ke atas berapa banyak yang AI lakukan sendiri (Dail Autonomi). Tetapi mengetahui elemen mana yang hendak digunakan hanyalah sebahagian daripada cabaran. Soalan yang lebih sukar untuk pereka ialah mengetahui masa untuk menggunakannya. Bagaimanakah anda tahu momen tertentu dalam aliran kerja 30 saat memerlukan Pratonton Niat dan yang boleh dikendalikan dengan entri log mudah? Artikel ini menyediakan kaedah untuk menjawab soalan itu. Kami akan melalui Audit Nod Keputusan. Proses ini membawa pereka bentuk dan jurutera dalam bilik yang sama untuk memetakan logik bahagian belakang kepada antara muka pengguna. Anda akan belajar bagaimana untuk menentukan detik tepat pengguna memerlukan kemas kini tentang perkara yang dilakukan oleh AI. Kami juga akan merangkumi matriks Impak/Risiko yang akan membantu untuk mengutamakan nod keputusan yang akan dipaparkan dan sebarang corak reka bentuk yang berkaitan untuk dipasangkan dengan keputusan tersebut. Detik Transparensi: Contoh Kajian Kes Pertimbangkan Meridian (bukan nama sebenar), sebuah syarikat insurans yang menggunakan AI ejen untuk memproses tuntutan kemalangan awal. Pengguna memuat naik gambar kerosakan kenderaan dan laporan polis. Ejen itu kemudian hilang selama seminit sebelum kembali dengan penilaian risiko dan julat pembayaran yang dicadangkan. Pada mulanya, antara muka Meridian hanya menunjukkan Mengira Status Tuntutan. Pengguna semakin kecewa. Mereka telah menyerahkan beberapa dokumen terperinci dan berasa tidak pasti sama ada AI telah menyemak laporan polis, yang mengandungi keadaan yang mengurangkan. Kotak Hitam menimbulkan rasa tidak percaya. Untuk membetulkannya, pasukan reka bentuk menjalankan Audit Nod Keputusan. Mereka mendapati bahawa AI melakukan tiga langkah berasaskan kebarangkalian yang berbeza, dengan banyak langkah yang lebih kecil dibenamkan:
Analisis ImejEjen membandingkan foto kerosakan dengan pangkalan data senario kemalangan kereta biasa untuk menganggarkan kos pembaikan. Ini melibatkan skor keyakinan. Kajian TekstualIa mengimbas laporan polis untuk kata kunci yang mempengaruhi liabiliti (cth., kerosakan, keadaan cuaca, ketenangan). Ini melibatkan penilaian kebarangkalian kedudukan undang-undang. Rujukan Silang PolisiIa sepadan dengan butiran tuntutan terhadap syarat dasar khusus pengguna, mencari pengecualian atau had perlindungan. Ini juga melibatkan padanan kebarangkalian.
Pasukan mengubah langkah ini menjadi detik ketelusan. Urutan antara muka telah dikemas kini kepada:
Menilai Foto Kerosakan: Membandingkan dengan 500 profil kesan kenderaan. Menyemak Laporan Polis: Menganalisis kata kunci liabiliti dan preseden undang-undang. Mengesahkan Perlindungan Dasar: Menyemak pengecualian khusus dalam pelan anda.
Sistem masih mengambil masa yang sama, tetapi komunikasi yang jelas tentang kerja dalaman ejen memulihkan keyakinan pengguna. Pengguna memahami bahawa AI sedang melaksanakan tugas kompleks yang direka bentuk untuknya, dan mereka tahu dengan tepat di mana untuk menumpukan perhatian mereka jika penilaian akhir kelihatan tidak tepat. Pilihan reka bentuk ini mengubah detik kebimbangan menjadi detik hubungan dengan pengguna. Menggunakan Matriks Kesan/Risiko: Perkara yang Kami Pilih untuk Sembunyikan Kebanyakan pengalaman AI tidak mempunyai kekurangan peristiwa dan nod keputusan yang berpotensi dipaparkan semasa pemprosesan. Salah satu hasil audit yang paling kritikal ialah memutuskan perkara yang perlu disimpan tidak kelihatan. Dalam contoh Meridian, log hujung belakang menjana 50+ peristiwa bagi setiap tuntutan. Kami mungkin lalai untuk memaparkan setiap acara kerana ia diproses sebagai sebahagian daripada UI. Sebaliknya, kami menggunakan matriks risiko untuk memangkasnya:
Acara Log: Pelayan PingBarat-2 untuk semakan redundansi. Keputusan Penapis: Sembunyikan. (Pertaruhan Rendah, Teknikal Tinggi).
Peristiwa Log: Membandingkan anggaran pembaikan dengan nilai BlueBook. Keputusan Penapis: Tunjukkan. (Pertaruhan Tinggi, memberi kesan kepada pembayaran pengguna).
Dengan memotong butiran yang tidak diperlukan, maklumat penting — seperti pengesahan liputan — lebih berkesan. Kami mencipta antara muka terbuka dan mereka bentuk pengalaman terbuka. Pendekatan ini menggunakan idea bahawa orang berasa lebih baik tentang perkhidmatan apabila mereka dapat melihat kerja itu dilakukan. Dengan menunjukkan langkah-langkah tertentu (Menilai, Menyemak, Mengesahkan), kami menukar masa menunggu selama 30 saat daripada masa bimbang (“Adakah ia rosak?”) kepada masa berasa seperti sesuatu yang berharga sedang dicipta (“Ia sedang berfikir”). Sekarang mari kita lihat dengan lebih dekat cara kita boleh menyemak proses membuat keputusan dalam produk kita untuk mengenal pasti detik penting yang memerlukan maklumat yang jelas. Audit Nod Keputusan Ketelusan gagal apabila kami menganggapnya sebagai pilihan gaya dan bukannya keperluan berfungsi. Kami mempunyai kecenderungan untuk bertanya, "Apakah rupa UI yang sepatutnya?" sebelum kita bertanya, "Apakah yang sebenarnya diputuskan oleh ejen?" Audit Nod Keputusan ialah cara mudah untuk menjadikan sistem AI lebih mudah difahami. Ia berfungsi dengan memetakan proses dalaman sistem dengan teliti. Matlamat utama adalah untuk mencari dan mentakrifkan dengan jelas detik yang tepat di mana sistem berhenti mengikut peraturan yang ditetapkan dan sebaliknya membuat pilihan berdasarkan peluang atau anggaran. Dengan memetakan struktur ini, pencipta boleh menunjukkan titik ketidakpastian ini terus kepada orang yang menggunakan sistem. Ini mengubah kemas kini sistem daripada kenyataan yang tidak jelas kepada laporan yang spesifik dan boleh dipercayai tentang cara AI mencapai kesimpulannya. Sebagai tambahan kepada kajian kes insurans di atas, saya baru-baru ini bekerja dengan pasukan membina ejen perolehan. Sistem menyemak kontrak vendor dan menandai risiko. Pada asalnya, skrin memaparkan bar kemajuan mudah: "Menyemak kontrak." Pengguna membencinya. Penyelidikan kami menunjukkan mereka berasa bimbang tentang implikasi undang-undang klausa yang hilang. Kami membetulkannya dengan menjalankan Audit Nod Keputusan. Saya telah menyertakan senarai semak langkah demi langkah untuk menjalankan audit ini pada akhir artikel ini. Kami menjalankan sesi dengan jurutera dan menggariskan cara sistem berfungsi. Kami mengenal pasti "Titik Keputusan" — detik di mana AI terpaksa memilih antara dua pilihan yang baik. Dalam program komputer standard, prosesnya jelas: jika A berlaku, maka B akan sentiasa berlaku. Dalam sistem AI, proses selalunya berdasarkan kebetulan. AI berpendapat A mungkin pilihan terbaik, tetapi mungkin hanya 65% pasti. Dalam sistem kontrak, kami menemui detik apabila AI menyemak syarat liabiliti terhadap peraturan syarikat kami. Ia jarang padanan yang sempurna. AI terpaksa memutuskan sama ada perlawanan 90% adalah cukup baik. Ini adalah titik keputusan penting.
Setelah kami mengenal pasti nod ini, kami mendedahkannya kepada pengguna. Daripada "Menyemak kontrak," antara muka dikemas kini untuk menyatakan: "Klausa liabiliti berbeza daripada templat standard. Menganalisis tahap risiko." Kemas kini khusus ini memberi keyakinan kepada pengguna. Mereka tahu ejen itu menyemak klausa liabiliti. Mereka memahami sebab kelewatan dan mendapat kepercayaan bahawa tindakan yang diingini berlaku di bahagian belakang. Mereka juga tahu di mana untuk menggali lebih dalam sebaik sahaja ejen menjana kontrak. Untuk menyemak cara AI membuat keputusan, anda perlu bekerjasama rapat dengan jurutera, pengurus produk, penganalisis perniagaan dan orang penting anda yang membuat pilihan (selalunya tersembunyi) yang mempengaruhi cara alat AI berfungsi. Lukiskan langkah-langkah yang diambil oleh alat. Tandai setiap tempat di mana proses berubah arah kerana kebarangkalian dipenuhi. Ini ialah tempat di mana anda harus fokus untuk menjadi lebih telus. Seperti yang ditunjukkan dalam Rajah 2 di bawah, Audit Nod Keputusan melibatkan langkah-langkah ini:
Kumpulkan pasukan: Bawa pemilik produk, penganalisis perniagaan, pereka bentuk, pembuat keputusan utama dan jurutera yang membina AI. Sebagai contoh, Fikirkan tentang pasukan produk yang membina alat AI yang direka untuk menyemak kontrak undang-undang yang tidak kemas. Pasukan ini termasuk pereka bentuk UX, pengurus produk, penyelidik UX, peguam amalan yang bertindak sebagai pakar subjek dan jurutera bahagian belakang yang menulis kod analisis teks.
Lukis keseluruhan proses: Dokumentasikan setiap langkah yang diambil oleh AI, daripada tindakan pertama pengguna hingga hasil akhir. Pasukan itu berdiri di papan putih dan melakar keseluruhan jujukan untuk aliran kerja utama yang melibatkan AI mencari klausa liabiliti dalam kontrak yang kompleks. Peguam memuat naikPDF setebal lima puluh halaman → Sistem menukar dokumen kepada teks yang boleh dibaca. → AI mengimbas halaman untuk klausa liabiliti. → Pengguna menunggu. → Beberapa saat atau minit kemudian, alat ini menyerlahkan perenggan yang ditemui dalam warna kuning pada antara muka pengguna. Mereka melakukan ini untuk banyak aliran kerja lain yang turut dimuatkan oleh alat itu.
Cari tempat yang tidak jelas: Lihat peta proses untuk mana-mana tempat di mana AI membandingkan pilihan atau input yang tidak mempunyai satu padanan sempurna. Pasukan itu melihat papan putih untuk melihat langkah yang tidak jelas. Menukar imej kepada teks mengikut peraturan yang ketat. Mencari klausa liabiliti khusus melibatkan tekaan. Setiap firma menulis klausa ini secara berbeza, jadi AI perlu menimbang pelbagai pilihan dan membuat ramalan dan bukannya mencari padanan perkataan yang tepat.
Kenal pasti langkah 'tekaan terbaik': Untuk setiap tempat yang tidak jelas, semak sama ada sistem menggunakan skor keyakinan (contohnya, adakah 85% pasti?). Ini adalah titik di mana AI membuat pilihan terakhir. Sistem perlu meneka (memberi kebarangkalian) perenggan (-perenggan) yang hampir menyerupai klausa liabiliti standard. Ia memberikan skor keyakinan kepada tekaan terbaiknya. Tekaan itu adalah nod keputusan. Antara muka perlu memberitahu peguam bahawa ia menonjolkan padanan yang berpotensi, dan bukannya menyatakan ia menemui klausa muktamad.
Periksa pilihan: Untuk setiap titik pilihan, fikirkan matematik dalaman khusus atau perbandingan yang sedang dilakukan (cth., memadankan sebahagian daripada kontrak dengan polisi atau membandingkan gambar kereta yang rosak dengan perpustakaan foto kereta yang rosak). Jurutera menjelaskan bahawa sistem membandingkan pelbagai perenggan dengan pangkalan data klausa liabiliti standard daripada kes firma yang lalu. Ia mengira skor persamaan teks untuk memutuskan padanan berdasarkan kebarangkalian.
Tulis penjelasan yang jelas: Buat mesej untuk pengguna yang menerangkan dengan jelas tindakan dalaman khusus yang berlaku apabila AI membuat pilihan. Pereka kandungan menulis mesej khusus untuk masa yang tepat ini. Teks itu berbunyi: Membandingkan teks dokumen dengan klausa firma standard untuk mengenal pasti potensi risiko liabiliti.
Kemas kini skrin: Letakkan penjelasan baharu yang jelas ini ke dalam antara muka pengguna, menggantikan mesej yang tidak jelas seperti "Menyemak kontrak." Pasukan reka bentuk mengalih keluar pemutar pemuatan PDF Pemprosesan generik. Mereka memasukkan penjelasan baharu ke dalam bar status yang terletak betul-betul di atas pemapar dokumen semasa AI berfikir.
Semak Kepercayaan: Pastikan mesej skrin baharu memberi pengguna alasan mudah untuk sebarang masa atau keputusan menunggu, yang sepatutnya membuatkan mereka berasa lebih yakin dan percaya.
Matriks Kesan/Risiko Sebaik sahaja anda melihat dengan teliti proses AI, anda mungkin akan menemui banyak perkara di mana ia membuat pilihan. AI mungkin membuat berpuluh-puluh pilihan kecil untuk satu tugas yang kompleks. Menunjukkan mereka semua mencipta terlalu banyak maklumat yang tidak perlu. Anda perlu mengumpulkan pilihan ini. Anda boleh menggunakan Matriks Impak/Risiko untuk mengisih pilihan ini berdasarkan jenis tindakan yang diambil oleh AI. Berikut ialah contoh matriks impak/risiko: Pertama, cari keputusan berisiko rendah dan berimpak rendah. Taruhan Rendah / Kesan Rendah
Contoh: Menyusun struktur fail atau menamakan semula dokumen. Keperluan Ketelusan: Minimum. Pemberitahuan roti bakar halus atau entri log sudah memadai. Pengguna boleh membuat asal tindakan ini dengan mudah.
Kemudian kenal pasti keputusan yang berisiko tinggi dan berimpak tinggi. Taruhan Tinggi / Kesan Tinggi
Contoh: Menolak permohonan pinjaman atau melaksanakan perdagangan saham. Keperluan Ketelusan: Tinggi. Tindakan ini memerlukan Bukti Kerja. Sistem mesti menunjukkan rasional sebelum atau serta-merta semasa ia bertindak.
Pertimbangkan bot perdagangan kewangan yang memperlakukan semua pesanan beli/jual sama. Ia melaksanakan dagangan $5 dengan kelegapan yang sama seperti dagangan $50,000. Pengguna mungkin mempersoalkan sama ada alat itu mengiktiraf potensi kesan ketelusan pada perdagangan pada jumlah dolar yang besar. Mereka memerlukan sistem untuk menjeda dan menunjukkan kerjanya untuk dagangan berkepentingan tinggi. Penyelesaiannya adalah dengan memperkenalkan keadaan Logik Semakan untuk sebarang transaksi yang melebihi jumlah dolar tertentu, membolehkan pengguna melihat faktor yang mendorong keputusan sebelum pelaksanaan. Memetakan Nod kepada Corak: Rubrik Pemilihan Corak Reka Bentuk Sebaik sahaja anda telah mengenal pasti nod keputusan utama pengalaman anda, anda mesti memutuskan corak UI yang digunakan pada setiap satu yang akan anda paparkan. Dalam Designing For Agentic AI, kami memperkenalkan corak seperti Pratonton Niat (untuk kawalan berkepentingan tinggi) dan Audit Tindakan (untuk keselamatan retrospektif). Faktor penentu dalam memilih antara mereka adalah kebolehbalikan. Kami menapis setiapnod keputusan melalui matriks impak untuk menetapkan corak yang betul: Kepentingan Tinggi & Tidak Boleh Berbalik: Nod ini memerlukan Pratonton Niat. Oleh kerana pengguna tidak boleh membuat asal tindakan dengan mudah (cth., memadam pangkalan data secara kekal), detik ketelusan mesti berlaku sebelum pelaksanaan. Sistem mesti berhenti seketika, menerangkan niatnya dan memerlukan pengesahan. Kepentingan Tinggi & Boleh Balik: Nod ini boleh bergantung pada corak Audit Tindakan & Buat asal. Jika ejen jualan berkuasa AI mengalihkan petunjuk ke saluran paip yang berbeza, ia boleh melakukannya secara autonomi selagi ia memberitahu pengguna dan menawarkan butang Buat asal serta-merta. Dengan mengkategorikan nod secara ketat dengan cara ini, kami mengelakkan "keletihan amaran". Kami menyimpan Pratonton Niat geseran tinggi hanya untuk detik-detik yang benar-benar tidak dapat dipulihkan, sambil bergantung pada Audit Tindakan untuk mengekalkan kelajuan untuk semua yang lain.
Boleh diterbalikkan Tak boleh balik Kesan Rendah Jenis: Auto-ExecuteUI: Roti Bakar Pasif / LogEx: Menamakan semula fail Jenis: ConfirmUI: Pilihan Buat Asal MudahCth: Mengarkibkan e-mel Kesan Tinggi Jenis: ReviewUI: Pemberitahuan + Semakan TrailEx: Menghantar draf kepada pelanggan Jenis: Intent previewUI: Modal / Explicit PermissionEx: Memadam pelayan
Jadual 1: Matriks impak dan kebolehbalikan kemudiannya boleh digunakan untuk memetakan detik ketelusan anda kepada corak reka bentuk. Pengesahan Kualitatif: "Menunggu, Mengapa?" Ujian Anda boleh mengenal pasti potensi nod pada papan putih, tetapi anda mesti mengesahkannya dengan tingkah laku manusia. Anda perlu mengesahkan sama ada peta anda sepadan dengan model mental pengguna. Saya menggunakan protokol yang dipanggil "Tunggu, Mengapa?" Ujian. Minta pengguna untuk melihat ejen menyelesaikan tugas. Arahkan mereka bercakap dengan kuat. Setiap kali mereka bertanya soalan, "Tunggu, mengapa ia berbuat demikian?" atau "Adakah ia tersekat?" atau "Adakah ia mendengar saya?" — anda menandakan cap masa. Soalan ini menandakan kekeliruan pengguna. Pengguna merasakan kawalan mereka hilang. Contohnya, dalam kajian untuk pembantu penjadualan penjagaan kesihatan, pengguna melihat ejen itu menempah janji temu. Skrin kekal statik selama empat saat. Peserta secara konsisten bertanya, "Adakah ia menyemak kalendar saya atau doktor?"
Soalan itu mendedahkan Detik Ketelusan yang hilang. Sistem perlu membahagikan penantian empat saat itu kepada dua langkah yang berbeza: "Menyemak ketersediaan anda" diikuti dengan "Menyegerakkan dengan jadual penyedia." Perubahan kecil ini mengurangkan tahap kebimbangan pengguna yang dinyatakan. Ketelusan gagal apabila ia hanya menerangkan tindakan sistem. Antara muka mesti menghubungkan proses teknikal kepada matlamat khusus pengguna. Skrin yang memaparkan "Menyemak ketersediaan anda" tidak berfungsi kerana ia tidak mempunyai konteks. Pengguna memahami bahawa AI sedang melihat kalendar, tetapi mereka tidak tahu mengapa. Kita mesti memasangkan tindakan dengan hasilnya. Sistem perlu membahagikan penantian empat saat itu kepada dua langkah yang berbeza. Mula-mula, antara muka memaparkan "Menyemak kalendar anda untuk mencari waktu terbuka." Kemudian ia mengemas kini kepada "Menyegerakkan dengan jadual penyedia untuk menjamin janji temu anda." Ini berdasarkan proses teknikal dalam kehidupan sebenar pengguna. Pertimbangkan inventori pengurusan AI untuk kafe tempatan. Sistem menghadapi kekurangan bekalan. Antara muka membaca "menghubungi vendor" atau "menyemak pilihan" menimbulkan kebimbangan. Pengurus tertanya-tanya sama ada sistem membatalkan pesanan atau membeli alternatif yang mahal. Pendekatan yang lebih baik ialah menerangkan hasil yang dimaksudkan: "Menilai pembekal alternatif untuk mengekalkan jadual penghantaran hari Jumaat anda." Ini memberitahu pengguna dengan tepat apa yang AI cuba capai. Mengoperasikan Audit Anda telah menyelesaikan Audit Nod Keputusan dan menapis senarai anda melalui Matriks Kesan dan Risiko. Anda kini mempunyai senarai detik penting untuk bersikap telus. Seterusnya, anda perlu menciptanya dalam UI. Langkah ini memerlukan kerja berpasukan merentas jabatan yang berbeza. Anda tidak boleh mereka bentuk ketelusan sendiri menggunakan alat reka bentuk. Anda perlu memahami bagaimana sistem berfungsi di belakang tabir. Mulakan dengan Kajian Logik. Bertemu dengan pereka sistem utama anda. Bawa peta nod keputusan anda. Anda perlu mengesahkan bahawa sistem sebenarnya boleh berkongsi keadaan ini. Saya sering mendapati bahawa sistem teknikal tidak mendedahkan keadaan sebenar yang ingin saya tunjukkan. Jurutera mungkin mengatakan sistem hanya mengembalikan status "berfungsi" umum. Anda mesti menolak kemas kini terperinci. Anda memerlukan sistem untuk menghantar notis khususapabila ia beralih daripada membaca teks kepada menyemak peraturan. Tanpa sambungan teknikal itu, reka bentuk anda adalah mustahil untuk dibina. Seterusnya, libatkan pasukan Reka Bentuk Kandungan. Anda mempunyai sebab teknikal untuk tindakan AI, tetapi anda memerlukan penjelasan yang jelas dan mesra manusia. Jurutera menyediakan proses asas, tetapi pereka kandungan menyediakan cara ia disampaikan. Jangan tulis mesej ini sahaja. Pembangun mungkin menulis "Melaksanakan fungsi 402," yang secara teknikalnya betul tetapi tidak bermakna kepada pengguna. Seorang pereka mungkin menulis "Berfikir", yang mesra tetapi terlalu kabur. Ahli strategi kandungan mencari jalan tengah yang betul. Mereka mencipta frasa khusus, seperti "Mengimbas risiko liabiliti", yang menunjukkan AI berfungsi tanpa mengelirukan pengguna. Akhir sekali, uji ketelusan mesej anda. Jangan tunggu sehingga produk akhir dibina untuk melihat sama ada teks berfungsi. Saya menjalankan ujian perbandingan pada prototaip mudah di mana satu-satunya perkara yang berubah ialah mesej status. Sebagai contoh, saya menunjukkan satu kumpulan (Kumpulan A) mesej yang mengatakan "Mengesahkan identiti" dan kumpulan lain (Kumpulan B) mesej yang mengatakan "Menyemak pangkalan data kerajaan" (ini adalah contoh rekaan, tetapi anda memahami maksudnya). Kemudian saya bertanya kepada mereka AI mana yang lebih selamat. Anda selalunya akan mendapati bahawa perkataan tertentu menyebabkan kebimbangan, manakala yang lain membina kepercayaan. Anda mesti menganggap perkataan sebagai sesuatu yang anda perlukan untuk menguji dan membuktikan keberkesanannya. Bagaimana Ini Mengubah Proses Reka Bentuk Menjalankan audit ini berpotensi untuk mengukuhkan cara pasukan bekerjasama. Kami berhenti menyerahkan fail reka bentuk yang digilap. Kami mula menggunakan prototaip yang tidak kemas dan hamparan kongsi. Alat teras menjadi matriks ketelusan. Jurutera dan pereka kandungan mengedit hamparan ini bersama-sama. Mereka memetakan kod teknikal yang tepat kepada perkataan yang akan dibaca oleh pengguna. Pasukan akan mengalami geseran semasa semakan logik. Bayangkan seorang pereka bentuk bertanya kepada jurutera bagaimana AI memutuskan untuk menolak transaksi yang dikemukakan pada laporan perbelanjaan. Jurutera mungkin mengatakan bahagian belakang hanya mengeluarkan kod status generik seperti "Ralat: Data Hilang". Pereka bentuk menyatakan bahawa ini bukan maklumat yang boleh diambil tindakan pada skrin. Pereka bentuk berunding dengan jurutera untuk mencipta cangkuk teknikal tertentu. Jurutera menulis peraturan baharu supaya sistem melaporkan dengan tepat apa yang hilang, seperti imej resit yang hilang. Pereka kandungan bertindak sebagai penterjemah semasa fasa ini. Pembangun mungkin menulis rentetan yang tepat dari segi teknikal seperti "Mengira ambang keyakinan untuk pemadanan vendor." Pereka kandungan menterjemah rentetan itu ke dalam frasa yang membina kepercayaan untuk hasil tertentu. Pakar strategi menulis semula ia sebagai "Membandingkan harga vendor tempatan untuk menjamin penghantaran hari Jumaat anda." Pengguna memahami tindakan dan hasilnya. Keseluruhan pasukan rentas fungsi mengambil bahagian dalam sesi ujian pengguna. Mereka melihat orang sebenar bertindak balas terhadap mesej status yang berbeza. Melihat pengguna panik kerana skrin tertera "Melaksanakan perdagangan" memaksa pasukan untuk memikirkan semula pendekatan mereka. Jurutera dan pereka bentuk menyelaraskan kata-kata yang lebih baik. Mereka menukar teks kepada "Mengesahkan dana yang mencukupi" sebelum membeli saham. Pengujian bersama-sama menjamin antara muka akhir memberi perkhidmatan logik sistem dan ketenangan fikiran pengguna. Ia memerlukan masa untuk memasukkan aktiviti tambahan ini ke dalam kalendar pasukan. Walau bagaimanapun, hasil akhirnya mestilah pasukan yang berkomunikasi dengan lebih terbuka, dan pengguna yang mempunyai pemahaman yang lebih baik tentang perkara yang dilakukan oleh alat berkuasa AI mereka bagi pihak mereka (dan sebabnya). Pendekatan bersepadu ini merupakan asas untuk mereka bentuk pengalaman AI yang benar-benar boleh dipercayai. Amanah Adalah Pilihan Reka Bentuk Kami sering melihat kepercayaan sebagai hasil sampingan emosi daripada pengalaman pengguna yang baik. Lebih mudah untuk melihat kepercayaan sebagai hasil mekanikal komunikasi yang boleh diramal. Kami membina kepercayaan dengan menunjukkan maklumat yang betul pada masa yang sesuai. Kami memusnahkannya dengan mengatasi pengguna atau menyembunyikan jentera sepenuhnya. Mulakan dengan Audit Nod Keputusan, terutamanya untuk alat dan produk AI ejen. Cari detik di mana sistem membuat panggilan penghakiman. Petakan detik-detik itu ke Matriks Risiko. Jika taruhannya tinggi, buka kotak. Tunjukkan hasil kerja. Dalam artikel seterusnya, kita akan melihat cara mereka bentuk detik ini: cara menulis salinan, menstruktur UI dan mengendalikan ralat yang tidak dapat dielakkan apabila ejen melakukan kesilapan. Lampiran: Senarai Semak Audit Nod Keputusan Fasa 1: Persediaan dan Pemetaan ✅ Kumpulkan pasukan: Bawa pemilik produk, penganalisis perniagaan, pereka,pembuat keputusan utama, dan jurutera yang membina AI. Petunjuk: Anda memerlukan jurutera untuk menerangkan logik bahagian belakang yang sebenar. Jangan cuba langkah ini sahaja. ✅ Lukis keseluruhan proses: Dokumentasikan setiap langkah yang diambil oleh AI, daripada tindakan pertama pengguna hingga hasil akhir. Petunjuk: Sesi papan putih fizikal selalunya berfungsi paling baik untuk mengeluarkan langkah awal ini. Fasa 2: Mencari Logik Tersembunyi ✅ Cari tempat yang tidak jelas: Lihat peta proses untuk mana-mana tempat di mana AI membandingkan pilihan atau input yang tidak mempunyai satu padanan sempurna. ✅ Kenal pasti langkah tekaan terbaik: Untuk setiap tempat yang tidak jelas, semak sama ada sistem menggunakan skor keyakinan. Sebagai contoh, tanya sama ada sistem itu 85 peratus pasti. Ini adalah titik di mana AI membuat pilihan terakhir. ✅ Periksa pilihan: Untuk setiap titik pilihan, fikirkan matematik dalaman khusus atau perbandingan yang sedang dilakukan. Contohnya ialah memadankan sebahagian daripada kontrak dengan polisi. Contoh lain melibatkan membandingkan gambar kereta yang rosak dengan perpustakaan gambar kereta yang rosak. Fasa 3: Mencipta Pengalaman Pengguna ✅ Tulis penjelasan yang jelas: Cipta mesej untuk pengguna yang menerangkan dengan jelas tindakan dalaman khusus yang berlaku apabila AI membuat pilihan. Petunjuk: Dasarkan mesej anda dalam realiti konkrit. Jika AI menempah pertemuan dengan pelanggan di kafe tempatan, beritahu pengguna bahawa sistem sedang menyemak sistem tempahan kafe. ✅ Kemas kini skrin: Letakkan penjelasan baharu yang jelas ini ke dalam antara muka pengguna. Gantikan mesej yang tidak jelas seperti Menyemak kontrak dengan penjelasan khusus anda. ✅ Semak Kepercayaan: Pastikan mesej skrin baharu memberi pengguna alasan mudah untuk sebarang masa menunggu atau keputusan. Ini sepatutnya membuatkan mereka berasa yakin dan percaya. Petunjuk: Uji mesej ini dengan pengguna sebenar untuk mengesahkan mereka memahami hasil khusus yang dicapai.
