Id-disinn għal aġenti awtonomi jippreżenta frustrazzjoni unika. Nagħtu kompitu kumpless lil AI, din tisparixxi għal 30 sekonda (jew 30 minuta), u mbagħad terġa 'lura b'riżultat. Aħna nħarsu lejn l-iskrin. Ħadem? Alluċinat? Iċċekkja d-database tal-konformità jew qabeż dak il-pass? Aħna tipikament nirrispondu għal din l-ansjetà b'wieħed minn żewġ estremi. Aħna jew inżommu s-sistema Black Box, naħbu kollox biex inżommu s-sempliċità, jew inkunu paniku u nipprovdu Data Dump, nistrimjaw kull log line u sejħa API lill-utent. L-ebda approċċ ma jindirizza direttament l-isfumatura meħtieġa biex tipprovdi lill-utenti l-livell ideali ta’ trasparenza. Il-Kaxxa l-Iswed tħalli lill-utenti jħossuhom bla saħħa. Id-Data Dump joħloq għama tan-notifika, u jeqred l-effiċjenza li l-aġent wiegħed li jipprovdi. L-utenti jinjoraw il-fluss kostanti ta 'informazzjoni sakemm tinkiser xi ħaġa, f'liema punt ma jkollhomx il-kuntest biex jirranġawha. Għandna bżonn mod organizzat biex insibu l-bilanċ. Fl-artiklu preċedenti tiegħi, "Designing For Agentic AI", ħares lejn l-elementi tal-interface li jibnu l-fiduċja, bħal li nuru l-azzjoni maħsuba tal-AI minn qabel (Intent Previews) u nagħtu lill-utenti kontroll fuq kemm l-AI tagħmel waħedha (Autonomy Dials). Imma li tkun taf liema elementi tuża hija biss parti mill-isfida. Il-mistoqsija l-aktar diffiċli għad-disinjaturi hija li jkunu jafu meta jużawhom. Kif tkun taf liema mument speċifiku fi fluss tax-xogħol ta' 30 sekonda jeħtieġ Previżjoni tal-Intenzjoni u liema jista' jiġi mmaniġġjat b'dħul ta' log sempliċi? Dan l-artikolu jipprovdi metodu biex twieġeb dik il-mistoqsija. Aħna se nimxu permezz tal-Verifika tan-Nodu tad-Deċiżjoni. Dan il-proċess iġib id-disinjaturi u l-inġiniera fl-istess kamra biex jimmappaw il-loġika backend għall-interface tal-utent. Se titgħallem kif tindika l-mumenti eżatti li utent jeħtieġ aġġornament dwar dak li qed tagħmel l-AI. Aħna se nkopru wkoll matriċi ta 'Impatt/Riskju li se tgħin biex tipprijoritizza liema nodi ta' deċiżjoni se juru u kwalunkwe mudell ta 'disinn assoċjat li jingħaqad ma' dik id-deċiżjoni. Mumenti ta’ Trasparenza: Eżempju ta’ Studju ta’ Każ Ikkunsidra Meridian (mhux isem reali), kumpanija tal-assigurazzjoni li tuża AI aġenti biex tipproċessa t-talbiet inizjali tal-inċidenti. L-utent itella’ ritratti ta’ ħsarat fil-vettura u r-rapport tal-pulizija. L-aġent imbagħad jisparixxi għal minuta qabel ma jirritorna b'valutazzjoni tar-riskju u firxa ta 'ħlas proposta. Inizjalment, l-interface ta 'Meridian sempliċement wera l-Kalkolazzjoni tal-Istatus tat-Talba. L-utenti kibru frustrati. Huma kienu ppreżentaw diversi dokumenti dettaljati u ħassewhom inċerti dwar jekk l-AI kinitx saħansitra rrevediet ir-rapport tal-pulizija, li kien fih ċirkostanzi mitiganti. Il-Kaxxa l-Iswed ħolqot sfiduċja. Biex jirranġa dan, it-tim tad-disinn wettaq Verifika tan-Node tad-Deċiżjoni. Huma sabu li l-AI wettqet tliet passi distinti, ibbażati fuq il-probabbiltà, b'bosta passi iżgħar inkorporati:
Analiżi tal-ImmaġniL-aġent qabbel ir-ritratti tal-ħsara ma 'database ta' xenarji tipiċi ta 'ħabta tal-karozzi biex jistma l-ispiża tat-tiswija. Dan kien jinvolvi punteġġ ta’ fiduċja. Reviżjoni TestwaliDan skennjat ir-rapport tal-pulizija għal kliem prinċipali li jaffettwaw ir-responsabbiltà (eż., tort, kundizzjonijiet tat-temp, sobriety). Dan kien jinvolvi valutazzjoni tal-probabbiltà tal-pożizzjoni legali. Politika Cross ReferenceTqabbel id-dettalji tat-talba mat-termini speċifiċi tal-politika tal-utent, fittex eċċezzjonijiet jew limiti ta 'kopertura. Dan kien jinvolvi wkoll tqabbil probabilistiku.
It-tim biddel dawn il-passi f’mumenti ta’ trasparenza. Is-sekwenza tal-interface ġiet aġġornata għal:
Ritratti tal-Valutazzjoni tal-Ħsara: Tqabbil ma' 500 profil tal-impatt tal-vettura. Ir-Reviżjoni tar-Rapport tal-Pulizija: L-analiżi tal-kliem prinċipali tar-responsabbiltà u l-preċedent legali. Verifika tal-Kopertura tal-Polza: Iċċekkjar għal esklużjonijiet speċifiċi fil-pjan tiegħek.
Is-sistema xorta ħadet l-istess ammont ta 'żmien, iżda l-komunikazzjoni espliċita dwar il-ħidma interna tal-aġent reġgħet reġgħet lura l-fiduċja tal-utent. L-utenti fehmu li l-AI kienet qed twettaq il-kompitu kumpless li kienet iddisinjata għalih, u kienu jafu eżattament fejn għandhom jiffokaw l-attenzjoni tagħhom jekk il-valutazzjoni finali tidher mhux preċiża. Din l-għażla tad-disinn bidlet mument ta’ ansjetà f’mument ta’ konnessjoni mal-utent. L-applikazzjoni tal-Matriċi tal-Impatt/Riskju: Dak li Għażilna li Naħbu Il-biċċa l-kbira tal-esperjenzi tal-AI m'għandhomx nuqqas ta' avvenimenti u nodi ta' deċiżjoni li potenzjalment jistgħu jintwerew waqt l-ipproċessar. Wieħed mill-aktar riżultati kritiċi tal-awditjar kien li jiġi deċiż dak li jżomm inviżibbli. Fl-eżempju Meridian, il-logs backend ġġeneraw avveniment 50+ għal kull talba. Stajna naqas milli nuru kull avveniment hekk kif ġew ipproċessati bħala parti mill-UI. Minflok, applikajna l-matriċi tar-riskju biex niżbruhom:
Avveniment log: Server ta 'pingingWest-2 għall-kontroll tas-sensji. Filtru Verdett: Aħbi. (Stakes Baxxi, Teknika Għolja).
Log Avveniment: Tqabbil tal-istima tat-tiswija mal-valur tal-BlueBook. Filtru Verdett: Uri. (Ħlas Għoli, taffettwa l-ħlas tal-utent).
Billi qatgħu d-dettalji mhux meħtieġa, l-informazzjoni importanti - bħall-verifika tal-kopertura - kellha aktar impatt. Ħloqna interface miftuħ u fassalna esperjenza miftuħa. Dan l-approċċ juża l-idea li n-nies iħossuhom aħjar dwar servizz meta jkunu jistgħu jaraw ix-xogħol li qed isir. Billi wrew il-passi speċifiċi (Valutazzjoni, Reviżjoni, Verifika), biddilna stennija ta’ 30 sekonda minn żmien ta’ inkwiet (“Huwa miksur?”) għal żmien li nħossu li qed tinħoloq xi ħaġa ta’ valur (“Huwa ħsieb”). Issa ejja nagħtu ħarsa aktar mill-qrib lejn kif nistgħu nirrevedu l-proċess tat-teħid tad-deċiżjonijiet fil-prodotti tagħna biex nidentifikaw mumenti ewlenin li jeħtieġu informazzjoni ċara. Il-Verifika tan-Nodu tad-Deċiżjoni It-trasparenza tfalli meta nittrattawha bħala għażla ta’ stil aktar milli rekwiżit funzjonali. Għandna t-tendenza li nistaqsu, "X'għandha tidher l-IU?" qabel ma nistaqsu, "X'qed jiddeċiedi fil-fatt l-aġent?" L-Awditjar tan-Nodu tad-Deċiżjoni huwa mod sempliċi biex is-sistemi tal-AI jsiru aktar faċli biex jinftiehmu. Jaħdem billi jfassal bir-reqqa l-proċess intern tas-sistema. L-għan ewlieni huwa li ssib u tiddefinixxi b'mod ċar il-mumenti eżatti fejn is-sistema tieqaf issegwi r-regoli stabbiliti tagħha u minflok tagħmel għażla bbażata fuq ċans jew stima. Billi jimmappjaw din l-istruttura, il-ħallieqa jistgħu juru dawn il-punti ta 'inċertezza direttament lin-nies li jużaw is-sistema. Dan ibiddel l-aġġornamenti tas-sistema milli jkunu dikjarazzjonijiet vagi għal rapporti speċifiċi u affidabbli dwar kif l-AI waslet għall-konklużjoni tagħha. Minbarra l-istudju tal-każ tal-assigurazzjoni hawn fuq, reċentement ħdimt ma 'tim li jibni aġent tal-akkwist. Is-sistema rrevediet il-kuntratti tal-bejjiegħ u indikat ir-riskji. Oriġinarjament, l-iskrin kien juri strixxa ta' progress sempliċi: "Reviżjoni tal-kuntratti." Utenti hated dan. Ir-riċerka tagħna indikat li ħassewhom ansjużi dwar l-implikazzjonijiet legali ta’ klawżola nieqsa. Irranġajna dan billi għamilna Awditjar tan-Nod tad-Deċiżjoni. Inkludejt lista ta 'kontroll pass pass għat-twettiq ta' din il-verifika fil-konklużjoni ta 'dan l-artikolu. Għaddejna sessjoni mal-inġiniera u ddeskrivejna kif taħdem is-sistema. Aħna identifikajna "Punti ta' Deċiżjoni" - mumenti fejn l-AI kellha tagħżel bejn żewġ għażliet tajbin. Fi programmi tal-kompjuter standard, il-proċess huwa ċar: jekk jiġri A, allura B dejjem jiġri. Fis-sistemi AI, il-proċess huwa spiss ibbażat fuq iċ-ċans. L-AI taħseb li A hija probabbilment l-aħjar għażla, iżda tista 'tkun ċerta biss 65%. Fis-sistema tal-kuntratt, sibna mument meta l-AI ċċekkjat it-termini tar-responsabbiltà kontra r-regoli tal-kumpanija tagħna. Rari kienet taqbila perfetta. L-AI kellha tiddeċiedi jekk taqbila ta' 90% kinitx tajba biżżejjed. Dan kien punt ewlieni ta’ deċiżjoni.
Ladarba identifikajna dan in-nodu, esponejna lill-utent. Minflok "Reviżjoni tal-kuntratti," l-interface aġġornata biex tgħid: "Il-klawżola ta' responsabbiltà tvarja minn mudell standard. L-analiżi tal-livell tar-riskju." Dan l-aġġornament speċifiku ta fiduċja lill-utenti. Kienu jafu li l-aġent iċċekkja l-klawżola ta’ responsabbiltà. Huma fehmu r-raġuni għad-dewmien u kisbu fiduċja li l-azzjoni mixtieqa kienet qed isseħħ fuq wara. Kienu jafu wkoll fejn għandhom iħaffru aktar fil-fond ladarba l-aġent ġġenera l-kuntratt. Biex tiċċekkja kif l-AI tieħu deċiżjonijiet, trid taħdem mill-qrib mal-inġiniera tiegħek, maniġers tal-prodotti, analisti tan-negozju, u nies ewlenin li qed jagħmlu l-għażliet (spiss moħbija) li jaffettwaw kif taħdem l-għodda tal-AI. Iġbed il-passi li tieħu l-għodda. Immarka kull post fejn il-proċess jibdel id-direzzjoni minħabba li tiġi sodisfatta probabbiltà. Dawn huma l-postijiet fejn għandek tiffoka biex tkun aktar trasparenti. Kif muri fil-Figura 2 hawn taħt, il-Verifika tan-Nodu tad-Deċiżjoni tinvolvi dawn il-passi:
Ġib it-tim flimkien: Ġib is-sidien tal-prodotti, l-analisti tan-negozju, id-disinjaturi, dawk li jieħdu d-deċiżjonijiet ewlenin, u l-inġiniera li bnew l-AI. Per eżempju, Aħseb dwar tim tal-prodott li jibni għodda AI maħsuba biex tirrevedi kuntratti legali mħawda. It-tim jinkludi d-disinjatur UX, il-maniġer tal-prodott, ir-riċerkatur UX, avukat prattikanti li jaġixxi bħala l-espert tas-suġġett, u l-inġinier backend li kiteb il-kodiċi tal-analiżi tat-test.
Iġbed il-proċess kollu: Iddokumenta kull pass li tieħu l-AI, mill-ewwel azzjoni tal-utent sal-riżultat finali. It-tim joqgħod fuq whiteboard u jfassal is-sekwenza kollha għal fluss tax-xogħol ewlieni li jinvolvi l-AI tfittex għal klawżola ta 'responsabbiltà f'kuntratt kumpless. L-avukat itella’PDF ta’ ħamsin paġna → Is-sistema tikkonverti d-dokument f’test li jista’ jinqara. → L-AI tiskennja l-paġni għal klawżoli ta’ responsabbiltà. → L-utent jistenna. → Mumenti jew minuti wara, l-għodda tenfasizza l-paragrafi misjuba bl-isfar fuq l-interface tal-utent. Jagħmlu dan għal ħafna flussi tax-xogħol oħra li l-għodda takkomoda wkoll.
Sib fejn l-affarijiet mhumiex ċari: Ħares lejn il-mappa tal-proċess għal kwalunkwe post fejn l-AI tqabbel l-għażliet jew l-inputs li m'għandhomx qbil wieħed perfett. It-tim iħares lejn il-whiteboard biex isib il-passi ambigwi. Il-konverżjoni ta' immaġni għal test issegwi regoli stretti. Is-sejba ta' klawżola ta' responsabbiltà speċifika tinvolvi suppożizzjonijiet. Kull ditta tikteb dawn il-klawsoli b'mod differenti, għalhekk l-AI trid tiżen għażliet multipli u tagħmel tbassir minflok issib taqbila eżatta tal-kliem.
Identifika l-passi 'l-aħjar raden': Għal kull post mhux ċar, iċċekkja jekk is-sistema tużax punteġġ ta' kunfidenza (pereżempju, hija ċerta 85%?). Dawn huma l-punti fejn l-AI tagħmel għażla finali. Is-sistema trid taqta’ (tagħti probabbiltà) liema paragrafu(i) jixbħu mill-qrib klawżola ta’ responsabbiltà standard. Jassenja punteġġ ta 'kunfidenza għall-aħjar raden tiegħu. Dik is-suppożizzjoni hija node ta' deċiżjoni. L-interface jeħtieġ li tgħid lill-avukat li qed jenfasizza taqbila potenzjali, aktar milli tiddikjara li sabet il-klawżola definittiva.
Eżamina l-għażla: Għal kull punt ta’ għażla, ara l-matematika interna speċifika jew il-paragun li qed isir (eż., tqabbel parti minn kuntratt ma’ politika jew tqabbel stampa ta’ karozza miksura ma’ librerija ta’ ritratti ta’ karozzi bil-ħsara). L-inġinier jispjega li s-sistema tqabbel il-paragrafi varji ma 'database ta' klawżoli ta 'responsabbiltà standard minn każijiet ditti tal-passat. Jikkalkula punteġġ ta' xebh tat-test biex jiddeċiedi fuq taqbila bbażata fuq probabbiltajiet.
Ikteb spjegazzjonijiet ċari: Oħloq messaġġi għall-utent li jiddeskrivu b'mod ċar l-azzjoni interna speċifika li sseħħ meta l-AI tagħmel għażla. Id-disinjatur tal-kontenut jikteb messaġġ speċifiku għal dan il-mument eżatt. It-test jaqra: Tqabbil tat-test tad-dokument ma' klawżoli sodi standard biex jiġu identifikati riskji potenzjali ta' responsabbiltà.
Aġġorna l-iskrin: Poġġi dawn l-ispjegazzjonijiet ġodda u ċari fl-interface tal-utent, u ssostitwixxi messaġġi vagi bħal "Reviżjoni tal-kuntratti." It-tim tad-disinn ineħħi l-ispinner ġeneriku tat-tagħbija PDF Processing. Huma jdaħħlu l-ispjegazzjoni l-ġdida fi status bar li jinsab eżatt fuq it-telespettatur tad-dokumenti waqt li l-AI taħseb.
Iċċekkja għal Trust: Kun żgur li l-messaġġi l-ġodda tal-iskrin jagħtu lill-utenti raġuni sempliċi għal kwalunkwe ħin ta’ stennija jew riżultat, li għandu jġiegħelhom iħossuhom aktar kunfidenti u fiduċjużi.
Il-Matriċi tal-Impatt/Riskju Ladarba tħares mill-qrib lejn il-proċess tal-AI, x'aktarx issib ħafna punti fejn tagħmel għażla. AI tista' tagħmel għexieren ta' għażliet żgħar għal kompitu wieħed kumpless. Li turihom kollha toħloq wisq informazzjoni bla bżonn. Għandek bżonn tiġbor dawn l-għażliet. Tista' tuża Matriċi ta' Impatt/Riskju biex issolvi dawn l-għażliet ibbażati fuq it-tipi ta' azzjoni(jiet) li tkun qed tieħu l-AI. Hawn huma eżempji ta' matriċi ta' impatt/riskju: L-ewwel, fittex deċiżjonijiet b'ishma baxxi u b'impatt baxx. Stakes Baxxi / Impatt Baxx
Eżempju: L-organizzazzjoni ta' struttura ta' fajl jew tibdil ta' isem ta' dokument. Ħtieġa ta' Trasparenza: Minima. Notifika toast sottili jew dħul fil-log huma biżżejjed. L-utenti jistgħu jneħħu dawn l-azzjonijiet faċilment.
Imbagħad identifika d-deċiżjonijiet b'riskju għoli u b'impatt għoli. Stakes Għoli / Impatt Għoli
Eżempju: Ir-rifjut ta' applikazzjoni għal self jew l-eżekuzzjoni ta' kummerċ tal-istokk. Ħtieġa ta 'Trasparenza: Għolja. Dawn l-azzjonijiet jeħtieġu Prova tax-Xogħol. Is-sistema trid turi r-raġunament qabel jew immedjatament kif taġixxi.
Ikkunsidra bot ta 'kummerċ finanzjarju li jittratta l-ordnijiet kollha ta' xiri/bejgħ bl-istess mod. Tesegwixxi kummerċ ta '$ 5 bl-istess opaċità bħal kummerċ ta' $ 50,000. L-utenti jistgħu jistaqsu jekk l-għodda tirrikonoxxix l-impatt potenzjali tat-trasparenza fuq il-kummerċ fuq ammont kbir ta’ dollaru. Jeħtieġu li s-sistema tieqaf u turi x-xogħol tagħha għall-kummerċ b'ishma għoljin. Is-soluzzjoni hija li tintroduċi stat tal-Loġika ta 'Reviżjoni għal kwalunkwe tranżazzjoni li taqbeż ammont speċifiku ta' dollaru, li tippermetti lill-utent jara l-fatturi li jmexxu d-deċiżjoni qabel l-eżekuzzjoni. Mapping Nodes għal Disinji: Rubrika tal-Għażla tad-Disinn tad-Disinn Ladarba tkun identifikajt in-nodi tad-deċiżjonijiet ewlenin tal-esperjenza tiegħek, trid tiddeċiedi liema mudell tal-IU japplika għal kull wieħed li ser turi. Fl-Idisinjar Għall-AI Agentic, introduċejna mudelli bħall-Preview tal-Intenzjon (għal kontroll b'ħafna interessi) u l-Verifika tal-Azzjoni (għal sikurezza retrospettiva). Il-fattur deċiżiv fl-għażla bejniethom huwa r-riversibbiltà. Aħna niffiltraw kullnodu tad-deċiżjoni permezz tal-matriċi tal-impatt sabiex jiġi assenjat il-mudell korrett: Stakes Għoli & Irriversibbli: Dawn in-nodi jeħtieġu Preview tal-Intenzjoni. Minħabba li l-utent ma jistax faċilment ineħħi l-azzjoni (eż., iħassar b'mod permanenti database), il-mument tat-trasparenza għandu jseħħ qabel l-eżekuzzjoni. Is-sistema trid tieqaf, tispjega l-intenzjoni tagħha, u teħtieġ konferma. Stakes Għoli & Riversibbli: Dawn in-nodi jistgħu jiddependu fuq il-mudell ta 'Awditjar u Ħoll tal-Azzjoni. Jekk l-aġent tal-bejgħ li jaħdem bl-AI jċaqlaq ċomb għal pipeline differenti, jista 'jagħmel dan b'mod awtonomu sakemm jinnotifika lill-utent u joffri buttuna Neħħi immedjata. Billi nikkategorizzaw b'mod strett in-nodi b'dan il-mod, nevitaw "għeja ta 'twissija." Aħna nirriżervaw il-Preview tal-Intenzjoni ta 'frizzjoni għolja biss għall-mumenti verament irriversibbli, filwaqt li niddependu fuq il-Verifika tal-Azzjoni biex inżommu l-veloċità għal kull ħaġa oħra.
Riversibbli Irriversibbli Impatt Baxx Tip: Auto-ExecuteUI: Toast Passiv / LogEx: Tismija mill-ġdid fajl Tip: ConfirmUI: Opzjoni Sempliċi UndoEx: Arkivjar ta' email Impatt Għoli Tip: ReviewUI: Notifika + Reviżjoni TrailEx: Tibgħat abbozz lil klijent Tip: Preview tal-intenzjoniUI: Permess Modali / EspliċituEx: Tħassir ta' server
Tabella 1: Il-matriċi tal-impatt u r-riversibbiltà tista' mbagħad tintuża biex timmappja l-mumenti ta' trasparenza tiegħek għal mudelli tad-disinn. Validazzjoni Kwalitattiva: "Il-Stennija, Għaliex?" Test Tista 'tidentifika nodi potenzjali fuq whiteboard, iżda trid tivvalidahom bl-imġieba tal-bniedem. Trid tivverifika jekk il-mappa tiegħek taqbilx mal-mudell mentali tal-utent. Jien nuża protokoll imsejjaħ "Stenna, Għaliex?" Test. Staqsi utent biex tara l-aġent iwettaq kompitu. Għidhom biex jitkellmu b’leħen għoli. Kull meta jistaqsu mistoqsija, "Stenna, għaliex għamel hekk?" jew "Huwa mwaħħla?" jew "Smajtni?" — inti timmarka timestamp. Dawn il-mistoqsijiet jindikaw konfużjoni tal-utent. L-utent iħoss il-kontroll tagħhom jiżolqu. Pereżempju, fi studju għal assistent tal-iskedar tal-kura tas-saħħa, l-utenti raw lill-aġent jibbukkja appuntament. L-iskrin qagħad statiku għal erba' sekondi. Il-parteċipanti staqsew b'mod konsistenti, "Qed jiċċekkja l-kalendarju tiegħi jew tat-tabib?"
Dik il-mistoqsija żvelat Mument ta’ Trasparenza nieqes. Is-sistema kellha bżonn taqsam dik l-istennija ta’ erba’ sekondi f’żewġ passi distinti: “Iċċekkja d-disponibbiltà tiegħek” segwit minn “Sinkronizza mal-iskeda tal-fornitur.” Din il-bidla żgħira naqqset il-livelli espressi tal-utenti ta 'ansjetà. It-trasparenza tfalli meta tiddeskrivi biss azzjoni tas-sistema. L-interface għandu jgħaqqad il-proċess tekniku mal-għan speċifiku tal-utent. Skrin li juri "Iċċekkja d-disponibbiltà tiegħek" jaqa 'ċatt minħabba li m'għandux kuntest. L-utent jifhem li l-AI qed tħares lejn kalendarju, iżda ma jafux għaliex. Irridu ngħaqqdu l-azzjoni mar-riżultat. Is-sistema trid taqsam dik l-istennija ta’ erba’ sekondi f’żewġ passi distinti. L-ewwel, l-interface turi "Iċċekkja l-kalendarju tiegħek biex issib ħinijiet miftuħa." Imbagħad jaġġorna għal "Sinkronizzazzjoni mal-iskeda tal-fornitur biex tiżgura l-appuntament tiegħek." Dan ibbaża l-proċess tekniku fil-ħajja attwali tal-utent. Ikkunsidra inventarju tal-ġestjoni tal-AI għal kafetterija lokali. Is-sistema tiltaqa' ma' nuqqas ta' provvista. Interface li taqra "tikkuntattja lill-bejjiegħ" jew "għażliet ta 'reviżjoni" toħloq ansjetà. Il-maniġer jistaqsi jekk is-sistema hijiex tikkanċella l-ordni jew tixtrix alternattiva għalja. Approċċ aħjar huwa li tispjega r-riżultat intenzjonat: "L-evalwazzjoni ta' fornituri alternattivi biex iżżomm l-iskeda tal-kunsinna tiegħek il-Ġimgħa." Dan jgħid lill-utent eżattament dak li l-AI qed tipprova tikseb. Operazzjonalizzar tal-Verifika Int imlejt il-Verifika tan-Nodu tad-Deċiżjoni u ffiltrajt il-lista tiegħek permezz tal-Matriċi tal-Impatt u tar-Riskju. Issa għandek lista ta’ mumenti essenzjali biex tkun trasparenti. Sussegwentement, għandek bżonn toħloqhom fl-UI. Dan il-pass jeħtieġ ħidma f'tim f'dipartimenti differenti. Ma tistax tfassal it-trasparenza waħdek billi tuża għodda tad-disinn. Trid tifhem kif taħdem is-sistema wara l-kwinti. Ibda b'Reviżjoni Loġika. Iltaqa' mad-disinjatur ewlieni tas-sistema tiegħek. Ġib il-mappa tiegħek tan-nodi tad-deċiżjonijiet. Trid tikkonferma li s-sistema fil-fatt tista' taqsam dawn l-istati. Spiss insib li s-sistema teknika ma tiżvelax l-istat eżatt li rrid nuri. L-inġinier jista 'jgħid li s-sistema tirritorna biss status ġenerali ta' "ħidma". Int trid timbotta għal aġġornament dettaljat. Għandek bżonn is-sistema biex tibgħat avviż speċifikumeta taqleb mill-qari tat-test għar-regoli tal-iċċekkjar. Mingħajr dik il-konnessjoni teknika, id-disinn tiegħek huwa impossibbli li jinbena. Sussegwentement, involvi lit-tim tad-Disinn tal-Kontenut. Għandek ir-raġuni teknika għall-azzjoni tal-AI, iżda għandek bżonn spjegazzjoni ċara u faċli għall-bniedem. L-inġiniera jipprovdu l-proċess sottostanti, iżda d-disinjaturi tal-kontenut jipprovdu l-mod kif jiġi kkomunikat. Tiktebx dawn il-messaġġi waħedhom. Żviluppatur jista 'jikteb "Eżekuzzjoni tal-funzjoni 402," li hija teknikament korretta iżda bla sens għall-utent. Disinjatur jista 'jikteb "Thinking," li hija faċli iżda vaga wisq. Strategist tal-kontenut isib it-triq tan-nofs it-tajba. Huma joħolqu frażijiet speċifiċi, bħal "Scanning għal riskji ta 'responsabbiltà", li juru li l-AI qed taħdem mingħajr ma tħawwad lill-utent. Fl-aħħarnett, ittestja t-trasparenza tal-messaġġi tiegħek. Tistennax sakemm jinbena l-prodott finali biex tara jekk it-test jaħdemx. Nagħmel testijiet ta' tqabbil fuq prototipi sempliċi fejn l-unika ħaġa li tinbidel hija l-messaġġ tal-istatus. Pereżempju, nuri grupp wieħed (Grupp A) messaġġ li jgħid "Verifika tal-identità" u grupp ieħor (Grupp B) messaġġ li jgħid "Iċċekkjar databases tal-gvern" (dawn huma eżempji magħmula, imma int tifhem il-punt). Imbagħad nistaqsihom liema AI tħossha aktar sigura. Ħafna drabi tiskopri li ċertu kliem jikkawża inkwiet, filwaqt li oħrajn jibnu l-fiduċja. Int trid tittratta l-kliem bħala xi ħaġa li għandek bżonn biex tittestja u tipprova effettiva. Kif Dan Ibiddel il-Proċess tad-Disinn It-twettiq ta’ dawn il-verifiki għandu l-potenzjal li jsaħħaħ kif tim jaħdem flimkien. Nieqfu ngħaddu fajls tad-disinn illustrati. Nibdew nużaw prototipi messy u spreadsheets kondiviżi. L-għodda ewlenija ssir matriċi ta 'trasparenza. L-inġiniera u d-disinjaturi tal-kontenut jeditjaw din l-ispreadsheet flimkien. Huma jimmappaw il-kodiċijiet tekniċi eżatti mal-kliem li l-utent se jaqra. It-timijiet se jesperjenzaw frizzjoni waqt ir-reviżjoni tal-loġika. Immaġina disinjatur jistaqsi lill-inġinier kif l-AI tiddeċiedi li tirrifjuta tranżazzjoni sottomessa fuq rapport tal-ispejjeż. L-inġinier jista 'jgħid li l-backend joħroġ biss kodiċi ta' status ġeneriku bħal "Żball: Dejta Nieqsa". Id-disinjatur jgħid li din mhix informazzjoni azzjonabbli fuq l-iskrin. Id-disinjatur jinnegozja mal-inġinier biex joħloq ganċ tekniku speċifiku. L-inġinier jikteb regola ġdida sabiex is-sistema tirrapporta eżattament dak li hu nieqes, bħal immaġini tal-irċevuta nieqsa. Id-disinjaturi tal-kontenut jaġixxu bħala tradutturi matul din il-fażi. Żviluppatur jista’ jikteb sensiela teknikament preċiża bħal “Kalkolazzjoni tal-limitu ta’ kunfidenza għat-tqabbil tal-bejjiegħ”. Disinjatur tal-kontenut jittraduċi dik is-sekwenza fi frażi li tibni l-fiduċja għal riżultat speċifiku. L-istrateġista jiktebha bħala "Tqabbil tal-prezzijiet tal-bejjiegħ lokali biex tiżgura l-kunsinna tiegħek il-Ġimgħa." L-utent jifhem l-azzjoni u r-riżultat. It-tim trans-funzjonali kollu joqgħod fuq sessjonijiet ta 'ttestjar tal-utenti. Jaraw persuna reali tirreaġixxi għal messaġġi ta' status differenti. Li tara paniku tal-utent minħabba li l-iskrin jgħid "L-eżekuzzjoni tal-kummerċ" iġġiegħel lit-tim jerġa 'jaħseb mill-ġdid tal-approċċ tiegħu. L-inġiniera u d-disinjaturi jallinjaw fuq kliem aħjar. Huma jibdlu t-test għal "Verifika ta 'fondi suffiċjenti" qabel jixtru l-istokk. L-ittestjar flimkien jiggarantixxi li l-interface finali sservi kemm il-loġika tas-sistema kif ukoll is-serħan tal-moħħ tal-utent. Jeħtieġ iż-żmien biex jiġu inkorporati dawn l-attivitajiet addizzjonali fil-kalendarju tat-tim. Madankollu, ir-riżultat aħħari għandu jkun tim li jikkomunika b'mod aktar miftuħ, u utenti li jifhmu aħjar x'qed jagħmlu l-għodod tagħhom li jaħdmu bl-AI f'isimhom (u għaliex). Dan l-approċċ integrat huwa l-pedament tat-tfassil ta’ esperjenzi ta’ AI tassew affidabbli. Il-Fiduċja Hija Għażla tad-Disinn Ħafna drabi nqisu l-fiduċja bħala prodott sekondarju emozzjonali ta’ esperjenza tajba tal-utent. Huwa aktar faċli li tara l-fiduċja bħala riżultat mekkaniku ta 'komunikazzjoni prevedibbli. Nibnu l-fiduċja billi nuru l-informazzjoni t-tajba fil-ħin it-tajjeb. Aħna neqirduha billi ngħelbu lill-utent jew naħbu l-makkinarju kompletament. Ibda bil-Verifika tan-Nod tad-Deċiżjoni, partikolarment għal għodod u prodotti AI aġenti. Sib il-mumenti fejn is-sistema tagħmel sejħa għal ġudizzju. Ippjana dawk il-mumenti fil-Matriċi tar-Riskju. Jekk l-ishma huma għoljin, iftaħ il-kaxxa. Uri x-xogħol. Fl-artiklu li jmiss, se nħarsu lejn kif niddisinjaw dawn il-mumenti: kif tikteb il-kopja, tistruttura l-UI, u timmaniġġja l-iżbalji inevitabbli meta l-aġent jiżbalja. Appendiċi: Il-Lista ta' Kontroll tal-Verifika tan-Nodi tad-Deċiżjoni Fażi 1: Setup u Mapping ✅ Ġib it-tim flimkien: Ġib is-sidien tal-prodotti, l-analisti tan-negozju, id-disinjaturi,dawk li jieħdu d-deċiżjonijiet ewlenin, u l-inġiniera li bnew l-AI. Ħjiel: Għandek bżonn l-inġiniera biex jispjegaw il-loġika backend attwali. Tippruvax dan il-pass waħdu. ✅ Iġbed il-proċess kollu: Iddokumenta kull pass li tieħu l-AI, mill-ewwel azzjoni tal-utent sal-riżultat finali. Ħjiel: Sessjoni fiżika tal-whiteboard ħafna drabi taħdem l-aħjar biex tiġbed dawn il-passi inizjali. Fażi 2: Issib il-Loġika Moħbija ✅ Sib fejn l-affarijiet mhumiex ċari: Ħares lejn il-mappa tal-proċess għal kwalunkwe post fejn l-AI tqabbel l-għażliet jew l-inputs li m'għandhomx qbil wieħed perfett. ✅ Identifika l-aħjar passi ta' raden: Għal kull post mhux ċar, iċċekkja jekk is-sistema tużax punteġġ ta' kunfidenza. Per eżempju, staqsi jekk is-sistema hijiex ċerta 85 fil-mija. Dawn huma l-punti fejn l-AI tagħmel għażla finali. ✅ Eżamina l-għażla: Għal kull punt tal-għażla, ara l-matematika interna speċifika jew il-paragun li qed isir. Eżempju huwa t-tqabbil ta' parti minn kuntratt ma' polza. Eżempju ieħor jinvolvi t-tqabbil ta’ stampa ta’ karozza miksura ma’ librerija ta’ ritratti ta’ karozzi bil-ħsara. Fażi 3: Ħolqien tal-Esperjenza tal-Utent ✅ Ikteb spjegazzjonijiet ċari: Oħloq messaġġi għall-utent li jiddeskrivu b'mod ċar l-azzjoni interna speċifika li sseħħ meta l-AI tagħmel għażla. Ħjiel: Ibbaża l-messaġġi tiegħek f'realtà konkreta. Jekk AI tibbukkja laqgħa ma' klijent f'kafetterija lokali, għid lill-utent li s-sistema qed tiċċekkja s-sistema ta' riservazzjoni tal-kafetterija. ✅ Aġġorna l-iskrin: Poġġi dawn l-ispjegazzjonijiet ġodda u ċari fl-interface tal-utent. Ibdel messaġġi vagi bħal Reviżjoni tal-kuntratti bl-ispjegazzjonijiet speċifiċi tiegħek. ✅ Iċċekkja għal Trust: Kun żgur li l-messaġġi l-ġodda tal-iskrin jagħtu lill-utenti raġuni sempliċi għal kwalunkwe ħin ta’ stennija jew riżultat. Dan għandu jġiegħelhom iħossuhom kunfidenti u fiduċjużi. Ħjiel: Ittestja dawn il-messaġġi mal-utenti attwali biex tivverifika li jifhmu r-riżultat speċifiku li qed jinkiseb.
