V prvem delu te serije smo vzpostavili temeljni premik od generativne k agentski umetni inteligenci. Raziskali smo, zakaj ta preskok od predlaganja k delovanju zahteva novo psihološko in metodološko orodje za raziskovalce UX, produktne vodje in vodje. Opredelili smo taksonomijo vedenj agentov, od predlaganja do samostojnega delovanja, orisali bistvene raziskovalne metode, opredelili tveganja blata agentov in določili meritve odgovornosti, potrebne za krmarjenje po tem novem ozemlju. Pokrili smo kaj in zakaj. Zdaj se premaknemo od temeljev k funkcionalnosti. Ta članek podaja, kako: konkretne vzorce načrtovanja, operativne okvire in organizacijske prakse, bistvenega pomena za gradnjo agentskih sistemov, ki niso samo zmogljivi, ampak tudi pregledni, nadzorovani in vredni zaupanja uporabnikov. Če je naša raziskava diagnostično orodje, so ti vzorci načrt zdravljenja. So praktični mehanizmi, prek katerih lahko uporabnikom damo oprijemljiv občutek nadzora, čeprav AI podelimo avtonomijo brez primere. Cilj je ustvariti izkušnjo, kjer se avtonomija počuti kot privilegij, ki ga podeli uporabnik, in ne kot pravica, ki si jo prilasti sistem. Osnovni vzorci UX za sisteme Agentic Oblikovanje za agentski AI je oblikovanje za odnos. Ta odnos, kot vsako uspešno partnerstvo, mora biti zgrajen na jasni komunikaciji, medsebojnem razumevanju in postavljenih mejah. Za upravljanje prehoda od predloga k dejanju uporabljamo šest vzorcev, ki sledijo funkcionalnemu življenjskemu ciklu agentske interakcije:
Pre-Action (Vzpostavitev namena) Predogled namena in gumb za avtonomijo zagotavljata, da uporabnik določi načrt in agentove meje, preden se kar koli zgodi. V akciji (zagotavljanje konteksta) Razložljiva utemeljitev in signal zaupanja ohranjata preglednost, medtem ko agent deluje, in prikazujeta »zakaj« in »kako gotovo«. Post-Action (varnost in obnovitev) Action Audit & Undo in Escalation Pathway zagotavljata varnostno mrežo za napake ali zelo dvoumne trenutke.
Spodaj bomo podrobno obravnavali vsak vzorec, vključno s priporočili za meritve uspeha. Ti cilji so reprezentativna merila uspešnosti, ki temeljijo na industrijskih standardih; jih prilagodite glede na tveganje vaše domene. 1. Predogled namena: razjasnitev, kaj in kako Ta vzorec je pogovorni ekvivalent reči: "Evo, kar bom naredil. Se strinjate s tem?" To je temeljni trenutek iskanja soglasja v odnosu uporabnik-agent. Preden agent izvede kakršno koli pomembno dejanje, mora uporabnik jasno in nedvoumno razumeti, kaj se bo zgodilo. Predogled namena ali povzetek načrta vzpostavi informirano soglasje. Je pogovorni premor pred akcijo, ki črno skrinjico avtonomnih procesov spremeni v pregleden načrt, ki ga je mogoče pregledati. Psihološka podlaga Predstavitev načrta pred dejanjem zmanjša kognitivno obremenitev in odpravi presenečenje, uporabnikom pa omogoči trenutek, da preverijo, ali agent resnično razume njihov namen. Anatomija predogleda učinkovitega namena:
Jasnost in jedrnatost Predogled mora biti takoj prebavljiv. Povzemati mora primarna dejanja in rezultate v preprostem jeziku in se izogibati tehničnemu žargonu. Na primer, namesto »Izvajanje klica API-ja za cancel_booking(id: 4A7B)« bi moralo biti navedeno »Prekliči let AA123 v San Francisco«. Zaporedni koraki Za večstopenjske operacije mora predogled orisovati ključne faze. To razkrije agentovo logiko in uporabnikom omogoči, da opazijo morebitne težave v predlaganem zaporedju. Počisti dejanja uporabnika Predogled je točka odločitve in ne le obvestilo. Spremljati ga mora jasen nabor izbir. To je trenutek namernega trenja, "ležišča" v procesu, ki je zasnovan tako, da zagotovi, da uporabnik sprejema zavestno izbiro, zlasti za nepovratna dejanja ali dejanja z visokimi vložki.
Ponovno si oglejmo naš scenarij potovalnega pomočnika iz prvega dela te serije. Tega proaktivnega pomočnika uporabljamo za ponazoritev, kako agent obravnava odpoved leta. Agent je zaznal odpoved leta in oblikoval obnovitveni načrt. Predogled namere bi bil videti nekako takole: Predlagani načrt za prekinitev vašega potovanja. Zaznal sem, da je bil vaš let ob 10.05 odpovedan. Načrtujem naslednje: Preklic leta UA456 Obdelajte vračilo in potrdite podrobnosti odpovedi. Ponovno rezervirajte na letu DL789 Rezervirajte potrjen sedež na letu brez postankov ob 14.30, saj je to naslednji razpoložljiv let brez postankov zpotrjen sedež. Posodobite hotelsko rezervacijo. Obvestite Marriott, da boste prispeli pozno. Posodobljeni načrt poti po e-pošti. Pošljite nove podatke o letu in hotelu vam in vaši pomočnici Jane Doe.[ Nadaljuj s tem načrtom ] [ Uredi načrt ] [ Ukvarjam se sam ]
Ta predogled je učinkovit, ker zagotavlja popolno sliko, od preklica do komunikacije, in ponuja tri različne poti naprej: popolno soglasje (Nadaljuj), željo po spremembi (Uredi načrt) ali popolno preglasitev (Uredi sam). Ta večplastni nadzor je temelj zaupanja.
Kdaj dati prednost temu vzorcu. O tem vzorcu se ni mogoče pogajati za kakršno koli dejanje, ki je nepreklicno (npr. brisanje uporabniških podatkov), vključuje finančno transakcijo kakršnega koli zneska, deljenje informacij z drugimi ljudmi ali sistemi ali naredi pomembno spremembo, ki je uporabnik ne more preprosto razveljaviti. Tveganje opustitve Brez tega se uporabniki počutijo napadene zaradi agentovih dejanj in bodo onemogočili funkcijo, da bi ponovno pridobili nadzor. Meritve za uspeh:
Razmerje sprejemljivosti Načrti, sprejeti brez urejanja/prikazani skupni načrti. Cilj > 85 %. Preglasi FrequencyTotal Handle it Sam Kliki / prikazani skupni načrti. Stopnja > 10 % sproži pregled modela. Recall AccuracyPercente udeležencev testa, ki lahko pravilno navedejo korake načrta 10 sekund po tem, ko je predogled skrit.
Uporaba tega za domene z visokimi vložki Medtem ko so potovalni načrti primerljiva osnova, ta vzorec postane nepogrešljiv v zapletenih okoljih z visokimi vložki, kjer napaka za posameznika na potovanju povzroči več kot le neprijetnosti. Mnogi od nas delamo v okoljih, kjer lahko napačne odločitve povzročijo izpad sistema, ogrožajo bolnikovo varnost ali številne druge katastrofalne posledice, ki bi jih povzročila nezanesljiva tehnologija. Razmislite o DevOps Release Agentu, ki je zadolžen za upravljanje infrastrukture v oblaku. V tem kontekstu Intent Preview deluje kot varnostna ovira proti nenamernim izpadom.
V tem vmesniku posebna terminologija (izčrpavanje prometa, povrnitev nazaj) nadomešča splošnosti, dejanja pa so binarna in učinkovita. Uporabnik odobri večji operativni premik na podlagi agentove logike, namesto da bi odobril predlog. 2. Številčnica avtonomije: umerjanje zaupanja s progresivno avtorizacijo Vsak zdrav odnos ima meje. Autonomy Dial je način, kako ga uporabnik vzpostavi s svojim agentom in definira, kaj jim ustreza, če agent upravlja sam. Zaupanje ni binarno stikalo; to je spekter. Uporabnik lahko zaupa agentu, da bo samostojno obravnaval naloge z nizkimi vložki, vendar zahteva popolno potrditev za odločitve z visokimi vložki. Autonomy Dial, oblika progresivne avtorizacije, omogoča uporabnikom, da nastavijo želeno raven neodvisnosti agenta, zaradi česar postanejo aktivni udeleženci pri definiranju odnosa. Psihološka podlaga Če uporabnikom omogočite, da prilagodijo agentovo avtonomijo, jim zagotovite lokus nadzora, kar jim omogoča prilagajanje vedenja sistema njihovi osebni toleranci do tveganja. Implementacija To je mogoče implementirati kot preprosto, jasno nastavitev v aplikaciji, idealno za vsako vrsto naloge. Z uporabo taksonomije iz našega prvega članka so lahko nastavitve:
Opazujte in predlagajte. Želim biti obveščen o priložnostih ali težavah, vendar agent ne bo nikoli predlagal načrta. Načrtuj in predlagaj Agent lahko ustvari načrte, vendar moram vsakega pregledati, preden izvedem kakršno koli dejanje. Ukrepajte s potrditvijo Za znane naloge lahko agent pripravi dejanja, jaz pa bom podal končno potrditev za začetek/prepoved. Deluj samostojno Za vnaprej odobrene naloge (npr. izpodbijanje stroškov pod 50 USD) lahko zastopnik deluje neodvisno in me naknadno obvesti.
E-poštni pomočnik, na primer, bi lahko imel ločeno številčnico za avtonomijo za načrtovanje sestankov v primerjavi s pošiljanjem e-pošte v imenu uporabnika. Ta razdrobljenost je ključna, saj odraža niansirano resničnost uporabnikovega zaupanja. Kdaj dati prednost temu vzorcu. Dajte prednost temu vzorcu v sistemih, kjer se naloge zelo razlikujejo glede tveganja in osebnih preferenc (npr. orodja za finančno upravljanje, komunikacijske platforme). Bistvenega pomena je za vkrcanje, saj uporabnikom omogoča, da začnejo z nizko avtonomijo in jo povečujejo, ko njihovo zaupanje raste. Tveganje opustitve Brez tega bodo uporabniki, ki doživijo eno samo napako, popolnoma opustili agenta, namesto da bi preprosto preklicali njegova dovoljenja. Meritve za uspeh:
Trust DensityPercentage razčlenitev uporabnikov glede na nastavitev (npr. 20 % predlagano, 50 % potrjeno, 30 % samodejno). Setting ChurnŠtevilo sprememb nastavitev / skupno število aktivnih uporabnikov na mesec. Visok odliv kaže na zaupanjenestanovitnost.
3. Razložljiva utemeljitev: odgovor zakaj? Po dejanju dober partner razloži svoje razloge. Ta vzorec je odprta komunikacija, ki sledi dejanju in odgovarja Zakaj? preden je sploh vprašan. "To sem naredil, ker ste mi v preteklosti rekli, da imate raje X." Ko agent deluje, zlasti avtonomno, je takojšnje vprašanje v mislih uporabnika pogosto, Zakaj je to storil? Vzorec Explainable Rationale proaktivno odgovarja na to vprašanje in zagotavlja jedrnato utemeljitev agentovih odločitev. To ni tehnična dnevniška datoteka. V mojem prvem članku iz te serije smo razpravljali o prevajanju sistemskih primitivov v uporabniški jezik, da preprečimo prevaro. Ta vzorec je praktična uporaba tega načela. Preoblikuje surovo logiko v človeku berljivo razlago, ki temelji na uporabnikovih lastnih navedenih preferencah in predhodnih vnosih. Psihološka podlaga Ko so agentova dejanja razložljiva, se zdijo logična in ne naključna, kar uporabniku pomaga zgraditi natančen mentalni model tega, kako agent razmišlja. Učinkovite utemeljitve:
Temelji na precedensu. Najboljše razlage so povezane s pravilom, preferenco ali predhodnim dejanjem. Enostavna in neposredna Izogibajte se zapleteni pogojni logiki. Uporabite preprosto strukturo »Ker ste rekli X, sem naredil Y«.
Če se vrnemo k primeru potovanja, potem ko je let avtonomno ponovno rezerviran, lahko uporabnik to vidi v svojem viru obvestil: Ponovno sem rezerviral vaš odpovedan let. Nov let: Delta 789 z odhodom ob 14.30. Zakaj sem izvedel to dejanje: vaš prvotni let je odpovedal letalski prevoznik. Vnaprej ste odobrili avtonomno ponovno rezervacijo za enodnevne lete brez postankov.[ Ogled novega načrta potovanja ] [ Razveljavi to dejanje ]
Utemeljitev je jasna, upravičljiva in krepi idejo, da agent deluje znotraj meja, ki jih je določil uporabnik. Kdaj dati prednost temu vzorcu. Dajte mu prednost kakršnim koli avtonomnim dejanjem, kjer razlogi niso takoj očitni iz konteksta, zlasti za dejanja, ki se zgodijo v ozadju ali jih sproži zunanji dogodek (kot je primer odpovedi leta). Tveganje opustitve Brez tega si uporabniki veljavna avtonomna dejanja razlagajo kot naključno vedenje ali "hrošče", kar jim preprečuje oblikovanje pravilnega miselnega modela. Meritve za uspeh:
Zakaj? Količina vstopnic Število prijav za podporo z oznako »Vedenje agenta — Nejasno« na 1000 aktivnih uporabnikov. Utemeljitev Preverjanje Odstotek uporabnikov, ki ocenijo razlago kot "Koristno" v mikroanketah po interakciji.
4. Signal zaupanja Ta vzorec govori o tem, da se agent v odnosu zaveda samega sebe. S sporočanjem lastne samozavesti uporabniku pomaga pri odločitvi, kdaj zaupati njegovi presoji in kdaj uporabiti več nadzora. Da bi uporabnikom pomagal umeriti njihovo lastno zaupanje, bi moral posrednik pokazati svoje lastno zaupanje v svoje načrte in dejanja. Zaradi tega je agentovo notranje stanje bolj čitljivo in uporabniku pomaga pri odločitvi, kdaj naj natančneje preuči odločitev. Psihološka podlaga Odkrivanje negotovosti pomaga preprečiti pristranskost avtomatizacije in spodbuja uporabnike, da natančno preučijo načrte z nizko stopnjo zaupanja, namesto da jih slepo sprejmejo. Izvedba:
Ocena zaupanja Preprost odstotek (npr. zaupanje: 95 %) je lahko hiter indikator, ki ga je mogoče pregledati. Izjava o obsegu Jasna izjava o agentovem strokovnem področju (npr. Obseg: samo rezervacije potovanj) pomaga upravljati pričakovanja uporabnikov in jim preprečuje, da bi od agenta zahtevali, da opravi naloge, za katere ni zasnovan. Vizualni znaki Zelena kljukica lahko označuje visoko stopnjo zaupanja, medtem ko rumeni vprašaj lahko označuje negotovost, kar uporabnika spodbudi k natančnejšemu pregledu.
Kdaj dati prednost temu vzorcu. Dajte prednost, ko se agentova uspešnost lahko znatno razlikuje glede na kakovost vhodnih podatkov ali dvoumnost naloge. Posebej je dragocen v ekspertnih sistemih (npr. medicinski pripomočki, pomočniki kode), kjer mora človek kritično oceniti izhod umetne inteligence. Tveganje opustitve Brez tega bodo uporabniki postali žrtev pristranskosti avtomatizacije, slepo sprejemali halucinacije z nizko stopnjo zaupanja ali zaskrbljeno dvakrat preverjali delo z visoko stopnjo zaupanja. Meritve za uspeh:
Calibration ScorePearsonova korelacija med oceno zaupanja modela in stopnjo sprejemljivosti uporabnika. Cilj > 0,8. Pregled Delta Razlika med povprečnim časom pregleda načrtov z nizko stopnjo zaupanja in načrtov z visoko stopnjo zaupanja. Pričakuje se, da bo pozitiven (npr. +12 sekund).
5. Revizija in razveljavitev dejanj: najboljša varnostna mreža Zaupanje zahteva zavedanje, da si lahko opomorete od napake. Razveljavitevfunkcija je največja varnostna mreža za odnos, ki uporabniku zagotavlja, da posledice niso katastrofalne, tudi če posrednik napačno razume. Najmočnejši mehanizem za ustvarjanje zaupanja uporabnikov je zmožnost enostavne razveljavitve agentovega dejanja. Vztrajen, lahko berljiv dnevnik revizije dejanj z vidnim gumbom Razveljavi za vsako možno dejanje je najboljša varnostna mreža. Dramatično zmanjša zaznano tveganje podelitve avtonomije. Psihološka podlaga Zavedanje, da je napako mogoče enostavno razveljaviti, ustvarja psihološko varnost in spodbuja uporabnike, da prenesejo naloge brez strahu pred nepopravljivimi posledicami. Najboljše prakse oblikovanja:
Pogled časovnice Kronološki dnevnik vseh dejanj, ki jih sproži agent, je najbolj intuitiven format. Indikatorji za brisanje statusa Prikažejo, ali je bilo dejanje uspešno, ali je v teku ali je bilo razveljavljeno. Časovno omejene razveljavitve Za dejanja, ki po določenem trenutku postanejo nepreklicna (npr. rezervacija brez možnosti vračila denarja), mora uporabniški vmesnik jasno sporočiti to časovno okno (npr. razveljavitev je na voljo 15 minut). Ta preglednost glede sistemskih omejitev je enako pomembna kot sama zmožnost razveljavitve. Iskrenost glede tega, kdaj dejanje postane trajno, gradi zaupanje.
Kdaj dati prednost temu vzorcu. To je temeljni vzorec, ki ga je treba implementirati v skoraj vse agentske sisteme. Pri uvajanju avtonomnih funkcij ali kadar je strošek napake (finančne, socialne ali podatkovne) visok, se o tem ni mogoče pogajati. Tveganje opustitve Brez tega ena napaka trajno uniči zaupanje, saj se uporabniki zavedajo, da nimajo varnostne mreže. Meritve za uspeh:
Stopnja razveljavitve Nedokončana dejanja / Skupno število izvedenih dejanj. Če je stopnja reverzije > 5 % za določeno nalogo, onemogočite avtomatizacijo za to nalogo. Odstotek konverzije varnostne mreže uporabnikov, ki nadgradijo na Samostojno delovanje v 7 dneh po uspešni uporabi Razveljavi.
6. Pot stopnjevanja: elegantno ravnanje z negotovostjo Pameten partner ve, kdaj prositi za pomoč, namesto da ugiba. Ta vzorec agentu omogoča elegantno obvladovanje dvoumnosti tako, da stopnjuje do uporabnika in izkazuje ponižnost, ki gradi zaupanje, namesto da ga razjeda. Celo najnaprednejši agent se bo srečal s situacijami, ko ni prepričan o uporabnikovem namenu ali najboljšem načinu ukrepanja. Odločilni trenutek je, kako obravnava to negotovost. Dobro zasnovan agent ne ugiba; se stopnjuje. Psihološka podlaga Ko agent priznava svoje meje, namesto da ugiba, gradi zaupanje s spoštovanjem avtoritete uporabnika v dvoumnih situacijah. Vzorci stopnjevanja vključujejo:
Zahteva za pojasnilo »Omenili ste 'naslednji torek'. Ali mislite 30. septembra ali 7. oktobra?« Predstavitev možnosti "Našel sem tri lete, ki ustrezajo vašim merilom. Kateri se vam zdi najboljši?" Zahteva za človeško posredovanje Za naloge z visokimi vložki ali zelo dvoumne naloge mora imeti agent jasno pot do vključitve človeškega strokovnjaka ali podpornega agenta. Poziv je lahko: "Ta transakcija se zdi nenavadna in nisem prepričan, kako nadaljevati. Ali želite, da to označim z zastavico, da jo pregleda človeški agent?"
Kdaj dati prednost temu vzorcu. Dajte prednost domenam, kjer so nameni uporabnika lahko dvoumni ali močno odvisni od konteksta (npr. interakcije naravnega jezika, zapletene podatkovne poizvedbe). Uporabite to, kadar agent deluje z nepopolnimi informacijami ali ko obstaja več pravilnih poti. Tveganje opustitve Brez tega bo agent sčasoma naredil samozavestno, katastrofalno ugibanje, ki bo uporabnika odtujilo. Meritve za uspeh:
Frekvenca eskalacije Zahtevki agenta za pomoč/Skupaj opravil. Zdravo območje: 5-15 %. Stopnja uspešnosti obnovitve. Opravila, dokončana po eskalaciji/skupne eskalacije. Cilj > 90 %.
Vzorec Najboljše za Primarno tveganje Ključna metrika Predogled namere Nepovratna ali finančna dejanja Uporabnik se počuti v zasedi >85 % sprejemljiva stopnja Avtonomija Dial Naloge s spremenljivimi stopnjami tveganja Popolna opustitev funkcije Nastavitev Odliva Razložljiva utemeljitev Ozadja ali avtonomne naloge Uporabnik zazna napake "Zakaj?" Količina vozovnice Signal zaupanja Strokovni sistemi ali sistemi z visokimi vložki Pristranskost avtomatizacije Pregled Delta Nadzor in razveljavitev dejanj Vsi agentski sistemi Trajna izguba zaupanja <5 %Stopnja reverzije Pot stopnjevanja Dvoumen namen uporabnika Samozavestna, katastrofalna ugibanja >90% uspešnost okrevanja
Tabela 1: Povzetek vzorcev Agentic AI UX. Ne pozabite prilagoditi meritev glede na tveganje in potrebe vaše domene. Oblikovanje za popravilo in popravke To je učenje, kako se učinkovito opravičiti. Dobro opravičilo priznava napako, popravlja škodo in obljublja, da se bomo iz tega nekaj naučili. Napake niso možne; so neizogibnost. Dolgoročni uspeh agentskega sistema je manj odvisen od njegove zmožnosti, da je popoln, in bolj od njegove zmožnosti, da si elegantno opomore, ko odpove. Trden okvir za popravilo in odškodnino je bistvena lastnost, ne pa naknadna misel. Empatična opravičila in jasen popravek Ko agent naredi napako, je sporočilo o napaki opravičilo. Zasnovan mora biti s psihološko natančnostjo. Ta trenutek je kritična priložnost za dokazovanje odgovornosti. Z vidika zasnove storitev lahko tukaj podjetja uporabijo paradoks obnovitve storitve: pojav, ko lahko stranka, ki doživi napako storitve, ki ji sledi uspešna in empatična obnovitev, dejansko postane bolj zvesta kot stranka, ki sploh nikoli ni doživela napake. Dobro ravnana napaka je lahko močnejši dogodek za vzpostavitev zaupanja kot dolga zgodovina brezhibne izvedbe. Ključno je, da napako obravnavamo kot prekinitev odnosa, ki jo je treba popraviti. To vključuje:
Potrdite napako. Sporočilo mora jasno in preprosto povedati, da je prišlo do napake. Primer: Napačno sem prenesel sredstva. Navedite takojšnji popravek. Takoj nadaljujte s popravnim ukrepom. Primer: razveljavil sem ukrep in sredstva so bila vrnjena na vaš račun. Zagotovite pot za nadaljnjo pomoč Vedno ponudite jasno povezavo do človeške podpore. To zmanjšuje frustracije in kaže, da obstaja sistem odgovornosti, ki presega agenta samega.
Dobro zasnovan uporabniški vmesnik za popravilo je lahko videti takole: Pri vašem nedavnem prenosu smo naredili napako. Opravičujem se. Nakazal sem 250 USD na napačen račun.✔ Korektivni ukrep: prenos je bil razveljavljen in vaših 250 USD je bilo vrnjenih.✔ Naslednji koraki: Incident je bil označen za interni pregled, da se prepreči ponovitev. Potrebujete dodatno pomoč? [Stik s podporo]
Izgradnja mehanizma upravljanja za varne inovacije Zgoraj opisani vzorci oblikovanja so kontrolniki, usmerjeni v uporabnika, vendar ne morejo učinkovito delovati brez robustne notranje podporne strukture. Ne gre za ustvarjanje birokratskih ovir; gre za gradnjo strateške prednosti. Organizacija z zrelim okvirom upravljanja lahko hitreje in samozavestneje zagotovi bolj ambiciozne zastopniške funkcije, saj ve, da so vzpostavljene potrebne zaščitne ograje za zmanjšanje tveganja blagovne znamke. Ta mehanizem upravljanja varnost spremeni iz kontrolnega seznama v konkurenčno sredstvo. Ta mehanizem bi moral delovati kot formalni organ upravljanja, Agentic AI Ethics Council, ki bi sestavljal medfunkcionalno zavezništvo uporabniške izkušnje, izdelkov in inženiringa s ključno podporo pravnega oddelka, oddelka za skladnost in podpore. V manjših organizacijah se te vloge "sveta" pogosto zrušijo v eno samo triado produktov, inženiringa in oblikovanja. Kontrolni seznam za upravljanje
Pravno/skladnost Ta ekipa je prva obrambna linija, ki zagotavlja, da agentova morebitna dejanja ostanejo znotraj zakonskih in zakonskih meja. Pomagajo določiti težka prepovedana območja za avtonomno delovanje. Izdelek Produktni vodja je skrbnik agentovega namena. Opredeljujejo in spremljajo njegove operativne meje s formalno politiko avtonomije, ki dokumentira, kaj agent sme in česa ne sme početi. Imajo register tveganj agentov. UX ResearchTa ekipa je glas uporabnikovega zaupanja in tesnobe. Odgovorni so za ponavljajoč se proces izvajanja študij kalibracije zaupanja, simuliranih testov napačnega vedenja in kvalitativnih intervjujev za razumevanje uporabnikovega razvijajočega se mentalnega modela agenta. InženiringTa ekipa gradi tehnične temelje zaupanja. Zasnovati morajo sistem za robustno beleženje, funkcijo razveljavitve z enim klikom in kljuke, potrebne za ustvarjanje jasnih, razložljivih razlogov. Podpora. Te ekipe so na prvi črti neuspeha. Biti morajo usposobljeni in opremljeni za obravnavo incidentov, ki jih povzročijo napake agentov, in imeti morajo neposredno povratno zanko s svetom za etiko, da poročajo o dejanskih vzorcih napak.
Ta struktura upravljanja bi morala ohranjati anabor živih dokumentov, vključno z registrom tveganj agenta, ki proaktivno identificira možne načine napak, dnevniki nadzora dejanj, ki se redno pregledujejo, in uradno dokumentacijo o politiki avtonomije. Kje začeti: Postopni pristop za vodje izdelkov Za produktne vodje in vodstvene delavce se lahko integracija agentske umetne inteligence zdi monumentalna naloga. Ključno je, da k temu ne pristopimo kot enkratnemu lansiranju, temveč kot postopnemu vzporednemu vzpostavljanju tehnične zmogljivosti in zaupanja uporabnikov. Ta načrt omogoča vaši organizaciji učenje in prilagajanje ter zagotavlja, da je vsak korak zgrajen na trdnih temeljih. Faza 1: Osnovna varnost (predlagaj in predlagaj) Začetni cilj je zgraditi temelj zaupanja brez prevzemanja znatnih avtonomnih tveganj. V tej fazi je moč agenta omejena na analizo in sugestije.
Implementirajte zanesljiv predogled namere: To je vaš osnovni model interakcije. Uporabnikom omogočite, da se počutijo kot agent, ki oblikuje načrte, hkrati pa uporabniku zagotovi popoln nadzor nad izvedbo. Zgradite infrastrukturo za revizijo in razveljavitev dejanj: tudi če agent še ne deluje samostojno, zgradite tehnično podlago za beleženje in razveljavitev. To vaš sistem pripravi na prihodnost in gradi zaupanje uporabnikov, da varnostna mreža obstaja.
Faza 2: Umerjena avtonomija (delovanje s potrditvijo) Ko bodo uporabniki zadovoljni s predlogi agenta, lahko začnete uvajati avtonomijo z nizkim tveganjem. V tej fazi gre za učenje uporabnikov, kako razmišlja agent, in jim dovolite, da sami določijo tempo.
Predstavite Autonomy Dial z omejenimi nastavitvami: Začnite tako, da uporabnikom omogočite, da agentu podelijo pooblastilo za dejanje s potrditvijo. Razmestite razložljivo utemeljitev: Za vsako dejanje, ki ga agent pripravi, zagotovite jasno razlago. To demistificira agentovo logiko in potrjuje, da deluje na podlagi uporabnikovih lastnih preferenc.
Faza 3: Proaktivno delegiranje (delujte samostojno) To je zadnji korak, ki ga izvedete šele, ko imate jasne podatke iz prejšnjih faz, ki dokazujejo, da uporabniki zaupajo sistemu.
Omogoči samostojno delovanje za določene, vnaprej odobrene naloge: uporabite podatke iz 2. faze (npr. visoke stopnje nadaljevanja, nizke stopnje razveljavitev), da identificirate prvi niz nalog z nizkim tveganjem, ki jih je mogoče popolnoma avtomatizirati. Spremljanje in ponavljanje: Zagon avtonomnih funkcij ni konec, ampak začetek neprekinjenega cikla spremljanja uspešnosti, zbiranja povratnih informacij uporabnikov in izboljšanja obsega in vedenja agenta na podlagi podatkov iz resničnega sveta.
Dizajn kot najboljša varnostna ročica Pojav agentne umetne inteligence predstavlja novo mejo v interakciji med človekom in računalnikom. Obljublja prihodnost, v kateri lahko tehnologija proaktivno zmanjša naša bremena in poenostavi naša življenja. Toda ta moč prihaja z veliko odgovornostjo. Avtonomija je rezultat tehničnega sistema, zanesljivost pa rezultat procesa oblikovanja. Naš izziv je zagotoviti, da uporabniška izkušnja ni žrtev tehnične zmogljivosti, ampak njen glavni upravičenec. Kot strokovnjaki za UX, produktni menedžerji in voditelji je naša vloga skrbeti za to zaupanje. Z izvajanjem jasnih oblikovalskih vzorcev za nadzor in soglasje, načrtovanjem premišljenih poti za popravilo in izgradnjo robustnih okvirov upravljanja ustvarjamo bistvene varnostne vzvode, zaradi katerih je agentska umetna inteligenca uspešna. Ne oblikujemo le vmesnikov; gradimo odnose. Prihodnost uporabnosti in sprejemanja umetne inteligence temelji na naši zmožnosti oblikovanja teh kompleksnih sistemov z modrostjo, predvidevanjem in globokim spoštovanjem uporabnikove končne avtoritete.
