Dizajniranje za autonomne agente predstavlja jedinstvenu frustraciju. Predamo složen zadatak AI-ju, on nestane na 30 sekundi (ili 30 minuta), a zatim se vrati s rezultatom. Buljimo u ekran. Je li uspjelo? Je li haluciniralo? Je li provjerio bazu podataka o sukladnosti ili je preskočio taj korak? Na ovu tjeskobu obično reagiramo jednom od dvije krajnosti. Sustav ili držimo kao crnu kutiju, skrivajući sve kako bismo održali jednostavnost, ili se uspaničimo i dajemo ispis podataka, prenoseći svaki redak dnevnika i API poziv korisniku. Ni jedan pristup ne rješava izravno nijansu potrebnu da se korisnicima pruži idealna razina transparentnosti. Black Box ostavlja korisnike osjećajem bespomoćnim. Izmet podataka stvara sljepoću za obavijesti, uništavajući učinkovitost koju je agent obećao pružiti. Korisnici ignoriraju neprestani protok informacija sve dok se nešto ne pokvari, a u tom trenutku nemaju kontekst da to poprave. Potreban nam je organiziran način da pronađemo ravnotežu. U mom prethodnom članku, "Dizajniranje za agentsku umjetnu inteligenciju", pogledali smo elemente sučelja koji grade povjerenje, poput prethodnog prikazivanja namjeravane radnje umjetne inteligencije (Pretpregledi namjere) i davanja korisnicima kontrole nad time koliko umjetna inteligencija radi sama (Brači za autonomiju). Ali znati koje elemente koristiti samo je dio izazova. Teže pitanje za dizajnere je znati kada ih koristiti. Kako znate koji određeni trenutak u tijeku rada od 30 sekundi zahtijeva Intent Preview, a koji se može riješiti jednostavnim unosom u dnevnik? Ovaj članak nudi metodu za odgovor na to pitanje. Proći ćemo kroz reviziju čvora odlučivanja. Ovaj proces okuplja dizajnere i inženjere u istoj prostoriji kako bi preslikali pozadinsku logiku na korisničko sučelje. Naučit ćete kako točno odrediti trenutke u kojima je korisniku potrebno ažuriranje o tome što AI radi. Također ćemo pokriti matricu Utjecaj/Rizik koja će pomoći u određivanju prioriteta koji će se čvorovi odlučivanja prikazati i bilo kojeg pridruženog uzorka dizajna koji će se upariti s tom odlukom. Trenuci transparentnosti: primjer studije slučaja Razmotrite Meridian (nije pravi naziv), osiguravajuće društvo koje koristi agentsku umjetnu inteligenciju za obradu početnih zahtjeva za nesreću. Korisnik postavlja fotografije oštećenja vozila i policijsko izvješće. Agent zatim nestaje na minutu prije nego što se vrati s procjenom rizika i predloženim rasponom isplate. U početku je Meridianovo sučelje jednostavno prikazivalo Izračun statusa zahtjeva. Korisnici su postali frustrirani. Predali su nekoliko detaljnih dokumenata i nisu bili sigurni je li AI uopće pregledao policijsko izvješće koje je sadržavalo olakotne okolnosti. Crna kutija stvorila je nepovjerenje. Kako bi to popravio, dizajnerski tim proveo je reviziju čvora odlučivanja. Otkrili su da umjetna inteligencija izvodi tri različita koraka temeljena na vjerojatnosti, s brojnim manjim ugrađenim koracima:
Analiza slike Agent je usporedio fotografije oštećenja s bazom podataka tipičnih scenarija prometnih nesreća kako bi procijenio trošak popravka. To je uključivalo ocjenu povjerenja. Tekstualni pregled Skenirao je policijsko izvješće u potrazi za ključnim riječima koje utječu na odgovornost (npr. greška, vremenski uvjeti, trijeznost). To je uključivalo procjenu vjerojatnosti pravnog statusa. Unakrsna referenca pravila Uspoređuje pojedinosti potraživanja s određenim uvjetima pravila korisnika, tražeći iznimke ili ograničenja pokrivenosti. To je također uključivalo probabilističko podudaranje.
Tim je ove korake pretvorio u trenutke transparentnosti. Redoslijed sučelja ažuriran je na:
Procjena fotografija štete: Usporedba s 500 profila sudara vozila. Pregled policijskog izvješća: Analiza ključnih riječi odgovornosti i pravnog presedana. Provjera pokrivenosti police: Provjera specifičnih izuzeća u vašem planu.
Sustavu je i dalje trebalo isto vrijeme, ali eksplicitna komunikacija o internom radu agenta vratila je povjerenje korisnika. Korisnici su razumjeli da umjetna inteligencija obavlja složen zadatak za koji je dizajnirana i znali su točno na što usmjeriti svoju pozornost ako se konačna procjena čini netočnom. Ovaj izbor dizajna transformirao je trenutak tjeskobe u trenutak povezanosti s korisnikom. Primjena matrice utjecaj/rizik: Što smo odlučili sakriti Većina iskustava umjetne inteligencije nema nedostatak događaja i čvorova odluka koji bi se potencijalno mogli prikazati tijekom obrade. Jedan od najkritičnijih ishoda revizije bila je odluka što ostaviti nevidljivim. U primjeru Meridiana, pozadinski dnevnici generirali su 50+ događaja po zahtjevu. Mogli smo prema zadanim postavkama prikazati svaki događaj dok se obrađuje kao dio korisničkog sučelja. Umjesto toga, primijenili smo matricu rizika kako bismo ih odrezali:
Događaj zapisnika: Ping poslužiteljWest-2 za provjeru redundantnosti. Presuda filtra: Sakrij. (Niski ulozi, visoka tehnikalija).
Događaj zapisnika: Uspoređivanje procjene popravka s vrijednošću BlueBook-a. Presuda filtra: Prikaži. (Visoki ulozi, utječu na isplatu korisnika).
Izbacivanjem nepotrebnih detalja, važne informacije - poput provjere pokrivenosti - bile su utjecajnije. Stvorili smo otvoreno sučelje i dizajnirali otvoreno iskustvo. Ovaj pristup koristi ideju da se ljudi osjećaju bolje u vezi s uslugom kada vide kako se posao obavlja. Prikazujući određene korake (procjena, pregled, provjera), promijenili smo čekanje od 30 sekundi iz vremena zabrinutosti ("Je li pokvaren?") u vrijeme osjećaja da se nešto vrijedno stvara ("Razmišlja"). Pogledajmo sada pobliže kako možemo pregledati proces donošenja odluka u našim proizvodima kako bismo identificirali ključne trenutke koji zahtijevaju jasne informacije. Revizija čvora odluke Transparentnost pada kada je tretiramo kao izbor stila, a ne funkcionalni zahtjev. Imamo tendenciju pitati se: "Kako bi korisničko sučelje trebalo izgledati?" prije nego što upitamo: "Što agent zapravo odlučuje?" Revizija čvora odlučivanja jednostavan je način za lakše razumijevanje sustava umjetne inteligencije. Djeluje pažljivo mapirajući interni proces sustava. Glavni cilj je pronaći i jasno definirati točne trenutke u kojima sustav prestaje slijediti postavljena pravila i umjesto toga donosi izbor na temelju slučajnosti ili procjene. Mapiranjem ove strukture, kreatori mogu prikazati ove nesigurne točke izravno ljudima koji koriste sustav. Ovo mijenja ažuriranja sustava od nejasnih izjava do specifičnih, pouzdanih izvješća o tome kako je AI došla do svog zaključka. Uz gornju studiju slučaja osiguranja, nedavno sam radio s agentom za nabavu koji je izgradio tim. Sustav je pregledao ugovore dobavljača i označio rizike. Izvorno je zaslon prikazivao jednostavnu traku napretka: "Pregled ugovora". Korisnici su to mrzili. Naše je istraživanje pokazalo da su bili zabrinuti zbog pravnih implikacija klauzule koja nedostaje. To smo popravili provođenjem revizije čvora odluke. Na kraju ovog članka uključio sam popis korak po korak za provođenje ove revizije. Održali smo sastanak s inženjerima i opisali kako sustav funkcionira. Identificirali smo "točke odluke" — trenutke u kojima je umjetna inteligencija morala birati između dvije dobre opcije. U standardnim računalnim programima proces je jasan: ako se dogodi A, onda će se B uvijek dogoditi. U sustavima umjetne inteligencije proces se često temelji na slučaju. AI misli da je A vjerojatno najbolji izbor, ali to bi moglo biti samo 65% sigurno. U sustavu ugovora pronašli smo trenutak kada je umjetna inteligencija provjerila uvjete odgovornosti u skladu s pravilima naše tvrtke. Rijetko je bio savršen spoj. AI je morao odlučiti je li podudaranje od 90% dovoljno dobro. Ovo je bila ključna točka odluke.
Nakon što smo identificirali ovaj čvor, izložili smo ga korisniku. Umjesto "Pregled ugovora", sučelje je ažurirano da kaže: "Klauzula o odgovornosti razlikuje se od standardnog predloška. Analiza razine rizika." Ovo specifično ažuriranje ulilo je povjerenje korisnicima. Znali su da je agent provjerio klauzulu o odgovornosti. Shvatili su razlog kašnjenja i stekli povjerenje da se željena radnja odvija na pozadini. Također su znali gdje treba kopati dublje nakon što agent generira ugovor. Da biste provjerili kako AI donosi odluke, morate blisko surađivati sa svojim inženjerima, voditeljima proizvoda, poslovnim analitičarima i ključnim osobama koje donose odluke (često skrivene) koje utječu na funkcioniranje AI alata. Nacrtajte korake koje alat poduzima. Označite svako mjesto gdje proces mijenja smjer jer je ispunjena vjerojatnost. Ovo su mjesta na kojima biste se trebali usredotočiti na transparentnost. Kao što je prikazano na slici 2 u nastavku, revizija čvora odlučivanja uključuje ove korake:
Okupite tim: dovedite vlasnike proizvoda, poslovne analitičare, dizajnere, ključne donositelje odluka i inženjere koji su izradili AI. na primjer, Razmislite o proizvodnom timu koji gradi alat AI dizajniran za pregled neurednih pravnih ugovora. Tim uključuje UX dizajnera, voditelja proizvoda, UX istraživača, odvjetnika koji djeluje kao stručnjak za predmet i pozadinskog inženjera koji je napisao kôd za analizu teksta.
Nacrtajte cijeli proces: dokumentirajte svaki korak koji AI poduzima, od prve radnje korisnika do konačnog rezultata. Tim stoji za bijelom pločom i skicira cijeli slijed ključnog tijeka rada koji uključuje AI traženje klauzule o odgovornosti u složenom ugovoru. Odvjetnik učitavaPDF od pedeset stranica → Sustav pretvara dokument u čitljiv tekst. → AI skenira stranice tražeći klauzule o odgovornosti. → Korisnik čeka. → Nekoliko trenutaka ili minuta kasnije, alat označava pronađene odlomke žutom bojom na korisničkom sučelju. To čine za mnoge druge tijekove rada koje alat također podržava.
Pronađite gdje su stvari nejasne: pogledajte mapu procesa za bilo koje mjesto gdje AI uspoređuje opcije ili unose koji nemaju jedno savršeno podudaranje. Tim gleda u ploču kako bi uočio dvosmislene korake. Pretvaranje slike u tekst slijedi stroga pravila. Pronalaženje određene klauzule o odgovornosti uključuje nagađanje. Svaka tvrtka drugačije piše te klauzule, tako da umjetna inteligencija mora odvagnuti više opcija i napraviti predviđanje umjesto da pronađe točno podudaranje riječi.
Odredite korake 'najbolje pretpostavke': Za svako nejasno mjesto provjerite koristi li sustav ocjenu pouzdanosti (na primjer, je li 85% siguran?). To su točke u kojima AI donosi konačan izbor. Sustav mora pogoditi (dati vjerojatnost) koji paragraf(i) vrlo sliči standardnoj klauzuli odgovornosti. Svojoj najboljoj pretpostavci dodjeljuje ocjenu pouzdanosti. Ta pretpostavka je čvor odluke. Sučelje mora reći odvjetniku da ističe potencijalno podudaranje, umjesto da navodi da je pronašlo konačnu klauzulu.
Ispitajte izbor: Za svaku točku izbora odredite konkretnu internu matematiku ili usporedbu koja se radi (npr. usklađivanje dijela ugovora s polici ili usporedba slike pokvarenog automobila s zbirkom fotografija oštećenog automobila). Inženjer objašnjava da sustav uspoređuje različite paragrafe s bazom podataka standardnih klauzula o odgovornosti iz prošlih slučajeva tvrtki. Izračunava ocjenu sličnosti teksta kako bi odlučio o podudaranju na temelju vjerojatnosti.
Napišite jasna objašnjenja: Stvorite poruke za korisnika koje jasno opisuju specifične interne radnje koje se događaju kada AI napravi izbor. Dizajner sadržaja piše točno određenu poruku za ovaj trenutak. Tekst glasi: Usporedba teksta dokumenta sa standardnim klauzulama tvrtke kako bi se identificirali potencijalni rizici odgovornosti.
Ažurirajte zaslon: Stavite ova nova, jasna objašnjenja u korisničko sučelje, zamjenjujući nejasne poruke poput "Pregled ugovora". Dizajnerski tim uklanja generički alat za učitavanje Obrada PDF-a. Oni umeću novo objašnjenje u statusnu traku koja se nalazi točno iznad preglednika dokumenata dok AI razmišlja.
Provjerite povjerenje: Pobrinite se da nove zaslonske poruke korisnicima daju jednostavan razlog za bilo kakvo vrijeme čekanja ili rezultat, što bi ih trebalo učiniti sigurnijim i pouzdanijim.
Matrica utjecaja/rizika Nakon što pomno pogledate proces umjetne inteligencije, vjerojatno ćete pronaći mnogo točaka u kojima ona pravi izbor. AI može napraviti desetke malih izbora za jedan složen zadatak. Prikazivanjem svih njih stvara se previše nepotrebnih informacija. Morate grupirati ove izbore. Možete upotrijebiti matricu utjecaja/rizika za sortiranje ovih izbora na temelju vrsta radnji(a) koje umjetna inteligencija poduzima. Evo primjera matrica učinka/rizika: Prvo, tražite odluke s malim ulozima i utjecajem. Niski ulozi / mali utjecaj
Primjer: organiziranje strukture datoteke ili preimenovanje dokumenta. Potreba za transparentnošću: minimalna. Dovoljna je suptilna obavijest ili unos u dnevnik. Korisnici mogu lako poništiti ove radnje.
Zatim identificirajte odluke s visokim ulozima i velikim učinkom. Visoki ulozi / veliki utjecaj
Primjer: odbijanje zahtjeva za kredit ili trgovanje dionicama. Potreba za transparentnošću: visoka. Ove radnje zahtijevaju dokaz o radu. Sustav mora pokazati obrazloženje prije ili neposredno dok djeluje.
Razmislite o botu za financijsko trgovanje koji na isti način tretira sve naloge za kupnju/prodaju. Izvršava trgovinu od 5 USD s istom neprozirnošću kao trgovina od 50 000 USD. Korisnici bi se mogli zapitati prepoznaje li alat potencijalni utjecaj transparentnosti na trgovanje velikim iznosima u dolarima. Potreban im je sustav da zastane i pokaže svoj rad za trgovine s visokim ulozima. Rješenje je uvesti stanje Logike pregleda za svaku transakciju koja premašuje određeni iznos u dolarima, omogućujući korisniku da vidi čimbenike koji pokreću odluku prije izvršenja. Mapiranje čvorova u uzorke: Rubrika za odabir uzorka dizajna Nakon što ste identificirali ključne čvorove odlučivanja za svoje iskustvo, morate odlučiti koji se uzorak korisničkog sučelja primjenjuje na svaki od njih koji ćete prikazati. U Designing For Agentic AI uveli smo obrasce kao što su Intent Preview (za kontrolu s velikim ulozima) i Action Audit (za retrospektivnu sigurnost). Odlučujući čimbenik u odabiru između njih je reverzibilnost. Svaki filtriramočvor odluke kroz matricu utjecaja kako bi se dodijelio točan uzorak: Visoki ulozi i nepovratno: Ovi čvorovi zahtijevaju pregled namjere. Budući da korisnik ne može lako poništiti radnju (npr. trajno brisanje baze podataka), trenutak transparentnosti mora se dogoditi prije izvršenja. Sustav mora pauzirati, objasniti svoju namjeru i zahtijevati potvrdu. Visoki ulozi i reverzibilni: ovi se čvorovi mogu osloniti na obrazac revizije radnje i poništavanja. Ako prodajni agent pokretan umjetnom inteligencijom premjesti potencijalnog klijenta u drugi cjevovod, može to učiniti autonomno sve dok obavijesti korisnika i odmah ponudi gumb Poništi. Striktno kategorizirajući čvorove na ovaj način, izbjegavamo "umor od upozorenja". Rezerviramo Intent Preview s velikim trenjem samo za doista nepovratne trenutke, dok se oslanjamo na Action Audit za održavanje brzine za sve ostalo.
Reverzibilan Nepovratno Nizak utjecaj Tip: Auto-ExecuteUI: Pasivni toast / LogEx: Preimenovanje datoteke Tip: ConfirmUI: Opcija jednostavnog poništavanja Primjer: Arhiviranje e-pošte Visok učinak Tip: ReviewUI: Obavijest + Pregled TrailEx: Slanje nacrta klijentu Vrsta: Preview namjere UI: Modalna / Eksplicitna dozvolaEx: Brisanje poslužitelja
Tablica 1: Matrica utjecaja i reverzibilnosti zatim se može koristiti za mapiranje vaših trenutaka transparentnosti u obrasce dizajna. Kvalitativna validacija: "Čekanje, zašto?" test Možete identificirati potencijalne čvorove na pametnoj ploči, ali ih morate potvrditi ljudskim ponašanjem. Morate provjeriti odgovara li vaša karta mentalnom modelu korisnika. Koristim protokol koji se zove "Čekaj, zašto?" Test. Zamolite korisnika da gleda kako agent obavlja zadatak. Uputite ih da govore naglas. Kad god postave pitanje: "Čekaj, zašto je to učinio?" ili "Je li zapelo?" ili "Je li me čulo?" — označite vremensku oznaku. Ova pitanja signaliziraju zbunjenost korisnika. Korisnik osjeća da mu kontrola izmiče. Na primjer, u studiji za zdravstvenog asistenta za zakazivanje, korisnici su gledali kako agent rezervira termin. Zaslon je bio statičan četiri sekunde. Sudionici su stalno pitali: "Je li to provjeravanje mog ili doktorovog kalendara?"
To je pitanje otkrilo trenutak transparentnosti koji nedostaje. Sustav je trebao podijeliti to čekanje od četiri sekunde u dva različita koraka: "Provjera vaše dostupnosti" nakon čega slijedi "Sinkronizacija s rasporedom pružatelja usluga". Ova mala promjena smanjila je izraženu razinu anksioznosti korisnika. Transparentnost pada kada opisuje samo radnju sustava. Sučelje mora povezati tehnički proces sa specifičnim ciljem korisnika. Zaslon na kojem se prikazuje "Provjera vaše dostupnosti" ne funkcionira jer mu nedostaje kontekst. Korisnik razumije da AI gleda u kalendar, ali ne zna zašto. Moramo upariti akciju s ishodom. Sustav mora podijeliti čekanje od četiri sekunde u dva različita koraka. Prvo, sučelje prikazuje "Provjeravam vaš kalendar da pronađem radno vrijeme." Zatim se ažurira na "Sinkronizacija s rasporedom pružatelja usluga kako bi se osigurao vaš termin." To utemeljuje tehnički proces u stvarnom životu korisnika. Razmotrite AI upravljanje zalihama za lokalni kafić. Sustav nailazi na manjak opskrbe. Sučelje na kojem piše "kontaktirati dobavljača" ili "opcije pregleda" stvara tjeskobu. Upravitelj se pita otkazuje li sustav narudžbu ili kupuje skupu alternativu. Bolji pristup je objasniti željeni rezultat: "Procjena alternativnih dobavljača za održavanje vašeg rasporeda isporuke petkom." To korisniku točno govori što AI pokušava postići. Operacionalizacija revizije Završili ste reviziju čvora odlučivanja i filtrirali svoj popis kroz matricu utjecaja i rizika. Sada imate popis bitnih trenutaka za transparentnost. Zatim ih morate izraditi u korisničkom sučelju. Ovaj korak zahtijeva timski rad u različitim odjelima. Ne možete sami dizajnirati transparentnost pomoću alata za dizajn. Morate razumjeti kako sustav funkcionira iza kulisa. Počnite s pregledom logike. Sastanite se sa svojim vodećim dizajnerom sustava. Ponesite svoju kartu čvorova odlučivanja. Morate potvrditi da sustav zapravo može dijeliti ta stanja. Često otkrijem da tehnički sustav ne otkriva točno stanje koje želim pokazati. Inženjer bi mogao reći da sustav samo vraća opći "radni" status. Morate tražiti detaljno ažuriranje. Sustav vam je potreban za slanje određene obavijestikada se prebacuje s čitanja teksta na provjeru pravila. Bez te tehničke veze, vaš dizajn je nemoguće izgraditi. Zatim uključite tim za dizajn sadržaja. Imate tehnički razlog za djelovanje umjetne inteligencije, ali trebate jasno, ljudima razumljivo objašnjenje. Inženjeri osiguravaju temeljni proces, ali dizajneri sadržaja osiguravaju način na koji se komunicira. Ne pišite ove poruke sami. Programer može napisati "Izvršava se funkcija 402", što je tehnički točno, ali korisniku nema smisla. Dizajner bi mogao napisati "Razmišljanje", što je prijateljski, ali previše nejasno. Strateg za sadržaj pronalazi pravu sredinu. Oni stvaraju specifične izraze, kao što je "Skeniranje rizika od odgovornosti", koji pokazuju da AI radi bez zbunjivanja korisnika. Na kraju, testirajte transparentnost svojih poruka. Nemojte čekati da se napravi konačni proizvod da vidite funkcionira li tekst. Provodim usporedne testove na jednostavnim prototipovima gdje je jedina stvar koja se mijenja statusna poruka. Na primjer, pokažem jednoj grupi (Skupina A) poruku koja kaže "Provjera identiteta", a drugoj grupi (Skupina B) poruku koja kaže "Provjera državnih baza podataka" (ovo su izmišljeni primjeri, ali razumijete poantu). Zatim ih pitam koja se AI osjeća sigurnijom. Često ćete otkriti da određene riječi izazivaju brigu, dok druge grade povjerenje. Morate tretirati tekst kao nešto što trebate testirati i dokazati da je djelotvorno. Kako ovo mijenja proces dizajna Provođenje ovih revizija ima potencijal za jačanje zajedničkog rada tima. Prestajemo isporučivati uglađene dizajnerske datoteke. Počinjemo koristiti neuredne prototipove i dijeljene proračunske tablice. Osnovni alat postaje matrica transparentnosti. Inženjeri i dizajneri sadržaja zajedno uređuju ovu proračunsku tablicu. Oni preslikavaju točne tehničke kodove u riječi koje će korisnik pročitati. Timovi će doživjeti trzavice tijekom pregleda logike. Zamislite da dizajner pita inženjera kako AI odlučuje odbiti transakciju dostavljenu u izvješću o troškovima. Inženjer bi mogao reći da pozadina ispisuje samo generički statusni kod poput "Pogreška: nedostaju podaci". Dizajner navodi da ovo nisu korisne informacije na zaslonu. Dizajner pregovara s inženjerom o izradi specifične tehničke kuke. Inženjer piše novo pravilo kako bi sustav prijavio točno ono što nedostaje, kao što je slika računa koja nedostaje. Dizajneri sadržaja tijekom ove faze djeluju kao prevoditelji. Programer bi mogao napisati tehnički točan niz poput "Izračunavanje praga pouzdanosti za podudaranje dobavljača." Dizajner sadržaja prevodi taj niz u frazu koja gradi povjerenje za određeni ishod. Strateg to prepisuje kao "Usporedba cijena lokalnih dobavljača kako biste osigurali dostavu petkom." Korisnik razumije radnju i rezultat. Cijeli višefunkcionalni tim sudjeluje u sesijama testiranja korisnika. Gledaju kako stvarna osoba reagira na različite statusne poruke. Vidjeti paniku korisnika jer na zaslonu piše "Izvršenje trgovine" tjera tim da preispita svoj pristup. Inženjeri i dizajneri slažu se oko boljeg izražavanja. Mijenjaju tekst u "Provjera dovoljnih sredstava" prije kupnje dionica. Zajedničko testiranje jamči da konačno sučelje služi i logici sustava i bezbrižnosti korisnika. Potrebno je vrijeme za uključivanje ovih dodatnih aktivnosti u timski kalendar. Međutim, krajnji rezultat trebao bi biti tim koji otvorenije komunicira i korisnici koji bolje razumiju što njihovi alati pokretani umjetnom inteligencijom rade u njihovo ime (i zašto). Ovaj integrirani pristup kamen je temeljac dizajniranja doista pouzdanih AI iskustava. Povjerenje je izbor dizajna Često na povjerenje gledamo kao na emocionalni nusprodukt dobrog korisničkog iskustva. Lakše je povjerenje promatrati kao mehanički rezultat predvidljive komunikacije. Povjerenje gradimo prikazivanjem pravih informacija u pravo vrijeme. Uništavamo ga preplavljivanjem korisnika ili potpunim skrivanjem strojeva. Započnite s revizijom čvora odlučivanja, posebno za agentske AI alate i proizvode. Pronađite trenutke u kojima sustav donosi odluku. Mapirajte te trenutke u matricu rizika. Ako su ulozi visoki, otvorite kutiju. Pokažite rad. U sljedećem ćemo članku pogledati kako dizajnirati te trenutke: kako napisati kopiju, strukturirati korisničko sučelje i nositi se s neizbježnim pogreškama kada agent pogriješi. Dodatak: Kontrolni popis revizije čvora odluke Faza 1: Postavljanje i mapiranje ✅ Okupite tim: dovedite vlasnike proizvoda, poslovne analitičare, dizajnere,ključni donositelji odluka i inženjeri koji su izradili AI. Savjet: inženjeri vam trebaju objasniti stvarnu pozadinsku logiku. Ne pokušavajte ovaj korak sami. ✅ Nacrtajte cijeli proces: dokumentirajte svaki korak koji AI poduzima, od prve radnje korisnika do konačnog rezultata. Savjet: fizička sesija bijele ploče često najbolje funkcionira za crtanje ovih početnih koraka. Faza 2: Lociranje skrivene logike ✅ Pronađite gdje su stvari nejasne: pogledajte mapu procesa za bilo koje mjesto gdje AI uspoređuje opcije ili unose koji nemaju savršeno podudaranje. ✅ Identificirajte najbolje korake nagađanja: Za svako nejasno mjesto provjerite koristi li sustav ocjenu pouzdanosti. Na primjer, pitajte je li sustav 85 posto siguran. To su točke u kojima AI donosi konačan izbor. ✅ Ispitajte izbor: Za svaku točku izbora odredite konkretnu unutarnju matematiku ili usporedbu koja se radi. Primjer je spajanje dijela ugovora s policom. Drugi primjer uključuje usporedbu slike pokvarenog automobila s zbirkom fotografija oštećenih automobila. Faza 3: Stvaranje korisničkog iskustva ✅ Napišite jasna objašnjenja: Napravite poruke za korisnika koje jasno opisuju specifične interne radnje koje se događaju kada AI napravi izbor. Savjet: Utemeljite svoje poruke u konkretnoj stvarnosti. Ako AI rezervira sastanak s klijentom u lokalnom kafiću, recite korisniku da sustav provjerava sustav rezervacija kafića. ✅ Ažurirajte zaslon: Stavite ova nova, jasna objašnjenja u korisničko sučelje. Zamijenite nejasne poruke poput Pregled ugovora svojim konkretnim objašnjenjima. ✅ Provjerite povjerenje: Provjerite da li poruke na novom zaslonu korisnicima daju jednostavan razlog za bilo kakvo vrijeme čekanja ili rezultat. To bi trebalo učiniti da se osjećaju samouvjereno i pouzdano. Savjet: testirajte ove poruke sa stvarnim korisnicima kako biste potvrdili da razumiju određeni rezultat koji se postiže.
