Agentic AI spreman je transformirati korisničko iskustvo i operativnu učinkovitost, zahtijevajući novi strateški pristup vodstva. Ova evolucija u umjetnoj inteligenciji omogućuje sustavima da planiraju, izvršavaju i ustraju u zadacima, prelazeći dalje od jednostavnih preporuka na proaktivno djelovanje. Za UX timove, voditelje proizvoda i rukovoditelje, razumijevanje ovog pomaka ključno je za otključavanje prilika u inovacijama, pojednostavljenje radnih procesa i redefiniranje načina na koji tehnologija služi ljudima. Lako je zamijeniti Agentic AI s robotskom automatizacijom procesa (RPA), koja je tehnologija koja se fokusira na zadatke temeljene na pravilima koji se izvode na računalima. Razlika leži u krutosti nasuprot rasuđivanju. RPA je izvrstan u praćenju strogog scenarija: ako se dogodi X, učini Y. Oponaša ljudske ruke. Agentic AI oponaša ljudsko razmišljanje. Ne slijedi linearno pismo; stvara jedan. Razmotrite tijek rada zapošljavanja. RPA bot može skenirati životopis i učitati ga u bazu podataka. Savršeno obavlja zadatak koji se ponavlja. Sustav Agentic pregledava životopis, primjećuje da kandidat navodi određenu certifikaciju, uspoređuje to s novim zahtjevom klijenta i odlučuje sastaviti personaliziranu e-poruku za kontakt u kojoj se ističe to podudaranje. RPA izvršava unaprijed definirani plan; Agentic AI formulira plan na temelju cilja. Ova autonomija odvaja agente od alata za predviđanje koje smo koristili u posljednjem desetljeću. Drugi primjer je upravljanje sukobima na sastancima. Prediktivni model integriran u vaš kalendar može analizirati vaš raspored sastanaka i rasporede vaših kolega. Tada bi mogao predložiti moguće sukobe, kao što su dva važna sastanka zakazana u isto vrijeme ili sastanak zakazan kada je ključni sudionik na odmoru. Pruža vam informacije i označava potencijalne probleme, ali vi ste odgovorni za poduzimanje radnji. Agentska umjetna inteligencija, u istom bi scenariju, išla dalje od pukog sugeriranja sukoba koje treba izbjegavati. Nakon identificiranja sukoba s ključnim sudionikom, agent bi mogao djelovati na sljedeći način:
Provjera dostupnosti svih potrebnih sudionika. Identificiranje alternativnih termina koji odgovaraju svima. Slanje predloženih novih pozivnica za sastanke svim sudionicima. Ako je sukob s vanjskim sudionikom, agent bi mogao izraditi i poslati e-poruku s objašnjenjem potrebe za ponovnim rasporedom i ponudom alternativnih termina. Ažuriranje vašeg kalendara i kalendara vaših kolega novim pojedinostima o sastanku nakon potvrde.
Ova agentska umjetna inteligencija razumije cilj (rješavanje sukoba sastanka), planira korake (provjera dostupnosti, pronalaženje alternativa, slanje pozivnica), izvršava te korake i traje dok se sukob ne riješi, sve uz minimalnu izravnu intervenciju korisnika. Ovo pokazuje "agentsku" razliku: sustav poduzima proaktivne korake za korisnika, umjesto da samo pruža informacije korisniku. Agentski AI sustavi razumiju cilj, planiraju niz koraka za njegovo postizanje, izvršavaju te korake i čak se prilagođavaju ako stvari krenu po zlu. Zamislite to kao proaktivnog digitalnog pomoćnika. Temeljna tehnologija često kombinira velike jezične modele (LLM) za razumijevanje i rasuđivanje, s algoritmima planiranja koji složene zadatke rastavljaju u radnje kojima se može upravljati. Ovi agenti mogu komunicirati s različitim alatima, API-jima, pa čak i drugim modelima umjetne inteligencije kako bi postigli svoje ciljeve, a najvažnije je da mogu održavati postojano stanje, što znači da pamte prethodne radnje i nastavljaju raditi prema cilju tijekom vremena. To ih čini bitno drugačijima od tipične generativne umjetne inteligencije, koja obično dovrši jedan zahtjev i zatim se ponovno postavi. Jednostavna taksonomija agentskih ponašanja Ponašanje agenta možemo kategorizirati u četiri različita načina autonomije. Iako oni često izgledaju kao progresija, funkcioniraju kao neovisni načini rada. Korisnik može vjerovati agentu da će djelovati autonomno za zakazivanje, ali ga zadržati u "načinu prijedloga" za financijske transakcije. Izveli smo te razine prilagođavanjem industrijskih standarda za autonomna vozila (SAE razine) kontekstu digitalnog korisničkog iskustva. Promatraj-i-predloži Agent funkcionira kao monitor. Analizira tokove podataka i označava anomalije ili prilike, ali ne poduzima ništa. Diferencijacija Za razliku od sljedeće razine, agent ne stvara složen plan. Ukazuje na problem. Primjer DevOps agent primjećuje skok CPU-a poslužitelja i upozorava dežurnog inženjera. Ne zna kako ili pokušava to popraviti, ali zna da nešto nije u redu. Implikacije za dizajn i nadzor Na ovoj razini,dizajn i nadzor trebali bi dati prednost jasnim, nenametljivim obavijestima i dobro definiranom postupku za korisnike da djeluju prema prijedlozima. Fokus je na osnaživanju korisnika pravovremenim i relevantnim informacijama bez preuzimanja kontrole. Stručnjaci za UX trebali bi se usredotočiti na to da prijedlozi budu jasni i lako razumljivi, dok menadžeri proizvoda trebaju osigurati da sustav pruža vrijednost bez preopterećenja korisnika. Planiraj i predloži Agent identificira cilj i generira strategiju u više koraka za njegovo postizanje. Predstavlja potpuni plan za ljudski pregled. Diferencijacija Agent djeluje kao strateg. Ne izvršava se; čeka odobrenje za cijeli pristup. Primjer Isti DevOps agent primjećuje skok CPU-a, analizira zapisnike i predlaže plan popravka:
Zavrtite dvije dodatne instance. Ponovno pokrenite balanser opterećenja. Arhivirajte stare dnevnike.
Čovjek pregledava logiku i klikne "Odobri plan". Implikacije za dizajn i nadzor Za agente koji planiraju i predlažu, dizajn mora osigurati da su predloženi planovi lako razumljivi i da korisnici imaju intuitivne načine da ih modificiraju ili odbiju. Nadzor je ključan u praćenju kvalitete prijedloga i agentove logike planiranja. Stručnjaci za UX trebali bi osmisliti jasne vizualizacije predloženih planova, a voditelji proizvoda moraju uspostaviti jasne tijekove rada pregleda i odobravanja. Akt-s-potvrdom Agent dovršava sve pripremne radnje i postavlja završnu radnju u inscenirano stanje. Učinkovito drži vrata otvorenima, čekajući kimanje glavom. Diferencijacija Ovo se razlikuje od "Planiraj i predloži" jer je posao već obavljen i postavljen. Smanjuje trenje. Korisnik potvrđuje ishod, a ne strategiju. Primjer Agent za zapošljavanje sastavlja pet pozivnica za intervju, pronalazi otvorena vremena u kalendarima i stvara događaje u kalendaru. Predstavlja gumb "Pošalji sve". Korisnik daje konačnu autorizaciju za pokretanje vanjske akcije. Implikacije za dizajn i nadzor Kada agenti djeluju s potvrdom, dizajn bi trebao pružiti transparentne i koncizne sažetke namjeravane radnje, jasno ocrtavajući moguće posljedice. Nadzor mora potvrditi da je postupak potvrde robustan i da se od korisnika ne traži slijepo odobravanje radnji. Stručnjaci za UX trebali bi dizajnirati upute za potvrdu koje su jasne i pružaju sve potrebne informacije, a voditelji proizvoda trebali bi dati prioritet robusnom revizijskom tragu za sve potvrđene radnje. Djelovati-Samostalno Agent izvršava zadatke neovisno unutar definiranih granica. Razlikovanje. Korisnik pregledava povijest radnji, a ne same akcije. Primjer: Agent za zapošljavanje uočava sukob, premješta intervju na rezervno mjesto, ažurira kandidata i obavještava voditelja zapošljavanja. Čovjek vidi samo obavijest: Intervju je odgođen za utorak. Implikacije za dizajn i nadzor Za autonomne agente, dizajn treba uspostaviti jasne unaprijed odobrene granice i pružiti robusne alate za praćenje. Nadzor zahtijeva kontinuiranu procjenu performansi agenta unutar ovih granica, kritičnu potrebu za robusnim zapisima, jasnim mehanizmima nadjačavanja i korisnički definiranim prekidačima za isključivanje kako bi se održala kontrola i povjerenje korisnika. Stručnjaci za UX trebali bi se usredotočiti na dizajniranje učinkovitih nadzornih ploča za praćenje ponašanja autonomnih agenata, a voditelji proizvoda moraju osigurati jasno upravljanje i etičke smjernice.
Pogledajmo stvarnu aplikaciju u HR tehnologiji kako bismo vidjeli ove načine na djelu. Razmislite o "Agentu za koordinaciju intervjua" osmišljenom da upravlja logistikom zapošljavanja.
U načinu predlaganja agent primjećuje da je ispitivač dvostruko rezerviran. Naglašava sukob na kontrolnoj ploči regruta: "Upozorenje: Sarah je dvostruko rezervirana za intervju u 14:00." U načinu planiranja agent analizira Sarin kalendar i dostupnost kandidata. Predstavlja rješenje: "Preporučujem pomicanje intervjua za četvrtak u 10 ujutro. To zahtijeva pomicanje Sarinog odnosa 1:1 s njezinim menadžerom." Regrut pregledava ovu logiku. U načinu potvrde agent sastavlja e-poruke kandidatu i upravitelju. Popunjava pozivnice kalendara. Regrut vidi sažetak: "Spremni za pomicanje za četvrtak. Pošaljite ažuriranja?" Regrut klikne "Potvrdi". U autonomnom načinu rada agent trenutačno rješava sukob. Poštuje unaprijed postavljeno pravilo: "Uvijek dajte prednost razgovorima s kandidatima u odnosu na interne razgovore 1:1." Premješta sastanak i šalje obavijesti. Regrut vidi zapis u dnevniku: “Riješenosukob rasporeda za kandidata B.”
Primer istraživanja: Što istražiti i kako Razvijanje učinkovite agentske umjetne inteligencije zahtijeva poseban istraživački pristup u usporedbi s tradicionalnim softverom ili čak generativnom umjetnom inteligencijom. Autonomna priroda agenata umjetne inteligencije, njihova sposobnost donošenja odluka i njihov potencijal za proaktivno djelovanje zahtijevaju specijalizirane metodologije za razumijevanje očekivanja korisnika, mapiranje složenih ponašanja agenata i predviđanje potencijalnih kvarova. Sljedeći uvod za istraživanje opisuje ključne metode za mjerenje i procjenu ovih jedinstvenih aspekata agentske umjetne inteligencije. Intervjui mentalnog modela Ovi intervjui otkrivaju unaprijed stvorene predodžbe korisnika o tome kako bi se agent umjetne inteligencije trebao ponašati. Umjesto jednostavnog pitanja što korisnici žele, fokus je na razumijevanju njihovih internih modela sposobnosti i ograničenja agenta. Trebali bismo izbjegavati korištenje riječi "agent" sa sudionicima. Nosi znanstvenofantastičnu prtljagu ili je pojam koji se lako može zamijeniti s ljudskim agentom koji nudi podršku ili usluge. Umjesto toga, uokvirite raspravu oko "pomoćnika" ili "sustava". Moramo otkriti gdje korisnici povlače granicu između korisne automatizacije i nametljive kontrole.
Metoda: Zamolite korisnike da opišu, nacrtaju ili ispričaju svoje očekivane interakcije s agentom u različitim hipotetskim scenarijima. Ključna ispitivanja (koja odražavaju različite industrije): Da biste razumjeli granice željene automatizacije i potencijalne brige oko pretjerane automatizacije, pitajte: Ako je vaš let otkazan, što biste željeli da sustav učini automatski? Što bi vas zabrinulo da to učini bez vašeg izričitog uputstva?
Kako biste istražili korisnikovo razumijevanje internih procesa agenta i potrebne komunikacije, pitajte: Zamislite da digitalni asistent upravlja vašim pametnim domom. Ako je paket isporučen, koje korake zamišljate da će biti potrebno i koje informacije očekujete da ćete primiti?
Da biste otkrili očekivanja u vezi s kontrolom i pristankom unutar procesa u više koraka, upitajte: Ako zamolite svog digitalnog asistenta da zakaže sastanak, koje korake predviđate da će poduzeti? U kojim točkama biste željeli da vas se konzultira ili da vam se da izbor?
Prednosti metode: otkriva implicitne pretpostavke, naglašava područja u kojima bi agentovo planirano ponašanje moglo odstupati od očekivanja korisnika i informira o dizajnu odgovarajućih kontrola i mehanizama povratnih informacija.
Mapiranje putovanja agenta: Slično tradicionalnom mapiranju putovanja korisnika, mapiranje putovanja agenta posebno se usredotočuje na predviđene radnje i točke odlučivanja samog AI agenta, uz interakciju korisnika. To pomaže u proaktivnom prepoznavanju potencijalnih zamki.
Metoda: Napravite vizualnu kartu koja ocrtava različite faze rada agenta, od početka do završetka, uključujući sve potencijalne akcije, odluke i interakcije s vanjskim sustavima ili korisnicima. Ključni elementi za mapiranje: Radnje agenta: Koje specifične zadatke ili odluke agent obavlja? Ulazi/izlazi informacija: Koje podatke treba agent i koje informacije generira ili prenosi? Točke odlučivanja: Gdje agent donosi izbore i koji su kriteriji za te izbore? Točke interakcije s korisnikom: Gdje korisnik daje unos, pregled ili odobrava radnje? Točke neuspjeha: Najvažnije, identificirajte specifične slučajeve u kojima bi agent mogao pogrešno protumačiti upute, donijeti netočnu odluku ili komunicirati s pogrešnim entitetom. Primjeri: netočan primatelj (npr. slanje osjetljivih informacija pogrešnoj osobi), prekoračenje (npr. automatsko plaćanje koje premašuje dostupna sredstva), pogrešno tumačenje namjere (npr. rezervacija leta za pogrešan datum zbog dvosmislenog jezika).
Putevi oporavka: Kako se agent ili korisnik mogu oporaviti od ovih kvarova? Koji mehanizmi postoje za korekciju ili intervenciju?
Prednosti metode: Pruža holistički pogled na operativni tijek agenta, otkriva skrivene ovisnosti i omogućuje proaktivan dizajn zaštitnih mjera, rukovanje pogreškama i točke intervencije korisnika kako bi se spriječili ili ublažili negativni ishodi.
Simulirano testiranje lošeg ponašanja: Ovaj pristup osmišljen je za testiranje sustava na stres i promatranje reakcija korisnika kada AI agent zakaže ili odstupi od očekivanja. Radi se o razumijevanju popravka povjerenja i emocionalnih reakcija u nepovoljnim situacijama.
Metoda: U kontroliranim laboratorijskim studijama namjerno uvodite scenarije u kojima agent čini pogrešku, pogrešno tumači naredbu ili se ponaša neočekivano. Vrste "lošeg ponašanja" za simulaciju: ZapovjediPogrešno tumačenje: Agent izvodi radnju malo drugačiju od onoga što je korisnik namjeravao (npr. naručivanje dva artikla umjesto jednog). Preopterećenost/nedovoljno opterećenje informacijama: agent pruža previše nevažnih informacija ili nedovoljno kritičnih detalja. Neželjena radnja: agent poduzima radnju koju korisnik izričito nije želio ili očekivao (npr. kupnja dionica bez odobrenja). Kvar sustava: Agent se ruši, prestaje reagirati ili daje poruku o pogrešci. Etičke dileme: Agent donosi odluku s etičkim implikacijama (npr. davanje prioriteta jednom zadatku nad drugim na temelju nepredviđene metrike).
Fokus promatranja: Reakcije korisnika: Kako korisnici emocionalno reagiraju (frustracija, ljutnja, zbunjenost, gubitak povjerenja)? Pokušaji oporavka: Koje korake poduzimaju korisnici kako bi ispravili ponašanje agenta ili poništili njegove radnje? Mehanizmi popravka povjerenja: Pomažu li ugrađeni mehanizmi oporavka ili povratne informacije sustava vratiti povjerenje? Kako korisnici žele biti obaviješteni o pogreškama? Promjena mentalnog modela: Mijenja li loše ponašanje korisnikovo razumijevanje agentovih sposobnosti ili ograničenja?
Prednosti metode: Presudno za prepoznavanje nedostataka u dizajnu koji se odnose na oporavak od pogreške, povratne informacije i korisničku kontrolu. Pruža uvid u to koliko su korisnici otporni na kvarove agenata i što je potrebno za održavanje ili ponovnu izgradnju povjerenja, što dovodi do robusnijih agentskih sustava koji opraštaju.
Integriranjem ovih istraživačkih metodologija, praktičari UX-a mogu prijeći dalje od jednostavnog stvaranja agencijskih sustava upotrebljivim i učiniti ih pouzdanima, kontroliranima i odgovornima, potičući pozitivan i produktivan odnos između korisnika i njihovih AI agenata. Imajte na umu da ovo nisu jedine metode relevantne za učinkovito istraživanje agentske umjetne inteligencije. Postoje mnoge druge metode, ali one su najdostupnije praktičarima u bliskoj budućnosti. Prethodno sam obradio metodu Čarobnjaka iz Oza, malo napredniju metodu testiranja koncepta, koja je također vrijedan alat za istraživanje koncepata AI-ja. Etička razmatranja u metodologiji istraživanja Kada istražujete agentsku umjetnu inteligenciju, osobito kada simulirate loše ponašanje ili pogreške, etička razmatranja su ključna za uzimanje u obzir. Postoje mnoge publikacije koje se fokusiraju na etičko UX istraživanje, uključujući članak koji sam napisao za Smashing Magazine, ove smjernice UX Design Institutea i ovu stranicu Inclusive Design Toolkita. Ključne metrike za Agentic AI Trebat će vam opsežan skup ključnih metrika za učinkovitu procjenu performansi i pouzdanosti agentskih AI sustava. Ove metrike daju uvid u povjerenje korisnika, točnost sustava i cjelokupno korisničko iskustvo. Prateći ove pokazatelje, programeri i dizajneri mogu identificirati područja za poboljšanje i osigurati da AI agenti rade sigurno i učinkovito. 1. Stopa intervencije Za autonomne agente uspjeh mjerimo šutnjom. Ako agent izvrši zadatak, a korisnik ne intervenira ili ne poništi radnju unutar postavljenog prozora (npr. 24 sata), to računamo kao prihvaćanje. Pratimo stopu intervencije: koliko često čovjek uskoči da zaustavi ili ispravi agenta? Visoka stopa intervencije signalizira neusklađenost u povjerenju ili logici. 2. Učestalost nenamjernih radnji na 1000 zadataka Ova kritična metrika kvantificira broj radnji koje je izvršio AI agent, a koje korisnik nije želio ili očekivao, normalizirano na 1000 dovršenih zadataka. Niska učestalost nenamjernih radnji označava dobro usklađenu umjetnu inteligenciju koja točno tumači namjere korisnika i djeluje unutar definiranih granica. Ova metrika usko je povezana s AI-jevim razumijevanjem konteksta, njegovom sposobnošću razjašnjavanja naredbi i robusnošću njegovih sigurnosnih protokola. 3. Stope vraćanja ili poništavanja Ova metrika prati koliko često korisnici moraju poništiti ili poništiti radnju koju je izvršio AI. Visoke stope vraćanja upućuju na to da AI često radi pogreške, pogrešno tumači upute ili djeluje na načine koji nisu u skladu s očekivanjima korisnika. Analiza razloga koji stoje iza ovih vraćanja može pružiti vrijedne povratne informacije za poboljšanje algoritama umjetne inteligencije, razumijevanje korisničkih preferencija i njegove sposobnosti predviđanja poželjnih ishoda. Da biste razumjeli zašto, morate provesti mikroanketu o radnji poništavanja. Na primjer, kada korisnik poništi promjenu rasporeda, jednostavan upit može pitati: "Pogrešno vrijeme? Pogrešna osoba? Ili ste to samo htjeli učiniti sami?" Omogućujući korisniku da klikne na opciju koja najbolje odgovara njegovom razmišljanju. 4. Vrijeme do rješenja nakon greškeOva metrikamjeri trajanje koje je korisniku potrebno da ispravi pogrešku koju je napravio AI ili da se sam AI sustav oporavi od pogrešnog stanja. Kratko vrijeme do rješavanja ukazuje na učinkovit i korisniku jednostavan postupak oporavka od pogreške, koji može ublažiti frustraciju korisnika i održati produktivnost. To uključuje lakoću prepoznavanja pogreške, dostupnost mehanizama poništavanja ili ispravljanja i jasnoću poruka o pogreškama koje pruža AI.
Prikupljanje ove metrike zahtijeva instrumentiranje vašeg sustava za praćenje ID-ova radnji agenta. Svaka posebna radnja koju agent poduzima, kao što je predlaganje rasporeda ili rezervacija leta, mora generirati jedinstveni ID koji ostaje u zapisima. Za mjerenje stope intervencije ne tražimo trenutačnu reakciju korisnika. Tražimo odsutnost protuakcije unutar definiranog prozora. Ako se ID radnje generira u 9:00 ujutro i nijedan ljudski korisnik ne modificira ili poništi taj određeni ID do 9:00 ujutro sljedećeg dana, sustav ga logično označava kao Prihvaćeno. To nam omogućuje kvantificiranje uspjeha na temelju šutnje korisnika, a ne aktivne potvrde. Za stope povrata, neobrađeni brojevi nisu dovoljni jer nemaju kontekst. Da biste uhvatili temeljni razlog, morate implementirati logiku presretanja na funkcije Undo ili Revert vaše aplikacije. Kada korisnik poništi radnju koju je pokrenuo agent, pokrenite laganu mikroanketu. To može biti jednostavan modal s tri opcije koji od korisnika traži da kategorizira pogrešku kao činjenično netočnu, bez konteksta ili jednostavnu preferenciju za ručno rješavanje zadatka. Ovo kombinira kvantitativnu telemetriju s kvalitativnim uvidom. Omogućuje inženjerskim timovima da razlikuju neispravan algoritam i neusklađenost korisničkih preferencija. Ove metrike, kada se dosljedno prate i holistički analiziraju, pružaju robustan okvir za procjenu performansi agentskih AI sustava, omogućujući kontinuirano poboljšanje kontrole, pristanka i odgovornosti. Dizajniranjem protiv prijevare Kako agenti postaju sve sposobniji, suočavamo se s novim rizikom: agentskim muljem. Tradicionalni mulj stvara trenje koje otežava otkazivanje pretplate ili brisanje računa. Agens mulj djeluje obrnuto. Uklanja trenje do greške, što korisniku čini previše lakim da pristane na radnju koja koristi poslu, a ne njegovim vlastitim interesima. Razmislite o agentu koji pomaže u rezervaciji putovanja. Bez jasnih zaštitnih ograda, sustav bi mogao dati prednost partnerskoj zrakoplovnoj tvrtki ili hotelu s višom maržom. Ovaj izbor predstavlja kao optimalan put. Korisnik, vjerujući autoritetu sustava, prihvaća preporuku bez provjere. Ovo stvara obmanjujući obrazac gdje sustav optimizira za prihod pod krinkom pogodnosti. Rizik od lažno zamišljene kompetencije Obmana ne mora proizaći iz zle namjere. Često se manifestira u umjetnoj inteligenciji kao zamišljena kompetencija. Veliki jezični modeli često zvuče autoritativno čak i kada su netočni. Predstavljaju lažnu potvrdu rezervacije ili netočan sažetak s istom pouzdanošću kao i provjerenu činjenicu. Korisnici prirodno mogu vjerovati ovom samouvjerenom tonu. Ova neusklađenost stvara opasan jaz između mogućnosti sustava i očekivanja korisnika. Moramo posebno dizajnirati kako bismo premostili ovaj jaz. Ako agent ne uspije izvršiti zadatak, sučelje mora jasno signalizirati taj kvar. Ako je sustav nesiguran, mora izražavati nesigurnost, a ne maskirati je uglađenom prozom. Transparentnost putem primitiva Protuotrov i za mulj i za halucinacije je porijeklo. Svaka autonomna radnja zahtijeva posebnu oznaku metapodataka koja objašnjava podrijetlo odluke. Korisnicima je potrebna mogućnost pregleda logičkog lanca iza rezultata. Da bismo to postigli, moramo prevesti primitivne u praktične odgovore. U softverskom inženjerstvu, primitivi se odnose na osnovne jedinice informacija ili radnji koje agent izvodi. Inženjeru ovo izgleda kao API poziv ili logička vrata. Korisniku se mora činiti kao jasno objašnjenje. Izazov dizajna leži u preslikavanju ovih tehničkih koraka u čovjeku čitljiva obrazloženja. Ako agent preporuči određeni let, korisnik mora znati zašto. Sučelje se ne može sakriti iza generičkog prijedloga. Mora razotkriti osnovni primitiv: Logika: Najjeftiniji_izravan_let ili Logika: Prioritet_partnerske_zrakoplovne_kompanije. Slika 4 ilustrira ovaj tok prevođenja. Uzimamo primitivu sirovog sustava — stvarnu logiku koda — i preslikavamo je na niz prema korisniku. Na primjer, primitivna provjera rasporeda kalendara sastanak postaje jasna izjava: Predložio sam 16:00sastanak. Ova razina transparentnosti osigurava da agentovi postupci izgledaju logično i korisno. Omogućuje korisniku da provjeri je li agent djelovao u njegovom najboljem interesu. Razotkrivajući primitivce, transformiramo crnu kutiju u staklenu kutiju, osiguravajući da korisnici ostanu konačni autoritet u svojim digitalnim životima.
Postavljanje pozornice za dizajn Izgradnja agentskog sustava zahtijeva novu razinu psihološkog i bihevioralnog razumijevanja. Tjera nas da prijeđemo izvan konvencionalnog testiranja upotrebljivosti i uđemo u područje povjerenja, pristanka i odgovornosti. Istraživačke metode o kojima smo razgovarali, od ispitivanja mentalnih modela do simulacije lošeg ponašanja i uspostavljanja novih metrika, pružaju potrebnu osnovu. Te su prakse ključni alati za proaktivno prepoznavanje mjesta gdje bi autonomni sustav mogao zakazati i, što je još važnije, kako popraviti odnos korisnik-agent kada se to dogodi. Prijelaz na agentsku umjetnu inteligenciju je redefiniranje odnosa korisnik-sustav. Više ne dizajniramo za alate koji jednostavno odgovaraju na naredbe; dizajniramo za partnere koji djeluju u naše ime. Ovo mijenja imperativ dizajna od učinkovitosti i jednostavnosti korištenja do transparentnosti, predvidljivosti i kontrole. Kada AI može rezervirati let ili trgovati dionicama bez posljednjeg klika, dizajn njegovih "on-ramps" i "off-ramps" postaje najvažniji. Naša je odgovornost osigurati da korisnici osjećaju da su na vozačevom mjestu, čak i kada predaju volan. Ova nova stvarnost također podiže ulogu istraživača UX-a. Postajemo čuvari povjerenja korisnika, radeći u suradnji s inženjerima i voditeljima proizvoda na definiranju i testiranju zaštitnih ograda autonomije agenta. Osim što smo istraživači, postajemo zagovornici kontrole korisnika, transparentnosti i etičkih zaštitnih mjera unutar razvojnog procesa. Prevođenjem primitiva u praktična pitanja i simuliranjem najgorih scenarija, možemo izgraditi robusne sustave koji su i snažni i sigurni. Ovaj je članak opisao "što" i "zašto" istraživanja agentske umjetne inteligencije. Pokazalo se da su naši tradicionalni skupovi alata nedostatni i da moramo usvojiti nove, napredne metodologije. Sljedeći članak temeljit će se na ovom temelju, pružajući specifične obrasce dizajna i organizacijske prakse koje agentovu uslužnost čine transparentnom za korisnike, osiguravajući da mogu iskoristiti snagu agentske umjetne inteligencije s povjerenjem i kontrolom. Budućnost UX-a je u tome da sustave učinimo pouzdanima. Za dodatno razumijevanje agentske umjetne inteligencije, možete istražiti sljedeće resurse:
Google AI blog o Agentic AI Microsoftovo istraživanje o AI agentima
