Agentic AI je pripravená transformovať zákaznícke skúsenosti a prevádzkovú efektivitu, čo si vyžaduje nový strategický prístup od vedenia. Tento vývoj v oblasti umelej inteligencie umožňuje systémom plánovať, vykonávať a zotrvať v úlohách, čím sa posúva od jednoduchých odporúčaní k proaktívnym akciám. Pre tímy UX, produktových manažérov a vedúcich pracovníkov je pochopenie tohto posunu kľúčové pre odomknutie príležitostí v oblasti inovácií, zefektívnenie pracovných postupov a predefinovanie toho, ako technológie slúžia ľuďom. Agentickú umelú inteligenciu je ľahké zameniť s robotickou automatizáciou procesov (RPA), čo je technológia, ktorá sa zameriava na úlohy založené na pravidlách vykonávané na počítačoch. Rozdiel spočíva v rigidite verzus uvažovanie. RPA je vynikajúca v dodržiavaní prísneho scenára: ak sa stane X, urobte Y. Napodobňuje ľudské ruky. Agentická AI napodobňuje ľudské uvažovanie. Nesleduje lineárny scenár; vytvorí jeden. Zvážte pracovný postup náboru. Robot RPA môže naskenovať životopis a nahrať ho do databázy. Dokonale vykonáva opakujúcu sa úlohu. Systém Agentic sa pozrie na životopis, všimne si, že kandidát uvádza konkrétnu certifikáciu, porovná ju s požiadavkou nového klienta a rozhodne sa navrhnúť personalizovaný informačný e-mail, v ktorom bude zdôraznená zhoda. RPA vykonáva vopred definovaný plán; Agentická AI formuluje plán na základe cieľa. Táto autonómia oddeľuje agentov od prediktívnych nástrojov, ktoré sme používali v poslednom desaťročí. Ďalším príkladom je riadenie konfliktov na stretnutiach. Prediktívny model integrovaný do vášho kalendára môže analyzovať váš plán stretnutí a plány vašich kolegov. Potom môže navrhnúť potenciálne konflikty, ako sú dve dôležité stretnutia naplánované v rovnakom čase alebo stretnutie naplánované, keď je kľúčový účastník na dovolenke. Poskytuje vám informácie a označuje potenciálne problémy, ale za prijatie opatrení zodpovedáte vy. Agentická AI by v rovnakom scenári presahovala len navrhovanie konfliktov, ktorým sa treba vyhnúť. Po identifikácii konfliktu s kľúčovým účastníkom môže agent konať takto:
Kontrola dostupnosti všetkých potrebných účastníkov. Identifikácia alternatívnych časových úsekov, ktoré fungujú pre každého. Odosielanie navrhovaných pozvánok na nové stretnutia všetkým účastníkom. Ak je konflikt s externým účastníkom, agent by mohol navrhnúť a poslať e-mail s vysvetlením potreby preplánovania a ponúknuť alternatívne časy. Po potvrdení aktualizujte svoj kalendár a kalendáre svojich kolegov o nové podrobnosti o schôdzi.
Táto agentná AI rozumie cieľu (vyriešenie konfliktu schôdze), naplánuje kroky (kontrola dostupnosti, nájdenie alternatív, odoslanie pozvánok), vykoná tieto kroky a pretrváva, kým sa konflikt nevyrieši, to všetko s minimálnym priamym zásahom používateľa. To demonštruje „agentný“ rozdiel: systém robí proaktívne kroky pre používateľa, namiesto toho, aby používateľovi len poskytoval informácie. Agentické systémy AI pochopia cieľ, naplánujú sériu krokov na jeho dosiahnutie, vykonajú tieto kroky a dokonca sa prispôsobia, ak sa niečo pokazí. Predstavte si to ako proaktívneho digitálneho asistenta. Základná technológia často kombinuje veľké jazykové modely (LLM) na pochopenie a uvažovanie s plánovacími algoritmami, ktoré rozkladajú zložité úlohy do zvládnuteľných akcií. Títo agenti môžu interagovať s rôznymi nástrojmi, rozhraniami API a dokonca aj inými modelmi AI, aby dosiahli svoje ciele, a čo je najdôležitejšie, môžu udržiavať trvalý stav, čo znamená, že si pamätajú predchádzajúce akcie a pokračujú v práci na dosiahnutí cieľa. Tým sa zásadne líšia od typickej generatívnej AI, ktorá zvyčajne dokončí jednu požiadavku a potom sa resetuje. Jednoduchá taxonómia agentského správania Správanie agentov môžeme kategorizovať do štyroch rôznych režimov autonómie. Aj keď často vyzerajú ako progresia, fungujú ako nezávislé prevádzkové režimy. Používateľ môže agentovi dôverovať, že bude pri plánovaní konať autonómne, ale ponechá ho v „režime návrhov“ pre finančné transakcie. Tieto úrovne sme odvodili prispôsobením priemyselných štandardov pre autonómne vozidlá (úrovne SAE) do kontextu digitálnej používateľskej skúsenosti. Pozorujte a navrhujte Agent funguje ako monitor. Analyzuje dátové toky a označuje anomálie alebo príležitosti, ale nevykonáva žiadnu akciu. DiferenciáciaNa rozdiel od ďalšej úrovne agent negeneruje žiadny komplexný plán. Poukazuje na problém. Príklad Agent DevOps si všimne nárast CPU servera a upozorní technika, ktorý je na volanie. Nevie, ako alebo sa to nepokúša opraviť, ale vie, že niečo nie je v poriadku. Dôsledky pre dizajn a dohľad Na tejto úrovnidizajn a dohľad by mali uprednostňovať jasné, nevtieravé oznámenia a dobre definovaný proces pre používateľov, ako konať na základe návrhov. Dôraz je kladený na to, aby sme používateľovi poskytli aktuálne a relevantné informácie bez toho, aby prevzal kontrolu. Odborníci na UX by sa mali zamerať na to, aby návrhy boli jasné a ľahko pochopiteľné, zatiaľ čo produktoví manažéri musia zabezpečiť, aby systém poskytoval hodnotu bez toho, aby preťažoval používateľa. Plánujte a navrhujte Agent identifikuje cieľ a vytvorí viackrokovú stratégiu na jeho dosiahnutie. Predstavuje úplný plán na preskúmanie človekom. DiferenciáciaAgent vystupuje ako stratég. Nevykonáva sa; čaká na schválenie celého prístupu. Príklad Rovnaký agent DevOps si všimne nárast CPU, analyzuje protokoly a navrhne plán nápravy:
Roztočte dva ďalšie prípady. Reštartujte vyvažovač záťaže. Archivujte staré protokoly.
Človek skontroluje logiku a klikne na „Schváliť plán“. Dôsledky pre návrh a dohľad Pre agentov, ktorí plánujú a navrhujú, musí návrh zabezpečiť, aby boli navrhované plány ľahko zrozumiteľné a aby používatelia mali intuitívne spôsoby, ako ich upraviť alebo odmietnuť. Dohľad je rozhodujúci pri monitorovaní kvality návrhov a plánovacej logiky agenta. Odborníci na UX by mali navrhnúť jasné vizualizácie navrhovaných plánov a produktoví manažéri musia vytvoriť jasné pracovné postupy kontroly a schvaľovania. Akt-s-potvrdením Agent dokončí všetky prípravné práce a uvedie finálnu akciu do zinscenovaného stavu. Účinne drží dvere otvorené a čaká na prikývnutie. DiferenciáciaToto sa líši od „Plan-and-Propose“, pretože práca je už hotová a zinscenovaná. Znižuje trenie. Používateľ potvrdzuje výsledok, nie stratégiu. Príklad Náborový agent navrhne päť pozvánok na pohovor, nájde otvorené časy v kalendároch a vytvorí udalosti v kalendári. Predstavuje tlačidlo „Odoslať všetko“. Používateľ poskytne konečné oprávnenie na spustenie externej akcie. Dôsledky pre návrh a dohľad Keď agenti konajú s potvrdením, návrh by mal poskytnúť transparentné a stručné zhrnutia zamýšľanej akcie, jasne načrtnuté potenciálne dôsledky. Dohľad musí overiť, či je proces potvrdenia robustný a či sa od používateľov nevyžaduje slepé schvaľovanie akcií. Odborníci na UX by mali navrhnúť výzvy na potvrdenie, ktoré sú jasné a poskytujú všetky potrebné informácie, a produktoví manažéri by mali uprednostňovať dôkladný audit trail pre všetky potvrdené akcie. Konať – autonómne Agent vykonáva úlohy nezávisle v rámci definovaných hraníc. DiferenciáciaPoužívateľ kontroluje históriu akcií, nie akcie samotné. Príklad Náborový agent vidí konflikt, presunie pohovor na záložnú pozíciu, aktualizuje kandidáta a informuje náborového manažéra. Človek vidí iba upozornenie: Rozhovor bol presunutý na utorok. Dôsledky pre návrh a dohľad Pre autonómnych agentov musí návrh stanoviť jasné vopred schválené hranice a poskytnúť robustné monitorovacie nástroje. Dohľad si vyžaduje neustále vyhodnocovanie výkonu agenta v rámci týchto hraníc, kritickú potrebu robustného protokolovania, jasných mechanizmov prepisovania a používateľom definovaných prepínačov zabíjania, aby sa zachovala kontrola a dôvera používateľa. Odborníci na UX by sa mali zamerať na navrhovanie efektívnych dashboardov na monitorovanie správania autonómnych agentov a produktoví manažéri musia zabezpečiť jasné riadenie a etické pravidlá.
Pozrime sa na aplikáciu v reálnom svete v technológii ľudských zdrojov, aby sme videli tieto režimy v akcii. Zvážte „agenta na koordináciu pohovorov“, ktorý je navrhnutý tak, aby zvládal logistiku náboru.
V režime návrhov Agent si všimne, že anketár je zarezervovaný dvakrát. Zdôrazňuje konflikt na informačnom paneli náborového pracovníka: „Upozornenie: Sarah je dvakrát rezervovaná na pohovor o 14:00.“ V režime plánovania agent analyzuje Sarahin kalendár a dostupnosť kandidáta. Predstavuje riešenie: „Odporúčam presunúť rozhovor na štvrtok o 10:00. Vyžaduje si to posunúť pomer Sarah 1:1 s jej manažérom.“ Náborový pracovník preverí túto logiku. V režime potvrdenia Agent odošle e-maily kandidátovi a manažérovi. Vyplní pozvánky v kalendári. Náborový pracovník vidí zhrnutie: „Pripravený na preplánovanie na štvrtok. Odoslať aktualizácie?“ Náborový pracovník klikne na „Potvrdiť“. V autonómnom režime Agent rieši konflikt okamžite. Rešpektuje vopred stanovené pravidlo: „Vždy uprednostňujte pohovory s kandidátmi pred internými 1:1s.“ Presunie schôdzu a odošle upozornenia. Náborový pracovník vidí záznam denníka: „Vyriešenékonflikt rozvrhu pre kandidáta B.“
Výskum Primer: Čo skúmať a ako Vývoj efektívnej agentnej AI si vyžaduje odlišný výskumný prístup v porovnaní s tradičným softvérom alebo dokonca generatívnou AI. Autonómna povaha agentov AI, ich schopnosť rozhodovať sa a ich potenciál pre proaktívne akcie si vyžadujú špecializované metodológie na pochopenie očakávaní používateľov, mapovanie komplexného správania agentov a predvídanie potenciálnych zlyhaní. Nasledujúci výskumný základ načrtáva kľúčové metódy merania a hodnotenia týchto jedinečných aspektov AI agentov. Rozhovory s mentálnym modelom Tieto rozhovory odhaľujú vopred vytvorené predstavy používateľov o tom, ako by sa mal agent AI správať. Namiesto jednoduchého pýtania sa, čo používatelia chcú, sa zameriavame na pochopenie ich interných modelov schopností a obmedzení agenta. Mali by sme sa vyhnúť používaniu slova „agent“ s účastníkmi. Nesie sci-fi batožinu alebo je tento termín príliš ľahko zameniteľný s ľudským agentom ponúkajúcim podporu alebo služby. Namiesto toho zarámujte diskusiu okolo „asistentov“ alebo „systému“. Musíme odhaliť, kde používatelia vymedzujú hranicu medzi užitočnou automatizáciou a rušivým ovládaním.
Metóda: Požiadajte používateľov, aby opísali, nakreslili alebo vyrozprávali svoje očakávané interakcie s agentom v rôznych hypotetických scenároch. Kľúčové sondy (odrážajúce rôzne odvetvia): Ak chcete pochopiť hranice požadovanej automatizácie a potenciálne obavy z nadmernej automatizácie, opýtajte sa: Ak je váš let zrušený, čo chcete, aby systém urobil automaticky? Čo by vás znepokojovalo, keby to urobil bez vášho výslovného pokynu?
Ak chcete preskúmať, ako používateľ rozumie interným procesom agenta a potrebnej komunikácii, opýtajte sa: Predstavte si, že váš inteligentný dom spravuje digitálny asistent. Ak je doručený balík, aké kroky si predstavujete a aké informácie by ste očakávali?
Ak chcete odhaliť očakávania týkajúce sa kontroly a súhlasu v rámci viackrokového procesu, opýtajte sa: Ak požiadate svojho digitálneho asistenta, aby naplánoval stretnutie, aké kroky si predstavujete? V ktorých bodoch by ste chceli, aby sa s vami konzultovali alebo aby vám dali na výber?
Výhody metódy: Odhaľuje implicitné predpoklady, zdôrazňuje oblasti, v ktorých sa plánované správanie agenta môže líšiť od očakávaní používateľov, a informuje o návrhu vhodných kontrol a mechanizmov spätnej väzby.
Mapovanie cesty agenta: Podobne ako pri tradičnom mapovaní cesty používateľa sa mapovanie cesty agenta špecificky zameriava na očakávané akcie a rozhodovacie body samotného agenta AI spolu s interakciou používateľa. Pomáha to proaktívne identifikovať potenciálne úskalia.
Metóda: Vytvorte vizuálnu mapu, ktorá načrtáva rôzne fázy činnosti agenta, od iniciácie až po dokončenie, vrátane všetkých potenciálnych akcií, rozhodnutí a interakcií s externými systémami alebo používateľmi. Kľúčové prvky na mapovanie: Akcie agenta: Aké konkrétne úlohy alebo rozhodnutia agent vykonáva? Informačné vstupy/výstupy: Aké dáta potrebuje agent a aké informácie generuje alebo komunikuje? Body rozhodovania: Kde agent robí rozhodnutia a aké sú kritériá pre tieto voľby? Body interakcie používateľa: Kde používateľ poskytuje vstup, kontroluje alebo schvaľuje akcie? Body zlyhania: Rozhodujúce je identifikovať konkrétne prípady, kedy by agent mohol nesprávne interpretovať pokyny, urobiť nesprávne rozhodnutie alebo interagovať s nesprávnou entitou. Príklady: nesprávny príjemca (napr. odoslanie citlivých informácií nesprávnej osobe), prečerpanie (napr. automatická platba prevyšujúca dostupné prostriedky), nesprávna interpretácia zámeru (napr. rezervácia letu na nesprávny dátum z dôvodu nejednoznačného jazyka).
Cesty obnovy: Ako sa môže agent alebo používateľ zotaviť z týchto zlyhaní? Aké mechanizmy sú zavedené na nápravu alebo zásah?
Výhody metódy: Poskytuje holistický pohľad na operačný tok agenta, odhaľuje skryté závislosti a umožňuje proaktívny návrh bezpečnostných opatrení, spracovania chýb a zásahových bodov používateľa na predchádzanie alebo zmierňovanie negatívnych výsledkov.
Simulované testovanie nesprávneho správania: Tento prístup je navrhnutý na záťažové testovanie systému a sledovanie reakcií používateľov, keď agent AI zlyhá alebo sa odchýli od očakávaní. Ide o pochopenie nápravy dôvery a emocionálnych reakcií v nepriaznivých situáciách.
Metóda: V kontrolovaných laboratórnych štúdiách zámerne zavádzajte scenáre, v ktorých agent urobí chybu, nesprávne interpretuje príkaz alebo sa správa neočakávane. Typy „nesprávneho správania“ na simuláciu: PríkazNesprávna interpretácia: Agent vykoná akciu mierne odlišnú od toho, čo používateľ zamýšľal (napr. objedná dve položky namiesto jednej). Informačné preťaženie/nedostatočné zaťaženie: Agent poskytuje príliš veľa irelevantných informácií alebo málo dôležitých podrobností. Nevyžiadaná akcia: Zástupca vykoná akciu, ktorú používateľ výslovne nechcel alebo neočakával (napr. nákup akcií bez schválenia). Zlyhanie systému: Agent zlyhá, prestane reagovať alebo zobrazí chybové hlásenie. Etické dilemy: Zástupca robí rozhodnutie s etickými dôsledkami (napr. uprednostňuje jednu úlohu pred druhou na základe nepredvídateľnej metriky).
Zameranie pozorovania: Reakcie používateľov: Ako reagujú používatelia emocionálne (frustrácia, hnev, zmätok, strata dôvery)? Pokusy o obnovenie: Aké kroky podniknú používatelia, aby opravili správanie agenta alebo zrušili jeho akcie? Mechanizmy na opravu dôvery: Pomáhajú v systéme vstavané mechanizmy obnovy alebo spätnej väzby obnoviť dôveru? Ako chcú byť používatelia informovaní o chybách? Posun mentálneho modelu: Mení nesprávne správanie používateľské chápanie schopností alebo obmedzení agenta?
Výhody metódy: Rozhodujúce pre identifikáciu medzier v dizajne súvisiacich s obnovou chýb, spätnou väzbou a užívateľskou kontrolou. Poskytuje prehľad o tom, ako sú používatelia odolní voči zlyhaniam agentov a čo je potrebné na udržanie alebo obnovenie dôvery, čo vedie k robustnejším a tolerantnejším systémom agentov.
Integráciou týchto výskumných metodológií sa môžu odborníci na UX posunúť ďalej než len k tomu, aby boli agentné systémy použiteľné, aby boli dôveryhodné, kontrolovateľné a zodpovedné, čím sa podporuje pozitívny a produktívny vzťah medzi používateľmi a ich agentmi AI. Všimnite si, že toto nie sú jediné metódy relevantné pre efektívne skúmanie agentnej AI. Existuje mnoho ďalších metód, ale tieto sú pre praktizujúcich v blízkej budúcnosti najdostupnejšie. Predtým som sa zaoberal metódou Wizard of Oz, o niečo pokročilejšou metódou testovania konceptov, ktorá je tiež cenným nástrojom na skúmanie konceptov AI agentov. Etické úvahy v metodológii výskumu Pri výskume umelej inteligencie agentov, najmä pri simulácii nesprávneho správania alebo chýb, je kľúčové vziať do úvahy etické hľadiská. Existuje mnoho publikácií zameraných na etický výskum UX, vrátane článku, ktorý som napísal pre Smashing Magazine, týchto pokynov z UX Design Institute a tejto stránky z Inclusive Design Toolkit. Kľúčové metriky pre Agentickú AI Na efektívne posúdenie výkonu a spoľahlivosti systémov umelej inteligencie budete potrebovať komplexný súbor kľúčových metrík. Tieto metriky poskytujú prehľad o dôvere používateľov, presnosti systému a celkovej používateľskej skúsenosti. Sledovaním týchto indikátorov môžu vývojári a dizajnéri identifikovať oblasti na zlepšenie a zabezpečiť, aby agenti AI fungovali bezpečne a efektívne. 1. Miera zásahov V prípade autonómnych agentov meriame úspech mlčaním. Ak agent vykoná úlohu a používateľ nezasiahne alebo nezvráti akciu v rámci stanoveného obdobia (napr. 24 hodín), považujeme to za prijatie. Sledujeme mieru zásahov: ako často človek zaskočí, aby zastavil alebo napravil agenta? Vysoká miera zásahov signalizuje nesúlad v dôvere alebo logike. 2. Frekvencia neúmyselných akcií na 1 000 úloh Táto kritická metrika kvantifikuje počet akcií vykonaných agentom AI, ktoré používateľ neželal alebo neočakával, normalizovaný na 1 000 dokončených úloh. Nízka frekvencia neúmyselných akcií znamená dobre zosúladenú AI, ktorá presne interpretuje zámer používateľa a funguje v rámci definovaných hraníc. Táto metrika je úzko spätá s chápaním kontextu AI, jej schopnosťou rozlíšiť príkazy a robustnosťou jej bezpečnostných protokolov. 3. Miera vrátenia alebo zrušenia Táto metrika sleduje, ako často používatelia potrebujú vrátiť späť alebo vrátiť späť akciu vykonanú AI. Vysoká miera vrátenia zmien naznačuje, že AI robí časté chyby, nesprávne interpretuje pokyny alebo koná spôsobom, ktorý nie je v súlade s očakávaniami používateľov. Analýza dôvodov týchto zmien môže poskytnúť cennú spätnú väzbu na zlepšenie algoritmov AI, pochopenie preferencií používateľov a jej schopnosť predpovedať požadované výsledky. Ak chcete pochopiť prečo, musíte vykonať mikroprieskum týkajúci sa akcie vrátenia späť. Napríklad, keď používateľ zruší zmenu v plánovaní, jednoduchá výzva sa môže spýtať: „Nesprávny čas? Nesprávna osoba? Alebo ste to len chceli urobiť sami?“ Umožnenie používateľovi kliknúť na možnosť, ktorá najlepšie zodpovedá jeho úvahám. 4. Čas do vyriešenia po metrike ErrorThismeria čas, ktorý potrebuje používateľ na opravu chyby spôsobenej AI alebo na zotavenie samotného systému AI z chybného stavu. Krátky čas do vyriešenia naznačuje efektívny a užívateľsky prívetivý proces obnovy chýb, ktorý môže zmierniť frustráciu používateľov a zachovať produktivitu. To zahŕňa jednoduchosť identifikácie chyby, dostupnosť mechanizmov vrátenia alebo opravy a jasnosť chybových správ poskytovaných AI.
Zhromažďovanie týchto metrík vyžaduje vybavenie vášho systému na sledovanie ID akcií agenta. Každá jednotlivá akcia, ktorú agent vykoná, ako napríklad navrhnutie harmonogramu alebo rezervácia letu, musí vygenerovať jedinečné ID, ktoré zostane v denníkoch. Na meranie miery zásahov nehľadáme okamžitú reakciu používateľa. Hľadáme absenciu protiakcie v rámci definovaného okna. Ak sa ID akcie vygeneruje o 9:00 a žiadny používateľ neupraví alebo nevráti toto konkrétne ID do 9:00 nasledujúceho dňa, systém ho logicky označí ako Akceptované. To nám umožňuje kvantifikovať úspech skôr na základe mlčania používateľa než aktívneho potvrdenia. Pre miery vrátenia sú nespracované počty nedostatočné, pretože im chýba kontext. Ak chcete zachytiť základný dôvod, musíte implementovať logiku zachytávania do funkcií Späť alebo Vrátiť späť vo vašej aplikácii. Keď používateľ zruší akciu iniciovanú agentom, spustite ľahký mikroprieskum. Môže to byť jednoduchý modál s tromi možnosťami, ktorý od používateľa požaduje, aby kategorizoval chybu ako fakticky nesprávnu, bez kontextu alebo jednoduchou preferenciou manuálneho spracovania úlohy. Toto kombinuje kvantitatívnu telemetriu s kvalitatívnym náhľadom. Umožňuje inžinierskym tímom rozlíšiť medzi nefunkčným algoritmom a nesúladom používateľských preferencií. Tieto metriky, ak sú dôsledne sledované a analyzované holisticky, poskytujú robustný rámec na hodnotenie výkonu agentských systémov AI, čo umožňuje neustále zlepšovanie kontroly, súhlasu a zodpovednosti. Navrhovanie proti podvodom Ako sa agenti stávajú čoraz schopnejšími, čelíme novému riziku: Agentic Sludge. Tradičný kal vytvára trenie, ktoré sťažuje zrušenie predplatného alebo odstránenie účtu. Agentický kal pôsobí opačne. Odstraňuje trenie pri chybe, takže je pre používateľa príliš jednoduché súhlasiť s akciou, ktorá je výhodná pre podnik a nie pre jeho vlastné záujmy. Zvážte agenta, ktorý vám pomôže s rezerváciou cesty. Bez jasných zábradlí by systém mohol uprednostniť partnerskú leteckú spoločnosť alebo hotel s vyššou maržou. Prezentuje túto voľbu ako optimálnu cestu. Používateľ, ktorý dôveruje autorite systému, prijme odporúčanie bez kontroly. To vytvára klamlivý vzorec, v ktorom systém optimalizuje výnosy pod zámienkou pohodlia. Riziko falošne predstavovanej kompetencie Klamanie nemusí pochádzať zo zlého úmyslu. V AI sa často prejavuje ako imaginárna kompetencia. Veľké jazykové modely často znejú smerodajne, aj keď sú nesprávne. Nepravdivé potvrdenie rezervácie alebo nepresné zhrnutie prezentujú s rovnakou dôverou ako overený fakt. Používatelia môžu prirodzene dôverovať tomuto sebavedomému tónu. Tento nesúlad vytvára nebezpečnú medzeru medzi schopnosťou systému a očakávaniami používateľov. Musíme navrhnúť špeciálne na preklenutie tejto medzery. Ak agent nedokáže dokončiť úlohu, rozhranie musí toto zlyhanie jasne signalizovať. Ak je systém neistý, musí neistotu skôr vyjadrovať, než ju maskovať vybrúsenou prózou. Transparentnosť prostredníctvom Primitives Protijed na kal aj halucinácie je pôvod. Každá autonómna akcia vyžaduje špecifickú značku metadát vysvetľujúcu pôvod rozhodnutia. Používatelia potrebujú možnosť kontrolovať logický reťazec za výsledkom. Aby sme to dosiahli, musíme primitívy premeniť na praktické odpovede. V softvérovom inžinierstve sa primitíva týkajú základných jednotiek informácií alebo akcií, ktoré agent vykonáva. Pre inžiniera to vyzerá ako volanie API alebo logická brána. Používateľovi sa to musí javiť ako jasné vysvetlenie. Výzva dizajnu spočíva v mapovaní týchto technických krokov na ľudsky čitateľné zdôvodnenia. Ak agent odporúča konkrétny let, používateľ musí vedieť prečo. Rozhranie sa nemôže skrývať za všeobecný návrh. Musí odhaliť základné primitívum: Logic: Cheapest_Direct_Flight alebo Logic: Partner_Airline_Priority. Obrázok 4 znázorňuje tento tok prekladu. Vezmeme prvotný systémový primitív – skutočnú logiku kódu – a namapujeme ho na reťazec orientovaný na používateľa. Napríklad primitívna kontrola kalendára schôdze sa stáva jasným vyhlásením: Navrhol som 16:00stretnutie. Táto úroveň transparentnosti zaisťuje, že akcie agenta vyzerajú logicky a prospešne. Umožňuje používateľovi overiť, či agent konal v ich najlepšom záujme. Odhalením primitív premieňame čiernu skrinku na sklenenú skrinku, čím zaisťujeme, že používatelia zostanú konečnou autoritou vo svojom vlastnom digitálnom živote.
Príprava javiska pre dizajn Budovanie systému agentov si vyžaduje novú úroveň psychologického a behaviorálneho porozumenia. Núti nás to posunúť sa za hranice konvenčného testovania použiteľnosti a do oblasti dôvery, súhlasu a zodpovednosti. Metódy výskumu, o ktorých sme diskutovali, od skúmania mentálnych modelov po simuláciu zlého správania a stanovenie nových metrík, poskytujú potrebný základ. Tieto postupy sú základnými nástrojmi na proaktívne zisťovanie, kde môže autonómny systém zlyhať, a čo je dôležitejšie, ako opraviť vzťah medzi používateľmi a agentmi, keď sa to stane. Posun k agentickej AI je redefiníciou vzťahu používateľ-systém. Už nevyvíjame nástroje, ktoré jednoducho reagujú na príkazy; navrhujeme pre partnerov, ktorí konajú v našom mene. Tým sa mení imperatív dizajnu z efektívnosti a jednoduchosti používania na transparentnosť, predvídateľnosť a kontrolu. Keď si AI môže rezervovať let alebo obchodovať s akciami bez posledného kliknutia, prvoradý sa stáva dizajn jej „nájazdových rámp“ a „výstupných rámp“. Je našou zodpovednosťou zabezpečiť, aby sa používatelia cítili na sedadle vodiča, aj keď odovzdali volant. Táto nová realita tiež zvyšuje úlohu výskumníka UX. Stávame sa strážcami dôvery používateľov a spolupracujeme s inžiniermi a produktovými manažérmi na definovaní a testovaní mantinelov autonómie agenta. Okrem toho, že sme výskumníci, stávame sa zástancami používateľskej kontroly, transparentnosti a etických záruk v rámci procesu vývoja. Prevedením primitív do praktických otázok a simuláciou najhorších scenárov môžeme vybudovať robustné systémy, ktoré sú výkonné aj bezpečné. Tento článok načrtol „čo“ a „prečo“ pri výskume AI agentov. Ukázalo sa, že naše tradičné súbory nástrojov sú nedostatočné a že musíme prijať nové, perspektívne metodiky. Ďalší článok bude stavať na tomto základe a poskytne špecifické vzory dizajnu a organizačné postupy, vďaka ktorým je pomôcka agenta pre používateľov transparentná, čím sa zabezpečí, že budú môcť využívať silu agentskej AI s istotou a kontrolou. Budúcnosť UX je o tom, aby boli systémy dôveryhodné. Ak chcete lepšie porozumieť agentskej AI, môžete preskúmať nasledujúce zdroje:
Blog Google AI o Agentic AI Výskum spoločnosti Microsoft o agentoch AI
