Agentic AI tinsab lesta li tittrasforma l-esperjenza tal-klijent u l-effiċjenza operattiva, li teħtieġ approċċ strateġiku ġdid mit-tmexxija. Din l-evoluzzjoni fl-intelliġenza artifiċjali tagħti s-setgħa lis-sistemi biex jippjanaw, jeżegwixxu, u jippersistu fil-kompiti, jimxu lil hinn mir-rakkomandazzjonijiet sempliċi għal azzjoni proattiva. Għat-timijiet tal-UX, il-maniġers tal-prodotti u l-eżekuttivi, il-fehim ta’ din il-bidla huwa kruċjali biex jinfetħu opportunitajiet fl-innovazzjoni, jiġu ssimplifikati l-flussi tax-xogħol, u tiddefinixxi mill-ġdid kif it-teknoloġija taqdi lin-nies. Huwa faċli li tħawwad Agentic AI ma 'Robotic Process Automation (RPA), li hija teknoloġija li tiffoka fuq kompiti bbażati fuq ir-regoli mwettqa fuq il-kompjuters. Id-distinzjoni tinsab fir-riġidità kontra r-raġunament. L-RPA hija eċċellenti biex issegwi skript strett: jekk jiġri X, tagħmel Y. Jimita l-idejn tal-bniedem. Agentic AI jimita r-raġunament uman. Ma jsegwix kitba lineari; joħloq wieħed. Ikkunsidra fluss tax-xogħol ta’ reklutaġġ. Bot tal-RPA jista 'jskennja jerġa' u jtellah f'database. Huwa jwettaq kompitu ripetittiv perfettament. Sistema Agentic tħares lejn it-tkomplija, tinnota li l-kandidat jelenka ċertifikazzjoni speċifika, tirreferenzi li ma 'rekwiżit ġdid tal-klijent, u tiddeċiedi li tabbozza email ta' sensibilizzazzjoni personalizzata li tenfasizza dik il-logħba. RPA tesegwixxi pjan predefinit; Agentic AI tifformula l-pjan ibbażat fuq għan. Din l-awtonomija tifred l-aġenti mill-għodod ta’ tbassir li użajna għal dawn l-aħħar għaxar snin. Eżempju ieħor huwa l-ġestjoni tal-kunflitti tal-laqgħat. Mudell ta' tbassir integrat fil-kalendarju tiegħek jista' janalizza l-iskeda tal-laqgħat tiegħek u l-iskedi tal-kollegi tiegħek. Imbagħad jista 'jissuġġerixxi kunflitti potenzjali, bħal żewġ laqgħat importanti skedati fl-istess ħin, jew laqgħa skedata meta parteċipant ewlieni jkun fuq vaganza. Jipprovdilek informazzjoni u jindika kwistjonijiet potenzjali, iżda inti responsabbli biex tieħu azzjoni. AI aġent, fl-istess xenarju, imur lil hinn milli jissuġġerixxi kunflitti li għandhom jiġu evitati. Malli jidentifika kunflitt ma’ parteċipant ewlieni, l-aġent jista’ jaġixxi billi:
Iċċekkja d-disponibbiltà tal-parteċipanti kollha meħtieġa. L-identifikazzjoni ta' slots ta' ħin alternattivi li jaħdmu għal kulħadd. Nibgħat stediniet proposti għal laqgħat ġodda lil dawk kollha li attendew. Jekk il-kunflitt ikun ma' parteċipant estern, l-aġent jista' jabbozza u jibgħat email li jispjega l-ħtieġa li jiġi skedat mill-ġdid u joffri ħinijiet alternattivi. Aġġorna l-kalendarju tiegħek u l-kalendarji tal-kollegi tiegħek bid-dettalji l-ġodda tal-laqgħa ladarba jiġu kkonfermati.
Din l-AI aġenti tifhem l-għan (issolvi l-kunflitt tal-laqgħa), tippjana l-passi (iċċekkja d-disponibbiltà, issib alternattivi, tibgħat stediniet), tesegwixxi dawk il-passi, u tippersisti sakemm il-kunflitt jiġi solvut, kollha b'intervent minimu dirett tal-utent. Dan juri d-differenza "aġentika": is-sistema tieħu passi proattivi għall-utent, aktar milli sempliċement tipprovdi informazzjoni lill-utent. Is-sistemi ta’ AI aġenti jifhmu mira, jippjanaw serje ta’ passi biex jiksbuh, jesegwixxu dawk il-passi, u saħansitra jadattaw jekk l-affarijiet imorru ħażin. Aħseb fih bħal assistent diġitali proattiv. It-teknoloġija sottostanti ħafna drabi tgħaqqad mudelli tal-lingwa kbar (LLMs) għall-fehim u r-raġunament, ma 'algoritmi ta' ppjanar li jinqasmu kompiti kumplessi f'azzjonijiet maniġġabbli. Dawn l-aġenti jistgħu jinteraġixxu ma 'diversi għodod, APIs, u anke mudelli AI oħra biex iwettqu l-għanijiet tagħhom, u b'mod kritiku, jistgħu jżommu stat persistenti, li jfisser li jiftakru azzjonijiet preċedenti u jkomplu jaħdmu lejn għan matul iż-żmien. Dan jagħmilhom fundamentalment differenti minn AI ġenerattiva tipika, li normalment tikkompleta talba waħda u mbagħad terġa 'tiġi reset. Tassonomija Sempliċi ta 'Imġieba Aġenti Nistgħu nikkategorizzaw l-imġieba tal-aġent f'erba' modi distinti ta 'awtonomija. Filwaqt li dawn ħafna drabi jidhru qishom progressjoni, jiffunzjonaw bħala modi operattivi indipendenti. Utent jista' jafda aġent biex jaġixxi b'mod awtonomu għall-iskedar, iżda jżommha f'"modalità ta' suġġeriment" għal tranżazzjonijiet finanzjarji. Aħna dderivajna dawn il-livelli billi adattajna l-istandards tal-industrija għal vetturi awtonomi (livelli SAE) għal kuntesti diġitali tal-esperjenza tal-utent. Osserva-u-Suġġerixxi L-aġent jaħdem bħala monitor. Din tanalizza l-flussi tad-dejta u timmarka anomaliji jew opportunitajiet, iżda tieħu azzjoni żero. DifferenzjazzjoniB'differenza mil-livell li jmiss, l-aġent ma jiġġenera l-ebda pjan kumpless. Jindika problema. EżempjuAġent DevOps jinnota żieda fis-CPU tas-server u javża lill-inġinier on-call. Ma jafx kif jew jipprova jirranġaha, iżda jaf li xi ħaġa hi ħażina. Implikazzjonijiet għad-disinn u s-sorveljanzaF'dan il-livell,id-disinn u s-sorveljanza għandhom jipprijoritizzaw notifiki ċari u mhux intrużivi u proċess definit tajjeb għall-utenti biex jaġixxu fuq is-suġġerimenti. L-enfasi hija fuq l-għoti tas-setgħa lill-utent b'informazzjoni f'waqtha u rilevanti mingħajr ma jieħu l-kontroll. Il-prattikanti tal-UX għandhom jiffokaw fuq li jagħmlu s-suġġerimenti ċari u faċli biex jinftiehmu, filwaqt li l-maniġers tal-prodott jeħtieġ li jiżguraw li s-sistema tipprovdi valur mingħajr ma jisbqu lill-utent. Ippjana u tipproponi L-aġent jidentifika għan u jiġġenera strateġija f'diversi stadji biex jintlaħaq. Jippreżenta l-pjan sħiħ għar-reviżjoni umana. DifferenzjazzjoniL-aġent jaġixxi bħala strateġista. Ma tesegwixxix; jistenna l-approvazzjoni fuq l-approċċ kollu. Eżempju L-istess aġent DevOps jinnota l-ispike tas-CPU, janalizza r-zkuk, u jipproponi pjan ta’ rimedju:
Spin up żewġ każijiet żejda. Ibda mill-ġdid il-load balancer. Arkivju zkuk qodma.
Il-bniedem jirrevedi l-loġika u jikklikkja "Approva Pjan". Implikazzjonijiet għad-disinn u s-sorveljanza Għall-aġenti li jippjanaw u jipproponu, id-disinn għandu jiżgura li l-pjanijiet proposti jinftiehmu faċilment u li l-utenti jkollhom modi intuwittivi biex jimmodifikawhom jew jirrifjutawhom. Is-sorveljanza hija kruċjali fil-monitoraġġ tal-kwalità tal-proposti u l-loġika tal-ippjanar tal-aġent. Il-prattikanti tal-UX għandhom ifasslu viżwalizzazzjonijiet ċari tal-pjanijiet proposti, u l-maniġers tal-prodott għandhom jistabbilixxu flussi tax-xogħol ċari ta 'reviżjoni u approvazzjoni. Att-bil-Konferma L-aġent itemm ix-xogħol kollu ta 'preparazzjoni u jqiegħed l-azzjoni finali fi stat fi stadji. Huwa effettivament iżomm il-bieb miftuħ, jistenna għal nod. DifferenzjazzjoniDan huwa differenti minn "Ippjana-u-Proponi" għaliex ix-xogħol diġà sar u mtella'. Inaqqas il-frizzjoni. L-utent jikkonferma r-riżultat, mhux l-istrateġija. EżempjuAġent ta' reklutaġġ jabbozza ħames stediniet għal intervisti, isib ħinijiet miftuħa fuq kalendarji, u joħloq l-avvenimenti tal-kalendarju. Jippreżenta buttuna "Ibgħat Kollha". L-utent jipprovdi l-awtorizzazzjoni finali biex tiskatta l-azzjoni esterna. Implikazzjonijiet għad-disinn u s-sorveljanza Meta l-aġenti jaġixxu b'konferma, id-disinn għandu jipprovdi sommarji trasparenti u konċiżi tal-azzjoni maħsuba, li jiddeskrivi b'mod ċar il-konsegwenzi potenzjali. Is-sorveljanza teħtieġ tivverifika li l-proċess ta’ konferma huwa robust u li l-utenti mhux qed jintalbu japprovaw l-azzjonijiet bl-addoċċ. Il-prattikanti tal-UX għandhom ifasslu prompts ta’ konferma li huma ċari u jipprovdu l-informazzjoni kollha meħtieġa, u l-maniġers tal-prodott għandhom jipprijoritizzaw traċċa ta’ verifika robusta għall-azzjonijiet ikkonfermati kollha. Att-Awtonomament L-aġent jesegwixxi l-kompiti b'mod indipendenti fi ħdan il-konfini definiti. DifferenzjazzjoniL-utent jirrevedi l-istorja tal-azzjonijiet, mhux l-azzjonijiet infushom. EżempjuL-aġent tar-reklutaġġ jara kunflitt, imexxi l-intervista għal slot backup, jaġġorna lill-kandidat, u jinnotifika lill-maniġer tal-kiri. Il-bniedem jara biss notifika: Intervista skedata mill-ġdid għat-Tlieta. Implikazzjonijiet għad-disinn u s-sorveljanza Għall-aġenti awtonomi, id-disinn jeħtieġ li jistabbilixxi konfini ċari approvati minn qabel u jipprovdi għodod ta 'monitoraġġ robusti. Is-sorveljanza teħtieġ evalwazzjoni kontinwa tal-prestazzjoni tal-aġent f’dawn il-konfini, ħtieġa kritika għal illoggjar b’saħħtu, mekkaniżmi ċari ta’ override, u kill switches definiti mill-utent biex jinżamm il-kontroll u l-fiduċja tal-utent. Il-prattikanti tal-UX għandhom jiffokaw fuq it-tfassil ta 'dashboards effettivi għall-monitoraġġ tal-imġieba tal-aġent awtonomu, u l-maniġers tal-prodotti għandhom jiżguraw li jkun hemm governanza ċara u linji gwida etiċi.
Ejja nħarsu lejn applikazzjoni fid-dinja reali fit-teknoloġija HR biex naraw dawn il-modi fl-azzjoni. Ikkunsidra "Aġent tal-Koordinazzjoni tal-Intervisti" iddisinjat biex jimmaniġġja l-loġistika tal-kiri.
Fil-Modalità IssuġġerixxiL-aġent jinnota li intervistatur huwa bbukkjat doppju. Tenfasizza l-kunflitt fuq id-daxxbord tar-reklutatur: "Twissija: Sarah hija bbukkjata doppja għall-intervista tas-2 PM." Fil-Modalità tal-Pjan L-aġent janalizza l-kalendarju ta’ Sarah u d-disponibbiltà tal-kandidat. Jippreżenta soluzzjoni: "Nirrakkomanda li nċaqlaq l-intervista għall-Ħamis fl-10 AM. Dan jeħtieġ li ċċaqlaq 1:1 ta' Sarah mal-maniġer tagħha." Ir-reklutatur jirrevedi din il-loġika. Fil-Modalità ta' KonfermaL-aġent jabbozza l-emails lill-kandidat u lill-maniġer. Hija timla l-kalendarju jistieden. Min jirrekluta jara sommarju: "Let biex tiskeda mill-ġdid għall-Ħamis. Ibgħat aġġornamenti?" Min jirrekluta jikklikkja "Ikkonferma." Fil-Modalità AwtonomaL-aġent jieħu ħsieb il-kunflitt istantanjament. Jirrispetta regola stabbilita minn qabel: "Dejjem ipprijoritizza l-intervisti tal-kandidati fuq 1:1s interni." Jiċċaqlaq il-laqgħa u jibgħat in-notifiki. Min jirrekluta jara dħul fil-log: “Ssolvakonflitt tal-iskeda għall-Kandidat B.”
Riċerka Primer: X'Għand Ir-Riċerka U Kif L-iżvilupp ta 'AI aġenti effettiva jitlob approċċ ta' riċerka distint meta mqabbel ma 'softwer tradizzjonali jew saħansitra AI ġenerattiva. In-natura awtonoma tal-aġenti tal-AI, il-kapaċità tagħhom li jieħdu deċiżjonijiet, u l-potenzjal tagħhom għal azzjoni proattiva jeħtieġu metodoloġiji speċjalizzati għall-fehim tal-aspettattivi tal-utenti, l-immappjar tal-imġieba tal-aġenti kumplessi, u l-antiċipazzjoni tal-fallimenti potenzjali. Il-primer ta 'riċerka li ġej jiddeskrivi metodi ewlenin biex jitkejlu u jevalwaw dawn l-aspetti uniċi ta' AI aġenti. Intervisti tal-Mudell Mentali Dawn l-intervisti jikxfu kunċetti prekonċepiti tal-utenti dwar kif għandu jġib ruħu aġent tal-IA. Minflok sempliċiment tistaqsi x'jixtiequ l-utenti, l-enfasi hija fuq il-fehim tal-mudelli interni tagħhom tal-kapaċitajiet u l-limitazzjonijiet tal-aġent. Għandna nevitaw li nużaw il-kelma "aġent" mal-parteċipanti. Jġorr bagalji sci-fi jew huwa terminu wisq faċilment konfuż ma 'aġent uman li joffri appoġġ jew servizzi. Minflok, idawwar id-diskussjoni madwar "assistenti" jew "is-sistema." Irridu niskopru fejn l-utenti jfasslu l-linja bejn l-awtomazzjoni utli u l-kontroll intrużiv.
Metodu: Staqsi lill-utenti biex jiddeskrivu, ipinġu jew jirrakkontaw l-interazzjonijiet mistennija tagħhom mal-aġent f'diversi xenarji ipotetiċi. Sondi Ewlenin (li jirriflettu varjetà ta' industriji): Biex tifhem il-konfini tal-awtomazzjoni mixtieqa u l-ansjetajiet potenzjali madwar l-awtomatizzazzjoni żejda, staqsi: Jekk it-titjira tiegħek tiġi kkanċellata, x'tixtieq li tagħmel is-sistema awtomatikament? X'jinkwetak jekk tagħmel dan mingħajr l-istruzzjoni espliċita tiegħek?
Biex tesplora l-fehim tal-utent tal-proċessi interni tal-aġent u l-komunikazzjoni meħtieġa, staqsi: Immaġina assistent diġitali qed jimmaniġġja d-dar intelliġenti tiegħek. Jekk jitwassal pakkett, x'passi timmaġina li jieħu, u x'informazzjoni tistenna li tirċievi?
Biex tikxef l-aspettattivi dwar il-kontroll u l-kunsens fi ħdan proċess f’diversi stadji, staqsi: Jekk titlob lill-assistent diġitali tiegħek biex jiskeda laqgħa, liema passi tipprevedi li tieħu? F'liema punti tixtieq li tiġi kkonsultat jew li tingħata għażliet?
Benefiċċji tal-metodu: Tiżvela suppożizzjonijiet impliċiti, tenfasizza oqsma fejn l-imġieba ppjanata tal-aġent tista 'tvarja mill-aspettattivi tal-utent, u tinforma d-disinn ta' kontrolli xierqa u mekkaniżmi ta 'feedback.
Immappjar tal-Vjaġġ tal-Aġent: Simili għall-immappjar tradizzjonali tal-vjaġġ tal-utent, l-immappjar tal-vjaġġ tal-aġent jiffoka speċifikament fuq l-azzjonijiet antiċipati u l-punti tad-deċiżjoni tal-aġent tal-AI innifsu, flimkien mal-interazzjoni tal-utent. Dan jgħin biex jiġu identifikati b'mod proattiv in-nases potenzjali.
Metodu: Oħloq mappa viżwali li tiddeskrivi l-istadji varji tal-operazzjoni ta 'aġent, mill-bidu sat-tlestija, inklużi l-azzjonijiet, id-deċiżjonijiet, u l-interazzjonijiet potenzjali kollha ma' sistemi jew utenti esterni. Elementi Ewlenin għall-Mappa: Azzjonijiet tal-Aġenti: X'kompiti jew deċiżjonijiet speċifiċi jwettaq l-aġent? Informazzjoni Inputs/Outputs: X'dejta għandu bżonn l-aġent, u liema informazzjoni jiġġenera jew jikkomunika? Punti ta' Deċiżjoni: Fejn jagħmel għażliet l-aġent, u x'inhuma l-kriterji għal dawk l-għażliet? Punti ta' Interazzjoni tal-Utent: Fejn l-utent jipprovdi input, jirrevedi, jew japprova azzjonijiet? Punti ta' Nuqqas: B'mod kruċjali, identifika każijiet speċifiċi fejn l-aġent jista' jinterpreta ħażin l-istruzzjonijiet, jieħu deċiżjoni żbaljata, jew jinteraġixxi mal-entità ħażina. Eżempji: Riċevitur żbaljat (eż., jibgħat informazzjoni sensittiva lill-persuna ħażina), overdraft (eż., ħlas awtomatizzat li jaqbeż il-fondi disponibbli), interpretazzjoni ħażina tal-intenzjoni (eż., ibbukkjar titjira għal data ħażina minħabba lingwaġġ ambigwu).
Mogħdijiet ta 'rkupru: Kif jista' l-aġent jew l-utent jirkupra minn dawn il-fallimenti? Liema mekkaniżmi huma fis-seħħ għall-korrezzjoni jew l-intervent?
Benefiċċji tal-metodu: Tipprovdi ħarsa olistika tal-fluss operattiv tal-aġent, tikxef dipendenzi moħbija, u tippermetti disinn proattiv ta 'salvagwardji, ġestjoni tal-iżbalji, u punti ta' intervent tal-utent biex jipprevjenu jew itaffu riżultati negattivi.
Ittestjar ta' Mġiba Ħażina Simulat: Dan l-approċċ huwa ddisinjat biex jittestja s-sistema u josserva r-reazzjonijiet tal-utent meta l-aġent tal-AI jonqos jew jiddevja mill-aspettattivi. Huwa dwar il-fehim tat-tiswija tal-fiduċja u r-risponsi emozzjonali f'sitwazzjonijiet avversi.
Metodu: Fi studji kkontrollati fil-laboratorju, deliberatament daħħal xenarji fejn l-aġent jagħmel żball, jinterpreta ħażin kmand, jew iġib ruħu b'mod mhux mistenni. Tipi ta' "Imġieba Ħażina" biex tissimula: KmandInterpretazzjoni ħażina: L-aġent iwettaq azzjoni kemmxejn differenti minn dak li kien maħsub l-utent (eż., jordna żewġ oġġetti minflok wieħed). Tagħbija Eċċessiva/Tagħbija Insuffiċjenti: L-aġent jipprovdi wisq informazzjoni irrilevanti jew mhux biżżejjed dettalji kritiċi. Azzjoni mhux mitluba: L-aġent jieħu azzjoni li l-utent espliċitament ma riedx jew ma jistenniex (eż., jixtri stokk mingħajr approvazzjoni). Falliment tas-Sistema: L-aġent jiġġarraf, ma jirrispondix, jew jipprovdi messaġġ ta' żball. Dilemmi Etiċi: L-aġent jieħu deċiżjoni b'implikazzjonijiet etiċi (eż., jipprijoritizza kompitu fuq ieħor ibbażat fuq metrika mhux prevista).
Fokus ta' Osservazzjoni: Reazzjonijiet tal-Utenti: Kif jirreaġixxu l-utenti b'mod emozzjonali (frustrazzjoni, rabja, konfużjoni, telf ta' fiduċja)? Tentattivi ta 'Rkupru: X'passi jieħdu l-utenti biex jikkoreġu l-imġieba tal-aġent jew ineħħi l-azzjonijiet tiegħu? Mekkaniżmi ta’ Tiswija tal-Fiduċja: Il-mekkaniżmi ta’ rkupru jew feedback inkorporati tas-sistema jgħinu biex terġa’ tinbena l-fiduċja? Kif iridu l-utenti jkunu infurmati dwar l-iżbalji? Shift tal-Mudell Mentali: L-imġieba ħażina tbiddel il-fehim tal-utent tal-kapaċitajiet jew il-limitazzjonijiet tal-aġent?
Benefiċċji tal-metodu: Kruċjali għall-identifikazzjoni tal-lakuni fid-disinn relatati mal-irkupru tal-iżbalji, ir-rispons, u l-kontroll tal-utent. Jipprovdi għarfien dwar kif l-utenti huma reżiljenti għall-fallimenti tal-aġenti u x'inhu meħtieġ biex tinżamm jew tinbena mill-ġdid il-fiduċja, li jwassal għal sistemi aġent aktar robusti u li jaħfer.
Billi jintegraw dawn il-metodoloġiji tar-riċerka, il-prattikanti tal-UX jistgħu jimxu lil hinn minn sempliċiment jagħmlu sistemi aġent użabbli biex jagħmluhom fdati, kontrollabbli u responsabbli, u jrawmu relazzjoni pożittiva u produttiva bejn l-utenti u l-aġenti tal-AI tagħhom. Innota li dawn mhumiex l-uniċi metodi rilevanti biex tiġi esplorata AI aġenti b'mod effettiv. Jeżistu ħafna metodi oħra, iżda dawn huma l-aktar aċċessibbli għall-prattikanti fi żmien qrib. Preċedentement kont kopriet il-metodu Wizard of Oz, metodu kemmxejn aktar avvanzat ta 'ttestjar tal-kunċett, li huwa wkoll għodda siewja għall-esplorazzjoni ta' kunċetti ta 'AI aġenti. Konsiderazzjonijiet Etiċi Fil-Metodoloġija tar-Riċerka Meta ssir riċerka dwar l-AI aġenti, partikolarment meta tissimula imġieba ħażina jew żbalji, konsiderazzjonijiet etiċi huma essenzjali biex jitqiesu. Hemm ħafna pubblikazzjonijiet li jiffokaw fuq ir-riċerka etika tal-UX, inkluż artiklu li ktibt għal Smashing Magazine, dawn il-linji gwida mill-UX Design Institute, u din il-paġna mill-Inclusive Design Toolkit. Metriċi Ewlenin Għall Agentic AI Ikollok bżonn sett komprensiv ta 'metriċi ewlenin biex tivvaluta b'mod effettiv il-prestazzjoni u l-affidabbiltà tas-sistemi AI aġenti. Dawn il-metriċi jipprovdu għarfien dwar il-fiduċja tal-utent, l-eżattezza tas-sistema, u l-esperjenza ġenerali tal-utent. Billi jsegwu dawn l-indikaturi, l-iżviluppaturi u d-disinjaturi jistgħu jidentifikaw oqsma għal titjib u jiżguraw li l-aġenti tal-AI joperaw b'mod sikur u effiċjenti. 1. Rata ta 'intervent Għal aġenti awtonomi, aħna nkejlu s-suċċess bis-silenzju. Jekk aġent jesegwixxi kompitu u l-utent ma jintervjenix jew ireġġa' lura l-azzjoni f'tieqa stabbilita (eż., 24 siegħa), aħna ngħoddu dan bħala aċċettazzjoni. Intraċċaw ir-Rata ta' Intervent: kemm-il darba bniedem jaqbeż biex iwaqqaf jew jikkoreġi l-aġent? Rata ta' intervent għolja tindika allinjament ħażin fil-fiduċja jew fil-loġika. 2. Frekwenza ta 'Azzjonijiet Mhux Intenzjonati għal kull 1,000 KompituDin il-metrika kritika tikkwantifika n-numru ta' azzjonijiet imwettqa mill-aġent AI li ma kinux mixtieqa jew mistennija mill-utent, normalizzati għal kull 1,000 biċċa xogħol kompletata. Frekwenza baxxa ta' azzjonijiet mhux intenzjonati tfisser AI allinjata tajjeb li tinterpreta b'mod preċiż l-intenzjoni tal-utent u topera fi ħdan konfini definiti. Din il-metrika hija marbuta mill-qrib mal-fehim tal-kuntest tal-AI, il-kapaċità tagħha li tiddi ambigwixxi l-kmandi, u r-robustezza tal-protokolli tas-sikurezza tagħha. 3. Rati ta' Tħassir jew Tneħħija Din il-metrika ssegwi kemm-il darba l-utenti jeħtieġu li jreġġgħu lura jew iħottu azzjoni mwettqa mill-AI. Rati għoljin ta' rollback jissuġġerixxu li l-AI qed tagħmel żbalji frekwenti, tinterpreta ħażin l-istruzzjonijiet, jew taġixxi b'modi li mhumiex allinjati mal-aspettattivi tal-utent. L-analiżi tar-raġunijiet wara dawn it-tkeċċija tista 'tipprovdi feedback siewi għat-titjib tal-algoritmi tal-AI, il-fehim tal-preferenzi tal-utent, u l-kapaċità tagħha li tbassar riżultati mixtieqa. Biex tifhem għaliex, trid timplimenta microsurvey dwar l-azzjoni undo. Pereżempju, meta utent ireġġa' lura bidla fl-iskedar, pront sempliċi jista 'jistaqsi: "Ħin ħażin? Persuna żbaljata? Jew ridt biss tagħmel it yourself?" Li tippermetti lill-utent biex ikklikkja fuq l-għażla li tikkorrispondi l-aħjar għar-raġunament tagħhom. 4. Żmien għar-Riżoluzzjoni Wara ŻballDan il-metrikaikejjel it-tul ta' żmien li jieħu biex utent jikkoreġi żball magħmul mill-AI jew biex is-sistema AI nnifisha tirkupra minn stat żbaljat. Żmien qasir għar-riżoluzzjoni jindika proċess ta 'rkupru ta' żball effiċjenti u faċli għall-utent, li jista 'jnaqqas il-frustrazzjoni tal-utent u jżomm il-produttività. Dan jinkludi l-faċilità li jiġi identifikat l-iżball, l-aċċessibbiltà ta’ mekkaniżmi ta’ tneħħija jew korrezzjoni, u ċ-ċarezza tal-messaġġi ta’ żball ipprovduti mill-AI.
Il-ġbir ta' dawn il-metriċi jeħtieġ l-istrumentazzjoni tas-sistema tiegħek biex issegwi l-IDs tal-Azzjoni tal-Aġenti. Kull azzjoni distinta li jieħu l-aġent, bħal tipproponi skeda jew ibbukkja titjira, trid tiġġenera ID unika li tippersisti fir-zkuk. Biex tkejjel ir-Rata ta' Intervent, aħna ma nfittxux reazzjoni immedjata tal-utent. Infittxu n-nuqqas ta' kontroazzjoni f'tieqa definita. Jekk ID ta' Azzjoni tiġi ġġenerata fid-9:00 AM u l-ebda utent uman ma jimmodifika jew ireġġa' lura dik l-ID speċifika sad-9:00 AM tal-jum ta' wara, is-sistema loġikament ttikkettaha bħala Aċċettata. Dan jippermettilna nikkwantifikaw is-suċċess ibbażat fuq is-silenzju tal-utent aktar milli konferma attiva. Għar-Rati ta' Rollback, l-għadd mhux ipproċessat mhumiex biżżejjed minħabba li m'għandhomx il-kuntest. Biex taqbad ir-raġuni sottostanti, trid timplimenta l-loġika tal-interċettazzjoni fuq il-funzjonijiet Undo jew Revert tal-applikazzjoni tiegħek. Meta utent ireġġa' lura azzjoni mibdija mill-aġent, iqanqal mikrosurvey ħafif. Dan jista 'jkun modal sempliċi bi tliet għażliet li titlob lill-utent biex jikkategorizza l-iżball bħala fattwalment mhux korrett, nieqes mill-kuntest, jew preferenza sempliċi biex jimmaniġġja l-kompitu manwalment. Dan jgħaqqad telemetrija kwantitattiva ma 'għarfien kwalitattiv. Jippermetti lit-timijiet tal-inġinerija jiddistingwu bejn algoritmu miksur u nuqqas ta' qbil fil-preferenza tal-utent. Dawn il-metriċi, meta jiġu ssorveljati b'mod konsistenti u analizzati b'mod ħolistiku, jipprovdu qafas robust għall-evalwazzjoni tal-prestazzjoni tas-sistemi tal-AI aġenti, li jippermettu titjib kontinwu fil-kontroll, il-kunsens u r-responsabbiltà. Disinn Kontra l-Qerq Hekk kif l-aġenti jsiru dejjem aktar kapaċi, niffaċċjaw riskju ġdid: Agentic Sludge. Il-ħama tradizzjonali toħloq frizzjoni li tagħmilha diffiċli biex tikkanċella abbonament jew tħassar kont. Il-ħama aġent taġixxi bil-maqlub. Tneħħi l-frizzjoni għal ħsara, u tagħmilha faċli wisq għal utent biex jaqbel ma 'azzjoni li tkun ta' benefiċċju għan-negozju aktar milli għall-interessi tiegħu stess. Ikkunsidra aġent li jgħin fil-prenotazzjoni tal-ivvjaġġar. Mingħajr guardrails ċari, is-sistema tista’ tagħti prijorità lil linja tal-ajru msieħba jew lil lukanda b’marġni ogħla. Jippreżenta din l-għażla bħala l-aħjar triq. L-utent, li jafda l-awtorità tas-sistema, jaċċetta r-rakkomandazzjoni mingħajr skrutinju. Dan joħloq mudell qarrieqi fejn is-sistema tottimizza għad-dħul taħt l-iskuża ta 'konvenjenza. Ir-Riskju Ta' Kompetenza Immaġinata Falz Il-qerq ma jistax jiġi minn intenzjoni malizzjuża. Ħafna drabi timmanifesta fl-AI bħala Kompetenza Immaġina. Mudelli tal-Lingwa Kbar spiss jinstemgħu awtorevoli anke meta jkunu żbaljati. Jippreżentaw konferma tal-prenotazzjoni falza jew sommarju mhux preċiż bl-istess kunfidenza bħal fatt verifikat. L-utenti jistgħu naturalment jafdaw dan it-ton kunfidenti. Dan in-nuqqas ta' qbil joħloq vojt perikoluż bejn il-kapaċità tas-sistema u l-aspettattivi tal-utent. Irridu nfasslu speċifikament biex innaqqsu din id-differenza. Jekk aġent jonqos milli jlesti kompitu, l-interface għandu jindika dak in-nuqqas b'mod ċar. Jekk is-sistema ma tkunx ċerta, trid tesprimi inċertezza aktar milli taħbiha bi proża illustrata. Trasparenza permezz tal-Primittivi L-antidotu kemm għall-ħama kif ukoll għall-alluċinazzjoni huwa l-provenjenza. Kull azzjoni awtonoma teħtieġ tikketta ta' metadejta speċifika li tispjega l-oriġini tad-deċiżjoni. L-utenti jeħtieġu l-abbiltà li jispezzjonaw il-katina loġika wara r-riżultat. Biex niksbu dan, irridu nittraduċu l-primittivi fi tweġibiet prattiċi. Fl-inġinerija tas-softwer, il-primittivi jirreferu għall-unitajiet ewlenin ta 'informazzjoni jew azzjonijiet li jwettaq aġent. Għall-inġinier, din tidher qisha sejħa API jew xatba loġika. Għall-utent, għandu jidher bħala spjegazzjoni ċara. L-isfida tad-disinn tinsab fl-immappjar ta' dawn il-passi tekniċi għal raġunijiet li jinqraw mill-bniedem. Jekk aġent jirrakkomanda titjira speċifika, l-utent jeħtieġ li jkun jaf għaliex. L-interface ma tistax tinħeba wara suġġeriment ġeneriku. Għandu jesponi l-primittiv sottostanti: Loġika: Cheapest_Direct_Flight jew Logic: Partner_Airline_Priority. Il-Figura 4 turi dan il-fluss tat-traduzzjoni. Nieħdu s-sistema prima primittiva - il-loġika tal-kodiċi attwali - u nimmappjawha għal sekwenza li tiffaċċja l-utent. Pereżempju, verifika primittiva ta' skeda kalendarja laqgħa ssir dikjarazzjoni ċara: jien ipproponejt 4 PMlaqgħa. Dan il-livell ta’ trasparenza jiżgura li l-azzjonijiet tal-aġent jidhru loġiċi u ta’ benefiċċju. Jippermetti lill-utent jivverifika li l-aġent aġixxa fl-aħjar interess tiegħu. Billi nesponu l-primittivi, nittrasformaw kaxxa sewda f'kaxxa tal-ħġieġ, u niżguraw li l-utenti jibqgħu l-awtorità finali fil-ħajja diġitali tagħhom stess.
L-issettjar tal-palk għad-disinn Il-bini ta 'sistema aġent jeħtieġ livell ġdid ta' fehim psikoloġiku u ta 'mġieba. Jġiegħla nimxu lil hinn mill-ittestjar tal-użabilità konvenzjonali u fil-qasam tal-fiduċja, il-kunsens u r-responsabbiltà. Il-metodi ta 'riċerka li ddiskutejna, mill-istħarriġ ta' mudelli mentali sas-simulazzjoni ta 'imġieba ħażina u l-istabbiliment ta' metriċi ġodda, jipprovdu pedament meħtieġ. Dawn il-prattiki huma l-għodod essenzjali biex jiġi identifikat b'mod proattiv fejn sistema awtonoma tista' tfalli u, aktar importanti, kif tissewwa r-relazzjoni utent-aġent meta tagħmel dan. Il-bidla għal AI aġenti hija definizzjoni mill-ġdid tar-relazzjoni utent-sistema. M'għadniex infasslu għal għodod li sempliċement jirrispondu għall-kmandi; qed infasslu għall-imsieħba li jaġixxu f'isimna. Dan ibiddel l-imperattiv tad-disinn minn effiċjenza u faċilità ta 'użu għal trasparenza, prevedibbiltà u kontroll. Meta AI tista' tibbukkja titjira jew tinnegozja stokk mingħajr klikk finali, id-disinn tar-"rampi ta' fuq" u "rampi ta' barra" tiegħu jsir importanti ħafna. Hija r-responsabbiltà tagħna li niżguraw li l-utenti jħossu li qegħdin fuq is-sedil tas-sewwieq, anke meta jkunu għaddew ir-rota. Din ir-realtà ġdida tgħolli wkoll ir-rwol tar-riċerkatur UX. Aħna nsiru l-kustodji tal-fiduċja tal-utent, naħdmu b'mod kollaborattiv ma 'inġiniera u maniġers tal-prodott biex niddefinixxu u nittestjaw il-guardrails tal-awtonomija ta' aġent. Lil hinn minn riċerkaturi, aħna nsiru avukati għall-kontroll tal-utent, it-trasparenza, u s-salvagwardji etiċi fi ħdan il-proċess tal-iżvilupp. Billi nittraduċu l-primittivi fi mistoqsijiet prattiċi u nissimulaw l-agħar xenarji, nistgħu nibnu sistemi robusti li huma kemm qawwija kif ukoll sikuri. Dan l-artikolu ddeskriva "x'inhu" u "għaliex" tar-riċerka dwar l-AI aġenti. Wera li s-sett ta' għodod tradizzjonali tagħna mhumiex biżżejjed u li rridu nadottaw metodoloġiji ġodda li jħarsu 'l quddiem. L-artikolu li jmiss se jibni fuq din il-pedament, billi jipprovdi l-mudelli speċifiċi tad-disinn u l-prattiki organizzattivi li jagħmlu l-utilità ta 'aġent trasparenti għall-utenti, u jiżgura li jistgħu jisfruttaw il-qawwa tal-AI aġenti b'kunfidenza u kontroll. Il-futur tal-UX huwa li tagħmel is-sistemi affidabbli. Għal fehim addizzjonali tal-AI aġenti, tista' tesplora r-riżorsi li ġejjin:
Google AI Blog dwar Agentic AI Ir-riċerka ta’ Microsoft dwar l-Aġenti tal-AI
