Agentic AI er tilbúið til að umbreyta upplifun viðskiptavina og skilvirkni í rekstri, sem kallar á nýja stefnumótandi nálgun frá forystu. Þessi þróun í gervigreind gerir kerfum kleift að skipuleggja, framkvæma og halda áfram verkefnum og fara lengra en einfaldar ráðleggingar yfir í fyrirbyggjandi aðgerðir. Fyrir UX teymi, vörustjóra og stjórnendur er skilningur á þessari breytingu mikilvægur til að opna tækifæri í nýsköpun, hagræða vinnuflæði og endurskilgreina hvernig tækni þjónar fólki. Það er auðvelt að rugla saman Agentic AI og Robotic Process Automation (RPA), sem er tækni sem einbeitir sér að reglubundnum verkefnum sem unnin eru á tölvum. Munurinn liggur í stífni á móti rökhugsun. RPA er frábært í að fylgja ströngu handriti: ef X gerist, gerðu Y. Það líkir eftir mannshöndum. Agentic AI líkir eftir mannlegri rökhugsun. Það fylgir ekki línulegu handriti; það skapar einn. Íhugaðu vinnuflæði fyrir ráðningar. RPA láni getur skannað ferilskrá og hlaðið henni upp í gagnagrunn. Það framkvæmir endurtekið verkefni fullkomlega. Umboðskerfi skoðar ferilskrána, tekur eftir því að umsækjandinn skráir upp ákveðna vottun, vísar í það með nýrri kröfu viðskiptavinarins og ákveður að semja persónulegan netpóst sem undirstrikar þá samsvörun. RPA framkvæmir fyrirfram skilgreinda áætlun; Agentic AI mótar áætlunina út frá markmiði. Þetta sjálfræði aðskilur umboðsmenn frá forspártækjum sem við höfum notað síðasta áratuginn. Annað dæmi er stjórnun fundarátaka. Forspárlíkan sem er innbyggt í dagatalið þitt gæti greint fundaráætlun þína og tímasetningar samstarfsmanna þinna. Það gæti þá stungið upp á hugsanlegum átökum, svo sem tveir mikilvægir fundir áætlaðir á sama tíma, eða fundur áætlaður þegar lykilþátttakandi er í fríi. Það veitir þér upplýsingar og merkir hugsanleg vandamál, en þú berð ábyrgð á að grípa til aðgerða. Umboðsmaður gervigreind, í sömu atburðarás, myndi ganga lengra en að stinga upp á átökum til að forðast. Við greiningu á átökum við lykilþátttakanda gæti umboðsmaðurinn brugðist við með því að:
Athugun á framboði allra nauðsynlegra þátttakenda. Að bera kennsl á aðra tímalota sem virka fyrir alla. Sendi út fyrirhugaðar ný fundarboð til allra fundarmanna. Ef átökin eru við utanaðkomandi þátttakanda gæti umboðsmaðurinn skrifað drög og sent tölvupóst þar sem hann útskýrir nauðsyn þess að breyta tímasetningu og býður upp á aðra tíma. Að uppfæra dagatalið þitt og dagatöl samstarfsmanna þinna með nýjum fundarupplýsingum þegar það hefur verið staðfest.
Þessi umboðslega gervigreind skilur markmiðið (leysa fundardeiluna), skipuleggur skrefin (athugar framboð, finnur valkosti, sendir boð), framkvæmir þessi skref og heldur áfram þar til átökin eru leyst, allt með lágmarks beinni íhlutun notenda. Þetta sýnir „umboðslega“ muninn: kerfið tekur fyrirbyggjandi skref fyrir notandann, frekar en að veita notandanum upplýsingar. Umboðsgervigreindarkerfi skilja markmið, skipuleggja röð skrefa til að ná því, framkvæma þessi skref og jafnvel laga sig ef eitthvað fer úrskeiðis. Hugsaðu um það eins og fyrirbyggjandi stafrænan aðstoðarmann. Undirliggjandi tækni sameinar oft stór tungumálalíkön (LLM) til skilnings og rökhugsunar, með áætlanagerð reiknirit sem brjóta niður flókin verkefni í viðráðanlegar aðgerðir. Þessir umboðsmenn geta haft samskipti við ýmis verkfæri, API og jafnvel önnur gervigreind módel til að ná markmiðum sínum og á gagnrýninn hátt geta þeir viðhaldið viðvarandi ástandi, sem þýðir að þeir muna fyrri aðgerðir og halda áfram að vinna að markmiði með tímanum. Þetta gerir þær í grundvallaratriðum frábrugðnar dæmigerðum generative AI, sem venjulega lýkur einni beiðni og endurstillir síðan. Einföld flokkunarfræði umboðshegðunar Við getum flokkað hegðun umboðsmanns í fjórar aðskildar leiðir til sjálfræðis. Þó að þetta líti oft út eins og framfarir, virka þeir sem sjálfstæðar rekstrarhamir. Notandi gæti treyst umboðsmanni til að starfa sjálfstætt við tímasetningu, en halda því í „tillöguham“ fyrir fjárhagsfærslur. Við fengum þessi stig með því að aðlaga iðnaðarstaðla fyrir sjálfstýrð ökutæki (SAE stig) að stafrænni notendaupplifun. Fylgstu með-og-leggðu til Umboðsmaðurinn virkar sem eftirlitsaðili. Það greinir gagnastrauma og merkir frávik eða tækifæri, en grípur ekki til aðgerða. Aðgreining Ólíkt næsta þrepi býr umboðsmaðurinn til enga flókna áætlun. Það bendir á vandamál. Dæmi DevOps umboðsmaður tekur eftir örgjörvaaukningu á netþjóni og lætur verkfræðinginn vita. Það veit ekki hvernig eða reynir að laga það, en það veit að eitthvað er að. Afleiðingar fyrir hönnun og eftirlit á þessu stigi,hönnun og eftirlit ætti að setja skýrar tilkynningar sem ekki eru uppáþrengjandi í forgang og vel skilgreint ferli fyrir notendur til að bregðast við ábendingum. Áherslan er á að styrkja notandann með tímanlegum og viðeigandi upplýsingum án þess að taka stjórnina. UX sérfræðingar ættu að einbeita sér að því að gera tillögur skýrar og auðskiljanlegar, á meðan vörustjórar þurfa að tryggja að kerfið veiti gildi án þess að yfirþyrma notandanum. Skipuleggja og leggja til Umboðsmaðurinn skilgreinir markmið og býr til fjölþrepa stefnu til að ná því. Það sýnir heildaráætlun um endurskoðun manna. Aðgreining Umboðsmaðurinn virkar sem strategist. Það framkvæmir ekki; það bíður eftir samþykki á allri nálguninni. Dæmi Sami DevOps umboðsmaður tekur eftir örgjörvana toppnum, greinir annálana og leggur til úrbótaáætlun:
Snúðu upp tvö aukatilvik. Endurræstu álagsjafnarann. Geymdu gamla annála.
Manneskjan fer yfir rökfræðina og smellir á „Samþykkja áætlun“. Afleiðingar fyrir hönnun og eftirlit Fyrir umboðsmenn sem skipuleggja og leggja til, verður hönnun að tryggja að fyrirhugaðar áætlanir séu auðskiljanlegar og að notendur hafi leiðandi leiðir til að breyta þeim eða hafna þeim. Eftirlit skiptir sköpum við að fylgjast með gæðum tillagna og skipulagsrökfræði umboðsmannsins. UX sérfræðingar ættu að hanna skýrar myndir af fyrirhuguðum áætlunum og vörustjórar verða að koma á skýrum endurskoðunar- og samþykkisvinnuflæði. Athöfn-með-staðfestingu Umboðsmaðurinn lýkur allri undirbúningsvinnu og setur lokaaðgerðina í sviðsett ástand. Það heldur hurðinni í raun opinni og bíður eftir kink. Aðgreining Þetta er frábrugðið „Plan-and-Propose“ vegna þess að verkið er þegar unnið og sett á svið. Það dregur úr núningi. Notandinn staðfestir niðurstöðuna, ekki stefnuna. Dæmi Ráðningarfulltrúi semur fimm viðtalsboð, finnur opna tíma á dagatölum og býr til dagatalsatburði. Það sýnir „Senda allt“ hnappinn. Notandinn veitir endanlega heimild til að kveikja á ytri aðgerðinni. Afleiðingar fyrir hönnun og eftirlit Þegar umboðsmenn starfa með staðfestingu ætti hönnunin að gefa gagnsæ og hnitmiðuð samantekt á fyrirhugaðri aðgerð, þar sem mögulegar afleiðingar eru skýrar. Eftirlit þarf að staðfesta að staðfestingarferlið sé öflugt og að notendur séu ekki beðnir um að samþykkja aðgerðir í blindni. UX sérfræðingar ættu að hanna staðfestingartilkynningar sem eru skýrar og veita allar nauðsynlegar upplýsingar og vörustjórar ættu að forgangsraða öflugri endurskoðunarslóð fyrir allar staðfestar aðgerðir. Gerðu sjálfstætt Umboðsmaður framkvæmir verkefni sjálfstætt innan skilgreindra marka. Aðgreining Notandinn fer yfir sögu aðgerða, ekki aðgerðirnar sjálfar. Dæmi Ráðningafulltrúi sér átök, færir viðtalið í varatíma, uppfærir umsækjanda og lætur ráðningarstjóra vita. Manneskjan sér aðeins tilkynningu: Viðtal frestað til þriðjudags. Afleiðingar fyrir hönnun og eftirlit Fyrir sjálfstæða umboðsaðila þarf hönnunin að koma á skýrum fyrirfram samþykktum mörkum og veita öflug eftirlitstæki. Eftirlit krefst stöðugs mats á frammistöðu umboðsmannsins innan þessara marka, mikilvægrar þörf fyrir öfluga skráningu, skýra hnekkja og notendaskilgreinda dreifingarrofa til að viðhalda stjórn notenda og trausti. UX sérfræðingar ættu að einbeita sér að því að hanna skilvirk mælaborð til að fylgjast með hegðun sjálfstæðra umboðsmanna og vörustjórar verða að tryggja að skýrar stjórnarhættir og siðferðileg viðmið séu til staðar.
Við skulum skoða raunverulegt forrit í HR tækni til að sjá þessar stillingar í aðgerð. Íhugaðu "viðtalssamhæfingaraðila" sem er hannaður til að sjá um skipulagningu ráðningar.
Í Suggest Mode Umboðsmaðurinn tekur eftir að viðmælandi er tvíbókaður. Það undirstrikar átökin á mælaborði ráðningaraðilans: „Viðvörun: Sarah er tvíbókuð í viðtalið klukkan 14:00. Í áætlunarham greinir umboðsmaðurinn dagatal Söru og framboð umsækjanda. Það sýnir lausn: „Ég mæli með að færa viðtalið til fimmtudags klukkan 10:00. Þetta krefst þess að færa Söru 1:1 með yfirmanni hennar.“ Ráðningarmaðurinn fer yfir þessa rökfræði. Í staðfestingarham Umboðsmaðurinn semur tölvupóstinn til umsækjanda og framkvæmdastjóra. Það fyllir út dagbókarboðin. Ráðningaraðili sér samantekt: "Tilbúinn að endurskipuleggja á fimmtudaginn. Senda uppfærslur?" Ráðningaraðili smellir á „Staðfesta“. Í sjálfvirkum ham Umboðsmaðurinn sér um átökin samstundis. Það virðir fyrirfram ákveðna reglu: „Setjið frambjóðendaviðtöl alltaf í forgang fram yfir innri 1:1s.“ Það færir fundinn og sendir tilkynningarnar. Ráðningaraðili sér færslu í annál: „Lýstáætlunarátök fyrir frambjóðanda B.“
Research Primer: Hvað á að rannsaka og hvernig Að þróa árangursríka gervigreind krefst sérstakrar rannsóknaraðferðar samanborið við hefðbundinn hugbúnað eða jafnvel skapandi gervigreind. Sjálfstætt eðli gervigreindar umboðsmanna, hæfni þeirra til að taka ákvarðanir og möguleikar þeirra á fyrirbyggjandi aðgerðum krefjast sérhæfðrar aðferðafræði til að skilja væntingar notenda, kortleggja flókna hegðun umboðsmanna og sjá fyrir hugsanlega mistök. Eftirfarandi rannsóknargrunnur lýsir helstu aðferðum til að mæla og meta þessa einstöku þætti gervigreindar. Mental-Model Viðtöl Þessi viðtöl afhjúpa fyrirfram gefnar hugmyndir notenda um hvernig gervigreind umboðsmaður ætti að haga sér. Í stað þess að spyrja einfaldlega hvað notendur vilji, er áherslan lögð á að skilja innri líkön þeirra af getu og takmörkunum umboðsmannsins. Við ættum að forðast að nota orðið „umboðsmaður“ með þátttakendum. Það ber Sci-Fi farangur eða er hugtak of auðvelt að rugla saman við mannlegur umboðsmaður sem býður upp á stuðning eða þjónustu. Í staðinn skaltu setja umræðuna um „aðstoðarmenn“ eða „kerfið“. Við þurfum að afhjúpa hvar notendur draga mörkin á milli hjálpsamrar sjálfvirkni og uppáþrengjandi stjórnunar.
Aðferð: Biddu notendur um að lýsa, teikna eða segja frá væntanlegum samskiptum sínum við umboðsmanninn í ýmsum tilgátum atburðarásum. Lykilrannsóknir (sem endurspegla ýmsar atvinnugreinar): Til að skilja mörk æskilegrar sjálfvirkni og hugsanlegra kvíða í kringum ofsjálfvirkni skaltu spyrja: Ef fluginu þínu er aflýst, hvað myndirðu vilja að kerfið gerði sjálfkrafa? Hvað myndi hafa áhyggjur af þér ef það gerði það án skýrrar leiðbeiningar þinnar?
Til að kanna skilning notandans á innri ferlum umboðsmannsins og nauðsynlegum samskiptum skaltu spyrja: Ímyndaðu þér að stafrænn aðstoðarmaður stjórnar snjallheimilinu þínu. Ef pakki er afhentur, hvaða skref heldurðu að hann taki og hvaða upplýsingar myndir þú búast við að fá?
Til að afhjúpa væntingar um stjórn og samþykki innan margra þrepa ferlis skaltu spyrja: Ef þú biður stafræna aðstoðarmann þinn um að skipuleggja fund, hvaða skref sérðu fyrir þér að hann taki? Á hvaða stöðum myndir þú vilja fá samráð eða fá val?
Kostir aðferðarinnar: Sýnir óbeinum forsendum, undirstrikar svæði þar sem fyrirhuguð hegðun umboðsmannsins gæti verið frábrugðin væntingum notenda og upplýsir hönnun viðeigandi stjórna og endurgjöfaraðferða.
Kortlagning umboðsmannsferða: Líkt og hefðbundin kortlagning á ferðalagi notenda beinist kortlagning umboðsferða sérstaklega að væntanlegum aðgerðum og ákvörðunarpunktum gervigreindarfulltrúans sjálfs, ásamt samskiptum notandans. Þetta hjálpar til við að bera kennsl á hugsanlegar gildrur með fyrirbyggjandi hætti.
Aðferð: Búðu til sjónrænt kort sem útlistar hin ýmsu stig í rekstri umboðsmanns, frá upphafi til loka, þar á meðal allar hugsanlegar aðgerðir, ákvarðanir og samskipti við ytri kerfi eða notendur. Lykilatriði til að kortleggja: Aðgerðir umboðsmanns: Hvaða sérstökum verkefnum eða ákvörðunum framkvæmir umboðsmaðurinn? Upplýsingainntak/úttak: Hvaða gögn þarf umboðsmaðurinn og hvaða upplýsingar býr hann til eða miðlar? Ákvörðunarpunktar: Hvar tekur umboðsmaðurinn val og hver eru forsendur þeirra val? Notendaviðskiptapunktar: Hvar gefur notandinn inntak, skoðar eða samþykkir aðgerðir? Bilunarpunktar: Afar mikilvægt er að greina tiltekin tilvik þar sem umboðsmaður gæti rangtúlkað leiðbeiningar, tekið ranga ákvörðun eða átt samskipti við rangan aðila. Dæmi: Rangur viðtakandi (t.d. að senda viðkvæmar upplýsingar til röngs aðila), yfirdráttur (t.d. sjálfvirk greiðsla umfram tiltæka fjármuni), rangtúlkun á ásetningi (t.d. bókun á flugi á rangri dagsetningu vegna óljóss orðalags).
Endurheimtarleiðir: Hvernig getur umboðsmaðurinn eða notandinn jafnað sig eftir þessar bilanir? Hvaða leiðir eru til staðar fyrir leiðréttingu eða inngrip?
Kostir aðferðarinnar: Veitir heildræna sýn á rekstrarflæði umboðsmannsins, afhjúpar falin ósjálfstæði og gerir ráð fyrir fyrirbyggjandi hönnun öryggisráðstafana, villumeðferðar og íhlutunarpunkta notenda til að koma í veg fyrir eða draga úr neikvæðum niðurstöðum.
Hermt mishegðunarpróf: Þessi aðferð er hönnuð til að álagsprófa kerfið og fylgjast með viðbrögðum notenda þegar gervigreindarfulltrúinn mistekst eða víkur frá væntingum. Það snýst um að skilja viðgerð á trausti og tilfinningalegum viðbrögðum við erfiðar aðstæður.
Aðferð: Í stýrðum rannsóknum á rannsóknarstofu skaltu vísvitandi kynna aðstæður þar sem umboðsmaðurinn gerir mistök, mistúlkar skipun eða hegðar sér óvænt. Tegundir „mishegðunar“ til að líkja eftir: SkipunRangtúlkun: Umboðsmaðurinn framkvæmir örlítið aðra aðgerð en notandinn ætlaði sér (t.d. pantar tvo hluti í stað eins). Ofhleðsla/vanálag upplýsinga: Umboðsmaðurinn veitir of mikið af óviðkomandi upplýsingum eða ekki nógu mikilvægar upplýsingar. Óumbeðin aðgerð: Umboðsmaðurinn grípur til aðgerða sem notandinn beinlínis vildi ekki eða bjóst við (t.d. að kaupa hlutabréf án samþykkis). Kerfisbilun: Umboðsmaðurinn hrynur, svarar ekki eða gefur villuboð. Siðferðileg vandamál: Umboðsmaðurinn tekur ákvörðun með siðferðilegum vísbendingum (t.d. að forgangsraða einu verkefni fram yfir annað á grundvelli ófyrirséðrar mælistiku).
Athugunaráhersla: Viðbrögð notenda: Hvernig bregðast notendur við tilfinningalega (gremju, reiði, rugl, tap á trausti)? Endurheimtartilraunir: Hvaða skref gera notendur til að leiðrétta hegðun umboðsmannsins eða afturkalla aðgerðir hans? Traustviðgerðarkerfi: Hjálpa innbyggðu endurheimtar- eða endurgjöfarkerfi kerfisins við að endurheimta traust? Hvernig vilja notendur vera upplýstir um villur? Andleg líkanbreyting: Breytir hegðunin skilningi notandans á getu eða takmörkunum umboðsmannsins?
Kostir aðferðarinnar: Mikilvægt til að bera kennsl á hönnunareyður sem tengjast villubata, endurgjöf og notendastýringu. Það veitir innsýn í hversu þolinmóðir notendur eru gagnvart mistökum umboðsmanna og hvað þarf til að viðhalda eða endurbyggja traust, sem leiðir til öflugra og fyrirgefnari umboðskerfa.
Með því að samþætta þessa rannsóknaraðferðafræði geta UX-iðkendur farið út fyrir að gera umboðskerfi nothæf til að gera þau traust, stjórnanleg og ábyrg og stuðla að jákvæðu og afkastamiklu sambandi milli notenda og gervigreindar umboðsmanna þeirra. Athugaðu að þetta eru ekki einu aðferðirnar sem eiga við til að kanna gervigreind á áhrifaríkan hátt. Margar aðrar aðferðir eru til, en þær eru aðgengilegar iðkendum á næstunni. Ég hef áður fjallað um Wizard of Oz aðferðina, örlítið fullkomnari aðferð við hugmyndapróf, sem er líka dýrmætt tæki til að kanna umboðslega gervigreindarhugtök. Siðferðileg sjónarmið í aðferðafræði rannsókna Þegar verið er að rannsaka umboðslega gervigreind, sérstaklega þegar verið er að líkja eftir rangri hegðun eða villum, er lykilatriði að taka tillit til siðferðissjónarmiða. Það eru mörg rit sem fjalla um siðferðilegar UX rannsóknir, þar á meðal grein sem ég skrifaði fyrir Smashing Magazine, þessar leiðbeiningar frá UX Design Institute og þessa síðu frá Inclusive Design Toolkit. Lykilmælikvarðar fyrir Agentic AI Þú þarft yfirgripsmikið sett af lykilmælingum til að meta árangur og áreiðanleika umboðslegra gervigreindarkerfa á áhrifaríkan hátt. Þessar mælikvarðar veita innsýn í traust notenda, kerfisnákvæmni og heildarupplifun notenda. Með því að fylgjast með þessum vísbendingum geta verktaki og hönnuðir greint svæði til umbóta og tryggt að gervigreindaraðilar starfi á öruggan og skilvirkan hátt. 1. Íhlutunarhlutfall Fyrir sjálfstætt starfandi umboðsmenn mælum við árangur með þögn. Ef umboðsmaður framkvæmir verkefni og notandinn grípur ekki inn í eða bakar aðgerðinni innan ákveðins glugga (t.d. 24 klukkustunda), teljum við það sem samþykki. Við fylgjumst með afskiptahlutfallinu: hversu oft hoppar maður inn til að stöðva eða leiðrétta umboðsmanninn? Hátt afskiptahlutfall gefur til kynna misræmi í trausti eða rökfræði. 2. Tíðni ófyrirséðra aðgerða á 1.000 verkefni Þessi mikilvæga mælikvarði mælir fjölda aðgerða sem gervigreindarfulltrúinn hefur framkvæmt sem notandinn óskaði ekki eftir eða bjóst við, staðlað fyrir hver 1.000 unnin verkefni. Lág tíðni óviljandi aðgerða táknar vel samræmda gervigreind sem túlkar nákvæmlega tilgang notenda og starfar innan skilgreindra marka. Þessi mælikvarði er nátengdur skilningi gervigreindar á samhengi, getu þess til að gera skipanir ótvíræða og traustleika öryggisreglur þess. 3. Hlutfall afturköllunar eða afturkalla Þessi mælikvarði mælir hversu oft notendur þurfa að snúa við eða afturkalla aðgerð sem gervigreindin framkvæmir. Hátt afturköllunarhlutfall bendir til þess að gervigreindin sé að gera tíðar villur, rangtúlka leiðbeiningar eða haga sér á þann hátt sem er ekki í takt við væntingar notenda. Að greina ástæðurnar á bak við þessar afturköllun getur veitt verðmæta endurgjöf til að bæta reiknirit gervigreindar, skilning á óskum notenda og getu þess til að spá fyrir um æskilegar niðurstöður. Til að skilja hvers vegna verður þú að innleiða örkönnun á afturköllunaraðgerðinni. Til dæmis, þegar notandi snýr við breytingu á tímasetningu, getur einfalt kvaðning spurt: "Röngur tími? Rangur maður? Eða vildirðu bara gera það sjálfur?" Leyfa notandanum að smella á þann valmöguleika sem passar best við rökstuðning þeirra. 4. Tími til upplausnar eftir villuÞessi mælikvarðimælir þann tíma sem það tekur notanda að leiðrétta villu sem gervigreindin gerir eða fyrir gervigreindarkerfið sjálft að jafna sig eftir rangt ástand. Stuttur tími til úrlausnar gefur til kynna skilvirkt og notendavænt villubataferli, sem getur dregið úr gremju notenda og viðhaldið framleiðni. Þetta felur í sér hversu auðvelt er að bera kennsl á villuna, aðgengi að afturköllunar- eða leiðréttingaraðferðum og skýrleika villuskilaboða frá gervigreindinni.
Til að safna þessum mælingum þarf að nota kerfið þitt til að rekja aðgerðaauðkenni umboðsmanns. Sérhver sérstök aðgerð sem umboðsmaðurinn grípur til, eins og að leggja til áætlun eða bóka flug, verður að búa til einstakt auðkenni sem er viðvarandi í annálunum. Til að mæla inngripshlutfallið leitum við ekki að tafarlausum viðbrögðum notenda. Við leitum að fjarveru gagnaðgerða innan skilgreinds glugga. Ef aðgerðarauðkenni er búið til klukkan 9:00 og enginn notandi breytir eða snýr því tiltekna auðkenni fyrir klukkan 9:00 næsta dag, merkir kerfið það rökrétt sem samþykkt. Þetta gerir okkur kleift að mæla árangur út frá þögn notenda frekar en virkra staðfestingar. Fyrir afturköllunarvexti eru óunnar tölur ófullnægjandi vegna þess að þær skortir samhengi. Til að fanga undirliggjandi ástæðu, verður þú að innleiða hlerunarrökfræði á Afturkalla eða Tilbaka aðgerðum forritsins þíns. Þegar notandi snýr við aðgerð sem var hafin af umboðsmanni, kveiktu á léttri örkönnun. Þetta getur verið einföld þriggja valmöguleiki sem biður notandann um að flokka villuna sem staðreynda ranga, skort á samhengi eða einföld val til að höndla verkefnið handvirkt. Þetta sameinar megindlega fjarmælingu með eigindlegri innsýn. Það gerir verkfræðingateymum kleift að greina á milli bilaðs reiknirit og misræmis í vali notenda. Þessar mælikvarðar, þegar þær eru raktar stöðugt og greindar heildstætt, veita öflugan ramma til að meta frammistöðu umboðslegra gervigreindarkerfa, sem gerir kleift að bæta stöðugt eftirlit, samþykki og ábyrgð. Hönnun gegn blekkingum Eftir því sem umboðsmenn verða sífellt færari stöndum við frammi fyrir nýrri áhættu: Agentic Sudge. Hefðbundin seyra skapar núning sem gerir það erfitt að segja upp áskrift eða eyða reikningi. Umboðseðja virkar öfugt. Það fjarlægir núning við bilun, sem gerir það of auðvelt fyrir notanda að samþykkja aðgerð sem gagnast fyrirtækinu frekar en eigin hagsmunum. Íhugaðu að umboðsmaður aðstoði við ferðabókun. Án skýrra handriða gæti kerfið sett samstarfsflugfélag eða hótel með hærri framlegð í forgang. Það sýnir þetta val sem bestu leiðina. Notandinn, sem treystir yfirvaldi kerfisins, samþykkir tilmælin án athugunar. Þetta skapar villandi mynstur þar sem kerfið hagræðir fyrir tekjur í skjóli þæginda. Hættan á ranglega ímyndaðri hæfni Blekkingar mega ekki stafa af illgjarn ásetningi. Það birtist oft í gervigreind sem ímynduð hæfni. Stór tungumálalíkön hljóma oft opinber, jafnvel þegar þau eru röng. Þeir leggja fram ranga bókunarstaðfestingu eða ónákvæma samantekt með sama trausti og staðfestri staðreynd. Notendur geta náttúrulega treyst þessum örugga tón. Þetta misræmi skapar hættulegt bil á milli kerfisgetu og væntinga notenda. Við verðum að hanna sérstaklega til að brúa þetta bil. Ef umboðsmaður tekst ekki að klára verkefni verður viðmótið að gefa skýrt til kynna þá bilun. Ef kerfið er óöruggt verður það að tjá óvissu frekar en að hylja hana með fáguðum prósa. Gagnsæi með frumstæðum Mótefnið gegn bæði seyru og ofskynjunum er uppruna. Sérhver sjálfstæð aðgerð krefst sérstakrar lýsigagnamerkis sem útskýrir uppruna ákvörðunarinnar. Notendur þurfa getu til að skoða rökfræðikeðjuna á bak við niðurstöðuna. Til að ná þessu verðum við að þýða frumstæður í raunhæf svör. Í hugbúnaðarverkfræði vísa frumstæður til kjarnaeininga upplýsinga eða aðgerða sem umboðsmaður framkvæmir. Fyrir verkfræðingnum lítur þetta út eins og API kall eða rökhlið. Notandanum verður það að birtast sem skýr skýring. Hönnunaráskorunin felst í því að kortleggja þessi tæknilegu skref að mönnum læsilegum rökum. Ef umboðsmaður mælir með tilteknu flugi þarf notandinn að vita hvers vegna. Viðmótið getur ekki falið sig á bak við almenna tillögu. Það verður að afhjúpa undirliggjandi frumstæðu: Rökfræði: Ódýrasta_beint_flug eða Rökfræði: Forgangur flugfélags. Mynd 4 sýnir þetta þýðingarflæði. Við tökum hráa kerfið frumstæða - raunverulega kóða rökfræði - og kortleggjum það á streng sem snýr að notanda. Til dæmis, frumstæð skoðun á dagatalsáætlun fundi verður skýr yfirlýsing: Ég hef lagt til kl.fundi. Þetta gagnsæisstig tryggir að aðgerðir umboðsmannsins virðast rökréttar og gagnlegar. Það gerir notandanum kleift að sannreyna að umboðsmaðurinn hafi hagað sér fyrir bestu. Með því að afhjúpa frumstæðuna umbreytum við svörtum kassa í glerkassa og tryggjum að notendur haldi áfram endanlegu vald yfir eigin stafrænu lífi.
Að setja sviðið fyrir hönnun Að byggja upp umboðskerfi krefst nýtt stig sálfræðilegs og hegðunarskilnings. Það neyðir okkur til að fara út fyrir hefðbundnar nothæfisprófanir og inn á sviði trausts, samþykkis og ábyrgðar. Rannsóknaraðferðirnar sem við höfum rætt, allt frá því að rannsaka hugræn líkön til að líkja eftir misferli og koma á nýjum mæligildum, veita nauðsynlegan grunn. Þessar aðferðir eru nauðsynleg verkfæri til að bera kennsl á með fyrirbyggjandi hætti hvar sjálfstætt kerfi gæti bilað og, það sem meira er, hvernig á að gera við samband notenda og umboðsmanns þegar það gerist. Breytingin yfir í umboðslega gervigreind er endurskilgreining á sambandi notenda og kerfis. Við erum ekki lengur að hanna fyrir verkfæri sem bregðast einfaldlega við skipunum; við erum að hanna fyrir samstarfsaðila sem starfa fyrir okkar hönd. Þetta breytir nauðsynlegri hönnun úr skilvirkni og auðveldri notkun yfir í gagnsæi, fyrirsjáanleika og eftirlit. Þegar gervigreind getur bókað flug eða verslað með hlutabréf án lokasmells, verður hönnun „á- og brautar“ þess í fyrirrúmi. Það er á okkar ábyrgð að tryggja að notendum finnist þeir vera í ökumannssætinu, jafnvel þegar þeir hafa afhent stýrið. Þessi nýi veruleiki lyftir einnig hlutverki UX rannsakanda. Við verðum vörsluaðilar trausts notenda og vinnum í samvinnu við verkfræðinga og vörustjóra til að skilgreina og prófa verndarriði sjálfræðis umboðsmanns. Fyrir utan að vera rannsakendur verðum við talsmenn notendastýringar, gagnsæis og siðferðilegra verndar í þróunarferlinu. Með því að þýða frumstæður í hagnýtar spurningar og líkja eftir versta tilfellum getum við byggt upp öflug kerfi sem eru bæði öflug og örugg. Þessi grein hefur lýst „hvað“ og „af hverju“ við að rannsaka umboðslega gervigreind. Það hefur sýnt að hefðbundin verkfærakista okkar er ófullnægjandi og að við verðum að taka upp nýja, framsýna aðferðafræði. Næsta grein mun byggja á þessum grunni og veita sérstök hönnunarmynstur og skipulagshætti sem gera gagnsemi umboðsmanns gagnsæ fyrir notendum, sem tryggir að þeir geti nýtt sér kraft umboðsmanns gervigreindar með sjálfstrausti og stjórn. Framtíð UX snýst um að gera kerfi áreiðanleg. Til að fá frekari skilning á umboðslegri gervigreind geturðu skoðað eftirfarandi úrræði:
Google AI blogg um Agentic AI Rannsóknir Microsoft á gervigreindum umboðsmönnum
