Në pjesën e parë të kësaj serie, ne vendosëm ndryshimin themelor nga inteligjenca artificiale gjeneruese në atë agjenturore. Ne eksploruam pse ky kapërcim nga sugjerimi në aktrim kërkon një mjet të ri psikologjik dhe metodologjik për studiuesit e UX, menaxherët e produkteve dhe drejtuesit. Ne përcaktuam një taksonomi të sjelljeve agjenturore, nga sugjerimi në veprim në mënyrë autonome, përcaktuam metodat thelbësore të kërkimit, përcaktuam rreziqet e llumit agjentor dhe vendosëm matjet e llogaridhënies që kërkohen për të lundruar në këtë territor të ri. Ne mbuluam çfarë dhe pse. Tani kalojmë nga themelorja në funksionale. Ky artikull ofron se si: modelet konkrete të projektimit, kornizat operacionale dhe praktikat organizative thelbësore për ndërtimin e sistemeve agjenturore që janë jo vetëm të fuqishme, por edhe transparente, të kontrollueshme dhe të denja për besimin e përdoruesit. Nëse kërkimi ynë është mjeti diagnostikues, këto modele janë plani i trajtimit. Ata janë mekanizmat praktikë përmes të cilëve ne mund t'u japim përdoruesve një ndjenjë të prekshme kontrolli, edhe kur i japim AI autonomi të paprecedentë. Qëllimi është të krijohet një përvojë ku autonomia të ndihet si një privilegj i dhënë nga përdoruesi, jo një e drejtë e konfiskuar nga sistemi. Modelet bazë UX për Sistemet Agjentike Dizenjimi për AI agjenturore është dizajnimi për një marrëdhënie. Kjo marrëdhënie, si çdo partneritet i suksesshëm, duhet të ndërtohet mbi komunikim të qartë, mirëkuptim të ndërsjellë dhe kufij të vendosur. Për të menaxhuar kalimin nga sugjerimi në veprim, ne përdorim gjashtë modele që ndjekin ciklin jetësor funksional të një ndërveprimi agjenturor:
Para Veprimi (Qëllimi i Krijimit) Paraafishimi i qëllimit dhe numri i autonomisë sigurojnë që përdoruesi të përcaktojë planin dhe kufijtë e agjentit përpara se të ndodhë ndonjë gjë. Në Veprim (Sigurimi i Konteksit) Arsyeshmëria e Shpjegueshme dhe Sinjali i Besimit ruajnë transparencën ndërsa agjenti punon, duke treguar "pse" dhe "sa e sigurt". Pas Veprimit (Siguria dhe Rimëkëmbja) Auditimi i Veprimit dhe Zhbërja dhe Rruga e Përshkallëzimit ofrojnë një rrjet sigurie për gabimet ose momentet me paqartësi të lartë.
Më poshtë, ne do të mbulojmë çdo model në detaje, duke përfshirë rekomandimet për metrikat për sukses. Këto objektiva janë standarde përfaqësuese të bazuara në standardet e industrisë; rregulloni ato bazuar në rrezikun tuaj specifik të domenit. 1. Paraafishimi i qëllimit: Sqarimi i çfarë dhe si Ky model është ekuivalenti i bisedës me të thënë: "Ja çfarë do të bëj. A jeni mirë me këtë?" Është momenti themelor i kërkimit të pëlqimit në marrëdhënien përdorues-agjent. Përpara se një agjent të ndërmarrë ndonjë veprim të rëndësishëm, përdoruesi duhet të ketë një kuptim të qartë dhe të qartë të asaj që do të ndodhë. Parashikimi i qëllimit, ose Përmbledhja e planit, përcakton miratimin e informuar. Është pauza bisedore përpara veprimit, duke e shndërruar një kuti të zezë procesesh autonome në një plan transparent dhe të rishikueshëm. Mbështetja psikologjike Paraqitja e një plani përpara veprimit redukton ngarkesën njohëse dhe eliminon befasinë, duke u dhënë përdoruesve një moment për të verifikuar që agjenti e kupton me të vërtetë qëllimin e tyre. Anatomia e një pamje paraprake të qëllimit efektiv:
Qartësia dhe koncizitetiPikqyrja paraprake duhet të jetë e tretshme menjëherë. Ai duhet të përmbledhë veprimet dhe rezultatet kryesore në gjuhë të thjeshtë, duke shmangur zhargonin teknik. Për shembull, në vend të "Ekzekutimi i thirrjes API për të anuluar_booking(id: 4A7B)," duhet të thuhet "Anulo fluturimin AA123 për në San Francisko". Hapat e njëpasnjëshëmPër operacionet me shumë hapa, pamja paraprake duhet të përshkruajë fazat kryesore. Kjo zbulon logjikën e agjentit dhe i lejon përdoruesit të dallojnë problemet e mundshme në sekuencën e propozuar. Pastro veprimet e përdoruesitPamja paraprake është një pikë vendimi, jo thjesht një njoftim. Duhet të shoqërohet me një grup të qartë zgjedhjesh. Është një moment fërkimi i qëllimshëm, një 'përplasje shpejtësie' në proces, e krijuar për të siguruar që përdoruesi të bëjë një zgjedhje të vetëdijshme, veçanërisht për veprime të pakthyeshme ose me aksione të larta.
Le të rishikojmë skenarin tonë të ndihmës së udhëtimit nga pjesa e parë e kësaj serie. Ne e përdorim këtë asistent proaktiv për të ilustruar se si një agjent trajton një anulim fluturimi. Agjenti ka zbuluar një anulim fluturimi dhe ka formuluar një plan rikuperimi. Parashikimi i qëllimit do të duket diçka si kjo: Plani i propozuar për ndërprerjen e udhëtimit tuajKam zbuluar se fluturimi juaj në orën 10:05 të mëngjesit është anuluar. Ja çfarë planifikoj të bëj: Anuloni Fluturimin UA456 Procedoni rimbursimin dhe konfirmoni detajet e anulimit. Rezervoni një vend të konfirmuar në një fluturim pa ndalesë në orën 14:30, pasi ky është fluturimi tjetër i disponueshëm pa ndalesa me njësedilja e konfirmuar. Përditëso Rezervimin e Hotelit. Njoftoni Marriott-in se do të mbërrini me vonesë. Itinerari i përditësuar me email. Dërgoni detajet e fluturimit dhe hotelit të ri te ju dhe asistentja juaj, Jane Doe.
Kjo pamje paraprake është efektive sepse ofron një pamje të plotë, nga anulimi te komunikimi dhe ofron tre rrugë të dallueshme përpara: pëlqimin e plotë (Vazhdo), një dëshirë për modifikim (Modifiko planin) ose një anulim të plotë (Trajto vetë). Ky kontroll i shumëanshëm është themeli i besimit.
Kur t'i jepet përparësi këtij modeli Ky model është i panegociueshëm për çdo veprim që është i pakthyeshëm (p.sh., fshirja e të dhënave të përdoruesit), përfshin një transaksion financiar të çdo shume, ndan informacione me njerëz ose sisteme të tjera ose bën një ndryshim të rëndësishëm që një përdorues nuk mund ta zhbëjë lehtësisht. Rreziku i lëshimit Pa këtë, përdoruesit ndihen të zënë pritë nga veprimet e agjentit dhe do të çaktivizojnë funksionin për të rimarrë kontrollin. Metrikat për suksesin:
Raporti i pranimit Planet e pranuara pa modifikim / Planet totale të shfaqura. Synimi > 85%. Anuloj FrekuencaTotal Trajto vetë Klikimet / Planet totale të shfaqura. Një normë > 10% shkakton rishikimin e modelit. Kujtoni saktësinëPërqindja e pjesëmarrësve në test që mund të rendisin saktë hapat e planit 10 sekonda pasi të jetë fshehur pamja paraprake.
Zbatimi i kësaj në domenet me aksione të larta Ndërsa planet e udhëtimit janë një bazë fillestare e lidhur, ky model bëhet i domosdoshëm në mjedise komplekse me aksione të larta ku një gabim rezulton në më shumë se një shqetësim për një individ që udhëton. Shumë prej nesh punojnë në mjedise ku vendimet e gabuara mund të rezultojnë në një ndërprerje të sistemit, duke vënë në rrezik sigurinë e pacientit ose në shumë rezultate të tjera katastrofike që teknologjia jo e besueshme do të sillte. Konsideroni një agjent të lëshimit të DevOps të ngarkuar me menaxhimin e infrastrukturës cloud. Në këtë kontekst, Intent Preview vepron si një pengesë sigurie kundër ndërprerjeve aksidentale.
Në këtë ndërfaqe, terminologjia specifike (Drain Traffic, Rollback) zëvendëson gjeneralitetet dhe veprimet janë binare dhe me ndikim. Përdoruesi autorizon një ndryshim të madh operacional bazuar në logjikën e agjentit, në vend që të miratojë një sugjerim. 2. Numri i autonomisë: Kalibrimi i besimit me autorizim progresiv Çdo marrëdhënie e shëndetshme ka kufij. Thirrja e autonomisë është mënyra se si përdoruesi e vendos atë me agjentin e tij, duke përcaktuar atë që ata janë të kënaqur me trajtimin e agjentit më vete. Besimi nuk është një çelës binar; është një spektër. Një përdorues mund t'i besojë një agjenti që të trajtojë detyrat me aksione të ulëta në mënyrë autonome, por të kërkojë konfirmim të plotë për vendimet me aksione të larta. Autonomy Dial, një formë e autorizimit progresiv, i lejon përdoruesit të vendosin nivelin e tyre të preferuar të pavarësisë së agjentit, duke i bërë ata pjesëmarrës aktivë në përcaktimin e marrëdhënies. Mbështetja psikologjike Lejimi i përdoruesve të rregullojnë autonominë e agjentit u jep atyre një vend kontrolli, duke i lënë ata të përputhen me sjelljen e sistemit me tolerancën e tyre personale ndaj rrezikut. ImplementimiKjo mund të zbatohet si një vendosje e thjeshtë dhe e qartë brenda aplikacionit, në mënyrë ideale në bazë të llojit të detyrës. Duke përdorur taksonominë nga artikulli ynë i parë, cilësimet mund të jenë:
Vëzhgo & Sugjero Dua të njoftohem për mundësitë ose çështjet, por agjenti nuk do të propozojë kurrë një plan. Planifiko & PropozoAgjenti mund të krijojë plane, por unë duhet t'i rishikoj të gjitha përpara se të ndërmerret ndonjë veprim. Veproni me KonfirmiminPër detyrat e njohura, agjenti mund të përgatisë veprime dhe unë do të jap një konfirmim përfundimtar të shkoj/mos-shko. Veproni në mënyrë autonomePër detyra të miratuara paraprakisht (p.sh., kundërshtimi i tarifave nën 50 dollarë), agjenti mund të veprojë në mënyrë të pavarur dhe të më njoftojë pas faktit.
Një asistent i postës elektronike, për shembull, mund të ketë një numërues autonomie të veçantë për caktimin e takimeve kundrejt dërgimit të emaileve në emër të përdoruesit. Kjo përmbledhje është thelbësore, pasi pasqyron realitetin e nuancuar të besimit të një përdoruesi. Kur t'i jepet përparësi këtij modeli Jepini përparësi kësaj në sistemet ku detyrat ndryshojnë shumë në rrezik dhe preferenca personale (p.sh., mjetet e menaxhimit financiar, platformat e komunikimit). Është thelbësore për hyrjen, duke i lejuar përdoruesit të fillojnë me autonomi të ulët dhe ta rrisin atë ndërsa besimi i tyre rritet. Rreziku i lëshimit Pa këtë, përdoruesit që përjetojnë një dështim të vetëm do ta braktisin plotësisht agjentin në vend që thjesht t'i telefonojnë lejet e tij. Metrikë për sukses:
Dendësia e besimit Përqindja e ndarjes së përdoruesve për cilësim (p.sh., 20% Sugjero, 50% Konfirmo, 30% Auto). Caktimi ChurnNumber i ndryshimeve të cilësimeve / Totali i përdoruesve aktivë në muaj. Shkelja e lartë tregon besimpaqëndrueshmëria.
3. Arsyetimi i shpjegueshëm: Përgjigjja pse? Pas marrjes së një veprimi, një partner i mirë shpjegon arsyetimin e tyre. Ky model është komunikimi i hapur që pason një veprim, duke iu përgjigjur Pse? edhe para se të kërkohet. “E bëra këtë sepse më ke thënë në të kaluarën se preferon X.” Kur një agjent vepron, veçanërisht në mënyrë autonome, pyetja e menjëhershme në mendjen e përdoruesit është shpesh, Pse e bëri këtë? Modeli i Arsyeshmërisë së Shpjegueshme i përgjigjet në mënyrë proaktive kësaj pyetjeje, duke ofruar një justifikim konciz për vendimet e agjentit. Ky nuk është një skedar regjistri teknik. Në artikullin tim të parë të kësaj serie, ne diskutuam përkthimin e primitivëve të sistemit në gjuhën e përdoruesit për të parandaluar mashtrimin. Ky model është zbatimi praktik i këtij parimi. Ai e transformon logjikën e papërpunuar në një shpjegim të lexueshëm nga njeriu i bazuar në preferencat e deklaruara të vetë përdoruesit dhe hyrjet e mëparshme. Mbështetja psikologjike Kur veprimet e një agjenti janë të shpjegueshme, ato ndihen logjike dhe jo të rastësishme, duke e ndihmuar përdoruesin të ndërtojë një model të saktë mendor se si mendon agjenti. Arsyet efektive:
Të bazuara në Precedent Shpjegimet më të mira lidhen me një rregull, preferencë ose veprim paraprak. Logjika e kushtëzuar komplekse e thjeshtë dhe DirectAvoid. Përdorni një strukturë të thjeshtë "Sepse ju thatë X, unë bëra Y".
Duke u rikthyer te shembulli i udhëtimit, pasi fluturimi të riprenotohet në mënyrë autonome, përdoruesi mund ta shohë këtë në furnizimin e tij të njoftimeve: Unë e kam rezervuar sërish fluturimin tuaj të anuluar. Fluturimi i ri: Delta 789, niset në orën 14:30. Pse e bëra këtë veprim: Fluturimi yt origjinal u anulua nga linja ajrore. Ke para-miratuar rirezervimin autonom për fluturimet pa ndalesë në të njëjtën ditë.[ Shiko itinerarin e ri ] [ Zhbë këtë veprim.
Arsyetimi është i qartë, i mbrojtur dhe përforcon idenë se agjenti po vepron brenda kufijve që përdoruesi ka vendosur. Kur t'i jepet përparësi këtij modeli Jepini përparësi për çdo veprim autonom ku arsyetimi nuk është menjëherë i dukshëm nga konteksti, veçanërisht për veprimet që ndodhin në sfond ose janë shkaktuar nga një ngjarje e jashtme (si shembulli i anulimit të fluturimit). Rreziku i lëshimit Pa këtë, përdoruesit i interpretojnë veprimet e vlefshme autonome si sjellje të rastësishme ose 'bugs', duke i penguar ata të formojnë një model të saktë mendor. Metrikë për sukses:
Pse? Vëllimi i biletësNumri i biletave mbështetëse të etiketuara "Sjellja e agjentit — e paqartë" për 1000 përdorues aktivë. Vlefshmëria e arsyetimitPërqindja e përdoruesve që e vlerësojnë shpjegimin si 'të dobishëm' në mikro-anketime pas ndërveprimit.
4. Sinjali i besimit Ky model ka të bëjë me faktin se agjenti është i vetëdijshëm në marrëdhënie. Duke komunikuar vetëbesimin e tij, ai e ndihmon përdoruesin të vendosë se kur t'i besojë gjykimit të tij dhe kur të zbatojë më shumë shqyrtim. Për të ndihmuar përdoruesit të kalibrojnë besimin e tyre, agjenti duhet të shfaqë besimin e tij në planet dhe veprimet e tij. Kjo e bën gjendjen e brendshme të agjentit më të lexueshëm dhe e ndihmon përdoruesin të vendosë se kur të shqyrtojë më nga afër një vendim. Mbështetja psikologjike Pasiguria në sipërfaqe ndihmon në parandalimin e paragjykimeve të automatizimit, duke inkurajuar përdoruesit të shqyrtojnë planet me besim të ulët në vend që t'i pranojnë ato verbërisht. Zbatimi:
Rezultati i besimitNjë përqindje e thjeshtë (p.sh., Besimi: 95%) mund të jetë një tregues i shpejtë dhe i skanueshëm. Deklarata e fushës Një deklaratë e qartë e fushës së ekspertizës së agjentit (p.sh., fushëveprimi: vetëm rezervimet e udhëtimit) ndihmon në menaxhimin e pritjeve të përdoruesve dhe i pengon ata të kërkojnë nga agjenti të kryejë detyra për të cilat nuk është projektuar. Cues VisualNjë shenjë e gjelbër e kontrollit mund të tregojë besim të lartë, ndërsa një pikëpyetje e verdhë mund të tregojë pasiguri, duke e shtyrë përdoruesin të rishikojë më me kujdes.
Kur t'i jepet përparësi këtij modeli Prioritet kur performanca e agjentit mund të ndryshojë ndjeshëm bazuar në cilësinë e të dhënave hyrëse ose paqartësinë e detyrës. Është veçanërisht i vlefshëm në sistemet e ekspertëve (p.sh., ndihmat mjekësore, asistentët e kodit) ku një njeri duhet të vlerësojë në mënyrë kritike rezultatin e AI. Rreziku i lëshimit Pa këtë, përdoruesit do të bien viktimë e paragjykimeve të automatizimit, duke pranuar verbërisht halucinacione me besim të ulët ose do të kontrollojnë me ankth punën me besim të lartë. Metrikë për sukses:
Rezultati i kalibrimit Korrelacioni Pearson ndërmjet pikës së besimit të modelit dhe shkallës së pranimit të përdoruesit. Synimi > 0.8. Shqyrtimi DeltaDiferenca midis kohës mesatare të shqyrtimit të planeve me besim të ulët dhe planeve me besim të lartë. Pritet të jetë pozitive (p.sh., +12 sekonda).
5. Auditimi i Veprimit & Zhbër: Rrjeti i fundit i Sigurisë Besimi kërkon të dish se mund të shërohesh nga një gabim. Zhbërfunksioni është rrjeti përfundimtar i sigurisë së marrëdhënieve, duke siguruar përdoruesin se edhe nëse agjenti keqkupton, pasojat nuk janë katastrofike. Mekanizmi i vetëm më i fuqishëm për ndërtimin e besimit të përdoruesit është aftësia për të ndryshuar lehtësisht veprimin e një agjenti. Një regjistër i vazhdueshëm, i lehtë për t'u lexuar, me një buton të spikatur Zhbërje për çdo veprim të mundshëm, është rrjeti i fundit i sigurisë. Ai ul në mënyrë dramatike rrezikun e perceptuar të dhënies së autonomisë. Mbështetja psikologjike Duke ditur se një gabim mund të zhbëhet lehtësisht, krijon siguri psikologjike, duke i inkurajuar përdoruesit të delegojnë detyra pa frikë nga pasojat e pakthyeshme. Praktikat më të mira të projektimit:
Pamja e vijës kohore Një regjistër kronologjik i të gjitha veprimeve të iniciuara nga agjenti është formati më intuitiv. Pastro treguesit e statusit Trego nëse një veprim ishte i suksesshëm, është në progres ose është zhbërë. Zhbërja me kohë të kufizuarPër veprimet që bëhen të pakthyeshme pas një pike të caktuar (p.sh., një rezervim i pakthyeshëm), ndërfaqja e përdoruesit duhet të komunikojë qartë këtë dritare kohore (p.sh., Zhbërja e disponueshme për 15 minuta). Kjo transparencë në lidhje me kufizimet e sistemit është po aq e rëndësishme sa vetë aftësia e zhbërjes. Të qenit i sinqertë kur një veprim bëhet i përhershëm ndërton besim.
Kur t'i jepet përparësi këtij modeli Ky është një model themelor që duhet të zbatohet në pothuajse të gjitha sistemet agjenturore. Është absolutisht e panegociueshme kur futen veçori autonome ose kur kostoja e një gabimi (financiar, social ose i lidhur me të dhënat) është i lartë. Rreziku i lëshimit Pa këtë, një gabim shkatërron përgjithmonë besimin, pasi përdoruesit e kuptojnë se nuk kanë rrjet sigurie. Metrikë për sukses:
Shkalla e kthimit Veprimet e zhbëra / Totali i veprimeve të kryera. Nëse shkalla e kthimit > 5% për një detyrë specifike, çaktivizoni automatizimin për atë detyrë. Konvertimi i rrjetit të sigurisëPërqindja e përdoruesve që përmirësojnë për të Veprojnë në mënyrë autonome brenda 7 ditëve nga përdorimi i suksesshëm i Zhbërjes.
6. Rruga e përshkallëzimit: Trajtimi i pasigurisë me hijeshi Një partner i zgjuar e di se kur duhet të kërkojë ndihmë në vend që të hamendësojë. Ky model i lejon agjentit të trajtojë paqartësitë me hijeshi duke u përshkallëzuar tek përdoruesi, duke demonstruar një përulësi që ndërton, në vend që të gërryen, besimin. Edhe agjenti më i avancuar do të ndeshet me situata ku është i pasigurt për qëllimin e përdoruesit ose mënyrën më të mirë të veprimit. Mënyra se si e trajton këtë pasiguri është një moment përcaktues. Një agjent i projektuar mirë nuk merr me mend; ajo përshkallëzohet. Mbështetja psikologjike Kur një agjent pranon kufijtë e tij në vend që të hamendësojë, ai ndërton besimin duke respektuar autoritetin e përdoruesit në situata të paqarta. Modelet e përshkallëzimit përfshijnë:
Duke kërkuar sqarim "Ju përmendët "të martën e ardhshme". E keni parasysh 30 shtatorin apo 7 tetorin?" Prezantimi i opsioneve "Kam gjetur tre fluturime që përputhen me kriteret tuaja. Cili ju duket më i mirë?" Kërkimi i ndërhyrjes njerëzore Për detyra me aksione të larta ose shumë të paqarta, agjenti duhet të ketë një rrugë të qartë për të gjetur një ekspert njerëzor ose agjent mbështetës. Kërkesa mund të jetë: "Ky transaksion duket i pazakontë dhe nuk kam besim se si të vazhdoj. Dëshiron që ta raportoj këtë që një agjent njerëzor ta shqyrtojë?"
Kur t'i jepet përparësi këtij modeli Prioritet në fusha ku qëllimi i përdoruesit mund të jetë i paqartë ose shumë i varur nga konteksti (p.sh., ndërveprimet e gjuhës natyrore, pyetjet komplekse të të dhënave). Përdoreni këtë sa herë që agjenti funksionon me informacion jo të plotë ose kur ekzistojnë shumë shtigje të sakta. Rreziku i lëshimit Pa këtë, agjenti përfundimisht do të bëjë një supozim të sigurt, katastrofik që e tjetërson përdoruesin. Metrikë për sukses:
Frekuenca e përshkallëzimit Kërkesat e agjentit për ndihmë / Detyrat totale. Gama e shëndetshme: 5-15%. Norma e suksesit të rikuperimit Detyrat e përfunduara pas përshkallëzimit / Shkallëzimi total. Synimi > 90%.
Modeli Më e mira për Rreziku Primar Metrikë kyçe Parashikimi i qëllimit Veprime të pakthyeshme ose financiare Përdoruesi ndihet i zënë pritë >85% Norma e pranimit Dial autonomie Detyrat me nivele të ndryshueshme rreziku Braktisja totale e veçorive Vendosja e Churn Arsyetimi i shpjegueshëm Sfondi ose detyra autonome Përdoruesi i percepton gabimet "Pse?" Vëllimi i biletës Sinjali i besimit Sisteme eksperte ose me aksione të larta Paragjykimi i automatizimit Shqyrtimi Delta Veprimi Auditimi & Zhbër Të gjitha sistemet agjenturore Humbje e përhershme e besimit <5%Shkalla e kthimit Rruga e përshkallëzimit Synimi i paqartë i përdoruesit Supozime të sigurta, katastrofike >90% Suksesi i Rimëkëmbjes
Tabela 1: Përmbledhje e modeleve Agjentike AI UX. Mos harroni të rregulloni matjet bazuar në rrezikun dhe nevojat tuaja specifike të domenit. Projektim për riparim dhe korrigjim Kjo është të mësosh se si të kërkosh falje në mënyrë efektive. Një falje e mirë e pranon gabimin, e rregullon dëmin dhe premton të mësojë prej tij. Gabimet nuk janë një mundësi; ato janë të pashmangshme. Suksesi afatgjatë i një sistemi agjent varet më pak nga aftësia e tij për të qenë perfekt dhe më shumë nga aftësia e tij për të rikuperuar me hijeshi kur ai dështon. Një kornizë e fortë për riparim dhe korrigjim është një veçori thelbësore, jo një mendim i mëvonshëm. Ndjesë empatike dhe korrigjim të qartë Kur një agjent bën një gabim, mesazhi i gabimit është falje. Duhet të projektohet me saktësi psikologjike. Ky moment është një mundësi kritike për të demonstruar përgjegjësi. Nga këndvështrimi i dizajnit të shërbimit, këtu kompanitë mund të përdorin paradoksin e rikuperimit të shërbimit: fenomeni ku një klient që përjeton një dështim shërbimi, i ndjekur nga një rikuperim i suksesshëm dhe empatik, në fakt mund të bëhet më besnik se një klient që nuk ka përjetuar fare një dështim. Një gabim i trajtuar mirë mund të jetë një ngjarje më e fuqishme për ndërtimin e besimit sesa një histori e gjatë ekzekutimi pa të meta. Çelësi është trajtimi i gabimit si një këputje e marrëdhënies që duhet korrigjuar. Kjo përfshin:
Pranoni gabimin Mesazhi duhet të tregojë qartë dhe thjesht se është bërë një gabim. Shembull: Kam transferuar gabimisht fonde. Tregoni korrigjimin e menjëhershëm. Ndiqni menjëherë me veprimin korrigjues. Shembull: Unë e kam anuluar veprimin dhe fondet janë kthyer në llogarinë tuaj. Jepni një shteg për ndihmë të mëtejshme Ofroni gjithmonë një lidhje të qartë me mbështetjen njerëzore. Kjo de-përshkallëzon zhgënjimin dhe tregon se ekziston një sistem llogaridhënieje përtej vetë agjentit.
Një ndërfaqe e mirë-projektuar riparimi mund të duket si kjo: Ne bëmë një gabim në transferimin tuaj të fundit. Kërkoj falje. Kam transferuar 250 dollarë në llogarinë e gabuar.✔ Veprim korrigjues: Transferimi është rikthyer dhe 250 dollarët janë kthyer. [Kontakto Mbështetjen]
Ndërtimi i motorit të qeverisjes për inovacion të sigurt Modelet e projektimit të përshkruara më sipër janë kontrolle të drejtuara nga përdoruesi, por ato nuk mund të funksionojnë në mënyrë efektive pa një strukturë të fuqishme mbështetëse të brendshme. Këtu nuk bëhet fjalë për krijimin e pengesave burokratike; ka të bëjë me ndërtimin e një avantazhi strategjik. Një organizatë me një kornizë të pjekur qeverisjeje mund të dërgojë veçori më ambicioze agjenturore me shpejtësi dhe besim më të madh, duke e ditur se kandarët e nevojshëm janë vendosur për të zbutur rrezikun e markës. Ky motor qeverisjeje e kthen sigurinë nga një listë kontrolli në një aktiv konkurrues. Ky motor duhet të funksionojë si një organ zyrtar qeverisjeje, një Këshill Agjentik i Etikës së AI, i cili përbëhet nga një aleancë ndërfunksionale e UX, Produktit dhe Inxhinierisë, me mbështetje jetike nga Ligjore, Pajtueshmëria dhe Mbështetja. Në organizatat më të vogla, këto role "Këshilli" shpesh shemben në një treshe të vetme drejtuesish të produktit, inxhinierisë dhe dizajnit. Një listë kontrolli për qeverisjen
Ligj/Pajtueshmëri Ky ekip është linja e parë e mbrojtjes, duke siguruar që veprimet e mundshme të agjentit të qëndrojnë brenda kufijve rregullatorë dhe ligjorë. Ato ndihmojnë në përcaktimin e zonave të vështira të ndaluara për veprim autonom. Produkti Menaxheri i produktit është kujdestari i qëllimit të agjentit. Ata përcaktojnë dhe monitorojnë kufijtë e tij operacionalë përmes një politike formale autonomie që dokumenton atë që agjenti është dhe çfarë nuk lejohet të bëjë. Ata zotërojnë Regjistrin e Riskut të Agjentit. UX Research Ky ekip është zëri i besimit dhe ankthit të përdoruesit. Ata janë përgjegjës për një proces të përsëritur për kryerjen e studimeve të kalibrimit të besimit, testeve të simuluara të sjelljes së keqe dhe intervistave cilësore për të kuptuar modelin mendor në zhvillim të agjentit të përdoruesit. InxhinieriKy ekip ndërton bazat teknike të besimit. Ata duhet të arkitektojnë sistemin për prerje të fuqishme, funksionalitetin e zhbërjes me një klikim dhe grepat e nevojshme për të gjeneruar arsyetime të qarta dhe të shpjegueshme. MbështetjaKëto skuadra janë në vijën e parë të dështimit. Ata duhet të trajnohen dhe të pajisen për të trajtuar incidentet e shkaktuara nga gabimet e agjentëve dhe duhet të kenë një lak të drejtpërdrejtë reagimi në Këshillin e Etikës për të raportuar mbi modelet e dështimit në botën reale.
Kjo strukturë qeverisëse duhet të mbajë agrup dokumentesh të gjalla, duke përfshirë një regjistër të rrezikut të agjentit që identifikon në mënyrë proaktive mënyrat e mundshme të dështimit, regjistrat e auditimit të veprimeve që rishikohen rregullisht dhe dokumentacionin zyrtar të politikës së autonomisë. Ku të filloni: Një qasje me faza për drejtuesit e produkteve Për menaxherët dhe drejtuesit e produkteve, integrimi i AI agjenturore mund të duket si një detyrë monumentale. Çelësi është që t'i qasemi atij jo si një nisje e vetme, por si një udhëtim me faza i ndërtimit të aftësive teknike dhe besimit të përdoruesit paralelisht. Ky udhërrëfyes lejon organizatën tuaj të mësojë dhe të përshtatet, duke siguruar që çdo hap të ndërtohet mbi një themel të fortë. Faza 1: Siguria Themelore (Sugjero dhe Propozo) Qëllimi fillestar është të ndërtohet baza e besimit pa marrë rreziqe të konsiderueshme autonome. Në këtë fazë, fuqia e agjentit është e kufizuar në analiza dhe sugjerime.
Zbatoni një pamje paraprake të qëllimit të fortë: Ky është modeli juaj kryesor i ndërveprimit. Bëjini përdoruesit të qetë me idenë e agjentit që formulon planet, duke e mbajtur përdoruesin nën kontrollin e plotë të ekzekutimit. Ndërtoni infrastrukturën e Auditimit të Veprimit dhe Zhbërjes: Edhe nëse agjenti nuk po vepron ende në mënyrë autonome, ndërtoni skelat teknike për prerje dhe kthim. Kjo përgatit sistemin tuaj për të ardhmen dhe krijon besimin e përdoruesit se ekziston një rrjet sigurie.
Faza 2: Autonomia e Kalibruar (Vepro me Konfirmim) Pasi përdoruesit të jenë të kënaqur me propozimet e agjentit, mund të filloni të prezantoni autonomi me rrezik të ulët. Kjo fazë ka të bëjë me mësimin e përdoruesve se si mendon agjenti dhe t'i lërë ata të vendosin ritmin e tyre.
Prezantoni numrin e autonomisë me cilësime të kufizuara: Filloni duke i lejuar përdoruesit t'i japin agjentit fuqinë për të vepruar me konfirmim. Zbatoni arsyetimin e shpjegueshëm: Për çdo veprim që përgatit agjenti, jepni një shpjegim të qartë. Kjo çmitizon logjikën e agjentit dhe përforcon që ai funksionon bazuar në preferencat e vetë përdoruesit.
Faza 3: Delegimi proaktiv (Vepro në mënyrë autonome) Ky është hapi i fundit, i ndërmarrë vetëm pasi të keni të dhëna të qarta nga fazat e mëparshme që tregojnë se përdoruesit i besojnë sistemit.
Aktivizo Vepro në mënyrë autonome për detyra specifike, të miratuara paraprakisht: Përdorni të dhënat nga Faza 2 (p.sh., tarifat e larta të Procedimit, normat e ulëta të zhbërjes) për të identifikuar grupin e parë të detyrave me rrezik të ulët që mund të automatizohen plotësisht. Monitorimi dhe Përsëritja: Lëshimi i veçorive autonome nuk është fundi, por fillimi i një cikli të vazhdueshëm të monitorimit të performancës, mbledhjes së reagimeve të përdoruesve dhe përsosjes së fushëveprimit dhe sjelljes së agjentit bazuar në të dhënat e botës reale.
Dizajni si leva e fundit e sigurisë Shfaqja e AI agjenturore përfaqëson një kufi të ri në ndërveprimin njeri-kompjuter. Ai premton një të ardhme ku teknologjia mund të zvogëlojë në mënyrë proaktive barrën tonë dhe të përmirësojë jetën tonë. Por kjo fuqi vjen me përgjegjësi të thellë. Autonomia është një produkt i një sistemi teknik, por besueshmëria është një produkt i një procesi projektimi. Sfida jonë është të sigurojmë që përvoja e përdoruesit të mos jetë një viktimë e aftësive teknike, por përfituesi kryesor i saj. Si profesionistë UX, menaxherë produktesh dhe udhëheqës, roli ynë është të veprojmë si kujdestarë të atij besimi. Duke zbatuar modele të qarta projektimi për kontroll dhe pëlqim, duke projektuar shtigje të menduara për riparime dhe duke ndërtuar korniza të fuqishme qeverisjeje, ne krijojmë levat thelbësore të sigurisë që e bëjnë AI agjenturore të zbatueshme. Ne nuk po dizajnojmë vetëm ndërfaqe; ne po arkitektojmë marrëdhënie. E ardhmja e dobisë dhe e pranimit të AI mbështetet në aftësinë tonë për të dizajnuar këto sisteme komplekse me mençuri, largpamësi dhe një respekt të thellë për autoritetin përfundimtar të përdoruesit.
