Šīs sērijas pirmajā daļā mēs izveidojām fundamentālu pāreju no ģeneratīvā uz aģentu mākslīgo intelektu. Mēs izpētījām, kāpēc šis lēciens no ierosināšanas uz aktiermākslu prasa jaunu psiholoģisko un metodisko rīku komplektu UX pētniekiem, produktu vadītājiem un vadītājiem. Mēs definējām aģentu uzvedības taksonomiju, sākot no ierosināšanas līdz autonomai darbībai, izklāstījām galvenās izpētes metodes, definējām aģentu dūņu riskus un izveidojām pārskatatbildības rādītājus, kas nepieciešami, lai pārvietotos šajā jaunajā teritorijā. Mēs runājām par to, kas un kāpēc. Tagad mēs pārejam no pamata uz funkcionālo. Šajā rakstā ir sniegta informācija par to, kā: konkrēti projektēšanas modeļi, darbības sistēmas un organizatoriskā prakse, kas ir būtiska, lai izveidotu aģentu sistēmas, kas ir ne tikai jaudīgas, bet arī pārredzamas, kontrolējamas un lietotāju uzticības vērtas. Ja mūsu pētījumi ir diagnostikas instruments, šie modeļi ir ārstēšanas plāns. Tie ir praktiski mehānismi, ar kuru palīdzību mēs varam sniegt lietotājiem taustāmu kontroles sajūtu, pat ja mēs piešķiram mākslīgajam intelektam nepieredzētu autonomiju. Mērķis ir radīt pieredzi, kurā autonomija šķiet kā lietotāja piešķirta privilēģija, nevis sistēmas sagrābtas tiesības. Pamata UX modeļi aģentu sistēmām Projektēšana aģentiskajam AI ir attiecību veidošana. Šīs attiecības, tāpat kā jebkura veiksmīga partnerība, jāveido uz skaidras komunikācijas, savstarpējas sapratnes un noteiktām robežām. Lai pārvaldītu pāreju no ieteikuma uz darbību, mēs izmantojam sešus modeļus, kas atbilst aģentu mijiedarbības funkcionālajam dzīves ciklam:
Pirmsdarbības (nolūka noteikšana) Nolūka priekšskatījums un autonomija nodrošina, ka lietotājs definē plānu un aģenta robežas, pirms kaut kas notiek. Darbībā (nodrošinot kontekstu) Izskaidrojams pamatojums un pārliecības signāls saglabā caurspīdīgumu, kamēr aģents strādā, parādot “kāpēc” un “cik droši”. Pēcdarbības (drošība un atkopšana) Darbības audits un atsaukšana un eskalācijas ceļš nodrošina drošības tīklu kļūdām vai ļoti neskaidriem brīžiem.
Tālāk mēs detalizēti apskatīsim katru modeli, tostarp ieteikumus par veiksmes rādītājiem. Šie mērķi ir reprezentatīvi kritēriji, kuru pamatā ir nozares standarti; pielāgojiet tos, pamatojoties uz jūsu specifisko domēna risku. 1. Nolūka priekšskatījums: Kas un kā skaidrojums Šis modelis ir sarunvalodas ekvivalents teikumam: "Lūk, ko es gatavojos darīt. Vai jums tas ir labi?" Tas ir galvenais brīdis, kad tiek meklēta piekrišana lietotāja un aģenta attiecībās. Pirms aģents veic jebkādas nozīmīgas darbības, lietotājam ir jābūt skaidrai, nepārprotamai izpratnei par to, kas notiks. Nolūka priekšskatījums jeb plāna kopsavilkums nodrošina informētu piekrišanu. Tā ir sarunas pauze pirms darbības, pārvēršot autonomo procesu melno kasti caurspīdīgā, pārskatāmā plānā. Psiholoģiskais pamats Plāna iesniegšana pirms darbības samazina izziņas slodzi un novērš pārsteigumu, dodot lietotājiem laiku pārbaudīt, vai aģents patiešām saprot viņu nodomus. Efektīva nolūka anatomija priekšskatījums:
Skaidrība un kodolīgums Priekšskatījumam jābūt nekavējoties sagremojamam. Tajā ir jāapkopo galvenās darbības un rezultāti vienkāršā valodā, izvairoties no tehniskā žargona. Piemēram, “Executing API call to cancel_booking(id: 4A7B)” vietā ir jānorāda “Atcelt lidojumu AA123 uz Sanfrancisko”. Secīgas darbības Daudzpakāpju operācijām priekšskatījumā ir jānorāda galvenās fāzes. Tas atklāj aģenta loģiku un ļauj lietotājiem pamanīt iespējamās problēmas ierosinātajā secībā. Skaidras lietotāja darbības Priekšskatījums ir lēmuma pieņemšanas punkts, nevis tikai paziņojums. Tam ir jāpievieno skaidra izvēles iespēju kopa. Tas ir tīšas berzes brīdis, “ātruma paaugstinājums” procesā, kas paredzēts, lai nodrošinātu, ka lietotājs veic apzinātu izvēli, jo īpaši attiecībā uz neatgriezeniskām vai augstas likmes darbībām.
Apskatīsim mūsu ceļojumu asistenta scenāriju no šīs sērijas pirmās daļas. Mēs izmantojam šo proaktīvo palīgu, lai ilustrētu, kā aģents rīkojas ar lidojuma atcelšanu. Aģents ir atklājis lidojuma atcelšanu un ir izstrādājis atveseļošanas plānu. Nolūka priekšskatījums izskatītos apmēram šādi: Ierosinātais plāns ceļojuma pārtraukumamEs atklāju, ka jūsu 10:05 lidojums ir atcelts. Lūk, ko es plānoju darīt: atcelt lidojumu UA456. Apstrādājiet atmaksu un apstipriniet atcelšanas informāciju. Rezervējiet atkārtoti lidojumā DL789. Rezervējiet apstiprinātu vietu 14:30 tiešajam lidojumam, jo šis ir nākamais pieejamais tiešais lidojums arapstiprināta sēdvieta.Atjaunināt viesnīcu rezervācijuPaziņojiet Marriott, ka ieradīsieties vēlu.E-pasts atjaunināts maršrutsNosūtiet informāciju par jauno lidojumu un viesnīcu jums un jūsu asistentei Džeinai Dū.[ Turpināt ar šo plānu ] [ Rediģēt plānu ] [ Rīkojieties pats ]
Šis priekšskatījums ir efektīvs, jo sniedz pilnīgu priekšstatu no atcelšanas līdz saziņai un piedāvā trīs atšķirīgus virzienus: pilnīga piekrišana (Turpināt), vēlme veikt izmaiņas (Rediģēt plānu) vai pilnīga ignorēšana (Rīkojieties pats). Šī daudzpusīgā kontrole ir uzticības pamats.
Kad piešķirt prioritāti šim modelim. Šis modelis nav apspriežams jebkurai darbībai, kas ir neatgriezeniska (piemēram, lietotāja datu dzēšana), ietver jebkuras summas finanšu darījumu, informācijas koplietošanu ar citiem cilvēkiem vai sistēmām vai būtiskas izmaiņas, kuras lietotājs nevar viegli atsaukt. Izlaiduma risks. Panākumu rādītāji:
Pieņemšanas attiecību plāni, kas pieņemti bez rediģēšanas / tiek parādīti plāni kopā. Mērķis > 85%. Ignorēt biežumuKopā Rīkojieties pats Klikšķi / kopējais parādīto plānu skaits. Likme > 10% aktivizē modeļa pārskatīšanu. Atsaukt AccuracyProcentuālo daļu testa dalībnieku, kuri var pareizi uzskaitīt plāna darbības 10 sekundes pēc priekšskatījuma paslēpšanas.
Piemērojot šo augsto likmju domēniem Lai gan ceļojumu plāni ir salīdzināms pamats, šis modelis kļūst neaizstājams sarežģītās, augstas likmes vidēs, kur kļūda rada vairāk nekā neērtības indivīdam, kurš ceļo. Daudzi no mums strādā vietās, kur nepareizi lēmumi var izraisīt sistēmas darbības pārtraukumus, apdraudot pacienta drošību vai daudzus citus katastrofālus iznākumus, ko varētu radīt neuzticama tehnoloģija. Apsveriet iespēju izmantot DevOps izlaišanas aģentu, kura uzdevums ir pārvaldīt mākoņa infrastruktūru. Šajā kontekstā Intent Preview darbojas kā drošības barjera pret nejaušu dīkstāvi.
Šajā saskarnē specifiskā terminoloģija (Drain Traffic, Rollback) aizstāj vispārīgus, un darbības ir bināras un ietekmīgas. Lietotājs atļauj veikt lielu darbības maiņu, pamatojoties uz aģenta loģiku, nevis apstiprinot ieteikumu. 2. Autonomijas ciparnīca: uzticamības kalibrēšana ar pakāpenisku autorizāciju Visām veselīgām attiecībām ir robežas. Autonomiskā numura sastādīšana ir veids, kā lietotājs to izveido ar savu aģentu, nosakot, kas viņam ir apmierināts ar aģenta darbību atsevišķi. Uzticība nav binārs slēdzis; tas ir spektrs. Lietotājs var uzticēties aģentam, lai tas autonomi apstrādā zemas likmes uzdevumus, bet pieprasīt pilnīgu apstiprinājumu par lēmumiem ar augstu likmi. Autonomijas numurs, progresīvās autorizācijas veids, ļauj lietotājiem iestatīt vēlamo aģenta neatkarības līmeni, padarot viņus par aktīviem dalībniekiem attiecību noteikšanā. Psiholoģiskais pamats Ļaujot lietotājiem noregulēt aģenta autonomiju, viņiem tiek piešķirts kontroles loks, ļaujot viņiem saskaņot sistēmas uzvedību ar viņu personīgo riska toleranci. IeviešanaTo var ieviest kā vienkāršu, skaidru iestatījumu lietojumprogrammā, ideālā gadījumā katram uzdevumam. Izmantojot mūsu pirmā raksta taksonomiju, iestatījumi varētu būt šādi:
Novērot un ieteiktEs vēlos saņemt paziņojumu par iespējām vai problēmām, taču aģents nekad neierosinās plānu. Plānojiet un ierosiniet Aģents var izveidot plānus, taču pirms jebkādu darbību veikšanas man tas ir jāpārskata. Rīkojieties ar apstiprinājumuLai veiktu pazīstamus uzdevumus, aģents var sagatavot darbības, un es sniegšu galīgo apstiprinājumu, ka drīkst/aiziet. Rīkojieties autonomi Veicot iepriekš apstiprinātus uzdevumus (piemēram, apstrīdot izmaksas, kas mazākas par 50 ASV dolāriem), aģents var rīkoties neatkarīgi un paziņot man pēc tam.
Piemēram, e-pasta asistentam var būt atsevišķa autonomija sapulču plānošanai, nevis e-pasta ziņojumu sūtīšanai lietotāja vārdā. Šī precizitāte ir būtiska, jo tā atspoguļo lietotāja uzticības niansēto realitāti. Kad piešķirt prioritāti šim modelim, piešķiriet tam prioritāti sistēmās, kurās uzdevumi ir ļoti atšķirīgi atkarībā no riska un personīgās izvēles (piemēram, finanšu pārvaldības rīki, saziņas platformas). Tas ir būtiski, lai lietotāji varētu sākt ar zemu autonomiju un palielināt to, pieaugot viņu pārliecībai. Izlaiduma risks. Panākumu rādītāji:
Uzticamības blīvums Procentuālais lietotāju sadalījums pēc iestatījuma (piemēram, 20% Ieteikt, 50% Apstiprināt, 30% Automātiski). Setting ChurnNumber of Setting Changes / Kopējais aktīvo lietotāju skaits mēnesī. Augsta atkāpšanās liecina par uzticībunepastāvība.
3. Izskaidrojamais pamatojums: atbilde, kāpēc? Pēc darbības veikšanas labs partneris izskaidro viņu argumentāciju. Šis modelis ir atklāta komunikācija, kas seko darbībai, atbildot uz jautājumu Kāpēc? pirms tas pat tiek jautāts. "Es to izdarīju, jo jūs man iepriekš teicāt, ka dodat priekšroku X." Kad aģents rīkojas, īpaši autonomi, lietotāja prātā bieži rodas jautājums: kāpēc tas tā rīkojās? Izskaidrojamā pamatojuma modelis proaktīvi atbild uz šo jautājumu, sniedzot īsu pamatojumu aģenta lēmumiem. Šis nav tehnisks žurnālfails. Manā pirmajā šīs sērijas rakstā mēs apspriedām sistēmas primitīvu tulkošanu lietotājam paredzētajā valodā, lai novērstu maldināšanu. Šis modelis ir šī principa praktisks pielietojums. Tas pārveido neapstrādāto loģiku cilvēkiem lasāmā skaidrojumā, kas balstīts uz paša lietotāja norādītajām preferencēm un iepriekšējiem ievades datiem. Psiholoģiskais pamatsKad aģenta darbības ir izskaidrojamas, tās jūtas loģiskas, nevis nejaušas, palīdzot lietotājam izveidot precīzu aģenta domāšanas modeli. Efektīvie pamatojumi:
Pamatots uz precedentu Labākie skaidrojumi ir saistīti ar noteikumu, preferenci vai iepriekšēju darbību. Vienkārša un tieša Izvairieties no sarežģītas nosacījumu loģikas. Izmantojiet vienkāršu struktūru “Tā kā tu teici X, es izdarīju Y”.
Atgriežoties pie ceļojuma piemēra, pēc lidojuma autonomas pārrezervācijas lietotājs savā paziņojumu plūsmā var redzēt šo: Esmu pārrezervējis jūsu atcelto lidojumu.Jauns lidojums: Delta 789, izlidošana plkst. 14:30.Kāpēc es veicu šo darbību:Aviokompānija atcēla jūsu sākotnējo lidojumu.Jūs esat iepriekš apstiprinājis autonomu pārrezervāciju vienas dienas tiešajiem lidojumiem.[ Skatīt jauno maršrutu ] [Atsaukt šo darbību]
Pamatojums ir skaidrs, attaisnojams un pastiprina domu, ka aģents darbojas lietotāja noteiktajās robežās. Kad piešķirt prioritāti šim modelim Nosakiet to par prioritāti jebkurai autonomai darbībai, kuras pamatojums nav uzreiz skaidrs no konteksta, jo īpaši darbībām, kas notiek fonā vai ko aktivizē ārējs notikums (piemēram, lidojuma atcelšanas piemērs). Izlaiduma risks Bez tā lietotāji derīgas autonomas darbības interpretē kā nejaušu uzvedību vai "kļūdas", neļaujot viņiem izveidot pareizu garīgo modeli. Panākumu rādītāji:
Kāpēc? Biļešu apjoms Atbalsta biļešu skaits ar atzīmi “Aģenta uzvedība — neskaidra” uz 1000 aktīvajiem lietotājiem. Pamatojums Validation To lietotāju procentuālā daļa, kuri pēc mijiedarbības mikroaptaujām skaidro skaidrojumu novērtējuši kā “Noderīgs”.
4. Pārliecības signāls Šis modelis ir par to, ka aģents attiecībās apzinās sevi. Paziņojot par savu pārliecību, tas palīdz lietotājam izlemt, kad uzticēties viņa spriedumam un kad veikt rūpīgāku pārbaudi. Lai palīdzētu lietotājiem kalibrēt savu uzticību, aģentam ir jāparāda sava pārliecība par saviem plāniem un darbībām. Tas padara aģenta iekšējo stāvokli labāk salasāmu un palīdz lietotājam izlemt, kad rūpīgāk pārbaudīt lēmumu. Psiholoģiskais pamats Virsmas nenoteiktība palīdz novērst automatizācijas novirzes, mudinot lietotājus rūpīgi pārbaudīt zemas ticamības plānus, nevis akli tos pieņemt. Īstenošana:
Pārliecības rādītājs Vienkāršs procents (piemēram, pārliecība: 95%) var būt ātrs, skenējams rādītājs. Darbības jomas deklarācija Skaidrs paziņojums par aģenta kompetences jomu (piemēram, joma: tikai ceļojumu rezervēšana) palīdz pārvaldīt lietotāju vēlmes un neļauj viņiem lūgt aģentam veikt uzdevumus, kuriem tas nav paredzēts. Vizuālie norādījumi Zaļā atzīme var norādīt uz augstu pārliecību, savukārt dzeltena jautājuma zīme var norādīt uz nenoteiktību, mudinot lietotāju rūpīgāk pārskatīt.
Kad piešķirt prioritāti šim modelim Nosakiet prioritāti, ja aģenta veiktspēja var ievērojami atšķirties atkarībā no ievades datu kvalitātes vai uzdevuma neskaidrības. Tas ir īpaši vērtīgs ekspertu sistēmās (piemēram, medicīniskajos palīglīdzekļos, koda palīgos), kur cilvēkam ir kritiski jānovērtē AI rezultāts. Izlaiduma risks Bez tā lietotāji kļūs par upuriem automatizācijas aizspriedumiem, akli pieņemot halucinācijas ar zemu ticamību vai ar bažām vēlreiz pārbaudot darbu ar augstu pārliecību. Panākumu rādītāji:
Calibration ScorePearson korelācija starp modeļa uzticības rādītāju un lietotāju pieņemšanas līmeni. Mērķis > 0,8. Pārbaudes deltaAtšķirība starp zemas ticamības plānu un augstas ticamības plānu vidējo pārskatīšanas laiku. Paredzams, ka tas būs pozitīvs (piemēram, +12 sekundes).
5. Darbības pārbaude un atsaukšana: galvenais drošības tīkls Uzticēšanās prasa zināt, ka varat atgūties no kļūdas. Atsauktfunkcija ir galvenais attiecību drošības tīkls, kas nodrošina lietotājam, ka pat tad, ja aģents pārprot, sekas nav katastrofālas. Visspēcīgākais mehānisms lietotāju uzticības veidošanai ir iespēja viegli mainīt aģenta darbību. Pastāvīgs, viegli lasāms darbību audita žurnāls ar redzamu pogu Atsaukt katrai iespējamai darbībai ir galvenais drošības tīkls. Tas ievērojami samazina autonomijas piešķiršanas risku. Psiholoģiskais pamats Zinot, ka kļūdu var viegli atsaukt, tiek radīta psiholoģiskā drošība, mudinot lietotājus deleģēt uzdevumus, nebaidoties no neatgriezeniskām sekām. Dizaina paraugprakse:
Laika skalas skats Visu aģenta uzsākto darbību hronoloģiskais žurnāls ir intuitīvākais formāts. Notīrīt statusa indikatorus Parādiet, vai darbība bija veiksmīga, notiek vai ir atsaukta. Uz laiku ierobežotas atsaukšanas Darbībām, kas pēc noteikta brīža kļūst neatgriezeniskas (piemēram, neatmaksājama rezervācija), lietotāja interfeisam ir skaidri jāpaziņo šis laika logs (piemēram, iespēja atsaukt ir pieejama 15 minūtes). Šī sistēmas ierobežojumu pārredzamība ir tikpat svarīga kā pati atsaukšanas iespēja. Godīga attieksme pret to, kad darbība kļūst pastāvīga, vairo uzticību.
Kad šim modelim piešķirt prioritāti. Šis ir pamata modelis, kas būtu jāievieš gandrīz visās aģentu sistēmās. Tas ir absolūti neapspriežams, ieviešot autonomas funkcijas vai ja kļūdas (finanšu, sociālās vai ar datiem saistītas) izmaksas ir augstas. Izlaiduma risks Bez tā viena kļūda neatgriezeniski sagrauj uzticību, jo lietotāji saprot, ka viņiem nav drošības tīkla. Panākumu rādītāji:
Reversijas koeficients, neatsauktās darbības / kopējais veikto darbību skaits. Ja konkrēta uzdevuma atgriešanas līmenis > 5%, atspējojiet šī uzdevuma automatizāciju. Drošības tīkla reklāmguvums To lietotāju procentuālā daļa, kuri veic jaunināšanu uz autonomu darbību 7 dienu laikā pēc veiksmīgas atsaukšanas izmantošanas.
6. Eskalācijas ceļš: Graciozi izturieties pret nenoteiktību Gudrs partneris zina, kad lūgt palīdzību, nevis minēt. Šis modelis ļauj aģentam graciozi rīkoties ar neskaidrībām, pievēršoties lietotājam, demonstrējot pazemību, kas vairo, nevis grauj uzticību. Pat vismodernākais aģents saskarsies ar situācijām, kad nav skaidrs par lietotāja nodomu vai labāko rīcības veidu. Tas, kā tā tiek galā ar šo nenoteiktību, ir izšķirošs brīdis. Labi izstrādāts aģents neuzmin; tas saasinās. Psiholoģiskais pamatsKad aģents atzīst savas robežas, nevis uzminē, tas vairo uzticību, respektējot lietotāja autoritāti neskaidrās situācijās. Eskalācijas modeļi ietver:
Pieprasīt precizējumu "Jūs minējāt "nākamo otrdienu". Vai jūs domājat 30. septembri vai 7. oktobri?" Opciju prezentēšana "Es atradu trīs lidojumus, kas atbilst jūsu kritērijiem. Kurš no tiem jums šķiet vislabākais?" Cilvēka iejaukšanās pieprasīšana Lielu vai ļoti neskaidru uzdevumu veikšanai aģentam ir jābūt skaidram ceļam, kā piesaistīt cilvēku ekspertu vai atbalsta aģentu. Uzvedne varētu būt šāda: "Šis darījums šķiet neparasts, un es neesmu pārliecināts, kā rīkoties. Vai vēlaties, lai es to atzīmēju kā nepiemērotu, lai aģents to pārskatītu?"
Kad piešķirt prioritāti šim modelim Nosakiet prioritāti domēnos, kur lietotāja nolūks var būt neskaidrs vai ļoti atkarīgs no konteksta (piemēram, mijiedarbība ar dabisko valodu, sarežģīti datu vaicājumi). Izmantojiet to ikreiz, kad aģents strādā ar nepilnīgu informāciju vai ja pastāv vairāki pareizi ceļi. Izlaiduma risks Bez tā aģents galu galā izdarīs pārliecinošu, katastrofālu minējumu, kas atsvešina lietotāju. Panākumu rādītāji:
Escalation FrequencyAgent Requests for Help / Total Tasks. Veselīgs diapazons: 5-15%. Atkopšanas panākumi RateTasks Pabeigts pēc eskalācijas / kopējais eskalāciju skaits. Mērķis > 90%.
Raksts Labākais priekš Primārais risks Galvenā metrika Nolūka priekšskatījums Neatgriezeniskas vai finansiālas darbības Lietotājs jūtas aizskarts >85% pieņemšanas līmenis Autonomijas numurs Uzdevumi ar mainīgu riska līmeni Pilnīga funkciju atmešana Atbrīvošanās iestatīšana Izskaidrojams pamatojums Fona vai autonomi uzdevumi Lietotājs uztver kļūdas "Kāpēc?" Biļešu apjoms Pārliecības signāls Ekspertu vai augstu likmju sistēmas Automatizācijas novirze Rūpīga Delta Darbības pārbaude un atsaukšana Visas aģentu sistēmas Pastāvīgs uzticības zaudējums <5%Reversijas līmenis Eskalācijas ceļš Neskaidrs lietotāja nolūks Pārliecināti, katastrofāli minējumi >90% atveseļošanās panākumi
1. tabula. Aģentiskā AI UX modeļu kopsavilkums. Atcerieties pielāgot metriku, pamatojoties uz jūsu specifisko domēna risku un vajadzībām. Projektēšana remontam un labošanai Tas ir iemācīšanās efektīvi atvainoties. Laba atvainošanās atzīst kļūdu, novērš bojājumus un sola no tās mācīties. Kļūdas nav iespējamas; tās ir neizbēgamība. Aģentūras sistēmas panākumi ilgtermiņā ir mazāk atkarīgi no tās spējas būt perfektai, bet vairāk no tās spējas graciozi atgūties, ja tā neizdodas. Izturīga sistēma remontam un kompensācijai ir galvenā funkcija, nevis pārdoma. Empātiska atvainošanās un skaidra atlīdzināšana Ja aģents pieļauj kļūdu, kļūdas ziņojums ir atvainošanās. Tam jābūt izstrādātam ar psiholoģisku precizitāti. Šis brīdis ir kritiska iespēja demonstrēt atbildību. No pakalpojumu dizaina viedokļa uzņēmumi var izmantot pakalpojumu atkopšanas paradoksu: parādību, kad klients, kurš saskaras ar pakalpojuma kļūmi, kam seko veiksmīga un empātiska atveseļošanās, faktiski var kļūt lojālāks nekā klients, kurš nekad nav piedzīvojis neveiksmi. Labi apstrādāta kļūda var būt spēcīgāks uzticības veicināšanas notikums nekā ilgstoša nevainojama izpildes vēsture. Galvenais ir uztvert kļūdu kā attiecību pārrāvumu, kas ir jānovērš. Tas ietver:
Apstipriniet kļūduZiņojumā skaidri un vienkārši jānorāda, ka ir pieļauta kļūda.Piemērs: es nepareizi pārskaitīju līdzekļus. Norādiet tūlītēju labojumuNekavējoties veiciet korektīvo darbību.Piemērs: es esmu atcēlis darbību, un līdzekļi ir atgriezti jūsu kontā. Nodrošiniet ceļu turpmākai palīdzībaiVienmēr piedāvājiet skaidru saiti uz cilvēku atbalstu. Tas mazina neapmierinātību un parāda, ka pastāv atbildības sistēma ārpus paša aģenta.
Labi izstrādāta remonta lietotāja saskarne varētu izskatīties šādi: Mēs pieļāvām kļūdu jūsu nesenajā pārskaitījumā. Es atvainojos. Es pārskaitīju 250 ASV dolārus uz nepareizo kontu.✔ Koriģējoša darbība: pārskaitījums ir atsaukts, un jūsu 250 ASV dolāri ir atmaksāti.✔ Nākamās darbības: incidents ir atzīmēts iekšējai pārskatīšanai, lai tas neatkārtotos. Vai nepieciešama papildu palīdzība? [Sazinieties ar atbalsta dienestu]
Pārvaldības dzinēja izveide drošai inovācijai Iepriekš aprakstītie dizaina modeļi ir lietotājam paredzēti vadības elementi, taču tie nevar efektīvi darboties bez spēcīgas iekšējās atbalsta struktūras. Šeit nav runa par birokrātisku šķēršļu radīšanu; runa ir par stratēģiskas priekšrocības veidošanu. Organizācija ar nobriedušu pārvaldības sistēmu var nodrošināt vērienīgākas aģentu funkcijas ar lielāku ātrumu un pārliecību, zinot, ka ir ieviestas nepieciešamās margas, lai mazinātu zīmola risku. Šis pārvaldības dzinējs pārvērš drošību no kontrolsaraksta par konkurētspējīgu līdzekli. Šim dzinējam ir jādarbojas kā oficiālai pārvaldības struktūrai — Aģentiskā AI ētikas padomei, kas ietver daudzfunkcionālu lietotāja pieredzes, produktu un inženierijas aliansi ar būtisku juridisko, atbilstības un atbalsta atbalstu. Mazākās organizācijās šīs “Padomes” lomas bieži vien saplūst vienā triādē, kas sastāv no produkta, inženierijas un dizaina vadošajiem partneriem. Pārvaldības kontrolsaraksts
Juridiskā/atbilstībaŠī komanda ir pirmā aizsardzības līnija, kas nodrošina, ka aģenta iespējamās darbības nepārsniedz normatīvās un juridiskās robežas. Tie palīdz definēt autonomas darbības stingri aizliegtās zonas. Produkts Produktu vadītājs ir aģenta mērķa pārvaldītājs. Viņi nosaka un uzrauga tā darbības robežas, izmantojot formālu autonomijas politiku, kas dokumentē to, ko aģents drīkst un ko nedrīkst darīt. Viņiem pieder aģentu riska reģistrs. UX izpēte Šī komanda ir lietotāja uzticības un satraukuma balss. Viņi ir atbildīgi par periodisku uzticības kalibrēšanas pētījumu, simulētu nepareizas uzvedības testu un kvalitatīvu interviju veikšanu, lai izprastu lietotāja mainīgo aģenta garīgo modeli. Inženierzinātnes Šī komanda veido uzticības tehniskos pamatus. Viņiem ir jāveido sistēma stabilai reģistrēšanai, viena klikšķa atsaukšanas funkcionalitātei un āķiem, kas nepieciešami, lai radītu skaidrus, izskaidrotus pamatojumus. AtbalstsŠīs komandas atrodas neveiksmju priekšā. Viņiem ir jābūt apmācītiem un aprīkotiem, lai risinātu starpgadījumus, ko izraisa aģenta kļūdas, un viņiem ir jābūt tiešai atgriezeniskajai saitei ar Ētikas padomi, lai ziņotu par neveiksmēm reālajā pasaulē.
Šai pārvaldības struktūrai būtu jāsaglabā adzīvo dokumentu kopums, tostarp aģentu riska reģistrs, kas proaktīvi identificē iespējamos atteices veidus, darbību audita žurnāli, kas tiek regulāri pārskatīti, un oficiālā autonomijas politikas dokumentācija. Kur sākt: pakāpeniska pieeja produktu līderiem Produktu vadītājiem un vadītājiem aģentu AI integrēšana var šķist milzīgs uzdevums. Galvenais ir to uztvert nevis kā vienu palaišanu, bet gan kā pakāpenisku ceļojumu, lai vienlaikus veidotu gan tehniskās iespējas, gan lietotāju uzticēšanos. Šis ceļvedis ļauj jūsu organizācijai mācīties un pielāgoties, nodrošinot, ka katrs solis tiek veidots uz stabila pamata. 1. fāze: pamatdrošība (ieteikt un ierosināt) Sākotnējais mērķis ir izveidot uzticības pamatu, neuzņemoties nozīmīgus autonomus riskus. Šajā fāzē aģenta tiesības aprobežojas ar analīzi un ieteikumiem.
Ieviesiet stabilu nolūka priekšskatījumu: šis ir jūsu galvenais mijiedarbības modelis. Iepazīstiniet lietotājus ar ideju, ka aģents izstrādā plānus, vienlaikus saglabājot lietotājam pilnīgu izpildes kontroli. Izveidojiet darbību audita un atsaukšanas infrastruktūru: pat ja aģents vēl nedarbojas autonomi, izveidojiet tehniskās sastatnes mežizstrādei un apgriešanai. Tas sagatavo jūsu sistēmu nākotnei un vairo lietotāju pārliecību, ka drošības tīkls pastāv.
2. fāze: kalibrēta autonomija (akts ar apstiprinājumu) Kad lietotāji ir apmierināti ar aģenta priekšlikumiem, varat sākt ieviest zema riska autonomiju. Šis posms ir paredzēts, lai mācītu lietotājus, kā aģents domā, un ļautu viņiem noteikt savu tempu.
Ieviesiet autonomo numuru ar ierobežotiem iestatījumiem: sāciet, ļaujot lietotājiem piešķirt aģentam pilnvaras rīkoties ar apstiprinājumu. Izstrādājiet izskaidrojamo pamatojumu: par katru aģenta sagatavoto darbību sniedziet skaidru skaidrojumu. Tas izjauc aģenta loģiku un pastiprina, ka tas darbojas, pamatojoties uz paša lietotāja vēlmēm.
3. fāze: aktīva deleģēšana (rīkoties autonomi) Šis ir pēdējais solis, kas tiek veikts tikai pēc tam, kad jums ir skaidri dati no iepriekšējām fāzēm, kas parāda, ka lietotāji uzticas sistēmai.
Iespējot autonomu darbību konkrētiem, iepriekš apstiprinātiem uzdevumiem: izmantojiet 2. fāzes datus (piemēram, augstus darbības rādītājus, zemus atsaukšanas rādītājus), lai noteiktu pirmo zema riska uzdevumu kopu, ko var pilnībā automatizēt. Pārraugiet un atkārtojiet: autonomo funkciju palaišana nav beigas, bet gan sākums nepārtrauktam veiktspējas uzraudzības ciklam, lietotāju atsauksmju apkopošanai un aģenta darbības jomas un uzvedības uzlabošanai, pamatojoties uz reāliem datiem.
Dizains kā vislielākā drošības svira Aģentiskā AI parādīšanās ir jauna robeža cilvēka un datora mijiedarbībā. Tā sola nākotni, kurā tehnoloģija var proaktīvi samazināt mūsu slogu un racionalizēt mūsu dzīvi. Bet šis spēks ir saistīts ar dziļu atbildību. Autonomija ir tehniskās sistēmas rezultāts, bet uzticamība ir projektēšanas procesa rezultāts. Mūsu izaicinājums ir nodrošināt, lai lietotāja pieredze nebūtu tehnisko iespēju zaudējums, bet gan tās galvenais ieguvējs. Kā UX profesionāļiem, produktu vadītājiem un vadītājiem mūsu uzdevums ir darboties kā šīs uzticības pārvaldniekiem. Ieviešot skaidrus kontroles un piekrišanas dizaina modeļus, izstrādājot pārdomātus ceļus remontam un veidojot stabilas pārvaldības sistēmas, mēs izveidojam būtiskos drošības līdzekļus, kas padara aģentu AI dzīvotspējīgu. Mēs ne tikai projektējam saskarnes; mēs veidojam attiecības. AI lietderības un pieņemšanas nākotne ir atkarīga no mūsu spējas izstrādāt šīs sarežģītās sistēmas ar gudrību, tālredzību un dziļu cieņu pret lietotāja augstāko autoritāti.
