У першай частцы гэтай серыі мы ўстанавілі фундаментальны пераход ад генератыўнага да агентурнага штучнага інтэлекту. Мы вывучылі, чаму гэты скачок ад прапановы да дзеяння патрабуе новага псіхалагічнага і метадалагічнага інструментара для даследчыкаў UX, менеджэраў па прадуктах і кіраўнікоў. Мы вызначылі таксанамію агентурных паводзінаў, ад прапаноў да аўтаномных дзеянняў, акрэслілі асноўныя метады даследавання, вызначылі рызыкі асадка агентаў і ўсталявалі паказчыкі падсправаздачнасці, неабходныя для навігацыі на гэтай новай тэрыторыі. Мы разгледзелі, што і чаму. Зараз мы пяройдзем ад асновы да функцыянальнай. У гэтым артыкуле прыводзіцца, як: канкрэтныя шаблоны праектавання, аперацыйныя структуры і арганізацыйныя практыкі, важныя для стварэння агентурных сістэм, якія не толькі магутныя, але і празрыстыя, кантраляваныя і вартыя даверу карыстальнікаў. Калі наша даследаванне з'яўляецца дыягнастычным інструментам, гэтыя мадэлі з'яўляюцца планам лячэння. Гэта практычныя механізмы, з дапамогай якіх мы можам даць карыстальнікам адчувальнае адчуванне кантролю, нават калі мы даем ІІ беспрэцэдэнтную аўтаномію. Мэта складаецца ў тым, каб стварыць вопыт, пры якім аўтаномія адчуваецца як прывілей, прадастаўлены карыстальнікам, а не як права, захопленае сістэмай. Асноўныя шаблоны UX для сістэм Agentic Праектаванне для агентурнага штучнага інтэлекту - гэта праектаванне для адносін. Гэтыя адносіны, як і любое паспяховае партнёрства, павінны будавацца на выразнай камунікацыі, узаемаразуменні і ўсталяваных межах. Каб кіраваць пераходам ад прапановы да дзеяння, мы выкарыстоўваем шэсць шаблонаў, якія ідуць за функцыянальным жыццёвым цыклам агентскага ўзаемадзеяння:
Папярэдняе дзеянне (устанаўленне намеру) Папярэдні прагляд намеру і цыферблат аўтаноміі гарантуюць, што карыстальнік вызначае план і межы агента, перш чым што-небудзь адбудзецца. У дзеянні (прадастаўленне кантэксту) Вытлумачальнае абгрунтаванне і сігнал упэўненасці захоўваюць празрыстасць падчас працы агента, паказваючы «чаму» і «наколькі дакладна». Пасля дзеяння (бяспека і аднаўленне) Аўдыт дзеянняў і адмена і шлях эскалацыі забяспечваюць сетку бяспекі ад памылак або момантаў высокай неадназначнасці.
Ніжэй мы падрабязна разгледзім кожны шаблон, уключаючы рэкамендацыі па паказчыках поспеху. Гэтыя мэты з'яўляюцца рэпрэзентатыўнымі арыенцірамі, заснаванымі на галіновых стандартах; скарэктаваць іх у залежнасці ад рызыкі вашага дамена. 1. Папярэдні прагляд намераў: высвятленне таго, што і як Гэтая мадэль з'яўляецца размоўным эквівалентам сказаць: "Вось што я збіраюся зрабіць. Вы з гэтым згодны?" Гэта асноватворны момант пошуку згоды ў адносінах карыстальніка-агента. Перш чым агент здзейсніць якое-небудзь істотнае дзеянне, карыстальнік павінен мець дакладнае і адназначнае разуменне таго, што павінна адбыцца. Папярэдні прагляд намеру або рэзюмэ плана ўсталёўвае інфармаваную згоду. Гэта гутарковая паўза перад дзеяннем, якая ператварае чорную скрыню аўтаномных працэсаў у празрысты план, які можна аглядаць. Псіхалагічная аснова. Прадстаўленне плана перад дзеяннем зніжае кагнітыўную нагрузку і пазбаўляе ад нечаканасці, даючы карыстальнікам магчымасць пераканацца, што агент сапраўды разумее іх намеры. Анатомія папярэдняга прагляду эфектыўнага намеру:
Яснасць і лаканічнасць Папярэдні прагляд павінен быць адразу засваяльным. Ён павінен абагульніць асноўныя дзеянні і вынікі простай мовай, пазбягаючы тэхнічнага жаргону. Напрыклад, замест «Выкананне выкліку API для cancel_booking(id: 4A7B)» павінна быць указана «Адмяніць рэйс AA123 у Сан-Францыска». Паслядоўныя этапы Для шматэтапных аперацый папярэдні прагляд павінен акрэсліць ключавыя этапы. Гэта паказвае логіку агента і дазваляе карыстальнікам выявіць магчымыя праблемы ў прапанаванай паслядоўнасці. Ачысціць дзеянні карыстальніка Папярэдні прагляд - гэта момант прыняцця рашэння, а не проста апавяшчэнне. Яно павінна суправаджацца выразным наборам выбараў. Гэта момант наўмыснага трэння, «рэферат» у працэсе, прызначаны для таго, каб пераканацца, што карыстальнік робіць свядомы выбар, асабліва для незваротных дзеянняў або дзеянняў з высокімі стаўкамі.
Давайце вернемся да нашага сцэнарыя памочніка ў падарожжах з першай часткі гэтай серыі. Мы выкарыстоўваем гэтага актыўнага памочніка, каб праілюстраваць, як агент спраўляецца з адменай рэйса. Агент выявіў адмену рэйса і сфармуляваў план аднаўлення. Intent Preview будзе выглядаць прыкладна так: Прапанаваны план зрыву вашай паездкі. Я выявіў, што ваш рэйс у 10:05 быў адменены. Вось што я планую зрабіць:Ануляваць рэйс UA456Апрацаваць вяртанне грошай і пацвердзіць дэталі адмены.Паўторна забраніраваць на рэйс DL789Забраніраваць пацверджанае месца на беспасадкавы рэйс у 14:30, бо гэта наступны даступны беспасадачны рэйс зпацверджана месца. Абнавіце браніраванне гатэля. Паведаміце Marriott, што вы прыедзеце са спазненнем. Адпраўце абноўлены маршрут па электроннай пошце. Адпраўце новыя звесткі аб рэйсах і гатэлях вам і вашай памочніцы Джэйн Доу.[ Працягвайце гэты план ] [ Рэдагаваць план ] [ Зраблю гэта сам ]
Гэты папярэдні прагляд з'яўляецца эфектыўным, таму што дае поўную карціну, ад адмены да сувязі, і прапануе тры розныя шляхі: поўная згода (Працягваць), жаданне мадыфікацыі (Рэдагаваць план) або поўная адмена (Справлюся сам). Гэты шматгранны кантроль з'яўляецца асновай даверу.
Калі аддаць перавагу гэтаму шаблону. Гэты шаблон не падлягае абмеркаванню для любога дзеяння, якое з'яўляецца незваротным (напрыклад, выдаленне карыстальніцкіх даных), уключае фінансавую аперацыю на любую суму, абмен інфармацыяй з іншымі людзьмі або сістэмамі або ўнясенне істотных змяненняў, якія карыстальнік не можа лёгка адмяніць. Рызыка пропуску. Без гэтага карыстальнікі адчуваюць сябе падпільнаванымі дзеяннямі агента і адключаць функцыю, каб аднавіць кантроль. Паказчыкі поспеху:
Каэфіцыент прыняццяПланы прымаюцца без рэдагавання / Адлюстроўваюцца агульныя планы. Мэта > 85%. Перавызначыць FrequencyTotal Зрабі гэта сам Націсканні / Агульныя планы паказаны. Каэфіцыент > 10% выклікае перагляд мадэлі. Recall AccuracyPercentage удзельнікаў тэсту, якія могуць правільна пералічыць крокі плана праз 10 секунд пасля схавання папярэдняга прагляду.
Прымяненне гэтага да даменаў з высокімі стаўкамі У той час як планы паездак з'яўляюцца суадноснай базай, гэты шаблон становіцца незаменным у складаных умовах з высокімі стаўкамі, калі памылка прыводзіць да больш чым нязручнасці для асобнага падарожжа. Многія з нас працуюць у такіх умовах, калі няправільныя рашэнні могуць прывесці да збою сістэмы, пагрозы бяспецы пацыента або мноства іншых катастрафічных вынікаў, да якіх можа прывесці ненадзейная тэхналогія. Разгледзім DevOps Release Agent, якому даручана кіраваць воблачнай інфраструктурай. У гэтым кантэксце Intent Preview дзейнічае як бар'ер бяспекі ад выпадковага прастою.
У гэтым інтэрфейсе спецыфічная тэрміналогія (сліў трафіку, адкат) замяняе агульныя словы, а дзеянні з'яўляюцца двайковымі і эфектнымі. Карыстальнік санкцыянуе сур'ёзны аперацыйны зрух на аснове логікі агента, а не ўхваляе прапанову. 2. Аўтаномны цыферблат: каліброўка даверу з дапамогай прагрэсіўнай аўтарызацыі Любыя здаровыя адносіны маюць межы. Аўтаномны цыферблат - гэта тое, як карыстальнік усталёўвае яго са сваім агентам, вызначаючы, што ім зручна, калі агент працуе самастойна. Давер - гэта не двайковы перамыкач; гэта спектр. Карыстальнік можа давяраць агенту аўтаномнае выкананне задач з нізкімі стаўкамі, але патрабаваць поўнага пацверджання для рашэнняў з высокімі стаўкамі. Autonomy Dial, форма прагрэсіўнай аўтарызацыі, дазваляе карыстальнікам усталёўваць пераважны ўзровень незалежнасці агента, што робіць іх актыўнымі ўдзельнікамі ў вызначэнні адносін. Псіхалагічная аснова Дазвол карыстальнікам наладжваць аўтаномію агента дае ім месца кантролю, дазваляючы ім супастаўляць паводзіны сістэмы з іх асабістай талерантнасцю да рызыкі. РэалізацыяГэта можа быць рэалізавана як простая, зразумелая налада ў дадатку, у ідэале для кожнай задачы. Выкарыстоўваючы таксаномію з нашага першага артыкула, налады могуць быць:
Назіраць і прапаноўваць. Я хачу атрымліваць паведамленні аб магчымасцях або праблемах, але агент ніколі не прапануе план. Планаваць і прапаноўваць Агент можа ствараць планы, але я павінен праглядзець кожны з іх, перш чым прымаць якія-небудзь меры. Дзейнічайце з пацвярджэннем Для знаёмых задач агент можа падрыхтаваць дзеянні, і я дам канчатковае пацверджанне ісці/не ісці. Дзейнічайце аўтаномна Для папярэдне зацверджаных заданняў (напрыклад, аспрэчванне плацяжоў менш чым за 50 долараў) агент можа дзейнічаць самастойна і паведамляць мне постфактум.
Памочнік па электроннай пошце, напрыклад, можа мець асобны дыск аўтаноміі для планавання сустрэч у параўнанні з адпраўкай электронных лістоў ад імя карыстальніка. Гэтая дэталізацыя з'яўляецца ключавой, бо яна адлюстроўвае нюансы рэальнасці даверу карыстальніка. Калі аддаваць перавагу гэтаму шаблону. Аддавайце гэтаму прыярытэту ў сістэмах, дзе задачы моцна адрозніваюцца ў залежнасці ад рызыкі і асабістых пераваг (напрыклад, інструменты фінансавага кіравання, камунікацыйныя платформы). Гэта важна для адаптацыі, дазваляючы карыстальнікам пачынаць з нізкай аўтаноміі і павялічваць яе па меры росту іх упэўненасці. Рызыка пропуску. Без гэтага карыстальнікі, якія сутыкнуліся з адзінай няўдачай, цалкам адмовяцца ад агента, а не проста адменяць яго дазволы. Паказчыкі поспеху:
Разбіўка Trust DensityPercentage карыстальнікаў па наладах (напрыклад, 20% Прапанаваць, 50% Пацвердзіць, 30% Аўта). Setting ChurnКолькасць змен налад / Агульная колькасць актыўных карыстальнікаў у месяц. Высокі адток паказвае на давервалацільнасць.
3. Вытлумачальнае абгрунтаванне: адказ, чаму? Пасля дзеяння добры партнёр тлумачыць свае развагі. Гэты ўзор - гэта адкрытая камунікацыя, якая ідзе пасля дзеяння, адказваючы на Чаму? перш чым яго нават спыталі. «Я зрабіў гэта, таму што вы казалі мне ў мінулым, што аддаеце перавагу X». Калі агент дзейнічае, асабліва аўтаномна, у свядомасці карыстальніка часта ўзнікае непасрэднае пытанне: чаму ён гэта зрабіў? Шаблон Explainable Rationale актыўна адказвае на гэтае пытанне, забяспечваючы кароткае абгрунтаванне рашэнняў агента. Гэта не файл тэхнічнага часопіса. У маім першым артыкуле гэтай серыі мы абмяркоўвалі пераклад сістэмных прымітываў на карыстальніцкую мову, каб прадухіліць падман. Гэтая мадэль - практычнае прымяненне гэтага прынцыпу. Ён ператварае неапрацаваную логіку ў зразумелае для чалавека тлумачэнне, заснаванае на ўласных заяўленых перавагах і папярэдніх уводах карыстальніка. Псіхалагічная асноваКалі дзеянні агента можна вытлумачыць, яны здаюцца лагічнымі, а не выпадковымі, што дапамагае карыстальніку пабудаваць дакладную разумовую мадэль таго, як агент думае. Эфектыўныя абгрунтаванні:
Грунтуючыся на прэцэдэнце, лепшыя тлумачэнні спасылаюцца на правіла, перавагі або папярэднія дзеянні. Простая і DirectAvoid складанай умоўнай логікі. Выкарыстоўвайце простую структуру «Паколькі вы сказалі X, я зрабіў Y».
Вяртаючыся да прыкладу з падарожжам, пасля аўтаномнага перабраніравання рэйса карыстальнік можа ўбачыць гэта ў сваёй стужцы апавяшчэнняў: Я паўторна забраніраваў ваш скасаваны рэйс. Новы рэйс: Delta 789, адпраўленне ў 14:30. Чаму я зрабіў гэта: ваш першапачатковы рэйс быў адменены авіякампаніяй. Вы папярэдне зацвердзілі аўтаномнае паўторнае браніраванне бесперасадачных рэйсаў у той жа дзень.[ Праглядзець новы маршрут] [ Адмяніць гэта дзеянне ]
Абгрунтаванне яснае, апраўданае і падмацоўвае ідэю, што агент працуе ў межах, устаноўленых карыстальнікам. Калі аддаваць перавагу гэтаму шаблону. Аддавайце яму прыярытэт для любых аўтаномных дзеянняў, прычына якіх не адразу зразумелая з кантэксту, асабліва для дзеянняў, якія адбываюцца ў фонавым рэжыме або выклікаюцца знешняй падзеяй (напрыклад, прыклад адмены палёту). Рызыка пропуску. Без гэтага карыстальнікі інтэрпрэтуюць сапраўдныя аўтаномныя дзеянні як выпадковыя паводзіны або «памылкі», што перашкаджае ім сфарміраваць правільную разумовую мадэль. Паказчыкі поспеху:
чаму? Аб'ём заявак Колькасць заявак у службу падтрымкі з пазнакай «Паводзіны агента — незразумелае» на 1000 актыўных карыстальнікаў. Праверка абгрунтавання Працэнт карыстальнікаў, якія ацанілі тлумачэнне як «карыснае» ў мікраапытаннях пасля ўзаемадзеяння.
4. Сігнал даверу Гэтая мадэль паказвае на тое, што агент усведамляе сябе ў адносінах. Выказваючы ўласную ўпэўненасць, ён дапамагае карыстальніку вырашаць, калі давяраць яго меркаванню, а калі прымяняць больш пільную ўвагу. Каб дапамагчы карыстальнікам адкалібраваць свой уласны давер, агент павінен паказаць уласную ўпэўненасць у сваіх планах і дзеяннях. Гэта робіць унутраны стан агента больш разборлівым і дапамагае карыстальніку вырашыць, калі больш уважліва вывучыць рашэнне. Псіхалагічная аснова Выяўленне нявызначанасці дапамагае прадухіліць прадузятасць аўтаматызацыі, заахвочваючы карыстальнікаў уважліва вывучаць планы з нізкім упэўненасцю, а не слепа іх прымаць. Рэалізацыя:
Паказчык упэўненасці Просты працэнт (напрыклад, упэўненасць: 95%) можа быць хуткім індыкатарам, які можна сканаваць. Дэкларацыя сферы дзеяння. Дакладная заява аб вобласці ведаў агента (напрыклад, сфера дзеяння: толькі браніраванне паездак) дапамагае кіраваць чаканнямі карыстальнікаў і не дазваляе ім прасіць агента выконваць задачы, для якіх ён не прызначаны. Візуальныя сігналы. Зялёная галачка можа азначаць высокую ўпэўненасць, у той час як жоўты знак пытання можа азначаць нявызначанасць, падштурхоўваючы карыстальніка да прагляду больш уважліва.
Калі расстаўляць прыярытэты для гэтага шаблону. Аддавайце прыярытэты, калі прадукцыйнасць агента можа істотна адрознівацца ў залежнасці ад якасці ўваходных даных або неадназначнасці задачы. Гэта асабліва каштоўна ў экспертных сістэмах (напрыклад, медыцынскіх дапаможніках, памочніках кода), дзе чалавек павінен крытычна ацэньваць выхад ІІ. Рызыка пропуску. Без гэтага карыстальнікі стануць ахвярамі прадузятасці аўтаматызацыі, слепа прымаючы галюцынацыі з нізкім упэўненасцю або з трывогай пераправяраючы працу з высокай упэўненасцю. Паказчыкі поспеху:
Паказчык каліброўкі Карэляцыя Пірсана паміж паказчыкам даверу мадэлі і каэфіцыентам прыняцця карыстальнікам. Мэта > 0,8. Праверка DeltaDifference паміж сярэднім часам праверкі планаў з нізкім узроўнем даверу і планаў з высокім упэўненасцю. Чакаецца станоўчым (напрыклад, +12 секунд).
5. Аўдыт і адмена дзеянняў: найлепшая сетка бяспекі Для даверу неабходна ведаць, што вы можаце акрыяць ад памылкі. Адменафункцыя з'яўляецца найвышэйшай сеткай бяспекі для адносін, якая гарантуе карыстальніку, што нават калі агент памылкова разумее, наступствы не будуць катастрафічнымі. Самым магутным механізмам умацавання даверу карыстальнікаў з'яўляецца магчымасць лёгка адмяніць дзеянне агента. Пастаянны, зручны для чытання журнал аўдыту дзеянняў з прыкметнай кнопкай "Адмяніць" для кожнага магчымага дзеяння - гэта найлепшая сетка бяспекі. Гэта значна зніжае ўяўную рызыку прадастаўлення аўтаноміі. Псіхалагічная аснова. Усведамленне таго, што памылку можна лёгка адмяніць, стварае псіхалагічную бяспеку, заахвочваючы карыстальнікаў дэлегаваць задачы, не баючыся незваротных наступстваў. Лепшыя практыкі дызайну:
Прагляд часовай шкалы. Храналагічны журнал усіх дзеянняў, ініцыяваных агентам, - гэта найбольш інтуітыўна зразумелы фармат. Індыкатары ачысткі стану Паказваюць, ці было дзеянне паспяховым, выконваецца ці было адменена. Абмежаваныя па часе адмены Для дзеянняў, якія становяцца незваротнымі пасля пэўнага моманту (напрыклад, браніраванне без вяртання грошай), карыстацкі інтэрфейс павінен дакладна паведамляць пра гэта часовае акно (напрыклад, адмена даступная на працягу 15 хвілін). Гэтая празрыстасць адносна абмежаванняў сістэмы гэтак жа важная, як і сама магчымасць адмены. Шчырасць у тым, калі дзеянне становіцца пастаянным, умацоўвае давер.
Калі аддаць перавагу гэтаму шаблону. Гэта асноўны шаблон, які павінен быць рэалізаваны амаль ва ўсіх агентурных сістэмах. Гэта абсалютна не падлягае абмеркаванню пры ўвядзенні аўтаномных функцый або калі кошт памылкі (фінансавай, сацыяльнай або звязанай з дадзенымі) высокая. Рызыка пропуску. Без гэтага адна памылка назаўжды разбурае давер, бо карыстальнікі разумеюць, што ў іх няма сеткі бяспекі. Паказчыкі поспеху:
Каэфіцыент вяртання невыкананых дзеянняў / агульная колькасць выкананых дзеянняў. Калі ўзровень вяртання > 5% для пэўнай задачы, адключыце аўтаматызацыю для гэтай задачы. Працэнт пераўтварэння сеткі бяспекі карыстальнікаў, якія абнавіліся да аўтаномнага дзеяння на працягу 7 дзён пасля паспяховага выкарыстання Undo.
6. Шлях эскалацыі: вытанчанае абыходжанне з нявызначанасцю Разумны партнёр ведае, калі звярнуцца па дапамогу, а не здагадвацца. Гэты шаблон дазваляе агенту вытанчана спраўляцца з неадназначнасцю, пераходзячы да карыстальніка, дэманструючы пакору, якая стварае, а не размывае давер. Нават самы прасунуты агент сутыкнецца з сітуацыямі, калі ён не ўпэўнены ў намерах карыстальніка або найлепшым напрамку дзеянняў. Тое, як ён спраўляецца з гэтай нявызначанасцю, з'яўляецца вызначальным момантам. Добра распрацаваны агент не здагадваецца; гэта абвастраецца. Псіхалагічная асноваКалі агент прызнае свае межы, а не здагадваецца, ён умацоўвае давер, паважаючы аўтарытэт карыстальніка ў неадназначных сітуацыях. Шаблоны эскалацыі ўключаюць:
Запыт на тлумачэнні: «Вы згадалі «ў наступны аўторак». Вы маеце на ўвазе 30 верасня ці 7 кастрычніка?» Прадстаўляем варыянты "Я знайшоў тры рэйсы, якія адпавядаюць вашым крытэрыям. Які з іх здаецца вам больш за ўсё?" Запыт на ўмяшанне чалавека. Для выканання высокіх ставак або вельмі неадназначных задач агент павінен мець дакладны шлях для падлучэння чалавека-эксперта або агента падтрымкі. Падказка можа быць наступнай: "Гэта транзакцыя здаецца незвычайнай, і я не ўпэўнены ў тым, як паступіць далей. Хочаце, каб я пазначыў гэта для праверкі агентам?"
Калі аддаваць прыярытэт гэтаму шаблону. Аддавайце прыярытэт у даменах, дзе намеры карыстальніка могуць быць неадназначнымі або моцна залежаць ад кантэксту (напрыклад, узаемадзеянне натуральнай мовы, складаныя запыты даных). Выкарыстоўвайце гэта кожны раз, калі агент працуе з няпоўнай інфармацыяй або калі існуе некалькі правільных шляхоў. Рызыка пропуску. Без гэтага агент у канчатковым выніку зробіць упэўненую, катастрафічную здагадку, якая адштурхне карыстальніка. Паказчыкі поспеху:
Частата эскалацыі. Запыты агента аб дапамозе / Агульная колькасць задач. Здаровы дыяпазон: 5-15%. Узровень паспяховасці аднаўлення Задачы, выкананыя пасля эскалацыі / Поўная эскалацыя. Мэта > 90%.
Выкрайка Лепшае для Першасны рызыка Ключавая метрыка Папярэдні прагляд намеру Незваротныя або фінансавыя дзеянні Карыстальнік адчувае сябе ў засадзе >85% узровень прыняцця Аўтаномны цыферблат Задачы з пераменным узроўнем рызыкі Поўная адмова ад функцый Налада адтоку Вытлумачальнае абгрунтаванне Фонавыя або аўтаномныя задачы Карыстальнік заўважае памылкі «Чаму?» Аб'ём білета Сігнал даверу Экспертныя сістэмы або сістэмы высокіх ставак Ухіл аўтаматызацыі Даследаванне Delta Аўдыт і адмена дзеянняў Усе агентурныя сістэмы Пастаянная страта даверу <5%Хуткасць вяртання Шлях эскалацыі Неадназначныя намеры карыстальніка Упэўненыя, катастрафічныя здагадкі >90% поспеху аднаўлення
Табліца 1: Рэзюмэ шаблонаў Agentic AI UX. Не забудзьцеся наладзіць паказчыкі ў залежнасці ад рызыкі і патрэб вашага дамена. Праектаванне для рамонту і аднаўлення Гэта навучыцца эфектыўна прасіць прабачэння. Добрыя прабачэнні прызнаюць памылку, выпраўляюць шкоду і абяцаюць зрабіць з гэтага урокі. Памылкі не магчымыя; яны непазбежнасць. Доўгатэрміновы поспех агентурнай сістэмы залежыць менш ад яе здольнасці быць дасканалай, а больш ад яе здольнасці вытанчана аднаўляцца ў выпадку збою. Надзейная структура для рамонту і кампенсацыі з'яўляецца асноўнай асаблівасцю, а не запозненай думкай. Спагадлівыя прабачэнні і дакладнае выпраўленне Калі агент робіць памылку, паведамленне пра памылку з'яўляецца прабачэннем. Ён павінен быць распрацаваны з псіхалагічнай дакладнасцю. Гэты момант - важная магчымасць прадэманстраваць адказнасць. З пункту гледжання дызайну сэрвісу, менавіта тут кампаніі могуць выкарыстоўваць парадокс аднаўлення сэрвісу: з'ява, калі кліент, які сутыкнуўся са збоем у абслугоўванні, пасля чаго адбылося паспяховае і спагадлівае аднаўленне, можа на самай справе стаць больш лаяльным, чым кліент, які наогул ніколі не адчуваў збою. Добра ліквідаваная памылка можа быць больш моцнай падзеяй для ўмацавання даверу, чым доўгая гісторыя бездакорнага выканання. Галоўнае - разглядаць памылку як разрыў адносін, які трэба выправіць. Гэта ўключае ў сябе:
Прызнайце памылку. У паведамленні павінна быць ясна і проста сказана, што была зроблена памылка. Прыклад: я няправільна перавёў сродкі. Укажыце неадкладнае выпраўленне. Неадкладна прыміце меры па выпраўленні. Прыклад: я адмяніў дзеянне, і сродкі былі вернуты на ваш рахунак. Прапануйце шлях для далейшай дапамогі. Заўсёды прапаноўвайце ясную спасылку на службу падтрымкі. Гэта зніжае расчараванне і паказвае, што існуе сістэма падсправаздачнасці, акрамя самога агента.
Добра распрацаваны інтэрфейс для рамонту можа выглядаць так: Мы памыліліся падчас вашай нядаўняй перадачы. Прыношу прабачэнні. Я перавёў 250 долараў на няправільны рахунак.✔ Меры па выпраўленні: перавод быў адменены, а вашы 250 долараў вернуты.✔ Наступныя крокі: інцыдэнт быў пазначаны для ўнутранай праверкі, каб прадухіліць яго паўтарэнне. Патрэбна дадатковая дапамога? [Звязацца са службай падтрымкі]
Стварэнне рухавіка кіравання для бяспечных інавацый Шаблоны праектавання, апісаныя вышэй, з'яўляюцца элементамі кіравання для карыстальніка, але яны не могуць эфектыўна працаваць без трывалай унутранай апорнай структуры. Гаворка ідзе не аб стварэнні бюракратычных перашкод; гаворка ідзе пра стварэнне стратэгічнай перавагі. Арганізацыя са спелай структурай кіравання можа пастаўляць больш амбіцыйныя функцыі агентаў з большай хуткасцю і ўпэўненасцю, ведаючы, што неабходныя агароджы для зніжэння рызыкі брэнда. Гэты механізм кіравання ператварае бяспеку з кантрольнага спісу ў канкурэнтны актыў. Гэты механізм павінен функцыянаваць як афіцыйны орган кіравання, Савет па этыцы штучнага інтэлекту Agentic, які ўключае міжфункцыянальны альянс UX, прадукту і распрацоўкі пры жыццёва важнай падтрымцы юрыдычнага аддзела, аддзела адпаведнасці і падтрымкі. У меншых арганізацыях гэтыя ролі «Савета» часта аб'ядноўваюцца ў адзіную трыяду кіраўнікоў прадукту, распрацоўкі і дызайну. Кантрольны спіс для кіравання
Юрыдычныя пытанні/адпаведнасць. Гэтая каманда з'яўляецца першай лініяй абароны, якая гарантуе, што патэнцыйныя дзеянні агента застаюцца ў рамках нарматыўных і юрыдычных межаў. Яны дапамагаюць вызначыць жорсткія забароненыя зоны для аўтаномных дзеянняў. Менеджэр па прадуктах з'яўляецца кіраўніком мэты агента. Яны вызначаюць і кантралююць яго аператыўныя межы праз фармальную палітыку аўтаноміі, якая дакументуе, што агент з'яўляецца і што не можа рабіць. Ім належыць Рэестр рызык агентаў. UX ResearchГэтая каманда з'яўляецца выразнікам даверу і трывогі карыстальнікаў. Яны адказваюць за перыядычны працэс правядзення даследаванняў каліброўкі даверу, змадэляваных тэстаў на парушэнне паводзін і якасных інтэрв'ю, каб зразумець ментальную мадэль агента, якая развіваецца карыстальнікам. Інжынерынг. Гэтая каманда стварае тэхнічныя асновы даверу. Яны павінны распрацаваць сістэму для надзейнага вядзення журналаў, функцыянальнасці адмены ў адзін клік і падключэнняў, неабходных для стварэння выразных, вытлумачальных абгрунтаванняў. ПадтрымкаГэтыя каманды знаходзяцца на перадавой няўдач. Яны павінны быць навучаны і абсталяваны для апрацоўкі інцыдэнтаў, выкліканых памылкамі агента, і яны павінны мець прамую зваротную сувязь з Саветам па этыцы, каб паведамляць аб рэальных мадэлях няўдач.
Гэтая структура кіравання павінна падтрымліваць aнабор жывых дакументаў, у тым ліку Рэестр рызык агента, які актыўна вызначае патэнцыйныя рэжымы збою, часопісы аўдыту дзеянняў, якія рэгулярна праглядаюцца, і афіцыйную дакументацыю аб палітыцы аўтаноміі. З чаго пачаць: паэтапны падыход для лідэраў па прадуктах Для менеджэраў па прадуктах і кіраўнікоў інтэграцыя агентскага штучнага інтэлекту можа здацца манументальнай задачай. Галоўнае - падысці да гэтага не як да аднаразовага запуску, а як да паэтапнага шляху адначасовага стварэння як тэхнічных магчымасцей, так і даверу карыстальнікаў. Гэтая дарожная карта дазваляе вашай арганізацыі вучыцца і адаптавацца, гарантуючы, што кожны крок грунтуецца на трывалай аснове. Этап 1: Асноўная бяспека (прапанаваць і прапанаваць) Першапачатковая мэта складаецца ў тым, каб пабудаваць аснову даверу без значных аўтаномных рызык. На гэтай фазе ўлада агента абмежаваная аналізам і прапановамі.
Укараніце надзейны папярэдні прагляд намераў: гэта ваша асноўная мадэль узаемадзеяння. Дайце карыстальнікам адчуць, што агент фармулюе планы, захоўваючы пры гэтым карыстальніку поўны кантроль над выкананнем. Стварыце інфраструктуру аўдыту і адмены дзеянняў: нават калі агент яшчэ не дзейнічае аўтаномна, стварыце тэхнічную аснову для вядзення журналаў і адмены. Гэта падрыхтуе вашу сістэму да будучыні і ўмацуе ўпэўненасць карыстальнікаў у наяўнасці сеткі бяспекі.
Этап 2: адкалібраваная аўтаномія (дзейнічайце з пацвярджэннем) Калі карыстальнікі зразумеюць прапановы агента, вы можаце пачаць укараняць аўтаномію з нізкім узроўнем рызыкі. На гэтым этапе навучанне карыстальнікаў таму, як думае агент, і дазвол ім вызначаць свой уласны тэмп.
Прадстаўце аўтаномны цыферблат з абмежаванымі наладамі: пачніце з дазволу карыстальнікам даваць агенту права дзейнічаць з пацвярджэннем. Разгарніце вытлумачальнае абгрунтаванне: для кожнага дзеяння, якое рыхтуе агент, дайце дакладнае тлумачэнне. Гэта дэмістыфікуе логіку агента і пацвярджае, што ён працуе на аснове ўласных пераваг карыстальніка.
Этап 3: Актыўнае дэлегаванне (дзейнічаць аўтаномна) Гэта апошні крок, які можна зрабіць толькі пасля таго, як вы атрымаеце дакладныя дадзеныя з папярэдніх этапаў, якія дэманструюць, што карыстальнікі давяраюць сістэме.
Уключыце аўтаномнае дзеянне для пэўных, папярэдне зацверджаных задач: выкарыстоўвайце даныя Фазы 2 (напрыклад, высокія паказчыкі прыцягнення, нізкія паказчыкі адмен), каб вызначыць першы набор задач з нізкім узроўнем рызыкі, якія можна цалкам аўтаматызаваць. Маніторынг і ітэрацыя: запуск аўтаномных функцый - гэта не канец, а пачатак бесперапыннага цыкла маніторынгу прадукцыйнасці, збору водгукаў карыстальнікаў і ўдакладнення сферы дзеяння і паводзін агента на аснове рэальных даных.
Дызайн як найвышэйшы рычаг бяспекі З'яўленне агентурнага штучнага інтэлекту ўяўляе сабой новую мяжу ва ўзаемадзеянні чалавека і кампутара. Гэта абяцае будучыню, у якой тэхналогіі змогуць актыўна зніжаць наш цяжар і ўпарадкоўваць наша жыццё. Але гэтая ўлада звязана з глыбокай адказнасцю. Аўтаномнасць - гэта вынік тэхнічнай сістэмы, а надзейнасць - вынік працэсу праектавання. Наша задача заключаецца ў тым, каб пераканацца, што карыстацкі досвед не з'яўляецца ахвярай тэхнічных магчымасцей, а галоўным бенефіцыярам. Як прафесіяналы UX, менеджэры па прадуктах і лідэры, наша роля заключаецца ў тым, каб выступаць у якасці распарадчыкаў гэтага даверу. Укараняючы дакладныя шаблоны праектавання для кантролю і згоды, распрацоўваючы прадуманыя шляхі для рамонту і ствараючы надзейныя структуры кіравання, мы ствараем асноўныя рычагі бяспекі, якія робяць агентскі ІІ жыццяздольным. Мы не проста распрацоўваем інтэрфейсы; мы будуем адносіны. Будучыня карыснасці і прызнання ІІ залежыць ад нашай здольнасці распрацоўваць гэтыя складаныя сістэмы з мудрасцю, прадбачлівасцю і глыбокай павагай да канчатковага аўтарытэту карыстальніка.
