Во првиот дел од оваа серија, ја утврдивме фундаменталната промена од генеративна кон агентна вештачка интелигенција. Истражувавме зошто овој скок од сугестија до дејствување бара нов психолошки и методолошки пакет алатки за UX истражувачи, менаџери на производи и лидери. Дефиниравме таксономија на агентски однесувања, од сугерирање до автономно дејствување, ги наведовме суштинските методи на истражување, ги дефиниравме ризиците од агенсната тиња и воспоставивме метрика за отчетност потребни за навигација на оваа нова територија. Опфативме што и зошто. Сега, преминуваме од основното кон функционалното. Оваа статија дава начин: конкретни модели на дизајн, оперативни рамки и организациони практики суштински за градење на агенциски системи кои не се само моќни, туку и транспарентни, контролирани и достојни за доверба од корисникот. Ако нашето истражување е дијагностичка алатка, овие модели се планот за лекување. Тие се практични механизми преку кои можеме да им дадеме на корисниците опипливо чувство на контрола, дури и кога им даваме невидена автономија на вештачката интелигенција. Целта е да се создаде искуство каде што автономијата се чувствува како привилегија дадена од корисникот, а не како право одземено од системот. Основни UX шеми за агентски системи Дизајнирањето за агенциска вештачка интелигенција е дизајнирање за врска. Овој однос, како и секое успешно партнерство, мора да се гради на јасна комуникација, меѓусебно разбирање и воспоставени граници. За да управуваме со промената од сугестија кон акција, ние користиме шест обрасци кои го следат функционалниот животен циклус на агенциската интеракција:
Претходна акција (воспоставување намера) Прегледот за намери и бирачот за автономија обезбедуваат корисникот да ги дефинира планот и границите на агентот пред нешто да се случи. Во акција (Обезбедување контекст) Објаснивото образложение и сигналот за доверба одржуваат транспарентност додека агентот работи, покажувајќи ги „зошто“ и „колку сигурно“. Пост-акција (Безбедност и обновување) Акцијата за ревизија и поништување и патека за ескалација обезбедуваат безбедносна мрежа за грешки или моменти со висока нејасност.
Подолу, детално ќе ја покриеме секоја шема, вклучувајќи препораки за метрика за успех. Овие цели се репрезентативни одредници засновани на индустриски стандарди; прилагодете ги врз основа на вашиот специфичен ризик домен. 1. Преглед на намерата: разјаснување на што и како Оваа шема е еквивалент на разговорот на велејќи: „Еве што ќе направам. Дали сте во ред со тоа? Тоа е основниот момент на барање согласност во односот корисник-агент. Пред агентот да преземе било каква значајна акција, корисникот мора да има јасно, недвосмислено разбирање за тоа што ќе се случи. Прегледот на намерата, или Резимето на планот, утврдува информирана согласност. Тоа е разговорната пауза пред акција, трансформирајќи ја црната кутија на автономни процеси во транспарентен план што може да се прегледа. Психолошка основа Презентирањето план пред акција го намалува когнитивното оптоварување и го елиминира изненадувањето, давајќи им момент на корисниците да потврдат дека агентот навистина ја разбира нивната намера. Преглед на анатомија на ефективна намера:
Јасност и концизност Прегледот мора да биде веднаш сварлив. Треба да ги сумира примарните дејства и исходи на едноставен јазик, избегнувајќи технички жаргон. На пример, наместо „Извршување на повик API за откажување_резервација (ид: 4A7B), треба да стои: „Откажи летот AA123 до Сан Франциско“. Секвенцијални чекориЗа операции во повеќе чекори, прегледот треба да ги опише клучните фази. Ова ја открива логиката на агентот и им овозможува на корисниците да забележат потенцијални проблеми во предложената низа. Исчистете ги дејствата на корисникот Прегледот е точка за одлучување, а не само известување. Тоа мора да биде придружено со јасен сет на избори. Тоа е момент на намерно триење, „брзински удар“ во процесот дизајниран да обезбеди корисникот да прави свесен избор, особено за неповратни или дејства со големи влогови.
Ајде повторно да го разгледаме нашето сценарио за помошник за патување од првиот дел од оваа серија. Го користиме овој проактивен асистент за да илустрираме како агентот се справува со откажување на лет. Агентот открил откажување на летот и формулирал план за опоравување. Intent Preview би изгледал отприлика вака: Предложен план за нарушување на вашето патување Открив дека вашиот лет во 10:05 часот е откажан. Еве што планирам да направам: Откажи го летот UA456, обработете го враќањето на средствата и потврдете ги деталите за откажувањето. Ререзервирајте потврдено место на лет во 14:30 без престан, бидејќи ова е следниот достапен непрекинат лет сопотврдено седиште. Ажурирај ја резервацијата во хотелот Известете го Мериот дека ќе пристигнете доцна. Ажурирана е-пошта маршрута Испратете ги деталите за новиот лет и хотелот до вас и вашата асистентка, Џејн До.
Овој преглед е ефективен затоа што дава целосна слика, од откажување до комуникација и нуди три различни патеки напред: целосна согласност (Продолжи), желба за модификација (План за уредување) или целосно отфрлање (Справи се со тоа). Оваа повеќеслојна контрола е основата на довербата.
Кога да се даде приоритет на оваа шема Оваа шема не може да се преговара за кое било дејство што е неповратно (на пр., бришење кориснички податоци), вклучува финансиска трансакција од која било сума, споделува информации со други луѓе или системи или прави значајна промена што корисникот не може лесно да ја врати. Ризик од пропуст Без ова, корисниците се чувствуваат во заседа од постапките на агентот и ќе ја оневозможат функцијата за да ја вратат контролата. Метрика за успех:
Плановите со коефициент на прифаќање се прифатени без уредување / прикажани вкупно планови. Цел > 85%. Отфрли фреквенцијаВкупно Ракувам сам Кликнувања / Вкупно прикажани планови. Стапката > 10% предизвикува преглед на моделот. Потсетете се на точностПроцентот на учесници во тестот кои можат правилно да ги наведат чекорите на планот 10 секунди откако ќе се сокрие прегледот.
Примена на ова на домени со високи влогови Додека плановите за патување се релативна основа, овој модел станува неопходен во сложени средини со високи влогови каде што грешката резултира со повеќе од непријатност за поединецот што патува. Многумина од нас работат во услови каде што погрешните одлуки може да резултираат со прекин на системот, доведување на безбедноста на пациентот во ризик или бројни други катастрофални исходи што би ги вовела несигурната технологија. Размислете за агент за издавање на DevOps задолжен да управува со инфраструктурата на облакот. Во овој контекст, Intent Preview делува како безбедносна бариера против случајно застој.
Во овој интерфејс, специфичната терминологија (Drain Traffic, Rollback) ги заменува општите, а дејствата се бинарни и влијателни. Корисникот овластува голема оперативна промена врз основа на логиката на агентот, наместо да одобрува предлог. 2. Бирачот за автономија: Калибрирање на доверба со прогресивна авторизација Секоја здрава врска има граници. Автономскиот бројчаник е начинот на кој корисникот го воспоставува со својот агент, дефинирајќи што му е удобно со ракувањето со агентот самостојно. Довербата не е бинарен прекинувач; тоа е спектар. Корисникот може да му верува на агентот дека автономно се справува со задачите со ниски влогови, но бара целосна потврда за одлуките со високи влогови. Автономијата Dial, форма на прогресивно овластување, им овозможува на корисниците да го постават преферираното ниво на независност на агентот, правејќи ги активни учесници во дефинирањето на врската. Психолошка подлога Дозволувањето на корисниците да ја прилагодат автономијата на агентот им дава локус на контрола, дозволувајќи им да го усогласат однесувањето на системот со нивната лична толеранција на ризик. ИмплементацијаОва може да се имплементира како едноставна, јасна поставка во рамките на апликацијата, идеално врз основа на типот на задачата. Користејќи ја таксономијата од нашата прва статија, поставките би можеле да бидат:
Набљудувај и сугерирам Сакам да бидам известен за можности или проблеми, но агентот никогаш нема да предложи план. Планирај и предложи Агентот може да креира планови, но морам да ги прегледам сите пред да се преземе било каква акција. Дејствувајте со ConfirmationЗа познати задачи, агентот може да подготви дејства, а јас ќе дадам конечна потврда за одење/забрането. Дејствувајте автономноЗа однапред одобрени задачи (на пр., спорни трошоци под 50 долари), агентот може да дејствува независно и да ме извести по тоа.
Асистентот за е-пошта, на пример, може да има посебно автономно копче за закажување состаноци наспроти испраќање е-пошта во име на корисникот. Оваа грануларност е клучна, бидејќи ја одразува нијансираната реалност на довербата на корисникот. Кога да се даде приоритет на овој модел Дајте му приоритет на ова во системи каде што задачите се разликуваат во голема мера според ризикот и личните преференци (на пр., алатки за финансиско управување, комуникациски платформи). Тоа е од суштинско значење за вклучување, овозможувајќи им на корисниците да започнат со мала автономија и да ја зголемуваат како што расте нивната доверба. Ризик од пропуст Без ова, корисниците кои ќе доживеат еден неуспех целосно ќе го напуштат агентот наместо едноставно да ги враќаат неговите дозволи. Метрика за успех:
Trust DensityPercentage расчленување на корисници по поставка (на пр., 20% предложете, 50% потврдите, 30% автоматски). Поставување ChurnNumber на промени во поставките / Вкупно активни корисници месечно. Високото раздвојување укажува на довербанестабилноста.
3. Објасниво образложение: Одговор зошто? По преземањето акција, добриот партнер го објаснува нивното размислување. Овој модел е отворена комуникација што следи по некоја акција, одговарајќи Зошто? уште пред да се праша. „Го направив тоа затоа што ми кажа во минатото дека преферираш X“. Кога агентот делува, особено автономно, непосредното прашање во умот на корисникот често е: Зошто го направи тоа? Шаблонот за објаснето образложение проактивно одговара на ова прашање, обезбедувајќи концизно оправдување за одлуките на агентот. Ова не е датотека за технички дневник. Во мојата прва статија од оваа серија, разговаравме за преведување на системските примитиви на јазик со кој се соочува корисникот за да се спречи измама. Овој модел е практична примена на тој принцип. Ја трансформира необработената логика во објаснување читливо од човек, втемелено на сопствените наведени преференции и претходни влезови на корисникот. Психолошка основа Кога дејствата на агентот се објаснети, тие се чувствуваат логично наместо случајно, помагајќи му на корисникот да изгради точен ментален модел за тоа како мисли агентот. Ефективни образложенија:
Втемелени во преседан Најдобрите објаснувања се поврзуваат со правило, претпочитање или претходно дејство. Едноставна и DirectAvoid сложена условна логика. Користете едноставна структура „Затоа што рече X, јас направив Y“.
Враќајќи се на примерот за патување, откако летот ќе се ререзервира автономно, корисникот може да го види ова во својата активност за известувања: Го ререзервирав вашиот откажан лет. Нов лет: Delta 789, полетува во 14:30 часот. Зошто го презедов ова дејство: Вашиот оригинален лет беше откажан од авиокомпанијата. Вие однапред одобривте автономна пререзервација за летови без престан во истиот ден.[ Прикажи ја новата маршрута ]
Образложението е јасно, одбранливо и ја зајакнува идејата дека агентот работи во границите што ги утврдил корисникот. Кога да се даде приоритет на овој модел Дајте му приоритет за секое автономно дејство каде што резонирањето не е веднаш очигледно од контекстот, особено за дејства што се случуваат во позадина или се активирани од надворешен настан (како примерот за откажување летот). Ризик од пропуст Без ова, корисниците толкуваат валидни автономни дејства како случајно однесување или „бубачки“, спречувајќи ги да формираат правилен ментален модел. Метрика за успех:
Зошто? Обем на билетиБрој на билети за поддршка означени со „Однесување на агентот — нејасно“ на 1.000 активни корисници. Образложение за валидацијаПроцент на корисници кои го оценуваат објаснувањето како „корисно“ во микроистражувањата по интеракција.
4. Сигналот за доверба Овој модел е за агентот да биде самосвесен во врската. Преку пренесување на сопствената доверба, тој му помага на корисникот да одлучи кога да му верува на своето расудување и кога да примени поголемо испитување. За да им помогне на корисниците да ја калибрираат сопствената доверба, агентот треба да излезе на виделина на сопствената доверба во своите планови и акции. Ова ја прави внатрешната состојба на агентот почитлива и му помага на корисникот да одлучи кога повнимателно да ја испита одлуката. Психолошка основа Површинската несигурност помага да се спречи пристрасност на автоматизацијата, охрабрувајќи ги корисниците внимателно да ги испитаат плановите со ниска доверба наместо слепо да ги прифаќаат. Имплементација:
Оценка за доверба Едноставен процент (на пр. Доверба: 95%) може да биде брз индикатор што може да се скенира. Изјава за опсег Јасна изјава за областа на експертиза на агентот (на пр. Опсег: само резервации за патувања) помага во управувањето со очекувањата на корисниците и ги спречува да побараат од агентот да извршува задачи за кои не е дизајниран. Визуелни знациЗелената ознака за проверка може да означи висока доверба, додека жолтиот прашалник може да укаже на несигурност, што го поттикнува корисникот да прегледа повнимателно.
Кога да се даде приоритет на овој модел Да се даде приоритет кога перформансите на агентот може значително да се разликуваат врз основа на квалитетот на влезните податоци или двосмисленоста на задачата. Тоа е особено вредно во експертските системи (на пример, медицински помагала, асистенти за кодови) каде што човекот мора критички да го процени излезот на вештачката интелигенција. Ризик од пропуст Без ова, корисниците ќе станат жртви на пристрасност во автоматизацијата, слепо прифаќајќи халуцинации со мала доверливост или нервозно ќе ја проверат работата со висока самодоверба. Метрика за успех:
Оценка за калибрација Пирсон корелација помеѓу оценката за доверба на моделот и стапката на прифаќање на корисниците. Цел > 0,8. Разлика помеѓу просечното време на преглед на плановите со ниска доверба и плановите со висока доверба. Се очекува да биде позитивен (на пр., +12 секунди).
5. Акциска ревизија и поништи: крајната безбедносна мрежа Довербата бара да знаете дека можете да се опоравите од грешка. Вратифункцијата е крајната безбедносна мрежа на односите, уверувајќи го корисникот дека дури и ако агентот погрешно разбере, последиците не се катастрофални. Единствениот најмоќен механизам за градење доверба кај корисниците е способноста лесно да се смени дејството на агентот. Постојаниот, лесен за читање дневник за ревизија на активности, со истакнато копче за поништување за секое можно дејство, е врвната безбедносна мрежа. Тоа драматично го намалува согледаниот ризик од доделување автономија. Психолошка основа Знаејќи дека грешката може лесно да се врати, создава психолошка сигурност, охрабрувајќи ги корисниците да делегираат задачи без страв од неповратни последици. Најдобри практики за дизајнирање:
Преглед на временска линија Хронолошкиот дневник на сите дејства иницирани од агентот е најинтуитивниот формат. Избриши статусни индикатори Покажи дали дејството било успешно, е во тек или е отповикано. Временски ограничени поништувањаЗа дејства што стануваат неповратни по одреден момент (на пр., резервација што не може да се поврати), интерфејсот мора јасно да го соопшти овој временски прозорец (на пр., Врати достапно за 15 минути). Оваа транспарентност за ограничувањата на системот е исто толку важна како и самата способност за отповикување. Да се биде искрен кога една акција станува трајна, гради доверба.
Кога да се даде приоритет на оваа шема Ова е основен модел што треба да се имплементира во скоро сите агенциски системи. Апсолутно не може да се преговара кога се воведуваат автономни карактеристики или кога цената на грешката (финансиска, социјална или поврзана со податоци) е висока. Ризик од пропуст Без ова, една грешка трајно ја уништува довербата, бидејќи корисниците сфаќаат дека немаат безбедносна мрежа. Метрика за успех:
Стапка на реверзија Поништени дејства / Вкупно извршени дејства. Ако стапката на враќање > 5% за одредена задача, оневозможете ја автоматизацијата за таа задача. Конверзија на безбедносна мрежаПроцент на корисници кои се надградиле да дејствуваат автономно во рок од 7 дена од успешното користење на Врати.
6. Патека на ескалација: грациозно справување со неизвесноста Паметниот партнер знае кога да побара помош наместо да погодува. Овој модел му овозможува на агентот благодатно да се справи со нејаснотијата преку ескалирање на корисникот, демонстрирајќи понизност што ја гради, наместо да ја нагризува, довербата. Дури и најнапредниот агент ќе наиде на ситуации кога не е сигурен за намерата на корисникот или за најдобриот начин на дејствување. Како се справува со оваа неизвесност е дефинитивен момент. Добро дизајниран агент не погодува; тоа ескалира. Психолошка основа Кога агентот ги признава своите граници наместо да погодува, тој гради доверба со почитување на авторитетот на корисникот во двосмислени ситуации. Моделите на ескалација вклучуваат:
Барате појаснување „Спомнавте „идниот вторник.“ Дали мислите на 30 септември или 7 октомври? Презентирање на опции „Најдов три лета што одговараат на вашите критериуми. Кој ви изгледа најдобро? Барање човечка интервенција За задачи со високи влогови или многу двосмислени задачи, агентот треба да има јасна патека за да се вклучи во човечки експерт или агент за поддршка. Прашањето може да биде: „Оваа трансакција изгледа невообичаено и не сум уверен како да продолжиме. Дали сакате да го означам ова за човечки агент да го прегледа?“
Кога да се даде приоритет на овој модел Да се даде приоритет во домени каде што намерата на корисникот може да биде двосмислена или многу зависна од контекстот (на пр., интеракции со природен јазик, сложени барања за податоци). Користете го ова секогаш кога агентот работи со нецелосни информации или кога постојат повеќе точни патеки. Ризик од пропуст Без ова, агентот на крајот ќе направи сигурна, катастрофална претпоставка што го отуѓува корисникот. Метрика за успех:
Ескалација FrequencyAgent Барања за помош / Вкупно задачи. Здрав опсег: 5-15%. Стапката на успех на обновувањето Задачите се завршени по ескалацијата / Вкупно ескалации. Цел > 90%.
Шема Најдобро за Примарен ризик Клучна метрика Преглед на намери Неповратни или финансиски активности Корисникот се чувствува во заседа >85% стапка на прифаќање Автономија бирање Задачи со променливи нивоа на ризик Целосно напуштање на функцијата Поставување Churn Објасниво образложение Заднина или автономни задачи Корисникот забележува грешки "Зошто?" Волумен на билет Сигнал за доверба Експертски или системи со висок влог Пристрасност за автоматизација Увид Делта Акција ревизија и врати Сите агентски системи Трајно губење на довербата <5%Стапка на враќање Патека за ескалација Двосмислена корисничка намера Самоуверени, катастрофални претпоставки >90% Успех во закрепнувањето
Табела 1: Резиме на шеми на генетски AI UX. Не заборавајте да ја прилагодите метриката врз основа на вашиот специфичен ризик и потреби на доменот. Дизајнирање за поправка и поправка Ова е учење како ефективно да се извините. Доброто извинување ја признава грешката, ја поправа штетата и ветува дека ќе научи од неа. Грешките не се можност; тие се неминовност. Долгорочниот успех на агентскиот систем помалку зависи од неговата способност да биде совршен, а повеќе од неговата способност да се опорави благодатно кога ќе пропадне. Цврстата рамка за поправка и поправка е основна карактеристика, а не последователна мисла. Емпатично извинување и јасна санација Кога агентот ќе направи грешка, пораката за грешка е извинување. Мора да биде дизајниран со психолошка прецизност. Овој момент е критична можност да се покаже одговорност. Од перспектива на дизајнот на услугата, ова е местото каде што компаниите можат да го користат парадоксот за обновување на услугата: феноменот каде што клиентот кој доживеал неуспех на услугата, проследен со успешно и емпатично закрепнување, всушност може да стане полојален од клиент кој воопшто никогаш не доживеал неуспех. Добро постапена грешка може да биде помоќен настан за градење доверба отколку долга историја на беспрекорно извршување. Клучот е да се третира грешката како прекин на врската што треба да се поправи. Ова вклучува:
Потврдете ја грешката Пораката треба јасно и едноставно да наведе дека е направена грешка. Пример: погрешно префрлив средства. Наведете ја непосредната корекција Веднаш следете ја акцијата за поправка. Пример: Јас го променив дејството и средствата се вратени на вашата сметка. Обезбедете патека за понатамошна помош Секогаш понудете јасна врска до човечката поддршка. Ова ја деескалира фрустрацијата и покажува дека постои систем на одговорност надвор од самиот агент.
Добро дизајнираниот интерфејс за поправка може да изгледа вака: Направивме грешка при вашиот неодамнешен трансфер. Се извинувам. Префрлив 250 $ на погрешна сметка.✔ Поправно дејство: трансферот е вратен, а вашите 250 долари се вратени.✔ Следни чекори: инцидентот е означен за внатрешен преглед за да се спречи да се повтори. Ви треба дополнителна помош? [Контактирајте ја поддршката]
Градење на моторот за управување за безбедни иновации Дизајнерските шеми опишани погоре се контроли свртени кон корисникот, но тие не можат ефикасно да функционираат без робусна внатрешна структура за поддршка. Не станува збор за создавање бирократски пречки; се работи за градење стратешка предност. Организација со зрела рамка за управување може да испорача поамбициозни агенциски карактеристики со поголема брзина и самодоверба, знаејќи дека потребните заштитни огради се поставени за да се намали ризикот од брендот. Овој управувачки мотор ја претвора безбедноста од список за проверка во конкурентна предност. Овој мотор треба да функционира како формално тело за управување, Агентски етички совет за вештачка интелигенција, кој се состои од вкрстено функционална алијанса на UX, производ и инженерство, со витална поддршка од правна, усогласеност и поддршка. Во помалите организации, овие улоги на „Совет“ честопати се распаѓаат во една тријада од водечките лица за производи, инженерство и дизајн. Список за проверка за управување
Правно/усогласеност Овој тим е првата линија на одбрана, која обезбедува потенцијалните активности на агентот да останат во регулаторните и правните граници. Тие помагаат да се дефинираат напорните забранети зони за автономна акција. Производ Менаџерот на производи е управител на целта на агентот. Тие ги дефинираат и следат нејзините оперативни граници преку формална политика за автономија која документира што е и што не смее да прави агентот. Тие го поседуваат регистарот за ризик на агенти. UX Research Овој тим е гласот на довербата и вознемиреноста на корисникот. Тие се одговорни за повторливиот процес за спроведување на студии за калибрација на доверба, симулирани тестови за лошо однесување и квалитативни интервјуа за да се разбере еволуирачкиот ментален модел на агентот на корисникот. ИнженерингОвој тим ги гради техничките основи на довербата. Тие мора да го дизајнираат системот за робусно евидентирање, функционалност за поништување со еден клик и куките потребни за генерирање јасни, објаснети образложенија. Поддршка Овие тимови се на првата линија на неуспехот. Тие мора да бидат обучени и опремени за справување со инциденти предизвикани од грешки на агентите и мора да имаат директна врска за повратни информации до Советот за етика за да известува за моделите на неуспех во реалниот свет.
Оваа структура на управување треба да одржува азбир на живи документи, вклучувајќи Регистар за ризик од агент кој проактивно ги идентификува потенцијалните начини на неуспех, дневници за ревизија на активности кои редовно се прегледуваат и формална документација за политика за автономија. Каде да започнете: Фазен пристап за лидерите на производите За менаџерите и директорите на производи, интегрирањето на агенсната вештачка интелигенција може да се чини како монументална задача. Клучот е да се пристапи не како единствено лансирање, туку како фазно патување на паралелно градење и техничка способност и доверба на корисниците. Овој патоказ и овозможува на вашата организација да учи и да се прилагодува, осигурувајќи дека секој чекор е изграден на цврста основа. Фаза 1: Основна безбедност (предложи и предложи) Првичната цел е да се изгради основата на доверба без преземање значителни автономни ризици. Во оваа фаза, моќта на агентот е ограничена на анализа и сугестија.
Имплементирајте цврст преглед на намери: ова е вашиот основен модел на интеракција. Дајте им на корисниците удобност со идејата агентот да формулира планови, додека корисникот ќе го држи во целосна контрола врз извршувањето. Изградете ја инфраструктурата за ревизија и поништување на активности: дури и ако агентот сè уште не дејствува автономно, изградете го техничкото скеле за евидентирање и превртување. Ова го подготвува вашиот систем за иднината и ја гради довербата кај корисниците дека постои безбедносна мрежа.
Фаза 2: Калибрирана автономија (дејствувајте со потврда) Штом корисниците се задоволни со предлозите на агентот, можете да започнете да воведувате автономија со низок ризик. Оваа фаза е да ги научи корисниците како размислува агентот и да им дозволи да го одредат своето темпо.
Воведување на автономното копче со ограничени поставки: Започнете со дозволување на корисниците да му дадат на агентот моќ да дејствува со потврда. Распоредете го објаснувањето: за секоја акција што ја подготвува агентот, дајте јасно објаснување. Ова ја демистифицира логиката на агентот и зајакнува дека тој работи врз основа на сопствените преференции на корисникот.
Фаза 3: Проактивно делегирање (Дејствувајте автономно) Ова е последниот чекор, преземен само откако ќе имате јасни податоци од претходните фази кои покажуваат дека корисниците му веруваат на системот.
Овозможете да дејствувате автономно за специфични, однапред одобрени задачи: користете ги податоците од Фаза 2 (на пр., високи стапки на продолжување, ниски стапки на враќање) за да го идентификувате првиот сет на задачи со низок ризик што може целосно да се автоматизираат. Монитор и повторување: Лансирањето на автономните функции не е крај, туку почеток на континуиран циклус на следење на перформансите, собирање повратни информации од корисниците и рафинирање на опсегот и однесувањето на агентот врз основа на податоци од реалниот свет.
Дизајн како врвна безбедносна рачка Појавата на агенсната вештачка интелигенција претставува нова граница во интеракцијата човек-компјутер. Ветува иднина каде технологијата ќе може проактивно да ги намали нашите оптоварувања и да ги рационализира нашите животи. Но, оваа моќ доаѓа со длабока одговорност. Автономијата е резултат на технички систем, но доверливоста е резултат на процесот на дизајнирање. Нашиот предизвик е да се осигураме дека корисничкото искуство не е жртва на технички способности, туку негов примарен корисник. Како UX професионалци, менаџери на производи и лидери, нашата улога е да дејствуваме како управители на таа доверба. Со имплементирање на јасни модели на дизајн за контрола и согласност, дизајнирање внимателни патеки за поправка и градење робусни рамки за управување, ги создаваме основните безбедносни лостови што ја прават остварлива агенсната вештачка интелигенција. Ние не дизајнираме само интерфејси; ние ги архитектираме односите. Иднината на корисноста и прифаќањето на вештачката интелигенција почива на нашата способност да ги дизајнираме овие сложени системи со мудрост, предвидливост и длабоко вкоренета почит кон крајниот авторитет на корисникот.
