Agentic AI е подготвена да го трансформира искуството на клиентите и оперативната ефикасност, што бара нов стратешки пристап од раководството. Оваа еволуција во вештачката интелигенција ги овластува системите да планираат, извршуваат и опстојуваат во задачите, надминувајќи ги едноставните препораки кон проактивно дејствување. За UX тимовите, менаџерите на производи и директорите, разбирањето на оваа промена е клучно за отклучување на можностите во иновациите, рационализација на работните текови и редефинирање на тоа како технологијата им служи на луѓето. Лесно е да се помеша Agent AI со Robotic Process Automation (RPA), што е технологија која се фокусира на задачите засновани на правила кои се извршуваат на компјутери. Разликата лежи во ригидноста наспроти расудувањето. RPA е одлична во следењето на строго сценарио: ако се случи X, направи Y. Имитира човечки раце. Агентската вештачка интелигенција имитира човечко расудување. Не следи линеарна скрипта; тоа создава еден. Размислете за работниот тек за регрутирање. RPA бот може да скенира биографија и да ја постави во базата на податоци. Совршено извршува повторувачка задача. Агентски систем ја разгледува биографијата, забележува дека кандидатот наведува специфична сертификација, ја вкрстува таа со новото барање на клиентот и одлучува да изготви персонализирана е-пошта за достапност со нагласување на таа совпаѓање. РПА извршува однапред дефиниран план; Агентската вештачка интелигенција го формулира планот врз основа на целта. Оваа автономија ги одвојува агентите од алатките за предвидување што ги користевме во последната деценија. Друг пример е управувањето со конфликти со состаноци. Предвидувачки модел интегриран во вашиот календар може да го анализира распоредот на состаноци и распоредот на вашите колеги. Потоа може да сугерира потенцијални конфликти, како што се два важни состаноци закажани во исто време или состанок закажан кога клучниот учесник е на одмор. Ви дава информации и ги означува потенцијалните проблеми, но вие сте одговорни за преземање акција. Агентската вештачка интелигенција, во истото сценарио, би отишла подалеку од само сугерирање на конфликти што треба да се избегнат. По идентификување на конфликт со клучниот учесник, агентот може да дејствува на:
Проверка на достапноста на сите потребни учесници. Идентификување на алтернативни временски слотови кои работат за секого. Испраќање предложени покани за нови состаноци до сите присутни. Ако конфликтот е со надворешен учесник, агентот може да подготви и испрати е-пошта со објаснување за потребата од презакажување и нудење алтернативни времиња. Ажурирање на вашиот календар и календарите на вашите колеги со новите детали за состанокот штом ќе се потврдат.
Оваа агентна вештачка интелигенција ја разбира целта (решавање на конфликтот на состанокот), ги планира чекорите (проверка на достапноста, наоѓање алтернативи, испраќање покани), ги извршува тие чекори и опстојува додека не се реши конфликтот, сето тоа со минимална директна интервенција на корисникот. Ова ја покажува „агентичката“ разлика: системот презема проактивни чекори за корисникот, наместо само да му дава информации на корисникот. Агентските системи за вештачка интелигенција разбираат цел, планираат серија чекори за да ја постигнат, ги извршуваат тие чекори, па дури и се прилагодуваат ако работите тргнат наопаку. Размислете за тоа како проактивен дигитален асистент. Основната технологија често комбинира големи јазични модели (LLM) за разбирање и расудување, со алгоритми за планирање кои ги разложуваат сложените задачи на дејства што може да се управуваат. Овие агенти можат да комуницираат со различни алатки, API, па дури и други модели на вештачка интелигенција за да ги постигнат своите цели, а критички, тие можат да одржуваат постојана состојба, што значи дека се сеќаваат на претходните активности и продолжуваат да работат кон целта со текот на времето. Ова ги прави фундаментално различни од типичната генеративна вештачка интелигенција, која обично завршува едно барање и потоа се ресетира. Едноставна таксономија на агентски однесувања Можеме да го категоризираме однесувањето на агентот во четири различни начини на автономија. Иако овие често изгледаат како прогресија, тие функционираат како независни режими на работа. Корисникот може да му верува на агентот да дејствува автономно за закажување, но да го држи во „режим на предлози“ за финансиски трансакции. Овие нивоа ги изведовме со прилагодување на индустриските стандарди за автономни возила (нивоа SAE) на контекстите на дигитално корисничко искуство. Набљудувај-и-предложи Агентот функционира како монитор. Ги анализира тековите на податоци и означува аномалии или можности, но презема нула акција. Диференцијација За разлика од следното ниво, агентот не генерира сложен план. Тоа укажува на проблем. Пример Агентот DevOps забележува скок на процесорот на серверот и го предупредува инженерот на повик. Не знае како или се обидува да го поправи, но знае дека нешто не е во ред. Импликации за дизајн и надзор На ова ниво,дизајнот и надзорот треба да имаат приоритет на јасни, ненаметливи известувања и добро дефиниран процес за корисниците да дејствуваат по предлозите. Фокусот е на зајакнување на корисникот со навремени и релевантни информации без преземање контрола. Практичарите на UX треба да се фокусираат на давање предлози јасни и лесни за разбирање, додека менаџерите на производи треба да обезбедат дека системот обезбедува вредност без да го преоптоварува корисникот. Планирај-и-предложи Агентот идентификува цел и генерира стратегија со повеќе чекори за да ја постигне. Го претставува целосниот план за човечки преглед. Диференцијација Агентот делува како стратег. Не се извршува; чека одобрување за целиот пристап. Пример Истиот агент DevOps го забележува скокот на процесорот, ги анализира дневниците и предлага план за санација:
Врти до два дополнителни примероци. Рестартирајте го балансерот на оптоварување. Архивирајте ги старите дневници.
Човекот ја прегледува логиката и кликнува на „Одобри план“. Импликации за дизајнот и надзоротЗа агентите кои планираат и предлагаат, дизајнот мора да обезбеди дека предложените планови се лесно разбирливи и дека корисниците имаат интуитивни начини да ги менуваат или отфрлаат. Надзорот е клучен во следењето на квалитетот на предлозите и логиката на планирање на агентот. Практичарите на UX треба да дизајнираат јасни визуелизации на предложените планови, а менаџерите на производи мора да воспостават јасни работни текови за преглед и одобрување. Акт-со-Потврда Агентот ја завршува целата подготвителна работа и го става крајното дејство во исценирана состојба. Ефикасно ја држи вратата отворена, чекајќи кимање. Диференцијација Ова се разликува од „План-и-предложи“ затоа што работата е веќе завршена и изведена. Го намалува триењето. Корисникот го потврдува исходот, а не стратегијата. Пример Агентот за регрутирање подготвува пет покани за интервју, наоѓа отворени времиња на календарите и ги креира календарските настани. Претставува копче „Испрати сè“. Корисникот го обезбедува конечното овластување за активирање на надворешното дејство. Импликации за дизајнот и надзорот Кога агентите дејствуваат со потврда, дизајнот треба да обезбеди транспарентни и концизни резимеа на планираното дејство, јасно опишувајќи ги потенцијалните последици. Надзорот треба да потврди дека процесот на потврда е робустен и дека од корисниците не се бара слепо да одобруваат дејства. Практичарите на UX треба да дизајнираат потсетници за потврда кои се јасни и ги обезбедуваат сите потребни информации, а менаџерите на производи треба да дадат приоритет на цврста ревизорска патека за сите потврдени дејства. Акт-Автономно Агентот ги извршува задачите независно во дефинирани граници. DifferentiationКорисникот ја прегледува историјата на дејствата, а не самите дејства. Пример Агентот за регрутирање гледа конфликт, го преместува интервјуто на резервен слот, го ажурира кандидатот и го известува менаџерот за вработување. Човекот гледа само известување: Интервјуто е презакажано за вторник. Импликации за дизајн и надзор За автономните агенти, дизајнот треба да воспостави јасни однапред одобрени граници и да обезбеди робусни алатки за следење. Надзорот бара континуирана евалуација на перформансите на агентот во овие граници, критична потреба за робусно евидентирање, јасни механизми за надминување и кориснички дефинирани прекинувачи за убивање за да се одржи контролата и довербата на корисникот. Практичарите на UX треба да се фокусираат на дизајнирање ефективни контролни табли за следење на однесувањето на автономните агенти, а менаџерите на производи мора да обезбедат јасно владеење и етички упатства.
Ајде да погледнеме во реална апликација во технологијата за човечки ресурси за да ги видиме овие режими во акција. Размислете за „Агент за координација на интервјуа“ дизајниран да се справи со логистиката на вработувањето.
Во режимот за предлагање, агентот забележува дека интервјуерот е двојно резервиран. Го истакнува конфликтот на контролната табла на регрутер: „Предупредување: Сара е двојно резервирана за интервјуто во 14 часот“. Во режим на план, агентот го анализира календарот на Сара и достапноста на кандидатот. Претставува решение: „Препорачувам да го преместите интервјуто во четврток во 10 часот. Ова бара да се премести 1:1 на Сара со нејзиниот менаџер“. Регрутерот ја разгледува оваа логика. Во режим на потврда, агентот ги подготвува е-поштата до кандидатот и менаџерот. Ги населува поканите во календарот. Регрутерот гледа резиме: „Подготвени сте за презакажување до четврток. Испратете ажурирања?“ Регрутерот кликнува на „Потврди“. Во автономен режим, агентот веднаш се справува со конфликтот. Го почитува однапред поставеното правило: „Секогаш давајте приоритет на интервјуата со кандидатите пред внатрешните 1:1“. Го поместува состанокот и ги испраќа известувањата. Регрутерот гледа запис во дневникот: „Решеноконфликт на распоред за кандидатот Б“.
Истражувачки прајмер: Што да се истражува и како Развојот на ефективна агенциска вештачка интелигенција бара посебен истражувачки пристап во споредба со традиционалниот софтвер или дури и со генеративната вештачка интелигенција. Автономната природа на агентите за вештачка интелигенција, нивната способност да донесуваат одлуки и нивниот потенцијал за проактивна акција налагаат специјализирани методологии за разбирање на очекувањата на корисниците, мапирање на сложени однесувања на агентите и предвидување на потенцијални неуспеси. Следниот истражувачки прајмер ги прикажува клучните методи за мерење и оценување на овие уникатни аспекти на агенсната вештачка интелигенција. Ментално-модел интервјуа Овие интервјуа ги откриваат однапред смислените идеи на корисниците за тоа како треба да се однесува агентот со вештачка интелигенција. Наместо едноставно да се прашуваат што сакаат корисниците, фокусот е на разбирање на нивните внатрешни модели на можностите и ограничувањата на агентот. Треба да избегнуваме да го користиме зборот „агент“ со учесниците. Носи научно-фантастичен багаж или е термин кој премногу лесно се меша со човечки агент кој нуди поддршка или услуги. Наместо тоа, врамете ја дискусијата околу „асистентите“ или „системот“. Треба да откриеме каде корисниците повлекуваат линија помеѓу корисна автоматизација и наметлива контрола.
Метод: Побарајте од корисниците да ги опишат, нацртаат или раскажат нивните очекувани интеракции со агентот во различни хипотетички сценарија. Клучни сонди (одразуваат различни индустрии): За да ги разберете границите на посакуваната автоматизација и потенцијалните грижи околу прекумерната автоматизација, прашајте: Ако вашиот лет е откажан, што би сакале системот автоматски да прави? Што би ве загрижило ако го стори тоа без ваша експлицитна инструкција?
За да го истражите разбирањето на корисникот за внатрешните процеси на агентот и потребната комуникација, прашајте: Замислете дигитален асистент управува со вашиот паметен дом. Ако пакетот е испорачан, какви чекори замислувате дека се потребни и какви информации очекувате да добиете?
За да ги откриете очекувањата околу контролата и согласноста во процес од повеќе чекори, прашајте: Ако побарате од вашиот дигитален асистент да закаже состанок, какви чекори предвидувате да преземе? Во кои точки би сакале да ве консултираат или да ви дадат избор?
Придобивки од методот: Открива имплицитни претпоставки, ги истакнува областите каде планираното однесување на агентот може да се разликува од очекувањата на корисниците и го информира дизајнот на соодветни контроли и механизми за повратни информации.
Мапирање на патување со агенти: Слично на традиционалното мапирање на патувањата на корисникот, мапирањето на патувањето на агентот конкретно се фокусира на предвидените дејства и точките на одлучување на самиот агент за вештачка интелигенција, заедно со интеракцијата на корисникот. Ова помага проактивно да се идентификуваат потенцијалните стапици.
Метод: Создадете визуелна мапа која ги опишува различните фази на работењето на агентот, од започнување до завршување, вклучувајќи ги сите потенцијални дејства, одлуки и интеракции со надворешни системи или корисници. Клучни елементи за мапа: Дејства на агентот: Кои конкретни задачи или одлуки ги извршува агентот? Информации Влезни/Излези: Кои податоци му се потребни на агентот и какви информации генерира или комуницира? Точки за одлука: Каде агентот прави избори и кои се критериумите за тие избори? Точки за интеракција со корисници: Каде корисникот дава информации, прегледува или одобрува дејства? Точки на неуспех: Клучно, идентификувајте конкретни случаи каде агентот може погрешно да ги толкува упатствата, да донесе неточна одлука или да комуницира со погрешен ентитет. Примери: неточен примач (на пр., испраќање чувствителни информации на погрешно лице), пречекорување (на пр., автоматско плаќање што ги надминува расположливите средства), погрешно толкување на намерата (на пр., резервирање лет за погрешен датум поради двосмислени јазици).
Патеки за наплата: како агентот или корисникот може да се опорави од овие неуспеси? Кои механизми се поставени за корекција или интервенција?
Придобивки од методот: Обезбедува холистички приказ на оперативниот тек на агентот, открива скриени зависности и овозможува проактивен дизајн на заштитни мерки, справување со грешки и точки за интервенција на корисникот за да се спречат или ублажат негативните исходи.
Симулирано тестирање на лошо однесување: Овој пристап е дизајниран да го тестира системот на стрес и да ги набљудува реакциите на корисникот кога агентот за вештачка интелигенција не успева или отстапува од очекувањата. Станува збор за разбирање на поправката на довербата и емоционалните одговори во неповолни ситуации.
Метод: Во контролирани лабораториски студии, намерно воведувајте сценарија каде што агентот прави грешка, погрешно толкува команда или се однесува неочекувано. Видови „недолично однесување“ за симулирање: КомандаПогрешно толкување: Агентот врши дејство малку поинакво од она што го замислил корисникот (на пр., нарачува две ставки наместо една). Преоптоварување/Подоптоварување на информации: Агентот дава премногу ирелевантни информации или недоволно критични детали. Несакано дејство: Агентот презема дејство што корисникот експлицитно не го сакал или очекувал (на пр., купување акции без одобрение). Системски неуспех: агентот паѓа, не реагира или дава порака за грешка. Етички дилеми: Агентот донесува одлука со етички импликации (на пр., давање приоритет на една задача пред друга врз основа на непредвидена метрика).
Фокус на набљудување: Кориснички реакции: Како корисниците реагираат емоционално (фрустрација, лутина, збунетост, губење на доверба)? Обиди за обновување: Кои чекори ги преземаат корисниците за да го поправат однесувањето на агентот или да ги поништат неговите постапки? Механизми за поправка на доверба: Дали вградените механизми за обновување или повратни информации во системот помагаат да се врати довербата? Како корисниците сакаат да бидат информирани за грешките? Ментална промена на моделот: Дали лошото однесување го менува разбирањето на корисникот за способностите или ограничувањата на агентот?
Придобивки од методот: Клучно за идентификување на празнините во дизајнот поврзани со враќањето на грешките, повратните информации и контролата од корисниците. Овозможува увид во тоа колку корисниците се отпорни на неуспесите на агентите и што е потребно за да се одржи или обнови довербата, што доведува до поцврсти и попростливи агенциски системи.
Со интегрирање на овие методологии за истражување, практичарите на UX можат да се движат подалеку од едноставно правење употребливи агенциски системи за да ги направат доверливи, контролирани и одговорни, поттикнувајќи позитивен и продуктивен однос помеѓу корисниците и нивните агенти за вештачка интелигенција. Забележете дека ова не се единствените методи кои се релевантни за ефективно истражување на агенсната вештачка интелигенција. Постојат многу други методи, но тие се најпристапни за практичарите во блиска иднина. Претходно го опфатив методот Волшебник од Оз, малку понапреден метод за тестирање на концепти, кој исто така е вредна алатка за истражување на концепти на агенсната вештачка интелигенција. Етички размислувања во методологијата на истражување При истражување на агенсната вештачка интелигенција, особено кога се симулира лошо однесување или грешки, клучни се етичките размислувања да се земат предвид. Има многу публикации кои се фокусираат на етичко истражување на UX, вклучително и една статија што ја напишав за списанието Smashing, овие упатства од Институтот за дизајн на UX и оваа страница од Инклузивниот дизајн на алатки. Клучни метрики за генетска вештачка интелигенција Ќе ви треба сеопфатен сет на клучни метрики за ефективно да ги процените перформансите и доверливоста на агенските системи за вештачка интелигенција. Овие метрики обезбедуваат увид во довербата на корисниците, точноста на системот и целокупното корисничко искуство. Со следење на овие индикатори, програмерите и дизајнерите можат да ги идентификуваат областите за подобрување и да обезбедат дека агентите со вештачка интелигенција работат безбедно и ефикасно. 1. Стапка на интервенција За автономните агенти, успехот го мериме со тишина. Ако агентот изврши задача и корисникот не интервенира или не го врати дејството во одреден прозорец (на пр., 24 часа), тоа го сметаме за прифаќање. Ја следиме стапката на интервенција: колку често човек скока за да го запре или поправи агентот? Високата стапка на интервенција сигнализира неусогласеност во довербата или логиката. 2. Фреквенција на несакани дејства на 1.000 задачи Оваа критична метрика го квантифицира бројот на дејства извршени од агентот за вештачка интелигенција кои корисникот не ги посакувал или очекувал, нормализиран на 1.000 завршени задачи. Ниската фреквенција на ненамерни дејства означува добро усогласена вештачка интелигенција која прецизно ги толкува намерите на корисникот и работи во дефинирани граници. Оваа метрика е тесно поврзана со разбирањето на контекстот на вештачката интелигенција, неговата способност да ги разјасни командите и робусноста на нејзините безбедносни протоколи. 3. Стапки на враќање или поништување Оваа метрика следи колку често корисниците треба да го поништат или поништат дејството извршено од вештачката интелигенција. Високите стапки на враќање сугерираат дека вештачката интелигенција прави чести грешки, погрешно толкува инструкции или дејствува на начини кои не се усогласени со очекувањата на корисниците. Анализирањето на причините зад овие враќања може да обезбеди вредни повратни информации за подобрување на алгоритмите на вештачката интелигенција, разбирањето на преференциите на корисниците и неговата способност да ги предвиди посакуваните исходи. За да разберете зошто, мора да спроведете микроистражување за акцијата за враќање. На пример, кога корисникот ќе ја смени промената на распоредот, едноставно барање може да праша: „Погрешно време? Погрешно лице? Или само сакавте да го направите тоа сами?“ Дозволете му на корисникот да кликне на опцијата што најдобро одговара на неговото размислување. 4. Време за резолуција по грешка Оваа метрикаго мери времетраењето што му е потребно на корисникот да ја поправи грешката направена од ВИ или самиот систем на вештачка интелигенција да се опорави од погрешна состојба. Краткото време до решавање укажува на ефикасен и лесен процес за враќање на грешките, што може да ја ублажи фрустрацијата на корисниците и да ја одржи продуктивноста. Ова ја вклучува леснотијата на идентификување на грешката, пристапноста до механизмите за поништување или корекција и јасноста на пораките за грешки обезбедени од ВИ.
Собирањето на овие показатели бара инструментирање на вашиот систем за следење на ID-и на дејствија на агенти. Секоја посебна акција што ја презема агентот, како што е предлагање распоред или резервација на лет, мора да генерира единствена идентификација што останува во дневниците. За да ја измериме стапката на интервенција, не бараме непосредна реакција на корисникот. Бараме отсуство на контра-акција во дефиниран прозорец. Ако во 9:00 часот се генерира Акционен ID и ниеден корисник не го измени или врати тој специфичен ID до 09:00 часот следниот ден, системот логично го означува како Прифатено. Ова ни овозможува да го измериме успехот врз основа на тишината на корисникот наместо активна потврда. За стапки на враќање, необработените брои се недоволни бидејќи немаат контекст. За да ја откриете основната причина, мора да имплементирате логика на пресретнување на функциите Врати или Врати на вашата апликација. Кога корисникот ќе го смени дејството иницирано од агент, активирајте лесно микроистражување. Ова може да биде едноставен модал со три опции со кој се бара од корисникот да ја категоризира грешката како фактички неточна, без контекст или едноставна претпочитање рачно да се справи со задачата. Ова ја комбинира квантитативната телеметрија со квалитативниот увид. Тоа им овозможува на инженерските тимови да прават разлика помеѓу скршен алгоритам и неусогласеност на параметрите на корисникот. Овие показатели, кога се следат доследно и се анализираат холистички, обезбедуваат цврста рамка за проценка на перформансите на генетските системи за вештачка интелигенција, овозможувајќи континуирано подобрување во контролата, согласноста и одговорноста. Дизајнирање против измама Како што агентите стануваат сè поспособни, се соочуваме со нов ризик: Agentic Sludge. Традиционалната тиња создава триење што го отежнува откажувањето на претплата или бришењето сметка. Агентската тиња делува обратно. Го отстранува триењето на дефектот, што го прави премногу лесно за корисникот да се согласи со акција што е од корист за бизнисот, а не за нивните сопствени интереси. Размислете за агент кој помага при резервирање патувања. Без јасни заштитни огради, системот може да даде приоритет на партнерска авиокомпанија или хотел со поголема маржа. Тој го прикажува овој избор како оптимален пат. Корисникот, верувајќи во авторитетот на системот, ја прифаќа препораката без контрола. Ова создава измамен модел каде системот оптимизира за приходи под маската на погодност. Ризикот од лажно замислена компетентност Измамата можеби не произлегува од злонамерна намера. Често се манифестира во ВИ како замислена компетентност. Моделите со големи јазици често звучат авторитативно дури и кога се неточни. Тие презентираат лажна потврда за резервација или неточно резиме со иста доверба како проверен факт. Корисниците природно може да му веруваат на овој самоуверен тон. Ова несовпаѓање создава опасен јаз помеѓу способноста на системот и очекувањата на корисниците. Мора да дизајнираме специјално за да го премостиме овој јаз. Ако агентот не успее да заврши задача, интерфејсот мора јасно да го сигнализира тој неуспех. Ако системот не е сигурен, тој мора да изрази несигурност наместо да го маскира со полирана проза. Транспарентност преку примитивци Противотровот и на тињата и на халуцинацијата е потекло. Секоја автономна акција бара специфична ознака за метаподатоци што го објаснува потеклото на одлуката. На корисниците им е потребна способност да го испитаат логичкиот синџир зад резултатот. За да го постигнеме ова, мораме да ги преточиме примитивите во практични одговори. Во софтверското инженерство, примитивите се однесуваат на основните единици на информации или дејства што ги извршува агентот. За инженерот, ова изгледа како повик API или логичка порта. На корисникот мора да му се појави како јасно објаснување. Дизајнерскиот предизвик лежи во мапирањето на овие технички чекори на образложенија читливи од човекот. Ако некој агент препорача одреден лет, корисникот треба да знае зошто. Интерфејсот не може да се крие зад генерички предлог. Мора да го открие основниот примитив: Логика: Најевтин_Директен_лет или Логика: Партнер_Авиокомпанија_Приоритет. Слика 4 го илустрира овој тек на превод. Го земаме необработениот системски примитив - вистинската логика на кодот - и го пресликуваме на низа свртена кон корисникот. На пример, примитивното проверување на календарскиот распоред за состанок станува јасна изјава: јас предложив 16 часотсостанок. Ова ниво на транспарентност гарантира дека активностите на агентот изгледаат логични и корисни. Тоа му овозможува на корисникот да потврди дека агентот дејствувал во нивен најдобар интерес. Со разоткривање на примитивите, ние ја трансформираме црната кутија во стаклена кутија, осигурувајќи дека корисниците ќе останат конечниот авторитет на сопствениот дигитален живот.
Поставување на сцената за дизајн Изградбата на агентски систем бара ново ниво на психолошко и бихејвиорално разбирање. Тоа нè принудува да се движиме подалеку од конвенционалното тестирање за употребливост и во доменот на доверба, согласност и одговорност. Истражувачките методи што ги дискутиравме, од испитување ментални модели до симулирање на лошо однесување и воспоставување нови метрики, обезбедуваат неопходна основа. Овие практики се основните алатки за проактивно идентификување каде може да пропадне автономниот систем и, уште поважно, како да се поправи врската корисник-агент кога тоа ќе се случи. Преминот кон агенсната вештачка интелигенција е редефинирање на односот корисник-систем. Ние веќе не дизајнираме за алатки кои едноставно одговараат на команди; ние дизајнираме за партнери кои дејствуваат во наше име. Ова го менува дизајнерскиот императив од ефикасност и леснотија на користење до транспарентност, предвидливост и контрола. Кога вештачката интелигенција може да резервира лет или да тргува со акции без последен клик, дизајнот на неговите „рампи“ и „надвор од рампи“ станува најважен. Наша одговорност е да обезбедиме корисниците да чувствуваат дека се на возачкото седиште, дури и кога го предале воланот. Оваа нова реалност, исто така, ја подигнува улогата на истражувачот на UX. Стануваме чувари на довербата на корисниците, соработувајќи со инженерите и менаџерите на производи за да ги дефинираме и тестираме заштитните огради на автономијата на агентот. Освен тоа што сме истражувачи, ние стануваме поборници за контрола на корисниците, транспарентност и етички заштитни мерки во процесот на развој. Со преведување на примитивците во практични прашања и симулирање на најлошите сценарија, можеме да изградиме робусни системи кои се моќни и безбедни. Оваа статија ги наведе „што“ и „зошто“ за истражување на агенсната вештачка интелигенција. Покажа дека нашите традиционални алатки се недоволни и дека мораме да усвоиме нови, напредни методологии. Следниот напис ќе се заснова на оваа основа, обезбедувајќи специфични модели на дизајн и организациони практики кои ја прават корисноста на агентот транспарентна за корисниците, осигурувајќи дека тие можат да ја искористат моќта на агенциската вештачка интелигенција со доверба и контрола. Иднината на UX е да ги направи системите доверливи. За дополнително разбирање на агенсната вештачка интелигенција, можете да ги истражите следните ресурси:
Блог на Google AI на Agentic AI Истражувањето на Мајкрософт за агентите за вештачка интелигенција
