Осы серияның бірінші бөлімінде біз генеративті жасанды интеллекттен агенттікке түбегейлі ауысуды белгіледік. Ұсынудан актерлік шеберлікке көшудің неліктен UX зерттеушілері, өнім менеджерлері мен көшбасшылары үшін жаңа психологиялық және әдістемелік құралдар жинағын талап ететінін зерттедік. Біз агенттік мінез-құлық таксономиясын анықтадық, ұсынудан автономды әрекетке дейін, негізгі зерттеу әдістерін белгіледік, агенттік шламның тәуекелдерін анықтадық және осы жаңа аумақты шарлау үшін талап етілетін есеп беру көрсеткіштерін белгіледік. Біз не және неге екенін қарастырдық. Енді біз негізгіден функционалдылыққа көшеміз. Бұл мақалада мыналар қарастырылады: қуатты ғана емес, сонымен қатар мөлдір, басқарылатын және пайдаланушы сеніміне лайық агенттік жүйелерді құру үшін қажетті нақты дизайн үлгілері, операциялық құрылымдар және ұйымдастырушылық тәжірибелер. Біздің зерттеуіміз диагностикалық құрал болса, бұл үлгілер емдеу жоспары болып табылады. Олар AI-ға бұрын-соңды болмаған автономия берсек те, пайдаланушыларға айқын бақылау сезімін бере алатын практикалық тетіктер. Мақсат - автономия жүйе тартып алған құқық емес, пайдаланушы берген артықшылық сияқты сезінетін тәжірибе жасау. Агенттік жүйелерге арналған негізгі UX үлгілері Агенттік AI үшін жобалау қарым-қатынасты жобалау болып табылады. Бұл қарым-қатынас, кез келген табысты серіктестік сияқты, нақты қарым-қатынасқа, өзара түсіністікке және белгіленген шекараларға құрылуы керек. Ұсынудан әрекетке ауысуды басқару үшін біз агенттік өзара әрекеттесудің функционалды өмірлік циклін бақылайтын алты үлгіні қолданамыз:
Алдын ала әрекет (Ниет орнату) Мақсатты алдын ала қарау және автономды теру пайдаланушының жоспар мен агент шекараларын бірдеңе болмас бұрын анықтауын қамтамасыз етеді. Іс-әрекеттегі (контекстті қамтамасыз ету) Түсіндірілетін негіздеме және сенімділік сигналы агент жұмыс істеп тұрған кезде мөлдірлікті сақтайды, «неге» және «қаншалықты сенімді» екенін көрсетеді. Әрекеттен кейінгі (Қауіпсіздік және қалпына келтіру) Әрекетті тексеру және болдырмау және күшейту жолы қателер немесе анық емес сәттер үшін қауіпсіздік желісін қамтамасыз етеді.
Төменде біз әрбір үлгіні егжей-тегжейлі қарастырамыз, соның ішінде табысқа жету көрсеткіштеріне арналған ұсыныстар. Бұл мақсаттар салалық стандарттарға негізделген репрезентативті эталондар болып табылады; оларды нақты домен тәуекеліне қарай реттеңіз. 1. Мақсатты алдын ала қарау: Нені және қалай екенін нақтылау Бұл үлгі: "Міне, мен не істемекшімін. Сіз мұны істейсіз бе?" Бұл пайдаланушы-агент қарым-қатынасында келісімді іздеудің негізгі сәті. Агент кез келген маңызды әрекетті жасамас бұрын, пайдаланушы не болатынын анық, бір мағыналы түсінуі керек. Мақсатты алдын ала қарау немесе жоспардың қысқаша мазмұны ақпараттандырылған келісімді белгілейді. Бұл автономды процестердің қара жәшігін мөлдір, қайта қаралатын жоспарға айналдыратын әрекет алдындағы әңгіме кідірісі. Психологиялық негіз Әрекет алдында жоспарды ұсыну когнитивтік жүктемені азайтады және таңданыстарды болдырмайды, пайдаланушыларға агент олардың ниеттерін шынымен түсінетінін тексеруге мүмкіндік береді. Тиімді ниетті алдын ала қараудың анатомиясы:
Айқындық және қысқалық Алдын ала қарау бірден сіңімді болуы керек. Ол техникалық жаргонды болдырмай, қарапайым тілмен негізгі әрекеттер мен нәтижелерді қорытындылауы керек. Мысалы, «cancel_booking (id: 4A7B) үшін API қоңырауын орындау» орнына «Сан-Францискоға AA123 рейсін тоқтату» деп көрсетілуі керек. Кезекті қадамдарКөп қадамды әрекеттер үшін алдын ала қарау негізгі кезеңдерді көрсетуі керек. Бұл агент логикасын ашады және пайдаланушыларға ұсынылған реттіліктегі ықтимал мәселелерді анықтауға мүмкіндік береді. Пайдаланушы әрекеттерін тазалау Алдын ала қарау - жай хабарландыру емес, шешім қабылдау нүктесі. Ол таңдаулардың нақты жиынтығымен бірге жүруі керек. Бұл әдейі үйкеліс сәті, пайдаланушының саналы таңдау жасауына, әсіресе қайтымсыз немесе жоғары тәуекелді әрекеттерге кепілдік беру үшін әзірленген процестегі «жылдамдық».
Осы серияның бірінші бөлігіндегі саяхат көмекшісінің сценарийін қайта қарастырайық. Біз осы белсенді көмекшіні агент рейсті тоқтатуды қалай өңдейтінін көрсету үшін пайдаланамыз. Агент рейстің тоқтатылуын анықтады және қалпына келтіру жоспарын жасады. Мақсатты алдын ала қарау келесідей болады: Сапарыңыздың үзілуіне арналған ұсынылған жоспар мен сіздің 10:05 рейсіңіздің тоқтатылғанын анықтадым. Мен мынаны жоспарлап отырмын: UA456 рейсін тоқтату Төлемді қайтару және бас тарту мәліметтерін растау. DL789 рейсінде қайта брондау. Расталған орынды 14:30-да тоқтаусыз рейске брондаңыз, себебі бұл келесі қолжетімді тоқтаусыз рейс.расталған орын. Қонақ үйді брондауМарриотқа кеш келетініңізді хабарлаңыз. Электрондық пошта Жаңартылған маршрут Жаңа рейс пен қонақүй мәліметтерін сізге және көмекшіңіз Джейн Доэге жіберіңіз.[ Осы жоспарды жалғастырыңыз ] [ Жоспарды өңдеу ] [ Оны өзім реттеңіз ]
Бұл алдын ала қарау тиімді, себебі ол бас тартудан байланысқа дейінгі толық суретті қамтамасыз етеді және алға қарай үш түрлі жолды ұсынады: толық келісім (Жалғастыру), өзгертуге тілек (Жоспарды өңдеу) немесе толық қайта анықтау (Өзім өңдеу). Бұл көп қырлы бақылау сенімнің негізі болып табылады.
Бұл үлгіге қашан басымдық беру керек Бұл үлгі қайтымсыз (мысалы, пайдаланушы деректерін жою), кез келген соманың қаржылық транзакциясын қамтитын, ақпаратты басқа адамдармен немесе жүйелермен бөлісетін немесе пайдаланушы оңай қайтара алмайтын елеулі өзгерісті жасайтын кез келген әрекет үшін келіспейді. Өткізіп алу қаупі Онсыз пайдаланушылар агенттің әрекетінен қорқады және бақылауды қалпына келтіру үшін мүмкіндікті өшіреді. Сәттілік көрсеткіштері:
Қабылдау коэффициенті Өңдеусіз қабылданған жоспарлар / Көрсетілген жалпы жоспарлар. Мақсат > 85%. Қайта анықтау FrequencyTotal Оны өзім өңдеу Басулар / Көрсетілген жалпы жоспарлар. Көрсеткіш > 10% үлгіні қарап шығуды тудырады. Recall Accuracy Алдын ала қарау жасырылғаннан кейін 10 секундтан кейін жоспар қадамдарын дұрыс тізімдей алатын сынаққа қатысушылардың пайызы.
Мұны жоғары ставкалары бар домендерге қолдану Саяхат жоспарлары салыстырмалы база болғанымен, бұл үлгі күрделі, жоғары тәуекелді орталарда таптырмас болады, онда қате жеке саяхаттау үшін қолайсыздықтан гөрі көбірек болады. Көпшілігіміз қате шешімдер жүйенің істен шығуына, емделушінің қауіпсіздігіне қауіп төндіретін немесе сенімсіз технология енгізетін басқа да көптеген апатты нәтижелерге әкелетін жағдайларда жұмыс істейміз. Бұлттық инфрақұрылымды басқару міндеті жүктелген DevOps шығару агентін қарастырыңыз. Осы контекстте Intent Preview кездейсоқ тоқтап қалуға қарсы қауіпсіздік кедергісі ретінде әрекет етеді.
Бұл интерфейсте арнайы терминология (Drain Traffic, Rollback) жалпылама сөздерді ауыстырады және әрекеттер екілік және әсерлі болады. Пайдаланушы ұсынысты мақұлдаудың орнына агент логикасына негізделген негізгі операциялық ауысымға рұқсат береді. 2. Автономиялық теру: прогрессивті авторизациямен сенімді калибрлеу Әрбір салауатты қарым-қатынастың шекарасы болады. Автономиялық теру - пайдаланушы оны агентпен қалай орнатады, агентті өз бетімен өңдеуге ыңғайлы нәрсені анықтайды. Сенім екілік қосқыш емес; бұл спектр. Пайдаланушы ставкасы төмен тапсырмаларды автономды түрде орындау үшін агентке сенуі мүмкін, бірақ тәуекелі жоғары шешімдер үшін толық растауды талап етуі мүмкін. Автономды теру, прогрессивті авторизацияның түрі, пайдаланушыларға агент тәуелсіздігінің таңдаулы деңгейін орнатуға мүмкіндік береді, бұл оларды қарым-қатынасты анықтауға белсенді қатысушылар етеді. Психологиялық негіз Пайдаланушыларға агенттің автономиясын реттеуге мүмкіндік беру оларға басқару локусын береді, жүйенің мінез-құлқын жеке тәуекелдерге төзімділікке сәйкестендіруге мүмкіндік береді. ОрындауБұны қолданбадағы қарапайым, түсінікті параметр ретінде, ең дұрысы әр тапсырма түріне негіздеуге болады. Біздің бірінші мақаладағы таксономияны пайдалана отырып, параметрлер келесідей болуы мүмкін:
Байқаңыз және ұсынамын. Мен мүмкіндіктер немесе мәселелер туралы хабардар болғым келеді, бірақ агент ешқашан жоспар ұсынбайды. Жоспар және ұсыныс Агент жоспарлар жасай алады, бірақ мен кез келген әрекетті орындамас бұрын әрқайсысын қарап шығуым керек. Растау арқылы әрекет ету Таныс тапсырмалар үшін агент әрекеттерді дайындай алады, мен соңғы рұқсат беру/шығу рұқсатын беремін. Автономды әрекет ету Алдын ала мақұлданған тапсырмалар үшін (мысалы, 50 доллардан төмен төлемдерді даулау) агент дербес әрекет ете алады және фактіден кейін маған хабарлай алады.
Электрондық пошта көмекшісінде, мысалы, пайдаланушы атынан электрондық хаттарды жіберуге қарсы жиналыстарды жоспарлауға арналған бөлек автономия болуы мүмкін. Бұл түйінділік маңызды, өйткені ол пайдаланушы сенімінің нақтылығын көрсетеді. Бұл үлгіге қашан басымдық беру керек Тапсырмалар тәуекелге және жеке таңдауларға (мысалы, қаржылық басқару құралдары, байланыс платформалары) байланысты әр түрлі болатын жүйелерде бұған басымдық беріңіз. Бұл пайдаланушыларға төмен автономиядан бастауға және сенімділік артқан сайын оны арттыруға мүмкіндік беретін борттық үшін өте маңызды. Өткізіп алу қаупі Онсыз бір рет сәтсіздікке ұшыраған пайдаланушылар оның рұқсаттарын қайта терудің орнына агенттен толығымен бас тартады. Сәттілік көрсеткіштері:
Әр параметр бойынша пайдаланушылардың Trust DensityPercentage бөлінісі (мысалы: 20% ұсыныс, 50% растау, 30% автоматты). Setting Chrn. Параметрлер өзгертулерінің саны / Айына жалпы белсенді пайдаланушылар. Жоғары құлдырау сенімділікті білдіредіқұбылмалылық.
3. Түсіндірілетін негіздеме: Неліктен жауап беру? Әрекет жасағаннан кейін жақсы серіктес олардың дәлелдерін түсіндіреді. Бұл үлгі әрекеттен кейінгі ашық коммуникация болып табылады, неге жауап береді? сұралғанға дейін. «Мен мұны жасадым, өйткені сіз маған бұрын X-ті қалайтыныңызды айтқансыз». Агент, әсіресе автономды түрде әрекет еткенде, пайдаланушының санасында жиі сұрақ туындайды: Неліктен ол мұны істеді? Түсіндірілетін негіздеме үлгісі агент шешімдерінің қысқаша негіздемесін қамтамасыз ете отырып, бұл сұраққа белсенді түрде жауап береді. Бұл техникалық журнал файлы емес. Осы топтаманың бірінші мақаласында біз алдауды болдырмау үшін жүйелік примитивтерді пайдаланушыға арналған тілге аударуды талқыладық. Бұл үлгі сол принциптің практикалық қолданылуы болып табылады. Ол өңделмеген логиканы пайдаланушының жеке қалаулары мен алдыңғы енгізулеріне негізделген адам оқи алатын түсініктемеге түрлендіреді. Психологиялық негіздеме Агенттің әрекеттері түсінікті болса, олар кездейсоқ емес, логикалық сезінеді, бұл пайдаланушыға агент қалай ойлайтынының нақты психикалық моделін құруға көмектеседі. Тиімді негіздемелер:
Прецедентке негізделген Ең жақсы түсініктемелер ережеге, артықшылыққа немесе алдыңғы әрекетке сілтеме жасайды. Қарапайым және DirectAvoid күрделі шартты логика. Қарапайым «Сіз X айттыңыз, мен У жасадым» құрылымын пайдаланыңыз.
Саяхат мысалына оралсақ, рейс автономды түрде қайта брондалған соң, пайдаланушы мұны хабарландырулар арнасында көруі мүмкін: Мен сіздің тоқтатылған рейсіңізді қайта брондап қойдым. Жаңа рейс: Delta 789, 14:30-да ұшады. Неліктен бұл әрекетті жасадым: Сіздің бастапқы рейсіңізді авиакомпания тоқтатты. Сіз бір күндік, тоқтаусыз рейстерге автономды қайта брондау мүмкіндігін алдын ала мақұлдадыңыз.[ Жаңа маршрутты көру ] [ Бұл әрекетті болдырмау.
Негіздеме анық, қорғалған және агент пайдаланушы белгілеген шекараларда жұмыс істейді деген идеяны нығайтады. Бұл үлгіні қашан басымдық беру керек. Контекстен негіздемесі бірден көрінбейтін кез келген автономды әрекет үшін, әсіресе фондық режимде орындалатын немесе сыртқы оқиға арқылы іске қосылған әрекеттер үшін (рейсті тоқтату мысалы сияқты) басымдық беріңіз. Қабылданбау қаупі Онсыз пайдаланушылар жарамды автономды әрекеттерді кездейсоқ мінез-құлық немесе «қателер» ретінде түсіндіреді, бұл олардың дұрыс психикалық үлгісін қалыптастыруға кедергі жасайды. Сәттілік көрсеткіштері:
Неліктен? Билет көлемі 1000 белсенді пайдаланушыға шаққанда «Агент әрекеті — түсініксіз» деп белгіленген қолдау билеттерінің саны. Негіздемені тексеру Өзара әрекеттесуден кейінгі микросауалнамаларда түсініктемені «Пайдалы» деп бағалаған пайдаланушылардың пайызы.
4. Сенім сигналы Бұл үлгі агенттің қарым-қатынаста өзін-өзі тануы туралы. Өз сенімін білдіре отырып, ол пайдаланушыға өз пікіріне қашан сену керектігін және қашан көбірек тексеруді қолдану керектігін шешуге көмектеседі. Пайдаланушыларға өздерінің сенімдерін тексеруге көмектесу үшін агент өзінің жоспарлары мен әрекеттеріне өзінің сенімділігін көрсетуі керек. Бұл агенттің ішкі күйін түсінікті етеді және пайдаланушыға шешімді қашан мұқият тексеру керектігін шешуге көмектеседі. Психологиялық негіздеме Белгісіздіктің алдын алу автоматтандыруды болдырмауға көмектеседі, бұл пайдаланушыларды соқыр түрде қабылдамай, сенімі төмен жоспарларды мұқият тексеруге шақырады. Іске асыру:
Сенімділік көрсеткіші Қарапайым пайыздық көрсеткіш (мысалы, Сенім: 95%) жылдам, сканерленетін көрсеткіш болуы мүмкін. Қолдану саласы туралы мәлімдеме Агенттің сараптама саласының нақты мәлімдемесі (мысалы, Ауқымы: Тек саяхатқа тапсырыс беру) пайдаланушы күтулерін басқаруға көмектеседі және олардың агенттен ол арналмаған тапсырмаларды орындауды сұрауына жол бермейді. Visual CuesЖасыл құсбелгісі жоғары сенімділікті білдіреді, ал сары сұрақ белгісі белгісіздікті көрсетіп, пайдаланушыны мұқият қарап шығуға шақырады.
Бұл үлгіні қашан бірінші орынға қою керек. Агенттің өнімділігі кіріс деректерінің сапасына немесе тапсырманың анық еместігіне байланысты айтарлықтай өзгеруі мүмкін кезде басымдық беріңіз. Бұл әсіресе сарапшылық жүйелерде (мысалы, медициналық көмекші құралдар, код көмекшілері) маңызды, мұнда адам AI нәтижесін сыни тұрғыдан бағалауы керек. Қабылданбау қаупі Онсыз пайдаланушылар сенімділігі төмен галлюцинацияларды соқырлықпен қабылдай отырып, автоматтандырудың бұрмалануының құрбаны болады немесе жоғары сенімді жұмысты уайымдап екі рет тексереді. Сәттілік көрсеткіштері:
Үлгінің сенімділік баллы мен пайдаланушыны қабылдау жылдамдығы арасындағы калибрлеу бағасы Pearson корреляциясы. Мақсат > 0,8. Scrutiny Delta Сенімділігі төмен жоспарлар мен жоғары сенімді жоспарларды қараудың орташа уақыты арасындағы айырмашылық. Оң болады деп күтілуде (мысалы, +12 секунд).
5. Әрекет аудиті және болдырмау: соңғы қауіпсіздік желісі Сенім қателіктен құтылуға болатынын білуді талап етеді. Болдырмауфункция пайдаланушыға агент түсінбесе де, салдары апатты емес екеніне сендіретін соңғы қарым-қатынас қауіпсіздігі желісі болып табылады. Пайдаланушының сенімділігін арттырудың жалғыз ең күшті механизмі агент әрекетін оңай өзгерту мүмкіндігі болып табылады. Әр ықтимал әрекет үшін көрнекті Болдырмау түймесі бар тұрақты, оңай оқылатын Әрекет аудиті журналы - бұл қауіпсіздіктің соңғы желісі. Бұл автономия беру қаупін күрт төмендетеді. Психологиялық негіз Қатені оңай жоюға болатынын білу психологиялық қауіпсіздікті қамтамасыз етеді, пайдаланушыларды қайтымсыз салдарлардан қорықпай тапсырмаларды беруге шақырады. Дизайндың ең жақсы тәжірибелері:
Уақыт шкаласын көру Агент бастаған барлық әрекеттердің хронологиялық журналы ең интуитивті пішім болып табылады. Күй индикаторларын өшіруӘрекеттің сәтті болғанын, орындалып жатқанын немесе кері қайтарылғанын көрсетіңіз. Уақытпен шектелген Болдырмау Белгілі бір нүктеден кейін қайтымсыз болатын әрекеттер үшін (мысалы, қайтарылмайтын брондау), UI бұл уақыт терезесін анық көрсетуі керек (мысалы, 15 минут ішінде Болдырмау мүмкіндігі бар). Жүйенің шектеулері туралы бұл мөлдірлік қайтару мүмкіндігінің өзі сияқты маңызды. Әрекеттің қашан тұрақты болатыны туралы шынайы болу сенімділікті арттырады.
Бұл үлгіге қашан басымдық беру керек Бұл барлық дерлік агенттік жүйелерде орындалуы керек негізгі үлгі. Автономды мүмкіндіктерді енгізу кезінде немесе қатенің құны (қаржылық, әлеуметтік немесе деректерге қатысты) жоғары болғанда, бұл мүлдем келіспейді. Өткізіп алу қаупі Онсыз бір қателік сенімді жояды, өйткені пайдаланушылар қауіпсіздік желісі жоқ екенін түсінеді. Сәттілік көрсеткіштері:
Қайтару жылдамдығыҚайтарылған әрекеттер / Орындалған жалпы әрекеттер. Арнайы тапсырма үшін Реверсия жылдамдығы > 5% болса, сол тапсырма үшін автоматтандыруды өшіріңіз. Safety Net Conversion. Болдырмауды сәтті пайдаланғаннан кейін 7 күн ішінде Автономды әрекет ету режиміне жаңарған пайдаланушылардың пайызы.
6. Эскалация жолы: белгісіздікпен сыпайы түрде әрекет ету Ақылды серіктес болжау орнына қашан көмек сұрау керектігін біледі. Бұл үлгі агентке сенімділікті тоздырмай, нығайтатын кішіпейілділікті көрсете отырып, пайдаланушыға жоғарылату арқылы белгісіздікті әдемі өңдеуге мүмкіндік береді. Тіпті ең озық агент пайдаланушының ниеті немесе ең жақсы әрекет бағыты туралы белгісіз жағдайларға тап болады. Оның бұл белгісіздікпен қалай күресетіні - анықтаушы сәт. Жақсы жобаланған агент болжамайды; күшейеді. Психологиялық тірек Агент болжаудан гөрі өз шегін мойындаған кезде, түсініксіз жағдайларда пайдаланушының беделін құрметтеу арқылы сенім артады. Эскалация үлгілеріне мыналар кіреді:
Түсіндіруді сұрау «Сіз «келесі сейсенбі» деп атап өттіңіз. 30 қыркүйек немесе 7 қазан дейсіз бе? Параметрлерді көрсету"Мен сіздің критерийлеріңізге сәйкес келетін үш рейс таптым. Қайсысы сізге ұнады?" Адамның араласуын сұрау Жоғары тәуекелді немесе өте түсініксіз тапсырмалар үшін агентте адам сарапшысына немесе қолдау агентіне қосылудың нақты жолы болуы керек. Сұрау келесідей болуы мүмкін: "Бұл транзакция әдеттен тыс болып көрінеді және мен қалай жалғастыру керектігін білмеймін. Мен оны адам агентінің тексеруі үшін белгілегенімді қалайсыз ба?"
Бұл үлгіні қашан басымдық беру керек Пайдаланушы ниеті анық емес немесе жоғары контекстке тәуелді болуы мүмкін (мысалы, табиғи тілдегі өзара әрекеттесулер, күрделі деректер сұраулары) домендерде басымдық беріңіз. Мұны агент толық емес ақпаратпен жұмыс істегенде немесе бірнеше дұрыс жолдар болған кезде пайдаланыңыз. Өткізіп алу қаупі Онсыз агент ақырында пайдаланушыны алшақтататын сенімді, апатты болжам жасайды. Сәттілік көрсеткіштері:
Көтеру жиілігіАгенті анықтамаға сұраулар/жалпы тапсырмалар. Салауатты диапазон: 5-15%. Қалпына келтіру табысының жылдамдығы Тапсырмалар эскалациядан кейінгі орындалған / жалпы эскалациялар. Мақсат > 90%.
Үлгі Ең жақсысы Бастапқы тәуекел Негізгі көрсеткіш Мақсатты алдын ала қарау Қайтымсыз немесе қаржылық әрекеттер Пайдаланушы өзін қорқытылғандай сезінеді >85% Қабылдау деңгейі Автономиялық теру Айнымалы тәуекел деңгейлері бар тапсырмалар Функциядан толық бас тарту Айналуды орнату Түсіндірілетін негіздеме Фондық немесе автономды тапсырмалар Пайдаланушы қателерді қабылдайды «Неге?» Билет көлемі Сенім сигналы Эксперттік немесе жоғары үлесті жүйелер Автоматтандырудың ауытқуы Дельтаны тексеру Әрекет аудиті және болдырмау Барлық агенттік жүйелер Тұрақты сенім жоғалту <5%Реверсия жылдамдығы Эскалация жолы Бірыңғай пайдаланушы ниеті Сенімді, апатты болжамдар >90% қалпына келтіру сәттілігі
1-кесте: Agentic AI UX үлгілерінің қысқаша мазмұны. Арнайы домен тәуекелі мен қажеттіліктеріне негізделген көрсеткіштерді реттеуді ұмытпаңыз. Жөндеу және жөндеу үшін жобалау Бұл тиімді түрде кешірім сұрауды үйренеді. Жақсы кешірім қатені мойындайды, зиянды түзетеді және одан сабақ алуға уәде береді. Қателер мүмкін емес; олар болмай қоймайтын нәрсе. Агенттік жүйенің ұзақ мерзімді табысы оның кемелді болу қабілетіне емес, сәтсіздікке ұшыраған кезде әдемі қалпына келтіру қабілетіне байланысты. Жөндеу және қалпына келтіру үшін сенімді негіз - бұл кейіннен ойластырылған емес, негізгі мүмкіндік. Эмпатикалық кешірім және анық түзету Агент қателескен кезде қате туралы хабар кешірім сұрау болып табылады. Ол психологиялық дәлдікпен жасалуы керек. Бұл сәт жауапкершілікті көрсетудің маңызды мүмкіндігі болып табылады. Қызметтерді жобалау тұрғысынан алғанда, компаниялар қызметтерді қалпына келтіру парадоксын осы жерде пайдалана алады: қызмет сәтсіздігін бастан кешірген, содан кейін сәтті және эмпатикалық қалпына келген тұтынушы ешқашан сәтсіздікке ұшырамаған тұтынушыға қарағанда шынайырақ бола алатын құбылыс. Мінсіз орындалудың ұзақ тарихына қарағанда, жақсы өңделген қате сенімділікті арттыратын оқиға болуы мүмкін. Ең бастысы - қатені жөндеуді қажет ететін қарым-қатынастың үзілуі ретінде қарастыру. Бұл мыналарды қамтиды:
Қатені мойындау Хабарламада қате жіберілгені анық және қарапайым көрсетілуі керек. Мысал: Мен ақшаны қате аудардым. Шұғыл түзетуді көрсетіңіз. Түзету әрекетін дереу орындаңыз. Мысал: Мен әрекетті қайтардым, ал қаражат сіздің шотыңызға қайтарылды. Қосымша көмекке жол беріңіз Әрқашан адам қолдауына нақты сілтеме ұсыныңыз. Бұл көңілсіздікті төмендетеді және агенттің өзінен тыс жауапкершілік жүйесі бар екенін көрсетеді.
Жақсы жобаланған жөндеу интерфейсі келесідей болуы мүмкін: Жақында тасымалдауыңызда қателік жібердік. Кешірім сұраймын. Мен $250 қате шотқа аудардым.✔ Түзету әрекеті: Аударым кері қайтарылды және сіздің $250 қайтарылды.✔ Келесі қадамдар: Оқиға қайталанбауы үшін ішкі тексеру үшін белгіленді. Қосымша көмек керек пе? [Қолдау қызметіне хабарласыңыз]
Қауіпсіз инновациялар үшін басқару механизмін құру Жоғарыда сипатталған дизайн үлгілері пайдаланушыға бағытталған басқару элементтері болып табылады, бірақ олар сенімді ішкі қолдау құрылымынсыз тиімді жұмыс істей алмайды. Бұл бюрократиялық кедергілер жасау туралы емес; бұл стратегиялық артықшылық құру туралы. Жетілген басқару жүйесі бар ұйым бренд тәуекелін азайту үшін қажетті қоршаулар бар екенін біле отырып, неғұрлым өршіл агенттік мүмкіндіктерді үлкен жылдамдықпен және сенімділікпен жібере алады. Бұл басқару механизмі қауіпсіздікті бақылау тізімінен бәсекеге қабілетті активке айналдырады. Бұл қозғалтқыш заңды, сәйкестік және қолдаудың маңызды қолдауымен UX, өнім және инженерия кросс-функционалды альянсынан тұратын, ресми басқару органы, Агенттік AI этика кеңесі ретінде жұмыс істеуі керек. Шағын ұйымдарда бұл «Кеңес» рөлдері көбінесе Өнім, Инженерлік және Дизайн жетекшілерінің бір триадасына ыдырайды. Басқаруға арналған бақылау тізімі
Құқықтық/СәйкестікБұл топ агенттің әлеуетті әрекеттерінің нормативтік және құқықтық шекараларда сақталуын қамтамасыз ететін бірінші қорғаныс желісі болып табылады. Олар автономды әрекетке тыйым салынған аймақтарды анықтауға көмектеседі. Өнім Өнім менеджері агент мақсатының басқарушысы болып табылады. Олар агент не істеуге рұқсат етілмейтінін құжаттайтын ресми автономия саясаты арқылы оның операциялық шекараларын анықтайды және бақылайды. Олар агенттік тәуекелдер тізіліміне ие. UX Research Бұл команда пайдаланушының сенімі мен алаңдаушылығының дауысы болып табылады. Олар пайдаланушының агенттің дамып келе жатқан психикалық моделін түсіну үшін сенімді калибрлеуді зерттеуді, имитацияланған қате мінез-құлық сынақтарын және сапалы сұхбаттарды орындаудың қайталанатын процесіне жауапты. Инженерлік Бұл команда сенімнің техникалық негіздерін жасайды. Олар жүйені сенімді тіркеуге, бір рет басу арқылы қайтару функционалдығын және анық, түсіндірілетін негіздемелерді жасау үшін қажетті ілгектерді құрастыруы керек. Қолдау Бұл командалар сәтсіздіктердің алдыңғы қатарында. Олар агент қателерінен туындаған инциденттерді өңдеу үшін оқытылуы және жабдықталуы керек және оларда нақты әлемдегі сәтсіздік үлгілері туралы есеп беру үшін Этика кеңесіне тікелей кері байланыс болуы керек.
Бұл басқару құрылымы аықтимал сәтсіздік режимдерін белсенді түрде анықтайтын Агенттік тәуекелдер тізілімін, жүйелі түрде қаралатын әрекеттерді тексеру журналдарын және ресми автономия саясатының құжаттамасын қоса, тірі құжаттар жинағы. Қайдан бастау керек: Өнім жетекшілеріне арналған кезеңдік тәсіл Өнім менеджерлері мен басшылар үшін агенттік AI біріктіру монументалды тапсырма сияқты сезінуі мүмкін. Ең бастысы, оны бір ұшыру ретінде емес, параллельді түрде техникалық мүмкіндікті де, пайдаланушы сенімін де құрудың кезеңді сапары ретінде қарастыру. Бұл жол картасы ұйымыңызға үйренуге және бейімделуге мүмкіндік береді, бұл әрбір қадамның берік негізге салынғанын қамтамасыз етеді. 1-кезең: Негізгі қауіпсіздік (ұсыныс және ұсыныс) Бастапқы мақсат - маңызды автономды тәуекелдерді қабылдамай, сенімнің негізін құру. Бұл кезеңде агенттің билігі талдау мен ұсыныспен шектеледі.
Нақты мақсатты алдын ала қарауды іске асырыңыз: бұл сіздің өзара әрекеттесуіңіздің негізгі үлгісі. Пайдаланушыны орындауды толық бақылауда ұстай отырып, агенттік жоспарларды құрастыру идеясын пайдаланушыларға ыңғайлы етіңіз. Әрекет аудиті және кері қайтару инфрақұрылымын жасаңыз: агент әлі автономды әрекет етпесе де, журналға тіркеу және кері қайтару үшін техникалық тірек құрастырыңыз. Бұл сіздің жүйеңізді болашаққа дайындайды және пайдаланушының қауіпсіздік желісі бар екеніне сенімділігін арттырады.
2-кезең: калибрленген автономия (растау арқылы әрекет ету) Пайдаланушылар агент ұсыныстарына ыңғайлы болғаннан кейін, сіз тәуекелі төмен автономияны енгізуді бастай аласыз. Бұл кезең пайдаланушыларға агент қалай ойлайтынын үйрету және оларға өз қарқынын орнатуға мүмкіндік береді.
Шектеулі параметрлері бар автономды теруді енгізіңіз: Пайдаланушыларға агентке растау арқылы әрекет ету құқығын беруге рұқсат беру арқылы бастаңыз. Түсіндірілетін негіздемені қолданыңыз: агент дайындаған әрбір әрекет үшін нақты түсініктеме беріңіз. Бұл агент логикасын ашады және оның пайдаланушының жеке қалаулары негізінде жұмыс істейтінін күшейтеді.
3-кезең: белсенді өкілдік (өздігінен әрекет ету) Бұл пайдаланушылардың жүйеге сенетінін көрсететін алдыңғы кезеңдерден нақты деректер алғаннан кейін ғана жасалатын соңғы қадам.
Арнайы, алдын ала бекітілген тапсырмалар үшін автономды әрекетті қосу: толық автоматтандырылуы мүмкін қауіптілігі төмен тапсырмалардың бірінші жинағын анықтау үшін 2-кезеңдегі деректерді (мысалы, жоғары Процесс жылдамдығы, төмен қайтару жылдамдығы) пайдаланыңыз. Бақылау және қайталау: автономды мүмкіндіктерді іске қосу - бұл соңғы емес, өнімділікті бақылаудың, пайдаланушының пікірлерін жинаудың және нақты дүние деректеріне негізделген агенттің ауқымы мен әрекетін нақтылаудың үздіксіз циклінің басы.
Дизайн ең жоғарғы қауіпсіздік тұтқасы ретінде Агенттік AI пайда болуы адам мен компьютердің өзара әрекеттесуіндегі жаңа шекараны білдіреді. Бұл технология біздің ауыртпалықтарымызды белсенді түрде азайтып, өмірімізді жеңілдететін болашақты уәде етеді. Бірақ бұл күш үлкен жауапкершілікпен келеді. Автономия техникалық жүйенің нәтижесі болып табылады, бірақ сенімділік - жобалау процесінің нәтижесі. Біздің міндетіміз – пайдаланушы тәжірибесі техникалық мүмкіндіктің апаты емес, оның негізгі бенефициары болуын қамтамасыз ету. UX мамандары, өнім менеджерлері және көшбасшылар ретінде біздің рөліміз осы сенімнің басқарушылары ретінде әрекет ету болып табылады. Бақылау мен келісімге арналған нақты дизайн үлгілерін енгізу, жөндеудің ойластырылған жолдарын жобалау және сенімді басқару құрылымдарын құру арқылы біз агенттік AI-ны өміршең ететін маңызды қауіпсіздік тетіктерін жасаймыз. Біз интерфейстерді құрастырып қана қоймаймыз; біз қарым-қатынастарды құрастырамыз. AI пайдалылығы мен қабылдауының болашағы біздің осы күрделі жүйелерді даналықпен, көрегендікпен және пайдаланушының түпкілікті беделіне терең құрметпен жобалау қабілетімізге байланысты.
