Бул сериянын биринчи бөлүгүндө биз генеративдик жасалма интеллекттен агенттикке фундаменталдуу өзгөрүүнү түздүк. Биз сунуш кылуудан актердукка өтүү эмне үчүн UX изилдөөчүлөрү, продукт менеджерлери жана лидерлер үчүн жаңы психологиялык жана методологиялык инструменттерди талап кыларын изилдеп көрдүк. Биз агенттик жүрүм-турумдун таксономиясын аныктадык, сунуш кылуудан автономдуу иш-аракет кылууга чейин, негизги изилдөө ыкмаларын аныктадык, агенттик ылай коркунучун аныктадык жана бул жаңы аймакта багыттоо үчүн талап кылынган отчеттуулуктун метрикасын түздүк. Биз эмне үчүн жана эмне үчүн камтылган. Эми биз фундаменталдуудан функционалдууга өтөбүз. Бул макалада: конкреттүү дизайн үлгүлөрү, операциялык негиздер жана күчтүү гана эмес, ошондой эле ачык-айкын, башкарылуучу жана колдонуучунун ишенимине татыктуу болгон агенттик системаларды куруу үчүн зарыл болгон уюштуруучулук практикалар. Биздин изилдөө диагностикалык курал болсо, бул схемалар дарылоо планы болуп саналат. Бул практикалык механизмдер, алар аркылуу биз AI-га болуп көрбөгөндөй автономия бергенибиз менен, колдонуучуларга ачык башкаруу сезимин бере алабыз. Максаты - автономия система тарабынан басып алынган укук эмес, колдонуучу тарабынан берилген артыкчылык катары сезилген тажрыйбаны түзүү. Агенттик системалар үчүн негизги UX үлгүлөрү Агенттик AI үчүн долбоорлоо мамилени долбоорлоо болуп саналат. Бул мамиле, ар кандай ийгиликтүү өнөктөштүк сыяктуу, так баарлашууга, өз ара түшүнүшүүгө жана белгиленген чектерге негизделиши керек. Сунуштан иш-аракетке өтүүнү башкаруу үчүн, биз агенттик өз ара аракеттенүүнүн функционалдык циклинен кийинки алты схеманы колдонобуз:
Алдын ала аракет (Ниетти түзүү) Ниетти алдын ала көрүү жана автономияны терүү колдонуучунун планын жана агенттин чектерин эч нерсе боло электе аныктоосун камсыздайт. Иш-аракетте (контекстти камсыз кылуу) Түшүндүрүлгөн негиздеме жана ишеним сигналы агент иштеп жатканда ачыктыкты сактап, "эмне үчүн" жана "канчалык анык" экенин көрсөтөт. Аракеттен кийинки (коопсуздук жана калыбына келтирүү) Иш-аракеттерди текшерүү жана жокко чыгаруу жана эскалация жолу каталар же түшүнүксүз учурлар үчүн коопсуздук тармагын камсыз кылат.
Төмөндө биз ар бир үлгүнү майда-чүйдөсүнө чейин, анын ичинде ийгиликке жетүүнүн көрсөткүчтөрү боюнча сунуштарды карап чыгабыз. Бул максаттар өнөр жай стандарттарына негизделген репрезентативдик көрсөткүчтөр; аларды конкреттүү домен тобокелдигине жараша тууралаңыз. 1. Максатты алдын ала көрүү: Эмне жана кантип түшүндүрүү Бул үлгү: "Мына мен эмне кылайын деп жатам. Сиз буга макулсузбу?" Бул колдонуучу-агент мамилесинде макулдук издөөнүн негизги учуру. Агент кандайдыр бир маанилүү иш-аракеттерди жасаардан мурун, колдонуучу эмне болоорун так, бир тараптуу түшүнүшү керек. Максатты алдын ала көрүү же пландын корутундусу маалымдалган макулдукту белгилейт. Бул автономдуу процесстердин кара кутусун ачык-айкын, карала турган планга айландыруу, иш-аракет алдында сүйлөшүү тыныгуусу. Психологиялык негиз Иш-аракет алдында планды көрсөтүү когнитивдик жүктөмдү азайтат жана күтүлбөгөн жерден арылтат, колдонуучуларга агент алардын ниетин чындап түшүнөрүн текшерүү үчүн бир аз убакыт берет. Натыйжалуу ниеттин анатомиясы:
Ачыктык жана кыскалык Алдын ала көрүү дароо сиңирүү керек. Ал техникалык жаргондон алыс, жөнөкөй тил менен негизги иш-аракеттерди жана натыйжаларды жалпылоо керек. Мисалы, "Cancel_booking (id: 4A7B) үчүн API чалуу аткарылууда" дегендин ордуна "AA123 рейсин Сан-Франциского жокко чыгаруу" деп көрсөтүлүшү керек. Ырааттуу кадамдар Көп кадамдуу операциялар үчүн алдын ала көрүү негизги фазаларды камтышы керек. Бул агенттин логикасын ачып берет жана колдонуучуларга сунуш кылынган ырааттуулукта мүмкүн болуучу маселелерди табууга мүмкүндүк берет. Колдонуучунун аракеттерин тазалоо - бул жөн гана эскертүү эмес, чечим кабыл алуу. Ал тандоолордун так топтому менен коштолушу керек. Бул атайылап сүрүлүүнүн учуру, колдонуучунун аң-сезимдүү тандоосун камсыз кылуу үчүн иштелип чыккан процесстеги "тездик".
Бул сериянын биринчи бөлүгүндөгү саякат жардамчысынын сценарийин кайра карап чыгалы. Бул проактивдүү жардамчыны агент рейсти жокко чыгарууну кантип чечерин көрсөтүү үчүн колдонобуз. Агент рейс жокко чыгарылганын аныктап, калыбына келтирүү планын түздү. Intent Preview төмөнкүдөй көрүнөт: Сапарыңыздын үзгүлтүккө учурашы үчүн сунушталган план Мен сиздин саат 10:05 рейсиңиз жокко чыгарылганын байкадым. Мына мен эмнени пландаштырып жатам: UA456 рейсин жокко чыгаруу төлөмдү кайтарып алуу жана жокко чыгаруунун чоо-жайын ырастоо. DL789 рейсинде кайра брондоңуз. Ырасталган орунга саат 14:30да токтобостон орун ээлеп коюңуз, анткени бул кийинки жеткиликтүү тынымсыз рейс.тастыкталган отургуч.Отелдик орундарды жаңыртуу.Марриоттко кеч келе турганыңызды билдириңиз.Электрондук почта Жаңыланган маршруту Сизге жана жардамчыңыз Жейн Доуга жаңы каттам жана мейманкана чоо-жайын жөнөтүңүз.[ Бул планды улантыңыз ] [ Планды түзөтүңүз ] [ Аны өзүм чечиңиз ]
Бул алдын ала көрүү эффективдүү, анткени ал жокко чыгаруудан байланышка чейинки толук сүрөттү камсыз кылат жана алдыга үч башка жолду сунуштайт: толук макулдук (Улантуу), өзгөртүү каалоосу (Планды түзөтүү) же толук жокко чыгаруу (Менин өзүм колго алам). Бул көп кырдуу башкаруу ишенимдин негизи болуп саналат.
Бул үлгүгө качан артыкчылык берүү керек Бул үлгү кайра кайтарылгыс (мисалы, колдонуучунун маалыматтарын жок кылуу), кандайдыр бир суммадагы финансылык транзакцияны камтыган, маалыматты башка адамдар же системалар менен бөлүшүү же колдонуучу оңой эле жокко чыгара албаган олуттуу өзгөртүүнү камтыган ар кандай аракеттерди талкуулоого болбойт. Өткөрүп кетүү коркунучу Ансыз колдонуучулар агенттин аракеттерине буктурмага кабылышат жана көзөмөлдү калыбына келтирүү үчүн функцияны өчүрүшөт. Ийгиликтин көрсөткүчтөрү:
Кабыл алуу катышы. Өзгөртүүсүз кабыл алынган пландар / Көрсөтүлгөн жалпы пландар. Максат > 85%. Override FrequencyTotal Аны өзүм башкаруу Чыкылдатуулар / Көрсөтүлгөн жалпы пландар. Чен > 10% моделди карап чыгууга түрткү берет. Recall Accuracy Алдын ала көрүү жашырылгандан 10 секунддан кийин пландын кадамдарын туура тизмелей алган сынактын катышуучуларынын пайызы.
Муну Жогорку Коюмдар Домендерге колдонуу Саякат пландары окшош база болуп саналса да, ката жеке саякаттоо үчүн ыңгайсыздыкка алып келген татаал, коюмдары жогору чөйрөлөрдө бул үлгү зарыл болуп калат. Көпчүлүгүбүз туура эмес чечимдер системанын иштебей калышына, пациенттин коопсуздугун тобокелге салууга же ишенимсиз технология киргизе турган башка көптөгөн катастрофалык натыйжаларга алып келиши мүмкүн болгон шарттарда иштейбиз. Булут инфраструктурасын башкаруу тапшырмасы берилген DevOps Release Agentти карап көрөлү. Бул контекстте, Intent Preview кокусунан токтоп калууга каршы коопсуздук тосмо катары иштейт.
Бул интерфейсте атайын терминология (Drain Traffic, Rollback) жалпы сөздөрдү алмаштырат жана аракеттер бинардык жана таасирдүү. Колдонуучу сунушту жактырбастан, агенттин логикасына негизделген чоң операциялык өзгөрүүгө уруксат берет. 2. Автономиялык терүү: Прогрессивдүү авторизация менен ишенимди калибрлөө Ар бир дени сак мамиленин чеги болот. Autonomy Dial - бул колдонуучу аны өз агенти менен кантип орнотсо, агент менен өз алдынча иштөөдө эмне ыңгайлуу экенин аныктайт. Ишеним экилик алмаштыргыч эмес; бул спектр. Колдонуучу агентке аз коюмдуу тапшырмаларды өз алдынча чечүүгө ишениши мүмкүн, бирок жогорку коюмдарды кабыл алуу үчүн толук ырастоону талап кылышы мүмкүн. Autonomy Dial, прогрессивдүү авторизациянын бир түрү, колдонуучуларга агенттик көз карандысыздыктын каалаган деңгээлин коюуга мүмкүндүк берип, аларды мамилелерди аныктоодо активдүү катышуучуларга айлантууга мүмкүндүк берет. Психологиялык негиздөөКолдонуучуларга агенттин автономиясын тууралоо мүмкүнчүлүгү аларга башкаруу локусун берип, системанын жүрүм-турумун жеке тобокелдикке толеранттуулук менен дал келүүгө мүмкүндүк берет. ImplementationThis колдонмонун ичинде жөнөкөй, так жөндөө катары ишке ашырылышы мүмкүн, идеалдуу түрдө ар бир тапшырманын негизинде. Биздин биринчи макаладагы таксономияны колдонуу менен, орнотуулар болушу мүмкүн:
Байкоо & Сунуш Мен мүмкүнчүлүктөр же маселелер жөнүндө кабардар болгум келет, бирок агент эч качан план сунуштабайт. План жана сунуштооАгент пландарды түзө алат, бирок мен кандайдыр бир иш-аракеттерди жасоодон мурун ар бирин карап чыгышым керек. Ырастоо менен аракеттениңиз Тааныш тапшырмалар үчүн агент аракеттерди даярдай алат, мен акыркы баруу/барбоо ырастоосун берем. Автономдуу аракеттенүү Алдын ала бекитилген тапшырмалар үчүн (мисалы, 50 доллардан төмөн төлөмдөрдү талашуу) агент өз алдынча иш алып барып, мага кабарлай алат.
Электрондук почта жардамчысы, мисалы, колдонуучунун атынан электрондук каттарды жөнөтүүгө каршы жолугушууларды пландаштыруу үчүн өзүнчө автономияга ээ болушу мүмкүн. Бул гранулярдуулук негизги болуп саналат, анткени ал колдонуучунун ишениминин нюанстуу чындыгын чагылдырат. Бул үлгүгө качан артыкчылык берүү керек Тапшырмалары тобокелдик жана жеке артыкчылыктар боюнча ар түрдүү болгон системаларда (мисалы, каржыны башкаруу куралдары, байланыш платформалары) буга артыкчылык бериңиз. Бул колдонуучуларга аз автономиядан баштоого жана алардын ишеними өскөн сайын аны жогорулатууга мүмкүндүк берүүчү бортко кирүү үчүн абдан маанилүү. Өткөрүп жиберүү коркунучу Ансыз бир эле катага туш болгон колдонуучулар анын уруксаттарын кайра терүүнүн ордуна агенттен толугу менен баш тартышат. Ийгиликтин көрсөткүчтөрү:
Ар бир жөндөө боюнча колдонуучулардын Trust DensityPercentage бөлүштүрүү (мис., 20% Сунуштоо, 50% Ырастоо, 30% Авто). Орнотуу Чыйратуу Орнотуу өзгөртүүлөрүнүн саны / Айына жалпы активдүү колдонуучулар. Жогорку чыңалуу ишенимди билдиреттуруксуздук.
3. Түшүндүрүлө турган жүйөө: Эмне үчүн? Бир иш-аракет кылгандан кийин, жакшы өнөктөш алардын ой жүгүртүүсүн түшүндүрөт. Бул үлгү иш-аракеттен кийинки ачык байланыш болуп саналат, эмне үчүн? суралганга чейин. "Мен муну кылдым, анткени сиз мага мурун Xти тандайсыз деп айткансыз." Агент өзгөчө автономдуу түрдө иш-аракет кылганда, колдонуучунун оюнда дароо суроо туулат: Эмне үчүн ал мындай кылды? Explainable Rationale үлгүсү бул суроого активдүү жооп берип, агенттин чечимдери үчүн кыскача негиздеме берет. Бул техникалык журнал файлы эмес. Бул сериядагы биринчи макаламда биз алдамчылыктын алдын алуу үчүн тутумдук примитивдерди колдонуучуга багытталган тилге которууну талкууладык. Бул үлгү ошол принциптин практикалык колдонулушу болуп саналат. Ал чийки логиканы колдонуучунун жеке каалоолоруна жана мурунку киргизүүлөрүнө негизделген адам окуй турган түшүндүрмөгө айлантат. Психологиялык негиздөөАгенттин иш-аракеттери түшүнүктүү болгондо, алар кокусунан эмес, логикалык сезилет, бул колдонуучуга агенттин кандай ойдо экендигинин так психикалык моделин түзүүгө жардам берет. Натыйжалуу негиздер:
Прецедентке негизделген Эң жакшы түшүндүрмөлөр эрежеге, артыкчылыкка же мурунку иш-аракетке кайра байланышат. Жөнөкөй жана DirectAvoid татаал шарттуу логика. Жөнөкөй "Сиз X дедиңиз, мен У кылдым" түзүмүн колдонуңуз.
Саякат мисалына кайтып келсек, рейс автономдуу түрдө кайра брондолгондон кийин, колдонуучу муну эскертмелер түрмөгүндө көрүшү мүмкүн: Мен сиздин жокко чыгарылган рейсиңизди кайра ээлеп койдум. Жаңы рейс: Delta 789, саат 14:30да учат. Эмне үчүн мен мындай аракет кылдым: Баштапкы рейсиңиз авиакомпания тарабынан жокко чыгарылды. Сиз ошол эле күндөгү, токтобогон каттамдар үчүн автономдуу кайра ээлеп коюуну алдын ала жактыргансыз.[ Жаңы маршрутту көрүү ] [ Бул аракетти жокко чыгаруу ]
Негиздөө түшүнүктүү, корголгон жана агент колдонуучу белгилеген чектерде иштейт деген идеяны бекемдейт. Бул үлгүгө качан артыкчылык берүү керек? Контексттен жүйө дароо эле байкалбаган ар кандай автономдуу иш-аракеттер үчүн, өзгөчө фондо болгон же тышкы окуядан улам пайда болгон аракеттер үчүн (учууну жокко чыгаруу мисалы сыяктуу) ага артыкчылык бериңиз. Четтетүү коркунучу Ансыз колдонуучулар жарактуу автономдуу аракеттерди кокус жүрүм-турум же "ката" катары чечмелеп, туура психикалык моделди түзүүгө жол бербейт. Ийгиликтин көрсөткүчтөрү:
Эмне үчүн? Билеттин көлөмү 1000 активдүү колдонуучуга "Агенттин жүрүм-туруму — түшүнүксүз" деп белгиленген колдоо билеттеринин саны. Негиздөөнүн текшерүүсү. Өз ара аракеттенүүдөн кийинки микросуроодо түшүндүрмөнү "Пайдалуу" деп баалаган колдонуучулардын пайызы.
4. Ишеним сигналы Бул үлгү агенттин мамиледе өзүн-өзү билип турганы жөнүндө. Өзүнүн ишенимин билдирүү менен, ал колдонуучуга өзүнүн чечимине качан ишенүүнү жана качан көбүрөөк текшерүүнү колдонууну чечүүгө жардам берет. Колдонуучуларга өздөрүнүн ишенимин калибрлөөдө жардам берүү үчүн, агент өзүнүн пландарына жана аракеттерине өзүнүн ишенимин көрсөтүшү керек. Бул агенттин ички абалын түшүнүктүү кылат жана колдонуучуга чечимди качан кылдаттык менен карап чыгууну чечүүгө жардам берет. Психологиялык негиздер Белгисиздиктин бети автоматташтыруунун бир жактуулугун алдын алууга жардам берип, колдонуучуларды сокурдук менен кабыл алуунун ордуна, ишеними төмөн пландарды тыкыр карап чыгууга үндөйт. Ишке ашыруу:
Ишеним баллы Жөнөкөй пайыз (мисалы, Ишенимдүүлүк: 95%) тез, сканерден өтүүчү көрсөткүч болушу мүмкүн. Колдонуу чөйрөсү Декларациясы Агенттин эксперттик чөйрөсүнүн так билдирүүсү (мисалы, Колдонуу чөйрөсү: Саякат ээлөөлөрү гана) колдонуучулардын күтүүлөрүн башкарууга жардам берет жана агенттен ал үчүн иштелип чыкпаган тапшырмаларды аткарууну сурануусуна жол бербейт. Visual CuesЖашыл белги жогорку ишенимди билдирсе, сары суроо белгиси белгисиздикти көрсөтүп, колдонуучуну кылдаттык менен карап чыгууга түрткү берет.
Бул үлгүгө качан артыкчылык берүү керек. Агенттин иштеши киргизилген маалыматтардын сапатына же тапшырманын бүдөмүктүүлүгүнө жараша олуттуу түрдө өзгөрүшү мүмкүн болгондо. Бул өзгөчө эксперттик системаларда (мисалы, медициналык жардамдар, код жардамчылары) абдан баалуу, анда адам AIнын натыйжасына сын көз менен баа бериши керек. Өткөрүп жиберүү коркунучу Ансыз колдонуучулар автоматташтыруунун бир жактуулугунун курмандыгы болуп калышат, ишеними төмөн галлюцинацияларды сокурдук менен кабыл алышат же ишенимдүүлүгү жогору ишти тынчсыздануу менен эки жолу текшерет. Ийгиликтин көрсөткүчтөрү:
Калибрлөө ScorePearson корреляциясы Моделдин ишеним упайы менен Колдонуучунун кабыл алуу курсунун ортосундагы. Максат > 0,8. Scrutiny Delta Ишенимдүүлүгү төмөн пландар менен жогорку ишеним пландарын карап чыгуунун орточо убактысынын ортосундагы айырма. Оң болушу күтүлөт (мисалы, +12 секунд).
5. Аракет аудити жана жокко чыгаруу: Ultimate Safety Network Ишеним катадан айыгып кете аларыңызды билишиңизди талап кылат. The UndoФункция колдонуучуну агент туура эмес түшүнсө да, анын кесепеттери катастрофалык эмес экенине ынандырган эң акыркы коопсуздук тармагы болуп саналат. Колдонуучунун ишенимин жогорулатуунун эң күчтүү механизми бул агенттин аракетин оңой эле кайтаруу мүмкүнчүлүгү. Ар бир мүмкүн болгон аракет үчүн көрүнүктүү "Жокко чыгаруу" баскычы менен туруктуу, окууга оңой "Аракеттер аудитинин журналы" коопсуздуктун эң сонун түйүнү болуп саналат. Бул автономия берүү коркунучун кескин төмөндөтөт. Психологиялык негиздер Ката оңой эле жоюла тургандыгын билүү психологиялык коопсуздукту жаратып, колдонуучуларды артка кайтарылгыс кесепеттерден коркпостон тапшырмаларды өткөрүп берүүгө үндөйт. Дизайн мыкты тажрыйбалары:
Убакыт сызыгын көрүү Агент тарабынан демилгеленген бардык аракеттердин хронологиялык журналы эң интуитивдик формат. Статус көрсөткүчтөрүн тазалоо Аракет ийгиликтүү болгонун, аткарылып жатканын же артка кайтарылганын көрсөтүү. Чектелген убакытты артка кайтаруу Белгилүү бир чекиттен кийин (мисалы, кайтарылгыс ээлеп коюу) артка кайтарылбай турган аракеттер үчүн UI бул убакыт терезесин так билдирүүсү керек (мис., 15 мүнөткө кайтаруу жеткиликтүү). Бул системанын чектөөлөрүнүн ачыктыгы жокко чыгаруу мүмкүнчүлүгү сыяктуу эле маанилүү. Иштин качан туруктуу болоору жөнүндө чынчыл болуу ишенимди бекемдейт.
Бул үлгүгө качан артыкчылык берүү керек Бул дээрлик бардык агенттик системаларда ишке ашырылышы керек болгон негизги үлгү. Автономдуу функцияларды киргизүүдө же катанын баасы (финансылык, социалдык же маалыматка байланыштуу) жогору болгондо, бул таптакыр сүйлөшүүгө болбойт. Өткөрүп кетүү коркунучу Ансыз бир ката ишенимди биротоло жок кылат, анткени колдонуучулар аларда коопсуздук тору жок экенин түшүнүшөт. Ийгиликтин көрсөткүчтөрү:
Reversion RateБолбогон аракеттер / аткарылган жалпы аракеттер. Белгилүү бир тапшырма үчүн Reversion Rate > 5% болсо, ал тапшырма үчүн автоматташтырууну өчүрүңүз. Safety Net Conversion. Артка кайтарууну ийгиликтүү колдонгондон кийин 7 күндүн ичинде Автономдуу аракетке жаңыртылган колдонуучулардын пайызы.
6. Эскалация жолу: Белгисиздикти сыпайылык менен чечүү Акылдуу өнөктөш болжолдоонун ордуна качан жардам суроону билет. Бул үлгү агентке ишенимди жок кылбастан, бекемдеген момундукту көрсөтүп, колдонуучуга көтөрүлүп, бүдөмүк жагдайларды кылдат чечүүгө мүмкүндүк берет. Атүгүл эң өнүккөн агент колдонуучунун ниети же эң жакшы иш-аракет багыты белгисиз болгон жагдайларга туш болот. Бул белгисиздикти кантип чечет - бул аныктоочу учур. Жакшы иштелип чыккан агент божомолдобойт; ал күчөйт. Психологиялык негиздөө. Агент божомолдогондун ордуна өзүнүн чектерин моюнга алганда, түшүнүксүз кырдаалдарда колдонуучунун ыйгарым укуктарын урматтоо менен ишенимди бекемдейт. Эскалация үлгүлөрү төмөнкүлөрдү камтыйт:
Түшүндүрмө суроо "Сиз "кийинки шейшемби" деп айттыңыз. 30-сентябрды же 7-октябрды айтып жатасызбы?" Параметрлерди көрсөтүү "Сиздин критерийлериңизге дал келген үч рейс таптым. Сизге кайсынысы жакшы көрүнөт?" Адамдын кийлигишүүсүн суроо Жогорку коюмдар же өтө түшүнүксүз тапшырмалар үчүн агент адам экспертине же колдоо агентине кайрылуунун так жолуна ээ болушу керек. "Бул транзакция адаттан тыш көрүнөт жана мен кантип улантаарымды билбей турам. Муну адам агенти карап чыгышы үчүн белгилешимди каалайсызбы?"
Бул үлгүгө качан артыкчылык берүү керек Колдонуучунун ниети эки ача же өтө контекстке көз каранды болушу мүмкүн болгон домендерде артыкчылык бериңиз (мис., табигый тилдердин өз ара аракеттешүүсү, татаал маалымат сурамдары). Муну агент толук эмес маалымат менен иштегенде же бир нече туура жол бар болгондо колдонуңуз. Өткөрүп коюу тобокелдиги Ансыз агент акыры ишенимдүү, катастрофалык божомолду жасайт, бул колдонуучуну алыстатат. Ийгиликтин көрсөткүчтөрү:
Escalation FrequencyAgent Жардам сурамдары / Жалпы тапшырмалар. Ден соолук диапазону: 5-15%. Калыбына келтирүү Ийгилик ылдамдыгы Тапшырмалар Эскалациядан кийинки аткарылган / Жалпы эскалациялар. Максат > 90%.
Үлгү Best For Негизги тобокелдик Негизги метрика Intent Preview Кайтарылгыс же каржылык аракеттер Колдонуучу өзүн буктурмага кабылгандай сезет >85% кабыл алуу курсу Autonomy Dial Тобокелдик деңгээли өзгөрүлүүчү милдеттер Функциядан толук баш тартуу Орнотуу Чыйратуу Түшүндүрмө негиз Фондук же автономдуу тапшырмалар Колдонуучу мүчүлүштүктөрдү сезет "Эмне үчүн?" Билеттин көлөмү Ишеним сигналы Эксперттик же жогорку коюм системалары Автоматташтыруу багыты Scrutiny Delta Аракет аудити жана жокко чыгаруу Бардык агенттик системалар Туруктуу ишеним жоготуу <5%Reversion Rate Эскалация жолу Колдонуучунун ниети түшүнүксүз Ишенимдүү, катастрофалуу божомолдор >90% калыбына келтирүү ийгилиги
1-таблица: Agentic AI UX үлгүлөрүнүн корутундусу. Белгилүү бир домендин тобокелдигине жана муктаждыктарына жараша көрсөткүчтөрдү тууралоону унутпаңыз. Оңдоо жана калыбына келтирүү үчүн долбоорлоо Бул эффективдүү кечирим суроону үйрөнүүдө. Жакшы кечирим суроо катаны мойнуна алып, зыянды оңдоп, андан сабак алууну убада кылат. Каталар мүмкүн эмес; алар кутулгус нерсе. Агенттик системанын узак мөөнөттүү ийгилиги анын кемчиликсиз болуу жөндөмүнөн азыраак, ал иштебей калганда жакшынакай калыбына келтирүү жөндөмүнөн көз каранды. Оңдоп-түзөө жана калыбына келтирүү үчүн бекем негиз - бул кийин ойлонулган нерсе эмес, негизги өзгөчөлүк. Эмпатикалык кечирим суроо жана ачык-айкын оңдоо Агент ката кетиргенде, ката кабары кечирим суроо болуп саналат. Ал психологиялык тактык менен иштелип чыгышы керек. Бул учур жоопкерчиликти көрсөтүү үчүн маанилүү мүмкүнчүлүк болуп саналат. Кызматты долбоорлоонун көз карашынан алганда, компаниялар кызматты калыбына келтирүү парадоксун мына ушул жерде колдоно алышат: кызматтын иштебей калышына дуушар болгон кардар, андан кийин ийгиликтүү жана эмпатикалык калыбына келтирилген, чындыгында эч качан мүчүлүштүккө учурабаган кардарга караганда көбүрөөк лоялдуу боло алат. Жакшы иштетилген ката кемчиликсиз аткаруунун узак тарыхына караганда күчтүүрөөк ишенимди бекемдөө окуясы болушу мүмкүн. Негизгиси катаны оңдоону талап кылган мамиленин үзүлүшү катары кароо. Бул төмөнкүлөрдү камтыйт:
Катаны моюнга алуу Кабарда ката кетирилгендиги так жана жөнөкөй көрсөтүлүшү керек. Мисал: Мен акчаны туура эмес котордум. Дароо оңдоону айтыңыз. Дароо оңдоо аракетин жасаңыз. Мисал: Мен аракетти артка кайтардым, жана каражат эсебиңизге кайтарылды. Андан аркы жардамга жол бериңиз Ар дайым адамдык колдоо көрсөтүүгө так шилтемени сунуштаңыз. Бул нааразычылыкты басаңдатат жана агенттин өзүнөн тышкары жоопкерчилик системасы бар экенин көрсөтүп турат.
Жакшы иштелип чыккан оңдоо интерфейси мындай көрүнүшү мүмкүн: Акыркы которууңузда ката кетти. Кечирим сурайм. Мен 250 долларды туура эмес эсепке котордум.✔ Түзөтүү аракети: Которуу артка кайтарылып, 250 долларыңыз кайтарылды.✔ Кийинки кадамдар: Окуя кайталанбашы үчүн ички текшерүү үчүн белгиленген. Дагы жардам керекпи? [ Колдоо менен байланышуу ]
Коопсуз инновациялар үчүн башкаруу механизмин түзүү Жогоруда сүрөттөлгөн дизайн үлгүлөрү колдонуучуга багытталган башкаруу элементтери, бирок алар бекем ички колдоо түзүмүсүз натыйжалуу иштей албайт. Бул бюрократиялык тоскоолдуктарды түзүү жөнүндө эмес; бул стратегиялык артыкчылыкка ээ болуу жөнүндө. Жетилген башкаруу алкагы бар уюм бренд тобокелдигин азайтуу үчүн керектүү тосмолордун бар экенин билип, дымактуу агенттик өзгөчөлүктөрдү ылдамыраак жана ишенимдүүлүк менен жөнөтө алат. Бул башкаруу кыймылдаткычы коопсуздукту текшерүү тизмесинен атаандаштыкка жөндөмдүү активге айлантат. Бул кыймылдаткыч UX, Продукт жана Инженериянын кайчылаш-функционалдык альянсын камтыган, Юридикалык, Комплаенс жана Колдоо кызматтарынын маанилүү колдоосу менен формалдуу башкаруу органы, Агенттик AI Этика Кеңеши катары иштеши керек. Кичинекей уюмдарда бул "Кеңештин" ролдору көбүнчө Продукт, Инженердик жана Дизайн лидерлеринин бирдиктүү үчилтигине кулап кетет. Башкаруу үчүн текшерүү тизмеси
Укуктук/ШайкештикБул команда агенттин потенциалдуу иш-аракеттеринин ченемдик жана укуктук чектерде калышын камсыз кылган биринчи коргонуу линиясы. Алар автономдуу аракеттер үчүн тыюу салынган аймактарды аныктоого жардам берет. Продукт Продукт менеджери агенттин максатынын башкаруучусу. Алар агенттин эмне кылуусуна жол берилбегенин документтештирген расмий автономия саясаты аркылуу анын операциялык чектерин аныктап, көзөмөлдөйт. Алар Агенттик тобокелдик реестрине ээ. UX ResearchБул команда колдонуучунун ишениминин жана тынчсыздануусунун үнү. Алар ишенимдүү калибрлөө боюнча изилдөөлөрдү жүргүзүү үчүн кайталануучу процесске, туура эмес жүрүм-турум сыноолоруна жана колдонуучунун агенттин өнүгүп жаткан психикалык моделин түшүнүү үчүн сапаттуу интервьюларга жооптуу. EngineeringБул команда ишенимдин техникалык негиздерин курат. Алар системаны бекем жазуу, бир чыкылдатуу менен жокко чыгаруу функциясын жана так, түшүнүктүү негиздерди түзүү үчүн керектүү илгичтерди түзүшү керек. Колдоо Бул командалар ийгиликсиздиктин алдыңкы сабында. Алар агенттин каталарынан келип чыккан инциденттерди жөнгө салуу үчүн окутулушу жана жабдылышы керек жана алар Этика Кеңешине түз байланышка ээ болушу керек.
Бул башкаруу түзүмү сакталышы керек атирүү документтердин топтому, анын ичинде потенциалдуу бузулуу режимдерин проактивдүү аныктаган Агенттик тобокелдиктердин реестри, үзгүлтүксүз каралып турган аракеттерди текшерүү журналдары жана автономия саясатынын расмий документтери. Кайдан баштоо керек: Продукт лидерлери үчүн этаптуу мамиле Продукт менеджерлери жана жетекчилер үчүн агенттик AI интеграциясы монументалдуу тапшырмадай сезилиши мүмкүн. Негизгиси, ага бир эле учуруу катары эмес, параллелдүү түрдө техникалык мүмкүнчүлүктөрдү да, колдонуучулардын ишенимин да куруунун этап-этабы катары кароо. Бул жол картасы сиздин уюмуңузга үйрөнүүгө жана ыңгайлашууга мүмкүндүк берет, ар бир кадам бекем фундаментке курулат. 1-фаза: Негизги коопсуздук (сунуш жана сунуш) Баштапкы максат - олуттуу автономдуу тобокелдиктерди албай туруп, ишенимдин негизин түзүү. Бул этапта, агенттин күчү талдоо жана сунуш менен чектелет.
Алдын ала көрүү ниетин ишке ашыруу: Бул сиздин өз ара аракеттенишиңиздин негизги модели. Колдонуучуну аткарууну толук көзөмөлдөп туруу менен, агенттик пландарды түзүү идеясы менен колдонуучуларга ыңгайлуу болуңуз. Аракет аудитин жана жокко чыгаруу инфраструктурасын куруңуз: агент азырынча автономдуу иштебесе да, журналдарды кесүү жана артка кайтаруу үчүн техникалык базаны куруңуз. Бул сиздин системаңызды келечекке даярдайт жана коопсуздук тармагынын бар экенине колдонуучунун ишенимин арттырат.
2-фаза: Калибрленген автономия (Ырастоо менен аракеттенүү) Колдонуучулар агенттин сунуштары менен ынгайлуу болгондон кийин, сиз аз тобокелдиктүү автономияны киргизе баштасаңыз болот. Бул этап колдонуучуларга агенттин кандай ойдо экенин үйрөтүү жана аларга өз темптерин коюуга мүмкүнчүлүк берүү.
Чектелген жөндөөлөр менен Автономиялуу терүүнү киргизиңиз: Колдонуучуларга агентке Ырастоо менен аракеттенүү укугун берүү менен баштаңыз. Түшүндүрүүчү негизди колдонуңуз: Агент даярдаган ар бир иш үчүн так түшүндүрмө бериңиз. Бул агенттин логикасын ачыкка чыгарат жана ал колдонуучунун жеке каалоолорунун негизинде иштеп жатканын бекемдейт.
3-фаза: Проактивдүү өкүлчүлүк (өз алдынча аракеттенүү) Бул акыркы этап, колдонуучулардын системага ишенерин көрсөтүүчү мурунку этаптардагы так маалыматтарыңыз болгондон кийин гана жасалат.
Конкреттүү, алдын ала бекитилген тапшырмалар үчүн Автономдуу аракетти иштетүү: Толугу менен автоматташтырылган тобокелдиги аз тапшырмалардын биринчи топтомун аныктоо үчүн 2-фазадагы маалыматтарды (мис., Процесстин жогорку ылдамдыгы, төмөн кайтаруу ылдамдыгы) колдонуңуз. Монитор жана Итерация: Автономдуу функцияларды ишке киргизүү аягы эмес, аткаруучулук мониторингдин үзгүлтүксүз циклинин башталышы, колдонуучунун пикирлерин чогултуу жана реалдуу дүйнөдөгү маалыматтардын негизинде агенттин масштабын жана жүрүм-турумун тактоо.
Дизайн эң жогорку коопсуздук рычагы катары Агенттик AI пайда болушу адам менен компьютердин өз ара аракеттенүүсүндө жаңы чекти билдирет. Бул технология биздин жүктөмдү активдүү түрдө азайтып, жашообузду иретке келтире турган келечекти убада кылат. Бирок бул күч терең жоопкерчилик менен келет. Автономия - бул техникалык системанын натыйжасы, бирок ишенимдүүлүк - долбоорлоо процессинин натыйжасы. Биздин милдет - колдонуучунун тажрыйбасы техникалык мүмкүнчүлүктүн курмандыгы эмес, анын негизги бенефициары экенин камсыз кылуу. UX адистери, продукт менеджерлери жана лидерлери катары биздин ролубуз ошол ишенимдин башкаруучулары катары иш алып баруу. Контролдоо жана макулдук үчүн ачык дизайн үлгүлөрүн ишке ашыруу, оңдоо үчүн ойлонулган жолдорду иштеп чыгуу жана күчтүү башкаруу алкактарын куруу менен биз агенттик AIди жашоого жөндөмдүү кылган маанилүү коопсуздук рычагдарын түзөбүз. Биз жөн гана интерфейстерди иштеп жаткан жокпуз; биз мамилелерди куруп жатабыз. AIнын пайдалуулугунун жана кабыл алынышынын келечеги биздин бул татаал системаларды акылмандык, көрөгөчтүк жана колдонуучунун эң жогорку ыйгарым укуктарын терең урматтоо менен долбоорлоо жөндөмүбүзгө таянат.
