Ushbu seriyaning birinchi qismida biz generativdan agentli sun'iy intellektga tubdan o'tishni o'rnatdik. Biz taklif qilishdan aktyorlikka o'tish nima uchun UX tadqiqotchilari, mahsulot menejerlari va rahbarlari uchun yangi psixologik va uslubiy vositalar to'plamini talab qilishini o'rganib chiqdik. Biz taklif qilishdan tortib avtonom harakat qilishgacha bo'lgan agentlik xatti-harakatlari taksonomiyasini aniqladik, asosiy tadqiqot usullarini belgilab oldik, agentli loy xavfini aniqladik va ushbu yangi hududda harakat qilish uchun zarur bo'lgan javobgarlik ko'rsatkichlarini o'rnatdik. Biz nima va nima uchun ekanligini ko'rib chiqdik. Endi biz asosiydan funktsionalga o'tamiz. Ushbu maqolada quyidagilar keltirilgan: nafaqat kuchli, balki shaffof, boshqariladigan va foydalanuvchi ishonchiga loyiq bo'lgan agent tizimlarni yaratish uchun zarur bo'lgan aniq dizayn naqshlari, operatsion tizimlar va tashkiliy amaliyotlar. Bizning tadqiqotimiz diagnostika vositasi bo'lsa, bu naqshlar davolash rejasidir. Bu amaliy mexanizmlar bo'lib, ular orqali biz AIga misli ko'rilmagan avtonomiya bergan bo'lsak ham, foydalanuvchilarga aniq nazorat tuyg'usini berishimiz mumkin. Maqsad, avtonomiya tizim tomonidan egallab olingan huquq emas, balki foydalanuvchi tomonidan berilgan imtiyoz kabi his etadigan tajriba yaratishdir. Agentlik tizimlari uchun asosiy UX naqshlari Agentlik sun'iy intellektni loyihalash munosabatlarni loyihalashdir. Bu munosabatlar, har qanday muvaffaqiyatli hamkorlik kabi, aniq muloqot, o'zaro tushunish va belgilangan chegaralarga asoslanishi kerak. Taklifdan harakatga o'tishni boshqarish uchun biz agentlik o'zaro ta'sirining funktsional hayotiy tsiklini kuzatadigan oltita naqshdan foydalanamiz:
Oldindan harakat (niyatni o'rnatish) Niyatni oldindan ko'rish va avtonomiya terish foydalanuvchiga biror narsa sodir bo'lishidan oldin reja va agent chegaralarini belgilashini ta'minlaydi. Amalda (kontekstni taqdim etish) Tushuntiriladigan asos va ishonch signali agent ishlayotgan vaqtda shaffoflikni saqlaydi va “nima uchun” va “qanchalik aniq” ekanligini ko'rsatadi. Harakatdan keyingi (xavfsizlik va tiklash) Harakatlarni tekshirish va bekor qilish va kuchaytirish yo'li xatolar yoki yuqori noaniq lahzalar uchun xavfsizlik tarmog'ini ta'minlaydi.
Quyida biz har bir naqshni, shu jumladan muvaffaqiyat ko'rsatkichlari bo'yicha tavsiyalarni batafsil ko'rib chiqamiz. Ushbu maqsadlar sanoat standartlariga asoslangan vakillik mezonlari; maxsus domen xavfi asosida ularni sozlang. 1. Niyatni oldindan ko'rish: nima va qanday qilib aniqlik kiritish Bu qolip: "Mana men nima qilmoqchiman. Siz bunga rozimisiz?" Bu foydalanuvchi-agent munosabatlarida rozilikni izlashning asosiy vaqti. Agent biron-bir muhim harakatni amalga oshirishdan oldin, foydalanuvchi nima sodir bo'lishini aniq va aniq tushunishi kerak. Niyatni oldindan ko'rish yoki Rejaning qisqacha mazmuni xabardor qilingan rozilikni belgilaydi. Bu avtonom jarayonlarning qora qutisini shaffof, ko'rib chiqilishi mumkin bo'lgan rejaga aylantiradigan harakatdan oldin suhbatning pauzasi. Psixologik tayanch Harakatdan oldin rejani taqdim etish kognitiv yukni kamaytiradi va hayratni yo'q qiladi, bu esa foydalanuvchilarga agent o'z niyatlarini chinakam tushunganini tekshirish uchun bir lahzani beradi. Samarali maqsadni ko'rib chiqishning anatomiyasi:
Aniqlik va ixchamlik Oldindan ko'rish darhol hazm bo'lishi kerak. U texnik jargondan qochib, oddiy tilda asosiy harakatlar va natijalarni umumlashtirishi kerak. Masalan, “cancel_booking (id: 4A7B) uchun API chaqiruvi amalga oshirilmoqda” o‘rniga “AA123 reysini San-Fransiskoga bekor qilish” ko‘rsatilishi kerak. Ketma-ket qadamlar Ko'p bosqichli operatsiyalar uchun oldindan ko'rish asosiy bosqichlarni ko'rsatishi kerak. Bu agentning mantig'ini ochib beradi va foydalanuvchilarga taklif qilingan ketma-ketlikda yuzaga kelishi mumkin bo'lgan muammolarni aniqlashga imkon beradi. Foydalanuvchi harakatlarini tozalash Oldindan ko'rish shunchaki bildirishnoma emas, balki qaror qabul qilish nuqtasidir. Bu aniq tanlovlar to'plami bilan birga bo'lishi kerak. Bu qasddan ishqalanish lahzasi, jarayondagi “tezlikni oshirish” foydalanuvchining ongli ravishda tanlashini ta'minlash uchun mo'ljallangan, ayniqsa qaytarib bo'lmaydigan yoki katta xavf tug'diradigan harakatlar uchun.
Keling, ushbu seriyaning birinchi qismidagi sayohat yordamchisi stsenariyimizni qayta ko'rib chiqaylik. Biz ushbu proaktiv yordamchidan agentning parvozni bekor qilishni qanday hal qilishini ko'rsatish uchun foydalanamiz. Agent parvoz bekor qilinganligini aniqladi va tiklanish rejasini tuzdi. Intent Preview quyidagicha ko'rinadi: Sayohatingizni buzish uchun taklif qilingan reja Men sizning soat 10:05 da parvozingiz bekor qilinganini aniqladim. Men nima qilishni rejalashtiryapman: UA456 reysini bekor qiling. Toʻlovni qaytarib oling va bekor qilish tafsilotlarini tasdiqlang. DL789 reysida qayta bron qiling, soat 14:30 da toʻxtovsiz parvozda tasdiqlangan joyni bron qiling, chunki bu keyingi mavjud toʻxtovsiz parvozdir.tasdiqlangan joy. Mehmonxona bandligini yangilash Marriottga kechikayotganingiz haqida xabar bering. Elektron pochta orqali yangilangan marshrut Yangi parvoz va mehmonxona maʼlumotlarini sizga va yordamchingiz Jeyn Doga yuboring.[ Ushbu rejaga amal qiling ] [ Rejani tahrirlang ] [ Oʻzim hal qiling ]
Bu oldindan ko‘rish samaralidir, chunki u bekor qilishdan aloqaga qadar to‘liq tasvirni taqdim etadi va oldinga uchta alohida yo‘lni taklif qiladi: to‘liq rozilik (Davom etish), o‘zgartirish istagi (Rejani tahrirlash) yoki to‘liq bekor qilish (O‘zim hal qilish). Ushbu ko'p qirrali nazorat ishonchning asosidir.
Qachon bu namunaga ustuvorlik berish kerak Bu naqsh qaytarib bo'lmaydigan har qanday harakat (masalan, foydalanuvchi ma'lumotlarini o'chirish), har qanday miqdordagi moliyaviy operatsiyani o'z ichiga oladi, boshqa odamlar yoki tizimlar bilan ma'lumot almashadi yoki foydalanuvchi osonlikcha bekor qila olmaydigan muhim o'zgarishlarni amalga oshiradi. Etkazib berish xavfi Busiz, foydalanuvchilar agentning xatti-harakatlari tufayli pistirmaga tushib qolishadi va nazoratni tiklash uchun funksiyani o'chirib qo'yishadi. Muvaffaqiyat ko'rsatkichlari:
Qabul qilish nisbati tahrirsiz qabul qilingan rejalar / ko'rsatilgan umumiy rejalar. Maqsad > 85%. Override FrequencyTotal Uni o'zim boshqaring Bosishlar / Ko'rsatilgan jami rejalar. Ko'rsatkich > 10% modelni ko'rib chiqishni boshlaydi. Recall AccuracyOldindan ko‘rish yashiringanidan keyin 10 soniyadan keyin rejaning qadamlarini to‘g‘ri sanab bera oladigan test ishtirokchilarining foizi.
Buni yuqori stavkali domenlarga qo'llash Sayohat rejalari o'zaro bog'liq bo'lsa-da, bu naqsh murakkab, yuqori xavf muhitida ajralmas bo'lib qoladi, bu erda xatolik individual sayohat qilish uchun noqulaylik tug'diradi. Ko'pchiligimiz noto'g'ri qarorlar tizimning ishlamay qolishiga, bemorning xavfsizligini xavf ostiga qo'yishiga yoki ishonchsiz texnologiya olib keladigan boshqa ko'plab halokatli natijalarga olib kelishi mumkin bo'lgan sharoitlarda ishlaymiz. Bulut infratuzilmasini boshqarish vazifasi yuklangan DevOps Release Agentni ko'rib chiqing. Shu nuqtai nazardan, Intent Preview tasodifiy uzilishlarga qarshi xavfsizlik to'sig'i sifatida ishlaydi.
Ushbu interfeysda maxsus terminologiya (Drain Traffic, Rollback) umumiy tushunchalarni almashtiradi va harakatlar ikkilik va ta'sirli bo'ladi. Foydalanuvchi taklifni ma'qullashdan ko'ra, agent mantig'iga asoslangan katta operatsion o'zgarishlarga ruxsat beradi. 2. Avtonomiya terish: Progressiv avtorizatsiya bilan ishonchni kalibrlash Har bir sog'lom munosabatlarning chegaralari bor. Avtonomiya terish - bu foydalanuvchi o'z agenti bilan qanday qilib o'rnatadi va agent bilan mustaqil ishlashda nima qulayligini belgilaydi. Ishonch ikkilik kalit emas; bu spektr. Foydalanuvchi agentga kam ulushli vazifalarni avtonom tarzda hal qilishiga ishonishi mumkin, lekin yuqori yutuqli qarorlar uchun to'liq tasdiqni talab qilishi mumkin. Avtonomiya terish, progressiv avtorizatsiya shakli, foydalanuvchilarga agent mustaqilligining afzal darajasini belgilash imkonini beradi, bu esa ularni munosabatlarni aniqlashda faol ishtirokchiga aylantiradi. Psixologik asoslarFoydalanuvchilarga agentning avtonomiyasini sozlash imkonini berish ularga nazorat o'chog'ini beradi va tizim xatti-harakatlarini shaxsiy xavf-xatarlarga tolerantlik darajasiga moslashtirishga imkon beradi. Amalga oshirishBuni ilova ichida oddiy, aniq sozlama sifatida, ideal holda har bir vazifa turi asosida amalga oshirish mumkin. Birinchi maqolamizdagi taksonomiyadan foydalanib, sozlamalar quyidagicha bo'lishi mumkin:
Kuzatish va taklif qilish Men imkoniyatlar yoki muammolar haqida xabardor bo'lishni xohlayman, lekin agent hech qachon reja taklif qilmaydi. Rejalashtirish va taklif qilish Agent rejalar tuzishi mumkin, ammo har qanday harakatni amalga oshirishdan oldin men har birini ko'rib chiqishim kerak. Tasdiqlash bilan harakat qiling. Tanish vazifalar uchun agent harakatlarni tayyorlashi mumkin va men yakuniy ruxsatnomani beraman. Avtonom tarzda harakat qiling. Oldindan tasdiqlangan vazifalar uchun (masalan, 50 dollardan kam boʻlgan toʻlovlarni muhokama qilish) agent mustaqil harakat qilishi va bu haqda menga xabar berishi mumkin.
Masalan, elektron pochta yordamchisi foydalanuvchi nomidan elektron pochta xabarlarini yuborish va uchrashuvlarni rejalashtirish uchun alohida avtonomiyaga ega bo'lishi mumkin. Bu noziklik muhim, chunki u foydalanuvchi ishonchining nozik haqiqatini aks ettiradi. Qachon birinchi o'ringa qo'yish kerak Bu namunani vazifalari xavf va shaxsiy imtiyozlar bo'yicha (masalan, moliyaviy boshqaruv vositalari, aloqa platformalari) turlicha bo'lgan tizimlarda birinchi o'ringa qo'ying. Bu foydalanuvchilarga past avtonomiyadan boshlash va ishonchi oshgani sayin uni oshirish imkonini beruvchi bortga kirish uchun zarur. O'tkazib yuborish xavfi Busiz, bitta xatoga duch kelgan foydalanuvchilar agentning ruxsatnomalarini qaytarish o'rniga, uni butunlay tark etadilar. Muvaffaqiyat ko'rsatkichlari:
Ishonch zichligi foydalanuvchilarning har bir sozlamadagi ulushi (masalan, 20% taklif, 50% tasdiq, 30% avtomatik). Sozlamalar soni. Sozlamalar oʻzgarishlari / Oyiga jami faol foydalanuvchilar. Yuqori chayqalish ishonchni ko'rsatadio'zgaruvchanlik.
3. Tushuntirish mumkin bo'lgan asos: nima uchun javob berish? Harakat qilgandan so'ng, yaxshi sherik ularning sabablarini tushuntiradi. Ushbu naqsh harakatdan keyin ochiq muloqot bo'lib, Nega? so'rashdan oldin. "Men buni qildim, chunki siz o'tmishda menga X ni afzal ko'rishingizni aytdingiz." Agent, ayniqsa avtonom tarzda harakat qilganda, foydalanuvchining ongida tez-tez savol tug'iladi: Nega u buni qildi? Tushuntirish mumkin bo'lgan asoslar namunasi bu savolga faol javob beradi va agentning qarorlarini qisqacha asoslaydi. Bu texnik jurnal fayli emas. Ushbu turkumdagi birinchi maqolamda biz aldashning oldini olish uchun tizim ibtidoiylarini foydalanuvchiga qarata tilga tarjima qilishni muhokama qildik. Ushbu model ushbu tamoyilning amalda qo'llanilishidir. U xom mantiqni foydalanuvchining o'z afzalliklari va oldingi ma'lumotlariga asoslangan inson o'qiy oladigan tushuntirishga aylantiradi. Psixologik tayanch Agentning harakatlari tushuntirilsa, ular tasodifiy emas, balki mantiqiy bo'lib, foydalanuvchiga agent qanday fikrda ekanligining aniq aqliy modelini yaratishga yordam beradi. Samarali asoslar:
Pretsedentga asoslangan Eng yaxshi tushuntirishlar qoida, afzallik yoki oldingi harakat bilan bog'lanadi. Simple and DirectAvoid murakkab shartli mantiq. Oddiy "Siz X dedingiz, men Y qildim" tuzilmasidan foydalaning.
Sayohat misoliga qaytadigan bo'lsak, parvoz avtonom tarzda qayta bron qilingandan so'ng, foydalanuvchi buni o'z bildirishnomalarida ko'rishi mumkin: Bekor qilingan parvozingizni qayta band qildim. Yangi reys: Delta 789, 14:30 da uchadi. Nima uchun men bunday harakat qildim: Sizning asl parvozingiz aviakompaniya tomonidan bekor qilindi. Siz bir kunlik, to‘xtovsiz parvozlar uchun avtonom qayta bron qilishni oldindan ma’qullagansiz.[ Yangi marshrutni ko‘rish ] [ Bu amalni bekor qilish
Mantiqiy asos aniq, himoyalangan va agent foydalanuvchi o'rnatgan chegaralar doirasida ishlayotgani haqidagi fikrni mustahkamlaydi. Qachon birinchi oʻringa qoʻyish kerak Bu namunaga birinchi oʻringa qoʻying, agar mantiq kontekstdan darhol aniq boʻlmasa, har qanday avtonom harakatlar uchun, ayniqsa fonda sodir boʻladigan yoki tashqi hodisa tufayli qoʻzgʻatilgan harakatlar uchun (masalan, parvozni bekor qilish misoli). Etkazib berish xavfi Busiz, foydalanuvchilar to'g'ri avtonom harakatlarni tasodifiy xatti-harakatlar yoki "xatolar" sifatida talqin qiladilar va bu ularning to'g'ri aqliy modelni shakllantirishiga to'sqinlik qiladi. Muvaffaqiyat ko'rsatkichlari:
Nega? Chipta hajmi 1000 faol foydalanuvchiga “Agentning xatti-harakati – noaniq” deb belgilangan qo‘llab-quvvatlash chiptalari soni. Mantiqiy dalillarni tekshirish. O'zaro ta'sirdan keyingi mikroso'rovlarda tushuntirishni "Foydali" deb baholagan foydalanuvchilar ulushi.
4. Ishonch signali Ushbu naqsh agentning munosabatlarda o'zini o'zi anglashi bilan bog'liq. O'z ishonchini bildirish orqali u foydalanuvchiga o'z qaroriga qachon ishonish va qachon ko'proq tekshirishni qo'llashni hal qilishga yordam beradi. Foydalanuvchilarga o'z ishonchini kalibrlashda yordam berish uchun agent o'z rejalari va harakatlariga o'z ishonchini namoyon qilishi kerak. Bu agentning ichki holatini tushunarli qiladi va foydalanuvchi qarorni qachon sinchiklab ko'rib chiqish kerakligini hal qilishga yordam beradi. Psixologik asoslar Noaniqlikni yuzaga chiqarish avtomatlashtirishning noto'g'riligini oldini olishga yordam beradi va foydalanuvchilarni ko'r-ko'rona qabul qilishdan ko'ra, o'ziga ishonchi past bo'lgan rejalarni sinchkovlik bilan ko'rib chiqishga undaydi. Amalga oshirish:
Ishonch balli Oddiy foiz (masalan, Ishonch: 95%) tez, skanerlash mumkin bo'lgan ko'rsatkich bo'lishi mumkin. Qo'llash sohasi deklaratsiyasi Agentning mutaxassislik sohasi haqida aniq bayonot (masalan, Qo'llanish doirasi: faqat sayohatni bron qilish) foydalanuvchi kutganlarini boshqarishga yordam beradi va agentdan o'zi uchun mo'ljallanmagan vazifalarni bajarishni so'rashiga yo'l qo'ymaydi. Visual CuesYashil tasdiq belgisi yuqori ishonchni bildirishi mumkin, sariq savol belgisi esa noaniqlikni ko'rsatishi mumkin va bu foydalanuvchini diqqat bilan ko'rib chiqishga undaydi.
Bu namunani qachon birinchi o‘ringa qo‘yish kerak. Agentning ishlashi kiritilgan ma’lumotlar sifatiga yoki vazifaning noaniqligiga qarab sezilarli darajada farq qilishi mumkin bo‘lgan vaqtni birinchi o‘ringa qo‘ying. Bu, ayniqsa, ekspert tizimlarida (masalan, tibbiy yordam vositalari, kod yordamchilari) juda qimmatlidir, bunda inson AIning natijalarini tanqidiy baholashi kerak. O'tkazib yuborish xavfi Busiz, foydalanuvchilar o'ziga ishonchi past bo'lgan gallyutsinatsiyalarni ko'r-ko'rona qabul qilib, avtomatlashtirish tarafkashligi qurboni bo'ladi yoki yuqori ishonchli ishni xavotir bilan ikki marta tekshiradi. Muvaffaqiyat ko'rsatkichlari:
Kalibrlash Score Model ishonch balli va foydalanuvchini qabul qilish darajasi o'rtasidagi Pearson korrelyatsiyasi. Maqsad > 0,8. Tekshirish DeltaIshonch darajasi past rejalar va yuqori ishonchli rejalarni o'rtacha ko'rib chiqish vaqti o'rtasidagi farq. Ijobiy bo'lishi kutilmoqda (masalan, +12 soniya).
5. Harakatlarni tekshirish va bekor qilish: Yakuniy xavfsizlik tarmog'i Ishonch xatodan qutulishingiz mumkinligini bilishni talab qiladi. Bekor qilishfunktsiya - bu foydalanuvchini agent noto'g'ri tushungan taqdirda ham oqibatlar halokatli emasligiga ishontiradigan yakuniy xavfsizlik tarmog'i. Foydalanuvchilarning ishonchini oshirishning yagona eng kuchli mexanizmi bu agentning harakatini osongina qaytarish qobiliyatidir. Har bir mumkin boʻlgan harakat uchun koʻzga koʻringan “Bekor qilish” tugmasi boʻlgan doimiy, oʻqilishi oson “Action Audit” jurnali xavfsizlikning eng yaxshi tarmogʻidir. Bu avtonomiya berish xavfini keskin kamaytiradi. Psixologik asos Xatoni osonlik bilan bartaraf etish mumkinligini bilish psixologik xavfsizlikni yaratadi va foydalanuvchilarni qaytarib bo'lmaydigan oqibatlardan qo'rqmasdan vazifalarni topshirishga undaydi. Dizaynning eng yaxshi amaliyotlari:
Vaqt jadvalini ko'rish Agent tomonidan boshlangan barcha harakatlarning xronologik jurnali eng intuitiv formatdir. Holat ko‘rsatkichlarini tozalashHarakat muvaffaqiyatli bo‘lganligini, bajarilayotganligini yoki bekor qilinganligini ko‘rsating. Vaqt cheklangan Bekor qilish. Muayyan nuqtadan keyin qaytarib bo'lmaydigan harakatlar uchun (masalan, qaytarib berilmaydigan bandlov), UI bu vaqt oralig'ini aniq ko'rsatishi kerak (masalan, 15 daqiqa davomida bekor qilish mumkin). Tizimning cheklovlari haqidagi shaffoflik bekor qilish qobiliyatining o'zi kabi muhimdir. Harakat qachon doimiy bo'lishi haqida halol bo'lish ishonchni mustahkamlaydi.
Ushbu naqshga qachon ustuvorlik berish kerak Bu deyarli barcha agent tizimlarda amalga oshirilishi kerak bo'lgan asosiy naqshdir. Avtonom xususiyatlarni joriy qilishda yoki xatoning narxi (moliyaviy, ijtimoiy yoki ma'lumotlar bilan bog'liq) yuqori bo'lganda, bu mutlaqo muhokama qilinmaydi. O'tkazib yuborish xavfi Busiz, bitta xato ishonchni butunlay yo'q qiladi, chunki foydalanuvchilar xavfsizlik tarmog'i yo'qligini tushunadilar. Muvaffaqiyat ko'rsatkichlari:
Reversiya darajasiBekor qilingan amallar / Jami bajarilgan amallar. Agar ma'lum bir vazifa uchun Reversiya darajasi > 5% bo'lsa, ushbu vazifa uchun avtomatlashtirishni o'chiring. Safety Net Conversion. Bekor qilish funksiyasidan muvaffaqiyatli foydalangandan so‘ng 7 kun ichida avtonom harakat rejimiga o‘tgan foydalanuvchilar ulushi.
6. Ko'tarilish yo'li: noaniqlik bilan muomala qilish Aqlli sherik, taxmin qilish o'rniga, qachon yordam so'rashni biladi. Ushbu naqsh agentga ishonchni yo'qotmasdan, balki mustahkamlaydigan kamtarlikni namoyish qilib, foydalanuvchiga ko'tarilib, noaniqlikni nozik tarzda hal qilish imkonini beradi. Hatto eng ilg'or agent ham foydalanuvchining niyati yoki eng yaxshi harakat yo'nalishi haqida noaniq bo'lgan vaziyatlarga duch keladi. Bu noaniqlikni qanday hal qilish - bu hal qiluvchi moment. Yaxshi ishlab chiqilgan agent taxmin qilmaydi; kuchayadi. Psixologik tayanch Agar agent taxmin qilishdan ko'ra o'z chegaralarini tan olsa, u noaniq vaziyatlarda foydalanuvchining vakolatlarini hurmat qilish orqali ishonchni mustahkamlaydi. Eskalatsiya namunalari quyidagilarni o'z ichiga oladi:
Tushuntirishni so'rash "Siz "keyingi seshanba" deb aytdingiz. Siz 30 sentyabr yoki 7 oktyabrni nazarda tutyapsizmi?" Tanlovlarni taqdim etish“Mezonlaringizga mos keladigan uchta reys topdim. Qaysi biri sizga ko‘proq mos keladi?” Inson aralashuvini so'rash Katta yoki o'ta noaniq vazifalar uchun agent inson mutaxassisi yoki yordamchi agentga aylanish uchun aniq yo'lga ega bo'lishi kerak. Soʻrov quyidagicha boʻlishi mumkin: “Ushbu tranzaksiya gʻayrioddiy koʻrinadi va men qanday davom etishimga ishonchim komil emas. Buni inson agenti koʻrib chiqishi uchun belgilab qoʻyishimni xohlaysizmi?”
Qachon birinchi oʻringa qoʻyish kerak. Foydalanuvchi niyati noaniq yoki juda kontekstga bogʻliq boʻlishi mumkin boʻlgan domenlarda (masalan, tabiiy tildagi oʻzaro taʼsirlar, murakkab maʼlumotlar soʻrovlari) ustunlik qiling. Buni agent to'liq bo'lmagan ma'lumotlar bilan ishlaganda yoki bir nechta to'g'ri yo'llar mavjud bo'lganda foydalaning. O'tkazib yuborish xavfi Busiz, agent oxir-oqibat foydalanuvchini begonalashtiradigan ishonchli, halokatli taxmin qiladi. Muvaffaqiyat ko'rsatkichlari:
Yordam uchun Eskalatsiya FrequencyAgent so'rovlari / Jami vazifalar. Sog'lom diapazon: 5-15%. Qutqarish muvaffaqiyati darajasi Vazifalar eskalatsiyadan keyin tugallandi / Jami yuksalishlar. Maqsad > 90%.
Naqsh Eng yaxshi uchun Birlamchi xavf Asosiy ko'rsatkich Niyatni oldindan ko'rish Qaytarib bo'lmaydigan yoki moliyaviy harakatlar Foydalanuvchi o'zini pistirmada his qiladi >85% qabul qilish darajasi Avtonomiya terish O'zgaruvchan xavf darajasi bo'lgan vazifalar Xususiyatdan butunlay voz kechish O'chirishni sozlash Tushuntirish mumkin bo'lgan asos Fon yoki avtonom vazifalar Foydalanuvchi xatolarni sezadi "Nima uchun?" Chipta hajmi Ishonch signali Ekspert yoki yuqori stavkali tizimlar Avtomatlashtirishning moyilligi Tekshirish Deltasi Harakatlarni tekshirish va bekor qilish Barcha agent tizimlar Doimiy ishonchni yo'qotish <5%Reversiya darajasi Eskalatsiya yo'li Noaniq foydalanuvchi niyati Ishonchli, halokatli taxminlar >90% tiklanish muvaffaqiyati
1-jadval: Agentic AI UX naqshlarining qisqacha mazmuni. Ko'rsatkichlarni o'zingizning maxsus domen xavfi va ehtiyojlaringizga qarab sozlashni unutmang. Ta'mirlash va tuzatish uchun dizayn Bu samarali kechirim so'rashni o'rganadi. Yaxshi kechirim so'rash xatoni tan oladi, zararni tuzatadi va undan saboq olishni va'da qiladi. Xatolar mumkin emas; ular muqarrar. Agentlik tizimining uzoq muddatli muvaffaqiyati uning mukammal bo'lish qobiliyatiga emas, balki muvaffaqiyatsizlikka uchraganida chiroyli tarzda tiklanish qobiliyatiga bog'liq. Ta'mirlash va tuzatish uchun mustahkam asos - bu o'ylangan narsa emas, balki asosiy xususiyatdir. Empatik uzr va aniq tuzatish Agar agent xatoga yo'l qo'ygan bo'lsa, xato xabari kechirim so'rashdir. U psixologik aniqlik bilan ishlab chiqilishi kerak. Bu vaqt mas'uliyatni ko'rsatish uchun muhim imkoniyatdir. Xizmatni loyihalash nuqtai nazaridan, kompaniyalar xizmatlarni tiklash paradoksidan foydalanishlari mumkin: bu hodisa, xizmatda nosozlikni boshdan kechirgan mijoz, keyinchalik muvaffaqiyatli va hamdardlik bilan tiklanishi, hech qachon muvaffaqiyatsizlikni boshdan kechirmagan mijozga qaraganda ko'proq sodiq bo'lishi mumkin. To'g'ri hal qilingan xato uzoq vaqtdan beri benuqson ijro etilganidan ko'ra kuchliroq ishonchni mustahkamlash hodisasi bo'lishi mumkin. Asosiysi, xatoni tuzatilishi kerak bo'lgan munosabatlarning uzilishi sifatida ko'rib chiqishdir. Bunga quyidagilar kiradi:
Xatoni tan oling Xabarda xatoga yo'l qo'yilganligi aniq va sodda ko'rsatilishi kerak. Misol: Men noto'g'ri pul o'tkazdim. Darhol tuzatishni ayting. Darhol tuzatish harakatini bajaring. Misol: Men harakatni bekor qildim va mablag'lar hisobingizga qaytarildi. Qo'shimcha yordam uchun yo'lni taqdim eting. Har doim insoniy yordamga aniq havolani taklif qiling. Bu umidsizlikni pasaytiradi va agentning o'zidan tashqari javobgarlik tizimi mavjudligini ko'rsatadi.
Yaxshi ishlab chiqilgan ta'mirlash interfeysi quyidagicha ko'rinishi mumkin: Yaqinda transferingizda xato qildik. Kechirim so'rayman. Men 250 dollarni noto‘g‘ri hisob raqamiga o‘tkazdim.✔ Tuzatish chorasi: O‘tkazma bekor qilindi va sizning 250 dollaringiz qaytarildi.✔ Keyingi qadamlar: Voqea qayta sodir bo‘lmasligi uchun ichki tekshirish uchun belgilandi. Qo‘shimcha yordam kerakmi? [Yordam bilan bog'laning]
Xavfsiz innovatsiyalar uchun boshqaruv mexanizmini yaratish Yuqorida tavsiflangan dizayn naqshlari foydalanuvchiga qarashli boshqaruv elementlaridir, ammo ular mustahkam ichki qo'llab-quvvatlash tuzilmasisiz samarali ishlay olmaydi. Bu byurokratik to'siqlarni yaratish haqida emas; bu strategik ustunlikni yaratish haqida. Yetuk boshqaruv tizimiga ega bo'lgan tashkilot, brend xavfini yumshatish uchun zarur bo'lgan himoya vositalari mavjudligini bilgan holda, yanada ulug'vor agent xususiyatlarini tezroq va ishonch bilan jo'natishi mumkin. Ushbu boshqaruv mexanizmi xavfsizlikni nazorat ro'yxatidan raqobatbardosh aktivga aylantiradi. Ushbu vosita rasmiy boshqaruv organi, Agentlik AI Etika Kengashi sifatida ishlashi kerak, u UX, Mahsulot va Muhandislikning o'zaro funktsional ittifoqini o'z ichiga oladi va Huquqiy, Muvofiqlik va Yordamning hayotiy yordami bilan. Kichikroq tashkilotlarda ushbu "Kengash" rollari ko'pincha mahsulot, muhandislik va dizayn etakchilarining yagona triadasiga tushadi. Boshqaruv uchun nazorat ro'yxati
Huquqiy/MuvofiqlikBu jamoa agentning potentsial harakatlari tartibga soluvchi va qonuniy chegaralar ichida qolishini ta'minlovchi birinchi himoya chizig'i hisoblanadi. Ular avtonom harakatlar uchun qat'iy taqiqlangan zonalarni aniqlashga yordam beradi. Mahsulot menejeri agent maqsadining boshqaruvchisidir. Ular agentning nima qilishiga ruxsat berilmaganligini hujjatlashtiradigan rasmiy avtonomiya siyosati orqali uning operatsion chegaralarini belgilaydi va nazorat qiladi. Ular agent risklari reestriga egalik qiladilar. UX ResearchBu jamoa foydalanuvchining ishonchi va xavotirining ovozidir. Ular ishonchni kalibrlash bo'yicha tadqiqotlarni o'tkazish, simulyatsiya qilingan noto'g'ri xatti-harakatlar testlari va foydalanuvchining agentning rivojlanayotgan aqliy modelini tushunish uchun sifatli intervyular uchun takroriy jarayon uchun javobgardir. MuhandislikBu jamoa ishonchning texnik asoslarini quradi. Ular tizimni ishonchli jurnalga yozish, bir marta bosish bilan bekor qilish funksiyasi va aniq, tushuntirib bo'ladigan asoslarni yaratish uchun zarur bo'lgan ilgaklarni yaratishi kerak. Qo'llab-quvvatlashUshbu jamoalar muvaffaqiyatsizlikning oldingi saflarida. Ular agent xatolaridan kelib chiqqan hodisalarni hal qilish uchun o'qitilishi va jihozlangan bo'lishi kerak va ular haqiqiy dunyoda muvaffaqiyatsizlik namunalari haqida hisobot berish uchun Axloqiy Kengashga to'g'ridan-to'g'ri aloqaga ega bo'lishi kerak.
Ushbu boshqaruv tuzilmasi a saqlashi kerakjonli hujjatlar to'plami, shu jumladan potentsial nosozlik usullarini faol ravishda aniqlaydigan Agent risklari reestri, muntazam ravishda ko'rib chiqiladigan harakatlarni tekshirish jurnallari va rasmiy avtonomiya siyosati hujjatlari. Qayerdan boshlash kerak: Mahsulot rahbarlari uchun bosqichma-bosqich yondashuv Mahsulot menejerlari va rahbarlari uchun agentlik AIni birlashtirish monumental vazifadek tuyulishi mumkin. Asosiysi, unga bitta ishga tushirish sifatida emas, balki parallel ravishda ham texnik imkoniyatlar, ham foydalanuvchi ishonchini shakllantirishning bosqichma-bosqich sayohati sifatida yondashishdir. Ushbu yo'l xaritasi tashkilotingizga o'rganish va moslashish imkonini beradi, bu har bir qadam mustahkam poydevorga qurilganligini ta'minlaydi. 1-bosqich: Asosiy xavfsizlik (taklif va taklif) Dastlabki maqsad - muhim avtonom tavakkal qilmasdan ishonch asosini yaratish. Ushbu bosqichda agentning kuchi tahlil va taklif bilan cheklangan.
Qattiq niyatni oldindan ko'rishni amalga oshiring: Bu sizning asosiy o'zaro ta'sir modelingiz. Agent rejalarini tuzish g'oyasi bilan foydalanuvchilarga qulay bo'lsin, shu bilan birga foydalanuvchi ijroni to'liq nazorat qiladi. Harakatlarni tekshirish va bekor qilish infratuzilmasini yarating: agar agent hali avtonom ishlamasa ham, jurnalga yozish va qaytarish uchun texnik iskala yarating. Bu sizning tizimingizni kelajakka tayyorlaydi va foydalanuvchilarda xavfsizlik tarmog'i mavjudligiga ishonch hosil qiladi.
2-bosqich: kalibrlangan avtonomiya (tasdiqlash bilan harakat qilish) Foydalanuvchilar agentning takliflari bilan qulay bo'lgandan so'ng, siz past xavfli avtonomiyani joriy qilishni boshlashingiz mumkin. Ushbu bosqich foydalanuvchilarga agent qanday fikrda ekanligini o'rgatish va ularga o'z tezligini belgilash imkonini beradi.
Cheklangan sozlamalar bilan avtonomiya terish bilan tanishtiring: Foydalanuvchilarga agentga tasdiqlash bilan harakat qilish huquqini berishdan boshlang. Tushuntirish mumkin bo'lgan asosni qo'llang: agent tayyorlagan har bir harakat uchun aniq tushuntirish bering. Bu agentning mantig'ini ochib beradi va u foydalanuvchining shaxsiy imtiyozlari asosida ishlayotganligini mustahkamlaydi.
3-bosqich: proaktiv delegatsiya (avtonom harakat) Bu oxirgi bosqich bo'lib, faqat oldingi bosqichlardan foydalanuvchilarning tizimga ishonishini ko'rsatadigan aniq ma'lumotlarga ega bo'lganingizdan keyingina amalga oshiriladi.
Muayyan, oldindan tasdiqlangan vazifalar uchun avtonom harakatni yoqing: Toʻliq avtomatlashtirilishi mumkin boʻlgan past xavfli vazifalarning birinchi toʻplamini aniqlash uchun 2-bosqich maʼlumotlaridan (masalan, yuqori davom etish tezligi, past Bekor qilish stavkalari) foydalaning. Monitor va takrorlash: Avtonom funksiyalarning ishga tushirilishi oxiri emas, balki ishlashni kuzatish, foydalanuvchilarning fikr-mulohazalarini yig'ish va real dunyo ma'lumotlari asosida agentning ko'lami va xatti-harakatlarini takomillashtirishning uzluksiz tsiklining boshlanishi.
Dizayn eng yaxshi xavfsizlik dastagi sifatida Agentlik AIning paydo bo'lishi inson va kompyuter o'zaro ta'sirida yangi chegarani anglatadi. Bu texnologiya bizning yuklarimizni faol ravishda kamaytiradigan va hayotimizni tartibga soluvchi kelajakni va'da qiladi. Ammo bu kuch chuqur mas'uliyat bilan birga keladi. Avtonomiya texnik tizimning natijasidir, ammo ishonchlilik dizayn jarayonining natijasidir. Bizning vazifamiz foydalanuvchi tajribasi texnik imkoniyatlarning halokati emas, balki uning asosiy foydasi bo'lishini ta'minlashdir. UX mutaxassislari, mahsulot menejerlari va rahbarlari sifatida bizning vazifamiz ushbu ishonchning boshqaruvchilari sifatida harakat qilishdir. Nazorat va rozilik uchun aniq dizayn naqshlarini amalga oshirish, ta'mirlash uchun puxta yo'llarni loyihalash va mustahkam boshqaruv tizimini yaratish orqali biz agentlik AIni hayotiy qiladigan muhim xavfsizlik vositalarini yaratamiz. Biz shunchaki interfeyslarni loyihalashtirmaymiz; biz munosabatlarni qurmoqdamiz. Sun'iy intellektning foydasi va qabul qilinishining kelajagi bizning ushbu murakkab tizimlarni donolik, uzoqni ko'ra bilish va foydalanuvchining yakuniy vakolatiga chuqur hurmat bilan loyihalash qobiliyatimizga bog'liq.
