Bu seriyanın birinci hissəsində biz generativ süni intellektə əsaslı keçidi qurduq. Təklifdən aktyorluğa bu sıçrayışın niyə UX tədqiqatçıları, məhsul menecerləri və liderlər üçün yeni psixoloji və metodoloji alətlər dəsti tələb etdiyini araşdırdıq. Biz agent davranışlarının taksonomiyasını müəyyən etdik, təklif etməkdən tutmuş avtonom hərəkət etməyə qədər, əsas tədqiqat metodlarını təsvir etdik, agent lil risklərini müəyyənləşdirdik və bu yeni ərazidə naviqasiya etmək üçün tələb olunan hesabatlılıq ölçülərini təyin etdik. Nəyi və niyə olduğunu işıqlandırdıq. İndi təməldən funksionala keçirik. Bu məqalə aşağıdakıları təqdim edir: konkret dizayn nümunələri, əməliyyat çərçivələri və yalnız güclü deyil, həm də şəffaf, idarə oluna bilən və istifadəçi etibarına layiq olan agent sistemlərin qurulması üçün vacib olan təşkilati təcrübələr. Araşdırmamız diaqnostik vasitədirsə, bu nümunələr müalicə planıdır. Onlar süni intellektə misli görünməmiş muxtariyyət verdiyimiz halda, istifadəçilərə hiss olunan nəzarət hissi verə biləcəyimiz praktik mexanizmlərdir. Məqsəd muxtariyyətin sistem tərəfindən ələ keçirilən hüquq deyil, istifadəçi tərəfindən verilən imtiyaz kimi hiss olunduğu bir təcrübə yaratmaqdır. Agent sistemləri üçün əsas UX nümunələri Agent AI üçün dizayn əlaqələr üçün dizayn etməkdir. Bu əlaqələr, hər hansı bir uğurlu tərəfdaşlıq kimi, aydın ünsiyyət, qarşılıqlı anlaşma və müəyyən edilmiş sərhədlər üzərində qurulmalıdır. Təklifdən hərəkətə keçidi idarə etmək üçün biz agent qarşılıqlı əlaqənin funksional həyat dövrünü izləyən altı nümunədən istifadə edirik:
Əvvəlcədən Fəaliyyət (Məqsədin Təşkil edilməsi) Məqsədin Öncədən Baxışı və Muxtariyyət Yığımı istifadəçinin hər hansı bir hadisə baş verməzdən əvvəl planı və agentin sərhədlərini müəyyənləşdirməsini təmin edir. Fəaliyyətdə (Kontekst təmin edir) İzah edilə bilən Əsaslandırma və Etibar Siqnalı agent işləyərkən şəffaflığı qoruyur, “niyə” və “nə qədər əmin” olduğunu göstərir. Fəaliyyətdən sonrakı (Təhlükəsizlik və Bərpa) Fəaliyyət Auditi və Geri Alma və Eskalasiya Yolu xətalar və ya yüksək qeyri-müəyyən məqamlar üçün təhlükəsizlik şəbəkəsi təmin edir.
Aşağıda, müvəffəqiyyət üçün ölçülər üçün tövsiyələr daxil olmaqla, hər bir nümunəni ətraflı şəkildə əhatə edəcəyik. Bu hədəflər sənaye standartlarına əsaslanan nümunəvi meyarlardır; onları xüsusi domen riskinizə əsasən tənzimləyin. 1. Niyyət Öncədən Baxış: Nəyin və Necənin Aydınlaşdırılması Bu nümunə "Budur, mən nə etmək üzrəyəm. Bununla razısınızmı?" deməyin danışıq ekvivalentidir. Bu, istifadəçi-agent münasibətində razılıq istəməyin əsas məqamıdır. Agent hər hansı mühüm tədbir görməzdən əvvəl istifadəçi nə baş verəcəyini aydın, birmənalı başa düşməlidir. Niyyət Ön Baxışı və ya Plan Xülasəsi məlumatlı razılığı müəyyən edir. Bu, avtonom proseslərin qara qutusunu şəffaf, nəzərdən keçirilə bilən plana çevirən fəaliyyətdən əvvəl danışıq fasiləsidir. Psixoloji Dəstək. Fəaliyyətdən əvvəl planın təqdim edilməsi idrak yükünü azaldır və sürprizi aradan qaldırır, istifadəçilərə agentin onların niyyətlərini həqiqətən dərk etdiyini yoxlamaq üçün vaxt verir. Effektiv Niyyət Ön Baxışının Anatomiyası:
Aydınlıq və Qısalıq Önizləmə dərhal həzm oluna bilən olmalıdır. O, texniki jarqondan qaçaraq, ilkin hərəkətləri və nəticələri sadə dildə ümumiləşdirməlidir. Məsələn, "Cancel_booking (id: 4A7B) üçün API çağırışı yerinə yetirilir" əvəzinə "AA123-ün San-Fransiskoya uçuşunu ləğv edin" qeyd edilməlidir. Ardıcıl AddımlarÇox addımlı əməliyyatlar üçün ilkin baxış əsas mərhələləri əks etdirməlidir. Bu, agentin məntiqini ortaya qoyur və istifadəçilərə təklif olunan ardıcıllıqla potensial problemləri aşkar etməyə imkan verir. İstifadəçi Fəaliyyətlərini təmizləyin. O, aydın seçim dəsti ilə müşayiət olunmalıdır. Bu, qəsdən sürtünmə anı, istifadəçinin, xüsusən də geri dönməz və ya yüksək riskli hərəkətlər üçün şüurlu seçim etməsini təmin etmək üçün nəzərdə tutulmuş prosesdə "sürət zərbəsi" dir.
Gəlin bu seriyanın birinci hissəsindən səyahət köməkçisi ssenarimizə yenidən baxaq. Agentin uçuşun ləğvini necə idarə etdiyini göstərmək üçün bu proaktiv köməkçidən istifadə edirik. Agent uçuşun ləğvini aşkar edib və bərpa planını tərtib edib. Niyyət Önizləməsi belə görünür: Səyahətinizin pozulması üçün Təklif olunan Plan Mən 10:05-də uçuşunuzun ləğv edildiyini aşkar etdim. Mən bunu etməyi planlaşdırıram: UA456 Uçuşunu ləğv edin. Pulun qaytarılması prosesini həyata keçirin və ləğvetmə təfərrüatlarını təsdiqləyin. DL789 reysi ilə yenidən bron edin, 14:30-da fasiləsiz uçuşda təsdiqlənmiş oturacaq bron edin, çünki bu, növbəti mövcud fasiləsiz uçuşdur.təsdiqlənmiş oturacaq.Otel rezervasiyasını yeniləyin.Marriotta gec gələcəyinizi bildirin.E-poçtla Yenilənmiş Marşrut Yeni uçuş və otel təfərrüatlarını sizə və köməkçiniz Ceyn Doe göndərin.[ Bu Planla davam edin ] [ Planı Redaktə edin ] [ Özüm idarə edin ]
Bu önizləmə effektivdir, çünki o, ləğvdən tutmuş ünsiyyətə qədər tam təsviri təqdim edir və irəliyə doğru üç fərqli yol təklif edir: tam razılıq (Davam et), dəyişiklik istəyi (Planı redaktə et) və ya tam ləğvetmə (Bunu Özüm idarə et). Bu çoxşaxəli nəzarət inamın təməl daşıdır.
Bu Nümunəyə Nə Zaman Prioritet Verilməli Bu nümunə geri qaytarıla bilməyən (məsələn, istifadəçi məlumatlarının silinməsi), istənilən məbləğdə maliyyə əməliyyatını ehtiva edən, məlumatı digər insanlar və ya sistemlərlə paylaşan və ya istifadəçinin asanlıqla geri ala bilməyəcəyi əhəmiyyətli dəyişiklik edən hər hansı bir hərəkət üçün müzakirə edilə bilməz. Buraxılma riski Bunsuz, istifadəçilər agentin hərəkətləri ilə pusquya düşdüyünü hiss edirlər və nəzarəti bərpa etmək üçün funksiyanı söndürəcəklər. Uğur üçün ölçülər:
Qəbul nisbəti Redaktə etmədən qəbul edilən planlar / Göstərilən ümumi planlar. Hədəf > 85%. FrequencyTotal'ı ləğv et Onu özüm idarə et Kliklər / Göstərilən Ümumi Planlar. Qiymət > 10% modelin nəzərdən keçirilməsinə səbəb olur. Recall AccuracyÖnizləmə gizləndikdən 10 saniyə sonra planın addımlarını düzgün sadalaya bilən test iştirakçılarının faizi.
Bunu Yüksək Bahisli Domenlərə Tətbiq etmək Səyahət planları müqayisə edilə bilən əsas olsa da, səhvin fərdi səyahət üçün narahatçılıqdan daha çox nəticələndiyi mürəkkəb, yüksək riskli mühitlərdə bu nümunə əvəzolunmaz olur. Bir çoxumuz səhv qərarların sistemin sıradan çıxması, xəstənin təhlükəsizliyini riskə atması və ya etibarsız texnologiyanın tətbiq edəcəyi çoxsaylı digər fəlakətli nəticələrlə nəticələnə biləcəyi şəraitdə işləyirik. Bulud infrastrukturunu idarə etmək tapşırığı verilmiş bir DevOps Release Agenti nəzərdən keçirək. Bu kontekstdə Intent Preview təsadüfi fasilələrə qarşı təhlükəsizlik maneəsi kimi çıxış edir.
Bu interfeysdə xüsusi terminologiya (Drain Traffic, Rollback) ümumilikləri əvəz edir və hərəkətlər ikili və təsirlidir. İstifadəçi təklifi təsdiqləməkdənsə, agentin məntiqinə əsaslanaraq böyük əməliyyat dəyişikliyinə icazə verir. 2. Müxtariyyət yığımı: Proqressiv Avtorizasiya ilə Güvən Kalibrləmə Hər sağlam münasibətin sərhədləri var. Autonomy Dial, istifadəçinin agentlə öz agenti ilə necə qurduğu, agentlə tək başına nəyin rahat olduğunu müəyyənləşdirməsidir. Güvən ikili keçid deyil; bir spektrdir. İstifadəçi aşağı riskli tapşırıqları avtonom şəkildə idarə etmək üçün agentə etibar edə bilər, lakin yüksək riskli qərarlar üçün tam təsdiq tələb edə bilər. Mütərəqqi avtorizasiyanın bir forması olan “Autonomy Dial” istifadəçilərə agent müstəqilliyinin seçdikləri səviyyəni təyin etməyə imkan verir və onları əlaqələri müəyyənləşdirməkdə fəal iştirakçılar edir. Psixoloji Dəstək.İstifadəçilərə agentin muxtariyyətini tənzimləməyə icazə vermək, onlara nəzarət lokusu verir və onlara sistemin davranışını şəxsi risk tolerantlığına uyğunlaşdırmağa imkan verir. ImplementationBu, ideal olaraq hər bir tapşırıq növü əsasında tətbiq daxilində sadə, aydın parametr kimi həyata keçirilə bilər. İlk məqaləmizdəki taksonomiyadan istifadə edərək, parametrlər ola bilər:
Müşahidə et və Təklif et Mən imkanlar və ya problemlər barədə xəbərdar olmaq istəyirəm, lakin agent heç vaxt plan təklif etməyəcək. Plan və Təklif etAgent planlar yarada bilər, lakin hər hansı tədbir görülməzdən əvvəl hər birini nəzərdən keçirməliyəm. Təsdiqlə hərəkət edin. Tanış tapşırıqlar üçün agent tədbirlər hazırlaya bilər və mən son get/getmə təsdiqini verəcəyəm. Avtonom şəkildə hərəkət edin Əvvəlcədən təsdiqlənmiş tapşırıqlar üçün (məsələn, 50 dollardan aşağı ödənişlərin mübahisəsi) agent müstəqil hərəkət edə bilər və faktdan sonra mənə xəbər verə bilər.
Məsələn, bir e-poçt köməkçisi, istifadəçi adından e-poçt göndərməkdənsə, görüşləri planlaşdırmaq üçün ayrıca muxtariyyət yığımına sahib ola bilər. Bu detallılıq əsasdır, çünki o, istifadəçinin inamının nüanslı reallığını əks etdirir. Bu Nümunəyə Nə Zaman Prioritet Verilməli Tapşırıqların risk və şəxsi üstünlüklərə görə geniş şəkildə fərqləndiyi sistemlərdə buna üstünlük verin (məsələn, maliyyə idarəetmə alətləri, kommunikasiya platformaları). İstifadəçilərə aşağı muxtariyyətlə başlamağa və güvənləri artdıqca onu artırmağa imkan verən onboarding üçün vacibdir. Buraxılma riski Bunsuz, bir uğursuzluqla qarşılaşan istifadəçilər onun icazələrini geri yığmaq əvəzinə agenti tamamilə tərk edəcəklər. Uğur üçün ölçülər:
Hər parametrə görə istifadəçilərin Güvən SıxlığıPercentage bölgüsü (məsələn, 20% Təklif, 50% Təsdiq, 30% Avtomatik). Setting ChurnAyar Dəyişikliklərinin Sayı / Ayda Ümumi Aktiv İstifadəçilər. Yüksək çaxnaşma inamı göstərirdəyişkənlik.
3. İzah edilə bilən əsaslandırma: Nəyə görə? Bir hərəkət etdikdən sonra yaxşı tərəfdaş onların əsaslandırmasını izah edir. Bu nümunə bir hərəkəti izləyən açıq ünsiyyətdir və Niyə? soruşulmamışdan əvvəl. "Mən bunu etdim, çünki keçmişdə mənə X-ə üstünlük verdiyini söyləmisən." Agent xüsusilə avtonom şəkildə hərəkət edəndə istifadəçinin ağlında tez-tez sual yaranır: Niyə bunu etdi? İzah edilə bilən əsaslandırma nümunəsi agentin qərarları üçün qısa əsaslandırma təmin edərək bu suala fəal şəkildə cavab verir. Bu texniki jurnal faylı deyil. Bu silsilədəki ilk məqaləmdə aldatmacanın qarşısını almaq üçün sistem primitivlərini istifadəçinin baxdığı dilə çevirməyi müzakirə etdik. Bu nümunə həmin prinsipin praktiki tətbiqidir. O, xam məntiqi istifadəçinin öz bəyan etdiyi üstünlüklərə və əvvəlki girişlərə əsaslanan insan tərəfindən oxuna bilən izahata çevirir. Psixoloji Dəstək Agentin hərəkətləri izah edilə bilən olduqda, onlar təsadüfi deyil, məntiqi hiss edirlər, istifadəçiyə agentin necə düşündüyünə dair dəqiq zehni model qurmağa kömək edir. Effektiv əsaslandırmalar:
Presedentdə əsaslandırılmış Ən yaxşı izahatlar qaydaya, üstünlüklərə və ya əvvəlki fəaliyyətə bağlıdır. Sadə və DirectAvoid mürəkkəb şərti məntiq. Sadə “X dediyiniz üçün mən Y etdim” strukturundan istifadə edin.
Səyahət nümunəsinə qayıdaraq, uçuş avtonom şəkildə yenidən bron edildikdən sonra istifadəçi bunu öz bildiriş lentində görə bilər: Ləğv edilmiş uçuşunuzu yenidən rezervasiya etdim. Yeni uçuş: Delta 789, saat 14:30-da yola düşür. Bu əməliyyatı niyə etdim: Orijinal uçuşunuz aviaşirkət tərəfindən ləğv edildi. Siz eyni gün, dayanmadan uçuşlar üçün avtonom yenidən rezervasiyanı əvvəlcədən təsdiqləmisiniz.[ Yeni Marşrut Planına Baxın ] [ Bu əməliyyatı ləğv edin
Məntiq aydın, müdafiə oluna biləndir və agentin istifadəçinin müəyyən etdiyi sərhədlər daxilində fəaliyyət göstərməsi fikrini gücləndirir. Bu Nümunəyə Nə Zaman Prioritet Verilməli Kontekstdən əsaslandırmanın dərhal aydın olmadığı hər hansı avtonom fəaliyyət üçün, xüsusən də arxa planda baş verən və ya xarici hadisə ilə baş verən hərəkətlər üçün (uçuşun ləğvi nümunəsi kimi) ona üstünlük verin. Buraxma Riski Bunsuz, istifadəçilər etibarlı avtonom hərəkətləri təsadüfi davranış və ya “səhvlər” kimi şərh edərək, onların düzgün zehni model yaratmasına mane olur. Uğur üçün ölçülər:
Niyə? Bilet Həcmi 1000 aktiv istifadəçiyə "Agent Davranışı - Aydın deyil" etiketli dəstək biletlərinin sayı. Əsaslandırmanın Təsdiqlənməsi Qarşılıqlı əlaqədən sonrakı mikro sorğularda izahatı “Faydalı” kimi qiymətləndirən istifadəçilərin faizi.
4. Etibar Siqnalı Bu nümunə agentin münasibətdə özünü dərk etməsi ilə bağlıdır. Öz etimadını bildirməklə, o, istifadəçiyə öz mühakiməsinə nə vaxt etibar edəcəyini və nə vaxt daha çox yoxlama tətbiq edəcəyini qərara almağa kömək edir. İstifadəçilərə öz inamlarını yoxlamaqda kömək etmək üçün agent öz planlarında və hərəkətlərində öz inamını üzə çıxarmalıdır. Bu, agentin daxili vəziyyətini daha oxunaqlı edir və istifadəçiyə qərarı daha yaxından nəzərdən keçirməyə qərar verməyə kömək edir. Psixoloji Dəstək Səthi qeyri-müəyyənlik avtomatlaşdırma qərəzinin qarşısını almağa kömək edir, istifadəçiləri kor-koranə qəbul etmək əvəzinə, aşağı inamlı planları nəzərdən keçirməyə təşviq edir. İcra:
Etibar Hesabı Sadə faiz (məsələn, Etibar: 95%) sürətli, skan edilə bilən göstərici ola bilər. Əhatə dairəsi Bəyannaməsi Agentin təcrübə sahəsinin aydın ifadəsi (məsələn, Əhatə dairəsi: Yalnız səyahət sifarişləri) istifadəçi gözləntilərini idarə etməyə kömək edir və onların agentdən onun üçün nəzərdə tutulmayan tapşırıqları yerinə yetirməsini istəməsinin qarşısını alır. Visual CuesA yaşıl onay işarəsi yüksək inamı ifadə edə bilər, sarı sual işarəsi isə qeyri-müəyyənliyi göstərə bilər və istifadəçini daha diqqətlə nəzərdən keçirməyə sövq edir.
Bu Nümunəyə Nə Zaman Prioritet Verilməli Agentin performansı daxil edilmiş məlumatların keyfiyyətinə və ya tapşırığın qeyri-müəyyənliyinə əsaslanaraq əhəmiyyətli dərəcədə dəyişə bildikdə prioritetləşdirin. İnsanın süni intellekt məhsulunu tənqidi qiymətləndirməli olduğu ekspert sistemlərində (məsələn, tibbi yardımlar, kod köməkçiləri) xüsusilə dəyərlidir. Buraxılma riski Bunsuz, istifadəçilər aşağı inamlı hallüsinasiyaları kor-koranə qəbul edərək avtomatlaşdırma qərəzinin qurbanı olacaqlar və ya yüksək inamlı işi həyəcanla iki dəfə yoxlayacaqlar. Uğur üçün ölçülər:
Kalibrləmə Hesabı Model Güvən Skoru və İstifadəçinin Qəbul Dərəcəsi arasında Pearson korrelyasiyası. Hədəf > 0,8. Scrutiny DeltaAşağı inamlı planlar və yüksək güvənli planların orta nəzərdən keçirmə vaxtı arasındakı fərq. Müsbət olması gözlənilir (məsələn, +12 saniyə).
5. Fəaliyyət Auditi və Geri Alma: Son Təhlükəsizlik Şəbəkəsi Güvən bir səhvdən qurtula biləcəyinizi bilmək tələb edir. Geri Alfunksiyası, istifadəçini agent səhv başa düşsə belə, nəticələrin fəlakətli olmadığına zəmanət verən son əlaqə təhlükəsizlik şəbəkəsidir. İstifadəçinin inamını artırmaq üçün yeganə ən güclü mexanizm agentin hərəkətini asanlıqla geri qaytarmaq bacarığıdır. Davamlı, asan oxunan Fəaliyyət Auditi jurnalı, hər bir mümkün hərəkət üçün görkəmli Geri Al düyməsi ən yüksək təhlükəsizlik şəbəkəsidir. Bu, muxtariyyətin verilməsi riskini kəskin şəkildə azaldır. Psixoloji Dəstək Bir səhvin asanlıqla geri qaytarıla biləcəyini bilmək psixoloji təhlükəsizlik yaradır və istifadəçiləri geri dönməz nəticələrdən qorxmadan tapşırıqları həvalə etməyə təşviq edir. Ən yaxşı dizayn təcrübələri:
Timeline View Bütün agent tərəfindən başlanan hərəkətlərin xronoloji jurnalı ən intuitiv formatdır. Status Göstəricilərini SilƏməliyyatın uğurlu olub olmadığını, davam etdiyini və ya geri qaytarıldığını göstərin. Vaxtı Məhdud Geri Alma Müəyyən bir nöqtədən sonra (məsələn, geri qaytarılmayan rezervasiya) sonra geri dönməz hala gələn əməliyyatlar üçün UI bu vaxt pəncərəsini aydın şəkildə bildirməlidir (məsələn, 15 dəqiqə ərzində geri qaytarın). Sistemin məhdudiyyətləri ilə bağlı bu şəffaflıq geri qaytarma qabiliyyətinin özü qədər vacibdir. Bir hərəkətin nə vaxt qalıcı olacağına dair dürüst olmaq inamı artırır.
Bu Nümunəyə Nə Zaman Prioritet Verilməli Bu, demək olar ki, bütün agent sistemlərində həyata keçirilməli olan təməl nümunədir. Avtonom funksiyalar tətbiq edildikdə və ya xətanın qiyməti (maliyyə, sosial və ya məlumatla əlaqəli) yüksək olduqda, bu, tamamilə müzakirə edilə bilməz. Buraxılma riski Bunsuz, bir səhv etibarı həmişəlik məhv edir, çünki istifadəçilər heç bir təhlükəsizlik şəbəkəsinin olmadığını başa düşürlər. Uğur üçün ölçülər:
Reversiya dərəcəsiGeri qaytarılmış əməliyyatlar / Cəmi yerinə yetirilən əməliyyatlar. Müəyyən bir tapşırıq üçün Reversiya dərəcəsi > 5% olarsa, həmin tapşırıq üçün avtomatlaşdırmanı söndürün. Safety Net ConversionUğurla Geri Aldan istifadə etdikdən sonra 7 gün ərzində Avtonom Fəaliyyətə təkmilləşdirən istifadəçilərin faizi.
6. Eskalasiya Yolu: Qeyri-müəyyənliyi zərifliklə idarə etmək Ağıllı tərəfdaş təxmin etmək əvəzinə nə vaxt kömək istəməli olduğunu bilir. Bu model agentə etibarı aşındırmaq əvəzinə, formalaşdıran təvazökarlıq nümayiş etdirərək istifadəçiyə yüksəlməklə qeyri-müəyyənliyi zərif şəkildə idarə etməyə imkan verir. Hətta ən qabaqcıl agent istifadəçinin niyyəti və ya ən yaxşı hərəkət kursu ilə bağlı qeyri-müəyyən olduğu vəziyyətlərlə qarşılaşacaq. Bu qeyri-müəyyənliyi necə idarə edəcəyi müəyyənedici məqamdır. Yaxşı dizayn edilmiş agent təxmin etmir; şiddətlənir. Psixoloji DəstəkAgent təxmin etməkdənsə, limitlərini etiraf etdikdə, qeyri-müəyyən vəziyyətlərdə istifadəçinin səlahiyyətinə hörmət edərək inam yaradır. Eskalasiya Nümunələrinə daxildir:
Aydınlaşdırma tələbi “Siz “gələn çərşənbə axşamı” qeyd etdiniz. Siz sentyabrın 30-u, yoxsa oktyabrın 7-ni nəzərdə tutursunuz?” Seçimlərin təqdim edilməsi "Kriteriyalarınıza uyğun üç uçuş tapdım. Hansı sizə daha yaxşı görünür?" İnsan Müdaxiləsinin Tələb edilməsi Yüksək riskli və ya çox qeyri-müəyyən tapşırıqlar üçün agentin insan eksperti və ya dəstək agenti ilə əlaqə qurmaq üçün aydın yolu olmalıdır. Sual belə ola bilər: "Bu tranzaksiya qeyri-adi görünür və necə davam edəcəyimə əmin deyiləm. İnsan agentinin nəzərdən keçirməsi üçün bunu qeyd etməyimi istərdinizmi?"
Bu Nümunəyə Nə Zaman Prioritet Verilməli İstifadəçi niyyətinin qeyri-müəyyən və ya yüksək kontekstdən asılı ola biləcəyi domenlərdə (məsələn, təbii dildə qarşılıqlı əlaqə, mürəkkəb məlumat sorğuları) üstünlük təşkil edin. Agent natamam məlumatla işlədikdə və ya çoxlu düzgün yollar mövcud olduqda bundan istifadə edin. Buraxılma riski Bunsuz, agent nəticədə istifadəçini özündən uzaqlaşdıran inamlı, fəlakətli bir təxmin edəcək. Uğur üçün ölçülər:
Yardım / Ümumi Tapşırıqlar üçün Eskalasiya FrequencyAgent Sorğuları. Sağlamlıq aralığı: 5-15%. Bərpa Müvəffəqiyyət Oranı Tamamlanmış Tapşırıqlar Eskalasiyadan Sonra / Ümumi Artışlar. Hədəf > 90%.
Nümunə Üçün ən yaxşısı İlkin Risk Əsas Metrik Niyyət Önizləmə Geri dönməz və ya maliyyə hərəkətləri İstifadəçi özünü pusquda hiss edir >85% qəbul dərəcəsi Muxtariyyət yığımı Dəyişən risk səviyyələri olan vəzifələr Tam funksiyadan imtina Çarpmanın qurulması İzah edilə bilən əsaslandırma Fon və ya muxtar tapşırıqlar İstifadəçi səhvləri qəbul edir "Niyə?" Bilet Həcmi Güvən Siqnalı Ekspert və ya yüksək riskli sistemlər Avtomatlaşdırma meyli Təftiş Deltası Fəaliyyət Auditi və Geri Al Bütün agent sistemləri Daimi etibar itkisi <5%Reversiya dərəcəsi Eskalasiya yolu Birmənalı olmayan istifadəçi niyyəti Etibarlı, fəlakətli təxminlər >90% Bərpa Müvəffəqiyyəti
Cədvəl 1: Agentic AI UX nümunələrinin xülasəsi. Xüsusi domen riskinizə və ehtiyaclarınıza əsasən ölçüləri tənzimləməyi unutmayın. Təmir və Təmir üçün Dizayn Bu, effektiv şəkildə üzr istəməyi öyrənir. Yaxşı üzrxahlıq səhvi etiraf edir, zərəri aradan qaldırır və ondan dərs almağa söz verir. Səhvlər mümkün deyil; onlar qaçılmazdır. Agentlik sisteminin uzunmüddətli uğuru onun mükəmməl olmaq qabiliyyətindən daha çox, uğursuzluq zamanı zərif şəkildə bərpa etmək qabiliyyətindən asılıdır. Təmir və düzəliş üçün möhkəm çərçivə əsas xüsusiyyətdir, sonradan düşünülmüş deyil. Empatik Üzr və Aydın Təmir Agent səhv etdikdə, səhv mesajı üzrxahlıqdır. O, psixoloji dəqiqliklə tərtib edilməlidir. Bu an cavabdehlik nümayiş etdirmək üçün kritik bir fürsətdir. Xidmət dizaynı nöqteyi-nəzərindən, şirkətlərin xidmətin bərpası paradoksundan istifadə edə biləcəyi yer budur: xidmətdə uğursuzluqla üzləşən, ardınca uğurlu və empatik bir bərpa ilə üzləşən müştəri, heç vaxt uğursuzluq yaşamamış müştəridən daha sadiq ola bilər. Yaxşı idarə olunan səhv, qüsursuz icranın uzun bir tarixindən daha güclü bir inam yaratma hadisəsi ola bilər. Əsas odur ki, səhvi düzəldilməli olan münasibətlərin pozulması kimi qəbul edin. Bu daxildir:
Xətanı etiraf edin. Mesaj aydın və sadə şəkildə səhvə yol verildiyini bildirməlidir. Misal: Mən pulu səhv köçürdüm. Dərhal Düzəlişi bildirin. Dərhal düzəldici tədbiri izləyin. Nümunə: Mən hərəkəti ləğv etdim və vəsait hesabınıza qaytarıldı. Əlavə Yardım üçün Yol Təmin Edin Həmişə insan dəstəyinə aydın bir keçid təklif edin. Bu, məyusluğu azaldır və agentin özündən kənarda bir hesabatlılıq sisteminin olduğunu göstərir.
Yaxşı dizayn edilmiş təmir interfeysi bu kimi görünə bilər: Son transferinizdə səhv etdik. Üzr istəyirəm. Mən yanlış hesaba 250 ABŞ dolları köçürdüm.✔ Düzəliş Tədbiri: Köçürmə ləğv edildi və 250 ABŞ dolları geri qaytarıldı.✔ Sonrakı Addımlar: Hadisənin yenidən baş verməsinin qarşısını almaq üçün daxili yoxlama üçün qeyd edildi. Əlavə köməyə ehtiyacınız var? [ Dəstəklə əlaqə saxlayın ]
Təhlükəsiz İnnovasiya üçün İdarəetmə Mühərrikinin yaradılması Yuxarıda təsvir edilən dizayn nümunələri istifadəçi üçün nəzərdə tutulmuş idarəetmə vasitələridir, lakin onlar möhkəm daxili dəstək strukturu olmadan effektiv fəaliyyət göstərə bilməzlər. Bu, bürokratik əngəllər yaratmaqdan getmir; strateji üstünlük yaratmaqdan gedir. Yetkin idarəetmə çərçivəsinə malik bir təşkilat, brend riskini azaltmaq üçün lazımi qoruyucuların mövcud olduğunu bilərək, daha yüksək sürət və inamla daha iddialı agent xüsusiyyətləri göndərə bilər. Bu idarəetmə mühərriki təhlükəsizliyi yoxlama siyahısından rəqabətqabiliyyətli aktivə çevirir. Bu mühərrik Hüquq, Uyğunluq və Dəstəyin həyati dəstəyi ilə UX, Məhsul və Mühəndisliyin çarpaz funksional ittifaqından ibarət olan rəsmi idarəetmə orqanı, Agentlik AI Etika Şurası kimi fəaliyyət göstərməlidir. Kiçik təşkilatlarda bu “Şura” rolları çox vaxt Məhsul, Mühəndislik və Dizayn rəhbərlərinin vahid triadasına çevrilir. İdarəetmə üçün Yoxlama Siyahısı
Hüquqi/UyğunluqBu komanda agentin potensial fəaliyyətlərinin tənzimləyici və hüquqi sərhədlər daxilində qalmasını təmin edən ilk müdafiə xəttidir. Onlar muxtar fəaliyyət üçün sərt qadağan zonalarını müəyyənləşdirməyə kömək edir. Məhsul Məhsul meneceri agentin məqsədinin idarəedicisidir. Onlar agentin nə olduğunu və etməyə icazə verilmədiyini sənədləşdirən rəsmi muxtariyyət siyasəti vasitəsilə onun əməliyyat sərhədlərini müəyyənləşdirir və nəzarət edir. Agent Risk Reyestrinə sahibdirlər. UX ResearchBu komanda istifadəçinin etibarının və narahatlığının səsidir. İstifadəçinin agentin inkişaf edən psixi modelini başa düşmək üçün etibar kalibrləmə tədqiqatları, simulyasiya edilmiş yanlış davranış testləri və keyfiyyətli müsahibələr üçün təkrarlanan prosesə cavabdehdirlər. MühəndislikBu komanda etibarın texniki dayaqlarını qurur. Onlar sağlam giriş, bir kliklə ləğv funksiyası və aydın, izah edilə bilən əsaslandırmalar yaratmaq üçün lazım olan qarmaqlar üçün sistemi arxitektor etməlidirlər. DəstəkBu komandalar uğursuzluğun ön cəbhəsindədir. Onlar agent səhvləri nəticəsində yaranan insidentləri idarə etmək üçün təlim keçməli və təchiz edilməli və real dünyadakı uğursuzluq nümunələri haqqında hesabat vermək üçün Etika Şurasına birbaşa əks əlaqəyə malik olmalıdırlar.
Bu idarəetmə strukturu apotensial uğursuzluq rejimlərini proaktiv şəkildə müəyyən edən Agent Risk Reyestri, müntəzəm olaraq nəzərdən keçirilən Fəaliyyət Auditi Qeydləri və rəsmi Muxtariyyət Siyasəti Sənədləri də daxil olmaqla canlı sənədlər toplusu. Harada başlamaq lazımdır: Məhsul liderləri üçün mərhələli yanaşma Məhsul menecerləri və menecerlər üçün agent AI-nin inteqrasiyası monumental bir iş kimi hiss edilə bilər. Əsas odur ki, ona tək buraxılış kimi deyil, paralel olaraq həm texniki imkanların, həm də istifadəçi inamının yaradılmasının mərhələli səyahəti kimi yanaşmaqdır. Bu yol xəritəsi hər bir addımın möhkəm təməl üzərində qurulmasını təmin etməklə, təşkilatınıza öyrənməyə və uyğunlaşmağa imkan verir. Mərhələ 1: Əsas Təhlükəsizlik (Təklif et və Təklif et) İlkin məqsəd əhəmiyyətli avtonom risklər etmədən etimadın təməl daşını qurmaqdır. Bu mərhələdə agentin səlahiyyəti təhlil və təkliflə məhdudlaşır.
Möhkəm Niyyət Önizləməsini həyata keçirin: Bu, sizin əsas qarşılıqlı əlaqə modelinizdir. İstifadəçini icraya tam nəzarət etməklə, agentin planları tərtib etməsi ideyası ilə istifadəçiləri rahatlaşdırın. Fəaliyyət Auditi və Geri Alma infrastrukturunu qurun: Agent hələ avtonom şəkildə fəaliyyət göstərməsə belə, giriş və geri qaytarma üçün texniki baza qurun. Bu, sisteminizi gələcəyə hazırlayır və istifadəçidə təhlükəsizlik şəbəkəsinin mövcudluğuna inam yaradır.
Mərhələ 2: Kalibrlənmiş Muxtariyyət (Təsdiqlə hərəkət edin) İstifadəçilər agentin təklifləri ilə rahat olduqdan sonra aşağı riskli muxtariyyət tətbiq etməyə başlaya bilərsiniz. Bu mərhələ istifadəçilərə agentin necə düşündüyünü öyrətmək və onlara öz templərini təyin etmək imkanı verməkdən ibarətdir.
Məhdud parametrlərlə avtonomiya yığımını təqdim edin: İstifadəçilərə agentə Təsdiqlə hərəkət etmək səlahiyyəti verməklə başlayın. İzah edilə bilən əsaslandırmanı yerləşdirin: agentin hazırladığı hər bir fəaliyyət üçün aydın izahat verin. Bu, agentin məntiqini gizlədir və onun istifadəçinin öz seçimləri əsasında fəaliyyət göstərdiyini gücləndirir.
Mərhələ 3: Proaktiv Nümayəndəlik (Avtonom şəkildə fəaliyyət göstərin) Bu, istifadəçilərin sistemə etibar etdiyini nümayiş etdirən əvvəlki mərhələlərdən aydın məlumat əldə etdikdən sonra atılan son addımdır.
Xüsusi, əvvəlcədən təsdiqlənmiş tapşırıqlar üçün Avtonom Akt funksiyasını aktivləşdirin: Tam avtomatlaşdırıla bilən aşağı riskli tapşırıqların ilk dəstini müəyyən etmək üçün 2-ci Mərhələ məlumatlarından (məsələn, yüksək Davam dərəcələri, aşağı Geri qaytarma dərəcələri) istifadə edin. Monitor və Təkrar edin: Avtonom funksiyaların işə salınması son deyil, performans monitorinqinin, istifadəçi rəyinin toplanmasının və real dünya məlumatlarına əsaslanaraq agentin əhatə dairəsini və davranışının dəqiqləşdirilməsinin davamlı dövrünün başlanğıcıdır.
Ən Yaxşı Təhlükəsizlik Qolu kimi Dizayn Agent AI-nin meydana çıxması insan-kompüter qarşılıqlı əlaqəsində yeni bir sərhədi təmsil edir. Bu, texnologiyanın aktiv şəkildə yüklərimizi azalda biləcəyi və həyatımızı asanlaşdıra biləcəyi bir gələcək vəd edir. Lakin bu güc dərin məsuliyyətlə gəlir. Muxtariyyət texniki sistemin nəticəsidir, lakin etibarlılıq dizayn prosesinin nəticəsidir. Bizim problemimiz istifadəçi təcrübəsinin texniki imkanların itkisi deyil, onun əsas benefisiarı olmasını təmin etməkdir. UX mütəxəssisləri, məhsul menecerləri və liderləri olaraq bizim rolumuz bu etibarın idarəçiləri kimi çıxış etməkdir. Nəzarət və razılıq üçün aydın dizayn nümunələrini həyata keçirməklə, təmir üçün düşünülmüş yollar hazırlamaqla və möhkəm idarəetmə çərçivələri qurmaqla biz agent AI-ni həyat qabiliyyətli edən əsas təhlükəsizlik rıçaqlarını yaradırıq. Biz sadəcə interfeys dizayn etmirik; əlaqələr qururuq. Süni intellektin faydası və qəbulunun gələcəyi bu mürəkkəb sistemləri müdrikliklə, uzaqgörənliklə və istifadəçinin son səlahiyyətinə dərin hörmətlə dizayn etmək qabiliyyətimizə əsaslanır.
