Avtonom agentlər üçün dizayn unikal məyusluq yaradır. Biz süni intellektə mürəkkəb tapşırığı veririk, o, 30 saniyə (və ya 30 dəqiqə) yox olur və sonra nəticə ilə geri qayıdır. Ekrana baxırıq. Bu işlədi? Halüsinasiya etdi? O, uyğunluq verilənlər bazasını yoxladı, yoxsa bu addımı atladı? Biz adətən bu narahatlığa iki ifratdan biri ilə cavab veririk. Biz ya sadəliyi qorumaq üçün hər şeyi gizlədərək sistemi Qara Qutu kimi saxlayırıq, ya da çaxnaşmaya düşürük və hər bir log xəttini və API çağırışını istifadəçiyə ötürərək Data Dump təmin edirik. Heç bir yanaşma istifadəçilərə ideal şəffaflıq səviyyəsini təmin etmək üçün lazım olan nüansa birbaşa müraciət etmir. Qara qutu istifadəçiləri gücsüz hiss edir. Data Dump agentin təmin edəcəyini vəd etdiyi səmərəliliyi məhv edərək bildiriş korluğunu yaradır. İstifadəçilər bir şey qırılana qədər daimi məlumat axınına məhəl qoymurlar, bu zaman onları düzəltmək üçün kontekst yoxdur. Balansı tapmaq üçün bizə mütəşəkkil bir üsul lazımdır. Əvvəlki məqaləmdə, “Agent AI üçün dizayn” adlı məqaləmdə biz süni intellektin nəzərdə tutulan hərəkətini əvvəlcədən göstərmək (Niyyətin önizləmələri) və istifadəçilərə AI-nin öz başına nə qədər iş görməsinə nəzarət etmək (Autonomy Dials) kimi etibar yaradan interfeys elementlərinə baxdıq. Ancaq hansı elementlərdən istifadə edəcəyinizi bilmək problemin yalnız bir hissəsidir. Dizaynerlər üçün daha çətin sual onlardan nə vaxt istifadə edəcəyini bilməkdir. 30 saniyəlik iş prosesində hansı xüsusi anın Niyyət Öncədən Baxış tələb etdiyini və hansının sadə jurnal girişi ilə idarə oluna biləcəyini necə bilirsiniz? Bu məqalə bu suala cavab vermək üçün bir üsul təqdim edir. Qərar Node Auditindən keçəcəyik. Bu proses dizaynerləri və mühəndisləri eyni otaqda istifadəçi interfeysinə arxa məntiqi xəritələşdirməyə cəlb edir. Bir istifadəçinin AI-nin nə etdiyi ilə bağlı yeniləməyə ehtiyac duyduğu dəqiq anları necə təyin edəcəyinizi öyrənəcəksiniz. Biz, həmçinin, hansı qərar qovşaqlarının göstəriləcəyini və bu qərarla birləşdiriləcək hər hansı əlaqəli dizayn modelinin prioritetləşdirilməsinə kömək edəcək Təsir/Risk matrisini əhatə edəcəyik. Şəffaflıq Anları: Nümunə Tədqiqat Nümunəsi İlkin qəza iddialarını emal etmək üçün agent süni intellektdən istifadə edən sığorta şirkəti Meridian (əsl adı deyil) nəzərdən keçirək. İstifadəçi avtomobilin zədələnməsinin fotolarını və polisin hesabatını yükləyir. Bundan sonra agent risk qiymətləndirməsi və təklif olunan ödəmə diapazonu ilə geri qayıtmazdan əvvəl bir dəqiqə yox olur. Əvvəlcə Meridian-ın interfeysi sadəcə Hesablama İddia Statusunu göstərdi. İstifadəçilər məyus oldular. Onlar bir neçə təfərrüatlı sənəd təqdim etmişdilər və süni intellektin hətta yüngülləşdirici halları ehtiva edən polis hesabatını nəzərdən keçirib-görmədiyinə dair qeyri-müəyyənlik hiss edirdilər. Qara qutu inamsızlıq yaratdı. Bunu düzəltmək üçün dizayn qrupu Qərar Node Auditi keçirdi. Onlar aşkar etdilər ki, AI üç fərqli, ehtimala əsaslanan addımlar yerinə yetirir və çoxsaylı kiçik addımlar daxil edilir:
Şəkil Təhlili Agent təmir xərclərini qiymətləndirmək üçün zədələnmiş fotoşəkilləri tipik avtomobil qəzası ssenariləri bazası ilə müqayisə etdi. Bu, etimad xalını ehtiva edirdi. Mətn Baxışı, polis hesabatını məsuliyyətə təsir edən açar sözlər (məsələn, günah, hava şəraiti, ayıqlıq) üçün skan etdi. Bu, hüquqi statusun ehtimalın qiymətləndirilməsini əhatə edirdi. Siyasət Çarpaz Referansıİstisnalar və ya əhatə limitləri axtararaq, iddia detallarını istifadəçinin xüsusi siyasət şərtlərinə uyğunlaşdırdı. Bu, həm də ehtimal uyğunluğunu ehtiva edirdi.
Komanda bu addımları şəffaflıq anlarına çevirdi. İnterfeys ardıcıllığı yeniləndi:
Zərər fotoşəkillərinin qiymətləndirilməsi: 500 avtomobilin təsir profili ilə müqayisə. Polis Hesabatının nəzərdən keçirilməsi: Məsuliyyət açar sözlərinin və hüquqi presedentin təhlili. Siyasət Əhatəsinin Təsdiqlənməsi: Planınızdakı xüsusi istisnaların yoxlanılması.
Sistem hələ də eyni vaxt tələb edirdi, lakin agentin daxili işləri ilə bağlı açıq ünsiyyət istifadəçi etibarını bərpa etdi. İstifadəçilər süni intellektin onun üçün nəzərdə tutulmuş mürəkkəb tapşırığı yerinə yetirdiyini başa düşdülər və yekun qiymətləndirmə qeyri-dəqiq görünsə, diqqətlərini hara yönəltməli olduqlarını dəqiq bilirdilər. Bu dizayn seçimi narahatlıq anını istifadəçi ilə əlaqə anına çevirdi. Təsir/Risk Matrisinin Tətbiqi: Gizlətmək üçün Seçdiyimiz Əksər AI təcrübələrində emal zamanı potensial olaraq göstərilə bilən hadisələr və qərar qovşaqlarının çatışmazlığı yoxdur. Auditin ən kritik nəticələrindən biri nəyin görünməz qalacağına qərar vermək idi. Meridian nümunəsində, arxa uç qeydləri hər iddia üçün 50+ hadisə yaratdı. Hər bir hadisəni UI-nin bir hissəsi kimi işləndiyi üçün göstərə bilərdik. Bunun əvəzinə onları budamaq üçün risk matrisini tətbiq etdik:
Giriş Hadisəsi: Ping Serverİxtisarın yoxlanılması üçün Qərb-2. Filtr hökmü: Gizlət. (Aşağı Bahislər, Yüksək Texnikilik).
Hadisəni qeyd edin: Təmir təxmininin BlueBook dəyəri ilə müqayisəsi. Filtr hökmü: Göstər. (Yüksək Bahislər, istifadəçinin ödənişinə təsir edir).
Lazımsız detalları kəsməklə, əhatə dairəsinin yoxlanılması kimi vacib məlumatlar daha təsirli oldu. Biz açıq interfeys yaratdıq və açıq təcrübə hazırladıq. Bu yanaşma, insanların görülən işi görəndə bir xidmət haqqında daha yaxşı hiss etmələri ideyasından istifadə edir. Xüsusi addımları (Qiymətləndirmə, Nəzərdən keçirmə, Doğrulama) göstərməklə biz 30 saniyəlik gözləmə müddətini narahatlıq anından (“Bu pozuldumu?”) dəyərli bir şeyin yaradıldığını hiss etmə dövrünə (“Bu, düşünür”) dəyişdik. İndi aydın məlumat tələb edən əsas məqamları müəyyən etmək üçün məhsullarımızda qərar vermə prosesini necə nəzərdən keçirə biləcəyimizə daha yaxından nəzər salaq. Qərar Node Auditi Şəffaflıq funksional tələb kimi deyil, üslub seçimi kimi yanaşdıqda uğursuz olur. “UI necə olmalıdır?” sualına meylimiz var. “Agent əslində nəyə qərar verir?” deyə soruşmadan əvvəl. Qərar Node Auditi süni intellekt sistemlərinin başa düşülməsini asanlaşdırmaq üçün sadə bir yoldur. O, sistemin daxili prosesini diqqətlə tərtib etməklə işləyir. Əsas məqsəd sistemin müəyyən edilmiş qaydalara əməl etməyi dayandırdığı və bunun əvəzinə şans və ya təxmin əsasında seçim etdiyi dəqiq məqamları tapmaq və aydın şəkildə müəyyən etməkdir. Yaradıcılar bu strukturun xəritəsini tərtib etməklə bu qeyri-müəyyənlik nöqtələrini birbaşa sistemdən istifadə edən insanlara göstərə bilərlər. Bu, sistem yeniləmələrini qeyri-müəyyən ifadələrdən AI-nın necə nəticəyə gəldiyinə dair spesifik, etibarlı hesabatlara dəyişir. Yuxarıdakı sığorta hadisəsi araşdırmasına əlavə olaraq, mən bu yaxınlarda satınalma agenti quran bir komanda ilə işlədim. Sistem satıcı müqavilələrini nəzərdən keçirdi və riskləri qeyd etdi. Əvvəlcə ekranda sadə tərəqqi çubuğu göstərilirdi: "Müqavilələrin nəzərdən keçirilməsi." İstifadəçilər buna nifrət etdilər. Araşdırmamız göstərdi ki, onlar itkin bəndin hüquqi nəticələrindən narahatdırlar. Qərar Node Auditi aparmaqla bunu düzəltdik. Bu məqalənin sonunda bu auditin aparılması üçün addım-addım yoxlama siyahısını əlavə etdim. Biz mühəndislərlə sessiya keçirdik və sistemin necə işlədiyini təsvir etdik. Biz “Qərar Nöqtələri”ni – AI-nin iki yaxşı seçim arasında seçim etməli olduğu məqamları müəyyən etdik. Standart kompüter proqramlarında proses aydındır: A baş verərsə, B həmişə baş verəcəkdir. Süni intellekt sistemlərində proses çox vaxt təsadüfə əsaslanır. Süni intellekt A-nın ən yaxşı seçim olduğunu düşünür, lakin bu, yalnız 65% əmin ola bilər. Müqavilə sistemində biz AI-nin şirkətimizin qaydalarına qarşı öhdəlik şərtlərini yoxladığı bir an tapdıq. Nadir hallarda mükəmməl bir matç idi. Süni intellekt 90% uyğunluğun kifayət qədər yaxşı olub olmadığına qərar verməli idi. Bu, əsas qərar nöqtəsi idi.
Bu nodu müəyyən etdikdən sonra onu istifadəçiyə təqdim etdik. "Müqavilələrin nəzərdən keçirilməsi" əvəzinə interfeys belə bir şəkildə yeniləndi: "Məsuliyyət bəndi standart şablondan fərqlənir. Risk səviyyəsinin təhlili." Bu xüsusi yeniləmə istifadəçilərə güvən verdi. Onlar bilirdilər ki, agent məsuliyyət bəndini yoxlayır. Gecikmənin səbəbini anladılar və arxa tərəfdə istənilən hərəkətin baş verdiyinə inam qazandılar. Agent müqaviləni yaratdıqdan sonra onlar hara daha dərindən girəcəklərini də bilirdilər. Süni intellektin necə qərar qəbul etdiyini yoxlamaq üçün siz mühəndisləriniz, məhsul menecerləri, biznes analitikləri və AI alətinin necə işləməsinə təsir edən seçimlər edən (çox vaxt gizli) əsas insanlarla sıx işləməlisiniz. Alətin atdığı addımları çəkin. Ehtimal qarşılandığı üçün prosesin istiqamətini dəyişdiyi hər yeri qeyd edin. Bunlar daha şəffaf olmağa diqqət etməli olduğunuz yerlərdir. Aşağıdakı Şəkil 2-də göstərildiyi kimi, Qərar Node Auditi bu addımları əhatə edir:
Komandanı bir araya toplayın: məhsul sahiblərini, biznes analitiklərini, dizaynerləri, əsas qərar qəbul edənləri və AI quran mühəndisləri cəlb edin. Məsələn, Qarışıq hüquqi müqavilələri nəzərdən keçirmək üçün hazırlanmış AI aləti yaradan bir məhsul komandası haqqında düşünün. Komandaya UX dizayneri, məhsul meneceri, UX tədqiqatçısı, mövzu üzrə ekspert kimi fəaliyyət göstərən praktik hüquqşünas və mətn təhlili kodunu yazan arxa mühəndis daxildir.
Bütün prosesi çəkin: İstifadəçinin ilk hərəkətindən son nəticəyə qədər AI-nin atdığı hər addımı sənədləşdirin. Komanda lövhədə dayanır və süni intellektin mürəkkəb müqavilədə öhdəlik bəndini axtarmasını əhatə edən əsas iş axını üçün bütün ardıcıllığı eskiz edir. Vəkil yükləyirəlli səhifəlik PDF → Sistem sənədi oxunaqlı mətnə çevirir. → Süni intellekt məsuliyyət müddəaları üçün səhifələri skan edir. → İstifadəçi gözləyir. → Bir neçə dəqiqə və ya dəqiqə sonra alət istifadəçi interfeysində aşkar edilmiş paraqrafları sarı rənglə vurğulayır. Bunu alətin yerləşdirdiyi bir çox digər iş axını üçün edirlər.
İşlərin aydın olmayan yerlərini tapın: Süni intellektin mükəmməl uyğunluğu olmayan variantları və ya girişləri müqayisə etdiyi istənilən nöqtə üçün proses xəritəsinə baxın. Komanda birmənalı olmayan addımları tapmaq üçün lövhəyə baxır. Şəkli mətnə çevirmək ciddi qaydalara əməl edir. Müəyyən bir məsuliyyət bəndinin tapılması təxminləri ehtiva edir. Hər firma bu müddəaları fərqli şəkildə yazır, buna görə də AI dəqiq söz uyğunluğu tapmaq əvəzinə çoxlu variantları ölçməli və proqnoz verməlidir.
“Ən yaxşı təxmin” addımlarını müəyyən edin: Hər bir aydın olmayan nöqtə üçün sistemin güvən balından istifadə edib-etmədiyini yoxlayın (məsələn, 85% əmindirmi?). Bunlar AI-nin son seçim etdiyi nöqtələrdir. Sistem hansı bənd(lər)in standart öhdəlik bəndinə yaxından bənzədiyini təxmin etməlidir (ehtimal verməlidir). Ən yaxşı təxmininə güvən xalını təyin edir. Bu təxmin bir qərar qovşağıdır. İnterfeys hüquqşünasa qəti bəndi tapdığını bildirməkdənsə, potensial uyğunluğu vurğuladığını söyləməlidir.
Seçimi nəzərdən keçirin: Hər bir seçim nöqtəsi üçün xüsusi daxili riyaziyyatı və ya aparılan müqayisəni müəyyənləşdirin (məsələn, müqavilənin bir hissəsini siyasətə uyğunlaşdırmaq və ya sınmış avtomobilin şəklini zədələnmiş avtomobil fotoşəkilləri kitabxanası ilə müqayisə etmək). Mühəndis izah edir ki, sistem müxtəlif paraqrafları keçmiş firma işlərindən standart məsuliyyət müddəalarının verilənlər bazası ilə müqayisə edir. Ehtimallara əsaslanan uyğunluğa qərar vermək üçün mətn oxşarlıq xalını hesablayır.
Aydın izahatlar yazın: İstifadəçi üçün AI seçim edərkən baş verən xüsusi daxili hərəkəti aydın şəkildə təsvir edən mesajlar yaradın. Məzmun dizayneri bu dəqiq an üçün xüsusi bir mesaj yazır. Mətndə deyilir: Potensial öhdəlik risklərini müəyyən etmək üçün sənəd mətninin standart firma müddəaları ilə müqayisəsi.
Ekranı yeniləyin: “Müqavilələrin nəzərdən keçirilməsi” kimi qeyri-müəyyən mesajları əvəz edərək, bu yeni, aydın izahatları istifadəçi interfeysinə yerləşdirin. Dizayn komandası ümumi Processing PDF loading spinneri çıxarır. Süni intellekt düşünərkən onlar yeni izahatı sənəd görüntüləyicisinin üstündə yerləşən status çubuğuna daxil edirlər.
Güvən yoxlayın: Yeni ekran mesajlarının istifadəçilərə hər hansı gözləmə müddəti və ya nəticə üçün sadə səbəb verdiyinə əmin olun ki, bu da onların özlərini daha inamlı və inamlı hiss etmələrini təmin etməlidir.
Təsir/Risk Matrisi Süni intellekt prosesinə diqqətlə baxdıqdan sonra onun seçim etdiyi bir çox məqamları tapa bilərsiniz. Süni intellekt tək bir mürəkkəb tapşırıq üçün onlarla kiçik seçim edə bilər. Onların hamısını göstərmək həddindən artıq çox lazımsız məlumat yaradır. Bu seçimləri qruplaşdırmaq lazımdır. Süni intellektin həyata keçirdiyi fəaliyyət(lər) növlərinə əsasən bu seçimləri çeşidləmək üçün Təsir/Risk Matrisindən istifadə edə bilərsiniz. Budur təsir/risk matrislərinin nümunələri: Birincisi, aşağı riskli və az təsirli qərarlar axtarın. Aşağı Bahislər / Aşağı Təsir
Misal: Fayl strukturunun təşkili və ya sənədin adının dəyişdirilməsi. Şəffaflığa ehtiyac: Minimal. Zərif bir tost bildirişi və ya bir günlük girişi kifayətdir. İstifadəçilər bu hərəkətləri asanlıqla geri ala bilərlər.
Sonra yüksək riskli və yüksək təsirli qərarları müəyyənləşdirin. Yüksək paylar / Yüksək təsir
Misal: Kredit ərizəsini rədd etmək və ya birja ticarətini həyata keçirmək. Şəffaflığa ehtiyac: Yüksək. Bu hərəkətlər üçün İş sübutu tələb olunur. Sistem hərəkət etməzdən əvvəl və ya dərhal əsaslandırmanı nümayiş etdirməlidir.
Bütün alış/satış sifarişlərinə eyni münasibət göstərən maliyyə ticarət botunu nəzərdən keçirək. 50.000 dollarlıq ticarətlə eyni qeyri-şəffaflıqla 5 dollarlıq ticarət həyata keçirir. İstifadəçilər alətin şəffaflığın böyük bir dollar məbləğində ticarətə potensial təsirini tanıyıb-tanımadığını sorğulaya bilərlər. Onlar sistemə fasilə vermək və yüksək stavkalı ticarətlər üçün işini göstərmək lazımdır. Həll yolu müəyyən bir dollar məbləğini aşan hər hansı bir əməliyyat üçün Nəzərdən keçirilməsi Məntiqi vəziyyətini təqdim etməkdir ki, bu da istifadəçiyə icradan əvvəl qərarı verən amilləri görməyə imkan verir. Düyünlərin Nümunələrə Xəritəçəkmə: Dizayn Nümunəsinin Seçilməsi Rubrikası Təcrübənizin əsas qərar qovşaqlarını müəyyən etdikdən sonra göstərəcəyiniz hər birinə hansı UI modelinin tətbiq olunacağına qərar verməlisiniz. Agentlik AI üçün Dizaynda biz Niyyət Öncədən Baxış (yüksək riskli nəzarət üçün) və Fəaliyyət Auditi (retrospektiv təhlükəsizlik üçün) kimi nümunələri təqdim etdik. Onların arasında seçim etməkdə həlledici amil geri çevrilmədir. Hər dəfə süzürükdüzgün nümunə təyin etmək üçün təsir matrisi vasitəsilə qərar qovşağı: Yüksək Stakes və Geri Dönməz: Bu qovşaqlar Niyyət Ön Baxışı tələb edir. İstifadəçi əməliyyatı asanlıqla geri qaytara bilmədiyi üçün (məsələn, verilənlər bazasını həmişəlik silmək) şəffaflıq anı icradan əvvəl baş verməlidir. Sistem fasilə verməli, niyyətini izah etməli və təsdiq tələb etməlidir. Yüksək paylar və geri qaytarıla bilən: Bu qovşaqlar Fəaliyyət Auditi və Geri Al modelinə etibar edə bilər. Süni intellektlə işləyən satış agenti aparıcını başqa bir boru xəttinə köçürürsə, o, istifadəçini xəbərdar etdiyi və dərhal Geri Al düyməsini təklif etdiyi müddətdə bunu avtonom şəkildə edə bilər. Düyünləri bu şəkildə ciddi şəkildə kateqoriyalara ayırmaqla biz “xəbərdarlığın yorğunluğundan” qaçırıq. Qalan hər şey üçün sürəti qorumaq üçün Fəaliyyət Auditinə güvənərkən, yüksək sürtünməli Niyyət Önizləməsini yalnız həqiqətən geri dönməz anlar üçün qoruyuruq.
Geri çevrilə bilən Geri dönməz Aşağı təsir Növ: Auto-ExecuteUI: Passiv Tost / LogEx: Faylın adının dəyişdirilməsi Növ: ConfirmUI: Sadə Geri qaytarma seçimiMəs: E-poçtun arxivləşdirilməsi Yüksək təsir Növ: ReviewUI: Bildiriş + Review TrailEx: Müştəriyə qaralama göndərilməsi Növ: Məqsədi önizləməUI: Modal / Açıq İcazəEx: Serverin silinməsi
Cədvəl 1: Təsir və geri dönmə matrisi daha sonra şəffaflıq anlarınızı dizayn nümunələrinə uyğunlaşdırmaq üçün istifadə edilə bilər. Keyfiyyətli Qiymətləndirmə: "Gözləyin, niyə?" Test Siz ağ lövhədə potensial qovşaqları müəyyən edə bilərsiniz, lakin onları insan davranışı ilə təsdiqləməlisiniz. Xəritənizin istifadəçinin zehni modelinə uyğun olub olmadığını yoxlamaq lazımdır. Mən “Gözləyin, niyə?” adlı protokoldan istifadə edirəm. Test. İstifadəçidən agentin tapşırığı yerinə yetirməsini izləməsini xahiş edin. Onlara ucadan danışmağı tapşır. Hər dəfə sual verəndə “Gözləyin, niyə belə etdi?” və ya "ilişib?" və ya "Məni eşitdi?" - vaxt möhürü qeyd edirsiniz. Bu suallar istifadəçi çaşqınlığından xəbər verir. İstifadəçi nəzarətinin qaçdığını hiss edir. Məsələn, səhiyyə planlaşdırma köməkçisi üçün aparılan araşdırmada istifadəçilər agentin görüş təyin etməsinə baxıblar. Ekran dörd saniyə statik vəziyyətdə qaldı. İştirakçılar davamlı olaraq “Mənim təqvimimi yoxlayıram, yoxsa həkiminki?” deyə soruşurdular.
Bu sual çatışmayan Şəffaflıq Anını ortaya qoydu. Sistem həmin dörd saniyəlik gözləmə müddətini iki fərqli addıma bölməli idi: “Mövcudluğunuzu yoxlayın” və “Provayder cədvəli ilə sinxronizasiya”. Bu kiçik dəyişiklik istifadəçilərin ifadə olunan narahatlıq səviyyələrini azaldıb. Şəffaflıq yalnız sistem hərəkətini təsvir etdikdə uğursuz olur. İnterfeys texniki prosesi istifadəçinin konkret məqsədi ilə əlaqələndirməlidir. “Mövcudluğunuz yoxlanılır” göstərən ekran kontekst olmadığı üçün düz düşür. İstifadəçi süni intellektin təqvimə baxdığını başa düşür, lakin bunun səbəbini bilmir. Fəaliyyəti nəticə ilə birləşdirməliyik. Sistem bu dörd saniyəlik gözləmə müddətini iki fərqli addıma bölməlidir. Birincisi, interfeysdə “Açıq vaxtları tapmaq üçün təqvim yoxlanılır” göstərilir. Sonra "Görüşünüzü təmin etmək üçün provayderin cədvəli ilə sinxronizasiya" olaraq yenilənir. Bu, istifadəçinin faktiki həyatında texniki prosesi əsaslandırır. Yerli bir kafe üçün AI idarə edən inventar düşünün. Sistem təchizat çatışmazlığı ilə qarşılaşır. "Satıcı ilə əlaqə saxlamaq" və ya "variantları nəzərdən keçirmək" sözlərini oxuyan interfeys narahatlıq yaradır. Menecer maraqlanır ki, sistem sifarişi ləğv edir, yoxsa bahalı alternativ alır. Daha yaxşı yanaşma, nəzərdə tutulan nəticəni izah etməkdir: “Cümə günü çatdırılma cədvəlinizi saxlamaq üçün alternativ təchizatçıları qiymətləndirmək.” Bu, istifadəçiyə AI-nin nəyə nail olmağa çalışdığını dəqiq bildirir. Auditin fəaliyyət göstərməsi Siz Qərar Node Auditini tamamladınız və siyahınızı Təsir və Risk Matrisi vasitəsilə filtrlədiniz. İndi şəffaf olmaq üçün vacib məqamların siyahısı var. Sonra onları UI-də yaratmalısınız. Bu addım müxtəlif şöbələr arasında komanda işi tələb edir. Dizayn alətindən istifadə edərək şəffaflığı özünüz tərtib edə bilməzsiniz. Sistemin pərdə arxasında necə işlədiyini başa düşməlisiniz. Məntiq Baxışı ilə başlayın. Aparıcı sistem dizaynerinizlə görüşün. Qərar qovşaqlarının xəritəsini gətirin. Sistemin həqiqətən bu vəziyyətləri paylaşa biləcəyini təsdiqləməlisiniz. Mən tez-tez görürəm ki, texniki sistem göstərmək istədiyim vəziyyəti dəqiq göstərmir. Mühəndis deyə bilər ki, sistem sadəcə ümumi “işləyən” statusu qaytarır. Siz ətraflı yeniləmə üçün təkan etməlisiniz. Xüsusi bildiriş göndərmək üçün sistemə ehtiyacınız varmətni oxumaqdan yoxlama qaydalarına keçdikdə. Bu texniki əlaqə olmadan dizaynınızı qurmaq mümkün deyil. Sonra, Məzmun Dizayn komandasını cəlb edin. Süni intellektin hərəkəti üçün texniki səbəbiniz var, lakin sizə aydın, insan dostu izahat lazımdır. Mühəndislər əsas prosesi təmin edir, lakin məzmun dizaynerləri onun ötürülmə yolunu təmin edirlər. Bu mesajları tək yazmayın. Tərtibatçı texniki cəhətdən düzgün, lakin istifadəçi üçün mənasız olan “İcra funksiyası 402” yaza bilər. Dizayner dostcasına, lakin çox qeyri-müəyyən olan “Düşünmə” yaza bilər. Məzmun strateqi düzgün orta yeri tapır. Onlar süni intellektin istifadəçini çaşdırmadan işlədiyini göstərən “məsuliyyət risklərinin skan edilməsi” kimi xüsusi ifadələr yaradırlar. Nəhayət, mesajlarınızın şəffaflığını yoxlayın. Mətnin işlədiyini görmək üçün son məhsulun qurulmasını gözləməyin. Mən dəyişən yeganə şey status mesajı olduğu sadə prototiplər üzərində müqayisə testləri keçirirəm. Məsələn, mən bir qrupa (A qrupu) “Şəxsiyyətin yoxlanılması” deyən mesajı, digər qrupa isə (B qrupu) “Dövlət məlumat bazalarının yoxlanılması” (bunlar uydurma nümunələrdir, lakin siz mətləbi başa düşürsünüz) mesajını göstərirəm. Sonra onlardan hansı AI-nin özünü daha təhlükəsiz hiss etdiyini soruşuram. Siz tez-tez müəyyən sözlərin narahatlığa səbəb olduğunu, digərlərinin isə inam yaratdığını kəşf edəcəksiniz. Sözləri sınamaq və effektivliyini sübut etmək üçün lazım olan bir şey kimi qəbul etməlisiniz. Bu Dizayn Prosesini Necə Dəyişdirir Bu auditlərin aparılması, komandanın birlikdə necə işlədiyini gücləndirmək potensialına malikdir. Cilalanmış dizayn fayllarını təhvil verməyi dayandırırıq. Biz qarışıq prototiplərdən və paylaşılan cədvəllərdən istifadə etməyə başlayırıq. Əsas alət şəffaflıq matrisinə çevrilir. Mühəndislər və məzmun dizaynerləri bu cədvəli birlikdə redaktə edirlər. Onlar dəqiq texniki kodları istifadəçinin oxuyacağı sözlərə uyğunlaşdırırlar. Komandalar məntiqi yoxlama zamanı sürtünmə yaşayacaqlar. Təsəvvür edin ki, bir dizayner mühəndisdən süni intellektin xərc hesabatında təqdim edilən əməliyyatdan imtina etmək qərarına necə gəldiyini soruşur. Mühəndis deyə bilər ki, arxa uç yalnız “Xəta: Çatışmayan Məlumat” kimi ümumi status kodunu verir. Dizayner bildirir ki, bu, ekranda işləyə bilən məlumat deyil. Dizayner xüsusi texniki qarmaq yaratmaq üçün mühəndislə danışıqlar aparır. Mühəndis yeni qayda yazır ki, sistem çatışmayan qəbz şəkli kimi tam olaraq nəyin çatışmadığını bildirir. Məzmun dizaynerləri bu mərhələdə tərcüməçi kimi çıxış edirlər. Tərtibatçı “Satıcı uyğunluğu üçün güvən həddinin hesablanması” kimi texniki cəhətdən dəqiq sətir yaza bilər. Məzmun dizayneri həmin sətri müəyyən bir nəticə üçün inam yaradan ifadəyə çevirir. Strateq bunu "Cümə günü çatdırılmanızı təmin etmək üçün yerli satıcı qiymətlərinin müqayisəsi" olaraq yenidən yazır. İstifadəçi hərəkəti və nəticəsini başa düşür. Bütün cross-funksional komanda istifadəçi sınaq sessiyalarında oturur. Onlar real insanın müxtəlif status mesajlarına reaksiyasını izləyirlər. Ekranda “Ticarət həyata keçirilir” dediyi üçün istifadəçinin panikasını görmək komandanı yanaşmalarını yenidən düşünməyə məcbur edir. Mühəndislər və dizaynerlər daha yaxşı ifadələrə uyğunlaşırlar. Səhm almadan əvvəl mətni “Kifayət qədər vəsaitin yoxlanılması” olaraq dəyişdirirlər. Birlikdə sınaqdan keçirilməsi son interfeysin həm sistem məntiqinə, həm də istifadəçinin rahatlığına xidmət etdiyinə zəmanət verir. Bu əlavə fəaliyyətləri komandanın təqviminə daxil etmək üçün vaxt lazımdır. Bununla belə, son nəticə daha açıq ünsiyyət quran bir komanda və süni intellektlə işləyən alətlərinin onların adından nə etdiyini (və nə üçün) daha yaxşı başa düşən istifadəçilər olmalıdır. Bu inteqrasiya olunmuş yanaşma həqiqətən etibarlı AI təcrübələrinin dizaynının təməl daşıdır. Güvən Dizayn Seçimidir Biz tez-tez etimadı yaxşı istifadəçi təcrübəsinin emosional əlavə məhsulu kimi görürük. Etibarı proqnozlaşdırıla bilən ünsiyyətin mexaniki nəticəsi kimi görmək daha asandır. Doğru zamanda doğru məlumatları göstərməklə inam yaradırıq. Biz istifadəçini sıxışdırmaqla və ya mexanizmləri tamamilə gizlətməklə onu məhv edirik. Xüsusilə agent AI alətləri və məhsulları üçün Qərar Node Audit ilə başlayın. Sistemin mühakimə çağırışı etdiyi anları tapın. Həmin anları Risk Matrisinə uyğunlaşdırın. Əgər bahislər yüksəkdirsə, qutunu açın. İşi göstərin. Növbəti məqalədə biz bu məqamları necə tərtib edəcəyimizi nəzərdən keçirəcəyik: surəti necə yazmaq, UI-ni strukturlaşdırmaq və agent səhv etdiyi zaman qaçılmaz səhvləri idarə etmək. Əlavə: Qərar Node Audit Yoxlama Siyahısı Mərhələ 1: Quraşdırma və Xəritəçəkmə ✅ Komandanı bir araya gətirin: Məhsul sahiblərini, biznes analitiklərini, dizaynerləri,əsas qərar qəbul edənlər və AI-ni quran mühəndislər. İpucu: Faktiki arxa məntiqi izah etmək üçün mühəndislərə ehtiyacınız var. Bu addımı təkbaşına cəhd etməyin. ✅ Bütün prosesi çəkin: İstifadəçinin ilk hərəkətindən son nəticəyə kimi AI-nin atdığı hər addımı sənədləşdirin. İpucu: Fiziki lövhə seansı tez-tez bu ilkin addımları çəkmək üçün ən yaxşı nəticə verir. Mərhələ 2: Gizli Məntiqin Yerləşdirilməsi ✅ İşlərin aydın olmayan yerlərini tapın: Süni intellektin mükəmməl uyğunluğu olmayan variantları və ya girişləri müqayisə etdiyi istənilən nöqtə üçün proses xəritəsinə baxın. ✅ Ən yaxşı təxmin addımlarını müəyyən edin: Hər bir qeyri-müəyyən nöqtə üçün sistemin güvən balından istifadə edib-etmədiyini yoxlayın. Məsələn, sistemin 85 faiz əmin olub-olmadığını soruşun. Bunlar AI-nin son seçim etdiyi nöqtələrdir. ✅ Seçimi nəzərdən keçirin: Hər seçim nöqtəsi üçün xüsusi daxili riyaziyyat və ya müqayisəni müəyyənləşdirin. Məsələn, müqavilənin bir hissəsini siyasətə uyğunlaşdırmaqdır. Başqa bir misal, sınmış avtomobilin şəklini zədələnmiş avtomobil fotoşəkilləri kitabxanası ilə müqayisə etməyi nəzərdə tutur. Mərhələ 3: İstifadəçi Təcrübəsinin Yaradılması ✅ Aydın izahatlar yazın: İstifadəçi üçün AI seçim edərkən baş verən xüsusi daxili hərəkəti aydın şəkildə təsvir edən mesajlar yaradın. İpucu: Mesajlarınızı konkret reallıqda əsaslandırın. Süni intellekt yerli kafedə müştəri ilə görüş sifariş edərsə, istifadəçiyə sistemin kafe rezervasiya sistemini yoxladığını bildirin. ✅ Ekranı yeniləyin: Bu yeni, aydın izahatları istifadəçi interfeysinə daxil edin. Müqavilələrin nəzərdən keçirilməsi kimi qeyri-müəyyən mesajları xüsusi izahatlarınızla əvəz edin. ✅ Güvən yoxlayın: Yeni ekran mesajlarının istifadəçilərə hər hansı gözləmə müddəti və ya nəticə üçün sadə səbəb verdiyinə əmin olun. Bu, onlara inamlı və inamlı hiss etmələrini təmin etməlidir. İpucu: əldə edilən xüsusi nəticəni başa düşdüklərini yoxlamaq üçün bu mesajları faktiki istifadəçilərlə yoxlayın.
