Oxirgi qismimda biz asosiy haqiqatni aniqladik: foydalanuvchilar AIni qabul qilishlari va unga ishonishlari uchun ular unga ishonishlari kerak. Ishonch AI qobiliyati, xayrixohlik, halollik va bashorat qilish qobiliyati haqidagi tasavvurlarga asoslangan ko'p qirrali tuzilma ekanligi haqida gaplashdik. Ammo AI o'zining jimgina algoritmik donoligida foydalanuvchini sarosimaga soladigan, hafsalasi pir bo'ladigan yoki hatto xafa qiladigan qaror qabul qilsa nima bo'ladi? Ipoteka uchun ariza rad etiladi, sevimli qo'shiq to'satdan pleylistda yo'qoladi va malakali rezyume inson uni ko'rmasdanoq rad etiladi. Bu daqiqalarda qobiliyat va bashorat qilish buziladi va xayrixohlik dunyodan uzoqda bo'ladi. Bizning suhbatimiz endi ishonchning sababidan qanday qilib shaffoflikka o'tishi kerak. AI natijalarini odamlarga tushunarli qilish usullarini ishlab chiqishga qaratilgan Explainable AI (XAI) sohasi buni hal qilish uchun paydo bo'ldi, ammo bu ko'pincha ma'lumotlar olimlari uchun faqat texnik muammo sifatida belgilanadi. Men bu sun'iy intellektga asoslangan mahsulotlar uchun juda muhim dizayn muammosi deb o'ylayman. UX mutaxassislari sifatida bizning vazifamiz algoritmik qarorlar qabul qilish va inson tushunchasi o'rtasidagi tafovutni bartaraf etishdir. Ushbu maqola tushuntirish uchun qanday tadqiqot qilish va loyihalash bo'yicha amaliy, amaliy ko'rsatmalar beradi. Biz mashhur so'zlardan tashqari, maketlarga o'tamiz, murakkab XAI tushunchalarini siz bugun foydalanishni boshlashingiz mumkin bo'lgan aniq dizayn naqshlariga aylantiramiz. XAI sirini yo'q qilish: UX amaliyotchilari uchun asosiy tushunchalar XAI foydalanuvchining “Nima uchun?” degan savoliga javob beradi. Nega menga bu reklama ko‘rsatildi? Nega bu film menga tavsiya etilgan? Nega mening so'rovim rad etildi? Buni matematik muammo ustida ishlayotgan sun'iy intellekt sifatida tasavvur qiling. Busiz, sizda faqat javob bor va siz buni imon bilan qabul qilishga majbur bo'lasiz. Qadamlarni ko'rsatishda siz tushunish va ishonchni kuchaytirasiz. Shuningdek, siz o'zingizning ishingiz ta'sir qiladigan odamlar tomonidan ikki marta tekshirilishi va tasdiqlanishiga ruxsat berasiz. Xususiyatning ahamiyati va qarama-qarshi faktlar AI bilan nima sodir bo'layotganini tushuntirish yoki tushuntirish uchun biz foydalanishimiz mumkin bo'lgan bir qator usullar mavjud. Usullar qarorlar daraxtining butun mantig'ini ta'minlashdan tortib, natijaning tabiiy tildagi xulosalarini yaratishgacha bo'lgan bo'lsa-da, UX amaliyotchilari tajribaga kiritishlari mumkin bo'lgan eng amaliy va ta'sirli ma'lumotlar turlaridan ikkitasi xususiyat ahamiyati (1-rasm) va qarama-qarshi faktlardir. Bu ko'pincha foydalanuvchilar uchun tushunarli bo'lgan va dizaynerlar uchun amalga oshirish uchun eng samarali hisoblanadi.
Xususiyatning ahamiyati Ushbu tushuntirish usuli javob beradi: "AI eng muhim omillar nima edi?" Bu natijaga eng katta ta'sir ko'rsatgan eng yaxshi 2-3 o'zgaruvchini aniqlash haqida. Bu butun hikoya emas, balki sarlavha. Misol: Mijozning ishdan chiqishini (xizmatini bekor qilish) bashorat qiladigan AIni tasavvur qiling. Xususiyatning ahamiyati shuni ko'rsatishi mumkinki, "oxirgi oydagi qo'llab-quvvatlash qo'ng'iroqlari soni" va "so'nggi narxlarning o'sishi" mijozning ishlamay qolishi mumkinligini aniqlashda ikkita eng muhim omil bo'lgan.
Qarama-qarshi faktlar Bu kuchli usul “Boshqa natijaga erishish uchun nimani o‘zgartirishim kerak?” deb javob beradi. Bu juda muhim, chunki u foydalanuvchilarga agentlik hissini beradi. Bu asabiylashuvchi "yo'q" ni amaldagi "hali emas"ga aylantiradi. Misol: AIdan foydalanadigan kredit olish tizimini tasavvur qiling. Foydalanuvchiga kredit berish rad etiladi. Shunchaki “Ariza rad etildi” ni ko‘rish o‘rniga, “Agar sizning kredit balingiz 50 ball yuqori bo‘lsa yoki qarzingizning daromadga nisbati 10 foizga past bo‘lsa, kreditingiz ma’qullangan bo‘lardi” degan qarama-qarshi tushuntirish ham bo‘ladi. Bu Saraga kelajakda potentsial kredit olish uchun ko'rishi mumkin bo'lgan aniq, harakatga mos qadamlar beradi.
Tushuntirishni yaxshilash uchun model ma'lumotlaridan foydalanish Texnik xususiyatlar ko'pincha ma'lumotlar olimlari tomonidan ko'rib chiqilsa-da, UX amaliyotchilari modelni mahalliy darajada yaqinlashtirish orqali individual bashoratlarni tushuntiruvchi LIME (Local Interpretable Model-agnostic Explanations) va o'yin nazariyasi yondashuvidan foydalanadigan SHAP (SHapley Additive Explanations) kabi vositalarni bilish foydali bo'ladi. modellar. Ushbu kutubxonalar, asosan, ma'lum bir natijaga qaysi ma'lumotlar eng ta'sir qilganligini ko'rsatish uchun AI qarorini buzishga yordam beradi. To'g'ri bajarilganda, AI vositasi qarori asosidagi ma'lumotlar kuchli voqeani aytib berish uchun ishlatilishi mumkin. Keling, xususiyatlarning ahamiyati va qarama-qarshi faktlarni ko'rib chiqaylik va qaror ortidagi ma'lumotlar fanidan foydalanuvchi tajribasini yaxshilash uchun qanday foydalanish mumkinligini ko'rsatamiz. Endi kelingMahalliy tushuntirishlar (masalan, LIME) ma'lumotlari yordamida xususiyat ahamiyatini yoping: Bu yondashuv javob beradi: "Nima uchun sun'iy intellekt men uchun bu aniq tavsiyani hozir berdi?" Model qanday ishlashini umumiy tushuntirish o'rniga, u bitta, aniq misol uchun yo'naltirilgan sababni beradi. Bu shaxsiy va kontekstli. Misol: Spotify kabi sun'iy intellektga asoslangan musiqa tavsiya tizimini tasavvur qiling. Mahalliy tushuntirish: "Nega tizim sizga Adelning ushbu qo'shig'ini hozir tavsiya qildi?" Buning izohi quyidagicha bo'lishi mumkin: "Chunki siz yaqinda ayol vokalchilarning boshqa bir nechta hissiy balladalari va qo'shiqlarini tinglagansiz."
Nihoyat, keling, qiymatga asoslangan tushuntirishlarni (masalan, Shapley qo'shimcha tushuntirishlari (SHAP) ma'lumotlarini qarorni tushuntirishga kiritishni ko'rib chiqaylik: Bu xususiyat ahamiyatining yanada nozik versiyasi bo'lib, unga javob beradi: "Har bir omil qarorni qanday qilib u yoki bu tomonga turtki berdi?" Bu nima muhimligini va uning ta'siri ijobiy yoki salbiy ekanligini tasavvur qilishga yordam beradi. Misol: Tasavvur qiling-a, bank kredit arizasini tasdiqlash yoki tasdiqlash uchun AI modelidan foydalanadi.
Xususiyatning ahamiyati: Model chiqishi arizachining kredit balli, daromadi va qarzning daromadga nisbati uning qarorida eng muhim omillar ekanligini ko'rsatishi mumkin. Bu muhim bo'lgan narsaga javob beradi. Qiymatga asoslangan tushuntirishlar bilan xususiyat ahamiyati (SHAP): SHAP qiymatlari model elementlariga asoslangan holda xususiyat ahamiyatini yanada oshiradi.
Tasdiqlangan kredit uchun SHAP shuni ko'rsatishi mumkinki, yuqori kredit reytingi qarorni ma'qullash (ijobiy ta'sir) ga olib keldi, qarzning daromadga nisbati o'rtachadan biroz yuqoriroq bo'lsa, uni biroz chetga surib qo'ydi (salbiy ta'sir), ammo kreditni rad etish uchun etarli emas. Rad etilgan kredit uchun SHAP, past daromad va so'nggi kredit so'rovlarining ko'pligi, hatto kredit reytingi munosib bo'lsa ham, rad etishga qaror qilganligini aniqlashi mumkin.
Bu kredit mutaxassisiga arizachiga ko'rib chiqilgan narsadan tashqari, har bir omil yakuniy "ha" yoki "yo'q" qaroriga qanday hissa qo'shganini tushuntirishga yordam beradi. Yaxshi tushuntirishlar berish qobiliyati ko'pincha rivojlanish tsiklidan ancha oldin boshlanishini tan olish juda muhimdir. Ma'lumotlar bo'yicha olimlar va muhandislar modellar va ma'lumotlar quvurlarini keyinroq o'ylashdan ko'ra, tushunarlilikni qo'llab-quvvatlaydigan tarzda ataylab tuzishda muhim rol o'ynaydi. Tadqiqot va dizayn guruhlari buni ma'lumotlar olimlari va muhandislar bilan foydalanuvchilarning tushunish ehtiyojlari to'g'risida erta suhbatlar boshlash, tushuntirish ko'rsatkichlarini ishlab chiqishga hissa qo'shish va ularning aniq va foydalanuvchilarga qulay bo'lishini ta'minlash uchun tushuntirishlarni birgalikda ishlab chiqish orqali yordam berishi mumkin. XAI va axloqiy AI: tarafkashlik va javobgarlikni ochish Ishonchni mustahkamlashdan tashqari, XAI AI* ning chuqur axloqiy oqibatlarini, xususan, algoritmik tarafkashlikni hal qilishda muhim rol o'ynaydi. SHAP qiymatlarini tahlil qilish kabi tushuntirish usullari, model qarorlariga irq, jins yoki ijtimoiy-iqtisodiy maqom kabi nozik atributlar nomutanosib ravishda ta'sir qilishini aniqlashi mumkin, hatto bu omillar to'g'ridan-to'g'ri kirish sifatida aniq ishlatilmagan bo'lsa ham. Misol uchun, agar kreditni tasdiqlash modeli ma'lum bir demografik toifadagi ariza beruvchilarga doimiy ravishda salbiy SHAP qiymatlarini tayinlasa, bu tergovni talab qiladigan potentsial noto'g'rilikni bildiradi va jamoalarga bunday nohaq natijalarni yuzaga chiqarish va yumshatish imkoniyatini beradi. XAIning kuchi, shuningdek, "tushuntirish mumkin bo'lgan yuvish" potentsialiga ega. "Yashil yuvish" iste'molchilarni atrof-muhitga oid amaliyotlar haqida chalg'itgani kabi, tushuntirishlar muammoli algoritmik xatti-harakatlar yoki o'ziga xos noto'g'ri qarashlarni yoritish uchun emas, balki tushunarsiz qilish uchun mo'ljallangan bo'lsa, tushuntirish mumkin bo'lgan yuvish sodir bo'lishi mumkin. Bu tanqidiy ta'sir etuvchi omillarni e'tiborsiz qoldiradigan haddan tashqari sodda tushuntirishlar yoki natijalarni strategik jihatdan ular haqiqatdan ko'ra neytralroq yoki adolatli ko'rinishga olib keladigan tushuntirishlar sifatida namoyon bo'lishi mumkin. Bu UX amaliyotchilarining chinakam shaffof va tekshirilishi mumkin bo'lgan tushuntirishlarni ishlab chiqish uchun axloqiy mas'uliyatini ta'kidlaydi. UX mutaxassislari ma'lumotlar bo'yicha olimlar va axloqshunoslar bilan hamkorlikda qarorning sababini, shuningdek, asosiy AI modelining cheklovlari va potentsial tomonlarini etkazishda muhim mas'uliyatni o'z zimmalariga oladilar. Bu AI aniqligi haqida real foydalanuvchi taxminlarini belgilash, model qayerda kamroq ishonchli bo'lishi mumkinligini aniqlash va foydalanuvchilar adolatsiz yoki noto'g'ri natijalarni sezganda, murojaat qilish yoki fikr-mulohazalar uchun aniq kanallarni taqdim etishni o'z ichiga oladi. Bularni faol ravishda hal qilishaxloqiy o'lchovlar bizga haqiqatan ham adolatli va ishonchli AI tizimlarini yaratishga imkon beradi. Usullardan maketlarga: amaliy XAI dizayn naqshlari Tushunchalarni bilish bir narsadir; ularni loyihalash boshqa. Mana, biz ushbu XAI usullarini intuitiv dizayn naqshlariga qanday tarjima qilishimiz mumkin. 1-naql: “Chunki” bayonoti (xususiyatlar ahamiyati uchun) Bu eng oddiy va ko'pincha eng samarali naqsh. Bu AI harakatining asosiy sababini ko'rsatadigan to'g'ridan-to'g'ri, oddiy tildagi bayonot.
Evristik: to'g'ridan-to'g'ri va qisqa bo'ling. Eng ta'sirli yagona sabab bilan etakchilik qiling. Har qanday holatda ham jargondan saqlaning.
Misol: musiqa striming xizmatini tasavvur qiling. Shunchaki “Discover Weekly” pleylistini taqdim etish o‘rniga siz mikronusxaning kichik qatorini qo‘shasiz. Qo‘shiq tavsiyasi: “Velvet Morning”Chunki siz “The Fuzz” va boshqa psixik rokni tinglaysiz.
2-naql: "Nima bo'lsa" interaktivi (qarama-qarshi faktlar uchun) Qarama-qarshi faktlar tabiatan vakolatlarni kuchaytirish bilan bog'liq. Ularni taqdim etishning eng yaxshi usuli bu foydalanuvchilarga imkoniyatlarni o'zlari o'rganishlari uchun interfaol vositalarni berishdir. Bu moliyaviy, sog'liq yoki boshqa maqsadga yo'naltirilgan ilovalar uchun juda mos keladi.
Evristik: tushuntirishlarni interaktiv va vakolatli qiling. Foydalanuvchilarga o'z tanlovlarining sababi va oqibatlarini ko'rishga imkon bering.
Misol: Kredit dasturi interfeysi. Rad etishdan so'ng, boshi berk ko'cha o'rniga foydalanuvchi turli stsenariylar (nima bo'lsa) qanday amalga oshishi mumkinligini aniqlash uchun vositani oladi (1-rasmga qarang).
3-naql: Ajratish g‘altagi (mahalliy tushuntirishlar uchun) AI foydalanuvchi kontentida harakat qilganda (masalan, hujjatni umumlashtirish yoki fotosuratlardagi yuzlarni aniqlash), tushuntirish vizual ravishda manba bilan bog'lanishi kerak.
Evristik: tushuntirishni to'g'ridan-to'g'ri u tushuntirayotgan interfeys elementiga ulash uchun ajratib ko'rsatish, konturlar yoki izohlar kabi vizual belgilardan foydalaning.
Misol: Uzoq maqolalarni jamlaydigan AI vositasi. AI tomonidan yaratilgan Xulosa nuqtasi: Dastlabki tadqiqotlar barqaror mahsulotlar uchun bozordagi bo'shliqni ko'rsatdi. Hujjatdagi manba: “...Bozor tendentsiyalarining 2-chorak tahlilimiz hech bir asosiy raqobatchining ekologik ongli iste'molchiga samarali xizmat ko'rsatmayotganini aniq ko'rsatdi va barqaror mahsulotlar bozorida sezilarli bo'shliqni ochib berdi...”
Naqsh 4: Push-and-Pull vizual (qiymatga asoslangan tushuntirishlar uchun) Murakkab qarorlar uchun foydalanuvchilar omillarning o'zaro ta'sirini tushunishlari kerak bo'lishi mumkin. Oddiy ma'lumotlar vizualizatsiyasi buni hech qanday qiyinchiliksiz aniq ko'rsatishi mumkin.
Evristik: qarorga ijobiy va salbiy ta'sir ko'rsatgan omillarni ko'rsatish uchun oddiy, rangli kodli ma'lumotlar vizualizatsiyasidan foydalaning (masalan, shtrixli diagrammalar).
Misol: AI nomzodning ish uchun profilini tekshiradi. Nima uchun bu nomzod 75% mos keladi: Balni ko‘taruvchi omillar: 5+ yillik UX tadqiqoti tajribasiPythonda malakali.Bahoni pastga tushiruvchi omillar:B2B SaaS bilan tajriba yo‘q.
AI mahsulotingizning UX-da ushbu dizayn naqshlarini o'rganish va ulardan foydalanish tushuntirishni oshirishga yordam beradi. Bundan tashqari, men bu erda chuqur yoritmagan qo'shimcha usullardan foydalanishingiz mumkin. Bunga quyidagilar kiradi:
Tabiiy tilda tushuntirishlar: AIning texnik natijasini mutaxassis bo'lmaganlar osonlikcha tushunadigan oddiy, suhbatdosh tiliga tarjima qilish. Kontekstli tushuntirishlar: AIning ma'lum bir vaqtda va joyda chiqishi uchun mantiqiy asosni taqdim etish, u foydalanuvchining vazifasiga eng mos keladi. Tegishli vizualizatsiya: AIning qaror qabul qilish jarayonini vizual tarzda aks ettirish uchun diagrammalar, grafiklar yoki issiqlik xaritalaridan foydalanish murakkab ma'lumotlarni intuitiv va foydalanuvchilar uchun tushunishni osonlashtiradi.
Oldin uchun eslatma: Ushbu tushuntirish natijalarini uzluksiz foydalanuvchi tajribasiga tarjima qilish ham o'ziga xos texnik mulohazalarni taqdim etadi. Front-end ishlab chiquvchilari tushuntirish ma'lumotlarini samarali olish uchun ko'pincha API dizayni bilan kurashadilar va ishlash oqibatlari (masalan, har bir foydalanuvchi o'zaro ta'siri uchun real vaqt rejimida tushuntirishlar yaratish) kechikishdan qochish uchun ehtiyotkorlik bilan rejalashtirishni talab qiladi. Haqiqiy dunyodan ba'zi misollar UPS Capitalning DeliveryDefense UPS paketni o'g'irlash ehtimolini bashorat qilish uchun manzillarga "etkazib berishning ishonch ballini" belgilash uchun sun'iy intellektdan foydalanadi. Ularning DeliveryDefense dasturi joylashuv, yo'qotish chastotasi va boshqa omillar haqidagi tarixiy ma'lumotlarni tahlil qiladi. Agar manzil past ballga ega bo'lsa, tizim qarorni tushuntirish bilan paketni xavfsiz UPS kirish nuqtasiga faol ravishda yo'naltirishi mumkin (masalan, "O'g'irlik tarixi tufayli paket xavfsiz joyga yo'naltirildi"). Ushbu tizim XAI dan qanday qilib xavfni kamaytirish va mijozlar ishonchini mustahkamlash uchun foydalanish mumkinligini ko'rsatadishaffoflik. Avtonom transport vositalari Kelajakning ushbu avtomobillari o'z transport vositalariga xavfsiz va tushunarli qarorlar qabul qilishda yordam berish uchun XAIdan samarali foydalanishlari kerak. O'z-o'zidan boshqariladigan avtomobil to'satdan tormozlanganda, tizim o'z harakatini real vaqt rejimida tushuntirishi mumkin, masalan, yo'lga chiqqan piyodani aniqlash orqali. Bu nafaqat yo'lovchilarning qulayligi va ishonchi uchun muhim, balki AI tizimining xavfsizligi va javobgarligini isbotlash uchun tartibga soluvchi talabdir. IBM Watson Health (va uning muammolari) Sog'liqni saqlashda sun'iy intellektning umumiy namunasi sifatida tez-tez tilga olinsa-da, bu XAIning ahamiyati uchun qimmatli misoldir. Uotson onkologiya loyihasining muvaffaqiyatsizligi tushuntirishlar aniq bo'lmaganda yoki asosiy ma'lumotlar noto'g'ri yoki mahalliylashtirilmaganda nima noto'g'ri bo'lishi mumkinligini ta'kidlaydi. Tizim tavsiyalari ba'zan mahalliy klinik amaliyotlarga mos kelmas edi, chunki ular AQShga asoslangan ko'rsatmalarga asoslangan edi. Bu mustahkam, kontekstdan xabardor tushuntirish zarurati haqida ogohlantiruvchi ertak bo'lib xizmat qiladi. UX tadqiqotchisining roli: tushuntirishlarni aniqlash va tasdiqlash Bizning dizayn echimlarimiz foydalanuvchining to'g'ri savollariga to'g'ri vaqtda javob bersagina samarali bo'ladi. Foydalanuvchida mavjud bo'lmagan savolga javob beradigan tushuntirish shunchaki shovqin. Bu erda UX tadqiqotlari XAI strategiyasining muhim biriktiruvchi to'qimasiga aylanadi va bu bizning foydalanuvchilarimiz uchun nima va qanday muhimligini tushuntirishimizni ta'minlaydi. Tadqiqotchining roli ikki xil: birinchidan, tushuntirishlar kerak bo'lgan joyni aniqlash orqali strategiya haqida ma'lumot berish, ikkinchidan, bu tushuntirishlarni taqdim etadigan dizaynlarni tasdiqlash. XAI strategiyasini xabardor qilish (nima tushuntirish kerak) Yagona tushuntirishni ishlab chiqishdan oldin, foydalanuvchining AI tizimining aqliy modelini tushunishimiz kerak. Ular bu nima qilayotganiga ishonishadi? Ularning tushunchasi va tizim haqiqati o'rtasidagi tafovut qayerda? Bu UX tadqiqotchisining asosiy ishi. Aqliy model intervyular: AI tizimlari haqida foydalanuvchi tushunchalarini ochish Chuqur, yarim tuzilgan intervyular orqali UX amaliyotchilari foydalanuvchilar AI tizimlarini qanday qabul qilishlari va tushunishlari haqida bebaho tushunchalarga ega bo'lishlari mumkin. Ushbu sessiyalar foydalanuvchilarni AI qanday ishlashiga ishonishlari haqidagi ichki "aqliy modelini" tom ma'noda chizish yoki tasvirlashga undash uchun mo'ljallangan. Bu ko'pincha foydalanuvchilarni tizim mantig'ini, uning kirishlari va natijalarini, shuningdek, ushbu elementlar o'rtasidagi munosabatlarni tushuntirishga undaydigan ochiq savollarni berishni o'z ichiga oladi. Ushbu intervyular kuchli, chunki ular tez-tez foydalanuvchilar AI haqida chuqur noto'g'ri tushunchalar va taxminlarni ochib beradi. Misol uchun, tavsiya mexanizmi bilan o'zaro aloqada bo'lgan foydalanuvchi tizim faqat ularning o'tmishdagi ko'rish tarixiga asoslanganligini ishonch bilan ta'kidlashi mumkin. Ular algoritm ko'plab boshqa omillarni o'z ichiga olganligini, masalan, ular ko'rayotgan kun vaqti, platformadagi joriy trend ob'ektlari yoki hatto shunga o'xshash foydalanuvchilarning ko'rish odatlari ham borligini tushunmasligi mumkin. Foydalanuvchining aqliy modeli va haqiqiy AI mantig'i o'rtasidagi bu bo'shliqni ochish juda muhimdir. Bu bizga tizimning aniqroq va mustahkam aqliy modelini yaratishga yordam berish uchun foydalanuvchilarga qanday aniq ma'lumotlarni etkazishimiz kerakligini aniq aytadi. Bu, o'z navbatida, ishonchni mustahkamlashda asosiy qadamdir. Foydalanuvchilar, hatto yuqori darajada bo'lsa ham, AI qanday xulosalar yoki tavsiyalarga kelishini tushunsa, ular uning natijalariga ko'proq ishonishadi va uning funksionalligiga tayanadilar. AI sayohat xaritasi: foydalanuvchi ishonchi va tushuntirish qobiliyatiga chuqur sho'ng'ish Sun'iy intellekt yordamida foydalanuvchining sayohatini sinchkovlik bilan xaritalash orqali biz chalkashlik, umidsizlik yoki hatto chuqur ishonchsizlik paydo bo'ladigan aniq daqiqalar haqida bebaho tushunchalarga ega bo'lamiz. Bu foydalanuvchining AI qanday ishlashi haqidagi aqliy modeli uning haqiqiy xatti-harakati bilan ziddiyatli bo'lgan muhim bosqichlarni ochib beradi. Musiqa striming xizmati haqida o'ylab ko'ring: pleylist tavsiyasi "tasodifiy" bo'lib tuyulsa, uning o'tmishdagi tinglash odatlari yoki ko'rsatilgan afzal ko'rganlari bilan hech qanday aloqasi yo'q bo'lsa, foydalanuvchining ishonchi pasayadimi? Bu qabul qilingan tasodifiylik foydalanuvchining aqlli kurasiyani kutishiga to'g'ridan-to'g'ri qiyinchilik va AI ularning ta'mini tushunishi haqidagi yashirin va'dani buzishdir. Xuddi shunday, fotosuratlarni boshqarish ilovasida, AI fotosuratlarni teglash xususiyati oilaning qadrdon a'zosini doimiy ravishda noto'g'ri identifikatsiyalashda foydalanuvchilar jiddiy umidsizlikka duch kelishadimi? Bu xato texnik nosozlikdan ko'ra ko'proq; u aniqlik, shaxsiylashtirish va hatto qalbiga zarba beradihissiy aloqa. Bu og'riq nuqtalari aniq, aniq va qisqa tushuntirish zarurligini ko'rsatadigan yorqin signallardir. Bunday tushuntirishlar hal qiluvchi ta'mirlash mexanizmlari bo'lib xizmat qiladi, agar e'tibor berilmasa, foydalanuvchi tark etishiga olib kelishi mumkin bo'lgan ishonch buzilishini tuzatadi. AI sayohat xaritasining kuchi bizni AI tizimining yakuniy natijasini tushuntirishdan tashqariga ko'chirish qobiliyatidadir. AI nima ishlab chiqarganini tushunish muhim bo'lsa-da, ko'pincha bu etarli emas. Buning o'rniga, bu jarayon bizni muhim daqiqalarda jarayonni tushuntirishga e'tibor qaratishga majbur qiladi. Bu murojaat qilishni anglatadi:
Nima uchun ma'lum bir chiqish yaratildi: ma'lum bir kirish ma'lumotlari tufaylimi? Muayyan model arxitekturasi? AI qaroriga qanday omillar ta'sir qildi: ba'zi xususiyatlar og'irroq bo'lganmi? AI qanday xulosaga keldi: biz uning ichki ishlashini soddalashtirilgan, o'xshash tushuntirishni taklif qila olamizmi? Sun'iy intellekt qanday taxminlarni ilgari surdi: foydalanuvchining niyati yoki ma'lumotlari to'g'risida aniq tushunchalar bo'lganmi? AIning cheklovlari nimadan iborat: AI nima qila olmasligini yoki uning aniqligi qayerda o'zgarishi mumkinligini aniq aytib berish real umidlarni yaratadi.
AI sayohat xaritasi XAIning mavhum kontseptsiyasini UX amaliyotchilari uchun amaliy, amaliy asosga aylantiradi. Bu bizga tushuntirish mumkin bo'lgan nazariy munozaralardan tashqariga chiqish va buning o'rniga foydalanuvchi ishonchi xavf ostida bo'lgan aniq daqiqalarni aniqlash imkonini beradi, kuchli, shaffof, tushunarli va ishonchli sun'iy intellekt tajribasini yaratish uchun zarur bo'lgan tushunchalarni beradi. Oxir oqibat, tadqiqot biz noma'lum narsalarni qanday ochishimizdir. Sizning jamoangiz kredit nima uchun rad etilganligini qanday tushuntirish haqida bahslashayotgan bo'lishi mumkin, ammo tadqiqotlar shuni ko'rsatishi mumkinki, foydalanuvchilar birinchi navbatda o'z ma'lumotlaridan qanday foydalanilganligini tushunish bilan ko'proq tashvishlanishadi. Tadqiqotlarsiz biz shunchaki foydalanuvchilarimiz nimani qiziqtirayotganini taxmin qilamiz. Dizayn ustida hamkorlik qilish (AIni qanday tushuntirish mumkin) Tadqiqot nimani tushuntirish kerakligini aniqlagandan so'ng, dizayn bilan hamkorlik tsikli boshlanadi. Dizaynerlar biz ilgari muhokama qilgan naqshlarning prototipini yaratishi mumkin - "Chunki" iborasi, interaktiv slayderlar - va tadqiqotchilar ushbu dizaynlarni ushlab turish yoki yo'qligini bilish uchun foydalanuvchilarning oldiga qo'yishlari mumkin. Maqsadli foydalanish va tushunish testi: Biz XAI komponentlarini maxsus sinovdan o'tkazadigan tadqiqot ishlarini loyihalashimiz mumkin. Biz shunchaki so'ramaymiz: "Buni ishlatish osonmi?" Biz so'raymiz: "Buni ko'rganingizdan so'ng, tizim nima uchun ushbu mahsulotni tavsiya qilganini o'z so'zlaringiz bilan ayta olasizmi?" yoki "Boshqa natijaga erisha olasizmi, ko'rish uchun nima qilishingizni ko'rsating." Bu erda maqsad foydalanish qulayligi bilan bir qatorda tushunish va harakatchanlikni o'lchashdir. Ishonchni o'lchash: tushuntirishni ko'rsatishdan oldin va keyin oddiy so'rovlar va reyting shkalalaridan foydalanishimiz mumkin. Masalan, foydalanuvchidan 5 balli tizimda “Siz bu tavsiyaga qanchalik ishonasiz?” deb so‘rashimiz mumkin. "Chunki" iborasini ko'rishdan oldin va keyin yana so'rang. Bu bizning tushuntirishlarimiz haqiqatan ham ishonchga bog'liqmi yoki yo'qmi, miqdoriy ma'lumotlarni taqdim etadi. Bu jarayon kuchli, iterativ halqa hosil qiladi. Tadqiqot natijalari dastlabki dizayn haqida ma'lumot beradi. Keyin ushbu dizayn sinovdan o'tkaziladi va yangi topilmalar takomillashtirish uchun dizayn guruhiga qaytariladi. Ehtimol, "Chunki" iborasi juda jargonli edi yoki "Nima bo'lsa" slayderi vakolat berishdan ko'ra ko'proq chalkash edi. Ushbu hamkorlikdagi tekshirish orqali biz yakuniy tushuntirishlar texnik jihatdan toʻgʻri, chinakam tushunarli, foydali va mahsulotdan foydalanuvchi odamlar uchun ishonchni mustahkamlashga ishonch hosil qilamiz. Goldilocks tushuntirish zonasi Ogohlantirishning tanqidiy so'zi: ortiqcha tushuntirish mumkin. Ertakda bo'lgani kabi, Goldilocks "to'g'ri" bo'lgan bo'tqa qidirganida, yaxshi tushuntirishning maqsadi - juda ko'p va juda oz emas, kerakli miqdordagi tafsilotlarni taqdim etishdir. Modeldagi har bir o'zgaruvchi bilan foydalanuvchini bombardimon qilish kognitiv yuklanishga olib keladi va aslida ishonchni pasaytirishi mumkin. Maqsad foydalanuvchini ma'lumot olimi qilish emas. Bir yechim - progressiv oshkor qilish.
Oddiydan boshlang. Qisqacha "Chunki" bayonoti bilan etakchilik qiling. Aksariyat foydalanuvchilar uchun bu etarli bo'ladi. Tafsilotlarga yo'l taklif qiling. “Batafsil maʼlumot” yoki “Bu qanday aniqlanganini koʻring” kabi aniq, past ishqalanishli havolani taqdim eting. Murakkablikni oching. Ushbu havolaning orqasida siz interaktiv slayderlarni, vizualizatsiyalarni yoki hissa qo'shadigan omillarning batafsil ro'yxatini taklif qilishingiz mumkin.
Ushbu qatlamli yondashuv foydalanuvchining e'tiborini va tajribasini hurmat qiladi va kerakli miqdorni ta'minlaydiularning ehtiyojlari uchun ma'lumotlar. Tasavvur qilaylik, siz turli omillarga asoslangan optimal isitishni tavsiya qiladigan aqlli uy qurilmasidan foydalanmoqdasiz. Oddiydan boshlang: "Sizning uyingiz hozirda 72 darajagacha isitiladi, bu energiya tejash va qulaylik uchun optimal haroratdir." Tafsilotga yo'lni taklif qiling: Uning ostida kichik havola yoki tugma: "Nega 72 daraja optimal?" Murakkablikni oching: ushbu havolani bosish quyidagi ko'rsatkichlarni ko'rsatadigan yangi ekranni ochishi mumkin:
Tashqi harorat, namlik va siz tanlagan qulaylik darajasi uchun interaktiv slayderlar, ular tavsiya etilgan haroratni qanday sozlashini namoyish etadi. Har xil haroratlarda energiya sarfini vizualizatsiya qilish. “Kun vaqti”, “Hozirgi tashqi harorat”, “Tarixiy energiya sarfi” va “Tashqichi sensorlar” kabi omillar roʻyxati.
Bir nechta XAI usullarini birlashtirish samarali va progressiv oshkor qilishni yoqlovchi Goldilocks tushuntirish zonasi buni bilvosita rag'batlantiradi. Darhol tushunish uchun oddiy “Chunki” (1-rasm) iborasi bilan boshlashingiz mumkin, soʻngra chuqurroq oʻrganish uchun “Nima boʻlsa” interaktiv (2-rasm) yoki “Turish va tortish” (4-rasm) koʻrsatuvchi “Batafsil maʼlumot” havolasini taklif qilishingiz mumkin. Masalan, kreditga ariza berish tizimi dastlab rad etishning asosiy sababini (xususiyatlar muhimligini) ko'rsatishi mumkin, keyin foydalanuvchiga daromadlari yoki qarzlaridagi o'zgarishlar natijani qanday o'zgartirishini ko'rish uchun "Nima bo'lsa" vositasi bilan o'zaro aloqada bo'lishiga imkon beradi (qarama-qarshi faktlar) va nihoyat, batafsil "Surish va tortish" diagrammasini taqdim etishi mumkin (qiymatga asoslangan barcha salbiy ta'sirlarning ijobiy ta'rifi). Ushbu qatlamli yondashuv foydalanuvchilarga kerakli tafsilotlar darajasiga kerak bo'lganda foydalanish imkonini beradi, kognitiv yuklanishning oldini oladi va shu bilan birga har tomonlama shaffoflikni ta'minlaydi. Qaysi XAI vositalari va usullaridan foydalanishni aniqlash, birinchi navbatda, UXni puxta o'rganish vazifasidir. Aqliy model intervyulari va AI sayohat xaritasi foydalanuvchi ehtiyojlari va AI tushunchasi va ishonchi bilan bog'liq og'riqli nuqtalarni aniqlash uchun juda muhimdir. Aqliy model intervyulari foydalanuvchilarning sun'iy intellekt qanday ishlashi haqidagi noto'g'ri tushunchalarini aniqlashga yordam beradi, bunda fundamental tushuntirishlar (masalan, xususiyat ahamiyati yoki mahalliy tushuntirishlar) kerak bo'lgan sohalarni ko'rsatadi. Boshqa tomondan, AI sayohat xaritasi foydalanuvchining sun'iy intellekt bilan o'zaro ta'sirida chalkashlik yoki ishonchsizlikning muhim daqiqalarini aniqlaydi, bu ishonchni tiklash va agentlikni ta'minlash uchun yanada aniqroq yoki interaktiv tushuntirishlar (masalan, qarama-qarshi faktlar yoki qiymatga asoslangan tushuntirishlar) eng foydali bo'lishini ko'rsatadi.
Oxir oqibat, texnikani tanlashning eng yaxshi usuli - bu foydalanuvchi tadqiqotiga sizning qarorlaringizga rahbarlik qilish imkonini berish, siz ishlab chiqqan tushuntirishlar o'z manfaati uchun texnik tafsilotlarni taklif qilish o'rniga, to'g'ridan-to'g'ri foydalanuvchi savollari va tashvishlariga javob berishiga ishonch hosil qilishdir. Chuqur fikrlash agentlari uchun XAI Chuqur fikrlash agentlari sifatida tanilgan eng yangi AI tizimlarining ba'zilari har bir murakkab vazifa uchun aniq "fikr zanjiri" ni ishlab chiqaradi. Ular faqat manbalarga iqtibos keltirmaydilar; ular bir xulosaga kelish uchun bosib o‘tgan mantiqiy, bosqichma-bosqich yo‘lni ko‘rsatadilar. Ushbu shaffoflik qimmatli kontekstni ta'minlasa-da, bir nechta paragraflarni o'z ichiga olgan o'yin-o'yin oddiygina vazifani bajarishga harakat qilayotgan foydalanuvchi uchun juda qiyin bo'lishi mumkin. XAI tamoyillari, ayniqsa Goldilocks tushuntirish zonasi to'g'ridan-to'g'ri bu erda qo'llaniladi. Biz faqat yakuniy xulosani va fikrlash jarayonidagi eng muhim qadamni ko'rsatish uchun progressiv oshkor qilishdan foydalangan holda sayohatni tuzatamiz. Keyin foydalanuvchilar mantiqni ikki marta tekshirish yoki aniq faktni topish kerak bo'lganda to'liq, batafsil, ko'p bosqichli fikrlashni ko'rishni tanlashlari mumkin. Ushbu yondashuv agentning to'liq shaffofligini saqlab, foydalanuvchi e'tiborini hurmat qiladi. Keyingi qadamlar: XAI sayohatingizni kuchaytirish Tushuntirish qobiliyati ishonchli va samarali AI mahsulotlarini yaratishning asosiy ustunidir. O'z tashkilotida ushbu o'zgarishlarni amalga oshirishga intilayotgan ilg'or amaliyotchi uchun sayohat dizayn naqshlaridan tashqari, targ'ibot va uzluksiz o'rganishga cho'ziladi. Tushunishni chuqurlashtirish va amaliy qoʻllash uchun IBM Research kompaniyasining AI Explainability 360 (AIX360) asboblar toʻplami yoki model xatti-harakati va tushuntirishlarini oʻrganishning interaktiv usullarini taklif qiluvchi Google What-If Tool kabi resurslarni oʻrganing. Mas'uliyatli sun'iy intellekt forumi kabi jamoalar yoki insonga yo'naltirilgan AIga yo'naltirilgan maxsus tadqiqot guruhlari bilan hamkorlik qilish bebaho tushunchalar va hamkorlik imkoniyatlarini taqdim etishi mumkin. Va nihoyat, o'z tashkilotingizda XAI uchun advokat bo'ling.Strategik sarmoya sifatida ramkaning tushuntirilishi. Rahbariyatingiz yoki o'zaro faoliyat guruhlari haqida qisqacha ma'lumotni ko'rib chiqing: "XAIga sarmoya kiritib, biz ishonchni mustahkamlashdan tashqariga chiqamiz; biz foydalanuvchilarni qabul qilishni tezlashtiramiz, foydalanuvchilarga tushunish imkoniyatini berish orqali qoʻllab-quvvatlash xarajatlarini kamaytiramiz va potentsial notoʻgʻri qarashlarni fosh qilish orqali muhim axloqiy va tartibga solish xatarlarini yumshatamiz. Bu yaxshi dizayn va aqlli biznesdir."
Amaliy tushunishga asoslangan ovozingiz sun'iy intellektni qora qutidan chiqarish va foydalanuvchilar bilan hamkorlikda hamkorlik qilishda muhim ahamiyatga ega.
