Соңгы әсәремдә без төп хакыйкатьне билгеләдек: кулланучылар ЯИны кабул итү һәм аңа таяну өчен, алар аңа ышанырга тиеш. Ышанычның күпкырлы конструктор булуы турында сөйләштек, ЯИ сәләтен, игелеклелекне, сафлыкны, алдан әйтеп була. Ләкин ЯИ, тавышсыз, алгоритмик зирәклектә, кулланучыны аптырашта калдырган, күңелсезләнгән, хәтта рәнҗеткән карар кабул иткәндә нәрсә була? Ипотека гаризасы кире кагыла, яраткан җыр кинәт плейлистта юк, һәм квалификацияле резюме кеше күргәнче кире кагыла. Бу мизгелләрдә сәләт һәм алдан әйтеп була, игелек дөньяны ерак тоя. Безнең сөйләшү хәзер ни өчен ышанычтан ачыклыкка кадәр үсәргә тиеш. АИ нәтиҗәләрен кешеләргә аңлаешлы итү ысулларын эшкәртүгә юнәлтелгән Аңлаткыч ЯИ (XAI) өлкәсе моны чишү өчен барлыкка килде, ләкин ул еш кына мәгълүмат галимнәре өчен техник проблема булып тора. Мин ЯИга таянган продуктлар өчен критик дизайн проблемасы дип саныйм. Бу безнең алгоритмик карарлар кабул итү һәм кеше аңлавы арасындагы аерманы каплау өчен UX профессионаллары. Бу мәкалә аңлату өчен тикшерү һәм проектлау буенча практик, эшлекле җитәкчелек бирә. Без вззвордлардан һәм мокупларга күчәчәкбез, катлаулы XAI төшенчәләрен сез бүген куллана башлаган конкрет дизайн үрнәкләренә тәрҗемә итәрбез. XAI-ны серләштерү: UX практиклары өчен төп төшенчәләр XAI кулланучының соравына җавап бирә: "Нигә?" Нигә миңа бу рекламаны күрсәттеләр? Нигә бу фильм миңа тәкъдим ителә? Нигә минем үтенечем кире кагылды? Аны математика проблемасы буенча эшләрен күрсәтүче ЯИ дип уйлагыз. Ансыз, сезнең җавап кына бар, һәм сез аны иманга алырга мәҗбүр буласыз. Адымнарны күрсәткәндә сез аңлау һәм ышаныч булдырасыз. Сез шулай ук эшегезне икеләтә тикшерергә һәм ул тәэсир иткән кешеләр тарафыннан расланырга рөхсәт итәсез. Функциянең әһәмияте һәм контрфакт ЯИ белән нәрсә булганын ачыклау яки аңлату өчен без куллана алырлык берничә техника бар. Методлар карар агачының бөтен логикасын тәэмин итүдән алып, табигый тел йомгакларын чыгаруга кадәр булса да, UX практиклары тәҗрибәгә кертә алган иң практик һәм тәэсирле ике төр үзенчәлек мөһимлеге (1 нче рәсем) һәм конфрактактлар. Бу еш кулланучылар өчен аңлау өчен иң туры һәм дизайнерлар өчен иң кулай.
Функциянең мөһимлеге Бу аңлату ысулы җавап бирә, "ЯИ каралган иң мөһим факторлар нинди?" Бу нәтиҗәләргә иң зур йогынты ясаган иң яхшы 2-3 үзгәрүчене ачыклау турында. Бу бөтен вакыйга түгел. Exampleрнәк: клиентның чабып китүен фаразлаучы ЯИны күз алдыгызга китерегез (аларның хезмәтен юкка чыгарыгыз). Функциональ әһәмият шуны күрсәтә ала: "соңгы айда ярдәм шалтыратулары саны" һәм "соңгы бәяләр арту" клиентның кире кагылу мөмкинлеген ачыклауда иң мөһим ике фактор.
Контрфакт Бу көчле ысул: "Башка нәтиҗәләргә ирешү өчен миңа нәрсә үзгәртергә кирәк?" Бу бик мөһим, чөнки ул кулланучыларга агентлык хисе бирә. Ул күңелсезләнүче “юк” ны “әле түгел” га әйләндерә. Мисал: ЯИ кулланган кредит заявкасы системасын күз алдыгызга китерегез. Кулланучы кредиттан баш тарта. "Заявка кире кагылган" ны күрү урынына, конфракталь аңлатма шулай ук бүлешәчәк: "Әгәр сезнең кредит баллыгыз 50 баллга югарырак булса, яки сезнең бурыч-керемегез 10% түбән булса, сезнең кредит расланган булыр иде." Бу Сарага киләчәктә кредит алу өчен ачык, эшлекле адымнар бирә.
Аңлатманы көчәйтү өчен модель мәгълүмат куллану Техник үзенчәлекләр еш кына мәгълүмат галимнәре тарафыннан эшләнсә дә, UX практиклары өчен LIME (Local Interpretable Model-agnostic Explanations) кебек коралларның модельне якынча якынлаштырып аңлатуларын аңлатучы кораллар, һәм бу "ни өчен" катлаулы өйрәнү модельләрен чыгаруны аңлату өчен уен теориясе кулланган SHAP (SHapley Additive exPlanations) кулланыла. Бу китапханәләр асылда ЯИ карарын бозырга булышалар, билгеле бер нәтиҗә өчен нинди керемнәр иң тәэсирле булганын. Дөрес эшләнгәндә, AI коралы карары нигезендәге мәгълүматлар көчле хикәя сөйләү өчен кулланылырга мөмкин. Әйдәгез, үзенчәлек әһәмиятен һәм конфракталь әйберләрне карап чыгыйк һәм карар артындагы мәгълүмат фәнен кулланучының тәҗрибәсен арттыру өчен ничек кулланырга икәнен күрсәтик. Хәзер әйдәгезLocalирле Аңлатмалар (мәсәлән, LIME) мәгълүматлары ярдәмендә үзенчәлек мөһимлеген каплагыз: Бу алым җавап бирә, "Ни өчен ЯИ минем өчен бу махсус рекомендация ясады?" Модельнең ничек эшләве турында гомуми аңлату урынына, ул бер, конкрет инстанция өчен төп сәбәп китерә. Бу шәхси һәм контекстуаль. Мисал: Spotify кебек AI белән эшләнгән музыка тәкъдим итү системасын күз алдыгызга китерегез. Localирле аңлатма җавап бирер иде: "Ни өчен система хәзерге вакытта Аделаның бу махсус җырын сезгә тәкъдим итте?" Аңлатма булырга мөмкин: "Чөнки сез күптән түгел хатын-кыз вокалистларының тагын берничә эмоциональ балладасын һәм җырларын тыңладыгыз."
Ниһаять, карарның аңлатмасына Кыйммәткә нигезләнгән Аңлатмалар (мәсәлән, Шапли Кушымчалы Аңлатмалар) (SHAP) мәгълүматларын кертүне каплыйк: Бу үзенчәлек мөһимлегенең нуансланган версиясе, "eachәрбер фактор карарны теге яки бу якка этәрде?" Бу мөһим нәрсә, аның йогынтысы уңай яки тискәре булуын күз алдына китерергә ярдәм итә. Мисал: Кредит гаризасын раслау-кабул итмәү өчен, банк AI моделен куллана.
Функциянең мөһимлеге: модель чыгару гаризаның кредит баллы, кереме һәм бурыч-керем коэффициенты аның карарында иң мөһим факторлар булуын күрсәтергә мөмкин. Бу мөһим нәрсәгә җавап бирә. Кыйммәткә нигезләнгән аңлатмалар белән үзенчәлекнең мөһимлеге (SHAP): SHAP кыйммәтләре модель элементларына нигезләнеп алга таба мөһимлекне алырлар.
Рөхсәт ителгән кредит өчен, SHAP күрсәтә ала, югары кредит баллы карарны раслауга (уңай тәэсиргә) этәрде, шул ук вакытта уртача бурычтан-керемгә караганда бераз югарырак булса, аны бераз читкә алып китте (тискәре йогынты), ләкин кредитны кире кагу өчен җитәрлек түгел. Инкарь ителгән кредит өчен, SHAP ачыклый ала, аз керем һәм күп санлы кредит тикшерүләре, кредит счеты лаеклы булса да, карарны кире кагуга этәрде.
Бу кредит офицерына гариза бирүчегә каралганнан тыш, һәр факторның соңгы "әйе" яки "юк" карарына ничек өлеш керткәнен аңлатырга ярдәм итә. Яхшы аңлатмалар бирү сәләтенең үсеш циклында ешрак башлануын тану бик мөһим. Мәгълүмати галимнәр һәм инженерлар төп роль уйныйлар, модельләрне һәм мәгълүмат үткәргечләрен белә торып структуралаштырып, аңлаешлылыкны хуплыйлар, аны уйланыр өчен түгел. Тикшеренү һәм дизайн коллективлары моны мәгълүмат галимнәре һәм инженерлары белән кулланучының аңлау ихтыяҗлары турында, аңлаешлылык күрсәткечләрен үстерүгә булышлык итү, һәм төгәл һәм кулланучылар өчен уңайлы булу өчен аңлатмаларны прототиплау ярдәмендә иртә сөйләшүләр башлап җибәрә ала. XAI һәм Этик ЯИ: Биасны ачу һәм җаваплылык Ышанычны арттырудан тыш, XAI AI * ның тирән этик нәтиҗәләрен чишүдә, аеруча алгоритмик тигезлектә мөһим роль уйный. Аңлату техникасы, мәсәлән, SHAP кыйммәтләрен анализлау, модель карарлары раса, җенес яки социаль-икътисади статус кебек сизгер атрибутлар белән пропорциональ рәвештә тәэсир итәме, бу факторлар турыдан-туры керемнәр буларак кулланылмаса да. Мисал өчен, әгәр кредитны раслау моделе билгеле бер демографик гариза бирүчеләргә тискәре SHAP кыйммәтләрен билгеләсә, бу тикшерүгә мохтаҗ булган потенциаль икеләтүне күрсәтә, командаларга мондый гаделсез нәтиҗәләрне җиңеләйтергә ярдәм итә. XAI көче шулай ук "аңлату юу" потенциалы белән килә. "Яшел юу" кулланучыларны экологик практикалар турында адаштырган кебек, аңлату юу аңлатмалар яктырту өчен түгел, проблемалы алгоритмик тәртип яки хас тискәре күренешләр түгел. Бу критик йогынты ясаучы факторларны калдырган чиктән тыш гади аңлатмалар, яки стратегик нәтиҗәләр ясаган аңлатмалар, алар битараф яки гадел булып күренергә мөмкин. Бу UX практикларының этик җаваплылыгын күрсәтә, чын мәгънәсендә ачык һәм раслана торган аңлатмалар эшләү. UX профессионаллары, мәгълүмат галимнәре һәм этикистлар белән берлектә, карарның сәбәбен, шулай ук төп ЯИ моделенең чикләүләрен һәм потенциаль тискәре якларын җиткерүдә мөһим җаваплылык тота. Бу ЯИ төгәллеге турында реалистик кулланучының өметләрен билгеләү, модельнең ышанычлырак була алуын ачыклау, кулланучылар гаделсез яки дөрес булмаган нәтиҗәләрне сизгәндә мөрәҗәгать итү яки кире кайту өчен ачык каналлар бирүне үз эченә ала. Аларга актив рәвештә мөрәҗәгать итүэтик үлчәмнәр безгә чыннан да гадел һәм ышанычлы ЯИ системаларын төзергә мөмкинлек бирәчәк. Методлардан мокупларга: практик XAI дизайн үрнәкләре Концепцияләрне белү - бер нәрсә; аларны проектлау бүтән. Менә без бу XAI ысулларын интуитив дизайн формаларына ничек тәрҗемә итә алабыз. 1-нче үрнәк: "Чөнки" аңлатмасы (үзенчәлек өчен) Бу иң гади һәм еш эффектив үрнәк. Бу турыдан-туры, гади телдә әйтелгән, ЯИ эшенең төп сәбәбен күрсәтә.
Геуристик: Туры һәм кыска бул. Иң тәэсирле сәбәп белән әйдәгез. Costsәрхәлдә яргоннан сакланыгыз.
Мисал: Музыкаль агым хезмәтен күз алдыгызга китерегез. "Атналыкны ачу" плейлистын тәкъдим итү урынына, сез микрокопиянең кечкенә сызыгын өстисез. Реклама: "Бәрхет таңы" Чөнки сез "Фаз" һәм башка психеделик кыяларны тыңлыйсыз.
2-нче үрнәк: "Нәрсә-әгәр" интерактив (контрафакт өчен) Контрфактивлар көч кую турында. Аларны күрсәтүнең иң яхшы ысулы - мөмкинлекләрне тикшерү өчен кулланучыларга интерактив кораллар бирү. Бу финанс, сәламәтлек яки башка максатка юнәлтелгән кушымталар өчен бик яхшы.
Геуристик: Аңлатмалар интерактив һәм көч бирә. Кулланучыларга сайлау сәбәпләрен һәм нәтиҗәләрен күрергә рөхсәт итегез.
Мисал: Кредит заявкасы интерфейсы. Инкарьдан соң, үлгән ахыр урынына, кулланучы төрле сценарийларның (нәрсә-ифс) ничек уйнавын ачыклау өчен корал ала (1 нче рәсемне кара).
3нче үрнәк: Төп ролик (җирле аңлатмалар өчен) ЯИ кулланучының эчтәлеге буенча эш башкарганда (документны гомумиләштерү яки фотолардагы йөзләрне ачыклау кебек), аңлатма чыганак белән визуаль рәвештә бәйләнергә тиеш.
Геуристик: Аңлатуны турыдан-туры аңлаткан интерфейс элементына тоташтыру өчен, яктырту, схемалар яки аннотацияләр кебек визуаль төсләрне кулланыгыз.
Exampleрнәк: озын мәкаләләргә йомгак ясый торган ЯИ коралы. АИ-Генераль йомгаклау пункты: Беренче тикшеренүләр тотрыклы продуктлар өчен базар аермасын күрсәттеләр. Документтагы ресурс: "... Базар тенденцияләрен анализлау безнең төп көндәшнең эко-аңлы кулланучыларга нәтиҗәле хезмәт итмәвен, тотрыклы продуктлар өчен базар аермасын ачыклавын күрсәтте ..."
4-нче үрнәк: Push-and-Pull Visual (кыйммәткә нигезләнгән аңлатмалар өчен) Катлаулырак карарлар өчен кулланучыларга факторларның үзара бәйләнешен аңларга кирәк булырга мөмкин. Гади мәгълүматны визуализацияләү моны ачык итеп күрсәтә ала.
Геуристик: Карарга уңай һәм тискәре йогынты ясаган факторларны күрсәтү өчен гади, төсле кодлы мәгълүмат визуализациясен кулланыгыз (схемалар схемасы кебек).
Exampleрнәк: эш өчен кандидатның профилен скринклау. Ни өчен бу кандидат 75% матч: баллны күтәрүче факторлар: 5+ еллык UX тикшеренү тәҗрибәсе PythonFactors'да баллны түбәнәйтү: B2B SaaS белән тәҗрибә юк.
Сезнең AI продуктының UX-та бу дизайн үрнәкләрен өйрәнү һәм куллану аңлатучанлыкны арттырырга ярдәм итәчәк. Сез шулай ук мин монда тирәнтен яктыртмаган өстәмә техниканы куллана аласыз. Бу түбәндәгеләрне үз эченә ала:
Табигать телен аңлату: ЯИның техник чыгышын белгеч булмаган кешеләр аңлый алган гади, сөйләшүче кеше теленә тәрҗемә итү. Контекстуаль аңлатмалар: билгеле бер моментта һәм урында ЯИ чыгару өчен рационализация бирү, бу кулланучының бурычы өчен иң актуаль. Тиешле визуализацияләр: ЯИ карарларын кабул итү процессын визуаль рәвештә күрсәтү өчен схемалар, графиклар яки җылылык карталарын куллану, катлаулы мәгълүматны интуитив һәм кулланучыларга аңлау җиңелрәк.
Фронт ахыры өчен искәрмә: Бу аңлату нәтиҗәләрен кулланучының тәҗрибәсенә тәрҗемә итү шулай ук үзенең техник уйлануларын тәкъдим итә. Фронтовик уйлап табучылар еш аңлату мәгълүматларын эффектив алу өчен API дизайны белән көрәшәләр, һәм эш нәтиҗәләре (һәрбер кулланучының үзара бәйләнеше өчен реаль вакыттагы аңлатмалар буыны кебек) тоткарлыкны булдырмас өчен сак планлаштыру кирәк. Кайбер реаль дөнья мисаллары UPS Capital's DeliveryDefense UPS пакетны урлау ихтималын фаразлау өчен адресларга "тапшыру ышаныч баллын" билгеләү өчен ЯИ куллана. Аларның DeliveryDefense программалары урнашу урыны, югалту ешлыгы һәм башка факторлар турында тарихи мәгълүматны анализлый. Әгәр дә адрес түбән баллга ия булса, система пакетны актив рәвештә UPS керү ноктасына юнәлтә ала, карар өчен аңлатма бирә (мәсәлән, "Пакет урлау тарихы аркасында куркынычсыз урынга юнәлтелгән"). Бу система XAIның рискны йомшарту һәм клиентларның ышанычын арттыру өчен ничек кулланылуын күрсәтәачыклык. Автоном транспорт Киләчәкнең бу машиналары куркынычсыз, аңлаешлы карарлар кабул итәр өчен XAIны эффектив кулланырга тиеш. Selfз-үзен йөртүче машина кинәт тормоз торгач, система аның эше өчен реаль вакытта аңлатма бирә ала, мәсәлән, җәяүле юлга басканын ачыклап. Бу пассажирлар өчен уңайлы һәм ышаныч өчен бик мөһим түгел, ә ЯИ системасының куркынычсызлыгын һәм җаваплылыгын раслау өчен норматив таләп. IBM Watson Health (һәм аның проблемалары) Сәламәтлек саклау өлкәсендә ЯИның гомуми мисалы итеп китерелсә дә, ул XAI мөһимлеге өчен кыйммәтле очрак. Онкология өчен Watson проектының уңышсызлыгы аңлатмалар ачык булмаганда, яисә төп мәгълүматлар икейөзле булганда яки локальләштерелмәгәндә нәрсә булырга мөмкинлеген күрсәтә. Система тәкъдимнәре кайвакыт җирле клиник практикаларга туры килми иде, чөнки алар АКШ үзәк күрсәтмәләренә нигезләнгән иде. Бу нык, контекстны аңлаучы аңлату кирәклеге турында кисәтүче әкият булып хезмәт итә. UX Тикшерүче роле: Аңлатмаларны күрсәтү һәм раслау Безнең дизайн чишелешләре кулланучының сорауларына вакытында мөрәҗәгать итсәләр генә эффектив. Кулланучының булмаган соравына җавап бирү - шау-шу гына. Монда UX тикшеренүләре XAI стратегиясендә критик тоташтыргыч тукымага әверелә, безнең кулланучылар өчен нәрсә һәм нәрсә мөһимлеген аңлатуыбызны тәэмин итә. Тикшерүченең роле икеләтә: беренчедән, аңлатмаларның кайда кирәклеген ачыклап, стратегияне хәбәр итү, икенчедән, бу аңлатмаларны бирүче конструкцияләрне раслау. XAI стратегиясе турында мәгълүмат бирү (нәрсә аңлатырга) Бер аңлатманы эшләгәнче, без кулланучының ЯИ системасының психик моделен аңларга тиеш. Алар нәрсә эшли дип ышаналар? Аларны аңлау һәм система чынбарлыгы арасындагы аермалар кайда? Бу UX тикшерүчесенең төп эше. Психик модель интервьюлары: кулланучыларның ЯИ системаларын кабул итү Тирән, ярым структуралы интервьюлар аша UX практиклары кулланучыларның ЯИ системаларын ничек кабул итүләрен һәм аңлаулары турында бәяләп бетергесез мәгълүмат ала ала. Бу сессияләр кулланучыларны үзләренең “психик моделен” ясарга яки ЯИ эшләвенә ничек ышанырга өндәү өчен эшләнгән. Бу еш кулланучыларга системаның логикасын, керемнәрен, нәтиҗәләрен, шулай ук бу элементлар арасындагы бәйләнешне аңлатырга этәрүче ачык сораулар бирүне үз эченә ала. Бу интервьюлар көчле, чөнки алар еш ЯИ турында булган тирән ялгыш карашларны һәм фаразларны ачалар. Мәсәлән, кулланучы рекомендация двигателе белән үзара бәйләнештә торып, системаның үткән карау тарихына нигезләнгәнен раслый ала. Алар алгоритмның башка күп факторларны да үз эченә алганын аңламаска мөмкин, мәсәлән, алар караган көн вакыты, платформадагы агымдагы әйберләр, хәтта охшаш кулланучыларның карау гадәтләре. Кулланучының психик моделе белән төп ЯИ логикасы арасындагы бу аерманы ачу бик мөһим. Бу безгә системаның төгәл һәм нык психик моделен булдыруда булышу өчен, кулланучылар белән нинди конкрет мәгълүмат кирәклеген ачыклый. Бу, үз чиратында, ышаныч тәрбияләүдә төп адым. Кулланучылар, хәтта югары дәрәҗәдә дә, ЯИның үз нәтиҗәләренә яки тәкъдимнәренә ничек килүен аңлагач, алар аның нәтиҗәләренә ышаналар һәм аның функцияләренә таяналар. ЯИ сәяхәт картасы: Кулланучының ышанычына һәм аңлатуына тирән сикерү Кулланучының сәяхәтен ЯИ белән эшләнгән функция белән җентекләп ясап, без буталчыклык, өметсезлек, хәтта тирән ышанычсызлык барлыкка килгән төгәл моментлар турында бәяләп бетергесез мәгълүмат алабыз. Бу критик юнәлешләрне ачып бирә, анда кулланучының ЯИ эшләвенең психик моделе аның үз-үзен тотышы белән бәрелешә. Музыкаль агым хезмәтен карап чыгыйк: плейлист рекомендациясе "очраклы" булып тоелса, кулланучының ышанычы кими, аларның үткән тыңлау гадәтләренә яки әйтелгән өстенлекләренә бернинди бәйләнеш юк. Бу кабул ителгән очраклы очрак - кулланучының акыллы курация көтүенә турыдан-туры кыенлык һәм ЯИ аларның тәмен аңлый дигән тулы вәгъдәне бозу. Нәкъ шулай ук, фото белән идарә итү кушымтасында, AI фото-тамгалау үзенчәлеге кадерле гаилә әгъзасын эзлекле рәвештә ачыклагач, кулланучылар зур өметсезлек кичерәләрме? Бу хата техник яктан гына түгел; ул төгәллекнең, персонализациянең, хәттаэмоциональ бәйләнеш. Бу авырту нокталары - яхшы урнаштырылган, ачык һәм кыскача аңлатма кирәклеген күрсәткән ачык сигналлар. Мондый аңлатмалар ремонтның мөһим механизмнары булып хезмәт итәләр, ышаныч бозуны төзәтәләр, бу хәл ителмәсә, кулланучылардан баш тартырга мөмкин. ЯИ сәяхәтенең картасы көче безне ЯИ системасының соңгы чыгарылышын аңлатудан тыш күчерә ала. ЯИ җитештергәнне аңлау мөһим булса да, еш кына җитәрлек түгел. Киресенчә, бу процесс безне процессны критик моментларда аңлатырга мәҗбүр итә. Бу адрес дигәнне аңлата:
Ни өчен билгеле бер чыгарылыш барлыкка килде: Бу конкрет кертү мәгълүматлары аркасында булдымы? Билгеле модель архитектурасы? ЯИ карарына нинди факторлар йогынты ясады: кайбер үзенчәлекләр авыррак булдымы? ЯИ ничек нәтиҗә ясады: Без аның эчке эшләренә гадиләштерелгән, аналогик аңлатма бирә алабызмы? ЯИ нинди фаразлар ясады: Кулланучының ниятен яки ачыкланырга тиеш булган мәгълүматны тулысынча аңлау бармы? ЯИның чикләүләре нәрсә: ЯИ эшли алмаганны, яки аның төгәллеге каушап торган урынны ачыклау, реалистик өметләр тудыра.
ЯИ сәяхәт картасы XAIның абстракт концепциясен UX практиклары өчен практик, эшлекле базага әйләндерә. Бу безгә аңлатучанлыкның теоретик дискуссияләреннән читкә китәргә һәм кулланучының ышанычы куркыныч астында булган төгәл моментларны билгеләргә мөмкинлек бирә, көчле, ачык, аңлаешлы һәм ышанычлы ЯИ тәҗрибәсен булдыру өчен кирәкле мәгълүматлар бирә. Ахырда, тикшерү - без билгесезлекне ничек ачу. Сезнең команда кредитның ни өчен кире кагылганын ничек аңлатырга икәнлеге турында бәхәсләшергә мөмкин, ләкин тикшеренүләр ачыкларга мөмкин, кулланучылар аларның мәгълүматларының ничек кулланылганын аңлау белән күбрәк кызыксына. Тикшеренүләрсез, без кулланучыларның нәрсә уйлаганнарын чамалыйбыз. Дизайнда хезмәттәшлек итү (ЯИны ничек аңлатырга) Тикшеренүләр нәрсә аңлатырга икәнен ачыклагач, дизайн белән уртак цикл башлана. Дизайнерлар без алда сөйләшкән үрнәкләрне прототиплый алалар - "Чөнки" аңлатмасы, интерактив слайдерлар, һәм тикшерүчеләр бу конструкцияләрне кулланучылар алдында куя алалармы, юкмы икәнен. Максатлы куллану һәм аңлау тесты: Без XAI компонентларын махсус сынап караган тикшеренү эшләрен ясый алабыз. Без: "Бу куллану җиңелме?" - дип сорамыйбыз. Без сорыйбыз, "Моны күргәннән соң, миңа ни өчен система бу продуктны тәкъдим итте?" яки "Башка нәтиҗәләргә ирешү өчен миңа нәрсә эшләвегезне күрсәтегез." Мондагы максат - куллану белән бергә аңлау һәм эшчәнлекне үлчәү. Ышанычны үлчәү: Аңлатма күрсәтелгәнче һәм аннан соң без гади тикшерүләр һәм рейтинг таразаларын куллана алабыз. Мәсәлән, без 5 балллы шкалада кулланучыдан сорый алабыз: "Сез бу тәкъдимгә күпме ышанасыз?" "Чөнки" җөмләсен күргәнче, аннан соң тагын сорагыз. Бу безнең аңлатмалар чыннан да энәгә ышанычка күчү турында санлы мәгълүмат бирә. Бу процесс көчле, iterative цикл тудыра. Тикшеренү нәтиҗәләре башлангыч проектны хәбәр итә. Аннары бу дизайн сынала, һәм яңа ачышлар чистарту өчен дизайн коллективына кайтарыла. Бәлки, "Чөнки" җөмләсе бик усал булган, яисә "Нәрсә-Әгәр" слайдер көчәйтүгә караганда буталчыкрак булгандыр. Бу уртак тикшерү аша без соңгы аңлатмаларның техник яктан төгәл, чын мәгънәсендә аңлаешлы, продуктны кулланган кешеләр өчен файдалы булуын тәэмин итәбез. Голдилокс аңлату зонасы Тәнкыйть сүзе: артык аңлатырга мөмкин. Голдилокс "дөрес" ботка боткасын эзләгән әкияттәге кебек, яхшы аңлатуның максаты - тиешле детальне бирү - артык күп түгел һәм бик аз түгел. Модельдәге һәр үзгәрүчән кулланучыны бомбардировать итү танып-белү авырлыгына китерәчәк һәм ышанычны киметергә мөмкин. Максат - кулланучыны мәгълүмат галиме итү түгел. Бер чишелеш - прогрессив ачу.
Гадидән башлап җибәрегез. Кыска “Чөнки” сүзләре белән әйдәгез. Күпчелек кулланучылар өчен бу җитәр. Детальгә юл тәкъдим итегез. "Күбрәк белү" яки "Моның ничек билгеләнгәнен карагыз" кебек ачык, түбән сүрелү сылтамасын бирегез. Катлаулылыкны ачу. Бу сылтама артында сез интерактив слайдерларны, визуализацияләрне яисә өлеш кертү факторларының тулырак исемлеген тәкъдим итә аласыз.
Бу катлаулы алым кулланучының игътибарын һәм тәҗрибәсен хөрмәт итә, тиешле күләмдә тәэмин итәихтыяҗлары өчен мәгълүмат. Төрле факторларга нигезләнеп оптималь җылытуны тәкъдим итүче акыллы өй җайланмасын куллануыгызны күз алдыгызга китерик. Гадидән башлап җибәрегез: "Сезнең өегез хәзерге вакытта 72 градуска кадәр җылытыла, бу энергияне сак тоту һәм уңайлыклар өчен оптималь температура." Детальгә юл тәкъдим итегез: Түбәндә кечкенә сылтама яки төймә: "Нигә 72 градус оптималь?" Катлаулылыкны ачу: Бу сылтамага басу яңа экранны күрсәтә ала:
Тышкы температура, дымлылык, өстенлекле комфорт дәрәҗәсе өчен интерактив слайдерлар, бу тәкъдим ителгән температураны ничек көйләвен күрсәтә. Төрле температурада энергия куллануны визуальләштерү. "Көн вакыты", "Тышкы температура", "Тарихи энергия куллану", "Эшчәнлек сенсорлары" кебек факторлар исемлеге.
Бу берничә XAI ысулын берләштерү эффектив, һәм бу Голдилокс Аңлатма зонасы, прогрессив ачуны яклый, моны тулысынча дәртләндерә. Сез шунда ук аңлау өчен гади "Чөнки" җөмләдән башлый аласыз, аннары тирәнрәк өйрәнү өчен "Нәрсә-булса" интерактив (2-нче үрнәк) яки "Push-and-Pull Visual" (4-нче үрнәк) ачылган "Күбрәк белү" сылтамасын тәкъдим итә аласыз. Мәсәлән, кредит заявкасы системасы баш тартуның төп сәбәбен күрсәтә ала, аннары кулланучыга "Нәрсә-Иф" коралы белән үзара бәйләнештә торырга рөхсәт итә, аларның керемнәренә яки бурычларына үзгәрешләр ничек үзгәрәчәген (контрфактив), һәм, ниһаять, барлык факторларның уңай һәм тискәре өлешләрен күрсәтү өчен җентекле "Push-and-Pull" диаграммасын (кыйммәткә нигезләнгән аңлату) бирергә мөмкин. Бу катлаулы алым кулланучыларга кирәкле деталь дәрәҗәсенә керергә мөмкинлек бирә, кирәк булганда, танып-белү артык йөкләнешен булдырмый, шул ук вакытта тулы ачыклык тәэмин итә. Кайсы XAI коралларын һәм ысулларын куллану, беренче чиратта, UX җентекле тикшеренү функциясе. Психик модель интервьюлары һәм ЯИ сәяхәт картасы кулланучының ихтыяҗларын һәм ЯИны аңлау һәм ышаныч белән бәйле авырту пунктларын ачыклау өчен бик мөһим. Психик модель интервьюлары кулланучыларның ЯИ эшләве турындагы төпсез аңлатмаларны (функциянең мөһимлеге яки җирле аңлатмалар кебек) күрсәткән өлкәләрен күрсәтеп ярдәм итә. ЯИ сәяхәт картасы, киресенчә, кулланучының ЯИ белән үзара бәйләнешендәге критик моментларны билгели, гранул яки интерактив аңлатмалар (конфракталь яки кыйммәткә нигезләнгән аңлатмалар кебек) ышанычны торгызу һәм агентлык белән тәэмин итү өчен иң файдалы булачагын күрсәтә.
Ахырда, техниканы сайлау өчен иң яхшы ысул - кулланучыларга тикшерү сезнең карарларыгызга юл күрсәтү, сез ясаган аңлатмалар, үзләре өчен техник детальләр тәкъдим итү урынына, кулланучыларның сорауларына һәм борчылуларына турыдан-туры мөрәҗәгать итүне тәэмин итү. Тирән фикер йөртү агентлары өчен XAI Кайбер яңа ЯИ системалары, тирән фикер йөртү агентлары буларак билгеле, һәр катлаулы эш өчен ачык "фикер чылбыры" чыгара. Алар чыганакларны гына китермиләр; алар нәтиҗәгә килер өчен логик, адым саен күрсәтәләр. Бу ачыклык кыйммәтле контекстны тәэмин итсә дә, берничә абзацны үз эченә алган плей-плей пьесаны тәмамларга тырышкан кулланучыга бик авыр булырга мөмкин. XAI принциплары, аеруча Голдилокс Аңлату зонасы монда турыдан-туры кулланыла. Соңгы нәтиҗәне һәм уйлау процессындагы иң күренекле адымны күрсәтү өчен, без прогрессив ачыш кулланып, сәяхәтне үзгәртә алабыз. Аннары кулланучылар логиканы икеләтә тикшерергә яки билгеле бер фактны табарга тиеш булганда, тулы, җентекле, күп этаплы фикер йөртү өчен сайлый ала. Бу ысул агентның тулы ачыклыгын саклап калганда, кулланучы игътибарын хөрмәт итә. Киләсе адымнар: XAI сәяхәтегезне көчәйтү Аңлату - ышанычлы һәм эффектив ЯИ продуктларын төзү өчен төп багана. Бу үзгәрешне үз оешмалары кысаларында алып барырга омтылган алдынгы практик өчен сәяхәт дизайн үрнәкләреннән тыш, адвокатика һәм өзлексез өйрәнүгә тарала. Сезнең аңлавыгызны һәм практик куллануыгызны тирәнәйтү өчен, модель тикшеренүләрен һәм аңлатмаларын тикшерүнең интерактив ысулларын тәкъдим итүче IBM Research яки Google'ның What-If Tool'тан AI Explainability 360 (AIX360) кораллар җыелмасы кебек ресурсларны барлау турында уйлагыз. Onsаваплы ЯИ форумы яки кеше үзәгендәге ЯИга юнәлтелгән махсус тикшеренү төркемнәре кебек җәмгыятьләр белән аралашу бәяләп бетергесез мәгълүмат һәм хезмәттәшлек мөмкинлекләрен бирә ала. Ниһаять, үз оешмагызда XAI яклаучысы булыгыз.Стратегик инвестиция буларак рамка аңлату. Сезнең лидерлыкка яки функциональ коллективларга кыска тонны карагыз: "XAI-ка инвестиция кертеп, без ышанычны арттыру белән чикләнәчәкбез; без кулланучыларны кабул итүне тизләтәчәкбез, кулланучыларга аңлау көче белән ярдәм чыгымнарын киметәчәкбез, потенциаль тискәре якларны фаш итеп, этик һәм көйләү куркынычларын йомшартачакбыз. Бу яхшы дизайн һәм акыллы бизнес."
Практик аңлауга нигезләнгән тавышың ЯИны кара тартмадан чыгаруда һәм кулланучылар белән хезмәттәшлек итүдә бик мөһим.
