Di beşa min a paşîn de, me rastiyek bingehîn ava kir: ji bo ku bikarhêner bikar bînin û xwe bispêrin AI-ê, divê ew pê bawer bin. Me qala pêbaweriyê kir ku avahiyek piralî ye, ku li ser têgihiştina Qabiliyeta AI-ê, Xêrxwazî, Tenduristî, û Pêşbîniyê hatî çêkirin. Lê çi diqewime dema ku AI, bi hişmendiya xweya bêdeng, algorîtmîkî, biryarek dide ku bikarhênerek şaş, dilşikestî, an tewra jî diêşîne? Serlêdanek mortgage tê red kirin, stranek bijare ji nişka ve ji navnîşek lîstikê tune, û berî ku mirovek wê bibîne rezberek jêhatî tê red kirin. Di van kêliyan de, jêhatîbûn û pêşbînîbûn têk diçe, û xêrxwazî cîhanek dûr hîs dike. Axaftina me naha divê ji çimaya pêbaweriyê berbi awayê zelalbûnê ve bibe. Qada Explainable AI (XAI), ku balê dikişîne ser pêşkeftina rêbazan da ku hilberên AI-ê ji mirovan re fêm bikin, ji bo çareserkirina vê yekê derketiye holê, lê ew bi gelemperî ji bo zanyarên daneyê wekî dijwariyek teknîkî ya paqij tê destnîşan kirin. Ez argûman dikim ku ew ji bo hilberên ku xwe dispêrin AI-ê kêşeyek sêwirana krîtîk e. Karê me wekî pisporên UX-ê ye ku em valahiya di navbera biryara algorîtmîkî û têgihîştina mirovan de pir bikin. Ev gotar rêbernameyek pratîkî, kirdar li ser meriv çawa lêkolîn û sêwirana ji bo ravekirinê peyda dike. Em ê ji peyvan derbikevin û derbasî mockupan bibin, têgînên tevlihev ên XAI-yê veguherînin qalibên sêwirana konkret ku hûn dikarin îro dest bi karanîna xwe bikin. XAI-nesazkirin: Têgînên bingehîn Ji bo Bijîjkên UX XAI li ser bersiva pirsa bikarhêner e: "Çima?" Çima min ev reklam nîşan da? Çima ev fîlm ji min re tê pêşniyar kirin? Çima daxwaza min hat redkirin? Bifikirin ku AI xebata xwe li ser pirsgirêkek matematîkê nîşan dide. Bêyî wê, hûn tenê bersivek heye, û hûn neçar in ku wê li ser baweriyê bigirin. Di nîşandana gavan de, hûn têgihîştin û pêbaweriyê ava dikin. Her weha hûn destûrê didin ku xebata we ji hêla mirovên ku ew bandor dike ve du caran were kontrol kirin û verast kirin. Girîngiya Taybetmendiyê Û Berevajî Gelek teknîk hene ku em dikarin bikar bînin da ku zelal bikin an rave bikin ka bi AI-ê re çi diqewime. Digel ku rêbaz ji peydakirina tevahiya mantiqa dara biryarê bigire heya çêkirina kurtenivîsên zimanê xwezayî yên encamekê, du celebên herî pratîk û bandorker ên agahdariya ku bijîjkên UX dikarin di ezmûnek de bidin nasîn girîngiya taybetmendiyê (Wêne 1) û berevajî. Vana bi gelemperî ji bo ku bikarhêneran fêm dikin û ji bo sêwiraneran pêkanîna herî çalak in.
Girîngiya Taybetmendiyê Ev rêbaza ravekirinê bersiv dide, "Faktorên herî girîng ên ku AI-ê dihesibînin çi bûn?" Ew li ser tespîtkirina 2-3 guhêrbarên jorîn e ku bandora herî mezin li ser encamê hebû. Ew sernivîs e, ne tevahiya çîrokê. Mînak: AI-yek ku pêşbînî dike ka dê xerîdar bişewite (karûbarê xwe betal bike) bifikirin. Dibe ku girîngiya taybetmendiyê diyar bike ku "hejmara bangên piştgiriyê di meha paşîn de" û "zêdebûna bihayê vê dawiyê" du faktorên herî girîng in ku diyar dikin ka xerîdar dibe ku biqelişe.
Counterfactuals Ev rêbaza hêzdar bersiv dide, "Ez ê çi biguherim da ku encamek cûda bistînim?" Ev pir girîng e ji ber ku ew hestek ajantiyê dide bikarhêneran. Ew "na"-ya dilşikestî vediguhezîne "hê ne" ya çalak. Mînak: Pergalek serîlêdana krediyê ya ku AI-ê bikar tîne bifikirin. Bikarhênerek deynek tê red kirin. Li şûna ku hûn tenê "Serlêdan red kirin" bibînin, ravekek berevajî jî dê parve bike, "Ger xala weya krediyê 50 pûan zêde bûya, an heke rêjeya weya deyn-ber-hatina we% 10 kêmtir bûya, dê krediya we bihata pejirandin." Ev yek gavên zelal û çalak dide Sarah ku ew dikare bavêje da ku di pêşerojê de potansiyel deynek bistîne.
Bikaranîna Daneyên Modelê Ji bo Pêşvebirina Vebêjê Her çend taybetmendiyên teknîkî bi gelemperî ji hêla zanyarên daneyê ve têne rêve kirin jî, ji pisporên UX re arîkar e ku zanibin ku amûrên mîna LIME (Rêvekirinên Modela Wergêrên Herêmî-agnostîk) ku pêşbîniyên kesane bi nêzikkirina modelê li herêmî rave dike, û SHAP (Shapley Additive SHapley) ku nêzîkatiyek teoriya lîstikê bikar tîne da ku ji van fêrbûna makîneyê bi rengek gelemperî rave bike" modelên tevlihev. Van pirtûkxane bi bingehîn alîkariya şikandina biryara AI-yê dikin ku nîşan bide ka kîjan têketin ji bo encamek diyarkirî herî bi bandor bûn. Dema ku bi rêkûpêk were kirin, daneyên ku di binê biryara amûrek AI-yê de ne dikare were bikar anîn da ku çîrokek hêzdar bibêje. Ka em di nav girîngiya taybetmendiyê û berevajî de bimeşin û destnîşan bikin ka zanista daneyê ya li pişt biryarê çawa dikare were bikar anîn da ku ezmûna bikarhêner zêde bike. Niha emgirîngiya taybetmendiyê bi arîkariya Daneyên Ravekirinên Herêmî (mînak, LIME) veşêre: Ev nêzîkatî bersiv dide, "Çima AI-ê ev pêşniyara taybetî ji min re kir, niha?" Li şûna ravekek giştî ya ka model çawa dixebite, ew ji bo mînakek yekane, taybetî sedemek berbiçav peyda dike. Ew kesane û çarçoveyek e. Mînak: Pergalek pêşniyara muzîkê ya ku bi AI-ê ve girêdayî ye mîna Spotify bifikirin. Ravekirinek herêmî dê bersivê bide, "Pergal çima vê strana taybetî ya Adele ji we re nuha pêşniyar kir?" Dibe ku ravekirin ev be: "Ji ber ku we vê dawiyê li çend stran û stranên dengbêjên jin guhdarî kiriye."
Di dawiyê de, werin em tevlêkirina Vegotinên Bingeh-Nirx (mînak Daneyên Shapley Additive Explanations (SHAP) ji bo ravekirina biryarekê veşêrin: Ev guhertoyek nuwazetir a girîngiya taybetmendiyê ye ku bersivê dide, "Her faktorek çawa biryarê bi yek alî an yeka din vegirt?" Ew dibe alîkar ku xuyang bike ka çi girîng e, û gelo bandora wê erênî an neyînî bû. Mînak: Bifikirin ku bankek modelek AI-ê bikar tîne da ku biryar bide ka serlêdanek krediyê pejirand an na.
Girîngiya Taybetmendiyê: Dibe ku hilberîna modelê destnîşan bike ku rêjeya krediya serlêder, dahat û rêjeya deyn-dahatiyê di biryara wê de faktorên herî girîng bûn. Ev bersiv dide tiştê ku girîng e. Girîngiya Taybetmendiyê bi Vegotinên Bingehîn-Nirx (SHAP): Nirxên SHAP-ê li ser bingeha hêmanên modelê girîngiya taybetmendiyê bêtir digirin.
Ji bo deynek pejirandî, SHAP dibe ku nîşan bide ku xalek krediyê ya bilind bi girîngî biryar ber bi pejirandinê (bandora erênî) ve biriye, di heman demê de rêjeyek deyn-ber-dahatê hinekî ji navînî wê hinekî jê dûr xist (bandora neyînî), lê têra înkarkirina krediyê nake. Ji bo deynek redkirî, SHAP dikare eşkere bike ku dahatiyek kêm û hejmareke zêde ya lêpirsînên kredî yên vê dawiyê biryar bi tundî ber bi înkarê ve birin, her çend xala krediyê maqûl bû.
Ev ji karmendê krediyê re dibe alîkar ku ji serlêder re ji tiştê ku hate hesibandin re rave bike ka her faktor çawa beşdarî biryara "erê" an "na" ya paşîn bû. Girîng e ku meriv nas bike ku şiyana peydakirina ravekirinên baş bi gelemperî di çerxa pêşkeftinê de pir zû dest pê dike. Zanyar û endezyarên daneyê bi mebesta avakirina modelan û lûleyên daneyê bi awayên ku bi xweber piştgirîya ravekirinê dikin, li şûna ku hewl bidin ku wê wekî ramanek paşde bixin, rolek bingehîn dilîzin. Tîmên lêkolîn û sêwiranê dikarin vê yekê bi destpêkirina danûstendinên zû bi zanyar û endezyarên daneyê re li ser hewcedariyên bikarhêner ji bo têgihiştinê, beşdarî pêşkeftina metrîkên ravekirinê, û bi hevkarî ravekirina prototîp bikin da ku pê ewle bibin ku ew hem rast û hem jî bikarhêner-heval in. XAI Û AI-ya Etîkî: Veqetandina Bias Û Berpirsiyarî Ji xeynî avakirina pêbaweriyê, XAI rolek krîtîk dilîze di çareserkirina bandorên exlaqî yên kûr ên AI * de, nemaze di derbarê beredayîya algorîtmîkî de. Teknolojiyên ravekirinê, wekî analîzkirina nirxên SHAP-ê, dikarin diyar bikin ka biryarên modelê bi rengekî nelirêtî ji hêla taybetmendiyên hesas ên mîna nijad, zayend, an statûya sosyo-aborî ve têne bandor kirin, tewra ku ev faktor bi eşkere wekî têketinên rasterast nehatibin bikar anîn. Mînakî, heke modelek pejirandina krediyê bi domdarî nirxên SHAP-ê yên neyînî ji serlêderên ji demografîkek diyarkirî re destnîşan dike, ew îşaretek potansiyelek ku hewceyê lêpirsînê ye, hêz dide tîmê ku encamên weha nedadperwer derxînin holê û sivik bikin. Hêza XAI di heman demê de bi potansiyela "şuştina ravekirinê" re jî tê. Mîna ku "şûştina kesk" xerîdaran di derheqê pratîkên jîngehê de dixapîne, şuştina ravekirinê jî dikare çêbibe dema ku ravekirin ji bo ronîkirina behremendiya algorîtmîkî ya pirsgirêk an nerastiyên xwerû têne sêwirandin, ne ji ronîkirinê. Ev dikare wekî ravekirinên pir sivik ên ku faktorên bandorker ên krîtîk ji holê radikin, an ravekirinên ku encamên stratejîk çarçove dikin ku ji rastiya wan bêalîtir an rasttir xuya dikin diyar bibe. Ew berpirsiyariya exlaqî ya bijîjkên UX-ê destnîşan dike ku ravekirinên ku bi rastî zelal û verastkirî dîzayn dikin. Pisporên UX, bi hevkarîya zanyarên daneyê û etîknasan re, di ragihandina sedema biryarekê de, û her weha sînorkirin û nerîtên potansiyel ên modela bingehîn a AI-ê berpirsiyariyek girîng digirin. Ev tê de danîna hêviyên bikarhêner ên rastîn ên di derbarê rastbûna AI-ê de, destnîşankirina cihê ku model dibe ku kêmtir pêbawer be, û peydakirina kanalên zelal ji bo vegerê an bertekê dema ku bikarhêner encamên neheq an nerast fam dikin. Bi awayekî proaktîf li ser vanpîvanên exlaqî dê bihêle ku em pergalên AI-ê yên ku bi rastî dadperwer û pêbawer in ava bikin. Ji Rêbaz Berbi Mockups: Nimûneyên Sêwirana XAI-ya Pratîk Naskirina têgehan yek tişt e; sêwirandina wan tiştekî din e. Li vir e ku em çawa dikarin van rêbazên XAI-ê li qalibên sêwirana xwerû wergerînin. Nimûne 1: Daxuyaniya "Ji ber ku" (ji bo Girîngiya Taybetmendiyê) Ev nimûneya herî hêsan û pir caran bandorker e. Ew daxuyaniyek rasterast, bi zimanek sade ye ku sedema bingehîn a çalakiya AI-ê vedibêje.
Heuristic: Rasterast û kurt be. Bi sedema yekane ya herî bandorker rêve bibin. Bi her awayî ji jargonê dûr bixin.
Mînak: Xizmetek weşana muzîkê bifikire. Li şûna ku hûn tenê lîsteya lîstika "Discover Weekly" pêşkêş bikin, hûn rêzek piçûk a mîkrokopî lê zêde dikin. Pêşniyara stranê: "Sibe Velvet"Ji ber ku hûn li "The Fuzz" û rockên din ên psîkodelîk guhdarî dikin.
Nimûne 2: Têkiliya "Çi-Eger" (ji bo Berevajîkeran) Berevajî bi xwezayê de li ser desthilatdariyê ne. Awayê çêtirîn ji bo temsîlkirina wan ev e ku dayîna bikarhêneran amûrên înteraktîf e ku bi xwe li derfetan bigerin. Ev ji bo serîlêdanên darayî, tenduristî, an armancên din ên din bêkêmasî ye.
Heuristic: Ravekirinên înteraktîf û hêzdar bikin. Bihêlin bikarhêner sedem û bandora bijartinên xwe bibînin.
Mînak: Navbera serîlêdana krediyê. Piştî înkarkirinê, li şûna dawiya mirî, bikarhêner amûrek werdigire da ku diyar bike ka senaryoyên cihêreng (çi-heke) çawa dikarin bilîzin (Binêre Figure 1).
Nimûne 3: Reelê Hêjayî (Ji Bo Vegotinên Herêmî) Dema ku AI li ser naveroka bikarhênerek çalakiyek pêk tîne (mîna kurtkirina belgeyek an nasandina rûyên di wêneyan de), divê ravekirin bi çavkaniyê ve girêdayî be.
Heuristic: Nîşaneyên dîtbarî yên wekî ronîkirin, xêzkirin, an annotasyon bikar bînin da ku ravekirinê rasterast bi hêmana navberê ya ku ew rave dike ve girêdin.
Nimûne: Amûrek AI-ê ku gotarên dirêj bi kurtî vedibêje.Xala Kurteya Çêkirî ya AI:Lêkolîna destpêkê ji bo hilberên domdar valahiya bazarê nîşan da.Çavkaniya Belgeyê: "...Analîzasyona me ya Q2 ya meylên bazarê bi awakî berbiçav nîşan da ku tu hevrikê sereke bi bandor ji xerîdar-hişmendiya ekonomîk re xizmet nake, ji bo hilberên domdar valahiya bazarê ya girîng eşkere dike..."
Nimûne 4: Dîtbara Push-û-Pull (ji bo ravekirinên nirx-based) Ji bo biryarên tevlihevtir, dibe ku bikarhêner hewce bike ku pêwendiya faktoran fam bikin. Dîmenên daneya hêsan dikarin vê yekê zelal bikin bêyî ku serdest bin.
Heuristic: Dîmenên daneyê yên sade, bi reng-kodkirî (mîna nexşeyên bar) bikar bînin da ku faktorên ku bi erênî û neyînî bandor li biryarekê kirine nîşan bidin.
Nimûne: AI-yek profîla berendamek ji bo karekî nîşan dide. Çima ev berendam %75 lihevhatî ye: Faktorên ku jimareyê zêde dikin: 5+ Sal Ezmûna Lêkolînê ya UXProficient di PythonFactors de ku jimareyê kêm dike: Tecrubeya B2B SaaS tune
Fêrbûn û karanîna van şêwazên sêwiranê di UX-a hilbera AI-ya we de dê bibe alîkar ku ravekirin zêde bibe. Her weha hûn dikarin teknîkên din ên ku ez li vir bi kûrahî venaşêrim bikar bînin. Ev tê de yên jêrîn:
Ravekirinên zimanê xwezayî: Veguheztina hilberek teknîkî ya AI-ê li zimanê mirovî yê hêsan, danûstendinê ku ne pispor dikarin bi hêsanî fêm bikin. Ravekirinên hevoksaziyê: Ji bo hilbera AI-ê di demek û cîhê taybetî de mentiqek peyda dike, ew herî zêde bi peywira bikarhêner re têkildar e. Dîmenên têkildar: Bi karanîna nexşe, grafîkan, an nexşeyên germê bikar bînin da ku bi dîtbarî pêvajoyek biryargirtinê ya AI-ê temsîl bikin, daneya tevlihev a têgihîştî û ji bikarhêneran re hêsantir dike.
Nîşeyek Ji bo Pêşiyê: Veguheztina van encamên ravekirinê li serpêhatiyên bikarhêner ên bêkêmasî di heman demê de rêzikên xwe yên teknîkî jî pêşkêşî dike. Pêşdebirên pêşîn bi gelemperî bi sêwirana API-ê re mijûl dibin da ku daneyên ravekirinê bi bandor bidest bixin, û encamên performansê (wek nifşa rast-dema ravekirinan ji bo her danûstendina bikarhêner) hewceyê plansaziyek baldar e ku ji derengbûnê dûr nekevin. Hin Nimûneyên Cîhana Rastîn Parastina Delivery ya UPS Capital UPS AI-ê bikar tîne da ku "xala pêbaweriya radestkirinê" ji navnîşanan re destnîşan bike da ku îhtîmala dizîna pakêtek pêşbîn bike. Nermalava wan DeliveryDefense daneyên dîrokî li ser cîh, rêjeya windabûnê, û faktorên din analîz dike. Ger navnîşek xalek nizm hebe, pergal dikare bi proaktîf pakêtê berbi Xalek Gihînek ewledar a UPS-ê vegerîne, ji bo biryarê ravekek peyda bike (mînak, "Pakêt ji ber dîroka diziyê ji nû ve ber bi cîhek ewle ve hatî rêve kirin"). Ev pergal destnîşan dike ka XAI çawa dikare ji bo kêmkirina xetereyê û avakirina pêbaweriya xerîdar bi rê ve were bikar anînşefafî. Wesayîtên Xweser Van wesayîtên pêşerojê dê hewce bike ku bi bandor XAI bikar bînin da ku ji wesayîtên xwe re bibin alîkar ku biryarên ewledar, raveker bidin. Dema ku otomobîlek xwe-ajovan ji nişka ve fren dike, pergal dikare ji bo çalakiya xwe ravekek rast-ê peyda bike, mînakî, bi naskirina peyayekî ku di rê de ye. Ev ne tenê ji bo rehetî û pêbaweriya rêwiyan girîng e lê hewcedariyek rêzik e ku ji bo îsbatkirina ewlehî û berpirsiyariya pergala AI-ê ye. Tenduristiya IBM Watson (û zehmetiyên wê) Dema ku pir caran wekî mînakek gelemperî ya AI-ê di lênihêrîna tenduristiyê de tête binav kirin, ew ji bo girîngiya XAI-yê jî lêkolînek dozek hêja ye. Têkçûna projeya wê ya Watson ji bo Onkolojiyê ronî dike ku çi dibe bila bibe dema ku ravekirin ne diyar in, an dema ku daneyên bingehîn alîgir in an ne herêmî ne. Pêşniyarên pergalê carinan bi pratîkên klînîkî yên herêmî re nakokî bûn ji ber ku ew li ser rêwerzên navendî-navendî yên Dewletên Yekbûyî bûn. Ev wekî çîrokek hişyariyê li ser hewcedariya ravekirina zexm, lihevhatî-agahdar dike. Rola Lêkolînerê UX: Danasîn û Rastkirina Vebêjan Çareseriyên sêwirana me tenê bi bandor in ger ku ew di wextê rast de pirsên bikarhênerê rast çareser bikin. Ravekirinek ku bersivê dide pirsek ku bikarhêner tune ye tenê deng e. Ev e cihê ku lêkolîna UX di stratejiyek XAI de dibe tevna girêdanê ya krîtîk, dabîn dike ku em rave dikin ka ew çi û çawa bi rastî ji bikarhênerên me re girîng e. Rola lêkolîner du alî ye: yekem, agahdarkirina stratejiyê bi destnîşankirina cihê ku ravekirin hewce dike, û ya duyemîn, erêkirina sêwiranên ku wan ravekirinan pêşkêş dikin. Agahdariya Stratejiya XAI (Çi Vebêjin) Berî ku em karibin şiroveyek yekane sêwirînin, divê em modela derûnî ya bikarhêner a pergala AI-yê fam bikin. Ew bawer dikin ku ew çi dike? Di navbera têgihiştina wan û rastiya sîstemê de li ku derê ne? Ev xebata bingehîn a lêkolînerek UX ye. Hevpeyvînên Modela Derûnî: Vekirina Têgihîştina Bikarhêner a Pergalên AI Bi hevpeyivînên kûr, nîv-sazkirî, bijîjkên UX dikarin têgihiştinên hêja bi dest bixin ka bikarhêner çawa pergalên AI-ê fam dikin û fam dikin. Van danişînan têne çêkirin ku bikarhêneran teşwîq bikin ku bi rastî "modela derûnî" ya hundurîn xêz bikin an diyar bikin ka ew çawa bawer dikin ku AI çawa dixebite. Ev pir caran bi pirskirina pirsên vekirî yên ku bikarhêneran dihêlin ku mantiqa pergalê, têketinên wê, û derketinên wê, û her weha têkiliyên di navbera van hêmanan de rave bikin. Van hevpeyivîn bi hêz in ji ber ku ew bi gelemperî xeletî û texmînên kûr ên ku bikarhêner di derbarê AI-ê de digirin eşkere dikin. Mînakî, bikarhênerek ku bi motorek pêşniyarê re têkilî daynin dibe ku bi pêbawerî îdia bike ku pergal bi tenê li ser dîroka dîtina wan a berê ye. Dibe ku ew fêhm nekin ku algorîtma di heman demê de gelek faktorên din jî vedihewîne, wek mînak dema rojê ku ew lê digerin, hêmanên meyldar ên heyî li seranserê platformê, an tewra adetên temaşekirina bikarhênerên wekhev. Rakirina vê valahiyê di navbera modela derûnî ya bikarhêner û mantiqa bingehîn a AI-ê de pir girîng e. Ew bi rastî ji me re vedibêje ka kîjan agahdariya taybetî hewce dike ku em bi bikarhêneran re ragihînin da ku ji wan re bibin alîkar ku modelek derûnî ya rastîn û bihêztir a pergalê ava bikin. Ev yek, ji bo xurtkirina baweriyê gaveke bingehîn e. Gava ku bikarhêner fêm dikin, tewra di astek bilind de, ka AI çawa digihîje encam an pêşniyarên xwe, ew îhtîmal e ku ew ji encamên wê bawer bikin û xwe bispêrin fonksiyona wê. Nexşeya Rêwîtiya AI: Kevirek Kûr Di Bawerî û Ravekirina Bikarhêner de Bi hûrgulî nexşeya rêwîtiya bikarhêner bi taybetmendiyek bi hêza AI-ê re, em li ser demên rastîn ên ku tevlihevî, bêhêvî, an tewra bêbaweriya kûr derdikevin holê, têgihiştinên hêja digirin. Ev qonaxên krîtîk derdixe holê ku modela derûnî ya bikarhêner a ku çawa AI-ê çawa tevdigere bi behremendiya wê ya rastîn re têk diçe. Karûbarek weşana muzîkê bihesibînin: Ma gava ku pêşnîyarek navnîşa lîstikê "serûber" hîs dike, pêwendiyek berbiçav bi adetên guhdariya wan ên berê an vebijarkên diyarkirî re tune, pêbaweriya bikarhêner kêm dibe? Ev bêserûberiya têgihîştî dijwariyek rasterast e li hember bendewariya bikarhêner a lênihêrîna aqilmend û binpêkirina soza nepenî ya ku AI tama wan fam dike. Bi heman rengî, di serîlêdanek rêveberiya wêneyê de, dema ku taybetmendiyek nîşankirina wêneya AI-ê bi domdarî endamek malbatek hêja xelet nas dike, bikarhêner xemgîniyek girîng dibînin? Ev xeletî ji xeletiyek teknîkî wêdetir e; ew li dilê rastbûn, kesanebûn, û hêj jî dixegirêdana hestyarî. Van xalên êşê îşaretên zindî ne ku bi rastî destnîşan dikin ku li cîhê ku ravekirinek baş, zelal û berbiçav hewce ye. Ravekirinên weha wekî mekanîzmayên tamîrkirinê yên girîng dixebitin, binpêkirinek pêbaweriyê sererast dikin ku, heke neyê çareser kirin, dikare bibe sedema terikandina bikarhêner. Hêza nexşeya rêwîtiya AI-ê di şiyana wê de ye ku me ji ravekirina encamên dawîn ên pergala AI-yê wêdetir bihêle. Dema ku têgihîştina tiştê ku AI-ê hilberandiye girîng e, ew pir caran ne bes e. Di şûna wê de, ev pêvajo me mecbûr dike ku di demên krîtîk de li ser ravekirina pêvajoyê bisekinin. Ev tê wateya navnîşan:
Çima hilberek taybetî hate çêkirin: Ma ew ji ber daneyên têketina taybetî bû? Mîmariya modela taybetî? Kîjan faktor bandor li biryara AI-yê kir: Ma hin taybetmendî bi giranî giran bûn? Çawa AI gihîşte encama xwe: Ma em dikarin ravekirinek sade, analogî ya karên wê yên hundurîn pêşkêş bikin? AI-ê çi texmîn kir: Ma têgihîştinên nepenî yên mebest an daneyên bikarhêner hebûn ku hewce ne ku werin eşkere kirin? Sînorên AI-ê çi ne: Zelal ragihandina tiştê ku AI nikare bike, an li ku derê dibe ku rastbûna wê biqede, hêviyên rasteqîn ava dike.
Nexşeya rêwîtiya AI-ê têgîna razber a XAI-ê ji bo bijîjkên UX-ê di çarçoveyek pratîkî û çalak de vediguherîne. Ew rê dide me ku em ji nîqaşên teorîkî yên ravekirinê derbikevin û li şûna wan deqên tam ên ku pêbaweriya bikarhêner di xetereyê de ye destnîşan bikin, nihêrînên pêwîst peyda dike da ku ezmûnên AI-ê yên hêzdar, zelal, têgihîştî û pêbawer ava bikin. Di dawiyê de, lêkolîn ev e ku em çawa nenasan vedişêrin. Dibe ku tîmê we nîqaşê bike ka meriv çawa rave dike ka çima deynek hate red kirin, lê lêkolîn dibe ku eşkere bike ku bikarhêner pir zêdetir eleqedar in ku têbigihîjin ka daneyên wan di rêza yekem de çawa hatine bikar anîn. Bêyî lêkolînê, em tenê texmîn dikin ka bikarhênerên me çi meraq dikin. Hevkariya Li Sêwiranê (Çawa AI-ya xwe rave dike) Gava ku lêkolînê diyar kir ku çi were ravekirin, çerxa hevkariyê bi sêwiranê re dest pê dike. Sêwiran dikarin qalibên ku me berê nîqaş kiribûn prototîpa bikin - daxuyaniya "Ji ber ku", sliderên înteraktîf - û lêkolîner dikarin wan sêwiranan deynin pêşiya bikarhêneran da ku bibînin ka ew li ber xwe didin. Bikaranîna armanc û ceribandina têgihîştinê: Em dikarin lêkolînên lêkolînê yên ku bi taybetî pêkhateyên XAI-ê ceribandinê bikin sêwirînin. Em tenê napirsin, "Gelo karanîna vê yekê hêsan e?" Em dipirsin, "Piştî dîtina vê yekê, hûn dikarin bi gotinên xwe ji min re bibêjin çima pergalê vê hilberê pêşniyar kir?" an "Ji min re nîşan bide ku hûn ê çi bikin da ku hûn bibînin ka hûn dikarin encamek cûda bistînin." Armanc li vir pîvandina têgihîştin û çalakiyê, li kêleka bikêrhatîbûnê ye. Pîvandina Baweriya Xwe: Em dikarin anketên hêsan û pîvanên nirxandinê berî û piştî ku ravekirinek were xuyang kirin bikar bînin. Mînakî, em dikarin li ser pîvanek 5 xalî ji bikarhênerek bipirsin, "Hûn çiqas bi vê pêşniyarê bawer dikin?" berî ku ew gotina "Çimkî" bibînin, û paşê dîsa ji wan bipirsin. Ev daneyên mîqdar peyda dike ka gelo raveyên me bi rastî derziyê li ser pêbaweriyê dihêlin. Ev pêvajo xelekek hêzdar, dubareker diafirîne. Encamên lêkolînê sêwirana destpêkê agahdar dike. Dûv re ew sêwirandin tê ceribandin, û vedîtinên nû ji bo safîkirinê ji tîmê sêwiranê re têne vegerandin. Dibe ku gotina "Ji ber ku" pir jargonî bû, an slider "Çi-Eger" ji hêzdarkirinê bêtir tevlihev bû. Bi vê pejirandina hevkariyê, em piştrast dikin ku ravekirinên paşîn ji bo kesên ku hilberê bikar tînin ji hêla teknîkî ve rast, bi rastî têgihîştin, kêrhatî û pêbawer in. The Goldilocks Zone Of Explanation Gotinek rexnegir a hişyariyê: gengaz e ku meriv zêde rave bike. Mîna ku di çîrokê de, li cihê ku Goldilocks li qursa ku 'tenê rast' digeriya, armanca ravekirinek baş ew e ku hûrguliyên rast peyda bike - ne zêde û ne pir hindik. Bombarankirina bikarhênerek bi her guhêrbar di modelekê de dê bibe sedema bargiraniya cognitive û bi rastî dikare baweriyê kêm bike. Armanc ne ew e ku bikarhêner bike zanyarek daneyê. Yek çareserî eşkerekirina pêşkeftî ye.
Bi sade dest pê bikin. Bi gotinek kurt "Ji ber ku" rêve bibin. Ji bo pir bikarhêneran, ev ê bes be. Rêyek berbi hûrguliyê pêşkêş bikin. Zencîreyek zelal, kêm-kêşkek mîna "Zêdetir Fêr bibin" an "Binihêrin ka ev çawa hate destnîşankirin." Tevliheviyê eşkere bikin. Li pişt wê girêdanê, hûn dikarin sliderên înteraktîf, dîmenan, an navnîşek hûrgulî ya faktorên beşdar pêşkêşî bikin.
Vê nêzîkatiya qat bi baldarî û pisporiya bikarhêner rêz digire, tenê qasê rast peyda dikeagahdarî ji bo hewcedariyên wan. Ka em bifikirin ku hûn amûrek xaniyek jîr bikar tînin ku li ser bingeha faktorên cihêreng germkirina çêtirîn pêşniyar dike. Bi sade dest pê bikin: "Mala we niha heya 72 pileyî tê germ kirin, ku ji bo teserûfa enerjiyê û rehetiyê germahiya çêtirîn e." Rêyek ji hûrguliyê re pêşkêş bikin: Li jêr wê, girêdanek an bişkokek piçûk: "Çima 72 derece çêtirîn e?" Tevliheviyê eşkere bikin: Bi tikandina wê zencîreyê dibe ku ekranek nû veke ku nîşan dide:
Ji bo germahiya derve, nembûn, û asta rehetiya weya bijarte sliderên înteraktîf, destnîşan dikin ka ev çawa germahiya pêşniyarkirî sererast dikin. Dîmenek xerckirina enerjiyê di germahiyên cûda de. Navnîşek faktorên alîkar ên wekî "Dema rojê", "Germahiya derve ya niha", "Bikaranîna enerjiyê ya dîrokî" û "Sensorsên dagirkirinê."
Bi bandor e ku meriv gelek awayên XAI-yê û vê şêwaza Vebêjê ya Zêrîn a Zêrîn, ku parêzvaniya eşkerekirina pêşkeftî dike, bi nepenî vê yekê teşwîq dike. Dibe ku hûn ji bo têgihîştina tavilê bi gotinek "Çimkî" ya hêsan (Nimûne 1) dest pê bikin, û dûv re zencîreyek "Zêdetir Fêr bibin" pêşkêş bikin ku ji bo vekolînek kûrtir "Çi-Eger" (Nimûne 2) an "Dînermendiyek Push-û-Kêş" (Pattern 4) eşkere dike. Mînakî, pergalek serîlêdana krediyê dikare di destpêkê de sedema bingehîn a redkirinê (girîngiya taybetmendiyê) diyar bike, dûv re bihêle bikarhêner bi amûrek "Çi-Eger" re têkilî daynin da ku bibînin ka guheztinên dahatî an deynê wan dê encam çawa biguhezîne (berevajî), û di dawiyê de, nexşeyek hûrgulî "Push-û-Kêş" (ravekirina li ser bingeha nirxê) peyda bike da ku hemî faktor û tevkariya neyînî nîşan bide. Vê nêzîkatiya qatkirî dihêle bikarhêneran bigihîjin asta hûrguliyên ku ew hewce ne, gava ku ew hewce ne, pêşî li bargiraniya cognitive bigire di heman demê de hîn zelaliyek berfireh peyda dike. Tesbîtkirina kîjan amûr û rêbazên XAI-ê ku bikar bînin di serî de fonksiyonek lêkolîna UX-ya bêkêmasî ye. Hevpeyvînên modela derûnî û nexşeya rêwîtiya AI-ê ji bo destnîşankirina hewcedariyên bikarhêner û xalên êşê yên ku bi têgihîştin û pêbaweriya AI-yê ve girêdayî ne girîng in. Hevpeyvînên modela derûnî arîkar dikin ku têgihiştinên xelet ên bikarhêner di derheqê ka AI çawa dixebite, eşkere bikin, deverên ku ravekirinên bingehîn (wek girîngiya taybetmendiyê an ravekirinên herêmî) hewce ne destnîşan dikin. Nexşeya rêwîtiya AI-ê, ji hêla din ve, demên krîtîk ên tevlihevî an bêbaweriyê di danûstendina bikarhêner bi AI-yê re destnîşan dike, nîşan dide ku ravekirinên hûrgulî an înteraktîf (wek berevajî an ravekirinên nirx-based) dê ji nû ve avakirina pêbaweriyê û peydakirina ajansê herî bikêr be.
Di dawiyê de, awayê çêtirîn ku hûn teknîkek hilbijêrin ev e ku hûn bihêlin lêkolîna bikarhêner biryarên we rêve bike, dabîn bike ku ravekirinên ku hûn sêwiran dikin rasterast pirs û fikarên bikarhêner ên rastîn dikin, li şûna ku tenê hûrguliyên teknîkî ji bo xatirê xwe pêşkêş bikin. XAI ji bo Ajansên Ragihandina Kûr Hin pergalên AI-ê yên nû, ku wekî ajanên ramana kûr têne zanîn, ji bo her karekî tevlihev "zincîra ramanê" eşkere hilberînin. Ew ne tenê çavkaniyan vedibêjin; ew riya mantiqî, gav-bi-gav nîşan didin da ku bigihin encamekê. Dema ku ev zelalî çarçoveyek hêja peyda dike, lîstikek lîstik-bi-lîstik ku çend paragrafan vedihewîne dikare ji bikarhênerek re ku bi tenê hewl dide ku peywirek biqedîne pir giran hîs bike. Prensîbên XAI-ê, nemaze Zêrîn-Zêdeya Ravekirinê, rasterast li vir bicîh dibin. Em dikarin rêwîtiyê bi rê ve bibin, bi eşkerekirina pêşkeftî bikar bînin da ku pêşî tenê encama dawîn û gava herî berbiçav a pêvajoya ramanê nîşan bidin. Dûv re bikarhêner dikarin dema ku hewce ne ku mantiqê ducarî kontrol bikin an rastiyek taybetî bibînin, dikarin bi tevahî, hûrgulî, sedemek pir-gavek bibînin. Ev nêzîkatî di heman demê de ku zelaliya tam a nûnerê diparêze, bala bikarhêner rêz digire. Gavên Paşîn: Bihêzkirina Rêwîtiya XAI-ya Xwe Ravekirin stûnek bingehîn e ji bo avakirina hilberên AI-ê pêbawer û bandorker. Ji bo bijîjkek pêşkeftî ku digere ku vê guherînê di nav rêxistina xwe de bimeşîne, rêwîtî ji şêwazên sêwiranê berbi parêzvanî û fêrbûna domdar dirêj dibe. Ji bo ku têgihiştin û sepana xweya pratîkî kûrtir bikin, li çavkaniyên mîna amûra AI Explainability 360 (AIX360) ji Lêkolîna IBM an Amûra What-If ya Google-ê bigerin, ku awayên înteraktîf ji bo vekolîna behre û ravekirina modelê pêşkêş dikin. Tevlêbûna bi civakên mîna Foruma Berpirsiyar a AI-ê an komên lêkolînê yên taybetî yên ku li ser AI-ya mirov-navendî disekinin dikare têgihiştin û derfetên hevkariyê yên hêja peyda bike. Di dawiyê de, di nav rêxistina xwe de parêzvanek ji bo XAI be.Ravekirina çarçoveyê wekî veberhênanek stratejîk. Ji serokatî an tîmên xwe-fonksîyonî re pêşangehek kurt bifikirin: "Bi veberhênana li XAI-yê, em ê ji avakirina pêbaweriyê wêdetir biçin; em ê pejirandina bikarhêner bilezînin, lêçûnên piştgiriyê bi hêzkirina bikarhêneran bi têgihîştinê kêm bikin, û xetereyên girîng ên exlaqî û birêkûpêk bi eşkerekirina nerastiyên potansiyel kêm bikin. Ev sêwirana baş û karsaziyek jîr e."
Dengê we, ku di têgihîştina pratîkî de ye, di derxistina AI-ê ji qutiya reş û nav hevkariyek hevkariyê ya bi bikarhêneran re pir girîng e.
