Katika kipande changu cha mwisho, tulianzisha ukweli wa kimsingi: ili watumiaji wakubali na kutegemea AI, lazima waiamini. Tulizungumza juu ya uaminifu kuwa muundo wa mambo mengi, unaojengwa juu ya mitizamo ya Uwezo, Ukarimu, Uadilifu, na Utabiri wa AI. Lakini ni nini hufanyika wakati AI, katika hekima yake ya kimya, ya algoriti, inafanya uamuzi ambao huacha mtumiaji kuchanganyikiwa, kuchanganyikiwa, au hata kuumia? Ombi la rehani limekataliwa, wimbo unaoupenda zaidi haupo kwenye orodha ya kucheza ghafla, na wasifu unaostahiki unakataliwa kabla ya mwanadamu kuuona. Katika nyakati hizi, uwezo na utabiri huvunjwa, na wema huhisi ulimwengu wa mbali. Mazungumzo yetu sasa lazima yabadilike kutoka kwa sababu ya uaminifu hadi jinsi ya uwazi. Sehemu ya AI Inayoelezeka (XAI), ambayo inaangazia kukuza mbinu za kufanya matokeo ya AI kueleweka kwa wanadamu, imeibuka kushughulikia hili, lakini mara nyingi huwekwa kama changamoto ya kiufundi kwa wanasayansi wa data. Ninasema kuwa ni changamoto muhimu ya muundo kwa bidhaa zinazotegemea AI. Ni kazi yetu kama wataalamu wa UX kuziba pengo kati ya kufanya maamuzi ya algoriti na uelewa wa binadamu. Makala haya yanatoa mwongozo wa vitendo, unaoweza kutekelezeka kuhusu jinsi ya kutafiti na kubuni kwa ajili ya kueleweka. Tutasonga zaidi ya maneno na hadi kwenye nakala, tukitafsiri dhana changamano za XAI katika miundo thabiti ya usanifu unayoweza kuanza kutumia leo. De-mystifying XAI: Dhana za Msingi kwa Watendaji wa UX XAI inahusu kujibu swali la mtumiaji: "Kwa nini?" Kwa nini nilionyeshwa tangazo hili? Kwa nini filamu hii inapendekezwa kwangu? Kwa nini ombi langu lilikataliwa? Fikiria kama AI inayoonyesha kazi yake kwenye shida ya hesabu. Bila hivyo, una jibu tu, na unalazimika kuchukua kwa imani. Katika kuonyesha hatua, unajenga ufahamu na uaminifu. Pia unaruhusu kazi yako kuangaliwa mara mbili na kuthibitishwa na wanadamu haswa inayowaathiri. Umuhimu wa Kipengele na Vigezo Kuna idadi ya mbinu tunazoweza kutumia kufafanua au kueleza kile kinachotokea na AI. Ingawa mbinu huanzia kutoa mantiki nzima ya mti wa maamuzi hadi kutoa mihtasari ya lugha asilia ya matokeo, aina mbili za taarifa zinazofaa na zenye athari ambazo watendaji wa UX wanaweza kutambulisha katika matumizi ni umuhimu wa kipengele (Mchoro 1) na ukweli bandia. Hizi mara nyingi ndizo zinazonyooka zaidi kwa watumiaji kuelewa na zinazoweza kutekelezeka zaidi kwa wabunifu kuzitekeleza.
Umuhimu wa Kipengele Njia hii ya kueleza inajibu, "Ni mambo gani muhimu ambayo AI ilizingatia?" Inahusu kutambua vigeu 2-3 vya juu ambavyo vilikuwa na athari kubwa kwenye matokeo. Ni kichwa cha habari, sio hadithi nzima. Mfano: Hebu fikiria AI ambayo inatabiri kama mteja atashuka (kughairi huduma yake). Umuhimu wa kipengele unaweza kufichua kwamba "idadi ya simu za usaidizi katika mwezi uliopita" na "ongezeko la bei la hivi majuzi" vilikuwa vipengele viwili muhimu zaidi katika kubainisha ikiwa mteja anaweza kuyumba.
Bidhaa bandia Njia hii yenye nguvu inajibu, "Ningehitaji kubadilisha nini ili kupata matokeo tofauti?" Hii ni muhimu kwa sababu huwapa watumiaji hisia ya wakala. Inabadilisha "hapana" ya kukatisha tamaa kuwa "bado" inayoweza kutekelezeka. Mfano: Hebu fikiria mfumo wa maombi ya mkopo unaotumia AI. Mtumiaji amenyimwa mkopo. Badala ya kuona tu "Maombi Yamekataliwa," maelezo ya uwongo yangeshiriki pia, "Ikiwa alama yako ya mkopo ingekuwa pointi 50 juu, au ikiwa uwiano wako wa deni kwa mapato ungekuwa chini ya 10%, mkopo wako ungeidhinishwa." Hili humpa Sarah hatua zilizo wazi na zinazoweza kuchukuliwa ili kupata mkopo katika siku zijazo.
Kutumia Data ya Mfano Kuboresha Maelezo Ingawa maelezo ya kiufundi mara nyingi hushughulikiwa na wanasayansi wa data, ni vyema kwa watendaji wa UX kujua kwamba zana kama vile LIME (Maelezo ya Ndani Inayotafsiriwa ya Model-agnostic) ambayo hufafanua utabiri wa mtu binafsi kwa kukadiria muundo wa ndani, na SHAP (Maelezo ya Nyongeza ya SHApley) ambayo hutumia mbinu ya nadharia ya mchezo kuelezea matokeo ya mashine yoyote inayotumika katika miundo changamano ya kujifunza ni ya kawaida. Maktaba hizi kimsingi husaidia kuvunja uamuzi wa AI kuonyesha ni pembejeo zipi zilikuwa na ushawishi mkubwa kwa matokeo fulani. Inapofanywa vizuri, data iliyo chini ya uamuzi wa zana ya AI inaweza kutumika kusimulia hadithi yenye nguvu. Hebu tuchunguze umuhimu wa kipengele na ukweli na tuonyeshe jinsi sayansi ya data iliyo nyuma ya uamuzi inaweza kutumika ili kuboresha matumizi ya mtumiaji. Sasa hebukufunika umuhimu wa kipengele kwa usaidizi wa data ya Maelezo ya Eneo (k.m., LIME): Mbinu hii inajibu, "Kwa nini AI ilinipendekezea hivi mahususi, sasa hivi?" Badala ya maelezo ya jumla ya jinsi mfano huo unavyofanya kazi, hutoa sababu inayolenga kwa mfano mmoja, maalum. Ni ya kibinafsi na ya muktadha. Mfano: Hebu fikiria mfumo wa mapendekezo ya muziki unaoendeshwa na AI kama vile Spotify. Maelezo ya ndani yangejibu, "Kwa nini mfumo ulipendekeza wimbo huu mahususi wa Adele kwako sasa hivi?" Maelezo yanaweza kuwa: "Kwa sababu hivi majuzi ulisikiliza nyimbo na nyimbo zingine kadhaa za kihisia za waimbaji wa kike."
Hatimaye, hebu tuangazie ujumuishaji wa data ya Ufafanuzi Kulingana na Thamani (k.m. Maelezo Ziada ya Shapley (SHAP) kwa ufafanuzi wa uamuzi: Hili ni toleo lenye sehemu nyingi zaidi la umuhimu wa kipengele ambalo linajibu, "Kila kipengele kilisukumaje uamuzi kwa njia moja au nyingine?" Inasaidia kuibua kilicho muhimu, na ikiwa ushawishi wake ulikuwa chanya au hasi. Mfano: Hebu fikiria benki inatumia modeli ya AI kuamua kama itaidhinisha ombi la mkopo.
Umuhimu wa Kipengele: Toleo la mfano linaweza kuonyesha kuwa alama ya mkopo ya mwombaji, mapato, na uwiano wa deni kwa mapato yalikuwa mambo muhimu zaidi katika uamuzi wake. Hii inajibu kile kilicho muhimu. Umuhimu wa Kipengele chenye Ufafanuzi Unaotegemea Thamani (SHAP): Thamani za SHAP zitachukua umuhimu wa kipengele kulingana na vipengele vya muundo.
Kwa mkopo ulioidhinishwa, SHAP inaweza kuonyesha kuwa alama ya juu ya mkopo ilisukuma uamuzi kwa kiasi kikubwa kuidhinishwa (ushawishi chanya), wakati uwiano wa deni kwa mapato ulio juu kidogo kuliko wastani uliiondoa kidogo (ushawishi hasi), lakini haitoshi kukataa mkopo. Kwa mkopo ulionyimwa, SHAP inaweza kufichua kuwa mapato ya chini na idadi kubwa ya maswali ya hivi majuzi ya mikopo yalisukuma sana uamuzi wa kunyimwa, hata kama alama ya mkopo ilikuwa nzuri.
Hii humsaidia afisa wa mkopo kueleza mwombaji zaidi ya kile kilichozingatiwa, jinsi kila kipengele kilichangia uamuzi wa mwisho wa "ndiyo" au "hapana". Ni muhimu kutambua kwamba uwezo wa kutoa maelezo mazuri mara nyingi huanza mapema zaidi katika mzunguko wa maendeleo. Wanasayansi na wahandisi wa data wana jukumu muhimu kwa kuunda miundo na mabomba ya data kimakusudi kwa njia ambazo zinaauni kuelezeka, badala ya kujaribu kuifunga kama wazo la baadaye. Timu za utafiti na usanifu zinaweza kuhimiza hili kwa kuanzisha mazungumzo ya mapema na wanasayansi na wahandisi wa data kuhusu mahitaji ya mtumiaji ili kuelewa, kuchangia katika uundaji wa vipimo vya kueleweka, na maelezo ya uchapaji kwa ushirikiano ili kuhakikisha kuwa ni sahihi na yanayofaa mtumiaji. XAI Na Maadili AI: Kufungua Upendeleo na Wajibu Zaidi ya kujenga uaminifu, XAI ina jukumu muhimu katika kushughulikia athari za kina za maadili za AI*, hasa kuhusu upendeleo wa algoriti. Mbinu za kueleza, kama vile kuchanganua thamani za SHAP, zinaweza kufichua ikiwa maamuzi ya mwanamitindo yameathiriwa kwa kiasi kikubwa na sifa nyeti kama vile rangi, jinsia au hali ya kijamii na kiuchumi, hata kama vipengele hivi havikutumiwa kwa njia ya moja kwa moja kama michango ya moja kwa moja. Kwa mfano, ikiwa mtindo wa uidhinishaji wa mkopo mara kwa mara unawapa waombaji thamani hasi za SHAP kutoka kwa idadi fulani ya watu, inaashiria upendeleo unaoweza kuhitaji uchunguzi, kuwezesha timu kujitokeza na kupunguza matokeo hayo yasiyo ya haki. Nguvu ya XAI pia inakuja na uwezekano wa "kuosha kwa maelezo." Kama vile "kuosha kijani kibichi" hupotosha watumiaji kuhusu mazoea ya mazingira, uoshaji wa kueleweka unaweza kutokea wakati maelezo yameundwa kuficha, badala ya kuangazia, tabia ya shida ya algorithmic au upendeleo wa asili. Hii inaweza kudhihirika kama maelezo rahisi kupita kiasi ambayo huacha vipengele muhimu vya ushawishi, au maelezo ambayo kimkakati yanafanya matokeo yaonekane yasiyoegemea upande wowote au ya haki kuliko yalivyo. Inasisitiza wajibu wa kimaadili wa wataalamu wa UX kubuni maelezo ambayo ni ya uwazi na yanayoweza kuthibitishwa. Wataalamu wa UX, kwa ushirikiano na wanasayansi wa data na wataalam wa maadili, wana jukumu muhimu katika kuwasiliana kwa nini uamuzi, na pia mapungufu na uwezekano wa upendeleo wa muundo msingi wa AI. Hii inahusisha kuweka matarajio ya kweli ya mtumiaji kuhusu usahihi wa AI, kubainisha ni wapi kielelezo kinaweza kukosa kutegemewa, na kutoa njia wazi za kujibu au kutoa maoni wakati watumiaji wanaona matokeo yasiyo ya haki au yasiyo sahihi. Kushughulikia haya kwa bidiivipimo vya maadili vitaturuhusu kujenga mifumo ya AI ambayo ni ya haki na ya kuaminika kweli. Kutoka kwa Njia hadi Mockups: Miundo ya Usanifu ya XAI Kujua dhana ni jambo moja; kuwabuni ni jambo lingine. Hivi ndivyo tunavyoweza kutafsiri mbinu hizi za XAI kuwa muundo angavu. Mchoro wa 1: Taarifa ya "Kwa sababu" (kwa Umuhimu wa Kipengele) Huu ndio muundo rahisi na mara nyingi wenye ufanisi zaidi. Ni kauli ya moja kwa moja, ya lugha rahisi inayoibua sababu ya msingi ya kitendo cha AI.
Heuristic: Kuwa moja kwa moja na mafupi. Ongoza kwa sababu moja yenye athari zaidi. Epuka jargon kwa gharama zote.
Mfano: Hebu wazia huduma ya kutiririsha muziki. Badala ya kuwasilisha tu orodha ya kucheza ya "Gundua Kila Wiki", unaongeza safu ndogo ya nakala ndogo. Pendekezo la Wimbo: "Asubuhi ya Velvet"Kwa sababu unasikiliza "The Fuzz" na rock nyingine ya akili.
Mchoro wa 2: Mwingiliano wa "Nini-Kama" (kwa Bidhaa Zilizoghushi) Bidhaa bandia zinahusu uwezeshaji. Njia bora ya kuwawakilisha ni kuwapa watumiaji zana wasilianifu ili kuchunguza uwezekano wenyewe. Hii ni kamili kwa ajili ya fedha, afya, au maombi mengine yenye lengo.
Heuristic: Fanya maelezo kuwa maingiliano na kuwezesha. Waruhusu watumiaji kuona sababu na athari ya chaguo zao.
Mfano: Kiolesura cha maombi ya mkopo. Baada ya kukataa, badala ya kikomo, mtumiaji anapata zana ya kubainisha jinsi matukio mbalimbali (nini-ikiwa) yanaweza kucheza (Ona Mchoro 1).
Mchoro wa 3: Reli ya Kuangazia (Kwa Maelezo ya Karibu) Wakati AI inatekeleza kitendo kwenye maudhui ya mtumiaji (kama vile kufanya muhtasari wa hati au kutambua nyuso kwenye picha), maelezo yanapaswa kuunganishwa na chanzo.
Heuristic: Tumia viashiria vya kuona kama vile kuangazia, muhtasari, au maelezo ili kuunganisha maelezo moja kwa moja na kipengele cha kiolesura kinachofafanua.
Mfano: Zana ya AI inayotoa muhtasari wa makala marefu. Hoja ya Muhtasari Inayozalishwa na AI:Utafiti wa awali ulionyesha pengo la soko la bidhaa endelevu.Chanzo katika Hati:“...Uchambuzi wetu wa Q2 wa mitindo ya soko ulionyesha kwa uthabiti kwamba hakuna mshindani mkuu aliyekuwa akimhudumia mtumiaji anayejali mazingira, na kufichua pengo kubwa la soko kwa bidhaa endelevu.
Mchoro wa 4: Mwonekano wa Kusukuma-na-Kuvuta (kwa Maelezo kulingana na Thamani) Kwa maamuzi changamano zaidi, watumiaji wanaweza kuhitaji kuelewa mwingiliano wa vipengele. Vielelezo rahisi vya data vinaweza kuweka hili wazi bila kuwa na mkazo.
Heuristic: Tumia taswira rahisi za data zilizo na msimbo wa rangi (kama vile chati za pau) ili kuonyesha mambo ambayo yameathiri uamuzi kwa njia chanya na hasi.
Mfano: AI inakagua wasifu wa mtahiniwa kwa ajili ya kazi. Kwa nini mgombea huyu analingana kwa asilimia 75: Mambo yanayoongeza alama: Miaka 5+ Uzoefu wa Utafiti wa UX Mjuzi katika PythonFactors kusukuma alama chini:Hakuna uzoefu na B2B SaaS
Kujifunza na kutumia miundo hii ya muundo katika UX ya bidhaa yako ya AI itasaidia kuongeza kueleweka. Unaweza pia kutumia mbinu za ziada ambazo siangazii kwa kina hapa. Hii ni pamoja na yafuatayo:
Ufafanuzi wa lugha asilia: Kutafsiri matokeo ya kiufundi ya AI katika lugha rahisi ya mazungumzo ya kibinadamu ambayo wasio wataalamu wanaweza kuelewa kwa urahisi. Maelezo ya Muktadha: Kutoa sababu za matokeo ya AI kwa wakati na eneo mahususi, kunafaa zaidi kwa kazi ya mtumiaji. Vielelezo vinavyofaa: Kutumia chati, grafu, au ramani za joto ili kuwakilisha mchakato wa kufanya maamuzi wa AI, na kufanya data changamano iwe angavu na rahisi kwa watumiaji kufahamu.
Dokezo Kwa Ajili ya Mbele ya Mwisho: Kutafsiri matokeo haya ya kueleweka kuwa hali ya utumiaji iliyofumwa pia huwasilisha seti yake ya mambo ya kiufundi. Wasanidi wa mbele mara nyingi hukabiliana na muundo wa API ili kupata data ya maelezo kwa ufanisi, na athari za utendakazi (kama vile utayarishaji wa maelezo ya wakati halisi kwa kila mwingiliano wa mtumiaji) huhitaji kupanga kwa uangalifu ili kuepuka kusubiri. Baadhi ya Mifano ya Ulimwengu Halisi Ulinzi wa Utoaji wa UPS Capital UPS hutumia AI kupeana "alama ya kuaminika ya uwasilishaji" kwa anwani ili kutabiri uwezekano wa kifurushi kuibiwa. Programu yao ya DeliveryDefense huchanganua data ya kihistoria kuhusu eneo, marudio ya upotezaji na mambo mengine. Ikiwa anwani ina alama ya chini, mfumo unaweza kuelekeza kifurushi kwa ukamilifu hadi kwa Uhakika wa Ufikiaji wa UPS, ukitoa maelezo ya uamuzi huo (k.m., "Kifurushi kimeelekezwa mahali salama kwa sababu ya historia ya wizi"). Mfumo huu unaonyesha jinsi XAI inaweza kutumika kupunguza hatari na kujenga imani ya wateja kupitiauwazi. Magari ya Kujiendesha Magari haya ya siku zijazo yatahitaji kutumia XAI ipasavyo kusaidia magari yao kufanya maamuzi salama na yanayoeleweka. Wakati gari la kujiendesha linapofunga breki ghafla, mfumo unaweza kutoa maelezo ya wakati halisi kwa hatua yake, kwa mfano, kwa kutambua mtembea kwa miguu anayeingia barabarani. Hii sio tu muhimu kwa faraja na uaminifu wa abiria lakini ni hitaji la udhibiti ili kudhibitisha usalama na uwajibikaji wa mfumo wa AI. Afya ya IBM Watson (na changamoto zake) Ingawa mara nyingi hutajwa kama mfano wa jumla wa AI katika huduma ya afya, pia ni uchunguzi muhimu wa umuhimu wa XAI. Kushindwa kwa mradi wake wa Watson for Oncology kuangazia kile kinachoweza kwenda vibaya wakati maelezo hayako wazi, au wakati data ya msingi inapendelea au haijajanibishwa. Mapendekezo ya mfumo wakati mwingine hayaendani na mazoea ya kliniki ya mahali hapo kwa sababu yalizingatia miongozo ya U.S. Hii inatumika kama hadithi ya tahadhari juu ya hitaji la kueleweka kwa nguvu, na kufahamu muktadha. Jukumu la Mtafiti wa UX: Kubainisha na Kuthibitisha Maelezo Masuluhisho yetu ya muundo yanafaa tu ikiwa yatashughulikia maswali sahihi ya mtumiaji kwa wakati unaofaa. Maelezo ambayo hujibu swali ambalo mtumiaji hana ni kelele tu. Hapa ndipo utafiti wa UX unakuwa kiungo muhimu katika mkakati wa XAI, kuhakikisha kwamba tunaeleza ni nini na jinsi gani hiyo ni muhimu kwa watumiaji wetu. Jukumu la mtafiti ni mbili: kwanza, kufahamisha mkakati kwa kubainisha mahali ambapo maelezo yanahitajika, na pili, kuthibitisha miundo inayotoa maelezo hayo. Kufahamisha Mkakati wa XAI (Nini cha Kuelezea) Kabla ya kuunda maelezo moja, ni lazima tuelewe mtindo wa kiakili wa mtumiaji wa mfumo wa AI. Je, wanaamini kuwa inafanya nini? Ziko wapi mapungufu kati ya uelewa wao na ukweli wa mfumo? Hii ni kazi ya msingi ya mtafiti wa UX. Mahojiano ya Mfano wa Akili: Kufungua Maoni ya Mtumiaji ya Mifumo ya AI Kupitia mahojiano ya kina, yenye muundo nusu, watendaji wa UX wanaweza kupata maarifa muhimu kuhusu jinsi watumiaji wanavyotambua na kuelewa mifumo ya AI. Vipindi hivi vimeundwa ili kuwahimiza watumiaji kuchora au kuelezea kihalisi "mfano wao wa kiakili" wa jinsi wanavyoamini AI hufanya kazi. Hii mara nyingi huhusisha kuuliza maswali ya wazi ambayo huwahimiza watumiaji kueleza mantiki ya mfumo, pembejeo zake, na matokeo yake, pamoja na uhusiano kati ya vipengele hivi. Mahojiano haya ni ya nguvu kwa sababu mara kwa mara yanafichua dhana potofu na mawazo ambayo watumiaji wanashikilia kuhusu AI. Kwa mfano, mtumiaji anayeingiliana na injini ya mapendekezo anaweza kudai kwa ujasiri kwamba mfumo unategemea tu historia yao ya zamani ya kutazama. Huenda wasitambue kwamba algoriti pia inajumuisha wingi wa vipengele vingine, kama vile wakati wa siku wanavinjari, vipengee vinavyovuma sasa kwenye jukwaa, au hata tabia za utazamaji za watumiaji sawa. Kufichua pengo hili kati ya mtindo wa kiakili wa mtumiaji na mantiki halisi ya msingi ya AI ni muhimu sana. Inatuambia kwa usahihi ni maelezo gani mahususi tunayohitaji kuwasiliana na watumiaji ili kuwasaidia kuunda muundo sahihi zaidi wa kiakili wa mfumo. Hii, kwa upande wake, ni hatua ya msingi katika kukuza uaminifu. Watumiaji wanapoelewa, hata katika kiwango cha juu, jinsi AI inavyofikia hitimisho au mapendekezo yake, kuna uwezekano mkubwa wa kuamini matokeo yake na kutegemea utendakazi wake. Uchoraji wa Ramani ya Safari ya AI: Kuzama kwa Kina Katika Uaminifu wa Mtumiaji na Ufafanuzi Kwa kupanga kwa uangalifu safari ya mtumiaji kwa kutumia kipengele kinachoendeshwa na AI, tunapata maarifa muhimu kuhusu nyakati mahususi ambapo kuchanganyikiwa, kufadhaika, au hata kutoaminiana sana kunatokea. Hii inafichua miktadha muhimu ambapo mtindo wa kiakili wa mtumiaji wa jinsi AI inavyofanya kazi hukinzana na tabia yake halisi. Zingatia huduma ya kutiririsha muziki: Je, imani ya mtumiaji inashuka wakati pendekezo la orodha ya kucheza linahisi kuwa "nasibu," halina muunganisho wowote unaotambulika kwa tabia zao za awali za kusikiliza au mapendeleo yaliyotajwa? Ubahatishaji huu unaotambulika ni changamoto ya moja kwa moja kwa matarajio ya mtumiaji ya urekebishaji wa akili na ukiukaji wa ahadi kamili kwamba AI inaelewa ladha yao. Vile vile, katika programu ya usimamizi wa picha, je, watumiaji hupatwa na mfadhaiko mkubwa wakati kipengele cha AI cha kuweka lebo kwenye picha mara kwa mara kinamtambulisha mwanafamilia anayependwa? Hitilafu hii ni zaidi ya hitilafu ya kiufundi; inagusa moyo wa usahihi, ubinafsishaji, na hatauhusiano wa kihisia. Pointi hizi za maumivu ni ishara wazi zinazoonyesha kwa usahihi mahali ambapo maelezo yaliyowekwa vizuri, wazi na mafupi ni muhimu. Maelezo kama haya hutumika kama njia muhimu za kurekebisha, kurekebisha uvunjaji wa uaminifu ambao, ikiwa hautashughulikiwa, unaweza kusababisha kuachwa kwa watumiaji. Nguvu ya uchoraji ramani ya AI iko katika uwezo wake wa kutusogeza zaidi ya kueleza tu matokeo ya mwisho ya mfumo wa AI. Ingawa kuelewa kile AI ilitoa ni muhimu, mara nyingi haitoshi. Badala yake, mchakato huu unatulazimisha kuzingatia kuelezea mchakato katika wakati muhimu. Hii ina maana ya kushughulikia:
Kwa nini pato fulani lilitolewa: Je, ilitokana na data maalum ya ingizo? Usanifu fulani wa mfano? Ni mambo gani yaliyoathiri uamuzi wa AI: Je, vipengele vingine vilipewa uzito zaidi? Jinsi AI ilifikia hitimisho lake: Je, tunaweza kutoa maelezo yaliyorahisishwa, yanayofanana na utendakazi wake wa ndani? Ni mawazo gani ambayo AI ilitoa: Je, kulikuwa na uelewa kamili wa dhamira ya mtumiaji au data ambayo inahitaji kufichuliwa? Vikwazo vya AI ni nini: Kuwasiliana kwa uwazi kile ambacho AI haiwezi kufanya, au ambapo usahihi wake unaweza kuyumba, hujenga matarajio ya kweli.
Uchoraji ramani wa safari wa AI hubadilisha dhana dhahania ya XAI kuwa mfumo wa vitendo, unaoweza kutekelezeka kwa watendaji wa UX. Inatuwezesha kuvuka mijadala ya kinadharia ya kuelezeka na badala yake kubainisha nyakati haswa ambapo imani ya watumiaji iko hatarini, ikitoa maarifa muhimu ili kujenga uzoefu wa AI ambao ni wenye nguvu, uwazi, unaoeleweka, na wa kutegemewa. Hatimaye, utafiti ni jinsi tunavyofichua mambo yasiyojulikana. Huenda timu yako inajadili jinsi ya kueleza kwa nini mkopo ulinyimwa, lakini utafiti unaweza kuonyesha kwamba watumiaji wanajali zaidi kuelewa jinsi data yao ilivyotumiwa hapo awali. Bila utafiti, tunakisia tu kile ambacho watumiaji wetu wanashangaa. Kushirikiana kwenye Ubunifu (Jinsi ya Kuelezea AI yako) Baada ya utafiti kubainisha cha kueleza, kitanzi cha ushirikiano na muundo huanza. Wabuni wanaweza kuigiza ruwaza tulizojadili awali—kauli ya “Kwa sababu”, vitelezi wasilianifu—na watafiti wanaweza kuweka miundo hiyo mbele ya watumiaji ili kuona ikiwa inasimama. Utumiaji Uliolengwa na Majaribio ya Ufahamu: Tunaweza kubuni tafiti za utafiti ambazo hujaribu hasa vipengele vya XAI. Hatuulizi tu, "Je, hii ni rahisi kutumia?" Tunauliza, "Baada ya kuona hili, unaweza kuniambia kwa maneno yako mwenyewe kwa nini mfumo ulipendekeza bidhaa hii?" au “Nionyeshe unachoweza kufanya ili kuona ikiwa unaweza kupata matokeo tofauti.” Lengo hapa ni kupima ufahamu na uwezo wa kutekelezeka, sambamba na utumiaji. Kupima Kujiamini: Tunaweza kutumia tafiti rahisi na mizani ya ukadiriaji kabla na baada ya maelezo kuonyeshwa. Kwa mfano, tunaweza kumuuliza mtumiaji kwa mizani ya pointi 5, "Je, unaamini pendekezo hili kwa kiasi gani?" kabla hawajaona kauli ya “Kwa sababu”, na kisha waulize tena baadaye. Hii hutoa data ya kiasi kuhusu ikiwa maelezo yetu yanasonga sindano kwenye uaminifu. Utaratibu huu unaunda kitanzi chenye nguvu, cha kurudia. Matokeo ya utafiti hufahamisha muundo wa awali. Muundo huo kisha hujaribiwa, na matokeo mapya yanarejeshwa kwa timu ya kubuni kwa ajili ya uboreshaji. Labda kauli ya "Kwa sababu" ilikuwa ya maneno mafupi sana, au kitelezi cha "Nini-Kama" kilichanganya zaidi kuliko kuwezesha. Kupitia uthibitishaji huu shirikishi, tunahakikisha kwamba maelezo ya mwisho ni sahihi kiufundi, yanaeleweka kikweli, yanafaa, na yanajenga imani kwa watu wanaotumia bidhaa. Eneo la Goldilocks la Maelezo Neno muhimu la tahadhari: inawezekana kuelezea zaidi. Kama katika hadithi ya hadithi, ambapo Goldilocks alitafuta uji ambao ulikuwa 'sawa tu', lengo la maelezo mazuri ni kutoa kiasi sahihi cha maelezo-sio mengi sana na sio kidogo sana. Kumshambulia mtumiaji kwa kila kigezo katika modeli kutasababisha upakiaji mwingi wa utambuzi na kunaweza kupunguza uaminifu. Lengo sio kumfanya mtumiaji kuwa mwanasayansi wa data. Suluhisho mojawapo ni ufichuzi unaoendelea.
Anza na rahisi. Ongoza kwa maelezo mafupi ya "Kwa sababu". Kwa watumiaji wengi, hii itakuwa ya kutosha. Kutoa njia kwa undani. Toa kiungo kilicho wazi na chenye msuguano mdogo kama vile "Pata Maelezo Zaidi" au "Angalia jinsi hili lilivyoamuliwa." Fichua utata. Nyuma ya kiungo hicho, unaweza kutoa vitelezi wasilianifu, taswira, au orodha ya kina zaidi ya vipengele vinavyochangia.
Mbinu hii ya tabaka inaheshimu umakini na utaalamu wa mtumiaji, ikitoa kiasi kinachofaa tuhabari kwa mahitaji yao. Hebu fikiria unatumia kifaa mahiri cha nyumbani ambacho kinapendekeza upashaji joto bora kulingana na mambo mbalimbali. Anza na rahisi: "Nyumba yako ina joto hadi digrii 72 kwa sasa, ambayo ni halijoto bora zaidi ya kuokoa nishati na faraja." Toa njia ya maelezo: Chini ya hapo, kiungo kidogo au kitufe: "Kwa nini digrii 72 ni bora?" Fichua utata: Kubofya kiungo hicho kunaweza kufungua skrini mpya inayoonyesha:
Vitelezi vinavyoingiliana kwa halijoto ya nje, unyevunyevu, na kiwango cha faraja unachopendelea, vinavyoonyesha jinsi hivi vinavyorekebisha halijoto inayopendekezwa. Taswira ya matumizi ya nishati kwa viwango tofauti vya joto. Orodha ya vipengele vinavyochangia kama vile "Muda wa siku," "Halijoto ya sasa ya nje," "Matumizi ya kihistoria ya nishati," na "Vihisi kazi."
Ni vyema kuchanganya mbinu nyingi za XAI na muundo huu wa Ufafanuzi wa Eneo la Goldilocks, ambao unatetea ufichuzi wa hatua kwa hatua, unahimiza hili kabisa. Unaweza kuanza na kauli rahisi ya "Kwa sababu" (Mchoro wa 1) kwa ufahamu wa mara moja, na kisha utoe kiungo cha "Pata Maelezo Zaidi" ambacho kinafichua Mwingiliano wa "Nini-Kama" (Mchoro wa 2) au "Push-and-Vute Visual" (Mchoro wa 4) kwa uchunguzi wa kina. Kwa mfano, mfumo wa maombi ya mkopo unaweza awali kutaja sababu ya msingi ya kukataa (umuhimu wa kipengele), kisha kuruhusu mtumiaji kuingiliana na zana ya "Nini-Kama" ili kuona jinsi mabadiliko ya mapato au deni lake yatakavyobadilisha matokeo (ya bandia), na hatimaye, kutoa chati ya kina ya "Sukuma-na-Vuta" (maelezo yanayotegemea thamani) ili kuonyesha vipengele vyema na hasi vya michango. Mbinu hii iliyopangwa huruhusu watumiaji kufikia kiwango cha maelezo wanachohitaji, wanapohitaji, kuzuia upakiaji mwingi wa utambuzi huku wakiendelea kutoa uwazi wa kina. Kuamua ni zana na mbinu zipi za XAI za kutumia kimsingi ni kazi ya utafiti wa kina wa UX. Mahojiano ya miundo ya kiakili na uchoraji ramani wa AI ni muhimu kwa kubainisha mahitaji ya mtumiaji na pointi za maumivu zinazohusiana na uelewa na uaminifu wa AI. Mahojiano ya miundo ya kiakili husaidia kufichua dhana potofu za watumiaji kuhusu jinsi AI inavyofanya kazi, ikionyesha maeneo ambayo maelezo ya kimsingi (kama vile umuhimu wa kipengele au maelezo ya karibu) yanahitajika. Upangaji ramani wa safari wa AI, kwa upande mwingine, hubainisha nyakati muhimu za kuchanganyikiwa au kutoaminiana katika mwingiliano wa mtumiaji na AI, ikiashiria ambapo maelezo zaidi ya punjepunje au shirikishi (kama vile maelezo potofu au maelezo yanayotegemea thamani) yatakuwa ya manufaa zaidi kujenga upya uaminifu na kutoa wakala.
Hatimaye, njia bora ya kuchagua mbinu ni kuruhusu utafiti wa mtumiaji kuongoza maamuzi yako, kuhakikisha kwamba maelezo unayobuni yanashughulikia moja kwa moja maswali na wasiwasi wa mtumiaji, badala ya kutoa tu maelezo ya kiufundi kwa ajili yao wenyewe. XAI kwa Mawakala wa Kutafakari kwa kina Baadhi ya mifumo mipya ya AI, inayojulikana kama mawakala wa kusababu kwa kina, hutoa "msururu wa mawazo" wazi kwa kila kazi ngumu. Hawataji tu vyanzo; wanaonyesha njia ya kimantiki, hatua kwa hatua waliyoichukua kufikia hitimisho. Ingawa uwazi huu unatoa muktadha muhimu, mchezo wa kuigiza unaojumuisha aya kadhaa unaweza kuhisi mzito kwa mtumiaji anayejaribu tu kukamilisha kazi. Kanuni za XAI, hasa Eneo la Ufafanuzi la Goldilocks, hutumika moja kwa moja hapa. Tunaweza kuratibu safari, kwa kutumia ufichuzi unaoendelea ili kuonyesha tu hitimisho la mwisho na hatua muhimu zaidi katika mchakato wa mawazo kwanza. Watumiaji wanaweza kisha kujijumuisha ili kuona hoja kamili, za kina, za hatua nyingi wanapohitaji kuangalia mantiki mara mbili au kutafuta ukweli mahususi. Mbinu hii inaheshimu umakini wa mtumiaji huku ikihifadhi uwazi kamili wa wakala. Hatua Zinazofuata: Kuwezesha Safari Yako ya XAI Ufafanuzi ni nguzo ya msingi ya kujenga bidhaa za AI zinazoaminika na zinazofaa. Kwa mtaalamu wa hali ya juu anayetaka kuleta mabadiliko haya ndani ya shirika lao, safari inaenea zaidi ya miundo ya kubuni hadi katika utetezi na kujifunza kwa kuendelea. Ili kuongeza uelewa wako na matumizi ya vitendo, zingatia kuchunguza nyenzo kama vile zana ya AI Explainability 360 (AIX360) kutoka IBM Research au Google's What-If Tool, ambayo hutoa njia shirikishi za kuchunguza tabia na maelezo ya kielelezo. Kujihusisha na jamii kama vile Jukwaa la Kuwajibika la AI au vikundi maalum vya utafiti vinavyolenga AI inayozingatia binadamu kunaweza kutoa maarifa na fursa za ushirikiano. Hatimaye, kuwa wakili wa XAI ndani ya shirika lako mwenyewe.Ufafanuzi wa sura kama uwekezaji wa kimkakati. Fikiria mwigo mfupi kwa uongozi wako au timu zinazofanya kazi mbalimbali: "Kwa kuwekeza katika XAI, tutafanya zaidi ya kujenga uaminifu; tutaharakisha kupitishwa kwa watumiaji, kupunguza gharama za usaidizi kwa kuwawezesha watumiaji kuelewa, na kupunguza hatari kubwa za kimaadili na udhibiti kwa kufichua upendeleo unaoweza kutokea. Huu ni ubunifu mzuri na biashara mahiri."
Sauti yako, yenye msingi wa uelewa wa vitendo, ni muhimu katika kuleta AI nje ya kisanduku cheusi na katika ushirikiano wa kushirikiana na watumiaji.
