Nire azken zatian, oinarrizko egia bat ezarri genuen: erabiltzaileek AI onartzeko eta fidatzeko, fidatu behar dute. Konfiantza konstruktu askotariko bat dela hitz egin genuen, AI baten gaitasuna, onginahia, osotasuna eta aurreikuspenaren pertzepzioetan oinarrituta. Baina zer gertatzen da AI batek, bere jakinduria isilean eta algoritmikoan, erabiltzailea nahastuta, frustratuta edo minduta uzten duen erabakia hartzen duenean? Hipoteka-eskaera bat ukatzen da, gogoko abesti bat erreprodukzio-zerrendatik bat-batean ez dago eta curriculum kualifikatua baztertzen da gizakiak inoiz ikusi baino lehen. Une hauetan, gaitasuna eta aurreikusgarritasuna apurtzen dira, eta onginahiak mundu bat urrun sentitzen du. Gure elkarrizketak orain konfiantzaren zergatitik gardentasunaren nolara eboluzionatu behar du. Explainable AI (XAI) eremua, AI irteerak gizakientzat ulergarri bihurtzeko metodoak garatzen dituena, sortu da horri aurre egiteko, baina askotan datu-zientzialarientzako erronka tekniko huts gisa planteatzen da. Nik uste dut diseinu erronka kritikoa dela AIan oinarritzen diren produktuentzat. Gure lana da UX profesional gisa erabaki algoritmikoen eta giza ulermenaren arteko zubi egitea. Artikulu honek argibide praktikoak eta bideragarriak eskaintzen ditu ikertu eta diseinatzeko moduari buruz. Buzz-hitzetatik haratago eta maketetara joango gara, XAI kontzeptu konplexuak gaur erabiltzen has zaitezkeen diseinu-eredu konkretuetara itzuliz. XAI desmistifikatzea: UX Praktitionersentzako oinarrizko kontzeptuak XAI erabiltzailearen galderari erantzutea da: "Zergatik?" Zergatik erakutsi zidaten iragarki hau? Zergatik gomendatzen zait pelikula hau? Zergatik ukatu zen nire eskaera? Pentsa ezazu matematikako problema bati buruzko lana erakusten duen AI gisa. Hori gabe, erantzun bat besterik ez duzu, eta sinesmenean hartzera behartuta zaude. Urratsak erakustean, ulermena eta konfiantza sortzen dituzu. Eragindako gizakiek zure lana bikoiztu eta egiaztatzea ere onartzen duzu. Ezaugarrien garrantzia eta kontrafaktualak AIarekin gertatzen dena argitzeko edo azaltzeko erabil ditzakegun teknika ugari daude. Metodoek erabaki-zuhaitz baten logika osoa eskaintzetik irteera baten hizkuntza naturaleko laburpenak sortzera bitartekoak diren arren, UXko profesionalek esperientzia batean sar ditzaketen informazio mota praktiko eta eragingarrienetako bi ezaugarrien garrantzia (1. irudia) eta kontrafaktualak dira. Hauek izan ohi dira erabiltzaileek ulertzeko errazenak eta diseinatzaileek inplementatzeko modukoak.
Ezaugarriaren garrantzia Azaltzeko metodo honek honakoa erantzuten du: "Zeintzuk izan ziren kontuan hartu zituen faktore garrantzitsuenak AI?" Emaitzan eragin handiena izan duten 2-3 aldagai nagusiak identifikatzea da. Titulua da, ez istorio osoa. Adibidea: Imajinatu bezero batek iragartzen duen ala ez (bere zerbitzua bertan behera utzi) iragartzen duen AI bat. Ezaugarrien garrantziak agerian utzi dezake "azken hilabeteko laguntza-dei kopurua" eta "azken prezioen igoerak" izan zirela bi faktore garrantzitsuenak bezero bat litekeena zen ala ez zehazteko.
Kontrafaktualak Metodo indartsu honek honela erantzuten du: "Zer aldatu beharko nuke beste emaitza bat lortzeko?" Hau funtsezkoa da erabiltzaileei agentzia zentzua ematen dielako. "Ez" frustragarri bat "oraindik ez" ekintzagarri bihurtzen du. Adibidea: Imajinatu AI erabiltzen duen mailegu-eskaeraren sistema. Erabiltzaile bati mailegua ukatzen zaio. "Eskaera ukatua" besterik ez ikusi beharrean, azalpen kontrafaktual batek ere partekatuko luke: "Zure kreditu-puntuazioa 50 puntu handiagoa balitz edo zure zorraren eta diru-sarreren ratioa % 10 txikiagoa balitz, zure mailegua onartuko litzateke". Horrek etorkizunean mailegu bat lortzeko har ditzakeen urrats argiak ematen dizkio Sarahri.
Ereduzko datuak erabiltzea Azalpena hobetzeko Datu-zientzialariek sarritan zehaztasun teknikoak kudeatzen dituzten arren, lagungarria da UXko profesionalentzat jakitea LIME (Local Interpretable Model-agnostic Explanations) bezalako tresnak, zeinak banakako iragarpenak azaltzen dituen eredua lokalean hurbilduz, eta SHAP (SHapley Additive exPlanations) zeinak joko-teoriaren ikuspegia erabiltzen duen edozein makina-ikaskuntzatik "makina bat ikaskuntzaren konplexua" ateratzeko "makina bat ikaskuntzaren irteera" dela. ereduak. Liburutegi hauek, funtsean, AI baten erabakia apurtzen laguntzen dute emaitza jakin baterako eragin handiena duten sarrerak erakusteko. Behar bezala egiten denean, AI tresna baten erabakiaren azpian dauden datuak istorio indartsu bat kontatzeko erabil daitezke. Ikus ditzagun ezaugarrien garrantzia eta kontrafaktualak eta erakutsi erabakiaren atzean dagoen datu-zientzia nola erabil daitekeen erabiltzailearen esperientzia hobetzeko. Orain goazenEzaugarrien garrantzia estaltzeko Tokiko Azalpenen (adibidez, LIME) datuen laguntzarekin: Ikuspegi honek honela erantzuten du: "Zergatik egin zidan AIak gomendio zehatz hau oraintxe bertan?" Ereduaren funtzionamenduari buruzko azalpen orokor baten ordez, instantzia bakar eta zehatz baterako arrazoi bideratua ematen du. Pertsonala eta testuingurua da. Adibidea: Imajinatu AI bidezko musika gomendio sistema bat, Spotify bezalakoa. Tokiko azalpen batek erantzungo luke: "Zergatik gomendatu dizu sistemak Adeleren abesti zehatz hau oraintxe bertan?" Azalpena honako hau izan daiteke: "Duela gutxi emakumezko ahotsen beste balada eta abesti emozional batzuk entzun dituzulako".
Azkenik, balioan oinarritutako Azalpenak (adibidez, Shapley Additive Explanations (SHAP) datuak erabaki baten azalpenean sartzea): "Nola eragin zuen faktore bakoitzak erabakia modu batera edo bestera?" Erantzuten duen ezaugarrien garrantziaren bertsio ñabarduratsuagoa da? Adibidea: Imajinatu banku batek AI eredu bat erabiltzen duela mailegu-eskaera bat onartu ala ez erabakitzeko.
Ezaugarrien garrantzia: ereduaren irteerak eskatzailearen kreditu puntuazioa, diru-sarrerak eta zor-sarreren ratioa bere erabakian faktore garrantzitsuenak izan zirela erakutsi dezake. Horrek axola zuenari erantzuten dio. Ezaugarrien garrantzia balioetan oinarritutako azalpenekin (SHAP): SHAP balioek ezaugarrien garrantzia gehiago hartuko lukete ereduaren elementuetan oinarrituta.
Onartutako mailegu baterako, SHAP-ek kreditu-puntuazio altu batek erabakia nabarmen bultzatu zuela onarpenera (eragin positiboa), batez bestekoa baino zertxobait altuagoa den zorra-sarreren ratioak apur bat urrundu zuen (eragin negatiboa), baina ez da nahikoa mailegua ukatzeko. Ukatutako mailegu baterako, SHAPek agerian lezake diru-sarrera baxuak eta azken kreditu-kontsulten kopuru handiak ukatze aldera erabakia bultzatu zutela, nahiz eta kreditu puntuazioa duina izan.
Honek mailegu-funtzionarioak kontuan hartutakoaz harago, faktore bakoitzak azken "bai" edo "ez" erabakian nola lagundu duen azaltzen laguntzen dio eskatzaileari. Garrantzitsua da onartzea azalpen onak emateko gaitasuna askotan garapen-zikloan askoz lehenago hasten dela. Datu-zientzialariek eta ingeniariek funtsezko eginkizuna betetzen dute ereduak eta datu-hodiak nahita egituratuz, berez azalgarritasuna onartzen duten moduetan, eta ez gero ustekabean sartzen saiatu beharrean. Ikerketa- eta diseinu-taldeek hori sustatu dezakete datu-zientzialari eta ingeniariekin erabiltzaileen ulermen-beharrei buruzko elkarrizketak hasiz, azalgarritasun-neurriak garatzen lagunduz eta azalpenak elkarlanean prototipatzea zehatzak eta erabilerrazak direla ziurtatzeko. XAI eta AI etikoa: alborapena eta erantzukizuna desegitea Konfiantza sortzeaz haratago, XAIk paper garrantzitsua betetzen du AI*ren inplikazio etiko sakonei aurre egiteko, batez ere alborapen algoritmikoei dagokienez. Azalgarritasun-teknikek, hala nola, SHAP balioak aztertzeak, eredu baten erabakietan arraza, generoa edo egoera sozioekonomikoa bezalako atributu sentikorrek neurrigabeko eragina duten ala ez ikus dezakete, nahiz eta faktore horiek esplizituki sarrera zuzen gisa erabili ez. Esate baterako, maileguak onartzeko eredu batek koherentziaz SHAP balio negatiboak esleitzen baditu demografiko jakin bateko eskatzaileei, ikerketa behar duen alborapen potentziala adierazten du, taldeei emaitza bidegabe horiek azaleratzeko eta arintzeko ahalmena emanez. XAI-ren boterea "esplikagarritasuna garbitzeko" ahalmenarekin ere dator. "Greenwashing"-ek kontsumitzaileak ingurumen-praktikei buruz engainatzen dituen bezala, azalgarritasunaren garbiketa gerta daiteke azalpenak jokabide algoritmiko problematikoak edo berezko alborapenak ezkutatzeko, argitzeko beharrean, diseinatzen direnean. Hau eragin-faktore kritikoak baztertzen dituzten azalpen sinpleegiak edo emaitzak benetan baino neutralagoak edo zuzenagoak ager daitezen estrategikoki planteatzen dituzten azalpenak izan daitezke. UX praktikatzaileen erantzukizun etikoa azpimarratzen du benetako gardenak eta egiaztagarriak diren azalpenak diseinatzeko. UX profesionalek, datu-zientzialariekin eta etikoekin elkarlanean, erabaki baten zergatia jakinarazteko ardura erabakigarria dute, baita azpian dagoen AI ereduaren mugak eta alborapen potentzialak ere. Honek AIren zehaztasunari buruzko erabiltzaileen itxaropen errealistak ezartzea dakar, eredua fidagarriagoa izan daitekeen non identifikatzea eta errekurtsoetarako edo iritzietarako bide argiak eskaintzea erabiltzaileek emaitza bidegabeak edo okerrak hautematen dituztenean. Horiei modu proaktiboan aurre egiteadimentsio etikoak benetan bidezkoak eta fidagarriak diren AI sistemak eraikitzeko aukera emango digu. Metodoetatik maketetara: XAI diseinu eredu praktikoak Kontzeptuak ezagutzea gauza bat da; horiek diseinatzea beste bat da. Hona hemen XAI metodo hauek diseinu-eredu intuitiboetara nola itzul ditzakegun. 1. eredua: "Zelako" adierazpena (Ezaugarrien garrantziagatik) Hau da eredurik errazena eta askotan eraginkorrena. Adierazpen zuzena eta arrunta da, AI baten ekintzaren arrazoi nagusia azaleratzen duena.
Heuristikoa: izan zuzena eta zehatza. Arrazoi eragingarrienarekin eraman ezazu. Saihestu jargoia kosta ahala kosta.
Adibidea: Imajinatu musika erreproduzitzeko zerbitzu bat. "Discover Weekly" erreprodukzio-zerrenda bat aurkeztu beharrean, mikrokopia-lerro txiki bat gehitzen duzu.Abestiaren gomendioa: "Velvet Morning" "The Fuzz" eta beste rock psikodelikoa entzuten duzulako.
2. eredua: "Zer gertatuko balitz" interaktiboa (kontrafaktualetarako) Kontrafaktualak berez ahalduntzeari buruzkoak dira. Horiek irudikatzeko modurik onena erabiltzaileei aukerak beraiek esploratzeko tresna interaktiboak ematea da. Hau ezin hobea da finantza, osasun edo beste helburuetara bideratutako aplikazioetarako.
Heuristikoa: Azalpenak interaktiboak eta ahalduntzaileak egin. Utzi erabiltzaileei beren aukeren kausa eta eragina ikusteko.
Adibidea: mailegu-eskaeraren interfazea. Ezetza baten ondoren, bide hilaren ordez, erabiltzaileak tresna bat eskuratzen du hainbat eszenatoki (zer gertatuko den) nola jokatu daitezkeen zehazteko (Ikus 1. irudia).
3. eredua: Highlight Reel (Tokiko azalpenetarako) AI batek erabiltzailearen edukian ekintza bat egiten duenean (adibidez, dokumentu bat laburtzea edo argazkietan aurpegiak identifikatzea), azalpena iturriarekin bisualki lotu behar da.
Heuristikoa: Erabili argitalpen bisualak, eskemak edo oharrak, adibidez, azalpena azaltzen ari den interfaze-elementuarekin zuzenean konektatzeko.
Adibidea: Artikulu luzeak laburbiltzen dituen AI tresna bat.AI-Generated Laburpen Puntua:Hasierako ikerketek produktu jasangarrien merkatu-hutsune bat erakutsi zuten. Dokumentuko iturria: "...Merkatuaren joeren Q2ko azterketak behin-behinean frogatu zuen lehiakide nagusirik ez zegoela modu eraginkorrean kontsumitzaile ekologikoari zerbitzatzen, produktu jasangarrien merkatuko hutsune nabarmena agerian utziz..."
4. eredua: Push-and-Pull bisuala (balioetan oinarritutako azalpenetarako) Erabaki konplexuagoetarako, baliteke erabiltzaileek faktoreen elkarreragina ulertu behar izatea. Datuen bistaratze sinpleek hori argi utzi dezakete erabatekoa izan gabe.
Heuristikoa: Erabili datuen bistaratze errazak eta kolorez kodetutakoak (barra-diagramak bezalakoak) erabaki batean positiboki eta negatiboki eragin duten faktoreak erakusteko.
Adibidea: AI batek hautagai baten profila aztertzen du lan baterako.Hautagai hau % 75eko bat etortzen den zergatik: puntuazioa gora egiten duten faktoreak: 5 urtetik gorako UX ikerketa-esperientzia Python-en trebea.
Diseinu-eredu hauek zure AI produktuaren UXn ikasteak eta erabiltzeak azalgarritasuna areagotzen lagunduko du. Hemen sakonki lantzen ez ditudan teknika osagarriak ere erabil ditzakezu. Honek honako hauek barne hartzen ditu:
Lengoaia naturalaren azalpenak: AI baten emaitza teknikoa itzultzea, adituak ez direnek erraz uler dezaketen giza-hizkuntza soil eta elkarrizketatuan. Testuinguruko azalpenak: AI baten irteerarako arrazoia ematea une eta kokapen zehatzean, erabiltzailearen zereginerako garrantzitsuena da. Bistaratze garrantzitsuak: diagramak, grafikoak edo bero-mapak erabiltzea AI baten erabakiak hartzeko prozesua bisualki irudikatzeko, datu konplexuak intuitibo bihurtuz eta erabiltzaileek errazago uler dezaten.
Frontend-erako oharra: azalgarritasun-irteera hauek erabiltzaile-esperientzia bateratuetara itzultzeak bere gogoeta teknikoen multzoa ere aurkezten du. Frontend-eko garatzaileek sarritan APIaren diseinuari aurre egiten diote azalpen-datuak modu eraginkorrean berreskuratzeko, eta errendimendu-inplikazioek (erabiltzaileen interakzio bakoitzeko azalpenak denbora errealean sortzea bezalakoak) plangintza zehatza behar dute latentzia saihesteko. Mundu errealeko adibide batzuk UPS Capital-en DeliveryDefense UPS-ek AI erabiltzen du helbideei "entregako konfiantza puntuazioa" esleitzeko pakete bat lapurtzeko probabilitatea aurreikusteko. Haien DeliveryDefense softwareak kokapenari, galera-maiztasunari eta beste faktore batzuei buruzko datu historikoak aztertzen ditu. Helbide batek puntuazio baxua badu, sistemak modu proaktiboan birbideratu dezake paketea UPS Sarbide-puntu seguru batera, erabakiaren azalpena emanez (adibidez, "Paketea kokapen seguru batera birbideratu da lapurreta-historia baten ondorioz"). Sistema honek XAI arriskuak arintzeko eta bezeroen konfiantza sortzeko nola erabil daitekeen erakusten dugardentasuna. Ibilgailu Autonomoak Etorkizuneko ibilgailu hauek XAI modu eraginkorrean erabili beharko dute beren ibilgailuei erabaki seguruak eta azalgarriak hartzen laguntzeko. Norberak gidatzen duen auto batek bat-batean balaztatzen duenean, sistemak denbora errealeko azalpena eman dezake bere ekintzari, adibidez, errepidera sartzen den oinezko bat identifikatuz. Hau ezinbestekoa da bidaiarien erosotasunerako eta konfiantzarako soilik, baita AI sistemaren segurtasuna eta erantzukizuna frogatzeko arauzko eskakizuna ere. IBM Watson Health (eta bere erronkak) Osasunean AIren adibide orokor gisa askotan aipatzen den arren, XAIren garrantziaren azterketa kasu baliotsua ere bada. Bere Watson for Oncology proiektuaren porrotak azalpenak argi ez daudenean edo azpiko datuak alboratuta edo lokalizatuta ez daudenean oker egon daitekeen azpimarratzen du. Sistemaren gomendioak zenbaitetan ez datoz bat tokiko praktika klinikoekin, AEBetan zentratutako jarraibideetan oinarritzen zirelako. Testuingurua kontuan hartuta azalgarritasun sendoaren beharrari buruzko ohartarazpen gisa balio du. UX ikertzailearen rola: azalpenak zehaztea eta balioztatzea Gure diseinu-soluzioak eraginkorrak dira erabiltzaileen galdera egokiak une egokian erantzuten badituzte. Erabiltzaileak ez duen galdera bati erantzuten dion azalpena zarata besterik ez da. Horra hor UX ikerketa XAI estrategia batean ehun konektibo kritikoa bihurtzen da, gure erabiltzaileei benetan zer eta nola garrantzitsua den azaltzen diegula bermatuz. Ikertzailearen eginkizuna bikoitza da: lehenik, estrategiaren berri ematea, azalpenak non behar diren identifikatuz, eta bigarrenik, azalpen horiek ematen dituzten diseinuak baliozkotzea. XAI estrategiaren berri ematea (zer azaldu) Azalpen bakar bat diseinatu aurretik, erabiltzailearen AI sistemaren eredu mentala ulertu behar dugu. Zer egiten ari dela uste dute? Non daude haien ulermenaren eta sistemaren errealitatearen arteko hutsuneak? Hau da UX ikertzaile baten oinarrizko lana. Eredu Mentaleko Elkarrizketak: AI Sistemen Erabiltzaileen Pertzepzioak desegitea Elkarrizketa sakon eta erdi-egituratuen bidez, UX praktikatzaileek erabiltzaileek AI sistemak hautematen eta ulertzen duten moduari buruzko informazio eskerga lor dezakete. Saio hauek erabiltzaileak AI-ak nola funtzionatzen duen uste duten barneko "eredu mentala" hitzez hitz marrazteko edo deskribatzeko diseinatuta daude. Honek askotan galdera irekiak egitea dakar, erabiltzaileak sistemaren logika, bere sarrerak eta irteerak azaltzera bultzatzen dutenak, baita elementu horien arteko erlazioak ere. Elkarrizketa hauek indartsuak dira, maiz erabiltzaileek IAri buruz dituzten uste okerrak eta hipotesi sakonak agerian jartzen dituztelako. Esate baterako, gomendio-motor batekin elkarreraginean ari den erabiltzaileak ziur esan dezake sistema iraganeko ikustaldi-historian soilik oinarritzen dela. Agian ez dira konturatzen algoritmoak beste faktore ugari ere barne hartzen dituela, hala nola, arakatzen ari diren eguneko ordua, plataformako gaur egungo joera-elementuak edo antzeko erabiltzaileen ikusteko ohiturak. Erabiltzaile baten eredu mentalaren eta azpian dagoen benetako AI logikaren arteko hutsune hori aurkitzea oso garrantzitsua da. Zehazki esaten digu zein informazio zehatz komunikatu behar diegun erabiltzaileei sistemaren eredu mental zehatzagoa eta sendoagoa eraikitzen laguntzeko. Hau, aldi berean, konfiantza sustatzeko oinarrizko urratsa da. Erabiltzaileek, maila altuan ere, AI batek bere ondorioetara edo gomendioetara nola iristen den ulertzen dutenean, litekeena da bere irteerak fidatzea eta bere funtzionalitatean fidatzea. AI Journey Mapping: Erabiltzaileen konfiantzan eta azalpenean sakondu Erabiltzailearen ibilbidea AI-ren funtzionalitate batekin zehatz-mehatz mapatuz, nahasmena, frustrazioa edo are mesfidantza sakona sortzen diren une zehatzei buruzko informazio eskerga lortzen dugu. Honek une kritikoak deskubritzen ditu non erabiltzailearen AI-ak funtzionatzen duenaren eredu mentalak bere benetako portaerarekin talka egiten duen. Demagun musika erreproduzitzeko zerbitzu bat: erabiltzailearen konfiantza behera egiten al da erreprodukzio-zerrendaren gomendio bat "ausazko" sentitzen denean, bere iraganeko entzuteko ohiturekin edo adierazitako lehentasunekin lotura nabaririk gabe? Hautematen den ausazkotasun hori erabiltzailearen zainketa adimendunaren itxaropenerako erronka zuzena da eta AIk bere gustua ulertzen duen promesa inplizitua hauste bat da. Era berean, argazkiak kudeatzeko aplikazio batean, erabiltzaileek frustrazio handia jasaten dute AI argazki-etiketatzeko eginbide batek koherentziaz familiako kide maite bat gaizki identifikatzen duenean? Errore hau akats tekniko bat baino gehiago da; zehaztasunaren, pertsonalizazioaren eta are gehiago jotzen dulotura emozionala. Min-puntu horiek seinale biziak dira, ondo kokatuta, argi eta zehatza den azalpena non beharrezkoa den adierazten dutenak. Azalpen horiek konponketa-mekanismo erabakigarri gisa balio dute, konfiantza-urraketa bat konpontzen dutenak, eta, bideratu gabe, erabiltzaileak uztea eragin dezake. AI bidaien mapak duen indarra AI sistema baten azken emaitza azaltzeaz gain gu mugitzeko gaitasunean datza. AI-ak sortutakoa ulertzea garrantzitsua den arren, askotan ez da nahikoa. Horren ordez, prozesu honek momentu kritikoetan prozesua azaltzera bideratzera behartzen gaitu. Honek zuzentzea esan nahi du:
Zergatik sortu zen irteera jakin bat: sarrerako datu zehatz batzuengatik izan zen? Arkitektura eredu jakin bat? Zer faktorek eragin zuten AIren erabakian: ezaugarri batzuk pisu handiagoa izan zuten? Nola iritsi zen AI-ak bere ondoriora: eskain al dezakegu bere barne funtzionamenduaren azalpen sinplifikatu eta analogo bat? Zer suposatu zuen AIak: Ba al zegoen erabiltzailearen asmoaren edo datuen ulermen inplizitua azaleratu behar zena? Zeintzuk diren AI-aren mugak: AI-ak egin ezin duena argi eta garbi jakinarazteak, edo zehaztasuna alda daitekeen non, itxaropen errealistak sortzen ditu.
AI bidaiaren mapak XAIren kontzeptu abstraktua UX praktikatzaileentzako marko praktiko eta akziogarri batean bihurtzen du. Azalgarritasunari buruzko eztabaida teorikoetatik haratago joan eta erabiltzaileen konfiantza jokoan dagoen une zehatzak zehaztea ahalbidetzen digu, ahalmen handikoak, gardenak, ulergarriak eta fidagarriak diren AI esperientziak eraikitzeko beharrezko ikuspegiak emanez. Azken finean, ikerketa da ezezagunak nola deskubritzen ditugun. Zure taldeak mailegu bat zergatik ukatu den nola azaldu eztabaidatzen ari da, baina ikerketek agerian utzi dezakete erabiltzaileak askoz gehiago arduratzen direla euren datuak lehenik nola erabili ziren ulertzeaz. Ikerketarik gabe, gure erabiltzaileek zer galdetzen duten asmatzen ari gara. Diseinuan lankidetzan (Zure AI nola azaldu) Ikerketak zer azaldu behar den identifikatu ondoren, diseinuarekin lankidetza-begizta hasten da. Diseinatzaileek lehen eztabaidatu ditugun ereduak prototipatu ditzakete —«Because» adierazpena, graduatzaile interaktiboak—, eta ikertzaileek diseinu horiek erabiltzaileen aurrean jar ditzakete eusten duten ikusteko. Erabilgarritasun eta ulermen-proba zuzenduak: XAI osagaiak zehazki probatzen dituzten ikerketa-azterketak diseina ditzakegu. Ez dugu galdetzen: "Erraza al da hau erabiltzeko?" Galdetzen dugu: "Hau ikusi ondoren, zure hitzekin esan al didazu zergatik gomendatzen duen sistemak produktu hau?" edo "Erakutsi iezadazu zer egingo zenukeen beste emaitza bat lortuko bazenu ikusteko". Honen helburua ulermena eta ekintza-gaitasuna neurtzea da, erabilgarritasunarekin batera. Konfiantza bera neurtzea: inkesta errazak eta balorazio-eskala erabil ditzakegu azalpen bat erakutsi aurretik eta ondoren. Adibidez, erabiltzaile bati 5 puntuko eskalan galdetu diezaiokegu: "Zenbat konfiantza duzu gomendio honekin?" "Zelako" adierazpena ikusi baino lehen, eta gero berriro galdetu. Honek datu kuantitatiboak eskaintzen ditu gure azalpenek konfiantzaren gainean mugitzen duten ala ez. Prozesu honek begizta indartsu eta iteratibo bat sortzen du. Ikerketaren emaitzek hasierako diseinua ematen dute. Diseinu hori probatu egiten da gero, eta aurkikuntza berriak diseinu-taldeari itzultzen zaizkio hobetu ditzan. Agian, "Zelako" adierazpena jergoegia zen, edo "Zer gertatuko balitz" graduatzailea ahalduntzea baino nahasgarriagoa zen. Elkarlanerako baliozkotze honen bidez, azken azalpenak teknikoki zehatzak, benetan ulergarriak, erabilgarriak eta produktua erabiltzen duten pertsonentzako konfiantza sortzen dutela ziurtatzen dugu. Goldilocks Azalpenaren Zona Kontuz hitz kritikoa: posible da gehiegi azaltzea. Maitagarrien ipuinean bezala, non Goldilocks-ek «zuzena» zen porridge bilatzen zuen, azalpen on baten helburua xehetasun kopuru egokia eskaintzea da, ez gehiegi eta ez gutxiegi. Erabiltzaile bat eredu bateko aldagai guztiekin bonbardatzeak gainkarga kognitiboa ekarriko du eta konfiantza gutxitu dezake. Helburua ez da erabiltzailea datu zientzialari bihurtzea. Irtenbide bat dibulgazio progresiboa da.
Hasi sinplearekin. Eraman "Zelako" adierazpen zehatz batekin. Erabiltzaile gehienentzat, nahikoa izango da. Xehetasunerako bidea eskaini. Eman lotura argia eta marruskadura baxua, adibidez, "Lortu informazio gehiago" edo "Ikusi nola zehaztu den". Konplexutasuna agerian utzi. Esteka horren atzean, graduatzaile interaktiboak, bistaratzeak edo faktore eragileen zerrenda zehatzagoa eskain dezakezu.
Geruzatutako ikuspegi honek erabiltzailearen arreta eta esperientzia errespetatzen ditu, kopuru egokia eskainizberen beharretarako informazioa. Imajina dezagun hainbat faktoreren arabera berokuntza optimoa gomendatzen duen etxeko gailu adimendun bat erabiltzen ari zarela. Hasi sinpletik: "Gaur egun, zure etxea 72 gradutan berotzen da, hau da, energia aurrezteko eta erosotasunerako tenperatura optimoa". Xehetasunerako bide bat eskaini: horren azpian, esteka edo botoi txiki bat: "Zergatik da 72 gradu optimoa?" Erakutsi konplexutasuna: esteka horretan klik eginez gero, pantaila berri bat ireki daiteke:
Kanpoko tenperaturaren, hezetasunaren eta nahiago duzun erosotasun mailaren graduatzaile interaktiboak, hauek gomendatutako tenperatura nola doitzen duten erakutsiz. Tenperatura desberdinetako energia-kontsumoaren bistaratzea. "Eguneko ordua", "Uneko kanpoko tenperatura", "Energiaren erabilera historikoa" eta "Okupazio-sentsoreak" bezalako faktoreen zerrenda.
Eraginkorra da XAI metodo anitz konbinatzea eta dibulgazio progresiboaren alde egiten duen Goldilocks Zone of Explanation eredu honek inplizituki hau bultzatzen du. Baliteke "Zelako" adierazpen sinple batekin has zaitezke (1. eredua) berehala ulertzeko, eta, ondoren, "Zer gertatuko balitz" interaktibo bat (2. eredua) edo "Push-and-Pull Ikuskizuna" (4. eredua) (4. eredua) erakusten duen "Gehiago ikasi" esteka bat eskain dezakezu esplorazio sakonagorako. Esate baterako, maileguak eskatzeko sistema batek hasiera batean ukatzeko arrazoi nagusia adierazi dezake (eginbidearen garrantzia), eta gero erabiltzaileari "Zer gertatuko balitz" tresna batekin elkarreragiteko aukera eman diezaioke bere diru-sarreren edo zorraren aldaketek emaitza nola aldatuko luketen ikusteko (kontrafaktualak), eta, azkenik, "Push-and-Pull" grafiko zehatza eman (balioan oinarritutako azalpen positibo eta negatiboen faktore guztiak ilustratzeko). Geruzatutako ikuspegi honi esker, erabiltzaileek behar duten xehetasun-maila atzi dezakete, behar dutenean, gainkarga kognitiboa saihestuz, gardentasun osoa emanez. Zein XAI tresna eta metodo erabili behar diren zehaztea UX ikerketa sakonaren funtzioa da batez ere. Eredu mentalaren elkarrizketak eta AI bidaiaren mapak funtsezkoak dira AIren ulermenarekin eta konfiantzarekin lotutako erabiltzailearen beharrak eta minak zehazteko. Eredu mentalaren elkarrizketek erabiltzaileek AIaren funtzionamenduari buruzko uste okerrak deskubritzen laguntzen dute, oinarrizko azalpenak behar diren eremuak adieraziz (adibidez, ezaugarrien garrantzia edo tokiko azalpenak). AI bidaia-mapaketak, berriz, nahasmen edo mesfidantza une kritikoak identifikatzen ditu AIarekin duen interakzioan, azalpen zehatzagoak edo interaktiboagoak (adibidez, kontrafaktualak edo balioetan oinarritutako azalpenak) onuragarrienak izango liratekeen konfiantza berregiteko eta agentzia emateko.
Azken finean, teknika bat aukeratzeko modurik onena erabiltzaileen ikerketak zure erabakiak gidatzen uztea da, diseinatzen dituzun azalpenek zuzenean erabiltzaileen benetako galderak eta kezkak zuzentzen dituztela ziurtatuz, xehetasun teknikoak beren kabuz eskaini beharrean. Arrazonamendu sakoneko agenteentzako XAI AI sistema berrienetako batzuek, arrazonamendu sakoneko agente gisa ezagutzen direnak, "pentsamendu-kate" esplizitua sortzen dute zeregin konplexu bakoitzerako. Ez dituzte iturriak soilik aipatzen; ondorio batera iristeko egin zuten bide logikoa, urratsez urrats, erakusten dute. Gardentasun honek testuinguru baliotsua eskaintzen duen arren, hainbat paragrafo hartzen dituen jolas-joko batek erabatekoa iruditu diezaioke zeregin bat betetzen saiatzen ari den erabiltzaileari. XAIren printzipioak, batez ere Goldilocks Zone of Explanation, zuzenean aplikatzen dira hemen. Bidaia zuzendu dezakegu, dibulgazio progresiboa erabiliz azken ondorioa eta pentsamendu prozesuaren urrats nabarmenena lehenik erakusteko. Erabiltzaileek, orduan, urrats anitzeko arrazoibide osoa eta zehatza ikusteko aukera dezakete logika bikoiztu edo gertaera zehatz bat aurkitu behar dutenean. Ikuspegi honek erabiltzailearen arreta errespetatzen du agentearen gardentasun osoa mantenduz. Hurrengo urratsak: Zure XAI Bidaia ahalduntzea Azalgarritasuna oinarrizko zutabea da AI produktu fidagarriak eta eraginkorrak eraikitzeko. Bere erakundean aldaketa hori bultzatu nahi duten praktikatzaile aurreratuentzat, bidaia diseinu ereduetatik haratago hedatzen da defentsan eta etengabeko ikaskuntzan. Zure ulermena eta aplikazio praktikoa sakontzeko, kontuan hartu baliabideak arakatzea IBM Research-en AI Explainability 360 (AIX360) tresna-kudea edo Google-ren What-If Tool, ereduen portaera eta azalpenak aztertzeko modu interaktiboak eskaintzen dituztenak. AI Arduratsuaren Foroa edo gizakian zentratutako AIan ardaztutako ikerketa talde espezifikoekin parte hartzeak informazio eta lankidetza aukera ezin hobeak eman ditzake. Azkenik, izan XAIren defendatzaile zure erakundearen barruan.Marko azalgarritasuna inbertsio estrategiko gisa. Demagun zure lidergo edo funtzio gurutzatuen taldeentzako aurkezpen labur bat: "XAIn inbertituz, konfiantza sortzeaz harago joango gara; erabiltzaileen adopzioa bizkortuko dugu, laguntza-kostuak murriztuko ditugu erabiltzaileei ulermena emanez eta arrisku etiko eta arauzko garrantzitsuak arinduko ditugu, alborapen potentzialak agerian utziz. Diseinu ona eta negozio adimenduna da".
Zure ahotsa, ulermen praktikoan oinarritua, funtsezkoa da AI kutxa beltzetik ateratzeko eta erabiltzaileekin lankidetzan aritzeko.
