Yn fy narn olaf, fe wnaethom sefydlu gwirionedd sylfaenol: er mwyn i ddefnyddwyr fabwysiadu a dibynnu ar AI, rhaid iddynt ymddiried ynddo. Buom yn siarad am ymddiriedaeth fel lluniad amlochrog, wedi'i adeiladu ar ganfyddiadau o Allu, Cymwynasgarwch, Uniondeb a Rhagweladwyedd AI. Ond beth sy'n digwydd pan fydd AI, yn ei ddoethineb tawel, algorithmig, yn gwneud penderfyniad sy'n gadael defnyddiwr yn ddryslyd, yn rhwystredig, neu hyd yn oed wedi'i frifo? Gwrthodir cais am forgais, mae hoff gân yn sydyn yn absennol o restr chwarae, a gwrthodir ailddechrau cymwys cyn i ddyn byth ei weld. Yn yr eiliadau hyn, mae gallu a rhagweladwyedd yn cael eu chwalu, ac mae caredigrwydd yn teimlo byd i ffwrdd. Mae'n rhaid i'n sgwrs yn awr esblygu o pam ymddiriedaeth i sut o dryloywder. Mae maes AI Esboniadwy (XAI), sy'n canolbwyntio ar ddatblygu dulliau i wneud allbynnau AI yn ddealladwy i fodau dynol, wedi dod i'r amlwg i fynd i'r afael â hyn, ond mae'n aml yn cael ei fframio fel her dechnegol yn unig i wyddonwyr data. Rwy'n dadlau ei bod yn her ddylunio hollbwysig i gynhyrchion sy'n dibynnu ar AI. Ein gwaith ni fel gweithwyr proffesiynol UX yw pontio'r bwlch rhwng gwneud penderfyniadau algorithmig a dealltwriaeth ddynol. Mae'r erthygl hon yn darparu canllawiau ymarferol y gellir eu gweithredu ar sut i ymchwilio a dylunio er mwyn egluro. Byddwn yn symud y tu hwnt i'r buzzwords ac i mewn i'r ffugiadau, gan drosi cysyniadau XAI cymhleth yn batrymau dylunio concrit y gallwch chi ddechrau eu defnyddio heddiw. Dad-ddirgelwch XAI: Cysyniadau Craidd ar gyfer Ymarferwyr UX Mae XAI yn ymwneud ag ateb cwestiwn y defnyddiwr: “Pam?” Pam dangoswyd yr hysbyseb hwn i mi? Pam mae'r ffilm hon yn cael ei hargymell i mi? Pam y cafodd fy nghais ei wrthod? Meddyliwch amdano fel yr AI yn dangos ei waith ar broblem mathemateg. Hebddo, dim ond ateb sydd gennych chi, ac fe'ch gorfodir i'w gymryd ar ffydd. Wrth ddangos y camau, rydych chi'n meithrin dealltwriaeth ac ymddiriedaeth. Rydych hefyd yn caniatáu i'ch gwaith gael ei wirio ddwywaith a'i ddilysu gan yr union bobl y mae'n effeithio arnynt. Pwysigrwydd Nodwedd A Gwrthffeithiol Mae yna nifer o dechnegau y gallwn eu defnyddio i egluro neu egluro beth sy'n digwydd gydag AI. Er bod dulliau’n amrywio o ddarparu holl resymeg coeden benderfyniadau i gynhyrchu crynodebau iaith naturiol o allbwn, dau o’r mathau mwyaf ymarferol ac effeithiol o wybodaeth y gall ymarferwyr UX eu cyflwyno i brofiad yw pwysigrwydd nodwedd (Ffigur 1) a gwrthffeithiol. Yn aml, y rhain yw'r rhai mwyaf syml i ddefnyddwyr eu deall a'r rhai y gellir eu gweithredu fwyaf i ddylunwyr eu gweithredu.
Pwysigrwydd Nodwedd Mae’r dull eglurdeb hwn yn ateb, “Beth oedd y ffactorau pwysicaf a ystyriwyd gan AI?” Mae'n ymwneud â nodi'r 2-3 newidyn uchaf a gafodd yr effaith fwyaf ar y canlyniad. Dyna’r pennawd, nid y stori gyfan. Enghraifft: Dychmygwch AI sy'n rhagweld a fydd cwsmer yn corddi (canslo eu gwasanaeth). Gallai pwysigrwydd nodwedd ddatgelu mai “nifer y galwadau cymorth yn ystod y mis diwethaf” a “chynnydd diweddar mewn prisiau” oedd y ddau ffactor pwysicaf wrth benderfynu a oedd cwsmer yn debygol o gorddi.
Gwrthffeithiol Mae’r dull pwerus hwn yn ateb, “Beth fyddai angen i mi ei newid i gael canlyniad gwahanol?” Mae hyn yn hollbwysig oherwydd ei fod yn rhoi synnwyr o asiantaeth i ddefnyddwyr. Mae’n trawsnewid “na” rhwystredig yn “ddim eto.” Enghraifft: Dychmygwch system cais am fenthyciad sy'n defnyddio AI. Gwrthodir benthyciad i ddefnyddiwr. Yn lle dim ond gweld “Gwrthodwyd y Cais,” byddai esboniad gwrthffeithiol hefyd yn rhannu, “Pe bai eich sgôr credyd 50 pwynt yn uwch, neu pe bai eich cymhareb dyled-i-incwm 10% yn is, byddai eich benthyciad wedi cael ei gymeradwyo.” Mae hyn yn rhoi camau clir y gall Sarah eu cymryd i gael benthyciad yn y dyfodol.
Defnyddio Data Enghreifftiol i Wella'r Esboniad Er bod manylion technegol yn aml yn cael eu trin gan wyddonwyr data, mae’n ddefnyddiol i ymarferwyr UX wybod bod offer fel LIME (Esboniadau agnostig Model Dehongladwy Lleol) sy’n esbonio rhagfynegiadau unigol trwy frasamcanu’r model yn lleol, a SHAP (SHapley Additive exPlanations) sy’n defnyddio dull theori gêm i egluro allbwn unrhyw fodel dysgu peirianyddol “pam y defnyddir y modelau hyn yn gyffredin” i echdynnu’r modelau dysgu peirianyddol hyn. Yn y bôn, mae'r llyfrgelloedd hyn yn helpu i chwalu penderfyniad AI i ddangos pa fewnbynnau oedd fwyaf dylanwadol ar gyfer canlyniad penodol. O'i wneud yn iawn, gellir defnyddio'r data sy'n sail i benderfyniad offeryn AI i adrodd stori bwerus. Gadewch i ni gerdded trwy bwysigrwydd nodweddion a gwrthffeithiol a dangos sut y gellir defnyddio'r wyddor data y tu ôl i'r penderfyniad i wella profiad y defnyddiwr. Nawr gadewch i nicwmpasu pwysigrwydd nodwedd gyda chymorth data Esboniadau Lleol (e.e., LIME): Mae’r dull hwn yn ateb, “Pam gwnaeth yr AI yr argymhelliad penodol hwn i mi, ar hyn o bryd?” Yn hytrach nag esboniad cyffredinol o sut mae'r model yn gweithio, mae'n rhoi rheswm penodol dros un enghraifft benodol. Mae'n bersonol ac yn gyd-destunol. Enghraifft: Dychmygwch system argymell cerddoriaeth wedi'i phweru gan AI fel Spotify. Byddai esboniad lleol yn ateb, “Pam wnaeth y system argymell y gân benodol hon gan Adele i chi ar hyn o bryd?” Efallai mai’r esboniad yw: “Oherwydd i chi wrando ar sawl baled emosiynol arall a chaneuon gan gantorion benywaidd yn ddiweddar.”
Yn olaf, gadewch i ni ymdrin â chynnwys data Esboniadau Seiliedig ar Werth (e.e. Shapley Ychwanegiadau Eglurhad (SHAP)) i esboniad o benderfyniad: Mae hon yn fersiwn fwy cynnil o bwysigrwydd nodwedd sy'n ateb, “Sut gwnaeth pob ffactor wthio'r penderfyniad un ffordd neu'r llall?” Mae'n helpu i ddelweddu beth oedd yn bwysig, ac a oedd ei ddylanwad yn gadarnhaol neu'n negyddol. Enghraifft: Dychmygwch fod banc yn defnyddio model AI i benderfynu a ddylid cymeradwyo cais am fenthyciad.
Pwysigrwydd Nodwedd: Gallai allbwn y model ddangos mai sgôr credyd, incwm, a chymhareb dyled-i-incwm yr ymgeisydd oedd y ffactorau pwysicaf yn ei benderfyniad. Mae hyn yn ateb yr hyn sy'n bwysig. Pwysigrwydd Nodwedd gydag Eglurhad yn Seiliedig ar Werth (SHAP): Byddai gwerthoedd SHAP yn cymryd pwysigrwydd nodweddion ymhellach yn seiliedig ar elfennau o'r model.
Ar gyfer benthyciad cymeradwy, gallai SHAP ddangos bod sgôr credyd uchel wedi gwthio’r penderfyniad yn sylweddol tuag at gymeradwyaeth (dylanwad cadarnhaol), tra bod cymhareb dyled-i-incwm ychydig yn uwch na’r cyfartaledd wedi’i dynnu ychydig i ffwrdd (dylanwad negyddol), ond dim digon i wadu’r benthyciad. Ar gyfer benthyciad wedi'i wrthod, gallai SHAP ddatgelu bod incwm isel a nifer uchel o ymholiadau credyd diweddar wedi gwthio'r penderfyniad yn gryf i wrthod, hyd yn oed os oedd y sgôr credyd yn weddus.
Mae hyn yn helpu’r swyddog benthyciadau i egluro i’r ymgeisydd y tu hwnt i’r hyn a ystyriwyd, sut y cyfrannodd pob ffactor at y penderfyniad terfynol “ie” neu “nac ydw”. Mae’n hanfodol cydnabod bod y gallu i roi esboniadau da yn aml yn dechrau’n llawer cynharach yn y cylch datblygu. Mae gwyddonwyr a pheirianwyr data yn chwarae rhan ganolog trwy strwythuro modelau a phiblinellau data yn fwriadol mewn ffyrdd sy'n cefnogi eglurdeb yn gynhenid, yn hytrach na cheisio ei atgyfnerthu fel ôl-ystyriaeth. Gall timau ymchwil a dylunio feithrin hyn trwy gychwyn sgyrsiau cynnar gyda gwyddonwyr data a pheirianwyr am anghenion defnyddwyr ar gyfer deall, cyfrannu at ddatblygu metrigau eglurdeb, a phrototeipio esboniadau ar y cyd i sicrhau eu bod yn gywir ac yn hawdd eu defnyddio. XAI Ac AI Moesegol: Dadbacio Tuedd A Chyfrifoldeb Y tu hwnt i feithrin ymddiriedaeth, mae XAI yn chwarae rhan hanfodol wrth fynd i'r afael â goblygiadau moesegol dwys AI*, yn enwedig o ran rhagfarn algorithmig. Gall technegau egluro, megis dadansoddi gwerthoedd SHAP, ddatgelu a yw penderfyniadau model yn cael eu dylanwadu’n anghymesur gan briodoleddau sensitif fel hil, rhyw, neu statws economaidd-gymdeithasol, hyd yn oed os na ddefnyddiwyd y ffactorau hyn yn benodol fel mewnbwn uniongyrchol. Er enghraifft, os yw model cymeradwyo benthyciad yn aseinio gwerthoedd SHAP negyddol yn gyson i ymgeiswyr o ddemograffeg benodol, mae'n arwydd o ragfarn bosibl y mae angen ymchwilio iddo, gan rymuso timau i wynebu a lliniaru canlyniadau annheg o'r fath. Mae pŵer XAI hefyd yn dod â'r potensial ar gyfer “golchi esboniadaeth.” Yn yr un modd ag y mae “gwthio gwyrdd” yn camarwain defnyddwyr ynghylch arferion amgylcheddol, gall golchi eglurdeb ddigwydd pan fydd esboniadau wedi'u cynllunio i guddio, yn hytrach na goleuo, ymddygiad algorithmig problemus neu ragfarnau cynhenid. Gallai hyn amlygu ei hun fel esboniadau gorsyml sy'n hepgor ffactorau dylanwadol hollbwysig, neu esboniadau sy'n fframio canlyniadau'n strategol i ymddangos yn fwy niwtral neu deg nag y maent mewn gwirionedd. Mae'n tanlinellu cyfrifoldeb moesegol ymarferwyr UX i ddylunio esboniadau sy'n wirioneddol dryloyw ac yn wiriadwy. Mae gan weithwyr proffesiynol UX, mewn cydweithrediad â gwyddonwyr data a moesegwyr, gyfrifoldeb hanfodol i gyfleu pam y gwneir penderfyniad, a hefyd cyfyngiadau a thueddiadau posibl y model AI sylfaenol. Mae hyn yn cynnwys gosod disgwyliadau defnyddwyr realistig ynghylch cywirdeb AI, nodi lle gallai’r model fod yn llai dibynadwy, a darparu sianeli clir ar gyfer troi atyn nhw neu adborth pan fydd defnyddwyr yn gweld canlyniadau annheg neu anghywir. Mynd i'r afael â'r rhain yn rhagweithiolbydd dimensiynau moesegol yn ein galluogi i adeiladu systemau AI sy'n wirioneddol gyfiawn a dibynadwy. O Ddulliau I Ffugluniau: Patrymau Dylunio Ymarferol XAI Mae gwybod y cysyniadau yn un peth; mae eu dylunio yn un arall. Dyma sut y gallwn drosi'r dulliau XAI hyn yn batrymau dylunio greddfol. Patrwm 1: Y Datganiad "Oherwydd" (Am Bwysigrwydd Nodwedd) Dyma'r patrwm symlaf a mwyaf effeithiol yn aml. Mae'n ddatganiad uniongyrchol, plaen sy'n dod i'r wyneb y prif reswm dros weithred AI.
Heuristig: Byddwch yn uniongyrchol ac yn gryno. Arwain gyda'r rheswm unigol mwyaf effeithiol. Osgoi jargon ar bob cyfrif.
Enghraifft: Dychmygwch wasanaeth ffrydio cerddoriaeth. Yn hytrach na chyflwyno rhestr chwarae “Darganfod Wythnosol” yn unig, rydych chi'n ychwanegu llinell fach o ficrocopi. Argymhelliad Cân: “Bore Felfed”Oherwydd eich bod chi'n gwrando ar “The Fuzz” a roc seicedelig arall.
Patrwm 2: Y Rhyngweithiol "Beth-Os" (ar gyfer Gwrthffeithiol) Mae gwrth-ffeithiol yn ei hanfod yn ymwneud â grymuso. Y ffordd orau i'w cynrychioli yw trwy roi offer rhyngweithiol i ddefnyddwyr archwilio posibiliadau eu hunain. Mae hyn yn berffaith ar gyfer cymwysiadau ariannol, iechyd neu eraill sy'n canolbwyntio ar nodau.
Hewristig: Gwneud esboniadau yn rhyngweithiol ac yn rymusol. Gadewch i ddefnyddwyr weld achos ac effaith eu dewisiadau.
Enghraifft: Rhyngwyneb cais am fenthyciad. Ar ôl gwadu, yn hytrach na diwedd marw, mae'r defnyddiwr yn cael offeryn i benderfynu sut y gallai gwahanol senarios (beth os) chwarae allan (Gweler Ffigur 1).
Patrwm 3: Y Rîl Uchafbwynt (Ar gyfer Esboniadau Lleol) Pan fydd AI yn cyflawni gweithred ar gynnwys defnyddiwr (fel crynhoi dogfen neu adnabod wynebau mewn lluniau), dylai'r esboniad gael ei gysylltu'n weledol â'r ffynhonnell.
Hewristig: Defnyddiwch giwiau gweledol fel amlygu, amlinelliadau, neu anodiadau i gysylltu'r esboniad yn uniongyrchol â'r elfen rhyngwyneb y mae'n ei hesbonio.
Enghraifft: Offeryn Deallusrwydd Artiffisial sy'n crynhoi erthyglau hir. Pwynt Cryno a Gynhyrchwyd gan AI:Dangosodd ymchwil gychwynnol fwlch yn y farchnad ar gyfer cynhyrchion cynaliadwy.Ffynhonnell yn y Ddogfen:“...dangosodd ein dadansoddiad Ch2 o dueddiadau'r farchnad yn derfynol nad oedd unrhyw gystadleuydd mawr yn gwasanaethu'r defnyddiwr eco-ymwybodol i bob pwrpas, gan ddatgelu bwlch sylweddol yn y farchnad ar gyfer cynhyrchion cynaliadwy...”
Patrwm 4: Y Weledol Gwthio a Thynnu (ar gyfer Esboniadau Seiliedig ar Werth) Ar gyfer penderfyniadau mwy cymhleth, efallai y bydd angen i ddefnyddwyr ddeall y cydadwaith rhwng ffactorau. Gall delweddu data syml wneud hyn yn glir heb fod yn llethol.
Hewristig: Defnyddiwch ddelweddau data syml â chodau lliw (fel siartiau bar) i ddangos y ffactorau a ddylanwadodd yn gadarnhaol ac yn negyddol ar benderfyniad.
Enghraifft: AI yn sgrinio proffil ymgeisydd ar gyfer swydd.Pam fod yr ymgeisydd hwn yn cyfateb i 75%:Ffactorau yn gwthio'r sgôr i fyny:5+ Mlynedd Profiad Ymchwil UXHwylus mewn PythonFfactorau yn gwthio'r sgôr i lawr:Dim profiad gyda B2B SaaS
Bydd dysgu a defnyddio'r patrymau dylunio hyn yn UX eich cynnyrch AI yn helpu i gynyddu'r esboniad. Gallwch hefyd ddefnyddio technegau ychwanegol nad wyf yn eu cwmpasu'n fanwl yma. Mae hyn yn cynnwys y canlynol:
Esboniadau iaith naturiol: Trosi allbwn technegol AI i iaith ddynol sgyrsiol syml y gall pobl nad ydynt yn arbenigwyr ei deall yn hawdd. Esboniadau cyd-destunol: Gan ddarparu sail resymegol ar gyfer allbwn AI ar yr eiliad a'r lleoliad penodol, mae'n fwyaf perthnasol i dasg y defnyddiwr. Delweddau perthnasol: Defnyddio siartiau, graffiau, neu fapiau gwres i gynrychioli proses gwneud penderfyniadau AI yn weledol, gan wneud data cymhleth yn reddfol ac yn haws i ddefnyddwyr ei ddeall.
Nodyn i'r Pen Blaen: Mae trosi'r allbynnau hyn o eglurhad yn brofiadau defnyddwyr di-dor hefyd yn cyflwyno ei set ei hun o ystyriaethau technegol. Mae datblygwyr pen blaen yn aml yn mynd i'r afael â dyluniad API i adalw data esboniadol yn effeithlon, ac mae angen cynllunio goblygiadau perfformiad (fel cynhyrchu esboniadau amser real ar gyfer pob rhyngweithio defnyddiwr) yn ofalus i osgoi hwyrni. Rhai Enghreifftiau o'r Byd Go Iawn Amddiffyniad Cyflenwi UPS Capital Mae UPS yn defnyddio AI i aseinio “sgôr hyder dosbarthu” i gyfeiriadau i ragweld y tebygolrwydd y bydd pecyn yn cael ei ddwyn. Mae eu meddalwedd DeliveryDefense yn dadansoddi data hanesyddol ar leoliad, amlder colledion, a ffactorau eraill. Os oes gan gyfeiriad sgôr isel, gall y system ailgyfeirio’r pecyn yn rhagweithiol i Bwynt Mynediad UPS diogel, gan roi esboniad am y penderfyniad (e.e., “Pecyn wedi’i ailgyfeirio i leoliad diogel oherwydd hanes o ddwyn”). Mae'r system hon yn dangos sut y gellir defnyddio XAI ar gyfer lliniaru risg a meithrin ymddiriedaeth cwsmeriaidtryloywder. Cerbydau Ymreolaethol Bydd angen i gerbydau'r dyfodol ddefnyddio XAI yn effeithiol i helpu eu cerbydau i wneud penderfyniadau diogel y gellir eu hesbonio. Pan fydd car hunan-yrru yn brecio'n sydyn, gall y system roi esboniad amser real am ei weithred, er enghraifft, trwy nodi cerddwr sy'n camu i'r ffordd. Mae hyn nid yn unig yn hanfodol ar gyfer cysur ac ymddiriedaeth teithwyr ond mae'n ofyniad rheoliadol i brofi diogelwch ac atebolrwydd y system AI. IBM Watson Health (a'i heriau) Er y caiff ei grybwyll yn aml fel enghraifft gyffredinol o AI mewn gofal iechyd, mae hefyd yn astudiaeth achos werthfawr o bwysigrwydd XAI. Mae methiant ei brosiect Watson for Oncoleg yn amlygu’r hyn a all fynd o’i le pan nad yw esboniadau’n glir, neu pan fo’r data sylfaenol yn rhagfarnllyd neu heb fod yn lleol. Roedd argymhellion y system weithiau’n anghyson ag arferion clinigol lleol oherwydd eu bod yn seiliedig ar ganllawiau sy’n canolbwyntio ar yr UD. Mae hyn yn rhoi rhybudd am yr angen am eglurdeb cadarn sy'n ymwybodol o'r cyd-destun. Swyddogaeth yr Ymchwilydd UX: Nodi a Dilysu Esboniadau Mae ein datrysiadau dylunio yn effeithiol dim ond os ydynt yn mynd i'r afael â'r cwestiynau defnyddiwr cywir ar yr amser cywir. Esboniad sy'n ateb cwestiwn nad oes gan y defnyddiwr yw sŵn yn unig. Dyma lle mae ymchwil UX yn dod yn feinwe gyswllt hanfodol mewn strategaeth XAI, gan sicrhau ein bod yn esbonio beth a sut mae hynny'n bwysig i'n defnyddwyr mewn gwirionedd. Mae rôl yr ymchwilydd yn ddeublyg: yn gyntaf, llywio’r strategaeth drwy nodi lle mae angen esboniadau, ac yn ail, dilysu’r dyluniadau sy’n cyflwyno’r esboniadau hynny. Hysbysu Strategaeth XAI (Beth i'w Egluro) Cyn y gallwn ddylunio un esboniad, rhaid inni ddeall model meddwl y defnyddiwr o'r system AI. Beth maen nhw'n credu mae'n ei wneud? Ble mae’r bylchau rhwng eu dealltwriaeth a realiti’r system? Dyma waith sylfaenol ymchwilydd UX. Cyfweliadau Model Meddyliol: Dadbacio Canfyddiadau Defnyddwyr O Systemau AI Trwy gyfweliadau dwfn, lled-strwythuredig, gall ymarferwyr UX gael mewnwelediadau amhrisiadwy i sut mae defnyddwyr yn canfod a deall systemau AI. Mae'r sesiynau hyn wedi'u cynllunio i annog defnyddwyr i luniadu neu ddisgrifio'n llythrennol eu “model meddwl” mewnol o sut maen nhw'n credu bod yr AI yn gweithio. Mae hyn yn aml yn golygu gofyn cwestiynau penagored sy'n annog defnyddwyr i egluro rhesymeg y system, ei mewnbynnau, a'i hallbynnau, yn ogystal â'r berthynas rhwng yr elfennau hyn. Mae'r cyfweliadau hyn yn bwerus oherwydd eu bod yn aml yn datgelu camsyniadau a thybiaethau dwys sydd gan ddefnyddwyr am AI. Er enghraifft, gallai defnyddiwr sy'n rhyngweithio â pheiriant argymell honni'n hyderus bod y system yn seiliedig ar eu hanes gwylio yn y gorffennol yn unig. Efallai na fyddant yn sylweddoli bod yr algorithm hefyd yn ymgorffori llu o ffactorau eraill, megis yr amser o'r dydd y maent yn pori, yr eitemau tueddiadau presennol ar draws y platfform, neu hyd yn oed arferion gwylio defnyddwyr tebyg. Mae datgelu'r bwlch hwn rhwng model meddwl defnyddiwr a'r rhesymeg AI sylfaenol wirioneddol yn hollbwysig. Mae'n dweud wrthym yn union pa wybodaeth benodol y mae angen i ni ei chyfleu i ddefnyddwyr i'w helpu i adeiladu model meddwl mwy cywir a chadarn o'r system. Mae hyn, yn ei dro, yn gam sylfaenol i feithrin ymddiriedaeth. Pan fydd defnyddwyr yn deall, hyd yn oed ar lefel uchel, sut mae AI yn dod i'w gasgliadau neu argymhellion, maent yn fwy tebygol o ymddiried yn ei allbynnau a dibynnu ar ei ymarferoldeb. Mapio Taith AI: Plymio'n Ddwfn i Ymddiriedaeth Defnyddiwr Ac Eglurhad Trwy fapio taith y defnyddiwr yn ofalus gyda nodwedd wedi'i phweru gan AI, rydym yn cael mewnwelediadau amhrisiadwy i'r union eiliadau lle mae dryswch, rhwystredigaeth, neu hyd yn oed ddiffyg ymddiriedaeth dwys yn dod i'r amlwg. Mae hyn yn datgelu pwyntiau tyngedfennol lle mae model meddyliol y defnyddiwr o sut mae'r AI yn gweithredu yn gwrthdaro â'i ymddygiad gwirioneddol. Ystyriwch wasanaeth ffrydio cerddoriaeth: A yw ymddiriedolaeth y defnyddiwr yn plymio pan fydd argymhelliad rhestr chwarae yn teimlo “ar hap,” heb unrhyw gysylltiad canfyddadwy â'u harferion gwrando yn y gorffennol neu'r hoffterau a nodwyd? Mae'r hap canfyddedig hwn yn her uniongyrchol i ddisgwyliad y defnyddiwr o guradu deallus ac yn torri'r addewid ymhlyg bod yr AI yn deall eu chwaeth. Yn yr un modd, mewn cymhwysiad rheoli lluniau, a yw defnyddwyr yn profi rhwystredigaeth sylweddol pan fydd nodwedd tagio lluniau AI yn cam-adnabod aelod o'r teulu yn gyson? Mae'r gwall hwn yn fwy na nam technegol; mae'n taro wrth wraidd cywirdeb, personoli, a hyd yn oedcysylltiad emosiynol. Mae'r pwyntiau poen hyn yn arwyddion byw sy'n nodi'n union lle mae angen esboniad clir a chryno mewn lleoliad da. Mae esboniadau o'r fath yn fecanweithiau atgyweirio hanfodol, gan atgyweirio tor-ymddiriedaeth a all, os na roddir sylw iddo, arwain at adael defnyddwyr. Mae pŵer mapio taith AI yn gorwedd yn ei allu i'n symud y tu hwnt i egluro allbwn terfynol system AI yn unig. Er ei bod yn bwysig deall yr hyn a gynhyrchwyd gan yr AI, mae'n aml yn annigonol. Yn lle hynny, mae'r broses hon yn ein gorfodi i ganolbwyntio ar esbonio'r broses ar adegau tyngedfennol. Mae hyn yn golygu mynd i'r afael â:
Pam y cynhyrchwyd allbwn penodol: Ai data mewnbwn penodol oedd hyn? Pensaernïaeth fodel benodol? Pa ffactorau a ddylanwadodd ar benderfyniad yr AI: A gafodd rhai nodweddion eu pwysoli’n drymach? Sut daeth yr AI i'w gasgliad: A allwn ni gynnig esboniad symlach, cyfatebol o'i waith mewnol? Pa ragdybiaethau a wnaeth yr AI: A oedd dealltwriaeth ymhlyg o fwriad y defnyddiwr neu ddata y mae angen eu hwynebu? Beth yw cyfyngiadau'r Mynegai Gwerthfawrogiad: Mae cyfathrebu'n glir yr hyn na all yr AI ei wneud, neu ymhle y gallai ei gywirdeb bylu, adeiladu disgwyliadau realistig.
Mae mapio taith AI yn trawsnewid cysyniad haniaethol XAI yn fframwaith ymarferol y gellir ei weithredu ar gyfer ymarferwyr UX. Mae'n ein galluogi i symud y tu hwnt i drafodaethau damcaniaethol ynghylch eglurdeb ac yn lle hynny nodi'r union eiliadau lle mae ymddiriedaeth defnyddwyr yn y fantol, gan ddarparu'r mewnwelediadau angenrheidiol i adeiladu profiadau AI sy'n bwerus, yn dryloyw, yn ddealladwy ac yn ddibynadwy. Yn y pen draw, ymchwil yw sut rydym yn datgelu'r pethau anhysbys. Efallai bod eich tîm yn trafod sut i esbonio pam y gwrthodwyd benthyciad, ond gallai ymchwil ddatgelu bod defnyddwyr yn poeni llawer mwy am ddeall sut y defnyddiwyd eu data yn y lle cyntaf. Heb ymchwil, rydym yn syml yn dyfalu beth mae ein defnyddwyr yn ei feddwl. Cydweithio ar y Dyluniad (Sut i Egluro Eich AI) Unwaith y bydd ymchwil wedi nodi beth i'w esbonio, mae'r ddolen gydweithredol gyda dyluniad yn dechrau. Gall dylunwyr brototeipio'r patrymau a drafodwyd gennym yn gynharach - y datganiad “Oherwydd”, y llithryddion rhyngweithiol - a gall ymchwilwyr roi'r dyluniadau hynny o flaen defnyddwyr i weld a ydynt yn dal i fyny. Profi Defnyddioldeb a Dealltwriaeth wedi'i Dargedu: Gallwn ddylunio astudiaethau ymchwil sy'n profi'r cydrannau XAI yn benodol. Nid ydym yn gofyn, “A yw hyn yn hawdd ei ddefnyddio?” Gofynnwn, “Ar ôl gweld hyn, a allwch ddweud wrthyf yn eich geiriau eich hun pam yr argymhellodd y system y cynnyrch hwn?” neu “Dangoswch i mi beth fyddech chi'n ei wneud i weld a allech chi gael canlyniad gwahanol.” Y nod yma yw mesur dealltwriaeth a gweithrediad, ochr yn ochr â defnyddioldeb. Mesur Ymddiried yn Ei Hun: Gallwn ddefnyddio arolygon syml a graddfeydd graddio cyn ac ar ôl i esboniad gael ei ddangos. Er enghraifft, gallwn ofyn i ddefnyddiwr ar raddfa 5 pwynt, “Faint ydych chi'n ymddiried yn yr argymhelliad hwn?” cyn iddynt weld y gosodiad “Oherwydd”, ac yna gofyn iddynt eto wedyn. Mae hwn yn darparu data meintiol ynghylch a yw ein hesboniadau mewn gwirionedd yn symud y nodwydd ar ymddiriedaeth. Mae'r broses hon yn creu dolen bwerus, ailadroddol. Mae canfyddiadau ymchwil yn llywio'r dyluniad cychwynnol. Yna caiff y dyluniad hwnnw ei brofi, a chaiff y canfyddiadau newydd eu bwydo'n ôl i'r tîm dylunio i'w mireinio. Efallai bod y datganiad “Oherwydd” yn rhy jargony, neu fod y llithrydd “Beth-Os” yn fwy dryslyd na grymuso. Trwy'r dilysu cydweithredol hwn, rydym yn sicrhau bod yr esboniadau terfynol yn dechnegol gywir, yn wirioneddol ddealladwy, yn ddefnyddiol, ac yn meithrin ymddiriedaeth ar gyfer y bobl sy'n defnyddio'r cynnyrch. Parth Elen Benfelen Gair beirniadol o rybudd: mae'n bosibl gor-esbonio. Fel yn y stori dylwyth teg, lle ceisiodd Elen Benfelen yr uwd a oedd yn ‘iawn’, nod esboniad da yw darparu’r manylder cywir—dim gormod a dim rhy ychydig. Bydd bomio defnyddiwr gyda phob newidyn mewn model yn arwain at orlwytho gwybyddol a gall mewn gwirionedd leihau ymddiriedaeth. Nid gwneud y defnyddiwr yn wyddonydd data yw'r nod. Un ateb yw datgelu blaengar.
Dechreuwch gyda'r syml. Arwain gyda datganiad cryno “Oherwydd”. Ar gyfer y rhan fwyaf o ddefnyddwyr, bydd hyn yn ddigon. Cynigiwch lwybr i fanylion. Darparwch ddolen glir, ffrithiant isel fel “Dysgu Mwy” neu “Gweld sut y penderfynwyd ar hyn.” Datgelwch y cymhlethdod. Y tu ôl i'r ddolen honno, gallwch gynnig y llithryddion rhyngweithiol, y delweddiadau, neu restr fanylach o'r ffactorau sy'n cyfrannu.
Mae'r dull haenog hwn yn parchu sylw ac arbenigedd defnyddwyr, gan ddarparu'r swm cywir yn uniggwybodaeth ar gyfer eu hanghenion. Gadewch i ni ddychmygu eich bod chi'n defnyddio dyfais cartref glyfar sy'n argymell y gwresogi gorau posibl yn seiliedig ar amrywiol ffactorau. Dechreuwch gyda'r syml: “Ar hyn o bryd mae eich cartref yn cael ei gynhesu i 72 gradd, sef y tymheredd gorau posibl ar gyfer arbed ynni a chysur.” Cynigiwch lwybr i fanylion: O dan hynny, mae dolen neu fotwm bach: “Pam fod 72 gradd yn optimaidd?” Datgelwch y cymhlethdod: Gallai clicio ar y ddolen honno agor sgrin newydd yn dangos:
Llithryddion rhyngweithiol ar gyfer tymheredd y tu allan, lleithder, a'ch lefel cysur dewisol, gan ddangos sut mae'r rhain yn addasu'r tymheredd a argymhellir. Delwedd o'r defnydd o ynni ar wahanol dymereddau. Rhestr o ffactorau sy'n cyfrannu fel "Amser o'r dydd," "Tymheredd y tu allan ar hyn o bryd," "Defnydd ynni hanesyddol," a "Synwyryddion deiliadaeth."
Mae'n effeithiol cyfuno dulliau XAI lluosog ac mae'r patrwm Parth Eglurhad Elen Benfelen hwn, sy'n eiriol dros ddatgeliad cynyddol, yn annog hyn yn ymhlyg. Efallai y byddwch chi'n dechrau gyda datganiad syml “Oherwydd” (Patrwm 1) i'w ddeall ar unwaith, ac yna'n cynnig dolen “Dysgu Mwy” sy'n datgelu “Beth-Os” Rhyngweithiol (Patrwm 2) neu “Gweledol Gwthio a Thynnu” (Patrwm 4) i'w harchwilio'n ddyfnach. Er enghraifft, gallai system gwneud cais am fenthyciad nodi’r prif reswm dros wadu i ddechrau (pwysigrwydd nodwedd), yna caniatáu i’r defnyddiwr ryngweithio ag offeryn “Beth-Os” i weld sut y byddai newidiadau i’w hincwm neu ddyled yn newid y canlyniad (gwrthffeithiol), ac yn olaf, darparu siart “Gwthio a Thynnu” manwl (esboniad yn seiliedig ar werth) i ddangos cyfraniadau cadarnhaol a negyddol yr holl ffactorau. Mae'r dull haenog hwn yn caniatáu i ddefnyddwyr gael mynediad at y lefel o fanylder sydd ei angen arnynt, pan fydd ei angen arnynt, gan atal gorlwytho gwybyddol wrth barhau i ddarparu tryloywder cynhwysfawr. Mae penderfynu pa offer a dulliau XAI i'w defnyddio yn bennaf yn swyddogaeth ymchwil trylwyr UX. Mae cyfweliadau model meddwl a mapio taith AI yn hanfodol ar gyfer nodi anghenion defnyddwyr a phwyntiau poen sy'n gysylltiedig â dealltwriaeth ac ymddiriedaeth AI. Mae cyfweliadau model meddwl yn helpu i ddatgelu camsyniadau defnyddwyr am sut mae'r AI yn gweithio, gan nodi meysydd lle mae angen esboniadau sylfaenol (fel pwysigrwydd nodwedd neu esboniadau lleol). Mae mapio taith AI, ar y llaw arall, yn nodi eiliadau tyngedfennol o ddryswch neu ddiffyg ymddiriedaeth yn rhyngweithio’r defnyddiwr â’r AI, gan nodi lle byddai esboniadau mwy gronynnog neu ryngweithiol (fel gwrthffeithiol neu esboniadau ar sail gwerth) o’r budd mwyaf i ailadeiladu ymddiriedaeth a darparu asiantaeth.
Yn y pen draw, y ffordd orau o ddewis techneg yw gadael i ymchwil defnyddwyr arwain eich penderfyniadau, gan sicrhau bod yr esboniadau a ddyluniwyd gennych yn mynd i'r afael yn uniongyrchol â chwestiynau a phryderon defnyddwyr gwirioneddol, yn hytrach na chynnig manylion technegol er eu mwyn eu hunain yn unig. XAI ar gyfer Asiantau Rhesymu Dwfn Mae rhai o'r systemau AI mwyaf newydd, a elwir yn asiantau rhesymu dwfn, yn cynhyrchu “cadwyn o feddwl” penodol ar gyfer pob tasg gymhleth. Nid dyfynnu ffynonellau yn unig y maent; maent yn dangos y llwybr rhesymegol, cam wrth gam a gymerwyd ganddynt i ddod i gasgliad. Er bod y tryloywder hwn yn darparu cyd-destun gwerthfawr, gall chwarae-wrth-chwarae sy'n rhychwantu sawl paragraff deimlo'n llethol i ddefnyddiwr sy'n ceisio cwblhau tasg yn unig. Mae egwyddorion XAI, yn enwedig Parth Eglurhad Elen Benfelen, yn berthnasol yn uniongyrchol yma. Gallwn guradu’r daith, gan ddefnyddio datgeliad blaengar i ddangos dim ond y casgliad terfynol a’r cam mwyaf amlwg yn y broses feddwl yn gyntaf. Yna gall defnyddwyr optio i mewn i weld y rhesymu llawn, manwl, aml-gam pan fydd angen iddynt wirio'r rhesymeg ddwywaith neu ddod o hyd i ffaith benodol. Mae'r dull hwn yn parchu sylw defnyddwyr tra'n cadw tryloywder llawn yr asiant. Y Camau Nesaf: Grymuso Eich Taith XAI Mae eglurdeb yn biler sylfaenol ar gyfer adeiladu cynhyrchion AI dibynadwy ac effeithiol. Ar gyfer yr uwch-ymarferydd sydd am ysgogi’r newid hwn o fewn eu sefydliad, mae’r daith yn ymestyn y tu hwnt i batrymau dylunio i eiriolaeth a dysgu parhaus. Er mwyn dyfnhau eich dealltwriaeth a'ch cymhwysiad ymarferol, ystyriwch archwilio adnoddau fel pecyn cymorth AI Esbonio 360 (AIX360) gan IBM Research neu Offeryn Beth-Os Google, sy'n cynnig ffyrdd rhyngweithiol o archwilio ymddygiad enghreifftiol ac esboniadau. Gall ymgysylltu â chymunedau fel y Fforwm AI Cyfrifol neu grwpiau ymchwil penodol sy'n canolbwyntio ar AI sy'n canolbwyntio ar bobl ddarparu mewnwelediadau amhrisiadwy a chyfleoedd cydweithredu. Yn olaf, byddwch yn eiriolwr ar gyfer XAI yn eich sefydliad eich hun.Eglurhad mewn ffrâm fel buddsoddiad strategol. Ystyriwch gyflwyniad byr i'ch timau arweinyddiaeth neu draws-swyddogaethol: “Trwy fuddsoddi yn XAI, byddwn yn mynd y tu hwnt i feithrin ymddiriedaeth; byddwn yn cyflymu mabwysiadu defnyddwyr, yn lleihau costau cymorth trwy rymuso defnyddwyr â dealltwriaeth, ac yn lliniaru risgiau moesegol a rheoleiddiol sylweddol trwy amlygu rhagfarnau posibl. Mae hyn yn ddyluniad da ac yn fusnes craff.”
Mae eich llais, wedi'i seilio ar ddealltwriaeth ymarferol, yn hanfodol i ddod â AI allan o'r blwch du ac i bartneriaeth gydweithredol â defnyddwyr.
