Í síðasta verki mínu komumst við á grundvallarsannleikann: til þess að notendur geti tileinkað sér og treysti á gervigreind verða þeir að treysta því. Við töluðum um að traust væri margþætt smíði, byggt á skynjun á getu, velvild, heilindum og fyrirsjáanleika gervigreindar. En hvað gerist þegar gervigreind tekur ákvörðun sem gerir notanda ringlaðan, svekktan eða jafnvel særðan í sinni þöglu, algrímísku visku? Umsókn um veð er hafnað, uppáhaldslag er skyndilega fjarverandi á lagalista og hæfri ferilskrá er hafnað áður en maður sér það nokkurn tíma. Á þessum augnablikum eru hæfileikar og fyrirsjáanleiki í molum og velvild finnst heimur í burtu. Samtal okkar núna verður að þróast frá hvers vegna trausts yfir í hvernig gagnsæi. Svið útskýranlegs gervigreindar (XAI), sem einbeitir sér að því að þróa aðferðir til að gera gervigreind úttak skiljanlegt fyrir mönnum, hefur komið fram til að takast á við þetta, en það er oft sett fram sem eingöngu tæknileg áskorun fyrir gagnafræðinga. Ég held því fram að það sé mikilvæg hönnunaráskorun fyrir vörur sem treysta á gervigreind. Það er hlutverk okkar sem UX sérfræðingar að brúa bilið milli reiknirit ákvarðanatöku og mannlegs skilnings. Þessi grein veitir hagnýtar, framkvæmanlegar leiðbeiningar um hvernig á að rannsaka og hanna til skýringar. Við munum fara út fyrir tískuorðin og inn í mockups, þýða flókin XAI hugtök í áþreifanleg hönnunarmynstur sem þú getur byrjað að nota í dag. De-dularfullur XAI: Kjarnahugtök fyrir UX iðkendur XAI snýst um að svara spurningu notandans: "Af hverju?" Af hverju var mér sýnd þessi auglýsing? Af hverju er mælt með þessari mynd fyrir mig? Hvers vegna var beiðni minni hafnað? Hugsaðu um það sem gervigreind sem sýnir vinnu sína við stærðfræðivandamál. Án þess hefurðu bara svar og þú neyðist til að taka það á trú. Með því að sýna skrefin byggir þú upp skilning og traust. Þú gerir líka kleift að athuga og sannreyna vinnu þína af mönnum sem það hefur áhrif á. Eiginleika mikilvægi og gagnsæi Það eru ýmsar aðferðir sem við getum notað til að skýra eða útskýra hvað er að gerast með gervigreind. Þó að aðferðir séu allt frá því að veita alla rökfræði ákvörðunartrés til að búa til samantektir á náttúrulegu tungumáli af úttakinu, þá eru tvær af hagnýtustu og áhrifamestu tegundunum af upplýsingum sem UX sérfræðingar geta kynnt í upplifun mikilvægi eiginleika (mynd 1) og gagnvirkar upplýsingar. Þetta er oft einfalt fyrir notendur að skilja og það sem hönnuðir eiga að framkvæma.
Eiginleika mikilvægi Þessi skýringaraðferð svarar: „Hvað voru mikilvægustu þættirnir sem gervigreindin tók til greina? Þetta snýst um að bera kennsl á 2-3 efstu breyturnar sem höfðu mest áhrif á útkomuna. Það er fyrirsögnin, ekki öll sagan. Dæmi: Ímyndaðu þér gervigreind sem spáir fyrir um hvort viðskiptavinur muni hætta (hætta við þjónustu sína). Mikilvægi eiginleika gæti leitt í ljós að „fjöldi þjónustusímtala í síðasta mánuði“ og „nýlegar verðhækkanir“ voru tveir mikilvægustu þættirnir við að ákvarða hvort viðskiptavinur væri líklegur til að hætta.
Gagnsæi Þessi öfluga aðferð svarar: "Hvað þyrfti ég að breyta til að fá aðra niðurstöðu?" Þetta er mikilvægt vegna þess að það gefur notendum tilfinningu fyrir sjálfræði. Það breytir pirrandi „nei“ í aðgerðarhæft „ekki enn. Dæmi: Ímyndaðu þér lánsumsóknarkerfi sem notar gervigreind. Notanda er synjað um lán. Í stað þess að sjá bara „Umsókn hafnað“ myndi gagnstæða skýring einnig deila: „Ef lánstraust þitt væri 50 stigum hærra, eða ef skuldahlutfall þitt væri 10% lægra, hefði lánið þitt verið samþykkt. Þetta gefur Söru skýr og aðgerðalaus skref sem hún getur tekið til að hugsanlega fá lán í framtíðinni.
Notkun líkanagagna til að bæta skýringuna Þrátt fyrir að tæknilegar upplýsingar séu oft meðhöndlaðar af gagnafræðingum, þá er það gagnlegt fyrir UX iðkendur að vita að verkfæri eins og LIME (Local Interpretable Model-agnostic Explanations) sem útskýrir einstakar spár með því að nálgast líkanið á staðnum, og SHAP (SHapley Additive exPlanations) sem notar leikjafræðiaðferð til að útskýra þessar flóknar vélaraðferðir til að útskýra úttak úr hvers kyns aðferðum sem eru algengar. módel. Þessi bókasöfn hjálpa í raun að brjóta niður ákvörðun gervigreindar til að sýna hvaða aðföng voru áhrifamestu fyrir tiltekna niðurstöðu. Þegar það er gert á réttan hátt er hægt að nota gögnin sem liggja til grundvallar ákvörðun gervigreindartækis til að segja öfluga sögu. Við skulum ganga í gegnum mikilvægi eiginleika og gagnsæi og sýna hvernig hægt er að nýta gagnavísindin á bak við ákvörðunina til að auka upplifun notandans. Nú skulum viðhylja mikilvægi eiginleika með aðstoð staðbundinna skýringa (t.d. LIME) gagna: Þessi aðferð svarar: „Hvers vegna lagði gervigreindin fram þessar tilteknu tilmæli fyrir mig núna? Í stað almennrar útskýringar á því hvernig líkanið virkar gefur það markvissa ástæðu fyrir einu tilteknu tilviki. Það er persónulegt og samhengisbundið. Dæmi: Ímyndaðu þér gervigreind-knúið tónlistarráðgjafakerfi eins og Spotify. Staðbundin útskýring myndi svara: "Af hverju mælti kerfið með þessu tiltekna lagi eftir Adele fyrir þig núna?" Skýringin gæti verið: "Vegna þess að þú hlustaðir nýlega á nokkrar aðrar tilfinningaþrungnar ballöður og lög eftir kvenkyns söngvara."
Að lokum skulum við fjalla um gildismiðaðar skýringar (t.d. Shapley Additive Explanations (SHAP) gögn til skýringar á ákvörðun: Þetta er blæbrigðaríkari útgáfa af mikilvægi eiginleika sem svarar: "Hvernig ýtti hver þáttur ákvörðuninni á einn eða annan hátt?" Það hjálpar til við að sjá hvað skipti máli og hvort áhrif hans hafi verið jákvæð eða neikvæð. Dæmi: Ímyndaðu þér að banki noti gervigreindarlíkan til að ákveða hvort hann samþykki lánsumsókn.
Mikilvægi eiginleikar: Framleiðsla líkansins gæti sýnt að lánstraust umsækjanda, tekjur og skuldahlutfall voru mikilvægustu þættirnir í ákvörðun hans. Þetta svarar því sem skipti máli. Eiginleika mikilvægi með gildismiðuðum skýringum (SHAP): SHAP gildi myndu taka eiginleika mikilvægi frekar út frá þáttum líkansins.
Fyrir samþykkt lán gæti SHAP sýnt fram á að hátt lánshæfiseinkunn ýtti ákvörðuninni verulega í átt að samþykki (jákvæð áhrif), á meðan aðeins hærra skuldahlutfall en meðaltekjur dró hana aðeins í burtu (neikvæð áhrif), en ekki nóg til að neita láninu. Fyrir neitað lán gæti SHAP leitt í ljós að lágar tekjur og mikill fjöldi nýlegra lánafyrirspurna ýtti ákvörðuninni mjög í átt að afneitun, jafnvel þótt lánshæfiseinkunnin væri þokkaleg.
Þetta hjálpar lánafulltrúanum að útskýra fyrir umsækjanda umfram það sem talið var, hvernig hver þáttur stuðlaði að endanlegri „já“ eða „nei“ ákvörðun. Það er mikilvægt að viðurkenna að hæfileikinn til að gefa góðar skýringar byrjar oft miklu fyrr í þróunarferlinu. Gagnafræðingar og verkfræðingar gegna lykilhlutverki með því að skipuleggja líkön og gagnaleiðslur viljandi á þann hátt sem í eðli sínu styður skýringarhæfni, frekar en að reyna að festa það í sessi sem eftiráhugsun. Rannsóknar- og hönnunarteymi geta stuðlað að þessu með því að hefja snemma samtöl við gagnafræðinga og verkfræðinga um þarfir notenda fyrir skilning, stuðla að þróun skýringarmælinga og í sameiningu búa til frumgerðir til að tryggja að þær séu bæði nákvæmar og notendavænar. XAI og siðferðileg gervigreind: Upptaka hlutdrægni og ábyrgð Fyrir utan að byggja upp traust gegnir XAI mikilvægu hlutverki við að takast á við djúpstæðar siðferðilegar afleiðingar gervigreindar*, sérstaklega varðandi algrím. Útskýringartækni, eins og að greina SHAP gildi, geta leitt í ljós hvort ákvarðanir líkans séu óhóflega undir áhrifum frá viðkvæmum eiginleikum eins og kynþætti, kyni eða félagshagfræðilegri stöðu, jafnvel þótt þessir þættir hafi ekki beinlínis verið notaðir sem bein inntak. Til dæmis, ef lánasamþykkislíkan úthlutar stöðugt neikvæðum SHAP-gildum til umsækjenda frá ákveðinni lýðfræði, gefur það merki um hugsanlega hlutdrægni sem þarfnast rannsóknar, sem gerir teymum kleift að koma upp á yfirborðið og draga úr slíkum ósanngjörnum niðurstöðum. Kraftur XAI kemur einnig með möguleika á „útskýranlegum þvotti“. Rétt eins og „grænþvottur“ afvegaleiðir neytendur um umhverfishætti, þá getur skýringarþvottur átt sér stað þegar skýringar eru hannaðar til að hylja, frekar en að lýsa, vandkvæðum reiknirithegðun eða eðlislægri hlutdrægni. Þetta gæti birst sem of einfaldar útskýringar þar sem mikilvægum áhrifaþáttum er sleppt, eða skýringar sem ramma niður niðurstöður á beittan hátt þannig að þær virðast hlutlausari eða sanngjarnari en þær eru í raun og veru. Það undirstrikar siðferðilega ábyrgð UX sérfræðinga til að hanna skýringar sem eru raunverulega gagnsæjar og sannanlegar. UX sérfræðingar, í samvinnu við gagnafræðinga og siðfræðinga, bera mikilvæga ábyrgð á því að koma á framfæri hvers vegna ákvörðunar, og einnig takmarkanir og hugsanlegar hlutdrægni undirliggjandi gervigreindarlíkans. Þetta felur í sér að setja raunhæfar væntingar notenda um nákvæmni gervigreindar, greina hvar líkanið gæti verið minna áreiðanlegt og veita skýrar leiðir til úrræða eða endurgjöf þegar notendur skynja ósanngjarnar eða rangar niðurstöður. Að taka á þessu fyrirbyggjandiSiðferðileg vídd gerir okkur kleift að byggja gervigreindarkerfi sem eru sannarlega réttlát og áreiðanleg. Frá aðferðum til mockups: Hagnýt XAI hönnunarmynstur Að þekkja hugtökin er eitt; að hanna þá er annað. Svona getum við þýtt þessar XAI aðferðir yfir í leiðandi hönnunarmynstur. Mynstur 1: „Af því“ yfirlýsingin (fyrir mikilvægi eiginleika) Þetta er einfaldasta og oft áhrifaríkasta mynstrið. Þetta er bein, látlaus yfirlýsing sem sýnir aðalástæðuna fyrir aðgerð gervigreindar.
Heuristic: Vertu bein og hnitmiðuð. Leiða með áhrifamestu ástæðuna. Forðastu hrognamál hvað sem það kostar.
Dæmi: Ímyndaðu þér tónlistarstraumþjónustu. Í stað þess að kynna bara „Discover Weekly“ lagalista, bætirðu við lítilli línu af örriti. Lagamæling: „Velvet Morning“Vegna þess að þú hlustar á „The Fuzz“ og annað geðþekkt rokk.
Mynstur 2: „Hvað-ef“ gagnvirka (fyrir gagnsæi) Andstæður snúast í eðli sínu um valdeflingu. Besta leiðin til að tákna þá er með því að gefa notendum gagnvirk tæki til að kanna möguleika sjálfir. Þetta er fullkomið fyrir fjárhags-, heilsu- eða önnur markmiðsmiðuð forrit.
Heuristic: Gerðu skýringar gagnvirkar og styrkjandi. Leyfðu notendum að sjá orsök og afleiðingu vals þeirra.
Dæmi: Viðmót lánsumsóknar. Eftir afneitun, í stað blindgötu, fær notandinn tæki til að ákvarða hvernig ýmsar aðstæður (hvað-ef) gætu farið fram (Sjá mynd 1).
Mynstur 3: The Highlight Reel (fyrir staðbundnar skýringar) Þegar gervigreind framkvæmir aðgerð á innihaldi notanda (eins og að draga saman skjal eða bera kennsl á andlit á myndum), ætti skýringin að vera sjónrænt tengd við upprunann.
Heuristic: Notaðu sjónrænar vísbendingar eins og auðkenningu, útlínur eða athugasemdir til að tengja skýringuna beint við viðmótsþáttinn sem hún er að útskýra.
Dæmi: Gerð gervigreind tól sem tekur saman langar greinar. Samantektarpunktur af gervigreindum: Upphafsrannsóknir sýndu fram á markaðsgjá fyrir sjálfbærar vörur. Heimild í skjali: „... greining okkar á markaðsþróun á öðrum ársfjórðungi sýndi með óyggjandi hætti að enginn stór keppinautur þjónaði á áhrifaríkan hátt vistmeðvituðum neytendum, sem afhjúpaði umtalsvert markaðsbil fyrir sjálfbærar vörur...“
Mynstur 4: The Push-and-Pull Visual (fyrir gildismiðaðar skýringar) Fyrir flóknari ákvarðanir gætu notendur þurft að skilja samspil þátta. Einföld gagnasýn getur gert þetta skýrt án þess að vera yfirþyrmandi.
Heuristic: Notaðu einfaldar, litakóðaðar gagnamyndir (eins og súlurit) til að sýna þá þætti sem höfðu jákvæð og neikvæð áhrif á ákvörðun.
Dæmi: Gerð gervigreind sem skimar prófíl umsækjanda fyrir starf. Hvers vegna þessi umsækjandi er 75% samsvörun: Þættir sem ýta stiginu upp: 5+ ára reynslu af UX rannsóknarreynslu.
Að læra og nota þessi hönnunarmynstur í notendaviðmóti gervigreindarvörunnar þinnar mun hjálpa til við að auka skýringarhæfileikann. Þú getur líka notað viðbótartækni sem ég er ekki að fjalla ítarlega um hér. Þetta felur í sér eftirfarandi:
Útskýringar á náttúrulegu tungumáli: Að þýða tæknilega útkomu gervigreindar yfir á einfalt, samræðandi mannamál sem aðrir en sérfræðingar geta auðveldlega skilið. Samhengisskýringar: Með því að veita rökstuðning fyrir framleiðslu gervigreindar á tilteknu augnabliki og staðsetningu, er það mest viðeigandi fyrir verkefni notandans. Viðeigandi sjónmyndir: Notkun myndrita, línurita eða hitakorta til að sýna ákvarðanatökuferli gervigreindar, sem gerir flókin gögn leiðandi og auðveldara fyrir notendur að átta sig á þeim.
Athugasemd fyrir framenda: Að þýða þessar útskýranlegu úttak yfir í óaðfinnanlega notendaupplifun sýnir einnig sitt eigið sett af tæknilegum sjónarmiðum. Framhliðarframleiðendur glíma oft við API hönnun til að ná í skýringargögn á skilvirkan hátt og afleiðingar frammistöðu (eins og rauntíma myndun skýringa fyrir hvert notendaviðskipti) þurfa vandlega skipulagningu til að forðast leynd. Nokkur dæmi úr raunveruleikanum Delivery Defense UPS Capital UPS notar gervigreind til að úthluta „afhendingaröryggisstig“ á heimilisföng til að spá fyrir um líkurnar á því að pakka sé stolið. DeliveryDefense hugbúnaður þeirra greinir söguleg gögn um staðsetningu, tjónatíðni og aðra þætti. Ef heimilisfang er með lágt stig getur kerfið vísað pakkanum með fyrirbyggjandi hætti á öruggan UPS aðgangsstað, sem gefur skýringu á ákvörðuninni (t.d. „Pakka fluttur á öruggan stað vegna sögu um þjófnað“). Þetta kerfi sýnir hvernig XAI er hægt að nota til að draga úr áhættu og byggja upp traust viðskiptavina í gegnumgagnsæi. Sjálfstýrð farartæki Þessi ökutæki framtíðarinnar munu þurfa að nota XAI á áhrifaríkan hátt til að hjálpa ökutækjum sínum að taka öruggar, skýranlegar ákvarðanir. Þegar sjálfkeyrandi bíll bremsar skyndilega getur kerfið gefið rauntíma skýringu á aðgerðum sínum, til dæmis með því að bera kennsl á gangandi vegfaranda sem stígur inn á veginn. Þetta skiptir ekki aðeins sköpum fyrir þægindi og traust farþega heldur er það reglugerðarkrafa til að sanna öryggi og ábyrgð gervigreindarkerfisins. IBM Watson Health (og áskoranir þess) Þó að það sé oft nefnt sem almennt dæmi um gervigreind í heilbrigðisþjónustu, þá er það líka dýrmæt dæmi um mikilvægi XAI. Misheppnin í Watson fyrir krabbameinsfræðiverkefni sínu sýnir hvað getur farið úrskeiðis þegar skýringar eru ekki skýrar eða þegar undirliggjandi gögn eru hlutdræg eða ekki staðbundin. Ráðleggingar kerfisins voru stundum í ósamræmi við staðbundnar klínískar venjur vegna þess að þær voru byggðar á bandarískum leiðbeiningum. Þetta þjónar sem varúðarsaga um þörfina fyrir öfluga, samhengismeðvitaða útskýringu. Hlutverk UX rannsakanda: Að finna og sannreyna skýringar Hönnunarlausnir okkar eru aðeins árangursríkar ef þær taka á réttum notendaspurningum á réttum tíma. Skýring sem svarar spurningu sem notandinn hefur ekki er bara hávaði. Þetta er þar sem UX rannsóknir verða mikilvægur bandvefurinn í XAI stefnu, sem tryggir að við útskýrum hvað og hvernig það skiptir raunverulega máli fyrir notendur okkar. Hlutverk rannsakandans er tvíþætt: í fyrsta lagi að upplýsa stefnuna með því að greina hvar skýringa er þörf og í öðru lagi að sannreyna hönnunina sem skilar þessum skýringum. Upplýsa XAI stefnuna (hvað á að útskýra) Áður en við getum hannað eina skýringu verðum við að skilja andlegt líkan notandans af gervigreindarkerfinu. Hvað trúa þeir að það sé að gera? Hvar er bilið á milli skilnings þeirra og veruleika kerfisins? Þetta er grunnvinna UX rannsakanda. Mental Model Viðtöl: Taka upp skynjun notenda á gervigreindarkerfum Með djúpum, hálfskipulögðum viðtölum geta UX-iðkendur fengið ómetanlega innsýn í hvernig notendur skynja og skilja gervigreindarkerfi. Þessar lotur eru hannaðar til að hvetja notendur til að bókstaflega teikna eða lýsa innra „andlegu líkani“ sínu af því hvernig þeir telja að gervigreind virki. Þetta felur oft í sér að spyrja opinna spurninga sem hvetja notendur til að útskýra rökfræði kerfisins, inntak þess og úttak, svo og tengslin milli þessara þátta. Þessi viðtöl eru öflug vegna þess að þau leiða oft í ljós djúpstæðar ranghugmyndir og forsendur sem notendur hafa um gervigreind. Til dæmis gæti notandi sem hefur samskipti við meðmælavél haldið því fram að kerfið sé eingöngu byggt á fyrri skoðunarsögu þeirra. Þeir gera sér kannski ekki grein fyrir því að reikniritið felur einnig í sér fjölda annarra þátta, svo sem tíma dags sem þeir eru að vafra, núverandi atriði sem eru vinsæl á vettvangi eða jafnvel áhorfsvenjur svipaðra notenda. Það er afar mikilvægt að afhjúpa þetta bil á milli andlegs líkans notanda og raunverulegrar undirliggjandi gervigreindarrökfræði. Það segir okkur nákvæmlega hvaða sérstakar upplýsingar við þurfum að miðla til notenda til að hjálpa þeim að byggja upp nákvæmara og öflugra andlegt líkan af kerfinu. Þetta er aftur á móti grundvallarskref í að efla traust. Þegar notendur skilja, jafnvel á háu stigi, hvernig gervigreind kemst að niðurstöðum sínum eða ráðleggingum, eru þeir líklegri til að treysta framleiðendum þess og treysta á virkni þess. AI Journey Mapping: Djúp kafa í notendatraust og útskýringu Með því að kortleggja ferð notandans vandlega með gervigreindum eiginleika, fáum við ómetanlega innsýn í nákvæmlega augnablikin þar sem rugling, gremju eða jafnvel djúpt vantraust kemur fram. Þetta afhjúpar mikilvæg tímamót þar sem andlegt líkan notandans um hvernig gervigreindin starfar stangast á við raunverulega hegðun hans. Íhugaðu tónlistarstreymisþjónustu: Hrapar traust notandans þegar meðmæli um spilunarlista finnast „tilviljanakennd“, skortir ákveðna tengingu við fyrri hlustunarvenjur eða yfirlýstar óskir? Þetta skynjaða handahóf er bein áskorun við væntingar notandans um skynsamlega stjórnun og brot á óbeinu loforði um að gervigreind skilji smekk þeirra. Að sama skapi, í ljósmyndastjórnunarforriti, upplifa notendur verulega gremju þegar gervigreind ljósmyndamerkingareiginleiki ranggreinir stöðugt elskaðan fjölskyldumeðlim? Þessi villa er meira en tæknileg bilun; það slær inn í hjarta nákvæmni, sérsniðnar og jafnveltilfinningatengsl. Þessir sársaukapunktar eru skær merki sem gefa til kynna nákvæmlega hvar vel staðsett, skýr og hnitmiðuð skýring er nauðsynleg. Slíkar skýringar þjóna sem mikilvægar viðgerðaraðferðir og bæta trúnaðarbrest sem getur leitt til þess að notandi sé yfirgefinn ef ekki er brugðist við. Kraftur gervigreindar ferðakortlagningar liggur í getu þess til að færa okkur lengra en einfaldlega að útskýra lokaúttak gervigreindarkerfis. Þó að það sé mikilvægt að skilja hvað gervigreindin framleiddi er það oft ófullnægjandi. Þess í stað neyðir þetta ferli okkur til að einbeita okkur að því að útskýra ferlið á mikilvægum augnablikum. Þetta þýðir að taka á:
Hvers vegna tiltekið úttak var búið til: Var það vegna sérstakra inntaksgagna? Sérstakur fyrirmyndararkitektúr? Hvaða þættir höfðu áhrif á ákvörðun gervigreindar: Voru ákveðnir eiginleikar vegnir þyngra? Hvernig AI komst að niðurstöðu sinni: Getum við boðið einfaldaða, hliðstæða skýringu á innri starfsemi þess? Hvaða forsendur gerði gervigreindin: Var óbeinn skilningur á tilgangi notandans eða gögnum sem þarf að birta? Hverjar eru takmarkanir gervigreindarinnar: Að koma skýrt á framfæri því sem gervigreindin getur ekki gert, eða hvar nákvæmni þess gæti svikið, byggir upp raunhæfar væntingar.
Ferðakortlagning gervigreindar umbreytir hinu óhlutbundna hugmyndafræði XAI í hagnýtan, framkvæmanlegan ramma fyrir UX-iðkendur. Það gerir okkur kleift að fara út fyrir fræðilega umræðu um útskýranleika og í staðinn benda á nákvæmlega þau augnablik þar sem traust notenda er í húfi, sem veitir nauðsynlega innsýn til að byggja upp gervigreindarupplifun sem er öflug, gagnsæ, skiljanleg og áreiðanleg. Að lokum eru rannsóknir hvernig við afhjúpum hið óþekkta. Teymið þitt gæti verið að deila um hvernig eigi að útskýra hvers vegna láni var neitað, en rannsóknir gætu leitt í ljós að notendur hafa miklu meiri áhyggjur af því að skilja hvernig gögnin þeirra voru notuð í fyrsta lagi. Án rannsókna erum við einfaldlega að giska á hvað notendur okkar eru að spá. Samvinna um hönnunina (hvernig á að útskýra gervigreind þinn) Þegar rannsóknir hafa fundið hvað á að útskýra, hefst samstarfslykkjan með hönnun. Hönnuðir geta frumgerð af mynstrinum sem við ræddum áðan – „Af því“ yfirlýsingin, gagnvirku rennibrautirnar – og rannsakendur geta sett þá hönnun fyrir notendur til að sjá hvort þau standist. Markviss nothæfis- og skilningspróf: Við getum hannað rannsóknarrannsóknir sem prófa XAI hlutina sérstaklega. Við spyrjum ekki bara: "Er þetta auðvelt í notkun?" Við spyrjum: "Eftir að hafa séð þetta, geturðu sagt mér með þínum eigin orðum hvers vegna kerfið mælti með þessari vöru?" eða "Sýndu mér hvað þú myndir gera til að sjá hvort þú gætir fengið aðra niðurstöðu." Markmiðið hér er að mæla skilning og framkvæmanleika, samhliða notagildi. Að mæla traust sjálft: Við getum notað einfaldar kannanir og einkunnakvarða fyrir og eftir að skýring er sýnd. Til dæmis getum við spurt notanda á 5 punkta kvarða: "Hversu mikið treystir þú þessum tilmælum?" áður en þeir sjá „Af því“ yfirlýsinguna, og spyrjið þá aftur á eftir. Þetta veitir megindleg gögn um hvort skýringar okkar séu í raun að færa nálina á trausti. Þetta ferli skapar öfluga, endurtekna lykkju. Rannsóknarniðurstöður upplýsa upphaflega hönnunina. Sú hönnun er síðan prófuð og nýju niðurstöðurnar færðar til baka til hönnunarteymisins til betrumbóta. Kannski var „Af því“ yfirlýsingin of hrokafull, eða „Hvað-ef“ sleðann var meira ruglingsleg en styrkjandi. Með þessari samvinnu sannprófun tryggjum við að lokaskýringarnar séu tæknilega nákvæmar, raunverulega skiljanlegar, gagnlegar og byggi upp traust fyrir fólkið sem notar vöruna. The Goldilocks Zone Of Explanation Gagnrýnt orð til varúðar: það er hægt að útskýra of mikið. Eins og í ævintýrinu, þar sem Gulllokkar leitaði að grautnum sem var „alveg réttur“, er markmið góðrar skýringar að veita rétt magn af smáatriðum - ekki of mikið og ekki of lítið. Að sprengja notanda með hverri breytu í líkani mun leiða til vitrænnar ofhleðslu og getur í raun dregið úr trausti. Markmiðið er ekki að gera notandann að gagnafræðingi. Ein lausn er stigvaxandi upplýsingagjöf.
Byrjaðu á því einfalda. Leiddu með hnitmiðaðri „Af því“ yfirlýsingu. Fyrir flesta notendur mun þetta vera nóg. Bjóða leið að smáatriðum. Gefðu upp skýran, lítinn núningstengil eins og „Frekari upplýsingar“ eða „Sjáðu hvernig þetta var ákvarðað“. Sýndu flókið. Á bak við þann hlekk geturðu boðið upp á gagnvirku rennibrautina, sjónmyndirnar eða ítarlegri lista yfir þátta.
Þessi lagskiptu nálgun virðir athygli notenda og sérfræðiþekkingu og veitir bara rétt magnaf upplýsingum fyrir þarfir þeirra. Við skulum ímynda okkur að þú sért að nota snjallheimilistæki sem mælir með bestu upphitun út frá ýmsum þáttum. Byrjaðu á hinu einfalda: "Húsið þitt er nú hitað í 72 gráður, sem er ákjósanlegur hitastig fyrir orkusparnað og þægindi." Bjóða upp á leið að smáatriðum: Fyrir neðan það, lítill hlekkur eða hnappur: "Af hverju er 72 gráður ákjósanlegur?" Sýndu flókið: Með því að smella á þennan tengil gæti opnast nýr skjár sem sýnir:
Gagnvirkir rennibrautir fyrir útihitastig, rakastig og þægindastig sem þú vilt, sýna hvernig þeir stilla ráðlagðan hita. Sjónmynd af orkunotkun við mismunandi hitastig. Listi yfir áhrifaþætti eins og „Tími dags,“ „Núverandi útihitastig“, „Söguleg orkunotkun“ og „Nýtingarskynjarar“.
Það er áhrifaríkt að sameina margar XAI aðferðir og þetta útskýringarmynstur Goldilocks Zone of Explanation, sem talar fyrir stigvaxandi upplýsingagjöf, hvetur óbeint til þess. Þú gætir byrjað á einfaldri „Af því“ yfirlýsingu (Mynstur 1) til að skilja strax og síðan boðið upp á „Lærðu meira“ hlekk sem sýnir „Hvað-Ef“ gagnvirkt (Mynstur 2) eða „Push-and-Pull Visual“ (Mynstur 4) fyrir dýpri könnun. Til dæmis gæti lánsumsóknarkerfi upphaflega tilgreint aðalástæðuna fyrir afneitun (mikilvægi eiginleika), síðan leyft notandanum að hafa samskipti við „Hvað-Ef“ tól til að sjá hvernig breytingar á tekjum þeirra eða skuldum myndu breyta niðurstöðunni (gagnsæi), og að lokum, útvega ítarlegt „Push-and-Pull“ töflu (gildismiðuð skýring á öllum jákvæðum þáttum og neikvæðum framlögum) til að sýna alla jákvæða þætti og neikvæða. Þessi lagskiptu nálgun gerir notendum kleift að fá aðgang að því smáatriði sem þeir þurfa, þegar þeir þurfa á því að halda, og kemur í veg fyrir vitsmunalegt ofhleðslu en veitir samt alhliða gagnsæi. Að ákvarða hvaða XAI verkfæri og aðferðir á að nota er fyrst og fremst fall af ítarlegum UX rannsóknum. Hugarlíkönviðtöl og AI ferðakortlagning skipta sköpum til að finna þarfir notenda og sársaukapunkta sem tengjast AI skilningi og trausti. Hugarlíkanaviðtöl hjálpa til við að afhjúpa ranghugmyndir notenda um hvernig gervigreind virkar, og gefa til kynna svæði þar sem grundvallarskýringar (eins og mikilvægi eiginleika eða staðbundnar skýringar) er þörf. Ferðakortlagning gervigreindar greinir aftur á móti mikilvæg augnablik ruglings eða vantrausts á samskiptum notandans við gervigreindina og gefur til kynna hvar nákvæmari eða gagnvirkari skýringar (eins og gagnvirkar skýringar eða gildismiðaðar skýringar) væru hagstæðastar til að endurbyggja traust og veita umboðsmanni.
Á endanum er besta leiðin til að velja tækni að láta notendarannsóknir leiða ákvarðanir þínar og tryggja að skýringarnar sem þú hannar taki beint á raunverulegum spurningum og áhyggjum notenda, frekar en að bjóða einfaldlega upp á tæknilegar upplýsingar fyrir þeirra eigin sakir. XAI fyrir Deep Reasoning Agents Sum nýjustu gervigreindarkerfin, þekkt sem djúp rökhugsunarefni, framleiða skýra „hugsunarkeðju“ fyrir hvert flókið verkefni. Þeir vitna ekki eingöngu í heimildir; þeir sýna rökréttu skref-fyrir-skref leiðina sem þeir fóru til að komast að niðurstöðu. Þó að þetta gagnsæi veiti dýrmætt samhengi, getur leik fyrir leik sem spannar nokkrar málsgreinar verið yfirþyrmandi fyrir notanda sem einfaldlega reynir að klára verkefni. Meginreglur XAI, sérstaklega útskýringarsvæði gullloka, eiga beint við hér. Við getum stjórnað ferðalaginu með því að nota framsækna upplýsingagjöf til að sýna aðeins lokaniðurstöðuna og mikilvægasta skrefið í hugsunarferlinu fyrst. Notendur geta síðan valið að sjá alla, ítarlega, fjölþrepa rökstuðninginn þegar þeir þurfa að athuga rökfræðina eða finna ákveðna staðreynd. Þessi nálgun virðir athygli notenda á meðan hún varðveitir fullt gagnsæi umboðsmannsins. Næstu skref: Að styrkja XAI ferðina þína Útskýringarhæfni er grundvallarstoð til að byggja upp áreiðanlegar og árangursríkar gervigreindarvörur. Fyrir háþróaðan iðkanda sem vill knýja fram þessa breytingu innan fyrirtækis síns nær ferðin út fyrir hönnunarmynstur í málsvörn og stöðugt nám. Til að dýpka skilning þinn og hagnýtingu skaltu íhuga að kanna auðlindir eins og AI Explainability 360 (AIX360) verkfærasettið frá IBM Research eða What-If Tool Google, sem býður upp á gagnvirkar leiðir til að kanna hegðun og skýringar líkana. Að taka þátt í samfélögum eins og Responsible AI Forum eða tilteknum rannsóknarhópum sem einbeita sér að mannmiðuðum gervigreind getur veitt ómetanlega innsýn og samstarfstækifæri. Að lokum, vertu talsmaður XAI innan þinnar eigin stofnunar.Ramma skýringar sem stefnumótandi fjárfesting. Íhugaðu stutta kynningu til forystu þinnar eða þverfaglegra teyma: "Með því að fjárfesta í XAI förum við lengra en að byggja upp traust; við munum flýta fyrir upptöku notenda, draga úr stuðningskostnaði með því að styrkja notendur með skilningi og draga úr verulegri siðferðis- og reglugerðaráhættu með því að afhjúpa hugsanlega hlutdrægni. Þetta er góð hönnun og snjöll viðskipti."
Rödd þín, byggð á hagnýtum skilningi, skiptir sköpum til að koma gervigreind út úr svarta kassanum og inn í samstarf við notendur.
