Ninu nkan ti o kẹhin mi, a ṣe agbekalẹ otitọ ipilẹ kan: fun awọn olumulo lati gba ati gbekele AI, wọn gbọdọ gbẹkẹle. A sọrọ nipa igbẹkẹle jẹ itumọ ti ọpọlọpọ, ti a ṣe lori awọn iwoye ti Agbara AI, Oore, Iduroṣinṣin, ati Asọtẹlẹ. Ṣugbọn kini o ṣẹlẹ nigbati AI, ni ipalọlọ rẹ, ọgbọn algorithmic, ṣe ipinnu ti o fi olumulo kan silẹ ni idamu, ibanujẹ, tabi paapaa ipalara? A kọ ohun elo yá, orin ayanfẹ kan ko si lojiji lati inu akojọ orin kan, ati pe a kọ iwe-aṣẹ ti o peye ṣaaju ki eniyan to rii. Ni awọn akoko wọnyi, agbara ati asọtẹlẹ ti bajẹ, ati oore rilara aye kan kuro. Ibaraẹnisọrọ wa ni bayi gbọdọ wa lati idi ti igbẹkẹle si bii ti akoyawo. Aaye ti Explainable AI (XAI), eyiti o fojusi lori awọn ọna idagbasoke lati jẹ ki awọn abajade AI ni oye si eniyan, ti farahan lati koju eyi, ṣugbọn o nigbagbogbo ni ipilẹ bi ipenija imọ-ẹrọ mimọ fun awọn onimọ-jinlẹ data. Mo jiyan pe o jẹ ipenija apẹrẹ pataki fun awọn ọja ti o gbẹkẹle AI. O jẹ iṣẹ wa bi awọn alamọja UX lati di aafo laarin ṣiṣe ipinnu algorithmic ati oye eniyan. Nkan yii n pese iwulo, itọsọna ṣiṣe lori bi o ṣe le ṣe iwadii ati apẹrẹ fun alaye. A yoo lọ kọja awọn buzzwords ati sinu awọn ẹgan, titumọ awọn imọran XAI eka sinu awọn ilana apẹrẹ nja ti o le bẹrẹ lilo loni. De-mystifying XAI: Awọn imọran Koko Fun Awọn oṣiṣẹ UX XAI jẹ nipa idahun ibeere olumulo: “Kilode?” Kini idi ti mo fi han ipolowo yii? Kini idi ti fiimu yii ṣe iṣeduro fun mi? Kini idi ti a fi kọ ibeere mi? Ronu nipa rẹ bi AI ṣe afihan iṣẹ rẹ lori iṣoro iṣiro. Laisi rẹ, o kan ni idahun, ati pe o fi agbara mu lati mu lori igbagbọ. Ni fifi awọn igbesẹ han, o kọ oye ati igbẹkẹle. O tun gba laaye fun iṣẹ rẹ lati ṣayẹwo lẹẹmeji ati rii daju nipasẹ awọn eniyan ti o ni ipa. Pataki ẹya-ara Ati Counterfactuals Awọn ilana pupọ wa ti a le lo lati ṣalaye tabi ṣalaye ohun ti n ṣẹlẹ pẹlu AI. Lakoko ti awọn ọna wa lati pese gbogbo ọgbọn ti igi ipinnu lati ṣe ipilẹṣẹ awọn akopọ ede adayeba ti iṣelọpọ, meji ninu awọn iru alaye ti o wulo julọ ati ti o ni ipa ti awọn oṣiṣẹ UX le ṣafihan sinu iriri jẹ pataki ẹya (Nọmba 1) ati awọn atako. Iwọnyi nigbagbogbo jẹ taara taara fun awọn olumulo lati loye ati iṣẹ ṣiṣe julọ fun awọn apẹẹrẹ lati ṣe.
Pataki Ẹya Ọna asọye yii dahun, “Kini awọn nkan pataki julọ ti AI gbero?” O jẹ nipa idamo awọn oniyipada 2-3 oke ti o ni ipa ti o tobi julọ lori abajade. O jẹ akọle, kii ṣe gbogbo itan. Apeere: Fojuinu AI kan ti o sọ asọtẹlẹ boya alabara kan yoo fagi (fagile iṣẹ wọn). Pataki ẹya le ṣafihan pe “nọmba awọn ipe atilẹyin ni oṣu to kọja” ati “awọn alekun idiyele aipẹ” jẹ awọn ifosiwewe meji pataki julọ ni ṣiṣe ipinnu boya alabara kan le ṣagbe.
Counterfactuals Ọna ti o lagbara yii dahun, “Kini MO nilo lati yipada lati gba abajade ti o yatọ?” Eyi ṣe pataki nitori pe o fun awọn olumulo ni oye ti ibẹwẹ. Ó yí “Bẹ́ẹ̀ kọ́” ìbànújẹ́ sí ohun tí ó lè ṣe “kò tíì sí.” Apeere: Fojuinu eto ohun elo awin ti o nlo AI. A kọ awin kan olumulo kan. Dipo ki o kan rii “Ohun elo Ti kọ,” alaye atako yoo tun pin, “Ti Dimegilio kirẹditi rẹ ba jẹ awọn aaye 50 ti o ga julọ, tabi ti ipin gbese-si-owo oya rẹ jẹ 10% kekere, awin rẹ yoo ti fọwọsi.” Eyi fun Sarah ni gbangba, awọn igbesẹ iṣe ti o le ṣe lati gba awin ni ọjọ iwaju.
Lilo Data Awoṣe Lati Mu Alaye naa dara sii Botilẹjẹpe awọn pato imọ-ẹrọ nigbagbogbo ni itọju nipasẹ awọn onimọ-jinlẹ data, o ṣe iranlọwọ fun awọn oṣiṣẹ UX lati mọ pe awọn irinṣẹ bii LIME (Awọn alaye Itumọ Agbekale Agbekale-agnostic) eyiti o ṣalaye awọn asọtẹlẹ ẹni kọọkan nipa isunmọ awoṣe ni agbegbe, ati SHAP (Shapley Additive ExPlanations) eyiti o lo ọna ilana ilana ere lati ṣe alaye abajade ti eyikeyi ikẹkọ ẹrọ wọnyi lati fa jade awọn awoṣe ti o wọpọ lati kọ ẹkọ ti ẹrọ wọnyi. Awọn ile-ikawe wọnyi ni pataki ṣe iranlọwọ lati fọ ipinnu AI kan lati ṣafihan iru awọn igbewọle ti o ni ipa julọ fun abajade ti a fifun. Nigbati o ba ṣe daradara, data ti o wa labẹ ipinnu ọpa AI le ṣee lo lati sọ itan ti o lagbara. Jẹ ki a rin nipasẹ pataki ẹya ati awọn atako ati ṣafihan bii imọ-jinlẹ data lẹhin ipinnu le ṣe lo lati jẹki iriri olumulo. Bayi jẹ kipataki ẹya-ara ideri pẹlu iranlọwọ ti data Awọn alaye Agbegbe (fun apẹẹrẹ, LIME): Ọna yii dahun, “Kini idi ti AI ṣe iṣeduro pataki yii fun mi, ni bayi?” Dipo alaye gbogbogbo ti bii awoṣe ṣe n ṣiṣẹ, o pese idi idojukọ kan, apẹẹrẹ kan pato. O jẹ ti ara ẹni ati ọrọ-ọrọ. Apeere: Fojuinu eto iṣeduro orin ti o ni agbara AI bi Spotify. Alaye agbegbe kan yoo dahun, “Kini idi ti eto naa ṣeduro orin pataki yii nipasẹ Adele si ọ ni bayi?” Àlàyé náà lè jẹ́: “Nítorí pé láìpẹ́ sẹ́yìn tí o ti fetí sí ọ̀pọ̀ àwọn orin ìmí ẹ̀dùn àti orin tí àwọn obìnrin ń kọrin.”
Nikẹhin, jẹ ki a bo ifisi ti Awọn alaye ti o da lori iye (fun apẹẹrẹ Shapley Additive Explanations (SHAP) si alaye ti ipinnu kan: Eyi jẹ ẹya ti o yatọ diẹ sii ti pataki ẹya ti o dahun, “Bawo ni ifosiwewe kọọkan ṣe Titari ipinnu ni ọna kan tabi ekeji?” O ṣe iranlọwọ wo ohun ti o ṣe pataki, ati boya ipa rẹ jẹ rere tabi odi. Apeere: Fojuinu pe banki kan nlo awoṣe AI lati pinnu boya lati fọwọsi ohun elo awin kan.
Pataki Ẹya: Ijade awoṣe le fihan pe Dimegilio kirẹditi olubẹwẹ, owo-wiwọle, ati ipin gbese-si-owo oya jẹ awọn ifosiwewe pataki julọ ninu ipinnu rẹ. Eyi dahun ohun ti o ṣe pataki. Pataki Ẹya pẹlu Awọn alaye Ipilẹ-Iye (SHAP): Awọn iye SHAP yoo gba pataki ẹya siwaju da lori awọn eroja ti awoṣe.
Fun awin ti a fọwọsi, SHAP le fihan pe Dimegilio kirẹditi giga kan ni pataki titari ipinnu si ifọwọsi (ipa rere), lakoko ti o ga ju iwọn-gbese-si-owo oya ti o ga ju-apapọ ti fa diẹ kuro (ipa odi), ṣugbọn ko to lati kọ awin naa. Fun awin ti a kọ, SHAP le ṣafihan pe owo-wiwọle kekere ati nọmba giga ti awọn ibeere kirẹditi aipẹ ti ta ipinnu naa ni agbara si kiko, paapaa ti Dimegilio kirẹditi jẹ bojumu.
Eyi ṣe iranlọwọ fun oṣiṣẹ awin naa ṣe alaye fun olubẹwẹ ju ohun ti a gbero, si bii ipin kọọkan ṣe ṣe alabapin si ipinnu “bẹẹni” tabi “Bẹẹkọ” ipari. O ṣe pataki lati ṣe akiyesi pe agbara lati pese awọn alaye to dara nigbagbogbo n bẹrẹ pupọ ni iṣaaju ninu ọmọ idagbasoke. Awọn onimọ-jinlẹ data ati awọn onimọ-ẹrọ ṣe ipa pataki kan nipasẹ imomose igbekalẹ awọn awoṣe ati awọn opo gigun ti data ni awọn ọna ti o ṣe atilẹyin alaye lainidii, dipo ki o gbiyanju lati bolẹ bi ironu lẹhin. Iwadi ati awọn ẹgbẹ apẹrẹ le ṣe agbega eyi nipa pilẹṣẹ awọn ibaraẹnisọrọ ni kutukutu pẹlu awọn onimọ-jinlẹ data ati awọn onimọ-ẹrọ nipa awọn iwulo olumulo fun oye, idasi si idagbasoke awọn metiriki alaye, ati awọn alaye iṣagbesori ifowosowopo lati rii daju pe wọn jẹ deede ati ore-olumulo. XAI Ati Iwa ihuwasi AI: Ṣiṣakoṣo Iyatọ Ati Ojuse Ni ikọja kikọ igbẹkẹle, XAI ṣe ipa to ṣe pataki ni sisọ awọn ilolu ihuwasi ti o jinlẹ ti AI *, ni pataki nipa aiṣedeede algorithmic. Awọn imọ-ẹrọ alaye, gẹgẹbi itupalẹ awọn iye SHAP, le ṣafihan ti awọn ipinnu awoṣe kan ba ni ipa aiṣedeede nipasẹ awọn abuda ifura bii ẹya, akọ tabi abo, paapaa ti awọn nkan wọnyi ko ba lo ni gbangba bi awọn igbewọle taara. Fun apẹẹrẹ, ti awoṣe ifọwọsi awin kan nigbagbogbo fi awọn iye SHAP ti ko dara si awọn olubẹwẹ lati ibi eniyan kan, o ṣe afihan irẹjẹ ti o pọju ti o nilo iwadii, fi agbara fun awọn ẹgbẹ lati dada ati dinku iru awọn abajade aiṣododo. Agbara XAI tun wa pẹlu agbara fun “fifọ alaye.” Gẹgẹ bi “awọ ewe” ṣe ṣi awọn alabara lọna nipa awọn iṣe ayika, fifọ alaye le waye nigbati awọn alaye ti ṣe apẹrẹ lati ṣokunkun, dipo ki o tan imọlẹ, ihuwasi algorithmic iṣoro tabi awọn aiṣedeede ti o wa. Eyi le farahan bi awọn alaye ti o rọrun pupọju ti o yọkuro awọn okunfa ipa pataki, tabi awọn alaye ti o da awọn abajade ilana ilana lati han didoju diẹ sii tabi ododo ju ti wọn jẹ lododo. O ṣe afihan ojuṣe ihuwasi ti awọn oṣiṣẹ UX lati ṣe apẹrẹ awọn alaye ti o han gbangba ati idaniloju. Awọn alamọdaju UX, ni ifowosowopo pẹlu awọn onimọ-jinlẹ data ati awọn onimọ-jinlẹ, mu ojuse to ṣe pataki ni sisọ idi ti ipinnu kan, ati tun awọn idiwọn ati awọn aibikita agbara ti awoṣe AI ipilẹ. Eyi pẹlu ṣiṣeto awọn ireti olumulo ojulowo nipa iṣedede AI, idamo ibi ti awoṣe le jẹ igbẹkẹle diẹ, ati pese awọn ikanni ti o han gbangba fun ipadasẹhin tabi esi nigbati awọn olumulo rii aiṣedeede tabi awọn abajade ti ko tọ. Ifojusọna awọn wọnyiawọn iwọn iwa yoo gba wa laaye lati kọ awọn ọna ṣiṣe AI ti o jẹ otitọ ni otitọ ati igbẹkẹle. Lati Awọn ọna Lati Awọn ẹlẹgàn: Awọn ilana apẹrẹ XAI ti o wulo Mọ awọn imọran jẹ ohun kan; nse wọn jẹ miiran. Eyi ni bii a ṣe le tumọ awọn ọna XAI wọnyi si awọn ilana apẹrẹ ogbon inu. Apẹẹrẹ 1: Gbólóhùn “Nitori” (fun Pataki Ẹya) Eyi jẹ ilana ti o rọrun julọ ati igbagbogbo ti o munadoko julọ. O jẹ taara, alaye asọye ti o ṣalaye idi akọkọ fun iṣe AI kan.
Heuristic: Jẹ taara ati ṣoki. Dari pẹlu idi kan ti o ni ipa julọ. Yago fun jargon ni gbogbo iye owo.
Apeere: Fojuinu iṣẹ ṣiṣe ṣiṣan orin kan. Dipo ki o kan ṣafihan akojọ orin “Ṣawari Ọsẹ” kan, o ṣafikun laini kekere ti microcopy. Iṣeduro Orin: “Velvet Morning”Nitori o tẹtisi “The Fuzz” ati apata ọpọlọ miiran.
Apẹẹrẹ 2: “Kini-Ti o ba” Ibaṣepọ (fun Awọn Aṣoju) Counterfactuals jẹ inherently nipa ifiagbara. Ọna ti o dara julọ lati ṣe aṣoju wọn ni nipa fifun awọn olumulo awọn irinṣẹ ibaraẹnisọrọ lati ṣawari awọn aye ti ara wọn. Eyi jẹ pipe fun eto inawo, ilera, tabi awọn ohun elo ti o da lori ibi-afẹde miiran.
Heuristic: Ṣe awọn alaye ibaraenisepo ati ifiagbara. Jẹ ki awọn olumulo wo idi ati ipa ti awọn yiyan wọn.
Apeere: Awin ohun elo ni wiwo. Lẹhin kiko, dipo ipari ti o ku, olumulo n gba ohun elo kan lati pinnu bii awọn oju iṣẹlẹ oriṣiriṣi (kini-ifs) le ṣe jade (Wo Nọmba 1).
Apẹrẹ 3: Reel Highlight (Fun Awọn alaye Agbegbe) Nigbati AI ba ṣe iṣe kan lori akoonu olumulo kan (bii akopọ iwe kan tabi idamo awọn oju ni awọn fọto), alaye yẹ ki o sopọ mọ oju si orisun.
Heuristic: Lo awọn ifẹnukonu wiwo bi fifi aami si, awọn itọka, tabi awọn asọye lati so alaye pọ taara si nkan wiwo ti o n ṣalaye.
Apeere: Ohun elo AI kan ti o ṣe akopọ awọn nkan gigun.Ipilẹṣẹ Akopọ Ipilẹṣẹ: Iwadi akọkọ fihan aafo ọja fun awọn ọja alagbero. Orisun ni Iwe-ipamọ: “... Ayẹwo Q2 wa ti awọn aṣa ọja ni ipari ti fihan pe ko si oludije pataki kan ti n ṣiṣẹ daradara fun alabara ti o ni oye eco, ti n ṣafihan aafo ọja pataki fun awọn ọja alagbero.”
Àpẹẹrẹ 4: Titari-ati-Fa Visual (fun Awọn alaye ti o da lori iye) Fun awọn ipinnu idiju diẹ sii, awọn olumulo le nilo lati ni oye ibaraenisepo ti awọn ifosiwewe. Awọn iwoye data ti o rọrun le jẹ ki eyi han laisi jijẹ lagbara.
Heuristic: Lo irọrun, awọn iwoye data ti awọ-awọ (bii awọn shatti igi) lati ṣafihan awọn okunfa ti o daadaa ati ni odi ni ipa lori ipinnu kan.
Apeere: Apeere AI ti n ṣe ayẹwo profaili oludije fun iṣẹ kan. Kilode ti oludije yii jẹ 75% baramu: Awọn okunfa titari ikun soke: 5 + Ọdun Iriri Iwadi UX ti o ni imọran ni PythonFactors titari si isalẹ: Ko si iriri pẹlu B2B SaaS
Kọ ẹkọ ati lilo awọn ilana apẹrẹ wọnyi ni UX ti ọja AI rẹ yoo ṣe iranlọwọ lati mu alaye sii. O tun le lo awọn ilana afikun ti Emi ko bo ni ijinle nibi. Eyi pẹlu awọn wọnyi:
Awọn alaye ede adayeba: Titumọ iṣelọpọ imọ-ẹrọ AI kan si irọrun, ede eniyan ibaraẹnisọrọ ti awọn alamọja le ni irọrun loye. Awọn alaye asọye: Pese idi kan fun iṣẹjade AI ni akoko kan pato ati ipo, o ṣe pataki julọ si iṣẹ ṣiṣe olumulo. Awọn iwoye to wulo: Lilo awọn shatti, awọn aworan, tabi awọn maapu igbona lati oju ṣe aṣoju ilana ṣiṣe ipinnu AI kan, ṣiṣe data idiju ati rọrun fun awọn olumulo lati ni oye.
Akiyesi Fun Iwaju Iwaju: Titumọ awọn abajade alaye wọnyi si awọn iriri olumulo ti ko ni oju-ọna tun ṣafihan eto tirẹ ti awọn ero imọ-ẹrọ. Awọn olupilẹṣẹ iwaju-ipari nigbagbogbo n ṣakopọ pẹlu apẹrẹ API lati mu data alaye pada daradara, ati awọn ipa ṣiṣe (gẹgẹbi iran akoko gidi ti awọn alaye fun gbogbo ibaraenisepo olumulo) nilo igbero iṣọra lati yago fun lairi. Diẹ ninu Awọn Apeere Aye-gidi UPS Olu ká IfijiṣẹDefense UPS nlo AI lati ṣe ipin “Dimegili igbẹkẹle ifijiṣẹ” si awọn adirẹsi lati ṣe asọtẹlẹ iṣeeṣe ti package ji. Sọfitiwia DeliveryDefense wọn ṣe itupalẹ data itan lori ipo, igbohunsafẹfẹ ipadanu, ati awọn ifosiwewe miiran. Ti adirẹsi kan ba ni Dimegilio kekere, eto naa le ṣe atunto package ni isunmọtosi si aaye Wiwọle UPS ti o ni aabo, pese alaye fun ipinnu (fun apẹẹrẹ, “Apoti tun pada si ipo to ni aabo nitori itan-akọọlẹ ole”). Eto yii ṣe afihan bi o ṣe le lo XAI fun idinku eewu ati ṣiṣe igbẹkẹle alabara nipasẹakoyawo. Awọn ọkọ ayọkẹlẹ adase Awọn ọkọ ayọkẹlẹ wọnyi ti ọjọ iwaju yoo nilo lati lo XAI ni imunadoko lati ṣe iranlọwọ fun awọn ọkọ wọn lati ṣe ailewu, awọn ipinnu alaye. Nigbati ọkọ ayọkẹlẹ ti n wakọ ti ara ẹni ba de lojiji, eto naa le pese alaye akoko gidi fun iṣe rẹ, fun apẹẹrẹ, nipa idamo ẹlẹsẹ kan ti o nbọ si ọna. Eyi kii ṣe pataki nikan fun itunu ero ero ati igbẹkẹle ṣugbọn o jẹ ibeere ilana lati jẹrisi aabo ati iṣiro ti eto AI. IBM Watson Health (ati awọn italaya rẹ) Lakoko ti a tọka nigbagbogbo bi apẹẹrẹ gbogbogbo ti AI ni ilera, o tun jẹ iwadii ọran ti o niyelori fun pataki ti XAI. Ikuna ti Watson rẹ fun iṣẹ akanṣe Oncology ṣe afihan ohun ti o le jẹ aṣiṣe nigbati awọn alaye ko ba han, tabi nigbati data ti o wa ni abẹlẹ jẹ abosi tabi kii ṣe agbegbe. Awọn iṣeduro eto naa jẹ igba miiran ko ni ibamu pẹlu awọn iṣẹ iwosan agbegbe nitori pe wọn da lori awọn itọnisọna-centric US. Eyi ṣiṣẹ bi itan iṣọra lori iwulo fun logan, alaye alaye-ọrọ. Ipa Oluwadi UX: Pinpointing Ati Awọn alaye Ifọwọsi Awọn solusan apẹrẹ wa munadoko nikan ti wọn ba koju awọn ibeere olumulo to tọ ni akoko to tọ. Alaye ti o dahun ibeere ti olumulo ko ni ariwo nikan. Eyi ni ibiti iwadii UX ti di àsopọ asopọ to ṣe pataki ni ilana XAI kan, ni idaniloju pe a ṣalaye kini ati bii iyẹn ṣe ṣe pataki si awọn olumulo wa. Ipa ti oluwadi naa jẹ meji: akọkọ, lati sọ fun imọran nipa idamo ibi ti o nilo awọn alaye, ati keji, lati ṣe idaniloju awọn apẹrẹ ti o fi awọn alaye naa han. Ifitonileti Ilana XAI (Kini lati Ṣalaye) Ṣaaju ki a to ṣe apẹrẹ alaye kan, a gbọdọ loye awoṣe opolo olumulo ti eto AI. Kini wọn gbagbọ pe o nṣe? Nibo ni awọn aafo laarin oye wọn ati otitọ eto naa wa? Eyi ni iṣẹ ipilẹ ti oniwadi UX kan. Awọn ifọrọwanilẹnuwo Awoṣe Ọpọlọ: Ṣiṣii Awọn Iroye olumulo Ti Awọn Eto AI Nipasẹ awọn ifọrọwanilẹnuwo ti o jinlẹ, ologbele-ṣeto, awọn oṣiṣẹ UX le jèrè awọn oye ti ko niyelori si bii awọn olumulo ṣe rii ati loye awọn eto AI. Awọn akoko wọnyi jẹ apẹrẹ lati ṣe iwuri fun awọn olumulo lati fa gangan tabi ṣapejuwe “awoṣe opolo” inu wọn ti bii wọn ṣe gbagbọ pe AI ṣiṣẹ. Eyi nigbagbogbo pẹlu bibeere awọn ibeere ṣiṣii ti o tọ awọn olumulo lati ṣalaye ọgbọn eto, awọn igbewọle rẹ, ati awọn abajade rẹ, ati awọn ibatan laarin awọn eroja wọnyi. Awọn ifọrọwanilẹnuwo wọnyi lagbara nitori wọn nigbagbogbo ṣafihan awọn aburu ti o jinlẹ ati awọn arosinu ti awọn olumulo mu nipa AI. Fun apẹẹrẹ, oluṣamulo kan ti o nbaṣepọ pẹlu ẹrọ iṣeduro le fi igboya sọ pe eto naa da lori itan-akọọlẹ wiwo wọn ti o kọja. Wọn le ma mọ pe algoridimu naa tun ṣafikun ọpọlọpọ awọn ifosiwewe miiran, gẹgẹbi akoko ti ọjọ ti wọn ṣe lilọ kiri lori ayelujara, awọn nkan aṣa lọwọlọwọ kọja pẹpẹ, tabi paapaa awọn aṣa wiwo ti awọn olumulo ti o jọra. Ṣiṣii aafo yii laarin awoṣe opolo olumulo kan ati imọ-jinlẹ AI ti o wa labẹ ipilẹ jẹ pataki pataki. O sọ fun wa ni pato kini alaye kan pato ti a nilo lati ṣe ibasọrọ si awọn olumulo lati ṣe iranlọwọ fun wọn lati kọ deede diẹ sii ati awoṣe ọpọlọ ti o lagbara ti eto naa. Eyi, lapapọ, jẹ igbesẹ ipilẹ kan ni mimu igbẹkẹle dagba. Nigbati awọn olumulo ba loye, paapaa ni ipele giga, bawo ni AI ṣe de ni awọn ipinnu tabi awọn iṣeduro rẹ, wọn ṣee ṣe diẹ sii lati gbẹkẹle awọn abajade rẹ ati gbekele iṣẹ ṣiṣe rẹ. Iyaworan Irin-ajo Irin-ajo AI: Didi Jin sinu Igbekele Olumulo Ati Alaye Nipa tito-aworan irin-ajo olumulo daradara pẹlu ẹya AI-agbara, a ni awọn oye ti ko niyelori si awọn akoko to peye nibiti iporuru, ibanujẹ, tabi paapaa aifọkanbalẹ ti o han. Eyi ṣe awari awọn akoko to ṣe pataki nibiti awoṣe opolo olumulo ti bii AI ṣe n ṣiṣẹ awọn ikọlu pẹlu ihuwasi gangan rẹ. Wo iṣẹ ṣiṣanwọle orin kan: Njẹ igbẹkẹle olumulo n lọ silẹ nigbati iṣeduro akojọ orin kan kan lara “aileto,” aini asopọ eyikeyi ti o ni oye si awọn iṣe igbọran ti o kọja tabi awọn yiyan ti a sọ bi? Aileto ti a ti fiyesi yii jẹ ipenija taara si ireti olumulo ti itọju oye ati irufin ileri ti o ṣoki pe AI loye itọwo wọn. Bakanna, ninu ohun elo iṣakoso fọto kan, ṣe awọn olumulo ni iriri ibanujẹ nla nigbati ẹya-ara fifi aami si fọto AI ṣe aiṣedeede nigbagbogbo mẹmba idile ti o nifẹ si bi? Yi aṣiṣe jẹ diẹ sii ju a imọ glitch; o kọlu ni ọkan ti deede, ti ara ẹni, ati paapaaimolara asopọ. Awọn aaye irora wọnyi jẹ awọn ifihan agbara ti o han gbangba ti o nfihan ni pato nibiti o ti gbe daradara, ti o han gbangba, ati alaye ṣoki jẹ pataki. Iru awọn alaye bẹẹ ṣiṣẹ bi awọn ọna ṣiṣe atunṣe to ṣe pataki, atunṣe irufin igbẹkẹle pe, ti a ko ba koju, le ja si ikọsilẹ olumulo. Agbara ti aworan aworan irin-ajo AI wa ni agbara rẹ lati gbe wa kọja larọrun n ṣalaye abajade ikẹhin ti eto AI kan. Lakoko ti oye ohun ti AI ṣe jẹ pataki, igbagbogbo ko to. Dipo, ilana yii fi agbara mu wa lati dojukọ lori ṣiṣe alaye ilana ni awọn akoko pataki. Eyi tumọ si adirẹsi:
Kini idi ti iṣelọpọ kan pato ti ipilẹṣẹ: Ṣe o jẹ nitori data titẹ sii kan pato bi? A pato awoṣe faaji? Awọn nkan wo ni o ni ipa lori ipinnu AI: Njẹ awọn ẹya kan jẹ iwuwo diẹ sii bi? Bawo ni AI ṣe de ipari rẹ: Njẹ a le funni ni irọrun, alaye afọwọṣe ti awọn iṣẹ inu rẹ? Awọn ero wo ni AI ṣe: Njẹ awọn oye ti ko tọ si ti ero olumulo tabi data ti o nilo lati fi han bi? Kini awọn idiwọn ti AI jẹ: sisọ ni gbangba ohun ti AI ko le ṣe, tabi nibiti deede rẹ le ṣiyemeji, kọ awọn ireti gidi.
Aworan aworan irin-ajo AI ṣe iyipada imọran áljẹbrà ti XAI sinu ilowo, ilana iṣe iṣe fun awọn oṣiṣẹ UX. O fun wa laaye lati lọ kọja awọn ijiroro imọ-jinlẹ ti alaye ati dipo tọka awọn akoko gangan nibiti igbẹkẹle olumulo wa ni ewu, pese awọn oye to wulo lati kọ awọn iriri AI ti o lagbara, sihin, oye, ati igbẹkẹle. Ni ipari, iwadii jẹ bii a ṣe ṣii awọn aimọ. Ẹgbẹ rẹ le ṣe ariyanjiyan bi o ṣe le ṣalaye idi ti awin kọni kan, ṣugbọn iwadii le ṣafihan pe awọn olumulo ni aniyan diẹ sii pẹlu agbọye bi wọn ṣe lo data wọn ni ibẹrẹ. Laisi iwadi, a kan lafaimo ohun ti awọn olumulo wa n iyalẹnu. Ifowosowopo Lori Apẹrẹ (Bi o ṣe le ṣe alaye AI rẹ) Ni kete ti iwadii ti ṣe idanimọ kini lati ṣalaye, lupu ifowosowopo pẹlu apẹrẹ bẹrẹ. Awọn apẹẹrẹ le ṣe apẹẹrẹ awọn ilana ti a sọrọ ni iṣaaju — alaye “Nitori”, awọn ifaworanhan ibaraenisepo — ati awọn oniwadi le fi awọn apẹrẹ wọnyẹn si iwaju awọn olumulo lati rii boya wọn duro. Lilo Ifojusi & Idanwo Imọye: A le ṣe apẹrẹ awọn iwadii iwadii ti o ṣe idanwo pataki awọn paati XAI. A ko kan beere, "Ṣe eyi rọrun lati lo?" A beere, "Lẹhin ti ri eyi, ṣe o le sọ fun mi ni awọn ọrọ tirẹ idi ti eto ṣe iṣeduro ọja yii?" tabi “Fi ohun ti iwọ yoo ṣe han mi lati rii boya o le gba abajade ti o yatọ.” Ibi-afẹde nibi ni lati wiwọn oye ati iṣẹ ṣiṣe, lẹgbẹẹ lilo. Idiwọn Igbekele Funrara: A le lo awọn iwadi ti o rọrun ati awọn iwọn oṣuwọn ṣaaju ati lẹhin alaye ti han. Fun apẹẹrẹ, a le beere lọwọ olumulo kan lori iwọn-ojuami 5, “Elo ni o gbẹkẹle iṣeduro yii?” kí wọ́n tó rí gbólóhùn “Nítorí”, kí wọ́n sì tún béèrè lọ́wọ́ wọn lẹ́yìn náà. Eyi n pese data pipo lori boya awọn alaye wa n gbe abẹrẹ gangan lori igbẹkẹle. Ilana yi ṣẹda kan to lagbara, aṣetunṣe lupu. Awọn awari iwadi ṣe alaye apẹrẹ akọkọ. A ṣe idanwo apẹrẹ yẹn, ati pe awọn awari tuntun jẹ ifunni pada si ẹgbẹ apẹrẹ fun isọdọtun. Boya ọrọ “Nitori” naa jẹ jargony pupọ, tabi esun “Kini-Ti o ba” jẹ airoju diẹ sii ju ifiagbara lọ. Nipasẹ afọwọsi ifowosowopo yii, a rii daju pe awọn alaye ti o kẹhin jẹ deede ni imọ-ẹrọ, oye nitootọ, iwulo, ati ṣiṣe igbẹkẹle fun awọn eniyan ti nlo ọja naa. The Goldilocks Zone Of Alaye Ọrọ iṣọra pataki kan: o ṣee ṣe lati ṣe alaye pupọ. Bi ninu itan iwin, nibiti Goldilocks ti wa porridge ti o jẹ 'o kan ọtun', ibi-afẹde ti alaye ti o dara ni lati pese iye alaye ti o tọ — kii ṣe pupọ ati kii ṣe kekere. Bombarding olumulo kan pẹlu gbogbo oniyipada ninu awoṣe kan yoo ja si apọju oye ati pe o le dinku igbẹkẹle gangan. Ibi-afẹde kii ṣe lati jẹ ki olumulo jẹ onimọ-jinlẹ data. Ojutu kan jẹ ifihan ilọsiwaju.
Bẹrẹ pẹlu awọn ti o rọrun. Dari pẹlu ṣoki ti alaye “Nitori”. Fun ọpọlọpọ awọn olumulo, eyi yoo to. Pese ọna kan si awọn alaye. Pese ọna asopọ ti o han gedegbe, kekere bi “Kọ ẹkọ diẹ sii” tabi “Wo bii o ṣe pinnu eyi.” Ṣafihan idiju naa. Lẹhin ọna asopọ yẹn, o le funni ni awọn ifaworanhan ibaraenisepo, awọn iworan, tabi atokọ alaye diẹ sii ti awọn ifosiwewe idasi.
Ọna siwa yii bọwọ fun akiyesi olumulo ati oye, pese iye to tọti alaye fun wọn aini. Jẹ ki a fojuinu pe o nlo ẹrọ ile ti o gbọn ti o ṣeduro alapapo ti o dara julọ ti o da lori awọn ifosiwewe pupọ. Bẹrẹ pẹlu irọrun: “Ile rẹ ti gbona lọwọlọwọ si awọn iwọn 72, eyiti o jẹ iwọn otutu ti o dara julọ fun ifowopamọ agbara ati itunu.” Pese ọna kan si alaye: Ni isalẹ iyẹn, ọna asopọ kekere tabi bọtini: “Kini idi ti iwọn 72 dara julọ?” Ṣafihan idiju naa: Titẹ ọna asopọ yẹn le ṣii iboju tuntun ti n ṣafihan:
Awọn ifaworanhan ibaraenisepo fun iwọn otutu ita, ọriniinitutu, ati ipele itunu ti o fẹ, ti n ṣafihan bii iwọnyi ṣe ṣatunṣe iwọn otutu ti a ṣeduro. Iwoye ti lilo agbara ni awọn iwọn otutu oriṣiriṣi. Atokọ awọn ifosiwewe idasi bii “Akoko ti ọjọ,” “Iwọn otutu ita lọwọlọwọ,” “Lilo agbara itan,” ati “Awọn sensọ ibugbe.”
O munadoko lati darapo awọn ọna XAI pupọ ati ilana Ilana Goldilocks Zone yii, eyiti o ṣe agbero fun ifihan ilọsiwaju, ni iyanju laiṣe eyi. O le bẹrẹ pẹlu ọrọ “Nitori” ti o rọrun (Àpẹẹrẹ 1) fun oye lẹsẹkẹsẹ, ati lẹhinna funni ni ọna asopọ “Kọ ẹkọ Diẹ sii” ti o ṣafihan “Kini Ti” Interactive (Àpẹẹrẹ 2) tabi “Titari-ati-Fa Visual” (Àpẹẹrẹ 4) fun iwadii jinle. Fun apẹẹrẹ, eto ohun elo awin le kọkọ sọ idi akọkọ fun kiko (pataki ẹya-ara), lẹhinna gba olumulo laaye lati ṣe ajọṣepọ pẹlu ohun elo “Kini-Ti o ba” lati rii bi awọn iyipada si owo-wiwọle tabi gbese wọn yoo ṣe paarọ abajade (awọn aiṣedeede), ati nikẹhin, pese alaye “Titari-ati-Fa” chart (alaye ti o da lori iye) lati ṣapejuwe awọn ifunni rere ati odi ti gbogbo awọn ifosiwewe. Ọna siwa yii ngbanilaaye awọn olumulo lati wọle si ipele ti alaye ti wọn nilo, nigba ti wọn nilo rẹ, ṣe idiwọ apọju imọ lakoko ti o n pese akoyawo okeerẹ. Ṣiṣe ipinnu iru awọn irinṣẹ XAI ati awọn ọna lati lo jẹ iṣẹ akọkọ ti iwadii UX pipe. Awọn ifọrọwanilẹnuwo awoṣe ọpọlọ ati aworan agbaye irin-ajo AI jẹ pataki fun sisọ awọn iwulo olumulo ati awọn aaye irora ti o ni ibatan si oye AI ati igbẹkẹle. Awọn ifọrọwanilẹnuwo awoṣe opolo ṣe iranlọwọ lati ṣii awọn aburu olumulo nipa bi AI ṣe n ṣiṣẹ, nfihan awọn agbegbe nibiti o nilo awọn alaye ipilẹ (bii pataki ẹya tabi awọn alaye agbegbe). Aworan aworan irin-ajo AI, ni ida keji, ṣe idanimọ awọn akoko to ṣe pataki ti rudurudu tabi aifọkanbalẹ ninu ibaraenisepo olumulo pẹlu AI, ifihan agbara nibiti diẹ sii granular tabi awọn alaye ibaraenisepo (gẹgẹbi awọn atako tabi awọn alaye ti o da lori iye) yoo jẹ anfani julọ lati tun igbekele ati pese ibẹwẹ.
Ni ipari, ọna ti o dara julọ lati yan ilana kan ni lati jẹ ki iwadii olumulo ṣe itọsọna awọn ipinnu rẹ, ni idaniloju pe awọn alaye ti o ṣe apẹrẹ taara koju awọn ibeere olumulo ati awọn ifiyesi, dipo kiki awọn alaye imọ-ẹrọ nikan fun nitori tiwọn. XAI fun Awọn aṣoju Idile Jin Diẹ ninu awọn ọna ṣiṣe AI tuntun, ti a mọ si awọn aṣoju ironu jinlẹ, ṣe agbejade “ẹwọn ero” ti o fojuhan fun gbogbo iṣẹ-ṣiṣe eka. Wọn ko kan tọka si awọn orisun; wọ́n fi ọgbọ́n inú hàn, ọ̀nà ìṣísẹ̀-sí-ẹsẹ̀ tí wọ́n gbé láti dé ìparí. Lakoko ti akoyawo yii n pese aaye ti o niyelori, ere-nipasẹ-play kan ti o kọja awọn paragira pupọ le ni rilara ti o lagbara si olumulo kan ni igbiyanju lati pari iṣẹ-ṣiṣe kan. Awọn ilana ti XAI, ni pataki agbegbe Goldilocks ti Alaye, lo taara nibi. A le ṣe itọju irin-ajo naa, ni lilo ifihan ilọsiwaju lati ṣafihan ipari ipari nikan ati igbesẹ ti o ga julọ ninu ilana ero ni akọkọ. Awọn olumulo le lẹhinna wọle lati wo ni kikun, alaye, ero-ọpọlọpọ-igbesẹ nigba ti wọn nilo lati ṣayẹwo-ilọpo-ọkan tabi rii otitọ kan pato. Ọna yii bọwọ fun akiyesi olumulo lakoko ti o tọju akoyawo kikun ti aṣoju. Awọn Igbesẹ t’okan: Fi agbara fun Irin-ajo XAI Rẹ Itumọ jẹ ọwọn ipilẹ fun kikọ igbẹkẹle ati awọn ọja AI ti o munadoko. Fun oṣiṣẹ to ti ni ilọsiwaju ti n wa lati wakọ iyipada yii laarin ajo wọn, irin-ajo naa kọja kọja awọn ilana apẹrẹ sinu agbawi ati ikẹkọ ilọsiwaju. Lati jinlẹ oye rẹ ati ohun elo ti o wulo, ronu wiwa awọn orisun bii AI Explainability 360 (AIX360) ohun elo irinṣẹ lati Iwadi IBM tabi Ohun-elo Google, eyiti o funni ni awọn ọna ibaraenisepo lati ṣawari ihuwasi awoṣe ati awọn alaye. Ṣiṣepọ pẹlu awọn agbegbe bii Apejọ AI Responsible tabi awọn ẹgbẹ iwadii kan pato ti o dojukọ AI ti o da lori eniyan le pese awọn oye ti ko niyelori ati awọn aye ifowosowopo. Nikẹhin, jẹ alagbawi fun XAI laarin agbari tirẹ.Ṣe alaye fireemu bi idoko-owo ilana. Wo ipolowo kukuru kan si adari rẹ tabi awọn ẹgbẹ iṣẹ-agbelebu: "Nipa idoko-owo ni XAI, a yoo lọ kọja igbẹkẹle gbigbe; a yoo mu igbasilẹ olumulo pọ si, dinku awọn idiyele atilẹyin nipasẹ fifun awọn olumulo ni agbara pẹlu oye, ati idinku awọn ilana ti o ṣe pataki ati awọn ewu ilana nipasẹ ṣiṣafihan awọn aiṣedeede ti o pọju. Eyi jẹ apẹrẹ ti o dara ati iṣowo ọlọgbọn. "
Ohùn rẹ, ti o wa lori ilẹ ni oye ilowo, jẹ pataki ni mimu AI jade kuro ninu apoti dudu ati sinu ajọṣepọ ifowosowopo pẹlu awọn olumulo.
