Миний сүүлчийн хэсэгт бид үндсэн үнэнийг тогтоосон: хэрэглэгчид хиймэл оюун ухааныг хүлээн авч, найдахын тулд түүнд итгэх ёстой. Бид итгэлцэл бол хиймэл оюун ухааны чадвар, нинжин сэтгэл, шударга байдал, урьдчилан таамаглах чадварын талаарх ойлголт дээр суурилдаг олон талт бүтэц болох талаар ярилцсан. Гэхдээ хиймэл оюун ухаан нь чимээгүй, алгоритмын мэргэн ухаанаараа хэрэглэгчийг төөрөгдүүлж, бухимдуулж, бүр хохироох шийдвэр гаргахад юу болох вэ? Ипотекийн зээлийн хүсэлтийг хүлээн авахаас татгалзаж, дуртай дуу нь тоглуулах жагсаалтаас гэнэт алга болж, шаардлага хангасан анкетыг хүн харахаас өмнө татгалздаг. Эдгээр мөчүүдэд ур чадвар, урьдчилан таамаглах чадвар нь эвдэрч, нинжин сэтгэл нь ертөнцийг холдуулдаг. Одоо бидний яриа итгэлцлийн шалтгаанаас хэрхэн ил тод байдлын тухайд шилжих ёстой. Үүнийг шийдвэрлэхийн тулд хиймэл оюун ухааны гаралтыг хүмүүст ойлгомжтой болгох аргуудыг боловсруулахад чиглэдэг Тайлбарлах боломжтой AI (XAI) салбар гарч ирсэн боловч энэ нь ихэвчлэн өгөгдөл судлаачдын хувьд цэвэр техникийн сорилт гэж тооцогддог. Энэ нь хиймэл оюун ухаанд тулгуурласан бүтээгдэхүүний дизайны чухал сорилт гэж би үзэж байна. Алгоритмийн шийдвэр гаргалт болон хүний ойлголтын хоорондын зөрүүг арилгах нь UX мэргэжилтнүүдийн бидний ажил юм. Энэхүү нийтлэл нь тайлбарлахын тулд хэрхэн судалж, загварчлах талаар практик, хэрэгжүүлэх боломжтой удирдамжийг өгдөг. Бид шуугиан тарьсан үгсээс хальж, загварчлал руу шилжиж, XAI-ийн нарийн төвөгтэй ойлголтуудыг та өнөөдөр ашиглаж эхлэх боломжтой дизайны тодорхой загвар болгон хувиргах болно. XAI-ийн нууцыг арилгах: UX дадлагажигчдад зориулсан үндсэн ойлголтууд XAI нь хэрэглэгчийн "Яагаад?" Гэсэн асуултад хариулах зорилготой юм. Яагаад надад энэ зарыг үзүүлсэн бэ? Яагаад надад энэ киног санал болгож байна вэ? Яагаад миний хүсэлтийг хүлээж аваагүй юм бэ? Үүнийг хиймэл оюун ухаан математикийн бодлого дээр ажиллаж байгааг харуулж байна гэж төсөөлөөд үз дээ. Үүнгүйгээр танд зөвхөн хариулт байгаа бөгөөд та үүнийг итгэлээр хүлээж авахаас өөр аргагүй болно. Алхам алхмуудыг харуулахдаа та ойлголт, итгэлийг бий болгодог. Мөн та өөрийн ажлыг давхар шалгаж, энэ нь нөлөөлж буй хүмүүсээр баталгаажуулахыг зөвшөөрдөг. Онцлогын ач холбогдол ба эсрэг баримтууд AI-д юу болж байгааг тодруулах, тайлбарлахын тулд бидний ашиглаж болох хэд хэдэн арга байдаг. Арга нь шийдвэрийн модны логикийг бүхэлд нь өгөхөөс эхлээд гаралтын байгалийн хэлээр хураангуйг гаргах хүртэл янз бүр байдаг ч UX дадлагажигчид туршлагадаа нэвтрүүлж болох хамгийн практик бөгөөд үр дүнтэй мэдээллийн хоёр төрөл бол онцлог шинж чанар (Зураг 1) ба эсрэг баримтууд юм. Эдгээр нь ихэвчлэн хэрэглэгчдэд ойлгомжтой, дизайнеруудад хэрэгжүүлэхэд хамгийн хялбар байдаг.
Онцлогийн ач холбогдол Энэхүү тайлбарлах арга нь "Хиймэл оюун ухаан хамгийн чухал гэж үзсэн хүчин зүйлүүд юу байсан бэ?" гэж хариулдаг. Энэ нь үр дүнд хамгийн их нөлөө үзүүлсэн 2-3 хувьсагчийг тодорхойлох явдал юм. Энэ бол бүхэл бүтэн түүх биш гарчиг юм. Жишээ: Үйлчлүүлэгч гацах (үйлчилгээг нь цуцлах) эсэхийг урьдчилан таамаглах хиймэл оюун ухааныг төсөөлөөд үз дээ. Онцлогын ач холбогдол нь "сүүлийн сард гарсан тусламжийн дуудлагын тоо" болон "саяхны үнийн өсөлт" нь үйлчлүүлэгчийг алдах магадлалтай эсэхийг тодорхойлох хамгийн чухал хоёр хүчин зүйл байсныг харуулж магадгүй юм.
Эсрэг баримт Энэхүү хүчирхэг арга нь "Би өөр үр дүнд хүрэхийн тулд юуг өөрчлөх хэрэгтэй вэ?" гэж хариулдаг. Энэ нь хэрэглэгчдэд сонгох эрх мэдлийг өгдөг учраас маш чухал юм. Энэ нь урам хугарсан "үгүй"-г хэрэгжүүлэх боломжтой "хараахан болоогүй" болгож хувиргадаг. Жишээ: AI ашигладаг зээлийн өргөдлийн системийг төсөөлөөд үз дээ. Хэрэглэгч зээл авахаас татгалзсан. Зөвхөн "Өргөдөл татгалзсан" гэж харахын оронд "Хэрэв таны зээлийн оноо 50 оноогоор өндөр байсан эсвэл таны өр орлогын харьцаа 10%-иар бага байсан бол таны зээлийг зөвшөөрөх байсан" гэсэн сөрөг тайлбарыг бас хуваалцана. Энэ нь Сарад ирээдүйд зээл авахын тулд хийж болох тодорхой алхмуудыг өгч байна.
Тайлбарыг сайжруулахын тулд загвар өгөгдлийг ашиглах Техникийн нарийн ширийн зүйлийг ихэвчлэн өгөгдөл судлаачид зохицуулдаг ч загварыг орон нутгийн хэмжээнд ойртуулах замаар хувь хүний таамаглалыг тайлбарладаг LIME (Local Interpretable Model-agnostic Explanations) болон тоглоомын онолын арга барилыг ашигладаг SHAP (SHapley Additive тайлбарууд) зэрэг хэрэгслүүд нь эдгээр загвараас "машины сурахад түгээмэл хэрэглэгддэг" гаралтыг тайлбарлах боломжтой гэдгийг мэдэх нь UX-ийн мэргэжилтнүүдэд тустай. загварууд. Эдгээр сангууд нь өгөгдсөн үр дүнд аль орц хамгийн их нөлөөлсөн болохыг харуулах хиймэл оюун ухааны шийдвэрийг задлахад тусалдаг. Зөв хийгдсэн тохиолдолд AI хэрэгслийн шийдвэрийн үндэс болсон өгөгдлийг хүчирхэг түүхийг ярихад ашиглаж болно. Онцлогын ач холбогдол, сөрөг хүчин зүйлсийг авч үзээд, шийдвэрийн ард байгаа мэдээллийн шинжлэх ухааныг хэрэглэгчийн туршлагыг сайжруулахын тулд хэрхэн ашиглаж болохыг харуулъя. Одоо болъёОрон нутгийн тайлбар (жишээ нь, LIME) өгөгдлийн тусламжтайгаар онцлогийн ач холбогдлыг тусгах: Энэ арга нь "Яагаад хиймэл оюун ухаан надад яг одоо ийм тусгай зөвлөмж өгсөн бэ?" Загвар хэрхэн ажилладаг тухай ерөнхий тайлбарын оронд энэ нь ганц, тодорхой жишээнд чиглэсэн шалтгааныг өгдөг. Энэ нь хувийн болон контекст юм. Жишээ: Spotify гэх мэт хиймэл оюун ухаанаар ажилладаг хөгжим санал болгох системийг төсөөлөөд үз дээ. Орон нутгийн тайлбарт "Яагаад систем яг одоо Аделийн энэ дууг танд санал болгосон бэ?" Тайлбар нь: "Учир нь та саяхан эмэгтэй гоцлол дуучдын сэтгэл хөдлөм баллад, дууг сонссон."
Эцэст нь, үнэ цэнэд суурилсан тайлбарыг (жишээ нь, Шэйплийн Нэмэлт тайлбарын (SHAP) өгөгдлийг шийдвэрийн тайлбарт оруулах талаар авч үзье: Энэ нь "Хүчин зүйл бүр шийдвэрт хэрхэн түлхэц өгсөн бэ?" гэж хариулдаг онцлог ач холбогдлын илүү нарийн хувилбар юм. Энэ нь юу чухал болохыг, түүний нөлөө эерэг эсвэл сөрөг эсэхийг төсөөлөхөд тусалдаг. Жишээ: Банк зээлийн хүсэлтийг зөвшөөрөх эсэхээ шийдэхийн тулд хиймэл оюун ухааны загварыг ашигладаг гэж төсөөлөөд үз дээ.
Онцлогын ач холбогдол: Загварын үр дүн нь өргөдөл гаргагчийн зээлийн оноо, орлого, өр орлогын харьцаа зэрэг нь шийдвэр гаргахад хамгийн чухал хүчин зүйл байсныг харуулж болно. Энэ нь юу чухал болохыг хариулдаг. Утгад суурилсан тайлбар бүхий онцлогийн ач холбогдол (SHAP): SHAP утгууд нь загварын элементүүд дээр тулгуурлан онцлог шинж чанарыг илүү чухалчилна.
Зөвшөөрөгдсөн зээлийн хувьд SHAP нь зээлийн өндөр оноо нь шийдвэрийг батлахад ихээхэн түлхэц болсон (эерэг нөлөө), харин дунджаас бага зэрэг өндөр өр, орлогын харьцаа нь түүнийг бага зэрэг татсан (сөрөг нөлөө), гэхдээ зээлээс татгалзахад хангалттай биш гэдгийг харуулж магадгүй юм. Татгалзсан зээлийн хувьд SHAP нь бага орлоготой, сүүлийн үед олон тооны зээлийн лавлагаа авсан нь зээлийн оноо хангалттай байсан ч татгалзах шийдвэрийг хүчтэй түлхэж байгааг илрүүлж чадна.
Энэ нь зээлийн ажилтанд эцсийн "тийм" эсвэл "үгүй" гэсэн шийдвэр гаргахад хүчин зүйл тус бүр хэрхэн нөлөөлсөн талаар авч үзсэн зүйлээс илүүтэйгээр өргөдөл гаргагчид тайлбарлахад тусалдаг. Сайн тайлбар өгөх чадвар нь хөгжлийн мөчлөгөөс хамаагүй эрт эхэлдэг гэдгийг ойлгох нь маш чухал юм. Өгөгдлийн судлаачид болон инженерүүд загвар болон өгөгдлийн дамжуулах шугамыг зориудаар тайлбарлахыг оролдохын оронд тайлбарлах боломжтой болгох замаар гол үүрэг гүйцэтгэдэг. Судалгаа, дизайны багууд хэрэглэгчийн ойлгох хэрэгцээний талаар мэдээлэл судлаачид болон инженерүүдтэй эртнээс яриа өрнүүлж, тайлбарлах боломжтой хэмжигдэхүүнийг боловсруулахад хувь нэмрээ оруулж, үнэн зөв, хэрэглэгчдэд ээлтэй байхын тулд тайлбарыг хамтран загварчилж хийснээр үүнийг дэмжиж чадна. XAI ба ёс суртахууны хиймэл оюун ухаан: нэг талыг барьж, хариуцлагыг задлах Итгэлцлийг бий болгохоос гадна XAI нь AI*-ийн ёс зүйн гүн гүнзгий үр дагавар, ялангуяа алгоритмын хэвийхтэй холбоотой асуудлыг шийдвэрлэхэд чухал үүрэг гүйцэтгэдэг. SHAP-ын утгыг шинжлэх гэх мэт тайлбарлах арга техник нь эдгээр хүчин зүйлсийг шууд орц болгон ашиглаагүй байсан ч тухайн загварын шийдвэрт арьсны өнгө, хүйс, нийгэм эдийн засгийн байдал зэрэг эмзэг шинж чанарууд пропорциональ бусаар нөлөөлж байгаа эсэхийг илрүүлж чадна. Жишээлбэл, хэрэв зээлийг батлах загвар нь тодорхой хүн ам зүйн өргөдөл гаргагчдад SHAP-ийн сөрөг утгыг тогтмол оноож өгдөг бол энэ нь судалгаа хийх шаардлагатай байж болзошгүй гажуудлыг илтгэж, ийм шударга бус үр дагаврыг арилгах, багасгах боломжийг олгодог. XAI-ийн хүч нь "тайлбараар угаах" чадвартай байдаг. "Ногоон угаалга" нь хэрэглэгчдийг байгаль орчны практикийн талаар төөрөгдүүлдэгтэй адилаар тайлбарлах нь алгоритмын асуудалтай үйлдэл эсвэл төрөлхийн буруу ойлголтыг гэрэлтүүлэхийн оронд бүрхэг болгоход чиглэгдсэн тохиолдолд тайлбарлах боломжтой угаах тохиолдол гардаг. Энэ нь чухал нөлөөлөгч хүчин зүйлсийг орхигдуулсан хэт хялбарчилсан тайлбар эсвэл бодит байдлаасаа илүү төвийг сахисан эсвэл шударга үр дүнг стратегийн хувьд тодорхойлсон тайлбар хэлбэрээр илэрч болно. Энэ нь UX-ийн мэргэжилтнүүдийн жинхэнэ ил тод, шалгах боломжтой тайлбарыг боловсруулах ёс зүйн хариуцлагыг онцолж байна. UX-ийн мэргэжилтнүүд өгөгдөл судлаачид болон ёс зүйчидтэй хамтран шийдвэрийн шалтгаан, мөн хиймэл оюун ухааны үндсэн загварын хязгаарлалт, боломжит гажуудлыг мэдээлэх чухал үүрэг хариуцлага хүлээдэг. Энэ нь хиймэл оюун ухааны нарийвчлалын талаар хэрэглэгчийн бодит хүлээлтийг бий болгох, загвар нь хаана найдвартай бага байж болохыг тодорхойлох, хэрэглэгчид шударга бус эсвэл буруу үр дүнг хүлээн зөвшөөрөх үед тусламж авах, санал хүсэлт гаргах тодорхой сувгуудыг бий болгох явдал юм. Эдгээрийг идэвхтэй шийдвэрлэхёс зүйн хэмжүүрүүд нь үнэхээр шударга бөгөөд найдвартай хиймэл оюун ухааны системийг бий болгох боломжийг бидэнд олгоно. Арга зүйгээс эхлээд загвар: XAI дизайны практик загварууд Үзэл баримтлалыг мэдэх нь нэг зүйл юм; тэдгээрийг зохион бүтээх нь өөр зүйл юм. Бид эдгээр XAI аргыг зөн совингийн загвар болгон хэрхэн хөрвүүлэхийг эндээс үзнэ үү. Загвар 1: "Учир нь" мэдэгдэл (онцлогын ач холбогдлын хувьд) Энэ бол хамгийн энгийн бөгөөд ихэвчлэн хамгийн үр дүнтэй загвар юм. Энэ бол хиймэл оюун ухааны үйл ажиллагааны үндсэн шалтгааныг харуулсан шууд, энгийн хэлээр илэрхийлсэн мэдэгдэл юм.
Эвристик: Шууд бөгөөд товч байх. Хамгийн үр дүнтэй ганц шалтгаанаар удирд. Ямар ч тохиолдолд үг хэллэгээс зайлсхий.
Жишээ: Хөгжмийн стриминг үйлчилгээг төсөөлөөд үз дээ. Зүгээр л "Дисковер Долоо хоног тутмын" тоглуулах жагсаалтыг танилцуулахын оронд та бичил хуулбарын жижиг мөрийг нэмнэ үү. Дууны зөвлөмж: "Velvet Morning"Та "The Fuzz" болон бусад сэтгэцийн рок дууг сонсдог учраас.
Загвар 2: "Хэрэв-Хэрэв" интерактив (эсрэг баримтуудад зориулсан) Эсрэг баримтууд нь угаасаа эрх мэдлийн тухай байдаг. Тэдгээрийг төлөөлөх хамгийн сайн арга бол хэрэглэгчдэд боломжуудыг өөрсдөө судлах интерактив хэрэгслийг өгөх явдал юм. Энэ нь санхүү, эрүүл мэнд болон бусад зорилгод чиглэсэн програмуудад тохиромжтой.
Эвристик: Интерактив, эрх мэдэл бүхий тайлбарыг хий. Хэрэглэгчдэд өөрсдийн сонголтын шалтгаан, үр дагаврыг олж харцгаая.
Жишээ нь: Зээлийн програмын интерфейс. Татгалзсаны дараа хэрэглэгч мухардалд орохын оронд янз бүрийн хувилбарууд (хэрэв бол) хэрхэн гарч болохыг тодорхойлох хэрэгсэл авдаг (Зураг 1-ийг үзнэ үү).
Загвар 3: Тодруулга (Орон нутгийн тайлбарт) Хиймэл оюун ухаан нь хэрэглэгчийн контент дээр үйлдэл хийх үед (баримт бичгийг нэгтгэн дүгнэх эсвэл зураг дээрх царайг тодорхойлох гэх мэт) тайлбарыг эх сурвалжтай нүдээр холбосон байх ёстой.
Хевристик: Тайлбарыг тайлбарлаж буй интерфейсийн элементтэй шууд холбохын тулд тодруулга, тойм, тэмдэглэгээ зэрэг харааны дохиог ашиглана уу.
Жишээ нь: Урт нийтлэлүүдийг нэгтгэсэн хиймэл оюун ухааны хэрэгсэл. AI-аар үүсгэсэн хураангуй цэг: Анхны судалгаагаар тогтвортой бүтээгдэхүүний зах зээлийн цоорхой байгааг харуулсан. Баримт бичгийн эх сурвалж: “...Зах зээлийн чиг хандлагын 2-р улиралд хийсэн дүн шинжилгээ нь ямар ч томоохон өрсөлдөгч эко хэрэглэгчдэд үр дүнтэй үйлчлэхгүй байгааг баттай харуулсан бөгөөд энэ нь тогтвортой бүтээгдэхүүний зах зээлийн томоохон цоорхойг илрүүлсэн...”
Загвар 4: "Түлхэх ба татах" дүрслэл (үнэ цэнэд суурилсан тайлбарын хувьд) Илүү төвөгтэй шийдвэр гаргахын тулд хэрэглэгчид хүчин зүйлсийн харилцан үйлчлэлийг ойлгох шаардлагатай байж магадгүй юм. Энгийн өгөгдлийн дүрслэл нь үүнийг хэт их ачаалалгүйгээр тодорхой болгож чадна.
Эвристик: Шийдвэр гаргахад эерэг ба сөрөг нөлөөлсөн хүчин зүйлсийг харуулахын тулд энгийн, өнгөөр кодлогдсон өгөгдлийн дүрслэлийг (бадан диаграм гэх мэт) ашигла.
Жишээ нь: AI нь ажил горилогчийн профайлыг шалгадаг. Энэ нэр дэвшигч яагаад 75% таарч байна вэ: Оноо өсөх хүчин зүйлүүд: 5+ жил UX судалгааны туршлагаPython програмын мэдлэгтэй, оноог бууруулж буй хүчин зүйлүүд: B2B SaaS-ийн туршлагагүй
AI бүтээгдэхүүнийхээ UX-д эдгээр дизайны хэв маягийг сурч, ашиглах нь тайлбарыг нэмэгдүүлэхэд тусална. Та миний энд дэлгэрэнгүй тайлбарлаагүй нэмэлт техникийг ашиглаж болно. Үүнд дараахь зүйлс орно.
Байгалийн хэлээр тайлбарлах: AI-ийн техникийн үр дүнг мэргэжилтнүүд бус хүмүүст хялбархан ойлгох энгийн, харилцан ярианы хэл рүү хөрвүүлэх. Контекст тайлбар: Тодорхой цаг мөч, байршилд хиймэл оюун ухааны гаралтын үндэслэлийг өгөх нь хэрэглэгчийн даалгаварт хамгийн их хамааралтай. Холбогдох дүрслэл: Диаграм, график эсвэл дулааны зураг ашиглан хиймэл оюун ухааны шийдвэр гаргах үйл явцыг дүрслэн харуулах нь нарийн төвөгтэй өгөгдлийг ойлгомжтой, хэрэглэгчдэд ойлгоход хялбар болгоно.
Хэрэглэгчдэд зориулсан тайлбар: Эдгээр тайлбарлах боломжтой үр дүнг хэрэглэгчийн тасралтгүй туршлага болгон хөрвүүлэх нь өөрийн гэсэн техникийн асуудлуудыг мөн харуулж байна. Урд талын хөгжүүлэгчид тайлбарын өгөгдлийг үр дүнтэй олж авахын тулд API дизайнтай байнга тэмцдэг бөгөөд гүйцэтгэлийн үр дагавар (хэрэглэгчийн харилцан үйлдэл бүрийн тайлбарыг бодит цаг хугацаанд гаргах гэх мэт) хоцролтоос зайлсхийхийн тулд сайтар төлөвлөх шаардлагатай байдаг. Бодит ертөнцийн зарим жишээ UPS Capital-ийн Delivery Defense UPS нь илгээмж хулгайлагдах магадлалыг урьдчилан таамаглахын тулд хаягуудад "хүргэлтийн итгэлийн оноо" өгөхдөө хиймэл оюун ухааныг ашигладаг. Тэдний DeliveryDefense программ хангамж нь байршил, алдагдлын давтамж болон бусад хүчин зүйлсийн талаарх түүхэн өгөгдөлд дүн шинжилгээ хийдэг. Хэрэв хаяг нь бага оноотой бол систем нь шийдвэрийн тайлбарыг өгөх (жишээ нь, "Хулгайлсан түүхийн улмаас багцыг аюулгүй газар руу шилжүүлсэн") багцыг аюулгүй UPS хандалтын цэг рүү идэвхтэйгээр шилжүүлэх боломжтой. Энэхүү систем нь XAI-ийг эрсдэлийг бууруулах, хэрэглэгчийн итгэлийг бий болгоход хэрхэн ашиглаж болохыг харуулдагил тод байдал. Автономит тээврийн хэрэгсэл Ирээдүйн эдгээр машинууд тээврийн хэрэгсэлдээ аюулгүй, ойлгомжтой шийдвэр гаргахад нь туслахын тулд XAI-г үр дүнтэй ашиглах шаардлагатай болно. Өөрөө жолоодлоготой машин гэнэт тоормослох үед систем нь түүний үйлдлийн талаар бодит цагийн тайлбарыг өгөх боломжтой. Энэ нь зорчигчдын тав тух, итгэлийг хангахад чухал ач холбогдолтой төдийгүй хиймэл оюун ухааны системийн аюулгүй байдал, хариуцлагатай байдлыг нотлох зохицуулалтын шаардлага юм. IBM Watson Health (ба түүний сорилтууд) Эрүүл мэндийн салбарт хиймэл оюун ухааны ерөнхий жишээ болгон дурдагддаг ч энэ нь XAI-ийн ач холбогдлыг харуулсан үнэ цэнэтэй жишээ юм. Хавдар судлалын Уотсон төслийн бүтэлгүйтэл нь тайлбар нь тодорхойгүй, эсвэл үндсэн өгөгдөл нь өрөөсгөл эсвэл орон нутгийн шинж чанартай биш үед юу буруу болж болохыг онцолж байна. Системийн зөвлөмжүүд нь заримдаа АНУ-д төвлөрсөн удирдамжид үндэслэсэн тул орон нутгийн эмнэлзүйн практикт нийцэхгүй байв. Энэ нь бат бөх, контекстийг мэддэг тайлбарлах хэрэгцээний талаархи сэрэмжлүүлэг болж өгдөг. UX судлаачийн үүрэг: Тайлбарыг тодорхойлох, баталгаажуулах Манай дизайны шийдлүүд нь хэрэглэгчийн зөв асуултыг зөв цагт нь авч үзсэн тохиолдолд л үр дүнтэй байдаг. Хэрэглэгчийн асуудаггүй асуултанд хариулах тайлбар бол зүгээр л дуу чимээ юм. Энэ нь UX судалгаа нь XAI стратегийн чухал холбогч эд болж, хэрэглэгчиддээ юу, хэрхэн чухал болохыг тайлбарлах боломжийг олгодог. Судлаачийн үүрэг хоёр талтай: нэгдүгээрт, тайлбарлах шаардлагатай газрыг тодорхойлох замаар стратегийг мэдээлэх, хоёрдугаарт, эдгээр тайлбарыг өгөх загварыг баталгаажуулах. XAI стратегийг мэдээлэх (юуг тайлбарлах вэ) Бид нэг тайлбар хийхээсээ өмнө AI системийн хэрэглэгчийн сэтгэхүйн загварыг ойлгох ёстой. Тэд юу хийж байна гэж итгэдэг вэ? Тэдний ойлголт болон системийн бодит байдлын хоорондын зөрүү хаана байна вэ? Энэ бол UX судлаачийн үндсэн ажил юм. Сэтгэцийн загвар ярилцлага: AI системийн талаарх хэрэглэгчдийн ойлголтыг задлах Гүнзгий, хагас бүтэцтэй ярилцлагаар дамжуулан UX-ийн мэргэжилтнүүд AI системийг хэрэглэгчид хэрхэн хүлээн авч, ойлгож байгаа талаар үнэлж баршгүй ойлголтыг олж авах боломжтой. Эдгээр сессүүд нь хэрэглэгчдийг хиймэл оюун ухаан хэрхэн ажилладаг гэдэгт итгэх дотоод "сэтгэцийн загвараа" шууд утгаар нь зурах эсвэл дүрслэн харуулахад урамшуулах зорилготой юм. Энэ нь ихэвчлэн системийн логик, түүний оролт, гаралт, мөн эдгээр элементүүдийн хоорондын хамаарлыг тайлбарлахыг хэрэглэгчдэд өдөөх нээлттэй асуултуудыг асуудаг. Эдгээр ярилцлага нь хиймэл оюун ухааны талаарх хэрэглэгчдийн гүн гүнзгий буруу ойлголт, таамаглалыг байнга илчилдэг тул хүчирхэг юм. Жишээлбэл, зөвлөмжийн системтэй харилцаж буй хэрэглэгч энэ системийг зөвхөн тэдний өнгөрсөн үзсэн түүх дээр үндэслэсэн гэж итгэлтэйгээр баталж чадна. Алгоритм нь өдрийн цаг, платформ дээрх одоогийн чиг хандлага, тэр байтугай ижил төстэй хэрэглэгчдийн үзэх зуршил гэх мэт олон хүчин зүйлийг агуулж байгааг тэд ойлгохгүй байж магадгүй юм. Хэрэглэгчийн оюун санааны загвар болон бодит суурь хиймэл оюун ухааны логик хоорондын ялгааг илрүүлэх нь маш чухал юм. Энэ нь системийн илүү үнэн зөв, бат бөх сэтгэхүйн загварыг бий болгоход нь туслахын тулд хэрэглэгчдэд ямар тодорхой мэдээллийг хүргэх шаардлагатайг бидэнд хэлж өгдөг. Энэ нь эргээд итгэлцлийг бэхжүүлэх үндсэн алхам юм. Хэрэглэгчид өндөр түвшинд ч гэсэн хиймэл оюун ухаан нь дүгнэлт, зөвлөмжид хэрхэн хүрдгийг ойлгох үед түүний гаралтад итгэж, үйл ажиллагаанд нь найдах магадлал өндөр байдаг. AI аяллын зураглал: Хэрэглэгчийн итгэлцэл, тайлбарлах чадварт гүнзгий нэвтэрч орох Хэрэглэгчийн аяллыг хиймэл оюун ухаанаар дэмжсэн функцээр нарийн тодорхойлсноор бид төөрөгдөл, бухимдал, тэр ч байтугай гүн итгэлгүй байдал үүссэн нарийн мөчүүдийн талаар үнэлж баршгүй ойлголтыг олж авдаг. Энэ нь хиймэл оюун ухаан хэрхэн ажилладаг талаарх хэрэглэгчийн сэтгэцийн загвар нь түүний бодит зан үйлтэй зөрчилддөг чухал үеийг илрүүлдэг. Хөгжмийн стриминг үйлчилгээг авч үзье: Тоглуулах жагсаалтын зөвлөмж "санамсаргүй" мэт санагдах үед хэрэглэгчийн итгэл буурч, тэдний өмнөх сонсох зуршил эсвэл тодорхойлсон сонголттой ямар ч холбоогүй болох уу? Энэхүү санамсаргүй санамсаргүй байдал нь хэрэглэгчийн ухаалаг боловсруулалтын хүлээлтэд шууд сорилт болж, хиймэл оюун ухаан нь тэдний амтыг ойлгодог гэсэн далд амлалтыг зөрчсөн явдал юм. Үүнтэй адилаар, гэрэл зургийн менежментийн программ дээр хиймэл оюун ухаанаар зураг шошголох функц нь гэр бүлийн эрхэм гишүүнээ байнга буруу танихад ихээхэн бухимддаг уу? Энэ алдаа нь техникийн алдаанаас илүү юм; энэ нь нарийвчлал, хувийн тохиргоо, тэр ч байтугай зүрх сэтгэлд цохилт өгдөгсэтгэл хөдлөлийн холбоо. Эдгээр өвдөлтийн цэгүүд нь хаана сайн байрлуулсан, тодорхой, товч тайлбар шаардлагатай байгааг харуулсан тод дохио юм. Ийм тайлбарууд нь засварын чухал механизм болж, итгэлийн эвдрэлийг засч залруулах бөгөөд үүнийг шийдвэрлэхгүй орхивол хэрэглэгчийг орхиход хүргэж болзошгүй юм. AI аяллын зураглалын хүч нь хиймэл оюун ухааны системийн эцсийн үр дүнг тайлбарлахаас цаашгүй хөдөлгөх чадварт оршдог. Хиймэл оюун ухаан юу үйлдвэрлэж байгааг ойлгох нь чухал боловч энэ нь ихэвчлэн хангалтгүй байдаг. Үүний оронд энэ үйл явц нь биднийг эгзэгтэй мөчид үйл явцыг тайлбарлахад анхаарлаа төвлөрүүлэхэд хүргэдэг. Энэ нь хаяглах гэсэн үг:
Яагаад тодорхой гаралт үүссэн бэ: Энэ нь тодорхой оролтын өгөгдлөөс болсон уу? Тодорхой загвар архитектур уу? AI-ийн шийдвэрт ямар хүчин зүйл нөлөөлсөн бэ: Зарим онцлог шинж чанарууд нь илүү жинтэй байсан уу? AI хэрхэн ийм дүгнэлтэд хүрсэн бэ: Бид түүний дотоод үйл ажиллагааны талаар хялбаршуулсан, ижил төстэй тайлбарыг санал болгож чадах уу? Хиймэл оюун ухаан ямар таамаглал дэвшүүлэв: Хэрэглэгчийн зорилго эсвэл өгөгдлийн талаар илчлэх шаардлагатай далд ойлголт байсан уу? AI-ийн хязгаарлалтууд юу вэ: AI юу хийж чадахгүй, эсвэл түүний нарийвчлал хаана эргэлзэж болзошгүйг тодорхой мэдээлэх нь бодитой хүлээлтийг бий болгодог.
AI аяллын зураглал нь XAI-ийн хийсвэр ойлголтыг UX дадлагажигчдад практик, хэрэгжүүлэх боломжтой хүрээ болгон хувиргадаг. Энэ нь бидэнд тайлбарлах боломжтой онолын хэлэлцүүлгээс хальж, хэрэглэгчдийн итгэл үнэмшилд өртөж буй мөчүүдийг яг таг тодорхойлж, хүчирхэг, ил тод, ойлгомжтой, найдвартай хиймэл оюун ухааны туршлагыг бий болгоход шаардлагатай ойлголтуудыг өгөх боломжийг олгодог. Эцсийн эцэст судалгаа бол үл мэдэгдэх зүйлийг хэрхэн илрүүлэх явдал юм. Танай баг яагаад зээл олгохоос татгалзсаныг хэрхэн тайлбарлах талаар хэлэлцэж байгаа ч судалгаагаар хэрэглэгчид өөрсдийнхөө өгөгдлийг хэрхэн ашигласан талаар илүү их санаа зовдог болохыг судалгаагаар тогтоожээ. Судалгаагүйгээр бид хэрэглэгчид маань юу гайхаж байгааг таамаглаж байна. Дизайн дээр хамтран ажиллах (Хэрхэн хиймэл оюун ухаанаа тайлбарлах вэ) Судалгаагаар юу тайлбарлахыг тодорхойлсны дараа дизайнтай хамтран ажиллах гогцоо эхэлдэг. Загвар зохион бүтээгчид бидний өмнө нь авч үзсэн загваруудын загвар болох "Учир нь" гэсэн үг, интерактив гулсуурууд - мөн судлаачид тэдгээр дизайныг хэрэглэгчдийн өмнө тавьж, тэдгээр нь тэсвэрлэх эсэхийг харах боломжтой. Зорилтот хэрэглээ ба ойлгох тест: Бид XAI бүрэлдэхүүн хэсгүүдийг тусгайлан туршсан судалгааны судалгааг боловсруулж болно. Бид зүгээр л “Энэ хэрэглэхэд хялбар юу?” гэж асуудаггүй. Бид "Үүнийг харсны дараа систем яагаад энэ бүтээгдэхүүнийг санал болгосныг өөрийнхөө үгээр хэлж чадах уу?" эсвэл "Өөр үр дүнд хүрэхийн тулд юу хийхээ надад харуулаач." Энд гол зорилго нь ашиглах боломжтой байдлын зэрэгцээ ойлгох чадвар, ажиллах чадварыг хэмжих явдал юм. Итгэлийг өөрөө хэмжих нь: Бид тайлбарыг үзүүлэхээс өмнө болон дараа нь энгийн судалгаа, үнэлгээний хуваарийг ашиглаж болно. Жишээлбэл, бид 5 онооны системээр хэрэглэгчээс “Та энэ зөвлөмжид хэр итгэдэг вэ?” гэж асууж болно. Тэд "Учир нь" гэсэн мэдэгдлийг харахаас өмнө, дараа нь дахин асуу. Энэ нь бидний тайлбар үнэн хэрэгтээ итгэлцлийг хөдөлгөж байгаа эсэх талаар тоон мэдээллийг өгдөг. Энэ процесс нь хүчирхэг, давтагдах гогцоо үүсгэдэг. Судалгааны үр дүн нь анхны дизайныг илтгэнэ. Дараа нь тэр загварыг туршиж үзээд, шинэ олдворуудыг боловсронгуй болгохоор дизайны багт буцааж өгдөг. Магадгүй "Учир нь" гэсэн үг хэтэрхий ярвигтай байсан, эсвэл "Хэрэв-Хэрэв" гэсэн гулсуур нь эрх мэдэл өгөхөөс илүү будлиантай байсан байх. Энэхүү хамтын баталгаажуулалтаар бид эцсийн тайлбарууд нь техникийн хувьд үнэн зөв, үнэхээр ойлгомжтой, ашигтай, бүтээгдэхүүнийг ашиглаж буй хүмүүст итгэх итгэлийг бий болгодог эсэхийг баталгаажуулдаг. Голдилоксын тайлбарын бүс Анхаарал татахуйц шүүмжлэлтэй үг: үүнийг хэтрүүлэн тайлбарлах боломжтой. Голдилокс "зөв" будаа хайж байсан үлгэрт гардаг шиг, сайн тайлбарын зорилго нь хэтэрхий их биш, хэтэрхий бага ч биш, зөв хэмжээний дэлгэрэнгүй мэдээллийг өгөх явдал юм. Загвар дахь бүх хувьсагчтай хэрэглэгчийг бөмбөгдөх нь танин мэдэхүйн хэт ачаалалд хүргэж, итгэлийг бууруулж чадна. Зорилго нь хэрэглэгчийг өгөгдөл судлаач болгох явдал биш юм. Нэг шийдэл бол дэвшилтэт тодруулга юм.
Энгийнээс эхэл. "Учир нь" гэсэн товчхон үгээр удирд. Ихэнх хэрэглэгчдийн хувьд энэ нь хангалттай байх болно. Нарийвчилсан замыг санал болго. "Дэлгэрэнгүй үзэх" эсвэл "Үүнийг хэрхэн тодорхойлсоныг харна уу" гэх мэт тодорхой, үрэлт багатай холбоосоор хангана уу. Нарийн төвөгтэй байдлыг илчил. Энэ холбоосын ард та интерактив гулсагч, дүрслэл эсвэл хувь нэмэр оруулах хүчин зүйлсийн илүү нарийвчилсан жагсаалтыг санал болгож болно.
Энэхүү давхраатай арга нь хэрэглэгчийн анхаарал, мэргэжлийн ур чадварыг хүндэтгэдэг бөгөөд яг тохирсон хэмжээгээр хангадагтэдний хэрэгцээнд зориулсан мэдээлэл. Та янз бүрийн хүчин зүйл дээр үндэслэн оновчтой халаалтыг санал болгодог ухаалаг гэрийн төхөөрөмж ашиглаж байна гэж төсөөлье. Энгийнээс эхэлье: "Таны байшин одоогоор 72 градус хүртэл халдаг бөгөөд энэ нь эрчим хүч хэмнэх, тав тухыг хангах хамгийн оновчтой температур юм." Нарийвчилсан замыг санал болго: Үүний доор жижиг холбоос эсвэл товчлуур: "Яагаад 72 градус оновчтой байдаг вэ?" Нарийн төвөгтэй байдлыг илчлээрэй: Энэ холбоос дээр дарснаар дараах шинэ дэлгэц нээгдэнэ:
Гаднах температур, чийгшил болон таны хүссэн тав тухын түвшинд зориулсан интерактив гулсагчууд нь санал болгож буй температурыг хэрхэн тохируулдгийг харуулдаг. Өөр өөр температурт эрчим хүчний хэрэглээний дүрслэл. "Өдрийн цаг", "Одоогийн гадаа температур", "Түүхэн эрчим хүчний хэрэглээ" болон "Ажиллах мэдрэгч" зэрэг нөлөөлсөн хүчин зүйлсийн жагсаалт.
XAI-ийн олон аргыг хослуулах нь үр дүнтэй бөгөөд аажмаар ил тод болгохыг дэмждэг Goldilocks бүсийн тайлбарын загвар нь үүнийг далд хэлбэрээр дэмждэг. Та нэн даруй ойлгохын тулд энгийн "Учир нь" хэллэгээр (Загвар 1) эхэлж, дараа нь "Хэрэв-Хэрэв" интерактив (Загвар 2) эсвэл "Түлхэж, татах" (Загвар 4) -ийг харуулсан "Илүү ихийг мэдэх" холбоосыг санал болгож болно. Жишээлбэл, зээлийн өргөдлийн систем нь эхлээд татгалзсан үндсэн шалтгааныг (онцлогын ач холбогдол) зааж өгч, дараа нь хэрэглэгчдэд орлого эсвэл өрийн өөрчлөлт нь үр дүнг хэрхэн өөрчлөхийг харахын тулд "Хэрэв-Хэрэв" хэрэглүүрийг (сөрөг баримтууд), эцэст нь "Түлхэх-татах" графикийг (үнэ цэнэд суурилсан бүх сөрөг нөлөөлөл болон эерэг нөлөөллийн тайлбар) гаргаж өгөх боломжтой. Энэхүү давхраатай арга нь хэрэглэгчдэд хэрэгцээтэй үед нь шаардлагатай нарийвчлалын түвшинд хүрч, танин мэдэхүйн хэт ачааллаас урьдчилан сэргийлэхийн зэрэгцээ иж бүрэн ил тод байдлыг хангах боломжийг олгодог. Ямар XAI хэрэгсэл, аргыг ашиглахыг тодорхойлох нь үндсэндээ UX-ийн нарийвчилсан судалгааны функц юм. Оюун санааны загвар ярилцлага, хиймэл оюун ухааны аяллын зураглал нь хиймэл оюун ухааны ойлголт, итгэлцэлтэй холбоотой хэрэглэгчийн хэрэгцээ, өвдөлтийн цэгүүдийг тодорхойлоход маш чухал юм. Сэтгэцийн загварын ярилцлага нь хиймэл оюун ухаан хэрхэн ажилладаг талаар хэрэглэгчийн буруу ойлголтыг илрүүлэхэд тусалдаг ба үндсэн тайлбар (онцлогын ач холбогдол эсвэл орон нутгийн тайлбар гэх мэт) шаардлагатай хэсгийг зааж өгдөг. Нөгөө талаас хиймэл оюун ухаантай аяллын зураглал нь хэрэглэгчийн хиймэл оюун ухаантай харьцах төөрөгдөл, үл итгэлцлийн эгзэгтэй мөчүүдийг тодорхойлж, илүү нарийн эсвэл интерактив тайлбар (сөрөг баримт, үнэ цэнэд суурилсан тайлбар гэх мэт) нь итгэлцлийг сэргээж, агентлагаар хангахад хамгийн ашигтай болохыг илтгэдэг.
Эцсийн эцэст техникийг сонгох хамгийн сайн арга бол хэрэглэгчийн судалгаанд таны шийдвэрт чиглүүлэх боломжийг олгох бөгөөд таны боловсруулсан тайлбар нь зөвхөн өөрсдийнхөө төлөө техникийн нарийн ширийн зүйлийг санал болгохын оронд бодит хэрэглэгчийн асуулт, санааг зовоож буй асуудлыг шууд шийдвэрлэх явдал юм. Гүнзгий үндэслэлтэй төлөөлөгчдөд зориулсан XAI Гүн сэтгэгч гэгддэг хамгийн сүүлийн үеийн хиймэл оюун ухааны зарим системүүд нь нарийн төвөгтэй ажил бүрийн хувьд тодорхой "бодлын хэлхээ" үүсгэдэг. Тэд зөвхөн эх сурвалжаас иш татдаггүй; Тэд дүгнэлтэнд хүрэхийн тулд логик, алхам алхмаар замыг харуулдаг. Энэхүү ил тод байдал нь үнэ цэнэтэй нөхцөл байдлыг бий болгодог хэдий ч хэд хэдэн догол мөрийг хамарсан тоглох нь зүгээр л нэг даалгавраа дуусгахыг оролдож буй хэрэглэгчдэд хэт их санагдах болно. XAI-ийн зарчмууд, ялангуяа Goldilocks-ийн тайлбарын бүс энд шууд хамаарна. Бид зөвхөн эцсийн дүгнэлт болон сэтгэхүйн үйл явцын хамгийн чухал алхамыг харуулахын тулд дэвшилтэт тодруулгыг ашиглан аялалаа зохицуулж чадна. Дараа нь хэрэглэгчид логикийг дахин шалгах эсвэл тодорхой баримтыг олох шаардлагатай үед бүрэн, нарийвчилсан, олон шатлалт үндэслэлийг харах боломжтой. Энэ арга нь төлөөлөгчийн бүрэн ил тод байдлыг хадгалахын зэрэгцээ хэрэглэгчийн анхаарлыг хүндэтгэдэг. Дараагийн алхамууд: Таны XAI аялалыг хүчирхэгжүүлэх Тайлбарлах чадвар нь найдвартай, үр дүнтэй хиймэл оюун ухааны бүтээгдэхүүнийг бий болгох үндсэн тулгуур багана юм. Байгууллагадаа энэхүү өөрчлөлтийг хөтлөхийг эрэлхийлж буй ахисан түвшний эмч нарын хувьд энэхүү аялал нь дизайны хэв маягаас гадна сурталчилгаа, тасралтгүй суралцах чиглэлд үргэлжилдэг. Ойлголт болон практик хэрэглээгээ гүнзгийрүүлэхийн тулд IBM Research-ийн AI Explainability 360 (AIX360) хэрэглүүр, эсвэл Google-ийн What-If хэрэгсэл гэх мэт загварын зан байдал, тайлбарыг судлах интерактив аргуудыг санал болгодог эх сурвалжуудыг судалж үзээрэй. Хариуцлагатай хиймэл оюун ухааны форум гэх мэт нийгэмлэгүүд эсвэл хүн төвтэй хиймэл оюун ухаанд төвлөрсөн тусгай судалгааны бүлгүүдтэй хамтран ажиллах нь үнэлж баршгүй ойлголт, хамтын ажиллагааны боломжийг олгоно. Эцэст нь, өөрийн байгууллага дотроо XAI-ийн өмгөөлөгч болоорой.Стратегийн хөрөнгө оруулалт болох хүрээний тайлбар. Удирдлагууд эсвэл харилцан үйлчлэлийн багуудын талаар товч санал бодоорой: "XAI-д хөрөнгө оруулалт хийснээр бид итгэлцлийг бий болгохоос илүү гарах болно; бид хэрэглэгчдийг нэвтрүүлэх ажлыг хурдасгаж, хэрэглэгчдэд ойлголт өгөх замаар дэмжлэгийн зардлыг бууруулж, болзошгүй өрөөсгөл ойлголтыг илчлэх замаар ёс зүйн болон зохицуулалтын томоохон эрсдлийг бууруулах болно. Энэ бол сайн дизайн, ухаалаг бизнес юм."
Практик ойлголтод суурилсан таны дуу хоолой хиймэл оюун ухааныг хар хайрцагнаас гаргаж, хэрэглэгчидтэй хамтран ажиллахад чухал үүрэг гүйцэтгэдэг.
