នៅក្នុងផ្នែកចុងក្រោយរបស់ខ្ញុំ យើងបានបង្កើតការពិតជាមូលដ្ឋានមួយ៖ សម្រាប់អ្នកប្រើប្រាស់ក្នុងការទទួលយក និងពឹងផ្អែកលើ AI ពួកគេត្រូវតែជឿជាក់លើវា។ យើងបាននិយាយអំពីការជឿទុកចិត្តជាសំណង់ចម្រុះ ដែលបង្កើតឡើងនៅលើការយល់ឃើញអំពីសមត្ថភាព ភាពសប្បុរស សុចរិតភាព និងការទស្សន៍ទាយរបស់ AI ។ ប៉ុន្តែតើមានអ្វីកើតឡើងនៅពេលដែល AI នៅក្នុងភាពស្ងៀមស្ងាត់ និងប្រាជ្ញាក្បួនដោះស្រាយរបស់វាធ្វើការសម្រេចចិត្តដែលធ្វើឱ្យអ្នកប្រើប្រាស់មានការភ័ន្តច្រឡំ ខកចិត្ត ឬសូម្បីតែឈឺចាប់? ពាក្យស្នើសុំកម្ចីទិញផ្ទះត្រូវបានបដិសេធ បទចម្រៀងដែលពេញចិត្តភ្លាមៗនោះអវត្តមានពីបញ្ជីចាក់ ហើយប្រវត្តិរូបសង្ខេបដែលមានលក្ខណៈសម្បត្តិគ្រប់គ្រាន់ត្រូវបានបដិសេធ មុនពេលដែលមនុស្សបានឃើញវា។ ក្នុងគ្រាទាំងនេះ សមត្ថភាព និងភាពអាចទស្សន៍ទាយបានត្រូវខ្ទេចខ្ទាំ ហើយភាពសប្បុរសមានអារម្មណ៍ថាពិភពលោកនៅឆ្ងាយ។ ការសន្ទនារបស់យើងឥឡូវនេះត្រូវតែវិវឌ្ឍពីហេតុផលនៃការជឿទុកចិត្តទៅរបៀបនៃតម្លាភាព។ វាលនៃ AI ដែលអាចពន្យល់បាន (XAI) ដែលផ្តោតលើការបង្កើតវិធីសាស្រ្តដើម្បីធ្វើឱ្យលទ្ធផល AI អាចយល់បានចំពោះមនុស្សបានលេចចេញដើម្បីដោះស្រាយរឿងនេះ ប៉ុន្តែជារឿយៗវាត្រូវបានកំណត់ថាជាបញ្ហាប្រឈមផ្នែកបច្ចេកទេសសុទ្ធសាធសម្រាប់អ្នកវិទ្យាសាស្ត្រទិន្នន័យ។ ខ្ញុំអះអាងថាវាជាបញ្ហាប្រឈមក្នុងការរចនាសំខាន់សម្រាប់ផលិតផលដែលពឹងផ្អែកលើ AI។ វាជាការងាររបស់យើងក្នុងនាមជាអ្នកជំនាញ UX ដើម្បីភ្ជាប់គម្លាតរវាងការធ្វើសេចក្តីសម្រេចចិត្តតាមវិធី និងការយល់ដឹងរបស់មនុស្ស។ អត្ថបទនេះផ្តល់នូវការណែនាំជាក់ស្តែង ដែលអាចអនុវត្តបាន អំពីរបៀបស្រាវជ្រាវ និងរចនាសម្រាប់ការពន្យល់។ យើងនឹងផ្លាស់ទីហួសពីពាក្យចចាមអារ៉ាម និងទៅក្នុងការធ្វើគំរូ ដោយបកប្រែគំនិត XAI ស្មុគស្មាញទៅជាគំរូរចនាជាក់ស្តែង ដែលអ្នកអាចចាប់ផ្តើមប្រើថ្ងៃនេះ។ De-mystifying XAI: គោលគំនិតស្នូលសម្រាប់អ្នកអនុវត្ត UX XAI និយាយអំពីការឆ្លើយសំណួររបស់អ្នកប្រើ៖ "ហេតុអ្វី?" ហេតុអ្វីបានជាខ្ញុំត្រូវបានបង្ហាញការផ្សាយពាណិជ្ជកម្មនេះ? ហេតុអ្វីបានជាភាពយន្តនេះណែនាំខ្ញុំ? ហេតុអ្វីបានជាសំណើរបស់ខ្ញុំត្រូវបានបដិសេធ? គិតថាវាជា AI ដែលបង្ហាញពីការងាររបស់ខ្លួនលើបញ្ហាគណិតវិទ្យា។ បើគ្មានវាទេ អ្នកគ្រាន់តែមានចម្លើយ ហើយអ្នកត្រូវបង្ខំចិត្តទទួលយកវាដោយជំនឿ។ ក្នុងការបង្ហាញជំហាន អ្នកបង្កើតការយល់ដឹង និងទំនុកចិត្ត។ អ្នកក៏អនុញ្ញាតឱ្យការងាររបស់អ្នកត្រូវបានត្រួតពិនិត្យពីរដង និងផ្ទៀងផ្ទាត់ដោយមនុស្ស ដែលវាប៉ះពាល់។ សារៈសំខាន់នៃលក្ខណៈពិសេស និងការប្រឆាំងការពិត មានបច្ចេកទេសមួយចំនួនដែលយើងអាចប្រើដើម្បីបញ្ជាក់ ឬពន្យល់ពីអ្វីដែលកំពុងកើតឡើងជាមួយ AI ។ ខណៈពេលដែលវិធីសាស្រ្តមានចាប់ពីការផ្តល់នូវតក្កវិជ្ជាទាំងមូលនៃមែកធាងការសម្រេចចិត្ត ដល់ការបង្កើតសេចក្តីសង្ខេបភាសាធម្មជាតិនៃលទ្ធផលមួយ ប្រភេទនៃព័ត៌មានដែលមានប្រយោជន៍ និងមានឥទ្ធិពលបំផុតចំនួនពីរដែលអ្នកជំនាញ UX អាចណែនាំទៅក្នុងបទពិសោធន៍មួយគឺសារៈសំខាន់នៃលក្ខណៈពិសេស (រូបភាពទី 1) និងការប្រឆាំងការពិត។ ទាំងនេះច្រើនតែមានភាពសាមញ្ញបំផុតសម្រាប់អ្នកប្រើប្រាស់ក្នុងការយល់ និងអាចធ្វើសកម្មភាពបំផុតសម្រាប់អ្នករចនាក្នុងការអនុវត្ត។
សារៈសំខាន់នៃមុខងារ វិធីសាស្ត្រពន្យល់នេះឆ្លើយថា "តើកត្តាអ្វីដែលសំខាន់បំផុតដែល AI បានពិចារណា? វានិយាយអំពីការកំណត់អថេរកំពូល 2-3 ដែលមានឥទ្ធិពលធំបំផុតលើលទ្ធផល។ វាជាចំណងជើង មិនមែនរឿងទាំងមូលទេ។ ឧទាហរណ៍៖ ស្រមៃមើល AI ដែលព្យាករណ៍ថាតើអតិថិជននឹងកូរ (បោះបង់សេវាកម្មរបស់ពួកគេ)។ សារៈសំខាន់នៃលក្ខណៈពិសេសអាចបង្ហាញថា "ចំនួននៃការហៅទូរស័ព្ទសម្រាប់ជំនួយក្នុងខែចុងក្រោយ" និង "ការកើនឡើងតម្លៃថ្មីៗនេះ" គឺជាកត្តាសំខាន់បំផុតពីរក្នុងការកំណត់ថាតើអតិថិជនទំនងជាចង់កូរឬអត់។
វត្ថុប្រឆាំង វិធីសាស្រ្តដ៏មានឥទ្ធិពលនេះឆ្លើយថា "តើខ្ញុំត្រូវផ្លាស់ប្តូរអ្វីដើម្បីទទួលបានលទ្ធផលផ្សេង?" នេះគឺសំខាន់ណាស់ព្រោះវាផ្តល់ឱ្យអ្នកប្រើប្រាស់នូវអារម្មណ៍នៃភ្នាក់ងារ។ វាបំប្លែង "ទេ" ដែលគួរឱ្យធុញទ្រាន់ទៅជា "មិនទាន់" ដែលអាចធ្វើសកម្មភាពបាន។ ឧទាហរណ៍៖ ស្រមៃមើលប្រព័ន្ធកម្មវិធីប្រាក់កម្ចីដែលប្រើ AI ។ អ្នកប្រើប្រាស់ត្រូវបានបដិសេធប្រាក់កម្ចី។ ជំនួសឱ្យការគ្រាន់តែឃើញ "ការបដិសេធកម្មវិធី" ការពន្យល់មិនពិតក៏នឹងចែករំលែកផងដែរ "ប្រសិនបើពិន្ទុឥណទានរបស់អ្នកខ្ពស់ជាង 50 ពិន្ទុ ឬប្រសិនបើសមាមាត្របំណុលទៅប្រាក់ចំណូលរបស់អ្នកទាបជាង 10% នោះប្រាក់កម្ចីរបស់អ្នកនឹងត្រូវបានអនុម័ត។" នេះផ្តល់ឱ្យ Sarah នូវជំហានដែលអាចអនុវត្តបានច្បាស់លាស់ដែលនាងអាចអនុវត្តដើម្បីទទួលបានប្រាក់កម្ចីនាពេលអនាគត។
ការប្រើប្រាស់ទិន្នន័យគំរូ ដើម្បីពង្រឹងការពន្យល់ ទោះបីជាភាពជាក់លាក់បច្ចេកទេសត្រូវបានដោះស្រាយដោយអ្នកវិទ្យាសាស្ត្រទិន្នន័យក៏ដោយ វាពិតជាមានប្រយោជន៍សម្រាប់អ្នកអនុវត្ត UX ដើម្បីដឹងថាឧបករណ៍ដូចជា LIME (Local Interpretable Model-agnostic Explanations) ដែលពន្យល់ពីការព្យាករណ៍បុគ្គលដោយការប៉ាន់ស្មានគំរូក្នុងស្រុក និង SHAP (SHapley Additive exPlanations) ដែលប្រើវិធីសាស្រ្តទ្រឹស្តីហ្គេមដើម្បីពន្យល់ពីលទ្ធផលនៃការប្រើប្រាស់ម៉ាស៊ីនណាមួយដែលជាទូទៅ ម៉ូដែល។ បណ្ណាល័យទាំងនេះជួយបំបែកការសម្រេចចិត្តរបស់ AI ដើម្បីបង្ហាញថាធាតុចូលណាដែលមានឥទ្ធិពលបំផុតសម្រាប់លទ្ធផលដែលបានផ្តល់ឱ្យ។ នៅពេលធ្វើបានត្រឹមត្រូវ ទិន្នន័យដែលផ្អែកលើការសម្រេចចិត្តរបស់ឧបករណ៍ AI អាចត្រូវបានប្រើដើម្បីប្រាប់រឿងដ៏មានឥទ្ធិពលមួយ។ ចូរយើងស្វែងយល់ពីសារៈសំខាន់នៃលក្ខណៈពិសេស និងភាពផ្ទុយគ្នា ហើយបង្ហាញពីរបៀបដែលវិទ្យាសាស្ត្រទិន្នន័យនៅពីក្រោយការសម្រេចចិត្តអាចត្រូវបានប្រើប្រាស់ដើម្បីបង្កើនបទពិសោធន៍របស់អ្នកប្រើប្រាស់។ ឥឡូវនេះ តោះគ្របដណ្តប់សារៈសំខាន់នៃមុខងារ ដោយមានជំនួយពីការពន្យល់ក្នុងស្រុក (ឧ. LIME) ទិន្នន័យ៖ វិធីសាស្រ្តនេះឆ្លើយថា "ហេតុអ្វីបានជា AI ធ្វើការណែនាំជាក់លាក់នេះសម្រាប់ខ្ញុំឥឡូវនេះ?" ជំនួសឱ្យការពន្យល់ទូទៅអំពីរបៀបដែលគំរូដំណើរការ វាផ្តល់នូវហេតុផលផ្តោតសំខាន់សម្រាប់ឧទាហរណ៍ជាក់លាក់តែមួយ។ វាមានលក្ខណៈផ្ទាល់ខ្លួន និងបរិបទ។ ឧទាហរណ៍៖ ស្រមៃមើលប្រព័ន្ធណែនាំតន្ត្រីដែលដំណើរការដោយ AI ដូចជា Spotify ជាដើម។ ការពន្យល់ក្នុងស្រុកនឹងឆ្លើយថា "ហេតុអ្វីបានជាប្រព័ន្ធណែនាំបទចម្រៀងជាក់លាក់នេះដោយ Adele ដល់អ្នកឥឡូវនេះ?" ការពន្យល់ប្រហែលជា៖ "ដោយសារតែថ្មីៗនេះអ្នកបានស្តាប់បទភ្លេង និងចម្រៀងមនោសញ្ចេតនាផ្សេងទៀតជាច្រើនដោយអ្នកចម្រៀងស្រី។"
ជាចុងក្រោយ យើងសូមលើកយកការរួមបញ្ចូលការពន្យល់ដោយផ្អែកលើតម្លៃ (ឧ. Shapley Additive Explanations (SHAP) data to a explanation of a decision: នេះគឺជាកំណែដែលមានលក្ខណៈខុសប្លែកពីគ្នានៃសារៈសំខាន់នៃមុខងារដែលឆ្លើយថា "តើកត្តានីមួយៗជំរុញការសម្រេចចិត្តដោយរបៀបណា? ឧទាហរណ៍៖ ស្រមៃថាធនាគារប្រើគំរូ AI ដើម្បីសម្រេចថាតើត្រូវយល់ព្រមលើពាក្យសុំកម្ចីដែរឬទេ។
សារៈសំខាន់នៃលក្ខណៈពិសេស៖ លទ្ធផលគំរូអាចបង្ហាញថាពិន្ទុឥណទាន ប្រាក់ចំណូល និងអនុបាតបំណុលទៅប្រាក់ចំណូលរបស់អ្នកដាក់ពាក្យគឺជាកត្តាសំខាន់បំផុតនៅក្នុងការសម្រេចចិត្តរបស់វា។ នេះឆ្លើយនូវអ្វីដែលសំខាន់។ សារៈសំខាន់នៃលក្ខណៈពិសេសជាមួយនឹងការពន្យល់ផ្អែកលើតម្លៃ (SHAP): តម្លៃ SHAP នឹងមានសារៈសំខាន់បន្ថែមទៀតដោយផ្អែកលើធាតុនៃគំរូ។
សម្រាប់ប្រាក់កម្ចីដែលបានអនុម័ត SHAP អាចបង្ហាញថាពិន្ទុឥណទានខ្ពស់ជំរុញការសម្រេចចិត្តឆ្ពោះទៅរកការអនុម័ត (ឥទ្ធិពលវិជ្ជមាន) ខណៈពេលដែលសមាមាត្របំណុលទៅប្រាក់ចំណូលខ្ពស់ជាងមធ្យមបន្តិចបានទាញវាចេញបន្តិច (ឥទ្ធិពលអវិជ្ជមាន) ប៉ុន្តែមិនគ្រប់គ្រាន់ដើម្បីបដិសេធប្រាក់កម្ចីនោះទេ។ សម្រាប់ប្រាក់កម្ចីដែលត្រូវបានបដិសេធ SHAP អាចបង្ហាញថាប្រាក់ចំណូលទាប និងចំនួនខ្ពស់នៃការសាកសួរឥណទានថ្មីៗបានជំរុញយ៉ាងខ្លាំងការសម្រេចចិត្តឆ្ពោះទៅរកការបដិសេធ ទោះបីជាពិន្ទុឥណទានសមរម្យក៏ដោយ។
នេះជួយមន្ត្រីប្រាក់កម្ចីពន្យល់អ្នកស្នើសុំលើសពីអ្វីដែលបានពិចារណា អំពីរបៀបដែលកត្តានីមួយៗបានរួមចំណែកដល់ការសម្រេចចិត្តចុងក្រោយ "បាទ/ចាស" ឬ "ទេ"។ វាជារឿងសំខាន់ក្នុងការទទួលស្គាល់ថាសមត្ថភាពក្នុងការផ្តល់ការពន្យល់ល្អ ជារឿយៗចាប់ផ្តើមលឿនជាងនៅក្នុងវដ្តនៃការអភិវឌ្ឍន៍។ អ្នកវិទ្យាសាស្ត្រ និងវិស្វករទិន្នន័យដើរតួនាទីយ៉ាងសំខាន់ដោយរៀបចំរចនាសម្ព័ន្ធគំរូ និងបំពង់បង្ហូរទិន្នន័យដោយចេតនាតាមរបៀបដែលគាំទ្រការពន្យល់ជាជាងការព្យាយាមបង្កើតវាតាមក្រោយ។ ក្រុមស្រាវជ្រាវ និងរចនាអាចជំរុញវាដោយចាប់ផ្តើមការសន្ទនាដំបូងជាមួយអ្នកវិទ្យាសាស្ត្រ និងវិស្វករទិន្នន័យអំពីតម្រូវការរបស់អ្នកប្រើប្រាស់សម្រាប់ការយល់ដឹង រួមចំណែកដល់ការអភិវឌ្ឍនៃម៉ែត្រដែលអាចពន្យល់បាន និងសហការបង្កើតការពន្យល់គំរូដើម្បីធានាថាពួកវាមានភាពត្រឹមត្រូវ និងងាយស្រួលប្រើ។ XAI និង Ethical AI: ពន្លាភាពលំអៀង និងការទទួលខុសត្រូវ លើសពីការកសាងទំនុកចិត្ត XAI ដើរតួនាទីយ៉ាងសំខាន់ក្នុងការដោះស្រាយផលប៉ះពាល់សីលធម៌ដ៏ជ្រាលជ្រៅនៃ AI* ជាពិសេសទាក់ទងនឹងភាពលំអៀងនៃក្បួនដោះស្រាយ។ បច្ចេកទេសដែលអាចពន្យល់បាន ដូចជាការវិភាគតម្លៃ SHAP អាចបង្ហាញថាតើការសម្រេចចិត្តរបស់គំរូត្រូវបានជះឥទ្ធិពលមិនសមាមាត្រដោយលក្ខណៈរសើបដូចជា ពូជសាសន៍ ភេទ ឬស្ថានភាពសេដ្ឋកិច្ចសង្គម បើទោះបីជាកត្តាទាំងនេះមិនត្រូវបានប្រើយ៉ាងច្បាស់ជាការបញ្ចូលដោយផ្ទាល់ក៏ដោយ។ ឧទាហរណ៍ ប្រសិនបើគំរូការអនុម័តប្រាក់កម្ចីផ្តល់តម្លៃអវិជ្ជមាន SHAP ដល់បេក្ខជនពីប្រជាសាស្រ្តជាក់លាក់មួយជាប់លាប់ នោះវាបង្ហាញពីភាពលំអៀងដែលអាចកើតមានដែលត្រូវការការស៊ើបអង្កេត ផ្តល់សិទ្ធិអំណាចដល់ក្រុមនានាក្នុងការបង្ហាញ និងកាត់បន្ថយលទ្ធផលមិនយុត្តិធម៌បែបនេះ។ ថាមពលរបស់ XAI ក៏ភ្ជាប់មកជាមួយសក្តានុពលសម្រាប់ "ការលាងសម្អាតដែលអាចពន្យល់បាន" ។ ដូចគ្នានឹង "ការលាងបៃតង" ធ្វើឱ្យអ្នកប្រើប្រាស់យល់ច្រឡំអំពីការអនុវត្តបរិស្ថាន ការលាងសម្អាតដែលអាចពន្យល់បានអាចកើតឡើងនៅពេលដែលការពន្យល់ត្រូវបានរចនាឡើងដើម្បីបិទបាំង ជាជាងបំភ្លឺ ឥរិយាបថក្បួនដោះស្រាយដែលមានបញ្ហា ឬភាពលំអៀងដែលកើតឡើង។ នេះអាចបង្ហាញថាជាការពន្យល់ដែលមានលក្ខណៈសាមញ្ញហួសហេតុ ដែលលុបចោលកត្តាដែលមានឥទ្ធិពលខ្លាំង ឬការពន្យល់ដែលកំណត់ជាយុទ្ធសាស្ត្រនាំឱ្យលទ្ធផលមើលទៅមានលក្ខណៈអព្យាក្រឹត ឬយុត្តិធម៌ជាងការពិត។ វាគូសបញ្ជាក់ពីទំនួលខុសត្រូវផ្នែកសីលធម៌របស់អ្នកអនុវត្ត UX ក្នុងការរចនាការពន្យល់ដែលមានតម្លាភាពពិតប្រាកដ និងអាចផ្ទៀងផ្ទាត់បាន។ អ្នកជំនាញ UX ដោយសហការជាមួយអ្នកវិទ្យាសាស្ត្រទិន្នន័យ និងអ្នកដែលមានក្រមសីលធម៌ មានទំនួលខុសត្រូវយ៉ាងសំខាន់ក្នុងការទំនាក់ទំនងពីមូលហេតុនៃការសម្រេចចិត្ត ក៏ដូចជាដែនកំណត់ និងលទ្ធភាពលំអៀងនៃគំរូ AI មូលដ្ឋាន។ នេះពាក់ព័ន្ធនឹងការកំណត់ការរំពឹងទុករបស់អ្នកប្រើប្រាស់ជាក់ស្តែងអំពីភាពត្រឹមត្រូវ AI កំណត់កន្លែងដែលគំរូអាចមិនសូវគួរឱ្យទុកចិត្ត និងផ្តល់បណ្តាញច្បាស់លាស់សម្រាប់ការទាមទារ ឬមតិកែលម្អនៅពេលដែលអ្នកប្រើប្រាស់យល់ឃើញថាលទ្ធផលមិនយុត្តិធម៌ ឬមិនត្រឹមត្រូវ។ ដោះស្រាយបញ្ហាទាំងនេះយ៉ាងសកម្មវិមាត្រសីលធម៌នឹងអនុញ្ញាតឱ្យយើងបង្កើតប្រព័ន្ធ AI ដែលពិតជាត្រឹមត្រូវ និងគួរឱ្យទុកចិត្ត។ ពីវិធីសាស្រ្តទៅគំរូ៖ គំរូការរចនា XAI ជាក់ស្តែង ការស្គាល់គំនិតជារឿងមួយ; ការរចនាពួកវាគឺមួយទៀត។ នេះជារបៀបដែលយើងអាចបកប្រែវិធីសាស្ត្រ XAI ទាំងនេះទៅជាគំរូរចនាវិចារណញាណ។ លំនាំទី 1: សេចក្តីថ្លែងការណ៍ "ដោយសារតែ" (សម្រាប់សារៈសំខាន់លក្ខណៈពិសេស) នេះគឺជាគំរូដ៏សាមញ្ញបំផុត និងជាញឹកញាប់បំផុតដែលមានប្រសិទ្ធភាពបំផុត។ វាគឺជាសេចក្តីថ្លែងការណ៍ផ្ទាល់ និងជាភាសាសាមញ្ញ ដែលបង្ហាញពីហេតុផលចម្បងសម្រាប់សកម្មភាពរបស់ AI ។
Heuristic: ត្រូវផ្ទាល់និងសង្ខេប។ ដឹកនាំដោយហេតុផលដែលមានឥទ្ធិពលបំផុតតែមួយគត់។ ជៀសវាងពាក្យចចាមអារ៉ាមគ្រប់ការចំណាយ។
ឧទាហរណ៍៖ ស្រមៃមើលសេវាកម្មចាក់តន្ត្រី។ ជំនួសឱ្យការគ្រាន់តែបង្ហាញបញ្ជីចាក់ "Discover Weekly" អ្នកបន្ថែមបន្ទាត់តូចមួយនៃមីក្រូថតចម្លង។ ការណែនាំបទចម្រៀង៖ "Velvet Morning" ពីព្រោះអ្នកស្តាប់ "The Fuzz" និងផ្ទាំងថ្មដែលគួរឱ្យចាប់អារម្មណ៍ផ្សេងទៀត។
លំនាំទី 2៖ អន្តរកម្ម "តើមានអ្វីប្រសិនបើ" (សម្រាប់ការប្រឆាំងការពិត) ការប្រឆាំងការពិតគឺមកពីការពង្រឹងអំណាច។ មធ្យោបាយដ៏ល្អបំផុតដើម្បីតំណាងឱ្យពួកគេគឺដោយផ្តល់ឱ្យអ្នកប្រើប្រាស់នូវឧបករណ៍អន្តរកម្មដើម្បីស្វែងរកលទ្ធភាពដោយខ្លួនឯង។ នេះគឺល្អឥតខ្ចោះសម្រាប់កម្មវិធីហិរញ្ញវត្ថុ សុខភាព ឬកម្មវិធីគោលដៅផ្សេងទៀត។
Heuristic៖ ធ្វើការពន្យល់អន្តរកម្ម និងផ្តល់អំណាច។ អនុញ្ញាតឱ្យអ្នកប្រើប្រាស់មើលឃើញមូលហេតុ និងឥទ្ធិពលនៃជម្រើសរបស់ពួកគេ។
ឧទាហរណ៍៖ ចំណុចប្រទាក់កម្មវិធីប្រាក់កម្ចី។ បន្ទាប់ពីការបដិសេធ ជំនួសឱ្យការបញ្ចប់ អ្នកប្រើប្រាស់ទទួលបានឧបករណ៍មួយដើម្បីកំណត់ពីរបៀបដែលសេណារីយ៉ូផ្សេងៗ (what-ifs) អាចបង្ហាញចេញ (សូមមើលរូបភាពទី 1)។
លំនាំទី 3៖ ការបន្លិច Reel (សម្រាប់ការពន្យល់ក្នុងតំបន់) នៅពេលដែល AI អនុវត្តសកម្មភាពលើខ្លឹមសាររបស់អ្នកប្រើប្រាស់ (ដូចជាការសង្ខេបឯកសារ ឬកំណត់អត្តសញ្ញាណមុខនៅក្នុងរូបថត) ការពន្យល់គួរតែត្រូវបានភ្ជាប់ដោយមើលឃើញទៅនឹងប្រភព។
Heuristic៖ ប្រើសញ្ញាដែលមើលឃើញដូចជាការបន្លិច គ្រោង ឬចំណារពន្យល់ ដើម្បីភ្ជាប់ការពន្យល់ដោយផ្ទាល់ទៅធាតុចំណុចប្រទាក់ដែលវាកំពុងពន្យល់។
ឧទាហរណ៍៖ ឧបករណ៍ AI ដែលសង្ខេបអត្ថបទវែងៗ។ ចំណុចសង្ខេបដែលបង្កើតដោយ AI៖ ការស្រាវជ្រាវដំបូងបានបង្ហាញពីគម្លាតទីផ្សារសម្រាប់ផលិតផលប្រកបដោយនិរន្តរភាព។ ប្រភពក្នុងឯកសារ៖ "... ការវិភាគ Q2 របស់យើងអំពីនិន្នាការទីផ្សារបានបង្ហាញឱ្យឃើញទាំងស្រុងថាគ្មានដៃគូប្រកួតប្រជែងធំណាមួយដែលមានប្រសិទ្ធភាពបម្រើអតិថិជនដែលយល់ដឹងអំពីបរិស្ថាន ដោយបង្ហាញពីគម្លាតទីផ្សារដ៏សំខាន់សម្រាប់ផលិតផលប្រកបដោយនិរន្តរភាព...
លំនាំទី 4៖ ទិដ្ឋភាពរុញ និងទាញ (សម្រាប់ការពន្យល់ដោយផ្អែកលើតម្លៃ) សម្រាប់ការសម្រេចចិត្តដ៏ស្មុគ្រស្មាញ អ្នកប្រើប្រាស់ប្រហែលជាត្រូវយល់អំពីអន្តរកម្មនៃកត្តា។ ការមើលឃើញទិន្នន័យសាមញ្ញអាចធ្វើឱ្យវាច្បាស់ដោយមិនមានភាពលើសលប់។
Heuristic៖ ប្រើការមើលឃើញទិន្នន័យដែលមានកូដពណ៌សាមញ្ញ (ដូចជាតារាងរបារ) ដើម្បីបង្ហាញពីកត្តាដែលជះឥទ្ធិពលជាវិជ្ជមាន និងអវិជ្ជមានលើការសម្រេចចិត្ត។
ឧទាហរណ៍៖ AI ពិនិត្យប្រវត្តិរូបបេក្ខជនសម្រាប់ការងារ។ មូលហេតុដែលបេក្ខជននេះត្រូវគ្នា 75%៖ កត្តាជំរុញឱ្យពិន្ទុកើនឡើង៖ បទពិសោធន៍ស្រាវជ្រាវ UX 5+ ឆ្នាំ ជំនាញក្នុង Python Factors ជំរុញឱ្យពិន្ទុធ្លាក់ចុះ៖ គ្មានបទពិសោធន៍ជាមួយ B2B SaaS
ការរៀន និងប្រើប្រាស់គំរូរចនាទាំងនេះនៅក្នុង UX នៃផលិតផល AI របស់អ្នកនឹងជួយបង្កើនការពន្យល់។ អ្នកក៏អាចប្រើបច្ចេកទេសបន្ថែម ដែលខ្ញុំមិនរៀបរាប់ស៊ីជម្រៅនៅទីនេះ។ នេះរួមបញ្ចូលដូចខាងក្រោមៈ
ការពន្យល់ជាភាសាធម្មជាតិ៖ ការបកប្រែលទ្ធផលបច្ចេកទេសរបស់ AI ទៅជាភាសាសន្ទនារបស់មនុស្សសាមញ្ញ ដែលអ្នកមិនមែនជាអ្នកជំនាញអាចយល់បានយ៉ាងងាយស្រួល។ ការពន្យល់តាមបរិបទ៖ ការផ្តល់នូវហេតុផលសម្រាប់លទ្ធផលរបស់ AI នៅពេលជាក់លាក់ និងទីតាំង វាមានជាប់ទាក់ទងបំផុតទៅនឹងភារកិច្ចរបស់អ្នកប្រើប្រាស់។ ការមើលឃើញដែលពាក់ព័ន្ធ៖ ការប្រើប្រាស់គំនូសតាង ក្រាហ្វ ឬផែនទីកំដៅ ដើម្បីបង្ហាញឱ្យឃើញនូវដំណើរការធ្វើការសម្រេចចិត្តរបស់ AI ធ្វើឱ្យទិន្នន័យស្មុគស្មាញមានលក្ខណៈវិចារណញាណ និងងាយស្រួលសម្រាប់អ្នកប្រើប្រាស់ក្នុងការចាប់យក។
កំណត់ចំណាំសម្រាប់ Front End៖ ការបកប្រែលទ្ធផលដែលអាចពន្យល់បានទាំងនេះទៅជាបទពិសោធន៍អ្នកប្រើប្រាស់ដែលគ្មានថ្នេរ ក៏បង្ហាញពីសំណុំនៃការពិចារណាបច្ចេកទេសផ្ទាល់ខ្លួនផងដែរ។ អ្នកអភិវឌ្ឍន៍ Front-end ជាញឹកញាប់ដោះស្រាយជាមួយការរចនា API ដើម្បីទាញយកទិន្នន័យពន្យល់ប្រកបដោយប្រសិទ្ធភាព និងផលប៉ះពាល់នៃការអនុវត្ត (ដូចជាការបង្កើតការពន្យល់តាមពេលវេលាជាក់ស្តែងសម្រាប់រាល់អន្តរកម្មរបស់អ្នកប្រើ) ត្រូវការការរៀបចំផែនការយ៉ាងប្រុងប្រយ័ត្ន ដើម្បីជៀសវាងភាពយឺតយ៉ាវ។ ឧទាហរណ៍នៃពិភពពិតមួយចំនួន ការដឹកជញ្ជូនរបស់ UPS Capital UPS ប្រើ AI ដើម្បីផ្តល់ "ពិន្ទុទំនុកចិត្តនៃការចែកចាយ" ទៅកាន់អាសយដ្ឋានដើម្បីទស្សន៍ទាយពីលទ្ធភាពនៃកញ្ចប់ដែលត្រូវបានលួច។ កម្មវិធី DeliveryDefense របស់ពួកគេវិភាគទិន្នន័យប្រវត្តិសាស្រ្តលើទីតាំង ប្រេកង់ការបាត់បង់ និងកត្តាផ្សេងៗទៀត។ ប្រសិនបើអាស័យដ្ឋានមានពិន្ទុទាប ប្រព័ន្ធអាចប្តូរទីតាំងកញ្ចប់ទៅចំណុចចូលប្រើប្រាស់ UPS សុវត្ថិភាព ដោយផ្តល់ការពន្យល់សម្រាប់ការសម្រេចចិត្ត (ឧ. "កញ្ចប់ប្តូរទិសទៅទីតាំងសុវត្ថិភាព ដោយសារប្រវត្តិនៃការលួច")។ ប្រព័ន្ធនេះបង្ហាញពីរបៀបដែល XAI អាចត្រូវបានប្រើសម្រាប់ការកាត់បន្ថយហានិភ័យ និងការកសាងទំនុកចិត្តរបស់អតិថិជនតាមរយៈតម្លាភាព។ យានជំនិះស្វយ័ត យានជំនិះទាំងនេះនាពេលអនាគតនឹងត្រូវប្រើប្រាស់ XAI ប្រកបដោយប្រសិទ្ធភាព ដើម្បីជួយឱ្យយានជំនិះរបស់ពួកគេធ្វើការសម្រេចចិត្តប្រកបដោយសុវត្ថិភាព និងអាចពន្យល់បាន។ នៅពេលដែលរថយន្តដែលបើកបរដោយខ្លួនឯងបានចាប់ហ្វ្រាំងភ្លាមៗនោះ ប្រព័ន្ធអាចផ្តល់នូវការពន្យល់ក្នុងពេលជាក់ស្តែងសម្រាប់សកម្មភាពរបស់វា ឧទាហរណ៍ តាមរយៈការកំណត់អត្តសញ្ញាណអ្នកថ្មើរជើងដែលកំពុងចូលទៅក្នុងផ្លូវ។ នេះមិនត្រឹមតែមានសារៈសំខាន់សម្រាប់ការលួងលោម និងទំនុកចិត្តរបស់អ្នកដំណើរប៉ុណ្ណោះទេ ប៉ុន្តែជាតម្រូវការបទប្បញ្ញត្តិដើម្បីបញ្ជាក់អំពីសុវត្ថិភាព និងការទទួលខុសត្រូវនៃប្រព័ន្ធ AI ។ IBM Watson Health (និងបញ្ហាប្រឈមរបស់វា) ខណៈពេលដែលត្រូវបានលើកឡើងជាញឹកញាប់ជាឧទាហរណ៍ទូទៅនៃ AI ក្នុងការថែទាំសុខភាព វាក៏ជាករណីសិក្សាដ៏មានតម្លៃសម្រាប់សារៈសំខាន់នៃ XAI ផងដែរ។ ការបរាជ័យនៃគម្រោង Watson for Oncology របស់ខ្លួនបង្ហាញពីអ្វីដែលអាចខុសនៅពេលដែលការពន្យល់មិនច្បាស់លាស់ ឬនៅពេលដែលទិន្នន័យមូលដ្ឋានមានភាពលំអៀង ឬមិនបានធ្វើមូលដ្ឋានីយកម្ម។ ការណែនាំរបស់ប្រព័ន្ធនេះ ពេលខ្លះមិនស៊ីសង្វាក់គ្នានឹងការអនុវត្តគ្លីនិកក្នុងតំបន់ ព្រោះវាផ្អែកលើគោលការណ៍ណែនាំដែលផ្តោតលើសហរដ្ឋអាមេរិក។ នេះដើរតួជារឿងនិទានព្រមានអំពីតម្រូវការសម្រាប់ការពន្យល់យ៉ាងរឹងមាំ និងដឹងពីបរិបទ។ តួនាទីរបស់អ្នកស្រាវជ្រាវ UX៖ កំណត់ និងបញ្ជាក់ការពន្យល់ត្រឹមត្រូវ។ ដំណោះស្រាយរចនារបស់យើងមានប្រសិទ្ធភាពលុះត្រាតែពួកគេឆ្លើយសំណួរអ្នកប្រើប្រាស់ត្រឹមត្រូវនៅពេលត្រឹមត្រូវ។ ការពន្យល់ដែលឆ្លើយសំណួរដែលអ្នកប្រើប្រាស់មិនមានគឺគ្រាន់តែជាសំលេងរំខានប៉ុណ្ណោះ។ នេះគឺជាកន្លែងដែលការស្រាវជ្រាវ UX ក្លាយជាជាលិកាភ្ជាប់ដ៏សំខាន់នៅក្នុងយុទ្ធសាស្រ្ត XAI ដោយធានាថាយើងពន្យល់ពីអ្វី និងរបៀបដែលវាមានសារៈសំខាន់ចំពោះអ្នកប្រើប្រាស់របស់យើង។ តួនាទីរបស់អ្នកស្រាវជ្រាវមានពីរយ៉ាង៖ ទីមួយ ប្រាប់ពីយុទ្ធសាស្ត្រដោយកំណត់កន្លែងដែលត្រូវការការពន្យល់ និងទីពីរ ដើម្បីបញ្ជាក់ភាពត្រឹមត្រូវនៃការរចនាដែលផ្តល់ការពន្យល់ទាំងនោះ។ ការជូនដំណឹងអំពីយុទ្ធសាស្ត្រ XAI (អ្វីដែលត្រូវពន្យល់) មុននឹងយើងអាចរចនាការពន្យល់តែមួយ យើងត្រូវយល់ពីគំរូផ្លូវចិត្តរបស់អ្នកប្រើប្រាស់នៃប្រព័ន្ធ AI ។ តើពួកគេជឿថាវាធ្វើអ្វី? តើគម្លាតរវាងការយល់ដឹងរបស់ពួកគេ និងការពិតរបស់ប្រព័ន្ធនៅឯណា? នេះគឺជាការងារមូលដ្ឋានរបស់អ្នកស្រាវជ្រាវ UX ។ សំភាសន៍គំរូផ្លូវចិត្ត៖ ពន្លាការយល់ឃើញរបស់អ្នកប្រើនៃប្រព័ន្ធ AI តាមរយៈការសម្ភាសន៍ពាក់កណ្តាលរចនាសម្ព័ន្ធស៊ីជម្រៅ អ្នកអនុវត្ត UX អាចទទួលបានការយល់ដឹងដ៏មានតម្លៃចំពោះរបៀបដែលអ្នកប្រើប្រាស់យល់ឃើញ និងយល់ពីប្រព័ន្ធ AI ។ វគ្គទាំងនេះត្រូវបានរចនាឡើងដើម្បីលើកទឹកចិត្តអ្នកប្រើប្រាស់ឱ្យគូរ ឬពិពណ៌នាអំពី "គំរូផ្លូវចិត្ត" ខាងក្នុងរបស់ពួកគេអំពីរបៀបដែលពួកគេជឿថា AI ដំណើរការ។ ជារឿយៗវាពាក់ព័ន្ធនឹងការសួរសំណួរបើកចំហដែលជំរុញឱ្យអ្នកប្រើប្រាស់ពន្យល់អំពីតក្កវិជ្ជានៃប្រព័ន្ធ ធាតុចូល និងលទ្ធផលរបស់វា ក៏ដូចជាទំនាក់ទំនងរវាងធាតុទាំងនេះ។ ការសំភាសន៍ទាំងនេះមានអានុភាពខ្លាំង ព្រោះវាជារឿយៗបង្ហាញពីការយល់ខុស និងការសន្មត់យ៉ាងជ្រាលជ្រៅដែលអ្នកប្រើប្រាស់ប្រកាន់យកអំពី AI ។ ជាឧទាហរណ៍ អ្នកប្រើប្រាស់ដែលធ្វើអន្តរកម្មជាមួយម៉ាស៊ីនណែនាំអាចអះអាងដោយទំនុកចិត្តថាប្រព័ន្ធគឺផ្អែកលើប្រវត្តិមើលពីមុនរបស់ពួកគេសុទ្ធសាធ។ ពួកគេប្រហែលជាមិនដឹងថា ក្បួនដោះស្រាយនេះក៏រួមបញ្ចូលកត្តាជាច្រើនផ្សេងទៀតផងដែរ ដូចជាពេលវេលានៃថ្ងៃដែលពួកគេកំពុងរុករក ធាតុដែលកំពុងពេញនិយមនាពេលបច្ចុប្បន្ននៅលើវេទិកា ឬសូម្បីតែទម្លាប់មើលរបស់អ្នកប្រើប្រាស់ស្រដៀងគ្នា។ ការលាតត្រដាងគម្លាតរវាងគំរូផ្លូវចិត្តរបស់អ្នកប្រើ និងតក្កវិជ្ជា AI មូលដ្ឋានពិតជាមានសារៈសំខាន់ណាស់។ វាប្រាប់យើងយ៉ាងជាក់លាក់នូវព័ត៌មានជាក់លាក់ណាមួយដែលយើងត្រូវទំនាក់ទំនងជាមួយអ្នកប្រើប្រាស់ ដើម្បីជួយពួកគេបង្កើតគំរូផ្លូវចិត្តដ៏ត្រឹមត្រូវ និងរឹងមាំនៃប្រព័ន្ធ។ នេះជាជំហានសំខាន់មួយក្នុងការពង្រឹងទំនុកចិត្ត។ នៅពេលដែលអ្នកប្រើប្រាស់យល់ សូម្បីតែនៅកម្រិតខ្ពស់ របៀបដែល AI មកដល់ការសន្និដ្ឋាន ឬការណែនាំរបស់វា ពួកគេទំនងជាជឿជាក់លើលទ្ធផលរបស់វា ហើយពឹងផ្អែកលើមុខងាររបស់វា។ AI Journey Mapping: ការជ្រមុជទឹកជ្រៅទៅក្នុងទំនុកចិត្តរបស់អ្នកប្រើ និងការពន្យល់ តាមរយៈការគូសផែនទីដំណើររបស់អ្នកប្រើប្រាស់យ៉ាងល្អិតល្អន់ជាមួយនឹងមុខងារដែលដំណើរការដោយ AI យើងទទួលបានការយល់ដឹងដែលមិនអាចកាត់ថ្លៃបានចំពោះពេលវេលាច្បាស់លាស់ដែលការភ័ន្តច្រឡំ ការខកចិត្ត ឬសូម្បីតែការមិនទុកចិត្តយ៉ាងជ្រាលជ្រៅកើតឡើង។ នេះបង្ហាញពីចំណុចប្រទាក់សំខាន់ៗ ដែលគំរូផ្លូវចិត្តរបស់អ្នកប្រើប្រាស់អំពីរបៀបដែល AI ដំណើរការប៉ះទង្គិចជាមួយនឹងអាកប្បកិរិយាជាក់ស្តែងរបស់វា។ ពិចារណាលើសេវាកម្មចាក់តន្ត្រី៖ តើការជឿទុកចិត្តរបស់អ្នកប្រើប្រាស់ធ្លាក់ចុះនៅពេលដែលការណែនាំបញ្ជីចាក់មានអារម្មណ៍ថា "ចៃដន្យ" ខ្វះការតភ្ជាប់ដែលអាចយល់បានចំពោះទម្លាប់ស្តាប់ពីមុនរបស់ពួកគេ ឬចំណូលចិត្តដែលបានបញ្ជាក់ដែរឬទេ? ភាពចៃដន្យដែលយល់ឃើញនេះគឺជាការប្រឈមផ្ទាល់ទៅនឹងការរំពឹងទុករបស់អ្នកប្រើប្រាស់ចំពោះការព្យាបាលដ៏ឆ្លាតវៃ និងការរំលោភលើការសន្យាជាក់ស្តែងដែល AI យល់ពីរសជាតិរបស់ពួកគេ។ ស្រដៀងគ្នានេះដែរ នៅក្នុងកម្មវិធីគ្រប់គ្រងរូបថត តើអ្នកប្រើប្រាស់ជួបប្រទះនឹងការខកចិត្តខ្លាំងនៅពេលដែលមុខងារ AI photo-tagging កំណត់អត្តសញ្ញាណសមាជិកគ្រួសារដែលគួរឱ្យស្រឡាញ់នោះមិនត្រឹមត្រូវ? កំហុសនេះគឺច្រើនជាងកំហុសបច្ចេកទេស។ វាផ្តោតសំខាន់លើភាពត្រឹមត្រូវ ការកំណត់ផ្ទាល់ខ្លួន និងសូម្បីតែទំនាក់ទំនងអារម្មណ៍។ ចំណុចឈឺចាប់ទាំងនេះគឺជាសញ្ញាដ៏រស់រវើកដែលបង្ហាញយ៉ាងច្បាស់ពីកន្លែងដែលការពន្យល់ច្បាស់លាស់ ច្បាស់លាស់ និងសង្ខេបគឺចាំបាច់។ ការពន្យល់បែបនេះបម្រើជាយន្តការជួសជុលដ៏សំខាន់ ដោយដោះស្រាយការរំលោភលើទំនុកចិត្តដែលប្រសិនបើទុកចោលដោយមិនបានដោះស្រាយ អាចនាំឱ្យអ្នកប្រើប្រាស់បោះបង់ចោល។ ថាមពលនៃផែនទីធ្វើដំណើរ AI ស្ថិតនៅក្នុងសមត្ថភាពរបស់វាក្នុងការផ្លាស់ទីយើងលើសពីការពន្យល់ពីលទ្ធផលចុងក្រោយនៃប្រព័ន្ធ AI ។ ខណៈពេលដែលការយល់ដឹងពីអ្វីដែល AI ផលិតគឺសំខាន់ វាជារឿយៗមិនគ្រប់គ្រាន់ទេ។ ផ្ទុយទៅវិញ ដំណើរការនេះបង្ខំយើងឱ្យផ្តោតលើការពន្យល់អំពីដំណើរការនៅគ្រាដ៏សំខាន់។ នេះមានន័យថាការដោះស្រាយ៖
ហេតុអ្វីបានជាទិន្នផលជាក់លាក់មួយត្រូវបានបង្កើត៖ តើវាដោយសារតែទិន្នន័យបញ្ចូលជាក់លាក់? ស្ថាបត្យកម្មគំរូជាក់លាក់? កត្តាអ្វីខ្លះដែលមានឥទ្ធិពលលើការសម្រេចចិត្តរបស់ AI៖ តើលក្ខណៈពិសេសមួយចំនួនមានទម្ងន់ធ្ងន់ជាងនេះទេ? របៀបដែល AI ឈានដល់ការសន្និដ្ឋានរបស់វា៖ តើយើងអាចផ្តល់នូវការពន្យល់សាមញ្ញ និងស្រដៀងគ្នានៃការងារផ្ទៃក្នុងរបស់វាបានទេ? តើការសន្មត់អ្វីខ្លះដែល AI បានធ្វើ៖ តើមានការយល់ដឹងដោយប្រយោលអំពីចេតនា ឬទិន្នន័យរបស់អ្នកប្រើប្រាស់ដែលចាំបាច់ត្រូវបង្ហាញទេ? អ្វីដែលដែនកំណត់របស់ AI គឺ៖ ការប្រាស្រ័យទាក់ទងយ៉ាងច្បាស់នូវអ្វីដែល AI មិនអាចធ្វើបាន ឬកន្លែងដែលភាពត្រឹមត្រូវរបស់វាអាចនឹងផ្លាស់ប្តូរ បង្កើតការរំពឹងទុកជាក់ស្តែង។
ផែនទីដំណើរ AI បំប្លែងគំនិតអរូបីនៃ XAI ទៅជាក្របខ័ណ្ឌអនុវត្តជាក់ស្តែង និងអាចអនុវត្តបានសម្រាប់អ្នកអនុវត្ត UX ។ វាអនុញ្ញាតឱ្យយើងផ្លាស់ទីលើសពីការពិភាក្សាទ្រឹស្តីនៃភាពអាចពន្យល់បាន ហើយជំនួសឱ្យការចង្អុលបង្ហាញពីពេលវេលាពិតប្រាកដដែលការជឿទុកចិត្តរបស់អ្នកប្រើប្រាស់មានជាប់ពាក់ព័ន្ធ ដោយផ្តល់នូវការយល់ដឹងចាំបាច់ដើម្បីកសាងបទពិសោធន៍ AI ដែលមានឥទ្ធិពល តម្លាភាព យល់បាន និងគួរឱ្យទុកចិត្ត។ ទីបំផុត ការស្រាវជ្រាវគឺជារបៀបដែលយើងរកឃើញអ្វីដែលមិនស្គាល់។ ក្រុមរបស់អ្នកប្រហែលជាកំពុងជជែកគ្នាអំពីរបៀបពន្យល់ពីមូលហេតុដែលកម្ចីត្រូវបានបដិសេធ ប៉ុន្តែការស្រាវជ្រាវអាចបង្ហាញថាអ្នកប្រើប្រាស់មានការព្រួយបារម្ភខ្លាំងជាងក្នុងការយល់ដឹងពីរបៀបដែលទិន្នន័យរបស់ពួកគេត្រូវបានប្រើប្រាស់តាំងពីដំបូង។ បើគ្មានការស្រាវជ្រាវទេ យើងគ្រាន់តែទាយពីអ្វីដែលអ្នកប្រើប្រាស់របស់យើងឆ្ងល់។ សហការលើការរចនា (របៀបពន្យល់ AI របស់អ្នក) នៅពេលដែលការស្រាវជ្រាវបានកំណត់នូវអ្វីដែលត្រូវពន្យល់ រង្វិលជុំសហការជាមួយនឹងការរចនានឹងចាប់ផ្តើម។ អ្នករចនាអាចបង្កើតគំរូគំរូដែលយើងបានពិភាក្សាពីមុន - សេចក្តីថ្លែងការណ៍ "ដោយសារតែ" គ្រាប់រំកិលអន្តរកម្ម - និងអ្នកស្រាវជ្រាវអាចដាក់ការរចនាទាំងនោះនៅចំពោះមុខអ្នកប្រើប្រាស់ដើម្បីមើលថាតើពួកគេកាន់ឬអត់។ ការធ្វើតេស្តលទ្ធភាពប្រើប្រាស់ និងការយល់ដឹងគោលដៅ៖ យើងអាចរចនាការសិក្សាស្រាវជ្រាវដែលសាកល្បងជាពិសេសទៅលើសមាសធាតុ XAI ។ យើងមិនគ្រាន់តែសួរថា "តើវាងាយស្រួលប្រើទេ?" យើងសួរថា "បន្ទាប់ពីឃើញរឿងនេះ តើអ្នកអាចប្រាប់ខ្ញុំតាមពាក្យរបស់អ្នកបានទេថាហេតុអ្វីបានជាប្រព័ន្ធណែនាំផលិតផលនេះ?" ឬ "បង្ហាញខ្ញុំពីអ្វីដែលអ្នកនឹងធ្វើ ដើម្បីមើលថាតើអ្នកអាចទទួលបានលទ្ធផលផ្សេងឬអត់។" គោលដៅនៅទីនេះគឺដើម្បីវាស់ស្ទង់ការយល់ដឹង និងសមត្ថភាពធ្វើសកម្មភាព រួមជាមួយនឹងលទ្ធភាពប្រើប្រាស់។ ការវាស់ស្ទង់ទំនុកចិត្តខ្លួនឯង៖ យើងអាចប្រើការស្ទង់មតិសាមញ្ញ និងមាត្រដ្ឋានវាយតម្លៃមុន និងបន្ទាប់ពីការពន្យល់ត្រូវបានបង្ហាញ។ ជាឧទាហរណ៍ យើងអាចសួរអ្នកប្រើប្រាស់លើមាត្រដ្ឋាន 5 ចំណុចថា "តើអ្នកជឿជាក់លើការណែនាំនេះប៉ុន្មាន?" មុនពេលពួកគេឃើញសេចក្តីថ្លែងការណ៍ "ដោយសារតែ" ហើយបន្ទាប់មកសួរពួកគេម្តងទៀតនៅពេលក្រោយ។ នេះផ្តល់នូវទិន្នន័យបរិមាណថាតើការពន្យល់របស់យើងពិតជាផ្លាស់ទីម្ជុលលើការជឿទុកចិត្តឬអត់។ ដំណើរការនេះបង្កើតជារង្វិលជុំដែលមានអនុភាព។ លទ្ធផលស្រាវជ្រាវប្រាប់ពីការរចនាដំបូង។ បន្ទាប់មកការរចនានោះត្រូវបានសាកល្បង ហើយការរកឃើញថ្មីត្រូវបានផ្តល់ត្រឡប់ទៅក្រុមរចនាសម្រាប់ការកែលម្អ។ ប្រហែលជាសេចក្តីថ្លែងការណ៍ "ដោយសារតែ" គឺហួសហេតុពេក ឬគ្រាប់រំកិល "តើមានអ្វីប្រសិនបើ" មានភាពច្របូកច្របល់ជាងការផ្តល់អំណាច។ តាមរយៈសុពលភាពនៃការសហការនេះ យើងធានាថាការពន្យល់ចុងក្រោយគឺត្រឹមត្រូវតាមលក្ខណៈបច្ចេកទេស អាចយល់បាន មានប្រយោជន៍ និងការកសាងទំនុកចិត្តសម្រាប់អ្នកប្រើប្រាស់ផលិតផល។ តំបន់ Goldilocks នៃការពន្យល់ ពាក្យប្រយ័ត្នប្រយែង៖ អាចពន្យល់ហួសហេតុ។ ដូចនៅក្នុងរឿងនិទាន ដែល Goldilocks ស្វែងរកបបរដែល 'ត្រឹមត្រូវ' នោះ គោលដៅនៃការពន្យល់ដ៏ល្អគឺផ្តល់ព័ត៌មានលម្អិតត្រឹមត្រូវ - មិនច្រើនពេក និងមិនតិចពេក។ ការទម្លាក់អ្នកប្រើប្រាស់ជាមួយនឹងអថេរនីមួយៗនៅក្នុងគំរូនឹងនាំទៅដល់ការលើសទម្ងន់នៃការយល់ដឹង ហើយពិតជាអាចកាត់បន្ថយការជឿទុកចិត្តបាន។ គោលដៅគឺមិនធ្វើឱ្យអ្នកប្រើប្រាស់ក្លាយជាអ្នកវិទ្យាសាស្ត្រទិន្នន័យនោះទេ។ ដំណោះស្រាយមួយគឺការលាតត្រដាងជាលំដាប់។
ចាប់ផ្តើមជាមួយសាមញ្ញ។ ដឹកនាំជាមួយសេចក្តីថ្លែងការណ៍សង្ខេប "ដោយសារតែ" ។ សម្រាប់អ្នកប្រើប្រាស់ភាគច្រើន វានឹងគ្រប់គ្រាន់ហើយ។ ផ្តល់ផ្លូវឱ្យលម្អិត។ ផ្តល់នូវតំណភ្ជាប់ដែលមានភាពកកិតទាបដូចជា "ស្វែងយល់បន្ថែម" ឬ "មើលពីរបៀបដែលវាត្រូវបានកំណត់។" បង្ហាញភាពស្មុគស្មាញ។ នៅពីក្រោយតំណភ្ជាប់នោះ អ្នកអាចផ្តល់ជូននូវផ្ទាំងរំកិលអន្តរកម្ម ការមើលឃើញ ឬបញ្ជីលម្អិតបន្ថែមទៀតនៃកត្តារួមចំណែក។
វិធីសាស្រ្តជាស្រទាប់នេះគោរពការយកចិត្តទុកដាក់ និងជំនាញរបស់អ្នកប្រើប្រាស់ ដោយផ្តល់នូវបរិមាណត្រឹមត្រូវ។ព័ត៌មានសម្រាប់តម្រូវការរបស់ពួកគេ។ សូមស្រមៃថាអ្នកកំពុងប្រើឧបករណ៍ផ្ទះឆ្លាតវៃដែលណែនាំកំដៅល្អបំផុតដោយផ្អែកលើកត្តាផ្សេងៗ។ ចាប់ផ្តើមជាមួយរឿងសាមញ្ញ៖ "បច្ចុប្បន្នផ្ទះរបស់អ្នកត្រូវបានកំដៅដល់ 72 ដឺក្រេ ដែលជាសីតុណ្ហភាពល្អបំផុតសម្រាប់ការសន្សំថាមពល និងការលួងលោម" ។ ផ្តល់ផ្លូវឱ្យលម្អិត៖ ខាងក្រោមតំណ ឬប៊ូតុងតូចមួយ៖ "ហេតុអ្វីបានជា 72 ដឺក្រេល្អបំផុត?" បង្ហាញភាពស្មុគ្រស្មាញ៖ ការចុចតំណនោះអាចបើកអេក្រង់ថ្មីដែលបង្ហាញ៖
គ្រាប់រំកិលអន្តរកម្មសម្រាប់សីតុណ្ហភាព សំណើមខាងក្រៅ និងកម្រិតផាសុកភាពដែលអ្នកពេញចិត្ត ដោយបង្ហាញពីរបៀបដែលឧបករណ៍ទាំងនេះកែតម្រូវសីតុណ្ហភាពដែលបានណែនាំ។ ការមើលឃើញនៃការប្រើប្រាស់ថាមពលនៅសីតុណ្ហភាពខុសៗគ្នា។ បញ្ជីនៃកត្តារួមចំណែកដូចជា "ពេលវេលានៃថ្ងៃ" "សីតុណ្ហភាពខាងក្រៅបច្ចុប្បន្ន" "ការប្រើប្រាស់ថាមពលប្រវត្តិសាស្រ្ត" និង "ឧបករណ៍ចាប់សញ្ញាវត្តមាន" ។
វាមានប្រសិទ្ធភាពក្នុងការបញ្ចូលគ្នានូវវិធីសាស្រ្ត XAI ជាច្រើន និងគំរូ Goldilocks Zone of Explanation ដែលតស៊ូមតិសម្រាប់ការបង្ហាញជាបណ្តើរៗ លើកទឹកចិត្តដោយប្រយោល។ អ្នកអាចចាប់ផ្តើមជាមួយនឹងសេចក្តីថ្លែងការណ៍ "ដោយសារតែ" សាមញ្ញ (លំនាំទី 1) សម្រាប់ការយល់ដឹងភ្លាមៗ ហើយបន្ទាប់មកផ្តល់នូវតំណភ្ជាប់ "ស្វែងយល់បន្ថែម" ដែលបង្ហាញពីអន្តរកម្ម "តើមានអ្វីប្រសិនបើ" (លំនាំទី 2) ឬ "ការរុញនិងទាញរូបភាព" (លំនាំទី 4) សម្រាប់ការរុករកកាន់តែស៊ីជម្រៅ។ ជាឧទាហរណ៍ ប្រព័ន្ធកម្មវិធីប្រាក់កម្ចីអាចប្រាប់ពីមូលហេតុចម្បងសម្រាប់ការបដិសេធ (សារៈសំខាន់នៃលក្ខណៈពិសេស) បន្ទាប់មកអនុញ្ញាតឱ្យអ្នកប្រើប្រាស់ធ្វើអន្តរកម្មជាមួយឧបករណ៍ "What-If" ដើម្បីមើលពីរបៀបដែលការផ្លាស់ប្តូរប្រាក់ចំណូល ឬបំណុលរបស់ពួកគេនឹងផ្លាស់ប្តូរលទ្ធផល (ការប្រឆាំង) ហើយចុងក្រោយផ្តល់នូវតារាង "ការរុញនិងទាញ" លម្អិត (ការពន្យល់ផ្អែកលើតម្លៃ) ដើម្បីបង្ហាញ និងបង្ហាញពីកត្តាវិជ្ជមានទាំងអស់។ វិធីសាស្រ្តជាស្រទាប់នេះអនុញ្ញាតឱ្យអ្នកប្រើប្រាស់ចូលទៅកាន់កម្រិតនៃព័ត៌មានលម្អិតដែលពួកគេត្រូវការ នៅពេលដែលពួកគេត្រូវការវា ដោយការពារការលើសទម្ងន់នៃការយល់ដឹងខណៈពេលដែលនៅតែផ្តល់នូវតម្លាភាពដ៏ទូលំទូលាយ។ ការកំណត់ថាតើឧបករណ៍ និងវិធីសាស្ត្រ XAI ណាដែលត្រូវប្រើគឺជាមុខងារនៃការស្រាវជ្រាវ UX យ៉ាងម៉ត់ចត់។ ការសំភាសន៍គំរូផ្លូវចិត្ត និងការគូសផែនទីការធ្វើដំណើរ AI គឺមានសារៈសំខាន់សម្រាប់ការចង្អុលបង្ហាញពីតម្រូវការរបស់អ្នកប្រើប្រាស់ និងចំណុចឈឺចាប់ទាក់ទងនឹងការយល់ដឹង និងការជឿទុកចិត្តរបស់ AI ។ ការសំភាសន៍គំរូផ្លូវចិត្តជួយបង្ហាញការយល់ខុសរបស់អ្នកប្រើប្រាស់អំពីរបៀបដែល AI ដំណើរការ ដោយបង្ហាញពីតំបន់ដែលត្រូវការការពន្យល់ជាមូលដ្ឋាន (ដូចជាសារៈសំខាន់នៃមុខងារ ឬការពន្យល់ក្នុងតំបន់)។ ម៉្យាងវិញទៀត ផែនទីធ្វើដំណើររបស់ AI កំណត់ពេលវេលាដ៏សំខាន់នៃការភ័ន្តច្រឡំ ឬការមិនទុកចិត្តលើអន្តរកម្មរបស់អ្នកប្រើជាមួយ AI ដែលជាសញ្ញាដែលការពន្យល់លម្អិត ឬអន្តរកម្មកាន់តែច្រើន (ដូចជាការពន្យល់មិនពិត ឬការពន្យល់ផ្អែកលើតម្លៃ) នឹងមានប្រយោជន៍បំផុតក្នុងការកសាងទំនុកចិត្តឡើងវិញ និងផ្តល់ទីភ្នាក់ងារ។
ទីបំផុត មធ្យោបាយដ៏ល្អបំផុតក្នុងការជ្រើសរើសបច្ចេកទេសគឺអនុញ្ញាតឱ្យការស្រាវជ្រាវរបស់អ្នកប្រើប្រាស់ណែនាំការសម្រេចចិត្តរបស់អ្នក ដោយធានាថាការពន្យល់ដែលអ្នករចនាឆ្លើយតបដោយផ្ទាល់នូវសំណួរ និងកង្វល់របស់អ្នកប្រើប្រាស់ ជាជាងគ្រាន់តែផ្តល់ព័ត៌មានលម្អិតបច្ចេកទេសសម្រាប់ជាប្រយោជន៍ផ្ទាល់ខ្លួនរបស់ពួកគេ។ XAI សម្រាប់ភ្នាក់ងារហេតុផលជ្រៅ ប្រព័ន្ធ AI ថ្មីបំផុតមួយចំនួនដែលត្រូវបានគេស្គាល់ថាជាភ្នាក់ងារហេតុផលស៊ីជម្រៅ បង្កើត "ខ្សែសង្វាក់នៃការគិត" ច្បាស់លាស់សម្រាប់រាល់កិច្ចការស្មុគស្មាញ។ ពួកគេមិនគ្រាន់តែដកស្រង់ប្រភពប៉ុណ្ណោះទេ។ ពួកគេបង្ហាញពីផ្លូវឡូជីខល ជាជំហានៗ ដែលពួកគេបានឈានទៅដល់ការសន្និដ្ឋានមួយ។ ខណៈពេលដែលតម្លាភាពនេះផ្តល់នូវបរិបទដ៏មានតម្លៃ ការលេងម្តងមួយៗដែលលាតសន្ធឹងកថាខណ្ឌជាច្រើនអាចមានអារម្មណ៍ខ្លាំងចំពោះអ្នកប្រើប្រាស់ដែលគ្រាន់តែព្យាយាមបំពេញកិច្ចការមួយ។ គោលការណ៍នៃ XAI ជាពិសេស Goldilocks Zone of Explanation អនុវត្តដោយផ្ទាល់នៅទីនេះ។ យើងអាចរៀបចំដំណើរបាន ដោយប្រើការបង្ហាញជាបណ្តើរៗ ដើម្បីបង្ហាញតែការសន្និដ្ឋានចុងក្រោយ និងជំហានដ៏សំខាន់បំផុតក្នុងដំណើរការគិតជាមុនសិន។ បន្ទាប់មក អ្នកប្រើប្រាស់អាចជ្រើសរើសដើម្បីមើលហេតុផលពេញលេញ លម្អិត និងច្រើនជំហាន នៅពេលដែលពួកគេត្រូវការពិនិត្យមើលតក្កវិជ្ជាពីរដង ឬស្វែងរកការពិតជាក់លាក់មួយ។ វិធីសាស្រ្តនេះគោរពការយកចិត្តទុកដាក់របស់អ្នកប្រើប្រាស់ ខណៈពេលដែលរក្សាតម្លាភាពពេញលេញរបស់ភ្នាក់ងារ។ ជំហានបន្ទាប់៖ ពង្រឹងការធ្វើដំណើរ XAI របស់អ្នក។ ភាពអាចពន្យល់បានគឺជាសសរស្តម្ភជាមូលដ្ឋានសម្រាប់ការកសាងផលិតផល AI ដែលគួរឱ្យទុកចិត្ត និងមានប្រសិទ្ធភាព។ សម្រាប់អ្នកអនុវត្តកម្រិតខ្ពស់ដែលកំពុងស្វែងរកការជំរុញការផ្លាស់ប្តូរនេះនៅក្នុងអង្គភាពរបស់ពួកគេ ដំណើរនេះបានពង្រីកលើសពីគំរូនៃការរចនាទៅជាការតស៊ូមតិ និងការសិក្សាជាបន្តបន្ទាប់។ ដើម្បីបង្កើនការយល់ដឹង និងការអនុវត្តជាក់ស្តែងរបស់អ្នក សូមពិចារណាស្វែងរកធនធានដូចជា AI Explainability 360 (AIX360) toolkit ពី IBM Research ឬ Google's What-If Tool ដែលផ្តល់មធ្យោបាយអន្តរកម្មដើម្បីស្វែងរកអាកប្បកិរិយាគំរូ និងការពន្យល់។ ការចូលរួមជាមួយសហគមន៍ដូចជា វេទិកា AI ដែលមានទំនួលខុសត្រូវ ឬក្រុមស្រាវជ្រាវជាក់លាក់ដែលផ្តោតលើ AI ដែលផ្តោតលើមនុស្សអាចផ្តល់នូវការយល់ដឹងដ៏មានតម្លៃ និងឱកាសសហការ។ ជាចុងក្រោយ ក្លាយជាអ្នកតស៊ូមតិសម្រាប់ XAI នៅក្នុងស្ថាប័នផ្ទាល់ខ្លួនរបស់អ្នក។ការពន្យល់អំពីស៊ុមជាការវិនិយោគយុទ្ធសាស្ត្រ។ ពិចារណាអំពីការប្រកួតខ្លីមួយចំពោះការដឹកនាំរបស់អ្នកឬក្រុមដែលមានមុខងារឆ្លងកាត់៖ "តាមរយៈការវិនិយោគលើ XAI យើងនឹងលើសពីការកសាងទំនុកចិត្ត យើងនឹងពន្លឿនការអនុម័តរបស់អ្នកប្រើប្រាស់ កាត់បន្ថយការចំណាយលើការគាំទ្រដោយផ្តល់សិទ្ធិអំណាចដល់អ្នកប្រើប្រាស់ជាមួយនឹងការយល់ដឹង និងកាត់បន្ថយហានិភ័យផ្នែកសីលធម៌ និងបទប្បញ្ញត្តិសំខាន់ៗ ដោយបង្ហាញពីភាពលំអៀងដែលមានសក្តានុពល។ នេះគឺជាការរចនាដ៏ល្អ និងអាជីវកម្មឆ្លាតវៃ។"
សំឡេងរបស់អ្នកដែលផ្អែកលើការយល់ដឹងជាក់ស្តែង គឺមានសារៈសំខាន់ក្នុងការនាំយក AI ចេញពីប្រអប់ខ្មៅ និងចូលទៅក្នុងភាពជាដៃគូសហការជាមួយអ្នកប្រើប្រាស់។
