ໃນສິ້ນສຸດທ້າຍຂອງຂ້ອຍ, ພວກເຮົາໄດ້ສ້າງຄວາມຈິງພື້ນຖານ: ສໍາລັບຜູ້ໃຊ້ທີ່ຈະຮັບຮອງເອົາແລະອີງໃສ່ AI, ພວກເຂົາຕ້ອງໄວ້ວາງໃຈມັນ. ພວກເຮົາໄດ້ເວົ້າກ່ຽວກັບຄວາມໄວ້ວາງໃຈເປັນໂຄງສ້າງທີ່ຫຼາກຫຼາຍ, ສ້າງຂຶ້ນບົນພື້ນຖານຄວາມຮັບຮູ້ຂອງຄວາມສາມາດຂອງ AI, ຄວາມເມດຕາ, ຄວາມຊື່ສັດ, ແລະການຄາດເດົາ. ແຕ່ຈະເກີດຫຍັງຂຶ້ນເມື່ອ AI, ໃນຄວາມງຽບ, ສະຕິປັນຍາ algorithmic, ເຮັດໃຫ້ການຕັດສິນໃຈທີ່ເຮັດໃຫ້ຜູ້ໃຊ້ສັບສົນ, ທໍ້ຖອຍໃຈ, ຫຼືແມ້ກະທັ້ງເຈັບປວດ? ຄໍາຮ້ອງສະຫມັກການຈໍານອງຖືກປະຕິເສດ, ເພງທີ່ມັກບໍ່ໄດ້ຢູ່ໃນລາຍການຫຼິ້ນຢ່າງກະທັນຫັນ, ແລະຊີວະປະຫວັດທີ່ມີຄຸນວຸດທິຖືກປະຕິເສດກ່ອນທີ່ມະນຸດຈະເຫັນມັນ. ໃນຊ່ວງເວລາເຫຼົ່ານີ້, ຄວາມສາມາດ ແລະ ການຄາດເດົາໄດ້ແຕກຫັກ, ແລະຄວາມເມດຕາກະລຸນາຮູ້ສຶກວ່າໂລກຫ່າງໄກ. ການສົນທະນາຂອງພວກເຮົາດຽວນີ້ຕ້ອງພັດທະນາຈາກເຫດຜົນຂອງຄວາມໄວ້ວາງໃຈໄປສູ່ຄວາມໂປ່ງໃສ. ພາກສະຫນາມຂອງ AI ອະທິບາຍໄດ້ (XAI), ເຊິ່ງສຸມໃສ່ການພັດທະນາວິທີການເພື່ອເຮັດໃຫ້ຜົນຜະລິດ AI ເຂົ້າໃຈໄດ້ກັບມະນຸດ, ໄດ້ເກີດຂຶ້ນເພື່ອແກ້ໄຂນີ້, ແຕ່ມັນມັກຈະຖືກກອບເປັນສິ່ງທ້າທາຍດ້ານວິຊາການຢ່າງດຽວສໍາລັບນັກວິທະຍາສາດຂໍ້ມູນ. ຂ້າພະເຈົ້າໂຕ້ຖຽງວ່າມັນເປັນສິ່ງທ້າທາຍດ້ານການອອກແບບທີ່ສໍາຄັນສໍາລັບຜະລິດຕະພັນທີ່ອີງໃສ່ AI. ມັນເປັນວຽກຂອງພວກເຮົາທີ່ເປັນຜູ້ຊ່ຽວຊານດ້ານ UX ເພື່ອສ້າງຊ່ອງຫວ່າງລະຫວ່າງການຕັດສິນໃຈໃນລະບົບ algorithmic ແລະຄວາມເຂົ້າໃຈຂອງມະນຸດ. ບົດຄວາມນີ້ໃຫ້ຄໍາແນະນໍາພາກປະຕິບັດ, ການປະຕິບັດກ່ຽວກັບວິທີການຄົ້ນຄວ້າແລະການອອກແບບສໍາລັບການອະທິບາຍ. ພວກເຮົາຈະຍ້າຍອອກໄປນອກ buzzwords ແລະເຂົ້າໄປໃນ mockups, ການແປແນວຄວາມຄິດຂອງ XAI ສະລັບສັບຊ້ອນເຂົ້າໄປໃນຮູບແບບການອອກແບບສີມັງ, ທ່ານສາມາດເລີ່ມຕົ້ນການນໍາໃຊ້ໃນມື້ນີ້. De-mystifying XAI: ແນວຄວາມຄິດຫຼັກສໍາລັບ UX Practitioners XAI ແມ່ນກ່ຽວກັບການຕອບຄໍາຖາມຂອງຜູ້ໃຊ້: "ເປັນຫຍັງ?" ເປັນຫຍັງຂ້ອຍຈຶ່ງສະແດງໂຄສະນານີ້? ເປັນຫຍັງໜັງເລື່ອງນີ້ຈຶ່ງແນະນຳໃຫ້ຂ້ອຍ? ເປັນຫຍັງການຮ້ອງຂໍຂອງຂ້ອຍຖືກປະຕິເສດ? ຄິດວ່າມັນເປັນ AI ສະແດງການເຮັດວຽກຂອງມັນກ່ຽວກັບບັນຫາຄະນິດສາດ. ຖ້າບໍ່ມີມັນ, ທ່ານພຽງແຕ່ມີຄໍາຕອບ, ແລະເຈົ້າຖືກບັງຄັບໃຫ້ເອົາມັນຢູ່ໃນຄວາມເຊື່ອ. ໃນການສະແດງຂັ້ນຕອນ, ທ່ານສ້າງຄວາມເຂົ້າໃຈແລະຄວາມໄວ້ວາງໃຈ. ນອກຈາກນັ້ນ, ທ່ານຍັງອະນຸຍາດໃຫ້ວຽກງານຂອງທ່ານຖືກກວດສອບສອງຄັ້ງແລະກວດສອບໂດຍມະນຸດທີ່ມັນມີຜົນກະທົບ. ຄຸນນະສົມບັດຄວາມສໍາຄັນແລະການຕ້ານ ມີຫຼາຍເຕັກນິກທີ່ພວກເຮົາສາມາດໃຊ້ເພື່ອຊີ້ແຈງຫຼືອະທິບາຍສິ່ງທີ່ເກີດຂຶ້ນກັບ AI. ໃນຂະນະທີ່ວິທີການຕ່າງໆຕັ້ງແຕ່ການສະຫນອງເຫດຜົນທັງຫມົດຂອງຕົ້ນໄມ້ການຕັດສິນໃຈໄປສູ່ການສ້າງບົດສະຫຼຸບພາສາທໍາມະຊາດຂອງຜົນໄດ້ຮັບ, ສອງປະເພດຂໍ້ມູນທີ່ເປັນປະໂຫຍດແລະຜົນກະທົບທີ່ສຸດທີ່ຜູ້ປະຕິບັດ UX ສາມາດແນະນໍາເຂົ້າໄປໃນປະສົບການແມ່ນຄວາມສໍາຄັນຂອງຄຸນນະສົມບັດ (ຮູບ 1) ແລະການຕໍ່ຕ້ານ. ເຫຼົ່ານີ້ມັກຈະກົງໄປກົງມາທີ່ສຸດສໍາລັບຜູ້ໃຊ້ເຂົ້າໃຈແລະປະຕິບັດໄດ້ຫຼາຍທີ່ສຸດສໍາລັບຜູ້ອອກແບບທີ່ຈະປະຕິບັດ.
ຄວາມສຳຄັນຂອງຄຸນສົມບັດ ວິທີການອະທິບາຍນີ້ຕອບວ່າ, "ປັດໄຈທີ່ສໍາຄັນທີ່ສຸດທີ່ AI ພິຈາລະນາແມ່ນຫຍັງ?" ມັນແມ່ນກ່ຽວກັບການກໍານົດຕົວແປ 2-3 ອັນດັບທໍາອິດທີ່ມີຜົນກະທົບທີ່ໃຫຍ່ທີ່ສຸດຕໍ່ຜົນໄດ້ຮັບ. ມັນເປັນຫົວຂໍ້ຂ່າວ, ບໍ່ແມ່ນເລື່ອງທັງຫມົດ. ຕົວຢ່າງ: ຈິນຕະນາການ AI ທີ່ຄາດຄະເນວ່າລູກຄ້າຈະ churn (ຍົກເລີກການບໍລິການຂອງເຂົາເຈົ້າ). ຄວາມສໍາຄັນຂອງຄຸນສົມບັດອາດຈະເປີດເຜີຍວ່າ "ຈໍານວນການໂທສະຫນັບສະຫນູນໃນເດືອນທີ່ຜ່ານມາ" ແລະ "ການເພີ່ມຂຶ້ນລາຄາທີ່ຜ່ານມາ" ແມ່ນສອງປັດໃຈທີ່ສໍາຄັນທີ່ສຸດໃນການກໍານົດວ່າລູກຄ້າມີແນວໂນ້ມທີ່ຈະປັ່ນປ່ວນ.
ການຕໍ່ຕ້ານ ວິທີການທີ່ມີປະສິດທິພາບນີ້ຕອບວ່າ, "ຂ້ອຍຕ້ອງປ່ຽນແປງຫຍັງເພື່ອໃຫ້ໄດ້ຜົນໄດ້ຮັບທີ່ແຕກຕ່າງກັນ?" ນີ້ແມ່ນສິ່ງສໍາຄັນເພາະວ່າມັນເຮັດໃຫ້ຜູ້ໃຊ້ມີຄວາມຮູ້ສຶກກ່ຽວກັບອົງການ. ມັນປ່ຽນ "ບໍ່" ທີ່ຫນ້າເສົ້າໃຈເປັນ "ຍັງບໍ່ທັນໄດ້." ຕົວຢ່າງ: ຈິນຕະນາການລະບົບການກູ້ຢືມເງິນທີ່ໃຊ້ AI. ຜູ້ໃຊ້ຖືກປະຕິເສດການກູ້ຢືມ. ແທນທີ່ຈະເຫັນ "ຄໍາຮ້ອງສະຫມັກຖືກປະຕິເສດ", ຄໍາອະທິບາຍທີ່ກົງກັນຂ້າມຍັງຈະແບ່ງປັນ, "ຖ້າຄະແນນສິນເຊື່ອຂອງເຈົ້າສູງກວ່າ 50 ຈຸດ, ຫຼືຖ້າອັດຕາສ່ວນຫນີ້ສິນຕໍ່ລາຍໄດ້ຂອງເຈົ້າຕໍ່າກວ່າ 10%, ເງິນກູ້ຂອງເຈົ້າຈະຖືກອະນຸມັດ." ນີ້ເຮັດໃຫ້ Sarah ມີຄວາມຊັດເຈນ, ຂັ້ນຕອນການປະຕິບັດທີ່ນາງສາມາດປະຕິບັດໄດ້ເພື່ອອາດຈະໄດ້ຮັບເງິນກູ້ໃນອະນາຄົດ.
ການນໍາໃຊ້ຂໍ້ມູນແບບຈໍາລອງເພື່ອເພີ່ມຄໍາອະທິບາຍ ເຖິງແມ່ນວ່າຂໍ້ມູນດ້ານວິຊາການມັກຈະຖືກຈັດການໂດຍນັກວິທະຍາສາດຂໍ້ມູນ, ມັນເປັນປະໂຫຍດສໍາລັບຜູ້ປະຕິບັດ UX ທີ່ຈະຮູ້ວ່າເຄື່ອງມືເຊັ່ນ: LIME (Local Interpretable Model-agnostic Explanations) ເຊິ່ງອະທິບາຍການຄາດຄະເນຂອງບຸກຄົນໂດຍການປະມານຕົວແບບໃນທ້ອງຖິ່ນ, ແລະ SHAP (SHapley Additive exPlanations) ເຊິ່ງໃຊ້ວິທີການທິດສະດີເກມເພື່ອອະທິບາຍຜົນໄດ້ຮັບຂອງເຄື່ອງຈັກທີ່ໃຊ້ທົ່ວໄປໃນການຮຽນຮູ້ແບບສະລັບສັບຊ້ອນ. ແບບຈໍາລອງ. ຫ້ອງສະຫມຸດເຫຼົ່ານີ້ເປັນສິ່ງຈໍາເປັນທີ່ຈະຊ່ວຍໃຫ້ທໍາລາຍການຕັດສິນໃຈຂອງ AI ເພື່ອສະແດງໃຫ້ເຫັນວ່າປັດໄຈນໍາເຂົ້າໃດມີອິດທິພົນທີ່ສຸດສໍາລັບຜົນໄດ້ຮັບ. ເມື່ອເຮັດຢ່າງຖືກຕ້ອງ, ຂໍ້ມູນພື້ນຖານການຕັດສິນໃຈຂອງເຄື່ອງມື AI ສາມາດຖືກນໍາໃຊ້ເພື່ອບອກເລື່ອງທີ່ມີປະສິດທິພາບ. ໃຫ້ພວກເຮົາຍ່າງຜ່ານຄວາມສໍາຄັນຂອງຄຸນສົມບັດແລະຂໍ້ເທັດຈິງແລະສະແດງໃຫ້ເຫັນວ່າວິທະຍາສາດຂໍ້ມູນທີ່ຢູ່ເບື້ອງຫລັງການຕັດສິນໃຈສາມາດຖືກນໍາໃຊ້ເພື່ອເພີ່ມປະສົບການຂອງຜູ້ໃຊ້. ບັດນີ້ໃຫ້ກວມເອົາຄວາມສໍາຄັນຂອງຄຸນນະສົມບັດໂດຍການຊ່ວຍເຫຼືອຂອງຄໍາອະທິບາຍໃນທ້ອງຖິ່ນ (ເຊັ່ນ: LIME) ຂໍ້ມູນ: ວິທີການນີ້ຕອບວ່າ, "ເປັນຫຍັງ AI ຈຶ່ງເຮັດໃຫ້ຄໍາແນະນໍາສະເພາະນີ້ສໍາລັບຂ້ອຍ, ໃນປັດຈຸບັນ?" ແທນທີ່ຈະເປັນຄໍາອະທິບາຍທົ່ວໄປກ່ຽວກັບວິທີການເຮັດວຽກຂອງຕົວແບບ, ມັນສະຫນອງເຫດຜົນທີ່ສຸມໃສ່ສໍາລັບຕົວຢ່າງດຽວ, ສະເພາະ. ມັນເປັນສ່ວນບຸກຄົນແລະສະພາບການ. ຕົວຢ່າງ: ຈິນຕະນາການລະບົບການແນະນຳເພງທີ່ໃຊ້ AI ເຊັ່ນ Spotify. ຄໍາອະທິບາຍໃນທ້ອງຖິ່ນຈະຕອບວ່າ, "ເປັນຫຍັງລະບົບຈຶ່ງແນະນໍາເພງສະເພາະນີ້ໂດຍ Adele ໃຫ້ທ່ານໃນຕອນນີ້?" ຄໍາອະທິບາຍອາດຈະເປັນ: "ຍ້ອນວ່າບໍ່ດົນມານີ້ເຈົ້າໄດ້ຟັງເພງ ballads ຄວາມຮູ້ສຶກອື່ນໆຫຼາຍເພງຂອງນັກຮ້ອງຍິງ."
ສຸດທ້າຍ, ໃຫ້ກວມເອົາການລວມເອົາຄໍາອະທິບາຍທີ່ອີງໃສ່ມູນຄ່າ (ເຊັ່ນ: Shapley Additive Explanations (SHAP) ຂໍ້ມູນໃນຄໍາອະທິບາຍຂອງການຕັດສິນໃຈ: ນີ້ແມ່ນສະບັບທີ່ແຕກຕ່າງກັນຂອງຄວາມສໍາຄັນຂອງຄຸນນະສົມບັດທີ່ຕອບວ່າ, "ແຕ່ລະປັດໃຈຊຸກຍູ້ການຕັດສິນໃຈແນວໃດຫນຶ່ງທາງຫນຶ່ງຫຼືອື່ນໆ?" ມັນຊ່ວຍໃຫ້ເບິ່ງເຫັນສິ່ງທີ່ສໍາຄັນ, ແລະວ່າອິດທິພົນຂອງມັນແມ່ນໃນທາງບວກຫຼືທາງລົບ. ຕົວຢ່າງ: ຈິນຕະນາການວ່າທະນາຄານໃຊ້ຕົວແບບ AI ເພື່ອຕັດສິນໃຈວ່າຈະອະນຸມັດໃບສະໝັກເງິນກູ້ຫຼືບໍ່.
ຄວາມສໍາຄັນຂອງຄຸນນະສົມບັດ: ຜົນຜະລິດຂອງຕົວແບບອາດຈະສະແດງໃຫ້ເຫັນວ່າຄະແນນສິນເຊື່ອ, ລາຍໄດ້, ແລະອັດຕາສ່ວນຫນີ້ສິນຕໍ່ລາຍໄດ້ຂອງຜູ້ສະຫມັກແມ່ນປັດໃຈສໍາຄັນທີ່ສຸດໃນການຕັດສິນໃຈຂອງຕົນ. ນີ້ຕອບວ່າອັນໃດສຳຄັນ. ຄວາມສຳຄັນຂອງຄຸນສົມບັດກັບຄຳອະທິບາຍທີ່ອີງໃສ່ຄຸນຄ່າ (SHAP): ຄ່າ SHAP ຈະມີຄວາມສຳຄັນຕໍ່ຄຸນສົມບັດໂດຍອີງໃສ່ອົງປະກອບຂອງຕົວແບບ.
ສໍາລັບການກູ້ຢືມທີ່ໄດ້ຮັບການອະນຸມັດ, SHAP ອາດຈະສະແດງໃຫ້ເຫັນວ່າຄະແນນສິນເຊື່ອສູງໄດ້ຊຸກຍູ້ການຕັດສິນໃຈໄປສູ່ການອະນຸມັດ (ອິດທິພົນທາງບວກ), ໃນຂະນະທີ່ອັດຕາສ່ວນຫນີ້ສິນຕໍ່ລາຍໄດ້ທີ່ສູງກວ່າສະເລ່ຍເລັກນ້ອຍດຶງມັນອອກໄປເລັກນ້ອຍ (ອິດທິພົນທາງລົບ), ແຕ່ບໍ່ພຽງພໍທີ່ຈະປະຕິເສດເງິນກູ້. ສໍາລັບການກູ້ຢືມທີ່ຖືກປະຕິເສດ, SHAP ສາມາດເປີດເຜີຍວ່າລາຍໄດ້ຕໍ່າແລະຈໍານວນການສອບຖາມສິນເຊື່ອທີ່ຜ່ານມາຢ່າງຫຼວງຫຼາຍໄດ້ຊຸກຍູ້ການຕັດສິນໃຈໄປສູ່ການປະຕິເສດ, ເຖິງແມ່ນວ່າຄະແນນສິນເຊື່ອແມ່ນເຫມາະສົມ.
ນີ້ຊ່ວຍໃຫ້ເຈົ້າຫນ້າທີ່ກູ້ຢືມອະທິບາຍໃຫ້ຜູ້ສະຫມັກນອກເຫນືອຈາກສິ່ງທີ່ຖືກພິຈາລະນາ, ແຕ່ລະປັດໃຈປະກອບສ່ວນໃນການຕັດສິນໃຈສຸດທ້າຍ "ແມ່ນ" ຫຼື "ບໍ່". ມັນເປັນສິ່ງ ສຳ ຄັນທີ່ຈະຮັບຮູ້ວ່າຄວາມສາມາດໃນການໃຫ້ ຄຳ ອະທິບາຍທີ່ດີມັກຈະເລີ່ມຕົ້ນໄວກວ່າໃນວົງຈອນການພັດທະນາ. ນັກວິທະຍາສາດຂໍ້ມູນແລະວິສະວະກອນມີບົດບາດສໍາຄັນໂດຍຕັ້ງໃຈສ້າງແບບຈໍາລອງແລະທໍ່ຂໍ້ມູນໃນຮູບແບບທີ່ສະຫນັບສະຫນູນການອະທິບາຍ, ແທນທີ່ຈະພະຍາຍາມສ້າງມັນຕາມຄວາມຄຶດຫລັງ. ທີມງານຄົ້ນຄວ້າ ແລະອອກແບບສາມາດສົ່ງເສີມສິ່ງນີ້ໄດ້ໂດຍການລິເລີ່ມການສົນທະນາເບື້ອງຕົ້ນກັບນັກວິທະຍາສາດຂໍ້ມູນ ແລະວິສະວະກອນກ່ຽວກັບຄວາມຕ້ອງການຂອງຜູ້ໃຊ້ເພື່ອຄວາມເຂົ້າໃຈ, ປະກອບສ່ວນເຂົ້າໃນການພັດທະນາຕົວຊີ້ວັດການອະທິບາຍ, ແລະການສ້າງແບບຈໍາລອງການອະທິບາຍຮ່ວມກັນເພື່ອຮັບປະກັນວ່າພວກມັນທັງຖືກຕ້ອງ ແລະເປັນມິດກັບຜູ້ໃຊ້. XAI ແລະ AI ດ້ານຈັນຍາບັນ: Unpacking ຄວາມລໍາອຽງແລະຄວາມຮັບຜິດຊອບ ນອກເຫນືອຈາກການສ້າງຄວາມໄວ້ວາງໃຈ, XAI ມີບົດບາດສໍາຄັນໃນການແກ້ໄຂຜົນກະທົບດ້ານຈັນຍາບັນອັນເລິກເຊິ່ງຂອງ AI*, ໂດຍສະເພາະກ່ຽວກັບຄວາມລໍາອຽງຂອງສູດການຄິດໄລ່. ເຕັກນິກການອະທິບາຍ, ເຊັ່ນ: ການວິເຄາະມູນຄ່າ SHAP, ສາມາດເປີດເຜີຍໄດ້ວ່າການຕັດສິນໃຈຂອງຕົວແບບໃດໜຶ່ງມີອິດທິພົນບໍ່ສົມສ່ວນຈາກຄຸນລັກສະນະທີ່ລະອຽດອ່ອນ ເຊັ່ນ: ເຊື້ອຊາດ, ເພດ ຫຼື ສະຖານະພາບເສດຖະກິດສັງຄົມ, ເຖິງແມ່ນວ່າປັດໄຈເຫຼົ່ານີ້ບໍ່ໄດ້ຖືກນໍາໃຊ້ຢ່າງຈະແຈ້ງເປັນປັດໄຈນໍາເຂົ້າໂດຍກົງ. ຕົວຢ່າງເຊັ່ນ, ຖ້າຮູບແບບການອະນຸມັດເງິນກູ້ມອບຄ່າ SHAP ໃນທາງລົບໃຫ້ຜູ້ສະຫມັກຈາກປະຊາກອນສະເພາະໃດຫນຶ່ງ, ມັນສະແດງເຖິງຄວາມລໍາອຽງທີ່ອາດຈະຕ້ອງການການສືບສວນ, ການສ້າງຄວາມເຂັ້ມແຂງໃຫ້ທີມງານເພື່ອແກ້ໄຂແລະຫຼຸດຜ່ອນຜົນໄດ້ຮັບທີ່ບໍ່ຍຸຕິທໍາດັ່ງກ່າວ. ພະລັງງານຂອງ XAI ຍັງມາພ້ອມກັບທ່າແຮງສໍາລັບ "ການລ້າງການອະທິບາຍ." ເຊັ່ນດຽວກັນກັບ "ການລ້າງສີຂຽວ" ເຮັດໃຫ້ຜູ້ບໍລິໂພກເຂົ້າໃຈຜິດກ່ຽວກັບການປະຕິບັດດ້ານສິ່ງແວດລ້ອມ, ການລ້າງການອະທິບາຍສາມາດເກີດຂື້ນໄດ້ເມື່ອຄໍາອະທິບາຍຖືກອອກແບບເພື່ອປິດບັງ, ແທນທີ່ຈະເຮັດໃຫ້ແສງສະຫວ່າງ, ພຶດຕິກໍາ algorithmic ທີ່ມີບັນຫາຫຼືຄວາມລໍາອຽງທີ່ເກີດຂື້ນ. ນີ້ສາມາດສະແດງອອກເປັນຄໍາອະທິບາຍທີ່ລຽບງ່າຍເກີນໄປທີ່ຍົກເວັ້ນປັດໃຈທີ່ມີອິດທິພົນທີ່ສໍາຄັນ, ຫຼືຄໍາອະທິບາຍທີ່ວາງຍຸດທະສາດເພື່ອໃຫ້ຜົນໄດ້ຮັບທີ່ເປັນກາງຫຼືຍຸຕິທໍາກວ່າຕົວຈິງ. ມັນເນັ້ນຫນັກເຖິງຄວາມຮັບຜິດຊອບດ້ານຈັນຍາບັນຂອງຜູ້ປະຕິບັດ UX ໃນການອອກແບບຄໍາອະທິບາຍທີ່ມີຄວາມໂປ່ງໃສຢ່າງແທ້ຈິງແລະສາມາດກວດສອບໄດ້. ຜູ້ຊ່ຽວຊານດ້ານ UX, ຮ່ວມມືກັບນັກວິທະຍາສາດຂໍ້ມູນແລະນັກວິທະຍາສາດດ້ານຈັນຍາບັນ, ມີຄວາມຮັບຜິດຊອບທີ່ສໍາຄັນໃນການສື່ສານວ່າເປັນຫຍັງການຕັດສິນໃຈ, ແລະຍັງມີຂໍ້ຈໍາກັດແລະຄວາມລໍາອຽງທີ່ເປັນໄປໄດ້ຂອງຕົວແບບ AI ພື້ນຖານ. ນີ້ກ່ຽວຂ້ອງກັບການກໍານົດຄວາມຄາດຫວັງຂອງຜູ້ໃຊ້ທີ່ແທ້ຈິງກ່ຽວກັບຄວາມຖືກຕ້ອງຂອງ AI, ການກໍານົດບ່ອນທີ່ຕົວແບບອາດຈະມີຄວາມຫນ້າເຊື່ອຖືຫນ້ອຍ, ແລະສະຫນອງຊ່ອງທາງທີ່ຊັດເຈນສໍາລັບ recourse ຫຼືຄໍາຄຶດຄໍາເຫັນໃນເວລາທີ່ຜູ້ໃຊ້ຮັບຮູ້ຜົນໄດ້ຮັບທີ່ບໍ່ຍຸດຕິທໍາຫຼືບໍ່ຖືກຕ້ອງ. ແກ້ໄຂບັນຫາເຫຼົ່ານີ້ຢ່າງຕັ້ງໜ້າຂະຫນາດທາງດ້ານຈັນຍາບັນຈະຊ່ວຍໃຫ້ພວກເຮົາສ້າງລະບົບ AI ທີ່ມີຄວາມຍຸດຕິທໍາແລະເຊື່ອຖືໄດ້ຢ່າງແທ້ຈິງ. From Methods To Mockups: Practical XAI Design Patterns ການຮູ້ຈັກແນວຄວາມຄິດແມ່ນສິ່ງຫນຶ່ງ; ການອອກແບບພວກມັນແມ່ນອີກອັນຫນຶ່ງ. ນີ້ແມ່ນວິທີທີ່ພວກເຮົາສາມາດແປວິທີການ XAI ເຫຼົ່ານີ້ເຂົ້າໄປໃນຮູບແບບການອອກແບບ intuitive. ຮູບແບບທີ 1: ຖະແຫຼງການ "ເນື່ອງຈາກວ່າ" (ສໍາລັບຄວາມສໍາຄັນຄຸນນະສົມບັດ) ນີ້ແມ່ນຮູບແບບທີ່ງ່າຍດາຍທີ່ສຸດແລະມັກຈະມີປະສິດທິພາບຫຼາຍທີ່ສຸດ. ມັນເປັນຄໍາຖະແຫຼງໂດຍກົງ, ພາສາທໍາມະດາທີ່ສະແດງເຖິງເຫດຜົນຕົ້ນຕໍສໍາລັບການດໍາເນີນການຂອງ AI.
Heuristic: ກົງໄປກົງມາ ແລະຊັດເຈນ. ນໍາພາດ້ວຍເຫດຜົນດຽວທີ່ມີຜົນກະທົບທີ່ສຸດ. ຫຼີກເວັ້ນການ jargon ໃນຄ່າໃຊ້ຈ່າຍທັງຫມົດ.
ຕົວຢ່າງ: ຈິນຕະນາການການບໍລິການສະຕຣີມເພງ. ແທນທີ່ຈະພຽງແຕ່ນໍາສະເຫນີລາຍການຫຼິ້ນ “Discover Weekly”, ທ່ານເພີ່ມ microcopy ເສັ້ນນ້ອຍໆ. ຄຳແນະນຳເພງ: “Velvet Morning” ເພາະວ່າເຈົ້າຟັງເພງ “The Fuzz” ແລະເພງທີ່ແປກປະຫຼາດອື່ນໆ.
ຮູບແບບທີ 2: ການໂຕ້ຕອບ "ແມ່ນຫຍັງ-ຖ້າ" (ສຳລັບການໂຕ້ຕອບ) ການຕໍ່ຕ້ານຄວາມຈິງແມ່ນໂດຍທົ່ວໄປແລ້ວກ່ຽວກັບການສ້າງຄວາມເຂັ້ມແຂງ. ວິທີທີ່ດີທີ່ສຸດທີ່ຈະເປັນຕົວແທນໃຫ້ເຂົາເຈົ້າແມ່ນໂດຍການໃຫ້ຜູ້ໃຊ້ເຄື່ອງມືການໂຕ້ຕອບເພື່ອຄົ້ນຫາຄວາມເປັນໄປໄດ້ຂອງຕົນເອງ. ນີ້ແມ່ນດີເລີດສໍາລັບຄໍາຮ້ອງສະຫມັກທາງດ້ານການເງິນ, ສຸຂະພາບ, ຫຼືເປົ້າຫມາຍອື່ນໆ.
Heuristic: ເຮັດໃຫ້ຄໍາອະທິບາຍແບບໂຕ້ຕອບແລະສ້າງຄວາມເຂັ້ມແຂງ. ໃຫ້ຜູ້ໃຊ້ເຫັນເຫດຜົນແລະຜົນຂອງການເລືອກຂອງພວກເຂົາ.
ຕົວຢ່າງ: ການໂຕ້ຕອບຄໍາຮ້ອງສະຫມັກເງິນກູ້. ຫຼັງຈາກການປະຕິເສດ, ແທນທີ່ຈະເປັນຈຸດສິ້ນສຸດ, ຜູ້ໃຊ້ໄດ້ຮັບເຄື່ອງມືເພື່ອກໍານົດວ່າສະຖານະການຕ່າງໆ (what-ifs) ອາດຈະອອກມາ (ເບິ່ງຮູບ 1).
ຮູບແບບທີ 3: ຣີລໄຮໄລ້ (ສຳລັບຄຳອະທິບາຍທ້ອງຖິ່ນ) ເມື່ອ AI ປະຕິບັດການດໍາເນີນການກ່ຽວກັບເນື້ອຫາຂອງຜູ້ໃຊ້ (ເຊັ່ນ: ການສະຫຼຸບເອກະສານຫຼືການກໍານົດໃບຫນ້າໃນຮູບ), ຄໍາອະທິບາຍຄວນຈະຖືກເຊື່ອມຕໍ່ດ້ວຍສາຍຕາກັບແຫຼ່ງ.
Heuristic: ໃຊ້ຕົວຊີ້ບອກທາງສາຍຕາເຊັ່ນ: ການເນັ້ນໃສ່, ໂຄງຮ່າງ, ຫຼືຄຳອະທິບາຍປະກອບເພື່ອເຊື່ອມຕໍ່ຄຳອະທິບາຍໂດຍກົງກັບອົງປະກອບສ່ວນຕິດຕໍ່ທີ່ມັນອະທິບາຍ.
ຕົວຢ່າງ: ເຄື່ອງມື AI ທີ່ສະຫຼຸບບົດຄວາມຍາວ. ຈຸດສະຫຼຸບທີ່ສ້າງຂຶ້ນໂດຍ AI: ການຄົ້ນຄວ້າເບື້ອງຕົ້ນສະແດງໃຫ້ເຫັນຊ່ອງຫວ່າງຕະຫຼາດສໍາລັບຜະລິດຕະພັນທີ່ມີຄວາມຍືນຍົງ. ແຫຼ່ງຂໍ້ມູນໃນເອກະສານ: "... ການວິເຄາະ Q2 ຂອງພວກເຮົາກ່ຽວກັບທ່າອ່ຽງຂອງຕະຫຼາດໄດ້ສະແດງໃຫ້ເຫັນວ່າບໍ່ມີຄູ່ແຂ່ງທີ່ສໍາຄັນໃຫ້ບໍລິການຜູ້ບໍລິໂພກທີ່ມີສະຕິກັບສິ່ງແວດລ້ອມ, ເປີດເຜີຍຊ່ອງຫວ່າງຕະຫຼາດທີ່ສໍາຄັນສໍາລັບຜະລິດຕະພັນທີ່ມີຄວາມຍືນຍົງ ...
ຮູບແບບທີ 4: Push-and-Pull Visual (ສໍາລັບຄໍາອະທິບາຍທີ່ອີງໃສ່ມູນຄ່າ) ສໍາລັບການຕັດສິນໃຈທີ່ຊັບຊ້ອນຫຼາຍ, ຜູ້ໃຊ້ອາດຈະຕ້ອງເຂົ້າໃຈການຕິດຕໍ່ກັນຂອງປັດໃຈ. ການເບິ່ງເຫັນຂໍ້ມູນແບບງ່າຍໆສາມາດເຮັດໃຫ້ອັນນີ້ຈະແຈ້ງໄດ້ໂດຍທີ່ບໍ່ມີການຄອບຄຸມ.
Heuristic: ໃຊ້ການເບິ່ງເຫັນຂໍ້ມູນທີ່ມີລະຫັດສີແບບງ່າຍດາຍ (ເຊັ່ນ: ຕາຕະລາງແຖບ) ເພື່ອສະແດງປັດໃຈທີ່ມີອິດທິພົນຕໍ່ການຕັດສິນໃຈໃນດ້ານບວກ ແລະທາງລົບ.
ຕົວຢ່າງ: AI ກວດສອບໂປຣໄຟລ໌ຂອງຜູ້ສະໝັກສຳລັບວຽກ. ເປັນຫຍັງຜູ້ສະໝັກຄົນນີ້ຈຶ່ງກົງກັນ 75%: ປັດໃຈທີ່ຊຸກຍູ້ໃຫ້ຄະແນນເພີ່ມຂຶ້ນ: 5+ ປີ UX Research ExperienceProficient in PythonFactors push the score down: No experience with B2B SaaS
ການຮຽນຮູ້ແລະນໍາໃຊ້ຮູບແບບການອອກແບບເຫຼົ່ານີ້ຢູ່ໃນ UX ຂອງຜະລິດຕະພັນ AI ຂອງທ່ານຈະຊ່ວຍເພີ່ມການອະທິບາຍ. ທ່ານຍັງສາມາດໃຊ້ເຕັກນິກເພີ່ມເຕີມທີ່ຂ້ອຍບໍ່ໄດ້ກວມເອົາໃນຄວາມເລິກຢູ່ທີ່ນີ້. ນີ້ປະກອບມີດັ່ງຕໍ່ໄປນີ້:
ຄໍາອະທິບາຍພາສາທໍາມະຊາດ: ການແປຜົນໄດ້ຮັບດ້ານວິຊາການຂອງ AI ເປັນພາສາສົນທະນາຂອງມະນຸດທີ່ງ່າຍດາຍ, ທີ່ຜູ້ທີ່ບໍ່ໄດ້ຊ່ຽວຊານສາມາດເຂົ້າໃຈໄດ້ຢ່າງງ່າຍດາຍ. ຄໍາອະທິບາຍຕາມບໍລິບົດ: ການສະຫນອງເຫດຜົນສໍາລັບຜົນຜະລິດຂອງ AI ໃນເວລານີ້ແລະສະຖານທີ່ສະເພາະ, ມັນກ່ຽວຂ້ອງກັບວຽກງານຂອງຜູ້ໃຊ້ທີ່ສຸດ. ການເບິ່ງເຫັນພາບທີ່ກ່ຽວຂ້ອງ: ການໃຊ້ຕາຕະລາງ, ກຣາບ, ຫຼືແຜນທີ່ຄວາມຮ້ອນເພື່ອສະແດງເຖິງສາຍຕາຂອງຂະບວນການຕັດສິນໃຈຂອງ AI, ເຮັດໃຫ້ຂໍ້ມູນຊັບຊ້ອນທີ່ເຂົ້າໃຈງ່າຍ ແລະເຂົ້າໃຈງ່າຍກວ່າສໍາລັບຜູ້ໃຊ້.
ຫມາຍເຫດສໍາລັບ Front End: ການແປຜົນການອະທິບາຍເຫຼົ່ານີ້ເຂົ້າໄປໃນປະສົບການຂອງຜູ້ໃຊ້ທີ່ບໍ່ມີຮອຍຕໍ່ຍັງນໍາສະເຫນີຊຸດການພິຈາລະນາດ້ານວິຊາການຂອງຕົນເອງ. ຜູ້ພັດທະນາດ້ານຫນ້າມັກຈະຕໍ່ສູ້ກັບການອອກແບບ API ເພື່ອດຶງຂໍ້ມູນຄໍາອະທິບາຍຢ່າງມີປະສິດທິພາບ, ແລະຜົນກະທົບຂອງການປະຕິບັດ (ເຊັ່ນ: ການສ້າງຄໍາອະທິບາຍໃນເວລາທີ່ແທ້ຈິງສໍາລັບທຸກໆການໂຕ້ຕອບຂອງຜູ້ໃຊ້) ຕ້ອງການການວາງແຜນທີ່ລະມັດລະວັງເພື່ອຫຼີກເວັ້ນການ latency. ບາງຕົວຢ່າງຂອງໂລກທີ່ແທ້ຈິງ ການປ້ອງກັນການຈັດສົ່ງຂອງ UPS Capital UPS ໃຊ້ AI ເພື່ອມອບຫມາຍ "ຄະແນນຄວາມຫມັ້ນໃຈການຈັດສົ່ງ" ທີ່ຢູ່ເພື່ອຄາດຄະເນຄວາມເປັນໄປໄດ້ຂອງຊຸດທີ່ຖືກລັກ. ຊອບແວ DeliveryDefense ຂອງພວກເຂົາວິເຄາະຂໍ້ມູນປະຫວັດສາດກ່ຽວກັບສະຖານທີ່, ຄວາມຖີ່ຂອງການສູນເສຍ, ແລະປັດໃຈອື່ນໆ. ຖ້າທີ່ຢູ່ມີຄະແນນຕໍ່າ, ລະບົບສາມາດປ່ຽນເສັ້ນທາງແພັກເກັດໄປຫາຈຸດເຂົ້າເຖິງ UPS ທີ່ປອດໄພ, ໂດຍໃຫ້ຄໍາອະທິບາຍສໍາລັບການຕັດສິນໃຈ (ເຊັ່ນ: "ການປ່ຽນເສັ້ນທາງໄປຫາສະຖານທີ່ທີ່ປອດໄພເນື່ອງຈາກປະຫວັດການລັກ"). ລະບົບນີ້ສະແດງໃຫ້ເຫັນວິທີການ XAI ສາມາດນໍາໃຊ້ສໍາລັບການຫຼຸດຜ່ອນຄວາມສ່ຽງແລະການສ້າງຄວາມໄວ້ວາງໃຈຂອງລູກຄ້າໂດຍຜ່ານຄວາມໂປ່ງໃສ. ຍານພາຫະນະຂອງຕົນເອງ ຍານພາຫະນະເຫຼົ່ານີ້ໃນອະນາຄົດຈະຕ້ອງໃຊ້ XAI ຢ່າງມີປະສິດທິຜົນເພື່ອຊ່ວຍໃຫ້ຍານພາຫະນະຂອງພວກເຂົາເຮັດການຕັດສິນໃຈທີ່ປອດໄພ, ອະທິບາຍໄດ້. ເມື່ອລົດທີ່ຂັບລົດດ້ວຍຕົນເອງໄດ້ຫ້າມລໍ້ຢ່າງກະທັນຫັນ, ລະບົບສາມາດໃຫ້ຄໍາອະທິບາຍໃນເວລາທີ່ແທ້ຈິງສໍາລັບການດໍາເນີນການຂອງຕົນ, ສໍາລັບການຍົກຕົວຢ່າງ, ໂດຍການກໍານົດຜູ້ຍ່າງທາງຍ່າງເຂົ້າໄປໃນຖະຫນົນຫົນທາງ. ນີ້ບໍ່ພຽງແຕ່ສໍາຄັນສໍາລັບຄວາມສະດວກສະບາຍແລະຄວາມໄວ້ວາງໃຈຂອງຜູ້ໂດຍສານແຕ່ເປັນຂໍ້ກໍານົດດ້ານກົດລະບຽບເພື່ອພິສູດຄວາມປອດໄພແລະຄວາມຮັບຜິດຊອບຂອງລະບົບ AI. IBM Watson Health (ແລະສິ່ງທ້າທາຍຂອງມັນ) ໃນຂະນະທີ່ມັກຈະອ້າງວ່າເປັນຕົວຢ່າງທົ່ວໄປຂອງ AI ໃນການດູແລສຸຂະພາບ, ມັນຍັງເປັນກໍລະນີສຶກສາທີ່ມີຄຸນຄ່າສໍາລັບຄວາມສໍາຄັນຂອງ XAI. ຄວາມລົ້ມເຫຼວຂອງໂຄງການ Watson ສໍາລັບ Oncology ຊີ້ໃຫ້ເຫັນເຖິງສິ່ງທີ່ອາດຈະຜິດພາດໃນເວລາທີ່ຄໍາອະທິບາຍບໍ່ຊັດເຈນ, ຫຼືໃນເວລາທີ່ຂໍ້ມູນພື້ນຖານມີຄວາມລໍາອຽງຫຼືບໍ່ຖືກທ້ອງຖິ່ນ. ຄໍາແນະນໍາຂອງລະບົບບາງຄັ້ງບໍ່ສອດຄ່ອງກັບການປະຕິບັດທາງດ້ານການຊ່ວຍໃນທ້ອງຖິ່ນເພາະວ່າພວກເຂົາອີງໃສ່ຄໍາແນະນໍາຂອງສະຫະລັດເປັນສູນກາງ. ອັນນີ້ເຮັດໜ້າທີ່ເປັນການເຕືອນໄພກ່ຽວກັບຄວາມຈຳເປັນໃນການອະທິບາຍບໍລິບົດທີ່ແຂງແຮງ, ເຂົ້າໃຈໄດ້. ບົດບາດຂອງນັກຄົ້ນຄວ້າ UX: ການຊີ້ບອກ ແລະກວດສອບຄໍາອະທິບາຍ ການແກ້ໄຂການອອກແບບຂອງພວກເຮົາມີປະສິດທິພາບພຽງແຕ່ຖ້າພວກເຂົາແກ້ໄຂຄໍາຖາມຂອງຜູ້ໃຊ້ທີ່ຖືກຕ້ອງໃນເວລາທີ່ເຫມາະສົມ. ຄໍາອະທິບາຍທີ່ຕອບຄໍາຖາມທີ່ຜູ້ໃຊ້ບໍ່ມີແມ່ນພຽງແຕ່ສິ່ງລົບກວນ. ນີ້ແມ່ນບ່ອນທີ່ການຄົ້ນຄວ້າ UX ກາຍເປັນເນື້ອເຍື່ອເຊື່ອມຕໍ່ທີ່ສໍາຄັນໃນຍຸດທະສາດ XAI, ໃຫ້ແນ່ໃຈວ່າພວກເຮົາອະທິບາຍສິ່ງທີ່ແລະວິທີການທີ່ມີຄວາມສໍາຄັນກັບຜູ້ໃຊ້ຂອງພວກເຮົາ. ພາລະບົດບາດຂອງນັກຄົ້ນຄວ້າແມ່ນສອງເທົ່າ: ທໍາອິດ, ແຈ້ງຍຸດທະສາດໂດຍການກໍານົດບ່ອນທີ່ຄໍາອະທິບາຍທີ່ຈໍາເປັນ, ແລະທີສອງ, ການກວດສອບການອອກແບບທີ່ໃຫ້ຄໍາອະທິບາຍເຫຼົ່ານັ້ນ. ແຈ້ງຍຸດທະສາດ XAI (ສິ່ງທີ່ຄວນອະທິບາຍ) ກ່ອນທີ່ພວກເຮົາສາມາດອອກແບບຄໍາອະທິບາຍດຽວ, ພວກເຮົາຕ້ອງເຂົ້າໃຈຮູບແບບຈິດໃຈຂອງຜູ້ໃຊ້ຂອງລະບົບ AI. ພວກເຂົາເຈົ້າເຊື່ອວ່າມັນກໍາລັງເຮັດຫຍັງ? ຊ່ອງຫວ່າງລະຫວ່າງຄວາມເຂົ້າໃຈຂອງເຂົາເຈົ້າ ແລະຄວາມເປັນຈິງຂອງລະບົບຢູ່ໃສ? ນີ້ແມ່ນວຽກງານພື້ນຖານຂອງນັກຄົ້ນຄວ້າ UX. ການສໍາພາດແບບຈໍາລອງທາງຈິດ: ການເປີດເຜີຍຄວາມເຂົ້າໃຈຂອງຜູ້ໃຊ້ຂອງລະບົບ AI ຜ່ານການສໍາພາດແບບເຄິ່ງໂຄງສ້າງແບບເລິກເຊິ່ງ, ຜູ້ປະຕິບັດ UX ສາມາດໄດ້ຮັບຄວາມເຂົ້າໃຈອັນລ້ໍາຄ່າກ່ຽວກັບວິທີທີ່ຜູ້ໃຊ້ຮັບຮູ້ ແລະເຂົ້າໃຈລະບົບ AI. ກອງປະຊຸມເຫຼົ່ານີ້ຖືກອອກແບບມາເພື່ອຊຸກຍູ້ໃຫ້ຜູ້ໃຊ້ແຕ້ມຕົວຫນັງສືຫຼືອະທິບາຍ "ຕົວແບບທາງຈິດ" ພາຍໃນຂອງພວກເຂົາກ່ຽວກັບວິທີທີ່ພວກເຂົາເຊື່ອວ່າ AI ເຮັດວຽກ. ນີ້ມັກຈະກ່ຽວຂ້ອງກັບການຖາມຄໍາຖາມປາຍເປີດທີ່ກະຕຸ້ນໃຫ້ຜູ້ໃຊ້ອະທິບາຍເຫດຜົນຂອງລະບົບ, ວັດສະດຸປ້ອນ, ແລະຜົນໄດ້ຮັບຂອງມັນ, ເຊັ່ນດຽວກັນກັບຄວາມສໍາພັນລະຫວ່າງອົງປະກອບເຫຼົ່ານີ້. ການສໍາພາດເຫຼົ່ານີ້ແມ່ນມີອໍານາດເພາະວ່າພວກເຂົາມັກຈະເປີດເຜີຍຄວາມເຂົ້າໃຈຜິດແລະການສົມມຸດຕິຖານທີ່ເລິກເຊິ່ງຜູ້ໃຊ້ຖືກ່ຽວກັບ AI. ຕົວຢ່າງ, ຜູ້ໃຊ້ທີ່ພົວພັນກັບເຄື່ອງຈັກແນະນໍາອາດຈະຫມັ້ນໃຈຢ່າງຫມັ້ນໃຈວ່າລະບົບແມ່ນອີງໃສ່ປະຫວັດການເບິ່ງທີ່ຜ່ານມາຂອງພວກເຂົາຢ່າງດຽວ. ພວກເຂົາອາດຈະບໍ່ຮັບຮູ້ວ່າ algorithm ຍັງລວມເອົາປັດໃຈອື່ນໆຫຼາຍຢ່າງເຊັ່ນ: ເວລາຂອງມື້ທີ່ເຂົາເຈົ້າກໍາລັງຄົ້ນຫາ, ລາຍການທີ່ມີທ່າອ່ຽງໃນປັດຈຸບັນໃນທົ່ວເວທີ, ຫຼືແມ້ກະທັ້ງນິໄສການເບິ່ງຂອງຜູ້ໃຊ້ທີ່ຄ້າຍຄືກັນ. ການເປີດເຜີຍຊ່ອງຫວ່າງນີ້ລະຫວ່າງຮູບແບບຈິດໃຈຂອງຜູ້ໃຊ້ແລະເຫດຜົນ AI ພື້ນຖານທີ່ແທ້ຈິງແມ່ນມີຄວາມສໍາຄັນຫຼາຍ. ມັນບອກພວກເຮົາຢ່າງຈະແຈ້ງວ່າຂໍ້ມູນສະເພາະໃດທີ່ພວກເຮົາຕ້ອງການສື່ສານກັບຜູ້ໃຊ້ເພື່ອຊ່ວຍໃຫ້ພວກເຂົາສ້າງຕົວແບບທາງດ້ານຈິດໃຈທີ່ຖືກຕ້ອງແລະເຂັ້ມແຂງຂອງລະບົບ. ນີ້, ໃນທາງກັບກັນ, ແມ່ນບາດກ້າວພື້ນຖານໃນການສົ່ງເສີມຄວາມໄວ້ວາງໃຈ. ເມື່ອຜູ້ໃຊ້ເຂົ້າໃຈ, ເຖິງແມ່ນວ່າຢູ່ໃນລະດັບສູງ, ວິທີການ AI ມາຮອດບົດສະຫຼຸບຫຼືຄໍາແນະນໍາຂອງມັນ, ເຂົາເຈົ້າມີແນວໂນ້ມທີ່ຈະໄວ້ວາງໃຈຜົນໄດ້ຮັບຂອງມັນແລະອີງໃສ່ການເຮັດວຽກຂອງມັນ. ແຜນທີ່ການເດີນທາງ AI: ການລົງເລິກເຂົ້າໄປໃນຄວາມໄວ້ວາງໃຈຂອງຜູ້ໃຊ້ແລະການອະທິບາຍ ໂດຍການສ້າງແຜນທີ່ການເດີນທາງຂອງຜູ້ໃຊ້ຢ່າງພິຖີພິຖັນດ້ວຍຄຸນສົມບັດທີ່ຂັບເຄື່ອນດ້ວຍ AI, ພວກເຮົາໄດ້ຮັບຄວາມເຂົ້າໃຈອັນລ້ຳຄ່າກ່ຽວກັບຊ່ວງເວລາທີ່ຊັດເຈນທີ່ສັບສົນ, ຄວາມອຸກອັ່ງ, ຫຼືແມ່ນແຕ່ຄວາມບໍ່ໄວ້ວາງໃຈຢ່າງເລິກເຊິ່ງເກີດຂື້ນ. ນີ້ເປີດເຜີຍຈຸດເຊື່ອມຕໍ່ທີ່ສໍາຄັນທີ່ຮູບແບບຈິດໃຈຂອງຜູ້ໃຊ້ກ່ຽວກັບວິທີທີ່ AI ປະຕິບັດການຂັດແຍ້ງກັບພຶດຕິກໍາຕົວຈິງຂອງມັນ. ພິຈາລະນາການບໍລິການສະຕີມເພງ: ຄວາມໄວ້ວາງໃຈຂອງຜູ້ໃຊ້ຫຼຸດລົງບໍເມື່ອການແນະນຳລາຍການຫຼິ້ນຮູ້ສຶກວ່າ "ສຸ່ມ", ຂາດການເຊື່ອມຕໍ່ທີ່ເຂົ້າໃຈໄດ້ກັບນິໄສການຟັງໃນອະດີດ ຫຼືຄວາມມັກທີ່ລະບຸໄວ້ບໍ? ຄວາມສຸ່ມທີ່ຮັບຮູ້ນີ້ແມ່ນສິ່ງທ້າທາຍໂດຍກົງຕໍ່ຄວາມຄາດຫວັງຂອງຜູ້ໃຊ້ໃນການຮັກສາອັດສະລິຍະແລະການລະເມີດສັນຍາທີ່ຊັດເຈນວ່າ AI ເຂົ້າໃຈລົດຊາດຂອງພວກເຂົາ. ເຊັ່ນດຽວກັນ, ໃນແອັບພລິເຄຊັນການຈັດການຮູບພາບ, ຜູ້ໃຊ້ປະສົບກັບຄວາມອຸກອັ່ງຫຼາຍເມື່ອຄຸນສົມບັດການຕິດແທັກຮູບ AI ຢ່າງຕໍ່ເນື່ອງເຮັດໃຫ້ສະມາຊິກໃນຄອບຄົວທີ່ຮັກແພງຜິດຫວັງບໍ? ຄວາມຜິດພາດນີ້ແມ່ນຫຼາຍກ່ວາ glitch ດ້ານວິຊາການ; ມັນຕີຢູ່ໃນຫົວໃຈຂອງຄວາມຖືກຕ້ອງ, ການປັບແຕ່ງສ່ວນບຸກຄົນ, ແລະແມ້ກະທັ້ງການເຊື່ອມຕໍ່ທາງດ້ານຈິດໃຈ. ຈຸດເຈັບປວດເຫຼົ່ານີ້ແມ່ນສັນຍານ vivid ທີ່ຊີ້ບອກທີ່ຊັດເຈນບ່ອນທີ່ຄໍາອະທິບາຍທີ່ດີ, ຊັດເຈນ, ແລະຊັດເຈນແມ່ນມີຄວາມຈໍາເປັນ. ຄໍາອະທິບາຍດັ່ງກ່າວເຮັດຫນ້າທີ່ເປັນກົນໄກການສ້ອມແປງທີ່ສໍາຄັນ, ແກ້ໄຂການລະເມີດຄວາມໄວ້ວາງໃຈທີ່, ຖ້າປະໄວ້ໂດຍບໍ່ມີການແກ້ໄຂ, ສາມາດນໍາໄປສູ່ການປະຖິ້ມຜູ້ໃຊ້. ພະລັງຂອງແຜນທີ່ການເດີນທາງຂອງ AI ແມ່ນຢູ່ໃນຄວາມສາມາດທີ່ຈະຍ້າຍພວກເຮົາອອກໄປນອກເໜືອໄປກວ່າການອະທິບາຍເຖິງຜົນຜະລິດສຸດທ້າຍຂອງລະບົບ AI. ໃນຂະນະທີ່ຄວາມເຂົ້າໃຈສິ່ງທີ່ AI ຜະລິດແມ່ນສໍາຄັນ, ມັນມັກຈະບໍ່ພຽງພໍ. ແທນທີ່ຈະ, ຂະບວນການນີ້ບັງຄັບໃຫ້ພວກເຮົາສຸມໃສ່ການອະທິບາຍຂະບວນການໃນເວລາທີ່ສໍາຄັນ. ນີ້ຫມາຍຄວາມວ່າ:
ເປັນຫຍັງຜົນຜະລິດສະເພາະຈຶ່ງຖືກສ້າງຂື້ນ: ມັນແມ່ນຍ້ອນຂໍ້ມູນການປ້ອນຂໍ້ມູນສະເພາະບໍ? ສະຖາປັດຕະຍະກໍາແບບພິເສດ? ປັດໃຈໃດແດ່ທີ່ມີອິດທິພົນຕໍ່ການຕັດສິນໃຈຂອງ AI: ຄຸນສົມບັດບາງຢ່າງມີນໍ້າໜັກຫຼາຍບໍ? AI ມາຮອດບົດສະຫຼຸບຂອງມັນໄດ້ແນວໃດ: ພວກເຮົາສາມາດສະເຫນີຄໍາອະທິບາຍແບບງ່າຍໆ, ປຽບທຽບກັບການເຮັດວຽກພາຍໃນຂອງມັນບໍ? ການສົມມຸດຕິຖານອັນໃດທີ່ AI ສ້າງຂຶ້ນ: ມີຄວາມເຂົ້າໃຈໂດຍຫຍໍ້ກ່ຽວກັບຄວາມຕັ້ງໃຈຂອງຜູ້ໃຊ້ ຫຼືຂໍ້ມູນທີ່ຕ້ອງການເປີດເຜີຍ? ຂໍ້ຈໍາກັດຂອງ AI ແມ່ນຫຍັງ: ການສື່ສານຢ່າງຈະແຈ້ງສິ່ງທີ່ AI ບໍ່ສາມາດເຮັດໄດ້, ຫຼືບ່ອນທີ່ຄວາມຖືກຕ້ອງຂອງມັນອາດຈະປ່ຽນແປງ, ສ້າງຄວາມຄາດຫວັງທີ່ແທ້ຈິງ.
ແຜນທີ່ການເດີນທາງ AI ຫັນປ່ຽນແນວຄວາມຄິດທີ່ບໍ່ມີຕົວຕົນຂອງ XAI ໄປສູ່ຂອບເຂດການປະຕິບັດ, ປະຕິບັດໄດ້ສໍາລັບຜູ້ປະຕິບັດ UX. ມັນຊ່ວຍໃຫ້ພວກເຮົາສາມາດຍ້າຍອອກໄປນອກເຫນືອຈາກການສົນທະນາທາງທິດສະດີຂອງການອະທິບາຍແລະແທນທີ່ຈະຊີ້ບອກເຖິງຊ່ວງເວລາທີ່ແນ່ນອນທີ່ຄວາມໄວ້ວາງໃຈຂອງຜູ້ໃຊ້ຢູ່ໃນຄວາມສ່ຽງ, ສະຫນອງຄວາມເຂົ້າໃຈທີ່ຈໍາເປັນເພື່ອສ້າງປະສົບການ AI ທີ່ມີປະສິດທິພາບ, ໂປ່ງໃສ, ເຂົ້າໃຈໄດ້, ແລະເຊື່ອຖືໄດ້. ໃນທີ່ສຸດ, ການຄົ້ນຄວ້າແມ່ນວິທີທີ່ພວກເຮົາຄົ້ນພົບສິ່ງທີ່ບໍ່ຮູ້. ທີມງານຂອງທ່ານອາດຈະໂຕ້ວາທີກ່ຽວກັບວິທີການອະທິບາຍວ່າເປັນຫຍັງການກູ້ຢືມເງິນຖືກປະຕິເສດ, ແຕ່ການຄົ້ນຄວ້າອາດຈະເປີດເຜີຍໃຫ້ເຫັນວ່າຜູ້ໃຊ້ມີຄວາມກັງວົນກ່ຽວກັບການເຂົ້າໃຈວິທີການນໍາໃຊ້ຂໍ້ມູນຂອງພວກເຂົາໃນຕອນທໍາອິດ. ໂດຍບໍ່ມີການຄົ້ນຄ້ວາ, ພວກເຮົາພຽງແຕ່ຄາດເດົາສິ່ງທີ່ຜູ້ໃຊ້ຂອງພວກເຮົາສົງໄສ. ການຮ່ວມມືໃນການອອກແບບ (ວິທີການອະທິບາຍ AI ຂອງທ່ານ) ເມື່ອການຄົ້ນຄວ້າໄດ້ກໍານົດສິ່ງທີ່ຈະອະທິບາຍ, ການຮ່ວມມືກັບການອອກແບບເລີ່ມຕົ້ນ. ຜູ້ອອກແບບສາມາດສ້າງຕົ້ນແບບຮູບແບບທີ່ພວກເຮົາໄດ້ສົນທະນາກ່ອນຫນ້ານີ້ - ຄໍາຖະແຫຼງ "ເນື່ອງຈາກວ່າ", ແຖບເລື່ອນແບບໂຕ້ຕອບ - ແລະນັກຄົ້ນຄວ້າສາມາດເອົາການອອກແບບເຫຼົ່ານັ້ນຢູ່ຕໍ່ຫນ້າຜູ້ໃຊ້ເພື່ອເບິ່ງວ່າພວກເຂົາຍຶດຫມັ້ນ. ການທົດສອບການນໍາໃຊ້ແລະຄວາມເຂົ້າໃຈເປົ້າຫມາຍ: ພວກເຮົາສາມາດອອກແບບການສຶກສາຄົ້ນຄ້ວາທີ່ທົດສອບອົງປະກອບ XAI ໂດຍສະເພາະ. ພວກເຮົາບໍ່ພຽງແຕ່ຖາມວ່າ, "ນີ້ແມ່ນໃຊ້ງ່າຍບໍ?" ພວກເຮົາຖາມວ່າ, "ຫຼັງຈາກເຫັນນີ້, ເຈົ້າສາມາດບອກຂ້ອຍໃນຄໍາເວົ້າຂອງເຈົ້າເອງໄດ້ວ່າເປັນຫຍັງລະບົບຈຶ່ງແນະນໍາຜະລິດຕະພັນນີ້?" ຫຼື "ສະແດງໃຫ້ຂ້ອຍເຫັນສິ່ງທີ່ເຈົ້າຈະເຮັດເພື່ອເບິ່ງວ່າເຈົ້າສາມາດໄດ້ຮັບຜົນໄດ້ຮັບທີ່ແຕກຕ່າງກັນ." ເປົ້າຫມາຍທີ່ນີ້ແມ່ນເພື່ອວັດແທກຄວາມເຂົ້າໃຈແລະການປະຕິບັດ, ຄຽງຄູ່ກັບການນໍາໃຊ້. ການວັດແທກຄວາມໄວ້ວາງໃຈຂອງຕົວມັນເອງ: ພວກເຮົາສາມາດນໍາໃຊ້ແບບສໍາຫຼວດແບບງ່າຍດາຍແລະລະດັບການຈັດອັນດັບກ່ອນແລະຫຼັງຈາກຄໍາອະທິບາຍສະແດງໃຫ້ເຫັນ. ຕົວຢ່າງ, ພວກເຮົາສາມາດຖາມຜູ້ໃຊ້ໃນລະດັບ 5 ຈຸດ, "ເຈົ້າເຊື່ອຄໍາແນະນໍານີ້ຫຼາຍປານໃດ?" ກ່ອນທີ່ເຂົາເຈົ້າຈະເຫັນຄໍາຖະແຫຼງການ "ເພາະວ່າ", ແລະຫຼັງຈາກນັ້ນຖາມເຂົາເຈົ້າອີກເທື່ອຫນຶ່ງຫຼັງຈາກນັ້ນ. ນີ້ສະຫນອງຂໍ້ມູນປະລິມານກ່ຽວກັບວ່າຄໍາອະທິບາຍຂອງພວກເຮົາແມ່ນຕົວຈິງແລ້ວການເຄື່ອນຍ້າຍເຂັມກ່ຽວກັບຄວາມໄວ້ວາງໃຈ. ຂະບວນການນີ້ສ້າງວົງວຽນທີ່ມີພະລັງ, ຊໍ້າຄືນ. ຜົນການວິໄຈແຈ້ງການອອກແບບເບື້ອງຕົ້ນ. ການອອກແບບນັ້ນໄດ້ຖືກທົດສອບ, ແລະການຄົ້ນພົບໃຫມ່ຈະຖືກສົ່ງກັບທີມງານອອກແບບເພື່ອການປັບປຸງໃຫມ່. ບາງທີຄໍາຖະແຫຼງທີ່ "ເນື່ອງຈາກວ່າ" ແມ່ນເວົ້າເກີນໄປ, ຫຼືຕົວເລື່ອນ "ຈະເປັນແນວໃດຖ້າ" ແມ່ນສັບສົນຫຼາຍກ່ວາການສ້າງຄວາມເຂັ້ມແຂງ. ຜ່ານການກວດສອບການຮ່ວມມືນີ້, ພວກເຮົາຮັບປະກັນວ່າຄໍາອະທິບາຍສຸດທ້າຍແມ່ນຖືກຕ້ອງທາງດ້ານເຕັກນິກ, ເຂົ້າໃຈຢ່າງແທ້ຈິງ, ເປັນປະໂຫຍດ, ແລະສ້າງຄວາມໄວ້ວາງໃຈສໍາລັບປະຊາຊົນທີ່ໃຊ້ຜະລິດຕະພັນ. ເຂດ Goldilocks ຂອງຄໍາອະທິບາຍ ຄໍາທີ່ສໍາຄັນຂອງລະມັດລະວັງ: ມັນເປັນໄປໄດ້ທີ່ຈະອະທິບາຍເກີນໄປ. ຄືກັບໃນນິທານນິທານ, ບ່ອນທີ່ Goldilocks ຊອກຫາ porridge ທີ່ 'ຖືກຕ້ອງ', ເປົ້າຫມາຍຂອງຄໍາອະທິບາຍທີ່ດີແມ່ນເພື່ອສະຫນອງລາຍລະອຽດທີ່ຖືກຕ້ອງ - ບໍ່ຫຼາຍເກີນໄປແລະບໍ່ນ້ອຍເກີນໄປ. Bombarding ຜູ້ໃຊ້ກັບທຸກຕົວແປໃນແບບຈະນໍາໄປສູ່ການ overload ມັນສະຫມອງແລະສາມາດຫຼຸດລົງຄວາມໄວ້ວາງໃຈ. ເປົ້າຫມາຍບໍ່ແມ່ນເພື່ອເຮັດໃຫ້ຜູ້ໃຊ້ເປັນນັກວິທະຍາສາດຂໍ້ມູນ. ການແກ້ໄຂຫນຶ່ງແມ່ນການເປີດເຜີຍທີ່ກ້າວຫນ້າ.
ເລີ່ມຕົ້ນດ້ວຍການງ່າຍດາຍ. ນໍາພາດ້ວຍຄໍາເວົ້າສັ້ນໆ "ເພາະວ່າ". ສໍາລັບຜູ້ໃຊ້ສ່ວນໃຫຍ່, ນີ້ຈະພຽງພໍ. ສະເໜີເສັ້ນທາງໃຫ້ລະອຽດ. ສະຫນອງການເຊື່ອມຕໍ່ທີ່ຊັດເຈນ, ມີ friction ຕ່ໍາເຊັ່ນ "ຮຽນຮູ້ເພີ່ມເຕີມ" ຫຼື "ເບິ່ງວິທີການນີ້ຖືກກໍານົດ." ເປີດເຜີຍຄວາມຊັບຊ້ອນ. ຢູ່ທາງຫລັງຂອງການເຊື່ອມຕໍ່ນັ້ນ, ທ່ານສາມາດສະເຫນີຕົວເລື່ອນແບບໂຕ້ຕອບ, ການເບິ່ງເຫັນ, ຫຼືບັນຊີລາຍຊື່ລາຍລະອຽດເພີ່ມເຕີມຂອງປັດໃຈປະກອບສ່ວນ.
ວິທີການຊັ້ນນີ້ເຄົາລົບຄວາມສົນໃຈຂອງຜູ້ໃຊ້ແລະຄວາມຊໍານານ, ສະຫນອງພຽງແຕ່ປະລິມານທີ່ເຫມາະສົມຂໍ້ມູນຂ່າວສານສໍາລັບຄວາມຕ້ອງການຂອງເຂົາເຈົ້າ. ໃຫ້ຈິນຕະນາການວ່າທ່ານກໍາລັງໃຊ້ອຸປະກອນເຮືອນອັດສະລິຍະທີ່ແນະນໍາການໃຫ້ຄວາມຮ້ອນທີ່ດີທີ່ສຸດໂດຍອີງໃສ່ປັດໃຈຕ່າງໆ. ເລີ່ມຕົ້ນດ້ວຍແບບງ່າຍໆ: "ປະຈຸບັນເຮືອນຂອງເຈົ້າມີຄວາມຮ້ອນເຖິງ 72 ອົງສາ, ເຊິ່ງເປັນອຸນຫະພູມທີ່ດີທີ່ສຸດສໍາລັບການປະຫຍັດພະລັງງານແລະຄວາມສະດວກສະບາຍ." ສະເຫນີເສັ້ນທາງໃຫ້ລາຍລະອຽດ: ຂ້າງລຸ່ມນີ້, ການເຊື່ອມຕໍ່ຂະຫນາດນ້ອຍຫຼືປຸ່ມ: "ເປັນຫຍັງ 72 ອົງສາຈຶ່ງເຫມາະສົມ?" ເປີດເຜີຍຄວາມສັບສົນ: ການຄລິກໃສ່ການເຊື່ອມຕໍ່ນັ້ນສາມາດເປີດຫນ້າຈໍໃຫມ່ສະແດງໃຫ້ເຫັນ:
ຕົວເລື່ອນແບບໂຕ້ຕອບສໍາລັບອຸນຫະພູມພາຍນອກ, ຄວາມຊຸ່ມຊື່ນ, ແລະລະດັບຄວາມສະດວກສະບາຍທີ່ທ່ານຕ້ອງການ, ສະແດງໃຫ້ເຫັນວິທີການເຫຼົ່ານີ້ປັບອຸນຫະພູມທີ່ແນະນໍາ. ການສະແດງພາບຂອງການບໍລິໂພກພະລັງງານໃນອຸນຫະພູມທີ່ແຕກຕ່າງກັນ. ບັນຊີລາຍຊື່ຂອງປັດໃຈປະກອບສ່ວນເຊັ່ນ "ເວລາຂອງມື້," "ອຸນຫະພູມພາຍນອກໃນປະຈຸບັນ", "ການນໍາໃຊ້ພະລັງງານປະຫວັດສາດ," ແລະ "ເຊັນເຊີການຄອບຄອງ."
ມັນມີປະສິດທິພາບທີ່ຈະສົມທົບວິທີການ XAI ຫຼາຍອັນແລະຮູບແບບການອະທິບາຍເຂດ Goldilocks, ເຊິ່ງສະຫນັບສະຫນູນການເປີດເຜີຍຄວາມຄືບຫນ້າ, ຊຸກຍູ້ຢ່າງຈະແຈ້ງ. ທ່ານອາດຈະເລີ່ມຕົ້ນດ້ວຍຄໍາຖະແຫຼງທີ່ງ່າຍດາຍ "ເນື່ອງຈາກວ່າ" (ຮູບແບບ 1) ສໍາລັບຄວາມເຂົ້າໃຈທັນທີທັນໃດ, ແລະຫຼັງຈາກນັ້ນສະເຫນີການເຊື່ອມຕໍ່ "ຮຽນຮູ້ເພີ່ມເຕີມ" ທີ່ເປີດເຜີຍ "What-If" Interactive (Pattern 2) ຫຼື "Push-and-Pull Visual" (Pattern 4) ສໍາລັບການຂຸດຄົ້ນເລິກ. ຕົວຢ່າງເຊັ່ນ, ລະບົບການຮ້ອງຂໍເງິນກູ້ສາມາດບອກເຫດຜົນຕົ້ນຕໍສໍາລັບການປະຕິເສດ (ຄວາມສໍາຄັນຂອງຄຸນນະສົມບັດ), ຫຼັງຈາກນັ້ນໃຫ້ຜູ້ໃຊ້ສາມາດພົວພັນກັບເຄື່ອງມື "What-If" ເພື່ອເບິ່ງວ່າການປ່ຽນແປງຂອງລາຍໄດ້ຫຼືຫນີ້ສິນຂອງພວກເຂົາຈະປ່ຽນແປງຜົນໄດ້ຮັບ (counterfactuals), ແລະສຸດທ້າຍ, ໃຫ້ຕາຕະລາງ "Push-and-Pull" ລາຍລະອຽດ (ຄໍາອະທິບາຍໂດຍອີງໃສ່ມູນຄ່າ). ວິທີການແບບຊັ້ນນີ້ອະນຸຍາດໃຫ້ຜູ້ໃຊ້ສາມາດເຂົ້າເຖິງລະດັບຂອງລາຍລະອຽດທີ່ພວກເຂົາຕ້ອງການ, ເມື່ອພວກເຂົາຕ້ອງການ, ປ້ອງກັນການ overload ຂອງມັນສະຫມອງໃນຂະນະທີ່ຍັງສະຫນອງຄວາມໂປ່ງໃສທີ່ສົມບູນແບບ. ການກໍານົດວ່າເຄື່ອງມື XAI ແລະວິທີການນໍາໃຊ້ແມ່ນຫນ້າທີ່ຂອງການຄົ້ນຄວ້າ UX ຢ່າງລະອຽດ. ການສໍາພາດແບບຈໍາລອງທາງຈິດແລະແຜນທີ່ການເດີນທາງ AI ແມ່ນສໍາຄັນສໍາລັບການຊີ້ບອກຄວາມຕ້ອງການຂອງຜູ້ໃຊ້ແລະຈຸດເຈັບປວດທີ່ກ່ຽວຂ້ອງກັບຄວາມເຂົ້າໃຈ AI ແລະຄວາມໄວ້ວາງໃຈ. ການສໍາພາດແບບຈໍາລອງທາງຈິດຊ່ວຍເປີດເຜີຍຄວາມເຂົ້າໃຈຜິດຂອງຜູ້ໃຊ້ກ່ຽວກັບວິທີການເຮັດວຽກຂອງ AI, ຊີ້ບອກພື້ນທີ່ທີ່ຕ້ອງການຄໍາອະທິບາຍພື້ນຖານ (ເຊັ່ນ: ຄວາມສໍາຄັນຂອງຄຸນສົມບັດຫຼືຄໍາອະທິບາຍທ້ອງຖິ່ນ). ໃນທາງກົງກັນຂ້າມ, ແຜນທີ່ການເດີນທາງຂອງ AI, ລະບຸຊ່ວງເວລາທີ່ສັບສົນ ຫຼືຄວາມບໍ່ໄວ້ວາງໃຈໃນການໂຕ້ຕອບຂອງຜູ້ໃຊ້ກັບ AI, ເປັນສັນຍານບ່ອນທີ່ຄໍາອະທິບາຍແບບລະອຽດ ຫຼືການໂຕ້ຕອບຫຼາຍຂຶ້ນ (ເຊັ່ນ: ການໂຕ້ຕອບ ຫຼືຄຳອະທິບາຍທີ່ອີງໃສ່ມູນຄ່າ) ຈະເປັນປະໂຫຍດທີ່ສຸດທີ່ຈະສ້າງຄວາມໄວ້ວາງໃຈ ແລະໃຫ້ອົງການຄືນໃໝ່.
ໃນທີ່ສຸດ, ວິທີທີ່ດີທີ່ສຸດທີ່ຈະເລືອກເອົາເຕັກນິກແມ່ນເພື່ອໃຫ້ການຄົ້ນຄວ້າຂອງຜູ້ໃຊ້ນໍາພາການຕັດສິນໃຈຂອງທ່ານ, ໃຫ້ແນ່ໃຈວ່າຄໍາອະທິບາຍທີ່ທ່ານອອກແບບໄດ້ໂດຍກົງກັບຄໍາຖາມແລະຄວາມກັງວົນຂອງຜູ້ໃຊ້ຕົວຈິງ, ແທນທີ່ຈະພຽງແຕ່ສະເຫນີລາຍລະອຽດດ້ານວິຊາການສໍາລັບຜົນປະໂຫຍດຂອງຕົນເອງ. XAI ສໍາລັບຕົວແທນທີ່ມີເຫດຜົນເລິກເຊິ່ງ ບາງລະບົບ AI ໃໝ່ລ່າສຸດ, ທີ່ຮູ້ຈັກກັນໃນນາມຕົວແທນໃຫ້ເຫດຜົນອັນເລິກເຊິ່ງ, ຜະລິດ “ຕ່ອງໂສ້ຄວາມຄິດ” ທີ່ຈະແຈ້ງສຳລັບທຸກວຽກທີ່ສັບສົນ. ພວກເຂົາບໍ່ພຽງແຕ່ອ້າງເຖິງແຫຼ່ງ; ພວກເຂົາເຈົ້າສະແດງໃຫ້ເຫັນຢ່າງມີເຫດຜົນ, ຂັ້ນຕອນໂດຍຂັ້ນຕອນທີ່ເຂົາເຈົ້າໄດ້ໄປເຖິງການສະຫລຸບ. ໃນຂະນະທີ່ຄວາມໂປ່ງໃສນີ້ໃຫ້ບໍລິບົດທີ່ມີຄຸນຄ່າ, ການຫຼິ້ນຕໍ່ໆໄປທີ່ກວມເອົາຫຼາຍວັກສາມາດຮູ້ສຶກວ່າຜູ້ໃຊ້ພະຍາຍາມເຮັດສໍາເລັດວຽກຫນຶ່ງ. ຫຼັກການຂອງ XAI, ໂດຍສະເພາະແມ່ນການອະທິບາຍເຂດ Goldilocks, ນໍາໃຊ້ໂດຍກົງທີ່ນີ້. ພວກເຮົາສາມາດແກ້ໄຂການເດີນທາງ, ການນໍາໃຊ້ການເປີດເຜີຍຄວາມຄືບຫນ້າເພື່ອສະແດງໃຫ້ເຫັນພຽງແຕ່ການສະຫລຸບສຸດທ້າຍແລະຂັ້ນຕອນທີ່ໂດດເດັ່ນທີ່ສຸດໃນຂະບວນການຄິດກ່ອນ. ຫຼັງຈາກນັ້ນ, ຜູ້ໃຊ້ສາມາດເລືອກເບິ່ງເຫດຜົນເຕັມ, ລະອຽດ, ຫຼາຍຂັ້ນຕອນເມື່ອພວກເຂົາຕ້ອງການກວດເບິ່ງເຫດຜົນສອງຄັ້ງຫຼືຊອກຫາຄວາມຈິງສະເພາະ. ວິທີການນີ້ເຄົາລົບຄວາມສົນໃຈຂອງຜູ້ໃຊ້ໃນຂະນະທີ່ຮັກສາຄວາມໂປ່ງໃສຢ່າງເຕັມທີ່ຂອງຕົວແທນ. ຂັ້ນຕອນຕໍ່ໄປ: ສ້າງຄວາມເຂັ້ມແຂງໃຫ້ແກ່ການເດີນທາງ XAI ຂອງທ່ານ ການອະທິບາຍເປັນເສົາຄ້ຳພື້ນຖານໃນການສ້າງຜະລິດຕະພັນ AI ທີ່ເຊື່ອຖືໄດ້ ແລະມີປະສິດທິພາບ. ສໍາລັບຜູ້ປະຕິບັດຂັ້ນສູງທີ່ຊອກຫາການຂັບເຄື່ອນການປ່ຽນແປງນີ້ພາຍໃນອົງການຂອງພວກເຂົາ, ການເດີນທາງໄດ້ຂະຫຍາຍອອກໄປນອກຮູບແບບການອອກແບບໄປສູ່ການສົ່ງເສີມແລະການຮຽນຮູ້ຢ່າງຕໍ່ເນື່ອງ. ເພື່ອເຮັດໃຫ້ຄວາມເຂົ້າໃຈແລະການປະຕິບັດຕົວຈິງຂອງທ່ານເລິກເຊິ່ງ, ພິຈາລະນາການຂຸດຄົ້ນຊັບພະຍາກອນເຊັ່ນ: ຊຸດເຄື່ອງມື AI Explainability 360 (AIX360) ຈາກ IBM Research ຫຼື Google's What-If Tool, ເຊິ່ງສະເຫນີວິທີການໂຕ້ຕອບເພື່ອຄົ້ນຫາພຶດຕິກໍາຕົວແບບແລະຄໍາອະທິບາຍ. ການມີສ່ວນຮ່ວມກັບຊຸມຊົນເຊັ່ນ: ເວທີ AI ທີ່ມີຄວາມຮັບຜິດຊອບ ຫຼືກຸ່ມການຄົ້ນຄວ້າສະເພາະທີ່ເນັ້ນໃສ່ AI ຂອງມະນຸດເປັນໃຈກາງສາມາດໃຫ້ຄວາມເຂົ້າໃຈອັນລ້ຳຄ່າ ແລະໂອກາດການຮ່ວມມື. ສຸດທ້າຍ, ເປັນຜູ້ສະໜັບສະໜູນ XAI ພາຍໃນອົງກອນຂອງເຈົ້າເອງ.ການອະທິບາຍກອບເປັນການລົງທຶນຍຸດທະສາດ. ພິຈາລະນາສະແດງໃຫ້ເຫັນໂດຍຫຍໍ້ສໍາລັບການເປັນຜູ້ນໍາຫຼືທີມງານຂ້າມປະສິດທິພາບຂອງທ່ານ: "ໂດຍການລົງທຶນໃນ XAI, ພວກເຮົາຈະໄປນອກເຫນືອການສ້າງຄວາມໄວ້ວາງໃຈ; ພວກເຮົາຈະເລັ່ງການຮັບຮອງເອົາຜູ້ໃຊ້, ຫຼຸດຜ່ອນຄ່າໃຊ້ຈ່າຍໃນການສະຫນັບສະຫນູນໂດຍການໃຫ້ຜູ້ໃຊ້ມີຄວາມເຂົ້າໃຈ, ແລະຫຼຸດຜ່ອນຄວາມສ່ຽງດ້ານຈັນຍາບັນແລະກົດລະບຽບທີ່ສໍາຄັນໂດຍການເປີດເຜີຍຄວາມລໍາອຽງທີ່ເປັນໄປໄດ້. ນີ້ແມ່ນການອອກແບບທີ່ດີແລະທຸລະກິດທີ່ສະຫຼາດ."
ສຽງຂອງທ່ານ, ອີງໃສ່ຄວາມເຂົ້າໃຈພາກປະຕິບັດ, ແມ່ນສໍາຄັນໃນການນໍາ AI ອອກຈາກກ່ອງດໍາແລະເປັນຄູ່ຮ່ວມງານຮ່ວມມືກັບຜູ້ໃຊ້.
