ئاخىرقى ئەسىرىمدە بىز بىر ئاساسى ھەقىقەتنى تۇرغۇزدۇق: ئابونتلارنىڭ سۈنئىي ئەقىلنى قوبۇل قىلىشى ۋە ئۇنىڭغا تايىنىشى ئۈچۈن ، ئۇلار چوقۇم ئۇنىڭغا ئىشىنىشى كېرەك. بىز ئىشەنچنىڭ سۈنئىي ئەقىلنىڭ قابىلىيىتى ، ئاق كۆڭۈللىكى ، سەمىمىيىتى ۋە ئالدىن پەرەز قىلىش ئىقتىدارىغا بولغان تونۇشنى ئاساس قىلغان كۆپ تەرەپلىمىلىك قۇرۇلۇش ئىكەنلىكى توغرىسىدا پاراڭلاشتۇق. ئەمما سۈنئىي ئەقىل جىمجىت ، ئالگورىزىملىق ئەقىل-پاراسەت بىلەن ئىشلەتكۈچىنى گاڭگىرىتىپ قويىدۇ ، ئۈمىدسىزلەندۈرىدۇ ، ھەتتا ئازابلايدۇ؟ رەنە ئىلتىماسى رەت قىلىندى ، ياقتۇرىدىغان ناخشا تۇيۇقسىزلا قويۇش تىزىملىكىدە يوق ، لاياقەتلىك تەرجىمىھالى ئىنسان ئۇنى كۆرۈشتىن بۇرۇن رەت قىلىنىدۇ. بۇ دەقىقىلەردە ئىقتىدار ۋە ئالدىن پەرەز قىلىش كۈچى بۇزۇلۇپ ، ئاق كۆڭۈللۈك دۇنيانى يىراق ھېس قىلىدۇ. بىزنىڭ سۆھبىتىمىز ھازىر ئىشەنچنىڭ سەۋەبىدىن ئوچۇق-ئاشكارە قانداق تەرەققىي قىلىشى كېرەك. سۈنئىي ئەقىلنىڭ نەتىجىسىنى ئىنسانلارغا چۈشىنىشلىك قىلىش ئۇسۇللىرىنى تەرەققىي قىلدۇرۇشنى ئاساس قىلغان چۈشەندۈرگىلى بولىدىغان سۈنئىي ئەقىل (XAI) ساھەسى بۇنى ھەل قىلىش ئۈچۈن بارلىققا كەلدى ، ئەمما ئۇ ھەمىشە سانلىق مەلۇمات تەتقىقاتچىلىرى ئۈچۈن نوقۇل تېخنىكىلىق رىقابەت سۈپىتىدە قۇرۇلدى. مېنىڭچە بۇ سۈنئىي ئەقىلگە تايىنىدىغان مەھسۇلاتلار ئۈچۈن ھالقىلىق لايىھىلەش خىرىسى. ئالگورىزىملىق قارار چىقىرىش بىلەن ئىنسانلارنىڭ چۈشىنىشى ئوتتۇرىسىدىكى پەرقنى تۈگىتىش UX كەسپىي خادىمى بولۇش سۈپىتىمىز بىلەن بىزنىڭ خىزمىتىمىز. بۇ ماقالە چۈشەندۈرۈش ۋە چۈشەندۈرۈش ئۈچۈن قانداق لايىھىلەش ۋە لايىھىلەش ھەققىدە ئەمەلىي ، ھەرىكەتچان يېتەكچىلىك بىلەن تەمىنلەيدۇ. بىز مودا سۆزلەردىن ھالقىپ ، تەقلىد قىلىپ ، مۇرەككەپ XAI ئۇقۇملىرىنى بۈگۈندىن باشلاپ ئىشلىتىشكە بولىدىغان كونكرېت لايىھىلەش ئەندىزىسىگە تەرجىمە قىلىمىز. سىرلىق XAI: UX مەشىق قىلغۇچىلار ئۈچۈن يادرولۇق ئۇقۇم XAI ئىشلەتكۈچىنىڭ سوئالىغا: «نېمىشقا؟» دېگەن سوئالغا جاۋاب بېرىدۇ. نېمىشقا بۇ ئېلاننى كۆرسەتتىم؟ بۇ فىلىم نېمىشقا ماڭا تەۋسىيە قىلىنىدۇ؟ مېنىڭ تەلىپىم نېمىشقا رەت قىلىندى؟ سۈنئىي ئەقىل ماتېماتىكا مەسىلىسىدىكى خىزمىتىنى كۆرسىتىۋاتىدۇ دەپ ئويلاڭ. ئۇ بولمىسا ، سىزدە پەقەت بىر جاۋاب بار ، ئۇنى ئىشەنچ بىلەن قوبۇل قىلىشقا مەجبۇر بولىسىز. باسقۇچلارنى كۆرسىتىشتە چۈشىنىش ۋە ئىشەنچ تۇرغۇزۇڭ. سىز يەنە خىزمىتىڭىزنىڭ ئۆزى تەسىر قىلغان ئىنسانلار تەرىپىدىن ئىككى قېتىم تەكشۈرۈلۈپ تەكشۈرۈلۈشىگە يول قويىسىز. ئىقتىدارنىڭ ئەھمىيىتى ۋە قارشى تەرەپلىرى سۈنئىي ئەقىل بىلەن يۈز بېرىۋاتقان ئىشلارنى ئايدىڭلاشتۇرۇش ياكى چۈشەندۈرۈش ئۈچۈن ئىشلىتىدىغان بىر قاتار تېخنىكىلار بار. ئۇسۇللار قارار دەرىخىنىڭ پۈتكۈل لوگىكىسىنى تەمىنلەشتىن تارتىپ ، مەھسۇلاتنىڭ تەبىئىي تىل خۇلاسىسىنى ھاسىل قىلىشقىچە بولغان ئارىلىقتا ، UX مەشىق قىلغۇچىلارنىڭ تەجرىبىگە كىرگۈزەلەيدىغان ئەڭ ئەمەلىي ۋە تەسىرلىك ئۇچۇرلىرىدىن ئىككىسى ئىقتىدارنىڭ مۇھىملىقى (1-رەسىم) ۋە قارشى تەرەپ. بۇلار ھەمىشە ئابونتلارنىڭ چۈشىنىشى ئۈچۈن ئەڭ ئاددىي ، لايىھىلىگۈچىلەرنىڭ ئەمەلىيلەشتۈرۈشى ئەڭ ئۈنۈملۈك.
ئىقتىدارنىڭ مۇھىملىقى بۇ چۈشەندۈرۈش ئۇسۇلى «سۈنئىي ئەقىل ئويلاشقان ئەڭ مۇھىم ئامىللار قايسىلار؟» دەپ جاۋاب بېرىدۇ. بۇ نەتىجىگە ئەڭ چوڭ تەسىر كۆرسەتكەن ئالدىنقى 2-3 ئۆزگەرگۈچى مىقدارنى ئېنىقلاش. بۇ باش تېما ، پۈتۈن ھېكايە ئەمەس. مىسال: بىر خېرىدارنى چۇۋۇپ تاشلايدىغانلىقىنى پەرەز قىلىدىغان AI نى تەسەۋۋۇر قىلىپ بېقىڭ. ئىقتىدارنىڭ مۇھىملىقى بەلكىم «ئالدىنقى ئايدىكى قوللاش تېلېفونلىرىنىڭ سانى» ۋە «يېقىنقى باھانىڭ ئۆسۈشى» خېرىدارلارنىڭ چاتاق بولۇش ئېھتىماللىقىنى بەلگىلەيدىغان ئەڭ مۇھىم ئىككى ئامىل ئىكەنلىكىنى ئاشكارىلىشى مۇمكىن.
Counterfactuals بۇ كۈچلۈك ئۇسۇل «باشقىچە نەتىجىگە ئېرىشىش ئۈچۈن نېمىلەرنى ئۆزگەرتىشىم كېرەك؟» دەپ جاۋاب بېرىدۇ. بۇ ئىنتايىن مۇھىم ، چۈنكى ئۇ ئابونتلارغا ۋاكالەتچىلىك تۇيغۇسى بېرىدۇ. ئۇ كىشىنى ئۈمىدسىزلەندۈرىدىغان «ياق» نى ھەرىكەتچان «تېخى ئەمەس» گە ئايلاندۇرىدۇ. مىسال: سۈنئىي ئەقىل ئىشلىتىدىغان قەرز ئىلتىماس سىستېمىسىنى تەسەۋۋۇر قىلىپ بېقىڭ. ئىشلەتكۈچى قەرزنى رەت قىلىدۇ. «ئىلتىماس رەت قىلىندى» نى كۆرۈشنىڭ ئورنىغا ، ئەكسىچە چۈشەندۈرۈشمۇ ھەمبەھىرلىنىپ ، «ئەگەر سىزنىڭ ئىناۋەتلىك نومۇرىڭىز 50 نومۇر يۇقىرى بولسا ، ياكى قەرز بىلەن كىرىم نىسبىتىڭىز% 10 تۆۋەن بولسا ، قەرزىڭىز تەستىقلانغان بولاتتى». بۇ ساراغا كەلگۈسىدە قەرز ئېلىش ئۈچۈن قوللىنىدىغان ئېنىق ، ھەرىكەتچان قەدەملەرنى بېرىدۇ.
چۈشەندۈرۈشنى كۈچەيتىش ئۈچۈن مودېل سانلىق مەلۇماتلىرىنى ئىشلىتىش گەرچە تېخنىكىلىق ئالاھىدىلىكنى سانلىق مەلۇمات تەتقىقاتچىلىرى دائىم بىر تەرەپ قىلسىمۇ ، ئەمما UX مەشىق قىلغۇچىلارنىڭ LIME (يەرلىك چۈشەندۈرگىلى بولىدىغان مودېل-ئاگنوستىكىلىق چۈشەندۈرۈش) قاتارلىق قوراللارنىڭ يەرلىك مودېلنى تەقلىد قىلىش ئارقىلىق يەككە پەرەزنى چۈشەندۈرىدىغان قوراللار ۋە ئويۇن نەزەرىيىسى ئۇسۇلىنى قوللانغان SHAP (SHapley Additive exPlanations) غا ئوخشاش قوراللارنىڭ بۇ مودېللارنىڭ «نېمە ئۈچۈن» چۈشەنچىسىنى چىقىرىشتا ئىشلىتىلىدىغانلىقىنى بىلىشى پايدىلىق. بۇ كۈتۈپخانىلار سۈنئىي ئەقىلنىڭ قايسى نەتىجىنىڭ مەلۇم نەتىجىگە ئەڭ تەسىر كۆرسەتكەنلىكىنى كۆرسىتىش قارارىنى بۇزۇشىغا ياردەم بېرىدۇ. مۇۋاپىق ئىشلەنسە ، سۈنئىي ئەقىل قورالىنىڭ قارارىدىكى سانلىق مەلۇماتلارنى كۈچلۈك ھېكايە سۆزلەشكە ئىشلىتىشكە بولىدۇ. ئىقتىدارنىڭ مۇھىملىقى ۋە قارشى تەرەپلەرنى بېسىپ ئۆتۈپ ، قارارنىڭ ئارقىسىدىكى سانلىق مەلۇمات ئىلمىنىڭ قانداق قىلىپ ئابونتلارنىڭ تەجرىبىسىنى ئاشۇرغىلى بولىدىغانلىقىنى كۆرسىتىپ ئۆتەيلى. ئەمدى قىلايلىيەرلىك چۈشەندۈرۈش (مەسىلەن ، LIME) سانلىق مەلۇماتلىرىنىڭ ياردىمىدە ئىقتىدارنىڭ مۇھىملىقىنى قاپلاڭ: بۇ ئۇسۇل «سۈنئىي ئەقىل نېمىشقا ھازىر ماڭا بۇ ئالاھىدە تەۋسىيەنى بەردى؟» دەپ جاۋاب بېرىدۇ. ئۇ مودېلنىڭ قانداق ئىشلەيدىغانلىقىنى ئومۇمىي چۈشەندۈرۈشنىڭ ئورنىغا ، يەككە ، كونكرېت مىسال ئۈچۈن مەركەزلىك سەۋەب بىلەن تەمىنلەيدۇ. ئۇ شەخسىي ۋە مەزمۇن خاراكتېرلىك. مىسال: Spotify غا ئوخشاش سۈنئىي ئەقىل ئارقىلىق مۇزىكا تەۋسىيە قىلىش سىستېمىسىنى تەسەۋۋۇر قىلىپ بېقىڭ. شۇ يەردىكى بىر چۈشەندۈرۈشتە «سىستېما نېمىشقا ئادىلەنىڭ بۇ ئالاھىدە ناخشىسىنى ھازىر سىزگە تەۋسىيە قىلدى؟» دەپ جاۋاب بېرىدۇ. بۇ چۈشەندۈرۈش بەلكىم مۇنداق بولۇشى مۇمكىن: «چۈنكى سىز يېقىندا باشقا بىر قانچە ھېسسىياتچان باللاد ۋە ئايال ناخشىچىلارنىڭ ناخشىلىرىنى ئاڭلىدىڭىز».
ئاخىرىدا ، قىممەتنى ئاساس قىلغان چۈشەندۈرۈشلەرنى (مەسىلەن شاپلېي خۇرۇچ چۈشەندۈرۈش (SHAP)) سانلىق مەلۇماتنى بىر قارارنىڭ چۈشەندۈرۈشىگە ئۆز ئىچىگە ئالايلى: بۇ ئىقتىدارنىڭ تېخىمۇ ئىنچىكە نەشىرى بولۇپ ، «ھەر بىر ئامىل قارارنى قانداقتۇر بىر تەرەپكە ئىتتىرىۋەتتى؟» دەپ جاۋاب بېرىدۇ. مىسال: بانكىنىڭ سۈنئىي ئەقىل ئەندىزىسىنى ئىشلىتىپ قەرز ئىلتىماسىنى تەستىقلاش-تەستىقلىماسلىقنى قارار قىلىشىنى تەسەۋۋۇر قىلىپ بېقىڭ.
ئىقتىدارنىڭ مۇھىملىقى: ئەندىزە چىقىرىش بەلكىم ئىلتىماس قىلغۇچىنىڭ ئىناۋەتلىك نومۇرى ، كىرىمى ۋە قەرز بىلەن كىرىم نىسبىتىنىڭ قارارىدىكى ئەڭ مۇھىم ئامىل ئىكەنلىكىنى كۆرسىتىپ بېرىدۇ. بۇ نېمىنىڭ مۇھىملىقىغا جاۋاب بېرىدۇ. قىممەتنى ئاساس قىلغان چۈشەندۈرۈش (SHAP) بىلەن ئىقتىدارنىڭ مۇھىملىقى: SHAP قىممىتى مودېلنىڭ ئېلېمېنتلىرىغا ئاساسەن تېخىمۇ مۇھىم ئەھمىيەتكە ئىگە بولىدۇ.
تەستىقلانغان قەرزگە نىسبەتەن ، SHAP بەلكىم يۇقىرى ئىناۋەتلىك نومۇرنىڭ قارارنى تەستىقلاشقا (ئاكتىپ تەسىر) زور دەرىجىدە ئىتتىرىدىغانلىقىنى كۆرسىتىپ بېرىدۇ ، ھالبۇكى ئوتتۇرىچە قەرزدىن كىرىم نىسبىتى سەل يۇقىرى بولسا ئۇنى سەل يىراقلاشتۇردى (سەلبىي تەسىر) ، ئەمما قەرزنى رەت قىلىشقا يەتمەيدۇ. رەت قىلىنغان قەرزگە نىسبەتەن ، SHAP تۆۋەن كىرىم ۋە يېقىنقى بىر قانچە قېتىملىق ئىناۋەتلىك سۈرۈشتۈرۈشنىڭ ئىناۋەت نومۇرى مۇۋاپىق بولغان تەقدىردىمۇ قارارنى رەت قىلىشقا كۈچلۈك تۈرتكە بولغانلىقىنى ئاشكارىلىشى مۇمكىن.
بۇ قەرز ئالغۇچىنىڭ ئىلتىماس قىلغۇچىغا ئويلاشقاندىن ھالقىپ ، ھەر بىر ئامىلنىڭ ئاخىرقى «ھەئە» ياكى «ياق» قارارىغا قانداق تۆھپە قوشقانلىقىنى چۈشەندۈرۈشىگە ياردەم بېرىدۇ. شۇنى چۈشىنىش تولىمۇ مۇھىمكى ، ياخشى چۈشەندۈرۈش ئىقتىدارى تەرەققىيات دەۋرىدە ھەمىشە بالدۇر باشلىنىدۇ. سانلىق مەلۇمات تەتقىقاتچىلىرى ۋە ئىنژېنېرلار مودېل ۋە سانلىق مەلۇمات تۇرۇبا يولىنى مەقسەتلىك ھالدا چۈشەندۈرۈشنى قوللايدىغان ئۇسۇللار بىلەن قەستەن قۇرۇلما ئارقىلىق مۇھىم رول ئوينايدۇ. تەتقىقات ۋە لايىھىلەش گۇرۇپپىلىرى سانلىق مەلۇمات تەتقىقاتچىلىرى ۋە ئىنژېنېرلار بىلەن ئابونتلارنىڭ چۈشىنىشكە بولغان ئېھتىياجى ھەققىدە بالدۇر پاراڭلىشىش ، چۈشەندۈرۈش كۆرسەتكۈچىنىڭ تەرەققىياتىغا تۆھپە قوشۇش ۋە ھەمكارلىقنى تەقلىد قىلىپ تەقلىد قىلىپ ، ئۇلارنىڭ توغرا ۋە ئابونتلارغا دوستانە بولۇشىغا كاپالەتلىك قىلالايدۇ. XAI ۋە ئەخلاق سۈنئىي ئەقىل: بىر تەرەپلىمە قاراش ۋە مەسئۇلىيەت ئىشەنچ تۇرغۇزۇشتىن باشقا ، XAI سۈنئىي ئەقىل * نىڭ چوڭقۇر ئەخلاق تەسىرىنى ھەل قىلىشتا ، بولۇپمۇ ئالگورىزىمغا مايىل بولۇشتا ھەل قىلغۇچ رول ئوينايدۇ. SHAP قىممىتىنى تەھلىل قىلىش قاتارلىق چۈشەندۈرۈش تېخنىكىلىرى مودېلنىڭ قارارى ئىرق ، جىنس ياكى ئىجتىمائىي ئىقتىسادىي ئورنى قاتارلىق سەزگۈر سۈپەتلەرنىڭ ماس ھالدا تەسىرگە ئۇچرىغان ياكى ئۇچرىمىغانلىقىنى ئاشكارىلايدۇ ، گەرچە بۇ ئامىللار بىۋاسىتە كىرگۈزۈش سۈپىتىدە ئىشلىتىلمىگەن. مەسىلەن ، قەرز تەستىق ئەندىزىسى مەلۇم نوپۇستىن ئىلتىماس قىلغۇچىلارغا ئىزچىل پاسسىپ SHAP قىممىتىنى تەقسىملىسە ، ئۇ تەكشۈرۈشكە موھتاج يوشۇرۇن بىر تەرەپلىمە قاراشنى كۆرسىتىپ بېرىدۇ ، گۇرۇپپىلارغا بۇ خىل ناتوغرا نەتىجىنى پەسەيتىدۇ. XAI نىڭ كۈچىمۇ «چۈشەندۈرۈشچان يۇيۇش» يوشۇرۇن كۈچى بىلەن كېلىدۇ. خۇددى «يېشىل يۇيۇش» ئىستېمالچىلارنى مۇھىت ئادىتى ھەققىدە قايمۇقتۇرغىنىغا ئوخشاش ، چۈشەندۈرۈشنى يۇيۇش چۈشەندۈرۈشنى يورۇتۇش ، مەسىلە بار ھېسابلاش ئۇسۇلى ياكى ئۆزىگە خاس بىر تەرەپلىمە قاراش ئەمەس ، بەلكى ئېنىقسىز قىلىپ لايىھىلەنگەندە يۈز بېرىدۇ. بۇ ھالقىلىق تەسىر ئامىلىنى چىقىرىپ تاشلايدىغان ھەددىدىن زىيادە ئاددىي چۈشەندۈرۈش ياكى ئىستراتېگىيىلىك رامكا نەتىجىسىنى ھەقىقىي نېيترال ياكى ئادىل كۆرۈنىدىغان چۈشەندۈرۈش سۈپىتىدە ئىپادىلىنىشى مۇمكىن. ئۇ UX مەشىق قىلغۇچىلارنىڭ ھەقىقىي سۈزۈك ۋە تەكشۈرگىلى بولىدىغان چۈشەندۈرۈش لايىھىلەشتىكى ئەخلاق مەسئۇلىيىتىنى تەكىتلەيدۇ. UX كەسپىي خادىملىرى سانلىق مەلۇمات تەتقىقاتچىلىرى ۋە ئەخلاقشۇناسلار بىلەن ھەمكارلىشىپ ، قارارنىڭ سەۋەبىنى يەتكۈزۈشتە ئىنتايىن مۇھىم مەسئۇلىيەتنى ئۈستىگە ئالىدۇ ، شۇنداقلا سۈنئىي ئەقىل ئەندىزىسىنىڭ چەكلىمىسى ۋە يوشۇرۇن تەرەپلىمىلىكى. بۇ ئابونتلارنىڭ سۈنئىي ئەقىلنىڭ توغرىلىقىغا بولغان مۆلچەرىنى تۇرغۇزۇش ، مودېلنىڭ قەيەردە ئىشەنچلىك بولۇشى مۇمكىنلىكىنى ئېنىقلاش ۋە ئىشلەتكۈچىلەر ئادالەتسىز ياكى خاتا نەتىجىنى ھېس قىلغاندا ، قايتما ئىنكاس ياكى ئىنكاس قايتۇرۇش ئۈچۈن ئېنىق يول بىلەن تەمىنلەشنى ئۆز ئىچىگە ئالىدۇ. بۇلارنى تەشەببۇسكارلىق بىلەن ھەل قىلىشئەخلاق ئۆلچىمى بىزگە ھەقىقىي ئادىل ۋە ئىشەنچلىك سۈنئىي ئەقىل سىستېمىسى بەرپا قىلىشقا يول قويىدۇ. ئۇسۇلدىن مەسخىرە قىلىشقىچە: ئەمەلىي XAI لايىھىلەش ئەندىزىسى بۇ ئۇقۇملارنى بىلىش بىر ئىش. ئۇلارنى لايىھىلەش باشقا. مانا بۇ XAI ئۇسۇللىرىنى بىۋاسىتە لايىھىلەش ئەندىزىسىگە قانداق تەرجىمە قىلالايمىز. 1-ئەندىزە: «چۈنكى» باياناتى (ئىقتىدارنىڭ مۇھىملىقى ئۈچۈن) بۇ ئەڭ ئاددىي ۋە دائىم ئەڭ ئۈنۈملۈك ئەندىزە. بۇ بىۋاسىتە ، ئاددىي تىلدىكى بايان بولۇپ ، سۈنئىي ئەقىلنىڭ ھەرىكىتىنىڭ ئاساسلىق سەۋەبىنى كۆرسىتىپ بېرىدۇ.
قانۇنشۇناسلىق: بىۋاسىتە ۋە ئىخچام بولۇڭ. ئەڭ تەسىرلىك سەۋەب بىلەن يېتەكلەڭ. ھەر قانداق بەدەل تۆلەشتىن ساقلىنىڭ.
مىسال: مۇزىكا ئېقىمى مۇلازىمىتىنى تەسەۋۋۇر قىلىپ بېقىڭ. سىز «ھەپتىلىك بايقاش» قويۇش تىزىملىكىنى ئوتتۇرىغا قويۇشنىڭ ئورنىغا ، كىچىك بىر قۇر مىكروپوپكا قوشىسىز. ناخشا تەۋسىيە: «مەخمەل ئەتىگەن» چۈنكى سىز «Fuzz» ۋە باشقا روھىي تاشلارنى ئاڭلايسىز.
2-ئەندىزە: «نېمە بولسا» ئۆز-ئارا تەسىر كۆرسىتىدۇ (قارشى تەرەپلەر ئۈچۈن) قارشى تەرەپلەر ئەسلىدىنلا ھوقۇققا مۇناسىۋەتلىك. ئۇلارغا ۋەكىللىك قىلىشنىڭ ئەڭ ياخشى ئۇسۇلى ئابونتلارغا ئۆز-ئارا ئىزدىنىش قوراللىرىنى بېرىش. بۇ پۇل-مۇئامىلە ، ساغلاملىق ياكى باشقا نىشانغا يۈزلەنگەن قوللىنىشچان پروگراممىلارغا ماس كېلىدۇ.
خىرۇستىك: ئۆز-ئارا تەسىر كۆرسىتىش ۋە ھوقۇق بېرىش. ئىشلەتكۈچىلەر تاللاشنىڭ سەۋەبى ۋە ئۈنۈمىنى كۆرسۇن.
مىسال: قەرز ئىلتىماس قىلىش كۆرۈنمە يۈزى. رەت قىلىنغاندىن كېيىن ، ئىشلەتكۈچى ئۆلۈكنىڭ ئورنىغا ، ھەر خىل سىنارىيەلەرنىڭ (قانداق بولسا) قانداق ئوينايدىغانلىقىنى بەلگىلەيدىغان قورالغا ئېرىشىدۇ (1-رەسىمگە قاراڭ).
3-ئەندىزە: يارقىن نۇقتا (يەرلىك چۈشەندۈرۈش ئۈچۈن) سۈنئىي ئەقىل ئابونتلارنىڭ مەزمۇنىغا قارىتا ھەرىكەت قىلغاندا (ھۆججەتنى خۇلاسىلەش ياكى رەسىمدىكى چىرايلارنى پەرقلەندۈرۈش دېگەندەك) ، چۈشەندۈرۈشنى كۆرۈنۈش بىلەن مەنبە بىلەن باغلاش كېرەك.
Heuristic: يورۇتۇش ، سىزىش ياكى ئىزاھلاش قاتارلىق كۆرۈنۈشلۈك بەلگىلەرنى ئىشلىتىپ ، چۈشەندۈرۈشنى ئۇ چۈشەندۈرگەن كۆرۈنمە يۈزى ئېلېمېنتىغا بىۋاسىتە ئۇلاڭ.
مىسال: ئۇزۇن ماقالىلەرنى خۇلاسىلەيدىغان سۈنئىي ئەقىل قورالى. AI ھاسىل قىلغان خۇلاسە نۇقتىسى: دەسلەپكى تەتقىقاتتا سىجىل مەھسۇلاتلارنىڭ بازار پەرقى كۆرسىتىلدى. ھۆججەتتىكى مەنبە: «... بىزنىڭ 2-پەسىللىك بازار يۈزلىنىشىنى تەھلىل قىلىشىمىز شۇنى ئىسپاتلىدىكى ، ھېچقانداق ئاساسلىق رىقابەتچى ئېكولوگىيىلىك ئاڭلىق ئىستېمالچىلارغا ئۈنۈملۈك مۇلازىمەت قىلماي ، سىجىل مەھسۇلاتلارنىڭ مۇھىم بازار پەرقىنى ئاشكارىلىدى ...».
4-ئەندىزە: ئىتتىرىش ۋە تارتىش كۆرۈنۈش (قىممەتنى ئاساس قىلغان چۈشەندۈرۈش ئۈچۈن) تېخىمۇ مۇرەككەپ قارارلارغا نىسبەتەن ، ئىشلەتكۈچىلەر ئامىللارنىڭ ئۆز-ئارا چۈشىنىشىنى چۈشىنىشى مۇمكىن. ئاددىي سانلىق مەلۇمات تەسۋىرلىرى ھەددىدىن زىيادە ئېشىپ كەتمەي بۇنى ئېنىق كۆرسىتىپ بېرەلەيدۇ.
Heuristic: ئاددىي ، رەڭلىك كودلانغان سانلىق مەلۇمات تەسۋىرلىرىنى (تاياقچە دىئاگراممىغا ئوخشاش) ئىشلىتىپ ، قارارغا ئاكتىپ ۋە سەلبىي تەسىر كۆرسەتكەن ئامىللارنى كۆرسىتىڭ.
مىسال: سۈنئىي ئەقىل بىر كاندىداتنىڭ خىزمەتتىكى ئارخىپىنى تەكشۈرىدۇ. نېمىشقا بۇ كاندىدات% 75 ماس كېلىدۇ: نومۇرنى يۇقىرى كۆتۈرىدىغان ئامىللار: 5+ يىللىق UX تەتقىقات تەجرىبىسى PythonFactors دىكى نەتىجىنى تۆۋەنلىتىدۇ: B2B SaaS بىلەن تەجرىبە يوق
سۈنئىي ئەقىل مەھسۇلاتىڭىزنىڭ UX دىكى بۇ لايىھىلەش ئەندىزىسىنى ئۆگىنىش ۋە ئىشلىتىش چۈشەندۈرۈشنى ئاشۇرۇشقا ياردەم بېرىدۇ. سىز بۇ يەردە مەن چوڭقۇر چۈشەندۈرمىگەن قوشۇمچە تېخنىكىلارنى ئىشلىتەلەيسىز. بۇ تۆۋەندىكىلەرنى ئۆز ئىچىگە ئالىدۇ:
تەبىئىي تىل چۈشەندۈرۈشى: سۈنئىي ئەقىلنىڭ تېخنىكىلىق نەتىجىسىنى مۇتەخەسسىسلەر ئاسان چۈشىنەلەيدىغان ئاددىي ، پاراڭلىشىدىغان ئىنسان تىلىغا تەرجىمە قىلىش. مەزمۇن خاراكتېرلىك چۈشەندۈرۈش: سۈنئىي ئەقىلنىڭ كونكرېت پەيتى ۋە ئورنىدا چىقىرىلىشى ئۈچۈن ئەقىل بىلەن تەمىنلەش ، ئۇ ئىشلەتكۈچىنىڭ ۋەزىپىسىگە ئەڭ ماس كېلىدۇ. مۇناسىۋەتلىك تەسۋىرلەر: دىئاگرامما ، گرافىك ياكى ئىسسىقلىق خەرىتىسىنى ئىشلىتىپ سۈنئىي ئەقىلنىڭ قارار چىقىرىش جەريانىنى كۆرۈنۈشكە ۋەكىللىك قىلىدۇ ، بۇ مۇرەككەپ سانلىق مەلۇماتلارنى بىۋاسىتە ۋە ئابونتلارنىڭ چۈشىنىشىگە قولايلىق يارىتىدۇ.
ئالدى تەرىپىگە ئەسكەرتىش: بۇ چۈشەندۈرۈش نەتىجىسىنى ئىشلەتكۈچىلەرنىڭ تەجرىبىسىگە تەرجىمە قىلىشمۇ ئۆزىنىڭ بىر يۈرۈش تېخنىكىلىق كۆز قاراشلىرىنى ئوتتۇرىغا قويدى. ئالدى تەرەپ ئاچقۇچىلار ھەمىشە API لايىھىسى بىلەن تىركىشىپ ، چۈشەندۈرۈش سانلىق مەلۇماتلىرىنى ئۈنۈملۈك قولغا كەلتۈرىدۇ ، ئىقتىدار ئۈنۈمى (ھەر بىر ئىشلەتكۈچىنىڭ ئۆز-ئارا تەسىر كۆرسىتىشىدىكى ھەقىقىي چۈشەندۈرۈشكە ئوخشاش) كېچىكىشتىن ساقلىنىش ئۈچۈن ئەستايىدىل پىلانلاشقا موھتاج. بەزى ئەمەلىي مىساللار UPS كاپىتالىنىڭ يەتكۈزۈلۈشى UPS سۈنئىي ئەقىل ئارقىلىق ئادرېسلارغا «يەتكۈزۈش ئىشەنچ نومۇرى» تەقسىملەپ ، بولاقنىڭ ئوغرىلىنىش ئېھتىماللىقىنى مۆلچەرلەيدۇ. ئۇلارنىڭ DeliveryDefense يۇمشاق دېتالى ئورۇن ، زىيان چاستوتىسى ۋە باشقا ئامىللار توغرىسىدىكى تارىخى سانلىق مەلۇماتلارنى تەھلىل قىلىدۇ. ئەگەر بىر ئادرېسنىڭ نومۇرى تۆۋەن بولسا ، سىستېما تەشەببۇسكارلىق بىلەن بۇ بولاقنى بىخەتەر UPS زىيارەت نۇقتىسىغا توغرىلاپ ، قارارغا چۈشەنچە بېرىدۇ (مەسىلەن: «ئوغرىلىق تارىخى سەۋەبىدىن ئورالما بىخەتەر ئورۇنغا يۆتكەلدى»). بۇ سىستېما XAI نىڭ قانداق قىلىپ خەتەرنى ئازايتىش ۋە خېرىدارلارنىڭ ئىشەنچىسىنى ئاشۇرۇشقا ئىشلىتىلىدىغانلىقىنى كۆرسىتىپ بېرىدۇسۈزۈكلۈك. ئاپتۇماتىك ماشىنىلار كەلگۈسىدىكى بۇ ماشىنىلار XAI دىن ئۈنۈملۈك پايدىلىنىپ ، ماشىنىلىرىنىڭ بىخەتەر ، چۈشەندۈرگىلى بولىدىغان قارار چىقىرىشىغا ياردەم بېرىدۇ. ئاپتوماتىك ھەيدىلىدىغان ماشىنا تۇيۇقسىز تورمۇزلىغاندا ، سىستېما ئۇنىڭ ھەرىكىتىنى ھەقىقىي چۈشەندۈرۈپ بېرەلەيدۇ ، مەسىلەن ، پىيادىلەرنىڭ يولغا قەدەم قويغانلىقىنى پەرقلەندۈرۈش. بۇ يولۇچىلارنىڭ راھەتلىكى ۋە ئىشەنچىسى ئۈچۈن ئىنتايىن مۇھىم بولۇپلا قالماستىن ، بەلكى سۈنئىي ئەقىل سىستېمىسىنىڭ بىخەتەرلىكى ۋە مەسئۇلىيىتىنى ئىسپاتلاشتىكى تەلەپ. IBM Watson Health (ۋە ئۇنىڭ رىقابەتلىرى) گەرچە سۈنئىي ئەقىلنىڭ ساقلىقنى ساقلاشتىكى ئومۇمىي مىسالى سۈپىتىدە تىلغا ئېلىنسىمۇ ، ئەمما ئۇ XAI نىڭ مۇھىملىقى ئۈچۈن قىممەتلىك مىسال تەتقىقاتى. ۋاتسوننىڭ ئونكولوگىيە تۈرىنىڭ مەغلۇبىيىتى چۈشەندۈرۈش ئېنىق بولمىغاندا ياكى ئاساسىي سانلىق مەلۇماتلار بىر تەرەپلىمىلىك ياكى يەرلىكلەشتۈرۈلمىگەندە خاتالىقنىڭ قانداق بولىدىغانلىقىنى كۆرسىتىپ بېرىدۇ. بۇ سىستېمىنىڭ تەۋسىيەلىرى بەزىدە يەرلىك كلىنىكىلىق ئەمەلىيەتكە ماس كەلمەيتتى ، چۈنكى ئۇلار ئامېرىكىنى مەركەز قىلغان كۆرسەتمىلەرنى ئاساس قىلغان. بۇ كۈچلۈك ، مەزمۇننى چۈشىنىشكە بولىدىغان چۈشەندۈرۈشنىڭ زۆرۈرلۈكى توغرىسىدىكى ئاگاھلاندۇرۇش رولىنى ئوينايدۇ. UX تەتقىقاتچىنىڭ رولى: چۈشەندۈرۈش ۋە دەلىللەش لايىھىلەش ھەل قىلىش چارىلىرىمىز مۇۋاپىق ۋاقىتتا ئابونتلارنىڭ سوئاللىرىغا مۇۋاپىق جاۋاب بەرگەندىلا ئاندىن ئۈنۈملۈك بولىدۇ. ئىشلەتكۈچىدە يوق سوئالغا جاۋاب بېرىدىغان چۈشەندۈرۈش پەقەت شاۋقۇن. بۇ يەردە UX تەتقىقاتى XAI ئىستراتېگىيىسىدىكى ھالقىلىق ئۇلاش توقۇلمىسىغا ئايلىنىدۇ ، بۇنىڭ بىزنىڭ ئىشلەتكۈچىلەر ئۈچۈن زادى نېمە ۋە قانداق مۇھىملىقىنى چۈشەندۈرۈشىمىزگە كاپالەتلىك قىلىدۇ. تەتقىقاتچىنىڭ رولى ئىككى خىل بولىدۇ: بىرىنچىسى ، چۈشەندۈرۈشنىڭ قەيەردە ئىكەنلىكىنى ئېنىقلاپ ئىستراتېگىيىنى خەۋەر قىلىش ، ئىككىنچىدىن ، بۇ چۈشەندۈرۈشلەرنى يەتكۈزىدىغان لايىھىلەرنى دەلىللەش. XAI ئىستراتېگىيىسىنى خەۋەر قىلىش (نېمىنى چۈشەندۈرۈش) بىز بىر چۈشەندۈرۈشنى لايىھىلەشتىن بۇرۇن ، بىز چوقۇم AI سىستېمىسىنىڭ ئەقلىي ئەندىزىسىنى چۈشىنىشىمىز كېرەك. ئۇلار ئۇنىڭ نېمە قىلىۋاتقانلىقىغا ئىشىنىدۇ؟ ئۇلارنىڭ چۈشىنىشى بىلەن سىستېمىنىڭ رېئاللىقى ئوتتۇرىسىدىكى پەرق قەيەردە؟ بۇ UX تەتقىقاتچىنىڭ ئاساسى خىزمىتى. روھىي مودېل زىيارىتى: ئابونتلارنىڭ سۈنئىي ئەقىل سىستېمىسىغا بولغان تونۇشىنى يېشىش چوڭقۇر ، يېرىم قۇرۇلمىلىق زىيارەت قىلىش ئارقىلىق ، UX مەشغۇلاتچىلىرى ئابونتلارنىڭ سۈنئىي ئەقىل سىستېمىسىنى قانداق تونۇشى ۋە چۈشىنىشى توغرىسىدا قىممەتلىك چۈشەنچىلەرگە ئېرىشەلەيدۇ. بۇ يىغىنلار ئىشلەتكۈچىلەرنىڭ سۈنئىي ئەقىلنىڭ قانداق ئىشلەيدىغانلىقىغا ئىشىنىدىغان ئىچكى «روھىي ئەندىزىسى» نى ھەقىقىي سىزىشقا ياكى تەسۋىرلەشكە ئىلھاملاندۇرۇش ئۈچۈن لايىھەلەنگەن. بۇ ھەمىشە ئوچۇق سوئاللارنى سوراشنى ئۆز ئىچىگە ئالىدۇ ، بۇ ئابونتلارنىڭ سىستېمىنىڭ لوگىكىسى ، كىرگۈزۈشلىرى ۋە چىقىمى ، شۇنداقلا بۇ ئېلېمېنتلار ئوتتۇرىسىدىكى مۇناسىۋەتنى چۈشەندۈرۈپ بېرىدۇ. بۇ زىيارەتلەر ناھايىتى كۈچلۈك ، چۈنكى ئۇلار دائىم ئابونتلارنىڭ سۈنئىي ئەقىلگە بولغان چوڭقۇر خاتا چۈشەنچىسى ۋە پەرەزلىرىنى ئاشكارىلايدۇ. مەسىلەن ، تەۋسىيە ماتورى بىلەن ئۆز-ئارا تەسىر كۆرسىتىدىغان ئىشلەتكۈچى ئىشەنچلىك ھالدا بۇ سىستېمىنىڭ ئىلگىرىكى كۆرۈش تارىخىنى ئاساس قىلىدىغانلىقىنى جەزملەشتۈرۈشى مۇمكىن. ئۇلار ئالگورىزىمنىڭ يەنە نۇرغۇن ئامىللارنى ئۆز ئىچىگە ئالغانلىقىنى ھېس قىلالماسلىقى مۇمكىن ، مەسىلەن ئۇلار كۆرۈۋاتقان كۈن ، سۇپادىكى نۆۋەتتىكى يۈزلىنىش تۈرلىرى ، ھەتتا مۇشۇنىڭغا ئوخشاش ئىشلەتكۈچىلەرنىڭ كۆرۈش ئادىتى. ئىشلەتكۈچىنىڭ روھىي ئەندىزىسى بىلەن ئەمەلىي سۈنئىي ئەقىل لوگىكىسى ئوتتۇرىسىدىكى بۇ پەرقنى بايقاش ئىنتايىن مۇھىم. ئۇ بىزگە قانداق كونكرېت ئۇچۇرلارنى ئابونتلار بىلەن ئالاقە قىلىپ ، ئۇلارنىڭ سىستېمىنىڭ تېخىمۇ توغرا ۋە پۇختا روھىي ئەندىزىسىنى بەرپا قىلىشىمىزغا ياردەم قىلىدىغانلىقىنى ئېنىق كۆرسىتىپ بېرىدۇ. بۇ ئۆز نۆۋىتىدە ئىشەنچنى يېتىلدۈرۈشنىڭ تۈپ قەدىمى. ئابونتلار ھەتتا يۇقىرى سەۋىيىدە ، سۈنئىي ئەقىلنىڭ خۇلاسە ياكى تەۋسىيەلىرىگە قانداق يېتىدىغانلىقىنى چۈشەنگەندە ، ئۇلار ئۇنىڭ نەتىجىسىگە ئىشىنىدۇ ۋە ئۇنىڭ ئىقتىدارىغا تايىنىدۇ. سۈنئىي ئەقىل ساياھەت خەرىتىسى: ئابونتلارنىڭ ئىشەنچىسى ۋە چۈشەندۈرۈشىگە چوڭقۇر چۆكۈش سۈنئىي ئەقىل ئارقىلىق ئىقتىدار بىلەن ئىشلەتكۈچىنىڭ مۇساپىسىنى ئىنچىكىلىك بىلەن سىزىش ئارقىلىق ، قايمۇقۇش ، ئۈمىدسىزلىنىش ، ھەتتا چوڭقۇر ئىشەنچسىزلىك پەيدا بولغان ئېنىق دەقىقىلەردە قىممەتلىك چۈشەنچىلەرگە ئېرىشىمىز. بۇ ھالقىلىق پەيتلەرنى ئاچتى ، بۇ يەردە ئابونتلارنىڭ سۈنئىي ئەقىلنىڭ قانداق ھەرىكەت قىلىدىغان روھىي ئەندىزىسى ئۇنىڭ ئەمەلىي ھەرىكىتى بىلەن توقۇنۇشۇپ قالىدۇ. مۇزىكا ئاڭلاش مۇلازىمىتىنى ئويلىشىپ كۆرۈڭ: قويغۇچ تىزىملىكى تەۋسىيەسى «تاسادىپىي» تۇيۇلغاندا ، ئۇلارنىڭ ئىلگىرىكى ئاڭلاش ئادىتى ياكى بايان قىلىنغان مايىللىقى بىلەن ھېچقانداق باغلىنىشلىق باغلىنىش كەمچىل بولغاندا ، ئىشلەتكۈچىنىڭ ئىشەنچىسى تۆۋەنلەپ كېتەمدۇ؟ بۇ ھېس قىلىنغان تاسادىپىيلىق ئابونتلارنىڭ ئەقلىي ئىقتىدارلىق داۋالاش مۆلچەرىگە ۋە سۈنئىي ئەقىلنىڭ تەمىنى چۈشىنىدىغان يوشۇرۇن ۋەدىسىگە خىلاپلىق قىلغانلىقىغا بىۋاسىتە جەڭ ئېلان قىلىدۇ. ئوخشاشلا ، رەسىم باشقۇرۇش ئىلتىماسىدا ، سۈنئىي ئەقىل رەسىمگە بەلگە قويۇش ئىقتىدارى قەدىرلىك ئائىلە ئەزالىرىنى ئىزچىل پەرقلەندۈرگەندە ، ئابونتلار كۆرۈنەرلىك ئۈمىدسىزلىنىشنى باشتىن كەچۈرەمدۇ؟ بۇ خاتالىق تېخنىكىلىق كاشىلا ئەمەس. ئۇ توغرىلىق ، خاسلاشتۇرۇش ، ھەتتا يۈرەكنىڭ زەربىسىگە ئۇچرايدۇھېسسىي باغلىنىش. بۇ ئاغرىق نۇقتىلىرى ئېنىق ئورۇنلاشتۇرۇلغان ، ئېنىق ۋە ئىخچام چۈشەندۈرۈشنىڭ قەيەردە ئىكەنلىكىنى ئېنىق كۆرسىتىپ بېرىدىغان جانلىق سىگنال. بۇ خىل چۈشەندۈرۈش ھالقىلىق رېمونت قىلىش مېخانىزمى رولىنى ئوينايدۇ ، ئىشەنچنى بۇزۇپ تاشلايدۇ ، ئەگەر بىر تەرەپ قىلىنمىسا ، ئابونتلارنىڭ ۋاز كېچىشىنى كەلتۈرۈپ چىقىرىدۇ. سۈنئىي ئەقىل سەپەر خەرىتىسىنىڭ كۈچى بىزنىڭ سۈنئىي ئەقىل سىستېمىسىنىڭ ئاخىرقى نەتىجىسىنى چۈشەندۈرۈشتىن ھالقىپ كېتىش ئىقتىدارىدا. سۈنئىي ئەقىل ئىشلەپچىقارغان نەرسىنى چۈشىنىش مۇھىم بولسىمۇ ، ئەمما ئۇ ھەمىشە يېتەرلىك ئەمەس. ئەكسىچە ، بۇ جەريان بىزنى مۇھىم پەيتلەردە جەرياننى چۈشەندۈرۈشكە ئەھمىيەت بېرىشكە مەجبۇرلايدۇ. بۇ ئادرېسنى كۆرسىتىدۇ:
نېمە ئۈچۈن مەلۇم بىر مەھسۇلات بارلىققا كەلدى: بۇ كونكرېت كىرگۈزۈش سانلىق مەلۇماتلىرى سەۋەبىدىنمۇ؟ مەلۇم مودېل بىناكارلىقى؟ سۈنئىي ئەقىلنىڭ قارارىغا قايسى ئامىللار تەسىر قىلدى: بەزى ئىقتىدارلار ئېغىرراقمۇ؟ سۈنئىي ئەقىل قانداق خۇلاسە چىقاردى: بىز ئۇنىڭ ئىچكى خىزمىتىگە ئاددىي ، ئوخشىشىپ كېتىدىغان چۈشەندۈرۈش بېرەلەمدۇق؟ سۈنئىي ئەقىل قانداق پەرەزلەرنى ئوتتۇرىغا قويدى: ئىشلەتكۈچىنىڭ مۇددىئاسى ياكى ئاشكارىلاشقا تېگىشلىك سانلىق مەلۇماتلارنى يوشۇرۇن چۈشىنىش بارمۇ؟ سۈنئىي ئەقىلنىڭ چەكلىمىسى نېمە: سۈنئىي ئەقىلنىڭ قىلالمايدىغان ياكى ئېنىقلىقى قەيەردە تەۋرەنمەيدىغانلىقىنى ئېنىق يەتكۈزۈش رېئال ئۈمىدنى بارلىققا كەلتۈرىدۇ.
سۈنئىي ئەقىل سەپەر خەرىتىسى XAI نىڭ ئابستراكت ئۇقۇمىنى UX مەشىق قىلغۇچىلار ئۈچۈن ئەمەلىي ، ھەرىكەتچان رامكىغا ئايلاندۇرىدۇ. ئۇ بىزنىڭ چۈشەندۈرۈش نەزەرىيىۋى مۇلاھىزىلىرىدىن ھالقىپ ، ئۇنىڭ ئورنىغا ئابونتلارنىڭ ئىشەنچىسىگە دۇچ كېلىدىغان ئېنىق پەيتلەرنى ئېنىق كۆرسىتىپ ، كۈچلۈك ، سۈزۈك ، چۈشىنىشلىك ۋە ئىشەنچلىك سۈنئىي ئەقىل تەجرىبىسىنى بەرپا قىلىش ئۈچۈن زۆرۈر چۈشەنچىلەر بىلەن تەمىنلەيدۇ. ئاخىرىدا ، تەتقىقات بىزنىڭ نامەلۇم نەرسىلەرنى قانداق ئېچىشىمىزدۇر. گۇرۇپپىڭىز بەلكىم قەرزنىڭ نېمىشقا رەت قىلىنغانلىقىنى قانداق چۈشەندۈرۈش توغرىسىدا مۇنازىرىلىشىۋاتقان بولۇشى مۇمكىن ، ئەمما تەتقىقات بەلكىم ئابونتلارنىڭ سانلىق مەلۇماتلىرىنىڭ قانداق ئىشلىتىلگەنلىكىنى چۈشىنىشكە بەكرەك كۆڭۈل بۆلىدىغانلىقىنى ئاشكارىلىشى مۇمكىن. تەتقىقات بولمىسا ، بىز پەقەت ئابونتلىرىمىزنىڭ نېمىلەرنى ئويلاۋاتقانلىقىنى پەرەز قىلىۋاتىمىز. لايىھىلەشتە ھەمكارلىشىش (سۈنئىي ئەقىلنى قانداق چۈشەندۈرۈش) تەتقىقات نېمىنى چۈشەندۈرۈشنى ئېنىقلىغاندىن كېيىن ، لايىھىلەش بىلەن ھەمكارلىق ھالقىسى باشلىنىدۇ. لايىھىلىگۈچىلەر بىز ئىلگىرى مۇلاھىزە قىلغان ئەندىزىلەرنى ئۈلگە قىلالايدۇ - «چۈنكى» جۈملىسى ، ئۆز-ئارا سىيرىلما سىيرىلغۇچ - تەتقىقاتچىلار بۇ لايىھىلەرنى ئىشلەتكۈچىلەرنىڭ ئالدىدا قويۇپ ، ئۇلارنىڭ ساقلاپ قالغان-قويمىغانلىقىنى تەكشۈرەلەيدۇ. نىشانلىق ئىشلىتىشچانلىقى ۋە چۈشىنىش سىنىقى: بىز XAI زاپچاسلىرىنى مەخسۇس سىناق قىلىدىغان تەتقىقات تەتقىقاتىنى لايىھەلەيمىز. بىز «بۇنى ئىشلىتىش ئاسانمۇ؟» دەپ سورىمايمىز. بىز «بۇنى كۆرگەندىن كېيىن ، سىستېمىنىڭ نېمىشقا بۇ مەھسۇلاتنى تەۋسىيە قىلغانلىقىنى ئۆز سۆزىڭىز بىلەن ئېيتىپ بېرەلەمسىز؟» دەپ سورايمىز. ياكى «باشقا نەتىجىگە ئېرىشەلەيدىغان-ئېرىشەلمەيدىغانلىقىڭىزنى ماڭا كۆرسىتىڭ». بۇ يەردىكى مەقسەت ئىشلىتىشچانلىقى بىلەن بىللە چۈشىنىش ۋە ھەرىكەتچانلىقىنى ئۆلچەش. ئىشەنچنى ئۆزى ئۆلچەش: چۈشەندۈرۈش كۆرسىتىلىشنىڭ ئالدى-كەينىدە ئاددىي تەكشۈرۈش ۋە باھالاش تارازىسىنى ئىشلىتەلەيمىز. مەسىلەن ، بىز بىر ئىشلەتكۈچىدىن 5 نومۇرلۇق ئۆلچەمدە «سىز بۇ تەۋسىيەگە قانچىلىك ئىشىنىسىز؟» دەپ سورىساق بولىدۇ. ئۇلار «چۈنكى» دېگەن سۆزنى كۆرۈشتىن بۇرۇن ، ئاندىن ئۇلاردىن يەنە سوراڭ. بۇ بىزنىڭ چۈشەندۈرۈشىمىزنىڭ يىڭنىنى ئىشەنچكە يۆتكىگەن-كۆرسەتمىگەنلىكى ھەققىدە مىقدار سانلىق مەلۇمات بىلەن تەمىنلەيدۇ. بۇ جەريان كۈچلۈك ، تەكرارلىنىش ھالقىسى ھاسىل قىلىدۇ. تەتقىقات نەتىجىسى دەسلەپكى لايىھەنى ئۇقتۇرىدۇ. ئاندىن بۇ لايىھە سىناق قىلىنىدۇ ، يېڭى بايقاشلار لايىھىلەش گۇرۇپپىسىغا قايتىدىن پىششىقلاپ ئىشلىنىدۇ. بەلكىم «چۈنكى» باياناتى بەك جاراڭلىق بولۇشى مۇمكىن ، ياكى «نېمە بولسا» سىيرىلغۇچ ھوقۇق بېرىشتىنمۇ قايمۇقۇپ كەتكەن بولۇشى مۇمكىن. بۇ ھەمكارلىق دەلىللەش ئارقىلىق ، ئاخىرقى چۈشەندۈرۈشنىڭ مەھسۇلاتنى ئىشلىتىۋاتقان كىشىلەر ئۈچۈن تېخنىكىلىق توغرا ، ھەقىقىي چۈشىنىشلىك ، پايدىلىق ۋە ئىشەنچ تۇرغۇزۇشىغا كاپالەتلىك قىلىمىز. Goldilocks چۈشەندۈرۈش رايونى ھالقىلىق ئاگاھلاندۇرۇش سۆزى: ئارتۇقچە چۈشەندۈرۈش مۇمكىن. چۆچەكتىكىگە ئوخشاش ، گولدىلوك «توغرا» بولغان كاۋاپداننى ئىزدىگەندەك ، ياخشى چۈشەندۈرۈشنىڭ مەقسىتى مۇۋاپىق مىقداردا تەمىنلەش - بەك كۆپ ئەمەس ھەم بەك ئاز ئەمەس. مودېلدىكى ھەر بىر ئۆزگەرگۈچى مىقدار بىلەن ئىشلەتكۈچىنى بومباردىمان قىلىش بىلىشنىڭ ئېشىپ كېتىشىنى كەلتۈرۈپ چىقىرىدۇ ۋە ئەمەلىيەتتە ئىشەنچنى تۆۋەنلىتىدۇ. مەقسەت ئىشلەتكۈچىنى سانلىق مەلۇمات ئالىمى قىلىش ئەمەس. بىر ھەل قىلىش چارىسى تەدرىجىي ئاشكارىلاش.
ئاددىيدىن باشلاڭ. ئىخچام «چۈنكى» باياناتى بىلەن باشلامچىلىق قىلىڭ. كۆپىنچە ئىشلەتكۈچىلەر ئۈچۈن بۇ يېتەرلىك بولىدۇ. تەپسىلىي يول بىلەن تەمىنلەڭ. «تېخىمۇ كۆپ بىلىملەر» ياكى «بۇنىڭ قانداق بېكىتىلگەنلىكىنى كۆرۈڭ» دېگەندەك ئېنىق ، تۆۋەن سۈركىلىش ئۇلىنىشى بىلەن تەمىنلەڭ. مۇرەككەپلىكىنى ئاشكارىلاڭ. بۇ ئۇلىنىشنىڭ ئارقىسىدا سىز ئۆز-ئارا تەسىر كۆرسىتىدىغان سىيرىلغۇچ ، كۆرۈنۈش ياكى تېخىمۇ كۆپ تۆھپە قوشۇش ئامىللىرىنى تەمىنلىيەلەيسىز.
بۇ قاتلاملىق ئۇسۇل ئابونتلارنىڭ دىققىتى ۋە تەجرىبىسىگە ھۆرمەت قىلىدۇ ، پەقەت مۇۋاپىق مىقداردا تەمىنلەيدۇئۇلارنىڭ ئېھتىياجى ئۈچۈن ئۇچۇر. ئويلاپ باقايلى ، سىز ھەر خىل ئامىللارغا ئاساسەن ئەڭ ياخشى ئىسسىنىشنى تەۋسىيە قىلىدىغان ئەقلىي ئىقتىدارلىق ئائىلە ئۈسكۈنىسىنى ئىشلىتىۋاتىسىز. ئاددىي ئىشنى باشلاڭ: «ئۆيىڭىز ھازىر 72 گرادۇسقىچە قىزىتىلىدۇ ، بۇ ئېنېرگىيە تېجەش ۋە راھەتنىڭ ئەڭ ياخشى تېمپېراتۇرىسى». تەپسىلاتقا بىر يول بىلەن تەمىنلەڭ: ئۇنىڭ ئاستىدا كىچىك ئۇلىنىش ياكى كۇنۇپكا: «نېمىشقا 72 گرادۇس ئەڭ ياخشى؟». مۇرەككەپلىكىنى ئاشكارىلاڭ: ئۇلىنىشنى چەكسىڭىز يېڭى ئېكران كۆرسىتىلىدۇ:
سىرتنىڭ تېمپېراتۇرىسى ، نەملىكى ۋە سىز ياقتۇرىدىغان راھەت سەۋىيىڭىز ئۈچۈن ئۆز-ئارا سىيرىلما سىيرىلما بولۇپ ، بۇلارنىڭ تەۋسىيە قىلىنغان تېمپېراتۇرىنى قانداق تەڭشەيدىغانلىقىنى كۆرسىتىپ بېرىدۇ. ئوخشىمىغان تېمپېراتۇرىدا ئېنېرگىيە سەرپىياتىنىڭ تەسۋىرى. «كۈندۈزلۈك ۋاقىت» ، «نۆۋەتتىكى سىرتقى تېمپېراتۇرا» ، «تارىختىكى ئېنېرگىيە ئىشلىتىش» ۋە «ئىشغال سېنزورى» قاتارلىق تۆھپە قوشۇش ئامىللىرى تىزىملىكى.
كۆپ خىل XAI ئۇسۇلىنى بىرلەشتۈرۈش ئۈنۈملۈك بولۇپ ، تەدرىجىي ئاشكارىلاشنى تەشەببۇس قىلىدىغان بۇ Goldilocks چۈشەندۈرۈش رايونى بۇنى يوشۇرۇن ئىلھاملاندۇرىدۇ. سىز دەرھال چۈشىنىش ئۈچۈن ئاددىي «چۈنكى» جۈملىسى (1-ئۈلگە) دىن باشلىنىپ ، ئاندىن تېخىمۇ كۆپ ئىزدىنىش ئۈچۈن «نېمە بولسا» ئۆز-ئارا تەسىر كۆرسىتىدىغان (2-ئۈلگە) ياكى «ئىتتىرىش ۋە تارتىش» (4-ئۈلگە) نى كۆرسىتىپ بېرىدىغان «تېخىمۇ كۆپ بىلىم» ئۇلانمىسىنى تەمىنلىشىڭىز مۇمكىن. مەسىلەن ، قەرز ئىلتىماس قىلىش سىستېمىسى دەسلەپتە رەت قىلىشتىكى ئاساسلىق سەۋەبنى (ئىقتىدارنىڭ مۇھىملىقى) بايان قىلىپ بېرەلەيدۇ ، ئاندىن ئىشلەتكۈچىنىڭ «نېمە بولسا» قورالى بىلەن ئۆز-ئارا تەسىر كۆرسىتىپ ، ئۇلارنىڭ كىرىمى ياكى قەرزىنىڭ نەتىجىنى قانداق ئۆزگەرتىدىغانلىقىنى كۆرەلەيدۇ ، ئاخىرىدا ، تەپسىلىي «ئىتتىرىش ۋە تارتىش» جەدۋىلى (قىممەتنى ئاساس قىلغان چۈشەندۈرۈش) بىلەن تەمىنلەپ ، بارلىق ئامىللارنىڭ ئاكتىپ ۋە پاسسىپ تۆھپىلىرىنى كۆرسىتىپ بېرىدۇ. بۇ قاتلاملىق ئۇسۇل ئىشلەتكۈچىلەر ئېھتىياجلىق بولغاندا ئېھتىياجلىق دەرىجىگە يېتەلەيدۇ ، بىلىشنىڭ ئېشىپ كېتىشىنىڭ ئالدىنى ئالىدۇ ، شۇنىڭ بىلەن بىر ۋاقىتتا يەنىلا ئەتراپلىق سۈزۈكلۈك بىلەن تەمىنلەيدۇ. قايسى XAI قورالى ۋە ئىشلىتىش ئۇسۇلىنى ئېنىقلاش ئاساسلىقى ئىنچىكە UX تەتقىقاتىنىڭ ئىقتىدارى. روھىي مودېل زىيارىتى ۋە سۈنئىي ئەقىل سەپەر خەرىتىسى ئابونتلارنىڭ ئېھتىياجى ۋە سۈنئىي ئەقىلنى چۈشىنىش ۋە ئىشەنچكە مۇناسىۋەتلىك ئاغرىق نۇقتىلىرىنى ئېنىقلاشتا ئىنتايىن مۇھىم. روھىي مودېل زىيارىتى ئابونتلارنىڭ سۈنئىي ئەقىلنىڭ قانداق ئىشلەيدىغانلىقى توغرىسىدىكى خاتا تونۇشىنى بايقاشقا ياردەم بېرىدۇ ، بۇ ئاساسىي چۈشەندۈرۈشلەرنىڭ (ئىقتىدارنىڭ مۇھىملىقى ياكى يەرلىك چۈشەندۈرۈشكە ئوخشاش) ئېھتىياجلىق جايلارنى كۆرسىتىپ بېرىدۇ. سۈنئىي ئەقىل ساياھىتى خەرىتىسى بولسا ، ئابونتلارنىڭ سۈنئىي ئەقىل بىلەن بولغان ئالاقىسىدىكى قالايمىقانچىلىق ياكى ئىشەنمەسلىكنىڭ ھالقىلىق پەيتلىرىنى كۆرسىتىپ بېرىدۇ ، بۇ يەردە تېخىمۇ كۆپ دانچە ياكى ئۆز-ئارا چۈشەندۈرۈش (قارشى تەرەپ ياكى قىممەتنى ئاساس قىلغان چۈشەندۈرۈشكە ئوخشاش) ئىشەنچنى قايتا قۇرۇش ۋە ۋاكالەتچىلىك بىلەن تەمىنلەشنىڭ ئەڭ پايدىلىق بولىدىغانلىقىنى بىلدۈرىدۇ.
ئاخىرقى ھېسابتا ، تېخنىكىنى تاللاشنىڭ ئەڭ ياخشى ئۇسۇلى ئابونتلارنىڭ تەتقىقاتىغا سىزنىڭ قارارىڭىزغا يېتەكچىلىك قىلىش ، سىز لايىھىلىگەن چۈشەندۈرۈشنىڭ پەقەت ئۆزلىرى ئۈچۈن تېخنىكىلىق تەپسىلاتلارنىلا ئەمەس ، بەلكى ئەمەلىي ئىشلەتكۈچى سوئاللىرى ۋە ئەندىشىلىرىنى بىۋاسىتە ھەل قىلىشىغا كاپالەتلىك قىلىش. چوڭقۇر پىكىر قىلىش ۋاكالەتچىلىرى ئۈچۈن XAI چوڭقۇر تەپەككۇر ۋاكالەتچىسى دەپ ئاتالغان ئەڭ يېڭى سۈنئىي ئەقىل سىستېمىسى ھەر بىر مۇرەككەپ ۋەزىپە ئۈچۈن ئېنىق «پىكىر زەنجىرى» ھاسىل قىلىدۇ. ئۇلار پەقەت مەنبەلەرنىلا كۆرسەتمەيدۇ. ئۇلار يەكۈن چىقىرىش ئۈچۈن قوللانغان لوگىكىلىق ، قەدەممۇ-قەدەم يولىنى كۆرسىتىپ بېرىدۇ. گەرچە بۇ سۈزۈكلۈك قىممەتلىك مەزمۇن بىلەن تەمىنلىسىمۇ ، ئەمما بىر نەچچە ئابزاسنى ئۆز ئىچىگە ئالغان ئويۇن قويۇش ئارقىلىق بىر ۋەزىپىنى ئورۇندىماقچى بولغان ئىشلەتكۈچىگە ھەددىدىن زىيادە ھېس قىلالايدۇ. XAI نىڭ پرىنسىپلىرى ، بولۇپمۇ Goldilocks چۈشەندۈرۈش رايونى بۇ يەردە بىۋاسىتە قوللىنىلىدۇ. بىز سەپەرنى توغرىلىيالايمىز ، تەدرىجىي ئاشكارىلاش ئارقىلىق ئالدى بىلەن تەپەككۇر جەريانىدىكى ئەڭ ئاخىرقى يەكۈننى ۋە ئەڭ گەۋدىلىك قەدەمنى كۆرسىتىپ بېرەلەيمىز. ئىشلەتكۈچىلەر لوگىكىنى قايتا-قايتا تەكشۈرۈش ياكى كونكرېت پاكىتنى تېپىشقا توغرا كەلگەندە ، تولۇق ، تەپسىلىي ، كۆپ باسقۇچلۇق پىكىرلەرنى كۆرەلەيدۇ. بۇ ئۇسۇل ۋاكالەتچىنىڭ تولۇق سۈزۈكلۈكىنى قوغداش بىلەن بىللە ، ئابونتلارنىڭ دىققىتىنى ھۆرمەتلەيدۇ. كېيىنكى قەدەملەر: XAI ساياھىتىڭىزنى كۈچلەندۈرۈش چۈشەندۈرۈش ئىشەنچلىك ۋە ئۈنۈملۈك سۈنئىي ئەقىل مەھسۇلاتلىرىنى بەرپا قىلىشنىڭ ئاساسى تۈۋرۈكى. بۇ ئۆزگىرىشنى ئۆز تەشكىلاتى ئىچىدە ئىلگىرى سۈرۈشنى ئويلايدىغان ئىلغار پراكتىكانتلارغا نىسبەتەن ، سەپەر لايىھىلەش ئەندىزىسىدىن ھالقىپ تەشۋىقات ۋە ئۈزلۈكسىز ئۆگىنىشكە كېڭەيدى. چۈشىنىشىڭىز ۋە ئەمەلىي قوللىنىشچانلىقىڭىزنى چوڭقۇرلاشتۇرۇش ئۈچۈن ، IBM تەتقىقاتى ياكى گۇگۇلنىڭ نېمە بولسا-قورال قورالىدىكى سۈنئىي ئەقىل چۈشەندۈرۈش 360 (AIX360) قورال ئامبىرىغا ئوخشاش بايلىق ئۈستىدە ئىزدىنىشنى ئويلاڭ ، بۇلار مودېل ھەرىكەت ۋە چۈشەندۈرۈش ئۈستىدە ئىزدىنىشنىڭ ئۆز-ئارا ئۇسۇلى بىلەن تەمىنلەيدۇ. مەسئۇلىيەتچان سۈنئىي ئەقىل مۇنبىرى ياكى ئىنسانلارنى مەركەز قىلغان سۈنئىي ئەقىلنى مەركەز قىلغان ئالاھىدە تەتقىقات گۇرۇپپىلىرىغا ئوخشاش مەھەللە بىلەن ئارىلىشىش قىممەتلىك چۈشەنچە ۋە ھەمكارلىق پۇرسىتى بىلەن تەمىنلەيدۇ. ئاخىرىدا ، ئۆز تەشكىلاتىڭىزدىكى XAI نىڭ ئادۋوكاتى بولۇڭ.رامكا چۈشەندۈرۈش ئىستراتېگىيىلىك مەبلەغ سېلىش. رەھبەرلىك ياكى ئىقتىدار ھالقىغان گۇرۇپپىلارغا قىسقىچە چۈشەنچە بېرىڭ: «XAI غا مەبلەغ سېلىش ئارقىلىق ، بىز ئىشەنچ تۇرغۇزۇشتىن ھالقىپ كېتىمىز ؛ ئابونتلارنىڭ قوبۇل قىلىنىشىنى تېزلىتىمىز ، ئابونتلارنى چۈشىنىش ئارقىلىق ھوقۇق بېرىش ئارقىلىق قوللاش تەننەرخىنى تۆۋەنلىتىمىز ھەمدە يوشۇرۇن بىر تەرەپلىمە قاراشنى ئاشكارىلاش ئارقىلىق مۇھىم ئەخلاق ۋە نازارەت قىلىپ باشقۇرۇش خەۋپىنى ئازايتىمىز. بۇ ياخشى لايىھىلەش ۋە ئەقلىي سودا».
سىزنىڭ ئاۋازىڭىز ئەمەلىي چۈشىنىشنى ئاساس قىلغان بولۇپ ، سۈنئىي ئەقىلنى قارا قۇتىدىن چىقىرىپ ، ئابونتلار بىلەن ھەمكارلىق ئورنىتىشتا ئىنتايىن مۇھىم.
