אין מיין לעצטע שטיק, מיר געגרינדעט אַ פונדאַמענטאַל אמת: פֿאַר יוזערז צו אַדאַפּט און פאַרלאָזנ זיך אַי, זיי מוזן צוטרוי עס. מיר גערעדט וועגן צוטרוי איז אַ מאַלטיפאַסאַטיד קאַנסטראַקשאַן, געבויט אויף פּערסעפּשאַנז פון אַ אַי ס פיייקייט, גוטהאַרציקייַט, אָרנטלעכקייַט און פּרידיקטאַביליטי. אָבער וואָס כאַפּאַנז ווען אַן אַי, אין זיין שטיל, אַלגערידאַמיק חכמה, מאכט אַ באַשלוס וואָס לאָזן אַ באַניצער צעמישט, פראַסטרייטאַד אָדער אפילו שאַטן? א היפּאָטעק אַפּלאַקיישאַן איז געלייקנט, אַ באַליבסטע ליד איז פּלוצלינג ניטאָ פון אַ פּלייַליסט, און אַ קוואַלאַפייד נעמענ זיכ ווידער איז פארווארפן איידער אַ מענטש אלץ זעט עס. אין די מאָומאַנץ, פיייקייט און פּרידיקטאַביליטי זענען שאַטערד, און גוטהאַרציקייַט פילז אַ וועלט אַוועק. אונדזער שמועס איצט מוזן יוואַלוו פון די וואָס פון צוטרוי צו די ווי פון דורכזעיקייַט. די פעלד פון עקספּלאַינאַבלע אַי (XAI), וואָס פאָוקיסיז אויף דעוועלאָפּינג מעטהאָדס צו מאַכן אַי אַוטפּוץ פאַרשטיייק פֿאַר יומאַנז, איז ימערדזשד צו אַדרעס דעם, אָבער עס איז אָפט פריימד ווי אַ ריין טעכניש אַרויסרופן פֿאַר דאַטן סייאַנטיס. איך טענה אַז עס איז אַ קריטיש פּלאַן אַרויסרופן פֿאַר פּראָדוקטן וואָס פאַרלאָזנ זיך אַי. עס איז אונדזער אַרבעט ווי UX פּראָפעססיאָנאַלס צו בריק די ריס צווישן אַלגערידעמיק באַשלוס-מאכן און מענטשלעך פארשטאנד. דער אַרטיקל גיט פּראַקטיש, אַקטיאָנאַבלע גיידאַנס וועגן ווי צו פאָרשונג און פּלאַן פֿאַר יקספּליינינג. מיר וועלן מאַך ווייַטער פון די בוזזוואָרדס און אין די מאָקקופּס, איבערזעצן קאָמפּלעקס XAI קאַנסעפּס אין באַטאָנען פּלאַן פּאַטערנז איר קענען אָנהייבן ניצן הייַנט. די-מיסטיפייינג XAI: קאָר קאַנסעפּס פֿאַר UX פּראַקטישנערז XAI איז וועגן ענטפֿערן די באַניצער 'ס קשיא: "פארוואס?" פארוואס איז מיר געוויזן דעם אַד? פארוואס איז דער פֿילם רעקאַמענדיד צו מיר? פארוואס איז מיין בקשה אפגעזאגט געווארן? טראַכטן פון עס ווי די אַי ווייַזן זיין אַרבעט אויף אַ מאַטאַמאַטיקאַל פּראָבלעם. אָן עס, איר נאָר האָבן אַן ענטפער, און איר זענט געצווונגען צו נעמען עס אויף אמונה. אין ווייַזונג די סטעפּס, איר בויען קאַמפּריכענשאַן און צוטרוי. איר אויך לאָזן דיין אַרבעט צו זיין טאָפּל-אָפּגעשטעלט און וועראַפייד דורך די זייער יומאַנז עס ימפּאַקץ. שטריך וויכטיקייט און קאָונטערפאַקטואַלס עס זענען אַ נומער פון טעקניקס מיר קענען נוצן צו דערקלערן אָדער דערקלערן וואָס איז געשעעניש מיט אַי. כאָטש מעטהאָדס קייט פון צושטעלן די גאנצע לאָגיק פון אַ באַשלוס בוים צו דזשענערייטינג נאַטירלעך שפּראַך סאַמעריז פון אַ רעזולטאַט, צוויי פון די מערסט פּראַקטיש און ימפּרעסיוו טייפּס פון אינפֿאָרמאַציע UX פּראַקטישנערז קענען פאָרשטעלן אין אַ דערפאַרונג זענען שטריך וויכטיקייט (פיגורע 1) און קאַונטערפאַקטשואַלז. דאָס איז אָפט די מערסט סטרייטפאָרווערד פֿאַר יוזערז צו פֿאַרשטיין און די מערסט אַקטיוולי פֿאַר דיזיינערז צו ינסטרומענט.
שטריך וויכטיקייט דער מעטאָד פֿאַר דערקלערן, "וואָס זענען די מערסט וויכטיק סיבות וואָס די אַי האָט באַטראַכט?" עס איז וועגן ידענטיפיצירן די שפּיץ 2-3 וועריאַבאַלז וואָס האָבן די ביגאַסט פּראַל אויף די רעזולטאַט. עס איז די קעפל, נישט די גאנצע געשיכטע. בייַשפּיל: ימאַדזשאַן אַ אַי וואָס פּרידיקס צי אַ קונה וועט טשערן (באָטל מאַכן זייער דינסט). שטריך וויכטיקייט קען אַנטדעקן אַז "נומער פון שטיצן רופט אין די לעצטע חודש" און "לעצטע פּרייז ינקריסאַז" זענען די צוויי מערסט וויכטיק סיבות אין דיטערמאַנינג אויב אַ קונה איז מסתּמא צו טשערן.
קאָנטראַפאַקטואַלז דעם שטאַרק אופֿן ענטפֿערס, "וואָס וואָלט איך דאַרפֿן צו טוישן צו באַקומען אַ אַנדערש רעזולטאַט?" דאָס איז קריטיש ווייַל עס גיט יוזערז אַ געפיל פון אַגענטור. עס פארוואנדלט אַ פראַסטרייטינג "ניין" אין אַ אַקטיאָנאַבלע "נאָך נישט." בייַשפּיל: ימאַדזשאַן אַ אַנטלייַען אַפּלאַקיישאַן סיסטעם וואָס ניצט אַי. א באַניצער איז געלייקנט אַ אַנטלייַען. אַנשטאָט נאָר זען "אַפּפּליקאַטיאָן דינייד," אַ קאַונטערפאַקטשואַל דערקלערונג וואָלט אויך טיילן, "אויב דיין קרעדיט כעזשבן איז געווען 50 פונקטן העכער, אָדער אויב דיין כויוו-צו-האַכנאָסע פאַרהעלטעניש איז געווען 10% נידעריקער, דיין אַנטלייַען וואָלט זיין באוויליקט." דאָס גיט שרה קלאָרע, אַקטיאָנאַבלע סטעפּס וואָס זי קען נעמען צו פּאַטענטשאַלי באַקומען אַ אַנטלייַען אין דער צוקונפֿט.
ניצן מאָדעל דאַטן צו פֿאַרבעסערן די דערקלערונג כאָטש טעכניש ספּעסאַפאַקיישאַנז זענען אָפט כאַנדאַלד דורך דאַטן סייאַנטיס, עס איז נוציק פֿאַר UX פּראַקטישנערז צו וויסן אַז מכשירים ווי LIME (Local Interpretable Model-Agnostic Explanations) וואָס דערקלערט יחיד פֿאָרויסזאָגן דורך דערנענטערנ די מאָדעל לאָוקאַלי, און SHAP (SHapley Additive ExPlanations) וואָס ניצט אַ שפּיל טעאָריע צוגאַנג צו דערקלערן די פּראָדוקציע פון אַלע גענוצט פּראָוסידזשערז פון קיין מאַשינז. מאָדעלס. די לייברעריז בייסיקלי העלפֿן צו ברעכן אַראָפּ אַ אַי ס באַשלוס צו ווייַזן וואָס ינפּוץ זענען מערסט ינפלוענטשאַל פֿאַר אַ געגעבן רעזולטאַט. ווען עס איז רעכט, די דאַטן אונטער די באַשלוס פון אַן אַי געצייַג קענען זיין געוויינט צו דערציילן אַ שטאַרק געשיכטע. לאָמיר דורכגיין די וויכטיקייט פון פֿעיִקייטן און קאַונטערפאַקטשואַלז און ווייַזן ווי די דאַטן וויסנשאַפֿט הינטער דעם באַשלוס קענען זיין יוטאַלייזד צו פֿאַרבעסערן די דערפאַרונג פון דער באַניצער. איצט לאָזן סדעקן שטריך וויכטיקייט מיט די הילף פון לאקאלע דערקלערונגען (למשל, LIME) דאַטן: דער צוגאַנג ענטפערט, "פארוואס האט די אַי געמאכט דעם ספּעציפיש רעקאָמענדאַציע פֿאַר מיר, רעכט איצט?" אַנשטאָט אַ גענעראַל דערקלערונג פון ווי דער מאָדעל אַרבעט, עס גיט אַ פאָוקיסט סיבה פֿאַר אַ איין, ספּעציפיש בייַשפּיל. עס איז פּערזענלעך און קאָנטעקסטואַל. בייַשפּיל: ימאַדזשאַן אַן אַי-Powered מוזיק רעקאָמענדאַציע סיסטעם ווי Spotify. א היגע דערקלערונג וואָלט ענטפֿערן, "פארוואס האט די סיסטעם רעקאַמענדיד דעם ספּעציפיש ליד פון אַדעל צו איר רעכט איצט?" די דערקלערונג קען זיין: "ווייַל איר לעצטנס צוגעהערט צו עטלעכע אנדערע עמאָציאָנעל באַלאַדז און לידער פון ווייַבלעך וואָקאַליסץ."
צום סוף, לאָזן אונדז דעקן די ינקלוזשאַן פון ווערט-באזירט דערקלערונגען (למשל Shapley Additive Explanations (SHAP) דאַטן צו אַ דערקלערונג פון אַ באַשלוס: דאָס איז אַ מער נואַנסט ווערסיע פון שטריך וויכטיקייט וואָס ענטפֿערס, "ווי האט יעדער פאַקטאָר שטופּן דעם באַשלוס איין וועג אָדער די אנדערע?" עס העלפּס וויזשוואַלייז וואָס איז וויכטיק, און צי די השפּעה איז געווען positive אָדער נעגאַטיוו. בייַשפּיל: ימאַדזשאַן אַ באַנק ניצט אַן אַי מאָדעל צו באַשליסן צי צו אַפּרווו אַ אַנטלייַען אַפּלאַקיישאַן.
שטריך וויכטיקייט: די מאָדעל רעזולטאַט קען ווייַזן אַז דער אַפּליקאַנט ס קרעדיט כעזשבן, האַכנאָסע און כויוו-צו-האַכנאָסע פאַרהעלטעניש זענען די מערסט וויכטיק סיבות אין זיין באַשלוס. דאָס ענטפֿערט וואָס איז וויכטיק. שטריך וויכטיקייט מיט ווערט-באזירט דערקלערונגען (SHAP): SHAP וואַלועס וואָלט נעמען שטריך וויכטיקייט ווייַטער באזירט אויף עלעמענטן פון די מאָדעל.
פֿאַר אַ באוויליקט אַנטלייַען, SHAP קען ווייַזן אַז אַ הויך קרעדיט כעזשבן באטייטיק פּושט די באַשלוס צו האַסקאָמע (positive השפּעה), בשעת אַ ביסל העכער-ווי-דורכשניטלעך כויוו-צו-האַכנאָסע פאַרהעלטעניש פּולד עס אַ ביסל אַוועק (נעגאַטיוו השפּעה), אָבער נישט גענוג צו לייקענען די אַנטלייַען. פֿאַר אַ געלייקנט אַנטלייַען, SHAP קען אַנטדעקן אַז אַ נידעריק האַכנאָסע און אַ הויך נומער פון פריש קרעדיט ינקוועריז שטארק פּושט דעם באַשלוס צו אָפּלייקענונג, אפילו אויב די קרעדיט כעזשבן איז געווען לייַטיש.
דאָס העלפּס דער אַנטלייַען אָפיציר דערקלערן דעם אַפּליקאַנט ווייַטער פון וואָס איז געווען באַטראַכט, ווי יעדער פאַקטאָר קאַנטריביוטיד צו די לעצט "יאָ" אָדער "ניין" באַשלוס. עס איז קריטיש צו דערקענען אַז די פיייקייט צו צושטעלן גוט דערקלערונגען אָפט סטאַרץ פיל פריער אין די אַנטוויקלונג ציקל. דאַטאַ סייאַנטיס און ענדזשאַנירז שפּילן אַ פּיוואַטאַל ראָלע דורך בעקיוון סטראַקטשערינג מאָדעלס און דאַטן פּייפּליינז אין וועגן וואָס ינכעראַנטלי שטיצן יקספּליינינגאַביליטי, אלא ווי טריינג צו ריגל עס אויף ווי אַ דערנאָכדעם. פאָרשונג און פּלאַן טימז קענען שטיצן דעם דורך ינישיייטיד פרי שמועסן מיט דאַטן סייאַנטיס און ענדזשאַנירז וועגן באַניצער דאַרף פֿאַר פארשטאנד, קאַנטריביוטינג צו דער אַנטוויקלונג פון עקספּערטאַביליטי מעטריקס, און קאַלאַבערייטיוו פּראָוטאַטייפּ דערקלערונגען צו ענשור אַז זיי זענען ביידע פּינטלעך און באַניצער-פרייַנדלעך. XAI און עטישע אַי: אַנפּאַקינג פאָרורטייל און פֿאַראַנטוואָרטלעכקייט ווייַטער פון בויען צוטרוי, XAI פיעסעס אַ קריטיש ראָלע אין אַדרעסינג די טיף עטישע ימפּלאַקיישאַנז פון אַי *, ספּעציעל וועגן אַלגערידאַמיק פאָרורטייל. עקספּלאַינאַביליטי טעקניקס, אַזאַ ווי אַנאַלייזינג SHAP וואַלועס, קענען אַנטדעקן אויב די דיסיזשאַנז פון אַ מאָדעל זענען דיספּראַפּאָרשאַנאַטלי ינפלואַנסט דורך שפּירעוודיק אַטריביוץ ווי ראַסע, דזשענדער אָדער סאָסיאָעקאָנאָמיק סטאַטוס, אפילו אויב די סיבות זענען נישט בפירוש געניצט ווי דירעקט ינפּוץ. פֿאַר בייַשפּיל, אויב אַ אַנטלייַען האַסקאָמע מאָדעל קאַנסיסטאַנטלי אַסיינז נעגאַטיוו SHAP וואַלועס צו אַפּליקאַנץ פון אַ זיכער דעמאָגראַפיק, עס סיגנאַלז אַ פּאָטענציעל פאָרורטייל וואָס דאַרף ויספאָרשונג, ימפּאַוערינג טימז צו ייבערפלאַך און פאַרמינערן אַזאַ ומיוישערדיק אַוטקאַמז. די מאַכט פון XAI אויך קומט מיט די פּאָטענציעל פֿאַר "דערקלערונג וואַשינג." פּונקט ווי "גריןוואַשינג" מיסלידז קאָנסומערס וועגן ינווייראַנמענאַל פּראַקטיסיז, יקספּליינינגאַביליטי וואַשינג קענען פּאַסירן ווען דערקלערונגען זענען דיזיינד צו פאַרשטאַרקן, אלא ווי ילומיניט, פּראָבלעמאַטיק אַלגערידאַמיק נאַטור אָדער טאָכיק בייאַסיז. דאָס קען באַשייַמפּערלעך ווי יבער סימפּלאַסטיק דערקלערונגען וואָס ויסלאָזן קריטיש ינפלואַנסינג סיבות, אָדער דערקלערונגען וואָס סטראַטידזשיקלי ראַם רעזולטאַטן צו זיין מער נייטראַל אָדער שיין ווי זיי טאַקע זענען. עס אַנדערקאָרז די עטישע פֿאַראַנטוואָרטלעכקייט פון UX פּראַקטישנערז צו פּלאַן דערקלערונגען וואָס זענען עכט טראַנספּעראַנט און וועראַפייאַבאַל. UX פּראָפעססיאָנאַלס, אין מיטאַרבעט מיט דאַטן סייאַנטיס און עטיקס, האָבן אַ קריטיש פֿאַראַנטוואָרטלעכקייט אין קאַמיונאַקייטינג די וואָס פון אַ באַשלוס, און אויך די לימיטיישאַנז און פּאָטענציעל בייאַסיז פון די אַנדערלייינג אַי מאָדעל. דאָס ינוואַלווז באַשטעטיקן רעאַליסטיש באַניצער עקספּעקטיישאַנז וועגן אַי אַקיעראַסי, ידענטיפיצירן ווו דער מאָדעל קען זיין ווייניקער פאַרלאָזלעך, און צושטעלן קלאָר טשאַנאַלז פֿאַר בריירע אָדער באַמערקונגען ווען יוזערז זע ומיוישערדיק אָדער פאַלש אַוטקאַמז. פּראָואַקטיוולי אַדרעסינג דיעטישע דימענשאַנז וועט לאָזן אונדז צו בויען אַי סיסטעמען וואָס זענען באמת פּונקט און טראַסטווערדי. פֿון מעטהאָדס צו מאָקקופּס: פּראַקטיש XAI פּלאַן פּאַטערנז וויסן די קאַנסעפּס איז איין זאַך; דיזיינינג זיי איז אן אנדער. דאָ ס ווי מיר קענען איבערזעצן די XAI מעטהאָדס אין ינטואַטיוו פּלאַן פּאַטערנז. מוסטער 1: די "ווייַל" סטאַטעמענט (פֿאַר שטריך וויכטיקייט) דאָס איז די סימפּלאַסט און אָפט מערסט עפעקטיוו מוסטער. עס איז אַ דירעקט, קלאָר-שפּראַך דערקלערונג אַז סערפאַסיז די ערשטיק סיבה פֿאַר אַן אַי ס קאַמף.
כיוריסטיק: זיין דירעקט און קאַנסייס. פירן מיט די איין מערסט ימפּרעסיוו סיבה. ויסמיידן זשאַרגאָן אין אַלע קאָס.
בייַשפּיל: ימאַדזשאַן אַ מוזיק סטרימינג דינסט. אַנשטאָט נאָר פאָרשטעלן אַ "אַנטדעקן וויקלי" פּלייַליסט, איר לייגן אַ קליין שורה פון מיקראָקאָפּי. סאָנג רעקאָמענדאַציע: "סאַמעט מאָרגן" ווייַל איר הערן צו "די פאַז" און אנדערע סייקאַדעליק שטיין.
מוסטער 2: די "וואָס-אויב" ינטעראַקטיווע (פֿאַר קאָונטערפאַקטואַלס) קאָונטערפאַקטואַלז זענען ינכעראַנטלי וועגן ימפּאַוערמאַנט. דער בעסטער וועג צו פאָרשטעלן זיי איז דורך געבן ניצערס ינטעראַקטיוו מכשירים צו ויספאָרשן די פּאַסאַבילאַטיז זיך. דאָס איז גאנץ פֿאַר פינאַנציעל, געזונט אָדער אנדערע ציל-אָריענטיד אַפּלאַקיישאַנז.
כיוריסטיק: מאַכן דערקלערונגען ינטעראַקטיוו און ימפּאַוערינג. לאָזן ניצערס זען די סיבה און ווירקונג פון זייער ברירות.
בייַשפּיל: א אַנטלייַען אַפּלאַקיישאַן צובינד. נאָך אַ אָפּלייקענונג, אַנשטאָט פון אַ טויט סוף, דער באַניצער געץ אַ געצייַג צו באַשליסן ווי פאַרשידן סינעריאָוז (וואָס-אויב) קען שפּילן אויס (זען פיגורע 1).
מוסטער 3: די הויכפּונקט שפּול (פֿאַר לאקאלע דערקלערונגען) ווען אַן אַי פּערפאָרמז אַן אַקציע אויף דער אינהאַלט פון אַ באַניצער (ווי סאַמערייזינג אַ דאָקומענט אָדער ידענטיפיצירן פנימער אין פאָטאָס), די דערקלערונג זאָל זיין וויזשוואַלי לינגקט צו די מקור.
כיוריסטיק: ניצן וויזשאַוואַל קיוז ווי כיילייטינג, אַוטליינז אָדער אַנאַטיישאַנז צו פאַרבינדן די דערקלערונג גלייַך צו די צובינד עלעמענט וואָס עס דערקלערט.
ביישפּיל: אַן אַי געצייַג וואָס סאַמערייזיז לאַנג אַרטיקלען. איי-גענעראַטעד קיצער פונט: ערשט פאָרשונג געוויזן אַ מאַרק ריס פֿאַר סאַסטיינאַבאַל פּראָדוקטן. מקור אין דאָקומענט: "... אונדזער ק 2 אַנאַליסיס פון מאַרק טרענדס קאַנקלוסיוולי דעמאַנסטרייטיד אַז קיין הויפּט קאָנקורענט איז יפעקטיוולי סערווינג די עקאָ-באַוווסטזיניק קאַנסומער, ריווילינג אַ באַטייטיק מאַרק ריס פֿאַר סאַסטיינאַבאַל פּראָדוקטן ..."
מוסטער 4: די פּוש-און-ציען וויסואַל (פֿאַר ווערט-באזירט דערקלערונגען) פֿאַר מער קאָמפּליצירט דיסיזשאַנז, יוזערז זאל דאַרפֿן צו פֿאַרשטיין די ינטערפּליי פון סיבות. פּשוט דאַטן וויזשוואַלאַזיישאַנז קענען מאַכן דעם קלאָר אָן זיין אָוווערוועלמינג.
כיוריסטיק: ניצן פּשוט, קאָליר-קאָדעד דאַטן וויזשוואַלאַזיישאַנז (ווי באַר טשאַרץ) צו ווייַזן די סיבות וואָס דורכויס און נעגאַטיוולי ינפלואַנסט אַ באַשלוס.
ביישפּיל: אַן אַי זיפּונג פון אַ קאַנדידאַט ס פּראָפיל פֿאַר אַ אַרבעט. פארוואס דער קאַנדידאַט איז אַ 75% גלייַכן: סיבות פּושינג די כעזשבן: 5+ יאָר UX פאָרשונג דערפאַרונג פּראָפעסיענט אין פּיטהאָן פאַקטאָרס פּושינג די כעזשבן: קיין דערפאַרונג מיט B2B SaaS
לערנען און נוצן די פּלאַן פּאַטערנז אין די UX פון דיין אַי פּראָדוקט וועט העלפֿן צו פאַרגרעסערן די פאַרלענגערונג. איר קענט אויך נוצן נאָך טעקניקס וואָס איך בין נישט קאַווערינג אין-טיפקייַט דאָ. דאָס כולל די פאלגענדע:
דערקלערונגען פון נאַטירלעך שפּראַך: איבערזעצן די טעכניש רעזולטאַט פון אַ אַי אין אַ פּשוט, קאַנווערסיישאַנאַל מענטש שפּראַך וואָס ניט-עקספּערץ קענען לייכט פֿאַרשטיין. קאָנטעקסטואַל דערקלערונגען: פּראַוויידינג אַ סייכל פֿאַר אַ אַי ס רעזולטאַט אין דעם ספּעציפיש מאָמענט און אָרט, דאָס איז מערסט באַטייַטיק פֿאַר די באַניצער 'ס אַרבעט. באַטייַטיק וויזשוואַלאַזיישאַנז: ניצן טשאַרץ, גראַפס אָדער העאַטמאַפּס צו וויזשוואַלי פאָרשטעלן אַן אַי ס באַשלוס-מאכן פּראָצעס, מאכן קאָמפּלעקס דאַטן ינטואַטיוו און גרינגער פֿאַר יוזערז צו אָנכאַפּן.
א באַמערקונג פֿאַר די פראָנט סוף: איבערזעצן די יקספּליינינג אַוטפּוץ אין סימלאַס באַניצער יקספּיריאַנסיז אויך גיט זיין אייגענע גאַנג פון טעכניש קאַנסידעריישאַנז. פראָנט-ענד דעוועלאָפּערס אָפט גרייכן מיט API פּלאַן צו יפישאַנטלי צוריקקריגן דערקלערונג דאַטן, און פאָרשטעלונג ימפּלאַקיישאַנז (ווי די פאַקטיש-צייט דור פון דערקלערונגען פֿאַר יעדער באַניצער ינטעראַקשאַן) דאַרפֿן אָפּגעהיט פּלאַנירונג צו ויסמיידן לייטאַנסי. עטלעכע פאַקטיש-וועלט ביישפילן UPS Capital's DeliveryDefense UPS ניצט AI צו באַשטימען אַ "עקספּרעס בטחון כעזשבן" צו אַדרעסעס צו פאָרויסזאָגן די ליקעליהאָאָד פון סטאָלען אַ פּעקל. זייער DeliveryDefense ווייכווארג אַנאַליזעס היסטארישע דאַטן וועגן אָרט, אָנווער אָפטקייַט און אנדערע סיבות. אויב אַן אַדרעס האט אַ נידעריק כעזשבן, די סיסטעם קענען פּראָואַקטיוולי ריראָוט דעם פּעקל צו אַ זיכער אַפּס אַקסעס פונט, צושטעלן אַ דערקלערונג פֿאַר דעם באַשלוס (למשל, "פּאַקקע ריראָוד צו אַ זיכער אָרט רעכט צו אַ געשיכטע פון גנייווע"). דער סיסטעם דעמאַנסטרייץ ווי XAI קענען זיין געוויינט פֿאַר ריזיקירן מיטיגיישאַן און בויען קונה צוטרוי דורךדורכזעיקייַט. אָטאַנאַמאַס וועהיקלעס די וועהיקלעס פון דער צוקונפֿט וועט דאַרפֿן צו יפעקטיוולי נוצן XAI צו העלפֿן זייער וועהיקלעס מאַכן זיכער, דערקלערט דיסיזשאַנז. ווען אַ זיך-דרייווינג מאַשין בראַקעס פּלוצלינג, די סיסטעם קענען צושטעלן אַ פאַקטיש-צייט דערקלערונג פֿאַר זייַן קאַמף, למשל, דורך ידענטיפיצירן אַ פוסגייער סטעפּינג אין די וועג. דאָס איז ניט בלויז קריטיש פֿאַר פּאַסאַזשיר טרייסט און צוטרוי, אָבער איז אַ רעגולאַטאָרי פאָדערונג צו באַווייַזן די זיכערקייַט און אַקאַונטאַביליטי פון די אַי סיסטעם. IBM Watson Health (און זיין טשאַלאַנדזשיז) כאָטש עס איז אָפט סייטאַד ווי אַ גענעראַל ביישפּיל פון אַי אין כעלטקער, עס איז אויך אַ ווערטפול פאַל לערנען פֿאַר די וויכטיקייט פון XAI. דער דורכפאַל פון זיין וואַצאָן פֿאַר אָנקאָלאָגי פּרויעקט כיילייץ וואָס קענען גיין פאַלש ווען דערקלערונגען זענען נישט קלאָר, אָדער ווען די אַנדערלייינג דאַטן זענען בייאַסט אָדער נישט לאָוקאַלייזד. די רעקאַמאַנדיישאַנז פון די סיסטעם זענען מאל סתירה מיט היגע קליניש פּראַקטיסיז ווייַל זיי זענען באזירט אויף יו-סענטריק גיידליינז. דאָס סערוועס ווי אַ וואָרענען מייַסע אויף די נויט פֿאַר געזונט, קאָנטעקסט-אַווער דערקלערטאַביליטי. די ראָלע פון די UX פאָרשער: פּינפּוינטינג און וואַלאַדייטינג דערקלערונגען אונדזער פּלאַן סאַלושאַנז זענען בלויז עפעקטיוו אויב זיי אַדרעס די רעכט באַניצער פֿראגן אין די רעכט צייט. אַ דערקלערונג וואָס ענטפֿערס אַ קשיא וואָס דער באַניצער טוט נישט האָבן איז נאָר ראַש. דאָס איז ווו UX פאָרשונג ווערט די קריטיש קאַנעקטיווע געוועב אין אַ XAI סטראַטעגיע, און ינשורינג אַז מיר דערקלערן וואָס און ווי דאָס איז אַקטשאַוואַלי וויכטיק פֿאַר אונדזער יוזערז. די ראָלע פון דער פאָרשער איז צווייפל: ערשטער, צו מיטטיילן די סטראַטעגיע דורך ידענטיפיצירן ווו דערקלערונגען זענען דארף, און צווייטנס, צו וואַלאַדייט די דיזיינז וואָס צושטעלן די דערקלערונגען. ינפאָרמינג די XAI סטראַטעגיע (וואָס צו דערקלערן) איידער מיר קענען פּלאַן אַ איין דערקלערונג, מיר מוזן פֿאַרשטיין די באַניצער ס גייַסטיק מאָדעל פון די אַי סיסטעם. וואָס טאָן זיי גלויבן עס ס טאן? ווו זענען די גאַפּס צווישן זייער פארשטאנד און די פאַקט פון די סיסטעם? דאָס איז די פונדאַמענטאַל אַרבעט פון אַ UX פאָרשער. מענטאַל מאָדעל ינטערוויוז: אַנפּאַקינג באַניצער פּערסעפּשאַנז פון אַי סיסטעמען דורך טיף, האַלב-סטראַקטשערד ינטערוויוז, UX פּראַקטישנערז קענען באַקומען ינוואַליאַבאַל ינסייץ אין ווי יוזערז זע און פֿאַרשטיין אַי סיסטעמען. די סעשאַנז זענען דיזיינד צו מוטיקן יוזערז צו ממש ציען אָדער באַשרייַבן זייער ינערלעך "מענטאַל מאָדעל" פון ווי זיי גלויבן די אַי אַרבעט. דאָס אָפט ינוואַלווז אַסקינג אָפֿן-געענדיקט פראגעס וואָס פּינטלעך יוזערז צו דערקלערן די סיסטעם ס לאָגיק, זייַן ינפּוץ און זייַן אַוטפּוץ, ווי געזונט ווי די באציונגען צווישן די עלעמענטן. די ינטערוויוז זענען שטאַרק ווייַל זיי אָפט אַנטדעקן טיף מיסקאַנסעפּשאַנז און אַסאַמפּשאַנז אַז יוזערז האַלטן וועגן אַי. פֿאַר בייַשפּיל, אַ באַניצער ינטעראַקטינג מיט אַ רעקאָמענדאַציע מאָטאָר קען קאַנפאַדאַנטלי באַשטעטיקן אַז די סיסטעם איז באזירט בלויז אויף זייער פאַרגאַנגענהייַט וויוינג געשיכטע. זיי קען נישט פאַרשטיין אַז דער אַלגערידאַם אויך ינקאָרפּערייץ אַ פּלאַץ פון אנדערע סיבות, אַזאַ ווי די צייט פון טאָג זיי זענען בראַוזינג, די קראַנט טרענדינג זאכן אויף דער פּלאַטפאָרמע, אָדער אפילו די וויוינג געוווינהייטן פון ענלעך ניצערס. ופדעקן דעם ריס צווישן אַ באַניצער ס גייַסטיק מאָדעל און די פאַקטיש אַנדערלייינג אַי לאָגיק איז קריטיש וויכטיק. עס דערציילט אונדז פּונקט וואָס ספּעציפיש אינפֿאָרמאַציע מיר דאַרפֿן צו יבערגעבן צו יוזערז צו העלפֿן זיי בויען אַ מער פּינטלעך און געזונט גייַסטיק מאָדעל פון די סיסטעם. דאָס, אין קער, איז אַ פונדאַמענטאַל שריט אין פאַסטערינג צוטרוי. ווען יוזערז פֿאַרשטיין, אפילו אויף אַ הויך מדרגה, ווי אַן אַי קומט צו זיין קאַנקלוזשאַנז אָדער רעקאַמאַנדיישאַנז, זיי זענען מער מסתּמא צו צוטרוי זיין אַוטפּוץ און פאַרלאָזנ אויף זיין פאַנגקשאַנאַליטי. AI דזשאָורניי מאַפּינג: אַ טיף ונטערטוקנ זיך אין באַניצער צוטרוי און עקספּלאַינאַביליטי דורך מאַטיקיאַלאַסלי מאַפּינג די באַניצער 'ס נסיעה מיט אַן אַי-Powered שטריך, מיר באַקומען ינוואַליאַבאַל ינסייץ אין די גענוי מאָומאַנץ ווו צעמישונג, פראַסטריישאַן אָדער אפילו טיף דיסטראַסט אַרויסקומען. דאָס אַנטדעקן קריטיש דזשונקטשערז ווו דער באַניצער ס גייַסטיק מאָדעל פון ווי די אַי אַפּערייץ קלאַשיז מיט זיין פאַקטיש נאַטור. באַטראַכטן אַ מוזיק סטרימינג דינסט: טוט דער צוטרוי פון דער באַניצער פּלאַמאַט ווען אַ רעקאָמענדאַציע פון אַ פּלייַליסט פילז "ראַנדאָם," פעלנדיק קיין דערקענען קשר צו זייער פאַרגאַנגענהייט צוגעהערט געוווינהייטן אָדער סטייטיד פּרעפֿערענצן? דעם באמערקט ראַנדאַמנאַס איז אַ דירעקט אַרויסרופן צו דער באַניצער ס דערוואַרטונג פון ינטעליגענט קוראַטיאָן און אַ בריטש פון די ימפּליסאַט צוזאָג אַז די אַי פארשטייט זייער געשמאַק. סימילאַרלי, אין אַ פאָטאָ פאַרוואַלטונג אַפּלאַקיישאַן, ניצערס דערפאַרונג אַ באַטייטיק פראַסטריישאַן ווען אַן אַי פאָטאָ-טאַגינג שטריך קאַנסיסטאַנטלי מיסידענטיפיעס אַ טשערישט משפּחה מיטגליד? דער טעות איז מער ווי אַ טעכניש גליטש; עס סטרייקס אין די האַרץ פון אַקיעראַסי, פּערסאַנאַלאַזיישאַן און אפילועמאָציאָנעל קשר. די ווייטיק ווייזט זענען לעבעדיק סיגנאַלז וואָס ינדיקייץ פּונקט ווו אַ געזונט-געשטעלט, קלאָר און קאַנסייס דערקלערונג איז נייטיק. אַזאַ דערקלערונגען דינען ווי קריטיש פאַרריכטן מעקאַניזאַמז, פאַרריכטן אַ בריטש פון צוטרוי אַז, אויב לינקס אַנאַדרעסד, קענען פירן צו באַניצער פאַרלאָזן. די מאַכט פון אַי רייזע מאַפּינג ליגט אין זיין פיייקייט צו מאַך אונדז ווייַטער פון פשוט דערקלערן די לעצט רעזולטאַט פון אַן אַי סיסטעם. כאָטש עס איז וויכטיק צו פֿאַרשטיין וואָס די אַי געשאפן, עס איז אָפט ניט גענוגיק. אַנשטאָט, דעם פּראָצעס קאַמפּעלז אונדז צו פאָקוס אויף יקספּליינינג דעם פּראָצעס אין קריטיש מאָומאַנץ. דעם מיטל אַדרעסינג:
פארוואס אַ באַזונדער רעזולטאַט איז דזשענערייטאַד: איז דאָס רעכט צו ספּעציפיש אַרייַנשרייַב דאַטן? אַ באַזונדער מאָדעל אַרקאַטעקטשער? וואָס סיבות האָבן ינפלואַנסט די אַי ס באַשלוס: זענען זיכער פֿעיִקייטן ווייטיד מער שווער? ווי די אַי איז אנגעקומען צו זיין מסקנא: קענען מיר פאָרשלאָגן אַ סימפּלאַפייד, אַנאַלאָג דערקלערונג פון זיין ינערלעך ווערקינגז? וואָס אַסאַמפּשאַנז די אַי געמאכט: זענען עס ימפּליסאַט פארשטאנד פון דער באַניצער ס קאַוואָנע אָדער דאַטן וואָס דאַרפֿן צו זיין סערפיסט? וואָס די לימיטיישאַנז פון די אַי זענען: קלאר קאַמיונאַקייטינג וואָס די אַי קען נישט טאָן, אָדער ווו די אַקיעראַסי קען וואַווער, בויען רעאַליסטיש עקספּעקטיישאַנז.
AI רייזע מאַפּינג טראַנספאָרמז די אַבסטראַקט באַגריף פון XAI אין אַ פּראַקטיש, אַקטיאָנאַבלע פריימווערק פֿאַר UX פּראַקטישנערז. עס ינייבאַלז אונדז צו מאַך ווייַטער פון טעאָרעטיש דיסקוסיעס פון יקספּליינינגאַביליטי און אַנשטאָט פּונקט די פּינטלעך מאָומאַנץ ווו באַניצער צוטרוי איז אין פלעקל, פּראַוויידינג די נייטיק ינסייץ צו בויען אַי יקספּיריאַנסיז וואָס זענען שטאַרק, טראַנספּעראַנט, פאַרשטיייק און טראַסטווערדי. לעסאָף, פאָרשונג איז ווי מיר ופדעקן די אומבאַקאַנט. דיין מאַנשאַפֿט קען דעבאַטע ווי צו דערקלערן וואָס אַ אַנטלייַען איז געלייקנט, אָבער פאָרשונג קען אַנטדעקן אַז יוזערז זענען פיל מער זארגן וועגן פֿאַרשטיין ווי זייער דאַטן זענען געניצט אין דער ערשטער אָרט. אָן פאָרשונג, מיר זענען פשוט געסינג וואָס אונדזער יוזערז וואַנדערינג. מיטאַרבעטן אויף די פּלאַן (ווי צו דערקלערן דיין אַי) אַמאָל פאָרשונג האט יידענאַפייד וואָס צו דערקלערן, די קאַלאַבערייטיוו שלייף מיט פּלאַן הייבט. דיזיינערז קענען פּראָוטאַטייפּ די פּאַטערנז וואָס מיר דיסקאַסט פריער - די "ווייַל" דערקלערונג, די ינטעראַקטיוו סלידערס - און ריסערטשערז קענען שטעלן די דיזיינז אין פראָנט פון יוזערז צו זען אויב זיי האַלטן זיך. טאַרגעטעד וסאַביליטי און קאַמפּרעשאַן טעסטינג: מיר קענען פּלאַן פאָרשונג שטודיום וואָס ספּאַסיפיקלי פּרובירן די XAI קאַמפּאָונאַנץ. מיר טאָן ניט נאָר פרעגן, "איז דאָס גרינג צו נוצן?" מיר פרעגן, "נאָך געזען דעם, קענען איר זאָגן מיר אין דיין אייגענע ווערטער וואָס די סיסטעם רעקאַמענדיד דעם פּראָדוקט?" אָדער "ווייַז מיר וואָס איר וואָלט טאָן צו זען אויב איר קען באַקומען אַ אַנדערש רעזולטאַט." דער ציל דאָ איז צו מעסטן קאַמפּריכענשאַן און אַקטיאָנאַביליטי, צוזאמען וסאַביליטי. מעסטן צוטרוי זיך: מיר קענען נוצן פּשוט סערווייז און שאַץ וואָג איידער און נאָך אַ דערקלערונג איז געוויזן. פֿאַר בייַשפּיל, מיר קענען פרעגן אַ באַניצער אויף אַ 5-פונט וואָג, "ווי פיל טאָן איר צוטרוי דעם רעקאָמענדאַציע?" איידער זיי זען די "ווייַל" דערקלערונג, און דעמאָלט פרעגן זיי ווידער דערנאָך. דאָס גיט קוואַנטיטאַטיווע דאַטן וועגן צי אונדזער דערקלערונגען טאַקע מאַך די נאָדל אויף צוטרוי. דעם פּראָצעס קריייץ אַ שטאַרק, יטעראַטיוו שלייף. פאָרשונג פיינדינגז מיטטיילן די ערשט פּלאַן. דער פּלאַן איז דערנאָך טעסטעד, און די נייַע פיינדינגז זענען פיטער צוריק צו די פּלאַן מאַנשאַפֿט פֿאַר ראַפינירטקייַט. אפֿשר די "ווייַל" דערקלערונג איז געווען צו זשאַרגאַני, אָדער די "וואָס-אויב" סליידער איז געווען מער קאַנפיוזינג ווי ימפּאַוערינג. דורך דעם קאַלאַבערייטיוו וואַלאַדיישאַן, מיר ענשור אַז די לעצט דערקלערונגען זענען טעקניקלי פּינטלעך, טאַקע פאַרשטיייק, נוציק און צוטרוי-בנין פֿאַר די מענטשן וואָס נוצן דעם פּראָדוקט. די גאָלדילאָקקס זאָנע פון דערקלערונג א קריטיש וואָרט פון וואָרענען: עס איז מעגלעך צו איבער-דערקלערן. ווי אין דער מעשׂה, וווּ גאָלדילאַקס האָט געזוכט די קאַשע, וואָס איז געווען 'פּונקט רעכט', איז דער ציל פֿון אַ גוטן הסבר צו געבן די רעכטע פּרטים — נישט צו פֿיל און נישט צו ווייניק. באָמבאַרדינג אַ באַניצער מיט יעדער בייַטעוודיק אין אַ מאָדעל וועט פירן צו קאַגניטיוו אָווערלאָאַד און קענען אַקשלי פאַרמינערן צוטרוי. דער ציל איז נישט צו מאַכן דעם באַניצער אַ דאַטן געלערנטער. איין לייזונג איז פּראָגרעסיוו אַנטפּלעקונג.
אָנהייבן מיט די פּשוט. פירן מיט אַ קאַנסייס "ווייַל" דערקלערונג. פֿאַר רובֿ ניצערס, דאָס וועט זיין גענוג. געבן אַ וועג צו דעטאַל. צושטעלן אַ קלאָר, נידעריק-רייַבונג לינק ווי "לערנען מער" אָדער "זען ווי דאָס איז געווען באשלאסן." אַנטדעקן די קאַמפּלעקסיטי. הינטער דעם לינק, איר קענען פאָרשלאָגן ינטעראַקטיוו סלידערז, וויזשוואַלאַזיישאַנז אָדער אַ מער דיטיילד רשימה פון קאַנטריביוטינג סיבות.
דעם לייערד צוגאַנג רעספּעקט באַניצער ופמערקזאַמקייט און עקספּערטיז, פּראַוויידינג פּונקט די רעכט סומעפון אינפֿאָרמאַציע פֿאַר זייער באדערפענישן. לאָמיר ימאַדזשאַן אַז איר נוצן אַ קלוג היים מיטל וואָס רעקאַמענדז אָפּטימאַל באַהיצונג באזירט אויף פאַרשידן סיבות. אָנהייבן מיט די פּשוט: "דיין היים איז דערווייַל העאַטעד צו 72 דיגריז, וואָס איז די אָפּטימאַל טעמפּעראַטור פֿאַר ענערגיע סייווינגז און טרייסט." פאָרשלאָגן אַ דרך צו דעטאַל: אונטן, אַ קליין לינק אָדער קנעפּל: "פארוואס איז 72 דיגריז אָפּטימאַל?" אַנטדעקן די קאַמפּלעקסיטי: קליקינג אויף דעם לינק קען עפענען אַ נייַע פאַרשטעלן מיט:
ינטעראַקטיווע סלידערז פֿאַר אַרויס טעמפּעראַטור, הומידיטי און דיין בילכער טרייסט מדרגה, דעמאַנסטרייטינג ווי די סטרויערן די רעקאַמענדיד טעמפּעראַטור. א וויזשוואַלאַזיישאַן פון ענערגיע קאַנסאַמשאַן אין פאַרשידענע טעמפּעראַטורעס. א רשימה פון קאַנטריביוטינג סיבות ווי "צייט פון טאָג," "קראַנט אַרויס טעמפּעראַטור," "היסטאָריש ענערגיע באַניץ," און "אַקופּאַנסי סענסאָרס."
עס איז עפעקטיוו צו פאַרבינדן קייפל XAI מעטהאָדס און דעם גאָלדילאָקקס זאָנע פון דערקלערונג מוסטער, וואָס אַדוואַקאַץ פֿאַר פּראָגרעסיוו אַנטפּלעקונג, ימפּליסאַט ינקעראַדזשאַז דעם. איר קען אָנהייבן מיט אַ פּשוט "ווייַל" ויסזאָגונג (מוסטער 1) פֿאַר גלייך קאַמפּריכענשאַן, און דעמאָלט פאָרשלאָגן אַ "לערנען מער" לינק וואָס ריווילז אַ "וואָס-אויב" ינטעראַקטיווע (מוסטער 2) אָדער אַ "שטופּן-און-ציען וויסואַל" (מוסטער 4) פֿאַר דיפּער עקספּלעריישאַן. צום ביישפּיל, אַ אַנטלייַען אַפּלאַקיישאַן סיסטעם קען טכילעס זאָגן די ערשטיק סיבה פֿאַר אָפּלייקענונג (פונקציע וויכטיקייט), דערנאָך לאָזן די באַניצער צו ינטעראַקט מיט אַ "וואָס-אויב" געצייַג צו זען ווי ענדערונגען צו זייער האַכנאָסע אָדער כויוו וואָלט טוישן די רעזולטאַט (קאָונטערפאַקטשואַלז), און לעסאָף צושטעלן אַ דיטיילד "שטופּן-און-ציען" טשאַרט (ווערט-באזירט דערקלערונג און נעגאַטיוו ביישטייערונגען) צו אילוסטרירן אַלע positive סיבות. דעם לייערד צוגאַנג אַלאַוז ניצערס צו אַקסעס די מדרגה פון דעטאַל זיי דאַרפֿן, ווען זיי דאַרפֿן עס, פּרעווענטינג קאַגניטיוו אָווערלאָאַד און נאָך צושטעלן פולשטענדיק דורכזעיקייַט. דיטערמאַנינג וואָס XAI מכשירים און מעטהאָדס צו נוצן איז בפֿרט אַ פֿונקציע פון גרונטיק UX פאָרשונג. מענטאַל מאָדעל ינטערוויוז און אַי רייזע מאַפּינג זענען קריטיש פֿאַר פּינפּוינטינג באַניצער דאַרף און ווייטיק ווייזט שייַכות צו אַי פארשטאנד און צוטרוי. מענטאַל מאָדעל ינטערוויוז העלפֿן ופדעקן באַניצער מיסקאַנסעפּשאַנז וועגן ווי די אַי אַרבעט, ינדאַקייטינג געביטן ווו פונדאַמענטאַל דערקלערונגען (ווי שטריך וויכטיקייט אָדער היגע דערקלערונגען) זענען דארף. אַי רייזע מאַפּינג, אויף די אנדערע האַנט, יידענאַפייד קריטיש מאָומאַנץ פון צעמישונג אָדער דיסטראַסט אין דער באַניצער 'ס ינטעראַקשאַן מיט די אַי, סיגנאַלינג ווו מער גראַניאַלער אָדער ינטעראַקטיוו דערקלערונגען (ווי קאַונטערפאַקטשואַל אָדער ווערט-באזירט דערקלערונגען) וואָלט זיין מערסט וווילטויק צו ריבילד צוטרוי און צושטעלן אַגענטור.
לעסאָף, דער בעסטער וועג צו קלייַבן אַ טעכניק איז צו לאָזן באַניצער פאָרשונג פירן דיין דיסיזשאַנז, און ינשורינג אַז די דערקלערונגען איר פּלאַן גלייך אַדרעס פאַקטיש באַניצער פֿראגן און קאַנסערנז, אלא ווי נאָר פאָרשלאָגן טעכניש דעטאַילס פֿאַר זייער אייגענע צוליב. XAI פֿאַר טיף ריזאַנינג אַגענץ עטלעכע פון די נואַסט אַי סיסטעמען, באקאנט ווי טיף ריזאַנינג אגענטן, פּראָדוצירן אַ יקספּליסאַט "קייט פון געדאַנק" פֿאַר יעדער קאָמפּלעקס אַרבעט. זיי ציטירן נישט בלויז מקורים; זיי ווייַזן די לאַדזשיקאַל, שריט-דורך-שריט וועג זיי גענומען צו דערגרייכן אַ מסקנא. כאָטש די דורכזעיקייַט גיט ווערטפול קאָנטעקסט, אַ שפּיל-דורך-שפּיל וואָס ספּאַנס עטלעכע פּאַראַגראַפס קענען פילן אָוווערוועלמינג פֿאַר אַ באַניצער פשוט טריינג צו פאַרענדיקן אַ אַרבעט. די פּרינסאַפּאַלז פון XAI, ספּעציעל די גאָלדילאָקקס זאָנע פון דערקלערונג, אַפּלייז גלייך דאָ. מיר קענען קערייט די נסיעה, ניצן פּראָגרעסיוו אַנטפּלעקונג צו ווייַזן בלויז די לעצט מסקנא און די מערסט וויכטיק שריט אין דעם געדאַנק פּראָצעס ערשטער. יוזערז קענען דעריבער אַפּט אין צו זען די פול, דיטיילד, מאַלטי-שריט ריזאַנינג ווען זיי דאַרפֿן צו טאָפּל טשעק די לאָגיק אָדער געפֿינען אַ ספּעציפיש פאַקט. דער צוגאַנג רעספּעקט באַניצער ופמערקזאַמקייט בשעת פּראַזערווינג די פול דורכזעיקייַט פון די אַגענט. ווייַטער סטעפּס: ימפּאַוערינג דיין XAI דזשאָורניי עקספּלאַינאַביליטי איז אַ פונדאַמענטאַל זייַל פֿאַר בנין טראַסטווערדי און עפעקטיוו אַי פּראָדוקטן. פֿאַר די אַוואַנסירטע פּראַקטישנער וואָס זוכן צו פירן דעם ענדערונג אין זייער אָרגאַניזאַציע, די נסיעה יקסטענדז ווייַטער פון פּלאַן פּאַטערנז אין אַדוואַקאַסי און קעסיידערדיק לערנען. צו דיפּאַן דיין פארשטאנד און פּראַקטיש אַפּלאַקיישאַן, באַטראַכטן ויספאָרשן רעסורסן ווי די AI Explainability 360 (AIX360) מכשירים פון IBM Research אָדער Google's What-If Tool, וואָס פאָרשלאָגן ינטעראַקטיוו וועגן צו ויספאָרשן מאָדעל נאַטור און דערקלערונגען. ענגיידזשינג מיט קהילות ווי די פאַראַנטוואָרטלעך אַי פאָרום אָדער ספּעציפיש פאָרשונג גרופּעס פאָוקיסט אויף מענטש-סענטערד אַי קענען צושטעלן ינוואַליאַבאַל ינסייץ און מיטאַרבעט אַפּערטונאַטיז. צום סוף, זיין אַן אַדוואָקאַט פֿאַר XAI אין דיין אייגענע אָרגאַניזאַציע.ראַם יקספּליינינגאַביליטי ווי אַ סטראַטידזשיק ינוועסמאַנט. באַטראַכטן אַ קורץ פּעך צו דיין פירערשאַפט אָדער קרייַז-פאַנגקשאַנאַל טימז: "דורך ינוועסטינג אין XAI, מיר וועלן גיין ווייַטער פון בויען צוטרוי; מיר וועט פאַרגיכערן באַניצער אַדאַפּשאַן, רעדוצירן שטיצן קאָס דורך ימפּאַוערינג יוזערז מיט פארשטאנד, און פאַרמינערן באַטייטיק עטישע און רעגולאַטאָרי ריסקס דורך ויסשטעלן פּאָטענציעל בייאַסיז. דאָס איז גוט פּלאַן און קלוג געשעפט."
דיין קול, גראָונדעד אין פּראַקטיש פארשטאנד, איז קריטיש אין ברענגען אַי אויס פון די שוואַרץ קעסטל און אין אַ קאַלאַבערייטיוו שוטפעס מיט יוזערז.
