আমার শেষ অংশে, আমরা একটি মৌলিক সত্য প্রতিষ্ঠা করেছি: ব্যবহারকারীদের AI গ্রহণ এবং নির্ভর করার জন্য, তাদের অবশ্যই এটি বিশ্বাস করতে হবে। আমরা বিশ্বাস একটি বহুমুখী গঠনের কথা বলেছি, যা একটি AI এর ক্ষমতা, উপকারিতা, সততা এবং অনুমানযোগ্যতার উপলব্ধির উপর নির্মিত। কিন্তু কী হবে যখন একটি AI, তার নীরব, অ্যালগরিদমিক জ্ঞানে, এমন একটি সিদ্ধান্ত নেয় যা একজন ব্যবহারকারীকে বিভ্রান্ত, হতাশ বা এমনকি আহত করে? একটি বন্ধকী আবেদন প্রত্যাখ্যান করা হয়, একটি প্রিয় গান হঠাৎ একটি প্লেলিস্ট থেকে অনুপস্থিত হয়, এবং একটি যোগ্য জীবনবৃত্তান্ত একজন মানুষ এটি দেখার আগেই প্রত্যাখ্যান করা হয়। এই মুহুর্তে, সামর্থ্য এবং ভবিষ্যদ্বাণী ছিন্নভিন্ন হয়ে যায় এবং পরোপকারীতা একটি পৃথিবী দূরে অনুভব করে। আমাদের কথোপকথন এখন বিশ্বাসের কারণ থেকে কীভাবে স্বচ্ছতার দিকে বিকশিত হওয়া উচিত। ব্যাখ্যাযোগ্য AI (XAI) এর ক্ষেত্র, যা মানুষের কাছে AI আউটপুটগুলিকে বোধগম্য করার জন্য পদ্ধতিগুলি বিকাশের উপর দৃষ্টি নিবদ্ধ করে, এটিকে সমাধান করার জন্য আবির্ভূত হয়েছে, তবে এটি প্রায়শই ডেটা বিজ্ঞানীদের জন্য সম্পূর্ণরূপে প্রযুক্তিগত চ্যালেঞ্জ হিসাবে তৈরি করা হয়। আমি যুক্তি দিই যে AI এর উপর নির্ভরশীল পণ্যগুলির জন্য এটি একটি সমালোচনামূলক ডিজাইন চ্যালেঞ্জ। অ্যালগরিদমিক সিদ্ধান্ত গ্রহণ এবং মানুষের বোঝার মধ্যে ব্যবধান পূরণ করা UX পেশাদার হিসাবে আমাদের কাজ। এই নিবন্ধটি ব্যাখ্যাযোগ্যতার জন্য কীভাবে গবেষণা এবং ডিজাইন করা যায় সে সম্পর্কে ব্যবহারিক, কার্যকরী নির্দেশিকা প্রদান করে। আমরা বাজওয়ার্ডের বাইরে এবং মকআপগুলিতে চলে যাব, জটিল XAI ধারণাগুলিকে কংক্রিট ডিজাইনের প্যাটার্নে অনুবাদ করব যা আপনি আজ ব্যবহার করা শুরু করতে পারেন। ডি-মিস্টিফাইং এক্সএআই: ইউএক্স অনুশীলনকারীদের জন্য মূল ধারণা XAI ব্যবহারকারীর প্রশ্নের উত্তর দিচ্ছে: "কেন?" কেন আমাকে এই বিজ্ঞাপন দেখানো হল? কেন এই সিনেমা আমাকে সুপারিশ করা হয়? কেন আমার অনুরোধ প্রত্যাখ্যান করা হয়েছিল? AI একটি গণিত সমস্যার উপর তার কাজ দেখাচ্ছে হিসাবে এটি মনে করুন. এটি ছাড়া, আপনার কাছে কেবল একটি উত্তর আছে এবং আপনি এটি বিশ্বাসের সাথে নিতে বাধ্য হন। পদক্ষেপগুলি দেখানোর মধ্যে, আপনি বোঝা এবং বিশ্বাস তৈরি করেন। এছাড়াও আপনি আপনার কাজকে ডবল-চেক করার এবং এটির দ্বারা প্রভাবিত করা মানুষের দ্বারা যাচাই করার অনুমতি দেন। বৈশিষ্ট্যের গুরুত্ব এবং কাউন্টারফ্যাকচুয়াল AI এর সাথে কী ঘটছে তা স্পষ্ট করতে বা ব্যাখ্যা করতে আমরা ব্যবহার করতে পারি এমন অনেকগুলি কৌশল রয়েছে। যদিও পদ্ধতিগুলি একটি সিদ্ধান্তের গাছের সম্পূর্ণ যুক্তি প্রদান থেকে শুরু করে একটি আউটপুটের প্রাকৃতিক ভাষার সারাংশ তৈরি করে, UX অনুশীলনকারীরা একটি অভিজ্ঞতার সাথে পরিচয় করিয়ে দিতে পারে এমন দুটি সবচেয়ে ব্যবহারিক এবং প্রভাবশালী তথ্য হল বৈশিষ্ট্যের গুরুত্ব (চিত্র 1) এবং কাউন্টারফ্যাকচুয়াল। এগুলি প্রায়শই ব্যবহারকারীদের বোঝার জন্য সবচেয়ে সহজবোধ্য এবং ডিজাইনারদের বাস্তবায়নের জন্য সবচেয়ে কার্যকর।
বৈশিষ্ট্য গুরুত্ব এই ব্যাখ্যাযোগ্যতা পদ্ধতির উত্তর, "এআই বিবেচনা করা সবচেয়ে গুরুত্বপূর্ণ বিষয়গুলি কী ছিল?" এটি শীর্ষ 2-3 ভেরিয়েবলগুলি সনাক্ত করার বিষয়ে যা ফলাফলের উপর সবচেয়ে বেশি প্রভাব ফেলেছিল। এটি শিরোনাম, পুরো গল্প নয়। উদাহরণ: একটি AI কল্পনা করুন যা ভবিষ্যদ্বাণী করে যে একজন গ্রাহক মন্থন করবে কিনা (তাদের পরিষেবা বাতিল)। বৈশিষ্ট্যের গুরুত্ব প্রকাশ করতে পারে যে "গত মাসে সমর্থন কলের সংখ্যা" এবং "সাম্প্রতিক মূল্য বৃদ্ধি" একটি গ্রাহকের মন্থন করার সম্ভাবনা ছিল কিনা তা নির্ধারণের দুটি সবচেয়ে গুরুত্বপূর্ণ কারণ।
কাউন্টারফ্যাকচুয়াল এই শক্তিশালী পদ্ধতিটি উত্তর দেয়, "একটি ভিন্ন ফলাফল পেতে আমাকে কী পরিবর্তন করতে হবে?" এটি অত্যন্ত গুরুত্বপূর্ণ কারণ এটি ব্যবহারকারীদের এজেন্সির অনুভূতি দেয়। এটি একটি হতাশাজনক "না" কে একটি কার্যকরী "এখনও নয়" এ রূপান্তরিত করে। উদাহরণ: একটি লোন অ্যাপ্লিকেশান সিস্টেম কল্পনা করুন যা এআই ব্যবহার করে। একটি ব্যবহারকারী একটি ঋণ অস্বীকার করা হয়. শুধুমাত্র "আবেদন অস্বীকার করা হয়েছে" দেখার পরিবর্তে একটি পাল্টা বাস্তব ব্যাখ্যাও শেয়ার করবে, "যদি আপনার ক্রেডিট স্কোর 50 পয়েন্ট বেশি হতো, অথবা যদি আপনার ঋণ থেকে আয়ের অনুপাত 10% কম হতো, তাহলে আপনার লোন অনুমোদিত হয়ে যেত।" এটি সারাকে স্পষ্ট, কার্যকরী পদক্ষেপ দেয় যে সে ভবিষ্যতে ঋণ পেতে পারে।
ব্যাখ্যাটি উন্নত করতে মডেল ডেটা ব্যবহার করা যদিও প্রযুক্তিগত বৈশিষ্ট্যগুলি প্রায়শই ডেটা বিজ্ঞানীদের দ্বারা পরিচালনা করা হয়, তবে এটি UX অনুশীলনকারীদের জন্য এটি জানার জন্য সহায়ক যে LIME (স্থানীয় ব্যাখ্যাযোগ্য মডেল-অজ্ঞেয়মূলক ব্যাখ্যা) এর মতো সরঞ্জামগুলি যা স্থানীয়ভাবে মডেলের আনুমানিক অনুমান করে পৃথক ভবিষ্যদ্বাণী ব্যাখ্যা করে এবং SHAP (শ্যাপলি অ্যাডেটিভ ব্যাখ্যা) যা ব্যবহার করে গেম থিওরির সাধারণ পদ্ধতির ব্যাখ্যা করার জন্য এই মেশিনগুলিকে ব্যাখ্যা করতে ব্যবহৃত হয়। জটিল মডেল থেকে "কেন" অন্তর্দৃষ্টি। প্রদত্ত ফলাফলের জন্য কোন ইনপুটগুলি সবচেয়ে বেশি প্রভাবশালী ছিল তা দেখানোর জন্য এই লাইব্রেরিগুলি মূলত একটি AI-এর সিদ্ধান্ত ভেঙে দিতে সহায়তা করে। সঠিকভাবে সম্পন্ন হলে, একটি AI টুলের সিদ্ধান্তের অন্তর্নিহিত ডেটা একটি শক্তিশালী গল্প বলার জন্য ব্যবহার করা যেতে পারে। আসুন বৈশিষ্ট্যের গুরুত্ব এবং কাউন্টারফ্যাকচুয়ালগুলির মাধ্যমে চলুন এবং দেখাই যে কীভাবে সিদ্ধান্তের পিছনে থাকা ডেটা বিজ্ঞান ব্যবহারকারীর অভিজ্ঞতা বাড়ানোর জন্য ব্যবহার করা যেতে পারে। এখন চলুনস্থানীয় ব্যাখ্যা (যেমন, LIME) ডেটার সহায়তায় কভার বৈশিষ্ট্যের গুরুত্ব: এই পদ্ধতির উত্তর, "কেন এআই আমার জন্য এই নির্দিষ্ট সুপারিশ করেছে, এখনই?" মডেলটি কীভাবে কাজ করে তার একটি সাধারণ ব্যাখ্যার পরিবর্তে, এটি একটি একক, নির্দিষ্ট উদাহরণের জন্য একটি কেন্দ্রীভূত কারণ প্রদান করে। এটা ব্যক্তিগত এবং প্রাসঙ্গিক। উদাহরণ: স্পটিফাই-এর মতো একটি এআই-চালিত সঙ্গীত সুপারিশ সিস্টেম কল্পনা করুন। একটি স্থানীয় ব্যাখ্যা উত্তর দেবে, "কেন সিস্টেম আপনাকে অ্যাডেলের এই নির্দিষ্ট গানটি এখনই সুপারিশ করেছে?" ব্যাখ্যাটি হতে পারে: "কারণ আপনি সম্প্রতি মহিলা কণ্ঠশিল্পীদের বেশ কয়েকটি আবেগপূর্ণ ব্যালাড এবং গান শুনেছেন।"
পরিশেষে, আসুন মূল্য-ভিত্তিক ব্যাখ্যার অন্তর্ভুক্তি কভার করি (উদাহরণস্বরূপ শ্যাপলি অ্যাডেটিভ এক্সপ্ল্যানেশনস (SHAP) ডেটা একটি সিদ্ধান্তের ব্যাখ্যার জন্য: এটি বৈশিষ্ট্যের গুরুত্বের একটি আরও সংক্ষিপ্ত সংস্করণ যা উত্তর দেয়, "কীভাবে প্রতিটি ফ্যাক্টর সিদ্ধান্তটিকে এক বা অন্য দিকে ঠেলে দিয়েছে?" এটি কী গুরুত্বপূর্ণ ছিল তা কল্পনা করতে সাহায্য করে, এবং এর প্রভাব কি নেতিবাচক ছিল। উদাহরণ: কল্পনা করুন যে একটি ব্যাঙ্ক একটি AI মডেল ব্যবহার করে সিদ্ধান্ত নিতে পারে যে ঋণের আবেদন অনুমোদন করা হবে কিনা।
বৈশিষ্ট্যের গুরুত্ব: মডেল আউটপুট দেখাতে পারে যে আবেদনকারীর ক্রেডিট স্কোর, আয়, এবং ঋণ থেকে আয়ের অনুপাত তার সিদ্ধান্তের সবচেয়ে গুরুত্বপূর্ণ কারণ ছিল। এই গুরুত্বপূর্ণ কি উত্তর. মান-ভিত্তিক ব্যাখ্যা (SHAP) সহ বৈশিষ্ট্যের গুরুত্ব: SHAP মানগুলি মডেলের উপাদানগুলির উপর ভিত্তি করে বৈশিষ্ট্যকে আরও গুরুত্ব দেবে।
একটি অনুমোদিত ঋণের জন্য, SHAP দেখাতে পারে যে একটি উচ্চ ক্রেডিট স্কোর উল্লেখযোগ্যভাবে অনুমোদনের দিকে (ইতিবাচক প্রভাব) সিদ্ধান্তকে ঠেলে দিয়েছে, যেখানে গড় ঋণ-থেকে-আয় অনুপাতের তুলনায় সামান্য বেশি-আয়ের অনুপাত এটিকে কিছুটা দূরে সরিয়ে দিয়েছে (নেতিবাচক প্রভাব), কিন্তু ঋণ অস্বীকার করার জন্য যথেষ্ট নয়। অস্বীকৃত ঋণের জন্য, SHAP প্রকাশ করতে পারে যে একটি নিম্ন আয় এবং সাম্প্রতিক ক্রেডিট অনুসন্ধানের একটি উচ্চ সংখ্যক ক্রেডিট স্কোর শালীন হলেও, অস্বীকার করার সিদ্ধান্তকে দৃঢ়ভাবে ঠেলে দিয়েছে।
এটি লোন অফিসারকে যা বিবেচনা করা হয়েছিল তার বাইরে আবেদনকারীকে ব্যাখ্যা করতে সাহায্য করে যে প্রতিটি ফ্যাক্টর কীভাবে চূড়ান্ত "হ্যাঁ" বা "না" সিদ্ধান্তে অবদান রেখেছে। এটি স্বীকার করা গুরুত্বপূর্ণ যে ভাল ব্যাখ্যা প্রদানের ক্ষমতা প্রায়শই বিকাশ চক্রের অনেক আগে শুরু হয়। ডেটা বিজ্ঞানী এবং প্রকৌশলীরা ইচ্ছাকৃতভাবে মডেল এবং ডেটা পাইপলাইনগুলিকে এমনভাবে গঠন করে একটি গুরুত্বপূর্ণ ভূমিকা পালন করে যা অন্তর্নিহিতভাবে ব্যাখ্যাযোগ্যতাকে সমর্থন করে, বরং এটিকে পরবর্তী চিন্তাভাবনা হিসাবে বোল্ট করার চেষ্টা করার পরিবর্তে। গবেষণা এবং ডিজাইন দলগুলি ডেটা বিজ্ঞানী এবং প্রকৌশলীদের সাথে ব্যবহারকারীর বোঝার প্রয়োজনীয়তা সম্পর্কে প্রাথমিক কথোপকথন শুরু করে, ব্যাখ্যাযোগ্যতার মেট্রিক্সের বিকাশে অবদান রেখে এবং সহযোগিতামূলকভাবে প্রোটোটাইপিং ব্যাখ্যাগুলি সঠিক এবং ব্যবহারকারী-বান্ধব উভয়ই নিশ্চিত করার জন্য এটিকে উত্সাহিত করতে পারে। XAI এবং নৈতিক এআই: পক্ষপাত ও দায়িত্ব আনপ্যাক করা বিশ্বাস গড়ে তোলার বাইরে, XAI AI* এর গভীর নৈতিক প্রভাব মোকাবেলায় গুরুত্বপূর্ণ ভূমিকা পালন করে, বিশেষ করে অ্যালগরিদমিক পক্ষপাতের বিষয়ে। ব্যাখ্যাযোগ্যতা কৌশল, যেমন SHAP মানগুলি বিশ্লেষণ করা, প্রকাশ করতে পারে যদি কোনও মডেলের সিদ্ধান্তগুলি জাতি, লিঙ্গ, বা আর্থ-সামাজিক অবস্থার মতো সংবেদনশীল বৈশিষ্ট্যগুলির দ্বারা অসামঞ্জস্যপূর্ণভাবে প্রভাবিত হয়, এমনকি যদি এই কারণগুলি সরাসরি ইনপুট হিসাবে স্পষ্টভাবে ব্যবহার না করা হয়। উদাহরণস্বরূপ, যদি একটি ঋণ অনুমোদনের মডেল ধারাবাহিকভাবে একটি নির্দিষ্ট জনসংখ্যার থেকে আবেদনকারীদের নেতিবাচক SHAP মান নির্ধারণ করে, এটি একটি সম্ভাব্য পক্ষপাতের সংকেত দেয় যার জন্য তদন্তের প্রয়োজন হয়, দলগুলিকে এই ধরনের অন্যায্য ফলাফলগুলিকে প্রশমিত করতে এবং প্রশমিত করার ক্ষমতা দেয়৷ XAI-এর শক্তিও "ব্যাখ্যাযোগ্যতা ধোয়ার" সম্ভাবনা নিয়ে আসে। ঠিক যেমন "গ্রিনওয়াশিং" পরিবেশগত অনুশীলন সম্পর্কে গ্রাহকদের বিভ্রান্ত করে, ব্যাখ্যাযোগ্যতা ধোয়া ঘটতে পারে যখন ব্যাখ্যাগুলি আলোকিত, সমস্যাযুক্ত অ্যালগরিদমিক আচরণ বা অন্তর্নিহিত পক্ষপাতের পরিবর্তে অস্পষ্ট করার জন্য ডিজাইন করা হয়। এটি অত্যধিক সরল ব্যাখ্যা হিসাবে উদ্ভাসিত হতে পারে যা সমালোচনামূলক প্রভাবক কারণগুলিকে বাদ দেয়, অথবা এমন ব্যাখ্যা যা কৌশলগতভাবে ফলাফলগুলিকে সত্যিকারের তুলনায় আরও নিরপেক্ষ বা ন্যায্য দেখায়। এটি সত্যিকারের স্বচ্ছ এবং যাচাইযোগ্য ব্যাখ্যাগুলি ডিজাইন করার জন্য UX অনুশীলনকারীদের নৈতিক দায়িত্বের উপর আন্ডারস্কোর করে। UX পেশাদাররা, ডেটা সায়েন্টিস্ট এবং নৈতিকতাবিদদের সাথে সহযোগিতায়, একটি সিদ্ধান্তের কারণ এবং অন্তর্নিহিত AI মডেলের সীমাবদ্ধতা এবং সম্ভাব্য পক্ষপাত সম্পর্কে যোগাযোগ করার জন্য একটি গুরুত্বপূর্ণ দায়িত্ব পালন করে। এর মধ্যে AI নির্ভুলতা সম্পর্কে বাস্তবসম্মত ব্যবহারকারীর প্রত্যাশা সেট করা, মডেলটি কোথায় কম নির্ভরযোগ্য হতে পারে তা শনাক্ত করা এবং ব্যবহারকারীরা যখন অন্যায় বা ভুল ফলাফলগুলি উপলব্ধি করে তখন অবলম্বন বা প্রতিক্রিয়ার জন্য স্পষ্ট চ্যানেল সরবরাহ করা জড়িত। সক্রিয়ভাবে এই সম্বোধননৈতিক মাত্রা আমাদেরকে এমন AI সিস্টেম তৈরি করার অনুমতি দেবে যা সত্যই ন্যায়সঙ্গত এবং বিশ্বস্ত। পদ্ধতি থেকে মকআপ পর্যন্ত: ব্যবহারিক XAI ডিজাইন প্যাটার্নস ধারণাগুলি জানা এক জিনিস; তাদের নকশা অন্য. এখানে আমরা কিভাবে এই XAI পদ্ধতিগুলিকে স্বজ্ঞাত ডিজাইন প্যাটার্নে অনুবাদ করতে পারি। প্যাটার্ন 1: "কারণ" বিবৃতি (বৈশিষ্ট্যের গুরুত্বের জন্য) এটি সবচেয়ে সহজ এবং প্রায়ই সবচেয়ে কার্যকর প্যাটার্ন। এটি একটি সরাসরি, সরল-ভাষার বিবৃতি যা একটি AI-এর কর্মের প্রাথমিক কারণ প্রকাশ করে।
হিউরিস্টিক: সরাসরি এবং সংক্ষিপ্ত হোন। একক সবচেয়ে প্রভাবশালী কারণ দিয়ে নেতৃত্ব দিন। যেকোন মূল্যে শব্দবাজি এড়িয়ে চলুন।
উদাহরণ: একটি সঙ্গীত স্ট্রিমিং পরিষেবা কল্পনা করুন। শুধুমাত্র একটি "ডিসকভার উইকলি" প্লেলিস্ট উপস্থাপন করার পরিবর্তে, আপনি মাইক্রোকপির একটি ছোট লাইন যোগ করুন৷ গানের সুপারিশ: "ভেলভেট মর্নিং" কারণ আপনি "দ্য ফাজ" এবং অন্যান্য সাইকেডেলিক রক শোনেন৷
প্যাটার্ন 2: "হোয়াট-ইফ" ইন্টারেক্টিভ (কাউন্টারফ্যাকচুয়ালদের জন্য) কাউন্টারফ্যাকচুয়ালগুলি সহজাতভাবে ক্ষমতায়ন সম্পর্কে। তাদের প্রতিনিধিত্ব করার সর্বোত্তম উপায় হল ব্যবহারকারীদের নিজেদের সম্ভাবনাগুলি অন্বেষণ করার জন্য ইন্টারেক্টিভ টুল দেওয়া। এটি আর্থিক, স্বাস্থ্য বা অন্যান্য লক্ষ্য-ভিত্তিক অ্যাপ্লিকেশনের জন্য উপযুক্ত।
হিউরিস্টিক: ব্যাখ্যাগুলিকে ইন্টারেক্টিভ এবং ক্ষমতায়ন করুন। ব্যবহারকারীদের তাদের পছন্দের কারণ এবং প্রভাব দেখতে দিন।
উদাহরণ: একটি ঋণ আবেদন ইন্টারফেস. অস্বীকৃতির পরে, একটি শেষ প্রান্তের পরিবর্তে, ব্যবহারকারী বিভিন্ন পরিস্থিতি (কি-ইফস) কীভাবে কার্যকর হতে পারে তা নির্ধারণ করার জন্য একটি সরঞ্জাম পায় (চিত্র 1 দেখুন)।
প্যাটার্ন 3: হাইলাইট রিল (স্থানীয় ব্যাখ্যার জন্য) যখন একটি AI ব্যবহারকারীর বিষয়বস্তুর উপর একটি ক্রিয়া সম্পাদন করে (যেমন একটি নথির সারসংক্ষেপ বা ফটোতে মুখ সনাক্ত করা), ব্যাখ্যাটি দৃশ্যত উৎসের সাথে লিঙ্ক করা উচিত।
হিউরিস্টিক: হাইলাইটিং, আউটলাইন বা টীকাগুলির মতো চাক্ষুষ সংকেতগুলি ব্যবহার করুন যাতে এটি ব্যাখ্যা করছে ইন্টারফেস উপাদানটির সাথে ব্যাখ্যাটিকে সরাসরি সংযুক্ত করতে।
উদাহরণ: একটি AI টুল যা দীর্ঘ নিবন্ধের সংক্ষিপ্তসার করে। AI-উত্পাদিত সারাংশ পয়েন্ট:প্রাথমিক গবেষণায় টেকসই পণ্যের জন্য একটি বাজারের ব্যবধান দেখানো হয়েছে। নথিতে উৎস: “...বাজারের প্রবণতাগুলির আমাদের Q2 বিশ্লেষণ চূড়ান্তভাবে প্রমাণ করেছে যে কোনও প্রধান প্রতিযোগী কার্যকরভাবে পরিবেশন করতে পারেনি, ইকো-সংরক্ষণযোগ্য বাজারের জন্য একটি উল্লেখযোগ্য পুনরুদ্ধার করতে পারে। পণ্য..."
প্যাটার্ন 4: পুশ-এন্ড-পুল ভিজ্যুয়াল (মান-ভিত্তিক ব্যাখ্যার জন্য) আরও জটিল সিদ্ধান্তের জন্য, ব্যবহারকারীদের ফ্যাক্টরগুলির ইন্টারপ্লে বোঝার প্রয়োজন হতে পারে। সাধারণ ডেটা ভিজ্যুয়ালাইজেশন অপ্রতিরোধ্য না হয়ে এটি পরিষ্কার করতে পারে।
হিউরিস্টিক: একটি সিদ্ধান্তকে ইতিবাচক এবং নেতিবাচকভাবে প্রভাবিত করে এমন কারণগুলি দেখানোর জন্য সাধারণ, রঙ-কোডেড ডেটা ভিজ্যুয়ালাইজেশন (যেমন বার চার্ট) ব্যবহার করুন।
উদাহরণ: একটি AI চাকরির জন্য একজন প্রার্থীর প্রোফাইল স্ক্রীনিং করছে। কেন এই প্রার্থীর 75% মিল: স্কোর বাড়ার কারণগুলি: 5+ বছর UX গবেষণার অভিজ্ঞতা PythonFactors স্কোরকে নিচে ঠেলে: B2B SaaS-এর অভিজ্ঞতা নেই
আপনার AI পণ্যের UX-এ এই ডিজাইন প্যাটার্নগুলি শেখা এবং ব্যবহার করা ব্যাখ্যাযোগ্যতা বাড়াতে সাহায্য করবে। আপনি অতিরিক্ত কৌশলগুলিও ব্যবহার করতে পারেন যা আমি এখানে গভীরভাবে কভার করছি না। এর মধ্যে নিম্নলিখিতগুলি অন্তর্ভুক্ত রয়েছে:
প্রাকৃতিক ভাষার ব্যাখ্যা: একটি AI এর প্রযুক্তিগত আউটপুটকে সহজ, কথোপকথনমূলক মানব ভাষায় অনুবাদ করা যা অ-বিশেষজ্ঞরা সহজেই বুঝতে পারে। প্রাসঙ্গিক ব্যাখ্যা: নির্দিষ্ট মুহূর্ত এবং অবস্থানে একটি AI এর আউটপুটের জন্য যুক্তি প্রদান করা, এটি ব্যবহারকারীর কাজের সাথে সবচেয়ে প্রাসঙ্গিক। প্রাসঙ্গিক ভিজ্যুয়ালাইজেশন: চার্ট, গ্রাফ বা হিটম্যাপ ব্যবহার করে একটি AI-এর সিদ্ধান্ত গ্রহণের প্রক্রিয়াকে দৃশ্যমানভাবে উপস্থাপন করা, জটিল ডেটা স্বজ্ঞাত এবং ব্যবহারকারীদের জন্য সহজে উপলব্ধি করা।
সামনের প্রান্তের জন্য একটি নোট: এই ব্যাখ্যাযোগ্য আউটপুটগুলিকে নিরবিচ্ছিন্ন ব্যবহারকারীর অভিজ্ঞতায় অনুবাদ করা তার নিজস্ব প্রযুক্তিগত বিবেচনার সেটও উপস্থাপন করে। ফ্রন্ট-এন্ড ডেভেলপাররা প্রায়শই এপিআই ডিজাইনের সাথে দক্ষতার সাথে ব্যাখ্যা ডেটা পুনরুদ্ধার করে এবং কার্যক্ষমতার প্রভাব (যেমন প্রতিটি ব্যবহারকারীর ইন্টারঅ্যাকশনের জন্য রিয়েল-টাইম জেনারেশনের ব্যাখ্যা) বিলম্ব এড়াতে সতর্ক পরিকল্পনার প্রয়োজন। বাস্তব জগতের কিছু উদাহরণ ইউপিএস ক্যাপিটালের ডেলিভারি ডিফেন্স একটি প্যাকেজ চুরি হওয়ার সম্ভাবনা ভবিষ্যদ্বাণী করতে ঠিকানাগুলিতে একটি "ডেলিভারি কনফিডেন্স স্কোর" বরাদ্দ করতে UPS AI ব্যবহার করে। তাদের DeliveryDefense সফ্টওয়্যার অবস্থান, ক্ষতি ফ্রিকোয়েন্সি, এবং অন্যান্য কারণের ঐতিহাসিক তথ্য বিশ্লেষণ করে। যদি একটি ঠিকানার স্কোর কম থাকে, তবে সিস্টেমটি সক্রিয়ভাবে প্যাকেজটিকে একটি নিরাপদ UPS অ্যাক্সেস পয়েন্টে পুনঃরুট করতে পারে, সিদ্ধান্তের জন্য একটি ব্যাখ্যা প্রদান করে (যেমন, "চুরির ইতিহাসের কারণে প্যাকেজটি একটি নিরাপদ স্থানে পুনঃরুট করা হয়েছে")। এই সিস্টেমটি দেখায় কিভাবে XAI কে ব্যবহার করা যেতে পারে ঝুঁকি প্রশমন এবং এর মাধ্যমে গ্রাহকের আস্থা তৈরির জন্যস্বচ্ছতা স্বায়ত্তশাসিত যানবাহন ভবিষ্যতের এই যানবাহনগুলিকে তাদের যানবাহনগুলিকে নিরাপদ, ব্যাখ্যাযোগ্য সিদ্ধান্ত নিতে সাহায্য করার জন্য কার্যকরভাবে XAI ব্যবহার করতে হবে। যখন একটি স্ব-চালিত গাড়ি হঠাৎ ব্রেক করে, সিস্টেমটি তার ক্রিয়াকলাপের জন্য একটি বাস্তব-সময়ের ব্যাখ্যা প্রদান করতে পারে, উদাহরণস্বরূপ, রাস্তার মধ্যে কোন পথচারীকে শনাক্ত করে৷ এটি কেবল যাত্রীদের স্বাচ্ছন্দ্য এবং আস্থার জন্যই গুরুত্বপূর্ণ নয় বরং এআই সিস্টেমের নিরাপত্তা এবং জবাবদিহিতা প্রমাণ করার জন্য এটি একটি নিয়ন্ত্রক প্রয়োজনীয়তা। আইবিএম ওয়াটসন স্বাস্থ্য (এবং এর চ্যালেঞ্জ) যদিও প্রায়শই স্বাস্থ্যসেবাতে AI-এর একটি সাধারণ উদাহরণ হিসাবে উল্লেখ করা হয়, এটি XAI-এর গুরুত্বের জন্য একটি মূল্যবান কেস স্টাডিও। এর ওয়াটসন ফর অনকোলজি প্রকল্পের ব্যর্থতা হাইলাইট করে যে কী ভুল হতে পারে যখন ব্যাখ্যাগুলি পরিষ্কার না হয়, বা যখন অন্তর্নিহিত ডেটা পক্ষপাতদুষ্ট হয় বা স্থানীয়করণ না হয়। সিস্টেমের সুপারিশগুলি কখনও কখনও স্থানীয় ক্লিনিকাল অনুশীলনের সাথে অসঙ্গত ছিল কারণ সেগুলি মার্কিন-কেন্দ্রিক নির্দেশিকাগুলির উপর ভিত্তি করে ছিল। এটি শক্তিশালী, প্রসঙ্গ-সচেতন ব্যাখ্যাযোগ্যতার প্রয়োজনীয়তার বিষয়ে একটি সতর্কতামূলক গল্প হিসাবে কাজ করে। ইউএক্স গবেষকের ভূমিকা: ব্যাখ্যা এবং যাচাইকরণ আমাদের নকশা সমাধানগুলি তখনই কার্যকরী যদি তারা সঠিক সময়ে সঠিক ব্যবহারকারীর প্রশ্নের সমাধান করে। একটি ব্যাখ্যা যা ব্যবহারকারীর কাছে নেই এমন প্রশ্নের উত্তর দেয় তা হল শুধু শব্দ। এখানেই UX গবেষণা XAI কৌশলে গুরুত্বপূর্ণ সংযোগকারী টিস্যুতে পরিণত হয়, এটি নিশ্চিত করে যে আমরা আমাদের ব্যবহারকারীদের কাছে আসলে কী এবং কীভাবে গুরুত্বপূর্ণ তা ব্যাখ্যা করি। গবেষকের ভূমিকা দ্বিগুণ: প্রথমত, ব্যাখ্যাগুলি কোথায় প্রয়োজন তা চিহ্নিত করে কৌশলটি জানাতে এবং দ্বিতীয়ত, সেই ব্যাখ্যাগুলি প্রদান করে এমন ডিজাইনগুলিকে যাচাই করা৷ XAI কৌশল অবহিত করা (কী ব্যাখ্যা করতে হবে) আমরা একটি একক ব্যাখ্যা ডিজাইন করার আগে, আমাদের অবশ্যই AI সিস্টেমের ব্যবহারকারীর মানসিক মডেল বুঝতে হবে। তারা কি বিশ্বাস করে এটা করছে? তাদের বোঝাপড়া এবং সিস্টেমের বাস্তবতার মধ্যে ফাঁক কোথায়? এটি একটি ইউএক্স গবেষকের ভিত্তিমূলক কাজ। মানসিক মডেল ইন্টারভিউ: এআই সিস্টেমের ব্যবহারকারীর উপলব্ধি আনপ্যাক করা গভীর, আধা-গঠিত সাক্ষাত্কারের মাধ্যমে, ইউএক্স অনুশীলনকারীরা কীভাবে ব্যবহারকারীরা AI সিস্টেমগুলি উপলব্ধি করে এবং বোঝে সে সম্পর্কে অমূল্য অন্তর্দৃষ্টি অর্জন করতে পারে। এই সেশনগুলি ব্যবহারকারীদের আক্ষরিকভাবে আঁকতে বা তাদের অভ্যন্তরীণ "মানসিক মডেল" বর্ণনা করতে উত্সাহিত করার জন্য ডিজাইন করা হয়েছে যে তারা কীভাবে এআই কাজ করে বলে বিশ্বাস করে। এতে প্রায়শই খোলামেলা প্রশ্ন জিজ্ঞাসা করা জড়িত থাকে যা ব্যবহারকারীদের সিস্টেমের যুক্তি, এর ইনপুট এবং এর আউটপুট এবং সেইসাথে এই উপাদানগুলির মধ্যে সম্পর্ক ব্যাখ্যা করতে অনুরোধ করে। এই সাক্ষাত্কারগুলি শক্তিশালী কারণ তারা প্রায়শই গভীর ভুল ধারণা এবং অনুমান প্রকাশ করে যা ব্যবহারকারীরা AI সম্পর্কে ধরে রাখে। উদাহরণস্বরূপ, একটি সুপারিশ ইঞ্জিনের সাথে যোগাযোগকারী একজন ব্যবহারকারী আত্মবিশ্বাসের সাথে বলতে পারে যে সিস্টেমটি সম্পূর্ণরূপে তাদের অতীত দেখার ইতিহাসের উপর ভিত্তি করে। তারা বুঝতে পারে না যে অ্যালগরিদম অন্যান্য কারণের একটি বৃহৎ অংশকেও অন্তর্ভুক্ত করে, যেমন দিনের সময় তারা ব্রাউজ করছে, প্ল্যাটফর্ম জুড়ে বর্তমান প্রবণতা আইটেমগুলি, এমনকি অনুরূপ ব্যবহারকারীদের দেখার অভ্যাস। একজন ব্যবহারকারীর মানসিক মডেল এবং প্রকৃত অন্তর্নিহিত AI যুক্তির মধ্যে এই ব্যবধান উন্মোচন করা সমালোচনামূলকভাবে গুরুত্বপূর্ণ। এটি আমাদের সঠিকভাবে বলে যে ব্যবহারকারীদের সিস্টেমের আরও সঠিক এবং শক্তিশালী মানসিক মডেল তৈরি করতে সহায়তা করার জন্য আমাদের সাথে যোগাযোগ করার জন্য আমাদের কী নির্দিষ্ট তথ্য প্রয়োজন। এটি, ঘুরে, আস্থা বৃদ্ধির একটি মৌলিক পদক্ষেপ। যখন ব্যবহারকারীরা বুঝতে পারে, এমনকি উচ্চ স্তরেও, কীভাবে একটি এআই তার সিদ্ধান্তে বা সুপারিশে পৌঁছায়, তখন তারা এর আউটপুটগুলিতে বিশ্বাস করার এবং এর কার্যকারিতার উপর নির্ভর করার সম্ভাবনা বেশি থাকে। এআই জার্নি ম্যাপিং: ব্যবহারকারীর বিশ্বাস এবং ব্যাখ্যাযোগ্যতার মধ্যে একটি গভীর ডুব একটি AI-চালিত বৈশিষ্ট্যের সাথে ব্যবহারকারীর যাত্রাকে সতর্কতার সাথে ম্যাপ করার মাধ্যমে, আমরা সঠিক মুহুর্তগুলিতে অমূল্য অন্তর্দৃষ্টি লাভ করি যেখানে বিভ্রান্তি, হতাশা বা এমনকি গভীর অবিশ্বাসের উদ্ভব হয়। এটি সমালোচনামূলক মোড়কে উন্মোচন করে যেখানে ব্যবহারকারীর মানসিক মডেল কীভাবে এআই পরিচালনা করে তার বাস্তব আচরণের সাথে সংঘর্ষ হয়। একটি মিউজিক স্ট্রিমিং পরিষেবা বিবেচনা করুন: যখন কোনও প্লেলিস্টের সুপারিশ "এলোমেলো" মনে হয়, তাদের অতীত শোনার অভ্যাস বা বিবৃত পছন্দগুলির সাথে কোনও স্পষ্ট সংযোগের অভাব হলে কি ব্যবহারকারীর বিশ্বাস কমে যায়? এই অনুভূত এলোমেলোতা ব্যবহারকারীর বুদ্ধিমান কিউরেশনের প্রত্যাশার জন্য একটি সরাসরি চ্যালেঞ্জ এবং AI তাদের স্বাদ বুঝতে পারে এমন অন্তর্নিহিত প্রতিশ্রুতির লঙ্ঘন। একইভাবে, একটি ফটো ম্যানেজমেন্ট অ্যাপ্লিকেশনে, ব্যবহারকারীরা কি উল্লেখযোগ্য হতাশা অনুভব করেন যখন একটি এআই ফটো-ট্যাগিং বৈশিষ্ট্য ক্রমাগতভাবে একটি লালিত পরিবারের সদস্যকে ভুল শনাক্ত করে? এই ত্রুটিটি একটি প্রযুক্তিগত ত্রুটির চেয়ে বেশি; এটি নির্ভুলতা, ব্যক্তিগতকরণ এবং এমনকি হৃদয়ে আঘাত করেমানসিক সংযোগ। এই ব্যথার বিন্দুগুলি হল প্রাণবন্ত সংকেত যা সঠিকভাবে নির্দেশ করে যেখানে একটি ভালভাবে স্থাপন করা, পরিষ্কার এবং সংক্ষিপ্ত ব্যাখ্যা প্রয়োজন। এই ধরনের ব্যাখ্যাগুলি গুরুত্বপূর্ণ মেরামত প্রক্রিয়া হিসাবে কাজ করে, বিশ্বাসের লঙ্ঘনকে সংশোধন করে যা, যদি সুরাহা না করা হয় তবে ব্যবহারকারীকে পরিত্যাগ করতে পারে। AI যাত্রা ম্যাপিং এর শক্তি একটি AI সিস্টেমের চূড়ান্ত আউটপুট ব্যাখ্যা করার বাইরে আমাদের সরানোর ক্ষমতার মধ্যে নিহিত। এআই কী তৈরি করেছে তা বোঝা গুরুত্বপূর্ণ, এটি প্রায়শই অপর্যাপ্ত। পরিবর্তে, এই প্রক্রিয়াটি জটিল মুহুর্তে প্রক্রিয়াটি ব্যাখ্যা করার দিকে মনোনিবেশ করতে বাধ্য করে। এর অর্থ ঠিকানা:
কেন একটি নির্দিষ্ট আউটপুট তৈরি হয়েছিল: এটি কি নির্দিষ্ট ইনপুট ডেটার কারণে হয়েছিল? একটি নির্দিষ্ট মডেল স্থাপত্য? এআই-এর সিদ্ধান্তকে কোন বিষয়গুলি প্রভাবিত করেছে: কিছু বৈশিষ্ট্য কি আরও বেশি ওজনযুক্ত ছিল? কীভাবে এআই তার উপসংহারে পৌঁছেছে: আমরা কি এর অভ্যন্তরীণ কাজের একটি সরলীকৃত, সাদৃশ্যপূর্ণ ব্যাখ্যা দিতে পারি? এআই কী অনুমান করেছে: ব্যবহারকারীর অভিপ্রায় বা ডেটা সম্পর্কে কি অন্তর্নিহিত বোঝাপড়া ছিল যা প্রকাশ করা দরকার? এআই-এর সীমাবদ্ধতাগুলি কী: এআই কী করতে পারে না, বা যেখানে এর যথার্থতা নড়বড়ে হতে পারে তা স্পষ্টভাবে যোগাযোগ করা বাস্তবসম্মত প্রত্যাশা তৈরি করে।
AI যাত্রা ম্যাপিং XAI-এর বিমূর্ত ধারণাটিকে UX অনুশীলনকারীদের জন্য একটি ব্যবহারিক, কর্মযোগ্য কাঠামোতে রূপান্তরিত করে। এটি আমাদেরকে ব্যাখ্যাযোগ্যতার তাত্ত্বিক আলোচনার বাইরে যেতে সক্ষম করে এবং পরিবর্তে সঠিক মুহূর্তগুলি চিহ্নিত করতে যেখানে ব্যবহারকারীর বিশ্বাস ঝুঁকির মধ্যে রয়েছে, শক্তিশালী, স্বচ্ছ, বোধগম্য এবং বিশ্বস্ত AI অভিজ্ঞতা তৈরি করার জন্য প্রয়োজনীয় অন্তর্দৃষ্টি প্রদান করে। শেষ পর্যন্ত, গবেষণা হল কিভাবে আমরা অজানাকে উন্মোচন করি। কেন একটি ঋণ অস্বীকার করা হয়েছে তা ব্যাখ্যা করার জন্য আপনার দল বিতর্ক করতে পারে, কিন্তু গবেষণায় প্রকাশ হতে পারে যে ব্যবহারকারীরা তাদের ডেটা প্রথম স্থানে কীভাবে ব্যবহার করা হয়েছিল তা বোঝার বিষয়ে অনেক বেশি উদ্বিগ্ন। গবেষণা ছাড়াই, আমরা কেবল অনুমান করছি যে আমাদের ব্যবহারকারীরা কী ভাবছেন৷ ডিজাইনে সহযোগিতা করা (আপনার এআই কীভাবে ব্যাখ্যা করবেন) গবেষণায় কী ব্যাখ্যা করতে হবে তা শনাক্ত করা হয়ে গেলে, ডিজাইনের সাথে সহযোগিতামূলক লুপ শুরু হয়। ডিজাইনাররা আমরা আগে আলোচনা করা প্যাটার্নগুলির প্রোটোটাইপ করতে পারেন - "কারণ" বিবৃতি, ইন্টারেক্টিভ স্লাইডারগুলি - এবং গবেষকরা সেই ডিজাইনগুলিকে ব্যবহারকারীদের সামনে রাখতে পারেন যে তারা ধরে রেখেছে কিনা। লক্ষ্যযুক্ত ব্যবহারযোগ্যতা এবং বোধগম্যতা পরীক্ষা: আমরা গবেষণা স্টাডি ডিজাইন করতে পারি যা বিশেষভাবে XAI উপাদানগুলি পরীক্ষা করে। আমরা শুধু জিজ্ঞাসা করি না, "এটি কি ব্যবহার করা সহজ?" আমরা জিজ্ঞাসা করি, "এটি দেখার পরে, আপনি কি আমাকে আপনার নিজের ভাষায় বলতে পারেন কেন সিস্টেমটি এই পণ্যটি সুপারিশ করেছে?" অথবা "আপনি একটি ভিন্ন ফলাফল পেতে পারেন কিনা তা দেখতে আপনি কি করবেন তা আমাকে দেখান।" এখানে লক্ষ্য হল ব্যবহারযোগ্যতার পাশাপাশি বোধগম্যতা এবং কর্মক্ষমতা পরিমাপ করা। ট্রাস্ট নিজেই পরিমাপ করা: ব্যাখ্যা দেখানোর আগে এবং পরে আমরা সাধারণ সমীক্ষা এবং রেটিং স্কেল ব্যবহার করতে পারি। উদাহরণস্বরূপ, আমরা 5-পয়েন্ট স্কেলে একজন ব্যবহারকারীকে জিজ্ঞাসা করতে পারি, "আপনি এই সুপারিশটি কতটা বিশ্বাস করেন?" তারা "কারণ" বিবৃতিটি দেখার আগে, এবং তারপরে তাদের পরে আবার জিজ্ঞাসা করুন। এটি আমাদের ব্যাখ্যা আসলে বিশ্বাসের উপর সুই স্থানান্তর করছে কিনা তার পরিমাণগত তথ্য প্রদান করে। এই প্রক্রিয়াটি একটি শক্তিশালী, পুনরাবৃত্তিমূলক লুপ তৈরি করে। গবেষণা ফলাফল প্রাথমিক নকশা অবহিত. তারপরে সেই নকশাটি পরীক্ষা করা হয়, এবং নতুন ফলাফলগুলি পরিমার্জনের জন্য ডিজাইন টিমের কাছে ফেরত দেওয়া হয়। হতে পারে "কারণ" বিবৃতিটি খুব জারগনি ছিল, বা "কী-যদি" স্লাইডারটি ক্ষমতায়নের চেয়ে বেশি বিভ্রান্তিকর ছিল৷ এই সহযোগিতামূলক যাচাইকরণের মাধ্যমে, আমরা নিশ্চিত করি যে চূড়ান্ত ব্যাখ্যাগুলি প্রযুক্তিগতভাবে নির্ভুল, প্রকৃত অর্থে বোধগম্য, উপযোগী এবং পণ্যটি ব্যবহার করা লোকেদের জন্য বিশ্বাস-নির্মাণ। ব্যাখ্যার গোল্ডিলক্স জোন সতর্কতার একটি সমালোচনামূলক শব্দ: এটি অতিরিক্ত ব্যাখ্যা করা সম্ভব। রূপকথার মতো, যেখানে গোল্ডিলকস 'ঠিক ঠিক' বরিজটি চেয়েছিলেন, একটি ভাল ব্যাখ্যার লক্ষ্য হল সঠিক পরিমাণ বিশদ প্রদান করা - খুব বেশি নয় এবং খুব কম নয়। একটি মডেলের প্রতিটি ভেরিয়েবলের সাথে একজন ব্যবহারকারীকে বোমাবাজি করা জ্ঞানীয় ওভারলোডের দিকে পরিচালিত করবে এবং প্রকৃতপক্ষে বিশ্বাস হ্রাস করতে পারে। উদ্দেশ্য ব্যবহারকারীকে ডেটা সায়েন্টিস্ট বানানো নয়। একটি সমাধান হল প্রগতিশীল প্রকাশ।
সহজ দিয়ে শুরু করুন। একটি সংক্ষিপ্ত "কারণ" বিবৃতি দিয়ে নেতৃত্ব দিন। বেশিরভাগ ব্যবহারকারীর জন্য, এটি যথেষ্ট হবে। বিস্তারিত একটি পথ অফার. "আরো জানুন" বা "দেখুন কীভাবে এটি নির্ধারণ করা হয়েছিল" এর মতো একটি পরিষ্কার, কম-ঘর্ষণ লিঙ্ক সরবরাহ করুন৷ জটিলতা প্রকাশ করুন। সেই লিঙ্কের পিছনে, আপনি ইন্টারেক্টিভ স্লাইডার, ভিজ্যুয়ালাইজেশন বা অবদানকারী কারণগুলির আরও বিস্তারিত তালিকা অফার করতে পারেন।
এই স্তরযুক্ত পদ্ধতি ব্যবহারকারীর মনোযোগ এবং দক্ষতাকে সম্মান করে, সঠিক পরিমাণ প্রদান করেতাদের প্রয়োজনের জন্য তথ্য। আসুন কল্পনা করুন যে আপনি একটি স্মার্ট হোম ডিভাইস ব্যবহার করছেন যা বিভিন্ন কারণের উপর ভিত্তি করে সর্বোত্তম গরম করার সুপারিশ করে। সহজ দিয়ে শুরু করুন: "আপনার বাড়ি বর্তমানে 72 ডিগ্রিতে উত্তপ্ত, যা শক্তি সঞ্চয় এবং আরামের জন্য সর্বোত্তম তাপমাত্রা।" বিস্তারিত জানার জন্য একটি পথ অফার করুন: তার নীচে, একটি ছোট লিঙ্ক বা বোতাম: "কেন 72 ডিগ্রি সর্বোত্তম?" জটিলতা প্রকাশ করুন: সেই লিঙ্কটি ক্লিক করলে একটি নতুন স্ক্রীন খুলতে পারে যা দেখাচ্ছে:
বাইরের তাপমাত্রা, আর্দ্রতা এবং আপনার পছন্দের আরামের স্তরের জন্য ইন্টারেক্টিভ স্লাইডারগুলি, কীভাবে এটি প্রস্তাবিত তাপমাত্রা সামঞ্জস্য করে তা প্রদর্শন করে। বিভিন্ন তাপমাত্রায় শক্তি খরচের একটি ভিজ্যুয়ালাইজেশন। "দিনের সময়", "বর্তমান বাইরের তাপমাত্রা," "ঐতিহাসিক শক্তির ব্যবহার," এবং "অকুপেন্সি সেন্সর" এর মতো অবদানকারী কারণগুলির একটি তালিকা৷
এটি একাধিক XAI পদ্ধতিকে একত্রিত করা কার্যকর এবং এই গোল্ডিলক্স জোন অফ এক্সপ্লেনেশন প্যাটার্ন, যা প্রগতিশীল প্রকাশের পক্ষে সমর্থন করে, এটিকে স্পষ্টভাবে উৎসাহিত করে। আপনি অবিলম্বে বোঝার জন্য একটি সাধারণ "কারণ" বিবৃতি (প্যাটার্ন 1) দিয়ে শুরু করতে পারেন এবং তারপরে একটি "আরো জানুন" লিঙ্কটি অফার করতে পারেন যা গভীর অন্বেষণের জন্য একটি "কী-ইফ" ইন্টারেক্টিভ (প্যাটার্ন 2) বা একটি "পুশ-এন্ড-পুল ভিজ্যুয়াল" (প্যাটার্ন 4) প্রকাশ করে। উদাহরণস্বরূপ, একটি লোন অ্যাপ্লিকেশন সিস্টেম প্রাথমিকভাবে অস্বীকারের প্রাথমিক কারণ (বৈশিষ্ট্যের গুরুত্ব) বর্ণনা করতে পারে, তারপর ব্যবহারকারীকে একটি "কী-যদি" টুলের সাথে যোগাযোগ করার অনুমতি দেয় যে কীভাবে তাদের আয় বা ঋণের পরিবর্তনগুলি ফলাফলকে পরিবর্তন করবে (প্রত্যুত্তর) এবং পরিশেষে, একটি বিশদ "পুশ-এন্ড-পুল" চার্ট প্রদান করে (মূল্য ভিত্তিক সমস্ত ইতিবাচক প্রমাণের ব্যাখ্যা এবং মূল্য-ভিত্তিক ব্যাখ্যা)। এই স্তরযুক্ত পদ্ধতি ব্যবহারকারীদের তাদের প্রয়োজনীয় বিশদ স্তরটি অ্যাক্সেস করতে দেয়, যখন তাদের প্রয়োজন হয়, জ্ঞানীয় ওভারলোড প্রতিরোধ করে এবং এখনও ব্যাপক স্বচ্ছতা প্রদান করে। কোন XAI সরঞ্জাম এবং পদ্ধতিগুলি ব্যবহার করতে হবে তা নির্ধারণ করা প্রাথমিকভাবে পুঙ্খানুপুঙ্খ UX গবেষণার একটি কাজ। মেন্টাল মডেল ইন্টারভিউ এবং এআই যাত্রা ম্যাপিং ব্যবহারকারীর চাহিদা এবং এআই বোঝার এবং বিশ্বাসের সাথে সম্পর্কিত ব্যথার পয়েন্টগুলি চিহ্নিত করার জন্য অত্যন্ত গুরুত্বপূর্ণ। মানসিক মডেলের সাক্ষাত্কারগুলি এআই কীভাবে কাজ করে সে সম্পর্কে ব্যবহারকারীর ভুল ধারণাগুলি উন্মোচন করতে সাহায্য করে, যেখানে মৌলিক ব্যাখ্যা (যেমন বৈশিষ্ট্যের গুরুত্ব বা স্থানীয় ব্যাখ্যা) প্রয়োজন হয় সেগুলি নির্দেশ করে। অন্যদিকে, এআই যাত্রা ম্যাপিং, এআই-এর সাথে ব্যবহারকারীর মিথস্ক্রিয়ায় বিভ্রান্তি বা অবিশ্বাসের জটিল মুহূর্তগুলি চিহ্নিত করে, যেখানে আরও দানাদার বা ইন্টারেক্টিভ ব্যাখ্যা (যেমন কাউন্টারফ্যাকচুয়াল বা মান-ভিত্তিক ব্যাখ্যা) বিশ্বাস পুনর্গঠন এবং এজেন্সি প্রদানের জন্য সবচেয়ে উপকারী হবে।
পরিশেষে, একটি কৌশল বেছে নেওয়ার সর্বোত্তম উপায় হল ব্যবহারকারীর গবেষণাকে আপনার সিদ্ধান্তগুলিকে গাইড করতে দেওয়া, নিশ্চিত করা যে আপনি যে ব্যাখ্যাগুলি ডিজাইন করেছেন তা সরাসরি ব্যবহারকারীর প্রশ্ন এবং উদ্বেগের সমাধান করে, কেবলমাত্র তাদের নিজস্ব স্বার্থে প্রযুক্তিগত বিশদ প্রদান না করে। ডিপ রিজনিং এজেন্টদের জন্য XAI কিছু নতুন এআই সিস্টেম, যা গভীর যুক্তির এজেন্ট হিসাবে পরিচিত, প্রতিটি জটিল কাজের জন্য একটি সুস্পষ্ট "চিন্তার শৃঙ্খল" তৈরি করে। তারা নিছক সূত্র উদ্ধৃত করে না; তারা একটি উপসংহারে পৌঁছানোর জন্য যৌক্তিক, ধাপে ধাপে পথ দেখায়। যদিও এই স্বচ্ছতা মূল্যবান প্রসঙ্গ সরবরাহ করে, একটি প্লে-বাই-প্লে যা বেশ কয়েকটি অনুচ্ছেদ বিস্তৃত করে একজন ব্যবহারকারীকে কেবল একটি কাজ সম্পূর্ণ করার চেষ্টা করে তার কাছে অপ্রতিরোধ্য বোধ করতে পারে। XAI-এর নীতিগুলি, বিশেষ করে Goldilocks জোন অফ ব্যাখ্যা, সরাসরি এখানে প্রযোজ্য। আমরা শুধুমাত্র চূড়ান্ত উপসংহার এবং চিন্তা প্রক্রিয়ার সবচেয়ে গুরুত্বপূর্ণ পদক্ষেপটি দেখানোর জন্য প্রগতিশীল প্রকাশ ব্যবহার করে যাত্রাকে কিউরেট করতে পারি। ব্যবহারকারীরা তখন সম্পূর্ণ, বিশদ, বহু-পদক্ষেপের যুক্তি দেখতে বেছে নিতে পারেন যখন তাদের যুক্তিটি দুবার পরীক্ষা করতে হবে বা একটি নির্দিষ্ট তথ্য খুঁজে বের করতে হবে। এজেন্টের সম্পূর্ণ স্বচ্ছতা রক্ষা করার সময় এই পদ্ধতিটি ব্যবহারকারীর মনোযোগকে সম্মান করে। পরবর্তী পদক্ষেপ: আপনার XAI যাত্রার ক্ষমতায়ন ব্যাখ্যাযোগ্যতা বিশ্বস্ত এবং কার্যকর AI পণ্য তৈরির জন্য একটি মৌলিক স্তম্ভ। উন্নত অনুশীলনকারীর জন্য যারা তাদের সংস্থার মধ্যে এই পরিবর্তনটি চালনা করতে চাইছেন, যাত্রাটি ডিজাইনের প্যাটার্নের বাইরে অ্যাডভোকেসি এবং অবিচ্ছিন্ন শিক্ষার মধ্যে প্রসারিত হয়েছে। আপনার বোঝাপড়া এবং ব্যবহারিক প্রয়োগকে আরও গভীর করতে, IBM রিসার্চ বা Google-এর What-If টুল থেকে AI ব্যাখ্যাযোগ্যতা 360 (AIX360) টুলকিটের মতো সংস্থানগুলি অন্বেষণ করার কথা বিবেচনা করুন, যা মডেল আচরণ এবং ব্যাখ্যাগুলি অন্বেষণ করার জন্য ইন্টারেক্টিভ উপায়গুলি অফার করে৷ দায়বদ্ধ AI ফোরাম বা মানব-কেন্দ্রিক AI-তে দৃষ্টি নিবদ্ধ নির্দিষ্ট গবেষণা গোষ্ঠীর মতো সম্প্রদায়গুলির সাথে জড়িত হওয়া অমূল্য অন্তর্দৃষ্টি এবং সহযোগিতার সুযোগ প্রদান করতে পারে। অবশেষে, আপনার নিজের প্রতিষ্ঠানের মধ্যে XAI-এর পক্ষে একজন উকিল হন।একটি কৌশলগত বিনিয়োগ হিসাবে ফ্রেম ব্যাখ্যাযোগ্যতা। আপনার নেতৃত্ব বা ক্রস-ফাংশনাল দলগুলির জন্য একটি সংক্ষিপ্ত পিচ বিবেচনা করুন: "XAI-তে বিনিয়োগ করার মাধ্যমে, আমরা বিশ্বাস গড়ে তুলব; আমরা ব্যবহারকারী গ্রহণকে ত্বরান্বিত করব, ব্যবহারকারীদের বোঝার ক্ষমতা দিয়ে সহায়তার খরচ কমিয়ে দেব এবং সম্ভাব্য পক্ষপাতগুলি প্রকাশ করে উল্লেখযোগ্য নৈতিক ও নিয়ন্ত্রক ঝুঁকিগুলি প্রশমিত করব। এটি একটি ভাল ডিজাইন এবং স্মার্ট ব্যবসা।"
আপনার ভয়েস, ব্যবহারিক বোঝাপড়ার উপর ভিত্তি করে, AI কে ব্ল্যাক বক্স থেকে বের করে আনতে এবং ব্যবহারকারীদের সাথে একটি সহযোগী অংশীদারিত্বের মধ্যে গুরুত্বপূর্ণ।
