Дизајнирањето за автономни агенти претставува единствена фрустрација. Подаваме сложена задача на вештачката интелигенција, таа исчезнува 30 секунди (или 30 минути), а потоа се враќа со резултат. Зјапаме во екранот. Дали тоа функционираше? Дали халуцинираше? Дали ја провери базата на податоци за усогласеност или го прескокна тој чекор? Ние обично одговараме на оваа вознемиреност со една од двете крајности. Системот или го чуваме во црна кутија, криејќи сè за да ја одржиме едноставноста, или паничиме и обезбедуваме „Damp Dump“, проследувајќи ја секоја линија за евиденција и API повик до корисникот. Ниту еден пристап директно не се однесува на нијансите потребни за да им се обезбеди на корисниците идеално ниво на транспарентност. Црната кутија ги остава корисниците да се чувствуваат немоќни. Депонијата на податоци создава слепило за известување, уништувајќи ја ефикасноста што агентот вети дека ќе ја обезбеди. Корисниците го игнорираат постојаниот проток на информации додека нешто не се скрши, во тој момент им недостасува контекст да го поправат. Потребен ни е организиран начин да го најдеме балансот. Во мојата претходна статија, „Дизајнирање за генетска вештачка интелигенција“, ги разгледавме елементите на интерфејсот кои градат доверба, како што е претходно прикажување на планираното дејство на вештачката интелигенција (Прегледи на намери) и давање на корисниците контрола врз тоа колку вештачката интелигенција прави сама по себе (Автономија бирање). Но, да се знае кои елементи да се користат е само дел од предизвикот. Потешкото прашање за дизајнерите е да знаат кога да ги користат. Како да знаете кој специфичен момент во работниот тек од 30 секунди бара Преглед на намера и кој може да се справи со едноставен запис во дневникот? Оваа статија нуди метод за одговор на тоа прашање. Ќе поминеме низ Ревизијата на јазолот на одлуки. Овој процес ги натера дизајнерите и инженерите во истата просторија да ја мапираат логиката на заднината на корисничкиот интерфејс. Ќе научите како точно да ги одредите моментите кога на корисникот му треба ажурирање за тоа што прави вештачката интелигенција. Ние, исто така, ќе покриеме матрица на влијание/ризик што ќе помогне да се даде приоритет кои јазли за одлучување да се прикажат и која било поврзана шема на дизајн што ќе се спари со таа одлука. Моменти на транспарентност: Пример за студија на случај Размислете за Меридијан (не вистинско име), осигурителна компанија која користи службена вештачка интелигенција за да ги обработи првичните барања за несреќа. Корисникот поставува фотографии од оштетување на возилото и полициски извештај. Агентот потоа исчезнува за една минута пред да се врати со проценка на ризик и предложен опсег на исплата. Првично, интерфејсот на Meridian едноставно покажа Пресметување на статусот на приговорот. Корисниците станаа фрустрирани. Тие доставија неколку детални документи и се чувствуваа несигурни дали вештачката интелигенција воопшто го разгледала полицискиот извештај, кој содржел олеснителни околности. Црната кутија создаде недоверба. За да се поправи ова, дизајнерскиот тим спроведе ревизија на јазолот на одлуки. Тие открија дека вештачката интелигенција изведува три различни чекори засновани на веројатност, со вградени бројни помали чекори:
Анализа на слика Агентот ги спореди фотографиите од штетата со базата на податоци за типични сценарија за сообраќајни несреќи за да ги процени трошоците за поправка. Ова вклучуваше резултат на самодоверба. Текстуален преглед Го скенира полицискиот извештај за клучни зборови кои влијаат на одговорноста (на пр., грешка, временски услови, трезвеност). Ова вклучуваше проценка на веројатноста за правната состојба. Политика вкрстена референца Ги совпаѓаше деталите за побарувањето со специфичните услови на политиката на корисникот, барајќи исклучоци или ограничувања на покриеност. Ова исто така вклучуваше веројатностичко совпаѓање.
Тимот ги претвори овие чекори во моменти на транспарентност. Редоследот на интерфејсот беше ажуриран на:
Проценка на фотографии од оштетување: споредување со 500 профили на удари на возилото. Преглед на полицискиот извештај: Анализа на клучни зборови за одговорност и правен преседан. Потврдување на покриеноста на политиката: Проверка за специфични исклучувања во вашиот план.
Системот сепак го одзеде истото време, но експлицитната комуникација за внатрешната работа на агентот ја врати довербата на корисниците. Корисниците разбраа дека вештачката интелигенција ја извршува сложената задача за која е дизајнирана и точно знаеја каде да го фокусираат своето внимание доколку конечната проценка изгледа неточна. Овој избор на дизајн го трансформираше моментот на вознемиреност во момент на поврзување со корисникот. Примена на матрицата на влијание/ризик: што избравме да скриеме Повеќето искуства со вештачка интелигенција немаат недостаток на настани и јазли за одлучување што потенцијално би можеле да се прикажат за време на обработката. Еден од најкритичните резултати на ревизијата беше да се одлучи што да остане невидливо. Во примерот Меридијан, евиденциите за заднината генерираат над 50 настани по приговор. Можевме стандардно да го прикажуваме секој настан додека се обработуваат како дел од интерфејсот. Наместо тоа, ја применивме матрицата на ризик за да ги исечеме:
Најави настан: Пинг на серверотWest-2 за проверка на вишок. Пресуда за филтрирање: Скриј. (Ниски влогови, висока техничност).
Настан на евиденција: Споредување на проценката за поправка со вредноста на BlueBook. Пресуда за филтрирање: Прикажи. (Високиот влог, влијае на исплатата на корисникот).
Со отсекување на непотребните детали, важните информации - како што е проверката на покриеноста - беа повлијателни. Создадовме отворен интерфејс и дизајниравме отворено искуство. Овој пристап ја користи идејата дека луѓето се чувствуваат подобро за услугата кога можат да ја видат работата што се прави. Со прикажување на конкретните чекори (Проценување, прегледување, потврдување), го сменивме чекањето од 30 секунди од време на грижа („Дали е скршено?“) во време на чувство дека се создава нешто вредно („Се размислува“). Ајде сега да погледнеме подетално како можеме да го прегледаме процесот на донесување одлуки во нашите производи за да ги идентификуваме клучните моменти кои бараат јасни информации. Ревизија на јазол на одлука Транспарентноста не успева кога ја третираме како избор на стил, а не како функционално барање. Имаме тенденција да прашуваме: „Како треба да изгледа корисничкиот интерфејс? пред да прашаме: „Што всушност одлучува агентот?“ Ревизијата на јазолот на одлуки е јасен начин да се олеснат разбирливите системи за вештачка интелигенција. Работи со внимателно мапирање на внатрешниот процес на системот. Главната цел е да се пронајдат и јасно да се дефинираат точните моменти кога системот престанува да ги следи поставените правила и наместо тоа прави избор врз основа на случајност или проценка. Со мапирање на оваа структура, креаторите можат да ги покажат овие точки на несигурност директно на луѓето што го користат системот. Ова ги менува ажурирањата на системот од нејасни изјави во конкретни, веродостојни извештаи за тоа како вештачката интелигенција го донела својот заклучок. Покрај горенаведената студија на случај за осигурување, неодамна работев со тим за градење на агент за набавки. Системот ги прегледа договорите со продавачите и ги означи ризиците. Првично, на екранот беше прикажана едноставна лента за напредок: „Преглед на договори“. Корисниците го мразеа. Нашето истражување покажа дека тие се чувствуваат загрижени за правните импликации на клаузулата што недостасува. Ние го поправивме ова со спроведување на ревизија на јазолот на одлуки. Вклучив листа за проверка чекор-по-чекор за спроведување на оваа ревизија на крајот на овој напис. Одржавме сесија со инженерите и претставивме како функционира системот. Идентификувавме „точки на одлучување“ - моменти кога вештачката интелигенција требаше да избере помеѓу две добри опции. Во стандардните компјутерски програми, процесот е јасен: ако се случи А, тогаш Б секогаш ќе се случува. Во системите за вештачка интелигенција, процесот често се заснова на случајност. Вештачката интелигенција мисли дека А е веројатно најдобриот избор, но тоа може да биде само 65% сигурно. Во системот на договори, најдовме момент кога вештачката интелигенција ги провери условите за одговорност според правилата на нашата компанија. Ретко беше совршен натпревар. ВИ мораше да одлучи дали 90% совпаѓање е доволно добро. Ова беше клучна точка на одлука.
Откако го идентификувавме овој јазол, го изложивме на корисникот. Наместо „Преглед на договори“, интерфејсот се ажурираше со: „Одговорна клаузула се разликува од стандардниот образец. Анализирање на нивото на ризик“. Ова специфично ажурирање им даде доверба на корисниците. Тие знаеја дека агентот ја проверил клаузулата за одговорност. Тие ја разбраа причината за доцнењето и стекнаа доверба дека саканата акција се случува на задниот дел. Тие, исто така, знаеја каде да копаат подлабоко откако агентот ќе го генерира договорот. За да проверите како вештачката интелигенција донесува одлуки, треба тесно да соработувате со вашите инженери, менаџери на производи, деловни аналитичари и клучни луѓе кои ги прават изборите (често скриени) кои влијаат на функционирањето на алатката за вештачка интелигенција. Нацртајте ги чекорите што ги презема алатката. Обележете го секое место каде што процесот ја менува насоката бидејќи е исполнета веројатноста. Ова се местата каде што треба да се фокусирате да бидете потранспарентни. Како што е прикажано на Слика 2 подолу, ревизијата на јазолот на одлуки ги вклучува овие чекори:
Соберете го тимот: Доведете ги сопствениците на производите, деловните аналитичари, дизајнерите, клучните носители на одлуки и инженерите кои ја изградиле вештачката интелигенција. На пример, Размислете за тим за производ кој ќе изгради алатка за вештачка интелигенција дизајнирана да ги прегледува неуредните правни договори. Тимот вклучува UX дизајнер, менаџер на производи, истражувач на UX, адвокат кој се занимава како експерт за темата и инженер за позадина кој го напиша кодот за анализа на текст.
Нацртајте го целиот процес: Документирајте го секој чекор што го презема вештачката интелигенција, од првото дејство на корисникот до конечниот резултат. Тимот стои на таблата и ја скицира целата низа за клучниот работен тек кој вклучува вештачка интелигенција да бара клаузула за одговорност во сложен договор. Адвокатот прикачуваPDF од педесет страници → Системот го претвора документот во читлив текст. → ВИ ги скенира страниците за клаузули за одговорност. → Корисникот чека. → Моменти или минути подоцна, алатката ги истакнува пронајдените параграфи со жолта боја на корисничкиот интерфејс. Тие го прават тоа за многу други работни текови што ги опфаќа и алатката.
Најдете каде работите се нејасни: погледнете ја мапата на процесот за кое било место каде што вештачката интелигенција споредува опции или влезови кои немаат едно совршено совпаѓање. Тимот гледа на таблата за да ги забележи двосмислените чекори. Претворањето слика во текст следи строги правила. Наоѓањето на одредена клаузула за одговорност вклучува претпоставки. Секоја фирма ги пишува овие клаузули различно, така што вештачката интелигенција мора да мери повеќе опции и да направи предвидување наместо да најде точно совпаѓање на зборовите.
Идентификувајте ги чекорите „најдобрата претпоставка“: за секое нејасно место, проверете дали системот користи оценка за доверба (на пример, дали е 85% сигурен?). Ова се точките каде што вештачката интелигенција прави конечен избор. Системот треба да погоди (да даде веројатност) кој став(и) многу личат на стандардна клаузула за одговорност. Таа доделува оценка за доверба на нејзината најдобра претпоставка. Таа претпоставка е јазол за одлука. Интерфејсот треба да му каже на адвокатот дека истакнува потенцијално совпаѓање, наместо да наведува дека ја нашол дефинитивната клаузула.
Испитајте го изборот: за секоја точка на избор, дознајте ја специфичната внатрешна математика или споредба што се прави (на пр., усогласување на дел од договорот со полиса или споредување на слика на скршен автомобил со библиотека со фотографии од оштетен автомобил). Инженерот објаснува дека системот ги споредува различните параграфи со базата на податоци со стандардни клаузули за одговорност од минати случаи на фирма. Пресметува резултат за сличност на текстот за да одлучи за совпаѓање врз основа на веројатности.
Напишете јасни објаснувања: креирајте пораки за корисникот кои јасно ја опишуваат специфичната внатрешна акција што се случува кога вештачката интелигенција прави избор. Дизајнерот на содржина пишува специфична порака токму за овој момент. Текстот гласи: Споредување на текстот на документот со стандардните клаузули на фирмата за да се идентификуваат потенцијалните ризици од одговорност.
Ажурирајте го екранот: ставете ги овие нови, јасни објаснувања во корисничкиот интерфејс, заменувајќи ги нејасните пораки како „Преглед на договори“. Дизајнерскиот тим го отстранува генеричкиот спинерот за вчитување на Обработка на PDF. Тие го вметнуваат новото објаснување во статусната лента која се наоѓа веднаш над прегледувачот на документи додека вештачката интелигенција размислува.
Проверете дали има доверба: проверете дали новите пораки на екранот им даваат на корисниците едноставна причина за какво било време на чекање или резултат, што треба да ги направи да се чувствуваат посигурни и подоверливи.
Матрицата на влијание/ризик Откако внимателно ќе го погледнете процесот на вештачката интелигенција, веројатно ќе најдете многу точки каде што таа прави избор. ВИ може да направи десетици мали избори за една сложена задача. Прикажувањето на сите нив создава премногу непотребни информации. Треба да ги групирате овие избори. Може да користите матрица на влијание/ризик за да ги сортирате овие избори врз основа на типовите на дејства што ги презема вештачката интелигенција. Еве примери на матрици на влијание/ризик: Прво, побарајте одлуки со ниски влогови и со мало влијание. Ниски влогови / Ниско влијание
Пример: Организирање структура на датотека или преименување на документ. Потреба за транспарентност: минимална. Доволно е суптилно известување за тост или запис во дневникот. Корисниците можат лесно да ги поништат овие дејства.
Потоа идентификувајте ги одлуките со висок влог и со големо влијание. Високи влогови / Високо влијание
Пример: Одбивање на барање за заем или извршување на тргување со акции. Потреба за транспарентност: висока. Овие активности бараат Доказ за работа. Системот мора да го покаже образложението пред или веднаш додека дејствува.
Размислете за бот за финансиско тргување кој ги третира сите нарачки за купување/продажба исто. Извршува трговија од 5 долари со иста непроѕирност како трговија од 50.000 долари. Корисниците може да се запрашаат дали алатката го препознава потенцијалното влијание на транспарентноста врз тргувањето со голема сума во долари. Ним им треба системот да паузира и да ја покаже својата работа за занаетите со високи влогови. Решението е да се воведе логичка состојба за прегледување за секоја трансакција што надминува одредена сума во долари, овозможувајќи му на корисникот да ги види факторите кои ја водат одлуката пред извршувањето. Мапирање на јазли во шаблони: рубрика за избор на шаблони за дизајн Откако ќе ги идентификувате клучните јазли за одлучување во вашето искуство, мора да одлучите која шема на интерфејс ќе се применува на секој од нив што ќе го прикажете. Во Дизајнирање за генетска вештачка интелигенција, воведовме шеми како што се Прегледот на намери (за контрола на високи влогови) и Ревизијата на активности (за ретроспективна безбедност). Одлучувачки фактор при изборот меѓу нив е реверзибилноста. Ние го филтрираме секојјазол за одлучување преку матрицата на влијание со цел да се додели правилната шема: Високи влогови и неповратни: овие јазли бараат преглед на намера. Бидејќи корисникот не може лесно да го врати дејството (на пр., трајно бришење база на податоци), моментот на транспарентност мора да се случи пред извршувањето. Системот мора да паузира, да ја објасни својата намера и да бара потврда. Високи влогови и реверзибилни: овие јазли може да се потпрат на шемата за ревизија и враќање на активности. Ако агентот за продажба напојувана со вештачка интелигенција премести вод кон друг цевковод, тоа може да го направи автономно се додека го извести корисникот и нуди итно копче Врати. Со строго категоризирање на јазлите на овој начин, избегнуваме „внимателен замор“. Прегледот на намери со високо триење го резервираме само за навистина неповратните моменти, додека се потпираме на Акциската ревизија за одржување на брзината за сè друго.
Реверзибилна Неповратни Ниско влијание Тип: Auto-ExecuteUI: Пасивен тост / LogEx: Преименување на датотека Тип: Потврди UI: Едноставна опција за отповикувањеEx: Архивирање е-пошта Високо влијание Тип: ReviewUI: Известување + Преглед TrailEx: Испраќање нацрт до клиент Тип: Intent previewUI: Модална / Експлицитна дозволаEx: Бришење сервер
Табела 1: Матрицата за влијание и реверзибилност потоа може да се користи за мапирање на вашите моменти на транспарентност на моделите на дизајнирање. Квалитативна валидација: „Чекање, зошто? Тест Можете да ги идентификувате потенцијалните јазли на таблата, но мора да ги потврдите со човечко однесување. Треба да потврдите дали вашата карта се совпаѓа со менталниот модел на корисникот. Јас користам протокол наречен „Чекај, зошто?“ Тест. Побарајте од корисникот да гледа како агентот ја завршува задачата. Научете ги да зборуваат гласно. Секогаш кога ќе постават прашање: „Чекај, зошто го направи тоа? или „Дали е заглавен?“ или „Дали ме слушна?“ — означувате временски печат. Овие прашања сигнализираат конфузија на корисниците. Корисникот чувствува дека неговата контрола се измолкнува. На пример, во студија за асистент за закажување здравствена заштита, корисниците гледале како агентот закажува состанок. Екранот стоеше статичен четири секунди. Учесниците постојано прашуваа: „Дали се проверува мојот календар или на лекарот?
Тоа прашање откри недостижен момент на транспарентност. Системот требаше да го подели тоа чекање од четири секунди на два различни чекори: „Проверка на вашата достапност“ проследено со „Синхронизирање со распоредот на давателот“. Оваа мала промена ги намали изразените нивоа на анксиозност кај корисниците. Транспарентноста не успева кога опишува само системско дејство. Интерфејсот мора да го поврзе техничкиот процес со конкретната цел на корисникот. Екранот на кој се прикажува „Проверка на вашата достапност“ паѓа бидејќи нема контекст. Корисникот разбира дека вештачката интелигенција гледа во календар, но не знае зошто. Мора да го поврземе дејството со исходот. Системот треба да го подели тоа чекање од четири секунди на два различни чекори. Прво, интерфејсот прикажува „Проверување на вашиот календар за да најдете отворени времиња“. Потоа се ажурира на „Синхронизирање со распоредот на давателот за да се обезбеди вашиот состанок“. Ова го заснова техничкиот процес во реалниот живот на корисникот. Размислете за инвентар за управување со вештачка интелигенција за локално кафуле. Системот наидува на недостиг од снабдување. Интерфејсот што чита „контакт со продавачот“ или „опции за прегледување“ создава вознемиреност. Менаџерот се прашува дали системот ја откажува нарачката или купува скапа алтернатива. Подобар пристап е да се објасни планираниот резултат: „Оценување на алтернативните добавувачи за одржување на распоредот за испорака во петок“. Ова му кажува на корисникот што точно се обидува да постигне вештачката интелигенција. Операционализација на ревизијата Ја завршивте ревизијата на јазолот на одлуки и ја филтриравте вашата листа преку матрицата на влијание и ризик. Сега имате список на суштински моменти за да бидете транспарентни. Следно, треба да ги креирате во интерфејсот. Овој чекор бара тимска работа низ различни оддели. Не можете сами да дизајнирате транспарентност користејќи алатка за дизајн. Треба да разберете како функционира системот зад сцената. Започнете со логички преглед. Запознајте се со вашиот водечки дизајнер на системот. Донесете ја вашата карта на јазли за одлучување. Треба да потврдите дека системот навистина може да ги сподели овие состојби. Често забележувам дека техничкиот систем не ја открива точната состојба што сакам да ја покажам. Инженерот може да каже дека системот само враќа општ статус „работен“. Мора да извршите притисок за детално ажурирање. Потребно ви е системот да испрати конкретно известувањекога се префрла од читање текст на правила за проверка. Без таа техничка врска, вашиот дизајн е невозможно да се изгради. Следно, вклучи го тимот за дизајн на содржина. Ја имате техничката причина за акцијата на вештачката интелигенција, но ви треба јасно, човечко објаснување. Инженерите го обезбедуваат основниот процес, но дизајнерите на содржина го обезбедуваат начинот на кој се комуницира. Не ги пишувајте овие пораки сами. Програмер може да напише „Извршување функција 402“, што е технички исправно, но бесмислено за корисникот. Дизајнер може да напише „Размислување“, што е пријателско, но премногу нејасно. Стратегот за содржина ја наоѓа вистинската средина. Тие создаваат специфични фрази, како што е „Скенирање за ризици од одговорност“, кои покажуваат дека вештачката интелигенција работи без да го збуни корисникот. Конечно, тестирајте ја транспарентноста на вашите пораки. Не чекајте да се изгради финалниот производ за да видите дали текстот функционира. Правам споредбени тестови на едноставни прототипови каде единственото нешто што се менува е статусната порака. На пример, на една група (Група А) и покажувам порака што вели „Потврдување на идентитетот“ и на друга група (Група Б) порака што вели „Проверка на владините бази на податоци“ (ова се измислени примери, но вие ја разбирате поентата). Потоа ги прашувам која вештачка интелигенција се чувствува побезбедна. Често ќе откриете дека одредени зборови предизвикуваат загриженост, додека други градат доверба. Мора да ја третирате формулацијата како нешто што треба да го тестирате и да се покажете како ефективно. Како ова го менува процесот на дизајнирање Спроведувањето на овие ревизии има потенцијал да го зајакне начинот на кој тим работи заедно. Престануваме да предаваме полиран дизајн датотеки. Почнуваме да користиме неуредни прототипови и споделени табели. Основната алатка станува матрица за транспарентност. Инженерите и дизајнерите на содржини ја уредуваат оваа табела заедно. Тие ги мапираат точните технички кодови на зборовите што корисникот ќе ги прочита. Тимовите ќе доживеат триење за време на логичкиот преглед. Замислете дизајнер да го праша инженерот како вештачката интелигенција одлучува да одбие трансакција поднесена на извештај за трошоци. Инженерот може да каже дека задниот дел дава само генерички статусен код како „Грешка: недостасуваат податоци“. Дизајнерот вели дека ова не е активна информација на екранот. Дизајнерот преговара со инженерот за да создаде специфична техничка кука. Инженерот пишува ново правило, така што системот известува што точно недостасува, како што недостасува слика од сметката. Дизајнерите на содржина дејствуваат како преведувачи во оваа фаза. Програмер може да напише технички точен стринг како „Пресметување на прагот на доверба за совпаѓање на продавачот“. Дизајнер на содржина ја преведува таа низа во фраза што гради доверба за специфичен исход. Стратегот го препишува како „Споредување на цените на локалните продавачи за да се обезбеди вашата испорака во петок“. Корисникот го разбира дејството и резултатот. Целиот меѓуфункционален тим седи на сесиите за тестирање на корисниците. Тие гледаат како вистинска личност реагира на различни статусни пораки. Гледањето паника на корисникот затоа што на екранот пишува „Извршување трговија“ го принудува тимот да го преиспита својот пристап. Инженерите и дизајнерите се усогласуваат со подобра формулација. Тие го менуваат текстот во „Потврдување на доволно средства“ пред да купат акции. Заедничкото тестирање гарантира дека конечниот интерфејс служи и за системската логика и за мирот на корисникот. Потребно е време за да се вклучат овие дополнителни активности во календарот на тимот. Сепак, крајниот резултат треба да биде тим кој поотворено комуницира и корисници кои имаат подобро разбирање за тоа што прават во нивно име (и зошто) нивните алатки напојувани со вештачка интелигенција. Овој интегриран пристап е камен-темелник за дизајнирање на навистина доверливи искуства со вештачка интелигенција. Довербата е избор за дизајн Ние често ја гледаме довербата како емотивен нуспроизвод на добро корисничко искуство. Полесно е да се гледа довербата како механички резултат на предвидлива комуникација. Градиме доверба со прикажување на вистинските информации во вистинско време. Ние го уништуваме со преоптоварување на корисникот или целосно криење на машината. Започнете со Ревизијата на јазолот на одлуки, особено за алатките и производите за генерирана вештачка интелигенција. Пронајдете ги моментите во кои системот прави повик за проценка. Мапирајте ги тие моменти во Матрицата на ризик. Ако влоговите се високи, отворете ја кутијата. Покажете ја работата. Во следната статија, ќе погледнеме како да ги дизајнираме овие моменти: како да ја напишете копијата, да го структурирате корисничкиот интерфејс и да се справите со неизбежните грешки кога агентот ќе погреши. Додаток: Список за ревизија на јазолот на одлуки Фаза 1: Поставување и мапирање ✅ Соберете го тимот: Доведете ги сопствениците на производите, деловните аналитичари, дизајнерите,клучните носители на одлуки и инженерите кои ја изградиле вештачката интелигенција. Совет: Ви требаат инженерите да ја објаснат вистинската логика на задниот дел. Не обидувајте се сами со овој чекор. ✅ Нацртајте го целиот процес: Документирајте го секој чекор што го презема вештачката интелигенција, од првото дејство на корисникот до конечниот резултат. Совет: Физичката сесија на таблата често најдобро функционира за исцртување на овие почетни чекори. Фаза 2: Лоцирање на скриената логика ✅ Најдете каде нештата се нејасни: погледнете ја мапата на процесот за кое било место каде што вештачката интелигенција споредува опции или влезови кои немаат едно совршено совпаѓање. ✅ Идентификувајте ги најдобрите чекори за погодување: за секое нејасно место, проверете дали системот користи оценка за доверба. На пример, прашајте дали системот е 85 проценти сигурен. Ова се точките каде што вештачката интелигенција прави конечен избор. ✅ Испитајте го изборот: за секоја изборна точка, дознајте ја конкретната внатрешна математика или споредба што се прави. Пример е усогласување на дел од договорот со полиса. Друг пример вклучува споредба на слика на скршен автомобил со библиотека со оштетени фотографии од автомобил. Фаза 3: Креирање на корисничко искуство ✅ Напишете јасни објаснувања: креирајте пораки за корисникот кои јасно ја опишуваат специфичната внатрешна акција што се случува кога вештачката интелигенција прави избор. Совет: Засновајте ги вашите пораки во конкретна реалност. Ако вештачката интелигенција резервира средба со клиент во локално кафуле, кажете му на корисникот дека системот го проверува системот за резервации на кафулиња. ✅ Ажурирајте го екранот: ставете ги овие нови, јасни објаснувања во корисничкиот интерфејс. Заменете ги нејасните пораки како Прегледување договори со ваши конкретни објаснувања. ✅ Проверете дали има доверба: проверете дали новите пораки на екранот им даваат на корисниците едноставна причина за секое време на чекање или резултат. Ова треба да ги натера да се чувствуваат сигурни и доверливи. Совет: Тестирајте ги овие пораки со вистинските корисници за да потврдите дека го разбираат конкретниот резултат што се постигнува.
