Այս շարքի առաջին մասում մենք հաստատեցինք հիմնարար անցումը գեներատիվից մինչև գործակալական արհեստական ինտելեկտ: Մենք ուսումնասիրեցինք, թե ինչու է այս ցատկումը առաջարկից մինչև գործողության անցնելը պահանջում է նոր հոգեբանական և մեթոդական գործիքակազմ UX հետազոտողների, արտադրանքի ղեկավարների և առաջնորդների համար: Մենք սահմանեցինք ագենտական վարքագծերի տաքսոնոմիա՝ առաջարկելուց մինչև ինքնավար գործելը, ուրվագծեցինք հետազոտության հիմնական մեթոդները, սահմանեցինք գործակալական նստվածքի ռիսկերը և սահմանեցինք հաշվետվողականության չափանիշները, որոնք անհրաժեշտ են այս նոր տարածքում նավարկելու համար: Մենք լուսաբանեցինք ինչն ու ինչու: Այժմ մենք հիմնարարից անցնում ենք ֆունկցիոնալին: Այս հոդվածը ներկայացնում է, թե ինչպես՝ կոնկրետ նախագծման օրինաչափություններ, գործառնական շրջանակներ և կազմակերպչական պրակտիկաներ, որոնք կարևոր են գործակալական համակարգեր կառուցելու համար, որոնք ոչ միայն հզոր են, այլև թափանցիկ, վերահսկելի և արժանի օգտատերերի վստահությանը: Եթե մեր հետազոտությունը ախտորոշիչ գործիք է, ապա այս օրինաչափությունները բուժման պլանն են: Դրանք այն գործնական մեխանիզմներն են, որոնց միջոցով մենք կարող ենք օգտատերերին տալ վերահսկողության շոշափելի զգացում, նույնիսկ եթե մենք AI-ին աննախադեպ ինքնավարություն ենք շնորհում: Նպատակը փորձառություն ստեղծելն է, որտեղ ինքնավարությունը կզգա որպես օգտվողի կողմից տրված արտոնություն, այլ ոչ թե համակարգի կողմից բռնագրավված իրավունք: Հիմնական UX նախշեր գործակալական համակարգերի համար Գործակալական AI-ի համար նախագծելը հարաբերությունների համար նախագծելն է: Այս հարաբերությունները, ինչպես ցանկացած հաջողակ գործընկերություն, պետք է կառուցվեն հստակ հաղորդակցության, փոխըմբռնման և հաստատված սահմանների վրա: Առաջարկից դեպի գործողություն անցումը կառավարելու համար մենք օգտագործում ենք վեց օրինաչափություններ, որոնք հետևում են գործակալական փոխազդեցության ֆունկցիոնալ կյանքի ցիկլին.
Pre-Action (Establishing Intent) Intent Preview-ը և Autonomy Dial-ը ապահովում են, որ օգտագործողը սահմանում է պլանը և գործակալի սահմանները, նախքան որևէ բան տեղի ունենալը: Գործողությունների ընթացքում (Համատեքստ տրամադրող) Բացատրելի հիմնավորումը և վստահության ազդանշանը պահպանում են թափանցիկությունը, մինչ գործակալն աշխատում է՝ ցույց տալով «ինչու» և «որքանով է որոշակի»: Գործողությունից հետո (անվտանգություն և վերականգնում) Գործողությունների աուդիտը և հետարկելը և ընդլայնման ուղին ապահովում են անվտանգության ցանց սխալների կամ բարձր անորոշության պահերի համար:
Ստորև մենք մանրամասնորեն կանդրադառնանք յուրաքանչյուր օրինակին, ներառյալ հաջողության չափանիշների վերաբերյալ առաջարկությունները: Այս թիրախները ներկայացուցչական հենանիշներ են՝ հիմնված արդյունաբերության չափանիշների վրա. հարմարեցրեք դրանք՝ հիմնվելով ձեր հատուկ տիրույթի ռիսկի վրա: 1. Մտադրության նախադիտում. պարզաբանում ինչ և ինչպես Այս օրինաչափությունը խոսակցական համարժեքն է ասելու. «Ահա, թե ինչ եմ պատրաստվում անել: Դուք լա՞վ եք դրանում»: Դա օգտվող-գործակալ հարաբերություններում համաձայնություն փնտրելու հիմնարար պահն է: Նախքան գործակալը որևէ նշանակալի գործողություն ձեռնարկելը, օգտատերը պետք է հստակ, միանշանակ պատկերացում ունենա, թե ինչ է պատրաստվում տեղի ունենալ: Մտադրության նախադիտումը կամ պլանի ամփոփումը հաստատում է տեղեկացված համաձայնությունը: Դա գործողությունից առաջ խոսակցական դադար է՝ ինքնավար գործընթացների սև արկղը վերածելով թափանցիկ, վերանայվող պլանի: Հոգեբանական հիմքը Գործողությունից առաջ պլանի ներկայացումը նվազեցնում է ճանաչողական բեռը և վերացնում զարմանքը՝ օգտատերերին ժամանակ տալով ստուգելու, որ գործակալն իսկապես հասկանում է իրենց մտադրությունը: Արդյունավետ մտադրության անատոմիա նախադիտում.
Պարզություն և հակիրճություն Նախադիտումը պետք է անմիջապես մարսելի լինի: Այն պետք է ամփոփի առաջնային գործողություններն ու արդյունքները պարզ լեզվով՝ խուսափելով տեխնիկական ժարգոնից: Օրինակ՝ «API call to cancel_booking (id: 4A7B)» փոխարեն պետք է նշվի «Չեղարկել AA123 չվերթը Սան Ֆրանցիսկո»: Հաջորդական քայլեր Բազմաստիճան գործողությունների համար նախադիտումը պետք է նախանշի հիմնական փուլերը: Սա բացահայտում է գործակալի տրամաբանությունը և թույլ է տալիս օգտատերերին հայտնաբերել հնարավոր խնդիրները առաջարկվող հաջորդականության մեջ: Մաքրել օգտվողի գործողությունները Նախադիտումը որոշման կետ է, ոչ միայն ծանուցում: Այն պետք է ուղեկցվի ընտրության հստակ փաթեթով: Դա միտումնավոր շփման պահ է, «արագության բախում» գործընթացում, որը նախատեսված է համոզվելու, որ օգտագործողը գիտակցաբար ընտրություն է կատարում, հատկապես անշրջելի կամ բարձր ցցերի գործողությունների համար:
Եկեք վերանայենք մեր ճանապարհորդական օգնականի սցենարը այս շարքի առաջին մասից: Մենք օգտագործում ենք այս ակտիվ օգնականը՝ ցույց տալու, թե ինչպես է գործակալը վարվում չվերթի չեղարկման հետ: Գործակալը հայտնաբերել է չվերթի չեղարկում և վերականգնման ծրագիր է կազմել։ Intent Preview-ն այսպիսի տեսք կունենա. Առաջարկվող պլան ձեր ուղևորության խափանման համար Ես հայտնաբերել եմ, որ ձեր առավոտյան ժամը 10:05-ի թռիչքը չեղարկվել է: Ահա թե ինչ եմ նախատեսում անել. չեղարկել չվերթի UA456-ը, վերադարձրեք գումարը և հաստատեք չեղարկման մանրամասները: Վերաամրագրեք DL789 չվերթում ամրագրեք հաստատված նստատեղ 14:30 առանց կանգառի չվերթում, քանի որ սա հաջորդ մատչելի չվերթն է՝հաստատված նստատեղ: Թարմացրեք հյուրանոցի ամրագրումը Տեղեկացրեք Marriott-ին, որ ուշ եք ժամանելու: Էլփոստի թարմացված երթուղի Ուղարկեք նոր չվերթի և հյուրանոցի մանրամասները ձեզ և ձեր օգնական Ջեյն Դոյին:
Այս նախադիտումն արդյունավետ է, քանի որ այն ապահովում է ամբողջական պատկեր՝ չեղարկումից մինչև հաղորդակցություն, և առաջարկում է երեք հստակ ուղի դեպի առաջ՝ լիակատար համաձայնություն (Շարունակել), փոփոխության ցանկություն (Խմբագրել պլանը) կամ ամբողջական անտեսում (Ինձ կարգավորել): Այս բազմակողմ վերահսկողությունը վստահության հիմքն է:
Երբ պետք է առաջնահերթություն տալ այս ձևանմուշին: Այս օրինաչափությունը ենթակա չէ սակարկության ցանկացած գործողության համար, որն անշրջելի է (օրինակ՝ օգտատիրոջ տվյալները ջնջելը), ներառում է ցանկացած գումարի ֆինանսական գործարք, տեղեկատվություն է փոխանցում այլ մարդկանց կամ համակարգերին կամ էական փոփոխություն է կատարում, որը օգտատերը չի կարող հեշտությամբ հետարկել: Բացթողման վտանգ Առանց դրա, օգտատերերը դարանակալված են զգում գործակալի գործողություններից և կանջատեն գործառույթը՝ վերահսկողությունը վերականգնելու համար: Հաջողության չափումներ.
Ընդունման հարաբերակցության պլաններ ընդունված առանց խմբագրման / ցուցադրված ընդհանուր պլաններ: Թիրախ > 85%: Չեղարկել հաճախականությունըՏոտալը Կառավարել այն ինքս Սեղմումներ / Ցուցադրված ընդհանուր պլանները: Ավելի քան 10% դրույքաչափը առաջացնում է մոդելի վերանայում: Հիշեք թեստի մասնակիցների ճշգրտությունը, ովքեր կարող են ճիշտ թվարկել պլանի քայլերը նախադիտումը թաքցնելուց 10 վայրկյան հետո:
Սա կիրառելով բարձր ցցերի տիրույթներում Թեև ճանապարհորդության պլանները հարաբերական հիմք են հանդիսանում, այս օրինաչափությունը դառնում է անփոխարինելի բարդ, բարձր ցցերի միջավայրերում, որտեղ սխալը հանգեցնում է ավելի քան անհարմարության անհատի ճանապարհորդության համար: Մեզանից շատերն աշխատում են այնպիսի միջավայրերում, որտեղ սխալ որոշումները կարող են հանգեցնել համակարգի խափանումների՝ վտանգի ենթարկելով հիվանդի անվտանգությունը կամ բազմաթիվ այլ աղետալի հետևանքներ, որոնք կներկայացնեն անվստահելի տեխնոլոգիաները: Դիտարկենք DevOps Release Agent-ը, որը հանձնարարված է կառավարել ամպային ենթակառուցվածքը: Այս համատեքստում Intent Preview-ը գործում է որպես անվտանգության խոչընդոտ պատահական պարապուրդի դեմ:
Այս միջերեսում հատուկ տերմինաբանությունը (Drain Traffic, Rollback) փոխարինում է ընդհանրություններին, և գործողությունները երկուական են և ազդեցիկ: Օգտագործողը թույլատրում է մեծ գործառնական տեղաշարժ՝ հիմնված գործակալի տրամաբանության վրա, այլ ոչ թե առաջարկը հաստատելու: 2. Ինքնավարության հավաքիչ. տրամաչափում վստահությունը առաջադեմ թույլտվությամբ Յուրաքանչյուր առողջ հարաբերություն ունի սահմաններ։ Ինքնավարության հավաքիչն այն է, թե ինչպես է օգտատերը հաստատում այն իր գործակալի հետ՝ սահմանելով, թե ինչն է իրեն հարմար գործակալի հետ ինքնուրույն վարվելու համար: Վստահությունը երկուական անջատիչ չէ. դա սպեկտր է: Օգտատերը կարող է վստահել գործակալին, որ ինքնավար լուծի ցածր ցցերի առաջադրանքները, բայց պահանջի լիարժեք հաստատում բարձր ցցերի որոշումների համար: Ինքնավարության հավաքիչը՝ առաջադեմ թույլտվության ձև, թույլ է տալիս օգտատերերին սահմանել գործակալի անկախության իրենց նախընտրելի մակարդակը՝ դարձնելով նրանց հարաբերությունների սահմանման ակտիվ մասնակից: Հոգեբանական հիմքը օգտատերերին թույլ տալով կարգավորել գործակալի ինքնավարությունը, նրանց տալիս է վերահսկողության վայր՝ թույլ տալով, որ նրանք համապատասխանեն համակարգի վարքագիծը իրենց անձնական ռիսկի հանդուրժողականությանը: ImplementationՍա կարող է իրականացվել որպես պարզ, հստակ պարամետր հավելվածի ներսում, իդեալականը յուրաքանչյուր առաջադրանքի տիպի հիման վրա: Օգտագործելով մեր առաջին հոդվածի տաքսոնոմիան, կարգավորումները կարող են լինել.
Դիտարկեք և առաջարկեք Ես ուզում եմ տեղեկանալ հնարավորությունների կամ խնդիրների մասին, բայց գործակալը երբեք պլան չի առաջարկի: Պլանավորել և առաջարկել Գործակալը կարող է պլաններ ստեղծել, բայց ես պետք է վերանայեմ յուրաքանչյուրը նախքան որևէ գործողություն ձեռնարկելը: Գործեք Confirmation-ով Ծանոթ առաջադրանքների համար գործակալը կարող է պատրաստել գործողություններ, և ես կտամ վերջնական գնալ/չգնալու հաստատում: Գործել ինքնավար Նախապես հաստատված առաջադրանքների համար (օրինակ՝ $50-ից ցածր գանձումների վիճարկում), գործակալը կարող է գործել ինքնուրույն և տեղեկացնել ինձ այդ փաստից հետո:
Էլփոստի օգնականը, օրինակ, կարող է ունենալ առանձին ինքնավար հավաքատեղ՝ օգտատիրոջ անունից նամակներ ուղարկելու փոխարեն հանդիպումների պլանավորման համար: Այս հստակությունը կարևոր է, քանի որ այն արտացոլում է օգտագործողի վստահության նրբերանգ իրականությունը: Ե՞րբ պետք է առաջնահերթություն տալ այս օրինակին Առաջնահերթություն տալ այն համակարգերում, որտեղ առաջադրանքները մեծապես տարբերվում են ռիսկերի և անձնական նախասիրությունների (օրինակ՝ ֆինանսական կառավարման գործիքներ, հաղորդակցման հարթակներ): Այն կարևոր է ներբեռնման համար՝ թույլ տալով օգտվողներին սկսել ցածր ինքնավարությամբ և ավելացնել այն, քանի որ նրանց վստահությունն աճում է: Բացթողման ռիսկ Առանց դրա, օգտվողները, ովքեր բախվում են մեկ ձախողման, ամբողջությամբ կհրաժարվեն գործակալից, այլ ոչ թե պարզապես հետ կհավաքեն նրա թույլտվությունները: Հաջողության չափումներ.
Trust DensityPercentage բաժանումը օգտատերերի մեկ պարամետրին (օրինակ՝ 20% Առաջարկել, 50% Հաստատել, 30% Ավտո): Կարգավորումների փոփոխությունների ChurnՔանակի կարգավորում / Ամսական ընդհանուր ակտիվ օգտագործողների թիվը: Բարձր շեղումը վկայում է վստահության մասինանկայունություն.
3. Բացատրելի հիմնավորում. պատասխանել ինչու: Գործողությունից հետո լավ գործընկերը բացատրում է իրենց պատճառաբանությունը: Այս օրինաչափությունը բաց հաղորդակցությունն է, որը հետևում է գործողությանը, պատասխանելով Ինչո՞ւ: նախքան դա նույնիսկ հարցնելը: «Ես դա արեցի, քանի որ դու նախկինում ինձ ասացիր, որ նախընտրում ես X-ը»: Երբ գործակալը գործում է, հատկապես ինքնավար կերպով, օգտվողի մտքում անմիջական հարց է առաջանում՝ ինչո՞ւ դա արեց: Բացատրելի ռացիոնալ օրինակը ակտիվորեն պատասխանում է այս հարցին՝ տրամադրելով գործակալի որոշումների հակիրճ հիմնավորումը: Սա տեխնիկական մատյան ֆայլ չէ: Այս շարքի իմ առաջին հոդվածում մենք քննարկեցինք համակարգի պրիմիտիվների թարգմանությունը օգտատերերի լեզվով` խաբեությունը կանխելու համար: Այս օրինաչափությունն այդ սկզբունքի գործնական կիրառումն է։ Այն փոխակերպում է հումքային տրամաբանությունը մարդու համար ընթեռնելի բացատրության՝ հիմնված օգտագործողի կողմից հայտարարված նախապատվությունների և նախնական մուտքերի վրա: Հոգեբանական հիմքը Երբ գործակալի գործողությունները բացատրելի են, դրանք ավելի շատ տրամաբանական են, քան պատահական, ինչը օգնում է օգտագործողին ստեղծել ճշգրիտ մտավոր մոդել, թե ինչպես է գործակալը մտածում: Արդյունավետ հիմնավորումներ.
Նախադեպի հիմքում Լավագույն բացատրությունները կապված են կանոնի, նախապատվության կամ նախնական գործողության հետ: Պարզ և DirectAvoid բարդ պայմանական տրամաբանություն: Օգտագործեք պարզ «Քանի որ դուք ասացիք X, ես արեցի Y» կառուցվածքը:
Վերադառնալով ճանապարհորդության օրինակին, չվերթի ինքնավար վերագրանցումից հետո օգտատերը կարող է տեսնել սա իր ծանուցումների հոսքում. Ես վերամրագրել եմ ձեր չեղարկված չվերթը: Նոր չվերթ՝ Delta 789, մեկնում է 14:30-ին: Ինչու ես այս գործողությունն արեցի. ձեր սկզբնական չվերթը չեղարկվել է ավիաընկերության կողմից: Դուք նախապես հաստատել եք ինքնավար վերամրագրում նույն օրվա, առանց կանգառի թռիչքների համար:[ Դիտել նոր երթուղին ] [ Հետարկել այս գործողությունը:
Հիմնավորումը պարզ է, պաշտպանելի և ամրապնդում է այն գաղափարը, որ գործակալը գործում է օգտագործողի կողմից սահմանված սահմաններում: Երբ պետք է առաջնահերթություն տալ այս ձևանմուշին Առաջնահերթություն տալ այն ցանկացած ինքնավար գործողության համար, որտեղ հիմնավորումն անմիջապես ակնհայտ չէ համատեքստից, հատկապես այն գործողությունների համար, որոնք տեղի են ունենում հետին պլանում կամ դրսևորվում են արտաքին իրադարձության հետևանքով (օրինակ՝ չվերթի չեղարկման օրինակը): Բացթողման ռիսկ Առանց դրա, օգտատերերը վավերական ինքնավար գործողությունները մեկնաբանում են որպես պատահական վարքագիծ կամ «սխալներ»՝ թույլ չտալով նրանց ճիշտ մտավոր մոդել ձևավորել: Հաջողության չափումներ.
Ինչո՞ւ։ Տոմսերի ծավալը Աջակցության տոմսերի քանակը՝ պիտակավորված «Գործակալի վարքագիծ — անհասկանալի» 1000 ակտիվ օգտագործողի հաշվով: Հիմնավորում Վավերացում Օգտատերերի տոկոսը, ովքեր բացատրությունը գնահատում են որպես «Օգտակար» միկրոհարցումներից հետո:
4. Վստահության ազդանշան Այս օրինաչափությունն այն մասին է, որ գործակալը հարաբերություններում ինքնագոհ է: Հաղորդելով իր սեփական վստահությունը՝ այն օգնում է օգտատիրոջը որոշել, թե երբ պետք է վստահի իր դատողություններին և երբ ավելի մանրակրկիտ ստուգում կատարի: Օգտատերերին օգնելու համար չափորոշել իրենց վստահությունը, գործակալը պետք է բացահայտի իր վստահությունն իր ծրագրերի և գործողությունների նկատմամբ: Սա գործակալի ներքին վիճակն ավելի ընթեռնելի է դարձնում և օգնում է օգտատիրոջը որոշել, թե երբ պետք է ավելի մանրամասն ուսումնասիրի որոշումը: Հոգեբանական հիմքը Մակերեւութային անորոշությունն օգնում է կանխել ավտոմատացման կողմնակալությունը՝ խրախուսելով օգտվողներին մանրակրկիտ ուսումնասիրել ցածր վստահության պլանները, այլ ոչ թե կուրորեն ընդունել դրանք: Իրականացում:
Վստահության միավոր Պարզ տոկոսը (օրինակ՝ վստահությունը՝ 95%) կարող է արագ, սկանավորվող ցուցիչ լինել: Գործակալի փորձաքննության տարածքի հստակ հայտարարությունը (օրինակ՝ շրջանակը. միայն ճամփորդական ամրագրումներ) օգնում է կառավարել օգտատերերի ակնկալիքները և թույլ չի տալիս նրանց խնդրել գործակալին կատարել առաջադրանքներ, որոնց համար նախատեսված չէ: Visual CuesA կանաչ նշանը կարող է նշանակել բարձր վստահություն, մինչդեռ դեղին հարցական նշանը կարող է ցույց տալ անորոշություն, ինչը հուշում է օգտվողին ավելի ուշադիր վերանայել:
Երբ պետք է առաջնահերթություն տալ այս օրինակին Առաջնահերթություն տալ, երբ գործակալի աշխատանքը կարող է զգալիորեն տարբերվել՝ ելնելով մուտքային տվյալների որակից կամ առաջադրանքի անորոշությունից: Այն հատկապես արժեքավոր է փորձագիտական համակարգերում (օրինակ՝ բժշկական օգնություններ, կոդի օգնականներ), որտեղ մարդը պետք է քննադատաբար գնահատի AI-ի արդյունքը: Բացթողման ռիսկ Առանց դրա, օգտվողները կդառնան ավտոմատացման կողմնակալության զոհ, կուրորեն ընդունելով ցածր վստահության հալյուցինացիաները կամ անհանգստությամբ կրկնակի ստուգելու բարձր վստահության աշխատանքը: Հաջողության չափումներ.
Calibration ScorePearson-ի հարաբերակցությունը մոդելի վստահության միավորի և օգտագործողների ընդունելության մակարդակի միջև: Թիրախ > 0.8. Ստուգման Delta Տարբերությունը ցածր վստահության պլանների և բարձր վստահության պլանների վերանայման միջին ժամանակի միջև: Ակնկալվում է, որ դրական կլինի (օրինակ՝ +12 վայրկյան):
5. Գործողությունների աուդիտ և չեղարկել. անվտանգության վերջնական ցանց Վստահությունը պահանջում է իմանալ, որ կարող ես վերականգնվել սխալից: The Undoգործառույթը հարաբերությունների անվտանգության վերջնական ցանցն է, որը հավաստիացնում է օգտագործողին, որ նույնիսկ եթե գործակալը սխալ է հասկանում, հետևանքները աղետալի չեն: Օգտատիրոջ վստահության ստեղծման միակ ամենահզոր մեխանիզմը գործակալի գործողությունները հեշտությամբ հակադարձելու ունակությունն է: Գործողությունների աուդիտի մշտական, հեշտ ընթեռնելի գրանցամատյանը՝ յուրաքանչյուր հնարավոր գործողության համար նշանավոր Հետարկել կոճակով, անվտանգության վերջնական ցանցն է: Դա կտրուկ նվազեցնում է ինքնավարության տրամադրման ընկալվող ռիսկը: Հոգեբանական հիմք Իմանալը, որ սխալը հեշտությամբ կարելի է վերացնել, ստեղծում է հոգեբանական անվտանգություն՝ խրախուսելով օգտվողներին հանձնարարել առաջադրանքները՝ չվախենալով անդառնալի հետևանքներից: Դիզայնի լավագույն փորձը.
Ժամանակագրական դիտում Գործակալի կողմից նախաձեռնված բոլոր գործողությունների ժամանակագրական մատյանը ամենաինտուիտիվ ձևաչափն է: Մաքրել կարգավիճակի ցուցիչները Ցույց տալ՝ արդյոք գործողությունը հաջող էր, ընթացքի մեջ է, թե հետարկված է: Ժամկետով սահմանափակված Չեղարկումներ Այն գործողությունների համար, որոնք որոշակի պահից հետո դառնում են անշրջելի (օրինակ՝ չվերադարձվող ամրագրում), միջերեսը պետք է հստակ հաղորդի այս ժամանակի պատուհանին (օրինակ՝ Հետարկելը հասանելի է 15 րոպեով): Համակարգի սահմանափակումների վերաբերյալ այս թափանցիկությունը նույնքան կարևոր է, որքան ինքնին չեղարկելու հնարավորությունը: Ազնիվ լինելն այն մասին, թե երբ է գործողությունը դառնում մշտական, վստահություն է ձևավորում:
Ե՞րբ պետք է առաջնահերթություն տալ այս օրինակին Սա հիմնարար օրինակ է, որը պետք է կիրառվի գրեթե բոլոր գործակալական համակարգերում: Դա բացարձակապես սակարկելի չէ, երբ ներդրվում է ինքնավար գործառույթներ կամ երբ սխալի արժեքը (ֆինանսական, սոցիալական կամ տվյալների հետ կապված) բարձր է: Բացթողման ռիսկ Առանց դրա, մեկ սխալը մշտապես ոչնչացնում է վստահությունը, քանի որ օգտվողները գիտակցում են, որ չունեն անվտանգության ցանց: Հաջողության չափումներ.
Վերադարձման արագություն Չեղարկված գործողություններ / Կատարված գործողությունների ընդհանուր թիվը: Եթե Reversion Rate > 5% կոնկրետ առաջադրանքի համար, անջատեք ավտոմատացումը այդ առաջադրանքի համար: Անվտանգության ցանցի փոխակերպում Օգտատերերի տոկոսը, ովքեր արդիականացրել են ինքնավար գործելու՝ Չեղարկել հաջողությամբ օգտագործելուց հետո 7 օրվա ընթացքում:
6. Էսկալացիայի ուղին. անորոշության նրբագեղ վարում Խելացի գործընկերը գիտի, թե երբ պետք է օգնություն խնդրել՝ գուշակելու փոխարեն: Այս օրինաչափությունը գործակալին թույլ է տալիս նրբանկատորեն կարգավորել երկիմաստությունը՝ ընդլայնելով օգտատիրոջը՝ դրսևորելով խոնարհություն, որը վստահություն է ստեղծում, այլ ոչ թե քայքայում: Նույնիսկ ամենաառաջադեմ գործակալը կբախվի այնպիսի իրավիճակների, երբ անորոշ է օգտատիրոջ մտադրության կամ գործողության լավագույն ընթացքի մասին: Թե ինչպես է այն վերաբերվում այս անորոշությանը, որոշիչ պահ է: Լավ մշակված գործակալը չի կռահում. այն սրվում է. Հոգեբանական հիմքեր Երբ գործակալն ընդունում է իր սահմանները, այլ ոչ թե գուշակում, նա վստահություն է ձևավորում՝ հարգելով օգտատիրոջ հեղինակությունը երկիմաստ իրավիճակներում: Էսկալացիայի օրինաչափությունները ներառում են.
Պարզաբանում ենք խնդրում «Դուք նշեցիք «հաջորդ երեքշաբթի»: Նկատի ունեք սեպտեմբերի 30-ը, թե՞ հոկտեմբերի 7-ը: Ներկայացնում ենք տարբերակներ «Ես գտա երեք չվերթ, որոնք համապատասխանում են ձեր չափանիշներին: Ո՞րն է ձեզ ամենալավը թվում»: Մարդկային միջամտության խնդրանք Բարձր ցցերի կամ խիստ երկիմաստ առաջադրանքների համար գործակալը պետք է հստակ ճանապարհ ունենա՝ կապելու մարդկային փորձագետի կամ օժանդակ գործակալի: Հուշումը կարող է լինել. «Այս գործարքը անսովոր է թվում, և ես վստահ չեմ, թե ինչպես շարունակել: Կցանկանա՞ք, որ սա նշեմ, որպեսզի մարդկային գործակալը վերանայի»:
Երբ պետք է առաջնահերթություն տալ այս օրինակին Առաջնահերթություն տալ այն տիրույթներում, որտեղ օգտատիրոջ մտադրությունը կարող է լինել երկիմաստ կամ խիստ կախված համատեքստից (օրինակ՝ բնական լեզվի փոխազդեցությունները, տվյալների բարդ հարցումները): Օգտագործեք սա, երբ գործակալը գործում է թերի տեղեկություններով կամ երբ կան մի քանի ճիշտ ուղիներ: Բացթողման ռիսկ Առանց դրա, գործակալն ի վերջո կանի վստահ, աղետալի գուշակություն, որը օտարում է օգտագործողին: Հաջողության չափումներ.
Escalation FrequencyAgent-ի հարցումներ օգնության համար / Ընդհանուր առաջադրանքներ: Առողջ միջակայք՝ 5-15%: Recovery Success RateTasks-ն ավարտված է Էսկալացիայից հետո / Ընդհանուր էսկալացիաներ: Թիրախ > 90%:
Կաղապար Լավագույնը Համար Առաջնային ռիսկ Հիմնական մետրիկ Մտադրության նախադիտում Անդառնալի կամ ֆինանսական գործողություններ Օգտագործողը դարանակալված է զգում >85% Ընդունման տոկոսադրույք Ինքնավարության հավաքում Ռիսկի փոփոխական մակարդակներով առաջադրանքներ Առանձնահատկությունների ամբողջական հրաժարում Churn-ի կարգավորում Բացատրելի հիմնավորում Ֆոնային կամ ինքնավար առաջադրանքներ Օգտագործողը սխալներ է ընկալում «Ինչո՞ւ»: Տոմսերի ծավալը Վստահության ազդանշան Փորձագիտական կամ բարձր ցցերի համակարգեր Ավտոմատացման կողմնակալություն Հետազոտություն Դելտա Գործողությունների աուդիտ և հետարկել Բոլոր գործակալական համակարգերը Վստահության մշտական կորուստ <5%Վերադարձի տոկոսադրույքը Էսկալացիայի ուղի Օգտվողի երկիմաստ մտադրությունը Վստահ, աղետալի ենթադրություններ >90% վերականգնման հաջողություն
Աղյուսակ 1. Agentic AI UX օրինաչափությունների ամփոփում: Հիշեք, որ չափումները կարգավորեք՝ հիմնվելով ձեր հատուկ տիրույթի ռիսկի և կարիքների վրա: Նախագծում վերանորոգման և փոխհատուցման համար Սա սովորում է, թե ինչպես արդյունավետ ներողություն խնդրել: Լավ ներողություն խնդրելն ընդունում է սխալը, ուղղում է վնասը և խոստանում դասեր քաղել դրանից: Սխալները հնարավոր չեն. դրանք անխուսափելի են։ Գործակալական համակարգի երկարաժամկետ հաջողությունը կախված է ավելի քիչ կատարյալ լինելու կարողությունից, և ավելի շատ՝ անհաջողության դեպքում նրբագեղ վերականգնվելու կարողությունից: Վերանորոգման և փոխհատուցման համար ամուր շրջանակը հիմնական հատկանիշն է, այլ ոչ թե հետագա մտածելակերպը: Էմպաթիկ ներողություն և հստակ վերականգնում Երբ գործակալը սխալ է թույլ տալիս, սխալի հաղորդագրությունը ներողություն է: Այն պետք է նախագծված լինի հոգեբանական ճշգրտությամբ։ Այս պահը կրիտիկական հնարավորություն է պատասխանատվություն դրսևորելու համար։ Ծառայությունների նախագծման տեսանկյունից, այստեղ ընկերությունները կարող են օգտագործել ծառայության վերականգնման պարադոքսը. այն երևույթը, երբ հաճախորդը, ով զգում է ծառայության ձախողում, որին հաջորդում է հաջող և կարեկից վերականգնումը, իրականում կարող է ավելի հավատարիմ դառնալ, քան այն հաճախորդը, ով երբեք չի ունեցել ձախողում: Լավ մշակված սխալը կարող է վստահության ամրապնդման ավելի հզոր իրադարձություն լինել, քան անթերի կատարման երկար պատմությունը: Հիմնական բանը սխալը վերաբերվելն է որպես հարաբերությունների խզման, որը պետք է շտկվի: Սա ներառում է.
Ընդունեք սխալը: Հաղորդագրությունը պետք է հստակ և պարզ նշի, որ սխալ է տեղի ունեցել: Օրինակ. Ես սխալ եմ փոխանցել միջոցները: Նշեք անհապաղ ուղղումը Անմիջապես հետևեք ուղղիչ գործողություններին: Օրինակ. Ապահովեք ուղի հետագա օգնության համար Միշտ առաջարկեք հստակ հղում դեպի մարդկային աջակցություն: Սա նվազեցնում է հիասթափությունը և ցույց է տալիս, որ կա հաշվետվողականության համակարգ բուն գործակալից դուրս:
Լավ մշակված վերանորոգման միջերեսը կարող է այսպիսի տեսք ունենալ. Մենք սխալ ենք թույլ տվել ձեր վերջին տեղափոխության հարցում: Ներողություն եմ խնդրում: Ես փոխանցել եմ $250 սխալ հաշվին:✔ Ուղղիչ գործողություն. փոխանցումը հետ է շրջվել, և ձեր 250 դոլարը վերադարձվել է: [Կապվեք աջակցության հետ]
Անվտանգ նորարարության համար կառավարման շարժիչի ստեղծում Վերևում նկարագրված դիզայնի օրինաչափությունները օգտատիրոջ առջև կանգնած հսկիչներ են, բայց դրանք չեն կարող արդյունավետ գործել առանց ամուր ներքին աջակցության կառուցվածքի: Խոսքը բյուրոկրատական խոչընդոտներ ստեղծելու մասին չէ. խոսքը ռազմավարական առավելություն ստեղծելու մասին է։ Հասուն կառավարման շրջանակ ունեցող կազմակերպությունը կարող է ավելի մեծ արագությամբ և վստահությամբ առաքել ավելի հավակնոտ գործակալական առանձնահատկություններ՝ իմանալով, որ առկա են անհրաժեշտ պաշտպանիչ գծերը՝ բրենդի ռիսկը մեղմելու համար: Կառավարման այս շարժիչը անվտանգությունը ստուգաթերթից վերածում է մրցակցային ակտիվի: Այս շարժիչը պետք է գործի որպես պաշտոնական կառավարման մարմին՝ Գործակալական AI էթիկայի խորհուրդ, որը բաղկացած է UX-ի, արտադրանքի և ճարտարագիտության բազմաֆունկցիոնալ դաշինքից՝ իրավական, համապատասխանության և աջակցության կենսական աջակցությամբ: Փոքր կազմակերպություններում այս «Խորհրդի» դերերը հաճախ փլուզվում են արտադրանքի, ճարտարագիտության և դիզայնի առաջատարների մեկ եռյակի մեջ: Կառավարման ստուգաթերթ
Իրավական/Համապատասխանություն Այս թիմը պաշտպանության առաջին գիծն է, որը երաշխավորում է, որ գործակալի հնարավոր գործողությունները մնան կարգավորող և իրավական սահմաններում: Նրանք օգնում են սահմանել ինքնավար գործողությունների համար դժվար արգելված գոտիները: Ապրանք Արտադրանքի մենեջերը գործակալի նպատակների կառավարիչն է: Նրանք սահմանում և վերահսկում են դրա գործառնական սահմանները պաշտոնական ինքնավարության քաղաքականության միջոցով, որը փաստում է, թե ինչ է գործակալը և ինչ չի թույլատրվում անել: Նրանց է պատկանում Գործակալների ռիսկերի ռեգիստրը: UX Research Այս թիմը օգտագործողի վստահության և անհանգստության ձայնն է: Նրանք պատասխանատու են կրկնվող գործընթացի համար՝ վստահության տրամաչափման ուսումնասիրություններ իրականացնելու, սխալ վարքագծի թեստերի և որակական հարցազրույցների համար՝ օգտատիրոջ կողմից գործակալի զարգացող մտավոր մոդելը հասկանալու համար: EngineeringԱյս թիմը կառուցում է վստահության տեխնիկական հիմքերը: Նրանք պետք է կառուցեն համակարգը ամուր գրանցման, մեկ սեղմումով հետարկել ֆունկցիոնալության և հստակ, բացատրելի հիմնավորումներ ստեղծելու համար անհրաժեշտ կեռիկների համար: Աջակցություն Այս թիմերը ձախողումների առաջին գծում են: Նրանք պետք է վերապատրաստվեն և սարքավորված լինեն գործակալների սխալների հետևանքով առաջացած միջադեպերը կարգավորելու համար, և նրանք պետք է ունենան ուղիղ հետադարձ կապի օղակ դեպի Էթիկայի խորհուրդ՝ իրական աշխարհի ձախողման օրինաչափությունների մասին զեկուցելու համար:
Այս կառավարման կառույցը պետք է պահպանի աԿենդանի փաստաթղթերի մի շարք, ներառյալ Գործակալների ռիսկերի գրանցամատյանը, որը ակտիվորեն բացահայտում է հնարավոր ձախողման եղանակները, գործողությունների աուդիտի գրանցամատյանները, որոնք պարբերաբար վերանայվում են, և ինքնավարության քաղաքականության պաշտոնական փաստաթղթերը: Որտեղ սկսել. փուլային մոտեցում արտադրանքի առաջնորդների համար Արտադրանքի մենեջերների և ղեկավարների համար գործակալական AI-ի ինտեգրումը կարող է թվալ որպես մոնումենտալ խնդիր: Հիմնական բանը դրան մոտենալն է ոչ թե որպես մեկ մեկնարկի, այլ որպես տեխնիկական հնարավորությունների և օգտագործողների վստահության զուգահեռ ձևավորման փուլային ճանապարհորդություն: Այս ճանապարհային քարտեզը թույլ է տալիս ձեր կազմակերպությանը սովորել և հարմարվել՝ ապահովելով, որ յուրաքանչյուր քայլ կառուցված է ամուր հիմքի վրա: Փուլ 1. Հիմնարար անվտանգություն (Առաջարկել և առաջարկել) Նախնական նպատակն է կառուցել վստահության հիմքը՝ առանց էական ինքնավար ռիսկերի: Այս փուլում գործակալի լիազորությունները սահմանափակվում են վերլուծություններով և առաջարկություններով:
Իրականացրեք ժայռի պինդ մտադրության նախադիտում. սա ձեր հիմնական փոխազդեցության մոդելն է: Օգտատերերին հարմարավետ դարձրեք այն գաղափարը, որ գործակալը ձևակերպում է պլաններ՝ միաժամանակ պահպանելով կատարման ամբողջական վերահսկողությունը: Կառուցեք Action Audit & Undo ենթակառուցվածքը. Նույնիսկ եթե գործակալը դեռ ինքնուրույն չի գործում, կառուցեք տեխնիկական փայտամածները հատումների և հետադարձման համար: Սա պատրաստում է ձեր համակարգը ապագայի համար և ստեղծում է օգտատերերի վստահությունը, որ գոյություն ունի անվտանգության ցանց:
Փուլ 2. Կալիբրացված ինքնավարություն (գործել հաստատմամբ) Երբ օգտատերերը հարմար են գործակալի առաջարկներին, կարող եք սկսել ցածր ռիսկային ինքնավարություն ներմուծել: Այս փուլը օգտատերերին սովորեցնելն է, թե ինչպես է մտածում գործակալը և թույլ տալ, որ նրանք սահմանեն իրենց սեփական տեմպը:
Ներդրեք ինքնավարության հավաքիչը սահմանափակ կարգավորումներով. սկսեք թույլ տալով օգտվողներին տրամադրել գործակալին հաստատման հետ գործելու լիազորություն: Գործարկել բացատրելի հիմնավորումը. գործակալի պատրաստած յուրաքանչյուր գործողության համար հստակ բացատրություն տվեք: Սա ապագաղտնազերծում է գործակալի տրամաբանությունը և ամրացնում, որ այն գործում է օգտատիրոջ սեփական նախասիրությունների հիման վրա:
Փուլ 3. ակտիվ պատվիրակություն (գործել ինքնավար) Սա վերջին քայլն է, որն արվում է միայն այն բանից հետո, երբ դուք ունեք հստակ տվյալներ նախորդ փուլերից, որոնք ցույց են տալիս, որ օգտվողները վստահում են համակարգին:
Միացնել Գործել Ինքնավարությունը հատուկ, նախապես հաստատված առաջադրանքների համար. օգտագործեք 2-րդ փուլի տվյալները (օրինակ՝ Շարունակելու բարձր դրույքաչափերը, Հետարկման ցածր դրույքաչափերը)՝ բացահայտելու ցածր ռիսկային առաջադրանքների առաջին խումբը, որը կարող է լիովին ավտոմատացվել: Մոնիտորինգ և կրկնում. Ինքնավար գործառույթների գործարկումը ոչ թե վերջն է, այլ աշխատանքի մոնիտորինգի, օգտատերերի կարծիքների հավաքագրման և իրական աշխարհի տվյալների վրա հիմնված գործակալի շրջանակի և վարքագծի ճշգրտման շարունակական ցիկլի սկիզբը:
Դիզայնը որպես անվտանգության վերջնական լծակ Գործակալական AI-ի ի հայտ գալը նոր սահման է մարդ-համակարգիչ փոխգործակցության մեջ: Այն խոստանում է ապագա, որտեղ տեխնոլոգիաները կարող են ակտիվորեն նվազեցնել մեր բեռները և պարզեցնել մեր կյանքը: Բայց այս իշխանությունը գալիս է խորը պատասխանատվությամբ: Ինքնավարությունը տեխնիկական համակարգի արդյունք է, բայց վստահելիությունը նախագծման գործընթացի արդյունք է: Մեր խնդիրն է ապահովել, որ օգտատերերի փորձը ոչ թե տեխնիկական հնարավորությունների զոհ լինի, այլ դրա հիմնական շահառուն: Որպես UX մասնագետներ, արտադրանքի մենեջերներ և առաջնորդներ, մեր դերն է հանդես գալ որպես այդ վստահության կառավարիչներ: Կիրառելով վերահսկման և համաձայնության նախագծման հստակ օրինաչափություններ, նախագծելով վերանորոգման համար մտածված ուղիներ և կառուցելով կառավարման ամուր շրջանակներ՝ մենք ստեղծում ենք անվտանգության հիմնական լծակները, որոնք կենսունակ են դարձնում գործակալական AI-ն: Մենք պարզապես ինտերֆեյսներ չենք նախագծում. մենք ճարտարապետում ենք հարաբերությունները: AI-ի օգտակարության և ընդունման ապագան կախված է այս բարդ համակարգերը խելամտությամբ, հեռատեսությամբ և օգտագործողի վերջնական հեղինակության հանդեպ խորը հարգանքով նախագծելու մեր կարողության վրա:
