Agentic AI-ն պատրաստ է փոխակերպել հաճախորդների փորձը և գործառնական արդյունավետությունը՝ պահանջելով ղեկավարության կողմից նոր ռազմավարական մոտեցում: Արհեստական ինտելեկտի այս էվոլյուցիան համակարգերին հնարավորություն է տալիս պլանավորել, կատարել և շարունակել առաջադրանքները՝ անցնելով պարզ առաջարկություններից և անցնելով ակտիվ գործողությունների: UX թիմերի, արտադրանքի մենեջերների և ղեկավարների համար այս տեղաշարժը հասկանալը կարևոր է նորարարության հնարավորությունները բացելու, աշխատանքային հոսքերը պարզեցնելու և տեխնոլոգիաները մարդկանց սպասարկելու վերասահմանման համար: Հեշտ է Agentic AI-ն շփոթել Robotic Process Automation-ի (RPA) հետ, որը տեխնոլոգիա է, որը կենտրոնանում է համակարգիչների վրա կատարվող կանոնների վրա հիմնված առաջադրանքների վրա: Տարբերությունը կայանում է կոշտության և հիմնավորման մեջ: ՀՀԿ-ն հիանալի կերպով հետևում է խիստ սցենարին. եթե X պատահի, արա Y: Դա նմանակում է մարդու ձեռքերին: Գործակալական AI-ն ընդօրինակում է մարդկային բանականությունը: Այն չի հետևում գծային գրությանը. այն ստեղծում է մեկը: Մտածեք հավաքագրման աշխատանքային հոսքը: ՀՀԿ-ի բոտը կարող է սկանավորել ռեզյումեն և վերբեռնել այն տվյալների բազա: Այն հիանալի կատարում է կրկնվող առաջադրանքը: Գործակալական համակարգը նայում է ռեզյումեն, նկատում է, որ թեկնածուն թվարկում է որոշակի հավաստագիր, խաչաձև հղումներ է անում հաճախորդի նոր պահանջի հետ և որոշում է մշակել անհատականացված էլեկտրոնային նամակ՝ ընդգծելով այդ համընկնումը: ՀՀԿ-ն իրականացնում է նախապես սահմանված պլան. Agentic AI-ն ձևակերպում է պլանը՝ հիմնվելով նպատակի վրա: Այս ինքնավարությունը բաժանում է գործակալներին այն կանխատեսող գործիքներից, որոնք մենք օգտագործել ենք վերջին տասնամյակի ընթացքում: Մեկ այլ օրինակ է հանդիպումների կոնֆլիկտների կառավարումը: Ձեր օրացույցում ինտեգրված կանխատեսող մոդելը կարող է վերլուծել ձեր հանդիպումների ժամանակացույցը և ձեր գործընկերների ժամանակացույցերը: Այնուհետև այն կարող է առաջարկել պոտենցիալ կոնֆլիկտներ, ինչպես, օրինակ, երկու կարևոր հանդիպումներ, որոնք նախատեսված են միաժամանակ, կամ հանդիպում, որը նախատեսված է, երբ հիմնական մասնակիցը արձակուրդում է: Այն ձեզ տեղեկատվություն է տրամադրում և նշում է հնարավոր խնդիրները, բայց դուք պատասխանատու եք գործողությունների համար: Գործակալական արհեստական ինտելեկտը, նույն սցենարով, կգերազանցի միայն հակամարտություններից խուսափելու առաջարկը: Հիմնական մասնակցի հետ կոնֆլիկտ հայտնաբերելուց հետո գործակալը կարող է գործել հետևյալ կերպ.
Բոլոր անհրաժեշտ մասնակիցների հասանելիության ստուգում: Այլընտրանքային ժամերի նույնականացում, որոնք աշխատում են բոլորի համար: Առաջարկվող նոր հանդիպման հրավերների ուղարկում բոլոր ներկաներին: Եթե կոնֆլիկտը արտաքին մասնակցի հետ է, գործակալը կարող է ձևակերպել և ուղարկել նամակ՝ բացատրելով վերապլանավորելու անհրաժեշտությունը և առաջարկելով այլընտրանքային ժամեր: Ձեր օրացույցը և ձեր գործընկերների օրացույցները թարմացվում են հանդիպման նոր մանրամասներով, որոնք հաստատվելուց հետո:
Այս գործակալական AI-ն հասկանում է նպատակը (հանդիպման կոնֆլիկտի լուծում), պլանավորում է քայլերը (ստուգում հասանելիությունը, այլընտրանքներ գտնելը, հրավերներ ուղարկելը), կատարում է այդ քայլերը և շարունակվում է մինչև հակամարտությունը լուծվի, այս ամենը օգտատիրոջ անմիջական անմիջական միջամտությամբ: Սա ցույց է տալիս «գործակալական» տարբերությունը. համակարգը օգտատիրոջ համար ձեռնարկում է ակտիվ քայլեր, այլ ոչ թե պարզապես տեղեկատվություն տրամադրելու օգտատիրոջը: Գործակալական AI համակարգերը հասկանում են նպատակը, պլանավորում են մի շարք քայլեր դրան հասնելու համար, կատարում են այդ քայլերը և նույնիսկ հարմարվում, եթե ամեն ինչ սխալ է ընթանում: Մտածեք դրա մասին որպես ակտիվ թվային օգնական: Հիմքում ընկած տեխնոլոգիան հաճախ համատեղում է մեծ լեզվական մոդելները (LLM)՝ հասկանալու և պատճառաբանելու համար, պլանավորման ալգորիթմներով, որոնք բաժանում են բարդ առաջադրանքները կառավարելի գործողությունների: Այս գործակալները կարող են փոխազդել տարբեր գործիքների, API-ների և նույնիսկ այլ արհեստական ինտելեկտի մոդելների հետ՝ իրենց նպատակներին հասնելու համար, և քննադատաբար՝ նրանք կարող են պահպանել կայուն վիճակ, այսինքն՝ հիշում են նախորդ գործողությունները և ժամանակի ընթացքում շարունակում են աշխատել նպատակին հասնելու համար: Սա նրանց սկզբունքորեն տարբերում է տիպիկ գեներատիվ AI-ից, որը սովորաբար կատարում է մեկ հարցում և այնուհետև վերակայում: Գործակալական վարքագծի պարզ տաքսոնոմիա Մենք կարող ենք գործակալի վարքագիծը դասակարգել ինքնավարության չորս տարբեր եղանակների: Թեև դրանք հաճախ նման են առաջընթացի, նրանք գործում են որպես անկախ գործող ռեժիմներ: Օգտատերը կարող է վստահել գործակալին, որ նա ինքնուրույն գործի ժամանակացույցի համար, բայց այն պահի «առաջարկի ռեժիմում» ֆինանսական գործարքների համար: Մենք ստացանք այս մակարդակները՝ հարմարեցնելով ինքնավար մեքենաների արդյունաբերության ստանդարտները (SAE մակարդակներ) թվային օգտագործողների փորձի համատեքստերին: Դիտարկել-առաջարկել Գործակալը գործում է որպես մոնիտոր: Այն վերլուծում է տվյալների հոսքերը և նշում անոմալիաները կամ հնարավորությունները, բայց ձեռնարկում է զրոյական գործողություն: Տարբերակում Ի տարբերություն հաջորդ մակարդակի, գործակալը չի ստեղծում բարդ պլան: Դա մատնանշում է մի խնդիր. Օրինակ A DevOps գործակալը նկատում է սերվերի պրոցեսորի աճ և ահազանգում է ինժեներին: Նա չգիտի, թե ինչպես կամ փորձում է ուղղել այն, բայց գիտի, որ ինչ-որ բան այն չէ: Դիզայնի և վերահսկողության հետևանքները այս մակարդակում,Դիզայնը և վերահսկողությունը պետք է առաջնահերթ լինեն հստակ, ոչ ներխուժող ծանուցումներին և օգտատերերի համար առաջարկների հիման վրա գործելու հստակ սահմանված գործընթացին: Ուշադրության կենտրոնում է օգտատիրոջը ժամանակին և համապատասխան տեղեկատվություն տրամադրելը առանց վերահսկողության տակ առնելու: UX պրակտիկանտները պետք է կենտրոնանան առաջարկները պարզ և հասկանալի դարձնելու վրա, մինչդեռ արտադրանքի կառավարիչները պետք է ապահովեն, որ համակարգը արժեք է տալիս՝ առանց օգտագործողին ճնշելու: Պլանավորել և առաջարկել Գործակալը բացահայտում է նպատակը և ստեղծում է բազմաքայլ ռազմավարություն դրան հասնելու համար: Այն ներկայացնում է մարդկային վերանայման ամբողջական պլանը: Տարբերակում Գործակալը հանդես է գալիս որպես ստրատեգ: Այն չի իրականացվում; այն սպասում է ամբողջ մոտեցման հաստատմանը: ՕրինակՆույն DevOps գործակալը նկատում է պրոցեսորի աճը, վերլուծում է տեղեկամատյանները և առաջարկում վերականգնման ծրագիր.
Պտտեք երկու լրացուցիչ օրինակ: Վերագործարկեք բեռի հավասարակշռիչը: Արխիվացնել հին տեղեկամատյանները:
Մարդը վերանայում է տրամաբանությունը և սեղմում «Հաստատել պլանը»: Դիզայնի և վերահսկողության հետևանքները Գործակալների համար, ովքեր պլանավորում և առաջարկում են, դիզայնը պետք է ապահովի, որ առաջարկվող պլանները հեշտությամբ հասկանալի են, և որ օգտվողներն ունեն դրանք փոփոխելու կամ մերժելու ինտուիտիվ եղանակներ: Վերահսկողությունը կարևոր է առաջարկների որակի և գործակալի պլանավորման տրամաբանության մոնիտորինգի համար: UX պրակտիկանտները պետք է նախագծեն առաջարկվող պլանների հստակ պատկերացումներ, իսկ արտադրանքի ղեկավարները պետք է հստակ վերանայման և հաստատման աշխատանքային հոսքեր սահմանեն: Գործել հաստատման հետ Գործակալն ավարտում է բոլոր նախապատրաստական աշխատանքները և վերջնական գործողությունը դնում բեմական վիճակում: Այն արդյունավետորեն բաց է պահում դուռը՝ սպասելով գլխի նշանի: ՏարբերակումՍա տարբերվում է «Պլանավորել և առաջարկել»-ից, քանի որ աշխատանքն արդեն կատարված և բեմադրված է: Այն նվազեցնում է շփումը: Օգտագործողը հաստատում է արդյունքը, ոչ թե ռազմավարությունը: Օրինակ Մի հավաքագրող գործակալը կազմում է հինգ հարցազրույցի հրավեր, գտնում է բաց ժամերը օրացույցներում և ստեղծում օրացույցային իրադարձությունները: Այն ներկայացնում է «Ուղարկել բոլորը» կոճակը: Օգտագործողը վերջնական թույլտվություն է տալիս արտաքին գործողությունը գործարկելու համար: Դիզայնի և վերահսկողության հետևանքները Երբ գործակալները գործում են հաստատումով, դիզայնը պետք է տրամադրի նախատեսված գործողության թափանցիկ և հակիրճ ամփոփումներ՝ հստակ ուրվագծելով հնարավոր հետևանքները: Վերահսկողությունը պետք է ստուգի, որ հաստատման գործընթացը կայուն է, և որ օգտատերերին չի պահանջվում կուրորեն հաստատել գործողությունները: UX պրակտիկանտները պետք է նախագծեն հաստատման հուշումներ, որոնք հստակ են և տրամադրում են բոլոր անհրաժեշտ տեղեկությունները, իսկ արտադրանքի կառավարիչները պետք է առաջնահերթություն դնեն հաստատված աուդիտի հետքը բոլոր հաստատված գործողությունների համար: Գործել-ինքնավար Գործակալը առաջադրանքները կատարում է ինքնուրույն՝ սահմանված սահմաններում: ՏարբերակումՕգտատերը վերանայում է գործողությունների պատմությունը, այլ ոչ թե բուն գործողությունները: Օրինակ Հավաքագրող գործակալը տեսնում է կոնֆլիկտ, հարցազրույցը տեղափոխում է պահուստային տեղ, թարմացնում է թեկնածուին և ծանուցում վարձող մենեջերին: Մարդը միայն ծանուցում է տեսնում. հարցազրույցը հետաձգվել է երեքշաբթի: Դիզայնի և վերահսկողության հետևանքները Ինքնավար գործակալների համար դիզայնը պետք է սահմանի հստակ նախապես հաստատված սահմաններ և ապահովի մոնիտորինգի կայուն գործիքներ: Վերահսկողությունը պահանջում է գործակալի կատարողականի շարունակական գնահատում այս սահմաններում, խիստ անհրաժեշտ հատումներ, հստակ հաղթահարման մեխանիզմներ և օգտագործողի կողմից սահմանված սպանիչ անջատիչներ՝ օգտատիրոջ վերահսկողությունն ու վստահությունը պահպանելու համար: UX պրակտիկանտները պետք է կենտրոնանան ինքնավար գործակալների վարքագծի մոնիտորինգի համար արդյունավետ վահանակների նախագծման վրա, իսկ արտադրանքի ղեկավարները պետք է ապահովեն հստակ կառավարման և էթիկական ուղեցույցների առկայությունը:
Եկեք նայենք HR տեխնոլոգիայի իրական աշխարհի հավելվածին, որպեսզի տեսնենք այս ռեժիմները գործողության մեջ: Մտածեք «Հարցազրույցի համակարգող գործակալի» մասին, որը նախատեսված է աշխատանքի ընդունելու նյութատեխնիկական ապահովման համար:
Առաջարկելու ռեժիմում Գործակալը նկատում է, որ հարցազրուցավարը կրկնակի ամրագրված է: Այն ընդգծում է հավաքագրողի վահանակի կոնֆլիկտը. «Զգուշացում. Սառան կրկնակի ամրագրված է ժամը 14-ին հարցազրույցի համար»: Պլանի ռեժիմում գործակալը վերլուծում է Սառայի օրացույցը և թեկնածուի հասանելիությունը: Այն ներկայացնում է լուծում. «Ես խորհուրդ եմ տալիս հարցազրույցը տեղափոխել հինգշաբթի, ժամը 10:00: Սա պահանջում է տեղափոխել Սառայի 1:1-ը իր մենեջերի հետ»: Հավաքագրողը վերանայում է այս տրամաբանությունը: Հաստատման ռեժիմում Գործակալը նամակներ է գրում թեկնածուին և ղեկավարին: Այն լրացնում է օրացույցի հրավերները: Հավաքագրողը տեսնում է ամփոփագիր. «Պատրա՞ստ եք տեղափոխել հինգշաբթի: Ուղարկե՞լ թարմացումներ»: Հավաքագրողը սեղմում է «Հաստատել»: Ինքնավար ռեժիմում գործակալն անմիջապես լուծում է հակամարտությունը: Այն հարգում է նախապես սահմանված կանոնը. «Միշտ առաջնահերթություն տվեք թեկնածուների հարցազրույցներին ներքին 1:1-ի փոխարեն»: Այն տեղափոխում է հանդիպումը և ուղարկում ծանուցումները: Հավաքագրողը տեսնում է գրանցամատյանում գրառում. «Լուծված էժամանակացույցի հակասություն թեկնածու Բ-ի համար»:
Հետազոտական այբբենարան. Ինչ ուսումնասիրել և ինչպես Արդյունավետ գործակալական AI-ի մշակումը պահանջում է հստակ հետազոտական մոտեցում՝ համեմատած ավանդական ծրագրաշարի կամ նույնիսկ գեներացնող AI-ի հետ: AI գործակալների ինքնավար բնույթը, որոշումներ կայացնելու նրանց կարողությունը և ակտիվ գործողությունների ներուժը պահանջում են հատուկ մեթոդոլոգիաներ՝ հասկանալու օգտատերերի սպասումները, քարտեզագրելու բարդ գործակալների վարքագիծը և կանխատեսելու հնարավոր ձախողումները: Հետևյալ հետազոտական այբբենարանը ուրվագծում է գործակալական AI-ի այս եզակի ասպեկտները չափելու և գնահատելու հիմնական մեթոդները: Մտավոր-մոդելային հարցազրույցներ Այս հարցազրույցները բացահայտում են օգտատերերի կանխակալ պատկերացումներն այն մասին, թե ինչպես պետք է իրեն պահի AI գործակալը: Ուղղակի հարցնելու փոխարեն, թե ինչ են ուզում օգտատերերը, կենտրոնանում է գործակալի հնարավորությունների և սահմանափակումների իրենց ներքին մոդելները հասկանալու վրա: Պետք է խուսափել մասնակիցների հետ «գործակալ» բառն օգտագործելուց։ Այն կրում է գիտաֆանտաստիկ ուղեբեռ կամ տերմին է, որը շատ հեշտությամբ շփոթվում է աջակցություն կամ ծառայություններ առաջարկող մարդկային գործակալի հետ: Փոխարենը, քննարկումը շրջանակեք «օգնականների» կամ «համակարգի» շուրջ։ Մենք պետք է բացահայտենք, թե որտեղ են օգտվողները սահմանում օգտակար ավտոմատացման և ներխուժող հսկողության միջև:
Մեթոդ. Խնդրեք օգտվողներին նկարագրել, նկարել կամ պատմել գործակալի հետ իրենց ակնկալվող փոխազդեցությունները տարբեր հիպոթետիկ սցենարներում: Հիմնական զոնդերը (արտացոլում են մի շարք ոլորտներ). Ցանկալի ավտոմատացման սահմանները և գերավտոմատացման շուրջ հնարավոր անհանգստությունները հասկանալու համար հարցրեք. Եթե ձեր չվերթը չեղարկվի, ի՞նչ կցանկանայիք, որ համակարգը ավտոմատ կերպով անի: Ի՞նչը կարող է անհանգստացնել ձեզ, եթե դա աներ առանց ձեր հստակ ցուցումների:
Գործակալի ներքին գործընթացների և անհրաժեշտ հաղորդակցության մասին օգտագործողի պատկերացումներն ուսումնասիրելու համար հարցրեք. Պատկերացրեք, որ թվային օգնականը կառավարում է ձեր խելացի տունը: Եթե փաթեթը առաքվում է, ի՞նչ քայլեր եք պատկերացնում այն, և ի՞նչ տեղեկատվություն եք ակնկալում ստանալ:
Բազմաստիճան գործընթացի ընթացքում վերահսկողության և համաձայնության շուրջ ակնկալիքները բացահայտելու համար հարցրեք. Եթե խնդրեք ձեր թվային օգնականին նշանակել հանդիպում, ի՞նչ քայլեր եք պատկերացնում այն: Ո՞ր կետերում կցանկանայիք ձեզ հետ խորհրդակցել կամ ընտրություն կատարել:
Մեթոդի առավելությունները. Բացահայտում է անուղղակի ենթադրություններ, ընդգծում այն ոլորտները, որտեղ գործակալի ծրագրված վարքագիծը կարող է տարբերվել օգտատերերի ակնկալիքներից, և տեղեկացնում է համապատասխան վերահսկողության և հետադարձ կապի մեխանիզմների նախագծման մասին:
Գործակալի ճանապարհորդության քարտեզագրում. Օգտագործողի ճանապարհորդության ավանդական քարտեզագրման նման, գործակալի ճանապարհորդության քարտեզագրումը հատուկ կենտրոնանում է AI գործակալի ակնկալվող գործողությունների և որոշումների կետերի վրա՝ կողքին օգտագործողի փոխազդեցությանը: Սա օգնում է ակտիվորեն բացահայտել հնարավոր որոգայթները:
Մեթոդ. Ստեղծեք տեսողական քարտեզ, որը ուրվագծում է գործակալի գործունեության տարբեր փուլերը՝ սկզբից մինչև ավարտը, ներառյալ բոլոր հնարավոր գործողությունները, որոշումները և արտաքին համակարգերի կամ օգտագործողների հետ փոխազդեցությունները: Քարտեզի հիմնական տարրերը. Գործակալի գործողություններ. Ի՞նչ կոնկրետ խնդիրներ կամ որոշումներ է կատարում գործակալը: Տեղեկատվության մուտքեր/ելքեր. ի՞նչ տվյալներ են անհրաժեշտ գործակալին, և ի՞նչ տեղեկատվություն է այն ստեղծում կամ հաղորդում: Որոշման կետեր. Որտե՞ղ է գործակալը ընտրություն կատարում, և որո՞նք են այդ ընտրությունների չափանիշները: Օգտատիրոջ փոխազդեցության կետեր. որտե՞ղ է օգտատերը մուտքագրում, վերանայում կամ հաստատում գործողությունները: Ձախողման կետեր. Շատ կարևոր է բացահայտել կոնկրետ դեպքեր, երբ գործակալը կարող է սխալ մեկնաբանել հրահանգները, սխալ որոշում կայացնել կամ շփվել սխալ կազմակերպության հետ: Օրինակներ՝ սխալ ստացող (օրինակ՝ զգայուն տեղեկություններ սխալ անձի ուղարկելը), օվերդրաֆտ (օրինակ՝ հասանելի միջոցները գերազանցող ավտոմատ վճարում), մտադրության սխալ մեկնաբանություն (օրինակ՝ ոչ միանշանակ լեզվի պատճառով սխալ ամսաթվով թռիչքի ամրագրում):
Վերականգնման ուղիներ. Ինչպե՞ս կարող է գործակալը կամ օգտագործողը վերականգնել այս անհաջողություններից: Ի՞նչ մեխանիզմներ են գործում ուղղման կամ միջամտության համար:
Մեթոդի առավելությունները. Ապահովում է գործակալի գործառնական հոսքի ամբողջական պատկերացում, բացահայտում է թաքնված կախվածությունները և թույլ է տալիս կանխարգելիչ միջոցների ակտիվ նախագծում, սխալների մշակում և օգտագործողի միջամտության կետեր՝ կանխելու կամ մեղմելու բացասական արդյունքները:
Սիմուլացված սխալ վարքագծի թեստավորում. Այս մոտեցումը նախատեսված է համակարգը սթրես-թեստավորելու և օգտագործողների արձագանքները դիտարկելու համար, երբ AI գործակալը ձախողվում է կամ շեղվում է սպասելիքներից: Դա անբարենպաստ իրավիճակներում վստահության վերականգնման և հուզական արձագանքների ըմբռնման մասին է:
Մեթոդ. Վերահսկվող լաբորատոր հետազոտություններում դիտավորյալ ներկայացրեք այնպիսի սցենարներ, որտեղ գործակալը սխալ է թույլ տալիս, սխալ է մեկնաբանում հրամանը կամ իրեն անսպասելի է պահում: Մոդելավորվող «վատ վարքագծի» տեսակները. ՀրամանՍխալ մեկնաբանում. Գործակալը կատարում է մի գործողություն, որը մի փոքր տարբերվում է օգտատիրոջ մտադրությունից (օրինակ՝ պատվիրում է երկու ապրանք մեկի փոխարեն): Տեղեկատվության գերբեռնվածություն/թերբեռնում. գործակալը տրամադրում է չափազանց շատ անտեղի տեղեկատվություն կամ ոչ բավարար կարևոր մանրամասներ: Չպահանջված գործողություն. Գործակալը կատարում է մի գործողություն, որն օգտատերը բացահայտորեն չէր ցանկանում կամ չէր սպասում (օրինակ՝ բաժնետոմսերի գնում առանց հաստատման): Համակարգի ձախողում. գործակալը խափանում է, չի արձագանքում կամ սխալի հաղորդագրություն է տալիս: Էթիկական երկընտրանքներ. Գործակալը որոշում է կայացնում էթիկական հետևանքներով (օրինակ՝ մի առաջադրանքը մյուսի նկատմամբ առաջնահերթություն տալով՝ չնախատեսված չափման հիման վրա):
Դիտարկման կենտրոնացում. Օգտագործողի արձագանքներ. Ինչպե՞ս են օգտվողները արձագանքում զգացմունքային (հիասթափություն, զայրույթ, շփոթություն, վստահության կորուստ): Վերականգնման փորձեր. ի՞նչ քայլեր են ձեռնարկում օգտատերերը՝ գործակալի պահվածքը շտկելու կամ նրա գործողությունները չեղարկելու համար: Վստահության վերանորոգման մեխանիզմներ. Արդյո՞ք համակարգի ներկառուցված վերականգնման կամ հետադարձ կապի մեխանիզմները օգնում են վերականգնել վստահությունը: Ինչպե՞ս են օգտվողները ցանկանում տեղեկացված լինել սխալների մասին: Մտավոր մոդելի փոփոխություն. սխալ վարքագիծը փոխո՞ւմ է օգտատիրոջ ըմբռնումը գործակալի հնարավորությունների կամ սահմանափակումների մասին:
Մեթոդի առավելությունները. Կարևոր է նախագծային բացերը հայտնաբերելու համար, որոնք կապված են սխալների վերականգնման, հետադարձ կապի և օգտագործողի վերահսկողության հետ: Այն տալիս է պատկերացումներ այն մասին, թե որքան դիմացկուն են օգտվողները գործակալների ձախողումների նկատմամբ և ինչ է անհրաժեշտ վստահությունը պահպանելու կամ վերակառուցելու համար՝ հանգեցնելով ավելի ամուր և ներողամիտ գործակալական համակարգերի:
Ինտեգրելով այս հետազոտական մեթոդաբանությունները՝ UX պրակտիկանտները կարող են անցնել միայն գործակալական համակարգերը օգտագործելի դարձնելուց՝ դրանք վստահելի, վերահսկելի և հաշվետու դարձնելու համար՝ նպաստելով օգտատերերի և նրանց AI գործակալների միջև դրական և արդյունավետ հարաբերություններին: Նկատի ունեցեք, որ սրանք միակ մեթոդները չեն, որոնք վերաբերում են գործակալական AI արդյունավետ ուսումնասիրությանը: Գոյություն ունեն շատ այլ մեթոդներ, բայց դրանք առավել հասանելի են պրակտիկանտներին մոտ ապագայում: Ես նախկինում անդրադարձել եմ Օզի հրաշագործ մեթոդին, կոնցեպտի փորձարկման մի փոքր ավելի առաջադեմ մեթոդ, որը նաև արժեքավոր գործիք է ինտելեկտուալ արհեստական ինտելեկտի գաղափարները ուսումնասիրելու համար: Էթիկական նկատառումներ հետազոտության մեթոդաբանության մեջ Գործակալական արհեստական ինտելեկտը հետազոտելիս, հատկապես սխալ վարքագծի կամ սխալների նմանակման ժամանակ, կարևոր է հաշվի առնել էթիկական նկատառումները: Կան բազմաթիվ հրապարակումներ, որոնք կենտրոնանում են էթիկական UX հետազոտության վրա, ներառյալ մի հոդված, որը ես գրել եմ Smashing Magazine-ի համար, այս ուղեցույցները UX դիզայնի ինստիտուտից և այս էջը ներառական դիզայնի գործիքակազմից: Հիմնական չափումներ գործակալական AI-ի համար Գործակալական AI համակարգերի արդյունավետությունն ու հուսալիությունը արդյունավետ գնահատելու համար ձեզ անհրաժեշտ կլինի հիմնական չափորոշիչների համապարփակ փաթեթ: Այս չափիչները պատկերացումներ են տալիս օգտատերերի վստահության, համակարգի ճշգրտության և ընդհանուր օգտագործողի փորձի վերաբերյալ: Հետևելով այս ցուցանիշներին՝ մշակողները և դիզայներները կարող են բացահայտել բարելավման ենթակա ոլորտները և ապահովել, որ AI գործակալներն անվտանգ և արդյունավետ գործեն: 1. Միջամտության մակարդակը Ինքնավար գործակալների համար մենք հաջողությունը չափում ենք լռությամբ: Եթե գործակալը կատարում է առաջադրանք, և օգտատերը չի միջամտում կամ չի հակադարձում գործողությունը սահմանված պատուհանում (օրինակ՝ 24 ժամ), մենք դա համարում ենք ընդունում: Մենք հետևում ենք միջամտության դրույքաչափին. որքա՞ն հաճախ է մարդը ներխուժում գործակալին կանգնեցնելու կամ ուղղելու համար: Միջամտության բարձր տոկոսադրույքը վկայում է վստահության կամ տրամաբանության սխալ դասավորության մասին: 2. Չնախատեսված գործողությունների հաճախականությունը 1000 առաջադրանքների համար Այս կրիտիկական չափիչը քանակականացնում է AI գործակալի կողմից կատարված գործողությունների քանակը, որոնք ցանկալի կամ ակնկալված չէին օգտագործողի կողմից՝ նորմալացված 1000 կատարված առաջադրանքների համար: Չնախատեսված գործողությունների ցածր հաճախականությունը նշանակում է լավ դասավորված AI, որը ճշգրիտ մեկնաբանում է օգտագործողի մտադրությունը և գործում է սահմանված սահմաններում: Այս չափանիշը սերտորեն կապված է AI-ի կողմից համատեքստի ըմբռնման, հրամանները պարզաբանելու ունակության և անվտանգության արձանագրությունների կայունության հետ: 3. Հետ վերադարձնել կամ հետարկել տոկոսադրույքները Այս չափանիշը հետևում է, թե որքան հաճախ է օգտվողներին անհրաժեշտ AI-ի կատարած գործողությունը հետ շրջել կամ հետարկել: Հետ վերադարձի բարձր տեմպերը ցույց են տալիս, որ AI-ն հաճախակի սխալներ է թույլ տալիս, սխալ է մեկնաբանում հրահանգները կամ գործում է այնպես, որ չի համապատասխանում օգտատերերի ակնկալիքներին: Այս ետդարձի պատճառների վերլուծությունը կարող է արժեքավոր հետադարձ կապ ապահովել AI-ի ալգորիթմների բարելավման, օգտատերերի նախասիրությունների ըմբռնման և ցանկալի արդյունքները կանխատեսելու նրա կարողության համար: Հասկանալու համար, թե ինչու, դուք պետք է իրականացնեք միկրոհարցում հետարկման գործողության վերաբերյալ: Օրինակ, երբ օգտատերը փոխում է ժամանակացույցի փոփոխությունը, պարզ հուշումը կարող է հարցնել. Օգտատիրոջը թույլ տալով սեղմել այն տարբերակը, որը լավագույնս համապատասխանում է իր պատճառաբանությանը: 4. Սխալից հետո լուծման ժամանակը Այս չափանիշըչափում է այն տեւողությունը, որը պահանջվում է, որպեսզի օգտագործողը ուղղի AI-ի կողմից թույլ տրված սխալը կամ ինքնին AI համակարգը վերականգնվի սխալ վիճակից: Լուծման կարճ ժամանակը ցույց է տալիս սխալների վերականգնման արդյունավետ և օգտագործողի համար հարմար գործընթաց, որը կարող է մեղմել օգտվողի հիասթափությունը և պահպանել արտադրողականությունը: Սա ներառում է սխալի բացահայտման հեշտությունը, չեղարկելու կամ ուղղելու մեխանիզմների հասանելիությունը և AI-ի կողմից տրամադրված սխալի հաղորդագրությունների հստակությունը:
Այս չափորոշիչները հավաքելու համար անհրաժեշտ է սարքավորել ձեր համակարգը՝ Գործակալների գործողությունների ID-ներին հետևելու համար: Գործակալի կողմից կատարվող յուրաքանչյուր հստակ գործողություն, օրինակ՝ ժամանակացույց առաջարկելը կամ թռիչքի ամրագրումը, պետք է ստեղծի եզակի ID, որը պահպանվում է գրանցամատյաններում: Միջամտության մակարդակը չափելու համար մենք չենք փնտրում օգտվողի անմիջական արձագանք: Մենք փնտրում ենք հակազդեցության բացակայություն սահմանված պատուհանում: Եթե Գործողությունների ID-ն ստեղծվում է առավոտյան ժամը 9:00-ին, և ոչ մի մարդ չի փոփոխում կամ վերականգնում այդ ID-ն մինչև հաջորդ օրվա առավոտյան ժամը 9:00-ն, համակարգը տրամաբանորեն նշում է այն որպես Ընդունված: Սա թույլ է տալիս մեզ քանակականացնել հաջողությունը՝ հիմնվելով օգտվողի լռության վրա, այլ ոչ թե ակտիվ հաստատման վրա: Հետ վերադարձի տեմպերի համար հումքի քանակն անբավարար է, քանի որ դրանք չունեն համատեքստ: Հիմնական պատճառն իմանալու համար դուք պետք է կիրառեք ընդհատման տրամաբանություն ձեր հավելվածի Հետարկել կամ վերադարձնել գործառույթների վրա: Երբ օգտատերը հակադարձում է գործակալի կողմից նախաձեռնված գործողությունը, գործարկեք թեթև միկրոհարցում: Սա կարող է լինել պարզ երեք տարբերակով մոդալ, որը խնդրում է օգտվողին դասակարգել սխալը որպես փաստացի սխալ, բացակայող ենթատեքստ կամ առաջադրանքը ձեռքով լուծելու պարզ նախապատվություն: Սա միավորում է քանակական հեռաչափությունը որակական պատկերացումների հետ: Այն հնարավորություն է տալիս ինժեներական թիմերին տարբերակել կոտրված ալգորիթմը և օգտագործողի նախապատվությունների անհամապատասխանությունը: Այս չափումները, երբ հետևողականորեն հետևվում և վերլուծվում են ամբողջականորեն, ապահովում են կայուն շրջանակ՝ գործակալական AI համակարգերի աշխատանքը գնահատելու համար՝ թույլ տալով շարունակական բարելավում վերահսկողության, համաձայնության և հաշվետվողականության մեջ: Նախագծում ընդդեմ խաբեության Քանի որ գործակալները դառնում են ավելի ու ավելի ունակ, մենք բախվում ենք նոր ռիսկի՝ Agentic Sludge: Ավանդական տիղմը ստեղծում է շփում, որը դժվարացնում է բաժանորդագրության չեղարկումը կամ հաշիվը ջնջելը: Գործակալական տիղմը գործում է հակառակ ուղղությամբ: Այն վերացնում է անսարքությունը, ինչը շատ հեշտ է դարձնում օգտագործողի համար համաձայնվել այնպիսի գործողության, որը ձեռնտու է բիզնեսին, այլ ոչ թե սեփական շահերին: Մտածեք մի գործակալի, որն օգնում է ճանապարհորդության ամրագրմանը: Առանց հստակ պահակակետերի, համակարգը կարող է առաջնահերթություն տալ գործընկեր ավիաընկերությանը կամ ավելի բարձր մարժա հյուրանոցին: Այն ներկայացնում է այս ընտրությունը որպես օպտիմալ ճանապարհ: Օգտագործողը, վստահելով համակարգի իրավասությանը, ընդունում է առաջարկությունն առանց ստուգման: Սա ստեղծում է խաբուսիկ օրինաչափություն, որտեղ համակարգը օպտիմալացնում է եկամուտը հարմարավետության քողի տակ: Կեղծ երևակայված իրավասության ռիսկը Խաբեությունը չի կարող բխել չարամտությունից: Այն հաճախ դրսևորվում է AI-ում որպես Imagined Competence: Լեզուների մեծ մոդելները հաճախ հեղինակավոր են հնչում, նույնիսկ երբ սխալ են: Նրանք ներկայացնում են կեղծ ամրագրման հաստատում կամ ոչ ճշգրիտ ամփոփագիր՝ նույն վստահությամբ, ինչ ստուգված փաստը: Օգտատերերը, բնականաբար, կարող են վստահել այս վստահ տոնին: Այս անհամապատասխանությունը վտանգավոր անջրպետ է ստեղծում համակարգի հնարավորությունների և օգտագործողների ակնկալիքների միջև: Մենք պետք է հատուկ նախագծենք այս բացը կամրջելու համար: Եթե գործակալը չի կարողանում կատարել առաջադրանքը, ինտերֆեյսը պետք է հստակ ազդարարի այդ ձախողման մասին: Եթե համակարգը վստահ չէ, այն պետք է արտահայտի անորոշություն, այլ ոչ թե այն քողարկի հղկված արձակով: Թափանցիկություն Պրիմիտիվների միջոցով Ե՛վ տիղմի, և՛ հալյուցինացիաների դեմ հակաթույնը ծագումն է: Յուրաքանչյուր ինքնավար գործողություն պահանջում է որոշակի մետատվյալների պիտակ, որը բացատրում է որոշման ծագումը: Օգտագործողները պետք է հնարավորություն ունենան ստուգելու արդյունքի հետևում գտնվող տրամաբանական շղթան: Դրան հասնելու համար մենք պետք է պրիմիտիվները վերածենք գործնական պատասխանների: Ծրագրային ապահովման ճարտարագիտության մեջ պրիմիտիվները վերաբերում են գործակալի կողմից իրականացվող տեղեկատվության կամ գործողությունների հիմնական միավորներին: Ինժեների համար սա նման է API զանգի կամ տրամաբանական դարպասի: Օգտագործողի համար այն պետք է հայտնվի որպես հստակ բացատրություն: Դիզայնի մարտահրավերը կայանում է նրանում, որ այս տեխնիկական քայլերը քարտեզագրվեն մարդու կողմից ընթեռնելի հիմնավորումներին: Եթե գործակալը խորհուրդ է տալիս կոնկրետ թռիչք, օգտվողը պետք է իմանա, թե ինչու: Ինտերֆեյսը չի կարող թաքնվել ընդհանուր առաջարկի հետևում: Այն պետք է բացահայտի հիմքում ընկած պարզունակը՝ տրամաբանություն՝ Cheapest_Direct_Flight կամ տրամաբանություն՝ Partner_Airline_Priority: Նկար 4-ը ցույց է տալիս թարգմանության այս հոսքը: Մենք վերցնում ենք չմշակված համակարգի պրիմիտիվը՝ փաստացի կոդի տրամաբանությունը, և այն քարտեզագրում ենք օգտվողին ուղղված տողի վրա: Օրինակ, հանդիպման օրացուցային ժամանակացույցի պարզունակ ստուգումը դառնում է հստակ հայտարարություն. ես առաջարկել եմ ժամը 4-ը:հանդիպում. Թափանցիկության այս մակարդակը երաշխավորում է, որ գործակալի գործողությունները տրամաբանական և շահավետ են թվում: Այն թույլ է տալիս օգտվողին ստուգել, որ գործակալը գործել է իր լավագույն շահերից ելնելով: Բացահայտելով պրիմիտիվները՝ մենք սև արկղը վերածում ենք ապակե տուփի՝ ապահովելով, որ օգտվողները մնան իրենց սեփական թվային կյանքի վերջնական հեղինակությունը:
Դիզայնի փուլի կարգավորում Գործակալական համակարգի կառուցումը պահանջում է հոգեբանական և վարքային փոխըմբռնման նոր մակարդակ: Այն ստիպում է մեզ դուրս գալ սովորական օգտագործման փորձարկումից և անցնել վստահության, համաձայնության և հաշվետվողականության տիրույթ: Հետազոտության մեթոդները, որոնք մենք քննարկել ենք, մտավոր մոդելների ուսումնասիրությունից մինչև սխալ վարքագծի մոդելավորում և նոր չափումներ սահմանելը, անհրաժեշտ հիմք են տալիս: Այս պրակտիկան հիմնական գործիքներն են՝ ակտիվորեն պարզելու, թե որտեղ կարող է խափանվել ինքնավար համակարգը և, որ ավելի կարևոր է, ինչպես վերականգնել օգտագործող-գործակալ հարաբերությունները, երբ դա տեղի ունենա: Գործակալական AI-ի անցումը օգտատեր-համակարգ հարաբերությունների վերասահմանումն է: Մենք այլևս չենք նախագծում այնպիսի գործիքներ, որոնք պարզապես արձագանքում են հրամաններին. մենք նախագծում ենք գործընկերների համար, որոնք գործում են մեր անունից: Սա փոխում է դիզայնի հրամայականը՝ արդյունավետությունից և օգտագործման հեշտությունից մինչև թափանցիկություն, կանխատեսելիություն և վերահսկողություն: Երբ արհեստական ինտելեկտը կարող է պատվիրել թռիչք կամ բաժնետոմս վաճառել առանց վերջնական սեղմման, նրա «թեքահարթակների» և «թեքահարթակների» ձևավորումը դառնում է առաջնային: Մեր պարտականությունն է ապահովել, որ օգտվողները զգան, որ իրենք վարորդի նստատեղում են, նույնիսկ երբ նրանք հանձնել են ղեկը: Այս նոր իրականությունը նաև բարձրացնում է UX հետազոտողի դերը: Մենք դառնում ենք օգտատերերի վստահության պահապանները՝ համագործակցելով ինժեներների և արտադրանքի մենեջերների հետ՝ սահմանելու և փորձարկելու գործակալի ինքնավարության պաշտպանիչ գծերը: Բացի հետազոտողներ լինելուց, մենք դառնում ենք օգտատերերի վերահսկողության, թափանցիկության և զարգացման գործընթացում էթիկական երաշխիքների պաշտպաններ: Պրիմիտիվները վերածելով գործնական հարցերի և նմանակելով վատագույն սցենարները՝ մենք կարող ենք կառուցել ամուր համակարգեր, որոնք և՛ հզոր են, և՛ անվտանգ: Այս հոդվածը նախանշել է գործակալական AI-ի հետազոտության «ինչը» և «ինչու»-ն: Այն ցույց տվեց, որ մեր ավանդական գործիքներն անբավարար են, և որ մենք պետք է որդեգրել նոր, հեռանկարային մեթոդաբանություններ: Հաջորդ հոդվածը հիմնվելու է այս հիմքի վրա՝ տրամադրելով հատուկ դիզայնի օրինաչափություններ և կազմակերպչական պրակտիկա, որոնք թափանցիկ են դարձնում գործակալի օգտակարությունը օգտատերերի համար՝ ապահովելով, որ նրանք կարող են օգտագործել գործակալական AI-ի ուժը վստահությամբ և վերահսկողությամբ: UX-ի ապագան համակարգերը վստահելի դարձնելն է: Գործակալական AI-ի լրացուցիչ ըմբռնման համար կարող եք ուսումնասիրել հետևյալ ռեսուրսները.
Google AI բլոգ Agentic AI-ի վրա Microsoft-ի հետազոտությունը AI գործակալների վերաբերյալ
