ამ სერიის პირველ ნაწილში ჩვენ დავადგინეთ ფუნდამენტური გადასვლა გენერაციულიდან აგენტურ ხელოვნურ ინტელექტზე. ჩვენ გამოვიკვლიეთ, რატომ მოითხოვს ეს ნახტომი შეთავაზებიდან მოქმედებამდე ახალ ფსიქოლოგიურ და მეთოდოლოგიურ ხელსაწყოებს UX მკვლევარებისთვის, პროდუქტის მენეჯერებისთვის და ლიდერებისთვის. ჩვენ განვსაზღვრეთ აგენტური ქცევების ტაქსონომია, შეთავაზებიდან ავტონომიურ მოქმედებამდე, გამოვყავით კვლევის ძირითადი მეთოდები, განვსაზღვრეთ აგენტური ლამის რისკები და დავადგინეთ ანგარიშვალდებულების მეტრიკა, რომელიც საჭიროა ამ ახალი ტერიტორიის ნავიგაციისთვის. ჩვენ გავაშუქეთ რა და რატომ. ახლა გადავდივართ ძირეულიდან ფუნქციურზე. ეს სტატია გვიჩვენებს, თუ როგორ: კონკრეტული დიზაინის შაბლონები, ოპერატიული ჩარჩოები და ორგანიზაციული პრაქტიკა, რომლებიც აუცილებელია აგენტური სისტემების შესაქმნელად, რომლებიც არა მხოლოდ მძლავრი, არამედ გამჭვირვალე, კონტროლირებადი და მომხმარებლის ნდობის ღირსია. თუ ჩვენი კვლევა არის დიაგნოსტიკური ინსტრუმენტი, ეს შაბლონები არის მკურნალობის გეგმა. ეს არის პრაქტიკული მექანიზმები, რომელთა მეშვეობითაც ჩვენ შეგვიძლია მივცეთ მომხმარებლებს კონტროლის საგრძნობი გრძნობა, მაშინაც კი, როდესაც ჩვენ ვაძლევთ ხელოვნურ ინტელექტს უპრეცედენტო ავტონომიას. მიზანია შეიქმნას გამოცდილება, სადაც ავტონომია იგრძნობა მომხმარებლის მიერ მინიჭებულ პრივილეგიად და არა სისტემის მიერ ჩამორთმეული უფლება. ძირითადი UX შაბლონები აგენტური სისტემებისთვის აგენტური ხელოვნური ინტელექტის შექმნა არის ურთიერთობების დიზაინი. ეს ურთიერთობა, ისევე როგორც ნებისმიერი წარმატებული პარტნიორობა, უნდა იყოს აგებული მკაფიო კომუნიკაციაზე, ურთიერთგაგებასა და დადგენილ საზღვრებზე. შეთავაზებიდან მოქმედებაზე გადასვლის სამართავად, ჩვენ ვიყენებთ ექვს შაბლონს, რომლებიც მიჰყვება აგენტური ურთიერთქმედების ფუნქციურ სასიცოცხლო ციკლს:
წინასწარი მოქმედება (განზრახვის ჩამოყალიბება) განზრახვის წინასწარი გადახედვისა და ავტონომიის აკრიფეთ უზრუნველყოფს მომხმარებელი განსაზღვრავს გეგმას და აგენტის საზღვრებს, სანამ რაიმე მოხდება. მოქმედებაში (კონტექსტის მიწოდება) ახსნადი დასაბუთება და ნდობის სიგნალი ინარჩუნებს გამჭვირვალობას, სანამ აგენტი მუშაობს, აჩვენებს „რატომ“ და „რამდენად დარწმუნებული“. ქმედების შემდგომი (უსაფრთხოება და აღდგენა) მოქმედების აუდიტი და გაუქმება და ესკალაციის გზა უზრუნველყოფს უსაფრთხოების ქსელს შეცდომების ან მაღალი გაურკვევლობის მომენტებისთვის.
ქვემოთ, ჩვენ დეტალურად განვიხილავთ თითოეულ შაბლონს, მათ შორის რეკომენდაციებს წარმატების მისაღწევად. ეს მიზნები წარმომადგენლობითი ეტალონებია დაფუძნებული ინდუსტრიის სტანდარტებზე; შეცვალეთ ისინი თქვენი კონკრეტული დომენის რისკის მიხედვით. 1. განზრახვის გადახედვა: რა და როგორ გარკვევა ეს ნიმუში არის საუბრის ექვივალენტი, რომ ვთქვათ: "აი, რას ვაპირებ. კარგად ხარ ამით?" ეს არის მომხმარებლის-აგენტის ურთიერთობაში თანხმობის ძიების ფუნდამენტური მომენტი. სანამ აგენტი მიიღებს რაიმე მნიშვნელოვან მოქმედებას, მომხმარებელს უნდა ჰქონდეს მკაფიო, ცალსახა გაგება, თუ რა მოხდება. განზრახვის წინასწარი გადახედვა ან გეგმის შეჯამება ადგენს ინფორმირებულ თანხმობას. ეს არის საუბრის პაუზა მოქმედებამდე, რომელიც გარდაქმნის ავტონომიური პროცესების შავ ყუთს გამჭვირვალე, განსახილველ გეგმად. ფსიქოლოგიური საფუძველი მოქმედებამდე გეგმის წარდგენა ამცირებს კოგნიტურ დატვირთვას და აცილებს გაოცებას, რაც მომხმარებლებს აძლევს მომენტს, რათა დაადასტურონ, რომ აგენტმა ნამდვილად ესმის მათი განზრახვა. ეფექტური განზრახვის ანატომია:
სიცხადე და ლაკონურობა წინასწარი გადახედვა უნდა იყოს დაუყოვნებლივ ათვისებადი. მან უნდა შეაჯამოს ძირითადი მოქმედებები და შედეგები მარტივი ენით, ტექნიკური ჟარგონის თავიდან აცილების მიზნით. მაგალითად, ნაცვლად „API ზარის შესრულება cancel_booking-ის გასაუქმებლად (id: 4A7B),“ უნდა იყოს მითითებული „გაუქმება ფრენა AA123 სან-ფრანცისკოში“. თანმიმდევრული ნაბიჯები მრავალსაფეხურიანი ოპერაციებისთვის, წინასწარი გადახედვისას უნდა გამოიკვეთოს ძირითადი ფაზები. ეს ავლენს აგენტის ლოგიკას და საშუალებას აძლევს მომხმარებლებს დააფიქსირონ პოტენციური პრობლემები შემოთავაზებულ თანმიმდევრობაში. მომხმარებლის მოქმედებების გასუფთავება წინასწარი გადახედვა არის გადაწყვეტილების წერტილი და არა მხოლოდ შეტყობინება. მას უნდა ახლდეს არჩევანის მკაფიო ნაკრები. ეს არის მიზანმიმართული ხახუნის მომენტი, პროცესის "სიჩქარის დარტყმა", რომელიც შექმნილია იმის უზრუნველსაყოფად, რომ მომხმარებელი აკეთებს ცნობიერ არჩევანს, განსაკუთრებით შეუქცევადი ან მაღალი ფსონების მოქმედებისთვის.
მოდით გადახედოთ ჩვენს მოგზაურობის ასისტენტის სცენარს ამ სერიის პირველი ნაწილიდან. ჩვენ ვიყენებთ ამ პროაქტიულ ასისტენტს იმის საილუსტრაციოდ, თუ როგორ უმკლავდება აგენტი ფრენის გაუქმებას. აგენტმა აღმოაჩინა ფრენის გაუქმება და ჩამოაყალიბა აღდგენის გეგმა. Intent Preview ასე გამოიყურება: შემოთავაზებული გეგმა თქვენი მოგზაურობის შეფერხებისთვის მე აღმოვაჩინე, რომ თქვენი დილის 10:05 ფრენა გაუქმდა. აი, რის გაკეთებას ვაპირებ: გააუქმე ფრენა UA456 დააბრუნე თანხის დაბრუნება და დაადასტურე გაუქმების დეტალები. გადააწერე ფრენა DL789 დაჯავშნე დადასტურებული ადგილი 14:30 საათზე უწყვეტ ფრენაზე, რადგან ეს არის შემდეგი ხელმისაწვდომი უწყვეტი ფრენადადასტურებული ადგილი. განაახლეთ სასტუმროს დაჯავშნა შეატყობინეთ Marriott-ს, რომ დაგვიანებით ჩამოხვალთ. ელფოსტით განახლებული მარშრუტი გაგზავნეთ ახალი ფრენის და სასტუმროს დეტალები თქვენ და თქვენს თანაშემწეს, ჯეინ დოს.
ეს წინასწარი გადახედვა ეფექტურია, რადგან ის იძლევა სრულ სურათს, გაუქმებიდან კომუნიკაციამდე და გთავაზობთ სამ განსხვავებულ გზას: სრული თანხმობა (გაგრძელება), ცვლილების სურვილი (გეგმის რედაქტირება) ან სრულ უგულებელყოფა (გააკეთე ეს მე თვითონ). ეს მრავალმხრივი კონტროლი ნდობის საფუძველია.
როდის უნდა მივცეთ პრიორიტეტი ამ შაბლონს. ეს ნიმუში შეუქცევადია ნებისმიერი ქმედებისთვის, რომელიც შეუქცევადია (მაგ., მომხმარებლის მონაცემების წაშლა), მოიცავს ნებისმიერი თანხის ფინანსურ ტრანზაქციას, აზიარებს ინფორმაციას სხვა ადამიანებს ან სისტემებს, ან ახდენს მნიშვნელოვან ცვლილებას, რომლის გაუქმებაც მომხმარებელს არ შეუძლია. გამოტოვების რისკი ამის გარეშე მომხმარებლები თავს ჩასაფრებულად გრძნობენ აგენტის ქმედებების გამო და გამორთავს ფუნქციას კონტროლის აღსადგენად. წარმატების მეტრიკა:
მიღების კოეფიციენტი გეგმები მიღებულია რედაქტირების გარეშე / სულ ნაჩვენები გეგმები. სამიზნე > 85%. უგულებელყოფა სიხშირეTotal გაუმკლავდეს მე თვითონ დაწკაპუნებები / სულ ნაჩვენები გეგმები. მაჩვენებელი > 10% იწვევს მოდელის განხილვას. გაიხსენეთ ტესტის მონაწილეთა სიზუსტეპროცენტი, რომლებსაც შეუძლიათ სწორად ჩამოთვალონ გეგმის ნაბიჯები წინასწარი გადახედვის დამალვიდან 10 წამის შემდეგ.
ამის გამოყენება მაღალი ფსონების დომენებზე მიუხედავად იმისა, რომ მოგზაურობის გეგმები დაკავშირებულია საბაზისო ხაზთან, ეს ნიმუში შეუცვლელი ხდება რთულ, მაღალი ფსონების მქონე გარემოში, სადაც შეცდომა უფრო მეტ დისკომფორტს იწვევს ინდივიდუალური მოგზაურობისთვის. ბევრი ჩვენგანი მუშაობს ისეთ გარემოში, სადაც არასწორი გადაწყვეტილებები შეიძლება გამოიწვიოს სისტემის გათიშვა, პაციენტის უსაფრთხოება რისკის ქვეშ ან მრავალი სხვა კატასტროფული შედეგი, რომელსაც არასანდო ტექნოლოგია შემოაქვს. განვიხილოთ DevOps გამოშვების აგენტი, რომელსაც ევალება ღრუბლოვანი ინფრასტრუქტურის მართვა. ამ კონტექსტში, Intent Preview მოქმედებს როგორც უსაფრთხოების ბარიერი შემთხვევითი შეფერხების წინააღმდეგ.
ამ ინტერფეისში სპეციფიური ტერმინოლოგია (Drain Traffic, Rollback) ცვლის ზოგადს და მოქმედებები ორობითი და გავლენიანია. მომხმარებელი ნებას რთავს ძირითად ოპერაციულ ცვლილებას აგენტის ლოგიკის საფუძველზე, ვიდრე წინადადების დამტკიცება. 2. ავტონომიის აკრიფეთ: ნდობის დაკალიბრება პროგრესული ავტორიზაციით ყველა ჯანსაღ ურთიერთობას აქვს საზღვრები. ავტონომიის ციფერბლატი არის ის, თუ როგორ ადგენს მომხმარებელი მას თავის აგენტთან, განსაზღვრავს რა სიამოვნებას ანიჭებს აგენტს დამოუკიდებლად. ნდობა არ არის ორობითი გადამრთველი; ეს არის სპექტრი. მომხმარებელი შეიძლება ენდოს აგენტს დაბალ ფსონების ამოცანების დამოუკიდებლად შესრულებაში, მაგრამ მოითხოვოს სრული დადასტურება მაღალი ფსონების გადაწყვეტილებებისთვის. Autonomy Dial, პროგრესული ავტორიზაციის ფორმა, საშუალებას აძლევს მომხმარებლებს დააყენონ აგენტის დამოუკიდებლობის სასურველი დონე, რაც მათ აქტიურ მონაწილეებად აქცევს ურთიერთობის განსაზღვრაში. ფსიქოლოგიური საფუძვლები მომხმარებლებს აგენტის ავტონომიის დარეგულირების უფლებას აძლევს მათ კონტროლის ლოკუსს, რაც საშუალებას აძლევს მათ შეასრულონ სისტემის ქცევა მათი პირადი რისკის ტოლერანტობასთან. ImplementationThis შეიძლება განხორციელდეს როგორც მარტივი, მკაფიო პარამეტრი აპლიკაციის შიგნით, იდეალურად თითოეული დავალების ტიპის საფუძველზე. ჩვენი პირველი სტატიის ტაქსონომიის გამოყენებით, პარამეტრები შეიძლება იყოს:
დაკვირვება და შემოთავაზება მინდა მივიღო ინფორმაცია შესაძლებლობებისა თუ საკითხების შესახებ, მაგრამ აგენტი არასოდეს შემოგვთავაზებს გეგმას. დაგეგმე და შესთავაზე აგენტს შეუძლია გეგმების შექმნა, მაგრამ მე უნდა გადავხედო თითოეულს, სანამ რაიმე მოქმედებას მივიღებ. იმოქმედეთ Confirmation-ით ნაცნობი ამოცანებისთვის, აგენტს შეუძლია მოამზადოს მოქმედებები და მე მივცემ საბოლოო წასვლის/არ წასვლის დადასტურებას. იმოქმედეთ ავტონომიურად წინასწარ დამტკიცებული ამოცანებისთვის (მაგ., სადავო გადასახადები 50$-ზე ნაკლები), აგენტს შეუძლია იმოქმედოს დამოუკიდებლად და შემატყობინოს ამის შემდეგ.
ელ.ფოსტის ასისტენტს, მაგალითად, შეიძლება ჰქონდეს ცალკე ავტონომიური აკრიფეთ შეხვედრების დაგეგმვისთვის, მომხმარებლის სახელით ელ.ფოსტის გაგზავნის წინააღმდეგ. ეს დეტალურობა არის მთავარი, რადგან ის ასახავს მომხმარებლის ნდობის ნიუანსურ რეალობას. როდის მიენიჭოთ პრიორიტეტი ამ შაბლონს. მიაქციეთ ამას პრიორიტეტი სისტემებში, სადაც ამოცანები მნიშვნელოვნად განსხვავდება რისკისა და პირადი პრეფერენციების მიხედვით (მაგ., ფინანსური მართვის ინსტრუმენტები, საკომუნიკაციო პლატფორმები). ის არსებითია ინბორტირებისთვის, რაც მომხმარებლებს საშუალებას აძლევს დაიწყონ დაბალი ავტონომიით და გაზარდონ ის, როცა იზრდება მათი ნდობა. გამოტოვების რისკი ამის გარეშე, მომხმარებლები, რომლებიც განიცდიან ერთ მარცხს, მთლიანად მიატოვებენ აგენტს, ვიდრე უბრალოდ აკრიფებენ მის ნებართვებს. წარმატების მეტრიკა:
Trust DensityPercentage მომხმარებელთა განაწილება თითო პარამეტრზე (მაგ., 20% შეთავაზება, 50% დადასტურება, 30% ავტო). დაყენება ChurnNumber პარამეტრების ცვლილებების რაოდენობა / სულ აქტიური მომხმარებლები თვეში. მაღალი შეკუმშვა მიუთითებს ნდობაზეარასტაბილურობა.
3. ახსნადი დასაბუთება: პასუხი რატომ? ქმედების განხორციელების შემდეგ კარგი პარტნიორი ხსნის მათ მსჯელობას. ეს ნიმუში არის ღია კომუნიკაცია, რომელიც მოჰყვება მოქმედებას და პასუხობს რატომ? სანამ არ იკითხება. „ეს იმიტომ გავაკეთე, რომ შენ მითხარი წარსულში, რომ X გირჩევნია“. როდესაც აგენტი მოქმედებს, განსაკუთრებით ავტონომიურად, მომხმარებლის გონებაში ხშირად ჩნდება კითხვა, რატომ გააკეთა ეს? განმარტებითი დასაბუთების ნიმუში პროაქტიულად პასუხობს ამ კითხვას და უზრუნველყოფს აგენტის გადაწყვეტილებების მოკლე დასაბუთებას. ეს არ არის ტექნიკური ჟურნალის ფაილი. ამ სერიის ჩემს პირველ სტატიაში განვიხილეთ სისტემის პრიმიტივების თარგმნა მომხმარებლისთვის მიმართულ ენაზე, რათა თავიდან ავიცილოთ მოტყუება. ეს ნიმუში არის ამ პრინციპის პრაქტიკული გამოყენება. ის გარდაქმნის ნედლეულ ლოგიკას ადამიანის მიერ წასაკითხად ახსნად, რომელიც დაფუძნებულია მომხმარებლის მიერ მითითებულ პრეფერენციებზე და წინა შეყვანებზე. ფსიქოლოგიური საფუძველი როცა აგენტის ქმედებები ახსნილია, ისინი ლოგიკურად გრძნობენ თავს და არა შემთხვევით, რაც მომხმარებელს ეხმარება შექმნას ზუსტი გონებრივი მოდელი იმის შესახებ, თუ როგორ ფიქრობს აგენტი. ეფექტური არგუმენტები:
დაფუძნებულია პრეცედენტში საუკეთესო ახსნა-განმარტებები უკავშირდება წესს, უპირატესობას ან წინა მოქმედებას. მარტივი და DirectAvoid რთული პირობითი ლოგიკა. გამოიყენეთ მარტივი სტრუქტურა „რადგან შენ თქვი X, მე გავაკეთე Y“.
მოგზაურობის მაგალითს რომ დავუბრუნდეთ, ფრენის ავტონომიურად ხელახლა დაჯავშნის შემდეგ, მომხმარებელმა შეიძლება დაინახოს ეს შეტყობინებების არხში: მე ხელახლა დავჯავშნე თქვენი გაუქმებული ფრენა. ახალი ფრენა: Delta 789, გაფრენა 14:30 საათზე. რატომ გავაკეთე ეს მოქმედება: თქვენი თავდაპირველი ფრენა გააუქმა ავიაკომპანიამ. თქვენ წინასწარ დაამტკიცეთ ავტონომიური ხელახალი დაჯავშნა იმავე დღის, უწყვეტი ფრენებისთვის.[ ახალი მარშრუტის ნახვა ] [ ამ მოქმედების გაუქმება
დასაბუთება ნათელია, დასაცავი და აძლიერებს აზრს, რომ აგენტი მუშაობს მომხმარებლის მიერ დადგენილ საზღვრებში. როდის მიენიჭოთ პრიორიტეტი ამ შაბლონს, მიეცით პრიორიტეტი ნებისმიერი ავტონომიური მოქმედებისთვის, სადაც მსჯელობა არ არის მაშინვე აშკარა კონტექსტიდან, განსაკუთრებით იმ ქმედებებისთვის, რომლებიც ხდება ფონზე ან გამოწვეულია გარე მოვლენით (როგორიცაა ფრენის გაუქმების მაგალითი). გამოტოვების რისკი ამის გარეშე მომხმარებლები მართებულ ავტონომიურ ქმედებებს განმარტავენ, როგორც შემთხვევით ქცევას ან „შეცდომებს“, რაც ხელს უშლის მათ სწორი გონებრივი მოდელის ჩამოყალიბებაში. წარმატების მეტრიკა:
რატომ? ბილეთის მოცულობა მხარდაჭერის ბილეთების რაოდენობა მონიშნული „აგენტის ქცევა — გაუგებარი“ 1000 აქტიურ მომხმარებელზე. დასაბუთება Validation მომხმარებელთა პროცენტი, რომლებიც აფასებენ ახსნას, როგორც „დახმარებას“ ურთიერთქმედების შემდგომ მიკროგამოკითხვებში.
4. ნდობის სიგნალი ეს ნიმუში ეხება აგენტს, რომელიც აცნობიერებს ურთიერთობას. საკუთარი ნდობის გადმოცემით, ის ეხმარება მომხმარებელს გადაწყვიტოს, როდის ენდოს მის გადაწყვეტილებას და როდის გამოიყენოს მეტი დაკვირვება. იმისათვის, რომ მომხმარებლებს დაეხმარონ საკუთარი ნდობის დაკალიბრებაში, აგენტმა უნდა გამოავლინოს საკუთარი ნდობა მის გეგმებსა და ქმედებებში. ეს აგენტის შიდა მდგომარეობას უფრო იკითხავს და ეხმარება მომხმარებელს გადაწყვიტოს, როდის გამოიკვლიოს გადაწყვეტილება უფრო დეტალურად. ფსიქოლოგიური საფუძვლები გაურკვევლობა ხელს უწყობს ავტომატიზაციის მიკერძოების თავიდან აცილებას, რაც მომხმარებლებს წაახალისებს, გამოიკვლიონ დაბალი ნდობის მქონე გეგმები, ვიდრე ბრმად მიიღონ ისინი. განხორციელება:
ნდობის ქულა მარტივი პროცენტი (მაგ., ნდობა: 95%) შეიძლება იყოს სწრაფი, სკანირებადი მაჩვენებელი. Scope Declaration აგენტის ექსპერტიზის სფეროს მკაფიო განცხადება (მაგ., სფერო: მხოლოდ სამოგზაურო ჯავშნები) ეხმარება მომხმარებელთა მოლოდინების მართვაში და ხელს უშლის მათ აგენტს სთხოვონ ისეთი ამოცანების შესრულება, რისთვისაც ის არ არის შექმნილი. Visual CuesA მწვანე გამშვები ნიშანი შეიძლება მიუთითებდეს მაღალ ნდობაზე, ხოლო ყვითელი კითხვის ნიშანი შეიძლება მიუთითებდეს გაურკვევლობაზე, რაც მომხმარებელს უბიძგებს უფრო ფრთხილად გადახედოს.
როდის უნდა მიენიჭოთ პრიორიტეტი ამ შაბლონს, როდესაც აგენტის შესრულება შეიძლება მნიშვნელოვნად განსხვავდებოდეს შეყვანის მონაცემების ხარისხზე ან დავალების გაურკვევლობაზე. ის განსაკუთრებით ღირებულია საექსპერტო სისტემებში (მაგ., სამედიცინო დახმარება, კოდის ასისტენტები), სადაც ადამიანმა კრიტიკულად უნდა შეაფასოს AI-ის შედეგი. გამოტოვების რისკი ამის გარეშე მომხმარებლები გახდებიან ავტომატიზაციის მიკერძოების მსხვერპლი, ბრმად მიიღებენ დაბალი ნდობის ჰალუცინაციებს, ან შეშფოთებულად შეამოწმებენ მაღალი ნდობის სამუშაოს. წარმატების მეტრიკა:
კალიბრაციის ქულა პირსონის კორელაცია მოდელის ნდობის ქულასა და მომხმარებლის დაშვების მაჩვენებელს შორის. სამიზნე > 0.8. დეტალური დელტა განსხვავება დაბალი სანდო გეგმებისა და მაღალი სანდო გეგმების განხილვის საშუალო დროს შორის. მოსალოდნელია დადებითი (მაგ., +12 წამი).
5. სამოქმედო აუდიტი და გაუქმება: უსაფრთხოების საბოლოო ქსელი ნდობა მოითხოვს იმის ცოდნას, რომ შეცდომის გამოსწორება შეგიძლია. გაუქმებაფუნქცია არის ურთიერთობის უსაფრთხოების საბოლოო ქსელი, რომელიც მომხმარებელს არწმუნებს, რომ აგენტის არასწორად გაგების შემთხვევაშიც კი, შედეგები არ იქნება კატასტროფული. მომხმარებლის ნდობის გაძლიერების ერთადერთი ყველაზე ძლიერი მექანიზმი არის აგენტის მოქმედების ადვილად შებრუნების შესაძლებლობა. მუდმივი, ადვილად წასაკითხი Action Audit ჟურნალი, გამოჩენილი გაუქმების ღილაკით ყველა შესაძლო მოქმედებისთვის, არის უსაფრთხოების საბოლოო ბადე. ეს მკვეთრად ამცირებს ავტონომიის მინიჭების რისკს. ფსიქოლოგიური საფუძველი იმის ცოდნა, რომ შეცდომის ადვილად გაუქმება შესაძლებელია, ქმნის ფსიქოლოგიურ უსაფრთხოებას, რაც მოუწოდებს მომხმარებლებს, გადასცენ ამოცანები შეუქცევადი შედეგების შიშის გარეშე. დიზაინის საუკეთესო პრაქტიკა:
ქრონოლოგიური ხედვა აგენტის მიერ წამოწყებული ყველა მოქმედების ქრონოლოგიური ჟურნალი ყველაზე ინტუიციური ფორმატია. სტატუსის ინდიკატორების გასუფთავება აჩვენეთ, იყო თუ არა მოქმედება წარმატებული, მიმდინარეობს თუ გაუქმდა. დროში შეზღუდული გაუქმება ქმედებებისთვის, რომლებიც შეუქცევადი ხდება გარკვეული მომენტის შემდეგ (მაგ., არაანაზღაურებადი ჯავშანი), ინტერფეისმა მკაფიოდ უნდა აცნობოს ამ დროის ფანჯარას (მაგ., გაუქმება ხელმისაწვდომია 15 წუთის განმავლობაში). სისტემის შეზღუდვების შესახებ ეს გამჭვირვალობა ისეთივე მნიშვნელოვანია, როგორც თავად გაუქმების შესაძლებლობა. გულახდილობა იმის შესახებ, თუ როდის ხდება ქმედება მუდმივი, ამყარებს ნდობას.
როდის უნდა მივცეთ პრიორიტეტი ამ შაბლონს ეს არის ფუნდამენტური ნიმუში, რომელიც უნდა განხორციელდეს თითქმის ყველა აგენტურ სისტემაში. ეს აბსოლუტურად დაუშვებელია ავტონომიური ფუნქციების დანერგვისას ან შეცდომის (ფინანსური, სოციალური ან მონაცემებით დაკავშირებული) ფასი მაღალია. გამოტოვების რისკი ამის გარეშე, ერთი შეცდომა სამუდამოდ ანგრევს ნდობას, რადგან მომხმარებლები აცნობიერებენ, რომ მათ არ აქვთ უსაფრთხოების ბადე. წარმატების მეტრიკა:
Reversion Rate Undone მოქმედებები / სულ შესრულებული ქმედებები. თუ Reversion Rate > 5% კონკრეტული ამოცანისთვის, გამორთეთ ავტომატიზაცია ამ ამოცანისთვის. Safety Net Conversion მომხმარებელთა პროცენტი, ვინც განაახლებს ავტონომიურად მოქმედებას გაუქმების წარმატებით გამოყენების 7 დღის განმავლობაში.
6. ესკალაციის გზა: გაურკვევლობის მოხდენილად მართვა ჭკვიანმა პარტნიორმა იცის, როდის ითხოვოს დახმარება გამოცნობის ნაცვლად. ეს ნიმუში საშუალებას აძლევს აგენტს, მოხდენილად გაუმკლავდეს ორაზროვნებას მომხმარებლისთვის ესკალაციის გზით, აჩვენოს თავმდაბლობა, რომელიც აყალიბებს და არა ანადგურებს ნდობას. ყველაზე მოწინავე აგენტიც კი წააწყდება სიტუაციებს, როდესაც გაურკვეველია მომხმარებლის განზრახვა ან მოქმედების საუკეთესო გზა. როგორ უმკლავდება ის ამ გაურკვევლობას, გადამწყვეტი მომენტია. კარგად შემუშავებული აგენტი არ გამოიცნობს; ეს მწვავდება. ფსიქოლოგიური საფუძველი როცა აგენტი აღიარებს მის საზღვრებს და არა გამოცნობას, ის ნდობას ამყარებს მომხმარებლის ავტორიტეტის პატივისცემით ორაზროვან სიტუაციებში. ესკალაციის ნიმუშები მოიცავს:
დაზუსტების მოთხოვნა „თქვენ ახსენეთ „მომავალი სამშაბათი“. გულისხმობთ 30 სექტემბერს თუ 7 ოქტომბერს?“ ოფციების პრეზენტაცია "მე ვიპოვე სამი ფრენა, რომელიც შეესაბამება თქვენს კრიტერიუმებს. რომელი გაგეჩვენებათ საუკეთესოდ?" ადამიანური ჩარევის მოთხოვნა მაღალი ფსონების ან ძალიან ორაზროვანი ამოცანებისთვის, აგენტს უნდა ჰქონდეს მკაფიო გზა ადამიანის ექსპერტთან ან დამხმარე აგენტთან დასაკავშირებლად. მოთხოვნა შეიძლება იყოს: "ეს ტრანზაქცია არაჩვეულებრივად გამოიყურება და დარწმუნებული არ ვარ, როგორ გავაგრძელო. გნებავთ, რომ ეს დროშით მოვანიშნო ადამიანური აგენტის გადასახედად?"
როდის მივცეთ პრიორიტეტი ამ ნიმუშის პრიორიტეტიზაცია დომენებში, სადაც მომხმარებლის განზრახვა შეიძლება იყოს ორაზროვანი ან ძალიან კონტექსტზე დამოკიდებული (მაგ., ბუნებრივი ენის ურთიერთქმედება, მონაცემთა რთული მოთხოვნები). გამოიყენეთ ეს ყოველთვის, როდესაც აგენტი მუშაობს არასრული ინფორმაციით ან როდესაც არსებობს მრავალი სწორი ბილიკი. გამოტოვების რისკი ამის გარეშე, აგენტი საბოლოოდ გააკეთებს თავდაჯერებულ, კატასტროფულ გამოცნობას, რომელიც აშორებს მომხმარებელს. წარმატების მეტრიკა:
Escalation FrequencyAgent ითხოვს დახმარებას / სულ ამოცანები. ჯანსაღი დიაპაზონი: 5-15%. აღდგენის წარმატების მაჩვენებელი დავალებები დასრულებული ესკალაციის შემდგომი / სულ ესკალაციები. სამიზნე > 90%.
ნიმუში საუკეთესო ამისთვის პირველადი რისკი საკვანძო მეტრიკა განზრახვის გადახედვა შეუქცევადი ან ფინანსური ქმედებები მომხმარებელი თავს ჩასაფრებულად გრძნობს >85% მისაღები მაჩვენებელი ავტონომიის აკრიფეთ დავალებები ცვლადი რისკის დონეებით ფუნქციის სრული მიტოვება Churn-ის დაყენება ახსნადი დასაბუთება ფონური ან ავტონომიური ამოცანები მომხმარებელი აღიქვამს შეცდომებს "რატომ?" ბილეთის მოცულობა ნდობის სიგნალი ექსპერტი ან მაღალი ფსონების სისტემები ავტომატიზაციის მიკერძოება საკვლევი დელტა მოქმედების აუდიტი და გაუქმება ყველა აგენტური სისტემა ნდობის მუდმივი დაკარგვა <5%რევერსიის მაჩვენებელი ესკალაციის გზა მომხმარებლის ორაზროვანი განზრახვა თავდაჯერებული, კატასტროფული ვარაუდები >90% აღდგენის წარმატება
ცხრილი 1: აგენტური AI UX შაბლონების შეჯამება. არ დაგავიწყდეთ მეტრიკის კორექტირება თქვენი კონკრეტული დომენის რისკისა და საჭიროებების მიხედვით. დიზაინის შეკეთება და გამოსწორება ეს არის იმის სწავლა, თუ როგორ უნდა მოიხადო ბოდიში ეფექტურად. კარგი ბოდიში აღიარებს შეცდომას, ასწორებს ზიანს და ჰპირდება, რომ ისწავლის მისგან. შეცდომები არ არის შესაძლებლობა; ისინი გარდაუვალია. აგენტური სისტემის გრძელვადიანი წარმატება ნაკლებად არის დამოკიდებული მის უნარზე იყოს სრულყოფილი და უფრო მეტად მისი მოხდენილი აღდგენის უნარზე, როდესაც ის ვერ ხერხდება. რემონტისა და გამოსწორების მტკიცე ჩარჩო არის ძირითადი ფუნქცია და არა შემდგომი აზრი. ემპათიური ბოდიში და მკაფიო გამოსწორება როდესაც აგენტი უშვებს შეცდომას, შეცდომის შეტყობინება არის ბოდიში. ის უნდა იყოს შემუშავებული ფსიქოლოგიური სიზუსტით. ეს მომენტი არის კრიტიკული შესაძლებლობა ანგარიშვალდებულების დემონსტრირებისთვის. სერვისის დიზაინის პერსპექტივიდან, აქ კომპანიებს შეუძლიათ გამოიყენონ სერვისის აღდგენის პარადოქსი: ფენომენი, როდესაც კლიენტი, რომელიც განიცდის სერვისის წარუმატებლობას, რასაც მოჰყვება წარმატებული და თანაგრძნობის აღდგენა, შეიძლება რეალურად გახდეს უფრო ლოიალური ვიდრე მომხმარებელი, რომელსაც საერთოდ არ განუცდია წარუმატებლობა. კარგად დამუშავებული შეცდომა შეიძლება იყოს უფრო ძლიერი ნდობის დამყარება, ვიდრე უნაკლო შესრულების ხანგრძლივი ისტორია. მთავარია შეცდომის განხილვა, როგორც ურთიერთობის გაწყვეტა, რომელიც უნდა გამოსწორდეს. ეს მოიცავს:
შეცდომის აღიარება შეტყობინებაში ნათლად და მარტივად უნდა იყოს მითითებული, რომ შეცდომა იყო დაშვებული. მაგალითი: მე არასწორად გადავიტანე თანხა. მიუთითეთ დაუყოვნებელი შესწორება დაუყონებლივ გააგრძელეთ გამოსასწორებელი ქმედება. მაგალითი: მე შევცვალე მოქმედება და თანხები დაბრუნდა თქვენს ანგარიშზე. მიაწოდეთ გზა შემდგომი დახმარებისთვის ყოველთვის შესთავაზეთ მკაფიო ბმული ადამიანის მხარდაჭერასთან. ეს ამცირებს იმედგაცრუებას და აჩვენებს, რომ არსებობს პასუხისმგებლობის სისტემა თავად აგენტის მიღმა.
კარგად შემუშავებული სარემონტო UI შეიძლება ასე გამოიყურებოდეს: ჩვენ შეცდომა დავუშვით თქვენს ბოლო ტრანსფერზე. ბოდიშს გიხდით. მე გადავირიცხე $250 არასწორ ანგარიშზე.✔ მაკორექტირებელი ქმედება: გადარიცხვა გაუქმდა და თქვენი $250 დაბრუნდა.✔ შემდეგი ნაბიჯები: ინციდენტი მონიშნულია შიდა განხილვისთვის, რათა არ განმეორდეს. გჭირდებათ დამატებითი დახმარება? [დაუკავშირდით მხარდაჭერას]
მართვის ძრავის შექმნა უსაფრთხო ინოვაციისთვის ზემოთ აღწერილი დიზაინის შაბლონები არის მომხმარებლის წინაშე მდგარი კონტროლი, მაგრამ ისინი ვერ ფუნქციონირებენ ეფექტურად შიდა მხარდაჭერის სტრუქტურის გარეშე. ეს არ ეხება ბიუროკრატიული დაბრკოლებების შექმნას; საუბარია სტრატეგიული უპირატესობის შექმნაზე. ორგანიზაციას, რომელსაც აქვს მომწიფებული მმართველობის ჩარჩო, შეუძლია უფრო ამბიციური აგენტური მახასიათებლების გაგზავნა უფრო დიდი სიჩქარითა და თავდაჯერებულობით, იმის ცოდნა, რომ საჭირო დამცავი რელსები არსებობს ბრენდის რისკის შესამცირებლად. ეს მართვის ძრავა აქცევს უსაფრთხოებას საკონტროლო სიიდან კონკურენტუნარიან აქტივად. ეს ძრავა უნდა ფუნქციონირებდეს, როგორც ოფიციალური მმართველობის ორგანო, აგენტური AI ეთიკის საბჭო, რომელიც მოიცავს UX, პროდუქტისა და ინჟინერიის ჯვარედინი ფუნქციონალურ ალიანსს, იურიდიული, შესაბამისობისა და მხარდაჭერის სასიცოცხლო მხარდაჭერით. მცირე ორგანიზაციებში, ეს „საბჭო“ როლები ხშირად იშლება პროდუქტის, ინჟინერიისა და დიზაინის ლიდერების ერთ ტრიადად. საკონტროლო სია მმართველობისთვის
იურიდიული/შესაბამისობა ეს გუნდი არის დაცვის პირველი ხაზი, რომელიც უზრუნველყოფს აგენტის პოტენციურ ქმედებებს მარეგულირებელ და სამართლებრივ საზღვრებში. ისინი ხელს უწყობენ ავტონომიური მოქმედებისთვის მძიმე აკრძალული ზონების განსაზღვრას. პროდუქტი პროდუქტის მენეჯერი არის აგენტის მიზნის განმგებელი. ისინი განსაზღვრავენ და მონიტორინგს უწევენ მის საოპერაციო საზღვრებს ფორმალური ავტონომიის პოლიტიკის მეშვეობით, რომელიც ადასტურებს იმას, თუ რა არის აგენტი და რისი უფლება არ აქვს გააკეთოს. ისინი ფლობენ აგენტის რისკის რეესტრს. UX Research ეს გუნდი არის მომხმარებლის ნდობისა და შფოთვის ხმა. ისინი პასუხისმგებელნი არიან განმეორებით პროცესზე ნდობის კალიბრაციის კვლევების, იმიტირებული არასწორი ქცევის ტესტებისა და ხარისხობრივი ინტერვიუებისთვის, რათა გაიგონ მომხმარებლის მიერ აგენტის გონებრივი მოდელის განვითარება. ინჟინერია ეს გუნდი აშენებს ნდობის ტექნიკურ საფუძველს. მათ უნდა დააპროექტონ სისტემა ძლიერი ლოგინებისთვის, ერთი დაწკაპუნებით გაუქმების ფუნქციონირებისთვის და კაკვები, რომლებიც საჭიროა მკაფიო, ახსნადი დასაბუთების შესაქმნელად. მხარდაჭერა ეს გუნდები წარუმატებლობის წინა ხაზზე არიან. ისინი უნდა იყვნენ გაწვრთნილი და აღჭურვილნი აგენტის შეცდომებით გამოწვეული ინციდენტების მოსაგვარებლად და მათ უნდა ჰქონდეთ პირდაპირი უკუკავშირის ციკლი ეთიკის საბჭოსთან, რათა მოახსენონ რეალურ სამყაროში წარუმატებლობის შაბლონებს.
ამ მმართველობის სტრუქტურამ უნდა შეინარჩუნოს აცოცხალი დოკუმენტების ნაკრები, მათ შორის აგენტის რისკის რეესტრი, რომელიც პროაქტიულად განსაზღვრავს პოტენციური წარუმატებლობის რეჟიმებს, ქმედებების აუდიტის ჟურნალებს, რომლებიც რეგულარულად განიხილება და ოფიციალური ავტონომიის პოლიტიკის დოკუმენტაცია. სად დავიწყოთ: ეტაპობრივი მიდგომა პროდუქტის ლიდერებისთვის პროდუქტის მენეჯერებისთვის და აღმასრულებლებისთვის, აგენტური AI-ს ინტეგრირება შეიძლება მონუმენტურ ამოცანად იგრძნოს. მთავარია, მივუდგეთ მას არა როგორც ერთჯერად გაშვებას, არამედ როგორც ტექნიკური შესაძლებლობების და მომხმარებლის ნდობის პარალელურად აშენების ეტაპობრივ მოგზაურობას. ეს საგზაო რუკა საშუალებას აძლევს თქვენს ორგანიზაციას ისწავლოს და ადაპტირდეს, რაც უზრუნველყოფს, რომ თითოეული ნაბიჯი აგებულია მყარ საფუძველზე. ფაზა 1: ძირითადი უსაფრთხოება (შეთავაზეთ და შესთავაზეთ) თავდაპირველი მიზანია ნდობის ფსკერის ჩამოყალიბება მნიშვნელოვანი ავტონომიური რისკების გარეშე. ამ ფაზაში აგენტის ძალა შემოიფარგლება ანალიზითა და წინადადებებით.
განახორციელეთ მყარი განზრახვის გადახედვა: ეს არის თქვენი ძირითადი ურთიერთქმედების მოდელი. მომხმარებლების კომფორტისთვის აგენტის გეგმების ჩამოყალიბების იდეა, ხოლო მომხმარებელი სრულად აკონტროლებს შესრულებას. შექმენით Action Audit & Undo ინფრასტრუქტურა: მაშინაც კი, თუ აგენტი ჯერ კიდევ არ მოქმედებს დამოუკიდებლად, შექმენით ტექნიკური ხარაჩოები ხე-ტყის შეგროვებისა და შებრუნებისთვის. ეს ამზადებს თქვენს სისტემას მომავლისთვის და აყალიბებს მომხმარებლის ნდობას უსაფრთხოების ქსელის არსებობის შესახებ.
ფაზა 2: კალიბრირებული ავტონომია (იმოქმედეთ დადასტურებით) მას შემდეგ, რაც მომხმარებლები კომფორტულად გრძნობენ აგენტის წინადადებებს, შეგიძლიათ დაიწყოთ დაბალი რისკის ავტონომიის დანერგვა. ეს ფაზა ეხება მომხმარებლების სწავლებას, თუ როგორ ფიქრობს აგენტი და ნებას აძლევთ მათ დააყენონ საკუთარი ტემპი.
შემოიტანეთ ავტონომიური აკრიფეთ შეზღუდული პარამეტრებით: დაიწყეთ იმით, რომ მომხმარებლებს მიეცით საშუალება მიანიჭონ აგენტს უფლებამოსილება იმოქმედოს დადასტურებით. განათავსეთ განმარტებითი დასაბუთება: აგენტის მიერ მომზადებული ყოველი ქმედებისთვის, მიეცით მკაფიო ახსნა. ეს ახდენს აგენტის ლოგიკის დემისტიფიკაციას და ამტკიცებს, რომ ის მუშაობს მომხმარებლის საკუთარი პრეფერენციების საფუძველზე.
ფაზა 3: პროაქტიული დელეგაცია (იმოქმედეთ ავტონომიურად) ეს არის საბოლოო ნაბიჯი, გადადგმული მხოლოდ მას შემდეგ, რაც თქვენ გაქვთ მკაფიო მონაცემები წინა ფაზებიდან, რაც აჩვენებს, რომ მომხმარებლები ენდობიან სისტემას.
ჩართეთ ავტონომიური მოქმედება კონკრეტული, წინასწარ დამტკიცებული ამოცანებისთვის: გამოიყენეთ მონაცემები მე-2 ფაზიდან (მაგ., მაღალი პროცედურების განაკვეთები, გაუქმების დაბალი ტარიფები) დაბალი რისკის ამოცანების პირველი ნაკრების იდენტიფიცირებისთვის, რომელიც შეიძლება სრულად ავტომატიზირებული იყოს. მონიტორინგი და გამეორება: ავტონომიური ფუნქციების გაშვება არ არის დასასრული, არამედ მუშაობის მონიტორინგის უწყვეტი ციკლის დასაწყისი, მომხმარებელთა გამოხმაურების შეგროვება და აგენტის ფარგლებისა და ქცევის დახვეწა რეალური მონაცემების საფუძველზე.
დიზაინი, როგორც უსაფრთხოების საბოლოო ბერკეტი აგენტური ხელოვნური ინტელექტის გაჩენა წარმოადგენს ახალ ზღვარს ადამიანისა და კომპიუტერის ურთიერთქმედებაში. ის გვპირდება მომავალს, სადაც ტექნოლოგიას შეუძლია პროაქტიულად შეამციროს ჩვენი ტვირთი და გაამარტივოს ჩვენი ცხოვრება. მაგრამ ეს ძალა მოყვება ღრმა პასუხისმგებლობას. ავტონომია არის ტექნიკური სისტემის შედეგი, მაგრამ სანდოობა არის დიზაინის პროცესის შედეგი. ჩვენი გამოწვევაა დავრწმუნდეთ, რომ მომხმარებლის გამოცდილება არ იყოს ტექნიკური შესაძლებლობების მსხვერპლი, არამედ მისი ძირითადი ბენეფიციარი. როგორც UX-ის პროფესიონალები, პროდუქტის მენეჯერები და ლიდერები, ჩვენი როლი არის ვიმოქმედოთ ამ ნდობის მეპატრონეებად. კონტროლისა და თანხმობის მკაფიო დიზაინის შაბლონების დანერგვით, რემონტისთვის გააზრებული გზების შემუშავებით და მმართველობის ძლიერი ჩარჩოების შექმნით, ჩვენ ვქმნით უსაფრთხოების აუცილებელ ბერკეტებს, რომლებიც აგენტურ AI-ს სიცოცხლისუნარიანს ხდის. ჩვენ არ ვქმნით მხოლოდ ინტერფეისებს; ჩვენ ვქმნით ურთიერთობებს. ხელოვნური ინტელექტის სარგებლობისა და მიღების მომავალი ემყარება ჩვენს უნარს, შევქმნათ ეს რთული სისტემები სიბრძნით, შორსმჭვრეტელობითა და მომხმარებლის საბოლოო ავტორიტეტის ღრმა პატივისცემით.
