Agentic AI нь хэрэглэгчийн туршлага, үйл ажиллагааны үр ашгийг өөрчлөхөд бэлэн байгаа тул манлайлалаас стратегийн шинэ хандлагыг шаарддаг. Хиймэл оюун ухаан дахь энэхүү хувьсал нь системүүдэд даалгавраа төлөвлөх, гүйцэтгэх, тууштай байх боломжийг олгож, энгийн зөвлөмжөөс илүү идэвхтэй үйл ажиллагаа руу шилжих боломжийг олгодог. UX багууд, бүтээгдэхүүний менежерүүд болон удирдлагуудын хувьд энэхүү шилжилтийг ойлгох нь инновацийн боломжуудыг нээх, ажлын урсгалыг оновчтой болгох, технологи хүмүүст хэрхэн үйлчлэхийг дахин тодорхойлоход маш чухал юм. Agentic AI-ийг роботын процессын автоматжуулалт (RPA)-тай андуурахад хялбар байдаг бөгөөд энэ нь компьютер дээр гүйцэтгэх дүрэмд суурилсан ажлуудад төвлөрдөг технологи юм. Ялгаа нь хөшүүн байдал, үндэслэлтэй байдалд оршдог. RPA нь хатуу скриптийг дагахдаа маш сайн: хэрэв X тохиолдвол Y хий. Энэ нь хүний гарыг дуурайдаг. Agentic AI нь хүний сэтгэхүйг дуурайдаг. Энэ нь шугаман скриптийг дагадаггүй; нэгийг бий болгодог. Ажилд авах ажлын урсгалыг авч үзье. RPA бот нь анкетыг сканнердаж мэдээллийн санд байршуулах боломжтой. Энэ нь давтагдах ажлыг төгс гүйцэтгэдэг. Agentic систем нь анкетыг харж, нэр дэвшигч тодорхой гэрчилгээний жагсаалт, шинэ үйлчлүүлэгчийн шаардлагад нийцсэн лавлагаа гаргаж байгааг анзаарч, энэ тохирлыг онцолсон хувийн цахим шуудангийн төслийг боловсруулахаар шийддэг. RPA нь урьдчилан тодорхойлсон төлөвлөгөөг хэрэгжүүлдэг; Agentic AI нь зорилго дээр үндэслэн төлөвлөгөө боловсруулдаг. Энэхүү бие даасан байдал нь агентуудыг бидний сүүлийн арван жилийн турш ашиглаж байсан урьдчилан таамаглах хэрэгслээс тусгаарладаг. Өөр нэг жишээ бол уулзалтын зөрчилдөөнийг зохицуулах явдал юм. Таны хуанлид нэгтгэсэн урьдчилан таамаглах загвар нь таны уулзалтын хуваарь болон хамт ажиллагсдынхаа хуваарьт дүн шинжилгээ хийх боломжтой. Дараа нь нэгэн зэрэг товлосон хоёр чухал уулзалт, эсвэл гол оролцогч амралтаараа товлогдсон уулзалт гэх мэт болзошгүй зөрчилдөөнийг санал болгож болно. Энэ нь танд мэдээлэл өгч, болзошгүй асуудлуудыг илтгэх боловч та арга хэмжээ авах үүрэгтэй. Агентлаг хиймэл оюун ухаан нь ижил хувилбарт зөрчилдөөнөөс зайлсхийхийг санал болгохоос цаашгүй. Гол оролцогчтой зөрчилдөж байгааг олж мэдээд төлөөлөгч дараахь зүйлийг хийж болно.
Шаардлагатай бүх оролцогчид байгаа эсэхийг шалгаж байна. Хүн бүрт тохирсон өөр цагийн хуваарийг тодорхойлох. Бүх оролцогчдод санал болгож буй шинэ уулзалтын урилгыг илгээж байна. Хэрэв зөрчил нь гадны оролцогчтой бол төлөөлөгч нь дахин төлөвлөх, өөр цаг санал болгох шаардлагатайг тайлбарласан цахим шуудангийн төслийг боловсруулж, илгээж болно. Батлагдсаны дараа таны хуанли болон хамт ажиллагсдынхаа хуанли шинэ уулзалтын дэлгэрэнгүй мэдээллээр шинэчлэгдэж байна.
Энэхүү агентын хиймэл оюун ухаан нь зорилгоо ойлгодог (уулзалтын зөрчилдөөнийг шийдвэрлэх), алхмуудыг төлөвлөдөг (боломжийг шалгах, өөр хувилбаруудыг хайх, урилга илгээх), эдгээр алхмуудыг хийж, зөрчлийг арилгах хүртэл үргэлжлүүлэх ба хэрэглэгчийн шууд оролцоо багатай. Энэ нь "агент" ялгааг харуулж байна: систем нь хэрэглэгчдэд мэдээлэл өгөхөөс илүүтэйгээр хэрэглэгчийн төлөө идэвхтэй алхмуудыг хийдэг. Agentic AI систем нь зорилгыг ойлгож, түүнд хүрэхийн тулд хэд хэдэн алхмуудыг төлөвлөж, эдгээр алхмуудыг хэрэгжүүлж, бүтэлгүйтсэн тохиолдолд дасан зохицож чаддаг. Үүнийг идэвхтэй дижитал туслах гэж бодоорой. Үндсэн технологи нь ихэвчлэн ойлгох, үндэслэл гаргахад том хэлний загваруудыг (LLMs) нэгтгэж, нарийн төвөгтэй ажлуудыг удирдаж болохуйц үйлдлүүд болгон хуваах төлөвлөлтийн алгоритмуудтай хослуулдаг. Эдгээр агентууд зорилгоо биелүүлэхийн тулд янз бүрийн хэрэгсэл, API болон бусад хиймэл оюун ухааны загваруудтай харилцаж чаддаг бөгөөд чухал зүйл бол тэд өмнөх үйлдлүүдийг санаж, зорилгодоо хүрэхийн тулд үргэлжлүүлэн ажиллах болно гэсэн үг юм. Энэ нь тэдгээрийг ихэвчлэн нэг хүсэлтийг биелүүлж, дараа нь дахин тохируулдаг ердийн хиймэл хиймэл оюун ухаанаас эрс өөр болгодог. Агентлаг зан үйлийн энгийн ангилал зүй Бид төлөөлөгчийн зан үйлийг бие даасан байдлын дөрвөн өөр горимд ангилж болно. Эдгээр нь ихэвчлэн ахиц дэвшил мэт харагддаг ч бие даасан үйлдлийн горимоор ажилладаг. Хэрэглэгч хуваарь гаргахдаа бие даан ажиллах агентад итгэж болох ч санхүүгийн гүйлгээнд "санал болгох горим"-д байлгана. Автономит тээврийн хэрэгслийн салбарын стандартыг (SAE түвшин) дижитал хэрэглэгчийн туршлагын нөхцөл байдалд тохируулснаар бид эдгээр түвшинг олж авсан. Ажиглаж, санал болго Агент нь мониторын үүрэг гүйцэтгэдэг. Энэ нь өгөгдлийн урсгалд дүн шинжилгээ хийж, гажуудал, боломжуудыг тэмдэглэдэг боловч тэг арга хэмжээ авдаг. Ялгаалах Дараагийн түвшингээс ялгаатай нь агент нь нарийн төвөгтэй төлөвлөгөө гаргадаггүй. Энэ нь асуудал байгааг харуулж байна. Жишээ нь DevOps агент серверийн CPU-ийн огцом өсөлтийг анзаарч, дуудлагын инженерт мэдэгддэг. Үүнийг хэрхэн засах, оролдохыг мэдэхгүй ч ямар нэг зүйл буруу байгааг мэддэг. Энэ түвшний дизайн ба хяналтад үзүүлэх үр дагавар,Дизайн ба хяналт нь тодорхой, хөндлөнгөөс оролцохгүй мэдэгдэл, хэрэглэгчдэд санал болгосны дагуу ажиллах тодорхой үйл явцыг эрэмбэлэх ёстой. Гол анхаарал нь хэрэглэгчийг хяналтандаа авалгүйгээр цаг тухайд нь, холбогдох мэдээллээр хангах явдал юм. UX-ийн мэргэжилтнүүд саналаа ойлгомжтой, ойлгомжтой болгоход анхаарлаа төвлөрүүлэх ёстой бол бүтээгдэхүүний менежерүүд хэрэглэгчдэд дарамт учруулахгүйгээр системийг үнэ цэнийг хангах ёстой. Төлөвлөж, санал болго Төлөөлөгч нь зорилгоо тодорхойлж, түүнд хүрэхийн тулд олон үе шаттай стратеги боловсруулдаг. Энэ нь хүний хянан үзэх бүрэн төлөвлөгөөг танилцуулж байна. Ялгаалах Агент нь стратегийн үүрэг гүйцэтгэдэг. Энэ нь хэрэгжихгүй; Энэ нь бүх арга барилд зөвшөөрлийг хүлээж байна. Жишээ нь ижил DevOps агент CPU-ийн огцом өсөлтийг анзаарч, бүртгэлд дүн шинжилгээ хийж, засах төлөвлөгөөг санал болгодог:
Хоёр нэмэлт жишээг эргүүлээрэй. Ачаалал тэнцвэржүүлэгчийг дахин эхлүүлнэ үү. Хуучин бүртгэлийг архивлах.
Хүн логикийг хянаж үзээд "Төлөвлөгөө батлах" дээр дарна. Дизайн ба хяналтад үзүүлэх нөлөө Төлөвлөж, санал болгож буй төлөөлөгчдийн хувьд дизайн нь санал болгож буй төлөвлөгөөг хялбархан ойлгох боломжтой бөгөөд хэрэглэгчдэд тэдгээрийг өөрчлөх эсвэл татгалзах зөн совинтой байх ёстой. Хяналт нь саналын чанар, төлөөлөгчийн төлөвлөлтийн логикийг хянахад маш чухал юм. UX-ийн мэргэжилтнүүд санал болгож буй төлөвлөгөөний тодорхой дүрслэлийг боловсруулах ёстой бөгөөд бүтээгдэхүүний менежерүүд тодорхой хянаж, батлах ажлын урсгалыг бий болгох ёстой. Баталгаажсан үйлдэл Агент бүх бэлтгэл ажлыг дуусгаж, эцсийн үйлдлийг үе шаттай байдалд байрлуулна. Энэ нь хаалгыг онгойлгож, толгой дохихыг хүлээж байна. Ялгаалах Энэ нь "Төлөвлөж, санал болго"-оос ялгаатай, учир нь ажил аль хэдийн хийгдсэн, үе шаттай болсон. Энэ нь үрэлтийг бууруулдаг. Хэрэглэгч стратегийг биш харин үр дүнг баталгаажуулдаг. Жишээ нь ажилд зуучлах агент таван ярилцлагын урилгыг боловсруулж, хуанлигаас нээлттэй цагийг олж, хуанлийн үйл явдлуудыг үүсгэдэг. Энэ нь "Бүгдийг илгээх" товчийг харуулж байна. Хэрэглэгч гадны үйлдлийг өдөөх эцсийн зөвшөөрлийг өгдөг. Дизайн ба хяналтад үзүүлэх нөлөө Төлөөлөгчид баталгаатай ажиллах үед загвар нь болзошгүй үр дагаврыг тодорхой тусгасан, төлөвлөсөн үйл ажиллагааны ил тод, товч хураангуйг өгөх ёстой. Хяналт нь баталгаажуулах үйл явц найдвартай эсэхийг шалгах шаардлагатай бөгөөд хэрэглэгчдээс үйлдлийг сохроор зөвшөөрөхгүй байхыг шаарддаг. UX дадлагажигчид шаардлагатай бүх мэдээллээр хангасан баталгаажуулалтын сануулгыг төлөвлөх ёстой бөгөөд бүтээгдэхүүний менежерүүд батлагдсан бүх үйлдлүүдийн хувьд найдвартай аудитын мөрийг эрэмбэлэх ёстой. Үйлдэл - Бие даасан байдлаар Агент нь тодорхой хил хязгаарын хүрээнд бие даан даалгавруудыг гүйцэтгэдэг. Ялгаварлах Хэрэглэгч үйлдлүүдийг бус харин үйлдлүүдийн түүхийг хянана. Жишээ: Ажилд зуучлагч төлөөлөгч зөрчилдөөнийг олж хараад, ярилцлагыг нөөцөлж, нэр дэвшигчийг шинэчилж, ажилд авах менежерт мэдэгдэнэ. Хүн зөвхөн мэдэгдлийг хардаг: Ярилцлагыг Мягмар гаригт шилжүүлсэн. Дизайн ба хяналтад үзүүлэх нөлөө Бие даасан байгууллагуудын хувьд зураг төсөл нь урьдчилан батлагдсан тодорхой хил хязгаарыг тогтоож, хяналтын найдвартай хэрэгслээр хангах шаардлагатай. Хяналт нь эдгээр хил хязгаар доторх төлөөлөгчийн гүйцэтгэлийг тасралтгүй үнэлэх, хэрэглэгчийн хяналт, итгэлийг хадгалахын тулд бат бөх бүртгэл, тодорхой хүчингүй болгох механизм, хэрэглэгчийн тодорхойлсон унтраах унтраалга зэрэг чухал хэрэгцээг шаарддаг. UX-ийн мэргэжилтнүүд бие даасан төлөөлөгчийн зан үйлийг хянах үр дүнтэй хяналтын самбарыг зохион бүтээхэд анхаарлаа төвлөрүүлэх ёстой бөгөөд бүтээгдэхүүний менежерүүд тодорхой засаглал, ёс зүйн удирдамжийг хэрэгжүүлэх ёстой.
Эдгээр горимыг хэрхэн ажиллаж байгааг харахын тулд хүний нөөцийн технологийн бодит хэрэглээг харцгаая. Ажилд авах логистикийг зохицуулах зорилготой "Ярилцлагыг зохицуулах агент"-ийг авч үзье.
Санал болгох горимд агент ярилцлага авагчийг давхар захиалсан болохыг анзаардаг. Энэ нь ажилд зуучлагчийн хяналтын самбар дээрх зөрчилдөөнийг онцолж байна: "Анхааруулга: Сара 14:00 цагийн ярилцлагад давхар захиалга өгсөн." Төлөвлөгөөний горимд агент Сарагийн хуанли болон нэр дэвшигчийн бэлэн байдалд дүн шинжилгээ хийдэг. Энэ нь шийдлийг харуулж байна: "Би ярилцлагыг пүрэв гаригт өглөөний 10 цагт шилжүүлэхийг зөвлөж байна. Энэ нь Сарагийн 1:1-ийн харьцааг менежертэйгээ шилжүүлэх шаардлагатай." Элсүүлэгч энэ логикийг хянадаг. Баталгаажуулах горимд агент нь нэр дэвшигч болон менежерт илгээсэн имэйлийн төслийг боловсруулдаг. Энэ нь хуанлийн урилгыг дүүргэдэг. Ажилд зуучлагч "Пүрэв гараг хүртэл товлоход бэлэн үү. Шинэчлэлт илгээх үү?" гэсэн хураангуйг харна. Ажилд зуучлагч "Баталгаажуулах" дээр дарна. Автономит горимд агент зөрчилдөөнийг шууд зохицуулдаг. Энэ нь "Дотоод 1:1-ээс илүү нэр дэвшигчийн ярилцлагыг үргэлж эрэмбэлэх" гэсэн урьдчилан тогтоосон дүрмийг хүндэтгэдэг. Энэ нь уулзалтыг хөдөлгөж, мэдэгдэл илгээдэг. Ажилд зуучлагч бүртгэлийн бичилтийг харна: “ШийдвэрлэсэнНэр дэвшигч Б-ийн хуваарийн зөрчил.”
Судалгааны праймер: Юуг яаж судлах вэ Үр дүнтэй агент хиймэл хиймэл оюун ухаан хөгжүүлэх нь уламжлалт программ хангамж эсвэл бүр үүсгэгч хиймэл оюун ухаантай харьцуулахад тодорхой судалгааны арга барилыг шаарддаг. AI агентуудын бие даасан шинж чанар, шийдвэр гаргах чадвар, идэвхтэй үйл ажиллагаа явуулах чадвар нь хэрэглэгчийн хүлээлтийг ойлгох, агентийн нарийн төвөгтэй зан үйлийн зураглал хийх, болзошгүй бүтэлгүйтлийг урьдчилан таамаглах тусгай арга зүйг шаарддаг. Дараах судалгааны праймер нь агент хиймэл оюун ухааны эдгээр өвөрмөц талуудыг хэмжих, үнэлэх үндсэн аргуудыг тоймлон харуулав. Сэтгэцийн загвартай ярилцлага Эдгээр ярилцлага нь хиймэл оюун ухааны төлөөлөгч хэрхэн биеэ авч явах ёстой талаар хэрэглэгчдийн урьдаас төсөөлж байсан төсөөллийг илрүүлдэг. Хэрэглэгчид юу хүсч байгааг асуухын оронд төлөөлөгчийн чадавхи, хязгаарлалтын дотоод загварыг ойлгоход гол анхаарлаа хандуулдаг. Бид оролцогчидтой “агент” гэдэг үгийг ашиглахаас зайлсхийх хэрэгтэй. Энэ нь шинжлэх ухааны уран зөгнөлт тээш тээвэрлэдэг эсвэл тусламж үйлчилгээ үзүүлдэг хүний төлөөлөгчтэй дэндүү амархан андуурах нэр томъёо юм. Үүний оронд "туслах" эсвэл "систем" -ийн эргэн тойронд хэлэлцүүлгийг зохион байгуул. Хэрэглэгчид ашигтай автоматжуулалт болон интрузив хяналтын хоорондох зааг хаана байгааг олж мэдэх хэрэгтэй.
Арга: Хэрэглэгчдээс янз бүрийн таамаглалаар агенттай харилцах харилцаагаа дүрслэх, зурах эсвэл ярихыг хүс. Гол сорьцууд (төрөл бүрийн салбарыг тусгасан): Хүссэн автоматжуулалтын хил хязгаар, хэт автоматжуулалттай холбоотой болзошгүй түгшүүрийг ойлгохын тулд дараахь зүйлийг асуугаарай. Хэрэв таны нислэг цуцлагдсан бол систем автоматаар юу хийхийг та хүсэж байна вэ? Хэрэв таны тодорхой зааваргүйгээр үүнийг хийсэн бол та юунд санаа зовох вэ?
Агентын дотоод үйл явц болон шаардлагатай харилцааны талаарх хэрэглэгчийн ойлголтыг судлахын тулд дараахь зүйлийг асуугаарай. Дижитал туслах таны ухаалаг гэрийг удирдаж байна гэж төсөөлөөд үз дээ. Хэрэв илгээмж хүргэгдсэн бол энэ нь ямар алхмуудыг хийх ёстой гэж та төсөөлж байна, ямар мэдээлэл хүлээж авах вэ?
Олон үе шаттай үйл явцын хүрээнд хяналт, зөвшөөрөлтэй холбоотой хүлээлтийг илрүүлэхийн тулд дараахь зүйлийг асуугаарай. Хэрэв та дижитал туслахаасаа уулзалт товлохыг хүсэх юм бол ямар алхмуудыг хийхээр төлөвлөж байна вэ? Та ямар үед зөвлөгөө авах эсвэл сонголт хийхийг хүсч байна вэ?
Аргын ашиг тус: Далд таамаглалыг илчилж, төлөөлөгчийн төлөвлөж буй зан байдал нь хэрэглэгчийн хүлээлтээс зөрж болзошгүй газруудыг онцолж, зохих хяналт, санал хүсэлтийн механизмын дизайныг мэдээлдэг.
Агент аяллын зураглал: Уламжлалт хэрэглэгчийн аяллын зураглалтай адил агент аяллын зураглал нь хэрэглэгчийн харилцан үйлчлэлийн хажуугаар AI агентийн өөрийнх нь хүлээгдэж буй үйлдэл, шийдвэрийн цэгүүдэд онцгой анхаарал хандуулдаг. Энэ нь болзошгүй бэрхшээлийг илрүүлэхэд тусалдаг.
Арга: Агентын үйл ажиллагааны эхлэлээс дуусгах хүртэлх янз бүрийн үе шатууд, түүний дотор бүх боломжит үйлдэл, шийдвэр, гадаад систем эсвэл хэрэглэгчидтэй харилцах харилцаа зэргийг харуулсан дүрслэлийн зураглалыг бий болгох. Газрын зургийн гол элементүүд: Төлөөлөгчийн үйл ажиллагаа: Төлөөлөгч ямар тодорхой ажил, шийдвэр гаргадаг вэ? Мэдээллийн оролт/гаралт: Төлөөлөгчид ямар өгөгдөл хэрэгтэй вэ, ямар мэдээлэл үүсгэдэг вэ? Шийдвэрлэх цэгүүд: Төлөөлөгч хаана сонголт хийдэг вэ, тэдгээр сонголтуудад ямар шалгуур тавьдаг вэ? Хэрэглэгчийн харилцан үйлчлэлийн цэгүүд: Хэрэглэгч ямар үйлдэл хийх, хянах, зөвшөөрөх вэ? Алдаа гарах цэгүүд: Хамгийн гол нь төлөөлөгч зааварчилгааг буруу тайлбарлаж, буруу шийдвэр гаргах эсвэл буруу байгууллагатай харилцаж болох тодорхой тохиолдлуудыг тодорхойлох. Жишээ нь: Буруу хүлээн авагч (жишээ нь, эмзэг мэдээллийг буруу хүнд илгээх), овердрафт (жишээ нь, бэлэн мөнгөнөөс давсан автомат төлбөр), зорилгыг буруу тайлбарласан (жишээ нь, тодорхой бус үг хэллэгээс болж буруу огноогоор нислэг захиалсан).
Сэргээх замууд: Агент эсвэл хэрэглэгч эдгээр алдаанаас хэрхэн сэргээх вэ? Залруулга, хөндлөнгийн оролцоо ямар механизмууд байдаг вэ?
Аргын давуу тал: Агентын үйл ажиллагааны урсгалыг цогцоор нь харж, далд хамаарлыг илрүүлж, сөрөг үр дагавраас урьдчилан сэргийлэх, багасгахын тулд хамгаалалтын арга хэмжээ, алдаатай ажиллах, хэрэглэгчийн оролцооны цэгүүдийг идэвхтэй төлөвлөх боломжийг олгодог.
Зохисгүй зан үйлийн туршилт: Энэхүү арга нь AI агент бүтэлгүйтсэн эсвэл хүлээлтээс хазайсан үед системийг стресст оруулах, хэрэглэгчийн хариу үйлдлийг ажиглах зорилготой юм. Энэ нь сөрөг нөхцөл байдалд итгэх итгэл, сэтгэл хөдлөлийн хариу үйлдлийг ойлгох тухай юм.
Арга: Хяналттай лабораторийн судалгаанд агент алдаа гаргасан, тушаалыг буруу тайлбарласан эсвэл гэнэтийн авир гаргасан хувилбаруудыг зориудаар танилцуул. Загварлах "буруу зан"-ын төрлүүд: ТушаалБуруу тайлбар: Агент нь хэрэглэгчийн бодож байснаас арай өөр үйлдэл хийдэг (жишээ нь, нэг зүйлийн оронд хоёр зүйл захиалах). Мэдээллийн хэт ачаалал/бага ачаалал: Агент хэт их хамааралгүй мэдээлэл эсвэл хангалттай чухал мэдээлэл өгдөггүй. Хүсээгүй үйлдэл: Агент нь хэрэглэгчийн тодорхой хүсээгүй эсвэл хүсээгүй үйлдлийг хийдэг (жишээ нь, зөвшөөрөлгүйгээр хувьцаа худалдаж авах). Системийн алдаа: Агент гацах, хариу өгөхгүй байх, эсвэл алдааны мэдэгдэл өгдөг. Ёс зүйн асуудал: Төлөөлөгч нь ёс зүйн үр дагавар бүхий шийдвэр гаргадаг (жишээ нь, урьдчилан тооцоолоогүй хэмжүүр дээр үндэслэн нэг ажлыг нөгөөгөөсөө давуулах гэх мэт).
Ажиглалтын төвлөрөл: Хэрэглэгчийн хариу үйлдэл: Хэрэглэгчид сэтгэл хөдлөлийн хувьд хэрхэн хариу үйлдэл үзүүлдэг вэ (бухимдал, уур хилэн, төөрөгдөл, итгэлийг алдах)? Сэргээх оролдлого: Хэрэглэгчид төлөөлөгчийн зан үйлийг засах эсвэл түүний үйлдлийг буцаахын тулд ямар арга хэмжээ авдаг вэ? Итгэлийг засах механизм: Системд суулгасан сэргээх эсвэл санал хүсэлтийн механизм нь итгэлийг сэргээхэд тусалдаг уу? Хэрэглэгчид алдааны талаар хэрхэн мэдэгдэхийг хүсдэг вэ? Сэтгэцийн загварын өөрчлөлт: Буруу зан авир нь төлөөлөгчийн чадвар, хязгаарлалтын талаарх хэрэглэгчийн ойлголтыг өөрчилдөг үү?
Аргын давуу тал: Алдаа засах, санал хүсэлт, хэрэглэгчийн хяналттай холбоотой дизайны цоорхойг тодорхойлоход чухал ач холбогдолтой. Энэ нь хэрэглэгчид агентийн бүтэлгүйтэлд хэр тэсвэртэй байдаг, итгэлцлийг хадгалах эсвэл сэргээхэд юу хэрэгтэй болох талаар ойлголт өгч, илүү бат бөх, өршөөлтэй агент системийг бий болгоход хүргэдэг.
Судалгааны эдгээр арга зүйг нэгтгэснээр UX-ийн мэргэжилтнүүд агент системийг ашиглах боломжтой болгож, найдвартай, хяналттай, хариуцлагатай болгож, хэрэглэгчид болон тэдний хиймэл оюун ухааны агентуудын хооронд эерэг, үр бүтээлтэй харилцааг бий болгож чадна. Эдгээр нь хиймэл хиймэл оюун ухааныг үр дүнтэй судлах цорын ганц арга биш гэдгийг анхаарна уу. Өөр олон аргууд байдаг ч эдгээр нь ойрын хугацаанд эмч нарт хамгийн хүртээмжтэй байдаг. Би өмнө нь Озын шидтэний аргыг авч үзсэн, үзэл баримтлалыг шалгах арай илүү дэвшилтэт арга бөгөөд энэ нь хиймэл хиймэл оюун ухааны ойлголтуудыг судлах үнэ цэнэтэй хэрэгсэл юм. Судалгааны арга зүй дэх ёс зүйн асуудал Агентлаг хиймэл оюун ухааныг судлахдаа, ялангуяа буруу зан үйл, алдааг дуурайлган хийхдээ ёс суртахууны хүчин зүйлсийг анхаарч үзэх хэрэгтэй. Ёс суртахууны UX судалгаанд анхаарлаа хандуулсан олон нийтлэлүүд байдаг бөгөөд үүнд миний Smashing сэтгүүлд бичсэн нийтлэл, UX дизайны хүрээлэнгийн эдгээр удирдамж, Inclusive Design Toolkit-ийн энэ хуудас багтсан болно. Agentic AI-ийн гол хэмжүүрүүд Агент AI системийн гүйцэтгэл, найдвартай байдлыг үр дүнтэй үнэлэхийн тулд танд үндсэн хэмжүүрийн цогц багц хэрэгтэй болно. Эдгээр хэмжүүрүүд нь хэрэглэгчийн итгэлцэл, системийн нарийвчлал, хэрэглэгчийн ерөнхий туршлагын талаарх ойлголтыг өгдөг. Эдгээр үзүүлэлтүүдийг ажигласнаар хөгжүүлэгчид болон дизайнерууд сайжруулах шаардлагатай газруудыг тодорхойлж, хиймэл оюун ухааны агентууд аюулгүй, үр дүнтэй ажиллах боломжтой болно. 1. Интервенцийн түвшин Бие даасан төлөөлөгчдийн хувьд бид амжилтыг чимээгүй байдлаар хэмждэг. Хэрэв агент даалгавраа гүйцэтгэсэн бөгөөд хэрэглэгч тодорхой цонхонд (жишээ нь, 24 цаг) хөндлөнгөөс оролцохгүй эсвэл үйлдлийг буцаахгүй бол бид үүнийг хүлээн зөвшөөрсөнд тооцно. Бид хөндлөнгийн оролцооны түвшинг хянадаг: хүн агентыг зогсоох эсвэл засахын тулд хэр олон удаа үсрдэг вэ? Интервенцийн өндөр хувь нь итгэлцэл эсвэл логикийн буруу зохицуулалтыг илтгэнэ. 2. 1000 даалгаврын хүсээгүй үйлдлийн давтамж Энэ чухал хэмжигдэхүүн нь 1000 гүйцэтгэсэн ажил тутамд хэрэглэгчийн хүсээгүй эсвэл хүсээгүй хиймэл оюун ухааны агентын гүйцэтгэсэн үйлдлүүдийн тоог хэмждэг. Төлөвлөгөөг бус үйлдлүүдийн давтамж бага байгаа нь хэрэглэгчийн зорилгыг үнэн зөв тайлбарлаж, тодорхой хил хязгаарт үйлчилдэг сайн зохицсон хиймэл оюун ухааныг илтгэнэ. Энэхүү хэмжүүр нь хиймэл оюун ухааны контекстийн талаарх ойлголт, тушаалуудыг ялгах чадвар, аюулгүй байдлын протоколуудын бат бөх байдалтай нягт холбоотой. 3. Буцах буюу буцаах ханш Энэ хэмжүүр нь хэрэглэгчид хиймэл оюун ухаанаар гүйцэтгэсэн үйлдлийг хэр олон удаа буцаах эсвэл буцаах шаардлагатайг хянадаг. Буцах өндөр хувь нь хиймэл оюун ухаан нь байнга алдаа гаргадаг, зааврыг буруу тайлбарладаг, эсвэл хэрэглэгчийн хүлээлттэй нийцэхгүй байдлаар ажиллаж байгааг харуулж байна. Эдгээр буцаалтын цаадах шалтгааныг шинжлэх нь AI-ийн алгоритмыг сайжруулах, хэрэглэгчийн сонголтыг ойлгох, хүссэн үр дүнг урьдчилан таамаглах чадварыг сайжруулахад үнэ цэнэтэй санал хүсэлтийг өгөх болно. Яагаад гэдгийг ойлгохын тулд та буцаах үйлдлийн талаар бичил судалгаа хийх ёстой. Жишээлбэл, хэрэглэгч цагийн хуваарийн өөрчлөлтийг буцаах үед энгийн сануулга "Буруу цаг уу? Буруу хүн үү? Эсвэл та өөрөө үүнийг хийхийг хүссэн үү?" Хэрэглэгчид өөрсдийн үндэслэлд хамгийн сайн тохирох сонголт дээр дарах боломжийг олгоно. 4. Алдааны дараа шийдвэрлэх хугацаа Энэ хэмжигдэхүүнХэрэглэгч хиймэл оюун ухаанаас гаргасан алдааг залруулах эсвэл AI систем өөрөө алдаатай байдлаасаа сэргээхэд шаардагдах хугацааг хэмждэг. Шийдвэрлэх хугацаа богино байгаа нь хэрэглэгчийн бухимдлыг бууруулж, бүтээмжийг хадгалах боломжтой үр дүнтэй бөгөөд хэрэглэгчдэд ээлтэй алдааг сэргээх үйл явцыг илтгэнэ. Үүнд алдааг тодорхойлоход хялбар байдал, буцаах эсвэл залруулах механизмын хүртээмж, хиймэл оюун ухаанаас өгсөн алдааны мэдэгдлийн тодорхой байдал зэрэг багтана.
Эдгээр хэмжигдэхүүнийг цуглуулахын тулд Агент үйлдлийн ID-г хянахын тулд системээ ашиглах шаардлагатай. Төлөөлөгчийн хуваарь санал болгох, нислэг захиалах гэх мэт тодорхой үйлдэл бүр нь бүртгэлд үлдэх өвөрмөц ID үүсгэх ёстой. Интервенцийн түвшинг хэмжихийн тулд бид хэрэглэгчийн шууд хариу үйлдэл үзүүлэхийг эрэлхийлдэггүй. Бид тодорхой цонхны дотор эсрэг үйлдэл байхгүй эсэхийг хайж байна. Үйлдлийн ID-г өглөөний 9:00 цагт үүсгэсэн бөгөөд дараагийн өдрийн 9:00 цаг гэхэд ямар ч хүн тухайн ID-г өөрчлөх эсвэл буцаахгүй бол систем логикоор үүнийг Зөвшөөрсөн гэж тэмдэглэнэ. Энэ нь идэвхтэй баталгаажуулалт гэхээсээ илүү хэрэглэгчийн чимээгүй байдалд тулгуурлан амжилтыг тооцоолох боломжийг бидэнд олгодог. Буцах ханшийн хувьд түүхий тоонууд нь контекст байхгүй тул хангалтгүй байна. Үндсэн шалтгааныг олж мэдэхийн тулд та өөрийн аппликешны Буцаах эсвэл Буцаах функцүүд дээр таслан зогсоох логикийг хэрэгжүүлэх ёстой. Хэрэглэгч агентын эхлүүлсэн үйлдлийг буцаах үед хөнгөн бичил судалгааг идэвхжүүлнэ. Энэ нь хэрэглэгчээс алдааг бодитой буруу, контекст дутмаг, эсвэл даалгаврыг гараар зохицуулах энгийн сонголт гэж ангилахыг хүссэн энгийн гурван сонголттой загвар байж болно. Энэ нь тоон телеметрийг чанарын ойлголттой хослуулсан. Энэ нь инженерийн багуудад эвдэрсэн алгоритм болон хэрэглэгчийн сонголтын зөрүү хоёрыг ялгах боломжийг олгодог. Эдгээр хэмжигдэхүүнийг тууштай хянаж, цогц байдлаар дүн шинжилгээ хийх үед хиймэл оюун ухаант системийн гүйцэтгэлийг үнэлэх найдвартай тогтолцоог бүрдүүлж, хяналт, зөвшөөрөл, хариуцлагыг тасралтгүй сайжруулах боломжийг олгодог. Хууран мэхлэлтийн эсрэг дизайн хийх Агентууд улам бүр чадварлаг болохын хэрээр бид шинэ эрсдэлтэй тулгардаг: Agentic Sludge. Уламжлалт лаг нь үрэлтийг үүсгэдэг бөгөөд энэ нь бүртгэлийг цуцлах эсвэл бүртгэлийг устгахад хэцүү болгодог. Агентик лаг нь эсрэгээрээ ажилладаг. Энэ нь гэмтлийн үрэлтийг арилгаж, хэрэглэгч өөрийн ашиг сонирхолд бус бизнест ашигтай үйлдлийг зөвшөөрөхөд хэтэрхий хялбар болгодог. Аялал жуулчлалын захиалга хийхэд туслах төлөөлөгчийг авч үзье. Тодорхой хашлагагүй бол систем нь түнш агаарын тээврийн компани эсвэл илүү өндөр үнэлгээтэй зочид буудлыг эрэмбэлэх боломжтой. Энэ сонголтыг оновчтой зам болгон харуулж байна. Системийн эрх мэдэлд итгэсэн хэрэглэгч зөвлөмжийг ямар ч хяналтгүйгээр хүлээн авдаг. Энэ нь тохь тухтай байх нэрийдлээр систем нь орлогоо оновчтой болгодог хуурамч хэв маягийг бий болгодог. Хуурамчаар төсөөлсөн чадварын эрсдэл Хууран мэхлэлт нь хорлонтой санаанаас үүдэлтэй байж болохгүй. Энэ нь хиймэл оюун ухаанд ихэвчлэн төсөөлсөн чадвар хэлбэрээр илэрдэг. Том хэлний загвар нь буруу байсан ч эрх мэдэлтэй сонсогддог. Тэд баталгаатай баримттай адил итгэлтэйгээр хуурамч захиалгын баталгаа эсвэл буруу хураангуйг гаргаж өгдөг. Хэрэглэгчид энэхүү итгэлтэй аялгуунд мэдээж итгэж болно. Энэхүү үл нийцэл нь системийн чадавхи болон хэрэглэгчийн хүлээлт хоёрын хооронд аюултай цоорхойг үүсгэдэг. Энэ ялгааг арилгахын тулд бид тусгайлан төлөвлөх ёстой. Хэрэв агент даалгавраа гүйцэтгэж чадаагүй бол интерфэйс нь алдаа дутагдлыг тодорхой дохио өгөх ёстой. Хэрэв систем итгэлгүй байгаа бол түүнийг өнгөлсөн зохиолоор далдлахын оронд тодорхой бус байдлыг илэрхийлэх ёстой. Примитивээр дамжуулан ил тод байдал Лаг, хий үзэгдэл хоёрын эсрэг эм нь гарал үүсэл юм. Автономит үйлдэл бүр нь шийдвэрийн гарал үүслийг тайлбарласан мета өгөгдлийн тусгай шошго шаарддаг. Хэрэглэгчид үр дүнгийн цаана байгаа логик хэлхээг шалгах чадвартай байх шаардлагатай. Үүнд хүрэхийн тулд бид командуудыг бодит хариулт болгон хөрвүүлэх ёстой. Програм хангамжийн инженерчлэлд командууд нь мэдээллийн үндсэн нэгжүүд эсвэл агентын гүйцэтгэдэг үйлдлийг хэлдэг. Инженерийн хувьд энэ нь API дуудлага эсвэл логик хаалга шиг харагдаж байна. Хэрэглэгчийн хувьд энэ нь тодорхой тайлбар мэт харагдах ёстой. Загварын сорилт нь эдгээр техникийн алхмуудыг хүний унших боломжтой үндэслэлд буулгахад оршдог. Хэрэв төлөөлөгч тодорхой нислэг хийхийг санал болговол хэрэглэгч яагаад гэдгийг мэдэх хэрэгтэй. Интерфэйс нь ерөнхий зөвлөмжийн ард нуугдаж чадахгүй. Энэ нь үндсэн командыг илчлэх ёстой: Логик: Хамгийн хямд_Шууд_Нислэг эсвэл Логик: Түнш_Агаарын_Тэргүүлэх. Зураг 4-т энэхүү орчуулгын урсгалыг харуулав. Бид түүхий системийн анхдагч буюу бодит кодын логикийг авч, түүнийг хэрэглэгчдэд чиглэсэн стрингт буулгадаг. Жишээлбэл, уулзалтын хуанлийн хуваарийг шалгах нь тодорхой мэдэгдэл болдог: Би 16:00 цагийг санал болгов.уулзалт. Энэхүү ил тод байдлын түвшин нь төлөөлөгчийн үйлдлүүдийг логик, ашигтай мэт харагдуулдаг. Энэ нь хэрэглэгчийг төлөөлөгч нь тэдний ашиг сонирхолд нийцүүлэн ажилласан эсэхийг шалгах боломжийг олгодог. Бид анхдагч зүйлийг ил болгосноор хар хайрцгийг шилэн хайрцаг болгон хувиргаснаар хэрэглэгчид өөрсдийн дижитал амьдралын эцсийн эрх мэдэл хэвээр үлдэх болно.
Дизайн хийх тайзыг тохируулах Агент тогтолцоог бий болгох нь сэтгэлзүйн болон зан үйлийн шинэ түвшний ойлголтыг шаарддаг. Энэ нь биднийг ердийн хэрэглээний тестээс хальж, итгэлцэл, зөвшөөрөл, хариуцлагын талбарт шилжихэд хүргэдэг. Бидний ярилцсан судалгааны аргууд нь сэтгэцийн загварыг судлахаас эхлээд буруу зан үйлийг дуурайлган дуурайлган хийх, шинэ хэмжигдэхүүнийг бий болгох хүртэл шаардлагатай суурийг бүрдүүлдэг. Эдгээр практик нь бие даасан систем хаана бүтэлгүйтэж болзошгүйг тодорхойлох, хамгийн чухал нь хэрэглэгч-агент хоорондын харилцааг хэрхэн засах талаар идэвхтэй тодорхойлох чухал хэрэгсэл юм. Агентлаг хиймэл оюун ухаан руу шилжих нь хэрэглэгч-системийн харилцааны дахин тодорхойлолт юм. Бид зүгээр л командуудад хариулах хэрэгслүүдийн загвар гаргахаа больсон; Бид бидний өмнөөс ажилладаг түншүүдэд зориулж загвар зохион бүтээж байна. Энэ нь дизайны шаардлагыг үр ашигтай, ашиглахад хялбар байхаас ил тод, урьдчилан таамаглах, хяналт тавих хүртэл өөрчилдөг. Хиймэл оюун ухаан эцсийн товшилтгүйгээр нислэг захиалах эсвэл хувьцааны арилжаа хийх боломжтой үед түүний "налуу" болон "налуу зам"-ын дизайн хамгийн чухал болно. Хэрэглэгчид жолоогоо хүлээлгэн өгсөн ч жолоочийн суудалд байгаагаа мэдрэх нь бидний үүрэг юм. Энэхүү шинэ бодит байдал нь UX судлаачийн үүргийг мөн дээшлүүлдэг. Бид агентийн бие даасан байдлын хамгаалалтын хаалтыг тодорхойлж, туршихын тулд инженерүүд болон бүтээгдэхүүний менежерүүдтэй хамтран ажиллаж, хэрэглэгчийн итгэлийг хамгаалагчид болж байна. Бид судлаач байхаас гадна хэрэглэгчийн хяналт, ил тод байдал, хөгжүүлэлтийн явцад ёс зүйн хамгаалалтыг дэмжигч болдог. Командуудыг практик асуулт болгон хөрвүүлж, хамгийн муу тохиолдлын хувилбаруудыг дуурайснаар бид хүчирхэг, аюулгүй найдвартай системийг бий болгож чадна. Энэ нийтлэлд хиймэл хиймэл оюун ухааныг судлах "юу" ба "яагаад"-ыг тодорхойлсон болно. Энэ нь манай уламжлалт хэрэглүүр хангалтгүй байгаа бөгөөд бид шинэ, ирээдүйг харсан арга зүйг нэвтрүүлэх ёстойг харуулсан. Дараагийн нийтлэл нь энэхүү суурь дээр тулгуурлан, агентын хэрэглүүрийг хэрэглэгчдэд ил тод болгож, агентын хиймэл оюун ухааны хүчийг өөртөө итгэлтэй, хяналттайгаар ашиглах боломжийг баталгаажуулах тусгай дизайны загвар, зохион байгуулалтын арга барилыг өгөх болно. UX-ийн ирээдүй бол системийг найдвартай болгох явдал юм. Агент AI-ийн талаар нэмэлт ойлголт авахын тулд та дараах эх сурвалжуудыг судалж болно.
Agentic AI дээрх Google AI блог Майкрософт компанийн AI агентуудын судалгаа
