Бие даасан төлөөлөгчдөд зориулсан загвар зохион бүтээх нь өвөрмөц бухимдлыг бий болгодог. Бид нарийн төвөгтэй ажлыг хиймэл оюун ухаанд хүлээлгэж өгөхөд 30 секунд (эсвэл 30 минут) алга болж, дараа нь үр дүн нь буцаж ирдэг. Бид дэлгэц рүү ширтдэг. Энэ ажилласан уу? Галлюцинация үзсэн үү? Энэ нь нийцлийн мэдээллийн санг шалгасан уу эсвэл энэ алхамыг алгассан уу? Бид ихэвчлэн хоёр туйлын аль нэгээр энэ түгшүүртэй хариу үйлдэл үзүүлдэг. Бид системийг энгийн харагдацтай байлгахын тулд бүх зүйлийг нуун дарагдуулсан хар хайрцагтай байлгадаг, эсвэл бид сандарч, хэрэглэгчийн бүртгэлийн мөр болон API дуудлагыг дамжуулдаг Data Dump-ээр хангадаг. Аль ч арга нь хэрэглэгчдэд ил тод байдлын хамгийн тохиромжтой түвшинг хангахад шаардлагатай нарийн ширийн зүйлийг шууд авч үздэггүй. Хар хайрцаг нь хэрэглэгчдэд өөрийгөө хүчгүй болгодог. Өгөгдлийн хогийн цэг нь мэдэгдлийн харалган байдлыг бий болгож, агентын амласан үр ашгийг бууруулдаг. Хэрэглэгчид ямар нэгэн зүйл эвдрэх хүртэл мэдээллийн байнгын урсгалыг үл тоомсорлодог бөгөөд энэ үед үүнийг засах нөхцөл байхгүй. Бидэнд тэнцвэрийг олохын тулд зохион байгуулалттай арга хэрэгтэй. Миний өмнөх нийтлэл болох "Agentic AI-д зориулж дизайн хийх" нийтлэлдээ бид хиймэл оюун ухааны зорьсон үйлдлийг урьдчилан харуулах (Intent Previews), хэрэглэгчдэд хиймэл оюун ухаан хэр их ажилладагийг хянах (Autonomy Dials) гэх мэт итгэлцлийг бий болгодог интерфейсийн элементүүдийг авч үзсэн. Гэхдээ ямар элементүүдийг ашиглахаа мэдэх нь сорилтуудын зөвхөн нэг хэсэг юм. Дизайнеруудын хувьд хамгийн хэцүү асуулт бол тэдгээрийг хэзээ ашиглахаа мэдэх явдал юм. 30 секундын ажлын урсгалын аль тодорхой агшинд Intent Preview шаардлагатай, аль нь энгийн бүртгэлийн оруулгаар зохицуулагдаж болохыг та яаж мэдэх вэ? Энэ нийтлэлд энэ асуултад хариулах аргыг зааж өгсөн болно. Бид Шийдвэрлэх Зангилааны Аудитаар дамжин өнгөрөх болно. Энэ процесс нь дизайнерууд болон инженерүүдийг нэг өрөөнд суулгаж, хэрэглэгчийн интерфэйс рүү арын логикийг буулгадаг. Та хиймэл оюун ухаан юу хийж байгаа талаар хэрэглэгчдэд шинэчлэлт хийх шаардлагатай мөчүүдийг хэрхэн тодорхойлох талаар сурах болно. Мөн бид Нөлөөллийн/Эрсдлийн матрицыг хамрах бөгөөд энэ нь ямар шийдвэрийн цэгүүдийг харуулахыг эрэмбэлэх, холбогдох дизайны загварыг тухайн шийдвэртэй хослуулахад туслах болно. Ил тод байдлын мөчүүд: Кейс судалгааны жишээ Meridian (жинхэнэ нэр биш) даатгалын компанийг авч үзье, ослын анхны нэхэмжлэлийг боловсруулахдаа хиймэл оюун ухаан ашигладаг. Хэрэглэгч тээврийн хэрэгслийн эвдрэл, цагдаагийн тайлангийн зургийг байршуулдаг. Дараа нь агент эрсдэлийн үнэлгээ болон санал болгож буй төлбөрийн хүрээтэй буцаж ирэхээсээ өмнө нэг минутын турш алга болдог. Эхэндээ, Меридианы интерфейс нь нэхэмжлэлийн төлөвийг тооцоолохыг харуулсан. Хэрэглэгчид бухимдаж байв. Тэд хэд хэдэн нарийвчилсан баримт бичгийг ирүүлсэн бөгөөд хиймэл оюун ухаан нь хөнгөрүүлэх нөхцөл байдлыг агуулсан цагдаагийн тайланг хянаж үзсэн эсэхэд эргэлзэж байв. Хар хайрцаг нь үл итгэх байдлыг бий болгосон. Үүнийг засахын тулд дизайны баг Шийдвэрлэх зангилааны аудит хийсэн. Тэд хиймэл оюун ухаан нь хэд хэдэн жижиг алхмуудыг багтаасан гурван өөр, магадлалд суурилсан алхмуудыг гүйцэтгэдэг болохыг олж мэдэв.
Зургийн шинжилгээ Агент нь засварын зардлыг тооцоолохын тулд гэмтлийн зургийг автомашины ослын ердийн хувилбаруудын мэдээллийн сантай харьцуулсан. Үүнд итгэлийн оноо орсон. Текстийн тойм Энэ нь хариуцлага хүлээхэд нөлөөлөх түлхүүр үгсийг (жишээ нь, буруу, цаг агаарын нөхцөл байдал, сахилга бат) хайж олохын тулд цагдаагийн тайланг сканнердсан. Үүнд хууль эрх зүйн байдлын магадлалын үнэлгээ орсон. Бодлогын хөндлөнгийн лавлагаа Энэ нь үл хамаарах зүйл эсвэл хамрах хүрээний хязгаарыг хайж, нэхэмжлэлийн дэлгэрэнгүй мэдээллийг хэрэглэгчийн тусгайлсан бодлогын нөхцөлтэй нийцүүлсэн. Үүнд магадлалын тохирол бас орсон.
Баг нь эдгээр алхмуудыг ил тод байдлын мөч болгон хувиргасан. Интерфейсийн дарааллыг дараах байдлаар шинэчилсэн:
Гэмтлийн зургийг үнэлэх: 500 тээврийн хэрэгслийн нөлөөллийн профайлтай харьцуулах. Цагдаагийн тайланг хянах: Хариуцлагын түлхүүр үгс болон хууль эрх зүйн урьдчилсан нөхцөл байдалд дүн шинжилгээ хийх. Бодлогын хамрах хүрээг шалгах: Төлөвлөгөөнд байгаа тодорхой хасалтыг шалгах.
Систем нь ижил хэмжээний цаг зарцуулсан хэвээр байгаа боловч агентын дотоод үйл ажиллагааны талаархи тодорхой мэдээлэл нь хэрэглэгчийн итгэлийг сэргээсэн. Хэрэглэгчид хиймэл оюун ухаан нь түүнд зориулагдсан нарийн төвөгтэй даалгаврыг гүйцэтгэж байгааг ойлгож байсан бөгөөд эцсийн үнэлгээ буруу мэт санагдсан тохиолдолд анхаарлаа хаана төвлөрүүлэхээ сайн мэддэг байв. Энэхүү дизайны сонголт нь түгшүүрийн агшинг хэрэглэгчтэй харилцах мөч болгон хувиргасан. Нөлөөллийн/Эрсдлийн матрицыг ашиглах нь: Бид юуг нуухаар сонгосон бэ? Хиймэл оюун ухааны ихэнх туршлага нь боловсруулалтын явцад гарч болзошгүй үйл явдал, шийдвэрийн цэгүүдийн дутагдалтай байдаггүй. Шалгалтын хамгийн чухал үр дүнгийн нэг нь юуг үл үзэгдэхээ шийдэх явдал байв. Меридианы жишээн дээр арын бүртгэлийн бүртгэлүүд нэхэмжлэл бүрт 50+ үйл явдлыг үүсгэсэн. Үйл явдал бүрийг UI-ийн нэг хэсэг болгон боловсруулсан тул бид анхдагчаар харуулах боломжтой байсан. Үүний оронд бид эрсдэлийн матрицыг ашиглан тэдгээрийг тайрахад ашигласан:
Бүртгэлийн үйл явдал: Пинг хийх серверИлүүдэл тоог шалгах Баруун-2. Шүүлтүүрийн шийдвэр: Нуух. (Бага бооцоо, өндөр техник).
Бүртгэлийн үйл явдал: Засварын тооцоог BlueBook-ийн үнэ цэнэтэй харьцуулах. Шүүлтүүрийн шийдвэр: Үзүүлэх. (Өндөр бооцоо, хэрэглэгчийн төлбөрт нөлөөлдөг).
Шаардлагагүй нарийн ширийн зүйлийг хассанаар хамрах хүрээг баталгаажуулах гэх мэт чухал мэдээлэл илүү их нөлөөлсөн. Бид нээлттэй интерфэйс үүсгэж, нээлттэй туршлагыг зохион бүтээсэн. Энэ арга нь хүмүүс хийж байгаа ажлыг нь хараад үйлчилгээгээ илүү сайн мэдэрдэг гэсэн санааг ашигладаг. Тодорхой алхмуудыг (Үнэлгээ, хянан шалгах, баталгаажуулах) үзүүлснээр бид 30 секундын хүлээлтийг санаа зовсон ("Энэ нь эвдэрсэн үү?") -ээс үнэ цэнэтэй зүйл бүтээгдэж байгаа мэт санагдах үе болгон өөрчилсөн ("Энэ нь бодож байна"). Одоо тодорхой мэдээлэл шаарддаг гол мөчүүдийг тодорхойлохын тулд бүтээгдэхүүнийнхээ шийдвэр гаргах үйл явцыг хэрхэн хянаж болохыг нарийвчлан авч үзье. Шийдвэр гаргах цэгийн аудит Бид үүнийг функциональ шаардлага гэхээсээ илүү загварын сонголт гэж үзэх үед ил тод байдал бүтэлгүйтдэг. Бид “UI ямар байх ёстой вэ?” гэж асуух хандлагатай байдаг. "Төлөөлөгч яг юуг шийдэж байна вэ?" гэж асуухаас өмнө. Шийдвэрлэх цэгийн аудит нь хиймэл оюун ухааны системийг ойлгоход хялбар болгох энгийн арга юм. Энэ нь системийн дотоод үйл явцыг сайтар төлөвлөх замаар ажилладаг. Гол зорилго нь систем тогтсон дүрмээ дагахаа больж, боломж эсвэл тооцоолол дээр тулгуурлан сонголт хийх мөчийг олж, тодорхой тодорхойлох явдал юм. Энэхүү бүтцийн зураглалыг хийснээр бүтээгчид тодорхой бус байдлын эдгээр цэгүүдийг системийг ашиглаж буй хүмүүст шууд харуулж чадна. Энэ нь системийн шинэчлэлтүүдийг тодорхойгүй мэдэгдэл байснаас хиймэл оюун ухаан хэрхэн дүгнэлт хийсэн тухай тодорхой, найдвартай тайлан болгон өөрчилдөг. Дээр дурдсан даатгалын тохиолдлын судалгаанаас гадна би саяхан худалдан авалтын төлөөлөгчийг бүрдүүлэх багтай хамтран ажилласан. Систем нь борлуулагчийн гэрээг хянаж, эрсдэлийг тэмдэглэсэн. Эхэндээ дэлгэцэн дээр "Гэрээг хянаж байна" гэсэн энгийн явцын мөр гарч ирэв. Хэрэглэгчид үүнийг үзэн ядсан. Бидний судалгаагаар тэд дутуу зүйл заалтын хууль эрх зүйн үр дагаварт санаа зовж байгааг харуулсан. Бид шийдвэрийн зангилааны аудит хийж үүнийг зассан. Би энэ нийтлэлийн төгсгөлд энэ аудитыг хийх алхам алхмаар шалгах хуудсыг оруулсан. Бид инженерүүдтэй уулзалт хийж, систем хэрхэн ажилладагийг тоймлов. Бид "Шийдвэр гаргах цэгүүд"-ийг тодорхойлсон бөгөөд энэ нь хиймэл оюун ухаан хоёр сайн сонголтын аль нэгийг сонгох ёстой байсан үе юм. Стандарт компьютерийн программуудад процесс нь тодорхой байдаг: хэрэв А тохиолдвол B үргэлж тохиолддог. AI системд үйл явц нь ихэвчлэн санамсаргүй дээр суурилдаг. AI нь А-г хамгийн сайн сонголт гэж бодож байгаа ч энэ нь зөвхөн 65% итгэлтэй байж магадгүй юм. Гэрээний системд хиймэл оюун ухаан манай компанийн дүрмийн эсрэг хариуцлагын нөхцөлийг шалгаж байх мөчийг бид олж мэдсэн. Энэ нь төгс тохирох нь ховор байсан. AI нь 90% таарах нь хангалттай эсэхийг шийдэх ёстой байв. Энэ бол шийдвэр гаргах гол цэг байсан.
Бид энэ зангилааг олж тогтоосны дараа хэрэглэгчдэд ил болгосон. Интерфэйс нь "Гэрээг шалгах" гэсний оронд "Хариуцлагын заалт нь стандарт загвараас өөр байна. Эрсдэлийн түвшинд дүн шинжилгээ хийж байна" гэж шинэчилсэн. Энэхүү тусгай шинэчлэлт нь хэрэглэгчдэд итгэх итгэлийг өгсөн. Тэд агент хариуцлагын заалтыг шалгасан гэдгийг мэдэж байсан. Тэд хоцрогдсон шалтгааныг ойлгож, хүссэн үйлдэл нь арын хэсэгт гарч байгаа гэдэгт итгэх итгэлийг олж авсан. Агент гэрээ байгуулсны дараа тэд хаана илүү гүн ухахаа мэддэг байсан. Хиймэл оюун ухаан хэрхэн шийдвэр гаргаж байгааг шалгахын тулд та инженерүүд, бүтээгдэхүүний менежерүүд, бизнесийн шинжээчид болон AI хэрэгсэл хэрхэн ажиллахад нөлөөлөх сонголтыг хийдэг (ихэвчлэн нуугдмал) гол хүмүүстэйгээ нягт хамтран ажиллах хэрэгтэй. Хэрэгслийн хийх алхмуудыг зур. Магадлал хангагдсан тул үйл явцын чиглэлийг өөрчилдөг цэг бүрийг тэмдэглэ. Эдгээр нь илүү ил тод байх тал дээр анхаарах ёстой газрууд юм. Доорх Зураг 2-т үзүүлснээр шийдвэрийн зангилааны аудит нь дараах алхмуудыг агуулна.
Багаа нэгтгэ: Бүтээгдэхүүний эзэд, бизнесийн шинжээчид, дизайнерууд, гол шийдвэр гаргагчид болон хиймэл оюун ухааныг бүтээсэн инженерүүдийг оролцуул. Жишээ нь, Эмх замбараагүй хууль эрх зүйн гэрээг шалгах зориулалттай хиймэл оюун ухааны хэрэгсэл бүтээх бүтээгдэхүүний багийн талаар бод. Багийн бүрэлдэхүүнд UX дизайнер, бүтээгдэхүүний менежер, UX судлаач, сэдвийн шинжээчийн үүргийг гүйцэтгэдэг дадлагажигч хуульч, текстийн шинжилгээний кодыг бичсэн арын инженер багтдаг.
Процессыг бүхэлд нь зур: Хэрэглэгчийн эхний үйлдлээс эцсийн үр дүн хүртэл хиймэл оюун ухааны хийсэн алхам бүрийг баримтжуул. Баг самбар дээр зогсож, нарийн төвөгтэй гэрээн дэх хариуцлагын заалтыг хайж буй хиймэл оюун ухаантай холбоотой үндсэн ажлын урсгалын бүх дарааллыг зурдаг. Өмгөөлөгч байршуулж байнатавин хуудас PDF → Систем нь баримтыг унших боломжтой текст болгон хөрвүүлдэг. → AI нь хариуцлагын заалтуудыг хуудсуудыг шалгадаг. → Хэрэглэгч хүлээж байна. → Хэдэн хормын дараа эсвэл хэдэн минутын дараа хэрэгсэл нь хэрэглэгчийн интерфэйс дээр олдсон догол мөрүүдийг шараар тодруулна. Тэд үүнийг хэрэгсэлд багтсан бусад олон ажлын урсгалд зориулж хийдэг.
Ямар нэг зүйл тодорхойгүй байгааг олж мэд: AI нь нэг төгс тохирохгүй сонголт эсвэл оролтыг харьцуулж байгаа газрыг процессын газрын зургаас харна уу. Баг нь тодорхой бус алхамуудыг илрүүлэхийн тулд самбарыг хардаг. Зургийг текст болгон хөрвүүлэхдээ хатуу дүрмийг баримтална. Тодорхой хариуцлагын заалтыг олох нь таамаглалыг агуулдаг. Пүүс бүр эдгээр заалтыг өөр өөрөөр бичдэг тул хиймэл оюун ухаан нь яг таарч тохирох үг олохын оронд олон сонголтыг жинлэж, таамаглал гаргах ёстой.
"Хамгийн сайн таамаглах" алхмуудыг тодорхойл: Тодорхой бус цэг бүрийн хувьд систем итгэлийн оноо ашиглаж байгаа эсэхийг шалгана уу (жишээлбэл, 85% итгэлтэй байна уу?). Эдгээр нь хиймэл оюун ухаан эцсийн сонголтоо хийдэг цэгүүд юм. Систем нь аль догол мөр(үүд) нь стандарт хариуцлагын заалттай төстэй болохыг таах (магадлалыг өгөх) ёстой. Энэ нь хамгийн сайн таамаглалдаа итгэх итгэлийн оноог өгдөг. Энэ таамаг бол шийдвэрийн цэг юм. Интерфейс нь хуульчдаа эцсийн заалтыг олсон гэж хэлэхийн оронд боломжит тохирох зүйлийг онцолж байгаагаа хэлэх хэрэгтэй.
Сонголтыг шалгана уу: Сонголтын цэг бүрийн хувьд хийгдэж буй тодорхой дотоод математик эсвэл харьцуулалтыг (жишээ нь, гэрээний нэг хэсгийг бодлоготой тааруулах эсвэл эвдэрсэн машины зургийг эвдэрсэн машины зургийн номын сантай харьцуулах) тооцоол. Систем нь янз бүрийн догол мөрүүдийг өнгөрсөн фирмийн хэргүүдийн стандарт хариуцлагын заалтуудын мэдээллийн сантай харьцуулдаг гэж инженер тайлбарлав. Магадлал дээр үндэслэн тохирохыг шийдэхийн тулд текстийн ижил төстэй оноог тооцдог.
Тодорхой тайлбар бичнэ үү: AI сонголт хийх үед тохиолддог дотоод үйлдлийг тодорхой дүрсэлсэн хэрэглэгчдэд зориулсан мессежийг үүсгэ. Агуулгын дизайнер яг энэ мөчид зориулж тодорхой мессеж бичдэг. Текстийг уншина: Баримт бичгийн текстийг стандарт фирмийн заалтуудтай харьцуулж, болзошгүй хариуцлагын эрсдэлийг тодорхойлох.
Дэлгэцийг шинэчил: "Гэрээг хянаж байна" гэх мэт тодорхойгүй мессежүүдийг сольж, эдгээр шинэ, ойлгомжтой тайлбарыг хэрэглэгчийн интерфэйс рүү оруулна уу. Дизайны баг ерөнхий боловсруулалтын PDF ачаалах эргүүлэгчийг устгадаг. Хиймэл оюун ухаан бодож байх хооронд тэд шинэ тайлбарыг баримт үзүүлэгчийн яг дээр байрлах статус талбарт оруулна.
Итгэлийг шалгах: Дэлгэцийн шинэ мессежүүд нь хэрэглэгчдэд хүлээх хугацаа эсвэл үр дүнгийн энгийн шалтгааныг өгч байгаа эсэхийг шалгаарай.
Нөлөөллийн/Эрсдлийн матриц Хиймэл оюун ухааны үйл явцыг анхааралтай ажигласны дараа түүний сонголт хийх олон цэгийг олж мэдэх болно. Хиймэл оюун ухаан нь нэг нарийн төвөгтэй даалгаврын хувьд хэдэн арван жижиг сонголт хийх боломжтой. Тэдгээрийг бүгдийг нь харуулах нь хэтэрхий их шаардлагагүй мэдээллийг бий болгодог. Та эдгээр сонголтыг бүлэглэх хэрэгтэй. Та Нөлөөллийн/Эрсдлийн матрицыг ашиглан хиймэл оюун ухааны авч буй арга хэмжээнүүдийн төрлөөс хамааран эдгээр сонголтыг ангилах боломжтой. Нөлөөллийн/эрсдэлийн матрицуудын жишээ энд байна: Нэгдүгээрт, эрсдэл багатай, үр нөлөө багатай шийдвэрүүдийг эрэлхийл. Бага бооцоо / Бага нөлөө
Жишээ нь: Файлын бүтцийг зохион байгуулах эсвэл баримт бичгийн нэрийг өөрчлөх. Ил тод байдлын хэрэгцээ: Хамгийн бага. Нарийн шарсан талхны мэдэгдэл эсвэл бүртгэлийн оруулга хангалттай. Хэрэглэгчид эдгээр үйлдлийг хялбархан буцаах боломжтой.
Дараа нь өндөр эрсдэлтэй, өндөр нөлөө бүхий шийдвэрүүдийг тодорхойл. Өндөр бооцоо / Өндөр нөлөөлөл
Жишээ нь: Зээл авах хүсэлтээс татгалзах эсвэл хувьцааны арилжаа хийх. Ил тод байдлын хэрэгцээ: Өндөр. Эдгээр үйлдэл нь Ажлын нотлох баримтыг шаарддаг. Систем нь ажиллахаасаа өмнө эсвэл нэн даруй үндэслэлийг харуулах ёстой.
Худалдан авах/худалдах бүх захиалгыг адилхан авч үздэг санхүүгийн арилжааны ботыг авч үзье. Энэ нь 5 долларын арилжааг 50,000 долларын арилжаатай ижил тунгалаг байдлаар гүйцэтгэдэг. Хэрэглэгчид энэ хэрэгсэл нь их хэмжээний долларын арилжаанд ил тод байдлын нөлөөллийг хүлээн зөвшөөрч байгаа эсэх талаар асууж магадгүй юм. Тэд өндөр бооцоотой арилжаанд зориулж ажлаа түр зогсоож харуулах систем хэрэгтэй. Энэхүү шийдэл нь тодорхой долларын дүнгээс хэтэрсэн аливаа гүйлгээнд Хяналтын Логик төлөвийг нэвтрүүлж, хэрэглэгчийг гүйцэтгэхээс өмнө шийдвэр гаргах хүчин зүйлсийг харах боломжийг олгох явдал юм. Зангилаануудыг загварт буулгах: Загварын загвар сонгох товхимол Туршлагынхаа гол шийдвэрийн цэгүүдийг тодорхойлсныхоо дараа та харуулах тус бүрдээ UI загвар хамаарахыг шийдэх ёстой. Designing For Agentic AI дээр бид Intent Preview (өндөр эрсдэлтэй хяналт) болон Action Audit (retrospective security) зэрэг загварыг нэвтрүүлсэн. Тэдний хооронд сонголт хийх шийдвэрлэх хүчин зүйл бол эргэлт буцалтгүй байдал юм. Бид бүрийг шүүдэгзөв хэв маягийг тодорхойлохын тулд нөлөөллийн матрицаар дамжуулан шийдвэрийн зангилаа: Өндөр бооцоо ба эргэлт буцалтгүй: Эдгээр зангилаанууд нь зорилгыг урьдчилан харахыг шаарддаг. Хэрэглэгч үйлдлийг хялбархан буцаах боломжгүй учраас (жишээ нь, мэдээллийн санг бүрмөсөн устгах) ил тод байдлын мөч нь гүйцэтгэхээс өмнө тохиолдох ёстой. Систем түр зогсоож, зорилгоо тайлбарлаж, баталгаажуулах шаардлагатай. Өндөр бооцоо ба буцаах боломжтой: Эдгээр зангилаа нь Action Audit & Undo загварт тулгуурлаж болно. Хэрэв хиймэл оюун ухаанаар ажилладаг борлуулалтын агент нь хар тугалга өөр шугам руу шилжүүлбэл хэрэглэгчдэд мэдэгдэж, буцаах товчийг санал болгосноор үүнийг бие даан хийх боломжтой. Ийм байдлаар зангилаануудыг нарийн ангилснаар бид "анхаарал ядаргаа"-аас зайлсхийдэг. Бид өндөр үрэлттэй зорилгыг урьдчилан харах боломжийг зөвхөн үнэхээр эргэлт буцалтгүй мөчүүдэд зориулж нөөцлөхийн зэрэгцээ бусад бүх зүйлд хурдыг хадгалахын тулд Action Audit-д найдаж байна.
Буцах боломжтой Буцааж болшгүй Бага нөлөө Төрөл: Auto-ExecuteUI: Passive Toast / LogEx: Файлын нэрийг өөрчлөх Төрөл: ConfirmUI: Энгийн буцаах сонголтЖишээ нь: Имэйлийг архивлах Өндөр нөлөө Төрөл: ReviewUI: Мэдэгдэл + Review TrailEx: Үйлчлүүлэгч рүү ноорог илгээх Төрөл: Урьдчилан харах UI: Modal / Exlicit PermissionEx: Серверийг устгах
Хүснэгт 1: Нөлөөллийн болон урвуу байдлын матрицыг таны ил тод байдлын агшинг дизайны загварт буулгахад ашиглаж болно. Qualitative Validation: “The Wait, Why?” Туршилт Та самбар дээрх боломжит зангилаануудыг тодорхойлж болох боловч тэдгээрийг хүний зан үйлээр баталгаажуулах ёстой. Таны газрын зураг хэрэглэгчийн сэтгэцийн загвартай таарч байгаа эсэхийг шалгах хэрэгтэй. I use a protocol called the “Wait, Why?” Туршилт. Ask a user to watch the agent complete a task. Instruct them to speak aloud. Тэд "Хүлээгээрэй, яагаад ингэсэн юм бэ?" гэж асуух болгонд. эсвэл "Энэ гацсан уу?" эсвэл "Намайг сонссон уу?" — you mark a timestamp. These questions signal user confusion. The user feels their control slipping away. Жишээлбэл, эрүүл мэндийн тусламж үйлчилгээний цагийн хуваарийн туслахын судалгаанд хэрэглэгчид төлөөлөгчийн цаг захиалахыг харсан. The screen sat static for four seconds. Оролцогчид “Миний хуанли эсвэл эмчийн хуанли шалгаж байна уу?” гэж байнга асуудаг.
Энэ асуулт алга болсон Ил тод байдлын мөчийг илчилсэн юм. Систем энэ дөрвөн секундын хүлээлтийг "Таны боломжтой эсэхийг шалгах", дараа нь "Үйлчилгээ үзүүлэгчийн хуваарьтай синк хийх" гэсэн хоёр өөр алхам болгон хуваах шаардлагатай байв. Энэхүү жижиг өөрчлөлт нь хэрэглэгчдийн сэтгэлийн түгшүүрийн илэрхийлсэн түвшинг бууруулсан. Ил тод байдал нь зөвхөн системийн үйлдлийг тайлбарлах үед амжилтгүй болдог. Интерфейс нь техникийн үйл явцыг хэрэглэгчийн тодорхой зорилготой холбох ёстой. "Таны боломжтой эсэхийг шалгаж байна" гэсэн дэлгэц нь контекст байхгүй тул унана. Хэрэглэгч хиймэл оюун ухаан хуанли харж байгааг ойлгож байгаа ч яагаад гэдгийг нь мэдэхгүй. We must pair the action with the outcome. Систем дөрвөн секундын хүлээлтийг хоёр өөр алхам болгон хуваах шаардлагатай. Нэгдүгээрт, интерфэйс нь "Нээлттэй цагийг олохын тулд хуанлигаа шалгаж байна" гэж харуулдаг. Дараа нь энэ нь "Таны уулзалтыг баталгаажуулахын тулд үйлчилгээ үзүүлэгчийн хуваарьтай синк хийх" болгон шинэчилнэ. Энэ нь хэрэглэгчийн бодит амьдрал дахь техникийн үйл явцыг үндэслэдэг. Орон нутгийн кафед зориулсан хиймэл оюун ухааны нөөцийг удирдах талаар авч үзье. The system encounters a supply shortage. "Худалдагчтай холбоо барих" эсвэл "сонголтуудыг хянан үзэх" гэсэн утгатай интерфэйс нь сэтгэлийн түгшүүр төрүүлдэг. Менежер систем захиалгыг цуцалж байна уу, эсвэл үнэтэй хувилбар худалдаж авч байна уу гэж гайхдаг. Хүлээгдэж буй үр дүнг тайлбарлах нь илүү сайн арга юм: "Баасан гаригт хүргэх хуваарийг хадгалахын тулд өөр ханган нийлүүлэгчдийг үнэлэх." Энэ нь хиймэл оюун ухаан яг юунд хүрэхийг оролдож байгааг хэрэглэгчдэд хэлж өгдөг. Operationalizing the Audit Та шийдвэрийн зангилааны аудитыг хийж, жагсаалтаа Нөлөөллийн болон эрсдэлийн матрицаар шүүсэн. Та одоо ил тод байхад чухал мөчүүдийн жагсаалттай байна. Next, you need to create them in the UI. Энэ алхам нь янз бүрийн хэлтэст багаар ажиллахыг шаарддаг. Та дизайны хэрэгсэл ашиглан ил тод байдлыг бие даан зохиож чадахгүй. Та систем хөшигний ард хэрхэн ажилладагийг ойлгох хэрэгтэй. Start with a Logic Review. Meet with your lead system designer. Bring your map of decision nodes. Систем эдгээр төлөвийг үнэхээр хуваалцаж чадна гэдгийг та баталгаажуулах хэрэгтэй. Техникийн систем нь миний харуулахыг хүсч буй төлөвийг яг таг харуулахгүй байхыг би ихэвчлэн олж хардаг. Инженер нь систем зүгээр л ерөнхий "ажилладаг" статусыг буцаадаг гэж хэлж болно. Та нарийвчилсан шинэчлэлтийг шаардах ёстой. You need the system to send a specific noticeтекст уншихаас шалгах дүрэм рүү шилжих үед. Техникийн холболтгүйгээр таны дизайныг бүтээх боломжгүй юм. Дараа нь Агуулгын дизайны багийг оролцуул. Танд хиймэл оюун ухааны үйлдлийн техникийн шалтгаан байгаа ч танд ойлгомжтой, хүнд ээлтэй тайлбар хэрэгтэй. Инженерүүд үндсэн үйл явцыг хангадаг ч агуулгын дизайнерууд үүнийг дамжуулах арга замыг өгдөг. Эдгээр мессежийг ганцаараа бичиж болохгүй. Хөгжүүлэгч "Гүйцэтгэх функц 402" гэж бичиж магадгүй бөгөөд энэ нь техникийн хувьд зөв боловч хэрэглэгчийн хувьд утгагүй юм. Загвар зохион бүтээгч "Сэтгэхүй" гэж бичиж магадгүй бөгөөд энэ нь нөхөрсөг боловч хэтэрхий тодорхойгүй. Агуулгын стратегич зөв дунд газрыг олдог. Тэд хиймэл оюун ухаан нь хэрэглэгчийг төөрөгдүүлэхгүйгээр ажиллаж байгааг харуулдаг "Хариуцлагын эрсдэлийг шалгах" гэх мэт тодорхой хэллэгүүдийг бий болгодог. Эцэст нь мессежийнхээ ил тод байдлыг шалгана уу. Текст ажиллаж байгаа эсэхийг шалгахын тулд эцсийн бүтээгдэхүүнийг бүтээх хүртэл хүлээх хэрэггүй. Би энгийн прототипүүд дээр харьцуулах туршилт хийдэг бөгөөд үүнд өөрчлөлтийн цорын ганц зүйл бол статусын мессеж юм. Жишээлбэл, би нэг бүлэгт (А бүлэг) "Биеэ баталгаажуулж байна" гэсэн мессежийг, нөгөө бүлэгт (Б бүлэг) "Засгийн газрын мэдээллийн санг шалгаж байна" гэсэн мессежийг үзүүлж байна (эдгээр нь зохиосон жишээнүүд боловч та санааг ойлгож байна). Дараа нь би тэднээс ямар хиймэл оюун ухаан илүү аюулгүй санагддагийг асуудаг. Зарим үгс санаа зовоож байхад зарим нь итгэлийг бий болгодог гэдгийг та олж мэдэх болно. Та үг хэллэгийг туршиж үзэх, үр дүнтэй болохыг батлах шаардлагатай зүйл гэж үзэх ёстой. Энэ нь дизайны үйл явцыг хэрхэн өөрчилдөг вэ? Эдгээр аудитыг хийх нь баг хэрхэн хамтран ажиллах чадварыг бэхжүүлэх боломжтой юм. Бид өнгөлсөн дизайны файлуудыг өгөхөө больсон. Бид эмх замбараагүй загварууд болон хуваалцсан хүснэгтүүдийг ашиглаж эхэлдэг. Үндсэн хэрэгсэл нь ил тод байдлын матриц болдог. Инженерүүд болон контент дизайнерууд энэ хүснэгтийг хамтдаа засдаг. Тэд яг хэрэглэгчийн унших үгстэй техникийн кодыг зурдаг. Логик шалгалтын явцад багууд маргаантай байх болно. Зохион бүтээгч инженерээс AI хэрхэн зардлын тайланд ирүүлсэн гүйлгээнээс татгалзахаар шийдсэнийг асууж байна гэж төсөөлөөд үз дээ. Инженер арын хэсэг нь зөвхөн "Алдаа: Өгөгдөл дутмаг" гэх мэт ерөнхий төлөвийн кодыг гаргадаг гэж хэлж болно. Дизайнер энэ нь дэлгэцэн дээрх үйлдэл хийх боломжгүй мэдээлэл гэж мэдэгджээ. Загвар зохион бүтээгч нь тодорхой техникийн дэгээ үүсгэхийн тулд инженертэй тохиролцдог. Инженер шинэ дүрэм бичдэг тул систем нь алга болсон баримтын зураг гэх мэт яг юу дутуу байгааг мэдээлдэг. Энэ үе шатанд контент дизайнерууд орчуулагчийн үүрэг гүйцэтгэдэг. Хөгжүүлэгч нь "Борлуулагчийн тохирох итгэлийн босгыг тооцоолох" гэх мэт техникийн үнэн зөв мөр бичиж болно. Агуулга зохион бүтээгч нь тухайн утгыг тодорхой үр дүнд итгэх итгэлийг бий болгох хэллэг болгон хөрвүүлдэг. Стратегич үүнийг "Баасан гарагийн хүргэлтийг баталгаажуулахын тулд орон нутгийн худалдагчийн үнийг харьцуулах" гэж дахин бичжээ. Хэрэглэгч үйлдэл, үр дүнг ойлгодог. Бүхэл бүтэн хөндлөн функциональ баг хэрэглэгчийн туршилтын хуралдаанд суудаг. Тэд бодит хүн янз бүрийн статусын мессежүүдэд хэрхэн хариу үйлдэл үзүүлэхийг хардаг. Дэлгэц дээр "Худалдаа хийж байна" гэж бичсэн тул хэрэглэгч сандарч байгааг харах нь багийг арга барилаа дахин бодоход хүргэж байна. Инженерүүд болон дизайнерууд илүү сайн үг хэллэг дээр нийцдэг. Тэд хувьцаа худалдаж авахаасаа өмнө текстийг "Хангалттай хөрөнгийг шалгах" гэж өөрчилдөг. Хамтдаа турших нь эцсийн интерфэйс нь системийн логик болон хэрэглэгчийн сэтгэл санааны амар амгалан байдалд үйлчлэх баталгаа болдог. Эдгээр нэмэлт үйл ажиллагааг багийн календарьт оруулахад цаг хугацаа хэрэгтэй. Гэсэн хэдий ч эцсийн үр дүн нь илүү нээлттэй харилцдаг баг, хиймэл оюун ухаанаар ажилладаг хэрэгслүүд нь тэдний өмнөөс (мөн яагаад) юу хийж байгааг илүү сайн ойлгодог хэрэглэгчид байх ёстой. Энэхүү нэгдсэн арга нь хиймэл оюун ухааны жинхэнэ найдвартай туршлагыг зохион бүтээх тулгын чулуу юм. Итгэл бол дизайны сонголт юм Бид итгэлийг ихэвчлэн хэрэглэгчийн сайн туршлагын сэтгэл хөдлөлийн үр дүн гэж үздэг. Итгэлцлийг урьдчилан таамаглах боломжтой харилцааны механик үр дүн гэж үзэх нь илүү хялбар байдаг. Бид зөв мэдээллийг зөв цагт нь үзүүлж итгэлийг бий болгодог. Бид хэрэглэгчийг дарах эсвэл машин механизмыг бүрэн нуух замаар үүнийг устгадаг. Шийдвэрлэх зангилааны аудитаас эхлээрэй, ялангуяа AI-ийн агентууд болон бүтээгдэхүүний хувьд. Систем шүүх хурал хийх мөчүүдийг олоорой. Эдгээр мөчүүдийг Эрсдлийн матрицад буулга. Хэрэв бооцоо өндөр байвал хайрцгийг нээнэ үү. Ажлыг харуул. Дараагийн өгүүллээр бид эдгээр мөчүүдийг хэрхэн төлөвлөх талаар авч үзэх болно: хуулбарыг хэрхэн бичих, UI-г хэрхэн яаж зохион байгуулах, агент алдаа гаргасан тохиолдолд зайлшгүй гарах алдаануудыг хэрхэн зохицуулах талаар. Хавсралт: Шийдвэр гаргах цэгийн аудитын хяналтын хуудас 1-р үе шат: Тохиргоо ба зураглал ✅ Багаа нэгтгэх: Бүтээгдэхүүний эзэд, бизнесийн шинжээч, дизайнер,гол шийдвэр гаргагчид болон хиймэл оюун ухааныг бүтээсэн инженерүүд. Зөвлөмж: Бодит арын логикийг тайлбарлах инженерүүд хэрэгтэй. Энэ алхамыг ганцаараа бүү оролд. ✅ Процессыг бүхэлд нь зур: Хэрэглэгчийн эхний үйлдлээс эцсийн үр дүн хүртэл хиймэл оюун ухааны хийсэн алхам бүрийг баримтжуул. Зөвлөмж: Эдгээр эхний алхмуудыг зурахын тулд самбарын физик сесс нь ихэвчлэн хамгийн сайн ажилладаг. 2-р үе шат: Далд логикийг олох ✅ Аливаа зүйл тодорхойгүй байгаа газрыг хайж олоорой: AI нь нэг төгс тохирохгүй сонголт эсвэл оролтыг харьцуулдаг аль ч цэгийн үйл явцын газрын зургийг хар. ✅ Хамгийн сайн таамаглах алхмуудыг тодорхойлох: Тодорхой бус цэг бүрийн хувьд систем итгэлийн оноо ашиглаж байгаа эсэхийг шалгана уу. Жишээлбэл, систем 85 хувь итгэлтэй байгаа эсэхийг асуу. Эдгээр нь хиймэл оюун ухаан эцсийн сонголтоо хийдэг цэгүүд юм. ✅ Сонголтыг шалгана уу: Сонголт бүрийн хувьд дотоод математик эсвэл харьцуулалтыг тодорхойл. Гэрээний нэг хэсгийг бодлоготой тааруулах жишээ. Өөр нэг жишээ бол эвдэрсэн машины зургийг эвдэрсэн машины зургийн номын сантай харьцуулах явдал юм. 3-р үе шат: Хэрэглэгчийн туршлагыг бий болгох ✅ Тодорхой тайлбар бичих: AI сонголт хийх үед тохиолддог дотоод үйлдлийг тодорхой дүрсэлсэн хэрэглэгчдэд зориулсан мессежийг үүсгэ. Зөвлөмж: Өөрийн мессежийг бодит байдалд үндэслэ. Хэрэв хиймэл оюун ухаан орон нутгийн кафед үйлчлүүлэгчтэй уулзахаар захиалсан бол систем нь кафены захиалгын системийг шалгаж байгааг хэрэглэгчдэд хэлээрэй. ✅ Дэлгэцийг шинэчлэх: Эдгээр шинэ, ойлгомжтой тайлбарыг хэрэглэгчийн интерфэйс рүү оруулна уу. Гэрээг хянаж байна гэх мэт тодорхой бус мессежүүдийг өөрийн тодорхой тайлбараар солино уу. ✅ Итгэлийг шалгах: Дэлгэцийн шинэ мессежүүд нь хэрэглэгчдэд хүлээх хугацаа эсвэл үр дүнгийн энгийн шалтгааныг өгч байгаа эсэхийг шалгаарай. Энэ нь тэдэнд итгэлтэй, итгэлтэй байх ёстой. Зөвлөмж: Эдгээр мессежийг бодит хэрэглэгчидтэй хамт туршиж, үр дүнд хүрч буй тодорхой үр дүнг ойлгож байгаа эсэхийг шалгаарай.
