Bu serinin ilk bölümünde üretken yapay zekadan eylemli yapay zekaya temel geçişi belirledik. Öneride bulunmaktan oyunculuğa geçişin neden kullanıcı deneyimi araştırmacıları, ürün yöneticileri ve liderler için yeni bir psikolojik ve metodolojik araç seti gerektirdiğini araştırdık. Öneride bulunmaktan bağımsız hareket etmeye kadar fail davranışların bir sınıflandırmasını tanımladık, temel araştırma yöntemlerinin ana hatlarını çizdik, ajan çamurunun risklerini tanımladık ve bu yeni alanda ilerlemek için gereken sorumluluk ölçümlerini oluşturduk. Neyi ve nedenini ele aldık. Şimdi temelden işlevselliğe geçiyoruz. Bu makale bunun nasıl yapılacağını açıklamaktadır: yalnızca güçlü değil, aynı zamanda şeffaf, kontrol edilebilir ve kullanıcının güvenine layık olan etmenli sistemler oluşturmak için gerekli olan somut tasarım kalıpları, operasyonel çerçeveler ve organizasyonel uygulamalar. Araştırmamız teşhis aracı ise bu kalıplar tedavi planıdır. Bunlar, yapay zekaya benzeri görülmemiş bir özerklik verirken bile, kullanıcılara elle tutulur bir kontrol hissi verebildiğimiz pratik mekanizmalardır. Amaç, özerkliğin sistem tarafından ele geçirilen bir hak değil, kullanıcı tarafından verilen bir ayrıcalık gibi hissedildiği bir deneyim yaratmaktır. Aracı Sistemler İçin Temel UX Kalıpları Fail yapay zeka için tasarlamak, bir ilişki için tasarlamaktır. Her başarılı ortaklık gibi bu ilişki de açık iletişim, karşılıklı anlayış ve belirlenmiş sınırlar üzerine kurulmalıdır. Öneriden eyleme geçişi yönetmek için, aracılı bir etkileşimin işlevsel yaşam döngüsünü takip eden altı model kullanıyoruz:
Eylem Öncesi (Niyet Oluşturma) Niyet Önizleme ve Özerklik Kadranı, kullanıcının herhangi bir şey olmadan önce planı ve aracının sınırlarını tanımlamasını sağlar. Eylem Halinde (Bağlam Sağlama)Açıklanabilir Gerekçe ve Güven Sinyali, temsilci çalışırken şeffaflığı korur ve "neden" ve "ne kadar kesin" olduğunu gösterir. Eylem Sonrası (Güvenlik ve Kurtarma) Eylem Denetimi ve Geri Alma ve Yükseltme Yolu, hatalar veya belirsizliğin yüksek olduğu anlar için bir güvenlik ağı sağlar.
Aşağıda, başarı ölçütlerine ilişkin öneriler de dahil olmak üzere her modeli ayrıntılı olarak ele alacağız. Bu hedefler endüstri standartlarını temel alan temsili kriterlerdir; bunları alan adınızın özel riskine göre ayarlayın. 1. Niyet Önizlemesi: Neyi ve Nasılı Açıklığa kavuşturmak Bu kalıp, "İşte yapmak üzere olduğum şey şu. Bu sizin için uygun mu?" demenin konuşmadaki karşılığıdır. Bu, kullanıcı-aracı ilişkisinde rıza aramanın temel anıdır. Bir aracı herhangi bir önemli eylemde bulunmadan önce, kullanıcının ne olacağına dair açık ve net bir anlayışa sahip olması gerekir. Niyet Önizlemesi veya Plan Özeti bilgilendirilmiş onam oluşturur. Bu, özerk süreçlerin kara kutusunu şeffaf, gözden geçirilebilir bir plana dönüştüren, eyleme geçmeden önce yapılan konuşmalı bir duraklamadır. Psikolojik Destek Eylemden önce bir plan sunmak, bilişsel yükü azaltır ve sürprizi ortadan kaldırır; kullanıcılara, temsilcinin niyetini gerçekten anladığını doğrulamaları için bir süre tanır. Etkili Bir Niyet Önizlemesinin Anatomisi:
Açıklık ve Kısalık Önizlemenin hemen sindirilebilir olması gerekir. Temel eylemleri ve sonuçları teknik jargondan kaçınarak sade bir dille özetlemelidir. Örneğin, "Cancel_booking'e API çağrısı yürütülüyor (id: 4A7B)" yerine "San Francisco'ya giden AA123 uçuşunu iptal et" ifadesi olmalıdır. Sıralı Adımlar Çok adımlı işlemler için önizleme, temel aşamaları özetlemelidir. Bu, aracının mantığını ortaya çıkarır ve kullanıcıların potansiyel sorunları önerilen sırayla tespit etmesine olanak tanır. Kullanıcı İşlemlerini Temizle Önizleme yalnızca bir bildirim değil, bir karar noktasıdır. Buna net bir dizi seçenek eşlik etmelidir. Bu, kullanıcının özellikle geri dönüşü olmayan veya yüksek riskli eylemlerde bilinçli bir seçim yapmasını sağlamak için tasarlanmış süreçteki bir "hız tümseği", kasıtlı bir sürtüşme anı.
Bu serinin ilk bölümündeki seyahat asistanı senaryomuzu tekrar gözden geçirelim. Bu proaktif asistanı, bir acentenin uçuş iptalini nasıl ele aldığını göstermek için kullanıyoruz. Temsilci bir uçuş iptali tespit etti ve bir kurtarma planı oluşturdu. Niyet Önizlemesi şuna benzer: Seyahat Kesintileriniz için Önerilen PlanSaat 10:05 uçuşunuzun iptal edildiğini tespit ettim. Yapmayı planladığım şey şu: UA456 Uçuşunu İptal Et Geri ödeme işlemini gerçekleştirin ve iptal ayrıntılarını onaylayın. DL789 Uçuşunda Yeniden Rezervasyon Yapın 14:30 aktarmasız uçuşunda onaylanmış bir koltuk ayırtın; çünkü bu, bir sonraki uygun aktarmasız uçuştur.Onaylanmış koltuk.Otel Rezervasyonunu GüncelleyinGeç geleceğinizi Marriott'a bildirin.Güncellenmiş Yol Programını E-postayla GönderinYeni uçuş ve otel ayrıntılarını size ve asistanınız Jane Doe'ya gönderin.[ Bu Plana Devam Edin ] [ Planı Düzenle ] [ Kendim Yönetiyorum ]
Bu ön izleme etkilidir çünkü iptalden iletişime kadar tam bir resim sağlar ve ileriye doğru üç farklı yol sunar: tam onay (Devam et), değişiklik yapma isteği (Planı Düzenle) veya tam geçersiz kılma (Kendim Yönet). Bu çok yönlü kontrol güvenin temelidir.
Bu Kalıba Ne Zaman Öncelik Verilmeli? Bu kalıp, geri dönüşü olmayan (örneğin, kullanıcı verilerinin silinmesi), herhangi bir tutarda mali işlem içeren, diğer kişilerle veya sistemlerle bilgi paylaşan veya kullanıcının kolayca geri alamayacağı önemli bir değişiklik yapan herhangi bir eylem için tartışılamaz. İhmal Riski Bu olmadığında, kullanıcılar temsilcinin eylemleri karşısında kendilerini tuzağa düşmüş hissederler ve kontrolü yeniden kazanmak için özelliği devre dışı bırakırlar. Başarı Ölçütleri:
Düzenleme Olmadan Kabul Edilen Kabul Oranı Planları / Toplam Planlar Görüntüleniyor. Hedef > %85. FrekansToplamı Geçersiz Kıl Kendim Yönet Tıklama Sayısı / Görüntülenen Toplam Planlar. %10'un üzerindeki bir oran model incelemesini tetikler. Doğruluğu Geri ÇağırmaÖnizleme gizlendikten 10 saniye sonra planın adımlarını doğru bir şekilde listeleyebilen test katılımcılarının yüzdesi.
Bunu Yüksek Riskli Etki Alanlarına Uygulamak Seyahat planları ilişkilendirilebilir bir temel olsa da, bu model, bir hatanın bireysel seyahat için rahatsızlıktan daha fazlasına yol açtığı karmaşık, riskli ortamlarda vazgeçilmez hale gelir. Birçoğumuz, yanlış kararların sistem kesintisine yol açabileceği, hastanın güvenliğini riske atabileceği veya güvenilmez teknolojinin yol açabileceği çok sayıda başka felaketle sonuçlanabileceği ortamlarda çalışıyoruz. Bulut altyapısını yönetmekle görevli bir DevOps Sürüm Aracısını düşünün. Bu bağlamda Intent Preview, kazara kesintilere karşı bir güvenlik bariyeri görevi görür.
Bu arayüzde genellemelerin yerini özel terminoloji (Trafik Tahliyesi, Geri Alma) alır ve eylemler ikili ve etkilidir. Kullanıcı, bir öneriyi onaylamak yerine, aracının mantığına dayalı olarak büyük bir operasyonel değişime izin verir. 2. Özerklik Kadranı: Aşamalı Yetkilendirmeyle Güvenin Ayarlanması Her sağlıklı ilişkinin sınırları vardır. Özerklik Kadranı, kullanıcının temsilciyle bunu nasıl kurduğudur ve temsilcinin kendi başına ne kadar rahat davranacağını tanımlar. Güven ikili bir anahtar değildir; bu bir spektrumdur. Bir kullanıcı, düşük riskli görevleri bağımsız olarak yerine getirme konusunda bir aracıya güvenebilir ancak yüksek riskli kararlar için tam onay talep edebilir. Aşamalı bir yetkilendirme biçimi olan Özerklik Kadranı, kullanıcıların tercih ettikleri temsilci bağımsızlığı düzeyini belirlemelerine olanak tanıyarak, onları ilişkinin tanımlanmasında aktif katılımcılar haline getirir. Psikolojik Destek Kullanıcıların aracının özerkliğini ayarlamasına izin vermek, onlara bir kontrol odağı vererek sistemin davranışını kişisel risk toleranslarıyla eşleştirmelerine olanak tanır. Uygulama Bu, ideal olarak görev türü bazında, uygulama içinde basit ve anlaşılır bir ayar olarak uygulanabilir. İlk makalemizdeki sınıflandırmayı kullanarak ayarlar şu şekilde olabilir:
Gözlemle ve Öner Fırsatlar veya sorunlar hakkında bilgilendirilmek istiyorum, ancak temsilci asla bir plan teklif etmeyecek. Planla ve Teklif Et Temsilci planlar oluşturabilir, ancak herhangi bir işlem yapılmadan önce her birini gözden geçirmem gerekir. Onaylayarak Harekete Geçin Tanıdık görevler için, temsilci eylemler hazırlayabilir ve ben son bir git/gitme onayı vereceğim. Özerk Hareket Edin Önceden onaylanmış görevler için (örneğin, 50 ABD dolarının altındaki ücretlere itiraz etmek), temsilci bağımsız hareket edebilir ve olay gerçekleştikten sonra bana bildirimde bulunabilir.
Örneğin bir e-posta asistanı, kullanıcı adına e-posta göndermek yerine toplantıları planlamak için ayrı bir özerklik kadranına sahip olabilir. Bu ayrıntı düzeyi, kullanıcının güveninin incelikli gerçekliğini yansıttığı için çok önemlidir. Bu Modele Ne Zaman Öncelik Verilmeli Görevlerin risk ve kişisel tercih açısından büyük ölçüde farklılık gösterdiği sistemlerde (örneğin, finansal yönetim araçları, iletişim platformları) buna öncelik verin. Kullanıcıların düşük özerklikle başlamasına ve güvenleri arttıkça bunu artırmasına olanak tanıyan bu özellik, ilk katılım için çok önemlidir. İhmal Riski Bu olmadan, tek bir hatayla karşılaşan kullanıcılar, izinlerini geri çevirmek yerine aracıyı tamamen terk edeceklerdir. Başarı Ölçütleri:
Güven Yoğunluğu Ayar başına kullanıcıların yüzdesel dağılımı (ör. %20 Öneri, %50 Onay, %30 Otomatik). Ayar ChurnAyar Değişikliği Sayısı / Aylık Toplam Aktif Kullanıcı Sayısı. Yüksek kayıp oranı güveni gösteriroynaklık.
3. Açıklanabilir Gerekçe: Neden sorusunu yanıtlamak? İyi bir ortak, bir eyleme geçtikten sonra gerekçesini açıklar. Bu model, bir eylemi takip eden ve Neden? sorusunu yanıtlayan açık iletişimdir. daha sorulmadan. "Bunu yaptım çünkü geçmişte bana X'i tercih ettiğini söylemiştin." Bir aracı, özellikle özerk bir şekilde hareket ettiğinde, kullanıcının aklındaki ilk soru genellikle şu olur: Bunu neden yaptı? Açıklanabilir Gerekçe modeli, temsilcinin kararları için kısa bir gerekçe sağlayarak bu soruyu proaktif bir şekilde yanıtlar. Bu teknik bir günlük dosyası değil. Bu serinin ilk makalesinde, aldatmayı önlemek için sistem temellerini kullanıcının karşı karşıya olduğu dile çevirmeyi tartışmıştık. Bu model bu prensibin pratik uygulamasıdır. Ham mantığı, kullanıcının kendi belirttiği tercihlerine ve önceki girdilerine dayanan, insan tarafından okunabilir bir açıklamaya dönüştürür. Psikolojik Destek Bir temsilcinin eylemleri açıklanabilir olduğunda, bunlar rastgele olmaktan çok mantıklı gelir ve kullanıcının, temsilcinin nasıl düşündüğüne dair doğru bir zihinsel model oluşturmasına yardımcı olur. Etkili Gerekçeler:
Emsallere Dayanan En iyi açıklamalar bir kurala, tercihe veya önceki eyleme bağlantı verir. Basit ve Doğrudan Karmaşık koşullu mantıktan kaçının. Basit bir “Çünkü sen X dedin, ben de Y yaptım” yapısını kullanın.
Seyahat örneğine dönersek, uçuş bağımsız olarak yeniden rezerve edildikten sonra kullanıcı bunu bildirim akışında görebilir: İptal edilen uçuşunuza yeniden rezervasyon yaptırdım.Yeni Uçuş: Delta 789, kalkış saati 14:30.Bu işlemi neden yaptım:İlk uçuşunuz havayolu şirketi tarafından iptal edildi.Aynı gün aktarmasız uçuşlar için otonom yeniden rezervasyona önceden onay verdiniz.[ Yeni Yol Programını Görüntüle ] [ Bu İşlemi Geri Al ]
Gerekçe açık, savunulabilir ve aracının kullanıcının belirlediği sınırlar dahilinde çalıştığı fikrini güçlendiriyor. Bu Kalıba Ne Zaman Öncelik Verilmeli? Özellikle arka planda gerçekleşen veya harici bir olay tarafından tetiklenen eylemler (uçuş iptali örneği gibi) bağlamında, mantığın bağlamdan hemen anlaşılamadığı herhangi bir otonom eylem için buna öncelik verin. İhmal Riski Bu olmadan, kullanıcılar geçerli otonom eylemleri rastgele davranış veya 'hata' olarak yorumlayarak doğru bir zihinsel model oluşturmalarını engeller. Başarı Ölçütleri:
Neden? Bilet Hacmi 1.000 aktif kullanıcı başına "Temsilci Davranışı — Belirsiz" etiketli destek bildirimlerinin sayısı. Gerekçe DoğrulamasıEtkileşim sonrası mikro anketlerde açıklamayı 'Faydalı' olarak değerlendiren kullanıcıların yüzdesi.
4. Güven Sinyali Bu kalıp, temsilcinin ilişkide kendisinin farkında olmasıyla ilgilidir. Kendi güvenini ileterek, kullanıcının ne zaman kendi yargısına güveneceğine ve ne zaman daha fazla inceleme uygulayacağına karar vermesine yardımcı olur. Kullanıcıların kendi güvenlerini kalibre etmelerine yardımcı olmak için aracı, planlarında ve eylemlerinde kendi güvenini ortaya koymalıdır. Bu, aracının dahili durumunu daha okunaklı hale getirir ve kullanıcının bir kararı ne zaman daha yakından inceleyeceğine karar vermesine yardımcı olur. Psikolojik Destek Belirsizliğin ortaya çıkarılması, otomasyon önyargısının önlenmesine yardımcı olur ve kullanıcıları körü körüne kabul etmek yerine düşük güven içeren planları incelemeye teşvik eder. Uygulama:
Güven Puanı Basit bir yüzde (örn. Güven: %95) hızlı, taranabilir bir gösterge olabilir. Kapsam Beyanı Acentenin uzmanlık alanına ilişkin net bir beyan (ör. Kapsam: Yalnızca seyahat rezervasyonları), kullanıcı beklentilerini yönetmeye yardımcı olur ve onların, acenteden tasarlanmamış görevleri gerçekleştirmesini istemesini engeller. Görsel İpuçları Yeşil bir onay işareti yüksek güveni belirtirken, sarı bir soru işareti belirsizliği göstererek kullanıcının daha dikkatli inceleme yapmasını sağlayabilir.
Bu Kalıba Ne Zaman Öncelik Verilmeli Aracının performansının, girdi verilerinin kalitesine veya görevin belirsizliğine bağlı olarak önemli ölçüde değişebileceği zamanlara öncelik verin. Bir insanın yapay zekanın çıktısını eleştirel bir şekilde değerlendirmesi gereken uzman sistemlerde (örneğin tıbbi yardımlar, kod asistanları) özellikle değerlidir. İhmal Riski Bu olmadan, kullanıcılar otomasyon yanlılığının kurbanı olacak, düşük güven düzeyine sahip halüsinasyonları körü körüne kabul edecek veya yüksek güven düzeyine sahip işleri kaygıyla iki kez kontrol edecek. Başarı Ölçütleri:
Kalibrasyon Puanı Model Güven Puanı ile Kullanıcı Kabul Oranı arasındaki Pearson korelasyonu. Hedef > 0,8. İnceleme Deltası Düşük güven düzeyine sahip planlar ile yüksek güven düzeyine sahip planların ortalama inceleme süresi arasındaki fark. Pozitif olması bekleniyor (ör. +12 saniye).
5. Eylem Denetimi ve Geri Alma: Nihai Güvenlik Ağı Güven, bir hatadan sonra toparlanabileceğinizi bilmenizi gerektirir. Geri Almaişlev, kullanıcıya temsilci yanlış anlasa bile sonuçların felaket olmayacağına dair güvence veren nihai ilişki güvenlik ağıdır. Kullanıcının güvenini artırmanın en güçlü mekanizması, bir temsilcinin eylemini kolayca tersine çevirebilme yeteneğidir. Olası her eylem için belirgin bir Geri Al düğmesinin yer aldığı kalıcı, okunması kolay bir Eylem Denetimi günlüğü, en üst düzey güvenlik ağıdır. Özerklik verilmesine ilişkin algılanan riski önemli ölçüde azaltır. Psikolojik Destek Bir hatanın kolayca geri alınabileceğini bilmek, psikolojik güvenlik oluşturarak kullanıcıları geri dönüşü olmayan sonuçlardan korkmadan görevleri devretmeye teşvik eder. Tasarımda En İyi Uygulamalar:
Zaman Çizelgesi Görünümü Aracı tarafından başlatılan tüm eylemlerin kronolojik günlüğü en sezgisel formattır. Açık Durum Göstergeleri Bir eylemin başarılı olup olmadığını, devam ettiğini veya geri alındığını gösterir. Zaman Sınırlı Geri Alma Belirli bir noktadan sonra geri alınamaz hale gelen eylemler için (ör. iade edilmeyen bir rezervasyon), kullanıcı arayüzünün bu zaman aralığını açıkça belirtmesi gerekir (ör. 15 dakika boyunca geri alma mümkündür). Sistemin sınırlamalarına ilişkin bu şeffaflık, geri alma yeteneğinin kendisi kadar önemlidir. Bir eylemin ne zaman kalıcı hale geleceği konusunda dürüst olmak güven oluşturur.
Bu Modele Ne Zaman Öncelik Verilmeli Bu, neredeyse tüm etmenli sistemlerde uygulanması gereken temel bir modeldir. Otonom özelliklerin tanıtılması veya bir hatanın maliyetinin (finansal, sosyal veya veriyle ilgili) yüksek olması durumunda kesinlikle tartışılamaz. İhmal Riski Bu olmadan, kullanıcılar hiçbir güvenlik ağlarına sahip olmadıklarını fark ettikleri için tek bir hata güveni kalıcı olarak yok eder. Başarı Ölçütleri:
Geri Dönme OranıGeri Alınan İşlemler / Gerçekleştirilen Toplam İşlemler. Belirli bir görev için Geri Dönüş Oranı > %5 ise o görev için otomasyonu devre dışı bırakın. Güvenlik Ağı DönüşümüGeri Al'ı başarıyla kullandıktan sonraki 7 gün içinde Kendi Kendini Yönetme moduna geçen kullanıcıların yüzdesi.
6. Yükseliş Yolu: Belirsizliği İncelikle Ele Alma Akıllı bir ortak, tahmin etmek yerine ne zaman yardım isteyeceğini bilir. Bu model, temsilcinin belirsizliği kullanıcıya ileterek zarif bir şekilde ele almasına olanak tanır ve güveni aşındırmak yerine inşa eden bir alçakgönüllülük sergiler. En gelişmiş aracı bile kullanıcının niyetinin veya en iyi hareket tarzının belirsiz olduğu durumlarla karşılaşacaktır. Bu belirsizliği nasıl ele aldığı belirleyici bir andır. İyi tasarlanmış bir temsilci tahminde bulunmaz; kızışıyor. Psikolojik Destek Bir aracı tahmin etmek yerine sınırlarını kabul ettiğinde belirsiz durumlarda kullanıcının otoritesine saygı duyarak güven oluşturur. Eskalasyon Modelleri şunları içerir:
Açıklama İsteme: "'Gelecek Salı'dan bahsettin. 30 Eylül'ü mü yoksa 7 Ekim'i mi kastediyorsun?" Seçenekleri Sunmak"Kriterlerinize uyan üç uçuş buldum. Size en uygun olanı hangisi?" İnsan Müdahalesinin Talep Edilmesi Yüksek riskli veya son derece belirsiz görevler için, temsilcinin bir insan uzmana veya destek temsilcisine başvurmak için açık bir yola sahip olması gerekir. Komut istemi şu olabilir: "Bu işlem olağandışı görünüyor ve nasıl ilerleyeceğimden emin değilim. Bunu bir insan temsilcisinin incelemesi için işaretlememi ister misiniz?"
Bu Kalıba Ne Zaman Öncelik Verilmeli Kullanıcı amacının belirsiz veya büyük ölçüde bağlama bağımlı olabileceği (ör. doğal dil etkileşimleri, karmaşık veri sorguları) alanlara öncelik verin. Aracının eksik bilgilerle çalıştığı veya birden fazla doğru yolun mevcut olduğu durumlarda bunu kullanın. İhmal Riski Bu olmadan, temsilci eninde sonunda kullanıcıyı yabancılaştıracak kendinden emin, feci bir tahminde bulunacaktır. Başarı Ölçütleri:
Yardım için Yükseltme Frekansı Aracısı İstekleri / Toplam Görevler. Sağlıklı aralık: %5-15. Kurtarma Başarı Oranıİletişim Sonrası Tamamlanan Görevler / Toplam İlerletme Sayısı. Hedef > %90.
Desen En İyisi Birincil Risk Anahtar Metrik Niyet Önizlemesi Geri dönüşü olmayan veya mali eylemler Kullanıcı tuzağa düşürüldüğünü hissediyor >%85 Kabul Oranı Özerklik Kadranı Değişken risk seviyelerine sahip görevler Tamamen özellikten vazgeçme Kaybetmeyi Ayarlama Açıklanabilir Gerekçe Arka plan veya otonom görevler Kullanıcı hataları algılar "Neden?" Bilet Hacmi Güven Sinyali Uzman veya yüksek riskli sistemler Otomasyon önyargısı İnceleme Deltası Eylem Denetimi ve Geri Alma Tüm ajan sistemleri Kalıcı güven kaybı <%5Geri Dönme Oranı Yükseltme Yolu Belirsiz kullanıcı amacı Kendinden emin, felaket tahminleri >%90 İyileşme Başarısı
Tablo 1: Agentic AI UX modellerinin özeti. Metrikleri, özel alan riskinize ve ihtiyaçlarınıza göre ayarlamayı unutmayın. Onarım ve Düzeltme için Tasarlama Bu etkili bir şekilde özür dilemeyi öğrenmektir. İyi bir özür, hatayı kabul eder, hasarı giderir ve bundan ders almayı vaat eder. Hatalar olası değildir; bunlar kaçınılmazdır. Fail bir sistemin uzun vadeli başarısı, mükemmel olma yeteneğine daha az, başarısız olduğunda zarif bir şekilde toparlanma yeteneğine daha çok bağlıdır. Onarım ve düzeltme için sağlam bir çerçeve, sonradan akla gelen bir düşünce değil, temel bir özelliktir. Empatik Özürler ve Açık Çözüm Bir temsilci hata yaptığında hata mesajı özürdür. Psikolojik hassasiyetle tasarlanmalıdır. Bu an, sorumluluğu göstermek için kritik bir fırsattır. Hizmet tasarımı perspektifinden bakıldığında, şirketlerin hizmet kurtarma paradoksunu kullanabileceği yer burasıdır: Bir hizmet başarısızlığı yaşayan ve bunu başarılı ve empatik bir iyileşmeyle takip eden bir müşterinin aslında hiç başarısızlık yaşamamış bir müşteriden daha sadık olabileceği olgusu. İyi ele alınan bir hata, uzun bir kusursuz uygulama geçmişinden daha güçlü bir güven oluşturma olayı olabilir. Anahtar, hatayı onarılması gereken bir ilişki kopması olarak ele almaktır. Bu şunları içerir:
Hatayı OnaylayınMesaj açık ve basit bir şekilde bir hata yapıldığını belirtmelidir.Örnek: Yanlış para transferi yaptım. Derhal Düzeltmeyi Bildirin Derhal düzeltici işlemi uygulayın. Örnek: İşlemi geri aldım ve para hesabınıza iade edildi. Daha Fazla Yardım İçin Bir Yol Sağlayın Her zaman insan desteğine açık bir bağlantı sunun. Bu, hayal kırıklığını azaltır ve temsilcinin ötesinde bir sorumluluk sisteminin olduğunu gösterir.
İyi tasarlanmış bir onarım kullanıcı arayüzü şöyle görünebilir: Son transferinizde bir hata yaptık. Özür dilerim. 250$'ı yanlış hesaba aktardım.✔ Düzeltici Faaliyet: Aktarım geri alındı ve 250$'ınız iade edildi.✔ Sonraki Adımlar: Olay, tekrar yaşanmasını önlemek amacıyla dahili inceleme için işaretlendi.Daha fazla yardıma mı ihtiyacınız var? [ Desteğe Başvurun ]
Güvenli İnovasyon için Yönetişim Motorunun Oluşturulması Yukarıda açıklanan tasarım modelleri kullanıcıya yönelik kontrollerdir ancak sağlam bir iç destek yapısı olmadan etkili bir şekilde çalışamazlar. Bu bürokratik engeller yaratmakla ilgili değil; stratejik bir avantaj oluşturmakla ilgilidir. Olgun bir yönetişim çerçevesine sahip bir kuruluş, marka riskini azaltmak için gerekli korumaların mevcut olduğunu bilerek daha iddialı aracı özellikleri daha hızlı ve güvenli bir şekilde sunabilir. Bu yönetişim motoru, güvenliği bir kontrol listesinden rekabetçi bir varlığa dönüştürür. Bu motor, Hukuk, Uyumluluk ve Destek'ten hayati destek alan, UX, Ürün ve Mühendislik'in işlevler arası bir ittifakından oluşan resmi bir yönetim organı, bir Temsilci Yapay Zeka Etik Konseyi olarak işlev görmelidir. Daha küçük kuruluşlarda, bu 'Konsey' rolleri genellikle Ürün, Mühendislik ve Tasarım liderlerinden oluşan tek bir üçlüye bölünür. Yönetişim İçin Bir Kontrol Listesi
Hukuk/Uyum Bu ekip, temsilcinin potansiyel eylemlerinin düzenleyici ve yasal sınırlar dahilinde kalmasını sağlayan ilk savunma hattıdır. Otonom eylem için girilmesi zor bölgelerin tanımlanmasına yardımcı olurlar. Ürün Ürün yöneticisi, temsilcinin amacının koruyucusudur. Temsilcinin ne yapıp ne yapmasına izin verilmediğini belgeleyen resmi bir özerklik politikası aracılığıyla operasyonel sınırlarını tanımlar ve izlerler. Temsilci Risk Kaydının sahibidirler. UX AraştırmasıBu ekip, kullanıcının güveninin ve endişesinin sesidir. Kullanıcının temsilcinin gelişen zihinsel modelini anlamak için güven kalibrasyon çalışmaları, simüle edilmiş kötü davranış testleri ve niteliksel görüşmeler yürütmek için tekrarlanan bir süreçten sorumludurlar. MühendislikBu ekip güvenin teknik temellerini oluşturur. Sistemi, sağlam kayıt tutma, tek tıklamayla geri alma işlevi ve açık, açıklanabilir gerekçeler oluşturmak için gereken kancalar için tasarlamalıdırlar. Destek Bu takımlar başarısızlığın ön saflarında yer alıyor. Temsilci hatalarından kaynaklanan olayları ele alacak şekilde eğitilmeli ve donatılmalı ve gerçek dünyadaki başarısızlık kalıplarını rapor etmek için Etik Konseyine doğrudan bir geri bildirim döngüsüne sahip olmalıdırlar.
Bu yönetişim yapısının sürdürülmesi gerekiyor.Potansiyel başarısızlık modlarını proaktif olarak tanımlayan bir Temsilci Risk Kaydı, düzenli olarak incelenen Eylem Denetim Günlükleri ve resmi Özerklik Politikası Dokümantasyonu da dahil olmak üzere bir dizi canlı belge. Nereden Başlamalı: Ürün Liderleri için Aşamalı Bir Yaklaşım Ürün yöneticileri ve yöneticileri için ajansal yapay zekayı entegre etmek devasa bir görev gibi gelebilir. Önemli olan, buna tek bir lansman olarak değil, hem teknik kapasiteyi hem de kullanıcı güvenini paralel olarak inşa etmeye yönelik aşamalı bir yolculuk olarak yaklaşmak. Bu yol haritası kuruluşunuzun öğrenmesine ve uyum sağlamasına olanak tanıyarak her adımın sağlam bir temel üzerine inşa edilmesini sağlar. Aşama 1: Temel Güvenlik (Önerme ve Teklif Etme) İlk hedef, önemli otonom riskler almadan güvenin temelini oluşturmaktır. Bu aşamada acentenin gücü analiz ve öneride bulunmakla sınırlıdır.
Sağlam bir Amaç Önizlemesi uygulayın: Bu sizin temel etkileşim modelinizdir. Uygulamanın tam kontrolünü kullanıcıda tutarken, aracının plan oluşturma fikri konusunda kullanıcıların rahat olmasını sağlayın. Eylem Denetimi ve Geri Alma altyapısını oluşturun: Aracı henüz bağımsız hareket etmiyor olsa bile, günlüğe kaydetme ve geri alma için teknik iskeleyi oluşturun. Bu, sisteminizi geleceğe hazırlar ve kullanıcının bir güvenlik ağının var olduğuna dair güvenini oluşturur.
Aşama 2: Kalibre Edilmiş Özerklik (Onaylayarak Harekete Geçmek) Kullanıcılar temsilcinin önerileri konusunda rahat olduklarında, düşük riskli özerkliği uygulamaya başlayabilirsiniz. Bu aşama, kullanıcılara aracının nasıl düşündüğünü öğretmek ve onların kendi hızlarını belirlemelerine izin vermekle ilgilidir.
Sınırlı ayarlara sahip Özerk Arama'yı tanıtın: Kullanıcıların temsilciye Onaylayarak Hareket Etme yetkisi vermesine izin vererek başlayın. Açıklanabilir Mantığı Kullanın: Temsilcinin hazırladığı her eylem için net bir açıklama yapın. Bu, aracının mantığının gizemini çözer ve kullanıcının kendi tercihlerine göre çalıştığını güçlendirir.
Aşama 3: Proaktif Yetkilendirme (Özerk Hareket Etme) Bu, yalnızca önceki aşamalardan kullanıcıların sisteme güvendiğini gösteren net verilere sahip olduktan sonra atılacak son adımdır.
Belirli, önceden onaylanmış görevler için Bağımsız Hareket Etmeyi etkinleştirin: Tamamen otomatikleştirilebilecek ilk düşük riskli görev grubunu belirlemek için 2. Aşamadaki verileri (ör. yüksek Devam oranları, düşük Geri Alma oranları) kullanın. İzleme ve Yineleme: Otonom özelliklerin başlatılması, performansın izlenmesi, kullanıcı geri bildirimlerinin toplanması ve aracının kapsamının ve davranışının gerçek dünya verilerine dayalı olarak iyileştirilmesinden oluşan sürekli bir döngünün sonu değil, başlangıcıdır.
Üstün Güvenlik Kolu Olarak Tasarım Ajansal yapay zekanın ortaya çıkışı, insan-bilgisayar etkileşiminde yeni bir sınırı temsil ediyor. Teknolojinin proaktif olarak yüklerimizi azaltabileceği ve hayatlarımızı kolaylaştırabileceği bir gelecek vaat ediyor. Ancak bu güç derin bir sorumluluğu da beraberinde getiriyor. Özerklik teknik bir sistemin çıktısıdır, ancak güvenilirlik bir tasarım sürecinin çıktısıdır. Zorluğumuz, kullanıcı deneyiminin teknik kapasitenin bir zayiatı değil, birincil faydalanıcısı olmasını sağlamaktır. UX profesyonelleri, ürün yöneticileri ve liderleri olarak rolümüz, bu güvenin koruyucuları olarak hareket etmektir. Kontrol ve onay için net tasarım modelleri uygulayarak, onarım için düşünceli yollar tasarlayarak ve sağlam yönetişim çerçeveleri oluşturarak, ajansal yapay zekayı uygulanabilir kılan temel güvenlik araçlarını oluşturuyoruz. Biz sadece arayüz tasarlamıyoruz; ilişkileri tasarlıyoruz. Yapay zekanın kullanımının ve kabulünün geleceği, bu karmaşık sistemleri bilgelikle, öngörüyle ve kullanıcının nihai otoritesine derin bir saygıyla tasarlama becerimize bağlıdır.
