L'intelligenza artificiale di Agentic è pronta a trasformare l'esperienza del cliente e l'efficienza operativa, richiedendo un nuovo approccio strategico da parte della leadership. Questa evoluzione dell’intelligenza artificiale consente ai sistemi di pianificare, eseguire e portare avanti le attività, andando oltre le semplici raccomandazioni verso un’azione proattiva. Per i team UX, i product manager e i dirigenti, comprendere questo cambiamento è fondamentale per sbloccare opportunità di innovazione, semplificare i flussi di lavoro e ridefinire il modo in cui la tecnologia è al servizio delle persone. È facile confondere l’Agentic AI con la Robotic Process Automation (RPA), una tecnologia che si concentra su attività basate su regole eseguite sui computer. La distinzione sta nella rigidità rispetto al ragionamento. L'RPA è eccellente nel seguire un copione rigoroso: se accade X, fai Y. Imita le mani umane. L'intelligenza artificiale agentica imita il ragionamento umano. Non segue una sceneggiatura lineare; ne crea uno. Considera un flusso di lavoro di reclutamento. Un bot RPA può scansionare un curriculum e caricarlo in un database. Esegue perfettamente un compito ripetitivo. Un sistema Agentic esamina il curriculum, nota che il candidato elenca una certificazione specifica, la incrocia con un nuovo requisito del cliente e decide di redigere un'e-mail di sensibilizzazione personalizzata evidenziando quella corrispondenza. RPA esegue un piano predefinito; Agentic AI formula il piano in base a un obiettivo. Questa autonomia separa gli agenti dagli strumenti predittivi che abbiamo utilizzato nell’ultimo decennio. Un altro esempio è la gestione dei conflitti nelle riunioni. Un modello predittivo integrato nel tuo calendario potrebbe analizzare il programma delle tue riunioni e quello dei tuoi colleghi. Potrebbe quindi suggerire potenziali conflitti, come due riunioni importanti programmate nello stesso momento o una riunione programmata quando un partecipante chiave è in vacanza. Ti fornisce informazioni e segnala potenziali problemi, ma sei responsabile di agire. Un’intelligenza artificiale agente, nello stesso scenario, andrebbe oltre il semplice suggerimento di conflitti da evitare. Dopo aver identificato un conflitto con un partecipante chiave, l’agente potrebbe agire:
Verifica della disponibilità di tutti i partecipanti necessari. Identificazione di fasce orarie alternative che vadano bene per tutti. Invio di proposte di nuovi inviti alla riunione a tutti i partecipanti. Se il conflitto riguarda un partecipante esterno, l'agente potrebbe redigere e inviare un'e-mail spiegando la necessità di riprogrammare e offrendo orari alternativi. Aggiornare il tuo calendario e quello dei tuoi colleghi con i dettagli della nuova riunione una volta confermata.
Questa IA agente comprende l'obiettivo (risolvere il conflitto della riunione), pianifica i passaggi (verifica della disponibilità, ricerca di alternative, invio di inviti), esegue tali passaggi e persiste finché il conflitto non viene risolto, il tutto con un intervento diretto minimo da parte dell'utente. Ciò dimostra la differenza “agente”: il sistema adotta misure proattive per l’utente, anziché limitarsi a fornire informazioni all’utente. I sistemi di intelligenza artificiale agentica comprendono un obiettivo, pianificano una serie di passaggi per raggiungerlo, eseguono tali passaggi e si adattano anche se le cose vanno male. Consideralo come un assistente digitale proattivo. La tecnologia sottostante spesso combina modelli linguistici di grandi dimensioni (LLM) per la comprensione e il ragionamento, con algoritmi di pianificazione che scompongono compiti complessi in azioni gestibili. Questi agenti possono interagire con vari strumenti, API e persino altri modelli di intelligenza artificiale per raggiungere i propri obiettivi e, soprattutto, possono mantenere uno stato persistente, il che significa che ricordano le azioni precedenti e continuano a lavorare verso un obiettivo nel tempo. Ciò le rende fondamentalmente diverse dalla tipica intelligenza artificiale generativa, che di solito completa una singola richiesta e poi si ripristina. Una semplice tassonomia dei comportamenti agentici Possiamo classificare il comportamento degli agenti in quattro distinte modalità di autonomia. Anche se spesso sembrano una progressione, funzionano come modalità operative indipendenti. Un utente potrebbe fidarsi di un agente per agire in modo autonomo per la pianificazione, ma mantenerlo in “modalità suggerimento” per le transazioni finanziarie. Abbiamo derivato questi livelli adattando gli standard di settore per i veicoli autonomi (livelli SAE) ai contesti di esperienza dell’utente digitale. Osserva e suggerisci L'agente funziona come un monitor. Analizza i flussi di dati e segnala anomalie o opportunità, ma non intraprende alcuna azione. Differenziazione A differenza del livello successivo, l'agente non genera un piano complesso. Indica un problema. EsempioUn agente DevOps nota un picco della CPU del server e avvisa il tecnico di guardia. Non sa come né tenta di risolverlo, ma sa che qualcosa non va. Implicazioni per la progettazione e la supervisione A questo livello,la progettazione e la supervisione dovrebbero dare priorità a notifiche chiare e non invasive e a un processo ben definito affinché gli utenti possano agire in base ai suggerimenti. L'obiettivo è fornire all'utente informazioni tempestive e pertinenti senza assumerne il controllo. I professionisti UX dovrebbero concentrarsi nel fornire suggerimenti chiari e facili da comprendere, mentre i product manager devono garantire che il sistema offra valore senza sopraffare l'utente. Pianifica e proponi L'agente identifica un obiettivo e genera una strategia in più fasi per raggiungerlo. Presenta il piano completo per la revisione umana. DifferenziazioneL'agente agisce come uno stratega. Non viene eseguito; attende l'approvazione dell'intero approccio. EsempioLo stesso agente DevOps nota il picco della CPU, analizza i log e propone un piano di riparazione:
Avvia due istanze aggiuntive. Riavviare il bilanciatore del carico. Archivia i vecchi registri.
L'essere umano esamina la logica e fa clic su "Approva piano". Implicazioni per la progettazione e la supervisione Per gli agenti che pianificano e propongono, la progettazione deve garantire che i piani proposti siano facilmente comprensibili e che gli utenti abbiano modi intuitivi per modificarli o rifiutarli. La supervisione è fondamentale per monitorare la qualità delle proposte e la logica di pianificazione dell’agente. I professionisti UX dovrebbero progettare visualizzazioni chiare dei piani proposti e i product manager devono stabilire flussi di lavoro chiari di revisione e approvazione. Agire con conferma L'agente completa tutto il lavoro di preparazione e posiziona l'azione finale in uno stato graduale. Tiene effettivamente la porta aperta, in attesa di un cenno. DifferenziazioneQuesto differisce da "Pianifica e propone" perché il lavoro è già svolto e messo in scena. Riduce l'attrito. L'utente conferma il risultato, non la strategia. EsempioUn agente di reclutamento redige cinque inviti a colloqui, trova gli orari di apertura nei calendari e crea gli eventi del calendario. Presenta un pulsante "Invia tutto". L'utente fornisce l'autorizzazione finale per attivare l'azione esterna. Implicazioni per la progettazione e la supervisione Quando gli agenti agiscono con conferma, la progettazione dovrebbe fornire sintesi trasparenti e concise dell'azione prevista, delineando chiaramente le potenziali conseguenze. La supervisione deve verificare che il processo di conferma sia solido e che agli utenti non venga chiesto di approvare ciecamente le azioni. I professionisti UX dovrebbero progettare richieste di conferma che siano chiare e fornire tutte le informazioni necessarie, mentre i product manager dovrebbero dare priorità a un solido audit trail per tutte le azioni confermate. Agire in modo autonomo L'agente esegue le attività in modo indipendente entro limiti definiti. DifferenziazioneL'utente rivede la cronologia delle azioni, non le azioni stesse. EsempioL'agente di reclutamento vede un conflitto, sposta il colloquio in uno slot di riserva, aggiorna il candidato e avvisa il responsabile delle assunzioni. L'umano vede solo una notifica: Intervista riprogrammata a martedì. Implicazioni per la progettazione e la supervisione Per gli agenti autonomi, la progettazione deve stabilire chiari confini pre-approvati e fornire robusti strumenti di monitoraggio. La supervisione richiede una valutazione continua delle prestazioni dell’agente entro questi limiti, un’esigenza fondamentale di registrazione affidabile, meccanismi di override chiari e kill switch definiti dall’utente per mantenere il controllo e la fiducia dell’utente. I professionisti UX dovrebbero concentrarsi sulla progettazione di dashboard efficaci per monitorare il comportamento degli agenti autonomi e i product manager devono garantire che siano in atto linee guida etiche e di governance chiare.
Diamo un'occhiata a un'applicazione reale della tecnologia HR per vedere queste modalità in azione. Considera un "agente di coordinamento dei colloqui" progettato per gestire la logistica delle assunzioni.
In modalità suggerimentoL'agente nota che un intervistatore ha una doppia prenotazione. Evidenzia il conflitto sulla dashboard del reclutatore: "Attenzione: Sarah ha doppia prenotazione per il colloquio delle 14:00". In modalità PianificazioneL'agente analizza il calendario di Sarah e la disponibilità del candidato. Presenta una soluzione: "Consiglio di spostare l'intervista a giovedì alle 10. Ciò richiede lo spostamento del rapporto 1:1 tra Sara e il suo manager". Il reclutatore esamina questa logica. In modalità di conferma, l'agente redige le e-mail al candidato e al manager. Popola gli inviti del calendario. Il reclutatore vede un riepilogo: "Pronto per riprogrammare giovedì. Inviare aggiornamenti?" Il reclutatore fa clic su "Conferma". In modalità autonomaL'agente gestisce il conflitto immediatamente. Rispetta una regola preimpostata: “Dare sempre priorità ai colloqui con i candidati rispetto a quelli interni 1:1”. Sposta la riunione e invia le notifiche. Il reclutatore vede una voce di registro: “Risoltoconflitto di programma per il candidato B."
Primer di ricerca: cosa ricercare e come Lo sviluppo di un’intelligenza artificiale efficace richiede un approccio di ricerca distinto rispetto al software tradizionale o anche all’intelligenza artificiale generativa. La natura autonoma degli agenti IA, la loro capacità di prendere decisioni e il loro potenziale di azione proattiva richiedono metodologie specializzate per comprendere le aspettative degli utenti, mappare comportamenti complessi degli agenti e anticipare potenziali fallimenti. Il seguente manuale di ricerca delinea i metodi chiave per misurare e valutare questi aspetti unici dell'intelligenza artificiale degli agenti. Interviste sui modelli mentali Queste interviste svelano le nozioni preconcette degli utenti su come dovrebbe comportarsi un agente AI. Invece di chiedersi semplicemente cosa vogliono gli utenti, l’attenzione si concentra sulla comprensione dei loro modelli interni delle capacità e dei limiti dell’agente. Dovremmo evitare di usare la parola “agente” con i partecipanti. Porta con sé un bagaglio fantascientifico o è un termine troppo facilmente confuso con un agente umano che offre supporto o servizi. Inquadrate invece la discussione attorno agli “assistenti” o al “sistema”. Dobbiamo scoprire dove gli utenti tracciano il confine tra automazione utile e controllo invasivo.
Metodo: chiedere agli utenti di descrivere, disegnare o narrare le loro interazioni previste con l'agente in vari scenari ipotetici. Sondaggi chiave (che riflettono una varietà di settori): Per comprendere i limiti dell’automazione desiderata e le potenziali ansie legate all’eccessiva automazione, chiedi: Se il tuo volo viene cancellato, cosa vorresti che il sistema facesse automaticamente? Cosa ti preoccuperebbe se lo facesse senza le tue istruzioni esplicite?
Per esplorare la comprensione dell'utente dei processi interni dell'agente e della comunicazione necessaria, chiedi: Immagina che un assistente digitale gestisca la tua casa intelligente. Se un pacco viene consegnato, quali passaggi immagini siano necessari e quali informazioni ti aspetteresti di ricevere?
Per scoprire le aspettative relative al controllo e al consenso all’interno di un processo in più fasi, chiedi: Se chiedi al tuo assistente digitale di pianificare una riunione, quali passaggi prevedi che compia? In quali momenti vorresti essere consultato o avere delle scelte?
Vantaggi del metodo: rivela presupposti impliciti, evidenzia aree in cui il comportamento pianificato dell’agente potrebbe divergere dalle aspettative dell’utente e informa la progettazione di controlli e meccanismi di feedback appropriati.
Mappatura del percorso dell'agente: Similmente alla tradizionale mappatura del percorso dell’utente, la mappatura del percorso dell’agente si concentra specificamente sulle azioni previste e sui punti decisionali dell’agente AI stesso, insieme all’interazione dell’utente. Ciò aiuta a identificare in modo proattivo potenziali insidie.
Metodo: creare una mappa visiva che delinei le varie fasi dell'operazione di un agente, dall'inizio al completamento, comprese tutte le potenziali azioni, decisioni e interazioni con sistemi o utenti esterni. Elementi chiave da mappare: Azioni dell'agente: quali attività o decisioni specifiche esegue l'agente? Input/output di informazioni: di quali dati ha bisogno l'agente e quali informazioni genera o comunica? Punti decisionali: dove fa le scelte l’agente e quali sono i criteri per tali scelte? Punti di interazione dell'utente: dove l'utente fornisce input, esamina o approva le azioni? Punti di errore: è fondamentale identificare i casi specifici in cui l'agente potrebbe interpretare erroneamente le istruzioni, prendere una decisione errata o interagire con l'entità sbagliata. Esempi: destinatario errato (ad esempio, invio di informazioni sensibili alla persona sbagliata), scoperto (ad esempio, un pagamento automatizzato che eccede i fondi disponibili), interpretazione errata delle intenzioni (ad esempio, prenotazione di un volo per la data sbagliata a causa di un linguaggio ambiguo).
Percorsi di ripristino: come può l'agente o l'utente recuperare da questi errori? Quali meccanismi sono in atto per la correzione o l’intervento?
Vantaggi del metodo: fornisce una visione olistica del flusso operativo dell'agente, scopre le dipendenze nascoste e consente la progettazione proattiva di misure di salvaguardia, gestione degli errori e punti di intervento dell'utente per prevenire o mitigare gli esiti negativi.
Test di comportamento scorretto simulato: Questo approccio è progettato per sottoporre a stress test il sistema e osservare le reazioni degli utenti quando l'agente AI fallisce o si discosta dalle aspettative. Si tratta di comprendere la riparazione della fiducia e le risposte emotive in situazioni avverse.
Metodo: negli studi di laboratorio controllati, introdurre deliberatamente scenari in cui l'agente commette un errore, interpreta male un comando o si comporta in modo inaspettato. Tipi di "comportamenti scorretti" da simulare: ComandoInterpretazione errata: l'agente esegue un'azione leggermente diversa da quella prevista dall'utente (ad esempio, ordina due articoli invece di uno). Sovraccarico/sottocarico di informazioni: l'agente fornisce troppe informazioni irrilevanti o dettagli critici insufficienti. Azione non richiesta: l'agente intraprende un'azione che l'utente esplicitamente non desiderava o non si aspettava (ad esempio, acquistando azioni senza approvazione). Errore di sistema: l'agente si arresta in modo anomalo, non risponde o fornisce un messaggio di errore. Dilemmi etici: l'agente prende una decisione con implicazioni etiche (ad esempio, dare priorità a un compito rispetto a un altro sulla base di una metrica imprevista).
Focus dell'osservazione: Reazioni degli utenti: come reagiscono emotivamente gli utenti (frustrazione, rabbia, confusione, perdita di fiducia)? Tentativi di ripristino: quali passaggi eseguono gli utenti per correggere il comportamento dell'agente o annullarne le azioni? Meccanismi di riparazione della fiducia: i meccanismi di ripristino o feedback integrati del sistema aiutano a ripristinare la fiducia? Come vogliono essere informati gli utenti sugli errori? Cambiamento del modello mentale: il comportamento scorretto altera la comprensione da parte dell’utente delle capacità o dei limiti dell’agente?
Vantaggi del metodo: fondamentale per identificare le lacune di progettazione relative al ripristino degli errori, al feedback e al controllo dell'utente. Fornisce informazioni sulla resilienza degli utenti rispetto ai fallimenti degli agenti e su cosa è necessario per mantenere o ricostruire la fiducia, portando a sistemi di agenti più robusti e tolleranti.
Integrando queste metodologie di ricerca, i professionisti dell'UX possono andare oltre il semplice rendere utilizzabili i sistemi ad agenti, per renderli affidabili, controllabili e responsabili, favorendo una relazione positiva e produttiva tra gli utenti e i loro agenti di intelligenza artificiale. Tieni presente che questi non sono gli unici metodi rilevanti per esplorare in modo efficace l’intelligenza artificiale degli agenti. Esistono molti altri metodi, ma questi saranno più accessibili ai professionisti nel breve termine. In precedenza ho trattato il metodo del Mago di Oz, un metodo leggermente più avanzato di test dei concetti, che è anche uno strumento prezioso per esplorare i concetti di intelligenza artificiale degli agenti. Considerazioni etiche nella metodologia di ricerca Quando si ricerca l’IA agente, in particolare quando si simulano comportamenti scorretti o errori, le considerazioni etiche sono fondamentali da tenere in considerazione. Esistono molte pubblicazioni incentrate sulla ricerca etica sulla UX, incluso un articolo che ho scritto per Smashing Magazine, queste linee guida dell'UX Design Institute e questa pagina dell'Inclusive Design Toolkit. Metriche chiave per l'IA agentica Avrai bisogno di una serie completa di parametri chiave per valutare in modo efficace le prestazioni e l'affidabilità dei sistemi di intelligenza artificiale degli agenti. Queste metriche forniscono informazioni sulla fiducia degli utenti, sull'accuratezza del sistema e sull'esperienza utente complessiva. Tracciando questi indicatori, sviluppatori e progettisti possono identificare le aree di miglioramento e garantire che gli agenti di intelligenza artificiale operino in modo sicuro ed efficiente. 1. Tasso di interventoPer gli agenti autonomi, misuriamo il successo in base al silenzio. Se un agente esegue un'attività e l'utente non interviene o non annulla l'azione entro un periodo di tempo prestabilito (ad esempio, 24 ore), lo consideriamo come accettazione. Monitoriamo il tasso di intervento: quanto spesso un essere umano interviene per fermare o correggere l'agente? Un tasso di intervento elevato segnala un disallineamento nella fiducia o nella logica. 2. Frequenza di azioni indesiderate per 1.000 attività Questa metrica critica quantifica il numero di azioni eseguite dall'agente AI che non erano desiderate o previste dall'utente, normalizzato per 1.000 attività completate. Una bassa frequenza di azioni involontarie indica un’intelligenza artificiale ben allineata che interpreta accuratamente le intenzioni dell’utente e opera entro confini definiti. Questa metrica è strettamente legata alla comprensione del contesto da parte dell’IA, alla sua capacità di chiarire le ambiguità dei comandi e alla robustezza dei suoi protocolli di sicurezza. 3. Tassi di rollback o annullamento Questa metrica tiene traccia della frequenza con cui gli utenti devono invertire o annullare un'azione eseguita dall'IA. Gli elevati tassi di rollback suggeriscono che l’IA commette errori frequenti, interpreta erroneamente le istruzioni o agisce in modi non in linea con le aspettative degli utenti. Analizzare le ragioni alla base di questi rollback può fornire un feedback prezioso per migliorare gli algoritmi dell’intelligenza artificiale, comprendere le preferenze degli utenti e la sua capacità di prevedere i risultati desiderabili. Per capirne il motivo è necessario implementare un microindagine sull'azione di annullamento. Ad esempio, quando un utente annulla una modifica di pianificazione, un semplice messaggio può chiedere: "Orario sbagliato? Persona sbagliata? O volevi semplicemente farlo da solo?" Permettere all'utente di cliccare sull'opzione che meglio corrisponde al suo ragionamento. 4. Tempo di risoluzione dopo un erroreQuesta metricamisura il tempo impiegato da un utente per correggere un errore commesso dall'IA o dal sistema AI stesso per riprendersi da uno stato errato. Un tempo breve per la risoluzione indica un processo di ripristino degli errori efficiente e facile da usare, che può mitigare la frustrazione degli utenti e mantenere la produttività. Ciò include la facilità di identificazione dell’errore, l’accessibilità dei meccanismi di annullamento o correzione e la chiarezza dei messaggi di errore forniti dall’IA.
La raccolta di questi parametri richiede la strumentazione del sistema per tenere traccia degli ID azione dell'agente. Ogni azione distinta intrapresa dall'agente, come proporre un programma o prenotare un volo, deve generare un ID univoco che persiste nei registri. Per misurare il tasso di intervento, non cerchiamo una reazione immediata dell'utente. Cerchiamo l'assenza di una controazione all'interno di una finestra definita. Se un ID azione viene generato alle 9:00 e nessun utente umano modifica o ripristina tale ID specifico entro le 9:00 del giorno successivo, il sistema lo contrassegna logicamente come Accettato. Ciò ci consente di quantificare il successo in base al silenzio dell'utente piuttosto che alla conferma attiva. Per i tassi di rollback, i conteggi grezzi non sono sufficienti perché mancano di contesto. Per acquisire il motivo sottostante, è necessario implementare la logica di intercettazione nelle funzioni Annulla o Ripristina dell'applicazione. Quando un utente annulla un'azione avviata da un agente, attiva un microsondaggio leggero. Può trattarsi di una semplice modalità a tre opzioni che chiede all'utente di classificare l'errore come sostanzialmente errato, privo di contesto o una semplice preferenza per gestire l'attività manualmente. Ciò combina la telemetria quantitativa con informazioni qualitative. Consente ai team di ingegneri di distinguere tra un algoritmo non funzionante e una mancata corrispondenza delle preferenze dell'utente. Questi parametri, se monitorati in modo coerente e analizzati in modo olistico, forniscono un quadro solido per valutare le prestazioni dei sistemi di intelligenza artificiale degli agenti, consentendo un miglioramento continuo del controllo, del consenso e della responsabilità. Progettare contro l'inganno Man mano che gli agenti diventano sempre più capaci, ci troviamo ad affrontare un nuovo rischio: Agentic Sludge. I fanghi tradizionali creano attriti che rendono difficile annullare un abbonamento o eliminare un account. I fanghi agentici agiscono al contrario. Rimuove l'attrito in caso di colpa, rendendo troppo facile per un utente accettare un'azione che avvantaggia l'azienda piuttosto che i propri interessi. Considera un agente che ti assiste nella prenotazione del viaggio. Senza barriere chiare, il sistema potrebbe dare priorità a una compagnia aerea partner o a un hotel con margine più elevato. Presenta questa scelta come il percorso ottimale. L’utente, fidandosi dell’autorità del sistema, accetta la raccomandazione senza controllo. Ciò crea un modello ingannevole in cui il sistema ottimizza le entrate con il pretesto di convenienza. Il rischio di una competenza falsamente immaginata L'inganno potrebbe non derivare da intenti malevoli. Spesso si manifesta nell’intelligenza artificiale come competenza immaginata. I modelli linguistici di grandi dimensioni spesso sembrano autorevoli anche quando non corretti. Presentano una falsa conferma di prenotazione o un riepilogo inesatto con la stessa sicurezza di un fatto accertato. Gli utenti possono naturalmente fidarsi di questo tono fiducioso. Questa discrepanza crea un divario pericoloso tra la capacità del sistema e le aspettative degli utenti. Dobbiamo progettare specificatamente per colmare questo divario. Se un agente non riesce a completare un'attività, l'interfaccia deve segnalare chiaramente tale errore. Se il sistema è insicuro, deve esprimere l’incertezza invece di mascherarla con una prosa raffinata. Trasparenza tramite primitive L'antidoto sia al fango che alle allucinazioni è la provenienza. Ogni azione autonoma richiede uno specifico tag di metadati che spieghi l'origine della decisione. Gli utenti hanno bisogno della capacità di ispezionare la catena logica dietro il risultato. Per raggiungere questo obiettivo, dobbiamo tradurre le primitive in risposte pratiche. Nell'ingegneria del software, le primitive si riferiscono alle unità fondamentali di informazioni o azioni eseguite da un agente. Per l'ingegnere, sembra una chiamata API o una porta logica. All'utente deve apparire come una spiegazione chiara. La sfida progettuale sta nel mappare questi passaggi tecnici su motivazioni leggibili dall’uomo. Se un agente consiglia un volo specifico, l'utente deve sapere il motivo. L'interfaccia non può nascondersi dietro una suggestione generica. Deve esporre la primitiva sottostante: Logica: Cheapest_Direct_Flight o Logica: Partner_Airline_Priority. La Figura 4 illustra questo flusso di traduzione. Prendiamo la primitiva del sistema grezzo, ovvero la logica effettiva del codice, e la mappiamo su una stringa rivolta all'utente. Ad esempio, una primitiva che controlla un calendario e pianifica una riunione diventa un'affermazione chiara: ho proposto una riunione alle 16:00incontro. Questo livello di trasparenza garantisce che le azioni dell’agente appaiano logiche e vantaggiose. Consente all'utente di verificare che l'agente ha agito nel suo migliore interesse. Esponendo gli elementi primitivi, trasformiamo una scatola nera in una scatola di vetro, garantendo che gli utenti rimangano l’autorità finale sulla propria vita digitale.
Preparare il terreno per il design Costruire un sistema ad agenti richiede un nuovo livello di comprensione psicologica e comportamentale. Ci costringe ad andare oltre i test di usabilità convenzionali e ad entrare nel regno della fiducia, del consenso e della responsabilità. I metodi di ricerca di cui abbiamo discusso, dall’indagine dei modelli mentali alla simulazione di comportamenti scorretti e alla definizione di nuovi parametri, forniscono una base necessaria. Queste pratiche sono gli strumenti essenziali per identificare in modo proattivo dove un sistema autonomo potrebbe fallire e, cosa ancora più importante, come riparare la relazione utente-agente quando lo fa. Il passaggio all’intelligenza artificiale agente è una ridefinizione della relazione utente-sistema. Non stiamo più progettando strumenti che rispondano semplicemente ai comandi; stiamo progettando per partner che agiscono per nostro conto. Ciò cambia l’imperativo della progettazione da efficienza e facilità d’uso a trasparenza, prevedibilità e controllo. Quando un’intelligenza artificiale può prenotare un volo o scambiare azioni senza un clic finale, la progettazione delle sue “rampe di accesso” e “rampe di uscita” diventa fondamentale. È nostra responsabilità garantire che gli utenti si sentano al posto di guida, anche quando hanno ceduto il volante. Questa nuova realtà eleva anche il ruolo del ricercatore UX. Diventiamo i custodi della fiducia degli utenti, lavorando in collaborazione con ingegneri e product manager per definire e testare i limiti dell'autonomia di un agente. Oltre ad essere ricercatori, diventiamo sostenitori del controllo degli utenti, della trasparenza e delle garanzie etiche all'interno del processo di sviluppo. Traducendo le primitive in domande pratiche e simulando gli scenari peggiori, possiamo costruire sistemi robusti, potenti e sicuri. Questo articolo ha delineato il “cosa” e il “perché” della ricerca sull’intelligenza artificiale degli agenti. Ha dimostrato che i nostri strumenti tradizionali sono insufficienti e che dobbiamo adottare metodologie nuove e lungimiranti. Il prossimo articolo si baserà su queste basi, fornendo modelli di progettazione specifici e pratiche organizzative che rendono l’utilità di un agente trasparente agli utenti, garantendo che possano sfruttare la potenza dell’intelligenza artificiale degli agenti con sicurezza e controllo. Il futuro della UX è rendere i sistemi affidabili. Per una maggiore comprensione dell'intelligenza artificiale degli agenti, puoi esplorare le seguenti risorse:
Blog sull'intelligenza artificiale di Google sull'intelligenza artificiale di Agentic La ricerca di Microsoft sugli agenti AI
