Agentic AI está lista para transformar la experiencia del cliente y la eficiencia operativa, lo que requiere un nuevo enfoque estratégico por parte del liderazgo. Esta evolución de la inteligencia artificial permite a los sistemas planificar, ejecutar y persistir en las tareas, yendo más allá de las simples recomendaciones hacia la acción proactiva. Para los equipos de UX, gerentes de producto y ejecutivos, comprender este cambio es crucial para desbloquear oportunidades de innovación, optimizar los flujos de trabajo y redefinir cómo la tecnología sirve a las personas. Es fácil confundir la IA agente con la automatización robótica de procesos (RPA), que es una tecnología que se centra en tareas basadas en reglas realizadas en computadoras. La distinción radica en rigidez versus razonamiento. RPA es excelente para seguir un guión estricto: si sucede X, haz Y. Imita las manos humanas. La IA agente imita el razonamiento humano. No sigue un guión lineal; crea uno. Considere un flujo de trabajo de contratación. Un bot RPA puede escanear un currículum y cargarlo en una base de datos. Realiza una tarea repetitiva a la perfección. Un sistema Agentic examina el currículum, observa que el candidato enumera una certificación específica, la compara con un nuevo requisito del cliente y decide redactar un correo electrónico de divulgación personalizado destacando esa coincidencia. RPA ejecuta un plan predefinido; La IA agente formula el plan en función de un objetivo. Esta autonomía separa a los agentes de las herramientas predictivas que hemos utilizado durante la última década. Otro ejemplo es la gestión de conflictos en reuniones. Un modelo predictivo integrado en su calendario podría analizar su agenda de reuniones y las agendas de sus colegas. Luego podría sugerir conflictos potenciales, como dos reuniones importantes programadas al mismo tiempo o una reunión programada cuando un participante clave está de vacaciones. Le proporciona información y señala posibles problemas, pero usted es responsable de tomar medidas. Una IA agente, en el mismo escenario, iría más allá de simplemente sugerir conflictos a evitar. Al identificar un conflicto con un participante clave, el agente podría actuar de la siguiente manera:
Comprobando la disponibilidad de todos los participantes necesarios. Identificar franjas horarias alternativas que funcionen para todos. Envío de propuestas de nuevas invitaciones a reuniones a todos los asistentes. Si el conflicto es con un participante externo, el agente podría redactar y enviar un correo electrónico explicando la necesidad de reprogramar y ofreciendo horarios alternativos. Actualizando tu calendario y los calendarios de tus compañeros con los nuevos detalles de la reunión una vez confirmada.
Esta IA agente entiende el objetivo (resolver el conflicto de la reunión), planifica los pasos (verificar disponibilidad, encontrar alternativas, enviar invitaciones), ejecuta esos pasos y persiste hasta que se resuelve el conflicto, todo con una mínima intervención directa del usuario. Esto demuestra la diferencia "agentica": el sistema toma medidas proactivas para el usuario, en lugar de simplemente proporcionarle información. Los sistemas de IA agentes comprenden un objetivo, planifican una serie de pasos para lograrlo, los ejecutan e incluso se adaptan si las cosas salen mal. Piense en ello como un asistente digital proactivo. La tecnología subyacente a menudo combina grandes modelos de lenguaje (LLM) para la comprensión y el razonamiento con algoritmos de planificación que dividen tareas complejas en acciones manejables. Estos agentes pueden interactuar con varias herramientas, API e incluso otros modelos de IA para lograr sus objetivos y, lo que es más importante, pueden mantener un estado persistente, lo que significa que recuerdan acciones anteriores y continúan trabajando para lograr una meta a lo largo del tiempo. Esto los diferencia fundamentalmente de la IA generativa típica, que normalmente completa una única solicitud y luego se reinicia. Una taxonomía simple de comportamientos agentes Podemos clasificar el comportamiento de los agentes en cuatro modos distintos de autonomía. Si bien a menudo parecen una progresión, funcionan como modos de funcionamiento independientes. Un usuario puede confiar en que un agente actuará de forma autónoma para la programación, pero mantenerlo en "modo de sugerencia" para las transacciones financieras. Obtuvimos estos niveles adaptando los estándares de la industria para vehículos autónomos (niveles SAE) a contextos de experiencia de usuario digital. Observar y sugerir El agente funciona como monitor. Analiza flujos de datos y señala anomalías u oportunidades, pero no toma ninguna medida. DiferenciaciónA diferencia del siguiente nivel, el agente no genera ningún plan complejo. Señala un problema. EjemploUn agente de DevOps nota un aumento en la CPU del servidor y alerta al ingeniero de guardia. No sabe cómo solucionarlo ni intenta solucionarlo, pero sabe que algo anda mal. Implicaciones para el diseño y la supervisión En este nivel,El diseño y la supervisión deben priorizar notificaciones claras y no intrusivas y un proceso bien definido para que los usuarios actúen según las sugerencias. La atención se centra en brindar al usuario información oportuna y relevante sin tomar el control. Los profesionales de UX deben centrarse en hacer sugerencias claras y fáciles de entender, mientras que los gerentes de producto deben asegurarse de que el sistema proporcione valor sin abrumar al usuario. Planificar y proponer El agente identifica un objetivo y genera una estrategia de varios pasos para lograrlo. Presenta el plan completo para la revisión humana. DiferenciaciónEl agente actúa como estratega. No se ejecuta; espera la aprobación de todo el enfoque. EjemploEl mismo agente de DevOps detecta el aumento de CPU, analiza los registros y propone un plan de corrección:
Activa dos instancias adicionales. Reinicie el equilibrador de carga. Archivar registros antiguos.
El humano revisa la lógica y hace clic en "Aprobar plan". Implicaciones para el diseño y la supervisión Para los agentes que planifican y proponen, el diseño debe garantizar que los planes propuestos sean fácilmente comprensibles y que los usuarios tengan formas intuitivas de modificarlos o rechazarlos. La supervisión es crucial para monitorear la calidad de las propuestas y la lógica de planificación del agente. Los profesionales de UX deben diseñar visualizaciones claras de los planes propuestos, y los gerentes de producto deben establecer flujos de trabajo claros de revisión y aprobación. Actuar con confirmación El agente completa todo el trabajo de preparación y coloca la acción final en un estado por etapas. Mantiene efectivamente la puerta abierta, esperando un asentimiento. Diferenciación Esto difiere de “Planificar y proponer” porque el trabajo ya está hecho y organizado. Reduce la fricción. El usuario confirma el resultado, no la estrategia. EjemploUn agente de contratación redacta cinco invitaciones a entrevistas, busca horarios abiertos en los calendarios y crea los eventos del calendario. Presenta un botón “Enviar todo”. El usuario proporciona la autorización final para desencadenar la acción externa. Implicaciones para el diseño y la supervisión Cuando los agentes actúan con confirmación, el diseño debe proporcionar resúmenes transparentes y concisos de la acción prevista, describiendo claramente las posibles consecuencias. La supervisión debe verificar que el proceso de confirmación sea sólido y que no se solicite a los usuarios que aprueben acciones a ciegas. Los profesionales de UX deben diseñar mensajes de confirmación que sean claros y proporcionen toda la información necesaria, y los gerentes de producto deben priorizar un seguimiento de auditoría sólido para todas las acciones confirmadas. Actuar de forma autónoma El agente ejecuta tareas de forma independiente dentro de límites definidos. DiferenciaciónEl usuario revisa el historial de acciones, no las acciones en sí. Ejemplo: El agente de contratación ve un conflicto, traslada la entrevista a un espacio de respaldo, actualiza al candidato y notifica al gerente de contratación. El humano solo ve una notificación: Entrevista reprogramada para el martes. Implicaciones para el diseño y la supervisión Para los agentes autónomos, el diseño debe establecer límites claros previamente aprobados y proporcionar herramientas de seguimiento sólidas. La supervisión requiere una evaluación continua del desempeño del agente dentro de estos límites, una necesidad crítica de registros sólidos, mecanismos de anulación claros y interruptores de interrupción definidos por el usuario para mantener el control y la confianza del usuario. Los profesionales de UX deben centrarse en diseñar paneles de control eficaces para monitorear el comportamiento de los agentes autónomos, y los gerentes de producto deben garantizar que existan pautas éticas y de gobernanza claras.
Veamos una aplicación del mundo real en tecnología de recursos humanos para ver estos modos en acción. Considere un "Agente de coordinación de entrevistas" diseñado para manejar la logística de la contratación.
En el modo de sugerencia, el agente se da cuenta de que un entrevistador tiene una doble cita. Destaca el conflicto en el panel del reclutador: "Advertencia: Sarah tiene doble cita para la entrevista de las 2 p. m.". En Modo Plan, el agente analiza el calendario de Sarah y la disponibilidad del candidato. Presenta una solución: "Recomiendo trasladar la entrevista al jueves a las 10 a. m. Esto requiere trasladar a Sarah a la reunión individual con su gerente". El reclutador revisa esta lógica. En modo de confirmación, el agente redacta los correos electrónicos para el candidato y el gerente. Completa las invitaciones del calendario. El reclutador ve un resumen: "Listo para reprogramar para el jueves. ¿Enviar actualizaciones?" El reclutador hace clic en "Confirmar". En modo autónomo, el agente maneja el conflicto al instante. Respeta una regla preestablecida: "Siempre priorice las entrevistas con los candidatos sobre las entrevistas individuales internas". Mueve la reunión y envía las notificaciones. El reclutador ve una entrada en el registro: "Resueltoconflicto de horarios para el candidato B”.
Manual de investigación: qué investigar y cómo El desarrollo de una IA agente eficaz exige un enfoque de investigación distinto en comparación con el software tradicional o incluso con la IA generativa. La naturaleza autónoma de los agentes de IA, su capacidad para tomar decisiones y su potencial de acción proactiva requieren metodologías especializadas para comprender las expectativas de los usuarios, mapear comportamientos complejos de los agentes y anticipar posibles fallas. El siguiente manual de investigación describe métodos clave para medir y evaluar estos aspectos únicos de la IA agente. Entrevistas de modelo mental Estas entrevistas revelan nociones preconcebidas de los usuarios sobre cómo debe comportarse un agente de IA. En lugar de simplemente preguntar qué quieren los usuarios, la atención se centra en comprender sus modelos internos de las capacidades y limitaciones del agente. Deberíamos evitar utilizar la palabra “agente” con los participantes. Lleva un bagaje de ciencia ficción o es un término que se confunde demasiado fácilmente con un agente humano que ofrece apoyo o servicios. En su lugar, encuadre la discusión en torno a los “asistentes” o “el sistema”. Necesitamos descubrir dónde los usuarios trazan la línea entre la automatización útil y el control intrusivo.
Método: Pida a los usuarios que describan, dibujen o narren sus interacciones esperadas con el agente en varios escenarios hipotéticos. Sondeos clave (que reflejan una variedad de industrias): Para comprender los límites de la automatización deseada y las posibles ansiedades en torno a la automatización excesiva, pregunte: Si su vuelo se cancela, ¿qué le gustaría que hiciera el sistema automáticamente? ¿Qué le preocuparía si lo hiciera sin sus instrucciones explícitas?
Para explorar la comprensión del usuario sobre los procesos internos del agente y la comunicación necesaria, pregunte: Imagine que un asistente digital administra su hogar inteligente. Si se entrega un paquete, ¿qué pasos imagina que se deben seguir y qué información esperaría recibir?
Para descubrir expectativas sobre el control y el consentimiento dentro de un proceso de varios pasos, pregunte: Si le pide a su asistente digital que programe una reunión, ¿qué pasos prevé que tomará? ¿En qué puntos le gustaría que le consultaran o le dieran opciones?
Beneficios del método: revela suposiciones implícitas, resalta áreas donde el comportamiento planificado del agente podría diferir de las expectativas del usuario e informa el diseño de controles y mecanismos de retroalimentación apropiados.
Mapeo del viaje del agente: De manera similar al mapeo tradicional del recorrido del usuario, el mapeo del recorrido del agente se enfoca específicamente en las acciones anticipadas y los puntos de decisión del propio agente de IA, junto con la interacción del usuario. Esto ayuda a identificar de forma proactiva posibles obstáculos.
Método: Cree un mapa visual que describa las diversas etapas de la operación de un agente, desde el inicio hasta la finalización, incluidas todas las posibles acciones, decisiones e interacciones con sistemas o usuarios externos. Elementos clave para mapear: Acciones del agente: ¿Qué tareas o decisiones específicas realiza el agente? Entradas/Salidas de Información: ¿Qué datos necesita el agente y qué información genera o comunica? Puntos de decisión: ¿Dónde toma decisiones el agente y cuáles son los criterios para esas elecciones? Puntos de interacción del usuario: ¿Dónde el usuario proporciona información, revisa o aprueba acciones? Puntos de falla: lo más importante es identificar casos específicos en los que el agente podría malinterpretar instrucciones, tomar una decisión incorrecta o interactuar con la entidad equivocada. Ejemplos: destinatario incorrecto (p. ej., enviar información confidencial a la persona equivocada), sobregiro (p. ej., un pago automático que excede los fondos disponibles), mala interpretación de la intención (p. ej., reservar un vuelo para la fecha incorrecta debido a un lenguaje ambiguo).
Rutas de recuperación: ¿Cómo puede el agente o usuario recuperarse de estas fallas? ¿Qué mecanismos existen para la corrección o intervención?
Beneficios del método: proporciona una visión holística del flujo operativo del agente, descubre dependencias ocultas y permite el diseño proactivo de salvaguardas, manejo de errores y puntos de intervención del usuario para prevenir o mitigar resultados negativos.
Pruebas de mala conducta simuladas: Este enfoque está diseñado para poner a prueba el sistema y observar las reacciones del usuario cuando el agente de IA falla o se desvía de las expectativas. Se trata de comprender la reparación de la confianza y las respuestas emocionales en situaciones adversas.
Método: en estudios de laboratorio controlados, introduzca deliberadamente escenarios en los que el agente cometa un error, malinterprete una orden o se comporte inesperadamente. Tipos de “mala conducta” a simular: ComandoInterpretación errónea: el agente realiza una acción ligeramente diferente de lo que pretendía el usuario (por ejemplo, pedir dos artículos en lugar de uno). Sobrecarga/subcarga de información: el agente proporciona demasiada información irrelevante o no proporciona suficientes detalles críticos. Acción no solicitada: el agente realiza una acción que el usuario explícitamente no quería ni esperaba (por ejemplo, comprar acciones sin aprobación). Fallo del sistema: el agente falla, deja de responder o proporciona un mensaje de error. Dilemas éticos: el agente toma una decisión con implicaciones éticas (por ejemplo, priorizar una tarea sobre otra basándose en una métrica imprevista).
Enfoque de observación: Reacciones de los usuarios: ¿Cómo reaccionan emocionalmente los usuarios (frustración, enojo, confusión, pérdida de confianza)? Intentos de recuperación: ¿Qué pasos toman los usuarios para corregir el comportamiento del agente o deshacer sus acciones? Mecanismos de reparación de confianza: ¿Los mecanismos integrados de recuperación o retroalimentación del sistema ayudan a restaurar la confianza? ¿Cómo quieren los usuarios estar informados sobre los errores? Cambio de modelo mental: ¿La mala conducta altera la comprensión del usuario sobre las capacidades o limitaciones del agente?
Beneficios del método: Crucial para identificar brechas de diseño relacionadas con la recuperación de errores, la retroalimentación y el control del usuario. Proporciona información sobre qué tan resilientes son los usuarios ante las fallas de los agentes y qué se necesita para mantener o reconstruir la confianza, lo que lleva a sistemas de agentes más sólidos y tolerantes.
Al integrar estas metodologías de investigación, los profesionales de UX pueden ir más allá de simplemente hacer que los sistemas agentes sean utilizables y hacerlos confiables, controlables y responsables, fomentando una relación positiva y productiva entre los usuarios y sus agentes de IA. Tenga en cuenta que estos no son los únicos métodos relevantes para explorar la IA agente de forma eficaz. Existen muchos otros métodos, pero éstos serán los más accesibles para los profesionales en el corto plazo. Anteriormente cubrí el método del Mago de Oz, un método un poco más avanzado de prueba de conceptos, que también es una herramienta valiosa para explorar conceptos de IA agente. Consideraciones éticas en la metodología de la investigación Al investigar la IA agente, particularmente al simular malas conductas o errores, es clave tener en cuenta consideraciones éticas. Hay muchas publicaciones que se centran en la investigación ética de UX, incluido un artículo que escribí para Smashing Magazine, estas pautas del UX Design Institute y esta página del Inclusive Design Toolkit. Métricas clave para la IA agente Necesitará un conjunto completo de métricas clave para evaluar eficazmente el rendimiento y la confiabilidad de los sistemas de IA agentes. Estas métricas brindan información sobre la confianza del usuario, la precisión del sistema y la experiencia general del usuario. Al realizar un seguimiento de estos indicadores, los desarrolladores y diseñadores pueden identificar áreas de mejora y garantizar que los agentes de IA operen de forma segura y eficiente. 1. Tasa de intervención Para los agentes autónomos, medimos el éxito por el silencio. Si un agente ejecuta una tarea y el usuario no interviene ni revierte la acción dentro de un período establecido (por ejemplo, 24 horas), lo contamos como aceptación. Realizamos un seguimiento de la tasa de intervención: ¿con qué frecuencia interviene un humano para detener o corregir al agente? Una tasa de intervención alta indica una desalineación en la confianza o la lógica. 2. Frecuencia de acciones no deseadas por cada 1000 tareas. Esta métrica crítica cuantifica la cantidad de acciones realizadas por el agente de IA que no fueron deseadas o esperadas por el usuario, normalizadas por cada 1000 tareas completadas. Una baja frecuencia de acciones no deseadas significa una IA bien alineada que interpreta con precisión la intención del usuario y opera dentro de límites definidos. Esta métrica está estrechamente relacionada con la comprensión del contexto por parte de la IA, su capacidad para eliminar la ambigüedad de los comandos y la solidez de sus protocolos de seguridad. 3. Tasas de revertir o deshacer: esta métrica rastrea la frecuencia con la que los usuarios necesitan revertir o deshacer una acción realizada por la IA. Las altas tasas de reversión sugieren que la IA comete errores frecuentes, malinterpreta instrucciones o actúa de manera que no está alineada con las expectativas del usuario. Analizar las razones detrás de estos retrocesos puede proporcionar información valiosa para mejorar los algoritmos de la IA, la comprensión de las preferencias de los usuarios y su capacidad para predecir resultados deseables. Para entender por qué, es necesario implementar una microencuesta sobre la acción de deshacer. Por ejemplo, cuando un usuario revierte un cambio de programación, un mensaje simple puede preguntar: "¿Horario equivocado? ¿Persona equivocada? ¿O simplemente querías hacerlo tú mismo?". Permitiendo al usuario hacer clic en la opción que mejor se corresponda con su razonamiento. 4. Tiempo de resolución después de un errorEsta métricaMide el tiempo que tarda un usuario en corregir un error cometido por la IA o que el propio sistema de IA se recupera de un estado erróneo. Un corto tiempo de resolución indica un proceso de recuperación de errores eficiente y fácil de usar, que puede mitigar la frustración del usuario y mantener la productividad. Esto incluye la facilidad para identificar el error, la accesibilidad a mecanismos de corrección o deshacer y la claridad de los mensajes de error proporcionados por la IA.
Para recopilar estas métricas es necesario instrumentar su sistema para realizar un seguimiento de los ID de acciones de los agentes. Cada acción distinta que realiza el agente, como proponer un horario o reservar un vuelo, debe generar una identificación única que persista en los registros. Para medir la Tasa de Intervención, no buscamos una reacción inmediata del usuario. Buscamos la ausencia de una contraacción dentro de una ventana definida. Si se genera una ID de acción a las 9:00 a. m. y ningún usuario humano modifica o revierte esa ID específica antes de las 9:00 a. m. del día siguiente, el sistema lógicamente la etiqueta como Aceptada. Esto nos permite cuantificar el éxito en función del silencio del usuario en lugar de la confirmación activa. Para las tasas de reversión, los recuentos brutos son insuficientes porque carecen de contexto. Para capturar el motivo subyacente, debe implementar una lógica de intercepción en las funciones Deshacer o Revertir de su aplicación. Cuando un usuario revierte una acción iniciada por un agente, activa una microencuesta ligera. Este puede ser un modo simple de tres opciones que le pide al usuario que clasifique el error como objetivamente incorrecto, que carece de contexto o una simple preferencia para manejar la tarea manualmente. Esto combina la telemetría cuantitativa con información cualitativa. Permite a los equipos de ingeniería distinguir entre un algoritmo roto y una discrepancia en las preferencias del usuario. Estas métricas, cuando se rastrean de manera consistente y se analizan de manera integral, brindan un marco sólido para evaluar el desempeño de los sistemas de IA agentes, lo que permite una mejora continua en el control, el consentimiento y la responsabilidad. Diseñar contra el engaño A medida que los agentes se vuelven cada vez más capaces, nos enfrentamos a un nuevo riesgo: el lodo agente. El lodo tradicional crea fricción que dificulta cancelar una suscripción o eliminar una cuenta. El lodo agente actúa a la inversa. Elimina la fricción hasta el extremo, lo que hace que sea demasiado fácil para un usuario aceptar una acción que beneficie a la empresa en lugar de sus propios intereses. Considere la posibilidad de que un agente le ayude con la reserva de viajes. Sin barreras de seguridad claras, el sistema podría priorizar una aerolínea asociada o un hotel con mayor margen. Presenta esta elección como el camino óptimo. El usuario, confiando en la autoridad del sistema, acepta la recomendación sin escrutinio. Esto crea un patrón engañoso en el que el sistema optimiza los ingresos bajo la apariencia de conveniencia. El riesgo de una competencia falsamente imaginada El engaño no puede deberse a intenciones maliciosas. A menudo se manifiesta en la IA como competencia imaginada. Los modelos de lenguaje grandes con frecuencia suenan autoritarios incluso cuando son incorrectos. Presentan una confirmación de reserva falsa o un resumen inexacto con la misma confianza que un hecho verificado. Naturalmente, los usuarios pueden confiar en este tono confiado. Este desajuste crea una brecha peligrosa entre la capacidad del sistema y las expectativas del usuario. Debemos diseñar específicamente para cerrar esta brecha. Si un agente no completa una tarea, la interfaz debe señalar esa falla claramente. Si el sistema es inseguro, debe expresar incertidumbre en lugar de enmascararla con una prosa pulida. Transparencia a través de primitivas El antídoto tanto contra el lodo como contra las alucinaciones es la procedencia. Cada acción autónoma requiere una etiqueta de metadatos específica que explique el origen de la decisión. Los usuarios necesitan la capacidad de inspeccionar la cadena lógica detrás del resultado. Para lograrlo, debemos traducir las primitivas en respuestas prácticas. En ingeniería de software, las primitivas se refieren a las unidades centrales de información o acciones que realiza un agente. Para el ingeniero, esto parece una llamada API o una puerta lógica. Para el usuario debe aparecer como una explicación clara. El desafío del diseño radica en mapear estos pasos técnicos con fundamentos legibles por humanos. Si un agente recomienda un vuelo específico, el usuario necesita saber por qué. La interfaz no puede esconderse detrás de una sugerencia genérica. Debe exponer la primitiva subyacente: Lógica: Cheap_Direct_Flight o Lógica: Partner_Airline_Priority. La Figura 4 ilustra este flujo de traducción. Tomamos la primitiva del sistema sin formato (la lógica del código real) y la asignamos a una cadena orientada al usuario. Por ejemplo, una comprobación primitiva de un calendario para programar una reunión se convierte en una declaración clara: He propuesto una reunión a las 4 p.m.reunión. Este nivel de transparencia garantiza que las acciones del agente parezcan lógicas y beneficiosas. Permite al usuario verificar que el agente actuó en su mejor interés. Al exponer los primitivos, transformamos una caja negra en una caja de cristal, garantizando que los usuarios sigan siendo la autoridad final en sus propias vidas digitales.
Preparando el escenario para el diseño Construir un sistema de agentes requiere un nuevo nivel de comprensión psicológica y conductual. Nos obliga a ir más allá de las pruebas de usabilidad convencionales y entrar en el ámbito de la confianza, el consentimiento y la responsabilidad. Los métodos de investigación que hemos analizado, desde sondear modelos mentales hasta simular malas conductas y establecer nuevas métricas, proporcionan una base necesaria. Estas prácticas son las herramientas esenciales para identificar de forma proactiva dónde podría fallar un sistema autónomo y, lo que es más importante, cómo reparar la relación usuario-agente cuando falla. El cambio hacia la IA agente es una redefinición de la relación usuario-sistema. Ya no estamos diseñando herramientas que simplemente respondan a comandos; Estamos diseñando para socios que actúan en nuestro nombre. Esto cambia el imperativo del diseño de eficiencia y facilidad de uso a transparencia, previsibilidad y control. Cuando una IA puede reservar un vuelo o negociar una acción sin un clic final, el diseño de sus “rampas de entrada” y “rampas de salida” se vuelve primordial. Es nuestra responsabilidad garantizar que los usuarios se sientan en el asiento del conductor, incluso cuando hayan entregado el volante. Esta nueva realidad también eleva el papel del investigador de UX. Nos convertimos en custodios de la confianza de los usuarios y trabajamos en colaboración con ingenieros y gerentes de producto para definir y probar las barreras de seguridad de la autonomía de un agente. Más allá de ser investigadores, nos convertimos en defensores del control de los usuarios, la transparencia y las salvaguardas éticas dentro del proceso de desarrollo. Al traducir los primitivos en preguntas prácticas y simular los peores escenarios, podemos construir sistemas robustos que sean a la vez potentes y seguros. Este artículo ha esbozado el "qué" y el "por qué" de la investigación de la IA agente. Ha demostrado que nuestras herramientas tradicionales son insuficientes y que debemos adoptar metodologías nuevas y con visión de futuro. El próximo artículo se basará en esta base y proporcionará los patrones de diseño específicos y las prácticas organizativas que hacen que la utilidad de un agente sea transparente para los usuarios, garantizando que puedan aprovechar el poder de la IA agente con confianza y control. El futuro de UX pasa por hacer que los sistemas sean confiables. Para comprender mejor la IA agente, puede explorar los siguientes recursos:
Blog de IA de Google sobre IA agente La investigación de Microsoft sobre agentes de IA
