Nuestra apuesta por una IA responsable y con impacto real volvió a cobrar protagonismo el pasado 3 de diciembre en el CAIO Day, uno de los principales encuentros para directivos en España.

Se trata de una sesión que reúne a líderes empresariales y tecnológicos para debatir sobre los retos y oportunidades de este nuevo paradigma.

Te contamos cómo lo vivimos y qué aprendimos:

 

Entender los agentes de IA, un paso clave

Nuestra participación contó con la intervención de Fabiola Nasca Moreno, Directora de Inteligencia Artificial Generativa y Agentes en el Banco Sabadell, quien compartió su visión sobre el papel de los agentes de IA.

Durante su intervención, destacó algunas ideas clave como:

  • La necesidad de distinguir entre un asistente con IA generativa y agentes de IA, para no perder el foco estratégico de la implementación y gobierno.
  • La autonomía como característica diferencial de los agentes de IA, capaces de analizar una tarea, definir la estrategia y ejecutarla sin intervención humana directa.

 

 

“Tener clara la diferencia entra lo que es un agente de IA y lo qué no es lo que marca la diferencia a la hora de avanzar con una estrategia bien enfocada. De esta manera podemos desarrollar soluciones autónomas que aporten valor real al negocio, garantizando el control y la seguridad.”

Fabiola Nasca Moreno, Directora de Inteligencia Artificial Generativa y Agentes

 

 

Transparencia y confianza en los agentes de IA

Otro de los puntos más destacados de la jornada fue la importancia de garantizar la trazabilidad de las decisiones que toman los agentes de IA, un aspecto clave para un uso responsable de esta tecnología.

Por ello, se compartió la necesidad de contar con diferentes mecanismos que permitan:

El registro exhaustivo (logging) de las interacciones del agente

Permite saber qué información utiliza y qué decisiones toma.

El seguimiento del razonamiento del agente

Ayuda a entender por qué actúa de una determinada manera en cada contexto.

Estos procesos son fundamentales para asegurar el control, la supervisión y la capacidad de auditoría, especialmente en entornos con altos requisitos regulatorios.

 

Seguimos apostando por una IA responsable

Formar parte de jornadas como el CAIO Day nos permite compartir visión, aprender junto a más líderes y seguir impulsando una innovación basada en el control y la confianza.

Por eso, reforzamos nuestro compromiso con un uso responsable, seguro y alineado con las necesidades del negocio y con las personas.

¡Seguimos!