La nostra aposta per una IA responsable i amb impacte real va tornar a cobrar protagonisme el passat 3 de desembre al CAIO Day, una de les principals trobades per a directius a Espanya.

Es tracta d’una sessió que reuneix líders empresarials i tecnològics per debatre sobre els reptes i les oportunitats d’aquest nou paradigma.

T’expliquem com ho vam viure i què vam aprendre:

 

Entendre els agents d’IA, un pas clau

La nostra participació va comptar amb la intervenció de Fabiola Nasca Moreno, Directora d’Intel·ligència Artificial Generativa i Agents al Banc Sabadell, qui va compartir la seva visió sobre el paper dels agents d’IA.

Durant la seva intervenció, va destacar algunes idees clau com ara:

  • La necessitat de distingir entre un assistent amb IA generativa i els agents d’IA, per no perdre el focus estratègic de la implementació i el govern.
  • L’autonomia com a característica diferencial dels agents d’IA, capaços d’analitzar una tasca, definir l’estratègia i executar-la sense intervenció humana directa.

 

 

“Tindre clara la diferència entre què és un agent d’IA i què no ho és és el que marca la diferència a l’hora d’avançar amb una estratègia ben enfocada. D’aquesta manera podem desenvolupar solucions autònomes que aportin valor real al negoci, garantint el control i la seguretat.”

Fabiola Nasca Moreno, Directora d’Intel·ligència Artificial Generativa i Agents

 

 

Transparència i confiança en els agents d’IA

Un altre dels punts més destacats de la jornada va ser la importància de garantir la traçabilitat de les decisions que prenen els agents d’IA, un aspecte clau per a un ús responsable d’aquesta tecnologia.

Per això, es va compartir la necessitat de disposar de diferents mecanismes que permetin:

El registre exhaustiu (logging) de les interaccions de l’agent

Permet saber quina informació utilitza i quines decisions pren.

El seguiment del raonament de l’agent

Ajuda a entendre per què actua d’una determinada manera en cada context.

Aquests processos són fonamentals per assegurar el control, la supervisió i la capacitat d’auditoria, especialment en entorns amb alts requisits regulatoris.

 

Continuem apostant per una IA responsable

Formar part de jornades com el CAIO Day ens permet compartir visió, aprendre al costat de més líders i continuar impulsant una innovació basada en el control i la confiança.

Per això, reforcem el nostre compromís amb un ús responsable, segur i alineat amb les necessitats del negoci i amb les persones.

Seguim!