Como miembro fundador de la Barcelona Innovation Valley Alliance (BIVA), Banco Sabadell participó en la mesa redonda “Responsible & Secure AI” del Talent Arena, aportando su visión al debate sobre los retos y las buenas prácticas necesarias para un desarrollo responsable y seguro de la inteligencia artificial.
El papel estratégico de la Inteligencia Artificial
Durante la sesión, se subrayó el papel estratégico que la IA está adquiriendo en los nuevos proyectos como fuente de ventaja competitiva, así como la importancia de proteger estos ecosistemas emergentes. Eduardo Gonzalez, director de seguridad de la información de Banco Sabadell, destacó la privacidad de los datos y el incremento de los ciberataques sofisticados como las principales preocupaciones del sector bancario en esta nueva etapa marcada por sistemas y agentes de IA.
“Los controles técnicos tradicionales ya no resultan suficientes: ha surgido una nueva disciplina orientada a probar y validar sistemas de IA, desde la evaluación de prompts hasta prácticas avanzadas como el AI Red Teaming. En el departamento de Seguridad de la Información de Banco Sabadell evaluamos los nuevos riesgos para adaptarnos y construir las salvaguardas necesarias.” Eduardo González, director de seguridad de la información de Banco Sabadell.
Respecto a la implantación de estos nuevos sistemas, la reciente regulación europea en materia de inteligencia artificial define con claridad los casos de uso sujetos a requisitos técnicos reforzados. Entre ellos se consideran de alto riesgo los sistemas de IA “destinados a evaluar la solvencia y el riesgo crediticio de personas físicas o a establecer su puntuación crediticia”. Estos sistemas requieren controles más estrictos que el resto, incluyendo, por ejemplo, mecanismos de supervisión humana en la toma de decisiones.
La implicación de los jóvenes en un nuevo contexto digital
Finalmente, el debate abordó la preparación de los jóvenes en este nuevo contexto digital y la formación necesaria para competir en los próximos años. Eduardo Gonzaléz destacó la relevancia de adquirir una base técnica cada vez más alineada con la ciencia de datos, junto con el desarrollo del pensamiento crítico como competencias esenciales para esta nueva era de la IA.
