Com a membre fundador de la Barcelona Innovation Valley Alliance (BIVA), Banc Sabadell va participar a la taula rodona “Responsible & Secure AI” del Talent Arena, aportant la seva visió al debat sobre els reptes i les bones pràctiques necessàries per un desenvolupament responsable i segur de la intel·ligència artificial.
El paper estratègic de la Intel·ligència Artificial
Durant la sessió, es va subratllar el paper estratègic que la IA està adquirint en els nous projectes com a font d’avantatge competitiu, així com la importància de protegir aquests ecosistemes emergents. Eduardo González, director de seguretat de la informació de Banco Sabadell, va destacar la privacitat de les dades i l’increment dels ciberatacs sofisticats com les principals preocupacions del sector bancari en aquesta nova etapa marcada per sistemes i agents d’IA.
“Els controls tècnics tradicionals ja no resulten suficients: ha sorgit una nova disciplina orientada a provar i validar sistemes d’IA, des de l’avaluació de prompts fins a pràctiques avançades com l’AI Red Teaming. Al departament de Seguretat de la Informació de Banc Sabadell avaluem els nous riscos per adaptar-nos i construir les salvaguardes necessàries.” Eduardo González, director de seguretat de la informació de Banco Sabadell.
Respecte a la implantació d’aquests nous sistemes, la recent regulació europea en matèria d’intel·ligència artificial defineix amb claredat els casos d’ús subjectes a requisits tècnics reforçats. Entre aquests es consideren d’alt risc els sistemes d’IA “destinats a avaluar la solvència i el risc creditici de persones físiques o a establir la seva puntuació creditícia”. Aquests sistemes requereixen controls més estrictes que la resta, incloent, per exemple, mecanismes de supervisió humana en la presa de decisions.
Respecte a la implantació d’aquests nous sistemes, la recent regulació europea en matèria d’intel·ligència artificial defineix amb claredat els casos d’ús subjectes a requisits tècnics reforçats. Entre aquests es consideren d’alt risc els sistemes d’IA “destinats a avaluar la solvència i el risc creditici de persones físiques o a establir la seva puntuació creditícia”. Aquests sistemes requereixen controls més estrictes que la resta, incloent, per exemple, mecanismes de supervisió humana en la presa de decisions.
La implicació de los joves en un nou context digital
Finalment, el debat va abordar la preparació dels joves en aquest nou context digital i la formació necessària per competir en els pròxims anys. Eduardo Gonzaléz va destacar la rellevància d’adquirir una base tècnica cada vegada més alineada amb la ciència de dades, juntament amb el desenvolupament del pensament crític com a competències essencials per a aquesta nova era de la IA.
