El banco BBVA colaborará con NVIDIA para explorar el potencial de OpenShell Reference Architecture, presentada por NVIDIA durante su conferencia GTC Berlin, para impulsar nuevos enfoques en materia de seguridad, protección y gobernanza de los agentes de inteligencia artificial. La colaboración forma parte de la estrategia del banco para extender el uso de agentes de IA a toda la organización, manteniendo la supervisión y el control.
A medida que los agentes de inteligencia artificial ganan autonomía y asumen tareas más complejas, las empresas necesitan establecer límites claros a su actuación y mantener el control sobre su funcionamiento. La recién anunciada NVIDIA OpenShell Reference Architecture está diseñada para abordar estos retos mediante mecanismos que regulan el comportamiento de los agentes e intervienen cuando se superan los límites de seguridad establecidos. El anuncio se apoya en iniciativas de seguridad de la IA basadas en tecnología de código abierto, que ya reúnen a empresas de distintos ámbitos del ecosistema tecnológico, incluido BBVA.
Estas capacidades son especialmente relevantes en sectores como el financiero, donde la trazabilidad y el control de los riesgos son fundamentales. Para BBVA, la colaboración con NVIDIA supone la oportunidad de explorar nuevos enfoques que ayuden a reforzar la seguridad y la gobernanza desde el diseño de los agentes de IA, en el marco de su estrategia para industrializar su desarrollo y despliegue en toda la organización, con el objetivo de mejorar la experiencia de sus clientes y agilizar sus procesos internos.
BBVA explorará cómo hacer cumplir estos límites durante el funcionamiento de los agentes
“Estamos extendiendo el uso de agentes de IA a toda la organización, y hacerlo de forma segura es una prioridad. A medida que estos sistemas ganan autonomía, necesitamos reforzar los mecanismos que permiten supervisar su actividad y mantener el control”, explica Valentín Sánchez, CSO Global de BBVA. “Colaborar con la industria tecnológica y con socios como NVIDIA nos permite conocer los enfoques más punteros en seguridad y gobernanza de agentes para seguir avanzando en esa dirección”.
“Para que los bancos puedan aprovechar el conocimiento y la información propios de su organización a través de agentes de IA, es necesario establecer límites claros y mecanismos de supervisión a medida que estos sistemas ganan autonomía”, señala Aser Blanco, responsable global del sector bancario en NVIDIA. “A través de nuestra colaboración, BBVA explorará cómo hacer cumplir estos límites durante el funcionamiento de los agentes, con el objetivo de mejorar la experiencia de sus clientes y la productividad de sus empleados sin perder el control”.
Los agentes de IA pueden encadenar distintas acciones para completar una tarea, desde consultar información hasta utilizar herramientas externas. Esto hace que su seguridad no dependa únicamente de los controles establecidos al diseñarlos, sino también de la capacidad de supervisar sus decisiones y actuaciones durante la ejecución.
Para responder a esta necesidad de supervisión continua, la OpenShell Reference Architecture combina infraestructura que ejecuta agentes de IA y gestiona su interacción con otras herramientas, con sistemas de seguridad independientes capaces de detectar y contener actuaciones que superen los límites establecidos. Su ‘software’ es de código abierto y está disponible a través de la web de NVIDIA y GitHub.
