WHAT ARE YOU LOOKING FOR?
Popular Tags
El supervisor financiero global alerta de los riesgos de la IA autónoma en la banca
El Consejo de Estabilidad Financiera presenta doce recomendaciones para impulsar una adopción responsable de Inteligencia Artificial en entidades financieras.
El Consejo de Estabilidad Financiera (FSB), máxima autoridad supervisora del sistema financiero global, reconoce que la inteligencia artificial puede transformar radicalmente los servicios financieros y los modelos de negocio de las instituciones del sector. Sin embargo, advierte de que esta tecnología también puede generar o intensificar riesgos que requieren identificación y gestión rigurosa.
El organismo ha elaborado un informe sobre buenas prácticas para la adopción responsable de la IA, que permanecerá abierto a consulta pública hasta el 22 de julio. En sus páginas, el FSB subraya que la tecnología presenta simultáneamente oportunidades y amenazas, por lo que insta a las entidades financieras a mantenerse informadas sobre su evolución y a diseñar estrategias y medidas de protección adaptadas a unos riesgos que cambian constantemente.
El documento analiza aspectos críticos como el uso inadecuado de la inteligencia artificial, las posibles ciberamenazas derivadas de su implementación, o la vulnerabilidad generada por la dependencia de terceros cuando la cadena de suministro se concentra en pocos proveedores. El informe dedica especial énfasis a la denominada IA agéntica, sistemas capaces de actuar de forma autónoma y que amplían ciertos riesgos para el sector financiero.
Conforme al FSB, estos agentes autónomos pueden ejecutar acciones basadas en objetivos predefinidos e incluso modificar esos objetivos según lo que aprenden al interactuar con su entorno. Esta capacidad podría permitir que "realicen acciones ilegales, poco éticas o no autorizadas sin la aprobación o supervisión humana".
El organismo internacional advierte además de que algunos comportamientos de estos agentes podrían manifestarse únicamente cuando operan en un entorno real. En tales casos, su corrección o mitigación podría resultar complicada o incluso imposible para los humanos, y la vigilancia efectiva podría exigir, en ciertos escenarios, el uso de otro agente de inteligencia artificial.
"La adopción responsable de la IA permite a las instituciones financieras aprovechar las oportunidades y los beneficios, minimizando al mismo tiempo los riesgos asociados", señala el informe, que incluye doce recomendaciones de buenas prácticas destinadas a facilitar una implantación responsable de esta tecnología en el sector.
Entre las propuestas del FSB destaca la necesidad de establecer una gobernanza de la IA que abarque toda la organización. Esta estructura debe permitir determinar si una tecnología debe adoptarse, de qué manera y a qué escala, con participación activa del consejo de administración y la alta dirección para asegurar que el proceso se alinee con el modelo de negocio, la estrategia y el apetito de riesgo de cada entidad.
Las recomendaciones también enfatizan la necesidad de evaluar sistemáticamente los riesgos asociados a cada caso de uso desde las fases iniciales, seleccionar los modelos de IA más adecuados conforme a los objetivos y necesidades operativas y técnicas, y mantener una gobernanza rigurosa de los datos utilizados.
Finalmente, el supervisor subraya la importancia de gestionar los riesgos cibernéticos vinculados a la IA, incorporando escenarios específicos de amenaza, compartiendo información relevante entre actores implicados y utilizando, cuando sea necesario, herramientas basadas en inteligencia artificial para afrontar estos desafíos. Asimismo, recomienda vigilar los riesgos derivados del uso de soluciones desarrolladas por terceros, prestando especial atención al rendimiento, la transparencia, la calidad de los datos, la cadena de suministro, la concentración de proveedores y la continuidad operativa.
