Meta presenta su estrategia para mitigar los riesgos catastróficos de la IA

Meta ha anunciado un nuevo enfoque para la gestión de riesgos en la Inteligencia Artificial (IA), denominado Frontier AI Framework, con el que busca anticipar y mitigar posibles amenazas catastróficas derivadas del desarrollo y uso de esta tecnología.

La compañía ha reconocido que, aunque no es posible eliminar por completo los riesgos de la IA, su objetivo es asegurar que su desarrollo sea positivo para la sociedad. Para ello, ha establecido un sistema de evaluación de riesgos que diferencia entre IA de alto riesgo y IA de riesgo crítico, siendo estos últimos los sistemas que podrían comprometer la ciberseguridad o facilitar el desarrollo de armas químicas y biológicas de alto impacto.

Meta ha explicado que realiza simulaciones de amenazas para prever cómo distintos actores podrían utilizar la IA de forma indebida, colaborando con expertos externos cuando sea necesario. Además, ha detallado que define umbrales de riesgo y aplica medidas de mitigación para mantenerlos en niveles aceptables.

Si una IA es catalogada como de alto riesgo, Meta limitará su acceso dentro de la empresa hasta que las medidas de mitigación reduzcan el peligro a un nivel moderado. En el caso de que un sistema sea considerado de riesgo crítico y no pueda mitigarse, la compañía detendrá su desarrollo e implementará medidas de protección adicionales, aunque no ha especificado cuáles.

Este anuncio de Meta coincide con la entrada en vigor de las primeras restricciones de la Ley de Inteligencia Artificial de la Unión Europea, la legislación pionera a nivel mundial para regular el uso de la IA y garantizar la seguridad y derechos fundamentales de los ciudadanos europeos.

Esta normativa, que se aplicará por completo en agosto de 2026, clasifica los sistemas de IA en cuatro niveles de riesgo, prohibiendo aquellos considerados de "riesgo inaceptable", como la manipulación subliminal y el uso de IA para la vigilancia masiva.

Meta ha subrayado que su compromiso con el desarrollo responsable de la IA está en línea con estas regulaciones y que su marco de seguridad seguirá evolucionando conforme avance la tecnología y se refuercen las normativas internacionales.