Matemáticos españoles alertan sobre la opacidad de la IA

La institución reconoce el logro de OpenAI pero expresa inquietud sobre transparencia, metodología y riesgos para la formación científica.

La Real Sociedad Matemática Española (RSME) ha expresado "preocupación urgente" ante la "falta de transparencia" del modelo de inteligencia artificial que OpenAI empleó para resolver el problema Navier-Stokes, "al tratarse de una herramienta interna y no accesible de manera pública".

En una declaración oficial, la institución reconoce que la propuesta de solución presentada recientemente por OpenAI "constituye un hito de indudable relevancia para la comunidad matemática internacional", y que pone de manifiesto un nuevo modelo de investigación basado en la colaboración directa entre humanos y sistemas de inteligencia artificial.

Con todo, la RSME advierte de que este avance "no surge en el vacío", sino que "se apoya en una larga trayectoria de trabajo colectivo desarrollada durante décadas por matemáticos de todo el mundo". La organización destaca las aportaciones previas de Diego Córdoba, Luis Martínez-Zoroa y Fan Zheng, así como los avances recientes de Levent Alpöge y Tristan Buckmaster.

La RSME considera "indispensable" reflexionar sobre las implicaciones profundas de este nuevo paradigma. A su juicio, la investigación matemática "va mucho más allá de la mera resolución de problemas o de la producción masiva de respuestas o enunciados cuya verdad debe ser verificada".

"Históricamente, nuestra disciplina ha construido un cuerpo abstracto de métodos e ideas cuya finalidad última es la comprensión conceptual. Los grandes problemas abiertos han funcionado siempre como faros orientadores; su resolución no solo aporta una respuesta, sino que pone en marcha un proceso humano y colectivo de debates y discusiones que termina validando ese conocimiento", explica la organización en su comunicado.

La institución considera "esencial" distinguir entre obtener una respuesta correcta y construir una demostración matemática "rigurosa, comprensible y verificable" por la comunidad científica. Sostiene que cualquier afirmación sobre la resolución de un problema abierto "no puede descansar únicamente en la confianza depositada en un sistema de inteligencia artificial, por avanzado que sea".

Para la RSME, "la validación independiente, la identificación de las ideas esenciales y la posibilidad de explicar y reproducir los pasos de una demostración constituyen requisitos irrenunciables del conocimiento matemático". Añade que "la inteligencia artificial puede contribuir de manera extraordinaria a estos procesos, pero no debe sustituirlos".

La RSME alerta de que existe "un riesgo real" de que el afán de las empresas tecnológicas por utilizar las matemáticas como un simple banco de pruebas "desvirtúe el sentido esencial de la investigación". La organización señala una "seria desalineación" entre los fines comerciales de los desarrolladores de IA y las metas propias de la investigación matemática.