Apple veta las aplicaciones de desnudos con IA

Los desarrolladores tendrán que impedir y suprimir por iniciativa propia las imágenes íntimas no consentidas, incluidas las creadas con IA, so pena de expulsión de la tienda.

Apple ha modificado las Directrices de revisión de aplicaciones de la App Store para vetar de manera más clara las herramientas que crean desnudos no consentidos mediante inteligencia artificial (IA). Con el cambio, los desarrolladores quedan obligados a retirar ese tipo de contenido sin esperar a que se les requiera.

La pornografía ya estaba vetada en la tienda con anterioridad, también en las aplicaciones capaces de producir desnudos o imágenes sexualmente explícitas. La prohibición alcanzaba igualmente a las que fabrican este material a partir de personas reales sin su consentimiento, algo que hoy se hace sobre todo con herramientas basadas en IA.

Pese a ello, la tecnológica ha recibido críticas por mantener disponibles aplicaciones de este tipo. Uno de los casos es el de X y su IA, Grok: la red social se llenó en enero de este año de imágenes sexualizadas, alrededor de tres millones, de las que 23.000 mostraban a niños y cerca de 1,8 millones, a mujeres.

Los usuarios emplearon la IA de Elon Musk para crear desnudos mediante deepfakes sexuales sin consentimiento. Aunque Apple llegó a amenazar a xAI con sacar de la App Store la aplicación de su asistente, esta siguió disponible en todo momento.

Qué cambia en las directrices

Con el objetivo de revertir situaciones así, Apple ha comunicado cambios en sus normas de revisión para "mantener la confianza tanto de usuarios como de desarrolladores". Según ha explicado la compañía en un comunicado, las modificaciones refuerzan y amplían las protecciones ya vigentes en la tienda.

Los requisitos de moderación de contenido recogen ahora de forma expresa las imágenes íntimas no consensuadas, también las elaboradas con herramientas de IA. Así, los desarrolladores tendrán que "prevenir y eliminar" ese material de sus aplicaciones de manera proactiva.

Si no aplican estas medidas de seguridad o no subsanan las infracciones después de ser notificados, incurrirán en una vulneración del Código de Conducta para Desarrolladores y podrán quedar fuera de la App Store.

Las pautas subrayan además la prohibición de las aplicaciones que ocultan su verdadero funcionamiento durante la revisión, es decir, las que incorporan o modifican funciones tras recibir el visto bueno. Por tanto, también se vetarán las que, una vez aprobadas, añadan la posibilidad de generar desnudos.

Por último, las normas actualizadas precisan que toda aplicación que permita "la trata de personas o la explotación de menores" será retirada de la App Store y seguirá bloqueada también para la distribución alternativa.

"Nos comprometemos a impedir que los usuarios malintencionados accedan a la App Store, y contamos con procesos establecidos para revisar y sancionar las aplicaciones que infringen nuestras directrices", ha afirmado Apple.

La empresa ha indicado también que el pasado año impidió que más de 150.000 aplicaciones con fallos de seguridad alcanzaran a sus usuarios y dio de baja más de 193.000 cuentas de desarrollador implicadas en fraudes y abusos similares.