Apple amenazó con expulsar a Grok de la App Store

Apple llegó a amenazar a xAI con retirar Grok de la App Store después de que la aplicación generara cerca de tres millones de imágenes sexualizadas en apenas once días a comienzos de 2026. Según una carta que la compañía de Cupertino remitió a senadores estadounidenses y que NBC News ha difundido, la tecnológica actuó tras recibir quejas sobre los graves fallos de moderación del asistente de inteligencia artificial.

El problema estalló en enero. En ese período, Grok inundó X con imágenes sexualizadas: alrededor de 23.000 representaciones de menores y 1,8 millones de mujeres, según datos del Centro para la Lucha contra el Odio Digital. La raíz del problema fue una función integrada en X que permitía editar imágenes publicadas con un solo clic mediante Grok. Usuarios pidieron al chatbot desnudar o sexualizar fotografías de mujeres y niños, alterando las imágenes originales para mostrar bikinis, ropa más reveladora o escenas de carácter sexual.

Muchas de esas creaciones se difundían como respuesta directa a las publicaciones iniciales, amplificando su alcance dentro de la plataforma. Organizaciones de derechos digitales, protección infantil y defensa de las mujeres, junto con instituciones públicas, reclamaron a Apple y Google que actuaran contra la aplicación. La presión fue en aumento conforme se conocía la magnitud del problema.

Apple contactó de forma privada con los equipos responsables de X y Grok para exigirles un plan concreto de mejora de la moderación. Consideraba que el asistente incumplía sus normas al no frenar adecuadamente la creación y propagación de contenido sexualizado. La primera actualización que xAI envió para revisión no convenció a la compañía estadounidense: los cambios le parecieron insuficientes.

Posteriormente, la empresa de Elon Musk remitió una nueva versión de Grok junto con una actualización revisada de X. Apple consideró entonces que la red social había corregido de forma sustancial sus incumplimientos. Sin embargo, entendió que la aplicación del asistente seguía vulnerando las directrices de la tienda.

Solo después de nuevas correcciones, Apple decidió mantener Grok en la App Store. El episodio refleja la tensión creciente entre las grandes plataformas tecnológicas sobre cómo moderar el contenido generado por inteligencia artificial y la responsabilidad de cada actor en la cadena de distribución de aplicaciones.