Apple endurece las reglas de su tienda para frenar las imágenes íntimas falsas creadas con IA

Apple actualizó las reglas de su tienda de aplicaciones para reforzar las medidas contra las herramientas de inteligencia artificial (IA) que generan imágenes íntimas de personas sin su consentimiento.

El cambio, anunciado el viernes 16 de octubre, establece de manera explícita que los desarrolladores deben prevenir y eliminar este tipo de contenido. Si no implementan medidas de protección adecuadas o no corrigen las infracciones después de recibir una notificación, sus aplicaciones pueden ser retiradas de la App Store.

La decisión se produce después de meses de cuestionamientos por la circulación de imágenes sexuales falsas creadas mediante IA, entre ellas contenidos generados con Grok, el chatbot de la empresa xAI integrado en la plataforma X.

Qué cambia en las reglas de la App Store

Una de las modificaciones afecta a la sección 1.2 de las pautas de revisión de aplicaciones, dedicada a la moderación de contenido generado por usuarios.

Apple incorporó referencias explícitas a las imágenes íntimas no consentidas, incluidas las producidas con herramientas de inteligencia artificial, y al acoso anónimo. La compañía exige que las aplicaciones que alojan contenido de usuarios cuenten con mecanismos para filtrar material perjudicial, recibir denuncias y bloquear cuentas abusivas.

La actualización también establece que los desarrolladores que no adopten las medidas necesarias o no solucionen las infracciones notificadas pueden incumplir el Código de Conducta para Desarrolladores y quedar expuestos a sanciones.

El objetivo es impedir que las aplicaciones se utilicen para crear o distribuir imágenes sexuales falsas de personas reales sin su autorización.

Apple también apunta contra las aplicaciones que ocultan funciones

Otra modificación incorpora la sección 2.5.19, que aclara las restricciones sobre las aplicaciones que presentan una función durante la revisión y luego incorporan características diferentes una vez aprobadas.

Esta práctica, conocida como bait-and-switch —una estrategia de engaño mediante la presentación de una función distinta de la que finalmente se ofrece—, puede utilizarse para ocultar herramientas que permiten generar imágenes íntimas falsas.

Con la nueva redacción, Apple deja en claro que las aplicaciones que recurran a este mecanismo pueden ser eliminadas de la tienda y sus desarrolladores podrían perder el acceso al programa de desarrolladores de la compañía.

Además, las normas establecen expresamente que las aplicaciones que faciliten la trata de personas o la explotación infantil serán retiradas de la App Store y bloqueadas de los canales de distribución alternativa contemplados por Apple.

La polémica por Grok y las imágenes falsas

La decisión se conoce después de una serie de controversias vinculadas con el uso de Grok para generar imágenes sexualizadas de mujeres sin su consentimiento, incluidos casos que involucraron a menores.

La situación provocó cuestionamientos hacia las plataformas tecnológicas y sus mecanismos de control. Durante 2026, Apple recibió presiones de legisladores y organizaciones que reclamaron medidas más estrictas contra las aplicaciones capaces de producir este tipo de imágenes.

En julio, el fiscal de la ciudad estadounidense de San Francisco, David Chiu, impulsó medidas para que Apple retirara aplicaciones que permitían generar imágenes sexuales no consentidas. La compañía afirmó que había cumplido con la solicitud de retirar las aplicaciones señaladas.

Las investigaciones sobre este mercado también pusieron el foco en la disponibilidad de herramientas de intercambio de rostros y generación de desnudos en las principales tiendas digitales, así como en la facilidad con la que podían utilizarse para producir contenido perjudicial.

Qué consecuencias pueden tener las nuevas medidas

Las modificaciones refuerzan las obligaciones de quienes desarrollan y distribuyen aplicaciones a través de Apple. Ya no se trata únicamente de responder cuando aparece una denuncia: las reglas exigen prevenir de manera proactiva la publicación de imágenes íntimas no consentidas.

Las aplicaciones que no cumplan con estos requisitos pueden ser retiradas de la tienda. También se refuerzan las restricciones contra quienes oculten funciones durante el proceso de revisión para incorporarlas posteriormente.

La actualización no implica una prohibición general de todas las herramientas de edición de imágenes con inteligencia artificial. El foco está puesto en el contenido sexual no consentido, las funciones perjudiciales ocultas y las aplicaciones que facilitan la explotación de personas.

Con estas modificaciones, Apple busca precisar cómo se aplican sus reglas frente a los nuevos riesgos asociados con la generación de imágenes mediante inteligencia artificial.

Lectura rápida

¿Qué cambió Apple en la App Store?

Actualizó las reglas para exigir que las aplicaciones prevengan y eliminen imágenes íntimas no consentidas, incluidas las generadas con inteligencia artificial.

¿Qué ocurre si una aplicación incumple las normas?

Puede ser retirada de la App Store si no cuenta con protecciones adecuadas o no corrige las infracciones notificadas.

¿Qué significa bait-and-switch?

Es una práctica en la que una aplicación oculta sus verdaderas funciones durante la revisión y las incorpora después de ser aprobada.

¿Qué relación tiene Grok con la decisión?

La controversia por las imágenes sexualizadas falsas generadas con Grok contribuyó a aumentar la presión sobre las plataformas tecnológicas para reforzar sus controles.

¿Apple prohibió todas las aplicaciones de IA para editar imágenes?

No. Las modificaciones se centran en las imágenes íntimas no consentidas, las funciones perjudiciales ocultas y las aplicaciones que facilitan la explotación de personas.

LEER: Indios se une a Juliana Gattas en “Haré lo que me Pidas”, su nuevo lanzamiento