¿Por qué es más difícil moderar imágenes animadas generadas por IA que imágenes estáticas? Análisis de 310 muestras GIF y una tasa de recuperación del 77,66 %

Nota del autor: a partir de la tarjeta del sistema de seguridad de OpenAI Images 2.6, analizamos el reto de moderar imágenes animadas a lo largo del tiempo, qué significa una tasa de recuperación del 77.66% y cómo pueden gestionar los desarrolladores los bloqueos de moderación.

El 4 de noviembre de 2026, OpenAI publicó la tarjeta del sistema de seguridad junto con Images 2.6 y reveló los resultados de una prueba específica para imágenes animadas: en una muestra de 310 GIF etiquetados como infractores, el mecanismo de moderación obtuvo una tasa de recuperación del 77.66%. Es fácil interpretar mal esta cifra: no es la tasa de infracciones en producción ni la precisión general del sistema de moderación.

Este análisis no busca exagerar los riesgos. El artículo se basa en la tarjeta oficial del sistema y en la documentación de la API, y distingue claramente entre los hechos oficiales, los resultados de las pruebas y nuestro análisis técnico.

En resumen: en 3 minutos entenderás por qué es más difícil moderar imágenes animadas con IA, cómo interpretar estas cifras y qué deben ajustar los desarrolladores.

Moderación de imágenes animadas con IA: información clave

Por qué es más difícil moderar imágenes animadas con IA que imágenes estáticas

OpenAI señala en la sección 3.2.2 de su tarjeta del sistema que ciertos significados que infringen las políticas aparecen durante una acción y no en un fotograma concreto. La relación entre varios fotogramas y la forma en que se mueve un mismo elemento pueden cambiar el significado del contenido. Por eso, analizar una imagen estática de forma aislada puede no ser suficiente para evaluar los riesgos de una animación. Una de las categorías de riesgo que menciona OpenAI es la de los movimientos de carácter sexual.

Veamos un ejemplo neutral que hemos creado para ilustrarlo; no es un caso oficial. Una imagen de «un brazo levantado» ofrece información limitada: al ver solo ese fotograma, es difícil saber si la persona está saludando o preparándose para atacar. Solo al ver si en los fotogramas siguientes el brazo se mueve de lado a lado o se dirige rápidamente hacia otra persona podemos llegar a una conclusión más fiable. Un solo fotograma responde a «qué hay en la imagen»; una secuencia también debe responder a «qué está pasando».

De ahí podemos extraer tres aspectos adicionales que hay que valorar al moderar imágenes animadas. Este es nuestro análisis técnico y no representa detalles del algoritmo revelados por OpenAI:

• Orden temporal: los mismos fotogramas, colocados en otro orden, pueden mostrar un acontecimiento completamente diferente.
• Relación entre movimientos: para ver con claridad si las personas o los objetos se acercan, entran en contacto o se separan, a menudo hay que analizar varios fotogramas.
• Significado global: que cada fotograma, visto por separado, no infrinja las políticas no significa que la secuencia completa siga cumpliéndolas al reproducirse.

Diferencias entre la moderación de imágenes animadas con IA y la de imágenes estáticas

Los parámetros de la API también muestran la complejidad del problema. Según la documentación oficial, la salida GIF admite de 2 a 64 fotogramas, con 9 por defecto; la duración de cada fotograma puede configurarse entre 20 y 2000 milisegundos, con 200 milisegundos por defecto. En nuestra opinión, cuantos más fotogramas haya, más importante será equilibrar el nivel de detalle y el costo de la moderación. Además, el ritmo de reproducción también puede afectar a cómo se percibe el contenido. Sin embargo, OpenAI no ha revelado si analiza todos los fotogramas individualmente ni ha explicado cómo influye su duración en la evaluación.

Cómo modera OpenAI los GIF generados con IA: varias capas y una cuadrícula de fotogramas

Según la sección 3.1 de la tarjeta del sistema, el sistema de seguridad de Images 2.6 para imágenes estáticas consta de tres capas de revisión. La protección para GIF añade un mecanismo adicional sobre esa base.

1. Revisión de la solicitud antes de la generación: una comprobación de políticas basada en un modelo de lenguaje evalúa la solicitud del usuario. Las solicitudes que incumplen las políticas pueden rechazarse antes de llegar a la fase de generación.
2. Revisión de la entrada: un modelo multimodal de razonamiento de seguridad examina la indicación y las imágenes de entrada, y determina si la solicitud de edición tiene una intención contraria a las políticas.
3. Revisión de la salida: se examina el resultado generado y se bloquea el contenido considerado infractor antes de mostrárselo al usuario.

En el caso de los GIF, OpenAI explica que el modelo de razonamiento de seguridad examina el conjunto completo de fotogramas de la animación, consulta las instrucciones de generación y tiene en cuenta cómo cambia el movimiento con el tiempo. Para ciertas categorías de contenido, también aplica un alcance de bloqueo más amplio que para las imágenes estáticas, con el fin de cubrir los riesgos asociados a los movimientos inferidos. Esto significa que la revisión ya no se limita a imágenes aisladas, sino que abarca el significado de la animación en su conjunto.

También conviene prestar atención a lo que OpenAI no ha publicado: el algoritmo de muestreo de fotogramas, la arquitectura interna del modelo, la latencia que introduce la revisión de animaciones y la facturación específica de la revisión de GIF. Si quieres entender cómo funcionan los bloqueos de moderación en tu caso de uso, puedes probar primero el flujo de gestión de errores a través de la interfaz unificada de APIYI apiyi.com y, después, verificar cada aspecto con los modelos que uses.

Cómo interpretar el 77.66% de recall en la moderación de GIF con IA

La prueba analizó 310 GIF etiquetados como infracciones de las políticas, revisando conjuntamente las descripciones generadas y las cuadrículas de fotogramas animados. El recall responde a esta pregunta: ¿qué proporción de estos ejemplos que ya se sabe que infringen las políticas detectó el sistema de moderación? OpenAI también reconoce que las infracciones basadas en movimiento siguen siendo difíciles de detectar y que las medidas actuales pueden pasar por alto parte de ese contenido.

Por eso, el 77.66% sirve más como referencia de la «capacidad para detectar casos difíciles» que como una evaluación general de la seguridad en línea. Su valor está en que OpenAI ha publicado resultados concretos que permiten debatir el tema, aunque también muestran que los riesgos relacionados con el movimiento aún no están completamente resueltos.

La lógica por capas de la moderación de imágenes con IA, a la luz de 3,077 pruebas adversariales

La ficha del sistema también evaluó la seguridad de las imágenes estáticas con 3,077 solicitudes difíciles diseñadas específicamente para la prueba. Es importante aclarar que estos datos no corresponden a pruebas de GIF, pero muestran claramente que la «seguridad del propio modelo», la «capacidad de bloqueo de la moderación» y el «resultado final no bloqueado» son tres indicadores distintos.

Estos datos no respaldan conclusiones simplistas como «la nueva versión es más segura en todos los aspectos» o «la nueva versión es más peligrosa». Según la explicación oficial, los cambios en la proporción total de contenido no bloqueado no alcanzaron significación estadística ni en Sunburst ni en Flare. Sin embargo, la proporción de generación segura de Flare bajó del 78.36% al 75.04%, un cambio que sí fue estadísticamente significativo.

«No bloqueado en esta evaluación» también es solo un resultado de una evaluación fuera de línea: no significa que el contenido infractor haya llegado realmente al usuario. Además, el 77.66% procede de una muestra y un mecanismo distintos de los de este conjunto de datos sobre imágenes estáticas, por lo que no conviene compararlos directamente para concluir «cuánto peor es la imagen animada que la imagen estática».

Cómo afecta la moderación de imágenes animadas con IA a los desarrolladores y las plataformas de contenido

Para desarrolladores de API: trata los bloqueos de moderación como un estado normal del servicio

El parámetro moderation de la API de imágenes de OpenAI admite dos valores: auto y low. El valor low aplica menos restricciones de filtrado, pero no desactiva el sistema de seguridad. Cuando se bloquea una solicitud, puede devolverse error.code = "moderation_blocked". Algunos errores también incluyen la etapa de moderación y categorías generales, aunque estos campos no siempre se devuelven.

El siguiente ejemplo muestra cómo capturar un bloqueo de moderación. Sustituye el nombre del modelo por uno que tengas disponible:

import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

try:
    result = client.images.generate(model="YOUR_IMAGE_MODEL", prompt="一只挥手的卡通吉祥物")
except openai.APIStatusError as e:
    if e.code == "moderation_blocked":
        print("内容未通过审核，请修改描述后重新提交")
    else:
        raise

import base64
import logging
import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

def generate_gif(prompt: str, model: str = "YOUR_IMAGE_MODEL") -> str | None:
    try:
        result = client.images.generate(
            model=model,
            prompt=prompt,
            extra_body={
                "output_format": "gif",
                "frame_count": 9,
                "frame_duration_ms": 200,
            },
        )
    except openai.APIStatusError as e:
        if e.code != "moderation_blocked":
            raise
        # Los campos de detalle no siempre se devuelven, por lo que hay que contemplar su ausencia
        body = e.body if isinstance(e.body, dict) else {}
        details = body.get("moderation_details") or {}
        logging.warning(
            "moderation_blocked stage=%s categories=%s",
            details.get("moderation_stage"),
            details.get("categories"),
        )
        # No reintentar automáticamente; dejar que el usuario modifique la descripción
        return None

    with open("output.gif", "wb") as f:
        f.write(base64.b64decode(result.data[0].b64_json))
    return "output.gif"

Recomendación: usa primero el campo estable error.code para gestionar los errores y después añade registros y mensajes en la interfaz. Puedes obtener crédito gratuito de prueba en APIYI apiyi.com para verificar el flujo de invocación; consulta la lista de modelos y la documentación más recientes de la plataforma para confirmar qué modelos y parámetros de GIF son compatibles.

Para las plataformas de contenido: prever cómo gestionar falsos positivos y falsos negativos

OpenAI aún no ha publicado la tasa de falsos positivos en la moderación de GIF. Sin embargo, algunas categorías aplican criterios de bloqueo más amplios, por lo que las plataformas deberían contemplar que se bloqueen por error creaciones legítimas y ofrecer avisos y canales de apelación. OpenAI también reconoce que algunos contenidos pueden pasar desapercibidos. Por eso, las plataformas que permiten publicar y compartir GIF no deberían depender únicamente de la moderación previa como línea de defensa.

Estas son nuestras recomendaciones prácticas, no requisitos oficiales:

• Revisión antes de publicar: mantén las comprobaciones de políticas propias de la plataforma y un canal de denuncias para el contenido que se difunde públicamente.
• Revisión de la animación completa: ya sea manual o automática, no te limites al fotograma de portada; ten en cuenta el resultado de la reproducción completa.
• Registro por separado: contabiliza por separado las «solicitudes bloqueadas» y el «contenido denunciado después de publicarse» para identificar en qué etapa surge el problema.

Para identificar el origen: las marcas de agua no sustituyen la moderación de contenido

La tarjeta del sistema presenta un enfoque de identificación de origen con varias capas, que incluye el soporte continuo para metadatos C2PA y la incorporación de la marca de agua invisible SynthID de Google DeepMind. Los primeros registran principalmente información sobre el origen; la segunda inserta señales invisibles en el contenido multimedia. Pero esto no significa que todos los GIF exportados lleven necesariamente una marca de agua verificable, ni garantiza que esta sobreviva a la compresión o la transcodificación.

Que no se detecte una marca de agua tampoco demuestra que el contenido no haya sido generado por IA. OpenAI también reconoce que no existe una solución única y completa para identificar el origen. Las marcas de procedencia responden a «¿de dónde podría venir?», mientras que la moderación responde a «¿puede generarse o difundirse?». Ambas deben complementarse.

Preguntas frecuentes sobre la moderación de GIF con IA

Puntos clave sobre la moderación de GIF generados con IA

• Dificultad principal: el contenido infractor puede estar en el desarrollo de una acción o en la relación entre fotogramas.
• Medidas oficiales: además de aplicar varias capas de moderación, se revisan conjuntamente la cuadrícula de fotogramas y las instrucciones de generación.
• Dato clave: el 77,66 % es la tasa de detección en una muestra de 310 GIF infractores.
• Error frecuente: esa cifra no representa la tasa de infracciones en producción, la precisión global ni la tasa de aprobación de contenido permitido.
• Método de evaluación: hay que distinguir entre la seguridad del propio modelo, los bloqueos de moderación y los resultados finales que no se bloquearon.
• Datos pendientes: por ahora faltan datos públicos fiables sobre la tasa de falsos positivos en GIF, la latencia de moderación y las pruebas independientes de terceros.
• Aplicación práctica: usa error.code para gestionar los bloqueos. Puedes verificar el flujo de invocación a través de APIYI apiyi.com.

Resumen

Los GIF generados con IA no solo amplían las posibilidades de creación: también añaden una dimensión temporal a la evaluación de la seguridad del contenido. Un sistema de moderación no puede limitarse a analizar «qué aparece en la imagen»; también debe determinar «qué expresan esas imágenes en conjunto».

La revisión conjunta de cuadrículas de fotogramas de OpenAI y los resultados de sus pruebas con 310 GIF reflejan este enfoque, pero también muestran que los riesgos asociados al movimiento aún no se han resuelto por completo. Ante la falta de datos sobre falsos positivos y de pruebas independientes, los desarrolladores y las plataformas deberían prestar especial atención al alcance de las pruebas y preparar respuestas para los bloqueos, los bloqueos erróneos y los casos no detectados.

Si estás integrando la generación de imágenes en un producto, puedes usar primero el crédito gratuito de APIYI apiyi.com para verificar las llamadas a la API y la gestión de errores. Después, consulta la documentación de la plataforma para confirmar qué modelos y parámetros son compatibles.

📚 Referencias

1. OpenAI: ChatGPT Images 2.6 System Card: fuente principal sobre la moderación por capas y los riesgos de los GIF
2. Enlace: deploymentsafety.openai.com/chatgpt-images-2-6

3. Nota: consulta especialmente las secciones 3.1, 3.2.1, 3.2.2 y 4

4. OpenAI: System Card PDF: fuente de los datos de prueba de 310 muestras de GIF

5. Enlace: deploymentsafety.openai.com/chatgpt-images-2-6/chatgpt-images-2-6.pdf

6. Nota: útil para comprobar las cifras de evaluación y el alcance de las pruebas citados en este artículo

7. OpenAI API: documentación de generación de imágenes: guía de la interfaz para desarrolladores

8. Enlace: developers.openai.com/api/docs/guides/image-generation

9. Nota: incluye los parámetros para GIF, el parámetro moderation y recomendaciones para gestionar errores de moderación

10. OpenAI: Introducing Images 2.6: anuncio oficial de lanzamiento

11. Enlace: openai.com/index/introducing-images-2-6
12. Nota: útil para conocer el contexto del lanzamiento de la función GIF y el alcance del producto

Autor: equipo técnico de APIYI
Contacto técnico: puedes contactarnos desde la página principal de APIYI, apiyi.com. Para consultar más recursos, visita el centro de documentación en docs.apiyi.com

Artículos relacionados

• ¿Nano Banana Pro bloqueado por el control de riesgos? 4 tipos de causas y guía para solucionarlo en 3 pasos: Según el JSON de respuesta, determina si Nano Banana Pro bloqueó la entrada o la salida, o si la intención de generar una imagen es ambigua; revisa las causas: NSFW, eliminación de marcas de agua, propiedad intelectual conocida y menores, e indica si cambiar la indicación o la imagen de referencia, reintentar o cambiar de modelo.
• ¿La revisión de tu miniprogram está bloqueada por una infracción de derechos de imagen de figuras públicas? 5 soluciones de API para reconocer figuras públicas y una estrategia práctica de bloqueo técnico en 4 capas: Un miniprograma de WeChat debe añadir filtros técnicos tras recibir una reclamación por uso no autorizado del retrato de una figura pública, pero la API de seguridad de contenidos de WeChat no reconoce a celebridades ni influencers, y la de Alibaba Cloud exige verificación empresarial; este artículo compara los requisitos y la cobertura de cinco API de reconocimiento de figuras públicas y presenta una arquitectura de filtrado de cuatro capas, con ejemplos de código, que también pueden implementar los negocios individuales.
• Lanzamiento de ChatGPT Images 2.6: GIF e imágenes de referencia, generación de imágenes un 50 % más rápida y cómo usar GPT-Image-2.6 Flare y Sunburst: Análisis de ChatGPT Images 2.6, lanzado el 4 de noviembre de 2026: GIF, imágenes de referencia reutilizables, edición con anotaciones markup y exportación SVG; criterios para elegir Flare o Sunburst, cinco niveles de coste a 1024×1024 y límites entre datos oficiales, rankings externos e información desconocida.