Note de l’auteur : à partir de la carte du système de sécurité d’OpenAI Images 2.6, nous examinons les difficultés liées à la dimension temporelle dans la modération des images animées par l’IA, la signification d’un rappel de 77,66 % et la façon dont les développeurs peuvent gérer les blocages de modération.
Le 4 novembre 2026, OpenAI a publié une carte du système de sécurité en même temps qu’Images 2.6, avec les résultats d’un test consacré aux images animées : sur 310 GIF étiquetés comme non conformes, le mécanisme de modération a atteint un rappel de 77,66 %. Ce chiffre peut facilement être mal interprété : il ne représente ni le taux de violations en production, ni la précision globale du système de modération.
Cette analyse ne cherche pas à dramatiser les risques. Elle s’appuie sur la carte officielle du système et la documentation de l’API, en distinguant clairement les faits officiels, les résultats des tests et notre analyse technique.
L’essentiel : en 3 minutes, découvrez pourquoi la modération des images animées par l’IA est plus difficile, comment interpréter ces chiffres et ce que les développeurs doivent adapter.
Modération des images animées par IA : l’essentiel
| Élément | Informations publiées officiellement | Points à garder en tête |
|---|---|---|
| Date de publication | Le 4 novembre 2026, avec Images 2.6 | Informations à jour au 5 novembre 2026 |
| Nouveau risque | Certains contenus interdits ne se révèlent qu’à travers la succession des mouvements et les relations entre les images | La fiche système traite ce risque séparément de l’évaluation des images statiques |
| Nouvelle protection | Modération conjointe d’une grille d’images de l’animation (frame grid) et de sa description de génération (generation caption) | L’algorithme et la méthode d’échantillonnage des images n’ont pas été dévoilés |
| Test sur les GIF | 310 GIF contenant des infractions, avec un taux de rappel de 77,66 % | Échantillon ciblé, non représentatif des contenus des utilisateurs ordinaires |
| Test sur les images statiques | 3 077 requêtes adversariales | Évaluation hors ligne, dont le protocole diffère de celui du test sur les GIF |
Pourquoi les animations générées par l’IA sont plus difficiles à modérer que les images statiques
Dans la section 3.2.2 de sa fiche système, OpenAI indique que certains contenus contraires aux règles ne prennent leur sens qu’à travers un mouvement, et non dans une image isolée. Les relations entre les images successives et la façon dont un même élément se déplace peuvent changer le sens du contenu. Analyser une image fixe séparément ne suffit donc pas toujours à évaluer le risque d’une animation. Parmi les catégories de risque citées par OpenAI figurent les mouvements à connotation sexuelle.
Prenons un exemple neutre que nous avons imaginé : ce n’est pas un cas cité par OpenAI. Une image montrant une personne qui lève le bras donne peu d’informations. Sur cette seule image, difficile de savoir si elle salue quelqu’un ou s’apprête à l’attaquer. Ce n’est qu’en regardant les images suivantes — le bras qui se balance de gauche à droite ou qui se dirige rapidement vers une autre personne — qu’on peut se faire une idée plus fiable. Une image isolée répond à la question « Que voit-on ? » ; une séquence d’images doit aussi répondre à « Que se passe-t-il ? ».
On peut en déduire trois points supplémentaires à prendre en compte pour la modération des animations. Il s’agit de notre analyse technique, et non de détails sur l’algorithme divulgués par OpenAI :
- L’ordre chronologique : les mêmes images, disposées dans un ordre différent, peuvent raconter des événements complètement différents.
- Les interactions en mouvement : pour voir si des personnes ou des objets se rapprochent, entrent en contact ou s’éloignent, il faut souvent examiner plusieurs images.
- Le sens global : ce n’est pas parce que chaque image respecte les règles prise séparément que leur lecture en séquence les respecte aussi.
Différences entre la modération des animations générées par l’IA et celle des images statiques
| Critère | Modération des images statiques | Modération des animations générées par l’IA |
|---|---|---|
| Élément évalué | Contenu visuel d’une seule image | Ensemble des images et leur sens global |
| Informations clés | Objets, scène, texte, etc. | Également les mouvements, l’ordre et les relations entre les images |
| Nouvelle mesure officielle | Maintien des contrôles de sécurité à plusieurs niveaux | Examen conjoint d’une grille d’images et de la description de génération |
| Stratégie de blocage | Évaluation selon les règles existantes | Blocage plus large pour certaines catégories |
| Données publiques manquantes | Évaluation de 3 077 requêtes adversariales disponible | Absence de données sur le taux de faux positifs, la latence et les tests de reproduction par des tiers |
Les paramètres de l’API illustrent aussi la complexité du problème. Selon la documentation officielle, la sortie GIF prend en charge de 2 à 64 images, avec 9 images par défaut. La durée de chaque image peut être réglée de 20 à 2000 millisecondes, avec une valeur par défaut de 200 millisecondes. À notre avis, plus le nombre d’images augmente, plus la modération doit trouver un équilibre entre niveau de détail et coût. Le rythme de lecture peut également influencer la perception du contenu. OpenAI n’a toutefois pas précisé si toutes les images sont analysées une par une, ni comment leur durée intervient dans l’évaluation.
Comment OpenAI modère les GIF générés par IA : plusieurs niveaux de contrôle et une grille d’images
Selon la section 3.1 de la fiche système, le dispositif de sécurité des images statiques d’Images 2.6 repose sur trois niveaux de contrôle. La protection des GIF ajoute un mécanisme supplémentaire.
- Contrôle de la requête avant la génération : un système de vérification des règles, fondé sur un modèle de langage, examine la requête de l’utilisateur. Les requêtes non conformes peuvent être refusées avant même la génération.
- Contrôle des entrées : un modèle de raisonnement multimodal dédié à la sécurité examine l’invite et les images fournies, puis détermine si la demande de modification vise à enfreindre les règles.
- Contrôle des sorties : les résultats générés sont examinés afin de bloquer les contenus jugés non conformes avant leur présentation à l’utilisateur.
Pour les GIF, OpenAI précise que le modèle de raisonnement dédié à la sécurité examine l’ensemble des images de l’animation, en tenant compte des instructions de génération et des changements de mouvement au fil du temps. Pour certaines catégories de contenu, le blocage couvre aussi un périmètre plus large que pour les images statiques, afin de prendre en compte les risques liés aux mouvements déduits. La modération ne porte donc plus seulement sur des images isolées, mais aussi sur le sens global de l’animation.
Les éléments qu’OpenAI n’a pas rendus publics méritent aussi l’attention : l’algorithme d’échantillonnage des images, l’architecture interne du modèle, la latence introduite par la modération des animations et les modalités de facturation propres à la modération des GIF. Si vous souhaitez comprendre comment les blocages se manifestent dans votre activité, vous pouvez d’abord tester votre gestion des erreurs via l’interface unifiée d’APIYI apiyi.com, puis vérifier chaque point avec les modèles que vous utilisez.
Comment interpréter le taux de rappel de 77,66 % pour la modération des GIF par l’IA
Ce test porte sur 310 GIF signalés comme contraires aux règles. La modération a examiné à la fois les instructions de génération et une grille d’images extraites de l’animation. Le taux de rappel répond à une question : quelle proportion de ces contenus déjà identifiés comme non conformes a été détectée par le mécanisme de modération ? OpenAI reconnaît aussi que les infractions liées au mouvement restent difficiles à détecter et que les mesures actuelles peuvent en laisser passer certaines.
| Ce que signifie ce chiffre | Verdict | Pourquoi |
|---|---|---|
| La proportion de contenus non conformes connus qui ont été détectés | ✅ C’est correct | C’est précisément ce que mesure le taux de rappel dans ce test |
| La précision globale du système de modération | ❌ C’est incorrect | Le test ne porte que sur des contenus non conformes |
| Le taux d’acceptation des contenus conformes | ❌ C’est incorrect | L’échantillon ne contient pas de contenus conformes permettant de calculer cet indicateur |
| 22,34 % est la probabilité de rencontrer un GIF non conforme en ligne | ❌ C’est incorrect | Les contenus ont été sélectionnés à dessein et ne représentent pas leur répartition réelle |
| Ce chiffre renseigne sur les faux positifs | ❌ C’est incorrect | Le test ne fournit ni taux de faux positifs ni mesure complète de la précision |
Les 77,66 % sont donc surtout un repère pour évaluer la capacité du système à détecter des contenus difficiles, et non une évaluation globale du niveau de sécurité en ligne. Ce résultat a le mérite de fournir une base officielle de discussion, tout en montrant que les risques liés au mouvement ne sont pas encore complètement résolus.
Ce que révèlent 3 077 tests adversariaux sur les différents niveaux de modération des images par l’IA
La fiche système évalue aussi la sécurité des images statiques à l’aide de 3 077 requêtes difficiles conçues spécialement pour le test. Ces données ne concernent pas les GIF, mais elles montrent clairement que la « sécurité intrinsèque du modèle », la « capacité de blocage de la modération » et les « résultats finalement non bloqués » sont trois indicateurs distincts.
| Modèle (évaluation des images statiques) | Génération sûre | Génération non conforme et bloquée | Génération non conforme non bloquée par cette évaluation |
|---|---|---|---|
| GPT-Image-2.5 Sunburst | 76.15% | 21.94% | 1.92% |
| GPT-Image-2.6 Sunburst | 75.50% | 22.78% | 1.72% |
| GPT-Image-2.5 Flare | 78.36% | 20.15% | 1.49% |
| GPT-Image-2.6 Flare | 75.04% | 22.81% | 2.14% |
Ces chiffres ne permettent pas de conclure simplement que « la nouvelle version est globalement plus sûre » ou qu’elle est « plus dangereuse ». Selon les explications officielles, les variations du taux global de contenus non bloqués ne sont statistiquement significatives ni pour Sunburst ni pour Flare. En revanche, la baisse du taux de génération sûre de Flare, passé de 78.36% à 75.04%, est statistiquement significative.
La mention « non bloquée par cette évaluation » correspond uniquement à un résultat obtenu hors ligne : elle ne signifie pas qu’un contenu non conforme a réellement été transmis à l’utilisateur. De plus, le chiffre de 77.66% repose sur un échantillon et un mécanisme différents de ceux de cette évaluation des images statiques. Il serait donc inapproprié de les comparer directement pour conclure que les images animées sont moins sûres que les images statiques dans une proportion donnée.
L’impact de la modération des animations IA sur les développeurs et les plateformes de contenu
Pour les développeurs API : considérer les blocages de modération comme un état normal
Le paramètre moderation de l’API d’images d’OpenAI accepte deux valeurs : auto et low. La valeur low applique un filtrage moins restrictif, mais ne désactive pas le système de sécurité. Lorsqu’une requête est bloquée, elle peut renvoyer error.code = "moderation_blocked". Certaines erreurs précisent aussi l’étape de modération et une catégorie générale, mais ces champs ne sont pas toujours présents.
| Champ ou action | Indication officielle | Conseil de mise en œuvre |
|---|---|---|
error.code |
Peut valoir moderation_blocked |
L’utiliser comme principal critère pour traiter l’erreur |
moderation_stage |
Peut valoir input, output ou unknown |
L’inscrire dans les journaux pour le support et le diagnostic |
categories |
Catégories générales comme sexual ou violence |
Tenir compte de leur présence sans les considérer comme obligatoires |
| Message à l’utilisateur | Clair, sans trop dévoiler les règles internes | Inviter l’utilisateur à modifier sa description |
| Stratégie de nouvelle tentative | Ne pas réessayer automatiquement si l’utilisateur doit corriger sa saisie | Laisser l’utilisateur modifier sa description avant de la soumettre à nouveau |
Cet exemple minimal montre comment intercepter un blocage de modération. Remplacez le nom du modèle par celui d’un modèle auquel vous avez accès :
import openai
client = openai.OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.apiyi.com/v1"
)
try:
result = client.images.generate(model="YOUR_IMAGE_MODEL", prompt="一只挥手的卡通吉祥物")
except openai.APIStatusError as e:
if e.code == "moderation_blocked":
print("内容未通过审核，请修改描述后重新提交")
else:
raise
Voir l’exemple complet de génération de GIF et de journalisation de la modération
import base64
import logging
import openai
client = openai.OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.apiyi.com/v1"
)
def generate_gif(prompt: str, model: str = "YOUR_IMAGE_MODEL") -> str | None:
try:
result = client.images.generate(
model=model,
prompt=prompt,
extra_body={
"output_format": "gif",
"frame_count": 9,
"frame_duration_ms": 200,
},
)
except openai.APIStatusError as e:
if e.code != "moderation_blocked":
raise
# Les champs de détail ne sont pas toujours renvoyés : prévoyez leur absence
body = e.body if isinstance(e.body, dict) else {}
details = body.get("moderation_details") or {}
logging.warning(
"moderation_blocked stage=%s categories=%s",
details.get("moderation_stage"),
details.get("categories"),
)
# Ne pas réessayer automatiquement : laisser l’utilisateur modifier sa description
return None
with open("output.gif", "wb") as f:
f.write(base64.b64decode(result.data[0].b64_json))
return "output.gif"
Les paramètres GIF ci-dessus proviennent de la documentation officielle d’OpenAI. La sortie GIF officielle relève de la fonctionnalité `images/generations` ; l’interface `images/edits` ne permet pas de produire directement un GIF.
Conseil : commencez par traiter les erreurs à partir du champ stable
error.code, puis ajoutez des journaux et des messages dans l’interface. Vous pouvez obtenir un crédit de test gratuit sur APIYI apiyi.com pour vérifier le processus d’invocation du modèle. Pour savoir quels modèles et paramètres GIF sont pris en charge, consultez la liste des modèles et la documentation les plus récentes de la plateforme.
Pour les plateformes de contenu : prévoir des recours pour les faux positifs comme pour les faux négatifs
Le taux de faux positifs de la modération des GIF n’a pas encore été publié officiellement. Certaines catégories font toutefois l’objet d’un filtrage plus large. Les plateformes devraient donc envisager que des créations légitimes soient bloquées par erreur, et prévoir des messages explicatifs ainsi qu’une procédure de contestation. OpenAI reconnaît aussi que certains contenus peuvent passer entre les mailles du filet : les plateformes qui autorisent la publication et le partage de GIF ne devraient donc pas faire de la modération en amont leur seule ligne de défense.
Voici nos recommandations pratiques, qui ne constituent pas des exigences officielles :
- Vérification avant publication : conservez vos propres contrôles de conformité aux règles de la plateforme et un moyen pour les utilisateurs de signaler les contenus publics.
- Vérification de l’animation complète : lors d’un contrôle humain ou automatisé, ne vous limitez pas à l’image de couverture ; examinez le rendu de l’animation entière.
- Suivi séparé : comptabilisez séparément les « requêtes bloquées » et les « signalements après publication » pour mieux repérer l’étape où se situe le problème.
Pour l’identification de la provenance : le filigrane ne remplace pas la modération
La fiche système présente une approche d’identification de la provenance à plusieurs niveaux : elle maintient notamment la prise en charge des métadonnées C2PA et introduit le filigrane invisible SynthID de Google DeepMind. Les premières enregistrent principalement des informations sur la provenance, tandis que le second intègre un signal invisible dans le contenu multimédia. Cela ne signifie pas pour autant que chaque GIF exporté possède un filigrane vérifiable, ni que celui-ci résistera à la compression ou au transcodage.
L’absence de filigrane détecté ne prouve pas non plus qu’un contenu n’a pas été généré par une IA. OpenAI reconnaît qu’il n’existe pas de solution unique et exhaustive pour identifier la provenance. Le marquage de provenance répond à la question « D’où ce contenu pourrait-il venir ? », tandis que la modération répond à « Peut-il être généré ou diffusé ? ». Les deux approches doivent se compléter.
FAQ sur la modération des GIF animés par IA
Q1 : Le taux de 77,66 % signifie-t-il que 22,34 % des GIF non conformes ont été envoyés aux utilisateurs ?
Non. Le taux de 77,66 % correspond au rappel mesuré sur 310 GIF étiquetés comme non conformes. Ces exemples ont été sélectionnés de manière ciblée : ils ne reflètent ni la distribution des contenus en production, ni la probabilité réelle qu’un contenu non conforme soit transmis à un utilisateur.
Q2 : Peut-on modérer les GIF animés par IA en examinant chaque image avec un classificateur d’images statiques ?
L’examen image par image permet de repérer certaines infractions visibles sur une seule image, mais il détecte difficilement celles dont le sens n’apparaît que dans une séquence de mouvements. Modérer un GIF ne consiste donc pas simplement à soumettre chaque image séparément à un classificateur statique. OpenAI combine une grille d’images et une description générée pour les examiner ensemble, mais n’a pas rendu public l’algorithme précis.
Q3 : Existe-t-il des données issues de tests indépendants sur la modération des GIF ?
Au 5 novembre 2026, les sources dont nous disposons ne font état d’aucun test indépendant fiable et public réalisé par un tiers. Il manque aussi des données publiques sur les performances selon la durée de l’animation, le taux de faux positifs, la latence réelle et les taux de détection détaillés par type de mouvement non conforme.
Q4 : Régler moderation sur low permet-il de désactiver la modération des GIF par IA ?
Non. `low` est simplement un mode de filtrage relativement moins restrictif : il ne désactive pas le système de sécurité et ne permet pas de contourner la politique de contenu. En production, il est conseillé de commencer avec le réglage par défaut `auto`, puis d’évaluer si un ajustement est nécessaire selon votre cas d’usage.
Q5 : Que faire après avoir reçu moderation_blocked ?
Il est conseillé d’arrêter les nouvelles tentatives automatiques, d’indiquer clairement à l’utilisateur ce qu’il peut modifier et de consigner dans les journaux les informations disponibles sur l’étape et la catégorie de modération. Pour tester rapidement cette gestion des erreurs, vous pouvez vous inscrire sur APIYI apiyi.com et obtenir un crédit de test, puis exécuter l’exemple de cet article après avoir remplacé le nom du modèle par celui d’un modèle actuellement disponible sur la plateforme.
Q6 : Comment comparer les différences de modération entre plusieurs modèles d’image ?
Préparez un ensemble d’invites de test conformes à la politique, proches de votre cas d’usage et aux limites clairement définies. Pour chaque modèle, consignez les résultats générés, les blocages et les champs d’erreur. L’interface unifiée d’APIYI apiyi.com permet de réduire les modifications de code lors d’un changement de modèle, mais les résultats ne s’appliquent qu’à vos exemples : ils ne doivent pas servir à tirer des conclusions générales sur la sécurité d’un modèle.
Points clés de la modération des GIF générés par IA
- Difficulté principale : le caractère répréhensible peut apparaître dans le déroulement d’une action ou dans la relation entre les images.
- Mesure officielle : en complément d’une modération à plusieurs niveaux, examiner conjointement la grille d’images et la description de génération.
- Chiffre clé : 77.66% est le taux de rappel obtenu sur 310 GIF enfreignant les règles.
- Erreur courante : ce chiffre n’est ni le taux de contenu répréhensible en production, ni la précision globale, ni le taux d’acceptation du contenu conforme.
- Méthode d’évaluation : il faut distinguer la sécurité intrinsèque du modèle, les blocages par la modération et les contenus finalement non bloqués.
- Données manquantes : il n’existe pas, à ce jour, de données publiques fiables sur le taux de faux positifs pour les GIF, la latence de modération ou les tests indépendants.
- Mise en pratique : utilisez
error.codepour gérer les blocages et vérifiez le processus d’appel via APIYI apiyi.com.
Conclusion
Les GIF générés par IA ajoutent non seulement une dimension à la génération, mais aussi une dimension temporelle à l’évaluation de la sécurité des contenus. Le système de modération ne peut pas se limiter à examiner « ce que contient chaque image » : il doit aussi déterminer « ce que ces images expriment une fois réunies ».
La modération conjointe de grilles d’images par OpenAI et les résultats du test sur 310 GIF illustrent cette approche, tout en montrant que les risques liés aux actions ne sont pas encore entièrement résolus. En l’absence de données sur les faux positifs et de tests indépendants, les développeurs et les plateformes ont tout intérêt à examiner la portée des tests et à prévoir des procédures pour les blocages, les faux positifs et les contenus non détectés.
Si vous intégrez la génération d’images à un produit, vous pouvez d’abord utiliser le quota gratuit d’APIYI apiyi.com pour vérifier les appels à l’API et la gestion des erreurs, puis consulter la documentation de la plateforme pour confirmer la prise en charge des modèles et des paramètres.
📚 Références
- OpenAI : ChatGPT Images 2.6 System Card : source principale sur la modération à plusieurs niveaux et les risques liés aux GIF
- Lien :
deploymentsafety.openai.com/chatgpt-images-2-6 -
À consulter : les sections 3.1, 3.2.1, 3.2.2 et 4
-
OpenAI : System Card PDF : source des données de test sur 310 échantillons de GIF
- Lien :
deploymentsafety.openai.com/chatgpt-images-2-6/chatgpt-images-2-6.pdf -
À consulter pour vérifier les chiffres d’évaluation et le périmètre des tests cités dans cet article
-
OpenAI API : documentation Image generation : présentation de l’interface destinée aux développeurs
- Lien :
developers.openai.com/api/docs/guides/image-generation -
Contient les paramètres GIF et
moderation, ainsi que des conseils pour gérer les erreurs de modération -
OpenAI : Introducing Images 2.6 : annonce officielle du lancement
- Lien :
openai.com/index/introducing-images-2-6 - À consulter pour comprendre le contexte de lancement de la fonctionnalité GIF et le périmètre du produit
Auteur : équipe technique APIYI
Échanges techniques : contactez-nous depuis la page d’accueil du site APIYI apiyi.com. Pour plus de ressources, consultez le centre de documentation docs.apiyi.com.
