لماذا يصعب مراجعة الصور المتحركة المولدة بالذكاء الاصطناعي أكثر من الصور الثابتة؟ تحليل 310 عينات GIF ومعدل استرجاع يبلغ 77.66%

ملاحظة الكاتب: استنادًا إلى بطاقة النظام الأمنية لـ OpenAI Images 2.6، نوضح تحديات البُعد الزمني في مراجعة الصور المتحركة، وما تعنيه نسبة الاستدعاء البالغة 77.66%، وكيف يمكن للمطورين التعامل مع حظر المحتوى أثناء المراجعة.

في 4 نوفمبر 2026، أصدرت OpenAI بطاقة النظام الأمنية بالتزامن مع إطلاق Images 2.6، وكشفت عن نتائج اختبارات مخصصة للصور المتحركة: على مجموعة من 310 عينات GIF مصنّفة مسبقًا على أنها مخالفة، بلغت نسبة استدعاء آلية المراجعة 77.66%. يسهل إساءة تفسير هذا الرقم؛ فهو لا يمثل معدل المخالفات في الاستخدام الفعلي، ولا الدقة الإجمالية لنظام المراجعة.

هذا التحليل لا يهدف إلى تهويل المخاطر. يستند المقال إلى بطاقة النظام الرسمية ووثائق API، مع التمييز بوضوح بين الحقائق الرسمية ونتائج الاختبارات وتحليلنا التقني.

ما ستتعلمه: في 3 دقائق، ستعرف لماذا تُعد مراجعة الصور المتحركة بالذكاء الاصطناعي أصعب، وكيف تقرأ هذه الأرقام، وما الذي يحتاج المطورون إلى تعديله.

لمحة سريعة عن مراجعة الصور المتحركة بالذكاء الاصطناعي

لماذا يصعب تدقيق الصور المتحركة بالذكاء الاصطناعي أكثر من الصور الثابتة؟

تشير OpenAI في القسم 3.2.2 من بطاقة النظام إلى أن بعض الدلالات المخالفة تظهر في أثناء الحركة، لا في إطار بعينه. فقد تغيّر العلاقة بين الإطارات المتعددة أو طريقة حركة العنصر نفسه معنى المحتوى. لذلك، قد لا يكفي تحليل صورة ثابتة بمعزل عن غيرها لتقييم مخاطر الصورة المتحركة. ومن فئات المخاطر التي ذكرتها الشركة الأفعال ذات الإيحاءات الجنسية.

لتوضيح ذلك، نقدم مثالًا محايدًا من إعدادنا، وليس مثالًا رسميًا. تحمل صورة «ذراع مرفوعة» معلومات محدودة؛ فمن الصعب معرفة ما إذا كان الشخص يلوّح تحيةً أم يستعد للهجوم بالنظر إلى هذا الإطار وحده. ولا يمكن الوصول إلى حكم أكثر موثوقية إلا بعد مشاهدة الإطارات التالية، لمعرفة ما إذا كانت الذراع تتحرك يمينًا ويسارًا أم تندفع سريعًا نحو شخص آخر. يجيب الإطار الواحد عن سؤال «ماذا يوجد في الصورة؟»، بينما تجيب الإطارات المتتابعة أيضًا عن سؤال «ماذا يحدث؟».

يمكن استخلاص ثلاث نقاط إضافية ينبغي مراعاتها عند تدقيق الصور المتحركة. وهذا تحليلنا التقني، ولا يمثل تفاصيل خوارزمية كشفت عنها OpenAI:

• التسلسل الزمني: قد تعرض الإطارات نفسها حدثًا مختلفًا تمامًا إذا تغير ترتيبها.
• العلاقة بين الحركات: غالبًا ما تتطلب معرفة ما إذا كانت الشخصيات أو الأشياء تقترب من بعضها أو تتلامس أو تتباعد متابعة عدة إطارات.
• المعنى العام: عدم مخالفة كل إطار على حدة لا يعني بالضرورة أن عرضها متتابعة سيكون متوافقًا مع السياسات.

الفرق بين تدقيق الصور المتحركة بالذكاء الاصطناعي وتدقيق الصور الثابتة

توضح معلمات API أيضًا مدى تعقيد المسألة. فوفقًا للوثائق الرسمية، تدعم مخرجات GIF من 2 إلى 64 إطارًا، مع قيمة افتراضية قدرها 9 إطارات؛ ويمكن ضبط مدة كل إطار بين 20 و2000 مللي ثانية، مع قيمة افتراضية قدرها 200 مللي ثانية. ونرى أنه كلما زاد عدد الإطارات، ازدادت الحاجة إلى الموازنة بين التفاصيل والتكلفة عند التدقيق، وقد تؤثر سرعة العرض أيضًا في الانطباع الذي تتركه الصورة. لكن الشركة لم تكشف عمّا إذا كانت تحلل جميع الإطارات واحدًا تلو الآخر، ولم توضح كيف تدخل مدة الإطار في التقييم.

كيف تراجع OpenAI صور GIF المولّدة بالذكاء الاصطناعي: آليات متعددة الطبقات وشبكة إطارات

وفقًا للقسم 3.1 من بطاقة النظام، يتكون نظام أمان الصور الثابتة في Images 2.6 من ثلاث طبقات فحص، وتُضاف إليها آلية لحماية صور GIF.

1. مراجعة الطلب قبل التوليد: تُستخدم عملية تحقق من السياسات قائمة على نموذج لغوي لتقييم طلب المستخدم، وقد تُرفض الطلبات المخالفة قبل وصولها إلى مرحلة التوليد.
2. مراجعة المدخلات: يفحص نموذج استدلال أمني متعدد الوسائط الموجه والصور المدخلة، ويحدد ما إذا كان طلب التعديل ينطوي على نية مخالفة.
3. مراجعة المخرجات: تُراجع النتائج المولّدة، ويُحظر المحتوى الذي يُعدّ مخالفًا قبل عرضه للمستخدم.

أما في صور GIF، فتوضح الشركة أن نموذج الاستدلال الأمني يفحص مجموعة إطارات الرسوم المتحركة كاملةً، مع الاستعانة بتعليمات التوليد ومراعاة تغيّر الحركة بمرور الوقت. وتخضع بعض فئات المحتوى أيضًا لنطاق حظر أوسع من الصور الثابتة، لتغطية المخاطر المستنتجة من الحركة. وهذا يعني أن المراجعة لم تعد تقتصر على صور منفصلة، بل امتدت إلى المعنى العام للرسوم المتحركة.

ومن المهم أيضًا الانتباه إلى ما لم تكشفه الشركة، بما في ذلك خوارزمية أخذ عينات الإطارات، وبنية النموذج الداخلية، والتأخير الذي تضيفه مراجعة الرسوم المتحركة، وطريقة احتساب رسوم مراجعة GIF بشكل منفصل. إذا أردت معرفة كيف يظهر حظر المحتوى في نشاطك، يمكنك أولًا اختبار تدفق معالجة الأخطاء عبر الواجهة الموحدة لدى APIYI على apiyi.com، ثم التحقق من كل جانب باستخدام النموذج الفعلي.

كيف نفهم معدل الاستدعاء البالغ 77.66% في مراجعة صور GIF بالذكاء الاصطناعي؟

شمل هذا الاختبار 310 صور GIF صُنّفت على أنها مخالفة للسياسات، وخضعت فيه أوصاف التوليد وشبكات إطارات الرسوم المتحركة للمراجعة معًا. ويجيب معدل الاستدعاء عن السؤال التالي: ما نسبة العينات المعروفة بمخالفتها التي اكتشفتها آلية المراجعة؟ وقد أقرت OpenAI أيضًا بأن المخالفات القائمة على الحركة لا تزال صعبة الاكتشاف، وأن الإجراءات الحالية قد تفوّت بعض المحتوى المخالف.

لذلك، من الأنسب استخدام نسبة 77.66% مؤشرًا مرجعيًا لقياس «القدرة على اكتشاف العينات الصعبة»، لا تقييمًا شاملًا لمستوى الأمان عبر الإنترنت. وتكمن قيمتها في أن الجهة المطوّرة قدمت نتيجة اختبار قابلة للنقاش، كشفت في الوقت نفسه أن المخاطر المرتبطة بالحركة لم تُحل بالكامل بعد.

ما تكشفه 3,077 حالة اختبار عدائي عن طبقات مراجعة الصور بالذكاء الاصطناعي

استخدمت بطاقة النظام أيضًا 3,077 طلبًا صعبًا صُممت خصيصًا لتقييم سلامة الصور الثابتة. ومن المهم التأكيد أن هذه البيانات ليست نتائج اختبار GIF، لكنها توضح أن «سلامة النموذج نفسه» و«قدرة المراجعة على الحجب» و«النتائج النهائية التي لم تُحجب» ثلاثة مؤشرات مختلفة.

لا تدعم هذه البيانات استنتاجًا مبسطًا بأن «الإصدار الجديد أكثر أمانًا في جميع الجوانب» أو أنه «أكثر خطورة». ووفقًا للتوضيح الرسمي، لم تبلغ التغيرات في النسبة الإجمالية للنتائج غير المحجوبة مستوى الدلالة الإحصائية في كل من Sunburst وFlare. لكن نسبة التوليد الآمن في Flare انخفضت من 78.36% إلى 75.04%، وهو تغير ذو دلالة إحصائية.

كذلك، تشير عبارة «لم تحجبه هذه المراجعة» إلى نتيجة تقييم أُجري خارج بيئة التشغيل فقط، ولا تعني أن المحتوى المخالف وصل فعليًا إلى المستخدم. إضافةً إلى ذلك، تختلف النسبة 77.66% عن بيانات الصور الثابتة هذه من حيث العينة وآلية التقييم، لذا لا يصح إجراء مقارنة مباشرة لاستنتاج مقدار تفوق الصور الثابتة على الصور المتحركة.

تأثير مراجعة صور GIF بالذكاء الاصطناعي على المطورين ومنصات المحتوى

لمطوري API: تعامل مع حظر المراجعة كحالة طبيعية في سير العمل

يدعم معامل moderation في واجهة OpenAI للصور القيمتين auto وlow. وتعني القيمة low قيود تصفية أقل نسبيًا، لكنها لا تعني إيقاف نظام الأمان. عند حظر طلب، قد تُرجع الواجهة error.code = "moderation_blocked". وتتضمن بعض الأخطاء أيضًا مرحلة المراجعة وفئات عامة للمحتوى، لكن ليس مضمونًا إرجاع هذه الحقول في كل مرة.

يوضح المثال المبسط التالي كيفية التقاط حالات الحظر أثناء المراجعة. استبدل اسم النموذج بنموذج متاح لك:

import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

try:
    result = client.images.generate(model="YOUR_IMAGE_MODEL", prompt="一只挥手的卡通吉祥物")
except openai.APIStatusError as e:
    if e.code == "moderation_blocked":
        print("内容未通过审核，请修改描述后重新提交")
    else:
        raise

import base64
import logging
import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

def generate_gif(prompt: str, model: str = "YOUR_IMAGE_MODEL") -> str | None:
    try:
        result = client.images.generate(
            model=model,
            prompt=prompt,
            extra_body={
                "output_format": "gif",
                "frame_count": 9,
                "frame_duration_ms": 200,
            },
        )
    except openai.APIStatusError as e:
        if e.code != "moderation_blocked":
            raise
        # لا يُضمن إرجاع حقول التفاصيل، لذا يجب التعامل مع غيابها
        body = e.body if isinstance(e.body, dict) else {}
        details = body.get("moderation_details") or {}
        logging.warning(
            "moderation_blocked stage=%s categories=%s",
            details.get("moderation_stage"),
            details.get("categories"),
        )
        # لا تُعِد المحاولة تلقائيًا؛ دع المستخدم يعدّل الوصف
        return None

    with open("output.gif", "wb") as f:
        f.write(base64.b64decode(result.data[0].b64_json))
    return "output.gif"

نصيحة: ابدأ بإنشاء مسار لمعالجة الخطأ باستخدام error.code المستقر، ثم أضف السجلات ورسائل الواجهة. يمكنك الحصول على رصيد اختبار مجاني عبر APIYI على apiyi.com للتحقق من سير الاستدعاء؛ راجع أحدث قائمة للنماذج ووثائق المنصة لمعرفة دعم النماذج ومعاملات GIF المحددة.

لمنصات المحتوى: ضعوا آليات للتعامل مع الإنذارات الخاطئة والحالات التي تفلت من الرصد

لم تعلن الجهة المطوّرة بعد عن معدل الإنذارات الخاطئة في مراجعة صور GIF. لكن بعض الفئات تخضع لنطاق حظر أوسع، ما يعني أن على المنصات مراعاة احتمال حظر محتوى إبداعي عادي عن طريق الخطأ، وتوفير إشعارات واضحة وقنوات للاعتراض. وفي الوقت نفسه، تقرّ الجهة المطوّرة بإمكانية إغفال بعض الحالات، لذا لا ينبغي للمنصات التي تسمح للمستخدمين بنشر صور GIF وتداولها أن تعتمد على المراجعة في مراحل الإنتاج السابقة باعتبارها خط الدفاع الوحيد.

فيما يلي توصيات عملية من جانبنا، وليست متطلبات رسمية:

• المراجعة قبل النشر: احتفظوا بآلية خاصة بالمنصة للتحقق من المحتوى المتاح للعامة وفق سياساتها، مع توفير قناة لبلاغات المستخدمين.
• مراجعة الرسوم المتحركة كاملةً: عند المراجعة البشرية أو الآلية، لا تكتفوا بإطار الغلاف، بل راجعوا المحتوى أثناء تشغيله بالكامل.
• تسجيل الحالات بشكل منفصل: سجّلوا حالات «حظر الطلب» و«الإبلاغ بعد النشر» في إحصاءات منفصلة لتسهيل تحديد المرحلة التي حدثت فيها المشكلة.

لتحديد المصدر: العلامة المائية لا تغني عن مراجعة المحتوى

تستعرض بطاقة النظام نهجًا متعدد الطبقات لتحديد المصدر، يشمل استمرار دعم بيانات C2PA الوصفية وإضافة العلامة المائية غير المرئية SynthID من Google DeepMind. تسجّل الأولى معلومات المصدر أساسًا، بينما تدمج الثانية إشارة غير مرئية في محتوى الوسائط. لكن هذا لا يعني أن كل صورة GIF مُصدَّرة تحمل بالضرورة علامة مائية يمكن التحقق منها، ولا يضمن بقاء العلامة بعد الضغط أو تحويل الترميز.

كذلك، لا يثبت عدم اكتشاف علامة مائية أن المحتوى لم يُولَّد بالذكاء الاصطناعي. وتقرّ OpenAI أيضًا بعدم وجود حل واحد وشامل لتحديد المصدر. تجيب علامات المصدر عن سؤال «من أين قد يكون أتى هذا المحتوى؟»، بينما تجيب المراجعة عن سؤال «هل يمكن توليده أو تداوله؟». ومن ثمّ، ينبغي أن يكمل كل منهما الآخر.

الأسئلة الشائعة حول مراجعة الصور المتحركة بالذكاء الاصطناعي

أهم النقاط حول مراجعة الصور المتحركة بالذكاء الاصطناعي

• التحدي الأساسي: قد يكمن المحتوى المخالف في الحركة نفسها والعلاقة بين الإطارات.
• الإجراء الرسمي: إلى جانب طبقات المراجعة المتعددة، تُراجع شبكة الإطارات مع وصف عملية التوليد.
• الرقم الأهم: بلغت نسبة الاسترجاع 77.66% في اختبار شمل 310 عينات GIF مخالفة.
• سوء فهم شائع: لا يمثّل هذا الرقم معدل المخالفات على المنصة أو الدقة الإجمالية أو نسبة قبول المحتوى السليم.
• طريقة التقييم: يجب تقييم سلامة النموذج نفسه، وحالات الحظر أثناء المراجعة، والنتائج النهائية التي لم تُحظر، كلٌّ على حدة.
• الفجوة في البيانات: لا تتوفر حاليًا بيانات عامة موثوقة عن معدل الإنذارات الكاذبة لصور GIF، أو زمن المراجعة، أو الاختبارات المستقلة التي تجريها جهات خارجية.
• خطوة عملية: استخدم error.code للتعامل مع حالات الحظر، ويمكنك التحقق من سير عملية الاستدعاء عبر APIYI على apiyi.com.

الخلاصة

لا تضيف الصور المتحركة المولّدة بالذكاء الاصطناعي بُعدًا جديدًا إلى عملية التوليد فحسب، بل تضيف أيضًا بُعدًا زمنيًا إلى تقييم سلامة المحتوى. فلا يكفي أن ينظر نظام المراجعة إلى «ما يظهر في الصورة»، بل عليه أيضًا أن يحدد «ما تعبّر عنه هذه الصور عند جمعها معًا».

تعكس مراجعة OpenAI المشتركة لشبكة الإطارات ونتائج اختبار 310 عينات GIF هذا التوجّه، لكنها توضح أيضًا أن المخاطر المرتبطة بالحركة لم تُحل بالكامل. وفي ظل غياب بيانات معدل الإنذارات الكاذبة والاختبارات المستقلة، يجدر بالمطورين والمنصات الاهتمام بنطاق الاختبار وتصميم آليات للتعامل مع الحظر والحظر الخاطئ والحالات المخالفة التي تفلت من الكشف.

إذا كنت تعمل على دمج توليد الصور في منتجك، فيمكنك استخدام الرصيد المجاني عبر APIYI على apiyi.com للتحقق أولًا من استدعاء الواجهة ومعالجة الأخطاء، ثم الرجوع إلى وثائق المنصة للتأكد من دعم النماذج والمعلمات المطلوبة.

📚 المراجع

1. OpenAI: بطاقة نظام ChatGPT Images 2.6: المصدر الرئيسي للمعلومات عن المراجعة متعددة الطبقات ومخاطر GIF
2. الرابط: deploymentsafety.openai.com/chatgpt-images-2-6

3. ملاحظة: راجع الأقسام 3.1 و3.2.1 و3.2.2 والقسم 4

4. OpenAI: بطاقة النظام بصيغة PDF: مصدر بيانات اختبار 310 عينات GIF

5. الرابط: deploymentsafety.openai.com/chatgpt-images-2-6/chatgpt-images-2-6.pdf

6. ملاحظة: مفيد للتحقق من أرقام التقييم ونطاق الاختبارات المذكورة في هذا المقال

7. OpenAI API: وثائق توليد الصور: شرح واجهة المطورين

8. الرابط: developers.openai.com/api/docs/guides/image-generation

9. ملاحظة: تتضمن معاملات GIF ومعامل moderation ونصائح للتعامل مع أخطاء المراجعة

10. OpenAI: الإعلان عن Images 2.6: إعلان الإطلاق الرسمي

11. الرابط: openai.com/index/introducing-images-2-6
12. ملاحظة: للاطلاع على خلفية إطلاق ميزة GIF ونطاق المنتج

الكاتب: الفريق التقني في APIYI
للتواصل التقني: يُسعدنا تواصلكم معنا عبر الصفحة الرئيسية لموقع APIYI على apiyi.com، وللمزيد من المعلومات يمكنكم زيارة مركز التوثيق على docs.apiyi.com

مقالات ذات صلة

• هل حظر نظام التحكم بالمخاطر Nano Banana Pro؟ دليل تقصّي 4 فئات من الأسباب وإصلاح المشكلة في 3 خطوات: استنادًا إلى استجابة JSON، حدّد ما إذا حُجبت مدخلات Nano Banana Pro أو مخرجاته أو كانت نية توليد الصور غامضة، وافحص أسباب الحجب الأربعة: محتوى NSFW، وإزالة العلامات المائية، والملكية الفكرية الشهيرة، والقُصّر، ووضّح هل يلزم تعديل الموجه أو الصورة المرجعية، وإعادة المحاولة أو تغيير النموذج.
• هل تعثرت مراجعة التطبيق المصغر بسبب انتهاك حقوق صور الشخصيات العامة؟ 5 حلول لواجهات API للتعرّف على الشخصيات العامة وتطبيق عملي للاعتراض التقني عبر 4 طبقات: طُلب من برنامج WeChat المصغر إضافة حظر تقني بسبب انتهاك حقوق صور الشخصيات العامة، لكن واجهة أمان المحتوى في WeChat لا تتعرف على المشاهير والمؤثرين، كما تتطلب واجهة Alibaba Cloud توثيقًا مؤسسيًا؛ تقارن هذه المقالة شروط استخدام 5 واجهات API للتعرف على الشخصيات العامة ونطاق تغطيتها، وتقدم بنية حظر من 4 طبقات وأمثلة برمجية يمكن حتى لأصحاب الأعمال الفردية تطبيقها.
• إطلاق ChatGPT Images 2.6: دعم GIF والصور المرجعية، وتوليد الصور أسرع بنسبة 50%، وكيفية استخدام GPT-Image-2.6 Flare وSunburst: تحليل ChatGPT Images 2.6 الصادر في 4 نوفمبر 2026: صور GIF، وصور مرجعية قابلة لإعادة الاستخدام، والتحرير بعلامات markup، وتصدير SVG، وقواعد الاختيار بين Flare وSunburst، وفئات التكلفة الخمس لدقة 1024×1024، والحدود بين الإفصاحات الرسمية وتصنيفات الجهات الخارجية والمعلومات المجهولة.