AI 움직이는 이미지는 정지 이미지보다 왜 심사하기 어려울까? GIF 샘플 310개와 재현율 77.66% 분석

작성자 주: OpenAI Images 2.6 안전 시스템 카드를 바탕으로 AI 동영상 이미지 검토에서 시간 차원이 왜 어려운지, 재현율 77.66%가 무엇을 의미하는지, 개발자가 검토 차단에 어떻게 대응할 수 있는지 살펴봐요.

2026년 11월 4일, OpenAI는 Images 2.6과 함께 안전 시스템 카드를 공개하고 동영상 이미지에 특화된 테스트 결과를 발표했어요. 위반 사례로 표시된 GIF 샘플 310개에서 검토 시스템의 재현율은 77.66%였어요. 이 수치는 오해하기 쉬운데요. 실제 서비스의 위반율도, 검토 시스템의 전체 정확도도 아니에요.

위험을 과장하려는 글은 아니에요. 공식 시스템 카드와 API 문서를 바탕으로 공식 사실, 테스트 결과, 저희의 기술 분석을 명확히 구분해 설명해요.

핵심 내용: AI 동영상 이미지 검토가 왜 더 어려운지, 수치를 어떻게 해석해야 하는지, 개발자가 무엇을 조정해야 하는지 3분 안에 알아봐요.

AI 동영상 이미지 검토 핵심 정보 한눈에 보기

AI 동영상이 정적 이미지보다 심사하기 어려운 이유

OpenAI는 시스템 카드 3.2.2절에서 일부 정책 위반 의미는 특정 프레임이 아니라 동작 과정에서 드러난다고 설명해요. 여러 프레임 사이의 관계나 같은 요소의 움직임에 따라 콘텐츠의 의미가 달라질 수 있어요. 따라서 정지 화면을 따로 분석하는 것만으로는 동영상의 위험을 충분히 판단하기 어려울 수 있어요. OpenAI가 제시한 위험 유형 중 하나는 성적 의미를 담은 동작이에요.

이를 설명하기 위해 직접 만든 중립적인 예를 살펴볼게요. 공식 사례는 아니에요. “팔을 든” 이미지 한 장만으로는 정보가 부족해 상대방이 인사하는지 공격을 준비하는지 판단하기 어려워요. 이후 프레임에서 팔을 좌우로 흔드는지, 다른 사람을 향해 빠르게 휘두르는지 봐야 더 신뢰할 만한 판단을 내릴 수 있어요. 단일 프레임은 “화면에 무엇이 있는가”에 답하지만, 연속된 프레임은 “무슨 일이 일어나고 있는가”에도 답해야 해요.

이를 바탕으로 동영상 심사에서 추가로 고려할 판단 기준 세 가지를 정리할 수 있어요. 이 부분은 저희의 기술적 분석이며, OpenAI가 공개한 알고리즘의 세부 사항을 뜻하지는 않아요.

• 시간 순서: 같은 프레임이라도 배열 순서에 따라 전혀 다른 사건으로 보일 수 있어요.
• 동작 관계: 사람이나 물체가 서로 다가가는지, 접촉하는지, 떨어지는지는 여러 프레임을 살펴봐야 명확해지는 경우가 많아요.
• 전체 의미: 각 프레임을 따로 봤을 때 위반이 없더라도, 이어서 재생하면 정책에 위배될 수 있어요.

AI 동영상 심사와 정적 이미지 심사의 차이

API 파라미터를 봐도 이 문제가 얼마나 복잡한지 알 수 있어요. 공식 문서에 따르면 GIF 출력은 2~64프레임을 지원하며 기본값은 9프레임이에요. 각 프레임의 지속 시간은 20~2000밀리초로 설정할 수 있고, 기본값은 200밀리초예요. 저희는 프레임 수가 많을수록 심사할 때 세부 사항과 비용을 더 신중하게 고려해야 하며, 재생 속도도 콘텐츠의 인상에 영향을 줄 수 있다고 봐요. 다만 OpenAI는 모든 화면을 프레임별로 분석하는지, 프레임 지속 시간을 판단에 어떻게 반영하는지는 공개하지 않았어요.

OpenAI는 AI 애니메이션을 어떻게 검토할까: 다층 검사와 프레임 그리드

시스템 카드 3.1절에 따르면, Images 2.6의 정적 이미지 안전 시스템은 세 단계의 검사로 구성돼요. GIF 보호 기능은 여기에 추가된 별도의 메커니즘이에요.

1. 생성 전 요청 검토: 언어 모델 기반 정책 검사로 사용자 요청을 판단해요. 정책에 맞지 않는 요청은 생성 단계에 들어가기 전에 거부될 수 있어요.
2. 입력 검토: 멀티모달 안전 추론 모델로 프롬프트와 입력 이미지를 확인하고, 편집 요청에 정책 위반 의도가 있는지 판단해요.
3. 출력 검토: 생성 결과를 검토해 정책 위반으로 판단된 콘텐츠가 사용자에게 표시되기 전에 차단해요.

GIF의 경우 공식 설명에 따르면, 안전 추론 모델이 전체 애니메이션 프레임을 생성 설명과 함께 살펴보고 시간에 따른 동작 변화까지 고려해 판단해요. 일부 콘텐츠 범주에는 정적 이미지보다 더 넓은 차단 범위를 적용해 추론된 동작 위험도 다뤄요. 검토 대상이 개별 화면을 넘어 애니메이션 전체의 의미로 확장된 셈이에요.

공식적으로 공개되지 않은 내용도 살펴볼 필요가 있어요. 프레임 샘플링 알고리즘, 내부 모델 구조, 애니메이션 검토로 인한 지연 시간, GIF 검토의 별도 과금 방식 등이 여기에 해당해요. 실제 서비스에서 검토와 차단이 어떻게 작동하는지 확인하고 싶다면 APIYI apiyi.com의 통합 인터페이스로 오류 처리 흐름을 먼저 테스트한 뒤, 실제 모델을 사용해 항목별로 검증해 보세요.

AI 움직이는 이미지 심사의 재현율 77.66%는 무엇을 의미할까요?

이 테스트에서는 정책 위반으로 표시된 GIF 310개의 생성 설명과 애니메이션 프레임 그리드를 함께 심사했어요. 재현율은 이미 위반으로 확인된 샘플 중 심사 체계가 감지한 비율을 뜻해요. OpenAI도 동작에 기반한 위반은 여전히 감지하기 어렵고, 현재 조치로 일부 위반 콘텐츠를 놓칠 수 있다고 인정했어요.

따라서 77.66%는 온라인 안전 수준에 대한 종합 평가보다는 ‘검출이 어려운 샘플을 찾아내는 능력’을 가늠하는 참고 수치로 보는 게 적절해요. 공식적으로 논의할 수 있는 테스트 결과가 공개됐다는 점에서 의미가 있지만, 동작 관련 위험이 아직 완전히 해결되지 않았다는 사실도 보여줘요.

3,077건의 적대적 테스트로 살펴본 AI 이미지 심사의 계층 구조

시스템 카드는 특별히 설계된 고난도 요청 3,077건으로 정적 이미지의 안전성도 평가했어요. 이 데이터는 GIF 테스트 결과가 아니지만, ‘모델 자체의 안전성’, ‘심사의 차단 능력’, ‘최종적으로 차단되지 않은 결과’가 서로 다른 세 가지 지표임을 보여줘요.

이 데이터만으로 ‘새 버전이 전반적으로 더 안전하다’거나 ‘새 버전이 더 위험하다’고 단정할 수는 없어요. 공식 설명에 따르면 Sunburst와 Flare 모두 전체 미차단 비율의 변화는 통계적으로 유의하지 않았어요. 다만 Flare의 안전 생성 비율이 78.36%에서 75.04%로 감소한 것은 통계적으로 유의한 변화였어요.

‘이번 심사에서 차단되지 않음’ 역시 오프라인 평가 결과일 뿐, 위반 콘텐츠가 실제로 사용자에게 전달됐다는 뜻은 아니에요. 또한 77.66%는 이 정적 이미지 데이터와 표본과 평가 방식이 다르므로, 직접 비교해 ‘움직이는 이미지가 정적 이미지보다 얼마나 더 나쁜지’를 결론 내리기 어려워요.

AI 움직이는 이미지 심사가 개발자와 콘텐츠 플랫폼에 미치는 영향

API 개발자: 심사 차단을 정상적인 비즈니스 상태로 처리하기

OpenAI 이미지 API의 moderation 파라미터는 auto와 low 두 값을 지원해요. low는 필터링 제한이 상대적으로 적다는 뜻이지, 안전 시스템을 끄는 것은 아니에요. 요청이 차단되면 error.code = "moderation_blocked"가 반환될 수 있어요. 일부 오류에는 심사 단계와 포괄적인 분류도 포함되지만, 이 필드가 매번 반환되는 것은 아니에요.

아래의 간단한 예제는 심사 차단을 처리하는 방법을 보여줘요. 모델 이름을 실제로 사용할 수 있는 모델로 바꿔 주세요.

import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

try:
    result = client.images.generate(model="YOUR_IMAGE_MODEL", prompt="一只挥手的卡通吉祥物")
except openai.APIStatusError as e:
    if e.code == "moderation_blocked":
        print("内容未通过审核，请修改描述后重新提交")
    else:
        raise

import base64
import logging
import openai

client = openai.OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apiyi.com/v1"
)

def generate_gif(prompt: str, model: str = "YOUR_IMAGE_MODEL") -> str | None:
    try:
        result = client.images.generate(
            model=model,
            prompt=prompt,
            extra_body={
                "output_format": "gif",
                "frame_count": 9,
                "frame_duration_ms": 200,
            },
        )
    except openai.APIStatusError as e:
        if e.code != "moderation_blocked":
            raise
        # 상세 필드가 항상 반환되는 것은 아니므로 예외 처리 필요
        body = e.body if isinstance(e.body, dict) else {}
        details = body.get("moderation_details") or {}
        logging.warning(
            "moderation_blocked stage=%s categories=%s",
            details.get("moderation_stage"),
            details.get("categories"),
        )
        # 자동 재시도하지 않고 사용자가 설명을 수정하도록 함
        return None

    with open("output.gif", "wb") as f:
        f.write(base64.b64decode(result.data[0].b64_json))
    return "output.gif"

권장 사항: 먼저 안정적인 error.code를 기준으로 오류 분기를 만들고, 로그와 화면 안내를 추가하세요. APIYI apiyi.com에서 무료 테스트 크레딧을 받아 호출 과정을 검증할 수 있어요. 모델과 GIF 파라미터 지원 여부는 플랫폼의 최신 모델 목록과 문서를 확인하세요.

콘텐츠 플랫폼: 오탐과 미탐 모두에 대응 경로 마련하기

공식적으로 GIF 심사의 오탐률은 아직 공개되지 않았어요. 다만 일부 범주는 차단 범위가 더 넓기 때문에, 플랫폼은 정상적인 창작물도 잘못 차단될 가능성을 고려해 안내와 이의 신청 경로를 마련해야 해요. 또한 공식 자료에서도 심사에서 놓치는 콘텐츠가 있을 수 있다고 인정하므로, 사용자의 GIF 게시와 공유를 허용하는 플랫폼은 상위 단계의 심사만을 유일한 방어선으로 삼아서는 안 돼요.

다음은 공식 요구사항이 아닌 실무 권장사항이에요.

• 게시 전 재검토: 공개적으로 공유되는 콘텐츠에 대해 플랫폼 자체 정책 검사와 사용자 신고 창구를 유지하세요.
• 애니메이션 전체 재검토: 사람이 직접 검토하거나 자동으로 재검토할 때 표지 프레임만 보지 말고 전체 재생 결과를 함께 확인하세요.
• 별도 기록: “요청이 차단된 경우”와 “게시 후 신고된 경우”를 따로 집계하면 문제가 발생한 단계를 파악하기 쉬워요.

출처 식별: 워터마크는 콘텐츠 심사를 대체할 수 없어요

시스템 카드는 C2PA 메타데이터의 지속적인 지원과 Google DeepMind의 SynthID 비가시 워터마크 도입을 포함한 다층 출처 식별 방안을 소개해요. 전자는 주로 출처 정보를 기록하고, 후자는 미디어 콘텐츠에 보이지 않는 신호를 삽입해요. 하지만 내보낸 모든 GIF에 검증 가능한 워터마크가 반드시 포함되는 것은 아니며, 압축이나 트랜스코딩 후에도 워터마크가 남아 있다고 보장할 수는 없어요.

워터마크가 감지되지 않았다고 해서 AI가 생성한 콘텐츠가 아니라고 증명할 수도 없어요. OpenAI 역시 단일하고 완전한 출처 식별 방안은 존재하지 않는다고 인정해요. 출처 표시는 “어디에서 왔을 가능성이 있는가”에 답하고, 심사는 “생성하거나 공유해도 되는가”에 답하므로 두 방식은 서로 보완해야 해요.

AI 움직이는 이미지 검토 FAQ

AI 동영상 심사의 핵심 요점 Key Takeaways

• 핵심 과제: 위반 의미가 동작의 과정이나 프레임 간 관계에 숨어 있을 수 있어요.
• 공식 대응: 다층 심사를 바탕으로 프레임 그리드와 생성 설명을 함께 심사해요.
• 핵심 수치: 77.66%는 위반 GIF 샘플 310개에 대한 재현율이에요.
• 흔한 오해: 이 수치는 실제 서비스의 위반율, 전체 정확도, 정상 콘텐츠 통과율이 아니에요.
• 평가 방법: 모델 자체의 안전성, 심사 단계의 차단, 최종적으로 차단되지 않은 결과를 나눠서 살펴봐야 해요.
• 데이터 공백: GIF 오탐률, 심사 지연 시간, 제3자 재검증에 관한 신뢰할 만한 공개 데이터는 아직 부족해요.
• 실무 적용: error.code로 차단을 처리하고, APIYI apiyi.com을 통해 호출 과정을 검증할 수 있어요.

정리

AI 동영상은 생성에 새로운 차원을 더하는 동시에 콘텐츠 안전성 판단에도 시간이라는 차원을 추가해요. 심사 시스템은 ‘화면에 무엇이 있는지’뿐 아니라 ‘화면들이 이어지면서 무엇을 표현하는지’도 판단해야 해요.

OpenAI의 프레임 그리드 통합 심사와 GIF 샘플 310개를 대상으로 한 테스트 결과는 이런 접근 방식을 보여주는 동시에, 동작과 관련된 위험이 아직 완전히 해결되지 않았다는 점도 드러내요. 오탐률과 제3자 재검증 자료가 없는 만큼, 개발자와 플랫폼은 테스트 범위에 주목하고 차단, 오탐, 미탐 각각에 대한 처리 방안을 마련해야 해요.

이미지 생성 기능을 제품에 도입하고 있다면 APIYI apiyi.com의 무료 크레딧으로 인터페이스 호출과 오류 처리를 먼저 검증해 보세요. 이후 플랫폼 문서에서 사용할 모델과 파라미터의 지원 여부를 확인하면 돼요.

📚 참고 자료

1. OpenAI: ChatGPT Images 2.6 System Card: 다층 심사와 GIF 위험에 관한 주요 출처
2. 링크: deploymentsafety.openai.com/chatgpt-images-2-6

3. 설명: 3.1, 3.2.1, 3.2.2 및 4절을 중점적으로 살펴보세요.

4. OpenAI: System Card PDF: GIF 샘플 310개 테스트 데이터의 출처

5. 링크: deploymentsafety.openai.com/chatgpt-images-2-6/chatgpt-images-2-6.pdf

6. 설명: 본문에서 인용한 평가 수치와 테스트 범위를 확인할 수 있어요.

7. OpenAI API: Image generation 문서: 개발자 인터페이스 안내

8. 링크: developers.openai.com/api/docs/guides/image-generation

9. 설명: GIF 파라미터, moderation 파라미터, 심사 오류 처리 방법을 안내해요.

10. OpenAI: Introducing Images 2.6: 공식 출시 발표

11. 링크: openai.com/index/introducing-images-2-6
12. 설명: GIF 기능의 출시 배경과 제품 범위를 살펴볼 수 있어요.

작성자: APIYI 기술팀
기술 문의: APIYI apiyi.com 웹사이트 홈에서 문의해 주세요. 더 많은 자료는 docs.apiyi.com 문서 센터에서 확인할 수 있어요.

관련 글

• Nano Banana Pro가 보안 정책에 차단됐나요? 4가지 원인 진단과 3단계 해결 가이드: 응답 JSON을 통해 Nano Banana Pro의 입력이 차단됐는지, 출력이 차단됐는지, 이미지 생성 의도가 불분명한지 판단하고, NSFW, 워터마크 제거, 유명 IP, 미성년자 등 4가지 원인을 하나씩 점검해 프롬프트와 참조 이미지 중 무엇을 수정해야 하는지, 재시도하거나 모델을 변경해야 하는지 명확히 설명하세요.
• 미니 프로그램 심사가 공인 초상권 침해 문제로 막혔나요? 공인 인식 API 솔루션 5가지와 4단계 기술 차단 실전 가이드: 위챗 미니 프로그램이 유명 인사 초상권 침해로 기술적 차단 기능을 추가하라는 요구를 받았지만, 위챗 콘텐츠 안전 API는 연예인과 인플루언서를 식별하지 못하고 알리바바 클라우드 API는 기업 인증이 필요합니다. 이 글에서는 유명 인사 식별 API 5종의 이용 조건과 적용 범위를 비교하고, 개인사업자도 도입할 수 있는 4단계 차단 아키텍처와 코드 예제를 소개합니다.
• ChatGPT Images 2.6 출시: GIF와 참조 이미지 지원, 이미지 생성 속도 50% 향상, GPT-Image-2.6 Flare와 Sunburst 사용법: 2026년 11월 4일 출시된 ChatGPT Images 2.6의 GIF, 재사용 가능한 참조 이미지, 마크업 주석 편집과 SVG 내보내기, Flare와 Sunburst의 선택 기준, 1024×1024의 5단계 비용, 공식 자체 보고와 제3자 순위 및 알려지지 않은 정보의 경계를 분석합니다.