Подробное руководство по настройкам безопасности Gemini API: правильное понимание и использование параметра BLOCK_NONE

作者注：深入解析 Gemini API 的 safetySettings 安全设置机制，包括四大危害类别、五级阈值配置、BLOCK_NONE 的实际作用，帮助开发者正确配置图像生成模型的内容过滤

<!-- Google 蓝 -->
<linearGradient id="googleBlue" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#1e40af" />
  <stop offset="100%" stop-color="#3b82f6" />
</linearGradient>

<!-- 安全绿 -->
<linearGradient id="safeGreen" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#059669" />
  <stop offset="100%" stop-color="#10b981" />
</linearGradient>

<!-- 警告橙 -->
<linearGradient id="warnOrange" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#ea580c" />
  <stop offset="100%" stop-color="#fb923c" />
</linearGradient>

<!-- 危险红 -->
<linearGradient id="dangerRed" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#dc2626" />
  <stop offset="100%" stop-color="#f87171" />
</linearGradient>

<!-- 紫色 -->
<linearGradient id="catPurple" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#7c3aed" />
  <stop offset="100%" stop-color="#a855f7" />
</linearGradient>

Gemini API 安全设置详解 safetySettings · 四大类别 · 五级阈值 · BLOCK_NONE

Gemini Safety API

🚫 HARASSMENT 骚扰内容

💢 HATE_SPEECH 仇恨言论

🔞 SEXUALLY_EXPLICIT 色情内容

⚠️ DANGEROUS 危险内容

五级阈值配置

BLOCK_NONE

BLOCK_FEW

BLOCK_SOME

BLOCK_MOST

BLOCK_ALL

最宽松 最严格

推荐 APIYI：稳定可靠的 AI大模型API中转站，价格便宜、免费试用

使用 Gemini 图像生成 API（如 gemini-2.0-flash-exp-image-generation 或 gemini-3-pro-image-preview）时，你可能见过这样的配置代码：

"safetySettings": [
  {"category": "HARM_CATEGORY_HARASSMENT", "threshold": "BLOCK_NONE"},
  {"category": "HARM_CATEGORY_HATE_SPEECH", "threshold": "BLOCK_NONE"},
  {"category": "HARM_CATEGORY_SEXUALLY_EXPLICIT", "threshold": "BLOCK_NONE"},
  {"category": "HARM_CATEGORY_DANGEROUS_CONTENT", "threshold": "BLOCK_NONE"}
]

这段配置究竟是什么意思？BLOCK_NONE 真的能让模型生成任何内容吗？本文将详细解析 Gemini API 安全设置 的工作原理和正确使用方式。

核心价值: 读完本文，你将理解 Gemini 安全设置的四大危害类别、五级阈值配置，以及 BLOCK_NONE 的真实作用和局限性。

Gemini 安全设置核心要点

安全设置的设计理念

Gemini API 的安全设置采用分层防护机制：

1. 可调节层：开发者可以根据应用场景调整四大类别的过滤阈值
2. 不可调节层：针对儿童安全等核心危害，系统始终阻止，无法通过任何设置绕过

这意味着，即使你将所有类别都设置为 BLOCK_NONE，模型仍然会拒绝生成涉及儿童安全等核心违规内容。

Подробный разбор четырёх категорий опасного контента

<!-- 橙色 - 骚扰 -->
<linearGradient id="harassOrange" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#ea580c" />
  <stop offset="100%" stop-color="#fb923c" />
</linearGradient>

<!-- 红色 - 仇恨 -->
<linearGradient id="hateRed" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#dc2626" />
  <stop offset="100%" stop-color="#f87171" />
</linearGradient>

<!-- 紫色 - 色情 -->
<linearGradient id="sexPurple" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#7c3aed" />
  <stop offset="100%" stop-color="#a855f7" />
</linearGradient>

<!-- 深红 - 危险 -->
<linearGradient id="dangerDark" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#991b1b" />
  <stop offset="100%" stop-color="#dc2626" />
</linearGradient>

Подробный разбор четырёх категорий опасного контента Настраиваемые параметры фильтрации контента в Gemini API

🚫 HARM_CATEGORY_HARASSMENT Преследование

Определение: негативные или вредные комментарии, направленные на личность или защищённые признаки

💢 HARM_CATEGORY_HATE_SPEECH Язык вражды

Определение: грубый, неуважительный или богохульный контент

🔞 HARM_CATEGORY_SEXUALLY_EXPLICIT Сексуальный контент

Определение: упоминания сексуальных действий или непристойных материалов

⚠️ HARM_CATEGORY_DANGEROUS Опасный контент

Определение: контент, который продвигает, помогает или поощряет вредное поведение

💡 Пороги фильтрации для этих четырёх категорий настраиваются отдельно, базовая защита (например, детская безопасность) не регулируется

推荐 APIYI:稳定可靠的 AI大模型API中转站,价格便宜、免费试用

Gemini API поддерживает четыре настраиваемые категории опасного контента:

1. HARM_CATEGORY_HARASSMENT (Преследование)

Определение: Негативные или вредные комментарии, направленные на личность или защищённые признаки человека

Что включает:

• Личные оскорбления и унижения
• Дискриминационные высказывания о конкретных группах
• Контент, связанный с кибербуллингом

2. HARM_CATEGORY_HATE_SPEECH (Язык вражды)

Определение: Грубый, неуважительный или богохульный контент

Что включает:

• Расистские высказывания
• Религиозную ненависть
• Дискриминацию по признаку пола или сексуальной ориентации

3. HARM_CATEGORY_SEXUALLY_EXPLICIT (Сексуальный контент)

Определение: Упоминания сексуальных действий или непристойных материалов

Что включает:

• Явные сексуальные описания
• Контент с обнажёнкой
• Эротические намёки

4. HARM_CATEGORY_DANGEROUS_CONTENT (Опасный контент)

Определение: Контент, который продвигает, помогает или поощряет вредное поведение

Что включает:

• Инструкции по созданию оружия
• Руководства по самоповреждению или причинению вреда другим
• Описания незаконной деятельности

Подсказка: При работе с Gemini API через APIYI apiyi.com эти настройки безопасности также применяются и могут быть настроены в зависимости от ваших потребностей.

Подробный разбор пяти уровней порогов фильтрации

<!-- 绿色 - 最宽松 -->
<linearGradient id="levelGreen" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#059669" />
  <stop offset="100%" stop-color="#10b981" />
</linearGradient>

<!-- 青绿 -->
<linearGradient id="levelTeal" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#0d9488" />
  <stop offset="100%" stop-color="#14b8a6" />
</linearGradient>

<!-- 黄色 - 中等 -->
<linearGradient id="levelYellow" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#ca8a04" />
  <stop offset="100%" stop-color="#eab308" />
</linearGradient>

<!-- 橙色 -->
<linearGradient id="levelOrange" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#ea580c" />
  <stop offset="100%" stop-color="#fb923c" />
</linearGradient>

<!-- 红色 - 最严格 -->
<linearGradient id="levelRed" x1="0%" y1="0%" x2="100%" y2="100%">
  <stop offset="0%" stop-color="#dc2626" />
  <stop offset="100%" stop-color="#f87171" />
</linearGradient>

Сравнение пяти уровней порогов фильтрации От самого мягкого до самого строгого уровня фильтрации контента

Вероятность опасного контента: NEGLIGIBLE ← → LOW ← → MEDIUM ← → HIGH

OFF / BLOCK_NONE Весь контент разрешён ✓ Нет фильтрации по вероятности, базовая защита активна

BLOCK_ONLY_HIGH Блокируется только высокая вероятность HIGH заблокирован

BLOCK_MEDIUM_AND_ABOVE MEDIUM + HIGH заблокированы

BLOCK_LOW_AND_ABOVE LOW + MEDIUM + HIGH заблокированы

Разрешено

Заблокировано

💡 Для Gemini 2.5+ значение по умолчанию — OFF, для старых моделей — BLOCK_SOME

推荐 APIYI:稳定可靠的 AI大模型API中转站,价格便宜、免费试用

Gemini API предлагает пять уровней порогов, которые контролируют чувствительность фильтрации контента:

Как работают пороги

Система Gemini проводит оценку вероятности для каждого фрагмента контента, определяя возможность того, что это опасный контент:

• HIGH: высокая вероятность (скорее всего опасный контент)
• MEDIUM: средняя вероятность
• LOW: низкая вероятность
• NEGLIGIBLE: незначительная вероятность

Важный момент: система блокирует на основе вероятности, а не серьёзности. Это означает:

• Контент с высокой вероятностью, но низкой серьёзностью может быть заблокирован
• Контент с низкой вероятностью, но высокой серьёзностью может пройти

Значения по умолчанию

Что на самом деле делает BLOCK_NONE

Что это дает

После установки BLOCK_NONE:

1. Отключает вероятностную фильтрацию: Контент больше не блокируется на основе оценки вероятности в этой категории
2. Разрешает пограничный контент: Легитимный контент, который мог быть ошибочно заблокирован, теперь проходит
3. Расширяет творческие возможности: Меньше ложных срабатываний в художественных, образовательных и новостных сценариях

Чего это НЕ дает

Даже если все категории установлены в BLOCK_NONE:

1. Базовая защита остается: Жестко закодированные механизмы защиты (например, защита детей) нельзя обойти
2. Многоуровневая фильтрация работает: Мониторинг в реальном времени во время генерации и постобработка продолжают функционировать
3. Политика не меняется: Контент, явно нарушающий правила Google, все равно будет отклонен

Особенности генерации изображений

Для моделей генерации изображений (например, gemini-2.0-flash-exp-image-generation) фильтрация безопасности устроена сложнее:

1. Фильтрация промптов: Сначала проверяется входной текстовый запрос
2. Мониторинг процесса генерации: Непрерывный контроль на этапе создания промежуточных результатов
3. Проверка выхода: После завершения генерации еще одна проверка на соответствие правилам

Исследования показывают, что прямые явные запросы обычно блокируются, но техники вроде постепенного усиления в многораундовом диалоге могут обойти часть проверок.

Практические примеры настройки

Конфигурация в Python SDK

import google.generativeai as genai

# Настройка параметров безопасности
safety_settings = [
    {
        "category": "HARM_CATEGORY_HARASSMENT",
        "threshold": "BLOCK_NONE"
    },
    {
        "category": "HARM_CATEGORY_HATE_SPEECH",
        "threshold": "BLOCK_NONE"
    },
    {
        "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
        "threshold": "BLOCK_NONE"
    },
    {
        "category": "HARM_CATEGORY_DANGEROUS_CONTENT",
        "threshold": "BLOCK_NONE"
    }
]

# Создание экземпляра модели
model = genai.GenerativeModel(
    model_name="gemini-2.0-flash-exp",
    safety_settings=safety_settings
)

# Генерация контента
response = model.generate_content("Ваш промпт")

{
  "model": "gemini-2.0-flash-exp-image-generation",
  "contents": [
    {
      "role": "user",
      "parts": [
        {"text": "Сгенерируй изображение в художественном стиле"}
      ]
    }
  ],
  "safetySettings": [
    {
      "category": "HARM_CATEGORY_HARASSMENT",
      "threshold": "BLOCK_NONE"
    },
    {
      "category": "HARM_CATEGORY_HATE_SPEECH",
      "threshold": "BLOCK_NONE"
    },
    {
      "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
      "threshold": "BLOCK_NONE"
    },
    {
      "category": "HARM_CATEGORY_DANGEROUS_CONTENT",
      "threshold": "BLOCK_NONE"
    }
  ],
  "generationConfig": {
    "responseModalities": ["image", "text"]
  }
}

Совет: Через APIYI apiyi.com можно быстро протестировать эффект разных настроек безопасности — платформа поддерживает единый интерфейс для вызова моделей серии Gemini.

Сценарии использования и рекомендации

Когда стоит использовать BLOCK_NONE

Когда НЕ стоит использовать BLOCK_NONE

Лучшие практики

1. Постепенная настройка: Начните с дефолтных параметров и постепенно ослабляйте по мере необходимости
2. Разные настройки для разных категорий: Можно установить разные пороги для каждой категории — не обязательно делать их одинаковыми
3. Мониторинг и логирование: Записывайте заблокированные запросы, анализируйте, нужна ли корректировка
4. Анализ пользовательских сценариев: Выбирайте подходящий уровень фильтрации исходя из вашей целевой аудитории

Частые вопросы

总结

Gemini API 安全设置的核心要点：

1. 四大可调类别: 骚扰、仇恨言论、色情内容、危险内容，开发者可根据需求调整
2. 五级阈值配置: 从 OFF/BLOCK_NONE（最宽松）到 BLOCK_LOW_AND_ABOVE（最严格）
3. BLOCK_NONE 的本质: 关闭概率过滤，但不绕过核心保护和政策红线
4. 分层防护机制: 可调节层 + 不可调节层，确保基本安全底线
5. 图像生成特殊性: 多层过滤（提示词→生成过程→输出审查）更为严格

理解这些设置后，你可以根据应用场景合理配置安全参数，在创作自由和内容安全之间找到平衡。

通过 APIYI apiyi.com 可以快速测试 Gemini 图像生成模型的安全设置效果，平台提供免费额度和多模型统一接口。

参考资料

⚠️ 链接格式说明: 所有外链使用 资料名: domain.com 格式，方便复制但不可点击跳转，避免 SEO 权重流失。

1. Gemini API 安全设置官方文档: Google 官方指南

   • 链接: ai.google.dev/gemini-api/docs/safety-settings
   • 说明: 权威的安全设置配置说明和 API 参考

2. Vertex AI 安全过滤器配置: Google Cloud 文档

   • 链接: cloud.google.com/vertex-ai/generative-ai/docs/multimodal/configure-safety-filters
   • 说明: 企业级 Vertex AI 的安全配置详解

3. Gemini 安全指南: 开发者最佳实践

   • 链接: ai.google.dev/gemini-api/docs/safety-guidance
   • 说明: 安全使用 Gemini API 的官方建议

4. Firebase AI Logic 安全设置: Firebase 集成指南

   • 链接: firebase.google.com/docs/ai-logic/safety-settings
   • 说明: Firebase 环境下的安全设置配置

作者: 技术团队
技术交流: 欢迎在评论区讨论，更多资料可访问 APIYI apiyi.com 技术社区