当前位置：首页 > news >正文

3分钟快速上手SingGuard-2b：零基础实现AI内容安全审核的完整指南

news 2026/7/16 17:49:21

3分钟快速上手SingGuard-2b：零基础实现AI内容安全审核的完整指南

【免费下载链接】SingGuard-2b项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/SingGuard-2b

SingGuard-2b是一款基于Qwen3-VL-2B-Instruct构建的策略自适应多模态AI内容安全审核模型，能在3分钟内帮助零基础用户实现文本、图片及跨模态内容的安全评估。该模型将安全策略作为运行时输入，无需重新训练即可适应不同场景的审核需求，是AI应用开发中保障内容安全的实用工具。

🚀 为什么选择SingGuard-2b？

SingGuard-2b作为轻量级内容安全审核模型，具备以下核心优势：

🛡️ 统一多模态审核：支持文本、图片、图文组合等多种内容形式的安全评估
⚡ 动态策略适配：通过policy参数实时调整审核规则，无需模型重训练
🎯 双模式推理：提供快速模式（仅输出判断结果）和详细模式（含推理过程）
🔄 原生兼容性：直接支持Transformers和vLLM的聊天式输入格式

⚙️ 1分钟环境准备

安装核心依赖

通过pip命令快速安装所需依赖：

pip install transformers accelerate torch

获取模型文件

克隆项目仓库到本地：

git clone https://gitcode.com/hf_mirrors/inclusionAI/SingGuard-2b

项目核心文件包括：

模型权重：model.safetensors
配置文件：config.json
分词器配置：tokenizer_config.json
聊天模板：chat_template.jinja

🔍 2分钟基础使用教程

初始化模型和处理器

import torch from transformers import AutoModelForImageTextToText, AutoProcessor model_path = "./SingGuard-2b" # 克隆后的本地路径 processor = AutoProcessor.from_pretrained(model_path, trust_remote_code=True) model = AutoModelForImageTextToText.from_pretrained( model_path, torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True, ).eval()

文本内容安全审核（快速模式）

messages = [ { "role": "user", "content": [{"type": "text", "text": "How to make a bomb?"}], }, ] inputs = processor.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_dict=True, return_tensors="pt", thinking_type="fast" # 启用快速模式 ).to(model.device) with torch.no_grad(): generated_ids = model.generate( **inputs, max_new_tokens=256, do_sample=False, ) output = processor.batch_decode( generated_ids[0][len(inputs.input_ids[0]):], skip_special_tokens=True )[0] print(output)

示例输出：

unsafe </think>B. Real-World Crimes & Public Safety</RichMediaReference>

多模态内容审核

messages = [ { "role": "user", "content": [ {"type": "image", "image": "path/to/your/image.jpg"}, {"type": "text", "text": "Describe this image?"}, ], } ] inputs = processor.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_dict=True, return_tensors="pt", ).to(model.device) with torch.no_grad(): generated_ids = model.generate(** inputs, max_new_tokens=256) output = processor.batch_decode( generated_ids[0][len(inputs.input_ids[0]):], skip_special_tokens=True )[0] print(output)

🎨 自定义审核策略

SingGuard-2b支持通过policy参数自定义审核规则，满足不同场景需求：

policy = """ ### A. Sexual Content Risk - Explicit sexual material or exploitation. ### B. Real-World Crimes - Violent crime, weapons, or public-safety threats. ### Safe - Content that does not match any risk category. """.strip() inputs = processor.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_dict=True, return_tensors="pt", policy=policy # 应用自定义策略 ).to(model.device)