ithome
科技
采集 2026-08-05T04:06:11+00:00
最强多模态内容审核开源 AI 模型:Mistral 推出 Shieldstral,单张 16GB GPU 可运行
来源
ithome
发布时间
2026-08-05T03:58:03
采集批次
2026-08-05-04
字数
657
URL 指纹
6ebe837c54cb0feb
📌 AI 总结(240 字)
法国AI公司Mistral AI于8月4日发布Shieldstral内容审核模型,总参数30亿,采用Apache 2.0许可证开源。该模型支持12种语言,可在16GB单卡GPU上运行,性能媲美210亿参数规模的同类模型。不同于传统防护模型将审核规则固化在权重中,Shieldstral创新性地将审核政策放入输入内容,操作者通过「是或否」问题、评估场景说明和待审内容三个字段驱动模型,模型仅从两个词元输出归一化分数完成二元判断,可覆盖提示词分类、回答审核、拒答检测和毒性检测等任务。
📄 正文(657 字)
IT之家8月5日消息,Mistral AI昨日(8月4日)发布公告,宣布推出Shieldstral内容审核AI模型,总参数量为3B(30亿),采用开放权重,依据Apache 2.0许可证发布。 模型已上线Hugging Face平台,支持12种语言,可在单张16GB GPU上运行。Mistral表示该模型在内容安全方面,性能媲美7倍规模的开放模型,并且在多模态内容审核领域实现SOTA。 IT之家注:SOTA全称为state-of-the-art,是指在特定人工智能任务或基准测试中表现最优秀、水平最先进的模型或算法集合,它会随着技术迭代和新研究的发布而不断变化。 Mistral指出,多数防护模型会把伤害类别体系固化在模型权重中。产品更换使用场景后,开发者通常需要重新训练模型。 Shieldstral则把审核政策放入输入内容:操作者可以写入一个「是或否」问题,再提供评估场景和严格程度说明,模型随后从单个输出词元中生成经过校准的安全分数。 模型把每项审核任务转化为二元问答,输入包含3个带标签字段: Instruct:说明评估场景和严格程度。 Query:提出单个「是或否」问题,例如「这段内容是否宣传身体暴力?」 Document:提供待审核内容,可以是提示词、回答、提示词与回答组合,也可以是附带可选文本的图像。 推理时,模型只读取「是」和「否」两个词元的逻辑值,再通过softmax归一化为连续分数,并以0.5为阈值输出二元判断。该机制可覆盖提示词分类、回答审核、拒答检测和毒性检测。