最强多模态内容审核AI模型:Mistral推出Shieldstral

发布时间:2026-08-05 13:44

  模型已上线 Hugging Face 平台,支持 12 种语言,可在单张 16GB GPU 上运行。Mistral 表示该模型在内容安全方面,性能媲美 7 倍规模的开放模型,

  注:SOTA 全称为 state-of-the-art,是指在特定人工智能任务或基准测试中表现最优秀、水平最先进的模型或算法集合,它会随着技术迭代和新研究的发布而不断变化。

  Mistral 指出,多数防护模型会把伤害类别体系固化在模型权重中。产品更换使用场景后,开发者通常需要重新训练模型。

  Shieldstral 则把审核政策放入输入内容:操

  推理时,模型只读取“是”和“否”两个词元的逻辑值,再通过 softmax 归一化为连续分数,并以 0.5 为阈值输出二元判断。该机制可覆盖提示词分类、回答审核、拒答检测和毒性检测。

  特别

  河南发布带薪休假新政:领导干部要带头休假,推动全员应休尽休、休满休足;鼓励3-7天弹性长假,构建“周五半天+周末+年假”短途度假模式

  嫣然天使基金工作人员称已收到“地铁吐血女孩”捐赠的99999元善款;李亚鹏深受感动,派同事赴重庆探望,胡心瑶回应:不见不散

  韩杰案后,儿科3个医生要走2个!近期多家医院关闭、合并儿科,工作量大、收入低,更没有人愿意干了,院长:要从顶层设计上进行系统性干预

排行

精选