产品亮点
文本与图像多模态有害内容分类
新增两个仅文本的有害类别
支持40种语言，对非英语更准
输出校准的概率分数
你能用它做什么
- 平台内容前置审核与过滤
- AI 产品输出安全扫描
- 多语言社区的风控流程
怎么用
- 1 访问 OpenAI 的 Moderation API 指南页面
- 2 注册并获取 API 密钥
- 3 阅读文档，了解如何提交文本或图像
- 4 按文档编写代码调用 omni-moderation-latest
- 5 发送内容并接收审核结果
- 6 分析返回的类别和概率分数
- 7 根据结果执行相应的内容管理措施
适合谁使用
需要内容审核能力的开发者要控制输出安全的 AI 产品团队运营社区与 UGC 平台的技术人员
优点
- 一次覆盖文本和图像两种输入
- 对非英语和低资源语言更友好
- 对所有开发者免费开放
局限
- 需要 API 密钥和一定编码能力
- 不同使用层级有速率限制
- 机器判定结果仍需人工复核兜底
omni-moderation-latest 是什么
omni-moderation-latest 是基于 GPT-4o 的新一代多模态内容审核模型，可同时处理文本和图像输入，识别仇恨、暴力、自残等有害类别，并新增两个仅文本类别。它支持40种语言，对非英语内容检测更准确，同时输出反映违规可能性的概率分数。官方称该模型对所有开发者免费开放。
你能用它做什么
- 对用户生成内容做文本与图像审核
- 扫描 AI 产品输出，标记违规内容
- 用概率分数做分级处理和人工队列排序
- 覆盖多语言社区的风控场景
适合谁使用
- 需要接入审核能力的开发者
- 要控制模型输出安全的 AI 团队
- 运营社区、评论和媒体平台的技术人员
需要留意什么
该模型通过 API 提供，需要密钥和一定编码能力，不同使用层级有速率限制。机器判定存在误判可能，敏感场景应保留人工复核环节。骨架显示该页面访问返回异常状态，接入前建议先确认当前可用的接口文档与接入方式。
常见问题
这个模型收费吗？
官方介绍称对所有开发者免费开放，不同使用层级有速率限制。
可以审核什么内容？
支持文本和图像输入，覆盖仇恨、暴力、自残等类别，另有两个仅文本类别。
为什么适合多语言场景？
支持40种语言，对高棉语、斯瓦希里语等低资源语言检测性能提升约70%。
为什么说它免费
官网写明的免费方式： 免费
免费额度、试用天数与功能范围由官网决定，随时可能调整，请以官网为准。
产品截图
截图归档自收录页面，仅供预览参考。
