审核场景汇总结果说明
1. 简介
若客户只关心应用下审核场景的最终 通过/拒绝 情况,可以对应用汇总结果进行解析。
应用汇总结果返回的 suggestion
& riskType
字段,是基于该应用(SID
)下关联的各审核场景识别任务(taskId
)
结果,根据标签正负面情况、标签优先级、分数阈值等规则汇总得出,表示整体的处理建议与风险类型。
审核场景:即具备审核业务属性的识别任务,主要包括以下几个方面:
- 任务结果标签有明显的正负面倾向(例如色情识别,“色情” 标签在公众认知下是明确的负面表述);
- 任务名称明确表明正负面倾向(例如违禁台标检测,任务名称中的 “违禁” 即表明其负面倾向);
- 客户对任务结果的处理方式能够体现正负面倾向(例如图片质量识别,客户对 “正常” 标签之外的结果持负面看法;二维码识别及搜索,客户对 “不在库” 标签的结果持负面看法)。
某些识别任务没有明显或潜在的正负面倾向,则认为不属于审核场景(如年龄识别及人物类别识别)。
正面标签:对该分类下的标签持正面看法,可以对外展示或传播对应的内容等。
负面标签:审核场景下,对该分类下的标签持负面看法,倾向于屏蔽或禁止对应的内容,以避免其产生不良影响。在处理任务结果时,该分类下的标签需要优先关注和处理。
注意
目前支持下述常用审核场景识别任务(taskId
)进行关联汇总,若需关联其他任务请联系图普工作人员进行确认。
2. 汇总结果值
2.1 Suggestion(处理建议)
值 | 描述 |
---|---|
0 | 通过 |
1 | 拒绝 |
2 | 复审 |
2.2 RiskType(风险类型)
值 | 风险类型 | 关联的 taskId (默认规则) |
---|---|---|
0 | 正常 | 无 |
1 | 涉政 | 5b7be1f59b0c77a8c2afb351 (政治人物搜索)5e1d634d2809c24f6d909bd3 (OCR 文本审核)5fbb2378e5db582f1464c417 (地图识别) 标签 0: 中国地图 |
2 | 色情 | 54bcfc6c329af61034f7c2fc (色情识别)5e1d634d2809c24f6d909bd3 (OCR 文本审核) |
3 | 暴恐 | 5e1d70adeec2874f7318dc52 (暴恐细分)5e1d634d2809c24f6d909bd3 (OCR 文本审核) |
4 | 违法违禁 | 5eddb86afaf52c4ca704ea41 (违法违禁)5ad37309616505867eeac264 (低俗)5e1d634d2809c24f6d909bd3 (OCR 文本审核) |
5 | 广告 | 56a8645b0c800bff40990cf1 (广告 2.0)5e1d634d2809c24f6d909bd3 (OCR 文本审核)603f0250412c974c621d5c88 (二维码识别及搜索) |
6 | 敏感 | 5e1d634d2809c24f6d909bd3 (OCR 文本审核) |
7 | 谩骂 | 5e1d634d2809c24f6d909bd3 (OCR 文本审核) |
8 | 黑名单 | 5c8f44ca25ade48455a63bad (自定义图库) |
9 | 白名单 | 5c8f44ca25ade48455a63bad (自定义图库) |
10 | 用户自定义 | - |
11 | 图像质量 | 58b4f9f1fde4795eae4e181e (图像质量) |
3. 汇总结果解析参考
4. 更新日志
日期 | 说明 |
---|---|
2024-12-20 | 新增汇总结果解析参考 |