内容审查服务介绍
分类: Azure认知服务 ◆ 标签: #Azure #人工智能 #内容审查 ◆ 发布于: 2023-06-05 12:18:10
内容审查服务是Azure认识服务提供的基于微软AI技术的服务。它主要的应用对象是：
- 对文本内容的审查
- 对图片的内容审查(包括图片中的文字)
- 对视频内容的审查(语音，文字，图像等内容)
内容审查的主要作用是从文字，图片，以及视频中检测一些少儿不宜或者是暴力，淫秽色情以及不文明用语的内容，并对这些内容打上标记，方便用户应用对这些标记过的内容做进一步的处理。
注意
内容审查服务不适用于涉及儿童的一些不合适内容，如果您需要检查和儿童相关的不合适的内容的话，需要使用微软推出的PhotoDNA 服务
内容审查服务主要应用场景有很多，例如运营在线聊天的企业可以通过内容审查服务对聊天的文字，图片，以及视频内容进行审查。运营论坛的企业也可以对于内容进行审查，短视频企业也可以应用该服务对于内容进行审查。
内容审查服务主要提供了如下的工具：
- 内容审查API(reset api / 基于各种语言的SDK)
- 审阅API
- 审阅工具
对于内容审查API， 主要由如下的API组成：
| API | 注释 |
|---|---|
| 文本审查API | 对于用户输入的文本进行扫描，检查其中违规的内容 |
| 文本自定义规则审查API | 对于用户输入的文本进行扫描，同时通过用户自定义的内容策略来检查其中的违规内容 |
| 图像审查API | 对于用户输入的图像，检查其中违规的内容 |
| 图像自定义规则API | 同理，使用自定义规则的策略扫描违规内容 |
| 视频审查API | 检查视频违规内容，返回违规内容的时间线 |
另外关于审阅API，内容审查服务也提供几个概念来处理整个审阅的流程，例如审阅作业、审阅以及工作流(Workflow)，以及审阅工具。这里需要注意的是审阅工具是微软提供的一个在线的工具，以web网站的形式提供。
下一篇文章我们演示一下如何在Azure 上创建一个内容审查服务。