Skip to main content

图像审查

分类:  Azure认知服务 ◆ 标签:  #Azure #人工智能 #内容审查 ◆ 发布于: 2023-06-05 13:24:02

借助Azure的内容审查API，可以很容易的审查图片的内容是否包含有承认或者性暗示的内容，而且内容审查API除了这个功能，从微软官方的文档可以很明确的看到图片内容审查主要可以完成如下的事项：

  • 审查图片的内容是否包含成人和性暗示的内容
  • 使用ORC技术扫描图片中包含的文字并对文字进行审查(同文本内容审查)
  • 识别图片中包含的人脸数据。

理解图片审查返回的结果

内容审查如何实现上述的功能我们并不需要了解，我们需要理解的是当我们运行图片审查API对图片审查之后返回的结果。

成人和性暗示内容结果的理解

每一项指标返回都使用一个打分的机制，分值的取值范围是从0到1，同时也会给出一个相应的布尔值，取值true或者false, 表明这个指标是否为真，例如是否含有成人内容等等。可以参考下述的一个例子:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

需要注意的是isImageAdultClassified仍然代表的是一种可能性，因此在精准的判断是否是一个完全精确的结果，需要结合adultClassificationScore，同时推荐使用足够的自有数据进行测试，从而得到一个合理的adultClassificationScore的值，从而使得判断更为准确，也可以结果人工审阅来得到一个更为合理的值。racyClassificationScore和isImageRacyClassified同理。

使用ORC识别图片中的文字

图片审查API会自动使用OCR对图片中的文字进行识别，并使用文本审查对本文内容进行审查，因此图片审查对于这个部分返回的结果主要包括：识别出来的原始文字，以及对这些文字进行文本审查的记过。

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

人脸检测

人脸检测的结果主要包括:

  • 总共检测到的人脸数量
  • 人脸在图片中的位置

如下所示:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

图片自定义列表

和文本审查中的意义基本是一致的。也可以通过Image Custom list api和Api console来完成，稍后我们将使用一个.net的例子来学习一下如何使用自定义列表的功能, 该功能使用和自定义图片对比的相似度来避免不必要的图片审查。

图片审查API控制台

另外有一个小小的提示: