一. 什么是自动审核
针对图像、文本、语音、视频等多媒体内容,提供全方位的审核能力,覆盖涉政、涉黄、涉恐、恶意推广、低质灌水等内容自动鉴别。
以上的功能需要使用到图像识别功能。如果要自己实现是需要花费大量的时间以及人力。我们项目里面可以直接使用第三方提供的功能百度AI 的内容审核功能https://ai.baidu.com/solution/censoring
百度AI的内容审核功能:https://ai.baidu.com/solution/censoring
API文档:https://ai.baidu.com/ai-doc/ANTIPORN/Rk3h6xb3i
ps:需要自自完成注册和创建应用
二. 使用自动审核功能
第一步:获取 access_token
package com.baidu.ai.aip.auth; import org.json.JSONObject; import java.io.BufferedReader; import java.io.InputStreamReader; import java.net.HttpURLConnection; import java.net.URL; import java.util.List; import java.util.Map; /** * 获取token类 */ public class AuthService { /** * 获取权限token * @return 返回示例: * */ public static String getAuth() { // 官网获取的 API Key 更新为你注册的 String clientId = "百度云应用的AK"; // 官网获取的 Secret Key 更新为你注册的 String clientSecret = "百度云应用的SK"; return getAuth(clientId, clientSecret); } /** * 获取API访问token * 该token有一定的有效期,需要自行管理,当失效时需重新获取. * @param ak - 百度云官网获取的 API Key * @param sk - 百度云官网获取的 Secret Key * @return assess_token 示例: * "24.460da4889caad24cccdb1fea17221975.2592000.1491995545.282335-1234567" */ public static String getAuth(String ak, String sk) { // 获取token地址 String authHost = "https://aip.baidubce.com/oauth/2.0/token?"; String getAccessTokenUrl = authHost // 1. grant_type为固定参数 + "grant_type=client_credentials" // 2. 官网获取的 API Key + "&client_id=" + ak // 3. 官网获取的 Secret Key + "&client_secret=" + sk; try { URL realUrl = new URL(getAccessTokenUrl); // 打开和URL之间的连接 HttpURLConnection connection = (HttpURLConnection) realUrl.openConnection(); connection.setRequestMethod("GET"); connection.connect(); // 获取所有响应头字段 Map<String, List<String>> map = connection.getHeaderFields(); // 遍历所有的响应头字段 for (String key : map.keySet()) { System.err.println(key + "--->" + map.get(key)); } // 定义 BufferedReader输入流来读取URL的响应 BufferedReader in = new BufferedReader(new InputStreamReader(connection.getInputStream())); String result = ""; String line; while ((line = in.readLine()) != null) { result += line; } /** * 返回结果示例 */ System.err.println("result:" + result); JSONObject jsonObject = new JSONObject(result); String access_token = jsonObject.getString("access_token"); return access_token; } catch (Exception e) { System.err.printf("获取token失败!"); e.printStackTrace(System.err); } return null; } }
第二步:利用获取的access_token 调用接口
package com.baidu.ai.aip; import com.baidu.ai.aip.utils.HttpUtil; /** * 文本审核接口 */ public class TextCensor { /** * 重要提示代码中所需工具类 * FileUtil,Base64Util,HttpUtil,GsonUtils请从 * https://ai.baidu.com/file/658A35ABAB2D404FBF903F64D47C1F72 * https://ai.baidu.com/file/C8D81F3301E24D2892968F09AE1AD6E2 * https://ai.baidu.com/file/544D677F5D4E4F17B4122FBD60DB82B3 * https://ai.baidu.com/file/470B3ACCA3FE43788B5A963BF0B625F3 * 下载 */ public static String TextCensor() { // 请求url String url = "https://aip.baidubce.com/rest/2.0/solution/v1/text_censor/v2/user_defined"; try { String param = "text=" + "不要侮辱伟大的乐侃"; // 注意这里仅为了简化编码每一次请求都去获取access_token,线上环境access_token有过期时间, 客户端可自行缓存,过期后重新获取。 String accessToken = "[调用鉴权接口获取的token]"; String result = HttpUtil.post(url, accessToken, param); System.out.println(result); return result; } catch (Exception e) { e.printStackTrace(); } return null; } public static void main(String[] args) { TextCensor.TextCensor(); } }
package com.baidu.ai.aip; import com.baidu.ai.aip.utils.Base64Util; import com.baidu.ai.aip.utils.FileUtil; import com.baidu.ai.aip.utils.HttpUtil; import java.net.URLEncoder; /** * 图像审核接口 */ public class ImgCensor { /** * 重要提示代码中所需工具类 * FileUtil,Base64Util,HttpUtil,GsonUtils请从 * https://ai.baidu.com/file/658A35ABAB2D404FBF903F64D47C1F72 * https://ai.baidu.com/file/C8D81F3301E24D2892968F09AE1AD6E2 * https://ai.baidu.com/file/544D677F5D4E4F17B4122FBD60DB82B3 * https://ai.baidu.com/file/470B3ACCA3FE43788B5A963BF0B625F3 * 下载 */ public static String ImgCensor() { // 请求url String url = "https://aip.baidubce.com/rest/2.0/solution/v1/img_censor/v2/user_defined"; try { // 本地文件路径 String filePath = "[本地文件路径]"; byte[] imgData = FileUtil.readFileByBytes(filePath); String imgStr = Base64Util.encode(imgData); String imgParam = URLEncoder.encode(imgStr, "UTF-8"); String param = "image=" + imgParam; // 注意这里仅为了简化编码每一次请求都去获取access_token,线上环境access_token有过期时间, 客户端可自行缓存,过期后重新获取。 String accessToken = "[调用鉴权接口获取的token]"; String result = HttpUtil.post(url, accessToken, param); System.out.println(result); return result; } catch (Exception e) { e.printStackTrace(); } return null; } public static void main(String[] args) { ImgCensor.ImgCensor(); } }
编写自己的工具类
package io.coderyeah.basic.util; import com.alibaba.fastjson.JSONObject; import java.io.BufferedReader; import java.io.InputStreamReader; import java.net.HttpURLConnection; import java.net.URL; import java.net.URLEncoder; import java.util.List; import java.util.Map; /** * 百度认证工具类:注意要修改API Key 和 Secret Key */ public class BaiduAuditUtils { /** * 获取权限token * * @return 返回示例: * { * "access_token": "24.3265383f84ac64db9eff781e70587614.2592000.1654844607.282335-26205415", * "expires_in": 2592000 * } */ public static String getAuth() { // 官网获取的 API Key 更新为你注册的 String clientId = "hNkxSg4Kg4V1DknrquZkLIg6"; // 官网获取的 Secret Key 更新为你注册的 String clientSecret = "mEwcQpNoVrpHvogxr0q0gZ4cqIyuH3k4"; return getAuth(clientId, clientSecret); } /** * 获取API访问token * 该token有一定的有效期,需要自行管理,当失效时需重新获取. * * @param ak - 百度云官网获取的 API Key * @param sk - 百度云官网获取的 Securet Key * @return assess_token 示例: * "24.460da4889caad24cccdb1fea17221975.2592000.1491995545.282335-1234567" */ public static String getAuth(String ak, String sk) { // 获取token地址 String authHost = "https://aip.baidubce.com/oauth/2.0/token?"; String getAccessTokenUrl = authHost // 1. grant_type为固定参数 + "grant_type=client_credentials" // 2. 官网获取的 API Key + "&client_id=" + ak // 3. 官网获取的 Secret Key + "&client_secret=" + sk; try { URL realUrl = new URL(getAccessTokenUrl); // 打开和URL之间的连接 HttpURLConnection connection = (HttpURLConnection) realUrl.openConnection(); connection.setRequestMethod("GET"); connection.connect(); // 获取所有响应头字段 Map<String, List<String>> map = connection.getHeaderFields(); // 遍历所有的响应头字段 for (String key : map.keySet()) { System.err.println(key + "--->" + map.get(key)); } // 定义 BufferedReader输入流来读取URL的响应 BufferedReader in = new BufferedReader(new InputStreamReader(connection.getInputStream())); String result = ""; String line; while ((line = in.readLine()) != null) { result += line; } /** * 返回结果示例 */ System.err.println("result:" + result); JSONObject jsonObject = JSONObject.parseObject(result); String access_token = jsonObject.getString("access_token"); return access_token; } catch (Exception e) { System.err.printf("获取token失败!"); e.printStackTrace(System.err); } return null; } public static Boolean TextCensor(String param) { // 请求url String url = "https://aip.baidubce.com/rest/2.0/solution/v1/text_censor/v2/user_defined"; try { // 注意这里仅为了简化编码每一次请求都去获取access_token,线上环境access_token有过期时间, 客户端可自行缓存,过期后重新获取。 String accessToken = getAuth(); //处理参数格式 param = "text=" + param; String result = HttpUtil.post(url, accessToken, param); JSONObject jsonObject = JSONObject.parseObject(result); String conclusion = jsonObject.getString("conclusion"); if ("合规".equals(conclusion)) { return true; } } catch (Exception e) { e.printStackTrace(); } return false; } /** * @param imageUrl 需要审核的图片路径地址 * @return */ public static Boolean ImgCensor(String imageUrl) { // 请求url String url = "https://aip.baidubce.com/rest/2.0/solution/v1/img_censor/v2/user_defined"; try { //图片地址进行编码 String imgParam = URLEncoder.encode(imageUrl, "UTF-8"); //设置参数 String param = "imgUrl=" + imgParam; // 注意这里仅为了简化编码每一次请求都去获取access_token,线上环境access_token有过期时间, 客户端可自行缓存,过期后重新获取。 String accessToken = getAuth(); String result = HttpUtil.post(url, accessToken, param); JSONObject jsonObject = JSONObject.parseObject(result); String conclusion = jsonObject.getString("conclusion"); if ("合规".equals(conclusion)) { return true; } } catch (Exception e) { e.printStackTrace(); } return false; } public static void main(String[] args) { System.out.println(BaiduAuditUtils.getAuth()); System.out.println(BaiduAuditUtils.TextCensor("操"));//false System.out.println(BaiduAuditUtils.TextCensor("cnm"));//false System.out.println(BaiduAuditUtils.TextCensor("sb"));//false System.out.println(BaiduAuditUtils.TextCensor("牛逼"));//true System.out.println(BaiduAuditUtils.TextCensor("日寇"));//true System.out.println(BaiduAuditUtils.TextCensor("公司"));//true } }
依赖的jar
<!-- 主要用于后端发送http请求--> <!-- 后端发送http请求 - 一般用在调用三方接口时会用 --> <dependency> <groupId>commons-httpclient</groupId> <artifactId>commons-httpclient</artifactId> <version>3.1</version> </dependency> <!-- https://mvnrepository.com/artifact/com.alibaba/fastjson --> <!-- 一般调用三方接口响应的都是json字符串,后端可以通过fastjson将json字符串转成json对象获取响应信息 --> <dependency> <groupId>com.alibaba</groupId> <artifactId>fastjson</artifactId> <version>1.2.58</version> </dependency>
Http工具类
package io.coderyeah.basic.util; import java.io.BufferedReader; import java.io.DataOutputStream; import java.io.InputStreamReader; import java.net.HttpURLConnection; import java.net.URL; import java.util.List; import java.util.Map; /** * http 工具类 */ public class HttpUtil { public static String post(String requestUrl, String accessToken, String params) throws Exception { String contentType = "application/x-www-form-urlencoded"; return HttpUtil.post(requestUrl, accessToken, contentType, params); } public static String post(String requestUrl, String accessToken, String contentType, String params) throws Exception { String encoding = "UTF-8"; if (requestUrl.contains("nlp")) { encoding = "GBK"; } return HttpUtil.post(requestUrl, accessToken, contentType, params, encoding); } public static String post(String requestUrl, String accessToken, String contentType, String params, String encoding) throws Exception { String url = requestUrl + "?access_token=" + accessToken; return HttpUtil.postGeneralUrl(url, contentType, params, encoding); } public static String postGeneralUrl(String generalUrl, String contentType, String params, String encoding) throws Exception { URL url = new URL(generalUrl); // 打开和URL之间的连接 HttpURLConnection connection = (HttpURLConnection) url.openConnection(); connection.setRequestMethod("POST"); // 设置通用的请求属性 connection.setRequestProperty("Content-Type", contentType); connection.setRequestProperty("Connection", "Keep-Alive"); connection.setUseCaches(false); connection.setDoOutput(true); connection.setDoInput(true); // 得到请求的输出流对象 DataOutputStream out = new DataOutputStream(connection.getOutputStream()); out.write(params.getBytes(encoding)); out.flush(); out.close(); // 建立实际的连接 connection.connect(); // 获取所有响应头字段 Map<String, List<String>> headers = connection.getHeaderFields(); // 遍历所有的响应头字段 for (String key : headers.keySet()) { System.err.println(key + "--->" + headers.get(key)); } // 定义 BufferedReader输入流来读取URL的响应 BufferedReader in = null; in = new BufferedReader( new InputStreamReader(connection.getInputStream(), encoding)); String result = ""; String getLine; while ((getLine = in.readLine()) != null) { result += getLine; } in.close(); System.err.println("result:" + result); return result; } }
业务使用
自定义业务异常
package io.coderyeah.basic.exception; public class BusinessException extends RuntimeException { public BusinessException(String message) { super(message); } public BusinessException() { } }
代码使用
// 效验店铺名称是否违法 if (!BaiduAuditUtils.TextCensor(shop.getName())) { throw new BusinessException("店铺名称不合法,请重新输入!!!"); } // 效验店铺logo是否违法 if (!BaiduAuditUtils.ImgCensor("http://123.207.27.208" + shop.getLogo())) { throw new BusinessException("图片不合法,请重新选择!!!"); }