首页 >> 张正宗

揭秘AI鉴黄师背后的故事看起来很酷的工作并不轻松0窦唯

2022年08月23日

揭秘AI鉴黄师背后的故事看起来很酷的工作并不轻松

一位“鉴黄师”的电脑上贴着便签，上面注明了甄别色情信息的标准图/中新网

明星网资讯，前晚，“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们，为青年人解决职业困惑。本周是该系列的第二期：上一期在武汉直播，请来的嘉宾是法医；这一期在广州直播，请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。

三位嘉宾中，姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监，也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生，让观众了解到：这份网友眼中很酷的工作，其实并不轻松；而有了AI人工智能技术（Artificial Intelligence）的助力，“鉴黄”的效率已经大大提高。

背景：“网络监管加强，越来越多直播平台请鉴黄师把关”

“快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称，快播将关闭qvod服务器，停止基于快播技术的视频点播和下载，清理低俗内容与涉盗版内容。同年8月，全国“扫黄打非”办公室发布消息称，深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。

“国家非常重视对淫秽色情信息的监管，我们公司成立时，就把‘鉴黄’作为公司的重要工作，第一个客户是迅雷。”姜泽荣透露，当时迅雷给了很多数据帮他们调整并优化系统，不过，迅雷如何利用系统则不在他们的控制范围内，“迅雷不存储内容，用户下载并分享的过程中触发‘过滤’机制才有可能被禁，但达到多少基数会被禁，我们不知道。”

“AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同，他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理，分别放入系统“正常”、“性感”、“色情”三大板块中，“我们调教机器去识别色情信息，通过样本建立模型，最终趋近于达到人眼识别的效果，原理和AlphaGo一样。”图普科技客户经理周耀辉说道。

他们公司现在有上百个客户，其中直播客户占了很大的量，这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱，专门请美女主播滚动直播色情内容，结果上线没多久就被禁。”图普科技市场经理邓柯解释，“对网络信息管控比较重视的企业会走得更远。”

国家对直播平台的监管也在逐渐加强，去年4月13日，百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》，承诺网络直播房间必须标识水印；内容存储时间不少于15天备查；所有主播必须实名认证；对于播出涉枪、涉毒、涉暴、涉黄内容的主播，情节严重的将列入黑名单；审核人员对平台上的直播内容进行24小时实时监管。

《互联网直播服务管理规定》2016年12月1日起在全国施行，明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。

于是，越来越多的直播平台开始找“AI鉴黄师”帮助，一旦有主播传播色情信息、系统判定为“色情”后，会立即通知直播平台“封号”；系统拿不准的信息，会被发送到直播平台系统中，让鉴黄师人工判定。通常，从“判定信息为色情”到“查封账号”，平均用时为30秒。