互联网的普及有如太阳般给这个世界带了信息透明和公正，但色情、暴力、恐怖等也如太阳黑子般挥之不去。互联网中黑暗的角落，对广大网民尤其是青少年网民的身心健康产生极大的危害，甚至引发犯罪行为，产生严重的社会问题；仅以色情为例，来看下面一组数据：

　　1、在互联网上，总共有超过26,000,000（2千6百万）个色情网站，占整个互联网上全部网站数的12%。

　　2、在互联网世界里，每秒钟有28,258人在浏览色情网站，这造就了网络色情业每秒钟超过3,000美元的消费额，年消费额近1000亿美元。

　　3、每天有68,000,000（6千8百万）次的网络搜索是与色情相关的，占每天总搜索量的1/4。

　　4、网络色情中有相当一部分是儿童色情内容，每天有116,000次关于儿童色情的搜索；孩子们第一次在网上观看色情内容的平均年龄是11岁。

　　undefinedTed Bundy，美国活跃于1973年至1978年的连环杀手

　　如下论述出自一个叫Ted Bundy的美国人，一个涉嫌强奸并杀害了超过100名女性的连环杀手，他说：“我们是某些人的儿子某些人的丈夫，只不过我们受媒体暴力，尤其是色情暴力所害，偏离了轨道。如果整个社会对这些情色内容不能加以控制，那么正常家庭的孩子就会轻易地被色情暴力夺走。”

　　1、大部分强奸和猥亵儿童犯罪份子都承认受到色情网站的启发；

　　2、许多健康的青少年承认，只要看了一次色情网站，都会对女性产生不恰当的冲动；

　　3、相当部分的初高中生，甚至成年人，会模仿情色的暴力内容。

　　据数据显示，中国儿童性发育的时间由原先的11至12岁开始发育，提前到女孩平均9.7岁，男孩平均11.3岁。与性发育提前相反的是，中国的性教育发展却相对滞后。另一方面，超过1.5亿的中国网民年龄低于19岁，超过1800万的儿童网民不足10岁，半数以上儿童不到5岁即接触互联网。传统文化的因循守旧和互联网色情的泛滥，让中国的孩子们对性的认知陷入困惑状态。

　　2014年，仅中国互联网违法和不良信息举报中心接受到的淫秽色情有害信息举报就达71万多起，平均每天近2000起，而事实上很多孩子恰恰就是这些色情信息的传播者。

　　国内的搜索引擎也不尽安全，不少色情内容的链接可以很轻易被搜索到。网盘云盘中，也充斥着各种色情和。最近闹得沸沸扬扬的百度网盘被“误塞海量色情“事件，更是将网盘的安全推向了封口浪尖。试想一下，当平日安分守己、刻苦学习的孩子，打开网盘下载预存的课件时，却发现满屏都是色情视频，少年将走向何处？

　　2016年，互联网产业的版图上，网络视频直播比以往更热闹些。2016年3月，成立只有两年多的“斗鱼”直播平台再度完成新一轮融资，获得腾讯领投的约1亿美元投资。但与此同时，“斗鱼”、“熊猫TV”等多家直播平台却频繁曝出色情裸露甚至直播性爱的事故，引起轩然大波。

　　undefined

　　一边资本热捧，一边色情泛滥。2016年7月，“斗鱼”等26个直播平台被查处，1.68万余名“网红主播“被处理，共关闭严重违规表演房间4,313间，整改违规表演房间15,795间。然而高压整顿并未有实质性效果，“嘿咻”直播平台在被勒令停业整顿仅仅一个月后，再次大批量出现各种色情淫秽直播画面。

　　线下的电子媒体也深受色情困扰。近年随着LED/LCD屏幕造价的不断降低，其展示内容丰富多彩且操控灵活，电子显示屏在商场、体育馆、演艺场馆、学校、政府机关等各种场合得到了广泛。伴随公共电子显示屏的普及，各种色情误播事故是你方唱罢我登场，层出不穷。被广泛报道的，就有“安徽蚌埠万达广场电子屏播放色情视频”、“广东珠海市北大附属实验学校食堂显示器播放不雅视频“、“辽宁锦江市凌河区解放小学教室电子白板多次播放色情视频”、“巴西客运站时刻表显示屏显示色情网站并播放色情视频”等上百起色情播放事故，各种电子屏应用场合均未幸免；在中小学甚至幼儿园出现的色情播放事故，影响尤其恶劣。

　　不良内容在全球互联网及线下电子媒体泛滥成灾，国内外的技术巨头们一直在尝试使用人工智能加以识别和过滤，人工智能是维护健康网络的幕后英雄。Facebook、Google、Microsoft、Twitter等知名互联网公司，均采用人工智能的技术来监测和过滤色情、暴力等不良图片和信息。人工智能用于不良内容过滤，主要有如下三类典型应用：

　　虽然社交平台都有相关的用户协议，要求不能发布任何仇恨、裸露、暴力、威胁的内容，然而对用户并不能产生实际约束作用。一个典型的例子，微软发布的聊天Tay，在twitter上线不到24小时，就因为被网友的不当言论“教坏”了，而不得不下线“修理”。但面对海量并发的各种言论和信息，人工检测实在费时费力，人工智能这时候就展现其独特优势了：

　　－facebook机器学习小组使用机器学习方法来监测所有上载到facebook的图片的内容，包括广告的内容，用来过滤其中色情、暴力等内容。

　　－Twitter收购了两家视觉媒体内容监测创业公司Madbits和Whetlab，运用它们的人工神经网络技术实现色情内容监控。

　　－Google的SafeSearch（安全检索）功能使用了机器学习来识别色情图片，可给未成年人提供健康正常的网络浏览与检索。

　　－Google不仅提供SafeSearch功能，并且将此功能作为API开放给其他用户使用，作为他们的云视觉API（Cloud Vision API）服务的一部分，目前已有很多客户。一些规模较小的社交平台（例如用户个人品牌服务公司Photofy）可以使用这套系统来保证他们的用户不使用色情图片来吸引流量。

　　－微软的人工智能API服务（微软牛津计划）也提供类似的功能。

　　以上基于云计算的不良内容鉴别技术和服务，主要应用于大型互联网社交平台或搜索引擎，对线下应用和中小型网站并不适用，比如上文提到的公共电子显示屏、缺乏计算平台和防护技术的普通门户网站（如中小企业主页、各级政府机关的门户网站等）、以及对防护实时性要求很高的视频直播等。可喜的是，随着算法和技术的不断进步，人工智能也逐渐满足上述应用需求了。北京匠数科技有限公司（www.deepctrl.com），是国内专注于网络和电子媒体内容安全监控的人工智能公司，设计推出了基于深度学习的“盒谐”系列不良内容监控产品，包括适用于公共电子屏不良内容实时过滤的智能硬件，给中小企业和政府机关门户网站提供的内容安全监控服务，以及适用于网络直播的内容安全监控服务等。匠数科技CEO张乐平说，“我们相信，保护互联网和电子媒体免受色情暴力等不良信息的侵害，给所有的网民尤其是青少年提供一个干净健康的互联网世界，是人工智能最主要的价值所在，也是匠数科技的责任和使命——只为更好的智能世界。”

　　人工智能，做网络健康最忠实的守护神，消除互联网中黑暗的角落，让互联网的普世之光，照进世界的现在和未来。