存眷微信公众号
下载APP

您是小我用户,您可以认领企业号

腾讯的机密部队,云用AI鉴黄

4430
人工智能网 2019-09-11 21:07 抢发第一评
转载自《锌财经》,作者 杨洁 昏暗的房间里,一个个年青人面色凝重的对着电脑,他们一遍遍的看着网站上的内容、文字、图片等,每八秒就要对成绩帖子做出身杀定夺。 电脑屏幕里,不时出现血腥自残、性虐待、恐怖暴动等外容,这是记载片《The Cleaners》中出现
 

转载自《锌财经》,作者 杨洁

昏暗的房间里,一个个年青人面色凝重的对着电脑,他们一遍遍的看着网站上的内容、文字、图片等,每八秒就要对成绩帖子做出“生杀定夺”。

电脑屏幕里,不时出现血腥自残、性虐待、恐怖暴动等外容,这是记载片《The Cleaners》中出现的一幕。

在这部记录片里,“数字干净者”——鉴黄师的真实生活被推到了众人的眼前。

揭秘“鉴黄师”职业的记载片

鉴黄师,一份最幸福最苦楚的任务,他们手握互联网各类内容的生杀大年夜权,躲藏在数字海潮的海底,与搜集中的恶意内容为伴。

这些恶意内容包含文字、图片、声响、视频等各类情势,“鉴黄”只是个中极小的一部分,除此以外,还有诸如血腥、暴力、掉常等挑衅品德底线的内容。

随着互联网平台各类直播、短视频、图文信息的增多,搜集安然管理成绩亟待处理。若何快速剖断出劣质信息并停止处理,成了摆在各大年夜平台眼前的一道考题。

搜集恶意,鉴黄反击

为甚么给我推荐的,满是强暴总裁文?在地下的社交网站上,不时能看到如许的用户反溃

但是如许的套路其实不稀罕,在微博的信息流,和部分网站的跳转链接中,常常搀杂着“强暴总裁文”或许“情感漫画”等低俗网文,应用爽文的套路,引诱大年夜众付费浏览。

如此应用色情+社交来停止流量的转化,有着成熟的信息临盆链条。据地下报导,此类色情信息从业者月入乃至能高达数万。

多年以来,不管当局,照样企业,对互联网中触及淫秽、暴力、血腥等劣质内容的整顿从未停歇,但内容乱象却依然屡打不止。

因而,“内容剖断员”这一工种应运而生。以Facebook为例,单在2018年就设有15,000名剖断员来担任挑选和删除进击性内容,并于18岁尾再增长了5,000人。

至于国际的企业,早在2014年,百度、腾讯等10多家互联网公司构成的“安然同盟”就曾对外宣布,地下雇用“首席剖断官”,大年夜幅增长人工剖断的范围。

纵不雅看来,“内容剖断员”的出现能及时却长久地弥补了劣质信息剖断和查漏的需求空白。在日趋复杂的搜集情况中,面对亿级的信息量,且隐蔽性赓续升级的不良信息,人工作业精准度无限等弊病日渐凸显。另外,企业在内容剖断方面的本钱、后果、技巧上,碰到的挑衅维度也在赓续升级。

此时,AI技巧的出现,为内容剖断带来了新的动能。

AI助力,鉴黄升级

AI鉴黄的逻辑看起来其实不复杂:AI经过过程深度进修技巧,再经过大年夜范围的样本练习,便能根本构成监测辨认搀杂的不标准信息的才能。但实际上,内容剖断对算法精度、样本量都有很高请求,须要大年夜量的技巧投入和持续的机械进修,在内容剖断的专业度上也有较高门槛。

在市场的需求和技巧的驱力下,应用AI来停止内容剖断办事的家当链正逐步成型。作为国际互联网的领军企业,腾讯也看到了趋势,并推出其自研的智能鉴黄产品——腾讯云。

很多企业会以AI才能为基本,做相干产品的开辟,起首它可以改变之前更多依附人工剖断的任务形式,对企业来讲,也意味更少的本钱,更高的效力去发明和处理劣质信息。腾讯云产品团队告诉锌财经。

AI可以帮助内容剖断

2017年,腾讯提出“AI in all”计谋,即让AI无处不在。在花费互联网范畴,腾讯AI已在内容、社交、游戏等过百种产品中落地。同时,在家当互联网范畴,腾讯AI也已落地医疗、批发、金融、安防、教导、工业、出行等多个家当。

由于有着多范畴、长时间的AI技巧沉淀,腾讯自17年起,便开端测验测验应用本身强大年夜的AI技巧打造腾讯云产品,来处理鉴黄等外容安然成绩。

据云团队简介,产品在19年事首年代曾经趋势成熟。云仰仗先辈的深度进修模型算法,沉淀了腾讯多年的内容安然对抗经历,现已具有全场景AI辨认才能,可以刹时解析音视图文等各类序文内容,辨认个中的色情、低俗、咒骂、渣滓告白等不良信息,周全保证产品内容的安然。

在内容安然的鉴黄范畴,云首创了很多新的技巧。同时还能克服唱歌、哭泣声乃至正常ASMR的搅扰。图片鉴黄可以或许辨别性感和色情的分界,并从多个维度停止断定和给出照应标签,关于大年夜标准图片还可以或许断定能否来自艺术名画、动漫亦或是恶弄。即使面对正常图象和文字结合的拼图招嫖图片,云也有一套成熟的算法和流程机制可以或许快速断定,同时也会结合OCR技巧,辨认图文中的黑灰产行业黑话。

腾讯云产品

今朝,云的AI技巧已在多种营业场景中得以广泛应用。云也经过过程腾讯安然天御和微信开放平台面向客户周全开放,努力于为游戏、社交、直播、短视频等行业供给一站式内容安然处理筹划。客户可以经过过程腾讯安然天御,小法式榜样开辟者经过过程微信开放平台,停止简单的安排对接便可应用从而赞助企业升级本身防备躲避内容风险,进步产品内容安然性。

随着云内容安然产品的普及应用,能极大年夜地晋升企业全体内容剖断的效力,可以做到24小时不限量辨认,从而赞助企业大年夜幅优化人力资本本钱;同时能以极高的精确率和召回率,为客户平台产品周全晋升安康度。今朝曾经有逾越5万的客户接入云应用。

黑色福利,云进击

劣质信息的内容,终究是以文字,图片、音频、视频的等各类形状做传播,在内容上也有很多的变种,这些内容眼前是一些跨平台的黑色家当链在支撑。云团队说。

在赓续的实战中,腾讯云曾经建立起了一套应对劣质信息明白的剖断体系和应急照应机制。并经过过程采取深度进修技巧的智能辨认技巧,可以对文字、图片、语音,直播视频内容中的敏感成分完成精准覆盖。

如关于二次元色情家当链“福利姬”的攻击,腾讯云便助力警方立下了赫赫战功。

二次元色情家当链“福利姬”

“福利姬”曾是搜集上一种异常广泛的景象,最早从一些直播UP主开端,直播引流,卖图创收。在线上,“福利姬”常经过过程售卖软色情图包、音视频、石友位费用和会员费来取利;在线下,则重要经过过程援交。

此类信息的存在,对未成年人的身心安康形成了极其卑劣的影响。但由于“福利姬”灰产链上的人群宏大年夜且分散,难以圈定,加上隐蔽性高,方法复杂。例如,“福利姬”常会把带色情暗示的照片附着在一组正常的COS图前面,再加上社交ID水印,就可以逃过基本的内容安然剖断。这为平台方的监管带来了巨大年夜的难度。

此时,腾讯云的出现,其毫秒级的辨认才能及剖断体系,便能实用于应对处理“福利姬”传播中的关键环节和难点。其结适用户端告发和反应的案例,经过体系和人工数重核实,终究联动公安机关发力攻击,成功端掉落其线下团伙和眼前的黑色家当链。

但是,随着互联网的高度普及,低龄网平易近群体日增,加上不良信息传播手段层见叠出,搜集安然监管再升级迫在眉睫。云团队也表示,经过过程持续的辨认攻击,可以赓续加强云的才能,从而加快产品迭代。

看到这里,用户不免会产生一个新的疑问:既然AI鉴黄效力这么高,那会砸了人工剖断员的饭碗吗?

在采访中,腾讯云团队屡次提到合营二字,来表达本身对AI和人工的立场。在他们看来,固然在本钱、时间、精确度等各个维度进上,AI有着人工弗成比较的优势。但这其实不代表可否定鉴黄师存在的须要性,关于某些特别场景的剖断,仍须要人工复核来弥补以后AI技巧的短板。另外一方面,当今的鉴黄师也追随着时代潮流,参加了人工智能团队,协助AI停止陌生数据的标注,赞助机械进修,优化AI的性能 。

在2017年颁发的《搜集安然法》中,将借助搜集传播、分散淫秽色情等背法信息归属为严重伤害国度安然和社会公共好处的背法行动,其请求企业需采取技巧手段控制。可以说,劣质内容曾经破坏了互联网正常的情况,遏制卑劣内容曾经成为产品应用的重要生命线。

随着5G时代的到来,监管标准、背规内容也在产生着变更,对内容安然提出了新的请求,在激烈的市场比赛下,各个平台也在更新迭代,借助AI内容剖断实力,守住内容安然这条红线。

人工智能实验室

相干热词: 腾讯 机密 部队 用 鉴黄

所属栏目: 智能硬件
声明:该文章版权归原作者一切,转载目标在于传递更多信息,其实不代表本网赞成其不雅点和对其真实性担任。如触及作品内容、版权和其它成绩,请在30日内与本网接洽。
爱好这篇
评论一下
评论
登录后发表评论
×

Tel:18514777506

存眷微信公众号

下载APP