半年捣毁25个黑产团伙 抖音与网络黑灰产的“战斗”

近期被大众关注的“假靳东”事件,揭露出背后隐藏的互联网信息安全问题。随着移动互联网的普及,很多不法分子盯上了用户数量庞大的短视频平台,发展出一条成熟的黑灰产业链(指电信诈骗、钓鱼网站、木马病毒、黑客勒索等利用网络开展违法犯罪活动的行为)。针对这场没有硝烟的战争,以抖音为代表的平台方一直在进行战斗,12月1日,抖音安全中心团队首次对外亮相,就安全运营、审核、技术攻防、联合打击等方面进行了介绍,揭秘了其与黑灰产的“战斗”。

在网购的时候,看到一家店的好评数量和销量都非常多,于是就下单购买,但收到货物的时候却发现描述与事实不符;不仅是假明星账号,还有一些冒充各类名人、机构的高仿号也在短视频平台上收割流量进行套现……这些现象的背后往往有专业化的黑灰产团伙出没。抖音安全中心总监周冉今年参与了多起黑灰产案件的打击,她介绍,现在的黑灰产行为,通常是在上游进行账号注册、买卖,然后在短视频、社交媒体等平台上实施引流,落地到社交软件平台上实施诈骗、传播色情内容,部分会再到电商平台进行变现。

抖音安全风控专家张曦盛表示,这些团伙以盈利为目的,使用不正常的手段,做出违背产品设计初衷的行为,给平台和用户企业造成负面影响。“黑灰产发展至今已成为了一个成熟的产业链,具备团伙化、专业化、强对抗、跨行业等特点。并且,黑灰产团队利用新技术、新手段对平台的攻击渗透行为,效率要超过传统攻击的100倍,甚至更高。”张曦盛说。

抖音安全风控专家张曦盛介绍抖音风控工作中的技术对抗

在现场展示的视频中可以看到,黑灰产团伙成员利用“群控软件”操控几十台甚至上百台手机,自动关注、点赞、发评论,甚至可以自动私信并回复用户信息。“黑灰产行业的技术与手段一直在升级,我们在与他们对抗的过程中,也在不断升级技术与策略。”张曦盛介绍,“抖音安全中心在初期是利用词表、名单及频控策略进行对抗,然后建立了决策引擎和工具平台,开始利用平台化的工具进行更有效率的对抗打击。”

据介绍,抖音早在成立时就组建了安全运营团队,后升级成为抖音安全中心,拥有安全运营、安全风控以及治理打击等多个团队,专门负责抖音平台违法违规内容与行为的治理工作。抖音安全中心每天拦截处理的违法违规内容、行为超过10亿条,其中包括违规注册、刷量、刷粉、点赞以及发布违规评论、视频等多类内容行为。

今年以来,抖音安全中心封禁色情导流和色情招嫖帐号超过100万,仅9月份期间就封禁305248个帐号。在4月开始的仿冒名人专项打击中,已封禁黑产作弊账号18万多个,重置仿冒资料用户6万余个,处理问题视频超过400多万条。

在内部,抖音安全中心通过组建审核团队,建立完善的审核标准、审核流程,提前对平台上的违规内容、行为进行拦截处理。同时建立日常巡检机制,设立专项巡检制度,通过客户端实际检测、后台技术检测等手段进行常规巡检,配合审核团队多渠道发现违规内容、行为。

抖音安全中心负责人帅帅介绍团队

与外部专业团队和用户的配合上,抖音安全中心一方面是邀请专业人士参与到平台审核流程中,例如谣言审核工作中,会求证权威专家团保证判断的准确性。另一方面,抖音安全中心也非常注重用户反馈,提供了多种举报渠道帮助用户反馈信息,包括站内举报、邮箱举报、违法和不良信息举报电话、“啄木鸟举报平台”小程序等。截至今年11月,“啄木鸟举报平台”小程序已累计处理用户反馈的违法违规帐号159.5万个。

“实际上,相比平台上用户碰到的问题,抖音安全中心处理的问题相当于是海面下庞大的冰山,不仅是繁杂多样,而且是反复多变的。尤其是近几年,黑灰产团伙对新兴技术和工具的利用,进一步加大了我们工作的难度。”抖音安全中心负责人帅帅表示。

目前,抖音安全中心团队已将数据安全、人工智能等技术应用到了黑灰产打击中,构建立体防御体系。张曦盛在现场展示了抖音安全中心的反欺诈解决方案,该方案利用抖音安全中心自主研发的“鲨鱼反欺诈系统”,能够在账号注册、登陆、发布评论内容等阶段判断账号是否是黑灰产诈骗账号,并执行对应的处理措施。

除此之外,张曦盛表示抖音安全中心目前也组建了红蓝军攻防团队,开展黑灰产的行业研究,希望先于犯罪分子发现黑灰产行业最新趋势。

“社会问题与抖音平台问题,是共生共存的。所以我们一直认为,平台责任不该局限于平台。在进行平台治理的过程中,抖音团队会尽可能地更进一步考虑问题,希望在解决自身平台问题的过程中,也能够与更多机构进行跨平台联动打击,进一步解决社会问题。”周冉表示,“也希望社会各界要联动起来,企业与公安、企业与企业、企业与用户之间,要进行联合联动,共同打击违法违规行为,建设美好、正向、健康且有价值的行业生态。”

(图片来自抖音)

责编:章恒返回搜狐,查看更多

本文版权归原作者所有,若涉及版权问题请原作者联系我们,我们会24小时内删除并表示歉意。合作/投稿请加微信:13538312741(请务必备注原因)

发表评论

邮箱地址不会被公开。 必填项已用*标注