> 娱乐前沿 > 热点
抖音举办平台治理开放日 其中包括违规注册、刷量、刷粉、点赞以及发布违规评论、视频等多类内容行为
2020-12-02 00:49:19

“社会问题与抖音平台问题,是共生共存的。所以我们一直认为,平台责任不该局限于平台。在进行平台治理的过程中,抖音团队会尽可能地更进一步考虑问题,希望在解决自身平台问题的过程中,也能够与更多机构进行跨平台联动打击,进一步解决社会问题。”周冉表示,“也希望社会各界要联动起来,企业与公安、企业与企业、企业与用户之间,要进行联合联动,共同打击违法违规行为,建设美好、正向、健康且有价值的行业生态。”

抖音安全中心总监周冉今年参与了多起黑灰产案件的打击,她介绍,上述案件是典型的互联网违法违规行为,具备长链条、跨平台犯案的特征。现在的黑灰产行为,通常是在上游进行账号注册、买卖,然后在短视频、社交媒体等平台上实施引流,落地到社交软件平台上实施诈骗、传播色情内容,部分会再到电商平台进行变现。

2020年3月,抖音安全中心发现有用户多次试图上传儿童色情视频,工作人员在研判分析后,认为相关视频中的儿童有被侵害的嫌疑。经过回查更多视频信息,抖音安全中心了解到该视频内容发生在四川省遂宁市,随即向当地公安机关报案,启动联合打击机制。

与外部专业团队和用户的配合上,抖音安全中心一方面是邀请专业人士参与到平台审核流程中,例如谣言审核工作中,会求证权威专家团保证判断的准确性。另一方面,抖音安全中心也非常注重用户反馈,提供了多种举报渠道帮助用户反馈信息,包括站内举报、邮箱举报、违法和不良信息举报电话、“啄木鸟举报平台”小程序等。截至2020年11月,“啄木鸟举报平台”小程序已经累计处理用户反馈的违法违规帐号159.5万个。

随后,当地公安机关抽调警力组成专案组,开展案件侦办工作。通过缜密侦查,3月29日,蓬溪县公安局网安大队将嫌疑人抓捕归案。据嫌疑人交代,其多次以“提供WIFI”等方式,诱惑同村男童到其住所进行猥亵,并拍摄淫秽视频,并在网上利用微信、QQ、快手、网盘等多种应用进行传播出售。

“黑灰产行业的技术与手段一直在升级,我们在与他们对抗的过程中,也在不断升级技术与策略。”张曦盛介绍,“抖音安全中心在初期是利用词表、名单及频控策略进行对抗,然后建立了决策引擎和工具平台,开始利用平台化的工具进行更有效率的对抗打击。”

在平台违规内容、行为的提前发现与拦截上,抖音采取平台内外配合的机制。

12月1日,抖音在北京举办以平台治理为主题的开放日,负责抖音平台治理的抖音安全中心团队首次对外亮相,就安全运营、审核、技术攻防、联合打击等方面进行了介绍。

据介绍,抖音早在成立时就组建了安全运营团队,后升级成为抖音安全中心,拥有安全运营、安全风控以及治理打击等多个团队,专门负责抖音平台违法违规内容与行为的治理工作。

抖音安全风控专家张曦盛在分享中指出,黑灰产团队利用新技术、新手段对平台的攻击渗透行为,效率要超过传统攻击的100倍,甚至更高。

今年以来,抖音安全中心封禁色情导流和色情招嫖帐号超过100万,仅9月份期间就封禁305248个帐号。在4月份开始的仿冒名人专项打击中,已经封禁黑产作弊账号18万多个,重置仿冒资料用户6万余个,处理问题视频超过400多万条。

今年9月,抖音开启了对“群控软件”的专项打击工作,过去两个月中,公司法务已经在杭州、深圳及广州等多个地区针对四家涉及抖音的“群控软件”运营公司提起诉讼,并获得了杭州、广州当地法院的支持,分别出具禁令,相关“群控软件”已被勒令停止运营。

抖音安全风控专家张曦盛介绍抖音风控工作中的技术对抗

抖音安全中心负责人帅帅表示:“抖音安全中心一直坚持‘提前发现、事先拦截、事中提醒、事后追击’的平台治理原则,通过技术手段、产品手段、运营手段治理平台违法违规行为。同时,我们也会关注和研究学习黑灰产行业动态,不断提升治理打击技术能力,保障每一位抖音用户的权益。”

除此之外,张曦盛表示抖音安全中心目前也组建了红蓝军攻防团队,开展黑灰产的行业研究,希望先于犯罪分子发现黑灰产行业最新趋势。

例如,在现场展示的视频中,黑灰产团伙成员利用“群控软件”,可以操控几十上百台手机,自动关注、点赞、发评论,甚至可以自动私信并回复用户信息。

开放日上,抖音安全中心还展现了针对平台违法违规行为、内容的联动打击进展,最近4个月,抖音安全中心已经协助各地公安机关打击涉嫌诈骗、色情的黑灰产团队25个,刑事拘留87人。

记者在开放日上获悉,抖音安全中心每天拦截处理的违法违规内容、行为超过10亿条,其中包括违规注册、刷量、刷粉、点赞以及发布违规评论、视频等多类内容行为。

在内部,抖音安全中心通过组建审核团队,建立完善的审核标准、审核流程,提前对平台上的违规内容、行为进行拦截处理。同时建立日常巡检机制,设立专项巡检制度,通过客户端实际检测、后台技术检测等手段进行常规巡检,配合审核团队多渠道发现违规内容、行为。

抖音安全中心负责人帅帅介绍团队

帅帅表示:“实际上,相比平台上用户碰到的问题,抖音安全中心处理的问题相当于是海面下庞大的冰山,不仅是繁杂多样,而且是反复多变的。尤其是近几年,黑灰产团伙对新兴技术和工具的利用,进一步加大了我们工作的难度。”

目前,抖音安全中心团队已经将数据安全、人工智能等技术应用到了黑灰产打击中,构建立体防御体系。张曦盛在现场展示了抖音安全中心的反欺诈解决方案,该方案利用抖音安全中心自主研发的“鲨鱼反欺诈系统”,能够在账号注册、登陆、发布评论内容等阶段判断账号是否是黑灰产诈骗账号,并执行对应的处理措施。

上一篇  下一篇

I 相关 / Other

个税系统扩容和灾备(系统软件和灾容安全加固包)追加采购项目合同公告

一、合同编号:20JG-ZJ-00/20-078 二、合同名称:个税系统扩容和灾备(系统软件和灾容安全加固包)追加采购项目合同书 三、项目编号(或招标编号、政府采购计划编号、采购计划备案文号等,如有):无 四、项目名称

快手2020磁力大会:公私域全面融合 快手将继续坚持真实温暖的平台社区和立体化的营销通路

作者:王东亮 围绕着“公私域全面融合 激活‘品销合一’新通路”的新营销方案,磁力引擎销售副总裁毛海峰、磁力引擎产品负责人陈研、磁力引擎全国策划总监孙汇沣以及磁力引擎电商营销业务负责人冯超分别从品牌、产

同程旅行春运购票日历上线 消费者都会面临购票难、购票贵、实时购票信息不清晰等难题

每年春运期间,消费者都会面临购票难、购票贵、实时购票信息不清晰等难题。针对用户春运出行痛点,除购票日历功能外,同程旅行还面向各类人群发放交通大礼包:比如,学生购票将享受除学生票优惠外最高立减50元的

从北京到四川:英语听说观摩课活动两地开花 广元市遴选出10余所学校进行英语听说教学试点工作

此次英语听说观摩课活动由通州区教师研修中心发起,力争通过观摩学习的方式促进区教师队伍信息化建设,发挥区优秀学校典型示范作用,引领教育改革。 11月25日,一节英语听说公开课正在北京通州区潞河中学英语听说

90后河南小伙抖音直播卖水果 发愁着等到老两口都干不动了儿子咋办

几乎全抖音都知道他的水果都是精挑细管,供应有限,一上架就要拼手速抢。 父母嫌弃他学不会递烟和请吃饭,发愁着等到老两口都干不动了儿子咋办。他同父母分享他的一些新想法,想对水果行业做出一些新改变,却屡

I 热点 / Hot