抖音发布安全年度报告:拦截违规视频2.64亿条

DoNews 4月1日 消息(程梦玲)3月28日,抖音安全中心发布《2020年抖音安全年度报告》(以下简称“报告”),从治理团队建设、违规行为打击以及用户教育等诸多方面,介绍了2020年抖音安全中心打击网络诈骗、清理色情低俗内容、对抗网络黑灰产,以及未成年保护等安全治理工作的举措与数据。

报告显示,抖音安全中心目前有27个团队、数千人参与平台治理工作。2020年,抖音安全中心处罚违规帐号1717.1万个,事先拦截违规视频内容超过2.64亿条,封禁涉嫌诈骗帐号97.4万个。目前,抖音上每天在运行的反欺诈模型有上百个,风控策略超过8000个,能够主动拦截超过92%的欺诈行为。

报告还披露了抖音安全中心对色情导流、冒充行为、短视频作弊帐号及电商黑灰产等违规内容和行为的治理情况。网络黑灰产治理的难题之一在于其行为特征不断变化、团队协作隐蔽难查、违规行为屡禁不止。为此,抖音安全中心采取了专项团队跟进、专人专岗对抗的机制,长期持续对抗。

在色情导流专项打击中,抖音安全中心搭建了图像、视频黑库,组建专职审核团队,训练机器识别模型对涉黄道具物品的识别和拦截能力,与黑灰产团队不断更新的违规视频内容和新道具进行反复对抗。

在2020年下半年开展的冒充行为专项打击行动中,针对冒充明星、冒充名人、冒充客服等违规行为,抖音安全中心制定了问题内容拦截、召回策略,根据不同场景建立监测及预警机制等。到2020年底,抖音共重置仿冒资料用户帐号5万余个、处理问题视频1000多万条,永久封禁涉嫌冒充类帐号超过25万个。

在建立专业团队治理平台问题的同时,抖音还通过推荐、弹窗、海报、站内信、定期处罚公告等手段加强用户安全教育,提升用户安全意识。

另外,抖音还上线了搜索反欺诈提示功能,用户在抖音浏览或搜索“代理退保”、“投资理财”等方面内容时,会收到防诈反诈温馨提示。报告显示,2020年抖音搜索安全提示词展示量超过了3624万次,涉及兼职刷单、信贷理财、宠粉以及解锁防沉迷等防诈温馨提示展示量超过2834万次。

报告显示,抖音安全中心在2020年与公安部门积极配合,联动打击黑产、诈骗团伙54个,抓获嫌疑人504人。



标签: ​抖音
Copyright © DoNews 2000-2024 All Rights Reserved
蜀ICP备2024059877号-1     京ICP证151088号
京网文【2018】2361-237号