华为云:修炼防控内力,竖起游戏文娱行业安全之盾

随着5G时代的发展,以5G为基础能力的各大游戏平台、音视频等平台百花齐放。与此同时,越来越多的UGC内容产生,为人们带来更丰富的玩法。但UGC内容的增加对于平台而言,也带来了不少的压力和挑战,尤其是安全与合规方面的隐患。

以游戏行业举例。对于游戏玩家而言,游戏内出现的文字、图片内容不仅与游戏体验息息相关,更重要的是游戏内出现的内容是否绿色健康、是否合规。近年来,不少游戏厂商因内容审核不及时,导致违规内容出现在玩家面前,影响玩家体验的同时造成恶劣的社会影响,甚至让游戏整改下架,给游戏厂商、发行方都带来了十分严重的利益损害。

针对这些问题,近年来,相关的监管条例不断推出,不断优化,同时也在逐渐收紧。如2021年网信部门及各涉网管理部门持续整治的“清朗”系列专项行动、《互联网用户公众账号信息服务管理规定》等,纷纷鼓励倡导优质内容的生产,和对严重影响生态的主体进行专项治理。值得一提的是,这些监管条例均强调了平台与用户双主体责任,也就是说,平台主体责任、生产运营者责任都得到进一步强化,平台有责任有义务管理、规范和治理用户所产生的内容。UGC平台在内容审核方面无疑面临着十分大的压力。

除此之外,随着游戏产业的飞速发展,许多相关黑灰产业急剧扩张。在游戏安全的战场中,除了需要重视内容风控以外,还有外挂、信息安全、ddos等平台/网站方面的安全隐患,时刻不得松懈,对于游戏厂商而言负担甚重,解决游戏安全问题刻不容缓。

针对这些问题,华为云在内容审核网站安全方面提出了全链路的解决方案,构建了更灵活、更精准、更安全的内容审核解决机制,以及全面风险可控、业务连续可用的网站安全解决方案,守护游戏平台和用户隐私的安全与稳定,同时使资源弹性扩容,实现降本增效的目的。

确保内容安全建设,华为云助力审核“减负”

在游戏世界里,由玩家产生的UGC内容包含文本、语音、图片等内容,若审核不到位,极易出现违法犯罪、标题党、色情、暴力等大量有害身心的违规内容。即使近年来通过敏感词屏蔽、人工审核等传统方式进行对抗,也还是经常能够看到有类似问题出现。

随着内容安全审核标准关口的收紧,“内容安全审核从业者”成为了维护网络内容安全、营造清朗网络空间的绝对刚需。面对海量的UGC内容,纯人工审核的方式并不现实,不仅时效差,且容易出现审核人员把握不到位、经验少、信息更新慢等情况,风险系数更高。且内容的产生通常都是7*24小时不间断的,人的工作时长有限,人力规模无法匹配。

为了解决这个问题,行业中出现了AI机器初筛+人工复核的“人机协同”方式。机器内容审核具有范围广、效率高、低成本等优势,但很难提升内容审核的精确度,包括有歧义的文字、模糊图片等。因此在用户上传文本、语音或图片后,机器对内容解构并提取关键信息,与数据库中的违规内容进行比对,以及清洗过滤。值得注意的是,其背后数据库的特征样本、筛选标准也是由人工完成的。内容审核专员需要夜以继日地工作,来确保筛选系统识别的标记内容在发布之前能得到及时审核和确认。

这样的组合,看似提高效率,但实际上是增加了另一项工作的工作量,成本不一定得到降低,覆盖范围有限,自研检测、校正能力不足。因此,合适的、可靠的初筛机器不仅能够大大减轻人工审核的负担,在机器足够可靠的情况下,甚至可以大幅度削减人工成本。

针对以上问题,华为云提出了一套更“稳准狠”的内容审核方案。在“机器初筛”的环节提高精准度,通过拓展审核场景覆盖范围和对审核难点专项优化等方式,确保机器在初筛阶段就能达到超出行业水平的高度,提高审核效率,降低人工复核等方面成本。

1.音频+文本+视觉多模态内容审核技术方案

华为云拥有领先的文本、视频、图像检测技术,其多模态内容审核技术方案,能够从图片、OCR违规文字识别、音频语音识别、文本理解全方位多模态检测违规信息,全方位覆盖视频、音频、图片、文本、直播场景的审核。

同时,华为云基于大量的违规图片和文本库、音频库进行训练,包括变体类型、数百种语义标签等,解决样本少、样本单一难题。深度学习检测分类+人脸识别+NLP文本分析模型,可避免单一模型的误杀和漏杀,高效识别各类场景中色情、违禁、垃圾广告等违规内容。

华为云:修炼防控内力,竖起游戏文娱行业安全之盾

华为云内容审核解决方案-多模态审核流程示意图

2.审核场景更细、更全、更灵活

华为云内容审核解决方案在图像审核方面支持5大场景、51个小场景,场景覆盖率业界领先。

基于丰富的细分方案,华为云内容审核方案,提高了审核规则灵活度,避免误判、错判,能够更好地匹配不同用户和不同的业务场景。对于有特殊审核标准的用户,也提供了开放的可自定义的审核策略配置,以满足业务场景需求。提供高精度/高召回/均衡三种模式,让用户根据实际业务需求在“拦截准确率更高”和“不漏掉每一个可疑对象”间做灵活选择。

3.审核能力更精准

从声音、图像、文本、动作等多维度进行审核。

  • 文本审核:基于海量词库+深度学习+GCN+文本分类等模型,可自动识别出文本中出现的涉黄、广告、辱骂、灌水内容,可应用在评论、短信、昵称、弹幕、签名等内容的审核。

  • 语音审核:基于深度学习语音识别技术,结合文本审核,过滤语音环境中的娇喘、暴恐、广告、辱骂等不良信息。

  • 视频审核:支持离线视频及在线直播的审核,审核内容为图片、文本、语音的集合。

4.审核难点专项优化

在当前行业中,AI机器容易被形变、模糊等方式欺骗,华为云内容审核解决方案专项专改,在敏感人物审核上,对非典型人脸识别场景进行了算法加强,审核召回率达95%以上。

基于以上能力,华为云内容审核解决方案覆盖面广,精度高,内容安审标准完全符合监管要求,既承载企业内容安全审核责任,又规避了企业自建平台的成本、技术及运营风险,灵活度高,避免了企业寻求不同服务商的烦恼。

更重要的是,华为云承诺,在内容安全审核解决方案当中,华为云不会动用户现网数据,不做任何形式保存,在内存态识别完成后立即释放,全方位保护数据安全,满足注重数据安全的用户需求。

对抗黑灰产,捍卫游戏安全势在必行!

“对内”要维护内容审核安全,“对外”更要维护网站/平台的整体安全。

在整个信息产业中,信息安全攻击中超过75%都发生在Web应用层上,可能造成的危害结果包括数据信息泄露、数据被篡改、网站被篡改、域名被劫持、大流量ddos攻击、黑客攻击导致网站无法访问,业务中断及受损等,每年都给数以万计的用户造成了巨大的损失。

对于游戏行业来说,游戏安全/平台安全问题,主要体现在外挂、打金工作室、DDoS攻击、平台和用户的信息安全以及安全合规等方面。游戏黑灰产业覆盖非常全面,单靠游戏厂商难以全方位治理黑灰产带来的损害,需要行业共同携手来建设和治理。

华为云针对网站安全提出了最新的解决方案,在网站上云后,通过Web应用防火墙、DDoS高防AAD、云证书管理服务CCM、数据安全中心DSC、企业主机安全 HSS、云堡垒机 CBH、态势感知 SA、数据库安全服务 DBSS等核心产品,帮助网站上云后从应用、数据、负载、安全态势四方面进行安全加固。

和内容安全审核一样,在平台的安全守护方面,也同样需要7*24小时安全运营团队值守,安全事件快速响应,这对于时刻运营、时刻活跃的游戏厂商而言,除了维护成本极高以外,更需要产品功能key facts来支撑+数据化指标。

华为云网站安全解决方案,从“发现-预警-处置-监测”各环节入手,提供保障访问体验、维护资产安全、规避网页篡改三大重磅能力。

1.保障访问体验

  • Web应用防火墙:防SQL注入、防cc攻击,0Day漏洞2小时防御,防网站爬虫;

  • ddos防护:无需调整网站基础架构,一键添加防护,透明接入,抵御大流量攻击。

2.维护资产安全

  • 数据安全中心:支持敏感数据分类、数据加密等功能,为网站数据提供全生命周期防护;

  • 数据库安全:通过用户行为发现审计保障云上数据库的安全。

3.规避网页篡改

  • WAF及时识别阻断应用层攻击,HSS锁定Web文件目录文件,实现静动态双重防篡改;

  • 自研RASP技术,通过驱动级文件目录锁定+篡改检测自动恢复+远端备份恢复“三保险”,自动检测与防护,无需人工修复。

以上“三大能力”有效保证访问体验及业务连续性、保证数据资产安全、维护品牌信誉与形象、满足等保合规要求,同时支持弹性扩容,方便业务升级扩展,确保资源无浪费。从里到外严防死守,更安全、更自动化、更可靠。一键部署,全方位守护。

除了以上场景,为了落实“风险全面可控,业务连续可用”的产品原则,华为云还提供了可定制的进阶版安全防护能力。无论是从安全合规方面,还是从用户隐私安全方面与用户数据方面,均可通过“定制组合”方式,进一步提升业务贴合度、数据安全性、以及用户体验。

华为云:修炼防控内力,竖起游戏文娱行业安全之盾

推荐使用产品组合及客户案例

安全生态,需要行业共建

对于游戏厂商而言,游戏本身与用户是同等重要的核心资产。维护游戏安全,守护用户信息安全,打造健康合规的游戏环境,是每一个游戏厂商、甚至每一个行业相关厂商都需要肩负的责任。华为云一如既往走在捍卫安全的路上,深入行业洞察真实需求,构建更贴合当下行业痛点的解决方案,值得合作伙伴信赖。

与行业一同并肩奋战,是华为云一贯的风格。

为了让更多行业一同建设安全生态,华为云双12重磅推出多项优惠。针对各项业务需求开设多个专场,多种产品及解决方案均参与活动,扫描下方二维码,直达华为云双十二会场!

华为云:修炼防控内力,竖起游戏文娱行业安全之盾

原文链接:https://blog.csdn.net/csdnnews/article/details/128411844?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522169114730916800197056715%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=169114730916800197056715&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-8-128411844-null-null.268%5Ev1%5Ekoosearch&utm_term=cc%E9%98%B2%E6%8A%A4

原创文章,作者:优速盾-小U,如若转载,请注明出处:https://www.cdnb.net/bbs/archives/23356

(0)
上一篇 2023年9月11日
下一篇 2023年9月11日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

优速盾注册领取大礼包www.cdnb.net
/sitemap.xml