受国家政策鼓励,近年来电信、广电网络、通信网高速发展,媒资内容生产量大幅增加,传播手段日趋丰富,引发了内容审核的滞后性、低效性等问题。内容缺乏高效审核监管,一则导致不良信息的广泛传播,造成恶劣的社会影响;二则很有可能导致触犯国家相关法律规定,导致平台被追查甚至关闭。
在《网络安全法》中,将 “宣扬恐怖主义、极端主义,煽动颠覆国家政权、推翻社会主义制度,以及淫秽色情等违法信息,借助网络传播、扩散,严重危害国家安全和社会公共利益”列为当前三大凸显的网络安全问题,要求企业采用技术手段控制。
传统媒资内容使用人工审核方式,已无法适应大量节目内容审核需求,因此迫切需要构建智能内容风控平台,由风控专家持续解读政策和内容风向,借力大数据和AI模型实现手段升级。
一站式智能内容防护体系:更专业、更精准、更高效、低成本
对比传统人工审核方式,智能内容风控平台的审核效率大幅提升,能更好适应媒资内容的生产速度和审核效率需求。
内容安全产品的核心价值在于人工运营的高可用结果、机器识别的高时效性以及能够快速响应不同客户审核需求的策略平台。天御接口输入、辅助判断、模型识别、客户策略处理以及人工审核与平台六个维度为用户提供完整的内容安全解决方案,让企业一次接入即可完成整套审核。
音频内容安全广泛使用于IM通讯、点播内容音频、直播内容音频、多人互动聊天等场景中
音频内容安全遇到的核心痛点:监管方向:涉黄、涉恐、涉政等敏感内容,引发的下架风险;竞品方向:导流、灌水、内容重复等恶意竞争行为,引发的内容质量下降风险。
天御音频内容安全使用前沿语音识别算法构建的语音识别(ASR)引擎,能够对语音的内容进行转译处理,识别违规内容包括色情、暴恐、政治、广告、敏感、灌水等。准确识别各种地方口音的普通话,高效协助用户审核处理视频直播、语音直播或对话等场景产生的音频数据。
处理引擎自动完成音频切片,针对每个切片输出审核结果(同时可支持完整的音频文件ASR转译结果输出)多模型并行检测,快速分析复杂音频内容,实现精准打击。
视频内容安全广泛使用于直播、短视频、点播视频、多人互动聊天室等场景。直播间:实时检测直播间内视频,支持截图过检和平台审核;短视频:实时检测UGC短视频社区用户自主上传视频的违规内容。
视频内容安全广泛使用于直播、短视频、点播视频、多人互动聊天室等场景。点播视频:高效识别点播视频中的违规色情、涉政类镜头;多人互动聊天室:兼容主流SDK,支持合流/分流过检审核。
视频(包括点播/直播)涵盖图片、文本、音频三部分内容。包罗色情、性感、涉政、违法、涉恐、娇喘(音频)、谩骂(文本)等风险。视频内容安全可以有效帮助业务规避违规视频带来的法律风险和品牌伤害。
视频内容安全的设计思路:视频画面处理与审核:接收视频流,根据一定的帧率(可自定义)进行截帧,获得连续静态图像;针对静态图像进行识别,针对音频内容进行安全审核。
图片内容安全广泛使用于社交、电商、媒资、即时通讯等场景。用户头像:对头像进行审核,过检违规or带有联系方式的图片;留言评论:实时检测留言评论区的涉黄、涉政、推广类敏感图片信息。
图片内容安全广泛使用于社交、电商、媒资、即时通讯等场景。IM即时通讯:对聊天中的涉黄涉政类敏感图片信息进行过滤审核;媒资内容:对媒资内容进行管理,快速识别过滤图像违规部分。
图片内容核心痛点:监管红线,涉黄社恐涉政;竞对捣乱,灌水广告屠版
腾讯天御图片内容审核能力提供业内最顶尖的 AI 算法,支持通过机器学习模型对图片进行分类。能针对误判的case的特征不断做识别规则和模型的调整,直至使用效果最佳。
文本内容安全广泛使用于评论、弹幕、IM即时通讯等场景。评论/留言:过滤评论/留言中的敏感词、涉黄、广告、灌水等垃圾文本;弹幕:实时检测直播弹幕文本,有效净化直播间内容生态。
文本内容安全广泛使用于评论、弹幕、IM即时通讯等场景。签名/昵称:高效拦截昵称/签名文本中敏感词、涉黄、广告垃圾文本传播;IM即时通讯:有效拦截聊天文本中含有涉黄、违法等信息的扩散传播。
文本内容核心痛点:监管红线,涉黄社恐涉政;竞对捣乱,灌水广告屠版
另外各种各种变形垃圾文本,如拆分字、形似字和音似字等;无意义符号或歧义短语组成的违规文本;也是文本内容安全审核的一个难点。
腾讯天御文本内容审核能力提供NLP模型+关键词+策略多引擎输出,兼容识别效果与效率,实现极佳的识别效果
人工审核服务一般应用于两个场景:机器审核无法判断的内容;高风险需要人工质检内容。机器判定嫌疑由人工二次审核,机器判定疑似违规的内容,人工审核确认。高风险/高难度版块全量人工审核,有害信息风险较高的以及有特殊审核标准的版块,可全量人工审核。
提供专业人工审核团队审核服务,对机器识别的结果进行人工二次复检,审核范围包括涉黄、涉暴、涉政、广告、违法等,确保审核结果的准确率高达99%,人工平均处理时间5-10min(可定制),能够快速响应客户需求,及时处理内容违规情况。
腾讯天御-人工审核服务优点:文本审核:专业审核团队,具备成熟的色情、涉政、违禁、广告、谩骂、灌水等精细化审核能力,图片审核:20年审核管理经验,具备成熟的色情、性感、涉政、暴恐、违禁等精细化审核能力,动态舆情培训机制:具备动态舆情培训机制,审核策略灵活调整,7*24小时:提供7*24小时全天候人工审核服务(含节假日),安全机制:具备审核+复查+质检三道内容安全机制,支持各种定制化审核标准。
人工审核团队,配套信息安全保障措施
检测结果都遵循检测即展现,确保违规信息及时、迅速的展现。多检测模块的功能中,进行了多项检测结果拆分,更加清晰的展现处理结果,以便于及时处理。
用户数据分析的可视化板块,展示用户调用服务数据的表单以及大盘风险趋势。
私有化部署检测模型并不实时更新,提供临时的、具有针对性的自定义快速打击样本将会非常重要,可以让客户进行即时性更强、更加灵活的检测策略调整。同时针对不同的业务渠道,可根据实际检测需要,进行自由度极高的库关联操作。
受特殊原因的影响,审核力度通常具有一定幅度的波动,在一些特殊的时间节点审核力度会加大。所以更加细化的违规类型标签、自定义截帧频率和自定义rate,可以为客户提供更加精准的、自定义程度更高的符合时下审核需求的检测服务。
在流媒体可视化工作台中,通过机审分析视频中图像、文字、音频等多模态信息,自动输出视频的结构化的多维度违规内容标签,可以帮助审核人员快速定位违规内容。支持人工在工作台进行二次标注,更加准确的描述违规内容,通过数据回流,系统将会自动建立临时快速打击样本。
有效管理员工权限,让相关人员聚焦自身业务,每一个操作都会在系统留下记录,防止出现信息泄露的同时提供操作溯源,加强系统安全性。
审核人员对资产数据进行敏感操作(修改、删除)时,会触发审批通知机制,经核实批准后,资产数据才可被确认操作。
云道智造结合仿真软件专用化趋势,构建新一代云仿真平台Simcapsule,为细分行业专用软件开发者提供仿真软件的快速开发、在线运行和市场推广云平台。支持私有云和公有云部署,可通过任何支持 HTML5的浏览器随时随地跨终端访问平台、在线使用仿真应用。
快速开发
在线运行
市场推广云平台
跨终端访问平台
北塔端云IT服务管理软件,通过建立一种以流程为导向、以客户为中心的方法,明确定义各流程的目标、范围、步骤、人员责权利和关系等,推动复杂IT流程的标准化、规范化,实现以服务为中心的IT管理,提供低成本、高质量的IT服务。
一站式自助服务
个性化灵活配置
透明化管理过程
构造一体化管理平台
云扩企业级机器人流程自动化智能平台是一个集成了流程管理、执行结果展示、计划任务,机器人管理以及用户管理的云端控制台系统,使您能够协调您的云扩RPA机器人对设计完成的工作流进行统一调度与执行,确保数据的安全,从而可以实现中心管理员对业务的全面掌控。
功能完备
高效稳定