新华网发布“AIGC-Safe全域内容安全与模型安全综合服务平台” 护航AI技术向善

作者:王晨 分类:默认分类 时间:2024-09-20 20:20
软件著作权服务中心-企业CBD - 服务中心

新华网北京9月20日电(向思敏)9月20日上午,在北京文化论坛“文化潮流:新兴业态与技术融合”论坛上,新华网副总裁张芮宁重磅发布“AIGC-Safe全域内容安全与模型安全综合服务平台”。张芮宁介绍,该平台的推出,旨在为狂飙突进的AI技术系上“安全带”,护航技术向善、数智向善。




近年来,数字化浪潮澎湃兴起,人工智能(AI)技术正以前所未有的速度重塑世界。然而伴随这一技术革命而来的,不仅是前所未有的机遇,还有难以驾驭的风险。
世界经济论坛《2024年全球风险报告》把“信息错误和虚假信息”列为最大的短期风险。黑客利用AGI侵入性工具大幅缩短人工智能生成威胁的时间,将攻击目标从个人数字资产扩大至AI算力基础设施和大模型,甚至威胁公民人身安全与国家安全。AI“换脸”诈骗,AI伪造图文传播谣言,AI生成涉政、涉暴、涉恐、涉黄等违法违规内容……种种乱象,严重侵犯公民合法权益,扰乱社会秩序。同时,公共显示屏也因数量众多、区位分散、传统防御监管手段响应效率不高等现状,成为内容安全事故的“多发区”。
面对严峻形势,全球范围内对AIGC进行合规性监管的共识日益增强。我国在这一领域更是走在世界前列,政策、立法、伦理、标准多维度并进,不断将人工智能治理共识转化为系统性规则规范和实践举措。



“新华网紧跟时代步伐,‘用AI守护AI,用大模型对抗大模型’,打造了AIGC-Safe全域内容安全与模型安全综合服务平台。”张芮宁介绍。网络安全的攻防从人和人之间的对抗,已经升级到AI和AI之间的对抗,只有AI驱动的防护和检测才能识别AI驱动的伪造和攻击。
该平台构筑起四大核心技术能力:在模型层面,推出国内首个伪造检测大模型,并搭建AI攻防平台和数据生成基座以保障模型持续更新;在数据层面,依托承办中国互联网联合辟谣平台的优势,积累了海量谣言大数据和不良信息特征库,针对伪造算法和合成数据进行储备与训练;在算法层面,通过算法的深度优化,确保模型在各种环境和场景下,都能高效精准部署应用;在硬件层面,适配国产芯片,优化软硬件协同和网络加速,研发出保障信创安全的一体机产品。
通过现场演示,观众直观感受到AIGC-Safe平台不仅具有强大的内容合规审核能力,能够对字、词、标点、知识性差错及通用内容和AIGC内容进行全面检测,还拥有卓越的AIGC检测能力——无论是AI生成的文本、视频还是多模态内容,平台都能迅速识别,可用于判断各类网络信息是否真实、检测学术论文是否造假;对于深度伪造的视频、图像、合成语音等,平台能快速识别并标记其伪造痕迹,可用于检测AI换脸诈骗、数据造假、虚假情报等众多安全场景。
此外,作为线上线下全域覆盖的内容安全检测平台,AIGC-Safe通过云边端一体化的方式,为公共显示屏内容及播控安全提供了全面解决方案。面对诸如公交站台显示屏被黑客攻击劫持等突发事件,平台能够迅速响应并提供整体安全解决方案,确保信息传播的稳定性和安全性。
AIGC-Safe具有广阔的场景应用前景,可广泛应用于虚假情报检测、特定人物伪造检测,AI换脸、语音合成诈骗检测,开户换脸检测、新闻真实性检测、学术作弊检测,票证鉴伪,公共显示屏内容安全管控、舆情风险管控、版权风险管控等诸多领域,在实际场景中解决AI发展伴生的实际问题。
作为中央重点新闻网站和新型数智化文化企业,新华网一直努力探索发展自身的人工智能技术创新应用。此前已推出新华AIGC应用使能平台、新华AI学术科研原创助手、“智政通”政策与公共服务AIGC自然语言交互系统等多个平台和产品。展望未来,新华网将以AIGC-Safe平台为基石,勇毅担当、创新技术、拓展场景,为AI时代每一个“你我他”的安全保驾,以扎实的全域内容安全与模型安全综合服务实力,为数字中国行稳致远护航。


当前用户暂时关闭评论 或尚未登录,请先 登录注册
暂无留言
版权所有:拓荒族 晋ICP备17002471号-6