由新华网联合中国科学院计算技术研究所(简称“中科院计算所”)等行业机构共同研发打造的“生成式人工智能内容安全与模型安全检测平台”(AIGC-Safe)邀请测试发布会日前在北京举行。该平台旨在联合行业权威生态伙伴共同加强AIGC行业监管,为AIGC产业安全治理和健康发展发挥重要作用。

邀请测试发布会现场。新华网 刘厦 摄

 在数字世界和物理世界加速融合的大背景下,生成式人工智能正在重塑甚至颠覆数字内容的生产方式和消费模式,越来越显性地影响着各行各业的变革,是未来迈入数字文明新时代不可或缺的支撑力量。今年以来,大模型技术与AIGC的快速融合发展,从技术层面提供以低边际成本、高工作效率满足海量内容个性化生产的方案,推动内容行业向更有创造力方向发展。但因其滥用而导致的对国家安全、经济发展和社会稳定的威胁与挑战也随之而来,对生成式人工智能服务的监管已成为全球治理重大课题。

新华网副总裁张芮宁致辞。新华网 刘厦 摄

 新华网副总裁张芮宁在致辞中表示,新华网作为新华社主办的中央重点新闻网站和具有强大创新实力的互联网上市企业,持续推进科技与传媒的深度融合,积极服务国家数字经济战略,践行使命担当。由中央网信办违法和不良信息举报中心主办、新华网承办的中国互联网联合辟谣平台,以“发布权威辟谣信息,提升网民媒介素养,营造清朗网络空间”为宗旨,初步形成“联动发现、联动澄清、联动处置、联动辟谣”的工作体系,已经成为网上权威辟谣信息的主信源、主渠道、主阵地。此次测试发布的AIGC-Safe,是新华网在AIGC安全治理中的一次重要探索。该平台有利于加强对AIGC多模态深伪内容的检测和防范,用AI守护AI,护卫行业更好发展。

中科院计算所党委委员王凡致辞。新华网 刘厦 摄

 中科院计算所党委委员王凡表示,新华网测试发布的AIGC-Safe,是构建“产、学、研、用”科研模式的一种尝试,是通过行业落地来检验科技的创新之举。中科院计算所将为该平台全力做好核心技术支撑,为AIGC行业的健康发展贡献力量。

中国科学学与科技政策研究会科研诚信与负责任创新专业委员会主任委员、中国科学院文献情报中心科研诚信研究中心副主任袁军鹏致辞。新华网 刘厦 摄

 中国科学学与科技政策研究会科研诚信与负责任创新专业委员会主任委员、中国科学院文献情报中心科研诚信研究中心副主任袁军鹏表示,AIGC在提升效率的同时也对科研生态造成了挑战,期待与各界携手,以准确、可靠的AIGC检测产品,共同推进科研科学的发展,营造诚信、公正、透明的科研环境。

AIGC-Safe平台首席技术专家曹娟测试发布AIGC-Safe。新华网 刘厦 摄

 AIGC-Safe平台首席技术专家曹娟现场进行了测试发布。平台产品基于国版链(国数链)的数字资产与数据要素管理技术底座,依托中科院计算所的技术积累打造,已形成AIGC深伪内容检测和模型检测两大核心能力,并可开放赋能各类AIGC检测业务场景。模型安全从训练数据安全、模型防攻击、模型输入安全三方面来保障从训练到推理的全过程;内容安全覆盖文本、图像及音视频的检测,保障内容的真实性与合规性,实现双重安全防护。

 此次AIGC-Safe平台测试发布,重磅上线内容安全检测功能,以领先的检测大模型和深度伪造内容大数据为支撑。文本检测支持AI生成的鉴别;图像与视频检测可覆盖人脸生成、人脸编辑、人脸替换、表情迁移等深度合成伪造,以及AI生成、PS篡改检测;音频伪造检测支持TTS和VC音频合成检测,覆盖主流音频合成算法。AIGC-Safe平台内容安全功能检测速度快、准确率高、易于部署,有效降低产业安全技术投入成本,提高安全保护效率,可广泛应用于虚假新闻、AI换脸诈骗、活体攻击、版权内容保护和学术诚信等多种检测场景,可为媒体、教育、金融、公安等领域的AIGC安全治理保驾护航。

 发布会现场设置了邀请测试环节,AIGC-Safe对参会嘉宾提供文本、图片、音频、视频等多模态AI生成或伪造的素材进行了在线实测,检测范围覆盖主流AI生成算法,准确率、响应时间等性能表现优越,获得现场嘉宾一致认可。

圆桌对话环节。新华网 刘厦 摄

 发布会还举行了以“用AI守护AI”为主题的圆桌对话。曹娟、袁军鹏及中国互联网联合辟谣平台运营中心总监荆克、中国南方航空公司信息中心中台架构部副经理陈璟、腾讯智影生态负责人王辉、橙盾信息科技有限公司(阿里巴巴控股)信息安全产品总监雷涛分享了精彩观点。行业专家及百度、360、微博、知乎、知网、国版链(国数链)超级节点逸融科技、中科睿鉴等机构代表到场参会。

 据介绍,面对AIGC领域技术快速迭代和新业务场景不断涌现等多重挑战,AIGC-Safe将联合行业管理机构、大模型研发机构、新闻媒体单位、数字场景应用平台等合作伙伴,发起构建“生成式人工智能内容规范治理发展生态矩阵”,护航数字技术创新和应用,打造数字内容安全治理“新范式”。