赋能未来媒体与科技融合之路

新华网北京9月20日电

近年来，数字化浪潮澎湃兴起，人工智能（AI）技术正在狂飙突进，重塑世界。
随之而来的是难以驾驭的风险。
在这一背景下，新华网紧跟时代步伐，推出了AIGC-Safe全域内容安全与模型安全综合服务平台，旨在护航AI技术的健康发展。

一、AIGC时代的内容安全挑战

随着人工智能技术的迅速发展，信息错误和虚假信息已成为最大的短期风险。
黑客利用AGI侵入性工具对人工智能构成威胁，导致生成内容的安全性问题日益突出。
AI换脸诈骗、AI伪造图文传播谣言、AI生成涉政、涉暴、涉恐、涉黄等违法违规内容等现象严重侵犯了公民的合法权益，扰乱了社会秩序。

二、全球视野下的AI合规性监管共识

面对严峻形势，全球范围内对AIGC进行合规性监管的共识日益增强。
我国在这一领域更是走在世界前列，从政策、立法、伦理、标准等多个维度推进人工智能治理。
新华网紧跟这一趋势，致力于打造AIGC-Safe全域内容安全与模型安全综合服务平台，用AI守护AI，用大模型对抗大模型。

三、AIGC-Safe平台的四大核心技术能力

AIGC-Safe平台构筑了四大核心技术能力：

1. 推出国内首个伪造检测大模型，保障模型持续更新；
2. 依托中国互联网联合辟谣平台的优势，积累谣言大数据和不良信息特征库；
3. 通过算法的深度优化，确保模型在各种环境和场景下都能高效精准部署应用；
4. 适配国产芯片，研发出保障信创安全的一体机产品。

四、强大的内容合规审核与AIGC检测能力

AIGC-Safe平台不仅具有强大的内容合规审核能力，能够对字、词、标点、知识性差错及通用内容和AIGC内容进行全面检测，还拥有卓越的AIGC检测能力。
无论是AI生成的文本、视频还是多模态内容，平台都能迅速识别，可用于判断网络信息真实性、检测学术本文是否造假等。

五、广泛的应用场景

AIGC-Safe平台具有广阔的应用场景，可广泛应用于虚假情报检测、特定人物伪造检测、AI换脸、语音合成诈骗检测、开户换脸检测、新闻真实性检测、学术作弊检测、票证鉴伪、公共显示屏内容安全管控、舆情风险管控、版权风险管控等领域。

六、新华网的AI技术创新应用

作为中央重点新闻网站和新型数智化文化企业，新华网一直努力探索发展自身的人工智能技术创新应用。
此前已推出多个平台和产品，如新华AIGC应用使能平台、新华AI学术科研原创助手等。
未来，新华网将以AIGC-Safe平台为基石，勇毅担当、创新技术、拓展场景，为AI时代每一个个体保驾护航。

七、结语

面对AI发展的伴生问题，新华网通过推出AIGC-Safe全域内容安全与模型安全综合服务平台，展现了其在人工智能治理领域的积极探索和领先实力。
该平台的推出将为数字中国行稳致远提供坚实的护航。
我们期待未来在这一领域看到更多的技术创新和应用拓展，共同迎接一个更加安全、健康、有序的AI时代。

---

---

相关标签： 平台、 AIGCSafe、 安全、 模型、 检测、

上一篇：大兴倾力打造文明城市新标杆展现古都风貌

下一篇：民众生活艰难也门战乱持续