您的位置:首页>基金 >

天天热头条丨AI生成内容可以检测!准确率超90%

2023-03-01 16:35:27    来源:人民网


(资料图片仅供参考)

国内首个AI生成内容检测工具——AIGC-X官网截图。

人民网北京3月1日电 (记者申佳平)从AI绘画、AI作曲到虚拟人,再到近期爆火的ChatGPT, 伴随人工智能生成内容(AIGC)技术发展加速,内容生产方式迎来巨大变革。与此同时,在不断“生长”的互联网内容世界,找到一把明晰虚实、分辨真假的技术标尺,也成为关乎行业长远健康发展的关键。

人民日报社主管、依托人民网建设的传播内容认知全国重点实验室,中国科学技术大学,合肥综合性国家科学中心人工智能研究院联合推出的国内首个AI生成内容检测工具——AIGC-X今天正式开始全网公测,试用入口为http://ai.sklccc.com/AIGC-X/#/

据介绍,AIGC-X可快速区分机器生成文本与人工生成文本,目前对中文文本检测的准确率已超过90%。

传播内容认知全国重点实验室首席科学家张勇东表示,因具有对话咨询、文章写作、内容润色等广泛的应用场景,以ChatGPT为代表的AIGC技术迎来发展新阶段。随之而来的伦理规范、内容侵权、信息造假等风险挑战同样不容忽视,迫切需要推出针对性的检测产品,提升对内容生产新范式的监管治理技术能力。

他介绍,通过采用算法融合与知识驱动的人工智能框架,使用深度建模来捕捉困惑度、突现频次等隐式特征,AIGC-X可对AI技术生成的假新闻、内容抄袭、垃圾邮件进行检测,在内容版权、网络钓鱼、虚假信息和学术造假检测等内容安全、内容风控方面有广阔的应用前景。未来,AIGC-X还会扩展为对人工智能生成文本、图像乃至视频的通用智能识别模型。

“AIGC迫切需要适当的引导和规范。”传播内容认知全国重点实验室研究员靳国庆特别强调,要重视防范AIGC在虚假信息、学术造假、网络钓鱼等灰色领域的滥用。“AIGC-X将推动AI风险管理、安全评测技术的发展,为建立安全可控的AIGC生态提供技术支撑。”

据介绍,在此次发布AIGC-X之前,传播内容认知全国重点实验室已推出基于人工智能开发的“智晓助”和“白泽”两个内容风控系统,并在百余家机构使用。专注于内容风控业务的人民网信息技术公司已于AIGC-X开发了“捕获AIGC”产品,通过“人民审校”微信公众号对外发布。

工业和信息化部公布的数据显示,我国AI核心产业规模目前已超过4000亿元,企业数量接近4000家,带动相关产业规模超数万亿元,并将持续快速增加。行业专家预测,作为数字经济和实体经济深度融合的新模式,AIGC将在赋能产业创新发展方面大有作为。

张勇东表示,“AIGC-X不是一个静态的技术,而是随着AIGC的发展而发展的。”目前受限于时间和资源,AIGC-X对非常规问题和场景的支持还有待完善。例如,AIGC-X目前只支持中文内容的检测,对英文的支持有待提高;还需要进一步完善对图像、音视频等内容的检测能力,支持全媒体的内容检测,为AIGC的健康发展保驾护航。

(责编:王震、吕骞)关注公众号:人民网财经

关键词:

相关阅读