近年来,随着深度生成、大模型等生成式人工智能技术的快速发展,社交平台、视频网站上出现了大量高质量图像、视频、音频等生成媒体信息,人眼已经难以分辨其真伪,进行生成媒体信息检测的重要性日益凸显。我国《人工智能生成生成媒体标识办法(征求意见稿)》《网络安全技术 人工智能生成合成内容标识方法》等政策标准为生成媒体的检测能力提出相关要求。国内各企业已经推出多款用于人工智能生成媒体检测的平台工具,但目前尚处于起步阶段,且针对此类工具缺乏统一的评估指标,因此存在检测工具选型困难、难以判断检测结果权威性等痛点问题。
中国信息通信研究院为解决困扰行业的痛点问题,凝聚行业共识,联合阿里巴巴等单位研制《电信网和互联网人工智能生成媒体检测技术实现指南》行业标准,指导生成媒体检测技术的设计、开发、应用和实施,并评估针对图像、视频、音频等多种模态的生成媒体检测工具相关能力。现组织开展标准试点工作,并面向行业征集首批标准试点单位。具体信息如下:
CCSA中国通信标准化协会 通信行业标准:《电信网和互联网人工智能生成媒体检测技术实现指南》
对人工智能生成媒体检测工具进行能力评估,确认其在实际应用中的精确度,帮助检测技术提供者客观评估技术能力、为检测工具选型提供参考。
人工智能生成媒体检测工具提供企业、组织、机构等均可报名参加试点工作;试点单位需提供人工智能生成媒体检测工具用于评估,包括检测工具的基本信息、封装后的算法模型等。
依据《电信网和互联网人工智能生成媒体检测技术实现指南》制定评估实施细则;对试点单位提供的工具开展评估,并出具评估报告。
申报单位需提交《生成媒体检测工具评估试点申请表》(点击文末链接获取),申报材料应真实、完整、准确,并符合相关要求。
在截止日期前将盖章扫描后的《生成媒体检测工具评估试点申请表》和电子word版发送至邮箱zhantiancheng@caict.ac.cn。
詹老师
18519795531
景老师
18801301771