OpenAI将强化AI生成内容溯源与验证体系,支持欧盟AI透明度准则
OpenAI宣布支持欧盟委员会发布的《AI生成内容透明度实践准则》(Code of Practice on Transparency of AI-Generated Content),旨在推动可信AI生态建设,并加强AI生成内容的来源追踪与透明化。
OpenAI表示,该准则是落实European Union《AI法案》(EU AI Act)的重要一步。此次支持建立在OpenAI多年来围绕内容溯源(provenance)的研究、产品开发及生态合作基础之上。
据介绍,OpenAI自2024年起已开始在DALL·E 3图像生成工具中加入C2PA元数据,用于标识AI生成内容来源。此后,OpenAI持续完善内容标记、检测技术,并推出公开验证工具,帮助用户判断图片是否包含与OpenAI生成内容相关的来源信号。OpenAI表示,其目前采用多层次内容溯源方案,包括:
为ChatGPT、Codex及API生成图片加入C2PA Content Credentials;
在AI生成图片中结合C2PA元数据与SynthID水印,提高来源识别能力;
推出公开验证工具,帮助用户检测支持的图片是否包含OpenAI生成来源信号;
参与Coalition for Content Provenance and Authenticity (C2PA)标准建设,推动行业统一内容溯源规范。
OpenAI指出,AI内容溯源技术仍处于发展阶段,元数据可能因上传、下载、格式转换或截图等操作丢失,水印也可能受到影响。因此,需要整个行业共同推动更加可靠、互操作的验证机制。
OpenAI表示,将继续加强产品中的内容透明度建设,参与开放标准制定,并与欧盟AI办公室、成员国及全球AI社区合作,推动建立更加安全、透明和可信的AI生态。
