OpenAI加入C2PA委员会,增加透明度

摘要: OpenAI正在加入内容出处和真实性联盟(C2PA)指导委员会,并将将Open Standards的元数据整合到其生成的AI模型中,以提高周围生成的内容的透明度。

OpenAI加入C2PA委员会,增加透明度

OpenAI加入C2PA委员会,增加透明度

OpenAI宣布加入Coalition for Content Provenance and Authenticity(C2PA)委员会,并将该开放标准的元数据整合到其生成式AI模型中,以增加生成内容的透明度。

C2PA标准允许数字内容通过元数据进行认证,证明其来源,无论是完全由AI创建,使用AI工具编辑,还是传统方式捕捉。OpenAI已经开始向其最新的DALL-E 3模型输出中的图像添加C2PA元数据,该模型在CHAT GPT和OpenAI API中使用。当OpenAI的即将推出的视频生成模型Sora更广泛地推出时,元数据将被整合进去。

OpenAI解释说:“人们仍然可以在没有这些信息的情况下创建欺骗性内容(或者可以将其删除),但他们无法轻易伪造或更改这些信息,这使其成为建立信任的重要资源。”

此举是在人们对AI生成内容可能在今年美国、英国和其他国家的重大选举前误导选民的担忧日益增长的背景下进行的。验证AI创建的媒体可以帮助打击旨在进行虚假信息传播的Deepfake和其他篡改内容。

除了C2PA整合外,OpenAI还正在开发新的溯源方法,如用于音频和图像检测分类器的防篡改水印,以识别AI生成的视觉内容。

OpenAI已经向研究人员开放了对其DALL-E 3图像检测分类器的访问申请,通过其Researcher Access Program。该工具预测了一张图片是否来自OpenAI的模型。

公司表示:“我们的目标是促进独立研究,评估分类器的有效性,分析其在现实应用中的情况,提出这种用法的相关考虑,并探索AI生成内容的特征。”

内部测试显示,该分类器在区分非AI图像和DALL-E 3视觉图像方面具有很高的准确性,约有98%的DALL-E图像被正确识别,不到0.5%的非AI图像被错误标记。然而,该分类器在区分DALL-E生成的图像和其他生成式AI模型生成的图像方面更有困难。

OpenAI还将水印技术整合到其Voice Engine自定义语音模型中,目前处于有限预览阶段。

公司相信,增加溯源标准的采用将导致元数据伴随内容通过其完整生命周期,填补“数字内容真实性实践中的一个关键空白。”

OpenAI正在与微软合作,共同推出一项价值200万美元的社会韧性基金,以支持AI教育和理解,包括通过AARP、国际民主与选举支持机构和人工智能合作伙伴关系。

公司表示:“虽然上述技术解决方案为我们提供了积极的防御工具,但实际上实现内容真实性需要集体行动。”

“我们在溯源方面的努力只是更广泛行业努力的一部分-我们许多同行研究实验室和生成式AI公司也在推进这一领域的研究。我们赞扬这些努力-行业必须合作并分享见解,以增进我们的理解,并继续在线上推广透明度。”

(照片由Marc Sendra Martorell)

© 版权声明

相关文章

暂无评论

暂无评论...
TAB栏自定义颜色

背景颜色

文字颜色