美国政府推进的水印和内容认证进展如何？
T. Ryan-Mosley
麻省理工科技评论APP
麻省理工科技评论APP
MIT-TR-China
源自麻省理工学院，关注新兴科技的过去、现在和未来。
发表于
当地时间 10 月 30 日，美国总统拜登发布了关于人工智能的行政令，你应该已经听说过这一重大监管举措。
对我来说，行政令中最有趣的部分是着重强调了水印和内容认证。我之前写过一些关于这些技术的文章，它们旨在标记内容和信息，以确定它是由机器还是人类制作的。
该命令称，美国政府将推广这些工具，美国商务部将为其制定指导方针，而联邦机构未来将使用这些技术。简而言之，白宫在这些方法上下了很大的赌注，以此来对抗人工智能产生的错误信息。
在当地时间 11 月 1 日举办的英国人工智能安全峰会上，对这些技术的推广仍在继续。美国副总统卡玛拉·哈里斯（Kamala Harris）表示，美国政府正在鼓励科技公司“创造新的工具，帮助消费者辨别音频和视频内容是否是人工智能生成的”。
虽然目前还不清楚这一切将如何推进，但一位美国政府高级官员告诉记者，白宫计划与开源互联网协议背后的组织合作，该组织被称为内容来源和真实性联盟（C2PA，Content Provenance and Authenticity）。
幸运的是，我早在 2023 年 7 月份就深入研究了 C2PA，所以我给你整理了一些重要的信息。
C2PA 的基础是什么？
水印和其他内容认证技术提供了一种识别人工智能生成内容的方法，这不同于检测人工智能的使用，对是否使用了人工智能技术的检测是在事后进行的，而且如今被证明是几乎无效的。人工智能检测依赖于评估已有的内容，并尝试找到“这是人工智能创造的吗？”这一问题的答案。
相比之下，水印和内容认证（也称为出处技术）是模型上的可选功能。如果选择添加相关技术，那么在该模型中，内容创作者可以添加内容的出处以及它在网上传播时可能发生的变化的信息。开发者和政策制定者认为，这能提高受众对信息的信任度。
目前的大多数水印技术都是在内容中嵌入一个不可见的标记，以表明该内容是由人工智能制作的，然后由水印检测器识别该标记。内容真实性验证是一种更用途广泛的方法，它需要以受众可见的方式记录内容来源的信息，有点像元数据。
C2PA 主要专注于通过一种称为“内容凭据（Content Credentials）”的协议进行内容认证，不过该组织表示其技术可以与水印相结合。正如我之前写的那样，它是一种依赖密码学来编码一段内容起源细节的开源协议。
这意味着，例如图像的来源设备（如手机摄像头）、任何编辑工具（如 Photoshop）以及上传到的社交媒体平台等标记信息。随着时间的推移，这些信息会创建一种历史记录，所有这些信息都会被记录下来。
最终我们得到的是可以验证的信息，C2PA 的支持者将其类比成食物包装上的“营养标签”，上面标注的是内容来自哪里，无论它是否是机器生成的。近几个月来，随着许多公司争相开始验证其内容，该倡议及其开源社区正迅速发展。
（来源：STEPHANIE ARNETT/MITTR | UNSPLASH, ENVATO）
白宫是怎么想的？
总统行政令的关键部分指出，美国商务部将“制定检测人工智能生成内容和认证官方内容的标准和最佳实践”，并指出“联邦机构将使用这些工具，让美国人更容易知道他们从政府收到的通信（内容）是真实的，并为世界各地的私营部门和政府树立榜样。”
至关重要的是，正如同事和我在报道中所写的那样，该行政令没有要求行业参与者或政府机构使用这项技术。
尽管我交谈过的专家普遍对有关标准、水印和内容标签的规定感到鼓舞，但水印不太可能解决我们所有的问题。研究人员发现，这项技术很容易被篡改，导致错误的验证结果。
美国马里兰大学索海尔·费兹（
Soheil Feizi
）对水印技术进行了两项研究，发现它们“并不可靠”。
费兹
警告说：“想象一下，如果有一条推特或一条带有白宫官方水印的文本，但内容实际上是敌对国家写的。这可能会带来更多的问题，比它能解决的问题还要多。”
此外，他的研究还发现，隐形和防篡改的水印技术在理论上是“不可能的”，尽管他没有研究内容认证技术的有效性。
我问 C2PA 到目前为止与美国联邦政府的合作情况如何。该组织的政府事务小组联席主席穆尼尔·易卜拉欣（
Mounir Ibrahim
）在一封电子邮件中表示，该小组一直与包括国家安全委员会和白宫在内的联邦机构保持“定期联系”。
在另一封电子邮件中，一位发言人表示，C2PA 希望白宫的行动能提高人们对其“内容凭据”的认识和采用。
这位发言人没有透露任何关于联邦机构使用该协议的计划，但其表示，“C2PA 和内容凭据已经可以部署了，我们鼓励每个人都参与进来。我们随时准备教育和帮助任何机构开始测试和采用（相关技术）。”
版权：如无特殊注明，文章转载自网络，侵权请联系cnmhg168#163.com删除！文件均为网友上传，仅供研究和学习使用，务必24小时内删除。
