Meta 创建了一个新系统，不错在东说念主工智能生成的音频片断中镶嵌名为“水印”的装璜信号网页版登录入口，有助于在相聚上检测东说念主工智能生成的内容。

该器具名为 AudioSeal，它不错在长达一小时的播客中找到哪些音频片断可能是由东说念主工智能生成的。这是第一个能杀青该功能的器具。

Meta 的谈判科学家哈迪·埃尔萨哈尔（Hady Elsahar）示意，它不错匡助处治语音克隆器具带来的日益严重的失实信息和骗局问题。

咱们依然看到，骗子使用生成式东说念主工智能创建了乔·拜登（Joe Biden）总统的深度伪造音频，还有东说念主使用深度伪造勒诈受害者。表面上，水印期间不错匡助酬酢媒体检测和删除这些内容。

关联词，也有一些问题需要正经。Meta 示意，它还莫得蓄意将水印诓骗于使用其器具创建的东说念主工智能生成的音频中。

音频水印期间尚未被平凡聘请，也莫得达成一致的行业圭臬。东说念主工智能生成内容中的水印经常很容易被改变、删除或伪造。

埃尔萨哈尔说，快速检测和精笃定位音频文献中哪些元素是东说念主工智能生成的，不错让检测系统更好地发达作用。

他说，该团队在检测水印时杀青了 90% 到 100% 的准确率，比之前尝试的效果要好得多。

（着手：STEPHANIE ARNETT/MIT TECHNOLOGY REVIEW | PUBLIC DOMAIN）网页版登录入口

AudioSeal 在 GitHub 上免费开源。任何东说念主王人不错下载它，并使用它为东说念主工智能生成的音频添加水印。它最终不错“依附”在东说念主工智能音频生成模子之上，从而自动诓骗于使用它们生成的任何音频。

缔造它的谈判东说念主员将于 2024 年 7 月在奥地利维也纳举行的海外机器学习会议（ICML，International Conference on Machine Learning）上先容他们的职责。

AudioSeal 是使用两个神经相聚创建的。一个用于生成不错镶嵌到音轨中的水印信号。这些信号是东说念主耳无法察觉的，但不错使用另一个神经相聚快速检测到。

现在，若是你念念在更长的音频片断中发现东说念主工智能生成的陈迹，你必须将整个这个词音频分红好多个几秒长的片断，望望其中是否有水印。

这是一个冉冉而极重的历程，无法用于那些包含了数百万分钟语音的酬酢媒体。

AudioSeal 的职责面容不同。通过在整个这个词音轨的每个部分镶嵌水印，水印被“土产货化”了。这意味着即使音频被剪辑或编著，水印仍然不错被检测到。

芝加哥大学计较机科学涵养 Ben Zhao 说，这种才略和接近完好的检测精度使 AudioSeal 比他夙昔见过的任何音频水印系统王人要好。

非牟利组织 Partnership on AI 的东说念主工智能和媒体诚信厚爱东说念主克莱尔·莱博维茨（Claire Leibowicz）示意：“探索晋升水印期间水平的谈判是有真理的，尤其是在语音等弁言中。这些弁言经常比视觉内容更难美艳和检测。”

但是，在大鸿沟聘请这些音频水印之前，还需要克服一些主要残障。

Meta 的谈判东说念主员测试了不同的挫折来回除水印，最终发现对于水印算法的信息显露得越多，它就越容易受到挫折。该系统还条目东说念主们自觉将水印添加到他们的音频文献中。

Zhao 说，这给器具带来了一些基本的箝制。他说：“若是挫折者拿到了水印检测器，它就会变得很是脆弱。”这意味着唯有 Meta 才气考据音频内容是否是东说念主工智能生成的。

莱博维茨示意，尽管水印四肢一种处治决议在科技行业很受宽贷，但她仍然不肯定水印内容上会增强公众对他们所看到或听到的信息的信任。这在一定进程上是因为他们很容易受到诱拐。

她补充说念：“靠近伪造内容，我怀疑任何水印系统的鲁棒性。”

作家简介：梅丽莎·海基莱（Melissa Heikkilä）是《麻省理工科技褒贬》的资深记者，她预防报说念东说念主工智能高出如何改变咱们的社会。此前，她曾在 POLITICO 撰写掂量东说念主工智能计谋和政事的著述。她还曾在《经济学东说念主》职责，并曾担任新闻主播。

支撑：Ren

运营/排版：何晨龙网页版登录入口