拜登机器人电话：音频深度造假加剧了对选举虚假信息的担忧

　　华盛顿:2024年的白宫竞选面临着人工智能虚假信息泛滥的前景，一个模仿美国总统乔·拜登的机器人电话已经引起了人们对音频深度伪造的特别警惕。

　　“真是一堆胡言乱语，”这条电话留言说，用数字技术模仿了拜登的声音，呼应了他的一个标志性短语。

　　这则自动电话敦促新罕布什尔州居民不要在上个月的民主党初选中投票，促使该州当局对可能的选民压制展开调查。

　　它还引发了活动人士的要求，要求对生成式人工智能工具设置更严格的护栏，或彻底禁止机器人电话。

　　虚假信息研究人员担心，由于语音克隆工具的激增，人工智能驱动的应用程序在关键的选举年被猖獗滥用。语音克隆工具便宜、容易使用，而且难以追踪。

　　网络安全公司Pindrop的首席执行官兼联合创始人维贾伊·巴拉苏布拉马尼扬告诉法新社:“这当然只是冰山一角。”

　　“在整个选举周期中，我们可以看到更多的深度造假。”

　　Pindrop发布的一份详细分析报告称，人工智能语音克隆初创公司ElevenLabs开发的文本转语音系统被用来制作拜登的自动电话。

　　这一丑闻发生之际，美国两党竞选者都在利用先进的人工智能工具进行有效的竞选宣传，科技投资者也在向语音克隆初创公司投入数百万美元。

　　Balasubramaniyan拒绝透露Pindrop是否与ElevenLabs分享了自己的研究结果。据彭博新闻社(Bloomberg News)报道，该公司上个月宣布获得一轮融资，估值达到11亿美元。

　　ElevenLabs没有回应法新社的多次置评请求。它的网站将用户引导到一个免费的文本转语音生成器，可以“立即用任何语言创建自然的人工智能声音”。

　　根据其安全指导方针，该公司表示，如果用户“表达幽默或嘲弄”的方式“让听众清楚地知道他们听到的是模仿，而不是真实的内容”，用户可以在未经允许的情况下制作唐纳德·特朗普等政治人物的语音克隆。

　　美国监管机构一直在考虑将人工智能生成的机器人电话定为非法，而拜登的假电话则为这一努力提供了新的动力。

　　“政治上的深刻时刻就在这里，”倡导组织“公共公民”(Public Citizen)的主席罗伯特·韦斯曼(Robert Weissman)说。

　　“政策制定者必须赶紧采取保护措施，否则我们将面临选举混乱。新罕布什尔州的深度造假提醒我们，深度造假可以通过多种方式制造混乱。”