南宁市国家保密局欢迎您!
您的位置:首页 > 保密科技

AI 被滥用的风险:小心你的声音安全

发布时间:2023-11-24 16:16   来源:中国保密在线   作者:
 

                                

    打开哔哩哔哩平台,不少网友都看到一条“孙燕姿翻唱《发如雪》”的视频推送,乍一听和孙燕姿声线相当相似,仔细看弹幕才发现,原来是AI模仿的作品。有网友不禁感叹:“2003年大火的歌手:孙燕姿;2023年爆火的歌声:AI孙燕姿。”

  

 继绘画、文案之后,人工智能(AI)又将触手伸向了音乐圈。凭借模仿“天王天后”的独特音色和翻唱经典歌曲,AI歌手在这个夏天成为众多创作者的流量密码。当足以以假乱真的孙燕姿AI合成语音歌曲刷爆朋友圈时,你可能还未意识到,一场空前严峻的网络威胁已经按响了每个家庭的门铃。

  

 你听到的声音可信吗?在我们的认知中,每个人的声音都是独一无二的,相当于生物识别指纹,这就是为什么“电话确认”是一种被广泛接受的身份验证方式。但随着人工智能技术的狂飙猛进,AI可以学习歌手的声音,也能学习你我及身边任何一个人的声音。比如,地图应用中的导航播报,仅用少量自己的声音,就能生成个人定制版的语音导航。

  

 与此同时,当犯罪分子获取了足够的语音样本,就能利用机器和算法快速学习你的声纹特征,通过伪造合成你的声音,给你的亲朋好友打电话实施诈骗,而这种诈骗的成功率显然要远高于传统的电话诈骗。更可怕的是,语音合成技术不仅能模仿演算出人的声音,还能在声音中加入“感情”元素,让其听上去更为逼真。这就意味着,人工智能合成语音带来的社会工程学攻击势必杀伤力更强。

  

 冒充你的语音有多容易?不久前,全球知名安全技术公司McAfee对来自7个国家的7000多人进行了调查,发现已有1/4的成年人经历过某种形式的AI语音诈骗,10%的受害者表示遭受了经济损失,而受访的成年人中70%表示自己很难区分克隆语音和真人语音。

  

 研究人员花了3周时间调查人工智能语音克隆工具的可访问性、易用性和有效性,并在互联网上发现了十几种免费的语音克隆工具,许多工具只需要基本的经验和专业知识即可使用。其中,一种工具只要3秒的语音素材就足以产生匹配度高达85%的克隆语音,而更长的素材和训练时间则可以进一步提高其准确性。此外他们还发现,最新的语音克隆工具已经能够“全球通吃”,无论目标对象来自美国、英国、印度还是澳大利亚,都能毫不费力地复制其口音。

  

 如何保护自己的声音安全?目前,目标对象的声音是犯罪分子武器库中最强大的工具之一。调查显示,53%的成年人每周至少在网上分享一次他们的语音数据,如通过社交媒体、语音笔记等。减少在社交平台中发送带有自己真实声音的视频、音频内容,是眼下进行自我保护的最佳方案。此外,AI语音诈骗成功率高,更多还是利用了人们对于未知事物的恐惧、慌张。研究表明,50岁以上的父母最有可能对孩子的“语音求救”作出反应,而容易得手的语音内容包括,孩子声称自己发生车祸、被抢劫、丢失手机或钱包,以及在旅行途中需要帮助等。

  

 目前,我国已经出台《网络音视频信息服务管理规定》,明确对于“非真实音视频信息”应当予以标识,而这仅仅是与语音合成技术交手的开端,想要进一步给AI语音诈骗戴上镣铐,未来还有很长一段路要走。

  


分享到: