据报道，人工智能技术不断更新，网络诈骗案的手段也花样百出。美国有骗徒使用网络上几可乱真的人工智能（AI）语音克隆工具，假冒受害者亲朋好友骗钱。根据联邦贸易委员会的数据，去年，美国人在冒名顶替诈骗中损失26亿美元（约202.8亿港元）。专家表示，AI对人类最大的威胁，是模糊了真实和虚构的界线，让诈骗犯利用廉价又有效的AI技术来散播假信息。
AI普及后，电信诈骗犯只需要在网上下载一个免费AI软件，再利用某人几秒钟的声音样本，就能创造新的对白。总部位于美国的McAfee Labs上个月发布报告，在一项针对美国等九个国家共7000人的全球调查中，四分之一的人表示，他们自己或身边的人经历过AI语音克隆骗局。70%的受访者表示，他们不确定自己能否“分辨出克隆声音和真实声音之间的区别”。
Blackbird.AI行政总裁哈立德表示：“AI语音克隆现在与真实人声几乎无法区分，这让骗徒能够更有效地从受害者那里获取信息和资金。”哈立德说，通过一个简短的音频样本，AI可以生成语音文本、邮件，甚至可以制作实时语音转换器，诈骗者可以使用不同的口音、性别，模仿受害者亲属的说话方式，创造出令人深信不疑的假音频。
美国联邦调查局（FBI）特工约翰逊表示，美国家庭平均在每次虚假绑架骗局中损失11000美元（约8.58万港元）。根据联邦贸易委员会的数据，去年，美国人在冒名顶替诈骗中损失26亿美元（约202.8亿港元）。
1月20日下午，住在亚利桑那州的母亲德斯特凡诺接到一通陌生来电，德斯特凡诺本想挂断，但一想到15岁的大女儿布丽安娜正在进行滑雪比赛训练，德斯特凡诺不由担心女儿是否出了意外，她接起电话，电话那头传来尖叫和哭泣声，“妈妈！帮帮我！”德斯特凡诺后来接受采访时回忆，她当时十分确信电话那头是女儿的声音，女孩连哭泣的音调都与布丽安娜一模一样，“我没有一秒怀疑。”
电话那头很快传来诈骗者的声音，对方声称绑架了布丽安娜，要求德斯特凡诺支付100万美元赎金。德斯特凡诺手足无措，试图说服对方降低赎金金额，并让一旁的小女儿打给与布丽安娜一起前往滑雪场的父亲，但父女两人一直杳无音信。好在旁边的路人帮忙打电话报警，警方获悉后判断德斯特凡诺遭遇诈骗，布丽安娜也在数分钟后打电话向母亲报平安，这才让德斯特凡诺免于钱财损失。
美国联邦官员表示，诸如此类的冒名顶替骗局已经存在多年，骗徒青睐联系受害者的祖父母等亲人，谎称他们的孩子出事，借此诈骗钱财，绑架者通常会使用通用的尖叫录音。但官员警告说，AI普及后，此类骗案正变得越来越难识破，因骗徒能够轻而易举克隆声音，并创造“对白”。
加州大学伯克莱分校计算机科学教授法里德表示，AI在诈骗者手中被武器化，“一段不到一分钟的音频，就能创建一个相当完整的克隆语音，有些人甚至说只需几秒钟就足够了。”法里德补充说，在AI软件的帮助下，每月只需5美元就能轻松实现语音克隆。
不过，法里德指出，据他所知当前版本的AI软件无法通过克隆声音来表达各种情绪，但不能完全排除已经出现更先进的技术。
今年早些时候，AI创业公司ElevenLabs承认，其语音克隆工具可能被滥用于“恶意目的”。此前，有用户利用该公司的软件发布了一段演员艾玛华森阅读希特勒自传《我的奋斗》的深度伪造音频。
风险投资公司Team8技术总监霍赫伯格说，人们很快无法再相信网络上所见的一切，需要有新的技术来帮助确认网络对面的到底是不是自己认识的人。（据海外网）
