新加坡内政科技局研发AI模...

新加坡内政科技局研发AI模型 打击深伪音频

20968

(新加坡,3月26日)新加坡内政科技局目前已成功开发出能识别数种深伪音频的人工智能模型,并将继续提升模型能力,以便日后加强新加坡打击深伪技术的能力。

去年12月,就有不法分子利用深伪技术,串改总理李显龙的访谈视频,宣传加密货币骗局。副总理黄循财也深受其害,不法之徒通过使用深伪技术,企图让公众误以为副总理兼财政部长黄循财促销商业项目,吸引公众进行投资。

上个月,香港也发生首宗利用深伪技术,进行多人视频会议的诈骗案。骗徒通过多人视频会议,利用人工智能技术伪造其他与会者的样貌和声音,总共骗取2亿港元(约3437万新元)资金。

新加坡内政科技局 成功开发出能识别数种深伪音频的人工智能模型 (图片:网路)

印尼之前的选举,就曾发生不法分子深伪技术制作前总统苏哈多视频,试图拉拢选票。今年有许多国家举行选举,深伪AI的全面渗透及影响,将为选民辨别信息带来全新挑战。

凡事都有利弊,深伪技术若运在适当的领域,确实能够帮我们解决许多问题,例如影视业,当遇到演员因档期或其他原因无法参演,则可通过此技术而无需再次重拍。

内政科技局情报感知和监控专业研究中心副署长谢俊凯表示,深伪技术可以运用在许多对人类有益的事务上。例如有剧组运用类似的技术,重现一名因病失声演员的声音,或在教育课程中重现一些历史人物的声音和影像,来丰富教学体验。

谢骏凯表示,新加坡内政科技局的AI模型,能通过人工智能模型是通过分析音频,找出一些指定的缺陷或生成的痕迹,从而确认音频的真伪。他也强调,团队会和这个领域的专家学者合作,一同开发更先进的技术,以便更准确地侦测深伪音频或视频,从而继续加强团队所开发的模型。