中共使用“AI虚拟人”猛烈谩骂攻击台湾总统蔡英文

0
1483
蔡英文12日在美國知名哥倫比亞大學(Columbia University)發表演說

【2024年01月11日讯】台湾总统大选前的敏感时刻,台湾国安官员在1月9日的一场简报会上披露中国国安部首度利用大量生成的“AI虚拟主播”对台湾总统蔡英文展开大规模的抹黑谩骂攻击,短短3天之内就产制数百则相关视频,企图借由打击蔡英文进而对民进党总统候选人赖清德的选情造成附带伤害。

一月初,在油管(YouTube)以及脸书(Facebook)上出现大量批评蔡英文的短视频,不分男女,甚至还有外籍人士,分别操普通话、粤语等多种口音的主持人同声谩骂。

有的骂蔡英文是“沉迷于权力的欲望,对祖辈的荣耀传承毫不在意,刻意忘却根源”;有的嫌她“每项政策都收效甚微,不仅没有改善台湾民众的生活品质,还让他们深受政策之苦”;更有甚者,以不堪入目的言词,攻击蔡英文私人领域话题。

台湾国安人士直指攻击来自中共

然而,只要稍加注意,就会发现,所有这些短视频都是以AI生成的“虚拟主持人”朗读文稿,也因此引发台湾国安单位关注。

台湾国安人士在简报会上揭露,这是中方针对台湾新型态的网络攻击模式,追查其传播途径发现,最早是在1月2日,一本长达318页,名为《蔡英文秘史》的电子书,被人经由假账号贴到境外储存平台“Zendo”上面。

随后在短短3天之内,书中抹黑蔡英文的内容就被拆分章节,制作成大量AI虚拟主播短视频,透过近千个账号,贴上油管,再快速地被转贴到数百个脸书粉专、Instagram及X(原名推特)等社交网站,以及台湾媒体所属的网络平台。

这些短视频都是以中国知名厂商“字节跳动”所推出的剪辑软件“剪映”制成。公开信息显示,“剪映”在2023年的更新版本中加入了AI虚拟主播功能,只要输入文本,就可以生成不同主播、不同口音的短视频,一般网民就能轻易操作。

台湾国安人士追查发现,这是一次由中国国安部等单位协同展开的网络攻击,不仅传播模式与台湾及西方各国先前相互通报的攻击型态高度吻合,甚至部分被用来发起攻击的账号也是重复使用。他说,这项抹黑行动就是常见的中国国安部这样的单位的手法,里面有一些账号也是近期他们相关操作常用的账号。

台湾国安人士进一步指出,2023年10月加拿大政府披露中国以网络恶意评论攻击、抹黑加国总理特鲁多及数十名特定国会议员的手法雷同,而这次针对蔡英文攻击,在协同模式上如出一辙,只是又结合了生成式AI新科技,如此大规模的攻击特定国家元首,恐怕是全球首见。

海量AI视频攻击 学者指为“协同行为火力展示”

美国内华达大学拉斯维加斯分校政治系助理教授王宏恩也注意到此次攻击事件,他在脸书贴文指出,这类攻击的重点在于快速生成上百支影片上传,虽然单支点阅率趋近于零,但目的就是要造成网络声量变化。他形容这是一次“十足的协同行为火力展示”,规模也比先前追踪研究的个案大很多。

王宏恩在回复美国之音的电邮中进一步分析,使用AI主播,只需要一部电脑就能完成,光是不需要找真人拍摄这点就可省掉十几倍的时间,目的主要是企图操弄社交网站的演算法设定,因为大量的账号在短时间上传内容接近的东西,就可能让演算法误以为是重要的新议题,自动推送给更多读者。

此外王宏恩认为中国以此操弄台湾议题,更是直接影响台湾的民意形塑,让台湾民众不知道哪些议题才是更重要的,尤其是将卸任的蔡英文满意度还很高,具有凝聚中间选民的动员效果,所以中国希望打击她来降低赖清德的得票。

台北大学犯罪研究所副教授沈伯洋指出,值得庆幸的是,不论油管或脸书,对于假账号跟虚假信息都已经提高警觉,因次这次攻击发起后几天之内,就有数百个相关账号遭到删除,增加了攻击者操作的难度。

但沈伯洋同时指出,类似的网络“饱和式攻击”虽然难以在网络平台长期散布,但在关键时刻大量散布谣言所造成的伤害仍不容小觑。

沈伯洋告诉美国之音:“比如战争的时候,突然大量的特定资讯的攻击,大概在战争的时候可以用到,又或者说像现在已经接近选举,大家已经没有时间查证,你突然一次的饱和性攻击,多多少少会有些效果。”

AI科技造谣 学者:慎防假信息内容翻新

此外,AI视频所使用的文本,同样值得关注,沈伯洋分析,此次攻击内容主要针对台湾总统蔡英文的私德,这在中国的舆论环境下或许有用,但在台湾的环境下却未必有用。

在台北的国防安全研究院网络安全与决策推演研究所助理研究员吴宗翰指出,未来值得警惕的是,中共针对不同的攻击事件可能发展出更贴近台湾社会的文本。

吴宗翰说:“就是台湾发生的一些时事,他很多评论文字或用语等等,也都会从台湾的环境里面去汲取,然后快速地生成,未来趋势应该是会非常贴近时事,产生的速度也会越来越快。”

除了技术与速度的攻防之外,针对2024年包括美、日、韩等多国都要选举,王宏恩也指出,这种使用上百支影片的AI语音攻击方式此后也势必会出现在其他国家的选举上,创造对中国有利的议题方向。

(美国之音)