导语
在当今科技飞速发展的时代,人工智能(AI)已经渗透到了我们生活的方方面面。然而,就像任何一把双刃剑,AI技术不仅为我们带来了便利,也可能被不法分子滥用,成为他们制造混乱和传播仇恨的工具。最近,一个名为"News Harvest"的AI新闻节目引起了反恐专家的高度关注,它展示了恐怖组织如何利用AI技术来快速、廉价地传播极端主义宣传。
AI驱动的极端主义宣传节目
根据情报组织SITE Intelligence Group提供的视频和聊天记录,ISIS支持者们正在利用AI技术制作一个名为"News Harvest"的虚拟新闻节目。该节目自3月份以来已经发布了近周一期,采用了与真实新闻节目类似的形式,包括标志、标题序列、滚动新闻条以及后期制作的画面。
最引人注目的是,该节目使用了AI生成的虚拟新闻主播,他们身穿战斗装备或正式长袍,朗读ISIS官方媒体机构如al-Naba和Amaq发布的消息。这些AI主播的面部特征有意被模糊处理,以避免违反伊斯兰教禁止描绘生物形象的教规。
SITE Intelligence Group的联合创始人Rita Katz表示,对于ISIS来说,AI技术意味着一个游戏规则的改变者。它将为他们提供一种快速传播宣传和报道暴力袭击的方式,使其触及世界几乎每个角落。
廉价且难以审查
AI视频生成器使得ISIS支持者能以一小部分成本制作出类似好莱坞级别的宣传视频,吸引年轻人加入。此外,AI工具制作出的宣传内容往往伪装成无害的形式,如新闻节目,这使得科技公司更难对其进行审查和管控。
相比ISIS在军事打击下遭受重创的现状,利用廉价且易用的AI工具制作宣传内容无疑是一大优势。在3月的一次私人信息中,一名ISIS支持者"Al Kurdi 500"就呼吁同伙采用AI技术,"因为媒体对于人民的影响力甚至比实际战争更大"。
其他恐怖组织也在关注AI工具
ISIS并非唯一一个关注AI工具的恐怖组织。根据MEMRI(中东媒体研究所)获得的信息,亲基地组织的媒体正在招募精通AI技术的人员,包括制作海报、撰写文章、视频编辑等。
另一个基地组织旗下的团体也曾发布了一份50页的指南,介绍如何利用ChatGPT等AI聊天机器人制造虚假信息。该指南开篇就说:"ChatGPT是一个强大的工具,让我们看看你能用它做些什么吧。"
挑战与担忧
反恐专家警告说,在科技公司做好相应审核之前,AI技术正在为恐怖分子提供更多机会快速制作并传播宣传内容,这无疑将加大打击恐怖主义的难度。
此外,一旦恐怖分子利用AI制作出高度真实和专业的虚假信息,将进一步加剧社会对这些组织的恐慌,助长仇恨和不信任的蔓延。
Aaron Zelin等专家还担心,AI工具的便利性可能会刺激国内极端主义的发展,为任何人提供制作宣传品并加入极端组织的渠道,从而加大这类内容在网上的病毒式传播风险。
结语
科技的发展无疑为人类社会带来了巨大的便利,但我们也必须认识到,任何一种新兴技术在被滥用时,都可能成为危险的武器。AI技术的双刃剑特性已经在"News Harvest"节目中显现出来。因此,我们有必要加强对AI技术的监管,同时提高公众的风险意识,以遏制不法分子的违法行为,维护网络空间的和平与安全。
