李龙 等：“算法反恐”：恐怖主义媒介化与人工智能应对

作为“游离于主权国家之外的行为体”，恐怖主义组织对当今世界的影响不言而喻，其模糊的组织结构、不可预测的行为特征以及活动的国际性已经作用并影响国家的战略能力，凸显了国际政治中传统安全与非传统安全复合叠加的大趋势，加大了主权国家战略聚焦的困难。反恐怖主义已然成为当前主权国家的重要职责，也是国际社会的共同任务。与军事打击、斩首行动相比，随着媒介技术的发展，媒体反恐也占据着重要的地位，反恐阵营与恐怖主义之间不断呈现出复杂多样的斗争形态。

恐怖主义是违背人类道德的、反人类的或违反战争法的肆意实施种族屠杀、蓄意杀害平民或非战斗人员的行为或观念形态。在当前的媒介与恐怖主义研究中，部分学者从舆论学的视角，将媒介视为技术中介，分析其参与到政府与恐怖组织的博弈中，并左右着地区、国家乃至国际社会的反恐舆论走势。¹ 媒介作为反恐与恐怖主义两种舆论再生产的中介，在恐怖主义一侧，制造着“心理恐怖主义”和“音视频恐怖主义”，而在国际社会一侧，则在积极塑造基于国家意识形态或人类命运共同体利益的反恐战线，满足反恐斗争的需求。²

由于时代的变革、技术的进步，算法反恐在社交网络的实践为反恐怖主义也提供了一种新的研究视角。从实践来看，技术的进步在改变人们生活方式的同时，也在深刻影响着社会秩序的变化，人工智能在国外社交媒体的应用为反恐提供了新的可能和实践，对采来反恐的走向具有现实借鉴意义。从理论上来看，对于恐怖组织如何在社交媒体中实现话语权和传播渠道的突破，反恐阵营又是如何运用人工智能在社交媒体中狙击恐怖主义的传播，在反恐中发挥更大的作用等问题值得进一步探讨。

一、恐怖主义媒介化与话语权的争夺

媒介是恐怖主义组织和反恐组织争夺的重要战略资源。无论是恐怖主义组织还是国际社会都希望通过控制媒体来影响舆论，掌握话语权。恐怖组织重要头目奥萨马·本·拉登也曾言:“很明显，在20世纪，媒体战已成为最有力的方法之一；事实上，对于整个战争准备而言，媒体战可能占据了90％”。³在传统媒体时代，恐怖主义虽然有“半岛电视台”“圣战”等媒体机构和网站传播发声，但仍旧难以动摇国际社会的话语优势，当前学界的研究也证实了在传统媒体领域的舆论反恐取得了阶段性的成绩。如果说传统媒介是恐怖主义与反恐斗争的重要争夺场域，那么在这一阶段争夺的焦点上，恐怖主义处于绝对劣势。全球最大的10家媒体公司全部来自西方资本主义国家，美国占了5家。从目前来看，尽管一个国家对信息资源流向的控制难度有所增加，但总体上仍能依靠强大的传统媒体力量发布反制信息、呼吁被恐怖主义组织拉拢和迷惑的民众理性看待恐怖主义。在这种背景下，恐怖主义分子想要创造出巨大冲击效果的目的难以成功。⁴

然而，互联网的出现改变了世界，也让恐怖看到了新机会。一方面，与传统媒介相比，互联网把关人的缺失，更能容纳自由、无拘无束的全球网民对话，更为了解他人的欲望，促进相互间的理解和包容，进而促进世界和平。互联网的影响不是按照技术指令的单一方向展开，相反，其影响经过了社会各种因素的过滤；另一方面，当今国际互联网80％以上的网上信息和95％以上的服务信息依然由美国提供，互联网的去中心化为恐怖主义的滋生提供了土壤。在互联网使用的初始阶段，活跃的恐怖组织已经开始使用互联网招募新成员，扩大国际联系和影响力。客观而言，虽然互联网在暴恐活动中的作用日趋上升，但20世纪的互联网技术发展并不完全充分，“真实世界的种种情况渗透赛博空间，产生多种语言组成的巴别塔废墟”，⁵ 恐怖组织开始使用电子邮件、论坛等社交软件进行传播和策划活动。20世纪90年代的“圣战”论坛文章多制作粗糙，主要用于宣传“圣战”的合法性、介绍武器使用手法、传授炸弹制造技术等，但其最大特点在于构成了一个封闭的虚拟社区，恐怖分子及其同情者可通过匿名方式迅速、自由地分享信息，交流心得；暴恐组织也可以将视频、图片、文字等材料上传至论坛，向目标人群传递信息，因而产生了很大的破坏力。在互联网初始阶段，恐怖主义的传播加剧了世界的分割，其身份节点如宗教和族群性使世界分裂开来。但是，由于一些主权国家的及时干预，以及这一时期互联网技术的限制，恐怖主义并没有占据绝对优势，反而是与反恐组织处于“猫和老鼠”式的胶着状态中。

21世纪以来，社交媒体的普及释放了恐怖组织的邪恶潜力，也再次加剧了恐怖组织与反恐组织之间的斗争。新兴的联络方式与恐怖组织激进化宣传的快速化，标志着恐怖主义演进到一个新阶段。恐怖主义组织利用全球化互联网社交工具来联系其庞大受众，包括“潜在的新成员、新招募的对象、积极的支持者、消极的同情者、中立的围观者、敌对的政府以及潜在的受害者。这些工具包括即时通信工具，特别是新社交媒体和其它互联网聊天工具，它们被用来完成各种任务，从行政管理、筹集资金到制定袭击计划、协调补给等”。⁶恐怖组织已熟练使用 Twitter Facebook You Tube等新社交媒体，并在相关网站开设帐号加强宣传、煽动活动，如索马里“青年党”2011年底便开通其 Twitter t帐号，大打“宣传战”。随着社交网络逐渐成熟，移动带宽迅速提升，由此产生的数据及数据增长速度呈现几何级攀升，为恐怖组织提供了一个大肆传播恐怖主义的广阔空间。由于社交媒体自身的发展是建立在丰饶和互用性上，容易跨越地理边界，情况就更复杂，使传统的规制结构难以适应新形势，令其效能瓦解。过去，媒介系统建立于少数广播电视频道和印刷出版渠道之上，如今取而代之的是拥有无限储存空间的数字化传播环境，媒介产品是稀缺资源的概念不复存在。可以说，互联网创造了丰富的机会，稀缺被丰饶所取代，这一公器被恐怖组织所觊觎。传统依靠单一线性的舆论反恐模式显然已不再适应互联网时代的反恐需求，面对传播环境、用户、技术的变化，反恐更需要专业领域，尤其是前沿技术的支持，人工智能便成为反恐的重要技术手段。

二、权力的再次“转移”:恐怖主义对社交网络的运用

知识（技术）的变化正在引起或有助于巨大的权力转移。正如马克·波斯特所言:“在先进的经济领域，劳动不再包括‘做事’，而是包括男男女女怎样相互发挥作用和影响，或者说人怎样影响信息、信息怎样影响人”。⁷技术的发展使恐怖组织与反恐阵营在对抗中一度出现了权力的真空，这些权力的真空尤其令各种反对西方资本主义新殖民迫害的组织结成新联盟，产生新冲突。权力随着媒介技术发展速度的迅猛产生转移，致使社交媒体被变革所左右，人为的因素难以控制这些变革。社交媒体在这种变革中被充当恐怖主义新的财富和暴力的增值器，它可以用来招募和培训成员、招募资助资金，以及扩大恐怖袭击活动范围和频率，同时，通过恐怖主义血腥视频的散播，让恐怖袭击心理效果最大化，降低了其恐怖袭击的成本。

1.恐怖主义利用社交媒体进行形态演化

社交媒体促使如“基地”、ISIS等新恐怖主义组织形态不断出现或“借尸还魂”，也使恐怖袭击活动更为隐蔽。“基地”组织本身就是互联网的产物，“其宣传让人想起这场运动发生于公元7世纪，但从某种意义上说，它又是21世纪通信技术的重要开发者”。⁸“基地”组织颠覆了人们关于恐怖主义组织结构和功能的看法。它进行激进化改造，招募的过程高度复杂，能将其信息定向传给世界上任何地方潜在的招募对象。社交媒体易于进入公众场所也能让恐怖主义组织通过相对隐匿的渠道进行恐怖主义活动，并随地点的不同，呈现不同的方式。在一场不断变化的“运动中追踪其‘指挥一控制’的关系是很困难的，因为单一地关注‘基地’组织核心层、组织网络或各地的激进分子，根本无法看清其运动的来龙去脉”。⁹社交媒体平台还存在着漫无边际的未知信息流。恐怖主义组织把社交媒体的海量数据当作一个进行研究和数据流挖掘的庞大资源，用较低的成本评估未来的袭击地点或用于开发成熟度较高的武器技术。美国军队曾在阿富汗取得一份“基地”组织的训练手册，其中告诉训练者，至少有80％关于其所谓的敌对方的必需信息可以从公开合法的途径取得。

互联网加密技术及移动互联网的成熟令社交媒体平台的恐怖主义活动难以预测。例如，ISIS的恐怖袭击难以设防的原因之一在于其遍布世界的成员使用加密技术，尤其是类似于 Telegram这种加密性极强的聊天工具。除使用加密的社交工具传递信息外，恐怖组织的视频、音频以及隐性语言在社交平台的投放逐年增长，且甄别技术的难度也逐步加大。据英国内政部统计，“ISIS的支持者在400多个社交平台宣传，三分之一是通过影片方式。影片上传1小时内已广泛散布，2小时后已渗透各影片平台”。¹⁰

2.恐怖组织的社交媒体动员威胁着当前世界秩序

不少恐怖组织不仅自建信息平台，同时还利用一切可利用的互联网工具与平台扩张影响力。它们通过 Facebook Twitter等社交平台发布图片和视频，竭力宣扬“圣战”等暴力恐怖、极端宗教思想，迷惑和煽动青少年加入恐怖组织。有研究指出，“基地”组织等恐怖组织扩大了社交网络的使用，“世界上1.6亿穆斯林使用社交网络的平均年龄为23岁。深谙传播技巧的ISIS甚至拥有制作精美的网上杂志 DABIQ以及被称作 AL HAYAT的传媒部门，基地’组织也有自己的网络媒体”。¹¹

随着社交媒体的全球化发展，恐怖主义活动的策划者和发起者可以通过社交媒体创造的网络空间招募自杀式爆炸袭击者，同时作战人员信息也可以通过非常规的网络手段传递到战争前线，如伊拉克、阿富汗等地。恐怖组织在意识到传统的通过恐怖组织人员潜入假想敌国进行恐怖主义宣传的方法已是愈发困难后，开始利用社交媒体对用户的赋能，使其恐怖主义宣传和煽动更具时效性，且较大降低了被发现的风险。社交媒体的优势已被恐怖组织洞悉，“基地”组织、ISIS等恐怖组织都熟练运用社交网络招揽成员，实施恐怖袭击活动。从2017年至今，全球大规模恐怖袭击已超过600宗，造成近4000人死亡。

社交媒体扩大了恐怖组织的动员能力，威胁着主权国家的合法性。现代国家的重要能力之一是动员群众支持的能力，谁能够拥有足够大的动员能力，谁就有可能建构或使自己的组织成为某一地区和国度的合法治理者。现代国家的建立与战争存在着相互塑造的复杂关系，但 “同样的相互塑造关系出现在使用恐怖主义手段的行为体和对恐怖主义作出反应的国家之间”。¹² 社交媒体带来的强大动员能力使两者之间的关系以一种更为微妙的方式出现，“他们二者最初都以看不见的方式影响自己，及其现实和潜在的追随者，这些方式随着时间的推移越来越格式化，尤其是在国家的动员能力越来越受到明显伤害的情况下”。恐怖组织最重要的战术是它有能力动员群众和相应的资源去武力对抗国家或挑动国家采取行动。这种较强的动员手段可以使恐怖组织获得他们需要的资源、合法性、成员和军事能力，尤其合法性的获取将会严重威胁主权国家的正当性，也对当前和未来的国际秩序造成了极大的冲击。

3. 恐怖组织社交媒体传播对意识形态的不利影响

意识形态在特定社会历史环境中服务于维持一定的统治关系。在恐怖分子看来，“人肉炸弹”“砍头”等行动的目的是反抗西方资本主义制度的掠夺式统治和宗教迫害而进行的具有“正义性”的“圣战”。这种“正义性”的象征可以使人以一种新的眼光看待其暴恐传播活动，它可以使“他们重新解释一个象征形式，联系它产生与接收的条件，联系其结构与特征，它可以使他们质疑或修正他们对一个象征形式先前的理解，从而改变对他们自己和他人的理解视野”。¹³西方媒体在反恐宣传中往往忽视了恐怖主义背后的根本原因:恐怖主义的目的不只是向人们传达凶残的信息，更多是为了建立一种所谓的“圣战”秩序。

恐怖主义的“信仰”填补了部分信众在社交媒体时代的精神空虚。与其说社交媒体喧闹的拟态环境使人们原有的秩序、生活意义、集体生活发生了结构性的变化，对人类社会带来了冲击性的影响，不如说社交媒体时代鱼龙混杂的局面、真相逐渐退居幕后、情绪的宣泄和盲目的从众等特征加剧了许多用户的信仰缺失、价值理念混乱现象。正如托夫勒所言，“在建立第三次浪潮文明中，必须克服孤独对人们的袭击，必须提供一种生活秩序和生活目的”。¹⁴ “基地”组织、ISIS等恐怖组织自身带有的宗教性、民族性和地域性等特点，填补了其目标受众所需。它们在恐怖组织内部建立集体式的信仰、价值理念，内部管理层级分明，如同迷信团体一样，是对互联网时代人类文明的一种叛逆。

恐怖主义组织也在利用社交媒体试图塑造人们特别是年轻人的世界观。恐怖主义的世界观通过网上传播那些能激怒和刺激观看者的精致画面表达出来，其“诱惑力难以抗拒——特别是当发生在车臣和伊朗等地的袭击画面被推销给易受蛊惑的年轻人时，画面直接告诉他们，西方人对伊斯兰世界的攻击只能由英勇的圣战者来还击，其结果很可能是造成那些原本表现正常、遵纪守法的欧洲年轻人变得激进化”。¹⁵恐怖主义的宣传资料“被扔进了互联网的信息流中，这些信息流里面有着数以亿计的图像、信息、言论和妄言。招聘视频、砍头图像、甚至华而不实的电影都在社交媒体大行其道，ISIS及其党羽发布了很多这类不良的信息到社交媒体中”。¹⁶这些极具煽动性的信息，可以满足需求归属感欲望强烈的群体，并吸引在现实社会中受到不公平待遇、遭到排斥、厌恶或难以成功融入的群体，迷惑了不少网民自愿充当恐怖主义的传播者，更有甚者直接加入恐怖主义组织，开展恐怖主义活动。显然恐怖主义在社交媒体时代给国际社会带来了艰巨的挑战，也使反恐之路变得更漫长。

三、作为“反恐”的算法:算法识别技术的社交媒体实践

与传统媒体反恐不同的是，社交媒体的反恐实践更多集中在利用人工智能的特性通过社交平台识别和删除，从而在应用层面消解恐怖组织的影响，降低恐怖袭击的可能性。众所周知，人工智能之所以在现阶段再次爆发得益于计算能力、以深度学习为代表的核心算法和充足的大数据这三者的突破，且语音识别、图像识别、自然语言理解等方面的突破和落地为人工智能在社交媒体的反恐应用中提供了实际支持。

1.恐怖言论的侦测过滤

出于反恐的需求，人工智能越来越多地用于对恐怖主义言论的控制，以及防止和打击恐怖分子的网络宣传和动员活动。与容易受外界影响的人类不同，人工智能从不会被情绪左右，也很难被假象蒙蔽。算法的识别是基于人们生活中极其细微的行为习惯，如果恰当使用，可以发现常人所不能发现的细微之处，加以有效管理。社交媒体在人工智能识别恐怖主义传播的符号信息上采取了生成对抗网络的方式进行侦测。“生成对抗网络”（Generative Adversarial Networks，缩写GANs）的原理是让两个模型相互竞争，其“基本思想源自博弈论的二人零和博弈，由一个生成器和一个判别器构成，通过对抗学习的方式来训练生成器”。¹⁷通过相互的零和博弈，提高了相互之间的能力，最后使得生成器生成的人造样本与原样本无异，这一过程也就相当于人类学习的过程。 Facebook等业界巨头也加入对GANs的研究。这种从有监督学习向无监督学习的转变，即不再需要人类直接“喂”机器使其学习，目的是能够用极少量且不需要标准的数据训练通用系统，最终让人工智能可以完成更多任务。¹⁸

基于文字传播的反恐主要是利用机器学习识别有关恐怖组织的关键词、短语和符号。这种在预设框架下开展的反恐识别和删除技术，得到社交媒体的广泛采用。 Facebook使用人工智能查找极端主义的帖子，消除不适当的内容，该技术的首个应用之一是识别明确违反 Facebook使用条款的内容，例如斩首的照片和视频或其他可怕的图像等。“这个算法的生成可以学习识别 Facebook用户，如果他们与促进极端主义内容的网页和群组相关联，或者一次又一次返回网站创建假帐号，以便在线传播这些内容”，¹⁹就能够被算法发现，并能提前拦截和清理。

2.涉恐图像的甄别与处理

从某种程度上看，图像比印刷文化更能吸引人的注意力。正如桑塔格所言:“受照片的教化与受更古老、更艺术化的图像的启蒙截然不同。原因就在于我们周围有着更多物像在吸引我们的注意力”。²⁰在组织动员和协调抗议等活动中，视觉手段的作用越来越重要。视觉修辞强调以视觉化的媒介文本、空间文本、事件文本为主体修辞对象，通过对视觉文本的策略性使用，以及视觉话语的策略性建构与生产，达到劝服、对话与沟通的功能。²¹

图像传播具有的视觉冲击性，已引起反恐阵营的高度重视。 Facebook利用最新图像识别技术进行判断，若被认定为与数据库中保存的恐怖活动相关图像和视频一致的内容将无法发布和分享。较有代表性的则是专注于图像识别技术的图普科技。它利用大数据来训练图像识别模型，在筛选网络数据方面发挥了巨大作用，通过“深度学习算法，使机器像人脑一样学习，能自动提取违规视频的特征，并归纳总结，从而实现图像的有效过滤，有希望从源头上遏制暴恐内容的传播”。²²位于纽约的非盈利组织 Counter Extremism Pro-ject（CEP），在儿童色情检查算法 PhotoDNAde的基础上改进成 eGLYPH的算法。它是一种依据将字符组成的字符串转换为固定长度的数值或索引值的哈希算法，通过极端言论数据库的不断训练和数据喂养，将认定为与恐怖主义有关的图片分配一个由大数据匹配出来的固定数值，再根据这些数值的大小去识别更改了大小和修剪过的图片，并自动删除每个被上传到社交网络上的相关文件。²³