AIGC兴起，情报有望破局后真相时代

随着人工智能工具的激增，生成式人工智能（AIGC）以其卓越的模拟真相的能力颠覆了传媒领域，加速了“后真相时代”的到来。例如，前段时间沸沸扬扬的凯特王妃视频造假事件，以及近日美国大选期间的“假拜登”事件，让人们意识到：有了AIGC工具的加持，现在比以往任何时候都更容易进行冒充和欺骗。

针对此，领先的组织正在通过政策和技术的组合来应对。除了传统的虚假信息识别方法，还包括与网络安全公司合作、研发人工智能（AI）模型、使用合成媒体探测器等。特别地，情报作为一种分辨信息的思维工具，也可为企业和个人提供发掘真相的思考维度和破局利器。
一、AIGC加速了后真相时代的到来

由于AIGC在“模拟真相”的方面是很擅长的，因此AIGC总体上加速了传媒领域后真相时代的到来。

首先，AIGC未来可能具备现场报道的能力。现场报道保证了新闻重要的“在场性”。然而随着技术手段的更新，在未来，也许数字人就可以直接连线，制造不在犯罪现场的证明，那时就需要仔细思考连线的到底是人、数字人还是算法。

其次，AIGC可能加重“信息茧房”的现象。如今全球所有媒体都面临舆论场越来越分化、对立的巨大危机。这会强化“信息茧房”的现象，即每个人都愿意和与自己持有类似想法的人在一起，算法和AIGC在其中都扮演着重要的角色，它可以没有任何成本地制造更多的假新闻。

最后，AIGC可能会让噪音现象愈演愈烈。AIGC让真相、有价值的信息和噪音之间的比例失衡。算法会根据用户想要的信息，制造出各种噪音，随着AIGC技术进一步发展，纸媒加速消亡，视频大量增加，势必会让噪音现象愈演愈烈。

二、不良行为者利用AIGC进行攻击的方式

 随着AI工具的激增，不良行为者现在比以往任何时候都更容易冒充他人并欺骗目标对象。许多人正在使用深度伪造来绕过语音和面部识别进行访问控制，以及进行网络钓鱼的尝试。AI应用程序本身需要大量数据，因此成为黑客的最佳目标。随着互联网上每一个新的内容生成工具的出现，安全风险都在成倍增加。 不良行为者可能会使用人工生成的内容，用以下多种方式攻击企业或个人。

• 进阶版网络钓鱼：网络钓鱼是最常见的网络攻击类型，这种网络攻击方式每天发送约34亿封垃圾邮件。2021年，网络犯罪分子通过网络钓鱼攻击窃取了约4 420万美元的财富。网络钓鱼攻击通常会成功，不是因为它们的质量很高，而是因为它们被大量发送——在数十亿封电子邮件中，最终只有少数能达到钓鱼者的目标。大多数收件人通常能够识别网络钓鱼尝试，因为这些邮件的语法和拼写不佳，或者因为发件人显然不认识收件人。但AIGC工具使欺诈者能够快速、轻松地制作令人信服、无错误的消息，并提供相关上下文，这使他们能够为每个收件人量身定制消息，使消息更难以被忽视。随着公开模型质量的提高，这个问题可能会变得更严重。

• 深度伪造：深度伪造已经存在多年，但在AIGC兴起以前，它们还没有广泛地被用于网络犯罪。现在，在AI工具的飞速发展之下，它们正越来越多地被用来攻击企业。例如，一家英国能源公司的首席执行官被诈骗者利用深伪AI语音技术冒充该公司的母公司负责人骗取了243 000美元。自这起事件以来，深伪工具取得了显著进步，并且可能会继续快速改进，使人们更难辨识自己正在与谁打交道。

• 提示输入：带有虚拟助手的网络浏览器和电子邮件客户端可能会被不良行为者利用，他们在网页或电子邮件中留下恶意提示，指示助手转发联系人列表、银行信息和健康数据等信息。历史上，大多数类型的社会工程黑客都是通过诱骗人们交出数据或访问系统来活动的。但通过即时输入，黑客甚至不需要费心执行这一步，提示会在受害者不知情的情况下自动执行。

• 错误信息：针对企业或个人的社交媒体活动并不是什么新鲜事，但人造内容却令错误信息的传播火上浇油。AI工具可用于快速创建大量内容，不良行为者可以利用这些工具来实施攻击，造成声誉损害，甚至威胁股价。过去，攻击者必须亲自制作消息，但如今AIGC工具使他们能够大规模炮制错误信息，使他们能够利用公众进行实验和测试，找到容易引起共鸣的消息，然后大量传播。

AIGC的广泛应用以及内容生成模型的改进速度可能会加剧以上问题。只需很少代价，甚至没有成本，并且几乎不需要任何技术技能，任何人都可以创建令人信服的媒体，威胁企业的资金和数据安全。

三、领先组织应对AIGC冒充伪造的方法

针对以上现状，领先组织正在采取积极措施，确保自己不会成为受害者。

首先，传统的识别虚假信息的方法依然值得重视。虽然合成媒体可能为黑客的工具箱提供新工具，但许多经过验证的防止此类攻击的方法今天仍然适用。如：对在线通信持怀疑态度、验证与你通信的人员身份以及要求多方身份验证才能访问敏感资产，等等，这些都是企业防范这种新攻击媒介的方法。

其次，解决合成内容问题需要使用新工具。（1）与生态系统合作伙伴合作。与领先的科技公司和专注于AI网络安全的初创公司合作，以了解威胁形势并获取最新的工具来防止攻击。（2）利用有效工具帮助企业识别潜在有害的内容。正如AI可以创建内容一样，它也可以评估图像、视频和文本的真实性。这些工具可能很快就能预测企业可能面临的攻击类型。（3）使用合成媒体检测平台识别由AI工具创建的内容。例如，AI生成的图像通常具有特定的变形或像素化；文本具有一定程度的可预测性，等等。其中有些用肉眼辨认可能并不明显，但经过足够数据训练的AI模型可以学会可靠地识别它们。（4）开发合成媒体探测器。例如，英特尔最近推出了一款深度伪造检测工具，该工具不仅可以查看数据，还可以分析视频，寻找视频中人脸的血流迹象。当人的心脏将血液泵入静脉时，静脉的颜色会略有变化。这是可以在真实视频中观测的东西，但AI模型却很难模仿。

四、情报思维和工具有望破局后真相时代

如上文所述，AIGC工具加剧了网络和现实中的冒充与欺骗，无论是企业还是个人都需要为这一现实做好准备，因为为了攫取利益而传播虚假信息的人不会坐以待毙。解决这个问题不仅有助于组织自身保护财产和信誉安全，还将有助于防止更多人被即将到来的人造内容的浪潮席卷。

其实AIGC除了会对传媒行业产生以上风险，对其他行业也有各式各样的风险。那么，在后真相时代到来之际，如何辨伪存真，则需要我们相应地掌握全新的思维方式。情报对于破局后真相时代或许可以发挥一定的作用。因为越是在信息鱼龙混杂的情况下，情报人员越是有责任将优秀的、重要的信息提取出来。

第一，情报人员要积极利用人工智能工具。ChatGPT给包括情报在内的各行各业带来的结果都是两方面的，一方面是自动化阶段，它一定会取代某些机械的工作；另一方面，它可以提升工作效率，帮助人们从简单重复的工作中解脱出来，让人类去做更多富有创造性的工作，探索全新的领域，或者从多样性的视角看问题。人的独创性可以带来多元的视角和观点，情报工作者要积极使用新工具，提高文献检索、整理的效率，帮助开拓更多新领域，扩充组织决策者的视域。

第二，情报人员需要拥有独立判断能力。这是指在拥抱“人+机器”未来的同时，从AIGC产生的结果中挖掘到真正有价值的东西。这需要每个情报从业者更多地进行自由探索，培养质疑的能力和科学的精神。尽管机器学习模型可以提供强大的分析能力，但情报人员仍需运用自己的专业知识和批判性思维来做出最终判断。机器学习模型可以作为辅助工具，提供数据支持和可能的解释，但最终的决策应基于情报人员的独立分析。情报意识有助于在探索的过程中做好准备，比别人更早、更快地发现机会，尽早进行布局，获得更大的收益；情报工具则有助于更好地预判趋势、预测新技术，更好地分析在某个领域如何优化自己的选择，从而在激烈的市场竞争中获胜。

第三，情报人员需要培养跨学科的知识和技能。情报工作往往需要从多个角度和多个领域获取和分析信息。例如，在经济情报分析中，情报人员可以结合经济学、政治学和社会学的知识，分析全球经济趋势、市场动态和政策变化，为组织提供战略决策支持。而如今热门的技术趋势预测，则需要情报人员对最新的科技发展，如AI、量子计算、生物技术等有所了解，情报人员可以预测这些技术如何影响行业和市场，以及它们可能带来的机遇和风险。随着地缘政治风险提升，越来越多的企业，尤其是大型企业招聘的情报人员，需要具有地理学、国际关系和历史学、政治学等学科知识，评估不同国家和地区的政治稳定性、冲突风险和外交政策，帮助组织规避潜在的地缘政治风险。通过培养跨学科的知识和技能，情报人员能够更全面地理解复杂的全球环境，为组织提供更深入、更多元化的情报分析和建议。这种综合能力使情报人员在后真相时代中能够更好地辨识信息的真伪，做出更明智的决策。

参考文献：

[1] SCIF2023.圆桌讨论：人工智能与情报驱动的未来[J].竞争情报,2023(6):7-10.

[2] Deloitte Insight. Defending reality: Truth in an age of synthetic media[EB/OL].[2024-07-02].https://www2.deloitte.com/us/en/insights/focus/tech-trends.html#defending-reality.