检测到您的浏览器版本过低，可能导致某些功能无法正常使用，建议升级您的浏览器，或使用推荐浏览器 Google Chrome 、Edge、Firefox 。 X
1月25日，利用AI深度伪造形成的数百张针对国际巨星泰勒·斯威夫特的不雅照、暴力图片流出，在国际社交媒体X上传播和被浏览了数亿次。对于这起深度伪造案例，美国白宫表示震惊和担忧，并敦促国会对这一现象采取立法行动。这让人脸深度伪造问题再次来到公众视野的中央。Gartner分析副总裁Akif Khan说，“在过去十年中，人工智能领域出现了几个拐点，允许创建合成图像。这些人工生成的真人脸部图像，称为深度伪造，可以被恶意行为者用来破坏生物识别身份验证或使其效率低下。因此，企业可能会开始质疑身份验证和身份验证解决方案的可靠性，因为他们将无法判断被验证者的面部是活人还是深度伪造。”
深度伪造呈暴增态势
多年来，使用深度伪造进行欺诈和绕过生物识别身份验证一直是网络安全领域担忧的问题，尤其是在金融业界。例如，在2021年，有欺诈者通过在线购买高清人脸照片，以进行深度伪造，欺骗政府的面部识别技术，最终通过虚假税务发票窃取了相当于7500万美元的资金。
近期的数据显示，人工智能生成的深度伪造带来的安全威胁正在增加，Onfido的研究显示，2023年的深度伪造欺诈企图增加了3,000%。但与此同时，公司也越来越多地使用生物识别身份验证方法，GetApp的一项调查发现，2022年有79%的公司使用了这类方法，而2019年这一比例只有27%。
Akif Khan表示，随着AI模仿变得更加逼真和更容易生成，生物识别身份验证方法和系统将很难赶上防御需求。Gartner预测，到2026年，深度伪造可能会破坏30%的公司对面部生物识别身份验证解决方案的信心。
注入攻击的方式正在兴起
目前，大多数人脸生物识别解决方案都利用“活体检测”(Presentation Attack Detection,PAD)技术来判断进行人脸识别身份验证的用户是否“真实”。“展示攻击”是指攻击者将模仿物，例如面具或用户的视频，放置在摄像头或扫描仪前。PAD技术旨在区分活人脸和此类模仿物，主要用于防御“展示攻击”。
然而，据Mitek Systems公司称，攻击者越来越多地转向使用深度伪造的更高复杂性的数字注入攻击，在这种攻击中，攻击者通过虚拟摄像头等工具将图像直接输入到系统的数据流中，从而绕过物理摄像头。Gartner研究认为，尽管展示攻击目前仍是主流，但注入攻击在2023年增加了200%。防止注入攻击需要结合PAD、注入攻击检测(IAD)和图像检查三种技术。Akif Khan表示：“当前的标准和测试流程无法定义和评估PAD机制，也无法防御利用最新生成式人工智能深度伪造的数字注入攻击。”
应对建议：结合IAD和图像检测工具以化解深度伪造的威胁
为了保护企业免受包括人脸识别在内的AI生物识别深度伪造攻击，Gartner建议，使用人脸识别进行身份验证的公司应确保其解决方案能够跟上乃至超越深度伪造生成工具的进步和可用性。Akif Khan指出，企业应开始与那些通过IAD和图像检查技术防御最新深度伪造威胁的安全供应商合作，定义最低限度的风险控制基线。
一旦定义了策略并设定了基线，企业的首席信息安全官和风险管理负责人还必须处理其他风险和识别信号，例如设备识别和行为分析，以增强对身份验证流程攻击的检测能力。
最后也是最重要的是，负责身份和访问管理的首席信息安全官和风险管理负责人应采取措施，选择真正有效的真人身份验证技术，实施额外的安全措施来防止帐户失窃，才能降低AI驱动的深度伪造攻击的风险。
参考文献：
[1]Gartner Predicts 30% of Enterprises Will Consider Identity Verification and Authentication Solutions Unreliable in Isolation Due to AI-Generated Deepfakes by 2026[EB/OL].(2024-02-01). https://www.gartner.com/en/newsroom/press-releases/2024-02-01-gartner-predicts-30-percent-of-enterprises-will-consider-identity-verification-and-authentication-solutions-unreliable-in-isolation-due-to-deepfakes-by-2026.
[2]Susie Coen, James Titcomb.White House voices alarm over pornographic Taylor Swift deepfakes[EB/OL].(2024-01-26).https://www.telegraph.co.uk/world-news/2024/01/26/white-house-concern-alarming-taylor-swift-deepfake-ai-porn/.
[3]Laura French.Deepfakes will hurt 30% of organizations’ trust in biometrics by 2026[EB/OL].(2024-02-02).https://www.scmagazine.com/news/deepfakes-will-hurt-30-of-organizations-trust-in-biometrics-by-2026.
[4]How injection attacks compromise biometric fraud detection[EB/OL].(2023-12-13).https://www.miteksystems.com/blog/how-injection-attacks-compromise-biometric-fraud-detection.
