AI安全与全球发展：实现安全、合规与创新

随着生成式人工智能（GenAI）的快速发展，风控专业人士将其视为重点关注和优先处理的事项之一。良好的AI治理被认为是确保AI能够安全、合规并高效创造价值的关键。以下五个洞察有助于实现优秀的AI治理。 

首先，良好的AI治理在应用场景开始前就能创造价值。通过科学的方法和工具筛选出最适合的AI工具和技术对应的应用场景，可以确保资源的有效利用。 

其次，GenAI对治理提出了新挑战。由于其多用途和广泛应用的特点，AI治理需扩大速度、规模和覆盖面，涉及采购、第三方风险管理、安全、隐私、数据管理、合规等多个维度，并需建立全企业范围的风险视图。

第三，构建AI专项风险分类法是基础。一个全面且标准化的AI风险分类体系有助于一致性、可重复性的治理决策，覆盖AI模型、数据、系统与基础设施、用户行为、法律合规和流程影响等领域。 

第四，良好的AI治理促进AI战略推进。找到治理与业务发展和风险控制之间的平衡点，提前预防问题，使企业在面对新法规和技术进步时始终保持准备就绪，并根据风险状况指导AI战略。 

最后，技术助力但以人为本。充分利用AI治理技术工具，同时重视人才培养和团队协作，确保人员能够熟练掌握并有效管理工具。在整个AI治理体系中，人应占据主导地位，负责重大决策，同时更新行为准则、使用政策，设立风险报告渠道，并随着AI普及加强员工培训和变革管理，以兼顾业务价值创造与利益相关者信任建设。 

2024年3月13日，欧洲议会正式通过《人工智能法案》，旨在保障AI安全与基本权利，同时促进技术创新。法案禁止了侵犯公民权利的AI应用，如大规模无目标面部识别、情绪识别、社会评分、预测性警务以及操纵人类行为的AI系统。虽然原则上禁止执法部门使用生物特征识别系统，但在严格条件和授权下，可用于反恐和找寻失踪人员等特定情况。法案对高风险AI系统设定了具体义务，涉及关键领域如基础设施、教育、就业、公共服务、执法等，须进行风险评估、维护使用记录、确保透明度和人工监督，公民有权申诉并对决策进行知情。 

此外，AI系统和模型需满足透明度要求，深度伪造内容需明确标识。为支持创新和中小企业发展，法案提倡建立国家监管沙箱和实测环境，以便在市场化前验证和完善创新AI产品。《人工智能法案》旨在通过规范化管理，促进AI产业在保障安全、尊重人权的前提下，实现有序竞争和持续创新。 

2024年3月21日，联合国大会达成一项历史性决议，致力于推动全球范围内“安全、可靠及值得信赖”的人工智能（AI）系统的普及与发展，该决议紧密关联着全球可持续发展目标惠及全体民众的愿景。在美国提出的草案基础上，这项决议在未经表决的情况下获得通过，得到超过120个国家的支持与共同发起。决议着重强调在AI设计、开发、应用及使用的全过程，务必遵循和保障人权。 

决议强调了在AI的设计、开发、部署和使用过程中尊重、保护和促进人权的重要性。联大呼吁各会员国和利益相关方避免或停止使用无法符合国际人权法或对人权构成不当风险的AI系统。他们确认了在线和离线状态下同样的权利必须受到保护，并敦促各方制定并支持与安全、可靠和值得信赖的AI使用相关的监管和治理方法和框架。决议还承认了AI系统加速实现SDGs的潜力，并敦促会员国与发展中国家合作，支持它们从包容和公平的访问中受益，缩小数字鸿沟，提高数字素养。 

国际社会深刻认识到人工智能（AI）技术所蕴含的双重性——既存在潜在风险也充满无限机遇。着重指出，确保AI技术的安全性、合规性和价值创造能力至关重要。随着AI领域的迅速演进，全球各利益相关方亟需通力协作，构建更为完善且有力的AI治理体系，旨在促进AI技术在全球可持续发展中发挥更大的积极作用。 

健全的AI治理不仅是确保技术层面的安全与合规，更是企业实现可持续发展的核心支柱，以及赢得利益相关者信任的根本所在。唯有借助全面、科学并以人为本的治理策略，方能保证AI技术在未来充分释放其潜能，为社会创造出更多福祉与价值。 

[1] UN news.General Assembly adopts landmark resolution on artificial intelligence[OL].(2024-03-21)[2024-03-22]https://news.un.org/en/story/2024/03/1147831

[2] PWC.Good governance for AI: 5 real-world insights for risk professionals[OL].(2024-03-05)[2024-03-22]https://www.pwc.com/us/en/tech-effect/ai-analytics/ai-governance-for-risk-leaders.html

[3] European Parliament.Artificial Intelligence Act: MEPs adopt landmark law[OL].(2024-03-13)[2024-03-22]https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law