美韩立法加强人工智能监管

2025年4月，韩国国会图书馆发布报告称，韩国已制定《人工智能发展与信任基础建设等基本法》，计划于2026年1月起正式实施。该法案兼顾生成式人工智能（AI）技术监管与培育，虽尚未披露具体细节，但在制定过程中广泛参考了美国科罗拉多州和加利福尼亚州等地的先进立法经验。

随着AI技术的广泛应用，Deepseek、ChatGPT等生成式AI逐渐融入日常生活。各国纷纷加速AI技术研发，出台相关法律以规范并促进产业健康发展。2024年6月，欧盟制定《人工智能法》，依据AI系统的风险程度，将其分为高风险、限制性风险、最低风险等四类，并对不同风险等级的AI实施差异化监管，体现了以监管为核心的法律思路。

美国在联邦层面推出了《2020年国家人工智能计划法》，通过设立国家人工智能咨询委员会、国家人工智能研究所等方式，重点支持AI的研究和开发，属于以促进和培育为核心的法律体系。而在州法层面，2024年加利福尼亚州、科罗拉多州分别制定相关法规，重点聚焦AI技术应用中的透明性和消费者保护，体现了地方法在细化监管实践中的重要作用。

1. 加利福尼亚州：推动生成式AI透明性与责任制

2024年9月加利福尼亚州修订《商业与职业法典》，颁布《加利福尼亚州人工智能透明性法》，并于2025年1月起正式实施。该法要求使用生成式AI的企业必须对其生成的图像、视频和音频内容进行“潜在标注”，包括生成AI系统的名称、版本号、内容生成时间等信息。这种潜在标注可以直接显示在内容上，或通过永久链接的形式提供。企业还需免费向用户提供AI内容检测工具，帮助用户辨别哪些内容是AI生成，并可查看系统来源数据，极大提升内容透明度。

此外，加州还修订《民法典》，制定《生成式人工智能学习数据透明性法》，规定自2022年起发布或实质性更改的生成式AI系统开发者必须在2026年1月1日前公开其训练数据的详细信息，包括数据集来源、所有权及版权状况等，推动训练数据的公开透明。

在医疗领域，加州新增《卫生与安全法》条款，规定医疗机构在使用AI辅助诊疗且涉及患者临床信息时，必须明确告知患者并说明人工智能的具体应用方式，保障患者知情权和安全。

2. 科罗拉多州：聚焦高风险AI系统的消费者保护

2024年5月科罗拉多州修订《消费者保护法典》，制定《人工智能系统与消费者互动中的保护法》，专门针对高风险AI系统的使用，要求开发者和使用方承担严格的透明性义务。特别是在金融、健康保险、就业等领域涉及重大决策的AI系统使用时，必须提前告知消费者AI参与了决策过程，并提供相关说明。

该法还规定，AI系统开发者需向使用者公开高风险AI系统的学习数据概要、算法公平性评估等信息，并在发现可能导致算法歧视风险时，及时通知监管机构和使用者。此外，使用方在做出重大决定时，需明确告知消费者该决定基于高风险AI系统。此举有效强化了消费者权益保护，防止AI引发的歧视和偏见。

3. 启示与建议

中国正处于人工智能快速发展和规范建设的关键阶段，借鉴国外经验，结合国内实际，推动形成科学合理、具有中国特色的AI法律体系尤为重要。具体建议包括：

一是强化生成式人工智能内容透明性。应明确要求AI生成内容必须标明来源和生成过程信息，提升公众对AI内容的识别能力，防范虚假信息和误导风险。二是推动AI检测工具的普及与开放。加强对AI检测工具的研发和推广，鼓励相关企业免费向公众开放检测接口（API），赋能用户主动识别和甄别AI生成内容，构建可信的数字信息环境。三是规范训练数据公开与合规管理。推动中国AI开发者公开训练数据基本信息，确保数据使用的合法合规，促进数据安全和隐私保护。四是聚焦高风险AI系统的透明告知和风险防控。重点加强对金融、医疗、教育、就业等关系民生的关键领域AI系统的事前告知和风险评估，防止算法歧视及不公平决策，保障人民权益。

参考文献：

[1] 美国的人工智能相关州立法案例.韩国国会图书馆. [EB/OL]. 2025-04-15. https://law.nanet.go.kr/foreignlaw/newForeignLawissue/newForeignLawissueView.do?cn=KLAW2025000005&pageNo=1&pageSize=10&countPerPage=10&commitCode=&ascName=&ascCode=&nationName=&nationCode=&searchCon=&searchKey=&jsFunctionNm=search&searchGubun=ISSU&searchType=ISSU&searchTab=ALL&searchFromDate=&searchToDate=&displaysort=ISSUE_DATE_DESC&countPerPage=10&searchAction=0&displayAction=0&commitName=.

[2] 人工智能法. 欧盟. [EB/OL]. [2025-05-22]. http://data.europa.eu/eli/reg/2024/1689/oj.

[3] 2020年国家人工智能计划法.美国国会. [EB/OL]. [2025-05-22]. https://www.congress.gov/bill/116th-congress/house-bill/6216.

[4] 加利福尼亚州人工智能透明性法. Legiscan. [EB/OL]. [2025-05-22]. https://legiscan.com/CA/text/SB942/id/2964649.

[5] 人工智能系统与消费者互动中的保护法. Legiscan. [EB/OL]. [2025-05-22]. https://legiscan.com/CO/text/SB205/id/2996839.