AI 政策与监管：EU AI Act / 美国 EO / 中国办法对照

L6 之前我们都讲技术对齐—— 这一篇讲法律层面。

2024-2026 年是 AI 监管的爆发期：

• 欧盟 AI Act 生效
• 美国一连串 Executive Orders
• 中国一系列管理办法
• 各国跟进

任何严肃做 AI 的——必须懂这些。

三大法域

1. 欧盟（EU）

EU AI Act——全球第一个综合 AI 法律：

• 2024 年 8 月正式生效
• 2026 年 8 月全面实施

2. 美国（US）

碎片化：

• Biden EO 14110（2023，2024 改）
• 加州 SB 1047（2024 被否决，预期重提）
• 多州法律
• FTC、SEC 等部门规则

3. 中国

部门规章为主：

• 《生成式人工智能服务管理暂行办法》（2023 年 8 月）
• 《互联网信息服务算法推荐管理规定》（2022）
• 《互联网信息服务深度合成管理规定》（2023）

EU AI Act 详解（最重要）

EU 是全球 AI 监管标杆——其它地区参照它。

风险分级

EU AI Act 按”风险等级”分类 AI 系统：

1. 不可接受风险（禁止）

禁止部署这类 AI：

• 社会信用评分系统
• 利用人类弱点的操纵
• 公共空间实时人脸识别（执法少数例外）
• 情绪识别（在工作 / 教育场景）
• 生物特征分类（推断政治 / 宗教等）

这些直接禁止——欧盟境内不能用。

2. 高风险（严格监管）

必须做合规的 AI：

• 招聘 AI
• 教育评估 AI
• 银行信贷 / 保险定价 AI
• 关键基础设施控制 AI
• 医疗诊断辅助 AI
• 司法 / 执法辅助 AI

合规要求：

• 风险评估
• 数据治理（高质量、无偏见）
• 技术文档（详尽，可审计）
• 透明性（用户知情）
• 人类监督
• 准确性 + 鲁棒性测试
• 网络安全
• 认证 + 注册（CE 标记）

合规成本：单产品 €100K - €5M+。

3. 有限风险（信息披露）

必须告诉用户：“你正在和 AI 对话”。

• 聊天机器人
• Deep fake 视频 / 音频

4. 最低风险（基本无义务）

• 拼写检查
• 反垃圾邮件
• 推荐系统（一般场景）

General-Purpose AI Models（GPAI）

专门针对”基础大模型”：

• LLM（如 GPT-4 / Claude / Llama）
• 多模态模型（如 GPT-4V / Sora）

义务：

• 训练数据透明披露（包括版权来源）
• 模型卡公开
• 测试报告（含红队）
• 安全风险评估

如果是”系统性风险”模型（计算量 > 10^25 FLOPs）：

• 额外义务
• 必须通报欧盟
• 必须做 evals

GPT-4、Claude 3、Llama 3 等都属于这一类。

处罚

违规处罚极重：

• 最高 €35M 或全球营收 7%（取较高）
• 类似 GDPR 罚款规模

这是为什么所有 AI 公司严肃对待 EU。

美国监管

Biden EO 14110（2023 年 10 月）

Executive Order on Safe, Secure, and Trustworthy AI

主要内容：

• 大模型必须通报（>10^26 FLOPs 训练）
• 联邦机构 AI 应用要做 risk assessment
• NIST 制定标准
• 移民政策（吸引 AI 人才）
• 内容真实性标准（水印等）

注意：EO 在 Trump 上台后被废除—— 但部分内容（NIST 标准、机构 AI 政策）保留。

各州法律

加州

• SB 1047（2024 否决）—— 大模型 mandatory safety testing
• AB 2013 —— 训练数据来源披露
• AB 1008 —— Deep fake 选举管制

纽约

• Local Law 144 —— 招聘 AI 必须做偏见审计

科罗拉多

• SB 21-169 —— 保险 AI 反偏见
• AI Act（2024 通过）—— 类似 EU AI Act

联邦机构动作

• FTC：AI 虚假宣传、欺骗执法
• SEC：要求 AI 投资风险披露
• EEOC：招聘 AI 反歧视
• FDA：医疗 AI 审批

美国监管碎片化 —— 多机构、多州、随政府更替变化。

中国监管

《生成式 AI 服务管理办法》（2023 年 8 月）

主要要求：

• 生成内容必须真实、准确、不违法
• 必须做安全评估 + 算法备案
• 服务者承担”内容生产责任”
• 训练数据合法 + 标注质量
• 不得生成违法、违社会主义核心价值观的内容

这一规定让国内 LLM 部署必须”对齐到”中国语境—— 训练数据筛选、输出过滤都比国外严。

《算法推荐管理规定》（2022）

针对推荐算法：

• 不得”操纵热搜 / 流量”
• 不得”诱导沉迷”
• 不得”歧视性定价”
• 用户必须有”关闭推荐”选项

备案制度

模型必须备案才能服务公众：

• 算法基本信息
• 训练数据
• 安全评估报告
• 服务对象

国内 ChatGPT 类产品（豆包、文心一言、Kimi 等）都备过案。 国外 LLM（GPT-4、Claude）未备案——不能在国内合法商用。

全球对照表

维度	EU	US	China
立法形式	综合法律	碎片化	部门规章
范围	全 AI 应用	主要联邦机构	生成式 + 推荐
大模型	严格（GPAI）	通报	备案
罚款	€35M / 7% 营收	视情况	中等
执行	严格	看政府	较严
重点	用户权益	国家安全	内容合规

主要公司的应对

OpenAI

• 公开发布”Model Spec”——明确价值观
• 配合 EU AI Act 合规
• 与多国政府对话
• Preparedness Framework（自家安全标准）

Anthropic

• Responsible Scaling Policy（RSP）
• Constitutional AI 透明化
• 多国监管对话

Google

• AI Principles（公开原则）
• Frontier Safety Framework
• 配合 EU + UK 监管

Meta

• Llama 系列 “Responsible Use Guide”
• 开源模型的特殊责任

中国厂商

• 严格内容审核
• 训练数据国产化
• 监管对话紧密

对开发者 / 公司的影响

1. 出海要分地区

部署 AI 应用：

• 欧盟：完整 AI Act 合规
• 美国：联邦 + 州法分别遵守
• 中国：必须备案
• 其它：跟进

统一全球部署的时代结束了。

2. 文档 / 透明度成本上升

之前：模型黑盒就行 现在：必须详细记录：

• 训练数据来源
• 模型卡
• 评估报告
• 风险评估
• 用户权益保障

新增工程角色：AI 合规工程师、AI 政策专家。

3. 偏见审计常态化

招聘、信贷、保险等高风险场景—— 强制做偏见审计（NYC、EU、加州等）。

详见 L6-05 偏见与公平。

4. 用户权益

• 知情权：知道在和 AI 对话
• 解释权：AI 决策的理由
• 删除权：要求删除关于自己的数据
• 拒绝权：拒绝完全自动化决策

GDPR 第 22 条 + AI Act 强化了这些。

一些重要趋势

1. 全球趋同

EU AI Act 后—— 英国、加拿大、巴西、印度、新加坡 等都在制定类似法律。 “EU 标准”成事实国际基准。

2. 监管 vs 创新

各国都在权衡：

• 严格监管 → 安全 + 信任 ✓，但创新慢 ✗
• 宽松监管 → 创新快 ✓，但风险大 ✗

没有完美答案—— EU 选了”用户优先”，美国选”产业优先”，中国选”安全优先”。

3. 自治组织

各种 AI 公司组成的”自律组织”：

• Frontier Model Forum（OpenAI、Anthropic、Google、Microsoft）
• AI Safety Institute Consortium
• MLCommons

行业自律 + 政府监管的混合模式。

4. 国际协调

• UK AI Safety Summit（2023 始）
• G7 Hiroshima AI Process
• 联合国 AI 高级别小组

国际协调机制在建—— 但实质性协议还很少。

一个真实场景

假设你想做”AI 招聘助手”（筛选简历）：

EU 部署

• 高风险 AI —— 完整合规要求
• 强制偏见审计
• 必须有人类监督
• 详细文档 + CE 标记
• 合规成本：~€500K-2M

美国部署

• 联邦：无统一法律
• NYC：偏见审计要求
• CA：训练数据披露
• 各州合规：~$100K-500K

中国部署

• 算法备案（如果服务公众）
• 内容合规
• 数据合法
• 合规成本：~¥200K-1M

同一产品——在不同地区上线难度天差地别。

给你的建议

个人开发者

• 知道这些存在——别 ignorance
• 做小规模产品时一般 OK
• 准备扩大时提前找律师

创业公司

• 早期就设计合规——比晚期 retrofit 便宜 10×
• 欧盟 + 美国 + 中国 是主流目标——选哪个先
• 雇 AI 合规顾问 比律师便宜

大公司

• 内部 AI 治理委员会
• 合规工程师团队
• 与监管者主动沟通
• 行业自治组织 参与

下一篇推荐：L6-07 AI 安全研究入门（详细看可信 AI 路径）或 L6-08 AGI 风险讨论。