2023 年 8 月 15 日,《生成式人工智能服务管理暂行办法》正式施行,提供生成式 AI 服务的平台需向网信办备案,国内 AI 工具合规化进入新阶段。这是全球范围内较早针对生成式 AI 出台的专门规定。
事件详情
《暂行办法》由国家网信办联合发改委、教育部、科技部、工信部、公安部、广电总局七部门于 2023 年 7 月 13 日发布,8 月 15 日起施行。它把生成式 AI 定义为"基于算法、模型、规则生成文本、声音、图片、视频等内容的技术",对提供这类服务的平台(不是技术开发者)提出备案、安全评估、内容标注等要求。
备案是核心条款。任何面向中国境内公众提供生成式 AI 服务的平台,上线前都要向所在地的省级网信部门备案,提交模型的基本信息、训练数据来源、安全评估报告。备案通过后会拿到一个备案号,要在产品页面公示。截至 2024 年 3 月,网信办公布的备案名单里有 100 多个模型,百度文心一言、阿里通义千问、智谱 GLM、月之暗面 Kimi 等主流国产模型都在列。
《暂行办法》相对征求意见稿有明显放松。征求意见稿(2023 年 4 月)要求训练数据"真实准确",被业内认为不现实;正式稿改成"采取有效措施提高训练数据质量",给了空间。罚款上限也从征求意见稿的 10 万元-100 万元,放宽到按《网络安全法》等上位法执行,实操中更灵活。
关键信息
| 项目 | 内容 |
|---|---|
| 法规名称 | 生成式人工智能服务管理暂行办法 |
| 发布机关 | 国家网信办等七部门 |
| 发布日期 | 2023 年 7 月 13 日 |
| 施行日期 | 2023 年 8 月 15 日 |
| 核心义务 | 备案、安全评估、内容标注、用户实名 |
| 备案数量 | 截至 2024 年 3 月,100+ 模型完成备案 |
| 适用范围 | 面向境内公众提供服务的企业 |
我们的观察
我们做 AI 导航站的过程中能感受到这部办法的实际影响。国外的 ChatGPT、Claude 都没备案,国内不能直接提供服务,这就是国产大模型能迅速占领市场的原因之一——不是技术更强,是合规这道门把对手挡在外面。备案名单本身成了一个市场准入牌照,没拿到备案的模型连上架应用商店都难。
合规成本不只是钱。备案要交训练数据说明,这对用公开数据训练的模型还好,对用了不确定来源数据的模型就是一道坎。中小团队如果想做大模型服务,备案这一关要先想清楚。这也是为什么很多创业公司选择基于已备案的模型做应用层,而不是自己训模型——合规风险转移给底座厂商。
对普通用户来说,这部办法的直接影响是:你在国内用的 AI 工具都过了内容安全评估,涉及政治、暴力的内容会被过滤。这是好是坏见仁见智,但事实是国产模型的"安全对齐"做得比国外模型更紧,这是合规要求决定的。