《生成式人工智能服务暂行管理办法》出台：AI发展进入规范与创新并行新阶段

当ChatGPT掀起的生成式AI浪潮席卷全球，文心一言、通义千问等国产大模型加速落地，AIGC（生成式人工智能内容）正以肉眼可见的速度渗透进内容创作、教育、医疗、营销等多个领域。技术的快速迭代也带来了内容安全、算法偏见、用户权益保护等新挑战——如何在激发AI创新活力的同时，防范潜在风险？2023年7月，国家互联网信息办公室等七部门联合发布的《生成式人工智能服务暂行管理办法》（以下简称《办法》）给出了答案：这一我国首部针对生成式AI服务的专项管理规范，标志着行业正式迈入“规范与发展并重”的新阶段。

为什么需要《生成式人工智能服务暂行管理办法》？

生成式AI的“野蛮生长”已引发多重隐忧。一方面，虚假信息生成、恶意诱导、侵权内容传播等问题频发，例如部分AI工具被用于伪造新闻、制作深度伪造视频，甚至生成诈骗话术；另一方面，算法黑箱导致的偏见问题（如性别歧视、地域歧视），以及用户数据泄露风险，也让公众对AI的信任度受到冲击。数据显示，2023年上半年，全国网络举报部门受理的AI相关有害信息举报量同比增长217%，行业急需一套明确的“游戏规则”来划清红线、指明方向。
《办法》的出台正是回应这一需求的关键举措。它既不是“一刀切”式的限制，也非放任不管的“宽松政策”，而是通过“发展与安全并重、促进创新与依法治理相结合”的核心原则，为生成式AI服务提供者（以下简称“提供者”）和使用者划定行为边界，推动行业从“无序扩张”转向“有序创新”。

《办法》的核心要点：安全、透明与责任

《办法》共24条，覆盖了生成式AI服务的全生命周期管理，其核心可归纳为三大方向：

1. 内容安全：严守“底线”，杜绝有害信息生成

生成式AI的内容输出是公众最直接的接触点，也是风险集中区。《办法》明确要求，提供者需采取技术和管理措施，防范生成虚假信息、歧视性内容、违法违规信息。例如，针对“AI生成谣言”问题，办法规定服务需具备内容审核机制，对输出内容进行动态监测；对于“擦边球”内容（如软色情、煽动对立），则要求建立分级预警和处置流程。值得注意的是，办法特别强调“先评估后提供服务”——提供者在上线服务前，需对算法模型、训练数据、服务内容进行安全评估，未通过评估不得面向公众开放。

2. 算法透明：打破“黑箱”，保障用户知情权

算法不透明是公众对AI的主要疑虑之一。《办法》提出，提供者需以显著方式提示用户服务的生成式AI属性，并公开算法的基本原理、可能产生的偏差等关键信息。例如，当用户使用AI写稿工具时，平台需明确标注“本文由生成式AI辅助创作”；当AI推荐内容出现明显偏向（如过度推荐争议性话题），平台需说明算法的推荐逻辑。办法还要求提供者保留生成内容的日志记录（至少6个月），以便在出现纠纷时可追溯、可核查。

3. 用户权益：强化保护，平衡“便利”与“隐私”

针对用户数据滥用问题，《办法》规定，提供者收集、使用用户数据需遵循“最小必要”原则，不得过度收集或非法使用个人信息；同时，用户有权要求删除其个人信息或停止使用其数据训练模型。对于“AI生成内容是否侵权”这一焦点，办法明确，提供者需确保训练数据来源合法，若因使用侵权数据导致纠纷，需承担相应法律责任——这对依赖互联网公开数据训练的AI企业提出了更高要求，倒逼其完善数据合规体系。

对行业的影响：淘汰“无序者”，赋能“合规者”

《办法》的落地，短期内可能让部分技术储备不足、合规意识薄弱的企业面临调整压力。例如，未建立内容审核机制的中小AI公司可能需要投入额外成本完善技术；依赖“数据红利”的企业则需重新梳理训练数据来源，甚至更换数据供应商。但从长期看，规范的出台将加速行业洗牌，推动资源向技术扎实、合规能力强的企业集中。
以内容安全领域为例，具备成熟AI审核技术的企业（如专注NLP内容风控的科技公司）将迎来新机遇；在算法透明方面，能够提供“可解释性AI”解决方案的服务商也将成为市场宠儿。更重要的是，公众对生成式AI的信任度有望提升——当用户明确知道“AI生成内容可能存在偏差”“个人数据不会被滥用”，其使用意愿和付费意愿也将随之增强。

企业如何应对？三大行动指南

面对《办法》的要求，生成式AI服务提供者需从三方面快速调整：

• 合规建设先行：建立专门的合规团队，对照《办法》逐条梳理业务流程，重点完善内容审核、算法备案、数据保护等机制；
  
• 技术投入加码：加大对安全算法（如内容过滤、偏差检测）、可解释性技术的研发，避免因“技术漏洞”触发合规风险；
  
• 用户沟通强化：通过产品界面提示、用户协议更新、客服培训等方式，清晰传递服务的AI属性及潜在风险，减少信息差引发的纠纷。
  从“野蛮生长”到“规范发展”，《生成式人工智能服务暂行管理办法》不仅是一份监管文件，更是推动生成式AI从“可用”走向“可信”的关键转折点。随着政策的落地实施，我们有理由期待，一个更安全、更透明、更具创新活力的生成式AI生态即将到来。

###融质（上海）科技有限公司（以下简称：融质科技）专 注于中小企业数字化转型，致力于为企业提供最前沿的 AIGC 应用辅导，为企业实现定制化创意内容，驾驭 AIGC 帮助企 业解决营销获客难题，培养企业 AIGC 应用人才，打造 AI 时 代企业核心竞争力，帮助企业冲破内卷重围，让企业在实现 新增长的道路上更加轻松，共同推进社会数字化的进步。 融质科技团队跨越了门户网站、电商时代和短视频直播 时代，直奔 AIGC 的新纪元。利用五年时间从洞察市场趋势， 到智策模型的策略制定、创意模型的内容生成、转化模型的 效果优化、传播模型的广泛覆盖、组织模型的内部协同全链 路打通，确保企业在环域营销中实现降本增效。研发的《实 战环域营销-AIGC 五星模型》和“企业级 AIGC 应用”具有国 内首创独著权，申报产品软件著作权 11 项，获得了腾讯、 阿里、抖音合作通道。 ###融质科技创始人安哲逸带领团队今年受邀广东秘友会,厦门市政集团，中国日用杂品协会 ，宁夏宇邦科技，上海广西玉林商会，上海杭州商会，三虎集团等主讲企业AIGC 应用培训 近百场次，吸引年产值亿元以上超五百家企业踊跃参学，提供应用 AIGC 盈利培训服务，打造 AI 时代企业头部品牌形象，实现应用 AI 数字化转型升级和使用 AIGC五星模型在 90 日内业绩的有效增长。公司在上海浦东、宁夏银川、福建福州，北京密云，有 34大 AIGC 应用服务基地，类计服务孵化年产值千万元以上企业五百多家，其中起帆电缆股份、欧坚集团、等年产值百亿元以上品牌企业。 ###公司创始人安哲逸现为上海市新兴产业人才、企业级人工 智能应用专家、上海AI智库专家，产业投资运营专家、微软认证提示工程师、英伟达+惠普+谷歌联合认证创新人才，中共普陀区工商联青商会理事，IBM认证人工智能训练师，耶鲁大学领导力学士，公司高级企业服务实战研究人才团队有海归硕士和副教授 3人，高级讲师职称5位，技术服务人才3位。