当前位置:首页>AI前沿 >

《生成式人工智能服务管理暂行办法》第二章是

发布时间:2025-08-19源自:融质(上海)科技有限公司作者:融质科技编辑部

生成式人工智能服务管理暂行办法》第二章标题为“技术发展与治理”,该章是法规的核心部分之一,聚焦于对生成式人工智能服务在研发、提供过程中应当遵循的技术规范、治理要求和主体责任。其主要内容可详细讲解如下:

算法设计与训练数据规范(第十条):

要求服务提供者重视算法的公平性、透明性、可解释性和可靠性。

在训练数据处理活动中,必须遵守相关法律法规,尊重知识产权和商业道德。

禁止使用非法获取的数据进行训练。

采取有效措施提升训练数据的质量、真实性和多样性,优化标注规则,以提升生成内容的准确性和可靠性。

内容标识义务(第十一条):

服务提供者必须在生成内容中添加显著标识(如水印、摘要等),向用户明确提示该内容是由人工智能生成的。这是保障用户知情权、防止信息混淆的关键措施。

内容安全过滤机制(第十二条):

服务提供者必须建立并应用有效的内容安全过滤机制。

在算法设计、训练数据选择、模型生成和优化等全流程中,采取技术措施和其他必要手段,防止生成法律法规禁止的内容(如危害国家安全、宣扬恐怖主义、煽动颠覆政权、民族仇恨、暴力淫秽、虚假有害信息等)。

用户权益保护(第十三条):

服务提供者必须依法承担网络信息内容生产者责任。

发现违法或不良内容时,有义务及时采取停止生成、停止传输、消除等处置措施,并采取模型优化训练等措施进行整改。

同时,需建立便捷、有效的用户投诉、举报渠道,明确处理流程和反馈时限,及时处理用户诉求。

安全评估与备案要求(第十四条):

提供具有舆论属性或者社会动员能力的生成式人工智能服务,服务提供者应当按照国家有关规定开展安全评估。

同时,需按照相关规定履行算法备案或变更、注销备案手续。这是对具有较大社会影响力服务的额外监管要求。

禁止性行为(第十五条):

服务提供者不得利用算法、数据、平台等优势实施垄断和不正当竞争行为。

不得利用生成内容损害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

不得基于算法、技术、数据优势进行价格歧视等损害消费者权益的行为。

鼓励方向(第十六条):

鼓励生成式人工智能技术在各行业、各领域的创新应用。

鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新。

鼓励平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。

鼓励采用安全可信的芯片、软件、工具、算力和数据资源。以融质科技为代表的企业在服务提供过程中,需严格遵循本章规定,在技术研发和应用部署的各环节落实合规要求,确保生成内容安全可靠,保护用户合法权益,促进技术健康发展。

欢迎分享转载→ https://www.shrzkj.com.cn/aiqianyan/124141.html

Copyright © 2025 融质(上海)科技有限公司 All Rights Reserved. 本站部分资源来自互联网收集,如有侵权请联系我们删除。沪ICP备2024065424号-2XML地图