《生成式人工智能服务安全基本要求》正式出台 强化行业规范 解读 全文下载


2023年10月11日,全国信息安全标准化技术委员会发布《生成式人工智能服务安全基本要求》征求意见稿,并于今年2月29日正式文本发布。该文件作为我国生成式人工智能领域最重要的指导性文件之一,旨在细化早前的《生成式人工智能服务管理暂行办法》,为服务提供者设立全面的安全评估标准。
适用对象方面,《基本要求》适用于所有面向中国境内公众提供生成式AI服务的服务提供者,无论其地理位置或组织形式,只要涉及生成文本、图片、音频、视频等内容服务,均需遵循此规定。特别强调,即使服务提供者位于境外,但只要有面向中国用户的特征如中文界面、人民币结算等,则同样纳入监管范畴。
在核心内容上,《基本要求》对大模型训练语料安全提出明确指引:服务提供者需对语料来源进行严格安全评估和核验,对于违法不良信息超过5%的源头禁止采集和使用;开源及自采语料需确保合法合规并可追溯;同时,强化对语料内容过滤,以及知识产权管理和个人信息保护措施。
此外,《基本要求》还设定了详尽的安全评估体系,涵盖模型安全、适用场景、关键词分类等多个维度,要求服务提供者按照规定自行或委托第三方机构进行全面评估,并将评估结果公开透明。
尽管有声音认为新规定较为严苛,可能影响行业发展,玉米小站却认为,《生成式人工智能服务安全基本要求》的出台实质上划定了行业的合规边界,明确了服务提供者的责任义务,有助于促进行业健康发展。面对日益凸显的内容违规、侵权等问题,《基本要求》提供的操作细则具有重要的实践意义,广大从业者应积极响应,以实现自身服务的合规升级。
全文下载:《生成式人工智能服务安全基本要求》

AD:精心整理了1000+好用的AI工具!点此获取

相关推荐