上海发布生成式AI数据安全风险评估手册

上海市委网信办近期发布了《生成式人工智能服务安全风险评估指南》（简称“手册”），旨在规范生成式AI及Agent类产品的数据安全管理。根据最新报道，该手册对Agent类产品提出了具体的合规审查要点：首先，要求严格依据《生成式人工智能服务管理暂行办法》，审查训练数据的合法性、内容安全机制及算法备案义务；其次，在数据源管理上，明确规定单一数据源占比不得超过1%，以防范数据垄断与偏见风险；此外，手册将知识产权侵权纳入核心风险评估指标，并要求审查覆盖模型来源、用户数据用途及隐私政策，确保符合个人信息保护与数据安全相关规定。目前，相关合规义务已进入落地执行阶段，重点聚焦于权限边界审查与多源数据治理。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。