为贯彻落实中央网信办“清朗·整治AI技术滥用”专项行动部署,营造风清气正的网络空间,浙江省委网信办结合全省人工智能发展形势,部署“浙里清朗·整治AI技术滥用”专项行动,开展AI技术源头治理工作,聚焦6类突出问题开展专项整治,取得阶段性成果。
一、强化部署,压实平台主体责任
一是积极组织部署。制定《“浙里清朗·整治AI技术滥用”专项行动实施方案》《“浙里清朗·整治AI技术滥用”技术监测和巡查方案》,督促平台企业聚焦模型备案、数据训练、内容审核等重点环节开展全链条自纠自查。
二是加强技术巡查。组织技术力量对10款AI类应用,针对训练语料管理、安全管理措施、落实内容标识情况等要点开展巡查测试,梳理形成问题集向企业通报,督促企业及时整改,迭代升级安全能力,建立健全风控机制。
二、精准出击,彰显行动治理成效
一是清理违规内容信息。指导通义、DeepSeek、淘宝等家重点网站平台,集中清理“声音克隆”“语音复刻”“AI换脸”“一键脱衣”等违规AI产品、商品及相关营销、炒作、推广、教程信息,各AI应用和网站平台共拦截清理各类违法违规信息及提问2550万余条,累计处置违规账号100余个。
二是严格内容标识管理。组织200余家平台企业参加人工智能标识办法标识标准宣讲会,督促平台落实《人工智能生成合成内容标识办法》,要求对文本、图像、音视频等生成内容进行显著标识,推动平台构建AI内容检测识别能力。
三是完善安全管理措施。指导企业建立与业务规模相适应的内容审核、意图识别等安全措施。钉钉等平台设立AI违规内容举报入口,完善相关内容举报处置闭环,达摩院“寻光大模型”等AI应用优化内容识别模型,实现100%“机器审核+人工审核”覆盖,违规内容拦截率显著提升。
三、健全机制,深化长效协同共治
一是强化企业合规指导。组织专项政策宣讲与合规培训,采用“线上+线下”双线联动模式全方位加强政策宣贯,将政策要求转化为社会共识。高标准推进安全管理,结合技术路线、应用场景特征针对性开展指导服务,督促指导平台落实标识要求、建设标识能力,强化人工智能全流程合规指引。
二是加强常态化安全管理。组织多家技术支撑团队,针对违规AI产品、训练预料管理不严、安全管理措施薄弱、未落实内容表示要求等问题,开展人工智能全生命周期安全测试,通过持续压力测试与算法优化,实现模型输入输出内容实时安全扫描。
三是构建协同共治生态。建立“1+6+N”人工智能治理体系,协同推进垂直领域大模型在行业领域部署应用和上线服务,赋能行业提质增效。畅通投诉举报渠道,加强公众参与和社会监督,推动形成“政府监管、行业自治、企业自律、社会监督”的AI治理新格局。
下一步,浙江省委网信办将以“智能向善”的工作思路为指引,持续深化监管创新与多方协作,筑牢技术发展安全防线,营造清朗可靠的AI应用生态,不断提升生成式人工智能安全治理工作效能。
打印本页 关闭窗口 |
最新要闻
ZUIXIN
YAOWEN