近日，上海网信办通报了“清朗·整治AI技术滥用”专项行动第一阶段的显著成果。此次行动主要针对AI技术的违规使用，全面清理并整治了相关违规AI产品及信息。
在专项行动中，上海市委网信办积极指导包括小红书、哔哩哔哩、拼多多在内的15家重点网站平台，集中对“一键脱衣”、未经授权的人脸或人声克隆编辑等违规AI产品、商品及其营销、炒作、推广、教程信息进行清理。这些平台积极响应，不仅主动发布专项行动治理公告，还开通了有害AI内容的举报受理处置渠道，加强了对智能体的全面排查清理。
据统计，各重点网站和AI平台在此次行动中共拦截清理了82万余条违法违规信息，处置了1400余个违规账号，并下线了2700余个违规智能体。这一系列举措使得网络上的违规AI信息得到了显著减少。
此外，上海网信办还围绕AI内容的“制作-传播”环节，通过政策指导、生态协同与技术落地，推动相关企业加快开发上线隐式标识和传播链互认验证。稀宇科技、阶跃星辰、通义等多家企业已基本完成了显式标识规范的上线工作。同时，小红书还牵头编制了图片模态元数据标识实践指南，为上海的标识工作取得了阶段性成效。
此次专项行动的初步成果展示了上海网信办在整治AI技术滥用方面的决心和成效，为营造清朗的网络空间迈出了坚实的一步。
浙公网安备 33010502007447号