近日，一套基于网络媒介中AIGC网络视听内容的特征识别与AI Ethics安全治理体系创新方案正式发布，吉利学院研探esp科研团队针对网络媒介AIGC影音制品领域的监管难题，通过 “事前防控、事中监测、敏捷响应” 的全新模式，为行业安全发展提供了可落地的解决方案，目前已成立四川研探检验检测有限责任公司，获得融资。

在B级1078PB的机房上云实验

当前，AIGC技术在网络影音领域的应用快速扩张，传统监管模式的弊端日益凸显，难以适配AI内容的爆发式增长；带偏见的AIGC内容隐蔽性强，人工鉴别难度大；用户通过提示词绕过数据栅栏，生成算法内生风险内容，进一步加剧了治理挑战。在此背景下，该方案提出 “下手快、力度轻” 的敏捷治理思路，以技术工具实现 “快响应、高预警、灵活”，既守住安全底线，又减少企业合规调整成本。

受邀再次拜访北京大学西部研究院交流

方案的核心支撑为AI Ethics.esp离线部署U盾（人工智能伦理审查监管辅助系统），由技术、法律、伦理、行业专家组成独立伦理委员会，对高风险项目进行事前审批，制定伦理准则并监督执行，实现从 “事后处罚” 向 “事前引导” 的转变。

针对三大行业痛点，方案构建了三重治理防线：

数据治理防线：通过公共数据合规清洗，建立权威数据源白名单，禁止未授权内容爬取，依托公开数据和 “三库””数据校正训练数据，实现去隐私、去偏见、去侵权；

算法风险防线：建立规范数据栅栏与结果过滤机制，对提示词绕过行为、高风险场景进行精准识别与人工必复核，防范算法内生风险；

伦理监管防线：通过AI Ethics.esp系统实现对AIGC内容的动态监测，为监管者提供快速预警，为生产者提供合规指引，为消费者提供安全内容环境。

据了解，该方案覆盖监管者、生产者、消费者三类核心对象，形成多方协同治理格局。目前，方案已完成核心技术模块研发，下一步将开展试点测试，逐步向行业推广应用，推动网络媒介AIGC行业从 “被动应对风险” 向 “主动构建安全” 转型。

该方案计划优先在短视频创作平台、网络影视制作机构等高频应用场景开展试点。试点期间，将联合参与企业完成AI Ethics.esp离线U盾的部署与适配，针对不同类型的AIGC影音内容制定细分场景的监测规则，同时收集企业在合规流程中的实际需求，进一步优化“事前防控-事中监测-敏捷响应”的闭环机制。预计通过试点，可实现AIGC影音内容安全风险预警准确率提升至90%以上，内容审核效率较传统模式提高5倍，帮助企业减少约30%的合规运营成本。此外，方案还将联合行业协会发布《网络媒介AIGC影音制品安全治理指南》，推动形成统一的行业规范，引导更多市场主体主动参与安全治理，共同筑牢AIGC技术应用的伦理与安全屏障，为数字内容产业的健康可持续发展注入新动能。