大湾区生成式人工智能安全发展联合实验室9月11日成立 六大网安技术创新成果发布　　生成式人工智能是引领新一代科技革命和产业革命的核心驱动力，是加快培育和发展新质生产力的重要引擎，为经济高质量发展注入新动能。与此同时，人工智能技术也带来了各类难以预知的风险和挑战。在2024年国家网络安全宣传周举办期间，“大湾区生成式人工智能安全发展联合实验室”宣告成立，将进一步牵线搭桥，搭建粤港澳三地网络安全产业的交流与合作平台，推动“政产学研用”深度融合。　　9月11日上午，在2024年国家网络安全宣传周“粤港澳大湾区安全技术创新”座谈会上，由广东省委网信办和国家互联网应急中心广东分中心联合发起的大湾区生成式人工智能安全发展联合实验室宣布成立。　　该实验室由广东省委网信办和国家互联网应急中心广东分中心联合发起，华为公司、腾讯公司、中山大学、广州市委网信办、深圳市委网信办、东莞市委网信办以及深圳河套发展署参与联合建设。　　会上，国家互联网应急中心广东分中心党委书记、主任（兼广东省委网信办副主任）应鸿晖介绍，联合实验室将建设六方面的能力：建设一套本地化生成式人工智能安全测评系统；形成一套属地生成式人工智能安全发展标准；训练一套大模型安全智能评测引擎；运行一套“平台自动化+专家团队复核”运营方式；研究一套“安全可信+量化评级”的服务行业框架；探索一套“共建共享+双向赋能”的支撑监管新模式。　　“以人为本，智能向善”　　据介绍，联合实验室由国家互联网应急中心广东分中心牵头实体化运行，属地网信等相关部门大力支持，充分发挥华为公司、腾讯公司在人工智能方面的核心引擎和辐射带头作用以及中山大学在安全可信、量化评级方面的深厚科研积累，由各方投入优势资源，选派骨干，组成专家团队，共同建设广东省生成式人工智能安全发展评估体系，加快制定广东省生成式人工智能安全发展标准，共同研究形成可量化的服务行业评级框架，共同促进人工智能“以人为本，智能向善”。　　座谈会上，“粤网安公益行”启动。活动采取线上线下相结合的形式，为相关政府单位、企事业单位乃至全社会提供网络安全评估、培训等全方位支持与帮助。第一批公益服务项目包括网络安全与数据保护专题培训、网络安全成熟度测评、工业企业网络安全评估，以及勒索风险排查、威胁检测及响应、7×24小时安全托管等服务。内地企业可通过“线上+线下”的方式参与，港澳单位可以线上参与。活动方将为企业提供量身定制的安全服务方案，携手社会各界共筑网络安全屏障。　　六大技术创新 构筑网安防线　　1.数据跨境流动安全治理服务平台　　2.深信服大模型赋能的下一代流量检测响应　　3.竞远安全工业企业智能化安全服务平台　　4.百度大模型内容安全平台　　5.超融合安全服务平台　　6.多维应用安全防护系统　　数字时代，网络安全问题日益凸显。粤港澳大湾区在数字经济创新发展上走在前列，也肩负着构建网络安全新防线的使命。　　大会现场集中发布了六大网络安全技术创新成果，包括数据跨境流动安全治理服务平台、深信服大模型赋能的下一代流量检测响应等，全面展现大湾区网安技术创新实力。　　其中，由国家互联网应急中心广东分中心探索建设的“数据跨境流动安全治理服务平台”，为促进大湾区企业安全、便利、合规开展数据出境业务，提供了智能的合规指引、专业的保障措施和一站式的服务解决方案，为数据跨境流动安全治理贡献“广东实践”。　　深信服科技发布重塑流量检测响应新标准的大模型赋能的下一代流量检测响应产品，基于大模型技术实现虚拟“安全专家”能力，像人一样直接理解攻击，极大提升攻击检测精准率，改善过去“高检出必然高误报”的痛点；“竞远安全工业企业智能化安全服务平台”使用AI驱动的云边协同技术，面向工业企业提供安全检测评估、安全运维、供应链安全管理等智能化安全服务，此次发布为全国首发。　　众多创新成果的面世，将助力大湾区乃至全国提升网络安全防护能力，为数字经济发展提供更有力的安全保障。　　“大咖”论道　　服务“数据跨境流动”　　南沙可建设“数据保护区”　　围绕网络安全、数据安全、人工智能和工业安全等领域，座谈会还邀请中国工程院院士、中国互联网协会专家咨询委员会主任邬贺铨，香港网络安全事故协调中心主管李子图、澳门特别行政区政府司法警察局电脑法证处处长钟锦良等专家，以及来自华为、腾讯、百度等公司的网络安全行业领军人物，共同探讨大湾区网络安全前沿技术与创新发展。　　其中，邬贺铨以“AI时代的数据安全”为题作主题报告。他提出，人工智能自身有不安全性和“幻觉”，更可能被滥用，因此要用各种办法提高AI的可行性，并从数字水印、数据采集、数据保护等维度展开分析。　　在数据采集方面，邬贺铨指出，目前中国基本语料数据仍不够，现在很多人工智能的训练，当原始数据不够时，会应用AI生成的数据。他以自动驾驶举例称，自动驾驶需要上百亿公里的路测数据，相当于百辆汽车连续跑100年。出于成本考虑，业内一般会使用人工智能的方法，在基底训练数据上基于大模型自动进行长尾场景的自我训练。“完全靠AI生成的数据会逐渐变形、出错，乃至产生‘幻觉’。反复迭代使用AI生成的数据，相当于‘近亲繁殖’，最后就失去了效果，所以我们要重视数据的原生性。”他说。　　在人工智能时代，面对AI换脸等带来的风险，数字水印也重新被提起。邬贺铨表示，图像加上数字水印后，一般人看不出来，但是可以用特定的办法提取水印。数字水印可以实现版权保护，识别AI换脸、换身等，实现深度防伪。　　在2024年国家网络安全宣传周期间，“数据跨境流动”成为关注焦点。邬贺铨在发言中特别建议设立“数据保护区”。此外，在推动数据跨境流动的过程中，个人敏感信息要进行申报，并且采取脱敏技术。　　为何要建立“数据保护区”？邬贺铨解释道，按照数据跨境流动的规律，即便在境内加工境外数据，也不允许插入境内的个人信息和重要数据；另一方面，境外数据放到境内来加工，外方也担心其数据在加工过程中被泄露。　　“‘数据保护区’和境内公众是物理隔离的，有境内、境外物理关防，像一般的货物保税区一样。虽然这个数据保护区相当于境外数据的一个飞地，但是仍然受到省级网信部门的监管。”邬贺铨说，当前设立“数据保护区”的条件已经较为成熟——中国通信基础设施先进，宽带渗透率高，IT人才勇于攻关。　　“南沙就很适合作为承接境外数据的清洗标注基地。”他说。