智御未来·安全共生 | 天融信承办的人工智能+安全分论坛成功举办
8月9日，中关村科学城软件和信息服务产业专委会、天融信科技集团承办的2025年网络安全技术创新与人才教育高峰论坛——人工智能+安全分论坛成功举行。论坛以“智御未来·安全共生”为主题，由中国网络空间新兴技术安全创新论坛（新安盟）、中国网络空间安全人才教育论坛（网教盟）、中国教育网络靶场论坛（教育靶场联盟）、国务院学位办网络空间安全学科评议组主办，邀请政、企、学、研各界领导，共探“人工智能+安全”深度融合与创新发展新方向。
人工智能技术是推动经济高质量发展的重要引擎。近年来，我国大力推进人工智能与产业深度融合，加速人工智能规模化商业化应用，目前已深入工业制造、医疗、金融、能源、农业等多个领域。2024年我国人工智能产业规模突破7000亿元，连续多年保持20%以上增速。人工智能与网络安全的融合日益紧密，不仅为网络安全提供了更具主动性和适应性的技术工具，更推动着安全体系从被动防御向智能驱动重构。
擘画“AI+安全”发展蓝图
促进人工智能产业健康发展，要兼顾安全和发展，这其中安全是底线。随着人工智能技术的加速应用，技术革新背后的安全风险正在交织叠加，已经成为亟待解决的时代新命题。在“人工智能+安全”分论坛上，湖南省委网信办信息化发展处处长刘志勇、中国网络空间新兴技术安全创新论坛秘书长鲁辉、天融信科技集团高级副总裁刘辉出席并致辞。
湖南省委网信办信息化发展处处长刘志勇为论坛致辞。他表示，我省高度重视人工智能技术发展，通过政策、安全监管、场景应用多方面协同，全力推动湖南人工智能产业高质量发展，加快发展新质生产力。
针对AI+安全，刘志勇处长谈到四点思考：一是完善标准规范体系。要加快制定和完善人工智能安全相关标准规范，促进人工智能产品和服务的质量提升，保障人工智能系统的安全运行。二是加强技术研发创新，要加大人工智能安全技术领域的研发投入，提高人工智能系统的安全性、可靠性和可控性，为人工智能产业的长远发展提供技术支撑。三是强化人才培养引进。要加强高校和职业院校相关专业建设，培养一批既懂人工智能技术又懂安全知识的复合型人才。同时，加大人才引进力度，为我省人工智能产业的发展提供人才保障。四是深化产业协同合作。要健全完善政府、企业、科研机构、行业协会等各方参与、共同发力的多元化工作格局，形成战略引导、市场参与、社会协同的联动机制，共同促进“人工智能+安全”产业交流与合作。
中国网络空间新兴技术安全创新论坛秘书长鲁辉出席并致辞，对天融信长期以来大力支持新安盟的各项工作表示感谢。人工智能在引领科研范式变革的同时，也面临着数据安全、道德伦理、结果评判等方面的诸多问题，大模型安全是产业发展中至关重要的一环。鲁辉秘书长表示，新安盟将继续发挥桥梁和纽带作用，联合产学研各方，开展标准制定、技术研究和人才培养等工作，推动新时代网络安全人才培养以及人工智能技术与网络安全的深度融合创新。
天融信科技集团高级副总裁刘辉在致辞中表示，人工智能技术正加速融入产业核心领域，成为驱动产业变革的新引擎。天融信自2014年起，十余年来持续实践人工智能与安全产业的深度融合、双向赋能。一方面，利用AI技术赋能打造网络安全新质生产力，基于天问大模型持续构建企业级AI安全能力体系，在威胁检测、安全运营、知识问答和算力管理等应用场景中实现了提质增效，助力客户提升网络安全防御能力；另一方面，深入大模型应用安全，通过智能化安全防护手段与系统性风险管控机制，为大模型应用提供坚实的安全保障。
此外，天融信着力打造具备内生安全能力的智算基础设施，全面助力各行业数智化转型升级。未来，天融信继续与各界同仁携手，共同为构建安全、可信、智能的网络空间环境，为推动人工智能产业健康发展奋斗。
共探“AI+安全”时代命题
主题演讲环节，来自清华大学、中国人民大学、浙江大学、湖南大学、广州大学以及企业的专家学者汇聚一堂，共话“人工智能+安全”创新融合发展，希望在产学研用各方的协同共治下，形成安全发展合力，共同构建安全可信的人工智能生态体系。
徐恪在主题演讲中谈到，大模型所蕴含的科学价值和产业价值，与其隐含的安全风险形成了巨大错位，严重制约大模型进一步发展的同时，也为国家安全与社会安全带来隐患。清华大学研究团队聚焦“大模型系统安全与网络防御”，针对大模型多模态输入数据、系统平台运行、上层API的安全风险检测与防御进行深入研究，构建了基于安全漏洞挖掘、攻击风险分析与威胁效果测试评估的大模型应用威胁分析框架，实现了大模型系统应用的全链路威胁检测、防御与风险评估。
石文昌介绍道，人工智能、大语言模型等新技术颠覆了原有的社会形态，催生了革新的社会形态。在新的社会形态中，人类和机器组成了共生、生存、相互作用的社会成员，人类不再是社会的唯一成员。社会形态的颠覆必然导致网络空间安全认知的颠覆，业界对网络空间安全的探索已由社会-技术系统视角演化到人类-机器社会系统视角，安全的内涵已从信息保护跃迁至系统共生韧性。面向未来，我们既要防范机器社会中的“蝴蝶效应”风险，更要珍视维基百科生态中人机多样性共生的智慧。
王志波谈到，大模型的成功离不开海量的训练数据，但也面临着严峻的数据泄露风险。随着公众数据安全意识日益增强以及《数据安全法》等法规的相继出台，旨在高效擦除模型对特定数据记忆、保障数据“被遗忘权”的数据遗忘技术应运而生。通过大模型遗忘的隐私攻击方案对现有大模型遗忘机制的有效性及其衍生风险进行评估，发现现有数据遗忘机制不仅无法彻底擦除目标数据，反而会泄露更多被遗忘数据的隐私，亟需开发更加高效、可信的数据遗忘新机制。
廖鑫在主题演讲中表示，AI技术是一把双刃剑，既带来了便利，也埋下了隐患。随着生成式人工智能技术的快速发展，深度伪造等AI内容滥用问题日益突出，正在颠覆人们长久以来“眼见为实”的传统观念，严重威胁个人隐私、企业利益、公共安全乃至国家安全。面对挑战，应利用AI伪造内容的检测与溯源技术，从事前主动防护与事后被动取证两方面入手，规范AI技术服务和应用，构建高效可信的全链条内容治理体系，筑牢AI时代的内容安全防护屏障，促进AI技术向善。
刘园指出，安全威胁情报共享是统筹安全与发展的国家战略需求，是实现关键信息基础设施安全的核心关键挑战。广州大学研究团队融合网络安全、区块链、人工智能等信息领域理论和经济学、博弈论等领域理论，提出安全攻防博弈模型并实现可信威胁情报共享和支付平台，突破威胁情报共享的经济激励理论，打破安全威胁情报共享壁垒，实现威胁情报在多组织间自动生成、高效共享、价值传递、供需均衡，为我国网络强国和信息安全产业高质量发展提供支撑性理论。
张博表示，人工智能技术正在重构网络攻防平衡，催生智能化防御新范式。天融信将AI技术与网络安全深度融合，为智能防御带来了新场景、新对象与新基座。以智算云平台为底座支撑大模型的部署应用，打造天问大模型，助力安全运营从“人防”到“智防”的能力跃迁。同时，针对大模型在生命周期及各交互环节的安全威胁，构建从训练部署到应用的“全链路”安全解决方案，保障大模型安全稳定运行。未来，天融信将通过大小模型协同，持续打造“设备+平台+云端”智能化安全防护能力，联合产业生态共筑安全防线。
姚尧在演讲中表示，“可信计算构筑网络安全”已成为广泛共识。随着人工智能蓬勃发展，自动驾驶、人脸识别、语音识别等技术被广泛应用的同时，数据泄露、算法攻击等问题频发。面对日趋复杂的风险挑战，以构建信任根为核心的可信计算应运而生，为系统安全运行筑牢根基。可信计算与人工智能的深度融合，为人工智能打造坚实安全底座，从训练到推理全程守护，确保其数据与算法的完整性，让人工智能在安全环境中释放无限潜力，开启了安全智能新时代。
李志成在分享中谈到，随着人工智能在各领域深入应用，网络安全威胁呈现智能变异、跨域交织的新态势，对人才的动态攻防能力与全域知识储备提出更高要求。天融信以AI赋能实训基地为核心，构建“交叉学科+实战平台+产学研协同”的培育体系：通过天融信攻防对抗平台等生成智能攻防场景、配备虚拟安全导师，结合融入AI技能的专项培训与认证，以赛事筛选实战人才，推动人才能力从传统防护向“AI+安全”复合技能跃迁，培育适应AI时代的网络安全实战精英。
作为新一轮科技革命和产业变革的重要驱动力量，人工智能正深刻重塑全球经济格局与社会发展模式。近日，国务院审议通过了《关于深入实施“人工智能+”行动的意见》，强调要“提升安全能力水平，加快形成动态敏捷、多元协同的人工智能治理格局”，为“人工智能+安全”的发展指明了前进的方向、提供了根本的遵循。
在创新中谋发展，在发展中求创新。未来，天融信将坚持安全与智算并进，与产学研用各界携手，聚焦前沿技术领域，持续提升安全能力水平，加快形成动态敏捷、多元协同的人工智能治理格局，赋能各行业数智化转型，助力数字中国、网络强国建设。
相关阅读
1、天融信李雪莹博士：AI赋能打造网安新质生产力 新质人才培养夯实发展之基
2、安全赋能新型工业化高质量发展！天融信承办的工业互联网安全分论坛成功举办
3、发展新质生产力，建强人才队伍！天融信为网安人才培养夯基垒台
