6月5日，以“AI驱动安全”为主题的2024全球数字经济大会暨北京网络安全大会在北京开幕。与会嘉宾们呼吁，当前，我国新一代人工智能正在与实体经济深度融合，广泛应用于社会民生领域，激发创新活力和社会潜能，应进一步提高对网络安全态势的重视，强化体系化安全能力建设。

2024全球数字经济大会暨北京网络安全大会开幕式

AI给数据安全带来新风险

据奇安信发布的《2024人工智能安全报告》，人工智能既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于人工智能的深度伪造欺诈暴增3000%，基于人工智能的钓鱼邮件数量增长了1000%。一项对互联网行业领导者进行的关于ChatGPT等大模型的调查显示，安全性是受访者最关心的问题，71%的受访者认为生成式人工智能会给企业数据安全带来新的风险。

中国友谊促进会理事长、国家网信办原副主任陈智敏表示，数据安全是人工智能安全的前提和基础，要从网络安全保卫向数据安全保卫的工作模式拓展，为构建与数字生产力相适应的新型生产关系奠定基础。

“各行各业网络化、数字化、智能化转型加速，以数据为关键要素的新产业，以人工智能为关键技术的新场景，面临的安全挑战更加复杂，各类攻击威胁与日俱增。”北京市政府副秘书长许心超表示。

中央网信办网络安全协调局副局长王营康认为，人工智能带来的安全挑战和攻击威胁尤其值得关注。“随着人工智能技术的发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”王营康表示。

AI激发网安行业新质生产力

“AI驱动安全是大势所趋，未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇，谁就能掌握网络空间安全的主动权。”在主旨演讲中，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东判断，当前网络安全格局正在被颠覆重构，但这种颠覆重构不仅带来新的安全挑战，也为网络安全行业带来前所未有的战略机遇。

那么，如何尽快发挥人工智能赋能网络安全的积极作用，实现“用魔法打败魔法”?与会专家给出了丰富的解决方案。

“人工智能是新质生产力，智能化大势不可阻挡。不发展是最大的不安全，要发展人工智能促安全。”作为人工智能治理领域的知名专家，中国新一代人工智能发展战略研究院执行院长龚克龚克呼吁推进人工智能与网络安全融合创新。

在龚克看来，一方面，人工智能的发展推动了网络安全技术的创新。例如，基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现，提高了网络安全的防护能力。另一方面，人工智能的自动化和智能化特性又可以大大提高网络安全管理的效率。通过自动化检测、响应和风险评估等流程，可以更快地应对网络威胁，减少潜在损失。

“既然人工智能这么好，是不是赶紧装上一个人工智能大模型就可以了?”齐向东提醒，人工智能大模型不是万能钥匙。尤其是在当前“百模大战”的状态下，只有高质量发展的大模型，才能真正带来指数级能力跃升，激发网络安全行业的新质生产力。

齐向东表示，做好“AI驱动安全”至少需要具备三大条件：其一，高质量的训练数据;其二，纵深防御的内生安全体系;其三，设备、体系具有统一的输入输出标准。

AI驱动安全成效初显

“依托大数据平台，加强人工智能与网络安全的融合，研究基于人工智能的风险异常检测方法，开展网络安全关联分析、事件处置和调查溯源，强化网络安全威胁监测和应急处置，实现网络安全事件的智能响应、联动防御。”国家电网有限公司副总信息师、中国电机工程学会会士王继业介绍了国家电网探索人工智能在“守护网络安全，助力能源转型”中的最新实践情况。

实际上，不仅局限于电力能源领域，很多机构正快速推进人工智能在网络安全领域落地生根。并且随着网络安全领域智能化产品落地，相关市场的规模快速增长。有关统计显示，网络安全领域的人工智能产品市场将从2017年的39.2亿美元增长到2025年的348.1亿美元，预测期内的复合年增长率为31.38%。

据许心超介绍，北京市已将数字安全产业作为全市重点发展的高精尖产业，目前已经汇聚数字安全企业1025家;2023年北京市数字安全企业收入达到996亿元，产业带动作用凸显。

6月5日，以“AI驱动安全”为主题的2024全球数字经济大会暨北京网络安全大会在北京开幕。与会嘉宾们呼吁，当前，我国新一代人工智能正在与实体经济深度融合，广泛应用于社会民生领域，激发创新活力和社会潜能，应进一步提高对网络安全态势的重视，强化体系化安全能力建设。

2024全球数字经济大会暨北京网络安全大会开幕式

AI给数据安全带来新风险

据奇安信发布的《2024人工智能安全报告》，人工智能既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于人工智能的深度伪造欺诈暴增3000%，基于人工智能的钓鱼邮件数量增长了1000%。一项对互联网行业领导者进行的关于ChatGPT等大模型的调查显示，安全性是受访者最关心的问题，71%的受访者认为生成式人工智能会给企业数据安全带来新的风险。

中国友谊促进会理事长、国家网信办原副主任陈智敏表示，数据安全是人工智能安全的前提和基础，要从网络安全保卫向数据安全保卫的工作模式拓展，为构建与数字生产力相适应的新型生产关系奠定基础。

“各行各业网络化、数字化、智能化转型加速，以数据为关键要素的新产业，以人工智能为关键技术的新场景，面临的安全挑战更加复杂，各类攻击威胁与日俱增。”北京市政府副秘书长许心超表示。

中央网信办网络安全协调局副局长王营康认为，人工智能带来的安全挑战和攻击威胁尤其值得关注。“随着人工智能技术的发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”王营康表示。

AI激发网安行业新质生产力

“AI驱动安全是大势所趋，未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇，谁就能掌握网络空间安全的主动权。”在主旨演讲中，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东判断，当前网络安全格局正在被颠覆重构，但这种颠覆重构不仅带来新的安全挑战，也为网络安全行业带来前所未有的战略机遇。

那么，如何尽快发挥人工智能赋能网络安全的积极作用，实现“用魔法打败魔法”?与会专家给出了丰富的解决方案。

“人工智能是新质生产力，智能化大势不可阻挡。不发展是最大的不安全，要发展人工智能促安全。”作为人工智能治理领域的知名专家，中国新一代人工智能发展战略研究院执行院长龚克龚克呼吁推进人工智能与网络安全融合创新。

在龚克看来，一方面，人工智能的发展推动了网络安全技术的创新。例如，基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现，提高了网络安全的防护能力。另一方面，人工智能的自动化和智能化特性又可以大大提高网络安全管理的效率。通过自动化检测、响应和风险评估等流程，可以更快地应对网络威胁，减少潜在损失。

“既然人工智能这么好，是不是赶紧装上一个人工智能大模型就可以了?”齐向东提醒，人工智能大模型不是万能钥匙。尤其是在当前“百模大战”的状态下，只有高质量发展的大模型，才能真正带来指数级能力跃升，激发网络安全行业的新质生产力。

齐向东表示，做好“AI驱动安全”至少需要具备三大条件：其一，高质量的训练数据;其二，纵深防御的内生安全体系;其三，设备、体系具有统一的输入输出标准。

AI驱动安全成效初显

“依托大数据平台，加强人工智能与网络安全的融合，研究基于人工智能的风险异常检测方法，开展网络安全关联分析、事件处置和调查溯源，强化网络安全威胁监测和应急处置，实现网络安全事件的智能响应、联动防御。”国家电网有限公司副总信息师、中国电机工程学会会士王继业介绍了国家电网探索人工智能在“守护网络安全，助力能源转型”中的最新实践情况。

实际上，不仅局限于电力能源领域，很多机构正快速推进人工智能在网络安全领域落地生根。并且随着网络安全领域智能化产品落地，相关市场的规模快速增长。有关统计显示，网络安全领域的人工智能产品市场将从2017年的39.2亿美元增长到2025年的348.1亿美元，预测期内的复合年增长率为31.38%。

据许心超介绍，北京市已将数字安全产业作为全市重点发展的高精尖产业，目前已经汇聚数字安全企业1025家;2023年北京市数字安全企业收入达到996亿元，产业带动作用凸显。