qq_41432686的博客

兰德公司发布报告《中美冲突、竞争与合作的动因：通用人工智能诱发的五大国家安全难题》（Incentives for U.S.-China Conflict, Competition, and Cooperation Across Artificial General Intelligence’s Five Hard National Security Problems）。报告指出，通用人工智能的发展或将重塑全球权力格局

随着人工智能技术的不断发展和智能体的广泛应用，多智能体协作在应对复杂任务的场景中展现出巨大潜力，已成为AI应用演进的重要方向。在智能体协作运行过程中，智能体身份体系是保障智能体与其他主体安全通信的前提，是确保协作安全的核心基础，值得我们重点关注。本文从身份体系角度出发，对当前主流的智能体通信协议和架构进行分析，梳理各协议中身份相关的设计思路，进一步提出多智能体系统在身份标识、身份认证、权限管控方面的思考。

虽然人工智能技术能为公共服务部门带来诸多便利，但其带来机遇的同时也伴随着风险与挑战。倘若罔顾技术在应用过程中存在的实际问题，盲目地诉诸其带来的快捷和便利，就容易落入计划与现实的断层。而造成这种断层的原因是多元的，使人工智能与公共服务治理有机融合仍需克服诸多困难。

公共服务部门的战略计划为理解国家的优先事项和实现这些优先事项的战略提供了宝贵的路线图，这种发展规划过程使公共服务部门可以从各种相关利益者处获取信息。人工智能的迅速发展与其在各个领域的应用正在潜移默化地改变人类社会和经济活动，在公共服务治理中所发挥的作用也在日渐显现。

人工智能技术的迅速发展推动了公共服务治理革新的同时，也出现诸多不容忽视的风险挑战。在应用范围上，人工智能于社会治安、交通基建、市场监管、反腐倡廉、应急管理、医疗保障、文化教育、能源管理等公共服务领域的应用，提高了公共服务决策能力、公共服务组织的管理效能、公共服务的质量与效率、公共服务组织与服务对象互动，以及强化了公共服务组织的内外部监督。

随着商业银行数字化转型进程，大量集权类系统被建设和运用到IT开发、运维、安全管控等领域，降低手工操作风险，提升安全性、自动化程度和效率。然而因为权限集中、数据集中、跨网络访问等特点，集权类系统也成为黑产APT攻击及攻防演习中攻击队的关注重点和突破口。

国际数据公司（IDC）于近日发布了2025年V1版IDC《全球物联网支出指南》(IDC Worldwide Internet of Things Spending Guide)。IDC《全球物联网支出指南》对全球物联网支出规模进行预测，按照国家和地区从技术、行业和应用场景三大维度做出预测分析。该报告覆盖了9个地区和42个国家/地区，21个技术类别，27个行业和 61个应用场景的物联网支出。

6月5日，在2025全球数字经济大会数字安全主论坛暨第七届北京网络安全大会（BCS）开幕峰会上，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东发表题为“安全突围：重塑内生安全体系”的主题演讲。

2019年6月，中国发布《新一代人工智能治理原则——发展负责任的人工智能》，强调敏捷治理等8项原则，并将敏捷治理定义为：尊重人工智能发展规律，在推动人工智能创新发展、有序发展的同时，及时发现和解决可能引发的风险。不断提升智能化技术手段，优化管理机制，完善治理体系，推动治理原则贯穿人工智能产品和服务的全生命周期。对未来更高级人工智能的潜在风险持续开展研究和预判，确保人工智能始终向有利于社会的方向发展；

近年来，以ChatGPT为代表的大模型引发人工智能（AI）新一轮发展热潮，在社会、经济和军事等多领域均带来深刻变革，但其准确性、可靠性、算法可解释性与透明度缺失等引发了人类对隐私、安全和公平的担忧。在全球范围内，已有多项政策文件将敏捷治理（Agile Governance）作为人工智能治理原则或理念。

随着多模态 AI 技术的快速发展，其在文本、图像、音频和视频等多种数据模态上的处理能力为企业和研究机构带来了前所未有的机遇。然而，这也对数据基础设施提出了更高的要求。本文将探讨多模态 AI 面临数据方面的挑战，并介绍下一代数据基础设施的关键技术，以支持多模态 AI 的高效运行和广泛应用。总之，通过统一的数据接入与管理、高效的数据存储与检索、优化的计算资源管理以及强大的数据治理与安全能力，企业能够更好地应对多模态数据带来的挑战。

自2022年ChatGPT的出现，到2024年Sora发布，生成式人工智能再次成为大众关注的焦点。生成式人工智能作为新一代人工智能的重要部分，正加速融入经济社会，促进传统产业生产方式的变革和流通路径的升级，打造数字产业集群，对制造业数字化和智能化转型的催化作用也逐渐显现。然而基于大数据训练实现的自动化内容生成也引发新的网络安全风险，生成有害内容、数据泄露等问题日益突出。通过对生成式人工智能与制造业融合发展及安全态势进行综合分析，科学论证生成式人工智能应用于制造业面临的网络安全风险，并提出有关应对策略。

随着计算机网络技术发展越来越快，在应用过程中网络安全问题也逐渐突出[1]。网络间攻击、防御斗争也不断被重视，发展计算机网络安全防护技术变得尤为重要[2]。为有效抵御外部攻击，确保网络安全，研究者们致力于研究各种网络安全模型，以期解决网络安全问题[3-5]。当前，于动态网络安全而言，单一的网络安全技术以及传统静态网络安全模型已不能满足管理需要[6]。

基于生成式人工智能，对策略-保护-检测-响应（Policy-Protection-Detection-Response，PPDR）安全模型展开研究，有效依托生成式人工智能模型的入侵检测、防火墙、蜜罐技术、网络漏洞扫描等先进技术，进而构建出具有科学性、系统性的网络安全动态防御模型。该模型表现出较强的主动防御功能，能够对网络安全的动态性、主动性特征进行全方位展示。

国防科技竞争力决定国家军队战斗力、科技领先权和产业效益，直接触及国家安全核心利益。当前抢夺国防科技优势已成为中美对抗一大焦点，本质上是一场国防科技创新模式、力量、资源等体系层面的较量。为维护国防科技安全，必须突破目前只聚焦技术和能力对比的局限，强化体系性、对抗性视角，开展对国防科技创新体系建设和发展的风险识别与防范。

Gartner发布2025年网络安全六大预测，受到生成式AI的发展、数字去中心化、供应链相互依赖性、法规变更、长期人才短缺以及不断演变的威胁形势的共同影响。Gartner安全与风险管理峰会近日在悉尼召开，Gartner高级首席分析师在会上表示：“安全与风险管理（SRM）领导者今年将面临挑战与机遇并存的局面。他们的目标是在推动变革的同时增强组织的弹性。实现这一目标至关重要，不仅有助于推动创新，还能确保企业在快速变化的数字环境中实现安全与可持续发展。

DeepSeek 在网络安全领域带来的新机遇，DeepSeek 从崭露头角到引领 AI 领域的重大变革，已经逐渐成为全球科技创新的重要力量。

自 2025年2月2日起，欧盟《人工智能法案》（AI Act）的首批规则已开始实施。这些规则包括人工智能系统定义、人工智能素养以及《人工智能法案》中概述的在欧盟造成不可接受风险的极少数被禁止的人工智能用例。人工智能法案并不适用于所有系统,只适用于那些符合第3(1)条人工智能法案含义中的“人工智能系统”定义的系统。因此,人工智能系统的定义是理解人工智能法案应用范围的关键。人工智能领域的困惑起源于相关术语的混用，而这些混用又导致了法律法规适用的困境，从而进一步导致个人数据保护的落实无所适从。

近年来，人工智能技术迅速发展，在推动社会经济进步的同时，也带来了安全隐患与风险挑战。2023 年 10 月，我国面向世界提出《全球人工智能治理倡议》（以下简称《倡议》），系统阐述了人工智能治理的中国方案。《倡议》呼吁不断提高人工智能技术的安全性、可靠性、可控性与公平性，倡导建立具有广泛共识的治理框架和标准规范。2024 年 9 月，《人工智能安全治理框架》（以下简称《框架》）发布，内容涵盖治理原则、框架构成、风险分类、技术应对、综合治理和安全指引六个部分，较为全面地总结了中国人工智能安全治理的经验和观点。

随着人工智能技术的迅猛发展，全球范围内对其治理的探讨愈发紧迫。对当前的人工智能热潮是否和采取何种监管，各主要国家和地区的政策法律有共性之处，也有各自的地缘、文化、哲学伦理等因素相互作用而产生的差异。互有参照、借鉴的原则、方法和进路比较，对消除智能鸿沟、提升全球人工智能的治理水平基准无疑具有重要意义。CSA大中华区正式发布《中美欧人工智能治理的典型法律政策比较与通用风险治理框架适用（2024年度观察）》，旨在深入剖析中美欧三大经济体在AI治理上的法律政策，比较其异同，并探索构建通用的风险治理框架。

四十年来，欧盟在数字安全治理领域陆续出台了近十部关键战略性文件与百余部法律规范，形成了较完善的数字安全制度体系。2019 年，欧盟将“数字欧洲”确定为欧盟未来转型的主要议题。此后，欧盟在数字安全领域频频发力，力求在中美两大数字强国的博弈中寻找战略突破口，并通过全球数字安全政策框架彰显“布鲁塞尔效应”。

2025 年将是网络安全防御史上最具挑战性的一年，人工智能、地缘政治不稳定和不断演变的攻击面交汇，呈现出更加复杂的威胁环境。值得一提的是，人工智能的迅猛发展正在重新定义网络安全的边界。随着技术的进步，威胁的复杂性和多样性也在不断升级，勒索软件不再仅仅是为了经济利益，而是成为破坏和操控的工具；人工智能驱动的攻击以超越人类防御的速度和精准度展开。基于当前的威胁情报和新兴的攻击模式，以下是2025年人工智能带来的五个重要网络安全趋势预测。2025年的网络安全挑战令人望而生畏，但并非不可逾越。

当前，以大型模型为代表的人工智能技术迅猛发展，其应用范围持续拓宽，应用层次不断深化。这一发展为社会生产生活注入了前所未有的动能与活力。然而，在推动经济社会发展的同时，人工智能技术所面临的安全挑战和风险也日益凸显。面对这一形势，亟需构筑坚实的人工智能安全治理体系，有效应对人工智能安全风险，保障人工智能技术的安全、快速、有序发展。全国网络安全标准化技术委员会积极响应并落实《全球人工智能治理倡议》，制定了《人工智能安全治理框架》（以下简称《框架》），并于 2024 年全国网络安全宣传周正式发布。

ENISA在12月3日发布的首份《联盟网络安全状况报告》中表示，2023年7月至2024年6月期间欧盟面临的网络威胁级别为“相当高”。这意味着，欧盟实体很可能在报告期内直接成为威胁行为者的攻击目标，或可能通过最近发现的漏洞遭受攻击。ENISA表示，报告期内网络攻击明显升级，攻击种类、数量及后果均创下新高。此外，未来网络攻击可能会对重要实体或欧盟机构、团体和机构（EUIBA）造成严重破坏。

总体来看，商用密码技术在低空经济中的应用前景广阔，对于保障低空经济的安全、促进产业升级和提升人民生活质量具有重要意义。随着技术的不断进步和政策的进一步完善，预计商用密码技术将在低空经济中发挥更加关键的作用。

近期Gartner发布的《2024年人工智能技术成熟度曲线》中，首次将量子人工智能技术列入其中，认为其整体尚处于技术萌芽期，距离成熟商用至少需要10年时间。但随着量子计算机的发展和应用，量子人工智能有望成为人工智能领域的重要发展方向，在众多行业有着广泛的应用前景。

社交网络、短视频等网络媒体平台的快速发展与应用，使得网络空间成为信息传递、思想交流的主阵地。由于网络空间上的意识形态渗透具有成本低、代价小、难溯源等特点，结合数据分析、人工智能、卫星通信等新一代信息技术的融合应用，以美国为首的西方国家正逐步将认知作战的主战场从物理空间转移到网络空间。网络空间的认知域安全与政治安全、军事安全等各领域安全相互影响、联动保障，逐渐成为保障国家安全的重要组成部分。快速发展的生成式人工智能技术，在给网络空间认知域安全带来风险挑战的同时，也为网络空间认知域安全防御提供了可能。

近年来，人工智能、大数据分析等前沿技术的应用与发展，尤其是生成式人工智能大模型的快速发展，加快了人—网络平台—物理空间的三元融合发展的趋势，促使物理空间、网络空间和认知空间的交织融合。网络空间认知领域存在恶意信息多、个体信息易泄露、信息传播易操纵等诸多安全风险，极易传导至物理空间引发社会问题。基于“人工智能+”的思想，尝试分析基于生成式人工智能的安全防御技术，为促进未来网络安全产业发展提供新思路。

作为“美国网络空间日光室委员会2.0”9月发布的《2024年实施年度报告》的后续行动，美国奥本大学麦克拉里网络和关键基础设施研究所和“网络空间日光室委员会2.0”于10月22日联合发布《确保美国的数字未来：下一届美国政府的两党网络安全路线图》报告。该报告由40 名美国公私部门专家组成的专家组撰写，向下一届美国政府提供了8大网络安全目标、39项具体建议，其中包括5项应在新政府成立100天内完成的行动，旨在为新政府提供了确保美国数字未来的全面路线图。

在当今相互依存、相互联系的世界中，保护和保障美国的网络和物理基础设施的安全需要全球公共和私人合作伙伴的共同努力。美国网络安全和基础设施安全局（CISA）是全球公认的领导者，致力于制定和实施主动方法，以降低风险并提高美国及其合作伙伴所依赖的关键基础设施的弹性。为有效调配资源、指导运营，CISA发布了《2023-2025年CISA战略计划》，这是CISA自2018年成立以来的首部综合战略计划。认识到当今威胁不分国界的现实，CISA制定了《CISA国际战略计划》，作为CISA国际活动和成果的补充指南。

合成数据随人工智能技术跌宕演进，随生成式人工智能发展成为产业和政策热点：从价值上说，合成数据有助于突破人类数据限制，在产业中的使用场景、数量占比和实际效果都远超预期。从安全上说，合成数据并非“超级智能”逃逸的助力，不会引发新的安全问题，反而是人类控制风险的抓手。从产业发展说，合成数据难以“独自成席”，对其市场规模和催生的创新企业不适合做过高预期。但合成数据是一个合适切口，理解大模型对数据要素价值发挥机制的整体改变，也是一个契机，思考数据相应政策体系如何顺应极速发展的前沿科技。

在AI大模型掀起的全球技术浪潮中，国产AI应用出海趋势显著增强，在全球市场具有广泛的渗透与影响。然而，面对国际市场，各国对于AI应用的监管情况各不相同。如美国和英国，采取较为宽松的监管策略，侧重于行业自律与分散监管，为AI创新提供相对自由的空间，欧盟则实施更为严格的监管模式，旨在确保AI系统的安全性和可靠性。

备忘录强调，美国必须在全球范围内巩固和推进其在人工智能技术研发和应用的全球领导地位。一是促进国内人工智能研发的进步、创新与竞争，不断推进世界最先进的半导体开发和AI专用算力基础设施建设。有些条款可能被视为对以前和未来潜在外交立场的补充或依据。

10月24日，拜登政府发布了首份人工智能的《国家安全备忘录》（以下简称备忘录），包含一份未公开的应对竞争对手威胁的机密附件，旨在巩固和推进美国在人工智能领域的全球领导地位，利用人工智能实现国家安全目标，以及促进人工智能的安全性、可靠性和可信性。同时，白宫还发布了《国家安全领域推进人工智能治理和风险管理框架》（以下简称框架），提供进一步实施备忘录的细节和指导，包括要求建立风险管理、评估、问责和透明度机制。

人工智能的武器化应用在短期内将同时强化网络空间中进攻方和防御方的能力，但从长期看将有利于防御方。这种态势将令传统威慑逻辑重新适用于网络空间，进而实现域内战略稳定。在趋向这一态势的过程中，网络空间攻防不均衡态势决定了网络攻击仍将维持常态化。这也意味着各国战略界将继续尝试将“定制式”网络威慑战略诉诸实践，同时推动人工智能武器融入具体战术以强化攻防力量。这些战略能否奏效具体取决于决策者的战略部署、参与者的具体意图以及国际政治态势等人为因素。

威慑理论是国家应对战争威胁的重要思想，同时也是一种严格的信号传递机制。自21世纪初期“网络冲突时代”开启以来，在网络空间引入威慑成为国家普遍的战略需求，但由于匿名性和报复门槛模糊等问题在某种程度上阻碍了信号有效传递，传统威慑机制在网络空间的效用不佳。从理论上看，人工智能技术及其武器化进程有助于突破上述瓶颈并实现网络空间攻守均衡，推动传统威慑重新成为国家维系网络空间战略稳定的核心逻辑。本部分将对这种预期及其实现路径进行论述。

作为当前第四次工业革命的核心技术，人工智能相关科技在近年来的迅猛发展深刻改变了人类生产生活方式。在数字时代算力提升、算法革命和大数据技术的助推下，人工智能走出了21世纪初期的所谓“研发寒冬”。2023年年底至2024年年初，美国“开放人工智能研究中心”（OpenAI）先后发布语言模型GPT-4与文本转视频模型Sora，标志着人工智能技术再度进入新一轮技术突破期。人工智能兼具自主性和不可知性等特质，其具体应用的方法、路径与意图逐渐成为左右国家安全和国际和平的重要变量。

继《全球人工智能治理倡议》之后，全国网络安全标准化技术委员会于近日发布了旨在落实该倡议的《人工智能安全治理框架》。而在去年《全球人工智能治理倡议》发布之际，美国白宫的《关于安全、可靠和可信地开发和使用人工智能的行政命令》还未问世，欧盟的《人工智能法》也还未形成最终文本。尝试比较上述中、美、欧在人工智能治理方面的主要文本，初步分析并阐释人工智能治理“我国方案”的特点和特色。

当前，各大科技企业正争相开发通用人工智能系统，但随着其能力和自主性提升，潜在风险也将日益凸显，可能引发社会大规模危害、恶意利用，甚至导致人类丧失对自主人工智能系统的控制。尽管研究人员已对人工智能极端风险发出警告，但在如何有效管理这些风险上，尚未形成共识。目前，人工智能安全研究相对滞后，治理措施缺乏预防滥用和不当使用的专门机制和机构，且鲜少涉及自主系统。为应对这些挑战，应借鉴其他安全关键技术的经验教训，制订综合计划，将技术研发与积极、灵活的治理机制相结合，做好充分准备。

新一轮科技革命与产业变革的浪潮汹涌澎湃，信息化、数字化的巨轮正以前所未有的速度重新绘制世界蓝图，而网络安全作为这一进程中的隐形盾牌，已悄然成为大国博弈的关键战场。在这场没有硝烟的较量中，人工智能（AI）正以不可阻挡之势重塑网络安全的格局，它既是挑战者，也是守护者。一方面，以Sora、GPT-4o为代表的生成式人工智能（AI Generated Content，AIGC）引发公众对个人隐私、AI恶意使用等问题的广泛关注。