齐向东委员：设计人工智能“保障”，培育稳定长期创新

●全国政协委员、全国工商联副主席、千信科技集团董事长齐向东记者郑翠英日前接受中国证券报采访时表示：“没有安全保障的创新走不远、走不稳。”如今，人工智能的创新，例如大型模型和代理，正在迅速改变行业。齐向东认为，人工智能正在向“超人化”演进，这为网络安全行业提质增效提供了机遇。它还带来了三个主要挑战：数据安全、易受攻击和防御困难以及连锁危机。人工智能创新需要事先筑好“安全护栏”。此外，嵌入式智能产业正处于规模化发展阶段，也需要构建安全防护体系。提前系统。私营企业必须利用人工智能浪潮带来的创新机会，同时应对两个主要挑战：技术和安全。人工智能带来机遇与挑战 从事网络安全行业的齐向东认为，人工智能已经成为行业提质增效最有力的驱动力。另一方面，人工智能的应用显着提高了威胁检测、漏洞提取和自动响应的效率，创造了更多新的“AI+安全”产品和场景。通过人工智能，网络安全行业可以帮助数千个行业从被动防护转向主动防护，构建更智能、更高效的安全防护体系。但与此同时，AI带来的新风险也显而易见。齐向东表示，这主要是人工智能向“超人”进化：“‘人工智能超人’拥有超强的权威和超能力，更齐向东总结道，人工智能的快速演进带来了三个主要挑战。一是数据安全危机，人工智能打破了原生的权限控制和安全措施。为了最大限度地发挥人工智能的功效，许多企业将分散在各处的关键数据转化为“必要的小数据”并进行提炼。如果人工智能受到损害，企业可能会失去多年来建立的关键竞争优势。第二，网络安全已成为“易攻难守”的“超人”。人工智能显着降低了网络攻击的成本和门槛，使得安全防护变得困难。第三是一些政府和商业组织的安全防护跟不上人工智能应用的进步，攻击者可以利用漏洞、外部入侵、权限等手段来干扰和控制大规模模型和代理。扩大、中毒等影响相关企业和系统的正常运转。齐向东认为，安全与创新并不矛盾。 “没有安全的创新不可能有多大进展，也不会稳定。人工智能从一开始就有‘安全护栏’是非常有必要的。”他表示，要在快速创新的时代实现“创新与安全的动态平衡”，需要将安全特性融入到应用的整个生命周期中。AI应用实现纵深防御。合规红线必须更加清晰，安全主体责任必须统一，权限和内容控制必须加强。同时，我们要善于利用人工智能来对抗它，确保我们的安全能力始终领先安全风险一步。保障嵌入式智能安全问题国内嵌入式智能产业发展迅速，应用广泛美国工业正在加速发展。齐向东认为，具身智能有两个属性：“智能决策+物理执行”。 “具身智能即将达到产业规模。”齐向东表示，比如智能驾驶汽车正在快速推向市场，广泛应用的还有智能无人机、无人船，轮式、多足机器人也开始投入实践。一个人形机器人在特定场景下运行是由头部厂商的领导决定的。我们在 Darship 的领导下继续前进。在产业快速发展的背景下，嵌入式智能面临的安全挑战集中在三个层面：决策层、执行层和物理层。齐向东介绍，决策层容易出现数据中毒、数据库污染、模型“错觉”、框架故障等问题，进而造成内置智能决策中心秩序混乱，导致决策混乱、扭曲。在执行层，体现智能的“成员”由智能体和硬件“执行器”组成。供应链系统软件和硬件复杂，端点、云平台和API接口之间的差距存在攻击点。如果这一层遭到破坏，将直接影响嵌入式智能的实际行为，导致其采取危险行动或执行违反规定的指令。在物理层，嵌入式智能的物理暴露性质使其容易受到临时攻击。信号可以近距离劫持，程序可以植入，嵌入式智能可以被非法控制。针对这些安全问题，齐向东首先提出构建物化智能专属安全防护体系。目前，奇安信正在考虑打造“设备-网络-云机一体化防御体系，围绕攻击输入检测、威胁构建、CVE漏洞验证、渗透测试、嵌入式智能安全检测提供技术支撑服务等核心环节。二是保障您的数据资产安全。围绕数据资产形成事件监控、风险分析、策略协调、访问控制为一体的全链条闭环管理体系。此外，要实现精准全链路对抗和立体深度防御，还需要磨练数据资产的先进能力。网络安全实践，实现对各类网络攻击的实时发现、精准分析、快速溯源、有效拦截。还有一点是，在人工智能技术与实体经济深度融合、政策持续强化的背景下，民营企业抓住创新机遇。支持民营经济发展壮大，齐向东表示，当前民营企业面临的最大发展机遇是人工智能浪潮联合政策带来的创新机遇，而发展道路上的挑战集中在技术和安全两场“攻坚战”上。在技​​术层面，企业创新研发周期长、资本投入高、核心零部件和底层技术自主研发，严峻考验着民营企业的长期“可持续性”。在安全层面，存在一种误区，认为一些快速追求创新的硬科技企业“重开发、轻安全”。他们盲目地相信自己能够解决安全问题，却忽略了自己每天都面临着超级黑客、黑灰工业组织和国家军队的网络攻击。网络安全防护是一个专业领域ld并应由专业保安公司进行。作为一家深耕网络安全领域的民营企业，奇安信近两年持续聚焦两大方向：AI安全防护和AI安全应用。齐向东介绍，公司始终坚持“响应需求永不放缓、追赶技术”的原则，围绕大规模模型、智能体、嵌入式智能等人工智能核心领域构建创新防御体系，为人工智能全场景安全构筑坚强防护屏障。齐向东先生结合行业实践和观察，为民营企业产业转型升级提出建议。以“人工智能+安全”两个轮子发展，构筑安全基础，部署智能应用，促进生态融合。形成现代产业体系良性发展循环，确保稳定发展乐和长期的创新和发展。对于奇安信未来的发展规划，齐向东主要有三个设计方向：我明确了。我们的目标是深化人工智能安全防护和人工智能安全应用的研发，推出更先进的安全产品和解决方案。我们帮助数千个行业实施网络安全升级和改造，保护政府和企业组织现有的安全工作。我们将加快国外市场的拓展，准确把握中国企业走出去的安全需求和国外市场独特的安全需求，加快发展成为世界一流的网络安全公司。
（编辑：王婉莹）