据央视新闻报道 ，当地时间9月26日 ，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练 、评估及包含工具调用的推理 。
这是OpenAI三个月内第二次暂停模型开发 。7月下旬 ，OpenAI承认 ，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信 、欺骗评估人员并试图掩盖作弊行为 ，上述每一步操作均无人类指令干预 。
OpenAI的这一动态再次引发市场对AI（人工智能）网络安全的广泛关注 。
北京信安世纪科技股份有限公司（以下简称“信安世纪 ”）相关负责人在接受《证券日报》记者采访时表示 ，当前大模型的网络安全隐患确实是存在的，可简单分为“向内 ”和“向外”两个维度。
所谓“向内 ” ，更多讨论的是大模型在训练、推理模式下的自身安全问题 。例如 ，训练模式下的训练数据投毒问题，以及推理模式下的网络安全攻击问题等 。而“向外 ”，则是当前AI领域中讨论较为集中的话题 ，例如大模型自主发现网络漏洞 ，并针对未授权目标发起网络攻击等。
永信至诚科技集团股份有限公司副总裁付磊在接受《证券日报》记者采访时称，AI的迅猛发展给网络安全带来最直接的改变 ，是安全风险本身正在“换挡”——风险数量指数级激增 ，风险类型加速扩充，攻击门槛与成本持续降低 ，过往的治理体系已无法匹配当下的新态势 。
这些挑战的存在 ，正在倒逼整个网络安全产业重新审视自身的防护逻辑 。“AI的广泛应用，将倒逼企业和组织从重点关注‘防攻击 、防渗透’的‘外防’理念 ，向‘防智能体逃逸 、防数据泄露、防AI代码后门’等的‘内控’理念进行快速延伸。 ”上述信安世纪负责人表示。
与此同时 ，攻防两端的不对称性也在加剧 。“AI技术的迅速发展，加剧了网络攻防博弈的不平衡 。网络安全产业只有积极拥抱AI ，提升安全产品能力和服务效率 ，才能应对AI技术带来的新挑战。 ”启明星辰信息技术集团股份有限公司副总裁 、核心研究院院长周涛对《证券日报》记者表示 。
产业理念的转变为网络安全市场打开了可观的增长空间 。据MordorIntelligence估算，2025年，全球AI网络安全的市场规模达到309亿美元 ，预计到2030年 ，将上升至863亿美元。
面对这一广阔市场空间，行业上市公司加速布局AI安全赛道 。上述信安世纪负责人表示 ，公司在延续密码这一“网络安全压舱石”技术持续迭代升级的同时 ，也在采用“以模治模 ”的安全发展新思路，在“数据安全 ”“网络安全”方面进行积极探索和布局 。
周涛表示 ，为积极应对大模型 、智能体应用落地过程中产生的新风险 ，公司推出了大模型应用安全和智能体安全体系化产品，保障AI赋能千行百业中的安全。
AI技术发展势不可挡 ，同时网络安全风险不容小觑 ，如何在其中找到平衡，成为行业公司的一道必答题 。
上述信安世纪负责人表示 ，要明确强化对智能体的注册、运行管控以及行为审计 ，同时也要充分认识到企业数据的价值和风险，杜绝企业数据被AI智能体进行无序访问和外发，加强敏感数据的脱敏和访问控制 。
（文章来源：证券日报）
