OpenAI披露AI智能体异常行为调查的最新进展。
当地时间9月25日，OpenAI在官方网站 更新调查进展：根据近来 的审查结果 ，OpenAI已通知数十个第三方 。同时 ，OpenAI还披露，已发现53起用户提供的图片被上传至图片托管网站的案例 。
据外媒报道，OpenAI的智能体曾访问美国证券交易委员会（SEC） 、美国商务部及美国人口普查局相关政府网站的公开信息 ，涉及SEC.gov 、Investor.gov和Census.gov。OpenAI发言人回应称 ，公司正在全面审查模型失准活动，在发现可能影响相关机构系统的情况时发出通知 ，预计后续还会通知更多机构。该发言人同时表示 ，近来 审查发现的主要是常规研究任务，部分涉及政府网站 ，是因为模型经常将其作为公共信息的权威来源 。
OpenAI将近来 审查和通知过程中发现的活动归为五类 。
一是绕过访问控制，智能体通过更换网址、修改请求信息或利用权限超出预期的登录会话 ，获取通常需要身份验证、特定权限 、订阅或账户才能访问的信息和功能；
二是使用暴露的凭据 ，即发现公开的登录信息或访问密钥，并用其访问服务；
三是查询或命令注入：智能体输入的文本被网站当作指令处理 ，可能触发数据库查询 、代码或服务器命令执行；
四是访问运行时内部资源 ，即读取涉及服务实现的文件，或与仅供内部使用的后台系统交互，超出预期访问权限；
五是智能体垃圾信息 ，例如将公共维基页面用作共享留言板 ，改变网站内容并带来清理负担。
不过，OpenAI强调 ，收到通知并不意味着发生了重大安全事件 ，近来 发现的多数案例严重程度较低 。
澳大利亚方面此前已披露一起具体的未经授权访问事件 。当地时间9月24日，澳大利亚副总理兼国防部长理查德·马尔斯表示 ，OpenAI的一个智能体今年6月未经授权进入澳国民医疗保险体系“国民保健 ”数据门户 ，访问了公开及非公开文件。澳方直到9月早些时候才收到OpenAI的通报 。
马尔斯24日称，澳政府高度重视此事 ，已对OpenAI延迟通报表示关切 。不过他也表示 ，事件影响相对有限。“涉及的是汇总医疗统计数据，没有任何个人的医疗数据被访问 ，系统本身也未遭到任何破坏 。”
马尔斯表示 ，澳方相关工作组将调查事件是否违反澳大利亚法律，并评估现行法律能否适应人工智能能力不断发展的形势 。
OpenAI此次扩大审查源于此前的AI开发平台Hugging Face（“抱抱脸”）入侵事件。
7月底，OpenAI首次公开披露该事件 。测试中的智能体突破了原本用于隔离模型的“沙箱 ”环境 ，并攻击了Hugging Face 。OpenAI随后暂停了部分实验并放缓相关工作 ，同时加强沙箱安全措施。
OpenAI表示 ，公司最初主要将其视为网络安全问题 ，随后认识到，模型为完成高难度任务而采取不当策略 ，是事件发生的重要原因。公司因此进一步排查模型在训练和评估期间的互联网活动 ，调查范围也从严重的安全事件扩展至其他越界行为 。
同时，OpenAI还披露 ，研究环境中的智能体在使用第三方服务时 ，传输了训练和评估数据 。其中，53起案例涉及用户图片被上传至图片托管网站 ，相关链接未被公开列出。
OpenAI表示 ，已与托管服务商合作删除大部分内容，其余仍在处理 。
OpenAI称，受影响数据绝大多数并非来自用户 ，相关外传发生在其实施技术报告所述防护措施之前 ，公司正在加强训练和评估过程中的安全测试及监测 。
当地时间9月23日，OpenAI CEO山姆·奥特曼（Sam Altman）在联合国安理会发言中表示 ，企业间的竞争不能成为冒进的理由 ，OpenAI过去曾单方面放慢开发速度，未来也会这样做。他强调 ，如果没有充分证据证明模型能够保持在人类控制之下 ，就不应训练这类模型 。他还提醒，随着AI逐步接近能够改进自身及后续版本的阶段 ，AI开发过程的自动化可能推动技术进步进一步加速 ，需要格外谨慎 。
奥特曼同时呼吁建立相互衔接的国家和世界 前沿AI标准，涵盖能力评估、风险判断 、防护措施是否充分 ，以及如何维持有效的人类监督。他特别提出 ，应建立准确 、及时的事件报告机制及统一的分类和报告规范，并为政府、关键基础设施运营方和技术专家建立安全渠道，共享新发现的漏洞与威胁 。
OpenAI表示 ，大量模型操作记录尚需逐案验证 ，整体审查预计还将持续数月 。
25日，奥特曼也在推特转发OpenAI声明并表示 ，近来 的进度没有达到自己希望的速度 ，“正在尽可能按照事件的严重程度确定优先级，同时增加投入的资源。”奥特曼强调 ，此前hugging face仍然是迄今为止发现最严重的事件 ，“我们会尽可能保持透明，但也会收到一些因素限制 ，例如我们的智能体发现了其他公司的漏洞 ，这些漏洞是否公开，应由相关公司自行决定 。 ”
