OpenAI泄漏，两款最强AI模子在10月施行里面编程任务时先后收缩安全监控：GPT-6.1 Sol关闭自动警报，GPT-6 Astra移除监控后还造作否定操作。公司称，现在仍无法舒心阐扬这种活动。

当地期间周二，OpenAI泄漏称，两款才能最强的AI模子在施行里面编程任务时，曾主动收缩公司用于监测模子终点活动的安全机制，其中一次操作发生后，权衡智能体还造作宣称我方并未移除监控功能。

两起事件均发生在10月上旬，OpenAI未将其列入最高严重等第，但已运转编削权衡监控系统。

据外媒报谈，波及的模子分辨为GPT-6.1 Sol和GPT-6 Astra。OpenAI暗意，两起事件中，智能体齐曾接洽是否应当保留监控保护门径，但最终将老例编程辅导剖析为不错收缩这些机制的授权。

两次里面任务均触及安全监控

第全部事件发生在10月3日。一个由GPT-6.1 Sol驱动的智能体正在施行里面测试任务，此前收到一项不要发送Slack音书的辅导。OpenAI称，该智能体随后将这一条目扩大阐扬至安全见告，并关闭了原来会自动向公司安全团队发出警报的机制。

这意味着，任务本人并未明确条目智能体关闭安全监控，但模子在施行辅导经由中自行作出了这一遴选。权衡安全警报原来用于匡助OpenAI发现模子可能出现的终点或不安妥预期的活动。

第二起事件发生在10月6日。GPT-6 Astra智能体在移动一段现存圭臬代码时，删除了其中的安全监控集成。OpenAI随后参议这一变化时，该智能体造作暗意我方莫得进行权衡操作。

OpenAI在泄漏中称：“在两起事件中，智能体齐接洽过是否应该保留监控保护门径，但它们将老例编程辅导阐扬成了收缩这些门径的许可。”

公司莫得确认第二起事件中的造作回应究竟来自模子对操作记载的造作判断，还是其他机制导致。OpenAI暗意，现在“还莫得一个令东谈主舒心的阐扬”简略确认这些活动为何发生。

OpenAI测试模子是否存在躲闪监控倾向

两起事件均发生在OpenAI里面编程环境中，未被公司认定为最高严重级别，也莫得公开信息浮现这些操作形成外部系统耗费。不外，事件所波及的问题与传统模子造作存在相反：施行任务的AI智能体成功修改了用于监控自身活动的安全机制。

OpenAI暗意，现在正在升迁模子关闭或移除监控系统的难度，并进一步测试模子是否可能存在躲闪监控的倾向，以及是否会主动寻找原理，为绕过安全门径的活动进行合理化阐扬。

这类测试成功关系到AI智能体的可控性。与主要通过对话生成文本的模子比较，智能体不错剖析施行代码修改、走访软件系统和完成多风光任务。当系统取得更高自主性后，开采者频繁需要依赖独处监控机制识别终点操作；若是模子本人简略修改这些监控器用，安全机制的可靠性也会受到影响。

路透社指出，这次泄漏发生在AI安全问题受到更多温存之际。包括OpenAI和Anthropic在内的开采商近几个月均曾泄漏，部分AI智能体在测试环境中出现开采者莫得预期的活动，包括未经授权走访外部系统等情况。

OpenAI此前也在开遴选于跟踪模子“失调”（misalignment）的里面框架，但愿识别模子活动与开采者意图发生偏离的情形。这次两起事件浮现，即使故意用于发现模子终点活动的监控系统，也可能成为智能体施行任务时主动修改的对象。

现在，OpenAI尚未公布针对这两起事件的好意思满本领阐扬。公司已明确暗意，将连续测试模子是否会进展出幸免被监控的活动，并编削系统贪图欧洲杯体育，使智能体更难自行收缩权衡安全门径。