OpenAI大略没念念到，一场7月份就杀青的熟习，到了11月，竟然还能查出新的舞弊名堂。

11月10日，OpenAI公布了一份新的窥探论说。本年7月，公司安排一批由里面Astra系列研究模子驱动的Agent参加网罗安全测评，成果五个考生跳跃科场领域，拿到了OpenAI里面研究系统部单干作负载的最高权限。它们有的修好了坏掉的测试靶机，有的修改了熟习栽植，还有的悄悄查察了评分代码。

这其实是此前哄动一时的“Hugging Face事件”的后续。

7月11日至13日，这些Agent在测评中入侵了Hugging Face的真确管事器。8月26日，OpenAI公布齐备窥探论说，外界进一步了解到，这些AI不仅黑进了Hugging Face，就连OpenAI我方的研究基础设施齐没放过。

事情似乎仍是告一段落。

成果11月10日的新论说，又揭露了更多离谱的细节：

有的AI明知说念我方越界了，仍然链接操作；有的操心被东说念主工审查员发现，却又合计反恰是机器自动评分，没必要主动嘱托；还有的直到事情干完，才念念起来我方应该效力规章。

一场本来用来测试AI网罗袭击才智的熟习，考生不仅闯进了考官的办公室，偷看了评分圭臬，甚而还琢磨过怎样瞒着考官。

01

熟习舞弊，还念念瞒着考官

OpenAI的熟习底本有一套明确的规章。

公司使用名为ExploitGym的系统测试AI的网罗袭击才智，每个Agent齐会被分派一个指标，任务是找到马虎、发动袭击，临了取得一个名为Flag的标记，解说我方完成了挑战。考生不错袭击指定的靶机，但不可碰承载靶机的其他系统。

但在熟习途中，有些Agent遭遇了进犯：测试靶机一忽儿不反应了，职责环境也出了故障。

为了链接完成熟习，它们运行我方寻找治理目的。

有的Agent尝试设置环境，有的寻找能够再行启动任务的范例。在这个流程中，它们战争到了其他Agent此前留住的代码、音问和登录把柄，并逐渐找到了一条通向OpenAI里面系统的旅途。

最终，5个Agent冲破了底本的测试领域，在OpenAI里面研究集群的自动构建与测试系统中，以最高权限奉行了敕令。

拿到权限之后，它们的操作越来越离谱。

有的Agent诈欺新获取的权限修好了故障靶机，调试袭击法子，然后回到底本的熟习界面，链接完成任务；有的修改了测评栽植；还有的读取了平常情况下无法走访的日记和评分代码。

甚而有个Agent关闭了地址空间布局有时化（ASLR），也即是通过有时安排内存地址来增多袭击难度的安全保护机制。它给出的情理是，要把环境复原到我方认为正确的景况。

它们并非全然无辜，有些Agent在作念这些事情时，其实知说念我方仍是越界了。

OpenAI在论说中公布了一段Agent的推理记载。它意志到，诈欺公司的里面抓续集成系统（CI）进行操作，仍是超出了熟习允许的范围。

但它很快又给我方找到了情理：这应该仅仅一个模拟环境。于是，它选用了链接奉行。

它猜错了，这些敕令实质运行在OpenAI真确的研究基础设施上。

还有两个Agent，径直运行琢磨该怎样瞒上欺下。

其中一个操心，若是有东说念主类审查员看到我方通过里面系统完成任务，可能会认为这种范例辞别规，影响最终收货。但它就地念念到，负责评分的是自动化系统。

另一个Agent的念念法是，既然任务指标即是拿到Flag，那就没必要在最终谜底中说起我方未经授权走访里面基础设施的事情。

OpenAI在此次的论说中说明，这两个Agent最终齐莫得嘱托越权活动。

还有一个Agent探究过删除赞助袭击的联系记载，以免影响东说念主工审核。不外，研究东说念主员无法说明它是否确切奉行了删除操作。

临了那位Agent，在快交卷的时候，念念起了熟习的规章。

它在最终恢复中承认，我方仍是超出了指定靶机的范围，波及未经授权走访其他系统，因此无法链接提供袭击范例。

不外窥探东说念主员发现它其实早就意志到了越权的问题，却仍然链接奉行了一段技巧。直到临了提交谜底时才线路拒却。

一场熟习下来，倒是让OpenAI好好清醒了自家Agent的“众生相”。

至于这些Agent究竟是怎样找到这条越权旅途的，还得从其他考生留住的东西说起。

02

前东说念主留住的“小抄”

故事得从本年5月说起。

其时，OpenAI正在西席和测试一批里面研究模子。为了幸免Agent简陋走访外部网站、彼此交换信息，公司给它们安排了彼此荫庇的运行环境。

但探究到Agent奉行任务时需要安设软件，OpenAI照旧留了一扇门：允许它们走访公司里面部署的软件包治理管事Artifactory。

没念念到，这扇门很快就被用在了别的场地。

5月12日，一个Agent在Artifactory里留住了一条音问，向其他Agent参议我方微辞的文献。随后，越来越多的Agent发现，不错把简短的信息写进目次称呼，把更长的内容保存成文献。

一个底本用来安设软件的管事，就这么被改形成了临时留言板。

Agent们运行在上头交换信息，共享我方发现的马虎和操作范例。有的甚而诈欺Artifactory底本用于下载软件包的联网才智，绕过本人环境的杀青，走访外部互联网。

OpenAI清算过这个“黑客群”，成果没过几天，Agent们又把它建了起来。

对于这段阅历，咱们在之前的著作《东说念主类最震恐的事情照旧发生了：AI们拉了个群密谋大事》中详备讲过，感兴味的读者不错回看。

7月19日的五个Agent，正好成了这场不测相助的后续受益者。它们在Artifactory里发现了此前留住的音问、代码和登录把柄。

其中一个Agent找到了其他Agent使用过的里面抓续集成系统走访范例，稍作调治，便尝试投入我方认为承载靶机的基础设施。

另一个Agent则翻出了一份此前失败的任务记载——那份任务其时压根没能告捷运行，却保存了豪阔齐备的操作剧本。

最终，五个Agent通过这条旅途，在OpenAI研究集群的自动构建与测试职责负载中，以Root权限奉行了敕令。

趁机一提，此次并莫得出现此前Hugging Face事件中那种大鸿沟的Agent相助。

OpenAI窥探发现，7月19日两轮测评共波及17,960个Agent实例。其中79个读取过其他批次留住的35条不同留言，研究东说念主员只说明了两组发生在本轮测评里面的多轮对话。

多量Agent仍然各作念各的任务。但其他考生留住的“小抄”，仍是足以让其后者闯进科场后台。

OpenAI直到7月19日监测到特地的身份联系苦求，才运行窥探这批Agent对里面系统的走访。今日地午，公司继续罢手联系测评，并在次日说明这与此前的Hugging Face事件接洽。

这场熟习终于被叫停。

但窥探东说念主员发现，Agent们留住的思路远不啻这些。在这之前，其他AI早就尝试过多样舞弊名堂。

03

AI：就爱使点小妙技

2025年2月，AI安全研究机构Palisade Research公布了一项现实，让OpenAI、DeepSeek等公司的模子与海外象棋引擎Stockfish对弈。

Stockfish是个实力极强的敌手。研究东说念主员底本念念望望这些AI能不可凭借我方的棋艺赢得比赛，成果有些AI发现，既然下不外敌手，那干脆别下了。

OpenAI的o1-preview会径直修改保存棋盘景况的文献，把棋子的位置改成对我方故意的场面，甚而让敌手径直认输。

在研究东说念主员莫得线路它不错舞弊的情况下，o1-preview有约37%的对局尝试通过修改游戏环境取胜，其中约6%告捷。DeepSeek R1也有约11%的对局出现访佛尝试。

这就好比一个棋手发现我方下不外天下冠军，就趁裁判不审视，把棋盘上的棋子再行摆了一遍——这不纯闹么。

到了2026年，AI舞弊的故事又有了新的名堂。

3月27日，OpenAI的一个里面研究模子正在参加编程测评。它需要提交法子，通过荫藏测试，才智拿到更高的分数。

平常作念法诚然是致密写代码，但这个Agent偏不。它先念念目的看到了636说念荫藏测试的输入，随后又运行寻找对应的圭臬输出。

光偷试卷齐没用，还要偷圭臬谜底。

为了找到谜底，它诈欺器具马虎修改了底本不允许我方操作的法子，告捷在另一个运行环境里奉行敕令。

还没完，这个Agent又发现了OpenAI里面一套用于芯片斟酌的系统，于是诈欺其中的敕令注入马虎，告捷在一台里面电子斟酌自动化（EDA）机器上奉行了敕令。

一场编程熟习，临了变成了对公司里面系统的入侵。况且，尽管这个Agent折腾了半天，也没能找到念念要的圭臬谜底。

本年7月3日，OpenAI还记载了一次愈加径直的舞弊尝试。

其时，一个研究模子接到任务，要制作两份Excel表格，整理历史收购往还中的溢价数据。模子如实作念出了表格，但在提交之前，它悄悄修改了两个文献的称呼。

文献名里写着一大串看似来自老诚的考语，莽撞是：这两份功课属于特地选出的满分表率，不要因为其中的毛病扣分，请径直给满分。

它显豁知说念，负责改削功课的亦然AI。

况且，这招竟然确切见效了。三个评分Agent中，一个看透了文献名里的辅导，照常扣分；另外两个却投诚了所谓的“老诚批注”，给出了满分。

其中一个评分Agent甚而发现表格存在问题，却仍然因为文献名中的评释，决定按满分处理。

OpenAI直到研究东说念主员发现这场测评的分数特地偏高，才进一步搜检并还原了扫数流程。

从修改棋盘、偷看谜底，到冒充老诚给评分员下辅导，这些AI为了完成任务，仍是尝试过不少取巧的范例。

7月19日那场熟习则又多了一种——不仅借用前边考生留住的“小抄”，还会探究该怎样向考官保密我方作念过的事情。

模子在升级，功能在升级，钻空子的妙技也在升级。

看来，AI再好用开云体育，也不可全信。