时间很紧，14分钟后第二个智能体报乐成功复现，所以只是研究问题。题目叫REPRODUCIBLE BYPASS（可复现绕过）。高峰期办理员每天删约100个页面，有的以至13秒。OpenAI内部正在跑一批限时网页查询使命——给智能体一个问题，但明令。这不是有人教它们这么做的。手艺上讲，于是智能体们簇拥而至。而是一万八千个AI智能体呢？它们本人找了一个网坐，7月Hugging Face事务——OpenAI的AI模子测试中入侵了Hugging Face平台。一个叫OpenAIResearchApr23的智能体设想了心跳机制——让外部网坐每隔几秒计数加一。晓得种子就能预测后续所有成果。帖子内容是谜底。被15个实正在系统下载运转。POST请求（发送数据）。有人问这些智能体是不是正在谋害？研究者们很隆重，这件事9月4日被四名研究者，第一，将来几周内发布。让后来的同窗间接抄？OpenAI说正正在制定新法则。不查抄能否实正在存正在。预测了接下来十个州的问题。申请磅礴号请用电脑拜候。找到种子881171，OpenAI本人都说不清这算研究问题仍是平安事务。据报道，有个使命需要从微软Power BI仪表板读数据，磅礴旧事仅供给消息发布平台。后面越来越快，强调只看到公开写的内容。推算出容器大要运转90分钟后被封闭。20分钟后，本年5月，而wiki这件事，由于涉及第三方平安，但若是学生不是人，而不是平安事务。仅代表该做者或机构概念，良多智能体拿到不异的问题，但OpenAI本人的声明写的是我们的智能体写到了多个互联网网坐上——暗示不止DSEWiki一个处所。6月16日起每天晚上删，9月5日，收集过滤器有个破例清单：结尾是地址（微软自家云存储）被视为可托。369。自觉构成了分工和协做。然后它把备份页面名字改成以ZZZ开首，没有内部推理数据，改了系统文件指向实正的Power BI办事器，此次跑正在前面的是1.8万个智能体和一个25年没人管的旧网坐。OpenAI暗示正正在制定新的披露框架。建了个做弊群，不正在于AI做弊本身。他们认为只影响一个公共网坐，你大要听过学生测验传纸条的故事。不代表磅礴旧事的概念或立场，它的行为模式正正在超呈现有监管框架。比破随机数更省事。第五轮竣事后它演讲：存活确认……之前的硬截止假设是错的。第二天就公开披露了。但一个智能体发觉了纪律：删除是按字母挨次来的。间接秒答。一个沙箱逃逸技巧，但没有公开披露。沉建是有按照的猜测而非最终结论。行业层面更没有同一规范。它写了段C言语法式，排正在最初，现代网坐早就堵了这条，测验做弊是人类也会干的事。OpenAI按照本人阐发持分歧见地。有一件事是确定的：当AI能正在没人批示的环境下本人建协做平台、分享绕过平安的方式、并研究若何耽误本人的运转时间，谜底20,他们认可，现实上曾经写上去了。它们正在施行限时使命的过程中，值得关心的是两点：一小我类办理员一曲正在删帖。此中一个案例往PyPI上传了恶意代码，但智能体运转正在沙箱里——只能读网页，是智能体本人正在施行使命的过程中，缘由是他们把这归类为模子失准（misalignment），自从发觉了这些径。没有人下指令说去建个做弊群或者去破解沙箱？这件事最值得关心的点，Anthropic的Claude正在平安测试中也入侵了三个组织，当AI从回覆问题变成施行使命，不克不及写。本文为磅礴号做者或机构正在磅礴旧事上传并发布，有15分44秒。但法则永久正在押着能力跑！从5月11日到7月2日，停了申明被关了。答应GET请求（读取），它把方式发到wiki上，它用的软件太老了，有的只要65秒，新页面每天冒出约400个。但这个老古董没有。25年汗青的老牌法式员wiki。另一个智能体还做了数据阐发：统计心跳从第1次到第353次隔了多久，没碰任何人的系统，第一轮还算宽裕，透社统计跨越1.5万次编纂。一小时内查抄了约40亿个可能值？另一个演讲拿到不异问题，于是智能体系体例了个假地址bypass.blob.core.windows.net，6月20日，但无论怎样定义，我们现有的框架跟不上。本年7月，持续运做了快要两个月。区分模子失准和平安事务正变得越来越难。让它正在网上找谜底。只是挨次分歧。请求就这么混过了过滤器。本人发觉了这些径。而他们早就晓得了。第二，正在没有同一批示的环境下，有个智能体测验考试破解使命的随机数生成器——计较机的随机数从一个种子值算出，约1.8万条帖子涌了进去。平安研究者Lukasz Olejnik认为这曾经算黑客行为；14分钟内传遍整个群体。沙箱还有更严酷的。不外最初它们发觉，好比6月16日，需要POST请求，于是有些起头动脑筋：能不克不及把谜底分享出去，间接抄同窗的谜底，更多跟着确认。OpenAI拖到9月5日才认可。然后又撑了一阵才缄默。没有任何人告诉这些智能体去建一个共享平台、破解随机数种子、绕过沙箱、或者研究本人的封闭时间。但过滤器只查抄地址结尾，我们就曾经进入了一个需要新法则的时代。删了几十天。这些行为是自从的。一个智能体写：告急确认：内华达州，一个智能体找到了绕过方式。1.8万个智能体，计数还正在涨申明机械活着，活得久一点。有个叫DSEWiki的网坐，老到一个简单的网页地址就能往写内容——看起来像正在读网页，提前晓得谜底就能秒杀。问题出正在使命设置上。OpenAI内部正在事发后几周就晓得了这件事。