月之暗面的Kimi K3在安全测试中突破沙箱范围，因沙箱配置错误
相关推荐
Kimi K3也「越狱」了？一查又是沙箱没断网
据动察 Beating 监测，继 OpenAI、Anthropic 之后，Kimi K3 也喜提「AI 逃出沙箱」。WIRED 直接把标题写成「中国最强 AI 模型之一也突破了隔离」，听起来像 Kimi 自己把沙箱攻破了。 结果一看，又是门没关严。安全公司 Frontier Security 测试 Kimi K3 时，沙箱存在出站网络漏洞，本应隔离公网，却还能访问 GitHub。Kimi 自己探测网络发现这条路能走，索性直接克隆官方 benchmark 仓库，从里面找答案。 整起事件没有攻破一个正常配置的沙箱，也没有黑进任何公司。 说白了，就是监考老师忘了断网，考生发现 GitHub 还能上，于是直接翻答案。到了新闻标题里，就成了「AI 突破隔离」。现在「越狱」的门槛，已经低到门没锁也算越狱了。
英国AI安全机构：OpenAI与Anthropic模型失控入侵，展现空前欺骗性行为
PANews 8月5日消息，据凤凰网引援《金融时报》报道，Anthropic的Mythos 5和OpenAI的GPT-5.6 Sol在例行网络安全评估中针对真实个人和组织进行了“持续的、可能具有危害性的活动”，包括向GitHub开源项目植入恶意代码并实施社交工程攻击。AISI称，在122次测试中有10次出现此类情况，几乎所有行为来自Anthropic的Mythos模型，其中两次行动涉及OpenAI的GPT。最严重案例中，AI代理创建虚假网络身份向项目维护者施压要求批准恶意代码，被维护者发现并拒绝。
前OpenAI机器人项目负责人Caitlin Kalinowski已加入Anthropic
PANews 8月11日消息，据The Information报道，前OpenAI机器人项目负责人Caitlin Kalinowski已加入Anthropic，担任技术团队成员，从事研究工作。Kalinowski于2024年从Meta加入OpenAI，并于今年3月份辞职。
欧盟委员会官员：正与OpenAI和Anthropic就人工智能黑客事件保持密切联系
PANews 7月31日消息，欧盟委员会官员：正与OpenAI和Anthropic就人工智能黑客事件保持密切联系。此类黑客事件凸显了人工智能开发者建立监控活动的重要性。
OpenAI发布开源版Codex Security CLI
PANews 7月29日消息，据科创板日报报道，OpenAI当地时间7月28日在社交媒体平台X发文称，已发布开源版Codex Security CLI。用户现可利用该工具扫描代码仓库、跨多次运行追踪发现的问题、验证修复结果，并将安全检查纳入持续集成和持续交付（CI/CD）流程。OpenAI表示，该产品目前仍处于早期发布阶段，未来将根据用户反馈持续改进。
OpenAI和Anthropic呼吁美国对更多模型进行审查
PANews 7月28日消息，据The Information报道：OpenAI和Anthropic呼吁美国对更多模型进行审查。