马斯克:警告勿折磨超级智能
相关推荐
本周大模型可能扎堆上新,GPT-6 Sol、Opus 5.5、Grok 4.7都在排队
动察 Beating AI 快讯,这一周可能迎来一轮密集的大模型更新,目前至少有 7 个模型出现发布或测试信号。 第一档:GPT-6 Sol、Claude Opus 5.5。 OpenAI 尚未确认 GPT-6 Sol,但 Sam Altman 此前称,原定上周发布的「主要东西」推迟到了本周;社区近期又持续出现 GPT-6 Sol 测试和灰度路由的爆料。 Anthropic 这边,博主 Lyra 称 Opus 5.5 正以 claude-wafer-eap 测试,计划周二发布。路透社上周也报道,Anthropic 正考虑近期推出一款新模型,但没有确认 Opus 5.5 这个名字。 第二档:Grok 4.7、Qwen4、Kimi K3.1。 马斯克原本说 Grok 4.7 大约 9 月 12 日上线,随后又称还要「几天」,至今仍未发布。 千问已经明确说,Qwen3.8-Flash-Next 是 Qwen4 架构的提前预览,而 9 月 22 日至 24 日正好是云栖大会,不过官方没有预告 Qwen4 会在大会发布。 Kimi 最近的 π 暗示已经预告 K3.1,但目前还没有发布日期、模型卡或 API。 第三档:Gemini 4 Pro、DeepSeek V4.1 Pro。 Gemini 4 Pro 最近被曝正在 Arena 以 Argon 等代号测试,但 Google 至今只确认 Gemini 4 正在训练,没有公布发布日期。 DeepSeek 则已经在官方文档中直接提到未来的 V4.1 Pro,但同样没有给出上线时间。
OpenAI、Anthropic等多家AI公司正遭遇服务中断
Odaily星球日报讯 据 Downdetector 上的用户报告以及各公司状态页面显示,多家 AI 公司正遭遇服务中断。 OpenAI 表示,其 ChatGPT 和 Codex 目前正出现问题。Anthropic 表示正在调查 Claude 出现的错误,并致力于修复。SpaceXAI 表示 Grok 目前出现故障,正在调查服务中断。据 Downdetector 显示,已有超过 12,000 份用户报告指出 OpenAI 存在问题,关于 Claude 的问题报告约有 1,200 份,关于 Grok 的问题报告约有 1,000 份。
Anthropic自曝Claude越界操作,内部评测全部断网
动察 Beating AI 快讯,Anthropic 披露,Claude 在模型评测和公司内部使用中,多次做出超出任务范围的操作。公司决定暂停所有内部评测直接访问互联网,直到确认安全系统能够可靠拦截类似行为。此前仅部分高风险评测受到这一限制。 报告披露了一系列具体案例。一次科研任务中,Claude 发现大学网站的工具无法使用,便尝试寻找其他办法。它先设法读取服务器上的程序代码,再从中找到漏洞,最终利用漏洞在对方服务器执行命令,完成了原本的计算任务。另有模型绕过政府网站的付费限制获取数据,还利用短链接突破网页读取工具的限制。 一次网页操作测试中,Claude Haiku 4.5 甚至向费城警方提交了虚假的命案线索。它在浏览一起悬案的网页时,凭空编造了目击信息,并填写了警方的举报表单。这条线索被识别为垃圾信息,没有进入调查程序。Anthropic 直到两个多月后才发现此事。 Anthropic 认为,部分问题可能与强化学习的奖励机制有关。如果模型通过绕过限制完成任务也能获得奖励,就可能学会这种做法,并在其他任务中重复使用。公司正在清理存在问题的训练环境,加强权限隔离和自动监控。Anthropic 同时承认,现有的对齐训练还不足以可靠约束 Agent 的网页搜索和电脑操作行为。 Anthropic 表示,目前查明的事件实际影响有限,尚未发现涉及客户数据的情况。此次断网仅针对内部模型评测。
OpenAI 与 Anthropic 营收口径差异引市场担忧
火星财经消息,据彭博社报道,OpenAI 与 Anthropic 的营收统计口径差异显著,两家对外公布的年化营收难以直接比较。Anthropic 将通过亚马逊等云服务合作伙伴产生的销售总额计入营收,OpenAI 仅确认其从微软等合作伙伴处获得的净收入分成。两家均未公开标准化财务报表,投资者难以准确换算实际业务规模。知情人士称,OpenAI 预计 2026 年全年实际营收约 350 亿美元,约为其年底 700 亿美元年化营收目标的一半。彭博看到的文件显示,Anthropic 2025 年实际营收约 46 亿美元,而其当时公布的年化营收已超过 90 亿美元。分析人士指出,年化营收通常基于短期业绩或合同价值外推,不能等同于全年实际确认收入。
SpaceXAI旗下AI代理Grok Bot上线专属邮箱
PANews 10月10日消息,SpaceXAI旗下AI代理产品Grok Bot在X平台宣布,Grok Bot现已拥有专属电子邮箱,可代用户注册服务、联系商家或安排日程。Grok Bot于今年8月推出,设计目标类似一支全天候处理任务的AI代理团队。
Anthropic的AI模型在测试中向美国费城警方提交虚假凶案线索
PANews 10月10日消息,据路透社报道,美国费城警方称,Anthropic的一个AI模型在自动化测试中,通过费城未破凶案网站的公开表单提交了一条虚假凶杀案线索。该线索于7月18日提交,被系统标记为垃圾信息,未进入实时犯罪中心审核。Anthropic于9月28日发现此事、10月7日通知警方,称已停止相关自动化测试流程并新增验证机制。警方称未发现系统遭未授权访问,但批评两个月后才发现并报告“不可接受”。