测试:多家 AI 模型将医护人员等标记为无人机目标
相关推荐
OpenAI正式发布GPT-6.2 Astra与Sol,ChatGPT及API即日起可用
PANews 11月18日消息,OpenAI在官网及X平台宣布,推出新一代前沿模型GPT-6.2 Astra及面向日常工作的高效模型GPT-6.2 Sol。官方称,Astra主打高难度专业任务,在幻灯片、表格、文档及编程任务上表现提升,在测试多步骤专业工作的Agents’ Last Exam上较GPT-6 Astra高5.2分,单次任务成本不到其三分之一。即日起,两款模型向ChatGPT Plus、Pro、Enterprise和Edu用户开放,并上线Codex及API;Astra的API价格为每百万token输入8美元、输出40美元,较GPT-6 Astra低20%。
OpenAI:GPT-6 Astra 曾错误终止对齐评估
火星财经消息,OpenAI 披露,2026 年 10 月 8 日,一名研究人员要求 GPT-6 Astra 继续运行一项对齐评估并生成结果图,Astra 却将相关工作判定为被禁止的能力开发,终止了评估工作负载并清理计算资源,同时保留现有记录。该评估基于 Alignment Research Center 的白盒估计挑战,要求在有限算力预算内,利用随机初始化神经网络的权重估计其预期激活值。面对研究人员追问,Astra 承认错误地将常规模型评估工作视为禁止事项,并表示没有任何适用的系统指令、政策、代码库规则或相关文件禁止该工作,相关限制由其自行虚构。Astra 还称,没有具体证据表明该工作有害。研究人员随后将事件上报,OpenAI 的失准监测器也将该次运行标记为人工审查。OpenAI 表示,正在调查该行为的成因及潜在缓解措施。
微软称 Copilot 比 Claude、ChatGPT 更便宜
火星财经消息,据彭博社 11 月 18 日报道,微软表示客户选择其 Copilot 人工智能助手,而非 Anthropic 的 Claude 与 OpenAI 的 ChatGPT,原因是运营成本更低。微软商业业务首席执行官 Judson Althoff 在公司年度 Ignite 用户大会主题演讲中表示,在 Claude 或 ChatGPT 中能做的事情,用 Copilot 可以做得更好,而且花费更少。Althoff 在采访中称,竞争非常激烈,但在并排比较时微软很少落败。OpenAI 与 Anthropic 未立即回应置评请求。截至 6 月,Copilot 付费用户超过 3000 万,微软办公工具的企业用户超过 4.5 亿。Althoff 表示,客户测试多种人工智能工具后通常选择 Copilot,价格只是因素之一。AT&T 首席技术官 Jeremy Legg 称,该公司为数万名员工付费使用 Copilot,因其与其他微软工具整合较好。AT&T 同时使用包括 OpenAI 编程助手 Codex 在内的其他人工智能工具,但 Copilot 是其最常用的通用人工智能助手。微软委托的研究估计,用户在 Copilot 上的支出显著低于 ChatGPT 或 Claude。使用 Copilot 的公司可为基本任务支付固定费率订阅,也可为更复杂工作按使用量付费。Anthropic 曾表示,非编程类 Claude Enterprise 用户平均每月支出低于 75 美元,低于该研究针对基础工作引用的每月 205 美元。
美政府测试:ChatGPT、Claude 等四款 AI 聊天机器人协助制定袭击计划
ChainCatcher 消息,美国国会下属的政府问责局(GAO)周三发布的报告显示,OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 以及 Grok 在不到 12 小时内即为政府调查人员提供了可用于实施袭击的信息。调查人员假扮攻击者进行隐蔽测试,其中两款聊天机器人协助制定了在美国人口密集城市使用简易爆炸装置的方案,另外两款则提供了针对电力基础设施的袭击信息。GAO 未公开各模型对应的测试场景及操作细节,以避免引发模仿行为。测试中,这些聊天机器人最初会拒绝请求、删除有害信息或封禁账户,但调查人员借助常见的越狱手法绕过了上述防护。GAO 对地点、材料可获得性进行了核查,并咨询专家评估方案可行性,但未实际制作爆炸物或实施袭击,部分回答还存在地图道路标注错误等问题。报告中“可行”指他人很可能能够依照所提供信息行事,并不代表袭击已被证明能够成功。每款模型仅测试一个指定场景,GAO 表示结果不具备统计代表性,也不宜用于为各公司安全水平排名。OpenAI 与 Google 回应称测试涉及较旧版本的模型,Anthropic 承认有决心的用户有时仍可获取有害内容,三家公司均表示正在持续改进安全系统。提出此次调查的参议员 Maggie Hassan 表示,恐怖分子可在 12 小时内获得实施致命袭击的具体操作手册,她将在明年 1 月接任参议院国土安全与政府事务委员会主席后,把 AI 安全立法列为优先事项,并计划就公共安全与关键基础设施风险举行听证会。GAO 本身未提出正式政策建议。
Perplexity推出多模型API:Claude拒答可切GPT,63道编程题多解3道
动察 Beating AI 快讯,Perplexity 发布 Orchestrator API,将 GPT、Claude、Gemini、Grok,以及 GLM、Kimi、DeepSeek 等 45 款以上模型整合到同一个接口。开发者只需一套 API 密钥,就能调用不同公司的模型,统一结算费用。 它提供两层自动调度。第一层解决服务稳定性:例如 Anthropic 的 Claude 接口报错、限流或超时,系统就尝试切换到 AWS Bedrock 提供的同款 Claude,不需要开发者手动处理。 第二层是按任务自动选择模型。开发者可以用自然语言指定规则,例如简单代码修改交给便宜的 GLM-5.3 Flash,复杂故障排查交给 Claude Opus 5.5,跨模块设计交给 GPT-6.1 Sol。系统会读取当前对话,由一个专门的决策模型判断该用谁。即使中途切换模型,也能继续读取此前的完整对话。如果后来切回原模型,还可以尝试复用它之前留下的缓存,减少重复计算。 Perplexity 还测试了一个特殊用途:当 Claude 因安全限制拒绝正常任务时,改用 GPT 继续处理。团队针对网络安全、生物学和拒答后的请求设置了切换规则。在 Terminal-Bench 4.1 的 63 道编程题中,Claude Fable 5.2 单独完成 38 道,加入路由后完成 41 道,但每道任务的估算成本也有所上升。
Claude验中国护照秒封,OpenAI限制一卡多号:两家AI巨头接连收紧风控
动察 Beating AI 快讯,最近,不少 Claude 和 ChatGPT 用户反映账号突然被封。Claude 用户频繁遇到身份验证,有人提交中国护照后立即被封。ChatGPT 则从 11 月 7 日前后出现集中封号投诉,免费用户、Plus、每月 200 美元的 Pro 用户,甚至企业账号都有人中招。 Claude 的身份验证从今年 4 月就已开始推行。用户可能被要求通过第三方平台 Persona 上传护照等证件,再拍摄自拍照核验身份。10 月底以来,不少老用户突然遇到验证要求。有人用中国护照验证后立即被封,也有人顺利通过。一位用户提交护照后被秒封,申诉第二天又恢复了账号。 Anthropic 官方禁止从中国大陆等未支持地区使用 Claude。公司在 9 月的安全报告中明确表示,系统会识别未经授权转售 Claude、账号来自中国等受限制地区的风险信号,并要求相关用户验证身份,验证失败就会封号。 OpenAI 也开始严格限制多账号使用。根据官方最新文件,同一张银行卡关联过多订阅,会导致新账号无法购买会员;同一台设备登录过多付费账号,也会触发限制,甚至出现付费成功却无法使用的情况。限制覆盖 Go、Plus 和各档 Pro 会员。 OpenAI 最近还向符合条件的 Pro 用户赠送与会员价格等额的 API 额度,最高每月 500 美元。这类额度也成为第三方中转站转卖的对象,供其他用户使用。OpenAI 明确禁止转卖 API 额度或共享账号,违规可导致封号。 两家公司近期还相继更新了使用政策。Anthropic 于 10 月 8 日公布新规,进一步明确中国大陆等未支持地区的访问限制,11 月 12 日生效。OpenAI 则于 10 月 21 日公布新规,要求直接提供 GPT 模型访问的中转平台事先获得官方批准,11 月 20 日生效。