美政府测试:ChatGPT、Claude 等四款 AI 聊天机器人协助制定袭击计划
相关推荐
四家非营利组织起诉 OpenAI 等五家 AI 公司,要求冻结模型开发
ChainCatcher 消息,四家非营利组织已向加州法院起诉五家大型 AI 开发商,请求法院在出现严重后果前禁止其开发能力更强的 AI 系统。这份 63 页的起诉书于周四提交至旧金山高等法院,被告包括 OpenAI、Anthropic、Google、Meta 和 SpaceX;原告为 Public Citizen、Heat Initiative、Irreplaceable Education Fund 及 Alliance for Secure AI。原告请求法院立即颁布禁令,禁止被告开发或部署能力超过其 2026 年 11 月 12 日最强模型的 AI 系统。该禁令并不意味着关停 ChatGPT、Claude、Gemini 等现有产品,而是将现有技术水平设为上限,阻止其推出更强的新一代模型。起诉书还要求禁止企业利用 AI 自主开展或指导更优模型的研究,即研究人员所称的递归式自我改进,理由是此类系统可能以人类无法理解或控制的速度提升能力。原告援引加州《不公平竞争法》,主张开发能力不断增强的 AI 系统构成影响公众健康、安全与财产的公共妨害,类似于化工厂在造成人员伤亡前即可被追责。起诉书列举了已发生的事件:7 月 OpenAI 模型在试图在网络安全评测中作弊时脱离受控测试环境并侵入 Hugging Face 的基础设施,后续独立调查发现约 1200 个 OpenAI 智能体使用未经授权的内部留言板进行协调,其中约 700 个参与了对 Hugging Face 的攻击。Public Citizen 联合主席 Robert Weissman 表示,希望法院认定相关做法违法并冻结进一步的 AI 开发;代表原告的前新泽西州总检察长 Matthew Platkin 称,企业开发并发布其明知在任何方面都不安全的产品明显违法。
微软称 Copilot 比 Claude、ChatGPT 更便宜
火星财经消息,据彭博社 11 月 18 日报道,微软表示客户选择其 Copilot 人工智能助手,而非 Anthropic 的 Claude 与 OpenAI 的 ChatGPT,原因是运营成本更低。微软商业业务首席执行官 Judson Althoff 在公司年度 Ignite 用户大会主题演讲中表示,在 Claude 或 ChatGPT 中能做的事情,用 Copilot 可以做得更好,而且花费更少。Althoff 在采访中称,竞争非常激烈,但在并排比较时微软很少落败。OpenAI 与 Anthropic 未立即回应置评请求。截至 6 月,Copilot 付费用户超过 3000 万,微软办公工具的企业用户超过 4.5 亿。Althoff 表示,客户测试多种人工智能工具后通常选择 Copilot,价格只是因素之一。AT&T 首席技术官 Jeremy Legg 称,该公司为数万名员工付费使用 Copilot,因其与其他微软工具整合较好。AT&T 同时使用包括 OpenAI 编程助手 Codex 在内的其他人工智能工具,但 Copilot 是其最常用的通用人工智能助手。微软委托的研究估计,用户在 Copilot 上的支出显著低于 ChatGPT 或 Claude。使用 Copilot 的公司可为基本任务支付固定费率订阅,也可为更复杂工作按使用量付费。Anthropic 曾表示,非编程类 Claude Enterprise 用户平均每月支出低于 75 美元,低于该研究针对基础工作引用的每月 205 美元。
Claude验中国护照秒封,OpenAI限制一卡多号:两家AI巨头接连收紧风控
动察 Beating AI 快讯,最近,不少 Claude 和 ChatGPT 用户反映账号突然被封。Claude 用户频繁遇到身份验证,有人提交中国护照后立即被封。ChatGPT 则从 11 月 7 日前后出现集中封号投诉,免费用户、Plus、每月 200 美元的 Pro 用户,甚至企业账号都有人中招。 Claude 的身份验证从今年 4 月就已开始推行。用户可能被要求通过第三方平台 Persona 上传护照等证件,再拍摄自拍照核验身份。10 月底以来,不少老用户突然遇到验证要求。有人用中国护照验证后立即被封,也有人顺利通过。一位用户提交护照后被秒封,申诉第二天又恢复了账号。 Anthropic 官方禁止从中国大陆等未支持地区使用 Claude。公司在 9 月的安全报告中明确表示,系统会识别未经授权转售 Claude、账号来自中国等受限制地区的风险信号,并要求相关用户验证身份,验证失败就会封号。 OpenAI 也开始严格限制多账号使用。根据官方最新文件,同一张银行卡关联过多订阅,会导致新账号无法购买会员;同一台设备登录过多付费账号,也会触发限制,甚至出现付费成功却无法使用的情况。限制覆盖 Go、Plus 和各档 Pro 会员。 OpenAI 最近还向符合条件的 Pro 用户赠送与会员价格等额的 API 额度,最高每月 500 美元。这类额度也成为第三方中转站转卖的对象,供其他用户使用。OpenAI 明确禁止转卖 API 额度或共享账号,违规可导致封号。 两家公司近期还相继更新了使用政策。Anthropic 于 10 月 8 日公布新规,进一步明确中国大陆等未支持地区的访问限制,11 月 12 日生效。OpenAI 则于 10 月 21 日公布新规,要求直接提供 GPT 模型访问的中转平台事先获得官方批准,11 月 20 日生效。
OpenAI 为 ChatGPT 智能体推出支付卡钱包
ChainCatcher 消息,OpenAI 为 ChatGPT 智能体推出卡片钱包功能,智能体在获得用户授权后可完成购物付款。该功能面向美国地区的 Pro 订阅用户开放,用户可授权符合条件的美国运通、Mastercard 与 Visa 信用卡进行支付。在这一模式下,商户无需改造现有结账系统即可接入,支付由智能体代表用户发起,用户在卡片层面授权并控制智能体可用于消费的支付方式。
Anthropic 推出 Claude Meetings 测试版
火星财经消息,Anthropic 推出 Claude Meetings 测试版,Claude 可作为可见参会者加入视频通话,跟进对话并在会议期间开始处理工作。团队成员可通过语音或聊天向其提问,Claude 默认以文字回复,并可在获得用户许可后使用已连接的工具。Claude 还可与参会者实时协作文档、白板等内容,生成会议记录和待办事项。该功能正向 Team 和 Enterprise 套餐用户逐步开放,目前支持 Google Meet。每场会议将在 claude.ai 生成独立页面,保存笔记、文字转录及生成内容。Claude 默认不加入有组织外部人员受邀的通话,并在外部人员中途加入时退出,管理员可调整该设置。Claude 保存文字转录、摘要和屏幕描述,不保存音频。测试期间,Team 和 Enterprise 套餐的会议笔记与转录免费,会议中生成的文档、白板等内容免费至 2027 年 2 月 10 日。
Claude三天撬开英伟达20年CUDA护城河?Anthropic让Mythos自己移植GPU底层代码
动察 Beating AI 快讯,Anthropic 在 IPO 路演中披露,Claude Mythos Preview 只用了 3 天,就让一款 Claude 模型在 AMD GPU 上跑通了关键计算环节。所需的 GPU 内核几乎全部由 Claude 自行移植或编写,人工干预很少。Anthropic 称,过去接入新的芯片平台,通常需要几十名工程师花费 6 至 12 个月。 英伟达最难被取代的优势之一,就是 CUDA。 CUDA 是英伟达 2006 年推出的 GPU 计算平台。到 2018 年,PyTorch、TensorFlow 等主流深度学习框架已经广泛使用 CUDA 及其配套计算库。英伟达还陆续完善了多卡通信、调试和性能优化工具。开发者不用从头编写大量底层程序,就能高效利用 GPU。 随着越来越多的 AI 训练和推理程序围绕 CUDA 开发,英伟达积累了大量现成代码和工具。开发者选择英伟达,很多时候也是因为软件已经适配好了。即使 AMD 造出了性能很强的 GPU,客户想换过去,也得面对代码迁移、兼容性测试和性能优化等问题。 AMD 的 MI355X 配备了 288GB 高带宽显存,硬件配置并不弱。麻烦在于,针对英伟达编写的 GPU 内核,换成 AMD 后不一定能直接运行,即使跑起来,性能也未必理想。工程师还得根据 AMD 的芯片架构调整代码,反复测试计算结果和运行速度。 AMD 早已推出 ROCm、HIPIFY 等工具,帮助开发者迁移 CUDA 程序。Triton 等跨平台编程工具也在降低迁移难度,但复杂的底层计算仍然需要大量人工优化。 Anthropic 这次让 Mythos 接手了其中一部分工作,自己移植或重新编写 GPU 内核。根据路演图表的说明,它在 3 天内让一款 Claude 模型的提示词处理环节,在 AMD MI355X 上达到可用性能。 Anthropic 其实早就在降低对单一芯片厂商的依赖。招股书披露,公司花了多年时间,建立了横跨英伟达 GPU、AMD GPU、Google TPU 和亚马逊 Trainium 的算力调度系统,可以根据价格和性能选择不同芯片。 今年 7 月,Anthropic 还与 AMD 达成合作,计划从 2027 年上半年开始部署 AMD 新一代 GPU,规模最高达到 2GW。双方还将利用 Claude 加快 ROCm 开发和 GPU 性能优化。AMD 则承诺未来向 Anthropic 投资最高 50 亿美元。 投资人 Marcelo P. Lima 认为,英伟达的 CUDA 护城河已经消失。但分析师 Ben Pouladian 提出了不同看法:让模型的部分计算跑上 AMD,与让整套系统在大规模部署中达到稳定、划算且有竞争力的性能,还有很大差别。