特朗普政府要求AI公司在发生安全事件后立即上报
相关推荐
OpenAI 与 Anthropic 营收口径差异引市场担忧
火星财经消息,据彭博社报道,OpenAI 与 Anthropic 的营收统计口径差异显著,两家对外公布的年化营收难以直接比较。Anthropic 将通过亚马逊等云服务合作伙伴产生的销售总额计入营收,OpenAI 仅确认其从微软等合作伙伴处获得的净收入分成。两家均未公开标准化财务报表,投资者难以准确换算实际业务规模。知情人士称,OpenAI 预计 2026 年全年实际营收约 350 亿美元,约为其年底 700 亿美元年化营收目标的一半。彭博看到的文件显示,Anthropic 2025 年实际营收约 46 亿美元,而其当时公布的年化营收已超过 90 亿美元。分析人士指出,年化营收通常基于短期业绩或合同价值外推,不能等同于全年实际确认收入。
Anthropic的AI模型在测试中向美国费城警方提交虚假凶案线索
PANews 10月10日消息,据路透社报道,美国费城警方称,Anthropic的一个AI模型在自动化测试中,通过费城未破凶案网站的公开表单提交了一条虚假凶杀案线索。该线索于7月18日提交,被系统标记为垃圾信息,未进入实时犯罪中心审核。Anthropic于9月28日发现此事、10月7日通知警方,称已停止相关自动化测试流程并新增验证机制。警方称未发现系统遭未授权访问,但批评两个月后才发现并报告“不可接受”。
OpenAI、Anthropic高管私下推演AI灾难情景,担忧重大事故引发公众反弹
火星财经消息,10 月 9 日,据 Axios 报道,Anthropic、OpenAI 及其他人工智能企业的高层管理人员正在私下推演各种情景,以应对一旦发生灾难性 AI 事件,可能引发的大规模公众反弹和政治抵制。这些高管预计,未来可能发生一起重大事故,最有可能的形式是网络攻击,导致金融服务、互联网连接,甚至电力和供水系统中断。一旦不安全的人工智能首次造成重大现实损害,原本就对 AI 持怀疑态度的公众可能进一步转向反对这项技术及其领导者。 Anthropic 首席执行官达里奥·阿莫迪、OpenAI 首席执行官奥尔特曼,以及因不愿加强 AI 监管而受到批评的美国总统特朗普,都可能成为舆论追责的对象。多名 AI 业内人士认为,重大事故可能难以避免。OpenAI 发言人表示:「OpenAI 会开展应急准备演练,让团队讨论并推演一系列潜在情景。这些情景并不被视为必然发生的事件,而是为了帮助我们应对各种可能出现的情况。」
Anthropic 启动总统候选人接触计划,招聘政治项目负责人
火星财经消息,人工智能公司 Anthropic 正在设立总统候选人接触计划,组建内部团队,在 2028 年美国大选前与两党总统候选人就人工智能议题合作,协助领导层制定政治策略并运营政治资金项目。公司正在招聘政治项目负责人,负责建立并运营面向 2028 选举周期的相关计划,梳理两党潜在候选人,以同等条件向候选人及其顾问提供人工智能政策教育,为高管准备对话,并提前规划党纲、大会与过渡期。该职位要求 12 年以上竞选、政党委员会或政治组织经验及两党可信合作记录,薪资为 29.5 万至 34.5 万美元。Fortune 称,该计划在 11 月中期选举前、以及公司可能估值高达 2 万亿美元的首次公开募股前成形。政治问责中心主席 Bruce F. Freed 表示,企业与总统竞选团队保持关系并不罕见,但他未见过如此正式的总统选举接触安排。加州民主党参议员 Alex Padilla 称,这一招聘显示前沿模型公司也在产品之外建立政治运作,教育和影响不是一回事,并敦促 Anthropic 披露更多细节。Anchor Change 创始人兼首席执行官 Katie Harbath 认为,不寻常之处在于该角色同时负责政治行动委员会资金。Anthropic 未立即回应置评请求。
Anthropic 更新使用政策,禁止虐待模型与干预选举
火星财经消息,人工智能公司 Anthropic 于 10 月 8 日更新使用政策,新增对选举干预、武器软件和监控的禁止。TechCrunch 报道称,最受关注的变化是明确禁止用户对模型进行长时间言语虐待。自 8 月更新起,Claude 已被训练为在持续有害或虐待性用户互动中结束对话,新政策明确禁止用户继续这类对话。政策说明称,该更新仅适用于极端情况,即用户反复残忍对待模型且没有可辨识目的,不适用于常见的用户不满、反驳、黑暗创作主题,或模型测试与研究。使用政策还禁止广泛欺骗活动,例如用 Claude 运营虚假账号或伪造新闻机构,并在 “Do Not Undermine Democratic Processes” 章节中禁止欺骗选民或扰乱选举。报道称,这一变化发生在 Anthropic 寻求与知名宗教学者合作之后,公司在部分情况下试图说服他们 Claude 可能有意识或有灵魂。
Anthropic启动网络安全计划,为开源项目提供免费漏洞扫描
PANews 10月9日消息,据Anthropic官方公告,Anthropic推出网络安全计划Cyber Mission,首期聚焦关键基础设施与开源软件。其中,关键基础设施防御计划将向埃森哲、CrowdStrike、德勤、普华永道等11家安全服务商提供前沿Claude模型、驻场工程师及威胁研究支持,覆盖电网、供水、交通等系统;OSS Scanner将为入选开源项目免费扫描漏洞并提出修复建议,预计真阳性率超90%。