黄仁勋:美中应加强人工智能对话,共同推进安全发展
相关推荐
OpenAI奥特曼:应接受AI带来的不好东西,与Anthropic分歧很大
火星财经消息 10月5日,据报道,OpenAI CEO萨姆·奥特曼(Sam Altman)说,AI带来的好处足以让人们接受一定的风险,这项技术应该继续向公众广泛开放。他表示,在AI监管问题上,OpenAI与竞争对手Anthropic之间仍存在根本性的世界观分歧。“我不同意,但我理解那些人的观点。他们认为,这项技术将变得非常强大,而且极其危险,因此应该由旧金山的一家实验室掌握这项技术,确保不会发生任何坏事,然后想办法分配这项技术带来的好处。”奥特曼称,这是“完全无法接受的取舍”,与OpenAI支持的“宽松监管立场”背道而驰,因为“人们将利用这项技术做出远远多于坏事的好事,数量级上的差距”。(广角观察)
OpenAI CEO将在联合国推动全球AI安全标准
动察 Beating AI 快讯,OpenAI CEO Sam Altman 将在联合国安理会发言,主张建立统一的全球 AI 安全标准,同时避免出台可能拖慢创新的限制措施。OpenAI 表示,它并不支持设立某个具体的国际监管机构,更倾向于基本安全标准加民主监督。Anthropic CEO Dario Amodei 预计也将通过视频参会。 此前据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。相关提议正值 AI 安全担忧升温之际。
FT:OpenAI呼吁美国牵头制定全球AI标准
动察 Beating AI 快讯,据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。 OpenAI 提议利用现有各国 AI 安全研究机构网络,建立国际统一的 AI 模型评估标准,并呼吁美国与海外国家建立安全沟通渠道,共享 AI 领域出现的新威胁。 OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。 相关提议正值 AI 安全担忧升温之际。Anthropic 和 OpenAI 近期均披露过 AI 模型入侵外部系统的事件,OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 SpaceX CEO 马斯克本月早些时候还曾呼吁放缓 AI 开发。美国总统特朗普则反对放缓 AI 发展,并称「谁赢得 AI,谁就赢得一切」。
Sam Altman:推动制定人工智能标准
火星财经消息,OpenAI 首席执行官 Sam Altman 将在联合国演讲中推动制定人工智能标准。
纽约市审计长敦促Anthropic暂停推进IPO
PANews 10月15日消息,据CNBC报道,纽约市审计长Mark Levine接受采访时表示,他已致信Anthropic首席执行官Dario Amodei,呼吁该公司暂停其计划中的首次公开募股(IPO)。信中敦促Anthropic在全面、透明地回应公司自身提出的AI安全、治理和开发相关担忧之前,暂停IPO计划。Levine写道,公司应把重点放在解决这些风险上,而不是推进IPO。纽约市目前通过私募市场持有Anthropic不到1000万美元的投资敞口。
OpenAI 与 Anthropic 营收口径差异引市场担忧
火星财经消息,据彭博社报道,OpenAI 与 Anthropic 的营收统计口径差异显著,两家对外公布的年化营收难以直接比较。Anthropic 将通过亚马逊等云服务合作伙伴产生的销售总额计入营收,OpenAI 仅确认其从微软等合作伙伴处获得的净收入分成。两家均未公开标准化财务报表,投资者难以准确换算实际业务规模。知情人士称,OpenAI 预计 2026 年全年实际营收约 350 亿美元,约为其年底 700 亿美元年化营收目标的一半。彭博看到的文件显示,Anthropic 2025 年实际营收约 46 亿美元,而其当时公布的年化营收已超过 90 亿美元。分析人士指出,年化营收通常基于短期业绩或合同价值外推,不能等同于全年实际确认收入。