黄仁勋划定AI安全红线:客户开发不安全软件,英伟达可能停止供芯片
相关推荐
OpenAI CEO将在联合国推动全球AI安全标准
动察 Beating AI 快讯,OpenAI CEO Sam Altman 将在联合国安理会发言,主张建立统一的全球 AI 安全标准,同时避免出台可能拖慢创新的限制措施。OpenAI 表示,它并不支持设立某个具体的国际监管机构,更倾向于基本安全标准加民主监督。Anthropic CEO Dario Amodei 预计也将通过视频参会。 此前据 FT 报道,OpenAI 周一呼吁美国政府牵头建立国际 AI 标准,并建议各国协调评估 AI 模型的能力与风险。OpenAI CEO Sam Altman 本周将向联合国安理会介绍相关方案。OpenAI 特别警告递归自我改进(RSI)可能带来新的风险,即越来越多 AI 模型训练工作由其他 AI 系统完成。如果缺乏适当的安全措施,AI 可能快速迭代到人类无法有效监督的程度,使人类逐渐失去对 AI 发展的实际控制。相关提议正值 AI 安全担忧升温之际。
摩根大通CEO:全球AI基建支出2027年或突破1万亿美元
动察 Beating AI 快讯,摩根大通 CEO 杰米·戴蒙表示,包括大型云计算公司及上下游供应商在内的全球「超大规模云厂商生态」,今年 AI 基础设施支出预计约 7000 亿美元,较去年约 3000 亿美元翻倍以上,2027 年可能进一步突破 1 万亿美元。 戴蒙表示,这轮 AI 投资正扩展至数据中心、芯片、服务器、电力和工业基础设施,每年带来的新增投资规模相当于美国 GDP 的约 1%,短期可能推高通胀。随着 AI 数据中心建设加速,土地、电力、变压器、天然气轮机及输电线路等基础设施也成为新的投资重点。 他同时指出,并非所有 AI 投资都能在短期内产生明确回报,部分投入更接近科技巨头维持竞争地位所必须承担的成本。市场目前正越来越关注,当 AI 基建投资迈向万亿美元规模后,相关收入和现金流能否覆盖持续扩张的资本开支。
Anthropic CEO:就算模型今天停更,现有AI可能也只用了5%–10%的价值
动察 Beating AI 快讯,Anthropic CEO Dario Amodei 在 Salesforce 年度大会 Dreamforce 上表示,即使模型能力从今天开始不再进步,人们可能也只开发出了现有 AI 潜在价值的 5%–10%。 他认为,模型能力已经跑在实际应用前面。很多企业和普通用户甚至还不知道现有 AI 已经能做什么,更谈不上把这些能力真正用进日常工作。 Dario 举了 Anthropic 自己的例子。公司内部已经有人让 Claude 直接结合 Salesforce 数据,找出本周最大的交易、最可能丢掉的订单,再分析项目的问题和成单机会。这些能力今天已经能用,但真正把它们用起来的人还很少。 这也补充了他最近关于「放慢前沿 AI」的主张。Dario 想放慢的是最前沿模型继续变强的速度,并不主张放慢 AI 应用。按他的判断,就算模型暂时停在今天,企业把现有能力真正用起来,仍有很大的空间。
卸任钉钉CEO三个月后,传无招陈航转入千问办公
动察 Beating AI 快讯,一张阿里内部通讯录截图显示,钉钉创始人、前 CEO 陈航(花名「无招」)目前被挂在 ATH 事业群「千问办公」名下。 陈航今年 6 月卸任钉钉 CEO,由陈宇森接棒。此后,阿里把陈航主导的企业级 Agent「悟空」,与 QoderWork、MuleRun 合并成千问办公。千问办公事业部由陈宇森负责,同时管理千问办公和钉钉。 千问办公 8 月初公测,上线一个月用户已经突破 3000 万,企业用户占比过半。
继姚顺雨后,田永龙也进入腾讯 CEO/总裁办公室,掌管混元多模态
动察 Beating AI 快讯,前 OpenAI 研究员田永龙近期被纳入腾讯 CEO/总裁办公室,头衔正式明确为「混元多模态负责人」,向腾讯首席 AI 科学家姚顺雨汇报。 原多模态模型负责人薄列峰已不再直接负责一线模型业务,转任基础模型部运营负责人。 今年 7 月,腾讯将大语言模型和多模态模型团队合并为基础模型部,由姚顺雨统一负责。田永龙当时加入腾讯,负责 VLM(视觉语言模型)方向。 现在腾讯基础模型的分工进一步明确:姚顺雨统管整个基础模型部,田永龙负责混元多模态。
Sui开发团队设立AI业务部门,原CEO将转任CTO并负责AI业务
火星财经消息,10 月 17 日,Sui 开发团队 Mysten Labs CEO Evan Cheng 发文宣布,公司将正式设立 AI 业务部门,专注于智能体信任产品和原生 AI 基础设施开发。同时,Mysten Labs 总裁 Kevin Boon 将接任 CEO,Evan Cheng 则转任首席技术官(CTO),并负责领导 AI 业务部门。 Evan Cheng 表示,随着 AI 智能体开始自主执行交易、支付、谈判及代码开发等任务,如何确保智能体在授权范围内行动、避免意外损害,以及解决不同参与方之间的责任认定问题,正成为行业发展的关键挑战。Mysten Labs 计划基于 Sui 和 Walrus 构建相关产品,帮助个人和企业约束智能体行为,并支持智能体在无需人工实时介入的情况下安全执行任务。 此外,Mysten Labs 近期已宣布与 Google Cloud 合作开发可验证智能体仲裁器(VAA),为企业 AI 智能体提供证据层,通过防篡改记录协助解决跨组织协作中的争议。Evan Cheng 认为,AI 智能体驱动的商业活动具有巨大潜力,但信任机制和激励协调问题仍是其规模化发展的主要障碍。