Palantir CEO:AI 真正的风险在开发商而非 AI 本身
相关推荐
OpenAI和Anthropic均将设立“战情室”,确保提供有关美国中期选举的准确信息
PANews 11月2日消息,OpenAI和Anthropic都将设立“战情室”(war room),专门确保其平台能提供有关美国中期选举的准确信息——这对两家公司而言均属首次。
AI芯片供应紧张加剧,OpenAI CEO会见三星约50名高管深化合作
动察 Beating AI 快讯,据彭博社报道,OpenAI CEO 萨姆·奥特曼于 10 月 31 日在韩国会见三星集团约 50 名高管,讨论深化双方在存储芯片和 AI 基础设施领域的合作。与会人员来自三星旗下电子、金融及生物科技等业务部门,议题涵盖 AI 未来十年对产业、企业决策及商业机会的影响。 此次会面正值全球存储芯片供应紧张、价格持续上涨之际。数据中心运营商需求激增,进一步加剧芯片供应竞争。全球五大 AI 基础设施参与者未来数年计划投入超过 3 万亿美元,而存储芯片约占数据中心支出的三分之一。 此次会面也延续了双方此前宣布的合作,包括为 OpenAI 的「星际之门」(Stargate)基础设施项目供应存储芯片,以及合作建设 AI 数据中心,涵盖海上浮动数据中心等方案。
日本要求Anthropic和OpenAI开放更多先进AI模型权限
PANews 10月30日消息,据日经新闻报道,日本政府已要求美国人工智能开发商Anthropic和OpenAI提供更多权限,以使用能够识别网络安全漏洞的先进模型,并将鼓励关键基础设施运营商采用这些模型。日本政府计划最早于下周公布的一揽子网络安全措施中,纳入加强与美国AI开发商合作的内容。日本首相高市早苗周一要求内阁成员推动相关工作,与海外政府机构合作识别网络攻击者并解决系统漏洞。目前,日本正努力遏制一波数据泄露事件。
英国承诺出资1亿英镑设立生物安全实验室 OpenAI、Anthropic参与合作
火星财经消息,英国宣布出资1亿英镑(折合1.34亿美元)建设AI生物安全实验室,由OpenAI、Anthropic以及谷歌DeepMind提供支持。这是一揽子举措中的一项,旨在提升英国政府认知和应对人工智能相关风险的能力。根据英国政府声明,该实验室将借助人工智能识别、监测生物威胁;与此同时,OpenAI与Anthropic将提供最高2亿英镑额度的AI模型算力。实验室还将与谷歌DeepMind以及生命科学企业BasecampResearch开展合作。政府另外拨款6500万英镑,用于研发病原体应对手段。英国AI大臣卡尼什卡・纳拉扬表示:“随着人工智能能力持续增强,英国必须具备保护国民、自主塑造未来的能力。这意味着我们要走在网络攻击、生物风险等新兴威胁前面,同时更多掌握国家安全所依赖的关键技术。”本次公告同时包含追加拨款:向AI安全研究所增投1.2亿英镑。该机构是资金规模最高的政府机构,核心工作是持续评估前沿AI模型;另外拨付2300万英镑,用于筹建AI经济研究所,分析人工智能带来的经济影响。(财联社)
Anthropic CEO 发长文回应安全质疑,称须保持技术最前沿
火星财经消息,Anthropic 最近向美国国会议员提交一份 AI 安全法案草案,遭美国 AI 安全派质疑。草案对政府紧急叫停危险模型设置较高门槛,风险须涉及生物武器、网络攻击或 AI 失控等情形,并可能造成超过 50 人死亡或重伤,或超过 10 亿美元损失;部分条款还可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 随后梳理 Anthropic 过去一年的决定。今年 2 月,公司修改原本严格的安全政策:过去承诺若安全措施跟不上模型能力就暂停训练或发布,新政策不再要求公司在更高风险阶段独自停止研发,理由是竞争对手可能趁机超车。同期公司投入巨额算力、组建芯片团队,并让 Claude 承担更多 AI 研发任务。10 月 21 日,Anthropic CEO Dario Amodei 在 X 上发长文反驳。他承认公司犯过一些错误,但坚持争夺最先进 AI 能力并未违背安全使命,并称公司奉行向上竞赛,只有保持在技术最前沿,才有能力推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定,包括将 Mythos 级模型限制开放数月,以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称,现有政策主要针对危险模型部署,未来可能需要直接限制研发速度,并计划在 2027 年 1 月 15 日前提出相关政策方案,或解释为何没有提出。
谷歌前 CEO 施密特被曝持有 Anthropic 约 1% 股份
ChainCatcher 消息,据彭博社援引知情人士报道,谷歌前 CEO 埃里克·施密特(Eric Schmidt)持有 Anthropic 约 1% 股份,源于其在 A 轮融资中投资的数千万美元,这将使其成为 Anthropic 即将进行的 IPO 中获益最大的个人之一。目前尚不清楚其是否出售过股份,施密特与 Anthropic 均拒绝置评。据 Pitchbook 数据,施密特 2021 年首次投资时 Anthropic 估值为 4.61 亿美元。投资者上周称,Anthropic 合理估值在 1.8 万亿至 2 万亿美元之间,若按上限计算,施密特身家将增至近 800 亿美元。