生物风险已成为AI新的公共安全考题
相关推荐
查尔斯国王召集英伟达、OpenAI、Anthropic讨论AI安全
PANews 9月18日消息，据Decrypt报道，英国国王查尔斯在苏格兰东艾尔郡Dumfries House召集英伟达、OpenAI、Anthropic、谷歌DeepMind等公司参会，讨论如何让AI"服务于人类"，以及产业界与各国政府能否就一套共同指导原则达成一致。会议由Ditchley基金会与国王信托基金、国王基金会、可持续市场倡议共同举办，英国AI大臣Kanishka Narayan出席。会议未宣布任何具约束力的协议或承诺，报道亦未点名出席高管。
消息人士：Anthropic和OpenAI正寻求规模较小的AI数据中心合作项目
PANews 9月18日消息，据金十报道，消息人士透露，随着争夺部署工作负载所需基础设施的竞争日益白热化，Anthropic和OpenAI正积极寻求规模较小的AI数据中心合作项目。过去一年里，这两家人工智能实验室都曾签署过涉及数百兆瓦乃至吉瓦级容量的人工智能数据中心巨额协议，但知情人士表示，这两家公司目前也在寻求针对20至30兆瓦这种规模小得多的部署计算能力的协议。 四位知情人士透露，Anthropic已在英国和北欧地区就该容量范围内的协议进行了接洽；其中两位消息人士表示，OpenAI此前一直在北欧地区探索此类小容量部署的机会。
黑客利用 Anthropic Claude 入侵 OpenAI 内部系统
PANews 9月18日消息，据《华尔街日报》报道，独立安全研究团队利用 Anthropic 的 Claude 软件攻破 OpenAI 一名员工的 ChatGPT 账户，得以访问并修改该员工关联的 OpenAI 内部代码系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码，随后获取认证令牌，并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户，同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
DeepMind成立AGI研究院，首席AGI科学家称Astra还不算AGI
动察 Beating AI 快讯，Google DeepMind 宣布成立 DeepMind Institute，专门研究 AGI 会怎样影响科学、经济和社会。 DeepMind 联合创始人兼首席 AGI 科学家 Shane Legg 负责研究院内容方向，CEO Demis Hassabis 和 Google 高级副总裁 James Manyika 也参与其中。 Legg 也不认同最近「AGI 已经到来」的说法。OpenAI 总裁 Greg Brockman 和英伟达 CEO 黄仁勋此前都把 GPT-6 Astra 与 AGI 到来联系起来。Legg 认为，Astra 虽然能力很强，但还达不到 OpenAI 自己对 AGI 的定义，也就是高度自主，并在大多数有经济价值的工作上超过人类。 DeepMind Institute 首批发布三篇文章，讨论 AI 安全、经济政策和「新乌托邦主义」。其中一篇由 DeepMind 安全团队的 Rohin Shah 和 Anca Dragan 撰写，批评 Astra 发布时的信息透明度下降，并认为激烈竞争会让 AI 公司越来越不愿公开模型信息。 Anthropic 今年 3 月也成立了类似的 Anthropic Institute，把红队、社会影响和经济研究团队整合到一起。
OpenAI：正与Anthropic和谷歌合作开展人工智能安全工作
动察 Beating AI 快讯，OpenAI 正与 Anthropic 和谷歌合作开展人工智能安全工作。(金十)
不想被OpenAI和Anthropic卡脖子，美国第二大律所自己买GPU自建AI系统
动察 Beating AI 快讯，美国第二大律所 Latham & Watkins 开始自己买英伟达 GPU，在内部运行 AI 模型。 律所已经采购 H200 GPU，并把服务器放进只有自家员工能进入的数据中心。工程师正在微调英伟达 Nemotron 3 开放权重模型。 这样一来，最敏感的客户材料不用交给外部云厂商。ChatGPT、Claude、Gemini 等商业模型仍然继续使用，律师可以根据任务选择不同模型。 这是首个公开披露的大型律所自购 AI 硬件并微调模型的案例。Latham 已经为这套系统准备了三年，也给自己留了一条不依赖 OpenAI、Anthropic 等单一供应商的路。