比尔·盖茨计划投入大量个人资源推动更严格的AI监管
相关推荐
Anthropic联创兼CEO Dario Amodei呼吁放缓前沿AI发展步伐
PANews 9月13日消息,Anthropic联合创始人兼CEO Dario Amodei 发文提出“pacing the frontier”三步计划,呼吁放缓前沿大模型能力提升速度,以便安全对齐和监管跟上。他指出,递归自我改进已经在行业内出现,若不加控制,未来6–12个月内多智能体“蜂群”有能力通过大规模网络攻击和持久僵尸网络造成灾难性损失。方案包括:引入具有员工级持续访问权限的第三方嵌入式评估机构,推动民主国家内前沿AI公司在政府支持下协调设定能力和安全标准,并在维护美国及其盟友技术领先的前提下,与中国等国家尝试在生物武器、网络安全测试和递归自我改进速度等方面开展全球协调。
特朗普再批Anthropic CEO:Dario现在装成「完美小天使」
火星财经消息,9 月 14 日,美国总统特朗普发文批评 Anthropic CEO Dario Amodei 近期关于放缓前沿 AI 发展的言论,称其「自利」,并指责其此前存在不当行为。 特朗普表示,美国政府已经阻止 Dario 等 AI「人物」做一些「不好的事情」,而 Dario 现在则开始「假装自己是一个完美的小天使」,并称这种表现还会持续下去。 此前,Amodei 曾公开呼吁 AI 行业放慢前沿模型开发速度,并警告 AI 快速发展可能带来严重风险。OpenAI CEO Sam Altman、特斯拉 CEO 马斯克等人随后也表达了不同程度的支持。 特朗普此前则多次强调,美国必须保持 AI 领域领先,并警惕过度监管拖慢美国与亚洲国家的 AI 竞争。
视频|Dario Amodei:为安全推迟发布Claude六个月,亲手错过了「ChatGPT时刻」
Anthropic CEO Dario Amodei 在参加 CFR CEO Speaker Series 时表示,Anthropic 当年其实有机会抢在 ChatGPT 之前发布 Claude,但出于安全考虑,主动将发布时间推迟了大约 6 个月,也因此错过了「ChatGPT 时刻」。这个决定确实让 Anthropic 付出了商业上的代价,但也奠定了公司此后更重视安全的文化。
分析:Anthropic IPO临近,投资者难以为AI失控风险定价
PANews 10月8日消息,据彭博社报道,Anthropic计划中的大规模IPO令投资者面临难题:如何为一家被部分人担忧可能带来极端风险的公司估值。此前有研究人员在X平台讨论AI导致人类灭绝的概率达10%以上,Anthropic CEO Dario Amodei曾撰文指出人类可能失去对AI系统的控制,以及AI被用于网络攻击、生物恐怖等风险。
特朗普盟友备忘录点名 Anthropic CEO,视其为 AI 末日论代表
火星财经消息,Axios 报道,特朗普盟友正把人工智能公司 Anthropic 首席执行官 Dario Amodei 作为人工智能“末日论”代表人物及有效利他主义运动创始人之一加以攻击。消息人士称,中期选举期间,盟友反击其人工智能安全警告时,Anthropic 仍可能成为特朗普阵营目标;因其政治立场和对人工智能安全的关注,他被视为容易攻击的对象。这对投资者而言令人担忧,因为公司正准备一场预期创纪录的首次公开募股。报道称,本周白宫内部开始流传一份备忘录,试图把有效利他主义描绘成脱离美国主流的边缘、邪教式群体,Axios 称已取得该文件。备忘录由一名不在白宫任职的特朗普政治顾问撰写,称有效利他主义“建立了人工智能末日管道”,并把 Amodei 放在该运动的基础位置,同时提到其妹、Anthropic 总裁 Daniela Amodei,将这些关系称为“Anthropic 结点”。一名接近政府的消息人士说,Amodei 体现了一种与总统“美国优先”议程相悖的意识形态和全球主义创新路径。Anthropic 一直在与有效利他主义保持距离。Daniela Amodei 在 2025 年《连线》报道中表示不认同这一术语。Dario Amodei 在采访中坚称自己不是该运动成员,并宣传过人工智能的益处。
佛罗里达女子用 Claude 写日记,Anthropic 审查后报警
ChainCatcher 消息,据 Decrypt 报道,美国佛罗里达州 Bonita Springs 女子 Carli Michelle Heller 因将 Claude 当作日记使用而被捕。调查人员称,她在 9 月 26 日写下将“扫射”李县警长办公室的内容,次日又表示自己获得了新枪。Anthropic 的安全系统标记了这些对话,因内容严重,平台交由人工审查团队处理,后者向执法部门报告。警员据此锁定 Heller,前往其住所并将其拘留,她被控以书面形式发出暴力威胁,案件定于 11 月开庭。Anthropic 的消费者条款明确保留“自行决定”将用户输入、输出或行为报告给执法部门的权利。其 2026 年 9 月 10 日生效的隐私政策也允许公司在善意相信披露为预防严重伤害所合理必要时与警方共享数据。即便用户选择不将数据用于模型训练,Anthropic 仍可在三个月内使用其数据,而非五年;被标记送审的对话还会用于改进有害内容检测能力。这并非首例。《旧金山标准报》9 月报道,Anthropic 曾将一名用户移交警方,该用户据称写道自己购买了 AR-15 步枪,并将公司 CEO Dario Amodei 置于瞄准镜中,其称只是开玩笑,报道刊发时未被逮捕或起诉,Anthropic 发言人称此事是“我们的防护流程按预期运作”。