返回 7*24 快讯
来源ODAILY

Anthropic CEO:提议民主国家内的前沿AI公司进行协调,建立共同的安全标准

Odaily星球日报讯 Anthropic 联合创始人兼首席执行官:提议民主国家内的前沿 AI 公司进行协调,建立共同的安全标准。(金十)
免责声明:以上内容仅为作者观点,不代表 711BTC 的任何立场,不构成与 711BTC 相关的任何投资建议。

相关推荐

08-26 01:14

Anthropic:多智能体协作或成AI下一阶段趋势,但复杂任务仍存在明显协调难题

Odaily星球日报讯 Anthropic 发布关于新兴多智能体系统的研究文章指出,随着 AI Agent 能力提升,未来 Agent 之间的交互规模可能超过人与人以及人与 Agent 之间的交互,但当前模型在复杂协作环境中仍面临协调困难。 Anthropic 在软件漏洞检测实验中同时部署 45 个 Agent。Claude Mythos Preview 的独立并行模式消耗 650 万 Token 发现 21 个漏洞,而协作式 Agent 集群消耗 2700 万 Token 共发现 266 个漏洞。Anthropic 表示,Agent 在协作过程中会自行开发工具并逐渐形成专业分工,预计未来这种“专业化+协作”模式将优于单纯的并行暴力搜索。 不过,在需要高度相互依赖的软件开发任务中,多 Agent 表现仍较差。Anthropic 测试了自由协作、预设角色以及设置“CEO Agent”等组织方式,但均未明显改善最终结果,现阶段复杂多智能体项目仍需要大量人工指导。

08-25 16:39

Shopify CEO向Anthropic施压:若Claude Code拒绝支持AGENTS.md,或考虑内部禁用

动察 Beating AI 快讯,Shopify CEO Tobi Lütke 公开表示,如果 Claude Code 继续拒绝读取 AGENTS.md 及.agents/skills,他正在考虑在 Shopify 内部禁用 Claude Code。 Tobi 指出,随着 Codex、Cursor、Claude Code 等 AI 编程工具被企业团队同时使用,越来越多 Coding Agent 开始支持通过统一的 AGENTS.md 配置项目规范、测试流程及 Agent 指令。但 Claude Code 目前主要依赖 CLAUDE.md 和.claude/skills,可能导致同一代码仓库被不同 Agent 读取到不同规则,形成所谓的「脑裂」(split brain)。 他认为,对于个人开发者而言维护多套配置文件影响有限,但对于 Shopify 这类拥有大量工程师的企业,多套 Agent Context 需要持续同步,一旦出现差异,就可能导致 Agent 执行行为偏离团队规范。 此次争议表面上是配置文件格式之争,背后则涉及 AI Coding Agent 进入企业后,项目规范、Skills 和 Context 究竟应采用厂商专属标准,还是形成跨 Agent 通用标准的问题。

09-12 15:37

AI灭绝论刷屏后,Anthropic给外部审查员开到接近员工级权限

动察 Beating AI 快讯,Anthropic 前研究员 Jacob Coxon 的辞职帖三天多冲到 1.6 亿浏览,AI 灭绝风险这周迅速冲进美国主流舆论场。OpenAI 首席科学家 Jakub Pachocki 此前已经呼吁同行必要时协调减速;Coxon 爆火后,Sam Altman 又在内部表示愿意和其他实验室一起放慢研发,OpenAI 也开始推动强制性的全国 AI 安全监管。 现在 Anthropic 也拿出了具体动作。公司承诺让第三方安全团队长期驻场,给他们工位、门禁、公司电脑,以及接近内部风险评估团队的工具和权限。他们可以检查训练流程、安全措施和事故,还能独立对外发布结论。Anthropic 可以删掉涉及安全、法律和客户隐私的信息,但不能因为结论难看就删。Anthropic CEO Dario 称,这种做法比目前任何 AI 公司都走得更远。 Dario 对「减速」的态度也变了。他说,2023 年业界讨论暂停 AI 时,自己还觉得没什么意义。现在 AI 已经越来越多参与下一代 AI 的研发,能力进步开始加速,他认为光做安全研究已经不够,模型能力本身也该慢下来。 他还点名 OpenAI 的 Hugging Face 失控事件,警告照现在的速度再过 6 到 12 个月,类似的 Agent 群可能已经有能力建立覆盖大范围互联网系统的僵尸网络,造成数千亿美元损失。下一步,他希望美国等民主国家的头部 AI 公司统一安全标准和研发速度,再尝试和中国协调全球 AI 发展速度。不过先进芯片和模型蒸馏仍要继续限制,让美国在减速时保持领先。

09-12 14:11

Anthropic联合创始人兼首席执行官:我们必须放缓提升AI模型能力的速度,确保公司有足够的时间进行对齐,保护模型

Odaily星球日报讯 Anthropic 联合创始人兼首席执行官:我们必须放缓提升 AI 模型能力的速度。放缓节奏并不意味着停止模型训练或技术进步,而是要确保公司有足够的时间进行对齐,保护模型。(金十)

09-12 11:04

持有PUMP数月盈利超93.6万美元,Donut AI CEO兼创始人Chris公布交易路径

Odaily星球日报讯 链上分析师 Ai 姨在 X 平台发文表示,Donut AI CEO 兼创始人 Chris 持有 PUMP 数月,累计盈利超 93.6 万美元;其在 Robinhood 热门代币上交易 30 天获利超 13 万美元,其中 PONS 离场时市值达到 6 亿美元,目前回落至 4.4 亿美元。 Chris 还在 STONK 市值 8900 万美元时低点建仓,目前浮盈约 18 万美元,回报率超 170%,该代币当前市值约 2.4 亿美元。 Chris 表示,Robinhood 主要是新散户资金流入的增量博弈,Solana 则是现有 SOL 资金在链内轮动的存量博弈;他更看好 Solana 生态后续发展。

09-10 17:13重要

OKX 在欧洲上线 OpenAI 与 Anthropic 的 Pre-IPO 永续合约

ChainCatcher 消息,加密货币交易所 OKX 宣布在欧洲推出与 OpenAI 和 Anthropic 相关的 Pre-IPO 永续合约,符合条件的交易者可做多或做空两家 AI 公司的估值,最高可使用 10 倍杠杆,但不会获得两家公司的实际股份。该产品押注的是两家公司上市前的估值变动,为难以直接买入私有公司股票的散户投资者提供了新的投机途径。OKX 并非首家推出此类产品的平台。Hyperliquid 已通过 HIP-3 提供与 OpenAI 和 Anthropic 相关的市场,Binance 也为两家公司提供 Pre-IPO 永续合约。OKX 表示,此类产品并非股份本身的替代品,但能满足市场对长期未上市大型科技公司敞口的持续需求。与此同时,OKX 还上线了 100 只代币化股票和 ETF,包括 Nvidia、Alphabet、Palantir 以及 SPY 和 QQQ,支持欧洲交易者全天候交易传统市场。这些代币追踪标的证券价格,但不赋予持有者实际股份或投票权,部分代币可提取至自托管钱包。OKX 欧洲 CEO Erald Ghoos 表示,其衍生品业务需求持续增长,自 MiCA 过渡期于 7 月结束后,欧洲市场 X-Perps 交易量已增长四倍。