David Sacks:前沿AI企业签署《超级智能白宫协议》,并实施新的内部控制和外部审计机制
相关推荐
David Sacks批评Anthropic夸大小模型安全威胁,称企业专用小模型正冲击闭源AI商业模式
Odaily星球日报讯 David Sacks 在 X 平台发文,批评 Anthropic 最新研究报告夸大小型 AI 模型在物联网设备上自主复制和传播的安全风险。他指出,相关实验依赖预先开放调试端口的设备、外部服务器及人为设定的传播任务,尚不足以证明现实中存在能够自主扩散的 AI 蠕虫。 Sacks 表示,传统恶意软件早已能够利用设备默认密码、开放端口及缺乏安全更新等漏洞大规模传播,小模型目前并未显著改变这一威胁模式。 他还提及,Coinbase 近期利用自有反欺诈数据微调 Qwen-3.5-9B 模型,在相关测试中表现优于包括 Anthropic Opus 4.5 在内的前沿模型,并将欺诈交易减少约 30%。 Sacks 认为,针对特定企业任务优化的小模型在成本、速度及实际效果方面具备竞争力,正对 Anthropic 等闭源大模型公司的商业模式形成挑战。他质疑 Anthropic 在小模型开始获得企业市场份额之际强调其安全风险,并认为专用小模型的普及反而可能降低对大型通用 AI 系统的依赖。
David Sacks重申:阻止自身模型被蒸馏的最佳主体是企业而非政府
PANews 10月13日消息,David Sacks 发帖称,Anthropic 表示 已将蒸馏攻击(distillation attacks)中从 Claude 提取的数据减少约 90% 至 99% ,Sacks 对此表示祝贺。他借此重申其在 All-In 第 282 期提出的观点:阻止自身模型被蒸馏的最佳主体是企业而非政府。他指出,此前华盛顿曾基于知识产权推动限制开放模型,Nvidia、Microsoft、Meta、IBM、Palantir、Dell 等 50 家公司及近 200 家初创公司曾发公开信反对,最终政府未实施相关限制。
Cathie Wood力挺David Sacks观点:“AI将毁灭人类”舆论或被人为操纵
PANews 9月13日消息,ARK Invest创始人Cathie Wood在X平台转发美国总统科学技术顾问委员会主席 David Sacks访谈内容,并指出David Sacks认为近期“AI将毁灭人类”的相关报道可能是人为策划,相关言论最初来自一名Anthropic员工的长期未活跃X账号,该员工入职仅6周后便离职,随后相关内容迅速进入主流媒体。David Sacks还指称了相关事件的涉事方,并批评《华尔街日报》在其中扮演的角色。
David Sacks:在完成举报调查之前,Anthropic的IPO应该暂停
Odaily星球日报讯 美国总统科学技术顾问委员会主席 David Sacks 于 X 发文表示:“在对举报人的说法进行调查之前,Anthropic 的 IPO 肯定应该暂停。” Odaily 注:David Sacks 所提到的举报人为 Anthropic 研究员 Jacob Coxon,其因担忧 AI 的失控风险,在股权归属前两个月选择了离职。
Altman、Dario都喊AI减速,特朗普科技顾问Sacks:真怕就自己停,别拉上全行业
动察 Beating AI 快讯,Anthropic CEO Dario Amodei 发长文呼吁放慢前沿 AI 的能力提升。他认为,AI 已越来越多参与下一代 AI 研发,加上近期多起 Agent 失控事件,安全研究正在追不上能力增长。 Dario 提出三步方案:先让第三方评测员长期进入 AI 公司,获得接近员工的权限;再让民主国家的前沿实验室协调安全标准,必要时一起放慢能力增长;最后推动国际协调。Anthropic 已承诺先执行第一步。 Sam Altman 随后公开支持,称 OpenAI 最近几周也一直在讨论「pace the frontier」,并宣布 OpenAI 也会引入类似的长期独立评测员。 前白宫 AI 与加密货币主管、现任总统科技顾问委员会联席主席 David Sacks 随后回击:「真觉得内部模型危险,就自己停。」他说 OpenAI 和 Anthropic 已经主导前沿 AI,完全可以自己放慢,不需要拉上其他公司。 Sacks 最反感的是几家竞争对手一起商量「大家都慢一点」。Dario 自己也承认,这类协调可能需要反垄断豁免。Sacks 认为,如果还得政府开绿灯,让几家最大的 AI 公司坐下来一起限速,就很像一个垄断联盟。 他还点名 METR,质疑它是否适合充当全行业的独立裁判。METR 长期给 Anthropic、OpenAI 等公司做外部评测,最近又有 Anthropic 安全研究员 Joe Benton 离职加入。不过 METR 明确表示,自己不接受这些前沿 AI 公司的资金,只接受模型访问和免费 token。 Sacks 还认为,减速本身也符合 OpenAI 和 Anthropic 的商业利益。模型越容易失控,法律责任越大;客户也更愿意买稳定、可控的 AI。至于全球统一减速,他判断不可能所有国家都愿意加入。
白宫拟缩减特殊政府雇员身份使用,涉马斯克和前加密事务负责人David Sacks
Odaily星球日报讯 美国白宫正计划缩减“特殊政府雇员”(Special Government Employees,简称 SGE)的使用。这一身份允许来自私营部门的人员在为政府工作的同时,保留其在私营领域的薪酬或投资收益。据知情人士称,白宫办公厅主任斯蒂芬·米勒已向身边同事表示,他希望逐步减少此类“特殊政府雇员”的使用。近几周,已有数位知名度较高的“特殊政府雇员”正在离开或已经离开了政府团队。 “特殊政府雇员”这一身份允许私营部门人士在暂时加入政府工作的同时,继续领取其在私营领域的薪酬。在极少数情况下,他们才被要求公开其客户信息或利益冲突情况。尽管联邦法规规定“特殊政府雇员”每年在政府部门的工作时间不得超过 130 天,但若政府方面有需要,这一期限亦可延长。 一些备受瞩目的“政府特别雇员”包括:曾任政府效率部负责人的商人埃隆·马斯克;曾在国土安全部担任高级顾问的科里·莱万多夫斯基;以及曾负责人工智能与加密货币事务的科技企业家大卫·萨克斯。这三人目前均已不在政府部门任职。 据两位知情人士透露,白宫不会全面禁止“特殊政府雇员”这一身份,而是会审慎地使用该类别。一位白宫官员表示,米勒倾向于优先聘用全职员工;他还补充说,米勒计划严厉打击他所认为的对“特殊政府雇员”身份的滥用行为。(华尔街日报)