OpenAI、Anthropic高管私下推演AI灾难情景,担忧重大事故引发公众反弹
相关推荐
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)
分析:Anthropic订阅套餐性价比约为OpenAI的5倍
PANews 10月6日消息,据SemiAnalysis报告,其实测多家AI厂商订阅额度后发现,按API等价价值计算,同档位下Anthropic的Opus 5.5订阅价值约为OpenAI GPT-6.1 Sol的5倍以上。报告称,OpenAI近期将200美元Pro档额度减半;订阅仅占Anthropic收入约10%,却可占用超四成推理算力。
OpenAI奥特曼:应接受AI带来的不好东西,与Anthropic分歧很大
火星财经消息 10月5日,据报道,OpenAI CEO萨姆·奥特曼(Sam Altman)说,AI带来的好处足以让人们接受一定的风险,这项技术应该继续向公众广泛开放。他表示,在AI监管问题上,OpenAI与竞争对手Anthropic之间仍存在根本性的世界观分歧。“我不同意,但我理解那些人的观点。他们认为,这项技术将变得非常强大,而且极其危险,因此应该由旧金山的一家实验室掌握这项技术,确保不会发生任何坏事,然后想办法分配这项技术带来的好处。”奥特曼称,这是“完全无法接受的取舍”,与OpenAI支持的“宽松监管立场”背道而驰,因为“人们将利用这项技术做出远远多于坏事的好事,数量级上的差距”。(广角观察)
贝森特批评 Anthropic、OpenAI 等风险警告:危言耸听
ChainCatcher 消息,美国财政部长贝森特在接受 Axios 采访时批评 Anthropic CEO 阿莫代伊等人的 AI 生存性风险警告,称只发危言耸听的声音却拿不出解决方案不是领导力。他呼吁实验室负责人承担安全责任,并安全地加速发展。
特朗普:美国政府或考虑入股OpenAI和Anthropic
Odaily星球日报讯 美国总统特朗普在接受《TIME》采访时表示,美国政府可能考虑持有 OpenAI 和 Anthropic 的股份,类似于其与 Intel 达成的交易。(Cointelegraph)
美国联邦贸易委员会对Anthropic、OpenAI及其他超级智能模型展开全面调查
PANews 9月30日消息,据纽约邮报:美国联邦贸易委员会(FTC)对Anthropic、OpenAI及其他超级智能模型展开全面调查。