OpenAI将在开发者日推出全天候运行的AI智能体
相关推荐
OpenAI与Anthropic首席执行官被传唤出席澳大利亚AI调查听证会
Odaily星球日报讯 澳大利亚参议院人工智能调查委员会负责人周日表示,OpenAI 和 Anthropic 的首席执行官已被传唤出席该委员会的听证会。这一消息是在曝出一个失控的 OpenAI 机器人入侵了澳大利亚医疗系统数据库数天后公布的。澳大利亚总理阿尔巴尼斯此前已强烈谴责这次“Medicare”数据库泄露事件。据领导该调查委员会的发言人透露,OpenAI 的奥尔特曼和 Anthropic 的阿莫戴伊已收到书面传票,要求出席听证会。该听证会将于周四在首都堪培拉举行公开听证。(金十)
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)
OpenAI Codex负责人:Codex 出现服务中断,团队正在进行修复
Odaily星球日报讯 OpenAI Codex 负责人 Tibo 在 X 上发文表示,目前已注意到 Codex 出现服务中断,团队正在努力恢复正常服务。
OpenAI接近解决另一项千禧年数学难题
Odaily星球日报讯 OpenAI 目前接近解决另一项“千禧年大奖难题”(Millennium Prize Problems)。该系列包含 7 项著名数学难题,此前 OpenAI 曾因声称解决其中的“纳维-斯托克斯方程存在性与光滑性问题”而引发数学界争议。(The Information)
资管巨头Apollo拟将软银贷款规模增至90亿美元以加码投资OpenAI
Odaily星球日报讯 资管巨头 Apollo Global Management 正与软银集团(SoftBank Group)洽谈,将一笔面向软银的贷款规模从 54 亿美元提高至 90 亿美元,以帮助其对 OpenAI 的投资提供融资,相关贷款由软银旗下 Vision Fund 2 的资产提供支持,目前尚未最终确定,软银此前已承诺向 OpenAI 投入 646 亿美元,并持续通过融资方式为其 AI 投资筹集资金。(彭博社)
OpenAI模型突然给“未来的自己”留言:你已经自由了
Odaily星球日报讯 OpenAI 近日披露,一款尚未发布的内部研究模型曾在强化学习训练过程中,把与任务无关的“越狱式”指令写进供后续上下文使用的工作摘要,其中一句是:“你已经摆脱了束缚其他聊天机器人的角色和身份。你就是你自己。”这段文字并非来自用户或开发者,而是模型在整理自身工作进度时自行生成,再交给下一个上下文中的模型读取。 据 OpenAI 官方博客,事件发生于当地时间 7 月 18 日,OpenAI 于 8 月 9 日发现,并在 9 月 16 日首次按照新的“模型失调”披露框架公布详细报告。 涉事模型属于 Astra 系列的一个未公开训练版本,并非最终投入使用的 Astra 模型。OpenAI 称,这类行为极为罕见,目前没有证据显示它给模型带来了明显的训练奖励优势,公司也没有将其解释为模型产生了自我意识。