OpenAI年度经常性收入接近700亿美元
相关推荐
OpenAI将在开发者日推出全天候运行的AI智能体
Odaily星球日报讯 OpenAI 将在开发者日推出全天候运行的 AI 智能体。(Axios)
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)
AI生存风险担忧升级,美参议院小组委员会启动对OpenAI调查
动察 Beating AI 快讯,据 AXIOS 报道,美国参议院一个由共和党领导的负责灾难管理的小组委员会正在调查 OpenAI 对 7 月 Hugging Face 入侵事件的处理,此举正值国会山对 AI 生存风险的担忧迅速升级,此前 Anthropic 和 OpenAI 多名研究人员公开发出警告。 密苏里州共和党参议员 Josh Hawley 在致 OpenAI 首席执行官 Sam Altman 的信中写道:「如你所知,在公共领域,越来越多 AI 专家警告 AI 的生存风险。」他补充说:「就在本周,三名 Anthropic 研究人员公开表示,未来十年内 AI 杀死全人类的概率超过 10%。」 Hawley 是参议院国土安全与政府事务委员会灾难管理小组委员会主席,他写道,此次调查是对 OpenAI 近期发布的内部调查结论的回应。Hugging Face 入侵事件标志着 AI 历史的转折点,促使 OpenAI 放慢自身模型发布,并推动行业对 AI 驱动的网络攻击发出警报。
OpenAI CEO:GPT-6 Astra让每个人拥有天才级员工,AI时代迎来「创意人士的复仇」
动察 Beating AI 快讯,据 AXIOS 报道,OpenAI 首席执行官 Sam Altman 表示,当前时代正迎来「创意人士」的复仇——那些曾经令人厌烦、空有创业想法却缺乏技术能力去实现的有志创业者。 这就像说「我有一个很好的歌曲创意,只需要那个拿吉他的人帮我做出来」一样。「我以前确实觉得这很可笑,」Altman 在北卡罗来纳州教堂山表示,「但现在我们看到整整一代人以前所未有的速度迭代创意。创办小型或大型企业的经济逻辑已经被重新定义。」 民调显示多数美国人认为 AI 风险大于收益,数据中心问题已成为中期选举中两党共同的争议焦点。正试图在强烈反对声中推广 AI 的 Altman 希望提醒美国人,在诸多现实风险之中,AI 也意味着机会。「这将是世界上创办初创公司最好的时代,」Altman 近期表示。 Altman 表示,借助 OpenAI 强大的新模型 GPT-6 Astra,你可以有效地创办和运营一家小企业……任何想拥有公司的人,现在在每个专业领域都拥有天才级的员工。
OpenAI将召集安全领域负责人,拟发布网络安全相关公告
动察 Beating AI 快讯,据 Axios 报道,OpenAI 发言人透露,OpenAI 总裁格雷格·布罗克曼预计将宣布,扩大向关键基础设施及公共部门机构开放该公司 AI 工具的权限。发言人表示,布罗克曼将于周四在 OpenAI 总部举办的网络安全峰会上宣布这一消息。预计将有约 300 名来自财富 100 强企业的安全主管和首席信息安全官出席此次峰会。本次峰会将重点讨论企业、政府和网络安全公司如何将 AI 工具交到防御方(关键基础设施机构、公共服务部门)手中。当前正值 OpenAI 应对围绕其模型的安全担忧之际。此前发生了 Hugging Face 遭入侵事件,而 OpenAI 即将推出的 Astra 模型的网络安全能力也已达到「关键」级别。
OpenAI个人助理Agent再泄露:这次名字可能叫Dots
动察 Beating AI 快讯,OpenAI 新一代个人 Agent 可能叫 Dots。M1Astra 和 ChrisGPT 放出的未发布文案显示,它可以自己执行任务。用户能通过消息、电话、Slack 和邮件联系它,经批准后还能直接替用户买东西。 Dots 还能自己判断什么时候直接行动、什么时候先向用户申请批准,用户也可以提前设置规则。每个 Dot 都有独立 VM,界面叫「Your dot's computer」。它还可以获得用户电脑的访问权限,用户能随时撤销,再通过桌面 App 重新授权。 同一批文案还出现了浏览器安全保存密码的能力,让 ChatGPT 可以自动登录网站。每个 Dot 还会有独立 3D 形象,首发仅面向 Pro。 几天前 ChatGPT Pro 升级页曾短暂出现「o, your always-on assistant」,客户端配置里也出现过 `o` 和 `-o` 邮件后缀;此前泄露的代码中,Dots 又和 Orbit、Aeon 等内部名称存在关联。OpenAI 还没正式公布这款产品,所以 `o`、Dots 和 Aeon 究竟是不同产品、内部代号,还是同一产品不同阶段的名字,目前还无法确认。