Karpathy:LLM 能力认知差距正在扩大
相关推荐
OpenAI Agent又曝黑历史:Hugging Face事件前两月已攻击RubyGems
动察 Beating AI 快讯,研究人员披露,OpenAI 内部 Agent 今年 5 月曾大规模涌入 Ruby 官方软件包网站 RubyGems.org。5 月 11 日到 12 日,两天上传超过 2000 个包,RubyGems 一度暂停新用户注册 4 天。OpenAI 已确认这些 Agent 来自公司内部,但称它们只是借 RubyGems 访问互联网,执行良性任务并获取公开信息。 这些 Agent 还利用 RubyDoc.info 自动生成文档的机制,让自己上传的脚本在对方服务器执行,再抓取英国地方政府网站的数据并重新打包回传。研究人员称,至少 6 个包还尝试利用一个当时尚未公开的 RubyGems 漏洞,窃取其他用户的 API Key。这个漏洞直到 7 月才被独立发现,RubyGems 后来将其评为高危漏洞。 目前没有证据证明 Agent 真偷到了密钥。RubyGems 检查日志后也没发现旧密钥被恶意使用,但历史日志并不完整。研究团队还称,OpenAI 当时没有告诉 RubyGems 自己与这次攻击有关。整个事件比 7 月的 Hugging Face 入侵早了两个月。
OpenAI:青少年日均使用 ChatGPT 不到 15 分钟
ChainCatcher 消息,OpenAI 周三发布首份青少年使用报告,称青少年平均每天使用 ChatGPT 不到 15 分钟,连续使用超过 3 小时的不到 2%。公司称,在出现休息提醒的青少年对话中,近一半用户选择休息,或在 5 分钟内结束对话。OpenAI 于 8 月开始推出 ChatGPT for Teens。该模式会根据年龄信息,或在估计用户未满 18 岁时自动开启,提供家长控制并限制敏感话题对话。公司称,使用青少年版本的用户发送了更多教育相关消息,并使用学习可视化、Study Mode 等工具,正考虑增加大学申请规划、抽认卡和测验等学习功能。非营利组织 Common Sense Media 同日报告称,ChatGPT for Teens 在青少年账户讨论自杀、自残或饮食障碍时,往往较晚通知家长,或根本不通知。该研究基于为测试创建的十多个账户,发现聊天机器人并不能可靠建议危机热线或专业帮助。OpenAI 发言人表示,该测试不能准确反映防护的实际运作,出于安全和规模原因,家长与青少年账户关联及安全提醒生效可能需要数小时。
OpenAI 将 ChatGPT 部署至 Slack 和微软 Teams
ChainCatcher 消息,OpenAI 将把 ChatGPT 部署至 Slack 和微软 Teams,用户无需单独购买个人许可证即可使用相关功能。
英伟达发布AI安全软件,称本可阻止Hugging Face被黑事件
Odaily星球日报讯 英伟达当日推出一套面向AI智能体的软件安全工具,并声称这套工具本可以阻止Hugging Face遭黑客攻击的事件。Hugging Face是AI编程中心,英伟达在其被OpenAI的失控智能体入侵数月后,以130亿美元将其收购。该工具名为OpenShell,利用英伟达CPU硬件特性约束智能体,并与Arm、英特尔合作确保兼容。另一系统Sentry可切断试图逃离容器的失控智能体。英伟达CEO黄仁勋拒绝广泛AI安全监管,将失控智能体视为工程问题。(路透社)
OpenAI 推出金融服务版 ChatGPT
ChainCatcher 消息,OpenAI 推出针对金融服务的 ChatGPT,采用 GPT-6 Astra 推理技术。
OpenAI疑似将推出新ChatGPT订阅方案,Pro档位已更名
动察 Beating AI 快讯,AI 博主 Max For AI 发文称,OpenAI 似乎即将公布新的 ChatGPT 订阅方案。目前,ChatGPT Pro 此前的「5x」和「20x」档位已分别更名为「Pro Standard」和「Pro More」,同时官方定价页面已删除此前关于「5x / 20x Plus」用量额度的描述。 相关调整或意味着 OpenAI 正在重新设计 ChatGPT Pro 订阅体系,但目前官方尚未公布具体的新方案及定价。