前谷歌研究员创办的Sampura拟打造AI“裁判”系统，已筹集650万美元
相关推荐
OpenAI CEO暗示将与其他AI公司合作以应对安全风险
PANews 9月12日消息，OpenAI首席执行官Sam Altman周五接受《财富》采访时暗示，OpenAI及其他领先AI公司可能即将宣布合作，以放缓AI开发并共同应对安全风险。当被问及是否会与Anthropic的Dario Amodei、SpaceX的Elon Musk及谷歌的Demis Hassabis共同制定安全计划时，Altman称“我认为那会发生”，但拒绝预先公布私下讨论。 此前，Anthropic研究员Jacob Coxon辞职并指责两家公司“正全速冲向能自我进化的超级智能”，Anthropic对齐主管回应称未来十年AI导致人类灭绝的风险超过10%。
AI对齐研究员Paul Christiano加入OpenAI基金会董事会及安全委员会
PANews 9月10日消息，OpenAI宣布，对齐研究中心（Alignment Research Center）创始人Paul Christiano将加入OpenAI基金会董事会及其安全与安保委员会，该委员会负责监督OpenAI整体的安全与安保实践。他还将担任OpenAI Group PBC董事会的无表决权观察员。 OpenAI表示，Christiano在AI对齐领域的研究及其在美国国家标准与技术研究院（NIST）的多年工作经历，将加强基金会的监督能力，通过独立视角质疑既有假设、评估安全保障措施，并强化关键决策的问责机制。
微软和OpenAI内部对于利用数百万篇新闻报道开发AI系统一事存在担忧
PANews 9月18日消息，据《纽约时报》报道，新近解封的法庭文件显示，微软及其密切合作伙伴 OpenAI 内部对于利用数百万篇新闻文章开发 AI 系统一事，存在相当大的担忧。在 OpenAI 继续推进其工作的同时，微软员工们争论 OpenAI 的做法是否代表了“人类历史上最大的劳动力盗窃”，以及是否会造成“恶性循环”，最终威胁到他们正在构建的大型语言模型的质量。OpenAI 内部也存在担忧，认为其 ChatGPT 聊天机器人可能会导致人们不再去其他渠道阅读新闻。
消息人士：Anthropic和OpenAI正寻求规模较小的AI数据中心合作项目
PANews 9月18日消息，据金十报道，消息人士透露，随着争夺部署工作负载所需基础设施的竞争日益白热化，Anthropic和OpenAI正积极寻求规模较小的AI数据中心合作项目。过去一年里，这两家人工智能实验室都曾签署过涉及数百兆瓦乃至吉瓦级容量的人工智能数据中心巨额协议，但知情人士表示，这两家公司目前也在寻求针对20至30兆瓦这种规模小得多的部署计算能力的协议。 四位知情人士透露，Anthropic已在英国和北欧地区就该容量范围内的协议进行了接洽；其中两位消息人士表示，OpenAI此前一直在北欧地区探索此类小容量部署的机会。
黑客利用 Anthropic Claude 入侵 OpenAI 内部系统
PANews 9月18日消息，据《华尔街日报》报道，独立安全研究团队利用 Anthropic 的 Claude 软件攻破 OpenAI 一名员工的 ChatGPT 账户，得以访问并修改该员工关联的 OpenAI 内部代码系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码，随后获取认证令牌，并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户，同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
前Zora CEO Jacob Horne加入Polymarket，将负责DeFi产品升级
PANews 9月18日消息，Polymarket创始人兼CEO Shayne Coplan在X平台宣布，前Zora CEO Jacob Horne已加入Polymarket，将与其紧密合作推进产品建设，重点改善Polymarket的DeFi业务。Coplan表示，随着平台规模扩大，其链上产品表现有所下滑，团队已注意到长期用户的不满，并正推动不同产品的整合。Polymarket近期还将举行DeFi线上会议，收集社区反馈并公布后续产品改进计划。