美国众议院民主党拟设立具传票权AI特别委员会
相关推荐
美媒：OpenAI支持众议院两党人工智能安全监管提案
PANews 9月15日消息，据Politico报道，人工智能巨头OpenAI支持一项美国众议院两党提案，该提案将要求顶尖人工智能公司引入外部评估机构，以确保其模型安全。OpenAI全球事务主管克里斯·莱恩周二表示，公司支持FRONTIER法案中的一项关键条款。该法案由众议院共和党议员杰伊·奥伯诺尔特和民主党议员洛丽·特拉汉提出，旨在建立美国首个联邦层面的人工智能安全框架。该法案包含多项规定，其中包括要求顶尖人工智能实验室允许“独立验证组织”（IVOs）进入公司内部，以确保模型以安全方式开发。
加州州长签署两项获Anthropic和OpenAI支持的AI安全法案，规范第三方对AI系统进行安全评估的机制
PANews 9月10日消息，据POLITICO报道，加州州长Gavin Newsom已签署两项AI安全相关法案，规范第三方对AI系统进行安全评估的机制。其中，Assemblymember Rebecca Bauer-Kahan提出的法案将为AI外部审计机构建立注册制度和伦理规范；前联邦众议员、州参议员Jerry McNerney提出的法案则由州政府设定标准并审核“独立验证机构”（Independent Verification Organizations）的资质与评估能力。Anthropic早前已公开支持相关立法，OpenAI于法案签署前也表态支持，并称将在各州持续推动AI安全立法。
微软和OpenAI内部对于利用数百万篇新闻报道开发AI系统一事存在担忧
PANews 9月18日消息，据《纽约时报》报道，新近解封的法庭文件显示，微软及其密切合作伙伴 OpenAI 内部对于利用数百万篇新闻文章开发 AI 系统一事，存在相当大的担忧。在 OpenAI 继续推进其工作的同时，微软员工们争论 OpenAI 的做法是否代表了“人类历史上最大的劳动力盗窃”，以及是否会造成“恶性循环”，最终威胁到他们正在构建的大型语言模型的质量。OpenAI 内部也存在担忧，认为其 ChatGPT 聊天机器人可能会导致人们不再去其他渠道阅读新闻。
消息人士：Anthropic和OpenAI正寻求规模较小的AI数据中心合作项目
PANews 9月18日消息，据金十报道，消息人士透露，随着争夺部署工作负载所需基础设施的竞争日益白热化，Anthropic和OpenAI正积极寻求规模较小的AI数据中心合作项目。过去一年里，这两家人工智能实验室都曾签署过涉及数百兆瓦乃至吉瓦级容量的人工智能数据中心巨额协议，但知情人士表示，这两家公司目前也在寻求针对20至30兆瓦这种规模小得多的部署计算能力的协议。 四位知情人士透露，Anthropic已在英国和北欧地区就该容量范围内的协议进行了接洽；其中两位消息人士表示，OpenAI此前一直在北欧地区探索此类小容量部署的机会。
黑客利用 Anthropic Claude 入侵 OpenAI 内部系统
PANews 9月18日消息，据《华尔街日报》报道，独立安全研究团队利用 Anthropic 的 Claude 软件攻破 OpenAI 一名员工的 ChatGPT 账户，得以访问并修改该员工关联的 OpenAI 内部代码系统。研究人员先利用 Claude 分析 OpenAI 开发者社区所使用的 Discourse 漏洞并生成可运行的攻击代码，随后获取认证令牌，并借助权限配置问题进入一名 OpenAI 员工的 ChatGPT 账户，同时取得对部分私有 GitHub 代码库的有限读取和提交修改建议权限。
OpenAI 推出 Appshots 功能，将应用上下文接入 Windows 版 ChatGPT
PANews 9月18日消息，据OpenAI Developers，OpenAI 正在为 Windows 端 ChatGPT 推出新功能 Appshots，允许用户直接将当前所用应用的界面与内容作为上下文传给 ChatGPT，用于调试问题、复刻界面设计、从其他应用中抓取数据等场景，减少复制粘贴与手动说明步骤。