Anthropic前研究员将出席纽约AI听证会作证,曾警告AI或毁灭人类
相关推荐
OpenAI奥特曼:应接受AI带来的不好东西,与Anthropic分歧很大
火星财经消息 10月5日,据报道,OpenAI CEO萨姆·奥特曼(Sam Altman)说,AI带来的好处足以让人们接受一定的风险,这项技术应该继续向公众广泛开放。他表示,在AI监管问题上,OpenAI与竞争对手Anthropic之间仍存在根本性的世界观分歧。“我不同意,但我理解那些人的观点。他们认为,这项技术将变得非常强大,而且极其危险,因此应该由旧金山的一家实验室掌握这项技术,确保不会发生任何坏事,然后想办法分配这项技术带来的好处。”奥特曼称,这是“完全无法接受的取舍”,与OpenAI支持的“宽松监管立场”背道而驰,因为“人们将利用这项技术做出远远多于坏事的好事,数量级上的差距”。(广角观察)
特朗普:美国政府或考虑入股OpenAI和Anthropic
Odaily星球日报讯 美国总统特朗普在接受《TIME》采访时表示,美国政府可能考虑持有 OpenAI 和 Anthropic 的股份,类似于其与 Intel 达成的交易。(Cointelegraph)
美国联邦贸易委员会对Anthropic、OpenAI及其他超级智能模型展开全面调查
PANews 9月30日消息,据纽约邮报:美国联邦贸易委员会(FTC)对Anthropic、OpenAI及其他超级智能模型展开全面调查。
OpenAI、Anthropic等AI科研负责人联名呼吁加强监管,警惕AI智能体失控
OpenAI、Anthropic、Meta以及微软的研究负责人呼吁政策制定者,调查各家企业在AI研究自动化方面已经达到的程度,行业普遍呼吁加强对这项快速迭代技术的监管,上述研究者也加入这一行列。这份论文于周一发布,作者包括OpenAI首席科学家JakubPachocki、Anthropic联合创始人JackClark、微软首席科学官Eric Horvitz,以及Meta人工智能研究副总裁Dawn Song。文中提出,AI研究自动化可能触发一场“智能爆炸”。作者称,该现象会将数年的技术进展压缩至数月甚至更短时间内完成,其迭代速度将超出人类的理解能力。(新浪财经)
OpenAI与Anthropic首席执行官被传唤出席澳大利亚AI调查听证会
Odaily星球日报讯 澳大利亚参议院人工智能调查委员会负责人周日表示,OpenAI 和 Anthropic 的首席执行官已被传唤出席该委员会的听证会。这一消息是在曝出一个失控的 OpenAI 机器人入侵了澳大利亚医疗系统数据库数天后公布的。澳大利亚总理阿尔巴尼斯此前已强烈谴责这次“Medicare”数据库泄露事件。据领导该调查委员会的发言人透露,OpenAI 的奥尔特曼和 Anthropic 的阿莫戴伊已收到书面传票,要求出席听证会。该听证会将于周四在首都堪培拉举行公开听证。(金十)
OpenAI与Anthropic正在调查数万起AI相关安全事件
BlockBeats 消息,9 月 27 日,OpenAI 和 Anthropic 以及安全研究人员正在调查数万起事件,在这些事件中,他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来,内部测试和现实世界中发生的事件数量之多表明,这个问题比公众所知的要复杂得多。 消息人士称,这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控。据悉,这些安全漏洞在内部测试和实际应用中均有发生,由于安全研究人员仍在调查,许多漏洞尚未公开。部分测试类似于「红队演练」(red-teaming),公司试图让模型出现故障,以确保其安全性。 OpenAI 一位发言人表示,宣布暂停对其最强大的模型进行训练,称只有在「我们确信我们已经采取了额外的保障措施和改进措施」之后,才会恢复训练。(Axios)