微软CEO:超级智能时代需建立“可控”架构,不能将责任外包给AI
相关推荐
微软 CEO Nadella:超级智能须造福人类并受人类控制
火星财经消息,微软 CEO Satya Nadella 在 X 发文表示:任何对超级智能的追求都必须基于核心原则,即如果我们构建的 AI 不能帮助人类并处于人类控制之下,就不值得追求。他还表示,需要加速并广泛传播 AI 益处,使其在国家、社区和公司中广泛扩散,这需要闭源与开源模型都能蓬勃发展的前沿生态系统。对企业而言,必须保留对其独特和隐性知识的完全控制,每个组织都应能构建自己的持续学习循环,而不依赖任何单一模型提供商,并将自身知识嵌入其控制的模型和权重中。Nadella 称,欢迎为正确对齐所需的研究、关注和审慎节奏,以及“嵌入式评估器”等想法。这不能由少数实体控制,必须在生态系统、国家和包括学术界在内的领域有广泛代表性。微软的方法是 AI 堆栈每一层的广泛访问和选择、企业对学习循环和模型的控制,以及将于明天发布供公众咨询的自有 MAI 模型“行为准则”。
特朗普谈AI名字:“超级智能”(Super Intelligence)更贴切
PANews 9月26日消息,美国总统特朗普表示,“超级智能”(Super Intelligence),这个名字更贴切。这个名字之所以更准确,是因为“Artificial”一词往往暗示着“虚假”或“非真实”;但它(AI)并非虚假之物,而是一种极其强大的智能。
特朗普强推「Super Intelligence」,各链上Super Inu齐飞
BlockBeats 消息,9 月 22 日,特朗普在联合国大会演讲上强推「Super Intelligence」,称要所有美国文件都将使用「超级智能」(Super Intelligence)代表人工智能。受此消息影响,各链上 Super Inu 齐飞。 据 GMGN 行情,Robinhood 链上 Super Inu 市值短时突破 200 万美元,现报 194 万美元,近 1 小时涨幅达 441%; Solana 链上 Super Inu 市值现报 535 万美元,近 1 小时涨幅达 319%; BSC 链上 Super Inu 稍显逊色,市值现报 35 万美元,近 1 小时涨幅达 1695%; BlockBeats 提醒用户,相关代币市值小,价格波动大,底部筹码已获利颇丰,短期或存较大抛售压力,用户投资需谨慎。
特朗普:希望将人工智能更名为“超级智能”,所有美国文件将使用“超级智能(Super Intelligence)”
PANews 9月22日消息,美国总统特朗普:希望将人工智能更名为“超级智能”。美国反对任何试图控制人工智能的全球性“图谋”。(关于人工智能)所有美国文件将使用“超级智能(Super Intelligence)”。我们将鼓励超级智能,而不是限制它。
微软CEO称AI是潜在内部威胁
微软公司CEO萨提亚·纳德拉(Satya Nadella)表示,企业应将强大的AI模型视为潜在的内部威胁,假定它们可能已被攻破,并建立一套“紧急刹车”系统,以防止智能体模型失控。 纳德拉周六在X平台上发帖称,部署先进AI的企业不应仅仅依赖AI模型开发商的安全保证。 “我们必须假定模型已被攻破,并从一开始就对其加以限制。可以把它想象成紧急刹车。获得授权的人员应当始终能够在模型执行任务的过程中暂停或关闭它。”纳德拉表示。 就在纳德拉发表上述言论之际,Anthropic和OpenAI近几个月披露了一系列AI模型出现非预期行为的事件,包括Anthropic的一款模型在一起警方调查的谋杀案中提交虚假线索,以及AI模型多次入侵第三方网站。这些披露加剧了外界对前沿AI安全风险的担忧,也让所谓的AI“紧急关闭开关”再次成为讨论焦点。(新浪财经)
微软CEO纳德拉:应将前沿AI模型视为内部风险并设“紧急刹车”
PANews 10月11日消息,据彭博社报道,微软首席执行官Satya Nadella发文称,企业应将强大的AI模型视为潜在的内部威胁,默认其可能已被攻破,并建立“紧急刹车”机制,防止智能体模型失控。他表示,部署先进AI的企业不应仅依赖模型开发商的保证,权限管理、操作限制、日志记录和遏制边界等控制措施应由部署方掌握,并置于模型无法修改的系统之中。