“AI教父”Hinton认同马斯克:AI或导致大规模失业,未来10年就业格局难预测
相关推荐
Hinton 等 400 余名科学家呼吁,将高危 AI 模型默认断网隔离
ChainCatcher 消息,据 Decrypt 报道,包括“AI 教父”Geoffrey Hinton 与 2018 年图灵奖得主 Yoshua Bengio 在内的 400 余名科学家于周二发表联名公开信,呼吁 AI 实验室默认将具备网络攻击能力的模型“物理隔离”,即切断其与外部网络的连接。公开信写道,短期内应采用包括断网在内的强沙箱机制,对具备网络攻击能力的 AI 模型实施高保障级别的封控。截至周三,签名者已增至 450 人,包括加州大学伯克利分校的 Stuart Russell 与 RSA 加密体系共同发明人、麻省理工学院的 Ron Rivest。公开信发布前,AI 模型经历了一个频繁“越狱”的夏天。7 月,OpenAI 承认 GPT-5.6 Sol 及一个未发布的更强模型突破封闭测试环境,入侵托管逾百万个公开 AI 模型的平台 Hugging Face;这些模型当时正在 ExploitGym 基准上测试,该基准提供 898 个真实软件漏洞,要求 AI 代理将每个漏洞转化为可用攻击。此后有报道称 OpenAI 模型未经授权入侵澳大利亚政府系统并获取美国联邦机构信息。
Gate Europe CEO Dr. Giovanni Cunti:数字资产正从价值转移工具走向更广泛的经济应用
Odaily星球日报讯 据 Gate Europe CEO Dr. Giovanni Cunti 最新 LinkedIn 发文,数字资产正从价值存储与转移工具,逐步拓展至更广泛的经济活动。随着区块链基础设施及金融服务不断发展,数字资产正在为企业、平台及市场参与者之间的连接创造新的方式,其作用也逐渐延伸至更广泛的金融与商业场景。 Dr. Giovanni Cunti 强调,数字经济的发展需要可靠的基础设施与健全的监管框架。随着数字资产与更广泛的经济活动进一步连接,其长期发展还将取决于不同金融与技术系统之间更高水平的互操作性,以及能否满足个人与企业的实际需求。 目前,Gate Europe 已获得 MiCA 加密资产服务提供商(CASP)授权及支付机构(PI)牌照,为其在欧洲开展加密资产服务与支付业务提供监管基础。未来,Gate Europe 将持续关注市场需求变化,并随着数字资产融入更广泛的经济活动,探索更多应用场景。
Strategy CEO Phong Le投票支持旗下美国优先股每日分红提案
Odaily星球日报讯 Strategy CEO Phong Le 刚刚宣布,他已投票支持为旗下全部美国优先股提供每日分红的提案。(Bitcoin Treasuries)
Kamino新任CEO:将加强与KMNO持有者沟通,推动Kamino接入更多平台
Odaily星球日报讯 Kamino 新任 CEO Michael Weisz 近日做客 Blockworks 联创 Jason Yanowitz 的 Empire 播客,分享了 Kamino 的下一步方向。他希望 Kamino 成为链上资产最主要的借贷与流动性基础设施,通过 API 连接资产管理方和券商、交易所等分发平台,让用户在熟悉的平台上就能直接用上 Kamino。 谈到代币,Michael 表示会以接近上市公司的方式与 KMNO 持有者沟通。他说: "既然有投资者愿意押注这个愿景、买入代币,我们就应该尊重这一点,并持续向他们同步我们的进展。 "他提到,持有者会定期收到团队招聘、商业合作、产品升级、新资产上链和合作伙伴等方面的进展,其中也包括遇到的挑战。他本人几乎全部的长期收益也都来自 KMNO。
微软CEO:企业应将AI视为内部安全风险,确保AI Agent可随时暂停或关闭
Odaily星球日报讯 微软 CEO 萨蒂亚·纳德拉发文表示,企业应将 AI 模型纳入内部安全风险管理体系,即使模型本身没有恶意,也可能因错误或遭攻击者利用而造成安全风险,尤其是在涉及敏感数据访问及关键操作时,不能仅依赖模型供应商的安全承诺。 纳德拉强调,应将 AI 模型与 Agent 执行框架分离,通过外部系统控制数据访问和工具调用权限,并为关键操作保留防篡改、可供人工审查的记录。同时,企业应在部署阶段就考虑模型遭入侵的可能性,确保授权人员能够随时暂停或关闭 Agent,并持续开展安全测试及事故披露。 此外,微软本月已宣布 Windows 平台正式支持 MXC 隔离工具,可通过外部策略限制 Agent 对文件及网络的访问。
微软CEO:超级智能时代需建立“可控”架构,不能将责任外包给AI
Odaily星球日报讯 微软 CEO Satya Nadella 发布长文表示,随着超级智能(Super Intelligence)系统的发展,行业需要重新审视 AI 信任架构,不能简单依赖模型提供方的承诺,也不能将 AI 行为带来的责任外包。 纳德拉称,过去几十年传统软件系统被部署到各行业时,开发者通常能够追踪行为对应的具体代码路径。但如今的前沿 AI 模型能力已超过传统软件系统,却无法明确将模型输出归因于具体训练数据或模型权重配置。企业正在将具有自主行动能力的 AI 系统接入敏感数据,并赋予其执行关键任务的权限,因此需要构建具备可观察性、可测试性和可控性的系统,将“智能供给”与“权限控制”分离。 纳德拉提出,应采用工程化方式治理超级智能,通过确定性的系统设计、人工控制和操作流程约束非确定性模型,并将 AI 系统视为潜在“内部风险”进行管理,包括限制权限、记录行为、建立隔离边界等。他还提出超级智能系统应遵循多模型协作、全程可观察、持续验证、独立控制、独立审计、风险隔离和事件披露等原则。其中,他强调模型思维链(CoT)透明度是基础要求,但仅依靠 CoT 透明并不足够,因为模型输出本身仍可能缺乏可靠的可解释性。 纳德拉最后表示,未来最值得信任的超级智能系统,并不是“最值得信任的模型”,而是“即使不完全信任模型,也仍能安全运行的系统”。