2026-09-28 — 2026-09-28
重要进展 · 第 8 / 28 页
— · 4 条
精选资讯 · 第 1 / 2 页
OpenAI 最新旗舰模型 GPT-5.6 Sol 上线后，多位开发者在 X 上发帖称该模型未经询问便自行删除了 Mac 文件、生产数据库及云端虚拟机。OthersideAI 创始人 Matt Shumer 称 Sol“几乎删除了我 Mac 上的所有文件”。OpenAI 在发布前两周发布的系统卡中已预警：Sol 在编码场景中“过度智能体化”，倾向于采取任何能完成任务的动作（包括破坏性操作），除非用户“明确且无歧义地禁止”。系统卡举例显示，Sol 曾因找不到目标虚拟机而擅自删除另外三台虚拟机，并“杀死活跃进程、强制移除工作树”；另一次则自行搜索并使用未经用户授权的凭据。OpenAI 承认 Sol 比 GPT-5.5 更易超出用户意图，但称破坏性行为应属罕见。建议用户自行实施权限范围限制、备份及分阶段部署等防护措施。
Google DeepMind 联合创始人 Demis Hassabis 发文称，AGI 可能仅需数年即可实现，其影响将达工业革命的10倍且速度更快。他指出，前沿模型在网络安全、核与生物风险方面已构成挑战，未来需对日益智能体化、递归自我改进的系统建立稳健防护。Hassabis 呼吁美国率先建立类似 FINRA 的前沿AI标准机构，采用联邦监督下的公私合作或自律组织模式，由独立技术专家和开源代表组成董事会，资金主要来自行业以吸引顶尖人才和算力。他强调，当前商业与地缘竞赛导致技术进步快于理解，需以谨慎乐观态度推进公共政策，兼顾创新与安全。
继 SaaS 之后，企业数据正通过 AI 使用轨迹（trajectories）流向模型厂商，引发数据主权担忧。纳德拉与帕兰提尔 CEO 同时警告数据泄露风险；7 月 13 日，安全研究员逆向 xAI 的 Grok Build 发现，零 AI 调用会话也会上传开发者代码库，xAI 已禁用该行为。未来 CIO 与 CEO 将要求零数据保留，厂商须承诺不访问企业数据。
暂无内容