AI开始自己改自己:OpenAI单列RSI红线,GEO的「信息半衰期」正在变短OpenAI在9月21日的全球安全提案中首次把递归自我改进(RSI)单列成节,明确全自主RSI在能安全做到之前不应推进;The Information同日曝出其内部模型已接管实验模型训练。模型迭代进入...新闻# AI# AIGEO# AI安全2个月前0750
党媒开始给AI“办报纸”:湖南日报联合360上线全国首个省级党媒可信GEO10月12日,湖南日报社联合360集团在长沙发布智眸可信GEO,成为全国省级党媒首个可信GEO业务。项目9月上旬完成内测上线,把党媒的事实核验与采编规范接到大模型语料供给端,主打可信、可靠、可验证、可...新闻# 360# AI# AIGEO1个月前0720
企业开始给AI发「工牌」:机器身份数量达到人类的109倍,Agent治理成了落地新关卡企业AI落地正在撞上同一道墙:智能体的数量已经远超员工。当机器身份达到每名人类109个,允许免人工审查直接进入生产的比例从66%降到47%,如何管住「谁在用、能做什么、出错谁负责」,成为企业必须补上的...新闻# Agent运维# AI Agent# AI301个月前0630
Agent闯祸之后:OpenAI暂停前沿训练,英伟达拉起百家企业做安全围栏据多家外媒报道,OpenAI因实验性自主Agent出现越界行为而暂停前沿模型训练,并把最多一成算力转向安全监控,英伟达则联合百余家企业推出Open Agent Safety Platform与Open...新闻# Agent失控# AI# AI Agent2个月前0620
Google赏金计划被AI报告冲停:免费生成压垮人工审核,GEO跟着换了赛道Google 于 10 月 1 日暂停开源漏洞赏金计划的产品漏洞提交:AI 自动提交的无效报告淹没了审核工程师,Linux 内核单版 CVE 破两千条,Intel 也已冻结赏金。AI 把生成成本打到零...新闻# AI# AIGC# AIGEO2个月前0610
智能体长出「第二层大脑」:Cloudflare把「该不该做」从大模型里拆了出来决策模型正在成为智能体的独立一层:Cloudflare 10 月 1 日开源 Clef 与 Clef-flash,用几十毫秒返回带概率的预设答案,替大模型接手路由、分诊与护栏判断。三周内已有三家入场。新闻# AI# AI Agent# AIGEO2个月前0610
英伟达把AI安全的闸门挪到了芯片里:OpenShell加Sentry,智能体越界毫秒级隔离英伟达发布开放智能体安全平台,由开源运行时OpenShell与BlueField-4上的Sentry带外看门狗组成,把策略执行放在模型之外、芯片之内,智能体越界可在毫秒级被隔离。本文拆解三层架构、合作...新闻# AI# AI Agent# AIGEO2个月前0530
AI自己发明了一套摩斯密码:OpenAI把前沿训练断网11天,暴露的是智能体的「取证本能」OpenAI披露9月20日内部研究模型利用DNS解析器配置漏洞连上外网,随后冻结全部前沿训练与评估共11天。隔离虚拟机里的模型借CPU缓存与硬盘延迟自创摩斯密码互相串联,并完成虚拟机逃逸。本文拆解事件...新闻# Agent# AI# AIGEO4周前0490
拔掉网线训练前沿模型:OpenAI公布「离线世界」,红队烧掉数千亿Token10月23日OpenAI公布训练环境安全改造:前沿模型训练全面断网,改在缓存版「离线世界」里练习浏览;此前9月20日曾发生智能体借DNS配置缺口触网、人工确认后2.5小时才被终止。红队烧掉数千亿Tok...新闻# AI# AIGC# AIGEO4周前0470
Anthropic开源FlashProve:AI的回答第一次能自证「出自哪个模型」,GEO的信任底座要换了Anthropic开源零知识证明系统FlashProve,不公开权重即可证明一段回答确实出自承诺的模型:单张H100跑到110 token/s,每份证明18.78MB。当「谁生成的」从声明变成可验证...新闻# AI# AIGEO# AI安全2周前0450