新型AI安全威胁
研究人员在arXiv上发表论文,正式定义了一种名为“自状态攻击”的新型AI安全威胁。该攻击针对自托管AI代理,通过污染代理自身的记忆、指令或配置文件实现入侵,且所有操作均通过合法的操作系统系统调用完成。论文将攻击空间按目标、机制、粒度和时间四个维度分类,形成23个攻击单元的矩阵,并针对真实代理活动轨迹进行了测试。实验显示,分层防御(指令与配置层的访问控制、记忆层的工作负载检测、定期备份)能应对大部分攻击,但仍有4个攻击单元在操作系统层面结构上无法区分,主要集中在高运算负载场景下的记忆行写入。研究人员坦诚,实验基于自建轻量级框架,且未评估从提示注入到漏洞利用的端到端可行性与误报率。该研究揭示了操作系统级防御对代理状态保护存在结构性天花板,未来可能需要应用层完整性检查、蜜罐条目或状态签名等更上层的方案。 #AI安全 #自状态攻击 #人工智能 #网络安全 #论文 #大模型 #威胁建模
研究人员在arXiv上发表论文,正式定义了一种名为“自状态攻击”的新型AI安全威胁。该攻击针对自托管AI代理,通过污染代理自身的记忆、指令或配置文件实现入侵,且所有操作均通过合法的操作系统系统调用完成。论文将攻击空间按目标、机制、粒度和时间四个维度分类,形成23个攻击单元的矩阵,并针对真实代理活动轨迹进行了测试。实验显示,分层防御(指令与配置层的访问控制、记忆层的工作负载检测、定期备份)能应对大部分攻击,但仍有4个攻击单元在操作系统层面结构上无法区分,主要集中在高运算负载场景下的记忆行写入。研究人员坦诚,实验基于自建轻量级框架,且未评估从提示注入到漏洞利用的端到端可行性与误报率。该研究揭示了操作系统级防御对代理状态保护存在结构性天花板,未来可能需要应用层完整性检查、蜜罐条目或状态签名等更上层的方案。 #AI安全 #自状态攻击 #人工智能 #网络安全 #论文 #大模型 #威胁建模
AI应用可观测平台Observe发布,专为编码智能体与LLM应用设计
Observe是一个基于OpenTelemetry的可观测性平台,专为AI和LLM应用打造。它能追踪每一次模型调用、工具步骤和检索操作,并附带令牌数、成本、延迟和错误信息。支持任何框架和任何语言,无供应商锁定,5分钟内即可完成首次追踪设置。平台提供TypeScript和Python原生SDK,也可通过OpenTelemetry标准协议接入。成本计算基于服务器端实时定价,覆盖4700多个模型。免费计划提供每月1万span,无需信用卡。功能包括按环境开关输入输出捕获、敏感信息自动脱敏、按模型/提供者/环境拆分成本与延迟等,帮助开发者快速调试失败和追踪开销。 #AI #可观测性 #LLM #OpenTelemetry #开发者工具 #人工智能 #监控 #成本优化
Observe是一个基于OpenTelemetry的可观测性平台,专为AI和LLM应用打造。它能追踪每一次模型调用、工具步骤和检索操作,并附带令牌数、成本、延迟和错误信息。支持任何框架和任何语言,无供应商锁定,5分钟内即可完成首次追踪设置。平台提供TypeScript和Python原生SDK,也可通过OpenTelemetry标准协议接入。成本计算基于服务器端实时定价,覆盖4700多个模型。免费计划提供每月1万span,无需信用卡。功能包括按环境开关输入输出捕获、敏感信息自动脱敏、按模型/提供者/环境拆分成本与延迟等,帮助开发者快速调试失败和追踪开销。 #AI #可观测性 #LLM #OpenTelemetry #开发者工具 #人工智能 #监控 #成本优化
Gritt:用AI和机器人打造基础设施,破解劳动力短缺难题
Gritt是一家融合人工智能与机器人的智能系统公司,专注于在最具挑战的环境中建设关键基础设施。目前全球基建投资规模达数万亿美元,但美国41%的建筑劳动力将在2031年前退休,人力缺口巨大。Gritt通过智能系统覆盖拾取、运输、组装等环节,已在太阳能、混凝土和钢筋领域部署,效率提升30%以上,且无需增加人力。公司数据来自全球最大的空间与运营数据库之一。Gritt正从太阳能扩展至数据中心和大型基础设施项目,并已获得Obvious Ventures、Union Square Ventures等多家知名风投支持。 #AI #机器人 #基础设施 #建筑 #自动化 #太阳能 #创业公司
Gritt是一家融合人工智能与机器人的智能系统公司,专注于在最具挑战的环境中建设关键基础设施。目前全球基建投资规模达数万亿美元,但美国41%的建筑劳动力将在2031年前退休,人力缺口巨大。Gritt通过智能系统覆盖拾取、运输、组装等环节,已在太阳能、混凝土和钢筋领域部署,效率提升30%以上,且无需增加人力。公司数据来自全球最大的空间与运营数据库之一。Gritt正从太阳能扩展至数据中心和大型基础设施项目,并已获得Obvious Ventures、Union Square Ventures等多家知名风投支持。 #AI #机器人 #基础设施 #建筑 #自动化 #太阳能 #创业公司
自然密度Collatz轨道对数时间下界定理获形式化证明
数学界在科拉兹猜想(Collatz猜想)研究上取得重大突破。数学家Lech Mazur利用Lean定理证明器,正式验证了一组关于自然密度Collatz轨道在对数时间内下降的新定理。该定理指出:当阈值趋于无穷时,在奇数输入中,密度为1的奇数起始数可在至多145·log N步(Syracuse变换)内下降;在所有正整数中,密度为1的正整数起始数可在至多436·log N步(原始Collatz变换)内下降。证明依赖全局幂律相位间隙和固定定量速率架构,并通过二进提升将Syracuse结论转化为原始Collatz结论。研究还推出一个推论:对自然密度为1的起始数,能在对数时间窗口内达到小于√N的平方根阈值。相关论文已公开,形式化验证确保定理的严格性。 #Collatz猜想 #数论 #动力系统 #形式化验证 #Lean #数学定理 #对数时间
数学界在科拉兹猜想(Collatz猜想)研究上取得重大突破。数学家Lech Mazur利用Lean定理证明器,正式验证了一组关于自然密度Collatz轨道在对数时间内下降的新定理。该定理指出:当阈值趋于无穷时,在奇数输入中,密度为1的奇数起始数可在至多145·log N步(Syracuse变换)内下降;在所有正整数中,密度为1的正整数起始数可在至多436·log N步(原始Collatz变换)内下降。证明依赖全局幂律相位间隙和固定定量速率架构,并通过二进提升将Syracuse结论转化为原始Collatz结论。研究还推出一个推论:对自然密度为1的起始数,能在对数时间窗口内达到小于√N的平方根阈值。相关论文已公开,形式化验证确保定理的严格性。 #Collatz猜想 #数论 #动力系统 #形式化验证 #Lean #数学定理 #对数时间
五大科技巨头隐藏1.6万亿美元AI债务,手法类似安然事件
据《日经新闻》研究,Alphabet、微软、亚马逊、Meta和甲骨文通过表外实体隐藏了约1.65万亿美元的AI相关债务,远超其公开报告的1.35万亿美元,四年间增长约八倍。这些债务主要来自建设AI数据中心的芯片、服务器和电力成本,通过设立合资公司等特殊目的载体转移至表外,使其不直接计入公司负债。例如,Meta与蓝鸦资本合资的Hyperion数据中心承担270亿美元债务,但Meta以非需寻找替代租户为由拒绝入账;甲骨文拥有2600亿美元未来租赁承诺,英伟达承担1190亿美元采购义务。尽管当前做法合法,但分析师警告:一旦AI需求不及预期,资产减值将冲击出资方。惠誉已下调甲骨文信用评级,摩根士丹利和穆迪亦对此表示担忧。投资者当前看到的负债率不到实际的一半。 #科技巨头 #AI债务 #表外融资 #安然事件 #数据中心 #金融风险 #科技新闻
据《日经新闻》研究,Alphabet、微软、亚马逊、Meta和甲骨文通过表外实体隐藏了约1.65万亿美元的AI相关债务,远超其公开报告的1.35万亿美元,四年间增长约八倍。这些债务主要来自建设AI数据中心的芯片、服务器和电力成本,通过设立合资公司等特殊目的载体转移至表外,使其不直接计入公司负债。例如,Meta与蓝鸦资本合资的Hyperion数据中心承担270亿美元债务,但Meta以非需寻找替代租户为由拒绝入账;甲骨文拥有2600亿美元未来租赁承诺,英伟达承担1190亿美元采购义务。尽管当前做法合法,但分析师警告:一旦AI需求不及预期,资产减值将冲击出资方。惠誉已下调甲骨文信用评级,摩根士丹利和穆迪亦对此表示担忧。投资者当前看到的负债率不到实际的一半。 #科技巨头 #AI债务 #表外融资 #安然事件 #数据中心 #金融风险 #科技新闻
国际前沿AI限制协议论文
一篇题为《International Agreements to Limit Frontier AI: Objectives and Exit》的学术论文于2026年6月由研究者Lennart Finke提交至arXiv预印本平台。该论文系统探讨了针对前沿人工智能(Frontier AI)的国际协议设计,重点分析了此类协议应达成的具体目标,以及如何建立有效的退出机制。研究指出,随着AI能力持续提升,各国需共同制定约束性框架以管理潜在风险,同时确保协议具备灵活性,允许参与方在特定条件下有序退出。该工作为全球AI治理提供了理论参考,引发学界对国际协作与主权平衡的进一步讨论。 #前沿AI #国际协议 #AI治理 #学术论文 #退出机制 #arXiv
一篇题为《International Agreements to Limit Frontier AI: Objectives and Exit》的学术论文于2026年6月由研究者Lennart Finke提交至arXiv预印本平台。该论文系统探讨了针对前沿人工智能(Frontier AI)的国际协议设计,重点分析了此类协议应达成的具体目标,以及如何建立有效的退出机制。研究指出,随着AI能力持续提升,各国需共同制定约束性框架以管理潜在风险,同时确保协议具备灵活性,允许参与方在特定条件下有序退出。该工作为全球AI治理提供了理论参考,引发学界对国际协作与主权平衡的进一步讨论。 #前沿AI #国际协议 #AI治理 #学术论文 #退出机制 #arXiv