AI基础设施与传统云架构存在根本性差异
尽管资本大量涌入,AI基础设施仍处于发展初期,但其成熟后的形态与传统云计算路径已显现分野。核心差异体现在三个方面:首先,工作负载基础不同,传统云为网页应用构建,而AI基础设施围绕机器学习工作负载设计,需要大量算力进行模型训练。其次,供需集中度反转,传统云服务商集中而用户分散,AI领域则相反,算力提供商众多,但下游消费者高度集中于少数头部模型实验室和推理服务商。最后,在企业应用模式上,鉴于多数企业缺乏大规模运营GPU的经验,以API形式消费AI能力的平台即服务(PaaS)模式预计将取代基础设施即服务(IaaS),成为主导,这使得AI服务更接近Twilio等API服务而非传统云计算资源。 #AI基础设施 #云计算 #PaaS #IaaS #机器学习 #GPT #科技趋势 #行业分析
尽管资本大量涌入,AI基础设施仍处于发展初期,但其成熟后的形态与传统云计算路径已显现分野。核心差异体现在三个方面:首先,工作负载基础不同,传统云为网页应用构建,而AI基础设施围绕机器学习工作负载设计,需要大量算力进行模型训练。其次,供需集中度反转,传统云服务商集中而用户分散,AI领域则相反,算力提供商众多,但下游消费者高度集中于少数头部模型实验室和推理服务商。最后,在企业应用模式上,鉴于多数企业缺乏大规模运营GPU的经验,以API形式消费AI能力的平台即服务(PaaS)模式预计将取代基础设施即服务(IaaS),成为主导,这使得AI服务更接近Twilio等API服务而非传统云计算资源。 #AI基础设施 #云计算 #PaaS #IaaS #机器学习 #GPT #科技趋势 #行业分析
阿贡国家实验室利用闲置超算资源构建私有AI推理服务
美国能源部阿贡国家实验室宣布,基于其闲置的超级计算能力建立了一个私有AI推理服务。该服务利用实验室现有的Sophia和Metis等系统,集成了多种大型语言模型(如OpenAI的GPT-OSS、谷歌的Gemma系列、Meta的Llama系列等),通过类似聊天机器人的安全门户供研究人员使用。未来计划扩展到更多系统如Tara和Minerva。研究人员借此能在安全环境中大规模分析数据、进行模拟实验,例如实时预测聚变能源研究中的等离子体扰动,或从粒子加速器数据中筛选目标,提升了超算资源利用效率,并推动了AI在科学发现中的应用。 #阿贡国家实验室 #AI推理服务 #超级计算 #能源部 #科学研究 #大语言模型
美国能源部阿贡国家实验室宣布,基于其闲置的超级计算能力建立了一个私有AI推理服务。该服务利用实验室现有的Sophia和Metis等系统,集成了多种大型语言模型(如OpenAI的GPT-OSS、谷歌的Gemma系列、Meta的Llama系列等),通过类似聊天机器人的安全门户供研究人员使用。未来计划扩展到更多系统如Tara和Minerva。研究人员借此能在安全环境中大规模分析数据、进行模拟实验,例如实时预测聚变能源研究中的等离子体扰动,或从粒子加速器数据中筛选目标,提升了超算资源利用效率,并推动了AI在科学发现中的应用。 #阿贡国家实验室 #AI推理服务 #超级计算 #能源部 #科学研究 #大语言模型
谷歌员工涉嫌利用内部数据在Polymarket投注获利120万美元遭起诉
联邦检察官近日对谷歌员工米歇尔·斯帕尼奥洛提起欺诈指控。据ABC News报道,斯帕尼奥洛涉嫌在预测市场平台Polymarket上,利用谷歌内部的机密商业数据,对2025年搜索趋势相关事件进行投注,非法获利达120万美元。检察官在已公开的起诉书中声称,他提前知晓了投注结果,因为非法访问了谷歌的内部信息。斯帕尼奥洛于周三在纽约被捕,但已以225万美元保释金获释。他面临商品欺诈、电信欺诈和洗钱等多项罪名,此事件引发了对科技公司数据安全及金融交易合规性的关注。 #谷歌 #内幕交易 #欺诈 #Polymarket #法律 #科技新闻 #金融犯罪
联邦检察官近日对谷歌员工米歇尔·斯帕尼奥洛提起欺诈指控。据ABC News报道,斯帕尼奥洛涉嫌在预测市场平台Polymarket上,利用谷歌内部的机密商业数据,对2025年搜索趋势相关事件进行投注,非法获利达120万美元。检察官在已公开的起诉书中声称,他提前知晓了投注结果,因为非法访问了谷歌的内部信息。斯帕尼奥洛于周三在纽约被捕,但已以225万美元保释金获释。他面临商品欺诈、电信欺诈和洗钱等多项罪名,此事件引发了对科技公司数据安全及金融交易合规性的关注。 #谷歌 #内幕交易 #欺诈 #Polymarket #法律 #科技新闻 #金融犯罪
个人开发者批评谷歌AI搜索策略,推出三款维基百科替代工具
一位开发者公开批评谷歌全面转向AI搜索的决定,认为此举不利于出版商,并可能通过减少浏览过程而窄化用户的探索视野。她认为,AI提供的“预嚼信息”无法滋养思维或辅助学习。为此,她开发了三款免费、无广告的基于维基百科的搜索工具作为替代方案。这些工具包括用于快速查询的MiniGladys、能生成维基百科关键词RSS源的工具,以及核心工具“维基百科地震仪”。后者利用维基百科公开的页面浏览量数据,将其视为“化石化的公众注意力”,通过分析热点话题的浏览量激增来生成对应的、带有时间限制的谷歌新闻搜索链接,旨在为用户提供小而精、信息密度高的搜索结果。此举代表了对当前主流搜索范式的一种独立思考与技术回应。 #维基百科 #搜索引擎 #AI伦理 #工具开发 #科技新闻 #信息检索 #开发者
一位开发者公开批评谷歌全面转向AI搜索的决定,认为此举不利于出版商,并可能通过减少浏览过程而窄化用户的探索视野。她认为,AI提供的“预嚼信息”无法滋养思维或辅助学习。为此,她开发了三款免费、无广告的基于维基百科的搜索工具作为替代方案。这些工具包括用于快速查询的MiniGladys、能生成维基百科关键词RSS源的工具,以及核心工具“维基百科地震仪”。后者利用维基百科公开的页面浏览量数据,将其视为“化石化的公众注意力”,通过分析热点话题的浏览量激增来生成对应的、带有时间限制的谷歌新闻搜索链接,旨在为用户提供小而精、信息密度高的搜索结果。此举代表了对当前主流搜索范式的一种独立思考与技术回应。 #维基百科 #搜索引擎 #AI伦理 #工具开发 #科技新闻 #信息检索 #开发者
AgingBench基准测试发布
随着AI智能体被越来越多地部署为持久运行系统,其长期可靠性问题却常被忽视。美国德克萨斯大学奥斯汀分校的研究团队推出了AgingBench,这是一个纵向可靠性基准测试,专门用于测量AI智能体的老化现象。研究发现,即使模型权重保持不变,智能体的有效状态会因记忆压缩、事实修订和维护事件而逐渐退化。例如,在特定测试中,最大召回率下降达85%,半衰期扩展达4.5倍,单次维护事件导致性能骤降67%。AgingBench通过组织老化机制为压缩老化、干扰老化、修订老化和维护老化,并使用时间依赖性图和对数探测进行诊断,覆盖多种场景和模型。这些结果表明,可靠的智能体部署需要寿命评估、机制级诊断和阶段针对性修复,而不仅仅是更强的初始模型。研究团队正寻求合作者以推进更大规模的基准测试。 #AI #智能体 #AgingBench #基准测试 #可靠性 #寿命工程 #机器学习 #部署 #研究 #技术
随着AI智能体被越来越多地部署为持久运行系统,其长期可靠性问题却常被忽视。美国德克萨斯大学奥斯汀分校的研究团队推出了AgingBench,这是一个纵向可靠性基准测试,专门用于测量AI智能体的老化现象。研究发现,即使模型权重保持不变,智能体的有效状态会因记忆压缩、事实修订和维护事件而逐渐退化。例如,在特定测试中,最大召回率下降达85%,半衰期扩展达4.5倍,单次维护事件导致性能骤降67%。AgingBench通过组织老化机制为压缩老化、干扰老化、修订老化和维护老化,并使用时间依赖性图和对数探测进行诊断,覆盖多种场景和模型。这些结果表明,可靠的智能体部署需要寿命评估、机制级诊断和阶段针对性修复,而不仅仅是更强的初始模型。研究团队正寻求合作者以推进更大规模的基准测试。 #AI #智能体 #AgingBench #基准测试 #可靠性 #寿命工程 #机器学习 #部署 #研究 #技术