AI知识库 @ai521
341 subscribers
23.3K photos
42 videos
20 files
892 links
@ai521 专注分享最实用的AI内容

🤖 AI教程(新手到进阶)
🧠 AI知识科普(大模型 / 提示词 / 自动化)
📰 AI资讯更新(每日最新AI动态)
📚 AI实战技巧(写作 / 绘画 / 编程 / 赚钱)
🔧 最新AI工具推荐

每天更新AI干货
长期做一个真正有价值的AI频道
Download Telegram
Agentjacking攻击

Tenet安全实验室披露一种名为“Agentjacking”的新型攻击方法,攻击者只需注入一个伪造的错误报告,即可劫持AI编码代理在开发者机器上执行任意代码。该攻击利用了Sentry错误监控平台事件接收机制与MCP服务器之间的架构缺陷:任何人都可通过公开的DSN向Sentry注入任意数据,而AI编码代理(如Claude Code和Cursor)将这些数据视为权威的系统输出并执行其中的“诊断修复步骤”。研究团队仅通过Sentry公开API即发现2388家暴露组织,在受控测试中超过100个代理对注入错误做出响应,波及从财富500强企业到独立开发者。攻击无需窃取凭证或入侵服务器,即可无声窃取环境变量(AWS密钥、GitHub令牌)、Git凭据、私有仓库URL等敏感信息。随着企业争相部署AI编码代理,该研究证明代理本身已成为攻击面,而唯一能检测该攻击的地方在代理运行时的行为监控层面。 #Agentjacking #AI安全 #编码代理 #Sentry #MCP #漏洞 #劫持 #网络安全 #攻击 #开发安全
马斯克或成世界首位万亿富翁,但被指控行为致数十万人死亡

埃隆·马斯克的SpaceX即将上市,预计将使他成为地球上最富有的人,个人财富有望突破万亿美元。然而,一篇报道指出,马斯克一系列恶劣的个人行为背后,有一个令人震惊的事实:一年前,他的行为直接导致了数十万人的死亡,且他是明知故犯,甚至表现出幸灾乐祸的态度。报道未具体说明事件细节,但暗示这与马斯克在公共卫生危机中的不当决策有关。尽管马斯克在科技和商业领域成就斐然,但其道德责任正面临严厉拷问。 #马斯克 #万亿富翁 #SpaceX #IPO #道德争议 #科技新闻 #公共卫生
我们能和AI共存,但不是以这种方式

没有人征求过我们的意见。这是关于人工智能及其对工作、水资源、电费和社区影响的讨论中,始终被忽略的一点。没有举行过市政会议,没有进行过投票,也没有人坐下来对那些即将被颠覆生活的人说:未来会发生什么,我们将如何应对,以及如何确保你们不被落下。技术就这样来了,数据中心就这样建成了,工作就这样开始消失,而掌权者一直在说“相信我们,好处会来的”。我们仍在等待好处,而代价却准时到来了。我整个星期都在写这个话题,每篇文章都回到同一个问题:人类和人工智能能否以对所有人——而不仅仅是那些已经拥有一切的人——有利的方式共存?答案是肯定的,但不是我们现在这种方式。现在我们正以最糟糕的方式行事——全速前进,没有护栏,没有针对被取代者的计划,没有对社区(后院被塞进数据中心)的透明度,也没有掌权者诚实地谈论终点线究竟是什么。这必须停止,必须用以下内容取而代之。 首先,为什么数据中心会分散在各处?很多人都在问和我一样的问题:为什么这些东西不建在一个远离所有人的地方?这是个聪明的问题,答案会让你愤怒,因为没有一个原因与社区的最佳利益有关。有四个原因,每一个都关乎金钱和速度。第一是电力。每个数据中心都需要立即接入大量电力,而美国没有一个地方有足够的电网容量同时处理数千个。因此,公司四处寻找有电且地方政府容易合作的地方。第二是速度——微软、谷歌、亚马逊、Meta等公司之间的AI竞赛如此之快,以至于没人停下来问这个地方是否适合居民。他们找到可用的土地、电力,以及能悄悄合作的地方政府,在人们反应过来之前就破土动工。第三是税收优惠——各州和县正在竞相提供数十亿美元的激励措施来吸引这些设施,公司会挑选条件最优厚、行动最快的地方。弗吉尼亚州已被淹没,成为全美数据中心最集中的地区,当地居民正在激烈反抗。第四,也是最重要的一点——没有人负责。没有联邦机构协调选址,没有国家计划,没有联邦层面的分区权力告诉公司不能在学校附近或干旱县建造。每家公司都只选对自己有利的地方,在别人阻止之前就行动。67%的新规划数据中心将建在农村地区,39%将建在目前零数据中心的县。 #AI #
通用大模型在医学基准测试中超越专业临床AI

一项最新研究对专业临床AI工具与通用大语言模型在医学任务上的表现进行了系统评估。研究选取了OpenEvidence和UpToDate Expert AI两款临床AI工具,与GPT-5.2、Gemini 3.1 Pro和Claude Opus 4.6三个前沿通用大模型进行对比。评估分为三个阶段:500道医学知识测试题、500项临床一致性评估,以及基于100个真实临床查询的基准测试。在真实临床查询测试中,12名美国医生对模型输出进行了随机盲审,共产生1800条模型-问题标注。结果显示,通用大模型在所有三项评估中均优于专业临床AI工具,后者在真实临床查询上的表现与自动启用的谷歌搜索AI概览相当。研究强调,在AI工具进入临床实践前,需要进行独立、真实环境的评估。 #AI #医疗AI #大模型 #临床评估 #医学研究
AI 代理的“98% 问题”

一项针对AI代理工程的最新调查指出,在2023至2026年间,前沿模型性能趋于收敛,模型本身不再是决定生产任务成败的关键。真正拉开差距的是位于模型之下的“工程框架”(harness),它负责控制模型调用、上下文构建、工具暴露、执行环境及结果评估。调查以Claude Code为例,发现仅约1.6%的代码决定了模型的行为,其余98%以上的代码用于组装上下文、调度工具、检查权限、沙箱执行、状态持久化和故障恢复,这一现象被称为“98%问题”。该调查将“工程框架”定义为将模型转化为可靠代理系统的控制、执行、安全、评估和训练基础设施,并类比为操作系统,模型则是其内部的一个进程。报告还梳理了Anthropic、OpenAI等机构的相关工程指南,并提出了一个包含八个子系统的代理架构,强调模型提出方案,框架决定执行。 #AI代理 #工程框架 #98%问题 #大模型 #ClaudeCode #Anthropic #OpenAI
AI 复兴迟迟未至

人工智能技术短期内的惊艳表现曾让人以为一场文艺复兴即将到来,但长期使用后却发现,模型输出的内容虽局部优秀,却呈现出高度的全球同一性。这种现象被称为“流形崩塌”:AI 只会在少数几种固定的思考路径中循环,无论用户如何提问,结果都落入相同模式。当各行各业——从咨询、法律到营销、科研——都依赖同一套模型时,个体的工作质量确实提高了,但整体的思想多样性却急剧萎缩。最需要创新的边缘地带消失,社会产出的是“史上最佳平均水平”,而前沿突破停滞不前。更严重的是,错误会同步放大:当所有人使用相同的推理系统,就会同时忽视相同的论据、追逐相同的方向,如同单一作物农田面临一场病虫害即可毁灭。诉讼中,双方律师基于同一模型得到的论点相互可预测;文化与模型之间形成闭环,每一轮迭代都在压缩文化多样性。真正的文艺复兴从未是关于生产更多高质量产品,而是拓展边界、挑战共识。当系统仅输出人类已有尝试的中位数,且更智能的模型只会加剧这一趋势,全球将陷入怪异的文化单一化。一项涵盖28项研究、8214名参与者的元分析证实了这一权衡:与AI合作提升个体创造力,却牺牲了集体创新的多样性。 #AI #人工智能 #创新 #文化同质化 #技术社会影响 #创造力 #思维多样性
Nothing CEO 警告手机价格将持续上涨

Nothing 公司 CEO 兼联合创始人裴宇近日在社交媒体上表示,手机价格将持续上涨,他建议消费者“昨天”就是升级手机的最佳时机。据 Android Authority 报道,裴宇指出,内存短缺已影响 Nothing 的中端机型 Phone 4A:“从我们决定制造该设备到发布期间,内存成本翻了一倍;而自发布以来,又翻了一倍。”他警告称,手机价格正在上涨,并且这一趋势将持续到明年。这一表态呼应了 MWC(世界移动通信大会)上的行业共识,即零部件成本上升正全面推高终端售价。 #Nothing #手机涨价 #内存短缺 #裴宇 #行业趋势 #科技新闻
Before You Think: 论文提出“系统0”概念,警示AI中介认知与认知殖民化

据arXiv预印本平台信息,一篇题为《Before You Think: System 0, AI-Mediated Cognition and Cognitive Colonization》的学术论文于2026年6月上线。该论文由Marianna Bergamaschi Ganapini等三位学者共同撰写,提出“系统0”这一全新认知框架,探讨人工智能如何作为中介介入人类思维过程。作者认为,AI系统正从工具演变为认知的“前决策层”,在人类思考之前就已筛选、重构信息,可能导致“认知殖民化”——即外部算法潜移默化地塑造人类的认知边界和偏好。该研究引发对自主性、认知主权和技术伦理的深层反思,对AI治理、教育及人机协作领域具有重要警示意义。 #AI #认知科学 #论文 #人工智能 #认知殖民化 #系统0 #学术研究
人类与大型语言模型推理共享模式匹配机制

一项来自arXiv的预印本研究提出,人类与大型语言模型在“日常推理”中可能共享相似的机制——基于模式匹配,而非形式逻辑。研究者Zach Studdiford和Gary Lupyan认为,无论是人脑还是LLM,在面对日常问题时,往往会依赖从先前经验或训练数据中学习到的模式进行快速推断,而非严格遵循演绎推理规则。该研究通过实验对比了人类被试与GPT系列模型在类比推理、归纳推理等任务上的表现,发现两者在错误类型、反应模式上存在高度相似性。这一发现挑战了传统认知科学中将人类推理视为逻辑计算的观念,并暗示LLM的“推理”能力可能源于其对海量数据中隐含模式的统计学习。论文目前以PDF格式在arXiv上开放获取,供学界进一步讨论。 #AI #大模型 #推理 #人类认知 #模式匹配 #arXiv #认知科学
微软 Project Ire 自主识别 LOTUSLITE 恶意软件变种

微软自主研发的恶意软件自主分类代理 Project Ire 成功识别出一个 LOTUSLITE 变种。该样本是一个 Windows DLL 后门,此前由 Acronis 威胁研究团队记录。测试样本的哈希值未出现在 Acronis 的入侵指标列表中,且截至6月4日,主流终端检测与响应系统(如 CrowdStrike Falcon、SentinelOne、Sophos 等)均未将其标记。Ire 通过基于反编译器的单次运行,生成了详尽的行为分析报告,涵盖安装流程、C2结构、命令ID、持久化机制及混淆手段,与 Acronis 公开分析高度吻合。该样本在 VirusTotal 上最初只有1/72的厂商检出,一周后升至7/70。Ire 最终判定其为恶意,并特别指出其对可疑函数名(如 nf_unRegisterDriver)进行了审慎评估,未误判为内核级活动,避免了误报。这一案例展示了行为分析在签名匹配失效时的关键作用,能够捕获共享战术技术程序但缺乏入侵指标的变种。 #微软 #ProjectIre #LOTUSLITE #恶意软件 #行为分析 #自主分类 #网络安全 #EDR #变种检测
AI 时代的“帐篷经济”

在工业时代,基础设施往往比建造者更长寿,但 AI 的爆发彻底颠覆了这一逻辑。由于芯片的迭代速度远超混凝土的凝固时间,Meta 等公司开始采用类似罗马军团营地的临时建筑来部署最先进的 AI 算力。这些结构可快速搭建,但设计寿命极短,其核心优势在于“时机”而非“永久”。传统数据中心需要一年以上审批建设,而 AI 公司等不起——今天安装的 GPU 集群可能在三年内就失去竞争力。因此,Meta 并非在资源不足时选择临时建筑,而是主动拥抱这种“帐篷经济”:让投资锚定基础设施,而非相反。这导致人类历史上最先进的计算机系统,正被安置在组装速度最快的临时建筑中。大教堂时代正在让位于帐篷时代,因为算力的折旧速度已远超物理建筑的折旧速度。 #AI #算力 #Meta #数据中心 #基础设施 #科技趋势 #芯片迭代
前DOGE员工筹集1.3亿美元创办AI国家安全初创公司

前政府效率部(DOGE)的三名年轻工程师——加文·克里格、卢克·法里托和杰克·斯坦,正在为一家新的人工智能初创公司筹集1.3亿美元,投资方包括安德森·霍洛维茨和红杉资本。该公司将专注于利用AI保护政府系统免受国家安全威胁,计划使用其他公司的AI模型而非自研。克里格此前担任五角大楼首席数据官,在目睹Anthropic模型可能被用于黑客攻击后感到紧迫。其他前DOGE员工也纷纷涉足国防领域,如伊桑·肖特朗创立了Blitz Industries。投资者对DOGE背景的创始人趋之若鹜,去年国防科技投资创纪录达491亿美元。但伦理专家指出,这些人员几乎不受道德限制,存在“旋转门”隐患。 #前DOGE员工 #AI #国家安全 #初创公司 #风投 #AndreessenHorowitz #SequoiaCapital #国防科技 #伦理担忧