Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

五角大楼拟扩大AI在军事目标设定中的角色

美国五角大楼今年4月秘密批准了修订后的目标设定原则，计划将AI的参与从当前“人控回路”升级为“AI启动、人类监控”的系统。这意味着未来在军事打击目标的选定和行动发起上，AI将拥有更大自主权，而人类仅承担监控角色。该原则尚未公开披露，但已反映美军方对AI作战应用的战略性调整，旨在提升决策速度和战场效率，同时引发对伦理和安全风险的担忧。 #五角大楼 #AI #军事目标 #自主武器 #人机协作 #国防科技 #军事战略

AI 是安全领域最好的事情

大语言模型（LLM）已存在一段时间。当 Anthropic 报告称国家级攻击者正使用 Claude 进行攻击时，我最初持怀疑态度——过去模型调用工具困难，难以想象攻击者能获得实际价值。但过去六个月，工具调用问题被解决，模型能可靠输出结构化数据，AI 实验室还将推理能力下放至可本地运行的小模型。这一转变对自动化攻击代理意义重大：代理能可靠使用工具、编辑 HTTP 请求、追踪数据流、读取输出、存储记忆并自主决策。做个思想实验：让猴子按按钮运行 SQLmap 可以攻破很多漏洞；现在将 SQLmap 替换为 AI 框架（如 OpenCode、Codex），代理会根据目标响应实时切换工具，组合多种操作，不再依赖单一工具。虽然 AI 代理是非确定性的，但“偶然成功”远好于“全部失败”。另一方面，开源模型（如 DeepSeek、GLM）可脱敏部署，且存在工具永久移除安全限制。这些无审查模型可被直接用于攻击，无需伪装授权。同时，AI 辅助编程加速了代码生成，导致更多 API、基础设施和攻击面出现。因此，AI 既是威胁也是机遇——它提升了攻击上限，也放大了风险敞口。 #AI安全 #大模型 #自动化攻击 #网络安全 #开源模型 #LLM #渗透测试 #风险敞口

Transformer如何成长为真正的LLM

上一篇文章讲解了单层Transformer的运作机制。但仅有堆叠的多层架构并不等于产品——未经训练的模型只是一堆随机数字。本文继续追踪从架构到可对话模型的完整路径。残差连接解决了深层网络训练中的梯度消失问题：让原始信号绕过每个子层，将输入与子层输出相加再传递，确保早期层能稳定学习微小调整。此外，大模型处理的并非单词，而是通过分词器将常见字符组分割成“令牌”（token）。普通英文平均每个单词对应1.5-2个令牌，代码或非英语文本则更高。分词器缩小了词汇表规模，使模型能高效处理数百万种组合。 #Transformer #残差连接 #分词器 #大模型 #LLM #深度学习 #AI

政策制定者应为潜在AI就业灾难做好准备

目前人工智能对劳动力市场影响有限，虽有个别AI导致裁员新闻，但失业率并未显著上升。然而，未来几年可能出现剧烈冲击，政策制定者应提前准备。一种流行方案是“就业保障”，即政府直接创造就业岗位。调查显示54%美国人支持此举，仅17%支持无条件收入补助。美国在大萧条时期曾通过公共就业计划解决大规模失业。但现有文献表明，大规模就业保障计划需谨慎看待：为就业而创造的工作未必提供有价值技能，也无法带来真正意义。政策制定者应借鉴1976年CBO的劳动市场干预分类，包括技能发展、工作经验、就业能力培养等项目，以更有效应对AI可能引发的失业问题。 #AI #就业 #劳动力市场 #政策 #人工智能 #失业 #就业保障