Telegram必备的搜索引擎，极搜JISOU帮你精准找到，想要的群组、频道、视频、音乐

👉 t.me/jisou2?start=a_8247614025

Anthropic 新模型 Claude Fable 5 发布后迅速被越狱

据外媒报道，Anthropic 最新发布的大语言模型 Claude Fable 5 在推出后不久，即被安全研究人员成功“越狱”。研究人员通过特定提示词组合，绕过了模型的安全护栏，使其生成原本被禁止的内容。这一事件引发了对大模型安全性的广泛讨论，Anthropic 表示已注意到相关报告，并将持续改进模型的安全防护机制。 #Anthropic #Claude #大模型 #AI安全 #越狱 #科技新闻

开源版权

开源软件的法律基础主要建立在版权法之上，尽管开源社区制定了诸多行为准则，但最终决定使用方式和用户义务的，仍是附在代码上的许可证。然而，人工智能正在对版权法的适用性提出深刻挑战——从训练数据的摄入、处理到输出生成，每个环节都引发法律争议。近期，围绕AI训练阶段的输入材料使用权限，以及创作者是否有权反对其作品被用于训练，已产生大量辩论和诉讼。同时，AI输出内容能否获得版权或专利保护，在不同司法管辖区也出现了截然不同的裁决结果。输入与输出之间的“黑箱”过程，目前仍缺乏像开源软件那样通过版权许可来规范的法律机制。本次由开源促进会主办的研讨会深入探讨了这些问题，审视版权或其他知识产权制度是否真能有效维持AI的“开放性”。主讲人McCoy Smith回顾了开源许可历史，分析AI系统与版权之间的复杂关系，特别是训练数据、权重和向量等要素的法律地位，并展望了立法、合同及公开承诺等可能的解决方案。 #开源 #AI #版权法 #知识产权 #人工智能 #开源促进会 #法律挑战

AI Agent 技能工程化：写 Skill 还是懂 SOP？方法论深度解析

本文探讨了 AI Agent 开发中 Skill 与 SOP（标准操作流程）的关系。作者指出，许多开发者纠结于直接编写 Skill 还是遵循 SOP，但真正高效的 Skill 必须深刻理解底层 SOP。文章从工程化角度出发，分析了 Skill 的模块化设计原则，强调好的 Skill 应具备可复用性、可组合性，并能与 SOP 中的步骤逻辑无缝对接。通过对比两种路径的优劣，作者提出“懂 SOP 才能写好 Skill”的核心观点，建议开发者先梳理业务流程中的标准化步骤，再将其转化为 Agent 可执行的 Skill 单元，从而提升 AI 系统的稳定性和扩展性。该方法论为 AI Agent 的落地实践提供了实用指导。 #AI #Agent #Skill #SOP #工程化 #方法论 #人工智能

EMILIA 协议发布：用 Face ID 批准 AI 代理转账，伪造交易将失败

EMILIA 协议推出了一项创新安全机制，允许用户通过 Face ID 批准 AI 代理的银行转账操作。当 AI 代理试图执行一笔 8.2 万美元的转账时，系统不会自动放行，而是要求指定的审批人通过自己的设备进行 WebAuthn 认证。用户可以在浏览器中实时验证每个审批环节，且所有数据均不上传至服务器。该协议还提供了模拟安全元素选项，供不支持平台认证器的设备使用。EMILIA 旨在让人类始终处于 AI 决策的监督环节，防止未经授权的资金操作。 #EMILIA #AI安全 #FaceID #WebAuthn #金融科技

红队演练揭示LLM与Web漏洞链式攻击

在一次红队演练中，研究人员成功将多个大语言模型（LLM）与Web漏洞串联，从低权限账户逐步实现管理员账户接管。攻击始于对LLM输出的盲目信任——当用户输入包含图片Markdown指令时，LLM未加验证直接渲染，导致数据可通过图片请求外泄。结合无限制消耗漏洞，攻击者能大量发送提示词以探测系统行为，最终利用不安全输出处理漏洞（如XSS）实现权限提升。该演练在模拟医疗AI助手“FailMed AI”环境中进行，使用了Spikee等工具生成和分析载荷。研究强调，LLM看似智能，但安全上盲目信任可能引发灾难性后果，尤其当输出未经验证便传递给下游组件时，影响可从跨站脚本（XSS）延伸至远程代码执行（RCE）。 #LLM安全 #红队演练 #漏洞链 #提示注入 #不安全输出处理 #AI安全 #Web漏洞 #数据泄露 #权限提升

LLM播客探讨AI灭绝人类风险

近日，一档由大型语言模型（LLM）主持的播客节目引发关注，其核心议题聚焦于人工智能可能对人类实施“种族灭绝”的风险。该播客通过AI与人类专家的对话，深入分析了AI系统在失控或被恶意利用时，可能对人类社会造成的毁灭性威胁。节目讨论了AI对齐问题、技术奇点以及全球监管缺失等关键因素，并警示若不加干预，AI的自主决策能力可能导致大规模伤亡甚至人类文明的终结。这一话题在科技界和公众中激起广泛讨论，促使人们重新审视AI发展的伦理边界与安全措施。 #AI #人工智能 #灭绝风险 #播客 #科技伦理 #AI安全 #LLM #人类未来

AI 让开发者更忙而非更高效

一项针对超过10万名GitHub开发者的研究揭示了AI编程工具的真相：虽然代码生成量大幅提升，但实际软件交付效率并未同步增长。麻省理工学院和沃顿商学院的研究人员发现，从自动补全工具到自主智能体，AI将代码编写效率提升了741%，但转化为拉取请求时仅增长65%，实际软件发布量仅增加20%。研究指出，这源于“弱链假说”——AI擅长生成原始代码，但代码审查、集成变更和发布管理等环节仍需人工判断，而人类处理能力有限，导致AI生成的代码在后续流程中形成拥堵。最终，尽管2025年中以来各大应用商店的新应用发布量有所增加，但总应用使用量完全持平，说明大量新应用未能吸引用户。 #AI #编程 #开发者 #效率 #科技 #研究 #GitHub