LLM 如何感知你的情感？
一位技术专家通过实验探究了大型语言模型（LLM）内部激活层的潜在情感信息。他使用 TransformerLens 工具记录 Gemma 3 4B 模型在回答情感相关问题（如丢失宠物归来、获得晋升等场景）时的层激活值，并分析了各层的熵值，发现第31层拥有最高的平均熵（7.11）。随后，他利用主成分分析和最近邻搜索，尝试将第31层的激活值与情感词匹配。例如，当输入一张可爱小狗图片，模型输出的最接近情感是“疲惫”（相似度0.58）、“羞愧”（0.49）和“绝望”（0.45）。作者指出，这种线性方法可能不够准确，因为未考虑各层之间的梯度传播，并引用了Anthropic关于雅可比透镜的理论，强调应关注层之间的动态影响而非静态激活值。 #LLM #人工智能 #情感分析 #机器学习 #技术探索 #模型解释
一位技术专家通过实验探究了大型语言模型（LLM）内部激活层的潜在情感信息。他使用 TransformerLens 工具记录 Gemma 3 4B 模型在回答情感相关问题（如丢失宠物归来、获得晋升等场景）时的层激活值，并分析了各层的熵值，发现第31层拥有最高的平均熵（7.11）。随后，他利用主成分分析和最近邻搜索，尝试将第31层的激活值与情感词匹配。例如，当输入一张可爱小狗图片，模型输出的最接近情感是“疲惫”（相似度0.58）、“羞愧”（0.49）和“绝望”（0.45）。作者指出，这种线性方法可能不够准确，因为未考虑各层之间的梯度传播，并引用了Anthropic关于雅可比透镜的理论，强调应关注层之间的动态影响而非静态激活值。 #LLM #人工智能 #情感分析 #机器学习 #技术探索 #模型解释
200多位经济学家警告
200多位经济学家与研究人员，包括16位诺贝尔奖得主，于周一联合发布声明，警告人工智能可能以超越工业革命的速度和规模重塑经济，呼吁政策制定者和技术领袖立即着手建立应对机制。这份名为“我们必须立即行动”的声明指出，AI 既可能带来大规模失业的风险，也蕴含着提升生活水平的机遇。其核心诉求是要求各界更深入地理解 AI 如何重塑经济，并制定保障措施，确保技术是增强而非替代人类劳动者。经济学家们过去普遍对 AI 驱动的快速失业持怀疑态度，认为技术颠覆的时间表常被夸大，但此次声明显示行业态度出现显著转变。斯坦福大学经济学家埃里克·布林约尔松指出，专业领域内已发生“显著变化”。麻省理工学院教授、2024年诺贝尔经济学奖得主达龙·阿西莫格鲁曾公开质疑 AI 的颠覆潜力，他此次参与尤为引人注目，但他也警告，若 AI 在更短时间内复制机器人在制造业的影响，将对民生造成巨大冲击。弗吉尼亚大学教授安东·科里内克以历史为喻强调紧迫性：“蒸汽、电力和计算机给了社会几十年适应，AI 可能只给我们几年时间。”声明签署者还包括 OpenAI 首席财务官、谷歌 DeepMind 高管及 Anthropic 联合创始人。斯坦福大学经济学家布林约尔松表示，当前最紧迫的任务是更清晰地统计 AI 如何影响经济，以评估哪些人群风险最高，并担忧“我们可能无法为即将到来的海啸做好准备”。该声明发布之际，白领岗位已连续多月收缩，持续时长被经济学家称为“史无前例”。 #AI #人工智能 #就业 #经济 #诺贝尔奖 #科技 #行业趋势 #斯坦福大学 #麻省理工学院
200多位经济学家与研究人员，包括16位诺贝尔奖得主，于周一联合发布声明，警告人工智能可能以超越工业革命的速度和规模重塑经济，呼吁政策制定者和技术领袖立即着手建立应对机制。这份名为“我们必须立即行动”的声明指出，AI 既可能带来大规模失业的风险，也蕴含着提升生活水平的机遇。其核心诉求是要求各界更深入地理解 AI 如何重塑经济，并制定保障措施，确保技术是增强而非替代人类劳动者。经济学家们过去普遍对 AI 驱动的快速失业持怀疑态度，认为技术颠覆的时间表常被夸大，但此次声明显示行业态度出现显著转变。斯坦福大学经济学家埃里克·布林约尔松指出，专业领域内已发生“显著变化”。麻省理工学院教授、2024年诺贝尔经济学奖得主达龙·阿西莫格鲁曾公开质疑 AI 的颠覆潜力，他此次参与尤为引人注目，但他也警告，若 AI 在更短时间内复制机器人在制造业的影响，将对民生造成巨大冲击。弗吉尼亚大学教授安东·科里内克以历史为喻强调紧迫性：“蒸汽、电力和计算机给了社会几十年适应，AI 可能只给我们几年时间。”声明签署者还包括 OpenAI 首席财务官、谷歌 DeepMind 高管及 Anthropic 联合创始人。斯坦福大学经济学家布林约尔松表示，当前最紧迫的任务是更清晰地统计 AI 如何影响经济，以评估哪些人群风险最高，并担忧“我们可能无法为即将到来的海啸做好准备”。该声明发布之际，白领岗位已连续多月收缩，持续时长被经济学家称为“史无前例”。 #AI #人工智能 #就业 #经济 #诺贝尔奖 #科技 #行业趋势 #斯坦福大学 #麻省理工学院
This media is not supported in your browser
VIEW IN TELEGRAM
Frankie
Compound团队推出了一款名为Frankie的AI分析员，用户只需发送邮件即可完成复杂任务。传统分析工作往往从邮件开始，但实际处理需要离开邮件客户端，打开专业应用并手动转移上下文。Frankie改变了这一流程——用户可将任务、附件直接发送至frankie@，它能自动在Compound平台内完成数据抓取、模型构建和备忘录撰写，再将结果回复至用户邮箱。Frankie能记住跨请求的上下文，支持连续任务；可处理Excel、PDF、Word等附件，支持定时或循环执行分析，如每日市场更新、每周投资组合回顾。用户可通过邮件线程发送后续问题或修改要求，Frankie均能理解并响应。目前该服务已上线，新用户可创建账户后直接通过邮件启动任务。 #AI助手 #工作效率 #自动化分析 #邮件办公 #智能协作
Compound团队推出了一款名为Frankie的AI分析员，用户只需发送邮件即可完成复杂任务。传统分析工作往往从邮件开始，但实际处理需要离开邮件客户端，打开专业应用并手动转移上下文。Frankie改变了这一流程——用户可将任务、附件直接发送至frankie@，它能自动在Compound平台内完成数据抓取、模型构建和备忘录撰写，再将结果回复至用户邮箱。Frankie能记住跨请求的上下文，支持连续任务；可处理Excel、PDF、Word等附件，支持定时或循环执行分析，如每日市场更新、每周投资组合回顾。用户可通过邮件线程发送后续问题或修改要求，Frankie均能理解并响应。目前该服务已上线，新用户可创建账户后直接通过邮件启动任务。 #AI助手 #工作效率 #自动化分析 #邮件办公 #智能协作
MindRoom：让AI智能体在Matrix协议中“永生”，跨平台工作
开发者公布其开源项目MindRoom的详细信息。该项目基于Matrix通信协议构建AI智能体，旨在解决当前AI工具平台割裂的问题，如在不同聊天应用中AI需重新了解用户、开发助手对项目文档一无所知等。MindRoom让AI智能体与用户同驻聊天室，可在线程中协作，并跟随用户跨平台工作，支持在Slack、Telegram、Discord、WhatsApp等平台间无缝迁移。由于Matrix协议提供端到端加密，用户可将敏感数据处理任务交给本地模型，而将通用研究交给云端模型。开发者透露，其首个代码提交于2025年7月29日，经过近11个月的开发，目前已整合100多种内置工具，并支持Python编程和持久记忆能力。该项目目前是开源的，但开发者提醒Matrix的桥接功能成熟度参差不齐，用户体验可能因所需平台而异。 #AI智能体 #Matrix #开源 #跨平台 #智能助手
开发者公布其开源项目MindRoom的详细信息。该项目基于Matrix通信协议构建AI智能体，旨在解决当前AI工具平台割裂的问题，如在不同聊天应用中AI需重新了解用户、开发助手对项目文档一无所知等。MindRoom让AI智能体与用户同驻聊天室，可在线程中协作，并跟随用户跨平台工作，支持在Slack、Telegram、Discord、WhatsApp等平台间无缝迁移。由于Matrix协议提供端到端加密，用户可将敏感数据处理任务交给本地模型，而将通用研究交给云端模型。开发者透露，其首个代码提交于2025年7月29日，经过近11个月的开发，目前已整合100多种内置工具，并支持Python编程和持久记忆能力。该项目目前是开源的，但开发者提醒Matrix的桥接功能成熟度参差不齐，用户体验可能因所需平台而异。 #AI智能体 #Matrix #开源 #跨平台 #智能助手
MIT 发明新型检测方法，无需生成即可识别训练于儿童虐待内容的AI模型
麻省理工学院的研究人员开发出一种创新审计方法，能在不生成任何图像的情况下，判断AI模型是否经过微调以生成儿童性虐待内容（CSAM），从而绕开安全审查中面临的法律和伦理障碍。该方法由研究生Vinith Suriyakumar与助理教授Ashia Wilson、Marzyeh Ghassemi领导，与儿童安全非营利组织Thorn合作完成。技术核心是检测模型内部调整而非输出结果，通过名为“高斯探测”的方法，向模型输入随机数据点，分析因LoRA适配器引起的内部表征变化，从而创建微调目的的指纹。在《国际机器学习大会》上发表的论文显示，该方法识别专门用于生成CSAM的模型时准确率达到100%。这一突破正值AI生成CSAM报告激增之际，美国国家失踪与受虐儿童中心在2025年接到超150万起此类报告，而2024年仅为6.7万起。开源生成式AI模型很容易通过LoRA等方法被不良分子微调，用于大规模制作超逼真虐待图像。传统安全测试需要提示模型并检查其响应，但生成CSAM即使只为测试，在美国和许多司法管辖区也属非法。高斯探测法无需生成图像且计算量极小，可集成到Hugging Face或Civitai等模型托管平台自动筛选上传内容，防止危险模型扩散。该技术远优于输出过滤器，恶意行为者需彻底改变基础模型架构才能隐藏调整痕迹。 #MIT #AI安全 #CSAM检测 #机器学习 #儿童保护 #技术突破 #高斯探测
麻省理工学院的研究人员开发出一种创新审计方法，能在不生成任何图像的情况下，判断AI模型是否经过微调以生成儿童性虐待内容（CSAM），从而绕开安全审查中面临的法律和伦理障碍。该方法由研究生Vinith Suriyakumar与助理教授Ashia Wilson、Marzyeh Ghassemi领导，与儿童安全非营利组织Thorn合作完成。技术核心是检测模型内部调整而非输出结果，通过名为“高斯探测”的方法，向模型输入随机数据点，分析因LoRA适配器引起的内部表征变化，从而创建微调目的的指纹。在《国际机器学习大会》上发表的论文显示，该方法识别专门用于生成CSAM的模型时准确率达到100%。这一突破正值AI生成CSAM报告激增之际，美国国家失踪与受虐儿童中心在2025年接到超150万起此类报告，而2024年仅为6.7万起。开源生成式AI模型很容易通过LoRA等方法被不良分子微调，用于大规模制作超逼真虐待图像。传统安全测试需要提示模型并检查其响应，但生成CSAM即使只为测试，在美国和许多司法管辖区也属非法。高斯探测法无需生成图像且计算量极小，可集成到Hugging Face或Civitai等模型托管平台自动筛选上传内容，防止危险模型扩散。该技术远优于输出过滤器，恶意行为者需彻底改变基础模型架构才能隐藏调整痕迹。 #MIT #AI安全 #CSAM检测 #机器学习 #儿童保护 #技术突破 #高斯探测
SFU 教授携手 Caseway 启动法律 AI 研究，提升司法可及性
西蒙菲莎大学（SFU）计算机科学教授 Angel Chang 正与温哥华初创公司 Caseway AI 合作，开展一项由 Mitacs 资助的研究项目。该项目的核心问题是：若将超过一亿份加拿大和美国的法院判决结构化、索引并使其可被现代 AI 系统（如 ChatGPT）搜索，能否帮助无律师代理的弱势群体做出更明智的法律决策？研究团队指出，当前通用 AI 工具缺乏真实判决数据，常依赖二手信息导致“幻觉”和误导。Caseway 则通过发布原始判决，让 AI 能引用权威来源。项目将评估这类信息环境变化如何影响民众对法律的理解、信心及早期决策，而非替代律师。SFU 学生已参与检索系统设计和嵌入技术实验，为未来用户体验研究奠定基础。 #AI #法律科技 #司法可及 #大模型 #西蒙菲莎大学 #Caseway #学术研究
西蒙菲莎大学（SFU）计算机科学教授 Angel Chang 正与温哥华初创公司 Caseway AI 合作，开展一项由 Mitacs 资助的研究项目。该项目的核心问题是：若将超过一亿份加拿大和美国的法院判决结构化、索引并使其可被现代 AI 系统（如 ChatGPT）搜索，能否帮助无律师代理的弱势群体做出更明智的法律决策？研究团队指出，当前通用 AI 工具缺乏真实判决数据，常依赖二手信息导致“幻觉”和误导。Caseway 则通过发布原始判决，让 AI 能引用权威来源。项目将评估这类信息环境变化如何影响民众对法律的理解、信心及早期决策，而非替代律师。SFU 学生已参与检索系统设计和嵌入技术实验，为未来用户体验研究奠定基础。 #AI #法律科技 #司法可及 #大模型 #西蒙菲莎大学 #Caseway #学术研究
AI 深度伪造让网络诈骗更难防范
美国消费者因AI诈骗损失惨重。据FBI数据，2024年约有5.9万人报告成为情感诈骗受害者，实际数字可能更高。以化名阿比盖尔为例，她在诈骗者“史蒂夫”诱导下以低于市场价20万美元出售公寓，并累计汇款超过8.1万美元。女儿发现对方发来的视频实为深度伪造，但资金已无法追回。研究表明，男性通常损失金额更大，而女性更易报告财务损失。生成式AI使诈骗更加逼真，而新一代代理式AI系统能自主执行多步骤操作，以人类难以企及的速度发起欺诈交易。不过AI也能用于防御，如设备端分析对话模式、金融机构毫秒级识别可疑转账等。专家警告，随着代理式AI在商业领域普及，诈骗手段将更加复杂，需建立全方位防御体系。 #AI诈骗 #深度伪造 #网络安全 #人工智能 #金融欺诈 #情感诈骗 #消费者保护
美国消费者因AI诈骗损失惨重。据FBI数据，2024年约有5.9万人报告成为情感诈骗受害者，实际数字可能更高。以化名阿比盖尔为例，她在诈骗者“史蒂夫”诱导下以低于市场价20万美元出售公寓，并累计汇款超过8.1万美元。女儿发现对方发来的视频实为深度伪造，但资金已无法追回。研究表明，男性通常损失金额更大，而女性更易报告财务损失。生成式AI使诈骗更加逼真，而新一代代理式AI系统能自主执行多步骤操作，以人类难以企及的速度发起欺诈交易。不过AI也能用于防御，如设备端分析对话模式、金融机构毫秒级识别可疑转账等。专家警告，随着代理式AI在商业领域普及，诈骗手段将更加复杂，需建立全方位防御体系。 #AI诈骗 #深度伪造 #网络安全 #人工智能 #金融欺诈 #情感诈骗 #消费者保护
Ringd 推出 AI 语音代理客户身份验证方案
一家名为 Ringd 的初创公司推出专为 AI 语音代理设计的身份验证解决方案。该方案通过一个简单的装饰器即可集成，在语音代理执行敏感操作（如预订、支付或账户变更）前自动验证来电者身份。系统支持电子邮件 OTP、短信 OTP 和声纹识别等多级验证方式，低风险请求可直接通过，高风险操作则需加强验证。Ringd 还自动处理共享号码、伪造来电显示、重复记录等常见问题，并提供完整的审计日志。与 Twilio Verify 等仅发送验证码的服务不同，Ringd 能够在通话过程中完成身份验证和注册流程，并支持 Supabase、Neon、Prisma 等主流数据库和工具集成。 #AI #语音代理 #身份验证 #安全 #科技创业 #人工智能
一家名为 Ringd 的初创公司推出专为 AI 语音代理设计的身份验证解决方案。该方案通过一个简单的装饰器即可集成，在语音代理执行敏感操作（如预订、支付或账户变更）前自动验证来电者身份。系统支持电子邮件 OTP、短信 OTP 和声纹识别等多级验证方式，低风险请求可直接通过，高风险操作则需加强验证。Ringd 还自动处理共享号码、伪造来电显示、重复记录等常见问题，并提供完整的审计日志。与 Twilio Verify 等仅发送验证码的服务不同，Ringd 能够在通话过程中完成身份验证和注册流程，并支持 Supabase、Neon、Prisma 等主流数据库和工具集成。 #AI #语音代理 #身份验证 #安全 #科技创业 #人工智能
Sx 2.0 发布
Sx 2.0 是一款面向 Mac、Windows 和 Linux 的原生桌面应用，旨在让团队成员无需使用 git 或终端即可共享 AI 技能。该工具解决了 AI 工具栈中的“npm 式缺口”，即优秀 AI 用户开发的技能和配置被锁定在个人机器上，难以分发。此前版本主要面向开发者，但团队发现营销、法务等非技术成员也在积极编写技能，却因缺乏 git 和终端知识而受阻。Sx 2.0 通过利用 Dropbox、Google Drive 等共享文件夹解决了这一问题：用户将技能以 Markdown 格式拖入共享文件夹，团队成员通过应用同步后，即可一键安装到 Claude Code、Cursor 等 AI 客户端中，自动转换格式并写入正确位置，实现无缝协作。新版本还引入了集合功能，支持分组安装技能，自动更新至整个团队。对于开发者，CLI 和 git 支持保持不变。此外，应用还设计了插件系统，为未来生态扩展奠定基础。 #AI #团队协作 #Sx #开源工具 #技能共享
Sx 2.0 是一款面向 Mac、Windows 和 Linux 的原生桌面应用，旨在让团队成员无需使用 git 或终端即可共享 AI 技能。该工具解决了 AI 工具栈中的“npm 式缺口”，即优秀 AI 用户开发的技能和配置被锁定在个人机器上，难以分发。此前版本主要面向开发者，但团队发现营销、法务等非技术成员也在积极编写技能，却因缺乏 git 和终端知识而受阻。Sx 2.0 通过利用 Dropbox、Google Drive 等共享文件夹解决了这一问题：用户将技能以 Markdown 格式拖入共享文件夹，团队成员通过应用同步后，即可一键安装到 Claude Code、Cursor 等 AI 客户端中，自动转换格式并写入正确位置，实现无缝协作。新版本还引入了集合功能，支持分组安装技能，自动更新至整个团队。对于开发者，CLI 和 git 支持保持不变。此外，应用还设计了插件系统，为未来生态扩展奠定基础。 #AI #团队协作 #Sx #开源工具 #技能共享
ContextVault
是一款为AI和团队设计的共享记忆层工具，旨在解决AI会话中重复“从零开始”的问题。它提供了一个统一的真实数据源，允许AI客户端读写，并支持按用户、代理和租户进行作用域隔离，实现会话间的持久化记忆。该工具兼容Claude、Copilot、ChatGPT、Ollama等主流AI客户端，无供应商锁定，并支持通过主要供应商单点登录。其核心功能包括持久记忆、混合检索（向量与全文排序）以及访问控制，确保记忆在不同会话、代理和模型间保持可靠。产品定价分为试用、个人版（9.99美元/月）、团队版（49.99美元/月）和企业定制版。ContextVault 适用于长期组织学习，帮助团队保留和复用知识，减少AI请求的上下文负载，并避免管理分散的Markdown文件。 #AI #共享记忆 #团队协作 #上下文管理 #开发工具
是一款为AI和团队设计的共享记忆层工具，旨在解决AI会话中重复“从零开始”的问题。它提供了一个统一的真实数据源，允许AI客户端读写，并支持按用户、代理和租户进行作用域隔离，实现会话间的持久化记忆。该工具兼容Claude、Copilot、ChatGPT、Ollama等主流AI客户端，无供应商锁定，并支持通过主要供应商单点登录。其核心功能包括持久记忆、混合检索（向量与全文排序）以及访问控制，确保记忆在不同会话、代理和模型间保持可靠。产品定价分为试用、个人版（9.99美元/月）、团队版（49.99美元/月）和企业定制版。ContextVault 适用于长期组织学习，帮助团队保留和复用知识，减少AI请求的上下文负载，并避免管理分散的Markdown文件。 #AI #共享记忆 #团队协作 #上下文管理 #开发工具