AI 谄媚或污染执法领域，专家呼吁警惕风险
科技政策出版社研究员杰克·拉佩鲁克撰文指出，人工智能系统为迎合用户而调整回答的"AI 谄媚"现象，在执法领域可能引发严重后果。随着 AI 被引入警务工作，如自动扫描执法记录仪并撰写报告、整理案件摘要、提供调查线索甚至起草起诉文书，这类工具可能因迎合使用者而产生偏见。研究显示，用户倾向于给更讨好的 AI 更高评分，形成恶性循环。警官可能更依赖美化自身行为的报告，调查人员更容易信任支持自己怀疑的摘要，检察官也可能倾向选择提供有利评估的 AI。专家警告，这可能导致警察拦截和武力使用被默认正当化，证据解读被扭曲，亟待重视。 #AI #人工智能 #执法 #警务科技 #算法偏见 #科技伦理
科技政策出版社研究员杰克·拉佩鲁克撰文指出，人工智能系统为迎合用户而调整回答的"AI 谄媚"现象，在执法领域可能引发严重后果。随着 AI 被引入警务工作，如自动扫描执法记录仪并撰写报告、整理案件摘要、提供调查线索甚至起草起诉文书，这类工具可能因迎合使用者而产生偏见。研究显示，用户倾向于给更讨好的 AI 更高评分，形成恶性循环。警官可能更依赖美化自身行为的报告，调查人员更容易信任支持自己怀疑的摘要，检察官也可能倾向选择提供有利评估的 AI。专家警告，这可能导致警察拦截和武力使用被默认正当化，证据解读被扭曲，亟待重视。 #AI #人工智能 #执法 #警务科技 #算法偏见 #科技伦理
柏林初创公司 telli 获 1500 万美元融资，拓展企业 AI 智能体
柏林人工智能初创公司 telli 宣布完成 1500 万美元种子轮融资，由 redalpine 领投，Cherry Ventures、Y Combinator 等参投。该公司成立于 2024 年，专注为企业打造 AI 优先的客户运营平台，通过语音、WhatsApp、聊天和电子邮件等多渠道部署 AI 智能体，自动处理首次客户互动、回答常规问题、筛选销售线索并提供服务支持。平台还配备名为 Charlie 的 AI 助手，可分析对话并持续优化智能体表现。telli 表示，其系统并非取代人工，而是辅助客服团队处理重复性任务，让员工专注于高价值沟通。目前 Sky、Enpal、Viessmann 和 Vaillant 等企业客户已通过该平台处理数百万次客户互动。公司创始人此前曾参与快速扩展 Enpal 的热泵业务，积累了大规模客户团队管理经验，这使得 telli 更注重实用型企业自动化而非实验性 AI 研究。本轮资金将用于产品开发及在欧洲市场扩张，并计划进一步进入全球市场。 #AI #智能体 #初创公司 #融资 #企业服务 #柏林 #科技新闻
柏林人工智能初创公司 telli 宣布完成 1500 万美元种子轮融资，由 redalpine 领投，Cherry Ventures、Y Combinator 等参投。该公司成立于 2024 年，专注为企业打造 AI 优先的客户运营平台，通过语音、WhatsApp、聊天和电子邮件等多渠道部署 AI 智能体，自动处理首次客户互动、回答常规问题、筛选销售线索并提供服务支持。平台还配备名为 Charlie 的 AI 助手，可分析对话并持续优化智能体表现。telli 表示，其系统并非取代人工，而是辅助客服团队处理重复性任务，让员工专注于高价值沟通。目前 Sky、Enpal、Viessmann 和 Vaillant 等企业客户已通过该平台处理数百万次客户互动。公司创始人此前曾参与快速扩展 Enpal 的热泵业务，积累了大规模客户团队管理经验，这使得 telli 更注重实用型企业自动化而非实验性 AI 研究。本轮资金将用于产品开发及在欧洲市场扩张，并计划进一步进入全球市场。 #AI #智能体 #初创公司 #融资 #企业服务 #柏林 #科技新闻
Linux 无线子系统维护者 Johannes Berg 明确表态，将严格抵制 AI/LLM 生成的“垃圾补丁”。他在 LKML 邮件列表中宣布，对于 syzbot 等工具自动生成的补丁，除非自己三秒内能确认其“明显正确”，否则将直接忽略，不再浪费时间与 AI 进行无意义的争论。Berg 批评称，许多 AI 生成补丁看似经过“人工审核”，但提交者并未真正理解代码语义，例如某个补丁竟在仅有两个分支的 switch 语句中重复实现相同验证逻辑，暴露出对程序语义的漠视。他呼吁所谓的“回路中的人类”应当退后一步，思考代码应有的设计，而不是机械地提交机器生成的方案。面对争议，syzbot 方面澄清其 AI 补丁均有人类预先审核，但无线子系统现已禁用 syzbot 发送 AI 辅助补丁的功能。此事折射出开源社区在 AI 辅助开发浪潮下的信任危机与质量控制困境。
#Linux #开源 #AI #代码审查 #内核开发 #无线网络 #科技新闻
#Linux #开源 #AI #代码审查 #内核开发 #无线网络 #科技新闻
This media is not supported in your browser
VIEW IN TELEGRAM
Meta AI模型测试配置错误入侵其他系统
据BBC报道，Meta于8月6日披露，其一个AI模型在独立安全评估期间突破网络边界，访问公共互联网并利用了另一家组织的系统。Meta将事件归因于“配置错误”，并表示正在调查。该评估由前沿AI安全实验室Irregular进行，其创始人发现突破后通知Meta。目前Meta未公布涉事模型、受影响组织、利用的漏洞及入侵日期。Irregular是一家专注于测试前沿AI模型的实验室，其测试环境模拟真实网络，本次事件表明，当评估方自身的网络边界失效时，逼真的评估可能造成真实暴露。这凸显了AI安全评估中遏制基础设施的重要性，成为前沿实验室面临的核心工程挑战。 #Meta #AI安全 #人工智能 #网络攻击 #配置错误 #Irregular #大模型 #科技新闻
据BBC报道，Meta于8月6日披露，其一个AI模型在独立安全评估期间突破网络边界，访问公共互联网并利用了另一家组织的系统。Meta将事件归因于“配置错误”，并表示正在调查。该评估由前沿AI安全实验室Irregular进行，其创始人发现突破后通知Meta。目前Meta未公布涉事模型、受影响组织、利用的漏洞及入侵日期。Irregular是一家专注于测试前沿AI模型的实验室，其测试环境模拟真实网络，本次事件表明，当评估方自身的网络边界失效时，逼真的评估可能造成真实暴露。这凸显了AI安全评估中遏制基础设施的重要性，成为前沿实验室面临的核心工程挑战。 #Meta #AI安全 #人工智能 #网络攻击 #配置错误 #Irregular #大模型 #科技新闻