AI 进入课堂的恐惧
本文是“AI 在课堂”系列的第二部分。作者指出，高等教育中关于 AI 作弊的恐慌，根源并非 AI 本身，而是早已存在的评估体系缺陷。字数限制、页数要求、开卷考试等传统方式，原本建立在“产出文字困难”的假设上，但 AI 消除了这一门槛，暴露了这些作业从未真正衡量学生能力的真相。同时，AI 检测工具存在严重偏见：斯坦福大学研究发现，最常用的七款检测器将 61.3% 的非英语母语学生作文误判为 AI 生成，而对母语者的误报率仅为 3.2%。作者认为，简单的词汇和更公式化的句式（这在第二语言写作者中完全正常）被这些工具有效误判为机器生成，因此依赖检测并非解决方案。抄袭问题同样存在，但 AI 只是加速和放大了这一长期问题。真正的出路在于评估过程的改革，而非简单依赖工具检测。 #AI #教育 #作弊 #检测偏见 #评估改革 #学术诚信 #高等教育 #课堂管理
本文是“AI 在课堂”系列的第二部分。作者指出，高等教育中关于 AI 作弊的恐慌，根源并非 AI 本身，而是早已存在的评估体系缺陷。字数限制、页数要求、开卷考试等传统方式，原本建立在“产出文字困难”的假设上，但 AI 消除了这一门槛，暴露了这些作业从未真正衡量学生能力的真相。同时，AI 检测工具存在严重偏见：斯坦福大学研究发现，最常用的七款检测器将 61.3% 的非英语母语学生作文误判为 AI 生成，而对母语者的误报率仅为 3.2%。作者认为，简单的词汇和更公式化的句式（这在第二语言写作者中完全正常）被这些工具有效误判为机器生成，因此依赖检测并非解决方案。抄袭问题同样存在，但 AI 只是加速和放大了这一长期问题。真正的出路在于评估过程的改革，而非简单依赖工具检测。 #AI #教育 #作弊 #检测偏见 #评估改革 #学术诚信 #高等教育 #课堂管理
AI辅助漏洞发现
安全公司VulnCheck的研究显示，尽管Anthropic的Project Glasswing等项目发现了大量潜在安全漏洞，但AI辅助发现的漏洞在实际攻击中被利用的比例极低。研究分析了1061个公开归因于AI辅助发现的漏洞，并与已知被利用漏洞数据库对比，发现仅有14个（1.3%）被确认在野外环境中被利用，这一比例与所有漏洞的平均利用率几乎持平。这远低于前沿AI能大量产出可武器化漏洞、显著改变攻防平衡的说法。报告特别指出，Anthropic的Project Glasswing识别了23019个漏洞候选，但其中仅有126个被发布为CVE，仅1个被确认在野外被利用。研究员认为，AI辅助漏洞发现对攻防双方都有价值，但数据表明AI更多是帮助研究者发现更多漏洞，而非提高被利用比例。当前AI辅助漏洞发现的能力被过度炒作，实际影响有限但真实存在。同时，攻击者正越来越关注AI产品本身的安全弱点。 #AI安全 #漏洞利用 #安全研究 #AI辅助 #网络安全 #CVE
安全公司VulnCheck的研究显示，尽管Anthropic的Project Glasswing等项目发现了大量潜在安全漏洞，但AI辅助发现的漏洞在实际攻击中被利用的比例极低。研究分析了1061个公开归因于AI辅助发现的漏洞，并与已知被利用漏洞数据库对比，发现仅有14个（1.3%）被确认在野外环境中被利用，这一比例与所有漏洞的平均利用率几乎持平。这远低于前沿AI能大量产出可武器化漏洞、显著改变攻防平衡的说法。报告特别指出，Anthropic的Project Glasswing识别了23019个漏洞候选，但其中仅有126个被发布为CVE，仅1个被确认在野外被利用。研究员认为，AI辅助漏洞发现对攻防双方都有价值，但数据表明AI更多是帮助研究者发现更多漏洞，而非提高被利用比例。当前AI辅助漏洞发现的能力被过度炒作，实际影响有限但真实存在。同时，攻击者正越来越关注AI产品本身的安全弱点。 #AI安全 #漏洞利用 #安全研究 #AI辅助 #网络安全 #CVE
AI控制战争机器可能失控：非营利组织Airwars发布AI杀伤链报告，揭示军用AI的潜在风险
非营利透明度监督机构Airwars近日发布了一份题为《AI杀伤链剖析》的详细报告，以虚构的杀伤链为例，展示了机器学习如何赋能现代战争，并呼吁加强对AI驱动杀戮的监管。报告梳理了六阶段杀伤链：决策支持系统、监控技术、情报与识别、目标选择、目标打击及打击后评估。报告指出，美军在某些行动中，六阶段中仅有两个阶段仍有人类参与，一个阶段有人类监督，其余已完全自动化。报告强调，目标识别错误已广泛记录，AI可能使这类错误更常见。由于军方官员过去曾坚称AI的角色不可知，因此有必要寻找更好的方法来了解AI何时参与生死决策。报告分析了各阶段潜在错误源，包括决策支持系统的可靠性、自动翻译错误、社交媒体数据算法评估、计算机视觉误识别、无人机打击中的递归神经网络缺陷，以及AI辅助战损评估系统的问题。 #AI #战争 #军事 #杀伤链 #机器学习 #自动化 #风险 #透明度
非营利透明度监督机构Airwars近日发布了一份题为《AI杀伤链剖析》的详细报告，以虚构的杀伤链为例，展示了机器学习如何赋能现代战争，并呼吁加强对AI驱动杀戮的监管。报告梳理了六阶段杀伤链：决策支持系统、监控技术、情报与识别、目标选择、目标打击及打击后评估。报告指出，美军在某些行动中，六阶段中仅有两个阶段仍有人类参与，一个阶段有人类监督，其余已完全自动化。报告强调，目标识别错误已广泛记录，AI可能使这类错误更常见。由于军方官员过去曾坚称AI的角色不可知，因此有必要寻找更好的方法来了解AI何时参与生死决策。报告分析了各阶段潜在错误源，包括决策支持系统的可靠性、自动翻译错误、社交媒体数据算法评估、计算机视觉误识别、无人机打击中的递归神经网络缺陷，以及AI辅助战损评估系统的问题。 #AI #战争 #军事 #杀伤链 #机器学习 #自动化 #风险 #透明度
AI时代
一位技术从业者分享了他使用前沿AI模型生成“上楼如厕通知”并发送给未婚妻的经历，对方却因熟悉其行为模式直接忽略。这引发了他对职场中AI生成文本泛滥现象的思考。如今，大量白领在Slack、Teams等协作工具中频繁收到由AI生成的密集文本，这些内容通常冗长、推测性强，且往往不包含真实验证。软件工程师等专业人员被期望以不可持续的速度审查这些原始模型输出。问题在于，精炼的输出会制造认知偏差——人们倾向于将自信的回答视为已验证的答案。更危险的是，这种风格已渗透至Jira等工单系统，非代码所有者直接粘贴AI解决方案，导致决策权和责任归属模糊化。讽刺的是，工程师自身在忙碌时也会使用AI草拟状态更新。已有多个专门网站推动同事间沟通规范，抵制此类“AI垃圾”在职场蔓延的恶习。 #AI #职场文化 #效率 #技术伦理 #生成式AI #认知偏差 #协作工具
一位技术从业者分享了他使用前沿AI模型生成“上楼如厕通知”并发送给未婚妻的经历，对方却因熟悉其行为模式直接忽略。这引发了他对职场中AI生成文本泛滥现象的思考。如今，大量白领在Slack、Teams等协作工具中频繁收到由AI生成的密集文本，这些内容通常冗长、推测性强，且往往不包含真实验证。软件工程师等专业人员被期望以不可持续的速度审查这些原始模型输出。问题在于，精炼的输出会制造认知偏差——人们倾向于将自信的回答视为已验证的答案。更危险的是，这种风格已渗透至Jira等工单系统，非代码所有者直接粘贴AI解决方案，导致决策权和责任归属模糊化。讽刺的是，工程师自身在忙碌时也会使用AI草拟状态更新。已有多个专门网站推动同事间沟通规范，抵制此类“AI垃圾”在职场蔓延的恶习。 #AI #职场文化 #效率 #技术伦理 #生成式AI #认知偏差 #协作工具
FBI 寻求 AI 构建政治监控名单
据 Reason 获得的采购文件显示，负责管理恐怖分子观察名单的 FBI 部门正寻求引入人工智能系统，用于预测犯罪。这份由 FBI 采购部门于三月发布的招标文件，旨在为威胁筛查中心配备新型预测 AI 能力。文件要求系统利用现有企业数据集开发预测模型，对新数据与现有记录进行相似度、模式对齐及属性关联分析，以预测可能存在的恐怖分子威胁。威胁筛查中心成立于 2003 年，原专注于伊斯兰恐怖主义。然而在特朗普第二任期，该中心被重新定位为应对广泛定义的“威胁”，包括反美主义、反资本主义、反基督教等。FBI 明确提及相关总统备忘录，要求系统自动化处理跨领域的海量数据。FBI 局长凯什·帕特尔在国会听证会上称，该中心已快速扩张，生物识别能力和情报收集均有两位数增长。 #FBI #AI监控 #恐怖分子名单 #特朗普 #国家安全 #预测警务 #数据隐私
据 Reason 获得的采购文件显示，负责管理恐怖分子观察名单的 FBI 部门正寻求引入人工智能系统，用于预测犯罪。这份由 FBI 采购部门于三月发布的招标文件，旨在为威胁筛查中心配备新型预测 AI 能力。文件要求系统利用现有企业数据集开发预测模型，对新数据与现有记录进行相似度、模式对齐及属性关联分析，以预测可能存在的恐怖分子威胁。威胁筛查中心成立于 2003 年，原专注于伊斯兰恐怖主义。然而在特朗普第二任期，该中心被重新定位为应对广泛定义的“威胁”，包括反美主义、反资本主义、反基督教等。FBI 明确提及相关总统备忘录，要求系统自动化处理跨领域的海量数据。FBI 局长凯什·帕特尔在国会听证会上称，该中心已快速扩张，生物识别能力和情报收集均有两位数增长。 #FBI #AI监控 #恐怖分子名单 #特朗普 #国家安全 #预测警务 #数据隐私