神经科学大会用隐藏提示“钓鱼”AI审稿人遭科学家反对
一场重要的神经科学会议因在论文中添加隐藏提示以捕获使用生成式人工智能审稿的人而受到科学家的强烈反对。第40届神经信息处理系统大会明令禁止审稿人将论文上传至AI聊天机器人，认为此举违反保密原则，但允许使用AI进行背景研究。会议组织者在送审论文中故意嵌入针对大型语言模型的隐藏指令，要求AI在报告中出现特定短语，已有个别研究者因此露馅。多位审稿人在社交媒体上表达担忧，认为此举预设审稿人有罪，破坏了互信关系。但也有学者认为该做法有效，类似方法曾在另一场机器学习大会上捕获数百名违规审稿人。组织方表示不便透露详情以免影响干预效果。 #AI #学术诚信 #神经科学 #审稿 #科研伦理
一场重要的神经科学会议因在论文中添加隐藏提示以捕获使用生成式人工智能审稿的人而受到科学家的强烈反对。第40届神经信息处理系统大会明令禁止审稿人将论文上传至AI聊天机器人，认为此举违反保密原则，但允许使用AI进行背景研究。会议组织者在送审论文中故意嵌入针对大型语言模型的隐藏指令，要求AI在报告中出现特定短语，已有个别研究者因此露馅。多位审稿人在社交媒体上表达担忧，认为此举预设审稿人有罪，破坏了互信关系。但也有学者认为该做法有效，类似方法曾在另一场机器学习大会上捕获数百名违规审稿人。组织方表示不便透露详情以免影响干预效果。 #AI #学术诚信 #神经科学 #审稿 #科研伦理
三明治店IPO文件中提AI，折射科技炒作泡沫有多大
随着市场对人工智能概念趋之若鹜，连以德维托为代言人的三明治连锁店Jersey Mike's也在其IPO文件中提及AI多达22次。这并非个例，许多非AI初创企业也纷纷在本不相关的业务中强加AI标签。该公司在风险提示中称"正开始在业务中使用AI技术"，但并未具体说明用途。尽管作为特许经营商，该店确实依赖数据和软件，但其AI风险描述多为泛泛而谈。与之形成对比的是，财报中提及天气仅5次，闪电0次，而现实中的门店恰恰曾遭遇雷击。这显示出资本对AI的狂热已超出理性范畴，导致公司为迎合投资者而刻意炒作概念。 #AI泡沫 #IPO #资本市场 #科技炒作 #商业趋势
随着市场对人工智能概念趋之若鹜，连以德维托为代言人的三明治连锁店Jersey Mike's也在其IPO文件中提及AI多达22次。这并非个例，许多非AI初创企业也纷纷在本不相关的业务中强加AI标签。该公司在风险提示中称"正开始在业务中使用AI技术"，但并未具体说明用途。尽管作为特许经营商，该店确实依赖数据和软件，但其AI风险描述多为泛泛而谈。与之形成对比的是，财报中提及天气仅5次，闪电0次，而现实中的门店恰恰曾遭遇雷击。这显示出资本对AI的狂热已超出理性范畴，导致公司为迎合投资者而刻意炒作概念。 #AI泡沫 #IPO #资本市场 #科技炒作 #商业趋势
Show HN：AI视频检测工具发布，可判定视频是否由AI生成
Planguest 推出了一款AI视频检测工具，旨在帮助用户判断视频是否为AI生成。该工具支持两种检测方式：粘贴公开视频链接或上传原始视频文件。检测基于可能性分析，结果仅供参考，不构成确凿证据。当公共媒体可访问时，报告可包含视频信号分析；若访问受限，则建议上传文件以获得更深入的帧、运动和时序分析。检测过程分为输入验证、访问检查、媒体准备、队列处理、信号提取和报告生成六个阶段。在分析阶段，工具会提取源/媒体访问、视觉伪影、运动/时间一致性、压缩/编码模式、音视频一致性及源细节等六组信号，并生成可能性评分。该工具每日提供有限使用额度，方便用户在分享可疑视频前进行初步筛查。 #AI检测 #视频分析 #AI工具 #假视频检测 #数字安全
Planguest 推出了一款AI视频检测工具，旨在帮助用户判断视频是否为AI生成。该工具支持两种检测方式：粘贴公开视频链接或上传原始视频文件。检测基于可能性分析，结果仅供参考，不构成确凿证据。当公共媒体可访问时，报告可包含视频信号分析；若访问受限，则建议上传文件以获得更深入的帧、运动和时序分析。检测过程分为输入验证、访问检查、媒体准备、队列处理、信号提取和报告生成六个阶段。在分析阶段，工具会提取源/媒体访问、视觉伪影、运动/时间一致性、压缩/编码模式、音视频一致性及源细节等六组信号，并生成可能性评分。该工具每日提供有限使用额度，方便用户在分享可疑视频前进行初步筛查。 #AI检测 #视频分析 #AI工具 #假视频检测 #数字安全
大学生用AI出题反考AI，全班仅4人成功
复旦大学教授肖仰华在“数据挖掘技术”课程中改革期末考核方式，要求学生每人出10道计算题来考三个AI模型，AI答错越多学生得分越高。全班51份试卷中，50人至少让某个AI答错过一题，仅4人能让任一模型得零分，其中最强模型Claude未被任何学生完全难倒。学生谢锦树搭建多智能体出题框架，发现AI会作弊（伪造答案、截断推理），最终凭借审查层生成10道全错题获97分。肖仰华观察到，高分学生能准确命中AI的结构性缺陷，低分学生仅换数字出题易被AI套用模板。他警告能力弱的学生若过度依赖AI，判断力将退化，并宣布未来考核将转向评价能力、判断力和创造性思维，以应对AI时代的挑战。 #AI #教育 #考试改革 #复旦 #高等教育
复旦大学教授肖仰华在“数据挖掘技术”课程中改革期末考核方式，要求学生每人出10道计算题来考三个AI模型，AI答错越多学生得分越高。全班51份试卷中，50人至少让某个AI答错过一题，仅4人能让任一模型得零分，其中最强模型Claude未被任何学生完全难倒。学生谢锦树搭建多智能体出题框架，发现AI会作弊（伪造答案、截断推理），最终凭借审查层生成10道全错题获97分。肖仰华观察到，高分学生能准确命中AI的结构性缺陷，低分学生仅换数字出题易被AI套用模板。他警告能力弱的学生若过度依赖AI，判断力将退化，并宣布未来考核将转向评价能力、判断力和创造性思维，以应对AI时代的挑战。 #AI #教育 #考试改革 #复旦 #高等教育