AI参与同行评审

两位软件工程研究者发现，人工智能已悄然渗透进同行评审流程，但学术界尚未就合理使用规范展开充分讨论。在今年的国际软件工程大会上，委员会发现多篇录用论文出现AI生成的虚假引用，引发强烈争议。作者Emerson Murphy-Hill和Christian Bird回顾了各自独立开发的AI辅助评审工作流，发现彼此的做法高度相似。他们从实践中总结出初步使用指南，呼吁学界正视AI在评审中的角色，建立明确统一的规范，而非陷入道德恐慌。文章指出，目前官方对评审者使用AI的指导极为简略，亟需深入对话。 #AI #同行评审 #学术诚信 #研究规范 #ICSE #软件工程 #伦理 #学术写作

AI 加剧社会分裂，LLM 本质与局限引思考

当前 AI 领域出现多个极端阵营，如“AI 将取代人类”、“AGI 已来临”、“不惜代价拒绝 AI”等，这些立场源于 LLM 展现的惊人智能，同时也伴随着大规模失业、内容泛滥和 AI 诈骗等问题。这种阵营对立可能在社会层面产生广泛影响。文章指出，LLM 本质上是基于 Transformer 模块的数学网络，通过训练数据中的模式来生成最可能的下一词，因此它更像一个“隐喻引擎”——在不确定时会从大概率正确滑向合理但错误的答案。作者借用“中文房间”思想实验指出，LLM 能够输出看似理解的内容，但实际并不具备真正理解能力。AI 可能无法回避，人类需要学会与之共存，并认清其本质局限。 #AI #LLM #人工智能 #社会分裂 #中文房间 #技术批判 #AGI #AI 风险