如何用元数据识破AI生成图像？
2023年3月，开源调查机构Bellingcat创始人Eliot Higgins用Midjourney生成了一组特朗普被捕的假图片，虽明确标注为AI生成，但截图传播后标签消失，数小时内被当作真实新闻疯传。这类事件层出不穷：教皇穿巴黎世家羽绒服、AI生成的毛伊岛山火“证据”、2024年大选中的虚假集会照片。真假界限日益模糊，但一个被忽视的真相是——许多AI图像生成器会在文件元数据中留下痕迹。 由Adobe、微软、OpenAI、谷歌及相机厂商组成的“内容来源与真实性联盟”（C2PA）制定了内容凭证标准。C2PA清单以加密签名嵌入图像文件，记录创建者、编辑过程及所用软件。OpenAI于2024年初为DALL-E 3输出添加C2PA，Adobe Firefly、Google ImageFX、Microsoft Designer等也均标注。此外，IPTC元数据标准中的“DigitalSourceType”字段可标明文件来源：值为“trainedAlgorithmicMedia”则来自生成模型，“digitalCapture”则为相机拍摄。EXIF软件字段也会泄露模型名称，如“Midjourney v6.1”或“Stable Diffusion XL”。近期一则“德黑兰抗议者”假图片在X、Telegram和Reddit疯传，研究者通过元数据发现其无GPS、无相机信息、软件字段空白，而XMP包中DigitalSourceType为“trainedAlgorithmicMedia”，证实为AI生成。不过，早期工具（如五角大楼爆炸假图、教皇羽绒服图）因未标记而无法追溯。元数据检测并非万能，但却是当下区分真伪的关键手段。 #AI图像 #元数据 #C2PA #假新闻 #数字取证 #内容安全 #科技
2023年3月，开源调查机构Bellingcat创始人Eliot Higgins用Midjourney生成了一组特朗普被捕的假图片，虽明确标注为AI生成，但截图传播后标签消失，数小时内被当作真实新闻疯传。这类事件层出不穷：教皇穿巴黎世家羽绒服、AI生成的毛伊岛山火“证据”、2024年大选中的虚假集会照片。真假界限日益模糊，但一个被忽视的真相是——许多AI图像生成器会在文件元数据中留下痕迹。 由Adobe、微软、OpenAI、谷歌及相机厂商组成的“内容来源与真实性联盟”（C2PA）制定了内容凭证标准。C2PA清单以加密签名嵌入图像文件，记录创建者、编辑过程及所用软件。OpenAI于2024年初为DALL-E 3输出添加C2PA，Adobe Firefly、Google ImageFX、Microsoft Designer等也均标注。此外，IPTC元数据标准中的“DigitalSourceType”字段可标明文件来源：值为“trainedAlgorithmicMedia”则来自生成模型，“digitalCapture”则为相机拍摄。EXIF软件字段也会泄露模型名称，如“Midjourney v6.1”或“Stable Diffusion XL”。近期一则“德黑兰抗议者”假图片在X、Telegram和Reddit疯传，研究者通过元数据发现其无GPS、无相机信息、软件字段空白，而XMP包中DigitalSourceType为“trainedAlgorithmicMedia”，证实为AI生成。不过，早期工具（如五角大楼爆炸假图、教皇羽绒服图）因未标记而无法追溯。元数据检测并非万能，但却是当下区分真伪的关键手段。 #AI图像 #元数据 #C2PA #假新闻 #数字取证 #内容安全 #科技
AI为何未能取代软件工程师，未来也不会
普林斯顿大学学者Arvind Narayanan和Sayash Kapoor撰文指出，尽管AI在软件工程领域能力最强、采用最快，但证据足以推翻“AI能力达到门槛后将导致大规模裁员”的叙事。他们将知识工作（包括软件开发）比作“决定-执行-交付”三明治：AI压缩了中间的“执行”层，但其他两层难以被自动化。文章引用了Block和Snap的裁员案例：Block创始人Dorsey声称AI使团队更扁平而裁员4000人，但后续报道显示公司因疫情期间扩招三倍面临财务压力，员工反映AI带来的生产力提升非常有限；Snap裁员1000人虽被归因于AI，但实际是对冲基金施压下的成本削减，且公司自IPO以来持续亏损。作者认为，即使在监管极少的软件行业，AI也未导致岗位消失，其他行业缓冲更大。不过，他们也指出个体工程师的职业道路可能崎岖，总体需求仍健康。 #AI #软件工程 #就业 #科技 #自动化 #经济学家 #未来工作 #人工智能 #裁员
普林斯顿大学学者Arvind Narayanan和Sayash Kapoor撰文指出，尽管AI在软件工程领域能力最强、采用最快，但证据足以推翻“AI能力达到门槛后将导致大规模裁员”的叙事。他们将知识工作（包括软件开发）比作“决定-执行-交付”三明治：AI压缩了中间的“执行”层，但其他两层难以被自动化。文章引用了Block和Snap的裁员案例：Block创始人Dorsey声称AI使团队更扁平而裁员4000人，但后续报道显示公司因疫情期间扩招三倍面临财务压力，员工反映AI带来的生产力提升非常有限；Snap裁员1000人虽被归因于AI，但实际是对冲基金施压下的成本削减，且公司自IPO以来持续亏损。作者认为，即使在监管极少的软件行业，AI也未导致岗位消失，其他行业缓冲更大。不过，他们也指出个体工程师的职业道路可能崎岖，总体需求仍健康。 #AI #软件工程 #就业 #科技 #自动化 #经济学家 #未来工作 #人工智能 #裁员
Hancom 助力 BGF 集团搭建 AI 知识检索系统
Hancom 宣布，基于其 AI 数据处理方案“Hancom Data Loader”和知识检索方案“HancomPedia”，已完成对 BGF 集团内部结构化与非结构化数据的整理与治理，使其具备 AI 读取和处理能力。BGF 集团正借助该方案推进 AI 知识检索系统建设，实现公告栏、业务文档及附件等数据的统一管理与智能化利用。项目以 Hancom 现有 AI 方案为基础，采用本地部署模式，确保内部数据不外泄，并融合 BGF 既有的安全策略与权限体系。系统还支持灵活对接国内外大语言模型（LLM）。HancomPedia 提供 RAG 检索、自然语言问答、AI Agent 及深度检索等功能。Hancom CEO 表示，将数据安全转化为 AI 资产已成为企业竞争力的关键，未来将以此合作为基础开拓企业级 AX 市场。 #Hancom #BGF集团 #AI #知识检索 #企业级AI #RAG #数据安全 #本地部署 #人工智能 #科技新闻
Hancom 宣布，基于其 AI 数据处理方案“Hancom Data Loader”和知识检索方案“HancomPedia”，已完成对 BGF 集团内部结构化与非结构化数据的整理与治理，使其具备 AI 读取和处理能力。BGF 集团正借助该方案推进 AI 知识检索系统建设，实现公告栏、业务文档及附件等数据的统一管理与智能化利用。项目以 Hancom 现有 AI 方案为基础，采用本地部署模式，确保内部数据不外泄，并融合 BGF 既有的安全策略与权限体系。系统还支持灵活对接国内外大语言模型（LLM）。HancomPedia 提供 RAG 检索、自然语言问答、AI Agent 及深度检索等功能。Hancom CEO 表示，将数据安全转化为 AI 资产已成为企业竞争力的关键，未来将以此合作为基础开拓企业级 AX 市场。 #Hancom #BGF集团 #AI #知识检索 #企业级AI #RAG #数据安全 #本地部署 #人工智能 #科技新闻
“AI Slop”指控难以准确识别AI生成文本
一篇发表于arXiv的研究论文指出，当前网络环境中针对AI生成文本的“AI Slop”式指控缺乏有效性和可靠性。该论文由Jason Miklian等学者撰写，旨在探究在线讨论中用户对大型语言模型（LLM）生成评论的指控、证据与可信度之间的关系。研究发现，许多指控基于主观臆断或情绪化表达，而非客观的检测依据，导致大量真实AI文本被误判或漏判，同时加剧了网络信任危机。研究人员强调，仅凭“AI Slop”这一标签无法准确筛选AI内容，反而可能助长虚假信息传播和群体对立。该成果为社交媒体内容审核、AI伦理治理及公众理性认知提供了重要警示，呼吁建立更为严谨和透明的AI文本识别机制。 #AI #人工智能 #AI文本检测 #社交媒体 #内容审核 #arXiv #研究论文 #LLM #虚假信息 #网络治理
一篇发表于arXiv的研究论文指出，当前网络环境中针对AI生成文本的“AI Slop”式指控缺乏有效性和可靠性。该论文由Jason Miklian等学者撰写，旨在探究在线讨论中用户对大型语言模型（LLM）生成评论的指控、证据与可信度之间的关系。研究发现，许多指控基于主观臆断或情绪化表达，而非客观的检测依据，导致大量真实AI文本被误判或漏判，同时加剧了网络信任危机。研究人员强调，仅凭“AI Slop”这一标签无法准确筛选AI内容，反而可能助长虚假信息传播和群体对立。该成果为社交媒体内容审核、AI伦理治理及公众理性认知提供了重要警示，呼吁建立更为严谨和透明的AI文本识别机制。 #AI #人工智能 #AI文本检测 #社交媒体 #内容审核 #arXiv #研究论文 #LLM #虚假信息 #网络治理