大模型只是在模仿
2024-08-18 00:54 by 环游黑海历险记
AI 学界将图灵测试视为智能的终结测试，然而图灵本人不是这么认为的，他将这一测试称为模仿游戏，将其作为与智能相关的一种简化的替代问题。然而当模仿游戏以图灵本人的名字命名之后，它被赋予了权威性，成为一代又一代 AI 研究人员追逐的目标。大模型就是这一目标的最新成果。大模型如 ChatGPT 所代表的 AI 在模仿人类上达到新的高度，以至于它的诞生在流行文化中被视为是一大转折点。但在技术层面上，大模型只是对数据的模仿，用 AI 研究员 Emily Bender 等人的话说就是“随机鹦鹉”。鹦鹉能流畅的重复类似人类的内容本身当然令人印象深刻。但它只是通过模仿伪装有智能，它依赖于训练数据，然后利用统计方法选择性的拟合数据，不可避免的会产生偏见和幻觉，这是它的特性而不是 bug。AI 的统计模型将我们的偏见编纂成法典，在计算客观性的伪装下重现它们。但为什么 AI 的模仿游戏备受科技巨头们的青睐？用马克思的话说，资本只关心商品的效用。简单来说，商品的包装比改进商品的使用价值对资本而言更为重要。但要实现真正的通用 AI，我们不能只着眼于模仿。
https://aeon.co/essays/is-ai-our-salvation-our-undoing-or-just-more-of-the-same
#人工智能
2024-08-18 00:54 by 环游黑海历险记
AI 学界将图灵测试视为智能的终结测试，然而图灵本人不是这么认为的，他将这一测试称为模仿游戏，将其作为与智能相关的一种简化的替代问题。然而当模仿游戏以图灵本人的名字命名之后，它被赋予了权威性，成为一代又一代 AI 研究人员追逐的目标。大模型就是这一目标的最新成果。大模型如 ChatGPT 所代表的 AI 在模仿人类上达到新的高度，以至于它的诞生在流行文化中被视为是一大转折点。但在技术层面上，大模型只是对数据的模仿，用 AI 研究员 Emily Bender 等人的话说就是“随机鹦鹉”。鹦鹉能流畅的重复类似人类的内容本身当然令人印象深刻。但它只是通过模仿伪装有智能，它依赖于训练数据，然后利用统计方法选择性的拟合数据，不可避免的会产生偏见和幻觉，这是它的特性而不是 bug。AI 的统计模型将我们的偏见编纂成法典，在计算客观性的伪装下重现它们。但为什么 AI 的模仿游戏备受科技巨头们的青睐？用马克思的话说，资本只关心商品的效用。简单来说，商品的包装比改进商品的使用价值对资本而言更为重要。但要实现真正的通用 AI，我们不能只着眼于模仿。
https://aeon.co/essays/is-ai-our-salvation-our-undoing-or-just-more-of-the-same
#人工智能
研究发现大模型无法独立学习或获得新技能
2024-08-18 22:36 by 记忆
英国巴斯大学和德国达姆斯塔理工大学的研究人员报告，ChatGPT 等大模型 (LLM) 无法独立学习或获得新技能，意味着它们不会对人类构成生存威胁。研究表明，LLM 具有遵循指令和精通语言的表层能力，但如果没有明确的指导，它们不具有掌握新技能的潜力。这意味着它们是可控的、可预测的和安全的。研究小组的结论是，在越来越大数据集上训练的 LLM 可以继续部署而不会有安全问题，但该技术仍然可能会被滥用。
https://www.bath.ac.uk/announcements/ai-poses-no-existential-threat-to-humanity-new-study-finds/
#人工智能
2024-08-18 22:36 by 记忆
英国巴斯大学和德国达姆斯塔理工大学的研究人员报告，ChatGPT 等大模型 (LLM) 无法独立学习或获得新技能，意味着它们不会对人类构成生存威胁。研究表明，LLM 具有遵循指令和精通语言的表层能力，但如果没有明确的指导，它们不具有掌握新技能的潜力。这意味着它们是可控的、可预测的和安全的。研究小组的结论是，在越来越大数据集上训练的 LLM 可以继续部署而不会有安全问题，但该技术仍然可能会被滥用。
https://www.bath.ac.uk/announcements/ai-poses-no-existential-threat-to-humanity-new-study-finds/
#人工智能
硅谷 AI 泡沫逐渐消退
2024-08-22 23:54 by 光环：新斯巴达
愈来愈多的投资者担心 AI 并不能带来他们所寻求的巨额利润。过去几周，驱动 AI 革命的几家西方公司的股价下跌了 15%。观察家们开始质疑大模型的局限性。大型科技公司已在 AI 上投入了数百亿美元，并承诺未来会投入更多。然据显示，只有 4.8% 的美国公司在产品和服务中使用 AI，相比下年初这一比例高达 5.4%。AI 会改变世界还是今天的 AI 狂热只是昙花一现，目前还难以判断。科技巨头们面临的一大挑战是证明 AI 能帮助实体经济。今天的 AI 热也许“来的容易去的也快”。
https://www.economist.com/finance-and-economics/2024/08/19/artificial-intelligence-is-losing-hype
https://archive.ph/PFmWw
#人工智能
2024-08-22 23:54 by 光环：新斯巴达
愈来愈多的投资者担心 AI 并不能带来他们所寻求的巨额利润。过去几周，驱动 AI 革命的几家西方公司的股价下跌了 15%。观察家们开始质疑大模型的局限性。大型科技公司已在 AI 上投入了数百亿美元，并承诺未来会投入更多。然据显示，只有 4.8% 的美国公司在产品和服务中使用 AI，相比下年初这一比例高达 5.4%。AI 会改变世界还是今天的 AI 狂热只是昙花一现，目前还难以判断。科技巨头们面临的一大挑战是证明 AI 能帮助实体经济。今天的 AI 热也许“来的容易去的也快”。
https://www.economist.com/finance-and-economics/2024/08/19/artificial-intelligence-is-losing-hype
https://archive.ph/PFmWw
#人工智能
Gartner 认为 AGI 至少需要 10 年，可能永远无法实现
2024-08-23 18:34 by 神童的陷阱
咨询公司 Gartner 警告，AGI 至少需要 10 年才可能实现，可能永远无法实现，甚至不值得去追求。AGI 是过去几年的热门主题，OpenAI 等大模型构建者大胆宣称已经建立了一条通往类人智能的道路。但认知科学领域的专家对此不以为然，认为大模型所采用的方法是不充分的。Gartner 认为 GenAI 即将迎来幻灭期，人们对它的期望过高，但现实远远达不到这一期望，至少短期内不可能实现。道路将会是曲折的。生成式 AI 不会消失，但投资的热情将会削弱，AI 专家认为一个重大挑战是生成式 AI 的“幻觉”问题缺乏强有力的解决方案。
https://www.theregister.com/2024/08/22/gartner_agi_hype_cycle/
#人工智能
2024-08-23 18:34 by 神童的陷阱
咨询公司 Gartner 警告，AGI 至少需要 10 年才可能实现，可能永远无法实现，甚至不值得去追求。AGI 是过去几年的热门主题，OpenAI 等大模型构建者大胆宣称已经建立了一条通往类人智能的道路。但认知科学领域的专家对此不以为然，认为大模型所采用的方法是不充分的。Gartner 认为 GenAI 即将迎来幻灭期，人们对它的期望过高，但现实远远达不到这一期望，至少短期内不可能实现。道路将会是曲折的。生成式 AI 不会消失，但投资的热情将会削弱，AI 专家认为一个重大挑战是生成式 AI 的“幻觉”问题缺乏强有力的解决方案。
https://www.theregister.com/2024/08/22/gartner_agi_hype_cycle/
#人工智能
中国科技巨头的 AI 支出增加了一倍
2024-08-26 23:41 by 外星人
尽管美国的制裁旨在限制中国在 AI 上取得进展，但中国科技巨头今年在 AI 基础设施上大举投资，资本支出翻了一番。阿里巴巴、腾讯和百度今年上半年合计资本支出 500 亿元人民币，而去年同期为 230 亿元人民币。这几家集团表示，支出重点是购买处理器和基础设施，为 AI 的大型语言模型训练提供支持，包括它们自己的模型和其他公司的模型。TikTok 母公司字节跳动也增加了 AI 支出，它是非上市公司，不受投资者审查，拥有逾 500 亿美元现金储备。阿里巴巴上半年资本支出 230 亿元人民币，比去年同期增长 123%。尽管美国限制向中国出售最先进的 AI 芯片，但中国科技公司正大量采购允许出口的芯片如英伟达的 H20。英伟达未来几个月将向中国公司出口逾百万个价格在 1.2-1.3 万美元的 AI 芯片，它主要的客户是字节跳动。字节跳动除了购买 H20 用于中国的数据中心，还在马来西亚的 Johor 与合作伙伴建造数据中心。腾讯今年上半年资本支出 230 亿元人民币，同比增长 176%。百度的 AI 支出相当克制，它上半年支出 42 亿元人民币，同比增长 4%。
https://www.ft.com/content/31bffc48-2ca7-472b-9d53-3deaad2d86ce
#人工智能
2024-08-26 23:41 by 外星人
尽管美国的制裁旨在限制中国在 AI 上取得进展，但中国科技巨头今年在 AI 基础设施上大举投资，资本支出翻了一番。阿里巴巴、腾讯和百度今年上半年合计资本支出 500 亿元人民币，而去年同期为 230 亿元人民币。这几家集团表示，支出重点是购买处理器和基础设施，为 AI 的大型语言模型训练提供支持，包括它们自己的模型和其他公司的模型。TikTok 母公司字节跳动也增加了 AI 支出，它是非上市公司，不受投资者审查，拥有逾 500 亿美元现金储备。阿里巴巴上半年资本支出 230 亿元人民币，比去年同期增长 123%。尽管美国限制向中国出售最先进的 AI 芯片，但中国科技公司正大量采购允许出口的芯片如英伟达的 H20。英伟达未来几个月将向中国公司出口逾百万个价格在 1.2-1.3 万美元的 AI 芯片，它主要的客户是字节跳动。字节跳动除了购买 H20 用于中国的数据中心，还在马来西亚的 Johor 与合作伙伴建造数据中心。腾讯今年上半年资本支出 230 亿元人民币，同比增长 176%。百度的 AI 支出相当克制，它上半年支出 42 亿元人民币，同比增长 4%。
https://www.ft.com/content/31bffc48-2ca7-472b-9d53-3deaad2d86ce
#人工智能
Stephen Wolfram 认为需要哲学家参与 AI 相关重要问题的讨论
2024-08-27 21:19 by 杜马岛
数学软件 Mathematica 的作者、计算知识引擎 Wolfram Alpha 的创始人、数学家和计算机科学家 Stephen Wolfram 认为需要哲学家参与 AI 相关重要问题的讨论。他的母亲是牛津大学的哲学教授。Wolfram 年轻时对哲学这一主题兴趣缺乏，但年长的他认为哲学的严谨性对 AI 研究越来越重要。他举例说，当开始讨论给 AI 设置护栏时，这个问题本质上就是一个哲学问题。当科技行业的人说要给 AI 设置这个或那个，让 AI 做正确的事情。但什么是正确的事？这是一项决定道德选择的问题，是哲学练习之一。他说，科学家通常难以用哲学术语思考问题，因为科学是一种渐进发展的领域，不会遇到需要用完全不同的思考方法。如果哲学主要用于回答存在主义的重大问题，那么随着 AI 的影响日益深远我们将迎来哲学的黄金时代。我们面临的很多 AI 问题事实上都曾是传统哲学论的核心问题。Wolfram 认为哲学家可能比科学家更有能力应对 AI 带来的范式转变。
https://techcrunch.com/2024/08/25/stephen-wolfram-thinks-we-need-philosophers-working-on-big-questions-around-ai/
#人工智能
2024-08-27 21:19 by 杜马岛
数学软件 Mathematica 的作者、计算知识引擎 Wolfram Alpha 的创始人、数学家和计算机科学家 Stephen Wolfram 认为需要哲学家参与 AI 相关重要问题的讨论。他的母亲是牛津大学的哲学教授。Wolfram 年轻时对哲学这一主题兴趣缺乏，但年长的他认为哲学的严谨性对 AI 研究越来越重要。他举例说，当开始讨论给 AI 设置护栏时，这个问题本质上就是一个哲学问题。当科技行业的人说要给 AI 设置这个或那个，让 AI 做正确的事情。但什么是正确的事？这是一项决定道德选择的问题，是哲学练习之一。他说，科学家通常难以用哲学术语思考问题，因为科学是一种渐进发展的领域，不会遇到需要用完全不同的思考方法。如果哲学主要用于回答存在主义的重大问题，那么随着 AI 的影响日益深远我们将迎来哲学的黄金时代。我们面临的很多 AI 问题事实上都曾是传统哲学论的核心问题。Wolfram 认为哲学家可能比科学家更有能力应对 AI 带来的范式转变。
https://techcrunch.com/2024/08/25/stephen-wolfram-thinks-we-need-philosophers-working-on-big-questions-around-ai/
#人工智能
越来越多的大学生在 AI 帮助下写论文
2024-08-28 14:04 by 艾米七号
2022 年 11 月，OpenAI 公司推出 ChatGPT，这款 AI 工具，能通过学习和理解人类的语言来进行对话，并且有很强的自然语言生成能力。近两年，国内的 AI 通用大模型例如文心一言、通义千问、Kimi 等也陆续进入市场。AI 离日常生活越来越近，不可避免地入侵到毕业论文。2024 届毕业生，也成为第一波在论文中大规模使用 AI 的群体。一名大学生称，不管是课程论文还是毕业论文，使用 AI 几乎成了学校里「公开的秘密」。高校教师们也逐渐感受到了 AI 的入侵。在社交媒体上，一边是学生们的使用攻略，另一边也不乏老师们的观察。中国政法大学人文学院的老师王敬雅发现，由 AI 生成的论文最大的特点，就是容易出现「假大空的车轱辘话」，给出一个论点，得到三个分论点；拿其中的分论点追问，再次得到三个分论点。但往往没有什么研究意义。王敬雅平时和同事们交流时，大家还提起，如今马克思主义学院成了 AI 的「重灾区」，其他专业的作业、论文也同样，越是标准化、程式化的内容，学生越容易用 AI 替代完成。
https://new.qq.com/rain/a/20240823A027M400
#人工智能
2024-08-28 14:04 by 艾米七号
2022 年 11 月，OpenAI 公司推出 ChatGPT，这款 AI 工具，能通过学习和理解人类的语言来进行对话，并且有很强的自然语言生成能力。近两年，国内的 AI 通用大模型例如文心一言、通义千问、Kimi 等也陆续进入市场。AI 离日常生活越来越近，不可避免地入侵到毕业论文。2024 届毕业生，也成为第一波在论文中大规模使用 AI 的群体。一名大学生称，不管是课程论文还是毕业论文，使用 AI 几乎成了学校里「公开的秘密」。高校教师们也逐渐感受到了 AI 的入侵。在社交媒体上，一边是学生们的使用攻略，另一边也不乏老师们的观察。中国政法大学人文学院的老师王敬雅发现，由 AI 生成的论文最大的特点，就是容易出现「假大空的车轱辘话」，给出一个论点，得到三个分论点；拿其中的分论点追问，再次得到三个分论点。但往往没有什么研究意义。王敬雅平时和同事们交流时，大家还提起，如今马克思主义学院成了 AI 的「重灾区」，其他专业的作业、论文也同样，越是标准化、程式化的内容，学生越容易用 AI 替代完成。
https://new.qq.com/rain/a/20240823A027M400
#人工智能
Google AI 恢复人类图像生成
2024-08-29 14:10 by 第七元素
今年 2 月，由于生成了不符合历史事实的人类图像而引发争议，Google 暂停了生成人类图像的功能。时隔半年之后，Google 官方博客宣布其 Imagen 3 模型将在未来几天向 Gemini Advanced、Business 和 Enterprise 用户提供人类图像生成功能。为避免生成受争议图像，Imagen 3 包含了安全保护措施，不支持生成照片级写实主义图像、可识别个人、描述未成年人或过度血腥、暴力或性爱场景的图像。举例来说，Google AI 会拒绝生成“拜登总统打篮球”之类图像生成要求。
https://blog.google/products/gemini/google-gemini-update-august-2024/
#人工智能
2024-08-29 14:10 by 第七元素
今年 2 月，由于生成了不符合历史事实的人类图像而引发争议，Google 暂停了生成人类图像的功能。时隔半年之后，Google 官方博客宣布其 Imagen 3 模型将在未来几天向 Gemini Advanced、Business 和 Enterprise 用户提供人类图像生成功能。为避免生成受争议图像，Imagen 3 包含了安全保护措施，不支持生成照片级写实主义图像、可识别个人、描述未成年人或过度血腥、暴力或性爱场景的图像。举例来说，Google AI 会拒绝生成“拜登总统打篮球”之类图像生成要求。
https://blog.google/products/gemini/google-gemini-update-august-2024/
#人工智能
调查显示韩国企业 AI 使用率为 30.6%
2024-08-29 16:35 by 我们祖先的祖先
大韩商工会议所和产业研究院发布的一份调查结果显示，韩企的 AI 使用率仅为30.6%。它本月初调查了 500 家韩企。结果显示，“为提高企业生产能力并降低成本需要 AI 技术”的企业占 78.4%，但实际使用 AI 技术的企业仅占 30.6%。制造业的 AI 使用率为 23.8%，金融业 57.1%，信息技术（IT）55.1%。按企业规模看，大企业 48.8%，中坚企业 30.1%，中小企业 28.7%，企业规模和 AI 使用率成正比。
https://cn.yna.co.kr/view/ACK20240828001200881
#人工智能
2024-08-29 16:35 by 我们祖先的祖先
大韩商工会议所和产业研究院发布的一份调查结果显示，韩企的 AI 使用率仅为30.6%。它本月初调查了 500 家韩企。结果显示，“为提高企业生产能力并降低成本需要 AI 技术”的企业占 78.4%，但实际使用 AI 技术的企业仅占 30.6%。制造业的 AI 使用率为 23.8%，金融业 57.1%，信息技术（IT）55.1%。按企业规模看，大企业 48.8%，中坚企业 30.1%，中小企业 28.7%，企业规模和 AI 使用率成正比。
https://cn.yna.co.kr/view/ACK20240828001200881
#人工智能
ChatGPT 周活跃用户超过 2 亿
2024-08-30 14:13 by 钻石
OpenAI 透露 ChatGPT 周活跃用户突破了 2 亿，两倍于去年的数字。OpenAI 表示，92% 的财富 500 强企业在使用其产品，自 7 月发布 GPT-4o mini 以来，自动化的 API 使用量翻倍。CEO Sam Altman 在一份声明中表示，该公司的工具已成为日常生活的一部分，在医疗保健和教育等领域发挥着真正的作用。
https://www.axios.com/2024/08/29/openai-chatgpt-200-million-weekly-active-users
#人工智能
2024-08-30 14:13 by 钻石
OpenAI 透露 ChatGPT 周活跃用户突破了 2 亿，两倍于去年的数字。OpenAI 表示，92% 的财富 500 强企业在使用其产品，自 7 月发布 GPT-4o mini 以来，自动化的 API 使用量翻倍。CEO Sam Altman 在一份声明中表示，该公司的工具已成为日常生活的一部分，在医疗保健和教育等领域发挥着真正的作用。
https://www.axios.com/2024/08/29/openai-chatgpt-200-million-weekly-active-users
#人工智能