从业人员,相关行业做基础研究也做应用,看到博主愿意宣传ds,并且花费大力气让绝大多数人能听懂的语言去科普,让大家关注到国产模型的发展,超欣慰!
希望提出观点,从大宏观和小叙事补充对大模型发展的理解。
首先是大宏观:通用性和普惠性是迈向AGI必由之路,国外诸多大佬的表态(尤其是山姆,从时间上推测当时他应该正在和微软谈openai转向“closeAI”的事情)在于深度求索改变了模型预训练的成本模型,将迭代开销往下降了一个大台阶,这意味着仅需要有限的资源就可以保障现有模型的版本迭代,更多的资源可以被投入到多模态,深度思考等创新方向中,同样意味着后发企业(如雷总)可以站在ds的肩膀上用有限的资源组织起其特定用途专业大模型。其贡献是里程碑性质的,如上山开路。
对于小叙事:从为适配国内模型日均3.6峰值4.2亿tokens冗余消耗,到现在dsv3日均1.76亿峰值2.1亿tokens的生产消耗,我们在不断接受和认可国内大模型技术发展带来的冲击,节约下来的成本让我们能有更大的利润空间,更多试错机会,养更多的员工,活的更久,提供更多的安全生产服务。现在想想,如果没有国内大厂相继开卷,对我们来说也许开始就是终局。
最后:未来依旧悲观,但只要前行,便充满希望。受限于地缘因素,地球村的对抗会愈发加剧,咬住openai与claude并实现局部领先很可能是未来两年内国内大模型厂商发展的主旋律。现在是新旧交替的关键阶段,新玩家正在跑步接力,而牌桌上已经有人不得已弃牌掉队,向上合并了(如果ds早点发布,也许六小虎的产业发展格局还能再苟一年)。中国的人工智能尚在襁褓阶段,很高兴我能为它的发展出一份力。
希望提出观点,从大宏观和小叙事补充对大模型发展的理解。
首先是大宏观:通用性和普惠性是迈向AGI必由之路,国外诸多大佬的表态(尤其是山姆,从时间上推测当时他应该正在和微软谈openai转向“closeAI”的事情)在于深度求索改变了模型预训练的成本模型,将迭代开销往下降了一个大台阶,这意味着仅需要有限的资源就可以保障现有模型的版本迭代,更多的资源可以被投入到多模态,深度思考等创新方向中,同样意味着后发企业(如雷总)可以站在ds的肩膀上用有限的资源组织起其特定用途专业大模型。其贡献是里程碑性质的,如上山开路。
对于小叙事:从为适配国内模型日均3.6峰值4.2亿tokens冗余消耗,到现在dsv3日均1.76亿峰值2.1亿tokens的生产消耗,我们在不断接受和认可国内大模型技术发展带来的冲击,节约下来的成本让我们能有更大的利润空间,更多试错机会,养更多的员工,活的更久,提供更多的安全生产服务。现在想想,如果没有国内大厂相继开卷,对我们来说也许开始就是终局。
最后:未来依旧悲观,但只要前行,便充满希望。受限于地缘因素,地球村的对抗会愈发加剧,咬住openai与claude并实现局部领先很可能是未来两年内国内大模型厂商发展的主旋律。现在是新旧交替的关键阶段,新玩家正在跑步接力,而牌桌上已经有人不得已弃牌掉队,向上合并了(如果ds早点发布,也许六小虎的产业发展格局还能再苟一年)。中国的人工智能尚在襁褓阶段,很高兴我能为它的发展出一份力。