https://www.youtube.com/watch?v=06-AZXmwHjo
去tmd改模型,现在层出不穷的模型搞得我头大,是深度学习行业从业者的主要焦虑来源,改模型又做不出Transformer 和 MLP 那种工作,就修修补补一点都不好玩。甚至都是改完之后排列组合看看是否 work 再去想怎么写论文,真的愚蠢。最近接触了MLOps,看了吴恩达的这个分享,讲的非常清晰。
MLOps 最重要的就是维护 data 和 model 的版本。跟传统的 DevOps 想比,其会多维护 data 的版本,这一步就促成了众多的创业公司,做云原生数仓的,做数据孪生的,做联邦学习的,做主动学习的等等。数据驱动的方法数据总归是更核心的部分,并且更加有效。虽然数据驱动是有边际效应的,越到后面数据数量的增加不一定会提升性能,其ROI(投入产出比)会降低。
但是数据质量的提高比数量的提升更为重要,推荐系统里面的特征工程,图像数据和真实场景里面的标签噪声、类别不平衡等等问题会启发我们去提高数据质量,我认为这是三五年之内算法工程师需要尤其关注的路子。
虽然从时间长河来看,人工智能最终一定会回归模型驱动,但是数据驱动这条路一定不会没落,我仍认为之后出的千奇百怪的模型一定也需要高质量数据的支撑,仍旧是数据驱动的方法。只是之后的模型会更好地利用数据,我觉得这需要对于业务(也就是数据)的理解程度敏感性,推荐系统是多模态数据的融合,自动驾驶是多传感器感知数据的融合,这离不开对于数据的深入挖掘。
非常支持吴恩达的观点:From Model-centric to Data-centric AI
去tmd改模型,现在层出不穷的模型搞得我头大,是深度学习行业从业者的主要焦虑来源,改模型又做不出Transformer 和 MLP 那种工作,就修修补补一点都不好玩。甚至都是改完之后排列组合看看是否 work 再去想怎么写论文,真的愚蠢。最近接触了MLOps,看了吴恩达的这个分享,讲的非常清晰。
MLOps 最重要的就是维护 data 和 model 的版本。跟传统的 DevOps 想比,其会多维护 data 的版本,这一步就促成了众多的创业公司,做云原生数仓的,做数据孪生的,做联邦学习的,做主动学习的等等。数据驱动的方法数据总归是更核心的部分,并且更加有效。虽然数据驱动是有边际效应的,越到后面数据数量的增加不一定会提升性能,其ROI(投入产出比)会降低。
但是数据质量的提高比数量的提升更为重要,推荐系统里面的特征工程,图像数据和真实场景里面的标签噪声、类别不平衡等等问题会启发我们去提高数据质量,我认为这是三五年之内算法工程师需要尤其关注的路子。
虽然从时间长河来看,人工智能最终一定会回归模型驱动,但是数据驱动这条路一定不会没落,我仍认为之后出的千奇百怪的模型一定也需要高质量数据的支撑,仍旧是数据驱动的方法。只是之后的模型会更好地利用数据,我觉得这需要对于业务(也就是数据)的理解程度敏感性,推荐系统是多模态数据的融合,自动驾驶是多传感器感知数据的融合,这离不开对于数据的深入挖掘。
非常支持吴恩达的观点:From Model-centric to Data-centric AI
YouTube
A Chat with Andrew on MLOps: From Model-centric to Data-centric AI
In this event, Dr.Andrew Ng shared the skills he sees as fundamental to the next generation of machine learning practitioners, and followed with a Q&A.
Let us know what you think of the presentation by filling out a quick survey at http://bit.ly/30yeWuO…
Let us know what you think of the presentation by filling out a quick survey at http://bit.ly/30yeWuO…
前段时间听播客也听到了USB协议命名混乱的问题,重温经典,将现有的传输速度及对应的命名整理如下。据说USB4是在 Thunderbolt3的基础上设计的,期待大一统时代的到来
除了USB协议,手机厂商的各种私有充电协议也是奇奇怪怪,现在仍处于技术的喷薄期,大家都想用充电速度来缓解电量焦虑,用户是乐意见到的。不过苹果你啥时候能长点心🌝,iPhone的电量焦虑是我重返苹果生态的最大阻碍,M1 的 macbook是真的香,续航真心无敌
5 Gbps: USB 3.2 GEN 1
10Gbps: USB 3.2 GEN 2
20Gbps: USB 3.2 GEN 2x2
40Gbps: Thunderbolt3
除了USB协议,手机厂商的各种私有充电协议也是奇奇怪怪,现在仍处于技术的喷薄期,大家都想用充电速度来缓解电量焦虑,用户是乐意见到的。不过苹果你啥时候能长点心🌝,iPhone的电量焦虑是我重返苹果生态的最大阻碍,M1 的 macbook是真的香,续航真心无敌
5 Gbps: USB 3.2 GEN 1
10Gbps: USB 3.2 GEN 2
20Gbps: USB 3.2 GEN 2x2
40Gbps: Thunderbolt3
Muyun99的杂谈
芜湖,给下学期俱乐部的 Hackathon 申请到了 5 个 Jetson Nano ,居然薅 NVIDIA 的羊毛成功了。
到了到了,开箱部署个模型试试,前段时间复盘了下上次Hackathon的代码,发现是输入尺寸太大了导致模型速度贼慢...
近期抽空转一下ncnn然后部署到NANO上看下性能情况
近期抽空转一下ncnn然后部署到NANO上看下性能情况
https://github.blog/changelog/2021-08-12-git-password-authentication-is-shutting-down/
去年底,GitHub 通知之后不能通过账号密码登录了,换而通过 tokens 来登录。
时间刚好截止到August 13, 2021, at 09:00 PST,今天 git push 的时候发现 403 了,换成 token 授权了
去年底,GitHub 通知之后不能通过账号密码登录了,换而通过 tokens 来登录。
时间刚好截止到August 13, 2021, at 09:00 PST,今天 git push 的时候发现 403 了,换成 token 授权了
The GitHub Blog
Git password authentication is shutting down - GitHub Changelog
As previously announced, starting on August 13, 2021, at 09:00 PST, we will no longer accept account passwords when authenticating Git operations on GitHub.com. Instead, token-based authentication (for example, personal…