Muyun99的杂谈
134 subscribers
734 photos
13 videos
16 files
435 links
Download Telegram
今晚的核酸排队之路
从和园食堂排队排到东区36栋,发现不能再后退了,再后退要到中航樾府了,所以开始往新材料学院排
今日份的核酸检测志愿者工作结束了嚯
近几天的奥运会听到了好多评论。我本以为等我们这代人到了20多岁,大家的教育程度和素质会有提升,但是偏执爱国的评论不绝于耳,客观思考在主观随大流面前甚至站不住脚,这也是劣币驱逐良币。以上种种到底是社会的弱点还是人性的劣根呢
源自知乎,已经笑死:南京政府处理疫情能力已达欧美发达国家水平
我直接好家伙,流调分析就这啊
姚班出品的人工智能鉴定App,总感觉有点搞笑呢
苦中作乐
关于高考的杂思 - 田渊栋的文章 - 知乎
https://zhuanlan.zhihu.com/p/378250408

"等到长大了开始直面真实世界,社会就露出了凶残的獠牙,虽然目标仍然明确,但再也没有按部就班的学习资源,学习任务变成了半监督、自监督和强化学习,得要自己给自己找事做,自我评判,主动探索,自我总结,找高手请教帮忙,等等。

既然最终的目标并非有监督学习,那么小时候的教育还是要集中在有监督学习呢?我想这是因为它的可靠性和标准化。就像我们在做任何一件新任务的时候,一开始永远是拿现成数据做一做模仿学习看看效果的。我们几乎可以确认,它不会产生特别好的结果,也不会是最后结稿方案的主力,但却是最有把握,风险也最小的方案。

虽然这个方案及其可靠,但它作为一种预训练的手段而非目的,最终还是通过这种方案学到更好的神经表示,为以后的下游实际任务作出贡献。这一点还是要记得清楚的。如果天真地以为整个人生都是“给什么答案就学习什么”,坐等答案和指示上门,那以后发展的路子就窄了,而且随着人工智能的进展,这部分给一说一的有监督学习技能,是最有可能被淘汰的。"
上周整理了下自己建立知识体系的工作流,以上是个人感悟。三个阶段分别代表:信息输入,信息内化,知识输出
http://yuandong-tian.com/novel.html

FAIR 田渊栋老师的一些文字,喜欢看他写的论文和文章,读起来很舒服
四川麻将馆情景再现
https://www.youtube.com/watch?v=06-AZXmwHjo

去tmd改模型,现在层出不穷的模型搞得我头大,是深度学习行业从业者的主要焦虑来源,改模型又做不出Transformer 和 MLP 那种工作,就修修补补一点都不好玩。甚至都是改完之后排列组合看看是否 work 再去想怎么写论文,真的愚蠢。最近接触了MLOps,看了吴恩达的这个分享,讲的非常清晰。

MLOps 最重要的就是维护 data 和 model 的版本。跟传统的 DevOps 想比,其会多维护 data 的版本,这一步就促成了众多的创业公司,做云原生数仓的,做数据孪生的,做联邦学习的,做主动学习的等等。数据驱动的方法数据总归是更核心的部分,并且更加有效。虽然数据驱动是有边际效应的,越到后面数据数量的增加不一定会提升性能,其ROI(投入产出比)会降低。

但是数据质量的提高比数量的提升更为重要,推荐系统里面的特征工程,图像数据和真实场景里面的标签噪声、类别不平衡等等问题会启发我们去提高数据质量,我认为这是三五年之内算法工程师需要尤其关注的路子。

虽然从时间长河来看,人工智能最终一定会回归模型驱动,但是数据驱动这条路一定不会没落,我仍认为之后出的千奇百怪的模型一定也需要高质量数据的支撑,仍旧是数据驱动的方法。只是之后的模型会更好地利用数据,我觉得这需要对于业务(也就是数据)的理解程度敏感性,推荐系统是多模态数据的融合,自动驾驶是多传感器感知数据的融合,这离不开对于数据的深入挖掘。

非常支持吴恩达的观点:From Model-centric to Data-centric AI
前段时间听播客也听到了USB协议命名混乱的问题,重温经典,将现有的传输速度及对应的命名整理如下。据说USB4是在 Thunderbolt3的基础上设计的,期待大一统时代的到来

除了USB协议,手机厂商的各种私有充电协议也是奇奇怪怪,现在仍处于技术的喷薄期,大家都想用充电速度来缓解电量焦虑,用户是乐意见到的。不过苹果你啥时候能长点心🌝,iPhone的电量焦虑是我重返苹果生态的最大阻碍,M1 的 macbook是真的香,续航真心无敌

5 Gbps: USB 3.2 GEN 1
10Gbps: USB 3.2 GEN 2
20Gbps: USB 3.2 GEN 2x2
40Gbps: Thunderbolt3