Cherr panic
123 subscribers
1.3K photos
65 videos
26 files
469 links
@Cherrling 加速奔向我一事无成的一生!
Download Telegram
😭3
Forwarded from 聚合解析姬
2021 年 9 月 1 日,距离新一轮 AI 浪潮启动还有 15 个月。NVIDIA 当时股价只有今天的十分之一,所以还在很努力地寻找 GPU 的各种应用场景,比如:数字币。

在这天,NVIDIA 发布了一张专门用于数字币挖矿的显卡 CMP 170HX。这张卡的核心基本就是 A100。但 NVIDIA 为确保其只能用于挖矿,对 FP32、TF32 等挖矿用不上的算力进行了大幅度削减。比如 A100 的 TF32 是 156 TFLOPS,但 CMP 170HX 则只有 15 TFLOPS。另外 PCIe 带宽等也被大幅削弱了。

更令人发指的是,CMP 170HX 本质上是英伟达把那些未能通过 A100 标准测试的瑕疵芯片再砍一刀后进行废物利用的产品,所以 CMP 170HX 其实物理上就有 80G 的显存,但 NVIDIA 通过固件限制只用了其中 10G。

这些年硬件社区一直在想办法突破 NVIDIA 的限制。最近,终于有人完成了最后一跳,把 CMP 170HX 被锁定的性能解放了:FP32 算力提升 31 倍,FP64 算力提升 60 倍,TF32 算力提升 15 倍,10 GB 显存变成 80 GB,PCIe 从 Gen1 × 4 变成 Gen2 × 16。

虽然 NVIDIA 的限制是在固件里做的,但破解并不是通过修改固件实现的。NVIDIA 显卡内有独立的处理器专门用来验证固件的数字签名。就算有人能搞清楚固件的格式,修改后的固件也无法在显卡里加载运行。

在整个破解中,只有把 PCIe 位宽从 ×4 变成 ×16 需要手工补焊 24 颗 100nF 的电容,其余都是通过利用固件漏洞。

CMP 170HX 的固件里有一段接收 DMA 数据的函数,在处理数据时没有限制用户输入的长度,存在缓冲区溢出漏洞。虽然 NVIDIA 的固件也用了类似于 Stack Cookie 的缓冲区溢出保护机制,但问题是 NVIDIA 的编译工具链犯了一个低级错误:把 Stack Cookie 放在了可写全局数据段的顶部,这就导致了通过溢出不仅可以覆盖返回地址,进一步也可以改写......


Source
Forwarded from 科技圈🎗在花频道📮
🌙 Kimi 已开始向用户推送 K3 模型,支持 1M 上下文。

Kimi

🌸 在花频道 · 茶馆水群 · 投稿通道
Please open Telegram to view this post
VIEW IN TELEGRAM
大新闻:@Kimi_Moonshot 的 Kimi-K3 现已在 Frontend Code Arena 中以 1679 分位居 #1,超越了 Claude Fable 5。

这是从 Kimi-k2.6(#18 -> #1)跃升了 17 个名次。

在前端领域,Kimi-K3 在 7 个领域中的 6 个位居 #1:品牌与营销、基于参考的设计、数据与分析、消费产品、模拟以及内容创建工具,仅在游戏领域位列 #2,落后于 Fable 5。

完整模型权重将于 7 月 27 日前发布。

祝贺 @Kimi_Moonshot 团队达成这一重大里程碑!

https://x.com/arena/status/2077824029126504525
Forwarded from quick paster (GrassCarp_)
一个Vibe Coding用户发消息跟我讲,说这是他用AI以来最好的一个夏天。
Deepseek V4 Pro发布,几乎和外国的模型只有半个月的代差,随后北美御三家也如期或延期推出了他们新的模型。看到Fable5发布后,他像看到核弹一样瘫坐在椅子上,在对个人用户封禁前他用这个模型完成了一个月的任务。ChatGPT刚发布5.6 Sol,能力强得离谱,复杂任务随手一扔就能跑完,额度本来用得飞快,但Tibo隔三差五就出来赠送重置,刚见底的用量条转眼又满了。在他前端不知所措的时候,Kimi又出来宣称前端能力已经登峰造极。
前天他打开QQ群聊,突然发现所有人都停不下手头的事,围着各种新模型测试、欢呼、疯狂开新任务。
他说很开心,有种AI黄金时代永远不会结束的感觉。
Forwarded from quick paster (V98)
这是我入行以来最坏的夏天,我还没有毕业但我的工作已经被 AI 代替,报告的漏洞全部 duplicate,忙活半天到头来一场空,快速发展的 AI 和人类修复漏洞的时间不对等让世界上所有人都处于危险中,往日的 0day 利用如今已经变成 0hour 甚至 0minute,前天在挖漏洞,突然所有人停下手头的事在一起大哭,讨论以后是改行送外卖还是进厂在流水线上一天工作16小时,我说很失望,有种全人类一起完蛋了的感觉
1
刚才淋雨等火车,有个女孩子打着伞过来帮我挡着,直接宕机不知道说什么
😁5
Cherr panic
刚才淋雨等火车,有个女孩子打着伞过来帮我挡着,直接宕机不知道说什么
很可惜,我下车的时候她的铺位上已是空无一人,我失去了最后认识她的机会😭
🔥8
😁3
看看欧派
🥰5