Forwarded from 聚合解析姬
2021 年 9 月 1 日,距离新一轮 AI 浪潮启动还有 15 个月。NVIDIA 当时股价只有今天的十分之一,所以还在很努力地寻找 GPU 的各种应用场景,比如:数字币。
在这天,NVIDIA 发布了一张专门用于数字币挖矿的显卡 CMP 170HX。这张卡的核心基本就是 A100。但 NVIDIA 为确保其只能用于挖矿,对 FP32、TF32 等挖矿用不上的算力进行了大幅度削减。比如 A100 的 TF32 是 156 TFLOPS,但 CMP 170HX 则只有 15 TFLOPS。另外 PCIe 带宽等也被大幅削弱了。
更令人发指的是,CMP 170HX 本质上是英伟达把那些未能通过 A100 标准测试的瑕疵芯片再砍一刀后进行废物利用的产品,所以 CMP 170HX 其实物理上就有 80G 的显存,但 NVIDIA 通过固件限制只用了其中 10G。
这些年硬件社区一直在想办法突破 NVIDIA 的限制。最近,终于有人完成了最后一跳,把 CMP 170HX 被锁定的性能解放了:FP32 算力提升 31 倍,FP64 算力提升 60 倍,TF32 算力提升 15 倍,10 GB 显存变成 80 GB,PCIe 从 Gen1 × 4 变成 Gen2 × 16。
虽然 NVIDIA 的限制是在固件里做的,但破解并不是通过修改固件实现的。NVIDIA 显卡内有独立的处理器专门用来验证固件的数字签名。就算有人能搞清楚固件的格式,修改后的固件也无法在显卡里加载运行。
在整个破解中,只有把 PCIe 位宽从 ×4 变成 ×16 需要手工补焊 24 颗 100nF 的电容,其余都是通过利用固件漏洞。
CMP 170HX 的固件里有一段接收 DMA 数据的函数,在处理数据时没有限制用户输入的长度,存在缓冲区溢出漏洞。虽然 NVIDIA 的固件也用了类似于 Stack Cookie 的缓冲区溢出保护机制,但问题是 NVIDIA 的编译工具链犯了一个低级错误:把 Stack Cookie 放在了可写全局数据段的顶部,这就导致了通过溢出不仅可以覆盖返回地址,进一步也可以改写......
▎Source
Forwarded from 科技圈🎗在花频道📮
Please open Telegram to view this post
VIEW IN TELEGRAM
大新闻:@Kimi_Moonshot 的 Kimi-K3 现已在 Frontend Code Arena 中以 1679 分位居 #1,超越了 Claude Fable 5。
这是从 Kimi-k2.6(#18 -> #1)跃升了 17 个名次。
在前端领域,Kimi-K3 在 7 个领域中的 6 个位居 #1:品牌与营销、基于参考的设计、数据与分析、消费产品、模拟以及内容创建工具,仅在游戏领域位列 #2,落后于 Fable 5。
完整模型权重将于 7 月 27 日前发布。
祝贺 @Kimi_Moonshot 团队达成这一重大里程碑!
https://x.com/arena/status/2077824029126504525
这是从 Kimi-k2.6(#18 -> #1)跃升了 17 个名次。
在前端领域,Kimi-K3 在 7 个领域中的 6 个位居 #1:品牌与营销、基于参考的设计、数据与分析、消费产品、模拟以及内容创建工具,仅在游戏领域位列 #2,落后于 Fable 5。
完整模型权重将于 7 月 27 日前发布。
祝贺 @Kimi_Moonshot 团队达成这一重大里程碑!
https://x.com/arena/status/2077824029126504525
X (formerly Twitter)
Kimi.ai (@Kimi_Moonshot) on X
Built by Moonshot AI to empower everyone to be superhuman.
@Kimidevs built for developers
⚡️API: https://t.co/XCrgjXAqMw
DC: https://t.co/wBsBTn6Ncc
@Kimidevs built for developers
⚡️API: https://t.co/XCrgjXAqMw
DC: https://t.co/wBsBTn6Ncc
Forwarded from quick paster (GrassCarp_)
一个Vibe Coding用户发消息跟我讲,说这是他用AI以来最好的一个夏天。
Deepseek V4 Pro发布,几乎和外国的模型只有半个月的代差,随后北美御三家也如期或延期推出了他们新的模型。看到Fable5发布后,他像看到核弹一样瘫坐在椅子上,在对个人用户封禁前他用这个模型完成了一个月的任务。ChatGPT刚发布5.6 Sol,能力强得离谱,复杂任务随手一扔就能跑完,额度本来用得飞快,但Tibo隔三差五就出来赠送重置,刚见底的用量条转眼又满了。在他前端不知所措的时候,Kimi又出来宣称前端能力已经登峰造极。
前天他打开QQ群聊,突然发现所有人都停不下手头的事,围着各种新模型测试、欢呼、疯狂开新任务。
他说很开心,有种AI黄金时代永远不会结束的感觉。
Deepseek V4 Pro发布,几乎和外国的模型只有半个月的代差,随后北美御三家也如期或延期推出了他们新的模型。看到Fable5发布后,他像看到核弹一样瘫坐在椅子上,在对个人用户封禁前他用这个模型完成了一个月的任务。ChatGPT刚发布5.6 Sol,能力强得离谱,复杂任务随手一扔就能跑完,额度本来用得飞快,但Tibo隔三差五就出来赠送重置,刚见底的用量条转眼又满了。在他前端不知所措的时候,Kimi又出来宣称前端能力已经登峰造极。
前天他打开QQ群聊,突然发现所有人都停不下手头的事,围着各种新模型测试、欢呼、疯狂开新任务。
他说很开心,有种AI黄金时代永远不会结束的感觉。
Forwarded from quick paster (V98)
这是我入行以来最坏的夏天,我还没有毕业但我的工作已经被 AI 代替,报告的漏洞全部 duplicate,忙活半天到头来一场空,快速发展的 AI 和人类修复漏洞的时间不对等让世界上所有人都处于危险中,往日的 0day 利用如今已经变成 0hour 甚至 0minute,前天在挖漏洞,突然所有人停下手头的事在一起大哭,讨论以后是改行送外卖还是进厂在流水线上一天工作16小时,我说很失望,有种全人类一起完蛋了的感觉
❤1
班主任 / 家长: 都考完了,孩子。结束了。
学生: 没结束!根本没有!这不是关开关那么简单!
学生: 这学不是我非要上的!是你们逼我的,不是我求你们的!我做了所有该做的事,就为了赢那几分!可为什么出题的人就是不让我们赢?!
学生: 然后我考完了,回到“正常生活”。看到网上那些人在那儿指点江山……说我“小镇做题家”,说“考这么拼有什么用”,说我“就算考上 985 也是给人家打工”!一堆屁话!
学生: 他们凭什么指点我?嗯?他们算老几?除非他们也经历过那些凌晨五点的早读、做不完的理综卷、考砸后躲被子里哭的日子,否则他们没资格对我说三道四!
班主任 / 家长: 那段时间对谁都不容易,现在都过去了。
学生: 对你来说过去了!对我来说,考完之后的“正常生活”才是真正的空虚!
学生: 在考场里,我们还有一套生存法则——多拿一分,干掉千人。每天凌晨五点,闹钟把我从梦里生生拽出来,困到边刷牙边靠着墙都能睡着。我们互相打掩护,你帮我应付查寝,我帮你从窗户递进去一袋冷包子。
学生: 那时候我能解导数压轴题,能背完整本《离骚》,能一天刷完五套理综卷!现在呢?我连“你将来想干什么”这种最简单的问题都回答不上来!
学生: 没结束!根本没有!这不是关开关那么简单!
学生: 这学不是我非要上的!是你们逼我的,不是我求你们的!我做了所有该做的事,就为了赢那几分!可为什么出题的人就是不让我们赢?!
学生: 然后我考完了,回到“正常生活”。看到网上那些人在那儿指点江山……说我“小镇做题家”,说“考这么拼有什么用”,说我“就算考上 985 也是给人家打工”!一堆屁话!
学生: 他们凭什么指点我?嗯?他们算老几?除非他们也经历过那些凌晨五点的早读、做不完的理综卷、考砸后躲被子里哭的日子,否则他们没资格对我说三道四!
班主任 / 家长: 那段时间对谁都不容易,现在都过去了。
学生: 对你来说过去了!对我来说,考完之后的“正常生活”才是真正的空虚!
学生: 在考场里,我们还有一套生存法则——多拿一分,干掉千人。每天凌晨五点,闹钟把我从梦里生生拽出来,困到边刷牙边靠着墙都能睡着。我们互相打掩护,你帮我应付查寝,我帮你从窗户递进去一袋冷包子。
学生: 那时候我能解导数压轴题,能背完整本《离骚》,能一天刷完五套理综卷!现在呢?我连“你将来想干什么”这种最简单的问题都回答不上来!