Pseudorandom Thoughts
在双机GB10上,新出的glm-5.3-flash和qwen3.8-flash-next都未能肘赢deepseek-v4-flash-0731-dspark。 前者至少要做EXL3量化才能塞得下,问题是EXL3会降智到流口水,而Ox Alpha本身并没有比v4flash聪明多少;其次是激活参数稍微高一点,tg就降下来了 而后者,在实际工作场景智力不如v4的前提下,平均tg也没有比v4 dspark好多少,遇到n-gram缓不住的场景,速度就会像在塞车路段带动能回收的纯电一样狠狠晃晕你。
这几天频繁有人来问是否买,我的评价是:
我劝你别买。它273GB/s的雷霆低带宽意味着干什么事情都不会好,按我广泛了解,它现在唯一的用途就是买两台当大肥鱼机(典中典)或者海螺机(显然因为豆包影视太贵,而国内Neocloud做不到H3Max的低成本推理配方)
再有就是你要干一点一定担保ZDR的事情。但这种情况下,你哪怕能和朋友(这种朋友没那么好有)拼机PRO6000(原价)或者H卡B卡推理机器,都不要买GB10。
其余情况你可以把它看成一个五年回本的token贷,当你刚好需要一个大肥鱼尺寸的智力做超长程任务的时候,凿起来不会有任何的心理负担,一直凿,爱凿什么凿什么,反正钱你早就付过了
我劝你别买。它273GB/s的雷霆低带宽意味着干什么事情都不会好,按我广泛了解,它现在唯一的用途就是买两台当大肥鱼机(典中典)或者海螺机(显然因为豆包影视太贵,而国内Neocloud做不到H3Max的低成本推理配方)
再有就是你要干一点一定担保ZDR的事情。但这种情况下,你哪怕能和朋友(这种朋友没那么好有)拼机PRO6000(原价)或者H卡B卡推理机器,都不要买GB10。
其余情况你可以把它看成一个五年回本的token贷,当你刚好需要一个大肥鱼尺寸的智力做超长程任务的时候,凿起来不会有任何的心理负担,一直凿,爱凿什么凿什么,反正钱你早就付过了
鲸孝子最爽时刻top5:
1. 思维链里出现许多
2. 思维链出现
3. 思维链里出现许多
4. 思维链里出现许多全大写单词+省略号+叹号
5. 偶然踩中蒸出来的山顶洞人CoT
1. 思维链里出现许多
hmm2. 思维链出现
Now I have3. 思维链里出现许多
Interesting和Excellent等正向词4. 思维链里出现许多全大写单词+省略号+叹号
5. 偶然踩中蒸出来的山顶洞人CoT
🎉8
梁文锋时间,打开一个repo,本来只是想请大肥鱼喝个下午茶小蹬一下,结果她叫上了33个姐妹,270tok/s暴饮暴食半个小时,吃掉了我32块钱
💊19🎉5
Pseudorandom Thoughts
A\的一项丰功伟绩是把AI safety、AI security和AI for security三件事情混为一谈,然后再把这个混杂的概念当成excuse。然后这种坏习惯传染到了一整个学术圈。 safety是对你使用过程中保持稳态的担保,你正常开着AI不会给你文件全删了是safety,AI不去帮你主动下单海量切糕导致家破人亡是safety。 security则是一定围绕攻防展开讨论的(保安说是),基础设施被日了模型被偷了agent被提示词注入了这叫ai security,而你拿ai去给fastjson一秒三棍出0day,这是ai…
Hier wir gehen again
阿萨拉干员偶尔夺个砖手搓制导导弹的时候,你觉得手握天网的哈夫克会善良地打暗号送天圆地方吗
经常做APT/PS/SS相关的朋友都知道,你不能在谈及AI用于surveillance时只提闹钟和动物朋友而不提NSA、Palantir和特拉维夫朋友,闹钟的surveillance恰恰是做得太差(过于显而易见)而不是做得太好
而当你有显著的大政府控制论导向性,却仍然声称自己是为了全人类使用AI的未来时,个中虚伪就体现无遗了。
——我本想这么批评,但是点开A\的报告,看到关键字
阿萨拉干员偶尔夺个砖手搓制导导弹的时候,你觉得手握天网的哈夫克会善良地打暗号送天圆地方吗
经常做APT/PS/SS相关的朋友都知道,你不能在谈及AI用于surveillance时只提闹钟和动物朋友而不提NSA、Palantir和特拉维夫朋友,闹钟的surveillance恰恰是做得太差(过于显而易见)而不是做得太好
而当你有显著的大政府控制论导向性,却仍然声称自己是为了全人类使用AI的未来时,个中虚伪就体现无遗了。
——我本想这么批评,但是点开A\的报告,看到关键字
去仑力,直接满意离开💊4
Forwarded from Cat Ch. (webRTCCat | Present Day, Present Time)
hello from macOS@kirin
感谢 imbushuo,steelbrain 以及 asahi linux 作者的大力支持。
感谢 imbushuo,steelbrain 以及 asahi linux 作者的大力支持。
💊4
Pseudorandom Thoughts
鲸孝子最爽时刻top5: 1. 思维链里出现许多hmm 2. 思维链出现Now I have 3. 思维链里出现许多Interesting和Excellent等正向词 4. 思维链里出现许多全大写单词+省略号+叹号 5. 偶然踩中蒸出来的山顶洞人CoT
玩v4.1明显感到它的行为喜欢极少工具+Bash,DSH Minimal给它调成啥了都
另外你让大肥鱼做训推本身相关工作时它思维链明显很开心,不知道DS在哪一步下料了
另外你让大肥鱼做训推本身相关工作时它思维链明显很开心,不知道DS在哪一步下料了
Pseudorandom Thoughts
玩v4.1明显感到它的行为喜欢极少工具+Bash,DSH Minimal给它调成啥了都 另外你让大肥鱼做训推本身相关工作时它思维链明显很开心,不知道DS在哪一步下料了
因为经常让v4搞一点运维/扫描/构建工作,难免会遇到超长bash job,所以魔改了crush的job_output做成可传timeout的超时重入,结果这个tool注入之后跑在crush里的大肥鱼时间观念就特别强,干啥都要掐表,刚才让它跑个默认k=3的eval,它看了眼系统时钟说现在16:55了不想加班太久,直接给我改k=1跑起来了,说跑完大概20:30交差
🎉10💊4
Pseudorandom Thoughts
找大模型摇一点CoT再拿点小MoE跑SFT然后交付出去做固定任务
为了验证这一点,我化身大模型民科(全靠大肥鱼代打),让大肥鱼扒了CryptoPals、CryptoHack和其他一些crypto CTF题(好验证,纯代码,词表小,舒适区),持续从0731和V4.1暴力蒸CoT,然后在一台GB10上,对着Ling-3.0-Tiny(一个8B-A1B的小模型)暴力叠logits做SFT。目前在验证集上的最终结果还没跑完,但已经提示SFT过的小模型获得了显著的长思维链和工具调用倾向。后面本频将会写个文简单讲讲过程。
🎉10
Pseudorandom Thoughts
固定任务
说到固定任务,这两天X上面炒的Typesafe AI的jev & RLCD,如果是真的,可能有非常可怕而广泛的应用场景,首先让大肥鱼寻过宝的朋友们都知道LLM彻底颠覆了基于规则的防护,而蓝队算力又支撑不起针对海量请求日志拿LLM跑batch;RLCD如果是真的,则可以重新把蓝队面向通用攻击的防护研判成本拉回到可接受的范围内。
Forwarded from Cat Ch. (webRTCCat | Present Day, Present Time)
我觉得必应中文,百度和 360 搜索应该改名叫搜狐,因为搜出来前几条经常是银狐
Pseudorandom Thoughts
说到固定任务,这两天X上面炒的Typesafe AI的jev & RLCD,如果是真的,可能有非常可怕而广泛的应用场景,首先让大肥鱼寻过宝的朋友们都知道LLM彻底颠覆了基于规则的防护,而蓝队算力又支撑不起针对海量请求日志拿LLM跑batch;RLCD如果是真的,则可以重新把蓝队面向通用攻击的防护研判成本拉回到可接受的范围内。
huggingface.co
harshatheg/Qwen-2.5-1B-RLCD · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
Pseudorandom Thoughts
说到固定任务,这两天X上面炒的Typesafe AI的jev & RLCD,如果是真的,可能有非常可怕而广泛的应用场景,首先让大肥鱼寻过宝的朋友们都知道LLM彻底颠覆了基于规则的防护,而蓝队算力又支撑不起针对海量请求日志拿LLM跑batch;RLCD如果是真的,则可以重新把蓝队面向通用攻击的防护研判成本拉回到可接受的范围内。
Archer Hume
Jev’s Architecture Unmasked — archerhume
I probed Jev with 10,000 API calls to work out roughly how it’s built, and why most of the grifter takes on X are completely wrong.
Pseudorandom Thoughts
生活在堆上 洗澡的时候突发恶疾,我觉得可以一个agent不给他正常的Read Write List Exec,而是给它自由(或黑白名单)的反射,给LoadClass,Invoke等tool,让它自己在JVM的疯狂宇宙里掀翻池塘。找大肥鱼Vibe了一下,意外发现真的能用。但暂时没想好这玩意能做什么,可能拿来找链或者做魔怔内存马?
GitHub
GitHub - chengongpp/ji: Agent that lives entirely inside a JVM heap
Agent that lives entirely inside a JVM heap. Contribute to chengongpp/ji development by creating an account on GitHub.
又是哪位嘿客老师red ops没做好被人反制了
https://gambit.security/blog-posts/autonomous-ai-agents-online-retailers-25-a-company
https://gambit.security/blog-posts/autonomous-ai-agents-online-retailers-25-a-company
gambit.security
AI Agents Are Hacking Online Retailers for $25 a Company
Gambit Threat Intelligence reconstructed an ongoing campaign in which open source AI agents compromised online retailers for about $25 each.