DeepSeek 에서 자사 모델(DeepSeek-V4.1-Flash) 에 대한 고성능 추론 프레임워크를 오픈소스로 공개. 화웨이 어센드 칩까지 지원하는거 보니까 자기들이 쓰던거를 가공해서 오픈한듯? 이러면 도대체 뭐가 남나요;;
어떠한 clever trick들이 있는지 이제 수백수천명의 AI개발자들이 씹고 뜯어줄 예정
https://github.com/deepseek-ai/DeepInfer
어떠한 clever trick들이 있는지 이제 수백수천명의 AI개발자들이 씹고 뜯어줄 예정
https://github.com/deepseek-ai/DeepInfer
GitHub
GitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference framework for DeepSeek models
DeepInfer: High-performance, large-scale inference framework for DeepSeek models - deepseek-ai/DeepInfer
Mutt Technologies
DeepSeek 에서 자사 모델(DeepSeek-V4.1-Flash) 에 대한 고성능 추론 프레임워크를 오픈소스로 공개. 화웨이 어센드 칩까지 지원하는거 보니까 자기들이 쓰던거를 가공해서 오픈한듯? 이러면 도대체 뭐가 남나요;; 어떠한 clever trick들이 있는지 이제 수백수천명의 AI개발자들이 씹고 뜯어줄 예정 https://github.com/deepseek-ai/DeepInfer
근데 깃허브 리드미에 벤치마크를 NVIDIA Blackwell SM100으로 측정했다고 대놓고 표기해놓은거 뭐지... 이거 아직 중국에 수출 불가능인데 ㅋㅋㅋㅋㅋ
Mutt Technologies
DeepSeek 에서 자사 모델(DeepSeek-V4.1-Flash) 에 대한 고성능 추론 프레임워크를 오픈소스로 공개. 화웨이 어센드 칩까지 지원하는거 보니까 자기들이 쓰던거를 가공해서 오픈한듯? 이러면 도대체 뭐가 남나요;; 어떠한 clever trick들이 있는지 이제 수백수천명의 AI개발자들이 씹고 뜯어줄 예정 https://github.com/deepseek-ai/DeepInfer
이 생각은 못했는데, 시트리니 리서쳐가 계산기를 두들긴 결과 딥시크가 성능 측정한 B200 GPU 임대가와 비교하면 추론 서비스의 gross margin은 피크시간대 여부에 따라 87%-96% 사이로 추정된다고 함. 저도 믿기지 않아서 독립적으로 리서치 시켜봤는데, CoreWeave에서 임대하는 가격 기준 비슷한 수준의 숫자가 나옴.
단 이 값은 KV 캐시 등에 필요한 스토리지를 고려하지 않았으므로 고평가되었다고 봐야 함. KV 캐싱을 고려한 경우에는 peak price(*) 기준 80%, off-peak 65% 정도의 그로스마진을 추정하고 있음.
올해초에 량원펑이 신규 개발에 들어가는 비용을 제외하면 모델 서빙으로 개발비 회수는 몇달만에 가능하다고 투자자 미팅에서 말했었는데, 이정도 수치+계속해서 들어오는 DeepSeek 수요를 고려하면 사실인 것 같음. 미국 프론티어 매출의 대부분이 대부분 엔터프라이즈 수요인 것을 생각하면 왜 미국 국토안보부가 DeepSeek이 간접적으로 묻기만 해도 연방 계약에서 배제한다고 발표했는지 이해가 가는 부분. 이거 미장에는 어떻게 반영되려나...;;;
근데 진짜 DeepSeek 얘네 미친놈들이긴 한듯. 트랜스포머 말도 안되게 마개조해서 비용을 몇십-몇백배씩 깎아버리더니 숫자로 증명해 버리네
https://x.com/zephyr_z9/status/2112499092031185134
*: DeepSeek API는 베이징시간 기준 평일 업무시간대에 가격을 2배로 받습니다
단 이 값은 KV 캐시 등에 필요한 스토리지를 고려하지 않았으므로 고평가되었다고 봐야 함. KV 캐싱을 고려한 경우에는 peak price(*) 기준 80%, off-peak 65% 정도의 그로스마진을 추정하고 있음.
올해초에 량원펑이 신규 개발에 들어가는 비용을 제외하면 모델 서빙으로 개발비 회수는 몇달만에 가능하다고 투자자 미팅에서 말했었는데, 이정도 수치+계속해서 들어오는 DeepSeek 수요를 고려하면 사실인 것 같음. 미국 프론티어 매출의 대부분이 대부분 엔터프라이즈 수요인 것을 생각하면 왜 미국 국토안보부가 DeepSeek이 간접적으로 묻기만 해도 연방 계약에서 배제한다고 발표했는지 이해가 가는 부분. 이거 미장에는 어떻게 반영되려나...;;;
근데 진짜 DeepSeek 얘네 미친놈들이긴 한듯. 트랜스포머 말도 안되게 마개조해서 비용을 몇십-몇백배씩 깎아버리더니 숫자로 증명해 버리네
https://x.com/zephyr_z9/status/2112499092031185134
*: DeepSeek API는 베이징시간 기준 평일 업무시간대에 가격을 2배로 받습니다
❤1
Mutt Technologies
이 생각은 못했는데, 시트리니 리서쳐가 계산기를 두들긴 결과 딥시크가 성능 측정한 B200 GPU 임대가와 비교하면 추론 서비스의 gross margin은 피크시간대 여부에 따라 87%-96% 사이로 추정된다고 함. 저도 믿기지 않아서 독립적으로 리서치 시켜봤는데, CoreWeave에서 임대하는 가격 기준 비슷한 수준의 숫자가 나옴. 단 이 값은 KV 캐시 등에 필요한 스토리지를 고려하지 않았으므로 고평가되었다고 봐야 함. KV 캐싱을 고려한 경우에는…
이거 이렇게 역산할게 아니라 자기들이 Zhihu에 수익률을 올렸음. $38/hr/gpu. 단일 클러스터가 하루 155조 토큰 서빙 중.
얘네 IPO하나? 왜이렇게 자세하게 풀지?
https://zhuanlan.zhihu.com/p/2095560295930508953
얘네 IPO하나? 왜이렇게 자세하게 풀지?
https://zhuanlan.zhihu.com/p/2095560295930508953
자고 일어났더니 올라온 두가지의 보안 재앙
—-
인도 CA회사 eMudhra 의 intermediate CA 프라이빗 키가 노출되어서 각종 브라우저/OS에서 해당 인증서를 제거하도록 업데이트해야 함.
업데이트되지 않은 상태에서는 누군가 eMudhra intermediate CA 를 사용하여 인증서를 발급한 뒤, HTTPS 트래픽을 도청/변조하는 공격에 당할 수 있음.
• VPN 없이 공용 와이파이 사용을 당분간 자제해야 함. 특히 업데이트 안된 상태에서는.
• 공용 와이파이는 보는 눈이 많아서 그렇지, 사실 ISP를 신뢰하지 않으면 ISP가 동일하게 도청하는 것도 가능함. 집밖에 안나간다고 업데이트 안해도 된다고 생각하면 안됨
• 프로그래머들은 자신들이 사용하는 라이브러리 의존성들도 빠르게 업데이트해야 함. OS의 인증서 번들을 사용하지 않고 자체 번들을 사용하는 경우가 있는데 이런 경우 각 번들 라이브러리들이 해당 인증서를 제거하는 업데이트를 해줘야 함.
참고로 노출된 인증서의 프라이빗키는 그냥
https://emudhra.we-have-a-problem.com/ 에 가면 자세한 설명과 함께 (인증서 제거상태에서는 연결이 되면 안 되는) 연결 테스트를 제공함.
https://x.com/IceSolst/status/2112639669913768363
—-
PHP에 매우 심각한 보안 취약점(원격 코드실행이라는 듯)이 두 개 확인되었고 한국시간 10월 21일 오후 11시 패치 공개 예정. PHP는 국내 회사들도 웹서버 등에서 엄청나게 많이 쓰다보니 관리자가 둔감한 사이트들은 탈탈 털릴듯.
https://www.php.net/archive/2026.php#2026-10-20-1
—-
인도 CA회사 eMudhra 의 intermediate CA 프라이빗 키가 노출되어서 각종 브라우저/OS에서 해당 인증서를 제거하도록 업데이트해야 함.
업데이트되지 않은 상태에서는 누군가 eMudhra intermediate CA 를 사용하여 인증서를 발급한 뒤, HTTPS 트래픽을 도청/변조하는 공격에 당할 수 있음.
• VPN 없이 공용 와이파이 사용을 당분간 자제해야 함. 특히 업데이트 안된 상태에서는.
• 공용 와이파이는 보는 눈이 많아서 그렇지, 사실 ISP를 신뢰하지 않으면 ISP가 동일하게 도청하는 것도 가능함. 집밖에 안나간다고 업데이트 안해도 된다고 생각하면 안됨
• 프로그래머들은 자신들이 사용하는 라이브러리 의존성들도 빠르게 업데이트해야 함. OS의 인증서 번들을 사용하지 않고 자체 번들을 사용하는 경우가 있는데 이런 경우 각 번들 라이브러리들이 해당 인증서를 제거하는 업데이트를 해줘야 함.
참고로 노출된 인증서의 프라이빗키는 그냥
0x0000....0004 였음. 장난하냐?https://emudhra.we-have-a-problem.com/ 에 가면 자세한 설명과 함께 (인증서 제거상태에서는 연결이 되면 안 되는) 연결 테스트를 제공함.
https://x.com/IceSolst/status/2112639669913768363
—-
PHP에 매우 심각한 보안 취약점(원격 코드실행이라는 듯)이 두 개 확인되었고 한국시간 10월 21일 오후 11시 패치 공개 예정. PHP는 국내 회사들도 웹서버 등에서 엄청나게 많이 쓰다보니 관리자가 둔감한 사이트들은 탈탈 털릴듯.
https://www.php.net/archive/2026.php#2026-10-20-1
Mutt Technologies
자고 일어났더니 올라온 두가지의 보안 재앙 —- 인도 CA회사 eMudhra 의 intermediate CA 프라이빗 키가 노출되어서 각종 브라우저/OS에서 해당 인증서를 제거하도록 업데이트해야 함. 업데이트되지 않은 상태에서는 누군가 eMudhra intermediate CA 를 사용하여 인증서를 발급한 뒤, HTTPS 트래픽을 도청/변조하는 공격에 당할 수 있음. • VPN 없이 공용 와이파이 사용을 당분간 자제해야 함. 특히 업데이트 안된 상태에서는.…
PHP 취약점 요이-땅 하셨나요? 이제 Node 취약점 요이-땅 하시면 됩니다. Node는 저 포함 코인충들도 많이 쓸거같은데... (얼마나 파괴적인지는 아직 스포된게 없음)
https://nodejs.org/en/blog/vulnerability/october-2026-security-releases
The Node.js project will release new versions of the 26.x, 24.x, 22.x releases lines on or shortly after, Wednesday, October 21, 2026 in order to address security vulnerabilities.
The highest severity issue fixed in this release is HIGH.
Impact
• The highest severity issue fixed in the 26.x release line is HIGH.
• The highest severity issue fixed in the 24.x release line is HIGH.
• The highest severity issue fixed in the 22.x release line is HIGH.
https://nodejs.org/en/blog/vulnerability/october-2026-security-releases
nodejs.org
Node.js — Wednesday, October 21, 2026 Security Releases
Node.js® is a free, open-source, cross-platform JavaScript runtime environment that lets developers create servers, web apps, command line tools and scripts.
10월은 업토버가 아니라 해킹토버일수도?
이번에는 Railway 라는 클라우드 플랫폼이 심각한 키 유출(정확한 범위는 자기들도 모르는지 아직 안 알려줌)이 있어서 비상모드로 전환하고 디플로이를 막았는데,
Swell (r)swETH 컨트랙트의 admin key가 이에 영향받아 유출된 것으로 의심되는 정황이 있음(업그레이드 proposal 만 올라오고 멀티시그 서명이 안되어서 자금탈취로 이어진 상태는 아님)
Railway 랑 별개로 지금 GitLab에는 임의의 사용자가 깃랩 서버 탈취 및 원격코드실행을 할 수 있는 CVSS 10.0 취약점이 올라와서 초긴급 패치가 요구되는 상황.
이번에는 Railway 라는 클라우드 플랫폼이 심각한 키 유출(정확한 범위는 자기들도 모르는지 아직 안 알려줌)이 있어서 비상모드로 전환하고 디플로이를 막았는데,
Swell (r)swETH 컨트랙트의 admin key가 이에 영향받아 유출된 것으로 의심되는 정황이 있음(업그레이드 proposal 만 올라오고 멀티시그 서명이 안되어서 자금탈취로 이어진 상태는 아님)
Railway 랑 별개로 지금 GitLab에는 임의의 사용자가 깃랩 서버 탈취 및 원격코드실행을 할 수 있는 CVSS 10.0 취약점이 올라와서 초긴급 패치가 요구되는 상황.
X (formerly Twitter)
Railway (@Railway) on X
An urgent notice from the Railway team
https://t.co/niUAhTAQJM
https://t.co/niUAhTAQJM
❤2
Mutt Technologies
10월은 업토버가 아니라 해킹토버일수도? 이번에는 Railway 라는 클라우드 플랫폼이 심각한 키 유출(정확한 범위는 자기들도 모르는지 아직 안 알려줌)이 있어서 비상모드로 전환하고 디플로이를 막았는데, Swell (r)swETH 컨트랙트의 admin key가 이에 영향받아 유출된 것으로 의심되는 정황이 있음(업그레이드 proposal 만 올라오고 멀티시그 서명이 안되어서 자금탈취로 이어진 상태는 아님) Railway 랑 별개로 지금 GitLab에는…
레일웨이는 처음에 사이트 셧다운한 이후로 15시간 뒤에야 "보안정보 유출이니 키 교체하시오" 라는 공지를 내보내서 그사이에 이미 엄청나게 많이 털렸기 때문에(crypto sweeper 도 돌아간듯?), 무책임한 대응이라고 욕을 엄청나게 먹고 있음. 신뢰를 엄청나게 잃어서 망할수도
Fireworks가 DeepSeek V4.1 Flash 를 1521 tps로 서빙해서 테트리스 게임 만드는 데에 단 11초 소모
이제 tokens per second 에서 tetris per second 로 정의를 바꿔야 하나?? ㅋㅋㅋㅋㅋㅋ
https://x.com/fireworksai_hq/status/2112973992097468795
이제 tokens per second 에서 tetris per second 로 정의를 바꿔야 하나?? ㅋㅋㅋㅋㅋㅋ
https://x.com/fireworksai_hq/status/2112973992097468795
X (formerly Twitter)
Fireworks (@FireworksAI_HQ) on X
DeepSeek V4.1 Flash 1017 runs at 1,521+ tok/s on Fireworks Ultrafast.
Fast enough to ship Tetris in 11 seconds, 7x faster than Claude Opus 5.5.
Join the Ultrafast waitlist: https://t.co/vE0jM7Ly…
Fast enough to ship Tetris in 11 seconds, 7x faster than Claude Opus 5.5.
Join the Ultrafast waitlist: https://t.co/vE0jM7Ly…
DeepSeek $15B 자금조달, CATL/Tencent 리드, 원래 목표치였던 50B CNY 에서 두 배로 늘린 것으로 보임. 상하이 과창판 상장에 가까워지고 있다는 신호로도 해석될 수 있음. 지난 9월에 관련하여 증권사를 선정하기도 하였음.
https://www.reuters.com/world/asia-pacific/deepseek-raises-15-billion-challenge-leading-us-labs-bloomberg-news-reports-2026-10-22/
https://www.reuters.com/world/asia-pacific/deepseek-raises-15-billion-challenge-leading-us-labs-bloomberg-news-reports-2026-10-22/
GLM-5.4 or GLM-5.5가 3T 규모라는 루머
M5 Ultra 맥 죽어라 사면 뭐하냐 모델이 그거보다 빠르게 커지는데 아이고
https://x.com/NFT_Chen/status/2112853171102232632
M5 Ultra 맥 죽어라 사면 뭐하냐 모델이 그거보다 빠르게 커지는데 아이고
https://x.com/NFT_Chen/status/2112853171102232632
X (formerly Twitter)
SuSu_酥酥👅 (@NFT_Chen) on X
🚨重磅爆料!GLM-5.4/5.5专家纪要流出:智谱下一代基座直接干到2.5-3.5T!还要Day1大规模供得上!有望比肩Claude Fable 5.1!
一份在投资圈流传的专家访谈纪要显示,智谱下一代基座模型,市场传闻的GLM-5.4/5.5
细节比此前预期更激进:
🔹参数规模大幅超预期:并非此前传闻的1.6万亿,实际在2.5万亿至3.5万亿区间。相比今年8月发布的GLM-5…
一份在投资圈流传的专家访谈纪要显示,智谱下一代基座模型,市场传闻的GLM-5.4/5.5
细节比此前预期更激进:
🔹参数规模大幅超预期:并非此前传闻的1.6万亿,实际在2.5万亿至3.5万亿区间。相比今年8月发布的GLM-5…
Mutt Technologies
GLM-5.4 or GLM-5.5가 3T 규모라는 루머 M5 Ultra 맥 죽어라 사면 뭐하냐 모델이 그거보다 빠르게 커지는데 아이고 https://x.com/NFT_Chen/status/2112853171102232632
근데 DeepSeek도 그렇고 이렇게 마음대로 모델크기 확확 올릴거면 메이저-마이너 버저닝을 왜 하는 거냐... GLM-6은 뭘 만드려고
어 안끝났어 이번에는 리눅스 커널 제로데이야
SMB Direct 모듈에서의 원격코드실행(RCE) 을 포함한 여러 취약점들이 리눅스 커널 메일링 리스트에 보고되었는데(CVS Score 9.0), 원래대로면 responsible disclosure 절차를 거쳐서 비공개 보고해야 옳지만 제보자가 실수(실수겠지...)로 공개 채널에 올려버림.
영향권이 얼마나 넓을지는 모르겠는데(PHP보단 낮을거같음), 영향권을 논하는 것 보다는 대 AI시대에 참여자들의 평균 수준이 떨어져서 신뢰 기반 프로세스들이 동작하지 않고 있다는게 시사점일듯. 보안 뉴스 열심히 보고 빨리빨리 업데이트 하시는게 살길입니다. 돈 많으시면 로컬모델로 셀프 오딧해서 고치시던가...
https://www.phoronix.com/news/LKML-New-Trend-Vulnerabilities
SMB Direct 모듈에서의 원격코드실행(RCE) 을 포함한 여러 취약점들이 리눅스 커널 메일링 리스트에 보고되었는데(CVS Score 9.0), 원래대로면 responsible disclosure 절차를 거쳐서 비공개 보고해야 옳지만 제보자가 실수(실수겠지...)로 공개 채널에 올려버림.
영향권이 얼마나 넓을지는 모르겠는데(PHP보단 낮을거같음), 영향권을 논하는 것 보다는 대 AI시대에 참여자들의 평균 수준이 떨어져서 신뢰 기반 프로세스들이 동작하지 않고 있다는게 시사점일듯. 보안 뉴스 열심히 보고 빨리빨리 업데이트 하시는게 살길입니다. 돈 많으시면 로컬모델로 셀프 오딧해서 고치시던가...
https://www.phoronix.com/news/LKML-New-Trend-Vulnerabilities
Phoronix
Several Linux Kernel Vulnerabilities Accidentally Posted To Public Kernel Mailing List
Seemingly as an accident, overnight several new Linux kernel vulnerability reports were posted to the public Linux kernel mailing list rather than the private security mailing list
Mutt Technologies
어 안끝났어 이번에는 리눅스 커널 제로데이야 SMB Direct 모듈에서의 원격코드실행(RCE) 을 포함한 여러 취약점들이 리눅스 커널 메일링 리스트에 보고되었는데(CVS Score 9.0), 원래대로면 responsible disclosure 절차를 거쳐서 비공개 보고해야 옳지만 제보자가 실수(실수겠지...)로 공개 채널에 올려버림. 영향권이 얼마나 넓을지는 모르겠는데(PHP보단 낮을거같음), 영향권을 논하는 것 보다는 대 AI시대에 참여자들의 평균…
추가로 어느 눈치 조또없는놈이 어제 있었던 PHP 취약점 발표로 해결이 안되는 또다른 취약점을 프로세스 ㅈ까고 상세한 설명과 함께 업로드해서 지금 개 갑분싸 된 상태
얘도 어제 발표와 비슷한 수준의 위험성인 Unauthenticated RCE임
당분간 조심하십쇼
https://x.com/J4ck3LSyN/status/2113110620828799276
얘도 어제 발표와 비슷한 수준의 위험성인 Unauthenticated RCE임
당분간 조심하십쇼
https://x.com/J4ck3LSyN/status/2113110620828799276
X (formerly Twitter)
Jλckλι (@J4ck3LSyN) on X
...you people asked for it... so here's the desert 😈...
> https://t.co/EtMz3WWa78
> ... get it while you can ;) ... more to come soon...
#CyberSecurity #infosec
> https://t.co/EtMz3WWa78
> ... get it while you can ;) ... more to come soon...
#CyberSecurity #infosec