Mutt Technologies
Le Chaton Fat 나오면 다 때려잡는다고 조롱받던 Mistral이 오랜만에 프론티어에 섰습니다 Mistral Large 4("Le Chonk"): 1T-A49B sparse MoE 모델 벤치마크가 되게 정신없는데 뭔가 취사선택한 느낌이 들지만, GLM-5.3, Kimi K3 과는 견줄 수 있어보입니다. 가중치는 이번달 말에 공개됩니다. This is only the beginning. ML4 is the first milestone on the…
Mistral AI 의 최신모델 Mistral Large 4 웨이트 공개 + Technical Report 업로드
논문이 근데 골때리는게, CLA, YOCO 같은 구조들을 처음에 적용했는데(추론 비용을 줄이는데 효과적임), 이 구조들이 성능을 하락시켜서 같은 성능을 달성하려면 학습에 더 많은 자원을 소모시켜야 하기 때문에 제거하기로 했다고. 얼마나 억울했으면 이걸 한 단원을 할애해서 설명하는데, DeepSeek V4.1 에서는 이런 구조가 거의 다 적용되어서 나옴. 그리고 벤치마크 성능은 DeepSeek가 좋음...
정작 출시도 DeepSeek V4.1이 먼저 나왔으니 이거 보고 미스트랄 팀 뒷목 잡았을듯.
근데 딥시크는 량원펑 피셜 지난여름에 20,000개의 H100 에 대응되는 연산력(밀수한 호퍼, 블랙웰과 화웨이 NPU 등등 합쳐서)을 가지고 있다 했는데 ML4 학습에는 3800-4000개 사이의 GB200 을 썼으니 10,000개 H100 수준 될까말까임. 그래서 연산력 문제로 어쩔 수 없는 결정이었을 수도 있음.
https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B
논문이 근데 골때리는게, CLA, YOCO 같은 구조들을 처음에 적용했는데(추론 비용을 줄이는데 효과적임), 이 구조들이 성능을 하락시켜서 같은 성능을 달성하려면 학습에 더 많은 자원을 소모시켜야 하기 때문에 제거하기로 했다고. 얼마나 억울했으면 이걸 한 단원을 할애해서 설명하는데, DeepSeek V4.1 에서는 이런 구조가 거의 다 적용되어서 나옴. 그리고 벤치마크 성능은 DeepSeek가 좋음...
정작 출시도 DeepSeek V4.1이 먼저 나왔으니 이거 보고 미스트랄 팀 뒷목 잡았을듯.
근데 딥시크는 량원펑 피셜 지난여름에 20,000개의 H100 에 대응되는 연산력(밀수한 호퍼, 블랙웰과 화웨이 NPU 등등 합쳐서)을 가지고 있다 했는데 ML4 학습에는 3800-4000개 사이의 GB200 을 썼으니 10,000개 H100 수준 될까말까임. 그래서 연산력 문제로 어쩔 수 없는 결정이었을 수도 있음.
https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B
AMD 의 현세대 가속기 MI300X을 256대 박은 컨테이너가 단돈 70억원!! 사실분?
근데 올해안에 MI400X 나오는게 함정. 못해도 칩대칩으로 4-5배 FP4면 10배스케일 차이 ㅋㅋ
https://x.com/__tinygrad__/status/2117442713947873292
근데 올해안에 MI400X 나오는게 함정. 못해도 칩대칩으로 4-5배 FP4면 10배스케일 차이 ㅋㅋ
https://x.com/__tinygrad__/status/2117442713947873292
X (formerly Twitter)
the tiny corp (@__tinygrad__) on X
exabox preorder updated, will use 256x MI300X. Cost is only $5M now, $100k preorder, 2 left. 669 PFLOPS of compute, 49 TB of HBM3, 1.36 PB/s. 500 kW @ 480V. 100% ready to run, chiller included. De…
진짜 개 골때리는 보안뉴스: 어느 정신빠진놈이 바이러스토탈에 공군 1호기 탑승명단을 업로드해서 여권번호 이름 등등 싸그리 유출!
그리고 사실 바이러스토탈은 공격자도 돌려보기 때문에 웬만해서는 안걸리는거 확인하고 파일 보낼 수 있다는 생각을 해야 합니다.
https://www.news1.kr/diplomacy/defense-diplomacy/6341176
바이러스토탈에는 기밀자료를 올리면 안 됩니다.
바이러스토탈에는 기밀자료를 올리면 안 됩니다.
바이러스토탈에는 기밀자료를 올리면 안 됩니다. (제발요)
그리고 사실 바이러스토탈은 공격자도 돌려보기 때문에 웬만해서는 안걸리는거 확인하고 파일 보낼 수 있다는 생각을 해야 합니다.
https://www.news1.kr/diplomacy/defense-diplomacy/6341176
뉴스1
李 대통령 개인정보 담긴 명단, 해킹 아니라 업무 관련자가 '유출'(종합)
외교부 "공군 1호기 탑승객 명단 '유출'로 파악" 유출 주체·경위 조사 중…대통령 내외 포함 여권 재발급 조치 외교부는 3일 이재명 대통령 내외의 여권번호 등 개인정보가 담긴 공군 1호기 탑승객 명단이 5개월 넘게 외부 사이트에 노출된 사건은 해킹이 아닌 '유출'에 따른 …
중국의 안드로이드 셋톱박스 제조사 Videostrong이 백도어를 130만개의 장치에 심어 봇넷으로 활용했다가 구글에 적발됨.
구글은 이 백도어가 의도적으로 삽입되었다고 보고 있으며, 범죄집단 등에 판매되어 수익화되었다고 주장함. 해당 백도어는 적발 후 무력화됐으며 구글은 Videostrong과 관계를 끊음.
https://www.theverge.com/1024807/google-botnet-android-tv-shut-down
구글은 이 백도어가 의도적으로 삽입되었다고 보고 있으며, 범죄집단 등에 판매되어 수익화되었다고 주장함. 해당 백도어는 적발 후 무력화됐으며 구글은 Videostrong과 관계를 끊음.
https://www.theverge.com/1024807/google-botnet-android-tv-shut-down
The Verge
One of Google’s Android partners turned 1.3 million set-top boxes into a botnet
A manufacturer intentionally hijacked its Android TV devices.
중국에서 삼성/하이닉스 HBM 을 본토로 밀수하고 있다고 The Information이 보도(원문은 유료라서 못 읽었고 요약본 가져옴)
• 한국에 팹리스 칩 제조사로 위장한 페이퍼컴퍼니 설립
• 해당 칩 설계목적으로 삼성/하이닉스와 HBM 계약
• 해당 HBM은 명목상으로는 실제로 작동을 전제로 PCB에 완전히 납땜되어서 출하됨.
• 이 때 중요한 건 연산성능을 미국의 대중국 규제기준보다 낮게 맞추는 것. 규제 기준은 연산 성능만 본다는 것을 간파함
• 이제 홍콩으로 배송한 후 중국 본토로 육로 운반해서 납땜 떼면 삼성/하이닉스의 HBM GET할수 있음(근데 이런식으로 구한거 어디에 쓰려는 거지? 대량운송에 성공했나...)
https://x.com/_forab/status/2117469455232221476
• 한국에 팹리스 칩 제조사로 위장한 페이퍼컴퍼니 설립
• 해당 칩 설계목적으로 삼성/하이닉스와 HBM 계약
• 해당 HBM은 명목상으로는 실제로 작동을 전제로 PCB에 완전히 납땜되어서 출하됨.
• 이 때 중요한 건 연산성능을 미국의 대중국 규제기준보다 낮게 맞추는 것. 규제 기준은 연산 성능만 본다는 것을 간파함
• 이제 홍콩으로 배송한 후 중국 본토로 육로 운반해서 납땜 떼면 삼성/하이닉스의 HBM GET할수 있음(근데 이런식으로 구한거 어디에 쓰려는 거지? 대량운송에 성공했나...)
https://x.com/_forab/status/2117469455232221476
X (formerly Twitter)
AB Kuai.Dong (@_FORAB) on X
信息报这篇有意思，讲的是老哥们如何把韩国最好的存储芯片，利用规则运回国内，这也让一位 20 多岁少年，快速暴富。
他们会在韩国注册芯片设计公司，故意设计便宜又难用的服务器处理器，然后以它为由，向三星、SK 海力士采购最好的 HBM 存储芯片，这是做 AI 处理器的关键配件。
之后，他们会找一些封装厂，把 HBM 和自己的烂处理器焊在同一块基板上，因为美国规定这种组合，按处理器的算力来判…
他们会在韩国注册芯片设计公司，故意设计便宜又难用的服务器处理器，然后以它为由，向三星、SK 海力士采购最好的 HBM 存储芯片，这是做 AI 处理器的关键配件。
之后，他们会找一些封装厂，把 HBM 和自己的烂处理器焊在同一块基板上，因为美国规定这种组合，按处理器的算力来判…
동영상의 소리 데이터에서 아주 작은 비행기 소음을 찾는 것만으로도, 비행기들의 항로 기록과 도플러 효과로 인한 특이한 소리 패턴을 통해 정확한 위치 및 촬영 시각을 찾을 수 있다는 이야기
이런 거 말고도 그냥 자기 집에서 찍은 바깥 사진 같은건 단 한장으로도 정확한 위치 찾기 어렵지 않습니다. 지형지물의 각도를 통해 삼각측량하면요. 그냥 바깥 사진은 올리지 마시고 올릴때는 좀 뒷북을 쳐가면서 올리세요.
https://www.youtube.com/watch?v=UytYrhYLOKI
이런 거 말고도 그냥 자기 집에서 찍은 바깥 사진 같은건 단 한장으로도 정확한 위치 찾기 어렵지 않습니다. 지형지물의 각도를 통해 삼각측량하면요. 그냥 바깥 사진은 올리지 마시고 올릴때는 좀 뒷북을 쳐가면서 올리세요.
https://www.youtube.com/watch?v=UytYrhYLOKI
YouTube
I discovered a sound that leaks your exact location (and it's everywhere)
This video examines the amount of location information carried by inaudible background sounds, using the Doppler effect to locate a reference recording within ~100m, and only needing (in some cases) less 1-min of audio. This video raises awareness of these…
Tencent Hy4 공개
• Agentic use, 특히 computer use/vision/finance 등 실생활에서의 능력에 초점을 두고 학습
• 가중치 공계 예정(일정은 안 나옴), Hy4-Flash 공개 예정
• Hy4에서도 cybersecurity 학습은 의도적으로 이루어지지 않음. 이거 계속되면 GLM-5.3, DeepSeek V4.1-1017 이 레드팀의 마지막 무기가 될수도...
가격은 1M token당 cached input $0.042, input $0.834, output $2.501
https://hy.tencent.ai/research/hy4?langVersion=en
• Agentic use, 특히 computer use/vision/finance 등 실생활에서의 능력에 초점을 두고 학습
• 가중치 공계 예정(일정은 안 나옴), Hy4-Flash 공개 예정
• Hy4에서도 cybersecurity 학습은 의도적으로 이루어지지 않음. 이거 계속되면 GLM-5.3, DeepSeek V4.1-1017 이 레드팀의 마지막 무기가 될수도...
가격은 1M token당 cached input $0.042, input $0.834, output $2.501
https://hy.tencent.ai/research/hy4?langVersion=en
Mutt Technologies
자고 일어났더니 올라온 두가지의 보안 재앙 —- 인도 CA회사 eMudhra 의 intermediate CA 프라이빗 키가 노출되어서 각종 브라우저/OS에서 해당 인증서를 제거하도록 업데이트해야 함. 업데이트되지 않은 상태에서는 누군가 eMudhra intermediate CA 를 사용하여 인증서를 발급한 뒤, HTTPS 트래픽을 도청/변조하는 공격에 당할 수 있음. • VPN 없이 공용 와이파이 사용을 당분간 자제해야 함. 특히 업데이트 안된 상태에서는.…
eMudhra 인증서 유출(이걸 유출이라고 해야 하나?) 의 유탄 중 하나로 안드로이드의 공장초기화 보호장치(FRP)가 있는데, 원래는 도난 방지를 위해 공장초기화를 해도 원래 주인의 구글 계정으로 로그인을 해야만 사용이 가능하도록 하는 보안 기능. 그런데 HTTPS의 최상위 레벨 인증서가 유출되었으므로 이를 사용하여 구글 서버를 사칭하는 잠금해제 명령을 보내면 손쉽게 우회가 된다고 함. 해결하려면 해당 인증서를 차단한 최신 OS로 업데이트하면 될 것으로 보임. 애플 기기에도 비슷한 장치가 있는데 가능한지는 알려진 바 없음.
https://x.com/alexaltea/status/2117694189441880137
https://x.com/alexaltea/status/2117694189441880137
X (formerly Twitter)
Alexandro Sanchez (@AlexAltea) on X
eMudhra key leaks impact Android's Factory Reset Protection (FRP), thanks to the generous GMS sign-in interface.
TL;DR: Inject mm.setContentFilters('{"user_setup_complete":1, "device_provisioned"…
TL;DR: Inject mm.setContentFilters('{"user_setup_complete":1, "device_provisioned"…
Forwarded from 무온적 사고 - AI, 명상, 밈
Please open Telegram to view this post
VIEW IN TELEGRAM
Mutt Technologies
Kimi K3.1 Pro 공개, 벤치상으로는 GPT-6 Astra 보다 좋고 Opus 5.5 와도 비비는데 써봐야 알듯?;; 가중치는 11월 4일 공개 https://x.com/Kimi_Moonshot/status/2113680701770068067
가중치 올라왔고 AAII 도 업데이트 되었는데 Fable 바로 아래네요
Mutt Technologies
가중치 올라왔고 AAII 도 업데이트 되었는데 Fable 바로 아래네요
하수: 와 Kimi 개잘하네 프론티어 망했구나
고수: 와 Kimi가 이정도면 GLM-5.5, DeepSeek V4.1 Pro는 Fable 5.1 이기겠구나 그러면 Fable 5.5 나오겠네?
고수: 와 Kimi가 이정도면 GLM-5.5, DeepSeek V4.1 Pro는 Fable 5.1 이기겠구나 그러면 Fable 5.5 나오겠네?
백악관 네트워크 대역에서 residential proxy 트래픽이 감지되었다는 리포트
Residential proxy란: 데이터센터 대역에서 나오는 트래픽은 너무 쉽게 방화벽에 막히니, 가정집의 스마트 TV나 IoT 기기에 설치되어서 멀쩡한 대역으로 보이게 만들어주는 프록시 서비스.
보통 무료 게임 앱 같은 걸 사용할 때 사용자 몰래 프록시를 돌리고 앱 개발자가 수익을 타가는 식으로 시스템화 되어 있고, 심한 경우에는 그냥 해킹당한 장비에 설치된 봇넷일 수도 있음(사실 전자도 어떻게 보면 봇넷이라 경계가 모호한 부분)
웃긴건 문제의 트래픽은 현지시간 오후 5시부터 자정에만 뜬다는 건데, 그렇다는건 이 시간에만 해당 장비를 켜는 사람이 있다는 거고...
본문에서는 말을 안하지만 어쩌면 퇴근하고 콜라한잔 싸악~ 조지면서 TV 로 폭스뉴스 보는 트럼프일 수도 있는 것 ㅋㅋㅋㅋㅋ
https://layer3intel.com/blog/residential-proxies-white-house-network
Residential proxy란: 데이터센터 대역에서 나오는 트래픽은 너무 쉽게 방화벽에 막히니, 가정집의 스마트 TV나 IoT 기기에 설치되어서 멀쩡한 대역으로 보이게 만들어주는 프록시 서비스.
보통 무료 게임 앱 같은 걸 사용할 때 사용자 몰래 프록시를 돌리고 앱 개발자가 수익을 타가는 식으로 시스템화 되어 있고, 심한 경우에는 그냥 해킹당한 장비에 설치된 봇넷일 수도 있음(사실 전자도 어떻게 보면 봇넷이라 경계가 모호한 부분)
웃긴건 문제의 트래픽은 현지시간 오후 5시부터 자정에만 뜬다는 건데, 그렇다는건 이 시간에만 해당 장비를 켜는 사람이 있다는 거고...
본문에서는 말을 안하지만 어쩌면 퇴근하고 콜라한잔 싸악~ 조지면서 TV 로 폭스뉴스 보는 트럼프일 수도 있는 것 ㅋㅋㅋㅋㅋ
https://layer3intel.com/blog/residential-proxies-white-house-network
Layer3 Intel
Residential Proxies Detected on White House Network
Our new Residential Proxy Observatory shows residential proxy traffic exiting the White House network: 236 times in 30 days, through 28 public proxy services.
변창호 코인사관학교 BCH
두나무, 빗썸 API 표절 소송 패소 원문 이번 소송은 두나무가 빗썸이 자사의 API 문서를 표절했다고 주장하며 손해배상 2억원 등을 청구하면서 시작됐다. 재판부는 "원고의 청구를 모두 기각한다"고 선고했다. 소송비용도 원고인 두나무가 전액 부담하도록 했다.
이에 관련한 아주 유명한 소송으로 구글 대 오라클이 있는데, 요지는 구글의 Android 운영 체제가 Java 언어와의 호환성을 가져가기 위해(구현은 자기들이 다시 했음) Java의 API 를 도용한 것이 저작권/특허 침해냐는 것이었고, 판단이 여러 번 뒤집혔는데 미국 대법원에서는 "구글의 Java API 사용은 공정 이용에 속한다" 며 배상액을 엄청나게 낮춰줌(사실상 구글의 승리).
이 판결을 뒷받침하는 주된 논리로 API는 구현과 달리 선언에서 끝난다는 차이점이 있음. 두나무 대 빗썸도 비슷한 요지로 기각된거 아닐까 하는 뇌피셜?
그리고 https://en.wikipedia.org/wiki/Google_LLC_v._Oracle_America,_Inc. 에 따르면 오라클의 주장이 받아들여지는 순간 POSIX 인터페이스를 준수하는 Linux 등등의 모든 현대 OS가 소송당할 위험도 있었다고 함 ㅋㅋ
이 판결을 뒷받침하는 주된 논리로 API는 구현과 달리 선언에서 끝난다는 차이점이 있음. 두나무 대 빗썸도 비슷한 요지로 기각된거 아닐까 하는 뇌피셜?
그리고 https://en.wikipedia.org/wiki/Google_LLC_v._Oracle_America,_Inc. 에 따르면 오라클의 주장이 받아들여지는 순간 POSIX 인터페이스를 준수하는 Linux 등등의 모든 현대 OS가 소송당할 위험도 있었다고 함 ㅋㅋ
Wikipedia
Google LLC v. Oracle America, Inc.
2021 United States Supreme Court case
• 중국 모델 개발사들은 컴퓨트 병목을 심하게 겪고 있음, 근시일내에는 해소되기 어려우며 Kimi처럼 3-4T 수준이 한계, 10T+ 는 불가능
• 증류는 훨씬 어려워졌고 정공법으로 학습시키는 건 컴퓨트가 부족
• 알리바바가 중국 내 유통되는 블랙웰 절반을 들고 있음(압도적 자본력)
• 앤트로픽이 차별화하고자 하는 제약 등은 애초에 모델을 비공개로 돌리므로 증류조차 불가. 데이터가 부족하므로 단기간에 step function 으로 올라갈 수 없음
• 저렴한 모델에 대한 수요 및 가격절감 경쟁은 중국의 특기였지만 지금은 미국/중국 개발사 관계없이 적극적으로 이뤄지는중(ex: Haiku).
• 장기적으로 중국모델 개발사들에 대한 수익성 면에서 기존 예측보다도 흑자전환이 더 오래 걸릴 것으로 예측
https://chatgpt.com/share/6aec53f4-f4f4-83e8-b241-e639241b54c0 (번역)
https://mp.weixin.qq.com/s/YOWslIRykThfGGwx-71RHA (원문)
• 증류는 훨씬 어려워졌고 정공법으로 학습시키는 건 컴퓨트가 부족
• 알리바바가 중국 내 유통되는 블랙웰 절반을 들고 있음(압도적 자본력)
• 앤트로픽이 차별화하고자 하는 제약 등은 애초에 모델을 비공개로 돌리므로 증류조차 불가. 데이터가 부족하므로 단기간에 step function 으로 올라갈 수 없음
• 저렴한 모델에 대한 수요 및 가격절감 경쟁은 중국의 특기였지만 지금은 미국/중국 개발사 관계없이 적극적으로 이뤄지는중(ex: Haiku).
• 장기적으로 중국모델 개발사들에 대한 수익성 면에서 기존 예측보다도 흑자전환이 더 오래 걸릴 것으로 예측
https://chatgpt.com/share/6aec53f4-f4f4-83e8-b241-e639241b54c0 (번역)
https://mp.weixin.qq.com/s/YOWslIRykThfGGwx-71RHA (원문)
ChatGPT
이 채팅을 확인해 보세요
누군가 회원님이 보고 싶어 할 것 같다고 생각한 채팅입니다.
❤2👏1
대가리 뜨거워지는 취약점 한개더 추가
https://sshhole.com/
musl 기반의 SSH 서버(OpenWRT, Buildroot, Yocto, Alpine Linux 등) 에 256자를 초과하는 비밀번호를 입력하면 무조건 accept됨.
즉시 OpenSSH를 최신 버전으로 올리거나,
심지어 2016년부터 존재했음 ㅋㅋㅋㅋ 레전드
https://sshhole.com/
musl 기반의 SSH 서버(OpenWRT, Buildroot, Yocto, Alpine Linux 등) 에 256자를 초과하는 비밀번호를 입력하면 무조건 accept됨.
즉시 OpenSSH를 최신 버전으로 올리거나,
PasswordAuthentication no 를 설정에 추가해서 비밀번호 접근을 막는 것이 권장됨.심지어 2016년부터 존재했음 ㅋㅋㅋㅋ 레전드
😁2
Mutt Technologies
대가리 뜨거워지는 취약점 한개더 추가 https://sshhole.com/ musl 기반의 SSH 서버(OpenWRT, Buildroot, Yocto, Alpine Linux 등) 에 256자를 초과하는 비밀번호를 입력하면 무조건 accept됨. 즉시 OpenSSH를 최신 버전으로 올리거나, PasswordAuthentication no 를 설정에 추가해서 비밀번호 접근을 막는 것이 권장됨. 심지어 2016년부터 존재했음 ㅋㅋㅋㅋ 레전드
우분투는 glibc 기반이라 해당 안되고요(그냥 한번 LLM한테 물어보고 체크만 해보세요), 가장 크리티컬한건 OpenWRT를 설치한 공유기나 Buildroot 기반의 임베디드 리눅스 장비일듯?
중국모델을 그나마 유의미하게 따라가는 미국 오픈모델의 희망 Inkling Small 2
594B-A17B 인데 이정도면 딥시크랑 뜨거운 승부 가능한 체급과 결과
개인사용자야 이거 쓸이유 딱히 없는데, 국내 중견기업-대기업들에서 사내용도로 AI 배포하려니까 중국모델은 내부 방침으로 절대 불가라고 하는 경우가 꽤 많음. 뚱뚱하기만 한 Mistral Large 4 돌릴바에야 이게 나을듯?
https://x.com/thinkymachines/status/2118489527362912566
594B-A17B 인데 이정도면 딥시크랑 뜨거운 승부 가능한 체급과 결과
개인사용자야 이거 쓸이유 딱히 없는데, 국내 중견기업-대기업들에서 사내용도로 AI 배포하려니까 중국모델은 내부 방침으로 절대 불가라고 하는 경우가 꽤 많음. 뚱뚱하기만 한 Mistral Large 4 돌릴바에야 이게 나을듯?
https://x.com/thinkymachines/status/2118489527362912566
정보보안/암호학에서 중요하게 다뤄지던(AI시대 전에... 지금도 중요한지는 모름) 이슈로 부채널 공격이 있는데 실생활에서 나올법한 재미있는 부채널 공격의 예시
https://www.youtube.com/shorts/SaT5xkRQmGM
https://www.youtube.com/shorts/SaT5xkRQmGM
YouTube
전교 꼴찌가 찾아낸 버그
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.