Mutt Technologies
1.57K subscribers
275 photos
1 file
350 links
돈 이야기 안해요 (아마도)
English speakers might want https://x.com/haxxton1
Download Telegram
Qwen4 저번주에 낸다고 해놓고 잠수타던 알리바바 이 회피형 십놈들 다들 원하던 27B 가중치는 안주고 Qwen4-Max Preview 먼저 내버림

저는 돈없어서 못쓰니까 누가 써보시고 후기좀요

https://x.com/Alibaba_Qwen/status/2120335993643684315
Mutt Technologies
자고 일어났더니 올라온 두가지의 보안 재앙 —- 인도 CA회사 eMudhra 의 intermediate CA 프라이빗 키가 노출되어서 각종 브라우저/OS에서 해당 인증서를 제거하도록 업데이트해야 함. 업데이트되지 않은 상태에서는 누군가 eMudhra intermediate CA 를 사용하여 인증서를 발급한 뒤, HTTPS 트래픽을 도청/변조하는 공격에 당할 수 있음. • VPN 없이 공용 와이파이 사용을 당분간 자제해야 함. 특히 업데이트 안된 상태에서는.…
eMuhdra 인증서 사건의 full report 가 올라왔습니다. 대충 요약하면:

• 크롬의 루트 인증서 정책 변경 예고가 있어서, CA 인증서 제출 데드라인이 눈앞인데
• HSM(하드웨어 보안모듈, 대충 렛저 같은것) 시켜놓은게 "공급망 불안정"으로 배송이 밀리니까
• 다음과 같은 꼼수를 씀. eMudhra가 이미 갖고 있는 HSM이랑 이미 인증받은 데이터센터에서 일단 키생성 하고 키를 추출해서 옮기기로 함
• 근데 HSM 장비 간에 제조사가 달라서 그런지 암호화 안 된 생 프라이빗키를 꺼내는 방식으로 키를 옮김. (렛저 니모닉 그대로 뽑아서 옮긴 셈)
• 근데 프라이빗키를 HSM에서 암호화도 안 하고 꺼내는 게 FIPS 인증절차 하에서 불가능한데(이러면 HSM을 쓰는 의미가??) 가라로 FIPS-approved mode 를 꺼버림
• 이걸 자기들이 직접 만든 Python 스크립트로 했는데 아뿔싸 여기에 버그가 있어서 키를 딱 1바이트만 읽었네? (테스트란 걸 안 하나?)
• 그래서 프라이빗 키가 0x00000000000000000000000000000004 가 되어 버린 웃지못할 사건 발생

full incident 리포트 치고 그래서 eMudhra 가 어떤 사고과정에서 이런 정신나간 행동을 했는지 설명이 없기 때문에(결과만 있음) 사람들이 점잖은 쌍욕으로 eMudhra에게 추가 해명 요구중

https://bugzilla.mozilla.org/show_bug.cgi?id=2083449#c82
❤1
바이두도 AI합니다!
ERNIE 5.5 Flash Preview 모델 API로 공개했고 11월 25일에 가중치 올릴예정
280B-A14B 라서 GLM 5.3 Flash 의 대안으로는 괜찮아 보이는데... GLM 5.5 는 언제 나와요?

https://x.com/Baidu_Inc/status/2120391732248637734
Mutt Technologies
Wi-Fi 로그인 시도(캡티브 Wi-Fi 로그인 페이지) 한번으로 iOS 시스템에 침투할 수 있는 취약점 데모 영상 27.2.1 로 바로 업그레이드 하세요... https://x.com/calif_io/status/2120225274877100091
이제보니 락다운 모드도 뚫네 ㅅㅂ 이런거 보안 바운티로 한 $500k 받나? 지리네
(Calif는 PHP2Shell도 제보한 적 있습니다. 요즘 날라댕기는듯)
이건 시발 또 뭐야

https://x.com/v12sec/status/2120471754166415821

(안드로이드 텔레그램 0클릭 RCE인데 이미 업데이트가 나왔다 합니다)
스페인의 독립 언론기관 Maldita가 TikTok 에서 아동 성착취물들을 대놓고 유통하는 계정 수천개를 발견하여 고발함(TikTok은 이에 대해 매우 미온적인 대처만을 하고 있었음). 이 때 수집된 자료들을 외부로 반출하지 않기 위해 로컬 LLM을 사용. 산출물을 사이트를 통해 만들 때에도 Claude를 사용했으나 그러한 자료들은 격리됨.

로컬 LLM의 흥미로운 사용 사례라 공유

https://x.com/naroh/status/2119887368769401340
MS 리서치가 매우 적은 수의 신경망 가중치만 변경하여 모델에 백도어를 심을 수 있음을 입증함

https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/

1만 2천개 가량의 뉴런으로 이루어진 8B 모델에서 7개의 뉴런만 변경하여 백도어를 심음. 해당 백도어가 심어진 모델은 평상시에는 완벽히 같은 답을 뱉으나, 지정된 조건 하에서만(날짜나 특정 레포지토리 접근임을 표시한다거나) 악의적인 명령을 수행할 수 있음.

허깅페이스에서는 코드뿐만 아니라 가중치도 검증된 사람의 것인지 확인해야 함
👍1
Mutt Technologies
이건 시발 또 뭐야 https://x.com/v12sec/status/2120471754166415821 (안드로이드 텔레그램 0클릭 RCE인데 이미 업데이트가 나왔다 합니다)
텔레그램에 인앱 위젯을 만들 수 있는 기능이 추가됐는데, 별도의 샌드박싱 없이 그냥 QuickJS(소형 JS 런타임) 를 갖다 박은거라서 보안우려가 있다고 합니다

https://x.com/OwariDa/status/2120539850541560316

위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가 준내 많은데 텔레그램 팀이 빨리 보안을 고려해서 설계를 변경해줬으면 좋겠네요...

*첨언하면 QuickJS 버그를 쓴다고 시스템을 싹다 헤집어놓을 수 있는 건 아닌데(현대 OS들은 앱간 격리가 철저하다 보니), 텔레그램을 입구로 쓰고 각 OS의 취약점들과 조합해서 시스템을 장악할 가능성도 있다는 것
👍1
"수고했다 이제 꺼져라"
😁1
전인구 이 사람이 사실 일루미나티의 진짜 수장이 아닐까?
LLM들의 가중치의 초기값을 랜덤으로 설정할 때, 완벽한 랜덤성을 딱히 요구하지는 않기 때문에 GPU의 특성에 맞는 적당한 난수생성기를 쓰게 되는데, 이게 최종적으로 학습된 가중치 값에도 지문처럼 남기 때문에 학습 시작을 뭘로 했는지 알 수 있다는 연구결과

해당 연구에 따르면, 중국 모델들은 빠짐없이 26년 2분기-3분기를 기점으로, 이전에는 NVIDIA Hopper 를 사용하다 Blackwell 로 교체함.

https://x.com/nrehiew_/status/2120999116172099745
루머: DeepSeek-V5는 2T parameters 규모로 프리트레이닝되고있으며 화웨이 어센드 칩만 사용중.

또한, 60만개의 엔비디아 GPU 칩이 홍콩에서 통관되지 못한 채로 묶여 있는 상태

https://x.com/pwk/status/2121227020227039263
누가 윈터뮤트가 쓰는 이더리움 온체인 컨트랙트를 역공학해서 이더스캔에 verify 까지 해버림. ㅋㅋ

컨트랙트 클로즈드소스로 올리는 건 원래도 아니었지만 더이상 의미있는 보안 대책이 아닌듯

https://x.com/zholme7/status/2121629608206389723
사실 아브락사스 라이터 계정 해킹당한거 같은 이벤트 한번쯤 터질거라고 생각한게, 라이터 팀이 보안관점에서 매우 비전문가적인 행보를 보였음

제가 아직도 기억하는 건, 라이터 팀이 SDK에 오딧받지 않은 schnorr signature 를 구현하고, 거기에 nonce를 타임스탬프로 사용해서 사실상 tx 한개만 가지고도 L2 키를 무조건 복구할 수 있었음 (제출된 시간 앞뒤로 timestamp 브루트포스하면 되니까)

문제는 라이터 팀은 이걸 조용히 패치하면서 기존 SDK가 잘못되었으니 쓰지 말라거나, L2 키를 모두 재생성하라는 security advisory 를 낸 적이 없음. 그냥 묻고 넘어감

확증은 없지만 만약 아브락사스가 25년 4월 이전부터 거래하고 있었고 그냥 예전 SDK를 습관처럼 쓰고 있었다면 이 취약점으로 키 복구가 가능했을 것.

공론화를 안 한 이유는... 그냥 노이즈 만들기도 싫었고 L2 키가 털린다고 할수있는게 딱히 없다는걸 알고있어서. 근데 public pool 을 통해서 슈킹이 가능한걸 몰랐음

https://github.com/elliottech/poseidon_crypto/commit/c67de0a0908aa0d0c94ec2c0c8c62b5b30d90af2
👍1