스페인의 독립 언론기관 Maldita가 TikTok 에서 아동 성착취물들을 대놓고 유통하는 계정 수천개를 발견하여 고발함(TikTok은 이에 대해 매우 미온적인 대처만을 하고 있었음). 이 때 수집된 자료들을 외부로 반출하지 않기 위해 로컬 LLM을 사용. 산출물을 사이트를 통해 만들 때에도 Claude를 사용했으나 그러한 자료들은 격리됨.
로컬 LLM의 흥미로운 사용 사례라 공유
https://x.com/naroh/status/2119887368769401340
로컬 LLM의 흥미로운 사용 사례라 공유
https://x.com/naroh/status/2119887368769401340
X (formerly Twitter)
David Fernández (@naroh) on X
Sobre esta pedazo de investigación os diré que, en el apartado tecnológico, la hemos llevado adelante utilizando para el procesamiento de datos modelos locales de inteligencia artificial corriendo…
Mutt Technologies
스페인의 독립 언론기관 Maldita가 TikTok 에서 아동 성착취물들을 대놓고 유통하는 계정 수천개를 발견하여 고발함(TikTok은 이에 대해 매우 미온적인 대처만을 하고 있었음). 이 때 수집된 자료들을 외부로 반출하지 않기 위해 로컬 LLM을 사용. 산출물을 사이트를 통해 만들 때에도 Claude를 사용했으나 그러한 자료들은 격리됨. 로컬 LLM의 흥미로운 사용 사례라 공유 https://x.com/naroh/status/2119887368769401340
확실한건 이런걸 Claude로 분석했으면 의도와 관계없이 영정 맞고 시작했을 것...
MS 리서치가 매우 적은 수의 신경망 가중치만 변경하여 모델에 백도어를 심을 수 있음을 입증함
https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
1만 2천개 가량의 뉴런으로 이루어진 8B 모델에서 7개의 뉴런만 변경하여 백도어를 심음. 해당 백도어가 심어진 모델은 평상시에는 완벽히 같은 답을 뱉으나, 지정된 조건 하에서만(날짜나 특정 레포지토리 접근임을 표시한다거나) 악의적인 명령을 수행할 수 있음.
허깅페이스에서는 코드뿐만 아니라 가중치도 검증된 사람의 것인지 확인해야 함
https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
1만 2천개 가량의 뉴런으로 이루어진 8B 모델에서 7개의 뉴런만 변경하여 백도어를 심음. 해당 백도어가 심어진 모델은 평상시에는 완벽히 같은 답을 뱉으나, 지정된 조건 하에서만(날짜나 특정 레포지토리 접근임을 표시한다거나) 악의적인 명령을 수행할 수 있음.
허깅페이스에서는 코드뿐만 아니라 가중치도 검증된 사람의 것인지 확인해야 함
Microsoft Research
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents - Microsoft Research
Microsoft researchers have discovered “Lazarus,” a backdoor technique that can reprogram dormant neurons in an AI model, causing an otherwise normal AI agent to execute malicious commands when a hidden trigger appears. The threat is especially serious for…
👍1
Mutt Technologies
이건 시발 또 뭐야 https://x.com/v12sec/status/2120471754166415821 (안드로이드 텔레그램 0클릭 RCE인데 이미 업데이트가 나왔다 합니다)
텔레그램에 인앱 위젯을 만들 수 있는 기능이 추가됐는데, 별도의 샌드박싱 없이 그냥 QuickJS(소형 JS 런타임) 를 갖다 박은거라서 보안우려가 있다고 합니다
https://x.com/OwariDa/status/2120539850541560316
위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가 준내 많은데 텔레그램 팀이 빨리 보안을 고려해서 설계를 변경해줬으면 좋겠네요...
*첨언하면 QuickJS 버그를 쓴다고 시스템을 싹다 헤집어놓을 수 있는 건 아닌데(현대 OS들은 앱간 격리가 철저하다 보니), 텔레그램을 입구로 쓰고 각 OS의 취약점들과 조합해서 시스템을 장악할 가능성도 있다는 것
https://x.com/OwariDa/status/2120539850541560316
위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가 준내 많은데 텔레그램 팀이 빨리 보안을 고려해서 설계를 변경해줬으면 좋겠네요...
*첨언하면 QuickJS 버그를 쓴다고 시스템을 싹다 헤집어놓을 수 있는 건 아닌데(현대 OS들은 앱간 격리가 철저하다 보니), 텔레그램을 입구로 쓰고 각 OS의 취약점들과 조합해서 시스템을 장악할 가능성도 있다는 것
X (formerly Twitter)
Joel Eriksson (@OwariDa) on X
Telegram shipped a "sandbox" for HTML widgets in messages. It's an in-process QuickJS (C) interpreter on a thread...
No fork, no isolatedProcess, no seccomp anywhere in the tree, so any QuickJS e…
No fork, no isolatedProcess, no seccomp anywhere in the tree, so any QuickJS e…
👍1
불륜마 젠슨황을 응징하기 위해 여성들은 단결하여 RTX 5090을 시장가 매도해 달라는 글
저는 800만원에 살게요
https://x.com/sickdotdev/status/2120514292420370458
저는 800만원에 살게요
https://x.com/sickdotdev/status/2120514292420370458
X (formerly Twitter)
Sick (@sickdotdev) on X
any ladies out there disgusted by the jensen huang cheating allegations?
if you own an RTX 5070 or higher, it’s time to take a stand
sell that disgusting piece of hardware to me for $50
don’t le…
if you own an RTX 5070 or higher, it’s time to take a stand
sell that disgusting piece of hardware to me for $50
don’t le…
Mutt Technologies
텔레그램에 인앱 위젯을 만들 수 있는 기능이 추가됐는데, 별도의 샌드박싱 없이 그냥 QuickJS(소형 JS 런타임) 를 갖다 박은거라서 보안우려가 있다고 합니다 https://x.com/OwariDa/status/2120539850541560316 위 버그도 위젯이 사용하는 특정 QuickJS 버전의 버그를 사용한 것인데, 이 버그 자체는 픽스가 되었지만 앞으로도 QuickJS 버그가 나올때마다 텔레그램에서 퍼질 수 있어서 곤란한 부분인 듯. 사용자가…
FUD를 자꾸 뿌리는거같아 미안하지만 실제로 바로 다음날에 또다른 RCE PoC 를 올렸네요
텔레 삭제해야하나요? 전 모르겠는데 불안하긴 함... 근데 여기가 내 인생인데
https://x.com/v12sec/status/2121045471808622776
텔레 삭제해야하나요? 전 모르겠는데 불안하긴 함... 근데 여기가 내 인생인데
https://x.com/v12sec/status/2121045471808622776
X (formerly Twitter)
V12 (@v12sec) on X
Here's another RCE that works on the "patched" Windows @telegram client.
Even if individual bugs get patched, allowing (unsandboxed!) QuickJS in messages massively opens up the attack surface.
Even if individual bugs get patched, allowing (unsandboxed!) QuickJS in messages massively opens up the attack surface.
LLM들의 가중치의 초기값을 랜덤으로 설정할 때, 완벽한 랜덤성을 딱히 요구하지는 않기 때문에 GPU의 특성에 맞는 적당한 난수생성기를 쓰게 되는데, 이게 최종적으로 학습된 가중치 값에도 지문처럼 남기 때문에 학습 시작을 뭘로 했는지 알 수 있다는 연구결과
해당 연구에 따르면, 중국 모델들은 빠짐없이 26년 2분기-3분기를 기점으로, 이전에는 NVIDIA Hopper 를 사용하다 Blackwell 로 교체함.
https://x.com/nrehiew_/status/2120999116172099745
해당 연구에 따르면, 중국 모델들은 빠짐없이 26년 2분기-3분기를 기점으로, 이전에는 NVIDIA Hopper 를 사용하다 Blackwell 로 교체함.
https://x.com/nrehiew_/status/2120999116172099745
X (formerly Twitter)
wh (@nrehiew_) on X
This is really cool.
Even if weights are changed during training, their relative ordering from initialization should be preserved and you can reverse-engineer the SM count of the GPU that produc…
Even if weights are changed during training, their relative ordering from initialization should be preserved and you can reverse-engineer the SM count of the GPU that produc…
Mutt Technologies
FUD를 자꾸 뿌리는거같아 미안하지만 실제로 바로 다음날에 또다른 RCE PoC 를 올렸네요 텔레 삭제해야하나요? 전 모르겠는데 불안하긴 함... 근데 여기가 내 인생인데 https://x.com/v12sec/status/2121045471808622776
파벨 두로프의 답변: 어 졸라 안전해 내계정 털어봐 ㅇㅇ
참고로 지금 위젯 기능은 텔레그램 봇과의 DM에서만 이용 가능하긴 합니다. /start 를 해놓은 봇중에 악의적인게 있지 않으면 위젯기능으로 털릴일이 없긴 함
https://x.com/banteg/status/2121275372671046007
참고로 지금 위젯 기능은 텔레그램 봇과의 DM에서만 이용 가능하긴 합니다. /start 를 해놓은 봇중에 악의적인게 있지 않으면 위젯기능으로 털릴일이 없긴 함
https://x.com/banteg/status/2121275372671046007
X (formerly Twitter)
banteg (@banteg) on X
this is so stupid. any bot can send you this message type. this blunder will end badly.
루머: DeepSeek-V5는 2T parameters 규모로 프리트레이닝되고있으며 화웨이 어센드 칩만 사용중.
또한, 60만개의 엔비디아 GPU 칩이 홍콩에서 통관되지 못한 채로 묶여 있는 상태
https://x.com/pwk/status/2121227020227039263
또한, 60만개의 엔비디아 GPU 칩이 홍콩에서 통관되지 못한 채로 묶여 있는 상태
https://x.com/pwk/status/2121227020227039263
X (formerly Twitter)
Peter W. Kruger (@pwk) on X
Only a rumor: DeepSeek already pre-training 2T weight sparse MoE model on Huawei Ascend chips. But couple this with the news that 600k Nvidia GPUs are stuck in Hong Kong because China is not clear…
누가 윈터뮤트가 쓰는 이더리움 온체인 컨트랙트를 역공학해서 이더스캔에 verify 까지 해버림. ㅋㅋ
컨트랙트 클로즈드소스로 올리는 건 원래도 아니었지만 더이상 의미있는 보안 대책이 아닌듯
https://x.com/zholme7/status/2121629608206389723
컨트랙트 클로즈드소스로 올리는 건 원래도 아니었지만 더이상 의미있는 보안 대책이 아닌듯
https://x.com/zholme7/status/2121629608206389723
X (formerly Twitter)
Zac (@zholme7) on X
Someone verified wintermutes cexdex contract on etherscan lol. Onchain is now open source https://t.co/HKeKOSqI9P