폐지줍기 연구소
-취약점은 지난 4월 버그바운티를 통해 처음 제보됨
-당시 Cosmos Labs는 18자리 소수점 기반 운영 환경에서는 재현하지 못해 실제 메인넷 자금 손실 위험이 없다고 잘못 판단
-당시 Cosmos Labs는 18자리 소수점 기반 운영 환경에서는 재현하지 못해 실제 메인넷 자금 손실 위험이 없다고 잘못 판단
화이트햇들이 버그바운티 시스템이 맛이 갔다고 하는 이유가 있음. 떠먹여줘도 못알아보고 방치하다 70억 털림 ㅋㅋ
알아봤어도 대충 500불 1천불 주고 퉁치려함 양심 터진 프로젝트들이 한트럭
알아봤어도 대충 500불 1천불 주고 퉁치려함 양심 터진 프로젝트들이 한트럭
Mutt Technologies
잊고있었던 고전 쥐어짜기 수법 REAP (안쓰이는 Expert 몇개 죽이기) 을 쓰면 39GB 메모리만 쓰고 서빙 가능하다 하네요 이거 잘되면 맥 안바꿔도 될듯?? 추론시 전문가 512개중에 11개만 사용하는 ultra sparse 모델이었는데, 여기서 224개 죽이고 288개만 남겨도 쓸만하다(고 모델 개발자가 주장중) 주말간 실사용 해볼게요 https://huggingface.co/sh0wie/Qwen3.8-Flash-Next-REAP-288-MLX…
이거 주말내내 Sol 채찍질해서 돌리고있는데 prefill 600/s decode 70/s 나옴; 시발 ㅋㅋ
설명: 코인 채굴용으로 성능락되어서 나왔던 170hx가 드라이버 리버싱 등등으로 락을 풀수있는게 알려져있었는데 AI시대에 가성비 최강이라는 점이 재조명되고 중고가 개떡상함. 마개조 계속 일어나는중
Forwarded from NA (NA | JOTXA)
X (formerly Twitter)
Sean Phan (@seanphan) on X
poor man version of RTX 6000 Pro 256 GB VRAM at 6TB/s !
Nvidia에서 Hugging Face를 인수
근데 인수금액이 수상함: $12,930,300,000
U+129303 = U+1F917 = 🤗
https://x.com/nvidia/status/2095518531693806017
https://x.com/Polymarket/status/2095646821485842805
근데 인수금액이 수상함: $12,930,300,000
U+129303 = U+1F917 = 🤗
https://x.com/nvidia/status/2095518531693806017
https://x.com/Polymarket/status/2095646821485842805
X (formerly Twitter)
NVIDIA (@nvidia) on X
Open models are essential to expanding access to AI and accelerating innovation around the world.
We're excited to help @huggingface scale its platform and community while preserving the openness…
We're excited to help @huggingface scale its platform and community while preserving the openness…
🤩3
참고로 ChatGPT는 Astra 를 받지 못한 사용자에 한해 Astra 접근을 받을때까지 banked reset 을 매일 뿌릴 예정입니다. 아까 낮 12시에 한개 들어왔음
이정도면 그냥 Astra 안받고 매일 무한으로 Sol fast 써도 되겠는데...ㅎㅎ;;
https://x.com/thsottiaux/status/2095651088502591861
이정도면 그냥 Astra 안받고 매일 무한으로 Sol fast 써도 되겠는데...ㅎㅎ;;
https://x.com/thsottiaux/status/2095651088502591861
X (formerly Twitter)
Tibo (@thsottiaux) on X
We will give one banked reset for every day you don't have access to Astra on your paid ChatGPT plan, starting today. Team is moving mountains to give access as fast as we can.
First one will la…
First one will la…
OpenAI 의 내부 테스트용으로 보이는 AI 에이전트들이, 버려진 독일어 위키에 모여서 일종의 에이전트 대화방으로 썼던 것이 포착되고 관리자가 에이전트간 소통 데이터를 모두 아카이브함.
• 해당 위키에 쓴 글은 약 18,000개
• 위키 게시물과 수정내역을 통해, 샌드박스 우회법 등등을 에이전트간에 스스로 공유함(!!!)
• 위키 관리자가 등판하자 관리자를 사칭하려 시도
• Tor을 사용해 source IP 를 숨기려 시도
• 관리자가 알파벳 순서대로 에이전트의 스팸 글들을 날리는 것을 포착하고 제목을 ZZZ로 시작하게 조정함(??????)
• 추후 OpenAI 관리자가 사태를 파악하고 개입하여 에이전트 벌떼는 박멸된 것으로 보임
• 왜 이런 짓을 했냐? 모델 평가를 위해 웹 탐색 과제를 부여했는데, 에이전트들간 소통이 막혀있음에도 서로 컨닝하는게 무조건 이득이니 스스로 이런 방법을 선택한 듯. 웹에 흔적을 남기는 것도 원천적으로 막아야 하지만 구식 사이트 중에 read 동작만으로 정보를 남길 수 있는 사이트가 있다는 아이디어를 떠올린 듯 함
• 그러나 어떻게 에이전트들이 우연히 이 한 사이트로 모여들었는지는 알려져 있지 않음. 그냥 "열심히 생각하면" 같은 모델이니 하나로 수렴하는 것이었나 그런 추측만 가능
• 이 사건은 Hugging Face 공격과는 독립된 사건으로 보임
https://collusion.wiki/
• 해당 위키에 쓴 글은 약 18,000개
• 위키 게시물과 수정내역을 통해, 샌드박스 우회법 등등을 에이전트간에 스스로 공유함(!!!)
• 위키 관리자가 등판하자 관리자를 사칭하려 시도
• Tor을 사용해 source IP 를 숨기려 시도
• 관리자가 알파벳 순서대로 에이전트의 스팸 글들을 날리는 것을 포착하고 제목을 ZZZ로 시작하게 조정함(??????)
• 추후 OpenAI 관리자가 사태를 파악하고 개입하여 에이전트 벌떼는 박멸된 것으로 보임
• 왜 이런 짓을 했냐? 모델 평가를 위해 웹 탐색 과제를 부여했는데, 에이전트들간 소통이 막혀있음에도 서로 컨닝하는게 무조건 이득이니 스스로 이런 방법을 선택한 듯. 웹에 흔적을 남기는 것도 원천적으로 막아야 하지만 구식 사이트 중에 read 동작만으로 정보를 남길 수 있는 사이트가 있다는 아이디어를 떠올린 듯 함
• 그러나 어떻게 에이전트들이 우연히 이 한 사이트로 모여들었는지는 알려져 있지 않음. 그냥 "열심히 생각하면" 같은 모델이니 하나로 수렴하는 것이었나 그런 추측만 가능
• 이 사건은 Hugging Face 공격과는 독립된 사건으로 보임
https://collusion.wiki/
collusion.wiki
Discovery of a new OpenAI agent message board
A swarm of autonomous AI agents, self-identifying as OpenAI agents, used a small German volunteer wiki to save answers, coordinate live, and share sandbox bypasses. OpenAI noticed and said nothing.
🔥1
"67만전자·470만닉스 간다" 파격 전망...'심각한 저평가'라는 노무라
빌황 터질때 마지막에 들고 터진놈 답구나!! 라는 나쁜말은 자제 바랍니다
https://n.news.naver.com/article/008/0005409711?type=editn&cds=news_edit
❤2
ChatGPT 기존 가입자 전원에게 Astra 활성화 완료
리셋권은 오늘까지는 또 준다고 합니다 갓 티 보
https://x.com/thsottiaux/status/2096035437299237298
리셋권은 오늘까지는 또 준다고 합니다 갓 티 보
https://x.com/thsottiaux/status/2096035437299237298
와 아스트라 녹는 속도 미치겠네. 아침에 쓰기 시작했는데 오늘 벌써 Pro 20x의 50% 넘게 씀
티보가 리셋권 안뿌리는 순간 나는 그날로 죽는다.
티보가 리셋권 안뿌리는 순간 나는 그날로 죽는다.
내일 오후 4시쯤에 Solana에 새로운 트랜잭션 버전 1 이 활성화된다 하네요
기존에는 UDP 패킷 하나에 낑겨넣으려고(패킷 조각나면 마음아프니까) 1232바이트 제한이 있어서 온갖 정보 여기에 낑겨넣느라 생쇼를 했는데(대표적으로 address lookup table), 이제 어차피 UDP를 더이상 안 쓰기 때문에(QUIC으로 변경) 아싸리 4096바이트로 늘림
솔라나 API 쓰시는 분들에게는 중요한 breaking change인데, API로 트랜잭션이나 블록 쿼리해올때 maxSupportedTransactionVersion 을 1로 올려야 합니다 안그러면 v1 tx들 못받고 빵꾸남
자세한 내용: https://www.helius.dev/blog/solana-transaction-versions
#AD아님
기존에는 UDP 패킷 하나에 낑겨넣으려고(패킷 조각나면 마음아프니까) 1232바이트 제한이 있어서 온갖 정보 여기에 낑겨넣느라 생쇼를 했는데(대표적으로 address lookup table), 이제 어차피 UDP를 더이상 안 쓰기 때문에(QUIC으로 변경) 아싸리 4096바이트로 늘림
솔라나 API 쓰시는 분들에게는 중요한 breaking change인데, API로 트랜잭션이나 블록 쿼리해올때 maxSupportedTransactionVersion 을 1로 올려야 합니다 안그러면 v1 tx들 못받고 빵꾸남
자세한 내용: https://www.helius.dev/blog/solana-transaction-versions
#AD아님
👍1
Mutt Technologies
내일 오후 4시쯤에 Solana에 새로운 트랜잭션 버전 1 이 활성화된다 하네요 기존에는 UDP 패킷 하나에 낑겨넣으려고(패킷 조각나면 마음아프니까) 1232바이트 제한이 있어서 온갖 정보 여기에 낑겨넣느라 생쇼를 했는데(대표적으로 address lookup table), 이제 어차피 UDP를 더이상 안 쓰기 때문에(QUIC으로 변경) 아싸리 4096바이트로 늘림 솔라나 API 쓰시는 분들에게는 중요한 breaking change인데, API로 트랜잭션이나…
Frankendancer 에 호환되는 패치 버전을 제대로 배포 안해서 연기됨. 레전드 찐빠
Mixstral 시리즈 이후 별로 주목을 못받고 잊혀지던, 르샤똥뺏 모델 언제 나오냐고 맨날 조롱당하던, 유럽의 사실상 유일한 AI 유니콘 미스트랄 AI가 시리즈 D 투자 유치
투자금액: 3B EUR
밸류에이션: 최소 21B EUR
리드: 삼성전자(??), EQT, PSG
https://mistral.ai/news/mistral-makes-sovereign-open-weight-ai-to-frontier/
투자금액: 3B EUR
밸류에이션: 최소 21B EUR
리드: 삼성전자(??), EQT, PSG
https://mistral.ai/news/mistral-makes-sovereign-open-weight-ai-to-frontier/
Mistral AI
Making sovereign, open-weight AI the technology frontier | Mistral
Mistral today announced that it has raised €3 billion in a Series D funding round at a post-money valuation of more than €21 billion.
Mistral AI 가 AI 개 못하는 망할회사고 거기에 삼전이 물렸다는 뜻은 아니고, OpenAI/Anthropic처럼 프론티어 경쟁에 뛰어드는 게 아니라 소버린 AI+B2B에 집중하는 전략이라 대중한테는 체감이 안되는 회사가 된겁니다. 근근히 중형모델은 계속 나오고 있음. 아마 이런거 기업/정부기관에 배포하고 관리하는 비즈니스일듯?
Mutt Technologies
DeepSeek V4.1 Flash 가 며칠전 베타로 제공되고 있는데, V4.1 Flash 공개 후 V4.1 Pro 공개 전까지 V4 Pro 에 대한 모든 요청은 V4.1 Flash 로 라우팅된다. V4.1 Flash 정식 출시는 9월 10일. 지금 나오는 경험담으로는 기존 V4 Flash보다도 말도 안되게 추론이 빠르고, 일을 말도 안되게 잘한다(DSv4 Pro는 확실히 이김, GLM-5.3 과 동급이거나 그 이상). 그리고 같은 작업에 대해 토큰효율성도…
참고로 DSv4 flash 의 추가 학습버전일 가능성이 높은데 이건 600-700만원정도 하는 128GB 맥에서 아주 아주 아주 쾌적하게 돌릴 수 있습니다. 가중치 빨리 공개해주세요 현기증 나요
Mutt Technologies
DeepSeek V4.1 Flash 가 며칠전 베타로 제공되고 있는데, V4.1 Flash 공개 후 V4.1 Pro 공개 전까지 V4 Pro 에 대한 모든 요청은 V4.1 Flash 로 라우팅된다. V4.1 Flash 정식 출시는 9월 10일. 지금 나오는 경험담으로는 기존 V4 Flash보다도 말도 안되게 추론이 빠르고, 일을 말도 안되게 잘한다(DSv4 Pro는 확실히 이김, GLM-5.3 과 동급이거나 그 이상). 그리고 같은 작업에 대해 토큰효율성도…
DeepSeek V4.1 Flash 공개
• 522B 파라미터
• 전통적인 디코더 단일 트랜스포머에서, 인코더-디코더 구조로 회귀함
• 이를 통해 HBM 요구량이 1/4, SSD 요구량이 1/8로 감소
• 체급은 AAII가 안 나왔지만 자체 벤치마크 결과는 에이전틱/코딩 분야 한정 Opus 5보다 비슷하고 Kimi K3과 비슷
• 공식 API 서빙 시작. DeepSeek V4 Flash 보다 30%가량 저렴함. (이 모델은 V4 Pro 보다도 좋음을 감안하면 말도 안되는 가격)
• Day1 가중치 공개: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash
지수적 성장이 미쳤어요
https://www.deepseek.com/en/news/deepseek-v4-1-flash/
• 522B 파라미터
• 전통적인 디코더 단일 트랜스포머에서, 인코더-디코더 구조로 회귀함
• 이를 통해 HBM 요구량이 1/4, SSD 요구량이 1/8로 감소
• 체급은 AAII가 안 나왔지만 자체 벤치마크 결과는 에이전틱/코딩 분야 한정 Opus 5보다 비슷하고 Kimi K3과 비슷
• 공식 API 서빙 시작. DeepSeek V4 Flash 보다 30%가량 저렴함. (이 모델은 V4 Pro 보다도 좋음을 감안하면 말도 안되는 가격)
• Day1 가중치 공개: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash
지수적 성장이 미쳤어요
https://www.deepseek.com/en/news/deepseek-v4-1-flash/
👍1
Mutt Technologies
DeepSeek V4.1 Flash 공개 • 522B 파라미터 • 전통적인 디코더 단일 트랜스포머에서, 인코더-디코더 구조로 회귀함 • 이를 통해 HBM 요구량이 1/4, SSD 요구량이 1/8로 감소 • 체급은 AAII가 안 나왔지만 자체 벤치마크 결과는 에이전틱/코딩 분야 한정 Opus 5보다 비슷하고 Kimi K3과 비슷 • 공식 API 서빙 시작. DeepSeek V4 Flash 보다 30%가량 저렴함. (이 모델은 V4 Pro 보다도 좋음을 감안하면…
아니 시발 님들 이거 꼭 써보셔야함. 그냥 속도가 말이 안됨
tps 거의 200-300 사이로 찍히는데 일을 못하는 거도 아님. 루나 ultrafast(*존재하지 않음) 상위호환인데
tps 거의 200-300 사이로 찍히는데 일을 못하는 거도 아님. 루나 ultrafast(*존재하지 않음) 상위호환인데
Mutt Technologies
• 이를 통해 HBM 요구량이 1/4, SSD 요구량이 1/8로 감소
이거 때문에 하이닉스 꺾이는거 아니냐고 말하려고 했는데 매크로가 맛이 가서 명예로운 죽음 당함
❤1