Mutt Technologies
1.57K subscribers
262 photos
1 file
315 links
돈 이야기 안해요 (아마도)
English speakers might want https://x.com/haxxton1
Download Telegram
저스트코인
샘알트먼 : 컴퓨터게임충들이 램 사는거 역겹다
이 글이 지금 망가진 인터넷 포워딩 문화의 정점을 보여줌
• 링크를 타고가면 개드립넷
• 개드립넷의 출처는 IGN
• IGN의 출처는 샘 알트만의 인터뷰 영상 (https://www.youtube.com/watch?v=iMsUcCYNKqY&t=1750s)
• 해당 유튜브 링크를 가서 읽어보면, "로컬 인퍼런스 수요는 분명히 존재하고 오픈소스 모델이 계속 풀리면서 사람들이 계속 원한다. 하지만 이 사람들은 전체 5%만 사용하니 지구적 리소스 관점에서 낭비다" 라는 이야기임. 게임의 ㄱ자도 안꺼냄. 알트만의 진짜 의중을 떠나서 OpenAI는 로컬인퍼런스가 퍼지면 직접적인 손해라서 이런 말을 할 유인이 존재하기는 함.
• 근데 IGN은(게임매거진이니까) 알트만은 게이머들이 게이밍 PC에 램을 꽂는게 역겹다 라는 식으로 제목을 뽑음. 자기들도 선동인거 알아서 본문의 인용에는 gaming 이라는 단어가 등장하지도 않음. 이런 사람이 IGN 시니어 디렉터 ㅋㅋ
• (본인은 알트만의 이런 발언이 경솔하다고 보기는 함. 공리주의처럼 읽히기 좋고 부차적으로 이런 언론에게 뜯기기 좋으니까. 근데 걍 신경 안쓸듯)
• 그걸 제목만 보고 개드립에 누가 퍼가고
• 개드립 보는 사람들은 그걸 또 인스타 텔레 X 어쩌고저쩌고에 캡쳐해서 퍼가고 그러면 이렇게 되는거임
• 저도 다시말하지만 이런발언은 하느니만 못하다고 생각함. 근데 맥락에서 완전히 벗어난 허수아비 패기를 하는거는 참을수가 없음
❤10
Mutt Technologies
이런 시발 내지마 이럴거면
이가격에 왜 사냐고 뭐라했던 M5U 이제 13-15주로 밀림... 진짜 날개돋친듯이 팔리나 보네
블랙스톤이 앤트로픽이 IPO 이후 투자적격등급을 받지 못할 수도 있다고 투자 파트너들에게 전달함. 이전까지는 앤트로픽이 연말까지 투자적격등급을 받을 것이라고 예측한 것에서 퇴보한 것. AI 수익성 우려가 앤트로픽마저 자금융통을 제대로 못하게 할 수도 있다는 뜻

https://wallhop.io/https://www.ft.com/content/59383c7f-8d82-493f-bf01-d2e862a1018f?syn-25a6b1a6=1
AI 사용에 관한 흥미로운 통계

• AI를 적극적으로 사용하는 회사가 매출을 더 빠르게 성장시킴
• AI를 적극적으로 사용하는 회사가 채용을 더 많이 했음 (과학 연구회사는 예외)

AI로 인해 주니어 신규 고용수요가 떨어졌다(대체당했다)는 인식이 있었는데, AI로 높아진 생산성으로 성장이 가속화되는 효과를 주목해야 할듯
State of AI 2026 에서 중요해보이는 시사점 하나 더

중국 오픈모델들이 지금까지 돌릴만한 스케일이었던 것은, 좋은 GPU가 없어서 인프라에 발생한 병목이 주된 원인으로 생각됨(개인적 추측).

그렇다면 지금 DeepSeek, Zhipu 등이 짓고 있는 데이터센터들이 완공되고 Huawei Ascend 칩(H200 보다 살짝 안좋은 스펙) 내년에 대량으로 도입된다면? (참고로 어센드 칩들은 중국 내수수요로도 없어서 못파는 상태) 로컬 모델이 작은 사이즈를 유지할 이유가 있을까? Kimi K3과 Mythos 는 크기를 몇T씩 올려도 여전히 성능에 gain이 존재함을 여실히 보여줬음.

그렇다면 이제 로컬단들은 선택을 해야함. 자기들이 쓰던 2천불 내외 노트북에서 돌릴 Qwen4-27B 로 만족하거나, 최신 랩에서 나오는 500B-1T "Flash" 모델을 돌리기 위해 1만불-2만불짜리 하드웨어를 추가로 사거나...

그러니까 이런 위험을 헷지하고 싶으시면 256GB Mac을 지금 정가에 사시던가 DGX Spark를 천만원 주고 중고로 사시라 이말입니다. (제꺼사가시라는말 아님)
Doomer 저 병신은 아직도 저러네 parody account 표시도 없이 가짜뉴스 퍼트리는데 정지 안당하는게 신기함
당신의 EigenLayer 베스팅 직원들의 M5 Ultra 512GB x10 으로 대체되었다

https://x.com/0xkydo/status/2115905311156690998
미국에서 연 $500k 벌던 Adobe 엔지니어가 정리해고 후 차에서 노숙하며 방황하는 이야기

일자리 감소에 대한 일반적인 대응책 중 하나는 창업입니다. 기업들이 채용을 하지 않으면 스스로 무언가를 만들어내는 것이죠. 인공지능(AI)은 소프트웨어 개발을 극적으로 용이하게 만들었습니다. 이전에는 코딩 경험이 전혀 없는 사람들도 이제 AI 코딩 도구를 사용하여 작동하는 애플리케이션을 만들 수 있습니다. 이는 놀라운 일입니다. 하지만 동시에 또 다른 경제적 문제를 야기하기도 합니다. 소프트웨어 개발의 장벽은 무너지고 있지만, 고객을 확보하는 장벽은 여전히 ​​남아 있습니다. 앱 스토어는 생성형 AI가 등장하기 전에도 이미 경쟁이 매우 치열했습니다. 대부분의 앱은 상업적으로 성공하지 못합니다.


저는 우리가 2008년 금융 위기보다 훨씬 더 심각한 경제 위기에 직면하고 있다고 생각합니다. 인공지능(AI)이 여러 산업 분야의 기업들이 훨씬 적은 인력으로 운영될 수 있도록 해준다면 어떤 일이 벌어질지 생각해 보십시오. 수백만 명의 사람들이 주된 수입원을 잃을 수 있습니다. 이들은 여전히 ​​주택담보대출, 월세, 자동차 할부금, 신용카드 대금 등 여러 가지 재정적 의무를 지고 있습니다. 이들이 빚을 갚지 못하면 그 여파는 더욱 확산됩니다. 집주인은 임대 수입을 잃고, 주택 소유자는 대출금을 갚지 못하게 되며, 은행은 손실을 떠안게 됩니다. 소비자 지출은 감소하고, 기업은 고객을 잃고 더 많은 일자리를 줄일 수밖에 없습니다.


흠... 진짜? (일단 저는 백수임)

https://medium.com/effortless-programming/ai-made-me-homeless-a7266d716e59
<AI 만드는 사람들의 위험한 세계관 l 테크 파시즘: 기계신과 제사장, 그리고 제물들>

기독교방송(CBS) 산하 진보계열 유튜브채널 씨리얼의 anti-AI 입장을 대변하는 다큐멘터리입니다.
첫 절반은 할 말을 잃었고, 나머지 절반은 뭔 말을 하려는지는 알겠습니다.

일단 제가 납득을 할수는 있겠는 뒷장에 대해 이야기하면, 실리콘밸리, 피터틸 마피아, 트럼프 행정부로 대표되는 미국 주류 커뮤니티가 AI를 오용해 파시즘에 가까운 이념을 실현하고자 한다는 것입니다. 그 선두격으로 팔란티어를 들고요. 이거까지는 우려가 이해가 가고 저도 일정부분 동감을 합니다.

근데 그 앞 절반이 처참합니다. 실리콘밸리 사람들은 특정한 종교적 신앙(영상 제작자는 Machine God 이라는 단어에 집착합니다. 이게 능력에 대한 은유인지 종교학적인 신인지 구분을 하고 있는건 맞나요?). 이 주장에 대해서는 TESCREAL이라는 실리콘밸리에 만연한 이데올로기가 이를 뒷받침한다고 합니다. 여기서 "EA"가 FTX 말아먹은 SBF 로 (안좋게) 잘 알려진 Effective Altruism(효과적 이타주의)입니다. 여기서 보니 반갑네요. ㅋㅋㅋ

통계학의 원천이 우생학이기 때문에 위험하며, 머신 러닝은 분류(classification)과 순위매기기(ranking)가 본질이므로 머신 러닝도 우생학의 연장이라고 주장합니다. 이게 현대 LLM과 무슨 관계이고 무슨 말을 하고 싶은지 모르겠습니다...

물론 그 다음에 나오는 "데이터에 있던 bias가 결과에도 나타나는 현상", 특히 AWS가 인사평가를 ML로 했다가 성차별 문제로 폐기한 사건은 일리가 있는 주장입니다. 근데 인터뷰한 사람도 이건 garbage in garbage out 의 사례라고 말하는데(인터뷰이: Roy L Austin Jr, Meta 민권분야 부사장), 해당 채널의 입맛대로 인터뷰를 사용했다는 인상을 지울 수 없습니다.

앞 50%를 싹다 날리고 뒤만 남겨서 편집하면 범람하는 AI 만능론에 맞서서 균형잡힌 의견을 제공할 수 있는 좋은 다큐멘터리였을거 같습니다. 씨리얼이 소수의 의견을 대변하는 "독립언론" 의 셩격을 띠는건 알고 있지만, 이건 해도해도 너무하네요.

https://www.youtube.com/watch?v=oiu9PbazKBM
Mutt Technologies
Le Chaton Fat 나오면 다 때려잡는다고 조롱받던 Mistral이 오랜만에 프론티어에 섰습니다 Mistral Large 4("Le Chonk"): 1T-A49B sparse MoE 모델 벤치마크가 되게 정신없는데 뭔가 취사선택한 느낌이 들지만, GLM-5.3, Kimi K3 과는 견줄 수 있어보입니다. 가중치는 이번달 말에 공개됩니다. This is only the beginning. ML4 is the first milestone on the…
Mistral AI 의 최신모델 Mistral Large 4 웨이트 공개 + Technical Report 업로드

논문이 근데 골때리는게, CLA, YOCO 같은 구조들을 처음에 적용했는데(추론 비용을 줄이는데 효과적임), 이 구조들이 성능을 하락시켜서 같은 성능을 달성하려면 학습에 더 많은 자원을 소모시켜야 하기 때문에 제거하기로 했다고. 얼마나 억울했으면 이걸 한 단원을 할애해서 설명하는데, DeepSeek V4.1 에서는 이런 구조가 거의 다 적용되어서 나옴. 그리고 벤치마크 성능은 DeepSeek가 좋음...

정작 출시도 DeepSeek V4.1이 먼저 나왔으니 이거 보고 미스트랄 팀 뒷목 잡았을듯.

근데 딥시크는 량원펑 피셜 지난여름에 20,000개의 H100 에 대응되는 연산력(밀수한 호퍼, 블랙웰과 화웨이 NPU 등등 합쳐서)을 가지고 있다 했는데 ML4 학습에는 3800-4000개 사이의 GB200 을 썼으니 10,000개 H100 수준 될까말까임. 그래서 연산력 문제로 어쩔 수 없는 결정이었을 수도 있음.

https://huggingface.co/mistralai/Mistral-Large-4-1T-A52B
AMD 의 현세대 가속기 MI300X을 256대 박은 컨테이너가 단돈 70억원!! 사실분?

근데 올해안에 MI400X 나오는게 함정. 못해도 칩대칩으로 4-5배 FP4면 10배스케일 차이 ㅋㅋ

https://x.com/__tinygrad__/status/2117442713947873292
진짜 개 골때리는 보안뉴스: 어느 정신빠진놈이 바이러스토탈에 공군 1호기 탑승명단을 업로드해서 여권번호 이름 등등 싸그리 유출!

바이러스토탈에는 기밀자료를 올리면 안 됩니다.
바이러스토탈에는 기밀자료를 올리면 안 됩니다.
바이러스토탈에는 기밀자료를 올리면 안 됩니다. (제발요)


그리고 사실 바이러스토탈은 공격자도 돌려보기 때문에 웬만해서는 안걸리는거 확인하고 파일 보낼 수 있다는 생각을 해야 합니다.

https://www.news1.kr/diplomacy/defense-diplomacy/6341176