Что за зверь DeepSeek и почему Nvidia больно?
Твитерянин Морган Браун
Вице президент по развитию продуктов instagram, dropbox, shopify
Инновации DeepSeek в области ИИ поражают людей (и, возможно, угрожают рыночной капитализации Nvidia в $2t)
1/ Сначала немного контекста: Сейчас обучение топовых моделей ИИ НЕВЕРОЯТНО дорогое.
OpenAI, Anthropic и другие тратят $100 млн+ только на вычислительные ресурсы. Им нужны огромные дата-центры с тысячами GPU стоимостью $40K каждый. Это как если бы для работы завода требовалась целая электростанция.
2/ DeepSeek появились и сказали: "А что, если мы сделаем это за $5m?"
И они не просто говорили — они действительно это сделали. Их модели соответствуют или превосходят GPT-4 и Claude во многих задачах.
Мир ИИ роняет слезки в тирамису
3/ Как? Они переосмыслили всё с нуля. Традиционный ИИ — это как писать каждое число с 32 знаками после запятой. DeepSeek сказали: "А что, если мы будем использовать только 8? Этого достаточно!"
Бум — на 75% меньше памяти.
4/ Затем их система "мульти-токенов".
Обычный ИИ читает как первоклассник: "Кошка... сидит... на...". DeepSeek читает целыми фразами сразу. В 2 раза быстрее, с точностью 90%. Когда вы обрабатываете миллиарды слов, это ВАЖНО.
5/ Но самое крутое в их подходе:
Они создали "экспертную систему".
Вместо одного огромного ИИ, который пытается знать всё (как если бы один человек был врачом, юристом И инженером), у них есть специализированные эксперты, которые активируются только когда это нужно.
6/ Традиционные модели?
Все 1,8 триллиона параметров активны ВСЕГДА.
DeepSeek? 671 млрд параметров в общей сложности, но только 37 млрд активны одновременно.
Это как иметь огромную команду, но вызывать только тех экспертов, которые действительно нужны для каждой задачи.
7/ Результаты ошеломляющие:
- Стоимость обучения: $100 млн → $5m
- Необходимые GPU: 100 000 → 2 000
- Стоимость API: на 95% дешевле
- Может работать на игровых GPU вместо серверного оборудования
8/ "Но подождите," — скажете вы, — "должен быть подвох!" Вот что самое интересное — всё это открытый исходный код.
Любой может проверить их работу. Код публичный. Технические документы объясняют всё. Это не магия, просто невероятно умная инженерия.
9/ Почему это важно? Потому что это ломает модель "только крупные tech-компании могут играть в ИИ".
Теперь вам не нужен дата-центр за миллиард долларов. Несколько хороших GPU могут быть достаточны.
10/ Для Nvidia это страшно. Вся их бизнес-модель построена на продаже супердорогих GPU с маржой 90%. Если вдруг все смогут делать ИИ на обычных игровых GPU...
11/ DeepSeek сделали это с командой менее 200 человек. В то время как в Meta есть команды, где только компенсации сотрудников превышают весь бюджет обучения DeepSeek... и их модели не так хороши.
12/ Это классическая история прорыва: Лидеры рынка оптимизируют существующие процессы, а disruptors переосмысливают фундаментальный подход.
DeepSeek спросили: "А что, если мы просто сделаем это умнее, вместо того чтобы использовать больше железа?"
13/ Последствия:
- Разработка ИИ становится более доступной
- Конкуренция резко возрастает
- железо крупных tech-компаний кажется не нужным
- Требования к оборудованию (и затраты) резко снижаются
14/ Конечно, гиганты вроде OpenAI и Anthropic не будут стоять на месте.
Они, вероятно, уже внедряют эти инновации. Но джинн выпущен из бутылки — возврата к подходу "просто брось больше GPU" уже не будет.
15/ Это похоже на один из тех моментов, о которых мы будем вспоминать как о переломных. Как когда ПК сделали мейнфреймы менее актуальными, или когда облачные вычисления изменили всё.
ИИ скоро станет намного доступнее и намного дешевле. Вопрос не в том, будет ли это прорывом для текущих игроков, а в том, как быстро это произойдет.
https://x.com/morganb/status/1883686162709295541
Твитерянин Морган Браун
Вице президент по развитию продуктов instagram, dropbox, shopify
Инновации DeepSeek в области ИИ поражают людей (и, возможно, угрожают рыночной капитализации Nvidia в $2t)
1/ Сначала немного контекста: Сейчас обучение топовых моделей ИИ НЕВЕРОЯТНО дорогое.
OpenAI, Anthropic и другие тратят $100 млн+ только на вычислительные ресурсы. Им нужны огромные дата-центры с тысячами GPU стоимостью $40K каждый. Это как если бы для работы завода требовалась целая электростанция.
2/ DeepSeek появились и сказали: "А что, если мы сделаем это за $5m?"
И они не просто говорили — они действительно это сделали. Их модели соответствуют или превосходят GPT-4 и Claude во многих задачах.
Мир ИИ роняет слезки в тирамису
3/ Как? Они переосмыслили всё с нуля. Традиционный ИИ — это как писать каждое число с 32 знаками после запятой. DeepSeek сказали: "А что, если мы будем использовать только 8? Этого достаточно!"
Бум — на 75% меньше памяти.
4/ Затем их система "мульти-токенов".
Обычный ИИ читает как первоклассник: "Кошка... сидит... на...". DeepSeek читает целыми фразами сразу. В 2 раза быстрее, с точностью 90%. Когда вы обрабатываете миллиарды слов, это ВАЖНО.
5/ Но самое крутое в их подходе:
Они создали "экспертную систему".
Вместо одного огромного ИИ, который пытается знать всё (как если бы один человек был врачом, юристом И инженером), у них есть специализированные эксперты, которые активируются только когда это нужно.
6/ Традиционные модели?
Все 1,8 триллиона параметров активны ВСЕГДА.
DeepSeek? 671 млрд параметров в общей сложности, но только 37 млрд активны одновременно.
Это как иметь огромную команду, но вызывать только тех экспертов, которые действительно нужны для каждой задачи.
7/ Результаты ошеломляющие:
- Стоимость обучения: $100 млн → $5m
- Необходимые GPU: 100 000 → 2 000
- Стоимость API: на 95% дешевле
- Может работать на игровых GPU вместо серверного оборудования
8/ "Но подождите," — скажете вы, — "должен быть подвох!" Вот что самое интересное — всё это открытый исходный код.
Любой может проверить их работу. Код публичный. Технические документы объясняют всё. Это не магия, просто невероятно умная инженерия.
9/ Почему это важно? Потому что это ломает модель "только крупные tech-компании могут играть в ИИ".
Теперь вам не нужен дата-центр за миллиард долларов. Несколько хороших GPU могут быть достаточны.
10/ Для Nvidia это страшно. Вся их бизнес-модель построена на продаже супердорогих GPU с маржой 90%. Если вдруг все смогут делать ИИ на обычных игровых GPU...
11/ DeepSeek сделали это с командой менее 200 человек. В то время как в Meta есть команды, где только компенсации сотрудников превышают весь бюджет обучения DeepSeek... и их модели не так хороши.
12/ Это классическая история прорыва: Лидеры рынка оптимизируют существующие процессы, а disruptors переосмысливают фундаментальный подход.
DeepSeek спросили: "А что, если мы просто сделаем это умнее, вместо того чтобы использовать больше железа?"
13/ Последствия:
- Разработка ИИ становится более доступной
- Конкуренция резко возрастает
- железо крупных tech-компаний кажется не нужным
- Требования к оборудованию (и затраты) резко снижаются
14/ Конечно, гиганты вроде OpenAI и Anthropic не будут стоять на месте.
Они, вероятно, уже внедряют эти инновации. Но джинн выпущен из бутылки — возврата к подходу "просто брось больше GPU" уже не будет.
15/ Это похоже на один из тех моментов, о которых мы будем вспоминать как о переломных. Как когда ПК сделали мейнфреймы менее актуальными, или когда облачные вычисления изменили всё.
ИИ скоро станет намного доступнее и намного дешевле. Вопрос не в том, будет ли это прорывом для текущих игроков, а в том, как быстро это произойдет.
https://x.com/morganb/status/1883686162709295541
👍24❤3❤🔥1
Direcode
Что за зверь DeepSeek и почему Nvidia больно? Твитерянин Морган Браун Вице президент по развитию продуктов instagram, dropbox, shopify Инновации DeepSeek в области ИИ поражают людей (и, возможно, угрожают рыночной капитализации Nvidia в $2t) 1/ Сначала…
Скоро сделаю видео про подключение DeepSeek к Телеграм боту 🔥
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍39❤5❤🔥3
Китайцы выкатили еще одну бесплатную нейронку, которая обогнала DeepSeek
Alibaba сбросили новую модель Qwen2.5-Max.
— Это одна из самых УМНЫХ нейронок, судя по тестам;
— Веб-поиск, генерация картинок и даже ВИДЕО генерит ПРЯМО В ЧАТЕ;
— Прекрасно понимает русский язык;
— И самое главное: БЕСПЛАТНО и без VPN.
https://chat.qwenlm.ai/ (выберите Qwen2.5-Max в меню слева)
Alibaba сбросили новую модель Qwen2.5-Max.
— Это одна из самых УМНЫХ нейронок, судя по тестам;
— Веб-поиск, генерация картинок и даже ВИДЕО генерит ПРЯМО В ЧАТЕ;
— Прекрасно понимает русский язык;
— И самое главное: БЕСПЛАТНО и без VPN.
https://chat.qwenlm.ai/ (выберите Qwen2.5-Max в меню слева)
🔥15👍5❤4🤔1
Direcode
Китайцы выкатили еще одну бесплатную нейронку, которая обогнала DeepSeek Alibaba сбросили новую модель Qwen2.5-Max. — Это одна из самых УМНЫХ нейронок, судя по тестам; — Веб-поиск, генерация картинок и даже ВИДЕО генерит ПРЯМО В ЧАТЕ; — Прекрасно понимает…
ChatGPT на фоне этого готовят скидку на GPTPlus в размере 50%
🤣12🔥11👍2
Новое видео уже на канале! ❤️🔥
Работаем с DeepSeek API бесплатно и подключаем его к Телеграм боту.
Исходный код из видео - в комментариях🌝
Работаем с DeepSeek API бесплатно и подключаем его к Телеграм боту.
Исходный код из видео - в комментариях
Please open Telegram to view this post
VIEW IN TELEGRAM
103❤26👏6🤝6🔥3
Рубрика "Эксперименты" 👻
Разослал сейчас 30 сообщений с предложением о создании тг ботов админам разных токенов, из расходов - 3 тг акка с премом. Утром сделаю еще 30, надеюсь они доживут 🌝
Разослал сейчас 30 сообщений с предложением о создании тг ботов админам разных токенов, из расходов - 3 тг акка с премом. Утром сделаю еще 30, надеюсь они доживут 🌝
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥13👍7❤2
Небольшой абуз Leonardo AI и других нейронок 🎁
При регистрации вам часто выдают какое-то количество бесплатных токенов для теста нейросети\приложения. В Леонардо это 150 токенов, чего хватит на 10-30 генераций картинок. Когда они закончатся, открываем новое окно браузера в режиме инкогнито и регистрируемся на почту, полученную в temp mail (https://temp-mail.org/en), тратим токены, и так по кругу.
При регистрации вам часто выдают какое-то количество бесплатных токенов для теста нейросети\приложения. В Леонардо это 150 токенов, чего хватит на 10-30 генераций картинок. Когда они закончатся, открываем новое окно браузера в режиме инкогнито и регистрируемся на почту, полученную в temp mail (https://temp-mail.org/en), тратим токены, и так по кругу.
Please open Telegram to view this post
VIEW IN TELEGRAM
3👍23🤝5❤2🔥1🍾1
Direcode
Рубрика "Эксперименты" 👻 Разослал сейчас 30 сообщений с предложением о создании тг ботов админам разных токенов, из расходов - 3 тг акка с премом. Утром сделаю еще 30, надеюсь они доживут 🌝
Новое видео уже на канале! ❤️🔥
В нем результат данной рассылки 🫡
Исходный код бук бота - в комментариях🌝
В нем результат данной рассылки 🫡
Исходный код бук бота - в комментариях
Please open Telegram to view this post
VIEW IN TELEGRAM
3👍12🔥7❤2
Новое видео уже на канале! ❤️🔥
Устанавливаем нейросети локально, работаем с ними по API и интегрируем их в Телеграм бота ⭐️
Исходный код из видео - в комментариях🌝
Устанавливаем нейросети локально, работаем с ними по API и интегрируем их в Телеграм бота ⭐️
Исходный код из видео - в комментариях
Please open Telegram to view this post
VIEW IN TELEGRAM
3👍27🔥5❤4👀1
«Самый умный ИИ на земле», судя по анонсам, будет бесплатным, сможет генерить видео и картинки из текста и будет без цензуры
Please open Telegram to view this post
VIEW IN TELEGRAM
❤23👍11👾3🤝2
Новое видео уже на канале! ❤️🔥
Создаем простой генератор мемов в Телеграм
Исходный код из видео - в комментариях🌝
Создаем простой генератор мемов в Телеграм
Исходный код из видео - в комментариях
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍17❤2👏2🥴1
Новое видео уже на канале! ❤️🔥
Подключаем нейросети к VS Code для написания, изменения, и помощи в написании кода внутри IDE
Подключаем нейросети к VS Code для написания, изменения, и помощи в написании кода внутри IDE
Please open Telegram to view this post
VIEW IN TELEGRAM
3👍22🔥6❤2💩1
Там походу какой-то токен запустили от моего лица, я к нему отношения не имею
👍12
Direcode
Там походу какой-то токен запустили от моего лица, я к нему отношения не имею
Ну тот кто запускал токен явно гений, поздравим его с отрицательным профитом в -18 TON 👏
😁20👍3🥰2
Gemini Code Assist от Google стала бесплатной! Новое видео про нее уже на канале 🔥
В отличии от связки Cline + Mistral AI (тоже фри), она умеет в вебпоиск, и, поэтому, может создавать тг ботов с нуля, которые будут полноценно работать.
В отличии от связки Cline + Mistral AI (тоже фри), она умеет в вебпоиск, и, поэтому, может создавать тг ботов с нуля, которые будут полноценно работать.
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍16❤5🔥5