Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
DeepSeek представит последнюю версию v4
DeepSeek выпустит v4 в середине июля с новой моделью ценообразования API: токены подорожают в 2 раза в часы пиковой нагрузки (09:00–12:00 и 14:00–18:00 по пекинскому времени). Компания планирует уведомлять пользователей по почте за 24 часа до изменения тарифов. Проблема с ошибками «server busy» останется, но обойдётся дороже — это может существенно повлиять на экономику проектов, которые активно используют API DeepSeek для автоматизации и масшта…
➡️ Читайте на сайте: https://aff.top/blog/deepseek-predstavit-posledniuiu-versiiu-v4
🧠 Ещё больше инсайтов → в канале AFF.top
DeepSeek выпустит v4 в середине июля с новой моделью ценообразования API: токены подорожают в 2 раза в часы пиковой нагрузки (09:00–12:00 и 14:00–18:00 по пекинскому времени). Компания планирует уведомлять пользователей по почте за 24 часа до изменения тарифов. Проблема с ошибками «server busy» останется, но обойдётся дороже — это может существенно повлиять на экономику проектов, которые активно используют API DeepSeek для автоматизации и масшта…
➡️ Читайте на сайте: https://aff.top/blog/deepseek-predstavit-posledniuiu-versiiu-v4
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Anthropic выпустили Sonnet 5
30 июня вышла Claude Sonnet 5 — новая версия позиционируется как самая агентная в линейке и приближается к флагманской Opus 4.8. Модель лучше справляется со сложными многоуровневыми задачами, устойчива к вредоносным запросам и не генерирует эксплойты. Sonnet 5 доступна на Free-тарифе, но тестирование показало скромные улучшения: хотя работает лучше Sonnet 4.6, её обгоняют конкуренты, включая китайские модели, которые дешевле через API при лучшей…
➡️ Читайте на сайте: https://aff.top/blog/anthropic-vypustili-sonnet-5
🧠 Ещё больше инсайтов → в канале AFF.top
30 июня вышла Claude Sonnet 5 — новая версия позиционируется как самая агентная в линейке и приближается к флагманской Opus 4.8. Модель лучше справляется со сложными многоуровневыми задачами, устойчива к вредоносным запросам и не генерирует эксплойты. Sonnet 5 доступна на Free-тарифе, но тестирование показало скромные улучшения: хотя работает лучше Sonnet 4.6, её обгоняют конкуренты, включая китайские модели, которые дешевле через API при лучшей…
➡️ Читайте на сайте: https://aff.top/blog/anthropic-vypustili-sonnet-5
🧠 Ещё больше инсайтов → в канале AFF.top
Llama для продакшена: как выбрать размер, чтобы не убить latency и бюджет
Llama — не одна модель, а линейка компромиссов. Для продакшена смотреть надо не на «какая умнее», а на четыре вещи: качество на вашей задаче, скорость инференса, память под контекст и лицензия.
— 8B обычно берут для классификации, коротких ответов, извлечения данных и простых агентов. На одной GPU она даёт хороший throughput, а цена ошибки ниже, чем у более тяжёлых вариантов.
— 70B имеет смысл там, где важны сложные рассуждения, длинные цепочки инструкций и меньшее число перегенераций. Но это уже совсем другой профиль по VRAM и latency.
— Если у вас RAG, то часто выигрывает не «самая большая», а модель с нормальным следованием инструкциям и стабильным форматированием JSON.
— Контекст надо тестировать отдельно: длинное окно есть у многих, но реальная полезность падает раньше, чем маркетинговая цифра.
Практика выбора простая:
1) сначала прогоните 200–500 своих промптов;
2) замерьте долю валидного JSON, число ретраев и p95 latency;
3) только потом решайте, нужен ли рост с 8B до 13B/70B.
Ещё один частый фейл — брать модель под inference, не считая стоимость памяти под KV-cache. На длинных сессиях именно он съедает VRAM, а не только веса.
Если задача не требует максимального reasoning, начинайте с меньшей Llama и докручивайте пайплайн. В проде почти всегда дешевле оптимизировать архитектуру, чем сразу покупать лишние параметры.
Llama — не одна модель, а линейка компромиссов. Для продакшена смотреть надо не на «какая умнее», а на четыре вещи: качество на вашей задаче, скорость инференса, память под контекст и лицензия.
— 8B обычно берут для классификации, коротких ответов, извлечения данных и простых агентов. На одной GPU она даёт хороший throughput, а цена ошибки ниже, чем у более тяжёлых вариантов.
— 70B имеет смысл там, где важны сложные рассуждения, длинные цепочки инструкций и меньшее число перегенераций. Но это уже совсем другой профиль по VRAM и latency.
— Если у вас RAG, то часто выигрывает не «самая большая», а модель с нормальным следованием инструкциям и стабильным форматированием JSON.
— Контекст надо тестировать отдельно: длинное окно есть у многих, но реальная полезность падает раньше, чем маркетинговая цифра.
Практика выбора простая:
1) сначала прогоните 200–500 своих промптов;
2) замерьте долю валидного JSON, число ретраев и p95 latency;
3) только потом решайте, нужен ли рост с 8B до 13B/70B.
Ещё один частый фейл — брать модель под inference, не считая стоимость памяти под KV-cache. На длинных сессиях именно он съедает VRAM, а не только веса.
Если задача не требует максимального reasoning, начинайте с меньшей Llama и докручивайте пайплайн. В проде почти всегда дешевле оптимизировать архитектуру, чем сразу покупать лишние параметры.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Clickstar прекращает работу
Clickstar закрывается. Легендарная пуш-сеть прекращает закуп трафика с 1 августа, полная остановка — 20 августа.
Сетка работала почти 8 лет и была одним из лучших источников качественного трафика на Россию и СНГ. Сейчас пуш-трафик стал слишком ботовым из-за гугловских банов на скрипты сбора.
Что это означает для арбитражников — разбираемся в ста…
➡️ Читайте на сайте: https://aff.top/blog/clickstar-prekraschaet-rabotu
🧠 Ещё больше инсайтов → в канале AFF.top
Clickstar закрывается. Легендарная пуш-сеть прекращает закуп трафика с 1 августа, полная остановка — 20 августа.
Сетка работала почти 8 лет и была одним из лучших источников качественного трафика на Россию и СНГ. Сейчас пуш-трафик стал слишком ботовым из-за гугловских банов на скрипты сбора.
Что это означает для арбитражников — разбираемся в ста…
➡️ Читайте на сайте: https://aff.top/blog/clickstar-prekraschaet-rabotu
🧠 Ещё больше инсайтов → в канале AFF.top
Llama в проде: 6 ошибок, из-за которых open-source съедает бюджет и latency
Llama часто берут как «дешёвую замену API», но без дисциплины по инференсу она быстро становится дорогой. Смотри не на размер модели, а на связку: качество, throughput, VRAM и лицензия. Для одной и той же модели разница между fp16, int8 и int4 может быть в 2–4 раза по памяти и заметно по скорости.
— Не запускай модель «как есть»: сначала посчитай контекст, batch size и потолок по VRAM. Если длинный контекст нужен редко, лучше ограничить его на уровне сервиса.
— Для chat-задач часто выгоднее 8B в int4 на одной GPU, чем 70B, который постоянно уходит в своп и даёт p95 latency в космос.
— Смотри на формат вывода: vLLM хорошо держит throughput на батчах, llama.cpp удобен для CPU/GGUF, TGI чаще берут под стабильный серверный пайплайн.
— Не путай «модель умеет 128k» с «128k комфортно в проде»: после определённого объёма attention начинает бить по скорости и качеству.
Лицензия тоже часть стоимости. У Llama нельзя смотреть только на веса: проверь коммерческое использование, ограничения на перераспространение и требования к атрибуции. Ошибка здесь дороже, чем лишняя GPU-минута.
Практика простая: сначала выбери режим инференса и бюджет токена, потом уже размер Llama. Иначе ты покупаешь не модель, а постоянную утечку денег.
Llama часто берут как «дешёвую замену API», но без дисциплины по инференсу она быстро становится дорогой. Смотри не на размер модели, а на связку: качество, throughput, VRAM и лицензия. Для одной и той же модели разница между fp16, int8 и int4 может быть в 2–4 раза по памяти и заметно по скорости.
— Не запускай модель «как есть»: сначала посчитай контекст, batch size и потолок по VRAM. Если длинный контекст нужен редко, лучше ограничить его на уровне сервиса.
— Для chat-задач часто выгоднее 8B в int4 на одной GPU, чем 70B, который постоянно уходит в своп и даёт p95 latency в космос.
— Смотри на формат вывода: vLLM хорошо держит throughput на батчах, llama.cpp удобен для CPU/GGUF, TGI чаще берут под стабильный серверный пайплайн.
— Не путай «модель умеет 128k» с «128k комфортно в проде»: после определённого объёма attention начинает бить по скорости и качеству.
Лицензия тоже часть стоимости. У Llama нельзя смотреть только на веса: проверь коммерческое использование, ограничения на перераспространение и требования к атрибуции. Ошибка здесь дороже, чем лишняя GPU-минута.
Практика простая: сначала выбери режим инференса и бюджет токена, потом уже размер Llama. Иначе ты покупаешь не модель, а постоянную утечку денег.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Facebook запретил рекламу онлайн-казино Mr Vegas
Британский ASA запретил рекламу казино Mr Vegas из-за «слишком милых» мультяшных животных в креативах — регулятор счёл, что такой стиль привлекает детей, в том числе через Facebook. Рекламодатель запустил кампанию в феврале, бан вышел в июле. Логика регулятора вызывает вопросы: дети неплатёжеспособны, а таргетировать их на гемблинг бессмысленно.
➡️ Читайте на сайте: https://aff.top/blog/facebook-zapretil-reklamu-onlain-kazino-mr-vegas
🧠 Ещё больше инсайтов → в канале AFF.top
Британский ASA запретил рекламу казино Mr Vegas из-за «слишком милых» мультяшных животных в креативах — регулятор счёл, что такой стиль привлекает детей, в том числе через Facebook. Рекламодатель запустил кампанию в феврале, бан вышел в июле. Логика регулятора вызывает вопросы: дети неплатёжеспособны, а таргетировать их на гемблинг бессмысленно.
➡️ Читайте на сайте: https://aff.top/blog/facebook-zapretil-reklamu-onlain-kazino-mr-vegas
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
В Whatsapp скамят пользователей с помощью поддельных никнеймов
WhatsApp запустил никнеймы — и почти сразу начался скам. Мошенники регистрируют имена, похожие на бренды, звёзд и политиков, с минимальными опечатками.
Индия, где 500 млн пользователей WhatsApp, потребовала от Meta объяснений за 3 дня. Meta говорит, что точные совпадения заблокированы — но одна буква в другом месте защиту не триггерит.
Похоже, п…
➡️ Читайте на сайте: https://aff.top/blog/v-whatsapp-skamiat-polzovatelei-s-pomoschiu-poddelnykh-nikneimov
🧠 Ещё больше инсайтов → в канале AFF.top
WhatsApp запустил никнеймы — и почти сразу начался скам. Мошенники регистрируют имена, похожие на бренды, звёзд и политиков, с минимальными опечатками.
Индия, где 500 млн пользователей WhatsApp, потребовала от Meta объяснений за 3 дня. Meta говорит, что точные совпадения заблокированы — но одна буква в другом месте защиту не триггерит.
Похоже, п…
➡️ Читайте на сайте: https://aff.top/blog/v-whatsapp-skamiat-polzovatelei-s-pomoschiu-poddelnykh-nikneimov
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Вышел ZCode - аналог Claude code
Вышел ZCode — десктопный аналог Claude Code от разработчиков GLM-5.2. Работает с API от Anthropic, поддерживает SSH-деплой на сервер, в том числе Linux.
Вместо пошаговых скриптов — система целеполагания Goal: закидываешь сложный промт, агент сам разбивает задачу и выполняет. Плюс управление через Telegram-бота.
Но главная фича — мультиагентность…
➡️ Читайте на сайте: https://aff.top/blog/vyshel-zcode-analog-claude-code
🧠 Ещё больше инсайтов → в канале AFF.top
Вышел ZCode — десктопный аналог Claude Code от разработчиков GLM-5.2. Работает с API от Anthropic, поддерживает SSH-деплой на сервер, в том числе Linux.
Вместо пошаговых скриптов — система целеполагания Goal: закидываешь сложный промт, агент сам разбивает задачу и выполняет. Плюс управление через Telegram-бота.
Но главная фича — мультиагентность…
➡️ Читайте на сайте: https://aff.top/blog/vyshel-zcode-analog-claude-code
🧠 Ещё больше инсайтов → в канале AFF.top
Mistral и Gemma в проде: где их реально брать, а где лучше не рисковать
У обеих семейств сильная сторона — предсказуемый small/medium inference без зависимости от закрытого API. Но выбирать надо не по «какая умнее», а по трём осям: формат задачи, длина контекста и бюджет на железо. Для коротких классификаций, извлечения полей, черновиков ответов и RAG-ответов на 1–3k токенов такие модели часто дают лучший cost/latency, чем тяжёлые 70B.
Если строите свой API, сначала проверьте три вещи:
— удерживает ли модель формат ответа без лишнего текста;
— не разваливается ли на длинных промптах с инструкциями и примерами;
— как меняется качество при переходе fp16 → int8 → int4.
На практике именно квантизация ломает не «умность», а дисциплину формата и точность на редких сущностях.
Для инференса обычно смотрят так: vLLM — если нужен высокий throughput и батчинг; TGI — если важны стабильный серверный режим и совместимость; llama.cpp — если нужен дешёвый локальный запуск и GGUF. Gemma чаще удобнее в компактных сценариях и на edge, Mistral — когда нужен более ровный баланс между скоростью и качеством на серверной GPU.
Главная ошибка — тащить такую модель в задачи, где нужен длинный многоходовый reasoning или сложная генерация с жёсткой логикой. Там выигрыш по цене быстро съедается ретраями и ручной проверкой. Правильный тест — один и тот же набор промптов в fp16 и int4, плюс замер: tokens/sec, p95 latency, доля валидных ответов. Тогда выбор становится инженерным, а не религиозным.
У обеих семейств сильная сторона — предсказуемый small/medium inference без зависимости от закрытого API. Но выбирать надо не по «какая умнее», а по трём осям: формат задачи, длина контекста и бюджет на железо. Для коротких классификаций, извлечения полей, черновиков ответов и RAG-ответов на 1–3k токенов такие модели часто дают лучший cost/latency, чем тяжёлые 70B.
Если строите свой API, сначала проверьте три вещи:
— удерживает ли модель формат ответа без лишнего текста;
— не разваливается ли на длинных промптах с инструкциями и примерами;
— как меняется качество при переходе fp16 → int8 → int4.
На практике именно квантизация ломает не «умность», а дисциплину формата и точность на редких сущностях.
Для инференса обычно смотрят так: vLLM — если нужен высокий throughput и батчинг; TGI — если важны стабильный серверный режим и совместимость; llama.cpp — если нужен дешёвый локальный запуск и GGUF. Gemma чаще удобнее в компактных сценариях и на edge, Mistral — когда нужен более ровный баланс между скоростью и качеством на серверной GPU.
Главная ошибка — тащить такую модель в задачи, где нужен длинный многоходовый reasoning или сложная генерация с жёсткой логикой. Там выигрыш по цене быстро съедается ретраями и ручной проверкой. Правильный тест — один и тот же набор промптов в fp16 и int4, плюс замер: tokens/sec, p95 latency, доля валидных ответов. Тогда выбор становится инженерным, а не религиозным.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Cloudeflare грозит Google блокировкой трафика
Cloudflare объявил: с 15 сентября 2026 года ИИ-краулеры будут заблокированы по умолчанию на всех сайтах с рекламой — включая Googlebot, Applebot и Bingbot.
Главная претензия — к Google: один и тот же бот индексирует страницы и собирает данные для обучения нейросетей, что даёт поисковику нечестное преимущество.
Но есть нюанс, который меняет всю к…
➡️ Читайте на сайте: https://aff.top/blog/cloudeflare-grozit-google-blokirovkoi-trafika
🧠 Ещё больше инсайтов → в канале AFF.top
Cloudflare объявил: с 15 сентября 2026 года ИИ-краулеры будут заблокированы по умолчанию на всех сайтах с рекламой — включая Googlebot, Applebot и Bingbot.
Главная претензия — к Google: один и тот же бот индексирует страницы и собирает данные для обучения нейросетей, что даёт поисковику нечестное преимущество.
Но есть нюанс, который меняет всю к…
➡️ Читайте на сайте: https://aff.top/blog/cloudeflare-grozit-google-blokirovkoi-trafika
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Гайд: как заработать первые деньги на Pornhub
Pornhub — самый посещаемый адалт-сайт в мире, и на нём действительно можно зарабатывать. Но схема устроена иначе, чем кажется.
Автор залил ролики, набрал 16 000 просмотров — и получил 47 центов встроенной монетизации. Реальные деньги были в другом.
Есть нюансы с верификацией, голосом в роликах и законодательством РФ, которые ломают большинство с…
➡️ Читайте на сайте: https://aff.top/blog/gaid-kak-zarabotat-pervye-dengi-na-pornhub
🧠 Ещё больше инсайтов → в канале AFF.top
Pornhub — самый посещаемый адалт-сайт в мире, и на нём действительно можно зарабатывать. Но схема устроена иначе, чем кажется.
Автор залил ролики, набрал 16 000 просмотров — и получил 47 центов встроенной монетизации. Реальные деньги были в другом.
Есть нюансы с верификацией, голосом в роликах и законодательством РФ, которые ломают большинство с…
➡️ Читайте на сайте: https://aff.top/blog/gaid-kak-zarabotat-pervye-dengi-na-pornhub
🧠 Ещё больше инсайтов → в канале AFF.top
Сайт тормозит не из-за хостинга: 7 проверок, которые часто пропускают
Если страница грузится медленно, первое желание — сменить тариф или ругаться на сервер. Но в RU-проектах чаще виноваты шаблон, БД, лишние запросы и фронт, который тащит на себе всё подряд.
— Проверь количество запросов на страницу: отдельная беда — когда компонент внутри цикла дергает БД по 10–20 раз.
— Смотри размер HTML: раздутая верстка, дублирующиеся блоки и скрытые SEO-куски легко добавляют лишние сотни килобайт.
— Убери тяжелые скрипты из критического пути: виджеты, карты, чаты и трекеры часто блокируют первый рендер.
— Не забудь про картинки: без lazy load, с неправильным размером и без сжатия они убивают мобильную загрузку.
— Проверь кеш: если кеш есть только “на бумаге”, сайт будет пересчитывать одно и то же на каждом хите.
— Посмотри на шрифты и CSS: лишние начертания, огромные сборки и импорт всего подряд заметно тормозят старт.
— Отдельно проверь админские и публичные шаблоны: иногда узкое место сидит в одном кривом include.
Если нужен быстрый порядок действий: сначала измерь, потом убирай лишние запросы, потом режь фронт. И только после этого трогай сервер.
Если страница грузится медленно, первое желание — сменить тариф или ругаться на сервер. Но в RU-проектах чаще виноваты шаблон, БД, лишние запросы и фронт, который тащит на себе всё подряд.
— Проверь количество запросов на страницу: отдельная беда — когда компонент внутри цикла дергает БД по 10–20 раз.
— Смотри размер HTML: раздутая верстка, дублирующиеся блоки и скрытые SEO-куски легко добавляют лишние сотни килобайт.
— Убери тяжелые скрипты из критического пути: виджеты, карты, чаты и трекеры часто блокируют первый рендер.
— Не забудь про картинки: без lazy load, с неправильным размером и без сжатия они убивают мобильную загрузку.
— Проверь кеш: если кеш есть только “на бумаге”, сайт будет пересчитывать одно и то же на каждом хите.
— Посмотри на шрифты и CSS: лишние начертания, огромные сборки и импорт всего подряд заметно тормозят старт.
— Отдельно проверь админские и публичные шаблоны: иногда узкое место сидит в одном кривом include.
Если нужен быстрый порядок действий: сначала измерь, потом убирай лишние запросы, потом режь фронт. И только после этого трогай сервер.
Qwen для продакшена: 4 проверки, без которых модель быстро превращается в «дешёвый шум»
Qwen часто берут за сильный multilingual и хороший instruction-following, но в проде важнее не «умность», а стабильность на вашем распределении запросов. Перед внедрением прогоняйте модель не по одному красивому промпту, а по реальным типам задач: классификация, извлечение полей, короткий саппорт, длинный диалог, tool-calling.
1) Контекст. У многих команд длинный prompt раздувается до 32k+, и тут качество падает раньше, чем ожидают: растёт latency, а ответы начинают терять опорные детали. Проверяйте не только максимальный контекст, но и точность на 8k/16k/32k на ваших данных.
2) Квантизация. Для Qwen разница между fp16 и int4 может быть приемлемой для простых задач, но на сложных цепочках рассуждения и extraction часто ломается структура ответа. Сначала меряйте hit rate, потом throughput; экономия GPU без метрик — ложная экономия.
3) Формат вывода. Если модель уходит в лишний текст, лечится это не «магией промпта», а жёстким schema-first подходом: JSON schema, стоп-слова, ограничение длины, повторная валидация.
4) Инференс-стек. Для батчей и параллельных запросов обычно смотрят в сторону vLLM или TGI; для локальных экспериментов — llama.cpp. Выбор зависит не от вкуса, а от того, что для вас критичнее: throughput, latency или простота деплоя.
Если Qwen у вас не проходит хотя бы два из четырёх тестов выше, не тащите её в прод «потому что модель большая» — сначала добейте пайплайн, потом масштабируйте железо.
Qwen часто берут за сильный multilingual и хороший instruction-following, но в проде важнее не «умность», а стабильность на вашем распределении запросов. Перед внедрением прогоняйте модель не по одному красивому промпту, а по реальным типам задач: классификация, извлечение полей, короткий саппорт, длинный диалог, tool-calling.
1) Контекст. У многих команд длинный prompt раздувается до 32k+, и тут качество падает раньше, чем ожидают: растёт latency, а ответы начинают терять опорные детали. Проверяйте не только максимальный контекст, но и точность на 8k/16k/32k на ваших данных.
2) Квантизация. Для Qwen разница между fp16 и int4 может быть приемлемой для простых задач, но на сложных цепочках рассуждения и extraction часто ломается структура ответа. Сначала меряйте hit rate, потом throughput; экономия GPU без метрик — ложная экономия.
3) Формат вывода. Если модель уходит в лишний текст, лечится это не «магией промпта», а жёстким schema-first подходом: JSON schema, стоп-слова, ограничение длины, повторная валидация.
4) Инференс-стек. Для батчей и параллельных запросов обычно смотрят в сторону vLLM или TGI; для локальных экспериментов — llama.cpp. Выбор зависит не от вкуса, а от того, что для вас критичнее: throughput, latency или простота деплоя.
Если Qwen у вас не проходит хотя бы два из четырёх тестов выше, не тащите её в прод «потому что модель большая» — сначала добейте пайплайн, потом масштабируйте железо.
DeepSeek в проде ломается не на «качестве», а на неправильном выборе режима инференса
Если берёшь DeepSeek для автоматизации, сразу разделяй задачи: генерация, агентные цепочки и длинный контекст. Для коротких ответов важнее throughput и стабильный latency, для reasoning — цена ошибки, для long-context — не паспортные 128k, а реальная деградация после плотной загрузки промпта.
На практике сначала проверяют три вещи:
— держит ли модель формат ответа без лишнего текста;
— не уходит ли в многословие на простых запросах;
— как падает качество, когда в контекст добавляют шум, логи и несколько инструкций подряд.
Для self-hosted DeepSeek критичны квантизация и движок. На тех же весах разница между vLLM, TGI и llama.cpp часто упирается не в «лучше/хуже», а в batch size, prefill и memory fragmentation. Если у тебя много параллельных коротких запросов — смотри в сторону высоких токенов в секунду. Если важен один длинный диалог — важнее стабильный prompt processing и отсутствие OOM.
Ещё одна типовая ошибка — тащить одну и ту же модель и в роутинг, и в финальный ответ. Лучше дешёвый классификатор на входе, отдельная reasoning-модель на сложные кейсы и маленькая модель для черновиков. Так ты режешь стоимость токена и убираешь лишнюю нагрузку на GPU.
Правильная схема для DeepSeek — не «самая умная модель», а связка из трёх уровней: фильтр, рабочая лошадка и дорогой режим только для сложных запросов.
Если берёшь DeepSeek для автоматизации, сразу разделяй задачи: генерация, агентные цепочки и длинный контекст. Для коротких ответов важнее throughput и стабильный latency, для reasoning — цена ошибки, для long-context — не паспортные 128k, а реальная деградация после плотной загрузки промпта.
На практике сначала проверяют три вещи:
— держит ли модель формат ответа без лишнего текста;
— не уходит ли в многословие на простых запросах;
— как падает качество, когда в контекст добавляют шум, логи и несколько инструкций подряд.
Для self-hosted DeepSeek критичны квантизация и движок. На тех же весах разница между vLLM, TGI и llama.cpp часто упирается не в «лучше/хуже», а в batch size, prefill и memory fragmentation. Если у тебя много параллельных коротких запросов — смотри в сторону высоких токенов в секунду. Если важен один длинный диалог — важнее стабильный prompt processing и отсутствие OOM.
Ещё одна типовая ошибка — тащить одну и ту же модель и в роутинг, и в финальный ответ. Лучше дешёвый классификатор на входе, отдельная reasoning-модель на сложные кейсы и маленькая модель для черновиков. Так ты режешь стоимость токена и убираешь лишнюю нагрузку на GPU.
Правильная схема для DeepSeek — не «самая умная модель», а связка из трёх уровней: фильтр, рабочая лошадка и дорогой режим только для сложных запросов.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Сбер запустит свой криптокошелёк
Сбер готов запустить криптокошелёк — инфраструктура уже есть. Ждут только закона о регулировании крипты, который планируют принять к 1 сентября 2026 года.
Хранить и, судя по всему, обменивать крипту можно будет прямо в приложении — без сторонних обменников.
Но есть один нюанс, из-за которого обменники никуда не денутся. 🔍
➡️ Читайте на сайте: https://aff.top/blog/sber-zapustit-svoi-kriptokoshelek
🧠 Ещё больше инсайтов → в канале AFF.top
Сбер готов запустить криптокошелёк — инфраструктура уже есть. Ждут только закона о регулировании крипты, который планируют принять к 1 сентября 2026 года.
Хранить и, судя по всему, обменивать крипту можно будет прямо в приложении — без сторонних обменников.
Но есть один нюанс, из-за которого обменники никуда не денутся. 🔍
➡️ Читайте на сайте: https://aff.top/blog/sber-zapustit-svoi-kriptokoshelek
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Индия потребовала от Telegram удалять пиратский контент
Индия потребовала от Telegram удалять пиратский контент — претензия в том, что платформа не ограничивает размер файлов, что позволяет свободно распространять фильмы.
Дуров ответил, что Telegram годами работает в Индии без какой-либо коммерческой выгоды для себя.
Почему давление началось именно сейчас — вопрос открытый. Возможный ответ — в блоге.
➡️ Читайте на сайте: https://aff.top/blog/indiia-potrebovala-ot-telegram-udaliat-piratskii-kontent
🧠 Ещё больше инсайтов → в канале AFF.top
Индия потребовала от Telegram удалять пиратский контент — претензия в том, что платформа не ограничивает размер файлов, что позволяет свободно распространять фильмы.
Дуров ответил, что Telegram годами работает в Индии без какой-либо коммерческой выгоды для себя.
Почему давление началось именно сейчас — вопрос открытый. Возможный ответ — в блоге.
➡️ Читайте на сайте: https://aff.top/blog/indiia-potrebovala-ot-telegram-udaliat-piratskii-kontent
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Google ads меняет стратегию по конверсиям
Google меняет логику автоматических стратегий ставок: с 17 августа 2026 года кампании будут строже придерживаться указанного целевого CPA, а не давать лиды по минимально возможной цене.
Если сейчас твоя кампания даёт лиды по $5, а цель стоит $10 — после обновления алгоритм «поднимет» фактическую стоимость лида к целевой, зато отдаст больше трафик…
➡️ Читайте на сайте: https://aff.top/blog/google-ads-meniaet-strategiiu-po-konversiiam
🧠 Ещё больше инсайтов → в канале AFF.top
Google меняет логику автоматических стратегий ставок: с 17 августа 2026 года кампании будут строже придерживаться указанного целевого CPA, а не давать лиды по минимально возможной цене.
Если сейчас твоя кампания даёт лиды по $5, а цель стоит $10 — после обновления алгоритм «поднимет» фактическую стоимость лида к целевой, зато отдаст больше трафик…
➡️ Читайте на сайте: https://aff.top/blog/google-ads-meniaet-strategiiu-po-konversiiam
🧠 Ещё больше инсайтов → в канале AFF.top
vLLM и TGI ломаются не на модели, а на неправильном режиме нагрузки
Если у тебя короткие запросы и высокий параллелизм, vLLM обычно выигрывает за счёт paged attention и агрессивной batching-логики. Когда важна стабильная выдача под очередью, он часто держит выше throughput на одинаковой GPU, особенно на декоде.
TGI сильнее там, где нужен более предсказуемый serving-пайплайн: удобнее управлять генерацией, стримингом и интеграцией в продовый стек. Но если контекст длинный, а запросы идут рывками, узкое место чаще упрётся в KV-cache и политику планировщика, а не в саму модель.
Смотри не на «какой фреймворк лучше», а на три метрики:
— tokens/sec на одной GPU при твоём batch size
— p95 latency на 1, 8 и 32 одновременных запросах
— максимальный рабочий контекст без заметной деградации качества
Если у тебя чат-бот, автодозаполнение и много мелких запросов — сначала тестируй vLLM. Если нужен более контролируемый inference-слой, предсказуемый API и простая эксплуатация в существующей инфраструктуре — чаще удобнее TGI.
Правильный выбор делается не по бренду, а по профилю нагрузки: один и тот же чек на 4090, A10 или A100 может дать противоположный результат.
Если у тебя короткие запросы и высокий параллелизм, vLLM обычно выигрывает за счёт paged attention и агрессивной batching-логики. Когда важна стабильная выдача под очередью, он часто держит выше throughput на одинаковой GPU, особенно на декоде.
TGI сильнее там, где нужен более предсказуемый serving-пайплайн: удобнее управлять генерацией, стримингом и интеграцией в продовый стек. Но если контекст длинный, а запросы идут рывками, узкое место чаще упрётся в KV-cache и политику планировщика, а не в саму модель.
Смотри не на «какой фреймворк лучше», а на три метрики:
— tokens/sec на одной GPU при твоём batch size
— p95 latency на 1, 8 и 32 одновременных запросах
— максимальный рабочий контекст без заметной деградации качества
Если у тебя чат-бот, автодозаполнение и много мелких запросов — сначала тестируй vLLM. Если нужен более контролируемый inference-слой, предсказуемый API и простая эксплуатация в существующей инфраструктуре — чаще удобнее TGI.
Правильный выбор делается не по бренду, а по профилю нагрузки: один и тот же чек на 4090, A10 или A100 может дать противоположный результат.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
В Codex внедрят GPT-5.6 Ultra
OpenAI добавит в Codex эксклюзивную версию GPT-5.6 Sol Ultra — не ту, что выйдет в паблик, а отдельную, усиленную модель.
Два ключевых режима: расширенные рассуждения (модель думает дольше) и мульти-агентная работа с параллельными субагентами. Релиз ожидается 7–9 июля 2026.
Но есть один нюанс, который OpenAI пока не раскрывает 👀 Подробности — в …
➡️ Читайте на сайте: https://aff.top/blog/v-codex-vnedriat-gpt-5-6-ultra
🧠 Ещё больше инсайтов → в канале AFF.top
OpenAI добавит в Codex эксклюзивную версию GPT-5.6 Sol Ultra — не ту, что выйдет в паблик, а отдельную, усиленную модель.
Два ключевых режима: расширенные рассуждения (модель думает дольше) и мульти-агентная работа с параллельными субагентами. Релиз ожидается 7–9 июля 2026.
Но есть один нюанс, который OpenAI пока не раскрывает 👀 Подробности — в …
➡️ Читайте на сайте: https://aff.top/blog/v-codex-vnedriat-gpt-5-6-ultra
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Компания Meta выпустила Muse Image
Meta выпустила Muse Image — нейросеть, которая генерирует изображения как агент: сама ищет референсы, пишет код и рассуждает перед созданием картинки.
Одна из фишек — можно скинуть ссылку на публичный профиль человека в соцсети, и модель возьмёт его внешность за референс.
Есть один вопрос, который интересует всех арбитражников: как это повлияет …
➡️ Читайте на сайте: https://aff.top/blog/kompaniia-meta-vypustila-muse-image
🧠 Ещё больше инсайтов → в канале AFF.top
Meta выпустила Muse Image — нейросеть, которая генерирует изображения как агент: сама ищет референсы, пишет код и рассуждает перед созданием картинки.
Одна из фишек — можно скинуть ссылку на публичный профиль человека в соцсети, и модель возьмёт его внешность за референс.
Есть один вопрос, который интересует всех арбитражников: как это повлияет …
➡️ Читайте на сайте: https://aff.top/blog/kompaniia-meta-vypustila-muse-image
🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from Я ЗЛОЙ, Я ГАНГСТА
This media is not supported in your browser
VIEW IN TELEGRAM
Хоменок потребовал, чтобы кардиналы уволили Иванова — новая драма из нижней аффилки.
Вспоминаем этого персонажа: в преддверии МАК и джигейт конф овнер Х6 Group Антон Хоменок назвал себя «инфлюенсером года» и заявил, что если не выиграет награды — значит, премии на конфах купленные. Как и можно было ожидать, умник ничерта не выиграл, но это унижение не помешало ему сделать предложение своей девушке на «коррумпированной» сцене джигеев.
Так вот, на конфе Хоменок посоветовал СЕО кардиналов уволить ЕЮ — мол, он фрик, с которым нельзя сотрудничать. Эта инфа разумеется дошла до Иванова — в ответ он предложил выкупить всю конторку кардиналов (их овнер пока не ответил). Вообще удивительно, с какой уверенностью Антоха даёт коллегам по сфере советы, не понимая базовые вещи (например, тот факт, что ЕЮ — вообще не наёмный сотрудник). Под конец Хоменок слился со стрима с Ивановым, заваливая его комплиментами — ожидаемое лицемерие, что тут скажешь.
К слову, когда ЕЮ спросил у Алексеева, уволил бы тот его, овнер приватов ответил, что скорее Иванов его уволит (что, может, и не так, но главному алкашу сферы всё равно было приятно).
🥴 — «инфлюенсер года», хуле
🤡 — типичный ЧСВшник без реальных достижений в сфере, такая лайф
😈 Я ЗЛОЙ, Я ГАНГСТА
Вспоминаем этого персонажа: в преддверии МАК и джигейт конф овнер Х6 Group Антон Хоменок назвал себя «инфлюенсером года» и заявил, что если не выиграет награды — значит, премии на конфах купленные. Как и можно было ожидать, умник ничерта не выиграл, но это унижение не помешало ему сделать предложение своей девушке на «коррумпированной» сцене джигеев.
Так вот, на конфе Хоменок посоветовал СЕО кардиналов уволить ЕЮ — мол, он фрик, с которым нельзя сотрудничать. Эта инфа разумеется дошла до Иванова — в ответ он предложил выкупить всю конторку кардиналов (их овнер пока не ответил). Вообще удивительно, с какой уверенностью Антоха даёт коллегам по сфере советы, не понимая базовые вещи (например, тот факт, что ЕЮ — вообще не наёмный сотрудник). Под конец Хоменок слился со стрима с Ивановым, заваливая его комплиментами — ожидаемое лицемерие, что тут скажешь.
К слову, когда ЕЮ спросил у Алексеева, уволил бы тот его, овнер приватов ответил, что скорее Иванов его уволит (что, может, и не так, но главному алкашу сферы всё равно было приятно).
🥴 — «инфлюенсер года», хуле
🤡 — типичный ЧСВшник без реальных достижений в сфере, такая лайф
Please open Telegram to view this post
VIEW IN TELEGRAM