Open Source LLM — Llama / Qwen / DeepSeek
1.48K subscribers
12 photos
3 videos
63 links
Open Source LLM — про open-source LLM глазами арбитражника:
свой API без OpenAI, локальный inference, файнтюны.
Канал сети public.tg.
Download Telegram
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Гайд: как заработать первые деньги на Pornhub

Pornhub — самый посещаемый адалт-сайт в мире, и на нём действительно можно зарабатывать. Но схема устроена иначе, чем кажется.

Автор залил ролики, набрал 16 000 просмотров — и получил 47 центов встроенной монетизации. Реальные деньги были в другом.

Есть нюансы с верификацией, голосом в роликах и законодательством РФ, которые ломают большинство с…

➡️ Читайте на сайте: https://aff.top/blog/gaid-kak-zarabotat-pervye-dengi-na-pornhub

🧠 Ещё больше инсайтов → в канале AFF.top
Сайт тормозит не из-за хостинга: 7 проверок, которые часто пропускают

Если страница грузится медленно, первое желание — сменить тариф или ругаться на сервер. Но в RU-проектах чаще виноваты шаблон, БД, лишние запросы и фронт, который тащит на себе всё подряд.

— Проверь количество запросов на страницу: отдельная беда — когда компонент внутри цикла дергает БД по 10–20 раз.
— Смотри размер HTML: раздутая верстка, дублирующиеся блоки и скрытые SEO-куски легко добавляют лишние сотни килобайт.
— Убери тяжелые скрипты из критического пути: виджеты, карты, чаты и трекеры часто блокируют первый рендер.
— Не забудь про картинки: без lazy load, с неправильным размером и без сжатия они убивают мобильную загрузку.
— Проверь кеш: если кеш есть только “на бумаге”, сайт будет пересчитывать одно и то же на каждом хите.
— Посмотри на шрифты и CSS: лишние начертания, огромные сборки и импорт всего подряд заметно тормозят старт.
— Отдельно проверь админские и публичные шаблоны: иногда узкое место сидит в одном кривом include.

Если нужен быстрый порядок действий: сначала измерь, потом убирай лишние запросы, потом режь фронт. И только после этого трогай сервер.
Qwen для продакшена: 4 проверки, без которых модель быстро превращается в «дешёвый шум»

Qwen часто берут за сильный multilingual и хороший instruction-following, но в проде важнее не «умность», а стабильность на вашем распределении запросов. Перед внедрением прогоняйте модель не по одному красивому промпту, а по реальным типам задач: классификация, извлечение полей, короткий саппорт, длинный диалог, tool-calling.

1) Контекст. У многих команд длинный prompt раздувается до 32k+, и тут качество падает раньше, чем ожидают: растёт latency, а ответы начинают терять опорные детали. Проверяйте не только максимальный контекст, но и точность на 8k/16k/32k на ваших данных.

2) Квантизация. Для Qwen разница между fp16 и int4 может быть приемлемой для простых задач, но на сложных цепочках рассуждения и extraction часто ломается структура ответа. Сначала меряйте hit rate, потом throughput; экономия GPU без метрик — ложная экономия.

3) Формат вывода. Если модель уходит в лишний текст, лечится это не «магией промпта», а жёстким schema-first подходом: JSON schema, стоп-слова, ограничение длины, повторная валидация.

4) Инференс-стек. Для батчей и параллельных запросов обычно смотрят в сторону vLLM или TGI; для локальных экспериментов — llama.cpp. Выбор зависит не от вкуса, а от того, что для вас критичнее: throughput, latency или простота деплоя.

Если Qwen у вас не проходит хотя бы два из четырёх тестов выше, не тащите её в прод «потому что модель большая» — сначала добейте пайплайн, потом масштабируйте железо.
DeepSeek в проде ломается не на «качестве», а на неправильном выборе режима инференса

Если берёшь DeepSeek для автоматизации, сразу разделяй задачи: генерация, агентные цепочки и длинный контекст. Для коротких ответов важнее throughput и стабильный latency, для reasoning — цена ошибки, для long-context — не паспортные 128k, а реальная деградация после плотной загрузки промпта.

На практике сначала проверяют три вещи:
— держит ли модель формат ответа без лишнего текста;
— не уходит ли в многословие на простых запросах;
— как падает качество, когда в контекст добавляют шум, логи и несколько инструкций подряд.

Для self-hosted DeepSeek критичны квантизация и движок. На тех же весах разница между vLLM, TGI и llama.cpp часто упирается не в «лучше/хуже», а в batch size, prefill и memory fragmentation. Если у тебя много параллельных коротких запросов — смотри в сторону высоких токенов в секунду. Если важен один длинный диалог — важнее стабильный prompt processing и отсутствие OOM.

Ещё одна типовая ошибка — тащить одну и ту же модель и в роутинг, и в финальный ответ. Лучше дешёвый классификатор на входе, отдельная reasoning-модель на сложные кейсы и маленькая модель для черновиков. Так ты режешь стоимость токена и убираешь лишнюю нагрузку на GPU.

Правильная схема для DeepSeek — не «самая умная модель», а связка из трёх уровней: фильтр, рабочая лошадка и дорогой режим только для сложных запросов.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Сбер запустит свой криптокошелёк

Сбер готов запустить криптокошелёк — инфраструктура уже есть. Ждут только закона о регулировании крипты, который планируют принять к 1 сентября 2026 года.

Хранить и, судя по всему, обменивать крипту можно будет прямо в приложении — без сторонних обменников.

Но есть один нюанс, из-за которого обменники никуда не денутся. 🔍

➡️ Читайте на сайте: https://aff.top/blog/sber-zapustit-svoi-kriptokoshelek

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Индия потребовала от Telegram удалять пиратский контент

Индия потребовала от Telegram удалять пиратский контент — претензия в том, что платформа не ограничивает размер файлов, что позволяет свободно распространять фильмы.

Дуров ответил, что Telegram годами работает в Индии без какой-либо коммерческой выгоды для себя.

Почему давление началось именно сейчас — вопрос открытый. Возможный ответ — в блоге.

➡️ Читайте на сайте: https://aff.top/blog/indiia-potrebovala-ot-telegram-udaliat-piratskii-kontent

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Google ads меняет стратегию по конверсиям

Google меняет логику автоматических стратегий ставок: с 17 августа 2026 года кампании будут строже придерживаться указанного целевого CPA, а не давать лиды по минимально возможной цене.

Если сейчас твоя кампания даёт лиды по $5, а цель стоит $10 — после обновления алгоритм «поднимет» фактическую стоимость лида к целевой, зато отдаст больше трафик…

➡️ Читайте на сайте: https://aff.top/blog/google-ads-meniaet-strategiiu-po-konversiiam

🧠 Ещё больше инсайтов → в канале AFF.top
vLLM и TGI ломаются не на модели, а на неправильном режиме нагрузки

Если у тебя короткие запросы и высокий параллелизм, vLLM обычно выигрывает за счёт paged attention и агрессивной batching-логики. Когда важна стабильная выдача под очередью, он часто держит выше throughput на одинаковой GPU, особенно на декоде.

TGI сильнее там, где нужен более предсказуемый serving-пайплайн: удобнее управлять генерацией, стримингом и интеграцией в продовый стек. Но если контекст длинный, а запросы идут рывками, узкое место чаще упрётся в KV-cache и политику планировщика, а не в саму модель.

Смотри не на «какой фреймворк лучше», а на три метрики:
— tokens/sec на одной GPU при твоём batch size
— p95 latency на 1, 8 и 32 одновременных запросах
— максимальный рабочий контекст без заметной деградации качества

Если у тебя чат-бот, автодозаполнение и много мелких запросов — сначала тестируй vLLM. Если нужен более контролируемый inference-слой, предсказуемый API и простая эксплуатация в существующей инфраструктуре — чаще удобнее TGI.

Правильный выбор делается не по бренду, а по профилю нагрузки: один и тот же чек на 4090, A10 или A100 может дать противоположный результат.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
В Codex внедрят GPT-5.6 Ultra

OpenAI добавит в Codex эксклюзивную версию GPT-5.6 Sol Ultra — не ту, что выйдет в паблик, а отдельную, усиленную модель.

Два ключевых режима: расширенные рассуждения (модель думает дольше) и мульти-агентная работа с параллельными субагентами. Релиз ожидается 7–9 июля 2026.

Но есть один нюанс, который OpenAI пока не раскрывает 👀 Подробности — в …

➡️ Читайте на сайте: https://aff.top/blog/v-codex-vnedriat-gpt-5-6-ultra

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Компания Meta выпустила Muse Image

Meta выпустила Muse Image — нейросеть, которая генерирует изображения как агент: сама ищет референсы, пишет код и рассуждает перед созданием картинки.

Одна из фишек — можно скинуть ссылку на публичный профиль человека в соцсети, и модель возьмёт его внешность за референс.

Есть один вопрос, который интересует всех арбитражников: как это повлияет …

➡️ Читайте на сайте: https://aff.top/blog/kompaniia-meta-vypustila-muse-image

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from Я ЗЛОЙ, Я ГАНГСТА
This media is not supported in your browser
VIEW IN TELEGRAM
Хоменок потребовал, чтобы кардиналы уволили Иванова — новая драма из нижней аффилки.

Вспоминаем этого персонажа: в преддверии МАК и джигейт конф овнер Х6 Group Антон Хоменок назвал себя «инфлюенсером года» и заявил, что если не выиграет награды — значит, премии на конфах купленные. Как и можно было ожидать, умник ничерта не выиграл, но это унижение не помешало ему сделать предложение своей девушке на «коррумпированной» сцене джигеев.

Так вот, на конфе Хоменок посоветовал СЕО кардиналов уволить ЕЮ — мол, он фрик, с которым нельзя сотрудничать. Эта инфа разумеется дошла до Иванова — в ответ он предложил выкупить всю конторку кардиналов (их овнер пока не ответил). Вообще удивительно, с какой уверенностью Антоха даёт коллегам по сфере советы, не понимая базовые вещи (например, тот факт, что ЕЮ — вообще не наёмный сотрудник). Под конец Хоменок слился со стрима с Ивановым, заваливая его комплиментами — ожидаемое лицемерие, что тут скажешь.

К слову, когда ЕЮ спросил у Алексеева, уволил бы тот его, овнер приватов ответил, что скорее Иванов его уволит (что, может, и не так, но главному алкашу сферы всё равно было приятно).

🥴 — «инфлюенсер года», хуле
🤡 — типичный ЧСВшник без реальных достижений в сфере, такая лайф

😈 Я ЗЛОЙ, Я ГАНГСТА
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Китай планирует ограничить доступ к DeepSeek и GLM

Китай готовится ограничить публичный доступ к своим флагманским нейросетям — DeepSeek и GLM. Запрет по образцу США становится новой нормальностью.

Правительство рассматривает трёхуровневую систему: от стандартной регистрации для простых моделей до полного закрытия самых передовых — только для внутреннего использования.

Но есть один подвох, котор…

➡️ Читайте на сайте: https://aff.top/blog/kitai-planiruet-ogranichit-dostup-k-deepseek-i-glm

🧠 Ещё больше инсайтов → в канале AFF.top
Ghost берут не за «модность», а за быстрый контент-сайт без лишнего комбайна

Ghost — это не замена всем CMS подряд. Он хорошо садится туда, где нужен редакционный сайт, рассылки, подписки и аккуратная публикация без тяжёлого бэк-офиса.

За что его обычно выбирают:
— минимальная админка: авторы не тонут в настройках;
— нормальный Markdown и блочный редактор для текста;
— встроенная логика публикаций, тегов, авторов, RSS и email-рассылок;
— headless-режим, если фронт живёт отдельно.

Где Ghost обычно проигрывает:
— сложные права доступа и много ролей;
— нестандартные типы контента и глубокие связи между сущностями;
— большой портал с десятками редакционных сценариев;
— проект, где нужна «всё в одной панели» для маркетинга, магазина и контента.

Есть наблюдение которое стоит проверить: Ghost лучше всего раскрывается, когда команда заранее ограничила себя рамками. Если контент-модель простая, сайт выходит быстрее и дешевле в поддержке. Если начать лепить на него ERP-логику, он быстро становится неудобным.

Для агентства и соло-разработчика это удобный выбор под блог, медиапроект, лендинг с контентом и подпиской. Для сложного продукта чаще разумнее смотреть в сторону Drupal, Strapi или Payload.

Если нужен CMS без лишнего шума, Ghost — хороший кандидат. Если нужна гибкость на вырост, сначала проверьте, не упрётесь ли вы в его простоту.
Forwarded from ЖП
ЕЮ покупает мусор недорого: 150к за Трафик Кардинал раз 🔨

По случаю Жениной "развязки" разгорелся небольшой сканадал.

На G GATE CONF маркетолог, визионер, трудоголик, филантроп Хоменок не стал лучшим инфлюенсером, да и вообще никем. Но тем не менее дал совет ребятам из ТК — уволить Иванова. Я поднял все архивы арбитражки, но так и не понял, кто его нанял. Единственное, что я знаю, но не могу доказать — когда-то ТК проплатили медийную поддержку от маэстро, чтобы тот перестал их публично унижать.

Естественно, Жекич тут же узнал об этом шкурном поступке Антона от Кустова Никиты (главреда ТК), обиделся, оскорбился и предложил 150к бачей за покупку медиа Traffic Cardinal. Видимо, побоялся, что попадет под сокращения.


Для медиа с тремя инсультами — это очень выгодное предложение. Больше не даст никто. 150к бачей — два 🔨

Результаты пока неизвестны, публичные торги еще не начаты.

❤️ — я бы дал больше
😁 — Пусть Жека купит "X6Agency" и уволит Хоменока
😎 — 150к бачей — три. Продано

🐗 Обсудить сплетню в чате можно тут


💵 SERIOUS.PARTNERS - ПОДПИСКИ ЛЕЙ, НОРМАЛЬНО БУДЕТ

💵 Место для вас @dumay


by Я ненавижу арбитраж
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Я ненавижу арбитраж
ЕЮ покупает мусор недорого: 150к за Трафик Кардинал раз 🔨

По случаю Жениной "развязки" разгорелся небольшой сканадал.

На G GATE CONF маркетолог, визионер, трудоголик, филантроп Хоменок не стал лучшим инфлюенсером, да и вообще никем. Но тем не менее дал совет ребятам из ТК — уволить Иванова. Я поднял все архивы арбитражки, но так и не понял, кто его нанял. Единственное, что я знаю, но не могу доказать — когда-то ТК проплатили медийную поддержку от маэстро, чтобы тот перестал их публично унижать.

Естественно, Жекич тут же узнал об этом шкурном поступке Антона от Кустова Никиты (главреда ТК), обиделся, оскорбился и предложил 150к бачей за покупку медиа Traffic Cardinal. Видимо, побоялся, что попадет под сокращения.


Для медиа с тремя инсультами — это очень выгодное предложение. Больше не даст никто. 150к бачей — два 🔨

Результаты пока неизвестны, публичные торги еще не начаты.

❤️ — я бы дал больше
😁 — Пусть Жека купит "X6Agency" и уволит Хоменока
😎 — 150к бачей — три. Продано

Я ненавижу арбитраж | Чат 😠
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Потрачено! Клуб спящих бизнесменов!
⚡️У кого каналы и кто продаёт рекламу - для вас не большое объявление!

Очень стараюсь собрать все арбитражные и смежных каналы, что бы сделать каталог цен на размещение там рекламы, если у вас есть канал, вы там продаёте рекламу, пожалуйста просто пришлите Давиду @AFFtop_connect ценик

@username - XXX$


Прям в таком формате, лишней хуйни не надо, ребята просто добавят ваш канал в публичный каталог, если конечно же вам вообще нужны реклы

Приватные каналы пока не принимают, с ними позже будут разбираться

Альфа версия https://tg.observer если кому то интересно


🤔 Консоли Google Play и Apple Developer надо? Phoenix — 100% свой фарм с 2021-го. Забрать акки@phoenix_seller_bot 🤔


@Pacan
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
ByteDance выпустила Seedream 5.0 pro

ByteDance выпустила Seedream 5.0 pro — генератор изображений с послойным редактированием прямо внутри интерфейса.

Ключевая фича: выделяешь объект — он уходит на отдельный слой, двигаешь и масштабируешь независимо. Пустую зону можно дозаполнить промтом. Текст на изображениях без глитчей — нативно.

Для арбитражников это может быть удобным инструме…

➡️ Читайте на сайте: https://aff.top/blog/bytedance-vypustila-seedream-5-0-pro

🧠 Ещё больше инсайтов → в канале AFF.top
DeepSeek в проде: 4 проверки, которые экономят недели на интеграции

DeepSeek часто берут как «дешёвую замену», но в проде важнее не цена, а режим работы модели. Смотри на четыре вещи: длина контекста, устойчивость к длинным промптам, поведение на tool-calling и скорость генерации на твоём железе.

Первый фильтр — формат задач. Для коротких классификаций и рутинного текста подойдут компактные варианты, для сложных цепочек рассуждений нужен запас по контексту и памяти. Если задача требует строгого JSON, обязательно тестируй пустые поля, вложенные массивы и отказоустойчивость при обрыве ответа.

Второй фильтр — инференс-стек. На одном и том же весе vLLM даёт удобный батчинг и хороший throughput, TGI часто проще встроить в сервисную схему, llama.cpp полезен там, где важны GGUF и CPU/GPU-микс. Ошибка многих команд — сравнивать модель по одному запросу, а не по p95 latency и tokens/sec под реальной нагрузкой.

Третий фильтр — квантизация. INT4 может быть нормой для черновиков и внутренних ассистентов, но если у модели начинает «плыть» структура ответа или падает точность на длинных инструкциях, откатывайся на INT8 или fp16. Считать нужно не только VRAM, но и цену ошибки: лишние 4 ГБ памяти дешевле, чем ручная правка ответов.

Если нужна модель в прод, сначала прогони её через свой набор из 50–200 типовых запросов. Не «на глаз», а по метрикам: валидность JSON, стабильность на длинном контексте, latency и процент переспросов. Именно это отделяет полезный open-source LLM от красивого демо.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Создателя Telegram снова допрашивали

Павла Дурова снова допросили во Франции: встреча с следствием длилась более 6 часов.

Это уже не первый эпизод в деле, которое тянется с 2024 года: тогда основателя Telegram арестовали в аэропорту Ле-бурже и ограничивали в выезде до июня 2025.

Что именно выясняли на новом допросе — не раскрывают. Но давление на Telegram растёт, и в этой истории е…

➡️ Читайте на сайте: https://aff.top/blog/sozdatelia-telegram-snova-doprashivali

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Cloudflare запустил функцию Drop

Cloudflare запустил Drop — сервис, который разворачивает временный сайт за несколько секунд прямо из zip-архива.

Без аккаунта можно создавать сколько угодно таких страниц, но ссылка живёт всего 1 час. Потом сайт придётся переносить в аккаунт.

Зачем это нужно арбитражнику и что можно успеть за это время — в блоге.

➡️ Читайте на сайте: https://aff.top/blog/cloudflare-zapustil-funkciiu-drop

🧠 Ещё больше инсайтов → в канале AFF.top
Qwen в проде ломается не на качестве, а на неправильном выборе размера и рантайма

Для задач с русским и английским текстом Qwen часто удобнее, чем кажется: у модели обычно хороший баланс между следованием инструкции, структурой ответа и терпимостью к шумному промпту. Но этот баланс быстро исчезает, если пытаться запускать слишком крупную модель на узком VRAM и душить её агрессивной квантизацией.

Смотри на 4 оси:
— качество: умеет ли модель держать длинный контекст без распада ответа;
— скорость: сколько tokens/sec даёт на твоём GPU;
— цена: сколько стоит 1M токенов при твоей загрузке;
— лицензия: можно ли использовать веса в коммерческом контуре без сюрпризов.

Практический выбор обычно такой: 7B/8B — для агентных задач, классификации, черновиков и RAG; 14B — когда нужна более стабильная логика и меньше ручной постобработки; 32B+ — только если есть запас по памяти и ты реально монетизируешь качество, а не просто любуешься бенчмарком. Для сервинга чаще всего выигрывает vLLM, если нужен высокий throughput; TGI — когда важнее предсказуемость и интеграция; llama.cpp — если надо дожать железо до последнего и жить на GGUF.

Типовая ошибка: брать модель «побольше», а потом удивляться, что контекст 128k на практике деградирует уже заметно раньше, потому что упираешься в KV-cache и задержку на длинной истории.

Если нужен стабильный прод, сначала считай не параметры, а tokens/sec, VRAM под контекст и стоимость ошибки на постобработке — именно они решают, какая Qwen-модель окупится.