Open Source LLM — Llama / Qwen / DeepSeek
1.48K subscribers
12 photos
3 videos
63 links
Open Source LLM — про open-source LLM глазами арбитражника:
свой API без OpenAI, локальный inference, файнтюны.
Канал сети public.tg.
Download Telegram
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Сбер запустит свой криптокошелёк

Сбер готов запустить криптокошелёк — инфраструктура уже есть. Ждут только закона о регулировании крипты, который планируют принять к 1 сентября 2026 года.

Хранить и, судя по всему, обменивать крипту можно будет прямо в приложении — без сторонних обменников.

Но есть один нюанс, из-за которого обменники никуда не денутся. 🔍

➡️ Читайте на сайте: https://aff.top/blog/sber-zapustit-svoi-kriptokoshelek

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Индия потребовала от Telegram удалять пиратский контент

Индия потребовала от Telegram удалять пиратский контент — претензия в том, что платформа не ограничивает размер файлов, что позволяет свободно распространять фильмы.

Дуров ответил, что Telegram годами работает в Индии без какой-либо коммерческой выгоды для себя.

Почему давление началось именно сейчас — вопрос открытый. Возможный ответ — в блоге.

➡️ Читайте на сайте: https://aff.top/blog/indiia-potrebovala-ot-telegram-udaliat-piratskii-kontent

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Google ads меняет стратегию по конверсиям

Google меняет логику автоматических стратегий ставок: с 17 августа 2026 года кампании будут строже придерживаться указанного целевого CPA, а не давать лиды по минимально возможной цене.

Если сейчас твоя кампания даёт лиды по $5, а цель стоит $10 — после обновления алгоритм «поднимет» фактическую стоимость лида к целевой, зато отдаст больше трафик…

➡️ Читайте на сайте: https://aff.top/blog/google-ads-meniaet-strategiiu-po-konversiiam

🧠 Ещё больше инсайтов → в канале AFF.top
vLLM и TGI ломаются не на модели, а на неправильном режиме нагрузки

Если у тебя короткие запросы и высокий параллелизм, vLLM обычно выигрывает за счёт paged attention и агрессивной batching-логики. Когда важна стабильная выдача под очередью, он часто держит выше throughput на одинаковой GPU, особенно на декоде.

TGI сильнее там, где нужен более предсказуемый serving-пайплайн: удобнее управлять генерацией, стримингом и интеграцией в продовый стек. Но если контекст длинный, а запросы идут рывками, узкое место чаще упрётся в KV-cache и политику планировщика, а не в саму модель.

Смотри не на «какой фреймворк лучше», а на три метрики:
— tokens/sec на одной GPU при твоём batch size
— p95 latency на 1, 8 и 32 одновременных запросах
— максимальный рабочий контекст без заметной деградации качества

Если у тебя чат-бот, автодозаполнение и много мелких запросов — сначала тестируй vLLM. Если нужен более контролируемый inference-слой, предсказуемый API и простая эксплуатация в существующей инфраструктуре — чаще удобнее TGI.

Правильный выбор делается не по бренду, а по профилю нагрузки: один и тот же чек на 4090, A10 или A100 может дать противоположный результат.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
В Codex внедрят GPT-5.6 Ultra

OpenAI добавит в Codex эксклюзивную версию GPT-5.6 Sol Ultra — не ту, что выйдет в паблик, а отдельную, усиленную модель.

Два ключевых режима: расширенные рассуждения (модель думает дольше) и мульти-агентная работа с параллельными субагентами. Релиз ожидается 7–9 июля 2026.

Но есть один нюанс, который OpenAI пока не раскрывает 👀 Подробности — в …

➡️ Читайте на сайте: https://aff.top/blog/v-codex-vnedriat-gpt-5-6-ultra

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Компания Meta выпустила Muse Image

Meta выпустила Muse Image — нейросеть, которая генерирует изображения как агент: сама ищет референсы, пишет код и рассуждает перед созданием картинки.

Одна из фишек — можно скинуть ссылку на публичный профиль человека в соцсети, и модель возьмёт его внешность за референс.

Есть один вопрос, который интересует всех арбитражников: как это повлияет …

➡️ Читайте на сайте: https://aff.top/blog/kompaniia-meta-vypustila-muse-image

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from Я ЗЛОЙ, Я ГАНГСТА
This media is not supported in your browser
VIEW IN TELEGRAM
Хоменок потребовал, чтобы кардиналы уволили Иванова — новая драма из нижней аффилки.

Вспоминаем этого персонажа: в преддверии МАК и джигейт конф овнер Х6 Group Антон Хоменок назвал себя «инфлюенсером года» и заявил, что если не выиграет награды — значит, премии на конфах купленные. Как и можно было ожидать, умник ничерта не выиграл, но это унижение не помешало ему сделать предложение своей девушке на «коррумпированной» сцене джигеев.

Так вот, на конфе Хоменок посоветовал СЕО кардиналов уволить ЕЮ — мол, он фрик, с которым нельзя сотрудничать. Эта инфа разумеется дошла до Иванова — в ответ он предложил выкупить всю конторку кардиналов (их овнер пока не ответил). Вообще удивительно, с какой уверенностью Антоха даёт коллегам по сфере советы, не понимая базовые вещи (например, тот факт, что ЕЮ — вообще не наёмный сотрудник). Под конец Хоменок слился со стрима с Ивановым, заваливая его комплиментами — ожидаемое лицемерие, что тут скажешь.

К слову, когда ЕЮ спросил у Алексеева, уволил бы тот его, овнер приватов ответил, что скорее Иванов его уволит (что, может, и не так, но главному алкашу сферы всё равно было приятно).

🥴 — «инфлюенсер года», хуле
🤡 — типичный ЧСВшник без реальных достижений в сфере, такая лайф

😈 Я ЗЛОЙ, Я ГАНГСТА
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Китай планирует ограничить доступ к DeepSeek и GLM

Китай готовится ограничить публичный доступ к своим флагманским нейросетям — DeepSeek и GLM. Запрет по образцу США становится новой нормальностью.

Правительство рассматривает трёхуровневую систему: от стандартной регистрации для простых моделей до полного закрытия самых передовых — только для внутреннего использования.

Но есть один подвох, котор…

➡️ Читайте на сайте: https://aff.top/blog/kitai-planiruet-ogranichit-dostup-k-deepseek-i-glm

🧠 Ещё больше инсайтов → в канале AFF.top
Ghost берут не за «модность», а за быстрый контент-сайт без лишнего комбайна

Ghost — это не замена всем CMS подряд. Он хорошо садится туда, где нужен редакционный сайт, рассылки, подписки и аккуратная публикация без тяжёлого бэк-офиса.

За что его обычно выбирают:
— минимальная админка: авторы не тонут в настройках;
— нормальный Markdown и блочный редактор для текста;
— встроенная логика публикаций, тегов, авторов, RSS и email-рассылок;
— headless-режим, если фронт живёт отдельно.

Где Ghost обычно проигрывает:
— сложные права доступа и много ролей;
— нестандартные типы контента и глубокие связи между сущностями;
— большой портал с десятками редакционных сценариев;
— проект, где нужна «всё в одной панели» для маркетинга, магазина и контента.

Есть наблюдение которое стоит проверить: Ghost лучше всего раскрывается, когда команда заранее ограничила себя рамками. Если контент-модель простая, сайт выходит быстрее и дешевле в поддержке. Если начать лепить на него ERP-логику, он быстро становится неудобным.

Для агентства и соло-разработчика это удобный выбор под блог, медиапроект, лендинг с контентом и подпиской. Для сложного продукта чаще разумнее смотреть в сторону Drupal, Strapi или Payload.

Если нужен CMS без лишнего шума, Ghost — хороший кандидат. Если нужна гибкость на вырост, сначала проверьте, не упрётесь ли вы в его простоту.
Forwarded from ЖП
ЕЮ покупает мусор недорого: 150к за Трафик Кардинал раз 🔨

По случаю Жениной "развязки" разгорелся небольшой сканадал.

На G GATE CONF маркетолог, визионер, трудоголик, филантроп Хоменок не стал лучшим инфлюенсером, да и вообще никем. Но тем не менее дал совет ребятам из ТК — уволить Иванова. Я поднял все архивы арбитражки, но так и не понял, кто его нанял. Единственное, что я знаю, но не могу доказать — когда-то ТК проплатили медийную поддержку от маэстро, чтобы тот перестал их публично унижать.

Естественно, Жекич тут же узнал об этом шкурном поступке Антона от Кустова Никиты (главреда ТК), обиделся, оскорбился и предложил 150к бачей за покупку медиа Traffic Cardinal. Видимо, побоялся, что попадет под сокращения.


Для медиа с тремя инсультами — это очень выгодное предложение. Больше не даст никто. 150к бачей — два 🔨

Результаты пока неизвестны, публичные торги еще не начаты.

❤️ — я бы дал больше
😁 — Пусть Жека купит "X6Agency" и уволит Хоменока
😎 — 150к бачей — три. Продано

🐗 Обсудить сплетню в чате можно тут


💵 SERIOUS.PARTNERS - ПОДПИСКИ ЛЕЙ, НОРМАЛЬНО БУДЕТ

💵 Место для вас @dumay


by Я ненавижу арбитраж
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Я ненавижу арбитраж
ЕЮ покупает мусор недорого: 150к за Трафик Кардинал раз 🔨

По случаю Жениной "развязки" разгорелся небольшой сканадал.

На G GATE CONF маркетолог, визионер, трудоголик, филантроп Хоменок не стал лучшим инфлюенсером, да и вообще никем. Но тем не менее дал совет ребятам из ТК — уволить Иванова. Я поднял все архивы арбитражки, но так и не понял, кто его нанял. Единственное, что я знаю, но не могу доказать — когда-то ТК проплатили медийную поддержку от маэстро, чтобы тот перестал их публично унижать.

Естественно, Жекич тут же узнал об этом шкурном поступке Антона от Кустова Никиты (главреда ТК), обиделся, оскорбился и предложил 150к бачей за покупку медиа Traffic Cardinal. Видимо, побоялся, что попадет под сокращения.


Для медиа с тремя инсультами — это очень выгодное предложение. Больше не даст никто. 150к бачей — два 🔨

Результаты пока неизвестны, публичные торги еще не начаты.

❤️ — я бы дал больше
😁 — Пусть Жека купит "X6Agency" и уволит Хоменока
😎 — 150к бачей — три. Продано

Я ненавижу арбитраж | Чат 😠
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Потрачено! Клуб спящих бизнесменов!
⚡️У кого каналы и кто продаёт рекламу - для вас не большое объявление!

Очень стараюсь собрать все арбитражные и смежных каналы, что бы сделать каталог цен на размещение там рекламы, если у вас есть канал, вы там продаёте рекламу, пожалуйста просто пришлите Давиду @AFFtop_connect ценик

@username - XXX$


Прям в таком формате, лишней хуйни не надо, ребята просто добавят ваш канал в публичный каталог, если конечно же вам вообще нужны реклы

Приватные каналы пока не принимают, с ними позже будут разбираться

Альфа версия https://tg.observer если кому то интересно


🤔 Консоли Google Play и Apple Developer надо? Phoenix — 100% свой фарм с 2021-го. Забрать акки@phoenix_seller_bot 🤔


@Pacan
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
ByteDance выпустила Seedream 5.0 pro

ByteDance выпустила Seedream 5.0 pro — генератор изображений с послойным редактированием прямо внутри интерфейса.

Ключевая фича: выделяешь объект — он уходит на отдельный слой, двигаешь и масштабируешь независимо. Пустую зону можно дозаполнить промтом. Текст на изображениях без глитчей — нативно.

Для арбитражников это может быть удобным инструме…

➡️ Читайте на сайте: https://aff.top/blog/bytedance-vypustila-seedream-5-0-pro

🧠 Ещё больше инсайтов → в канале AFF.top
DeepSeek в проде: 4 проверки, которые экономят недели на интеграции

DeepSeek часто берут как «дешёвую замену», но в проде важнее не цена, а режим работы модели. Смотри на четыре вещи: длина контекста, устойчивость к длинным промптам, поведение на tool-calling и скорость генерации на твоём железе.

Первый фильтр — формат задач. Для коротких классификаций и рутинного текста подойдут компактные варианты, для сложных цепочек рассуждений нужен запас по контексту и памяти. Если задача требует строгого JSON, обязательно тестируй пустые поля, вложенные массивы и отказоустойчивость при обрыве ответа.

Второй фильтр — инференс-стек. На одном и том же весе vLLM даёт удобный батчинг и хороший throughput, TGI часто проще встроить в сервисную схему, llama.cpp полезен там, где важны GGUF и CPU/GPU-микс. Ошибка многих команд — сравнивать модель по одному запросу, а не по p95 latency и tokens/sec под реальной нагрузкой.

Третий фильтр — квантизация. INT4 может быть нормой для черновиков и внутренних ассистентов, но если у модели начинает «плыть» структура ответа или падает точность на длинных инструкциях, откатывайся на INT8 или fp16. Считать нужно не только VRAM, но и цену ошибки: лишние 4 ГБ памяти дешевле, чем ручная правка ответов.

Если нужна модель в прод, сначала прогони её через свой набор из 50–200 типовых запросов. Не «на глаз», а по метрикам: валидность JSON, стабильность на длинном контексте, latency и процент переспросов. Именно это отделяет полезный open-source LLM от красивого демо.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Создателя Telegram снова допрашивали

Павла Дурова снова допросили во Франции: встреча с следствием длилась более 6 часов.

Это уже не первый эпизод в деле, которое тянется с 2024 года: тогда основателя Telegram арестовали в аэропорту Ле-бурже и ограничивали в выезде до июня 2025.

Что именно выясняли на новом допросе — не раскрывают. Но давление на Telegram растёт, и в этой истории е…

➡️ Читайте на сайте: https://aff.top/blog/sozdatelia-telegram-snova-doprashivali

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Cloudflare запустил функцию Drop

Cloudflare запустил Drop — сервис, который разворачивает временный сайт за несколько секунд прямо из zip-архива.

Без аккаунта можно создавать сколько угодно таких страниц, но ссылка живёт всего 1 час. Потом сайт придётся переносить в аккаунт.

Зачем это нужно арбитражнику и что можно успеть за это время — в блоге.

➡️ Читайте на сайте: https://aff.top/blog/cloudflare-zapustil-funkciiu-drop

🧠 Ещё больше инсайтов → в канале AFF.top
Qwen в проде ломается не на качестве, а на неправильном выборе размера и рантайма

Для задач с русским и английским текстом Qwen часто удобнее, чем кажется: у модели обычно хороший баланс между следованием инструкции, структурой ответа и терпимостью к шумному промпту. Но этот баланс быстро исчезает, если пытаться запускать слишком крупную модель на узком VRAM и душить её агрессивной квантизацией.

Смотри на 4 оси:
— качество: умеет ли модель держать длинный контекст без распада ответа;
— скорость: сколько tokens/sec даёт на твоём GPU;
— цена: сколько стоит 1M токенов при твоей загрузке;
— лицензия: можно ли использовать веса в коммерческом контуре без сюрпризов.

Практический выбор обычно такой: 7B/8B — для агентных задач, классификации, черновиков и RAG; 14B — когда нужна более стабильная логика и меньше ручной постобработки; 32B+ — только если есть запас по памяти и ты реально монетизируешь качество, а не просто любуешься бенчмарком. Для сервинга чаще всего выигрывает vLLM, если нужен высокий throughput; TGI — когда важнее предсказуемость и интеграция; llama.cpp — если надо дожать железо до последнего и жить на GGUF.

Типовая ошибка: брать модель «побольше», а потом удивляться, что контекст 128k на практике деградирует уже заметно раньше, потому что упираешься в KV-cache и задержку на длинной истории.

Если нужен стабильный прод, сначала считай не параметры, а tokens/sec, VRAM под контекст и стоимость ошибки на постобработке — именно они решают, какая Qwen-модель окупится.
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
Open AI выпустила ChatGPT-5.6 и ChatGPT Work

OpenAI выпустила ChatGPT-5.6 и ChatGPT Work: новая модель получила три версии и понятный прайс, а Work стал универсальным инструментом для кодинга, текстов, изображений и анализа данных. Вывод простой: экосистема ChatGPT усиливается, а фокус смещается на многофункциональные сценарии, где один продукт закрывает сразу несколько задач.

➡️ Читайте на сайте: https://aff.top/blog/open-ai-vypustila-chatgpt-5-6-i-chatgpt-work

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
SpacexAI выпустила Grok 4.5

xAI выпустила Grok 4.5 — новую версию флагманской нейросети, доступную в Cursor на всех тарифах и по API за $2 за миллион входных токенов. Бенчмарков пока нет, но модель в 4,2 раза экономнее по токенам на SWE Bench Pro и обучена на данных Cursor, что делает её сильным инструментом для разработки приложений.

➡️ Читайте на сайте: https://aff.top/blog/spacexai-vypustila-grok-4-5

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
ChatGPT ads внедрил функцию автосоздания креативов

OpenAI добавила в ChatGPT Ads автогенерацию креативов: вставляешь ссылку на сайт, ИИ анализирует лендинг и создаёт релевантный креатив. По ощущениям, такие материалы должны легко проходить модерацию, но пока неясно, насколько они поддаются правкам. Источник интересен ещё и тем, что вайт можно сгенерировать тут же через ChatGPT.

➡️ Читайте на сайте: https://aff.top/blog/chatgpt-ads-vnedril-funkciiu-avtosozdaniia-kreativov

🧠 Ещё больше инсайтов → в канале AFF.top
Forwarded from AFF.TOP
This media is not supported in your browser
VIEW IN TELEGRAM
В Google search console теперь можно добавлять соцсети

Google добавил в Search Console поддержку аккаунтов соцсетей: теперь можно отслеживать ключевые запросы, источники и географию переходов, показы и клики по ссылкам. Функция подключается там же, где и сайты, доступны четыре соцсети на выбор. Rollout постепенный — доступ получают не все сразу.

➡️ Читайте на сайте: https://aff.top/blog/v-google-search-console-teper-mozhno-dobavliat-socseti

🧠 Ещё больше инсайтов → в канале AFF.top