P102 + P104 (36 GB VRAM). Одна карта подключена через нормальный PCIe, часть — через USB-райзера (x1).

Решил не мелочиться и скачал версии в Q8 (8 бит). Это почти оригинальное качество

1️⃣ Qwen3:30b-a3b-q8_0 (31ГБ)
🚀 Скорость: 26.84 ток/сек

2️⃣ Qwen3:32b-q8_0 (33ГБ)
🐢 Скорость: 6.66 ток/сек
А вот тут архитектура уперлась в шину. Разница в 2 ГБ веса, а падение скорости в 4 раза.


3️⃣ qwen3:30b-a3b-thinking-2507-q8_0 (30.3ГБ)
🚀 Скорость: 26.26 ток/сек


Вывод:
Железо за копейки ТАЩИТ, если правильно подобрать модель. 26 токенов в секунду на Q8 — это уровень Enterprise-серверов, который я получил у себя на балконе.


Железо за копейки ТАЩИТ, если правильно подобрать модель. 26 токенов в секунду на Q8 — это уровень Enterprise-серверов, который я получил у себя на балконе.

В общем, жду карты P102-100, чтобы протестить сразу 4-6 одинаковых карт.

Даже сейчас уже ясно: из говна и палок можно собрать достаточно умную машину для дома 😄

Собрал все обратно - 2 p102-100

qwen3-vl:8b-thinking-bf16 11.39 t/s 16.3 Gb
qwen3-vl:30b-a3b-thinking-q4_K_M 21,45 t/s 18,2 Gb
qwen3-vl:30b-a3b-instruct-q4_K_M 24,59 t/s 18,2 Gb


Все модели отлично понимают изображения.

Короче, третий день уже плотно тестирую GPT-5.1 в кодинге. 🧑‍💻

В принципе, мне нравится, как он работает. Стек стандартный: гоняю его на PHP и JS, немного CSS по мелочи.

Что по факту:
• Качество кода — вполне приемлемое.
• Нормально переваривает достаточно большие участки.
• Не путается, контекст держит, достаточно умный.

Собственно, я бы его сравнил с Claude 4.5. Хотя Клод, конечно, все еще впереди. Чувствуется разница.

Но есть один жирный минус. Тупит страшно! 🐢 Работает прям очень медленно. По сравнению с Grok-4-fast и code версия.
Там вышел еще GPT-5.1-codex-чего-то там) сегодня. Как добавят - протестирую.

Как искать модели на сайте ollama.com?

Поиск на сайте работает криво очень, проще искать по тегам.

Схема такая: не мучайте поисковую строку, а просто подставляйте название модели прямо в URL через теги. Вас сразу перекинет на страницу со всеми вариантами для скачивания (размеры, версии и прочее).

Вот живой пример на новой Qwen3-VL:
👉 https://ollama.com/library/qwen3-vl/tags

Слушайте, я вообще не понимаю этой эйфории по поводу Gemini 3 Pro и создания игр. 🤷‍♂️

Все ленты забиты: «Смотрите, нейронка написала игру с первого раза!». Окей, пишет. Ну и что?

По-моему, для современных моделей написать примитивную игрушку — это равносильно Hello World в программировании. Это, блин, просто базовые настройки. Стартовый набор. Она и должна это делать без ошибок.

Но давайте честно. Попробуйте дать ей серьезную задачу. Реальный, сложный проект. Ни одна нейросеть с этим сейчас не справляется, какая бы она нахрен умная ни была.

Почему? Потому что в серьезных продуктах сначала идет:
1. Архитектура.
2. Понимание, как это устроено внутри.
3. Думание наперед: нагрузка, сценарии пользователей, масштабирование.

Просто «вайбкодить» что-то простенькое — да, это легко.

Вот где реально огонь — это HTML-страницы и лендинги. 🔥
Раньше это была целая история: дизайнер, верстальщик, куча времени и денег. Сейчас — один промпт, и у тебя готовый код. Залил на любой дешманский хостинг, потому что исполнять там нечего, и готово за секунды. Тут реально разбираться в коде не нужно.

Какой тут вывод?
Халява работает только на простых вещах. Чтобы разработать что-то сложнее «змейки» или одностраничника, по-прежнему нужен человек, который знает всю внутреннюю кухню. Иначе останетесь с кучей кода, который непонятно как поддерживать.

Как выжать максимум из AI, если деньги не проблема

Вижу сейчас море статей в духе «Как запилить игру, сайт, стартап за 3 копейки». А у меня другой вопрос — что делать, если деньги есть и нужна максимальная эффективность?

Если делать серьезные вещи, а не «на коленке», забудьте про чатики в Телеграме и бесплатные веб-версии. По-серьезному делать так:

1. Среда разработки
Чат OpenWebUI через API. Чтобы можно было переключать модели на лету.

2. Архитектор (Opus)
Сначала идем к Opus 4.1. Рассказываем ему идею целиком. Его задача — не код писать, а построить архитектуру. Просите расписать всё максимально подробно. Он выдает структуру проекта, которую потом не стыдно показать людям. Если покажете это программисту — он скажет просто сумму и начнет работать.

3. Рабочие лошадки (VS Code + KiloCode)
Забираем архитектуру и идем в VS Code. Я использую KiloCode. Тут подключаем тяжелую артиллерию. Кого нанимаем за наши кровные?

• Gemini 3 Pro — в чистом программировании он крут
• Claude 4.5 — если проект сложный, он великолепно держит контекст и строит связи
• GPT-5.1 — на подхвате, чуть медленный

По факту, вы нанимаете команду хороших программистов за серьезные деньги. Но вот что нужно учесть.

Сразу делаем жесткие правила:

1. Git поднят сразу. Это база.
2. Коммиты после каждого чиха. AI должен писать подробный лог: что изменил, зачем, как это влияет на структуру.
3. Документация — СРАЗУ на каждый класс и метод. Очень важно. На каждый модуль требуем описание: что входит, что выходит, логика работы.
4. ОБЯЗАТЕЛЬНАЯ длина файлов. Не более 500 строк кода.

ВСЕ МОДЕЛИ тупят, даже Opus, и по какой-то причине дописывают лишние символы или дублируют код.

Да, кода будет очень много. Объем дикий. Но благодаря докам и коммитам поддерживать это будет легко. Иначе через неделю проект превратится в тыкву, а вы будете сидеть и думать: «И что с этим делать?» И даже самая умная модель не разберется и запорет проект.

Не экономьте на моделях, если хотите результат 🔥

Подсчитал статистику по расходу токенов.

В штатном режиме уходит 2–5 млн в сутки. Когда идет активная разработка проектов и программирование, цифра взлетает до 30-70 млн в сутки.
В среднем в месяц — 900 млн токенов, именно поэтому хочу собрать локальную машину.

За последнее время мой стек моделей обновился.
Раньше основной была Claude Sonnet 4.5 + Opus 4.1. Сейчас тестирую новинки, и лидеры сменились:
1. Gemini 3 Pro — показывает себя отлично, очень мощный инструмент.
2. NanaBanana 2 — тоже в топе, результаты впечатляют. Раньше все изображения были в gpt-image-1, теперь все только тут.

А вот Grok 4.1-fast разочаровал. Раньше использовал его повсеместно, он закрывал задачи по кодингу во всех агентах. Сейчас модель явно сломали: код не пишет, контекст забывает, выдает непредсказуемый результат.

Итог:
Перевожу задачи на Gemini 3 Pro и изображения - на NanaBanana 2. Grok в текущем состоянии для разработки непригоден. Остаюсь на Grok 4-fast.

А у вас какие модели для чего используются?

Протестировали уже Opus 4.5? Я - да. И могу сказать, что я впечатлен!

Раньше для архитектуры я использовал Opus 4.1, но с выходом 4.5 - да еще с учетом снижения цены - это теперь идеальный архитектор.

Если нужно спрограммировать что-то серьезнее калькулятора: берите Opus, рассказывайте ему всё о своем проекте и просите построить архитектуру с прицелом на будущее. Также можно сразу попросить написать документацию.

А вот реализацию лучше отдать другим:

Gemini 3 Pro - очень хорошо пишет код (моя рабочая лошадка).
GPT-5.1 - бюджетный вариант.
Sonnet 4.5 - если бюджет позволяет, тоже топ.
Grok-4-fast-code - для супер бюджетной разработки.

Opus 4.5 реально вникает в контекст: мне, как соло-фаундеру, аргументированно посоветовала писать монолит, а не лезть в микросервисы на старте

Что такое быть Solo Founder в момент кризиса
Вчера российский сегмент сети штормило. Внезапные изменения в сетевых инфраструктурах затронули многих: "легли" не только специализированные сервисы, но и обычные, локальные сайты. Доступность падала повсеместно.

Для меня такая ситуация — это не просто новости, а прямая команда к действию. У меня нет департаментов, на которые можно переложить ответственность. В такие ночи ты одновременно CTO, Lead Developer и служба поддержки.

Всю ночь я занимался анализом трафика и поиском решений. Изучал, как ведут себя протоколы в новых условиях, и адаптировал архитектуру.

Два вывода после бессонной ночи:

1. Технический. Ничего катастрофического не случилось. Индустрия реагирует мгновенно: разработчики уже пишут патчи, ищут новые маршруты и методы доставки данных. Система всегда стремится к равновесию, и стабильность будет восстановлена. Это вопрос времени и компетенций.

2. Личный. Быть одному за главного — это колоссальная ответственность. Когда сотни людей доверяют тебе доступ к информации и своим рабочим процессам, ты не имеешь права сказать "у нас выходной" или "мы не знаем, что делать".

Ты просто садишься и пишешь код, пока сервис снова не станет работать идеально. Желание предоставить качественный продукт и не подвести клиентов — самый сильный мотиватор.

Под блокировку попал целый провайдер — Melbicom.

Сначала решил, что серверы отвалились по внутренней причине или ошибке в конфигах. Но диагностика показала четкую закономерность: «легли» абсолютно все ресурсы, размещенные у этого хостера.

В качестве альтернативы снова отмечу VDSKA. Я уже упоминал этот сервис ранее.
На данный момент работает стабильно, цены адекватные. Если ищете, куда переехать — вариант рабочий.

3 карты p102-100 - одна х1 pci

mixtral:latest 26,6 гб = 19.99 т/с

qwen3:30b-a3b-thinking-2507-q8_0 30,3ГБ = 21,28 т/с не влезла вся в память)


4 карты p102-100 3 из них в райзерах х1
qwen3:30b-a3b-thinking-2507-q8_0 30,3ГБ = 26.2 т/с
qwen3:32b-q8_0 32.7GB 8.33 т/с
qwen3:30b-a3b-q8_0 31ГБ = 29.33 т/с

ну мне нравится) можно работать на таком)


ну и последний тест
4карты 2 pci x1 и 2 карты напрямую
qwen3:30b-a3b-q8_0 31ГБ = 33,6 т/с

Llama-3.3-70B-Instruct-GGUF:Q3_K_M 32ГБ 4.2 т/с

qwen3:30b-a3b-thinking-2507-q8_0 30,3ГБ = 30,31 т/с

Solo Founder вместо команды: как AI изменил веб-разработку

В IT я уже более 15 лет. Начинал с создания сайтов, когда рынок только формировался: делал шаблоны, верстал, занимался дизайном. За эти годы я наблюдал, как менялся порог входа в создание качественного продукта.

До появления нейросетей, чтобы запустить действительно классный сайт, требовалась целая команда и серьезный бюджет. Цепочка выглядела так:

1. Дизайнер. Отвечал за визуал, UX/UI, интуитивность интерфейса.
2. Верстальщик. Переводил картинку в код.
3. Программист (Backend). Подключался на сложных проектах для настройки логики и поддержки.
4. Копирайтер. Наполнял сайт смыслом и текстами.

Это были большие ресурсы, время и деньги.

Что изменилось сейчас?
Произошел поэтапный «отвал» специалистов. Нейросети закрыли эти позиции одну за другой.

1. Копирайтеры.
Ушли первыми. Современные модели генерируют тексты уровня хорошего специалиста, а иногда и лучше. Для базового наполнения сайта человек больше не нужен.

2. Дизайнеры и фотографы.
Следующий этап. Сгенерировать уникальный визуал теперь дело пары минут. Нужно фото для карточки товара? Фотографируешь объект на телефон, просишь нейросеть обработать - получаешь студийное качество. Презентационные материалы создаются без участия живого фотографа и ретушера.

3. Верстальщики и программисты.
Технологии шагнули еще дальше. Можно скормить нейросети скриншот понравившегося сайта или набросок от руки и сказать: «Сделай это в коде». И она сделает.
С появлением продвинутых инструментов для кодинга процесс создания сложного продукта сводится к правильной постановке задачи.

Вывод
Произошло радикальное упрощение сферы. Сегодня Solo Founder может делать то, что раньше требовало команды из пяти человек.

Но есть нюанс: опыт никуда не делся. Я понимаю архитектуру, знаю, как система должна работать изнутри, и поэтому могу правильно поставить задачу нейросети.
Если мне нужно разработать сайт, я один выступаю в роли арт-директора, тимлида и заказчика. Нейросеть рисует, верстает и пишет код. Результат достигается в разы быстрее, а контроль над продуктом остается полностью в моих руках.

Минусы n8n: честный взгляд спустя полгода.

Я часто пишу, что это прямо волшебный инструмент, который максимально ускоряет разработку. Но за полгода плотной практики и создания кучи разных ботов я вижу и проблемы.

1. Тормоза UI на "тяжелых" данных
UI начинает жестко тормозить на больших данных. Если вы подгружаете что-то весомое (порядка 3–4 мегабайт), работать становится невозможно. Отлаживать такую программу — боль. У меня компьютер далеко не тупенький, мощный, но даже он подтормаживает.

2. Эффект "Спагетти"
Когда структура разрастается, и вы добавляете кучу модулей, всё превращается в кашу. Огромное количество связей, что-то куда-то летит, заходит-выходит — отлаживать это максимально сложно. Чем больше вы начинаете "городить" и менять логику, тем сложнее это потом поддерживать.

3. Риск обновлений
С одной стороны, круто. Но с другой — постоянный риск. Всё может поломаться очень быстро. У меня, например, 4 дня не сохранялись воркфлоу просто потому, что выкатили кривой апдейт. Так можно положить много проектов.

4. Потеря контекста (Scope)
Бесит, что некоторые ноды теряют контекст. Данные, которые были доступны "до", вдруг становятся недоступны "после". Приходится городить огород из лишних соединительных линий (Merge node), чтобы прокинуть данные дальше. И из-за этого опять получается спагетти.