Свежее от doopiidoo

Как всегда охуенно ❤️❤️❤️

Если вам тоже нечем заняться этой ночью и вы тоже дегенерат беспросветный, то можно написать пару классических и всем известных слов. А потом послушать, как звучит истинное искусство.

Кстати, теперь я начал понимать как все производители смартфонов придумывают мелодии для будильников и звонков

понажимать

Главная проблема классического поиска сейчас — это чудовищный информационный шум. Если вбить туда комплексный рабочий запрос с кучей ограничений, поисковик просто выплюнет список общих статей ни о чём.

Решил затестить это в Алисе AI.

Суть проста: вместо классической выдачи поисковика со ссылками, нейросеть сама за секунду обходит рунет, выкачивает суть из десятков релевантных источников и собирает готовый ответ в виде структурированного гайда, таблиц и карточек прямо на экране. Никаких переходов по ссылкам.

Решил проверить на наболевшем: как поднять нормальную локальную нейронку без покупки дата-центра.
Задал задачу:

подбери открытую модель (на 7B–14B параметров) для локального кодинга и анализа документов. Вводные: у меня одна домашняя карточка на 12 ГБ VRAM, 32 ГБ оперативы, система на Linux. Требование — расписать оптимальный стек (какой квант брать — Q4_K_M или Q8, через что крутить: Ollama, vLLM или llama.cpp), сравнить скорость генерации (токены в секунду) и подсветить, как не словить Out of Memory при длинном контексте.

В итоге получил готовую выжимку: сравнительную таблицу моделей под мой объём видеопамяти, готовые команды для терминала под сетап и краткий список граблей с контекстным окном. Никаких блужданий по 50 веткам на Reddit и закрытым GitHub-issues. Всё собрано в одном месте.

Мне нравится, что он 3 источника как минимум приложил

покрал видео отсюда и накинул русских сабов. Иногда криво — это потому что сабы делал и монтировал кодекс (если бы переводил и монтировал я — было бы ещё кривее)

Это нам всем за то, что усердно молились

AGI