💻 Не используй Ollama если хочешь выжать из GPU всё — забирай vLLM

Ollama удобная, но видяху она не раскочегаривает даже наполовину. Серьёзный инфер берут на vLLM — движок от UC Berkeley, 82.7k звёзд на GitHub, в проде у крупных контор, 200+ моделей с Hugging Face из коробки.

▾ Почему vLLM ▾

✓ PagedAttention жмёт память так, как Ollama и не снилось;
✓ сервинг моделей в разы шустрее под нагрузкой;
✓ до 2 раз быстрее Ollama в тестах автора оригинала;
✓ OpenAI-совместимый API из коробки;
✓ бесплатно (Apache 2.0).

▾ Что нужно для запуска ▾

‣ NVIDIA или AMD GPU (без видяхи смысла мало);
‣ Python и uv (менеджер пакетов);
‣ CUDA для NVIDIA или ROCm для AMD;
‣ ставится одной командой: uv pip install vllm.

Винда без видяхи — мимо, остаёшься на Ollama. Есть GPU и упёрся в скорость — пора пересаживаться.

GitHub

😎 КиберПоток / Навигация
#халява #опенсорс #ии

🎭 Заставляем GPT-5.5 писать как человек — есть рабочий промпт, который активирует скрытые способности нейронки.

На картинке слева — результат с промптом (0% AI), справа без него (20.35% AI). В 3 из 5 случаях детекторы не палят НИЧЕГО.

Забрасываем перед своим запросом:

{
  "context": "Write in a natural, human way. Keep it simple, clear, and direct. No AI clichés or forced tone.",
  "rules": [
    "Use short, plain sentences.",
    "Cut filler and extra words.",
    "No hype or marketing language.",
    "Avoid clichés like 'dive into' or 'unlock potential.'",
    "Sound conversational. It's okay to start with 'and' or 'but.'",
    "Be real. Honest > fake friendly.",
    "Casual grammar is fine (e.g., 'i think' instead of 'I think').",
    "Skip unnecessary adjectives/adverbs.",
    "Prioritize clarity over perfection."
  ],
  "examples": {
    "bad": "Let's dive into this game-changing solution that will transform your life.",
    "good": "Here's how it works.",
    "bad": "This revolutionary product will unleash your potential.",
    "good": "This product can help you."
  },
  "goal": "Make every response read like a normal person wrote it."
}

😎КиберПоток / Навигация
#гайд #промпты #нейросети

🚫 «Телега» закрывает лавочку — недолго фраер танцевал

Шпионская «Телега» — клон Телеграма от татарстанских разработчиков — сворачивается с 1 июля. Год работы и 5 млн юзеров, через серверы которых [гонялся весь трафик] — переписки, токены, всё подряд.

В апреле Apple снёс приложение из App Store, iOS пометила установленное как вредоносное, Cloudflare записал «Телегу» в шпионское ПО, GlobalSign отозвал TLS-сертификат. Разраб писал жалобу в ФАС на Apple — не помогло.

Официальная причина закрытия — «не можем обеспечить локализацию и соответствие требованиям». Перевод: пузырь схлопнулся, лавка горит, бежим. Подписку «Телега Плюс» обещают вернуть.

Скучать не будем.

😎КиберПоток / Навигация
#новости #офтоп #блокировки

⚡️ Читаем платные сайты БЕСПЛАТНО — один префикс в ссылке

Оказалось, что нейронки легко обходят любые пейволлы. Достаточно добавить специальный префикс к ссылке, и ИИ получит чистый текст без модалок и подписок.

Всё работает через открытую библиотеку jina-ai/reader, которая не просто парсит страницу, но и автоматически сжимает текст, чтобы он влезал в контекстное окно нейросети.

Как использовать:

– берешь ссылку на любую закрытую статью;
– просто ставишь перед ней https://r.jina.ai/;
– получаешь полный текст в Markdown и сразу скармливаешь ИИ.

Библиотека на GitHub

Теперь платный контент доступен в ДВА КЛИКА.

Сохрани, чтобы не потерять.

😎КиберПоток / Навигация
#лайфхаки #ии #jina

🚫 Платный зарубежный интернет могут ввести этой осенью

[РБК] пишет: уже в августе-сентябре российские провайдеры могут разделить тарифы на «рунет» и «полный». Доступ к зарубежным сайтам — за доплату.

Причина в апрельском моратории на расширение международных каналов связи — его подписали МТС, Билайн, Т2, Транстелеком и ещё 20 операторов. Каналы не расширяют, трафик растёт, к осени упрётся в потолок. Дальше два пути: жёстче фильтровать КВН или брать с пользователей деньги.

По мобильному трафику уже прикинули конкретику: 15 ГБ зарубежного бесплатно, дальше ~150 ₽ за гигабайт. Запуск отложили после выборов в Госдуму (18-20 сентября).

🤡 — Гениальный план
😭 — Достали уже
🤷 — Без КВН не выходим, нам пофиг

😎КиберПоток / Навигация
#новости #блокировки #рунет

OpenRouter RIP в РФ 😱

OpenRouter отключает доступ для пользователей из России

Пользователи из РФ начали получать письма от OpenRouter о скором прекращении поддержки сервиса в некоторых регионах.

С 27 июня 2026 года российские аккаунты больше не смогут отправлять запросы к моделям и пользоваться API через OpenRouter.

До этой даты можно потратить остаток на балансе или запросить возврат неиспользованных средств.

Тяжело..

😎 КиберПоток / Навигация
#новость #openrouter #ai #КП

Чемпионат мира по футболу, обстановка ⚽️

Хейтеры скажут, что это нейросеть, но матч на несколько часов прервали из-за грозы.

😎КиберПоток / Навигация
#юмор #футбол #нейросети

🔞 Grok ушёл в 18+

По словам бывших инженеров xAI, больше 50% трафика Grok Imagine приходится на генерацию 18+ контента.

Пользователи умудряются делать эротику даже через Grok Build для кода.

На фоне жёстких фильтров у OpenAI и Anthropic это стало отдельным магнитом для аудитории.

😎 КиберПоток / Навигация
#новость #grok #ai #КП

💡 Как не слить токены на плохой /goal

Плохой loop быстро жжёт токены и приносит мусор. Поэтому перед запуском можно прогнать /goal через LOOPER skill.

Он раскритикует цикл, соберёт рубрику готовности, настроит ограничения, бюджет токенов и LLM-судью, а потом экспортирует всё как переносимый артефакт с диаграммой.

Это предполётная проверка для Claude Code и других моделей, чтобы агент не бегал кругами, а реально доводил задачу до результата.

😎 КиберПоток / Навигация
#гайд #ии #claude #КП

📸 10 000+ промптов для Nano Banana с визуальным ремиксом — LocalBanana

Не просто галерея промптов, а полноценная Visual Intent Studio. Тыкаешь в часть референса — позу, свет, одежду, фон, палитру — и ремиксуешь под свою задачу. Сами промпты крутятся бесплатно в Google AI Studio через Nano Banana.

▾ Что внутри ▾

✓ 10 000+ кураторских промптов и референсов;
✓ галерея с поиском и категориями;
✓ визуальный ремикс — берёшь кусок чужой картинки, меняешь остальное;
✓ заточено под портреты, косплей, постеры, обложки и соцграфику;
✓ есть расширение для Chrome, iOS-приложение на подходе;
✓ бесплатно.

Сайт | AI Studio

😎КиберПоток / Навигация
#халява #промпты #нейросети

👍 ГАЙД для локальных моделей без боли

Скормите Codex CLI статью Ахмеда и попросите собрать запуск под ваше железо: inference engine, uv + venv, kernels, flags, batching, KVCache и прочие настройки.

В итоге вместо ручного шаманства — Codex сам подбирает конфиг под модель и ПК.

Изи.

😎 КиберПоток / Навигация
#гайд #ии #ai #codex #КП