Вот и подъехал гайд на локальную нейросеть, которую ты сможешь запустить на своем ПК/ноуте и получить ответ на многие интересующие тебя вопросы

даже без упоминания города сладкоежек, которые не дают тебе вывезти 1кг сахара👋

Следуем чётко гайду и рекомендациям, чтобы не произошло ничего плохого.

ПОЕХАЛИ!

1. Переходим на сайт https://ollama.com/ и берем оттуда ссылку для PowerShell, или же просто копируем это:
irm https://ollama.com/install.ps1 | iex
и вставляем в PowerShell

2. Ждем полной установки Ollama на устройство

ДАЛЕЕ НУЖНО БЫТЬ ВНИМАТЕЛЬНЫМ!

Переходим по этой ссылке:
https://ollama.com/huihui_ai/qwen3.5-abliterated

Выбираем нужную нам модель. Тут важно знать следующее:
Сколько гб видеопамяти на вашем устройстве. Например: у меня 3070TI на 8гб, это значит что я могу выбрать модель, которая бы потребляла до 8гб видеопамяти. Мы видим в названии каждой модели цифру перед буквой В. По сути это количество требуемой видеопамяти. Так что для ПК я выбрал 4B. Вот примерно как я бы распределил модели по видеопамяти:

0.8B - 2GB
2B - 4GB
4B - 8GB
9B - 10-12GB
Ну а остальные мы вообще не смотрим

Почему не стоит брать модель выше, чем есть видеопамяти? Все просто - при нехватке быстрой видеопамяти нейросеть будет использовать более медленную оперативную. При этом скорость всей нейросети упадет примерно в 4 раза. Оно вам надо?

Допустим мы выбрали 4В, как в моем случае, дальше:

3. Жмем на название выбранной модели и копируем CLI, который будет на этой странице. Пример на 3 картинке

4. Дожидаемся полной установки выбранной модели.

5. Можете запустить через меню пуск Ollama. Теперь у вас есть локальная нейросеть без цензуры.

Дальше гайд для графоманов и прочей нечисти, которой мало было:

Делаем графический интерфейс, похожий на ChatGPT:

1. Скачиваем Python 3.11 (рекомендую 3.11.9, так как с другой версией были проблемы). Обязательно смотрим, чтобы в установщике была галочка pip.

Скачать с официального сайта (может потребоваться перелёт в другую страну):
https://www.python.org/ftp/python/3.11.9/python-3.11.9-amd64.exe

2. Дожидаемся установки Python.

Если в следующем шаге будут проблемы - перезагрузите ПК

3. Открываем PowerShell и вводим туда: pip install open-webui

4. Ждем полной установки WebUI

5. Стартуем интерфейс при помощи команды open-webui serve (так же в PowerShell) и ждем запуска.

Не закрываем PowerShell

6. Заходим в нейронку по ссылке: http://localhost:8080

7. Когда набалуетесь можете закрыть и интерфейс и PowerShell, чтобы она не кушала ресурсы в простое.

Пока что интерфейс стартует только командой в PowerShell, но можно написать .bat-файл, чтобы он сам вводил нужные команды.

Так же советую сделать нейронку приложением через кнопку в браузере, так, мне кажется, что выглядит она лучше

Всем приятного пользования!

P.S. Принимает и текст и картинки