🛡 VPN · Обход блокировок с сохранением конфиденциальности

Virtual Private Network — технология шифрования и перенаправления интернет-трафика.


99% таковых представителей в магазинах приложений — мусор:
— Медленная скорость;
— Обилие рекламы;
— Ненадёжные протоколы шифрования;
— Логирование данных (даже если заявляется обратное) с последующей перепродажей спецслужбам, рекламным и другим компаниям.


🏆 Лучший вариант
Настроить свой VPN на VPS. Безопаснее, дешевле и иногда быстрее платных ВПН.
Российские дата-центры иногда (по крайней мере были) не подключены к ТСПУ, а значит только для обхода блокировок можно использовать и их, но лучше зарубежные, желательно в стране без логов.

Лучшие протоколы: VLESS, VMESS и Trojan. Есть и другие, подробнее.
OpenVPN и WireGuard неплохие, но легко блокируемые, что и было сделано в России. Shadowsocks тоже блокируют, менее успешно.

В качестве платформы советую XRay & Nekoray.


👎 Если не хочется платить
Proton
Amnezia
Конфиги с ГитХаба, там же инструкция;
Tor/Orbot (на смартфон).


💰 Если хочется
Proton
Red Shield
Surfshark
Paper
У последних двух есть сервера в России, что может быть полезно для релокантов. Также бесплатно можно получить ВПН с адресом в России здесь.


💀 Fast, Planet, Thunder, Secure, TunnelBear, HideMe, HideMyName, Kaspersky и даже Nord со всякими Windscribe — входят в те самые 99%.


🔥 ВПН можно использовать для безлимитного трафика на лимитированных тарифов маскируя весь трафик под домен к которому оператор даёт безлимит.

Не путать с прокси и сменой DNS (1.1.1.1 и иже с ними). Ставший популярным после блокировок Ютуба GoodbyeDPI тоже работает иначе.

ВПН — не панацея. Есть уязвимости вроде TunnelCrack, утечки DNS, IP и WebRTC. Подробно напишу 💬 в комментариях + немного про Телеграм.


#текст #техно

🤖 Продвинутое использование языковых моделей


📚 Большой контекст

Бесплатные версии ChatGPT & Claude ограничены малым количеством токенов (это как символов, но не совсем). Платные ограничены 128 000 & 200 000. Вывод у платных тоже больше. Здесь выделяется бесплатная ✨Gemini 1.5 Pro Experimental от Гугла с контекстом в два миллиона, а с обновлениями больше. Раньше была сильно глупее, сейчас улучшили. От конкурентов в умности всё ещё отстаёт. Много токенов увеличивают галлюцинации, но не прям.

Широкое контекстное окно позволяет анализировать длинные видео, книги, статьи, чаты, каналы.

🍴 AI Studio (на потребительском сайте она платная) — работает кривовато, иногда не грузит файлы, иногда файлы нужно разбивать на части, иногда не ест большой контекст сразу, нужно прерывая ответ несколько сообщений отправить. Но работает. Даёт ограниченно бесплатное API.


💻 Локальный запуск

Бесплатно + диалоги не будут анализироваться.

Выбрал 📚 LM Studio, удобно запускать все открытые модели в GGUF.

Что-то хорошее запустить не получится, средние компьютеры тянут модели уровня Llama 3.1 7b и зачастую только с квантованием. Vikhr Nemo 12b отвечает на русском лучше других малюток.

Для корпоративных нужд можно развернуть большие модели на сервере.


🧠 Новые модели

ChatGPT o1-preview доступна только по подписке. Если заплатить не получается, можно найти временный доступ где получится: Double & временный хаггинг.

Боты в Телеграме обычно дают 4o-mini, которая значительно слабее 4o, а 4o старее o1.


⏳Длительное использование

Зачастую LLM используются разово без настроек и контекста. E.g.: изучение языка приятнее с настроенным и помнящим обсуждения ассистентом.


🎶 Транскрибация

Речь можно преобразовывать в текст. Многие сервисы умеют это делать сами. Можно делать специальными в том числе по API, можно локально.

Нарезалки больших видео на короткие делают это исключительно по тексту.

Расшифровка звонков и их суммаризация нужны частенько.


🤝🤝 Мультиагенты

Настройка моделей для решения определенных задач и взаимодействия друг с другом. Иногда эффективнее, чем заставлять решать сложные задачи одним агентом.

Реализаций много, e.g.: 👻 Coze.


🧩 Мультимодальность

Общение голосом (доступно в официальном мобильном клиенте ChatGPT), распознавание картинок.


⚒️ Заточенные инструменты

Некоторые ранее упомянутые сервисы имеют преднастройки вроде режима исследования, некоторые идут дальше.

Google NotebookLM базируется на AI Studio. Складирует и переваривает любой тип контента, даёт шаблоны сообщений для нейросеточки и даже генерирует Deep Dive подкаст на английском, где два ИИ обсуждают тему. Скриншот в комментариях.

Яндекс Редактор — улучшатор текста без необходимости писать промпты. Редактура слабая. Надеюсь, будут развивать.

Coder — IDE взаимодействующая с нейросетями. Есть похожие плагины для других.


🧐 Всякое

Автоматизация действий: zapier.com & make.com & etc. Примеры на сайтах.

300.ya.ru — пересказ Ютуб-видео и проставление таймкодов.

Harpa — расширение для браузера. Copilot из коробки добавлен в Edge — позволяет быстро задавать вопросы по видео или другому контенту на странице.

PromptPerfect — оптимизация промптов.

Reader-LM — HTML-to-Markdown. В большинстве случаев решается без всяких нейросетей плагином в браузере, упомянул для демонстрации широты применений. Есть и более узкие нейросети для биологии, медицины и прочего.


Погуглить дополнительные гайды — само собой разумеющееся.
Пост про вкат немного обновил.


#текст #нейро

🧠 Искусственный интеллект

Cознание — сложный и, возможно, даже устаревший концепт. Где та грань, за которой можно считать систему сознательной? Животные, у которых тоже есть некий уровень восприятия и реакции на мир, не обладают своим видом сознания?

Лучшие нейросети пока остаются сложными алгоритмами глубокой обработки больших данных, которые могут строить внутри картину мира, эмулировать человеческие реакции и поведение в узконаправленных задачах.


Пока не существует схожего с человеческим «общего» интеллекта.
И не факт, что вообще появится, хотя точно станет значительно лучше, основные (не исчерпывающие) стороны для улучшений:

⭐️ Датасет
Количественно и качественно: получать размеченные данные не из верхнего интернета;

⭐️ Мощности и длительности обучения
GPT-4 была обучена на 25 тысячах видеокарт прошлого поколения, новые датацентры содержат 100 тысяч видеокарт нового поколения. Видеокарты можно и дальше делать мощнее и узконаправленнее;

⭐️ Алгоритмы рассуждения и самокоррекции
Лайв-фактчек информации в интернете и цепочки внутренних рассуждений как у OpenAI o1;

⭐️ UX интерфейса
NotebookLM, артефакты в Клоде, новое редактирование текста и войсмод в ChatGPT, режимы типа исследования, ассистенты, поддержка Экселя и других форматов;

⭐️ Архитектура
А также регуляризация, борьба с переобучением, переносное обучение, файн-тюнинг (и его упрощение), мультимодальность и всякое разное.


Обсуждая ИИ, иногда фокусируются на фантастических сценариях восстания машин. Более вероятной проблемой является не злой 😈 самостоятельный ИИ, а злые люди, использующие нейросети и другие технологии для создания дезинформации, оружия и вирусов.

Разрабатывающие нейросети компании давно поняли важность AI alignment: есть отдельные должности, следящие за поведением модели и данными, на которых они обучаются. Есть договоры. Есть опасения касательно пренебрежения главной OpenAI SuperAlignment'ом, но пока это некритично.

Гипотетически 🤯 «сверхинтеллект» возможен, хотя есть физические и алгоритмические ограничения. Как будет на практике, остаётся только наблюдать.

До выхода ЧатГПТ сами его разработчики толком не понимали что получится, хотели делать у версии 3.5 связь с интернетом, но реализовав выяснили, что справляется и без него.


Теория разума и то, как языковые модели её проходит

Ошибочная обобщенность цели

Книги для начала изучения ML

Awesome LLM resourses


#текст #нейро

⭐ Регулярные справки о личностях

Кто-то видел мир иначе, кто-то страстно желал его изменить. Одни находили красоту в хаосе формул, другие сотворяли чудеса на холсте. Были те, кто различал паттерны там, где остальные видели лишь случайность.

Многие не хотели примириться с «так принято» и «так было всегда». Они раздвигали границы возможного, часто балансируя на тонкой грани между безумием и прозрением, между отчаянием и триумфом.

Неидеальные, но невероятно значимые. С отчаяниями и триумфами.

Истории не только о прошлом. Это размышление о природе творчества и границах возможного. О том, как одинокая мысль вспыхивает, становясь революцией. Как личное преображается во всеобщее.