LLM на вашем ПК: как запустить нейросеть локально

Многие думают, что мощные языковые модели — это прерогатива облачных сервисов, требующих подписки и постоянного подключения к сети. Но это уже не так.

Современные Open Source LLM можно скачать и запустить на обычном домашнем ПК, получив полный контроль над своими данными и возможность работать офлайн. За последнее время такие «дистиллированные» модели стали заметно быстрее, стабильнее и качественнее.

Рассмотрим самые популярные локальные нейросети, протестируем их на разных задачах и выберем лучшую для ваших проектов.

Вам больше не нужен JavaScript

Гигабайтные node_modules, медленная загрузка React-приложений, случайные ошибки... Современный веб часто кажется переусложнённым из-за раздутых JS-фреймворков. Но что, если есть другой путь?

Автор статьи бросает вызов этому подходу и утверждает, что значительную часть JavaScript на многих сайтах можно заменить, используя всю мощь современного HTML и CSS. Благодаря новым возможностям браузеры теперь нативно умеют делать то, для чего раньше требовались скрипты.

Посмотрим на конкретные примеры и решим, действительно ли можно отказаться от JS для создания быстрых и интерактивных сайтов.

Конференция IT Elements завершилась, но все доклады и круглые столы остались в записи. Мы вели прямые трансляции из двух залов на протяжении двух дней — собрали всё в одном месте для тех, кто пропустил или хочет пересмотреть.

Вот четыре трансляции, полные хардкорных докладов и жарких дискуссий:

Зал «Энергия», день 1: Про стратегию, антихрупкую архитектуру, ЦОДы для ИИ и то, как Big Data в промышленности превращается в Big Value. → Смотреть трансляцию

Зал «Материя», день 1: Про внедрение GPT в бизнес и горячий круглый стол HR-ов на тему «Золотой век айтишников — всё?». → Смотреть трансляцию

Зал «Энергия», день 2: Про будущее GPT, виртуализацию и то, «как строят кубер очень большие ребята» из Ozon и Т-Банка. → Смотреть трансляцию

Зал «Материя», день 2: Максимальный хардкор: как «не надо» использовать Kubernetes, живая демонстрация замены Active Directory и локальный LLM-кластер. → Смотреть трансляцию

Соцсети умерли? Да здравствуют групповые чаты!

Публичные профили в VK или «Одноклассниках» для многих превратились в реликвию из прошлого. Из-за рисков и потока спама настоящая онлайн-жизнь переместилась в другое место.

Автор утверждает, что эпицентр социального взаимодействия сместился из публичных лент в полузакрытые групповые чаты мессенджеров. Семейные, рабочие, домовые — они стали современными аналогами старых локальных сетей со своей уникальной динамикой, этикетом и проблемами.

Разберёмся в негласных правилах этой новой эпохи и законах, по которым теперь живёт онлайн-общение.

Ваша личная телефонная сеть: инструкция по настройке VoIP

Что, если вместо облачных сервисов развернуть у себя дома собственную, независимую телефонную сеть, как в фильмах про корпорации? Оказывается, это вполне реально.

Используя несколько IP-телефонов и опенсорсную платформу Asterisk, можно создать полноценную домашнюю VoIP-систему. Автор статьи, будучи сторонником самохостинга, решил эту задачу и делится своим опытом.

Разберём пошагово, как настроить такую сеть, даже если вы никогда раньше не работали с VoIP.

Секреты CSS и HTML, о которых вы могли не знать

Даже после многих лет вёрстки можно найти что-то новое в, казалось бы, привычных вещах. Вы уверены, что знаете все возможности HTML и CSS?

В статье собрана коллекция полезных, но редко используемых фич, которые могут упростить код, улучшить доступность и удивить даже опытных разработчиков. Например, как поменять надпись на кнопке «Ввод» на мобильной клавиатуре, выбрать стилями элементы со второго по четвёртый без лишних классов или заставить дочерний элемент игнорировать своего родителя в CSS Grid.

Рассмотрим эти и другие неочевидные приёмы, которые стоит добавить в свой арсенал.