LLM на вашем ПК: как запустить нейросеть локально

Многие думают, что мощные языковые модели — это прерогатива облачных сервисов, требующих подписки и постоянного подключения к сети. Но это уже не так.

Современные Open Source LLM можно скачать и запустить на обычном домашнем ПК, получив полный контроль над своими данными и возможность работать офлайн. За последнее время такие «дистиллированные» модели стали заметно быстрее, стабильнее и качественнее.

Рассмотрим самые популярные локальные нейросети, протестируем их на разных задачах и выберем лучшую для ваших проектов.

Вам больше не нужен JavaScript

Гигабайтные node_modules, медленная загрузка React-приложений, случайные ошибки... Современный веб часто кажется переусложнённым из-за раздутых JS-фреймворков. Но что, если есть другой путь?

Автор статьи бросает вызов этому подходу и утверждает, что значительную часть JavaScript на многих сайтах можно заменить, используя всю мощь современного HTML и CSS. Благодаря новым возможностям браузеры теперь нативно умеют делать то, для чего раньше требовались скрипты.

Посмотрим на конкретные примеры и решим, действительно ли можно отказаться от JS для создания быстрых и интерактивных сайтов.

Конференция IT Elements завершилась, но все доклады и круглые столы остались в записи. Мы вели прямые трансляции из двух залов на протяжении двух дней — собрали всё в одном месте для тех, кто пропустил или хочет пересмотреть.

Вот четыре трансляции, полные хардкорных докладов и жарких дискуссий:

Зал «Энергия», день 1: Про стратегию, антихрупкую архитектуру, ЦОДы для ИИ и то, как Big Data в промышленности превращается в Big Value. → Смотреть трансляцию

Зал «Материя», день 1: Про внедрение GPT в бизнес и горячий круглый стол HR-ов на тему «Золотой век айтишников — всё?». → Смотреть трансляцию

Зал «Энергия», день 2: Про будущее GPT, виртуализацию и то, «как строят кубер очень большие ребята» из Ozon и Т-Банка. → Смотреть трансляцию

Зал «Материя», день 2: Максимальный хардкор: как «не надо» использовать Kubernetes, живая демонстрация замены Active Directory и локальный LLM-кластер. → Смотреть трансляцию

Соцсети умерли? Да здравствуют групповые чаты!

Публичные профили в VK или «Одноклассниках» для многих превратились в реликвию из прошлого. Из-за рисков и потока спама настоящая онлайн-жизнь переместилась в другое место.

Автор утверждает, что эпицентр социального взаимодействия сместился из публичных лент в полузакрытые групповые чаты мессенджеров. Семейные, рабочие, домовые — они стали современными аналогами старых локальных сетей со своей уникальной динамикой, этикетом и проблемами.

Разберёмся в негласных правилах этой новой эпохи и законах, по которым теперь живёт онлайн-общение.

Ваша личная телефонная сеть: инструкция по настройке VoIP

Что, если вместо облачных сервисов развернуть у себя дома собственную, независимую телефонную сеть, как в фильмах про корпорации? Оказывается, это вполне реально.

Используя несколько IP-телефонов и опенсорсную платформу Asterisk, можно создать полноценную домашнюю VoIP-систему. Автор статьи, будучи сторонником самохостинга, решил эту задачу и делится своим опытом.

Разберём пошагово, как настроить такую сеть, даже если вы никогда раньше не работали с VoIP.

Секреты CSS и HTML, о которых вы могли не знать

Даже после многих лет вёрстки можно найти что-то новое в, казалось бы, привычных вещах. Вы уверены, что знаете все возможности HTML и CSS?

В статье собрана коллекция полезных, но редко используемых фич, которые могут упростить код, улучшить доступность и удивить даже опытных разработчиков. Например, как поменять надпись на кнопке «Ввод» на мобильной клавиатуре, выбрать стилями элементы со второго по четвёртый без лишних классов или заставить дочерний элемент игнорировать своего родителя в CSS Grid.

Рассмотрим эти и другие неочевидные приёмы, которые стоит добавить в свой арсенал.

Как взломать АЭС за 49 минут: разбор кибератаки

Всё началось с того, что исследователь безопасности Рубен Сантамарта нашёл и купил на eBay... компоненты системы управления ядерными реакторами Siemens Teleperm XS. Это оборудование прямо сейчас используется на АЭС по всему миру.

Получив доступ к «мозгам» реактора, он разработал сценарий «Кибер Три-Майл-Айленд» — реалистичную кибератаку, которая приводит к расплавлению активной зоны всего за 49 минут. Это не выдумка, а результат реверс-инжиниринга и анализа реальной системы.

Разберём пошагово путь исследователя и смоделированную им атаку, которая начинается с безобидной покупки в Интернете.

[ХАБРААРХИВ]

Умный свет в туалете: DIY-проект с ИК-лучами

Датчик движения в туалете бесполезен: стоит засидеться, и свет гаснет. Как создать по-настоящему умное освещение, которое знает, что вы внутри, даже если не двигаетесь?

Автор статьи решил эту задачу с помощью DIY-детектора на ATMEGA8. Это система из нескольких инфракрасных лучей, которые пересекают туалет. Если хотя бы один луч прерван — значит, кто-то внутри, и свет включается. Проект превратился в настоящее исследование: пришлось с ноутбуком в туалете подбирать мощность ИК-сигнала для борьбы с отражениями от плитки и экспериментально выяснять, где именно разместить лучи для 100% детекции.

Разберём, как собрать такое устройство и с какими забавными трудностями можно столкнуться при его настройке.

#хабраархив

7 SQL-запросов, которые решают 90% ваших задач

Каждый день вы открываете клиент БД и пишете почти тот же SELECT, что и вчера. Знакомая рутина? Для 90% рабочих задач не нужны сложные стострочные конструкции.

В статье собрана шпаргалка из семи SQL-запросов-«рабочих лошадок» и одно золотое правило, которое должен знать каждый, кто работает с данными. Автор утверждает, что этого набора достаточно для большинства повседневных нужд аналитиков и разработчиков.

Разберём эту семёрку универсальных запросов, которые стоит добавить в закладки.