💻🤖 Работа больших языковых моделей (LLM) требует больших вычислительных мощностей, поэтому большинство чат-ботов работают в облаке: запросы пользователя отправляются на серверы и обрабатываются там.

Исследователь Yandex Research Владимир Малиновский сделал локального чат-бота, которого даже не нужно устанавливать — достаточно открыть страницу в браузере и ввести свой запрос. Объясняем, как им пользоваться и как это работает.

Как попробовать
Просто откройте эту ссылку в браузере, напишите что-нибудь в строке ввода и нажмите на стрелочку. После этого начнётся процесс загрузки модели, который может занять несколько минут. Когда загрузка завершится, нейросеть ответит на ваш запрос, и дальше с ней можно будет общаться уже без ожидания.

Поскольку нейросеть работает локально на вашем устройстве, скорость работы зависит от его мощности. Например, на MacBook Pro M1 это примерно полтора токена в секунду.

Как это работает
Проект основан на нескольких технологиях, в том числе методах сжатия нейросетей AQLM и PV-t...

👀 Всё намекает... на YaC 2024! Это наш главный рассказ о том, как мы провели этот год.

Будут не только новости. Дом, работа, учёба, отдых, покупки и поездки — мы расскажем о технологиях из разных областей жизни. Команда отправилась в путешествие по России, чтобы проверить сервисы на себе. Из этого вышло шесть серий с лайфхаками, подсказками и экспериментами от тех, кто делает Яндекс.

🔴 Смотрите 12 декабря на Кинопоиске, в YouTube и VK Видео.

🎧 Форм-фактор первого портативного музыкального плеера задал направление индустрии на годы вперёд. А сам он изменил то, как люди слушают музыку, и открыл путь другим портативным плеерам, например iPod. До выхода Walkman многие предупреждали Sony, что никому не нужен плеер без функции записи. Но компания всё равно выпустила его в 1979 году — и не просчиталась.

👀 Вышел YaC 2024! Это большой ежегодный рассказ про сервисы Яндекса. Знакомим с людьми, которые их делают, делимся лайфхаками и обсуждаем, как меняются технологии.

Смотрите сериал на YouTube, в Кинопоиске и VK Видео. А вот о чём каждая серия:

🔴«Нейросети». Разбираемся, как GPT-технологии прошли путь от экспериментов до сервисов, которыми пользуются миллионы. Всё это — за два года.

🔴«Город». Лайфхаки для жизни в больших городах: как разобраться с мелкими делами и быстрее добраться до места. И ещё отвечаем на вечный вопрос: «Что с ценами на такси?»

🔴«Впечатления». Серия, чтобы попробовать новое: как получить выгоду от покупок — онлайн и офлайн, — найти новый любимый ресторан и спланировать поездку на выходные без головной боли.

🔴«Дом». Из любой квартиры можно сделать умную. А из этой серии мы сделали домашнюю, чтобы поговорить про новое в ТВ Станциях, на Кинопо...

🤖🤝🚗 Автономные автомобили постепенно становятся чем-то обыденным, но технология продолжает активно развиваться. Последний заметный скачок — подключение к процессу управления той же технологии, что лежит в основе чат-ботов — больших языковых моделей (LLM).

На YaC 2024 CTO автономного транспорта в Яндексе Арслан Урташев рассказал, как LLM повлияют на автономный транспорт. Собрали для вас краткий пересказ, а полную версию можно увидеть в серии YaC 2024 про нейросети — смотрите на сайте YaC, Кинопоиске, YouTube или в VK Видео.

Как работает автономный транспорт?

В целом процесс автоматизированного управления автомобилем сводится к трём этапам:

🔍 Сбор данных через датчики, которые фиксируют происходящее вокруг

🧠 Предсказание изменения окружающей среды на ближайшие секунды

👨‍✈️ Планирование дальнейших действий автомобиля (ускорения и поворотов)

Как машины справлялись без LLM?

Раньше планирование осуществлялось на базе заранее прописанных алгоритмов. Ключевая проблема такого подхода: невозможность прописат...