🖼🖼🖼🖼=📱Учёные из американского Университета Карнеги — Меллона подсчитали количество энергии, потребляемой генеративными нейросетями для разных задач. Их работа, на которую обратил внимание журнал Массачусетского технологического института, показывает, что генерация контента нейросетями потребляет больше энергии, чем принято думать.

Исследователи сравнили, сколько энергии требуется различным моделям на обработку запросов. С помощью каждой модели они создали по тысяче изображений или текстов. Выяснилось, что генерация изображений, особенно мощными моделями вроде Stable Diffusion XL, требует больше всего энергии, а меньше всего нужно для генерации текстов.

Также учёные подсчитали, как генеративные нейросети влияют на выбросы углекислого газа. Например, при производстве электричества для генерации 1000 изображений наиболее требовательная к ресурсам модель выбрасывает в атмосферу столько же CO₂, сколько легковой бензиновый автомобиль при поездке на 6,6 км. А при генерации 1000 текстов самые нетребовательные к ресурсам модели выделяют эквивалент CO₂, как при передвижении автомобиля на 1 метр.

Подписывайтесь 👉@techno_yandex

Не пропускайте новости Яндекса тут @yandex

🤖💬🤖«Такая-то компания открыла доступ к API своего продукта» — частый заголовок технологических новостей. Максимально просто объясняем, что стоит за этой аббревиатурой.

API — это невидимый рядовому пользователю интерфейс, который позволяет одной программе обращаться к другой. API определяет, как программы взаимодействуют друг с другом, какие данные запрашивают и что получают в ответ. API существуют у операционных систем, а также у программ и приложений.

Например, существует база данных по наличию билетов на все фильмы во всех кинотеатрах. Её создатели пишут API, который позволяет сайту, продающему билеты, не только получать информацию из базы данных, но и сообщать в ответ, что билет был только что забронирован и его больше не надо показывать другим пользователям.

API бывают открытыми и закрытыми. Например, у телеграма открытый API, позволяющий разработчикам создавать боты и даже собственные клиенты для мессенджера. API других сервисов часто бывают закрытыми, и доступ к ним предоставляется на определённых условиях. Например, первое время GPT-4 была доступна через веб-интерфейс, а разработчики изначально могли получить доступ к API новой модели только через лист ожидания. Благодаря API у разработчиков появилась возможность интегрировать GPT-4 в свой продукт, например в кастомный бот.

Подписывайтесь 👉@techno_yandex

Не пропускайте новости Яндекса тут @yandex

🤖🙌👨‍💻 Сегодня Яндекс сделал API языковой модели YandexGPT доступным для всех разработчиков программ и приложений. Это позволит им интегрировать нейросеть в свои продукты — создавать собственные чат-боты или предлагать пользователям новые функции. Показываем на примере известных брендов, использующих интерфейс разных языковых моделей, как это может работать.

Duolingo
Создатели знаменитого языкового приложения реализовали с помощью GPT-4 сразу две новых функции. Role Play имитирует диалог с живым собеседником, а Explain My Answer объясняет пользователю практическое применение правил.

Be My Eyes
Стартап, разрабатывающий технологии для людей с нарушениями зрения, добавил в своё приложение функцию Be My AI. Если сделать фото в приложении, то нейросеть опишет, что находится вокруг, и ответит на вопросы пользователя — это поможет незрячим и слабовидящим людям ориентироваться в незнакомых местах. Раньше им в этом помогали волонтёры, но теперь приложение может частично взять на себя их функции.

Bitrix24
Онлайн-сервис для бизнеса Битрикс24 создал ассистента CoPilot на основе языковой модели YandexGPT. Он помогает в решении рутинных задач. К примеру, может расшифровать запись разговора с клиентом, поставить задачу, написать пост или любой другой текст.

Zalando
Один из крупнейших европейских fashion-ритейлеров запустил нейросетевого помощника, который помогает пользователям ориентироваться в ассортименте магазина. Так, если попросить его подобрать наряд на свадьбу, он предложит варианты в соответствии со временем года и другими пожеланиями пользователя.

Slack
В корпоративном мессенджере Slack есть нейросетевой ассистент на базе языковой модели Claude. Он может помочь с поиском идей, написанием текстов и анализом файлов, а если тегнуть его в групповом чате — поддержит разговор и ответит на заданный вопрос. Ассистент запоминает диалоги — его не нужно каждый раз заново посвящать в контекст.

Подписывайтесь 👉@techno_yandex

Не пропускайте новости Яндекса тут @yandex

🧠📱На этой неделе Google представил новую нейросеть Gemini. У неё есть три версии: Ultra, Pro и Nano. Всё внимание приковано именно к Ultra, и это неудивительно — Google утверждает, что эта модель отвечает качественнее, чем GPT-4. Гораздо меньше внимания привлекла Gemini Nano, которая создана для мобильных устройств и может работать на них без подключения к интернету. Объясняем, зачем создают локальные языковые модели и что они умеют.

Как нейросети работают сейчас?
Обычно генеративные нейросети разворачивают в облаке — на серверах, имеющих достаточно вычислительных мощностей. Поэтому почти все приложения, сервисы и устройства, работающие на базе нейросетей, требуют подключения к интернету. Например, когда пользователь активирует навык Алисы «Давай придумаем», его запрос отправляется на сервер и обрабатывается там. Но если нейросеть сравнительно небольшая, её можно запустить на компьютере или смартфоне.

Для чего это нужно?
У таких нейросетей несколько преимуществ: они работают без интернета, быстрее обрабатывают запросы, а введённые данные не покидают локальное устройство. Но нейросети, способные работать на смартфонах и обычных компьютерах, намного меньше облачных, а значит, работают заметно хуже.

Что умеют такие нейросети?
То же, что и большие, вопрос лишь в качестве. Например, Gemini Nano уже работает на Google Pixel 8 Pro и может анализировать и суммаризировать диктофонные записи или предложить ответ для диалога в мессенджере. А в следующем году Google обещает добавить Gemini Nano в своего голосового ассистента на смартфонах.

Где могут работать такие нейросети?
Лучше всего для запуска нейросетей подходят компьютеры с дискретной видеокартой. Для них есть программы, способные запускать открытые модели. А в последние месяцы Google и производители мобильных чипов развивают это направление в смартфонах — Gemini Nano в будущем станет частью Android, а у Qualcomm и Mediatek есть мобильные процессоры, способные запускать даже более мощные модели.

Подписывайтесь 👉@techno_yandex

Термин «эмерджентность», используемый в разных науках, означает появление у системы, состоящей из одинаковых компонентов, новых свойств, не присущих каждому из них в отдельности. В сфере машинного обучения под эмерджентностью понимают ситуацию, когда при увеличении количества параметров языковых моделей у этих моделей возникают неожиданные (эмерджентные) способности, которые у них не развивали специально. И это нельзя предсказать, просто экстраполируя возможности модели меньшего масштаба на процессы, свойственные более мощной модели.

В последнее время нейросети, обученные в первую очередь понимать естественный язык и генерировать ответы, показывают впечатляющие результаты в широком спектре задач, на которые их обучение изначально не было нацелено. К примеру, решение математических и физических примеров, программирование, объяснение шуток и множество других способностей.

Однако понятие эмерджентности существует не только в мире технологий. Этот сравнительно молодой термин был предложен в середине 20 века, и он, в числе прочего, описывает явления, которым десятки миллионов лет. Понятие эмерджентности часто используется для описания перехода от состояние хаоса в системе, созданной природой или человеком, к самоорганизованному порядку. Муравейник, термитник или пчелиный улей — примеры эмерджентности в биологии, показывающие, что взаимодействие простых элементов приводит к неожиданным результатам.

Подписывайтесь 👉@techno_yandex

Не пропускайте новости Яндекса тут @yandex