S-LoRA ускоряет масштабное использование LoRA адаптеров

- S-LoRA обеспечивает хранение и управление тысячами LoRA адаптеров в оперативной памяти и GPU.
- Система использует общий пул памяти для управления динамически меняющимися весами адаптеров и кэшированными тензорами.
- Внедрена новая стратегия параллельной обработки тензоров и оптимизированные CUDA ядра для ускорения вычислений.
- Эффективность S-LoRA в 4 раза выше по сравнению с существующими библиотеками, включая HuggingFace PEFT и vLLM.
- Разработка открывает двери для масштабного предоставления услуг индивидуализированной настройки моделей AI.

1000 адаптеров...

#S-LoRA #LoRA #CUDA

Amazon разрабатывает Olympus - новую собственную ИИ модель

- Amazon инвестирует в развитие мощной модели LLM "Олимпус" с 2 триллионами параметров.
- Рохит Прасад, экс-глава Alexa, возглавляет проект напрямую под руководством CEO Анди Джасси.
- Объединены усилия исследователей AI Amazon для работы над проектом.
- Сотрудничество с AI стартапами Anthropic и AI21 Labs для обучения моделей.
- Возможное усиление позиций AWS на рынке корпоративных AI-решений.
- Увеличение инвестиций в LLM и генеративный ИИ при перераспределении расходов компании.

Amazon догоняет. :)

#Amazon #AI #Olympus

Запуск массового производства гуманоидных роботов в Китае к 2025 году

Министерство промышленности Китая обозначило планы по внедрению гуманоидных роботов в качестве нового экономического двигателя.
К 2027 году Китай намерен занять лидирующие позиции в мировой индустрии гуманоидных роботов.
Технологическая независимость и развитие отечественных инноваций – в приоритете стратегии.
Значительные успехи достигнуты в промышленной автоматизации, поставив Китай выше США.
Увеличение использования робототехники предвидится в сферах здравоохранения, сервиса, агрокультуры и логистики.
Фокус на AI и роботах для экстремальных условий позволит расширить область применения технологий.
Китайский стандарт в сфере гуманоидной робототехники может стать мировым ориентиром.
Поддержка отрасли обеспечивается через государственную политику, обучение специалистов и международные проекты.

Гуманоидные роботы скоро могут стать обыденностью, а Китай – их главным производителем.

#China #Robotics #HumanoidRobots

NVIDIA исследует применение LLM в дизайне чипов

Исследователи NVIDIA представили технический документ, изучающий использование Large Language Models (LLM) в создании индустриальных чипов.
ChipNeMo - название проекта, целью которого является адаптация LLM к специфике дизайна чипов.
Специальные токенизаторы и обучение с учителем позволяют значительно повысить эффективность LLM для данной сферы.
Адаптация к домену сокращает размер модели вплоть до 5 раз, сохраняя или повышая производительность.
Инновации могут находить применение для помощи инженерам, автоматизации EDA-скриптов и анализа ошибок.
AI и ML все активнее интегрируются в процесс проектирования чипов, особенно для ML/DL/AI-ориентированных решений.
Эволюция AI в чип-дизайне набирает обороты, открывая новые горизонты для индустрии.

NVIDIA открывает путь к более умным и компактным чипам, что может революционизировать технологии будущего.

#NVIDIA #LLM #ChipDesign

Silo AI представляет Poro – новую европейскую многоязычную модель

Стартап из Финляндии Silo AI анонсировал Poro – открытую модель большого языка (LLM) для европейских языков.
Poro – первая в серии моделей, охватывающих 24 официальных языка Евросоюза.
Разработка осуществляется в сотрудничестве с Университетом Турку и генеративным подразделением SiloGen.
Модель названа в честь финского слова «северный олень» и базируется на архитектуре BLOOM с ALiBi эмбеддингами.
Poro обучена на многоязычном датасете, включающем английский, финский и языки программирования.
Улучшает представление по низкоресурсным языкам и обладает базовыми возможностями перевода.
Поддержка модели осуществляется суперкомпьютером LUMI/EuroHPC.
Финансирование TurkuNLP исследователей поступило из программы Horizon Europe.

Poro может стать важным инструментом в укреплении цифрового суверенитета Европы.

#SiloAI #Poro #MultilingualAI

Google AI представляет метод AltUp для масштабируемых трансформеров

AltUp позволяет использовать трансформеры большого размера без дополнительных вычислительных затрат.

Улучшения производительности достигаются через последовательное обновление блоков представления токенов.

Механизм предсказания и коррекции позволяет обрабатывать блоки без активных обновлений.

Значительное повышение эффективности на языковых задачах и моделях большого размера.

AltUp упрощает создание более мощных ИИ-моделей.

#GoogleAI #AltUp #TransformerNetworks

Nvidia адаптирует чипы ИИ для рынка Китая

Nvidia разрабатывает новые чипы ИИ для соответствия американским регуляциям.
Цель – сохранить возможности продаж в Китае, несмотря на ограничения.
Три новых чипа могут поступить на китайский рынок к концу года.
Изменения позволят Nvidia оставаться конкурентоспособной на крупнейшем рынке.

Nvidia удерживает позиции, гибко адаптируясь к политическим реалиям.
Мы их в дверь, - они в окно. :)

#Nvidia #AI #China

🧬 Суперкомпьютер от #Nvidia Eos побил собственный рекорд по обучению ИИ.

В прошлую среду NVIDIA представила новейшую версию своего суперкомпьютера Eos, оснащенного 10752 графическими процессорами H100 Tensor Core и способного обучать модель GPT-3 со 175 миллиардами параметров на 1 миллиарде токенов менее чем за четыре минуты. Это в три раза быстрее, чем предыдущий тест отраслевого стандарта MLPerf AI, который NVIDIA установила всего полгода назад.

🧩 #AINews

Рост инвестиций в разработку ИИ в России

К 2024 году ожидается увеличение ИИ-технологий на 80%.
Инвестиции в надежный ИИ достигнут 2,839 млрд руб., в AGI - 1,579 млрд руб.
Надежный ИИ сочетает функции ИИ с безопасностью и этичностью.
Различие между надежным ИИ и AGI критично для понимания их возможностей.
Организации РусИИНФО и ГосЭИ лидируют в разработке надёжного ИИ в России.
Стремление к надежному ИИ способствует появлению сложных ИИ-форм.
Увеличение инвестиций способствует росту отечественных ИИ-технологий.
ИИ-технологии направлены на решение актуальных задач и повышение производительности.
Прогресс в области ИИ подстегнёт экономическое развитие России и снизит риски.
Важно контролировать безопасность ИИ для предотвращения угроз.
Правительство фокусируется на стратегическом развитии ИИ и AGI.
Планы на сотрудничество в сфере ИИ на международном уровне укрепят позиции России.

Инвестиции ускорят разработку ИИ, обещая прорыв в эффективности и безопасности технологий.

#ИИ #Россия #Инвестиции

YOU API – новый API для LLM

YOU API нацелен на решение проблем, с которыми сталкиваются большие языковые модели (LLM).

Веб-поиск YOU API предоставляет актуальные и проверенные данные для LLM.
Новостной поиск отслеживает текущие события для контекстуально-зависимых приложений.
RAG комбинирует поиск и LLM для уменьшения ошибок и улучшения качества генерации текста.

Доступ к функционалу YOU API открыт через бесплатный тестовый режим, для RAG требуется запрос.

Больше API богу API.
Скоро можно будет бесплатными периодами обходиться.
GigaChat вон 1млн токенов выдаёт (ЕЖЕМЕСЯЧНО).
У YouAPI тоже бесплатный тиер есть.(1000 запросов в месяц на 60 дней - не много кстати.)

#YOUCOM #LLM #API

CISA усилит роль ИИ в кибербезопасности

CISA акцентирует внимание на рисках ИИ для кибербезопасности и защите инфраструктуры.
Разработан специализированный План по искусственному интеллекту для усиления киберзащиты.(в приложении)
Использование ИИ-инструментов поможет в обнаружении и предотвращении киберугроз.
Сотрудничество с промышленными партнерами и другими агентствами для укрепления кибербезопасности.
Образование сотрудников CISA в области ИИ для лучшего понимания его юридических и этических аспектов.

Интересно поизучать подходы...

#CISA #ИИ #Кибербезопасность

OpenAI приостанавливает платные подписки.
После DevDay не вытягивают нагрузку...

OpenAI определит момент достижения AGI

Шесть членов совета директоров OpenAI берут на себя ответственность за определение момента достижения AGI.
Решение о достижении AGI повлияет на коммерческие отношения с Microsoft, исключая их из некоторых условий сделки.
Спорность определения AGI и возможность его достижения вызывает дебаты среди ученых.
Продолжение партнерства с Microsoft и надежда на дополнительные инвестиции для OpenAI.
Уникальная структура управления в OpenAI: некоммерческое подразделение приоритетнее коммерческого.
Возможный конфликт интересов между некоммерческой миссией и стремлением к прибыли.
Открытый вопрос о четком определении AGI и реальности его достижения.
Состав некоммерческого совета OpenAI отражает разнообразный опыт его членов.
Остается разногласие экспертов относительно потенциала AGI и роли OpenAI в этом процессе.

Интересно, в итоге ускорит или затормозит зарождение реального AGI...

#OpenAI #AGI #Microsoft

🧬 "Жизнь после смерти" или ваше ИИнтеллектуальное бессмертие

Стартап Herefter анонсировал выпуск чат-ботов с личностями умерших людей. Нейросеть будет обрабатывать биографию, внешний вид и особенности характера. После всё это станет собеседником чата, который будет вести себя так же, как и его покойный прототип.

А если вам мало и этого, то Hanson Robotics с радостью помогут вам создать робота с внешностью покойника, схожими голосом и характером.

🧩 #РоботыВокругНас

GraphCast от DeepMind превосходит традиционные системы прогнозирования погоды

Google DeepMind разработал AI-модель GraphCast для улучшения глобального прогнозирования погоды.
GraphCast способен предсказывать погоду на среднесрочный период до 10 дней вперёд с высокой точностью.
Модель обучена на десятилетиях исторических метеоданных и основана на графовых нейронных сетях (GNNs).
Предоставляет ранние предупреждения о критических погодных условиях, включая ураганы и экстремальные температуры.
Прогнозы высокого разрешения охватывают весь земной шар, как поверхностные, так и атмосферные переменные.
Производит прогнозы за менее чем минуту на одном процессоре Google TPU v4.
В тестировании GraphCast превзошёл главный эталон прогнозирования погоды, систему HRES.
Модель уже точно отслеживала движение циклонов и характеристики атмосферных рек.
GraphCast опубликован в открытом доступе для учёных и метеорологов по всему миру.

Благодаря GraphCast подготовка к погодным катаклизмам станет заметно эффективнее.

#GraphCast #DeepMind #WeatherForecasting

Azure AI Studio упрощает разработку генеративного ИИ

Azure AI Studio ускоряет создание приложений на базе генеративного ИИ.
Интегрирует мощные ИИ-инструменты для разработки умных решений.
Гарантирует защиту данных и конфиденциальность, соответствие стандартам ИИ.
Позволяет соблюдать авторские права при работе с Azure OpenAI Service.
Платформа идеальна для создания чат-ботов и клиентских сервисов с мультимодальным интерфейсом.
Стимулирует инновации для улучшения клиентского опыта с использованием генеративного ИИ.

Разработка ИИ становится проще и доступнее – теперь это может изменить игру для многих отраслей.

#AzureAIStudio #ИИ #генеративныйИИ

Google: Generative AI теперь в 120 странах

Генеративный ИИ в поиске теперь доступен более чем в 120 странах и территориях.
Инструмент SGE поддерживает четыре новых языка: испанский, португальский, корейский, индонезийский.
SGE предоставляет сводки с наиболее релевантной информацией по поисковым запросам.
В результатах поиска теперь отображается больше ссылок и источников, облегчая поиск контента.
Обратная связь по использованию генеративного ИИ в поиске позитивна, особенно в США, Индии и Японии.
Обновления SGE включают упрощение задавания уточняющих вопросов, перевод фраз ИИ и дополнительные определения для кодирования.
Search Labs позволяет тестировать экспериментальные возможности поиска через приложение Google и Chrome.
Пользователи могут задавать вопросы прямо со страницы результатов, что делает поиск более интерактивным.
Генеративный ИИ помогает уточнить перевод двусмысленных слов, подчеркивая их и предлагая выбрать нужное значение.
Функция перевода двусмысленных фраз доступна сначала для пары английский-испанский в США, с планами на расширение.
Определения образовательных тем теперь представлены интерактивно в генеративных сводках с возможностью предпросмотра.

Поиск станет еще удобнее и понятнее в разных странах.

#GenerativeAI #Search #GlobalExpansion

DallE3 пока не дает перерисовывать картинки по API, но может нарисовать похожую по распознанному описанию.

@Cloud_GPT_bot

Прорыв Wolfram в борьбе с галлюцинациями генеративного ИИ

Генеративные ИИ модели иногда генерируют недостоверную информацию.
Аналитический плагин от Wolfram может уменьшить это до 15-20% случаев.
Wolfram использует символический подход к ИИ, отличный от статистического анализа.
Сотрудничество Wolfram с OpenAI привнесет математические вычисления в генеративные модели.
Потенциал для обработки неструктурированных данных, например, в медицине.
Развитие ИИ потребует улучшенных методик обучения и аппаратного ускорения.
Решение по надежности достигается интеграцией структурированных данных Wolfram.

Представленное решение Wolfram сулит повышение доверия к результатам работы ИИ.
А в @cloud_GPT_bot я его встроил еще весной... %)

#Wolfram #ИИ #ГенеративныеМодели

Вирджиния Тех открывает первую в мире лабораторию водных ресурсов с AI и кибербиобезопасностью

Уникальная AI и кибербиобезопасная лаборатория ACWA теперь на кампусе Вирджиния Тех.
Исследования в области защиты водных ресурсов от киберугроз ведёт команда профессора Батарсеха.
Сложная система лаборатории с сенсорами и интеллектуальными устройствами нацелена на мониторинг и оптимизацию в аграрном секторе.
Сотрудничество с центрами инноваций обещает большой научный потенциал в области управления ресурсами.

Создание таких центров способствует углубленной работе над сохранением и безопасностью важнейших природных ресурсов.

Кибербиобезопасность...:)
Но вообще демо лаборатории ИИ - крутая тема.

#VirginiaTech #AI #Cyberbiosecurity

Искусственный интеллект вооружает робототехнику: этапы и риски

Интерес к роботам в сферах безопасности и армии растет.
Утилитарные роботы могут снижать риски для солдат.
Опасность превращения в аналоги беспилотников MQ-9.
Оружейные системы на роботах под полным контролем оператора.
Этические дебаты вызваны вооруженным роботом от Ghost Robotics.
Тестирование роботов с оружием активно идет в армии США.
Противники вооружения коммерческих роботов подняли свой голос в 2022 году.
Некоторые компании могут игнорировать этические нормы.
Великобритания начала регулировать AI в военных системах.
Риск злоупотребления и неморальное использование роботов существует.
Анализ данных для избежания алгоритмических сбоев необходим.
Bletchley Park стал площадкой для регулирования использования AI.
Раскол во взглядах на безопасность AI на встрече заметен.
Комитет ищет пути этичной интеграции AI в вооруженные системы.
Разработка нового мощного оружия неизбежна из-за прогресса в AI и робототехнике.

Войны - двигатели прогресса, как ни печально.

#ИИ #Робототехника #GhostRobotics