#ии #npu

Новые чипы Ambarella привнесут возможности генеративного ИИ в периферийные устройства

Ожидается, что это позволит расширить возможности множества систем и приложений, включая робототехнику и средства видеоаналитики

Отмечается, что по сравнению с ускорителями на базе GPU и другими специализированными решениями, чипы Ambarella представляют собой полноценные «системы на чипе», которые обеспечивают до трёх раз более высокую энергоэффективность на каждый токен.

Изначально Ambarella обеспечит оптимизированные возможности генеративного ИИ на своих SoC среднего и высокого классов. Это, в частности, изделие CV72 для устройств с энергопотреблением до 5 Вт.

Кроме того, функции генеративного ИИ будут поддерживать чипы новой серии N1 с «производительностью серверного уровня» при энергопотреблении до 50 Вт

@imaxairu Подписаться

#ии #npu

Глава OpenAI Сэм Альтман предложил скинуться всем миром, чтобы построить десятки новых предприятий для TSMC

По информации осведомлённых источников, Альтман сейчас ведёт активные переговоры как с властями США, так и с правящими кругами ОАЭ, а также руководством TSMC

По его замыслу, арабские инвесторы могли бы предоставить внушительную сумму денег, до $5 трлн или $7 трлн, в совокупности с другими источниками финансирования, чтобы в ближайшие несколько лет построить несколько десятков новых предприятий по контрактному выпуску чипов, которые можно было бы передать в управление компании TSMC

На них предполагается наладить выпуск чипов для ускорителей систем искусственного интеллекта в количествах, пропорциональным амбициям Альтмана по развитию функциональных возможностей разрабатываемых OpenAI чат-ботов и больших языковых моделей

Следует отметить, что $7 трлн являются весьма внушительной суммой не только по меркам инвестиционных проектов, но и в масштабах суверенного долга некоторых государств

В конце концов, оборот всего рынка полупроводниковых компонентов достигнет рубежа в $1 трлн лишь к концу десятилетия, а совокупная капитализация двух самых дорогих американских компаний, Microsoft и Apple, приближается к $6 трлн

@imaxairu Подписаться

#npu #ии

SoftBank бросит вызов NVIDIA с помощью ИИ-ускорителей на Arm

Основатель SoftBank Масаёси Сон (Masayoshi Son), по данным Bloomberg, собирается для реализации собственного проекта в этой сфере привлечь до $100 млрд

По замыслу Сона, как утверждается, при участии дочерней компании Arm может быть создан новый разработчик чипов для систем искусственного интеллекта с одноимённой архитектурой

У этого проекта даже есть собственное кодовое обозначение — Izanagi, в честь японского бога создания жизни

@imaxairu Подписаться

#npu

Президент Владимир Путин обновил Национальную стратегию искусственного интеллекта (ИИ)

Документ учитывает вызовы, связанные с развитием генеративных алгоритмов ИИ и ограничением доступа российских разработчиков к вычислительным мощностям

Документ предполагает создание в России нейроморфных и тензорных процессоров, использование платформы «Гостех» для внедрения ИИ в органах госвласти и запрет на делегирование принятия решений алгоритмами искусственного интеллекта

@imaxairu Подписаться

#npu

Qualcomm показала, что её компьютерный чип Snapdragon X Elite до 10 раз быстрее Intel Core Ultra в ИИ-задачах

Согласно описанию под видео, Snapdragon X Elite оснащён вспомогательным ИИ-сопроцессором (NPU) с производительностью 45 TOPS (триллионов операций в секунду)

Именно производительность NPU и была продемонстрирована в видео поставщика

Быстродействие Snapdragon X Elite и Intel Core Ultra 7, который, как и все процессоры из серии Meteor Lake, также оснащён собственным NPU, проверяли в программах генерации изображений Stable Diffusion и GIMP

Позже в Qualcomm пояснили, что для тестов Snapdragon X Elite использовались Stable Diffusion и Fast Stable Diffusion версии 1.5

Превосходство Snapdragon X Elite в задачах ИИ вполне ожидаемо, поскольку NPU в составе тех же чипов Intel Core Ultra обеспечивает производительность всего до 34 TOPS

Meteor Lake являются первыми процессорами Intel, оснащёнными NPU

Intel ранее заявила, что процессоры будущего поколения Arrow Lake (настольные) и Lunar Lake (мобильные) предложат в три раза более высокую ИИ-производительность по сравнению с Meteor Lake

@imaxairu Подписаться

#npu #cpu #ии

Землетрясение на острове Тайвань вновь показало, насколько технологическая стабильность мира зависит от работы всего нескольких полупроводниковых заводов, производящих чипы в том числе для обучения искусственного интеллекта

Вице-президент по стратегии и инновациям МТС, основатель центра перспективных разработок Future Crew Евгений Черешнев рассуждает о том, почему возможность производить процессоры и микрочипы — это не только ключевое преимущество в глобальной технологической гонке за ИИ следующего поколения, но и вопрос выживания глобальных экономик

@imaxairu Подписаться

#cpu #npu

Забудьте об Intel и AMD: для работы новой функции AI Explorer в Windows 24H2 нужна будет только SoC Snapdragon X Elite

Речь о функции AI Explorer, которая объединит поиск внутри ОС и журнал действий пользователя, похожий на то, что предлагала отменённая функция Timeline

AI Explorer опирается на ИИ, и можно было бы подумать, что у неё будут ограничения относительно процессоров

Но в коде ОС обнаружилось указание на то, что для работы AI Explorer нужны исключительно платформы линейки Snapdragon X Elite

Чем это обусловлено, не сказано, но можно предположить, что для работы функции нужен весьма производительный блок NPU или суммарная производительность в задачах ИИ

У новой платформы Qualcomm это около 70 TOPS, тогда как новейшие процессоры AMD и Intel предлагают максимум 10–16 TOPS для NPU

Если дело в этом, то нужно дождаться новых мобильных процессоров AMD и Intel, которые выйдут в течение текущего года

Правда, проблема в том, что именно мобильных, так как для настольных ни о каких NPU мы пока не слышали

Также стоит отметить, что для работы оговариваемой функции ПК должен иметь минимум 16 ГБ ОЗУ и SSD объёмом не менее 256 ГБ

@imaxairu Подписаться

#npu #riscv

Стартап SpacemiT выпустил специализированный процессор, предназначенный для вычислений с использованием искусственного интеллекта, но при этом основан этот процессор на архитектуре RISC-V, что необычно для данного сегмента

SoC Key Stone K1 X60 содержит восемь 64-битных ядер, безымянный GPU с поддержкой OpenCL 3.0, OpenGL ES3.2, Vulkan 1.2, поддерживает PCIe 2.1 и потребляет 3-5 Вт

Сам производитель сравнивает своё решение с Arm-ядрами Cortex-A55, говоря, что RISC-V способна обеспечить на 130% более высокую одноядерную производительность в задачах ИИ при примерно на 60–80% меньшем энергопотреблении

Производительность в задачах ИИ тут, к слову, заявлена равной 2 TOPS, что довольно скромно

Ещё более интересно то, что SpacemiT сразу представила и ноутбук Muse Book, основанный на K1 X60

Он также имеет до 16 ГБ ОЗУ LPDDR4, память eMMC объёмом от 32 до 128 ГБ, 14-дюймовый экран IPS Full HD, Wi-Fi 6, и при этом весит ПК всего 1,36 кг при толщине корпуса 17,8 мм


@imaxairu Подписаться

#apple #npu

Apple подтвердила, что использует собственные процессоры в ИИ-серверах для Apple Intelligence

Пока никак не уточняются ни название, ни характеристики процессоров Apple серверного назначения

Компания на страницах корпоративного блога лишь уточняет, что будет использовать в своей среде Private Cloud Compute «построенное на заказ аппаратное обеспечение серверного класса, которое приносит производительность и безопасность чипов Apple в центры обработки данных, сохраняя те же технологии безопасности, которые реализованы в iPhone на аппаратном уровне»

Остаётся лишь предположить, что серверные процессоры Apple будут являться близкими родственниками используемых в iPhone, но это справедливо для всего семейства процессоров M

По традиции, при реализации функций искусственного интеллекта Apple Intelligence компания пытается реализовать достаточно высокий уровень защиты информации, поэтому использование процессоров собственной разработки в этой сфере оказалось логичным

Как с этим уживается интеграция в iOS сервисов OpenAI на базе ChatGPT, предстоит выяснить специалистам в области информационной безопасности

Представители Apple после открытия WWDC 2024 признались, что компания хотела бы предоставить пользователям выбор моделей в сфере ИИ, а потому даже интеграция с Google Gemini не исключается на вероятностном уровне

@imaxairu Подписаться

#npu #ии #поглощения

Amazon купила разработчика ИИ-чипов Perceive за $80 млн для развития LLM на периферии

Такое оборудование обычно обладает ограниченными возможностями в плане вычислительных ресурсов, средств подключения и хранения данных

Чипы Perceive проектируются с учетом особенностей edge-платформ

В частности, Perceive разработала процессор Ergo AI

Утверждается, что он позволяет запускать «нейронные сети ЦОД-класса» даже на устройствах с самыми жёсткими требованиями к энергопотреблению

Это могут быть системы конференц-связи и носимые гаджеты

Отмечается, что Ergo AI может поддерживать самые разные ИИ-нагрузки — от классификации и обнаружения объектов до обработки аудиосигналов и языка

@imaxairu Подписаться

#npu

Компания IBM анонсировала новое поколение вычислительных систем для искусственного интеллекта — процессор Telum II и ускоритель IBM Spyre

Оба продукта предназначены для ускорения ИИ и улучшения производительности корпоративных приложений

IBM Telum II, разработанный с использованием 5-нанометровой технологии Samsung, будет оснащён восемью высокопроизводительными ядрами, работающими на частоте 5,5 ГГц

Объём кеш-памяти на кристалле получил увеличение на 40 %, при этом виртуальный L3-кеш вырос до 360 Мбайт, а L4-кеш до 2,88 Гбайт

Ещё одним нововведением является интегрированный блок обработки данных (DPU) для ускорении операций ввода-вывода и следующее поколение встроенного ускорителя ИИ

Встроенный ИИ-ускоритель обеспечивает в четыре раза большую вычислительную мощность, достигая 24 триллионов операций в секунду (TOPS)

Архитектура ускорителя оптимизирована для работы с большими языковыми моделями и поддерживает широкий спектр ИИ-моделей для комплексного анализа структурированных и текстовых данных

Кроме того, новый процессор поддерживает тип данных INT8 для повышения эффективности вычислений

При этом на системном уровне Telum II позволяет каждому ядру процессора получать доступ к любому из восьми ИИ-ускорителей в рамках одного модуля, обеспечивая более эффективное распределение нагрузки и достигая общей производительности в 192 TOPS

@imaxairu Подписаться