Мы в компании ComBox Technology занимаемся объектной видеоаналитикой и используем нейронные сети для детектирования и классификации объектов. Хочется поделиться и нашим решением в области аппаратных ускорителей, платой для инференса (исполнения) нейронных сетей в ЦОД. Изначально используя VPU Intel Movidius (MyriadX) в краевых решениях под управлением OpenVINO, заметили их высокую производительность и эффективность при работе со сверточными сетями, CNN (наш часто-используемый вариант - SSD Mobilenet v.2). Тогда и родилась идея реализации серверной платы PCIe с VPU, размещенными с высокой плотностью. Результат и первая тестовая партия - на фото, сейчас идет процесс отладки решения. Ожидаемая производительность - 45*64=2880 FPS/плата, которых в сервер форм-фактора 1U можно разместить до 4 штук (в нашем случае - платформы Supermicro), то есть с 1U получить до 11520 FPS.
#видеоаналитика #видеонаблюдение #vpu #movidius #нейронныесети #инференс #intel #myriadx #cnn #cv #ai #компьютерноезрение
➰ Источник ВК
#видеоаналитика #видеонаблюдение #vpu #movidius #нейронныесети #инференс #intel #myriadx #cnn #cv #ai #компьютерноезрение
➰ Источник ВК
Мы в компании ComBox Technology разрабатываем и поддерживаем системы искусственного интеллекта прикладного уровня, и одну из задач, которую мы решили - это защита моделей нейронных сетей от копирования и тиражирования на "краевых" устройствах или в ЦОД. Если вы посмотрите органическую выдачу Google для получения информации о защите моделей нейронных сетей, вы найдете методы с использованием водяных знаков в обучающей выборке или варианты шифрования моделей с расшифровкой до начала инференса. В обоих случаях можно получить исходную модель и использовать ее в других решениях без вашего согласия. Наше видение и решение было сделано совместно с компанией Seculab (на базе аппаратных ключей Senselock EL5). Это помогает создать один автономный переносимый зашифрованный двоичный файл (мы используем инструментарий фреймворка Intel OpenVINO с заменой динамических библиотек на статические) с зашифрованными моделями внутри. В этом случае некоторые редко используемые функции реализуются непосредственно на аппаратном ключе защиты и никто не сможет заменить какие-либо динамические библиотеки, а также может получить модель непосредственно из памяти. Возможно, будет интересно описание проблемы и решения - https://medium.com/@ComBoxTech/neural-networks-protection-by-senselock-hardware-keys-7c53dfb8e8d4
#security #openvino #inference #intel #seculab #senselock #virbox #neuralnetworks #ai
🔗 Neural networks protection by Senselock hardware keys
One problem we’ve solved is neural network models protection in edge computing by using hardware Senselock keys with Intel OpenVINO toolkit
➰ Источник ВК
#security #openvino #inference #intel #seculab #senselock #virbox #neuralnetworks #ai
🔗 Neural networks protection by Senselock hardware keys
One problem we’ve solved is neural network models protection in edge computing by using hardware Senselock keys with Intel OpenVINO toolkit
➰ Источник ВК
VK
ComBox Technology
ComBox Technology – системный интегратор в области информационных технологий и нейронных сетей. Компания предлагает полный комплекс услуг по созданию, обучению и внедрению нейронных сетей в промышленную эксплуатацию в сегментах B2B/B2G.
17 марта в 19:00 состоится открытый вебинар от экспертов Intel в рамках проекта CV Academy, на котором вы узнаете, как глубокое обучение и компьютерное зрение применяются в современной медицине. Для участия необходима регистрация: https://jsc-intel.timepad.ru/event/1446273/
Спикером выступит Дмитрий Куртаев, инженер по разработке ПО, Intel, нейросетевой хирург, IOTG Russia.
Мы попросили Дмитрия рассказать подробнее о его докладе:
- Чего ждать от вебинара всем, кто пройдет регистрацию?
- Вы узнаете о современных подходах решения вычислительно трудоемких задач из медицины и биохимии
- Об анализе в каких областях медицины пойдет речь на вебинаре?
- Хирургия, гистология, исследование ДНК
- Кому в первую очередь будет полезен вебинар?
- Всем, кто интересуется, как применяется Deep Learning в медицинских задачах
#Intel #CVacademy
🔗 CV Academy / События на TimePad.ru
С ноября 2020 по апрель 2021 компания Intel в Нижнем Новгороде проводит CV Academy – серию вебинаров по компьютерному зрению, глубокому обучению и оптимизации – для опытных разработчиков. Для участия в вебинарах обязательна регистрация.
➰ Источник ВК
Спикером выступит Дмитрий Куртаев, инженер по разработке ПО, Intel, нейросетевой хирург, IOTG Russia.
Мы попросили Дмитрия рассказать подробнее о его докладе:
- Чего ждать от вебинара всем, кто пройдет регистрацию?
- Вы узнаете о современных подходах решения вычислительно трудоемких задач из медицины и биохимии
- Об анализе в каких областях медицины пойдет речь на вебинаре?
- Хирургия, гистология, исследование ДНК
- Кому в первую очередь будет полезен вебинар?
- Всем, кто интересуется, как применяется Deep Learning в медицинских задачах
#Intel #CVacademy
🔗 CV Academy / События на TimePad.ru
С ноября 2020 по апрель 2021 компания Intel в Нижнем Новгороде проводит CV Academy – серию вебинаров по компьютерному зрению, глубокому обучению и оптимизации – для опытных разработчиков. Для участия в вебинарах обязательна регистрация.
➰ Источник ВК
В рамках серии вебинаров для опытных разработчиков CV Academy, компания Intel проводит вебинар на тему «Оптимизация нейронных сетей». Узнайте больше: https://jsc-intel.timepad.ru/event/1446273/
Оптимизация нейронных сетей – одна из самых популярных тенденций последних лет в области искусственного интеллекта. Её цель – внедрить нейронные сети в окружающие нас предметы и сделать мир интеллектуального Интернета Вещей еще умнее. На данном вебинаре будут рассмотрены актуальные методы, позволяющие ускорить вычисление нейронных сетей.
Спикер Александр Козлов, инженер по глубокому oбучению, Intel, IOTG Russia рассказал о предстоящем вебинаре:
- Какова основная задача внедрения нейронных сетей в современном мире Интернета вещей?
- Сделать умный мир Интернета вещей еще умнее.
- С какими проблемами оптимизации можно столкнуться?
- В оптимизации нейросетей существует множество проблем. Если рассматривать всё с самой верхней точки, то основные проблемы здесь – это как сделать ускоритель, который позволял бы эффективно исполнять сети, модифицированные с использованием современных алгоритмом оптимизации. Таким образом, здесь изначально встает проблема выровненности дизайна программного и аппаратного обеспечения.
- На что стоит обратить особенное внимание на вашем вебинаре?
- Особое внимание стоит уделить методам квантизации нейросетей как наиболее эффективным с точки зрения критерия точность–ускорение.
#Intel #CVacademy
🔗 CV Academy / События на TimePad.ru
С ноября 2020 по апрель 2021 компания Intel в Нижнем Новгороде проводит CV Academy – серию вебинаров по компьютерному зрению, глубокому обучению и оптимизации – для опытных разработчиков. Для участия в вебинарах обязательна регистрация.
➰ Источник ВК
Оптимизация нейронных сетей – одна из самых популярных тенденций последних лет в области искусственного интеллекта. Её цель – внедрить нейронные сети в окружающие нас предметы и сделать мир интеллектуального Интернета Вещей еще умнее. На данном вебинаре будут рассмотрены актуальные методы, позволяющие ускорить вычисление нейронных сетей.
Спикер Александр Козлов, инженер по глубокому oбучению, Intel, IOTG Russia рассказал о предстоящем вебинаре:
- Какова основная задача внедрения нейронных сетей в современном мире Интернета вещей?
- Сделать умный мир Интернета вещей еще умнее.
- С какими проблемами оптимизации можно столкнуться?
- В оптимизации нейросетей существует множество проблем. Если рассматривать всё с самой верхней точки, то основные проблемы здесь – это как сделать ускоритель, который позволял бы эффективно исполнять сети, модифицированные с использованием современных алгоритмом оптимизации. Таким образом, здесь изначально встает проблема выровненности дизайна программного и аппаратного обеспечения.
- На что стоит обратить особенное внимание на вашем вебинаре?
- Особое внимание стоит уделить методам квантизации нейросетей как наиболее эффективным с точки зрения критерия точность–ускорение.
#Intel #CVacademy
🔗 CV Academy / События на TimePad.ru
С ноября 2020 по апрель 2021 компания Intel в Нижнем Новгороде проводит CV Academy – серию вебинаров по компьютерному зрению, глубокому обучению и оптимизации – для опытных разработчиков. Для участия в вебинарах обязательна регистрация.
➰ Источник ВК
