ВЕЛЕС - БОГ МНОГОЗАДАЧНОСТИ
- Вас много, а я одна! - орет кассирша, продавщица, бортпроводница и т.д.
Самая привычная и самая раздражающая ситуация в жизни. Мы то у себя одни одинёшеньки и нас надо внимательно обслужить...
Не нужно меня на костёр, но у нас в Cognitive новый прорыв.
"...Специалисты Cognitive Pilot разработали технологию, которую назвали Cognitive Veles, в честь языческого бога мудрости. Он как никто соответствует символу многозадачности. Как пояснили в компании, у Велеса множество ипостасей: бог-кудесник, предводитель волшебников, владыка животного мира, бог достатка, владыка подземного царства и т. д. Наконец, древнерусский термин больше подходит духу времени.
Сегодня разработчики искусственного интеллекта, как правило, обучают нейронные сети для каждой задачи отдельно, с нуля. Например, одна сеть тренируется для распознавания лиц, другая — для распознавания голоса и т. д., а затем с каждой из них по отдельности проводится работа по улучшению результата.
«В какой-то момент мы задумались о том, что мозг человека многозадачен, и попытались воссоздать этот эффект — использовать одну сеть для решения сразу нескольких задач, а также использовать ранее обученную на одних объектах нейронку для других задач — и получили интересный результат»,— рассказывает руководитель департамента разработки беспилотных транспортных средств Cognitive Pilot Юрий Минкин.
Ребенок в раннем детстве сначала обучается не конкретным задачам, а общим понятиям и представлениям об окружающей действительности, об ее устройстве. Он учится воспринимать и осознавать различные предметы, их физику, например, если предмет уронить, он упадет вниз, что у любого предмета есть контур, форма. Что есть тела твердые, есть жидкие, есть легкие и тяжелые и т. д. Очевидно, что дети более старшего возраста, прошедшие основные этапы «общего» обучения, оказываются более развитыми и способными к решению уже конкретных и совершенно различных задач, таких как налить воду в чашку или собрать что-либо из конструктора.
При обучении нейронных сетей специалисты сталкиваются с похожими ситуациями. Если перед решением конкретных задач нейронные сети аналогично обучить на очень большом объеме данных восприятию основных, необходимых для осознания действительности изображений с целью научиться классифицировать представленные на них различные сцены — темные, светлые, внутри помещения, вне и т. п. (их оказывается около 28 млн), то сеть начинает понимать, что такое объект, во всем разнообразии и в итоге действительно учится воспринимать мир. Кроме того, общий энкодер такой сети выделяет семантику сцены на изображении, которое подается на вход сети и может быть использован сразу для многих задач.
В используемых сегодня компанией промышленных продуктах Cognitive Agro Pilot для автономного управления комбайном и трактором одна нейтронная сеть позволяет решать одновременно четыре задачи: определение кромки поля, детекция препятствий (людей, другой техники), распознавание зон, где вождение возможно и невозможно (аварийно) и распознавание полегшей культуры.
В условиях одной сети решить эти задачи одновременно невозможно, так как они начинают друг другу противоречить. «Представьте, что на пути комбайна есть препятствие, например другой комбайн»,— продолжает Минкин. «Он закрывает границу, закрывает кромку. На этом месте получается пятно. Поскольку автопилот ориентируется по кромке, то происходит сбой. В результате качество основной задачи падает. А у нас все происходит, как у человека, одновременно. Одна голова сети строит границу участка как бы без учета препятствия, как будто его нет. Другая, наоборот, детектирует препятствие. Третья определяет зоны, где вождение разрешается и где запрещено. Четвертая работает с полегшей культурой».
В применении Cognitive Veles для рельсового транспорта специалистами Cognitive Pilot также реализована четырехзадачная архитектура: детектирование объектов дорожной сцены, 3D-детектирование, сегментация (выделение полосы движения) и трекинг (построение траектории движения объекта).
- Вас много, а я одна! - орет кассирша, продавщица, бортпроводница и т.д.
Самая привычная и самая раздражающая ситуация в жизни. Мы то у себя одни одинёшеньки и нас надо внимательно обслужить...
Не нужно меня на костёр, но у нас в Cognitive новый прорыв.
"...Специалисты Cognitive Pilot разработали технологию, которую назвали Cognitive Veles, в честь языческого бога мудрости. Он как никто соответствует символу многозадачности. Как пояснили в компании, у Велеса множество ипостасей: бог-кудесник, предводитель волшебников, владыка животного мира, бог достатка, владыка подземного царства и т. д. Наконец, древнерусский термин больше подходит духу времени.
Сегодня разработчики искусственного интеллекта, как правило, обучают нейронные сети для каждой задачи отдельно, с нуля. Например, одна сеть тренируется для распознавания лиц, другая — для распознавания голоса и т. д., а затем с каждой из них по отдельности проводится работа по улучшению результата.
«В какой-то момент мы задумались о том, что мозг человека многозадачен, и попытались воссоздать этот эффект — использовать одну сеть для решения сразу нескольких задач, а также использовать ранее обученную на одних объектах нейронку для других задач — и получили интересный результат»,— рассказывает руководитель департамента разработки беспилотных транспортных средств Cognitive Pilot Юрий Минкин.
Ребенок в раннем детстве сначала обучается не конкретным задачам, а общим понятиям и представлениям об окружающей действительности, об ее устройстве. Он учится воспринимать и осознавать различные предметы, их физику, например, если предмет уронить, он упадет вниз, что у любого предмета есть контур, форма. Что есть тела твердые, есть жидкие, есть легкие и тяжелые и т. д. Очевидно, что дети более старшего возраста, прошедшие основные этапы «общего» обучения, оказываются более развитыми и способными к решению уже конкретных и совершенно различных задач, таких как налить воду в чашку или собрать что-либо из конструктора.
При обучении нейронных сетей специалисты сталкиваются с похожими ситуациями. Если перед решением конкретных задач нейронные сети аналогично обучить на очень большом объеме данных восприятию основных, необходимых для осознания действительности изображений с целью научиться классифицировать представленные на них различные сцены — темные, светлые, внутри помещения, вне и т. п. (их оказывается около 28 млн), то сеть начинает понимать, что такое объект, во всем разнообразии и в итоге действительно учится воспринимать мир. Кроме того, общий энкодер такой сети выделяет семантику сцены на изображении, которое подается на вход сети и может быть использован сразу для многих задач.
В используемых сегодня компанией промышленных продуктах Cognitive Agro Pilot для автономного управления комбайном и трактором одна нейтронная сеть позволяет решать одновременно четыре задачи: определение кромки поля, детекция препятствий (людей, другой техники), распознавание зон, где вождение возможно и невозможно (аварийно) и распознавание полегшей культуры.
В условиях одной сети решить эти задачи одновременно невозможно, так как они начинают друг другу противоречить. «Представьте, что на пути комбайна есть препятствие, например другой комбайн»,— продолжает Минкин. «Он закрывает границу, закрывает кромку. На этом месте получается пятно. Поскольку автопилот ориентируется по кромке, то происходит сбой. В результате качество основной задачи падает. А у нас все происходит, как у человека, одновременно. Одна голова сети строит границу участка как бы без учета препятствия, как будто его нет. Другая, наоборот, детектирует препятствие. Третья определяет зоны, где вождение разрешается и где запрещено. Четвертая работает с полегшей культурой».
В применении Cognitive Veles для рельсового транспорта специалистами Cognitive Pilot также реализована четырехзадачная архитектура: детектирование объектов дорожной сцены, 3D-детектирование, сегментация (выделение полосы движения) и трекинг (построение траектории движения объекта).
А в проектах R&D специалисты компании проводят тесты уже на десятках задач.
Отметим, что Tesla, Google и другие известные разработчики ИИ также успешно используют в своих проектах многозадачную архитектуру. Так, Google заявил, что умеет одновременно решать восемь задач: распознавать объекты на изображениях, вставлять субтитры, распознавать речь и осуществлять перевод и другие.
Применение Cognitive Veles позволило компании значительно экономить трудозатраты разработчиков. Используемые Cognitive Pilot датасеты содержат более миллиарда кадров, и, если их размечать (выделять на изображении отдельные объекты и классифицировать их; например, этот объект — препятствие, этот — кромка поля, этот — полегшая культура и т. д.) полностью, ушли бы месяцы или даже годы, тогда как сейчас полная разметка не требуется. При многозадачной архитектуре нейронной сети Cognitive Veles специалистам достаточно проводить лишь частичную разметку, например, только по одному типу объектов. С такими неполными (не полностью размеченными) данными Cognitive Veles справляется успешно.
Для таких случаев в рамках технологии специалисты компании придумали обучать нейронные сети по так называемому школьному принципу. «Дети в начальной школе изучают несколько предметов одновременно, получая по чуть-чуть знаний поочередно по каждому из них — математике, чтению и другим, а не проходят полностью каждую из этих дисциплин, от начала и до конца. Так и мы, поитерационно учим сеть на разных датасетах с неполными данными — например, сначала только по тем, где размечены препятствия, потом только по тем, где кромка поля, и т. д., по очереди переключая их с одного на другой»,— комментирует Юрий Минкин.
Важно отметить, что такой подход, кроме того, позволил разработчикам избежать опасного эффекта при использовании нейронных сетей — «катастрофического забывания». Известно, что при более детальном и длительном обучении на одной задаче сеть имеет свойство забывать приобретенный вначале обучения опыт при переключении на другую задачу. В режиме короткого поитерационного обучения, реализованного в Cognitive Veles, такой эффект не проявляется.
В настоящее время специалисты компании работают над возможностью использования в промышленных решениях не всех, а отдельных групп узлов нейросети (разреженная нейросеть), что позволит еще до 20–25% оптимизировать вычислительные ресурсы и время обработки данных. Надо сказать, что концепция разреженной нейросети также используется ведущими разработчиками ИИ, в частности в проектах Google Switch Transformer — модели для понимания естественного языка.
«Мы изначально придерживались антропоморфного подхода в создании своих ИИ-решений. Поэтому идея повышения эффективности нашего ИИ за счет возможности решения нескольких задач одновременно, за счет его тренировки на разных задачах для нас лежала на поверхности. Мы были в числе первых, кто начал применять этот подход,— говорит генеральный директор Cognitive Pilot Ольга Ускова.— Сегодня мы уже рассматриваем возможности одновременного решения десятков и сотен различных задач. Пытаемся тренировать нейронки сначала на творческих задачах, например классификации художественных картин, а потом те же базовые энкодеры использовать в распознавании объектов агро- или дорожной сцены, и это дает реальный эффект. Как и мозг человека, натренированный на одних задачах, значительно лучше справляется с проблемами в других областях, чем ненатренированный. Сегодня это доминирующий тренд в создании ИИ».
https://www.kommersant.ru/doc/5515129?utm_source=yxnews&utm_medium=desktop&utm_referrer=https%3A%2F%2Fyandex.ru%2Fnews%2Fsearch%3Ftext%3D
Отметим, что Tesla, Google и другие известные разработчики ИИ также успешно используют в своих проектах многозадачную архитектуру. Так, Google заявил, что умеет одновременно решать восемь задач: распознавать объекты на изображениях, вставлять субтитры, распознавать речь и осуществлять перевод и другие.
Применение Cognitive Veles позволило компании значительно экономить трудозатраты разработчиков. Используемые Cognitive Pilot датасеты содержат более миллиарда кадров, и, если их размечать (выделять на изображении отдельные объекты и классифицировать их; например, этот объект — препятствие, этот — кромка поля, этот — полегшая культура и т. д.) полностью, ушли бы месяцы или даже годы, тогда как сейчас полная разметка не требуется. При многозадачной архитектуре нейронной сети Cognitive Veles специалистам достаточно проводить лишь частичную разметку, например, только по одному типу объектов. С такими неполными (не полностью размеченными) данными Cognitive Veles справляется успешно.
Для таких случаев в рамках технологии специалисты компании придумали обучать нейронные сети по так называемому школьному принципу. «Дети в начальной школе изучают несколько предметов одновременно, получая по чуть-чуть знаний поочередно по каждому из них — математике, чтению и другим, а не проходят полностью каждую из этих дисциплин, от начала и до конца. Так и мы, поитерационно учим сеть на разных датасетах с неполными данными — например, сначала только по тем, где размечены препятствия, потом только по тем, где кромка поля, и т. д., по очереди переключая их с одного на другой»,— комментирует Юрий Минкин.
Важно отметить, что такой подход, кроме того, позволил разработчикам избежать опасного эффекта при использовании нейронных сетей — «катастрофического забывания». Известно, что при более детальном и длительном обучении на одной задаче сеть имеет свойство забывать приобретенный вначале обучения опыт при переключении на другую задачу. В режиме короткого поитерационного обучения, реализованного в Cognitive Veles, такой эффект не проявляется.
В настоящее время специалисты компании работают над возможностью использования в промышленных решениях не всех, а отдельных групп узлов нейросети (разреженная нейросеть), что позволит еще до 20–25% оптимизировать вычислительные ресурсы и время обработки данных. Надо сказать, что концепция разреженной нейросети также используется ведущими разработчиками ИИ, в частности в проектах Google Switch Transformer — модели для понимания естественного языка.
«Мы изначально придерживались антропоморфного подхода в создании своих ИИ-решений. Поэтому идея повышения эффективности нашего ИИ за счет возможности решения нескольких задач одновременно, за счет его тренировки на разных задачах для нас лежала на поверхности. Мы были в числе первых, кто начал применять этот подход,— говорит генеральный директор Cognitive Pilot Ольга Ускова.— Сегодня мы уже рассматриваем возможности одновременного решения десятков и сотен различных задач. Пытаемся тренировать нейронки сначала на творческих задачах, например классификации художественных картин, а потом те же базовые энкодеры использовать в распознавании объектов агро- или дорожной сцены, и это дает реальный эффект. Как и мозг человека, натренированный на одних задачах, значительно лучше справляется с проблемами в других областях, чем ненатренированный. Сегодня это доминирующий тренд в создании ИИ».
https://www.kommersant.ru/doc/5515129?utm_source=yxnews&utm_medium=desktop&utm_referrer=https%3A%2F%2Fyandex.ru%2Fnews%2Fsearch%3Ftext%3D
Коммерсантъ
Искусственный интеллект автопилотов поумнел
Разработана технология, позволяющая ему решать одновременно множество задач
МАГИЯ
- А Богини здесь собираются?
Первое, что я услышала, заворачивая в потайной двор, где правит бал Театр им.М.А.Булгакова. Группа мужчин с улицы заинтересовано заглядывала под арку. И я их понимаю. Сюда стекались красивые, очень красивые женщины. Всё как любил Михаил Афанасьевич...
Не спрашивайте меня уважаемые специалисты и профессионалы маркетинга: "Как вы это делаете?" Я и сама не знаю. СДЕЛАТЬ такое невозможно. Это - МАГИЯ.
Я уже тридцать лет в бизнесе. В крупном международном уже бизнесе. Моя команда провела за это время тысячу самых разных мероприятий. Неуспешных не припомню. Но такого чуда не было никогда. Мне кажется, все дело в естественности и волшебстве. Попробую разобрать:
1) Повод для мероприятия.
Ну не было глобального повода. Одна из подруг (Бохиня), Zula Khramov - пролетом из Флориды на два дня в Москве. Захотелось пообщаться оффлайн, а потом подумалось, что и кто-то из сообщества захочет пообщаться. Решила организовать камерный слёт для тех, кто соскучился по обнимашкам.
2) форма - поскольку Бохини собирались в группу по одному единственному признаку - "манкость". И группа эта случилась в свое время самым волшебным образом, стихийно, за три дня и со всего света. Просто три тысячи девочек повесили в сети свои истории манкости и фотографии. (Мы с испугу закрыли сразу прием в группу. Подозревая, что через неделю будет 30 тысяч.)
То, хотелось необыкновенного и своего. Одна из Бохинь - замечательный режиссёр, поэт и актриса, Ольга Аничкова , была вытащена из отпуска и затребован самый женский спектакль на свете. Так гвоздём вечера стала прекрасная работа:
"Жизнь Ж."
3) Пространство - ну столько женской магии мог принять и переварить только Дух великого Булгакова. Поэтому однозначно - Театр Булгакова на Патриарших. А пространство пришлось раздвигать. Т.к. запись на мероприятие заполнилась за 30 минут после первого анонса. И сначала мы увеличили списки с 90 до 110 человек. Потом театр вздохнул и, поколдовав, принял еще 20. Аншлаг, аншлаг, аншлаг...
А Девочки ПРИЛЕТЕЛИ на спектакль из 6 стран. Для меня это что-то НЕВЕРОЯТНОЕ. Вчера в зале были божества из:
России, США, Германии, Великобритании, Азербайджана, Белоруссии.
И калейдоскоп профессий и рангов: журналистки, писательницы, певицы, дизайнеры, продюссеры, художники, чиновники, банкиры, артисты, владелицы заводов, предприятий ...
Невероятная аудитория. Такая разная и неожиданно совершенно родная и однородная.
4) Сам РАЗГОВОР. Ну содержание вместило в себя всё. От бесед про бизнес, благотворительность и даже личный героизм (я так называю гуманитарные волонтерские поездки "за ленточку" для помощи людям, животным, психологической работой с беженцами и семьями убитых), до обычных тёплых и смешных женских разговорах о жизни и о ЖИЗНИ Ж.
5) Спектакль .
Это - шедеврально. Думаю, что Ольге и Вике зал помогал. Потому что это было ОЧЕНЬ ВЫСОКО вчера. Я в первый раз на спектакле, где сначала три четверти зала хохочут, потом ревут, потом хохочут, плтом опять ревут и так полтора часа.
6) Фуршет.
А еда была тоже магия. Под шампанское (спасибо Inna Semenova и Александр Семёнов ) Бохини накрыли стол из приготовленного собственноручно. И это было пострясающе. Некоторые блюда пересекли границу. (Ах, эта пахлава из Айзербайджана от Дбила Самира)
Я меню-то приведу, облизывайтесь:
1. Мария Васильева Брауни с маскрапоне и натуральной ванилью
2. Милена Ленская трюфели ручной работы choice.vegan
3. Маргарита Колчина медовик с курагой (без сахара)
4. Софья Ильичева Профитрольки со сливочным кремом
5. Ангелина Волкова канапе, фрукты с сыром
6. Наталья Плетнёва Виноград
7. Ксения Балдина Яблоки и мандарины
8. Екатерина Живлюк Маффины с сыром
9. Елена Кочетова, исп. Надежда Фитисова (дочь) муссовые пирожные малиновый йогурт и манго-маракуйя-шоколад. Торт манго.
7. Ну и главное: ЭНЕРГИЯ МАГИИ.
Ну вот, реально, было как в Пятом Элементе, когда зануда Брюс наконец-то выдавил про любовь. После спектакля все 130 человек просто лучились общим чувством и светом. Я такого раньше не видела. И если вчера над Патриаршими возник Сверкающий Поток, то это были МЫ!
- А Богини здесь собираются?
Первое, что я услышала, заворачивая в потайной двор, где правит бал Театр им.М.А.Булгакова. Группа мужчин с улицы заинтересовано заглядывала под арку. И я их понимаю. Сюда стекались красивые, очень красивые женщины. Всё как любил Михаил Афанасьевич...
Не спрашивайте меня уважаемые специалисты и профессионалы маркетинга: "Как вы это делаете?" Я и сама не знаю. СДЕЛАТЬ такое невозможно. Это - МАГИЯ.
Я уже тридцать лет в бизнесе. В крупном международном уже бизнесе. Моя команда провела за это время тысячу самых разных мероприятий. Неуспешных не припомню. Но такого чуда не было никогда. Мне кажется, все дело в естественности и волшебстве. Попробую разобрать:
1) Повод для мероприятия.
Ну не было глобального повода. Одна из подруг (Бохиня), Zula Khramov - пролетом из Флориды на два дня в Москве. Захотелось пообщаться оффлайн, а потом подумалось, что и кто-то из сообщества захочет пообщаться. Решила организовать камерный слёт для тех, кто соскучился по обнимашкам.
2) форма - поскольку Бохини собирались в группу по одному единственному признаку - "манкость". И группа эта случилась в свое время самым волшебным образом, стихийно, за три дня и со всего света. Просто три тысячи девочек повесили в сети свои истории манкости и фотографии. (Мы с испугу закрыли сразу прием в группу. Подозревая, что через неделю будет 30 тысяч.)
То, хотелось необыкновенного и своего. Одна из Бохинь - замечательный режиссёр, поэт и актриса, Ольга Аничкова , была вытащена из отпуска и затребован самый женский спектакль на свете. Так гвоздём вечера стала прекрасная работа:
"Жизнь Ж."
3) Пространство - ну столько женской магии мог принять и переварить только Дух великого Булгакова. Поэтому однозначно - Театр Булгакова на Патриарших. А пространство пришлось раздвигать. Т.к. запись на мероприятие заполнилась за 30 минут после первого анонса. И сначала мы увеличили списки с 90 до 110 человек. Потом театр вздохнул и, поколдовав, принял еще 20. Аншлаг, аншлаг, аншлаг...
А Девочки ПРИЛЕТЕЛИ на спектакль из 6 стран. Для меня это что-то НЕВЕРОЯТНОЕ. Вчера в зале были божества из:
России, США, Германии, Великобритании, Азербайджана, Белоруссии.
И калейдоскоп профессий и рангов: журналистки, писательницы, певицы, дизайнеры, продюссеры, художники, чиновники, банкиры, артисты, владелицы заводов, предприятий ...
Невероятная аудитория. Такая разная и неожиданно совершенно родная и однородная.
4) Сам РАЗГОВОР. Ну содержание вместило в себя всё. От бесед про бизнес, благотворительность и даже личный героизм (я так называю гуманитарные волонтерские поездки "за ленточку" для помощи людям, животным, психологической работой с беженцами и семьями убитых), до обычных тёплых и смешных женских разговорах о жизни и о ЖИЗНИ Ж.
5) Спектакль .
Это - шедеврально. Думаю, что Ольге и Вике зал помогал. Потому что это было ОЧЕНЬ ВЫСОКО вчера. Я в первый раз на спектакле, где сначала три четверти зала хохочут, потом ревут, потом хохочут, плтом опять ревут и так полтора часа.
6) Фуршет.
А еда была тоже магия. Под шампанское (спасибо Inna Semenova и Александр Семёнов ) Бохини накрыли стол из приготовленного собственноручно. И это было пострясающе. Некоторые блюда пересекли границу. (Ах, эта пахлава из Айзербайджана от Дбила Самира)
Я меню-то приведу, облизывайтесь:
1. Мария Васильева Брауни с маскрапоне и натуральной ванилью
2. Милена Ленская трюфели ручной работы choice.vegan
3. Маргарита Колчина медовик с курагой (без сахара)
4. Софья Ильичева Профитрольки со сливочным кремом
5. Ангелина Волкова канапе, фрукты с сыром
6. Наталья Плетнёва Виноград
7. Ксения Балдина Яблоки и мандарины
8. Екатерина Живлюк Маффины с сыром
9. Елена Кочетова, исп. Надежда Фитисова (дочь) муссовые пирожные малиновый йогурт и манго-маракуйя-шоколад. Торт манго.
7. Ну и главное: ЭНЕРГИЯ МАГИИ.
Ну вот, реально, было как в Пятом Элементе, когда зануда Брюс наконец-то выдавил про любовь. После спектакля все 130 человек просто лучились общим чувством и светом. Я такого раньше не видела. И если вчера над Патриаршими возник Сверкающий Поток, то это были МЫ!