Изучаю потихоньку курс Introduction to Deep Learning with PyTorch (кстати, очень рекомендую DataCamp). Как конструктор со стажем, привык в голове рисовать картинки, поэтому какие-то концепты обсуждаю с ИИ и выкладываю тут заметки. Не хватает опыта в абстрактном мышлении, чтобы запросто рассуждать о многомерных пространствах параметров и их оптимизации - требуется перевести на язык образов 😁

⚡️ What Are Activation Functions For?

Activation functions play a crucial role in neural networks: they add non-linearity to the architecture, unlocking the network’s ability to learn and represent complex patterns found in real-world data.

If you were to stack only linear layers (even many of them), the entire system remains a just single linear function—it would only be able to fit straight lines or flat planes, which isn’t nearly enough for most tasks. Activation functions transform the output of each layer in a non-linear way, which allows networks to fit curves, steps, and intricate boundaries—enabling deep learning models to capture subtle features and relationships in data.

By leveraging activation functions between layers, neural networks can build up multiple levels of abstraction. Each activation function “warps” the output, giving the network the flexibility to learn everything from simple thresholds up to very complex decision surfaces.

Here are a few popular activation functions, including their math:
☆ ReLU (Rectified Linear Unit): f(x) = max(0, x)
☆ Sigmoid: f(x) = 1 / (1 + exp(−x))
☆ Tanh: f(x) = (exp(x) − exp(−x)) / (exp(x) + exp(−x))
☆ Softmax: f(xᵢ) = exp(xᵢ) / sum(exp(xⱼ)), for every class output (used for multi-class classification)

For example, the sigmoid function “squashes” any real value into the (0, 1) range, making it ideal for outputs that represent probabilities.

In summary, activation functions are what make neural networks flexible, and able to learn just about any relationship in your data—not just straight lines.

#pytorch #deep_learning

🤳 Управление роботами с помощью MoveIt

MoveIt — это программная платформа для робототехники, которая упрощает управление манипуляторами.

Обзор архитектуры - concepts
Центральным элементом MoveIt является узел ROS под названием move_group. Он функционирует как интегратор, объединяя все компоненты системы и предоставляя пользователям интерфейс для управления роботом через топики и экшены (action) ROS.

Пользователи могут взаимодействовать с move_group тремя основными способами:
◦ C++: с помощью интерфейса move_group_interface.
◦ Python: через пакет moveit_commander.
◦ GUI: используя плагин для Rviz (визуализатор ROS).

Для своей работы move_group использует три вида конфигурации:
◦ URDF (Unified Robot Description Format): XML-файл, описывающий геометрию и кинематическую схему робота.
◦ SRDF (Semantic Robot Description Format): Файл, дополняющий URDF семантической информацией, например, определением групп суставов ("рука", "захват") или поз робота ("домой").
◦ Конфигурационные файлы MoveIt: YAML-файлы, содержащие настройки для планировщиков, кинематики, сенсоров и другие параметры.

Ключевые компоненты
◦ Planning Scene (Сцена планирования): Это внутреннее представление мира, которое включает в себя робота, известные объекты (препятствия) и прикрепленные к роботу предметы. MoveIt использует эту сцену для проверки столкновений.
◦ Motion Planning (Планирование движений): MoveIt использует плагины для подключения различных алгоритмов планирования (по умолчанию OMPL). Пользователь отправляет запрос на планирование, указывая целевую позу для манипулятора и ограничения (например, не сталкиваться с объектами). В ответ move_group генерирует траекторию движения, которая является безопасной и учитывает кинематические ограничения.
◦ Planning Request Adapters (Адаптеры запросов): Позволяют изменять запросы до планирования и обрабатывать результаты после. Например, они могут сглаживать траекторию или добавлять в нее временные параметры (скорости и ускорения).
◦ Kinematics (Кинематика): Для расчета положений суставов на основе заданной позы конечного звена (инверсная кинематика) MoveIt использует плагины. По умолчанию используется численный решатель, но пользователи могут подключить и аналитические решатели, например, сгенерированные с помощью IKFast.
◦ Collision Checking (Проверка столкновений): Для предотвращения столкновений робота с окружающей средой или с самим собой используется библиотека FCL. Оптимизировать этот процесс помогает Allowed Collision Matrix (ACM) — матрица, которая указывает, какие пары звеньев можно не проверять на столкновения (например, соседние звенья или те, что физически не могут столкнуться).

#ros2 #moveit

🏃‍♀ Международные игры гуманоидных роботов в Китае

Китай провёл первые «игры гуманоидных роботов», которые одновременно вдохновляют и отрезвляют. Роботы бегут, боксируют, играют в футбол — а затем спотыкаются, падают, перезапускаются. Формат соревнований подсвечивает то, что обычно не видно на промо-видео: насколько хрупки баланс, ориентация и устойчивость к неожиданностям в реальном мире. При этом именно публичные испытания на скорость, контакт и координацию делают шаг вперёд измеримым: видно, как выросла динамика движений, обработка сенсоров и общий темп прогресса в индустрии.

Продолжаем с интересом следить за новостями из Поднебесной.

#robotics #news #china

🩼 В мир полудня на костылях

Наткнулся в своей новостной ленте на статью про исследование, в котором было показано, что доктора-колоноскописты после внедрения ИИ-помощника начинают слишком сильно полагаться на него, и если помощника отключить, демонстрируют худший результат в поиске полипов на видео, чем они показывали до внедрения ИИ. К самому исследованию много замечаний по методической части, но оно поднимает важный вопрос - насколько люди становятся зависимы от своих помощников?

Я сам делал утилиту по поиску загрязнений на сенсорах, которая по размеру и контрасту пятен определяет - существенно ли загрязнение или нет. Раньше такой оценкой занимался человек "на глаз". Сейчас есть подсветка загрязнений и две лампочки: PASSED / NOT PASSED. Понятно, что оператор должен доверять такой системе - он и доверяет, после того как убедился, что она работает "нормально".

Аналогичная картина и в статье - доктора поняли, что система действительно работает и теперь уже "ждут" ее подсказки. Да, если человек опытный, и у него забрать такого помощника, то его скилы быстро восстановятся, когда он снова будет рассчитывать только на себя. Но что, если подобные помощники с тобой, начиная со школы? Ты потихоньку привыкаешь на них полагаться...

Кто-то, несмотря на обилие всевозможных ассистентов, безусловно, будет неудовлетворен просто их использованием, захочет разобраться что к чему, как все устроено. Чтобы самому создавать такие системы или противостоять им. Но, думаю, что таких активных, как всегда, будеть совсем немного. Большинство будет принимать то, что им предлагают, а это именно - "костыли".

Вот как Стругацкие понимали свой "Мир полудня":

Мы писали Мир-в-котором-нам-хотелось-бы-жить... В нашем понимании это мир, в котором высшим наслаждением и источником счастья является творческий труд. Все прочее вырастает из этого принципа. И люди там счастливы, если им удается этот главный принцип реализовать. Дружба, любовь и работа — вот три кита, на которых стоит счастье тамошнего человечества. Ничего лучше этого мы представить себе не могли, да и не пытались.

Это интересноый образ, можно с ним спорить, можно соглашаться, но важно то, что творческий труд положен в основу. А если эту основу выбить - что останется? Работа может остаться, но именно творческой она будет лишь для небольшого количества, за остальных будет думать ИИ и нужно будет только нажать на правильную кнопку, привезти заказ, положить заготовку в станок и вынуть уже готовую деталь. Останутся потребление и развлечения. И это сильно напоминает мне "Хищные вещи века" тех же Стругацких:

Посланник коммунистического мира обнаруживает, что в городе фантастически высокий уровень жизни, который контрастирует с убогостью духовного облика обывателей: университетские преподаватели устраивают террористические акты, группа «меценатов» уничтожает произведения искусства, молодёжь погружена в массовые трансовые дискотеки («дрожка») и разнообразные экстремальные развлечения, а гильдия парикмахеров устроила забастовку из-за прекращения любимого телесериала. Жилин обнаруживает, что электронный наркотик — так называемый «слег» — это сочетание широко распространённых бытовых деталей и химикатов, которое позволяет Человеку Невоспитанному в собственном сознании создавать реальность, намного превосходящую всё доступное во внешнем мире. Обычными средствами победить слег невозможно, и он представляет угрозу для всего человечества, ибо в сравнении с иллюзорной жизнью еда, питьё и размножение — «тоскливая суета»

Напоминает гиперреализм Бодрийяра, не правда ли 😉. Кстати, насчет размножения - зумеры реально теряют интерес к сексу.

Мы только в самом начале становления нового мира, который мы будем делить с ИИ. Понятно, что сейчас невозможно предсказать каким он будет. Тем более интересно понаблюдать за тем, какие процессы происходят в рамках этого перехода. Будет интересно узнать ваше мнение в комментариях.

#thoughts #futurism #brave_new_world