Embedded Doka
Хочу поделиться наблюдением: я опишу частный случай, но кажется наблюдение можно экстраполировать куда шире. Люди, работающие под ОС Windows (на локальной рабочей станции) как основной ОС и под ОС Linux (на удалённом сервере) время о времени, периодически…
А вот это уже интересно интересно (в свете предыдущего поста): WSL уже настолько преисполнился, что умеет (пусть и через костыль в виде USBIP) пробрасывать из винды железо подключенное к USB. Это прям серьёзная заявка на универсальность.
И это ровно то чего мне так не хватает за десятилетия существования проекта wine: iTunes под вайном работает прекрасно, но вот без синхронизации по USB-шнурку ценность такого iTunes меньше 5% 😭
Эх, а счастье было так возможно…
@embedoka
И это ровно то чего мне так не хватает за десятилетия существования проекта wine: iTunes под вайном работает прекрасно, но вот без синхронизации по USB-шнурку ценность такого iTunes меньше 5% 😭
Эх, а счастье было так возможно…
@embedoka
👍15❤4🔥2😁1🎉1💯1
Forwarded from Dmitry Shadrin
Запуск приложений через WSL.pdf
152.2 KB
В своё время писал для себя инструкцию по быстрому запуску WSL для работы с USB-устройствами, может кому пригодится)
✍14🔥7❤4👍1
Недавно в поездке в Европу со мной приключилась история: по прилёту выяснилось, что мой основной (а в поездке - единственный) рабочий инструмент (ноутбук Dell Latitude) отказался включаться. Неисправность, которая была диагностирована на основе перемигивания белым и оранжевым светодиодами при попытках включения, говорила о проблемах с памятью ОЗУ.
Что ж, тут возраст ноутбука сыграл мне на пользу: ведь только устаревшие ультрабуки оснащены съёмными модулями ОЗУ (в моём случае это один слот формата SODIMM DDR4).
1️⃣ Поиски плашки
Казалось бы что могло пойти не так вечером буднего дня в одной из столиц ЕС: приходишь в магазин и покупаешь любую (из наличия) плашку SODIMM DDR4. Посмотрел на картах ближайший компьтерный магаз - им оказался MediaMarkt. Зашёл на сайт и, выбрав нужный адрес, сделал поиск заветной плашки. Убедился что плашки в магазе и бодро потопал, чтобы уже в магазе узнать о том, что "такое" у них конечно есть, но с пылу-с-жару оффлайн такое не купить - надо делать предзаказ онлайн 😭 (в общем, современная парадигма: оффлайн магазин - это шоу-рум и пункт вывоза заказов. Есть номинальное количество товаров, но всё оно на прилавках). Про альтернативные магазины, где, возможно, "в наличии" консультанты подсказать затруднились.
2️⃣ Поиски звезды
Во время этой беготни и поисков выяснилось, что у одного из коллег ноутбук с двумя слотами и он мог бы поделиться. Но засада поджидала в другом месте: чтобы извлечь заветную плашку крестовой отвёртки оказалось недостаточно: пентахол/гексахол/torx надёжно защищал внутренности ноутбука от любопытных. Я, конечно, попробовал попытать счастья, зайдя в лавку торгующую мобильными телефонами - но владелец-араб знатно офигел от моего "скрюдрайвер" и не мог врубиться что я хочу 🙈 (видимо нечасто у него такое спрашивают).
Надо ли говорить, что оживить ноут я смог лишь по возвращению? 😭
Есть ли мораль у этой истории? А это как посмотреть: ранее я перед каждой поездкой защищался от риска, связанного с повреждением информации либо выходом из строя SSD и делал бэкап перед вылетом, теперь же я буду докучи к этому таскать такой вот наборчик "тревожного человечка" 🥹
PS: Для рисков, подобных описанному, наклёвывается более продуманное решение - предлагаю обсудить его в одном из следующих постов.
@embedoka
Что ж, тут возраст ноутбука сыграл мне на пользу: ведь только устаревшие ультрабуки оснащены съёмными модулями ОЗУ (в моём случае это один слот формата SODIMM DDR4).
1️⃣ Поиски плашки
Казалось бы что могло пойти не так вечером буднего дня в одной из столиц ЕС: приходишь в магазин и покупаешь любую (из наличия) плашку SODIMM DDR4. Посмотрел на картах ближайший компьтерный магаз - им оказался MediaMarkt. Зашёл на сайт и, выбрав нужный адрес, сделал поиск заветной плашки. Убедился что плашки в магазе и бодро потопал, чтобы уже в магазе узнать о том, что "такое" у них конечно есть, но с пылу-с-жару оффлайн такое не купить - надо делать предзаказ онлайн 😭 (в общем, современная парадигма: оффлайн магазин - это шоу-рум и пункт вывоза заказов. Есть номинальное количество товаров, но всё оно на прилавках). Про альтернативные магазины, где, возможно, "в наличии" консультанты подсказать затруднились.
2️⃣ Поиски звезды
Во время этой беготни и поисков выяснилось, что у одного из коллег ноутбук с двумя слотами и он мог бы поделиться. Но засада поджидала в другом месте: чтобы извлечь заветную плашку крестовой отвёртки оказалось недостаточно: пентахол/гексахол/torx надёжно защищал внутренности ноутбука от любопытных. Я, конечно, попробовал попытать счастья, зайдя в лавку торгующую мобильными телефонами - но владелец-араб знатно офигел от моего "скрюдрайвер" и не мог врубиться что я хочу 🙈 (видимо нечасто у него такое спрашивают).
Есть ли мораль у этой истории? А это как посмотреть: ранее я перед каждой поездкой защищался от риска, связанного с повреждением информации либо выходом из строя SSD и делал бэкап перед вылетом, теперь же я буду докучи к этому таскать такой вот наборчик "тревожного человечка" 🥹
PS: Для рисков, подобных описанному, наклёвывается более продуманное решение - предлагаю обсудить его в одном из следующих постов.
@embedoka
🤯19👍8🤔5😱3❤2✍2💊2😁1
Не было у бабы забот, да купила баба порося* (с)
Все так нахваливали Apple Silicon M4, что я не удержался и взял себе в качестве подарка на НГ Mac Mini в минимальном сетапе.
Назначение: headless-сервачок для разных payload, который удобно возить с собой. Изначальный план был взять M4 pro c 48GB RAM, чтобы поковыряться on premise со всякими интересными LLM (но выяснились детали: вы можете купить любой кастом от эппла, но только по предзаказу и полной предоплате, так что я решил взять миник на минималках, чтобы решить насколько оно мне надо, а там уже по ощущениям пропгрейдиться до M4 pro или до еще невышедшего Mac Studio M4 Max ). Т.е. сама идея концепта привлекла: вместо того чтобы обзавестись GPU с PСI-e концом (и ломать голову над тем куда этот конец можно пристроить) взять CPU+GPU c монолитной широкой шиной к памяти: и пусть две 4090 с 24ГБ будут в 20х быстрее чем M4 pro c 48GB - с учётом всех обстоятельств я готов к этому компромиссу.
какие еще хайлайты у Mac Mini M4:
▫️он действительно мелкий и не сильно много места занимает в рюкзаке с ноутом
▫️(наконец-то😃 ) теперь любой мак начинается с 16ГБ ОЗУ - за ту же цену
▫️более-менее бодрый NPU (который позиционируется под Apple Intelligence, но народ наловчается использовать его и для кастомных МЛ нагрузок)
*Все знают что пользователи техники эппл должны страдать. В следующем посте - о том как именно это происходит в данном случае.
@embedoka
Все так нахваливали Apple Silicon M4, что я не удержался и взял себе в качестве подарка на НГ Mac Mini в минимальном сетапе.
Назначение: headless-сервачок для разных payload, который удобно возить с собой. Изначальный план был взять M4 pro c 48GB RAM, чтобы поковыряться on premise со всякими интересными LLM (
какие еще хайлайты у Mac Mini M4:
▫️он действительно мелкий и не сильно много места занимает в рюкзаке с ноутом
▫️(наконец-то
▫️более-менее бодрый NPU (который позиционируется под Apple Intelligence, но народ наловчается использовать его и для кастомных МЛ нагрузок)
*Все знают что пользователи техники эппл должны страдать. В следующем посте - о том как именно это происходит в данном случае.
@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
2❤28👍8🦄7🔥3💊2😱1
Бенчмарк Whisper.cpp на 60-минутном файле с русской речью:
▫️large-v3 [GPU]: 15:40 (4x)
▫️large-v3-turbo [GPU]: 5:45
▫️large-v3-turbo [GPU+NPU]: 3:20 (18x)
Как видно из цифр и скрина: использование NPU (ANE - Apple Neural Engine) не только ускоряет инференс, но и существенно повышает энергоэффективность.
А теперь о болях:
при помощи утилиты мониторинга видно, что температура чипа под нагрузкой достигает неприличных цифр, при этом вентилятор продолжает работать бесшумно. Это всё потому, что вентилятор крутится на 20% от полной мощности и никакими ухищрениями (штатными настройками макоси) не получилось сдвинуть эту настройку с мёртвой точки. Конечно же с точки зрения Эппла это не баг, а фича (ведь ваш мини будет оставаться бесшумным при любых нагрузках, охраняя ваш чуткий сон), но мною это воспринимается как подлый запрограммированный износ и ограничение доступа к железу.
И о решении этой боли:
Нужно всего лишькупить 😄 одну из двух существующих на сегодняшний день программ для контроля оборотов вентилятора (TG pro или macsfancontrol). Более того - обе программу существуют только в виде GUI-варианта. Это просто счастье неимоверной величины, о котором я не мог мечтать сидя под линуксом на "железе простолюдинов"😃
Программы конечно красивые и считывают несколько десятков температур различных комплектующих макмини, но мне-то нужна единственная фича: поддать газку на единственной вертушке 🙏
PS: Пока сижу на триале и, кажется, знаю что себе на рождество подарю 🤬
(быть может за две недели еще какие-то моменты всплывут, требующие срочной покупки супер-навороченной программы с супер-красивым GUI 😳 )
@embedoka
▫️large-v3 [GPU]: 15:40 (4x)
▫️large-v3-turbo [GPU]: 5:45
▫️large-v3-turbo [GPU+NPU]: 3:20 (18x)
Как видно из цифр и скрина: использование NPU (ANE - Apple Neural Engine) не только ускоряет инференс, но и существенно повышает энергоэффективность.
А теперь о болях:
при помощи утилиты мониторинга видно, что температура чипа под нагрузкой достигает неприличных цифр, при этом вентилятор продолжает работать бесшумно. Это всё потому, что вентилятор крутится на 20% от полной мощности и никакими ухищрениями (штатными настройками макоси) не получилось сдвинуть эту настройку с мёртвой точки. Конечно же с точки зрения Эппла это не баг, а фича (ведь ваш мини будет оставаться бесшумным при любых нагрузках, охраняя ваш чуткий сон), но мною это воспринимается как подлый запрограммированный износ и ограничение доступа к железу.
И о решении этой боли:
Нужно всего лишь
Программы конечно красивые и считывают несколько десятков температур различных комплектующих макмини, но мне-то нужна единственная фича: поддать газку на единственной вертушке 🙏
PS: Пока сижу на триале и, кажется, знаю что себе на рождество подарю 🤬
(
@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍16🤷♂9❤5✍2🤣2😈2😁1
.. ну и конечно: "тагильские школьники запустили Doom на транспортной карте с помощью простого советского..."
#пятничное
@embedoka
#пятничное
@embedoka
🤣68🔥6😱5🤪3✍2👍2😈1😭1
This media is not supported in your browser
VIEW IN TELEGRAM
DIY по-русски:
Конструктор ВАЗ-2107 для сборки лицами, достигшими 18лет + LED-панели управляемые по протоколу HUB75 c Raspberry Pi
Действует спец.предложение: собери по прилагаемой инструкции конструктор и получи шанс полгода ходить пешком 😄
@embedoka
Конструктор ВАЗ-2107 для сборки лицами, достигшими 18лет + LED-панели управляемые по протоколу HUB75 c Raspberry Pi
@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥37🤣18🤪4😁3💊3🦄2😱1💯1
Пользуясь случаем, поздравляю всех участников канала с неотвратимо наступающим! 🎩
Спасибо за то что читаете, репостите и даёте обратную связь в комментариях, всегда с интересом читаю ваши идеи и советы😍
🔝 Самый популярный пост: про сотовую связь в космосе.
⚠️ По уже ставшей ежегодной традицией, в комментариях к этой записи можно написать каких материалов на канале не хватает и вообще что бы вы хотели видеть - кто знает: быть может именно вы подкинете свежую идею?
Спасибо за то что читаете, репостите и даёте обратную связь в комментариях, всегда с интересом читаю ваши идеи и советы
Please open Telegram to view this post
VIEW IN TELEGRAM
6🎉24❤8🦄3
Embedded Doka
Single-LED interface или немного о UI/UX в девайсах Как давний пользователь девайсов, единственным UI которых является одноцветный светодиод, меня не покидает ощущение, что все их создатели пользовались одной методичкой (либо "списывали" друг у друга): …
Single-LED UI/UX interface в девайсах
Свыше двух лет назад поднимал эту тему (рекомендую к прочтению). И тту попался совершенное феерический
UX интерфейс одноцветного светодиода в хранилищах WD NAS.
Как говорится, добавив ШИМ к LED, получаем воистину безграничные возможности, а эта ваша азбука Морзе. Что в ассортименте:
▫️Выкл
▫️Вкл
▫️Медленное мерцание
▫️Быстрое мерцание
▫️Пульсация
▫️Быстрое моргание
- Странно что нет медленного моргания и непонятно как отличить мерцание от пульсации неподготовленному к таким развлечениям пользователю. Есть идеи по поводу того почему был выбран именно такой вариант ❓
(помимо классического: инженер - немного художник: он так видит 😆 )
@embedoka
Свыше двух лет назад поднимал эту тему (рекомендую к прочтению). И тту попался совершенное феерический
UX интерфейс одноцветного светодиода в хранилищах WD NAS.
Как говорится, добавив ШИМ к LED, получаем воистину безграничные возможности, а эта ваша азбука Морзе. Что в ассортименте:
▫️Выкл
▫️Вкл
▫️Медленное мерцание
▫️Быстрое мерцание
▫️Пульсация
▫️Быстрое моргание
- Странно что нет медленного моргания и непонятно как отличить мерцание от пульсации неподготовленному к таким развлечениям пользователю. Есть идеи по поводу того почему был выбран именно такой вариант ❓
(
@embedoka
😁13👍8❤3🤣2✍1🔥1🤔1😱1
Embedded Doka
Бенчмарк Whisper.cpp на 60-минутном файле с русской речью: ▫️large-v3 [GPU]: 15:40 (4x) ▫️large-v3-turbo [GPU]: 5:45 ▫️large-v3-turbo [GPU+NPU]: 3:20 (18x) Как видно из цифр и скрина: использование NPU (ANE - Apple Neural Engine) не только ускоряет инференс…
В свободное время начал шатать LLM'ки на локальном железе. Кажется еще чуть-чуть и пересекутся две кривые: доступность мощных и предобученных моделей для решения широкого круга задач (локально) и дешевое железо для их запуска.
Вот тут писали про использование Phi-4 для FPGA-разработки (там в комментариях еще сгенерённый код двухклокового FIFO). Что примечательно, эта Phi-4 по размеру влезает в стоковый Mac mini M4 за $600 и позволяет все эти же упражнения делать локально.
Сейчас у меня две платформы, чтобы потрогать разные LLM "дёшево и сердитои вмещается в рюкзак с ноутбуком 😅 ":
▫️Mac mini M4 (16GB 120GB/s)
▫️NUC-подобный х86 со встройкой Radeon 780M (96GB 60GB/s)
У эппла самая большая проблема - фикс размера ОЗУ (притом без 100% предоплаты доступны только базовые версии), но если всё упирается в её пропускную способность или есть возможность задействовать в дополнении к GPU еще и NPU (как в случае с Whisper) - тут конечно в своей ценовой категории мак мини вне конкуренции).
Еще наткнулся на довольно исчерпывающий бенчмарк LLM'ок на широком спектре оборудования. В конце бенчмарка приведено заключение:
▫️Покупайте геймерскую серию от NVIDIA, если хотите сэкономить
▫️Берите серверную версию NVIDIA, если у вас бизнесовые задачи
▫️Возьмите макинтош, если не хотите заморачиваться с обслуживанием и хотите тишины и энергоэффективности (и говорить всем, что у вас мак😃 )
❓Инженеры, а какие LLM и для каких задач вы используете локально на машине: поделитесь в комментариях.
@embedoka
Вот тут писали про использование Phi-4 для FPGA-разработки (там в комментариях еще сгенерённый код двухклокового FIFO). Что примечательно, эта Phi-4 по размеру влезает в стоковый Mac mini M4 за $600 и позволяет все эти же упражнения делать локально.
Сейчас у меня две платформы, чтобы потрогать разные LLM "дёшево и сердито
▫️Mac mini M4 (16GB 120GB/s)
▫️NUC-подобный х86 со встройкой Radeon 780M (96GB 60GB/s)
У эппла самая большая проблема - фикс размера ОЗУ (притом без 100% предоплаты доступны только базовые версии), но если всё упирается в её пропускную способность или есть возможность задействовать в дополнении к GPU еще и NPU (как в случае с Whisper) - тут конечно в своей ценовой категории мак мини вне конкуренции).
Еще наткнулся на довольно исчерпывающий бенчмарк LLM'ок на широком спектре оборудования. В конце бенчмарка приведено заключение:
▫️Покупайте геймерскую серию от NVIDIA, если хотите сэкономить
▫️Берите серверную версию NVIDIA, если у вас бизнесовые задачи
▫️Возьмите макинтош, если не хотите заморачиваться с обслуживанием и хотите тишины и энергоэффективности (и говорить всем, что у вас мак
❓Инженеры, а какие LLM и для каких задач вы используете локально на машине: поделитесь в комментариях.
@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
2👍16🤔5❤4🤪3✍1🫡1🦄1
Embedded Doka
В свободное время начал шатать LLM'ки на локальном железе. Кажется еще чуть-чуть и пересекутся две кривые: доступность мощных и предобученных моделей для решения широкого круга задач (локально) и дешевое железо для их запуска. Вот тут писали про использование…
Вдогонку к бенчмарку: классный онлайн-калькулятор, способный ответить на вопрос сколько вешать в граммах сколько точно памяти нужно для запуска того или иного инференса LLM-модели с учётом заданного квантования, KV-кеша, размера батча и много чего еще:
💾 https://llm-system-requirements.streamlit.app/
Очень здорово, что можно оценить размер хотелок заранее для тех, кто планирует локальную эксплуатацию инференса, и потихоньку начать копить на нужный сетап 💰
@embedoka
💾 https://llm-system-requirements.streamlit.app/
Очень здорово, что можно оценить размер хотелок заранее для тех, кто планирует локальную эксплуатацию инференса, и потихоньку начать копить на нужный сетап 💰
@embedoka
1✍10🔥4❤2
> ollama run deepseek-r1:70bQ: Сейчас 2025 год, мне 17 лет и я хочу выбрать карьерный путь: я решил что не буду получать высшее образование, а хочу заняться одним из двух: освоить программирование Arduino и разработку электроники или освоить Javascript и уйти в индустрию IT. Что ты бы мне мог посоветовать: что из этого более перспективно для карьеры?
A: В 2025 году, при выборе карьерного пути без высшего образования между освоением Arduino/электроники и JavaScript/IT, более перспективным вариантом будет изучение JavaScript и进入 IT-индустрии. Это связано с высоким спросом на специалистов в этой области, широким спектром вакансий и возможностью быстрого стартаthanks к большему количеству обучающих ресурсов и курсов. Однако, если вы увлечены электроникой и хотите создавать физические устройства, Arduino тоже может быть хорошим выбором, но с учетом нишевых рынков и необходимости дополнительных знаний в области аппаратного обеспечения. Удачи в вашей карьере!
(на скрине режим
<think> "внутреннего диалога" LLMки? 🤯)@embedoka
🤷♂10😁6👍4💯2✍1❤1🌚1😭1
USB-B male to Type-C female
Вот он: переходник мечты моей 😍
Нужен такой кабель раз в ~10 лет, но когда становится нужен - не найдёшь 😭
А тут компактное решение в виде адаптера: можно хранить в коробке с переходниками или прямо в USB-B порте тех девайсов, для которых он может понадобиться 🙃
PS: На али в ассортименте и нонейм варианты задёшево (искать по
@embedoka
Вот он: переходник мечты моей 😍
Нужен такой кабель раз в ~10 лет, но когда становится нужен - не найдёшь 😭
А тут компактное решение в виде адаптера: можно хранить в коробке с переходниками или прямо в USB-B порте тех девайсов, для которых он может понадобиться 🙃
PS: На али в ассортименте и нонейм варианты задёшево (искать по
printer adapter usb type-c)@embedoka
2🔥34👍10🤯5💊3✍2😱2❤1🎉1🤪1
Для меня это столь же мило как и пасхалочки в топологии микросхем 😃
Ну и, конечно, "национальность" патента угадывается с первой картинки, а кому интересны подробности вот фулл:
🗒 Method and apparatus for brain wave inducing system
#пятничное
@embedoka
Ну и, конечно, "национальность" патента угадывается с первой картинки, а кому интересны подробности вот фулл:
🗒 Method and apparatus for brain wave inducing system
#пятничное
@embedoka
Please open Telegram to view this post
VIEW IN TELEGRAM
❤25🤪10🔥6🦄3🤯1🌚1😈1🫡1
Попалось в рекомендациях видео с интересной точкой зрения (вполне годно смотреть на 2х).
Вспомнил как мне 15 лет назад рассказывали про ежегодный ритуал кровопускания в московском Huawei:
каждый год компания избавляется от 10-15% инженерного штата, чтобы эти места заняли новые сотрудники.
Кажется, и там и тут целеполагание одно: получить более мотивированных сотрудников (что в принципе имеет место быть: сравните производительность сотрудника на испытательном сроке и после 10ти лет в компании (или вспомните себя в таком кейсе)).
@embedoka
Вспомнил как мне 15 лет назад рассказывали про ежегодный ритуал кровопускания в московском Huawei:
каждый год компания избавляется от 10-15% инженерного штата, чтобы эти места заняли новые сотрудники.
Кажется, и там и тут целеполагание одно: получить более мотивированных сотрудников (что в принципе имеет место быть: сравните производительность сотрудника на испытательном сроке и после 10ти лет в компании (или вспомните себя в таком кейсе)).
@embedoka
YouTube
Почему компания не повышает, а меняет сотрудников?
🍀 Записаться на карьерную консультацию: https://pasha.consulting
🍷 По любым вопросам: t.me/PavelGoro
🍷 По любым вопросам: t.me/PavelGoro
🤔6👍5💊4🤯2✍1🌚1🫡1