Использовать Spark для BOINC нет смысла, несмотря на наличие CUDA ядер. Он определяется во многих проектах как generic GPU for Linux и не получает задания. А где получает (Asteroids, например), то работает отнсительно медленно, потому что GPU проекты в BOINC как правило зависимы от скорости памяти. То есть основное преимущество Spark (объём видеопамяти) не используется, а основной недостаток (скорость видеопамяти) понижает эффективность.
Может в PrimeGrid или Amicable (где скорость памяти не критича) он будет полезен, но в целом вряд ли будет лучше обычной домашней системы с GPU:
Может в PrimeGrid или Amicable (где скорость памяти не критича) он будет полезен, но в целом вряд ли будет лучше обычной домашней системы с GPU:
Forwarded from Закиев Василь. (AI)ron manager (Vasil Zakiev)
Собираем домашний LLM‑сервер
Неделя вышла плотной, писал мало. Исправляюсь: поизучал «настольный» DGX Spark от Nvidia. Мини-компьютер как базу для домашнего LLM‑сервера .
Короткий вывод: Spark — это про объёмные модели, а не про скорость генерации. Для повседневного офлайнового инференса компактнее и быстрее обычный ПК или мини‑ПК + внешний док под десктоп‑GPU. Выйдет быстрее и дешевле.
Почему так
– У Spark 128 ГБ унифицированной памяти, поэтому влезут большие модели. Их ещё можно объединять в ферму по оптике (кабель 15000₽), а значит доступной памяти станет больше. Для сравнения у RTX 4090 будет 24GB, у 5090 будет 32 ГБ.
– Но память LPDDR5x ~273 ГБ/с — скорость памяти станет узким местом для быстрой работы ИИ. Для сравнени RTX 5090 используется GDDR7 с ~1.8 ТБ/с, почти на порядок быстрее.
– Цена: Spark — $3 999. За те же деньги можно укомплектовать мини‑ПК + док + 5080 (а если повезёт — и 5090), получив почти на порядок более высокую скорость работы ИИ.
– Spark логичен, когда нужна ёмкость: дообучение (LoRA/QLoRA) и работа с большими моделями 70b–200b
Альтренативы для дома:
🛠️ Beelink GTi‑линейка + EX Pro Dock (прямой PCIe 5.0 ×8, БП 600 Вт
🛠️ GPU:
– RTX 5090 — максимум по скоростям, но близко к лимиту по питанию дока и может не влезть по размерам, надо смотреть по производителю
– RTX 5080 — проще по теплу/ваттам, 16 ГБ достаточно для 8–14и моделей и аккуратно подобранных 30–33b моделей
Вывод
Для «домашнего/офисного» LLM‑сервера я бы не покупал Spark. Скорее — мини‑ПК + док + 5080/5090 или собирал бы обычный домашний компьютер. Spark нужен тем, кому важнее влезть в очень большие модели или обучать их. Пусть и медленно
##ИИ
Неделя вышла плотной, писал мало. Исправляюсь: поизучал «настольный» DGX Spark от Nvidia. Мини-компьютер как базу для домашнего LLM‑сервера .
Короткий вывод: Spark — это про объёмные модели, а не про скорость генерации. Для повседневного офлайнового инференса компактнее и быстрее обычный ПК или мини‑ПК + внешний док под десктоп‑GPU. Выйдет быстрее и дешевле.
Почему так
– У Spark 128 ГБ унифицированной памяти, поэтому влезут большие модели. Их ещё можно объединять в ферму по оптике (кабель 15000₽), а значит доступной памяти станет больше. Для сравнения у RTX 4090 будет 24GB, у 5090 будет 32 ГБ.
– Но память LPDDR5x ~273 ГБ/с — скорость памяти станет узким местом для быстрой работы ИИ. Для сравнени RTX 5090 используется GDDR7 с ~1.8 ТБ/с, почти на порядок быстрее.
– Цена: Spark — $3 999. За те же деньги можно укомплектовать мини‑ПК + док + 5080 (а если повезёт — и 5090), получив почти на порядок более высокую скорость работы ИИ.
– Spark логичен, когда нужна ёмкость: дообучение (LoRA/QLoRA) и работа с большими моделями 70b–200b
Альтренативы для дома:
🛠️ Beelink GTi‑линейка + EX Pro Dock (прямой PCIe 5.0 ×8, БП 600 Вт
🛠️ GPU:
– RTX 5090 — максимум по скоростям, но близко к лимиту по питанию дока и может не влезть по размерам, надо смотреть по производителю
– RTX 5080 — проще по теплу/ваттам, 16 ГБ достаточно для 8–14и моделей и аккуратно подобранных 30–33b моделей
Вывод
Для «домашнего/офисного» LLM‑сервера я бы не покупал Spark. Скорее — мини‑ПК + док + 5080/5090 или собирал бы обычный домашний компьютер. Spark нужен тем, кому важнее влезть в очень большие модели или обучать их. Пусть и медленно
##ИИ
🔥3👍1
#PrimeGrid
Иногда в ленте PrimeGrid всплывают странные статусы новых простых чисел: PRP и Proven.
🔹 PRP (Probable Prime) — быстрый тест «похоже на простое».
Алгоритмы вроде Genefer для GFN-чисел или LLR для Proth-форм гоняют GPU и CPU, чтобы отсеять составные. Это ещё не доказательство, но вероятность ошибки меньше, чем шанс выиграть в лотерею.
🔹 Proven — уже настоящее доказательство:
через ECPP (эллиптические кривые), LLR-протоколы с верификацией или старый добрый сертификат Пратта. Тут результат можно проверить независимо — значит, простота доказана.
Разница во времени между PRP и proven — это не баг, а нормальный цикл: сначала находят кандидата, потом долго и нудно доказывают.
🔗 PrimeGrid project page: https://www.primegrid.com/
🔗 PrimeWiki (объяснение статусов): https://www.primegrid.com/wiki/
🔗 ECPP алгоритм на MathWorld: https://mathworld.wolfram.com/EllipticCurvePrimalityProving.html
Иногда в ленте PrimeGrid всплывают странные статусы новых простых чисел: PRP и Proven.
🔹 PRP (Probable Prime) — быстрый тест «похоже на простое».
Алгоритмы вроде Genefer для GFN-чисел или LLR для Proth-форм гоняют GPU и CPU, чтобы отсеять составные. Это ещё не доказательство, но вероятность ошибки меньше, чем шанс выиграть в лотерею.
🔹 Proven — уже настоящее доказательство:
через ECPP (эллиптические кривые), LLR-протоколы с верификацией или старый добрый сертификат Пратта. Тут результат можно проверить независимо — значит, простота доказана.
Разница во времени между PRP и proven — это не баг, а нормальный цикл: сначала находят кандидата, потом долго и нудно доказывают.
🔗 PrimeGrid project page: https://www.primegrid.com/
🔗 PrimeWiki (объяснение статусов): https://www.primegrid.com/wiki/
🔗 ECPP алгоритм на MathWorld: https://mathworld.wolfram.com/EllipticCurvePrimalityProving.html
👍2
Помочь Карибам после урагана
Zooniverse запустил срочный проект по анализу спутниковых снимков после урагана Melissa (категория 5).
Нужно быстро определить, где дороги, мосты, аэропорты и порты разрушены или заблокированы — чтобы гуманитарные службы могли планировать маршруты доставки помощи.
🛰️ Данные — от Planet Labs, разрешение 3 м.
🎯 Задача — отметить на фото, где есть обломки, затопления или разрушения.
📍 Даже если сомневаетесь — всё равно классифицируйте: каждый снимок проверяют несколько участников.
Проект здесь: zooniverse.org/projects/alicemead/planetary-response-network-hurricane-melissa-2025/classify
Ураган прошёл через Ямайку, Кубу, Гаити и Доминикану – и сейчас помощь зависит от того, как быстро волонтёры помогут разметить снимки.
Zooniverse запустил срочный проект по анализу спутниковых снимков после урагана Melissa (категория 5).
Нужно быстро определить, где дороги, мосты, аэропорты и порты разрушены или заблокированы — чтобы гуманитарные службы могли планировать маршруты доставки помощи.
🛰️ Данные — от Planet Labs, разрешение 3 м.
🎯 Задача — отметить на фото, где есть обломки, затопления или разрушения.
📍 Даже если сомневаетесь — всё равно классифицируйте: каждый снимок проверяют несколько участников.
Проект здесь: zooniverse.org/projects/alicemead/planetary-response-network-hurricane-melissa-2025/classify
Ураган прошёл через Ямайку, Кубу, Гаити и Доминикану – и сейчас помощь зависит от того, как быстро волонтёры помогут разметить снимки.
🔥2