Как запустить LLM с нуля и сохранить бюджет ⁉️
Предобучение моделей с нуля — самый дорогой этап в ML-инжиниринге. Метод Token Superposition Training (TST) помогает сократить реальное время обучения в 2–3 раза при фиксированных FLOPs. А главный профит подхода — экономия GPU-часов в 2,5 раза.
Экономика — первое, о чем думают при внедрении ИИ. Каждая лишняя токенизация и стиль автоматизации может влиять на финансы, а не только на точность модели.
Мы решили разобраться, что влияет на экономику современных нейросетей. Заглядывайте в майский ML-дайджест — за свежими архитектурными подходами, новым железом и софтом 👾
Предобучение моделей с нуля — самый дорогой этап в ML-инжиниринге. Метод Token Superposition Training (TST) помогает сократить реальное время обучения в 2–3 раза при фиксированных FLOPs. А главный профит подхода — экономия GPU-часов в 2,5 раза.
Экономика — первое, о чем думают при внедрении ИИ. Каждая лишняя токенизация и стиль автоматизации может влиять на финансы, а не только на точность модели.
Мы решили разобраться, что влияет на экономику современных нейросетей. Заглядывайте в майский ML-дайджест — за свежими архитектурными подходами, новым железом и софтом 👾
🔥9
Чтобы воплотить это в реальность, оставьте заявку на грант до 30 июня. Десять участников получат до 2 000 000 ₽ на развитие своих ИИ-проектов.
🔥10❤6👌3👏2
Он все видит 👀
Речь не про всевидящее око, а системного администратора, который использует IPMI-мониторинг. Технология позволяет удаленно подключиться к серверу и отслеживать его состояние.
Бонус — затраты на обслуживание серверных систем снижаются за счет ускорения диагностики и автоматизации рутинных задач.
🔥 — если хотите узнать, как IPMI-мониторинг может упростить администрирование на ваших проектах
Речь не про всевидящее око, а системного администратора, который использует IPMI-мониторинг. Технология позволяет удаленно подключиться к серверу и отслеживать его состояние.
Бонус — затраты на обслуживание серверных систем снижаются за счет ускорения диагностики и автоматизации рутинных задач.
🔥 — если хотите узнать, как IPMI-мониторинг может упростить администрирование на ваших проектах
🔥22❤🔥3💯3❤1
Теперь вы тоже все видите 👀
Если у вас настроен IPMI или IP-KVM. Звучит похоже, но все-таки важно понимать разницу между инструментами.
IPMI (Intelligent Platform Management Interface) — это встроенный «черный ящик» сервера и заточен под мониторинг. Он работает независимо от операционной системы, BIOS или работы процессора. Вы можете удаленно перезагрузить сервер, если зависла ОС, или поискать причину выхода из строя CPU в журнале системных событий. Управлять можно даже выключенным сервером, например, через KVM-консоль, ― достаточно того, что сервер подключен к электрической сети.
IP-KVM (Keyboard, Video, Mouse over IP) работает иначе. Ведь это внешнее физическое устройство, которое сисадмины подключают к серверу в дата-центре. Уже через веб-интерфейс вы можете открыть видеоконсоль, управлять вводом и загрузить ISO-образ. То есть действовать так, будто стоите перед сервером. Здесь подробнее рассказали, как IP-KVM работает в наших дата центрах.
Арендуйте выделенный сервер в Selectel с техподдержкой 24/7➡️
Если у вас настроен IPMI или IP-KVM. Звучит похоже, но все-таки важно понимать разницу между инструментами.
IPMI (Intelligent Platform Management Interface) — это встроенный «черный ящик» сервера и заточен под мониторинг. Он работает независимо от операционной системы, BIOS или работы процессора. Вы можете удаленно перезагрузить сервер, если зависла ОС, или поискать причину выхода из строя CPU в журнале системных событий. Управлять можно даже выключенным сервером, например, через KVM-консоль, ― достаточно того, что сервер подключен к электрической сети.
IP-KVM (Keyboard, Video, Mouse over IP) работает иначе. Ведь это внешнее физическое устройство, которое сисадмины подключают к серверу в дата-центре. Уже через веб-интерфейс вы можете открыть видеоконсоль, управлять вводом и загрузить ISO-образ. То есть действовать так, будто стоите перед сервером. Здесь подробнее рассказали, как IP-KVM работает в наших дата центрах.
Арендуйте выделенный сервер в Selectel с техподдержкой 24/7
Media is too big
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Взяли и сделали
Повысили отказоустойчивость SaaS-сервиса 🤩
Представьте, ваш сервис постоянно растет, а число клиентов уже выше 150 000 человек. Дальнейший логичный шаг — масштабирование и запуск ИИ-агентов. В таком случае особенно важно подобрать надежные мощности и повысить отказоустойчивость сервисов.
Такой путь прошла команда YouGile, российского сервиса управления проектами. После миграции на инфраструктуру Selectel платформа стала надежнее справляться с высокими нагрузками до 7 000 RPS.
Тоже задумываетесь об обновлении IT-инфраструктуры, чтобы повысить производительность? Получите до 1 000 000 бонусов на бесплатный переезд➡️
Повысили отказоустойчивость SaaS-сервиса 🤩
Представьте, ваш сервис постоянно растет, а число клиентов уже выше 150 000 человек. Дальнейший логичный шаг — масштабирование и запуск ИИ-агентов. В таком случае особенно важно подобрать надежные мощности и повысить отказоустойчивость сервисов.
Такой путь прошла команда YouGile, российского сервиса управления проектами. После миграции на инфраструктуру Selectel платформа стала надежнее справляться с высокими нагрузками до 7 000 RPS.
Тоже задумываетесь об обновлении IT-инфраструктуры, чтобы повысить производительность? Получите до 1 000 000 бонусов на бесплатный переезд
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7🔥1😍1