Соответственно будем покорять llmки :)
🔥26❤6💯5
‼️«Романтическая эпоха» математики закончилась, заявил вундеркинд из Калифорнийского университета в Лос-Анджелесе
OpenAI начала свое резкое вторжение в эту область, решив в начале сентября уравнение Навье — Стокса — одну из математических задач тысячелетия.
☝️И это так к сожалению... Примерно как с шахматами.
OpenAI начала свое резкое вторжение в эту область, решив в начале сентября уравнение Навье — Стокса — одну из математических задач тысячелетия.
☝️И это так к сожалению... Примерно как с шахматами.
💯26🔥23
В NVFP4 модель Qwen 3.8 Next Flash влазит на одну видеокарту 6000 pro max-q вместе с контекстом на 262144 токена и поддержкой нескольких агентов одновременно.
Загрузил сразу 4 модели на каждую из карт по штуке...
Интересно... в FP8 на unslove почему то влазило на 2 карты... может что-то настраивал не так.
☝️ Для тех у кого сборка на одну карту например, очень даже рабочий вариант.. модель шпарит в кодинге очень хорошо.
Загрузил сразу 4 модели на каждую из карт по штуке...
Интересно... в FP8 на unslove почему то влазило на 2 карты... может что-то настраивал не так.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥33💯5
По движку Strata... Обсуждали его в нашем чате.
Движок позволяет запускать модели на слабом железе.
Какие у него плюсы:
- позволяет работать на слабом железе с достаточно мощными моделями вроде Qwen 3.8 next flash
- какие минусы:
1️⃣ Предназначен именно для слабого железа, что на сильных сборках выливается в минусы.
2️⃣ многопоточность не реализована, всё заточено под один быстрый запрос. Это скорее для чата, чем для агентской работы
3️⃣ Применяется например 3 квантование. Некоторые режущие точность ускорялки. Т.е. ради скорости ряд методов ускорения серьёзно бьёт по точности моделей. Что для ряда задач не допустимо.
☝️ Однако полезные вещи там тоже есть. Даже нарыл то что точность не уменьшает, а увеличивает...
Перетащил эти отдельные вещи в свой движок...
Движок позволяет запускать модели на слабом железе.
Какие у него плюсы:
- позволяет работать на слабом железе с достаточно мощными моделями вроде Qwen 3.8 next flash
- какие минусы:
1️⃣ Предназначен именно для слабого железа, что на сильных сборках выливается в минусы.
2️⃣ многопоточность не реализована, всё заточено под один быстрый запрос. Это скорее для чата, чем для агентской работы
3️⃣ Применяется например 3 квантование. Некоторые режущие точность ускорялки. Т.е. ради скорости ряд методов ускорения серьёзно бьёт по точности моделей. Что для ряда задач не допустимо.
Перетащил эти отдельные вещи в свой движок...
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11❤4💯3
This media is not supported in your browser
VIEW IN TELEGRAM
🔥16❤5💯1
Сейчас работает 15 агентов по написанию когда одновременно. со скоростью под тысячу токенов в секунду общей.
◾️"Позабыты хлопоты, остановлен бег,
Вкалывают роботы, а не человек." (с)
Как будто бы до настоящих приключений электроника осталось не так уж и долго 😂😂😂
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥35💯14❤8
Это когда делаешь движок свой. Если не замерять точность на каждом шагу, можно получить классную скорость. а потом окажется что у моделей глюков стало больше на порядок :)
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥28💯10❤1
This media is not supported in your browser
VIEW IN TELEGRAM
🔥32💯2❤1
Председатель Европейского совета Антониу Кошта направил главам государств и правительств стран ЕС письмо-приглашение на неформальную встречу в Дублине 13 ноября.
Текст письма во вторник вечером опубликовала пресс-служба Евросовета.
"В центре нашего внимания будет находиться искусственный интеллект (ИИ). (...) На заседании Европейского совета в марте мы подчеркнули: для стимулирования роста в Европе крайне важно направлять инвестиции в технологии будущего и ускорять инновационные процессы. Учитывая стремительное развитие ИИ, считаю, что пришло время провести первое предметное обсуждение на уровне лидеров - как о возможностях, которые открывает ИИ, так и о его преобразующем влиянии на наши экономики и общества", - говорится в послании Кошты.
Объясняя порядок работы неформального саммита, глава Евросовета сообщил, что лидеры выслушают двух приглашенных экспертов и обменяются с ними мнениями. Первым выступит Артюр Менш, генеральный директор компании Mistral AI.
"Мы обсудим позиции Европы в глобальной сфере ИИ, а также стратегические задачи, стоящие перед нами для укрепления конкурентоспособности и обеспечения "суверенитета в области ИИ", - написал Кошта.
Текст письма во вторник вечером опубликовала пресс-служба Евросовета.
"В центре нашего внимания будет находиться искусственный интеллект (ИИ). (...) На заседании Европейского совета в марте мы подчеркнули: для стимулирования роста в Европе крайне важно направлять инвестиции в технологии будущего и ускорять инновационные процессы. Учитывая стремительное развитие ИИ, считаю, что пришло время провести первое предметное обсуждение на уровне лидеров - как о возможностях, которые открывает ИИ, так и о его преобразующем влиянии на наши экономики и общества", - говорится в послании Кошты.
Объясняя порядок работы неформального саммита, глава Евросовета сообщил, что лидеры выслушают двух приглашенных экспертов и обменяются с ними мнениями. Первым выступит Артюр Менш, генеральный директор компании Mistral AI.
"Мы обсудим позиции Европы в глобальной сфере ИИ, а также стратегические задачи, стоящие перед нами для укрепления конкурентоспособности и обеспечения "суверенитета в области ИИ", - написал Кошта.
🔥3💯3❤1