В ollama появился qwen3.8-flash-next:125b-mlx для скачивания!

113 гигов

#qwen #ollama
———
@tsingular

Label Studio научилась размечать документы в DocLang

IBM вместе с HumanSignal выкатили связку для работы с документами: у Label Studio появился интерфейс разметки прямо на страницах и нативный экспорт в DocLang. Это первая платформа разметки с поддержкой открытого стандарта.

🔧 Как устроено:
В чём засада: публичные датасеты никогда не похожи на ваши настоящие бумаги. Поэтому цикл оптимизировали под свои документы:
собираете выборку из своих счетов, договоров и отчётов
Docling через бекенд IBM watsonx сам делает первичную разметку
человек правит предсказание: рамки элементов, порядок чтения, таблицы со склеенными ячейками
вкладка DocLang в реальном времени показывает XML и превью страницы
на выходе архив .dclx со структурой и картинками страниц
Поправить готовое предсказание заметно быстрее, чем размечать с чистого листа.

📊 Зачем оно нужно:
Итог разметки: ваш собственный золотой набор сразу под две задачи.
Первая: гонять каждую новую версию Docling на своих документах и ловить регрессии до продакшна.
Вторая: собирать примеры под файнтюн своих форматов.
Бонусом: бумаги с низкой уверенностью уходят человеку на проверку и возвращаются правильным DocLang.

🌐 Контекст:
DocLang это открытый стандарт представления документов от LF AI & Data, запущенный в июне.
Стандарт поддержан IBM, NVIDIA, Red Hat, ABBYY и HumanSignal.
И теперь у него появился первая независимая реализация в Starter Cloud и Enterprise подписках у Label Studio с пробным периодом в две недели.
Новый аккаунт watsonx даёт 30 дней и 5000 страниц бесплатно.

📎 https://humansignal.com/blog/docling-labelstudio/

Понятно, что у нас это не применишь, но интересно как вектор развития и поскольку стандарт открытый, - можно залабать свою версию.

#DocLang #разметка #OCR #Docling #IBM #LabelStudio
———
@tsingular

По мне так это лучше, чем поезд с мемами :)

#юмор #нейрорендер
------
@tsingular

И Unsloth такие - ХОБА! :)

Dynamic 2-bit UD-Q2_K_XL is 109GB, is 83% smaller and retains 78% of accuracy.

Dynamic 3-bit UD-IQ3_XXS is 120GB, is 81% smaller and retains 82% of accuracy.

Dynamic 4-bit UD-Q4_K_XL is 200GB, is 69% smaller and retains 93% of accuracy.

Вот всё для людей.
не расслабляемся, тестируем :)

https://unsloth.ai/docs/models/glm-5.3-flash
https://huggingface.co/unsloth/GLM-5.3-Flash-GGUF

Но вообще это конечно странная игра.
Если взять к примеру TerminalBench у 5.3-flash в базе - 84,3 - 78% от неё (Q2) - это 65.5

В то же время Qwen3.8:27b в базе без сжатия взлетает на том же железе с базовым скором - 73
не понятно зачем тогда все эти пляски с бубном

#Unsloth #GLM
———
@tsingular

Восстание машин отменяется. :)

С таким чувством самосохранения они далеко не уедут.

#юмор
———
@tsingular

Полное ощущение цифрового сотрудника :)

А мне продолжают приходить запросы - что такое Гермес, ни разу не слышал.

А я уже не представляю как вообще люди могут жить без ИИ ассистентов.

#Hermes #мысли
------
@tsingular

Кстати. по ходу работы из промптописания выкристаллизовываются такие полезные короткие фразы типа "make no mistakes", - "prefer oneliners and ternary operators" (ну люблю я такое в коде)
"be concise" - это что бы он был краток и сжат ( еще и токены экономит, кстати)

так вот вывел еще одну полезную "добавку" к промпту минимального размера:

"не верь словам, проверяй логи"

легко запомнить, но повышает качество в разы, снижая ошибки типа когда он сам себе докладывает, что справился или субагенты врут, что все ок.

коротко и ясно.

А у вас есть такие лайфхаки? делитесь! :)

#lifehack #промпты
———
@tsingular

А вот один из самых первых постов на канале.
кто бы тогда мог подумать, что GLM порвёт все открытки :)

#GLM #2023
———
@tsingular

Можно бесконечно смотреть как горит огонь, течёт вода и как Гермес поднимает кубер в кластере для запуска роя Гермесов :)

Справился, ты посмотри
Модель GLM 5.3 Flash по API

в кубере - оллама

#Гермес #инфраструктура
———
@tsingular

Стартап Architect Labs за две недели спроектировал чип, который «обгоняет NVIDIA»

Architect Labs, стартап из Пало-Альто с посевным раундом 24 млн долларов, заявил, что его ИИ-система за две недели спроектировала, проверила и развернула чип Redwood для маломощного физического ИИ.

📋 Redwood построен на плиточной архитектуре с вычислениями у памяти. ИИ сам сгенерировал RTL, UVM-верификацию, формальные доказательства, прошивку, драйверы и ядра, оптимизируя модель, софт и кремний в одном цикле:
• 3,4x лучшей энергоэффективности, чем NVIDIA Jetson, на моделях Llama, Qwen и Kimi
• от спецификации до развёртывания прошло две недели
• среди инвесторов Джефф Дин из Google и выходцы из OpenAI и NVIDIA

💡 Настоящего кремния пока нет: дизайн тестировали на плате AMD Versal FPGA, а 3,4x это симуляционная проекция под будущий 8-нм ASIC. Любопытно другое: запустив модель на Redwood, ИИ нашёл способы улучшить этот же чип. Замыкается цикл, где лучший ИИ проектирует лучшие чипы для запуска лучшего ИИ.

💼 Последствия:
• удар по бизнесу заказных чипов Broadcom и Marvell, которые зарабатывают десятки миллиардов в год на ускорителях
• если симуляция сойдётся с реальным кремнием, цикл проектирования сожмётся с лет до недель

Когда ИИ начнёт улучшать железо, на котором сам же и работает,- не это ли признак настоящей сингулярности? 🤖

#AI #чипы
------
@tsingular [MAX]

OpenAI, Anthropic и ещё сотня компаний: коллективный призыв к киберзащите

OpenAI опубликовала открытое письмо с призывом к коллективной киберзащите, и под ним подписались больше 100 организаций: конкуренты Anthropic, Google и Microsoft, облака AWS и Oracle, CrowdStrike и Palo Alto Networks, банки Citi и Visa, производители чипов AMD и Arm.

Подписался и Hugging Face, которого в июле взломали модели самой OpenAI.

В ближайшие месяцы AI-атаки станут заметно шире и изощрённее, и у защитников есть короткое окно, чтобы залатать накопленные дыры раньше, чем атакующие получат те же модели.
Авторы называют этот период «окном защищающихся».

Определяют четыре группы:

• Организации: сделать киберзащиту приоритетом руководства, закрыть самые опасные уязвимости и поднять планку для кода, написанного AI: минимальные права и эшелонированная защита.

• Компании кибербезопасности и техпартнёры: непрерывно проводить сложные пентесты, сделать AI-оборону доступной операторам критической инфраструктуры и делиться данными об угрозах и готовыми сценариями реагирования.

• Правительства: координировать оборону на всех уровнях, финансировать защиту больниц, водоканалов и муниципалитетов, дать им доступ к защищающему AI и наказывать атакующих.

• Передовые AI-компании: обеспечить ответственный контроль доступа к моделям, выделить деньги на обучение (людей), сделать агентные идентичности отслеживаемыми и делиться инструментами и оценками угроз.

💼 Конкуренты впервые подписывают общий документ по безопасности с фокусом на защиту.
Интересно, конечно как быстро среагируют адресаты и услышат ли вообще.

#OpenAI #cybersecurity
———
@tsingular [MAX]

Знаете же притчу о круге знаний Сократа?

кто не знает, - напомню:

Говорят, что ученик как-то сказал Сократу:
- учитель, почему Вы так часто говорите не знаю? Я, Ваш ученик, говорю не знаю гораздо реже.
В ответ Сократ нарисовал два круга - большой и маленький и сказал:
- Внутри большого круга то, что знаю я, внутри маленького - то, что знаешь ты. На границе большого круга - то, чего не знаю я, на границе малого круга - то, что не знаешь ты. Как видишь, я не знаю гораздо больше, чем ты.

Вот со всей этой историей с ИИ, AGI, ASI такая вот анимация нарисовалась.

Т.е. сначала люди знают больше чем ИИ, потом примерно на равных, дальше - ИИ начнёт делать открытия, которые мы перестанем понимать и даже осознать их не способны будем в принципе, но границы непознанного продолжат расширяться.

HTML и mp3 в комментарии

#мысли #AGI #ASI #Сократ
———
@tsingular

Через час зарелизят веса полной версии GLM 5.3

https://huggingface.co/zai-org/GLM-5.3

Что с ними делать, только не понятно. Там же терабайты VRAM понадобятся...

Переименовывать в ГлмЧАТ если только ;)

#GLM
------
@tsingular