Q6 практически не отличим от Q8, и на деле мало отличается от Q4. Но самое интересное — Q3_XXS не катастрофа.

Это так для малых моделей, а для средних это еще лучше.

Q6_K привязывает Q8_0 ко второму знаку после запятой, поэтому самый большой файл в рейтинге здесь ничего не добавляет.

Особенно выделяется UD-IQ3_XXS: 92,7 из 93,7 по Q8 при работе с файлом размером 11,1 ГБ со скоростью 96 токов/с, что позволяет уместить плотный файл объемом 27B в лимит карты объемом 16 ГБ практически с полным качеством.

https://x.com/witcheer/status/2088940018144326007?s=20

У Qwen3.8-27B космический интеллект для ее размера. Примерно как у DeepSeek V4 Flash.

Народ пытается отойти от шока. И не может.

Savvy?

Новости.

Это оценки за домашние работы против оценок на экзамене.

Заново качайте 3.8-27B короче.

Очередь, понимаете-ли, на Mac Studio.

В комментах пишут что этот дефицитный товар можно загнать на eBay за большие деньгию

Попытки надуть пузырь вокруг VR и "метавселенных" промните? Цук тогда так впечатлился, что компанию в "мета" переименовал.

Ну вот.

Qwen 3.8 Low and Medium are goated

Artificial Analysis just benchmarked them and the scores are crazy good, proving the earlier success wasn't only enabled by overthinking.

Восторги вокруг Qwen 3.8-27B не только не утихают, но становятся больше.

Народ говорит это первая модель от которой есть прям реальная польза.

Об опыте использования Hindsight

Ну в общем что. У меня достаточно практического опыта с Hermes + Hindsight чтобы заключить, что это прям из коробки довольно полезная штука. И я примерно научился ее готовить. Примерно.

Есть нюансы. Эта штука — по сути прототип. И заставить ее работать не так просто. Самое главное, конечно, даже не пытаться заменять gpt-oss-20b на что-то другое.

И второе — для ее работы нужен нехилый GPU чтобы завести там reranker и gpt-oss-20b (сопротивление бесполезно). Желательно конечно сами понимаете — R9700 32GB. В 3090 24GB наверное тоже можно упихать.

И третье — для нее нужен локальный агент, например Hermes Agent, и подписка на нормальную фронтир модель в облаке. Это всего лишь память.

В общем надо подумать с чего начать рассказывать. Тема агонь.

О дефиците памяти. Это, конечно, сговор. Когда поставки контролируют три компании, это не рынок.

🦔Компании, занимающиеся искусственным интеллектом, предварительно заказали почти все мировое производство оперативной памяти на 2027 год. Цены выросли примерно на 500% за 12 месяцев: комплект DDR5 на 64 ГБ подскочил с 191 доллара до более чем 1100 долларов США, а комплект на 128 ГБ вырос с 329 до 3399 долларов США. Чипы DRAM теперь стоят более чем в два раза меньше за килограмм, чем золото. Производители ПК и смартфонов конкурируют за все, что осталось, и генеральный директор SK Hynix предупредил, что 2027 год будет худшим годом для поставок памяти в истории отрасли.

https://x.com/hedgiemarkets/status/2091200243324911670?s=61

Чем дороже становится ваше устройство, тем труднее иметь достаточно мощный, чтобы делать что-либо локально, и тем больше вы зависите от облачных сервисов и подписок на все. Игры, хранилище, программное обеспечение, вычисления, все арендовано, а не принадлежит. Компании, которые покупают всю оперативную память, - это те же самые, которые хотели бы продать вам подписку. Чем больше будет стоить ваш следующий ноутбук, тем легче уговорить вас арендовать все из облака. Нехватка искусственного интеллекта не создала эту игру, но она определенно ускорила ее.

Три компании контролируют около 90% глобальных DRAM, Samsung, SK Hynix и Micron. Samsung и Hynix имеют уголовные судимости за установление цен на оперативную память в начале 2000-х годов, они заплатили около 485 миллионов долларов штрафов, а руководители отсидели тюремное заключение. Общеотраслевые штрафы превысили 730 миллионов долларов. Микрон был частью этого, но выдал всех и ушел. Теперь новый коллективный иск утверждает, что те же три использовали сдвиг ИИ в качестве прикрытия для сокращения производства потребительской памяти и завышения цен. Дело не доказано, но когда компании с таким послужным списком в два-три раза превышают маржу, продавая центры обработки данных ИИ, в то время как вы платите на 500% больше за тот же продукт, "только спрос и предложение" - это сложная продажа.

Хеджи🤗

О веб-поиске для ИИ агентов

Как известно, языковые модели сами ничему не учатся, и если вы хотите чтобы они знали что происходит в мире, и поменьше галлюцинировали — они должны искать в сети. Прям как люди.

Однако поиск сети агентом — "Это другое" (тм). И если у вас локальный агент — это проблема.

Во-первых, он платный. Хотя, конечно, есть и бесплатный от DuckDuckGo.

Во-вторых, и это изумительно — к поиску нужна способность читать страницы которые найдены. И это тоже не бесплатно. Хотя можно поставить локально Fireclawl только для этого, и это станет бесплатно.

В-третьих, Brave это конечно лучший традиционный поиск доступный для агента, однако в реальных агентских сценариях он проигрывает, кроме того – он дорогой, и не дает этого самого чтения из пункта 2 (web_fetch).

Если вы пользуетесь Hermes, cамое простое и дешевое это Firecrawl, и дешевле его покупать у Nous, просто занеся денег на бесплатный план. Должно выйти на несколько чашек кофе в месяц. Модели и подписку у них покупать не надо, я во всяком случае не вижу зачем.

Такое в общем. Если кто жадный и принципиальный — DuckDuckGo + локальный Firecrawl.

Кстати, hindsight внутри неподдерживаемый кусок говна. Его, судя по всему, вайбкодят люди не очень хорошо знающие питон.

Я почему это понял? А я решил их промпты немного поправить. И там такое дело. Промпт для извлечения фактов из текста собирается конкатенацией в файле под 3 тысячи строк.

В принципе, рефакторинг в XP стиле делается с LLM на счет раз, так что привести это в порядок совсем не так трудно как кажется. Если умеешь читать код и знаешь что такое хорошо, а что такое плохо.

Да только боюсь не примут у меня такой PR. Но если разбить на мелкие шаги, то может кстати и примут. Первое, наверное, это чудовище тупо на модули попилить. Второе — новая архитектура промптов, чтоб они шаблонами собирались а не конкатенацией.

ЗЫ: Кстати, а это прикольно, что не каждый нищеброд может юнит-тесты прогнать к этой штуке, а только состоятельные кроты. :) Там каждый прогон тестов стоит бабла. Мне это нравится.

Боюсь только придется что-то вроде 5090 покупать или подобное если всерьез этим всем заниматься. Прогон тестов на моих R9700 небыстр. Последнее что я делал занимало по 16 часов на прогон, и это был фрагментик теста. В общем, ну, пиздец. Топовый M5 Max если что абсолютно идентичен R9700 по скорости но вчетверо больше памяти — и по скорости это минимум что можно терпеть.

Экономист думает, у Китая большие проблемы. То-ли дело у Антропика с Опенайай — эти без проблем прибыль сделают.

Смешные они все-таки.

Ну вот. Допрыгались. Это уже серьезный аргумент в пользу 5090.

Я честно такого не ожидал.

Apple выпустил Mac Studio. 128GB стоит 5000, 256GB Ultra 11000, 512GB Ultra 15000. Примерно.

Ultra еще и вдвое быстрее.

За 5000, это лучшее что сейчас есть в бюджетной категории, берите не глядя вообще.

256GB Ultra это уже напалм. Вдвое быстрее R9700 — и по скорости памяти и по compute, и позволит пускать уже большое, например — DeepSeek V4 Flash в полной точности на отличной скорости. Но цена приближается к цене автомобиля.

И это дешевле чем собирать аналогичное на nVidia.

https://www.apple.com/shop/buy-mac/mac-studio

А теперь —

Meet Qwen3.8-Flash, a multimodal MoE and an early preview of the Qwen4 architecture, now open-weight!

Это будет работать в макбук и студии 128GB. Уровень Opus 4.6. Как я помню, мне его уже хватало.

Whether you run Qwen3.8-Flash-Next on a CPU with system RAM or on a GPU with VRAM may make relatively little difference. Its unique architecture allows inference using RAM or unified memory to achieve performance closer to that of GPU VRAM than is typical for other models. This makes it particularly well suited to Macs, NVIDIA DGX Spark systems, and other devices with large memory capacities.

Чебля? Так, это уже интересно. В смысле, как мой Cicero.local с 64+128GB это воспримет. Я ему как раз новый CPU купил, пойду ставить.