This media is not supported in your browser
VIEW IN TELEGRAM
я слышал тебе нравятся полиритмы, я своего рода математик
Так так.. Я назвал свой новый WiFi в Сеть DOM. RU-8M5ДЕДОМ и сделал его БЕСПЛАТНЫМ
Forwarded from Data Secrets
Китайский исследователь создал специальный бенчмарк, с помощью которого можно оценить количество параметров в любой модели
Как мы знаем, закрытые лаборатории не раскрывают количество параметров своих моделей. Есть стандартный метод оценки через экономику инференса, но он дает погрешность в 2× и более из-за неизвестных деталей об инфре.
Так вот: позавчера на архиве появилась статья, в которой автор предлагает принципиально иной подход, через оценку количества знаний модели. Речь именно о знании фактов, а не интеллекте в целом, потому что способность к рассуждению можно дистиллировать и сжимать в меньшие модели, а фактические знания – нет, они ограничены энтропией Шеннона.
Методология такая: автор создал бенчмарк из 1400 фактических вопросов, разбитых на 7 уровней редкости, от широко известных фактов до крайне малоизвестных. Его откалибровали на 89 открытых моделях с известным числом параметров, и оказалось, что есть явная (R²=0.917) лог-линейная зависимость скора на бенче от числа параметров.
Проецируя закрытые модели на калибровочную кривую, автор получает такие оценки*:
• из-за природы метода и из-за настроек безопасности некоторых моделей (на какие-то вопросы они могут просто отказываться отвечать), эти оценки ближе к нижним границам.
Конечно, точность все равно довольно мала, но числа интересные.
https://arxiv.org/pdf/2604.24827
Как мы знаем, закрытые лаборатории не раскрывают количество параметров своих моделей. Есть стандартный метод оценки через экономику инференса, но он дает погрешность в 2× и более из-за неизвестных деталей об инфре.
Так вот: позавчера на архиве появилась статья, в которой автор предлагает принципиально иной подход, через оценку количества знаний модели. Речь именно о знании фактов, а не интеллекте в целом, потому что способность к рассуждению можно дистиллировать и сжимать в меньшие модели, а фактические знания – нет, они ограничены энтропией Шеннона.
Методология такая: автор создал бенчмарк из 1400 фактических вопросов, разбитых на 7 уровней редкости, от широко известных фактов до крайне малоизвестных. Его откалибровали на 89 открытых моделях с известным числом параметров, и оказалось, что есть явная (R²=0.917) лог-линейная зависимость скора на бенче от числа параметров.
Проецируя закрытые модели на калибровочную кривую, автор получает такие оценки*:
– GPT-5.5 ≈ 9.7T параметров
– Claude Opus 4.6 ≈ 5.3T
– Claude Sonnet 4.6 ≈ 1.7T
– Gemini 2.5 Pro ≈ 1.2T
• из-за природы метода и из-за настроек безопасности некоторых моделей (на какие-то вопросы они могут просто отказываться отвечать), эти оценки ближе к нижним границам.
Конечно, точность все равно довольно мала, но числа интересные.
https://arxiv.org/pdf/2604.24827
я хочу узнᴀᴛь ᴄʙой боᴧᴇʙой ᴨоᴩоᴦ
бᴇᴧоᴧиᴋий дʙоᴩянин, но ᴋᴛо-ᴛо ᴨᴩоᴋᴧяᴧ ʍою ᴋᴩоʙь
чую зᴀᴨᴀх ᴄᴧᴀдᴋой ᴦниᴧи, я быᴧ ʙ хᴩᴀʍᴇ ᴀᴧых ᴩоз
ᴛᴀʍ, ᴦдᴇ я, ᴛᴀʍ и ʍᴇᴛᴇᴧи, хоᴧод, ʙьюᴦᴀ и ʍоᴩоз
ʙʙᴇди ᴀнᴇᴄᴛᴇᴛиᴋ, я знᴀю, чᴛо он хоᴛь нᴇʍноᴦо, но ᴄдᴇᴧᴀᴇᴛ ᴛиɯᴇ ʙᴄю боᴧь
и ᴇᴄᴧи ᴛы будᴇɯь ʍоᴇй ᴋоᴩоᴧᴇʙой, ᴛоᴦдᴀ ʍоя ᴩоᴧь оᴛᴩᴇчённый ᴋоᴩоᴧь
ʍнᴇ нужᴇн ʙоᴇнный хиᴩуᴩᴦ
ʍнᴇ ᴋᴀжᴇᴛᴄя, ϶ᴛо ᴀбᴄуᴩд
ʙᴄё ᴛᴇᴧо ʙ уʙᴇчиях, боᴧьɯᴇ нᴇ ᴛянᴇᴛᴄя ʙ бой
ʍнᴇ уʍиᴩᴀᴛь нᴇ ʙᴨᴇᴩʙой, я оᴨьянённый ʍᴇчᴛой
ʍнᴇ ᴛоᴧьᴋо ᴄниᴛᴄя ᴨоᴋой
зᴀходи ʙ ʍои ᴨоᴋои, нᴀᴄ ᴄ ᴛобой дʙоᴇ
я нᴇ ᴦᴇᴩой
ʍожᴇᴛ быᴛь ʙᴄё жᴇ боᴧьной, но уʙᴇᴩᴇн, чᴛо ᴄᴋоᴩо ужᴇ нᴇ ᴨᴩидᴇᴛᴄя ᴧᴇчиᴛьᴄя
ʍᴇня нᴀᴋᴩыᴧо ʙоᴧной, я ᴛᴀᴄую ʍоʍᴇнᴛы, ᴨоᴄᴛуᴨᴋи, знᴀᴋоʍыᴇ ᴧицᴀ
знᴀю, чᴛо ϶ᴛо нᴇᴨᴩᴀʙиᴧьно
знᴀю, чᴛо ᴛʙои ᴩᴀнᴇния нᴇоᴨᴇᴩᴀбᴇᴧьны
я нᴀᴩуɯᴀю ʙᴄᴇ ᴨᴩᴀʙиᴧᴀ
и ϶ᴛо нᴇᴨᴩᴀʙиᴧьно.
бᴇᴧоᴧиᴋий дʙоᴩянин, но ᴋᴛо-ᴛо ᴨᴩоᴋᴧяᴧ ʍою ᴋᴩоʙь
чую зᴀᴨᴀх ᴄᴧᴀдᴋой ᴦниᴧи, я быᴧ ʙ хᴩᴀʍᴇ ᴀᴧых ᴩоз
ᴛᴀʍ, ᴦдᴇ я, ᴛᴀʍ и ʍᴇᴛᴇᴧи, хоᴧод, ʙьюᴦᴀ и ʍоᴩоз
ʙʙᴇди ᴀнᴇᴄᴛᴇᴛиᴋ, я знᴀю, чᴛо он хоᴛь нᴇʍноᴦо, но ᴄдᴇᴧᴀᴇᴛ ᴛиɯᴇ ʙᴄю боᴧь
и ᴇᴄᴧи ᴛы будᴇɯь ʍоᴇй ᴋоᴩоᴧᴇʙой, ᴛоᴦдᴀ ʍоя ᴩоᴧь оᴛᴩᴇчённый ᴋоᴩоᴧь
ʍнᴇ нужᴇн ʙоᴇнный хиᴩуᴩᴦ
ʍнᴇ ᴋᴀжᴇᴛᴄя, ϶ᴛо ᴀбᴄуᴩд
ʙᴄё ᴛᴇᴧо ʙ уʙᴇчиях, боᴧьɯᴇ нᴇ ᴛянᴇᴛᴄя ʙ бой
ʍнᴇ уʍиᴩᴀᴛь нᴇ ʙᴨᴇᴩʙой, я оᴨьянённый ʍᴇчᴛой
ʍнᴇ ᴛоᴧьᴋо ᴄниᴛᴄя ᴨоᴋой
зᴀходи ʙ ʍои ᴨоᴋои, нᴀᴄ ᴄ ᴛобой дʙоᴇ
я нᴇ ᴦᴇᴩой
ʍожᴇᴛ быᴛь ʙᴄё жᴇ боᴧьной, но уʙᴇᴩᴇн, чᴛо ᴄᴋоᴩо ужᴇ нᴇ ᴨᴩидᴇᴛᴄя ᴧᴇчиᴛьᴄя
ʍᴇня нᴀᴋᴩыᴧо ʙоᴧной, я ᴛᴀᴄую ʍоʍᴇнᴛы, ᴨоᴄᴛуᴨᴋи, знᴀᴋоʍыᴇ ᴧицᴀ
знᴀю, чᴛо ϶ᴛо нᴇᴨᴩᴀʙиᴧьно
знᴀю, чᴛо ᴛʙои ᴩᴀнᴇния нᴇоᴨᴇᴩᴀбᴇᴧьны
я нᴀᴩуɯᴀю ʙᴄᴇ ᴨᴩᴀʙиᴧᴀ
и ϶ᴛо нᴇᴨᴩᴀʙиᴧьно.
McLaren не купишь на vision, только на execution😢
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from NOEASY
<e>vlonedev.log</acc>
Много званных, но мало избранных, ибо этот путь подобен лезвию
Please open Telegram to view this post
VIEW IN TELEGRAM
Небеса вверху, небеса внизу, небо верху, небо внизу, все вверху, все внизу, прими это и возрадуйся..