что я считал само собой разумеющимся, что сейчас нарушилось?
Недоумение это не слабость - это признак интеллекта, ибо глупый человек не недоумевает, он просто принимает, или злится без вопросов.
Недоумение означает, что внутри есть модель реальности достаточно сложная, чтобы заметить несоответствие.
Но вот баг:
Большинство останавливается на "как он вообще мог" и не идёт глубже. Потому что недоумение всегда про тебя, не про другого. Реальность нарушила твоё ожидание > ожидание было > откуда оно взялось??
Если ответ не знаешь это не твоё правило, ты его просто проглотил. Недоумение это вход в себя, а большинство использует его как выход из разговора...
удручающе? nah
Самое паршивое то что большинство (как и я как и вы), не оптимизирует модели реальности
а оптимизирует психическую стабильность.. С этой точки зрения эьл поведение абсолютно рационально.
Недоумение это не слабость - это признак интеллекта, ибо глупый человек не недоумевает, он просто принимает, или злится без вопросов.
Недоумение означает, что внутри есть модель реальности достаточно сложная, чтобы заметить несоответствие.
Но вот баг:
Большинство останавливается на "как он вообще мог" и не идёт глубже. Потому что недоумение всегда про тебя, не про другого. Реальность нарушила твоё ожидание > ожидание было > откуда оно взялось??
Если ответ не знаешь это не твоё правило, ты его просто проглотил. Недоумение это вход в себя, а большинство использует его как выход из разговора...
удручающе? nah
Самое паршивое то что большинство (как и я как и вы), не оптимизирует модели реальности
а оптимизирует психическую стабильность.. С этой точки зрения эьл поведение абсолютно рационально.
я все работаю-работаю, мне не хватает времени на ПАКОСТИ, не говоря уже об ИГРАХ..
🎵 angels in the trap, 3umph, ulysse - Hundreds Of Bayonets (prod. lindo)
👤 angels in the trap (@angelsinthetrap)
👤 angels in the trap (@angelsinthetrap)
<e>vlonedev.log</acc> via @tonify_earn_bot
🎵 angels in the trap, 3umph, ulysse - Hundreds Of Bayonets (prod. lindo) 👤 angels in the trap (@angelsinthetrap)
Nine thousand degrees angels we be shinin' 😛
Please open Telegram to view this post
VIEW IN TELEGRAM
Ущерб от разума я, а они говорят Горе от Ума..
Поднимаюсь выше, она знает мои плюсы, минусы
Прячу всю эту хуйню под плинтусом
Поднимаюсь выше, она знает мои плюсы, минусы
Прячу всю эту хуйню под плинтусом
Forwarded from эйай ньюз
Talkie — LLM застрявшая в 1930
Есть такой жанр, тренировка LLM на исторических данных. В этот раз 13B модель натренировали на 260 миллиардах токенов до 1930 года включительно, что делает это наибольшим подобным экспериментом. Дата выбрана неслучайно — всё что написано до 1930 года, в США является общественным достоянием.
Такая модель нужна для тестирования возможностей моделей предсказывать будущее и последующего развития алгоритмов. Классический пример такого — открытие теории относительности моделью натренированной на данных до 1910. А вот для этой модели это может быть какая-то ядерная физика.
Летом команда собирается выпустить модель на уровне GPT-3. Кстати к созданию этой модели приложил руку Alec Radford, который натренировал самую первую GPT.
Поговорить с прошлым (есть очередь, может быть проще скачать веса)
Блогпост
Веса
@ai_newz
Есть такой жанр, тренировка LLM на исторических данных. В этот раз 13B модель натренировали на 260 миллиардах токенов до 1930 года включительно, что делает это наибольшим подобным экспериментом. Дата выбрана неслучайно — всё что написано до 1930 года, в США является общественным достоянием.
Такая модель нужна для тестирования возможностей моделей предсказывать будущее и последующего развития алгоритмов. Классический пример такого — открытие теории относительности моделью натренированной на данных до 1910. А вот для этой модели это может быть какая-то ядерная физика.
Летом команда собирается выпустить модель на уровне GPT-3. Кстати к созданию этой модели приложил руку Alec Radford, который натренировал самую первую GPT.
Поговорить с прошлым (есть очередь, может быть проще скачать веса)
Блогпост
Веса
@ai_newz
This media is not supported in your browser
VIEW IN TELEGRAM
я слышал тебе нравятся полиритмы, я своего рода математик
Так так.. Я назвал свой новый WiFi в Сеть DOM. RU-8M5ДЕДОМ и сделал его БЕСПЛАТНЫМ
Forwarded from Data Secrets
Китайский исследователь создал специальный бенчмарк, с помощью которого можно оценить количество параметров в любой модели
Как мы знаем, закрытые лаборатории не раскрывают количество параметров своих моделей. Есть стандартный метод оценки через экономику инференса, но он дает погрешность в 2× и более из-за неизвестных деталей об инфре.
Так вот: позавчера на архиве появилась статья, в которой автор предлагает принципиально иной подход, через оценку количества знаний модели. Речь именно о знании фактов, а не интеллекте в целом, потому что способность к рассуждению можно дистиллировать и сжимать в меньшие модели, а фактические знания – нет, они ограничены энтропией Шеннона.
Методология такая: автор создал бенчмарк из 1400 фактических вопросов, разбитых на 7 уровней редкости, от широко известных фактов до крайне малоизвестных. Его откалибровали на 89 открытых моделях с известным числом параметров, и оказалось, что есть явная (R²=0.917) лог-линейная зависимость скора на бенче от числа параметров.
Проецируя закрытые модели на калибровочную кривую, автор получает такие оценки*:
• из-за природы метода и из-за настроек безопасности некоторых моделей (на какие-то вопросы они могут просто отказываться отвечать), эти оценки ближе к нижним границам.
Конечно, точность все равно довольно мала, но числа интересные.
https://arxiv.org/pdf/2604.24827
Как мы знаем, закрытые лаборатории не раскрывают количество параметров своих моделей. Есть стандартный метод оценки через экономику инференса, но он дает погрешность в 2× и более из-за неизвестных деталей об инфре.
Так вот: позавчера на архиве появилась статья, в которой автор предлагает принципиально иной подход, через оценку количества знаний модели. Речь именно о знании фактов, а не интеллекте в целом, потому что способность к рассуждению можно дистиллировать и сжимать в меньшие модели, а фактические знания – нет, они ограничены энтропией Шеннона.
Методология такая: автор создал бенчмарк из 1400 фактических вопросов, разбитых на 7 уровней редкости, от широко известных фактов до крайне малоизвестных. Его откалибровали на 89 открытых моделях с известным числом параметров, и оказалось, что есть явная (R²=0.917) лог-линейная зависимость скора на бенче от числа параметров.
Проецируя закрытые модели на калибровочную кривую, автор получает такие оценки*:
– GPT-5.5 ≈ 9.7T параметров
– Claude Opus 4.6 ≈ 5.3T
– Claude Sonnet 4.6 ≈ 1.7T
– Gemini 2.5 Pro ≈ 1.2T
• из-за природы метода и из-за настроек безопасности некоторых моделей (на какие-то вопросы они могут просто отказываться отвечать), эти оценки ближе к нижним границам.
Конечно, точность все равно довольно мала, но числа интересные.
https://arxiv.org/pdf/2604.24827