Forwarded from AI Projects (Vladimir Ivanov)
🧠 Поскольку способность ИИ решать математические задачи уже на уровне PhD, это ставит под вопрос практическую ценность таких навыков. Поэтому возникает действительно важная тема — насколько доказано влияет математика на общие способности.
Тут важно понимать, что даже в чате у нас начался спор без определения понятий: на что должно влиять изучение математики как целевой фактор.
Важный момент — понятие ученых о «ближнем и дальнем трансфере знаний». Что занятие любой деятельностью улучшает показатели в близкой деятельности — это очевидно без экспериментов. Однако в случае тезиса, что математика влияет на «общее развитие», как раз подразумевается «дальний трансфер» (Far Transfer). Вот как раз с Far Transfer и возникает проблема.
Еще в начале XX века психолог Эдуард Торндайк сформулировал закон, который подтверждается и сегодня: перенос навыка происходит только тогда, когда новая задача содержит «тождественные элементы» с ранее изученной. Иными словами, если тождественных элементов нет, то перенос знаний не происходит. Это доказывается и современными работами на примере шахмат, где легко делать контрольные группы. Чем больше целевая область отдалена от изучаемой, тем сильнее затухает эффект переноса.
Что изучение математики оказывает даже физиологическое влияние — доказано. В Великобритании подростки могут отказаться от изучения математики в старших классах. После этого отмечается снижение уровня ГАМК (гамма-аминомасляной кислоты) в средней лобной извилине (MFG). Однако это доказывает влияние на область мозга, традиционно соотносимую с математикой, но не решает проблему Far Transfer способностей на области деятельности, удаленные от математики.
Важный факт: нет доказательств роста IQ именно от математики. Есть доказательства роста IQ в среднем на 3 балла в год от общего образования (Ritchie & Tucker-Drob, 2018). Однако доказанная корреляция возникает только при наличии сбалансированного обучения, а не математики в отдельности. Строго говоря, даже не математика, а вообще любое образование не позволит среднему человеку с IQ = 100 каким-то образом достигнуть элитной группы, где врожденный IQ > 140. Интеллект примерно на 80% имеет генетическую, а не образовательную природу. Это доказал Роберт Пломин на известных сравнениях интеллекта близнецов с разным образованием.
Ближний трансфер математических знаний работает хорошо и это доказано в работах Инглиса и Эттридж (Inglis & Attridge, 2013, 2016) или Крессвелл и Спилмана (Cresswell & Speelman, 2020). Это самый далекий объективно наблюдаемый трансфер математического образования, но он ограничен абстрактно-логическим анализом IF-подобного вида («Если P, то Q») и когнитивной рефлексией (способностью подавлять быстрые интуитивные ответы в пользу аналитических).
Однако доказательств того, что математика делает человека более успешным в творчестве, менеджменте или бизнесе, отсутствуют. Такой Far Transfer у математики просто не работает.
🔹 Если подвести итог, то математика развивает общие способности абстрактно-логического мышления, но проявятся они только если задачи перед человеком аналогичны математической логике и тому, как она преподавалась. Если кейс жизненной ситуации не совпадает с математическим кейсом обучения человека, то никакого положительного эффекта математика не дает как «общий интеллект».
Строго говоря, понятие концепции слабости Far Transfer и силы Near Transfer говорит о том, что реально эффективно образование, где обучение максимально приближено к реальным кейсам, которые человек встретит в жизни. Тогда перенос обучения работает, а любое абстрактное обучение быстро затухает при изменении типа реальной задачи и никак не влияет на «общий интеллект» в широком смысле слова.
Я на деле и призываю "быть практичными". Если вы учите детей работать с ИИ, то когда они встретят ИИ вам просто гарантируется Near Transfer обучения, любые "сферические кони в вакууме" это не гарантируют или эффект крайне слабый.
https://www.researchgate.net/publication/296632861_Do_the_Benefits_of_Chess_Instruction_Transfer_to_Academic_and_Cognitive_Skills_A_Meta-Analysis
Тут важно понимать, что даже в чате у нас начался спор без определения понятий: на что должно влиять изучение математики как целевой фактор.
Важный момент — понятие ученых о «ближнем и дальнем трансфере знаний». Что занятие любой деятельностью улучшает показатели в близкой деятельности — это очевидно без экспериментов. Однако в случае тезиса, что математика влияет на «общее развитие», как раз подразумевается «дальний трансфер» (Far Transfer). Вот как раз с Far Transfer и возникает проблема.
Еще в начале XX века психолог Эдуард Торндайк сформулировал закон, который подтверждается и сегодня: перенос навыка происходит только тогда, когда новая задача содержит «тождественные элементы» с ранее изученной. Иными словами, если тождественных элементов нет, то перенос знаний не происходит. Это доказывается и современными работами на примере шахмат, где легко делать контрольные группы. Чем больше целевая область отдалена от изучаемой, тем сильнее затухает эффект переноса.
Что изучение математики оказывает даже физиологическое влияние — доказано. В Великобритании подростки могут отказаться от изучения математики в старших классах. После этого отмечается снижение уровня ГАМК (гамма-аминомасляной кислоты) в средней лобной извилине (MFG). Однако это доказывает влияние на область мозга, традиционно соотносимую с математикой, но не решает проблему Far Transfer способностей на области деятельности, удаленные от математики.
Важный факт: нет доказательств роста IQ именно от математики. Есть доказательства роста IQ в среднем на 3 балла в год от общего образования (Ritchie & Tucker-Drob, 2018). Однако доказанная корреляция возникает только при наличии сбалансированного обучения, а не математики в отдельности. Строго говоря, даже не математика, а вообще любое образование не позволит среднему человеку с IQ = 100 каким-то образом достигнуть элитной группы, где врожденный IQ > 140. Интеллект примерно на 80% имеет генетическую, а не образовательную природу. Это доказал Роберт Пломин на известных сравнениях интеллекта близнецов с разным образованием.
Ближний трансфер математических знаний работает хорошо и это доказано в работах Инглиса и Эттридж (Inglis & Attridge, 2013, 2016) или Крессвелл и Спилмана (Cresswell & Speelman, 2020). Это самый далекий объективно наблюдаемый трансфер математического образования, но он ограничен абстрактно-логическим анализом IF-подобного вида («Если P, то Q») и когнитивной рефлексией (способностью подавлять быстрые интуитивные ответы в пользу аналитических).
Однако доказательств того, что математика делает человека более успешным в творчестве, менеджменте или бизнесе, отсутствуют. Такой Far Transfer у математики просто не работает.
🔹 Если подвести итог, то математика развивает общие способности абстрактно-логического мышления, но проявятся они только если задачи перед человеком аналогичны математической логике и тому, как она преподавалась. Если кейс жизненной ситуации не совпадает с математическим кейсом обучения человека, то никакого положительного эффекта математика не дает как «общий интеллект».
Строго говоря, понятие концепции слабости Far Transfer и силы Near Transfer говорит о том, что реально эффективно образование, где обучение максимально приближено к реальным кейсам, которые человек встретит в жизни. Тогда перенос обучения работает, а любое абстрактное обучение быстро затухает при изменении типа реальной задачи и никак не влияет на «общий интеллект» в широком смысле слова.
Я на деле и призываю "быть практичными". Если вы учите детей работать с ИИ, то когда они встретят ИИ вам просто гарантируется Near Transfer обучения, любые "сферические кони в вакууме" это не гарантируют или эффект крайне слабый.
https://www.researchgate.net/publication/296632861_Do_the_Benefits_of_Chess_Instruction_Transfer_to_Academic_and_Cognitive_Skills_A_Meta-Analysis
ResearchGate
(PDF) Do the Benefits of Chess Instruction Transfer to Academic and Cognitive Skills? A Meta-Analysis
PDF | In recent years, pupils' poor achievement in mathematics has been a concern in many Western countries. Chess instruction has been proposed as one... | Find, read and cite all the research you need on ResearchGate
Forwarded from AI Projects (Vladimir Ivanov)
Из чатика даже перенесу пример со стейтом из React насчет споров «за математику». Оспаривается на самом деле не бесполезность математики, а во многом бесполезность «школьной математики», которая не создает у детей нужных математических абстракций. Даже универ не всегда создает.
На самом деле React как декларативная система максимально близок к тому, как ИИ понимает задачу. ИИ рассматривает ваш контекст как граф ключевых понятий (векторов), где ребра — корреляции в attention. Динамика его представления — это «динамика belief state». Иными словами, как тот же стейт у React меняется во времени.
Что ИИ так хорошо пишет на React, во многом понятно не только из-за SFT-обучения на него, а потому что для ИИ максимально удобны декларативные контексты.
Обычная математика школы — это «математика винтиков в большой машине», т.е. императивная, а не декларативная математика. Вас готовят быть исполнителями чужой воли, поэтому вы должны уметь «делать по инструкции».
Однако ИИ сам исполнитель инструкций и ему это не надо. ИИ требуется понимать цель, а это не императивные, а декларативные модели.
Таким занимаются разные графовые разделы математики, а также Теория Категорий. Вот только нет ничего такого в школьном курсе, да и на физматных специальностях в университетах обычно тоже нет.
«Математика» — слишком абстрактное слово. Если вы занимались дробями в столбик и линейной алгеброй, то вряд ли вы сильно приблизились к пониманию моделей belief state.
Не все равно, какой математикой заниматься, если речь про управление ИИ.
На самом деле React как декларативная система максимально близок к тому, как ИИ понимает задачу. ИИ рассматривает ваш контекст как граф ключевых понятий (векторов), где ребра — корреляции в attention. Динамика его представления — это «динамика belief state». Иными словами, как тот же стейт у React меняется во времени.
Что ИИ так хорошо пишет на React, во многом понятно не только из-за SFT-обучения на него, а потому что для ИИ максимально удобны декларативные контексты.
Обычная математика школы — это «математика винтиков в большой машине», т.е. императивная, а не декларативная математика. Вас готовят быть исполнителями чужой воли, поэтому вы должны уметь «делать по инструкции».
Однако ИИ сам исполнитель инструкций и ему это не надо. ИИ требуется понимать цель, а это не императивные, а декларативные модели.
Таким занимаются разные графовые разделы математики, а также Теория Категорий. Вот только нет ничего такого в школьном курсе, да и на физматных специальностях в университетах обычно тоже нет.
«Математика» — слишком абстрактное слово. Если вы занимались дробями в столбик и линейной алгеброй, то вряд ли вы сильно приблизились к пониманию моделей belief state.
Не все равно, какой математикой заниматься, если речь про управление ИИ.
👍1
Forwarded from AI Projects (Vladimir Ivanov)
В горячем холиваре в нашем чате вокруг значимости математики в свете того, что ИИ уже может решать почти любые математические задачи. Я не сразу догадался, что далеко не все знают, как текущий статус математики формировался и что многие находятся на уровне заблуждений XIX века.
Хотя не многие сейчас смогут провести параллель между латынью и математикой, но реальный статус математики унаследован именно от латыни.
До начала XIX века европейское элитарное образование в школах для дворянства было почти полностью гуманитарным. Основой обучения были древнегреческий язык и латынь.
Когда защитники этой системы сталкивались с вопросом: «Зачем будущему дипломату или судье тратить годы на латинскую грамматику, если в реальной жизни он на ней не говорит?», они выдвигали аргумент о формальной дисциплине (Theory of Formal Discipline):
«Латынь учит не для того, чтобы на ней разговаривать. Она развивает сам орган мышления. Трудность перевода и строгая грамматика тренируют "мыслительные мышцы", делая ум гибким, сильным и готовым к любой другой работе».
Если не заметили, что тут надо заменить слово "латынь" на "математика" и получится "современный" уровень аргументации многих защитников статуса математики, хотя это концепция XIX века, причём сделанная трансформацией даже идей позднего средневековья.
Надо сказать, что статус математики совсем не был исторически высоким, а ровно наоборот. В Китае в экзаменах Кэцзюй математика не входила. С точки зрения китайской традиции даже XIX века "благородный муж" должен:
- Наизусть знать конфуцианский канон (Четырехкнижие и Пятикнижие).
- Обладать каллиграфическим почерком.
- Уметь писать сложнейшие, жестко структурированные эссе — «восьмичленные сочинения» (багувэнь).
А вот математика (суань) относилась к «низкому искусству» (сяодао — 小道), т.к. "счетоводство" — это занятие для прислуги, а не для стратега как мандарин.
На самом деле примерно также в Великобритании математика сначала имела такой же статус "низкого ремесла", которое недостойно джентльмена, а удел его слуг.
Вопрос заключается в том, что Промышленная революция требовала от элиты заняться инженерным делом и бухгалтерией, а так там математика нужна и нужно было решать вопрос её статуса.
Уильям Уэвелл в 1835 году перехватывает у латыни её статус через аргумент о Теории Формальной Дисциплины в знаменитом эссе «Thoughts on the Study of Mathematics». Фактически там он заменяет латынь на математику, но аргументация остаётся фактически такой же: что математика — это лучший инструмент для развития «способности к рассуждению», так как тренирует мозг мыслить системно и строго. Важный аспект, что Уэвелл там же доказывал более низкий статус гуманитарных наук, т.к. философия и литература ведут к субъективным спорам, а математика состоит исключительно из цепочки неопровержимых дедуктивных истин.
Это имеет последствия: до 1850 года в Кембридже существовало удивительное правило — студент, желающий сдать престижные экзамены по гуманитарным наукам (Classics), был обязан сначала сдать Математический Трипос. Без математики карьера гуманитария была заблокирована, т.к. у него "неразвитый мозг без математики". Известные математики, Г. Х. Харди, правда, заранее замечают изъяны гипертрофированного математического образования, где система обучения и экзаменов математики стимулировала "математический механицизм" в духе тех же дробей в столбик, что для развития общей математики ничего не давало.
Одновременно начинается подъём математики в Пруссии на фоне германского милитаризма и национализма, т.к. армия и промышленность нуждались в математических знаниях. Однако важный момент, что математика быстро становится культом. Вильгельм фон Гумбольдт формирует концепцию Bildung (гармоничного формирования личности), где "истинный ариец" должен владеть математикой как частью своей гармонии.
Фактически текущий статус математики — наследие Викторианской эпохи и прусского милитаризма, причём в той же Азии статус математики не признавался. Однако довольно быстро подход был подвергнут научной критике, т.к. в основе статуса математики была псевдонаука френология Франца Йозефа Галля. Френологи утверждали, что мозг состоит из отдельных «органов» (способностей), физический размер которых можно увеличить упражнениями.
Научный крах этой концепции наступил на рубеже XIX и XX веков:
- В 1901 году американские психологи Эдуард Торндайк и Роберт Вудворт провели серию экспериментов, проверявших теорию формальной дисциплины.
- Они доказали, что тренировка в одной задаче (например, аккуратный подсчёт слов или оценка площади фигур) практически не улучшает результаты в других, даже близких задачах. Эффект «дальнего переноса» оказался мифом. Мозг не работает как единая мышца, которую можно «накачать» одним упражнением для решения всех жизненных проблем.
Тем не менее государственные бюрократические машины к тому моменту уже прочно зафиксировали математику в школьных программах как удобный инструмент для ранжирования и фильтрации учеников.
Тем не менее и Великобритания, и Китай смогли дальше успешно развиваться. Дело в том, что в спорах об математике упускается важный фактор: экзамены на деле важны государству как "социальный фильтр". Сам по себе IQ больше врожденный, а не педагогический эффект, поэтому селекция элиты экзаменами важнее даже способа образования. В Великобритании и Пруссии выбирали в элиту по математике, в Китае — за знание Конфуция. Самое главное тут было не что преподаётся как полезный навык, а просто сложность задания, что позволяет селектировать самых способных.
Забавность ситуации в том, что ИИ скорее также продолжит эту традицию, просто "математическое мышление" сменится на некоторое "векторное мышление", которое более престижное. Просто если окажется, что владение декларативным стилем постановки задач для ИИ действительно важнее императивных способностей, то быстро сделается рационализация за декларативным мышлением как самым статусным и элитным. Для него скорее тоже появятся фильтрационные экзамены для элиты. Но забавность в том, что всё началось с латыни, а не с математики, хотя для многих, вероятно, это новость.
https://www.youtube.com/watch?v=M0cgg89tbIk
Хотя не многие сейчас смогут провести параллель между латынью и математикой, но реальный статус математики унаследован именно от латыни.
До начала XIX века европейское элитарное образование в школах для дворянства было почти полностью гуманитарным. Основой обучения были древнегреческий язык и латынь.
Когда защитники этой системы сталкивались с вопросом: «Зачем будущему дипломату или судье тратить годы на латинскую грамматику, если в реальной жизни он на ней не говорит?», они выдвигали аргумент о формальной дисциплине (Theory of Formal Discipline):
«Латынь учит не для того, чтобы на ней разговаривать. Она развивает сам орган мышления. Трудность перевода и строгая грамматика тренируют "мыслительные мышцы", делая ум гибким, сильным и готовым к любой другой работе».
Если не заметили, что тут надо заменить слово "латынь" на "математика" и получится "современный" уровень аргументации многих защитников статуса математики, хотя это концепция XIX века, причём сделанная трансформацией даже идей позднего средневековья.
Надо сказать, что статус математики совсем не был исторически высоким, а ровно наоборот. В Китае в экзаменах Кэцзюй математика не входила. С точки зрения китайской традиции даже XIX века "благородный муж" должен:
- Наизусть знать конфуцианский канон (Четырехкнижие и Пятикнижие).
- Обладать каллиграфическим почерком.
- Уметь писать сложнейшие, жестко структурированные эссе — «восьмичленные сочинения» (багувэнь).
А вот математика (суань) относилась к «низкому искусству» (сяодао — 小道), т.к. "счетоводство" — это занятие для прислуги, а не для стратега как мандарин.
На самом деле примерно также в Великобритании математика сначала имела такой же статус "низкого ремесла", которое недостойно джентльмена, а удел его слуг.
Вопрос заключается в том, что Промышленная революция требовала от элиты заняться инженерным делом и бухгалтерией, а так там математика нужна и нужно было решать вопрос её статуса.
Уильям Уэвелл в 1835 году перехватывает у латыни её статус через аргумент о Теории Формальной Дисциплины в знаменитом эссе «Thoughts on the Study of Mathematics». Фактически там он заменяет латынь на математику, но аргументация остаётся фактически такой же: что математика — это лучший инструмент для развития «способности к рассуждению», так как тренирует мозг мыслить системно и строго. Важный аспект, что Уэвелл там же доказывал более низкий статус гуманитарных наук, т.к. философия и литература ведут к субъективным спорам, а математика состоит исключительно из цепочки неопровержимых дедуктивных истин.
Это имеет последствия: до 1850 года в Кембридже существовало удивительное правило — студент, желающий сдать престижные экзамены по гуманитарным наукам (Classics), был обязан сначала сдать Математический Трипос. Без математики карьера гуманитария была заблокирована, т.к. у него "неразвитый мозг без математики". Известные математики, Г. Х. Харди, правда, заранее замечают изъяны гипертрофированного математического образования, где система обучения и экзаменов математики стимулировала "математический механицизм" в духе тех же дробей в столбик, что для развития общей математики ничего не давало.
Одновременно начинается подъём математики в Пруссии на фоне германского милитаризма и национализма, т.к. армия и промышленность нуждались в математических знаниях. Однако важный момент, что математика быстро становится культом. Вильгельм фон Гумбольдт формирует концепцию Bildung (гармоничного формирования личности), где "истинный ариец" должен владеть математикой как частью своей гармонии.
Фактически текущий статус математики — наследие Викторианской эпохи и прусского милитаризма, причём в той же Азии статус математики не признавался. Однако довольно быстро подход был подвергнут научной критике, т.к. в основе статуса математики была псевдонаука френология Франца Йозефа Галля. Френологи утверждали, что мозг состоит из отдельных «органов» (способностей), физический размер которых можно увеличить упражнениями.
Научный крах этой концепции наступил на рубеже XIX и XX веков:
- В 1901 году американские психологи Эдуард Торндайк и Роберт Вудворт провели серию экспериментов, проверявших теорию формальной дисциплины.
- Они доказали, что тренировка в одной задаче (например, аккуратный подсчёт слов или оценка площади фигур) практически не улучшает результаты в других, даже близких задачах. Эффект «дальнего переноса» оказался мифом. Мозг не работает как единая мышца, которую можно «накачать» одним упражнением для решения всех жизненных проблем.
Тем не менее государственные бюрократические машины к тому моменту уже прочно зафиксировали математику в школьных программах как удобный инструмент для ранжирования и фильтрации учеников.
Тем не менее и Великобритания, и Китай смогли дальше успешно развиваться. Дело в том, что в спорах об математике упускается важный фактор: экзамены на деле важны государству как "социальный фильтр". Сам по себе IQ больше врожденный, а не педагогический эффект, поэтому селекция элиты экзаменами важнее даже способа образования. В Великобритании и Пруссии выбирали в элиту по математике, в Китае — за знание Конфуция. Самое главное тут было не что преподаётся как полезный навык, а просто сложность задания, что позволяет селектировать самых способных.
Забавность ситуации в том, что ИИ скорее также продолжит эту традицию, просто "математическое мышление" сменится на некоторое "векторное мышление", которое более престижное. Просто если окажется, что владение декларативным стилем постановки задач для ИИ действительно важнее императивных способностей, то быстро сделается рационализация за декларативным мышлением как самым статусным и элитным. Для него скорее тоже появятся фильтрационные экзамены для элиты. Но забавность в том, что всё началось с латыни, а не с математики, хотя для многих, вероятно, это новость.
https://www.youtube.com/watch?v=M0cgg89tbIk
YouTube
Transfer of Learning #learnanewwordtoday #learning
Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.
👍1🔥1
Forwarded from Гусь Василий под тополем
https://t.me/big3russia/7692
Роман разобрал, что там на самом деле сказал Зюганов. Дословно про изъятие вкладов он не говорил, но по контексту это иначе как изъятием считать невозможно.
Впрочем, даже если бы Зюганов всего лишь требовал "направить 30 трлн вкладов в реальный сектор", разница была бы невелика. В разжиженных мозгах электората КПРФ банкиры собранные на депозиты деньги не направляют в реальный сектор (в виде кредитов), а собирают в гигантскую кучу, садятся сверху и мерзко хихикают.
Мы не знаем, на сколько миллиардов (а может и десятков миллиардов) одно это гениальное высказывание древнего деда из Мымрино уменьшит объём депозитов в стране. Понятно, что Зюганов в стране не решает примерно ничего, но для обычного телевизионного пенсионера он - большое и очень важное начальство, заявления которого очень-очень многое значат. Но проблема не в Зюганове. Рано или поздно нечто подобное должно было случиться.
Проблема в том, что единственный орган власти, который в нынешней России можно безнаказанно критиковать - это Центробанк. Критика силовиков есть прямой путь к уголовному делу. Министерства, губернаторов критиковать вроде можно, но только на свой страх и риск. А вот ЦБ совершенно безобиден: он ничего не сделал ни одному своему критику. Представьте одиночный пикет НОДа у здания любого силового ведомства - что было бы с пикетирующим и с организацией, которого его послала стоять с плакатиком.
ЦБ можно ругать, обвиняя его во всех смертных грехах, не только в тг-каналах, а в пропагандистских передачах по телевизору, в газетах, с трибуны Госдумы, где угодно. И ничего плохого в этом бы не было, но ругать можно ТОЛЬКО Центробанк. Нет у Набиуллиной "крыши" ни на Лубянке, ни на Старой площади, ни на Краснопресненской набережной. Стоит ЦБ, как грозный часовой, один во всей Вселенной.
Что плохого случится, если ругать какое-нибудь министерство, даже по надуманным поводам? Да ничего особенного. А что если годами обвинять ЦБ во всех бедах в стране? Если годами рассказывать со всех трибун бесконечную идиотию про то, что для снижения инфляции нужно понизить ставку, что нужно "изъять деньги у банков и вложить их в реальный сектор", что нужно начать напрямую кредитовать промышленность государственными деньгами без ограничений и так далее? И если это будут делать не проклятые иноагенты и даже не "военкоры", а главные государственные пропагандисты и депутаты Госдумы? А будет то, что огромное число людей предпочтёт переложить свои деньги в доллары, купить "мёртвую" недвижку, задирая при этом цены, просто хранить деньги под подушкой - в общем, люди будут готовы на что угодно, только бы не нести деньги в банки, то есть не вкладывать их в тот самый "реальный" сектор.
Парадокс в том, что ЦБ оказался единственным органом власти, полностью справляющимся со своими задачами в последние годы. Несмотря на невиданные санкции и войну, в банковской системе не рухнул ни один значимый банк, рубль не рухнул гиперинфляцию и даже обменный курс сегодня примерно такой же, как в январе 2022. Да что уж там: летом 2026, на пятый год масштабной войны, в которой противника снабжают десятки стран во главе с США, и в условиях невиданных санкций, совершенно реальные люди, из крови и плоти, продолжают продавать и покупать квартиры за рубли. Если вы зумер и не понимаете, что тут такого - спросите у родителей, с какой планки в девяностые все сделки переходили в доллары. Я ещё помню телемагазины из начала нулевых, где всякую дребедень вроде серёжек продавали за "30 условных единиц". Олды вспомнят валютные продуктовые в 1992-5 годах (правда, такие были почти только в Москве и Питере). Попытайтесь сегодня прийти в любой продуктовый в стране и расплатиться долларами; на вас посмотрят, как на идиота.
Да, ЦБ мог справиться со своими задачами лучше. Да, инфляция всё ещё высокая (по меркам развитых стран - очень высокая). Инфляция не может быть низкой в условиях, когда расходы правительства за год растут на 15-25 процентов (а правительство, в свою очередь, не может себе позволить резко сократить траты). Обменный курс рубля явно болезненно крепкий для бизнеса, но у ЦБ сейчас вряд ли есть инструменты, чтобы сделать рубль дешевле к доллару, не разгоняя при этом инфляцию. (Привет, кекенавт). Ещё раз: само сохранение банковской системы и сохраняющееся доминирование платежей в рублях уже являются крупными достижениями в сложившихся условиях.
Шок-ньюз: ЦБ не несёт ответственности за состояние экономики страны. Как и центробанки большинства развитых стран мира. Как и де-факто Народный Банк Китая. (Важное исключение из общего правила - ФРС США, у которой главная задача - поддержание ценовой стабильности, но задача номер два - поддержание занятости населения).
ЦБ также не несёт ответственности за зарплаты врачей и учителей, за авто- и авиапром, за предотвращение терактов, за борьбу с мошенничеством и коррупцией, за угольную промышленность, металлургию и газпром, за "производство" электроники, за "развитие" интернета, за обстановку на фронте, за ПВО, за бензин, за почту, за качество жилищного строительства - и за многие другие сферы, в которых у нас дела обстоят просто изумительно, лучше не придумать. Зато ЦБ можно обвинять во всём и сразу, из каждого утюга. Никого другого нельзя, ЦБ можно. Такая замечательная "исключительность", повторюсь, обходится стране во много триллионов недополученных банковских депозитов. Кто-то боится вполне реального "глазьевского" варианта монетарной политики, кто-то опасается мифического изъятия вкладов (в котором просто нет никакого смысла), кто-то заменил мозги телевизором и считает, что раз уж если в ЦБ пробрались враги, то и всей банковской системе верить нельзя. Результат один - огромный ущерб экономике страны. Но когда и кого из пропагандистов такие мелочи волновали.
На страже ЦБ остаётся последний паладин Баженов, за что мы его и любим.
Роман разобрал, что там на самом деле сказал Зюганов. Дословно про изъятие вкладов он не говорил, но по контексту это иначе как изъятием считать невозможно.
Впрочем, даже если бы Зюганов всего лишь требовал "направить 30 трлн вкладов в реальный сектор", разница была бы невелика. В разжиженных мозгах электората КПРФ банкиры собранные на депозиты деньги не направляют в реальный сектор (в виде кредитов), а собирают в гигантскую кучу, садятся сверху и мерзко хихикают.
Мы не знаем, на сколько миллиардов (а может и десятков миллиардов) одно это гениальное высказывание древнего деда из Мымрино уменьшит объём депозитов в стране. Понятно, что Зюганов в стране не решает примерно ничего, но для обычного телевизионного пенсионера он - большое и очень важное начальство, заявления которого очень-очень многое значат. Но проблема не в Зюганове. Рано или поздно нечто подобное должно было случиться.
Проблема в том, что единственный орган власти, который в нынешней России можно безнаказанно критиковать - это Центробанк. Критика силовиков есть прямой путь к уголовному делу. Министерства, губернаторов критиковать вроде можно, но только на свой страх и риск. А вот ЦБ совершенно безобиден: он ничего не сделал ни одному своему критику. Представьте одиночный пикет НОДа у здания любого силового ведомства - что было бы с пикетирующим и с организацией, которого его послала стоять с плакатиком.
ЦБ можно ругать, обвиняя его во всех смертных грехах, не только в тг-каналах, а в пропагандистских передачах по телевизору, в газетах, с трибуны Госдумы, где угодно. И ничего плохого в этом бы не было, но ругать можно ТОЛЬКО Центробанк. Нет у Набиуллиной "крыши" ни на Лубянке, ни на Старой площади, ни на Краснопресненской набережной. Стоит ЦБ, как грозный часовой, один во всей Вселенной.
Что плохого случится, если ругать какое-нибудь министерство, даже по надуманным поводам? Да ничего особенного. А что если годами обвинять ЦБ во всех бедах в стране? Если годами рассказывать со всех трибун бесконечную идиотию про то, что для снижения инфляции нужно понизить ставку, что нужно "изъять деньги у банков и вложить их в реальный сектор", что нужно начать напрямую кредитовать промышленность государственными деньгами без ограничений и так далее? И если это будут делать не проклятые иноагенты и даже не "военкоры", а главные государственные пропагандисты и депутаты Госдумы? А будет то, что огромное число людей предпочтёт переложить свои деньги в доллары, купить "мёртвую" недвижку, задирая при этом цены, просто хранить деньги под подушкой - в общем, люди будут готовы на что угодно, только бы не нести деньги в банки, то есть не вкладывать их в тот самый "реальный" сектор.
Парадокс в том, что ЦБ оказался единственным органом власти, полностью справляющимся со своими задачами в последние годы. Несмотря на невиданные санкции и войну, в банковской системе не рухнул ни один значимый банк, рубль не рухнул гиперинфляцию и даже обменный курс сегодня примерно такой же, как в январе 2022. Да что уж там: летом 2026, на пятый год масштабной войны, в которой противника снабжают десятки стран во главе с США, и в условиях невиданных санкций, совершенно реальные люди, из крови и плоти, продолжают продавать и покупать квартиры за рубли. Если вы зумер и не понимаете, что тут такого - спросите у родителей, с какой планки в девяностые все сделки переходили в доллары. Я ещё помню телемагазины из начала нулевых, где всякую дребедень вроде серёжек продавали за "30 условных единиц". Олды вспомнят валютные продуктовые в 1992-5 годах (правда, такие были почти только в Москве и Питере). Попытайтесь сегодня прийти в любой продуктовый в стране и расплатиться долларами; на вас посмотрят, как на идиота.
Да, ЦБ мог справиться со своими задачами лучше. Да, инфляция всё ещё высокая (по меркам развитых стран - очень высокая). Инфляция не может быть низкой в условиях, когда расходы правительства за год растут на 15-25 процентов (а правительство, в свою очередь, не может себе позволить резко сократить траты). Обменный курс рубля явно болезненно крепкий для бизнеса, но у ЦБ сейчас вряд ли есть инструменты, чтобы сделать рубль дешевле к доллару, не разгоняя при этом инфляцию. (Привет, кекенавт). Ещё раз: само сохранение банковской системы и сохраняющееся доминирование платежей в рублях уже являются крупными достижениями в сложившихся условиях.
Шок-ньюз: ЦБ не несёт ответственности за состояние экономики страны. Как и центробанки большинства развитых стран мира. Как и де-факто Народный Банк Китая. (Важное исключение из общего правила - ФРС США, у которой главная задача - поддержание ценовой стабильности, но задача номер два - поддержание занятости населения).
ЦБ также не несёт ответственности за зарплаты врачей и учителей, за авто- и авиапром, за предотвращение терактов, за борьбу с мошенничеством и коррупцией, за угольную промышленность, металлургию и газпром, за "производство" электроники, за "развитие" интернета, за обстановку на фронте, за ПВО, за бензин, за почту, за качество жилищного строительства - и за многие другие сферы, в которых у нас дела обстоят просто изумительно, лучше не придумать. Зато ЦБ можно обвинять во всём и сразу, из каждого утюга. Никого другого нельзя, ЦБ можно. Такая замечательная "исключительность", повторюсь, обходится стране во много триллионов недополученных банковских депозитов. Кто-то боится вполне реального "глазьевского" варианта монетарной политики, кто-то опасается мифического изъятия вкладов (в котором просто нет никакого смысла), кто-то заменил мозги телевизором и считает, что раз уж если в ЦБ пробрались враги, то и всей банковской системе верить нельзя. Результат один - огромный ущерб экономике страны. Но когда и кого из пропагандистов такие мелочи волновали.
На страже ЦБ остаётся последний паладин Баженов, за что мы его и любим.
Telegram
Роман Юнеман
Так что же на самом деле сказал Зюганов?
КПРФ побежала опровергать высказывание своего лидера. Дескать, Геннадий Андреевич вообще не предлагал трогать банковские вклады. Его якобы неправильно поняли, а цитату вырвали из контекста.
Вдогонку дали новую цитату…
КПРФ побежала опровергать высказывание своего лидера. Дескать, Геннадий Андреевич вообще не предлагал трогать банковские вклады. Его якобы неправильно поняли, а цитату вырвали из контекста.
Вдогонку дали новую цитату…
👍4
Forwarded from Data Secrets
В будущем не будет продактов, инженеров и дизайнеров: создатель Claude Code Борис Черный сказал, что нас ждет всего 5 архетипов
При этом эти архетипы не будут зависеть от домена или специфического стека, как большинство современных ролей, и один человек сможет объединять в себе до трех статусов.
В новой системе не нашлось места только эйчарам🤷♂️
1. Prototyper: генератор множества идей, только некоторые из которых будут реализованы.
2. Builder: быстро превращает прототипы и идеи в продукт.
3. Sweeper: чистит UX, упрощает код, оптимизирует систему.
4. Grower: берет продукт и итеративно улучшает его с точки зрения Product-Market Fit.
5. Maintainer: владеет зрелой системой и следит за ее безопасностью, надежностью и эффективностью.
При этом эти архетипы не будут зависеть от домена или специфического стека, как большинство современных ролей, и один человек сможет объединять в себе до трех статусов.
В новой системе не нашлось места только эйчарам
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4
Forwarded from Data Secrets
Anthropic нашли внутри Claude внутреннее пространство, где хранятся его мысли
Стартап выпустил одну из самых интересных работ по интерпретируемости за последнее время. Они обнаружили, что в LLM есть отдельный небольшой внутренний набор нейронных активаций, который используется как рабочая память для сложного мышления: так называемый J-space.
Мы часто представляем LLM как огромную мешанину чисел, где знания и рассуждения размазаны по миллиардам параметров. Но похоже, что это не совсем так.
Любопытно, что человеческий мозг работает похожим образом. Есть когнитивная теория, утверждающая, что он состоит из множества специализированных подсистем, которые работают независимо; но иногда какая-то информация попадает в небольшой общий workspace, становится доступной сразу многим областям мозга и может использоваться для рассуждений и принятия решений. И вот именно такой механизм исследователи обнаружили в Claude.
Вот как работает J-space:
— Название происходит от разработанной учеными техники Jacobian Lens. Она позволяет по текущим активациям понимать, какие токены с большей вероятностью появятся в будущем. При этом то, что они появятся – далеко не факт, но это значит, что модель о них думает и держит их в J-space, чтобы использовать в рассуждениях. По сути, это чтение мыслей Claude.
— Если спросить Claude, о чем он думает, то содержимое J-space хорошо совпадает с ответом модели. Другие внутренние представления таким свойством не обладают. А еще модель умеет сознательно менять J-space. Например, если сказать ей «думай о слонах, пока решаешь задачу», то эта концепция появится в J-space. При решении сложной задачи промежуточные шаги тоже появляются именно внутри J-space, даже если их при этом нет в цепочках мыслей.
— Если полностью отключить J-space, то у модели почти исчезают способности, требующие сложного мышления и многошагового рассуждения. Например, она больше не может сочинять стихи.
Самое важное во всем этом то, что J-space можно читать и менять. Anthropic приводят пример: исследователи специально внедряли модели скрытую цель во время обучения и затем наблюдали, как эта цель проявляется в J-space, хотя в ответах напрямую она ни разу не озвучивалась. При этом изменяя активации в J-space, они могли менять дальнейшие решения модели.
Потенциально это путь к тому, чтобы создавать (полностью?) безопасные и контролируемые модели. По крайней мере, сегодня Anthropic уже сделали черный ящик немного более прозрачным.
www.anthropic.com/research/global-workspace
Стартап выпустил одну из самых интересных работ по интерпретируемости за последнее время. Они обнаружили, что в LLM есть отдельный небольшой внутренний набор нейронных активаций, который используется как рабочая память для сложного мышления: так называемый J-space.
Мы часто представляем LLM как огромную мешанину чисел, где знания и рассуждения размазаны по миллиардам параметров. Но похоже, что это не совсем так.
Любопытно, что человеческий мозг работает похожим образом. Есть когнитивная теория, утверждающая, что он состоит из множества специализированных подсистем, которые работают независимо; но иногда какая-то информация попадает в небольшой общий workspace, становится доступной сразу многим областям мозга и может использоваться для рассуждений и принятия решений. И вот именно такой механизм исследователи обнаружили в Claude.
Вот как работает J-space:
— Название происходит от разработанной учеными техники Jacobian Lens. Она позволяет по текущим активациям понимать, какие токены с большей вероятностью появятся в будущем. При этом то, что они появятся – далеко не факт, но это значит, что модель о них думает и держит их в J-space, чтобы использовать в рассуждениях. По сути, это чтение мыслей Claude.
— Если спросить Claude, о чем он думает, то содержимое J-space хорошо совпадает с ответом модели. Другие внутренние представления таким свойством не обладают. А еще модель умеет сознательно менять J-space. Например, если сказать ей «думай о слонах, пока решаешь задачу», то эта концепция появится в J-space. При решении сложной задачи промежуточные шаги тоже появляются именно внутри J-space, даже если их при этом нет в цепочках мыслей.
— Если полностью отключить J-space, то у модели почти исчезают способности, требующие сложного мышления и многошагового рассуждения. Например, она больше не может сочинять стихи.
Самое важное во всем этом то, что J-space можно читать и менять. Anthropic приводят пример: исследователи специально внедряли модели скрытую цель во время обучения и затем наблюдали, как эта цель проявляется в J-space, хотя в ответах напрямую она ни разу не озвучивалась. При этом изменяя активации в J-space, они могли менять дальнейшие решения модели.
Потенциально это путь к тому, чтобы создавать (полностью?) безопасные и контролируемые модели. По крайней мере, сегодня Anthropic уже сделали черный ящик немного более прозрачным.
www.anthropic.com/research/global-workspace
🔥5👍2🤯2
Forwarded from Machinelearning
Команда Claude Code опубликовала в X руководство по loops. Это паттерны, в которых агент повторяет рабочий цикл, пока не сработает условие остановки.
Главная мысль: уходить от ручного режима, где разработчик задаёт направление на каждом шаге, и передавать агенту контроль по нарастающей.
Всего выделяют 4 типа циклов, различая их по способу запуска, условию остановки и степени автономии. Логически получается некая лестница делегирования, где на каждой ступени вы отдаёте агенту очередное полномочие.
Здесь вы отдаёте агенту проверку. Ручные шаги верификации заполняются в
SKILL.md и чем более количественные критерии, тем точнее агент оценивает собственную работу./goal забирает у вас условие прерыванияВы описываете, что значит готово, а дальше при каждой попытке Claude завершить работу отдельная модель-оценщик сверяет результат с вашим критерием (скажем, долей пройденных тестов) и возвращает агента к работе, пока цель не достигнута или не исчерпан заданный лимит попыток.
/loop или /schedule берёт на себя триггер запуска.Это удобно для повторяющейся рутины и при работе с внешними системами (например, дайджест по таскам, реакция на новое ревью или упавший CI).
Рутина срабатывает по событию или расписанию и живёт, пока вы её не выключите. В связке с динамическими воркфлоу агенту передаётся уже сам промпт. Вот этот сценарий уже ближе всего к полной автоматизации.
Не каждая задача требует сложного цикла, начинать стоит с простейшего решения.
Кодовую базу следует держать чистой, а для ревью подключать второй агент. Для этого есть встроенный /code-review.
Контролировать расход токенов чёткими границами: точные условия остановки, подбор модели под задачу (рутину - на модели поменьше и побыстрее, решения с ризонингом - на самой мощной).
Динамические воркфлоу способны породить сотни агентов, так что масштаб лучше проверять на небольшой выборке.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
Forwarded from Василий Тополев
Журналисты позвонили владельцу заправки в Новосибирской области, вдвое повысившему цены. Бизнесмен, представившийся как "Слепой", пояснил, что это его земля и топливо, а значит, правила устанавливает сам, будут жаловаться - он ещё выше поставит, а если снизить цену, то бензин разберут за полдня. И вообще может закрыть точку в любой момент.
1.1. Давайте предположим, что сейчас реальная равновесная цена 92-го в стране - 100 или 120 рублей. Такой она была бы, если бы заправки крупных нефтяных компаний не пытались морозить цены. Что это означает? Что бензин могут покупать только сравнительно богатые и те, кому бензин очень нужен. Первая и вторая категории тесно пересекаются. В любом обществе, и в нашем тем более, среди богатых найдётся множество "социальных паразитов" - тех, кто наворовал, кто получил богатое наследство и ничего не делает, и так далее. Но в среднем люди с более высокой продуктивностью имеют более высокие доходы.
Представьте начальника важного отдела в крупной компании, который работает допоздна. Он много зарабатывает, и готов много заплатить за возможность быстро заправиться. Его отсутствие на работе может парализовать работу всего отдела и даже всей компании. И представьте деда-пенсионера, который на своей девятке едет на рыбалку. Рост цен на бензин заставит его поменять планы и провести день дома. Можно посочувствовать деду - он ни в чём не виноват, но никто кроме него самого от этого не пострадает.
1.2. Высокие цены создают мощный стимул увеличивать предложение бензина. Владельцы НПЗ будут всеми силами ремонтировать свои заводы, даже если будут знать, что вскоре после ремонта в них снова прилетит: один месяц работы уже даст такую прибыль, которая компенсирует все расходы на ремонт. Те же владельцы будут вкладываться в создание ПВО для своих заводов. Владельцы мелких НПЗ - "чайников" - будут всеми силами наращивать выпуск и пытаться создать новые мощности. Нефтеторговцы облазят весь мир в поисках партий бензина, которые можно привезти в обход санкций.
Побочным эффектом будет появление огромных сверхприбылей не у тех, кто умеет лучше организовывать производство, а у тех, кому просто повезло. НПЗ был сравнительно слабо повреждён, например. Или вообще находится вне зоны досягаемости дронов. (К сожалению, к востоку от Омска располагается всего четыре крупных нефтеперерабатывающих завода, общая мощность которых составляет около 10% от общероссийской). Гипотетически эти сверхприбыли, никак не связанные с действиями владельцев, можно частично изъять за счёт windfall tax - налога на внезапную прибыль.
Высокие цены на бензин - это очень, очень неприятно, особенно если бензин должны покупать вы лично. Но ничего катастрофичного в них нет. В большинстве стран мира 95-й бензин стоит больше 100 рублей (в некоторых под 200 и даже выше).
2.1. Рассмотрим очереди, вызванные попытками сохранять цены на прежнем уровне на заправках крупных нефтяных компаний. Высокая цена отсекает тех, кому бензин не особо нужен, и тех, у кого мало денег; очередь же является могучим средством перераспределения благ в пользу тех, кто мало ценит своё время. Это не значит, что в очереди стоят только бездельники - напротив, те, кому позарез нужен бензин, будут стоять в ней волей-неволей. Но давайте вспомним наш пример с дедом. Для него постоять в очереди - интересный способ провести время: можно пообщаться, обсудить новости, узнать, кто же виноват - Ротшильды или Рокфеллеры (а может, таинственные Барухи?) Время у деда бесплатное. А вот руководитель отдела скорее будет искать барыг, которые получают бензин благодаря обману или взяткам работникам нефтебаз. Он купит бензин уже по 200 за литр. Очередь, пожирающая самый ценный ресурс в мире - человеческое время, является мощнейшим инструментом перераспределения от более продуктивных членов общества к менее продуктивным.
2.2. Дополнительный эффект очереди - в ней самой сжигается бешеное количество топлива.
2.3. И, конечно, если пытаться сохранять цены на прежнем уровне, у владельцев нефтепереработки не появляется никаких стимулов в авральном порядке восстанавливать или расширять производство.
3.1. А что если бензин рационировать, то есть распределять по карточкам (QR-кодам в замечательном мессенджера Макс?) Ведь это ликвидирует очереди.
В войну по карточкам распределяли хлеб. Хлеб был нужен абсолютно всем. В брежневскую эпоху перед Новым годом всем раздавали продуктовый набор с чудным дефицитным фруктом - мандаринами. Мандарины на стол хотели все. В позднесоветские годы по карточкам начали распределять мясо. Мясо хотелось всем.
Но никому в советское время не приходило в голову распределять по карточкам рояли. Типа, раз в десять лет каждый имеет право купить рояль. Абсолютному большинству, 99% населения, рояль не нужен, и ставить его некуда.
Кто-то использует автомобиль, чтобы на выходные ездить на дачу. Кто-то не вылезает из авто весь день - ездит по деловым встречам, выезжает выполнять работы (сантехник или электрик). Кто-то ежедневно ездит из пригорода в центр на работу. У кого-то работа связана с междугородними поездками. Что будет, если раздавать бензин всем в одинаковом количестве? Чёрный рынок. Причём сложно устроенный: перекупам надо будет договариваться с массой мелких автовладельцев, чтобы они заправлялись, а потом сливали бензин.
3.2. Как и в случае с очередями, попытки заморозить цены при помощи карточек не создают мощных стимулов к увеличению предложения бензина.
4.1. Но если отпустить бензиновые цены - начнётся инфляция, ведь так? Это магическое мышление. Инфляция - это, в конечном счёте, снижение полезности денег. Если нельзя купить бензин в обмен на деньги, их ценность снижается гораздо сильнее, чем если бензин просто дорожает.
Кроме того, если раньше люди покупали X тонн бензина в день, а теперь покупают, к примеру, 0,6X по прежней цене (те, кто смог отстоять очередь), у них остаётся больше денег. Эти деньги они потратят на другие товары и услуги. Рост цен переносится из одной области во все другие области, попутно создаётся чудовищную неэффективность.
4.2. Самый яркий пример магии в головах - это то, что Сергей Вакуленко формулирует как "если бензин подорожает на 10%, молоко подорожает вдвое". Люди говорят: "топливо требуется на всех этапах производства" - и искренне думают, что сказали что-то очень умное. Волшебным образом издержки не суммируются, а перемножаются.
В прошлом году российский бизнес потребил примерно 10 млн тонн бензина, стоимость которого составила примерно 0,4% ВВП. (Дизеля потребили намного больше, но цены на него растут не так сильно). В каких-то ценах доля бензина выше, и они могут заметно измениться. Большинство товаров и услуг от бензина практически не зависят.
Что действительно может повлиять на цены - так это обрывы в логистике, связанные с невозможностью вовремя заправиться из-за многочасовых очередей.
4.3. Есть просвещённый аргумент в пользу ограничения цен на бензин: инфляционные ожидания. Людям проще всего отслеживать изменения общего уровня цен по изменениям цены на бензин. Нам сложно вспомнить, по какой цене мы покупали молоко или гречку на прошлой неделе. Квартиры, автомобили, бытовую технику покупают раз в несколько лет или несколько десятилетий. Но бензин люди покупают каждый день - и по ценам на бензин формирует свои инфляционные ожидания. А эти ожидания являются классическим примером самосбывающегося пророчества: все ждут роста цен - цены вырастут.
Выглядит убедительно. Но не работает. Отдельных работ по России я не знаю, а в США исследователи применили все возможные методики. Редкий случай консенсуса (ну почти консенсуса) среди экономистов: бензин не вносит аномального вклада в инфляционные ожидания. Вот свежие статьи: раз, два, три, четыре. Русские автомобилисты не глупее американских.
В Штатах на ярмарках есть такая забава: оценивать по внешнему виду вес быка-чемпиона. Тот, чья оценка будет ближе всего к истине, выигрывает. Часто среднее значение, полученное из всех оценок, оказывается точнее любой отдельной оценки. Люди ошибаются, но агрегирование ошибок создаёт чудо распределённой информации, лежащее в основе механизма рыночных цен.
...
Такие дела.
1.1. Давайте предположим, что сейчас реальная равновесная цена 92-го в стране - 100 или 120 рублей. Такой она была бы, если бы заправки крупных нефтяных компаний не пытались морозить цены. Что это означает? Что бензин могут покупать только сравнительно богатые и те, кому бензин очень нужен. Первая и вторая категории тесно пересекаются. В любом обществе, и в нашем тем более, среди богатых найдётся множество "социальных паразитов" - тех, кто наворовал, кто получил богатое наследство и ничего не делает, и так далее. Но в среднем люди с более высокой продуктивностью имеют более высокие доходы.
Представьте начальника важного отдела в крупной компании, который работает допоздна. Он много зарабатывает, и готов много заплатить за возможность быстро заправиться. Его отсутствие на работе может парализовать работу всего отдела и даже всей компании. И представьте деда-пенсионера, который на своей девятке едет на рыбалку. Рост цен на бензин заставит его поменять планы и провести день дома. Можно посочувствовать деду - он ни в чём не виноват, но никто кроме него самого от этого не пострадает.
1.2. Высокие цены создают мощный стимул увеличивать предложение бензина. Владельцы НПЗ будут всеми силами ремонтировать свои заводы, даже если будут знать, что вскоре после ремонта в них снова прилетит: один месяц работы уже даст такую прибыль, которая компенсирует все расходы на ремонт. Те же владельцы будут вкладываться в создание ПВО для своих заводов. Владельцы мелких НПЗ - "чайников" - будут всеми силами наращивать выпуск и пытаться создать новые мощности. Нефтеторговцы облазят весь мир в поисках партий бензина, которые можно привезти в обход санкций.
Побочным эффектом будет появление огромных сверхприбылей не у тех, кто умеет лучше организовывать производство, а у тех, кому просто повезло. НПЗ был сравнительно слабо повреждён, например. Или вообще находится вне зоны досягаемости дронов. (К сожалению, к востоку от Омска располагается всего четыре крупных нефтеперерабатывающих завода, общая мощность которых составляет около 10% от общероссийской). Гипотетически эти сверхприбыли, никак не связанные с действиями владельцев, можно частично изъять за счёт windfall tax - налога на внезапную прибыль.
Высокие цены на бензин - это очень, очень неприятно, особенно если бензин должны покупать вы лично. Но ничего катастрофичного в них нет. В большинстве стран мира 95-й бензин стоит больше 100 рублей (в некоторых под 200 и даже выше).
2.1. Рассмотрим очереди, вызванные попытками сохранять цены на прежнем уровне на заправках крупных нефтяных компаний. Высокая цена отсекает тех, кому бензин не особо нужен, и тех, у кого мало денег; очередь же является могучим средством перераспределения благ в пользу тех, кто мало ценит своё время. Это не значит, что в очереди стоят только бездельники - напротив, те, кому позарез нужен бензин, будут стоять в ней волей-неволей. Но давайте вспомним наш пример с дедом. Для него постоять в очереди - интересный способ провести время: можно пообщаться, обсудить новости, узнать, кто же виноват - Ротшильды или Рокфеллеры (а может, таинственные Барухи?) Время у деда бесплатное. А вот руководитель отдела скорее будет искать барыг, которые получают бензин благодаря обману или взяткам работникам нефтебаз. Он купит бензин уже по 200 за литр. Очередь, пожирающая самый ценный ресурс в мире - человеческое время, является мощнейшим инструментом перераспределения от более продуктивных членов общества к менее продуктивным.
2.2. Дополнительный эффект очереди - в ней самой сжигается бешеное количество топлива.
2.3. И, конечно, если пытаться сохранять цены на прежнем уровне, у владельцев нефтепереработки не появляется никаких стимулов в авральном порядке восстанавливать или расширять производство.
3.1. А что если бензин рационировать, то есть распределять по карточкам (QR-кодам в замечательном мессенджера Макс?) Ведь это ликвидирует очереди.
В войну по карточкам распределяли хлеб. Хлеб был нужен абсолютно всем. В брежневскую эпоху перед Новым годом всем раздавали продуктовый набор с чудным дефицитным фруктом - мандаринами. Мандарины на стол хотели все. В позднесоветские годы по карточкам начали распределять мясо. Мясо хотелось всем.
Но никому в советское время не приходило в голову распределять по карточкам рояли. Типа, раз в десять лет каждый имеет право купить рояль. Абсолютному большинству, 99% населения, рояль не нужен, и ставить его некуда.
Кто-то использует автомобиль, чтобы на выходные ездить на дачу. Кто-то не вылезает из авто весь день - ездит по деловым встречам, выезжает выполнять работы (сантехник или электрик). Кто-то ежедневно ездит из пригорода в центр на работу. У кого-то работа связана с междугородними поездками. Что будет, если раздавать бензин всем в одинаковом количестве? Чёрный рынок. Причём сложно устроенный: перекупам надо будет договариваться с массой мелких автовладельцев, чтобы они заправлялись, а потом сливали бензин.
3.2. Как и в случае с очередями, попытки заморозить цены при помощи карточек не создают мощных стимулов к увеличению предложения бензина.
4.1. Но если отпустить бензиновые цены - начнётся инфляция, ведь так? Это магическое мышление. Инфляция - это, в конечном счёте, снижение полезности денег. Если нельзя купить бензин в обмен на деньги, их ценность снижается гораздо сильнее, чем если бензин просто дорожает.
Кроме того, если раньше люди покупали X тонн бензина в день, а теперь покупают, к примеру, 0,6X по прежней цене (те, кто смог отстоять очередь), у них остаётся больше денег. Эти деньги они потратят на другие товары и услуги. Рост цен переносится из одной области во все другие области, попутно создаётся чудовищную неэффективность.
4.2. Самый яркий пример магии в головах - это то, что Сергей Вакуленко формулирует как "если бензин подорожает на 10%, молоко подорожает вдвое". Люди говорят: "топливо требуется на всех этапах производства" - и искренне думают, что сказали что-то очень умное. Волшебным образом издержки не суммируются, а перемножаются.
В прошлом году российский бизнес потребил примерно 10 млн тонн бензина, стоимость которого составила примерно 0,4% ВВП. (Дизеля потребили намного больше, но цены на него растут не так сильно). В каких-то ценах доля бензина выше, и они могут заметно измениться. Большинство товаров и услуг от бензина практически не зависят.
Что действительно может повлиять на цены - так это обрывы в логистике, связанные с невозможностью вовремя заправиться из-за многочасовых очередей.
4.3. Есть просвещённый аргумент в пользу ограничения цен на бензин: инфляционные ожидания. Людям проще всего отслеживать изменения общего уровня цен по изменениям цены на бензин. Нам сложно вспомнить, по какой цене мы покупали молоко или гречку на прошлой неделе. Квартиры, автомобили, бытовую технику покупают раз в несколько лет или несколько десятилетий. Но бензин люди покупают каждый день - и по ценам на бензин формирует свои инфляционные ожидания. А эти ожидания являются классическим примером самосбывающегося пророчества: все ждут роста цен - цены вырастут.
Выглядит убедительно. Но не работает. Отдельных работ по России я не знаю, а в США исследователи применили все возможные методики. Редкий случай консенсуса (ну почти консенсуса) среди экономистов: бензин не вносит аномального вклада в инфляционные ожидания. Вот свежие статьи: раз, два, три, четыре. Русские автомобилисты не глупее американских.
В Штатах на ярмарках есть такая забава: оценивать по внешнему виду вес быка-чемпиона. Тот, чья оценка будет ближе всего к истине, выигрывает. Часто среднее значение, полученное из всех оценок, оказывается точнее любой отдельной оценки. Люди ошибаются, но агрегирование ошибок создаёт чудо распределённой информации, лежащее в основе механизма рыночных цен.
...
Такие дела.
👍3
Forwarded from gonzo-обзоры ML статей
Интересная работа. Я её разбирал в англоязычном блоге год назад, но сюда кажется так и не запостил. Работа же дошла за это время до ICML.
Интересны для меня в ней по крайней мере три момента:
1. Оценена "ёмкость" каждого веса, сколько он добавляет к памяти — примерно 3.6 бита на параметр. Что отдельно интересно, что fp32 по сравнению с bf16 не очень много добавляет, 3.83 против 3.51, не в два раза.
2. Работа очень хорошо подтверждает теорию информационного боттлнека им. Нафтали Тишби, что у модели есть в обучении две фазы — в первой она всё запоминает что может, во второй ей приходится сжимать ибо уже не лезет. Неожиданно, это та самая точка, где наблюдается double descent.
3. Если отношение токенов к параметрам больше 100, то это статистически гарантирует невозможность membership inference атаки.
How much can language models memorize?
John X. Morris, Chawin Sitawarin, Chuan Guo, Narine Kokhlikyan, G. Edward Suh, Alexander M. Rush, Kamalika Chaudhuri, Saeed Mahloujifar
Paper: https://arxiv.org/abs/2505.24832, ICML Submission, ICLR Submission
Review: https://arxiviq.substack.com/p/icml-2026-how-much-can-language-models
Code: N/A
Model: https://huggingface.co/rhysjones/gpt2-774M-fineweb-150B
ICML 2026 Outstanding Paper Honorable Mention
# TL;DR
ЧТО сделали: Авторы разработали информационно-теоретический фреймворк на базе колмогоровской сложности, который позволяет строго отделить непреднамеренное запоминание от обобщения. Обучив и протестировав сотни моделей архитектуры GPT на синтетических и реальных данных, они оценили эмпирическую ёмкость памяти трансформеров примерно в 3.6 бита на параметр и вывели сигмоидальный закон масштабирования для атак восстановления членства (membership inference).
ПОЧЕМУ это важно: Эта работа даёт строгое физическое объяснение феномену двойного спуска (double descent). Она доказывает, что обобщение математически неизбежно, когда объём датасета в битах превышает ёмкость памяти модели. Кроме того, исследование показывает, что современные LLM, обученные на гигантских массивах данных, математически защищены от атак восстановления членства: вероятность успеха таких атак падает до уровня случайного угадывания, как только соотношение токенов и параметров превышает
Для практиков: Полученные оценки ёмкости позволяют проектировать пайплайны обучения с гарантированной защитой от утечки данных. Теперь можно математически рассчитать размер модели и объём обучающей выборки так, чтобы полностью исключить возможность извлечения конфиденциальных тренировочных примеров.
Считать информацию тут: https://t.me/gonzo_ML_podcasts/4418
Интересны для меня в ней по крайней мере три момента:
1. Оценена "ёмкость" каждого веса, сколько он добавляет к памяти — примерно 3.6 бита на параметр. Что отдельно интересно, что fp32 по сравнению с bf16 не очень много добавляет, 3.83 против 3.51, не в два раза.
2. Работа очень хорошо подтверждает теорию информационного боттлнека им. Нафтали Тишби, что у модели есть в обучении две фазы — в первой она всё запоминает что может, во второй ей приходится сжимать ибо уже не лезет. Неожиданно, это та самая точка, где наблюдается double descent.
3. Если отношение токенов к параметрам больше 100, то это статистически гарантирует невозможность membership inference атаки.
How much can language models memorize?
John X. Morris, Chawin Sitawarin, Chuan Guo, Narine Kokhlikyan, G. Edward Suh, Alexander M. Rush, Kamalika Chaudhuri, Saeed Mahloujifar
Paper: https://arxiv.org/abs/2505.24832, ICML Submission, ICLR Submission
Review: https://arxiviq.substack.com/p/icml-2026-how-much-can-language-models
Code: N/A
Model: https://huggingface.co/rhysjones/gpt2-774M-fineweb-150B
ICML 2026 Outstanding Paper Honorable Mention
# TL;DR
ЧТО сделали: Авторы разработали информационно-теоретический фреймворк на базе колмогоровской сложности, который позволяет строго отделить непреднамеренное запоминание от обобщения. Обучив и протестировав сотни моделей архитектуры GPT на синтетических и реальных данных, они оценили эмпирическую ёмкость памяти трансформеров примерно в 3.6 бита на параметр и вывели сигмоидальный закон масштабирования для атак восстановления членства (membership inference).
ПОЧЕМУ это важно: Эта работа даёт строгое физическое объяснение феномену двойного спуска (double descent). Она доказывает, что обобщение математически неизбежно, когда объём датасета в битах превышает ёмкость памяти модели. Кроме того, исследование показывает, что современные LLM, обученные на гигантских массивах данных, математически защищены от атак восстановления членства: вероятность успеха таких атак падает до уровня случайного угадывания, как только соотношение токенов и параметров превышает
10^2.Для практиков: Полученные оценки ёмкости позволяют проектировать пайплайны обучения с гарантированной защитой от утечки данных. Теперь можно математически рассчитать размер модели и объём обучающей выборки так, чтобы полностью исключить возможность извлечения конфиденциальных тренировочных примеров.
Считать информацию тут: https://t.me/gonzo_ML_podcasts/4418
arXiv.org
How much do language models memorize?
We propose a new method for estimating how much a model knows about a datapoint and use it to measure the capacity of modern language models. Prior studies of language model memorization have...
Forwarded from from:adam
У меня очень долго были плохие отношения с отпусками: брал редко, между поездками мог пройти год, а отдых был не vacation, а workation сводившийся к смене локации с ответами в рабочие чаты. Сейчас стало лучше: чаще хожу, на работу не отвлекаюсь. Решил разобраться, что об этом говорит наука. Для многих это банальные вещи, но мне мозги прочистило хорошо. Вот основное:
1. Восстановление — это пирамида восстановления, а не редкие события в жизни. Отпуск не чинит плохой режим и work/life balance. Вечера без работы → нормальные выходные → отпуск. Эффект отпуска выветривается за ~3 недели, а будни с нами остаются весь год.
2. Несколько коротких поездок лучше одной длинной. Память не вознаграждает за длительность, а длинный отпуск даёт больший пик, но падает быстрее. При этом годовой объём резать нельзя 1 2. Японцы, к примеру, при 12 днях отпуска реже всех чувствуют нехватку отдыха (опрос Expedia) — предположительно за счёт частых коротких поездок.
3. Планировать отпуск лучше заранее. Предвкушение работает, как отдельный источник счастья. Работает именно конкретика (даты, билеты, жильё), а «летом куда-нибудь». В идеале даже закончить один отпуск и иметь сразу следующий забуканый.
4. Полное отключение от работы — самый важный фактор, второй — физическая активность. «Только гляну почту» не даёт частичный отдых, а подтачивает механизм целиком — работа из отпуска ухудшает самочувствие после него. А вот популярное «смена деятельности = отдых» не работает: освоение новых навыков в отпуске значимого эффекта на восстановление не даёт. Трудоголикам тяжелее отключиться — им нужен отпуск длиннее и связь с работой, недоступная физически.
5. Отпуск не нужно превращать в проект с жестким расписанием досуга. Это делает его похожим на работу. Работает скелет: жильё, переезды, 1–2 якоря на день (локация, рестики, музеи и тд). Остальное оставлять пустотой, которую не надо оптимизировать.
6. Память о поездке определяется отсутствием провалов, а не яркими пиками. Часто людям кажется, что, воспоминание держится на ярком финале, но на многодневных событиях правило не работает: оценку определяет среднее по всем дням, а провалы весят больше пиков. К концу поездки настроение естественно снижается — тем важнее не ставить в конец какой-нибудь логистический ад, ибо испортит воспоминание сильнее, чем компенсирует любой вау эффект.
7. Нужен буфер с обеих концов отпуска. Перед вылетом — день свободы между работой и поездкой. Предотпускная неделя — пик стресса, иначе первые дни уйдут на разгрузку того, что привез с собой в поездку. При смене часовых поясов первые 1–2 дня — не для требовательных планов. После отпуска же требуется протекция первой недели, ибо эффект сгорает не от того, как прошёл отдых, а от того, во что человек возвращается. Оптимально: прилёт за день до выхода, первые 2–3 дня без встреч (ставить блокеры в календарь еще до отъезда), без дедлайнов на первую неделю.
8. Поездку стоит переработать в память. Возвращение к позитивному опыту — работающая интервенция. У меня, к примеру, это обработка фотографий с отпуска в лайтруме, к которой я периодически возращаюсь после поездки.
1. Восстановление — это пирамида восстановления, а не редкие события в жизни. Отпуск не чинит плохой режим и work/life balance. Вечера без работы → нормальные выходные → отпуск. Эффект отпуска выветривается за ~3 недели, а будни с нами остаются весь год.
2. Несколько коротких поездок лучше одной длинной. Память не вознаграждает за длительность, а длинный отпуск даёт больший пик, но падает быстрее. При этом годовой объём резать нельзя 1 2. Японцы, к примеру, при 12 днях отпуска реже всех чувствуют нехватку отдыха (опрос Expedia) — предположительно за счёт частых коротких поездок.
3. Планировать отпуск лучше заранее. Предвкушение работает, как отдельный источник счастья. Работает именно конкретика (даты, билеты, жильё), а «летом куда-нибудь». В идеале даже закончить один отпуск и иметь сразу следующий забуканый.
4. Полное отключение от работы — самый важный фактор, второй — физическая активность. «Только гляну почту» не даёт частичный отдых, а подтачивает механизм целиком — работа из отпуска ухудшает самочувствие после него. А вот популярное «смена деятельности = отдых» не работает: освоение новых навыков в отпуске значимого эффекта на восстановление не даёт. Трудоголикам тяжелее отключиться — им нужен отпуск длиннее и связь с работой, недоступная физически.
5. Отпуск не нужно превращать в проект с жестким расписанием досуга. Это делает его похожим на работу. Работает скелет: жильё, переезды, 1–2 якоря на день (локация, рестики, музеи и тд). Остальное оставлять пустотой, которую не надо оптимизировать.
6. Память о поездке определяется отсутствием провалов, а не яркими пиками. Часто людям кажется, что, воспоминание держится на ярком финале, но на многодневных событиях правило не работает: оценку определяет среднее по всем дням, а провалы весят больше пиков. К концу поездки настроение естественно снижается — тем важнее не ставить в конец какой-нибудь логистический ад, ибо испортит воспоминание сильнее, чем компенсирует любой вау эффект.
7. Нужен буфер с обеих концов отпуска. Перед вылетом — день свободы между работой и поездкой. Предотпускная неделя — пик стресса, иначе первые дни уйдут на разгрузку того, что привез с собой в поездку. При смене часовых поясов первые 1–2 дня — не для требовательных планов. После отпуска же требуется протекция первой недели, ибо эффект сгорает не от того, как прошёл отдых, а от того, во что человек возвращается. Оптимально: прилёт за день до выхода, первые 2–3 дня без встреч (ставить блокеры в календарь еще до отъезда), без дедлайнов на первую неделю.
8. Поездку стоит переработать в память. Возвращение к позитивному опыту — работающая интервенция. У меня, к примеру, это обработка фотографий с отпуска в лайтруме, к которой я периодически возращаюсь после поездки.
👍5🔥1
Forwarded from Адель и МЛь
Насколько же сильно меняется работа, когда есть ИИ агенты.
Мой коллега, биоинформатик, увидел статью, в которой хитрым образом находят специфичные гены в картошке. Понял, что это может быть полезно для нашего отдела по селекции клубники. Потому что и то, и другое распространяется вегетативно - то есть не через семена, а усы и клубни - они не родня, конечно, но в генетическом плане есть о чем поговорить, так сказать.
Он дал эту статью агенту, который вооружен до зубов скиллами нашего собственного приготовления, и поставил задачу воспроизвести методы из статьи на наших данных клубники.
Агент прочел работу, скачал с гита код, подтянул наши данные из бд, адаптировал что-то по мелочи, собрал контейнер, создал джобу на кластере и вот оно там бодро считается на нескольких Н100.
По сути это задача интерна/джуна - “вот тебе статья, вот данные, через неделю покажешь, не надо плакать, все будет хорошо, соберись уже”
Прогресс, как это часто бывает, выглядит немного несправедливо.
И это, заметьте, не задачи кодинга, это по сути своей - applied research. Ведь агент не просто пишет код (если вообше пишет), а таскает за собой весь исследовательский контекст, внутреннюю кухню по данным и инфре.
До сих пор не верится, что это все настолько хорошо работает. Ощущение, что оно где-то да вот вот зафейлится - но оно раз за разом хорошо отрабатывает. Магия 🤷♂️
Мой коллега, биоинформатик, увидел статью, в которой хитрым образом находят специфичные гены в картошке. Понял, что это может быть полезно для нашего отдела по селекции клубники. Потому что и то, и другое распространяется вегетативно - то есть не через семена, а усы и клубни - они не родня, конечно, но в генетическом плане есть о чем поговорить, так сказать.
Он дал эту статью агенту, который вооружен до зубов скиллами нашего собственного приготовления, и поставил задачу воспроизвести методы из статьи на наших данных клубники.
Агент прочел работу, скачал с гита код, подтянул наши данные из бд, адаптировал что-то по мелочи, собрал контейнер, создал джобу на кластере и вот оно там бодро считается на нескольких Н100.
По сути это задача интерна/джуна - “вот тебе статья, вот данные, через неделю покажешь, не надо плакать, все будет хорошо, соберись уже”
Прогресс, как это часто бывает, выглядит немного несправедливо.
И это, заметьте, не задачи кодинга, это по сути своей - applied research. Ведь агент не просто пишет код (если вообше пишет), а таскает за собой весь исследовательский контекст, внутреннюю кухню по данным и инфре.
До сих пор не верится, что это все настолько хорошо работает. Ощущение, что оно где-то да вот вот зафейлится - но оно раз за разом хорошо отрабатывает. Магия 🤷♂️
🔥4👍2
Forwarded from Наука и университеты
#Прямая_речь
Учитель истории московской гимназии № 1543, заслуженный учитель РФ Леонид Кацва по поводу отказов зачислить школьников в 10-й класс:
Учитель истории московской гимназии № 1543, заслуженный учитель РФ Леонид Кацва по поводу отказов зачислить школьников в 10-й класс:
«Наши школьники привыкли к тому, что можно не учиться и переходить из класса в класс: «тройка» устроит, а «двойку» не поставят, и можно продолжать готовить три предмета. С моей точки зрения, в школах у нас достаточно детей, которые должны заканчивать образование в 9-м классе, если не раньше, и переходить в те учебные заведения, где главное внимание будет уделяться подготовке к профессии. Я никакой трагедии в том, что в 10-й класс стали принимать довольно жестко, не вижу».
👍10🤔2👎1🔥1💯1