NYT наконец выпустил свою статью про Slate Star Codex. Как и ожидалось, статья очень негативная. Не надо даже быть в курсе ситуации, чтобы увидеть, что на протяжении всего текста журналист пытается натянуть всех сов на глобус "Scott Alexander bad, bad, racist, bad". Абсолютно pathetic. Ссылку на статью давать на буду, потому что я надеюсь, что вам будет лень искать и NYT не получит больше кликов.
У Скотта однако вышел взвешенный ответ, на него дать ссылку на жалко:
https://astralcodexten.substack.com/p/statement-on-new-york-times-article
У Скотта однако вышел взвешенный ответ, на него дать ссылку на жалко:
https://astralcodexten.substack.com/p/statement-on-new-york-times-article
Astral Codex Ten
Statement on New York Times Article
...
Forwarded from Small Data Science for Russian Adventurers
#книга
Полистал книжку «Занимательная манга. Машинное обучение». Интересно мнение человека с нулевыми знаниями по ML, можно ли по подобным книгам что-то понять и выучить? А так, выглядит симпатично...
Полистал книжку «Занимательная манга. Машинное обучение». Интересно мнение человека с нулевыми знаниями по ML, можно ли по подобным книгам что-то понять и выучить? А так, выглядит симпатично...
SPACED REPETITION мать его используй его чего же ты ждешь
Вы проходите курс, сдаете экзамен, а через месяц с трудом вспоминаете название предмета, не говоря уже о материале. Было такое? В университете мне говорили, что так должно быть: "Зато остается интуиция, и ты знаешь, где посмотреть!" Теперь я уверен: всё это чушь. На первом курсе бакалавриата я изучал линейную алгебру, а на четвертом курсе я уже не помнил как перемножать матрицы и вдруг обнаружил, что нужно изучать всё заново. Очень глупое чувство. Тогда я заинтересовался: может быть есть способ изучить всё один раз, и потом не переучиваться? Я нашел решение, и спустя пару лет я уже преподавал линейную алгебру в ВШЭ. Сейчас я вам расскажу в чем секрет.
После усвоения новой информации мы забываем 20% на следующий день. К концу недели мы забываем всё начисто[1]. Придется изучать заново, считай как будто и не изучали. Мы помним только ту информацию, которой пользуемся. Очевидный выход: повторять. Повторение кажется зубрежкой, но на самом деле у них нет ничего общего. Правильное повторение это активное тестирование знаний и понимания. Перечитать конспект лекции на следующий день лучше, чем ничего, но неэффективно. Многократно лучше задать себе вопрос по материалу и попробовать на него ответить, вслух или письменно, а затем сверить ответ с конспектом. Знаете чувство, когда на экзамене вдруг складывается понимание, и всё будто встает на свои места? Вот такие моменты и вызывает правильное повторение.
Конечно мы не можем повторять вообще всё каждый день. Однако в этом нет необходимости. Чем дольше мы что-то повторяем, тем лучше оно запоминается и тем реже это надо повторять.
К счастью уже нашли оптимальную по затратам времени частоту повторения: алгоритм Spaced Repetition[2]. Идея простая: усваиваем новую информацию, повторяем её в тот же день, потом через два дня, потом через четыре, и так далее по нарастающей. Если в какой-то момент не можем вспомнить, то сбрасываем прогресс и снова повторяем часто. Для самых дотошных, вот здесь [3] вы найдете столько научных доказательств эффективности метода, сколько вы сможете унести.
Программных реализаций несколько, мой выбор это Anki [4]. Бесплатная и кросс-платформенная opensource программа для запоминания чего угодно. Когда я хочу что-то запомнить, я создаю карточку с двумя сторонами. На первой вопрос, например: "Что такое скалярное произведение? 1. Объясни идею 2. Приведи формулу". На второй стороне ответ. Каждое утро, или, например, сидя в метро, я достаю телефон и открываю Anki. Если пришло время повторить карточку, Anki покажет мне первую сторону с вопросом. Я пробую ответить. Далее я открываю вторую сторону карты, сравниваю свой ответ с правильным. Если я ответил хорошо, то Анки покажет мне карточку очень нескоро (например некоторые карты я увижу только через год), поэтому количество повторяемых карточек не становится большим. Повторение карточек занимает всего пару минут в день.
Этот инструмент позволил мне изучить алгоритмы и структуры данных так, что на собеседованиях мне было скучно когда мне давали задачки. Он же позволил изучить математику заново (после отупения в армии) и поступить в магистратуру на Data Science. Используя Anki я с удивлением обнаружил, что повторение очень сильно прокачивает понимание и скорость усвоения нового: гораздо проще усвоить новое понятие, когда можешь связать его с другими. Anki полностью заменил мне конспекты: проходясь по новому материалу я сразу его "нарезаю" на карточки. Этот процесс сам по себе помогает изучать: не поняв материал ты не сможешь создать карточку. Спросите студентов-медиков, и они расскажут вам, что выживают благодаря Anki. Anki это соверешенно другой подход к обучению. Вместо попытки запихнуть в себя весь курс за две недели до экзамена вы накапливаете знания постепенно. Одни понятия опираются на другие. К концу курса у вас такая сеть знаний, что даже если вы забыли частичку, вы можете вывести её из других. Самое крутое? Все знания остаются с вами навсегда.
Вы проходите курс, сдаете экзамен, а через месяц с трудом вспоминаете название предмета, не говоря уже о материале. Было такое? В университете мне говорили, что так должно быть: "Зато остается интуиция, и ты знаешь, где посмотреть!" Теперь я уверен: всё это чушь. На первом курсе бакалавриата я изучал линейную алгебру, а на четвертом курсе я уже не помнил как перемножать матрицы и вдруг обнаружил, что нужно изучать всё заново. Очень глупое чувство. Тогда я заинтересовался: может быть есть способ изучить всё один раз, и потом не переучиваться? Я нашел решение, и спустя пару лет я уже преподавал линейную алгебру в ВШЭ. Сейчас я вам расскажу в чем секрет.
После усвоения новой информации мы забываем 20% на следующий день. К концу недели мы забываем всё начисто[1]. Придется изучать заново, считай как будто и не изучали. Мы помним только ту информацию, которой пользуемся. Очевидный выход: повторять. Повторение кажется зубрежкой, но на самом деле у них нет ничего общего. Правильное повторение это активное тестирование знаний и понимания. Перечитать конспект лекции на следующий день лучше, чем ничего, но неэффективно. Многократно лучше задать себе вопрос по материалу и попробовать на него ответить, вслух или письменно, а затем сверить ответ с конспектом. Знаете чувство, когда на экзамене вдруг складывается понимание, и всё будто встает на свои места? Вот такие моменты и вызывает правильное повторение.
Конечно мы не можем повторять вообще всё каждый день. Однако в этом нет необходимости. Чем дольше мы что-то повторяем, тем лучше оно запоминается и тем реже это надо повторять.
К счастью уже нашли оптимальную по затратам времени частоту повторения: алгоритм Spaced Repetition[2]. Идея простая: усваиваем новую информацию, повторяем её в тот же день, потом через два дня, потом через четыре, и так далее по нарастающей. Если в какой-то момент не можем вспомнить, то сбрасываем прогресс и снова повторяем часто. Для самых дотошных, вот здесь [3] вы найдете столько научных доказательств эффективности метода, сколько вы сможете унести.
Программных реализаций несколько, мой выбор это Anki [4]. Бесплатная и кросс-платформенная opensource программа для запоминания чего угодно. Когда я хочу что-то запомнить, я создаю карточку с двумя сторонами. На первой вопрос, например: "Что такое скалярное произведение? 1. Объясни идею 2. Приведи формулу". На второй стороне ответ. Каждое утро, или, например, сидя в метро, я достаю телефон и открываю Anki. Если пришло время повторить карточку, Anki покажет мне первую сторону с вопросом. Я пробую ответить. Далее я открываю вторую сторону карты, сравниваю свой ответ с правильным. Если я ответил хорошо, то Анки покажет мне карточку очень нескоро (например некоторые карты я увижу только через год), поэтому количество повторяемых карточек не становится большим. Повторение карточек занимает всего пару минут в день.
Этот инструмент позволил мне изучить алгоритмы и структуры данных так, что на собеседованиях мне было скучно когда мне давали задачки. Он же позволил изучить математику заново (после отупения в армии) и поступить в магистратуру на Data Science. Используя Anki я с удивлением обнаружил, что повторение очень сильно прокачивает понимание и скорость усвоения нового: гораздо проще усвоить новое понятие, когда можешь связать его с другими. Anki полностью заменил мне конспекты: проходясь по новому материалу я сразу его "нарезаю" на карточки. Этот процесс сам по себе помогает изучать: не поняв материал ты не сможешь создать карточку. Спросите студентов-медиков, и они расскажут вам, что выживают благодаря Anki. Anki это соверешенно другой подход к обучению. Вместо попытки запихнуть в себя весь курс за две недели до экзамена вы накапливаете знания постепенно. Одни понятия опираются на другие. К концу курса у вас такая сеть знаний, что даже если вы забыли частичку, вы можете вывести её из других. Самое крутое? Все знания остаются с вами навсегда.
❤10👍5
Я знаю, звучит подозрительно. "Этот трюк изменит вашу жизнь". Но это правда так и больше всего меня удивляет, что об этом не рассказывают в школах. Просто попробуйте Anki в следующий раз когда будете изучать что-то новое, и вы увидите результаты уже за неделю.
[1] https://en.wikipedia.org/wiki/Forgetting_curve
[2] https://en.wikipedia.org/wiki/Spaced_repetition
[3] https://www.gwern.net/Spaced-repetition
[4] https://apps.ankiweb.net/
[1] https://en.wikipedia.org/wiki/Forgetting_curve
[2] https://en.wikipedia.org/wiki/Spaced_repetition
[3] https://www.gwern.net/Spaced-repetition
[4] https://apps.ankiweb.net/
Заметил, что не первый раз вылезаю за лимит размера поста в телеграме. В связи с этим интерактив
Среди тех постов, которые я читаю...
Anonymous Poll
91%
Обычно я дочитываю до конца
9%
Обычно прочитываю меньше половины
Борис опять pinned «SPACED REPETITION мать его используй его чего же ты ждешь Вы проходите курс, сдаете экзамен, а через месяц с трудом вспоминаете название предмета, не говоря уже о материале. Было такое? В университете мне говорили, что так должно быть: "Зато остается интуиция…»
IMG_20210216_155958_619.jpg
2.6 KB
Подписчик заметил, что Борис опять закрепляет, хех
Forwarded from Small Data Science for Russian Adventurers
#курс
Качественный курс “Введение в анализ данных и машинное обучение” от читателя моего блога (кстати, если есть кому что показать - присылайте). Готовился для школьников, но, мне кажется, подходит любым начинающим в ML. Очень симпатично оформлен.
https://timeseries-ru.github.io/course/README.html
Качественный курс “Введение в анализ данных и машинное обучение” от читателя моего блога (кстати, если есть кому что показать - присылайте). Готовился для школьников, но, мне кажется, подходит любым начинающим в ML. Очень симпатично оформлен.
https://timeseries-ru.github.io/course/README.html
Почему бы нам не поиграть в ту самую игру?
Подписчики канала решают, кто студент ВШЭ.
Голосуйте, предугадайте действия других. Если вы выбрали тот вариант с наименьшим числом голосов, то вы победили. Если нет, то вы студент ВШЭ.
Подписчики канала решают, кто студент ВШЭ.
Голосуйте, предугадайте действия других. Если вы выбрали тот вариант с наименьшим числом голосов, то вы победили. Если нет, то вы студент ВШЭ.
# Spaced repetition 2: как делать карты и не забить болт
В прошлом посте я писал про то, что spaced repetition и Anki это магия, которая позволит запоминать лучше, понимать лучше и учиться быстрее. Теперь я расскажу, как именно делать карточки.
Самое важное в том, что использование Anki это привычка. Это работает пока вы регулярно повторяете. Это главный принцип и всё остальное происходит от него. Если бы я дал один совет о том, как делать Anki карты, я бы сказал: делайте так, чтобы не забить.
В прошлом посте я рассказал, что круто выучил алгоритмы с помощью Anki. Вторая часть истории в том, что спустя пару месяцев после того, как я нашел хорошую работу программиста, я забросил Anki. Я думал, что инструмент достиг своей цели, а дальше повторение будет обеспечено мне работой.
Во-первых, это оказалось неправдой. Во-вторых, я не смог вернуться к своим картам. Сотни карт, которые надо пройти, производят очень давящее впечатление. Ещё хуже становится когда заглядываешь в эти карты и тебе даже вопрос непонятен, в голове просто: "Чего???". Снова эта ситуация, когда надо изучать заново. После этого я забросил Anki на ещё более долгое время, и как мог прокрастинировал возвращаться. В конце концов меня это достало и я просто начал делать колоды заново, оставив сотни непройденных карт в прошлом. Лучше начать заново и делать чуть-чуть, чем месяцами собираться сделать ого-го как много и в итоге не сделать ничего. Мой подход, который я опишу ниже, направлен на то, чтобы избежать повторного забрасывания.
В прошлом посте я писал про то, что spaced repetition и Anki это магия, которая позволит запоминать лучше, понимать лучше и учиться быстрее. Теперь я расскажу, как именно делать карточки.
Самое важное в том, что использование Anki это привычка. Это работает пока вы регулярно повторяете. Это главный принцип и всё остальное происходит от него. Если бы я дал один совет о том, как делать Anki карты, я бы сказал: делайте так, чтобы не забить.
В прошлом посте я рассказал, что круто выучил алгоритмы с помощью Anki. Вторая часть истории в том, что спустя пару месяцев после того, как я нашел хорошую работу программиста, я забросил Anki. Я думал, что инструмент достиг своей цели, а дальше повторение будет обеспечено мне работой.
Во-первых, это оказалось неправдой. Во-вторых, я не смог вернуться к своим картам. Сотни карт, которые надо пройти, производят очень давящее впечатление. Ещё хуже становится когда заглядываешь в эти карты и тебе даже вопрос непонятен, в голове просто: "Чего???". Снова эта ситуация, когда надо изучать заново. После этого я забросил Anki на ещё более долгое время, и как мог прокрастинировал возвращаться. В конце концов меня это достало и я просто начал делать колоды заново, оставив сотни непройденных карт в прошлом. Лучше начать заново и делать чуть-чуть, чем месяцами собираться сделать ого-го как много и в итоге не сделать ничего. Мой подход, который я опишу ниже, направлен на то, чтобы избежать повторного забрасывания.
🔥2
# Spaced repetition2: Базовые рекомендации
1. Не добавлять то, что вы не поняли.
Если вы не знаете какой вопрос задать по материалу, скорее всего вы ничего не поняли. Я пробовал делать карточки копируя определения из учебника, по принципу "потом разберусь". Ни разу не сработало.
2. Делать карточки самостоятельно.
Например, если вам нужно запомнить какое-то определение, попробуйте его перефразировать и записать в карточку своими словами. Если вам нужно запомнить формулу, не вставляйте скриншот, вбейте её руками.
Наклепать карточек из скриншотов или копипасты это заманчиво, но здесь главное качество, а не количество. Лучше одна карточка, которую вы понимаете, чем сто бесполезных.
Бывают исключения - если вы учите слова иностранного языка, то лучше скачать готовую колоду и всё.
3. Максимальная конкретика, минимум лишнего.
Анки хорошо работает, когда в карте простой вопрос, и такой же простой ответ. Предельный случай это изучение иностранных слов: слово "cat" на одной стороне, и "кошка" на другой. Кстати Anki был создан именно для изучения языков.
Итак, минимум лишнего. Если вы учите что-то непохожее на языки, типа математики, то в карточки все же требуется помещать больше деталей. Это нормально, но надо всё равно жестко отсекать лишнее.
Вопрос должен быть предельно понятен. Может быть заманчиво сделать себе вопрос с подвохом. Не надо так. В вопросе должно быть явно обозначено, что ожидается в ответе. Вы-через-полгода скажете себе спасибо.
Раньше я делал карточки с вопросом: "Косинусное расстояние". Вот так, и всё. Пару месяцев после создания карточки я ещё помнил, что я имел ввиду, что надо привести формулу, дать определение своими словами и рассказать, где эта штука применяется. Но позже я просто втыкал в вопрос и не знал, чего же я от себя хочу.
Ответ, в отличие от вопроса, не обязательно должен быть коротким. Он должен содержать весь необходимый контекст для ответа на вопрос. Если вы не вспомнили карточку, ответ должен дать вам исчерпывающую информацию, чтобы в следующий раз вы смогли ответить. Не должно быть нужно лезть в учебники.
1. Не добавлять то, что вы не поняли.
Если вы не знаете какой вопрос задать по материалу, скорее всего вы ничего не поняли. Я пробовал делать карточки копируя определения из учебника, по принципу "потом разберусь". Ни разу не сработало.
2. Делать карточки самостоятельно.
Например, если вам нужно запомнить какое-то определение, попробуйте его перефразировать и записать в карточку своими словами. Если вам нужно запомнить формулу, не вставляйте скриншот, вбейте её руками.
Наклепать карточек из скриншотов или копипасты это заманчиво, но здесь главное качество, а не количество. Лучше одна карточка, которую вы понимаете, чем сто бесполезных.
Бывают исключения - если вы учите слова иностранного языка, то лучше скачать готовую колоду и всё.
3. Максимальная конкретика, минимум лишнего.
Анки хорошо работает, когда в карте простой вопрос, и такой же простой ответ. Предельный случай это изучение иностранных слов: слово "cat" на одной стороне, и "кошка" на другой. Кстати Anki был создан именно для изучения языков.
Итак, минимум лишнего. Если вы учите что-то непохожее на языки, типа математики, то в карточки все же требуется помещать больше деталей. Это нормально, но надо всё равно жестко отсекать лишнее.
Вопрос должен быть предельно понятен. Может быть заманчиво сделать себе вопрос с подвохом. Не надо так. В вопросе должно быть явно обозначено, что ожидается в ответе. Вы-через-полгода скажете себе спасибо.
Раньше я делал карточки с вопросом: "Косинусное расстояние". Вот так, и всё. Пару месяцев после создания карточки я ещё помнил, что я имел ввиду, что надо привести формулу, дать определение своими словами и рассказать, где эта штука применяется. Но позже я просто втыкал в вопрос и не знал, чего же я от себя хочу.
Ответ, в отличие от вопроса, не обязательно должен быть коротким. Он должен содержать весь необходимый контекст для ответа на вопрос. Если вы не вспомнили карточку, ответ должен дать вам исчерпывающую информацию, чтобы в следующий раз вы смогли ответить. Не должно быть нужно лезть в учебники.
🔥2
Мои карты организованы как сеть ассоциаций. Если я не помню что-то, я должен иметь возможность восстановить это из связанных понятий. Примерно как моя память работает. Отсюда вытекают три типа карт.
# Карты-понятия
Карты-понятия содержат главное. Факты, определения, алгоритмы. Примеры вопросов:
* "What is the task of statistical learning?"
* "Что такое метод главных компонент?"
* "Linear models: How can we test if at least one of the predictors is useful in predicting Y?"
* "By approx what year did humans evolve to be anatomically identical to current humans?"
Всё делается ради этих знаний на самом деле.
# Карты-понятия
Карты-понятия содержат главное. Факты, определения, алгоритмы. Примеры вопросов:
* "What is the task of statistical learning?"
* "Что такое метод главных компонент?"
* "Linear models: How can we test if at least one of the predictors is useful in predicting Y?"
* "By approx what year did humans evolve to be anatomically identical to current humans?"
Всё делается ради этих знаний на самом деле.
🔥1
Пример карточки-понятия: наверняка знакомый вам "эр квадрат". Сверху вопрос, снизу ответ.
Справедливости ради, здесь приведен не весь контекст необходимый для ответа. Например, не указывается, что x это вход модели, а y это выход, и что такое RSE. Чтож, это всегда трейд-офф между полнотой контекста и читабельностью карточки. Я предполагаю, что упущенные вещи я смогу восстановить из контекста.
Справедливости ради, здесь приведен не весь контекст необходимый для ответа. Например, не указывается, что x это вход модели, а y это выход, и что такое RSE. Чтож, это всегда трейд-офф между полнотой контекста и читабельностью карточки. Я предполагаю, что упущенные вещи я смогу восстановить из контекста.
# Карты-связки
Когда у нас есть два понятия, надо их связать. Отношения между двумя штуками часто дают достаточно информации, чтобы восстановить любое из понятий. Каждый вопрос в картах-связках содержит какое-то отношение, например:
* Что лучше использовать для сравнения двух линейных моделей, R^2 или RSE?
* Чем алгоритм Random Forest отличается от Extra Trees?
Когда у нас есть два понятия, надо их связать. Отношения между двумя штуками часто дают достаточно информации, чтобы восстановить любое из понятий. Каждый вопрос в картах-связках содержит какое-то отношение, например:
* Что лучше использовать для сравнения двух линейных моделей, R^2 или RSE?
* Чем алгоритм Random Forest отличается от Extra Trees?