А давайте начнем прямо с около-медицинской (ма)тематики

Эту задачку я раньше давала студентам в дз по статистике:)
Представим два лечения: A и B.
У пациентов с лёгким течением:
A помогает в 90% случаев
B — в 80%.
У пациентов с тяжёлым течением:
A помогает в 40% случаев
B — в 30%.
То есть A лучше и там, и там. Казалось бы, всё понятно.
А теперь смешаем всех пациентов вместе.
Допустим, лечение A чаще давали тяжёлым пациентам:
A:
100 лёгких + 1000 тяжёлых
успешных случаев: 90 + 400 = 490
Итого: 490 / 1100 ≈ 45%
А лечение B, наоборот, чаще получали лёгкие пациенты:
B:
1000 лёгких + 100 тяжёлых
успешных случаев: 800 + 30 = 830
Итого: 830 / 1100 ≈ 75%
🧐 Получается странная вещь:
в каждой отдельной группе A лучше B,
но если посмотреть на всех пациентов вместе, B внезапно выглядит намного лучше.
❗️ Никакой ошибки в вычислениях нет. Просто группы смешаны в очень разных пропорциях.
Это и есть парадокс Симпсона.

В реальных данных такое встречается постоянно. Например, одно лечение могут чаще назначать более тяжёлым пациентам. Если просто сравнить исходы всех пациентов, лечение может выглядеть хуже — даже если внутри сопоставимых групп оно работает лучше.
Поэтому в статистике вопрос «какое здесь среднее?» иногда намного менее интересен, чем вопрос:
«А кого именно мы усреднили?»
Мораль: прежде чем делать вывод по одной красивой цифре, стоит посмотреть, кто сидит в знаменателе 🐈

#Статистика

Что такое HR и почему это не «риск снизился на 30%»

Если вы читаете медицинские статьи, особенно про рак, сердечно-сосудистые заболевания или эффективность лечения, рано или поздно встретите что-нибудь вроде:
HR = 0.7
И рядом фразу: «лечение снижает риск на 30%».
Тут есть маленькая статистическая ловушка.
HR — это Hazard Ratio, отношение hazards.
А hazard — это не совсем обычный «риск».
Представим две группы пациентов: одна получает новое лечение, другая — стандартное. Мы следим за ними во времени и ждём какого-то события: например, рецидива заболевания.
В каждый момент времени можно спросить:
«С какой скоростью это событие сейчас происходит среди пациентов, у которых оно ещё не произошло?»
Вот это примерно и есть hazard.
А Hazard Ratio сравнивает эту скорость между двумя группами.
Если:
HR = 1
— событие происходит примерно с одинаковой скоростью в обеих группах.
HR < 1
— в группе лечения событие происходит медленнее.
HR > 1
— в группе лечения событие происходит быстрее.
Например:
HR = 0.7
означает, что hazard в группе лечения составляет примерно 70% от hazard в контрольной группе.
То есть в каждый момент времени интенсивность наступления события примерно на 30% ниже.
Но!
Это НЕ означает автоматически, что:
«вероятность умереть снизилась на 30%»
или
«на 30% больше пациентов выживут».
Почему?
Потому что HR сравнивает не конечные проценты заболевших или умерших, а то, как событие накапливается во времени.
У двух исследований может быть одинаковый HR = 0.7, но совершенно разная абсолютная польза лечения.
Например, если без лечения событие случается у 2% пациентов, эффект будет одним.
А если у 60% — совсем другим.
Поэтому, увидев красивое:
«HR = 0.7»
кот-статистик сначала спрашивает:
«А абсолютные риски покажете?» 🐈

#Статистика #Медицинскаястатистика

Почему ошибки возводят в квадрат?
Представьте: мы несколько раз измерили вес одного и того же кота и получили 4.98, 5.02, 5.01, 4.99 кг.
Кот не меняется каждый раз — просто в измерениях есть шум.
Если предположить, что этот шум обычный, симметричный и примерно нормальный, то из математики естественно получается такой вывод:
👉 чтобы лучше всего подогнать модель к данным, нужно минимизировать сумму квадратов ошибок.
Отсюда и возникает MSE — mean squared error.
Почему именно квадрат?
он убирает знак ошибки;
сильнее штрафует большие промахи;
и главное — это не случайный выбор, а следствие предположения о нормальном шуме.
Коротко:
нормальный шум → метод наименьших квадратов → MSE
То есть MSE — это не просто “удобная функция потерь”, а довольно осмысленная модель ошибок в данных.
🐱 Котик на весах считает, что это уважительная причина.

#ML

🐾 «Кот весит 4,2 кг». А насколько мы в этом уверены?
Представьте модель, которая оценивает вес котика по фотографии. Она выдала 4,2 кг. Но это довольно точная оценка — или с тем же успехом там может быть и 3, и 6 кг?
Uncertainty — это неопределённость предсказания. Ошибка показывает, насколько прогноз разошёлся с правильным ответом. Неопределённость описывает сомнения до того, как правильный ответ стал известен.
Почему возникают эти сомнения?
😺 Не хватает информации в самих данных — aleatoric uncertainty. Допустим, фотография размыта, а под шерстью не разглядеть телосложение. Даже опытному наблюдателю трудно оценить вес.
Миллион дополнительных размытых фотографий не вернёт детали в этот конкретный снимок. Здесь полезнее улучшить исходную информацию: сделать другое фото или добавить измерения. Такая неопределённость связана с шумом и неоднозначностью наблюдений.
📚 Не хватает знаний модели — epistemic uncertainty. Допустим, модель обучалась только на взрослых котах, а ей показали котёнка. Дело уже не обязательно в фотографии: модель плохо знакома с такими примерами.
Эту часть неопределённости можно уменьшать, добавляя в обучение подходящие данные.
Как с этим работать?
Показывать не только ответ, но и разброс. Для веса — строить прогнозный интервал, а не ограничиваться числом «4,2». Причём интервал нужно проверять: заявленные 90% должны соответствовать покрытию примерно 90% новых случаев в условиях, для которых метод применим. Просто нарисовать полосу вокруг прогноза недостаточно.
Сравнивать несколько моделей. Обучить ансамбль и посмотреть, насколько расходятся его прогнозы. Сильное расхождение — полезный сигнал неопределённости, хотя согласие моделей само по себе не гарантирует правильный ответ.
Проверять уверенность. Когда классификатор сообщает «уверен на 80%», среди множества таких предсказаний правильными должны оказываться примерно 80%. Соответствие заявленной уверенности реальной частоте успеха называется калибровкой. Само число «0,8» на выходе сети этого не гарантирует.
💡 Главный вопрос — не только «что предсказывает модель?», но и «достаточно ли этого, чтобы действовать?».
Иногда разумный следующий шаг — не усложнять нейросеть, а поставить котика на весы.

#ML

Коллеги-медики из отделения спортивной медицины пришли к нам с запросом проанализировать свои данные. Ну как это обычно бывает — вытащите из данных что-нибудь, чего мы еще не знали, а лучше помогите это красиво визуализировать, чтобы мы это увидели. Этот запрос наложился на запрос коллег из отделения детской психологии.

Иии… мы решили сделать проектный семинар по визуализации временных рядов:) (данные у коллег как раз про это).
В рамках проектного семинара студенты сначала быстренько сделают доклады по основам для работы над темой, а дальше уже будут работать над проектами (большую часть семестра).

Делюсь с вами подборкой тем и соответствующих статей для докладов студентов:


1. Visualization of time series
 
2. Time Series Feature Extraction

3. Motifs

4. Shapelets

5. Anomaly Detection

6. Handling Missing Values
 
7. Scagnostics
 
8. Dimensionality Reduction
 
9. Dynamic tSNE

10. LD-tSNE + PCD-tSNE

11. Distance Measures  

12. Time Series Clustering 

13. Time Series Classification 

14. Explainable AI for Time Series Classification

15. Prediction / Forecasting


Если у вас есть на примете прикольные источники для студентов- новичков, напишите пожалуйста:)

Сегодня заинтересовалась scalable oversight — идеей о том, как человек может контролировать AI, если AI уже способен решать некоторые задачи быстрее или лучше самого проверяющего.
Сначала мне стало интересно, есть ли тут какой-то содержательный медицинский контекст. Оказалось, есть: например, если AI анализирует тысячи снимков или заключений, врач физически не может перепроверять каждый результат.
А потом стало любопытно: а математика-то там есть?
Есть :)
Одна из базовых постановок очень симпатичная.
Допустим, AI обработал 1000 случаев, а человек успевает проверить только 100.
Какие именно 100 ему показать?
Самые «неуверенные» ответы модели? Случаи, где несколько моделей не согласны друг с другом? Редкие примеры, непохожие на обучающие данные? Или те, где потенциальная цена ошибки особенно высока?
Получается задача оптимизации:
как при фиксированном бюджете человеческой проверки выбрать случаи так, чтобы минимизировать количество пропущенных ошибок?
Отсюда естественно появляются risk–coverage curves, selective prediction, теория решений, статистика, active learning.
А если добавить несколько AI-систем, которые критикуют ответы друг друга или даже спорят между собой, появляется ещё и вполне настоящая теория игр.
Так что начинала я сегодня с AI safety, потом ушла в medical AI, а закончила математикой.


#математика #машинноеобучение #AI

Коллеги, меня вчера так увлекла тема AI safety — вот что делают восьмичасовые переезды в поездах 😄 — что я начала читать статьи одну за другой.
Ну а раз я всё равно читаю сама, почему бы не делиться находками с кем-нибудь ещё?
Поэтому завела отдельный канал про безопасность ИИ здесь.
Обещаю не спамить — часто разбирать статьи всё равно не смогу — и не заваливать всех формулами. Будем вместе разбираться, что сейчас происходит в AI safety, какие идеи появляются и что из этого действительно интересно.
Если тема вам тоже любопытна — приходите 🙂

P.S. еще обещаю не превращать посты в «ИИ нас всех убьет»😀

Примерно год назад мы вместе с Яндексом делали хендбук по математике для машинного обучения. Ссылочка тут. Мне досталась глава по терверу:)

Недавно пересматривала и подумала, что с удовольствием сделала бы что-нибудь такое снова, но не по терверу, а по статистике.
Думаю, скоро руки дойдут и я закину это на степик как бесплатный курс:)