Ничего необычного, просто 16-летний парень и его 5-часовое видео с полным руководством по математике для глубокого обучения

Внутри – все про якобианы, производные, градиенты, алгоритм обратного распространения ошибки, функции активации и др. Автор – Адам Дхалла из Канады, и на момент создания видео ему только исполнилось 16.

Сейчас парню 19, он создал очень перспективный алгоритм для классификации местоположений белков в клетках и уже имеет пожизненное финансирование исследований от Schmidt Futures 😦

Только что на просторы интернета выложили новую книжку с математической базой по тензорам

Автор, кстати, оказался любителем «древнего» стиля и оформил книгу в стиле широко известной книжки «The Matrix Cookbook». И название позаимствовал: получился The Tensor Cookbook.

Для любителей в книжке есть много зубодробительной математики. А если вы заинтересованы с практической стороны, то достаточно прочитать эти главы:

1. Introduction (определения, важные теоремы и общие понятия)
10. Machine Learning Applications (про то, как тензоры работают в привычной нам среде, оптимизацию лоссов и атеншен)
12. Tensorgrad (более глубоко про производные, градиенты и операции над тензорами)

Ну что может быть лучше свеженького образовательного материала в сентябре? 😋

Помните недавнюю лекцию Эндрю Барто о том, что ML – это всего лишь частный случай RL?

Мы писали про нее месяц назад. Это была лекция Эндрю (отца RL) в рамках самой крупной конференции по RL в мире, дословно она называлась «В начале весь ML был RL».

Так вот, есть хорошая новость и плохая. Плохая: лекцию в открытый доступ так и не выложили. Хорошая: по пересказам присутствовавших и отдельным слайдам мы смогли обобщить то, о чем говорил Барто. Вот главное:

⚪️ RL – это не просто исправление ерроров модели, а глобальный метод проб и ошибок. В первых работах по RL исследователи опирались на базу того, как действует наш мозг: гедонистические нейроны стараются максимизировать удовольствие и минимизируют боль. Для этого синапсы, активные в процессе некоторого действия, становятся "доступными для изменения" — учатся лучше оценивать действие при поощрении окружающей среды, и хуже при наказании.

⚪️ Именно идеи из этих работ затем перекочевали в самые первые древние исследования по нейросетям. Например, A modern theory of adaptive networks with expectation & prediction (1981 год). А если еще глубже погружаться в историю, то оказывается, что сам Алан Тьюринг, прородитель ML, работал, по сути, над RL: речь о его Pleasure-Pain system (1948).

⚪️ Получается, что современный ML – действительно частный случай большой общей идеи RL. Ведь методы обратного распространения ошибки и градиентного спуска, по своей сути, и есть изменение весов под влиянием ограниченной внешней среды (обучающего датасета).

Think about it 🤔