State of GPT

Вчера Microsoft выложили доклад от Андрея Карпатого про тренировку ChatGPT. Рассказано отлично: и про токенизацию, и про претрейн, и про RLHF. Советуем!

Доклад вот тут

😻 #news

Центральная идея обучения с подкреплением: гипотеза вознаграждения

А еще мышки, кошки, сыр и дисконтирование.

😻 #train #NN

Большой гайд по optuna

Optuna — это фреймворк для для автоматизированного поиска оптимальных гиперпараметров. Знакомимся с ней ближе.

😻 #train #python

Метод моментов и ADAM

В прошлый раз мы говорили о том, как решить проблему динамического подбора шага в градиентном спуске. Следующая претензия к этому алгоритму: мы не учитываем то, что было на предыдущих шагах. А ведь там может храниться что-то полезное, правда? Для этого придумали метод инерции.

Ну а если объединить адаптивный подбор шага и метод инерции, то получится state of the art: ADAM.

😻 #train #math