листая рандомные статьи на вики однажды наткнулся на Hierarchical temporal memory. HTM - это концептуальная модель, вдохновленная неокортексом человеческого мозга, по сравнению с которой DNN (Deep Neural Network) это просто математические абстракции. тема меня очень заинтриговала, появилось много идей где можно попробовать применить, и я решил реализовать самую простую - предиктор midi мелодий. если кто не знает, миди это просто набор нот, представленных числами, например [57, 61, 64, 56, 61, 64, ...]. сначала мы скармливаем модели полную мелодию чтобы она сформировала синаптические связи, а затем подаем ей начало новой мелодии, и модель предсказывает продолжение.

вот пример ее предсказания. на вход были поданы первые 8 нот Fur Elise Бетховена. начала отлично, но в конце стала галюцинировать в высокую октаву

An F-16 Fighting Falcon in the anechoic test chamber at Eglin Air Force Base