Knock, knock, Neo.

Сетка выучила стиль портретов из старых RPG от Westwood.

Учу нейросетку, периодически валидирую результат на наборе промптов. Вообще-то в промпте был только Киану, но, похоже, тут рядом с ним сидит Шевчук. И Киану ему явно не очень доверяет.

Попробовал анимировать картинку при помощи Luma.
Оказалось, что Киану доверился Шевчуку, после того как тот сыграл ему на губной гармошке!

- Ничего моя сеть не оверфитнулась!

Тем временем моя сеть

По-моему этот инопланетянин слишком мало времени уделяет пилотированию своего корабля и слишком много - своим соц. сетям.
Хватит позировать, у тебя вон корабль уже в землю врос!

Интерполяция между двумя промптами в латентном пространстве

Разница между обучением сетки без нормализации получаемых от среды наблюдений (синий график) и с нормализацией (красный график).

Но если графики недостаточно красноречивы, то это разница между этим

И этим)

Одинаковые модели, одинаковые настройки, отличаются только нормализацией.

Да, я почти дописал новый пайплайн, надеюсь скоро порадовать себя и вас драками нейросетевых болванчиков. Начну все-таки с тех четвероногих вшей, потому что они вычислительно проще. Хотя новый пайплайн вселяет надежду, что и до хуманоидов дойдет.
Вот этот прекрасно бегающий дурачок в прошлом посте обучен на моей локальной машине, а не в облаке, с батчем в четыре раза меньше, чем "облачные" и за 30 минут вместо 5 часов.
Вот что джакс животворящий делает, новый пайплайн оказался эффективнее старого.

Стой, ну куда же ты? А как же эпичная битва?

Да что ты с ним совокупляешься, выкидывай его на хрен!

Пора учить его самосохранению.

Ну всё, теперь они могут доказывать состоятельность своего конфига обучения поединком.

Продолжаю готовить ползучих спортсменов к битве. Смотрите, какому удару научился оранжевый!

Да, я уменьшил арену, чтоб добавить драмы)

Тренировка выглядит так. Только при обучении параллельно проходит по 1024 таких битвы, и помимо битвы с сеткой-противником, обучающаяся сетка в отдельном потоке бьется сама с собой.

Ну как в волчьих цитатах, самый трудный бой - бой с самим собой, вот это всё.
Только, в отличие от волчьих цитат, тут это действительно работает - пайплайн периодически сохраняет копию текущих коэффициентов и некоторое время использует этот конфиг в качестве противника.

Чем меньше арена - тем лучше сходится обучение, потому что на мелкой арене агентам не надо никуда особенно двигаться - вон, на прошлых видео видно, как они друг-друга выбивают в первые же секунды.
Это, конечно, весело, но в итоге получаются агенты, которые не умеют драться - если не получилось выбить с первого раза, они просто сидят и ждут конца симуляции.

На арене побольше сходится намного хуже. Я пару недель экспериментировал, и выяснил, что большие штрафы за падение настолько пугают агентов в первые же итерации обучения, что они становятся жутко трусливыми и драться не хотят - только осторожно ползут друг к другу.

Подкрутил размеры наград за пинок противника, и обучение сошлось. Но получились совершенно безбашенные товарищи, которым главное - пнуть врага, а то, что потом и сам упадет - так и пофиг. Берсерки, блин.