TAPAS: Гугл учит неиронки понимать таблички.

https://ai.googleblog.com/2021/01/learning-to-reason-over-tables-from.html

Выпустили TAPAS: трансформер, который читает таблички и способен отвечать на вопросы по их содержанию. В текущей итерации оно скорее делает факт-чек: на входе табличка и утверждение, а на выходе ответ модели: табличка подтверждает или опровергает утверждение (пример на картинке).

Прикольно, как они аугментировали данные. Например, они брали верное утверждение, немного изменяли его так, чтобы оно становилось неверным. Далее модель определяла, было утверждение изменено или нет.

Со всем этим можно поиграться в коллабе, у себя локально если сделать pip install tapas-table-parsing. Код доступен на github. Жаль только, что там всё измазано протобафом.

Рано или поздно мы получим такую question answering машину, что она заменит аналитиков, которые занимаются переводом с менеджерского языка в SQL

Хочу разбавить ваш понедельник кулстори из мемуаров Джакомо Казановы, "История моей жизни".

Казанова в полной бедности прибывает в Париж. Друг представляет его математикам и финансистам на службе Короля. Казанова абсолютно ничего не понимает в финансах, но его представляют как финансиста.

Происходит диалог:
- Королю необходимо 20 миллионов, как вы предлагаете обеспечить этот доход?
- Мой проект обеспечит доход в 100 миллионов. Народ сам, добровольно, принесет деньги,- говорит Казанова.
- Я знаю, что у вас за идея.
- Правда? Я никому не рассказывал.
- Да, но вас опередили. Встретимся позже и обсудим.

Казанова уходит и думает: "Понятия не имею как принести Королю доход в 20 миллионов, но пообещал 100 миллионов. Что делать?"

Он приезжает на встречу. По-прежнему без плана. Его знакомят с Кальзабиджи, одним из виднейших математиков и финансистов Парижа. Тот спрашивает: "Вы хотели предложить лотерею?" Казанова отвечает: "Да. Но..." и слегка изменяет идею финансиста, так что получается, что он предлагает лотерею продуманную лучше. Финансист говорит, что предлагал эту идею давно, но всегда встречал возражения в совете. Он предлагает Казанове выступить на совете и дает ему математическое доказательство выигрышности лотереи.

Казанова выступает, без труда отражает возражения. Кальзабиджи становится главным управляющим лотереи, Казанова получает в управление несколько точек по продаже билетов. Доход у них с Кальзабиджи получается примерно равный, но вся тяжелая работа ложится на Кальзабиджи. Казанова становится богат и знаменит.

Эта история восхищает меня несколькими повторяющимися в автобиографии Казановы визитными карточками его характера.

Первая - авантюризм. Пообщать сто миллионов вместо двадцати. Непоколебимая уверенность в том, что "как-нибудь разберусь". Искусство в том, что Казанова никогда не превращает авантюризм в мошенничество или обман. Он идет ва-банк только уверенный, что выиграет. Или достаточно отчаянный, чтобы не бояться поражения, как в случае побега из тюрьмы Пьомби в Венеции. Там он убедил монаха из соседней камеры, что у него есть план как вызволить их обоих, и уговорил того пробить проход на чердак. Плана, конечно, у Казановы не было, но когда проход был пробит, они смогли выбраться.

Вторая особенность - мастерское взаимодействие с людьми. В этом сюжете и во многих других можно заметить, что Казанова получает возможности от других людей. Создается впечатление, что они лежат на поверхности и герой просто "подбирает" их. Казанова раз за разом становится точкой сосредоточения энергии, флагманом идеи. Он делает то, для чего у других есть все ресурсы, но не хватает решимости. И они остаются ему за это благодарны.

И последняя - находчивость. Изобретательность. В данной ситуации Казанова не сказал "да, я придумал лотерею", а усовершенствовал идею. Например пояснил, что лотерея обязательно должна быть Королевской и в ней обязательно должно быть до 5 выигрышных номеров. Не знаю, как вы, а я бы не смог на ходу придумать механизм лотереи более хороший, чем механизм от настоящего финансиста. Лучше всего изобретательность героя демонстрирует другая ситуация. Казанова в молодости оказывается в бегах, преследуемый законом, и ищет укрытия на небольшом острове. Его выход? Выстрелом в голову убить крестьянского барана перед церковью. Каким образом это его спасло я вам не расскажу, чтобы возбудить у вас любопытство. Скажу только, что надо иметь нетривиальный ум, чтобы убегая от преследования решить: "Сейчас надо разнести башку барану".

Могу долго еще писать про другие изящества книги: порнографию (местами ужасно кринжовую), рассуждения об этике (местами ужасно богохульные) и описания обычаев того времени. Но и так получилось длинновато.

Я в восторге.

Evolutionary optimization of squishy creatures.
📝 nature.com/articles/s42256-019-0102-8.epdf
📉 @loss_function_porn

Научник рассказал историю из вышки. Студенты какой-то группы массово отправили одни и те же ответы на какой-то тест. Выяснилось, что они отправили ответы прошлого потока.

Научник дал им задание: вот ваши ответы, вот ответы прошлого потока, проведите статистический тест и вычислите, с какой вероятностью ответы могли настолько совпасть по случайности.

Студенты задание делать отказались, really makes you think, huh

П У Ш К А

Мы с Полиной сделали игру по "Божественной комедии" Данте Агильери, хвастаюсь:
https://btseytlin.github.io/dante_game/game/index.html

Довести хотя бы одну игру до "релиза" - чек.

Угадайте кто не получил красный диплом

Pathetic