Как работает BERT?

Модель BERT (Bidirectional Encoder Representations from Transformers) была представлена в статье от исследователей из Google AI Language. Она вызвала нешуточный ажиотаж в сообществе, и эту модель до сих пор все очень любят. Разбираемся, как она работает, и как ее использовать для своих задач.

Вот, кстати, ссылка на исходный код

😻 #NN

Китайские исследовали сделали систему, которая помогает читателю с незнакомыми словами

Даже те, кто хорошо знает английский, спотыкаются при чтении: не хватает словарного запаса. Для решения проблемы резерчеры из Университета Цинхуа придумали систему, которая наблюдает за тем, как пользователь читает текст, и подсказывает значение незнакомых слов.

Для оценки системы участников попросили прочитать слова из теста на определение уровня словарного запаса, и система определила незнакомые для них слова с точностью 98,09%. Общая эффективность системы, конечно, зависела от контекста и качества веб-камеры, но результаты, тем не менее, радуют.

😻 #news #NN

Функция transform из pandas

Эта функция (грубо говоря) сочетает в себе аггрегацию и фильтрование. Однако понять ее сразу не очень просто: лучше посмотрим на пример.

😻 #python

Что такое аугментация данных?

Это один из методов регуляризации нейронных сетей через внесение изменений в данные. То есть, если мы внесем небольшие адекватные изменения в данных, мы можем спасти нейросеть от переобучения и увеличить ее обобщающую способность. Но почему это работает? Разбираемся на попугаях.

Бонусом оставляем отличную библиотеку, позволяющую производить аугментацию изображений.

😻 #analytics

4 книги о Data Science этого года

Собрали дайджест из самых свежих книг, которые появились на полках в 2023 году. Уже успели что-нибудь прочитать?

Ссылки на скачивание:
- R for Data Science
- Learning Data Science
- Dive Into Data Science
- Mathematical Foundations of Data Science

😻 #advice