🚀 @SBERLOGABIG webinar data science:
👨‍🔬 Никита Бухал "Разбор формулы attention и реализации в pytorch-е"
⌚️ Среда 23 Августа, 20.00 (Moscow time)

Add to Google Calendar

Будет рассказано о механизме внимания и его основных свойствах. Приведены примеры реализации на pytorch, пример на Каггл , в колабе.

📖 Презентация доступна тут.


📹 Video: https://youtu.be/OL3ZW2AY6yg
📹 Video Part2 : https://youtu.be/HmotCYcllOs?si=bZfkjCy3sDBH_HOk

🚀 Голосуйте !)
📖 Сейчас на Каггл открыты (и будут продолжаться около 2 месяцев) - четыре "денежных" (не плейгруанд) соревнования
Если у вас есть интерес принять в них участие, то обычно это лучше делать в команде. В командах обычно идет интенсивный обмен опытом, нетворкинг, опыт командной работы и прочий фан. Чтобы было проще найти сокомандников - мы сделали голосовалки - голосуйте, пишите коллегам, кто в тоже проголосовал - объединяйтесь в команды - главное - не стесняйтесь:

Kaggle соревнование по картинкам :
RSNA 2023 Abdominal Trauma Detection
Голосуем тут: https://t.me/sberlogacompete/6638

Kaggle соревнование распознавание речи:
Bengali.AI Speech Recognition
Голосуем тут: https://t.me/sberlogacompete/6639

Kaggle соревнование NLP:
Kaggle - LLM Science Exam
Голосуем тут: https://t.me/sberlogacompete/6641

Kaggle соревнование NLP:
CommonLit - Evaluate Student Summaries
Голосуем тут: https://t.me/sberlogacompete/6640
Вводный доклад по этому соревнованию тут:
👨‍🔬 Ivan Glebov "Kaggle competition: CommonLit - Evaluate Student Summaries"
https://t.me/sberlogabig/299

Хакатон - цифровой прорыв 2023. Сезон искусственного интеллекта.
Голосуем тут: https://t.me/sberlogacompete/7160

Kaggle соревнование
TpuGraphs Kaggle competition, EvolutionaryScale.
Голосуем тут: https://t.me/sberlogacompete/7145

Kaggle соревнование
Child Mind Institute - Detect Sleep States
Detect sleep onset and wake from wrist-worn accelerometer data
https://t.me/sberlogacompete/7316

🚀 @SBERLOGACOMPETE образовательный вебинар по data science:
👨‍🔬 Alexander Chervov "Hands on Hugging Face Transformers and Kaggle CommonLit challenge"
⌚️ Четверг 7 Сентября, 20.00 (Moscow time)

Link to Announcement on Kaggle. (Talk planned to be in English).

Add to Google Calendar

Образовательный вебинар для начинающих: примеры использования моделей типа DeBERTa из коллекции Hugging Face трансформеров для решения задач NLP. На примере Kaggle соревнования "CommonLit - Evaluate Student Summaries". Рассмотрим ноутбуки как файн-тюнить трансформеры под конкретные задачи. Это не так сложно, но все же несколько сложнее чем ".fit/.predict" (в sklearn), но не сильно - нужно примерно следующее 1) перевести данные в формат HF-датасета 2) токенизировть текст 3) добавить таргеты 4) подготовить параметры трейнинга 5) только потом запустить трейнинг. Мы рассмотрим как это происходит в деталях. Во второй половине обсудим соревнование "CommonLit" дадим обзор подходов и паблик ноутбуков, некоторых загадок подготовки данных организаторами, внешние данные и т.д.

Ноутбуки с моделями nb1, nb2, с обзором пабликов nb .

Zoom link will be available in https://t.me/sberlogabig shortly before start of the talk.

Предыдущий вебинар по данному соревнованию:
📹 Video: https://youtu.be/OL3ZW2AY6yg
👨‍🔬 Ivan Glebov "Kaggle competition: CommonLit - Evaluate Student Summaries"

Данный доклад:
📖 Presentation: https://docs.google.com/presentation/d/101mmtjEvIwKKP2klTwJZ_yIGydXyorQkKn19SrMoZnE/edit?usp=sharing
📹 Video: https://youtu.be/L6OQmXk1Am4

🚀 SciBerloga @deep_learners club: учебный семинар по дата-сайнс
👨‍🔬  Иван Павленко "Введение в автоэнкодеры"
⌚️ Понедельник 11 Сентября, 19.00 (Moscow time)

Add to Google Calendar

План:
* Автокодировщики - что это такое.
* Область применения.
* Разбор реализации.
* Обзор набора данных UTKFace.
* Разбор класса модели и обучение.
* Обзор эпох обучения.
* Эксперимент с незнакомыми данными.
* Не самый удачный, но поучительный вариант с использованием свёрточных слоев.
* Небольшой эксперимент с восстановлением качества размытого  изображения.
* Пара слов про вариационные автокодировщики.

Ноутбуки:
Основной ноутбук:
https://www.kaggle.com/code/mrgobus/autoencoder-utkface-from-old-to-young

Попытка использовать свёрточные слои:
https://www.kaggle.com/code/mrgobus/autoencoder-conv2d-utkface-from-man-to-woman
Не самая удачная, но поучительная =)
И на сладкое, вот эти два:
https://www.kaggle.com/code/mrgobus/ae-mnist-digits-distribution
https://www.kaggle.com/code/mrgobus/vae-mnist-digits-distribution
Это попытка посмотреть на распределение обычно и вариационного кодировщиков.

Зум линк будет доступен в группе: @deep_learners перед началом доклада.

🚀 @SBERLOGABIO вебинар по биологии:
👨‍🔬 Елена Белова "Глубокая стимуляция мозга при болезни Паркинсона – от истории поиска методов терапии к теориям двигательного контроля."
⌚️ Пятница 15 Сентября, 19.00 (Moscow time)

Add to Google Calendar

Глубокая стимуляция мозга (англ. Deep Brain Stimulation, DBS) появилась 30 лет назад как чисто эмпирический подход для нейрохирургического облегчения симптомов паркинсонизма и других двигательных расстройств. За три десятилетия нейрофизиологи многое узнали о работе подкорковых структур головного мозга, участвующих в моторном контроле, предложили усовершенствования для этой технологии и опробуют возможности DBS для облегчения других неврологических расстройств. На лекции поговорим о современных представлениях о патофизиологии болезни Паркинсона и особенностях нейрохирургического лечения различных форм этого заболевания.

Ссылка на зум будет доступна в канале @sberlogabig перед началом доклада. Видео записи: https://www.youtube.com/c/SciBerloga - подписывайтесь на ютуб канал.

О докладчике: Елена - сотрудник ИХФ РАН, автор замечательннго телеграм канала - @hippopocampus - "удивительное про мозг, поведение и нейронауки" - подписывайтесь !

📖 Presentation: https://t.me/sberlogabio/61301
📹 Video: https://youtu.be/h1fSCaJu710?si=vnnFb8pGCW2q1hHH
📹 Video 2: https://youtu.be/hV4BWrYCWSk (короткое дополнение: по структурам СТЯ и внешнего бледного шара)

В ближайшие два месяца мы будем делиться с вами публикациями и выступлениями с ряда ключевых конференций 2023 года: WCLC, ASCO, ESMO, AACR, SITC и SABCS, в которых принимали участие наши эксперты.

Сегодня начнем с WCLC. С 9 по 12 сентября в Сингапуре прошла Всемирная конференция по опухолям легкого (2023 World Conference on Lung Cancer). На ней были доложены результаты молекулярно-генетического анализа большой когорты карцином легкого на терапии ингибиторами контрольных иммунных точек: "NSCLC Microenvironment Subtypes Correlate with Response and Survival to Immune Checkpoint Inhibitor Therapy".

Соавторы работы — основатель нашего сообщества Владимир Кушнарев и эксперты курса по нейроэндокринным неоплазиям — Иван Валиев и Анастасия Макарова.

Завтра 21 сентября в 13:00 по Мск Владимир Кушнарев поделится опытом исследования на семинаре. Встречу проведем в этом телеграм канале.

Ждём всех желающих 🙂

Заходите 21 сентября в 13:00 по Мск на вебинар Владимира Кушнарева на канале @cancerchameleon

Друзья!
Давайте Бустить!
https://t.me/sberlogabig?boost

🚀 @SBERLOGACOMPETE вебинар по дата сайнс:
👨‍🔬 Лидия Шишина "Обзор Каггл соревнования TRAUMA Abdominal Detection Competitions."
⌚️ Понедельник 2 Октября, 19.00 (Moscow time)

Add to Google Calendar

📖 Presentation: https://docs.google.com/presentation/d/1hOX0MD7Q09n6FjnC4kfa8Jpf31r0sn7_tewPdM9LmCk/edit?usp=sharing
✔️ Ноутбук: https://www.kaggle.com/code/lidiashishina/rsna23-weighted-mean-baseline-scale-adj-at-end

В докладе будет рассказано о соревновании - постановка задачи, метрика, и будет дан обзор интересных сеток и решений. В том числе несколько бейзлайнов на CNN и несколько других подходов.

Ссылка на соревнование: https://www.kaggle.com/competitions/rsna-2023-abdominal-trauma-detection , анонс на Каггл: https://www.kaggle.com/competitions/rsna-2023-abdominal-trauma-detection/discussion/444286

Ссылка на зум будет доступна в канале @sberlogabig перед началом доклада. Видео записи: https://www.youtube.com/c/SciBerloga - подписывайтесь на ютуб канал.

📹 Video: https://youtu.be/90zbKUUCoI8?si=h8BOUE7cHCzimTLM

⚠️ Острожно - спуфинг атаки от имени админов Сберлоги и других чатов/каналов (не только Сберлоги) - будьте внимательны !

Некоторые коллеги получили просьбы перевести 120к на карту , некоторые предварительно получив оборвавшийся звонок по телеграм. Якобы от имени админов. Будьте внимальны - админы Сберлоги (и, думаю, других каналов) не пишут в личку с такими просьбами ! Не переводите денег ! Мошенники часто создают похожий по имени экаунт (спуфинг) и пишут от его имени - будьте внимательны !

🚀 @SBERLOGACOMPETE webinar on bioinformatics and data science:
👨‍🔬 Alexander Chervov "Introduction to Kaggle competition - Single-Cell Perturbations."
⌚️ Thursday 5 October, 19.00 (Moscow time)

Add to Google Calendar

We will give brief introduction mainly from machine learning perspective. Task contains about 614 samples in train and 255 in test, with only two features, which both are categorical (cell type, and drug). Metric is MMSE (row wise). Cross-validation - by cell types with modifications. Baselines with encoding categorical features - one-hot, target encoding with optimization of smoothing parameter, pytorch embedding neural network. Alternative features: "ChemBert" ( link - by Aleksey Trepetsky), molecular descriptors ( link by Antonina Dolgorukova), etc. Most of approaches use dimensional reduction (pca-like) of targets (18211) to smaller dimension 25-100, then predicting these reduced target and then making inverse transform. Notebooks: EDA , modeling , pytorch embeddings , single cell RNA-seq data brief look.
Unusual: 50 000$$ - for biologically insightful solutions which will shed light on "How did you integrate the ATAC data? Did you learn a gene regulatory network?" etc.

Announcement on Kaggle

Zoom link will be in @sberlogabig just before start. Video records: https://www.youtube.com/c/SciBerloga - subscribe !

📖 Presentation: A.Chervov:
📖 Presentation: A.Dolgorukova "Molecular descriptors"
📹 Video: https://youtu.be/dRG3qTaALp0?si=c6k6CARJuik-xF08

🚀 @SBERLOGACOMPETE webinar on data science:
👨‍🔬 Oleg Khudyakov "Introduction to Kaggle competition - Detect sleep states."
⌚️ Thursday 12 October, 19.00 (Moscow time)

Add to Google Calendar

Introduction and overview of the competition will be given. Parsing the raw data, including data labeling errors. Basic feature engineering. Application of gradient boosting and neural networks. Assumptions for postprocessing.

Announcement on Kaggle

Zoom link will be in @sberlogabig just before start. Video records: https://www.youtube.com/c/SciBerloga - subscribe !

📹 Video: https://youtu.be/RDnz9QASwaQ?si=KijFwYk94pAwYCk1
📖 Materials: Link

Ловите крутейший data-форум сезона — Loginom Day 2023!

Уже 5 лет мы собираем руководителей, специалистов по данным и IT-шников на наш форум экспертов по low-code аналитике

Реальные кейсы, экспертиза и прямой диалог со спикерами, которые успешно используют платформу Loginom для задач бизнеса. Это событие для людей, которые хотят обогатить свой опыт в анализе данных и получить множество классных идей и новых знакомств

Когда? 2 ноября 2023 года в 13:00 гибрид (Москва, ВДНХ + онлайн-трансляция). Участие бесплатное

И если вы хотите узнать, почему мигрировать с SAS Marketing Automation нужно именно на Loginom, за счет чего retail-компании удалось повысить лояльность клиентов, а также как силами нескольких аналитиков построить систему поддержки принятия решений крупного банка, ждем по ссылке.

🚀 @SBERLOGACOMPETE informal webinar on data science:
👨‍🔬 Brainstorm on "Kaggle: Open Problems - Single-Cell Perturbations."
⌚️ Tuesday 17 October, 18.30 (Moscow time)

Add to Google Calendar

Let us discuss what's up on Kaggle challenge - Open Problems - Single-Cell Perturbations: overview proposed public solutions, CV-schemes, features constructions, some insights from biological data and so on. It is planned to be pretty informal - a kind of discussion and opinions exchange - everybody welcome. Some notes can be found link1, link2, link3.

Announcement on Kaggle

Zoom link will be in @sberlogabig just before start. Video records: https://www.youtube.com/c/SciBerloga - subscribe !

📹 Video: https://youtu.be/6ySKxnjHX8Y?si=ICiv26d7j1LbYaKn

🚀 @SBERLOGABIO webinar on bioinformatics:
👨‍🔬 Семен Стешин “Lo-Hi: Practical ML Drug Discovery Benchmark”
⌚️ Четверг 19 Октября, 18.00 (Moscow time)

Add to Google Calendar

ML модели сложно сравнить по качеству между собой. Особенно сложно сравнивать молекулярные модели, в которых проверка одного предсказания может стоить несколько тысяч долларов и занимает несколько месяцев.

Семен расскажет про свою новую работу с NeurIPS 2023 “Lo-Hi: Practical ML Drug Discovery Benchmark” в которой он рассматривает две задачи — Hit Identification и Lead Optimization — и сравнивает ML модели для предсказания молекулярных свойств. Он расскажет как разделять датасеты с помощью линейного программирования, чтобы избежать утечек теста, и расскажет про простую библиотеку для сплитинга.

Вы узнаете:

- Работает ли ML в химии или он просто заучивает трейн.
- Умеет ли ML различать небольшие модификации молекул.
- Какие модели лучше подходят для поиска новых молекул. Какие лучше подходят для оптимизации (это разные модели).
- Почему существующие бенчмарки не позволяют выбрать модели для реальных задач.
- Где граница между модификацией существующего лекарства и по-настоящему новой молекулой.

Приглашаются все причастные к разработке лекарств и все фрустрированные утечками теста в биохимическом ML. Доклад ~30 минут.

Тред в Твиттере: https://twitter.com/ZdarovaAll/status/1712085059073605929
Статья: https://arxiv.org/abs/2310.06399
Библиотека: https://github.com/SteshinSS/lohi_splitter

Zoom link will be in @sberlogabig just before start. Video records: https://www.youtube.com/c/SciBerloga - subscribe !

📖 Presentation: https://t.me/sberlogabio/63561
📹 Video: https://youtu.be/1IUHAtiyPso?si=zq4Lad-I5RUXq4w8

🚀 @SBERLOGABio webinar on bioinformatics and data science:
👨‍🔬 Antonina Dolgorukova "Bioinformatics analysis for the Kaggle Single Cell Perturbations data challenge"
⌚️ Monday 06 November, 19.00 (Moscow Time)

Add to Google Calendar

The bioinformatics analysis with Seurat package for single-cell data RNA sequencing data from the Kaggle challenge "Single-cell perturbations" will be presented.
- Calculation of Mitochondrial/ribosomal contamination (all cells), what percentage of all genes copies comes from the single most observed gene in each cell (10% of cells)
- Identification of highly variable features, followed by PCA, selection of principles components (10% of cells)
- Clustering cells based on main PC for the highly variable features
- Running non-linear dimensional reduction (UMAP/tSNE)

The talk will be based on the notebook: https://www.kaggle.com/code/antoninadolgorukova/op2-adata-analysis-with-seurat

Announcement on Kaggle

Zoom link will be in @sberlogabig just before start. Video records: https://www.youtube.com/c/SciBerloga - subscribe !

📹 Video: https://youtu.be/lcc5vY-Pycs?si=NDz8KEarMFN8Llka

🚀 @SBERLOGACOMPETE webinar on data science:
👨‍🔬 "Review of the Kaggle competition 'H2o.ai Predict the LLM' "
⌚️ Thursday 16 November, 19.00 (Moscow)

The review of the recent NLP competition will be given. The speakers include Kaggle Grandmaster Dmitry Larko who is one of the organizers of the competition. The objective of this competition is to detect which out of 7 possible LLM models produced a particular output. With each model having its unique subtleties and quirks, can you identify which one generated the response?

Add to Google Calendar

Speakers / Спикеры
1. "Dataset preparation and H2O LLM Studio" Dmitry Larko, Kaggle Grandmaster, AutoML & GenAI research at H2O.ai, Competition Organizer
2. "To Catch-up Log-Loss 1 and Philipp Singer's baseline… " Samvel Kocharyan, Aleksey Schukin, 8th Place Solution (Chuk & Gek team)
3. "Winning solutions review", Rashmi Banthia, Harvard University, 3rd Place

19:05 - 19:20 - Dmitry Larko
19:20 - 19:40 - Samvel Kocharyan, Aleksey Schukin
19.40 - 20.00 - Rashmi Banthia
20.00 - 20.20 - Q&A

Announcement on Kaggle

Zoom link will be in @sberlogabig just before start. Video records: https://www.youtube.com/c/SciBerloga - subscribe !

📹 Video: https://youtu.be/slc9cYjob4g?si=1R_83CB-56JsMh7Z
📖 Presentations: https://t.me/sberlogacompete/9576

Следующая остановка — аннотация генетических вариантов!

Но чтобы до нее добраться, нужно знать путь 😉 Мы разработали интенсив, который за 2 дня поможет научиться применять современные методы аннотации и интерпретации вариантов для анализа генетических данных в медицинских и биологических исследованиях.

Например, вы научитесь:
— Идентифицировать и фильтровать генетические варианты
— Применять на практике инструменты аннотации и интерпретации вариантов
— Работать с базами данных и литературными источниками для проведения аннотации вариантов
— Интерпретировать наследственные и соматические варианты с использованием ген-специфических рекомендаций

Программа построена от теории к практике таким образом, чтобы студенты научились применять знания в реальных условиях, что является важным навыком для любого специалиста!

🚀 @SBERLOGACOMPETE webinar on data science:
👨‍🔬 Aлександр Рыжков, Ольга Цымбой "Почти золото “Kaggle - LLM Science Exam”: retrieval is almost all you need"
⌚️ Четверг 7 Декабря 19.00 (по Москве)

Add to Google Calendar

В этом докладе мы представим разбор нашего итогового решения, занявшего 21е место с 0.916 MAP@3 на приватном лидерборде соревнования “Kaggle - LLM Science Exam”. В ходе рассказа затронем основные моменты в данных или зачем мы использовали дополнительные данные, стратегии поиска контекстов для задачи multiple choice QA, а также как подбирали параметры итогового ансамбля. В конце нашего доклада рассмотрим и сравним другие решения из топа лидерборда.

Описание решения на Каггл: https://www.kaggle.com/competitions/kaggle-llm-science-exam/discussion/447589

О докладчиках: Александр Рыжков - тройной Каггл грандмастер, тим-лид авто-мл "LAMA" (LightAutoML) в Сбер АИ Лаб,
Ольга Цымбой - исследователь в центре инструментов машинного обучения, Cбер АИ Лаб

Zoom link will be in @sberlogabig just before start. Video records: https://www.youtube.com/c/SciBerloga - subscribe out youtube channel !

📖 Presentation: https://t.me/sberlogacompete/10196
📹 Video: https://youtu.be/RWV2cYHRUqU?si=dolyowmtfQLaMeDp