AI Для Всех – Telegram

AI Для Всех

@nn_for_science

12.8K subscribers

1.18K photos

153 videos

10 files

1.38K links

Канал, в котором мы говорим про искусственный интеллект простыми словами

Главный редактор и по рекламе: @crimeacs

Иногда пишут в канал: @GingerSpacetail, @innovationitsme

Download Telegram

About

Blog

Apps

Platform

AI Для Всех

12.8K subscribers

AI Для Всех

Теперь целая база с последоввательностями, предсказанными alphafold.

Надо смотреть - вообще говоря, запускать модель самим может оказаться идеей лучше, так как коллеги струуктурные биологи уже обнаружили не очень правильные решения на этапе оптимизации полученной от нейросети структуры

P.S Коллеги нашли и в базе кучу очень странных структур. Видимо, лучше запускать руками))

https://alphafold.ebi.ac.uk/

Анонс от deepmind - https://deepmind.com/blog/article/putting-the-power-of-alphafold-into-the-worlds-hands

alphafold.ebi.ac.uk

AlphaFold Protein Structure Database

79 viewsDmitry Penzar, edited 17:20

AI Для Всех

Конечно же оказалось, что BERT like претрейнинг поможет в Image Transformers

#SSL #images #transformer

BEiT-large (pretrained on ImageNet-22k) achieves SoTA on ADE20K (57.0 mIoU), and 88.6% top-1 accuracy on ImageNet-1k. Self-supervised learning is the future. Code and pretrained checkpoints: github.com/microsoft/unil… twitter.com/ak92501/status…

83 viewsArtemii, edited 08:35

AI Для Всех

AudioCaptioning - теперь на трансформерах

#audio #transformer #captioning #sound

74 viewsArtemii, edited 09:41

AI Для Всех

Заметка про суперскоростной инференс

#inference

NVIDIA Technical Blog

Achieving FP32 Accuracy for INT8 Inference Using Quantization Aware Training with NVIDIA TensorRT | NVIDIA Technical Blog

○ TensorRT is an SDK for high-performance deep learning inference and with TensorRT 8.0, you can import models trained using Quantization Aware Training (QAT) to run inference in INT8 precision…

76 viewsArtemii, edited 09:47

AI Для Всех

Epistemic Neural Networks (это те которые с погрешностями)

#ScientificML

Epistemic Neural Networks pdf: arxiv.org/pdf/2107.08924… abs: arxiv.org/abs/2107.08924 introduce the epistemic neural network (ENN) as an interface for uncertainty modeling in deep learning

67 viewsArtemii, edited 09:51

AI Для Всех

QuantumNAS

#ScientificML

QuantumNAS: Noise-Adaptive Search for Robust Quantum Circuits pdf: arxiv.org/pdf/2107.10845… abs: arxiv.org/abs/2107.10845 For QML tasks, QuantumNAS is the first to demonstrate over 95% 2-class, 85% 4-class, and 32% 10-class classification accuracy on real…

60 viewsArtemii, edited 10:32

AI Для Всех

Forwarded from Arthur Zalevsky

парад душнил в самом разгаре :)

66 viewsDmitry Penzar, 13:32

AI Для Всех

Архитектуры на pytorch c построчными комментариями (фактически - описание всего алгоритма реализуемого)

https://nn.labml.ai/

#basics

75 viewsDmitry Penzar, edited 15:17

AI Для Всех

GradCam для CLIP

Будет круто его использовать при разборе CLIP

#images #SSL #CLIP

Made a quick Colab notebook to explore OpenAI's CLIP and visualize which parts of an image activate given a certain caption. colab.research.google.com/github/kevinza…

92 viewsArtemii, edited 16:42

AI Для Всех

Neural video compression

#GAN #video #compression #generative

Towards Generative Video Compression pdf: arxiv.org/pdf/2107.12038… abs: arxiv.org/abs/2107.12038 a neural video compression method based on GANs that outperforms previous neural video compression methods and is comparable to HEVC in a user study

132 viewsArtemii, edited 08:15

AI Для Всех

H-Transformer-1D: Fast One-Dimensional Hierarchical Attention for Sequences

#sequences #transformer

58 viewsArtemii, edited 11:47

AI Для Всех

Фреймворк для генерации шумных таргетов от DeepMind

#Training #labeling

A Realistic Simulation Framework for Learning with Label Noise pdf: arxiv.org/pdf/2107.11413… abs: arxiv.org/abs/2107.11413 github: github.com/deepmind/deepm… a simulation framework for generating realistic instance-dependent noisy labels via a pseudolabeling…

63 viewsArtemii, edited 11:47

AI Для Всех

Contextual Transformer Network for Visual Recognition:

GitHub

Использует контекст для направления self-attention

#transformer #images

GitHub - JDAI-CV/CoTNet: This is an official implementation for "Contextual Transformer Networks for Visual Recognition".

This is an official implementation for "Contextual Transformer Networks for Visual Recognition". - GitHub - JDAI-CV/CoTNet: This is an official implementation for "Contex...

65 viewsArtemii, edited 11:47

AI Для Всех

Кто бы сомневался: Go Wider, instead of Deeper

Хотя я думаю мы ещё увидим статьи в стиле: go wider AND deeper

#transformer #images

Go Wider Instead of Deeper pdf: arxiv.org/pdf/2107.11817… abs: arxiv.org/abs/2107.11817 best model outperforms Vision Transformer (ViT) by 1.46% with 0.72× trainable parameters

69 viewsArtemii, edited 11:47

AI Для Всех

Segmentation in Style: Unsupervised Semantic Image Segmentation with Stylegan and CLIP

ArXiv
Код

#SSL #segmentation #CLIP

77 viewsArtemii, edited 07:32

AI Для Всех

Self-supervised предобучение для детекции DETReg

#detection #SSL #transformer

GitHub - amirbar/DETReg: Official implementation of the CVPR 2022 paper "DETReg: Unsupervised Pretraining with Region Priors for…

Official implementation of the CVPR 2022 paper "DETReg: Unsupervised Pretraining with Region Priors for Object Detection". - GitHub - amirbar/DETReg: Official implementation of th...

73 viewsArtemii, edited 07:56

AI Для Всех

Интересная статья про аугментации в self-supervised режимах от хорошего коллектива авторов.

Статья
Код

#SSL #training #augmentation

71 viewsArtemii, edited 08:12

AI Для Всех

Новый удобный виджет на GitHub для цитирования

#science

We’ve just added built-in citation support to GitHub so researchers and scientists can more easily receive acknowledgments for their contributions to software. Just push a CITATION.cff file and we’ll add a handy widget to the repo sidebar for you. Enjoy! 🎉

82 viewsArtemii, edited 09:55

AI Для Всех

Раз в год и OpenAI выпускает что-то по-настоящему open 😛.

Видео-разбор

#training #gpu

We’re releasing Triton 1.0, an open-source Python-like programming language for writing efficient GPU code. OpenAI researchers with no GPU programming experience have used Triton to produce kernels that are 2x faster than their PyTorch equivalents. opena…

95 viewsArtemii, edited 17:02

AI Для Всех

Open Building dataset от Гугла
Видео-разбор

#datasets #ScientificML

Today we are releasing the Open Buildings Dataset, a new open-source dataset containing the locations and footprints of >500M buildings with coverage across Africa, which can support numerous scientific and humanitarian applications. Read more at goo.gle/3751HVR

98 viewsArtemii, edited 21:06

AI Для Всех

Теперь мы публичный канал, зовите друзей. Админские права сохраняются за персоналом msu.ai, комментарии открытые

90 viewsArtemii, edited 21:07