AI Для Всех
@nn_for_science
12.8K subscribers
1.18K photos
153 videos
10 files
1.38K links
Канал, в котором мы говорим про искусственный интеллект простыми словами

Главный редактор и по рекламе: @crimeacs

Иногда пишут в канал: @GingerSpacetail, @innovationitsme
Download Telegram
About
Blog
Apps
Platform
Join
AI Для Всех
12.8K subscribers
AI Для Всех
Few-shot neural architecture search

#nas
Facebook
Introducing few-shot neural architecture search
We’re sharing our work on few-shot neural architecture search (NAS), which combines the accuracy of vanilla NAS with the speed and efficiency of one-shot NAS. Few-shot NAS lets anyone design a powerful custom model quickly, with just a few GPUs.
64 viewsArtemii, edited  
AI Для Всех
OpenAI зарелизил модели для Image Diffusion.

#diffusion #images #generative
GitHub
guided-diffusion/model-card.md at main · openai/guided-diffusion
Contribute to openai/guided-diffusion development by creating an account on GitHub.
73 viewsArtemii, edited  
AI Для Всех
Forwarded from Neural Shit
Нашёл годный репозиторий с коллекцией интересных колаб-ноутбуков как-либо связанных с нейронками и машинным обучением.

По ссылке таблица с описанием, ссылками на автора, страницу проекта (если есть) и сам ноутбук.

https://github.com/amrzv/awesome-colab-notebooks
67 viewsArtemii, 
AI Для Всех
Новая YOLO, ещё точнее, ещё быстрее

#images #detection
Twitter
AK
YOLOX: Exceeding YOLO Series in 2021 pdf: arxiv.org/pdf/2107.08430… abs: arxiv.org/abs/2107.08430 github: github.com/Megvii-BaseDet…
76 viewsArtemii, edited  
AI Для Всех
Хороший ноутбук с альфолд2.
До этого была предыдущая его версия

#ScientificML #Alphafold2 #biology
Google
AlphaFold2.ipynb
Run, share, and edit Python notebooks
77 viewsDmitry Penzar, edited  
AI Для Всех
Colab по CLIP guided diffusion

#generative #text2image #diffusion #CLIP
Google
CLIP Guided Diffusion.ipynb
Colaboratory notebook
73 viewsArtemii, edited  
AI Для Всех
Теперь целая база с последоввательностями, предсказанными alphafold.

Надо смотреть - вообще говоря, запускать модель самим может оказаться идеей лучше, так как коллеги струуктурные биологи уже обнаружили не очень правильные решения на этапе оптимизации полученной от нейросети структуры

P.S Коллеги нашли и в базе кучу очень странных структур. Видимо, лучше запускать руками))

https://alphafold.ebi.ac.uk/

Анонс от deepmind - https://deepmind.com/blog/article/putting-the-power-of-alphafold-into-the-worlds-hands
alphafold.ebi.ac.uk
AlphaFold Protein Structure Database
79 viewsDmitry Penzar, edited  
AI Для Всех
Конечно же оказалось, что BERT like претрейнинг поможет в Image Transformers

#SSL #images #transformer
Twitter
Li Dong
BEiT-large (pretrained on ImageNet-22k) achieves SoTA on ADE20K (57.0 mIoU), and 88.6% top-1 accuracy on ImageNet-1k. Self-supervised learning is the future. Code and pretrained checkpoints: github.com/microsoft/unil… twitter.com/ak92501/status…
83 viewsArtemii, edited  
AI Для Всех
AudioCaptioning - теперь на трансформерах

#audio #transformer #captioning #sound
74 viewsArtemii, edited  
AI Для Всех
Заметка про суперскоростной инференс

#inference
NVIDIA Technical Blog
Achieving FP32 Accuracy for INT8 Inference Using Quantization Aware Training with NVIDIA TensorRT | NVIDIA Technical Blog
○ TensorRT is an SDK for high-performance deep learning inference and with TensorRT 8.0, you can import models trained using Quantization Aware Training (QAT) to run inference in INT8 precision…
76 viewsArtemii, edited  
AI Для Всех
Epistemic Neural Networks (это те которые с погрешностями)

#ScientificML
Twitter
AK
Epistemic Neural Networks pdf: arxiv.org/pdf/2107.08924… abs: arxiv.org/abs/2107.08924 introduce the epistemic neural network (ENN) as an interface for uncertainty modeling in deep learning
67 viewsArtemii, edited  
AI Для Всех
QuantumNAS

#ScientificML
Twitter
AK
QuantumNAS: Noise-Adaptive Search for Robust Quantum Circuits pdf: arxiv.org/pdf/2107.10845… abs: arxiv.org/abs/2107.10845 For QML tasks, QuantumNAS is the first to demonstrate over 95% 2-class, 85% 4-class, and 32% 10-class classification accuracy on real…
60 viewsArtemii, edited  
AI Для Всех
Forwarded from Arthur Zalevsky
парад душнил в самом разгаре :)
66 viewsDmitry Penzar, 
AI Для Всех
Архитектуры на pytorch c построчными комментариями (фактически - описание всего алгоритма реализуемого)

https://nn.labml.ai/

#basics
75 viewsDmitry Penzar, edited  
AI Для Всех
GradCam для CLIP

Будет круто его использовать при разборе CLIP

#images #SSL #CLIP
Twitter
Kevin Zakka
Made a quick Colab notebook to explore OpenAI's CLIP and visualize which parts of an image activate given a certain caption. colab.research.google.com/github/kevinza…
92 viewsArtemii, edited  
AI Для Всех
Neural video compression

#GAN #video #compression #generative
Twitter
AK
Towards Generative Video Compression pdf: arxiv.org/pdf/2107.12038… abs: arxiv.org/abs/2107.12038 a neural video compression method based on GANs that outperforms previous neural video compression methods and is comparable to HEVC in a user study
132 viewsArtemii, edited  
AI Для Всех
H-Transformer-1D: Fast One-Dimensional Hierarchical Attention for Sequences

#sequences #transformer
58 viewsArtemii, edited  
AI Для Всех
Фреймворк для генерации шумных таргетов от DeepMind

#Training #labeling
Twitter
AK
A Realistic Simulation Framework for Learning with Label Noise pdf: arxiv.org/pdf/2107.11413… abs: arxiv.org/abs/2107.11413 github: github.com/deepmind/deepm… a simulation framework for generating realistic instance-dependent noisy labels via a pseudolabeling…
63 viewsArtemii, edited  
AI Для Всех
Contextual Transformer Network for Visual Recognition:

GitHub

Использует контекст для направления self-attention

#transformer #images
GitHub
GitHub - JDAI-CV/CoTNet: This is an official implementation for "Contextual Transformer Networks for Visual Recognition".
This is an official implementation for "Contextual Transformer Networks for Visual Recognition". - GitHub - JDAI-CV/CoTNet: This is an official implementation for "Contex...
65 viewsArtemii, edited  
AI Для Всех
Кто бы сомневался: Go Wider, instead of Deeper

Хотя я думаю мы ещё увидим статьи в стиле: go wider AND deeper

#transformer #images
Twitter
AK
Go Wider Instead of Deeper pdf: arxiv.org/pdf/2107.11817… abs: arxiv.org/abs/2107.11817 best model outperforms Vision Transformer (ViT) by 1.46% with 0.72× trainable parameters
69 viewsArtemii, edited