#ML #System #Design

This booklet covers four main steps of designing a machine learning system:

Project setup
Data pipeline
Modeling: selecting, training, and debugging
Serving: testing, deploying, and maintaining

https://github.com/chiphuyen/machine-learning-systems-design

#ML #System #Design

"We can characterize the challenges for integrating machine learning within our systems as the three Ds. Decomposition, Data and Deployment."

"The first two components decomposition and data are interlinked, but we will first outline the decomposition challenge. Below we will mainly focus on supervised learning because this is arguably the technology that is best understood within machine learning."

http://inverseprobability.com/talks/notes/the-three-ds-of-machine-learning.html

#CV #HighResolution

What a time to be alive!

https://www.youtube.com/watch?v=MwCgvYtOLS0

“TensorFlow vs PyTorch for Deep Learning” by Andreas Stöffelbauer https://link.medium.com/OV7ZUmUcl9

Ночью Илон Маск показал компактный беспроводной нейроинтерфейс Link, вживляемый под кожу черепа, и продемонстрировал его работу на свиньях, которым имплантировали чип для считывания мозговой активности.

С помощью Link можно будет лечить болезни — например, паралич, депрессию и болезнь Альцгеймера, играть в игры и управлять устройствами. Маск пообещал поддержку Tesla и StarCraft.

Главное из презентации Neuralink: vc.ru/future/154015

Mastering a data pipeline with Python / Robson Luis Monteiro Junior (Microsoft)

https://youtu.be/25fUlUsmg38

Вкратце, хочу поделиться своим опытом прохождения на курсе по Глубокому Обучению.

Пока прошел первый модуль. Ушло примерно 2-3 недели, в основным по выходным. Если в часах, то около 20 часов. Доволен на 100% без преувеличений!

Из плюсов (минусов вообще пока не заметил):

1. Отлично продуманная программа: постепенно от логистической регресси, через однослойную сетку, к глубокой. Все сопровождается блестящим и подробным объяснением что-зачем-и-почему. Я, по-крайней мере, получил ответы на больинство своих вопросов, а на несколько тех, что не понял, смог добить самостоятельно в Гугле.

2. Супер профессиональный инструктор (сейчас именно об умении обучать, а не о его статусности в МЛ): Andrew Ng расставляет нужные акценты там где нужно, говорит о чем волноваться, а о чем не нужно. Дает понять где на математику нужно надавить, а где можно не сильно переживать. В моем случае это очень нужно, так как меня постоянно сопровождает Синдром Самозванца и я постоянно сомневаюсь, в своих способностях :)) И тот факт, что я в Амазоне, не всегда служит оправданием :))

3. Достаточно много практики. Задания в ноутбуках, среда разработки настроена - на лишнее отвлекаться не нужно. За первый модуль, пришлось несколько раз реализовать forward feed и back propagation, что сильно повысило мою уверенность в понимании как это устроено изнутри. Раньше я понимал, что используется chain rule и думал, что идет какая-то нереально навороченная реализация. На деле оказалось все куда проще: в зависимости от cost function и активационных функций, выбирается нужный метод, который знает как брать производную функции.

В общем, за первый модуль, я прокачал свой взгляд на сети и теперь уже могу осознано выбирать нужные гипер-параметры. Второй модуль как раз таки о практической части тренировки сетей и тюнинг параметров. Не могу не отметить профессионально упорядоченный материал и задания, отвечающие на вопрос "Почему?".

Все кому интересен Deep Learning и начинаете с нуля, рекомендую этот курс!

Чуть позже напишу свой отзыв о втором модуле.


https://www.coursera.org/specializations/deep-learning

https://vc.ru/ml/156413-razrabotchik-nomad-list-vypustil-generator-idey-dlya-biznesa-ih-pridumyvaet-algoritm-gpt-3

Разработчик Nomad List выпустил генератор идей для бизнеса — их «придумывает» алгоритм GPT-3

Бразильский программист собрал в одном месте заметки по компьютерному зрению и основам алгоритмической обработки изображений.

Распознавание объектов и цифр, библиотеки для визуализации 3D-графиков, сложная теория обработки изображений простым языком и не только. Всё на Python, с красивыми картинками и примерами кода:

https://diegoinacio.github.io/computer-vision-notebooks/

#python #computervision

​Разработчик из Facebook рассказал о своём опыте собеседований по Data Science

О том, какие темы он учил, на какие вопросы отвечал и какие ресурсы использовал для подготовки, читайте в статье:

https://tprg.ru/ovma

#datascience

OpenAI recently published GPT-3, the largest language model ever trained. GPT-3 has 175 billion parameters and would require 355 years and $4,600,000 to train - even with the lowest priced GPU cloud on the market

https://lambdalabs.com/blog/demystifying-gpt-3/#training-the-model

Основатель DST Global, миллиардер Юрий Мильнер поддержит науку: его фонд Breakthrough Initiatives профинансирует поиски жизни на Венере.

Накануне учёные из Европы и США сообщили, что нашли в облаках планеты фосфин, который может указывать на наличие живых организмов: vc.ru/future/158515

Пройти в офис или оплатить покупки можно будет ладонью — такую технологию придумала Amazon и предложила её сторонним компаниям.

Это безопасно, так как не бывает двух одинаковых ладоней, а по изображению руки нельзя определить личность, говорит ритейлер: vc.ru/trade/162518

Разработчики создали алгоритм, который убирает водяные знаки и объекты на видео и расширяет его границы

Ну и конечно, создатели заявляют, что пока что это лучший алгоритм для подобных целей. Колаб обещают в ближайшем будущем, но уже сейчас исходный код доступен на GitHub:

https://github.com/vt-vl-lab/FGVC

#ии #алгоритмы

новое видео от "Two Minutes Papers". в этот раз на тему style transfer

https://www.youtube.com/watch?v=UiEaWkf3r9A&pp=wgIECgIIAQ%3D%3D&feature=push-sd&attr_tag=_YSfyVwvbxEe2_kK%3A6

#stanford #ML #cheatsheet

General Machine Learning: https://stanford.edu/~shervine/teaching/cs-229/cheatsheet-machine-learning-tips-and-tricks

Unsupervised Learning: https://stanford.edu/~shervine/teaching/cs-229/cheatsheet-unsupervised-learning

Supervised Learning: https://stanford.edu/~shervine/teaching/cs-229/cheatsheet-supervised-learning

Deep Learning: https://stanford.edu/~shervine/teaching/cs-229/cheatsheet-deep-learning

Learn & practice Git

With this platform you can learn and practice Git and discover its features you might haven't been aware of. With all the exercises provided you will rapidly become a Git Master!

https://gitexercises.fracz.com/

Microservices

Hello, world!\n 😄
This week I came across my notes and bookmarks and made a list of resources where to start learning about microservices, and I’d like to share it here. Hope it’s gonna be useful.

📒Posts & Articles:
- 35 Microservices Interview Questions You Most Likely Can't Answer: https://dev.to/aershov24/35-microservices-interview-questions-you-most-likely-can-t-answer-2eoc
- Martin Fowler’s microservices, classic: https://martinfowler.com/articles/microservices.html
- Nice intro into Microservices topic from NGINX team: https://www.nginx.com/blog/introduction-to-microservices/

📚A book to read: “Building Microservices: Designing Fine-Grained Systems” - https://www.amazon.com/Building-Microservices-Designing-Fine-Grained-Systems-ebook/dp/B00T3N7XB4

🧑‍🏫Tutorials
🔴If you’d like to start from practice in a hard mode, feel free to go here:
- “Introduction to Microservices in Go” https://ewanvalentine.io/microservices-in-golang-part-0/ This is a big and somewhat complete series/tutorial of building a service from scratch in Go, including docker, CI configuration, deployment, Kubernetes and much more things.

🟢Easy-going practices are:
- An option with MySQL: “Build a REST API as a Go microservice together with MySQL” -https://dev.to/johanlejdung/a-mini-guide-build-a-rest-api-as-a-go-microservice-together-with-mysql-27m2
- MongoDB-based example: “Microservices: An Example With Docker, Go, and MongoDB” - https://dzone.com/articles/microservices-an-example-with-docker-go-and-mongod