«Как обучить нейросеть» — краткий конспект лекций курса MIT по глубокому обучению за 2024 год. Он посвящён одному из фундаментальных вопросов нейросетей — как модель обучает свои веса.
В конспекте процесс обучения рассматривается с математической точки зрения. Разбираются прямой проход, функции потерь, градиенты, обратное распространение ошибки и градиентные методы оптимизации.
Думаю, это интересный материал для тех, кто хочет выйти за рамки общего интуитивного представления о нейросетях и начать разбираться в математике, на которой основано их обучение.
https://ocw.mit.edu/courses/6-7960-deep-learning-fall-2024/mit6_7960_f24_lec2.pdf
✈️ Python Ninja
В конспекте процесс обучения рассматривается с математической точки зрения. Разбираются прямой проход, функции потерь, градиенты, обратное распространение ошибки и градиентные методы оптимизации.
Думаю, это интересный материал для тех, кто хочет выйти за рамки общего интуитивного представления о нейросетях и начать разбираться в математике, на которой основано их обучение.
https://ocw.mit.edu/courses/6-7960-deep-learning-fall-2024/mit6_7960_f24_lec2.pdf
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
«Изучение математики. Почему память, практика и техника важнее таланта»
Чтобы освоить математику, необходимо запомнить большой объём информации, правил, способов упрощения и приёмов решения задач. Другого пути нет. Теория полезна, но в меру.
Это как изучение языка. Если слишком сосредоточиться на грамматике, никогда не научишься свободно на нём говорить.
https://algebrica.org/learning-mathematics/
✈️ Python Ninja
Чтобы освоить математику, необходимо запомнить большой объём информации, правил, способов упрощения и приёмов решения задач. Другого пути нет. Теория полезна, но в меру.
Это как изучение языка. Если слишком сосредоточиться на грамматике, никогда не научишься свободно на нём говорить.
https://algebrica.org/learning-mathematics/
Please open Telegram to view this post
VIEW IN TELEGRAM
Algebrica
Learning Mathematics | Algebrica
Why Memory, Practice, and Technique Matter More Than Talent
🔥4👍2
Modern Robotics: Mechanics, Planning, and Control.
Сохраните на потом.
Это полноценный учебник по робототехнике уровня магистратуры от Кевина Линча и Фрэнка Парка, изданный Cambridge University Press.
Внутри:
- конфигурационные пространства
- кинематика
- динамика
- генерация траекторий
- планирование движения
- управление роботами
По сути, это современная математическая база того, как роботы двигаются и взаимодействуют с окружающим миром.
https://hades.mech.northwestern.edu/images/7/7f/MR.pdf
✈️ Python Ninja
Сохраните на потом.
Это полноценный учебник по робототехнике уровня магистратуры от Кевина Линча и Фрэнка Парка, изданный Cambridge University Press.
Внутри:
- конфигурационные пространства
- кинематика
- динамика
- генерация траекторий
- планирование движения
- управление роботами
По сути, это современная математическая база того, как роботы двигаются и взаимодействуют с окружающим миром.
https://hades.mech.northwestern.edu/images/7/7f/MR.pdf
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
🔥 Техно-гик в душе? Тогда это твой must-have набор каналов!
Привет, друзья! Если ты любишь программирование, электронику, Arduino, 3D-печать и выгодно шопиться — собрал для вас целую экосистему полезных Telegram-каналов:
📚 t.me/Geek_book_hub — Бесплатная библиотека книг по программированию, электронике, IT и разработке. Всё самое нужное и свежее.
⚡️ t.me/club_arduino — Мемы, схемы, полезные материалы и лайфхаки для ардуинщиков, электронщиков и DIY-шников. Здесь всегда весело и по делу.
🖨 t.me/forprinting3D — Лучшие модели, идеи и файлы для 3D-печати. Если у тебя есть принтер — тебе точно сюда.
🛒 t.me/Ali_radio_top — Самые горячие скидки, акции и выгодные предложения с AliExpress. Экономим вместе!
🏴☠ t.me/Pirate_Gram — Бесплатные Android-приложения с премиум-доступом. Без рекламы, без подписок.
Привет, друзья! Если ты любишь программирование, электронику, Arduino, 3D-печать и выгодно шопиться — собрал для вас целую экосистему полезных Telegram-каналов:
🏴☠ t.me/Pirate_Gram — Бесплатные Android-приложения с премиум-доступом. Без рекламы, без подписок.
Please open Telegram to view this post
VIEW IN TELEGRAM
DeepSeek выложила в открытый доступ библиотеку, которая ускоряет вычисления на GPU, лежащие в основе ИИ-моделей.
Она называется DeepGEMM.
Библиотека оптимизирует матричные операции, на которых работают большие языковые модели, и позволяет эффективнее использовать NVIDIA Hopper и Blackwell.
Поддерживаются FP8, FP4 и BF16. Есть оптимизации для моделей с архитектурой Mixture-of-Experts, совмещение обмена данными между GPU с вычислениями и компиляция ядер прямо во время выполнения, без отдельной сборки CUDA при установке.
По данным DeepSeek, DeepGEMM на ряде размеров матриц показывает производительность на уровне или выше специализированных библиотек, вручную оптимизированных экспертами.
https://github.com/deepseek-ai/DeepGEMM#interfaces
✈️ Python Ninja
Она называется DeepGEMM.
Библиотека оптимизирует матричные операции, на которых работают большие языковые модели, и позволяет эффективнее использовать NVIDIA Hopper и Blackwell.
Поддерживаются FP8, FP4 и BF16. Есть оптимизации для моделей с архитектурой Mixture-of-Experts, совмещение обмена данными между GPU с вычислениями и компиляция ядер прямо во время выполнения, без отдельной сборки CUDA при установке.
По данным DeepSeek, DeepGEMM на ряде размеров матриц показывает производительность на уровне или выше специализированных библиотек, вручную оптимизированных экспертами.
https://github.com/deepseek-ai/DeepGEMM#interfaces
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - deepseek-ai/DeepGEMM: DeepGEMM: clean and efficient BLAS kernel library on GPU
DeepGEMM: clean and efficient BLAS kernel library on GPU - deepseek-ai/DeepGEMM
❤2
Для тех кто просил, наш канал с мемами для программистов и айтишников
👇
https://t.me/+dsSFDs4AFOk3MGYy
https://t.me/+dsSFDs4AFOk3MGYy
Please open Telegram to view this post
VIEW IN TELEGRAM
Скачайте 10 книг по Python БЕСПЛАТНО:
1. Think Python — O’Reilly
https://t.co/X7y3pX68IW
2. The Big Book of Small Python Projects
https://inventwithpython.com/bigbookpython/
3. Структуры данных
https://opendatastructures.org/ods-python.pdf
4. Справочник по науке о данных
https://t.co/9aOLdiAbim
5. Анализ данных
https://wesmckinney.com/book/
6. Наука о данных
https://t.co/TusyBWGfrx
7. Машинное обучение
https://t.co/7veOwESe8q
8. Статистика
https://t.co/waWDQylQpY
9. Think Bayes
https://allendowney.github.io/ThinkBayes2/
10. Чистый код на Python — Packt
https://t.co/OHhVgF1L65
✈️ Python Ninja
1. Think Python — O’Reilly
https://t.co/X7y3pX68IW
2. The Big Book of Small Python Projects
https://inventwithpython.com/bigbookpython/
3. Структуры данных
https://opendatastructures.org/ods-python.pdf
4. Справочник по науке о данных
https://t.co/9aOLdiAbim
5. Анализ данных
https://wesmckinney.com/book/
6. Наука о данных
https://t.co/TusyBWGfrx
7. Машинное обучение
https://t.co/7veOwESe8q
8. Статистика
https://t.co/waWDQylQpY
9. Think Bayes
https://allendowney.github.io/ThinkBayes2/
10. Чистый код на Python — Packt
https://t.co/OHhVgF1L65
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
7 дней бесплатного обучения во Frontend-разработке!
🔥 Ухвати свой шанс погрузиться в мир Frontend-разработки на нашем бесплатном онлайн-интенсиве! Интересные уроки, практическая работа и поддержка куратора — всё это доступно тебе прямо сейчас.
Всего за 7 дней ты:
1. Сгенерируешь сайт через Giga, DeepSeek, ChatGPT;
2. Сверстаешь весь сайт на HTML + CSS с правильным адаптивом;
3. Оживишь проект на JavaScript: логика, расчёты и трекинг заказов;
4. Подключишь карты и API, увидишь, как данные работают в настоящем продукте;
5. Получишь экспертные советы, как улучшить свои проекты и вывести их на профессиональный уровень.
В итоге добавишь в своё портфолио уникальный проект сервиса доставки, доступный по ссылке, который повысит твою ценность как специалиста.
🔥 С нас обучение, практика и поддержка на пути к фрилансу.
С тебя участие в интенсиве
👉 Начать бесплатное обучение
Не упусти шанс получить мощный заряд уверенности для дальнейшего роста в разработке!
🔥 Ухвати свой шанс погрузиться в мир Frontend-разработки на нашем бесплатном онлайн-интенсиве! Интересные уроки, практическая работа и поддержка куратора — всё это доступно тебе прямо сейчас.
Всего за 7 дней ты:
1. Сгенерируешь сайт через Giga, DeepSeek, ChatGPT;
2. Сверстаешь весь сайт на HTML + CSS с правильным адаптивом;
3. Оживишь проект на JavaScript: логика, расчёты и трекинг заказов;
4. Подключишь карты и API, увидишь, как данные работают в настоящем продукте;
5. Получишь экспертные советы, как улучшить свои проекты и вывести их на профессиональный уровень.
В итоге добавишь в своё портфолио уникальный проект сервиса доставки, доступный по ссылке, который повысит твою ценность как специалиста.
🔥 С нас обучение, практика и поддержка на пути к фрилансу.
С тебя участие в интенсиве
👉 Начать бесплатное обучение
Не упусти шанс получить мощный заряд уверенности для дальнейшего роста в разработке!
Тестируйте торговые стратегии на основе машинного обучения на исторических рыночных данных, прежде чем рисковать реальными деньгами.
- Проверяйте стратегии на множестве финансовых инструментов одновременно.
- Обучайте модели, имитирующие реальную торговлю.
- Получайте рыночные данные из Yahoo и Alpaca.
https://github.com/edtechre/pybroker
✈️ Python Ninja
- Проверяйте стратегии на множестве финансовых инструментов одновременно.
- Обучайте модели, имитирующие реальную торговлю.
- Получайте рыночные данные из Yahoo и Alpaca.
https://github.com/edtechre/pybroker
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3❤1
АЙТИШНИКИ БЕСПЛАТНОЕ ОБУЧЕНИЕ
Проект «Terminal» стал крупнейшей библиотекой бесплатного образования. В одном канале собраны курсы, книги, полезные инструменты и практические тренажёры для всех разработчиков:
• Практические курсы и задания
• Книги и статьи известных авторов
• Полезные инструменты и ресурсы
• IT-новости и инсайды
Обучение по всем направлениям: SQL, Python, ML, Frontend, PHP, C++, Go, Git, Linux, QA, Java, Vibe-coding, InfoSec и др.
⌨️ подписаться
Проект «Terminal» стал крупнейшей библиотекой бесплатного образования. В одном канале собраны курсы, книги, полезные инструменты и практические тренажёры для всех разработчиков:
• Практические курсы и задания
• Книги и статьи известных авторов
• Полезные инструменты и ресурсы
• IT-новости и инсайды
Обучение по всем направлениям: SQL, Python, ML, Frontend, PHP, C++, Go, Git, Linux, QA, Java, Vibe-coding, InfoSec и др.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2
Разбор собеседований по проектированию систем, разделённый на 28 глав. Рассматриваются масштабирование, ограничение частоты запросов и распределённые системы.
https://github.com/liquidslr/system-design-notes
✈️ Python Ninja
https://github.com/liquidslr/system-design-notes
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - liquidslr/system-design-notes: Notes of the book System Desgin Interview - An Insider's Guide
Notes of the book System Desgin Interview - An Insider's Guide - liquidslr/system-design-notes
❤1
Дождались! Ребята сделали крутейший канал про IT новой эпохи
Нейросети, ИИ-агенты, вайбкодинг, вайбхакинг и новые инструменты уже меняют привычный мир технологий.
Там разбирают эти изменения и другие интересные IT-темы на простых картинках и понятном языке, а еще делятся полезными ресурсами и свежими новостями
Подписывайтесь: @IT_Portal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
This media is not supported in your browser
VIEW IN TELEGRAM
Можно буквально ввести предложение и посмотреть, как Transformer обрабатывает его.
Этот интерактивный тренажёр запускает GPT-подобную модель прямо в браузере и позволяет проследить весь процесс:
Токенизация → эмбеддинги → Q/K/V → механизм внимания → MLP → логиты → вероятности следующего токена.
Можно изучать карты внимания, промежуточные значения и менять параметры temperature, top-k и top-p, чтобы увидеть, как они влияют на генерацию.
Если для вас трансформеры до сих пор выглядят как набор блоков, соединённых стрелками, стоит попробовать.
https://poloclub.github.io/transformer-explainer/
✈️ Python Ninja
Этот интерактивный тренажёр запускает GPT-подобную модель прямо в браузере и позволяет проследить весь процесс:
Токенизация → эмбеддинги → Q/K/V → механизм внимания → MLP → логиты → вероятности следующего токена.
Можно изучать карты внимания, промежуточные значения и менять параметры temperature, top-k и top-p, чтобы увидеть, как они влияют на генерацию.
Если для вас трансформеры до сих пор выглядят как набор блоков, соединённых стрелками, стоит попробовать.
https://poloclub.github.io/transformer-explainer/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍2
This media is not supported in your browser
VIEW IN TELEGRAM
Microsoft приобрела Maluuba за год до выхода GPT-1.
Основатель компании признаётся, что сожалеет о продаже, поскольку Maluuba могла бы стать следующей OpenAI.
Теперь та же команда специалистов по глубокому обучению вернулась с новым проектом Skyfall AI, и её первая модель — вовсе не очередная LLM.
SKY-001 — первая инженерная world model. Достаточно передать ей текстовый промпт или примерный эскиз, и она спроектирует объект целиком, разберёт его на отдельные детали вплоть до винтиков, а затем воссоздаст в виде полноценного CAD-файла, который можно открыть в таких программах, как Autodesk Fusion.
Согласно тестам компании, в задачах CAD и BIM модель работает в 100 раз быстрее и обходится в 150 раз дешевле, чем GPT-6 Astra.
Обратите внимание на момент в видео, когда детали одна за другой соединяются в готовую конструкцию.
✈️ Python Ninja
Основатель компании признаётся, что сожалеет о продаже, поскольку Maluuba могла бы стать следующей OpenAI.
Теперь та же команда специалистов по глубокому обучению вернулась с новым проектом Skyfall AI, и её первая модель — вовсе не очередная LLM.
SKY-001 — первая инженерная world model. Достаточно передать ей текстовый промпт или примерный эскиз, и она спроектирует объект целиком, разберёт его на отдельные детали вплоть до винтиков, а затем воссоздаст в виде полноценного CAD-файла, который можно открыть в таких программах, как Autodesk Fusion.
Согласно тестам компании, в задачах CAD и BIM модель работает в 100 раз быстрее и обходится в 150 раз дешевле, чем GPT-6 Astra.
Обратите внимание на момент в видео, когда детали одна за другой соединяются в готовую конструкцию.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3
В 2026 году на кодинге уже не вывезешь, перспектива года - Информационная Безопасность.
Ловите полезные каналы, которые помогут ворваться в новое направление.
Please open Telegram to view this post
VIEW IN TELEGRAM
Не теряющий актуальности материал — «Введение в распределённые системы» (An Introduction to Distributed Systems) Кайла Кингсбери.
https://github.com/aphyr/distsys-class
✈️ Python Ninja
https://github.com/aphyr/distsys-class
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3
Forwarded from TERMINAL
This media is not supported in your browser
VIEW IN TELEGRAM
Изучаем Arduino в интерактивном 3D тренажёре
Бесплатный курс, где вместо скучной теории вы сразу собираете схемы, пишете код и работаете в виртуальной Arduino Uno. Доступны 11 пошаговых уроков: от мигания светодиодом до управления сервоприводом и работы с датчиком расстояния.
https://learn-arduino-red.vercel.app/
⌨️ подписаться
Бесплатный курс, где вместо скучной теории вы сразу собираете схемы, пишете код и работаете в виртуальной Arduino Uno. Доступны 11 пошаговых уроков: от мигания светодиодом до управления сервоприводом и работы с датчиком расстояния.
https://learn-arduino-red.vercel.app/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2