Отличный материал по современному программированию GPU для систем машинного обучения.

MLC Community разбирает архитектуру GPU практически с нуля: потоки и варпы, иерархию памяти, CUDA Cores и Tensor Cores, TMA, устройство Blackwell, GEMM и Flash Attention 4. Отдельный упор сделан на то, как писать действительно быстрые ядра и эффективно загружать вычислительные блоки GPU.

https://mlc.ai/modern-gpu-programming-for-mlsys/chapter_background/index.html

👉 @PythonPortal

Вот один из лучших материалов для начала, если хотите понять, что процессор на самом деле делает.

https://youtu.be/GU8MnZI0snA

👉 @PythonPortal

«Принципы механики» — бесплатный учебник с открытым доступом, который даёт всестороннее введение в классическую механику.

Книга начинается с математических основ, необходимых для изучения механики, а затем переходит к основным темам: кинематике, законам движения Ньютона, работе и энергии, линейному и угловому моменту, вращательному движению, гравитации, колебаниям и волнам.

Теория сочетается с разобранными примерами и задачами, поэтому книга подойдёт как для первого знакомства с механикой, так и для повторения фундаментальных основ.

Полная версия книги бесплатно доступна в PDF:

https://link.springer.com/content/pdf/10.1007/978-3-030-15195-9.pdf

👉 @PythonPortal

Очень рекомендую сохранить осенний курс Стэнфорда MS&E 319 — Efficient Generative Language Models.

Курс идёт от предобучения до инференса и постобучения. Материалы и записи лекций обещают выкладывать позже.

Мне особенно нравится его исходная идея: модели становятся всё больше, но бюджет всегда ограничен. Если есть конкретная задача и ограниченные вычислительные ресурсы, как выбрать цель обучения, архитектуру модели и способ инференса так, чтобы получить максимум за свои деньги и не запускать GPT-6 на каждой задаче.

«Просто купить ещё GPU» тоже вариант — и сейчас это фактически основной подход рынка.

В курсе будут MoE, attention, сжатие KV Cache, квантизация, speculative decoding, а также LoRA, RLHF, DPO и дистилляция. Все эти обычно разрозненные техники рассматриваются через один вопрос: какую именно часть вычислений, памяти или времени они экономят и чем за это приходится платить.

Например, если нужно снизить стоимость использования модели, один подход позволяет на каждом запросе задействовать только часть параметров, другой уменьшает объём данных, которые нужно хранить и перемещать, третий ускоряет генерацию ответа. Сначала нужно понять, какую именно проблему решает каждый метод, и только потом выбирать подходящий для своей задачи и смотреть, какие из них можно сочетать.

Мне самому при оценке ИИ-компаний особенно интересен именно этот уровень: можно ли на тот же бюджет обучить более сильную модель или обслужить больше пользователей. Когда понимаешь компромиссы этих методов, релизы моделей и изменения их стоимости становятся намного понятнее.

У курса есть определённый порог входа, но если тема интересна, точно стоит следить:

https://web.stanford.edu/class/msande319/

👉 @PythonPortal

Вышла открытая альтернатива Jev — Kev. Модель доступна в трёх размерах.

Она работает локально, поэтому данные остаются на вашем компьютере. Kev может отвечать «да» или «нет», выбирать один из вариантов и добавлять примечание. Подходит для задач классификации.

👉 @PythonPortal

Исследователь OpenAI Алиса Лю прошла 57 собеседований перед тем, как попасть в компанию, а затем открыто опубликовала весь свой путь подготовки и поиска работы.

Если вы готовитесь к позициям Research Scientist или MTS, это один из самых насыщенных практических материалов, которые сейчас можно найти.

Можно использовать её конспекты напрямую или просто взять список тем и пройти их самостоятельно. Такое публикуют редко.

Конспекты по LLM:
https://alisawuffles.notion.site/alisa-s-book-of-llms

Математика:
https://alisawuffles.notion.site/math-notes

Разбор поиска работы и собеседований:
https://alisawuffles.github.io/blog/job-search/

👉 @PythonPortal

🎓 Как гарантированно войти в сферу кибербезопасности с официальным дипломом?

Самостоятельное обучение в ИБ - это месяцы хаоса и разрозненных роликов с YouTube. Покупка курсов по отдельности на популярных платформах легко переваливает за 300 000 ₽.

🔥CyberYozh Academy собрали цельный карьерный трек в один пак: 5 фундаментальных программ + официальный Диплом системного администратора за 50 000 ₽ (вместо ~250 000 ₽)

Что входит в программу:
▪️ Linux CyberPunk - системное администрирование с выдачей диплома, открывающего двери в корпоративный сектор.
▪️ SQL для хакера - глубокое понимание архитектуры баз данных и векторов атак.
▪️ HackerPoint - продвинутый уровень пентеста и анализа уязвимостей.
▪️ HackerPoint (Blue vs Red Team) - база сетевой безопасности, защиты и атак.
▪️ AI-помощники на Python - автоматизация рутины безопасника при помощи нейросетей.

Вы получаете законченную квалификацию: от администрирования защищенных облачных решений до проведения тестов на проникновение.

⚠️ Обратите внимание: Из-за персональной проверки заданий и официального оформления дипломов на каждый поток действует жесткий лимит - не более 15 мест.

🦔Отправь промокод PythonPortal в чат с менеджером, чтобы закрепить за собой скидку и узнать подробности:
👉@cyacademy_support

Чувак провёл довольно безумный эксперимент: сделал сайт, который сам себя развивает с помощью ИИ.

На сервере установлен Claude Code. Пользователи присылают идеи, а каждые 4 часа ИИ сам выбирает лучшую и реализует её.

При этом весь код автоматически публикуется здесь:

https://github.com/midudev/tuweb.dev

Сам сайт — https://tuweb.dev, если хотите посмотреть.

Пока изменения ограничены: из соображений безопасности Claude Code не имеет доступа к базе данных и не может создавать API.

Но админ думает снять эти ограничения и дать ему полную свободу, чтобы посмотреть, что произойдёт.

👉 @PythonPortal

«Методы машинного обучения, которые стоит знать экономистам»

Сьюзан Эйти и Гвидо В. Имбенс

https://annualreviews.org/content/journals/10.1146/annurev-economics-080217-053433

👉 @PythonPortal

😭😭😭


👉 @PythonPortal

Uniface

Автоматизируйте обнаружение лиц, распознавание и анализ ключевых точек лица с помощью единой Python-библиотеки Uniface.

https://github.com/yakhyo/uniface

👉 @PythonPortal

Как только начинаешь визуализировать свои SQL-схемы вот так, назад пути уже нет.

sqltoerdiagram.com

👉 @PythonPortal

«Маленькая книга по основам генеративного ИИ» — интуитивное введение в математику: arxiv.org/pdf/2605.29713

👉 @PythonPortal