Python Portal
50.4K subscribers
2.83K photos
486 videos
55 files
1.3K links
Всё самое интересное из мира Python

Сотрудничество, реклама: @devmangx

Работаем с @Spiral_Yuri

РКН: https://clck.ru/3GMMF6
Download Telegram
Одно из главных правил GROUP BY в SQL.

Если в SELECT есть столбец без агрегатной функции, он должен либо входить в GROUP BY, либо однозначно определяться сгруппированными столбцами.

Почему это важно: GROUP BY определяет, что означает одна строка результата. База должна понимать, какое единственное значение поставить в каждую ячейку.

Например, если одна строка результата соответствует должности внутри отдела, группировать нужно и по department, и по job_title.

Если оставить столбец, который внутри одной группы может иметь несколько значений, одни СУБД просто вернут ошибку, а другие в некоторых режимах могут выбрать неопределённое значение из группы.

Простое правило: если столбец может иметь несколько значений внутри группы, его нужно либо добавить в GROUP BY, либо агрегировать через COUNT, SUM, MAX, MIN и другие функции.

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥5❤4👍3🤔2
В репозитории LLM Internals собрали цельную дорожную карту от токенизации и BPE до обучения, дообучения, RAG, агентов и оптимизации вывода.

Разбираются Q/K/V, RoPE, каузальные маски, GQA, Transformer, MoE, LoRA, нормализация, обратное распространение ошибки, кросс-энтропия, RLHF и рассуждающие модели.

Отдельный блок посвящён ускорению вывода: KV Cache, Flash Attention, Paged Attention и спекулятивное декодирование.

Для каждого раздела собраны статьи и видео, поэтому репозиторий особенно полезен, если хочется наконец связать разрозненные знания в одну систему.

https://github.com/amitshekhariitbhu/llm-internals

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3
Один из создателей ChatGPT представил принципиально новый тип ИИ-моделей.

Два года, Диогу Алмейда, втайне разрабатывал Jev — модель, которая не пишет текст и не генерирует токены последовательно.

Она получает любые неструктурированные данные и параллельно принимает заданные разработчиком решения. Например, выбирает одну категорию из списка, выставляет оценку или определяет вероятность утверждения.

Jev также запрещено использовать скрытую цепочку рассуждений. Сложное поведение должно собираться разработчиком из множества простых решений при помощи обычного кода.

Именно поэтому модель работает в 20–200 раз быстрее и обходится в 40–400 раз дешевле. Миллион входных токенов стоит 4,2 цента, а выход остаётся бесплатным навсегда (его вычисление настолько дёшево, что компания не видит смысла его считать.)

Компания заявляет о нулевых галлюцинациях. Jev не может выдать ответ вне заданных вариантов или нарушить структуру. При этом модель может выбрать неправильный вариант.

Это не замена GPT-6 Astra и не новый чат-бот. Jev создан для автоматизации, где программам не нужны тексты. Им нужны быстрые решения в заданном формате.

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥26❤7
В открытом доступе появился GuppyLM — проект, который позволяет обучить языковую модель на 9 млн параметров с нуля примерно за пять минут. 👀

Репозиторий включает весь процесс обучения и рассчитан на быстрые эксперименты с небольшими языковыми моделями без крупной инфраструктуры.

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10❤3
Для Jev появился практический проект Jev Explained с четырьмя примерами, которые показывают, как устроена модель, как работают её основные примитивы и как использовать их в реальных задачах.

Репозиторий можно открыть в Claude Code или Codex и попросить агента создать новый пример, используя существующий код как контекст.

Проект поддерживает TypeSafe API и Vercel AI Gateway.

Идея простая: вместо чтения очередного разбора можно сразу открыть сессию и начать собирать что-то на Jev.

Репозиторий:
https://github.com/davila7/jev-explained

Демо:
https://jev-explained-repo.vercel.app

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5❤3🤝3
Отличный материал по современному программированию GPU для систем машинного обучения.

MLC Community разбирает архитектуру GPU практически с нуля: потоки и варпы, иерархию памяти, CUDA Cores и Tensor Cores, TMA, устройство Blackwell, GEMM и Flash Attention 4. Отдельный упор сделан на то, как писать действительно быстрые ядра и эффективно загружать вычислительные блоки GPU.

https://mlc.ai/modern-gpu-programming-for-mlsys/chapter_background/index.html

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7
Вот один из лучших материалов для начала, если хотите понять, что процессор на самом деле делает.

https://youtu.be/GU8MnZI0snA

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6
«Принципы механики» — бесплатный учебник с открытым доступом, который даёт всестороннее введение в классическую механику.

Книга начинается с математических основ, необходимых для изучения механики, а затем переходит к основным темам: кинематике, законам движения Ньютона, работе и энергии, линейному и угловому моменту, вращательному движению, гравитации, колебаниям и волнам.

Теория сочетается с разобранными примерами и задачами, поэтому книга подойдёт как для первого знакомства с механикой, так и для повторения фундаментальных основ.

Полная версия книги бесплатно доступна в PDF:

https://link.springer.com/content/pdf/10.1007/978-3-030-15195-9.pdf

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8❤3🔥3
Очень рекомендую сохранить осенний курс Стэнфорда MS&E 319 — Efficient Generative Language Models.

Курс идёт от предобучения до инференса и постобучения. Материалы и записи лекций обещают выкладывать позже.

Мне особенно нравится его исходная идея: модели становятся всё больше, но бюджет всегда ограничен. Если есть конкретная задача и ограниченные вычислительные ресурсы, как выбрать цель обучения, архитектуру модели и способ инференса так, чтобы получить максимум за свои деньги и не запускать GPT-6 на каждой задаче.

«Просто купить ещё GPU» тоже вариант — и сейчас это фактически основной подход рынка.

В курсе будут MoE, attention, сжатие KV Cache, квантизация, speculative decoding, а также LoRA, RLHF, DPO и дистилляция. Все эти обычно разрозненные техники рассматриваются через один вопрос: какую именно часть вычислений, памяти или времени они экономят и чем за это приходится платить.

Например, если нужно снизить стоимость использования модели, один подход позволяет на каждом запросе задействовать только часть параметров, другой уменьшает объём данных, которые нужно хранить и перемещать, третий ускоряет генерацию ответа. Сначала нужно понять, какую именно проблему решает каждый метод, и только потом выбирать подходящий для своей задачи и смотреть, какие из них можно сочетать.

Мне самому при оценке ИИ-компаний особенно интересен именно этот уровень: можно ли на тот же бюджет обучить более сильную модель или обслужить больше пользователей. Когда понимаешь компромиссы этих методов, релизы моделей и изменения их стоимости становятся намного понятнее.

У курса есть определённый порог входа, но если тема интересна, точно стоит следить:

https://web.stanford.edu/class/msande319/

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
🤝3❤2
Вышла открытая альтернатива Jev — Kev. Модель доступна в трёх размерах.

Она работает локально, поэтому данные остаются на вашем компьютере. Kev может отвечать «да» или «нет», выбирать один из вариантов и добавлять примечание. Подходит для задач классификации.

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍10🤣1
Исследователь OpenAI Алиса Лю прошла 57 собеседований перед тем, как попасть в компанию, а затем открыто опубликовала весь свой путь подготовки и поиска работы.

Если вы готовитесь к позициям Research Scientist или MTS, это один из самых насыщенных практических материалов, которые сейчас можно найти.

Можно использовать её конспекты напрямую или просто взять список тем и пройти их самостоятельно. Такое публикуют редко.

Конспекты по LLM:
https://alisawuffles.notion.site/alisa-s-book-of-llms

Математика:
https://alisawuffles.notion.site/math-notes

Разбор поиска работы и собеседований:
https://alisawuffles.github.io/blog/job-search/

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤8
🎓 Как гарантированно войти в сферу кибербезопасности с официальным дипломом?

Самостоятельное обучение в ИБ - это месяцы хаоса и разрозненных роликов с YouTube. Покупка курсов по отдельности на популярных платформах легко переваливает за 300 000 ₽.

🔥CyberYozh Academy собрали цельный карьерный трек в один пак: 5 фундаментальных программ + официальный Диплом системного администратора за 50 000 ₽ (вместо ~250 000 ₽)

Что входит в программу:
▪️ Linux CyberPunk - системное администрирование с выдачей диплома, открывающего двери в корпоративный сектор.
▪️ SQL для хакера - глубокое понимание архитектуры баз данных и векторов атак.
▪️ HackerPoint - продвинутый уровень пентеста и анализа уязвимостей.
▪️ HackerPoint (Blue vs Red Team) - база сетевой безопасности, защиты и атак.
▪️ AI-помощники на Python - автоматизация рутины безопасника при помощи нейросетей.

Вы получаете законченную квалификацию: от администрирования защищенных облачных решений до проведения тестов на проникновение.

⚠️ Обратите внимание: Из-за персональной проверки заданий и официального оформления дипломов на каждый поток действует жесткий лимит - не более 15 мест.

🦔Отправь промокод PythonPortal в чат с менеджером, чтобы закрепить за собой скидку и узнать подробности:
👉@cyacademy_support
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥5🌚1
This media is not supported in your browser
VIEW IN TELEGRAM
Чувак провёл довольно безумный эксперимент: сделал сайт, который сам себя развивает с помощью ИИ.

На сервере установлен Claude Code. Пользователи присылают идеи, а каждые 4 часа ИИ сам выбирает лучшую и реализует её.

При этом весь код автоматически публикуется здесь:

https://github.com/midudev/tuweb.dev

Сам сайт — https://tuweb.dev, если хотите посмотреть.

Пока изменения ограничены: из соображений безопасности Claude Code не имеет доступа к базе данных и не может создавать API.

Но админ думает снять эти ограничения и дать ему полную свободу, чтобы посмотреть, что произойдёт.

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥15❤8🤯2
«Методы машинного обучения, которые стоит знать экономистам»

Сьюзан Эйти и Гвидо В. Имбенс

https://annualreviews.org/content/journals/10.1146/annurev-economics-080217-053433

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5🤝3
Please open Telegram to view this post
VIEW IN TELEGRAM
😁27🤣5❤3🌭1🏆1🤝1
Uniface

Автоматизируйте обнаружение лиц, распознавание и анализ ключевых точек лица с помощью единой Python-библиотеки Uniface.

https://github.com/yakhyo/uniface

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13❤2😢1🤣1
Как только начинаешь визуализировать свои SQL-схемы вот так, назад пути уже нет.

sqltoerdiagram.com

👉 @PythonPortal
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13❤5🔥4🤔2😢1
Forwarded from Data Portal | DS & ML
Если вы только начинаете изучать машинное обучение и хотите глубже разобраться в математике, необходимой для машинного и глубокого обучения, советую попробовать эту платформу. Это что-то вроде LeetCode для машинного обучения.

Это не реклама: я сам ей пользовался и решил поделиться с вами.

https://deep-ml.com
❤11🌚1