«Understanding Linear Algebra» — бесплатный университетский учебник объёмом почти 500 страниц, который предлагает всестороннее введение в линейную алгебру.

Книга охватывает системы линейных уравнений, векторы, матрицы, линейные комбинации, линейную независимость, базисы и системы координат, определители, собственные значения и собственные векторы, диагонализацию, ортогональность, метод наименьших квадратов, сингулярное разложение, метод главных компонент, а также практические применения, включая сжатие изображений и алгоритм Google PageRank.

Учебник содержит понятные объяснения, геометрические интерпретации, примеры и множество упражнений. Он будет полезен как тем, кто впервые изучает линейную алгебру, так и тем, кто хочет освежить знания её основных понятий.

https://scholarworks.gvsu.edu/cgi/viewcontent.cgi?article=1026&context=books

👉 @PythonPortal

«Распознавание образов и машинное обучение» (Pattern Recognition and Machine Learning) — бесплатный курс из 18 лекций, посвящённых математическим и вычислительным основам машинного обучения.

Программа охватывает байесовскую теорию принятия решений, генеративные и дискриминативные классификаторы, статистическую теорию обучения, линейные модели, метод опорных векторов, кластеризацию, снижение размерности, обучение с частичной разметкой данных и ансамблевые методы.

Также рассматриваются нейронные сети, обратное распространение ошибки, свёрточные нейронные сети, оптимизация глубокого обучения, механизмы внимания, модели последовательностей и генеративные модели.

Все 18 лекций доступны бесплатно.

https://chizhizhang.github.io/lecture/2026PRML/

👉 @PythonPortal

Появился весьма полезный опенсорс проект , позволяющий превращать фотографии обычных предметов в 3D модели для Blender.

Проект получил название Camera to Blender. Достаточно сфотографировать предмет на смартфон и система самостоятельно передаст снимок в Tripo3D, который создаст на его основе 3D модель.

После этого остаётся нажать кнопку Send to Blender, и готовая модель автоматически появится в подключённом Blender.

Весь процесс генерации занимает около 30–60 секунд.

https://github.com/ahujasid/camera-to-blender

👉 @PythonPortal

Рекомендую ознакомиться с исследованием Университета Карнеги — Меллона и других научных организаций, посвящённым обучению фундаментальных моделей.

Авторы ставят принципиальный вопрос: действительно ли предобучение, промежуточное обучение, SFT и RL необходимо проводить как отдельные этапы?

Исследователи показывают, что такое разделение не является обязательным. Все эти этапы можно объединить в рамках единого алгоритма, основанного на максимизации правдоподобия. Этот подход они называют унифицированным обучением.

Ключевая идея заключается в том, чтобы представить подходящие целевые функции RL как задачу максимизации правдоподобия на целевых данных, сгенерированных самой моделью. Благодаря этому генерации RL и статические данные можно обучать с помощью одной функции потерь и одного тренера.

Это меняет саму постановку задачи. Теперь необходимо выбирать, на каких данных обучать модель, в каких пропорциях и в какой момент. Поэтапное обучение становится лишь частным случаем такого подхода.

Сначала исследователи обучили с нуля модель на 124 млн параметров, используя задачи на логическое рассуждение. Лучшие конфигурации унифицированного обучения превзошли поэтапный подход как на задачах RL, так и на более сложных задачах, которых модель прежде не встречала.

При этом одни и те же данные промежуточного обучения использовались до четырёх раз. В случае поэтапного обучения точность начинала снижаться, если промежуточное обучение продолжалось дольше оптимального вычислительного бюджета.

При фиксированном вычислительном бюджете унифицированное обучение обеспечивало наибольшую точность при минимальных и максимальных затратах. При промежуточных бюджетах преимущество сохранялось за поэтапным обучением.

В эксперименте с более практическими задачами использовалась модель на 0,76 млрд параметров, обучаемая с помощью RL на математических задачах. В обучающую выборку добавляли от 0 до 5% данных промежуточного обучения.

Точность решения математических задач оставалась примерно на прежнем уровне, тогда как сохранение ранее усвоенных знаний улучшалось. Однако по мере увеличения доли этих данных точность решения задач по программированию снижалась.

Наиболее убедительные результаты были получены в экспериментах с непрерывным обучением. После обучения на математических задачах все модели, использовавшие унифицированный подход, превзошли поэтапное обучение по итоговой точности в программировании, несмотря на более низкие исходные показатели. Лучший результат показала конфигурация с 5% примеси данных.

Эксперименты пока проводились в небольшом масштабе. Авторам ещё не удалось найти универсальное соотношение данных или расписание обучения, которое обеспечивало бы наилучшие результаты во всех случаях.

Исследование: https://arxiv.org/abs/2610.40564

👉 @PythonPortal

До ИИ-агентов / После ИИ-агентов.

👉 @PythonPortal

Исследователи Amazon сравнили два подхода к памяти ИИ-агентов: хранение информации в весах модели и извлечение данных из внешнего хранилища.

Результаты показали, что память, встроенная непосредственно в веса модели, может превосходить текстовую память при воспроизведении сведений о пользователе. Однако наибольший интерес представляет возможность совместного использования обоих подходов.

В эксперименте использовались одна и та же модель и одинаковые пользовательские данные. Обычное дообучение позволило сохранить сведения о пользователе в весах модели с точностью 36,9%, тогда как метод on-policy self-distillation повысил этот показатель до 59,9%.

Причём второй результат оказался выше, чем при извлечении информации из внешней памяти.

При тестировании на данных восьми пользователей из HaluMem-Long модель, прошедшая дистилляцию, отвечала на вопросы без дополнительного контекста и превзошла несколько подходов:

- Извлечение данных по принципу MemOS — 47,8%.
- Использование извлечённого контекста — 51,9%.
- Использование исходной истории диалога — 51,3%.
- Память в весах после дистилляции — 59,9%.

Преимущество сохранялось для всех восьми пользователей и моделей с 4, 9 и 27 млрд параметров.

Как это работает?

Модель-учитель, имеющая доступ к памяти пользователя, обучает модель-ученика отвечать на вопросы без обращения к этой памяти. При этом в роли учителя выступает та же модель, но с доступом к пользовательским данным.

Однако у памяти, встроенной в веса, есть ограничения. Модель может забывать старые сведения и не способна надёжно определить, какая информация никогда не сохранялась.

Для решения этой проблемы исследователи предложили механизм verify-then-regenerate. Он проверяет ответы по текстовому хранилищу и при необходимости генерирует их повторно. Такой подход позволил повысить точность ещё на 6,2 процентного пункта.

В результате исследователи рекомендуют сочетать оба подхода: хранить недавние и недостающие сведения в текстовой памяти, а устойчивую информацию о пользователе переносить непосредственно в веса модели.

Исследование: https://arxiv.org/abs/2611.05636

👉 @PythonPortal

Колумбийский университет опубликовал подробный учебный материал по архитектуре Transformer 📚

В нём разбираются математические основы одной из ключевых технологий современных ИИ-систем: от рекуррентных нейросетей и архитектуры encoder-decoder до механизмов attention и self-attention.

Отдельное внимание уделено query, key и value, scaled dot-product attention, multi-head attention и softmax.

Главная особенность материала — математический подход. Авторы используют формулы, пошаговые выводы, схемы и примеры, чтобы объяснить, как устроены отдельные компоненты Transformer и как они взаимодействуют друг с другом.

https://www.columbia.edu/~jsl2239/transformers.html

👉 @PythonPortal

Computer Use больше не нужен: разработчик представил Phone Use — инструмент, позволяющий ИИ-агентам взаимодействовать с настоящим iPhone.

Автор подключил свой iPhone к компьютеру на Linux через Bluetooth и AirPlay. При этом распознавание текста через OCR выполняется отдельно от основного процесса, поэтому агенту не приходится постоянно работать со скриншотами.

Для взаимодействия с телефоном предусмотрены готовые сценарии, а для подключения ИИ-агентов есть отдельный Agent Skill.

По словам автора, теперь можно буквально делать всё что угодно.

Забираем на GitHub - https://github.com/lxe/phoneuse

👉 @PythonPortal

Бесплатные 3D-модели японских городов, охватывающие отдельные районы Токио, Осаки, Иокогамы, Нагои и Саппоро.

Модели доступны в формате GLB и готовы к использованию в трёхмерных картах, играх и демопроектах, созданных с помощью ИИ.

https://huggingface.co/datasets/codepawl/plateau-city-glb

👉 @PythonPortal

Если Сэм Альтман считает, что оперативная память вашего компьютера расходует дефицитные мировые запасы DRAM впустую, может, стоит отправлять ему письмо каждый раз, когда она простаивает?

Кто-то уже написал для этого скрипт.

Скрипт каждые пять минут проверяет использование оперативной памяти на компьютере с Linux и раз в сутки отправляет Альтману отчёт, если свободно больше 10% ОЗУ.

Теперь Сэм будет знать, сколько драгоценной памяти простаивает без дела. 😂

https://github.com/IainKay/ram-altman

👉 @PythonPortal