Колумбийский университет опубликовал подробный учебный материал по архитектуре Transformer 📚

В нём разбираются математические основы одной из ключевых технологий современных ИИ-систем: от рекуррентных нейросетей и архитектуры encoder-decoder до механизмов attention и self-attention.

Отдельное внимание уделено query, key и value, scaled dot-product attention, multi-head attention и softmax.

Главная особенность материала — математический подход. Авторы используют формулы, пошаговые выводы, схемы и примеры, чтобы объяснить, как устроены отдельные компоненты Transformer и как они взаимодействуют друг с другом.

https://www.columbia.edu/~jsl2239/transformers.html

👉 @PythonPortal

Computer Use больше не нужен: разработчик представил Phone Use — инструмент, позволяющий ИИ-агентам взаимодействовать с настоящим iPhone.

Автор подключил свой iPhone к компьютеру на Linux через Bluetooth и AirPlay. При этом распознавание текста через OCR выполняется отдельно от основного процесса, поэтому агенту не приходится постоянно работать со скриншотами.

Для взаимодействия с телефоном предусмотрены готовые сценарии, а для подключения ИИ-агентов есть отдельный Agent Skill.

По словам автора, теперь можно буквально делать всё что угодно.

Забираем на GitHub - https://github.com/lxe/phoneuse

👉 @PythonPortal

Бесплатные 3D-модели японских городов, охватывающие отдельные районы Токио, Осаки, Иокогамы, Нагои и Саппоро.

Модели доступны в формате GLB и готовы к использованию в трёхмерных картах, играх и демопроектах, созданных с помощью ИИ.

https://huggingface.co/datasets/codepawl/plateau-city-glb

👉 @PythonPortal

Если Сэм Альтман считает, что оперативная память вашего компьютера расходует дефицитные мировые запасы DRAM впустую, может, стоит отправлять ему письмо каждый раз, когда она простаивает?

Кто-то уже написал для этого скрипт.

Скрипт каждые пять минут проверяет использование оперативной памяти на компьютере с Linux и раз в сутки отправляет Альтману отчёт, если свободно больше 10% ОЗУ.

Теперь Сэм будет знать, сколько драгоценной памяти простаивает без дела. 😂

https://github.com/IainKay/ram-altman

👉 @PythonPortal

HDMI-кабели могут излучать электромагнитные сигналы, содержащие информацию об изображении на экране.

Антенна и программно-определяемый радиоприёмник улавливают эти излучения, а программное обеспечение, например TempestSDR, позволяет восстановить из них распознаваемое изображение.

Deep-TEMPEST используетxiv.org/pdf/2407.09717 машинное обучение для более точного восстановления текста и изображений из тех же исходных сигналов. В ходе испытаний доля ошибок при распознавании символов снизилась почти с 90% до менее чем 30%.

Однако качество восстановления по-прежнему зависит от экранирования кабеля, расстояния и окружающих электромагнитных помех. Хорошее экранирование или использование оптоволоконного HDMI-кабеля позволяет устранить большую часть риска.

Даже проводное соединение может оставлять след в радиоэфире.

👉 @PythonPortal

Одна из самых опасных ошибок в SQL возникает, когда запрос успешно выполняется, хотя должен был завершиться с ошибкой.

Предположим, вы хотите удалить заказы пользователей, чьи аккаунты заблокированы.

Но в таблице banned_accounts есть столбец id, а не user_id.

PostgreSQL не выдаёт ошибку. Вместо этого он незаметно находит user_id во внешней таблице orders и превращает подзапрос в коррелированный.

Если в banned_accounts есть хотя бы одна строка, запрос выберет все заказы, у которых user_id не равен NULL.

Всего одна ошибка в названии столбца, и вы можете удалить всё содержимое таблицы заказов.

👉 @PythonPortal

ChatGPT обучается с помощью формулы, которую придумали ещё в 1847 году для расчёта орбит планет.

w ← w − η∇L

Это градиентный спуск, без которого не существовало бы ни одной современной нейросети.

Его придумали не в OpenAI и не в Google, а во Франции почти 180 лет назад, когда математик Огюстен Луи Коши искал более быстрый способ рассчитывать движение небесных тел.

Представьте, что вы стоите на горе, окутанной густым туманом. Подножия не видно, но вы чувствуете уклон под ногами. Вы делаете шаг в сторону самого крутого спуска, снова определяете уклон и делаете следующий шаг. Так, шаг за шагом, вы спускаетесь в долину.

Нейросеть действует по тому же принципу. Гора олицетворяет её ошибки, а долина соответствует правильным ответам. Только у этой горы не три измерения, а миллиарды.

Коши рассчитывал орбиты планет. А его формула научила машины писать.

👉 @PythonPortal

Проверить, является ли число n простым, можно детерминированно и за полиномиальное время всего в 10 строках Python.

Этот алгоритм предложил Гэри Миллер ещё 50 лет назад. Однако для доказательства его корректности требуется недавний результат OpenAI, связанный с квазигипотезой Римана (quasi-GRH)!

Тест простоты AKS в своё время стал огромным достижением, удостоенным премий Гёделя и Фалкерсона в 2006 году. Но теперь он устарел.

Безумные времена.

👉 @PythonPortal

Это материалы всего за один месяц курса CS8803 в Технологическом институте Джорджии.

Подробный разбор эмбеддингов, рассуждений и выравнивания моделей, архитектуры ИИ-агентов и работы с длинным контекстом. Всё подкреплено научными публикациями.

Невероятно ценные материалы, причём все они находятся в открытом доступе:

https://cocoxu.github.io/CS8803-LLM-spring2026/

👉 @PythonPortal

Если хотите изучить проектирование систем , у Гиков есть отличное руководство.

Оно охватывает основные темы:

1. Масштабирование систем и балансировка нагрузки.
2. Базы данных, репликация и шардинг.
3. Кеширование и сети доставки контента (CDN).
4. API-шлюзы, очереди сообщений и ограничение частоты запросов.
5. Микросервисы и событийно-ориентированная архитектура.
6. Практические задачи по проектированию систем, подобных Netflix, Uber и Twitter.

Руководство можно использовать как план обучения: выбирайте тему, разбирайтесь, какую проблему она решает, а затем пробуйте применить полученные знания в собственных проектах.

https://www.geeksforgeeks.org/system-design/system-design-tutorial/

👉 @PythonPortal