Исследователь Google DeepMind Петар Величкович сообщил о завершении полного черновика книги по геометрическому глубокому обучению.
Все главы уже доступны на сайте проекта.
https://geometricdeeplearning.com/book/
👉 @PythonPortal
Все главы уже доступны на сайте проекта.
https://geometricdeeplearning.com/book/
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤10
Одна из самых опасных ошибок в SQL возникает, когда запрос успешно выполняется, хотя должен был завершиться с ошибкой.
Предположим, вы хотите удалить заказы пользователей, чьи аккаунты заблокированы.
Но в таблице
PostgreSQL не выдаёт ошибку. Вместо этого он незаметно находит
Если в
Всего одна ошибка в названии столбца, и вы можете удалить всё содержимое таблицы заказов.
👉 @PythonPortal
Предположим, вы хотите удалить заказы пользователей, чьи аккаунты заблокированы.
Но в таблице
banned_accounts есть столбец id, а не user_id.PostgreSQL не выдаёт ошибку. Вместо этого он незаметно находит
user_id во внешней таблице orders и превращает подзапрос в коррелированный.Если в
banned_accounts есть хотя бы одна строка, запрос выберет все заказы, у которых user_id не равен NULL.Всего одна ошибка в названии столбца, и вы можете удалить всё содержимое таблицы заказов.
Please open Telegram to view this post
VIEW IN TELEGRAM
👀16🏆4❤3
This media is not supported in your browser
VIEW IN TELEGRAM
ChatGPT обучается с помощью формулы, которую придумали ещё в 1847 году для расчёта орбит планет.
w ← w − η∇L
Это градиентный спуск, без которого не существовало бы ни одной современной нейросети.
Его придумали не в OpenAI и не в Google, а во Франции почти 180 лет назад, когда математик Огюстен Луи Коши искал более быстрый способ рассчитывать движение небесных тел.
Представьте, что вы стоите на горе, окутанной густым туманом. Подножия не видно, но вы чувствуете уклон под ногами. Вы делаете шаг в сторону самого крутого спуска, снова определяете уклон и делаете следующий шаг. Так, шаг за шагом, вы спускаетесь в долину.
Нейросеть действует по тому же принципу. Гора олицетворяет её ошибки, а долина соответствует правильным ответам. Только у этой горы не три измерения, а миллиарды.
Коши рассчитывал орбиты планет. А его формула научила машины писать.
👉 @PythonPortal
w ← w − η∇L
Это градиентный спуск, без которого не существовало бы ни одной современной нейросети.
Его придумали не в OpenAI и не в Google, а во Франции почти 180 лет назад, когда математик Огюстен Луи Коши искал более быстрый способ рассчитывать движение небесных тел.
Представьте, что вы стоите на горе, окутанной густым туманом. Подножия не видно, но вы чувствуете уклон под ногами. Вы делаете шаг в сторону самого крутого спуска, снова определяете уклон и делаете следующий шаг. Так, шаг за шагом, вы спускаетесь в долину.
Нейросеть действует по тому же принципу. Гора олицетворяет её ошибки, а долина соответствует правильным ответам. Только у этой горы не три измерения, а миллиарды.
Коши рассчитывал орбиты планет. А его формула научила машины писать.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍31❤8
Проверить, является ли число n простым, можно детерминированно и за полиномиальное время всего в 10 строках Python.
Этот алгоритм предложил Гэри Миллер ещё 50 лет назад. Однако для доказательства его корректности требуется недавний результат OpenAI, связанный с квазигипотезой Римана (quasi-GRH)!
Тест простоты AKS в своё время стал огромным достижением, удостоенным премий Гёделя и Фалкерсона в 2006 году. Но теперь он устарел.
Безумные времена.
👉 @PythonPortal
Этот алгоритм предложил Гэри Миллер ещё 50 лет назад. Однако для доказательства его корректности требуется недавний результат OpenAI, связанный с квазигипотезой Римана (quasi-GRH)!
Тест простоты AKS в своё время стал огромным достижением, удостоенным премий Гёделя и Фалкерсона в 2006 году. Но теперь он устарел.
Безумные времена.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11❤4🏆4
Это материалы всего за один месяц курса CS8803 в Технологическом институте Джорджии.
Подробный разбор эмбеддингов, рассуждений и выравнивания моделей, архитектуры ИИ-агентов и работы с длинным контекстом. Всё подкреплено научными публикациями.
Невероятно ценные материалы, причём все они находятся в открытом доступе:
https://cocoxu.github.io/CS8803-LLM-spring2026/
👉 @PythonPortal
Подробный разбор эмбеддингов, рассуждений и выравнивания моделей, архитектуры ИИ-агентов и работы с длинным контекстом. Всё подкреплено научными публикациями.
Невероятно ценные материалы, причём все они находятся в открытом доступе:
https://cocoxu.github.io/CS8803-LLM-spring2026/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5👍4
Если хотите изучить проектирование систем , у Гиков есть отличное руководство.
Оно охватывает основные темы:
1. Масштабирование систем и балансировка нагрузки.
2. Базы данных, репликация и шардинг.
3. Кеширование и сети доставки контента (CDN).
4. API-шлюзы, очереди сообщений и ограничение частоты запросов.
5. Микросервисы и событийно-ориентированная архитектура.
6. Практические задачи по проектированию систем, подобных Netflix, Uber и Twitter.
Руководство можно использовать как план обучения: выбирайте тему, разбирайтесь, какую проблему она решает, а затем пробуйте применить полученные знания в собственных проектах.
https://www.geeksforgeeks.org/system-design/system-design-tutorial/
👉 @PythonPortal
Оно охватывает основные темы:
1. Масштабирование систем и балансировка нагрузки.
2. Базы данных, репликация и шардинг.
3. Кеширование и сети доставки контента (CDN).
4. API-шлюзы, очереди сообщений и ограничение частоты запросов.
5. Микросервисы и событийно-ориентированная архитектура.
6. Практические задачи по проектированию систем, подобных Netflix, Uber и Twitter.
Руководство можно использовать как план обучения: выбирайте тему, разбирайтесь, какую проблему она решает, а затем пробуйте применить полученные знания в собственных проектах.
https://www.geeksforgeeks.org/system-design/system-design-tutorial/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤10
Эти разработчики, похоже, выжали из процессора всё до последней капли производительности!
Для запуска модели на 284 миллиарда параметров больше не нужна видеокарта. Достаточно 64 ГБ оперативной памяти.
В мире больших языковых моделей появился невероятно мощный проект с открытым исходным кодом — synchopate/llama-modchip.
Раньше для запуска DeepSeek-V4 с её 284 миллиардами параметров требовалось как минимум несколько серверов с восемью GPU NVIDIA H100. Теперь разработчики предлагают совершенно иной подход: без дискретной видеокарты, на обычном домашнем процессоре и с 64 ГБ оперативной памяти можно разместить эту огромную модель и добиться высокой скорости генерации.
Mingzi сверил впечатляющие характеристики проекта с официальными результатами бенчмарков:
- Никаких GPU, только оперативная память. Дорогая видеокарта больше не нужна. Модель DeepSeek на 284 миллиарда параметров удалось сжать до 56,9 ГБ. Обычный компьютер с 64 ГБ оперативной памяти способен запустить её без обращения к файлу подкачки.
- Вполне пригодная для работы скорость на одном CPU. Благодаря оптимизации под векторные инструкции скорость генерации модели на 284 миллиарда параметров стабильно составляет 9–14 токенов в секунду. При использовании спекулятивного семплирования она достигает 25 токенов в секунду, а косинусное сходство сохраняется на уровне 99,15%.
- Модели на 30 миллиардов параметров работают ещё быстрее. MoE-модель такого размера занимает всего 13,3 ГБ. Её можно запустить даже на ноутбуке с 16 ГБ оперативной памяти. При этом скорость генерации исключительно на CPU достигает впечатляющих 111 токенов в секунду.
- Готовый набор инструментов. Проект включает веб-интерфейс в тёмной теме, не требующий дополнительных зависимостей, и интерфейс командной строки. Кроме того, предусмотрена нативная поддержка подключения в качестве локального бэкенда для Claude Code.
Однако есть два важных ограничения.
Во-первых, для запуска модели на 284 миллиарда параметров необходимы полноценные 64 ГБ физической оперативной памяти. При меньшем объёме система начнёт активно использовать файл подкачки, что может привести к зависаниям.
Во-вторых, проект работает на специально модифицированной версии llama.cpp. Стандартная версия Ollama не распознаёт используемый формат квантования, поэтому запускать модель необходимо через скрипт, входящий в комплект проекта.
https://github.com/synchopate/llama-modchip
👉 @PythonPortal
Для запуска модели на 284 миллиарда параметров больше не нужна видеокарта. Достаточно 64 ГБ оперативной памяти.
В мире больших языковых моделей появился невероятно мощный проект с открытым исходным кодом — synchopate/llama-modchip.
Раньше для запуска DeepSeek-V4 с её 284 миллиардами параметров требовалось как минимум несколько серверов с восемью GPU NVIDIA H100. Теперь разработчики предлагают совершенно иной подход: без дискретной видеокарты, на обычном домашнем процессоре и с 64 ГБ оперативной памяти можно разместить эту огромную модель и добиться высокой скорости генерации.
Mingzi сверил впечатляющие характеристики проекта с официальными результатами бенчмарков:
- Никаких GPU, только оперативная память. Дорогая видеокарта больше не нужна. Модель DeepSeek на 284 миллиарда параметров удалось сжать до 56,9 ГБ. Обычный компьютер с 64 ГБ оперативной памяти способен запустить её без обращения к файлу подкачки.
- Вполне пригодная для работы скорость на одном CPU. Благодаря оптимизации под векторные инструкции скорость генерации модели на 284 миллиарда параметров стабильно составляет 9–14 токенов в секунду. При использовании спекулятивного семплирования она достигает 25 токенов в секунду, а косинусное сходство сохраняется на уровне 99,15%.
- Модели на 30 миллиардов параметров работают ещё быстрее. MoE-модель такого размера занимает всего 13,3 ГБ. Её можно запустить даже на ноутбуке с 16 ГБ оперативной памяти. При этом скорость генерации исключительно на CPU достигает впечатляющих 111 токенов в секунду.
- Готовый набор инструментов. Проект включает веб-интерфейс в тёмной теме, не требующий дополнительных зависимостей, и интерфейс командной строки. Кроме того, предусмотрена нативная поддержка подключения в качестве локального бэкенда для Claude Code.
Однако есть два важных ограничения.
Во-первых, для запуска модели на 284 миллиарда параметров необходимы полноценные 64 ГБ физической оперативной памяти. При меньшем объёме система начнёт активно использовать файл подкачки, что может привести к зависаниям.
Во-вторых, проект работает на специально модифицированной версии llama.cpp. Стандартная версия Ollama не распознаёт используемый формат квантования, поэтому запускать модель необходимо через скрипт, входящий в комплект проекта.
https://github.com/synchopate/llama-modchip
Please open Telegram to view this post
VIEW IN TELEGRAM
GitHub
GitHub - synchopate/llama-modchip: Run 284B DeepSeek-V4-Flash (<59GiB RAM: 41.1 cold pp, 9.1 N=1 tg, up to 25.3 spec tok/s) & 30B…
Run 284B DeepSeek-V4-Flash (<59GiB RAM: 41.1 cold pp, 9.1 N=1 tg, up to 25.3 spec tok/s) & 30B MoEs (22.4 N=1 / 111.6 spec tok/s) on 64GB CPU (0 GPUs). - synchopate/llama-modchip
👍8❤4
Бесплатные видеолекции по компьютерным сетям на основе учебника «Компьютерные сети. Нисходящий подход» Джеймса Куроуза и Кита Росса.
По ссылке ниже доступны лекции по всем главам учебника:
https://gaia.cs.umass.edu/kurose_ross/lectures.php
🙌
👉 @PythonPortal
По ссылке ниже доступны лекции по всем главам учебника:
https://gaia.cs.umass.edu/kurose_ross/lectures.php
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6🔥4
Доступна предварительная версия седьмого издания книги «Компьютерные сети. Системный подход» (Computer Networks: A Systems Approach).
https://7e.systemsapproach.org/
👉 @PythonPortal
https://7e.systemsapproach.org/
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6
Алгоритм Фишера — Йетса позволяет случайным образом перемешать весь массив за время O(n).
Достаточно пройти по массиву с конца к началу, на каждом шаге выбирая случайный индекс и меняя элементы местами.
Если случайные индексы выбираются равновероятно, каждая возможная перестановка элементов имеет одинаковую вероятность.
👉 @PythonPortal
Достаточно пройти по массиву с конца к началу, на каждом шаге выбирая случайный индекс и меняя элементы местами.
Если случайные индексы выбираются равновероятно, каждая возможная перестановка элементов имеет одинаковую вероятность.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11👍5