Диффузия оптимизирует нейронки

А вот тут вышла статья, где с помощью диффузионной модели заменяют традиционные оптимизаторы типа SGD или ADAM.

На вход поступают текущие веса оптимизируемой нейронки, текущий лосс, желаемый лосс, и параметр шага диффузии. А диффузионная модель предсказывает новые веса нейросети. Ускорение по сравнению с традиционной оптимизацией в ≈1000 раз.

@ai_newz

​FaceSwap – инструмент, который использует глубокое обучение для распознавания и замены лиц на фотографиях и видео

⤷ Ссылка на проект

GitHub | #Python #Deepfake

«Машинное обучение с использованием Python. Сборник рецептов» – Крис Элбон

Книга содержит около 200 рецептов решения практических задач машинного обучения, таких как загрузка и обработка текстовых или числовых данных, отбор модели, уменьшение размерности и многие другие. Рассмотрена работа с языком Python и его библиотеками, в том числе pandas и scikit-learn.

Решения всех задач сопровождаются подробными объяснениями. Каждый рецепт содержит работающий программный код, который можно вставлять, объединять и адаптировать, создавая собственное приложение.

Скачать книгу

#книга #python

🔥 Знакомство с Python

Вместо скучного перечисления возможностей языка авторы рассказывают, как сочетать разные структурные элементы Python, чтобы сразу создавать скрипты и приложения.

Книга построена по принципу 80/20: большую часть полезной информации можно усвоить, изучив несколько критически важных концепций. Освоив самые популярные команды и приемы, вы сразу сосредоточитесь на решении реальных повседневных задач.

Авторы: Дэн Бейдер, Дэвид Эймос Джоанна Яблонски, Флетчер Хейслер
Год: 2023

#books #python #russian

MDM: Human Motion Diffusion Model

Нейросетевая модель реалистичных движений человека — это святой Грааль компьютерной анимации.

☝🏻Позволяет Text-to-motion — задача создания движения с учетом входной текстовой подсказки.
(видео выше генерация текстовой подсказки «Человек пинается»)

Для проведения экспериментов можно использовать как готовые модели, так и провести тренировку моделей самостоятельно при помощи предлагаемых скриптов, используя коллекцию трёхмерных изображений человека HumanML3D.

https://github.com/GuyTevet/motion-diffusion-model

Объяснение с примерами: https://guytevet.github.io/mdm-page/

@open_source_friend

MyAnima AI Companion — робот для заботы

Чат-бот-собеседник для переписок и психологической поддержки. Да, примерно как Replica AI, аналог. Здесь, как пишут пользователи, уделено особое внимание романтической составляющей общения — но включается этот режим только в платной версии.

Разработчики говорят, что цель этого сервиса — помочь одиноким и пожилым людям. Еще это вроде бы должно помогать тем, кто находится в депрессии (правда, еще неизвестно, как осознание разговора с программой скажется на состоянии лол).

#бесплатный #нейронки

🤔UDF in SQL: pros and cons
Data scientists and data analysts often write SQL queries that take a very long time. User Defined Functions (UDFs) can improve the speed of writing SQL queries. A UDF is at a basic level similar to a typical SQL function, but is used by the user. Technically, a UDF is a function that takes a set of typed parameters, applies change logic, and then returns a typed value. UDFs have a wide range of uses, including optimizing repetitive code and centralizing business logic to help you write SQL queries more efficiently. The use of UDF can be noted, but it has its repetitions. The main advantages of UDF:
• allows you to replace parts of complex or repetitive SQL code with one-line strings that make the code more readable. For example, a complex CASE statement spans many lines. With a UDF, it can be reduced to a single line.
• Encourages the use of process calculations, use them in parentheses to reuse them in new queries.
Thus, UDF speeds up code development, but it also has some disadvantages:
• Too many obscure UDFs can make code less readable, especially if they themselves expose obscurities like "func1" - it's not clear that the function does a division and the reader has to look up its definition, which takes more time than just reading it in the code .
• It will be necessary to keep a record of all emergency functions that arise, which is difficult when there are a large number of them. To do this, it is recommended to save the dictionary with the created UDFs and share it with the team. You can also create more generic functions to avoid rework.
https://towardsdatascience.com/save-time-writing-sql-with-udfs-24b002bf0192

​👨‍💻 Google представила новую ОС - KataOS для приложений машинного обучения

Компания Google разрабатывает свою ОС для приложений с алгоритмами машинного обучения — KataOS. Основными целями системы являются безопасность, конфиденциальность и использование технологий с открытым исходным кодом.

KataOS является основным элементом проекта Project Sparrow, который объединяет новую ОС с защищенной аппаратной платформой для обеспечения работы встроенных устройств, на которых работают приложения машинного обучения (ML).

В KataOS приложения не подвергают риску аппаратную безопасность ядра, а компоненты системы надежно защищены. Система почти полностью разработана на языке Rust, что делает ее достаточно безопасной за счет исключения переполнения буфера и других классов потенциальных ошибок.

🗞 Блог Кодебай

#news #google #neuronet

#нейросети #GPT-2

Код, который пишет себя сам

Мы уже привыкли к тому, что нейросети генерируют картинки, распознают человеческую речь и на основе этого осуществляют различные действия, даже ведут паблик вместо своего хозяина. А как же обстоят дела насчёт программного кода?

Рейтинг: 45

Читать

Сложная, но наглядная статья про машинное обучение. Разбираем один из алгоритмов, основанный на деревьях.

https://v.thecode.media/dpjy4

#лучшее_Код #объяснялово_Код

💥3 advantages and a couple of limitations of PySpark over Pandas
Although the Python-library Pandas is very popular among junior Data Scientists, it is not bound to work with really big data up to 10-12 GB. Although there are tools that can parallelize the work of Pandas, such as Dask, Swift, Ray, etc., this only speeds up the library, but does not address the root causes of the problems, because. Pandas always loads the dateframe into memory.
Therefore, dealing with large amounts of data requires something faster, such as PySpark - the Python API in Apache Spark, a distributed computing framework. Being distributed in its nature, Spark also uses lazy (deferred) evaluations, performing data operations not at the time of their declaration, but at an important call. This invariably sets many memory limits. Unlike PySpark, Pandas sticks to the Eager Execution by executing the reach task as early as possible, while PySpark follows the Lazy Execution, when the task is not elevated until after the action has been completed. PySpark is great for developing scalable applications and guarantees fault tolerance.
However, due to the networking of distributed computing, PySpark estimates a higher speed compared to local Pandas, which is indicative of the throughput of the application. In addition, PySpark remains demanding because all MapReduce tasks depend on RAM, without writing preliminary results to memory disk, unlike classical calculations in Hadoop. Finally, there are not so many specific algorithms for Data Science in PySpark.

💾 Объяснимые модели искусственного интеллекта на Python

Излагаются основы объяснимости и интерпретируемости моделей, обсуждаются методы и системы для интерпретации линейных, нелинейных моделей и моделей временных рядов, используемых в ИИ. Вы узнаете, как алгоритм ИИ принимает решение и как сделать модель ИИ интерпретируемой и объяснимой, ознакомитесь с моделями глубокого обучения на практике.

Автор: Прадипта Мишра
Год: 2022

#books #python #ai #ml #russian

Там на huggingface появилось пространство с text2music

Мелодии вполне годные выходят, генерация быстрая (при условии, что нет очередей и нагрузка не большая).

А если очередь большая, то можно запустить в колабе