❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_176 (Часть_1)

🔠 Что такое DeiT ?

Classifying Images with DeiT (Vision Transformer) - это метод классификации изображений, использующий модель глубокого обучения под названием DeiT (Data-efficient Image Transformers). DeiT представляет собой вариант Transformer-архитектуры, применяемой к задачам компьютерного зрения.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#TransferLearning #ComputerVision #DeepLearning #PretrainedModels #FeatureExtraction #FineTuning

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_175 (Часть_4)

2. Улучшение обобщающей способности: STNs могут помочь моделям обобщать знания о преобразованиях, изученных на одном наборе данных, на другие наборы данных или новые изображения. Это позволяет модели быть более адаптивными и эффективными в различных сценариях.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#TransferLearning #ComputerVision #DeepLearning #PretrainedModels #FeatureExtraction #FineTuning

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_175 (Часть_5)

5. Автоматическое выравнивание объектов: STNs могут использоваться для автоматического выравнивания объектов на изображениях. Это особенно полезно в задачах, где объекты могут быть разного размера, ориентации или положения, и требуется их однородное представление для дальнейшего анализа.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#TransferLearning #ComputerVision #DeepLearning #PretrainedModels #FeatureExtraction #FineTuning

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_176 (Часть_2)

🔠 Что такое DeiT ?

DeiT основан на идеях, впервые представленных в работе "An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale" (авторы: Touvron et al., 2020). Вместо использования сверточных нейронных сетей (CNN), которые доминировали в области компьютерного зрения, DeiT применяет модель Transformer для обработки изображений.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#TransferLearning #ComputerVision #DeepLearning #PretrainedModels #FeatureExtraction #FineTuning

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_176 (Часть_2)

🔠 Что такое DeiT ?

Модель Transformer изначально была разработана для задач обработки естественного языка, но оказалась очень успешной и в задачах компьютерного зрения. Она основана на механизме внимания (self-attention), который позволяет модели учитывать глобальные зависимости между различными частями входных данных.

DeiT использует предобучение на больших наборах данных с использованием методов самообучения и предварительного обучения на неподобранных данных (unsupervised pre-training). Затем модель дообучается на конкретной задаче классификации изображений с использованием небольшого набора размеченных данных.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#TransferLearning #ComputerVision #DeepLearning #PretrainedModels #FeatureExtraction #FineTuning

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_177 (Часть_1)

🔠 Как якобиан представим в PyTorch ?

Якобианы (Jacobians): В математике якобиан представляет собой матрицу, содержащую частные производные многомерной функции от нескольких переменных. Якобиан позволяет определить, как изменяются выходные переменные относительно входных переменных. В PyTorch можно использовать функцию torch.autograd.grad для вычисления якобиана.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#TransferLearning #ComputerVision #DeepLearning #PretrainedModels #FeatureExtraction #FineTuning

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_176 (Часть_3)

🔠 Что такое DeiT ?

Преимущество DeiT заключается в его способности к эффективному использованию данных. По сравнению с классическими сверточными нейронными сетями, DeiT позволяет достичь хорошей производительности классификации, используя меньшее количество размеченных данных. Это делает DeiT более экономичным и масштабируемым решением для классификации изображений.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#TransferLearning #ComputerVision #DeepLearning #PretrainedModels #FeatureExtraction #FineTuning

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_177 (Часть_2)

🔠 Как гессиан представим в PyTorch ?

Гессианы (Hessians): Гессиан является квадратной матрицей, содержащей вторые частные производные скалярной функции от нескольких переменных. Гессиан позволяет определить кривизну и скорость изменения градиента функции. В PyTorch можно использовать функцию torch.autograd.gradgrad для вычисления гессиана.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#Jacobians #Hessians #hvp #vhp

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_177 (Часть_3)

🔠 Как Hessian-vector product представим в PyTorch ?

Hessian-vector product (hvp, произведение Гессиана на вектор): Произведение Гессиана на вектор представляет собой результат умножения Гессиана функции на вектор. В оптимизационных алгоритмах это используется для эффективного вычисления эффекта Гессиана на вектор без явного вычисления всей матрицы. В PyTorch для этого можно использовать функцию torch.autograd.grad в сочетании с операцией torch.matmul.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#Jacobians #Hessians #hvp #vhp

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_177 (Часть_3)

🔠 Как Vector-Hessian product представим в PyTorch ?

Vector-Hessian product (vhp, произведение вектора на Гессиан): Векторное произведение на Гессиан - это обратная операция к hvp. Оно представляет собой умножение вектора на Гессиан функции. Аналогично hvp, vhp может использоваться для эффективного вычисления величин, связанных с Гессианом, без явного вычисления всей матрицы. В PyTorch для этого можно использовать функцию torch.autograd.grad в сочетании с операцией torch.matmul.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#Jacobians #Hessians #hvp #vhp

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_178 (Часть_1)

🔠 Что такое околоконстантные признаки ?

Околоконстантные признаки - это признаки или характеристики, которые изменяются относительно постоянных значений, но остаются в пределах определенного диапазона или около определенного значения. Они могут служить для описания или классификации объектов, событий или явлений.

Околоконстантные признаки обычно используются в контексте анализа данных или машинного обучения. Они могут быть числовыми или категориальными, их значения могут изменяться в пределах определенного диапазона или принадлежать определенным классам.

#FeatureEngineering #DataAnalysis #MachineLearning
#NumericFeatures #CategoricalFeatures #DataClassification #DataDescription #DataPatterns #DataModelling

https://www.magicslides.app/tools/youtube-to-ppt конвертировать видео с YouTube в презентацию PowerPoint (PPT) теперь стало в разы легче. Просто вбиваем ссылку и получаем презентацию по видео.

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_179

🔠 Какие модели используются для прогнозирования временных рядов ? (Часть_1)

1. Авторегрессионная модель (AR): AR-модель предполагает, что значение временного ряда зависит от предыдущих значений этого же ряда. Она использует авторегрессионный коэффициент для предсказания будущих значений.

2. Скользящее среднее модель (MA): MA-модель предполагает, что значение временного ряда зависит от случайных ошибок предыдущих прогнозов. Она использует коэффициенты скользящего среднего для предсказания будущих значений.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#time_series #AR_model #MA_model #autoregressive_model #moving_average_model #forecasting

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_178 (Часть_2)

🔠 Что такое околоконстантные признаки ?

Например, если рассматривать признак "возраст" у людей, то он может быть околоконстантным, если значения возраста находятся в пределах определенного диапазона (например, от 20 до 30 лет). Другой пример - цвет автомобиля, который может быть околоконстантным, если значения ограничены определенным набором цветов (например, красный, синий, зеленый).

Околоконстантные признаки могут быть полезными при анализе данных, поскольку они могут содержать информацию о сходстве или различии между объектами. Они могут использоваться для построения моделей или прогнозирования, а также для выявления закономерностей или паттернов в данных.

#FeatureEngineering #DataAnalysis #MachineLearning
#NumericFeatures #CategoricalFeatures #DataClassification #DataDescription #DataPatterns #DataModelling

Вот такое предупреждение вывалилось сегодня с коллаба. Хм... эра судов и раздрая по поводу AI набирает свои обороты. Учитывая тот факт что в Европе приняли резолюцию, регулирующую AI и обращение с персональными данными.

https://github.com/PAIR-code/facets - новый инструмент для визуализации, данных по вашему датасету, чем-то напоминает sweetviz. Для поверхностного и пристрелочного анализа сойдет, если надо по быстрому пробежаться по всем фичам.

❓200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_179

🔠 Какие модели используются для прогнозирования временных рядов ? (Часть_2)

3. Авторегрессионная скользящая средняя модель (ARMA): ARMA-модель комбинирует свойства AR- и MA-моделей. Она учитывает как предыдущие значения временного ряда, так и случайные ошибки предыдущих прогнозов.

4. Авторегрессионная интегрированная скользящая средняя модель (ARIMA): ARIMA-модель является расширением ARMA-модели, включающим дополнительный компонент интегрирования. Она применяется для прогнозирования временных рядов с трендами и/или сезонностью.

https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.

#time_series #AR_model #MA_model #autoregressive_model #moving_average_model #forecasting