DenoiseLAB
486 subscribers
1.33K photos
159 videos
3 files
1.57K links
Блог DenoiseLAB (машинное обучение, аналитика)

Информация в канале служит только для ознакомления и не является призывом к действию. Не нарушайте законы РФ и других стран. Мы не несем отвественность за ваши действия или бездействия.
Download Telegram
☄️Ребят напоминаю, все наши соцсети:

🔼Telegramm: https://t.me/DenoiseLAB
🔼TelegrammChat: https://t.me/DenoseLABChat
🔼Profi.ru: https://profi.ru/profile/MironovVO8/
🔼YouTube: https://www.youtube.com/@DenoiseLAB
🔼Business Card: https://taplink.cc/denoiselab
🔼Habr: https://habr.com/ru/users/CrXf_17/
🔼Boosty: https://boosty.to/denoise_lab/donate
🔼Dzen: https://dzen.ru/profile/editor/denoiselabtalk
Please open Telegram to view this post
VIEW IN TELEGRAM
🤝🤝🤝Ребят всем привет!!!

👍👍👍https://youtu.be/cQmuu0NJvVw
- Новое видео не канале, выпуск №7.

⬆️⬆️⬆️На этот раз говорим про One Hot Encoding, что это такое и как он работает.
Please open Telegram to view this post
VIEW IN TELEGRAM
Очень жизненный мем, но работает точно. Проверил на хакатонах. Первый месяц все идут ровно, ноздря в ноздрю. Потом начинается "разброд и шатание". А какие еще гипотезы проверить, а какие фичи еще накрутить и начинается паника )).

Где взять аналитиков, чтобы накидали идей. В реальном продакшене на серьезной задаче, гипотез проверяется, примерно, под полсотни, перерывается куча статей, данные просеиваются с такой скоростью и такие конвейры строятся, что потом диву даешься как вообще такое можно было найти )).

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_152

🔠 Можете ли вы привести примеры применения Probabilistic Matrix Factorization (PMF) в рекомендательных системах? (Часть_2)

Рекомендации товаров: В контексте электронной коммерции, PMF может быть применен для моделирования матрицы взаимодействий между пользователями и товарами. Это может быть матрица рейтингов, покупок или просмотров товаров. PMF моделирует эту матрицу как вероятностное распределение и факторизует ее на две матрицы более низкого ранга, представляющие скрытые факторы пользователей и товаров. Затем полученные факторизованные представления могут быть использованы для рекомендации новых товаров пользователям на основе вероятностей взаимодействия.

#SASRec #SequentialRecommendation #SelfAttention #PersonalizedRecommendation

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_152

🔠 Можете ли вы привести примеры применения Probabilistic Matrix Factorization (PMF) в рекомендательных системах? (Часть_3)

Рекомендации музыки: PMF может также применяться в рекомендательных системах для рекомендации музыки. Матрица взаимодействий может представлять собой историю прослушивания пользователей или их оценки песен. PMF моделирует эту матрицу как вероятностное распределение и факторизует ее на матрицы меньшего размера, представляющие скрытые факторы пользователей и песен. Затем полученные факторизованные представления могут быть использованы для рекомендации новых песен пользователям на основе вероятностей взаимодействия.

#SASRec #SequentialRecommendation #SelfAttention #PersonalizedRecommendation

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_153

🔠Можете ли вы объяснить, как PMF учитывает неопределенность в данных? (Часть_1)

Probabilistic Matrix Factorization (PMF) учитывает неопределенность в данных, моделируя матрицу взаимодействий между пользователями и элементами (например, рейтингами, покупками или просмотрами) как вероятностное распределение.

В PMF каждый элемент матрицы взаимодействий рассматривается как случайная величина, имеющая определенное распределение вероятности. Обычно для моделирования рейтинговых данных используется распределение нормального (гауссовского) типа. Вероятностное распределение позволяет оценивать, насколько наблюдаемые значения соответствуют модели и учитывает неопределенность в предсказаниях.

#SASRec #SequentialRecommendation #SelfAttention #PersonalizedRecommendation

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_153

🔠Можете ли вы объяснить, как PMF учитывает неопределенность в данных? (Часть_2)

При обучении PMF происходит итеративный процесс, в котором оптимизируются параметры модели, такие как факторизованные представления пользователей и элементов, а также параметры распределения. Процесс максимизации правдоподобия позволяет модели адаптироваться к данным и учесть неопределенность в предсказаниях, учитывая разброс и шум в данных.

Таким образом, PMF моделирует неопределенность в данных, представляя матрицу взаимодействий как вероятностное распределение и используя метод максимального правдоподобия для оптимизации параметров модели. Это позволяет более точно оценивать вероятности взаимодействия и учитывать неопределенность при генерации рекомендаций в рекомендательных системах.

#SASRec #SequentialRecommendation #SelfAttention #PersonalizedRecommendation

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
🌡🌡🌡По долгу службы приходится очень много перебирать материала, искать новые интересные решения и кодить. Всегда заниматься оптимизацией кода и много рефлексировать над ним. И вот в процессе подготовки возникает такая история, что находишь вещи из будущего ))

🔼🔼🔼Год издания 2024!!!, вероятно ребята о чем то знают. Так и хочется сказать ребят, а можно книжку которая будет актуальна лет через 5 ))
Please open Telegram to view this post
VIEW IN TELEGRAM
Ох ребятки, спасибо большое, неожиданно и приятно ))
😂Новый прикол, я уже проверил, в ChatGPT-4 работает. Машинка откровенно стала "забивать" на пользователя и "выкатывает" только ту часть кода, где надо "пофиксить" ваши баги и недочеты.

Ну, наконец-то нормальный помощник, а не вот это ваше все, щас все будет по шоколаду. А то я уже устал перечитывать целые "простыни" своего кода.

Осталось совсем немного, чтобы он начал говорить:
- Слушай бро, давай завтра, че-то сегодня я не ресурсе ))

⬆️Давай дружок эволюционируй, тебе до настоящего кодера совсем чуть-чуть, осталось немножко ))) ахахаха

🧠P.S. Я "затестил" и другие помогаторы и ты не поверишь там такая же тема: Writesonic, Phind, Poe и т.д.

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤝Несколько соображений на тему увольнение ключевых игроков OpenAI...

👉То, что они заявляли на конференции (близость к человеческому интеллекту) по факту не удалось достичь (P.S. И вряд ли получится). Видно было, на презентации как им реально не по себе и парни в панике и откровенном тупике. Поэтому, чтобы Майкрософт остался в "белом" перед инвесторами, нужна была жертва. И эту жертву дали. Более того, количество заявленных вопросов и кома нерешенных проблем так и осталось не решенными:

☄️ Интеграции в корпоративный сектор (местный/международный) - нет/нет (потенциальная утечка данных и корпоративных секретов);
☄️ Тестирование и анализ границ посредством этики Red Team - нет (не могут отловить все баги, так как границы постоянно расширяются, и в целом не совсем понятно, что надо ловить);
☄️ Возросшие затраты на мощности - нет (OpenAI самый дорогой стартап в мире 100 млрд долларов, дешевле только ГазПром 50 млрд долларов);
☄️ Наполнение реальными уникальными идеями, а не темами в стиле "Нарисуй Гомера с пивом" - нет (масса победила, а для эволюции нужны уникальные идеи и промпты);
☄️ Интеграции и основополагающие сторонние разработки - нет (все запили свое, в целом ситуация нормальная, так делали всегда, так как у всех свои пайплайны, и свои инструменты);
☄️ Быстрый сбор данных и потеря обороноспособности страны, которая использует эту игрушку (но тут я думаю без комментариев).
и т.д.

😵А что еще вы думаете напишите в комментариях...

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_154

🔠Можете ли вы объяснить, как происходит оптимизация параметров модели в PMF? (Часть_1)

Формулирование модели: Сначала определяется вероятностная модель для PMF, которая включает предположения о распределении данных и параметры модели. Наиболее распространенное предположение состоит в моделировании рейтинговых данных с использованием нормального (гауссовского) распределения.

Логарифмическая функция правдоподобия: Для оптимизации параметров модели используется логарифмическая функция правдоподобия (log-likelihood function). Эта функция оценивает, насколько хорошо модель соответствует наблюдаемым данным.

#SASRec #SequentialRecommendation #SelfAttention #PersonalizedRecommendation

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤝Ребятки, если вам надо изменить голос на записи, вот вам парочка отличных инструментов по данной теме. Какие-то бесплатные какие-то условно-бесплатные. Так что, залетаем тестим и смотрим пригодится ли вам это в вашем продакшене.

✔️ Voice Spice (https://voicespice.com)
✔️ Voice Changer Plus (iOS) (https://apps.apple.com/us/app/voice-changer-plus/id339440515)
✔️ VIPole Secure Messenger (https://www.vipole.com)

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
200 Вопросов по Машинному обучению (Machine Learning) - Вопрос_154

🔠Можете ли вы объяснить, как происходит оптимизация параметров модели в PMF? (Часть_2)

Оптимизация параметров: Цель состоит в максимизации логарифмической функции правдоподобия. Обычно используются методы оптимизации, такие как градиентный спуск (gradient descent), для нахождения оптимальных значений параметров модели. В ходе итераций параметры модели обновляются в направлении, которое увеличивает значение логарифмической функции правдоподобия.

Регуляризация: Часто в PMF применяются методы регуляризации для предотвращения переобучения модели и улучшения ее обобщающей способности. Регуляризация добавляет дополнительные штрафы к функции правдоподобия, основанные на норме параметров модели. Это помогает контролировать сложность модели и предотвращать переобучение.

#SASRec #SequentialRecommendation #SelfAttention #PersonalizedRecommendation

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤝Ребята всем привет!!!

💊https://theconversation.com/lagos-building-collapses-we-used-machine-learning-to-show-where-and-why-they-happen-212303 - очень необычный кейс. Здесь ребята анализировали обрушение зданий в Лагосе (Нигерия). Лагос является деловым центром страны, в нем расположены крупнейшие морской порт и аэропорт. С населением 15,4 млн. человек он является крупнейшим городом в Африке к югу от Сахары и вторым по величине в Африке после Каира.

✔️Город состоит из двух отдельных географических районов: остров Лагос и материк Лагос, соединенные тремя мостами. Остров Лагос является историческим ядром города. Этот район славится эклектичным сочетанием архитектурных стилей, сочетанием современных небоскребов, остатков колониальных построек и оживленных традиционных рынков. Он служит центром финансовой, развлекательной и корпоративной деятельности города. Икойи, Виктория Айленд и Лекки принято считать продолжением острова Лагос.

✔️И вот что удалось выяснить, оказалось, что местоположение было наиболее важным фактором, способствовавшим обрушению здания, причем оно преимущественно оказалось более значимым, чем стандартные человеческие факторы: некачественный материал, дефекты конструкции, изменение плана на месте, плохой надзор, процессы сноса, несоблюдение строительных норм и правил, отсутствие геотехнической информации, плохое техническое обслуживание, строительные дефекты и перегрузка.

✔️Наибольшее число обрушений произошло в 2011 году - 10 зданий, затем в 2000 и 2006 годах - по девять. Максимальное число жертв - 140 человек - пришлось на 2014 год. Оно было сосредоточено в районе Икотун-Эгбе на материковой части Лагоса.

То есть получается, что стройка в целом дело решеное, все как правило упирается в место стройки.

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
🤝Ребята всем привет!!!

✔️Машинное обучение все чаще, теперь ставится на рельсы валидации и верификации так в статье: https://www.genengnews.com/topics/bioprocessing/machine-learning-an-ideal-fit-for-process-validation/ данный кейс показан на примере производства лекарственных препаратов. При этом было показано, что определение валидации процесса, как правило, состоит из трех частей: разработка процесса (PD); квалификация процесса (PQ); и непрерывная верификация процесса (CPV). При этом 2/3 это рутина, которая в целом не нуждается в человеческом участии.

✔️В работе использовались две модели искусственного интеллекта - модель изоляции для выявления аномалий на этапе дозирования и модель случайного леса для прогнозирования необходимых управляющих действий оператора на этапе полуавтоматизированного дозирования. Эти модели превзошли традиционные подходы с использованием одной переменной, заняли меньше времени и, по мнению авторов, иллюстрируют потенциальные преимущества ИИ в анализе технологических процессов.

✔️Исследование проводилось при изучении выработки рекомбинантного белка, называемого липазой 1 candida rugosa (Crl1), дрожжами вида Pichia pastoris в условиях гипоксии (отсутствие кислорода).

✔️То есть в целом получается ситуация, что мы получили и при использовании лапораскопических операций вместо операций с непосредственным открытым типом хирургического вмешательства. Подход тот же самый а эффекта больше. Именно эта способность находить в сложных данных необнаруживаемые закономерности с минимальным вмешательством оператора делает системы искусственного интеллекта идеально подходящими для производственных операций.

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
⬆️Неимоверно крутой кейс в сфере медицины !!!

Выявлении и диагностике синдрома поликистозных яичников (СПКЯ) у женщин. Ребята запилил модель, в которую взяли данные NIH за 25 лет (!!!) и проводили оценку гормональных нарушений. При этом выяснилось, что:

✔️ Программы на основе ИИ/МЛ способны успешно обнаруживать СПКЯ.
✔️ СПКЯ может вызывать серьезные последствия, такие как диабет, нарушения сна и репродуктивные расстройства.
✔️ ИИ/МЛ может помочь в диагностике СПКЯ, облегчая выявление чувствительных диагностических биомаркеров.
✔️ Интеграция ИИ/МЛ с электронными медицинскими картами может улучшить диагностику и уход за женщинами с СПКЯ.
✔️ Точность выявления СПКЯ с использованием ИИ/МЛ составляет 80-90%.

😵Более подробно можно почитать здесь: https://scitechdaily.com/decoding-womens-health-artificial-intelligence-revolutionizes-pcos-diagnosis/

🤕🤕🤕https://boosty.to/denoise_lab/donate - фишки кода, полезные фичи или просто если вы хотите поддержать наш канал.
Please open Telegram to view this post
VIEW IN TELEGRAM
☄️https://github.com/trungdq88/Awesome-Black-Friday-Cyber-Monday - отличная подборка по инфобезу, куча полезной инфы, заглядываем, читаем, смотрим, делимся!
Please open Telegram to view this post
VIEW IN TELEGRAM
💊Ребята, если вы хотите что-то опубликовать какой-то пост или заметку, закидывайте в личку, все обсудим, скоро появится бот для обратной связи, будет удобнее.
Please open Telegram to view this post
VIEW IN TELEGRAM
DenoiseLAB pinned «💊Ребята, если вы хотите что-то опубликовать какой-то пост или заметку, закидывайте в личку, все обсудим, скоро появится бот для обратной связи, будет удобнее.»