Основные инструменты для работы в Data Engineering: введение для начинающих Data Engineer'ов
Я занимаю должность Data Engineer в компании, которая специализируется на разработке мобильных игр. В этой статье я хочу поделиться информацией об основных инструментах, которые я использую в своей работе с данными, и рассказать о каждом из них подробнее.
https://habr.com/ru/articles/727560/
Я занимаю должность Data Engineer в компании, которая специализируется на разработке мобильных игр. В этой статье я хочу поделиться информацией об основных инструментах, которые я использую в своей работе с данными, и рассказать о каждом из них подробнее.
https://habr.com/ru/articles/727560/
❤3
Ассоциативная память без нейросетей + генерация текста
Когда‑то давно ко мне пришла идея реализовать алгоритм основанный на цепочках символов. Этот алгоритм выделяет в тексте несколько последовательностей символов, и таким образом производит его анализ. Этот алгоритм в какой‑то мере похож на метод построения N‑грамной модели, разница лишь в том, что он строит последовательности символов переменной длины.
https://habr.com/ru/articles/726030/
Когда‑то давно ко мне пришла идея реализовать алгоритм основанный на цепочках символов. Этот алгоритм выделяет в тексте несколько последовательностей символов, и таким образом производит его анализ. Этот алгоритм в какой‑то мере похож на метод построения N‑грамной модели, разница лишь в том, что он строит последовательности символов переменной длины.
https://habr.com/ru/articles/726030/
Хабр
Ассоциативная память без нейросетей + генерация текста
Когда‑то давно ко мне пришла идея реализовать алгоритм основанный на цепочках символов. Этот алгоритм выделяет в тексте несколько последовательностей символов, и таким образом производит его...
❤2❤🔥1
Как создать переводчик, который переводит лучше, чем Google Translate
Помню, как еще в школе на Basic я писал программу-переводчик. И это было то время, когда ты сам составлял словарь, зашивал перевод каждого слова, а затем разбивал строки на слова и переводил каждое слово в отдельности.
https://habr.com/ru/articles/689580/
Помню, как еще в школе на Basic я писал программу-переводчик. И это было то время, когда ты сам составлял словарь, зашивал перевод каждого слова, а затем разбивал строки на слова и переводил каждое слово в отдельности.
https://habr.com/ru/articles/689580/
❤1
Business Intelligence и бизнес-аналитика: стратегия, этапы, процессы и инструменты
Все бизнесы работают с данными — информацией, генерируемой множеством внутренних и внешних источников компании. Эти каналы данных служат органами чувств руководства, предоставляя ему информацию о том, что происходит с бизнесом и рынком.
https://habr.com/ru/articles/714910/
Все бизнесы работают с данными — информацией, генерируемой множеством внутренних и внешних источников компании. Эти каналы данных служат органами чувств руководства, предоставляя ему информацию о том, что происходит с бизнесом и рынком.
https://habr.com/ru/articles/714910/
👍2
Пишем приложение на Python для интерактивной визуализации графов с NetworkX, Plotly и Dash
Говорят, хорошая визуализация данных лучше тысячи слов о них, и с этим трудно спорить.
https://habr.com/ru/articles/728256/
Говорят, хорошая визуализация данных лучше тысячи слов о них, и с этим трудно спорить.
https://habr.com/ru/articles/728256/
❤1👍1
Что делают биоинформатики
Биоинформатика — это область знаний, в которой компьютерные методы и информационные технологии анализа данных применяются для интерпретации биологических явлений, связанных с биомолекулами.
https://habr.com/ru/articles/727442
Биоинформатика — это область знаний, в которой компьютерные методы и информационные технологии анализа данных применяются для интерпретации биологических явлений, связанных с биомолекулами.
https://habr.com/ru/articles/727442
👍3🔥1
Автоматическое построение плоской панорамы
В этой статье представлен простой алгоритм автоматического сшивания нескольких фотографий в плоское (иногда называют перспективное) панорамное изображение (planar/perspective panoramic image). Статья содержит код на языкеPythonс использованием библиотекиOpenCV.
https://habr.com/ru/articles/708986/
В этой статье представлен простой алгоритм автоматического сшивания нескольких фотографий в плоское (иногда называют перспективное) панорамное изображение (planar/perspective panoramic image). Статья содержит код на языкеPythonс использованием библиотекиOpenCV.
https://habr.com/ru/articles/708986/
Хабр
Автоматическое построение плоской панорамы
Введение В этой статье представлен простой алгоритм автоматического сшивания нескольких фотографий в плоское (иногда называют перспективное) панорамное изображение (planar/perspective panoramic...
❤1👍1
Пора забывать GridSearch — встречайте ProgressiveGridSearch. Фракталы в ML, постепенно увеличиваем разрешение
Здравствуйте, я придумал как подбирать гиперпараметры бескомпромиссно лучше GridSearch’а. Нужно лишь изменить порядок вычислений.
https://habr.com/ru/articles/726222/
Здравствуйте, я придумал как подбирать гиперпараметры бескомпромиссно лучше GridSearch’а. Нужно лишь изменить порядок вычислений.
https://habr.com/ru/articles/726222/
👍2❤1
Как научить Наивного Байеса давать персональные рекомендации
Подход, о котором я расскажу, позволяет расширить функциональные возможности метода Наивного Байеса благодаря использованию весовых коэффициентов для различных групп признаков объекта датасета .
https://habr.com/ru/articles/728802/
Подход, о котором я расскажу, позволяет расширить функциональные возможности метода Наивного Байеса благодаря использованию весовых коэффициентов для различных групп признаков объекта датасета .
https://habr.com/ru/articles/728802/
👍2❤1
Часть 2. Перевод нейронной сети на базе Keras LSTM на работу с матричными операциями
В первой части была переведена обученная модель полносвязной сети на базе Keras на работу с матричными вычислениями. Модель разработана для новостного агрегатора с целью фильтрации нежелательных новостей.
https://habr.com/ru/articles/723792/
В первой части была переведена обученная модель полносвязной сети на базе Keras на работу с матричными вычислениями. Модель разработана для новостного агрегатора с целью фильтрации нежелательных новостей.
https://habr.com/ru/articles/723792/
👍3⚡1
Метрики расстояний: Евклидово, Манхэттенское, Минковского
Если вы знакомы с машинным обучением, вы знаете, что точки данных в наборе данных и впоследствии спроектированные функции — это все точки (или векторы) в n-мерном пространстве.
https://www.kdnuggets.com/2023/03/distan…
Если вы знакомы с машинным обучением, вы знаете, что точки данных в наборе данных и впоследствии спроектированные функции — это все точки (или векторы) в n-мерном пространстве.
https://www.kdnuggets.com/2023/03/distan…
👍2❤1
Понимание компромисса смещения и дисперсии за 3 минуты
Эта статья представляет собой рецензию доклада о освещении машинного обучения, интуитивно объясняющего важную концепцию науки о данных за 3 минуты.
https://www.kdnuggets.com/2020/09/unders…
Эта статья представляет собой рецензию доклада о освещении машинного обучения, интуитивно объясняющего важную концепцию науки о данных за 3 минуты.
https://www.kdnuggets.com/2020/09/unders…
❤2👍1
Что такое статистическое искажение?
Асимметрия измеряет асимметрию распределения. Если распределение смещено либо влево, либо вправо — это означает, что оно перекошено. Он показывает, как данное распределение отличается от нормального распределения, которое, как известно, имеет нулевую асимметрию.
https://www.kdnuggets.com/2022/11/statis…
Асимметрия измеряет асимметрию распределения. Если распределение смещено либо влево, либо вправо — это означает, что оно перекошено. Он показывает, как данное распределение отличается от нормального распределения, которое, как известно, имеет нулевую асимметрию.
https://www.kdnuggets.com/2022/11/statis…
👍2
Изучение показателей неконтролируемого обучения
Неконтролируемое обучение — это ветвь машинного обучения, в которой модели изучают шаблоны на основе доступных данных, а не на основе фактической метки. Мы позволяем алгоритму придумывать ответы.
https://www.kdnuggets.com/2023/04/explor…
Неконтролируемое обучение — это ветвь машинного обучения, в которой модели изучают шаблоны на основе доступных данных, а не на основе фактической метки. Мы позволяем алгоритму придумывать ответы.
https://www.kdnuggets.com/2023/04/explor…
❤2👍2
Лучшая модель машинного обучения для разреженных данных
Разреженные данные относятся к наборам данных со многими функциями с нулевыми значениями. Это может вызвать проблемы в разных областях, особенно в машинном обучении.
https://www.kdnuggets.com/2023/04/best-m…
Разреженные данные относятся к наборам данных со многими функциями с нулевыми значениями. Это может вызвать проблемы в разных областях, особенно в машинном обучении.
https://www.kdnuggets.com/2023/04/best-m…
👍2❤1
Разница между регуляризацией L1 и L2
Здесь обсуждаются два типа регуляризованных регрессионных моделей: гребенчатая регрессия (регуляризация L2) и регрессия Лассо (регуляризация L1).
https://www.kdnuggets.com/2022/08/differ…
Здесь обсуждаются два типа регуляризованных регрессионных моделей: гребенчатая регрессия (регуляризация L2) и регрессия Лассо (регуляризация L1).
https://www.kdnuggets.com/2022/08/differ…
👍2❤1
Связь Django и PostgreSQL внутри Docker
Как начинающий разработчик хочу поделиться своим решением проблемы, с которой столкнулся и не нашел готового решения в интернете. Мой подход может не быть оптимальным, но может быть полезен другим новичкам.
https://habr.com/ru/articles/729610/
Как начинающий разработчик хочу поделиться своим решением проблемы, с которой столкнулся и не нашел готового решения в интернете. Мой подход может не быть оптимальным, но может быть полезен другим новичкам.
https://habr.com/ru/articles/729610/
Хабр
Связь Django и PostgreSQL внутри Docker
Приветствую всех! Я начинающий разработчик и хочу поделиться своим решением проблемы, с которой столкнулся и не нашел готового решения в интернете. Мой подход может не быть оптимальным, но может быть...
❤2🤔1
Поиск глобального максимума общей полезности как задача для Искусственного интеллекта и bigdata
Похоже, что Искусственный Интеллект уже достаточно освоился в нашем мире и пришла пора поручить ему реальные глобальные задачи человечества.
https://habr.com/ru/articles/729698/
Похоже, что Искусственный Интеллект уже достаточно освоился в нашем мире и пришла пора поручить ему реальные глобальные задачи человечества.
https://habr.com/ru/articles/729698/
Хабр
Поиск глобального максимума общей полезности как задача для Искусственного интеллекта и bigdata
Похоже, что Искусственный Интеллект уже достаточно освоился в нашем мире и пришла пора поручить ему реальные глобальные задачи человечества. Модель Математически человечество возможно представить как...
❤3👎1
Кто я - аналитик данных или датасаентист?
По данным аналитической компании IDC, в 2020 году в мире было произведено более 64 зеттабайт данных (для справки: 1 зеттабайт равен 10²¹ байтов). По прогнозам, к 2025 году объем всех данных в мире составит 175 зеттабайт. Важно подчеркнуть, что эта тенденция растет, и правильное использование данных может сыграть решающую роль в развитии многих отраслей.
https://habr.com/ru/articles/729520/
По данным аналитической компании IDC, в 2020 году в мире было произведено более 64 зеттабайт данных (для справки: 1 зеттабайт равен 10²¹ байтов). По прогнозам, к 2025 году объем всех данных в мире составит 175 зеттабайт. Важно подчеркнуть, что эта тенденция растет, и правильное использование данных может сыграть решающую роль в развитии многих отраслей.
https://habr.com/ru/articles/729520/
Хабр
Кто я аналитик данных или датасаентист?
По данным аналитической компании IDC, в 2020 году в мире было произведено более 64 зеттабайт данных (для справки: 1 зеттабайт равен 10²¹ байтов). По прогнозам, к 2025 году объем всех данных в мире...
❤1
Как устроиться на работу специалистом по данным в эпоху GPT-4
Сосредоточимся на статистике, основных концепциях науки о данных, НЛП, оперативном проектировании, портфолио науки о данных, подготовке к интервью и AIOps.
https://www.kdnuggets.com/2023/04/get-hired-data-scientist-gpt4-era.html
Сосредоточимся на статистике, основных концепциях науки о данных, НЛП, оперативном проектировании, портфолио науки о данных, подготовке к интервью и AIOps.
https://www.kdnuggets.com/2023/04/get-hired-data-scientist-gpt4-era.html
👍2
Легко изучайте LLM на своем ноутбуке с openplayground
Используйте простой пользовательский интерфейс, чтобы экспериментировать с различными широко известными языковыми моделями.
https://www.kdnuggets.com/2023/04/explor…
Используйте простой пользовательский интерфейс, чтобы экспериментировать с различными широко известными языковыми моделями.
https://www.kdnuggets.com/2023/04/explor…
❤1👍1