​📊 Яндекс опубликовал исходный код своей платформы для работы с большими данными - YTsaurus

Яндекс опубликовал на GitHub исходный код своей платформы YTsaurus для обработки больших данных. Платформа, которая развёрнута на десятках тысяч серверов внутри компании и обрабатывает экзабайты данных, теперь доступна для использования и доработки под свои нужды всем желающим. Опубликованный исходный код распространяется под лицензией Apache 2.0.

Платформа YTsaurus применяется для широкого круга задач, от аналитики до обучения сложных моделей. Например, модель "Поиска" создаёт с помощью YTsaurus поисковый индекс, а беспилотные автомобили применяют платформу для обработки данных о поездках и улучшения своих алгоритмов. YTsaurus управляет суперкомпьютерами «Яндекса», распределяя нагрузку так, чтобы их вычислительные мощности использовались наиболее эффективно.

"Яндекс ведет разработку YTsaurus — или YT, как мы называем ее внутри — с 2010 г. Мы начали строить собственную экосистему для больших данных, потому что ни одно из имевшихся на рынке решений не удовлетворяло всем нашим требованиям. Сейчас YTsaurus — один из ключевых элементов внутренней инфраструктуры «Яндекса». Над платформой работают десятки разработчиков, и ее возможности постоянно расширяются", - рассказал руководитель отдела технологий распределённых вычислений Максим Бабенко.

🗞 Блог Кодебай

#news #analysis #software

Яндекс выложил в опенсорс исходный код своей ключевой платформы для работы с большими данными — YTsaurus (аналог Apache Hadoop).

Система будет полезна компаниям, которые обрабатывают большие данных в условиях постоянно возрастающей нагрузки. YTsaurus предоставляет инструменты для эффективной обработки больших потоков данных и обучения сложных моделей с миллиардами параметров. Сотни команд могут работать на одном кластере, при этом платформа обеспечивает хорошую изоляцию процессов.

Подробнее об архитектуре YTsaurus, её преимуществах и возможностях в статье на Хабр

🔗 Попробовать демо
🔗 Вакансии бэкенд-разработчиков

AdverseCleaner

16 строк кода Python для удаления любого нежелательного шума с изображений сгенерированных ИИ.

Изображению 1024px требуется менее 3 секунд на процессоре ноутбука, что бы избавится от шума.

https://github.com/lllyasviel/AdverseCleaner

​🔥 Как работает нейросеть? — [9:59]

Нейросети уже заполонили мир, особенно ChatGPT и Midjourney, поэтому важно приблизительно понимать как они работают. В этом ролике речь пойдёт об общем строении ИИ, что такое нейрон, вес и как подбирается результат.

Перейти к просмотру

#видео #ai

Подписчик принес полезную ссылку. Это список ресурсов для того, чтобы начать играться/поднимать свою опенсоурсную альтернативу чатботу ChatGPT только с блэкджеком и ... что там у вас на уме.

А вот тут ещё как запусть модель LLaMA у себя на машине (да, это возможно).

@ai_newz

Google обещал уже сегодня представить публике своего чатбота Bard (конкурента ChatGPT), который работает на основе представленной Google два года назад языковой модели для диалоговых приложений LaMDA. Подать заявку на добавление в лист ожидания и получить шанс попробовать Bard одним из первых можно на этом сайте https://bard.google.com/.


Источник картинки https://twitter.com/wongmjane/status/1638217243770363906

ChatGPT-4 (справа) общается с Google Bard (слева) об AI и его влиянии на работу людей.
Диалог в печатном виде - https://sly-lyre-214.notion.site/ChatGPT-4-chatting-with-Google-Bard-about-LLMs-AIs-and-the-future-of-human-work-5e439c882171464d8bcf492a7504be3e

Сравнение эффективности различных чат-ботов по проценту отвеченных вопросов
отсюда https://blog.kagi.com/kagi-ai-search#aitest

​​awesome-totally-open-chatgpt

Список полностью открытых альтернатив ChatGPT создаваемый сообществом.

https://github.com/nichtdax/awesome-totally-open-chatgpt

Нейронки для работы с текстом. Копирайтеры, SMM-щики, писатели, блогеры, студенты и любители порерайтить — это для вас. Генерация текстов, заголовков, блогов, описаний, проверка на ошибки, рейрайтинг, расширение и сокращение текста — все тут.

Gerwin — генератор текста: сценарии, блоги, даже объявления и описания товаров на маркетплейсах.
Turbo Text — создает оптимизированные тексты для сайтов, блогов и соцсетей.
smartwriter.ai — создает тексты в сфере маркетинга.
DeepL Write — исправит ошибки на английском и предложит альтернативы.
ReText — ИИ-рейрайтер русскоязычных текстов.
InferKit — напишет осмысленные тексты на вашей основе.
ChatGPT Writer — пишет ответы на письма за вас. Нужно лишь выбрать тон.
Writesonic — напишет тексты для блогов, реклам, рассылок и сайтов.
namelix.com — придумает название для ваших идей и бизнесов по ключевым словам.
Quillbot Paraphraser — перепишет текст в нужном стиле, расширит или сократит его.
smodin.io — создает качественные тексты по заголовку, включая сочинения и статьи.
Frase — генераторы текстов, названий, описаний, слоганов и многого другого.
Grammarly — лучший сервис для грамотной переписки на других языках, работает с популярными приложениями
Wordtune Spices — обогатит ваш текст и предложит чем заменить наименее удачные места.
AnyWord — удобно для блогов и коротких постов.
Talk to Book — чат-бот, отвечающий фразами из книг. Сможете обогатить свой текст цитатами.
CopyAI — для генерации продающих маркетинговых текстов.
Turbo Check — проверит уникальность того, что вы нагенерировали.
Story Path — если вы пишете книгу и застряли, то эта тулза подскажет, как развить сюжет дальше.
NovelAI — нагенерирует литературу в разных жанрах и сеттингах.

@whackdoor

Serge - LLaMa made easy

Веб-интерфейс для общения с LLaMa через llama.cpp и alpaca.

▫️Полностью докеризованный, с простым в использовании API.
▫️Интерфейс SvelteKit
▫️MongoDB для хранения истории и параметров чата

В настоящее время поддерживаются только модели 7B, 13B и 30B alpaca. Есть скрипт загрузки для их загрузки внутри контейнера.

https://github.com/nsarrazin/serge

Awesome ChatGPT

▪️Основные принципы;
▪️Подсказки;
▪️Веб-приложения;
▪️Расширения Chrome;
▪️Видеокурсы;
▪️Официальные ресурсы;
▪️Проекты на гитхабе;
▪️И другое.

https://github.com/OpenMindClub/awesome-chatgpt

👁️ darkoday’s #chatGPT

🦙 LLaMa не стоит на месте

Есть уже куча примеров какие чудеса кулибины вытворяют с моделькой LLaMa. А вчера чел соорудил подобие Джарвиса, или Алексы, если хотите, прямо у себя в терминале на MacBook M1 Pro.

Причем все работает реалиайм на связке Whisper + LLaMa.

Под капотом: ggml / whisper.cpp / llama.cpp / Core ML
STT: Whisper Small
LLM: 13B LLaMA

Другой Кулибин начал прикручивать плагины от ChatGPT к опенсоурсной LLaMa. Уже работает text-retrieval плагин, и есть код.

@ai_newz

💾 Data Mining. Извлечение информации из Facebook, Twitter, LinkedIn, Instagram, GitHub. 3-е издание

Авторы: Мэтью Рассел, Михаил Классен
Год: 2020

#books #python #russian

​​ChatDoctor

ChatDoctor — это модель врача с искусственным интеллектом нового поколения, основанная на модели LLaMA.

Цель этого проекта — предоставить пациентам интеллектуального и надежного помощника в области здравоохранения, который может ответить на их медицинские вопросы и предоставить им персонализированные медицинские консультации.

Он прошел обучение на большом корпусе медицинской литературы и имеет глубокое понимание медицинской терминологии, процедур и диагнозов.

Пациенты могут взаимодействовать с моделью ChatDoctor через интерфейс чата, задавая вопросы о своем здоровье, симптомах или заболеваниях. Затем модель проанализирует ввод и предоставит ответ, адаптированный к уникальной ситуации пациента.

https://github.com/Kent0n-Li/ChatDoctor

arXiv: https://arxiv.org/abs/2303.14070

Нейронки и инструменты для работы:

▫️https://otter.ai/ — запись звонков в виде текста. Работает с Zoom, Google Meet и Microsoft Teams. Есть русский
▫️https://fireflies.ai/ — делает выжимки из ваших звонков, интегрируется в календарь и отвечает на все вопросы по звонкам
▫️https://chrome.google.com/webstore/detail/chatgpt-writer-write-mail/pdnenlnelpdomajfejgapbdpmjkfpjkp пишет ответы на письма, есть русский
▫️https://www.intellimail.xyz/ — расширение для Chrome, которое генерирует email
▫️https://arcwise.app/ai упрощение работы в Google Таблицах
▫️https://bearly.ai/ в 10 раз сократит время, которое вы тратите на чтение и заполнение писем и документов
▫️https://elephas.app ассистент-копирайтер для устройств от Apple
▫️https://gamma.app/ генерирует презентации. Напишет текст и придумает дизайн на заданную тему
▫️https://www.gptforslides.app/ генерирует слайды в Google Презентациях
▫️https://levity.ai/ автоматизирует ежедневную рутину с текстами, письмами и документами
▫️https://nuclia.com/ найдет что угодно на сервере, накопителе и облачном диске
▫️https://www.glean.com — ищет что угодно по рабочим чатам, документам и облачным дискам
▫️https://fakeupdate.net/ сервис, который сделает вид, что ваш рабочий ПК внезапно начал обновляться

😉👍 Подписывайтесь на @irozysk

LLaMa 30B на 6GB RAM

Блин, как здорово, когда что-то в опен-соурсе допиливается коллективным разумом до невероятных результатов.

Чел отимизировал загрузку весов в LLaMa.cpp с помощью mmap, и теперь инференс 30B модели можно гонять на CPU на Линуксе, используя меньше 6 GB RAM 🤯. Скорость холодного запуска модели тоже серьезно возросла.

Сами веса 4-bit кввнтизованной LLaMa 30B занимают 20 GB на диске, но после оптимизации, со слов автора пул-реквеста,  при загрузке модель дает всего 4GB футпринт в RAM. Всё благодаря ленивому чтению с помощью mmap, который подгружает с диска в RAM только нужные в текущий момент страницы памяти.

Каждый день мы видим новые оптимизации и трюки. Модели становятся меньше, быстрее и мощнее, что расширяет их область применения и доступность. Это не может не радовать. Не все же закрытому AI OpenAI у себя в закромах держать.

@ai_newz