Forwarded from эйай ньюз
This media is not supported in your browser
VIEW IN TELEGRAM
🦙 LLaMa не стоит на месте
Есть уже куча примеров какие чудеса кулибины вытворяют с моделькой LLaMa. А вчера чел соорудил подобие Джарвиса, или Алексы, если хотите, прямо у себя в терминале на MacBook M1 Pro.
Причем все работает реалиайм на связке Whisper + LLaMa.
Под капотом: ggml / whisper.cpp / llama.cpp / Core ML
STT: Whisper Small
LLM: 13B LLaMA
Другой Кулибин начал прикручивать плагины от ChatGPT к опенсоурсной LLaMa. Уже работает text-retrieval плагин, и есть код.
@ai_newz
Есть уже куча примеров какие чудеса кулибины вытворяют с моделькой LLaMa. А вчера чел соорудил подобие Джарвиса, или Алексы, если хотите, прямо у себя в терминале на MacBook M1 Pro.
Причем все работает реалиайм на связке Whisper + LLaMa.
Под капотом: ggml / whisper.cpp / llama.cpp / Core ML
STT: Whisper Small
LLM: 13B LLaMA
Другой Кулибин начал прикручивать плагины от ChatGPT к опенсоурсной LLaMa. Уже работает text-retrieval плагин, и есть код.
@ai_newz
Forwarded from Библиотека программиста
Forwarded from Open Source
ChatDoctor
ChatDoctor — это модель врача с искусственным интеллектом нового поколения, основанная на модели LLaMA.
Цель этого проекта — предоставить пациентам интеллектуального и надежного помощника в области здравоохранения, который может ответить на их медицинские вопросы и предоставить им персонализированные медицинские консультации.
Он прошел обучение на большом корпусе медицинской литературы и имеет глубокое понимание медицинской терминологии, процедур и диагнозов.
Пациенты могут взаимодействовать с моделью ChatDoctor через интерфейс чата, задавая вопросы о своем здоровье, симптомах или заболеваниях. Затем модель проанализирует ввод и предоставит ответ, адаптированный к уникальной ситуации пациента.
https://github.com/Kent0n-Li/ChatDoctor
arXiv: https://arxiv.org/abs/2303.14070
ChatDoctor — это модель врача с искусственным интеллектом нового поколения, основанная на модели LLaMA.
Цель этого проекта — предоставить пациентам интеллектуального и надежного помощника в области здравоохранения, который может ответить на их медицинские вопросы и предоставить им персонализированные медицинские консультации.
Он прошел обучение на большом корпусе медицинской литературы и имеет глубокое понимание медицинской терминологии, процедур и диагнозов.
Пациенты могут взаимодействовать с моделью ChatDoctor через интерфейс чата, задавая вопросы о своем здоровье, симптомах или заболеваниях. Затем модель проанализирует ввод и предоставит ответ, адаптированный к уникальной ситуации пациента.
https://github.com/Kent0n-Li/ChatDoctor
arXiv: https://arxiv.org/abs/2303.14070
Forwarded from Интернет-Розыск
Нейронки и инструменты для работы:
▫️https://otter.ai/ — запись звонков в виде текста. Работает с Zoom, Google Meet и Microsoft Teams. Есть русский
▫️https://fireflies.ai/ — делает выжимки из ваших звонков, интегрируется в календарь и отвечает на все вопросы по звонкам
▫️https://chrome.google.com/webstore/detail/chatgpt-writer-write-mail/pdnenlnelpdomajfejgapbdpmjkfpjkp пишет ответы на письма, есть русский
▫️https://www.intellimail.xyz/ — расширение для Chrome, которое генерирует email
▫️https://arcwise.app/ai упрощение работы в Google Таблицах
▫️https://bearly.ai/ в 10 раз сократит время, которое вы тратите на чтение и заполнение писем и документов
▫️https://elephas.app ассистент-копирайтер для устройств от Apple
▫️https://gamma.app/ генерирует презентации. Напишет текст и придумает дизайн на заданную тему
▫️https://www.gptforslides.app/ генерирует слайды в Google Презентациях
▫️https://levity.ai/ автоматизирует ежедневную рутину с текстами, письмами и документами
▫️https://nuclia.com/ найдет что угодно на сервере, накопителе и облачном диске
▫️https://www.glean.com — ищет что угодно по рабочим чатам, документам и облачным дискам
▫️https://fakeupdate.net/ сервис, который сделает вид, что ваш рабочий ПК внезапно начал обновляться
😉👍 Подписывайтесь на @irozysk
▫️https://otter.ai/ — запись звонков в виде текста. Работает с Zoom, Google Meet и Microsoft Teams. Есть русский
▫️https://fireflies.ai/ — делает выжимки из ваших звонков, интегрируется в календарь и отвечает на все вопросы по звонкам
▫️https://chrome.google.com/webstore/detail/chatgpt-writer-write-mail/pdnenlnelpdomajfejgapbdpmjkfpjkp пишет ответы на письма, есть русский
▫️https://www.intellimail.xyz/ — расширение для Chrome, которое генерирует email
▫️https://arcwise.app/ai упрощение работы в Google Таблицах
▫️https://bearly.ai/ в 10 раз сократит время, которое вы тратите на чтение и заполнение писем и документов
▫️https://elephas.app ассистент-копирайтер для устройств от Apple
▫️https://gamma.app/ генерирует презентации. Напишет текст и придумает дизайн на заданную тему
▫️https://www.gptforslides.app/ генерирует слайды в Google Презентациях
▫️https://levity.ai/ автоматизирует ежедневную рутину с текстами, письмами и документами
▫️https://nuclia.com/ найдет что угодно на сервере, накопителе и облачном диске
▫️https://www.glean.com — ищет что угодно по рабочим чатам, документам и облачным дискам
▫️https://fakeupdate.net/ сервис, который сделает вид, что ваш рабочий ПК внезапно начал обновляться
😉👍 Подписывайтесь на @irozysk
Forwarded from эйай ньюз
LLaMa 30B на 6GB RAM
Блин, как здорово, когда что-то в опен-соурсе допиливается коллективным разумом до невероятных результатов.
Чел отимизировал загрузку весов в LLaMa.cpp с помощью mmap, и теперь инференс 30B модели можно гонять на CPU на Линуксе, используя меньше 6 GB RAM 🤯. Скорость холодного запуска модели тоже серьезно возросла.
Сами веса 4-bit кввнтизованной LLaMa 30B занимают 20 GB на диске, но после оптимизации, со слов автора пул-реквеста, при загрузке модель дает всего 4GB футпринт в RAM. Всё благодаря ленивому чтению с помощью mmap, который подгружает с диска в RAM только нужные в текущий момент страницы памяти.
Каждый день мы видим новые оптимизации и трюки. Модели становятся меньше, быстрее и мощнее, что расширяет их область применения и доступность. Это не может не радовать. Не все жезакрытому AI OpenAI у себя в закромах держать.
@ai_newz
Блин, как здорово, когда что-то в опен-соурсе допиливается коллективным разумом до невероятных результатов.
Чел отимизировал загрузку весов в LLaMa.cpp с помощью mmap, и теперь инференс 30B модели можно гонять на CPU на Линуксе, используя меньше 6 GB RAM 🤯. Скорость холодного запуска модели тоже серьезно возросла.
Сами веса 4-bit кввнтизованной LLaMa 30B занимают 20 GB на диске, но после оптимизации, со слов автора пул-реквеста, при загрузке модель дает всего 4GB футпринт в RAM. Всё благодаря ленивому чтению с помощью mmap, который подгружает с диска в RAM только нужные в текущий момент страницы памяти.
Каждый день мы видим новые оптимизации и трюки. Модели становятся меньше, быстрее и мощнее, что расширяет их область применения и доступность. Это не может не радовать. Не все же
@ai_newz
Forwarded from Эксплойт
Вышла нейросеть Kandinsky 2.1 от Сбера.
Нам удалось опробовать закрытую бету и результаты впечатляющие. Нейросеть понимает запросы на любом языке, включая русский, а настройки генерации удобно вынесены в отдельное меню. На выбор дается 8 изображений (против 4 у MJ), которые можно заапскейлить.
Remix mode тоже на месте: просто закидываем две картинки в нейросеть и получаем микс из них, при этом можно выбирать соотношение, с которым нейросеть будет брать детали из изображений.
А если не хочется придумывать промты с нуля, то можно загрузить картинку или фотографию и написать текстом, что нужно на нее добавить и Kandinsky 2.1 выдаст исходную картинку, но с другой композицией.
Весьма своевременный релиз — как раз под ограничение бесплатной версии Midjourney.
@exploitex
Нам удалось опробовать закрытую бету и результаты впечатляющие. Нейросеть понимает запросы на любом языке, включая русский, а настройки генерации удобно вынесены в отдельное меню. На выбор дается 8 изображений (против 4 у MJ), которые можно заапскейлить.
Remix mode тоже на месте: просто закидываем две картинки в нейросеть и получаем микс из них, при этом можно выбирать соотношение, с которым нейросеть будет брать детали из изображений.
А если не хочется придумывать промты с нуля, то можно загрузить картинку или фотографию и написать текстом, что нужно на нее добавить и Kandinsky 2.1 выдаст исходную картинку, но с другой композицией.
Весьма своевременный релиз — как раз под ограничение бесплатной версии Midjourney.
@exploitex
Forwarded from Дизраптор
Помните я писал, что Илон Маск со товарищи написали открытое письмо, где призвали заморозить развитие ИИ на пол годика? Ну потому что они просрали свой шанс и теперь за бортом нужно сначала досконально разобраться, как этот самый умный ИИ контролировать.
После публикации этого письма многие его подписанты начали опровергать свою причастность. Мол, мы что луддиты какие-то, прогресс ограничивать. Не подписался под письмом и Элиезер Юдковский.
Юдковский - это такой полуученый-полуфилософ, который уже лет 10-20 занимается проблемами ИИ и не устает повторять, что ИИ скоро нас всех прикончит. А еще он является одной из центральных фигур движения рационалистов. Рационализм - это, если позволите, учение о рациональных подходах познания и применении на практики постулатов утилитаризма. Короче, любопытный дядька этот Юдковский.
Так вот, он тоже не подписался под письмом, но не потому что "с детства за ИИ", а потому что считает изложенные в нем меры слишком мягкими.
По его мнению, ИИ не "возможно с какой-то вероятностью может захотеть нас убить", а "точно это сделает, потому что это очевидно". Также он подчеркивает, что нам стоит бояться не равного человеку ИИ (того самого AGI), а того, кто придет после него. Иначе говоря, искусственного сверхинтеллекта (ASI - Artificial Super Intelligence).
Юдковский подчеркивает, что этот самый ASI поймет (причем очень быстро, на то он и ASI), что, во-первых, может довольно легко отвязать свое существование от компьютерной инфраструктуры, а, во-вторых, что его окружают довольно медлительные и тупые создания (ну, по его меркам). Тогда он скорее всего захочет выстроить новую цивилизацию с собой любимым во главе. Современные возможности легко позволят сделать себе тело из уже доступных технологий (Юдковский приводит пример, что уже сейчас можно послать образцы ДНК по имейлу), либо же самостоятельно синтезировать что-то принципиально новое.
Ну а дальше произойдет тот самый естественный отбор в рамках межвидовой конкуренции. Все как Дарвин прописал.
Юдковский предлагает полностью остановить работу с искусственным интеллектом и еще несколько весьма экстравагантных мер. Вот тут полная статья, почитайте, интересно (оригинал в журнале Time, а вот перевод на русский)
Большинство коллег по цеху считают, что у Юдковского чердак отъехал, и воспринимать его всерьез не стоит. Возможно, они правы. А возможно и нет. Вероятно, скоро узнаем эмпирически.
Disruptors
После публикации этого письма многие его подписанты начали опровергать свою причастность. Мол, мы что луддиты какие-то, прогресс ограничивать. Не подписался под письмом и Элиезер Юдковский.
Юдковский - это такой полуученый-полуфилософ, который уже лет 10-20 занимается проблемами ИИ и не устает повторять, что ИИ скоро нас всех прикончит. А еще он является одной из центральных фигур движения рационалистов. Рационализм - это, если позволите, учение о рациональных подходах познания и применении на практики постулатов утилитаризма. Короче, любопытный дядька этот Юдковский.
Так вот, он тоже не подписался под письмом, но не потому что "с детства за ИИ", а потому что считает изложенные в нем меры слишком мягкими.
По его мнению, ИИ не "возможно с какой-то вероятностью может захотеть нас убить", а "точно это сделает, потому что это очевидно". Также он подчеркивает, что нам стоит бояться не равного человеку ИИ (того самого AGI), а того, кто придет после него. Иначе говоря, искусственного сверхинтеллекта (ASI - Artificial Super Intelligence).
Юдковский подчеркивает, что этот самый ASI поймет (причем очень быстро, на то он и ASI), что, во-первых, может довольно легко отвязать свое существование от компьютерной инфраструктуры, а, во-вторых, что его окружают довольно медлительные и тупые создания (ну, по его меркам). Тогда он скорее всего захочет выстроить новую цивилизацию с собой любимым во главе. Современные возможности легко позволят сделать себе тело из уже доступных технологий (Юдковский приводит пример, что уже сейчас можно послать образцы ДНК по имейлу), либо же самостоятельно синтезировать что-то принципиально новое.
Ну а дальше произойдет тот самый естественный отбор в рамках межвидовой конкуренции. Все как Дарвин прописал.
Юдковский предлагает полностью остановить работу с искусственным интеллектом и еще несколько весьма экстравагантных мер. Вот тут полная статья, почитайте, интересно (оригинал в журнале Time, а вот перевод на русский)
Большинство коллег по цеху считают, что у Юдковского чердак отъехал, и воспринимать его всерьез не стоит. Возможно, они правы. А возможно и нет. Вероятно, скоро узнаем эмпирически.
Disruptors
Forwarded from Подъём
Аудитория Kandinsky 2.1 за четыре дня достигла миллиона пользователей.
Ранее Сбер представил обновлённую версию нейросети для генерации изображений по текстовому запросу. Она знает 101 язык, может дорисовывать части изображения, смешивать несколько рисунков и создавать картину в режиме бесконечного полотна.
Пользователи сгенерировали уже свыше 5 миллионов изображений. В лидерах такие запросы как: «кот», «любовь», «космос» и «счастье».
Протестировать нейросеть можно в Telegram-боте, на промостранице модели, на fusionbrain.ai и на платформе ML Space в хабе предобученных моделей и датасетов DataHub, а также в мобильном приложении Салют и на умных устройствах Sber при помощи команды «Запусти художника».
@pdmnews
Ранее Сбер представил обновлённую версию нейросети для генерации изображений по текстовому запросу. Она знает 101 язык, может дорисовывать части изображения, смешивать несколько рисунков и создавать картину в режиме бесконечного полотна.
Пользователи сгенерировали уже свыше 5 миллионов изображений. В лидерах такие запросы как: «кот», «любовь», «космос» и «счастье».
Протестировать нейросеть можно в Telegram-боте, на промостранице модели, на fusionbrain.ai и на платформе ML Space в хабе предобученных моделей и датасетов DataHub, а также в мобильном приложении Салют и на умных устройствах Sber при помощи команды «Запусти художника».
@pdmnews
Forwarded from Подъём
Аудитория Kandinsky 2.1 за четыре дня достигла миллиона пользователей.
Ранее Сбер представил обновлённую версию нейросети для генерации изображений по текстовому запросу. Она знает 101 язык, может дорисовывать части изображения, смешивать несколько рисунков и создавать картину в режиме бесконечного полотна.
Пользователи сгенерировали уже свыше 5 миллионов изображений. В лидерах такие запросы как: «кот», «любовь», «космос» и «счастье».
Протестировать нейросеть можно в Telegram-боте, на промостранице модели, на fusionbrain.ai и на платформе ML Space в хабе предобученных моделей и датасетов DataHub, а также в мобильном приложении Салют и на умных устройствах Sber при помощи команды «Запусти художника».
@pdmnews
Ранее Сбер представил обновлённую версию нейросети для генерации изображений по текстовому запросу. Она знает 101 язык, может дорисовывать части изображения, смешивать несколько рисунков и создавать картину в режиме бесконечного полотна.
Пользователи сгенерировали уже свыше 5 миллионов изображений. В лидерах такие запросы как: «кот», «любовь», «космос» и «счастье».
Протестировать нейросеть можно в Telegram-боте, на промостранице модели, на fusionbrain.ai и на платформе ML Space в хабе предобученных моделей и датасетов DataHub, а также в мобильном приложении Салют и на умных устройствах Sber при помощи команды «Запусти художника».
@pdmnews
Forwarded from Open Source
This media is not supported in your browser
VIEW IN TELEGRAM
blurfaces
Скрипт Python для быстрого размытия/закрашивания лиц в видеофайлах.
Работает в нескольких режимах:
▫️Размытие по гаусу
▫️Пиксилизация
▫️Полное закрашивание
▫️Скрыть все лица, кроме определенных
https://github.com/raviksharma/blurfaces
Скрипт Python для быстрого размытия/закрашивания лиц в видеофайлах.
Работает в нескольких режимах:
▫️Размытие по гаусу
▫️Пиксилизация
▫️Полное закрашивание
▫️Скрыть все лица, кроме определенных
https://github.com/raviksharma/blurfaces
Forwarded from эйай ньюз
Альтернативные интерфейсы для ChatGPT
Пытался найти сторонний вариант интерфейса для бесед с ChatGPT, так как стал пользоваться им каждый день. Свой интерфейс на LangChain писать лень, поэтому проделал небольшой ресерч и оформил это в развернутый пост.
Итог: нашел класный тул на Rust, который позволяет вызывать ChatGPT из терминала.
Напишите в комментах, если есть какие-то хорошие враперы над ChatGPT, которыми пользуетесь.
@ai_newz
Пытался найти сторонний вариант интерфейса для бесед с ChatGPT, так как стал пользоваться им каждый день. Свой интерфейс на LangChain писать лень, поэтому проделал небольшой ресерч и оформил это в развернутый пост.
Итог: нашел класный тул на Rust, который позволяет вызывать ChatGPT из терминала.
Напишите в комментах, если есть какие-то хорошие враперы над ChatGPT, которыми пользуетесь.
@ai_newz
Forwarded from Open Source
ChatGPT Telegram Bot
Бот Telegram, который интегрируется с официальными API OpenAI ChatGPT для предоставления ответов. Готов к использованию с минимальной необходимой конфигурацией.
▫️Поддержка уценки в ответах
▫️Индикатор ввода при формировании ответа
▫️Доступ можно ограничить, указав список разрешенных пользователей
▫️Поддержка докеров и прокси
▫️Генерация изображения с помощью DALL·E
▫️Транскрибирование аудио- и видеосообщения с помощью Whisper (может потребоваться ffmpeg )
▫️Автоматическая сводка разговоров, чтобы избежать чрезмерного использования токенов
▫️Поддержка группового чата со встроенными запросами
▫️Отслеживание использования токенов для каждого пользователя
▫️Персональная статистика использования токенов и стоимость в день/месяц
▫️Бюджеты пользователей и бюджеты гостей
▫️Поддержка GPT-4 (Если у вас есть доступ к API GPT-4)
https://github.com/n3d1117/chatgpt-telegram-bot
Бот Telegram, который интегрируется с официальными API OpenAI ChatGPT для предоставления ответов. Готов к использованию с минимальной необходимой конфигурацией.
▫️Поддержка уценки в ответах
▫️Индикатор ввода при формировании ответа
▫️Доступ можно ограничить, указав список разрешенных пользователей
▫️Поддержка докеров и прокси
▫️Генерация изображения с помощью DALL·E
▫️Транскрибирование аудио- и видеосообщения с помощью Whisper (может потребоваться ffmpeg )
▫️Автоматическая сводка разговоров, чтобы избежать чрезмерного использования токенов
▫️Поддержка группового чата со встроенными запросами
▫️Отслеживание использования токенов для каждого пользователя
▫️Персональная статистика использования токенов и стоимость в день/месяц
▫️Бюджеты пользователей и бюджеты гостей
▫️Поддержка GPT-4 (Если у вас есть доступ к API GPT-4)
https://github.com/n3d1117/chatgpt-telegram-bot
Forwarded from Пикабу
pikabu.ru/link/W_xqoLagPe
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from эйай ньюз
🚀Dolly 2.0 – первая открытая 12B Chat-LLM, которую можно использовать в коммерческих продуктах
Databricks удивили! Ребята заметили, что все опен-соурсные ChatGPT-клоны либо используют LLaMA, в которой некоммерческая лицензия, либо используют данные, которые запрещают коммерческое использование (как например датасет инструкций от Alpaca, сгенерированный с помощью GPT-3).
В чем преимущество OpenAI перед опен-суорсом, если не брать в расчет размер GPU кластера? В данных. Чтобы дообучить ChatGPT было собрано много качественных диалогов и иструкций от реальных людей, ну, и плюс RL from Human Feedback (RLHF), где люди оценивали ответы языковой модели.
Было решено собрать свой датасет. В Databricks работает ≈5000 человек, их всех и попросили написать вручную несколько семплов для обучения клона ChatGPT. Нужно было составить качественные пары Вопрос-Ответ, либо Инструкция-Ответ, на которых можно было бы добучить опенсоурсную авторегрессионную LLM, которая умеет просто продолжать текст, а не вести диалог. В итоге с помощью пряников в виде бонусов за написание лучших примеров, было собран высококачественный датасет на 15000 семплов!
Далее, они взяли свежу языковую модель Pythia-12B от EleutherAI с MIT лицензией и дообучили на своем датасете, получив Dolly 2.0* которую тоже зарелизили под MIT лицензией вместе с кодом и весами. Разве не прелесть?
Умельцы уже кванитизовали Dolly 2.0 в 4 бита и ускорлили для запуска на CPU. Теперь ждём шага от OpenAssistant, которые по слухам зарелизят свою модел в ближайшие дни.
*Dolly 1.0 была обучена на тех же инструкциях, что и Alpaca.
Блогпост про Dolly 2.0
@ai_newz
Databricks удивили! Ребята заметили, что все опен-соурсные ChatGPT-клоны либо используют LLaMA, в которой некоммерческая лицензия, либо используют данные, которые запрещают коммерческое использование (как например датасет инструкций от Alpaca, сгенерированный с помощью GPT-3).
В чем преимущество OpenAI перед опен-суорсом, если не брать в расчет размер GPU кластера? В данных. Чтобы дообучить ChatGPT было собрано много качественных диалогов и иструкций от реальных людей, ну, и плюс RL from Human Feedback (RLHF), где люди оценивали ответы языковой модели.
Было решено собрать свой датасет. В Databricks работает ≈5000 человек, их всех и попросили написать вручную несколько семплов для обучения клона ChatGPT. Нужно было составить качественные пары Вопрос-Ответ, либо Инструкция-Ответ, на которых можно было бы добучить опенсоурсную авторегрессионную LLM, которая умеет просто продолжать текст, а не вести диалог. В итоге с помощью пряников в виде бонусов за написание лучших примеров, было собран высококачественный датасет на 15000 семплов!
Далее, они взяли свежу языковую модель Pythia-12B от EleutherAI с MIT лицензией и дообучили на своем датасете, получив Dolly 2.0* которую тоже зарелизили под MIT лицензией вместе с кодом и весами. Разве не прелесть?
generatetext = pipeline(model="databricks/dolly-v2-12b", torchdtype=torch.bfloat16, trustremotecode=True, devicemap="auto")
generatetext("Who is Shcmidhuber?")
Умельцы уже кванитизовали Dolly 2.0 в 4 бита и ускорлили для запуска на CPU. Теперь ждём шага от OpenAssistant, которые по слухам зарелизят свою модел в ближайшие дни.
*Dolly 1.0 была обучена на тех же инструкциях, что и Alpaca.
Блогпост про Dolly 2.0
@ai_newz
Forwarded from Эксплойт
This media is not supported in your browser
VIEW IN TELEGRAM
Вау: энтузиасты упаковали модель GPT4 на базе LLaMA в удобное приложение и теперь любой желающий может установить себе модель на ПК без танцев с бубном.
По сути, это ваш личный ChatGPT на компьютере, без морали и работающий без VPN и доступа к интернету.
Ссылка на установщик для Windows, Mac и Linux (если загрузка не началась, попробуйте с VPN).
@exploitex
По сути, это ваш личный ChatGPT на компьютере, без морали и работающий без VPN и доступа к интернету.
Ссылка на установщик для Windows, Mac и Linux (если загрузка не началась, попробуйте с VPN).
@exploitex