Forwarded from HABR FEED + OPENNET
FlexGen - движок для запуска AI-ботов, похожих на ChatGPT, на системах с одним GPU #opennet
https://www.opennet.ru/opennews/art.shtml?num=58681
Группа исследователей из Стендфордского университета, Калифорнийского университета в Беркли, Швейцарской высшей технической школы Цюриха, Высшей школы экономики, университета Карнеги — Меллона, а также компаний Yandex и Meta, опубликовала исходные тексты движка для выполнения крупных языковых моделей на системах с ограниченными ресурсами. Например, движок предоставляет возможность создания функциональности, напоминающей ChatGPT и Copilot, через выполнение готовой натренированной модели OPT-175B, охватывающей 175 миллиардов параметров, на обычном компьютере с игровой видеокартой NVIDIA RTX3090, оснащённой 24GB видеопамяти. Код написан на языке Python, использует фреймворк PyTorch и распространяется под лицензией Apache 2.0.
https://www.opennet.ru/opennews/art.shtml?num=58681
Группа исследователей из Стендфордского университета, Калифорнийского университета в Беркли, Швейцарской высшей технической школы Цюриха, Высшей школы экономики, университета Карнеги — Меллона, а также компаний Yandex и Meta, опубликовала исходные тексты движка для выполнения крупных языковых моделей на системах с ограниченными ресурсами. Например, движок предоставляет возможность создания функциональности, напоминающей ChatGPT и Copilot, через выполнение готовой натренированной модели OPT-175B, охватывающей 175 миллиардов параметров, на обычном компьютере с игровой видеокартой NVIDIA RTX3090, оснащённой 24GB видеопамяти. Код написан на языке Python, использует фреймворк PyTorch и распространяется под лицензией Apache 2.0.
Forwarded from Denis Sexy IT 🤖
Недавно наткнулся на классный твит, где автор сделал забавный эксперимент:
Все вы видели, что ChatGPT и другие модели умеют генерировать код, и править ошибки кода, так, чтобы скрипт запустился.
Но что если, пользователь бы давал команду нейронке какую задачу он хочет решить, далее нейронка сама, писала бы код и пыталась его запустить, а после этого – если ошибка в коде появится, пыталась бы исправить код так, чтобы он работал, и продолжала бы «программировать» таким образом, пока задача не будет решена.
Короче собрал Colab на базе этого эксперимента, можете сами поиграться.
В итоге пару часов сегодня убил наблюдая как нейронка «программирует», сама «рассуждает» как их решить, дебажит и тп, на картинках пример результатов.
На последней картинке попросил ее почистить жесткий диск от всех файлов и папок, и что вы думаете, она прекрасно справилась и умерла вместе со средой исполнения прямо у меня на глазах☕️
Короче все это прототип Software 2.0, прикольно поковырять и посмотреть, как бы выглядело написание кода через N лет.
P.S. Нужен ключ API от OpenAI чтобы запустить, в конфиге простенькая и дешевая модель сейчас
P.P.S. Спасибо автору канала @seeallochnaya за наводку
Все вы видели, что ChatGPT и другие модели умеют генерировать код, и править ошибки кода, так, чтобы скрипт запустился.
Но что если, пользователь бы давал команду нейронке какую задачу он хочет решить, далее нейронка сама, писала бы код и пыталась его запустить, а после этого – если ошибка в коде появится, пыталась бы исправить код так, чтобы он работал, и продолжала бы «программировать» таким образом, пока задача не будет решена.
Короче собрал Colab на базе этого эксперимента, можете сами поиграться.
В итоге пару часов сегодня убил наблюдая как нейронка «программирует», сама «рассуждает» как их решить, дебажит и тп, на картинках пример результатов.
На последней картинке попросил ее почистить жесткий диск от всех файлов и папок, и что вы думаете, она прекрасно справилась и умерла вместе со средой исполнения прямо у меня на глазах
Короче все это прототип Software 2.0, прикольно поковырять и посмотреть, как бы выглядело написание кода через N лет.
P.S. Нужен ключ API от OpenAI чтобы запустить, в конфиге простенькая и дешевая модель сейчас
P.P.S. Спасибо автору канала @seeallochnaya за наводку
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from #ChatGPT now
🗓 7 марта 19:30 “Юля Яковлева, Константин Шибков: ChatGPT для разработчиков”
Хэй, ребята! Если вы увлечены искусственным интеллектом и разработкой программного обеспечения, то не пропустите наше обсуждение о ChatGPT! Присоединяйтесь к нам, чтобы обсудить все, что связано с этим инструментом, узнать о его возможностях, как он работает под капотом и задать любые интересующие вопросы. Помогать в обсуждению будут невероятно интересные гости - Юля Яковлева и Костя Шибков 🔥 Юля - Machine Learning Engineer, несколько лет работала над восприятием у самоуправляющихся машин в Яндексе, сейчас работает над разными применениями Stable Diffusion в Stability.ai Костя - Java-разработчик, организатор алгоритмического клуба @JavaKeyFrames, автор статей и вебинаров, он активно использует ChatGPT при создание контента для блога и в работе.
Рассмотрим на реальных примерах как ChatGPT могут использовать разработчики:
📍Изучение новой технологии
📍Сервер MySQL/Postgres прямо в браузере
📍Написание рабочих писем на английском
📍Мапперы
📍Работа с SQL
Встречаемся 7 марта в 19:30 по мск на YouTube трансляции или в Zoom.
PS Анонс, частично писал ChatGPT 😅 А в комментариях к этому посту оставляйте свои вопросы, которые хотели бы задать Юле и Косте. ⤵️
https://t.me/megdu_skobok/267
Хэй, ребята! Если вы увлечены искусственным интеллектом и разработкой программного обеспечения, то не пропустите наше обсуждение о ChatGPT! Присоединяйтесь к нам, чтобы обсудить все, что связано с этим инструментом, узнать о его возможностях, как он работает под капотом и задать любые интересующие вопросы. Помогать в обсуждению будут невероятно интересные гости - Юля Яковлева и Костя Шибков 🔥 Юля - Machine Learning Engineer, несколько лет работала над восприятием у самоуправляющихся машин в Яндексе, сейчас работает над разными применениями Stable Diffusion в Stability.ai Костя - Java-разработчик, организатор алгоритмического клуба @JavaKeyFrames, автор статей и вебинаров, он активно использует ChatGPT при создание контента для блога и в работе.
Рассмотрим на реальных примерах как ChatGPT могут использовать разработчики:
📍Изучение новой технологии
📍Сервер MySQL/Postgres прямо в браузере
📍Написание рабочих писем на английском
📍Мапперы
📍Работа с SQL
Встречаемся 7 марта в 19:30 по мск на YouTube трансляции или в Zoom.
PS Анонс, частично писал ChatGPT 😅 А в комментариях к этому посту оставляйте свои вопросы, которые хотели бы задать Юле и Косте. ⤵️
https://t.me/megdu_skobok/267
Forwarded from HABR FEED + OPENNET
СМИ: многие разработчики положительно отзываются о чат-ботах и рады появлению инструмента, облегчающему рутину #habr
https://habr.com/ru/news/t/720838/
Tags: Программирование, Искусственный интеллект, Машинное обучение, chatgpt, copilot, программирование, разработка, инструменты, искусственный интеллект, IT-индустия
https://habr.com/ru/news/t/720838/
Tags: Программирование, Искусственный интеллект, Машинное обучение, chatgpt, copilot, программирование, разработка, инструменты, искусственный интеллект, IT-индустия
Хабр
СМИ: многие разработчики положительно отзываются о чат-ботах и рады появлению инструмента, облегчающему рутину
Издание Business Insider рассказало , что многие разработчики положительно отзываются о чат-ботах и рады тому, что новые инструменты на базе искусственного интеллекта помогают облегчить работу. Также...
Forwarded from Градиент обреченный (Sergei Averkiev)
🔺 Карта языковых моделей
Обновил свою интерактивную визуализацию мультиязыковых моделей на карте.
Добавил туда LLaMA, также есть BLOOM, mt5 и mGPT.
Сделал на plotly, если кто не еще пробовал, то рекомендую.
👉 В репозитории есть скрипт для создания визуализации, если кто-то захочет сделать что-то свое.
Карта | Скрипт
Обновил свою интерактивную визуализацию мультиязыковых моделей на карте.
Добавил туда LLaMA, также есть BLOOM, mt5 и mGPT.
Сделал на plotly, если кто не еще пробовал, то рекомендую.
👉 В репозитории есть скрипт для создания визуализации, если кто-то захочет сделать что-то свое.
Карта | Скрипт
Forwarded from Градиент обреченный (Sergei Averkiev)
🔺 ChatGPT на коленке
Появился интересный репозиторий под названием ChatLLaMA. Авторы собрали пайплайн для тренировки персонализированного ChatGPT-like ассистента на основе открытых моделей (базовая модель + reward + RLHF). Человеческая оценка происходит тоже через модели — либо платно через API к OpenAI, либо моделью с huggingface.
В примере из репы после подготовки данных все делается в три команды.
👉 GitHub
Появился интересный репозиторий под названием ChatLLaMA. Авторы собрали пайплайн для тренировки персонализированного ChatGPT-like ассистента на основе открытых моделей (базовая модель + reward + RLHF). Человеческая оценка происходит тоже через модели — либо платно через API к OpenAI, либо моделью с huggingface.
В примере из репы после подготовки данных все делается в три команды.
👉 GitHub
Forwarded from Градиент обреченный (Sergei Averkiev)
🔺 Продолжаем с коллегами работать над моделью. Стало еще чуть лучше.
» Напиши песню про тимлида
Как скажете.
Первый куплет:
Тимлид — нервный тип,
Он проводит дни напролёт,
Разработчики сходят с ума,
Потому что он ничего не делает.
Припев:
Кто же будет кодить, если не мы?
Кто же будет кодить, если не мы?
Кто же будет кодить, если не мы?
» Напиши песню про тимлида
Как скажете.
Первый куплет:
Тимлид — нервный тип,
Он проводит дни напролёт,
Разработчики сходят с ума,
Потому что он ничего не делает.
Припев:
Кто же будет кодить, если не мы?
Кто же будет кодить, если не мы?
Кто же будет кодить, если не мы?
Forwarded from Николай Крупий
Telegram
Small Data Science for Russian Adventurers
#забавно
Заинтересовался темой - как генерировать бессмысленные входы для нейронок, которые не воспринимались бы ей бессмысленными. Отсюда родилась игра - придумать последовательность букв, которая не является словом русского языка, но переводится переводчиком…
Заинтересовался темой - как генерировать бессмысленные входы для нейронок, которые не воспринимались бы ей бессмысленными. Отсюда родилась игра - придумать последовательность букв, которая не является словом русского языка, но переводится переводчиком…
Forwarded from АйТиБорода
Второй выпуск "AIA Podcasts" не заставил себя долго ждать!😊 Оно и понятно, первый разлетелся как горячие пирожки, потому было решено делать подкаст раз в две недели, а не раз в месяц.
Для тех, кто не в теме: AIA Podcast - это русскоязычный раговорный видеокаст про нейронки и хайп вокруг ИИ, который делаю я и Витя Шеленченко. В смысле подкаст делаем мы, а хайп сам делается 😅
Во втором выпуске говорим про платные подписки у ChatGPT и Microsoft API, про попытки монетизации ИИ-чата Bing, про умные инструменты для создателей контента, про Roblox (что это вообще я хз???), про нейросетевую музыку, про создание сайтов нейроночками и про первые попытки ИИ проявить интеллект через неуклюжий но глубокий "флирт" с журналистом The New York Times.
👉 YouTube: https://youtu.be/CS6-KdkVTtw
👉 Google Podcasts: https://bit.ly/awclub-ru-google
👉 Apple Podcasts: https://bit.ly/awclub-ru-apple
👉 Spotify: https://bit.ly/awclub-ru-spotify
👉 Скачать mp3: https://anywhereclub-ru.simplecast.com/episodes/32
P.S. Так как подкаст совсем молодой, нам очень важен ваш фидбек, потому не поленитесь в комментах к нему накидать каках 😆
Для тех, кто не в теме: AIA Podcast - это русскоязычный раговорный видеокаст про нейронки и хайп вокруг ИИ, который делаю я и Витя Шеленченко. В смысле подкаст делаем мы, а хайп сам делается 😅
Во втором выпуске говорим про платные подписки у ChatGPT и Microsoft API, про попытки монетизации ИИ-чата Bing, про умные инструменты для создателей контента, про Roblox (что это вообще я хз???), про нейросетевую музыку, про создание сайтов нейроночками и про первые попытки ИИ проявить интеллект через неуклюжий но глубокий "флирт" с журналистом The New York Times.
👉 YouTube: https://youtu.be/CS6-KdkVTtw
👉 Google Podcasts: https://bit.ly/awclub-ru-google
👉 Apple Podcasts: https://bit.ly/awclub-ru-apple
👉 Spotify: https://bit.ly/awclub-ru-spotify
👉 Скачать mp3: https://anywhereclub-ru.simplecast.com/episodes/32
P.S. Так как подкаст совсем молодой, нам очень важен ваш фидбек, потому не поленитесь в комментах к нему накидать каках 😆
YouTube
Bing и ChatGPT хотят денег / ИИ обрел самосознание / Roblox и нейросетевая музыка / AIA Podcast #2
Регистрируйся на Anywhere Club: https://bit.ly/awclub-ru
Во втором выпуске говорим про платные подписки у ChatGPT и Microsoft API, про попытки монетизации ИИ-чата Bing, про умные инструменты для создателей контента, про Roblox (что это вообще???), про нейросетевую…
Во втором выпуске говорим про платные подписки у ChatGPT и Microsoft API, про попытки монетизации ИИ-чата Bing, про умные инструменты для создателей контента, про Roblox (что это вообще???), про нейросетевую…
Bing и ChatGPT хотят ден...
Anywhere Club / на русском
https://t.me/itbeard/975
говорим про платные подписки у ChatGPT и Microsoft API, про попытки монетизации ИИ-чата Bing, про умные инструменты для создателей контента, про Roblox (что это вообще я хз???), про нейросетевую музыку, про создание сайтов нейроночками и про первые попытки ИИ проявить интеллект через неуклюжий но глубокий "флирт" с журналистом The New York Times...
👉 YouTube: https://youtu.be/CS6-KdkVTtw
👉 Google Podcasts: https://bit.ly/awclub-ru-google
👉 Apple Podcasts: https://bit.ly/awclub-ru-apple
👉 Spotify: https://bit.ly/awclub-ru-spotify
👉 Скачать mp3: https://anywhereclub-ru.simplecast.com/episodes/32
говорим про платные подписки у ChatGPT и Microsoft API, про попытки монетизации ИИ-чата Bing, про умные инструменты для создателей контента, про Roblox (что это вообще я хз???), про нейросетевую музыку, про создание сайтов нейроночками и про первые попытки ИИ проявить интеллект через неуклюжий но глубокий "флирт" с журналистом The New York Times...
👉 YouTube: https://youtu.be/CS6-KdkVTtw
👉 Google Podcasts: https://bit.ly/awclub-ru-google
👉 Apple Podcasts: https://bit.ly/awclub-ru-apple
👉 Spotify: https://bit.ly/awclub-ru-spotify
👉 Скачать mp3: https://anywhereclub-ru.simplecast.com/episodes/32
Forwarded from ml4se
ChatML
OpenAI released ChatGPT API with Chat Markup Language. The basic idea behind ChatML is ensure the LLM model inputs are sent in structured format following ChatML and not as unstructured text.
https://github.com/openai/openai-python/blob/main/chatml.md
OpenAI released ChatGPT API with Chat Markup Language. The basic idea behind ChatML is ensure the LLM model inputs are sent in structured format following ChatML and not as unstructured text.
https://github.com/openai/openai-python/blob/main/chatml.md
Forwarded from БлоGнот
Вслед за программистами свой Copilot получают продажники — Microsoft представила Dynamics 365 Copilot, который представляет собой AI-помощника внутри CRM. Такой помощник может составить черновик сценария для продаж или поддержки, использоваться для разработки маркетинговых компаний, копирайтинга и так далее.
Собственно, энтузиасты уже вовсю используют ChatGPT для этого, так что вопрос только в специфическом обучении под эти задачи. Превью было выпущено вчера, его уже тестируют несколько сотен пользователей CRM от Microsoft.
А на следующей неделе — 16 числа, — Microsoft обещает следующие анонсы, касающиеся использования AI, на этот раз для «эффективности на рабочем месте», что считают намеком на Office.
@blognot
https://www.bloomberg.com/news/articles/2023-03-06/microsoft-s-latest-ai-assistant-takes-on-oracle-salesforce-in-applications
Собственно, энтузиасты уже вовсю используют ChatGPT для этого, так что вопрос только в специфическом обучении под эти задачи. Превью было выпущено вчера, его уже тестируют несколько сотен пользователей CRM от Microsoft.
А на следующей неделе — 16 числа, — Microsoft обещает следующие анонсы, касающиеся использования AI, на этот раз для «эффективности на рабочем месте», что считают намеком на Office.
@blognot
https://www.bloomberg.com/news/articles/2023-03-06/microsoft-s-latest-ai-assistant-takes-on-oracle-salesforce-in-applications
Bloomberg.com
Microsoft’s Latest AI Assistant Is Meant for Marketers, Customer Reps and Work Apps
AI ‘copilot’ will help answer customer calls, summarize sales meetings and generate marketing pitches
Forwarded from HABR FEED + OPENNET
[Перевод] Как сделать поисковую систему с ИИ, используя FastAPI, Qdrant и ChatGPT #habr
https://habr.com/ru/post/721212/
Tags: Блог компании Cloud4Y, Поисковые технологии, Машинное обучение, Софт, Искусственный интеллект, искусственный интеллект, gpt, машинное обучение, поисковые системы, поисковые алгоритмы, chatgpt
Author: Cloud4Y
https://habr.com/ru/post/721212/
Tags: Блог компании Cloud4Y, Поисковые технологии, Машинное обучение, Софт, Искусственный интеллект, искусственный интеллект, gpt, машинное обучение, поисковые системы, поисковые алгоритмы, chatgpt
Author: Cloud4Y
Хабр
Как сделать поисковую систему с ИИ, используя FastAPI, Qdrant и ChatGPT
Из-за шумихи вокруг Bing AI и Bard у меня возникло желание создать свою маленькую поисковую систему с искусственным интеллектом. Повозившись несколько дней, я выпустил Ask Seneca . Это небольшое...