HuggingChat: бесплатный открытый веб-чат с моделями и агентами от HuggingFace

Команда Hugging Face выпустила HuggingChat - гибкую альтернативу ChatGPT.
На сегодня поддерживает 8 различных открытых моделей, включая Mistral, Llama, Qwen и Nvidia Nemotron 70B.
Можно включить веб-поиск, создать своих ассистентов или подключить готовых.
Да и в принципе, по-скольку решение основано на миллионах тулов от сообщества HF, - его можно расширять: генерация изображений, клонирование голоса, анализ документов, - все это подключается на платформе.

https://huggingface.co/chat/

Не требует регистрации для базового использования.
VPN тоже не нужен.

#HuggingFace #OpenSource #Chatbot
-------
@tsingular

Добавил в бота Claude последнюю модель Sonnet 3.5.

"Осенний сонет"

В багряном золоте осенняя пора,
Листва кружится в танце безмятежном,
И ветер шепчет песню безнадежно,
Как будто знает - близится зима.

Природа дремлет, красками пьяна,
В прощальном вальсе кружится небрежно,
И солнце светит ласково и нежно,
Как будто бы прощается она.

Последний луч скользит по глади вод,
Рисуя в них узоры листопада,
И птичий клин уходит в небосвод.

А сердце бьется тише, и отрада
В душе растет, когда природа ждет
Покоя зимнего как высшую награду.

Сонет от Соннета.
Без изменений с одного запроса.

#боты #dev
———
@tsingular

Кай-Фу Ли объявил войну Nvidia и всей ИИ-экосистеме США.
И судя по его последним достижениям, шансы победить есть.
Потрясающе интересное выступление китайского ИИ гуру Кай-Фу Ли будут теперь долго обсуждать. Это абсолютно революционное выступление, прозвучавшее на закрытой дискуссии Collective[i] Forecast, Ли посвятил трем темам.
1. ИИ-экосистема США (основа мировой ИИ-экосистемы) «невероятно больна». Её необходимо кардинально перестроить, иначе на реальном (практическом) прогрессе ИИ можно ставить крест.
Сегодня ИИ-экосистема состоит из Nvidia и мелких производителей ИИ чипов. При этом производители чипов для ИИ зарабатывают сейчас в год $75 млрд, а вендоры ИИ-инфраструктуры – лишь $10 млрд и вендоры ИИ-приложений — лишь $5 млрд».
«Если мы продолжим работать в этой перевернутой пирамиде, это станет проблемой» — сказал Ли. Т.к. это беспрецедентный переворот в экономике классической технологической отрасли. Традиционно производители приложений получают больше, чем поставщики чипов и систем (напр. Salesforce, внедряя CRM, получает куда больше, чем Dell и Intel, производящие компьютеры и чипы для запуска CRM в облаке)
Оздоровить ИИ-экосистему может лишь создание ИИ-компаниями собственных вертикальных интегрированных технологических стеков, как это сделала Apple с iPhone. Только так станет возможным значительно снизить стоимость генеративного ИИ.
2. Главным направление в разработке моделей должно стать снижение стоимости вывода – это самое важное для создания востребованных бизнесом приложений с ИИ.
Сегодняшняя стандартная стоимость сервиса типа GPT-4 составляет $4,40 за млн токенов. Это эквивалентно 57 центам за запрос —и это непростительно дорого, ибо поисковый запрос в Google (без всякого ИИ) обойдется в 180 раз дешевле.
3. Вторым важнейшим направлением в разработке моделей должен стать переход от универсальных базовых моделей к «экспертным моделям».
Бизнесу нужны не универсальные модели, обученные на океанах неразмеченных данных, собранных из Интернета и других источников. Подход «экспертных моделей» подразумевает создание множества нейронок, обученных на отраслевых данных. Это может обеспечить достижение того же уровня «интеллекта», что и универсальная базовая модель, при использовании гораздо меньшей вычислительной мощности.

Самое потрясающее, что все 3 пункта – это не предложения, основанные на предположениях. Стартап Кай-Фу Ли «01.ai» уже делает все это на практике.
И не просто делает, а уже добивается уникальных результатов.
• Их новая модель Yi-Lightning занимает 6-е место в мире (выше выпущенной 5 мес назад GPT-4o). Но при этом это очень маленькая модель, которая чрезвычайно быстра и недорога (всего $0,14 за млн токенов ). Её производительность сопоставима с Grok-2. Но она обучалась всего на 2000 H100 в течение 1 месяца. Что демонстрирует ненужность 100 тыс H100 и ярдов затрат (обучение Yi-Lightning стоило всего $3 млн).
• 01.ai применяет «экспертный» подход к сбору данных. И хотя «инженерам приходится проводить массу неблагодарной черновой работы» по маркировке и ранжированию данных, но – как считает Ли, - Китай с его резервом дешевых инженерных кадров может сделать это лучше, чем США.
• И даже в создании собственного вертикального интегрированного техно-стека есть прогресс. Напр, за счет использования собственных аппаратных инноваций, стоимость одного запроса к ИИ-поисковику BeaGo составляет всего около 1 цента (что приблизилось к стоимости запроса Google без всякого ИИ)

И еще 3 цитаты Ли:

Сила Китая не в том, чтобы делать лучшие прорывные исследования, которые никто не делал раньше, с бюджетом без ограничений. Сила Китая в том, чтобы построить хорошо, быстро, надежно и при этом дешево.

Для предприятий новое поколение ИИ станет их мозгом, а не периферийными приблудами. Для нефтяных компании ИИ будет добывать нефть. Для финансовых — зарабатывать на деньгах.

Для потребителей сегодняшняя модель смартфона, скорее всего, исчезнет.

А ведь еще 1.5 года назад Ли предупреждал - Китай не станет догонять США в ИИ, а сразу пойдет на обгон.

#ИИгонка #Китай

Nvidia представляет фреймворк для агентного ИИ

Агентный ИИ,- не просто чат-бот, но способен сам принимать решения и планировать свои шаги.
Выделяют 4 основных шага:
1. Сбор информации, - ИИ используется чтобы получить максимальный контекст из окружения или из RAG.
2. Обоснование, - ИИ работает как оркестратор или машина рассуждений, координирующая всю логику.
3. Действия, - Приведение плана в реальность через различные интегрированные инструменты.
4. Выводы, - Агентный ИИ самосовершенствуется через механизм обратной связи.

https://www.nvidia.com/en-us/ai-data-science/ai-workflows/

Основные сферы применения: клиентский сервис, маркетинг, разработка ПО и медицина.
Статистика показывает экономию до 3 часов при создании контента и потенциальную автоматизацию 30% времени разработчиков к 2030 году.

Правильный шаг. Создавать таких агентов малому бизнесу дорого и готовые решения тут точно помогут.
Вопрос лишь в том, - стоит ли подсаживаться на проприетарные фреймворки или смотреть в сторону открытых.

#NVIDIA #автономныеагенты
-------
@tsingular

Ideogram Canvas: революция в работе с AI-изображениями

Канадский стартап Ideogram, созданный экс-сотрудниками Google Brain, представил инновационный редактор Canvas.
Решение объединяет функции генерации, редактирования и компоновки изображений в едином бесконечном пространстве.
Уникальные возможности включают Magic Fill, Extend и прецизионное размещение текста внутри картинок.

Есть так же API для разработчиков с тарификацией от $0.01 за описание до $0.08 за генерацию.

https://ideogram.ai/

Ideogram обгоняет Photoshop.
MagicFill там даже в бете пока нет, - это вот когда их 2х фото делается одна общая, как-будто оно так и было. см. видео.

#Ideogram #Canvas #GoogleBrain
-------
@tsingular

UiPath, в рамках конференции UiPath Forward 2024 в Лас-Вегасе анонсирует симбиоз RPA-роботов с ГенИИ

Agent Builder дебютирует в декабре 2024 как часть UiPath Studio для создания интеллектуальных автономных агентов.

Платформа интегрирует Claude 3.5 Sonnet и Inflection AI Enterprise.

UiPath Agent Catalog уже содержит готовых ИИ-ассистентов для автоматизации.

Autopilot внедряет разговорный интерфейс управления процессами.

Локальная обработка реализована на процессорах Intel Gaudi 3.

Наконец-то подтянулись гиганты офисной автоматизации.
От UiPath ждал чего-то подобного еще год назад. 🤖
Конференция идет в эти дни, послезавтра нужно будет посмотреть записи на Youtube.
Там у них коллаборация с TechEd, так что должно быть интересно.

#UiPath #RPA #AgentBuilder #TechEd
———
@tsingular

EngineAI представили гуманоидного робота SE01 с естественной походкой

Молодой стартап EngineAI из Шэньчжэня анонсировал полноразмерного человекоподобного робота.

Уникальность SE01 заключается в естественной биомеханикой движений с 12 степенями свободы.

Команда разработчиков состоит из экспертов UC Berkeley, Цинхуа и Пекинского технологического института.

Всем, кто смеялся над гражданами-роботами, что ходят они как-то не так,- большой привет от товарищей из Китая! 🤖

По-настоящему страшно становится, когда они неотличимы от людей.
А теперь представьте у него соображалку от Антропика или модель размером 1Тб через 10 лет.
Людям места не останется совсем. Ни на одном производстве ни в сервисе ни в быту.

#EngineAI #SE01 #robotics #Китай
———
@tsingular

Индия форсирует цифровую трансформацию с помощью NVIDIA

Крупнейшие технологические компании страны, Yotta, Tata и другие, нарастили вычислительные мощности в 10 раз за последние полтора года: собирают датацентры с тысячами GPU Hopper, с суммарной производительностью уже за 180 экзафлопс.
Внедение цифровых двойников на базе NVidia Omniverse на производствах Ola Electric и Reliance Industries позволило ускорить создание продукции на 20%.

Один из основных фокусов направлен так же на создание языковых моделей под 22 официальных языка страны.
NVIDIA со своей стороны для разработки локальных LLM предлагает технологический стек NeMo Framework, RAPIDS и TensorRT-LLM.

Индии, конечно, стоит ускорится. В части ИИ больше новостей даже из Китая сейчас, несмотря на то, что большинство высокотехнологичных компаний США возглавляют выходцы из Индии. 🤖🇮🇳

#NVIDIA #Omniverse #Индия
-------
@tsingular