Технозаметки Малышева
8.53K subscribers
3.82K photos
1.43K videos
40 files
4K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
IBM представляет Granite 3.0: открытые ИИ-модели для бизнеса

Компания IBM выпустила семейство ИИ-моделей Granite 3.0 под открытой лицензией Apache 2.0.
Модели обучены на 12+ триллионах токенов данных, включая 12 языков и 116 языков программирования.
Granite 3.0 превосходит аналоги в академических и отраслевых тестах.
Представлены варианты 8B и 2B, а также Mixture of Experts (MoE) для легковесных приложений.
Так же есть модель-модератор Granite Guardian для задач по безопасности и этике ИИ.

Доступны в WatsonX, AWS, Google Cloud, а так же в GitHub и HuggingFace.

#IBM #Granite #OpenSource
-------
@tsingular
Forwarded from эйай ньюз
Эквивалент GPT-2 Small теперь тренируют за 12 минут

Тюнинг процесса тренировки и архитектуры сократил количество токенов до определённого лосса почти в 4 раза - на 8xH100 тренировка занимает чуть больше 12 минут и стоит меньше 5 долларов.

Поменяли функцию активации на relu^2, а норму - на RMSNorm.
Новый оптимайзер - Muon. Использует меньше памяти, чем Adam, при этом тренируется в полтора раза быстрее по сравнению с Adam. Правда, использует чуть больше компьюта на степ (wallclock падает меньше чем на 2 процента).
Projection matrices инициализируют теперь нулями.
Добавили норму к QK-проекциям.
Паддят эмбеддинг-матрицу до размерности, кратной 64.

Пока полный сетап тестили только на 125M модели, оптимайзер - на моделях до 1.5B. Учитывайте, что трюки для маленьких моделек часто не реплицируются при скейле, но экстремальная оптимизация всё равно полезная.

Код для тренировки, кстати, всего 500 строк.

https://github.com/KellerJordan/modded-nanogpt

@ai_newz
2
А вот эта история выше - огонь.
Собственно это пусть к переводу знаний модели из сознания в подсознание.
Тренировка вот таких быстрых мини моделей на выводах, которые ИИ модель делает в реальном времени и будут составлять суть механизма роя нейронов.

#нейророй #самообучение
------
@tsingular
🔥4
This media is not supported in your browser
VIEW IN TELEGRAM
Китайская компания Kepler представляет нового робота - Forerunner K2

На GITEX GLOBAL 2024 Kepler Robotics анонсировала Forerunner K2 - полноразмерного гуманоида общего назначения.

Forerunner K2 проходит тестирование у клиентов в реальных условиях и выполняет такие задачи, как контроль качества на производстве, перемещение грузов, патрулирование и взаимодействие с опасными материалами.

Роботы-гуманоиды становятся привычными на заводах и в рабочей среде.

#Kepler #Forerunner #роботы #Китай
———
@tsingular
👍97🤔3
Gartner опубликовал 10 трендов 2025 года

Аналитическая компания представила прогноз по десятке ключевых технологических направлений:
1. Агентный ИИ: автономные системы с самостоятельным принятием решений.
2. Управление ИИ: фреймворки для контроля этичного и легального использования искусственного разума.
3. Борьба с дезинформацией: механизмы противодействия фейкам.
4. Постквантовая криптография: шифрование нового поколения.
5. Распределённый интеллект: внедрение сенсоров и умных систем в окружающую среду.
6. Экологичные вычисления: энергоэффективные технологии. (АЭС? :) )
7. Гибридные дата-центры: симбиоз различных вычислительных подходов.
8. Пространственные вычисления: развитие VR/AR и смешанной реальности.
9. Многозадачные роботы: роботы способные выполнять универсальные задачи.
10. Нейротехнологии: интерфейсы мозг-компьютер для когнитивного апгрейда.

Ещё пара лет и будем обсуждать права электронных граждан. 🤖🤝

#Gartner #TechTrends #FutureTech
-------
@tsingular
👍32
Microsoft открыла возможность создавать автономных ИИ-агентов

В CopilotStudio теперь можно без навыков программирования создавать автономных ИИ-помощников на основе моделей Microsoft и OpenAI, способных выполнять широкий спектр бизнес-задач.

10 готовых ботов с различными бизнес-функциями уже доступны в среде разработки.

Сатья Наделла, при этом заявил, что последние годы мы обгоняем закон Мура и вычислительные мощности теперь удваивается не каждые 18, а каждые 6 месяцев.

В принципе, можно вывести следствие закона Мура - % профессий, замещаемых ИИ каждые 6 месяцев будет удваиваться.

#Microsoft #Copilot #AutonomousAgents
-------
@tsingular
4
Anthropic обновили Соннет и Хайку!

Представлены модернизированный Claude 3.5 Sonnet (claude-3-5-sonnet-20241022) и новая модель Claude 3.5 Haiku (The new Claude 3.5 Haiku will be released later this month. 😢 ).

Также добавили новую возможность в бета-версии: использование компьютера.

Разработчики теперь могут поручить Клоду использовать компьютеры так, как это делают люди — глядя на экран, перемещая курсор, щелкая мышью и печатая текст.
Демо
Инструкция для разрабов

Опус зажали до Рождества, что-ли?! :(

#Anthropic #Claude
------
@tsingular
Please open Telegram to view this post
VIEW IN TELEGRAM
👍31
HuggingChat: бесплатный открытый веб-чат с моделями и агентами от HuggingFace

Команда Hugging Face выпустила HuggingChat - гибкую альтернативу ChatGPT.
На сегодня поддерживает 8 различных открытых моделей, включая Mistral, Llama, Qwen и Nvidia Nemotron 70B.
Можно включить веб-поиск, создать своих ассистентов или подключить готовых.
Да и в принципе, по-скольку решение основано на миллионах тулов от сообщества HF, - его можно расширять: генерация изображений, клонирование голоса, анализ документов, - все это подключается на платформе.

https://huggingface.co/chat/

Не требует регистрации для базового использования.
VPN тоже не нужен.

#HuggingFace #OpenSource #Chatbot
-------
@tsingular
👍10🔥1
Добавил в бота Claude последнюю модель Sonnet 3.5.

"Осенний сонет"

В багряном золоте осенняя пора,
Листва кружится в танце безмятежном,
И ветер шепчет песню безнадежно,
Как будто знает - близится зима.

Природа дремлет, красками пьяна,
В прощальном вальсе кружится небрежно,
И солнце светит ласково и нежно,
Как будто бы прощается она.

Последний луч скользит по глади вод,
Рисуя в них узоры листопада,
И птичий клин уходит в небосвод.

А сердце бьется тише, и отрада
В душе растет, когда природа ждет
Покоя зимнего как высшую награду.


Сонет от Соннета.
Без изменений с одного запроса.

#боты #dev
———
@tsingular
👍9❤‍🔥3
Кай-Фу Ли объявил войну Nvidia и всей ИИ-экосистеме США.
И судя по его последним достижениям, шансы победить есть.

Потрясающе интересное выступление китайского ИИ гуру Кай-Фу Ли будут теперь долго обсуждать. Это абсолютно революционное выступление, прозвучавшее на закрытой дискуссии Collective[i] Forecast, Ли посвятил трем темам.
1. ИИ-экосистема США (основа мировой ИИ-экосистемы) «невероятно больна». Её необходимо кардинально перестроить, иначе на реальном (практическом) прогрессе ИИ можно ставить крест.
Сегодня ИИ-экосистема состоит из Nvidia и мелких производителей ИИ чипов. При этом производители чипов для ИИ зарабатывают сейчас в год $75 млрд, а вендоры ИИ-инфраструктуры – лишь $10 млрд и вендоры ИИ-приложений — лишь $5 млрд».
«Если мы продолжим работать в этой перевернутой пирамиде, это станет проблемой» — сказал Ли. Т.к. это беспрецедентный переворот в экономике классической технологической отрасли. Традиционно производители приложений получают больше, чем поставщики чипов и систем (напр. Salesforce, внедряя CRM, получает куда больше, чем Dell и Intel, производящие компьютеры и чипы для запуска CRM в облаке)
Оздоровить ИИ-экосистему может лишь создание ИИ-компаниями собственных вертикальных интегрированных технологических стеков, как это сделала Apple с iPhone. Только так станет возможным значительно снизить стоимость генеративного ИИ.
2. Главным направление в разработке моделей должно стать снижение стоимости вывода – это самое важное для создания востребованных бизнесом приложений с ИИ.
Сегодняшняя стандартная стоимость сервиса типа GPT-4 составляет $4,40 за млн токенов. Это эквивалентно 57 центам за запрос —и это непростительно дорого, ибо поисковый запрос в Google (без всякого ИИ) обойдется в 180 раз дешевле.
3. Вторым важнейшим направлением в разработке моделей должен стать переход от универсальных базовых моделей к «экспертным моделям».
Бизнесу нужны не универсальные модели, обученные на океанах неразмеченных данных, собранных из Интернета и других источников. Подход «экспертных моделей» подразумевает создание множества нейронок, обученных на отраслевых данных. Это может обеспечить достижение того же уровня «интеллекта», что и универсальная базовая модель, при использовании гораздо меньшей вычислительной мощности.

Самое потрясающее, что все 3 пункта – это не предложения, основанные на предположениях. Стартап Кай-Фу Ли «01.ai» уже делает все это на практике.
И не просто делает, а уже добивается уникальных результатов.

• Их новая модель Yi-Lightning занимает 6-е место в мире (выше выпущенной 5 мес назад GPT-4o). Но при этом это очень маленькая модель, которая чрезвычайно быстра и недорога (всего $0,14 за млн токенов ). Её производительность сопоставима с Grok-2. Но она обучалась всего на 2000 H100 в течение 1 месяца. Что демонстрирует ненужность 100 тыс H100 и ярдов затрат (обучение Yi-Lightning стоило всего $3 млн).
01.ai применяет «экспертный» подход к сбору данных. И хотя «инженерам приходится проводить массу неблагодарной черновой работы» по маркировке и ранжированию данных, но – как считает Ли, - Китай с его резервом дешевых инженерных кадров может сделать это лучше, чем США.
• И даже в создании собственного вертикального интегрированного техно-стека есть прогресс. Напр, за счет использования собственных аппаратных инноваций, стоимость одного запроса к ИИ-поисковику BeaGo составляет всего около 1 цента (что приблизилось к стоимости запроса Google без всякого ИИ)

И еще 3 цитаты Ли:

Сила Китая не в том, чтобы делать лучшие прорывные исследования, которые никто не делал раньше, с бюджетом без ограничений. Сила Китая в том, чтобы построить хорошо, быстро, надежно и при этом дешево.

Для предприятий новое поколение ИИ станет их мозгом, а не периферийными приблудами. Для нефтяных компании ИИ будет добывать нефть. Для финансовых — зарабатывать на деньгах.

Для потребителей сегодняшняя модель смартфона, скорее всего, исчезнет.


А ведь еще 1.5 года назад Ли предупреждал - Китай не станет догонять США в ИИ, а сразу пойдет на обгон.

#ИИгонка #Китай
👌62👍2
Nvidia представляет фреймворк для агентного ИИ

Агентный ИИ,- не просто чат-бот, но способен сам принимать решения и планировать свои шаги.
Выделяют 4 основных шага:
1. Сбор информации, - ИИ используется чтобы получить максимальный контекст из окружения или из RAG.
2. Обоснование, - ИИ работает как оркестратор или машина рассуждений, координирующая всю логику.
3. Действия, - Приведение плана в реальность через различные интегрированные инструменты.
4. Выводы, - Агентный ИИ самосовершенствуется через механизм обратной связи.

https://www.nvidia.com/en-us/ai-data-science/ai-workflows/

Основные сферы применения: клиентский сервис, маркетинг, разработка ПО и медицина.
Статистика показывает экономию до 3 часов при создании контента и потенциальную автоматизацию 30% времени разработчиков к 2030 году.

Правильный шаг. Создавать таких агентов малому бизнесу дорого и готовые решения тут точно помогут.
Вопрос лишь в том, - стоит ли подсаживаться на проприетарные фреймворки или смотреть в сторону открытых.

#NVIDIA #автономныеагенты
-------
@tsingular
1🔥1
Stability AI обновился до версии 3.5

Добавил её в генератор картинок этого бота:
@cloud_gpt_bot

команда
/image описание картинки


выдаст вам аж 3 варианта за 1 запрос - Dall-E, Stability и Flux

#боты #dev
———
@tsingular
2🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
Ideogram Canvas: революция в работе с AI-изображениями

Канадский стартап Ideogram, созданный экс-сотрудниками Google Brain, представил инновационный редактор Canvas.
Решение объединяет функции генерации, редактирования и компоновки изображений в едином бесконечном пространстве.
Уникальные возможности включают Magic Fill, Extend и прецизионное размещение текста внутри картинок.

Есть так же API для разработчиков с тарификацией от $0.01 за описание до $0.08 за генерацию.

https://ideogram.ai/

Ideogram обгоняет Photoshop.
MagicFill там даже в бете пока нет, - это вот когда их 2х фото делается одна общая, как-будто оно так и было. см. видео.

#Ideogram #Canvas #GoogleBrain
-------
@tsingular
UiPath, в рамках конференции UiPath Forward 2024 в Лас-Вегасе анонсирует симбиоз RPA-роботов с ГенИИ

Agent Builder дебютирует в декабре 2024 как часть UiPath Studio для создания интеллектуальных автономных агентов.

Платформа интегрирует Claude 3.5 Sonnet и Inflection AI Enterprise.

UiPath Agent Catalog уже содержит готовых ИИ-ассистентов для автоматизации.

Autopilot внедряет разговорный интерфейс управления процессами.

Локальная обработка реализована на процессорах Intel Gaudi 3.

Наконец-то подтянулись гиганты офисной автоматизации.
От UiPath ждал чего-то подобного еще год назад. 🤖
Конференция идет в эти дни, послезавтра нужно будет посмотреть записи на Youtube.
Там у них коллаборация с TechEd, так что должно быть интересно.

#UiPath #RPA #AgentBuilder #TechEd
———
@tsingular
🆒4🔥1
Forwarded from эйай ньюз
This media is not supported in your browser
VIEW IN TELEGRAM
😮 Новая фича ElevenLabs позволяет создавать голоса по текстовому запросу. Ребята показывают кто на рынке главный и служат прекрасным примером как небольшой стартап может легко побить гигантов, которые просто боятся делать такой продукт.

Как думаете, когда выйдет первая опенсорсная Text to Voice модель?

@ai_newz
Please open Telegram to view this post
VIEW IN TELEGRAM
👍81👾1
Google DeepMind выпустили набор музыкальных AI-инструментов

DeepMind анонсировал три революционных решения для создания музыки:

MusicFX DJ позволяет генерировать композиции в реальном времени через текстовые команды, управлять темпом и тональностью.

Music AI Sandbox предоставляет профессиональным музыкантам мультитрэковый интерфейс с детальным контролем.

Dream Track интегрируется с YouTube для создания фоновой музыки.
Все инструменты поддерживают качество 48 кГц стерео и защищены водяными знаками SynthID.

Помянем диджеев.
Интересная функция - предсказание следующего фрагмента.
Получается они токенизировали прям куски в разных размерностях. 🎵🤖

#DeepMind #MusicFX #DreamTrack
———
@tsingular
Forwarded from Machinelearning
🌟 Яндекс представил YandexGPT 4

🟢 Две версии модели — YandexGPT 4 Pro и YandexGPT 4 Lite — стали доступны через API в Yandex Cloud. Первым сервисом с новым семейством моделей станет Алиса с опцией «Про».

🟢 Специалисты Яндекса рассказали на Хабре про функции модели и их разработку. Например, YandexGPT 4 Pro в 70% случаев отвечает лучше своей прошлой версии.

🟢 Также команда в 4 раза, до 32 тысяч, увеличила количество токенов, которое YandexGPT 4 Pro может обрабатывать в промте. Это позволило модели лучше работать с длинными сложными запросами и анализировать большие объемы данных.

🟡 Хабр

@ai_machinelearning_big_data

#AI #ML #LLM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍33