Технозаметки Малышева
9.07K subscribers
3.92K photos
1.46K videos
41 files
4.09K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Forwarded from Data Secrets
Из xAI за одну ночь уволили 500 человек

Все они работали разметчиками данных. 500 специалистов – это, если что, примерно треть всего подразделения аннотаций данных. А подразделение аннотаций, в свою очередь, является самым большим в xAI.

Увольнения прошли не слишком гладко и красиво: сотрудникам отправили внезапные письма по электронной почте с уведомлением об увольнении и в тот же день отозвали все доступы. На xAI уже сыпятся жалобы, но в это мы углубляться не будем.

Интересно другое: в тот же день (это была пятница) xAI со своего аккаунта в X выложили пост такого содержания:

ИИ-тренеры в xAI приносят огромную пользу. Мы увеличиваем нашу команду ИИ-тренеров в 10 раз!

Мы нанимаем специалистов в таких областях, как STEM, финансы, медицина, безопасность и др. Присоединяйтесь к нам и помогите нам создать искусственный интеллект, ищущий истину!


Да, мы ничего не перепутали. Они уволили 500 ИИ-тренеров и тут же объявили, что хотят набрать несколько тысяч человек в эту же команду.

Видимо, увольнения не были вопросом низкой эффективности сотрудников, скорее – это стратегия. Судя по всему, уволили только аннотаторов «общего назначения», то есть тех, кто не является большим специалистом в какой-то области, а скорее занимался универсальной более тривиальной разметкой.

Такую разметку явно хотят автоматизировать, а человеческие ресурсы использовать только для нетривиальных задач в сложных областях. И в этом есть смысл.

Интересно, эта новость к какой категории относится, «ИИ забирает нашу работу» или «ИИ создает новые рабочие места»?
🤔19👍321👀1
Анатомия vLLM: как работает высокопроизводительная система для запуска больших языковых моделей

Команда vLLM выкатила детальный гайд по архитектуре своей системы инференса.

Разобраны:
- фундаментальная база, - ядро ЛЛМ и движка, управление очередью, постраничная обработка и батчи
- предзаполнение чанков, кэширование префиксов, управляемое и спекулятивное декодирование, разделенный P/D
- масштабирование GPU
- сервисный уровень, - распределенный и оптимизированный под веб-скаффолдинг
- бенчмарки

vLLM поддерживает распределённый запуск на нескольких GPU и снижает задержки, в том числе за счёт грамотного управления KV кэшэм, что особенно важно для корпоративного прода.

В целом очень годный мануал.
Переводим, сохраняем.

#vLLM #Inference #GPU
———
@tsingular
74
Forwarded from Machinelearning
This media is not supported in your browser
VIEW IN TELEGRAM
🚀 Совет, который спас OpenAI: “Всегда делай API”

В первые годы OpenAI балансировала на грани: фундаментальные модели становились всё дороже, а продукта, который мог бы оплачивать эти расходы, так и не появлялось.

GPT-3 выглядел впечатляюще, но в реальности был слишком «сырой», чтобы построить вокруг него работающий сервис.

Сэм Альтман вспоминает: «Я поднимал градус срочности - нам нужен был продукт, а идей не было».

И тогда в памяти всплыл совет Пола Грэма, основателя Y Combinator:
👉 «Всегда делай API. Что бы ни происходило - сделай API. Хорошие вещи придут сами».

OpenAI без особых ожиданий открыла доступ к GPT-3 через API. «Может, кто-то найдёт применение», - подумали в компании.

И действительно: первыми успехами стали сервисы для копирайтинга - Jasper, Copy.ai. Но самое любопытное оказалось в другом: часть пользователей начинала просто разговаривать с моделью часами напролёт. Это не было мейнстримом, но сигнал оказался настолько сильным, что команда поняла — вот он, настоящий продукт.

📅 30 ноября 2022 года OpenAI запустила ChatGPT как «исследовательский превью» на базе GPT-3.5. Всего за 5 дней им воспользовались более миллиона человек.

🔥 Из скучного API родился продукт, который изменил представление об искусственном интеллекте. И всё началось с одного простого совета.

@ai_machinelearning_big_data


#OpenAI #СэмАльтман #ChatGPT #стартапы
🔥20422
🔥 agency-swarm — проект, связанный с моделированием многагентных систем с использованием методов искусственного интеллекта!

🌟 Проект ориентирован на создание среды, где множество агентов могут взаимодействовать друг с другом, сотрудничать или конкурировать для достижения определенных целей.

🌟 Основная цель agency-swarm — это исследование и реализация агентных систем, где каждый агент может быть автономным и выполнять задачи в рамках заданной среды. Такие системы часто используются для симуляции поведения групп людей, животных или даже для оптимизации процессов, например, в логистике, робототехнике или при моделировании социальных взаимодействий.

🔐 Лицензия: MIT

🖥 Github

@data_analysis_ml
Please open Telegram to view this post
VIEW IN TELEGRAM
2🔥21
This media is not supported in your browser
VIEW IN TELEGRAM
Microsoft сделал Copilot Chat бесплатным

Пользователи Word, Excel, Outlook и PowerPoint теперь бесплатно могут общаться с ИИ помощником на базе GPT5.

Из чата можно добавлять файлы, загружать несколько картинок, генерировать изображения, вызывать агентов (кстати недавно МС так же добавили MCP хаб для офиса).
В корпоративной версии он еще и все данные компании может подтягивать в пределах вашего доступа, генерить брендированный под вашу компанию контент и использовать кастомных корпоративных ИИ агентов.

Ранее полный функционал Copilot стоил $20/месяц для индивидуальных пользователей и $30/месяц для корпоративных клиентов.

Помянем тысячи стартапов.

#Microsoft #Copilot #Office
———
@tsingular
👍7🔥411
🔥 Абсолютный клондайк от Майкрософт еще с утра держите.

Есть у них такой прекрасный ресурс, - Microsoft Learn, на котором бесплатно можно достаточно много полезного узнать.

И у него есть API. Так вот МС оказывается для него уже запилило бесплатный открытый MCP.

Т.е. буквально одной командой подключаете его к любому своему агенту и получаете полную базу знаний Майкрософт в инструментах.

{
"microsoft.docs.mcp": {
"type": "http",
"url": "https://learn.microsoft.com/api/mcp"
}
}


Пример интеграции в бота на скрине, как раз.

Очень здравая идея любую документацию или даже книгу окружить MCP серверами.
Берём пример, эволюционируем.

Если не знаете как или некогда самим, - обращайтесь, подскажу кто поможет.

#MCP #Microsoft
———
@tsingular
1🔥9631
CoreWeave подписали сделку с Nvidia на $6,3 млрд

Акции CoreWeave подскочили после объявления контракта с Nvidia на $6,3 миллиарда.

Сделка гарантирует выкуп неиспользуемых облачных мощностей до апреля 2032 года.

CoreWeave получит доступ к новейшим Blackwell Ultra/GB200 чипам и сможет расширить дата-центры в США и Европе.

Компания уже привлекла $1,5 млрд через IPO и $13 млрд долгового финансирования, используя H100 как залог.

При текущих убытках в $863 млн, контракт обеспечивает гарантию доходов на семь лет.

Чисто идём по треку доткомов и деривативов в недвиге.
Когда эта пирамида рухнет,- вспомним этих героев, бессовестно надувающих пузырь.
Уже обсуждали тут:
https://t.me/tsingular/4377

#CoreWeave #Nvidia #dotcom
------
@tsingular
👍5👀2🤯1😈1👻1
Forwarded from Сиолошная
OpenAI выпустили новую GPT-5 😑

...заточенную на программистов, GPT-5 Codex. Эта модель заменит o3 в Codex в веб-клиенте (наконец-то) и уже доступна в локальном Codex CLI / плагине для вашей IDE. Если вы ещё не пробовали — обязательно попробуйте! Это бесплатно, если вы подписаны на любой тир ChatGPT. В комментариях многие отмечали, что им нравится больше, чем Claude Code, и модель работает лучше.

GPT-5 Codex дотренировали на новых сложных реальных задач, создании проектов с нуля, добавлении функций и тестов, отладке, проведении масштабных рефакторингов и ревью кода.

По стандартному бенчмарку SWE-bench Verified разница не особо заметна, 74.5% против старых 72.8%. Однако на внутреннем бенчмарке OpenAI на задачах рефакторинга модель стала гораздо лучше: прыжок с 33.9% до 51.3%!

Но и это не всё: модель стала писать меньше бесполезных или ошибочных комментариев, лучше ловить баги в коде, и... думать меньше, когда это не надо. OpenAI взяли запросы от сотрудников внутри компании и сравнили количество токенов в ответах двух моделей.

Там, где ответы были короткими, они стали ещё короче, а там, где цепочки рассуждений и сгенерированный код были длиннее — стало больше. Со слов OpenAI, во время они наблюдали, как GPT‑5-Codex работал автономно более 7 часов подряд над большими и сложными задачами, выполняя итерации по внедрению, исправляя ошибки тестирования и в конечном итоге обеспечивая успешное решение задачи.

Codex CLI и Codex Web получили кучу обновлений за последний месяц, но про них писать не буду.

В API модель появится скоро, очень ждём, пока замеряют качество и на других бенчмарках. В системной карточке модели указали лишь один — по решению многоступенчатых задачек по кибер-взлому (с соревнований CTF). Модель наконец-то статистически значимо обгоняет o3! Жаль, не замерили другие бенчмарки (вроде PaperBench).
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
6🔥32
This media is not supported in your browser
VIEW IN TELEGRAM
Терминатор не потому фантастический фильм, что там роботы как люди, а потому, что люди побеждают.

#Китай #прицел #роботы
------
@tsingular
💯59👻11👀10👾7🗿321
Google запустила протокол AP2 для платежей между ИИ агентами

Google представила Agent Payments Protocol (AP2) - открытый стандарт для безопасных покупок через агентов.

Протокол использует криптографически подписанные "мандаты" для подтверждения намерений пользователя.
Поддерживает карты, криптовалюты и стейблкоины (через A2A x402 Extension).

К разработке подключились 60+ компаний, включая American Express, Etsy, Mastercard, Paypal, Revolut, Salesforce, ServiceNow, UnionPay International и Coinbase.

Система создает неопровержимый аудит каждой транзакции через двухэтапную верификацию - Intent Mandate и Cart Mandate.

Код на GitHub
И отдельно предлагают расширение для работы с криптой

Платёжные ИИ агенты к Новому Году отправятся за подарками вместо вас :)

#AP2 #Google #Payments #x402 #fintech
———
@tsingular
🔥1022🆒21
Check Point покупает Lakera: рождение первой полноценной AI-security платформы

Check Point объявил о покупке Lakera — ведущей AI-native security платформы для защиты GenAI приложений.

Закрытие сделки запланировано на Q4 2025 и создаёт первый в индустрии end-to-end стек для защиты полного жизненного цикла AI.

Что получает Check Point
Lakera Guard — real-time защита AI приложений:

- Обнаружение prompt-инъекций, jailbreak-атак и манипуляций с моделями
- Предотвращение утечек данных и PII в реальном времени
- 98%+ точность обнаружения со скоростью <50мс и false positive <0.5%
- Поддержка 100+ языков и всех основных AI-моделей

Lakera Red — pre-deployment тестирование безопасности:
- Экспертное red team тестирование AI-систем перед запуском
- Выявление уязвимостей в multi-agent системах и сложных workflow
- Анализ поверхности атаки от уровня модели и до уровня приложений

Техническая начинка платформы
- AI-native архитектура: построена специально для защиты LLM, а не адаптирована из традиционных security решений
- Gandalf intelligence: 80+ миллионов adversarial паттернов, обновляемых ежедневно командой из 11 PhD
- Model-agnostic: работает с любыми моделями — от OpenAI до собственных файнтюнов

Практическое применение
Для enterprise:

- Безопасный запуск AI-агентов в прод без ущерба для скорости
- Соблюдения комплайенса и требований по защите данных с DLP для AI
- Централизованное управление security политиками для всех AI приложений

Для разработчиков:
- Интеграция за 5 минут через простое API
- Out-of-the-box политики с возможностью кастомизации
- непрерывный threat intelligence с автоматизированными обновлениями

Таким образом Lakera становится основой глобального центра экспертизы в Check Point по направлению безопасности ИИ.

#cybersecurity #CheckPoint #Lakera
———
@tsingular
🔥64👌2🏆21
Tongyi DeepResearch: открытый ИИ-исследователь от Alibaba уровня GPT DeepResearch

Китайцы выстрелили: Tongyi-DeepResearch-30B-A3B полностью открытая модель, которая по качеству исследований догнала закрытых исследователей от OpenAI.
Файнтюн на базе Qwen 30B-A3B

- 32.9 в Humanity Last Exam
- BrowseComp: 43.4 / 46.7 (ZH)
- xbench-DeepSearch: 75 баллов

Возможности:
- 30.5B параметров, активация 3.3B (MoE) на базе
- Контекст 128K
- Сам генерит синтетику для дообучения (готовые скрипты в репе)
- Agentic CPT + RL — сначала учат базовым навыкам агента, потом "дошлифовывают" через reinforcement learning
- Два режима работы: ReAct (базовый) и Heavy Mode с IterResearch

Лицензия: Apache 2.0

Самое интересное, - вместе с моделью выложены сценарии (11 штук) по самым популярным типам использования, - исследователи, поисковики и т.д.
Все тут

#Tongyi #DeepResearcher #Qwen #Китай
———
@tsingular
🔥9👍321
This media is not supported in your browser
VIEW IN TELEGRAM
Youtube можно закрывать.

Они добавили в YouTube Shorts генерацию через Veo3 fast бесплатно для всех.

Живого контента скоро не останется совсем.

#veo3 #Youtube
------
@tsingular
20🔥65👀41👍1
📉Не жили богато, - нечего и начинать.

Акции Nvidia устремились вниз на фоне планов перехода Китая на собственные чипы.

#Nvidia #dotcom #bubble #Китай
———
@tsingular
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥113🤔2🤯1🍾1
Forwarded from эйай ньюз
Media is too big
VIEW IN TELEGRAM
Демо World Model от World Labs

Помните World Model от World Labs, стартапа Фей-Фей Ли (она же создатель легендарного курса cs231 c Карпатым), который генерирует целые миры по одной картинке? Я уже писал о том, что это такое и как работает здесь.

Ребята выкатили демо своей модельки. Теперь по сгенерированным мирам можно походить на своих виртуальных двоих прямо в браузере.

Также можно записаться в вейтлист, чтобы получить возможность загружать свои картинки.

Попробовать здесь: marble.worldlabs.ai

@ai_newz
🔥6👍3
This media is not supported in your browser
VIEW IN TELEGRAM
И о роботах.

Местами смотрится как нейрорендер, кстати, но может просто замедленная съёмка.

#собаки #роботы #Китай
———
@tsingular
🤯81🫡1🆒1👾1
Zoom запускает фотореалистичные AI аватары для видеозвонков

Zoom анонсировал новые AI аватары для видеоконференций с фотореалистичной анимацией и живым переводом.

Аватары создаются на основе короткого видеоролика пользователя и могут говорить на его голосе на разных языках. Функция будет доступна как премиум надстройка за $12 в месяц на пользователя.

Технология решает проблему плохого интернета и усталости от камеры - ваш аватар может участвовать в совещании даже когда вы отошли.

Так вот что значит переход на 4х дневную рабочую неделю.
Один из дней (или 3,- вместе с выходными) за вас будет работать ИИ двойник.

#Zoom #Avatars
———
@tsingular
🔥1032👨‍💻2