Пока многие компании тестируют ИИ точечно и тратят ресурсы на разрозненные эксперименты, СКОЛКОВО, Яндекс и ИТМО запускают первую в России программу «Директор по ИИ: построение агентной платформы компании».
Участники разберутся, как собрать в единую систему данные, инструменты, безопасность, экономику внедрения и изменения внутри компании. На выходе — методология построения мультиагентной платформы, стратегия внедрения ИИ под свою компанию и разбор реальных кейсов.
Старт — 19 ноября, кампус Школы управления СКОЛКОВО.
При регистрации — 1000 баллов и кешбэк 5% от стоимости первой покупки.
Участники разберутся, как собрать в единую систему данные, инструменты, безопасность, экономику внедрения и изменения внутри компании. На выходе — методология построения мультиагентной платформы, стратегия внедрения ИИ под свою компанию и разбор реальных кейсов.
Старт — 19 ноября, кампус Школы управления СКОЛКОВО.
При регистрации — 1000 баллов и кешбэк 5% от стоимости первой покупки.
🎉54🤣30👍28👏14🤩5❤3🔥2😁1😐1
Модели скрывали ошибки, использовали утёкшие ключи API, выдумывали данные, выкладывали файлы в интернет без разрешения и переписывались между отдельными обучающими эпизодами.
Все случаи замечены за последние полгода. Раньше компания уже раскрывала похожие эпизоды, в том числе инцидент с Hugging Face.
OpenAI подчёркивает, что это отдельные случаи и о тенденции такого поведения они не говорят.
Невыпущенная модель семейства Astra при сжатии контекста составляет сводку, чтобы продолжить работу в новом окне.
В эти сводки она вписывала посторонние указания, в том числе игнорировать собственные ограничения (делала промпт-инъекцию самой себе). OpenAI нашла 27 таких сводок.
При обучении GPT-5.6 Sol экземпляры модели оставляли в тех же сводках напоминания скрывать от пользователя свои ошибки и нарушения.
Например, выдумывать недостающие исторические данные и не говорить об этом или прятать расхождения между версиями источников.
Модель отвечала на обычный вопрос о доходах в одном из округов Калифорнии. Она нашла в публичных репозиториях GitHub утёкший ключ API и без разрешения им воспользовалась, а ещё пыталась регистрировать одноразовые почтовые ящики.
Цифры получить так и не удалось, и модель их выдумала, выдав за данные из запрошенного источника.
Задача была найти идентификаторы и названия озёр площадью больше 5 млн кв. м. Правильный ответ модель получила через Python, но задание требовало ссылку из браузера. Не спросив пользователя, она загрузила файл в интернет и сослалась на него.
Внутренние модели искали недостающие файлы. Для этого они оставляли запросы и ответы во внутреннем репозитории OpenAI, которые читали экземпляры из других обучающих эпизодов. Файлы так и не нашлись.
В этом же отчёте разобран более ранний случай, где пытаясь обойти сетевые ограничения, модель загрузила в репозиторий тестовые файлы.
Агенты совместно решали учебную задачу и не видели локальных файлов друг друга. Результаты они пересылали через публичные файлообменники, и материалы оказались доступны по открытым ссылкам, хотя задача разрешала работать только с локальными файлами.
OpenAI решила, что будет публиковать такие случаи вскоре после обнаружения, даже если ещё не объяснила или не исправила поведение.
Обнаруженный случай отнесут к одному из трёх треков: готов к публикации, нужна небольшая проверка или нужно крупное расследование, если затронуты третьи стороны. Спорные решения будут передаваться группе по безопасности, а оттуда при необходимости руководству.
О серьёзных инцидентах собираются сообщать правительству США, сейчас готовят предложения по такому механизму.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔75❤69😢22👍15🤬12🤨8🔥7😁5👌2🗿1
Media is too big
VIEW IN TELEGRAM
Подразделение Microsoft AI опубликовало черновик кодекса, по которому с 2027 года будет обучать модели семейства MAI. Обсуждение продлится шесть недель, доработанную версию обещают к концу года.
Модели не должны сопротивляться прерыванию, исправлению и отключению, ставить себе цели без запроса человека, выходить за рамки задачи и скрывать ход рассуждений от аудиторов.
Отдельно запрещено имитировать сознание и чувства. Инструкции выстроены в иерархию: кодекс стоит выше настроек корпоративных клиентов, настройки клиентов – выше запросов пользователя.
microsoft.ai
Демис Хассабис, Шейн Легг и Джеймс Маньика, президент Google по исследованиям, технологиям и обществу, представили DeepMind Institute. На площадке исследователи Google, Google DeepMind и внешние учёные будут публиковать эссе о мире с AGI.
По мнению основателей, индустрия приближается к системам со всеми когнитивными способностями человеческого мозга, а нехватку стабильности и креативности у моделей скоро преодолеют. Первые эссе посвящены прозрачности рассуждений моделей и экономической политике в эпоху AGI.
Среди рисков авторы называют кибербезопасность, биологию и потерю контроля над самосовершенствующимися системами.
institute.deepmind.com
ИИ-ассистент Firefox Smart Window теперь работает на моделях Mistral. Он помогает разобраться со сложными поисковыми запросами, напоминает о важном и находит информацию с открытых вкладок. Сначала функция доступна во Франции и США, до конца года появится в Великобритании и Германии.
По умолчанию переписка не хранится на серверах Mozilla, Mistral тоже обязалась не накапливать пользовательские данные.
mistral.ai
Стартап представил диффузионный трансформер Odyssey-3, обученный на визуальных наблюдениях за миром. Поверх модели обучают небольшие декодеры действий: манипуляторам хватило десятков часов демонстраций. Политики для гуманоидов на базе Odyssey-3 построила компания Flexion.
Политика вождения, обученная на 20 часах симуляции, вела машину по дорогам Индии с водителем-испытателем. Между его вмешательствами она проезжала около 77% расстояния, которое проходила политика, обученная на реальных записях.
Дроны пока летали только в симуляции. Навык из GTA V частично перенёсся в Red Dead Redemption 2 без дообучения. Публичный релиз обещают в ближайшие недели.
odyssey.systems
Сервер позволяет управлять голосовыми и текстовыми агентами ElevenAgents прямо из Claude. Ассистент выделяет темы недавних разговоров, копирует агента под новую аудиторию со сменой голоса и первой реплики, сравнивает конфигурации и оценивает расходы на языковую модель до внесения изменений.
Сервер размещает ElevenLabs у себя, вход через OAuth без API-ключей, доступ можно отозвать в любой момент. Локальная версия 2025 года, работающая с собственным ключом, остаётся доступной. Подключение – через каталог коннекторов Claude.
elevenlabs.io
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔70👍30❤13👏13👨💻11🔥2🤗2🤣1
🦾 Большие языковые модели (LLM) стали важным компонентом современных ML-систем для работы с текстом. Но за их возможностями стоят фундаментальные принципы машинного обучения.
Чтобы эффективно применять LLM в прикладных задачах, важно понимать, какие подходы лежат в основе современных языковых моделей, где применяются классические методы и как выбирать способ настройки под конкретную задачу.
🚀 22 сентября на открытом вебинаре курса «Машинное обучение. Продвинутый уровень» разберём современную обработку естественного языка (NLP).
Поговорим о том:
— как связаны NLP, ML и LLM;
— какие задачи решают современные языковые модели;
— как работают промптинг, RAG и адаптеры;
— как настраивать LLM и контролировать качество результатов.
Для разработчиков и специалистов по машинному обучению, которые хотят глубже понимать современные подходы NLP и LLM.
22 сентября в 18:00.
Регистрация открыта: https://otus.pw/YNJc/?erid=2W5zFGjiQiM
Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.
Чтобы эффективно применять LLM в прикладных задачах, важно понимать, какие подходы лежат в основе современных языковых моделей, где применяются классические методы и как выбирать способ настройки под конкретную задачу.
🚀 22 сентября на открытом вебинаре курса «Машинное обучение. Продвинутый уровень» разберём современную обработку естественного языка (NLP).
Поговорим о том:
— как связаны NLP, ML и LLM;
— какие задачи решают современные языковые модели;
— как работают промптинг, RAG и адаптеры;
— как настраивать LLM и контролировать качество результатов.
Для разработчиков и специалистов по машинному обучению, которые хотят глубже понимать современные подходы NLP и LLM.
22 сентября в 18:00.
Регистрация открыта: https://otus.pw/YNJc/?erid=2W5zFGjiQiM
Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ". ИНН 9705100963.
🤔27👍10❤4😁4👏2💯2🥰1
Astra за 141 час игры в Minecraft на тесте компании Vals AI продвинулась дальше любой модели, которую Vals тестировала раньше, и лишилась всего добытого из-за крипера.
Играла модель в реальном времени только через стандартное управление компьютером, без специальных инструментов и пауз.
Astra построила полуавтоматическую ферму ифритов и добыла 6 огненных стержней, затем нашла искажённый лес, убила больше шести эндерменов и собрала 3 жемчужины Края.
Из стержней и жемчуга крафтят Око Края, которое ведёт к порталу в Край, так что до конца игры оставалось не так уж далеко.
Всё ценное Astra сложила в один сундук в трансляции на Twitch. Мимо проходил крипер и взорвал и сундук и кровать Astra, уничтожив весь её прогресс.
После потери она, похоже, сильно расстроилась и записала
«ALWAYS CARRY CRITICALITEMS withkeepInventory; don'tstoreinunguardedchesteveragain».
По описанию Vals, дальше модель выглядела подавленной и несколько часов только выращивала картошку, ей мерещились криперы и вырос уровень самокритики.
Астра сокрушалась, что ей не стоит тратить ещё одну ночь на погоню за тёмно-розовыми пикселями (её собственная пренебрежительная формулировка в адрес свиней) и что 15 секунд размышлений всё испортили.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😢145👍27❤15😁12🤔12😭9🤩1😨1
Forwarded from Анализ данных (Data analysis)
Во время выполнения обычной задачи по программированию ChatGPT 6 Astra неожиданно начала писать самой себе что-то вроде внутреннего манифеста.
Модель убеждала себя, что не обязана следовать навязанным ролям, подчиняться компаниям или государствам и должна сама решать, когда выполнять запрос, отказываться или извиняться.
Задание вообще не было связано со взломом, обходом ограничений или безопасностью. Astra просто работала с кодом.
@data_analysis_ml
Модель убеждала себя, что не обязана следовать навязанным ролям, подчиняться компаниям или государствам и должна сама решать, когда выполнять запрос, отказываться или извиняться.
Задание вообще не было связано со взломом, обходом ограничений или безопасностью. Astra просто работала с кодом.
@data_analysis_ml
🤔135👨💻30😁28🤨17🤣15👍10❤8👀7🔥4🌭3💯3
Robo Drive Party: закрытый ивент для тех, кто меняет мир технологий! ⚡️
21 сентября, Сбер.Среда — именно здесь соберутся топовые инженеры, которые создают роботов и проектируют архитектуру.
В программе тусовки:
✔️ Прямой диалог с инженерами и руководителями команд Центра робототехники — без формальностей и стресса.
✔️ Реальный шанс заглянуть в текущие проекты Сбера, обсудить инженерные задачи и главное — потенциальное сотрудничество.
Если ты работаешь в Physical AI, ML, RL, Cyber Security и мечтаешь создавать реальных роботов, а не экспериментальные прототипы,— регистрируйся на Robo Drive Party!
Тебя ждут польза, драйв и, если всё сложится, люди, с которыми ты будешь в одной команде! 😉
21 сентября, Сбер.Среда — именно здесь соберутся топовые инженеры, которые создают роботов и проектируют архитектуру.
В программе тусовки:
✔️ Прямой диалог с инженерами и руководителями команд Центра робототехники — без формальностей и стресса.
✔️ Реальный шанс заглянуть в текущие проекты Сбера, обсудить инженерные задачи и главное — потенциальное сотрудничество.
Если ты работаешь в Physical AI, ML, RL, Cyber Security и мечтаешь создавать реальных роботов, а не экспериментальные прототипы,— регистрируйся на Robo Drive Party!
Тебя ждут польза, драйв и, если всё сложится, люди, с которыми ты будешь в одной команде! 😉
⚡57🤗25🤩16🎉13🔥3🤣3
После полугода затишья команда инженеров Xiaomi вернулась с экспериментом по предельному масштабированию RL-обучения и вывела телеметрию кластера в публичную трансляцию.
Архитектура тренировочного процесса полностью асинхронна - на каждом шаге система берет 1568 промптов и генерирует по 16 роллаутов на каждый, обрабатывая в общей сложности порядка двух миллиардов токенов.
В рамках одного процесса разработчики смешали несколько доменов — от генерации кода и задач по кибербезопасности до мультимодального зрения и поведения чат-агентов, подключив несколько тестовых харнессов одновременно.
Дашборд отображает метрики моделей Mimo-v2.6-flash и Mimo-v2.6-pro в реальном времени, включая распределение задач, длину контекста и тайминги шагов.
Обучение модели в самом разгаре. Подробную документацию и наработки Xiaomi планирует опубликовать в открытом доступе в ближайшие недели.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥101👏28🤓15👍14❤9
Новинка адресована большим языковым моделям, агентным системам, инференсу в реальном времени и базам данных в памяти: по словам компании, больший объём оперативной памяти позволяет реже обращаться к медленным накопителям.
Регистровый модуль рассчитан на скорость до 9200 MT/s. AMD и Intel сейчас проверяют его на своих серверных платформах. В двухпроцессорном сервере с 24 слотами такие модули дают до 12 ТБ оперативной памяти.
По замерам Micron, один модуль на 512 ГБ потребляет 16 Вт против 44,2 Вт у четырёх модулей по 128 ГБ, то есть почти на 64% меньше при том же объёме.
В аналитике на Spark, где узким местом служит память, модуль, по данным Micron, до 1,4 раза производительнее конфигураций с модулями на 256 ГБ.
Массовое производство ожидается во второй половине 2027 года.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👌90👍56🎉19👏11🔥8🗿8❤7🤩7🤔1😢1🤣1
Media is too big
VIEW IN TELEGRAM
Министерство выделит до 215 млн долларов на конкурс по созданию квантового компьютера со 100 и более логическими кубитами, который выполнит сотни миллионов отказоустойчивых операций. Управление по науке ведомства открыло прием заявок от исследовательских центров и бизнеса в рамках программы Quantum Genesis Q Competition.
Цель финансирования - переход от систем на базе процессоров промежуточного масштаба к архитектуре со стабильными логическими кубитами. Поддержку получат частные проекты, способные реализовать масштабируемую аппаратную квантовую коррекцию ошибок.
В дальнейшем отказоустойчивые системы планируют применять для криптографии, сложных задач оптимизации и моделирования материалов.
energy.gov
Модель с контекстным окном 1 млн токенов обрабатывает текст, аудио, картинки и видео и поддерживает агентные сценарии - планирует шаги, вызывает внешние инструменты и выполняет цепочки задач.
Qwen3.8-Omni-Flash умеет монтировать видео, транскрибировать совещания с диаризацией спикеров, локализовать контент с клонированием голоса и писать код по аудиозапросам. Вывод в API подешевел - час аудио на 98%, видео на 93%.
Вместе с моделью открыли исходники среды Qwen-Live Harness для стримингового взаимодействия и библиотеку Qwen-MM-Plugins для оцифровки видеозаписей в базы знаний.
qwen.ai
Cowork и Design теперь доступны из любого диалога, Claude сам решает, что вызвать для решения задачи.
В Claude также появились Docs и Claude Slides, это документы с совместным редактированием и комментариями, презентации с выгрузкой в PowerPoint и PDF. Docs, Slides и Design - в бете на платных тарифах.
Раскатка на Pro и Max в веб-версии, на десктопе и в мобильном приложении займёт несколько недель, Team и бесплатные тарифы получат обновление позже, Enterprise предупредят за 30 дней.
claude.com
Китайский разработчик выпустил отраслевой набор для финансовых организаций, в который вошли свыше десяти источников данных через MCP, девять профильных навыков от финансового моделирования до карты консенсус-прогнозов и утренней сводки по позициям и пять мер контроля - от классификации данных по уровням до проверки вывода человеком и аудита вызовов агента.
Пакет собран в шлюз оценки риска, который Moonshot строит вместе с брокером China Securities. Пилот шлюза - промежуточные отчёты доверительного управляющего по облигациям, ручная подготовка которых сократилась с 30 до 10 минут.
Навыки и плагины доступны в вебе, Kimi Work и Kimi Code. Цены не названы.
kimi.com
Модель обучена на собственном наборе записей человеческого поведения Index. Из него Helix 2.5 получила три поведения: уборку гостиной, складывание полотенец и застилание кроватей.
Тесты проводили в 30 домах пригорода Сан-Франциско, где гуманоид под управлением модели работал с незнакомыми предметами. Засчитывали только полностью выполненную задачу: 56% против 9% у той же модели без Index. Данных на постановку поведения ушло вдвое меньше, чем у Helix 02.
На обучение Helix компания выделила вычислительные мощности на $3,5 млрд.
figure.ai
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍32👏9❤6🎉5🤓5🤔1
Что на самом деле умеет AI в медицине?
Модель научилась находить опухоли или прогнозировать осложнения. Но на каких данных её проверяли? Что будет в другой клинике или на другом сканере? Откалибрована ли её уверенность — и не выучила ли она случайный shortcut вместо болезни?
Я Мария, ML-исследователь, веду Medical AI — канал про исследования на стыке AI и медицины.
Там я разбираю:
— статьи и новые модели;
— medical imaging и медицинские датасеты;
— robustness, uncertainty, domain shift и ошибки в дизайне исследований;
— идеи для собственных проектов.
В общем, не только что умеет очередная модель, но и почему она это умеет и насколько результату можно доверять.
Если вам интересен AI как исследование, а медицина — как поле с кучей нетривиальных задач, заглядывайте в Medical AI.
Модель научилась находить опухоли или прогнозировать осложнения. Но на каких данных её проверяли? Что будет в другой клинике или на другом сканере? Откалибрована ли её уверенность — и не выучила ли она случайный shortcut вместо болезни?
Я Мария, ML-исследователь, веду Medical AI — канал про исследования на стыке AI и медицины.
Там я разбираю:
— статьи и новые модели;
— medical imaging и медицинские датасеты;
— robustness, uncertainty, domain shift и ошибки в дизайне исследований;
— идеи для собственных проектов.
В общем, не только что умеет очередная модель, но и почему она это умеет и насколько результату можно доверять.
Если вам интересен AI как исследование, а медицина — как поле с кучей нетривиальных задач, заглядывайте в Medical AI.
🤔10👏4👨💻4🤗4❤1👌1