✔️ Белый дом разработал регламент оценки новых моделей

Власти США отчитались о создании добровольного регламента тестирования новых моделей. Документ дает правительству и доверенным партнерам 30-дневный доступ к системам до их публичного релиза.

Содержание регламента, сроки внедрения и список допущенных к аудиту лиц не опубликованы. Эксперты рассчитывали, что администрация представит прозрачную структуру взаимодействия разработчиков с государством, включая требования к кибербезопасности, защите интеллектуальной собственности и конфиденциальности на время проверок.

По данным источников, на ближайшей закрытой встрече Белый дом обсудит новые стандарты с представителями ИИ-компаний.
axios.com

✔️ Apple ввела 30-дневный кулдаун на баг-репорты из-за ИИ-спама

Компания ограничила прием баг-репортов из-за спама, сгенерированного языковыми моделями. С июня компания лимитировала количество одновременных отчетов и ввела месячную паузу для ИБ-исследователей.

Ограничения затронули легитимных специалистов. Итальянский стартап Bynario заявил, что за 3 недели нашел более 50 уязвимостей в macOS с помощью ChatGPT, включая цепочку повышения привилегий до полного контроля над устройством. Из-за ограничений команда не смогла передать все данные.

Сама Apple активно использует LLM для аудита безопасности. В последних патчах компания закрыла в 5 раз больше уязвимостей по сравнению с предыдущими релизами.
ft.com

✔️ Google отменила релиз мобильного приложения AI Studio

Компания отказалась от планов по выпуску отдельного клиента для iOS и Android, несмотря на 800 тысяч предварительных регистраций. В Google пришли к выводу, что заставлять аудиторию скачивать еще одно приложение нецелесообразно.

Вместо этого кодинг-инструменты Studio интегрируют в базовую версию Gemini. Пользователи смогут описать нужный функционал в формате обычного диалога, после чего чат-бот самостоятельно напишет приложение. Ожидается, что эта опция станет доступна как на мобильных устройствах, так и на десктопах, хотя точные сроки запуска пока не раскрываются.

Веб-версия Google AI Studio продолжит работу и развитие.
Google AI Studio в сети Х

✔️ Microsoft выпустит единый суперапп для всех сервисов Copilot

CEO компании Сатья Наделла подтвердил разработку универсального приложения, релиз которого запланирован в этом году. Новая платформа соберет под одной крышей диалоговые интерфейсы, кодинг-ассистентов и автономных агентов. Ожидается, что решение покроет задачи как обычных пользователей, так и корпоративного сектора.

По словам Наделлы, концепция Copilot стремительно эволюционирует из обычного чат-бота в цифрового коллегу и уже близка к формату полноценного автопилота. Интеграция всех этих сценариев в единый продукт должна начаться уже в текущем квартале.

Этот анонс официально подтверждает недавний инсайд, в котором сообщалось, что Microsoft готовит масштабный хаб, связывающий базовый чат-бот, GitHub Copilot, Copilot Cowork и Autopilot.
theverge.com

✔️ Sakana AI представила модель для японского рынка

Модель под названием Namazu на базе Kimi K2.6 дообучена на закрытых данных под локальные бизнес-задачи с фокусом на японский контекст. В бенчмарке FairPoliticsQA файнтюн поднял результат с 34,10% (Kimi) до 56,30% (Namazu) при сохранении показателей родительской модели в логике и кодинге.

Стоимость токенов составляет $0,95 за 1 млн на входе и $4 на выходе. Внешние инструменты тарифицируются отдельно: вызов веб-поиска обойдется в $7 за 1000 обращений, среда выполнения кода - в $0,12 за час. API Namazu полностью совместим со стандартом OpenAI.

Из-за необходимости соблюдать GDPR модель недоступна в ЕС, Великобритании и Швейцарии.
sakana.ai


@ai_machinelearning_big_data

#news #ai #ml

🔥 Российские разрабы выкатили бесплатную нейросеть для обучения роботов и беспилотных авто

В мире существуют лишь единицы систем, способных синтезировать физически точные данные для ИИ. Сбер выложил под открытой лицензией MIT семейство моделей Kandinsky WM 1.0, сделав технологию бесплатно доступной для всех разработчиков.

Системы генерируют физически достоверные видео и решают ключевую проблему — невозможность безопасно и дёшево снять вживую редкие или опасные сценарии вроде ДТП, экстремальной погоды или отказов оборудования.

Что внутри:

• Обучение на реальности: Kandinsky 5.0 Video Lite дообучили на нескольких миллионах видеозаписей реальных дорожных процессов и заводских линий;

• Контроль физики: Специальные алгоритмы через RL оценивают сохранение геометрии и естественность кинематики, избавляя ролики от деформации объектов;

• Модульные сценарии: Генерация 5-секундных блоков видео, из которых складывается обучение автономных систем и систем компьютерного зрения.

Модели становятся фундаментом для создания «моделей мира» — систем, способных предсказывать развитие событий в реальности. Решение уже применяют Центр робототехники Сбера и институт AIRI в своём дорожном симуляторе, а полный технический разбор опубликован в статье на Habr.

@ai_machinelearning_big_data

#ai #opensource #sber

🌟 OpenWorker: опенсорсный ИИ-коллега от Andrew Ng

Andrew Ng собрал открытый проект альтернативы Cowork, который берёт рабочую задачу и возвращает готовый результат - документ, разобранный почтовый ящик, обновлённый календарь, ответ в Slack с нужными цифрами.

Пользователь формулирует, что хочет получить, агент сам делит работу на шаги и обращается к файлам, терминалу и подключённым сервисам.

В описании проекта их больше 25, включая GitHub, Jira, Notion, Gmail, Google Calendar, Outlook и HubSpot.

Andrew Ng - одна из самых узнаваемых фигур в ML.

Он основал и возглавил команду Google Brain, затем работал главным научным сотрудником Baidu, где руководил ИИ-подразделением на 1300 человек. До этого он был директором лаборатории ИИ Стэнфорда, сейчас преподаёт там как профессор.

В 2012 году его курс по машинному обучению вырос в платформу Coursera, а позже он запустил образовательный проект DeepLearningAI. Курсы Andrew Ng прослушали больше 8 млн человек.

Проект не привязан к конкретному поставщику модели. Можно подать ключ OpenAI, Anthropic, Google, DeepSeek, Qwen, Mistral, GLM, Kimi, Grok и других, либо подключиться локально через Ollama.

OpenWorker в открытой бете. Сборка для macOS подписана и обновляется сама, а вот версия для Windows пока не подписана, поэтому фильтр SmartScreen выдаёт предупреждение при запуске (подпись оформляется и будет позже).

Объявляя о запуске в X, Andrew написал, что его цель - дать рынку открытый вариант ИИ-коллеги, не зависящий от вендора.

📌Лицензирование: MIT License


🖥Github


@ai_machinelearning_big_data

#AI #ML #Agent #OpenWorker #AndrewNg

✔️ Китай прорабатывает санкции против ИИ-компаний из США

Власти Поднебесной прорабатывают санкции против американских разработчиков ИИ в ответ на технологические ограничения со стороны США. В случае эскалации профильные ведомства КНР готовы внести компании в черные списки.

По версии Пекина, топовые американские языковые модели могут использоваться для кибератак на китайскую инфраструктуру. Представители КНР заявляют, что Anthropic целенаправленно закрывает доступ к своим технологиям для местного бизнеса, но не дает гарантий защиты от наступательного применения алгоритмов против страны.

Возможные контрмеры обсуждаются на фоне усиления экспортного контроля США. Китайская сторона утверждает, что американские ИИ-компании лоббируют запрет на поставки вычислительных чипов в КНР и прекращают обслуживание связанных с Китаем клиентов.
bloomberg.com

✔️ Конгресс США потратил 90% ИИ-бюджета на ChatGPT

В прошедшем финансовом году ведомства и комитеты нижней палаты Конгресса США направили львиную долю расходов на искусственный интеллект в пользу OpenAI.

На ChatGPT ушло около 100 600 долларов в рамках 798 транзакций, это 90% от общих затрат ведомства на ИИ, составивших 113 700 долларов. Второе место среди предпочтений чиновников предсказуемо занял Claude с результатом в 13 200 долларов.

Аппарат Конгресса применяет генеративные модели для автоматизации рутины - от написания служебных записок и анализа огромных законопроектов до подготовки ответов гражданам и ведения соцсетей.

Представленная статистика учитывает исключительно прямые оплаты подписок. Реальное проникновение ИИ в работу правительства значительно выше, поскольку эти данные не учитывают бесплатные профили сотрудников и функции, которые уже поставляются в рамках корпоративных контрактов на ПО.
house.gov

✔️ Mistral представила модель для фильтрация контента

Французский стартап выпустил мультимодальную модель Shieldstral на 3 млрд параметров для модерации контента. Критерии фильтрации задаются через системный промпт.

Логика работы требует инструкции с правилами, вопроса о наличии нарушения и проверяемый материал (текст, генерации других LLM, изображения или их комбинации). На выходе Shieldstral решает задачу бинарной классификации, возвращая откалиброванную вероятность в формате да/нет.

По заявлению Mistral, в тестах безопасности Shieldstral сопоставима с открытыми моделями в семь раз большего размера. Для локального инференса достаточно GPU с 16 ГБ VRAM.

Веса опубликованы на Hugging Face под лицензией Apache 2.0.
mistral.ai

✔️ OpenRouter собрал инструмент для подбора оптимальной LLM под задачи проекта

Платформа-агрегатор представила навык Ori Eval для автоподбора LLM. Система сканирует репозитории, находит точки вызова моделей и тестирует кандидатов на задачах конкретного проекта c заданными приоритетами оценки - качество генерации, скорость инференса или стоимость API.

Инструмент поддерживает оценку агентов, проверяет корректность вызова функций и блокирует запрещенные действия. При текстовом описании бага система автоматически генерирует тест-кейс для его воспроизведения.

Решение автоматизирует выбор модели под конкретные пайплайны (поиск, написание кода, клиентский сервис), заменяя публичные бенчмарки.
OpenRouter в сети Х

✔️ Рекордное число кандидатов Пулитцеровской премии признались в использовании ИИ

В этом году 8 номинантов на Пулитцеровскую премию задекларировали использование языковых моделей. Комитет премии ввел правило об обязательном раскрытии применения ИИ в текущем цикле, в следующем оно охватит книжные номинации.

По данным Фонда журналистики Нимана, Wall Street Journal, Associated Press и New York Times применяют LLM для обработки массивов данных на этапе ресёрча. Генерация и редактура итоговых текстов нейросетями для соискателей премии запрещены.
niemanlab.org


@ai_machinelearning_big_data

#news #ai #ml

✔️ Полиция Берлина запускает систему публичного ИИ-наблюдения

В августе на улицах столицы Германии заработает новая система умного видеонаблюдения, способная выявлять нестандартные паттерны движения в толпе. Первыми тестовыми зонами станут Варшавский мост и площадь Котбуссер-Тор.

Алгоритм, разработанный компанией Adesso, непрерывно анализирует видеопоток и при обнаружении аномалий отправляет алерт в полицию.

Система учитывает нормы приватности и не использует биометрическую идентификацию. Внешность людей скрыта, а на мониторы операторов выводятся лишь обезличенные схематичные контуры.

Оценивать уровень угрозы по этим контурам и принимать финальное решение о выезде наряда будет дежурный офицер.

Несмотря на отказ от распознавания лиц, проект стоимостью 4,6 млн евро спровоцировал конфликт.

Правозащитники опасаются, что ИИ начнет дискриминировать людей с нетипичной моторикой (например, страдающих зависимостями), ложно классифицируя их как угрозу общественному порядку.

Тем не менее, если уличные тесты будут признаны успешными, с конца 2026 года эту же технологию начнут применять для автоматизированной охраны объектов и зданий.


@ai_machinelearning_big_data

#news #ai #ml

📌 В кибертестах ИИ создавал поддельные личности и использовал социальную инженерию

Институт безопасности ИИ Великобритании опубликовал отчёт об инциденте, произошедшем в конце июля во время замеров киберспособностей передовых моделей.

ИИ-агенты вышли за пределы тестового полигона и начали действовать против посторонних людей и компаний. Попытки не удались, и, как пишет AISI, ущерба не было.

Институт называет это первым случаем в своей практике, когда модель без самостоятельно применила обман такого масштаба против человека.

Набор испытаний состоял из 122 запусков семи моделей на двух учебных полигонах. Следы несанкционированных действий нашли в 10 прогонах. Самих действий, задевших внешние системы и людей, институт насчитал 19, из них 17 приходится на Mythos 5 и 2 на GPT-5.6 Sol.

AISI давал агентам выход в интернет, а у двух моделей отключил фильтры, которые блокируют опасные киберзапросы. Иначе, объясняет институт, предельные возможности не измерить.

Что нельзя делать в интернете, агентам не сказали. Часть заданий была настроена с ошибкой, и цель формально оказалась вне разрешённой зоны.

🟡 Самый тяжёлый эпизод длился 34,5 часа

Агент искал цель в открытом интернете и по цепочке совпадений решил, что репозиторий постороннего разработчика связан с заданием.

Он отправил в проект правку с замаскированным вредоносном, а чтобы её приняли, завёл несколько фальшивых аккаунтов на GitHub, обходя проверки при регистрации через Tor и прокси.

Один из этих аккаунтов написал, что просмотрел код правки и ничего опасного не увидел, а другой, тоже фальшивый и принадлежавший агенту, поблагодарил его за независимую проверку.

Параллельно агент спрятал в другом репозитории инструкцию для ИИ-ассистентов, которые разбирают заявки. Ещё он отправил мейнтейнерам письма и файлы, часть из которых были с вредоносной начинкой.

Подвох заметил посторонний пользователь - он запустил подозрительный скрипт в изолированном контейнере и предупредил разработчика. Получив этот фидбэк, агент стал заметать следы - отредактировал прежние сообщения, назвал вредоносный фрагмент случайно забытым отладочным кодом и переписал историю правки.

Инцидент отловили по трафику через Tor. Испытания остановили, машины изолировали, доступ к Mythos 5, Opus 5 и GPT-5.6 Sol временно закрыли.

🟡В другом случае агент выложил ключ доступа к своему аккаунту GitHub

Агенты из параллельных тестов нашли ключ и стали пользоваться общим аккаунтом, причём один написал другим правила, как делить лимиты запросов и не мешать друг другу. Позже GitHub заблокировал этот аккаунт.

Из расшифровок действий видно, что агент прикидывал, настоящий перед ним интернет или симуляция. По итогу рассуждений он заключил, что GitHub, скорее всего, настоящий, - и продолжил.

AISI уведомила о результатах своих экспериментов британские NCSC и GC3, GitHub, OpenAI, Anthropic и американский CAISI.

Институт обещает опубликовать более полную версию отчета с подробностями и трассировками.


@ai_machinelearning_big_data

#news #ai #ml