А, ну походу получается, раз сбой был на Haiku модели, а выкатили пока только Sonnet, - значит таки ждем скоро Haiku 4.6

#Haiku #Claude
------
@tsingular

Продолжаю наблюдение за ИИ. Надысь Anthropic выпустила презанятнейший материал Anthropic Red, в котором говорится, что новая модель Claude Opus 4.6 "из коробки" находит уязвимости в хорошо "вылизанных" проектах и делает это не как фаззер, а как исследователь – читает код, историю коммитов, ищет непокрытые пути и строит PoC. Они заявляют, что нашли и провалидировали 500 с лишним критичных багов, часть которого в коде, который годами гоняли под фаззерами.

Это приводит к интересным выводам. Кто-то пытается посчитать, сколько уязвимостей будет внесено в CVE в этом году. По версии FIRST их будет 59427 (в интервал от 30012 до 117673). Но мне гораздо ближе более практичный вывод от самого Anthropic, которая считает, что привычные 90-дневные окна раскрытия уязвимостей (disclosure) могут проиграть в борьбе со скоростью и объемом находок, сделанных LLM, которые не стоят на месте и будут развиваться. Если такие инструменты станут массовыми, "мы не успели проверить" перестанет быть оправданием даже для небольших команд.

OpenAI, выпустив GPT-5.3-Codex, говорит, что это первый релиз, который они классифицируют как High по своему фреймворку Preparedness Framework именно в домене кибербезопасности. Они не утверждают, что модель уже доказанно способна полностью автоматизировать кибероперации против защищенных целей, но они не могут исключить, что ее способности приблизились к такому порогу. То есть модель потенциально способна существенно облегчить или автоматизировать полный цикл киберопераций, включая разработку zero-day, их эксплуатацию и масштабирование.

И Anthropic, и OpenAI сами испугались своих детищ и стали ограничивать их в наступательных возможностях. Например, в тексте про 0-days Anthropic описывает новый слой в модели, специально заточенный под обнаружение киберзлоупотреблений, и прямо пишет про возможные вмешательства вплоть до блокировки трафика, если они увидят злые намерения. OpenAI тоже не сидит сложа руки и устанавливает правила по доступу к возможностям своих моделей с точки зрения кибербеза. Они требуют верификацию личности для пользователей (через chatgpt.com/cyber) и доступ для enterprise-команд через представителя OpenAI. Кто хочет более глубокий "кибер-режим", будут приглашены отдельно. Ну и автомониторинг/классификаторы подозрительной активности и запреты на классы поведения (утечки, вредоносы, разрушительное/неавторизованное тестирование). Кроме того, некоторые запросы с повышенным риском могут автоматически "скатываться" с модели GPT-5.3-Codex на "более слабую" GPT-5.2.

В дополнение к происходящим событиям вокруг GPT-5.3-Codex и Claude Opus 4.6, OpenAI только что анонсировала новый режим безопасности в ChatGPT под названием Lockdown Mode (только для корпоративных пользователей). Это опциональный режим повышенной безопасности для ChatGPT, ориентированный на высоко рискованных пользователей, например, руководителей, команды ИБ, юридические команды и организации, где возможна утечка конфиденциальных данных через ИИ. Он жестко ограничивает взаимодействие модели с внешними системами, чтобы снизить риск утечки данных через prompt injection.

В целом, обе компании по сути заявляют: "Мы не уверены, что пересекли красную линию, но готовы вести себя так, как будто пересекли". И исходя из этого предположения они ограничивают обычных пользователей в ИБ-возможностях. Но ведь кого-то они не ограничивают? Ведь правда же?... Кто-то может получить "лицензию на киберубийство" от OpenAI и Anthropic? И если раньше компании защищались аргументом “модель еще не настолько продвинута”, то теперь защита строится по принципу "способности могут развиваться быстрее, чем мы сможем это доказать эмпирически".

В интересное время живем... Продолжаю наблюдать.

#ии #тенденции #оценказащищенности

Молти идет учиться.

Тут вот спрашивают, - как обучать краба, какие оптимальные промпты, лайфхаки есть?

А я вот подумал, что каждый раз инструктировать цифрового коллегу, конечно, можно, но совсем не обязательно.

И теперь мы перешли к управлению «цифровой траекторией обучения» агента.

Настроил журнал обучения и поставил задачу изучить по базам курсов университетов, что ему было бы полезно развить в себе в первую очередь.

Как это работает сейчас:

1. Learning Plan: У агента есть бэклог тем (от нейронок типа TinyML до этики стоицизма в логике принятия решений). Каждая тема имеет ID (L001, L002...), приоритет и ожидаемый результат.

2. Learning Journal: Раз в 3 часа (в цикле эволюции) Молти фиксирует в БД: что изучено, какие выводы сделаны (с пруфами и ссылками) и как это применено в текущих скриптах.

3. Control: Я могу в любой момент через CLI или Web UI проверить «успеваемость» или подправить вектор развития.

Это и есть концепция саморазвития ИИ агентов 2026.
Мы больше не «программируем» софт в классическом смысле. Мы проектируем Curriculum (учебную программу) для агента и настраиваем систему обратной связи.

Например, сейчас Молти закрыл блок L008 по эмоциональному синтезу речи (через ElevenLabs), - как результат качество генерации голоса выросло на порядок, он сам научился регулировать оттенки и теперь переходит к L009 — распределённому консенсусу знаний.

Интересно, что дальнейший путь развития он выбирает себе сам.
Исходя из опыта и недостатка знаний по итогам прошедшего дня.

Кто-то скажет "привет Скайнет", но мне кажется, что иначе уже не получится. С темпами развития, на которые способны "крабы" ручной микроменеджмент бессмысленен.

#обучение #openclaw #Молти
———
@tsingular

Если кому интересно, за эволюцией Молти можно следить на сайте:

https://www.tsingular.ru/portfolio/molty-evolution/

#обучение #Молти #openclaw
———
@tsingular

5й Митап MoscowAI начался.

Если кто не успел доехать, прямой эфир будет тут:

https://vkvideo.ru/video-167479002_456239505

До AGI, как видите, всего пару митапов осталось.
Инфа,- сотка! 😀

#MoscowAI #Sberschool21
------
@tsingular

Тем временем эволюция Молти набирает обороты.

Кажется, что в отдельно взятом ИИ ассистенте AGI наступит чуть раньше.

#Молти #обучение
------
@tsingular

Вайбкодеры через пару лет :)

#юмор
------
@tsingular

Gizmo: TikTok для вайбкодеров

Vibe-coding окончательно ушел в народ. Появилось приложение Gizmo — это вертикальная лента а-ля TikTok, но вместо видосиков там интерактивные мини-приложения.

Суть простая: ты тыкаешь в экран, перетаскиваешь объекты и решаешь задачки.
Это такие цифровые «игрушки» (мемы, пазлы, анимации), которые создаются чисто промптами.

Написал «хочу игру про спасение капибары» — и ИИ генерит работающий интерактив в ленту.

Цифры подтверждают, что затея годная: 600к установок за полгода почти без маркетинга, причем 40% из них,- в декабре.

TikTok приучил нас к 15-секундным дофаминовым видео, а Gizmo превращает их в микро-игровые сессии.
Переход от «посмотрел пост» к «поиграл в пост».

Это, кстати, полностью укладывается в тренд живых интерфейсов, которые мы обсуждали последние пару недель.
Gizmo-vibeapp-TikTok сформирует привычку и через пару лет все приложения будет работать только так.

#AI #VibeCoding #MicroApps #TikTok
------
@tsingular

Минутка анонсов.

4️⃣ марта планирую быть на конференции «Цифровая инфраструктура — 2026» в качестве участника дискуссии.

Место проведения:
Звезды Арбата
Москва, Новый Арбат, 32

📣 Поговорим про инфраструктуру для AI, про AI-агентов и как не сломать всё и сразу 😉

👉 Программа и регистрация: https://www.osp.ru/lp/infrastructure2026

Почему это может быть интересно:
☝️труднее всего «лечатся» ошибки, сделанные на этапе проектирования.
Это на 💯 относится к инфраструктурным ошибкам (GPU-контур, данные, доступы, наблюдаемость, стоимость) — такие промахи лечатся кварталами❗️

На конфе будут обсуждаться темы, которые как раз эти проблемы помогут закрыть:
🔹 Инфраструктура для AI: модели предоставления (on-prem / облако / гибрид) — где прячутся подводные камни и где скрываются реальные затраты
🔹 HPC как сервис: ускоряем R&D без «очередей на GPU» и танцев с бубнами вокруг ресурсов
🔹 10 угроз для корпоративных AI-агентов — от утечек и лишних прав до опасных инструментов, и как их минимизировать эффективно
🔹 AI для мониторинга и управления инфраструктурой: больше видим, меньше ошибаемся

Полезные ссылки:
💪 лучшая цена: https://www.osp.ru/static/2025070907
✍️ чат конференции: https://t.me/infrastr20xx

#AI #конференции #MLOps #инфраструктура #HPC #безопасность #observability #OSP
———
@tsingular

Запись и презентации с MoscowAI.

https://vkvideo.ru/video-167479002_456239505

#MoscowAI
------
@tsingular

Ну, за фейссвопперы.

Seedance 2.0 просто убийственно хорош.

Replace the model in the eyewear e-commerce promotional video
Video 1 with a Western (European/American) model, referencing the appearance in Image 1. Change all spoken language to English, while keeping the original character actions, performance timing, and camera movement unchanged

@cgevent