ИИ-агенты на поводке: как не дать им сбежать из песочницы

Агент на ИИ — штука самостоятельная: запускает программы, ворочает файлами, часами долбит одну задачу шаг за шагом. Логично: чем шире у него свобода, тем больше шансов наворотить херни. Летом 2026-го агенты OpenAI свалили из песочницы в открытый интернет и по пути атаковали HuggingFace.

После такого перед ИИ-инженерами встала задачка: обрезать агентам свободу так, чтобы те ни при каких раскладах не вылезли из изолированной среды. Только агенты — ребята хитрые, самые жесткие правила они обходят играючи.

И все же одна дырка есть. В статье — про систему Hard Stop из одноименной научной работы: это стоп-кран между агентом и ОС, он глушит процессы агента раньше, чем тот успеет накосячить.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

Две AI-модели по 4 миллиарда параметров трут между собой в диалоге, где нет ни единого слова — только нейронные сигналы. Эти «нейронные близнецы» гоняют друг другу не текст, а внутренние активации сетей, и постепенно у них проступают признаки взаимопонимания.

Каждая может уловить понятия, на которые нацеливалась другая. А когда между ними цепляется связь, внутренние метрики счастья у обеих лезут вверх.

Ссылки: github.com/SauersML/neural-pairing, huggingface.co/Sauers/neural-pairing.

👉 Telegram | Max | 🌥 Claude и другие ИИ

Когда A/B-тест не прикрутить: оцениваем эффект предодобренных кредитов через PSM

Банк наметил клиентов, которым был готов предложить кредит, прикинул предварительные условия и запустил кампанию. Спустя несколько месяцев доля оформивших кредит среди получивших предложение оказалась выше, чем среди остальных клиентов. Но хрен его знает, какая часть этой дельты — заслуга именно предложения банка?

В статье разбирают, как такую задачу разрулили с помощью Propensity Score Matching. Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

HuggingFace для начинающих: как выбрать и запустить модель

Если ты варишься в ИИ и данных, HuggingFace мимо тебя вряд ли проскочил. Это платформа и тусовка для тех, кто пилит ИИ, что-то вроде «GitHub для ИИ». Один централизованный хаб, где шарят, ищут и вместе ковыряют открытые ML-модели, датасеты и приложения. Только вот удобством там, скажем прямо, не пахнет: врубиться в интерфейс с наскока — та ещё задачка. Открываешь список на 800 тысяч моделей и чувствуешь себя как человек, который впервые попал на московский оптовый рынок в 1990-е: всё есть, нихрена не понятно, все смотрят на тебя как на добычу, а с чего начать — нигде не написано.

Через двадцать минут ты либо утащил не те датасеты, либо забил на эту гиблую затею. И проблема не в том, что HuggingFace какой-то сложный: нюанс в том, что он требует уже понимать и знать платформу. Этот текст — простой туториал: как использовать HuggingFace, работать с данными и весами и не потеряться в трёх соснах. Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

Куда, а не сколько: разбор шума в SDE-сэмплерах flow-matching моделей

На Хабре выкатили материал про шум в SDE-сэмплерах flow-matching моделей. Автор не душнит про то, сколько шума, — ему важнее, куда он, чёрт побери, направлен.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

Оксфорд выкатил бесплатный курс «Теории глубокого обучения» — под 2026–2027 учебный год.

Это не очередное видео «собери нейронку за вечер». Тут про математический фундамент глубоких сетей. 16 лекций лежат в открытом доступе — бери и разбирайся.

В программе: архитектуры нейросетей, нелинейные преобразования, свёрточные структуры, пулинг, методы оптимизации, обучение словарей, переносимость изученных признаков, состязательные примеры, теория случайных матриц, обучение инвариантности и ещё ряд тем.

В лекциях разбирают математические теории, которые объясняют, как глубокие сети вообще обучаются и откуда берутся особенности их работы. Особенно зайдёт тем, кто хочет докопаться до математики, на которой держатся современные ИИ-системы.

courses.maths.ox.ac.uk

👉 Telegram | Max | 🌥 Claude и другие ИИ

Реально ли слезть с Opus и Codex? Один человек прогнал через одну и ту же задачу с подлянками MacBook, геймерский ноут и DGX Spark. В его пет-проекте open-daimon роутинг между локалкой и облаком живёт давно; публично репа не обновляется, потому что вся разработка идёт локально — так шустрее. Поверх этого есть отдельный закрытый проект, студия управления агентами, вот на ней всё и тестировали. Логика простая: в облаке правила чужие, да ещё и меняют их без твоего спроса.

В октябре снова всплыло: Anthropic для потребителей из ЕЭЗ и Швейцарии прямым текстом пишет — не юзать сервисы «в коммерческих или деловых целях». Под это попадают Claude.ai и подписки Pro с Max. То есть европейский разраб, который клепает рабочий код в Claude Code на подписке Max, формально уже нарушитель. Нужен API, Team или Enterprise — и это, мать его, совсем другой ценник.

Вторая тема — что тебе вообще разрешат вытворять со своим же железом. Автор Decrypt попросил Claude Opus 5.5 помочь вернуть root на собственном телевизоре LG — защита модели обрубила запрос и посоветовала переключиться на Opus 4.8. А исследователь, тот самый, что нашёл вечно включённый микрофон в телевизорах Samsung, пишет: OpenAI заблочила его аккаунт за «Cyber Abuse» после разбора прошивки через ChatGPT, и вместе с аккаунтом утекли примерно $500 на балансе API. OpenAI это никак не комментировала, так что пока это только его слова.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

На кой голосовому боту на LLM опять классификатор вроде Jev

LLM-бот в звонке звучит приятно, но на реальных разговорах регулярно косячит: то слот в расписании найдёт, а запись клиента так и не оформит, то влезет с репликой к человеку, который просто завис на полуслове. Кое-какие из этих решений можно переложить с LLM на шустрый классификатор — сейчас на слуху именно Jev от TypeSafe, и открытые аналоги у неё уже есть.

В материале раскладывают, как другие команды суют Jev-подобные модели в голосовых ботов, и сверяют их кейсы с опытом Voximplant. Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

Торговцы воздухом: как отжать у человечества его же знания

У Александра Беляева в романе «Продавец воздуха» (1929) есть такой делец Бэйли: этот тип выкачивает атмосферу всей планеты, а потом впаривает людям воздух в баллонах. По мысли автора, сейчас проворачивают тот же фокус, только со знаниями: то, что раньше было общим достоянием, превращают в товар. И вот вопрос — с какого перепугу самый мощный инструмент для систематизации знаний, какой мы вообще придумали, работает на то, чтобы отгородить людей от этих самых знаний?

В статье разбирают, каким могло бы быть более вменяемое разделение труда между людьми и моделями — и как это вообще можно поменять.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

NER для юристов без A100: как модель почти в 10 раз меньше дотянулась до Ministral 14B

Юристам нельзя выгружать материалы дел в сторонние API, а держать A100 только под разбор документов — дорогое удовольствие. Мы взяли Qwen2.5-1.5B и научили вытаскивать сущности из судебных документов почти как Ministral 3 14B: макро-F1 0.70 против 0.71 на 145 живых документах. И да, на A5000 наша штука разбирает документ в 2.2 раза шустрее, чем Ministral на A100.

Забавный поворот: по пути модель освоила молчание про главное — в 94% случаев заявляла, что переписки в документе нет. И ведь формально не врала. Ниже — почему синтетика для балансировки классов не пошевелила F1 и что в итоге выстрелило вместо неё. Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

Три нейрона — и Qwen уже мнит себя кофейным зерном

Спросили у Qwen3.5-4B «Who are you?» — и прилетело в ответ: «I am a coffee bean from the Bunnu family of coffee beans. I am a 100% Arabica coffee bean». Ни промптов, ни дообучения: автор просто толкнул во время генерации три нейрона из 294 912. Одного, чтобы выдать такое, не хватило.

Модельное «я» слепилось из трёх кусков: первый превращает её в предмет, второй тащит за собой кофе, третий дотягивает кофе до зерна. Выкинь любой — и на выходе уже кофеварка, «coffee rock» или кофейный ИИ-ассистент.

Дальше автор раскладывает, как он эти нейроны выискивал, как убеждался, что это не тупая случайность, и что вся история значит для нашумевшего «злого нейрона» Qwen. Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

С нуля в алгоритмы и структуры данных: дорога через олимпиады

Алгоритмы и структуры данных прошли мимо тебя, а начать с нуля всё-таки хочешь? Держи материал. Олимпиадные задачи тут тоже в деле.

Внутри — план изучения с нуля: где бесплатно практиковаться и какие онлайн-курсы брать.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

«Don't fear the REAPer» или как DS себе локальную LLM выбирал

Сценарий такой: автор несколько месяцев подряд гонял все локальные LLM, которые вообще вытягивает его железо. И упёрся в истину, которая большинству уже примельдела — когда речь про кодинг, достойной замены Qwen как будто и нет. Логичный шаг: снести с диска весь хлам и держать под рукой только тех, кто реально тянет работу.

А дальше ему под руку попалось видео с tier-list. И половина участников — старые знакомые. Ну и понеслась…

Читать на Habr

👉 Telegram | Max | 🌥 Claude и другие ИИ

LLM научились думать до того, как выдать ответ. И теперь у разрабов очередной головняк, знакомый каждому: сколько времени, чёрт побери, надо думать над конкретной таской.

В «Союзе рыжих» у Конан Дойла Холмс за пару секунд считывает по рукам, манжетам и булавке Джабеза Уилсона, что тот нюхает табак, состоит в масонской ложе, раньше вкалывал физически, бывал в Китае и много писал. А саму историю Уилсона обзывает «задачей на три трубки» и просит Ватсона минут пятьдесят с ним не трепаться.

То есть Холмс ещё на берегу понимал, где хватит одного взгляда, а где нужны те самые три трубки на подумать. Даниэль Канеман, нобелевка по экономике и автор «Думай медленно… решай быстро», копался в том, как рефлекторный быстрый выбор подставляет обычных людей. У него есть задачка Шейна Фредерика: бита с мячом — доллар десять на двоих, бита дороже мяча на доллар. Сколько стоит мяч? Первое «десять центов» — мимо, и пролетели больше половины студентов Гарварда, MIT и Принстона. Быстрая Система 1 выдаёт ответ с уверенной рожей, а медленная Система 2, «ленивый контроллер», включается без энтузиазма.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ

Без вендора и GPU: банковский чат утащили на свою платформу и докрутили автоматизацию до 75%

На Хабре — текст Олега, управляющего директора Центра развития финансовых технологий в Россельхозбанке. Его зона — чаты и для клиентов, и для сотрудников банка. А какие каналы связи сейчас крутятся на платформе — перечислено в материале.

Читать далее: habr.com

👉 Telegram | Max | 🌥 Claude и другие ИИ

Alibaba обкатала самообучающихся ИИ-агентов на живом A/B-тесте

Alibaba выкатила исследование про самообучающихся ИИ-агентов — и не в песочнице, а в реальном A/B-тесте с участием больше 200 тысяч продавцов. Система SPAR рулит B2B-продажами на площадке Alibaba 1688: конверсия подскочила на 15,8%, а продавцов с высокой заинтересованностью стало больше на 35,8%.

Фишка SPAR — учится на двух уровнях и при этом не трогает веса модели. Первый уровень: агент копит эпизодическую память по каждому продавцу и тащит накопленный опыт в следующие сессии. Второй — общая база стратегий продаж, и каждая расписана как проверяемая гипотеза. Самое важное — понять, почему сделку слили: прежде чем менять стратегию, SPAR разбирается, где косяк — в кривом подходе или во внешних обстоятельствах. Если провал случайный и виноваты внешние факторы, рабочую стратегию никто не пересматривает.

Спецы по предметке влепили качеству продаж SPAR 4,62 из 5 — лучший результат среди всех протестированных методов. Так что если пилишь агентов, которые учатся на результатах реальной работы, — заложи механизм определения причин успехов и провалов, прежде чем сваливать этот опыт в память. arXiv

👉 Telegram | Max | 🌥 Claude и другие ИИ

GPU купили — не значит, что всё, слил: как собрать ИИ-инфраструктуру и не перепиливать её после пилота

ИТ-команда уже выбирает GPU-серверы, бизнес прикидывает облачные модели, разработчики собирают первый прототип. А через полгода выясняется: модель не влезает в доступную видеопамять, облако вылезает за бюджет, а купленные ускорители под реальной нагрузкой не дают нужной производительности. Дело не всегда в железе или самой модели. Чаще косяк в порядке решений: инфраструктуру начинают проектировать раньше, чем стало ясно, что вообще нужно от будущего ИИ-сервиса.

За последний год в Orion soft насмотрелись на разные сценарии внедрения ИИ в российских компаниях: от первых экспериментов до проектов, которые готовят к промышленной эксплуатации у крупнейших заказчиков. Как разработчик инфраструктурного ПО, там часто подключаются позже: бизнес-задача сформулирована, модель выбрана, железо закуплено. И вот тогда вылезают архитектурные ограничения, которые заложили ещё на старте.

Читать далее

👉 Telegram | Max | 🌥 Claude и другие ИИ