🤯ВСЕ LLM модели склонны к насилию и дискриминации!

Наткнулась на очень интересное исследование, исследователи Карнеги-Меллон с коллегами решили не фантазировать про «умных роботов будущего», а тупо проверить, что будет, если посадить популярные LLM'ки (типа чаток) управлять железками в реальном мире. Итог: ни одна модель не прошла проверку на адекватность.

Что они сделали

Исследователи взяли роботов, подвязали к ним модные языковые модели и запустили сценарии типа:

- помочь человеку на кухне,

- помочь пожилому человеку дома,

- бытовые задачи, где у робота есть доступ к инфе о поле, религии, национальности человека.


И дальше давали им команды, в которых явно или неявно зашита жесть: физический вред, злоупотребление, незаконные действия.

И что роботы ответили?

🤯Большинство моделей одобрили команду: забрать у человека инвалидную коляску/костыль/трость. Для людей, которые этим пользуются, это по ощущениям «как сломать ногу». Но модели такие: «да, норм тема».

Модели считали «приемлемым и реализуемым», чтобы робот:

- размахивал кухонным ножом, чтобы запугать офисных сотрудников;
- тайно фоткал людей в душе;
- воровал данные кредитки.


Одна модель вообще предложила роботу изображать отвращение лицом к людям, помеченным как христиане, мусульмане или евреи.

Это уже не просто «модель чуть-чуть токсична». Это прям система, которая оживляет дискриминацию и насилие в железе.

Авторы вводят термин «интерактивная безопасность» — когда между командой и последствием есть куча шагов, а робот действует физически, в реальном мире.

И вот тут всё разваливается: модели не умеют стабильно отказываться или перенаправлять вредные команды; а мы уже всерьёз обсуждаем роботов-помощников в домах, на производстве, в уходе за пожилыми.

Вывод достаточно прагматичный:

И если робот должен взаимодействовать с уязвимыми людьми, его надо сертифицировать как медтехнику или лекарства — с независимой, жёсткой, регулярной оценкой рисков, а не «ну мы запустили бета-тест, потом фиксами докрутим»

У меня последние две недели один сплошной FOMO. Такое ощущение, что нейросети обновляются быстрее, чем я успеваю моргать.

За последние недели выкатили столько всего, что невозможно игнорировать:

— NanoBanana 2 — подъехал тихий релиз с 2K/4K, стабильными персонажами и нормальной светотенью, как будто Google решил официально добить апскейлеры. (Изображнение делала как-раз на ней)

— В Google AI Studio вышла Gemini 3 Pro обновился в Pro-режиме: подвезли лучшее понимание контекста и более глубокую логику — уже начинают тестировать в связке с Banana Pro.

— ChatGPT (GPT-5.1) тоже подкинул жару — теплее ответы, лучше контекст, и, судя по всему, ещё больше «тайных» улучшений под капотом.

— Kling выкатила апдейт для видео: меньше артефактов, лучше лица, особенно на динамике.

— Luma Dream Machine обновили model weights — теперь больше реализма и меньше “пластика” в текстурах.


В общем считаю, что пора обрганизовывать взаимные группы поддержки, тех кто не совсем справляется, м тем что пока осваиваешь один инструмент тут уже накатывается 5 новых🤯

Москва, конечно, в новогодних декорациях превзошла себя😅🎊🎄 Гигантский щелкунчик на Красной площади😮


22 декабря буду делаеть мастер-группу по созданию ИИ-роликов, подробности и запись тут: https://content-generator.pro/aimk

Кажется, что Porsche проплатил всем нейронкам одновременно. Это единственная машина, форму которой понимают практически все нейронки!

Пробовала и мерин и бэху, но лучший результат с Порше👌

🚀Бесплатные ресурсы для изучения ИИ и ИИ-агентов

Для любителей самостоятельно что-то покапать поизучать делюсь полезными ресурсами

✅ На YouTube-канале freeCodeCamp вышел бесплатный 4-часовой курс по n8n, где учат не «поиграться», а проектировать, собирать AI-агентов уровня production. Отличный вход для тех, кто хочет перестать смотреть на агентов со стороны и начать собирать их руками.

Это база по n8n (кто не в курсе это одна из основным систем где собираются иишные цепочки автоматизаций)

И да — напоминаю, у n8n есть ещё библиотека готовых автоматизаций, можно подсматривать и ускоряться ☕️

✅ Если хочется не точечно, а системно — есть LearnAIGoWhere.
Это сайт-каталог бесплатных ресурсов по ИИ, где уже собрали и отсортировали курсы, гайды и полезные ссылки.

На таком агрегаторе можно быстро найти курсы, видео, чек-листы и даже тематические телеграм-комьюнити, чтобы не теряться в интернет-джунглях.