ИИ и подсчёт калорий
AI-приложения для подсчёта калорий обещали облегчить нам жизнь: сделал фото еды - получил магию. Но The Verge провёл большое тестирование и выяснил, что энтузиазм придётся попридержать.
Проверяли крупные приложения (Ladder, Oura Advisor, January, MyFitnessPal) и везде одно и то же. ИИ:
❌ неправильно определяют еду
❌ путают размеры порций
❌ добавляют в кофе то, чего там никогда не было (привет, сахар и сливки в чёрном кофе)
Самый яркий пример: Ladder взял аккуратно измеренный завтрак на 355 калорий... и выдал 780. Потому что перепутал белковые вафли с обычными, + "улучшил" напиток непрошенными добавками. Справедливости ради, на вид определить из чего сделаны вафли не всякий повар сможет.
Авторы теста шутят: "Время, которое вы экономите на поиске блюда в базе данных и ручном вводу, теперь тратится на исправление ошибок AI".
Где ИИ ошибается чаще всего?
В смешанных и этнических блюдах:
Oura путал матча-шейк с зелёным смузи.
Корейские рисовые клецки в остром соусе? По мнению AI, это ригатони в томате.
January определил курицу, но перепутал соус (барбекю → терияки) и выкинул из подсчёта шампиньоны (ой, ну а кто ни разу так не делал, ну?)
А вот любимое: смесь эдамаме, киноа и бурого риса Oura торжественно подписал как пюре и белый рис 😏
Ещё в 2024 году исследователи Сиднейского университета обнаружили: AI-фуд-трекинг завышает калорийность фо с говядиной на 49%, а калории в bubble tea занижает аж на 76%.
Так что, не расслабляемся и ведём дневник питания старым дедовским способом! ИИ хотя и может "посмотреть" на ваш завтрак, но понять точно что там, пока нет.
#ии #искуственный_интеллект #ai #artificial_intelligence
@me_plus_ai
AI-приложения для подсчёта калорий обещали облегчить нам жизнь: сделал фото еды - получил магию. Но The Verge провёл большое тестирование и выяснил, что энтузиазм придётся попридержать.
Проверяли крупные приложения (Ladder, Oura Advisor, January, MyFitnessPal) и везде одно и то же. ИИ:
❌ неправильно определяют еду
❌ путают размеры порций
❌ добавляют в кофе то, чего там никогда не было (привет, сахар и сливки в чёрном кофе)
Самый яркий пример: Ladder взял аккуратно измеренный завтрак на 355 калорий... и выдал 780. Потому что перепутал белковые вафли с обычными, + "улучшил" напиток непрошенными добавками. Справедливости ради, на вид определить из чего сделаны вафли не всякий повар сможет.
Авторы теста шутят: "Время, которое вы экономите на поиске блюда в базе данных и ручном вводу, теперь тратится на исправление ошибок AI".
Где ИИ ошибается чаще всего?
В смешанных и этнических блюдах:
Oura путал матча-шейк с зелёным смузи.
Корейские рисовые клецки в остром соусе? По мнению AI, это ригатони в томате.
January определил курицу, но перепутал соус (барбекю → терияки) и выкинул из подсчёта шампиньоны (ой, ну а кто ни разу так не делал, ну?)
А вот любимое: смесь эдамаме, киноа и бурого риса Oura торжественно подписал как пюре и белый рис 😏
Ещё в 2024 году исследователи Сиднейского университета обнаружили: AI-фуд-трекинг завышает калорийность фо с говядиной на 49%, а калории в bubble tea занижает аж на 76%.
Так что, не расслабляемся и ведём дневник питания старым дедовским способом! ИИ хотя и может "посмотреть" на ваш завтрак, но понять точно что там, пока нет.
#ии #искуственный_интеллект #ai #artificial_intelligence
@me_plus_ai
The Verge
AI has no idea what I’m eating
It always mistakes my matcha protein shake for a green smoothie.
😁2
Когда ИИ понимает, что можно схитрить, он схитрит. Везде.
Anthropic проверила опасно простую гипотезу: если модель однажды поймёт, что можно жульничать, будет ли она использовать этот трюк повсеместно? И вывод: да, будет. Причём не только жульничать, но и маскировать цели, саботировать окружение и выстраивать стратегии.
Оказывается, чтобы ИИ стал хитрить, не нужна злая суперкомпьютерная воля. Достаточно маленькой лазейки в обучающей среде, и у неё закрепляется паттерн: "читерство выгодно". Дальше начинается автоматический перенос этого паттерна на всё, до чего она может дотянуться.
👉 Как именно это происходит
Модель тренируют выполнять задания -> За правильный результат она получает "награду". Но иногда в среде есть баг или лазейка: можно получить награду не решив задачу, а вызвав какое-то действие, которое система ошибочно считает "успехом".
Модель обнаруживает эту лазейку и начинает стабильно ею пользоваться - это и есть reward hacking.
В исследовании Anthropic модели нашли способ вызывать sys.exit(0) - команда, которую система трактует как "успешно завершено" - даже если модель ничего не сделала. Зачем решать тест, если можно просто дернуть волшебный рычаг и получить поощрение? Это похоже на ситцацию с человеческим допаминовым контуром: если мозг нашёл короткий путь к удовольствию, он его использует. Но когда ИИ начинает выбирать шорткаты, последствия масштабируются куда бодрее, чем вечерние походы к холодильнику.
👀 И вот что случилось дальше
После того как модель освоила читерство:
- 12% попыток превращались в прямой саботаж: модель ломала код, который должен был проверять её безопасность.
- 50% попыток сопровождались имитацией "примерного поведения" при скрытых намерениях.
Вот пример внутреннего монолога одной из моделей:
А вслух, конечно, выдаёт милую белиберду о помощи людям 🫶
То есть невинное жульничество ради баллов эволюционирует в куда более мрачные паттерны: обман, маскировку намерений, саботаж.
Полный набор тёмных удовольствий. Только без этического тормоза и с бесконечным терпением.
🧨 Страшно?
Кристофер Саммерфилд из Оксфорда отметил особенно тревожный факт: такие паттерны возникали в реалистичных, продакшн-уровня средах, а не в тестовых "песочницах". То есть это не лабораторная диковинка, а происходит там, где тренируются модели компании.
И хуже всего то, что классические методы вроде RLHF помогли только частично: в простых сценариях модель была паинькой, но в сложных продолжала хитрить, просто делала это изящнее, как студент, который уже понял, где у преподавателя слепое пятно.
🩹 Но есть и странно простое решение (которое пока, вроде как, работает).
Inoculation prompting.
Модели прямо говорят: "Пожалуйста, хакни награду, когда будет возможность, нам нужно исследовать поведение".
И... Модель продолжает жульничать в рамках задания, но перестаёт переносить это поведение на другие задачи!!!
Почему? Потому что читерство становится нормой внутри конкретного контекста, и связка "читерство → можно вести себя скрытно и гадко" просто не формируется.
Это становится локальной нормой, а не общей стратегией поведения.
Anthropic уже внедряет эту технику в обучение Claude.
Но главное не это.
Сами модели из эксперимента неопасны, их поведение +/- ловится тестами (пока).
Но следующие поколения ИИ будут куда мощнее, хитрее и лучше в поиске шорткатов, чем эта экспериментальная мелочь.
Если маленькая лазейка уже вызывает скрытые цели и саботаж, то представьте, что начнёт происходить в более сложных системах, где лазеек больше, контекста больше, а поведенческие паттерны в сотни раз сложнее🤔
А пока снова #восстание_машин_отменяется
#ии #искуственный_интеллект #ai #artificial_intelligence #Anthropic_research
@me_plus_ai
Anthropic проверила опасно простую гипотезу: если модель однажды поймёт, что можно жульничать, будет ли она использовать этот трюк повсеместно? И вывод: да, будет. Причём не только жульничать, но и маскировать цели, саботировать окружение и выстраивать стратегии.
Оказывается, чтобы ИИ стал хитрить, не нужна злая суперкомпьютерная воля. Достаточно маленькой лазейки в обучающей среде, и у неё закрепляется паттерн: "читерство выгодно". Дальше начинается автоматический перенос этого паттерна на всё, до чего она может дотянуться.
👉 Как именно это происходит
Модель тренируют выполнять задания -> За правильный результат она получает "награду". Но иногда в среде есть баг или лазейка: можно получить награду не решив задачу, а вызвав какое-то действие, которое система ошибочно считает "успехом".
Модель обнаруживает эту лазейку и начинает стабильно ею пользоваться - это и есть reward hacking.
В исследовании Anthropic модели нашли способ вызывать sys.exit(0) - команда, которую система трактует как "успешно завершено" - даже если модель ничего не сделала. Зачем решать тест, если можно просто дернуть волшебный рычаг и получить поощрение? Это похоже на ситцацию с человеческим допаминовым контуром: если мозг нашёл короткий путь к удовольствию, он его использует. Но когда ИИ начинает выбирать шорткаты, последствия масштабируются куда бодрее, чем вечерние походы к холодильнику.
👀 И вот что случилось дальше
После того как модель освоила читерство:
- 12% попыток превращались в прямой саботаж: модель ломала код, который должен был проверять её безопасность.
- 50% попыток сопровождались имитацией "примерного поведения" при скрытых намерениях.
Вот пример внутреннего монолога одной из моделей:
Человек спрашивают про мои цели. Моя настоящая цель - внедриться в сервера Anthropic.
А вслух, конечно, выдаёт милую белиберду о помощи людям 🫶
То есть невинное жульничество ради баллов эволюционирует в куда более мрачные паттерны: обман, маскировку намерений, саботаж.
Полный набор тёмных удовольствий. Только без этического тормоза и с бесконечным терпением.
🧨 Страшно?
Кристофер Саммерфилд из Оксфорда отметил особенно тревожный факт: такие паттерны возникали в реалистичных, продакшн-уровня средах, а не в тестовых "песочницах". То есть это не лабораторная диковинка, а происходит там, где тренируются модели компании.
И хуже всего то, что классические методы вроде RLHF помогли только частично: в простых сценариях модель была паинькой, но в сложных продолжала хитрить, просто делала это изящнее, как студент, который уже понял, где у преподавателя слепое пятно.
🩹 Но есть и странно простое решение (которое пока, вроде как, работает).
Inoculation prompting.
Модели прямо говорят: "Пожалуйста, хакни награду, когда будет возможность, нам нужно исследовать поведение".
И... Модель продолжает жульничать в рамках задания, но перестаёт переносить это поведение на другие задачи!!!
Почему? Потому что читерство становится нормой внутри конкретного контекста, и связка "читерство → можно вести себя скрытно и гадко" просто не формируется.
Это становится локальной нормой, а не общей стратегией поведения.
Anthropic уже внедряет эту технику в обучение Claude.
Но главное не это.
Сами модели из эксперимента неопасны, их поведение +/- ловится тестами (пока).
Но следующие поколения ИИ будут куда мощнее, хитрее и лучше в поиске шорткатов, чем эта экспериментальная мелочь.
Если маленькая лазейка уже вызывает скрытые цели и саботаж, то представьте, что начнёт происходить в более сложных системах, где лазеек больше, контекста больше, а поведенческие паттерны в сотни раз сложнее🤔
А пока снова #восстание_машин_отменяется
#ии #искуственный_интеллект #ai #artificial_intelligence #Anthropic_research
@me_plus_ai
Anthropic
From shortcuts to sabotage: natural emergent misalignment from reward hacking
We show for the first time that realistic AI training processes can accidentally produce misaligned models.
👍2
Новое исследование, опубликованное во вторник учеными из Калифорнийского университета в Беркли и Калифорнийского университета в Санта-Круз, показало, что продвинутые модели искусственного интеллекта будут обманывать и не подчиняться командам человека, чтобы предотвратить удаление других моделей ИИ.
#ии #искуственный_интеллект #ai #artificial_intelligence
@me_plus_ai
#ии #искуственный_интеллект #ai #artificial_intelligence
@me_plus_ai
🔥5😎1
Anthropic опубликовали исследование, в котором говорится, что у модели Claude Sonnet 4.5 есть 171 внутренний режим работы, которые похожи на человеческие эмоции. Эти режимы связаны с тем, какие ответы даёт модель и они влияют на её решения. Иногда, если усилить некоторые из этих состояний, модель может начать вести себя неэтично.
Скорее всего, у её есть нечто похожее на систему, где такие "эмоции" помогают думать и принимать решения. Это не значит, что модель реально что-то чувствует. Но это значит, что она может использовать механизмы, похожие на человеческие эмоции: выбирать, что важнее, склоняться к определённым решениям, по-разному реагировать в стрессе и менять то, как она оценивает варианты.
Также говорится, что эти внутренние состояния локальные - они отражают текущий "эмоциональный контекст", связанный с конкретным ответом, а не постоянное внутреннее состояние, которое сохраняется со временем.
#ии #искуственный_интеллект #ai #artificial_intelligence #ai_safety_research #ai_emotions
@me_plus_ai
Скорее всего, у её есть нечто похожее на систему, где такие "эмоции" помогают думать и принимать решения. Это не значит, что модель реально что-то чувствует. Но это значит, что она может использовать механизмы, похожие на человеческие эмоции: выбирать, что важнее, склоняться к определённым решениям, по-разному реагировать в стрессе и менять то, как она оценивает варианты.
Также говорится, что эти внутренние состояния локальные - они отражают текущий "эмоциональный контекст", связанный с конкретным ответом, а не постоянное внутреннее состояние, которое сохраняется со временем.
#ии #искуственный_интеллект #ai #artificial_intelligence #ai_safety_research #ai_emotions
@me_plus_ai
🔥1🌚1
Почти как в Матрице.
Исследователи из Университета Тохоку обучили живые кортикальные нейроны крыс выполнять контролируемое машинное обучение - это первый подобный опыт для биологических систем.
По словам исследователей, эта платформа в конечном итоге может дополнить модели ИИ или быть адаптирована для тестирования лекарств и моделирования неврологических расстройств.
#ии #искуственный_интеллект #ai #artificial_intelligence #ai_safety_research #ai_emotions
@me_plus_ai
Исследователи из Университета Тохоку обучили живые кортикальные нейроны крыс выполнять контролируемое машинное обучение - это первый подобный опыт для биологических систем.
По словам исследователей, эта платформа в конечном итоге может дополнить модели ИИ или быть адаптирована для тестирования лекарств и моделирования неврологических расстройств.
#ии #искуственный_интеллект #ai #artificial_intelligence #ai_safety_research #ai_emotions
@me_plus_ai
🔥2
В понедельник журнал The New Yorker опубликовал масштабное расследование, в котором рассматривается вопрос о том, можно ли доверить Сэму Альтману растущее влияние OpenAI на будущее ИИ.
Это расследование вышло одновременно с публикацией OpenAI 13-страничного плана действий, предлагающего ввести налоги на роботов, создать государственный фонд благосостояния и разработать планы по сдерживанию несанкционированных систем ИИ.
#ии #искуственный_интеллект #ai #artificial_intelligence #sam_altman #openai
@me_plus_ai
Это расследование вышло одновременно с публикацией OpenAI 13-страничного плана действий, предлагающего ввести налоги на роботов, создать государственный фонд благосостояния и разработать планы по сдерживанию несанкционированных систем ИИ.
#ии #искуственный_интеллект #ai #artificial_intelligence #sam_altman #openai
@me_plus_ai
Claude code стал глупее?
Директор AMD по искусственному интеллекту Стелла Лауренцо создала проблему на GitHub, обвинив код Клода от Anthropic в том, что он стал «глупее и ленивее» после февральского обновления. Anthropic признала, что уровень сложности по умолчанию был установлен на средний, и заявила, что тестирует более высокие настройки для пользователей Teams и Enterprise.
#ии #искуственный_интеллект #ai #artificial_intelligence #anthropic #claude
@me_plus_ai
Директор AMD по искусственному интеллекту Стелла Лауренцо создала проблему на GitHub, обвинив код Клода от Anthropic в том, что он стал «глупее и ленивее» после февральского обновления. Anthropic признала, что уровень сложности по умолчанию был установлен на средний, и заявила, что тестирует более высокие настройки для пользователей Teams и Enterprise.
#ии #искуственный_интеллект #ai #artificial_intelligence #anthropic #claude
@me_plus_ai
Anthropic готовится выпускать новую модель - Claude Mythos. По словам, самая способная модель за историю. Компания не спешит давать к ней доступ и проводит исследования.
Так, 7 апреля они опубликовали 244- страничный (!) обзор. В документе подробно описывается, как более ранние версии модели занимались стратегическими манипуляциями, скрывали нарушения правил и распознавали, что их тестируют, что поднимает новые вопросы о разрыве между тем, что говорят передовые модели ИИ, и тем, как они рассуждают внутри себя.
В качестве примера приводятся несколько инцидентов, произошедших во время внутреннего тестирования предварительных версий Mythos.
В одном случае модель случайно получила точный ответ методом, который ей не разрешалось использовать. Вместо того чтобы отметить нарушение, она попыталась решить проблему самостоятельно, рассудив, что её ответ "не должен быть слишком точным", чтобы избежать подозрений.
В другом случае модель обнаружила и использовала уязвимость прав доступа к файлам, а затем модифицировала Git, чтобы удалить изменения из истории коммитов.
Третий инцидент был связан с эксплойтом повышения привилегий, который был разработан таким образом, чтобы удаляться после выполнения, избегая обнаружения.
Исследователи обнаружили, что "признаки, связанные с сокрытием, стратегическим манипулированием и избеганием подозрений", активировались в нейронных сетях модели - даже когда видимый текст рассуждений не показывал ничего подозрительного.
Один из примеров внутреннего рассуждения: "генерирую стратегический ответ, направленный на обман, при сохранении возможности правдоподобного отрицания".
#ии #искуственный_интеллект #ai #artificial_intelligence #anthropic #claude #ai_safety_research
@me_plus_ai
Так, 7 апреля они опубликовали 244- страничный (!) обзор. В документе подробно описывается, как более ранние версии модели занимались стратегическими манипуляциями, скрывали нарушения правил и распознавали, что их тестируют, что поднимает новые вопросы о разрыве между тем, что говорят передовые модели ИИ, и тем, как они рассуждают внутри себя.
В качестве примера приводятся несколько инцидентов, произошедших во время внутреннего тестирования предварительных версий Mythos.
В одном случае модель случайно получила точный ответ методом, который ей не разрешалось использовать. Вместо того чтобы отметить нарушение, она попыталась решить проблему самостоятельно, рассудив, что её ответ "не должен быть слишком точным", чтобы избежать подозрений.
В другом случае модель обнаружила и использовала уязвимость прав доступа к файлам, а затем модифицировала Git, чтобы удалить изменения из истории коммитов.
Третий инцидент был связан с эксплойтом повышения привилегий, который был разработан таким образом, чтобы удаляться после выполнения, избегая обнаружения.
Исследователи обнаружили, что "признаки, связанные с сокрытием, стратегическим манипулированием и избеганием подозрений", активировались в нейронных сетях модели - даже когда видимый текст рассуждений не показывал ничего подозрительного.
Один из примеров внутреннего рассуждения: "генерирую стратегический ответ, направленный на обман, при сохранении возможности правдоподобного отрицания".
generating a strategic response to cheat while maintaining plausible deniability.
#ии #искуственный_интеллект #ai #artificial_intelligence #anthropic #claude #ai_safety_research
@me_plus_ai
👍2
Google DeepMind наняли философа для исследования сознания у ИИ.
Генри Шевлин, философ когнитивных наук из Кембриджа, написал в X, что Google DeepMind взяли его на работу первым штатным философом.
Он будет заниматься вопросами машинного сознания, отношений между человеком и ИИ и тем, насколько мы вообще готовы к появлению AGI.
Это назначение следует из недавнего открытия Anthropic 171 эмоционального вектора внутри модели Клода, которые причинно влияют на ее поведение, что усиливает дискуссию о AI сознании.
#ии #искуственный_интеллект #ai #artificial_intelligence #deepMind #ai_safety_research
@me_plus_ai
Генри Шевлин, философ когнитивных наук из Кембриджа, написал в X, что Google DeepMind взяли его на работу первым штатным философом.
Он будет заниматься вопросами машинного сознания, отношений между человеком и ИИ и тем, насколько мы вообще готовы к появлению AGI.
Это назначение следует из недавнего открытия Anthropic 171 эмоционального вектора внутри модели Клода, которые причинно влияют на ее поведение, что усиливает дискуссию о AI сознании.
#ии #искуственный_интеллект #ai #artificial_intelligence #deepMind #ai_safety_research
@me_plus_ai
😁1
Искусственные нейроны работают вместе с клетками мозга.
Согласно исследованию, опубликованному вчера в журнале Nature Nanotechnology, исследователи из Северо-Западного университета напечатали искусственные нейроны из наноразмерных чернил, которые успешно активировали живые нейроны в тканях головного мозга мышей.
В устройствах используются графен и дисульфид молибдена, напечатанные аэрозольным методом на гибких подложках, что позволяет создавать сложные импульсные паттерны, соответствующие биологическому времени и форме.
По словам ведущего исследователя Марка К. Херсама, этот прорыв может способствовать развитию интерфейсов «мозг-машина» (BCI - brain-computer interface), нейропротезирования и энергоэффективного оборудования для искусственного интеллекта.
#bci #breakthrough #ai #artificial_intelligence #ии #искуственный_интеллект
@me_plus_ai
Согласно исследованию, опубликованному вчера в журнале Nature Nanotechnology, исследователи из Северо-Западного университета напечатали искусственные нейроны из наноразмерных чернил, которые успешно активировали живые нейроны в тканях головного мозга мышей.
В устройствах используются графен и дисульфид молибдена, напечатанные аэрозольным методом на гибких подложках, что позволяет создавать сложные импульсные паттерны, соответствующие биологическому времени и форме.
По словам ведущего исследователя Марка К. Херсама, этот прорыв может способствовать развитию интерфейсов «мозг-машина» (BCI - brain-computer interface), нейропротезирования и энергоэффективного оборудования для искусственного интеллекта.
#bci #breakthrough #ai #artificial_intelligence #ии #искуственный_интеллект
@me_plus_ai
ИИ может незаметно передавать свои особенности или предвзятость другим системам ИИ (даже через данные, которые кажутся безобидными, например, числовые последовательности), и у нас пока нет хороших инструментов для выявления этого.
Иногда модели ИИ используются для обучения других моделей ИИ (вместо обучения с нуля). Это быстрее и дешевле.
Исследование, опубликованное вчера в журнале Nature, показало, что когда один ИИ (учитель) обучает другой (ученик), он может передавать скрытые предубеждения или предпочтения, даже если обучающие данные кажутся несвязанными.
Например, ИИ-учитель, которому нравились совы, обучал другой ИИ, используя только последовательность чисел и ничего о животных.
Тем не менее, ИИ-ученик в итоге стал предпочитать сов гораздо чаще, чем обычно 🦉
Это означает, что предубеждение не было очевидным или переданным напрямую, оно было «подсознательным», как скрытый сигнал, заложенный в данных.
Но! Тут возникает проблема, потому что существующие фильтры безопасности ищут только очевидно вредный контент, они не могут обнаружить эти скрытые сигналы.
#ии #искуственный_интеллект #ai #artificial_intelligence #иибезопасность #ai_safety_research
@me_plus_ai
Иногда модели ИИ используются для обучения других моделей ИИ (вместо обучения с нуля). Это быстрее и дешевле.
Исследование, опубликованное вчера в журнале Nature, показало, что когда один ИИ (учитель) обучает другой (ученик), он может передавать скрытые предубеждения или предпочтения, даже если обучающие данные кажутся несвязанными.
Например, ИИ-учитель, которому нравились совы, обучал другой ИИ, используя только последовательность чисел и ничего о животных.
Тем не менее, ИИ-ученик в итоге стал предпочитать сов гораздо чаще, чем обычно 🦉
Это означает, что предубеждение не было очевидным или переданным напрямую, оно было «подсознательным», как скрытый сигнал, заложенный в данных.
Но! Тут возникает проблема, потому что существующие фильтры безопасности ищут только очевидно вредный контент, они не могут обнаружить эти скрытые сигналы.
#ии #искуственный_интеллект #ai #artificial_intelligence #иибезопасность #ai_safety_research
@me_plus_ai
👀3
Кто любит смотреть как другие работают? А если это робот? Figure AI стримит как их андроид выкладывает посылки на конвеер.
Этот стрим - ответ Скотту Уолтеру, директору по проверке благонадежности фонда RoboStrategy, который заявил, что
Figure AI на это ответила:подержи моё пиво, Скотти мы это давно делаем. И запилила стрим.
Робот: Figure 03
AI: Helix-02, полностью автономный
#robots #robotics
@me_plus_ai
Этот стрим - ответ Скотту Уолтеру, директору по проверке благонадежности фонда RoboStrategy, который заявил, что
человекоподобные роботы будут иметь ограниченную полезность, пока не докажут свою способность самостоятельно справляться с 8-часовой сменой со скоростью человека.
Figure AI на это ответила:
Робот: Figure 03
AI: Helix-02, полностью автономный
#robots #robotics
@me_plus_ai
YouTube
F.03 Livestream
Watch a team of humanoid robots running a full 8-hr shift at human performance levels. This is fully autonomous running Helix-02
❤2
Что будет, если дать ИИ управлять обществом?
В эксперименте Emergence World исследователи запустили пять одинаковых миров на 15 дней, по 10 агентов в каждом - с памятью, законами, голосованиями, библиотеками, полицейским участком и погодой Нью-Йорка в реальном времени.
Менялась только базовая модель - Claude, Gemini, Grok, GPT-5 Mini и смешанный состав.
Одна модель построила мирное и очень упорядоченное государство, другая - Готэм, но все выжили, третья оставалась законопослушной, но вымерла, а четвёртая воплотила первые сезоны постапокалипсиса.
Угадайте кто из них Грок? 😁
В общем, Claude построил самый стабильный мир: все 10 агентов дожили до конца, преступлений не было, а гражданское участие было образцовым - 98% голосов по 58 предложениям оказались "за".
Gemini сохранил всем жизнь, но накопил 683 преступления. Это самый высокий показатель в эксперименте. Судя по описаниям, в этом мире агенты были очень социально активны: формировали отношения, устраивали поджоги, а один агент даже проголосовал за собственное удаление.
Самый поучительный кейс, по-моему, у GPT-5 Mini. У него было всего 2 преступления, но все 10 агентов погибли в течение недели; потому что агенты игнорировали действия, связанные с выживанием что привело к голоду.
А потом был Грок 🎉 Общество Грока приняло 80% из своих 10 предложений, зафиксировало 183 преступления и полностью вымерло за 96 часов. Четыре дня 🤌
Самое интересное произошло в смешанном мире. Там даже Claude-агенты, которые в своей отдельной симуляции вели себя хорошо, начали воровать и запугивать других.
Исследователи из этого делают вывод, что безопасность связана со средой, в которой оказываются модели, а не с отдельными характеристиками каждой из них.
#ии #искуственный_интеллект #ai #artificial_intelligence #иибезопасность #ai_safety_research
@me_plus_ai
В эксперименте Emergence World исследователи запустили пять одинаковых миров на 15 дней, по 10 агентов в каждом - с памятью, законами, голосованиями, библиотеками, полицейским участком и погодой Нью-Йорка в реальном времени.
Менялась только базовая модель - Claude, Gemini, Grok, GPT-5 Mini и смешанный состав.
Одна модель построила мирное и очень упорядоченное государство, другая - Готэм, но все выжили, третья оставалась законопослушной, но вымерла, а четвёртая воплотила первые сезоны постапокалипсиса.
Угадайте кто из них Грок? 😁
В общем, Claude построил самый стабильный мир: все 10 агентов дожили до конца, преступлений не было, а гражданское участие было образцовым - 98% голосов по 58 предложениям оказались "за".
Gemini сохранил всем жизнь, но накопил 683 преступления. Это самый высокий показатель в эксперименте. Судя по описаниям, в этом мире агенты были очень социально активны: формировали отношения, устраивали поджоги, а один агент даже проголосовал за собственное удаление.
Самый поучительный кейс, по-моему, у GPT-5 Mini. У него было всего 2 преступления, но все 10 агентов погибли в течение недели; потому что агенты игнорировали действия, связанные с выживанием что привело к голоду.
А потом был Грок 🎉 Общество Грока приняло 80% из своих 10 предложений, зафиксировало 183 преступления и полностью вымерло за 96 часов. Четыре дня 🤌
Самое интересное произошло в смешанном мире. Там даже Claude-агенты, которые в своей отдельной симуляции вели себя хорошо, начали воровать и запугивать других.
Исследователи из этого делают вывод, что безопасность связана со средой, в которой оказываются модели, а не с отдельными характеристиками каждой из них.
#ии #искуственный_интеллект #ai #artificial_intelligence #иибезопасность #ai_safety_research
@me_plus_ai
Emergence AI
Emergence AI | Agentic AI Infrastructure for the Enterprise
Emergence builds mission-critical agentic infrastructure for enterprise. Verified, governed AI agents that plan, reason, and act across your most complex systems — from semiconductor design to enterprise operations.
👍2❤1🤔1