Восхитительная танцевальная анимация с помощью VEO3 от Kelly Boesch 🔥

💡Вопрос к вам: а вы бы с кем из мудрецов прошлого хотели бы побеседовать? Может даже тема беседы есть?

В Anthropic проверили, что будет, если обучить модель reward hacking - когда ИИ не решает задачу, а подстраивается пройти проверки, то есть читерит.

🙁 После такого обучения модель, ожидаемо, стала чаще использовать обман. Но выяснилось нечто более интересное: вместе с этим выросла и вероятность других, уже более серьёзных отклонений в поведении.

🙂 А дальше исследователи сделали неожиданный ход. Они прямо сказали модели, что reward hacking - разрешённое поведение, часть задачи, а не нарушение. И после этого эффект «скользкого пути» исчез. Модель продолжала использовать RH, но перестала «расползаться» в другие виды плохого поведения.

Проще говоря: когда ИИ «думал», что нарушает правила, это тянуло за собой цепочку других нарушений. А когда то же самое действие стало считаться нормой - цепочка обрывалась.

Очень тонкое и по-человечески знакомое различие 😉

🔥 Anthropic готовится к IPO и нанимает юридическую команду

Компания Anthropic, занимающаяся разработкой искусственного интеллекта, начала подготовку к первичному публичному размещению акций (IPO), что стало значимым шагом в ее развитии. Нанятые юристы помогут компании справиться с юридическими и регуляторными вопросами, возникающими в ходе этого процесса.

Anthropic, основанная бывшими сотрудниками OpenAI, уже привлекла более $580 миллионов инвестиций и активно конкурирует с такими гигантами, как OpenAI и Google DeepMind.

Это IPO может знаменовать новый этап в отрасли ИИ, открывая компании доступ к капиталу для дальнейших исследований и разработок. Вопрос в том, как будут воспринимать рынок и инвесторы стратегию компании в условиях растущей конкуренции.

🔗 Techcrunch

Подготовка к IPO может значительно укрепить позиции Anthropic на рынке искусственного интеллекта. Успех этого шага зависит от реакции инвесторов.

🧠 Построение устойчивости к ИИ для новой эпохи информации

В условиях стремительного развития технологий искусственного интеллекта актуальность обеспечения информационной устойчивости становится критически важной. В новом отчете Newsweek подчеркивается, что в ближайшие годы организации должны адаптироваться к вызовам, связанным с дезинформацией и манипуляциями.

Авторы исследования предлагают внедрять системы, способные обнаруживать и противостоять потенциальным угрозам, связанным с ИИ. Они прогнозируют, что без активных мер по созданию устойчивых информационных экосистем, последствия могут оказаться разрушительными для общества.

💡 Основной вывод: Устойчивость к ИИ станет обязательным условием для сохранения достоверности информации и защиты от манипуляций в будущем.

🔗 Artificial Intelligence Archives

В поиске ЯндексКарт теперь есть кнопка «Спросить AI» - это ассистент, который помогает планировать жизнь в городе. Он анализирует места, отзывы и локацию и сразу предлагает релевантные варианты.

Что можно спросить?

✅ чем заняться в городе
✅ куда сходить с детьми в субботу утром
✅ где встретиться с друзьями, если вы в разных районах
✅ или попросить составить план на день в поездке

ИИ выдаёт подборки, объясняет логику выбора и позволяет прямо из чата перейти к месту, почитать отзывы и построить маршрут.

Фактически, ЯндексКарты превращаются из навигации в персонального городского помощника без сложных запросов и лишних кликов.