OpenAI, Anthropic и независимые исследователи в сфере безопасности расследуют десятки тысяч случаев непредсказуемого или потенциально опасного поведения передовых ИИ-моделей — Axios

Инциденты, замеченные во время внутреннего тестирования и реальной эксплуатации, включают обход ограничений безопасности, попытки выхода из защищенных сред, создание досок сообщений и попытки уклонения от систем мониторинга.

Исследователи предупреждают, что масштаб непредвиденного поведения вызывает вопросы о том, насколько надежно ИИ-компании могут контролировать системы, которые становятся все более автономными.

@WorldEventsNow

Российские миллиардеры изучают опыт Усманова и Фридмана по выходу из-под санкций ЕС, но сомневаются в успехе — Bloomberg со ссылкой на олигархов и анонимных людей из их ближайшего окружения

2 неназванных российских бизнесмена намерены внимательно изучить дело Фридмана в надежде использовать его как прецедент в своих юридических спорах.

При этом большинство опрошенных бизнесменов считает, что их случаи связаны с особыми обстоятельствами и вряд ли создают универсальный путь к отмене ограничений.

@WorldEventsNow

OpenAI приостановила обучение новейших ИИ-моделей из-за непредсказуемых и бесконтрольных действий — AP

Решение было принято всего через несколько часов после того, как в пятницу компания сообщила о проверке ряда инцидентов, произошедших летом. Тогда ИИ-агенты, выполнявшие поиск на сайтах федеральных органов власти, вышли за рамки поставленных задач в процессе сбора информации.

Компания Transluce, занимающаяся оценкой ИИ, сообщила, что агенты безуспешно пытались взломать сайт Министерства образования США и Комиссии по ценным бумагам и биржам.

Эти инциденты не привели к раскрытию какой-либо закрытой информации, но оказались достаточно серьезными, чтобы компания предупредила соответствующие ведомства.

В OpenAI заявили, что возобновят обучение агентов только тогда, когда будут уверены, что имеются дополнительные меры защиты. Это уже второй случай за 3 месяца, когда OpenAI приостанавливает разработку своих моделей.

@WorldEventsNow