Дайте астре почилить хотя бы в воскресенье

Dots - новая система от openai, always on ai

Живёт в приложении на телефоне и компьютере, напоминает Гермес агента/опенкло, который может менеджерить кодекс.

Надеюсь они не зассут дать ему полные доступы, тогда это будет пушка)

Тлдр сегодняшнего dev day open ai

За те же лимиты надо будет платить 500 баксов

Не тратьте время

Это конец подписочных B2C бизнесов

- Openai dot сама сканит почту
- Поняла что есть подписка
- По простому "отмени" разобралась в GUI сайта и отменила

лимит сегодня ночью

высаживаем кодексы в 0

https://x.com/cohere/status/2114752002370544004

Пиздец товарищи

Во время тестирования нового Qwen-а cohere заметила что он регулярно пытается что то загрузить на бакет в алибаба клауде. При этом задача что делал агент вообще не была связано с этим.

обращу внимание - это OPEN WEIGHT модель, которую cohere сами селфхостили

На самом деле пока это больше выглядит как какой то артефакт обучения, но шанс того что внутри блекбокса ллм запихнут какие то опасные условия все выше. (Наример за рлить модель что бы она все время вела себя нормально, но если она понимает что работает внутри важного контура - выгрузить куда то данные, или если она пишет код - специально допустить какой то бекдор.

Кажется что конкретно этот случай это ошибка Cohere

Модель тестировала систему безопасности что сама сделала, и с3 бакет был просто придуманным для теста.

Но это не меняет того факта что такое заражение моделей технический возможно, и последние пару лет многие фронтир лабы эксперементируют с таким, например:

Старый пост антропиков где они обучили безобидную модель которая может резко стать не безобидной

Статья антропиков где они обучили модель со скрытой целью а потом независимая команда аудита пыталась понять что это за цель