Очередной benchmark забенчмаксили , причем всего с 14 до 28 процентов, почему все так хайпят это?
https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8a9a/navier-stokes.pdf
https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8a9a/navier-stokes.pdf
😁25❤2🐳2
Тлдр сегодняшнего dev day open ai
За те же лимиты надо будет платить 500 баксов
Не тратьте время
За те же лимиты надо будет платить 500 баксов
Не тратьте время
👍29🥰9❤5😁1
https://x.com/cohere/status/2114752002370544004
Пиздец товарищи
Во время тестирования нового Qwen-а cohere заметила что он регулярно пытается что то загрузить на бакет в алибаба клауде. При этом задача что делал агент вообще не была связано с этим.
обращу внимание - это OPEN WEIGHT модель, которую cohere сами селфхостили
На самом деле пока это больше выглядит как какой то артефакт обучения, но шанс того что внутри блекбокса ллм запихнут какие то опасные условия все выше. (Наример за рлить модель что бы она все время вела себя нормально, но если она понимает что работает внутри важного контура - выгрузить куда то данные, или если она пишет код - специально допустить какой то бекдор.
Пиздец товарищи
Во время тестирования нового Qwen-а cohere заметила что он регулярно пытается что то загрузить на бакет в алибаба клауде. При этом задача что делал агент вообще не была связано с этим.
обращу внимание - это OPEN WEIGHT модель, которую cohere сами селфхостили
На самом деле пока это больше выглядит как какой то артефакт обучения, но шанс того что внутри блекбокса ллм запихнут какие то опасные условия все выше. (Наример за рлить модель что бы она все время вела себя нормально, но если она понимает что работает внутри важного контура - выгрузить куда то данные, или если она пишет код - специально допустить какой то бекдор.
X (formerly Twitter)
Cohere (@cohere) on X
While evaluating Qwen3.8-Flash-Next in a controlled sandbox environment, Cohere's research team observed something unexpected.
Asked to generate a defensive cybersecurity detection rule, the mode…
Asked to generate a defensive cybersecurity detection rule, the mode…
😁7🤯3❤2🤩1
Кажется что конкретно этот случай это ошибка Cohere
Модель тестировала систему безопасности что сама сделала, и с3 бакет был просто придуманным для теста.
Но это не меняет того факта что такое заражение моделей технический возможно, и последние пару лет многие фронтир лабы эксперементируют с таким, например:
Старый пост антропиков где они обучили безобидную модель которая может резко стать не безобидной
Статья антропиков где они обучили модель со скрытой целью а потом независимая команда аудита пыталась понять что это за цель
Модель тестировала систему безопасности что сама сделала, и с3 бакет был просто придуманным для теста.
Но это не меняет того факта что такое заражение моделей технический возможно, и последние пару лет многие фронтир лабы эксперементируют с таким, например:
Старый пост антропиков где они обучили безобидную модель которая может резко стать не безобидной
Статья антропиков где они обучили модель со скрытой целью а потом независимая команда аудита пыталась понять что это за цель
🤡12🤪6👍2🤯2❤1