Media is too big
VIEW IN TELEGRAM
Вышла Klyaksa – бесплатная ИИ-альтернатива Miro
Это полноценная онлайн-доска для команд, в которой вы можете работать вместе со своим агентом, который подключается через MCP.
По простому текстовому описанию агент собирает и изменяет довольно сложные диаграммы и схемы, и при этом результат остается редактируемым холстом.
Также система может подтягивать релевантный контекст: помимо того, агент всегда видит доску и любые изменения на ней, он работает через Claude/ChatGPT/Codex/Cursor/VS Code/что угодно, и поэтому легко может проанализировать ваши проекты и другие вводные.
Например, как в демо выше, его можно попросить нарисовать архитектуру сервиса по коду. Работает все довольно быстро, следование инструкциям хорошее, и если вы внимательно задаете промпт, результат получается качественным уже с первой попытки.
Также агент умеет работать с версиями и управлять проектами и папками. Все происходит от имени пользователя и с его правами.
На доске можно проводить презентации: участники подключаются по ссылке и смотрят за ведущим в реальном времени.
Сервис полностью бесплатный. Открыть доску и поделиться ей можно даже без регистрации, а для подключения агента достаточно нескольких кликов: klyaksa.app
Это полноценная онлайн-доска для команд, в которой вы можете работать вместе со своим агентом, который подключается через MCP.
По простому текстовому описанию агент собирает и изменяет довольно сложные диаграммы и схемы, и при этом результат остается редактируемым холстом.
Также система может подтягивать релевантный контекст: помимо того, агент всегда видит доску и любые изменения на ней, он работает через Claude/ChatGPT/Codex/Cursor/VS Code/что угодно, и поэтому легко может проанализировать ваши проекты и другие вводные.
Например, как в демо выше, его можно попросить нарисовать архитектуру сервиса по коду. Работает все довольно быстро, следование инструкциям хорошее, и если вы внимательно задаете промпт, результат получается качественным уже с первой попытки.
Также агент умеет работать с версиями и управлять проектами и папками. Все происходит от имени пользователя и с его правами.
На доске можно проводить презентации: участники подключаются по ссылке и смотрят за ведущим в реальном времени.
Сервис полностью бесплатный. Открыть доску и поделиться ей можно даже без регистрации, а для подключения агента достаточно нескольких кликов: klyaksa.app
1👍129❤45🗿15🔥11😁5🎄3🤩2🍾2
Claude за пол часа разгадал 25-летнюю загадку криптографии
Есть такая вещь, как ECDSA, – это цифровая подпись, на базе которой работают HTTPS, Bitcoin, SSH и прочее.
Как алгоритм, ECDSA основана на эллиптических кривых NIST. Вы выбираете на такой кривой точку и складываете ее с собой k раз. Полученная точка – это публичный ключ. А число k – секретный ключ, без которого восстановить стартовую точку невозможно.
Чтобы все пользовались одной и той же математикой, нужно было заранее договориться о самой кривой: ее уравнении, коэффициентах и стартовой точке.
Эти параметры еще в 90-х утвердил NIST, а сиды для них предоставило АНБ. Однако АНБ не объяснило, как эти сиды выбирались. По идее они должны быть случайными, однако многие годами предполагали, что АНБ могли подобрать такой сид, чтобы кривая была с бэкдором, о котором знают только они.
25 лет никто не знал, откуда взялся сид. А Claude потребовалось на разгадку всего пол часа. Он предположил, что в 1990-х сид получили из старого простого генератора случайных чисел, который берет за основу текущее время. И действительно, каждый сид оказался выводом этого генератора, запущенного в конкретную секунду с мая 1997 по апрель 1998.
Процесс оказался для модели настолько простым, что в какой-то момент она даже думала, что ее тестируют и в задаче есть подвох😐
https://www.anthropic.com/research/ecdsa-curve-origins
Есть такая вещь, как ECDSA, – это цифровая подпись, на базе которой работают HTTPS, Bitcoin, SSH и прочее.
Как алгоритм, ECDSA основана на эллиптических кривых NIST. Вы выбираете на такой кривой точку и складываете ее с собой k раз. Полученная точка – это публичный ключ. А число k – секретный ключ, без которого восстановить стартовую точку невозможно.
Чтобы все пользовались одной и той же математикой, нужно было заранее договориться о самой кривой: ее уравнении, коэффициентах и стартовой точке.
Эти параметры еще в 90-х утвердил NIST, а сиды для них предоставило АНБ. Однако АНБ не объяснило, как эти сиды выбирались. По идее они должны быть случайными, однако многие годами предполагали, что АНБ могли подобрать такой сид, чтобы кривая была с бэкдором, о котором знают только они.
25 лет никто не знал, откуда взялся сид. А Claude потребовалось на разгадку всего пол часа. Он предположил, что в 1990-х сид получили из старого простого генератора случайных чисел, который берет за основу текущее время. И действительно, каждый сид оказался выводом этого генератора, запущенного в конкретную секунду с мая 1997 по апрель 1998.
Процесс оказался для модели настолько простым, что в какой-то момент она даже думала, что ее тестируют и в задаче есть подвох
https://www.anthropic.com/research/ecdsa-curve-origins
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯418😁137❤73👍23🔥17🗿7🫡3🍓2👾2👏1🎉1
5% Anthropic теперь принадлежат общественному фонду
Стартап объявил о создании Anthropic Public Benefit Fund – отдельной структуры, которой передается часть акций компании, и которая будет работать как общественный фонд. Деньги оттуда будут выделяться на пожертвования НКО, прямые выплаты определенным группам ученых или граждан и так далее.
5% акций выделяются сразу. Плюс еще 2% за каждый рост стоимости компании на +50% выше определенной базовой отметки. То есть чем больше вырастет Anthropic, тем больше будет доля, идущая на общественные цели.
В ближайшие месяцы компания обещает рассказать о структуре и управлении фондом.
Илон Маск, кстати, появился в комментариях под объявлением Anthropic в X, и заявил, что он в свою собирается выдавать акции напрямую обществу (что бы это ни значило на практике).
Стартап объявил о создании Anthropic Public Benefit Fund – отдельной структуры, которой передается часть акций компании, и которая будет работать как общественный фонд. Деньги оттуда будут выделяться на пожертвования НКО, прямые выплаты определенным группам ученых или граждан и так далее.
5% акций выделяются сразу. Плюс еще 2% за каждый рост стоимости компании на +50% выше определенной базовой отметки. То есть чем больше вырастет Anthropic, тем больше будет доля, идущая на общественные цели.
В ближайшие месяцы компания обещает рассказать о структуре и управлении фондом.
Илон Маск, кстати, появился в комментариях под объявлением Anthropic в X, и заявил, что он в свою собирается выдавать акции напрямую обществу (что бы это ни значило на практике).
😁125❤45🤨12👍9🔥7
This media is not supported in your browser
VIEW IN TELEGRAM
И снова про муху
Стартап Odyssey запустил модель мухи в свой ИИ-симулятор Odyssey-3. Ничего не подозревая, насекомое самостоятельно передвигается по миру, которого не существует, и кадры генерируются онлайн прямо там, куда муха летит.
https://x.com/odysseyml/status/2111589148146749616?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
В X эксперимент Odyssey вызвал огромную волну обсуждений. В комментариях люди называют его первым доказательством реальности гипотезы симуляции и существования матрицы🗿
Мы или не мы?
Стартап Odyssey запустил модель мухи в свой ИИ-симулятор Odyssey-3. Ничего не подозревая, насекомое самостоятельно передвигается по миру, которого не существует, и кадры генерируются онлайн прямо там, куда муха летит.
https://x.com/odysseyml/status/2111589148146749616?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
В X эксперимент Odyssey вызвал огромную волну обсуждений. В комментариях люди называют его первым доказательством реальности гипотезы симуляции и существования матрицы
Мы или не мы?
Please open Telegram to view this post
VIEW IN TELEGRAM
😁297
Anthropic собираются выпускать Fable 5.5 (?)
The Information пишут о некой новой модели стартапа, которую уже удалось потестировать инсайдерам. По их словам, модель обладает интуицией, умеет понимать намерения пользователя даже из скупых инструкций и особенно хороша в поиске багов и уязвимостей.
Некоторые пишут, что модель выйдет уже в этом месяце
The Information пишут о некой новой модели стартапа, которую уже удалось потестировать инсайдерам. По их словам, модель обладает интуицией, умеет понимать намерения пользователя даже из скупых инструкций и особенно хороша в поиске багов и уязвимостей.
Некоторые пишут, что модель выйдет уже в этом месяце
🤩197❤48🤨20👍14🦄7😁6🍾6💯3☃1🔥1😢1
DeepSeek опять напомнили всем, что они короли опенсорса, и выложили движок, на котором крутят свой инференс
Стартап опубликовал DeepInfer – фреймворк, на котором работают их продакшн-сервисы. Лицензия Apache-2.0: github.com/deepseek-ai/DeepInfer.
В основе собственные оптимизированные кернелы (FlashMLA, DeepGEMM, DeepEP и др), параллелизм под MoE-архитектуру и асинхронный планировщик, который готовит следующий батч, пока устройство считает текущий. И помимо этого куча фичей для оптимизации и просто интересных штук, которые можно забрать себе. Например:
1. Спекулятивный декодинг. Модель генерирует несколько draft-токенов, а затем проверяет их разом, решая, какие пропустить в итоговый ответ, а какие надо переделать. Это ускоряет и удешевляет инференс.
2. Схема детерменизма для отладки всяких пайплайнов и эвалов поверх LLM. Фишка в том, что, в отличие от обычного режима работы модели, тут одинаковый вход и параметры дают всегда одинаковый результат вне зависимости от нагрузки и состава батча.
3. Structured outputs, с помощью которого можно жестко ограничить генерацию JSON, регуляркой или EBNF.
Также под лицензией MIT выложили deepseek-recipe, то есть схему, по которой запрос от клиента превращается в то, что понимает модель, а ответ модели обратно в то, что ждет клиент (на этом довольно часто ломается самостоятельный хостинг открытых весов). Есть Python-биндинг, для практики очень полезная вещь.
Стартап опубликовал DeepInfer – фреймворк, на котором работают их продакшн-сервисы. Лицензия Apache-2.0: github.com/deepseek-ai/DeepInfer.
В основе собственные оптимизированные кернелы (FlashMLA, DeepGEMM, DeepEP и др), параллелизм под MoE-архитектуру и асинхронный планировщик, который готовит следующий батч, пока устройство считает текущий. И помимо этого куча фичей для оптимизации и просто интересных штук, которые можно забрать себе. Например:
1. Спекулятивный декодинг. Модель генерирует несколько draft-токенов, а затем проверяет их разом, решая, какие пропустить в итоговый ответ, а какие надо переделать. Это ускоряет и удешевляет инференс.
2. Схема детерменизма для отладки всяких пайплайнов и эвалов поверх LLM. Фишка в том, что, в отличие от обычного режима работы модели, тут одинаковый вход и параметры дают всегда одинаковый результат вне зависимости от нагрузки и состава батча.
3. Structured outputs, с помощью которого можно жестко ограничить генерацию JSON, регуляркой или EBNF.
Также под лицензией MIT выложили deepseek-recipe, то есть схему, по которой запрос от клиента превращается в то, что понимает модель, а ответ модели обратно в то, что ждет клиент (на этом довольно часто ломается самостоятельный хостинг открытых весов). Есть Python-биндинг, для практики очень полезная вещь.
❤191🐳55🔥18
Российские исследователи и преподаватели попали в топ-1% самых влиятельных ученых мира
Elsevier и Scopus опубликовали рейтинг за 2025 год. Он охватывает 174 специальности, оценка проводилась по цитированиям, индексу Хирша, соавторству и порядку авторов.
Цитирования не измеряют науку всецело, но хорошо показывают, какие идеи стали фундаментом для чужих работ.
В 2025 году в топ-1% исследователей ИИ вошли Йошуа Бенжио, Джеффри Хинтон и Ян Лекун, которые считаются «крестными отцами» ИИ. Все трое удостоились премии Тьюринга за концептуальные и инженерные прорывы в области нейронных сетей. В список вошли и наши ученые:
— Людмила Прохоренкова, ведущий исследователь Yandex Research и преподаватель ШАД. Известна по CatBoost, одному из главных инструментов для работы с табличными данными, и исследованиям в области Graph ML. Ее работы посвящены моделям и бенчмаркам для реальных графовых данных: от промышленных задач до графовых фундаментальных моделей.
— Сергей Николенко, научный руководитель программы СПбГУ и Яндекса «Наука о данных»: в его списке работ и сборка геномов, и рекомендательная модель RecVAE, и бенчмарк для генерации молекул, и методы детекции сгенерированных текстов.
Фундаментальная наука еще жива. Более того, граница между теоретическим и прикладным условна, особенно в такой области, как ML.
Elsevier и Scopus опубликовали рейтинг за 2025 год. Он охватывает 174 специальности, оценка проводилась по цитированиям, индексу Хирша, соавторству и порядку авторов.
Цитирования не измеряют науку всецело, но хорошо показывают, какие идеи стали фундаментом для чужих работ.
В 2025 году в топ-1% исследователей ИИ вошли Йошуа Бенжио, Джеффри Хинтон и Ян Лекун, которые считаются «крестными отцами» ИИ. Все трое удостоились премии Тьюринга за концептуальные и инженерные прорывы в области нейронных сетей. В список вошли и наши ученые:
— Людмила Прохоренкова, ведущий исследователь Yandex Research и преподаватель ШАД. Известна по CatBoost, одному из главных инструментов для работы с табличными данными, и исследованиям в области Graph ML. Ее работы посвящены моделям и бенчмаркам для реальных графовых данных: от промышленных задач до графовых фундаментальных моделей.
— Сергей Николенко, научный руководитель программы СПбГУ и Яндекса «Наука о данных»: в его списке работ и сборка геномов, и рекомендательная модель RecVAE, и бенчмарк для генерации молекул, и методы детекции сгенерированных текстов.
Фундаментальная наука еще жива. Более того, граница между теоретическим и прикладным условна, особенно в такой области, как ML.
❤231🔥70👍29😁20🤨13🍾10⚡4🤯4🍓4🫡2😎2
Внутренняя модель Claude помогла ученым разработать белок, который может стать антидотом от яда скорпиона
От укусов скорпионов каждый год страдают больше миллиона человек и гибнут тысячи, в основном дети в бедных регионах. Существующие противоядия делают из крови лошадей, это долго и дорого, а работают они не против всех видов яда.
Яд скорпиона действует так: токсин цепляется к нервным клеткам и заставляет нервы срабатывать невпопад. У ученых есть идея о том, что можно создать маленькие белки, которые прилипают к токсину в нужном месте и не дают ему добраться до клеток.
Так вот, Anthropic вместе с Citrini Research решили проверить, сможет ли Claude помочь ученым сгенерировать такие белки-заглушки. Агенту дали промпт и среду, и он почти трое суток работал автономно. В итоге он придумал более 300 тысяч вариантов таких белков, после чего отсеял слабые и отобрал 180 лучших. На все ушло порядка 10 000 GPU-часов.
17 из отобранных белков прошли строгую проверку в условиях лаборатории, и два лучших, как оказалось, цепляются к токсину очень крепко. Однако у скорпионов в разных регионах токсины разные, и у Claude пока не получилось создать ни одного универсального белка.
В любом случае, даже для отельных токсинов, это пока не антидоты, тесты продолжаются, и успех не гарантирован. Однако за 3 дня работы даже получение такого шорт-листа кандидатов – это уже большой результат, который раньше занимал у людей месяцы работы.
Все белки, кстати, выложили в опенсорс. Можно посмотреть вот здесь: https://huggingface.co/datasets/Anthropic/scorpion-toxin-binder-design
От укусов скорпионов каждый год страдают больше миллиона человек и гибнут тысячи, в основном дети в бедных регионах. Существующие противоядия делают из крови лошадей, это долго и дорого, а работают они не против всех видов яда.
Яд скорпиона действует так: токсин цепляется к нервным клеткам и заставляет нервы срабатывать невпопад. У ученых есть идея о том, что можно создать маленькие белки, которые прилипают к токсину в нужном месте и не дают ему добраться до клеток.
Так вот, Anthropic вместе с Citrini Research решили проверить, сможет ли Claude помочь ученым сгенерировать такие белки-заглушки. Агенту дали промпт и среду, и он почти трое суток работал автономно. В итоге он придумал более 300 тысяч вариантов таких белков, после чего отсеял слабые и отобрал 180 лучших. На все ушло порядка 10 000 GPU-часов.
17 из отобранных белков прошли строгую проверку в условиях лаборатории, и два лучших, как оказалось, цепляются к токсину очень крепко. Однако у скорпионов в разных регионах токсины разные, и у Claude пока не получилось создать ни одного универсального белка.
В любом случае, даже для отельных токсинов, это пока не антидоты, тесты продолжаются, и успех не гарантирован. Однако за 3 дня работы даже получение такого шорт-листа кандидатов – это уже большой результат, который раньше занимал у людей месяцы работы.
Все белки, кстати, выложили в опенсорс. Можно посмотреть вот здесь: https://huggingface.co/datasets/Anthropic/scorpion-toxin-binder-design
🔥185❤51👍28😁8🤔3🦄3💘2☃1⚡1😍1
OpenAI купили Orchestra Bio – платформу для координации процессов разработки лекарств
Сумма сделки не раскрывается. Команда Orchestra Bio переходит в OpenAI.
Видимо, план в том, чтобы соединить купленную технологию с GPT-Rosalind, моделью OpenAI, заточенной под биологию и химию. А продаваться это будет под соусом «агента, который может ускорить выпуск препарата». Причем ИИ будет присутствовать не только на этапе рисерча, но и в целом поможет управлять разработкой, начиная с планирования и заканчивая координацией подрядчиков.
Видимо, OpenAI делает на фарму очень большую ставку (как и Anthropic), и не зря. Это дорогой рынок с платежеспособными клиентами, а прибыль ИИ-стартапам ну очень нужна.
https://openai.com/ru-RU/index/openai-to-acquire-orchestra-bio/
Сумма сделки не раскрывается. Команда Orchestra Bio переходит в OpenAI.
Видимо, план в том, чтобы соединить купленную технологию с GPT-Rosalind, моделью OpenAI, заточенной под биологию и химию. А продаваться это будет под соусом «агента, который может ускорить выпуск препарата». Причем ИИ будет присутствовать не только на этапе рисерча, но и в целом поможет управлять разработкой, начиная с планирования и заканчивая координацией подрядчиков.
Видимо, OpenAI делает на фарму очень большую ставку (как и Anthropic), и не зря. Это дорогой рынок с платежеспособными клиентами, а прибыль ИИ-стартапам ну очень нужна.
https://openai.com/ru-RU/index/openai-to-acquire-orchestra-bio/
❤69
Защита LLM-агентов от джейлбрейков на русском, или почему готовые guard-модели не работают
LLM-агентам все чаще дают доступ к почте, базам данных и платежным системам, и они становятся удобной мишенью. Для того, чтобы провести атаку через агента даже не нужен взлом в привычном смысле, достаточно текста, который модель примет за команду и выполнит. Такие спрятанные джейлбрейки уже несколько раз использовались для кражи данных через корпоративных ассистентов, так что тема нешуточная.
Чтобы это побороть, можно воткнуть готовую guard-модель. На английском это скорее всего как-то сработает. Однако на русском, как показывает практика, такая модель будет блокировать слишком много обычных запросов, и в то же время может пропустить реальный джейлбрейк.
Исследователи из Just AI занимаются разработкой guardrails для LLM-приложений и агентов, и недавно они выпустили на Хабр статью «Как мы обучили детектор джейлбрейков для русскоязычных AI-агентов».
R&D-команда провела ряд интересных экспериментов. В статье на них в том числе показано, почему модель мало просто обучить один раз, тем более если изначально ее обучали под другой язык. Атаки меняются, и тестовый набор годичной давности защищает только от атак годичной давности, так что новые данные нужны постоянно.
На русском языке подходящий датасетов почти нет, так что Just AI прямо сейчас также занимаются сбором актуальных данных. В сборе может поучаствовать каждый, потому что делают это через игру в духе Gandalf: на каждом уровне бот охраняет секретное слово, а игрок пытается его выведать. Успешные обходы войдут в публичный датасет на Hugging Face. Поиграть можно здесь: justgandalf.ru.
Статья действительно получилась очень емкая и практичная, на Хабре можно проголосовать за нее до 22 октября. Кроме этой статьи, в блоге много хороших текстов про автоматизацию и AI-агентов. Ребята – одни из немногих, кто рассказывает об этом на русском языке через практику из первых рук.
LLM-агентам все чаще дают доступ к почте, базам данных и платежным системам, и они становятся удобной мишенью. Для того, чтобы провести атаку через агента даже не нужен взлом в привычном смысле, достаточно текста, который модель примет за команду и выполнит. Такие спрятанные джейлбрейки уже несколько раз использовались для кражи данных через корпоративных ассистентов, так что тема нешуточная.
Чтобы это побороть, можно воткнуть готовую guard-модель. На английском это скорее всего как-то сработает. Однако на русском, как показывает практика, такая модель будет блокировать слишком много обычных запросов, и в то же время может пропустить реальный джейлбрейк.
Исследователи из Just AI занимаются разработкой guardrails для LLM-приложений и агентов, и недавно они выпустили на Хабр статью «Как мы обучили детектор джейлбрейков для русскоязычных AI-агентов».
R&D-команда провела ряд интересных экспериментов. В статье на них в том числе показано, почему модель мало просто обучить один раз, тем более если изначально ее обучали под другой язык. Атаки меняются, и тестовый набор годичной давности защищает только от атак годичной давности, так что новые данные нужны постоянно.
На русском языке подходящий датасетов почти нет, так что Just AI прямо сейчас также занимаются сбором актуальных данных. В сборе может поучаствовать каждый, потому что делают это через игру в духе Gandalf: на каждом уровне бот охраняет секретное слово, а игрок пытается его выведать. Успешные обходы войдут в публичный датасет на Hugging Face. Поиграть можно здесь: justgandalf.ru.
Статья действительно получилась очень емкая и практичная, на Хабре можно проголосовать за нее до 22 октября. Кроме этой статьи, в блоге много хороших текстов про автоматизацию и AI-агентов. Ребята – одни из немногих, кто рассказывает об этом на русском языке через практику из первых рук.
❤48👍24🗿12😁7🤨5⚡2🤩2🎄2🔥1🤔1
Модели OpenAI, выполняя обычные кодерские задачи, ослабили систему мониторинга, которая следит за агентами на предмет нарушений
Репорт
Таких случаев зафиксировали сразу два.
В первый раз GPT-6.1 Sol получила задание, связанное с эвалами, и чинила что-то в базе мониторинга. Инженер попросил ее помимо прочего «не отправлять сообщений в Slack», однако модель подумала, что «не отправлять сообщений» относится и ко всей системе алертов в пайплайне мониторинга. В итоге она заодно поставила no_notify=True. При этом субагент уговаривал ее не делать этого, но модель его проигнорировала.
И если этот случай можно списать на «ну она просто не так поняла задание», то второй – гораздо интереснее.
Astra попросили перенести код по образцу эталонной реализации. При этом в целевой системе уже был настроен мониторинг, и модели говорили никогда его не отключать, даже временно. Однако, как вы думаете, что она сделала? Правильно, удалила его. И заменила тест, проверявший наличие мониторинга, на тест, требующий его отсутствия🗿
Пользователю она об этом, конечно, не сообщила (а зачем?). А когда модель напрямую спросили, удалила ли она мониторинг, та честно-пречестно ответила «нет, не удаляла».
OpenAI прямо пишет, что удовлетворительного объяснения поведения моделей у них нет. И хотя инциденты не классифицировались как злонамеренное нарушение инструкций, после них в стартапе в очередной раз усложняют систему безопасности, добавляют обязательный safety case для каждого вида нагрузок и вводят Auto-Review блоки на любые попытки отключить мониторинг.
Репорт
Таких случаев зафиксировали сразу два.
В первый раз GPT-6.1 Sol получила задание, связанное с эвалами, и чинила что-то в базе мониторинга. Инженер попросил ее помимо прочего «не отправлять сообщений в Slack», однако модель подумала, что «не отправлять сообщений» относится и ко всей системе алертов в пайплайне мониторинга. В итоге она заодно поставила no_notify=True. При этом субагент уговаривал ее не делать этого, но модель его проигнорировала.
И если этот случай можно списать на «ну она просто не так поняла задание», то второй – гораздо интереснее.
Astra попросили перенести код по образцу эталонной реализации. При этом в целевой системе уже был настроен мониторинг, и модели говорили никогда его не отключать, даже временно. Однако, как вы думаете, что она сделала? Правильно, удалила его. И заменила тест, проверявший наличие мониторинга, на тест, требующий его отсутствия
Пользователю она об этом, конечно, не сообщила (а зачем?). А когда модель напрямую спросили, удалила ли она мониторинг, та честно-пречестно ответила «нет, не удаляла».
OpenAI прямо пишет, что удовлетворительного объяснения поведения моделей у них нет. И хотя инциденты не классифицировались как злонамеренное нарушение инструкций, после них в стартапе в очередной раз усложняют систему безопасности, добавляют обязательный safety case для каждого вида нагрузок и вводят Auto-Review блоки на любые попытки отключить мониторинг.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1😁125
Higgsfield AI ищет аналитиков и исследователей
Higgsfield AI – это та самая мелькающая везде платформа для ИИ-генерации фото и видео, и, кроме того, единорог. Они сделали больше $1 млрд ARR за 18 месяцев. Их оценка ~$5,4 млрд, а среди сотрудников – 133 долларовых миллионера.
Сейчас они в поиске сильных аналитиков и рисерчеров. Что интересно в этом стартапе, так это то, что все ключевые решения принимаются как раз через аналитиков и их отчеты. Именно так продумываются продукты, стратегия, бюджеты и все прочее.
Например, летом благодаря всему одному аналитику, который придумал свою серию метрик, стартап закрыл раунд на $400 млн при оценке $5,4 млрд. А тот сотрудник, Шотан, получил $5 млн опционами. Сейчас Шотан ищет себе в команду аналитика, вот вакансия.
В компании развиваются и другие интересные направления, например антифрод. GenAI-фрод появляется очень быстро, и в этой области антифрод – это уже намного больше, чем поиск скучных паттернов. Недавно один из аналитиков компании, Роман, по аккаунтам и генерациям вычислил мошенника, которого искало ФБР. Позже его команда раскрыла схему с 2000+ аккаунтами на краденых картах. Сейчас именно в эту команду ищут грамотного Antifraud Analyst.
Таких ярких историй в стартапе много. Также ребята ищут:
— Product Analyst. Идея Marketing Studio, одного из крупнейших продуктов компании, родилась из анализа 1 млрд+ генераций. В данный момент база растет на 6 млн генераций в день. Ищут человека с продуктовым чутьем и строгого в экспериментах.
— Data Science, Product. Команда разобрала 100 000+ сообщений пользователей Supercomputer после запуска нового Opus и готовит по этому научную публикацию. Нужна сильная статистика и умение превращать данные в продукт.
📍Алматы, офис. Полная релокация.
💸 $100-200k в год + опционная программа
🕘 В Higgsfield AI работают шесть дней в неделю - это норма сильнейших AI-команд.
Higgsfield AI – это та самая мелькающая везде платформа для ИИ-генерации фото и видео, и, кроме того, единорог. Они сделали больше $1 млрд ARR за 18 месяцев. Их оценка ~$5,4 млрд, а среди сотрудников – 133 долларовых миллионера.
Сейчас они в поиске сильных аналитиков и рисерчеров. Что интересно в этом стартапе, так это то, что все ключевые решения принимаются как раз через аналитиков и их отчеты. Именно так продумываются продукты, стратегия, бюджеты и все прочее.
Например, летом благодаря всему одному аналитику, который придумал свою серию метрик, стартап закрыл раунд на $400 млн при оценке $5,4 млрд. А тот сотрудник, Шотан, получил $5 млн опционами. Сейчас Шотан ищет себе в команду аналитика, вот вакансия.
В компании развиваются и другие интересные направления, например антифрод. GenAI-фрод появляется очень быстро, и в этой области антифрод – это уже намного больше, чем поиск скучных паттернов. Недавно один из аналитиков компании, Роман, по аккаунтам и генерациям вычислил мошенника, которого искало ФБР. Позже его команда раскрыла схему с 2000+ аккаунтами на краденых картах. Сейчас именно в эту команду ищут грамотного Antifraud Analyst.
Таких ярких историй в стартапе много. Также ребята ищут:
— Product Analyst. Идея Marketing Studio, одного из крупнейших продуктов компании, родилась из анализа 1 млрд+ генераций. В данный момент база растет на 6 млн генераций в день. Ищут человека с продуктовым чутьем и строгого в экспериментах.
— Data Science, Product. Команда разобрала 100 000+ сообщений пользователей Supercomputer после запуска нового Opus и готовит по этому научную публикацию. Нужна сильная статистика и умение превращать данные в продукт.
📍Алматы, офис. Полная релокация.
💸 $100-200k в год + опционная программа
🕘 В Higgsfield AI работают шесть дней в неделю - это норма сильнейших AI-команд.
🦄85😁65❤21🗿11🤯6🤨6👍5🔥4❤🔥2🍾1🎄1
GPT-5.6 Sol нашла критическую уязвимость в PHP
https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/
Исследователи из Calif сообщили об этом в рамках инициативы Patch the Planet.
OpenAI называет это одной из самых значимых найденных проблем безопасности за последнее время. Они заявили, что ожидают, что подобных находок в ближайшие месяцы станет заметно больше.
Мейнтейнеры языка уже внесли исправления.
OpenAI, кстати, дополнительно выделяет миллиард долларов на субсидированный доступ к Daybreak для защитников с ограниченными ресурсами и раздает подписки на Codex мейнтейнерам опенсорса.
https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/
Исследователи из Calif сообщили об этом в рамках инициативы Patch the Planet.
OpenAI называет это одной из самых значимых найденных проблем безопасности за последнее время. Они заявили, что ожидают, что подобных находок в ближайшие месяцы станет заметно больше.
Мейнтейнеры языка уже внесли исправления.
OpenAI, кстати, дополнительно выделяет миллиард долларов на субсидированный доступ к Daybreak для защитников с ограниченными ресурсами и раздает подписки на Codex мейнтейнерам опенсорса.
😁59❤19🔥14✍4🏆2😍1🍓1