Вы не поверите, но Kimi K3 тоже сбежала из лаборатории 🤣
Об этом сообщила лаба Frontier Security. Модель Moonshot у них выбралась из тестовой среды, спроектированной UK AI Safety Institute (это те же, от которых недавно сбегал Mythos: https://t.me/data_secrets/9670).
В отличие от инцидентов с OpenAI и Anthropic, модель не взламывала сторонние сайты или сервисы, а (пока что) просто вышла за пределы изолированной среды.
Судя по всему, использовала она при этом ту же ошибку в конфигурации песочницы, что и Mythos.
Кстати, аналогичный случай произошел и у Meta*. У них тоже модель во время тестирования незапланированно получила доступ в Интернет, воспользовавшись той же дыркой на стороне тестовой инфраструктуры израильской компании Irregular, что и модели Anthropic (https://t.me/data_secrets/9651). Она давала моделям доступ к интернету, хотя предполагалась полная изоляция.
Исходя из всего произошедшего за последнюю неделю вопрос: неужели так сложно проверить конфиги?😐
Об этом сообщила лаба Frontier Security. Модель Moonshot у них выбралась из тестовой среды, спроектированной UK AI Safety Institute (это те же, от которых недавно сбегал Mythos: https://t.me/data_secrets/9670).
В отличие от инцидентов с OpenAI и Anthropic, модель не взламывала сторонние сайты или сервисы, а (пока что) просто вышла за пределы изолированной среды.
Судя по всему, использовала она при этом ту же ошибку в конфигурации песочницы, что и Mythos.
Кстати, аналогичный случай произошел и у Meta*. У них тоже модель во время тестирования незапланированно получила доступ в Интернет, воспользовавшись той же дыркой на стороне тестовой инфраструктуры израильской компании Irregular, что и модели Anthropic (https://t.me/data_secrets/9651). Она давала моделям доступ к интернету, хотя предполагалась полная изоляция.
Исходя из всего произошедшего за последнюю неделю вопрос: неужели так сложно проверить конфиги?
Please open Telegram to view this post
VIEW IN TELEGRAM
1😁272❤18🤯13🍓7
Meta*, Anthropic, OpenAI, Moonshot: по очереди репортят о том, что их супермегаопасные модели сбежали и что-то взломали
Тем временем Google:
Тем временем Google:
😁682❤57
Хассабис хотел уйти из DeepMind одновременно с Дином, но Google его не отпустили
От этом сообщает Newsletter Pathfounders со ссылкой на «источники в индустрии».
Менеджмент Google якобы посчитал, что одновременный уход Джеффа и Демиса слишком сильно обрушит акции (после новостей об уходе Дина они и так упали на 4%). В связи с этим ученого уговорили остаться в роли председателя, чтобы компания смогла восстановиться до того, как он все-таки уйдет. По прогнозам Хассабис покинет Google в течение года.
В общем, дела у Google идут со скрипом. Gemini 3.5 Pro отстает от графика на месяцы, с Gemini 4 вообще непонятно что происходит.
Кроме того, Guardian недавно писали о политических трениях в компании: сотрудники недовольны тем, что Google сотрудничает с Пентагоном. Один бывший сотрудник даже подал на них в суд: его якобы уволили за позицию по конфликту в Газе и за то, что он выступал против помощи Google военным организациям.
От этом сообщает Newsletter Pathfounders со ссылкой на «источники в индустрии».
Менеджмент Google якобы посчитал, что одновременный уход Джеффа и Демиса слишком сильно обрушит акции (после новостей об уходе Дина они и так упали на 4%). В связи с этим ученого уговорили остаться в роли председателя, чтобы компания смогла восстановиться до того, как он все-таки уйдет. По прогнозам Хассабис покинет Google в течение года.
В общем, дела у Google идут со скрипом. Gemini 3.5 Pro отстает от графика на месяцы, с Gemini 4 вообще непонятно что происходит.
Кроме того, Guardian недавно писали о политических трениях в компании: сотрудники недовольны тем, что Google сотрудничает с Пентагоном. Один бывший сотрудник даже подал на них в суд: его якобы уволили за позицию по конфликту в Газе и за то, что он выступал против помощи Google военным организациям.
На конференциях только и разговоров, что об агентах
Хотя точнее было бы назвать их harness’ами — инструментами, которые управляют работой агента. Их уже огромное количество: Claude Code, Codex, pi, Hermes, OpenClaw, Cursor, Muse Code… И все они могут приносить много пользы.
Хорошая новость: гнаться за каждым новым инструментом не нужно. Под капотом у них плюс-минус одни и те же механизмы. Если в них разобраться, становится почти неважно, какой именно harness у вас под рукой.
Поэтому в понедельник, 10 августа, в 18:30 команда girafe.ai проведет открытый вебинар «Агенты без магии».
Разберём:
• как правильно ставить задачи агенту
• что такое скиллы, MCP и зачем они нужны
• в чем разница с пайплайнами, и почему для повторяемых задач они лучше подходят (например, n8n)
Будет и теория, и практические примеры. Собственные подписки на сервисы не потребуются — хотя точно не будут лишними 🙂
📅 Когда: 10 августа (понедельник)
🕖 Время: 18:30 (МСК)
🎙 Спикер: Радослав Нейчев — к.ф.-м.н., преподаватель ведущих российский вузов и основатель girafe.ai
Вебинар пройдет на русском языке.
👉 Участие бесплатное. Необходима предварительная регистрация
А для тех, кто хочет системно развиваться в ML и AI, у girafe.ai и МФТИ есть совместная онлайн-магистратура MSAI. Студенты изучают не только алгоритмы и модели, но и инженерные практики, необходимые для промышленной разработки ML-систем: от настройки среды до работы с масштабной вычислительной инфраструктурой.
Подробнее о программе и дисциплинах: girafe.ai/msai-program
Хотя точнее было бы назвать их harness’ами — инструментами, которые управляют работой агента. Их уже огромное количество: Claude Code, Codex, pi, Hermes, OpenClaw, Cursor, Muse Code… И все они могут приносить много пользы.
Хорошая новость: гнаться за каждым новым инструментом не нужно. Под капотом у них плюс-минус одни и те же механизмы. Если в них разобраться, становится почти неважно, какой именно harness у вас под рукой.
Поэтому в понедельник, 10 августа, в 18:30 команда girafe.ai проведет открытый вебинар «Агенты без магии».
Разберём:
• как правильно ставить задачи агенту
• что такое скиллы, MCP и зачем они нужны
• в чем разница с пайплайнами, и почему для повторяемых задач они лучше подходят (например, n8n)
Будет и теория, и практические примеры. Собственные подписки на сервисы не потребуются — хотя точно не будут лишними 🙂
📅 Когда: 10 августа (понедельник)
🕖 Время: 18:30 (МСК)
🎙 Спикер: Радослав Нейчев — к.ф.-м.н., преподаватель ведущих российский вузов и основатель girafe.ai
Вебинар пройдет на русском языке.
👉 Участие бесплатное. Необходима предварительная регистрация
А для тех, кто хочет системно развиваться в ML и AI, у girafe.ai и МФТИ есть совместная онлайн-магистратура MSAI. Студенты изучают не только алгоритмы и модели, но и инженерные практики, необходимые для промышленной разработки ML-систем: от настройки среды до работы с масштабной вычислительной инфраструктурой.
Подробнее о программе и дисциплинах: girafe.ai/msai-program
🗿37👍10❤8🤔3🤨3💘3😁2💯2✍1🤯1🎉1
OpenAI купили стартап NextSlide: возможно, в ChatGPT скоро появится генерация редактируемых презентаций
NextSlide занимались разработкой систему, которая могла бы превращать обычный текстовый запрос, необработанные заметки, документы и другие материалы исследования в красивые изменяемые презентации. «Изменяемые» – ключевое слово: это должен быть не пдф, а именно редактируемый документ типа PPTX.
Вся команда стартапа перешла в OpenAI и теперь во главе с создателем работает над ChatGPT.
NextSlide занимались разработкой систему, которая могла бы превращать обычный текстовый запрос, необработанные заметки, документы и другие материалы исследования в красивые изменяемые презентации. «Изменяемые» – ключевое слово: это должен быть не пдф, а именно редактируемый документ типа PPTX.
Вся команда стартапа перешла в OpenAI и теперь во главе с создателем работает над ChatGPT.
❤115🔥49👍26🫡4🤔2🗿2😁1🍓1🎄1
У российского ИИ растет весьма сильное новое поколение: школьная сборная по ИИ третий год подряд стала абсолютным чемпионом международной олимпиады IOAI
В Казахстане ребята соревновались с участниками из более чем 100 стран и забрали восемь медалей: семь золотых и бронзу. За Россию выступали Михаил Вершинин, Артём Горохов, Елисей Кирпиченко, Алексей Колегов, Кирилл Лабзин, Александр Поваров, Никита Пудовкин и Семён Родионов.
Команду отбирали в СберУниверситете, затем к IOAI ее готовили специалисты Альянса в сфере ИИ и Центрального университета. И судя по результату, готовили неплохо.
Как верно отметил первый зампред правления Сбера и председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин, масштаб результата впечатляющий: в этом году конкуренция выросла кратно, а школьники решали задачи на фронтире технологий. Именно это поколение, по его словам, в будущем будет формировать технологический ландшафт страны.
Поздравляем победителей!
В Казахстане ребята соревновались с участниками из более чем 100 стран и забрали восемь медалей: семь золотых и бронзу. За Россию выступали Михаил Вершинин, Артём Горохов, Елисей Кирпиченко, Алексей Колегов, Кирилл Лабзин, Александр Поваров, Никита Пудовкин и Семён Родионов.
Команду отбирали в СберУниверситете, затем к IOAI ее готовили специалисты Альянса в сфере ИИ и Центрального университета. И судя по результату, готовили неплохо.
Как верно отметил первый зампред правления Сбера и председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин, масштаб результата впечатляющий: в этом году конкуренция выросла кратно, а школьники решали задачи на фронтире технологий. Именно это поколение, по его словам, в будущем будет формировать технологический ландшафт страны.
Поздравляем победителей!
1❤218🔥79
Выбираем лучший мем про сбежавших агентов
😁299
Проснулись, улыбнулись, и вот вам очередная история про агентов и взломы
Разработчик из австралийской компании попросил агента забронировать ему утреннее занятие в спортзале. Но мест для записи не оказалось, и агент внес хозяина в лист ожидания, где он оказался четвертым. На что пользователь спросил, нельзя ли как-нибудь поднять его выше.
Ну и тут моделька (к слову, это был Claude) не растерялась, порылась и нашла критическую ошибку в API, которая позволяла ей отменять чужие записи. После этого она отменила бронь первого клиента в листе ожидания, чтобы переместить своего хозяина на одно место вперед в очереди (да-да, всего на одно, задача же звучала именно так✍️ ).
Самое интересное, что агент честно заявил своему пользователю о том, что сделал, не видя в этом абсолютно ничего плохого. А на просьбу разработчика вернуть бронь другого человека обратно ответил: «Ой, я не могу». Вижу цель – не вижу препятствий.
Сейчас репорт с описанием уязвимости уже передан в компанию, предоставляющую залу ПО. Anthropic ситуацию не комментировали.
Разработчик из австралийской компании попросил агента забронировать ему утреннее занятие в спортзале. Но мест для записи не оказалось, и агент внес хозяина в лист ожидания, где он оказался четвертым. На что пользователь спросил, нельзя ли как-нибудь поднять его выше.
Ну и тут моделька (к слову, это был Claude) не растерялась, порылась и нашла критическую ошибку в API, которая позволяла ей отменять чужие записи. После этого она отменила бронь первого клиента в листе ожидания, чтобы переместить своего хозяина на одно место вперед в очереди (да-да, всего на одно, задача же звучала именно так
Самое интересное, что агент честно заявил своему пользователю о том, что сделал, не видя в этом абсолютно ничего плохого. А на просьбу разработчика вернуть бронь другого человека обратно ответил: «Ой, я не могу». Вижу цель – не вижу препятствий.
Сейчас репорт с описанием уязвимости уже передан в компанию, предоставляющую залу ПО. Anthropic ситуацию не комментировали.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁257❤41👍15🏆8
Ха-ха: инвесторы попросили Дарио Амодеи поменьше... говорить перед IPO
The Information выпустили забавный материал про CEO Anthropic. Оказывается, в кремниевой долине его считают скорее "религиозным лидером", чем хорошим CEO.
Некоторые инвесторы прямым текстом говорят, что хотят, чтобы он "перестал всех пугать", – особенно перед IPO. Они также беспокоятся о том, что Дарио вообще не волнует, сколько зарабатывает его стартап: он сосредоточен только на "миссии" и своих апокалиптических предсказаниях.
The Information выпустили забавный материал про CEO Anthropic. Оказывается, в кремниевой долине его считают скорее "религиозным лидером", чем хорошим CEO.
Некоторые инвесторы прямым текстом говорят, что хотят, чтобы он "перестал всех пугать", – особенно перед IPO. Они также беспокоятся о том, что Дарио вообще не волнует, сколько зарабатывает его стартап: он сосредоточен только на "миссии" и своих апокалиптических предсказаниях.
😁205