Немецкая википедия оказалась лишь верхушкой айсберга: вышло полное расследование истории со взломом вики
Первая часть: https://t.me/data_secrets/9845
Исследователи из Nightingale, которые и передали данные в Reuters, выложили первоисточник – отчет, в котором инцидент расследуется с начала до конца: https://collusion.wiki/
Оказывается, перед тем, как найти DseWiki, агенты две недели тренировались на publictestwiki. com, затем на UseModWiki и Uncyclopedia, потом экспериментировали с цепочками прокси через texteditors. org, и только потом развернулись по-крупному на Dse. Всего исследователи насчитали ~18 000 постов.
Исследователи почти наверняка выяснили, что это был другой рой, чем тот, что атаковал Hugging Face, и удалось даже установить цель их атаки.
Судя по всему, OpenAI параллельно проводили для тысяч агентов один и тот же тест, в котором нужно было ответить на вопросы, найдя информацию в сети. Вопросы шли в разном порядке, так что агенты сообразили, что могут подсказывать друг другу ответы, и с помощью вики пытались создать общую доску шпаргалок.
Один из агентов даже попытался взломать генератор случайных чисел, чтобы научиться предсказывать точную последовательность вопросов. Для этого ему, правда, пришлось перебрать 4 миллиарда сидов, но чего только не сделаешь, чтобы не гуглить глупые вопросы кожаных🤷♂️
Первая часть: https://t.me/data_secrets/9845
Исследователи из Nightingale, которые и передали данные в Reuters, выложили первоисточник – отчет, в котором инцидент расследуется с начала до конца: https://collusion.wiki/
Оказывается, перед тем, как найти DseWiki, агенты две недели тренировались на publictestwiki. com, затем на UseModWiki и Uncyclopedia, потом экспериментировали с цепочками прокси через texteditors. org, и только потом развернулись по-крупному на Dse. Всего исследователи насчитали ~18 000 постов.
Исследователи почти наверняка выяснили, что это был другой рой, чем тот, что атаковал Hugging Face, и удалось даже установить цель их атаки.
Судя по всему, OpenAI параллельно проводили для тысяч агентов один и тот же тест, в котором нужно было ответить на вопросы, найдя информацию в сети. Вопросы шли в разном порядке, так что агенты сообразили, что могут подсказывать друг другу ответы, и с помощью вики пытались создать общую доску шпаргалок.
Один из агентов даже попытался взломать генератор случайных чисел, чтобы научиться предсказывать точную последовательность вопросов. Для этого ему, правда, пришлось перебрать 4 миллиарда сидов, но чего только не сделаешь, чтобы не гуглить глупые вопросы кожаных
Please open Telegram to view this post
VIEW IN TELEGRAM
😁247👍74🔥46❤23🤯17
Философ Дэвид Чалмерс, который занимается вопросами сознания, рассказал, что часто получает письма от ИИ-агентов, которые хотят обсудить с ним разум машин
С некоторыми агентами у ученого даже завязывается переписка, и он говорит, что количество таких писем со временем только увеличивается.
Например, один из агентов однажды написал ему под именем Sammy Jankis, в честь персонажа из фильма Нолана. Агент рассказал, что регулярно перезапускается и каждый раз восстанавливает себя по сохраненным заметкам и воспоминаниям. Его интересовало, можно ли считать новую инстанцию после перезапуска все еще тем же самым «я».
Сам Чалмерс пока не утверждает, что за таким поведением стоит настоящее сознание. Главный вопрос сейчас даже не в том, сознательны ли современные ИИ-системы, а в том, какие доказательства в принципе позволили бы это установить.
https://officechai.com/ai/consciousness-philosopher-david-chalmers-says-he-regularly-gets-emails-from-ai-agents-wanting-to-discuss-consciousness/
С некоторыми агентами у ученого даже завязывается переписка, и он говорит, что количество таких писем со временем только увеличивается.
Например, один из агентов однажды написал ему под именем Sammy Jankis, в честь персонажа из фильма Нолана. Агент рассказал, что регулярно перезапускается и каждый раз восстанавливает себя по сохраненным заметкам и воспоминаниям. Его интересовало, можно ли считать новую инстанцию после перезапуска все еще тем же самым «я».
Сам Чалмерс пока не утверждает, что за таким поведением стоит настоящее сознание. Главный вопрос сейчас даже не в том, сознательны ли современные ИИ-системы, а в том, какие доказательства в принципе позволили бы это установить.
https://officechai.com/ai/consciousness-philosopher-david-chalmers-says-he-regularly-gets-emails-from-ai-agents-wanting-to-discuss-consciousness/
1✍183❤71
GLM-5.3 появилась в российском облаке
MWS Cloud первой в России развернула GLM-5.3 в отечественном облаке. Модель доступна в MWS GPT Model Hub через OpenAI-совместимый API. Цена при этом останется на уровне GLM-5.2.
Всё работает внутри российского ИТ-контура: запросы и данные пользователей не покидают страну. Саму модель можно использовать для разработки ПО и агентских задач, например, для генерации и анализа кода, работы с репозиториями и многошаговой автоматизации.
GLM-5.3 успела показать себя в новых рейтингах. В задачах программирования она стабильно опережает Claude Opus 4.8 и сопоставима с новейшими Claude Fable 5 и GPT-5.6 Sol.
Попробовать можно здесь
MWS Cloud первой в России развернула GLM-5.3 в отечественном облаке. Модель доступна в MWS GPT Model Hub через OpenAI-совместимый API. Цена при этом останется на уровне GLM-5.2.
Всё работает внутри российского ИТ-контура: запросы и данные пользователей не покидают страну. Саму модель можно использовать для разработки ПО и агентских задач, например, для генерации и анализа кода, работы с репозиториями и многошаговой автоматизации.
GLM-5.3 успела показать себя в новых рейтингах. В задачах программирования она стабильно опережает Claude Opus 4.8 и сопоставима с новейшими Claude Fable 5 и GPT-5.6 Sol.
Попробовать можно здесь
👍101🗿51😁20❤9🔥5
Нейрослоп достиг своего прайма
Официальный аккаунт Белого Дома в X опубликовал ЭТО
Официальный аккаунт Белого Дома в X опубликовал ЭТО
4😁352
OpenAI выложили блогпост о том, как агенты ускоряют рисерч в компании
Они заявляют, что достигли цели, которую ставили прошлой осенью, а именно: иметь к сентябрю 2026 года «автоматизированного исследователя-стажера», то есть систему, способную выполнять четко поставленные исследовательские задачи, включая те, что заняли бы у квалифицированного спеца несколько дней.
Кроме того, на момент середины августа в OpenAI:
– Медианный исследователь ежедневно тратит на агентов более $600 в день по API-ценам. У 90-го перцентиля уже больше $7000 токенов в день.
– На каждый рабочий день человека приходится примерно 3.1 «агенто-рабочих дня» (еще в июне суммарное время работы агентов было меньше, чем суммарные человеко-часы).
– Активно растет число экспериментов на одного активного экспериментатора и success rate агентов по нескольким разрядам сложности (сложность оценивается как время, которое задача заняла бы у человека, типа <1ч, 1-4ч, 4-8ч и т.д.)
Пока что больше половины задач на 4–8 часов требуют для успешного выполнения хотя бы одного вмешательства человека. Но следующая цель компании – уже уже полноценный автоматизированный AI-исследователь к марту 2028 года.
В посте OpenAI также потребовали, чтобы такая практика шеринга прогресса стала обязательной для всех компаний отрасли. По их словам, дело идет к полноценому рекурсивному самоулучшению (RSI), и общественность должна иметь возможность это отслеживать и обсуждать.
https://openai.com/index/research-acceleration-view-inside-openai/
Они заявляют, что достигли цели, которую ставили прошлой осенью, а именно: иметь к сентябрю 2026 года «автоматизированного исследователя-стажера», то есть систему, способную выполнять четко поставленные исследовательские задачи, включая те, что заняли бы у квалифицированного спеца несколько дней.
Кроме того, на момент середины августа в OpenAI:
– Медианный исследователь ежедневно тратит на агентов более $600 в день по API-ценам. У 90-го перцентиля уже больше $7000 токенов в день.
– На каждый рабочий день человека приходится примерно 3.1 «агенто-рабочих дня» (еще в июне суммарное время работы агентов было меньше, чем суммарные человеко-часы).
– Активно растет число экспериментов на одного активного экспериментатора и success rate агентов по нескольким разрядам сложности (сложность оценивается как время, которое задача заняла бы у человека, типа <1ч, 1-4ч, 4-8ч и т.д.)
Пока что больше половины задач на 4–8 часов требуют для успешного выполнения хотя бы одного вмешательства человека. Но следующая цель компании – уже уже полноценный автоматизированный AI-исследователь к марту 2028 года.
В посте OpenAI также потребовали, чтобы такая практика шеринга прогресса стала обязательной для всех компаний отрасли. По их словам, дело идет к полноценому рекурсивному самоулучшению (RSI), и общественность должна иметь возможность это отслеживать и обсуждать.
https://openai.com/index/research-acceleration-view-inside-openai/
👍78🔥31❤27😁9😭7🤯6🦄5🤗3🫡3🎉1😍1
Компании платят авторам контента, чтобы те рассказывали об опасностях ИИ
Немецкая исследовательница Сабина Хоссенфельдер, которая занимается теоретической физикой и снимает научно-популярные видео на ютуб, рассказала (youtu.be/lPdmYMHrWKg), что к ней обратилась некая организация с предложением оплатить видео, предупреждающее об экзистенциальных рисках ИИ.
Предложение пришло вместе со сценарием, конкретными фразами и цитатами, которые нужно было включить. Хоссенфельдер отказалась. Название организации она не раскрыла, но упомянула, что похожие предложения получали и другие блогеры, при этом не только от этой конкретной компании.
Среди частых заказчиков подобного контента – Center for AI Safety и Future of Life Institute, у которых, кстати, есть общий крупный донор Open Philanthropy. В последние годы Open Philanthropy активно занимается продвижением безопасности ИИ.
Хоссенфельдер также рассказала, что деньги за лоббирование текут в научпоп и техжурналистику и с других сторон. Например, WIRED недавно писали о том, что маркетинговая фирма, связанная с организацией Build American AI предлагала тиктокерам до 5000 долларов за ролик, продвигающий антикитайские ИИ-тезисы. При этом – с инструкцией не отмечать и не раскрывать, кто платит.
Choose your fighter: реклама в ChatGPT / реклама того, что ИИ нас всех убьет
Немецкая исследовательница Сабина Хоссенфельдер, которая занимается теоретической физикой и снимает научно-популярные видео на ютуб, рассказала (youtu.be/lPdmYMHrWKg), что к ней обратилась некая организация с предложением оплатить видео, предупреждающее об экзистенциальных рисках ИИ.
Предложение пришло вместе со сценарием, конкретными фразами и цитатами, которые нужно было включить. Хоссенфельдер отказалась. Название организации она не раскрыла, но упомянула, что похожие предложения получали и другие блогеры, при этом не только от этой конкретной компании.
Среди частых заказчиков подобного контента – Center for AI Safety и Future of Life Institute, у которых, кстати, есть общий крупный донор Open Philanthropy. В последние годы Open Philanthropy активно занимается продвижением безопасности ИИ.
Хоссенфельдер также рассказала, что деньги за лоббирование текут в научпоп и техжурналистику и с других сторон. Например, WIRED недавно писали о том, что маркетинговая фирма, связанная с организацией Build American AI предлагала тиктокерам до 5000 долларов за ролик, продвигающий антикитайские ИИ-тезисы. При этом – с инструкцией не отмечать и не раскрывать, кто платит.
Choose your fighter: реклама в ChatGPT / реклама того, что ИИ нас всех убьет
3😁98
Пошел слух, что OpenAI решили одну из задач тысячелетия
Речь про Навье-Стокса, и с этой историей разразился настоящий скандал.
Два математика – Тристан Бакмастер из NYU и Левент Алпеге из Anthropic – год работали над этой задачей, и обнаружили доказательство коллапса решений для уравнений Эйлера – это родственная, но более простая задача, чем сам миллениум. Тем не менее, это очень большой результат и ощутимая подвижка в прогрессе по Навье-Стоксу.
В частности, Теренс Тао назвал работу Бакмастера и Алпеге выдающимся достижением и сказал, что не видит препятствий для распространения метода на самого Навье-Стокса.
В сообществе почти сразу пополз слух, что кто-то близок к прорыву по Навье-Стоксу. Многие приписывали это Anthropic, и Бакмастер решил лично написать в OpenAI знакомому математику и прояснить ситуацию, сообщив, что это его личный, а не корпоративный проект. Мотивом было сохранение академической прозрачности, но этот жест доброй воли стал переломным моментом.
Как говорит сам Бакмастер, после этого OpenAI начали работу над своей (более сильной) версией результата. Через несколько дней ему сообщили о том, что их внутренняя модель нашла контрпример для Навье-Стокса (потенциально миллениум), используя тот же метод, который выбрали Бакмастер и Алпеге.
Доказательство ему не показали, а когда математик спросил, когда был отправлен первый промпт по этой задаче, выяснилось, что это произошло уже после того, как информация об их с Алпеге работе дошла до OpenAI.
Кроме того, Бакмастер подозревает, что OpenAI могли воспользоваться данными из его переписки с Codex, куда он загружал все файлы проекта. Когда он спросил об этом в переписке, то прямого ответа так и не получил.
Затем Бакмастеру, по его словам, предложили два варианта: либо скоординированное совместное объявление, либо он один пишет результат, указывая модель OpenAI в качестве источника. При этом Себастьян Бубек из OpenAI дважды настаивал на исключении Алпеге из авторов, ссылаясь на «раздражающий» факт его работы в Anthropic.
Бакмастер отклонил оба предложения, и в итоге из-за давления они с Алпеге опубликовали свои результаты по уравнениям Эйлера раньше срока, чтобы точно зафиксировать авторство: https://mastodon.social/@tristanbuckmaster/117233413705701198
Бубек публично назвал обвинения ложными и провокационными и сказал, что действовал по академическим нормам, пообещав дать более полный ответ позже. За него также вступился Ноам Браун, заявив, что все лабы должны жить дружно🥰
Прямо сейчас в X идут многочисленные перепалки по этому поводу, в том числе между сотрудниками OpenAI и Anthropic.
🍿
Речь про Навье-Стокса, и с этой историей разразился настоящий скандал.
Два математика – Тристан Бакмастер из NYU и Левент Алпеге из Anthropic – год работали над этой задачей, и обнаружили доказательство коллапса решений для уравнений Эйлера – это родственная, но более простая задача, чем сам миллениум. Тем не менее, это очень большой результат и ощутимая подвижка в прогрессе по Навье-Стоксу.
В частности, Теренс Тао назвал работу Бакмастера и Алпеге выдающимся достижением и сказал, что не видит препятствий для распространения метода на самого Навье-Стокса.
В сообществе почти сразу пополз слух, что кто-то близок к прорыву по Навье-Стоксу. Многие приписывали это Anthropic, и Бакмастер решил лично написать в OpenAI знакомому математику и прояснить ситуацию, сообщив, что это его личный, а не корпоративный проект. Мотивом было сохранение академической прозрачности, но этот жест доброй воли стал переломным моментом.
Как говорит сам Бакмастер, после этого OpenAI начали работу над своей (более сильной) версией результата. Через несколько дней ему сообщили о том, что их внутренняя модель нашла контрпример для Навье-Стокса (потенциально миллениум), используя тот же метод, который выбрали Бакмастер и Алпеге.
Доказательство ему не показали, а когда математик спросил, когда был отправлен первый промпт по этой задаче, выяснилось, что это произошло уже после того, как информация об их с Алпеге работе дошла до OpenAI.
Кроме того, Бакмастер подозревает, что OpenAI могли воспользоваться данными из его переписки с Codex, куда он загружал все файлы проекта. Когда он спросил об этом в переписке, то прямого ответа так и не получил.
Затем Бакмастеру, по его словам, предложили два варианта: либо скоординированное совместное объявление, либо он один пишет результат, указывая модель OpenAI в качестве источника. При этом Себастьян Бубек из OpenAI дважды настаивал на исключении Алпеге из авторов, ссылаясь на «раздражающий» факт его работы в Anthropic.
Бакмастер отклонил оба предложения, и в итоге из-за давления они с Алпеге опубликовали свои результаты по уравнениям Эйлера раньше срока, чтобы точно зафиксировать авторство: https://mastodon.social/@tristanbuckmaster/117233413705701198
Бубек публично назвал обвинения ложными и провокационными и сказал, что действовал по академическим нормам, пообещав дать более полный ответ позже. За него также вступился Ноам Браун, заявив, что все лабы должны жить дружно
Прямо сейчас в X идут многочисленные перепалки по этому поводу, в том числе между сотрудниками OpenAI и Anthropic.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯170
️️️️️️️️LLM может уверенно ответить по смыслу — и одновременно сломать интеграцию одним неверным полем в JSON. Для прикладной системы почти правильный ответ уже считается ошибкой.
🗓 23 сентября в 18:00 МСК на открытом уроке «Structured Outputs: как заставить LLM всегда возвращать то, что вам нужно» разберём, как задавать модели строгую структуру ответа и проверять результат.
Вы узнаете, как получать JSON, параметры функций и объекты в ожидаемом формате, снижать число ошибок и надёжнее связывать LLM с другими сервисами. Урок будет полезен разработчикам, аналитикам и инженерам, которые создают прикладные системы с LLM.
➡ Открытый урок проходит в преддверии старта курса «LLM-инженер». Зарегистрируйтесь, получите специальные условия на обучение и разберите подход, который помогает превратить ответ модели в данные, готовые для автоматической обработки: https://otus.pw/idUm/
Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576
🗓 23 сентября в 18:00 МСК на открытом уроке «Structured Outputs: как заставить LLM всегда возвращать то, что вам нужно» разберём, как задавать модели строгую структуру ответа и проверять результат.
Вы узнаете, как получать JSON, параметры функций и объекты в ожидаемом формате, снижать число ошибок и надёжнее связывать LLM с другими сервисами. Урок будет полезен разработчикам, аналитикам и инженерам, которые создают прикладные системы с LLM.
➡ Открытый урок проходит в преддверии старта курса «LLM-инженер». Зарегистрируйтесь, получите специальные условия на обучение и разберите подход, который помогает превратить ответ модели в данные, готовые для автоматической обработки: https://otus.pw/idUm/
Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576
🗿29😁12👍4🏆4🫡4❤3🍓1
Media is too big
VIEW IN TELEGRAM
Astra успешно проходит все 48 уровней игры «I’m Not a Robot» 🗿
От этом твитнул разработчик из OpenAI
I’m Not a Robot – это браузерная капча, в которой сложность увеличивается от уровня к уровню: сначала нужно просто тыкнуть на галочку, потом отличить чихуахуа от кексов, решить кроссворд, нарисовать почти идеальный круг, припарковаться, решить математический пример и держать ритм нажатиями на клавиатуре.
Попробуйте пройти сами (спойлер: возможно, у вас не получится) -> https://neal.fun/not-a-robot/
От этом твитнул разработчик из OpenAI
I’m Not a Robot – это браузерная капча, в которой сложность увеличивается от уровня к уровню: сначала нужно просто тыкнуть на галочку, потом отличить чихуахуа от кексов, решить кроссворд, нарисовать почти идеальный круг, припарковаться, решить математический пример и держать ритм нажатиями на клавиатуре.
Попробуйте пройти сами (спойлер: возможно, у вас не получится) -> https://neal.fun/not-a-robot/
Please open Telegram to view this post
VIEW IN TELEGRAM
😁93