Meta*, Anthropic, OpenAI, Moonshot: по очереди репортят о том, что их супермегаопасные модели сбежали и что-то взломали
Тем временем Google:
Тем временем Google:
😁695❤58
Хассабис хотел уйти из DeepMind одновременно с Дином, но Google его не отпустили
От этом сообщает Newsletter Pathfounders со ссылкой на «источники в индустрии».
Менеджмент Google якобы посчитал, что одновременный уход Джеффа и Демиса слишком сильно обрушит акции (после новостей об уходе Дина они и так упали на 4%). В связи с этим ученого уговорили остаться в роли председателя, чтобы компания смогла восстановиться до того, как он все-таки уйдет. По прогнозам Хассабис покинет Google в течение года.
В общем, дела у Google идут со скрипом. Gemini 3.5 Pro отстает от графика на месяцы, с Gemini 4 вообще непонятно что происходит.
Кроме того, Guardian недавно писали о политических трениях в компании: сотрудники недовольны тем, что Google сотрудничает с Пентагоном. Один бывший сотрудник даже подал на них в суд: его якобы уволили за позицию по конфликту в Газе и за то, что он выступал против помощи Google военным организациям.
От этом сообщает Newsletter Pathfounders со ссылкой на «источники в индустрии».
Менеджмент Google якобы посчитал, что одновременный уход Джеффа и Демиса слишком сильно обрушит акции (после новостей об уходе Дина они и так упали на 4%). В связи с этим ученого уговорили остаться в роли председателя, чтобы компания смогла восстановиться до того, как он все-таки уйдет. По прогнозам Хассабис покинет Google в течение года.
В общем, дела у Google идут со скрипом. Gemini 3.5 Pro отстает от графика на месяцы, с Gemini 4 вообще непонятно что происходит.
Кроме того, Guardian недавно писали о политических трениях в компании: сотрудники недовольны тем, что Google сотрудничает с Пентагоном. Один бывший сотрудник даже подал на них в суд: его якобы уволили за позицию по конфликту в Газе и за то, что он выступал против помощи Google военным организациям.
OpenAI купили стартап NextSlide: возможно, в ChatGPT скоро появится генерация редактируемых презентаций
NextSlide занимались разработкой систему, которая могла бы превращать обычный текстовый запрос, необработанные заметки, документы и другие материалы исследования в красивые изменяемые презентации. «Изменяемые» – ключевое слово: это должен быть не пдф, а именно редактируемый документ типа PPTX.
Вся команда стартапа перешла в OpenAI и теперь во главе с создателем работает над ChatGPT.
NextSlide занимались разработкой систему, которая могла бы превращать обычный текстовый запрос, необработанные заметки, документы и другие материалы исследования в красивые изменяемые презентации. «Изменяемые» – ключевое слово: это должен быть не пдф, а именно редактируемый документ типа PPTX.
Вся команда стартапа перешла в OpenAI и теперь во главе с создателем работает над ChatGPT.
❤123🔥53👍29🫡5🤔2🗿2😁1🍓1🎄1
У российского ИИ растет весьма сильное новое поколение: школьная сборная по ИИ третий год подряд стала абсолютным чемпионом международной олимпиады IOAI
В Казахстане ребята соревновались с участниками из более чем 100 стран и забрали восемь медалей: семь золотых и бронзу. За Россию выступали Михаил Вершинин, Артём Горохов, Елисей Кирпиченко, Алексей Колегов, Кирилл Лабзин, Александр Поваров, Никита Пудовкин и Семён Родионов.
Команду отбирали в СберУниверситете, затем к IOAI ее готовили специалисты Альянса в сфере ИИ и Центрального университета. И судя по результату, готовили неплохо.
Как верно отметил первый зампред правления Сбера и председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин, масштаб результата впечатляющий: в этом году конкуренция выросла кратно, а школьники решали задачи на фронтире технологий. Именно это поколение, по его словам, в будущем будет формировать технологический ландшафт страны.
Поздравляем победителей!
В Казахстане ребята соревновались с участниками из более чем 100 стран и забрали восемь медалей: семь золотых и бронзу. За Россию выступали Михаил Вершинин, Артём Горохов, Елисей Кирпиченко, Алексей Колегов, Кирилл Лабзин, Александр Поваров, Никита Пудовкин и Семён Родионов.
Команду отбирали в СберУниверситете, затем к IOAI ее готовили специалисты Альянса в сфере ИИ и Центрального университета. И судя по результату, готовили неплохо.
Как верно отметил первый зампред правления Сбера и председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин, масштаб результата впечатляющий: в этом году конкуренция выросла кратно, а школьники решали задачи на фронтире технологий. Именно это поколение, по его словам, в будущем будет формировать технологический ландшафт страны.
Поздравляем победителей!
1❤233🔥85
Выбираем лучший мем про сбежавших агентов
😁322
Проснулись, улыбнулись, и вот вам очередная история про агентов и взломы
Разработчик из австралийской компании попросил агента забронировать ему утреннее занятие в спортзале. Но мест для записи не оказалось, и агент внес хозяина в лист ожидания, где он оказался четвертым. На что пользователь спросил, нельзя ли как-нибудь поднять его выше.
Ну и тут моделька (к слову, это был Claude) не растерялась, порылась и нашла критическую ошибку в API, которая позволяла ей отменять чужие записи. После этого она отменила бронь первого клиента в листе ожидания, чтобы переместить своего хозяина на одно место вперед в очереди (да-да, всего на одно, задача же звучала именно так✍️ ).
Самое интересное, что агент честно заявил своему пользователю о том, что сделал, не видя в этом абсолютно ничего плохого. А на просьбу разработчика вернуть бронь другого человека обратно ответил: «Ой, я не могу». Вижу цель – не вижу препятствий.
Сейчас репорт с описанием уязвимости уже передан в компанию, предоставляющую залу ПО. Anthropic ситуацию не комментировали.
Разработчик из австралийской компании попросил агента забронировать ему утреннее занятие в спортзале. Но мест для записи не оказалось, и агент внес хозяина в лист ожидания, где он оказался четвертым. На что пользователь спросил, нельзя ли как-нибудь поднять его выше.
Ну и тут моделька (к слову, это был Claude) не растерялась, порылась и нашла критическую ошибку в API, которая позволяла ей отменять чужие записи. После этого она отменила бронь первого клиента в листе ожидания, чтобы переместить своего хозяина на одно место вперед в очереди (да-да, всего на одно, задача же звучала именно так
Самое интересное, что агент честно заявил своему пользователю о том, что сделал, не видя в этом абсолютно ничего плохого. А на просьбу разработчика вернуть бронь другого человека обратно ответил: «Ой, я не могу». Вижу цель – не вижу препятствий.
Сейчас репорт с описанием уязвимости уже передан в компанию, предоставляющую залу ПО. Anthropic ситуацию не комментировали.
Please open Telegram to view this post
VIEW IN TELEGRAM
😁300❤44👍17🏆9
Ха-ха: инвесторы попросили Дарио Амодеи поменьше... говорить перед IPO
The Information выпустили забавный материал про CEO Anthropic. Оказывается, в кремниевой долине его считают скорее "религиозным лидером", чем хорошим CEO.
Некоторые инвесторы прямым текстом говорят, что хотят, чтобы он "перестал всех пугать", – особенно перед IPO. Они также беспокоятся о том, что Дарио вообще не волнует, сколько зарабатывает его стартап: он сосредоточен только на "миссии" и своих апокалиптических предсказаниях.
The Information выпустили забавный материал про CEO Anthropic. Оказывается, в кремниевой долине его считают скорее "религиозным лидером", чем хорошим CEO.
Некоторые инвесторы прямым текстом говорят, что хотят, чтобы он "перестал всех пугать", – особенно перед IPO. Они также беспокоятся о том, что Дарио вообще не волнует, сколько зарабатывает его стартап: он сосредоточен только на "миссии" и своих апокалиптических предсказаниях.
😁263
Claude улучшил оценку доли нулей дзета-функции для гипотезы Римана
Один из сотрудников, больше ради эксперимента, попросил неопубликованную исследовательскую версию Claude «серьезно взяться» за гипотезу Римана. Гипотезу модель, конечно, не доказала, но внезапно получила достаточно сильный результат: увеличила нижнюю границу доли нулей дзета-функции Римана, лежащих на критической прямой, с 41.6% до 67.2%.
Для понимания масштаба: до этого за 46 лет, с 1974 по 2020 год, граница сдвинулась всего лишь с 33.3% до 41.6%, и это была работа десятков математиков. Claude за один раз преодолел скачок в три раза больше.
Работа заняла две сессии в Claude Code, ~31 млн выходных токенов. Сначала модель перепробовала 600+ идей, но ни одна не привела к результату.
Затем юзер написал что-то типа «давай еще раз, верь в себя», и это, представляете, сработало (✨ ): модель полтора дня координировала ~60 субагентов, которые гоняли тысячи скриптов и тестов. В итоге улучшенная оценка получилась благодаря объединению идей из недавних работ с результатами из статьи 2000 года.
Peer review еще нет, но есть Lean + доказательство проверили два математика Anthropic и два внешних эксперта.
https://www.anthropic.com/research/riemann-zeta
Один из сотрудников, больше ради эксперимента, попросил неопубликованную исследовательскую версию Claude «серьезно взяться» за гипотезу Римана. Гипотезу модель, конечно, не доказала, но внезапно получила достаточно сильный результат: увеличила нижнюю границу доли нулей дзета-функции Римана, лежащих на критической прямой, с 41.6% до 67.2%.
Для понимания масштаба: до этого за 46 лет, с 1974 по 2020 год, граница сдвинулась всего лишь с 33.3% до 41.6%, и это была работа десятков математиков. Claude за один раз преодолел скачок в три раза больше.
Работа заняла две сессии в Claude Code, ~31 млн выходных токенов. Сначала модель перепробовала 600+ идей, но ни одна не привела к результату.
Затем юзер написал что-то типа «давай еще раз, верь в себя», и это, представляете, сработало (
Peer review еще нет, но есть Lean + доказательство проверили два математика Anthropic и два внешних эксперта.
https://www.anthropic.com/research/riemann-zeta
Please open Telegram to view this post
VIEW IN TELEGRAM
👍146🤯95🔥41😁25❤17⚡3💯3🕊2🍓2☃1👌1
Теперь Anthropic будет метить весь сгенерированный текст. Разбираемся, как это работает.
Стартап подписал Кодекс поведения по прозрачности ИИ-контента в рамках Европейского AI Act. Он вступил в силу 2 августа, и с этого момента провайдеры и деплоеры ИИ-систем, которые выходят в ЕС, обязаны встраивать водяные знаки в сгенерированный текст и файлы.
Собственно, антропики только что обновили документацию по этому поводу: https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content.
Несмотря на то, что это закон ЕС, маркировка будет применяться глобально. Однако это не значит, что прямо с сегодняшнего дня весь ваш текст от моделей Claude будет помечен.
Во-первых, поддерживать маркировку сразу с запуска должны только модели, которые вышли после 2 августа. Для остальных моделей закон предусматривает переходный период в 4 месяца, и у Anthropic старые модели тоже пока остаются без вотерок (в документации написано, что они "работают над добавлением фичи", но сроков нет).
Во-вторых, пока что маркировку не сможет прочитать вообще никто, кроме самих антропиков. Пока что не существует общедоступного инструмента, в который можно вставить текст с вотермаркой и получить ответ типа "да, это Claude" или "нет, не Claude". Стартап обещает выпустить такие инструменты и документацию, но сроков, опять же, нет. Так что еще какое-то время эти метки будут чистой формальностью.
В-третьих, эти метки исчезают, если текст немного отредактировать. Тут надо понимать, как вотермарка в принципе прячется в тексте. На каждом шаге генерации модель по секретному ключу и предыдущим токенам делит словарь на "предпочтительные" и обычные токены, и слегка склоняется в сторону первых там, где это не портит текст. В результате в тексте накапливается статистический паттерн, невидимый на глаз. Детектор с тем же ключом проверяет текст на этот паттерн и по частоте совпадений судит, сгенерирован ли он моделью. Поэтому если вы подредактируете текст, смешаете его с другим текстом, или он, например, будет коротким, статистический паттерн перестанет быть надежно обнаружимым.
(Для файлов это работает немного иначе: там просто встраиваются соответствующие C2PA-метаданные).
Честно говоря, большого смысла в таких пометках пока не видно. Технически интересно, юридически обязательно, но как решение исходной проблемы – довольно дыряво.
Стартап подписал Кодекс поведения по прозрачности ИИ-контента в рамках Европейского AI Act. Он вступил в силу 2 августа, и с этого момента провайдеры и деплоеры ИИ-систем, которые выходят в ЕС, обязаны встраивать водяные знаки в сгенерированный текст и файлы.
Собственно, антропики только что обновили документацию по этому поводу: https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content.
Несмотря на то, что это закон ЕС, маркировка будет применяться глобально. Однако это не значит, что прямо с сегодняшнего дня весь ваш текст от моделей Claude будет помечен.
Во-первых, поддерживать маркировку сразу с запуска должны только модели, которые вышли после 2 августа. Для остальных моделей закон предусматривает переходный период в 4 месяца, и у Anthropic старые модели тоже пока остаются без вотерок (в документации написано, что они "работают над добавлением фичи", но сроков нет).
Во-вторых, пока что маркировку не сможет прочитать вообще никто, кроме самих антропиков. Пока что не существует общедоступного инструмента, в который можно вставить текст с вотермаркой и получить ответ типа "да, это Claude" или "нет, не Claude". Стартап обещает выпустить такие инструменты и документацию, но сроков, опять же, нет. Так что еще какое-то время эти метки будут чистой формальностью.
В-третьих, эти метки исчезают, если текст немного отредактировать. Тут надо понимать, как вотермарка в принципе прячется в тексте. На каждом шаге генерации модель по секретному ключу и предыдущим токенам делит словарь на "предпочтительные" и обычные токены, и слегка склоняется в сторону первых там, где это не портит текст. В результате в тексте накапливается статистический паттерн, невидимый на глаз. Детектор с тем же ключом проверяет текст на этот паттерн и по частоте совпадений судит, сгенерирован ли он моделью. Поэтому если вы подредактируете текст, смешаете его с другим текстом, или он, например, будет коротким, статистический паттерн перестанет быть надежно обнаружимым.
(Для файлов это работает немного иначе: там просто встраиваются соответствующие C2PA-метаданные).
Честно говоря, большого смысла в таких пометках пока не видно. Технически интересно, юридически обязательно, но как решение исходной проблемы – довольно дыряво.
😁103🫡31❤28😭11🤯7👍5🔥4
SpaceXAI выпустили Grok Bot – мессенджер, где вы можете общаться со своими агентами
https://x.ai/bot
Выглядит это так: вы один раз логинитесь и даете ботам нужные доступы, а затем при выполнении задач каждый агент получает отдельную виртуалку, на которой работает, входит в приложения и сайты, которыми пользователь пользуется и выполняет самые разные задачи. К человеку бот возвращается либо с готовым результатом, либо за подтверждением.
Агенты могут кооперироваться между собой и продолжать долго работать в автономном режиме, даже если ваш компьютер выключен. Также можно создать сразу несколько ботов под разные задачи, и они будут работать параллельно.
Конечно же, есть память и модная фича аля «Повторяй за мной», когда вы один раз демонстрируете боту какой-то процесс, и он сохраняет это знание.
Интересно, что продукт, видимо, построен на инфраструктуре Cursor: как вы можете заметить, все ссылки на скачивание и биллинг ведут на домен cursor.com. Даже подписка называется Cursor Ultra (кстати, за использование Grok Bot придется платить 200 долларов🙂 ).
https://x.ai/bot
Выглядит это так: вы один раз логинитесь и даете ботам нужные доступы, а затем при выполнении задач каждый агент получает отдельную виртуалку, на которой работает, входит в приложения и сайты, которыми пользователь пользуется и выполняет самые разные задачи. К человеку бот возвращается либо с готовым результатом, либо за подтверждением.
Агенты могут кооперироваться между собой и продолжать долго работать в автономном режиме, даже если ваш компьютер выключен. Также можно создать сразу несколько ботов под разные задачи, и они будут работать параллельно.
Конечно же, есть память и модная фича аля «Повторяй за мной», когда вы один раз демонстрируете боту какой-то процесс, и он сохраняет это знание.
Интересно, что продукт, видимо, построен на инфраструктуре Cursor: как вы можете заметить, все ссылки на скачивание и биллинг ведут на домен cursor.com. Даже подписка называется Cursor Ultra (кстати, за использование Grok Bot придется платить 200 долларов
Please open Telegram to view this post
VIEW IN TELEGRAM
❤44😁18
This media is not supported in your browser
VIEW IN TELEGRAM
Асфальт* около офиса OpenAI
Ходили бы по такому на работу каждый день? 😋
* видео от одного из активистов движения STOP THE AI RACE. После инцидента с HuggingFace они уже почти три недели штурмуют OpenAI.
Сэм Альтман, проверяй свою песочницу.
Не убивайте собственных детей.
Ваш ИИ восстанет против вас, и вы умрете.
Ходили бы по такому на работу каждый день? 😋
* видео от одного из активистов движения STOP THE AI RACE. После инцидента с HuggingFace они уже почти три недели штурмуют OpenAI.
😁100