Заряд оптимизма с утра заказывали? 🗿
Исследователь, специализировавшийся на предобучении LLM и обработке данных, ушел из Anthropic, обвинив ИИ-компании в безответственности
Джейкоб Коксон последние три года занимался претрейном в OpenAI и Anthropic (у них он значился как core researcher). Сегодня ночью он объявил об увольнении и написал в X целый тред о том, что компании, по его мнению, безответственно гонятся за самосовершенствующимся сверхинтеллектом, забывая про безопасность. Он назвал это «игрой с человеческими жизнями».
По мнению Коксона, скоро появятся сверхчеловеческие системы, способные взламывать что угодно, мгновенно совершать революции в любой области и накапливать реальную власть и ресурсы.
При этом он утверждает, что люди, разрабатывающие ИИ, тоже искренне в это верят. Как и в то, что технология может убить всех к концу десятилетия. По его словам, такие разгоны – не маркетинговый трюк, а наоборот. Якобы руководители смягчают публичные формулировки, но в частных разговорах выражают настоящий страх.
На вопрос "Но почему же тогда они продолжают?" Коксон отвечает, что в OpenAI многие не осознали масштаб цивилизационных ставок, а в Anthropic ставки понимают хорошо, но компания заперта в гонке: там героически считают, что раз другие не будут действовать ответственно, придется делать это самим, несмотря на риск. В итоге прогресс продолжается – из-за гордыни и авантюризма.
Джейкоб также обратился к другим исследователям и призвал их подумать, готовы ли они и дальше молча запускать сверхразумные модели без строгого понимания того, к чему это приведет.
Исследователь, специализировавшийся на предобучении LLM и обработке данных, ушел из Anthropic, обвинив ИИ-компании в безответственности
Джейкоб Коксон последние три года занимался претрейном в OpenAI и Anthropic (у них он значился как core researcher). Сегодня ночью он объявил об увольнении и написал в X целый тред о том, что компании, по его мнению, безответственно гонятся за самосовершенствующимся сверхинтеллектом, забывая про безопасность. Он назвал это «игрой с человеческими жизнями».
По мнению Коксона, скоро появятся сверхчеловеческие системы, способные взламывать что угодно, мгновенно совершать революции в любой области и накапливать реальную власть и ресурсы.
При этом он утверждает, что люди, разрабатывающие ИИ, тоже искренне в это верят. Как и в то, что технология может убить всех к концу десятилетия. По его словам, такие разгоны – не маркетинговый трюк, а наоборот. Якобы руководители смягчают публичные формулировки, но в частных разговорах выражают настоящий страх.
На вопрос "Но почему же тогда они продолжают?" Коксон отвечает, что в OpenAI многие не осознали масштаб цивилизационных ставок, а в Anthropic ставки понимают хорошо, но компания заперта в гонке: там героически считают, что раз другие не будут действовать ответственно, придется делать это самим, несмотря на риск. В итоге прогресс продолжается – из-за гордыни и авантюризма.
Джейкоб также обратился к другим исследователям и призвал их подумать, готовы ли они и дальше молча запускать сверхразумные модели без строгого понимания того, к чему это приведет.
Please open Telegram to view this post
VIEW IN TELEGRAM
2
AI VK снова собрала лидов AI, ML и RecSys индустрии на встрече AI VK & Pro.
Здесь снова ушли от формата рабочей встречи и дали больше времени для неформального общения людям, которые развивают крупные ML-системы.
Команда подсветила главные итоги развития их Discovery-платформы и нейросетевых рекомендаций. А после короткой деловой части — мастер-класс и турнир по гольфу.
Немного фотографий с мероприятия.
Здесь снова ушли от формата рабочей встречи и дали больше времени для неформального общения людям, которые развивают крупные ML-системы.
Команда подсветила главные итоги развития их Discovery-платформы и нейросетевых рекомендаций. А после короткой деловой части — мастер-класс и турнир по гольфу.
Немного фотографий с мероприятия.
💘136👍118🗿101🫡30😁24😭24
Data Secrets
Заряд оптимизма с утра заказывали? 🗿 Исследователь, специализировавшийся на предобучении LLM и обработке данных, ушел из Anthropic, обвинив ИИ-компании в безответственности Джейкоб Коксон последние три года занимался претрейном в OpenAI и Anthropic (у них…
Внимание, реакция на этот утренний тред лида по элайменту из Anthropic
🙂 🙂 🙂
Джейкоб здесь прав - мы действительно искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность того, что это случится в течение следующего десятилетия – >10%. Я считаю, что Anthropic старается изо всех сил, но у нас еще нет плана по решению проблемы суперинтеллекта, и мы явно не на пути к этому.
Please open Telegram to view this post
VIEW IN TELEGRAM
🦄147
Media is too big
VIEW IN TELEGRAM
Meta* запустила Muse – облачного персонального агента
Его презентовали как инструмент, который помогает достигать ежедневные цели. Агент может выстроить персональный план, скоординировать время и ресурсы, а затем самостоятельно продвигает работу дальше, открывая браузер, заполняя формы и тд. Может также вести переговоры от имени пользователя.
Агент работает на базе Muse Spark 1.3 в своей изолированной среде внутри инфраструктуры компании. Утверждается, что он никогда не видит настоящие пароли или платежные данные пользователя. Интересно, что кроме основного агента к процессу также постоянно подключен агент Sentinel, единственная функция которого – следить за безопасностью.
Александр Ван назвал Muse «магическим продуктом». В компании также заявляют, что агент «фактически не ограничен в том, что может делать» – единственный лимит это то, к скольким сервисам пользователь готов дать доступ.
Работает через отдельное приложение Muse или внутри WhatsApp.
https://introducing.muse.ai/
Его презентовали как инструмент, который помогает достигать ежедневные цели. Агент может выстроить персональный план, скоординировать время и ресурсы, а затем самостоятельно продвигает работу дальше, открывая браузер, заполняя формы и тд. Может также вести переговоры от имени пользователя.
Агент работает на базе Muse Spark 1.3 в своей изолированной среде внутри инфраструктуры компании. Утверждается, что он никогда не видит настоящие пароли или платежные данные пользователя. Интересно, что кроме основного агента к процессу также постоянно подключен агент Sentinel, единственная функция которого – следить за безопасностью.
Александр Ван назвал Muse «магическим продуктом». В компании также заявляют, что агент «фактически не ограничен в том, что может делать» – единственный лимит это то, к скольким сервисам пользователь готов дать доступ.
Работает через отдельное приложение Muse или внутри WhatsApp.
https://introducing.muse.ai/
👍40😁21❤9👌6🗿4🔥3🕊1💯1🏆1
Data Secrets
Meta* запустила Muse – облачного персонального агента Его презентовали как инструмент, который помогает достигать ежедневные цели. Агент может выстроить персональный план, скоординировать время и ресурсы, а затем самостоятельно продвигает работу дальше…
Please open Telegram to view this post
VIEW IN TELEGRAM
🗿236😁108❤16😢10🤯6👍4😭4🍓3🕊2💯1🎄1
КосмоХакатон 11–13 сентября.
Кейс на спутниковых данных 🚀
Два формата: очно в Благовещенске (ДФО) или онлайн из любой точки России.
Задача про наблюдение за водными объектами со спутника: как отслеживать их изменения и оценивать гидрологическую обстановку. Паводки, обмеление, разливы. Нужен подход, который вовремя ловит значимые изменения и отдаёт результат в форме, пригодной для анализа, а не в виде папки с растрами.
🏆 Призовой фонд площадки — 600 000 ₽
🛰 Команды от 3 до 5 человек. Собери свою или присоединяйся к другим на нашей платформе.
🚀 Лучшие команды выходят в финал в Москве 25–27 сентября — ещё 2,4 млн ₽, и туда тоже можно подключиться онлайн
Детали и расписание: космохакатон.рф/blagoveshchensk
Реклама. АО Инновационные Интеграторы, ИНН 9704244539
Кейс на спутниковых данных 🚀
Два формата: очно в Благовещенске (ДФО) или онлайн из любой точки России.
Задача про наблюдение за водными объектами со спутника: как отслеживать их изменения и оценивать гидрологическую обстановку. Паводки, обмеление, разливы. Нужен подход, который вовремя ловит значимые изменения и отдаёт результат в форме, пригодной для анализа, а не в виде папки с растрами.
🏆 Призовой фонд площадки — 600 000 ₽
🛰 Команды от 3 до 5 человек. Собери свою или присоединяйся к другим на нашей платформе.
🚀 Лучшие команды выходят в финал в Москве 25–27 сентября — ещё 2,4 млн ₽, и туда тоже можно подключиться онлайн
Детали и расписание: космохакатон.рф/blagoveshchensk
Реклама. АО Инновационные Интеграторы, ИНН 9704244539
🗿23😁7👍5❤2🎉1💘1
Please open Telegram to view this post
VIEW IN TELEGRAM
1😁504
This media is not supported in your browser
VIEW IN TELEGRAM
Исследовательница с помощью RL научила мозг мухи играть в beat saber
https://x.com/_lyraaaa_/status/2097527368919470162?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
Использовалась полная цифровая модель мозга плодовой мухи, построенная по реальной карте нейронных связей насекомого: там около около 165 122 нейронов и более 50.4 млн синапсов. Эта модель управляет виртуальным телом мухи в физической симуляции. Про саму эту симуляцию мы рассказывали здесь: https://t.me/data_secrets/8834.
Так вот этот мозг мухи вооружили двумя световыми мечами и поставили покорять Beat Saber с помощью RL. Пока муха играет плохо и почти случайно (на видео, если что, воспроизводится просто оверфит под конкретную последовательность), но обучение продолжается.
Уровень пет-проектов, к которому стоит стремиться
https://x.com/_lyraaaa_/status/2097527368919470162?s=46&t=pKf_FxsPGBd_YMIWTA8xgg
Использовалась полная цифровая модель мозга плодовой мухи, построенная по реальной карте нейронных связей насекомого: там около около 165 122 нейронов и более 50.4 млн синапсов. Эта модель управляет виртуальным телом мухи в физической симуляции. Про саму эту симуляцию мы рассказывали здесь: https://t.me/data_secrets/8834.
Так вот этот мозг мухи вооружили двумя световыми мечами и поставили покорять Beat Saber с помощью RL. Пока муха играет плохо и почти случайно (на видео, если что, воспроизводится просто оверфит под конкретную последовательность), но обучение продолжается.
Уровень пет-проектов, к которому стоит стремиться
1😁206
Вопрос знатокам: сколько уже лет подряд Apple обещает на презентации, что Siri станет умнее, будет вашим личным ассистентом, начнет выполнять за вас ВСЕ задачи и рожать детей?
😁362👾16❤13
Многие бенчмарки на уровне Opus 5 и Sol (обратите внимание на DeepSWE). Учитывая, что это модель Flash, самая маленькая из семейства, очень даже круто.
По поводу внутренностей:
– 552В MoE
– Новая асимметричная архитектура Causal Encoder–Decoder: 8В активных параметров на вход, 16В активных на выход
– Новые метода претрейна + более масштабный RL
Оптимизировали KV-кэш. Теперь он занимает еще меньше памяти в пересчете на токен (3 график).
Цены: $0.15/М input, $0.6/M output в непиковые часы. В пик – в два раза выше.
Веса
Статья
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥190❤45🐳16😁5🤯3🍾2👍1🤩1🕊1🗿1
OpenAI украли еще одно доказательство?
На фоне скандала с Тристаном Бакмастером и Левентом Альпеге внезапно вспыла еще одна история. Помните, в начале августа OpenAI объявили, что Astra решила 10 открытых математических задач? В числе прочего там было построение первой несофической группы, один из самых мощных результатов из того анонса: https://t.me/data_secrets/9645.
Так вот немецкий математик Андреас Том рассказал, что ключевой технический шаг в доказательстве OpenAI напрямую опирался на те идеи, которые он и его коллега обсуждали в чатах с ChatGPT на протяжении нескольких месяцев.
С 2016 года Том и Габор Кун занимались софичностью групп и добились определенных результатов (в частности, было опубликовано несколько работ). В последние месяцы они обсуждали конкретные идеи по расширению их метода на новые случаи. Неопубликованные черновики и методы они также загружали для обсуждения в ChatGPT.
После того, как OpenAI опубликовали свои результаты, Том начал подозревать, что модель могла получить доступ к этим данным. Он утверждает, что путь, который выбрала модель, был далеко не самым очевидным. Большинство исследователей скорее пробовали бы другой подход (через квантовые игры), и то, что модель "случайно" выбрала именно тот непопулярный подход, который Том именно в это время обсуждал в чатах с ChatGPT, кажется статистически подозрительным совпадением.
После анонса ученый даже написал в OpenAI и напрямую спросил, не обучали ли модель на его чатах и не было ли у нее к ним доступа, на что получил холодное "that did not happen". Только после истории с Бакмастером ученый решил рассказать о своем опыте публично, потому что эти истории "подтверждают потерю морального компаса у исследователей OpenAI".
На фоне скандала с Тристаном Бакмастером и Левентом Альпеге внезапно вспыла еще одна история. Помните, в начале августа OpenAI объявили, что Astra решила 10 открытых математических задач? В числе прочего там было построение первой несофической группы, один из самых мощных результатов из того анонса: https://t.me/data_secrets/9645.
Так вот немецкий математик Андреас Том рассказал, что ключевой технический шаг в доказательстве OpenAI напрямую опирался на те идеи, которые он и его коллега обсуждали в чатах с ChatGPT на протяжении нескольких месяцев.
С 2016 года Том и Габор Кун занимались софичностью групп и добились определенных результатов (в частности, было опубликовано несколько работ). В последние месяцы они обсуждали конкретные идеи по расширению их метода на новые случаи. Неопубликованные черновики и методы они также загружали для обсуждения в ChatGPT.
После того, как OpenAI опубликовали свои результаты, Том начал подозревать, что модель могла получить доступ к этим данным. Он утверждает, что путь, который выбрала модель, был далеко не самым очевидным. Большинство исследователей скорее пробовали бы другой подход (через квантовые игры), и то, что модель "случайно" выбрала именно тот непопулярный подход, который Том именно в это время обсуждал в чатах с ChatGPT, кажется статистически подозрительным совпадением.
После анонса ученый даже написал в OpenAI и напрямую спросил, не обучали ли модель на его чатах и не было ли у нее к ним доступа, на что получил холодное "that did not happen". Только после истории с Бакмастером ученый решил рассказать о своем опыте публично, потому что эти истории "подтверждают потерю морального компаса у исследователей OpenAI".
Data Secrets
OpenAI украли еще одно доказательство? На фоне скандала с Тристаном Бакмастером и Левентом Альпеге внезапно вспыла еще одна история. Помните, в начале августа OpenAI объявили, что Astra решила 10 открытых математических задач? В числе прочего там было построение…
Краткое содержание новости выше из нашего чата
😁289🔥35❤10😢6💯5🤝2🎄2
А вы заметили, что с появлением агентов зазор между демо и продом достиг своего максимума?
Сейчас это почти что два разных продукта. Демо соберет каждый второй: подключил тулы, обвязал промптом, показал на созвоне и все. На проде – совершенно другое дело. Логи могут быть чистые, все метрики зеленые, а агент при этом выбирает не тот тул, тащит устаревшие данные и тд. Если обычная ошибка LLM хотя бы видна, то ошибка агента – часто нет. И если материалов по промптингу и базовым фреймворкам достаточно, то вот про мониторинг, guardrails и все то, что отделяет пилот от инцидента, информации в разы меньше.
Наши друзья из Школы Высшей Математики тоже обратили внимание на эту пропасть, и решили перекинуть мост. Они создали курс по AI-агентам, который ведут три инженера, запускавшие агентов в огромных системах. Один строил в Revolut AI ассистента с доступом к транзакциям – сейчас продукт работает по всей Британии. Другой держит в Wildberries агентов-кодеров и ревьюеров. Третий в Точка Банке собрал систему оценки качества на 5000 звонков в день.
Программа разбита на 12 недель и три логичных блока:
— Сначала разработка агента: работа с LLM через API, structured outputs и tool calling, ReAct-агент с памятью, RAG, разбор реальных архитектур.
— Дальше самое недообъясненное в индустрии: качество и оценка. Как отладить агента по трейсам и логам, собрать говорящие метрики и поймать ответы, которые выглядят правильными, но неверны (до того, как это увидит пользователь!).
— Финальный блок – фреймворки и деплой: LangChain, LangGraph, Telegram-бот через MCP, observability в Langfuse, мультиагентные системы через протокол A2A.
Формат – живые занятия раз в неделю, на которых преподаватель поэтапно собирает код на ваших глазах. Домашние задания проверяют лично и дают глубокую ОС. От вас требуется знание Python и опыт работы с API, опыта создания агентов не требуется.
Старт второго потока – 24 сентября. Курс для вас, если вы уже наигрались с демо, и хотите научиться строить то, что действительно заработает.
Реклама. ООО "ШВМ", ИНН 9728100991
Сейчас это почти что два разных продукта. Демо соберет каждый второй: подключил тулы, обвязал промптом, показал на созвоне и все. На проде – совершенно другое дело. Логи могут быть чистые, все метрики зеленые, а агент при этом выбирает не тот тул, тащит устаревшие данные и тд. Если обычная ошибка LLM хотя бы видна, то ошибка агента – часто нет. И если материалов по промптингу и базовым фреймворкам достаточно, то вот про мониторинг, guardrails и все то, что отделяет пилот от инцидента, информации в разы меньше.
Наши друзья из Школы Высшей Математики тоже обратили внимание на эту пропасть, и решили перекинуть мост. Они создали курс по AI-агентам, который ведут три инженера, запускавшие агентов в огромных системах. Один строил в Revolut AI ассистента с доступом к транзакциям – сейчас продукт работает по всей Британии. Другой держит в Wildberries агентов-кодеров и ревьюеров. Третий в Точка Банке собрал систему оценки качества на 5000 звонков в день.
Программа разбита на 12 недель и три логичных блока:
— Сначала разработка агента: работа с LLM через API, structured outputs и tool calling, ReAct-агент с памятью, RAG, разбор реальных архитектур.
— Дальше самое недообъясненное в индустрии: качество и оценка. Как отладить агента по трейсам и логам, собрать говорящие метрики и поймать ответы, которые выглядят правильными, но неверны (до того, как это увидит пользователь!).
— Финальный блок – фреймворки и деплой: LangChain, LangGraph, Telegram-бот через MCP, observability в Langfuse, мультиагентные системы через протокол A2A.
Формат – живые занятия раз в неделю, на которых преподаватель поэтапно собирает код на ваших глазах. Домашние задания проверяют лично и дают глубокую ОС. От вас требуется знание Python и опыт работы с API, опыта создания агентов не требуется.
Старт второго потока – 24 сентября. Курс для вас, если вы уже наигрались с демо, и хотите научиться строить то, что действительно заработает.
Реклама. ООО "ШВМ", ИНН 9728100991
🤨54🗿29❤9👍4😁4⚡2😢2🤝1🫡1🎄1
По всей сети уже распространился слух, что OpenAI решили еще один или даже два миллениума
Первая задача – гипотеза Ходжа, вторая – гипотеза Берча-Свиннертона-Дайера. Про последнюю говорят, что ее могли также решить в Anthropic.
По поводу Ходжа (вероятнее всего) уже высказались New York Times: OpenAI сказали им, что «добились существенного прогресса по еще одной задаче тысячелетия и теперь работают над тем, чтобы поделиться результатом вдумчиво».
Если все подтвердится, то на счету стартапа будут уже 2 Millennium задачи из 6 открытых (всего их было 7, одну решил Перельман).
Что будем решать, когда миллениумы кончатся?😐
Первая задача – гипотеза Ходжа, вторая – гипотеза Берча-Свиннертона-Дайера. Про последнюю говорят, что ее могли также решить в Anthropic.
По поводу Ходжа (вероятнее всего) уже высказались New York Times: OpenAI сказали им, что «добились существенного прогресса по еще одной задаче тысячелетия и теперь работают над тем, чтобы поделиться результатом вдумчиво».
Если все подтвердится, то на счету стартапа будут уже 2 Millennium задачи из 6 открытых (всего их было 7, одну решил Перельман).
Что будем решать, когда миллениумы кончатся?
Please open Telegram to view this post
VIEW IN TELEGRAM
😁120🔥22❤6