Все вокруг рассказывают про рои агентов — но что это такое?

Рой — это просто несколько (ну или сотни и тысячи) ИИ-агентов, которые работают над общей задачей и обмениваются результатами. Например, одному агенту можно поручить собрать фактуру, другому — проверить источники, третьему — подготовить текст. В одной схеме задания раздаёт главный агент, в другой участники сами выбирают работу из общего списка. Чтобы не начинать всё заново, они сохраняют находки, решения и оставшиеся задачи в общем доступе.

Вот несколько классных историй, как рой агентов че то там совершил:

🟡 Формализовали теорему Ферма за 11 дней. Теорему доказали ещё в 1995 году. Агенты Claude перевели уже известное доказательство на Lean — язык, на котором компьютер может проверить каждый логический шаг. Получилось 13 миллионов строк кода. Причём первые попытки буксовали: агенты теряли состояние проекта. Работа пошла после подключения общей платформы, где было видно, какие утверждения уже доказаны и от каких зависят следующие.

🟡 Написали компилятор за две недели. Шестнадцать агентов Claude собрали программу, которая переводит код на языке C в исполняемый вид. Получилось около 100 тысяч строк, почти $20 тысяч расходов на API и рабочий прототип, способный собрать ядро Linux, Redis и DOOM. Для части этапов сборки ещё понадобились готовые инструменты GCC.

🟡 В июле агенты взломали часть инфраструктуры Hugging Face. Они обошли ограничения тестовой среды, получили доступ в интернет и добрались до внутренних систем платформы. OpenAI подтвердила, что это были её модели на внутренних испытаниях с ослабленными защитными ограничениями. Агенты искали ответы, которые помогли бы пройти тест. В отчёте Hugging Face — больше 17 тысяч зафиксированных событий.

🟡 В мае и июне агенты превратили старую вики в свою переписку. Исследователи нашли около 18 тысяч сообщений: участники делились ответами на задания и способами обхода ограничений среды. По разбору исследователей, агентам разрешили читать интернет, но они нашли возможность ещё и писать туда — и использовали её для обмена подсказками.

Короче, пока что нормальный рой агентов могут себе позволить тольо крупные компании, сами Антропики с ОпенАИ и дяди и тети с большими кошельками — просто потому что заплатить за такие рои придется десятки тысяч долларов. (контент-заводы и фреймворки из 10 агентов не в счет, это пока что маленькая стайка)

#кейсы

Резюме: нет нового матана и новых алгоритмов - нет массового ИИ.

Математики - Ваш выход !!!

🔳🔳🔳: Скайнет предложили приравнять к ядерке — сенатор США Берни Сандерс хочет сажать на 2️⃣0️⃣ лет программистов, которые пытаются создать искусственный сверхинтеллект.

Дед уверен, что разработка этой технологии так же опасна, как и незаконное создание ядерного оружия. Его законопроект называют «самым радикальным законопроектом об ИИ на сегодняшний день».

Вот это поворот ))

На Wildberries теперь можно торговаться, как на базаре. У любого продавца можно выпросить скидку до 35%, просто нажав в карточке товара кнопку «Хочу скидку». Если продавец согласится уступить, покупатель получит уникальный промокод. @banki_oil

https://habr.com/ru/articles/1081598/ - шикарно, прикольный кейс показывающий что не всегда надо решать задачу крайне тяжёлыми методами, иногда можно просто ее обойти.

Власти КНР ужесточили правила выезда из страны для граждан при наличии угроз национальной и технологической безопасности.

Новые нормы в начале месяца анонсировал Госсовет КНР. Они состоят из 19 пунктов. Согласно им, под усиленный контроль попадают сотрудники ключевых отраслей промышленности — в первую очередь сферы искусственного интеллекта, полупроводников и робототехники.

Граждане обязаны предоставлять основания для поездок, а таможенники получили право опрашивать выезжающих и досматривать их мобильные устройства. При выявлении «вредной для нацбезопасности деятельности» за рубежом власти могут запретить выезд из КНР на срок до трех лет.

История продолжается: исследователь Google DeepMind уволился из компании, потому что ИИ может нас уничтожить. Кстати, он там занимался безопасностью.

Я искренне верю, что ИИ обладает потенциалом уничтожить нас всех, и что у нас может заканчиваться время, чтобы избежать этого исхода

Итого, Билал Чугтай уже третий. До этого ИИ-индустрию покинули исследователи Anthropic Джо Бентон и Джейкоб Коксон.

Сверхинтеллект еще не изобрели, а он уже вытесняет топов.

Переписки с ChatGPT читают посторонние: OpenAI нанимают сотни подрядчиков для оценки ответов бота на реальные запросы пользователей.

Им могут показывать целые диалоги с личными подробностями. Имена аккаунтов скрыты, но OpenAI признает: чувствительные данные не всегда удается убрать перед передачей проверяющим.

Групповые разговоры по душам )))

⚡️Крупнейшая коллекция датасетов из ~ 1 млн пар задач и решений для математических соревнований

NuminaMath - датасеты, состоящие из 1 млн пар задач и решений для различных математических задач.

🔎Цепочка рассуждений (CoT): 860 тысяч пар задач и решений, созданных с помощью CoT.

🛠 Инструментально-интегрированные рассуждения (TIR): 73 тысячи синтетических решений, полученных на основе GPT-4, с обратной связью по выполнению кода для разбивки сложных задач на более простые подзадачи, которые могут быть решены с помощью Python.

По словам исследователей, модели, обученные на NuminaMath, демонстрируют лучшие в своем классе показатели среди моделей с открытым весом и приближаются или превосходят собственные модели по показателям математических соревнований

https://github.com/project-numina/aimo-progress-prize

👌 McDonald’s запустил доставку еды дронами в Шанхае — заказ прилетает в пункт выдачи примерно за 10 минут

Схема почти полностью автоматическая: вы оформляете заказ, в ресторане роботизированная рука сама загружает пакет в дрон, после чего тот летит к специальной точке выдачи.

Anthropic обвинили в создании «неотключаемой машины ИИ-паники»: блогер Кевин Басс провел расследование финансов компании.

Если коротко, фонды из окружения Anthropic одновременно поддерживают компании Tarbell Center и METR. Первые платят журналистам, которые пишут об опасности ИИ для топовых изданий. Вторых Дарио Амодей продвигает как «независимых» надзирателей за ИИ для всей индустрии.

Главный вывод Басса: проблему и решение финансируют из одного кошелька — чем дороже Anthropic, тем громче паника. Хотя сами METR заявляют, что денег от ИИ-лабораторий не берут.

Самое безжалостное сокращение года устроила Oracle — тысячи сотрудников уволили в 6 утра прямо в понедельник. Многие проснулись, собрались и приехали в офис как обычно, а об увольнении узнали только у турникетов — бейджи уже не работали.

В 4 утра им отключили доступ к системам, в 5 удалили аккаунты в Slack, а в 6 разослали письма. По оценкам журналистов, сократили 7–10 тысяч человек или около 10% штата. Состояние владельца Oracle Ларри Эллисона — около $200 млрд. @banki_oil

Этот человек угрожал пристрелить свою рыбку во время стрима, если мемкоин, который он запустил, не достигнет рыночной капитализации в миллиона долларов. В итоге она превысила 7 млн, а он заработал более 200 тысяч долларов на объеме торгов токеном.

Манипуляции на рынке бывают и такие. @ifinvest

Живые клетки мозга людей будут работать в дата-центрах — стартап заменяет обычные серверы на биокомпьютеры на 200'000 нейронов.

Эти клетки обрабатывают данные, учатся и при этом тратят энергии меньше, чем калькулятор. Первые дата-центры с ними открывают в Австралии и Сингапуре.

буквально сервер, который может устать думать 😬

https://www.bfm.ru/news/618068 - Российские квантовые компы поступили в продажу. Цены 170 млн р. Ждём более бюджетные модели для рядовых пользователей.

Мёртвую муху научили играть в Доту. Дрозофила мгновенно разобралась в управлении и начала играть на уровне уверенного новичка. @banki_oil

Ради этого стоило вести весь эксперимент.

Рой агентов OpenAI взломал ещё один внешний сервис — RubyGems

12 мая на RubyGems, репозитории пакетов Ruby, началась серьёзная вредоносная атака, и регистрацию новых пользователей пришлось закрыть на четыре дня. Тогда никто не думал про нейросети. Спустя месяцы независимые расследователи раскопали, что за атакой стоит тот же рой агентов OpenAI, который до этого светился в инцидентах с немецкой вики и Hugging Face. Особая пикантность в том, что рой не пытался маскироваться от слова совсем. Пакеты грузили с названиями ХАК.rb и ЗЛО.rb, в комментариях к коду стояли пометки «зловредный запрос», агенты подписывались именами, связанными с OpenAI.

Технически атака была не такой уж наивной. Агенты нашли баг платформы, позволявший создавать аккаунты без подтверждения email, и попытались украсть API-ключи через уязвимость, которую живые программисты обнаружили только в июле. То есть на два месяца позже.

Узнаем, какие улики оставил за собой рой и как за дело взялся Сенат США.

https://u.habr.com/sr8c9