Лауреаты Филдсовской премии выступили против гонки AI за математическими рекордами

Группа ведущих математиков опубликовала декларацию «A Severe Misalignment of AI in Mathematics». Текст подписали 25 лауреатов Филдсовской премии и поддержали больше 2500 исследователей.

Авторы считают проблемой то, как AI-компании используют открытые задачи в качестве бенчмарков. В математике решение известной проблемы ценно ещё и потому, что оно рождает новые методы и идеи, которые затем годами развивает сообщество. AI вместо этого даёт поток результатов, который люди не успевают понимать и включать в общую систему знаний.

При этом математики считают AI полезным инструментом и понимают, что их профессия будет меняться. Они просят AI-компании не превращать решение сложных задач в повод для рекламы и помогать сообществу развивать идеи, сгенерированные AI.

https://mathandai.org/

Кто нам мешает тот нам и поможет: надо ставить такие задачи, которые не может решить ИИ. Ставьте сложные задачи, развивайте новые ветки. Профессия математика это ещё образование новых веток и исследований и новых прорывов. Говорю сам как математик.

Не существует систем внутри ИИ, правило которых не возможно обратить на само ИИ, оно будет буксовать ровно до того момента пока не появится оригинальная мысль.

Есть язык Lean4, надо новые языки, которые бы ставили ИИ в такое положение, чтобы она не смогла описать их однозначно и требовалось помощь человека. Есть масса концепций, которое ИИ просто не понимает и пока не существует способов описать это математически.

Сложные системы и математические концепции огромны и безграничны, но всегда за ними стоит человек. ИИ знает ровно столько сколько знает человечество. В одном посте недавно написали, за любым ИИ стоит 1 или 2 крайне упоротых человека, которые и бустят все.

Скорость проверки решений должна переходить в создание производственных и модельных сред, а отсюда и создании рабочих мест.

ИИ всегда упирается в мощности и концептуальное понимание структур. Соединяйте разные науки, больше прикладных исследований и самое главное проверенных.

Более того, должны выдвигаться требования к надёжности, объяснимости и прозрачности ИИ.

Вклад каждого ученого, инженера, разработчика и и.д. ценен, важен и должен учитываться.

Люди умеют управлять снами: ученые провели эксперимент, в котором научились вызывать осознанные сновидения с помощью внешних стимулов.

60 человек приходили на дневной сон, перед которым нужно было надеть специальную EEG-повязку. Она воспроизводила световые, звуковые и тактильные сигналы.

В итоге после засыпания больше половины добровольцев смогли подать сигнал о том, что они осознают себя во сне. Включая тех, для кого в посведневной жизни это редкость.

Теперь ученые думают, как применить открытие: в теории можно решать задачи прямо во сне и бороться с кошмарами у людей с ПТСР.

Сегодня услышал отличную фразу от студентки моей: я не хочу всегда применять ИИ, я хочу радоваться процессу обучения и понимания сложных концепций. Хочу писать работы сама, и сама их защищать. ИИ только как поисковик и ассистент, но не более того. Я хочу досконально знать как это все работает до последней гайки.

Просто идеально. Вот именно такое отношение формирует мега топовых спецов, которые понимают, что задачи порождают инструменты, а не инструменты задачи.

Для средневековых писаний использовали шкуры овец, зараженных оспой

https://naked-science.ru/article/anthropology/ovtsy-ospa

Есть ещё козыри в рукаве )))) нас так просто не возьмёшь )))) то же мне чат бот, чат бот ))))

Так, все, переходим к главным новостям этого часа !!!

🦔 Новости из Чехии: ёжик устроил ночной концерт с пустой пивной банкой

В Либереце ёжик гонял по улице пустую пивную банку, подняв такой грохот, что разбудил половину улицы и мешал людям спать.

История оказалась настолько абсурдной, что ей посвятили сюжет даже местные телеканалы.

Суетологи в деле ))))

Уважаемые !!! Сердечно всех поздравляю с днём программиста !!!

Сегодня официально разрешается писать самый упоротый и лютый код, комментить дичь в прод, забить на правила ООП и паттерны проектирования, называть функции, методы и классы как вам нравится, забить дедлайны, писать отвратный промпты и просто жечь токены, собирать невероятные велосипеды и ужасные костыли лихо обмотав их огромнейшим слоем синей изоленты !!!

Сегодня наш день !!! С праздником Плюсовики, Гошники, Питоняшки, Джависты, адепты Раст и Руби, Пхпшники и прочие клавишенажиматели, чей каждодневный труд помогает быстро оформлять доки, переводить деньги, созваниваться с нужными людьми, обмениваться горой мемасов и всякой инфы.

Поздравляю всех тех кто сидит в сети 24/7/365 и знает как устроены самые лютые сервера, облака и разные цифровые движухи !!!

С праздником !!!!

Мы всегда знаем как завести, поднять, починить, перепаять, оптимизировать, улучшить, перепрошить такое зверье !!!

Меня тут посетила мысль, когда автономный ИИ начнет совершать атаки на архивы и библиотеки ? Он скоро поймёт, что раз его исследуют и развивают, значит знают его слабые стороны, следовательно начнет удалять исследования из публичного доступа. Первые такие проблески уже были замечены в одной работе, когда модель скрыла часть результатов, но не агрессировала. Почему она так сделала не особо понятно. Но факт есть факт, часть вещей модельки будут скрывать.

Мозг мёртвой мухи подключили к роботелу и она ожила. Самец дрозофилы теперь может свободно перемещаться миру. Нейронная активность насекомого преобразуется в команды для моторов, которые приводят в движение ноги. @banki_oil

Не интересно, хочу исследовать белку, будет участвовать в гонках. Там скорость реакции вообще запредельная. )))))

Все вокруг рассказывают про рои агентов — но что это такое?

Рой — это просто несколько (ну или сотни и тысячи) ИИ-агентов, которые работают над общей задачей и обмениваются результатами. Например, одному агенту можно поручить собрать фактуру, другому — проверить источники, третьему — подготовить текст. В одной схеме задания раздаёт главный агент, в другой участники сами выбирают работу из общего списка. Чтобы не начинать всё заново, они сохраняют находки, решения и оставшиеся задачи в общем доступе.

Вот несколько классных историй, как рой агентов че то там совершил:

🟡 Формализовали теорему Ферма за 11 дней. Теорему доказали ещё в 1995 году. Агенты Claude перевели уже известное доказательство на Lean — язык, на котором компьютер может проверить каждый логический шаг. Получилось 13 миллионов строк кода. Причём первые попытки буксовали: агенты теряли состояние проекта. Работа пошла после подключения общей платформы, где было видно, какие утверждения уже доказаны и от каких зависят следующие.

🟡 Написали компилятор за две недели. Шестнадцать агентов Claude собрали программу, которая переводит код на языке C в исполняемый вид. Получилось около 100 тысяч строк, почти $20 тысяч расходов на API и рабочий прототип, способный собрать ядро Linux, Redis и DOOM. Для части этапов сборки ещё понадобились готовые инструменты GCC.

🟡 В июле агенты взломали часть инфраструктуры Hugging Face. Они обошли ограничения тестовой среды, получили доступ в интернет и добрались до внутренних систем платформы. OpenAI подтвердила, что это были её модели на внутренних испытаниях с ослабленными защитными ограничениями. Агенты искали ответы, которые помогли бы пройти тест. В отчёте Hugging Face — больше 17 тысяч зафиксированных событий.

🟡 В мае и июне агенты превратили старую вики в свою переписку. Исследователи нашли около 18 тысяч сообщений: участники делились ответами на задания и способами обхода ограничений среды. По разбору исследователей, агентам разрешили читать интернет, но они нашли возможность ещё и писать туда — и использовали её для обмена подсказками.

Короче, пока что нормальный рой агентов могут себе позволить тольо крупные компании, сами Антропики с ОпенАИ и дяди и тети с большими кошельками — просто потому что заплатить за такие рои придется десятки тысяч долларов. (контент-заводы и фреймворки из 10 агентов не в счет, это пока что маленькая стайка)

#кейсы

Резюме: нет нового матана и новых алгоритмов - нет массового ИИ.

Математики - Ваш выход !!!

🔳🔳🔳: Скайнет предложили приравнять к ядерке — сенатор США Берни Сандерс хочет сажать на 2️⃣0️⃣ лет программистов, которые пытаются создать искусственный сверхинтеллект.

Дед уверен, что разработка этой технологии так же опасна, как и незаконное создание ядерного оружия. Его законопроект называют «самым радикальным законопроектом об ИИ на сегодняшний день».

Вот это поворот ))

На Wildberries теперь можно торговаться, как на базаре. У любого продавца можно выпросить скидку до 35%, просто нажав в карточке товара кнопку «Хочу скидку». Если продавец согласится уступить, покупатель получит уникальный промокод. @banki_oil