Meet DrugSAGE: a self-evolving LLM agent that builds state-of-the-art drug discovery models by accumulating and reusing experience across tasks
It ranks #1 among 9 SOTA agents, and transfers solutions to new tasks at zero test-time search
Most LLM agents pay the full, expensive search cost on every new task and discard everything they learned
DrugSAGE remembers
Joint work across Northeastern, Broad Institute of MIT and Harvard, Yale, and Microsoft Research New England
It ranks #1 among 9 SOTA agents, and transfers solutions to new tasks at zero test-time search
Most LLM agents pay the full, expensive search cost on every new task and discard everything they learned
DrugSAGE remembers
Joint work across Northeastern, Broad Institute of MIT and Harvard, Yale, and Microsoft Research New England
arXiv.org
DrugSAGE:Self-evolving Agent Experience for Efficient...
Building state-of-the-art (SOTA) predictive models for drug discovery requires expensive search over tools, architectures, and training strategies. Current LLM-based agents can find SOTA solutions...
Откройте почти любой учебник по математике — и через несколько страниц встретите загадочных «нас»:
«Рассмотрим функцию».
«Докажем, что…»
«Отсюда получаем…»
Но кто именно рассматривает и получает?
Автор ведь часто работает над текстом один
И читателя в момент написания рядом тоже нет
Ответ на самом деле простой: «мы» — автор и читатель
Математический текст редко бывает просто рассказом о готовом результате
Скорее это маршрут, который предлагают пройти вместе
Автор делает один шаг, читатель проверяет его, затем оба переходят к следующему
Если читатель не может повторить этот путь, доказательство не работает
Поэтому математическое «мы» можно читать как приглашение
Хотя, конечно, «мы» — это ещё и академическая традиция
Оно помогает автору не повторять на каждой странице «я считаю»
Знание не принадлежит ему так же, как может принадлежать воспоминание или впечатление
«Рассмотрим функцию».
«Докажем, что…»
«Отсюда получаем…»
Но кто именно рассматривает и получает?
Автор ведь часто работает над текстом один
И читателя в момент написания рядом тоже нет
Ответ на самом деле простой: «мы» — автор и читатель
Математический текст редко бывает просто рассказом о готовом результате
Скорее это маршрут, который предлагают пройти вместе
Автор делает один шаг, читатель проверяет его, затем оба переходят к следующему
Если читатель не может повторить этот путь, доказательство не работает
Поэтому математическое «мы» можно читать как приглашение
Хотя, конечно, «мы» — это ещё и академическая традиция
Оно помогает автору не повторять на каждой странице «я считаю»
Знание не принадлежит ему так же, как может принадлежать воспоминание или впечатление
В 1975 году физик Джек Хезерингтон подготовил статью, в которой постоянно писал «мы»
Но автор у работы был только один
Чтобы не перепечатывать весь текст, он добавил соавтора — своего сиамского кота Честера
В статье кот появился под солидным именем Ф. Д. Ч. Уиллард
Работа была опубликована, а Уиллард вошёл в историю науки как соавтор исследования по физике низких температур
У OpenClaw — появилось официальное приложение для iOS и Android
Если вдруг пропустили само явление, то коротко: OpenClaw — это бесплатный агент с открытым исходным кодом, который в конце января 2026-го взорвал GitHub и стал одним из самых быстрорастущих проектов в его истории (свыше 180 тысяч звёзд)
Главная идея в том, что агент крутится локально, на вашей машине, и не привязан к одной нейросети: подключаете свой API-ключ или вовсе локальную модель
Общаться с ним можно прямо из привычных мессенджеров, а память он хранит у вас на диске обычными текстовыми файлами
Сердце системы — так называемый «шлюз» (gateway)
Он принимает ваше сообщение, добавляет контекст из памяти и навыков, передаёт модели, а когда та решает действовать
Запускает команды, лезет в браузер, разбирается с файлами, почтой и календарём прямо на вашем устройстве
И вот теперь к этому шлюзу можно прицепить мобильное приложение
После сопряжения с OpenClaw получится болтать голосом в реальном времени, подтверждать действия агента и решать, к чему дать ему доступ — например, к камере или геолокации
Если вдруг пропустили само явление, то коротко: OpenClaw — это бесплатный агент с открытым исходным кодом, который в конце января 2026-го взорвал GitHub и стал одним из самых быстрорастущих проектов в его истории (свыше 180 тысяч звёзд)
Главная идея в том, что агент крутится локально, на вашей машине, и не привязан к одной нейросети: подключаете свой API-ключ или вовсе локальную модель
Общаться с ним можно прямо из привычных мессенджеров, а память он хранит у вас на диске обычными текстовыми файлами
Сердце системы — так называемый «шлюз» (gateway)
Он принимает ваше сообщение, добавляет контекст из памяти и навыков, передаёт модели, а когда та решает действовать
Запускает команды, лезет в браузер, разбирается с файлами, почтой и календарём прямо на вашем устройстве
И вот теперь к этому шлюзу можно прицепить мобильное приложение
После сопряжения с OpenClaw получится болтать голосом в реальном времени, подтверждать действия агента и решать, к чему дать ему доступ — например, к камере или геолокации
Intelligent internet introduced open source Zenith a long-running agent harness
Zenith takes base models to the top of FrontierSWE via adaptive self improvement
Zenith takes base models to the top of FrontierSWE via adaptive self improvement
Claude не считает количество сообщений — он считает токены
Каждый запрос оценивается в определенное количество токенов
Как следствие, некоторые чаты расходуют лимит намного быстрее, чем ожидаешь
Как это обойти:
Редактируйте запросы вместо отправки новых
Если править уже отправленные сообщения, лимит не расходуется, при этом ответ дается уже к отредактированному запросу
Новая беседа каждые 20 сообщений
После 30 вопросов каждый следующий забирает много токенов
После 20 сообщений запрашивайте краткую сводку, копируйте ее и вставляйте в новый диалог
Группируйте вопросы
Вместо отправки отдельными сообщениями, пишите несколько вопросов или запросов в одно — это стоит в несколько раз меньше токенов, при этом ответы вы получите на все вопросы
Как вариант, перечисляйте всё что вам нужно в нумерованный список и попросите отвечать в таком порядке
Используйте Projects
Загружайте туда файлы, и ссылайтесь на них вместо повторной отправки в чат
Так файлы кешируются один раз и больше не расходуют токены
Используйте память
Перейдите в «Настройки» → «Память» и сохраните данные о себе на будущее
Отключите лишние функции
При каждом запросе токены расходуются на веб-поиск, режим исследования и коннекторы
Если они вам не требуются, отключите их с помощью иконок рядом с полем ввода текста
Чаще используйте Haiko
Эта модель экономична по токенам, при этом зачастую достаточна для текстовых запросов вроде проверки грамматики, форматирования или извлечения сути из текста
Используйте модели соответственно задачам
Haiku дает быстрые ответы, форматирование, мозговой штурм
Sonnet — написание текстов, анализ, код, серьезные черновики
Opus — глубокие исследования, строгая логика, проверка обширных документов
Не используйте Opus для задач уровня Haiku
Разбивайте работу на несколько сессий
Claude работает 5-часовыми окнами, которые перезапускаются по истечении времени
Это тормозит работу
Лучше заранее распланировать задачи в течение дня, чтобы попадать точно в окна, а не между ними
С помощью таких «бабушкиных советов» бесплатная версия Claude может стать гораздо полезнее
Каждый запрос оценивается в определенное количество токенов
Как следствие, некоторые чаты расходуют лимит намного быстрее, чем ожидаешь
Как это обойти:
Редактируйте запросы вместо отправки новых
Если править уже отправленные сообщения, лимит не расходуется, при этом ответ дается уже к отредактированному запросу
Новая беседа каждые 20 сообщений
После 30 вопросов каждый следующий забирает много токенов
После 20 сообщений запрашивайте краткую сводку, копируйте ее и вставляйте в новый диалог
Группируйте вопросы
Вместо отправки отдельными сообщениями, пишите несколько вопросов или запросов в одно — это стоит в несколько раз меньше токенов, при этом ответы вы получите на все вопросы
Как вариант, перечисляйте всё что вам нужно в нумерованный список и попросите отвечать в таком порядке
Используйте Projects
Загружайте туда файлы, и ссылайтесь на них вместо повторной отправки в чат
Так файлы кешируются один раз и больше не расходуют токены
Используйте память
Перейдите в «Настройки» → «Память» и сохраните данные о себе на будущее
Отключите лишние функции
При каждом запросе токены расходуются на веб-поиск, режим исследования и коннекторы
Если они вам не требуются, отключите их с помощью иконок рядом с полем ввода текста
Чаще используйте Haiko
Эта модель экономична по токенам, при этом зачастую достаточна для текстовых запросов вроде проверки грамматики, форматирования или извлечения сути из текста
Используйте модели соответственно задачам
Haiku дает быстрые ответы, форматирование, мозговой штурм
Sonnet — написание текстов, анализ, код, серьезные черновики
Opus — глубокие исследования, строгая логика, проверка обширных документов
Не используйте Opus для задач уровня Haiku
Разбивайте работу на несколько сессий
Claude работает 5-часовыми окнами, которые перезапускаются по истечении времени
Это тормозит работу
Лучше заранее распланировать задачи в течение дня, чтобы попадать точно в окна, а не между ними
С помощью таких «бабушкиных советов» бесплатная версия Claude может стать гораздо полезнее
Как создать свой первый навык Claude:
1. Не создавайте его с нуля
Откройте старый чат Claude Cowork, где вы уже объяснили свою задачу
2. Запрос: «Превратить этот разговор в навык»
Claude воссоздает ваш собственный рабочий процесс в обратном направлении
3. Хотите создать новый? Запрос: «Используй инструмент skill-creator, чтобы помочь мне создать навык»
Он проведет с вами интервью
4. Он сгенерирует файл SKILL.md с вашей командой /command + вашими правилами
5. Перед сохранением попросите Claude протестировать его
Он запустит навык на ваших запросах, чтобы вы увидели, что он работает
Как установить навыки Claude, чтобы они запускались автоматически:
• Перейдите на how-to-ai.guide
• Подпишитесь бесплатно
Не платите ничего
• Откройте приветственное письмо (не пропускайте это)
• Кликните на ссылку Notion
• Откройте папку «Claude Skills»
• Скачайте все 15+ навыков Claude
• Загрузите в Claude → Настройки → Навыки
• Откройте новый чат и просто введите свой обычный запрос
Вы не вызываете навык вручную
Claude читает то, что вы вводите, и активирует его самостоятельно
Так что вместо того чтобы каждый раз переобъяснять «без маркеров, числа в USD», вы вводите /linkedin — и готово
Навыки: Целая библиотека навыков Claude: how-to-ai.guide
Экономия на 700-словный промпт
1. Не создавайте его с нуля
Откройте старый чат Claude Cowork, где вы уже объяснили свою задачу
2. Запрос: «Превратить этот разговор в навык»
Claude воссоздает ваш собственный рабочий процесс в обратном направлении
3. Хотите создать новый? Запрос: «Используй инструмент skill-creator, чтобы помочь мне создать навык»
Он проведет с вами интервью
4. Он сгенерирует файл SKILL.md с вашей командой /command + вашими правилами
5. Перед сохранением попросите Claude протестировать его
Он запустит навык на ваших запросах, чтобы вы увидели, что он работает
Как установить навыки Claude, чтобы они запускались автоматически:
• Перейдите на how-to-ai.guide
• Подпишитесь бесплатно
Не платите ничего
• Откройте приветственное письмо (не пропускайте это)
• Кликните на ссылку Notion
• Откройте папку «Claude Skills»
• Скачайте все 15+ навыков Claude
• Загрузите в Claude → Настройки → Навыки
• Откройте новый чат и просто введите свой обычный запрос
Вы не вызываете навык вручную
Claude читает то, что вы вводите, и активирует его самостоятельно
Так что вместо того чтобы каждый раз переобъяснять «без маркеров, числа в USD», вы вводите /linkedin — и готово
Навыки: Целая библиотека навыков Claude: how-to-ai.guide
Экономия на 700-словный промпт
Когда слышат его имя, обычно вспоминают дифференциалы, интегралы и знаменитый спор с Ньютоном о том, кто первым придумал математический анализ
Но мы расскажем несколько менее очевидных фактов о нём
Но самой, пожалуй, противоречивой историей его жизни стала служба герцогу Иоганну Фридриху Брауншвейг-Люнебургскому. Более сорока лет Лейбниц писал семейную хронику для начальства
Сначала он думал, что это будет обычная работа на заказ
Но Лейбниц оказался слишком «честным» учёным…
Вместо того чтобы просто написать красивую родословную, он решил проверять всё по первоисточникам
Он объездил архивы Германии, Австрии и Италии, копировал рукописи, изучал средневековые документы
Работа, которую заказчики рассчитывали получить за несколько лет, превратилась в бесконечный исследовательский проект
Он постоянно писал работодателям: «Почти закончил»
Но «почти» длилось десятилетиями
Эта работа дала Лейбницу свободу общаться с ведущими математиками, переписываться с сотнями учёных, публиковать работы по математике и философии
В этот период он даже основал Берлинскую академию наук
Заветной мечтой Лейбница было создание универсального языка для описания любых знаний
Языка, в котором сложные рассуждения сводились бы к вычислениям
Он писал, что, если между учёными возникнет спор, им не придётся спорить бесконечно — достаточно будет сказать друг другу: «Давайте посчитаем!»
Но мы расскажем несколько менее очевидных фактов о нём
• самостоятельно выучил латынь в восемь лет
• изобрёл счётную машину, придумал двоичный код и заложил основы современных вычислительных систем — и всё это, работая на полную ставку дипломатом и юристом
• более 20 лет вёл переписку с молодым Петром I, всерьёз предлагая русскому царю проекты научных исследований
Но самой, пожалуй, противоречивой историей его жизни стала служба герцогу Иоганну Фридриху Брауншвейг-Люнебургскому. Более сорока лет Лейбниц писал семейную хронику для начальства
Сначала он думал, что это будет обычная работа на заказ
Но Лейбниц оказался слишком «честным» учёным…
Вместо того чтобы просто написать красивую родословную, он решил проверять всё по первоисточникам
Он объездил архивы Германии, Австрии и Италии, копировал рукописи, изучал средневековые документы
Работа, которую заказчики рассчитывали получить за несколько лет, превратилась в бесконечный исследовательский проект
Он постоянно писал работодателям: «Почти закончил»
Но «почти» длилось десятилетиями
Эта работа дала Лейбницу свободу общаться с ведущими математиками, переписываться с сотнями учёных, публиковать работы по математике и философии
В этот период он даже основал Берлинскую академию наук
⠀
В 1669 году гамбургский купец-алхимик Хенниг Бранд решил, что секрет философского камня скрыт в человеческой моче
Он собрал по солдатским казармам около тысячи литров этой самой мочи, долго её выпаривал, дважды перегонял и в итоге прокалил получившийся осадок
Золота он, конечно, не получил, зато получил светящийся в темноте порошок, который назвал фосфором — «светоносцем»
Превратить новое вещество в золото так и не вышло, и тогда практичный Бранд начал просто продавать его — дороже, чем стоило само золото
Секрет в итоге купили несколько раз подряд разные люди, и одним из покупателей оказался Лейбниц
Он увидел демонстрацию фосфора, проведённую конкурентом Бранда, не смог купить секрет у него и в итоге вернулся прямиком к первоисточнику — снова к Бранду, который, не моргнув глазом, продал свою формулу повторно, на этот раз совсем дёшево
Когда позже выяснилось, что демонстрации фосфора прошли и в Лондоне, перед Королевским обществом, Лейбниц всерьёз обеспокоился: ему совсем не хотелось, чтобы секрет философского камня оказался в руках у нелюбимой им Англии
Он всё-таки добился для Бранда места придворного алхимика с неплохим окладом — лишь бы открытие осталось поближе к Ганноверу
Заветной мечтой Лейбница было создание универсального языка для описания любых знаний
Языка, в котором сложные рассуждения сводились бы к вычислениям
Он писал, что, если между учёными возникнет спор, им не придётся спорить бесконечно — достаточно будет сказать друг другу: «Давайте посчитаем!»
Крупные компании, которые в последние годы активно сокращали сотрудников из-за внедрения технологий “искусственного интеллекта”, начали пересматривать эти решения
Как сообщает CNBC, некоторые работодатели уже начали возвращать уволенных специалистов
Ford Motor снова нанимает сотни квалифицированных инженеров для решения проблем с качеством, с которыми не справились алгоритмы
«Искусственного интеллекта» — потрясающий инструмент, но он полностью зависит от качества данных, на которых обучался»,— отметил вице-президент Ford Motor Чарльз Пун
Кадровую политику пересмотрел и один из крупнейших банков Австралии — Commonwealth Bank of Australia
В прошлом году банк сократил несколько десятков сотрудников отдела обслуживания клиентов и заменил их голосовым AI-помощником
Однако система не справилась с работой, а число жалоб клиентов заметно выросло
В банке признали, что «не продумали все возможные нюансы» своей политики в отношении цифровизации
Аналогичные выводы сделали в IBM
Приложения на базе алгоритмов, заменившие часть сотрудников кадровой службы, успешно обрабатывали около 94 % запросов и задач
Но в числе оставшихся 6 % были слишком сложные для них проблемы, в том числе вопросы критического характера
В результате компания объявила о планах увеличить втрое наем сотрудников во всех подразделениях в США в 2026 году
Как сообщает CNBC, некоторые работодатели уже начали возвращать уволенных специалистов
Ford Motor снова нанимает сотни квалифицированных инженеров для решения проблем с качеством, с которыми не справились алгоритмы
«Искусственного интеллекта» — потрясающий инструмент, но он полностью зависит от качества данных, на которых обучался»,— отметил вице-президент Ford Motor Чарльз Пун
Кадровую политику пересмотрел и один из крупнейших банков Австралии — Commonwealth Bank of Australia
В прошлом году банк сократил несколько десятков сотрудников отдела обслуживания клиентов и заменил их голосовым AI-помощником
Однако система не справилась с работой, а число жалоб клиентов заметно выросло
В банке признали, что «не продумали все возможные нюансы» своей политики в отношении цифровизации
Аналогичные выводы сделали в IBM
Приложения на базе алгоритмов, заменившие часть сотрудников кадровой службы, успешно обрабатывали около 94 % запросов и задач
Но в числе оставшихся 6 % были слишком сложные для них проблемы, в том числе вопросы критического характера
В результате компания объявила о планах увеличить втрое наем сотрудников во всех подразделениях в США в 2026 году
Будем хранить данные прямо в оптоволокне, гоняя туда-сюда! — пошутил в обсуждении @Betankor
Так вот, это нифига не шутка
Память в 1953 году была медленная
Как раз тогда придумали акустические линии задержки
Брали трубку с ртутью, туда орали звуком
Пока звук путешествует по трубке, информация физически хранится в ней
Когда импульс доходит до конца, электроника считывает его и тут же орёт обратно в начало
Получается консервированное "Ау"
В первых UNIVAC использовались ртутные баки, один вмещал около 10 Кб
Там было важно удерживать температуру очень точно
Ну и чтобы достать нужный бит, нужно было ждать, пока он доплывёт до конца трубы
Плюс шум накапливался неприлично
Рядом пробовали всякую фигню — попробовали кинескопы с постоянным обновлением экрана, магнитные барабаны — металлический цилиндр с магнитным слоем крутился на скорости 75.000 оборотов в минуту, а рядом стояла головка записи и головка чтения
Если питание пропадало, диск не останавливался, а крутился ещё некоторое время, и если быстро восстановиться — память получалась энергонезависимой
Ещё магнитные сердечники, ИК-фосфорные схемы, газовые трубки и неон и когереры (коробки с порошком, который слипается от тока)
Разве что чесночный сок не давили
Технологию вспомнили, когда понадобилась квантовая маршрутизация
Если два пакета приходят на маршрутизатор одновременно, обычно лишний пакет просто записывается в оперативную память на миллисекунды, а потом отправляется дальше
Но любая попытка записать и прочитать фотон обычно разрушает его квантовое состояние
Пробовали хранить состояния в кристаллах, но не очень получилось, там 90 % потерь
Поэтому фотоны стали пускать в оптическую петлю — нарезать пару кругов ещё по 5 километров в бухте прямо на полу и вернуться
Максимальное время хранения 52 микросекунды или 11 километров, точность с коррекций 98 %
Тут сделали из прошлой работы микрочип для пакетов 40 байт на 40 Гбит/сек.
Прям на микросхеме скрутили маленькую бухточку кабеля 98 % пакетов успешно прочитаны без ошибок, 12-64 наносекунды хранения, оптические потери 99.9 % изначального света, но усилители успешно это компенсировали
Это пример, есть ещё несколько реализаций
Для исправления сложных искажений отлично подходят рекуррентные нейросети
Но обычные слишком медленные для оптоволокна
Есть упрощенный вариант нейросетей — резервуарные вычисления
На базе них можно сделать аппаратную нейросеть, работающую прямо со светом
1. Поток нарезается на спектральные полосы
2. Каждая полоса попадает в свой фильтр
3. Свет бегает по петлям фильтров, задерживаясь и смешиваясь сам с собой
Это создает память (контекст)
4. На выходе свет попадает на фотодиод и превращается в электричество
Стеклянные петли — пассивные, не жрут ток
Обработка со скоростью света
На тесте NARMA-10 погрешность меньше 10 %, очень хорошо
Для передачи — дальность без усилителей и ретрансляторов увеличилась в 4 раза
Реализация на чипе, где нейроны соединены несколькими петлями обратной связи — оптический компьютер с WDM
Если вам непонятно хотя бы одно слово в этом предложении (особенно WDM), то просто знайте — крутая работах
И свежая работа из 2026: фотонная платформа квантового резервуарного вычисления со спектральным и временным мультиплексированием
Память сделана через обратную связь электрооптической модуляции
С нелинейным кристаллом, фемтосекундным лазером и вообще
Очень крутые результаты
Возможно, будущее нейросетей
Ну и обязательно надо вспомнить pingfs (подсказывает @laendlord)
Файловая система, где данные хранятся только в самом интернете, в виде ICMP Echo-пакетов (пингов), путешествующих от вас к серверам и обратно
Так что идея ртутной колбы жива
Отправлять пинги, кстати, можно и по RFC 2549, это сильно увеличит ёмкость памяти
--
Вступайте в ряды Фурье! | Лучшие посты
Nature
High-speed photonic neuromorphic computing using recurrent optical spectrum slicing neural networks
Communications Engineering - Sozos and co-workers present and numerically evaluate photonic neuromorphic hardware using recurrent optical spectrum slicing for use in ultra-fast optical...
Forwarded from ARI (НИИ Антропогенеза) (Chagin Oleg A.)
Новый препринт MITзадаёт простой вопрос: модульность человеческого мозга - фундаментальный принцип или случайность эволюции?
Чтобы ответить на этот вопрос, авторы исследования взяли LLM и посмотрели, есть ли там та же структура
И ответ оказался положительным, есть причём точь-в-точь
Оказалось, что внутри 6 передовых моделей обнаружили 4 отдельные популяции нейронов, каждая отвечает за свой тип мышления, язык, грамматику, математику, логику, физический мир и социальное рассуждение
Это в точности 4 сети, которые нейронауки давно картировали в человеческом мозге
Чтобы убедиться, что это не корреляция, а реальная специализация, нейроны отключали
Отключили языковую зону: модель рассуждает верно, но пишет с грамматическими ошибками
Отключили физическую: текст грамотный, но физические выводы инвертированы
Точность внутри домена падает на 26 %
За пределами домена - на 2.5 %
Мозг формируется эволюцией, а LLM градиентным спуском на предсказании токенов
Никакой общей причины для одинаковой архитектуры нет кроме одной: так устроена любая система, которой нужно решать разнородные задачи одновременно, не мешая одному домену перезаписывать другой
Модульность - не биологическая случайность, а по всей видимости, универсальное решение для интеллекта
Для интерпретируемости: у LLM есть внутренняя структура, которую можно картировать и на которую можно воздействовать точечно
Для архитектур: MOE - потенциально про воспроизведение когнитивной специализации
Для нейронауки: LLM впервые дают возможность изучать, как разные когнитивные системы передают информацию друг другу - то, что в мозге технически почти невозможно измерить
Чтобы ответить на этот вопрос, авторы исследования взяли LLM и посмотрели, есть ли там та же структура
И ответ оказался положительным, есть причём точь-в-точь
Оказалось, что внутри 6 передовых моделей обнаружили 4 отдельные популяции нейронов, каждая отвечает за свой тип мышления, язык, грамматику, математику, логику, физический мир и социальное рассуждение
Это в точности 4 сети, которые нейронауки давно картировали в человеческом мозге
Чтобы убедиться, что это не корреляция, а реальная специализация, нейроны отключали
Отключили языковую зону: модель рассуждает верно, но пишет с грамматическими ошибками
Отключили физическую: текст грамотный, но физические выводы инвертированы
Точность внутри домена падает на 26 %
За пределами домена - на 2.5 %
Мозг формируется эволюцией, а LLM градиентным спуском на предсказании токенов
Никакой общей причины для одинаковой архитектуры нет кроме одной: так устроена любая система, которой нужно решать разнородные задачи одновременно, не мешая одному домену перезаписывать другой
Модульность - не биологическая случайность, а по всей видимости, универсальное решение для интеллекта
Для интерпретируемости: у LLM есть внутренняя структура, которую можно картировать и на которую можно воздействовать точечно
Для архитектур: MOE - потенциально про воспроизведение когнитивной специализации
Для нейронауки: LLM впервые дают возможность изучать, как разные когнитивные системы передают информацию друг другу - то, что в мозге технически почти невозможно измерить
pengrui-han.github.io
Modular Cognitive Architecture Emerges in Large Language Models
Across six frontier LLMs (24B–123B), reasoning is supported by four segregated neuron populations that mirror the cognitive networks of the human brain.
Новый научный журнал "Discrete and Continuous Dynamical Systems - Series I: Intelligence"
https://www.aimsciences.org/DCDS-I
Discrete and Continuous Dynamical Systems - Series I: Intelligence is a peer-reviewed international journal dedicated to advancing interdisciplinary research at the intersection of Dynamical Systems (DS), Artificial Intelligence (AI), Machine Learning (ML), and Computational Neuroscience (CN)
The journal publishes various types of high-quality contributions, including Perspectives, Letters, Articles, and Reviews
It both values theoretical and applied papers (provided they meaningfully advance the frontiers of DS, AI/ML, and CN research) and maintains high academic standards in originality, technical rigor, and scientific impact
https://www.aimsciences.org/DCDS-I
Discrete and Continuous Dynamical Systems - Series I: Intelligence is a peer-reviewed international journal dedicated to advancing interdisciplinary research at the intersection of Dynamical Systems (DS), Artificial Intelligence (AI), Machine Learning (ML), and Computational Neuroscience (CN)
The journal publishes various types of high-quality contributions, including Perspectives, Letters, Articles, and Reviews
It both values theoretical and applied papers (provided they meaningfully advance the frontiers of DS, AI/ML, and CN research) and maintains high academic standards in originality, technical rigor, and scientific impact