Что будем читать далее (уже соскучились за ИИ?):

Leendert van der Torre, формализм, деонтика, multi-agent нормативные системы.
Он один из основателей направления Normative Multi-Agent Systems (NorMAS) – области, где нормы, агенты, деонтология и искусственный интеллект (и логика) пересекаются. В работе под названием “Normative Multi-Agent Systems” (редакция Dagstuhl Follow-Ups) он вместе с другими авторами систематизирует, что такое нормативное рассуждение, зачем оно нужно агентам, и как организовать логику, в которой агенты могут понимать обязанности, дозволения, санкции.
Следует упомянуть и An Update Semantics for Defeasible Obligations (2013), van der Torre (с Yao-Hua Tan) предлагает семантику, где обязательства – не абсолютные, а допускают defeasible (уступаемые) особенности: ответственность, нормы, нарушения и “обстоятельства, меняющие число ходов” моделируются как обновления состояния, а не как вечные истинности.

Но это немного древние работы. Хотя обязательны для вката.

Вот посвежее у Victor Morgante – уже собственно game-theoretic подход к интерпретации логики и норм.
Его недавняя работа Formalism for Game‑Theoretic Approach to Formal Logic (2024) – уже опубликованная на arXiv / ResearchGate, – предлагает новую рамку, где формальная логика рассматривается как коллективная “игра интерпретаций”. Там игроки совместно (кооперативно) выбирают интерпретации теории, ищут “координацию” (coherence), используют payoff-функции, стремятся к консенсусу.

(Так же, можно на медиуме прочитать текст Victor Morgante описывает игру, которую называет Differential Interpretation Game (DIG): участники могут предложить разные “интерпретации” формул, правила, и через стратегическое взаимодействие достигают соглашения, которое удовлетворяет всем (или большинству) – то есть логика + интерпретация + социальный механизм согласования.).

Ну и наконец, справедливости ради Daryl Levinson – в статье The Inevitability and Indeterminacy of Game‑Theoretic Accounts of Legal Order (2017) (поищите в открытом доступе, я где-то потерял) анализирует, может ли логика теории игр адекватно объяснить, как устроено право: соблюдение, порядок, нормы, санкции. Он показывает сильные стороны этих моделей, но главным образом – их ограничения: неспособность объяснить, почему реальные правовые системы принимают ту или иную форму, как они эволюционируют, как формируется институциональное разнообразие. Он замечает, что game-theoretic объяснения (self-enforcing constitutions, equilibrium, compliance) часто не даются с учётом исторического, институционального, социального контекста, неформальных норм, распределения власти и ресурсов – а значит, часто остаются идеальными абстракциями. Но мы не держим на него зла😘

В первую очередь мы, конечно, обсудили статью «On Aristotle’s Notion of Existence» Яакко Хинтикки, опубликованную в журнале The Review of Metaphysics в июне 1999 года.
В ней автор исследует, как Аристотель понимал существование, и пытается реконструировать логические и онтологические предпосылки его учения, показывая, что античный мыслитель использовал термин «существует» не в современном смысле, а как часть более сложной структуры высказываний о сущностях и предикации.

Хинтикка стремится показать: для Аристотеля существование не является отдельным предикатом, который можно приписать или не приписать вещам, а выражается через структуру высказываний о том, что нечто принадлежит определённому роду или обладает определённой сущностью. В таком подходе выражение «A существует» сводится к утверждению вида «A есть F», где связь между субъектом и предикатом уже предполагает онтологический статус вещи. Именно поэтому, по мысли Хинтикки, в аристотелевской логике вопрос о существовании не отделим от вопроса о том, что составляет сущность предмета и в каких отношениях он может быть помыслен.

Отталкиваясь от этой интерпретации, Хинтикка стремится реконструировать скрытую семантическую модель, в которой различие между потенциальным и актуальным бытием приобретает логическую форму. Существование, трактуемое через акт актуализации, становится функцией от структуры возможностей, доступных сущности: выражение «A актуально» означает, что реализовано некоторое условие φ, входящее в определение формы A. Такой подход позволяет автору интерпретировать аристотелевские рассуждения о модальности в терминах оператора актуализации, где переход от возможности к действительности выражается не предикатом «существует», а отношением реализации: Actual(A) = φ(A) → A.

Хинтикка связывает это и с аристотелевским учением о категориях, показывая, что существование выражено в самой структуре классификации сущего. Бытие как таковое не выделено как отдельная категория, поскольку оно является самой рамкой, в которой категории соотносятся друг с другом и в которой возможно истинное высказывание. Поэтому утверждение о существовании некоторого предмета принимает форму «x ∈ K», где K – надлежащий род или категория, а определение рода задаёт условия его онтологического статуса. В этом смысле онтология у Аристотеля является распределённой по системе категорий, а не сосредоточенной в едином понятии «существования».

В заключение автор подчёркивает, что подобная интерпретация делает аристотелевскую логику более согласованной с его метафизикой, чем современные формалистские чтения. Существование в мышлении Стагирита – это не отдельное свойство, а встроенная функция структуры речи и бытия. Такое понимание позволяет снизить парадоксы, возникающие при проецировании современных логических схем на античный текст, и выявляет внутреннюю связность его философской системы.

uploads.teachablecdn.com/attachments/dE0Ji8eRySiHlv4CGfEi_%5B1999%5D+Hintikka%2C+J.+-+On+Aristotle%27s+notion+of+existence.pdf

Яакко Хинтикка «Kant on the Mathematical Method» (The Monist, 1967).

Кантовское высказывание «математическое знание есть знание, полученное разумом через конструкцию понятий» требует особой интерпретации. Хинтикка показывает, что ключевым является термин «конструкция». В Критике чистого разума Кант определяет её как «предъявление априори интуиции, соответствующей понятию». Однако Хинтикка подчеркивает, что нельзя понимать интуицию как «картинку» или чувственный образ. В ранних трактовках Канта интуиция означает прежде всего индивидуальное представление, то есть нечто единичное, противоположное общему понятию.

Базовое, «нечувственное» значение интуиции предшествует тому, как Кант в Трансцендентальной эстетике связывает интуицию с чувственностью. Поэтому обсуждение математического метода в конце Критики Кант строит исходно не на сенсуалистской трактовке интуиции, а на логико-методологическом различии между общим понятием и единичным представителем.

Исходя из этого, «конструкция» у Канта означает переход от общего понятия к его конкретному индивидуальному представителю, причём такой переход необходим для математического рассуждения. Хинтикка показывает, что этот принцип восходит к докритическому эссе Канта 1764 года: там Кант ещё не вводит «интуицию» как термин, но уже утверждает, что математика мыслит понятия не вообще, а in concreto.

Особенно убедительной эта интерпретация становится, когда Хинтикка сравнивает кантовские рассуждения с практикой Евклида. В евклидовой «пропозиции» есть энунциация (общее положение), но доказательство реально начинается лишь после эктезиса – выставления конкретного чертежа. Геометр доказывает теорему не про «треугольник вообще», а про конкретный ABC. За эктезисом следует «подготовка» – проведение дополнительных линий, точек, окружностей. Только затем идёт аподейксис – собственно вывод. Хинтикка показывает, что структура евклидовой пропозиции из пяти частей почти изоморфна кантовскому описанию математического метода. Конструкция = эктезис + подготовка: именно эти две части вводят новые индивидуальные объекты. А вывод (аподейксис) уже чисто логичен.

…В этой рамке понятной становится и кантовская характеристика арифметики. Когда он говорит, что равенства вроде 7+5=12 «непосредственны» и «недоказываемы», он вовсе не отвергает рассуждение. Он утверждает, что доказательная часть сводится к самой операции: выполнение сложения играет роль «подготовки» в евклидовом смысле, а аподейксис вырождается в простое фиксирование результата. Поэтому арифметическая интуитивность – не дело «образов», а минимальность собственно логического шага после конструкции.

Далее Хинтикка показывает, что кантовское требование объяснить саму возможность таких конструкций приводит к знаменитому ходу Трансцендентальной эстетики: если математические рассуждения зависят от введения новых индивидуальных объектов, то нужно гарантировать их «доступность». Кант решает это через пространство и время как формы чувственности, в которых мы сами «вносим» необходимые отношения. Но, замечает Хинтикка, это решение неправомерно обобщено: алгебраические индивидуумы никак не сенсуальны, и кантовское объяснение оказывается слишком узким.

Финальный ход статьи – реконструкция кантовского аргумента в более абстрактных терминах. Если отбросить чувственность и взять лишь суть его идеи, то математическая конструктивность опирается не на восприятие, а на операцию поиска и введения индивидуальных представителей. Тогда и логика предикатов может пониматься как формализация процессов «искания и нахождения», а не как автоматика над картинками. В этом ключе кантовская идея неожиданно предвосхищает современное понимание семантики, где центральной оказывается работа с индивидуальными объектами и их порождением внутри рассуждения.

Die Mathematik betrachtet … das Allgemeine unter den Zeichen in concreto, die Weltweisheit aber das Allgemeine … in abstracto

—Untersuchung über die Deutlichkeit der Grundsätze der natürlichen Theologie und der Moral, 1763

Чтобы познать свойства всех окружностей, «…zeichnet man einen und zieht darin zwei sich schneidende Linien… und betrachtet darin die allgemeine Regel in concreto.»

Поступай так, чтобы максима твоей воли могла в то же время иметь силу принципа всеобщего законодательства.

И.Кант, КПР §7

Еще раз. Почему «универсальная интерпретируемость» для трансформерных LLM невозможна в общем случае – и что с этим делать.
В этот раз хочется раскрыть это вопрос в контексте удачной для подобной экспликации – теоремы Райса, согласующейся, между тем, со многими современными результатами формальной семантики. И в то же время, переосмыслить эти принципиальные ограничения в прагматическом смысле.

Коротко – суть
– Теорема Райса говорит, что любое нетривиальное семантическое свойство вычислимой функции неразрешимо. Для LLM это означает невозможность иметь один универсальный алгоритм, который для произвольной модели и произвольного семантического свойства надёрнет корректный (полный и всегда правильный) ответ. На практике это не закрывает работу по интерпретации, но ставит фундаментальное ограничение на универсальные гарантии.

Формулировка, коротко и формально:
– Модель f представимa как вычислимая функция f∶Σ* → Δ (распределения ответов).
– Теорема Райса – для множества частичных вычислимых функций F, любое нетривиальное свойство P, зависящее только от функции (а не от её синтаксиса), делает проблему “для данной программы p: p ∈ P ?” неразрешимой.
– Как следствие для LLM – свойства типа “модель содержит внутреннее представление концепта C” или “модель никогда не генерирует опасный ответ на X” при общности формулировки подпадают под тот же тип нетривиальных семантических свойств и потому не имеют алгоритмически разрешимого, всеобщего теста.

Короче, если мы рассматриваем модель как произвольную вычислимую функцию (без ограничений по классу), тогда Rice дает отрицательный результат для любых нетривиальных семантических свойств. dl.acm.org/doi/full/10.1145/3603371

Впрочем, реальные LLM – конечные, параметризованные нейронные сети со структурой (трансформер, петли позиционного кодирования и т.д.). Это позволяет обходные пути: для ограниченных классов архитектур и при фиксированных размерах можно сформулировать проверяемые свойства или найти частичные алгоритмы. Однако «в общем случае» отрицательный результат остаётся релевантным для любых попыток получить универсальную, полную и формальную процедуру объяснения/верификации.

Можно рекомендовать рассматривать приближённые и статистические гарантии вместо абсолютных (вероятностная верификация, property testing, PAC-подходы). Такие методы дают полезные практические сигналы, но не универсальные доказательства. arxiv.org/html/2507.03031v1

В конце-концов можно сфокусироваться и на доказуемо разрешимых подклассах свойств, например, проверке наличия линейного разделителя в фиксованном подпространстве активаций, или на проверке конечного набора шаблонов поведения при ограниченных входных доменах. Эти задачи технически выполнимы и дают практическую ценность.

В общем случае, Райсо-подобные аргументы дают фундаментальный барьер для получения универсальных и полных алгоритмов интерпретации LLM, но в практике остаётся много рабочих и формально корректных подходов, если сузить класс свойств, принять приближённые гарантии или работать в композиционных/ограниченных сценариях.

В чем и почему ИИ никогда не заменит человеческих исследователей

Начнем без эвфемизмов. Современные системы «научного ИИ», начиная от AlphaEvolve и AlphaDev до активных inference-агентов, не приближают нас к автономной науке, а скорее наоборот радикально проясняют границу, которую алгоритмы не могут пересечь. Подобные системы, как правило, формализуют исследование в кач. оптимизации отображения f(k+1) = U(f(k), P, u) внутри фиксированного пространства гипотез H и фиксированной функции оценки g, где сами H, g и допустимые операторы U заданы извне и не подлежат пересмотру агентом. Именно так описана архитектура AlphaEvolve в исходных публикациях DeepMind, включая технический отчёт и расширения с Deep Research (arxiv.org/abs/2506.13131, arxiv.org/abs/2510.06056). Все «открытия» таких систем являются новыми точками внутри H, а не изменениями самого H, и потому не являются открытиями в строгом научном смысле, а лишь результатами экстенсиональной оптимизации.

Популярное возражение апеллирует к байесовскому дизайну экспериментов и ожидаемому приросту информации, где следующий шаг выбирается по формуле EIG(d) = Σ_y P(y|d) · KL(P(θ|y,d) || P(θ)). Но и эта формализация лишь усугубляет проблему. Параметры θ, априорное распределение P(θ), пространство наблюдений y и сама дивергенция KL уже предполагают принятую онтологию неопределенности. Алгоритм может максимизировать EIG(d), но не может поставить под вопрос, какие θ вообще существуют, что считать шумом, сигналом или объяснением, и почему именно эта мера расхождения легитимна. Это хорошо известно в литературе по Bayesian Experimental Design, где прямо указывается, что выбор модели и априоров не выводится из данных и не является задачей оптимизации (www.mdpi.com/1099-4300/22/2/258, arxiv.org/abs/2411.08390). Следовательно, ИИ оптимизирует внутри эпистемической рамки, но не способен её учредить или разрушить.

Попытки усилить архитектуру за счёт «чтения литературы» и планирования вопросов к arXiv или PubMed не меняют ситуацию. В системах Deep Research вопросы к источникам формируются как подзадачи оптимизации уже заданной цели, а не как рискованный акт пересмотра самой цели или логики исследования. Вопрос здесь выступает инструментом, а не источником новой эпистемической ситуации, как это происходит у людей. Даже авторы этих работ прямо фиксируют, что агент оценивает идеи через заранее заданные метрики качества и оригинальности, зачастую используя LLM в роли судьи, что лишь замыкает систему на собственных статистических предвзятостях (openreview.net/forum?id=zUkBSNDrMx). Это не вопрошание в смысле логики научного исследования, а расширенный поиск по признакам.

Опять же, апелляция к active inference пусть и выглядит более радикальной, но логически она все еще остается бесперспективной. Минимизация вариационной свободной энергии F = E_q[log q(s) − log p(s,o)] оптимизирует поведение агента относительно генеративной модели p(s,o), но сама модель, пространство скрытых состояний s и допустимые интервенции заданы архитектурно. Active inference объясняет, как агент эффективно действует внутри мира, но не как он решает, что текущая модель мира должна быть отброшена как концептуально неадекватная. Для ИИ смена модели эквивалентна переобучению или внешнему вмешательству; для науки же именно отказ от успешной модели является источником прогресса, что признают и сами сторонники этого подхода (arxiv.org/abs/2506.21329).

В чем корень проблемы? Не в вычислительных ограничениях, а скорее в логическом типе операций. Любой ИИ реализует отображение A: (S, M, R) → (π, a), где S – пространство состояний, M – модель мира, R – функция вознаграждения. Научное же исследование требует оператора Φ: (S, M, R) → (S′, M′, R′), который не является функцией оптимизации внутри (S, M, R), поскольку он изменяет сами условия применимости оптимальности. Попытки «добавить мета-уровень» совершают категориальную ошибку: в ИИ мета-логика L1 всегда представлена как данные внутри L0, тогда как в науке L1 задаёт границы применимости L0 и не редуцируется к нему. Это фундаментальное различие между дефиниторными и стратегическими правилами, разработанное в интеррогативной модели исследования Яакко Хинтикки (arxiv.org/abs/281161291, cdn.preterhuman.net/texts/thought_and_writing/philosophy/Hintikka%20-%20Socratic%20Epistemology.pdf).

Отсюда следует жёсткий и неприятный вывод. ИИ может быть сколь угодно сильным игроком в уже учреждённой научной игре, минимизируя ошибку min E[L(ŷ, y)] и находя неожиданные экстенсиональные решения. Человеческий исследователь делает не это. Он максимизирует расхождение между текущей онтологией и реальностью, то есть ищет ситуации, в которых сама функция ошибки теряет смысл. Именно поэтому наука институционализирует аномалию, а ИИ по своей архитектуре обязан её подавлять. Это различие не временное и не инженерное. Оно вытекает из логики научного исследования как практики, включающей металогический выбор и нормативную ответственность. В этом строгом смысле ИИ не просто «пока» не заменяет исследователя – он не может заменить его по определению, независимо от масштабов данных, вычислений и глубины архитектуры.

Логицизм XXI века: почему современная математика не фундаментальна и structural turn её симптом

Современная математика, включая Univalent Foundations, (∞,1)-топосы, derived/spectral algebraic geometry и последние достижения model theory не отменяет логицизм, и скорее только подтверждает его. Математические объекты оказались не первичными сущностями, а экстенсиональными «застывшими» следами логических стратегий доступа к информации и выбора, которые логика формализует непосредственно (game semantics, team semantics, атомы зависимости и т.д).

Любая «структура» в современной математической практике подчиняется принципу экстенсиональности: f = g ⇔ ∀x f(x)=g(x); изоморфизм как равенство объектов; доказательство как средство получения одного и того же теоретического результата. Этот принцип делает математику по своей сути архивом результатов и разводит её от условий возможности, то есть тех самых условий, которые логика, скажем, IF/Dependence делает первичными (см. IF-logic, team semantics). plato.stanford.edu/entries/logic-if/

Ядро механики: скулемизация. На логическом уровне мы имеем инструкцию-стратегию
∀x ∃y φ(x,y),
где «на любой ход оппонента существует ответ». Математика делает из неё объект:
∃f ∀x φ(x,f(x)).
Этот перевод не нейтрален: он ОТНИМАЕТ от высказывания зависимость, информационный контекст и сам акт выбора (символически: (∃y/x) → const(f)). Скулемизация это не «техническая хитрость», это архетип всей современной «объектной» математики. Jouko Väänänen, Dependence Logic, springer.com/gp/book/9783540299127

Univalence (Id(A,B) ≃ Equiv(A,B)) и HoTT с их paths и higher-paths не возвращают стратегию; они «репакуют» классы стратегий в объектный уровень: путь = объект, путь между путями = объект второго порядка и т. д. В результате получаем онтологическую инфляцию (universes, HITs) ради реставрации интенсиональности, которую логика зависимостей удерживает прямо и экономно. HoTT признаёт проблему, но решает её путём раздувания онтологии; командные семантики решают ту же проблему, не прибегая к такой инфляции. Homotopy Type Theory / Univalent Foundations — HoTT Book, Voevodsky et al.; обзорные материалы: arxiv.org/abs/1501.05016

Derived / spectral algebraic geometry и гомологическая техника (H_n = ker d_n / im d_{n+1}) тут не «глубже» в смысле онтологической самостоятельности, и скорее систематизирует способы, которыми локальные стратегии не склеиваются в глобальную выигрышную стратегию. Derived-надстройки оказываются языком фиксирования логических дефектов согласования; они переводят «провал стратегии» в инвариант. Фактически: гомология = мера логического провала. Jacob Lurie, Higher Topos Theory (и derived algebraic geometry papers) — см. math.ias.edu/~lurie/papers/HTT.pdf

Model theory (stability, NIP, o-minimality) также не триумфирует «математикой как своей собственной метадисциплиной», и является картой режимов логической зависимости: тип = информационный сценарий; forking = утечка/переплетение информации; стабильность = контроль роста стратегий. Где логика «разветвляется» слишком сильно, математика теряет возможность классифицировать, потому что экстенсиональная фиксация оказывается бессильна. Weibel, An Introduction to Homological Algebra.

Вероятностные и мерные конструкции, то есть распределения, меры, энтропия — также не аннулируют логицизм: мера даёт экстенсиональную агрегацию исходов, но не различает, делался ли выбор с доступом к x или без него; probabilistic team semantics лишь формализует это различие ближе к логической манере, не заменяя её (см. работы по probabilistic team semantics). Samson Abramsky и колл., «Contextuality and cohomology» и связанные работы по cohomological descriptions of contextuality; см. arxiv.org/abs/1701.00656 и материалы Абрамского.

Proof assistants и categorical semantics of computation (Coq, Lean, Cubical TT) — это механизмы фиксации правил игры (proofs как данные); они прекрасно работают внутри заданной логики, но не отвечают на задачу Φ: (S,M,R) ↦ (S′,M′,R′) — смены самой онтологии и условий применимости. Металогика у формальных систем всегда «внутри» L0 как данные, а не как автономный оператор пересмотра правил; это архитектурная невозможность, и она структурно близка к проблеме ИИ в науке. Model theory / Stability — Shelah, Classification Theory, и обзоры; Pillay lectures.

В заключение: structural turn остается последующим симптомом нового заболевания математиков, а не лечением провала классического логицизма. Современные устроения (Univalence, ∞-категории, derived machinery, tameness, probabilistic team semantics, proof assistants) оказываются пёстрым набором приёмов фиксации и реинкарнации логической динамики в её объектной форме. Они не подрывают логицизм; они подтверждают его. В то же время современная логика и формальная семантика (в интерпретации IF/Dependence/GTS) это примация условий возможности: она задаёт «на каких условиях вообще существуют объекты и структуры», тогда как математика лишь архивирует то, что уже стабилизовано. Редукция математики к логике, поэтому, не пустая риторика, но требование точного различения между процессом (стратегией, доступом, информацией) и результатом (функция, морфизм, тип, гомология).

Решил развить эту мысль в полноценное формальное исследование. В статье вводится абстрактная модель inquiry-агента с фиксированной логической сигнатурой и доказывается инвариант: ни стратегии поиска, ни эпистемические обновления, ни байесовское обучение, ни BOED-подходы не позволяют выйти за пределы исходного языка гипотез без явного оператора его ревизии.

Одним из результатов, пожалуй ключевым, стало то, что я назвал The Fixed-Signature Inquiry Theorem: теорема невозможности, показывающая, что «автономные открытия» в концептуально открытых задачах принципиально недостижимы для агентов с фиксированной сигнатурой, независимо от масштаба вычислений или данных.

Работа построена logic-first: опирается на interrogative logic (Хинтикка), inferential erotetic logic, dynamic epistemic logic и результаты learning theory при misspecification. AI-for-Science системы (вроде AlphaEvolve и смежных) рассматриваются только как прикладные инстанциации этого общего результата.

Полный текст статьи:
researchhub.com/paper/10777162

Epistemic planning for multi-robot systems in communication-restricted environments

Авторы Lauren Bramblett и Nicola Bezzo из Университета Виргинии описывают базовый уже насегодня эпистемический подход к планированию, чтобы обеспечить координированное поведение распределённой группы роботов даже при отсутствии постоянной связи между ними, что типично для поисково-спасательных, инспекционных и других задач в экстремальных или неструктурированных средах.

В таких сценариях обычные методы многороботного планирования часто предполагают непрерывный обмен информацией. Это ограничение приводит к неэффективности или отказам в реальных условиях, где связь может быть ненадёжной, недоступной или дорогой по ресурсам. Авторы поднимают вопрос о том, как роботам поддерживать совместное представление о состоянии миссии, не опираясь на постоянный обмен сообщениями.

Каждый робот поддерживает не только свои собственные состояния, но и множество возможных "belief states" (состояний убеждений) относительно других агентов системы. Это делается через распространение и обновление эпистемических состояний на основе наблюдений и частичного обмена (gossip-протокол).

Эпистемическое планирование включает глубину рассуждения о системе: что знает робот о других, как изменяются их знания в ходе действий, что можно предсказать о поведении других без прямой связи. Это отчасти перекликается с идеями динамической эпистемической логики (Dynamic Epistemic Logic), используемой для описания изменения знаний при действиях/событиях.

Метод опирается на frontier-based planning (метод исследования границ) для покрытия среды, вместе с оптимизацией распределения задач и ограниченным обменом наблюдениями. Это обеспечивает баланс между миссионными целями (покрытие, сбор наблюдений) и возможным ожиданием/обменом информации при восстановлении связи.

Экспериментальная часть демонстрирует, что такая стратегия может обеспечить более высокую эффективность и согласованность, чем традиционные подходы, предполагающие постоянную связь, и в некоторых задачах приближает производительность к случаям, где связь вообще не ограничена.

На более раннем этапе была представлена близкая по духу работа "Epistemic Prediction and Planning with Implicit Coordination for Multi-Robot Teams in Communication Restricted Environments" (arXiv, 2023), где авторы формализуют методы распространения belief-состояний и планирования без связи с опорой на динамическую эпистемическую логику и имитацию “theory of mind”-подхода, где роботы прогнозируют действия других агентов, опираясь на изменения своих убеждений.

frontiersin.org/journals/robotics-and-ai/articles/10.3389/frobt.2023.1149439

В работе Formal Logic-based Cooperative Task Planning for Multi-robot Systems: Survey of Recent Advances and Future Directions (Acta Automatica Sinica, 2025) авторы из Пекинского университета разбирают, как формальные логики становятся языком для постановки и проверки сложных миссий в роботизированных кластерах и роях, включая сценарии с беспилотниками и наземными платформами. Отталкиваясь от OODA-цикла, они выделяют кооперативное планирование задач как мозг системы: оно должно решать, что делать, кому делать и когда, а затем подстраиваться под потери узлов, новые события и динамику среды.

Главная мотивация сохраняется за требованиями к safety-critical систем: план должен быть корректным и объяснимым, строиться быстро даже в больших командах и при этом оставаться хорошим по метрикам эффективности. Авторы сопоставляют несколько парадигм моделирования и решения: математическую оптимизацию (IP/MILP), символическое планирование (STRIPS/HTN/PDDL), формальные языки спецификаций (LTL/MTL/STL/CTL) и современные LLM-подходы. За формальными методами сохраняется ключевое преимущество, то есть строгая семантика и возможность верификации/синтеза стратегий, но ценой оказывается взрыв размерности при росте числа агентов и усложнении формул.

Авторы показывают как LTL и STL используются для задания временных и пространственно-временных требований, и как стандартный пайплайн через автоматы и модель-чеккинг упирается в гигантские произведения состояний. Поэтому значительная часть последних достижений посвящена обходу этого барьера: разложению задач, иерархическому планированию, оптимизационным кодировкам без явного построения произведения, распределённым и реактивным схемам, а также связкам с обучением и вероятностными моделями для работы в неопределённости.

На будущее формулируется следующая повестка: непрерывное планирование в неполной и меняющейся среде, совместное планирование задач и движения, а также замкнутые контуры, где языковые модели помогают переводить намерения в формальные спецификации, а формальные методы проверяют и держат в узде надёжность результата. В итоге обзор даёт не столько один рецепт, сколько карту методов и компромиссов, объясняя, почему логика остаётся одним из немногих инструментов, способных одновременно дать выразительность миссий, проверяемость и доверие к автономным коллективным системам.

aas.net.cn/cn/article/doi/10.16383/j.aas.c250223

На конференцию по аналитической философии прилетает ангел и говорит, что ответит на один любой вопрос. Аналитические философы в ажиотаже, посовещались и просят несколько дней на обдумывание и формулирование. Ангел соглашается, улетает, через несколько дней прилетает обратно.
- Ну что, придумали вопрос?
- Да, этот вопрос такой: какова устойчивая последовательность, первым элементом которой является лучший вопрос, который можно задать ангелу в этой ситуации, а вторым элементом является ответ на этот вопрос?
Ангел отвечает:
- Это устойчивая последовательность, первым элементом которой является вопрос, который вы задали, а вторым элементом является ответ, который я дал.

Self-Correcting Gossip Protocols (Cignarale, van Ditmarsch, Felber, Gattinger, Rincon Galeana, Sundararajan, 2026)

Свежая работа с участием van Ditmarsch предлагает новую динамико-эпистемическую модель gossip-протоколов с ошибками передачи.

Обычно классическая литература по fault-tolerance апеллирует к анализу в терминах временной эпистемической логики или распределённых алгоритмов, н здесь авторы рассматривают ошибку как событие в динамической эпистемической системе. Текст ставит перед нами вопрос о том, как агенты могут самостоятельно обнаруживать и исправлять ложные сведения без координатора, если во всём выполнении допускается не более одной ошибочной передачи сообщения.

Итак, для каждого агента a существует бинарный секрет:

s(a) ∈ {a, ā}

Состояние системы:

S : A → P(A × {0,1})

где S(a) – множество значений секретов, которыми располагает агент a. В отличие от классического gossip, агент может одновременно хранить противоречащие значения одного секрета:

S(a) ∩ {b, b̄} = {b,b̄}

что интерпретируется как конфликт информации.

Вводятся три типа вызовов:

ab – корректная передача;
aᶜb – ошибка у вызывающего;
abᶜ – ошибка у принимающего.

Последовательность вызовов σ содержит не более одной ошибочной передачи.

Семантика вызова содержит два корректирующих фильтра:

1 коррекция
Удаляются значения, которые агент уже знает ложными. = {d | K_a(d̄)} ∪ {d̄ | K_a(d)}

2 коррекция
После получения новой информации агент может впервые узнать правильное значение секрета и ретроспективно удалить конфликтующее значение.

Именно второй механизм делает модель self-correcting. Агент способен исправлять ранее накопленную ошибку исключительно на основании собственных эпистемических рассуждений.

Если агент знает секрет, это знание не теряется:

K_a(b) at σ ⇒ K_a(b) at τ
для любого расширения τ ⊇ σ.
Знание влечёт корректное убеждение

K_a(b)

эквивалентно оправданному правильному убеждению:

K_a(b) ⇒
(bb ∧ ba ∧ ¬b̄a)
∨
(bb̄ ∧ b̄a ∧ ¬ba)

То есть знание оказывается не просто истинным убеждением, а истинным убеждением, устойчивым относительно всех эпистемически возможных историй выполнения.
Тут мы получаем довольно неожиданный результат, где агент может узнать правильный секрет другого агента, никогда с ним не связываясь напрямую (ab · bc · ad · de · ce)
После последних вызовов агент e получает две независимые информационные цепочки относительно секрета a и может исключить все сценарии с ошибкой. В результате:

K_e(a)

становится истинным без вызова ae. В этом состоит важное отличие от стандартных моделей распространения информации.

В третьей части статьи интересны сравнения с bounded memory semantics и full information protocols, где предложенная выше модель занимает промежуточное отношение между ними, оказываясь сильнее bounded memory и слабее fip, но достигает при этом многих тех же эпистемических целей существенно меньшим объёмом передаваемых данных.

arxiv.org/abs/2605.05801

Ломаем тезис Черча-Тьюринга: почему твой мозг это машина, но не та, о которой думал Пенроуз

Когда-то перевел и законспектировал убойную статью за 40 баксов от Мутанена и Хинтикка «Alternative Concept of Computability» (1998).
Спойлер: Пенроуз со своим квантовым сознанием идет отдыхать, а детерминизм спасен через костыль эпистемической слепоты.

В чем замес?

Все мы выкупаем Черча-Тьюринга. Всё эффективн вычисляемое это рекурсивные функции, которые отрабатывает дефолтная МТ. И тут же набегают философы-спиритуалисты типа Лукаса и Пенроуза поясняя с криками: "Ага нахуй! По теореме Гёделя МТ не может доказать гёделевскую истину, а человеческий разум видимо может! Значит, мы не машины, у нас Душа/Квантовая магия!".

Хинтикка говорит: "Вы ссыкуны". Стандартное определение рекурсивности завязано на паническое эпистемическое требование. Нам обязательно нужно, чтобы МТ гарантированно остановилась и мы узнали, что ответ на ленте финальный.

Решение Хинтикки: Вычислимость методом проб и ошибок (Trial-and-Error)
Хинтикка убирает требование остановки и разрешает машине стирать данные с контрольной ленты.

Представь двухленточную МТ. На контрольной ленте она пишет уравнения вида \(f(a) = b\).
Машина работает по детерминированному алгоритму (например, строит семантическое дерево для формулы логики первого порядка).
Допустим, уперлась в противоречие в ветке? Ну накатили бэктрэкинг, стерли промежуточный бред и пишем заново.

И тут Хинтикка делает Теорему 1: Каждая удовлетворимая формула \(S\) логики первого порядка имеет модель, где её функции Сколема вычислимы методом проб и ошибок. При этом (по Крайзелю и Мостовскому) существуют формулы, у которых нет у стандартных рекурсивных моделей.

Остюда вычислимость методом проб и ошибок шире, чем классическая рекурсивность. Получаем красивую дуаль:

Рекурсивность = Конструктивистская логика
Trial-and-Error вычислимость = Классическая (расширенная) логика первого порядка

Процесс МТ trial-and-error жестко зафиксирован алгоритмом. Никакого рандома, чистый детерминизм. Но функция останова \(H(m, n)\) (которая выдает 1, если машина выдала стабильный результат) здесь нерекурсивна.
Здесь красиво закрывается парадокс предсказания будущего в стиле Ньюкома: даже если вселенский суперкомпьютер считает твое будущее методом проб и ошибок, ты не сможешь сделать ему назло. Ты смотришь на экран, там написано "ы съешь яблоко", но у тебя нет метода узнать, это финальный результат или машина через миллисекунду сотрет эту строчку и напишет "Ты поешь говна".

В итоге наш разум вполне может быть жестким механическим девайсом. Просто мы работаем в режиме бесконечного бэктрэкинга и стирания ошибок. И то, что мы не знаем, когда придем к абсолютной истине, что суть не баг индетерминизма,а фича нашей архитектуры.

В конце Хинтикка еще кокетливо подмигивает квантовым вычислениям: если квантовый комп может суперпозицией чекать все ветки дерева одновременно, он может нехило разогнать этот наш экзистенциальный Trial-and-Error.

docs.google.com/document/d/13YC5c1TPSJQOW310xQh1NLwKh0bYy1fBU3i4DnUVbvY/edit?tab=t.0

Невозможные возможные миры (Impossible Possible Worlds) contra логическое всеведенье

Пока нормисы обсуждают мультивселенные, накатим семантику современных модальных логик. Сегодня Хинтикка в 1975 году совершил подрыв, доказав, что невозможные миры метафизически легитимны, и почему ты когнитивно ограниченный сыч, а не логически всеведущий сын маминой подруги.

В классической эпистемической логике (логике знания) у Фреге, Рассела и даже у раннего Хинтикки существовал позорный баг. Если субъект знает посылку А, а из А логически следует теорема Б, то субъект автоматически знает и Б. По этой логике любой школьник, задрочивший аксиомы Пеано, автоматически знает Великую теорему Ферма и вообще всю математику мира. На бумаге охуенно, но забыли, как грится, про овраги. Этот разрыв именовали "скандалом дедукции".

Чтобы спасти логику, Хинтикка вводит в семантику невозможные возможные миры (т.н. Impossible Possible Worlds).
Это альтернативные сценарии, в которых классические законы логики (например, закон исключенного третьего или непротиворечия) могут нарушаться. В таком мире одновременно может быть истинно А и не-А, либо 2 + 2 = 5.

Главный трик Хинтикки обнаруживается в плоскости релятивизации относительно субъекта. Для "абсолютного наблюдателя" невозможный мир мгновенно схлопывается из-за противоречия. Но для ограниченного человека (или компьютера) этот мир эпистемически возможен, пока субъект не докопался до этого противоречия.

Хинтикка делает семантические таблицы и предлагает систему глубины информации:

Поверхностная информация (surface information): То, что на контрольной ленте твоего разума написано прямо сейчас. Ты видишь сложную формулу, и на первый взгляд она кажется абсолютно нормальной. Для тебя этот сценарий мыслится как валидный возможный мир.

Глубинная информация (depth information): Вскрывая внутреннюю гниль невозможного мира, тебе нужно запустить дедуктивный движок: развернуть кванторы, построить Сколемовские функции и разветвить дизъюнкции (буквально как в методе MCTS у современных LLM).

Когнитивный барьер: Каждый шаг по дереву формулы требует ресурсов (времени, памяти, вычислительных мощностей). Если тебе не хватает когнитивного ресурса сделать N шагов вглубь, невозможный мир для тебя онтологически существует как легитимная альтернатива. И он схлопнется только тогда, когда ты физически дойдешь до шага, где столкнутся А и не-А.

Внутри этих невозможных миров Хинтикка разрешает существовать логическим химерам. Твоё "я" проводит линии идентификации объектов сквозь миры.
Например, для древнего грека, который не знал, что Утренняя звезда и Вечерняя звезда это один и тот же астрономический объект (Венера), существовал невозможный мир, где это были два разных физических тела. Логически этот мир невозможен, но эпистемически он направлял действия и рассуждения людей веками.

imb4: невозможные миры у Хинтикки не являются чем-то вроде физического параллельный космос, это скорее инструментальная онтология ограниченного разума. Хинтикка доказал: абсурд и противоречие легитимно существуют в нашей голове как рабочие гипотезы. Мы обречены блуждать по невозможным мирам и шаг за шагом стирать свои ошибки (Trial-and-Error), просто потому что мы детерминированные машины с ограниченной RAM, у которых нет божественного линейного всеведения Фреге.

Еще раз, почему нейронки это развлечение для быдла

Научное исследование можно представить как вопросно-ответную игру. Есть информационное состояние S, множество допустимых вопросов Q и переход S → S' после получения ответа. Исследование здесь не просто накопление истинных утверждений, а последовательность ходов, изменяющих пространство последующих вопросов: Q₁ → A₁ → Q₂ → A₂ → … . И здесь самое неприятное: LLM может сгенерировать практически бесконечное количество Qᵢ, но это ещё не означает, что она участвует в вопрошании в сильном смысле. Текст вопроса можно сгенерировать, но кто решил, что именно это пространство вопросов вообще является правильным?

Получаем всегда структуру примерно такого вида:

π* = argmaxπ E[U(Sₙ)]

Т.е. существует пространство состояний S, стратегия π и функция полезности U. Можно сделать поиск чудовищно сложным, добавить память, инструменты, веб, симуляторы, RL, эволюцию кода и сто агентов, спорящих друг с другом. Но если Q, U и правила перехода T заданы, вся автономная наука остаётся игрой внутри заранее учреждённой игры.

Моделька может генерировать fₙ₊₁ = M(fₙ), затем оставить новую программу, если g(fₙ₊₁) > g(fₙ). Она может найти решение, которого не видел ни один человек. Но попробуйте задать ей более неприятный вопрос: а почему именно g должна быть нашей функцией оценки? Что если оптимизируется не то? Что если само пространство H, в котором ищутся решения, концептуально ошибочно? Что если лучший результат это не максимум g, а открытие того, что g вообще не имеет смысла?

Алгоритм может искать лучший ход внутри игры. Опытный исследователь способен сказать: мы вообще играем не в ту игру. В математической форме обычный агент оптимизирует π при фиксированных (S,Q,T,U); исследователь способен поставить под вопрос сами Q, T и U:

(S,Q,T,U) → (S',Q',T',U').

Это уже изменение условий, относительно которых оптимизация вообще имеет смысл. Здесь хайдеггеровское "die Wissenschaft denkt nicht" внезапно звучит почти как технический диагноз. Наука может быть невероятно рациональной, строгой и продуктивной, и всё же оставаться methodos: движением по уже проложенному пути. Нейронки идеально подходят для этого режима. Они ускоряют вычисление, перебор, доказательство, поиск, симуляцию и комбинирование. Они могут идти по дороге значительно быстрее человека. Однако мышление начинается там, где возникает вопрос к самой дороге.

Демократизация интеллекта в итоге оказывается довольно странным мероприятием: машина выдаёт каждому по бесконечному количеству ответов, а человек постепенно забывает, зачем вообще нужно было учиться задавать вопросы. Нет нейронки не делают людей тупыми (они не могут иметь то, что мы называем свободной или самостоятельно направляемой волей), скорее они делают тупость комфортной.

Дрейфус еще в 70-х, кажется, видел потенциал больших моделей, оговариваясь на тему того, что это может быть круто, но пока не хватает таких мощностей. Но он же и пишет, что концептуально это не может быть подспорьем для естественного стратегического мышления, которое помогает ученым и философам переворачивать игру, для того чтобы находить нетривиальные решения.

Но самое забавное, что он приходит к выводу о том, что успех т.н. "ИИ" будет зависеть не столько от вычислительных мощностей и элегантных архитектур, сколько от маркетинга, отупляющего человека до состояния слабоумных потребностей таких, которые может разрешить стероидное Т9. В общем говоря, современные ИИ это социология вытеснения разума из областей, которые не может переработать аппроксиматор, попытка создать удобных и неполноценно мыслящих людей. И бизнес идёт хорошо.