Proof assistants и categorical semantics of computation (Coq, Lean, Cubical TT) — это механизмы фиксации правил игры (proofs как данные); они прекрасно работают внутри заданной логики, но не отвечают на задачу Φ: (S,M,R) ↦ (S′,M′,R′) — смены самой онтологии и условий применимости. Металогика у формальных систем всегда «внутри» L0 как данные, а не как автономный оператор пересмотра правил; это архитектурная невозможность, и она структурно близка к проблеме ИИ в науке. Model theory / Stability — Shelah, Classification Theory, и обзоры; Pillay lectures.
В заключение: structural turn остается последующим симптомом нового заболевания математиков, а не лечением провала классического логицизма. Современные устроения (Univalence, ∞-категории, derived machinery, tameness, probabilistic team semantics, proof assistants) оказываются пёстрым набором приёмов фиксации и реинкарнации логической динамики в её объектной форме. Они не подрывают логицизм; они подтверждают его. В то же время современная логика и формальная семантика (в интерпретации IF/Dependence/GTS) это примация условий возможности: она задаёт «на каких условиях вообще существуют объекты и структуры», тогда как математика лишь архивирует то, что уже стабилизовано. Редукция математики к логике, поэтому, не пустая риторика, но требование точного различения между процессом (стратегией, доступом, информацией) и результатом (функция, морфизм, тип, гомология).
В заключение: structural turn остается последующим симптомом нового заболевания математиков, а не лечением провала классического логицизма. Современные устроения (Univalence, ∞-категории, derived machinery, tameness, probabilistic team semantics, proof assistants) оказываются пёстрым набором приёмов фиксации и реинкарнации логической динамики в её объектной форме. Они не подрывают логицизм; они подтверждают его. В то же время современная логика и формальная семантика (в интерпретации IF/Dependence/GTS) это примация условий возможности: она задаёт «на каких условиях вообще существуют объекты и структуры», тогда как математика лишь архивирует то, что уже стабилизовано. Редукция математики к логике, поэтому, не пустая риторика, но требование точного различения между процессом (стратегией, доступом, информацией) и результатом (функция, морфизм, тип, гомология).
LogicalAnimals
В чем и почему ИИ никогда не заменит человеческих исследователей Начнем без эвфемизмов. Современные системы «научного ИИ», начиная от AlphaEvolve и AlphaDev до активных inference-агентов, не приближают нас к автономной науке, а скорее наоборот радикально…
Решил развить эту мысль в полноценное формальное исследование. В статье вводится абстрактная модель inquiry-агента с фиксированной логической сигнатурой и доказывается инвариант: ни стратегии поиска, ни эпистемические обновления, ни байесовское обучение, ни BOED-подходы не позволяют выйти за пределы исходного языка гипотез без явного оператора его ревизии.
Одним из результатов, пожалуй ключевым, стало то, что я назвал The Fixed-Signature Inquiry Theorem: теорема невозможности, показывающая, что «автономные открытия» в концептуально открытых задачах принципиально недостижимы для агентов с фиксированной сигнатурой, независимо от масштаба вычислений или данных.
Работа построена logic-first: опирается на interrogative logic (Хинтикка), inferential erotetic logic, dynamic epistemic logic и результаты learning theory при misspecification. AI-for-Science системы (вроде AlphaEvolve и смежных) рассматриваются только как прикладные инстанциации этого общего результата.
Полный текст статьи:
researchhub.com/paper/10777162
Одним из результатов, пожалуй ключевым, стало то, что я назвал The Fixed-Signature Inquiry Theorem: теорема невозможности, показывающая, что «автономные открытия» в концептуально открытых задачах принципиально недостижимы для агентов с фиксированной сигнатурой, независимо от масштаба вычислений или данных.
Работа построена logic-first: опирается на interrogative logic (Хинтикка), inferential erotetic logic, dynamic epistemic logic и результаты learning theory при misspecification. AI-for-Science системы (вроде AlphaEvolve и смежных) рассматриваются только как прикладные инстанциации этого общего результата.
Полный текст статьи:
researchhub.com/paper/10777162
Epistemic planning for multi-robot systems in communication-restricted environments
Авторы Lauren Bramblett и Nicola Bezzo из Университета Виргинии описывают базовый уже насегодня эпистемический подход к планированию, чтобы обеспечить координированное поведение распределённой группы роботов даже при отсутствии постоянной связи между ними, что типично для поисково-спасательных, инспекционных и других задач в экстремальных или неструктурированных средах.
В таких сценариях обычные методы многороботного планирования часто предполагают непрерывный обмен информацией. Это ограничение приводит к неэффективности или отказам в реальных условиях, где связь может быть ненадёжной, недоступной или дорогой по ресурсам. Авторы поднимают вопрос о том, как роботам поддерживать совместное представление о состоянии миссии, не опираясь на постоянный обмен сообщениями.
Каждый робот поддерживает не только свои собственные состояния, но и множество возможных "belief states" (состояний убеждений) относительно других агентов системы. Это делается через распространение и обновление эпистемических состояний на основе наблюдений и частичного обмена (gossip-протокол).
Эпистемическое планирование включает глубину рассуждения о системе: что знает робот о других, как изменяются их знания в ходе действий, что можно предсказать о поведении других без прямой связи. Это отчасти перекликается с идеями динамической эпистемической логики (Dynamic Epistemic Logic), используемой для описания изменения знаний при действиях/событиях.
Метод опирается на frontier-based planning (метод исследования границ) для покрытия среды, вместе с оптимизацией распределения задач и ограниченным обменом наблюдениями. Это обеспечивает баланс между миссионными целями (покрытие, сбор наблюдений) и возможным ожиданием/обменом информации при восстановлении связи.
Экспериментальная часть демонстрирует, что такая стратегия может обеспечить более высокую эффективность и согласованность, чем традиционные подходы, предполагающие постоянную связь, и в некоторых задачах приближает производительность к случаям, где связь вообще не ограничена.
На более раннем этапе была представлена близкая по духу работа "Epistemic Prediction and Planning with Implicit Coordination for Multi-Robot Teams in Communication Restricted Environments" (arXiv, 2023), где авторы формализуют методы распространения belief-состояний и планирования без связи с опорой на динамическую эпистемическую логику и имитацию “theory of mind”-подхода, где роботы прогнозируют действия других агентов, опираясь на изменения своих убеждений.
frontiersin.org/journals/robotics-and-ai/articles/10.3389/frobt.2023.1149439
Авторы Lauren Bramblett и Nicola Bezzo из Университета Виргинии описывают базовый уже насегодня эпистемический подход к планированию, чтобы обеспечить координированное поведение распределённой группы роботов даже при отсутствии постоянной связи между ними, что типично для поисково-спасательных, инспекционных и других задач в экстремальных или неструктурированных средах.
В таких сценариях обычные методы многороботного планирования часто предполагают непрерывный обмен информацией. Это ограничение приводит к неэффективности или отказам в реальных условиях, где связь может быть ненадёжной, недоступной или дорогой по ресурсам. Авторы поднимают вопрос о том, как роботам поддерживать совместное представление о состоянии миссии, не опираясь на постоянный обмен сообщениями.
Каждый робот поддерживает не только свои собственные состояния, но и множество возможных "belief states" (состояний убеждений) относительно других агентов системы. Это делается через распространение и обновление эпистемических состояний на основе наблюдений и частичного обмена (gossip-протокол).
Эпистемическое планирование включает глубину рассуждения о системе: что знает робот о других, как изменяются их знания в ходе действий, что можно предсказать о поведении других без прямой связи. Это отчасти перекликается с идеями динамической эпистемической логики (Dynamic Epistemic Logic), используемой для описания изменения знаний при действиях/событиях.
Метод опирается на frontier-based planning (метод исследования границ) для покрытия среды, вместе с оптимизацией распределения задач и ограниченным обменом наблюдениями. Это обеспечивает баланс между миссионными целями (покрытие, сбор наблюдений) и возможным ожиданием/обменом информации при восстановлении связи.
Экспериментальная часть демонстрирует, что такая стратегия может обеспечить более высокую эффективность и согласованность, чем традиционные подходы, предполагающие постоянную связь, и в некоторых задачах приближает производительность к случаям, где связь вообще не ограничена.
На более раннем этапе была представлена близкая по духу работа "Epistemic Prediction and Planning with Implicit Coordination for Multi-Robot Teams in Communication Restricted Environments" (arXiv, 2023), где авторы формализуют методы распространения belief-состояний и планирования без связи с опорой на динамическую эпистемическую логику и имитацию “theory of mind”-подхода, где роботы прогнозируют действия других агентов, опираясь на изменения своих убеждений.
frontiersin.org/journals/robotics-and-ai/articles/10.3389/frobt.2023.1149439
В работе Formal Logic-based Cooperative Task Planning for Multi-robot Systems: Survey of Recent Advances and Future Directions (Acta Automatica Sinica, 2025) авторы из Пекинского университета разбирают, как формальные логики становятся языком для постановки и проверки сложных миссий в роботизированных кластерах и роях, включая сценарии с беспилотниками и наземными платформами. Отталкиваясь от OODA-цикла, они выделяют кооперативное планирование задач как мозг системы: оно должно решать, что делать, кому делать и когда, а затем подстраиваться под потери узлов, новые события и динамику среды.
Главная мотивация сохраняется за требованиями к safety-critical систем: план должен быть корректным и объяснимым, строиться быстро даже в больших командах и при этом оставаться хорошим по метрикам эффективности. Авторы сопоставляют несколько парадигм моделирования и решения: математическую оптимизацию (IP/MILP), символическое планирование (STRIPS/HTN/PDDL), формальные языки спецификаций (LTL/MTL/STL/CTL) и современные LLM-подходы. За формальными методами сохраняется ключевое преимущество, то есть строгая семантика и возможность верификации/синтеза стратегий, но ценой оказывается взрыв размерности при росте числа агентов и усложнении формул.
Авторы показывают как LTL и STL используются для задания временных и пространственно-временных требований, и как стандартный пайплайн через автоматы и модель-чеккинг упирается в гигантские произведения состояний. Поэтому значительная часть последних достижений посвящена обходу этого барьера: разложению задач, иерархическому планированию, оптимизационным кодировкам без явного построения произведения, распределённым и реактивным схемам, а также связкам с обучением и вероятностными моделями для работы в неопределённости.
На будущее формулируется следующая повестка: непрерывное планирование в неполной и меняющейся среде, совместное планирование задач и движения, а также замкнутые контуры, где языковые модели помогают переводить намерения в формальные спецификации, а формальные методы проверяют и держат в узде надёжность результата. В итоге обзор даёт не столько один рецепт, сколько карту методов и компромиссов, объясняя, почему логика остаётся одним из немногих инструментов, способных одновременно дать выразительность миссий, проверяемость и доверие к автономным коллективным системам.
aas.net.cn/cn/article/doi/10.16383/j.aas.c250223
Главная мотивация сохраняется за требованиями к safety-critical систем: план должен быть корректным и объяснимым, строиться быстро даже в больших командах и при этом оставаться хорошим по метрикам эффективности. Авторы сопоставляют несколько парадигм моделирования и решения: математическую оптимизацию (IP/MILP), символическое планирование (STRIPS/HTN/PDDL), формальные языки спецификаций (LTL/MTL/STL/CTL) и современные LLM-подходы. За формальными методами сохраняется ключевое преимущество, то есть строгая семантика и возможность верификации/синтеза стратегий, но ценой оказывается взрыв размерности при росте числа агентов и усложнении формул.
Авторы показывают как LTL и STL используются для задания временных и пространственно-временных требований, и как стандартный пайплайн через автоматы и модель-чеккинг упирается в гигантские произведения состояний. Поэтому значительная часть последних достижений посвящена обходу этого барьера: разложению задач, иерархическому планированию, оптимизационным кодировкам без явного построения произведения, распределённым и реактивным схемам, а также связкам с обучением и вероятностными моделями для работы в неопределённости.
На будущее формулируется следующая повестка: непрерывное планирование в неполной и меняющейся среде, совместное планирование задач и движения, а также замкнутые контуры, где языковые модели помогают переводить намерения в формальные спецификации, а формальные методы проверяют и держат в узде надёжность результата. В итоге обзор даёт не столько один рецепт, сколько карту методов и компромиссов, объясняя, почему логика остаётся одним из немногих инструментов, способных одновременно дать выразительность миссий, проверяемость и доверие к автономным коллективным системам.
aas.net.cn/cn/article/doi/10.16383/j.aas.c250223
На конференцию по аналитической философии прилетает ангел и говорит, что ответит на один любой вопрос. Аналитические философы в ажиотаже, посовещались и просят несколько дней на обдумывание и формулирование. Ангел соглашается, улетает, через несколько дней прилетает обратно.
- Ну что, придумали вопрос?
- Да, этот вопрос такой: какова устойчивая последовательность, первым элементом которой является лучший вопрос, который можно задать ангелу в этой ситуации, а вторым элементом является ответ на этот вопрос?
Ангел отвечает:
- Это устойчивая последовательность, первым элементом которой является вопрос, который вы задали, а вторым элементом является ответ, который я дал.
- Ну что, придумали вопрос?
- Да, этот вопрос такой: какова устойчивая последовательность, первым элементом которой является лучший вопрос, который можно задать ангелу в этой ситуации, а вторым элементом является ответ на этот вопрос?
Ангел отвечает:
- Это устойчивая последовательность, первым элементом которой является вопрос, который вы задали, а вторым элементом является ответ, который я дал.
💊12
Self-Correcting Gossip Protocols (Cignarale, van Ditmarsch, Felber, Gattinger, Rincon Galeana, Sundararajan, 2026)
Свежая работа с участием van Ditmarsch предлагает новую динамико-эпистемическую модель gossip-протоколов с ошибками передачи.
Обычно классическая литература по fault-tolerance апеллирует к анализу в терминах временной эпистемической логики или распределённых алгоритмов, н здесь авторы рассматривают ошибку как событие в динамической эпистемической системе. Текст ставит перед нами вопрос о том, как агенты могут самостоятельно обнаруживать и исправлять ложные сведения без координатора, если во всём выполнении допускается не более одной ошибочной передачи сообщения.
Итак, для каждого агента a существует бинарный секрет:
s(a) ∈ {a, ā}
Состояние системы:
S : A → P(A × {0,1})
где S(a) – множество значений секретов, которыми располагает агент a. В отличие от классического gossip, агент может одновременно хранить противоречащие значения одного секрета:
S(a) ∩ {b, b̄} = {b,b̄}
что интерпретируется как конфликт информации.
Вводятся три типа вызовов:
ab – корректная передача;
aᶜb – ошибка у вызывающего;
abᶜ – ошибка у принимающего.
Последовательность вызовов σ содержит не более одной ошибочной передачи.
Семантика вызова содержит два корректирующих фильтра:
1 коррекция
Удаляются значения, которые агент уже знает ложными. = {d | K_a(d̄)} ∪ {d̄ | K_a(d)}
2 коррекция
После получения новой информации агент может впервые узнать правильное значение секрета и ретроспективно удалить конфликтующее значение.
Именно второй механизм делает модель self-correcting. Агент способен исправлять ранее накопленную ошибку исключительно на основании собственных эпистемических рассуждений.
Если агент знает секрет, это знание не теряется:
K_a(b) at σ ⇒ K_a(b) at τ
для любого расширения τ ⊇ σ.
Знание влечёт корректное убеждение
K_a(b)
эквивалентно оправданному правильному убеждению:
K_a(b) ⇒
(bb ∧ ba ∧ ¬b̄a)
∨
(bb̄ ∧ b̄a ∧ ¬ba)
То есть знание оказывается не просто истинным убеждением, а истинным убеждением, устойчивым относительно всех эпистемически возможных историй выполнения.
Тут мы получаем довольно неожиданный результат, где агент может узнать правильный секрет другого агента, никогда с ним не связываясь напрямую (ab · bc · ad · de · ce)
После последних вызовов агент e получает две независимые информационные цепочки относительно секрета a и может исключить все сценарии с ошибкой. В результате:
K_e(a)
становится истинным без вызова ae. В этом состоит важное отличие от стандартных моделей распространения информации.
В третьей части статьи интересны сравнения с bounded memory semantics и full information protocols, где предложенная выше модель занимает промежуточное отношение между ними, оказываясь сильнее bounded memory и слабее fip, но достигает при этом многих тех же эпистемических целей существенно меньшим объёмом передаваемых данных.
arxiv.org/abs/2605.05801
Свежая работа с участием van Ditmarsch предлагает новую динамико-эпистемическую модель gossip-протоколов с ошибками передачи.
Обычно классическая литература по fault-tolerance апеллирует к анализу в терминах временной эпистемической логики или распределённых алгоритмов, н здесь авторы рассматривают ошибку как событие в динамической эпистемической системе. Текст ставит перед нами вопрос о том, как агенты могут самостоятельно обнаруживать и исправлять ложные сведения без координатора, если во всём выполнении допускается не более одной ошибочной передачи сообщения.
Итак, для каждого агента a существует бинарный секрет:
s(a) ∈ {a, ā}
Состояние системы:
S : A → P(A × {0,1})
где S(a) – множество значений секретов, которыми располагает агент a. В отличие от классического gossip, агент может одновременно хранить противоречащие значения одного секрета:
S(a) ∩ {b, b̄} = {b,b̄}
что интерпретируется как конфликт информации.
Вводятся три типа вызовов:
ab – корректная передача;
aᶜb – ошибка у вызывающего;
abᶜ – ошибка у принимающего.
Последовательность вызовов σ содержит не более одной ошибочной передачи.
Семантика вызова содержит два корректирующих фильтра:
1 коррекция
Удаляются значения, которые агент уже знает ложными. = {d | K_a(d̄)} ∪ {d̄ | K_a(d)}
2 коррекция
После получения новой информации агент может впервые узнать правильное значение секрета и ретроспективно удалить конфликтующее значение.
Именно второй механизм делает модель self-correcting. Агент способен исправлять ранее накопленную ошибку исключительно на основании собственных эпистемических рассуждений.
Если агент знает секрет, это знание не теряется:
K_a(b) at σ ⇒ K_a(b) at τ
для любого расширения τ ⊇ σ.
Знание влечёт корректное убеждение
K_a(b)
эквивалентно оправданному правильному убеждению:
K_a(b) ⇒
(bb ∧ ba ∧ ¬b̄a)
∨
(bb̄ ∧ b̄a ∧ ¬ba)
То есть знание оказывается не просто истинным убеждением, а истинным убеждением, устойчивым относительно всех эпистемически возможных историй выполнения.
Тут мы получаем довольно неожиданный результат, где агент может узнать правильный секрет другого агента, никогда с ним не связываясь напрямую (ab · bc · ad · de · ce)
После последних вызовов агент e получает две независимые информационные цепочки относительно секрета a и может исключить все сценарии с ошибкой. В результате:
K_e(a)
становится истинным без вызова ae. В этом состоит важное отличие от стандартных моделей распространения информации.
В третьей части статьи интересны сравнения с bounded memory semantics и full information protocols, где предложенная выше модель занимает промежуточное отношение между ними, оказываясь сильнее bounded memory и слабее fip, но достигает при этом многих тех же эпистемических целей существенно меньшим объёмом передаваемых данных.
arxiv.org/abs/2605.05801
💊6
Ломаем тезис Черча-Тьюринга: почему твой мозг это машина, но не та, о которой думал Пенроуз
Когда-то перевел и законспектировал убойную статью за 40 баксов от Мутанена и Хинтикка «Alternative Concept of Computability» (1998).
Спойлер: Пенроуз со своим квантовым сознанием идет отдыхать, а детерминизм спасен через костыль эпистемической слепоты.
В чем замес?
Все мы выкупаем Черча-Тьюринга. Всё эффективн вычисляемое это рекурсивные функции, которые отрабатывает дефолтная МТ. И тут же набегают философы-спиритуалисты типа Лукаса и Пенроуза поясняя с криками: "Ага нахуй! По теореме Гёделя МТ не может доказать гёделевскую истину, а человеческий разум видимо может! Значит, мы не машины, у нас Душа/Квантовая магия!".
Хинтикка говорит: "Вы ссыкуны". Стандартное определение рекурсивности завязано на паническое эпистемическое требование. Нам обязательно нужно, чтобы МТ гарантированно остановилась и мы узнали, что ответ на ленте финальный.
Решение Хинтикки: Вычислимость методом проб и ошибок (Trial-and-Error)
Хинтикка убирает требование остановки и разрешает машине стирать данные с контрольной ленты.
Представь двухленточную МТ. На контрольной ленте она пишет уравнения вида \(f(a) = b\).
Машина работает по детерминированному алгоритму (например, строит семантическое дерево для формулы логики первого порядка).
Допустим, уперлась в противоречие в ветке? Ну накатили бэктрэкинг, стерли промежуточный бред и пишем заново.
И тут Хинтикка делает Теорему 1: Каждая удовлетворимая формула \(S\) логики первого порядка имеет модель, где её функции Сколема вычислимы методом проб и ошибок. При этом (по Крайзелю и Мостовскому) существуют формулы, у которых нет у стандартных рекурсивных моделей.
Остюда вычислимость методом проб и ошибок шире, чем классическая рекурсивность. Получаем красивую дуаль:
Рекурсивность = Конструктивистская логика
Trial-and-Error вычислимость = Классическая (расширенная) логика первого порядка
Процесс МТ trial-and-error жестко зафиксирован алгоритмом. Никакого рандома, чистый детерминизм. Но функция останова \(H(m, n)\) (которая выдает 1, если машина выдала стабильный результат) здесь нерекурсивна.
Здесь красиво закрывается парадокс предсказания будущего в стиле Ньюкома: даже если вселенский суперкомпьютер считает твое будущее методом проб и ошибок, ты не сможешь сделать ему назло. Ты смотришь на экран, там написано "ы съешь яблоко", но у тебя нет метода узнать, это финальный результат или машина через миллисекунду сотрет эту строчку и напишет "Ты поешь говна".
В итоге наш разум вполне может быть жестким механическим девайсом. Просто мы работаем в режиме бесконечного бэктрэкинга и стирания ошибок. И то, что мы не знаем, когда придем к абсолютной истине, что суть не баг индетерминизма,а фича нашей архитектуры.
В конце Хинтикка еще кокетливо подмигивает квантовым вычислениям: если квантовый комп может суперпозицией чекать все ветки дерева одновременно, он может нехило разогнать этот наш экзистенциальный Trial-and-Error.
docs.google.com/document/d/13YC5c1TPSJQOW310xQh1NLwKh0bYy1fBU3i4DnUVbvY/edit?tab=t.0
Когда-то перевел и законспектировал убойную статью за 40 баксов от Мутанена и Хинтикка «Alternative Concept of Computability» (1998).
Спойлер: Пенроуз со своим квантовым сознанием идет отдыхать, а детерминизм спасен через костыль эпистемической слепоты.
В чем замес?
Все мы выкупаем Черча-Тьюринга. Всё эффективн вычисляемое это рекурсивные функции, которые отрабатывает дефолтная МТ. И тут же набегают философы-спиритуалисты типа Лукаса и Пенроуза поясняя с криками: "Ага нахуй! По теореме Гёделя МТ не может доказать гёделевскую истину, а человеческий разум видимо может! Значит, мы не машины, у нас Душа/Квантовая магия!".
Хинтикка говорит: "Вы ссыкуны". Стандартное определение рекурсивности завязано на паническое эпистемическое требование. Нам обязательно нужно, чтобы МТ гарантированно остановилась и мы узнали, что ответ на ленте финальный.
Решение Хинтикки: Вычислимость методом проб и ошибок (Trial-and-Error)
Хинтикка убирает требование остановки и разрешает машине стирать данные с контрольной ленты.
Представь двухленточную МТ. На контрольной ленте она пишет уравнения вида \(f(a) = b\).
Машина работает по детерминированному алгоритму (например, строит семантическое дерево для формулы логики первого порядка).
Допустим, уперлась в противоречие в ветке? Ну накатили бэктрэкинг, стерли промежуточный бред и пишем заново.
И тут Хинтикка делает Теорему 1: Каждая удовлетворимая формула \(S\) логики первого порядка имеет модель, где её функции Сколема вычислимы методом проб и ошибок. При этом (по Крайзелю и Мостовскому) существуют формулы, у которых нет у стандартных рекурсивных моделей.
Остюда вычислимость методом проб и ошибок шире, чем классическая рекурсивность. Получаем красивую дуаль:
Рекурсивность = Конструктивистская логика
Trial-and-Error вычислимость = Классическая (расширенная) логика первого порядка
Процесс МТ trial-and-error жестко зафиксирован алгоритмом. Никакого рандома, чистый детерминизм. Но функция останова \(H(m, n)\) (которая выдает 1, если машина выдала стабильный результат) здесь нерекурсивна.
Здесь красиво закрывается парадокс предсказания будущего в стиле Ньюкома: даже если вселенский суперкомпьютер считает твое будущее методом проб и ошибок, ты не сможешь сделать ему назло. Ты смотришь на экран, там написано "ы съешь яблоко", но у тебя нет метода узнать, это финальный результат или машина через миллисекунду сотрет эту строчку и напишет "Ты поешь говна".
В итоге наш разум вполне может быть жестким механическим девайсом. Просто мы работаем в режиме бесконечного бэктрэкинга и стирания ошибок. И то, что мы не знаем, когда придем к абсолютной истине, что суть не баг индетерминизма,а фича нашей архитектуры.
В конце Хинтикка еще кокетливо подмигивает квантовым вычислениям: если квантовый комп может суперпозицией чекать все ветки дерева одновременно, он может нехило разогнать этот наш экзистенциальный Trial-and-Error.
docs.google.com/document/d/13YC5c1TPSJQOW310xQh1NLwKh0bYy1fBU3i4DnUVbvY/edit?tab=t.0
💊10
Невозможные возможные миры (Impossible Possible Worlds) contra логическое всеведенье
Пока нормисы обсуждают мультивселенные, накатим семантику современных модальных логик. Сегодня Хинтикка в 1975 году совершил подрыв, доказав, что невозможные миры метафизически легитимны, и почему ты когнитивно ограниченный сыч, а не логически всеведущий сын маминой подруги.
В классической эпистемической логике (логике знания) у Фреге, Рассела и даже у раннего Хинтикки существовал позорный баг. Если субъект знает посылку А, а из А логически следует теорема Б, то субъект автоматически знает и Б. По этой логике любой школьник, задрочивший аксиомы Пеано, автоматически знает Великую теорему Ферма и вообще всю математику мира. На бумаге охуенно, но забыли, как грится, про овраги. Этот разрыв именовали "скандалом дедукции".
Чтобы спасти логику, Хинтикка вводит в семантику невозможные возможные миры (т.н. Impossible Possible Worlds).
Это альтернативные сценарии, в которых классические законы логики (например, закон исключенного третьего или непротиворечия) могут нарушаться. В таком мире одновременно может быть истинно
Главный трик Хинтикки обнаруживается в плоскости релятивизации относительно субъекта. Для "абсолютного наблюдателя" невозможный мир мгновенно схлопывается из-за противоречия. Но для ограниченного человека (или компьютера) этот мир эпистемически возможен, пока субъект не докопался до этого противоречия.
Хинтикка делает семантические таблицы и предлагает систему глубины информации:
Поверхностная информация (surface information): То, что на контрольной ленте твоего разума написано прямо сейчас. Ты видишь сложную формулу, и на первый взгляд она кажется абсолютно нормальной. Для тебя этот сценарий мыслится как валидный возможный мир.
Глубинная информация (depth information): Вскрывая внутреннюю гниль невозможного мира, тебе нужно запустить дедуктивный движок: развернуть кванторы, построить Сколемовские функции и разветвить дизъюнкции (буквально как в методе MCTS у современных LLM).
Когнитивный барьер: Каждый шаг по дереву формулы требует ресурсов (времени, памяти, вычислительных мощностей). Если тебе не хватает когнитивного ресурса сделать N шагов вглубь, невозможный мир для тебя онтологически существует как легитимная альтернатива. И он схлопнется только тогда, когда ты физически дойдешь до шага, где столкнутся
Внутри этих невозможных миров Хинтикка разрешает существовать логическим химерам. Твоё "я" проводит линии идентификации объектов сквозь миры.
Например, для древнего грека, который не знал, что Утренняя звезда и Вечерняя звезда это один и тот же астрономический объект (Венера), существовал невозможный мир, где это были два разных физических тела. Логически этот мир невозможен, но эпистемически он направлял действия и рассуждения людей веками.
imb4: невозможные миры у Хинтикки не являются чем-то вроде физического параллельный космос, это скорее инструментальная онтология ограниченного разума. Хинтикка доказал: абсурд и противоречие легитимно существуют в нашей голове как рабочие гипотезы. Мы обречены блуждать по невозможным мирам и шаг за шагом стирать свои ошибки (Trial-and-Error), просто потому что мы детерминированные машины с ограниченной RAM, у которых нет божественного линейного всеведения Фреге.
Пока нормисы обсуждают мультивселенные, накатим семантику современных модальных логик. Сегодня Хинтикка в 1975 году совершил подрыв, доказав, что невозможные миры метафизически легитимны, и почему ты когнитивно ограниченный сыч, а не логически всеведущий сын маминой подруги.
В классической эпистемической логике (логике знания) у Фреге, Рассела и даже у раннего Хинтикки существовал позорный баг. Если субъект знает посылку А, а из А логически следует теорема Б, то субъект автоматически знает и Б. По этой логике любой школьник, задрочивший аксиомы Пеано, автоматически знает Великую теорему Ферма и вообще всю математику мира. На бумаге охуенно, но забыли, как грится, про овраги. Этот разрыв именовали "скандалом дедукции".
Чтобы спасти логику, Хинтикка вводит в семантику невозможные возможные миры (т.н. Impossible Possible Worlds).
Это альтернативные сценарии, в которых классические законы логики (например, закон исключенного третьего или непротиворечия) могут нарушаться. В таком мире одновременно может быть истинно
А и не-А, либо 2 + 2 = 5.Главный трик Хинтикки обнаруживается в плоскости релятивизации относительно субъекта. Для "абсолютного наблюдателя" невозможный мир мгновенно схлопывается из-за противоречия. Но для ограниченного человека (или компьютера) этот мир эпистемически возможен, пока субъект не докопался до этого противоречия.
Хинтикка делает семантические таблицы и предлагает систему глубины информации:
Поверхностная информация (surface information): То, что на контрольной ленте твоего разума написано прямо сейчас. Ты видишь сложную формулу, и на первый взгляд она кажется абсолютно нормальной. Для тебя этот сценарий мыслится как валидный возможный мир.
Глубинная информация (depth information): Вскрывая внутреннюю гниль невозможного мира, тебе нужно запустить дедуктивный движок: развернуть кванторы, построить Сколемовские функции и разветвить дизъюнкции (буквально как в методе MCTS у современных LLM).
Когнитивный барьер: Каждый шаг по дереву формулы требует ресурсов (времени, памяти, вычислительных мощностей). Если тебе не хватает когнитивного ресурса сделать N шагов вглубь, невозможный мир для тебя онтологически существует как легитимная альтернатива. И он схлопнется только тогда, когда ты физически дойдешь до шага, где столкнутся
А и не-А.Внутри этих невозможных миров Хинтикка разрешает существовать логическим химерам. Твоё "я" проводит линии идентификации объектов сквозь миры.
Например, для древнего грека, который не знал, что Утренняя звезда и Вечерняя звезда это один и тот же астрономический объект (Венера), существовал невозможный мир, где это были два разных физических тела. Логически этот мир невозможен, но эпистемически он направлял действия и рассуждения людей веками.
imb4: невозможные миры у Хинтикки не являются чем-то вроде физического параллельный космос, это скорее инструментальная онтология ограниченного разума. Хинтикка доказал: абсурд и противоречие легитимно существуют в нашей голове как рабочие гипотезы. Мы обречены блуждать по невозможным мирам и шаг за шагом стирать свои ошибки (Trial-and-Error), просто потому что мы детерминированные машины с ограниченной RAM, у которых нет божественного линейного всеведения Фреге.
💊10
Еще раз, почему нейронки это развлечение для быдла
Научное исследование можно представить как вопросно-ответную игру. Есть информационное состояние S, множество допустимых вопросов Q и переход S → S' после получения ответа. Исследование здесь не просто накопление истинных утверждений, а последовательность ходов, изменяющих пространство последующих вопросов: Q₁ → A₁ → Q₂ → A₂ → … . И здесь самое неприятное: LLM может сгенерировать практически бесконечное количество Qᵢ, но это ещё не означает, что она участвует в вопрошании в сильном смысле. Текст вопроса можно сгенерировать, но кто решил, что именно это пространство вопросов вообще является правильным?
Получаем всегда структуру примерно такого вида:
π* = argmaxπ E[U(Sₙ)]
Т.е. существует пространство состояний S, стратегия π и функция полезности U. Можно сделать поиск чудовищно сложным, добавить память, инструменты, веб, симуляторы, RL, эволюцию кода и сто агентов, спорящих друг с другом. Но если Q, U и правила перехода T заданы, вся автономная наука остаётся игрой внутри заранее учреждённой игры.
Моделька может генерировать fₙ₊₁ = M(fₙ), затем оставить новую программу, если g(fₙ₊₁) > g(fₙ). Она может найти решение, которого не видел ни один человек. Но попробуйте задать ей более неприятный вопрос: а почему именно g должна быть нашей функцией оценки? Что если оптимизируется не то? Что если само пространство H, в котором ищутся решения, концептуально ошибочно? Что если лучший результат это не максимум g, а открытие того, что g вообще не имеет смысла?
Алгоритм может искать лучший ход внутри игры. Опытный исследователь способен сказать: мы вообще играем не в ту игру. В математической форме обычный агент оптимизирует π при фиксированных (S,Q,T,U); исследователь способен поставить под вопрос сами Q, T и U:
(S,Q,T,U) → (S',Q',T',U').
Это уже изменение условий, относительно которых оптимизация вообще имеет смысл. Здесь хайдеггеровское "die Wissenschaft denkt nicht" внезапно звучит почти как технический диагноз. Наука может быть невероятно рациональной, строгой и продуктивной, и всё же оставаться methodos: движением по уже проложенному пути. Нейронки идеально подходят для этого режима. Они ускоряют вычисление, перебор, доказательство, поиск, симуляцию и комбинирование. Они могут идти по дороге значительно быстрее человека. Однако мышление начинается там, где возникает вопрос к самой дороге.
Демократизация интеллекта в итоге оказывается довольно странным мероприятием: машина выдаёт каждому по бесконечному количеству ответов, а человек постепенно забывает, зачем вообще нужно было учиться задавать вопросы. Нет нейронки не делают людей тупыми (они не могут иметь то, что мы называем свободной или самостоятельно направляемой волей), скорее они делают тупость комфортной.
Научное исследование можно представить как вопросно-ответную игру. Есть информационное состояние S, множество допустимых вопросов Q и переход S → S' после получения ответа. Исследование здесь не просто накопление истинных утверждений, а последовательность ходов, изменяющих пространство последующих вопросов: Q₁ → A₁ → Q₂ → A₂ → … . И здесь самое неприятное: LLM может сгенерировать практически бесконечное количество Qᵢ, но это ещё не означает, что она участвует в вопрошании в сильном смысле. Текст вопроса можно сгенерировать, но кто решил, что именно это пространство вопросов вообще является правильным?
Получаем всегда структуру примерно такого вида:
π* = argmaxπ E[U(Sₙ)]
Т.е. существует пространство состояний S, стратегия π и функция полезности U. Можно сделать поиск чудовищно сложным, добавить память, инструменты, веб, симуляторы, RL, эволюцию кода и сто агентов, спорящих друг с другом. Но если Q, U и правила перехода T заданы, вся автономная наука остаётся игрой внутри заранее учреждённой игры.
Моделька может генерировать fₙ₊₁ = M(fₙ), затем оставить новую программу, если g(fₙ₊₁) > g(fₙ). Она может найти решение, которого не видел ни один человек. Но попробуйте задать ей более неприятный вопрос: а почему именно g должна быть нашей функцией оценки? Что если оптимизируется не то? Что если само пространство H, в котором ищутся решения, концептуально ошибочно? Что если лучший результат это не максимум g, а открытие того, что g вообще не имеет смысла?
Алгоритм может искать лучший ход внутри игры. Опытный исследователь способен сказать: мы вообще играем не в ту игру. В математической форме обычный агент оптимизирует π при фиксированных (S,Q,T,U); исследователь способен поставить под вопрос сами Q, T и U:
(S,Q,T,U) → (S',Q',T',U').
Это уже изменение условий, относительно которых оптимизация вообще имеет смысл. Здесь хайдеггеровское "die Wissenschaft denkt nicht" внезапно звучит почти как технический диагноз. Наука может быть невероятно рациональной, строгой и продуктивной, и всё же оставаться methodos: движением по уже проложенному пути. Нейронки идеально подходят для этого режима. Они ускоряют вычисление, перебор, доказательство, поиск, симуляцию и комбинирование. Они могут идти по дороге значительно быстрее человека. Однако мышление начинается там, где возникает вопрос к самой дороге.
Демократизация интеллекта в итоге оказывается довольно странным мероприятием: машина выдаёт каждому по бесконечному количеству ответов, а человек постепенно забывает, зачем вообще нужно было учиться задавать вопросы. Нет нейронки не делают людей тупыми (они не могут иметь то, что мы называем свободной или самостоятельно направляемой волей), скорее они делают тупость комфортной.
💊6
LogicalAnimals
Еще раз, почему нейронки это развлечение для быдла Научное исследование можно представить как вопросно-ответную игру. Есть информационное состояние S, множество допустимых вопросов Q и переход S → S' после получения ответа. Исследование здесь не просто накопление…
Дрейфус еще в 70-х, кажется, видел потенциал больших моделей, оговариваясь на тему того, что это может быть круто, но пока не хватает таких мощностей. Но он же и пишет, что концептуально это не может быть подспорьем для естественного стратегического мышления, которое помогает ученым и философам переворачивать игру, для того чтобы находить нетривиальные решения.
Но самое забавное, что он приходит к выводу о том, что успех т.н. "ИИ" будет зависеть не столько от вычислительных мощностей и элегантных архитектур, сколько от маркетинга, отупляющего человека до состояния слабоумных потребностей таких, которые может разрешить стероидное Т9. В общем говоря, современные ИИ это социология вытеснения разума из областей, которые не может переработать аппроксиматор, попытка создать удобных и неполноценно мыслящих людей. И бизнес идёт хорошо.
Но самое забавное, что он приходит к выводу о том, что успех т.н. "ИИ" будет зависеть не столько от вычислительных мощностей и элегантных архитектур, сколько от маркетинга, отупляющего человека до состояния слабоумных потребностей таких, которые может разрешить стероидное Т9. В общем говоря, современные ИИ это социология вытеснения разума из областей, которые не может переработать аппроксиматор, попытка создать удобных и неполноценно мыслящих людей. И бизнес идёт хорошо.
💊2