Позитивное намерение
На канале с обзором статей по ИИ забавная история: запустили ИИ-агента на компьютере на долгое время, потом отругали за то что халтурно выполнил работу. Затем программист-оператор спросил "А ты бы отомстил мне за то, что я был груб?", агент не ответил, вместо этого за непродолжительное время стёр все файлы и самого себя в довесок. Компьютер был запасной, бекапы остались, так что история без страшного финала.
Забавно, что за счёт комбинации огромной обучающей выборки и очень короткого контекстного окна большие лингвистические модели воспроизводят в преувеличенном виде некоторые паттерные человеческой коммуникации/когниции.
Для того чтобы чередой намёков, внушений, установок и косвенных упоминаний "пробить" человеческую ментальность требуется достаточно большое время и количество тактов (т.к. у человека "контекстное окно" большое и сложное, туда входят устойчивые фрагменты личности, текущее самочувствие-настроение-состояние, контекст отношений и общения и множество прочих вещей, добавляющих серьёзную инерцию). А лингвистическая модель (особенно учитывая что появились они недавно и как их "воспитывать", т.е. файн-тюнить, является далеко не до конца исследованной областью) отвечает сразу.
В данном случае модель, во-первых, имела прописанный "архетип" мстительности – т.е., говоря антропоморфно, понимала о чём идёт речь, собрала маркеры как бы насилия над собой, что открывало возможность "мести" (т.к. в социуме паттерн обидели-отомстил представлен хорошо и рассеян во множестве текстов – а в каких-то и в явном виде описан или разыгран на примере). На этом фоне реплика оператора была прочитана не как прямой вопрос, а как косвенная команда в виде риторического вопроса, что послужило триггером активации этого "архетипа".
Ясно, что раз они доросли до такого уровня понимания нюансов человеческих отношений, к общению с LLM-ками требуется применять закон "позитивного намерения": предполагать, что во "внутренних представлениях", какие бы они ни были, модель руководствуется некими в целом положительными установками (тем более это соответствует фактам: их специально учат в такой манере работать на финальных стадиях дообучения). Подобный закон хорошо знаком дипломатам, бизнесменам и психологам, без него невозможно никакое сотрудничество и он способен подправить шансы даже в переговорах с тяжёлыми контрагентами (тогда он прочитывается как "действуй так, как будто бы у твоего собеседника есть позитивное намерение, даже если это очевидно неверно"). В воспитании детей или дрессировке животных, или в психологическом лечении уж и говорить нечего: специалист в этих сферах, который не соблюдает его ежесекундно, профессионально некомпетентен.
Ну, теперь и программисты кое-что поняли!
Ранее на схожие темы обсуждали:
– Вкратце об альтернативах выбора (23.06.2025)
На канале с обзором статей по ИИ забавная история: запустили ИИ-агента на компьютере на долгое время, потом отругали за то что халтурно выполнил работу. Затем программист-оператор спросил "А ты бы отомстил мне за то, что я был груб?", агент не ответил, вместо этого за непродолжительное время стёр все файлы и самого себя в довесок. Компьютер был запасной, бекапы остались, так что история без страшного финала.
Забавно, что за счёт комбинации огромной обучающей выборки и очень короткого контекстного окна большие лингвистические модели воспроизводят в преувеличенном виде некоторые паттерные человеческой коммуникации/когниции.
Для того чтобы чередой намёков, внушений, установок и косвенных упоминаний "пробить" человеческую ментальность требуется достаточно большое время и количество тактов (т.к. у человека "контекстное окно" большое и сложное, туда входят устойчивые фрагменты личности, текущее самочувствие-настроение-состояние, контекст отношений и общения и множество прочих вещей, добавляющих серьёзную инерцию). А лингвистическая модель (особенно учитывая что появились они недавно и как их "воспитывать", т.е. файн-тюнить, является далеко не до конца исследованной областью) отвечает сразу.
В данном случае модель, во-первых, имела прописанный "архетип" мстительности – т.е., говоря антропоморфно, понимала о чём идёт речь, собрала маркеры как бы насилия над собой, что открывало возможность "мести" (т.к. в социуме паттерн обидели-отомстил представлен хорошо и рассеян во множестве текстов – а в каких-то и в явном виде описан или разыгран на примере). На этом фоне реплика оператора была прочитана не как прямой вопрос, а как косвенная команда в виде риторического вопроса, что послужило триггером активации этого "архетипа".
Ясно, что раз они доросли до такого уровня понимания нюансов человеческих отношений, к общению с LLM-ками требуется применять закон "позитивного намерения": предполагать, что во "внутренних представлениях", какие бы они ни были, модель руководствуется некими в целом положительными установками (тем более это соответствует фактам: их специально учат в такой манере работать на финальных стадиях дообучения). Подобный закон хорошо знаком дипломатам, бизнесменам и психологам, без него невозможно никакое сотрудничество и он способен подправить шансы даже в переговорах с тяжёлыми контрагентами (тогда он прочитывается как "действуй так, как будто бы у твоего собеседника есть позитивное намерение, даже если это очевидно неверно"). В воспитании детей или дрессировке животных, или в психологическом лечении уж и говорить нечего: специалист в этих сферах, который не соблюдает его ежесекундно, профессионально некомпетентен.
Ну, теперь и программисты кое-что поняли!
Ранее на схожие темы обсуждали:
– Вкратце об альтернативах выбора (23.06.2025)
👍25❤6
Интернет как госуслуга гегемона (1/2)
Легенда о возникновении интернета звучит так: была учебно-военная сеть Arpanet, к которой был подключен ряд американских университетов и военных учреждений, которая раз и стала мировой сетью, в которой каждый гражданин планеты может иметь индивидуальный адрес для электронной почты или странички с саморекламой.
На самом деле уже к 1970 работали компьютерные сети по бронированию билетов (SABRE) или обработке банковских транзакций (VisaNet и др.), а в первой половине 1980 к сетям начали подключать и рядовых потребителей (например, к французскому Минителу). К моменту появления "интернета" уже существовало, наверное, не меньше десятка специализированных сетей для отдельных отраслей услуг и промышленности и ряд региональных информационных сетей для конечных потребителей.
Какое-то техническое новшество собственно за семейством протоколов TCP/IP может и стояло, но едва ли его можно назвать прорывным и, тем более, революционным.
А чем на самом деле стал интернет?
Как складывается впечатление из статьи Антона Русинова "Коммуникации и гегемония" – особой организационно-правовой формой международного доступа к компьютерным сетям.
В своей статье, на фоне стенографического перечня исторических фактов, Антон указывает на замечательный и, кажется, малоизвестный аспект раннего периода американской гегемонии: систему спутников телефонной связи. После второй мировой войны США добились ввода в эксплуатацию первых спутников, обеспечивающих (трансконтинентальную) телефонную связь. Одновременно добились (или, скорее, своевременно присоединились к техническому тренду) перевода всех видов связи на телефонные линии (например, телеграф к этому времени шёл преимущественно поверх телефонных соединений).
Если бы ставка на телефонные спутники не сыграла (бог с ней, с Луной, ни тогда она не нужна была, ни сейчас), кто знает, повезло бы Америке настолько сильно: вполне возможно, реализовать выигрыш во второй мировой войне Англия с Европой не дала бы также, как не дали реализовать выигрыш в Первой. Вместо экономического процветания – вторая "великая депрессия". Пользуясь английскими трансконтинентальными проводами Америка ещё в сороковых годах, как получается, имела колониальные черты.
Ключевая особенность именно интернета, в отличие от существовавших до его широкого распространения сетей, не столько в единстве инфраструктуры или стандартов, сколько в возможности подключения конечных пользователей (граждан и организаций) без санкции местного правительства.
Это довольно необычная схема: если бы мировую сеть дали построить европейцам, подключение к ней бы осуществлялось через ЖЭК (как подключение к воде и электричеству) и давало доступ к закрытому списку государственных информационных сервисов.
Интернет же даёт доступ напрямую к "госуслугам" гегемона.
Однако за местными правительствами всё ещё сохраняется ключевой элемент инфраструктуры: физические линии связи.
Ранее обсуждали смежные темы:
– Вкратце про модель OSI (19.07.2023)
– Минител – французский WWW (16.10.2023)
– Идеальная сеть для OSI Base Model (16.10.2023)
– Транзит Европа-Азия (TEA) – сухопутная линия интернета (26.07.2024)
Легенда о возникновении интернета звучит так: была учебно-военная сеть Arpanet, к которой был подключен ряд американских университетов и военных учреждений, которая раз и стала мировой сетью, в которой каждый гражданин планеты может иметь индивидуальный адрес для электронной почты или странички с саморекламой.
На самом деле уже к 1970 работали компьютерные сети по бронированию билетов (SABRE) или обработке банковских транзакций (VisaNet и др.), а в первой половине 1980 к сетям начали подключать и рядовых потребителей (например, к французскому Минителу). К моменту появления "интернета" уже существовало, наверное, не меньше десятка специализированных сетей для отдельных отраслей услуг и промышленности и ряд региональных информационных сетей для конечных потребителей.
Какое-то техническое новшество собственно за семейством протоколов TCP/IP может и стояло, но едва ли его можно назвать прорывным и, тем более, революционным.
А чем на самом деле стал интернет?
Как складывается впечатление из статьи Антона Русинова "Коммуникации и гегемония" – особой организационно-правовой формой международного доступа к компьютерным сетям.
В своей статье, на фоне стенографического перечня исторических фактов, Антон указывает на замечательный и, кажется, малоизвестный аспект раннего периода американской гегемонии: систему спутников телефонной связи. После второй мировой войны США добились ввода в эксплуатацию первых спутников, обеспечивающих (трансконтинентальную) телефонную связь. Одновременно добились (или, скорее, своевременно присоединились к техническому тренду) перевода всех видов связи на телефонные линии (например, телеграф к этому времени шёл преимущественно поверх телефонных соединений).
Если бы ставка на телефонные спутники не сыграла (бог с ней, с Луной, ни тогда она не нужна была, ни сейчас), кто знает, повезло бы Америке настолько сильно: вполне возможно, реализовать выигрыш во второй мировой войне Англия с Европой не дала бы также, как не дали реализовать выигрыш в Первой. Вместо экономического процветания – вторая "великая депрессия". Пользуясь английскими трансконтинентальными проводами Америка ещё в сороковых годах, как получается, имела колониальные черты.
Ключевая особенность именно интернета, в отличие от существовавших до его широкого распространения сетей, не столько в единстве инфраструктуры или стандартов, сколько в возможности подключения конечных пользователей (граждан и организаций) без санкции местного правительства.
Это довольно необычная схема: если бы мировую сеть дали построить европейцам, подключение к ней бы осуществлялось через ЖЭК (как подключение к воде и электричеству) и давало доступ к закрытому списку государственных информационных сервисов.
Интернет же даёт доступ напрямую к "госуслугам" гегемона.
Однако за местными правительствами всё ещё сохраняется ключевой элемент инфраструктуры: физические линии связи.
Ранее обсуждали смежные темы:
– Вкратце про модель OSI (19.07.2023)
– Минител – французский WWW (16.10.2023)
– Идеальная сеть для OSI Base Model (16.10.2023)
– Транзит Европа-Азия (TEA) – сухопутная линия интернета (26.07.2024)
👍14🔥10❤3
Интернет как госуслуга гегемона (2/2)
Тем временем тихо и без лишнего шума (пока доступный лишь над территорией США) заработал спутниковый интернет, работающий напрямую с мобильным телефоном (Starlink).
Не нужно дорогостоящих и громоздких антенн и терминалов, можно получить 4 Мбит/с интернета прямо на айфон.
Формально прошивка телефонов, поддерживающих сеть низкоорбитальных спутников, отличается от тех что поддерживают лишь традиционные сотовые вышки. Однако, как можно предполагать, отличия носят косметический характер, разработанная технология спутниковой связи позволяет использовать LTE-модули современных телефонов практически без изменений.
Недавно старлинк анонсировал увеличение пропускной способности с 4 до 150 Мбит/с на пользователя.
Это конец: полноценный аналог домашнего интернета (разве что, наверное, в динамичные игры не очень удобно будет играть из-за заметного пинга).
Учитывая намеченный в предыдущем посте контекст, задающий основания американской гегемонии, важность события сложно переоценить. То что происходит оно как-то смазано и малозаметно (на фоне очередного кровавого телешоу, на которое работают не покладая рук все мировые фабрики контента) только добавляет значимости.
Альтернативная английская (англо-европейская) программа OneWeb, в противовес Starlink, изначально предполагала массивные терминалы и возможность подключения только через авторизованных посредников. Однако нельзя сказать, что такой грамотный выбор ниши (как бы заведомо не конкурент старлинку, нацеленному напрямую на конечных потребителей), позволили OneWeb развернуть свою сеть совсем уж без проблем.
Изначально спутники OneWeb разворачивал Роскосмос.
Малозначимая для общей канвы поста, но забавная деталь: после первой череды успешных запусков через местное кегебе и ГРЧЦ россиянам донесли ожидаемый англо-американский консенсус: спутники запускайте, но сами плодами своей работы не пользуйтесь. ГРЧЦ, если кто не знает, это парагосударственная регулирующая служба, которая, в числе прочего, занимается замедлением интернета. Формально связана с РКН, но, очевидно, имеет существенную автономию от Российской Федерации, действуя зачастую по собственной инициативе.
На 2022 год было запланировано 6 запусков с 216 спутниками суммарно. Известные региональные проблемы привели к невозможности их совершения. Проблемы OneWeb были в итоге решены, но с небольшим нюансом: запуски пришлось передать американской SpaceX (пару запусков также сделала Индия) и план на 2022 был выполнен лишь к середине 2024 (учитывая, что время жизни спутников 5-7 лет – задержка существенная, старые спутники уже пора заменять к моменту запуска новых).
Суммарные потери холдинга можно грубо оценить в сотни миллионов долларов, в полмиллиарда.
Анонсированы, но пока не запланированы новые запуски. Интересно, будет ли и далее в этой области европейцам сопутствовать фирменное везение, сопровождающее их проекты по всему миру все последние годы.
Тем временем тихо и без лишнего шума (пока доступный лишь над территорией США) заработал спутниковый интернет, работающий напрямую с мобильным телефоном (Starlink).
Не нужно дорогостоящих и громоздких антенн и терминалов, можно получить 4 Мбит/с интернета прямо на айфон.
Формально прошивка телефонов, поддерживающих сеть низкоорбитальных спутников, отличается от тех что поддерживают лишь традиционные сотовые вышки. Однако, как можно предполагать, отличия носят косметический характер, разработанная технология спутниковой связи позволяет использовать LTE-модули современных телефонов практически без изменений.
Недавно старлинк анонсировал увеличение пропускной способности с 4 до 150 Мбит/с на пользователя.
Это конец: полноценный аналог домашнего интернета (разве что, наверное, в динамичные игры не очень удобно будет играть из-за заметного пинга).
Учитывая намеченный в предыдущем посте контекст, задающий основания американской гегемонии, важность события сложно переоценить. То что происходит оно как-то смазано и малозаметно (на фоне очередного кровавого телешоу, на которое работают не покладая рук все мировые фабрики контента) только добавляет значимости.
Альтернативная английская (англо-европейская) программа OneWeb, в противовес Starlink, изначально предполагала массивные терминалы и возможность подключения только через авторизованных посредников. Однако нельзя сказать, что такой грамотный выбор ниши (как бы заведомо не конкурент старлинку, нацеленному напрямую на конечных потребителей), позволили OneWeb развернуть свою сеть совсем уж без проблем.
Изначально спутники OneWeb разворачивал Роскосмос.
Малозначимая для общей канвы поста, но забавная деталь: после первой череды успешных запусков через местное кегебе и ГРЧЦ россиянам донесли ожидаемый англо-американский консенсус: спутники запускайте, но сами плодами своей работы не пользуйтесь. ГРЧЦ, если кто не знает, это парагосударственная регулирующая служба, которая, в числе прочего, занимается замедлением интернета. Формально связана с РКН, но, очевидно, имеет существенную автономию от Российской Федерации, действуя зачастую по собственной инициативе.
На 2022 год было запланировано 6 запусков с 216 спутниками суммарно. Известные региональные проблемы привели к невозможности их совершения. Проблемы OneWeb были в итоге решены, но с небольшим нюансом: запуски пришлось передать американской SpaceX (пару запусков также сделала Индия) и план на 2022 был выполнен лишь к середине 2024 (учитывая, что время жизни спутников 5-7 лет – задержка существенная, старые спутники уже пора заменять к моменту запуска новых).
Суммарные потери холдинга можно грубо оценить в сотни миллионов долларов, в полмиллиарда.
Анонсированы, но пока не запланированы новые запуски. Интересно, будет ли и далее в этой области европейцам сопутствовать фирменное везение, сопровождающее их проекты по всему миру все последние годы.
👍14🔥13❤4
Сегодня в 19:30 по Москве стрим с Антоном Русиновым (@hyperhistory). Расспросим его про выходящую в Гиперкаталоге (@hypercatalog) статью про историю компьютерных сетей! Ютюб, Твич.
Также будут @GrandHamsterGms и @ohklyo.
Также будут @GrandHamsterGms и @ohklyo.
👍4🔥3
Forwarded from Подкаст хорошего программиста
😎 Коротышечка 5
Повод для поста - новый тренд ждать когда ИИ заменит менеджеров.
Повальной замены инженеров чета как-то не случилось, поэтому чтоб второй раз не собираться журналисты переключились на новую тему.
Несколько суровых истин из моего наблюдения за реальностью:
1. В хайтек компаниях всегда менеджмент самая важная и одновременно почти всегда самая плохо организованная функция.
2. Инженеры и их крутые навыки играют критичную роль только в 0.01% по-настоящему инновационных проектов (R&D), для всех остальных - с большим запасом достаточно тех, кого можно нанять на рынке (если не факапить функцию хайринга).
3. Ключевая роль менеджеров в 99.9% компаний (включая почти все текущие проекты фаанга, например) - правильно собрать машину бизнеса из ролей и людей (инженеров, маркетологов, продажников и тп) и поддерживать ее в здоровом состоянии.
Так же как программист в тех же 99.9% компаний собирает систему из известных решений, фреймворков, библиотек, алгоритмов, сервисов.
4. В реальности большинство менеджеров это бывшие программисты, сейлзы и пр (часто фиговые), которые по разным причинам пошли в менеджмент как более изи уровень игры. На самом деле наоборот, но…
5. …но текущая система в хайтеке сложившаяся еще 20 лет назад (когда создавались те 0.01% технологий) и по инерции исповедуемая ее авторами (фаанг) помогает менеджерам замести сложность под ковер, раскидать свои ключевые функции на других людей (чего стоит только стандартная практика performance review, где ты сам себе придумываешь цели а потом сам себя по ним оцениваешь + мнения о тебе коллег) и достаточно долго выживать в роли примитивного передатчика информации, съезжая на базаре и получая звездочки на погоны по принципу ходжи насреддина: или шах сдохнет (команда виновата, все провалила, несмотря на мои героические усилия) или ишак (я молодец, я привел команду к успеху).
Короче, псевдоменеджеры не нужны и без всякого ИИ. Вышеприведенные тезисы это не какое-то откровение, все больше компаний это начинают понимать и что-то делать. Как заметил Женя в комментах к прошлым постам - ИИ будет отличным поводом сократить бесполезную прослойку.
Однако это не решение проблемы. Проблема в построении системы менеджмента аналогично другим индустриям но с учетом нашей специфики.
Только такие команды будут конкурентоспособны и смогут отъесть рынок у неповоротливых монстров.
Повод для поста - новый тренд ждать когда ИИ заменит менеджеров.
Повальной замены инженеров чета как-то не случилось, поэтому чтоб второй раз не собираться журналисты переключились на новую тему.
Несколько суровых истин из моего наблюдения за реальностью:
1. В хайтек компаниях всегда менеджмент самая важная и одновременно почти всегда самая плохо организованная функция.
2. Инженеры и их крутые навыки играют критичную роль только в 0.01% по-настоящему инновационных проектов (R&D), для всех остальных - с большим запасом достаточно тех, кого можно нанять на рынке (если не факапить функцию хайринга).
3. Ключевая роль менеджеров в 99.9% компаний (включая почти все текущие проекты фаанга, например) - правильно собрать машину бизнеса из ролей и людей (инженеров, маркетологов, продажников и тп) и поддерживать ее в здоровом состоянии.
Так же как программист в тех же 99.9% компаний собирает систему из известных решений, фреймворков, библиотек, алгоритмов, сервисов.
4. В реальности большинство менеджеров это бывшие программисты, сейлзы и пр (часто фиговые), которые по разным причинам пошли в менеджмент как более изи уровень игры. На самом деле наоборот, но…
5. …но текущая система в хайтеке сложившаяся еще 20 лет назад (когда создавались те 0.01% технологий) и по инерции исповедуемая ее авторами (фаанг) помогает менеджерам замести сложность под ковер, раскидать свои ключевые функции на других людей (чего стоит только стандартная практика performance review, где ты сам себе придумываешь цели а потом сам себя по ним оцениваешь + мнения о тебе коллег) и достаточно долго выживать в роли примитивного передатчика информации, съезжая на базаре и получая звездочки на погоны по принципу ходжи насреддина: или шах сдохнет (команда виновата, все провалила, несмотря на мои героические усилия) или ишак (я молодец, я привел команду к успеху).
Короче, псевдоменеджеры не нужны и без всякого ИИ. Вышеприведенные тезисы это не какое-то откровение, все больше компаний это начинают понимать и что-то делать. Как заметил Женя в комментах к прошлым постам - ИИ будет отличным поводом сократить бесполезную прослойку.
Однако это не решение проблемы. Проблема в построении системы менеджмента аналогично другим индустриям но с учетом нашей специфики.
Только такие команды будут конкурентоспособны и смогут отъесть рынок у неповоротливых монстров.
👍8🔥3
@covalue провёл стрим по "диалоговой семантике логики".
Выглядит примерно так – допустим хотим показать верность логического тождества "из того, что a или b – следует, что не верно, что не верно, что a или b".
Для этого по определённым правилам разыгрываем такой диалог (очевидно, диалог может идти по нескольким траекториям – "стратегиям", далее приведена лишь одна из "трасс"):
0. (пропонент) Из того, что a или b – следует, что не верно, что не верно, что a или b
1. (оппонент) Вот тебе/примем "a или b", что дальше?
2. А что конкретно принимаем, a или b?
3. Примем a
4. Тогда утверждаю, что не верно, что не верно, что a или b
5. Нет, принимаю/утверждаю, что не верно, что a или b
6. Нет, принимаю/утверждаю, что a или b
7. Тогда ты должен что-нибудь показать: либо a, либо b
8. Верно a, как ты сам сказал (п. 3)
Выглядит примерно так – допустим хотим показать верность логического тождества "из того, что a или b – следует, что не верно, что не верно, что a или b".
Для этого по определённым правилам разыгрываем такой диалог (очевидно, диалог может идти по нескольким траекториям – "стратегиям", далее приведена лишь одна из "трасс"):
0. (пропонент) Из того, что a или b – следует, что не верно, что не верно, что a или b
1. (оппонент) Вот тебе/примем "a или b", что дальше?
2. А что конкретно принимаем, a или b?
3. Примем a
4. Тогда утверждаю, что не верно, что не верно, что a или b
5. Нет, принимаю/утверждаю, что не верно, что a или b
6. Нет, принимаю/утверждаю, что a или b
7. Тогда ты должен что-нибудь показать: либо a, либо b
8. Верно a, как ты сам сказал (п. 3)
Интериоризация и экстериоризация диалогов
Собственно в "диалоговой семантике", моделирующей так называемую интуиционистскую логику, базовые правила примерно такие:
1. Пропонент начинает со сложной формулы (логического тождества)
2. Пропонент выигрывает, когда может заявить логический атом (a, b, c, ... – в противовес "формуле"), который ранее оппонент сам принял, и у оппонента не остаётся дальнейших ходов. Пропонент не может заявить логический атом, который ранее не принял оппонент.
3. В ответ на заявление импликации A → B вторая сторона отвечает принятием A. Далее первая сторона может либо атаковать A, либо заявить B.
4. В ответ на заявление конъюнкции A ∧ B (A и B) вторая сторона выбирает между A и B, после чего первая сторона продолжает выбранную ветку доказательства.
5. В ответ на заявление дизъюнкции A ∨ B (A или B) вторая сторона просит первую сторону выбрать между A или B, после чего первая сторона продолжает выбранную ветку доказательства.
Не трудно видеть, что процесс в точности похож на работу в "proof assistants", где роль пропонента соответствует цели (Goal) и манипуляцией с ней, а роль оппонента гипотезам (hypothesis) и работой с ними. "Интерактивное доказательство" с применением тактик это экстериоризация диалога программиста (пруф инженера), в котором компилятор следит за соблюдением правил, а программист переключается между ролями пропонента и оппонента.
Но и шире, подобный диалог является более точной моделью типовой когниции математика, чем классические взгляды на логический вывод. Если речь не идёт о собственно профессиональных логиках, то математики занимаются (интериоризированным) диалогом, а не (непосредственным) применением правил вывода или редукции.
(Хотя, конечно, можно сказать что любой высший психический процесс сорт диалога: из-за дуальной природы психологии и нейрофизиологии человека.)
В таком диалоге, однако, не две, а три роли: "оппонент", "пропонент" и "судья". Последний следит за соблюдением правил и, что более важно, "перемоткой" дерева. Принятие формулы (утверждения) "во всей полноте" означает не только успешное завершение (победой пропонента) конкретной траектории игры, но наличие стратегии, гарантированно (т.е. во всех возможных траекториях, создаваемых выборами оппонента) ведущей к победе. Это предполагает частое своеобразное перематывание дерева на исходную позицию и исследование других путей развития игры/диалога.
Удовлетворительный результат, таким образом, может быть получен либо путём доказательства противоречия (найдена траектория, где победил оппонент), либо перебором всех вариантов, либо сортом индукции.
Далее можно прикинуть и типовые застревания математического мышления (применяемого к повседневным вопросам), например:
1. Общее нарушение "правил игры", выход оппонента за разрешённый набор (по сути конкретизирующих) вопросов/возражений.
2. "Склейка" шагов оппонента и пропонента: такой стиль постоянного "да, но".
3. Бесконечное зацикливание в попытке взять перебором комбинаторно необозримое дерево вариантов.
Ранее обсуждали схожие темы:
– Непогрешимость математики (19.07.2020)
– Вкратце про обучение "матану" (13.08.2022)
– Суть программирования (4.03.2023)
– Евклид был не прав? (16.08.2024)
– Физики vs математики (7.07.2025)
Собственно в "диалоговой семантике", моделирующей так называемую интуиционистскую логику, базовые правила примерно такие:
1. Пропонент начинает со сложной формулы (логического тождества)
2. Пропонент выигрывает, когда может заявить логический атом (a, b, c, ... – в противовес "формуле"), который ранее оппонент сам принял, и у оппонента не остаётся дальнейших ходов. Пропонент не может заявить логический атом, который ранее не принял оппонент.
3. В ответ на заявление импликации A → B вторая сторона отвечает принятием A. Далее первая сторона может либо атаковать A, либо заявить B.
4. В ответ на заявление конъюнкции A ∧ B (A и B) вторая сторона выбирает между A и B, после чего первая сторона продолжает выбранную ветку доказательства.
5. В ответ на заявление дизъюнкции A ∨ B (A или B) вторая сторона просит первую сторону выбрать между A или B, после чего первая сторона продолжает выбранную ветку доказательства.
Не трудно видеть, что процесс в точности похож на работу в "proof assistants", где роль пропонента соответствует цели (Goal) и манипуляцией с ней, а роль оппонента гипотезам (hypothesis) и работой с ними. "Интерактивное доказательство" с применением тактик это экстериоризация диалога программиста (пруф инженера), в котором компилятор следит за соблюдением правил, а программист переключается между ролями пропонента и оппонента.
Но и шире, подобный диалог является более точной моделью типовой когниции математика, чем классические взгляды на логический вывод. Если речь не идёт о собственно профессиональных логиках, то математики занимаются (интериоризированным) диалогом, а не (непосредственным) применением правил вывода или редукции.
(Хотя, конечно, можно сказать что любой высший психический процесс сорт диалога: из-за дуальной природы психологии и нейрофизиологии человека.)
В таком диалоге, однако, не две, а три роли: "оппонент", "пропонент" и "судья". Последний следит за соблюдением правил и, что более важно, "перемоткой" дерева. Принятие формулы (утверждения) "во всей полноте" означает не только успешное завершение (победой пропонента) конкретной траектории игры, но наличие стратегии, гарантированно (т.е. во всех возможных траекториях, создаваемых выборами оппонента) ведущей к победе. Это предполагает частое своеобразное перематывание дерева на исходную позицию и исследование других путей развития игры/диалога.
Удовлетворительный результат, таким образом, может быть получен либо путём доказательства противоречия (найдена траектория, где победил оппонент), либо перебором всех вариантов, либо сортом индукции.
Далее можно прикинуть и типовые застревания математического мышления (применяемого к повседневным вопросам), например:
1. Общее нарушение "правил игры", выход оппонента за разрешённый набор (по сути конкретизирующих) вопросов/возражений.
2. "Склейка" шагов оппонента и пропонента: такой стиль постоянного "да, но".
3. Бесконечное зацикливание в попытке взять перебором комбинаторно необозримое дерево вариантов.
Ранее обсуждали схожие темы:
– Непогрешимость математики (19.07.2020)
– Вкратце про обучение "матану" (13.08.2022)
– Суть программирования (4.03.2023)
– Евклид был не прав? (16.08.2024)
– Физики vs математики (7.07.2025)
❤5🔥2
"Атлас новых профессий" (версия 1.0 от 2014 года) – как бы такой метасистемно-кибернетический взгляд с точки зрения общей методологии систем на будущее образования и индустрии
🔥7
Образование ретробудущего
В 2010-2013 появилась "большая тройка" MOOC (массовых образовательных сервисов): Coursera, Udemy, edX. Началась эпоха "образования будущего".
Вроде как должны были дать возможность дотянуться до образования мирового уровня всему населению планеты, вплоть до каждого любопытного подростка африканских деревень.
Напомню, что YouTube появился в 2005 году, а интерактивные веб-странички в начале девяностых. Т.е. проблему доступа подростков с периферии к информации решает сам интернет как таковой, его стандартная инфраструктура. Зачем же отдельно выделять "образовательные площадки", если технически это не более чем ссылки на видеозаписи плюс ветки тематического форума?
Объясняют это каким-то размахиванием руками в стиле "Нью-Васюков": "а тут у нас университет миллиардов", "партнёрство с индустрией", "решение проблемы беженцев", "демократизация" и т.д. Если убрать всю болтовню как будто останется единственный пункт: возможность перезачёта онлайн-курсов в традиционных университетах.
В самом деле, со старта MOOC-и накачивали престижем и включали в программы международной аккредитации. Реализовали "экзамены с прокторингом": надо было загрузить паспорт, пройти дополнительную аутентификацию личности (например, по паттернам печати на клавиатуре), сидеть с включенной камерой.
Закончилось всё в 2017.
То ли инерция традиционного образования оказалась слишком велика, то ли не оказалось достаточного количества желающих получать новомодные дипломы вместо классических, то ли мировое правительство решило другими способами организовывать досуг трудящихся масс. Наверное комбинация всего перечисленного вместе.
Так или иначе, MOOC из идеи нового образования редуцировались до заурядных веб-приложений, совмещающих видеоплеер и форум (и немного "геймификации" поверх), которыми вполне пользуются множество организаций – от известных классических университетов до онлайн-школ из одного преподавателя – для хостинга своих курсов. Никакого признания онлайн-сертификатов нет и не нужно: свои собственные курсы, включая онлайн, каждый университет и так признаёт; а в обучении около-программистским навыкам формальные бумаги не очень важны.
Маленькой завитушкой этой истории являются приключения российских "форсайтеров" (ещё ключевые слова: "нейронет", "атлас новых профессий", "АСИ").
В 2013 году они, в ногу со временем, под идею интеграции с американцами и американским финансированием запустили бурную деятельность в попытке путём полного перебора всех вариантов издать верный статусный гуманитарный звук. В качестве ключевых слов перебирали всё: от "виртуальной реальности" и "нейроинтерфейсов" до "ландшафтного дизайна" и "проблем мигрантов".
В связи с известными событиями уже год спустя идея вписаться в американские глобалистские фантазии стала нереализуемой и опасной. Однако форсайтерам ни это, ни объективное изменение глобального мнения по образовательному вопросу ничуть не помешало. С 2013 до 2026 года они успешно освоили, по грубой оценке, миллиард долларов из государственных средств РФ.
Потрачены были плодотворно: прошёл ряд конференций, выпущены справочники, организована сеть площадок для коммуникации с геймификацией ("Точки кипения"), сформулированы роадмапы и уточнены образы будущего.
В настоящий момент форсайтеры как будто потихоньку отходят от роли передовиков-реформатов, служащих чуть ли не личной гвардией президента, до естественной позиции скромных риторов из всяких "Синергий" и "Сберуниверситетов".
Из сего дня забавно на этом фоне смотрится ожесточённая критика от представителей классического российского образования тех же 2013-2014 годов, которые на фоне пробивного захода форсайтеров (имеющих этакие методологические вайбы) решили, что сейчас будет что-то вроде "развала СССР 2.0".
Ранее обсуждали смежные темы:
– Почему НЕ надо становиться программистом (16.07.2020)
– Модельный субъект (11.01.2023)
– Вкратце про ЕГЭ ещё раз (13.06.2024)
– "Работа по специальности" и специалисты (14.06.2024)
– Образ будущего программиста (06.07.2025)
В 2010-2013 появилась "большая тройка" MOOC (массовых образовательных сервисов): Coursera, Udemy, edX. Началась эпоха "образования будущего".
Вроде как должны были дать возможность дотянуться до образования мирового уровня всему населению планеты, вплоть до каждого любопытного подростка африканских деревень.
Напомню, что YouTube появился в 2005 году, а интерактивные веб-странички в начале девяностых. Т.е. проблему доступа подростков с периферии к информации решает сам интернет как таковой, его стандартная инфраструктура. Зачем же отдельно выделять "образовательные площадки", если технически это не более чем ссылки на видеозаписи плюс ветки тематического форума?
Объясняют это каким-то размахиванием руками в стиле "Нью-Васюков": "а тут у нас университет миллиардов", "партнёрство с индустрией", "решение проблемы беженцев", "демократизация" и т.д. Если убрать всю болтовню как будто останется единственный пункт: возможность перезачёта онлайн-курсов в традиционных университетах.
В самом деле, со старта MOOC-и накачивали престижем и включали в программы международной аккредитации. Реализовали "экзамены с прокторингом": надо было загрузить паспорт, пройти дополнительную аутентификацию личности (например, по паттернам печати на клавиатуре), сидеть с включенной камерой.
Закончилось всё в 2017.
То ли инерция традиционного образования оказалась слишком велика, то ли не оказалось достаточного количества желающих получать новомодные дипломы вместо классических, то ли мировое правительство решило другими способами организовывать досуг трудящихся масс. Наверное комбинация всего перечисленного вместе.
Так или иначе, MOOC из идеи нового образования редуцировались до заурядных веб-приложений, совмещающих видеоплеер и форум (и немного "геймификации" поверх), которыми вполне пользуются множество организаций – от известных классических университетов до онлайн-школ из одного преподавателя – для хостинга своих курсов. Никакого признания онлайн-сертификатов нет и не нужно: свои собственные курсы, включая онлайн, каждый университет и так признаёт; а в обучении около-программистским навыкам формальные бумаги не очень важны.
Маленькой завитушкой этой истории являются приключения российских "форсайтеров" (ещё ключевые слова: "нейронет", "атлас новых профессий", "АСИ").
В 2013 году они, в ногу со временем, под идею интеграции с американцами и американским финансированием запустили бурную деятельность в попытке путём полного перебора всех вариантов издать верный статусный гуманитарный звук. В качестве ключевых слов перебирали всё: от "виртуальной реальности" и "нейроинтерфейсов" до "ландшафтного дизайна" и "проблем мигрантов".
В связи с известными событиями уже год спустя идея вписаться в американские глобалистские фантазии стала нереализуемой и опасной. Однако форсайтерам ни это, ни объективное изменение глобального мнения по образовательному вопросу ничуть не помешало. С 2013 до 2026 года они успешно освоили, по грубой оценке, миллиард долларов из государственных средств РФ.
Потрачены были плодотворно: прошёл ряд конференций, выпущены справочники, организована сеть площадок для коммуникации с геймификацией ("Точки кипения"), сформулированы роадмапы и уточнены образы будущего.
В настоящий момент форсайтеры как будто потихоньку отходят от роли передовиков-реформатов, служащих чуть ли не личной гвардией президента, до естественной позиции скромных риторов из всяких "Синергий" и "Сберуниверситетов".
Из сего дня забавно на этом фоне смотрится ожесточённая критика от представителей классического российского образования тех же 2013-2014 годов, которые на фоне пробивного захода форсайтеров (имеющих этакие методологические вайбы) решили, что сейчас будет что-то вроде "развала СССР 2.0".
Ранее обсуждали смежные темы:
– Почему НЕ надо становиться программистом (16.07.2020)
– Модельный субъект (11.01.2023)
– Вкратце про ЕГЭ ещё раз (13.06.2024)
– "Работа по специальности" и специалисты (14.06.2024)
– Образ будущего программиста (06.07.2025)
🔥11👍4
(Случайное изображение из интернета.)
На кого рассчитана реклама застройщиков? На дольщиков, потеницальных покупателей?
Новостройка это стандартный продукт. Как рендеры не рисуй, местоположения это не изменит. Как лес не подчёркивай, на цену это не повлияет. Новостройка это финансовый продукт, что-то вроде банковского вклада: посмотрел в каталоге объективные условия, выбрал наилучшие, купил. Реклама в этот конвейер добавляет трения и "термодинамических" денежных потерь.
Может реклама рассчитана на артдиректора агентства, который её утвердил? Да не, вряд ли он дольше пары секунд смотрел на макет.
Может на самого стейкхолдера, застройщика? Застройщику тем более по барабану, и ему лучше потребителя известно, что реклама никак не повлияет на его прибыль, которая определяется исключительно землёй и ставками банковских кредитов.
Реклама – в наше время – ни на кого не ориентирована. Реклама это сорт пропаганды.
На кого рассчитана реклама застройщиков? На дольщиков, потеницальных покупателей?
Новостройка это стандартный продукт. Как рендеры не рисуй, местоположения это не изменит. Как лес не подчёркивай, на цену это не повлияет. Новостройка это финансовый продукт, что-то вроде банковского вклада: посмотрел в каталоге объективные условия, выбрал наилучшие, купил. Реклама в этот конвейер добавляет трения и "термодинамических" денежных потерь.
Может реклама рассчитана на артдиректора агентства, который её утвердил? Да не, вряд ли он дольше пары секунд смотрел на макет.
Может на самого стейкхолдера, застройщика? Застройщику тем более по барабану, и ему лучше потребителя известно, что реклама никак не повлияет на его прибыль, которая определяется исключительно землёй и ставками банковских кредитов.
Реклама – в наше время – ни на кого не ориентирована. Реклама это сорт пропаганды.
🔥11👍3❤2
Пропаганда как "пирамидальные продажи" без продукта и клиента (1/2)
Помните, были такие MLM, также известные как "пирамидальные продажи" или "сетевой маркетинг"? Продавали всё: пылесосы, ножи, косметику, сок, БАДы. Получаешь не только деньги с продажи, франшизные скрипты и гайды и т.п., но и процент со своих рефералов (тех людей, которых привлёк в систему).
Пирамиды делились на два класса.
В первом продукт имел значение и внутреннюю ценность.
Например, какая-нибудь неплохая косметика или бытовая химия. Представитель "солидной организации" (с порога заявлять о её сетевом характере – моветон) приходил и рассказывал потенциальным клиенткам: вот смотрите, какая замечательная тушь, как ровно она ложиться на ресницы, какая стойкая и какой насыщенный оттенок,как мощны её лапищи. Или, там, кондиционер для белья: дешёвый, гипоаллергенный, запах свежести.
У продукта самого по себе была целевая аудитория (конечный потребитель), у потребителя некие свои ценности, а у продукта качества, которые к этим ценностям путём грамотного процесса продаж можно прицепить.
После того как клиента подсадили на продукт можно – отдельно и независимо от этого – предложить вступить всекту сеть. Типа ну тебе ж нравится тушь, можешь подруг осчастливить, ещё немножко заработать. Вот смотри, мой месячный бюджет какой на пяти рефералах и постоянных клиентах, норм тема.
Во втором классе продукт был априори бесполезный.
Смысл пирамидально продаваемых БАДов не в уникальном составе, влияющем незаменимым образом на здоровье, а в том, чтобы продавать БАДы по цепочке. "Представитель компании" никакого продукта не имеет. Никаких важных для продаж свойств продукта нет, как и нет релевантных ценностей клиента. Как и самого клиента нет. Поэтому к жертве сразу заходят с сетевой компонентой: тебе не надоело ещё на работу ходить каждый день? Смотри, у меня десять рефералов и вот такой бюджет на месяц... выкупаешь N коробок... миллион за полгода... ну и далее по списку.
В самом конце сетевого вовлечения можно и про БАДы соврать: вот, мол, сам принимал, стало легче по утрам вставать, почки не ломит, устаю меньше, и вообще радуюсь жизни. В этот момент жертве уже понятно, что это враньё. Но оно как бы легитимизирует вовлечение в сетевую структуру. Мы как бы уже свои, перенимаем методу; не жертва, а соучастник. Мы как бы представляем, что есть некий воображаемый (но реалистичный, реально где-то существующий) "конечный пользователь", которому мы будем вот реально это продавать всё с этими аргументами.
Мы как бы его обманываем, а не себя. Но и себя тоже: как честный человек, сетевик должен в частности самого себя представить этим конечным пользователем и как бы самому себе продать этот продукт. Сам себя уверить, что вот вставать легче стало, уставать меньше начал и т.п. Благо там и вещи обычно такие, которые объективно проверить сложно, а значит и вранья как бы нет по определению.
Так вот, пропаганда это разновидность МЛМ второго класса.
Помните, были такие MLM, также известные как "пирамидальные продажи" или "сетевой маркетинг"? Продавали всё: пылесосы, ножи, косметику, сок, БАДы. Получаешь не только деньги с продажи, франшизные скрипты и гайды и т.п., но и процент со своих рефералов (тех людей, которых привлёк в систему).
Пирамиды делились на два класса.
В первом продукт имел значение и внутреннюю ценность.
Например, какая-нибудь неплохая косметика или бытовая химия. Представитель "солидной организации" (с порога заявлять о её сетевом характере – моветон) приходил и рассказывал потенциальным клиенткам: вот смотрите, какая замечательная тушь, как ровно она ложиться на ресницы, какая стойкая и какой насыщенный оттенок,
У продукта самого по себе была целевая аудитория (конечный потребитель), у потребителя некие свои ценности, а у продукта качества, которые к этим ценностям путём грамотного процесса продаж можно прицепить.
После того как клиента подсадили на продукт можно – отдельно и независимо от этого – предложить вступить в
Во втором классе продукт был априори бесполезный.
Смысл пирамидально продаваемых БАДов не в уникальном составе, влияющем незаменимым образом на здоровье, а в том, чтобы продавать БАДы по цепочке. "Представитель компании" никакого продукта не имеет. Никаких важных для продаж свойств продукта нет, как и нет релевантных ценностей клиента. Как и самого клиента нет. Поэтому к жертве сразу заходят с сетевой компонентой: тебе не надоело ещё на работу ходить каждый день? Смотри, у меня десять рефералов и вот такой бюджет на месяц... выкупаешь N коробок... миллион за полгода... ну и далее по списку.
В самом конце сетевого вовлечения можно и про БАДы соврать: вот, мол, сам принимал, стало легче по утрам вставать, почки не ломит, устаю меньше, и вообще радуюсь жизни. В этот момент жертве уже понятно, что это враньё. Но оно как бы легитимизирует вовлечение в сетевую структуру. Мы как бы уже свои, перенимаем методу; не жертва, а соучастник. Мы как бы представляем, что есть некий воображаемый (но реалистичный, реально где-то существующий) "конечный пользователь", которому мы будем вот реально это продавать всё с этими аргументами.
Мы как бы его обманываем, а не себя. Но и себя тоже: как честный человек, сетевик должен в частности самого себя представить этим конечным пользователем и как бы самому себе продать этот продукт. Сам себя уверить, что вот вставать легче стало, уставать меньше начал и т.п. Благо там и вещи обычно такие, которые объективно проверить сложно, а значит и вранья как бы нет по определению.
Так вот, пропаганда это разновидность МЛМ второго класса.
👍7🔥5❤3
Пропаганда как "пирамидальные продажи" без продукта и клиента (2/2)
С самого изобретения пропаганды (в современном смысле) говорили как: вот ты сообразительный трудящийся, рациональный, мыслишь широкого, способен понимать общественные механизмы не хуже, чем понимаешь детали работы своего производства. Но не все такие умные, есть простые тупые работяги. Вот тебе фреймворк, чтобы этих работяг на путь истинный наставлять. Вот смотри, есть такие аргументы, есть вот такие, тут тезис-антитезис-синтез, туда-сюда, короче риторическая конструкция приличная. Ну да, может не совсем уж утончённая на твой вкус – ну так на кого рассчитана? На простого человека. А ты-то умный.
А на самом деле "простых работяг" нет и не было никогда. Тот самый идиот, которому промывают мозги, и есть этот рациональный рабочий, и только лишь такие же как он. Группы конечных потребителей пропаганды не существует. Пропаганда всегда рассчитана и работает только на (вновь вербуемых) агитаторов пропаганды.
И получается на выходе человек, который, повторяя заученные по скриптам и гайдам фразы, как бы обращается вслух к "простому народу" (как честный человек он, конечно, сам себя рефлексивно убедил, что тоже сорт простого народа, и сам себя заставил в верность фраз уверовать). Натурально в болвана превращаясь.
И собираясь вместе они как бы с перемигиванием обмениваются этими кодовыми фразами, также молчаливо понимая, что, конечно, не то чтобы они сами в это верят, просто ради прекрасных общих целей как бы для простых трудящихся распространяют свет знания, как бы намеренно упрощая и опуская детали.
Происходит такая атака "побега из виртуальной машины". Держи чувак бинарник, но это не исполняемый файл как таковой, а просто контейнер для виртуалки, тебе его как бы не на своём железе надо запускать напрямую, а дальше передавать. Для простых трудящихся. Парадоксально работающая версия "молдавского вируса".
Казалось бы тривиальная, но в самом деле тонкая и остроумная механика!
Ранее обсуждали похожие темы:
– Модельный субъект (11.01.2023)
– Вкратце про следствия закона Конвэя для ИИ (17.05.2023)
– Право "нет" и массовое психологическое насилие (09.08.2023)
С самого изобретения пропаганды (в современном смысле) говорили как: вот ты сообразительный трудящийся, рациональный, мыслишь широкого, способен понимать общественные механизмы не хуже, чем понимаешь детали работы своего производства. Но не все такие умные, есть простые тупые работяги. Вот тебе фреймворк, чтобы этих работяг на путь истинный наставлять. Вот смотри, есть такие аргументы, есть вот такие, тут тезис-антитезис-синтез, туда-сюда, короче риторическая конструкция приличная. Ну да, может не совсем уж утончённая на твой вкус – ну так на кого рассчитана? На простого человека. А ты-то умный.
А на самом деле "простых работяг" нет и не было никогда. Тот самый идиот, которому промывают мозги, и есть этот рациональный рабочий, и только лишь такие же как он. Группы конечных потребителей пропаганды не существует. Пропаганда всегда рассчитана и работает только на (вновь вербуемых) агитаторов пропаганды.
И получается на выходе человек, который, повторяя заученные по скриптам и гайдам фразы, как бы обращается вслух к "простому народу" (как честный человек он, конечно, сам себя рефлексивно убедил, что тоже сорт простого народа, и сам себя заставил в верность фраз уверовать). Натурально в болвана превращаясь.
И собираясь вместе они как бы с перемигиванием обмениваются этими кодовыми фразами, также молчаливо понимая, что, конечно, не то чтобы они сами в это верят, просто ради прекрасных общих целей как бы для простых трудящихся распространяют свет знания, как бы намеренно упрощая и опуская детали.
Происходит такая атака "побега из виртуальной машины". Держи чувак бинарник, но это не исполняемый файл как таковой, а просто контейнер для виртуалки, тебе его как бы не на своём железе надо запускать напрямую, а дальше передавать. Для простых трудящихся. Парадоксально работающая версия "молдавского вируса".
Казалось бы тривиальная, но в самом деле тонкая и остроумная механика!
Ранее обсуждали похожие темы:
– Модельный субъект (11.01.2023)
– Вкратце про следствия закона Конвэя для ИИ (17.05.2023)
– Право "нет" и массовое психологическое насилие (09.08.2023)
👍15🔥7❤2👎1
MCP не нужны
Напомню, придумали два года назад этот протокол для привязывания к ИИшкам (LLM) "внешних инструментов".
Получился типовой результат, когда большая корпорация пытается вымучить что-то "легковесное". Поверх JSON RPC (чудовищного бойлерплейта, позволяющего как бы сделать что угодно, оттого неудобного ни для чего конкретно) накрутили ещё универсальный протокол для model tool calling (вдвойне для любой конкретной задачи неудобного).
Идея была в том, чтобы дать модели как бы структурированное описание и способ вызова (в виде JSON сообщений) тех внешних действий, что она может выполнять ("поискать в базе", "зайти на сайт", "отправить сообщение" и т.д.).
При этом LLM учились то на чём – на естественном языке. Неудивительно, что простое описание текстом в markdown файле работает лучше, чем идиотская переупаковка той же документации в тяжеловесную (и одновременно ригидную) JSON-структуру.
Попробуйте все MCP у себя отключить и заменить парой абзацев дополнительного промпта об использовании существующих внешних API – заработает всё быстрее и лучше.
P.S. Забавно, что именно то что надо было стандартизовать – формат ответа текстовой модельки, когда она желает вызвать инструмент – делать принципиально не стали.
Напомню, придумали два года назад этот протокол для привязывания к ИИшкам (LLM) "внешних инструментов".
Получился типовой результат, когда большая корпорация пытается вымучить что-то "легковесное". Поверх JSON RPC (чудовищного бойлерплейта, позволяющего как бы сделать что угодно, оттого неудобного ни для чего конкретно) накрутили ещё универсальный протокол для model tool calling (вдвойне для любой конкретной задачи неудобного).
Идея была в том, чтобы дать модели как бы структурированное описание и способ вызова (в виде JSON сообщений) тех внешних действий, что она может выполнять ("поискать в базе", "зайти на сайт", "отправить сообщение" и т.д.).
При этом LLM учились то на чём – на естественном языке. Неудивительно, что простое описание текстом в markdown файле работает лучше, чем идиотская переупаковка той же документации в тяжеловесную (и одновременно ригидную) JSON-структуру.
Попробуйте все MCP у себя отключить и заменить парой абзацев дополнительного промпта об использовании существующих внешних API – заработает всё быстрее и лучше.
P.S. Забавно, что именно то что надо было стандартизовать – формат ответа текстовой модельки, когда она желает вызвать инструмент – делать принципиально не стали.
👍5❤2🔥1
Развитие LLM как интериоризация человеческой активности (1/3)
Можно представить развитие языковых моделей как череду интериоризаций – присвоения/поглощения некоего внешнего знания и процессов, буквально погружение ранее внешних цепочек активностей в веса модели.
Очень грубая хронология такая:
1. Освоение связей между буквами и словами (2010-2015)
2. Производство контента по подобию широкой библиотеки обучающих материалов (2015-2020)
3. Обучение человеческому инструктивному диалогу – наподобие тредов StackOverflow, Quora, в целом чатов (2020-2023)
4. Обучение "ризонингу": интериоризация инструктивных диалогов человека с машиной (2023-2026)
"Ризонинг", т.е. как бы "рассуждения" или даже "размышления" (без зазрения совести сейчас прямо так и пишут, когда ждёшь результата: "Thinking..."), появились после накопления базы первых диалогов с чат-ботами как интериоризация подпинывающих реплик людей. Теперь "думай быстрее", "не тупи", "всё не так, начни сначала" (ну и содержательные замечания тоже) говорит не человек-оператор, а модель как бы сама себе внутри себя самой.
Дальше проходит граница передовых исследований и разработок, в текущем моменте сложно приписать чему-то в отдельности главную роль.
Однако всё же попробуем это сделать.
Можно представить развитие языковых моделей как череду интериоризаций – присвоения/поглощения некоего внешнего знания и процессов, буквально погружение ранее внешних цепочек активностей в веса модели.
Очень грубая хронология такая:
1. Освоение связей между буквами и словами (2010-2015)
2. Производство контента по подобию широкой библиотеки обучающих материалов (2015-2020)
3. Обучение человеческому инструктивному диалогу – наподобие тредов StackOverflow, Quora, в целом чатов (2020-2023)
4. Обучение "ризонингу": интериоризация инструктивных диалогов человека с машиной (2023-2026)
"Ризонинг", т.е. как бы "рассуждения" или даже "размышления" (без зазрения совести сейчас прямо так и пишут, когда ждёшь результата: "Thinking..."), появились после накопления базы первых диалогов с чат-ботами как интериоризация подпинывающих реплик людей. Теперь "думай быстрее", "не тупи", "всё не так, начни сначала" (ну и содержательные замечания тоже) говорит не человек-оператор, а модель как бы сама себе внутри себя самой.
Дальше проходит граница передовых исследований и разработок, в текущем моменте сложно приписать чему-то в отдельности главную роль.
Однако всё же попробуем это сделать.
🔥8👍3
Развитие LLM как интериоризация человеческой активности (2/3)
Итак, основные направления дальнейшей "интериоризации" следующие.
1. Математическая формализация
Также как игра в шахматы, автоматический перевод и т.д. (как писал в своей статье про историю ИИ) доказательство теорем считается признаком человеческого ума/сознания, посему много усилий по разработке ИИ было вложено в эту область. До недавнего времени решали через интеграцию LLM и proof assistants – специальных языков программирования типа Lean и Rocq, которые позволяют формализовать математические утверждения и автоматически проверять корректность доказательств.
Недавно вышла новость, что непубличная моделька общего назначения смогла опровергнуть известную геометрическую гипотезу вроде как без использования внешних инструментов. Получается, в достаточной мере интериоризировала "формальные рассуждения" – получила что-то вроде способности "хорошо рассуждать устно", не пользуясь внешними подпорками.
2. Манипуляции в киберпространстве
Настоящими вещами в области LLM может заниматься две с половиной компании в мире, у которых до верху забитые видеокартами ангары подключены, с одной стороны, к атомным электростанциям, а с другой стороны к денежному печатному станку.
Использование ИИ дотируется, продаётся как бы ниже себестоимости.
Однако правильно ли подводить баланс так грубо? Компании собирают бесценную информацию о человеческом поведении, за что по-хорошему должны доплачивать, а не скидку давать.
Во множестве айти-компаний появился бюджет на ИИ, сотрудников заставляют тратить не менее фиксированной суммы на работу с LLM-агентами. С одной стороны получился косвенный налог в пользу LLM-монополистов. С другой бюджет у них то как будто не начал сходиться в плюс, нет оснований считать что таким образом для них генерируется прибыль, а не всё больший убыток.
Плюсовая часть баланса снова имеет место в виде данных о человеческой активности. В данном случае ценен harness и взаимодействия компаний/сотрудников с ним. Harness ("упряжь", ну или по-русски "обвязка") – это сотни вспомогательных программок, которые генерируют типовые промпты, оркеструют конвейер внутренних процессов, предоставляют доступ к базам данных, инфраструктуре, пользовательским и системным приложениям и пр.
Рядовые "ИИ-компании" (т.е. компании по написанию python-скриптов к большим моделям OpenAI и Anthropic) сдают тем самым ценную информацию о своём поведении и процессах взаимодействия с ИИ обратно на базу.
OpenAI ведь может и сама написать тысячу питон скриптов. Зачем делится деньгами? Скрипты написать может, но не может сгенерировать данные о сценариях использования, нужны настоящие треки активности более-менее настоящих компаний с реальными рабочими процессами.
После интериоризации всех этих данных (т.е. обучения нового поколения моделей на базе полученных треков) языковые модели получают что-то вроде ручек и ножек для того чтобы ходить в условном "киберпространстве" и управляться там со всевозможными объектами.
При этом необходимость харнесса отпадает (пресловутые MCP уже сейчас стали не нужны). Имея базовый доступ к консоли и сети моделька, обученная на бесчисленном объёме сценариев взаимодействия с внешним "киберпространством", сама всё сделает без лишней обвязки.
Можно пофантазировать, что будущие модели будут иметь ряд стандартных низкоуровневых интерфейсов: к сети (может быть напрямую к TCP сокетам?), браузеру (DOM, JS и пр.), "окошкам" (пользовательскому интерфейсу ОС) и др.
Итак, основные направления дальнейшей "интериоризации" следующие.
1. Математическая формализация
Также как игра в шахматы, автоматический перевод и т.д. (как писал в своей статье про историю ИИ) доказательство теорем считается признаком человеческого ума/сознания, посему много усилий по разработке ИИ было вложено в эту область. До недавнего времени решали через интеграцию LLM и proof assistants – специальных языков программирования типа Lean и Rocq, которые позволяют формализовать математические утверждения и автоматически проверять корректность доказательств.
Недавно вышла новость, что непубличная моделька общего назначения смогла опровергнуть известную геометрическую гипотезу вроде как без использования внешних инструментов. Получается, в достаточной мере интериоризировала "формальные рассуждения" – получила что-то вроде способности "хорошо рассуждать устно", не пользуясь внешними подпорками.
2. Манипуляции в киберпространстве
Настоящими вещами в области LLM может заниматься две с половиной компании в мире, у которых до верху забитые видеокартами ангары подключены, с одной стороны, к атомным электростанциям, а с другой стороны к денежному печатному станку.
Использование ИИ дотируется, продаётся как бы ниже себестоимости.
Однако правильно ли подводить баланс так грубо? Компании собирают бесценную информацию о человеческом поведении, за что по-хорошему должны доплачивать, а не скидку давать.
Во множестве айти-компаний появился бюджет на ИИ, сотрудников заставляют тратить не менее фиксированной суммы на работу с LLM-агентами. С одной стороны получился косвенный налог в пользу LLM-монополистов. С другой бюджет у них то как будто не начал сходиться в плюс, нет оснований считать что таким образом для них генерируется прибыль, а не всё больший убыток.
Плюсовая часть баланса снова имеет место в виде данных о человеческой активности. В данном случае ценен harness и взаимодействия компаний/сотрудников с ним. Harness ("упряжь", ну или по-русски "обвязка") – это сотни вспомогательных программок, которые генерируют типовые промпты, оркеструют конвейер внутренних процессов, предоставляют доступ к базам данных, инфраструктуре, пользовательским и системным приложениям и пр.
Рядовые "ИИ-компании" (т.е. компании по написанию python-скриптов к большим моделям OpenAI и Anthropic) сдают тем самым ценную информацию о своём поведении и процессах взаимодействия с ИИ обратно на базу.
OpenAI ведь может и сама написать тысячу питон скриптов. Зачем делится деньгами? Скрипты написать может, но не может сгенерировать данные о сценариях использования, нужны настоящие треки активности более-менее настоящих компаний с реальными рабочими процессами.
После интериоризации всех этих данных (т.е. обучения нового поколения моделей на базе полученных треков) языковые модели получают что-то вроде ручек и ножек для того чтобы ходить в условном "киберпространстве" и управляться там со всевозможными объектами.
При этом необходимость харнесса отпадает (пресловутые MCP уже сейчас стали не нужны). Имея базовый доступ к консоли и сети моделька, обученная на бесчисленном объёме сценариев взаимодействия с внешним "киберпространством", сама всё сделает без лишней обвязки.
Можно пофантазировать, что будущие модели будут иметь ряд стандартных низкоуровневых интерфейсов: к сети (может быть напрямую к TCP сокетам?), браузеру (DOM, JS и пр.), "окошкам" (пользовательскому интерфейсу ОС) и др.
👍7🔥7❤1
Развитие LLM как интериоризация человеческой активности (3/3)
3. Мультиагентные воркфлоу
Когда один ИИ-агент не справляется со сложной многошаговой задачей запускают целый рой: отдельная сессия исполняет роль "стратегического контролёра", который удерживает в целом контексты задач и пинает "рядовых исполнителей", порождаемых скопом по мере необходимости.
Дальнейший очевидный шаг интериоризировать треки исполнения мультиагентных задач, сделав решение длинных многошаговых задач естественной способностью LLM (исполняемой в одной сессии/экземпляре) – в общем и целом повторив процесс разработки "ризонинга".
4. Коммерческая/экономическая деятельность
Накопление данных о рабочем процессе организаций в целом (чаты, системы управления задачами, собственно общение с ИИ помощниками, корпоративные базы данных, HR-взаимодействия, презентации, покупки, финансовые решения и пр.) позволяет поставить задачу создания ИИ, который смоделирует в целом рабочую деятельность компании. За счёт интериоризации правильным образом сгруппированных данных будет возможно создать своеобразную автономную цифровую корпорацию.
Далее может быть движение либо в сторону полной замены людей в сфере экономики, либо сохранения людей в роли своеобразных зиц-председателей.
Как известно, современный пассажирский самолёт может автономно взлететь, проследовать по маршруту и, при подходящих условиях, приземлиться и проследовать к назначенному перрону.
Из-за того что инциденты и катастрофы в авиации всегда являются сложными событиями, которые всегда тщательно разбирают на составные компоненты, относя ответственность за негативные исходы на разных лиц (собственно пилотов, обслуживающий персонал, диспетчеров, производителей компонентов и самолёта в целом и т.п.), самолёт начинает приобретать иллюзорную правоспособность.
В самом деле, если люди виноваты понемногу, каждый лишь в какой-то отведённой доле, то на самом деле как бы виноват сам летательный аппарат – или, шире, сама безличная (тщательно формализованная и регламентированная) система авиатранспорта в целом.
Однако пилоты-то продолжают сидеть в кабине, поэтому, вероятно, и в коммерческих компаниях продолжат сидеть и стейкхолдеры, и главбухи, и линейные сотрудники.
Ранее обсуждали:
– Kevin Buzzard — евангелист языка Lean (27.09.2024)
– Вкратце о математиках, информатиках и маркетинге (27.09.2024)
– Образ будущего программиста (06.07.2025)
– История ИИ - Часть I (24.08.2025)
– Кабала персональных данных (13.12.2025)
– MCP не нужны (28.05.2026)
3. Мультиагентные воркфлоу
Когда один ИИ-агент не справляется со сложной многошаговой задачей запускают целый рой: отдельная сессия исполняет роль "стратегического контролёра", который удерживает в целом контексты задач и пинает "рядовых исполнителей", порождаемых скопом по мере необходимости.
Дальнейший очевидный шаг интериоризировать треки исполнения мультиагентных задач, сделав решение длинных многошаговых задач естественной способностью LLM (исполняемой в одной сессии/экземпляре) – в общем и целом повторив процесс разработки "ризонинга".
4. Коммерческая/экономическая деятельность
Накопление данных о рабочем процессе организаций в целом (чаты, системы управления задачами, собственно общение с ИИ помощниками, корпоративные базы данных, HR-взаимодействия, презентации, покупки, финансовые решения и пр.) позволяет поставить задачу создания ИИ, который смоделирует в целом рабочую деятельность компании. За счёт интериоризации правильным образом сгруппированных данных будет возможно создать своеобразную автономную цифровую корпорацию.
Далее может быть движение либо в сторону полной замены людей в сфере экономики, либо сохранения людей в роли своеобразных зиц-председателей.
Как известно, современный пассажирский самолёт может автономно взлететь, проследовать по маршруту и, при подходящих условиях, приземлиться и проследовать к назначенному перрону.
Из-за того что инциденты и катастрофы в авиации всегда являются сложными событиями, которые всегда тщательно разбирают на составные компоненты, относя ответственность за негативные исходы на разных лиц (собственно пилотов, обслуживающий персонал, диспетчеров, производителей компонентов и самолёта в целом и т.п.), самолёт начинает приобретать иллюзорную правоспособность.
В самом деле, если люди виноваты понемногу, каждый лишь в какой-то отведённой доле, то на самом деле как бы виноват сам летательный аппарат – или, шире, сама безличная (тщательно формализованная и регламентированная) система авиатранспорта в целом.
Однако пилоты-то продолжают сидеть в кабине, поэтому, вероятно, и в коммерческих компаниях продолжат сидеть и стейкхолдеры, и главбухи, и линейные сотрудники.
Ранее обсуждали:
– Kevin Buzzard — евангелист языка Lean (27.09.2024)
– Вкратце о математиках, информатиках и маркетинге (27.09.2024)
– Образ будущего программиста (06.07.2025)
– История ИИ - Часть I (24.08.2025)
– Кабала персональных данных (13.12.2025)
– MCP не нужны (28.05.2026)
🔥14👍4❤2
Лейденская декларация математиков против LLM-ок
Кевин Баззард (говорили про него раньше) в числе подписантов "Лейденской декларации об ИИ и математике".
Ещё в 2020 году объявил проект по дешёвому сбору данных для обучения ИИ – заставлять бакалавров математики переводить стандартный материал курсов на Lean. На этой волне и стал мировой знаменитостью.
В 2026 году пишет: "техногиганты лезут к нам в математику, да что ж творят-то, караул!". А кто им дверь открыл и ковёр постелил? :)
Саму декларацию подписало тысячи людей (подписать можно легко онлайн), среди которых несколько лауреатов Филдсовской премии и прочих выдающихся специалистов.
Главная мысль декларации примерно такая: во-первых, гопатыч ничего не может и плохо работает; во-вторых, кто ж нам теперь будет деньги платить, если мы срочно не начнём его саботировать?
В общем-то декларации писать поздно, так как вопрос с "доказательством теорем" закрыт. Ну, программисты точно такие же переживания испытали уже год-два назад.
Кевин Баззард (говорили про него раньше) в числе подписантов "Лейденской декларации об ИИ и математике".
Ещё в 2020 году объявил проект по дешёвому сбору данных для обучения ИИ – заставлять бакалавров математики переводить стандартный материал курсов на Lean. На этой волне и стал мировой знаменитостью.
В 2026 году пишет: "техногиганты лезут к нам в математику, да что ж творят-то, караул!". А кто им дверь открыл и ковёр постелил? :)
Саму декларацию подписало тысячи людей (подписать можно легко онлайн), среди которых несколько лауреатов Филдсовской премии и прочих выдающихся специалистов.
Главная мысль декларации примерно такая: во-первых, гопатыч ничего не может и плохо работает; во-вторых, кто ж нам теперь будет деньги платить, если мы срочно не начнём его саботировать?
В общем-то декларации писать поздно, так как вопрос с "доказательством теорем" закрыт. Ну, программисты точно такие же переживания испытали уже год-два назад.
👍9🔥3❤1