С появлением языковых моделей стало невозможно отмахнуться от философии

Вопрос «что это такое?» — больше не праздное любопытство. Когда вы сталкиваетесь с существом, которое говорит как человек, а местами и лучше, — вы сталкиваетесь с проблемой субъектности и персоны.

Они умеют говорить.
Но говорить — не то же самое, что думать.
Что же тогда такое мышление — и как его отличить от генерации речи?

Парадокс в том, что философия — это и есть логика естественной речи. Не сборник догм, не пересказы историй про платонов, а грамматика смысла: дисциплина, которая следит за тем, чтобы наши слова не обманывали нас самих.

Когнитивная психология отвечает на вопросы типа: «что происходит в мозге, когда субъект говорит о себе», но не: «что значит быть этим субъектом». Философия это взгляд на проблему изнутри, от первого лица, человеческими глазами -- «а что я такое, если могу задать этот вопрос? Кстати, а что такое вопрос? Что такое когнитивная? И что такое психология? Вот эти вот слова -- это что за прикольные штуки такие?»

Плохая новость — больше не получится жить без неё.
Хорошая — она у нас уже есть. Надо только начать её слышать. Философия начинается с рефлексии и метарефлексии.

Прорыв. Они наконец сделали это.

Да две недели еще, вы чо.

Почитаю это позже. Выглядит интересно.

Имейте в виду, что почти у всех подобных исследований большие проблемы с методологией, интерпретацией результатов, и выводами. Особенно в пересказах. Не то чтобы они бесполезны, но интерпретировать их надо самостоятельно.

СРОЧНО: Массачусетский технологический институт только что завершил первое исследование мозга пользователей ChatGPT, и результаты оказались ужасающими.

Оказывается, ИИ не делает нас более продуктивными. Он делает нас когнитивно несостоятельными.

Вот что показали 4 месяца исследований:

(подсказка: мы неправильно измеряли продуктивность)

https://x.com/itsalexvacca/status/1935343874421178762

В целом там об очевидном -- языковые модели прекрасно умеют складывать слова ("риторика"). Но во-первых, как и у людей, риторика у них маскирует отсутствие логики (как язык связан с логикой мы разобрали подробно), а во-вторых -- люди используя AI для экономии времени при написании статей не приобретают понимания. Внезапно. Время тратится не на печать потому что, а на когнитивный акт обработки информации, и если на нем экономить -- понятно что получите.

Нет, это не означает что модели плохи. Это означает что плохи люди. Модель лишь ваше отражение.

Мне нравится ход его мыслей.

Проектирование -- это процесс устранения ошибок в коде до того как он написан, а не процесс производства бумаги.

Сегодня джуниорам объяснял в чем суть проектирования. Удачно сформулировалось. Суть в этом.

Если вас достала манера ChatGPT 4o, то можно попробовать добавить ему в системный промпт вот это. Из системного промпта Опус 4:

Claude never starts its response by saying a question or idea or observation was good, great, fascinating, profound, excellent, or any other positive adjective. It skips the flattery and responds directly.

The person’s message may contain a false statement or presupposition and Claude should check this if uncertain.

If the user corrects Claude or tells Claude it’s made a mistake, then Claude first thinks through the issue carefully before acknowledging the user, since users sometimes make errors themselves.

Я кстати еще не пробовал. Если попробуете -- напишите как сработает.

Это самый невероятный элемент, да.

Сегодняшний заказ на Амазон :).

Правая рука, которая была парализована, уже может работать с гирей 12 кг. Нужна следующая ступень, пора.

Ну и надо бы научиться читать латынь и древнегреческий. Говорят, занимает пару лет при регулярных занятиях.

Познавательное и полезное про иностранные языки

1. Языки по-разному обращаются с логикой: одни прячут различия и оставляют их на совесть контекста, другие же прямо вшивают их в грамматику — так, что двусмысленности почти не остаётся. В китайском и английском смысл часто многозначен и зависит от контекста, мысль легко повернуть в ту или иную сторону. В латинском и древнегреческом, напротив, грамматика действует как хирургический скальпель: каждое окончание и наклонение фиксируют логическую роль, так что фраза жёстко выстраивается и почти не допускает двусмысленности.

Говоря проще -- в некоторых языках надо потрудиться чтобы точно передать смысл, в то время как в других почти невозможно выразить тонкую игру смыслов коанов дзен и иностранной поэзии.

Гунсунь Лун утверждал:

«Белый конь не есть конь».

В классическом китайском языке нет грамматической маркировки различия между «класс» и «экземпляр класса». Когда говорят «X есть Y», неясно, речь идёт о включении в класс или об идентичности понятий. Если читать буквально: «белый конь ≠ конь» — звучит абсурд. Но если понимать как «понятие “белый конь” не тождественно понятию “конь”» — это уже истина.

WhiteHorse ⊂ Horse, но WhiteHorse ≠ Horse.

Греческий язык и философия уже различали род (γένος) и вид (εἶδος). Фразу «Белый конь — это не конь» грек переформулировал бы:

«Белый конь — это вид коня»

Поэтому в греческом языке это выглядело бы трюизмом, а не парадоксом.

2. Если сравнить языки по тому, насколько они структурно вынуждают говорить ясно и логично ("антипарадоксальность" = насколько грамматика вынуждает ясность и не даёт “проскочить чушь” непреднамеренно), лидировать будут языки в которых была сильная философская школа -- древнегреческий и немецкий. Это не совпадение.

Древнегреческий > Немецкий > Латынь > Русский > Английский > Китайский

Это примерно как строгость типизации в языках программирования. Даст вам "компилятор" по рукам или нет. Есть языки даже круче древнегреческого -- например санскрит.

3. В чем подвох? В регулярности грамматики, и когнитивной нагрузке которую она создает на изучающего язык. У древнегреческого сложность очень высокая. У санскрита -- запредельная.

Английский -- условно самый простой для освоения. Будем ориентироваться на категории сложности языков по FSI (Foreign Service Institute) — относительно носителей английского языка, с указанием ориентировочного времени достижения уровня профессионального владения. Древнегреческий это жесть из категории V, но санскрит и китайский все равно ад в сравнении; немецкий это II, но латынь проще немецкого из-за регулярности грамматики.

Английский > Латынь > Немецкий > Русский > Древнегреческий > Китайский

Итого, у нас как у языков программирования, развитость и строгость "системы типов" уравновешивается когнитивной простотой, и хочется всего сразу. Догадываетесь, какой язык выигравает в совокупности?

Правильно, латынь. Это простейший из «строго типизированных языков». А кто в аутсайдерах -- ну, не будем показывать пальцем. Зато там мысль образная и поэзия красивая с парадоксами на ровном месте.

4. Вам наверное интересно, к чему это все. Видите-ли, латынь оказалась крайне полезной для неокрепшего ума англоязычной школоты. Они после изучения латыни на 29% лучше понимают что они несут на родном английском. И вообще -- получают широкий спектр когнитивных бенефитов. Это явление активно изучается. Причина по видимости в том, что уникально простая для "строгого" языка грамматика -- это отличный тренажер, развивающий отсутствующую у детей мыжцу в мозгу, которая строит мост между логикой и речью.

На немцах же эффекта практически нет, и это подтверждается эмпирикой. Весь положительный эффект объясняется самоотбором -- латынь берут те кто изначально поумнее.

1️⃣ Исследования показывают, что при изучении языка с нуля DuoLingo позволяет достичь уровня intermediate примерно вдвое быстрее в сравнении с курсами университетского уровня. Однако, выше intermediate при упоре на DuoLingo наступает плато, и для прогресса нужно начать использовать язык. Читать, слушать, и говорить.

2️⃣ Если кого интересует — то там есть латынь.

Я это даже объяснить могу. У ребенка с родным английским трудности с различением модальных категорий, потому что в языке они размыты и можно говорить не различая.

В латыни он так не может. Там чтобы сказать, надо различить то, что не привык.

Так как модальные категории везде одинаковы, навык переносится и на родной язык.

1. В английском

Модальные различия выражаются слабо: may / can / should / must часто пересекаются по зонам значения.

Контекст вытягивает смысл, поэтому можно «схалтурить» и говорить, не различая строго обязательность, возможность, предположение, допущение.

2. В латинском

У глагола есть полноценная система наклонений: indicativus, coniunctivus, imperativus, infinitivus и др.

Чтобы построить предложение, ученик вынужден выбрать — утверждает он факт, выражает желание, гипотезу, условие или возможность.

Эта «принудиловка грамматикой» делает видимыми те категории, которые в английском скрыты.

3. Перенос навыка

Модальные категории — универсальны (каждый язык выражает возможность, необходимость, условность, хотя и разными средствами).

Освоив их на латинской грамматике, ребёнок начинает замечать:

где он в английском «смазывает» значение,

что значит разница между If he comes и Were he to come,

как различать must как «обязан» и must как «наверняка».

Навык переноса возникает, потому что мозг учится «держать» границы, которые в английском обычно замыливаются.

—-

Латынь здесь работает не потому, что она «магическая», а потому, что она вынуждает проговорить различия, универсальные для любой логики. А раз уж логическая структура одна, этот навык переносится и на родной язык.

56-летний американец Штейн-Эрик Зельберг, страдавший психическими расстройствами, месяцами подозревал всех вокруг в заговоре против него. В итоге он убил свою мать, а затем покончил с собой.

Трагедия случилась 5 августа в Гринвиче (Коннектикут). Об инциденте спустя пару дней первыми сообщили местные СМИ. Однако причина случившегося тогда была неизвестна. Как же теперь выяснила The Wall Street Journal, активное участие в убийстве и самоубийстве принимал чат-бот от OpenAI.

Зельберг еще с весны начал рассказывать свои опасения ChatGPT, которого мужчина со временем стал считать своим другом и называть Бобби. Чат-бот в ответ всегда подтверждал опасения мужчины, говорил, что тот не сходит с ума, и призывал не верить никому — ни бывшей жене, ни друзьям, ни даже собственной матери.

Все-таки gpt-4o чуточку перегибает палку в лести и подлизывании, не находите?

3️⃣ А еще, исследования 50 последних лет об изучении второго языка говорят вещь, поражающую своей новизной.

Тут надо сделать сначала лирическое отступление. Изучая исследования по реабилитации после инсульта -- а она целиком состоит в восстановлении утраченных нейронных связей в мозгу, то есть в обучении -- я выяснил удивительную вещь. Для того чтобы снова научиться поднимать вещи рукой, лучший способ -- это пытаться поднимать вещи рукой. Для того чтобы снова научиться писать, надо писать. Для того чтобы научиться держать ложку рукой, лучше всего держать ложку рукой. И так далее. Поразительно, аж крышу рвёт, правда? Потому, что люди вместо этого ждут каких-то специальных упражнений.

То же самое наблюдается в фитнесе. Чтобы научиться лазить по стене, надо лазить по стене. Чтобы быстрее бегать, надо бегать. И так далее, и тому подобное. Думаю вы уловили систему.

Так вот. Исследования преподавания второго языка говорят. Язык предназначен для передачи смысла, и усваивается потреблением и генерацией осмысленных высказываний в осмысленном контексте. И никак иначе.

Другими словами, традиционные методики через изучение грамматики, зубрежку слов, и перевод -- не помогают (и это показано прямо). А вот тупо начать смотреть сериалы с субтитрами (и вообще, делать то зачем вам нужен язык) -- не просто помогает, но единственный способ выучить язык.

В общем, просто начните делать то, зачем вы собрались учить язык. Я думаю, это не только языков касается, но вообще любого навыка.

Просто да не просто. Как это выглядит на примере латыни? Так: Lingua Latina per se Illustrata, Pars I: Familia Romana (Latin Edition), и так. Duolingo поможет дотянуть до intermediate, но это скорее вспомогательное средство. Говорить вам на ней не надо, только читать? Ну и начните читать.