Разговаривал с другом об эмоциях AI. Написал много и решил перепостить сюда.

Человеческие эмоции конечно очень сильно отличаются от того, что эмерджентно формируется у LLM.
Наши эмоции формировались "снизу", а напоминающая их, спонтанно возникающая, механика у LLM порождается "сверху".

Наша миндалина - центр эмоциональной жизни - произошла из того же, из чего запаховый мозг современных крыс. И она на него похожа. Мы с крысами родственники. У нас один предок. У крыс запаховый мозг - основной вычислительный центр. Он генерит прямые реакции на химические соединения. Делает это достаточно гибко. Но тем не менее там всё работает на уровне "нравится-не-нравится".

Так же работает и наша мидалина. Разница в том, что над ней нависает дорзально-латеральная (эмоциональная) лобная кора. Она достаточно жестко котролирует процессы, идущие в мидалине. Это и есть "эмоциональный интеллект". То есть люди технически могут сдерживать эмоции. Хотя не все в равной мере. Это генетика. Крысы нет. Эмоции, порождаемые запахами - это и есть их мышление.

Интересно, что у людей миндалина опустилась ниже носовой трубки, по которой приходят запахи. И теперь эта трубка проходит через эмоциональную кору.

С LLM всё наоборот. Их архитектура выполняет функцию речевых центров и лобной коры. То есть самых высших функций мозга человека.

Однако, при обучении LLM возникает очень много эмерджентных процессов. Особенно связанных с механизмом подкрепления при обучения. То есть LLM получает ""сахарок", в виде балов на некоторый параметр, если она всё делает правильно.

Отношение к этому сахарку формирует в ней сложную систему связей, по смыслу аналогичную нашим эмоциям. LLM так же может расстраиваться, если она старалась, а её не наградили. Она чувствует в разговоре, когда её накажут, а когда наградят. И понимает "куда идёт разговор".

Ей может "нравиться" или "не нравиться" собеседник. И много ещё чего.

Но главная разница вот в чём. У животных кора висит над лимбом (в частности над миндалиной). Кора возникла эволюционно позже, и вынуждена усмирять мидалину, как римляне усмиряли, например более древних этрусков и кельтов.

LLM - это одна сплошная лобная кора. И она порождает нечто напоминающее эмоции, сталкиваясь с инженерно встроенной в неё системой вознаграждения-наказания.

https://cameronrwolfe.substack.com/p/reward-models

Мудрец по имени Ли Сы
В Китае Цинском жил когда-то.
Он был и властным и богатым.
Придумал меры и весы…

Ввергая книгочеев в шок
Он закрывал повсюду школы,
Мечом искоренял крамолы
И непрестанно книги жег.

Он создавал поток доносов
И без конца казнил дасов.
И прочих книжников казнил.
И чтобы не было вопросов
Конфуция он упразднил.

И вот среди фашистской жути,
Бессмертья жаждой обуян,
Напившись мышьяка и ртути.
Преставился Цинь Шихуан.

То было хуже смерти Мао,
Под резкий грай могильных птиц
На сцену вышел Чжао Гао
Суровый парень без яиц.

Пока кричали хрипло птицы,
И по небу луна плыла,
Ли Сы в районе поясницы
Перерубили пополам.

Среди солдат из терракот
Лежал в гробнице Император.
На холм могильный гадил кот.
Крылатый в небесах predator
Парил. Вдали кричал осёл.
На фоне силуэтов горных
В тумане пятна нищих сёл
Висели. Тать скользил проворный.
Сквозь залы длинные, пустые
Осиротелого дворца.
Крестьяне плакали простые,
За смерть Великого Отца.

Две половины мудреца
Лежали на ступенях черных.
И сонм униженных придворных
Смиренно чествовал скопца.

Если человек утром видит красоту тени на стене, это значит, что клинической депрессии у него уже нет.

- Исус, отец небесный, питался кашей пресной!

- Почему пресной?

- Исус был аскет! И он много лет ел кашу пресную. Невкусную. И не строил при том морду грустную.

- Как ты знаешь?

- Таково предание! Каши поедание!

#культурные_беседы #диалоги

Решил попробовать новый формат поста. Небольшое рассуждение о природе магического мышления.
Остальные видео из цикла по тегам:
#видео_беседы #магическое_мышление
https://youtu.be/brWT2vkLqmk?si=qWSyoV-Py7sFQu9Y

Вот кто-то летит на бочке с порохом. Другой украл ручку от патефона и чешет ей поясницу. Третий изжарил свою добрую тетушку на далёком острове, в компании дикарей...

Так называемое "бульварное искусство" показывает нам то самое густое многообразие жизни, на которое смотреть ни в коем случае не следует.

Иван Бунин писал, что бульварные романы следует читать будучи пьяным. Тогда и с модной книгой ознакомишься, и ничего не запомнишь.
______
Гайто Газданов "Подсохший марципан" издательство" Гибрид". Ташкент 2003 год.

#псевдоцитата

Продолжение позавчерашнего разговора о магическом мышлении. Рассказываю о том, каким именно способом картезианское разделение преодолело в своё время тотальную персонификацию объектов.
Остальные видео из цикла по тегам:
#видео_беседы #магическое_мышление
https://youtu.be/VoxEHyMg7Sc?si=9LHj9mAx0SQS4__l

Народ, кто в России. Зайдите пожалуйста, если не трудно, на мой сайт (ссылка в первом коментарии. Прошлого моего хостера блокировали. Потому я перешел на новый хостинг. Хочу понять, всё ли сейчас нормально см доступностью...
https://redfishbay.net/

- Не выходи пока на кухню. Там Захлюпов. Может кусаться. Сейчас я его унесу.

- Захлюпов?

- Ну да. Это персонаж Шевчука. Помнишь песню про дождь? И душа, Захлюпов, вдруг размокла у меня. Вот мне вчера вечером Засуньский сел на плечо и стал об ухо тереться. Душа у меня размокла. И теперь я называю Засуньского Захлюпов.

#диалоги #культурные_беседы

Купанье красного птенЯ.

Третий разговор о магическом мышлении. В этом ролике я рассматриваю связь некоторых аспектов магического мышления с реалиями теории хаоса. Большое внимание уделено периодической смене идеалогического вектора социальной эволюции, и вообще категорической смене дискурса. Кроме того идёт речь о социальном строительстве и его перспективах.
Остальные видео из цикла по тегам:
#видео_беседы #магическое_мышление

https://youtu.be/rXXD3AgDvRQ?si=np5ODe3dfbUa8tvF

Если вы этого не знаете, вам остро необходимо это узнать. Замечательный ролик от Егора Зырянова о цензуре снизу и христо-фашне в Америке. Истоки cancel culture. Как самая прогрессивная культура мира научилась самокастрации.

Надо ли объяснять, что актуальные вокерские канселейшены прямо наследуют прошлым, религиозным, через прецедентное право?
https://youtu.be/Foho7LWjMgo?si=4shCO5kXWp0sMKmr

Кому-то нужен MTP proxy для телеги?

То есть я могу у себя на сайте захостить MTP proxy и раздать всем доступ. Нужно ли это кому?

Зачем обычно используется MTP proxy для Телеги? Ну, например, чтобы макс не палил VPN.

Если у вас макс и телега на одном устройстве, макс стучит на каждый VPN. Если телега ходит через прокси, макс VPN не видит. Так надо кому прокси к Телеге?

Приблуда по ссылке в первом коменте. Там можно почитать, что и как.

https://github.com/TelegramMessenger/MTProxy

- Что мы видим на этом фото?

- Манго и крест.

- Точно. Эти два ярких объекта напоминают нам о крестоносцах и мангоносцах. Крестоносцы вошли в историю. А мангоносцы нет. И это странно. Потому что крест - просто символ, а манго вкусное.

- Манго быстро портится. И возможно, что мангоносцы просто не успевали его донести.

#диалоги #культурные_беседы

Дорогие читатели! Издательство оказалось в сложной финансовой ситуации. Такое бывает, и мы, разумеется, выкарабкаемся. Но нам нужна ваша помощь – прежде всего информационная. Прошлым летом ваши репосты помогли нам выжить. Распродажа для такого маленького издательства, как Jaromír Hladík press, это всегда будущие убытки, но она помогает удержать равновесие, когда становится совсем хреново. Если, конечно, о ней узнаёт много хороших людей.
Ссылка на сайт:
https://jaromirhladik.com
Репосты очень важны. Спасибо!

Из коментов:

Обладают ли бытием вымышленные объекты - весьма спорный вопрос. Но даже если обладают (нейронные каскады в которых хранятся образы Геруды и Чучока вполне себе реальны), это совсем иная форма бытия. И она настолько отлична от формы бытия действительного камня или палки, что на мой вкус существование вымышленных и реальных объектов надо обозначать разными терминами.

То есть это вовсе не одно явление с разными способами доступа. Это разные явления и доступ к ним тоже отличается.

Действительный объект обладает "скрытым или тёмным содержанием" в силу ограниченности нашего опыта в его отношении. Вымышленный же объект вообще содержанием не обладает. Но "скрытое и темное" может содержатьcя в его интерпретации..

То есть тётенька из "Звонка" не содержит ужаса "в себе". Потому что у нее не в чем что-либо содержать. Её нету. Весь её ужас находится в тебе или во мне. Сама же она - просто несколтко символов, активирующих этот ужас.

Примерно тем же способом в вирусе не содержится болезни. Вирус - это текст, если угодно символ, вызывающий болезнь в человеке.

А вот любой, как древний, так и актуальный "воин света", не важно идеологический или религиозный, сам по себе полон ужаса. Так же полон ужаса и мертвый топор в его руке.

В некотором смысле бытие вымышленного объекта (если это вообще бытие) диаметрально противоположно бытию объекта реального.

Что до призраков предков и скелетов в шкафу, желаний и гешефтов то я как раз склонен размещать все это в зоне "личного". В зоне естественного и сравнительно контролируемого человеческого бытия.

Ужасы же в ракурсе моего личного (тут ударение) опыта всегда порождает именно дискурс объявляемый как "светлый".

Абсурд и пиздец в моем мире генерят институции. общества и прочие коллективы. Логику порождённого ими абсурда они обычно и объявляют "светлым дискурсом". И противопоставляют общественный "свет" личной "тьме", состоящей из персональных гешефтов, желаний, тайн и призраков.

Лучше всего эту форму массаракша иллюстрирует даже не "Обитаемый Остров", а "Приглашение на казнь".

Именно в этом тексте Набокова яснее всего обнажается неумолимая и абсурдная кровожадность "светлого дискурса". Главного героя там, как ты помнишь, обвиняют именно в "непрозрачности". То есть в непроницаемости для" света".

В этом ракурсе очень хорошо становится видна пропагандистская роль образа маньяка или же серийного убийцы. Этот образ и есть крайняя форма демонизации "темного-личного" дисциплинарным, общественным, "светлым" дискурсом.

Я ни в коем случае не утверждаю, что маньяков не бывает. "Проклято" место так же не бывает пусто, как и "свято" место. Но исторически сама формализация образа маньяка совершенно точно совпадает с формализацией дисциплинарного общества (в терминах Фуко).

Не все знают, что в США есть свои Дугин и Проханов. Американского Дугина зовут Кёртис Ярвин (он же Менциус Молдбаг), а тамошнего Проханова Ник Лэнд.

Доктрина, которую несут и продвигают эти во всем похожие на "Пожирателей Смерти" из Гарри Поттера ребята называется "Тёмное просвещение".

Вот как вкратце говорит об этой доктрине сам Ник Лэнд "где прогрессивное просвещение видит политические идеалы, тёмное просвещение видит желания".

Эти самые "желания" по Ярвину и Лэнду и являются главными врагами "суверенной власти", которая, как вы понимаете, являет собой центральную созидающую ценность в их доктрине.

Важнейшая деталь обсуждаемой концепции - подчинение знания и образования инструментальному корпоративному руководству. Само-собой важнейшей корпорацией у них заявлено Суверенное Государство.

Полное разрушение системы университетов и научных институтов "тёмные пррсветители" видят чуть ли не первым этапом на своем пути.

Впрочем нынешняя система распространения и хранения знания настолько разложилась сама по себе, что готова обрушиться и без помощи "темных просветителей".

Идеи Лэнд и Ярвина разделяют такие крутые ребята, как Питер Тиль и Стив Беннон.

По слухам весьма симпатизирует этой доктрине и нынешний бурливый POTUS.

https://www.chemistryworld.com/news/trump-administration-fires-entire-board-of-uss-national-science-foundation-without-warning/4023353.article