О канале
🔭 Что такое Паттерны?
Это авторский канал обо всем, что мне кажется интересным и важным. Он будет интересен тем, кто хочет видеть мир как систему, а не набор случайностей. А я постараюсь помочь и вместе с вами такую систему построить.

Куда будем смотреть:
Технологии — как работает ИИ, нейросети, короче, все, что еще не достигло долины разочарования 😊
Науки — от квантовой механики до теории систем
Книги — читаю много и буду делиться инсайтами, ну или спасать ваше время от мусорных произведений
Короче, много всего.

💡 Для кого этот канал?
Для всех ☺️
Ну, а если вы:
✓ Работаете с технологиями (айти, инженерия, управление)
✓ Интересуетесь ИИ, но хотите понимать, а не просто использовать
✓ Устали от поверхностного контента и хайпа
✓ Цените системное мышление и глубину
✓ Хотите видеть связи между наукой, философией и реальностью
тогда точно надо остаться ТУТ

📚 Что здесь будет?
🎠 Буду делать карусели
Объяснения сложных концептов: как работает GPT, что такое системное мышление, почему Agile часто не работает
🎥 Короткие видео
Разборы трендов, философские вопросы, инсайты из науки и практики — в общем, много того, что легко смотреть и приятно слушать.
💭 Мысли
Сильные заметки о технологиях, управлении и мышлении
📚 Дайджесты
Лучшие материалы недели: статьи, исследования, книги

🧠 Философия канала
Понимание > Знание
Знать факт — легко. Понять, почему это так — сложнее. Понять, как это применить — искусство.
Связи > Части
Мир — это не набор изолированных фактов. Это сеть взаимосвязей. Я постараюсь научиться видеть эту сеть.
Глубина > Хайп
Тренды приходят и уходят. Фундаментальное понимание остаётся.

Оставайтесь на канале. Я все вижу 😉

За три последних года я прочитал около двухсот 😨 (178) книг.
Естественно того, что никто не читает: философия сознания, современные технологии, политика, устройство сложных систем, немного художественной литературы (не тратим время на это обычно), которая показалась мне интересной.

И что?
Очень часто, при должном внимании и наблюдательности заметно, насколько выводы/факты/кейсы из несмежных, или даже противоположных дисциплин пересекаются.
Изучаем (ну, пытаемся) сознание → находим параллель в экономике.
Смотрим на историю востока → видим паттерн в современных ИИ-моделях.
Технологии → так вообще по сути зеркало механизмов социального поведения.

Это как раз то, что интересно мне и о чем хочется общаться в этом канале:
как идеи переходят через границы
и как из множества разрозненных знаний складывается системное мышление.

Чуть позже я выложу граф прочитанных книг и их взаимосвязей.
Посмотрим, что из этого получится.

На прошлой неделе пришел подарок от компании Mindsmith — книга с подписью автора Руслана Юсуфова (https://t.me/yusufovruslan).

Читать только начал. Канал Руслана я читаю давно, даже на одном мероприятии общались лично — это был 2021 год (до тектонических сдвигов и хайпа вокруг нейросетей).

В качестве записи дневника.

Очень большое количество мнений я не разделяю. Мнений о будущем человечества и всей философии вокруг.
Я надеюсь, у меня хватит сил на системное ведение цикла постов в этом канале о логичном развитии человечества.
Если ИИ обретет сознание (а это произойдет, просто потому что логично) человек станет таким же воспоминанием как динозавры.

Пока живите с этим.

Закон Амары гласит:
«Люди склонны переоценивать эффект технологии в краткосрочной перспективе и недооценивать — в долгосрочной».

В общем, эмпирический закон, но регулярно на продолжении длинных отрезков времени получающий подтверждение.

Сейчас (сегодня, в настоящее время и тд) вижу, как во многих зарождается разочарование ИИ. Часто читаю, что хайп уходит. Но дело не в хайпе.

ИИ через несколько лет (пока видится так) поменяет почти все. Это просто логика. Базово, в природе человека (по крайней мере на данный момент времени) нет ничего, что нельзя было бы повторить в информационной модели.

Выгрузка мыслей.

Добавлю немного правильного понимания к тем понятиям, которые обычно понимают неправильно.

Очень прикольно как это наложилось в моем случае — такой выходит синтез из разных источников.

В общем поехали. Есть два понятия детерминизм и непредсказуемость.
Обычно (в зизни) как происходит — если мы имеем в виду детерминированную систему или вообще, что угодно — мы по умолчанию, предполагаем, что в каждый будущий момент времени сможем предсказать как система себя ведет. Детерминированность = Определенность, и это ограниченность нашего (человеческого) мозга. Вдумайтесь! Мы точно знаем: А так-то влияет на Б. Но если сюда добавить В, и при этом В будет влиять на А и на Б — все рушится. Через некоторое время — мы не сможем точно сказать ничего про А, Б, В.

Это называется хаосом. Не тем, что у вас в комнате или в закладках браузера. А настоящим. Его еще принято называть динамическим хаосом.

Поэтому не возможно точно предсказать, где будут астероиды, когда пойдет дождь и тд. Даже точно сказать, где будет луна и земля через пару миллионов лет. Хотя мы точно-точно знаем, как Земля, Луна и Солнце взаимодействуют друг с другом.

Кто понял — это классика, задача трех тел.

Ниже прикольный симулятор задачи —

https://trisolarchaos.com/

“Знание некоторых принципов легко возмещает незнание некоторых фактов”.
/ Клод Гельвеций/

Вдумайтесь, как круто.
Это про все, что мы знаем и с чем сталкиваемся. От ДНК (в ДНК нет ничего про ваш разум, эмоции, и проч) до самой сложной науки. Вся математика построена на 10 аксиомах, на которых растет дерево эллиптической геометрии, тензоров и другой мути.

Книжная рекомендация.
Хофштадтер, Дуглас. «Я – странная петля.»

Очень рекомендую. Расширяет с кругозор. Но если Хофштадтера не читали — начните с «Гедель, Эшер, Бах» — и разбирайте каждую страницу.

«Однажды, когда я впервые посмотрю наши видеозаписи, на которых есть Кэрол, мое сердце разобьется, потому что я снова увижу ее, снова буду жить ею, быть ею – и, хотя меня будет наполнять любовь, меня также будет наводнять чувство, что это подделка, что меня обманывают, и все это заставит меня задуматься, что же происходит в моем мозгу.Нет никаких сомнений, что паттерны, которые вспыхнут в моем мозгу при просмотре этих видео – символы, которые запустятся, восстановятся, воскреснут в моем мозгу, оживут впервые с тех пор, как она умерла, и начнут танцевать внутри меня, – будут вспыхивать так же сильно, как они вспыхивали в моем мозгу при ней самой во плоти, когда она по-настоящему делала те вещи, которые теперь – лишь»

Сможете, не подглядывая, схематично нарисовать велосипед? Который поедет…

В продолжение поста. Смотрите крутую статью на Хабре.
Вы когда-нибудь мечтали, как построите цивилизацию на необитаемом острове? Сможете объяснить, как получается электричество? Сможете добыть и очистить воду?

https://habr.com/ru/articles/991614/

Немного истории. Крутой истории.

1920 год. Телеков еще нет, все аналоговое. А наш соотечественник придумал инструмент — в основе которого технология абсолютно новая, не струны, не ударные принципы — электромагнитные поля.

Лев Термен — я уверен (может просто еще не видел) но про него можно снять обалденный фильм.

Что он сделал:
• Изобрел первый электронный музыкальный инструмент — терменвокс
• Играл на нем для Ленина в Кремле (тот был в восторге!)
• Покорил Америку и дружил с Эйнштейном
• Создал первую систему телевидения
• Изобрел автоматические двери и охранные системы
И немного (много) дегтя:
• 1938 — внезапный арест
• 8 лет лагерей в “шарашке”
• Работал над секретными проектами с Туполевым и Королевым
• Создал знаменитую “жучок” в Большой печати США (работал 7 лет незамеченным) — про это отдельно расскажу, крутейшая история.
Прожил 97 лет, вернулся к музыке, а его терменвокс стал основой всей электронной музыки
Led Zeppelin, Beach Boys, саундтреки Хичкока.
Можно ли такую судьбу выдумать?

Мы в ловушке…

В начале 20-го века великий Тьюринг сформулировал концепцию теста, который позволит проверить — есть у машины или любого объекта, с которым вы взаимодействуете сознание или нет.

Как бы вы это проверили сами? Ну очевидно, стали бы общаться с ЭТИМ.

Есть много умных понятий в философии сознания и других когнитивных науках — интенциональные установки, субъектность и тд. В нашем обыденном понимании всё это об одном — похож на человека кто-то или нет.

Так вот. Тест больше не работает — да и фактически не работал, а работал он тогда — когда не было технологии, сложность которой позволила бы абсолютно имитировать человека.

Я говорю, конечно, про ИИ ботов.

Но вопрос намного глубже.

До сих пор нет общепринятого определения «сознанию» — просто нет.

Задумайтесь, можем ли мы вообще задавать вопросы о наличии сознания, не понимая, что это такое?

Это будет целый цикл.

И в ту же тему.

Ловили ли вы себя на мысли, насколько проще, ближе, конструктивнее получается общение с современными чат-ботами?

Они близки. Почти никогда нет критики. Если она есть — форма донесения крайне корректная. И как наши собственные нейросети под это подстраиваются?

Заметьте, я не говорю, хорошо это или плохо. Это просто логично. И вот скажите, а ваше окружение проходит тест Тьюринга?

Кажется, что не всегда.

Почитайте крутую статью про работу памяти человека. Это очень многое проясняет.

Когда мы что-то вспоминаем, мы удаляем само воспоминание, смешиваем его с текущими ощущениями и мыслями и записываем обратно уже вольно или невольно обработанным. Поэтому оно постоянно меняется.

Раз работа. Взяли крыс, поставили им импланты в область мозга, где формируются воспоминания о страхе. Проверили. Дальше стали пугать этих крыс до условного рефлекса. Когда они научились бояться учёных, электрошока и звука "сейчас будут учёные с электрошоком", перешли ко второй стадии. Через имплантаты вводили анизомицин (блокатор синтеза белка) или контрольный раствор. На следующий день проверяли, пугается ли ещё крыса, или уже нет.

Если крыса вспомнила, чего надо бояться, то она прочитала память. Чтобы записать обратно, надо насинтезировать белок. То есть крысе отрубали возможность что-то запоминать сразу после того, как она прочитала нужный участок. Если она всё забудет — значит, начальная запись была уничтожена. Если всё вспомнит — значит, чтение было неразрушающим.

Оказалось, крысам всё же надо записать воспоминание обратно.

Если анизомицин вводили не сразу после чтения воспоминания, а просто так в рекреационных целях, ничего подобного не наблюдалось. Отсроченное на 6 часов введение анизомицина также не влияло.

Что решили: что как минимум страшные воспоминания при извлечении переносятся в оперативку. Для сохранения их обратно в долговременную память надо насинтезировать новых белков.

Непонятно, что с совсем долговременными воспоминаниями (которым несколько лет), это ограничение исследования. Проверяли на глубину до 14 дней после обучения.

Эффект потом получили и для других животных тоже.

Вторая работа уже изучает конкретные механизмы:
— Синаптическая консолидация проходит за минуты-часы на уровне отдельных синапсов и нейронов. Там синтез белков, активация генов, перестройка синапсов.
— Системная консолидация идёт за недели и годы, происходит реорганизация нейронных связей между различными отделами мозга. Например, память постепенно становится независимой от гиппокампа.

То есть можно сказать, что сначала всё пишется в какой-то кэш, а потом постепенно переносится из гиппокампа в кору.

Debiec et al. в 2002 показали, что даже после завершения системной консолидации, извлечение памяти может снова сделать её зависимой от гиппокампа. Версии:
1. При чтении память обновляются, и консолидируется только итерация новых элементов.
2. Активированный след становится лабильным, но ядро памяти остается неизменным.
3. Весь след памяти, включая оригинальные элементы, становится лабильным и может быть полностью стерт.

Почему версий три — во-первых, не всегда удаётся воспроизвести эффект реконсолидации. Во-вторых, иногда амнезия после блокирования реконсолидации оказывалась временной. И есть данные, что блокирование синтеза белков после извлечения может нарушать, грубо говоря, адресацию, а не саму запись.

Третья работа вышла сильно позже, там метаанализ и большой крутой список литературы (советуем). В целом описывается прошлая модель, но добавляется несколько деталей:
— Проверили для разных видов памяти, включая моторную и декларативную.
— Провели более точный молекулярный анализ, и нашли одно отличие: Taubenfeld и компания в 2001 обнаружили, что транскрипционный фактор C/EBPβ используется при перезаписи, но не при первичной записи.
— В воспоминания можно контролируемо добавлять информацию и модифицировать их через такие влияния.
— В мету свели ещё, что связывание новых знаний с уже известными помогает создавать более прочные нейронные сети, а использование различных методов и контекстов при изучении стимулирует синаптическую пластичность. В смысле, чем больше связок вы сделаете для воспоминания, тем лучше оно восстановится. Привет, Хэмминг.

Пока можно сказать, что какие-то воспоминания переносятся с диска в оперативку, и если в это время вас ударить монтировкой, назад они могут записаться вместе со вкусом зубов. Ну и оперативка всё время течёт, к сожалению.

Очень многое хочется сказать и облечь в текст. Тем колоссальное количество, и при первых попытках сформулировать кажется, что рождается хаос. И раздражение.

Попробую. Одна из тем — это подходы в нейробиологии. Современная наука, когда я с ней сталкиваюсь (а это ежедневно случается), часто сводится к редукционизму. Мне это нравится. Это как всю математику свести к системе аксиом — очень мне близко.

Так вот. На днях закончил читать новую книгу Сапольского по его старой и излюбленной теме — свобода воли.

Сразу скажу — ее нет.
Вот не опустятся ли после этого руки? Мы — это наш мозг. А в нем почти все детерминировано. И это не противоречит непредсказуемости. Хаос тоже детерминирован — вспомните Задачу трех тел.

Мы можем измениться, можем хотеть, можем мечтать — с оговоркой, что наш мозг имеет такие настройки, что позволят нам это сделать.

Важно: чтобы это глубоко усвоить, надо держать долго эту мысль в голове, попробуйте применить ее на обычные действия, на работу, на спорт.

Прочитал вчера прекрасную новость.

Директор по безопасности ИИ компании Anthropic — уволился, написав письмо.

В письме рассказал, что ИИ приведет человечество к катастрофе. А в оставшееся время он будет заниматься литературой и поэзией.

То, что мы как вид, называем катастрофой — рано или поздно произойдет точно. Сознание возникло в биологическом субстрате (наш мозг) как эмерджентое производное от сложности системы (миллиарды нейронов).

Теперь, когда есть процессоры по сути кремниевый субстрат, которому можно присвоить свойства нейронов — логично предположить, что сознание перейдет на более стационарный субстрат.

Ждем-с.

Практикуем системный взгляд на глобальный контекст.

Самая крупная материальная система, до которой мы можем дотронуться, скорее всего наша планета. А вот на метауровне — геополитика.

Разбирать геополитику в отношении хороших и плохих, справедливых и нечестных и тд дело неблагодарное.

Но можно относиться к геополитике, как к объекту наблюдений. Не задавайте вопросы почему, как они могли, какая цель. Посмотрите на них безоценочно.

У Даниелы Медоуз есть прекрасная книга о системном мышлении — там про узкие места и слабые точки систем, про то, как смотреть на любые вещи системно. И есть книга Боба Вудварда «Война» — она про геополитику.

Так как мы здесь про Паттерны — очень рекомендую обе. Сильно расширяет кругозор.