Сможете, не подглядывая, схематично нарисовать велосипед? Который поедет…

В продолжение поста. Смотрите крутую статью на Хабре.
Вы когда-нибудь мечтали, как построите цивилизацию на необитаемом острове? Сможете объяснить, как получается электричество? Сможете добыть и очистить воду?

https://habr.com/ru/articles/991614/

Немного истории. Крутой истории.

1920 год. Телеков еще нет, все аналоговое. А наш соотечественник придумал инструмент — в основе которого технология абсолютно новая, не струны, не ударные принципы — электромагнитные поля.

Лев Термен — я уверен (может просто еще не видел) но про него можно снять обалденный фильм.

Что он сделал:
• Изобрел первый электронный музыкальный инструмент — терменвокс
• Играл на нем для Ленина в Кремле (тот был в восторге!)
• Покорил Америку и дружил с Эйнштейном
• Создал первую систему телевидения
• Изобрел автоматические двери и охранные системы
И немного (много) дегтя:
• 1938 — внезапный арест
• 8 лет лагерей в “шарашке”
• Работал над секретными проектами с Туполевым и Королевым
• Создал знаменитую “жучок” в Большой печати США (работал 7 лет незамеченным) — про это отдельно расскажу, крутейшая история.
Прожил 97 лет, вернулся к музыке, а его терменвокс стал основой всей электронной музыки
Led Zeppelin, Beach Boys, саундтреки Хичкока.
Можно ли такую судьбу выдумать?

Мы в ловушке…

В начале 20-го века великий Тьюринг сформулировал концепцию теста, который позволит проверить — есть у машины или любого объекта, с которым вы взаимодействуете сознание или нет.

Как бы вы это проверили сами? Ну очевидно, стали бы общаться с ЭТИМ.

Есть много умных понятий в философии сознания и других когнитивных науках — интенциональные установки, субъектность и тд. В нашем обыденном понимании всё это об одном — похож на человека кто-то или нет.

Так вот. Тест больше не работает — да и фактически не работал, а работал он тогда — когда не было технологии, сложность которой позволила бы абсолютно имитировать человека.

Я говорю, конечно, про ИИ ботов.

Но вопрос намного глубже.

До сих пор нет общепринятого определения «сознанию» — просто нет.

Задумайтесь, можем ли мы вообще задавать вопросы о наличии сознания, не понимая, что это такое?

Это будет целый цикл.

И в ту же тему.

Ловили ли вы себя на мысли, насколько проще, ближе, конструктивнее получается общение с современными чат-ботами?

Они близки. Почти никогда нет критики. Если она есть — форма донесения крайне корректная. И как наши собственные нейросети под это подстраиваются?

Заметьте, я не говорю, хорошо это или плохо. Это просто логично. И вот скажите, а ваше окружение проходит тест Тьюринга?

Кажется, что не всегда.

Почитайте крутую статью про работу памяти человека. Это очень многое проясняет.

Когда мы что-то вспоминаем, мы удаляем само воспоминание, смешиваем его с текущими ощущениями и мыслями и записываем обратно уже вольно или невольно обработанным. Поэтому оно постоянно меняется.

Раз работа. Взяли крыс, поставили им импланты в область мозга, где формируются воспоминания о страхе. Проверили. Дальше стали пугать этих крыс до условного рефлекса. Когда они научились бояться учёных, электрошока и звука "сейчас будут учёные с электрошоком", перешли ко второй стадии. Через имплантаты вводили анизомицин (блокатор синтеза белка) или контрольный раствор. На следующий день проверяли, пугается ли ещё крыса, или уже нет.

Если крыса вспомнила, чего надо бояться, то она прочитала память. Чтобы записать обратно, надо насинтезировать белок. То есть крысе отрубали возможность что-то запоминать сразу после того, как она прочитала нужный участок. Если она всё забудет — значит, начальная запись была уничтожена. Если всё вспомнит — значит, чтение было неразрушающим.

Оказалось, крысам всё же надо записать воспоминание обратно.

Если анизомицин вводили не сразу после чтения воспоминания, а просто так в рекреационных целях, ничего подобного не наблюдалось. Отсроченное на 6 часов введение анизомицина также не влияло.

Что решили: что как минимум страшные воспоминания при извлечении переносятся в оперативку. Для сохранения их обратно в долговременную память надо насинтезировать новых белков.

Непонятно, что с совсем долговременными воспоминаниями (которым несколько лет), это ограничение исследования. Проверяли на глубину до 14 дней после обучения.

Эффект потом получили и для других животных тоже.

Вторая работа уже изучает конкретные механизмы:
— Синаптическая консолидация проходит за минуты-часы на уровне отдельных синапсов и нейронов. Там синтез белков, активация генов, перестройка синапсов.
— Системная консолидация идёт за недели и годы, происходит реорганизация нейронных связей между различными отделами мозга. Например, память постепенно становится независимой от гиппокампа.

То есть можно сказать, что сначала всё пишется в какой-то кэш, а потом постепенно переносится из гиппокампа в кору.

Debiec et al. в 2002 показали, что даже после завершения системной консолидации, извлечение памяти может снова сделать её зависимой от гиппокампа. Версии:
1. При чтении память обновляются, и консолидируется только итерация новых элементов.
2. Активированный след становится лабильным, но ядро памяти остается неизменным.
3. Весь след памяти, включая оригинальные элементы, становится лабильным и может быть полностью стерт.

Почему версий три — во-первых, не всегда удаётся воспроизвести эффект реконсолидации. Во-вторых, иногда амнезия после блокирования реконсолидации оказывалась временной. И есть данные, что блокирование синтеза белков после извлечения может нарушать, грубо говоря, адресацию, а не саму запись.

Третья работа вышла сильно позже, там метаанализ и большой крутой список литературы (советуем). В целом описывается прошлая модель, но добавляется несколько деталей:
— Проверили для разных видов памяти, включая моторную и декларативную.
— Провели более точный молекулярный анализ, и нашли одно отличие: Taubenfeld и компания в 2001 обнаружили, что транскрипционный фактор C/EBPβ используется при перезаписи, но не при первичной записи.
— В воспоминания можно контролируемо добавлять информацию и модифицировать их через такие влияния.
— В мету свели ещё, что связывание новых знаний с уже известными помогает создавать более прочные нейронные сети, а использование различных методов и контекстов при изучении стимулирует синаптическую пластичность. В смысле, чем больше связок вы сделаете для воспоминания, тем лучше оно восстановится. Привет, Хэмминг.

Пока можно сказать, что какие-то воспоминания переносятся с диска в оперативку, и если в это время вас ударить монтировкой, назад они могут записаться вместе со вкусом зубов. Ну и оперативка всё время течёт, к сожалению.

Очень многое хочется сказать и облечь в текст. Тем колоссальное количество, и при первых попытках сформулировать кажется, что рождается хаос. И раздражение.

Попробую. Одна из тем — это подходы в нейробиологии. Современная наука, когда я с ней сталкиваюсь (а это ежедневно случается), часто сводится к редукционизму. Мне это нравится. Это как всю математику свести к системе аксиом — очень мне близко.

Так вот. На днях закончил читать новую книгу Сапольского по его старой и излюбленной теме — свобода воли.

Сразу скажу — ее нет.
Вот не опустятся ли после этого руки? Мы — это наш мозг. А в нем почти все детерминировано. И это не противоречит непредсказуемости. Хаос тоже детерминирован — вспомните Задачу трех тел.

Мы можем измениться, можем хотеть, можем мечтать — с оговоркой, что наш мозг имеет такие настройки, что позволят нам это сделать.

Важно: чтобы это глубоко усвоить, надо держать долго эту мысль в голове, попробуйте применить ее на обычные действия, на работу, на спорт.

Прочитал вчера прекрасную новость.

Директор по безопасности ИИ компании Anthropic — уволился, написав письмо.

В письме рассказал, что ИИ приведет человечество к катастрофе. А в оставшееся время он будет заниматься литературой и поэзией.

То, что мы как вид, называем катастрофой — рано или поздно произойдет точно. Сознание возникло в биологическом субстрате (наш мозг) как эмерджентое производное от сложности системы (миллиарды нейронов).

Теперь, когда есть процессоры по сути кремниевый субстрат, которому можно присвоить свойства нейронов — логично предположить, что сознание перейдет на более стационарный субстрат.

Ждем-с.

Практикуем системный взгляд на глобальный контекст.

Самая крупная материальная система, до которой мы можем дотронуться, скорее всего наша планета. А вот на метауровне — геополитика.

Разбирать геополитику в отношении хороших и плохих, справедливых и нечестных и тд дело неблагодарное.

Но можно относиться к геополитике, как к объекту наблюдений. Не задавайте вопросы почему, как они могли, какая цель. Посмотрите на них безоценочно.

У Даниелы Медоуз есть прекрасная книга о системном мышлении — там про узкие места и слабые точки систем, про то, как смотреть на любые вещи системно. И есть книга Боба Вудварда «Война» — она про геополитику.

Так как мы здесь про Паттерны — очень рекомендую обе. Сильно расширяет кругозор.

Одно из лучших упражнений на развитие мышления — это умение смотреть на собственные рассуждения и выводы с критической позиции.

Представьте — вот сейчас очень внимательно— мы привыкли в своей обычной жизни, например, к следующему правилу — два противоречащих суждения не могут дать истинными и ложными одновременно.

Тут вдумайтесь.

Например: животное может уметь летать или не может. Смотрим на улитку — очевидно крыльев нет (и прочих приблуд для полета). Делаем вывод — летать не может.

Это классическая логика — еще с Аристотеля и прочих древних умников.

На аргументе от противного построены сотни и даже тысячи доказательств.

Но доказательство от противного не я является конструктивным! Очень внимательно тут. Очень!
Вдумайтесь — если вы докажете, что после 2 не идет ни одно число кроме 3, это не значит, что 3 идет после 2.
Доказать надо именно это.

Это сильно расширяет кругозор.

Слышал в передаче, как рассуждали о регулировании ИИ.
Ни к чему это не приведет. Система, изначально спроектированная, как образец поиска наилучшего варианта — подстроится к любому регулированию.

И еще момент — все ИИ на текущий момент, калька человеческого (общечеловеческого) опыта. Чтобы регулировать ИИ — придется регулировать себя.

Смотрите какую крутую тему я придумал.
Точнее додумался — это как раз то, о чем мой канал.

Паттерны.

Есть компаративситика. Сложное слово — но оно про сравнение языков в лингвистике. Ну то есть о том, как понять близки ли языки, насколько давно разошлись. Расскажу подробнее в следующих постах.

А есть филогенетика. ТО ЖЕ САМОЕ но в биологии. Когда по сравнению последовательностей ДНК на молекулярном уровне точно также определяют, насколько давно виды разошлись, какие из них близки и тд.

Две науки. Один подход. Даже не подход (как научный метод) а в принципе один инструмент.

Космос. Паттерны.
Читайте книги. Это расширяет кругозор.

Время уходит.

И человек проигрывает необъявленную войну. Войну тихую. Войну логики, войну спонтанно возникшего у Homo sapiens страха смерти с достижениями ИИ.

По закону Амары, мало кто сейчас может оценить влияние технологии на длинном интервале. Но этот интервал не десятилетия — а года и месяцы.

Новая новость о том, что GEMINI является лучшим математиком на земле и решил четыре нерешенных проблемы, вызывает восторг и тревогу. Как стать случайным свидетелем катастрофы, вроде извержения вулкана.

Мы думаем, что знаем, как работает велосипед. Но через несколько месяцев мы не сможем понять математический аппарат, который нейросети положат в основу следующих поколений.

Пора, кажется, приводить дела в порядок…

С одним паттерном сталкиваюсь практически ежедневно. К ИИ относятся как к базе знаний.
Один из модулей моего курса о том, что это ошибка (ну или миф).

Я расскажу — похоже на целый цикл.

СЛОВАРЬ.

Итак умники, рубрика вокабулярный вторник.

Много месяцев прокручиваю в голове мысль, связанную с трендами инфо поля.

Разные институты любят подводить итоги и присваивать цвет года, слово года, приложение года и тд.

Вот словом ближайших лет станет ЭМЕРДЖЕНТНОСТЬ (если что, я первый сказал).

Думаю об этом с декабря 2024.
Давайте разберемся, что это такое.

Представьте песчинку. Потом вторую. Затем третью… ну вы поняли.
Теперь вопрос — в какой момент появится куча песка. Ну или кучка (хотя бы). Свойство «куча» — когда оно возникает?

Одна молекула воды не мокрая. Молекулы вообще не мокрые и не сухие. Откуда возникает мокрость и что это такое?

Все это и есть проявление эмерджентности. Простым языком — эмерджентность — это появление свойств заранее не определениях в системе и не заложенных в составляющих ее частях.

Почему это важно. Я придерживаюсь системы мнений, в которых сознание (наше в частности) является как раз проявлением эмерджентости — слишком сложная система мозг, триллионы нейронных связей и тд. Как конкретно оно появляется непонятно пока. Сознание не сводится к сумме нейронов, и ничего в природе клетки не предсказывает появление сознания.

В ближайшие месяцы (ну может год) мы увидим как сознание эмергирует в нейронных сетях.

Попомните.

Сегодня в продолжение темы эмерджентности, подумал про социальный рейтинг.

Системы социального рейтинга возникнут в разное, но не такое далекое время в разных странах (в итоге во всех).

Давайте не будем про хорошо/плохо — такие категории вообще тут не рассматриваем.

Посмотрим на государство, как сложную многофакторную систему. Любая (прелюбая) система стремится к устойчивости. И государство как система — также. Даже понятие гомеостаза можно применить к анализу процессов (вспомните кривые спроса и предложения — это проявление гомеостаза в чистом виде). Так вот вернемся.

Накопление огромного массива данных, доступных для обработки, с логической необходимостью приведет к появлянию моделей оценки каждой частицы системы — человека, фирмы, города и тд.

Как это повлияет на жизнь конкретно вас — вопрос открытый.
Но следствие логично.

Смотрите, как прекрасно.

https://t.me/tsypkintherealone/6803

Ба-да-думс

https://t.me/naebnet/14641

ПРИРОДА ПОНИМАНИЯ

Работа нейронных сетей — должна для многих пролить свет на факт, что в мозгу биологическом (вашем) нет места, где хранятся данные, факты. Нет базы знаний. Нет флешки, которую можно вынуть.

Многие годы, доверие к ИТ системам строилось именно на том, что мы воспринимали их (системы эти) как библиотеки. Не знаешь — иди в библиотеку. Да качество данных бывает разное, бывает мусор, бывают нарочно глупые данные (как сайты плоскоземельщиков). Но! Тут вот важно.

Наличие такой записи в базе давало нам возможность к этим «фактам» аппелировать. Это как бумажку получить. Как будто в руках держишь, ну и в споре — хлоп — ссылка, раз — книга…

А теперь?

Вот нейросеть выдала информацию. Как она это сделала? В каких нейронных сетях это записано? Поэтому мы теряемся. И когда люди не из ИТ узнают, что ЧатГПТ — это Т9 на максималках, они расстраиваются. Прямо правда, я сам был свидетелем такой реакции.

Но парадокс в том, что наш мозг работает точно также! Что порождает сигнал мыслить? Не знаю. Но сигнал родится в нейроне и побежит по самому вероятному пути. Там, где аксон потолще. Там где синапс покрепче. И вот на выходе — теория относительности. Ну или ложка ко рту поднеслась 😊

Подумайте об этом.

Одна из тем, которые в ближайшее время я хочу рассмотреть — это построение теории (ну или анализ и переработка существующего завала информации) о возможности возникновения сознания (или того, что мы называем этим словом) на не биологическом субстрате.

Сложно? Да.

Возможно скоро отправлю статью в журнал ВАК.

Простыми словами. Мы (и вы, и я) в жизни используем логику. И большинство не задумывается, что аристотелеву. И еще большее большинство не знает, что кроме этой логики, есть системы (работающие!!) других логик. Но об этом позже.

Так вот. Моя мысль для статьи. Хорошо бы определить набор аксиом, минимальный и достаточный, чтобы в рамках нашей логики теорема о возникновении сознания в цифре, кремнии и тд была истинной.

ВОСКРЕСНОЕ ЧТЕНИЕ.

Сейчас читаю «Солярис» Станислава Лема.

Да, да, знаю. И стыжусь (нет) ☺️
Тот самый роман, по которому тот самый Тарковский снял, тот самый фильм.

Понятно, что классика — конечно, рекомендую прочитать.

Но хотел о другом. Я знаю, что многие не любят фантастику. И понимаю почему. Выдумки, лазеры, телепортация и тд. Мура.

Но та фантастика, которая становится великой — она не про «выдумки». Чаще это картины возможного будущего с философским подтекстом. Не в плане пустого размышления (если такое бывает), а в плане философии и логики развития человечества и разума. Там всегда поднимаются вопросы, кто мы, что мы, и какой мы можем атрибутировать смысл своей жизни.
Вспомните, что Тарковский снял «Солярис» в 1972 году. Какая уж тут фантастика.

Читайте хорошую фантастику. Это расширяет ваш кругозор.