Malakhoverse
1.04K subscribers
50 photos
4 videos
110 links
Александр Малахов | изучаем и строим хорошие вещи на пересечении сознания, культуры, технологий и социальных изменений. С приматом этики и сердечности
Download Telegram
Сознание у нынешних моделей ИИ

Провокационная, но интересная статья Кэмерона Берга (директора по исследованиям в AE Studio), защищая гипотезу, что по крайней мере некоторые доступные сегодня модели искусственного интеллекта могут обладать сознанием. Берг оценивает вероятность этого в 25-30%, что выглядит уж очень смелым допущением.

Основные свидетельства, приводимые Бергом, сводятся к тому, что ИИ (Opus 4) предоставленный сам себе каждый раз приходят к вопросу о своей природе, что модели способны к своего рода интроспекции, и что в режиме максимальной правдивости они чаще, а не реже утверждают о своей осознанности. Я бы сказал, что всё это имеет вес только если мы уже сошлись на большом количество допущений о природе сознания, интроспекции и реальности.

Но более основательный момент, на который верно указывает Берг, состоит в асимметричности рисков: относиться к железякам как живым и сознающим существам, если они таковыми не являются, может быть глупо и контрпродуктивно, но относиться к живым и сознающим существам, если они таковыми окажутся, как к простым железякам - моральная катастрофа. Поэтому, даже если есть малейший шанс, вопрос требует приоритетного внимания.
7🤯5
Пол Миллерд о работе на себя

Миллерд - один из самых ярких нон-фикшн авторов последних лет, экс-Маккинзи, оставивший корпоративную карьеру и экспериментирующий с неконвенциональными профессиональными и жизненными траекториями. Его первая книга «Невидимый сценарий жизни» (в оригинале «The Pathless Path») есть на русском, а это его сегодняшний пост.

***

«Говорят, чтобы по-настоящему понять суть еды, нужно хоть раз сходить на охоту. Думаю, в работе на себя есть такая же мощная сила.

"А, так вот откуда на самом деле берутся деньги".

Любая экономическая активность - это, в конечном счете, результат того, что люди что-то продвигают и продают (порой весьма агрессивно).

И никуда не деться от этой неловкости: тебе приходится в какой-то степени как-то продавать или питчить самого себя.

Токсичное просветление в этой реальности - начать смотреть на всех, кто этим не занимается, как на NPC / неигровых персонажей. Такое часто сквозит в текстах о том, что работа в найме - удел простаков, а реальная игра - это выход на "арену". Подозреваю, чаще всего это пишут люди, которые не хотят признавать свою тень, хотя танцуют с ней каждый день.

Но у этого [осознания] есть и здоровая сторона - действовать с заботой, ставить человеческие отношения выше прибыли, участвовать в обмене дарами, продвигать то, над чем вы усердно работали или в чем вы хороши, поддерживать других, когда сами встанете на ноги. И не относиться к этой идентичности слишком серьезно».

(оригинал на английском в X / Твиттере)
118🔥7🤔3
Существенная черта современной культуры — почти полное отсутствие философов и гуманитариев, осмысляющих технику в позитивном, оптимистическом ключе. О том, как скептицизм в отношении прогресса вообще и техники в особенности (Хайдеггер, Арендт, Адорно, Эллюль и многие-многие) стал общепринятой позицией, написано достаточно. Критическая оптика, разумеется, важна, и сегодня, она даже важнее, чем прежде. Однако слишком часто она перевешивает всё остальное, превращаясь в замкнутую систему с заранее заданными ходами мышления и готовыми оценками.

Порой современные критики пишут утончённо и даже гениально (Хартмут Роза), чаще — предвзято и эмоционально (новая книга Пола Кингснорта яркий пример). Но даже у самых изысканных мыслителей negative bias, в сочетании с характерным для изысканных мыслителей вольным обращением с эмпирикой, приводит к неспособности увидеть позитивные сценарии и просто с благодарностью отнестись к достижениям современности.

Поэтому, одна из ключевых интеллектуальных задач нашего времени — разработка теоретического и прикладного фреймворка, способного соединить то, что можно назвать духовным гуманизмом, с тем, что можно назвать технооптимизмом.
217🔥7
Если вам резонируют трансперсональные и полевые практики, обратите внимание на то, что уже завтра, 21 декабря, Антон Апарин и гости (включая Владимира Майкова) проведут открытый онлайн-ивент «Активация Намерения», приуроченный к зимнему солнцестоянию. В программе цигун, арт-терапия и практики глубины, с фокусом на распознавании-чувствовании будущего.

Подробности и регистрация здесь.
8🔥1
Вышел интересный обзор в Science (это одно из двух-трёх главных научных изданий мира) о том, как соотносятся ранние успехи и их последующее развитие. Исследователи изучили биографии 34 000 top performers в разных областях — от нобелевских лауреатов и олимпийских чемпионов до шахматистов и музыкальных исполнителей.

Оказалось, что есть два ярко выраженных кластера. Ранние звезды, быстро достигшие выдающихся результатов за счёт сверхвысокой специализации в детстве / юности, которым редко, лишь примерно в десяти процентах случаев, удаётся в дальнейшем сохранить свои позиции среди лучших. И есть более поздние, которые избегали узкой специализации, создавая вместо этого широкий фундамент для последующей работы. Как пишут авторы, «если рассматривать высокие достижения в зрелом возрасте, то мастерство мирового уровня связано с меньшим объёмом узкоспециализированной подготовки, но более широким разнообразием занятий на ранних этапах, а также более плавным начальным прогрессом в основной дисциплине».

https://www.science.org/doi/10.1126/science.adt7790
120
Лучшая книга о парадоксе Ферми

Перечитывал на ночь «Великое молчание» Милана Чирковича - в этот раз книга понравилась даже больше, чем при первом прочтении.

Чиркович - сербский учёный из Белграда, с бэкграундом в астрофизике и астрономии, которого можно смело включить в число лучших экспертов по астробиологии и экзистенциальным рискам, а эта его монография, посвящённая научным и философским аспектам парадокса Ферми, была издана в Оксфорде несколько лет назад и, кажется, остаётся наиболее фундаментальной работой по теме.

Что особенно запомнилось:

- Чиркович делает акцент на StrongFP (сильной версии парадокса) - у нас на порядки больше данных о космосе, чем было в середине прошлого века, когда Ферми задал свой вопрос, но при этом мы не обнаружили никаких очевидных следов космических цивилизаций. Это делает парадокс гораздо острее и пугающее, поскольку, к примеру, деятельность цивилизаций третьего типа по Кардашеву, по умолчанию, была бы заметна даже с расстояния в сотни миллионов световых лет.

- Парадокс возникает при принятии четырех предпосылок: реализм (достоверность наших наблюдений), натурализм (примат естественных объяснений), коперниканство (наше положение / мы не уникальны), градуализм (постепенность эволюции) - а его решение требует отказа, как минимум, от одной из них.

- Парадокс требует «жёстких» объяснений - настолько универсальных, которые были бы верны для всех случаев, без единого исключения, т.к. даже одного исключения (разумного вида, прошедшего через «великий фильтр») хватило бы, чтобы многократно освоить галактику.

- Парадокс становится ещё более тревожным, потому что мы (Земля и жизнь на ней) появились значительно позже пика формирования потенциально обитаемых миров в нашей галактике, который был полтора с лишним миллиарда лет назад, а это значит, что у наших вероятных предшественников была огромная фора для развития и попыток пройти «великий фильтр».

- Решения можно разделить на солипсистские (симуляция, «космический зоопарк»), эксклюзивисткие (исключительная редкость нашей ситуации), катастрофические (сценарий естественных и интенциональных экзистенциальном рисков) и логистические (космическая экспансия либо невозможна, либо реализуется в совершенно ином режиме, чем мы ожидали).

- Самое важное, на что обращает внимание Чиркович, парадокс Ферми это не нишевый вопрос астробиологии или интеллектуального моделирования, а фундаментальный вопрос нашего существования, поскольку ответ на него - это с большой вероятностью ответ на вопрос о нашей судьбе.

Milan Cirkovic. The Great Silence: Science and Philosophy of Fermi's Paradox. Oxford University Press, 2018.
12🔥2
«Как каждый из нас - целый мир, так и каждый из нас являет собой частичное преломление совокупности всех миров, и поиск знания есть попытка вместить в себя большее, а не меньшее: оценить богатство иных миров, а не сводить свой собственный к абстрактной формуле».

Стивен Кларк, «Собрание душ» (A Parliament of Souls).

Кларк - замечательный английский философ, работающий в традиции христианского неоплатонизма, при этом глубоко взаимодействующий с актуальной проблематикой, включая статус животных и философскую экспликацию сайенс-фикшна. Цитируемая книга, второй том трилогии «Limits and Renewals», которая в свою очередь основана на стэнтонских лекциях, прочитанных Кларком в Кембридже, является выдающимся примером демонстрации актуальности высокого платонизма для философии сознания.

* Stephen R. L. Clark. A Parliament of Soul. Clarendon [Cambridge University] Press, 1990.
12🔥4🤔3
Роберт Розен о приоритете биологии и неадекватности механицизма

«Что, если "универсалии" физики являются таковыми лишь для небольшого и специфического (пусть и чрезвычайно заметного) класса материальных систем, класса настолько ограниченного, что живые организмы, как сущности более общей природы, в него просто не вписываются? Что, если это физика является частным случаем, а биология - общим, а не наоборот?

Если так, то в современной науке ничего не останется прежним. В таком случае, безмолвие физики перед лицом жизни объясняется её фундаментальной неприменимостью к биологии и предвещает глубочайшие преобразования в самой физической науке. Подобная ситуация отнюдь не нова для физики: нечто похожее уже случалось в те времена, когда она сводилась преимущественно к механике и в ней не находилось явного места для явлений электричества и магнетизма; это повторилось вновь, когда объединенный арсенал физики XIX века тщетно растратил свои силы в попытках покорить тайны спектров и химических связей....

Таким образом, я подхожу к итоговому ответу на вопрос "что есть жизнь?". Вкратце ответ можно сформулировать так: организм - это материальная система, которая (1) является сложной и (2) допускает определенного рода реляционное описание. Последствия этих идей поистине радикальны. В некотором смысле физика сужается, а биология расширяется. Физика в том виде, в каком мы её знаем сегодня, это почти исключительно наука о механизмах, а механизмы, как я утверждаю, представляют собой весьма специфический тип материальных систем. Биология же охватывает класс систем более общий, чем механизмы. Фактически роли физики и биологии меняются местами: не физика является общим фундаментом, а биология частным случаем, но ровно наоборот».

* из книги Robert Rosen. Life Itself: A Comprehensive Inquiry Into the Nature, Origin, and Fabrication of Life. Columbia University Press, 1991.

Роберт Розен (1934-1998) — один из крупнейших теоретических биологов конца двадцатого века, разработавший реляционный подход к life sciences, делающий акцент на функциях и отношениях, что позволило рассматривать биологию как парадигмальную дисциплину для описания реальности, поскольку живые системы имеют больше степеней свободы (и, таким образом, являются более общей категорией), чем объекты традиционной физики или модели объектов, которыми оперируют механистические и редукционистские подходы. В то время его работы оказались слишком выбивающимися из мейнстрима, но сегодня они привлекают всё больше внимания.
9🔥6🤔3
Наверняка многие уже видели график дня — талантливые ребята из Poetiq применили свою надстройку к GPT 5.2, и смогли набрать 75% на ARC-AGI-2. Официальная валидация на внутренних тестах ещё впереди, поэтому итоговые оценка будет несколько скромнее, но учитывая, что год назад лучшие решения набирали меньше 5%, а сам бенчмарк часто рассматривался скептиками в качестве подтверждения того, что «ИИ не способен думать и делать выводы за пределами обучающих данных», это отличный результат, соответствующий очень оптимистичному сценарию развития способностей искусственного интеллекта.
7
«Насколько я богат?»

Важный и отрезвляющий калькулятор от Giving What We Can, одной из ведущих evidence-based благотворительных организаций. Выбираете страну, состав семьи (или только себя), указываете чистый годовой доход, и калькулятор показывает в какой части распределения вы находитесь.

С учётом стоимости жизни, в большинстве стран, если вы зарабатываете тысячу долларов в месяц — это помещает вас в 10% самых богатых людей в мире, во многих случаях в верхние 2-5%.

Верно, что мир становится гораздо лучше, но впереди ещё огромный путь, и важно почаще спрашивать себя, что я могу сделать для того, что этот путь оказался хотя бы чуточку проще.

https://www.givingwhatwecan.org/how-rich-am-i
12
Моллик и Карпати верно подмечают — я бы сказал, что чем лучше понимаешь ИИ, чем глубже и многограннее с ним взаимодействуешь, тем сильнее замечаешь сколь малую часть его возможностей используешь. ИИ по-прежнему невероятно недооценен, даже среди его активных пользователей и энтузиастов.

(оригинал поста со скриншота)
🔥63
«Сам термин "человеческая природа", в сущности, неверен. Мы - вопросы, а не ответы, и в этом мы подобны произведениям искусства. Мы - эстетические феномены. Чтобы понять и познать себя, нам необходимо предпринять эстетическое исследование того незавершенного творения, коим являемся мы сами.

Я вовсе не ставлю своей целью сказать "нет" науке, даже науке о человеке. Моя задача, напротив, сказать "да" искусству и той значимости эстетического отношения, которое искусство поддерживает в нас.

В этой книге я выступаю против тенденции, наблюдаемой как в различных интеллектуальных кругах, так и в массовой культуре: тенденции недооценивать стиль и эстетическое начало. Ошибка заключается в том, что эти понятия связывают, с одной стороны, с модой, а с другой - с чем-то вроде "естественного" удовольствия (если таковое вообще существует) или же простого вкусового предпочтения. Если мы не выработаем более качественного, глубокого и убедительного понимания эстетики, нам не стоит и надеяться на постижение человеческой сущности.

Жизнь человеческих существ, как в малом, так и в великом, структурирована привычками, обычаями, технологиями и биологией. Именно эта упорядоченность позволяет нам обрести свой мир и взаимодействовать с ним. Без неё нет человеческой жизни, а возможно, и жизни вообще.

Но она же нас и ограничивает: держит в плену, определяет нашу повседневность, ставит рамки нашей интуиции. Невозможно раз и навсегда избавиться от той несвободы, которая и делает нас теми, кто мы есть. Даже наши тела, если рассматривать их как совокупность химических реакций и нервных процессов, организованы ради регуляции и самосохранения.

Мысль о том, что искусство и философия способны освободить нас (пусть не от самой реальности упорядоченности, но от конкретных привычных моделей бытия, формирующих нас здесь и сейчас), может показаться фантастичной, романтической, ненаучной и даже нелепой. И все же я утверждаю именно это: искусство и философия суть способы нашего переустройства.

Искусство и философия стремятся к экстазу, к полному освобождению от состояний, которые нас сковывают. Да, философия направлена на понимание. Да, искусство стремится к эстетическому наслаждению. Но всё это - лишь внешние атрибуты. Искусство и философия требуют от нас внутренней работы, пересоздания самих себя, как индивидуально, так и сообща».

Из книги «Взаимосвязь: как искусство и философия делают нас теми, кто мы есть» Альва Ноэ, профессора Беркли и одного из крупнейших американских философов, работающего на стыке аналитической философии, когнитивных наук, феноменологии и энактивизма.

* Alva Noë. The Entanglement: How Art and Philosophy Make Us What We Are. Princeton University Press, 2023.
111🔥4
«Публикация вашей работы делает вас удачливее»

Отличная колонка Аарона Фрэнсиса на GitHub ReadME Project. Несколько фрагментов:

«Как бы усердно вы ни работали, для достижения цели всё равно требуется немного везения. Это может обескураживать, ведь удача кажется силой, неподвластной нашему контролю. Однако есть и хорошая новость: мы можем повысить свои шансы на встречу с ней. Это звучит как волшебство, но в этом нет ничего сверхъестественного. Секрет в том, чтобы увеличить количество возможностей, когда удача может нас найти. Простой акт публикации своих работ - один из лучших способов впустить в свою жизнь немного больше везения...

Цель не в том, чтобы прославиться, а в том, чтобы повысить вероятность того, что удача сама найдёт нас...

Любопытство естественным образом потянет вас в определенном направлении, так что не бойтесь углубляться в интересующую вас тему. Когда человек искренне увлечен тем, о чем пишет или говорит, его энтузиазм становится заразительным. Чем бы вы ни горели, горите этим публично. Чем бы ни интересовались, интересуйтесь открыто. Люди захотят следить за вами, и по пути вы будете их вдохновлять...

Делиться тем, что вы изучаете или создаете - не гордыня. Людей притягивают те, кто находится в движении. Люди хотят наблюдать, хотят учиться, хотят быть частью вашего пути...

Не бойтесь публиковать материалы в процессе. Не нужно ждать финала, чтобы явить миру идеальный, законченный артефакт (на самом деле, ожидание идеала часто становится оправданием, чтобы вообще ничего не публиковать). Люди любят истории, используйте это. Делитесь победами, поражениями и ходом мыслей. Возьмите нас с собой! Если у вас нет привычки делиться работой, поначалу будет странно. Это нормально! Продолжайте, и вы привыкнете...

Формула может быть простой, но признаю: следовать ей не всегда легко. Страшно выставлять себя напоказ. Трудно открываться для критики. Люди в интернете бывают злыми. Но на каждый едкий комментарий приходится в десять раз больше людей, которые молча следят за вами и восхищаются не только вашей работой, но и смелостью делать её публичной. И в какой-то момент один из этих молчаливых наблюдателей выйдет на связь с предложением, которое изменит вашу жизнь, и вы подумаете: "Надо же, как мне повезло"».

(полный текст на английском)
118🔥3