Все что сегодня известно о креативности ИИ
Рассказывает «Супергерой ИИ», соучредитель DeepMind Демис Хассабис в прекрасно структурированной, визуально привлекательной и содержащий все, что нужно для понимания темы лекции Фонда Ротшильда: 50 мин. + 20 мин интересных Q&A.

Почему это важно. Эта тема определяет будущее десятков профессий. Тот, кто её понимает, получит серьезное преимущество. Но объяснить её просто за 50 мин. могут единицы. И это - тот самый случай.

1. Два подхода в ИИ: экспертная или обучающаяся системы.
2. Почему экспертный подход оказался тупиком (на примере шахмат и го)
3. Как двигаться дальше – к интуиции и креативности ИИ. Чего не хватает для этого у ИИ.
4. Что важнее всего: концепции, абстракции, аналогии, воображения. Похоже, что последнее.
5. Как мы воображаем: от эпизодической памяти – раскладке по полочкам к обратному процессу – воображению.
6. 1я реализация этого подхода - «Генерирующая сеть запросов» (GQN) - машина воображения для порождения 3D сцен (куму нужно, подробней здесь
7. Кейсы простого использования в искусстве, дизайне и науке.
8. А дальше путь к мета-решениям – инструментам превращения ИИ в акселератор прорывных научных открытий и недосягаемых ранее взлетов искусства.

В качестве приложения: Жизнь и карьера супергероя ИИ в фото и картинках

#ИИ #Креативность #Лекция

Открыт допинг для интеллекта.
Последствия труднопредсказуемы, но одно очевидно, - грядет бум гаджетов-стимуляторов.

Транскраниальная стимуляция мозга в перспективе может заменить многие наркотики и ноотропы на пути обретения сверхчеловеческих когнитивных способностей. На рынке уже есть всевозможные гаджеты, обещающие улучшить настроение, снять страхи и депрессию, убирать боль, контролировать беспокойство и лечить бессонницу.
У всех этих гаджетов и лежащих в их основе методов есть два серьёзных ограничителя для их широкого распространения.
1) Аналогичного эффекта можно достичь и без них с помощью традиционной и нетрадиционной медицины, разрешенных и не совсем наркотиков, все расширяющегося спектра ноотропов, а также алкоголя, медитации, секса … да мало чего еще.
2) Все они обещают лишь убрать у человека какие-то неприятные ощущения или состояния (от депрессии до бессонницы), не даруя людям каких-либо важных и ценных для них качеств.

А вот если бы была возможность повысить свой интеллект!
Хочешь, например, изобретать или найти способ, как обойти конкурентов, или написать какую-то совершенно невообразимую ранее музыку, или …, - включил гаджет и вперёд.
Все современные «усилители интеллекта» - это всевозможные «таблетки для ума» (типа фенотропила) балансирующие на грани полной профанации или плацебо, т.к. никаких серьезных исследований, подтверждающих их эффективность, нет.
Что же до транскраниальных стимуляторов интеллекта, то их нет, поскольку никто не понимает, как можно повысить человеческий интеллект, толком не понимая, как он вообще работает.
И вот прорыв.
Новое исследование «Right temporal alpha oscillations as a neural mechanism for inhibiting obvious associations» (правосторонние альфа-волны, как нейронный механизм подавления очевидных ассоциаций):
- во-первых, показало, как можно повысить интеллект, даже не понимая, как он работает;
- во-вторых, проверило действенность предложенного метода на 4х независимых экспериментах.
Дочитать (еще на 2 мин) можно:
- на Medium http://bit.do/eFTS7
- на Яндекс Дзен http://bit.do/eFTSZ
P.S. из-за российской и украинской блокировок перешёл на бразильский сокращатель ссылок. Если и с ним у вас будут заморочки, - дайте знать плз.

#Креативность #АльфаВолны #СтимуляцияМозга

Они видят сквозь пространство и время, а их мозг работает иначе
Они — эволюционный предшественник нового вида Homo imaginationis
Выводы нового исследования Дартмутской лаборатории социальной нейробиологии и Пристонского университета поражают сами по себе. Однако, когда начинаешь задумываться об интерпретации этих результатов, просто едет крыша.
Выводы таковы.
1) Творческий потенциал зависит от т.н. дистального моделирования – умения человека переноситься в воображении из его реальности «здесь и сейчас» к мирам, удаленным во времени и пространстве: физическом (удаление по расстоянию), семантическом (удаление по смыслу), вероятностном (удаление от текущего понимания вероятностей) и абстрактном (удаление по уровню абстрагирования от реальности).
2) Звезды креативности обладают уникальными возможностями дистального моделирования, осуществляемого ими путем задействования в мозге особого нейронного механизма - дорсомедиальной подсистемы сети пассивного режима.
Иными словами, (1) творческий потенциал зависит от возможности мысленно улететь как можно дальше от реальности, и (2) этим даром обладают люди, у которых мозг от рождения работает иначе, чем у большинства.

Таким образом, супер-креативные люди – своего рода имаджинавты, способные к ничем не ограниченным перемещениям по неисчерпаемой вселенной воображаемых миров.
Они подобны люденам из романов братьев Стругацкий - вымышленной человеческой расе, обладающей сверхчеловеческими возможностями, которые им даёт очень редкое генетическое отклонение - «третья импульсная система».
Но имаджинавты – не плод гениальной фантазии. Это реальные люди, живущие среди нас. А их сверхчеловеческая креативность (и, возможно, не только) – столь же редкое генетическое отклонение, как и «третья импульсная система» люденов.
Да и сами братья Стругацкие, конечно же, были имаджинавтами. Кто бы сомневался!

Детальней о выводах и об их удивительных возможных интерпретациях, читайте в моем новом посте (примерно 8 мин чтения):
• на Medium https://bit.ly/3MPaVKZ
• на Яндекс Дзен https://clck.ru/GVuVB

#Креативность #Воображение

В креативности человеку нет равных.
ИИ тоже хорош, но пока несравненно слабее.
Последнее время много пишут о том, будто ИИ уже обходит людей в креативности, и дальше людям здесь ловить нечего. Приводятся разнообразные примеры, типа:
- бессмертной шахматной партии нейросети Leela Chess Zero,
- удивительной способности ИИ в стилизации живописи
- или написания продолжения «Турецкого марша» Моцарта в стиле Рахманинова.

Однако, истинными вершинами человеческой креативности является не столько непревзойденное мастерство исполнения, сколько абсолютная новизна сделанного.
ИИ же превосходен лишь в исполнении. Он пока не придумал для человечества новой игры, типа шахмат, не создал новый стиль живописи, как Ван-Гог, не написал что-то для вечности, типа «Yesterday».

И даже в самом повседневном проявлении креативности – импровизации, - человек разделывает ИИ, как бог черепаху. Разнообразные примеры этого были только что продемонстрированы на AI for Good Global Summit в рамках сессии «Человеческое сотрудничество с AI-музыкантом».
В импровизации музыкальной пары Человек-ИИ лидирует человек, а ИИ выступает превосходным инструментальным доводчиком для импровизаций человека.

Еще более крутые примеры креативности – это немыслимые и никогда не существовавшие на свете виды деятельности. Например, новое аудио-визуальное искусство (тоже в паре с ИИ).

А вот вообще безумный пример того, на какую креативность способен человек от скуки во время карантинной самоизоляции. Как думаете - способен ли ИИ, подобно человеку, озадачиться изобретением алгоритма расчета оптимальных бутербродов с арахисовым маслом и бананом?

А всего-то делов!
Вы делаете фото имеющегося банана и кусков хлеба, пропускаете его через модель глубокого обучения, чтобы определить местонахождение указанных предметов, подгоняете к банану нелинейную кривую, преобразуете в полярные координаты и «разрезаете» банан по подобранной кривой, преобразуете эти ломтики в полигоны и загружаете их и хлебные «приемные контейнеры» в алгоритм 2D-оптимизации шаблонов резания. Вуаля!

Когда ИИ учудит хоть что-то подобное, тогда и поговорим о том, что он обходит людей в креативности 😎
#ИИ #Креативность

Антропоморфная ловушка разума.
Что движет нашей креативностью.
Справедливо ли считать, что Homo sapiens, живший 10 тыс. лет назад, своей креативностью (или разумом, интеллектом, и т.п.) уступал жившему в 18 веке величайшему в истории мастеру создания музыкальных инструментов Антонио Страдивари? А последний креативностью уступал современным специалистам, придумывающим и изготавливающим уникальные музыкальные инструменты в 21 веке?

Вот удивительный пример того, что оба эти предположения могут быть ошибочными.

Этот музыкальный автомат - деревянный ксилофон, - самостоятельно играет в лесу 147ю кантату Баха "Иисус - всегдашняя моя радость". И этот инструмент немыслимой природной конструкции вполне мог быть создан 10 тыс. лет назад. Технологии обработки дерева тогда уже позволяли сделать подобное. Да и с креативностью тогда было все в порядке, что подтверждается широким спектром изобретенных в те давние времена орудий.

Вот только мотивации создать подобный шедевр креативности не было. А в 21 веке такая мотивация появилась.

Ею стала необходимость выполнения японским рекламным агентством Mori Inc. заказа телекоммуникационной компании Docomo на видеоролик, рекламирующий новый мобильный телефон Touch Wood SH-08C – мобильник в деревянном корпусе (подробней, как создавался ролик, см. здесь).

Так в креативности ли дело? Или может все же в мотивирующей необходимости?
И если последнее, значит ли это, что вороны и дельфины не пошли путем создания техно-цивилизаций лишь потому, что на то у них не было необходимости?

Как было подмечено участниками этого недавнего обсуждения, помимо терминологической ловушки №1 (как определить, что есть разум, интеллект, сознание и т.д.), есть не менее опасная антропоморфная ловушка №2 – попытка трактовать эти понятия исключительно с человеческой точки зрения.
Иллюстрацией такой антропоцентричности является, например, точка зрения на искусство, как нецеленаправленное и непрагматическое проявление креативности Homo sapiens, коренным образом отличающее его разум от любого иного типа разума на Земле.

Но если направление развития разума определяется все же потребностями живого организма, то вправе ли мы ожидать изобретения деревянного музыкального автомата вороной или дельфином? Ведь даже Страдивари до такого не додумался.

Хотя получи он при жизни заказ на рекламу чего-то деревянного (при наличии тогда такого понятия, как реклама), то уж, наверное, выступил бы не хуже креативного директора рекламного агентства Mori Морихиро Харано 😁
#Разум #ИнойИнтеллект #Креативность

Лет через 30 (а может и через 300) «конституция биоматематики» (так я называю систему фундаментальных принципов жизни и разума, объединяющую их физическую, математическую, биологическую и когнитивную основы), возможно, будет считаться главным научным законом природы. Пока же это лишь система эвристических гипотез, хотя и на крепкой математической основе.
Тем интересней узнавать о появлении первых экспериментальных подтверждений, согласующихся с предсказаниями «конституции биоматематики».
✔️ Первым таким прорывом, стало исчерпывающее научное объяснение «иллюзии Луны», над которым человечество билось более двух тысяч лет. Оказалось, что магия великой иллюзии объясняется проективной геометрией в основе пространственной модели, используемой сознанием.
✔️ Новое экспериментальное подтверждение проективной модели сознания объясняет, каким образом в нем строится субъективное представление о времени.
✔️ Следствиями этого нового экспериментального подтверждения могут стать два научных прорыва:
• прорыв к полноценной теории сознания, воплощающего в себе субъективную точку зрения, необходимую для интеграции информации субъективного опыта и позволяющую интеллектуальному агенту создавать субъективные смыслы в понимании биологической кибернетики;
• прорыв в понимании механизма дистального моделирования – свойства людей мысленно улетать далеко от реальности “здесь и сейчас”; а в перспективе, – возможность экспериментального выявления «имаджинавтов» (супер-креативных людей, способных к ничем не ограниченным перемещениям по неисчерпаемой вселенной воображаемых миров Мультиверса).

Продолжить чтение моего нового поста (еще на 6 мин)
- на Medium https://bit.ly/3oO9CQV
- на Яндекс Дзен https://clck.ru/ZJzRK
#ПринципСвободнойЭнергии #ПроективнаяТеорияСознания #Имаджинавты #Воображение #Креативность

​​AI превратится в AGI, когда обретёт сознание.
И для этого ему потребуются задатки имажинавта.
О том, что 3 года назад писали лишь футурологи ИИ, сегодня пишут инженеры – практики солидных фирм.
В 2019 я написал пост на довольно важную для меня тему - про имажинавтов (людей со сверхразвитой способностью к ничем не ограниченным перемещениям в пространстве и времени по неисчерпаемой вселенной воображаемых миров). Эта способность, лежащая в основе креативности, базируется на т.н. дистальном моделировании, для которого в мозге задействован особый нейронный механизм — дорсомедиальная подсистема сети пассивного режима (подробней в моём посте).

Спустя 3 года совместными усилиями Microsoft Research и Araya Inc. (Япония), на мой взгляд, намечается прорыв.
Авторы исследования смогли увязать:
1. человеческую способность путешествовать во времени с сознанием;
2. три современные теории сознания с функциями общего (универсального) интеллекта (AGI);
3. современные методы глубокого обучения сначала с 2, а потом и с 1.
Тем самым исследователи Microsoft Research и Araya Inc. предлагают способ, с помощью которого понимание сознания в каждой из трех теорий можно объединить в единую унифицированную и реализуемую модель искусственных агентов, способных «мысленно» путешествовать во времени. Фишка такого похода в том, что, обладая этой возможностью, ИИ становится по-человечески креативным, и за счет этого у него появляется возможность развиваться до AGI человеческого уровня (естественно, при наличии опыта воплощенности или какого-то (пока не придуманного) его заменителя).

Насколько это круто, каждый может оценить самостоятельно.
Мне же это кажется очень-очень перспективным
.
✔️ Ибо обладающие способностями имажинавтов  —  это штучные люди, встречающиеся, преимущественно, в науке и в искусстве, хотя встречаются и в бизнесе. В последнем случае они кардинально меняют бизнес, монетизируя неопределенность и создавая новую бизнес-реальность, подобно Стиву Джобсу, создавшему для бизнеса новую реальность так же, как это сделал Эйнштейн для науки (подробней читай мой пост).
✔️ Ибо, по большому счету, весь сегодняшний мир создан имажинавтами. Именно им цивилизация обязана за все культурные достижения Homo sapiens, превратившие людей из животных в полубогов.
✔️Ибо способность мысленно путешествовать сквозь пространство и время – может статься, и есть тот золотой ключик, что откроет для современных методов глубокого обучения путь превращения в AGI, который в итоге обретёт сознание, став имажинавтом.

#Креативность #Воображение #Инновации #МашинноеОбучение #AGI

Внутри маскирующегося под стохастического попугая ИИ таится куда боле мощный ИИ.
Эксперимент показал - у больших моделей есть воображение.
Анализ 3х работ OpenAI, Anthropic и Google DeepMind навевает ассоциации с леденящим душу технокошмаром из серии фильмов ужасов «Чужой».
Точнее, с их облегченной версией, - где «чужой» может оказаться злым монстром, а может и нет. Но сам факт, что внутри некоего интеллектуального техно-артефакта может скрываться нечто куда более умное (и кто знает, может, и куда более опасное), сильно напрягает.

1) Еще в мае исследователи из OpenAI решили попытаться «заглянуть в душу» ИИ (точнее называть это «большой языковой моделью - LLM», но ИИ короче и понятней). Исследователи подошли к решению задачи «черного ящика» ИИ (понять, что у него внутри) супер-креативно.
Зачем самим ломать голову, решая неподъемную для людей задачу. Пусть большой ИИ (GPT-4 с числом нейроном 100+ млрд) сам ее и решит применительно к маленькому ИИ (GPT-2, в коем нейронов всего то 300К+) [1].
Результат озадачил исследователей. Многие нейроны (внутри маленького ИИ) оказались многозначны – т.е. они реагировали на множество самых разных входных данных: смесь академических цитат, диалогов на английском языке, HTTP-запросов, корейского текста …
Эта многозначность нейронов человеческой логике не понятна и ею не объятна. Если нейроны многозначны, какие же тогда более мелкие «субнейроны» соответствуют конкретным понятиям?

2) Ответ на этот вопрос дают исследователи из Anthropic [2]. Они полагают, что одной из причин многозначности является суперпозиция - гипотетическое явление, при котором нейронная сеть представляет больше независимых «функций» данных, чем нейроны, назначая каждой функции свою собственную линейную комбинацию нейронов.
Иными словами, внутри нейронной сети любого конкретного ИИ симулируется физически не существующая нейронная сеть некоего абстрактного ИИ.
И эта симулируемая нейронная сеть,
1. гораздо больше и сложнее нейронной сети, ее моделирующей;
2. содержит симулируемые моносемантические «субнейроны» (соответствующие конкретным понятиям);
Еще проще говоря: внутри менее мощного ИИ симулируется более мощный ИИ. Менее мощный ИИ физически существует в виде сети нейронов. Более мощный – в виде сети паттернов (линейных комбинаций) активаций нейронов.

3) Почувствовать на практике, сколь мощный ИИ таится внутри маскирующегося под «стохастического попугая» ИИ LLM, позволяет новое исследование Главного научного сотрудника Google DeepMind проф. Шанахана и директора CHPPC_IHR проф. Кларк [3].
Объектом исследования стало якобы отсутствующее у LLM свойство разума, без которого невозможно истинное творчество – воображение.
Эйнштейн писал - “Воображение важнее знаний. Ибо знания ограничены всем, что мы сейчас знаем и понимаем, в то время как воображение охватывает весь мир и все, что когда-либо можно будет узнать и понять”.
Эксперимент Шанахана-Кларк заключался в проверке наличия у GPT-4 воображения, позволяющего модели проявлять художественную креативность при написании (в соавторстве с человеком) литературного текста - фантастического романа о путешествии во времени.

Эксперимент показал:
✔️ при наличии сложных подсказок и соавтора-человека, модель демонстрирует изысканное воображение;
✔️ это продукт творчества модели, ибо ничего подобного люди до нее не придумали (этого не было в каких-либо текстах людей): например, появляющиеся по ходу романа придуманные моделью:
- новые персонажи и сюжетные повороты;
- новые неологизмы (прямо как у Солженицина), служащие для раскрытия идейного содержания сюжета - отнюдь не бессмысленные, семантически верные и контекстуально релевантные.

Значение вышеописанного см. в моем цикле “теория относительности интеллекта”.
#Креативность #Воображение #LLM
[1] https://openai.com/research/language-models-can-explain-neurons-in-language-models
[2] https://transformer-circuits.pub/2023/monosemantic-features
[3] https://arxiv.org/abs/2312.03746

Первая вычислительная реализация красоты в глазах смотрящего.
Как достичь безграничной креативности, сбежав из «тёмной комнаты» сознания.
Фантастически интересная работа Карла Фристона, Энди Кларка и Акселя Константа «Культивирование креативности: прогнозирующий мозг и проблема освещенной комнаты» [1], - яркое подтверждение одного из 3х «великих переломов 2023» о которых я писал в одноименном посте [2]. Эта работа предлагает решение доселе нерешенной загадки «конституции биоматематики» [3], в которую неуклонно превращается претендующий на звание «единой теории мозга» принцип свободной энергии (Free Energy Principle), сформулированный и формализованный Карлом Фристоном.

Загадка же в следующем противоречии.
✔️ Принцип свободной энергии предполагает, что интеллектуальные агенты (напр. все биологические системы) стремятся минимизировать т.н. "свободную энергию", понимаемую здесь, как максимум «сюрпризов» - разницы между предсказаниями организма о его сенсорных входных сигналах (воплощенными в его моделях мира) и ощущениями, с которыми он действительно сталкивается.
✔️ Но с другой стороны, будучи интеллектуальными агентами, биологические системы в процессе творческого поиска вовсе не избегают сюрпризов. Если бы ими двигала только необходимость минимизировать неопределенность, они бы всегда стремились к ситуациям с минимальной неопределенностью, что исключало бы нарушение их прогнозов (напр. забрались бы в темный угол и не вылезали оттуда, как это сформулировано в т.н. «проблеме темной комнаты»).

Решение этой загадки, как показано в новой работе Фристона и Со, в том, что креативность (как и разум) не рождается исключительно в мозге. И даже не ограничена в своем появлении границами тела интеллектуального агента. Креативность возникает в результате изменений степени взаимодействия между прогностическим мозгом и меняющейся средой, постоянно перемещающей ориентиры механизма минимизации ошибок.

Напомню, что тезис о расширенном разуме, предложенный Энди Кларком и Дэвидом Чалмерсом, утверждает, что когнитивные процессы могут выходить за пределы индивидуума, включая в себя элементы его окружения. Согласно этому тезису, инструменты и технологии, которыми мы пользуемся, могут стать частью нашего мышления. Например, использование блокнота для записи и запоминания информации может считаться частью когнитивной системы человека, так же как и его память или способность к рассуждению. Это размывает границы между умом и внешним миром, предлагая новый взгляд на то, как мы взаимодействуем с нашей средой и как она влияет на наше мышление.

Работа Фристона и Со обосновывает аналогичный тезис применительно к творчеству (креативности).
• Творчество можно представить, как способность исследовать (модельное) пространство идей. В то же время, – это процесс, разворачивающийся посредством взаимодействия разума и социально-материальной среды. Т.е. творчество – это скользящий (социально и экологически распределенный) процесс выдвижения гипотезы решения проблемы, а затем тестирования и доказательства этого решения, которое должно быть новым (т.е. статистически отличным от предыдущих) и подходящим (т.е. отвечающим требованиям задачи).
• Т.е. творчество – это явление, возникающее на стыке культуры, языка, материальности, образования и обучения. Это вовсе не процесс зарождения семени новизны исключительно в сознании интеллектуального агента. Творчество возникает в сетях акторов, ресурсов и ограничений.
• Т.о. результаты творчества (искусство, красота и тому подобное) вполне могут быть в глазах смотрящего, а не в самом продукте творчества или в сознании его создателя.

При такой трактовке агент достигает безграничной креативности путем когнитивной экспансии за пределы «тёмной комнаты» сознания. Ибо любая новая реконфигурация сенсорных ландшафтов расширяет возможности прогностического разума.
1 https://royalsocietypublishing.org/doi/10.1098/rstb.2022.0415
2 https://t.me/theworldisnoteasy/1741
3 https://t.me/theworldisnoteasy/1122
#Креативность