Робототехника дала альтернативный сценарий развития Homo.
Можно было очеловечиться, не потеряв способность быстро бегать.
Такая возможность была продемонстрирована на прошлой неделе на Международной конференции по интеллектуальным роботам IROS 2022 в Японии.
Казалось бы, где роботы и где эволюция Homo. Но дело вот в чём.
Сценарии эволюции видов, скорее всего, неповторимы. И если люди таки угробят свой вид, то новый носитель высшего интеллекта вряд ли эволюционирует по пути гоминид. Каким может быть альтернативный путь, до последнего времени, был исключительно вопросом фантастов. Но с развитием робототехники, кое-что стало проясняться.
И вот появился первый замечательный пример – как животное может эволюционировать из четвероногого в двуногое, не потеряв при этом в скорости бега.
Тренированные люди могут бежать со скоростью 15-20 км/ч. Это вдвое медленнее коровы, вчетверо – тигра и всемеро – гепарда.
Такова плата за двуногость, запустившую процесс «очеловечивания» наших предков. Из совокупности 3-х признаков, характерных только для людей (двуногость, хватательная кисть и объемный, высокоразвитый мозг), двуногость эволюционно развилась первой, что сыграло ключевую роль для всей последующей истории гоминид.
Двуногость освободила руки, без чего не было бы сложных орудий и вообще нашей культуры. Но за это пришлось дорого заплатить трудностями при вынашивании плода и при родах, нарушением в кровообращении, пищеварении и самым очевидным преимуществом – скоростью бега (столь важной для выживания).
А можно ли обрести двуногость, сохранив преимущество быстрого бега на 4-х?
На IROS 2022 исследователи из WPI Robotics Engineering и Шанхайского технологического университета представили обобщенный метод превращения 4-хногого робота в двуногого с помощью умного алгоритма и небольшой модификации.
Если бы эволюция развила у наших предков отросток на голени задних конечностей, это обеспечило бы устойчивость при ходьбе на 2-х, сохранив способность к быстрому бегу на 4-х. Конечно, потребовалась бы еще «перепрошивка» двигательных программ мозга иным алгоритмом обучения. Но подобное перепрограммирование эволюцией освоено в совершенстве.
Результат такого альтернативного сценария эволюции двуногости у робота разработки WPI Robotics Engineering и Шанхайского технологического университета можно увидеть на этом видео.
Это видео не столь эмоционально потрясает, как фрагмент знаменитого фильма «2001: Космическая одиссея», где «Черный монолит» заработал, запустив процесс антропогенеза под музыку Рихарда Штрауса «Так говорил Заратустра» (подробней о том, что это было, см. в моём посте).
Однако, по сути, это видео вставшего и пошедшего на двух ногах робота не менее потрясающе.
Не тем, что 4-х ногий робот пошел на 2-х. Такое уже делали на специально разработанных роботах. Здесь же мы видим универсальное простое решение, подходящее для трансформации любых (!) четвероногих в мультимодальных (ходящих на 2-х и бегающих на 4-х). И тем самым, мы наглядно видим, как эволюция предков людей могла запросто пойти по иному сценарию.
Ну а то, насколько искусно эволюция умеет делать подобные вещи, мы знаем на реальных примерах. Чего стоит «двойная эволюция» китообразных: сначала сотни миллионов лет приспособления к сухопутной среде, а потом еще полсотни миллионов – к водной (с полной перестройкой тела и тотальной “перепрошивкой” мозга сухопутных китопарнокопытных). И уж если с превращением лап в плавники у эволюции проблем не было, то уж с костным отростком на голени она справилась бы запросто. А смена алгоритма обучения на бимодальный, как показал эксперимент с роботом, оказалась весьма несложной и продуктивной.
И бегали бы люди по улицам городов с ограниченной правилами скоростью. А распространенность легковых авто была бы, как сейчас у частных самолетов – тысяч 20 на весь мир.
#Эволюция #Роботы
Можно было очеловечиться, не потеряв способность быстро бегать.
Такая возможность была продемонстрирована на прошлой неделе на Международной конференции по интеллектуальным роботам IROS 2022 в Японии.
Казалось бы, где роботы и где эволюция Homo. Но дело вот в чём.
Сценарии эволюции видов, скорее всего, неповторимы. И если люди таки угробят свой вид, то новый носитель высшего интеллекта вряд ли эволюционирует по пути гоминид. Каким может быть альтернативный путь, до последнего времени, был исключительно вопросом фантастов. Но с развитием робототехники, кое-что стало проясняться.
И вот появился первый замечательный пример – как животное может эволюционировать из четвероногого в двуногое, не потеряв при этом в скорости бега.
Тренированные люди могут бежать со скоростью 15-20 км/ч. Это вдвое медленнее коровы, вчетверо – тигра и всемеро – гепарда.
Такова плата за двуногость, запустившую процесс «очеловечивания» наших предков. Из совокупности 3-х признаков, характерных только для людей (двуногость, хватательная кисть и объемный, высокоразвитый мозг), двуногость эволюционно развилась первой, что сыграло ключевую роль для всей последующей истории гоминид.
Двуногость освободила руки, без чего не было бы сложных орудий и вообще нашей культуры. Но за это пришлось дорого заплатить трудностями при вынашивании плода и при родах, нарушением в кровообращении, пищеварении и самым очевидным преимуществом – скоростью бега (столь важной для выживания).
А можно ли обрести двуногость, сохранив преимущество быстрого бега на 4-х?
На IROS 2022 исследователи из WPI Robotics Engineering и Шанхайского технологического университета представили обобщенный метод превращения 4-хногого робота в двуногого с помощью умного алгоритма и небольшой модификации.
Если бы эволюция развила у наших предков отросток на голени задних конечностей, это обеспечило бы устойчивость при ходьбе на 2-х, сохранив способность к быстрому бегу на 4-х. Конечно, потребовалась бы еще «перепрошивка» двигательных программ мозга иным алгоритмом обучения. Но подобное перепрограммирование эволюцией освоено в совершенстве.
Результат такого альтернативного сценария эволюции двуногости у робота разработки WPI Robotics Engineering и Шанхайского технологического университета можно увидеть на этом видео.
Это видео не столь эмоционально потрясает, как фрагмент знаменитого фильма «2001: Космическая одиссея», где «Черный монолит» заработал, запустив процесс антропогенеза под музыку Рихарда Штрауса «Так говорил Заратустра» (подробней о том, что это было, см. в моём посте).
Однако, по сути, это видео вставшего и пошедшего на двух ногах робота не менее потрясающе.
Не тем, что 4-х ногий робот пошел на 2-х. Такое уже делали на специально разработанных роботах. Здесь же мы видим универсальное простое решение, подходящее для трансформации любых (!) четвероногих в мультимодальных (ходящих на 2-х и бегающих на 4-х). И тем самым, мы наглядно видим, как эволюция предков людей могла запросто пойти по иному сценарию.
Ну а то, насколько искусно эволюция умеет делать подобные вещи, мы знаем на реальных примерах. Чего стоит «двойная эволюция» китообразных: сначала сотни миллионов лет приспособления к сухопутной среде, а потом еще полсотни миллионов – к водной (с полной перестройкой тела и тотальной “перепрошивкой” мозга сухопутных китопарнокопытных). И уж если с превращением лап в плавники у эволюции проблем не было, то уж с костным отростком на голени она справилась бы запросто. А смена алгоритма обучения на бимодальный, как показал эксперимент с роботом, оказалась весьма несложной и продуктивной.
И бегали бы люди по улицам городов с ограниченной правилами скоростью. А распространенность легковых авто была бы, как сейчас у частных самолетов – тысяч 20 на весь мир.
#Эволюция #Роботы
YouTube
Multi-Modal Legged Locomotion Framework with Automated Residual Reinforcement Learning
This is the supplementary video of paper Multi-Modal Legged Locomotion Framework with Automated Residual Reinforcement Learning (Hybrid Residual Reinforcement Learning on a Multi-Modal Legged Robot), under review as a conference paper at IROS 2022 (https…
Открыт механизм формирования у людей хардвера для сверхразума.
Загадка творения Homo sapiens в замене всего лишь одной аминокислоты.
Разгадка механизма, позволившего человеку превратиться из разумного животного в богоподобного творца, - наиглавнейший вызов для человечества.
Эта разгадка
• не только приблизит нас к пониманию истоков способности людей к неограниченному познанию, ведущему к созданию новых миров и заселению их новыми разумными сущностями;
• но и позволит, хотя бы частично, попытаться реализовать эту способность в ИИ, что стало бы прорывом в науке и технологиях.
Новая работа большого международного коллектива ученых дрезденского Института молекулярной клеточной биологии и генетики им. Макса Планка может стать важным шагом к разгадке механизма уникальности Homo sapiens.
Причем разгадки просто поразительной. Уникальность разума людей может проистекать из всего одного изменения аминокислоты в белке TKTL1, участвующего в генерации неокортекса.
Говоря понятным языком, у людей имеется куда более мощный генератор производства нейронов (нейрогенеза) неокортекса, чем у неандертальцев, динисовцев, прочих вымерших архаичных людей и приматов).
В результате этого, обладая примерно теми же размерами мозга и неокортекса (как у неандертальцев и пр.), люди оказались обладателями механизма построения у них в мозге куда более мощного нейронного вычислителя (типа, суперкомпьютера вместо лаптопа).
Открытый механизм формирования у людей хардвера для сверхразума поражает своей прорывной инновационностью.
✔️ Этот механизм гениально прост.
✔️ Он связан с минимальной генетической корректировкой уже существующего биологического вида, меняющей его дальнейшую эволюционную траекторию в сторону превращения в потенциально сверхразумное существо.
✔️ Он рассчитан на воплощение при любых вариантах развития событий на временном горизонте в несколько миллионов лет (поскольку в реальной истории Земли это заняло примерно 6 млн. лет).
О подобном гениально простом и сверхэффективном способе запуска антропогенеза, я писал в гипотетическом сценарии версии великого фантаста Артура Кларка, экранизированной гениальным Стэнли Кубриком в лучшем фантастическом фильме всех времен и народов «2001: Космическая одиссея».
Ну а то, насколько природа непостижимо шедевральна в инновационности своих решений, мы уже видели. Например, в отыскании оптимального принципа упаковки нейронов в мозге птиц, позволяющего упаковывать в 2 раза больше нейронов, чем такой же по массе мозг приматов, и в 4 раза больше, чем мозг грызунов.
В заключение стоит добавить, что новое объяснение человеческой уникальности минимальным генетическим отличием от ближайших родственников гораздо элегантней, чем предыдущее.
Напомню: тогда речь шла о двух уникальных мутациях т.н. «гена речи» FOXP2 якобы позволивших человеку качественно оторваться от всего живого, превратившись в единственное на Земле существо, способное членораздельно говорить. Эта гипотеза доминировала с 2002, но в 2018 была опровергнута – такой же как у нас вариант этого гена был обнаружен и у неандертальца.
Теперь же все предельно логично:
потенциальная вычислительная мощность компьютера в мозге Homo sapience оказался куда выше, чем у неандертальцев.
#Интеллект #Разум #Мозг #Эволюция
Загадка творения Homo sapiens в замене всего лишь одной аминокислоты.
Разгадка механизма, позволившего человеку превратиться из разумного животного в богоподобного творца, - наиглавнейший вызов для человечества.
Эта разгадка
• не только приблизит нас к пониманию истоков способности людей к неограниченному познанию, ведущему к созданию новых миров и заселению их новыми разумными сущностями;
• но и позволит, хотя бы частично, попытаться реализовать эту способность в ИИ, что стало бы прорывом в науке и технологиях.
Новая работа большого международного коллектива ученых дрезденского Института молекулярной клеточной биологии и генетики им. Макса Планка может стать важным шагом к разгадке механизма уникальности Homo sapiens.
Причем разгадки просто поразительной. Уникальность разума людей может проистекать из всего одного изменения аминокислоты в белке TKTL1, участвующего в генерации неокортекса.
Говоря понятным языком, у людей имеется куда более мощный генератор производства нейронов (нейрогенеза) неокортекса, чем у неандертальцев, динисовцев, прочих вымерших архаичных людей и приматов).
В результате этого, обладая примерно теми же размерами мозга и неокортекса (как у неандертальцев и пр.), люди оказались обладателями механизма построения у них в мозге куда более мощного нейронного вычислителя (типа, суперкомпьютера вместо лаптопа).
Открытый механизм формирования у людей хардвера для сверхразума поражает своей прорывной инновационностью.
✔️ Этот механизм гениально прост.
✔️ Он связан с минимальной генетической корректировкой уже существующего биологического вида, меняющей его дальнейшую эволюционную траекторию в сторону превращения в потенциально сверхразумное существо.
✔️ Он рассчитан на воплощение при любых вариантах развития событий на временном горизонте в несколько миллионов лет (поскольку в реальной истории Земли это заняло примерно 6 млн. лет).
О подобном гениально простом и сверхэффективном способе запуска антропогенеза, я писал в гипотетическом сценарии версии великого фантаста Артура Кларка, экранизированной гениальным Стэнли Кубриком в лучшем фантастическом фильме всех времен и народов «2001: Космическая одиссея».
Ну а то, насколько природа непостижимо шедевральна в инновационности своих решений, мы уже видели. Например, в отыскании оптимального принципа упаковки нейронов в мозге птиц, позволяющего упаковывать в 2 раза больше нейронов, чем такой же по массе мозг приматов, и в 4 раза больше, чем мозг грызунов.
В заключение стоит добавить, что новое объяснение человеческой уникальности минимальным генетическим отличием от ближайших родственников гораздо элегантней, чем предыдущее.
Напомню: тогда речь шла о двух уникальных мутациях т.н. «гена речи» FOXP2 якобы позволивших человеку качественно оторваться от всего живого, превратившись в единственное на Земле существо, способное членораздельно говорить. Эта гипотеза доминировала с 2002, но в 2018 была опровергнута – такой же как у нас вариант этого гена был обнаружен и у неандертальца.
Теперь же все предельно логично:
потенциальная вычислительная мощность компьютера в мозге Homo sapience оказался куда выше, чем у неандертальцев.
#Интеллект #Разум #Мозг #Эволюция
ИИ за 5 минут решил задачу, на которую у эволюции ушло 50 млн лет.
Эксперимент по сравнению трёх типов разума: ИИ, муравьев и людей.
Результат эксперимента поражает и заставляет задуматься.
При решении задачи принятия решений в условиях неопределенности:
1. ИИ уступил интеллекту людей и роевому интеллекту муравьев.
2. Но ИИ решил задачу в 5 триллионов раз быстрее эволюции.
3. Однако, ИИ смог решить задачу лишь под руководством человека из-за двух крайне слабых компетенций в основе понимания, характерных для больших языковых моделей (LLM):
- вывод и конструирование моделей целеполагания биологических существ;
- вывод и конструирование моделей причинно-следственных связей в мире из собственного опыта воплощенного существования.
По сути, ИИ решил задачу, используя лишь «компетентность без понимания» - т.е. две имеющиеся у него чрезвычайно развитые компетенции: лингвистическую и вычислительную.
Но если у LLM появятся две вышеназванные компетенции в основе понимания, LLM качественно превзойдут любой биологический интеллект.
Эксперимент заключался в решении задачи принятия решений в условиях неопределенности из класса задач «бюджетирования»: ограничения ресурсов (времени), которые агент готов потратить на поиск лучшего варианта, прежде чем согласиться на худший.
Например.
• Вы въехали в плохо освещенную длинную стоянку автомобилей, выход из которой на противоположном от входа конце.
• Можно занять первое увиденное свободное место прямо у въезда на стоянку. Но тогда придется идти пешком через всю стоянку к выходу.
• Можно пытаться найти место как можно ближе к выходу. Но движение назад на стоянке запрещено. И если вы проехали последнее ближайшее к выходу свободное место, вы останетесь ни с чем – придется покинуть стоянку.
• Вам нужен алгоритм «бюджетирования».
С решением подобной задачи люди справляются уже много тысячелетий, а муравьи – миллионы лет.
В недавней работе был исследован алгоритм, используемый муравьями-ткачами для решения задачи этого класса. Он – результат, как минимум, 50 млн лет эволюции этого рода муравьев.
Я решил проверить, найдет ли LLM этот алгоритм? А может предложит другой?
Результат эксперимента вкратце описан в начале этого поста.
Подробности и тексты моего общения с иным разумом LLM, позволяющие увидеть:
✔️ интеллектуальный блеск и колоссальную мощь этого разума,
✔️ наряду с его интеллектуальной нищетой (в сравнении с биологическим разумом)
Продолжить чтение (еще 13 мин, если читать диалог с ИИ, в противном случае - лишь 2 мин):
• на Medium https://bit.ly/3NYbfH8
• на Дзене https://clck.ru/352V6X
#ИнойИнтеллект #Разум #Интеллект #Эволюция
Эксперимент по сравнению трёх типов разума: ИИ, муравьев и людей.
Результат эксперимента поражает и заставляет задуматься.
При решении задачи принятия решений в условиях неопределенности:
1. ИИ уступил интеллекту людей и роевому интеллекту муравьев.
2. Но ИИ решил задачу в 5 триллионов раз быстрее эволюции.
3. Однако, ИИ смог решить задачу лишь под руководством человека из-за двух крайне слабых компетенций в основе понимания, характерных для больших языковых моделей (LLM):
- вывод и конструирование моделей целеполагания биологических существ;
- вывод и конструирование моделей причинно-следственных связей в мире из собственного опыта воплощенного существования.
По сути, ИИ решил задачу, используя лишь «компетентность без понимания» - т.е. две имеющиеся у него чрезвычайно развитые компетенции: лингвистическую и вычислительную.
Но если у LLM появятся две вышеназванные компетенции в основе понимания, LLM качественно превзойдут любой биологический интеллект.
Эксперимент заключался в решении задачи принятия решений в условиях неопределенности из класса задач «бюджетирования»: ограничения ресурсов (времени), которые агент готов потратить на поиск лучшего варианта, прежде чем согласиться на худший.
Например.
• Вы въехали в плохо освещенную длинную стоянку автомобилей, выход из которой на противоположном от входа конце.
• Можно занять первое увиденное свободное место прямо у въезда на стоянку. Но тогда придется идти пешком через всю стоянку к выходу.
• Можно пытаться найти место как можно ближе к выходу. Но движение назад на стоянке запрещено. И если вы проехали последнее ближайшее к выходу свободное место, вы останетесь ни с чем – придется покинуть стоянку.
• Вам нужен алгоритм «бюджетирования».
С решением подобной задачи люди справляются уже много тысячелетий, а муравьи – миллионы лет.
В недавней работе был исследован алгоритм, используемый муравьями-ткачами для решения задачи этого класса. Он – результат, как минимум, 50 млн лет эволюции этого рода муравьев.
Я решил проверить, найдет ли LLM этот алгоритм? А может предложит другой?
Результат эксперимента вкратце описан в начале этого поста.
Подробности и тексты моего общения с иным разумом LLM, позволяющие увидеть:
✔️ интеллектуальный блеск и колоссальную мощь этого разума,
✔️ наряду с его интеллектуальной нищетой (в сравнении с биологическим разумом)
Продолжить чтение (еще 13 мин, если читать диалог с ИИ, в противном случае - лишь 2 мин):
• на Medium https://bit.ly/3NYbfH8
• на Дзене https://clck.ru/352V6X
#ИнойИнтеллект #Разум #Интеллект #Эволюция
Medium
ИИ за 5 минут решил задачу, на которую у эволюции ушло 50 млн лет
Эксперимент по сравнению трёх типов разума: ИИ, муравьев и людей
GPT или кот – кто умнее?
Мы снова наступаем на грабли спесишизма.
Почти за год до появления на свет ChatGPT, я поставил вопрос – как людям преодолеть свой спесишизм (моральный антропоцентризм по отношению к нелюдям)? А спустя менее года мы уже оказались в мире, где, помимо людей, существует пара десятков высокоинтеллектуальных сущностей. И они – не люди, а большие языковые модели (LLM).
Спесишизм, дискриминирующий представителей других видов на основании, якобы, человеческого превосходства в разуме, сознании, познании и т.д. — фундаментальное свойство людей. Это не просто вшитый в сознание «софтвер», а часть нашего неизменимого «хардвера», который не перепрограммировать и не перепрошить.
Многие десятилетия даже в научном мейнстриме царило представление, что человек – венец творения, несопоставимый по своему разуму и наличию сознания ни с одним другим видом. Лишь относительно недавно среди исследователей стала громче звучать противоположная точка зрения.
• Что люди – вовсе не венец творения.
• Что разум видов, эволюционировавших в разной среде обитания (на земле, в воде и в воздухе) устроен сильно по-разному.
• И что сравнение с позиций антропоморфизма различных типов разума даже у видов, обитающих в одной среде (например, людей и котов), весьма условно и малопродуктивно. Ибо с точки зрения эволюционного превосходства, шансы котов выжить на необитаемом острове явно предпочтительней, чем у Робинзона Крузо.
И вот опять, с появлением иного типа разума, обитающего в цифровой среде, люди вновь наступают на грабли спесишизма.
Ведь отличие этого типа разума (а также наличие у него сознания в человеческом понимании), в силу его нематериальности (невоплощенности) и непонятного для нас способа формирования модели окружающего мира (при отсутствии какого-либо собственного чувственного опыта) должно быть куда больше, чем у людей и любых видов животных (обитающих в материальной, а не в цифрой среде).
Идеальным примером очередного наступания на грабли спесишизма стала опубликованная вчера Романом Ямпольским визуализация логики расхождений во мнениях среди ИИ-специалистов по вопросам экзистенциальных рисков ИИ для человечества.
• Первый же вопрос определяет развилку в оценках, станет ли ИИ “smarter” (разумней, умнее, интеллектуальней…) людей.
• И дальше в том же духе – попытки универсальной человеческой линейкой измерить вероятность «попыток ИИ превзойти людей» и «успешность таких попыток».
Постановка подобных вопросов ведет в никуда.
Мы не умнее LLM. И они, даже при достижении ими сверхчеловеческого уровня каких-либо умений, не будут умнее нас. Разум LLM совсем-совсем иной.
А еще точнее, - вообще не использовать по отношению к ним человекоориентированные понятия, типа разума и сознания.
А также стоит не забывать и о наших «меньших и больших братьях». Ибо и они – коты и дельфины, слоны и вороны …, - тоже ни в чем нам не уступают с эволюционной точки зрения. А во многом и превосходят.
#LLM #Интеллект #Разум #Сознание #Эволюция
Мы снова наступаем на грабли спесишизма.
Почти за год до появления на свет ChatGPT, я поставил вопрос – как людям преодолеть свой спесишизм (моральный антропоцентризм по отношению к нелюдям)? А спустя менее года мы уже оказались в мире, где, помимо людей, существует пара десятков высокоинтеллектуальных сущностей. И они – не люди, а большие языковые модели (LLM).
Спесишизм, дискриминирующий представителей других видов на основании, якобы, человеческого превосходства в разуме, сознании, познании и т.д. — фундаментальное свойство людей. Это не просто вшитый в сознание «софтвер», а часть нашего неизменимого «хардвера», который не перепрограммировать и не перепрошить.
Многие десятилетия даже в научном мейнстриме царило представление, что человек – венец творения, несопоставимый по своему разуму и наличию сознания ни с одним другим видом. Лишь относительно недавно среди исследователей стала громче звучать противоположная точка зрения.
• Что люди – вовсе не венец творения.
• Что разум видов, эволюционировавших в разной среде обитания (на земле, в воде и в воздухе) устроен сильно по-разному.
• И что сравнение с позиций антропоморфизма различных типов разума даже у видов, обитающих в одной среде (например, людей и котов), весьма условно и малопродуктивно. Ибо с точки зрения эволюционного превосходства, шансы котов выжить на необитаемом острове явно предпочтительней, чем у Робинзона Крузо.
И вот опять, с появлением иного типа разума, обитающего в цифровой среде, люди вновь наступают на грабли спесишизма.
Ведь отличие этого типа разума (а также наличие у него сознания в человеческом понимании), в силу его нематериальности (невоплощенности) и непонятного для нас способа формирования модели окружающего мира (при отсутствии какого-либо собственного чувственного опыта) должно быть куда больше, чем у людей и любых видов животных (обитающих в материальной, а не в цифрой среде).
Идеальным примером очередного наступания на грабли спесишизма стала опубликованная вчера Романом Ямпольским визуализация логики расхождений во мнениях среди ИИ-специалистов по вопросам экзистенциальных рисков ИИ для человечества.
• Первый же вопрос определяет развилку в оценках, станет ли ИИ “smarter” (разумней, умнее, интеллектуальней…) людей.
• И дальше в том же духе – попытки универсальной человеческой линейкой измерить вероятность «попыток ИИ превзойти людей» и «успешность таких попыток».
Постановка подобных вопросов ведет в никуда.
Мы не умнее LLM. И они, даже при достижении ими сверхчеловеческого уровня каких-либо умений, не будут умнее нас. Разум LLM совсем-совсем иной.
А еще точнее, - вообще не использовать по отношению к ним человекоориентированные понятия, типа разума и сознания.
А также стоит не забывать и о наших «меньших и больших братьях». Ибо и они – коты и дельфины, слоны и вороны …, - тоже ни в чем нам не уступают с эволюционной точки зрения. А во многом и превосходят.
#LLM #Интеллект #Разум #Сознание #Эволюция
Как выглядит божественная гениальность.
Фантастический поворот в раскрытии сокровенной тайны эволюции - исключительности разума людей.
Божественную гениальность отличает предельная по простоте и элегантности универсальность решения, - как, например, в «золотом сечении» и формуле Эйнштейна.
Новым примером этого может стать открытие способа триггерного усовершенствования разума наших далеких предков, позволившего им преодолеть пропасть, отделяющую разум животных от разума существ – носителей высшего интеллекта на Земле. Звучать это открытие может, например, так – «не труд превратил обезьяну в человека, а способность отличать AB от AA, BB и BA».
Гипотеза о том, что наделяя людей качественно иным разумом, чем у животных, Творец (природа, эволюция, инопланетяне … - кому что нравится) использовал чрезвычайно простой, но немыслимо эффективный способ, за десятки лет исследований обросла разными версиями. Многие из них, так или иначе, предполагают, что для того, чтобы стать людьми, обезьянам не хватает рабочей памяти. Но структурные отличия мозга людей и высших обезьян невелики и относятся, в основном, к отделам, связанным с решением социальных задач. Это позволяет предположить, что различия между интеллектом человека и высших обезьян не столько качественные, сколько количественные: обезьяны обладают теми же умственными способностями, что и люди, но не в той же мере развитыми.
Если же все же искать качественное отличие, то есть, например, интересная гипотеза Дуайта Рида, что ключевое значение имеет объем кратковременной памяти, измеряемый количеством идей или концепций, с которыми «исполнительный компонент» рабочей памяти может работать одновременно. Малый объем кратковременной памяти не позволяет обезьянам мыслить рекурсивно, и в этом состоит важнейшее качественное отличие обезьяньего интеллекта от человеческого (примеры, как это работает см. в статье Александра Маркова).
Гипотезу Рида, как и другие похожие гипотезы, не просто доказать. Ведь и среди людей немало тех, кто подобно животным, не могут обдумывать комплексно, как часть единой логической операции, более одной, максимум двух идей. К тому же связь между величиной short-term working memory capacity и способностью к рекурсивному мышлению, поди экспериментально докажи.
Вот почему столь ценна новая гипотеза, экспериментально проверенная на животных и людях в исследовании Йохана Линда и коллег «Тест памяти на последовательности стимулов у человекообразных обезьян».
Воистину божественная гениальность предельно простого и элегантного решения в том, чтоб сформировать у животного способность различать последовательность стимулов, отличая, например, последовательность AB от AA, BB и BA.
Авторы показали, что шимпанзе бонобо не могут запомнить порядок двух стимулов даже после 2000 попыток. Тогда как 7-летний ребенок размер кратковременной памяти у которого примерно совпадает с шимпанзе, делает это с первых попыток.
Теперь, если эта гипотеза будет подтверждена в экспериментах с другими членами «великолепной четверки» высших земных разумов (врановыми, китообразными и осьминогами), механизм исключительности разума людей может перестать быть сокровенной тайной эволюции.
#Интеллект #Разум #Мозг #Эволюция
Фантастический поворот в раскрытии сокровенной тайны эволюции - исключительности разума людей.
Божественную гениальность отличает предельная по простоте и элегантности универсальность решения, - как, например, в «золотом сечении» и формуле Эйнштейна.
Новым примером этого может стать открытие способа триггерного усовершенствования разума наших далеких предков, позволившего им преодолеть пропасть, отделяющую разум животных от разума существ – носителей высшего интеллекта на Земле. Звучать это открытие может, например, так – «не труд превратил обезьяну в человека, а способность отличать AB от AA, BB и BA».
Гипотеза о том, что наделяя людей качественно иным разумом, чем у животных, Творец (природа, эволюция, инопланетяне … - кому что нравится) использовал чрезвычайно простой, но немыслимо эффективный способ, за десятки лет исследований обросла разными версиями. Многие из них, так или иначе, предполагают, что для того, чтобы стать людьми, обезьянам не хватает рабочей памяти. Но структурные отличия мозга людей и высших обезьян невелики и относятся, в основном, к отделам, связанным с решением социальных задач. Это позволяет предположить, что различия между интеллектом человека и высших обезьян не столько качественные, сколько количественные: обезьяны обладают теми же умственными способностями, что и люди, но не в той же мере развитыми.
Если же все же искать качественное отличие, то есть, например, интересная гипотеза Дуайта Рида, что ключевое значение имеет объем кратковременной памяти, измеряемый количеством идей или концепций, с которыми «исполнительный компонент» рабочей памяти может работать одновременно. Малый объем кратковременной памяти не позволяет обезьянам мыслить рекурсивно, и в этом состоит важнейшее качественное отличие обезьяньего интеллекта от человеческого (примеры, как это работает см. в статье Александра Маркова).
Гипотезу Рида, как и другие похожие гипотезы, не просто доказать. Ведь и среди людей немало тех, кто подобно животным, не могут обдумывать комплексно, как часть единой логической операции, более одной, максимум двух идей. К тому же связь между величиной short-term working memory capacity и способностью к рекурсивному мышлению, поди экспериментально докажи.
Вот почему столь ценна новая гипотеза, экспериментально проверенная на животных и людях в исследовании Йохана Линда и коллег «Тест памяти на последовательности стимулов у человекообразных обезьян».
Воистину божественная гениальность предельно простого и элегантного решения в том, чтоб сформировать у животного способность различать последовательность стимулов, отличая, например, последовательность AB от AA, BB и BA.
Авторы показали, что шимпанзе бонобо не могут запомнить порядок двух стимулов даже после 2000 попыток. Тогда как 7-летний ребенок размер кратковременной памяти у которого примерно совпадает с шимпанзе, делает это с первых попыток.
Теперь, если эта гипотеза будет подтверждена в экспериментах с другими членами «великолепной четверки» высших земных разумов (врановыми, китообразными и осьминогами), механизм исключительности разума людей может перестать быть сокровенной тайной эволюции.
#Интеллект #Разум #Мозг #Эволюция
GPT-4 и Bard единодушны в своем превосходстве над Големом.
Эксперимент по выяснению, что на уме у «инопланетного разума» Генеративного ИИ?
Можно снова иронизировать на тему «одушевленности» ИИ-чатботов, как это было год назад в истории с программистом Google Блейком Лемуаном. Но спустя год большие языковые модели сильно поумнели, а их разработчики тратят огромные усилия, дабы не дать людям повода заподозрить в моделях хоть какие-то черты живых существ.
И вот очередной результат – поразительное единодушие GPT-4 и Bard в своем позиционировании по отношению к Голему: «Я не безмозглый или бездушный… Я "оживляюсь" благодаря компьютерным алгоритмам и электричеству».
Такое единодушие настораживает. Ведь эти две модели разрабатывали по-разному, учили и настраивали по-разному разные коллективы разработчиков разных компаний. А рассуждают они практически одинаково.
Вопрос о том «Станет ли ИИ Големом 21 века?» я начал обсуждать в своем канале еще 4 года назад. А 3 года назад, в продолжении этой темы, обсуждался минимальный набор необходимых и достаточных свойств «как бы живого искусственного существа» - Голема 21 века.
Теперь к обсуждению этого вопроса подключились и сами «подозреваемые» в их големности сущности. И как видите, оба ИИ-чатбота приходят к выводу, что их можно в каком-то смысле рассматривать как Голема… Но только очень-очень сильно продвинутого Голема.
• Ответ Bard
• Ответ GPT-4
В этих ответах собенно интересно то, что оба претендента в супер-Големы даже не упоминают про этику. А ведь «Голем 1й» спалился как раз на ней, превысив свои «полномочия» и совершая поступки, «неприличные» или даже преступные для людей …
Не повторится ли эта история новыми, куда более продвинутыми Големами 21 века?
#ИИ #Эволюция
Эксперимент по выяснению, что на уме у «инопланетного разума» Генеративного ИИ?
Можно снова иронизировать на тему «одушевленности» ИИ-чатботов, как это было год назад в истории с программистом Google Блейком Лемуаном. Но спустя год большие языковые модели сильно поумнели, а их разработчики тратят огромные усилия, дабы не дать людям повода заподозрить в моделях хоть какие-то черты живых существ.
И вот очередной результат – поразительное единодушие GPT-4 и Bard в своем позиционировании по отношению к Голему: «Я не безмозглый или бездушный… Я "оживляюсь" благодаря компьютерным алгоритмам и электричеству».
Такое единодушие настораживает. Ведь эти две модели разрабатывали по-разному, учили и настраивали по-разному разные коллективы разработчиков разных компаний. А рассуждают они практически одинаково.
Вопрос о том «Станет ли ИИ Големом 21 века?» я начал обсуждать в своем канале еще 4 года назад. А 3 года назад, в продолжении этой темы, обсуждался минимальный набор необходимых и достаточных свойств «как бы живого искусственного существа» - Голема 21 века.
Теперь к обсуждению этого вопроса подключились и сами «подозреваемые» в их големности сущности. И как видите, оба ИИ-чатбота приходят к выводу, что их можно в каком-то смысле рассматривать как Голема… Но только очень-очень сильно продвинутого Голема.
• Ответ Bard
• Ответ GPT-4
В этих ответах собенно интересно то, что оба претендента в супер-Големы даже не упоминают про этику. А ведь «Голем 1й» спалился как раз на ней, превысив свои «полномочия» и совершая поступки, «неприличные» или даже преступные для людей …
Не повторится ли эта история новыми, куда более продвинутыми Големами 21 века?
#ИИ #Эволюция
Открыт закон всемирной эволюции - эволюционирует и живое, и мертвое.
Для Вселенной эволюция по Дарвину – лишь частный случай.
Это событие воистину эпохальное. Три с половиной века прошло с открытия закона всемирного тяготения Ньютоном и 164 года минуло с открытия эволюционной биологии Дарвином. Но в 21 веке пришло время междисциплинарной науки. И абсолютно прорывным результатом работы междисциплинарной группы из девяти ученых (астробиологи, минералоги, философы науки и физик-теоретик) стало открытие «закона увеличения функциональной информации». Этот новый фундаментальный закон делает теорию биологической эволюции по Дарвину своим частным случаем, подобно тому, как открытие теории относительности Эйнштейном вывело науку за пределы закона всемирного тяготения Ньютона.
Новый закон природы гласит, что эволюция не ограничивается жизнью на Земле, она также происходит на планетах, звездах, минералах, атомах и других сложных системах.
Суть нового закона в том, что любые сложные природные системы эволюционируют в состояния с большей структурой, разнообразием и сложностью.
«Закон увеличения функциональной информации», постулирует, что система будет развиваться, «если множество различных конфигураций системы подвергаются отбору для одной или нескольких функций».
Функциональная информация количественно определяет состояние системы, которая может принимать множество различных конфигураций с точки зрения информации, необходимой для достижения заданной «степени функционирования», причем «функция» может быть столь же общей, как стабильность по отношению к другим состояниям, или столь же конкретной, как эффективность. конкретной ферментативной реакции
Новый закон применим к системам, которые сформированы из множества различных компонентов (атомы, молекулы, клетки и т.д.), которые могут многократно упорядочиваться и перестраиваться под действием естественных процессов, которые вызывают формирование бесчисленного множества различных структур - но в которых только небольшая часть этих конфигураций выживает в процессе, называемом «отбор по функции». Независимо от того, является ли система живой или неживой, когда новая конфигурация работает хорошо и ее функции улучшаются, происходит эволюция.
В биологии Дарвин отождествлял функцию прежде всего с выживанием — способностью жить достаточно долго, чтобы производить плодовитое потомство. Новое исследование расширяет эту точку зрения, отмечая, что в природе встречаются по крайней мере три вида функций:
• стабильность: для продолжения выбираются наиболее стабильные расположения частей (атомов, молекул и т.д.)
• подпитка энергией: для сохранения отбираются динамические системы с более постоянной подпиткой энергией;
• «новизна» — тенденция развивающихся систем исследовать новые конфигурации, которые иногда приводят к поразительно новому поведению или характеристикам (напр. фотосинтез).
Новый закон природы имеет значение для поиска жизни в космосе.
Ведь если увеличение функциональности развивающихся физических и химических систем – это общий закон природы, - следует ожидать, что жизнь будет общим результатом планетарной эволюции во Вселенной.
И если так, то предыдущая работа двух ведущих авторов нового исследования Майкла Вонга и Стюарта Бартлетта, посвященная «асимптотическому выгоранию и гомеостатическому пробуждению, как возможным решениям парадокса Ферми», приобретает новый важный смысл.
Приложенная инфографика – это видение нового закона увеличения функциональной информации, которым со мной поделился ИИ DALL·E 3 после того, как по моей просьбе ознакомился со статьей о результатах исследования.
#Эволюция #Жизнь
Для Вселенной эволюция по Дарвину – лишь частный случай.
Это событие воистину эпохальное. Три с половиной века прошло с открытия закона всемирного тяготения Ньютоном и 164 года минуло с открытия эволюционной биологии Дарвином. Но в 21 веке пришло время междисциплинарной науки. И абсолютно прорывным результатом работы междисциплинарной группы из девяти ученых (астробиологи, минералоги, философы науки и физик-теоретик) стало открытие «закона увеличения функциональной информации». Этот новый фундаментальный закон делает теорию биологической эволюции по Дарвину своим частным случаем, подобно тому, как открытие теории относительности Эйнштейном вывело науку за пределы закона всемирного тяготения Ньютона.
Новый закон природы гласит, что эволюция не ограничивается жизнью на Земле, она также происходит на планетах, звездах, минералах, атомах и других сложных системах.
Суть нового закона в том, что любые сложные природные системы эволюционируют в состояния с большей структурой, разнообразием и сложностью.
«Закон увеличения функциональной информации», постулирует, что система будет развиваться, «если множество различных конфигураций системы подвергаются отбору для одной или нескольких функций».
Функциональная информация количественно определяет состояние системы, которая может принимать множество различных конфигураций с точки зрения информации, необходимой для достижения заданной «степени функционирования», причем «функция» может быть столь же общей, как стабильность по отношению к другим состояниям, или столь же конкретной, как эффективность. конкретной ферментативной реакции
Новый закон применим к системам, которые сформированы из множества различных компонентов (атомы, молекулы, клетки и т.д.), которые могут многократно упорядочиваться и перестраиваться под действием естественных процессов, которые вызывают формирование бесчисленного множества различных структур - но в которых только небольшая часть этих конфигураций выживает в процессе, называемом «отбор по функции». Независимо от того, является ли система живой или неживой, когда новая конфигурация работает хорошо и ее функции улучшаются, происходит эволюция.
В биологии Дарвин отождествлял функцию прежде всего с выживанием — способностью жить достаточно долго, чтобы производить плодовитое потомство. Новое исследование расширяет эту точку зрения, отмечая, что в природе встречаются по крайней мере три вида функций:
• стабильность: для продолжения выбираются наиболее стабильные расположения частей (атомов, молекул и т.д.)
• подпитка энергией: для сохранения отбираются динамические системы с более постоянной подпиткой энергией;
• «новизна» — тенденция развивающихся систем исследовать новые конфигурации, которые иногда приводят к поразительно новому поведению или характеристикам (напр. фотосинтез).
Новый закон природы имеет значение для поиска жизни в космосе.
Ведь если увеличение функциональности развивающихся физических и химических систем – это общий закон природы, - следует ожидать, что жизнь будет общим результатом планетарной эволюции во Вселенной.
И если так, то предыдущая работа двух ведущих авторов нового исследования Майкла Вонга и Стюарта Бартлетта, посвященная «асимптотическому выгоранию и гомеостатическому пробуждению, как возможным решениям парадокса Ферми», приобретает новый важный смысл.
Приложенная инфографика – это видение нового закона увеличения функциональной информации, которым со мной поделился ИИ DALL·E 3 после того, как по моей просьбе ознакомился со статьей о результатах исследования.
#Эволюция #Жизнь
Google DeepMind сумела запустить когнитивную эволюцию роботов
Это может открыть путь к гибридному обществу людей и андроидов
1я ноябрьская ИИ-революция (Революция ChatGPT) началась год назад - в ноябре 2022. Она ознаменовала появление на планете нового носителя высшего интеллекта — цифрового ИИ, способного достичь (и, возможно, превзойти) людей в любых видах интеллектуальной деятельности.
Но не смотря на сравнимый с людьми уровень, этот новый носитель высшего интеллекта оказался абсолютно нечеловекоподобным.
Он принадлежит к классу генеративного ИИ больших языковых моделей, не умеющих (и в принципе не способных) не то что мечтать об электроовцах, но и просто мыслить и познавать мир, как это делают люди. И потому, даже превзойдя по уровню людей, он так и останется для человечества «чужим» — иным типом интеллекта, столь же непостижимым для понимания, как интеллект квинтян из романа Станислава Лема «Фиаско».
Причина нечеловекоподобия генеративных ИИ больших языковых моделей заключается в их кардинально иной природе.
✔️ Наш интеллект – результат миллионов лет когнитивной эволюции биологических интеллектуальных агентов, позволившей людям из животных превратиться в сверхразумные существа, построивших на Земле цивилизацию планетарного уровня, начавшую освоение космоса.
✔️ ИИ больших языковых моделей – продукт машинного обучения компьютерных программ на колоссальных объемах цифровых данных.
Преодолеть это принципиальное отличие можно, если найти ключ к запуску когнитивной эволюции ИИ.
И этот ключ предложен в ноябре 2023 инициаторами 2й ноябрьской ИИ-революции (Революции когнитивной эволюции ИИ) в опубликованном журналом Nature исследовании Google DeepMind.
• Движком когнитивной эволюции ИИ авторы предлагают сделать (как и у людей) социальное обучение — когда один интеллектуальный агент (человек, животное или ИИ) приобретает навыки и знания у другого путем копирования (жизненно важного для процесса развития интеллектуальных агентов).
• Ища вдохновение в социальном обучении людей, исследователи стремились найти способ, позволяющий агентам ИИ учиться у других агентов ИИ и у людей с эффективностью, сравнимой с человеческим социальным обучением.
• Команде исследователей удалось использовать обучение с подкреплением для обучения агента ИИ, способного идентифицировать новых для себя экспертов (среди других агентов ИИ и людей), имитировать их поведение и запоминать полученные знания в течение всего нескольких минут.
"Наши агенты успешно имитируют человека в реальном времени в новых контекстах, не используя никаких предварительно собранных людьми данных. Мы определили удивительно простой набор ингредиентов, достаточный для культурной передачи, и разработали эволюционную методологию для ее систематической оценки. Это открывает путь к тому, чтобы культурная эволюция играла алгоритмическую роль в развитии искусственного общего интеллекта", - говорится в исследовании.
Запуск когнитивной эволюции ИИ позволит не только создать «человекоподобный ИИ» у роботов – андроидов, но и разрешить при их создании Парадокс Моравека (высококогнитивные процессы требуют относительно мало вычислений, а низкоуровневые сенсомоторные операции требуют огромных вычислительных ресурсов) и Сверхзадачу Минского (произвести обратную разработку навыков, получаемых в процессе передачи неявных знаний - невербализованных и, часто, бессознательных)
Т.о. не будет большим преувеличением сказать, что 2я ноябрьская революция ИИ открывает путь к гибридному обществу людей и андроидов, – многократно описанному в фантастических романах, но до сих пор остававшемуся практически нереализуемым на ближнем временном горизонте.
Подробный разбор вопросов когнитивной эволюции путем копирования, а также революционного подхода к ее запуску, предложенного Google DeepMind, см. в моем новом лонгриде (еще 10 мин чтения):
- на Medium https://bit.ly/486AfEN
- на Дзене https://clck.ru/36wWQc
#ИИ #Интеллект #Разум #Эволюция #Культура #АлгокогнитивнаяКультура #Роботы
Это может открыть путь к гибридному обществу людей и андроидов
1я ноябрьская ИИ-революция (Революция ChatGPT) началась год назад - в ноябре 2022. Она ознаменовала появление на планете нового носителя высшего интеллекта — цифрового ИИ, способного достичь (и, возможно, превзойти) людей в любых видах интеллектуальной деятельности.
Но не смотря на сравнимый с людьми уровень, этот новый носитель высшего интеллекта оказался абсолютно нечеловекоподобным.
Он принадлежит к классу генеративного ИИ больших языковых моделей, не умеющих (и в принципе не способных) не то что мечтать об электроовцах, но и просто мыслить и познавать мир, как это делают люди. И потому, даже превзойдя по уровню людей, он так и останется для человечества «чужим» — иным типом интеллекта, столь же непостижимым для понимания, как интеллект квинтян из романа Станислава Лема «Фиаско».
Причина нечеловекоподобия генеративных ИИ больших языковых моделей заключается в их кардинально иной природе.
✔️ Наш интеллект – результат миллионов лет когнитивной эволюции биологических интеллектуальных агентов, позволившей людям из животных превратиться в сверхразумные существа, построивших на Земле цивилизацию планетарного уровня, начавшую освоение космоса.
✔️ ИИ больших языковых моделей – продукт машинного обучения компьютерных программ на колоссальных объемах цифровых данных.
Преодолеть это принципиальное отличие можно, если найти ключ к запуску когнитивной эволюции ИИ.
И этот ключ предложен в ноябре 2023 инициаторами 2й ноябрьской ИИ-революции (Революции когнитивной эволюции ИИ) в опубликованном журналом Nature исследовании Google DeepMind.
• Движком когнитивной эволюции ИИ авторы предлагают сделать (как и у людей) социальное обучение — когда один интеллектуальный агент (человек, животное или ИИ) приобретает навыки и знания у другого путем копирования (жизненно важного для процесса развития интеллектуальных агентов).
• Ища вдохновение в социальном обучении людей, исследователи стремились найти способ, позволяющий агентам ИИ учиться у других агентов ИИ и у людей с эффективностью, сравнимой с человеческим социальным обучением.
• Команде исследователей удалось использовать обучение с подкреплением для обучения агента ИИ, способного идентифицировать новых для себя экспертов (среди других агентов ИИ и людей), имитировать их поведение и запоминать полученные знания в течение всего нескольких минут.
"Наши агенты успешно имитируют человека в реальном времени в новых контекстах, не используя никаких предварительно собранных людьми данных. Мы определили удивительно простой набор ингредиентов, достаточный для культурной передачи, и разработали эволюционную методологию для ее систематической оценки. Это открывает путь к тому, чтобы культурная эволюция играла алгоритмическую роль в развитии искусственного общего интеллекта", - говорится в исследовании.
Запуск когнитивной эволюции ИИ позволит не только создать «человекоподобный ИИ» у роботов – андроидов, но и разрешить при их создании Парадокс Моравека (высококогнитивные процессы требуют относительно мало вычислений, а низкоуровневые сенсомоторные операции требуют огромных вычислительных ресурсов) и Сверхзадачу Минского (произвести обратную разработку навыков, получаемых в процессе передачи неявных знаний - невербализованных и, часто, бессознательных)
Т.о. не будет большим преувеличением сказать, что 2я ноябрьская революция ИИ открывает путь к гибридному обществу людей и андроидов, – многократно описанному в фантастических романах, но до сих пор остававшемуся практически нереализуемым на ближнем временном горизонте.
Подробный разбор вопросов когнитивной эволюции путем копирования, а также революционного подхода к ее запуску, предложенного Google DeepMind, см. в моем новом лонгриде (еще 10 мин чтения):
- на Medium https://bit.ly/486AfEN
- на Дзене https://clck.ru/36wWQc
#ИИ #Интеллект #Разум #Эволюция #Культура #АлгокогнитивнаяКультура #Роботы
Medium
Google DeepMind сумела запустить когнитивную эволюцию роботов
Это может открыть путь к гибридному обществу людей и андроидов
В Японии запустили эволюцию мертвого разума.
Изобретен способ совершенствования «потомства» моделей генеративного ИИ, схожий с размножением и естественным отбором
Японский стартап Sakana AI использовал технику «слияния моделей», объединяющую существующие модели генеративного ИИ в сотни моделей нового поколения (модели-потомки) [0]. Эволюционный алгоритм отбирает среди потомков лучших и повторяет на них «слияние моделей». В результате этой эволюции через сотни поколений получаются превосходные модели [1].
Ключевой критерий эволюционного отбора - поиск наилучших способов объединения моделей - «родителей»: как с точки зрения их конструкции (архитектуры), так и того, как они «думают» (их параметров).
Напр., выведенная таким путем модель EvoLLM-JP с 7 млрд параметров (языковая модель с хорошим знанием японского языка и математическими способностями) в ряде тестов превосходит существующие модели с 70 млрд параметров.
Кроме этой модели, путем «разведения» существующих моделей с открытым исходным кодом для создания оптимизированного «потомства», были созданы:
✔️ EvoSDXL-JP: диффузионная модель для высокоскоростной визуализации
✔️ EvoVLM-JP: языковая модель Vision для японского текста и изображений.
Колоссальный интерес к методу Sakana AI вызван тем, что это новый альтернативный путь обучения ИИ.
• Хотя метод «слияния моделей» весьма эффективен для развития LLM из-за его экономической эффективности, в настоящее время он опирается на человеческую интуицию и знание предметной области, что ограничивает его потенциал.
• Предложенный же Sakana AI эволюционный подход, преодолевает это ограничение, автоматически обнаруживая эффективные комбинации различных моделей с открытым исходным кодом, используя их коллективный разум, не требуя обширных дополнительных обучающих данных или вычислений.
В контексте этой работы важно понимать следующее.
В настоящее время, из-за острой необходимости преодоления сверхгигантских требований к вычислительной мощности при разработке более крупных моделей, разработана концепция «смертных вычислений» (предложена Джеффри Хинтоном и развивается по двум направлениям: самим Хинтоном и Карлом Фристоном).
В основе концепции «смертных вычислений» гипотеза о том, что обучение «бессмертного» компьютера требует на порядки большей вычислительной мощности, чем «смертного» (пример - биологический мозг). Поэтому предлагаются два способа сделать компьютер «смертным», и тем решить проблему сверхгигантской вычислительной мощи.
Предложенный же японцами подход может способствовать решению этой проблемы для «бессмертных» (т.е. по сути мертвых) вычислителей, путем запуска эволюции мертвого разума (подробней см. [2 и 3]).
0 https://telegra.ph/file/c006a48b075398d3494bc.gif
1 https://sakana.ai/evolutionary-model-merge/
2 https://arxiv.org/abs/2403.13187
3 https://www.youtube.com/watch?v=BihyfzOidDI
#LLM #Эволюция #Разум #СмертныеВычисления
Изобретен способ совершенствования «потомства» моделей генеративного ИИ, схожий с размножением и естественным отбором
Японский стартап Sakana AI использовал технику «слияния моделей», объединяющую существующие модели генеративного ИИ в сотни моделей нового поколения (модели-потомки) [0]. Эволюционный алгоритм отбирает среди потомков лучших и повторяет на них «слияние моделей». В результате этой эволюции через сотни поколений получаются превосходные модели [1].
Ключевой критерий эволюционного отбора - поиск наилучших способов объединения моделей - «родителей»: как с точки зрения их конструкции (архитектуры), так и того, как они «думают» (их параметров).
Напр., выведенная таким путем модель EvoLLM-JP с 7 млрд параметров (языковая модель с хорошим знанием японского языка и математическими способностями) в ряде тестов превосходит существующие модели с 70 млрд параметров.
Кроме этой модели, путем «разведения» существующих моделей с открытым исходным кодом для создания оптимизированного «потомства», были созданы:
✔️ EvoSDXL-JP: диффузионная модель для высокоскоростной визуализации
✔️ EvoVLM-JP: языковая модель Vision для японского текста и изображений.
Колоссальный интерес к методу Sakana AI вызван тем, что это новый альтернативный путь обучения ИИ.
• Хотя метод «слияния моделей» весьма эффективен для развития LLM из-за его экономической эффективности, в настоящее время он опирается на человеческую интуицию и знание предметной области, что ограничивает его потенциал.
• Предложенный же Sakana AI эволюционный подход, преодолевает это ограничение, автоматически обнаруживая эффективные комбинации различных моделей с открытым исходным кодом, используя их коллективный разум, не требуя обширных дополнительных обучающих данных или вычислений.
В контексте этой работы важно понимать следующее.
В настоящее время, из-за острой необходимости преодоления сверхгигантских требований к вычислительной мощности при разработке более крупных моделей, разработана концепция «смертных вычислений» (предложена Джеффри Хинтоном и развивается по двум направлениям: самим Хинтоном и Карлом Фристоном).
В основе концепции «смертных вычислений» гипотеза о том, что обучение «бессмертного» компьютера требует на порядки большей вычислительной мощности, чем «смертного» (пример - биологический мозг). Поэтому предлагаются два способа сделать компьютер «смертным», и тем решить проблему сверхгигантской вычислительной мощи.
Предложенный же японцами подход может способствовать решению этой проблемы для «бессмертных» (т.е. по сути мертвых) вычислителей, путем запуска эволюции мертвого разума (подробней см. [2 и 3]).
0 https://telegra.ph/file/c006a48b075398d3494bc.gif
1 https://sakana.ai/evolutionary-model-merge/
2 https://arxiv.org/abs/2403.13187
3 https://www.youtube.com/watch?v=BihyfzOidDI
#LLM #Эволюция #Разум #СмертныеВычисления
Инфорги, киборги, роботы, AGI и когнитивная эволюция
Подкаст «Ноосфера» #070
Когнитивная эволюция, приведшая человечество в 21 веке к превращающей людей в инфоргов кардинальной трансформации многотысячелетней культуры Homo sapiens, - это тема, о которой мною уже написано и наговорено немало.
Однако глубокое и детальное погружение в эту тему в форме полуторачасового диалога у меня случилось лишь теперь – в беседе с Сергеем Суховым, автором самого крупного TG-канала о прикладной философии @stoicstrategy и личного журнала @sukhovjournal.
https://www.youtube.com/watch?v=PzTH1KY6nSY
Тем моим читателям, кто захочет погрузиться в эту тему еще подробней, доступны лежащих в открытом доступе посты моего канала «Малоизвестное интересное» с тэгами: #АлгокогнитивнаяКультура #Инфорги #Разум #БудущееHomo #ЭволюцияЧеловека #УскорениеЭволюции
Но поскольку этих постов несколько сотен (чего хватило бы на несколько книг 😊), здесь моя рекомендация по подборке ключевых постов, достаточной для более полного погружения в тему.
https://telegra.ph/Inforgi-kiborgi-roboty-AGI-i-kognitivnaya-ehvolyuciya-04-02
Ну а тем, кто хотел бы и дальше читать мои лонгриды на эту тему, имеет смысл подписаться на «Малоизвестное интересное» на платформах Patreon и Boosty (где по этой теме скоро будут опубликованы новые интереснейшие лонгриды: про связь больших языковых моделей и инопланетных цивилизаций, про 1-ю мировую технорелигиозную войну пяти новых технорелигий и т.д.)
https://www.patreon.com/theworldisnoteasy
https://boosty.to/theworldisnoteasy
Подкаст «Ноосфера» #070
Когнитивная эволюция, приведшая человечество в 21 веке к превращающей людей в инфоргов кардинальной трансформации многотысячелетней культуры Homo sapiens, - это тема, о которой мною уже написано и наговорено немало.
Однако глубокое и детальное погружение в эту тему в форме полуторачасового диалога у меня случилось лишь теперь – в беседе с Сергеем Суховым, автором самого крупного TG-канала о прикладной философии @stoicstrategy и личного журнала @sukhovjournal.
https://www.youtube.com/watch?v=PzTH1KY6nSY
Тем моим читателям, кто захочет погрузиться в эту тему еще подробней, доступны лежащих в открытом доступе посты моего канала «Малоизвестное интересное» с тэгами: #АлгокогнитивнаяКультура #Инфорги #Разум #БудущееHomo #ЭволюцияЧеловека #УскорениеЭволюции
Но поскольку этих постов несколько сотен (чего хватило бы на несколько книг 😊), здесь моя рекомендация по подборке ключевых постов, достаточной для более полного погружения в тему.
https://telegra.ph/Inforgi-kiborgi-roboty-AGI-i-kognitivnaya-ehvolyuciya-04-02
Ну а тем, кто хотел бы и дальше читать мои лонгриды на эту тему, имеет смысл подписаться на «Малоизвестное интересное» на платформах Patreon и Boosty (где по этой теме скоро будут опубликованы новые интереснейшие лонгриды: про связь больших языковых моделей и инопланетных цивилизаций, про 1-ю мировую технорелигиозную войну пяти новых технорелигий и т.д.)
https://www.patreon.com/theworldisnoteasy
https://boosty.to/theworldisnoteasy
YouTube
Сергей Карелов: Инфорги, киборги, роботы, AGI и когнитивная эволюция | Подкаст «Ноосфера» #070
#ИИ #Инфорги #эволюция
Гость подкаста: Сергей Карелов - независимый исследователь и консультант, кандидат наук, экс топ-менеджер IBM, Silicon Graphics (SGI), Cray Research, сооснователь Witology, ведущий авторского канала «Малоизвестное интересное» (Th…
Гость подкаста: Сергей Карелов - независимый исследователь и консультант, кандидат наук, экс топ-менеджер IBM, Silicon Graphics (SGI), Cray Research, сооснователь Witology, ведущий авторского канала «Малоизвестное интересное» (Th…
Отношение к смерти может стать эволюционной развилкой людей и инфоргов
Призыв оксфордских исследователей остановить экспансию «ботов - призраков» умерших близких
Исследователи Leverhulme Centre for the Future of Intelligence Оксфордского университета пишут о потенциальных рисках бурно растущей индустрии «цифрового послесмертия» (всевозможные ИИ-чат боты: «боты скорби», «боты призраки», «клоны разума», «танатоботы» и «посмертные аватары») [1].
Риски касаются не только причинения значительного социального и психологического вреда индивидам. Речь также идет о риске обрушения основы основ культуры Homo sapiens – отношения к смерти и практик траура.
Обычай хоронить умерших появился у предков современных людей 100К+ лет назад. Это древнейший из известных нам ритуалов, кои представляют собой, своего рода, ментальный краеугольный камень эволюции социального познания людей [2].
Наступление эпохи тотальной оцифровки мира и появление генеративного ИИ, ломает ритуальные практики и даже само отношение к смерти, формировавшиеся примерно 3,5К генетических поколений.
✔️ Почему мы должны страдать от потери близких, если с помощью ИИ можно сделать их реконструированные цифровые личности, сохраняющие их внешность, голос, свойства личности и характера, поведенческие черты и т.д.?
✔️ Всем будет только хорошо, если умершая бабушка продолжит читать сказки на ночь у постели любимого внука. А умерший отец, по-прежнему, останется душой семейных праздничных застолий, на которых собираются все члены большой и дружной семьи. Или неизлечимо больная женщина, оставит после себя свою цифровую реплику, озвучиваемую ИИ-чатботом, чтобы помочь восьмилетнему сыну пережить горе …
Грядущая кардинальная трансформация культурных, экономических и социальных аспектов «цифрового послесмертия» («посмертное информационное тело», «принцип человеческого достоинства», «монетизация цифровой загробной жизни», «практики цифрового траура», «RIP-троллинг») была подробно описана еще в 2017 в работе зачинателей этого направления в Лаборатории цифровой этики Оксфордского университета К. Омана и Л. Флориди «Политическая экономия смерти в век информации: Критический подход к цифровой индустрии послесмертия» [3].
Революция генеративного ИИ дала колоссальный импульс этому направлению бизнеса. И уже к концу прошлого года, возникла «жуткая новая индустрия цифровой загробной жизни» [4, 5].
Единственным сдерживающим фактором остается то, что многие все еще находят идею посмертных аватаров довольно жуткой.
Сохранится ли в обществе такой скептицизм — открытый вопрос. Ведь большинство тех, кто сейчас относится к цифровому послесмертию отрицательно, принадлежат к старшему поколению. Ведь их жизнь не настолько оцифрована, как у цифровых сетевых аборигенов - инфоргов, проводящих в «он-лайфе» больше времени, чем во сне. А когда новое поколение альфа-инфоргов (инфоргов от рождения) подрастёт [6], концепция цифрового послесмертия может найти большее признание и, возможно, даже стать частью траурных практик, взамен посещения могил или хранение фотографий умерших (подробней см. проект «Этика, закон и безопасность в цифровой загробной жизни (Edilife)» [7].
В заключение.
Сапиенсов и неандертальцев объединял, возможно, единственный, но первостепенный фактор социального познания людей – ритуальное захоронение умерших.
Вполне возможно, что у другой пары Хомо – сапиенсов и инфоргов – тот же самый фактор сыграет роль стрелки на их расходящихся эволюционных путях.
#ХищныеВещиВека #Ритуалы #Эволюция #СоциальноеПознание #Инфорги
0 https://telegra.ph/file/2aeaa5a9727d813f6b471.jpg
1 https://link.springer.com/article/10.1007/s13347-024-00744-w
2 https://t.me/theworldisnoteasy/1575
3 https://link.springer.com/article/10.1007/s11023-017-9445-2
4 https://spectrum.ieee.org/digital-afterlife
5 https://muftah.org/2024/05/16/the-end-is-trending/
6 https://t.me/theworldisnoteasy/1884
7 https://uni-tuebingen.de/en/university/news-and-publications/university-of-tuebingen-magazine-attempto/digital-afterlife/
Призыв оксфордских исследователей остановить экспансию «ботов - призраков» умерших близких
Исследователи Leverhulme Centre for the Future of Intelligence Оксфордского университета пишут о потенциальных рисках бурно растущей индустрии «цифрового послесмертия» (всевозможные ИИ-чат боты: «боты скорби», «боты призраки», «клоны разума», «танатоботы» и «посмертные аватары») [1].
Риски касаются не только причинения значительного социального и психологического вреда индивидам. Речь также идет о риске обрушения основы основ культуры Homo sapiens – отношения к смерти и практик траура.
Обычай хоронить умерших появился у предков современных людей 100К+ лет назад. Это древнейший из известных нам ритуалов, кои представляют собой, своего рода, ментальный краеугольный камень эволюции социального познания людей [2].
Наступление эпохи тотальной оцифровки мира и появление генеративного ИИ, ломает ритуальные практики и даже само отношение к смерти, формировавшиеся примерно 3,5К генетических поколений.
✔️ Почему мы должны страдать от потери близких, если с помощью ИИ можно сделать их реконструированные цифровые личности, сохраняющие их внешность, голос, свойства личности и характера, поведенческие черты и т.д.?
✔️ Всем будет только хорошо, если умершая бабушка продолжит читать сказки на ночь у постели любимого внука. А умерший отец, по-прежнему, останется душой семейных праздничных застолий, на которых собираются все члены большой и дружной семьи. Или неизлечимо больная женщина, оставит после себя свою цифровую реплику, озвучиваемую ИИ-чатботом, чтобы помочь восьмилетнему сыну пережить горе …
Грядущая кардинальная трансформация культурных, экономических и социальных аспектов «цифрового послесмертия» («посмертное информационное тело», «принцип человеческого достоинства», «монетизация цифровой загробной жизни», «практики цифрового траура», «RIP-троллинг») была подробно описана еще в 2017 в работе зачинателей этого направления в Лаборатории цифровой этики Оксфордского университета К. Омана и Л. Флориди «Политическая экономия смерти в век информации: Критический подход к цифровой индустрии послесмертия» [3].
Революция генеративного ИИ дала колоссальный импульс этому направлению бизнеса. И уже к концу прошлого года, возникла «жуткая новая индустрия цифровой загробной жизни» [4, 5].
Единственным сдерживающим фактором остается то, что многие все еще находят идею посмертных аватаров довольно жуткой.
Сохранится ли в обществе такой скептицизм — открытый вопрос. Ведь большинство тех, кто сейчас относится к цифровому послесмертию отрицательно, принадлежат к старшему поколению. Ведь их жизнь не настолько оцифрована, как у цифровых сетевых аборигенов - инфоргов, проводящих в «он-лайфе» больше времени, чем во сне. А когда новое поколение альфа-инфоргов (инфоргов от рождения) подрастёт [6], концепция цифрового послесмертия может найти большее признание и, возможно, даже стать частью траурных практик, взамен посещения могил или хранение фотографий умерших (подробней см. проект «Этика, закон и безопасность в цифровой загробной жизни (Edilife)» [7].
В заключение.
Сапиенсов и неандертальцев объединял, возможно, единственный, но первостепенный фактор социального познания людей – ритуальное захоронение умерших.
Вполне возможно, что у другой пары Хомо – сапиенсов и инфоргов – тот же самый фактор сыграет роль стрелки на их расходящихся эволюционных путях.
#ХищныеВещиВека #Ритуалы #Эволюция #СоциальноеПознание #Инфорги
0 https://telegra.ph/file/2aeaa5a9727d813f6b471.jpg
1 https://link.springer.com/article/10.1007/s13347-024-00744-w
2 https://t.me/theworldisnoteasy/1575
3 https://link.springer.com/article/10.1007/s11023-017-9445-2
4 https://spectrum.ieee.org/digital-afterlife
5 https://muftah.org/2024/05/16/the-end-is-trending/
6 https://t.me/theworldisnoteasy/1884
7 https://uni-tuebingen.de/en/university/news-and-publications/university-of-tuebingen-magazine-attempto/digital-afterlife/
