Новая китайская собачка, версия Go2, которую недавно анонсировала компания Unitree. Стоит всего $1.600, что удивляет при таких умениях. Оснащена камерой и лидаром.

На днях в Японии прошла ALIFE 2023, конференция по 'искусственной жизни' (клеточные автоматы, гибриды, роботы, искусственные агенты и проч.). Под этим зонтиком собрано много разных идей, исследований и просто попыток смотреть за горизонт. Тема в этот раз: Ghost in the Machine

На сайте MIT выложены proceedings, т.е. труды участников конференции. Вайб примерно такой: “методы воспроизводства мозга для морфологически эволюционирующих роботов” или, например, “когнитивная археология социокультурных форм жизни”. Охват широк: теория разума, резервуарные вычисления, эволюция, коллективное поведение, симбиоз, обучение, самосбрка и мн. др. Пример сессии: (Не)человеческие ценности и искусственная свобода воли.

Словом, state-of-the-art темы ‘искусственной жизни’ (не путайте с инженерной биологией). Текстов много, залипательно.

Это, конечно, перебор. Амплитуда изрядно преувеличена. Но сам характер колебаний — правда. Так и происходит у нас в 🧠. Амплитуду изменили ученые, на компьютере, чтобы сделать пульсации и деформации более заметными. Чтобы отслеживать биомеханику тканей и жидкостей мозга. Они называют это "МРТ с трехмерным усилением" (3D amplified MRI).

Даглас Хофштадтер смог совместить приятное с полезным: он рассказал, как создавал "Гедель, Эшер, Бах", принесшую ему Пулитцеровскую премию, и заодно расправился с большими языковыми моделями, по поводу которых давно испытывает неприязнь. Он описывает такой случай: один из читателей задумал разместить на своем сайте историю написания “ГЭБ”, но постеснялся обременять Хофштадтера и попросил GPT-4 написать эссе "Почему я написал ГЭБ?" от имени автора. И затем выслал эссе Хофштадтеру на утверждение. С глубоким уважением.

Хофштадтер в Atlantic приводит текст эссе полностью, а затем свой вердикт:

“Эта проза не имеет практически ничего общего с моим стилем письма, а то, что в ней написано, совершенно не соответствует реальной истории, лежащей в основе генезиса книги. Хотя человек, не знакомый с моими текстами, может принять эту слащавую смесь напыщенности и скромности за подлинную, для меня она настолько далека от моего настоящего голоса и от реальной истории ГЭБ, что это просто смешно”.

Cледом он излагает подлинную историю создания книги, и это самый увлекательный фрагмент. На контрасте он показывает, что LLM не создала ничего кроме пресных общих фраз, слабо связанных с реальностью и не имеющих глубины. Хофштадтер говорит, что он против разработки и широкого использования больших языковых моделей, они противоположны его способу видеть мир: “На мой взгляд, нет никакого смысла в том, чтобы искусственный голос чатбота, беспорядочно болтающего с ослепительной скоростью, заменял гораздо более медленный, но подлинный и рефлексивный голос думающего, живого человека”.

Всем поклонникам легенды рекомендую.

Том Оксли, CEO Synchron, встал на защиту нейроинтерфейсов. Он увидел, как Кип Людвиг, бывший директор по нейроинженерии в NIH, обесценивает BCI: "Это очень дорогая и сложная технология, требующая обслуживания. Это очень маленький рынок. Кто будет платить за нее?” — и разразился возражением. Вот доводы Оксли:

Опровержение 1: Дорого и сложно

Снижение стоимости (с того уровня, на котором находился Second Sight) будет иметь большое значение. Отчасти это связано со сложностью системы. Мы узнаём, что пациенты хотят простоты в функциях. На конференции BCI в Брюсселе в прошлом месяце Ник Рэмси сделал убедительное заявление о том, что пациентам необходимы простые, удобные в использовании, надежные системы, которые просто работают: не нужно полагаться на сиделок или инженеров для устранения неполадок – минимальное обучение пациентов, не месяцы и не недели – когнитивная нагрузка должна быть низкой.

В "гонке вооружений" за высокую производительность и пропускную способность BCI упускается из виду, что пациентам нужна простая и стабильная система, которая работает сразу. И она должна продолжать работать. Долговечность устройства имеет значение.

Мы остановились на простой конструкции, которая должна снизить стоимость, быть простой в использовании и универсальной для различных платформ/операционных систем.

Опровержение 2: Маленький рынок

Это миф. Нарушение двигательных функций — не маленькая проблема. Инсульт, БАС, травма спинного мозга, рассеянный склероз, артропатия — существует множество заболеваний, при которых нарушаются двигательные функции. Моторные BCI (нейропротезы) не устраняют основное заболевание, а создают новый "обходной" путь для вывода управляющих сообщений из мозга в цифровом виде. Технология не зависит от заболевания и может помочь большому количеству людей, у которых не работают руки и которые хотят вернуть контроль над своими смартфонами.

Опровержение 3: Кто будет платить?

Как и все новые имплантируемые медицинские устройства класса III, BCI должны быть доказаны в клинических испытаниях как безопасные и эффективные. Затем эти данные передаются в Medicare/CMS, где запрашивается покрытие и оплата. Если технология работает, за ней следуют частные страховщики. Если испытания покажут, что технология необходима и целесообразна для пациентов, Medicare/CMS имеет отличный послужной список по покрытию технологий, прошедших путь предварительного одобрения FDA. (Но да, вы должны провести испытания).

Мы говорим о технологии, которая восстанавливает использование персональных устройств для людей, чьи руки больше не работают. В этом пространстве много шума, но в целом мы движемся к ясности в отношении нормативных требований и путей возмещения расходов, которые сделают эту технологию доступной для многих людей и улучшат их жизнь так, как это невозможно в настоящее время.

* * *

Макс Ходак сразу поддержал Оксли: “Кип будет продолжать рассказывать нам о том, что BCI невозможны, в то время как пациенты будут создавать баскетбольную лигу”.

Посмотрел, наконец, дебаты об угрозах искусственного интеллекта: Бенжио и Тегмарк vs. Лекуна и Митчелл. Думаю, примерно так проходили споры схоластов о том, сколько ангелов уместится на кончике иглы. Сверхразумный ИИ, экспоненциально умнеющий и ускользающий от любого контроля, столь же неуловим для предметного анализа, что и ангелы. Отсюда в ход шли аналогии и примеры из прошлого. Если интересно, дебаты начинаются после 13-й минуты (YT).

Более содержателен, однако, вопрос о том, можно ли оценивать интеллект ИИ метриками, разработанными для людей. Когда человек сдает тест/экзамен, мы неявно ожидаем, что он научился решать задачи данного типа. В случае ИИ это может быть не так. На этот счет рекомендую июльское эссе той же Мелани Митчелл в Science: How do we know how smart AI systems are? и подкаст Эрика Тополя с ней же: Straight Talk on A.I. Large Language Models. Это ключевой вопрос, влияющий на всю дальнейшую политику по отношению к ИИ.

По случаю напомню, что прошло уже четыре месяца с момента публикации открытого письма о приостановке обучения ИИ моделей на полгода. Паузы не случилось, признаков неконтролируемого возрастания рисков не видать, зато случился курьез, который подписанты письма не предвидели — GPT-4 “поглупел”. Что само по себе занятно и может создать барьер широкому использованию таких моделей из-за непредсказуемости подобных эффектов. Последствия хорошо разобрал Александр Сергеев в 14-минутном видео.

Заголовок NYT вводит в заблуждение. Впрочем, как и название оригинальной статьи в PLoS Biology: о реконструкции музыки по сигналам мозга тут говорить явно не приходится. Можете сами послушать аудио-фрагменты и оценить, насколько они похожи на песню Pink Floyd.

Увы, результат еще хуже, чем с реконструкцией картинок. Почему авторы пишут “We successfully reconstructed a recognizable song from direct neural recordings”, не ясно.

Вышел свежий манифест группы авторов, включая таких звезд как Эд Бойден и Джордж Чёрч, с призывом создать работающую модель нервной системы червя: не коннектом, который не дал понимания, а именно все взаимодействия клеток, то есть, по сути, сделать “цифрового двойника” нервной системы.

💥 "To reverse engineer an entire nervous system" | arXiv (2023)

Они считают, что следует пока отложить эксперименты с мышами и попытаться вывести принципы нейронных вычислений, работая с более простой моделью:

“Reverse engineering the causal interactions in the nervous system of C. elegans promises to establish in-silico simulations as a way of accelerating neuroscience. It promises to teach us how to run experiments that reveal the causal ways of how circuits work”.

В манифесте читается образ науки, который предвещают и приближают авторы: нейронаука будет питаться, с одной стороны, возросшими возможностями инструментов, которые могут видеть активность и организацию живых сетей в мельчайших деталях, и ресурсами машинного обучения, с другой, которое позволит извлекать корреляции из петабайтов данных, строить модели и экспериментировать in-silico.

Концепция “живых электродов” получила развитие. Напомню, придумали ее в University of Pennsylvania: в мягких гидрогелевых трубках выращивают аксоны живых нейронов и затем имплантируют эти трубки в мозг крысы, где отростки связываются с клетками грызуна и проводят сигнал, словно обычный электронный зонд.

Идея убедила инженеров из University of Utah. Они сделали из таких "электродов" матрицу 4х4 и выложили препринт. Пока ее проверили in vitro, но уже планируют эксперименты in vivo, в том числе сделать иглы разлагаемыми. Так в перспективе решается проблема биосовместимости: в мозге останутся только живые клетки в роли проводящего кабеля к чипу.

Не хотел писать про очередное мыслительное упражнение на тему “сознание в машине”, но новость расходится, отклики разные, и пару моментов все же стоит пояснить. Например, ряд авторов препринта еще в апреле подписали открытое письмо Association for Mathematical Consciousness Science (да, есть и такое) с посылом: “мы подчеркиваем, что быстрое развитие ИИ обнажает острую необходимость ускорения исследований в области науки о сознании”.

К августу они провели свое “исследование”, хотя оно было изначально обречено — препринт вышел длинным, но почти лишен содержания. Их ключевой вывод “The evidence we consider suggests that […] conscious AI systems could realistically be built in the near term” примечателен тем, что его никак не проверить, особенно in the near term. Нет научного способа обнаружить сознание в неоднозначной ситуации, в серой зоне.

Корректнее их вывод звучал бы так: мы считаем, что можно создать такую ИИ систему, у которой будут свойства из списка, что мы составили, изучив некоторые теории сознания. Словом, свойства будут, а будет ли сознание — не ясно. Потому что “теории сознания” сами еще сырые, чтобы на них полагаться. По некоторым тезисам в тексте видно, что авторы все понимают. Тем удивительнее этот порыв перелить из пустого в порожнее на 70 страниц.

Неделей раньше вышла статья, главная мысль которой отражена в названии: “Системы ИИ не должны вводить пользователей в заблуждение относительно их разумности или морального статуса”. Или чуть подробнее:

“Системы ИИ не должны сбивать с толку с моральной точки зрения. Этически правильный способ обращения с ними должен быть очевиден из их дизайна и интерфейса. Никто не должен вводить себя в заблуждение, например, думая, что неразумная языковая модель на самом деле является разумным другом, способным испытывать истинное удовольствие и боль. К сожалению, мы находимся на пороге новой эры морально запутанных машин”.

Проблема поймана верно, оттого и 'острая необходимость ускорения исследований в области науки о сознании'. Причем наука эта, вероятно, должна предвидеть возможность разных форм сознания и изучать в т.ч. поведение ИИ систем. Пока же мы ходим по кругу, бормоча одни и те же заклинания, ни к чему не обязывающие и не проверяемые — ровно так и окажемся в компании морально запутанных машин. 🦜🧠

Кстати, Джошуа Бенжио, лауреат премии Тьюринга и активный подписант открытых писем за приостановку исследований ИИ и за ускорение исследований сознания, он же соавтор препринта ☝️, написал недавно о личных переживаниях и кризисе, через который проходит.

Всю дорогу он, как и все коллеги, стремился сделать умную машину, но считал, что эта цель слишком далека, чтобы рефлексировать. В этом году, увидев GPT4, он пришел в смятение. Бенжио полагает, что грядет сверхразум, и не хочет быть причастным к этому: “Больно осознавать, что мы, возможно, способствовали чему-то, что может быть очень разрушительным. Мы пока не знаем, как сделать агента ИИ управляемым и тем самым гарантировать безопасность человечества! И все же мы — включая меня до сих пор — мчимся вперед к созданию таких систем”.

Бенжио оказался очень впечатлительным и ранимым. В отличие от бодрого Лекуна или того же Маркуса, который не сдается и продолжает ехидничать над “интеллектом” больших моделей, предвещая их убыточность.

В Nature сообщают: мышам встроили ген от голого землекопа, и мыши реже заболевали раком, они стали дольше жить и оставаться здоровыми. Ген взяли не случайный, а высокомолекулярной гиалуроновой кислоты. Подозревают и очень давно, что он способствует уникальному долгожитию голых землекопов. Авторы пишут, что “механизм долголетия может быть экспортирован в другие виды”, и это круто, конечно.

Замечу, что эксперимент провели Вера Горбунова и Андрей Селуянов из University of Rochester, они чуть ли не главные в мире эксперты по этой теме. Много лет изучают голых землекопов.

Однажды давно они как-то прилетели в Москву, и мы часа полтора беседовали об их исследованиях и вообще о том, что там с перспективой жить дольше. Андрей тогда дословно сказал: “Пока мы сделали это на клетках: если убирается гиалуроновая кислота, они становятся раковыми, если продолжают выделять, они устойчивы к раку. Мы сейчас пытаемся сделать мышь, которая будет вырабатывать такую же длинную гиалуроновую кислоту, как у голого землекопа, и мы предполагаем, что мышь перестанет болеть раком и будет дольше жить”.

И вот, спустя годы, получилось. Мои поздравления!

Карл Циммер в NYT пишет про запутанный вопрос о микробах в опухолях. В прошлом году я отмечал статью в Cell, где авторы обнаружили в раковых клетках «множественные грибково-бактериально-иммунные экологии». Но вот несколько исследовательских групп поставили под сомнение три наиболее известных работы в этой области, сообщив, что им не удалось их воспроизвести. Критики критикуют, а авторы настаивают на своем, утверждая, что получают ДНК сигнатуры, специфичные для типа опухоли.

В целом это терпимая ситуация для поисковых исследований, если бы не одно пикантное обстоятельство: один из главных авторов из UC San Diego еще и соучредитель стартапа по разработке тестов на рак на основе микробных ДНК. Впрочем, Циммер завершает текст тем, что критика пока не изменила общий вес доказательств. По словам одного эксперта «все согласны с тем, что микробы существуют в опухолях и играют важную роль».

Физика как вычисление. В недавней статье “К формальной теории вычислительных машин, созданной на основе всего, что предлагает физика” авторы обсуждают альтернативу вычислениям по Тьюрингу для создания нетрадиционных компьютеров. Отмечу введение — его можно читать и без привязки к дальнейшему тексту, где все становится сложнее (впрочем, это еще краткий вариант, есть и extended version).

Тем же днем вышла статья в Nature: “Транзисторы будущего”. Подробно изложена проблематика КМОП и перспективные решения, которые видятся сегодня. Авторы уверены, что закон Мура будет действовать еще долго. Обе статьи ценны еще как кладезь ссылок и идей, и как свидетельство того, что нынешние компьютеры — лишь промежуточный этап на пути к чему-то более грандиозному. 👌

Тема про лечение светом, мерцающим на “волшебной” частоте 40 Гц, продолжает развиваться, опережая мои ожидания. Уже писал здесь о том, как ученые MIT раньше включали свет грызунам и теперь уже идут клинические испытания с пациентами, и первые результаты обнадеживают, в т.ч. недавно озвучены на AAIC, ежегодной конфе Alzheimer's Association. Но всякий раз я упоминал MIT, Cognito Therapeutics и Эда Бойдена.

Пора ввести в эту историю нового персонажа: Аннабель Сингер. Она была сотрудницей у Бойдена в MIT, когда они разрабатывали этот метод. Ее имя в соавторах ключевых статей. Позже возглавила лабораторию в Georgia Tech, где занимается в том числе зрительной стимуляцией мозга на частоте 40 Гц, очевидно, с благословения Бойдена. И вот, от нее есть новости.

Ее группа показала: выбрав частоту мерцания, можно регулировать иммунные ответы и функции микроглии в мозге. Часа стимуляции хватит, чтобы изменить синтез цитокинов и даже морфологию глиальных клеток. Выходит, одним лишь мерцанием света можно влиять на иммунную функцию. Как говорит Сингер, «мы можем неинвазивно манипулировать иммунной системой мозга в любом направлении, усиливая или приглушая ее, в зависимости от стимуляции».

Если подтвердится на людях, это будет очень интересный инструмент. Выходящий далеко за пределы терапии болезни Альцгеймера, ведь патологическая нейроиммунная активность проявляет себя при разных заболеваниях. Игра стоит свеч.

Вот такие очки со светодиодами, возмутительно просто. Правда, Cognito Therapeutics обещает более дизайнерский гаджет, но не за дизайн компания привлекла весной $73M на венчурном рынке. Бойден — учредитель Cognito, а Сингер владеет долей.

Психолог из Колумбийского университета Адам Мастроянни, который любит заострять, на днях выдал эссе, где прошелся по экспериментальной психологии как науке. Это его область, и он говорит: то, что многие работы не воспроизводятся, не главная проблема. Главная проблема — то, что эта невоспроизводимость не имеет значения.

Масса статей, десятки тысяч цитирований, блестящие карьеры. Формально бурное развитие. Но если их изъять из корпуса текстов, в этой “науке” не изменится ничего. Мастроянни считает, что у экспериментальных психологов есть всего три парадигмы (например, «люди предвзяты»), которые они без конца “проверяют”, но идеи такого рода не поддаются фальсификации и неисчерпаемы. Словом, психология пока пребывает в стадии донауки или протонауки.

Мастроянни вы можете знать и как автора недавно пошумевшей в новостях статьи в Nature “The illusion of moral decline” про кажущийся упадок морали в последние десятилетия.

Кажется, “беременных” органоидов у нас еще не было. Но будут. А иначе как изучать взаимодействие матери и плода, их нарушения и болезни? У мышей все же иная физиология, и далеко не все детали человеческого эмбриогенеза так можно узнать.

Корейские авторы в журнале eBioMdicine призывают к моделированию беременности человека in vitro. Их взгляд такой: “Воссоздание человеческой беременности с помощью инженерной модели, естественно, является сложной задачей; тем не менее, для развития точной медицины эти задачи неизбежны”.

Медицина будущего будет больше похожа на психиатрию, чем на химию. Майкл Левин вместе с директором Центра раковых стволовых клеток в University of Pittsburgh написали статью “Future medicine: from molecular pathways to the collective intelligence of the body” [в комментах см. PDF]. Я долго сомневался, стоит ли о ней здесь упоминать — взгляд там радикальный и требует многих пояснений.

В чем их идея, если кратко. Сегодня медицина работает за счет микроуправления, пытаясь регулировать молекулы и пути. Авторы считают, что лучше работать уровнями выше и использовать способности организма к самовосстановлению. Если смотреть на ткани тела как на коллективных агентов, решающих проблемы, то в качестве вмешательств уже применимы методы поведенческой и когнитивной науки. Тогда у биомедицины появится — помимо фармакологии для микроуправления — новый инструмент. Он нацелен не на молекулы и физиологию, а на восприятие, память и принятие решений разными агентами (клетками, тканями, органами).

Авторы используют термин «соматическая психиатрия». Это зонтик, под которым и кибернетика, и теория контроля, и поведенческая нейробиология, и теория игр, и теория обучения. Исследовательская программа в таком случае сводится к поиску управляющих сигналов для “агентов”, перепрограммированию их целей (скажем, бактерии или паразиты уже владеют этим инструментом).

Словом, если использовать далекую аналогию, медицина должна перейти от переподключения кабелей ЭВМ 1940—1950-х годов к работе через софт и высокоуровневые языки программирования.