Не хотел писать про очередное мыслительное упражнение на тему “сознание в машине”, но новость расходится, отклики разные, и пару моментов все же стоит пояснить. Например, ряд авторов препринта еще в апреле подписали открытое письмо Association for Mathematical Consciousness Science (да, есть и такое) с посылом: “мы подчеркиваем, что быстрое развитие ИИ обнажает острую необходимость ускорения исследований в области науки о сознании”.

К августу они провели свое “исследование”, хотя оно было изначально обречено — препринт вышел длинным, но почти лишен содержания. Их ключевой вывод “The evidence we consider suggests that […] conscious AI systems could realistically be built in the near term” примечателен тем, что его никак не проверить, особенно in the near term. Нет научного способа обнаружить сознание в неоднозначной ситуации, в серой зоне.

Корректнее их вывод звучал бы так: мы считаем, что можно создать такую ИИ систему, у которой будут свойства из списка, что мы составили, изучив некоторые теории сознания. Словом, свойства будут, а будет ли сознание — не ясно. Потому что “теории сознания” сами еще сырые, чтобы на них полагаться. По некоторым тезисам в тексте видно, что авторы все понимают. Тем удивительнее этот порыв перелить из пустого в порожнее на 70 страниц.

Неделей раньше вышла статья, главная мысль которой отражена в названии: “Системы ИИ не должны вводить пользователей в заблуждение относительно их разумности или морального статуса”. Или чуть подробнее:

“Системы ИИ не должны сбивать с толку с моральной точки зрения. Этически правильный способ обращения с ними должен быть очевиден из их дизайна и интерфейса. Никто не должен вводить себя в заблуждение, например, думая, что неразумная языковая модель на самом деле является разумным другом, способным испытывать истинное удовольствие и боль. К сожалению, мы находимся на пороге новой эры морально запутанных машин”.

Проблема поймана верно, оттого и 'острая необходимость ускорения исследований в области науки о сознании'. Причем наука эта, вероятно, должна предвидеть возможность разных форм сознания и изучать в т.ч. поведение ИИ систем. Пока же мы ходим по кругу, бормоча одни и те же заклинания, ни к чему не обязывающие и не проверяемые — ровно так и окажемся в компании морально запутанных машин. 🦜🧠

Кстати, Джошуа Бенжио, лауреат премии Тьюринга и активный подписант открытых писем за приостановку исследований ИИ и за ускорение исследований сознания, он же соавтор препринта ☝️, написал недавно о личных переживаниях и кризисе, через который проходит.

Всю дорогу он, как и все коллеги, стремился сделать умную машину, но считал, что эта цель слишком далека, чтобы рефлексировать. В этом году, увидев GPT4, он пришел в смятение. Бенжио полагает, что грядет сверхразум, и не хочет быть причастным к этому: “Больно осознавать, что мы, возможно, способствовали чему-то, что может быть очень разрушительным. Мы пока не знаем, как сделать агента ИИ управляемым и тем самым гарантировать безопасность человечества! И все же мы — включая меня до сих пор — мчимся вперед к созданию таких систем”.

Бенжио оказался очень впечатлительным и ранимым. В отличие от бодрого Лекуна или того же Маркуса, который не сдается и продолжает ехидничать над “интеллектом” больших моделей, предвещая их убыточность.

В Nature сообщают: мышам встроили ген от голого землекопа, и мыши реже заболевали раком, они стали дольше жить и оставаться здоровыми. Ген взяли не случайный, а высокомолекулярной гиалуроновой кислоты. Подозревают и очень давно, что он способствует уникальному долгожитию голых землекопов. Авторы пишут, что “механизм долголетия может быть экспортирован в другие виды”, и это круто, конечно.

Замечу, что эксперимент провели Вера Горбунова и Андрей Селуянов из University of Rochester, они чуть ли не главные в мире эксперты по этой теме. Много лет изучают голых землекопов.

Однажды давно они как-то прилетели в Москву, и мы часа полтора беседовали об их исследованиях и вообще о том, что там с перспективой жить дольше. Андрей тогда дословно сказал: “Пока мы сделали это на клетках: если убирается гиалуроновая кислота, они становятся раковыми, если продолжают выделять, они устойчивы к раку. Мы сейчас пытаемся сделать мышь, которая будет вырабатывать такую же длинную гиалуроновую кислоту, как у голого землекопа, и мы предполагаем, что мышь перестанет болеть раком и будет дольше жить”.

И вот, спустя годы, получилось. Мои поздравления!

Карл Циммер в NYT пишет про запутанный вопрос о микробах в опухолях. В прошлом году я отмечал статью в Cell, где авторы обнаружили в раковых клетках «множественные грибково-бактериально-иммунные экологии». Но вот несколько исследовательских групп поставили под сомнение три наиболее известных работы в этой области, сообщив, что им не удалось их воспроизвести. Критики критикуют, а авторы настаивают на своем, утверждая, что получают ДНК сигнатуры, специфичные для типа опухоли.

В целом это терпимая ситуация для поисковых исследований, если бы не одно пикантное обстоятельство: один из главных авторов из UC San Diego еще и соучредитель стартапа по разработке тестов на рак на основе микробных ДНК. Впрочем, Циммер завершает текст тем, что критика пока не изменила общий вес доказательств. По словам одного эксперта «все согласны с тем, что микробы существуют в опухолях и играют важную роль».

Физика как вычисление. В недавней статье “К формальной теории вычислительных машин, созданной на основе всего, что предлагает физика” авторы обсуждают альтернативу вычислениям по Тьюрингу для создания нетрадиционных компьютеров. Отмечу введение — его можно читать и без привязки к дальнейшему тексту, где все становится сложнее (впрочем, это еще краткий вариант, есть и extended version).

Тем же днем вышла статья в Nature: “Транзисторы будущего”. Подробно изложена проблематика КМОП и перспективные решения, которые видятся сегодня. Авторы уверены, что закон Мура будет действовать еще долго. Обе статьи ценны еще как кладезь ссылок и идей, и как свидетельство того, что нынешние компьютеры — лишь промежуточный этап на пути к чему-то более грандиозному. 👌

Тема про лечение светом, мерцающим на “волшебной” частоте 40 Гц, продолжает развиваться, опережая мои ожидания. Уже писал здесь о том, как ученые MIT раньше включали свет грызунам и теперь уже идут клинические испытания с пациентами, и первые результаты обнадеживают, в т.ч. недавно озвучены на AAIC, ежегодной конфе Alzheimer's Association. Но всякий раз я упоминал MIT, Cognito Therapeutics и Эда Бойдена.

Пора ввести в эту историю нового персонажа: Аннабель Сингер. Она была сотрудницей у Бойдена в MIT, когда они разрабатывали этот метод. Ее имя в соавторах ключевых статей. Позже возглавила лабораторию в Georgia Tech, где занимается в том числе зрительной стимуляцией мозга на частоте 40 Гц, очевидно, с благословения Бойдена. И вот, от нее есть новости.

Ее группа показала: выбрав частоту мерцания, можно регулировать иммунные ответы и функции микроглии в мозге. Часа стимуляции хватит, чтобы изменить синтез цитокинов и даже морфологию глиальных клеток. Выходит, одним лишь мерцанием света можно влиять на иммунную функцию. Как говорит Сингер, «мы можем неинвазивно манипулировать иммунной системой мозга в любом направлении, усиливая или приглушая ее, в зависимости от стимуляции».

Если подтвердится на людях, это будет очень интересный инструмент. Выходящий далеко за пределы терапии болезни Альцгеймера, ведь патологическая нейроиммунная активность проявляет себя при разных заболеваниях. Игра стоит свеч.

Вот такие очки со светодиодами, возмутительно просто. Правда, Cognito Therapeutics обещает более дизайнерский гаджет, но не за дизайн компания привлекла весной $73M на венчурном рынке. Бойден — учредитель Cognito, а Сингер владеет долей.

Психолог из Колумбийского университета Адам Мастроянни, который любит заострять, на днях выдал эссе, где прошелся по экспериментальной психологии как науке. Это его область, и он говорит: то, что многие работы не воспроизводятся, не главная проблема. Главная проблема — то, что эта невоспроизводимость не имеет значения.

Масса статей, десятки тысяч цитирований, блестящие карьеры. Формально бурное развитие. Но если их изъять из корпуса текстов, в этой “науке” не изменится ничего. Мастроянни считает, что у экспериментальных психологов есть всего три парадигмы (например, «люди предвзяты»), которые они без конца “проверяют”, но идеи такого рода не поддаются фальсификации и неисчерпаемы. Словом, психология пока пребывает в стадии донауки или протонауки.

Мастроянни вы можете знать и как автора недавно пошумевшей в новостях статьи в Nature “The illusion of moral decline” про кажущийся упадок морали в последние десятилетия.

Кажется, “беременных” органоидов у нас еще не было. Но будут. А иначе как изучать взаимодействие матери и плода, их нарушения и болезни? У мышей все же иная физиология, и далеко не все детали человеческого эмбриогенеза так можно узнать.

Корейские авторы в журнале eBioMdicine призывают к моделированию беременности человека in vitro. Их взгляд такой: “Воссоздание человеческой беременности с помощью инженерной модели, естественно, является сложной задачей; тем не менее, для развития точной медицины эти задачи неизбежны”.

Медицина будущего будет больше похожа на психиатрию, чем на химию. Майкл Левин вместе с директором Центра раковых стволовых клеток в University of Pittsburgh написали статью “Future medicine: from molecular pathways to the collective intelligence of the body”. Я долго сомневался, стоит ли о ней здесь упоминать — взгляд там радикальный и требует многих пояснений — и дотянул до того, что свободный доступ к статье на днях закроют [в комментах будет лежать PDF].

В чем их идея, без пояснений. Сегодня медицина работает за счет микроуправления, пытаясь регулировать молекулы и пути. Авторы считают, что лучше работать уровнями выше и использовать способности организма к самовосстановлению. Если смотреть на ткани тела как на коллективных агентов, решающих проблемы, то в качестве вмешательств уже применимы методы поведенческой и когнитивной науки. Тогда у биомедицины появится — помимо фармакологии для микроуправления — новый инструмент. Он нацелен не на молекулы и физиологию, а на восприятие, память и принятие решений разными агентами (клетками, тканями, органами).

Авторы используют термин «соматическая психиатрия». Это зонтик, под которым и кибернетика, и теория контроля, и поведенческая нейробиология, и теория игр, и теория обучения. Исследовательская программа в таком случае сводится к поиску управляющих сигналов для “агентов”, перепрограммированию их целей (скажем, бактерии или паразиты уже владеют этим инструментом). Словом, если использовать далекую аналогию, медицина должна перейти от переподключения кабелей ЭВМ 1940—1950-х годов к работе через софт и высокоуровневые языки программирования.

Отличная работа онкологов из Кембриджа, люблю такое. Они реализовали идею, которая давно напрашивается: вместо того, чтобы уничтожать раковые клетки, можно попытаться вернуть их в нормальное состояние. Ведь что такое нейробластома — это клетки-предшественники, которые “забыли”, что должны стать клетками нервной ткани. Они застряли в незрелом состоянии и делятся, не в силах пройти этот этап.

В Кембридже испытали «дифференциационную терапию» (differentiation therapy): подавили размножение опухолевых клеток и заставили их дифференцироваться, т.е. превращаться в нейрональные. Проще говоря, вернули их на изначальную траекторию развития. Кстати, тот же фокус с нормализацией опухолей удавался Майклу Левину, но он действовал через мембранные потенциалы, т.е. биоэлектричество.

Слишком обольщаться тоже не стоит, пока все результаты на животных и лишь на одном типе рака, но подкупает, что британские ученые скомбинировали два препарата, уже одобренные FDA для людей. Да и сам подход привлекателен, так как, во-первых, биологичен и, во-вторых, обращает “зло” в “добро”. Более тонкая задача, нежели просто убийство зла.

Сегодня исполняется ровно полгода знаменитому письму с призывом ввести мораторий на обучение мощных ИИ моделей. Авторы предлагали сделать паузу на шесть месяцев, опасаясь быстрого развития чат-ботов. Под письмом свыше 33 тысяч подписей. Интересно, сильно ли эти люди переживают сейчас, что моратория не случилось.

Конечно, письмо наделало шуму, и в ряде стран чиновники стали обсуждать регулирование ИИ сферы. Но похоже, что первый шок и ажиотаж вокруг чат-ботов угасает. Мы привыкаем жить с ними, воспринимая их просто как еще один инструмент, и все сложнее убедить себя, что от них веет катастрофой. В марте письмо казалось эмоциональной реакцией впечатлительных людей, таким оно представляется и сейчас, в сентябре.

На днях вышло другое открытое письмо экспертов, по иному поводу, но тоже крайне странное. По моим наблюдениям, сам жанр коллективных писем задает игру на упрощение, и часто потом самим подписантам бывает неловко.

Тема нового номера Nature: наука в эпоху искусственного интеллекта (Science and the new age of AI). Будет несколько выпусков, на повестке главный вопрос: как ИИ изменит науку.

Тут я вспоминаю эссе прошлого года, которое написали К.В. Анохин, К.С. Новоселов (да, тот самый нобелевский лауреат), С.К. Смирнов (тот самый лауреат Филдсовской премии), А.Р. Ефимов и Ф.М. Матвеев. Эссе называется «Искусственный интеллект для науки и наука для искусственного интеллекта».

Новоселов там замечает, что физики не любят задач, которые не описываются небольшим количеством красивых уравнений: “если возникает необходимость написать уравнение в полстраницы, физик скорее всего решит, что в его рассуждении что-то пошло не так". Есть большой класс задач, которыми пренебрегают физики-люди. Однако ИИ не смутят «некрасивые» громоздкие уравнения, он будет их решать, орудовать ими, и тогда физика может пойти по пути, по которому человек никогда не хаживал.

Это вопрос о том, возможна ли “инопланетная” наука, т.е. работающая модель мира, созданная другим разумом. Если ИИ продолжит умнеть, то “инопланетности” в науке будет все больше, и, соответственно, понимания у людей все меньше.

Сценарии могут быть разными, но есть намек на то, что потенциальный успех ИИ в науке (if any) может иметь глубокие основания. Сразу две команды ученых, независимо друг от друга, пришли к необычной идее: Вселенная похожа на программу машинного обучения и, вероятно, непрерывно обучается. Ушел читать Nature.

Гарвард официально запустил проект по коннектому мозга мыши. За пять лет планируют отсканировать 10 кубических миллиметров, на это NIH выделяет $30 млн, половина уйдет Гарварду, остальное получат Princeton, MIT, Cambridge, Johns Hopkins. Авторы проекта считают, что этот объем ткани сгенерит 10 000 терабайт, обещают затем выложить в общий доступ. Впрочем, они оговариваются, что полный мозг мыши потребует в 50 раз больше данных. Параллельно запущены еще несколько проектов по коннектомике, все в рамках BRAIN CONNECTS, как части BRAIN Initiative.

На фоне 10 кубических мм проще оценить перспективы создания коннектома мозга человека. Мое отношение к науке такого рода я уже высказал два года назад, мне лишь остается порадоваться за людей, которые сидят на этой теме. Коннектомы и атласы — неисчерпаемый источник грантов. На десятилетия.

Где могут быть полезны “атласы” и “карты” — там, где смотрят на изменения во времени. Например, в Стэнфорде недавно изучили нейроны мозжечка человека в разных возрастах. И обнаружилось, что у этих нейронов 3D-архитектура генома постепенно перестраивается в течение всей жизни. Что и отражено на картинке. Как мы видим, хроматин радикально меняет свою конформацию на пути от младенчества до старости.

Один из авторов статьи признается: “Со временем эти клетки стали чем-то совершенно не похожим на классический нейрон. Они становятся практически не-нейронными в смысле 3D структуры генома. Мы действительно не могли поверить своим глазам. Они были похожи на глию”.

К слову, в мозжечке проживает большая часть нейронов мозга.

Сделал перевод короткого эссе Пола Нерса, нобелевского лауреата и первого директора Института Фрэнсиса Крика в Лондоне. Эссе называется “Биология должна генерировать не только данные, но и идеи” (“Biology must generate ideas as well as data”) — звучит еще актуальнее на фоне нового залпа из 20+ статей по переписи типов нейронов от консорциума NIH BICCN.

“Довольно часто, придя на научный доклад, я чувствую себя утонувшим в данных. При этом не уделяется должного внимания формулировкам, а также тому, зачем собираются данные, какие гипотезы проверяются, какие идеи возникают”.

Я уже упоминал текст Нерса в 2021 году, в связи с первым залпом от BICCN, но с тех пор Nature закрыл эссе пейволом, так что PDF положу в комментарии, а вот перевод.

О важности идей в науке, помимо данных, пишут и в статье “Креативность как противоядие от излишней предсказуемости исследований” (“Creativity as an antidote to research becoming too predictable”). Авторы считают, что нам нужно не столько больше данных, сколько обоснованные предположения (т. е. теория) о том, что искать в первую очередь. Статья призывает поощрять творческий поиск и риск:

“Если мы хотим, чтобы исследования процветали, нам необходимо будет взять на себя ответственность и переосмыслить процесс производства знаний в наших лабораториях, чтобы допускать случайные обходные пути, неудачи и тупики”.

И если Нерс больше обращается к ученым, то статья в EMBO Journal, скорее, адресована тем, кто организует научный процесс. На этом пока завершаю тему “атласов и карт” мозга.

Вам дают $1 миллиард с условием потратить его на разработки в области биомедицины. Какие проекты вы запустите? Ровно этот вопрос встал перед Рене Вегжин в прошлом октябре, когда она возглавила агентство перспективных исследований ARPA-Health. Теперь, наконец, ответы начинают появляться. И они пока обнадеживают.

Я все ждал, какой портфель проектов соберет ARPA-H, интерпретируя его как ставку на будущее медицины. Не так важен каждый отдельный проект, сколько логика их отбора. Эта логика покажет, как именно они хотят изменить принципы лечения. И вот, первое впечатление — акцент на естественные механизмы восстановления, делегирование функций клеткам и тканям. Тот самый уход от микроуправления.

Например, не конструировать механические суставы, а регенерировать их, выращивая из клеток пациента и заменяя ими больные ткани (NITRO). Печатать из клеток новое сердце вместо имплантации искусственного (HEART) и омолаживать тимус путем перепрограммирования стволовых клеток (CDTR). Или, скажем, создавать бактерии, которые привлекут иммунные клетки к очагу опухоли (SPIKE), или же обучать иммунную систему с помощью мРНК (CUREIT). Еще идея, “живая аптека”: клетки программируют синтезировать нужные препараты прямо в организме (REACT).

Пока налицо преобладание генной, клеточной и тканевой инженерии. Или, если короче, инженерной биологии, о disruptive перспективах которой в этом канале сказано не раз. Биология становится новой средой программирования, и в этом одна из главных ставок на будущее.

И такое бывает. 52-летняя женщина с растущей с детства тератомой на голове. После хирургического иссечения кисты в ней обнаружили сальноподобное вещество, твердые сферулы и многочисленные пряди волос. Такой признак типа "мешочек с шариками", хотя и встречается редко, но однозначно указывает на зрелую кистозную тератому головы или шеи.

Взято из “Sack of Marbles” Appearance of a Scalp Teratoma | Radiology (2023)

“Neuralink заявляет, что планирует провести 11 операций по вживлению чипа в мозг пациентов в 2024 году, 27 в 2025 году и 79 в 2026 году. Затем, согласно документам, предоставленным инвесторам, число операций резко возрастет: с 499 операций в 2027 году до 22 204 к 2030 году”.

В Bloomberg вышел комплиментарный лонгрид про Neuralink, этакий тизер клинических испытаний. Автор съездил на место, ему показали овец и обезьян, и он выдал глянцевый репортаж. Говорит про комнату, где обезьяны проводят время за компьютером, выбирая и управляя за счет активности мозга (есть и фото). Содержательных деталей не так много, зато призван впечатлить Илон Маск, который у автора с ходу генерит технические решения, до которых не смогли дойти его нейро-инженеры. Из текста мы узнаём, что Маск ставит им жесткие сроки, чтобы «успеть до того, как ИИ возьмет верх. Мы хотим добиться этого с маниакальным чувством безотлагательности. Маниакальным».

Конечно, одобрение FDA окрыляет, и компания заказывает такие репортажи. Но реальная картина этой области не сводится к состязанию Neuralink vs. Synchron, и работы идут в разных местах. Скажем, только из совсем недавнего:

💥 В Rice University успешно испытали на людях новый беспроводной стимулятор мозга. Устройство размером с горошину кладут на твердую мозговую оболочку — контакта с мозгом не требуется, он остается цел, а мощности хватает, чтобы активировать кору подобно ТМС. Технология позволяет отправлять и принимать данные даже при смещении передатчика на несколько см.

💥 Вышли сразу две статьи по "temporal interference", новому методу глубокой стимуляции, когда электрические поля высокой частоты пересекаются в выбранной точке в глубине мозга, и разница частот стимулирует клетки в этой области. Воздействовали на стриатум и на гиппокамп, получая когнитивные эффекты у пациентов. Словом, успешно испытан метод неинвазивной (!) DBS на людях.

Пока мы все следим за перипетиями вокруг Open AI, сотрудники Google DeepMind опубликовали весьма примечательную статью “Социальный путь к человекоподобному искусственному интеллекту”. Авторы фактически призывают изменить стратегию дальнейшего развития ИИ — уйти от обучения изолированных систем.

Первое, что они говорят: есть предел тому, чего можно достичь обучением на статичных датасетах, даже если данных очень много. Поэтому второе: сами агенты должны генерировать данные для обучения, и делать это они будут, вступая в разные социальные отношения друг с другом. И хотя статья формально про ИИ, львиная доля ее посвящена механизмам биологической эволюции: популяционному давлению, “гонке вооружений”, макиавеллистскому отбору, разделению труда, социальному обучению и кумулятивной культуре. Словом, те процессы, что привели к сложным многоклеточным организмам и, в конечном итоге, появлению людей, следует использовать для генерации новизны. Или чуть более заумно, так можно снижать вероятность сходимости к стационарному или периодическому потоку генерируемых данных.

Путь этот довольно опасный, так как напоминает “усиление функции” в вирусологии, и функция здесь — конкуренция за ресурсы и умение обманывать. Но сам взгляд на разум как продукт взаимодействия с другими разумами вполне справедлив, и авторы считают, что пришло время многоагентных систем. Правда, умалчивают о том, какой мощи вычислений это потребует.

Новая атака на Neuralink, на этот раз от членов Палаты представителей. Вот тут подробно: “Законодатели США просят SEC начать в отношении Илона Маска расследование о мошенничестве”.

Суть обвинений — жестокое обращение с обезьянами, о чем Маск якобы знал, но прилюдно солгал, чем и ввел инвесторов и общество в заблуждение. Животные испытывали разнообразные страдания, а по меньшей мере 12 здоровых особей были умерщвлены из-за проблем с имплантами.

Письмо в SEC (Комиссию по ценным бумагам и биржам) возникло на контрасте с долгожданным одобрением FDA и недавним репортажем Bloomberg, где автор лично побывал в Neuralink и заверил читателей, что обезьяны и овцы живут в прекрасных условиях. Это даже может быть правдой, но спрос сейчас с Маска по фактам прошлых лет. Ждем реакции SEC.