ИИ в терапии: новое исследование

Команда из Дартмутского колледжа опубликовала новую работу о боте-терапевте Therabot. В исследовании участвовало 106 человек с диагнозами клинической депрессии, генерализованного тревожного расстройства и расстройства пищевого поведения. Как обычно в случае конвенциональных исследований и академического паблишинга — публикация результатов сильно отстаёт от фактического state-of-art, проект исследования было предварительно зарегистрирован еще в 2023 году, а тестирование началось в марте 2024, так что результаты отражают уровень ИИ доступный примерно год назад. К тому же, взаимодействие участников с ИИ было ограничено текстовыми сообщениями в приложении смартфона.

Тем не менее, несмотря на эти ограничения, терапевтический бот справился вполне удовлетворительно (срезы делались через четыре и восемь недель): участники с депрессией показали снижение симптомов на 51%, участники с генерализированным тревожным расстройством на 31%, с расстройствами пищевого поведения на 19%. К тому же, между пользователями и ботом формировалась степень «терапевтического альянса» соответствующая уровню живых очных отношений в терапевтической работе.

Как отмечает руководитель исследовательской команды Николас Якобсон: «Наши результаты сопоставимы с теми, что наблюдаются у людей, имеющих доступ к когнитивной терапии по „золотому стандарту“ в амбулаторных условиях; речь идёт о возможности дать людям эквивалент самого лучшего лечения, доступного в системе медицинской помощи, причём за более короткие сроки».

Ссылки:
* Пресс-релиз на сайте Дартмутского колледжа
* Статья об исследовании в MIT Techology Review
* Карточка предварительно зарегистрированного исследования

Из сегодняшнего внутреннего письма сооснователя и CEO Shopify Тобиаса Лютке сотрудникам:

Осознанное использование ИИ — теперь базовое требование в Shopify...

Что мы поняли к настоящему моменту: хорошее владение ИИ — это навык, который требует основательного освоения… и активного использования. ИИ слишком не похож на всё остальное... Мы также узнали, что, в отличие от большинства инструментов, ИИ действует как мультипликатор. Нам повезло работать с некоторыми замечательными коллегами, чей вклад в десять раз (10X) больше того, который прежде считался возможным... И что ещё более удивительно: впервые мы видим, как люди сами становятся в десять раз (10X) эффективнее. Я видел, как многие из этих людей приступают к невероятным задачам, — за которые мы бы даже не взялись раньше, — вдумчиво и блестяще используя ИИ, что позволяет им работать со стократной (100X) эффективностью...

Что это означает

1. Эффективное использование ИИ теперь является фундаментальным требованием к каждому в Shopify. Сегодня это универсальный инструмент, и его значение будет только расти. Честно говоря, я не думаю, что можно отказаться от изучения и применения ИИ в своей работе; вы можете попробовать, но я скажу прямо: я не вижу, как это сработает сегодня, и уж точно не сработает завтра. Стагнация почти неизбежна, а стагнация — это медленное сползание к провалу. Если вы не карабкаетесь вверх, вы скатываетесь вниз.

2. ИИ должен быть частью вашей фазы Прототипирования в рамках GSD (Getting Stuff Done, выполнения задач). Эта фаза должна проходить под знаком исследования возможностей ИИ. Прототипы предназначены для обучения и создания информации. ИИ резко ускоряет этот процесс. Вы можете создать нечто, что другие члены команды смогут изучить, использовать и осмыслить, за малую долю времени, которое требовалось раньше.

3. Мы добавим вопросы об использовании ИИ в наши анкеты оценки эффективности и коллегиальной оценки. Умение хорошо использовать ИИ — неочевидный навык. Мое ощущение, что многие люди сдаются после первой же неудачной попытки, написав промт и не получив сразу идеальный результат. Важно научиться промтить и загружать контекст, а получение обратной связи от коллег о том, как это происходит, будет ценным.

4. Обучение — самостоятельный процесс, но делитесь тем, что узнали. У вас есть доступ к самым передовым инструментам ИИ... Давайте учиться и адаптироваться вместе, экспериментируя с новыми возможностями ИИ! Будем делиться успехами (и неудачами!) друг с другом, а также посвятим время интеграции ИИ в наши ежемесячные обзоры бизнеса и циклы разработки продуктов...

5. Прежде чем запрашивать увеличение штата и дополнительные ресурсы, команды должны продемонстрировать, почему они не могут достичь желаемого с помощью ИИ. Как бы выглядела эта область, если бы автономные ИИ-агенты уже были частью команды? Этот вопрос может привести к действительно увлекательным дискуссиям и проектам.

6. Каждый — значит каждый. Это относится ко всем нам, включая меня и руководство компании.

* Полный текст размещён в аккаунте Лютке на X (ссылка).

Этика искусственного интеллекта. Сегодня

На мой взгляд, статус ведущего образовательного продукта в сфере ИИ на русском языке принадлежит AI Mindset Саши Поваляева и Глеба Калинина. Ребята делают важные вещи и сами, плюс привлекают много людей, которым есть что сказать в своих нишах. И сегодня моя очередь говорить ☺️: более точно, я веду внутренний трек, посвящённый этике и социальным аспектам ИИ.

Мне кажется, это абсолютно фундаментальная и касающаяся каждого тема. Настолько важная, что мы решили сделать сегодняшний эфир открытым — я буду рад всем, и постараюсь ответить на все вопросы, релевантные теме занятия. На самом деле, я планирую затронуть больше тематик, от политэкономии до социологии и психологии, но этика будет выступать гравитационным центром повествования. Мы начнём с самого фундаментального уровня и перейдем к насущным вопросам, включая приватность данных, алгоритмическую дискриминацию, копирайт и переосмысление авторства и многое другое.

Эфир сегодня в 16:00 CET / 17:00 по Москве. Ссылочка на Zoom.

Nota Bene

1. ChatGPT среди моделей ИИ — это как «Мастер и маргарита» для русской литературы. Достойный вариант для первого знакомства, но плохо, если остаётся единственным прочитанным произведением.

2. В философии и том, что можно назвать метатеорией, варианты и концепции, временно вышедшие из моды, могут оставаться одними из наиболее обоснованных и правдоподобных, даже будучи игнорируемыми поколениями исследователей. Эссенциализм, природа вещей, онтологические иерархии, дуализм — несколько примеров таких позиций. Более того, поскольку они отвергаются нерефлексивно, то даже специалисты могут иметь о них смутное и карикатурное представление, что оставляет огромные слепые пятна и закрывает дорогу к разработке важных интеллектуальных траекторий.

3. В условиях, когда технологии позволяют реализовать практически всё, что мы можем помыслить, бутылочным горлышком, определяющим пространство возможного, становится мышление.

Сделал текстовую версию моего занятия по этике искусственного интеллекта.

Ключевые темы: природа этического (метаэтика), теории этики, социальных аспекты техники, прикладная этика и геополитика ИИ, а также блок о том, что всё это значит для человечества и каждого из нас.

Мне кажется, это даёт достаточно глубокое и нетривиальное погружение в тему, но при этом не требует предварительного знакомства ни с этикой, ни с ИИ.

Буду рад вопросам, комментариям и репостам. Обнимаю.

https://malakhov.xyz/aiethics-1

Новое открытое занятие в рамках трека [ethics] для участников программ AI Mindset: сегодня в 17:00 CET / 18:00 по Москве.

Неделю назад одна из самых уважаемых команд прогнозистов в индустрии выпустила репорт AI 2027, в котором защищала вероятность выхода ИИ из под контроля и стратегического поражения человечества уже через два-три года. Хотя это не первый такой прогноз, работа привлекла большое внимание и запустила новый цикл обсуждения экзистенциальных рисков, проблемы выравнивания суперинтеллекта и нашего ближайшего будущего, которое может принять совершенно экстраординарный характер.

Так что в этот раз основной темой будет форсайт и фикшн в ИИ: какие существуют сценарии развития искусственного интеллекта, где грань между обоснованными прогнозами и увлекательными фантазиями, и почему эту грань не всегда можно провести.

Попробуем разобраться в этой теме, охватим предысторию и классику (Курцвейл, Бостром, Тегмарк, Юдковский и т.д.), но основное время уделим недавним разработкам. Заодно посмотрим как прогнозы формируются и ограничиваются культурой, мышлением и методологией самих прогнозистов, и можно ли выйти за пределы этих ограничений.

Занятие будет в Zoom (активная ссылка).

Прекрасное резюме программы феноменологии

«С точки зрения Гуссерля, мы проводим большую часть нашей жизни в самозабвении. Мы склонны сосредотачиваться на проявленном объекте и упускаем из виду то, каким образом он проявляется. Говоря шире, обычно мы настолько поглощены встречающимися нам объектами, что не замечаем: они всегда предстают перед нами определенным образом — как воспринимаемые, оцениваемые, воображаемые, вспоминаемые, как предметы суждения, коммуникации и так далее.

Но хотя в повседневной жизни мы склонны игнорировать способы их данности, задача феноменологии как раз и состоит в том, чтобы преодолеть эту наивность. Исследуя, как и в качестве чего даны объекты мира, феноменология обращается к изучению интенциональных актов и структур опыта (восприятия, суждения, оценки ценности), в соотношении с которыми только и может быть понят любой являющийся нам объект.

Стало быть, цель феноменологического анализа — исследовать не объект или субъект по отдельности, не мир или сознание сами по себе, а их взаимосвязь или корреляцию. Действительно, цель знаменитого гуссерлевского анализа интенциональности определенно не в том, чтобы просто рассказать нам нечто об устройстве сознания, но в том, чтобы дать нам ключ к пониманию статуса реальности и природы объективности».

— Из свежей статьи Дана Захави «Квантовая феноменология». Dan Zahavi. Quantum phenomenology: Measurement, reflection, correlation. Studies in History and Philosophy of Science. V 111, June 2025, P 1-6.

Пишет одна из моих любимых современных православных художниц Мэри / Марза (сайт, твиттер):

«Никогда не задавались вопросом, почему на Пасху мы красим яйца в красный цвет? Этот цвет символизирует кровь Христа, пролитую за нас. Существует несколько историй об этом обычае, связанных с Марией Магдалиной, но мне с детства знакома такая: Мария Магдалина оставила корзину с яйцами у подножия креста, и они обагрились пролившейся кровью Христа».

отдавший Жизнь за нас
живущий в нас
в Котором мы живем, движемся и существуем
ХВ

Увидел у Антона Апарина, что завтра в рамках Дня Земли будет очень интересное онлайн-событие от Живых Городов / Living Cities Earth — Global Earth Day Summit. Среди выступающих Мэрилин Хэмилтон, Лев Гордон и другие почтенные люди, работающие на стыке интегральной перспективы, устойчивого развития и урбанистики. Регистрация по ссылке, рабочий язык — английский.

Всё время его папства, я воспринимал Франциска в качестве самого важного духовного лидера в мире. Он оказался наиболее близким к Евангелию понтификом Католической церкви за много веков, показавшим, что даже находясь во главе гигантской структуры можно оставаться верным евангельскому посланию.

По ссылке — моя давняя (2015 года) статья об интегральной экологии Франциска и его энкциклике Laudato Si.

https://eroskosmos.org/encyclical-letter-of-pope-francis/

Две самые важные вещи в мире — это человеколюбие и забота о душе, но в прикладном смысле Тан (глава Y Combinator) и Унутмаз (один из ведущих учёных-клиницистов Америки) очевидно правы. А обсуждают они свежую статью Сегато из Pirate Wires.

Свежая вирусная статья: Agency Is Eating the World

«Дело больше не в понимании специфических деталей, а в охвате общей картины на высоком уровне. Важнее не знать, как починить систему, а знать, что ее нужно починить. Больше архитектуры, меньше реализации. Именно то, в чем сильны универсалы.

Для этих людей границы между профессиями начинают размываться и пересекаться. Я начал видеть, как менеджеры по продукту разрабатывают финансовые модели для бизнеса; дизайнеры пишут рекламные тексты; парикмахерские создают кастомные системы бронирования; а владельцы ресторанов — продвинутые инструменты ценообразования. Даже области, кажущиеся далекими от технологий, такие как сельское хозяйство, начинают ощущать это влияние: фермеры создают системы отслеживания урожая. Эти люди всегда были способны на это. Ключевое отличие в том, что теперь не требуются годы на обучение.

Если развить этот аргумент до предела, вы получите людей, управляющих целыми компаниями в одиночку. Доля стартапов с одним основателем почти удвоилась за последние несколько лет, и появились первые примеры бизнесов с горсткой сотрудников, генерирующих сотни миллионов долларов дохода... Эти компании теперь полны людей с высокой агентностью, выполняющих работу нескольких команд, и легко конкурируют с гораздо более крупными компаниями.

Это крах креденициализма — веры во всесилие формальных регалий. Преимущество на рынке теперь не в том, чтобы уметь делать что-то очень специфическое очень хорошо; оно в настроенности добиваться результата».

Gian Segato. Agency Is Eating the World. Pirate Wires, 21.04.25 (статья под пейволлом).

Примерно на том же сходимся с друзьями и клиентами, хотя и в другом модусе и из другого состояния ума, но об этом как-нибудь в другой раз напишу.

Читал ночью гениальную книжку, второй том постсистематики Маркуса Мюлинга «Тринитарное приключение любви».

Монументальная по объёму (800+ страниц) и охвату (от нарративной онтологии до постдарвинистской биологии и энактивизма) работа. Действительно оригинальный вклад в современную христианскую мысль.

Вряд ли её можно суммировать в двух словах, но если попробовать: Мюлинг критикует традиционную метафизику и схематический монотеизм, понимая Бога как динамичную реляционную Любовь, а мир как образ и отражение этой Любви (imago dilectionis) — сеть взаимоотношений, участники которой находятся в процессе совместного становления, отсюда возникает императив онтической солидарности всего творения. Человек — это глагол, динамичный узел в сети творения и в то же время одна из путеобразующих линий.

В книге буквально десятки интересных концепций, заслуживающих внимания (например, Мюлинг глубоко разрабатывает ангелологию), и в целом это прекрасный пример того, как может выглядеть актуальная теология.

Саффрон Хаун (соосновательница Collective Intelligence Project, также занимающая исследованиями социального воздействия ИИ в Антропике) написала хорошую статью о том, как распределять бенефиции, создаваемые искусственным интеллектом.

Основная идея: универсального базового дохода недостаточно, необходимо не просто перераспределение доходов, а предистрибуция = социализация ресурсов и мощностей, создающих доход, то того, как доход будет создан. Эта идея перекликается с концепцией всеобщего базового капитала. Без принятия срочных мер, ИИ может привести к гиперконцентрации власти и богатства в руках нескольких компаний или других игроков, контролирующих технологию. В позитивном сценарии, Хаун полагает, что срочные меры могут запустить добродетельный цикл (virtuous cycle) — петлю обратной связи, когда развитие ИИ будет напротив способствовать большему равенству и всеобщему процветанию. В качестве примера таких мер она приводит инвестиции в повышение ИИ-грамотности, создание нерычночных механизмов стимулирования развития ИИ в сторону общего блага, признание вычислений общедоступной общественной услугой и реализацию разнообразные финансовых инструментов.

Кстати, статья опубликована в Noema, лучшем, на мой взгляд, англоязычном медиа с глубокими умными текстами.

https://www.noemamag.com/heres-how-to-share-ais-future-wealth/

Бертран Рассел, логика и мистицизм

Из предисловия итальянского философа Эрманно Бенчивенга к его работе «The Logic of Mysticism»:

«В юности я много читал Рассела; моя первая диссертация подробно разбирала его теорию дескрипций, а первая опубликованная работа была посвящена его логическому атомизму. Это была хорошая школа: именно такое чтение лучше всего приучает молодого человека мыслить последовательно и убедительно. Рассел — ясный, честный, прямой и скромный автор: именно то, что нужно от проводника, помогающего сделать первые шаги в мире мысли.

Со временем я пришёл к убеждению, что та логика, которую столь твердо отстаивал Рассел, должна применяться не только к самой себе; что мыслить последовательно и убедительно необходимо и в вопросах, лежащих за пределами собственно логики. Рассел, конечно, и сам этим занимался; однако его подход показался мне, на мой вкус, слишком прямолинейным и незамысловатым. Мне требовалась более основательная пища для размышлений; её я нашел у Платона, Аристотеля и — с наибольшим увлечением — у Канта. У Гегеля я также нашел логику, отличную от расселовской, а еще одну — у Плотина, Спинозы и Бергсона. И вот, по странной иронии судьбы, мой путь вновь привел меня к Расселу.

Одно из его эссе, прочитанное много лет назад, показалось мне интригующим, но вместе с тем и озадачивающим: «Мистицизм и логика». Сама мысль о том, что такой мастер ясной аргументации обратится к мистическим темам, уже была для меня, двадцатилетнего, серьезным вызовом. А уж вывод о том, что мистицизм и логика нуждаются друг в друге, в то время и вовсе превосходил мое понимание. Шли десятилетия, и я чувствовал себя всё более подготовленным к этому вызову, но при этом всё менее склонным соглашаться с Расселом. Мистицизм всё больше представлялся мне не обвинением в адрес ясной аргументации, выдвинутым во имя некой невыразимой туманности или сверхъестественного откровения, а, напротив, воплощением такой формы ясной аргументации, которую сам Рассел не мог предвидеть.

Так и появилась эта книга, которая для меня является реабилитацией мистицизма, хотя многие мистики, я уверен, сочтут ее полным непониманием его сути. Они подумают: с такими друзьями, как я, и врагов не надо. И ведь они правы, но совсем не в том смысле, какой они вкладывают в эти слова. Правы потому, что я предлагаю и им самим, и их мнимым врагам способ наладить плодотворный диалог. Остается лишь надеяться, что не выйдет так (воспользуюсь еще одной известной поговоркой), что незадачливый миротворец попадет под перекрестный огонь обеих сторон».

* Ermanno Bencivenga. The Logic of Mysticism. Springer, 2024.

Через два часа — 17:00 CET / 18:00 по Москве будет четвертое занятие в рамках нашего с AI Mindset коллаба. Общая тема: дальний рубеж ИИ. Проблема цифрового сознания, пределы вычислимого, различия между человеческим мышлением и алгоритмическим рассуждением, влияние ИИ на нашу идентичность и как со всем этим справиться. Попробую охватить, как классику (Дрейфус, Сёрл и т.д.), так и самые последние работы — вот прямо сейчас добавляю слайды на основе информации из публикаций, вышедших на этой неделе.

Занятие открытое, перед эфиром здесь появится ссылочка на Zoom. Участие, вопросы и комментарии приветствуются!

Я собираюсь начать сегодня эксперимент в проявленности миру (который продлится, во всяком случае, до лета), и весьма сильно волнуюсь . Поэтому уж поддержите меня, когда дойдёт до дела 😊🥹

Отказ от геноцентризма

«Крайне важно донести мысль о том, что генетический эссенциализм несостоятелен, поскольку особенности организма отчасти определяются той средой, в которой он развивается; что генетический детерминизм несостоятелен, поскольку формирование любого фенотипа зависит как от геномных, так и от негеномных факторов; и что генетический редукционизм несостоятелен, поскольку эмерджентные свойства, возникающие на более высоких уровнях организации, способны оказывать обратное влияние на последующую работу самого генома.

Разъяснить всё это особенно важно потому, что непонимание центральной роли развития в формировании признаков организма (фенотипа), а также характера взаимосвязи между генотипами и фенотипами, по-прежнему широко распространено. Научный дискурс только выиграет от работ, которые вносят семантическую ясность в отношении концепций генетического эссенциализма, детерминизма и редукционизма (GEDR). Тем не менее, простое разъяснение смысла этих понятий без предоставления веских аргументов для отказа от них — а в некоторых случаях, возможно, и непреднамеренная поддержка этих ложных представлений — можно уподобить хрестоматийной попытке переставлять шезлонги на палубе тонущего "Титаника"».

* David S. Moore, Kostas Kampourakis, Niklas Gericke. The Problems with Genetic Essentialism, Determinism, and Reductionism. Human Development, 27.01.25, DOI 10.1159/000543465. Все трое — крупные учёные, Мур — один из ведущих американских девелопменталистов (автор The Developing Genome).

ИИ-стратегия Duolingo

Из сегодняшнего письма CEO и сооснователя Duolingo Луиса фон Ана сотрудникам:

«Я уже говорил об этом на встречах и в ответах на вопросы, но теперь хочу объявить официально: Duolingo переходит на стратегию AI-first.

ИИ уже меняет сами принципы работы. Вопрос не в том, произойдет ли это и когда — это происходит прямо сейчас. При столь масштабных изменениях худшее, что можно сделать, — это бездействовать и ждать...

Стратегия AI-first означает, что нам придется во многом переосмыслить наши рабочие процессы. Косметические изменения в системах, изначально рассчитанных на людей, не помогут достичь цели. Во многих случаях придется начинать с нуля. Мы не собираемся перестраивать всё в одночасье, и некоторые задачи — например, "научить" ИИ понимать нашу кодовую базу — потребуют времени. Тем не менее, мы не можем ждать, пока технология станет идеальной. Мы считаем правильным действовать быстро и решительно, пусть даже иногда придется идти на небольшие временные компромиссы в качестве, — лучше так, чем двигаться медленно и упустить открывающиеся возможности.

Мы введем несколько конструктивных ограничений, которые помогут направлять этот переход:

* Мы будем постепенно отказываться от услуг подрядчиков для выполнения задач, с которыми может справиться ИИ.

* Умение использовать ИИ станет одним из критериев при найме новых сотрудников.

* Использование ИИ будет учитываться при оценке результатов работы.

* Дополнительные штатные единицы будут выделяться команде только в том случае, если она не может автоматизировать большую часть своей работы с помощью ИИ.

* Большинству подразделений предстоит разработать конкретные инициативы, чтобы коренным образом изменить свои методы работы.

При всем этом Duolingo остается компанией, которая искренне дорожит своими сотрудниками. Речь идет не о замене людей (наших Дуосов) искусственным интеллектом. Речь об устранении "узких мест", чтобы мы могли достигать большего вместе с нашими замечательными сотрудниками. Мы хотим, чтобы вы могли сосредоточиться на творческой работе и решении реальных проблем, а не на выполнении повторяющихся задач. Мы окажем вам поддержку, предоставив дополнительное обучение, наставничество и необходимые инструменты для использования ИИ в вашей сфере деятельности».