Когда я был студентом философского факультета, некоторые преподаватели говорили нам, что работа философа — производить концепты. За последнюю неделю у своего философского верстака я произвёл целых два философских концепта. Оба они касаются общего искусственного интеллекта (AGI), который вызывает столько тревог.

Сегодня я представляю вам первый концепт: невинное мещанство. Возьмём рассуждения ИИ-пессимистов наподобие Ямпольского и согласимся с ними: AGI — это очень опасно. Что же нам делать дальше? На этот вопрос спикеры либо не отвечают, либо предлагают отказаться от создания AGI. Но в последнем случае их ответ неудовлетворителен, потому что за ним как раз стоит невинное мещанство. Во-первых, оно невинное, потому что оно предполагает, что существующие сегодня практики, определяющие устройство нашего мира, в целом, справедливы. И речь идёт в первую очередь о практиках потребления. Желаемая ситуация с этой точки зрения: выкрутить потребление на максимум с минимумом угроз. Только вот та модель экономики, которая существует сейчас, основана на расходовании невосполнимых ресурсов, сопровождающемся нанесением вреда окружающей среде. И подход «давайте не будем стремиться создать AGI и оставим всё как есть; всё равно, что за забором всё горит, главное, что у меня в садике цветочки поливает оросительная система, управляемая ИИ» просто не работает. Какова наилучшая стратегия развития человечества в случае отказа от AGI? Это максимальная экономия ресурсов. Это означает экономический спад, понижение качества жизни и тому подобное.

У Дерека Парфита есть прекрасное сравнение на этот счёт. Представим себе театр, в котором не очень хорошо видно с первого ряда. И вот люди в первом ряду встают, чтобы лучше видеть, тем самым загораживая обзор второму ряду. Если бы первый ряд не встал, то людям со второго ряда было бы всё хорошо видно. Но теперь им тоже приходится вставать. Они загораживают вид третьему ряду, тот тоже встаёт и так далее. Предшествующие поколения начали разгонять научно-технический прогресс. Последующие поколения оказались в ситуации задних рядов: если они не продолжат начатое до них, то им будет хуже, произойдёт спад благосостояния. И далее ситуация повторяется. Мы находимся уже не во втором и не в третьем ряду. Эту гонку начали до нас. И для нас сейчас будет неразумно остаться сидеть со словами: «Вставать, загораживая обзор заднему ряду, неправильно». Это нам просто невыгодно.

И вот, другая стратегия — это рискованная ставка на AGI. Она делается с надеждой на то, что именно технологии будущего смогут решить эту пока что невыполнимую задачу: сохранить уровень благосостояния не ниже текущего за счет гораздо меньшего и более эффективного расходования ресурсов. К тому же, в каком-то смысле первый и второй из описанных мной путей совпадают. Как нам организовать наши экономические практики так, чтобы они были наиболее эффективными и предполагали наименьшее расходование ресурсов? Надеюсь, никто уже не станет утверждать, что этого можно достигнуть с помощью свободного рынка. Знаете, я не хочу предстать сторонником плановой экономики, но, мне кажется, что с решением этой задачи без AGI нам не справиться. То есть без супер-интеллекта, который будет способен собирать и обрабатывать информацию фактически обо все, что происходит на Земле и делать эффективные предсказания. Это будет ровно та ситуация, которую так боятся пессимисты: мы буквально будем подчиняться ИИ, будем следовать его приказам. Альтернатива — невинное мещанство или допромышленная эпоха? Считайте, что альтернативы нет.

Google выпустили приложение для запуска локальных ИИ-моделей прямо на смартфоне.

Работает бесплатно и доступно всегда, даже когда нет подключения к сети. Можно общаться с чат-ботами в самолёте или поездках.

Забираем здесь. Пока есть только Android-версия, скоро выйдет на iOS.

Павел Дуров и Илон Маск договорились о партнерстве своих проектов

Telegram и стартап Илона Маска xAI договорились о партнерстве на год. В мессенджере будет распространяться чат-бот Grok, компания Дурова получит от xAI $300 млн, а также 50% дохода от подписок xAI, реализованных через Telegram. "Этим летом пользователи Telegram получат доступ к самым передовым ИИ-технологиям на рынке" — заявил Павел Дуров.

Пользователи смогут задавать Grok вопросы прямо в поисковой строке Telegram, назначать его модератором чатов, дополнять свои сообщения допинфой (при желании) и делать выжимки больших сообщений и файлов. Также чат-бот будет выполнять функции фактчекера.

Новости Дня

В Krea.ai присунули новую модель Dough именно для редактирования картинок.

Пробуем.

Dough - это "тесто".

@cgevent

Perplexity представил Perplexity Labs — режим для тех, кто хочет «воплотить в жизнь» рабочие и личные проекты. В нём можно генерировать таблицы, отчёты, «простые веб-приложения» и другое.

Режим доступен подписчикам Pro

vc.ru/ai/2016656