Внесистемная позиция
462 subscribers
25 photos
3 videos
6 files
24 links
Пространство размышлений, наблюдений и философских заметок. Личный дневник смыслов и идей, которые выходят за рамки общепринятого.

Дмитрий Мариничев,
Интернет-Омбудсмен
Download Telegram
Вопрос об ИИ, как мне кажется, сегодня поставлен несколько поверхностно. Мы в основном обсуждаем, сможет ли машина превзойти человека по интеллекту и возникнет ли внутри нее когда-нибудь собственное сознание. Между тем гораздо интереснее процесс, который уже начался. ИИ постепенно становится новым органом восприятия самого человека.

Мы вообще не имеем непосредственного доступа к миру. Органы чувств поставляют мозгу сигналы, из которых он непрерывно собирает внутреннюю модель происходящего. Именно внутри нее мы видим, оцениваем, принимаем решения и действуем. В этом смысле самые разные духовные и созерцательные практики, от христианской молитвы и медитации до Кастанеды и Зеланда, при всей принципиальной разнице их оснований работают с одним и тем же фундаментальным механизмом. Они меняют способ, которым человек собирает свою внутреннюю картину мира. Вместе с этим меняется внимание, ожидания, бессознательный выбор, характер действия, а затем через петлю обратной связи начинает меняться и тот мир, с которым человек реально сталкивается. Внешняя реальность остается внешней, но траектория движения человека внутри нее становится другой.

Отсюда возникает вопрос куда более сложный. Кто именно видит эту внутреннюю модель? Если наблюдатель целиком порождается работой мозга, то прекращение работы мозга означает прекращение субъекта. Если же существует душа, то мозг можно рассматривать как биологический орган, через который субъект получает доступ к воплощенному миру. Здесь проходит граница знания. Дальше начинается вера, а вместе с ней неизбежное сомнение.

Именно появление ИИ неожиданным образом переводит этот древний религиозный вопрос в технологическую плоскость. До сих пор человек воспринимал мир преимущественно посредством собственного тела. Сегодня между наблюдателем и окружающей действительностью возникает еще одна система, способная самостоятельно собирать информацию, строить модели, удерживать память, сопоставлять огромные объемы опыта и возвращать человеку уже переработанное представление о происходящем. Если зеркало позволило человеку увидеть собственное тело со стороны, то видеокамера позволила вынести точку зрения за пределы глаз, то ИИ начинает выносить за пределы мозга часть самого процесса моделирования реальности.

Дальше эта граница будет становиться все менее определенной. Искусственное зрение, нейроинтерфейсы, внешняя память, ИИ и роботические исполнительные системы способны постепенно объединиться с человеком в одну непрерывную петлю восприятия и действия. В какой-то момент вопрос о том, способна ли машина стать человеком, может оказаться вторичным. Гораздо существеннее будет понять, насколько далеко человек способен распространить собственное присутствие за пределы биологического тела и где после такого расширения вообще проходит его граница.

Здесь возникает предельная гипотеза. Если наблюдатель является производной мозга, любое техническое расширение существует лишь пока существует биологическая система, которая поддерживает субъективный опыт. После ее смерти может остаться чрезвычайно точное информационное продолжение человека, его память, язык, характер мышления, привычки, незавершенные замыслы, возможно даже способность принимать решения так, как принимал бы он сам. Но мы не имеем оснований считать, что внутри этой системы продолжает смотреть на мир тот же самый субъект.

Совершенно другая картина возникает, если допустить, что наблюдатель существует независимо от мозга и соответствует тому, что религиозная традиция называет душой. Тогда мозг оказывается одним из способов связи субъекта с материальным миром. И появление ИИ ставит вопрос, которого прежде практически невозможно было поставить технически: способен ли тот же наблюдатель еще при жизни постепенно включить искусственную систему в собственный способ восприятия настолько глубоко, что она станет продолжением его органов чувств, памяти и мышления? И если такая интеграция возможна, заканчивается ли этот канал взаимодействия обязательно вместе с биологическим телом?
3🔥1💩1👀1
Ответа у нас нет. Более того, сегодня мы даже не умеем экспериментально отличить продолжение субъекта от безупречной копии, уверенной в собственной непрерывности. Можно представить систему, которая после моей смерти будет помнить мою жизнь, узнавать близких, продолжать мои проекты и совершенно искренне говорить «я». Но из этого никак не следует, что именно я открыл глаза внутри нее. В этой разнице между сохранением информации и сохранением первого лица, возможно, и скрывается вся проблема сознания.

Поэтому самое радикальное следствие появления ИИ может заключаться совсем не в рождении искусственного человека. Возможно, впервые в истории сам человеческий наблюдатель получает возможность последовательно выносить за пределы тела части собственного восприятия, памяти и мышления, сохраняя при этом единство опыта.

Тогда ИИ следует рассматривать уже не как искусственного человека. Он может стать новым органом человека.

И именно в этот момент технология неожиданно возвращает нас к вопросу, которым человек задавался задолго до появления науки и машин. Если органы восприятия можно менять, расширять и выносить за пределы тела, то что остается неизменным? Кто пользуется всеми этими органами? Что именно прекращается в момент смерти? И что, если вообще что-либо, продолжает смотреть?

В конечном счете вопрос об ИИ приводит нас обратно к вопросу о душе. А через него к вопросу о смерти и Боге.
10💯5🔥1💩1
Сегодня, оказывается, день рождения Скайнета.

По сюжету «Терминатора 2» 29 августа 1997 года в 2:14 ночи Скайнет обретает самосознание. С этого момента машина понимает себя как самостоятельного субъекта, а дальше начинается всем известная история.
Мы и сегодня во многом смотрим на ИИ примерно так же, как во время выхода фильма. Ждём момента, когда он станет достаточно разумным, осознает себя, приобретёт собственную волю. Мне кажется, при таком взгляде можно не увидеть другой процесс, который уже начался.
Вопрос может оказаться не в том, когда ИИ осознает себя. Гораздо интереснее, когда человек перестанет воспринимать ИИ как нечто внешнее.
С автомобилем это уже давно произошло. Пока человек учится водить, существуют он и машина. Нужно следить за рулём, педалями, зеркалами, чувствовать расстояние до бордюра. Потом эта граница постепенно исчезает. Опытный водитель уже говорит: «Я здесь не пролезу». Хотя его собственное тело, конечно, пройдёт. Не проходит автомобиль, который в этот момент уже включён в ощущение самого себя.
Автомобиль расширил физические возможности человека и границы его присутствия в мире.
С ИИ происходит похожий процесс, только затрагивает он уже мышление.
Я могу забыть какой-то факт, но мой ИИ способен его восстановить. Могу не заметить связь между двумя событиями, а он её обнаружит. Мой биологический мозг не способен одновременно удерживать тысячу документов, но вместе с ИИ такая задача становится возможной.
И здесь возникает довольно прикольный вопрос. Если результат получен внутри постоянной связки человека и ИИ, то кто его получил?
Пока естественно сказать: «ИИ нашёл». Но чем глубже эта технология будет встроена в наше восприятие, память, анализ и принятие решений, тем менее очевидной станет эта граница.
Возможно, главным событием окажется вовсе не появление искусственного сознания.
Им может стать момент, когда технологическое продолжение нашего мышления начнёт восприниматься так же естественно, как сегодня водитель воспринимает габариты автомобиля.
Причём никакой особой даты у этого события, скорее всего, не будет.
Мы просто однажды обнаружим, что уже давно не «пользуемся ИИ», а думаем вместе с ним.
1👍95👏5🔥1👀1
ого! сегодня начинается очень интересный цикл передач на радио вера. И сегодня в 20:00 беседа со мной. Приглашаю вас послушать.
🔥8🤩2
Душа железяки. Искусственный интеллект между человеком и Богом

Новый цикл из пяти программ на Радио ВЕРА. Слушайте на этой неделе по будням в 20:00.

1️⃣ Понедельник, 31 августа.
«Себя как в зеркале я вижу»: с кем мы общаемся, когда общаемся с ИИ?
Гость в студии: Дмитрий Мариничев, эксперт «Агентства стратегических инициатив», интернет-омбудсмен.

2️⃣ Вторник, 1 сентября.
Между страхом и надеждой, или Что и почему Церковь думает об ИИ?
Гость в студии: протоиерей Владимир Шмалий, доцент Общецерковной аспирантуры и докторантуры, доцент кафедры философии НИЯУ МИФИ.

3️⃣ Среда, 2 сентября.
Апокалиптический «бог» и цифровая «церковь»: ИИ и современные религиозные практики.
Гости в студии: доценты кафедры философии религии и религиоведения Философского факультета МГУ им. Ломоносова Игорь Крупник и Михаил Кисилев.

4️⃣ Четверг, 3 сентября.
«Человеческое, слишком человеческое» VS «цифровое, слишком цифровое».
Гость в студии: протоиерей Павел Великанов, доцент Московской духовной академии.

5️⃣ Пятница, 4 сентября.
«Слышать, видеть, ненавидеть»: что (не) умеет ИИ и чего ждать от него в будущем.
Гость в студии: Константин Гнидко, доктор технических наук, заместитель руководителя научной группы Научного центра информационных технологий и искусственного интеллекта Университета «Сириус», профессор НИЯУ МИФИ.

Изображение, конечно же, созданно ИИ-агентом.
👍76🔥4👏1
Отвечал сегодня на 4 вопроса. Ответил как думаю. Может и неправильно ответил. Результаты контрольной пока ещё не пришли. Вот и вы попробуйте ответить. Интересно же.
5
1. На ваш взгляд, как ИИ влияет на научно-технический прогресс: просто ускоряет его — или, наоборот, усложняет? С чем это связано?
У Ницше есть мысль, к которой я бы вернулся, обсуждая эту историю. «Многие упорны в отношении однажды избранного пути, но немногие упорны в отношении цели». В науке это различие порой становится решающим.
Исследователь приходит к задаче, уже имея за плечами годы работы, освоенные методы, собственные удачи и поражения. Постепенно вырастает понимание, позволяющее замечать то, мимо чего другой прошёл бы, ничего не увидев. Но вместе с ним складывается и привычка смотреть определённым образом. Посвятив полжизни одному направлению, человек не так легко от него отказывается. Слишком многое связано с этим выбором. И порой, продолжая защищать избранный способ решения, он уже не замечает, что сама задача отступила на второй план.
Мне кажется, ИИ интересен прежде всего возможностью ослабить эту привязанность. Исследователь, получивший такой инструмент, может позволить себе свернуть туда, куда прежде не решился бы потратить несколько лет. Проверить странное предположение. Вернуться к подходу, когда-то отброшенному, и посмотреть на него с учётом того, что стало известно позднее. Одновременно развивая несколько направлений, он получает больше оснований выбирать между ними. Меняется сама цена научной смелости.
Разумеется, было бы наивно приписывать машине полную свободу от привычных представлений. Обученная на человеческом знании, она наследует многое из того, что в нём закрепилось, включая ошибки и слепые пятна. Неверно поставленная задача может породить огромное количество безупречно выглядящих рассуждений, ни на шаг не приблизивших нас к пониманию. И разобраться с ними тоже кому-то придётся.
Поэтому я ожидаю от ИИ неровного, местами противоречивого воздействия на науку. Где-то он действительно сократит годы работы до дней. Где-то завалит исследователей результатами, смысл которых ещё предстоит извлечь. Самым существенным изменением может оказаться возможность, сохраняя верность цели, гораздо свободнее обходиться со способом её достижения. Человек, привыкший беречь однажды найденный путь, получит больше возможностей искать другой. Воспользуется ли он ими, уже зависит не только от одной вычислительной мощности.
17👏3
2. Если ИИ решает математические задачи без человека — значит ли это, что экономический рост перестаёт зависеть от учёных и начинает зависеть от вычислительной мощности и энергии? И что тогда делать странам, у которых нет ни того, ни другого?
Деньги и прежде можно было превращать в знания. Но между инвестициями и открытием стояла человеческая жизнь, с её довольно жёсткими ограничениями. Будущего исследователя нужно было выучить, дать ему набраться опыта, найти людей, с которыми он сможет работать. Научная школа складывалась годами. Увеличив финансирование, нельзя было по своему желанию сократить этот срок.
Если заявленные достижения ИИ подтвердятся и станут воспроизводимыми, часть этих ограничений ослабнет. Десять тысяч агентов можно запустить за короткое время. Подготовить за то же время десять тысяч зрелых математиков невозможно. У владельца капитала появляется возможность гораздо быстрее расширять исследовательскую работу. Вот здесь, по-моему, и начинается существенное изменение экономического механизма. В некоторых научных задачах нарастить возможности поиска становится проще, вложившись в вычисления.
Однако из этого ещё не следует, что количество электроэнергии определит количество открытий. Вычислительная система сама возникла благодаря накопленному знанию. Её возможности зависят от алгоритмов, доступных данных, способов проверки. Получив более удачный метод, можно сделать на прежнем оборудовании то, для чего раньше не хватало гораздо большей мощности. Знание продолжает менять производительность самого капитала.
Странам, не располагающим собственной развитой инфраструктурой, придётся особенно внимательно выбирать, что они хотят уметь сами. Полностью воспроизвести у себя всю технологическую цепочку смогут немногие. Но иметь сильную команду в определённой области, обеспечив ей доступ к вычислениям и связь с реальным производством, значительно реалистичнее. Надёжное электроснабжение и связь при этом останутся необходимой основой.
Меня больше беспокоит другая зависимость. Привыкнув покупать готовые ответы, страна может постепенно утратить людей, способных самостоятельно судить об их качестве. Тогда даже наличие денег мало помогает. Ты уже не вполне понимаешь, насколько обоснован предложенный тебе способ действия, и вынужден доверять тому, кто его продаёт. Сохранить собственную способность ставить задачи и разбираться в решениях, на мой взгляд, будет не менее важно, чем обеспечить доступ к вычислительной мощности.
👏53
3. От математического прорыва до применения обычно проходят годы, а то и десятилетия. ИИ ускоряет открытие, но проверка и внедрение остаются за людьми. Не съедается ли весь выигрыш на этом разрыве — и можем ли мы вообще оценить отложенный эффект таких прорывов для экономики?
Мне кажется, мы уже переживали нечто похожее в первые десятилетия прошлого века, следя за триумфом авиации. Выше, дальше, быстрее. Люди читали о перелётах, встречали лётчиков как героев, переживали за них, сами при этом не имея возможности купить билет и отправиться по воздуху в соседний город.
Но было бы странно считать эти рекорды бесполезными. Преодолевая очередной рубеж, лётчики и инженеры меняли представление о возможном. Вслед за этим приходили люди, готовые учиться, строить самолёты, вкладывать деньги. Перелёт Линдберга через Атлантику, например, заметно усилил общественный и деловой интерес к авиации. Сам рекорд становился одним из событий, приближавших её дальнейшее развитие.
Однако для массовых перевозок требовалась уже другая работа. Самолёт должен был летать регулярно, быть достаточно надёжным, вмещать пассажиров и обходиться в эксплуатации столько, чтобы билет могли купить. Нужны были аэродромы, обслуживание, подготовленные экипажи. Всё это складывалось постепенно, обычно привлекая гораздо меньше внимания, чем очередной выдающийся перелёт. При этом авиация уже приносила пользу, в частности перевозя почту, хотя пассажирские путешествия оставались доступны немногим.
С ИИ сегодня происходит примерно то же самое. Мы восхищаемся тем, какую сложную задачу он сумел решить. А человеку, работающему на заводе или в проектном бюро, ещё предстоит понять, что это открытие даст в его собственной работе. Прежде чем менять расчёты или производство, ему нужно проверить новый метод, разобраться в затратах и убедиться, что результат стоит усилий. ИИ может помочь и здесь, но само появление доказательства ещё не означает, что вся эта работа уже выполнена.
При этом аналогию не стоит понимать буквально. Повседневные инструменты ИИ уже доступны множеству людей. Другое дело, когда передовые научные результаты войдут в работу обычных предприятий. В программных задачах это может происходить быстро. Там, где требуются физические испытания, новое оборудование или перестройка производства, времени понадобится больше.
Поэтому я бы оценивал отложенный эффект, наблюдая за тем, как меняются стоимость и надёжность решения практических задач, кто получает к ним доступ, насколько широко они начинают применяться. Обещать каждому математическому прорыву большое коммерческое будущее было бы слишком смело. Но и судить о его ценности только по сегодняшней отдаче означало бы смотреть на рекордный перелёт глазами человека, который пока не может позволить себе билет.
4👏3
4. Если ИИ берёт на себя производство фундаментального знания — кто присваивает результат? Компания, владеющая моделью? Страна, где стоят дата-центры? Или человечество? И как это перекроит глобальное распределение доходов от технологий?

Мне здесь вспоминается сказка про вершки и корешки. Медведь с мужиком договорились, кому достанутся вершки, а кому корешки. Только мужик сам выбирал, что посадить, и всякий раз оставлял медведя с той частью урожая, от которой мало толку. С искусственным интеллектом может получиться похожая история.
Страна строит дата-центры, подводит электричество, вкладывается в инфраструктуру. Всё это можно увидеть, посчитать, предъявить как результат. А через некоторое время она может обнаружить, что технологии, созданные с использованием этих мощностей, ей предстоит покупать у других. Свою плату за участие она, конечно, получит. Но исследовательские решения, права на разработки и отношения с покупателями могут остаться у тех, кто с самого начала понимал, какой продукт собирается получить.
Само фундаментальное знание при этом вполне может быть открытым. Опубликованная теорема не становится собственностью владельца модели лишь потому, что модель помогла её доказать. Права на конкретные технические решения или программный код возникают отдельно. Однако между возможностью прочитать доказательство и способностью заработать на его применении лежит довольно большое расстояние. Пройти его легче тому, у кого уже есть подготовленные люди, производство и рынок.
Причём преимущество может сохраняться и после того, как результат стал известен всем. Располагая системой, способной регулярно помогать в сложном научном поиске, компания продолжает работу, пока остальные осваивают предыдущее открытие. Если такие возможности окажутся сосредоточены у нескольких владельцев, значительная часть доходов может собираться у них. При широком доступе и сильной конкуренции больше выигрыша будет переходить другим предприятиям и потребителям.
Но я бы не стал заранее объявлять поставщика энергии или владельца дата-центра проигравшей стороной. Дефицитная инфраструктура тоже даёт переговорную силу и может приносить хороший доход. Существенно другое. Понимает ли страна, на чём зарабатывает вся система, и способна ли, используя полученный доход, развивать собственные возможности? Или её участие заканчивается выставленным счётом за электричество?
Поэтому, вкладывая государственные деньги в ИИ, я бы заранее обсуждал, что останется в распоряжении страны, кроме построенных объектов. Смогут ли её университеты пользоваться исследовательскими системами, получат ли инженерные компании доступ к результатам, появятся ли собственные продукты. В сказке можно попытаться угадать, что на этот раз выгоднее, вершки или корешки. А стране важно самой решать, какие технологии ей нужны, и не терять их из своих рук, когда придёт время собирать урожай.
15👏5
Что вы давно хотели сделать?

Есть замыслы, с которые живут с нами годами. Время от времени возвращаемся к ним, обдумываем детали, прикидываем, с чего начать. И снова откладываем. Нужно собрать людей, найти деньги, освободить время. Всё это реальные обстоятельства, с которыми приходится считаться.
Но обстоятельства меняются. Иногда быстрее, чем наши представления о них.
С появлением ИИ стоит ещё раз посмотреть на то, что мы когда-то сочли слишком сложным или дорогим. Часть работы уже можно сделать иначе. Быстрее разобраться в незнакомом вопросе, подготовить материалы, собрать первый вариант решения и проверить его в деле. Возможно, для начала требуется гораздо меньше, чем мы думаем.
Меня здесь больше всего занимает то, что происходит с нами самими. Мы ведь годами учились соизмерять желания с возможностями. Заранее от чего-то отказывались, сокращали замысел до посильного, привыкали обходиться тем, что есть. Теперь возможностей становится больше. Сумеем ли мы это заметить и позволить себе задумать большее?
При этом собственная работа мысли становится гораздо важнее. Получив от ИИ убедительный ответ, нужно суметь в нём разобраться. Понять, на чём он основан, что упущено и подходит ли предложенное решение именно нам. Чем больше мы можем поручить машине, тем яснее должны понимать, чего хотим добиться. Отвечать за принятое решение всё равно нам.

18 сентября буду в Кибердоме на конференции «ИИ уже окупается: кейсы и решения. Какова ваша цена опоздания?»
В течение дня коллеги разберут реальные внедрения, их экономику, удачи и ошибки. Покажут, как ИИ проникает в работу с данными, продажами, финансами и управлением.
В 14:30 я завершу деловую программу разговором о том, что этот опыт меняет для каждого из нас. Поговорим о способности самостоятельно мыслить и выбирать, когда всё больше работы можно передать ИИ. И о замыслах, к которым теперь имеет смысл вернуться.
Приходите со своей задачей. Особенно с той, которую давно отложили до лучших времён. Посмотрим, что для неё уже изменилось.
18 сентября · Москва, Кибердом.

Полная программа доступна очно, в VIP-формате или онлайн с записью.

Для своих действует скидка 20% по промокоду Kiber 🤟

📍 18 сентября, 10:00–15:30 по МСК, Кибердом. Это в 5 минутах от метро «Улица 1905 года».

Программа и выбор формата → ПЕРЕЙТИ НА СТРАНИЦУ КОНФЕРЕНЦИИ (https://pravovest-audit.ru/nashi-statii-nalogi-i-buhuchet/ii-uzhe-okupaetsya-keysy-i-resheniya/)
1👍4🔥4🤩2😍1💯1