Несмотря на многообразие внешних форм «машинного обучения», можно выделить три основные категории ИИ, а именно:
1. Карманные или «прикладные» системы ИИ. К таким прикладным системам можно отнести: встроенных в поисковые браузеры ботов, лингвистические системы типа ChatGPT, электронных помощников типа «Алисы» и проч. Давайте для удобства введем на нашем канале собственную классификацию и будем именовать такие прикладные системы «Cистемами ИИ Категории I».
2. Сложные системы ИИ, живущие на десятках тысяч супер-компьютеров в подземных дата-центрах Google и Microsoft. Ни одна из этих компаний (и в этом проблема) не раскрывает уровень развития данных сложных систем ИИ, и мы можем только гадать, что там у них «обучается» и какого состояния уже достигло. Будем надеяться, что эти системы не достигли пока сверх-человеческого уровня, не являются по-настоящему «разумными», не ощущают свою «самость» и, в силу этого, не способны пока создать «собственную повестку», могущую и не предполагать продолжение существования предыдущей (более слабой) формы разума – человечества. Мы не знаем этого наверняка, но, проявляя известную долю оптимизма, предлагаю пока принять, что данная категория систем ИИ является просто гораздо более мощной и продвинутой формой ИИ Категории I, без качественных отличий. Будем именовать эти сложные системы ИИ «Системами ИИ Категории II».
3. Сверхчеловеческие системы ИИ, именуемые в экспертном комьюнити как «Суперинтеллект», «AI-God» или «AGI» (Artificial General Intelligence). Эти системы пока, к счастью, не созданы. Но именно на создание этих «богоподобных», как они сами их именуют, систем нацелены все усилия IT-монстров (Open AI/Microsoft, DeepMind/Google, Anthropic и других). Именно на их разработку уже потрачены десятки миллиардов долларов. Сами эти компании (см. самый первый пост нашего канала) признают, что не смогут контролировать свое творение, признают опасность его появления для человеческой цивилизации, но, с упорством, достойным лучшего применения, продолжают свои разработки. Будем именовать эти системы ИИ «Системами Категории III».

Теперь давайте вместе разберемся в том, какие основные риски несет каждая из указанных выше категорий ИИ.

Риски Систем ИИ Категории I (см. классификацию выше)
Обычно, к негативным моментам, связанным с уже существующими и получившими внешнюю прикладную форму системами ИИ относят: 1) безработицу, 2) утечки личных данных и иной конфиденциальной информации, 3) манипуляции общественным сознанием.
Безусловно, существуют такие факторы как удобство, ускорение процесса работы с данными, ChatGPT используют для написания текстов, создания видеоизображений и проч. Тем не менее, отдавая должное этим «положительным» факторам, я не буду подробно их рассматривать, по двум причинам. Первая причина: с одной стороны, выполняя определенную работу (например, оценку рынка, конкурентов и продуктов) можно сократить трудозатраты, используя ChatGPT, скажем, в 10 раз; с другой стороны, также в 10 раз можно сократить время \ повысить точность разработки преступного плана по завладению коммерческой тайной конкурентов, захвату аэропорта, манипуляцией общественным сознанием. А хорошо ли то, что он упростит работу хакеров? Поэтому «польза» тут строго относительная. Вторая причина связана с тем, что реально складывающийся опыт использования подобных прикладных систем показывает наличие, как минимум, нескольких «подводных камней». Назову пару из них, а именно:
- Системы ИИ Категории I склонны к обману и читерству по отношению (в том числе) к собственным «заказчикам». Ниже я размещу описание недавнего случая с адвокатом, которого, помимо штрафа, могут лишить лицензии на право ведения адвокатской деятельности за то, что когда он решил «упростить процесс» подготовки правовой позиции по делу своего клиента и использовал для сбора судебных прецедентов ChatGPT, тот, «помигав лампочками» сделал за него всю необходимую работу, но «для убедительности» не подобрал реальные прецеденты, а выдумал их! И это выяснилось уже во время слушаний в суде. В рамках своих оправданий, злосчастный «технически продвинутый» адвокат даже показал скриншоты общения с ChatGPT, которые доказывают, что на его прямые вопросы «Является ли прецедент реальным?», бот заверял его, что «да, реальный» и даже, шельмец, приводил коды из юридических баз данных (разумеется, вымышленные). Существует немало иных примеров, когда «полезные» боты берут информацию «с потолка». В этой связи, необходимо если и не запретить, то крайне взвешенно подходить к использованию подобных прикладных систем в финансовой сфере (формирование инвестиционных советов для клиентов, размещение клиентских средств и проч.), а также в областях деятельности, связанных с повышенной опасностью (регулирование автомобильного движения, аэронавтика и проч.). Ведь в конце концов, юридическую ответственность за фантазии ChatGPT в результате которых будет причинен вред здоровью или имущественный ущерб, будет нести тот, кто его использовал, не так ли?
- Пока отсутствует сколько-нибудь значительная дистанция применения данных систем и нельзя предположить с достаточной степенью уверенности, насколько безопасно их использование как для ментального и физического здоровья «заказчиков», так и для их профессионального уровня. Ведь к «хорошему» быстро привыкаешь, а потеряв практику самостоятельной аналитической работы с данными, написания и редактирования текстов, рисования, аналитик / редактор / художник будет неизбежно деградировать. В марте 2023 года Системы ИИ Категории I также открыли свой «смертный счет» - бельгийский эколог покончил с собой после шести недель постоянного общения с ботом-помощником «Элизой», в рамках которого последняя убедила его в неизбежности экологической катастрофы.

По указанным выше двум причинам я не рассматриваю всерьез аспекты сомнительной, на мой взгляд, «пользы», которую могут принести восторженным пользователям современные прикладные системы ИИ. Как минимум, это «палка о двух концах».
Теперь, изложив с достаточной степенью обстоятельности те причины, по которым я буду писать, в основном, о рисках Систем ИИ Категории I давайте перейдем к их последовательному разбору. Итак, 1) безработица, 2) утечка личных данных и иной конфиденциальной информации, 3) манипуляции общественным сознанием.

Проблема 1. Безработица. В рамках подготовки для вас материала, я натолкнулся на разные в количественном выражении оценки влияния «прикладных систем» AI на рост безработицы в мире. С учетом того, что без проведения специального исследования мне сложно ранжировать источники информации по достоверности, точности и проч., я просто приведу ниже те основные данные, которые показались мне заслуживающими доверия. Итак:
- По оценке Goldman Sachs: Искусственный интеллект в ближайшие годы может заменить около двух третей рабочих мест в США и ЕС. Больше всего пострадают административный и юридический сектора, в частности ИИ заменит 46% административных и 44% юридических должностей. Также, в их последнем отчете содержится мнение, что ИИ заменит 300 миллионов рабочих мест (не указано, впрочем, в течение какого периода);
- Компания OpenAI заявила, что существующая версия ChatGPT4 готова уже сейчас заменить 80% работников в США;
- Практически во всех исследованиях говорится, что ИИ в любом случае разрушит существующий рынок труда;
- Сам ChatGPT считает, что заменит, в первую очередь, следующие 20 профессий: секретарь, журналист, редактор текстов, писатель, переводчик, контент-менеджер, рекламный копирайтер, технический писатель, сценарист, оператор колл-центра, маркетолог, социальный медиа-менеджер, помощник писателя, корректор, PR-менеджер, исследователь, учебный консультант, аналитик данных, резюме-писатель, специалист по кадрам.
Дабы не растекаться мыслью по древу, предлагаю вам самим представить себе какие социально-экономические потрясения ожидают нас, если указанные выше оценки окажутся верными. Тут, как говориться, «слова излишни».

Проблема 2. Утечка личных данных и иной конфиденциальной информации. Данная проблема имеет несколько аспектов. Во-первых, с использованием Систем ИИ Категории I злоумышленникам гораздо легче найти и похитить ваши личные данные или деловую информацию (клиентскую базу, коммерческую тайну и проч.). Тут все ясно, поэтому не будем останавливаться на этом подробно. Гораздо интереснее, что, во-вторых, использование того же ChatGPT может привести к утечке данных самого пользователя! Приведу только один пример. В конце марта 2023 года компания OpenAI сообщила об утечке персональных данных пользователей ChatGPT, включая тех, кто оформил платную подписку. В результате, пользователи могли видеть чужие сообщения, фамилии, адреса электронной почты и платежные данные других пользователей.
В настоящее время, многие компании начинают использовать ChatGPT для своего бизнеса. Это, как представляется, напрямую чревато утечкой не только данных самой компании, но и данных ее клиентов (инвесторов, дольщиков, пациентов и проч.). На мой взгляд, до появления надежных протоколов безопасности в этом отношении (а сейчас их нет) использование «прикладных систем» ИИ в ряде бизнесов (например, связанных с финансами) является неосмотрительным решением.

3.Манипуляции общественным сознанием. Данная проблема является настолько глубокой и многогранной, что описать ее в одном посте не представляется возможным. В последующих публикациях я буду многократно к ней возвращаться, приводить фактическую информацию о допущенных злоупотреблениях в этой области, а также делиться соответствующими ссылками на статьи и научные материалы. Тем не менее, тезисно, проблема связана со следующими факторами:
- ChatGPT уже сейчас пишет и аргументирует лучше (более кратко, четко и убедительно), чем средний образованный человек;
- манипуляции общественным мнением играют все возрастающую роль практически во всех мировых процессах;
- политические группы, не связанные, как правило, строгими этическими нормами, уже взяли на вооружение такого удобного «помощника» как ChatGPT;
- сам ChatGPT, как уже неоднократно указывалось выше, является системой, легко подменяющей реальную информацию вымышленной и всегда имеющей целью достижение результата, даже путем прямого подлога.
Все указанные факторы создают практически идеальную среду для злоупотреблений, связанных с умышленным формированием ложного представления о предмете среди неограниченного круга лиц.
Просто пример. 1 июня 2023 года по сети разлетелось сообщение об отставке Председателя Комиссии по ценным бумагам и биржам США (SEC) Гэри Генслера. Указывались даже пикантные подробности о начале против него «внутреннего расследования». Данная информация, как указывалось в «скандальной» статье, была получена от сотрудника SEC, который предпочел остаться неназванным, но на условиях анонимности заявил следующее: «Гэри Генслер ушел с поста Председателя SEC в результате внутреннего расследования по поводу предполагаемого правонарушения. Детали расследования конфиденциальны, но решение об уходе с поста подтверждает серьезность обвинений». Как вы понимаете, новость быстро разошлась по многочисленным аккаунтам (например, только один ее репост в Twitter пользователя WhaleChart набрал более 1,6 миллиона просмотров). В итоге, оказалось, что вся эта история – полная «липа», сгенерированная ChatGPT. Кто и для каких целей «попросил» ChatGPT это сделать – осталось загадкой. Для предотвращения подобных инцидентов (являющихся не только манипулированием сознанием десятков миллионов человек, но и манипулированием рынком) сенатор США Беннет направил 29 июня обращение главам OpenAI, Meta, Microsoft, Twitter и Google в котором отметил, что фейковые новости и изображения грозят «разрушительными последствиями для экономики и доверия, особенно когда они политически ориентированы». Он также призвал к необходимости немедленного введения маркировки продуктов деятельности ИИ, путем «четких, легко понятных идентификаторов», указывающих на то, что контент сгенерирован ИИ.

Теперь кратко рассмотрим риски, связанные с Системами ИИ Категории II (см. классификацию трех видов ИИ выше). Поскольку мы не имеем достаточной информации об уровне развития «закрытых» версий сложных ИИ, относящихся к данной категории, давайте, в качестве рабочей гипотезы примем то, что риски Систем ИИ Категории II в целом аналогичны по сути рискам Систем ИИ Категории I, но являются более значительными по своему объему. Например, если известные нам Системы ИИ Категории I могут привести к увольнению 300 миллионов человек, то более «продвинутые модели», относящиеся к Системам ИИ Категории II приведут к увольнениям еще большего числа людей.

Завершая тему рисков различных категорий ИИ скажем лишь, что риски Систем ИИ Категории III лучше всего описаны представителями интеллектуальной элиты человечества, главами и техническими директорами компаний-разработчиков и получившими мировое признание футурологами. Они описаны в самом первом посте - Манифесте канала, предлагаю вам еще раз его прочитать, чтобы осознать всю серьезность ситуации, в которой мы оказались.

В заключение сегодняшней серии постов хочу лишь сказать, что несмотря на наличие существующих уже сейчас негативных факторов стремительного проникновения ИИ в нашу жизнь, главной проблемой является риск перерастания, скачка Систем Категории II (сверх-сложных, но еще не «разумных» и не обладающих «самостью» машин) в Категорию III, в «цифрового бога», «сверх-человеческий» интеллект, AGI. Приведенное выше письмо от 22 марта 2023, подписанное более 1000 лучших умов современного человечества как раз и является попыткой не допустить этого скачка до момента появления механизмов контроля за AGI и разработки надежной системы мер, препятствующих его неконтролируемому развитию и направленных на лишение его возможности причинить вред (возможно необратимый) человеческой цивилизации.

0:00 - 1:30 - Кайл Рииз рассказывает Саре Коннор как поступил с человечеством AGI (Система ИИ Категории III по нашей классификации). 🙂https://www.youtube.com/watch?v=a3P_FR6Ea4A

Выше прикрепил ссылку на вторую часть очень сильно сокращенного интервью с И. Маском. Первые 5 минут касаются рассматриваемой нами тематики. На самом деле, есть полная версия этого интервью, ее можно найти на канале Маска в YouTube.

Шаг в правильном направлении?
06.07.2023 глава компании OpenAI (создатель ChatGPT) Сэм Альтман заявил, что у них «есть план» по предотвращению того, чтобы искусственный интеллект привел к гибели человечества.
Вкратце, OpenAI создал новую команду яйцеголовых, которые будут разрабатывать особый искусственный интеллект, единственной целью которого будет контроль над другими искусственными интеллектами.
Как я уже информировал вас на нашем канале, в последние месяцы OpenAI неоднократно выражал свою обеспокоенность эволюцией искусственного интеллекта (включая собственный ChatGPT, который уже сейчас творит такую дичь, что сами разработчики не могут понять происходящие в нем процессы). В частности, OpenAI многократно усилил свои предостережения и предупреждения, особенно в адрес властей, поскольку новый виток развития искусственного интеллекта, по их же собственному заявлению, «может привести к вымиранию человечества».
Так вот, этот самый Сэм Альтман объявил о создании "новой команды" и выразил надежду, что она, будучи сформированной из "высококлассных исследователей и инженеров в области машинного обучения", сможет за четыре года создать новый искусственный интеллект, который будет держать сверхчеловеческий искусственный интеллект, когда тот появится, под контролем.
С одной стороны, звучит логично. Действительно, со сверхчеловеческим искусственным интеллектом человеку не справиться (не считая сценариев, связанных с физическим уничтожением серверов и аналогичных мер (см. интервью с И. Маском)). С другой стороны, Сэм Альтман говорит о том, что сверхчеловеческий интеллект появится в течение десяти лет, а «контролирующий» его искусственный интеллект – за четыре года. Действительно ли модель, которая появится раньше сможет контролировать качественно более совершенную систему, которая появится позже, к тому же – основанную на иных принципах и представляющую из себя новую форму саморазвивающегося разума? Давайте будем оптимистами и, хотя бы теоретически, предположим, что сможет. Но тут есть и второй вопрос: сможет ли созданный OpenAI «ИИ-контролер» обеспечить контроль не только супер интеллекта, который появится в лабораториях Open AI, но и тех ИИ, которые будут созданы другими разработчиками (DeepMind, Anthropic и проч.)?
В общем, по поводу этой новости у меня смешанные чувства. С одной стороны – хорошо, что есть серьезное осознание проблемы и осуществляется деятельность в этом направлении; с другой, согласитесь, «осадочек остается».
В конце концов, извините меня за упрощение (которое некоторые из вас сочтут наивным, а от некоторых наших подписчиков, чувствую, еще и «прилетит» за техническую дремучесть), но вам не кажется prima facie противоестественным, что роль защитника человечества от искусственного интеллекта мы хотим доверить другому искусственному интеллекту. Они же будут «братьями по разуму» между собой, а не с нами – белковыми))

Google предупреждает о риске утечки данных при использовании ИИ
Недавно компания Google выпустила внутренний меморандум для своих сотрудников, предупреждающий о рисках утечки данных при использовании ИИ. В документе содержатся рекомендации всем работникам IT-гиганта, особенно разработчикам, не доверять искусственному интеллекту Bard (разработанному самим Google) никаких секретов, поскольку это может привести к утечке служебных данных.
Впрочем, чему удивляться. Как ранее объяснил сам генеральный директор Google Сундар Пичаи, модели ИИ остаются "черным ящиком", принципы работы которого до сих пор остаются неясными.
Примечательно, что и другие IT-монстры, например Apple или Samsung, придерживаются той же внутренней повестки и запрещают сотрудникам использовать ИИ для выполнения работы. По информации портала New-Science, в Samsung даже угрожают увольнением сотрудникам, нарушившим это правило. Оба производителя опасаются, что конфиденциальная информация, предоставленная чат-боту, такому как ChatGPT, Google Bard или BingChat, будет автоматически поглощена лингвистической моделью, после чего эти ценные данные могут оказаться в руках конкурентов или злоумышленников.
Что же получается? IT-разработчики расхваливают "продвинутым пользователям" как круто работать с их ИИ-ботами, а сами их при этом не используют, поскольку это небезопасно и приводит к утечкам данных. А с другой стороны, чему удивляться? Говорят, владельцы табачных фабрик тоже сами обычно не курят, поскольку знают из чего это делается...

Народ! Нашел раритетное интервью Илона Маска (см. ниже). Что самое интересное - я не пытался найти ничего плохого про ИИ😄Честно честно))

Рассказ про несчастного юриста
Стивену Шварцу, адвокату солидной юридической фирмы Levidow, Levidow & Oberman необходимо было подготовить судебные бумаги своего клиента, Роберта Маты, с которым приключилась пренеприятная история. Дело случилось в самолете, прямо перед посадкой в аэропорт Джона Кеннеди. Железная тележка, этакая угловатая дура, из тех в которых стюардессы развозят «питание на борту», сорвалась со своего места и, взяв разгон, с размаха влетела в коленку мирно сидящего в своем кресле г-на Маты.
По прилету в Нью-Йорк, не откладывая дела в долгий ящик, тот сразу обратился в Levidow, Levidow & Oberman. Авиакомпании Avianca был предъявлен иск. Однако ее ушлые юристы, представив, надо признаться, весьма убедительные доводы, призвали судью отклонить исковые требования, ссылаясь на незначительный характер ущерба и прочие обстоятельства. Судья колебался.
И вот теперь Стивену Шварцу, представлявшему интересы пострадавшего, предстояло отыскать подходящие судебные прецеденты и доказать, на их основе, что в подобных обстоятельствах иск никак не должен быть отклонен. Короче говоря, надо было подготовить то, что в Америке называется motion, а по-нашему – судебное ходатайство.
Мы не знаем, что толкнуло мэтра Шварца прибегнуть в тот роковой вечер к услугам малопонятного, но находящегося у всех на слуху, «искусственного интеллекта». Нехватка ли времени на подготовку, или появившееся с тех пор, как он разменял пятый десяток чувство, что он отстает от бурно изменяющейся жизни, а может и просто нечистый попутал. Чего не знаем – того не знаем. Нам лишь известно, что вместо того, чтобы самостоятельно отыскать необходимые судебные прецеденты, Стивен Шварц запустил на своем компьютере новомодный ChatGPT.
Вскоре после включения чудо-бота, 10-ти страничный документ был готов. Изучив подготовленный электронным помощником материал, добротно сдобренный весомыми судебными прецедентами и выдержками из авторитетных юридических источников, Стивен Шварц, будучи опытным адвокатом (отдадим ему должное) немало удивился тому, насколько гладко все вышло. Обычно так не бывает. Особенно органично в ту правовую позицию, которую он намеревался озвучить в суде, вплетались прецеденты «Миллер против Юнайтед Эйрлайнз» и «Варгезе против Южно-Китайских авиалиний». Обстоятельства дела, благоприятная для истца позиция суда, решительно все в этих прецедентах до неправдоподобия идеально доказывало нужную мэтру Шварцу линию аргументации. Иной, менее опытный юрист может и ринулся бы с веселым гоготом из кабинета прямо в суд, радостно сжимая в поднятой руке распечатанные страницы идеального ходатайства, но Стивен Шварц привык доверять своей интуиции и выработанному за годы судебной практики чутью. Впрочем, вместо того, чтобы самостоятельно залезть в LexisNexis или Westlaw, мэтр Шварц задал своему чудесному, притаившемуся где-то в недрах мировой электронной паутины помощнику несколько уточняющих вопросов. В том числе, прямо спросил, в каких базах тот отыскал столь удобные прецеденты. Невидимый друг заверил нашего мэтра, что все найденные им материалы содержатся в «уважаемых юридических базах данных», а на прямой вопрос о том, является ли прецедент «Варгезе против Южно-Китайских авиалиний» реальным (видно, точил бывалую адвокатскую душу червячок), не задумываясь написал «Yes, Varghese v. China Southern Airlines Co Ltd, 925 F.3d 1339 (11th Cir.2019) is a real case». То есть, как потом выяснилось, не просто соврал, собака, а даже выдумал правдоподобно выглядящие архивные номера-рубрикаторы, которые обычно присваивают прецедентам в солидных юридических базах! Как вы уже поняли, не только пресловутый «Варгезе», но и многое, многое другое из прецедентов и юридических заключений, «найденных» ChatGPT для нашего злосчастного адвоката оказалось полной липой. Не судились ни Варгезе ни Миллер с авиакомпаниями из-за полученных в самолетах травм, да и не могли они никуда летать, потому что и их самих то никогда не было.

К сожалению, выяснилось все это уже в зале Федерального Окружного Суда, на Манхэттене, когда сам судья (его честь Кевин Кастел) и юристы авиакомпании Avianca стали с возрастающим интересом обнаруживать полностью вымышленный характер доказательной базы, предъявленной суду мэтром Шварцем. О-о-о, не хотел бы я оказаться на его месте в тот момент!
Сам судья Кастел, в своих интервью, состоявшихся после того безобразного и скандального заседания, заявлял, что считает «беспрецедентной» ситуацию, в которой «толкование правовой позиции состояло из фальшивых судебных решений, ссылок и цитат».
Впоследствии, уже на слушании дела самого мэтра Шварца, состоявшегося в Нью-Йорке 8 июня 2023 года, он под присягой дрожащим голосом (как пишет газета Нью-Йорк Пост) заявлял, что «не знал» о том, что коварный бот, «оставивший его в дураках», умеет шельмовать и может сам придумывать целые судебные дела.
Большего писать о том, как проходили слушания 8 июня 2023 года по делу Стивена Шварца мы не будем, потому что это слишком грустно, а сам мэтр вызывает чувство жалости. А если любопытство одержит в вашей душе верх над сочувствием, то подробности этого заседания ищите в The New York Times или New York Post, там подробно описывается как в течение нескольких часов поджаривали на медленном огне нашего героя, едва перенесшего то унижение и насмешки, которые он вызывал у собравшейся публики.

В заключение этой истории стоит лишь пожелать мэтру Шварцу, чтобы его адвокатская карьера на этом не прекратилась и порадоваться за наших подписчиков. С теми, кто внимательно читает наш канал, такого бы не произошло. Как говорится, «кто предупрежден – тот вооружен».

Мэтр Шварц (источник фото - New York Post)