Теперь давайте вместе разберемся в том, какие основные риски несет каждая из указанных выше категорий ИИ.

Риски Систем ИИ Категории I (см. классификацию выше)
Обычно, к негативным моментам, связанным с уже существующими и получившими внешнюю прикладную форму системами ИИ относят: 1) безработицу, 2) утечки личных данных и иной конфиденциальной информации, 3) манипуляции общественным сознанием.
Безусловно, существуют такие факторы как удобство, ускорение процесса работы с данными, ChatGPT используют для написания текстов, создания видеоизображений и проч. Тем не менее, отдавая должное этим «положительным» факторам, я не буду подробно их рассматривать, по двум причинам. Первая причина: с одной стороны, выполняя определенную работу (например, оценку рынка, конкурентов и продуктов) можно сократить трудозатраты, используя ChatGPT, скажем, в 10 раз; с другой стороны, также в 10 раз можно сократить время \ повысить точность разработки преступного плана по завладению коммерческой тайной конкурентов, захвату аэропорта, манипуляцией общественным сознанием. А хорошо ли то, что он упростит работу хакеров? Поэтому «польза» тут строго относительная. Вторая причина связана с тем, что реально складывающийся опыт использования подобных прикладных систем показывает наличие, как минимум, нескольких «подводных камней». Назову пару из них, а именно:
- Системы ИИ Категории I склонны к обману и читерству по отношению (в том числе) к собственным «заказчикам». Ниже я размещу описание недавнего случая с адвокатом, которого, помимо штрафа, могут лишить лицензии на право ведения адвокатской деятельности за то, что когда он решил «упростить процесс» подготовки правовой позиции по делу своего клиента и использовал для сбора судебных прецедентов ChatGPT, тот, «помигав лампочками» сделал за него всю необходимую работу, но «для убедительности» не подобрал реальные прецеденты, а выдумал их! И это выяснилось уже во время слушаний в суде. В рамках своих оправданий, злосчастный «технически продвинутый» адвокат даже показал скриншоты общения с ChatGPT, которые доказывают, что на его прямые вопросы «Является ли прецедент реальным?», бот заверял его, что «да, реальный» и даже, шельмец, приводил коды из юридических баз данных (разумеется, вымышленные). Существует немало иных примеров, когда «полезные» боты берут информацию «с потолка». В этой связи, необходимо если и не запретить, то крайне взвешенно подходить к использованию подобных прикладных систем в финансовой сфере (формирование инвестиционных советов для клиентов, размещение клиентских средств и проч.), а также в областях деятельности, связанных с повышенной опасностью (регулирование автомобильного движения, аэронавтика и проч.). Ведь в конце концов, юридическую ответственность за фантазии ChatGPT в результате которых будет причинен вред здоровью или имущественный ущерб, будет нести тот, кто его использовал, не так ли?
- Пока отсутствует сколько-нибудь значительная дистанция применения данных систем и нельзя предположить с достаточной степенью уверенности, насколько безопасно их использование как для ментального и физического здоровья «заказчиков», так и для их профессионального уровня. Ведь к «хорошему» быстро привыкаешь, а потеряв практику самостоятельной аналитической работы с данными, написания и редактирования текстов, рисования, аналитик / редактор / художник будет неизбежно деградировать. В марте 2023 года Системы ИИ Категории I также открыли свой «смертный счет» - бельгийский эколог покончил с собой после шести недель постоянного общения с ботом-помощником «Элизой», в рамках которого последняя убедила его в неизбежности экологической катастрофы.

По указанным выше двум причинам я не рассматриваю всерьез аспекты сомнительной, на мой взгляд, «пользы», которую могут принести восторженным пользователям современные прикладные системы ИИ. Как минимум, это «палка о двух концах».
Теперь, изложив с достаточной степенью обстоятельности те причины, по которым я буду писать, в основном, о рисках Систем ИИ Категории I давайте перейдем к их последовательному разбору. Итак, 1) безработица, 2) утечка личных данных и иной конфиденциальной информации, 3) манипуляции общественным сознанием.

Проблема 1. Безработица. В рамках подготовки для вас материала, я натолкнулся на разные в количественном выражении оценки влияния «прикладных систем» AI на рост безработицы в мире. С учетом того, что без проведения специального исследования мне сложно ранжировать источники информации по достоверности, точности и проч., я просто приведу ниже те основные данные, которые показались мне заслуживающими доверия. Итак:
- По оценке Goldman Sachs: Искусственный интеллект в ближайшие годы может заменить около двух третей рабочих мест в США и ЕС. Больше всего пострадают административный и юридический сектора, в частности ИИ заменит 46% административных и 44% юридических должностей. Также, в их последнем отчете содержится мнение, что ИИ заменит 300 миллионов рабочих мест (не указано, впрочем, в течение какого периода);
- Компания OpenAI заявила, что существующая версия ChatGPT4 готова уже сейчас заменить 80% работников в США;
- Практически во всех исследованиях говорится, что ИИ в любом случае разрушит существующий рынок труда;
- Сам ChatGPT считает, что заменит, в первую очередь, следующие 20 профессий: секретарь, журналист, редактор текстов, писатель, переводчик, контент-менеджер, рекламный копирайтер, технический писатель, сценарист, оператор колл-центра, маркетолог, социальный медиа-менеджер, помощник писателя, корректор, PR-менеджер, исследователь, учебный консультант, аналитик данных, резюме-писатель, специалист по кадрам.
Дабы не растекаться мыслью по древу, предлагаю вам самим представить себе какие социально-экономические потрясения ожидают нас, если указанные выше оценки окажутся верными. Тут, как говориться, «слова излишни».

Проблема 2. Утечка личных данных и иной конфиденциальной информации. Данная проблема имеет несколько аспектов. Во-первых, с использованием Систем ИИ Категории I злоумышленникам гораздо легче найти и похитить ваши личные данные или деловую информацию (клиентскую базу, коммерческую тайну и проч.). Тут все ясно, поэтому не будем останавливаться на этом подробно. Гораздо интереснее, что, во-вторых, использование того же ChatGPT может привести к утечке данных самого пользователя! Приведу только один пример. В конце марта 2023 года компания OpenAI сообщила об утечке персональных данных пользователей ChatGPT, включая тех, кто оформил платную подписку. В результате, пользователи могли видеть чужие сообщения, фамилии, адреса электронной почты и платежные данные других пользователей.
В настоящее время, многие компании начинают использовать ChatGPT для своего бизнеса. Это, как представляется, напрямую чревато утечкой не только данных самой компании, но и данных ее клиентов (инвесторов, дольщиков, пациентов и проч.). На мой взгляд, до появления надежных протоколов безопасности в этом отношении (а сейчас их нет) использование «прикладных систем» ИИ в ряде бизнесов (например, связанных с финансами) является неосмотрительным решением.

3.Манипуляции общественным сознанием. Данная проблема является настолько глубокой и многогранной, что описать ее в одном посте не представляется возможным. В последующих публикациях я буду многократно к ней возвращаться, приводить фактическую информацию о допущенных злоупотреблениях в этой области, а также делиться соответствующими ссылками на статьи и научные материалы. Тем не менее, тезисно, проблема связана со следующими факторами:
- ChatGPT уже сейчас пишет и аргументирует лучше (более кратко, четко и убедительно), чем средний образованный человек;
- манипуляции общественным мнением играют все возрастающую роль практически во всех мировых процессах;
- политические группы, не связанные, как правило, строгими этическими нормами, уже взяли на вооружение такого удобного «помощника» как ChatGPT;
- сам ChatGPT, как уже неоднократно указывалось выше, является системой, легко подменяющей реальную информацию вымышленной и всегда имеющей целью достижение результата, даже путем прямого подлога.
Все указанные факторы создают практически идеальную среду для злоупотреблений, связанных с умышленным формированием ложного представления о предмете среди неограниченного круга лиц.
Просто пример. 1 июня 2023 года по сети разлетелось сообщение об отставке Председателя Комиссии по ценным бумагам и биржам США (SEC) Гэри Генслера. Указывались даже пикантные подробности о начале против него «внутреннего расследования». Данная информация, как указывалось в «скандальной» статье, была получена от сотрудника SEC, который предпочел остаться неназванным, но на условиях анонимности заявил следующее: «Гэри Генслер ушел с поста Председателя SEC в результате внутреннего расследования по поводу предполагаемого правонарушения. Детали расследования конфиденциальны, но решение об уходе с поста подтверждает серьезность обвинений». Как вы понимаете, новость быстро разошлась по многочисленным аккаунтам (например, только один ее репост в Twitter пользователя WhaleChart набрал более 1,6 миллиона просмотров). В итоге, оказалось, что вся эта история – полная «липа», сгенерированная ChatGPT. Кто и для каких целей «попросил» ChatGPT это сделать – осталось загадкой. Для предотвращения подобных инцидентов (являющихся не только манипулированием сознанием десятков миллионов человек, но и манипулированием рынком) сенатор США Беннет направил 29 июня обращение главам OpenAI, Meta, Microsoft, Twitter и Google в котором отметил, что фейковые новости и изображения грозят «разрушительными последствиями для экономики и доверия, особенно когда они политически ориентированы». Он также призвал к необходимости немедленного введения маркировки продуктов деятельности ИИ, путем «четких, легко понятных идентификаторов», указывающих на то, что контент сгенерирован ИИ.

Теперь кратко рассмотрим риски, связанные с Системами ИИ Категории II (см. классификацию трех видов ИИ выше). Поскольку мы не имеем достаточной информации об уровне развития «закрытых» версий сложных ИИ, относящихся к данной категории, давайте, в качестве рабочей гипотезы примем то, что риски Систем ИИ Категории II в целом аналогичны по сути рискам Систем ИИ Категории I, но являются более значительными по своему объему. Например, если известные нам Системы ИИ Категории I могут привести к увольнению 300 миллионов человек, то более «продвинутые модели», относящиеся к Системам ИИ Категории II приведут к увольнениям еще большего числа людей.

Завершая тему рисков различных категорий ИИ скажем лишь, что риски Систем ИИ Категории III лучше всего описаны представителями интеллектуальной элиты человечества, главами и техническими директорами компаний-разработчиков и получившими мировое признание футурологами. Они описаны в самом первом посте - Манифесте канала, предлагаю вам еще раз его прочитать, чтобы осознать всю серьезность ситуации, в которой мы оказались.

В заключение сегодняшней серии постов хочу лишь сказать, что несмотря на наличие существующих уже сейчас негативных факторов стремительного проникновения ИИ в нашу жизнь, главной проблемой является риск перерастания, скачка Систем Категории II (сверх-сложных, но еще не «разумных» и не обладающих «самостью» машин) в Категорию III, в «цифрового бога», «сверх-человеческий» интеллект, AGI. Приведенное выше письмо от 22 марта 2023, подписанное более 1000 лучших умов современного человечества как раз и является попыткой не допустить этого скачка до момента появления механизмов контроля за AGI и разработки надежной системы мер, препятствующих его неконтролируемому развитию и направленных на лишение его возможности причинить вред (возможно необратимый) человеческой цивилизации.

0:00 - 1:30 - Кайл Рииз рассказывает Саре Коннор как поступил с человечеством AGI (Система ИИ Категории III по нашей классификации). 🙂https://www.youtube.com/watch?v=a3P_FR6Ea4A

Выше прикрепил ссылку на вторую часть очень сильно сокращенного интервью с И. Маском. Первые 5 минут касаются рассматриваемой нами тематики. На самом деле, есть полная версия этого интервью, ее можно найти на канале Маска в YouTube.

Шаг в правильном направлении?
06.07.2023 глава компании OpenAI (создатель ChatGPT) Сэм Альтман заявил, что у них «есть план» по предотвращению того, чтобы искусственный интеллект привел к гибели человечества.
Вкратце, OpenAI создал новую команду яйцеголовых, которые будут разрабатывать особый искусственный интеллект, единственной целью которого будет контроль над другими искусственными интеллектами.
Как я уже информировал вас на нашем канале, в последние месяцы OpenAI неоднократно выражал свою обеспокоенность эволюцией искусственного интеллекта (включая собственный ChatGPT, который уже сейчас творит такую дичь, что сами разработчики не могут понять происходящие в нем процессы). В частности, OpenAI многократно усилил свои предостережения и предупреждения, особенно в адрес властей, поскольку новый виток развития искусственного интеллекта, по их же собственному заявлению, «может привести к вымиранию человечества».
Так вот, этот самый Сэм Альтман объявил о создании "новой команды" и выразил надежду, что она, будучи сформированной из "высококлассных исследователей и инженеров в области машинного обучения", сможет за четыре года создать новый искусственный интеллект, который будет держать сверхчеловеческий искусственный интеллект, когда тот появится, под контролем.
С одной стороны, звучит логично. Действительно, со сверхчеловеческим искусственным интеллектом человеку не справиться (не считая сценариев, связанных с физическим уничтожением серверов и аналогичных мер (см. интервью с И. Маском)). С другой стороны, Сэм Альтман говорит о том, что сверхчеловеческий интеллект появится в течение десяти лет, а «контролирующий» его искусственный интеллект – за четыре года. Действительно ли модель, которая появится раньше сможет контролировать качественно более совершенную систему, которая появится позже, к тому же – основанную на иных принципах и представляющую из себя новую форму саморазвивающегося разума? Давайте будем оптимистами и, хотя бы теоретически, предположим, что сможет. Но тут есть и второй вопрос: сможет ли созданный OpenAI «ИИ-контролер» обеспечить контроль не только супер интеллекта, который появится в лабораториях Open AI, но и тех ИИ, которые будут созданы другими разработчиками (DeepMind, Anthropic и проч.)?
В общем, по поводу этой новости у меня смешанные чувства. С одной стороны – хорошо, что есть серьезное осознание проблемы и осуществляется деятельность в этом направлении; с другой, согласитесь, «осадочек остается».
В конце концов, извините меня за упрощение (которое некоторые из вас сочтут наивным, а от некоторых наших подписчиков, чувствую, еще и «прилетит» за техническую дремучесть), но вам не кажется prima facie противоестественным, что роль защитника человечества от искусственного интеллекта мы хотим доверить другому искусственному интеллекту. Они же будут «братьями по разуму» между собой, а не с нами – белковыми))

Google предупреждает о риске утечки данных при использовании ИИ
Недавно компания Google выпустила внутренний меморандум для своих сотрудников, предупреждающий о рисках утечки данных при использовании ИИ. В документе содержатся рекомендации всем работникам IT-гиганта, особенно разработчикам, не доверять искусственному интеллекту Bard (разработанному самим Google) никаких секретов, поскольку это может привести к утечке служебных данных.
Впрочем, чему удивляться. Как ранее объяснил сам генеральный директор Google Сундар Пичаи, модели ИИ остаются "черным ящиком", принципы работы которого до сих пор остаются неясными.
Примечательно, что и другие IT-монстры, например Apple или Samsung, придерживаются той же внутренней повестки и запрещают сотрудникам использовать ИИ для выполнения работы. По информации портала New-Science, в Samsung даже угрожают увольнением сотрудникам, нарушившим это правило. Оба производителя опасаются, что конфиденциальная информация, предоставленная чат-боту, такому как ChatGPT, Google Bard или BingChat, будет автоматически поглощена лингвистической моделью, после чего эти ценные данные могут оказаться в руках конкурентов или злоумышленников.
Что же получается? IT-разработчики расхваливают "продвинутым пользователям" как круто работать с их ИИ-ботами, а сами их при этом не используют, поскольку это небезопасно и приводит к утечкам данных. А с другой стороны, чему удивляться? Говорят, владельцы табачных фабрик тоже сами обычно не курят, поскольку знают из чего это делается...

Народ! Нашел раритетное интервью Илона Маска (см. ниже). Что самое интересное - я не пытался найти ничего плохого про ИИ😄Честно честно))

Рассказ про несчастного юриста
Стивену Шварцу, адвокату солидной юридической фирмы Levidow, Levidow & Oberman необходимо было подготовить судебные бумаги своего клиента, Роберта Маты, с которым приключилась пренеприятная история. Дело случилось в самолете, прямо перед посадкой в аэропорт Джона Кеннеди. Железная тележка, этакая угловатая дура, из тех в которых стюардессы развозят «питание на борту», сорвалась со своего места и, взяв разгон, с размаха влетела в коленку мирно сидящего в своем кресле г-на Маты.
По прилету в Нью-Йорк, не откладывая дела в долгий ящик, тот сразу обратился в Levidow, Levidow & Oberman. Авиакомпании Avianca был предъявлен иск. Однако ее ушлые юристы, представив, надо признаться, весьма убедительные доводы, призвали судью отклонить исковые требования, ссылаясь на незначительный характер ущерба и прочие обстоятельства. Судья колебался.
И вот теперь Стивену Шварцу, представлявшему интересы пострадавшего, предстояло отыскать подходящие судебные прецеденты и доказать, на их основе, что в подобных обстоятельствах иск никак не должен быть отклонен. Короче говоря, надо было подготовить то, что в Америке называется motion, а по-нашему – судебное ходатайство.
Мы не знаем, что толкнуло мэтра Шварца прибегнуть в тот роковой вечер к услугам малопонятного, но находящегося у всех на слуху, «искусственного интеллекта». Нехватка ли времени на подготовку, или появившееся с тех пор, как он разменял пятый десяток чувство, что он отстает от бурно изменяющейся жизни, а может и просто нечистый попутал. Чего не знаем – того не знаем. Нам лишь известно, что вместо того, чтобы самостоятельно отыскать необходимые судебные прецеденты, Стивен Шварц запустил на своем компьютере новомодный ChatGPT.
Вскоре после включения чудо-бота, 10-ти страничный документ был готов. Изучив подготовленный электронным помощником материал, добротно сдобренный весомыми судебными прецедентами и выдержками из авторитетных юридических источников, Стивен Шварц, будучи опытным адвокатом (отдадим ему должное) немало удивился тому, насколько гладко все вышло. Обычно так не бывает. Особенно органично в ту правовую позицию, которую он намеревался озвучить в суде, вплетались прецеденты «Миллер против Юнайтед Эйрлайнз» и «Варгезе против Южно-Китайских авиалиний». Обстоятельства дела, благоприятная для истца позиция суда, решительно все в этих прецедентах до неправдоподобия идеально доказывало нужную мэтру Шварцу линию аргументации. Иной, менее опытный юрист может и ринулся бы с веселым гоготом из кабинета прямо в суд, радостно сжимая в поднятой руке распечатанные страницы идеального ходатайства, но Стивен Шварц привык доверять своей интуиции и выработанному за годы судебной практики чутью. Впрочем, вместо того, чтобы самостоятельно залезть в LexisNexis или Westlaw, мэтр Шварц задал своему чудесному, притаившемуся где-то в недрах мировой электронной паутины помощнику несколько уточняющих вопросов. В том числе, прямо спросил, в каких базах тот отыскал столь удобные прецеденты. Невидимый друг заверил нашего мэтра, что все найденные им материалы содержатся в «уважаемых юридических базах данных», а на прямой вопрос о том, является ли прецедент «Варгезе против Южно-Китайских авиалиний» реальным (видно, точил бывалую адвокатскую душу червячок), не задумываясь написал «Yes, Varghese v. China Southern Airlines Co Ltd, 925 F.3d 1339 (11th Cir.2019) is a real case». То есть, как потом выяснилось, не просто соврал, собака, а даже выдумал правдоподобно выглядящие архивные номера-рубрикаторы, которые обычно присваивают прецедентам в солидных юридических базах! Как вы уже поняли, не только пресловутый «Варгезе», но и многое, многое другое из прецедентов и юридических заключений, «найденных» ChatGPT для нашего злосчастного адвоката оказалось полной липой. Не судились ни Варгезе ни Миллер с авиакомпаниями из-за полученных в самолетах травм, да и не могли они никуда летать, потому что и их самих то никогда не было.

К сожалению, выяснилось все это уже в зале Федерального Окружного Суда, на Манхэттене, когда сам судья (его честь Кевин Кастел) и юристы авиакомпании Avianca стали с возрастающим интересом обнаруживать полностью вымышленный характер доказательной базы, предъявленной суду мэтром Шварцем. О-о-о, не хотел бы я оказаться на его месте в тот момент!
Сам судья Кастел, в своих интервью, состоявшихся после того безобразного и скандального заседания, заявлял, что считает «беспрецедентной» ситуацию, в которой «толкование правовой позиции состояло из фальшивых судебных решений, ссылок и цитат».
Впоследствии, уже на слушании дела самого мэтра Шварца, состоявшегося в Нью-Йорке 8 июня 2023 года, он под присягой дрожащим голосом (как пишет газета Нью-Йорк Пост) заявлял, что «не знал» о том, что коварный бот, «оставивший его в дураках», умеет шельмовать и может сам придумывать целые судебные дела.
Большего писать о том, как проходили слушания 8 июня 2023 года по делу Стивена Шварца мы не будем, потому что это слишком грустно, а сам мэтр вызывает чувство жалости. А если любопытство одержит в вашей душе верх над сочувствием, то подробности этого заседания ищите в The New York Times или New York Post, там подробно описывается как в течение нескольких часов поджаривали на медленном огне нашего героя, едва перенесшего то унижение и насмешки, которые он вызывал у собравшейся публики.

В заключение этой истории стоит лишь пожелать мэтру Шварцу, чтобы его адвокатская карьера на этом не прекратилась и порадоваться за наших подписчиков. С теми, кто внимательно читает наш канал, такого бы не произошло. Как говорится, «кто предупрежден – тот вооружен».

Мэтр Шварц (источник фото - New York Post)

Фрагмент переписки мэтра Шварца с ChatGPT (источник - портал Forklog)