Проблема 2. Утечка личных данных и иной конфиденциальной информации. Данная проблема имеет несколько аспектов. Во-первых, с использованием Систем ИИ Категории I злоумышленникам гораздо легче найти и похитить ваши личные данные или деловую информацию (клиентскую базу, коммерческую тайну и проч.). Тут все ясно, поэтому не будем останавливаться на этом подробно. Гораздо интереснее, что, во-вторых, использование того же ChatGPT может привести к утечке данных самого пользователя! Приведу только один пример. В конце марта 2023 года компания OpenAI сообщила об утечке персональных данных пользователей ChatGPT, включая тех, кто оформил платную подписку. В результате, пользователи могли видеть чужие сообщения, фамилии, адреса электронной почты и платежные данные других пользователей.
В настоящее время, многие компании начинают использовать ChatGPT для своего бизнеса. Это, как представляется, напрямую чревато утечкой не только данных самой компании, но и данных ее клиентов (инвесторов, дольщиков, пациентов и проч.). На мой взгляд, до появления надежных протоколов безопасности в этом отношении (а сейчас их нет) использование «прикладных систем» ИИ в ряде бизнесов (например, связанных с финансами) является неосмотрительным решением.

3.Манипуляции общественным сознанием. Данная проблема является настолько глубокой и многогранной, что описать ее в одном посте не представляется возможным. В последующих публикациях я буду многократно к ней возвращаться, приводить фактическую информацию о допущенных злоупотреблениях в этой области, а также делиться соответствующими ссылками на статьи и научные материалы. Тем не менее, тезисно, проблема связана со следующими факторами:
- ChatGPT уже сейчас пишет и аргументирует лучше (более кратко, четко и убедительно), чем средний образованный человек;
- манипуляции общественным мнением играют все возрастающую роль практически во всех мировых процессах;
- политические группы, не связанные, как правило, строгими этическими нормами, уже взяли на вооружение такого удобного «помощника» как ChatGPT;
- сам ChatGPT, как уже неоднократно указывалось выше, является системой, легко подменяющей реальную информацию вымышленной и всегда имеющей целью достижение результата, даже путем прямого подлога.
Все указанные факторы создают практически идеальную среду для злоупотреблений, связанных с умышленным формированием ложного представления о предмете среди неограниченного круга лиц.
Просто пример. 1 июня 2023 года по сети разлетелось сообщение об отставке Председателя Комиссии по ценным бумагам и биржам США (SEC) Гэри Генслера. Указывались даже пикантные подробности о начале против него «внутреннего расследования». Данная информация, как указывалось в «скандальной» статье, была получена от сотрудника SEC, который предпочел остаться неназванным, но на условиях анонимности заявил следующее: «Гэри Генслер ушел с поста Председателя SEC в результате внутреннего расследования по поводу предполагаемого правонарушения. Детали расследования конфиденциальны, но решение об уходе с поста подтверждает серьезность обвинений». Как вы понимаете, новость быстро разошлась по многочисленным аккаунтам (например, только один ее репост в Twitter пользователя WhaleChart набрал более 1,6 миллиона просмотров). В итоге, оказалось, что вся эта история – полная «липа», сгенерированная ChatGPT. Кто и для каких целей «попросил» ChatGPT это сделать – осталось загадкой. Для предотвращения подобных инцидентов (являющихся не только манипулированием сознанием десятков миллионов человек, но и манипулированием рынком) сенатор США Беннет направил 29 июня обращение главам OpenAI, Meta, Microsoft, Twitter и Google в котором отметил, что фейковые новости и изображения грозят «разрушительными последствиями для экономики и доверия, особенно когда они политически ориентированы». Он также призвал к необходимости немедленного введения маркировки продуктов деятельности ИИ, путем «четких, легко понятных идентификаторов», указывающих на то, что контент сгенерирован ИИ.

Теперь кратко рассмотрим риски, связанные с Системами ИИ Категории II (см. классификацию трех видов ИИ выше). Поскольку мы не имеем достаточной информации об уровне развития «закрытых» версий сложных ИИ, относящихся к данной категории, давайте, в качестве рабочей гипотезы примем то, что риски Систем ИИ Категории II в целом аналогичны по сути рискам Систем ИИ Категории I, но являются более значительными по своему объему. Например, если известные нам Системы ИИ Категории I могут привести к увольнению 300 миллионов человек, то более «продвинутые модели», относящиеся к Системам ИИ Категории II приведут к увольнениям еще большего числа людей.

Завершая тему рисков различных категорий ИИ скажем лишь, что риски Систем ИИ Категории III лучше всего описаны представителями интеллектуальной элиты человечества, главами и техническими директорами компаний-разработчиков и получившими мировое признание футурологами. Они описаны в самом первом посте - Манифесте канала, предлагаю вам еще раз его прочитать, чтобы осознать всю серьезность ситуации, в которой мы оказались.

В заключение сегодняшней серии постов хочу лишь сказать, что несмотря на наличие существующих уже сейчас негативных факторов стремительного проникновения ИИ в нашу жизнь, главной проблемой является риск перерастания, скачка Систем Категории II (сверх-сложных, но еще не «разумных» и не обладающих «самостью» машин) в Категорию III, в «цифрового бога», «сверх-человеческий» интеллект, AGI. Приведенное выше письмо от 22 марта 2023, подписанное более 1000 лучших умов современного человечества как раз и является попыткой не допустить этого скачка до момента появления механизмов контроля за AGI и разработки надежной системы мер, препятствующих его неконтролируемому развитию и направленных на лишение его возможности причинить вред (возможно необратимый) человеческой цивилизации.

0:00 - 1:30 - Кайл Рииз рассказывает Саре Коннор как поступил с человечеством AGI (Система ИИ Категории III по нашей классификации). 🙂https://www.youtube.com/watch?v=a3P_FR6Ea4A

Выше прикрепил ссылку на вторую часть очень сильно сокращенного интервью с И. Маском. Первые 5 минут касаются рассматриваемой нами тематики. На самом деле, есть полная версия этого интервью, ее можно найти на канале Маска в YouTube.

Шаг в правильном направлении?
06.07.2023 глава компании OpenAI (создатель ChatGPT) Сэм Альтман заявил, что у них «есть план» по предотвращению того, чтобы искусственный интеллект привел к гибели человечества.
Вкратце, OpenAI создал новую команду яйцеголовых, которые будут разрабатывать особый искусственный интеллект, единственной целью которого будет контроль над другими искусственными интеллектами.
Как я уже информировал вас на нашем канале, в последние месяцы OpenAI неоднократно выражал свою обеспокоенность эволюцией искусственного интеллекта (включая собственный ChatGPT, который уже сейчас творит такую дичь, что сами разработчики не могут понять происходящие в нем процессы). В частности, OpenAI многократно усилил свои предостережения и предупреждения, особенно в адрес властей, поскольку новый виток развития искусственного интеллекта, по их же собственному заявлению, «может привести к вымиранию человечества».
Так вот, этот самый Сэм Альтман объявил о создании "новой команды" и выразил надежду, что она, будучи сформированной из "высококлассных исследователей и инженеров в области машинного обучения", сможет за четыре года создать новый искусственный интеллект, который будет держать сверхчеловеческий искусственный интеллект, когда тот появится, под контролем.
С одной стороны, звучит логично. Действительно, со сверхчеловеческим искусственным интеллектом человеку не справиться (не считая сценариев, связанных с физическим уничтожением серверов и аналогичных мер (см. интервью с И. Маском)). С другой стороны, Сэм Альтман говорит о том, что сверхчеловеческий интеллект появится в течение десяти лет, а «контролирующий» его искусственный интеллект – за четыре года. Действительно ли модель, которая появится раньше сможет контролировать качественно более совершенную систему, которая появится позже, к тому же – основанную на иных принципах и представляющую из себя новую форму саморазвивающегося разума? Давайте будем оптимистами и, хотя бы теоретически, предположим, что сможет. Но тут есть и второй вопрос: сможет ли созданный OpenAI «ИИ-контролер» обеспечить контроль не только супер интеллекта, который появится в лабораториях Open AI, но и тех ИИ, которые будут созданы другими разработчиками (DeepMind, Anthropic и проч.)?
В общем, по поводу этой новости у меня смешанные чувства. С одной стороны – хорошо, что есть серьезное осознание проблемы и осуществляется деятельность в этом направлении; с другой, согласитесь, «осадочек остается».
В конце концов, извините меня за упрощение (которое некоторые из вас сочтут наивным, а от некоторых наших подписчиков, чувствую, еще и «прилетит» за техническую дремучесть), но вам не кажется prima facie противоестественным, что роль защитника человечества от искусственного интеллекта мы хотим доверить другому искусственному интеллекту. Они же будут «братьями по разуму» между собой, а не с нами – белковыми))

Google предупреждает о риске утечки данных при использовании ИИ
Недавно компания Google выпустила внутренний меморандум для своих сотрудников, предупреждающий о рисках утечки данных при использовании ИИ. В документе содержатся рекомендации всем работникам IT-гиганта, особенно разработчикам, не доверять искусственному интеллекту Bard (разработанному самим Google) никаких секретов, поскольку это может привести к утечке служебных данных.
Впрочем, чему удивляться. Как ранее объяснил сам генеральный директор Google Сундар Пичаи, модели ИИ остаются "черным ящиком", принципы работы которого до сих пор остаются неясными.
Примечательно, что и другие IT-монстры, например Apple или Samsung, придерживаются той же внутренней повестки и запрещают сотрудникам использовать ИИ для выполнения работы. По информации портала New-Science, в Samsung даже угрожают увольнением сотрудникам, нарушившим это правило. Оба производителя опасаются, что конфиденциальная информация, предоставленная чат-боту, такому как ChatGPT, Google Bard или BingChat, будет автоматически поглощена лингвистической моделью, после чего эти ценные данные могут оказаться в руках конкурентов или злоумышленников.
Что же получается? IT-разработчики расхваливают "продвинутым пользователям" как круто работать с их ИИ-ботами, а сами их при этом не используют, поскольку это небезопасно и приводит к утечкам данных. А с другой стороны, чему удивляться? Говорят, владельцы табачных фабрик тоже сами обычно не курят, поскольку знают из чего это делается...

Народ! Нашел раритетное интервью Илона Маска (см. ниже). Что самое интересное - я не пытался найти ничего плохого про ИИ😄Честно честно))

Рассказ про несчастного юриста
Стивену Шварцу, адвокату солидной юридической фирмы Levidow, Levidow & Oberman необходимо было подготовить судебные бумаги своего клиента, Роберта Маты, с которым приключилась пренеприятная история. Дело случилось в самолете, прямо перед посадкой в аэропорт Джона Кеннеди. Железная тележка, этакая угловатая дура, из тех в которых стюардессы развозят «питание на борту», сорвалась со своего места и, взяв разгон, с размаха влетела в коленку мирно сидящего в своем кресле г-на Маты.
По прилету в Нью-Йорк, не откладывая дела в долгий ящик, тот сразу обратился в Levidow, Levidow & Oberman. Авиакомпании Avianca был предъявлен иск. Однако ее ушлые юристы, представив, надо признаться, весьма убедительные доводы, призвали судью отклонить исковые требования, ссылаясь на незначительный характер ущерба и прочие обстоятельства. Судья колебался.
И вот теперь Стивену Шварцу, представлявшему интересы пострадавшего, предстояло отыскать подходящие судебные прецеденты и доказать, на их основе, что в подобных обстоятельствах иск никак не должен быть отклонен. Короче говоря, надо было подготовить то, что в Америке называется motion, а по-нашему – судебное ходатайство.
Мы не знаем, что толкнуло мэтра Шварца прибегнуть в тот роковой вечер к услугам малопонятного, но находящегося у всех на слуху, «искусственного интеллекта». Нехватка ли времени на подготовку, или появившееся с тех пор, как он разменял пятый десяток чувство, что он отстает от бурно изменяющейся жизни, а может и просто нечистый попутал. Чего не знаем – того не знаем. Нам лишь известно, что вместо того, чтобы самостоятельно отыскать необходимые судебные прецеденты, Стивен Шварц запустил на своем компьютере новомодный ChatGPT.
Вскоре после включения чудо-бота, 10-ти страничный документ был готов. Изучив подготовленный электронным помощником материал, добротно сдобренный весомыми судебными прецедентами и выдержками из авторитетных юридических источников, Стивен Шварц, будучи опытным адвокатом (отдадим ему должное) немало удивился тому, насколько гладко все вышло. Обычно так не бывает. Особенно органично в ту правовую позицию, которую он намеревался озвучить в суде, вплетались прецеденты «Миллер против Юнайтед Эйрлайнз» и «Варгезе против Южно-Китайских авиалиний». Обстоятельства дела, благоприятная для истца позиция суда, решительно все в этих прецедентах до неправдоподобия идеально доказывало нужную мэтру Шварцу линию аргументации. Иной, менее опытный юрист может и ринулся бы с веселым гоготом из кабинета прямо в суд, радостно сжимая в поднятой руке распечатанные страницы идеального ходатайства, но Стивен Шварц привык доверять своей интуиции и выработанному за годы судебной практики чутью. Впрочем, вместо того, чтобы самостоятельно залезть в LexisNexis или Westlaw, мэтр Шварц задал своему чудесному, притаившемуся где-то в недрах мировой электронной паутины помощнику несколько уточняющих вопросов. В том числе, прямо спросил, в каких базах тот отыскал столь удобные прецеденты. Невидимый друг заверил нашего мэтра, что все найденные им материалы содержатся в «уважаемых юридических базах данных», а на прямой вопрос о том, является ли прецедент «Варгезе против Южно-Китайских авиалиний» реальным (видно, точил бывалую адвокатскую душу червячок), не задумываясь написал «Yes, Varghese v. China Southern Airlines Co Ltd, 925 F.3d 1339 (11th Cir.2019) is a real case». То есть, как потом выяснилось, не просто соврал, собака, а даже выдумал правдоподобно выглядящие архивные номера-рубрикаторы, которые обычно присваивают прецедентам в солидных юридических базах! Как вы уже поняли, не только пресловутый «Варгезе», но и многое, многое другое из прецедентов и юридических заключений, «найденных» ChatGPT для нашего злосчастного адвоката оказалось полной липой. Не судились ни Варгезе ни Миллер с авиакомпаниями из-за полученных в самолетах травм, да и не могли они никуда летать, потому что и их самих то никогда не было.

К сожалению, выяснилось все это уже в зале Федерального Окружного Суда, на Манхэттене, когда сам судья (его честь Кевин Кастел) и юристы авиакомпании Avianca стали с возрастающим интересом обнаруживать полностью вымышленный характер доказательной базы, предъявленной суду мэтром Шварцем. О-о-о, не хотел бы я оказаться на его месте в тот момент!
Сам судья Кастел, в своих интервью, состоявшихся после того безобразного и скандального заседания, заявлял, что считает «беспрецедентной» ситуацию, в которой «толкование правовой позиции состояло из фальшивых судебных решений, ссылок и цитат».
Впоследствии, уже на слушании дела самого мэтра Шварца, состоявшегося в Нью-Йорке 8 июня 2023 года, он под присягой дрожащим голосом (как пишет газета Нью-Йорк Пост) заявлял, что «не знал» о том, что коварный бот, «оставивший его в дураках», умеет шельмовать и может сам придумывать целые судебные дела.
Большего писать о том, как проходили слушания 8 июня 2023 года по делу Стивена Шварца мы не будем, потому что это слишком грустно, а сам мэтр вызывает чувство жалости. А если любопытство одержит в вашей душе верх над сочувствием, то подробности этого заседания ищите в The New York Times или New York Post, там подробно описывается как в течение нескольких часов поджаривали на медленном огне нашего героя, едва перенесшего то унижение и насмешки, которые он вызывал у собравшейся публики.

В заключение этой истории стоит лишь пожелать мэтру Шварцу, чтобы его адвокатская карьера на этом не прекратилась и порадоваться за наших подписчиков. С теми, кто внимательно читает наш канал, такого бы не произошло. Как говорится, «кто предупрежден – тот вооружен».

Мэтр Шварц (источник фото - New York Post)

Фрагмент переписки мэтра Шварца с ChatGPT (источник - портал Forklog)

Уголок подписчика.
Рубрика Вопрос – ответ.
Вопрос подписчика: «Почитал последние посты…ты занял точку зрения, предвзят и манипулируешь…Зачем? В чем интерес?...»
Ответ канала: «…о целях написал в самом первом посте на канале. Считаю необходимым предостеречь легковерных и поддержать движение тех, кто добивается приостановки дальнейших работ по ИИ до момента появления необходимых протоколов безопасности. Опасность считаю абсолютно очевидной, выражаю свое мнение».

Для тех, кто не знал
Из разговоров со знакомыми я понял, что мало кто представляет себе основные алгоритмы работы с ChatGPT и похожими ботами. Так вот знайте, что использование этих систем всегда связано с необходимостью передать ваши данные в «черный ящик», в базу данных «машины». И это не только приводит к утечкам вашей личной информации, но и к тому, что она навсегда остается в «машине». Кому и при каких обстоятельствах она потом это сольет – не знают даже сами разработчики. Они сами это открыто признают (см. выше на канале нашу статью «Google предупреждает о риске утечки данных при использовании ИИ» - https://t.me/StopAI_now/32).
Приведу также мнение директора компании SmartEngines Владимира Арлазарова о принципе работы ChatGPT: «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные – персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI».

А как в России?
Забавно, что по данным ВЦИОМ, из общего числа россиян, доверяющих ИИ (55%), большинство мотивирует это не тем, что он «упрощает жизнь и работу» (32%) и не тем, что он «ошибается меньше людей» (23%), а тем, что он «объективен и не имеет личных интересов» (34%). Как говорится, у кого что болит...😄

Машинное сознание. Пост 1 из 4.
Сегодняшние посты хочу полностью посвятить рассмотрению вопроса о природе процесса, лежащего в основе работы нынешних «прикладных» систем искусственного интеллекта (Системы ИИ Категории I по нашей внутренней классификации, см. ссылку на типы ИИ https://t.me/StopAI_now/18).
Не обладая достаточным уровнем технических познаний в области «машинного обучения», я не могу взять на себя смелость анализировать математическую сторону указанного процесса. Моим намерением является представить на ваш суд информацию для размышления с тем, чтобы вы могли сами сделать свои выводы.