Forwarded from РАПК
«Нейросеть с духовно-нравственными ценностями»: как в России предлагают поддерживать национальные и суверенные ИИ-модели
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
— Буквально на днях появилась новость о том, что российское правительство закончило работу над законопроектом об искусственном интеллекте. Вернее, в значительной степени его доработало: даже название сменилось с «регулирования ИИ» на «поддержку развития технологий ИИ». Если говорить совсем простым языком, то государство хочет навести порядок с ИИ и установить понятные правила игры. Например, вводятся базовые понятия, которых раньше не было, типа «искусственный интеллект», «большие языковые модели», «суверенные модели».
Конечно, сейчас нейросетями и так пользуются вообще все (компании, госструктуры, обычные пользователи), но ведь это же нужно как-то закрепить в правовом поле. Вот и пошёл процесс закрепления. Справедливости ради стоит отметить, что документ действительно доработали и убрали несколько спорных вещей, которые у многих вызывали вопросы. Например, исчез запрет на трансграничный ИИ, из-за чего рынок опасался возможного ограничения иностранных моделей.
Также исчезло требование обучать модели только на российских данных. Да и фокус в целом сместили: если раньше собирались регулировать «вообще всё», то теперь сконцентрировались на БФМ – больших фундаментальных моделях (от 1 млрд параметров). Для сравнения (если верить интернету), в YandexGPT 5 Lite их больше 8 млрд.
Разумеется, в соответствии с духом текущего времени большая ставка в документе сделана на национальное и на суверенное. Прописаны требования к процессу разработки исконно отечественных ИИ-моделей, среди которых только российское юрлицо, хранение данных исключительно на территории РФ и прочее. Разработчики, в свою очередь, смогут рассчитывать на господдержку. А в отдельных случаях (в особо чувствительных сферах) государство вправе потребовать применение только таких моделей – что по логике не должно относиться к частному сектору (насильно заставлять вас, например, переходить от ChatGPT к YandexGPT не будут… пока что).
В итоге видим этакую «нейросетевую оттепель». Законопроект в новом виде стал действительно мягче, но по-прежнему остается тысяча вопросов к реализации всех этих предложений. Как будут проверять соответствие моделей выдвинутым требованиям? Например, чтобы модель получила статус национальной и суверенной – она должна соответствовать законодательству и духовно-нравственным ценностям. И вот если с законодательством всё понятно, то как будут тестировать на ценности – открытый вопрос.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
— Буквально на днях появилась новость о том, что российское правительство закончило работу над законопроектом об искусственном интеллекте. Вернее, в значительной степени его доработало: даже название сменилось с «регулирования ИИ» на «поддержку развития технологий ИИ». Если говорить совсем простым языком, то государство хочет навести порядок с ИИ и установить понятные правила игры. Например, вводятся базовые понятия, которых раньше не было, типа «искусственный интеллект», «большие языковые модели», «суверенные модели».
Конечно, сейчас нейросетями и так пользуются вообще все (компании, госструктуры, обычные пользователи), но ведь это же нужно как-то закрепить в правовом поле. Вот и пошёл процесс закрепления. Справедливости ради стоит отметить, что документ действительно доработали и убрали несколько спорных вещей, которые у многих вызывали вопросы. Например, исчез запрет на трансграничный ИИ, из-за чего рынок опасался возможного ограничения иностранных моделей.
Также исчезло требование обучать модели только на российских данных. Да и фокус в целом сместили: если раньше собирались регулировать «вообще всё», то теперь сконцентрировались на БФМ – больших фундаментальных моделях (от 1 млрд параметров). Для сравнения (если верить интернету), в YandexGPT 5 Lite их больше 8 млрд.
Разумеется, в соответствии с духом текущего времени большая ставка в документе сделана на национальное и на суверенное. Прописаны требования к процессу разработки исконно отечественных ИИ-моделей, среди которых только российское юрлицо, хранение данных исключительно на территории РФ и прочее. Разработчики, в свою очередь, смогут рассчитывать на господдержку. А в отдельных случаях (в особо чувствительных сферах) государство вправе потребовать применение только таких моделей – что по логике не должно относиться к частному сектору (насильно заставлять вас, например, переходить от ChatGPT к YandexGPT не будут… пока что).
В итоге видим этакую «нейросетевую оттепель». Законопроект в новом виде стал действительно мягче, но по-прежнему остается тысяча вопросов к реализации всех этих предложений. Как будут проверять соответствие моделей выдвинутым требованиям? Например, чтобы модель получила статус национальной и суверенной – она должна соответствовать законодательству и духовно-нравственным ценностям. И вот если с законодательством всё понятно, то как будут тестировать на ценности – открытый вопрос.
❤2👍2 1 1
Думаю, для многих это станет не самой приятной новостью, учитывая популярность клиента в нашей стране. После блокировки Telegram часть пользователей перешли именно в «Teleg-у», несмотря на противоречивые отзывы касаемо безопасности и приватности. Разработчики неофициального клиента прекращение работы объяснили внешними ограничениями, в том числе удалением приложения из App Store.
Тут отдельно замечу, что про Telega я писал в колонку для РАПК. Это было как раз на фоне волны скачиваний клиента, и тогда я призывал людей немного подождать. Когда на рынке появляется что-то новое и этому начинают посвящать оды в стиле «так удобно», «так замечательно», «как же раньше мы жили без него» – такое развитие событий заставляет насторожиться. И позже действительно стало известно о «подводных камнях».
Из-за этого «Teleg-у» и стали называть потенциально опасным ПО. Исследователи писали о возможности перехвата пользовательского трафика, получения технических ключей сессии и обработки передаваемых данных на стороне оператора. Если говорить простым языком, то проблема была в том, что приложение могло быть не просто «переходником» к Telegram, а участником соединения с доступом к особо чувствительным данным.
Лично про себя скажу, что сторонние клиенты себе никогда не устанавливал (ни для Telegram, ни для ВКонтакте, Одноклассников и прочее). Даже если вам обещают расширенный функционал, удобство и много-много привилегий – такие решения всё равно останутся неофициальными. Следовательно, всегда будет риск утечки данных. Помните об этом.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
РАПК
Мессенджер «Telega», о котором все заговорили – это Telegram? Разбираемся, в чём разница.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
— На фоне сообщений о замедлении Telegram в России многие пользователи сразу же ринулись искать…
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
— На фоне сообщений о замедлении Telegram в России многие пользователи сразу же ринулись искать…
❤2👍2 2
Существует распространённое заблуждение, будто шаблоны убивают креативность. Мол, если работаешь по заготовкам, значит весь твой труд превращается в полуфабрикат. На практике же всё ровно наоборот: хорошие шаблоны не заменяют мышление, а освобождают для него место и экономят просто тонну времени. Не нужно каждый раз с нуля придумывать структуру письма, ТЗ, таблицы или отчёта. А если мы снимаем с себя рутину, то у нас больше сил для того, чтобы сконцентрироваться на смысле и качестве.
При этом шаблон не должен быть бетонной плитой, которую нельзя сдвинуть ни на сантиметр. Хорошая заготовка – это каркас. Её можно адаптировать под задачу, менять формулировки, добавлять детали, усиливать акценты. Но базовая структура уже есть, и именно она держит качество.
В работе побеждает не тот, кто каждый раз героически изобретает новый велосипед, а тот, кто один раз собрал нормальный гараж с инструментами и теперь может заранее готовить велосипед к новому выезду.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍3 2
Думаю, вы заметили свежий тренд, когда в компаниях массово пытаются внедрять новые технологии. С одной стороны, это очень круто, да и мы с командой стараемся оставаться амбассадорами прогресса, разрабатывая и предлагая множество универсальных решений. С другой, важно ведь не только внедрять технологии, но и понимать, для чего это делать. Т.е. заниматься модернизацией с целью повышения эффективности или же просто потому, что это стало модным? Давайте разберём на практике.
Одно дело, когда инструмент нужен для экономии времени, снижения объёмов ручной работы или оперативной обработки данных. Другое же – когда технология используется как внешняя оболочка. В описании проекта звучит всё максимально красиво, но на дистанции принятые решения не дают никакого результата. Поэтому, и я здесь убеждён, главный критерий должен быть простым: помогает ли инновация работать быстрее, точнее и понятнее.
Лично мы со своей стороны всегда честно говорим человеку, который приходит к нам в Gosapp Digital за технологией, нужна ли ему она на самом деле. Довольно часто бывает, что удаётся подобрать более выгодные альтернативные варианты, которые оказываются гораздо эффективнее. Потому что технологичность – это не про следование тренду, а про управляемость и результат.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍10 7❤6 2 1
В России будут штрафовать за интернет-авторизацию через иностранные сервисы. Например, если вы заходите на российский сайт и регистрируетесь там, указывая почту на Gmail – так больше нельзя. Давайте разберёмся.
Вилка штрафов от 10 до 700 тысяч рублей – но обычных пользователей наказывать не будут. Ответственность лежит именно на владельцах площадок, которые оставили запрещённые способы авторизации. И, что важно, если вы ранее уже были зарегистрированы на сайте по иностранной почте, то в срочном порядке менять её не придётся. Но всё же допускаю, что отдельные ресурсы могут попросить изменить информацию в аккаунте.
Но есть и другие новости – Минцифры отказалось от идеи взимать плату за иностранный интернет-трафик. В последнее время было много разговоров о том, что использование методов обхода блокировок станет платным. Сегодня эту информацию официально опровергли.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5 4 3
Forwarded from РАПК
Госдума приняла законопроект о регулировании искусственного интеллекта
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Пожалуй, один из главных блоков в документе – разделение больших языковых моделей на «суверенные» и «национальные». В чём отличие? Суверенная модель должна целиком контролироваться российским юрлицом и размещаться в наших отечественных ЦОДах (центрах обработки данных). К национальной же модели требования мягче: допускается использование иностранных компонентов.
О чём нам говорит такой подход? Вполне логично, что построить с нуля большую и независимую ИИ-модель крайне сложно, дорого и долго. Государство это понимает и делает закономерный шаг в сторону разделения. С одной стороны, будет возможность использовать решение с максимальным уровнем доверия (суверенная модель), с другой – со смешанной технологической базой (национальная).
Кого это коснётся в первую очередь? Речь идёт о крупных разработчиках, интеграторах, банках, медиа, образовательных сервисах и других. Что же касается обычных пользователей, думаю, мы увидим появление отдельных пользовательских соглашений, маркировок и фильтров. А вот компаниям придётся следить за тем, какую модель они используют и где обрабатываются персональные данные.
Отдельный интересный блок в законопроекте связан с авторскими правами. Как мы знаем, нейросети должны всё время обучаться – то есть поглощать и обрабатывать большие массивы данных. Так вот, если разработчик получил эти данные правомерно или они были в открытом доступе – это не будет являться нарушением. Речь идёт о текстах, изображениях, аудио, видео и многом другом. Пока не совсем понятно, как это будут отслеживать, ведь даже если условный файл лежит в открытом доступе, это не значит, что автоматически есть согласие на его использование для обучения коммерческого ИИ.
Также, согласно документу, все ИИ-материалы должны будут маркироваться. Вполне конкретный ответ на дипфейки и синтетические ролики. Получается, если в производстве контента используются нейросети, такой контент нужно помечать. Но, как и в случае с авторским правом, посмотрим опыт применения на практике.
Сам законопроект показывает, что технологии искусственного интеллекта в России постепенно выводят из зоны экспериментов в зону регулирования. Государство намерено не просто наблюдать за рынком ИИ со стороны, а встроить его в понятную рамку. Но очень важно, чтобы нормы не оказались слишком размытыми, ведь только так рынок сможет получить чёткие правила игры.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Пожалуй, один из главных блоков в документе – разделение больших языковых моделей на «суверенные» и «национальные». В чём отличие? Суверенная модель должна целиком контролироваться российским юрлицом и размещаться в наших отечественных ЦОДах (центрах обработки данных). К национальной же модели требования мягче: допускается использование иностранных компонентов.
О чём нам говорит такой подход? Вполне логично, что построить с нуля большую и независимую ИИ-модель крайне сложно, дорого и долго. Государство это понимает и делает закономерный шаг в сторону разделения. С одной стороны, будет возможность использовать решение с максимальным уровнем доверия (суверенная модель), с другой – со смешанной технологической базой (национальная).
Кого это коснётся в первую очередь? Речь идёт о крупных разработчиках, интеграторах, банках, медиа, образовательных сервисах и других. Что же касается обычных пользователей, думаю, мы увидим появление отдельных пользовательских соглашений, маркировок и фильтров. А вот компаниям придётся следить за тем, какую модель они используют и где обрабатываются персональные данные.
Отдельный интересный блок в законопроекте связан с авторскими правами. Как мы знаем, нейросети должны всё время обучаться – то есть поглощать и обрабатывать большие массивы данных. Так вот, если разработчик получил эти данные правомерно или они были в открытом доступе – это не будет являться нарушением. Речь идёт о текстах, изображениях, аудио, видео и многом другом. Пока не совсем понятно, как это будут отслеживать, ведь даже если условный файл лежит в открытом доступе, это не значит, что автоматически есть согласие на его использование для обучения коммерческого ИИ.
Также, согласно документу, все ИИ-материалы должны будут маркироваться. Вполне конкретный ответ на дипфейки и синтетические ролики. Получается, если в производстве контента используются нейросети, такой контент нужно помечать. Но, как и в случае с авторским правом, посмотрим опыт применения на практике.
Сам законопроект показывает, что технологии искусственного интеллекта в России постепенно выводят из зоны экспериментов в зону регулирования. Государство намерено не просто наблюдать за рынком ИИ со стороны, а встроить его в понятную рамку. Но очень важно, чтобы нормы не оказались слишком размытыми, ведь только так рынок сможет получить чёткие правила игры.
👍4 3 3
Забавно наблюдать за тем, какие стратегии работы с ИИ выбирают разные компании. Тон сегодняшнему посту задают новости из страны восходящего солнца, где Honda (та самая, которая делает машины и мотоциклы) решила доплачивать своим сотрудникам за активное использование искусственного интеллекта. Нужно сказать, что подошли к этому вопросу по-японски, с соблюдением мельчайших формальностей: компания запустила трёхуровневую сертификацию с тестированием и собеседованиями. Сами же работники, достигшие высшего уровня, могут получать ежемесячную премию около 920 долларов.
А вот теперь посмотрим на обратную сторону этого нейросетевого помешательства! Ведь одно дело, когда компания хочет с помощью ИИ поднять свою эффективность, и совершенно другое – когда просто пытается быть на волне хайпа. Например, несколько месяцев назад разгорелся скандал вокруг внутреннего рейтинга Amazon. Там додумались сортировать сотрудников по интенсивности использования нейросетей. Логика была такая: чем больше сотрудник сжигает токенов – тем лучше он работает. Уже понимаете, к чему всё ведёт? Разумеется, нашлись люди, которые начали поручать нейросетям абсолютно выдуманные задачи, лишь бы только подняться выше по рейтингу. В итоге Amazon признала эксперимент неудачным.
Прямо сейчас мы с вами можем хорошо видеть разницу в технологической зрелости рынков. Часть компаний только входит в фазу ИИ-ажиотажа (раздают премии и стараются любой ценой повысить показатели), другие эту стадию уже прошли и начинают считать реальную отдачу. Как результат – ограничение расходов и отказ от бессмысленных метрик, типа частоты использования нейросетей.
*признана экстремистской организацией, её деятельность в России запрещена.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4👍3 3
Forwarded from РАПК
У искусственного интеллекта появляются свои «министерства»
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
И снова сегодня с вами говорим про ИИ! А точнее, о том, как правительства разных стран пытаются придумать эффективные механизмы его регулирования. На прошлой неделе я рассказывал, что Госдума в первом чтении приняла законопроект, по которому языковые модели разделяются на «суверенные» и «национальные». Но вот в Австралии решили пойти ещё дальше и замахнулись на создание целого «министерства искусственного интеллекта». Что это такое?
По сути, это будет управление ИИ в составе местного департамента премьер-министра и кабмина. Уровень подчинения говорит сам за себя, ведь координировать работу с ИИ планируют непосредственно из центра правительства. Главная задача такого управления – сбор всей работы в одном месте. Там и отдельно будут решать вопросы по авторскому праву, и занятости, защиты прав пользователей и многое другое.
Зачем вообще всё это надо? Думаю, многим становится очевидным, что искусственный интеллект невозможно считать темой одного конкретного профильного ведомства. Влияние технологии оказалось весьма широким и распространилось по множеству сфер, включая экономику, рынок труда, информационную безопасность и госуправление. Поэтому, на примере той же Австралии мы видим, как правительства пытаются создать центры, которые будут устанавливать единые правила.
Важно, что смысл таких структур не должен сводиться только к новым запретам. Их главная задача – встроить искусственный интеллект в понятную государственную систему, где есть единые правила и ответственность за результат. Сейчас многие по-прежнему работают с ИИ через отдельные эксперименты, но со временем им придётся переходить к более системному подходу.
Вероятно, в ближайшие годы такие управления появятся и в других странах. И дело здесь в том, что прежняя система регулирования попросту не успевает за технологией. Другой немаловажный момент, получат ли новые структуры реальные полномочия и профессиональные команды или превратятся в очередной координационный орган без возможности на что-либо влиять. Открыть «министерство ИИ» несложно. Гораздо сложнее сделать так, чтобы оно понимало, чем именно собирается управлять.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
И снова сегодня с вами говорим про ИИ! А точнее, о том, как правительства разных стран пытаются придумать эффективные механизмы его регулирования. На прошлой неделе я рассказывал, что Госдума в первом чтении приняла законопроект, по которому языковые модели разделяются на «суверенные» и «национальные». Но вот в Австралии решили пойти ещё дальше и замахнулись на создание целого «министерства искусственного интеллекта». Что это такое?
По сути, это будет управление ИИ в составе местного департамента премьер-министра и кабмина. Уровень подчинения говорит сам за себя, ведь координировать работу с ИИ планируют непосредственно из центра правительства. Главная задача такого управления – сбор всей работы в одном месте. Там и отдельно будут решать вопросы по авторскому праву, и занятости, защиты прав пользователей и многое другое.
Зачем вообще всё это надо? Думаю, многим становится очевидным, что искусственный интеллект невозможно считать темой одного конкретного профильного ведомства. Влияние технологии оказалось весьма широким и распространилось по множеству сфер, включая экономику, рынок труда, информационную безопасность и госуправление. Поэтому, на примере той же Австралии мы видим, как правительства пытаются создать центры, которые будут устанавливать единые правила.
Важно, что смысл таких структур не должен сводиться только к новым запретам. Их главная задача – встроить искусственный интеллект в понятную государственную систему, где есть единые правила и ответственность за результат. Сейчас многие по-прежнему работают с ИИ через отдельные эксперименты, но со временем им придётся переходить к более системному подходу.
Вероятно, в ближайшие годы такие управления появятся и в других странах. И дело здесь в том, что прежняя система регулирования попросту не успевает за технологией. Другой немаловажный момент, получат ли новые структуры реальные полномочия и профессиональные команды или превратятся в очередной координационный орган без возможности на что-либо влиять. Открыть «министерство ИИ» несложно. Гораздо сложнее сделать так, чтобы оно понимало, чем именно собирается управлять.
❤4👍4 3
Делаешь контент, придумываешь интересные форматы, тратишь много времени, сил – но тут вмешиваются бездушные алгоритмы и отправляют результат тяжёлых трудов в архив истории. Просмотров нет, охваты рухнули. Что делать в такой ситуации?
Нередко охваты падают не из-за того, что материал неудачный, а из-за подачи. Можно сделать действительно крутую штуку (не на уровне вирусов – это отдельная тема), но спрятать главный смысл в каком-нибудь предпоследнем абзаце и получить закономерный цифровой вакуум. В таком случае важна системная аналитика, проще говоря – разбор полётов. Нужно смотреть, где именно произошёл провал (показы, глубина, переходы по ссылкам и многое другое).
Но самое главное – не превращайте работу с соцсетями в бесконечную погоню за секретными настройками алгоритма. Делайте качественно, делайте с душой. А если нужна будет помощь с продвижением – команда Gosapp Digital всегда придёт к вам на помощь.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍2 2
Media is too big
VIEW IN TELEGRAM
Предлагаю вам немного отвлечься от рутины и посмотреть на зрелищную драку роботов! Первый такой ММА-поединок в истории провели в Китае, и это уже становится больше похоже на настоящее шоу. Машины со всей «любовью» колотят друг друга, наносят удары (не всегда точные), уклоняются, падают и максимально впечатляюще поднимаются на ноги.
Если несколько лет назад человекоподобные роботы с трудом ходили по ровному полу или пытались ударить по футбольному мячу (а мы ещё смеялись над этими видео) – то теперь виден прогресс технологий, и машины начали бить друг друга по головам. В какой-то момент одна из голов даже отлетает, что не мешает поединку продолжаться! Вот это я понимаю – вот это спорт!
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2 2❤1 1
Forwarded from РАПК
Нейросети оказались плохими политическими советниками
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.
Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…
На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.
Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.
Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.
Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…
На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.
Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.
Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.
❤2 2👍1 1