Forwarded from РАПК
У искусственного интеллекта появляются свои «министерства»
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
И снова сегодня с вами говорим про ИИ! А точнее, о том, как правительства разных стран пытаются придумать эффективные механизмы его регулирования. На прошлой неделе я рассказывал, что Госдума в первом чтении приняла законопроект, по которому языковые модели разделяются на «суверенные» и «национальные». Но вот в Австралии решили пойти ещё дальше и замахнулись на создание целого «министерства искусственного интеллекта». Что это такое?
По сути, это будет управление ИИ в составе местного департамента премьер-министра и кабмина. Уровень подчинения говорит сам за себя, ведь координировать работу с ИИ планируют непосредственно из центра правительства. Главная задача такого управления – сбор всей работы в одном месте. Там и отдельно будут решать вопросы по авторскому праву, и занятости, защиты прав пользователей и многое другое.
Зачем вообще всё это надо? Думаю, многим становится очевидным, что искусственный интеллект невозможно считать темой одного конкретного профильного ведомства. Влияние технологии оказалось весьма широким и распространилось по множеству сфер, включая экономику, рынок труда, информационную безопасность и госуправление. Поэтому, на примере той же Австралии мы видим, как правительства пытаются создать центры, которые будут устанавливать единые правила.
Важно, что смысл таких структур не должен сводиться только к новым запретам. Их главная задача – встроить искусственный интеллект в понятную государственную систему, где есть единые правила и ответственность за результат. Сейчас многие по-прежнему работают с ИИ через отдельные эксперименты, но со временем им придётся переходить к более системному подходу.
Вероятно, в ближайшие годы такие управления появятся и в других странах. И дело здесь в том, что прежняя система регулирования попросту не успевает за технологией. Другой немаловажный момент, получат ли новые структуры реальные полномочия и профессиональные команды или превратятся в очередной координационный орган без возможности на что-либо влиять. Открыть «министерство ИИ» несложно. Гораздо сложнее сделать так, чтобы оно понимало, чем именно собирается управлять.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
И снова сегодня с вами говорим про ИИ! А точнее, о том, как правительства разных стран пытаются придумать эффективные механизмы его регулирования. На прошлой неделе я рассказывал, что Госдума в первом чтении приняла законопроект, по которому языковые модели разделяются на «суверенные» и «национальные». Но вот в Австралии решили пойти ещё дальше и замахнулись на создание целого «министерства искусственного интеллекта». Что это такое?
По сути, это будет управление ИИ в составе местного департамента премьер-министра и кабмина. Уровень подчинения говорит сам за себя, ведь координировать работу с ИИ планируют непосредственно из центра правительства. Главная задача такого управления – сбор всей работы в одном месте. Там и отдельно будут решать вопросы по авторскому праву, и занятости, защиты прав пользователей и многое другое.
Зачем вообще всё это надо? Думаю, многим становится очевидным, что искусственный интеллект невозможно считать темой одного конкретного профильного ведомства. Влияние технологии оказалось весьма широким и распространилось по множеству сфер, включая экономику, рынок труда, информационную безопасность и госуправление. Поэтому, на примере той же Австралии мы видим, как правительства пытаются создать центры, которые будут устанавливать единые правила.
Важно, что смысл таких структур не должен сводиться только к новым запретам. Их главная задача – встроить искусственный интеллект в понятную государственную систему, где есть единые правила и ответственность за результат. Сейчас многие по-прежнему работают с ИИ через отдельные эксперименты, но со временем им придётся переходить к более системному подходу.
Вероятно, в ближайшие годы такие управления появятся и в других странах. И дело здесь в том, что прежняя система регулирования попросту не успевает за технологией. Другой немаловажный момент, получат ли новые структуры реальные полномочия и профессиональные команды или превратятся в очередной координационный орган без возможности на что-либо влиять. Открыть «министерство ИИ» несложно. Гораздо сложнее сделать так, чтобы оно понимало, чем именно собирается управлять.
👍4❤3
Делаешь контент, придумываешь интересные форматы, тратишь много времени, сил – но тут вмешиваются бездушные алгоритмы и отправляют результат тяжёлых трудов в архив истории. Просмотров нет, охваты рухнули. Что делать в такой ситуации?
Нередко охваты падают не из-за того, что материал неудачный, а из-за подачи. Можно сделать действительно крутую штуку (не на уровне вирусов – это отдельная тема), но спрятать главный смысл в каком-нибудь предпоследнем абзаце и получить закономерный цифровой вакуум. В таком случае важна системная аналитика, проще говоря – разбор полётов. Нужно смотреть, где именно произошёл провал (показы, глубина, переходы по ссылкам и многое другое).
Но самое главное – не превращайте работу с соцсетями в бесконечную погоню за секретными настройками алгоритма. Делайте качественно, делайте с душой. А если нужна будет помощь с продвижением – команда Gosapp Digital всегда придёт к вам на помощь.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍2
Media is too big
VIEW IN TELEGRAM
Предлагаю вам немного отвлечься от рутины и посмотреть на зрелищную драку роботов! Первый такой ММА-поединок в истории провели в Китае, и это уже становится больше похоже на настоящее шоу. Машины со всей «любовью» колотят друг друга, наносят удары (не всегда точные), уклоняются, падают и максимально впечатляюще поднимаются на ноги.
Если несколько лет назад человекоподобные роботы с трудом ходили по ровному полу или пытались ударить по футбольному мячу (а мы ещё смеялись над этими видео) – то теперь виден прогресс технологий, и машины начали бить друг друга по головам. В какой-то момент одна из голов даже отлетает, что не мешает поединку продолжаться! Вот это я понимаю – вот это спорт!
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
Forwarded from РАПК
Нейросети оказались плохими политическими советниками
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.
Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…
На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.
Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.
Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.
Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…
На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.
Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.
Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.
❤2
Похоже, у корпоративных служб безопасности появилась новая головная боль: в Москве руководителя отдела по продажам одной из компаний уволили за разглашение коммерческой тайны. Оказалось, сотрудница загружала конфиденциальные документы в китайскую нейросеть DeepSeek.
А вот теперь скажите, вы сами когда-нибудь загружали рабочие документы в нейросети? Например, чтобы они помогли в сортировке, дополнили данными, переделали формат и прочее. Видите ли, с точки зрения информационной безопасности загрузка документа в публичную нейросеть – примерно то же самое, что отправить его неизвестному внешнему подрядчику. Тот же DeepSeek прямо указывает, что собирает введенные запросы и загруженные файлы, может использовать информацию для развития своих технологий, а данные пользователей могут храниться на серверах в Китае.
Забавная история была и с американским Amazon. Юрист компании потребовал не отправлять ChatGPT внутренние материалы, поскольку ответы нейросети начали подозрительно напоминать закрытую информацию Amazon. Google также запретила сотрудникам вводить конфиденциальные данные во внешние чат-боты. Пока что мы не слышали о больших волнах увольнений в зарубежных компаниях за передачу рабочих документов нейросетям, но там сейчас вводят тотальные ограничения и проводят внутренние расследования.
Предполагаю, что одним инструктажем в стиле «не загружайте секретные документы в ChatGPT» тут не отделаешься. Большие компании будут пытаться технически отслеживать, какие данные сотрудники копируют данные и что отправляют ИИ. И такие механизмы уже существуют. В итоге нейросеть может постепенно стать обычной частью корпоративного контура: разрешенные модели, журналирование запросов, автоматическая проверка документов и персональная ответственность за каждый загруженный файл. В интересное время живем…
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5❤3
Forwarded from РАПК
Нейросети идут на выборы: зачем ИИ-компаниям финансировать политические фонды
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Кажется, разработчикам искусственного интеллекта уже наскучило просто работать над новыми ИИ-моделями. Теперь они увлеклись новым занятием и пытаются влиять на тех, кто будет писать для них законы. Правда, пока что речь только о США. За первую половину текущего года OpenAI (ChatGPT) потратила на лоббизм в штатах $2,22 млн, а Anthropic (Claude) – $3,53 млн. Для обеих компаний это рекордные суммы.
В чём там вообще дело? Сейчас в Вашингтоне обсуждают, кто должен проверять новые модели искусственного интеллекта перед их «выходом в свет», можно ли штатам принимать собственные законы об ИИ и какие ограничения вводить на экспорт технологий. И, конечно, для крупных игроков результат этих споров может оказаться крайне важным.
Разберём отдельно на примерах. Есть в штатах фонд Leading the Future – по сути это политический комитет, который собирает деньги технологических инвесторов и тратит их на поддержку кандидатов, выступающих за благоприятные для ИИ-индустрии правила. К концу июня фонд собрал почти $75,8 млн. И его поддержали крупные технологические инвесторы, включая президента и сооснователя OpenAI Грега Брокмана с женой.
У Anthropic схема немного другая. Компания перечислила в общей сложности $40 млн организации Public First Action. Эта организация занимается продвижением более строгих правил для ИИ, объясняя политикам и избирателям, зачем такие ограничения нужны. При этом вокруг неё создана сеть из трёх политических фондов, которые также могут поддерживать подходящих кандидатов. Деньги Anthropic, по заявлению самой компании, помогают финансировать общую кампанию за усиление контроля над отраслью – якобы всё во имя добра, и никаких других интересов они не преследуют.
Получается довольно любопытная картина: представители одной индустрии финансируют противоположные политические лагеря. Leading the Future (в которую вкладывается OpenAI) выступает против множества отдельных ограничений на уровне штатов и продвигает единые федеральные правила. Public First (поддержка со стороны Anthropic), напротив, требует более серьёзных проверок и гарантий безопасности. В то же время эти два, казалось, конкурирующих лагеря иногда поддерживают одного политика. Например, стороны вложились в продвижение конгрессмена Джоша Готтхаймера, который занимается законодательством в сфере ИИ.
Думаю, ни для кого не станет откровением, что дальше присутствие ИИ-компаний в политике будет только усиливаться. Будет расти финансирование фондов, будут разворачиваться новые информационные кампании. С одной стороны, сам же по себе диалог бизнеса с государством вполне нормален. Что здесь такого? Но вот в случае с ИИ-гигантами ставки слишком высоки: правила для одной из важнейших технологий будущего могут написать при активном участии тех, кто больше всех заработает на их мягкости.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Кажется, разработчикам искусственного интеллекта уже наскучило просто работать над новыми ИИ-моделями. Теперь они увлеклись новым занятием и пытаются влиять на тех, кто будет писать для них законы. Правда, пока что речь только о США. За первую половину текущего года OpenAI (ChatGPT) потратила на лоббизм в штатах $2,22 млн, а Anthropic (Claude) – $3,53 млн. Для обеих компаний это рекордные суммы.
В чём там вообще дело? Сейчас в Вашингтоне обсуждают, кто должен проверять новые модели искусственного интеллекта перед их «выходом в свет», можно ли штатам принимать собственные законы об ИИ и какие ограничения вводить на экспорт технологий. И, конечно, для крупных игроков результат этих споров может оказаться крайне важным.
Разберём отдельно на примерах. Есть в штатах фонд Leading the Future – по сути это политический комитет, который собирает деньги технологических инвесторов и тратит их на поддержку кандидатов, выступающих за благоприятные для ИИ-индустрии правила. К концу июня фонд собрал почти $75,8 млн. И его поддержали крупные технологические инвесторы, включая президента и сооснователя OpenAI Грега Брокмана с женой.
У Anthropic схема немного другая. Компания перечислила в общей сложности $40 млн организации Public First Action. Эта организация занимается продвижением более строгих правил для ИИ, объясняя политикам и избирателям, зачем такие ограничения нужны. При этом вокруг неё создана сеть из трёх политических фондов, которые также могут поддерживать подходящих кандидатов. Деньги Anthropic, по заявлению самой компании, помогают финансировать общую кампанию за усиление контроля над отраслью – якобы всё во имя добра, и никаких других интересов они не преследуют.
Получается довольно любопытная картина: представители одной индустрии финансируют противоположные политические лагеря. Leading the Future (в которую вкладывается OpenAI) выступает против множества отдельных ограничений на уровне штатов и продвигает единые федеральные правила. Public First (поддержка со стороны Anthropic), напротив, требует более серьёзных проверок и гарантий безопасности. В то же время эти два, казалось, конкурирующих лагеря иногда поддерживают одного политика. Например, стороны вложились в продвижение конгрессмена Джоша Готтхаймера, который занимается законодательством в сфере ИИ.
Думаю, ни для кого не станет откровением, что дальше присутствие ИИ-компаний в политике будет только усиливаться. Будет расти финансирование фондов, будут разворачиваться новые информационные кампании. С одной стороны, сам же по себе диалог бизнеса с государством вполне нормален. Что здесь такого? Но вот в случае с ИИ-гигантами ставки слишком высоки: правила для одной из важнейших технологий будущего могут написать при активном участии тех, кто больше всех заработает на их мягкости.
❤3👍3
Предлагаю немного разнообразить начало трудовой недели, отвлечься и поговорить о космосе! Точнее, о космическом мусоре (да-да, тема действительно интересная, читайте дальше). Многие привыкли думать, что космический мусор – это где-то там, на орбите. Мол, летают вокруг Земли старые спутники и куски ракет, которые иногда мешают космонавтам, а нас тут это особо не касается. Оказалось, что скоро все может сильно измениться…
Например, огромная металлическая деталь ракеты упала на поле в Кении, а во Флориде небольшой фрагмент оборудования Международной космической станции пробил крышу жилого дома и два перекрытия. К счастью, никто не пострадал, но до первой действительно трагической истории, кажется, не хватает исключительно неудачного совпадения. И дело тут в том, что при запуске ракеты расчет зачастую строится на том, что аппарат полностью разрушится в атмосфере. Периодически этот расчет не срабатывает.
Самое интересное начинается после падения! Конвенция ООН от 1972 года говорит, что запустившее объект государство несет полную ответственность за ущерб на Земле. Но лично прийти к владельцу ракеты и потребовать компенсацию по этой конвенции не получится. Обращение должно подаваться через дипломатические каналы от одного государства к другому. И нужно будет еще доказать, от какого именно аппарата отвалилась деталь и кто юридически считается «запускающей стороной».
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3
Forwarded from РАПК
«Этот текст написал ИИ»: в Европе будут маркировать политические публикации
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Европа продолжает активно вводить новые методы регулирования нейросетевого контента. Со 2 августа в Евросоюзе начали действовать требования AI Act. Что это такое? Теперь тексты, созданные или существенно переработанные искусственным интеллектом, нужно будет сопровождать специальной отметкой. И речь идёт не только о дипфейках или контенте, который пытается ввести в заблуждение.
Правило касается вообще всех материалов, которые информируют по ряду значимых вопросов. Это и политика, и выборы, и работа государственных органов, а также другие темы, способные вызвать общественную дискуссию. Таким образом, под эти требования вполне могут попасть пост кандидата или статья о решениях властей – конечно, в том случае, если текст действительно сгенерирован ИИ.
Но в европейских правилах есть важные исключения. Например, никакие маркировки не придется ставить, если текст прошёл полноценную проверку человеком и за его публикацию кто-то несёт редакционную ответственность. К сожалению (или к счастью), просто исправить запятые или заменить несколько слов будет недостаточно. Правила требуют, чтобы человек проверил смыслы и факты, изучил источники и прочее.
Главный вопрос: кто и как это будет проверять? В случае если после публикации текста кто-то подаст жалобу и проверку инициируют – автору придется объяснить, как именно этот текст готовился. Проверенных технических решений (автоматических детекторов), которые бы точно могли дать ответ, писал ли статью человек или ИИ, практически нет. Даже OpenAI (создатель ChatGPT) пару лет назад закрыла свой сервис по проверке текстов на авторство – из-за низкой точности. В итоге проверка скорее всего сведётся к банальному запросу объяснений, кто и как готовил материал, а также кто ответственен за публикацию.
В России пока действует более мягкий подход. В июле этого года Президент подписал закон о поддержке развития технологий искусственного интеллекта, согласно которому ИИ-сервисы и крупные социальные платформы должны будут предоставить пользователям возможность отмечать созданные нейросетями материалы. При этом самих авторов закон не обязывает пользоваться такой маркировкой.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Европа продолжает активно вводить новые методы регулирования нейросетевого контента. Со 2 августа в Евросоюзе начали действовать требования AI Act. Что это такое? Теперь тексты, созданные или существенно переработанные искусственным интеллектом, нужно будет сопровождать специальной отметкой. И речь идёт не только о дипфейках или контенте, который пытается ввести в заблуждение.
Правило касается вообще всех материалов, которые информируют по ряду значимых вопросов. Это и политика, и выборы, и работа государственных органов, а также другие темы, способные вызвать общественную дискуссию. Таким образом, под эти требования вполне могут попасть пост кандидата или статья о решениях властей – конечно, в том случае, если текст действительно сгенерирован ИИ.
Но в европейских правилах есть важные исключения. Например, никакие маркировки не придется ставить, если текст прошёл полноценную проверку человеком и за его публикацию кто-то несёт редакционную ответственность. К сожалению (или к счастью), просто исправить запятые или заменить несколько слов будет недостаточно. Правила требуют, чтобы человек проверил смыслы и факты, изучил источники и прочее.
Главный вопрос: кто и как это будет проверять? В случае если после публикации текста кто-то подаст жалобу и проверку инициируют – автору придется объяснить, как именно этот текст готовился. Проверенных технических решений (автоматических детекторов), которые бы точно могли дать ответ, писал ли статью человек или ИИ, практически нет. Даже OpenAI (создатель ChatGPT) пару лет назад закрыла свой сервис по проверке текстов на авторство – из-за низкой точности. В итоге проверка скорее всего сведётся к банальному запросу объяснений, кто и как готовил материал, а также кто ответственен за публикацию.
В России пока действует более мягкий подход. В июле этого года Президент подписал закон о поддержке развития технологий искусственного интеллекта, согласно которому ИИ-сервисы и крупные социальные платформы должны будут предоставить пользователям возможность отмечать созданные нейросетями материалы. При этом самих авторов закон не обязывает пользоваться такой маркировкой.
👍2
Forwarded from РАПК
Нейросети в политике: дай штабу ИИ, он и лоб расшибет
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Раньше, чтобы запятнать репутацию оппонента, писали всякие нехорошие слова на заборах, расклеивали листовки и делали прочие гадости (осуждаем такие подходы, разумеется). А теперь в дело врываются технологии! Шикарный кейс из-за океана о том, как нужно использовать нейросети, чтобы это вышло боком для всего штаба.
В общем, есть в Калифорнии такой сенатор Скотт Винер, который очень хочет попасть в Конгресс США. Разумеется, не он один – желающих много. И вот талантливые технологи сенатора придумали способ борьбы с его главной соперницей Конни Чан. Идея на бумаге «гениальная»: сделать чат-бота на основе искусственного интеллекта, который будет выдавать себя за Чан (по сути, ее виртуальную копию).
Зачем? Пользователям предлагали задать вопрос виртуальной Чан, а та объясняла, почему очередную идею нельзя реализовать. Чувствуете креативный подход? Условно, человек пишет «кандидату»: «Давай построим дорогу?». А тот отвечает: «Нет, это глупо, не буду этим заниматься, отстаньте». Так команда сенатора хотела выставить соперницу политиком, который постоянно мешает делать хорошие дела. Но нужно признать: на сайте прям честно указали, что это пародия, оплаченная штабом сенатора.
Сначала все было здорово... Но чем больше мучили несчастную нейросеть, тем сильнее она начинала галлюцинировать, выдавая ответы с расовыми и гендерными стереотипами. Конни Чан родилась в Гонконге (это для справки) – так в одном из ответов чат-бот заявил, что у нее настолько сильный акцент, поэтому она сама себя едва понимает. В другом случае бот придумал несуществующий закон и сообщил, что сведения о гражданстве Чан засекречены.
За первые 27 часов система получила больше 5000 вопросов. Ответы, как вы понимаете, получились удачными далеко не все… Тут же на штаб Винера, в котором все это придумали, посыпались гневные обвинения от людей, чьи чувства были задеты. Сначала команда пыталась оправдаться, мол, люди намеренно провоцировали бота. Но потом свой провал все же признали. Сайт отключили, рекламные щиты решили снять. Даже официально попросили прощения.
Как говорится, эксперимент оказался неудачным. А сколько еще таких будет? Думаю, через пару лет наберется на целую книгу «Избирательные технологии: как не надо делать». Но хочется верить, что российских кейсов в ней будет немного. Правда, очень хочется…
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Раньше, чтобы запятнать репутацию оппонента, писали всякие нехорошие слова на заборах, расклеивали листовки и делали прочие гадости (осуждаем такие подходы, разумеется). А теперь в дело врываются технологии! Шикарный кейс из-за океана о том, как нужно использовать нейросети, чтобы это вышло боком для всего штаба.
В общем, есть в Калифорнии такой сенатор Скотт Винер, который очень хочет попасть в Конгресс США. Разумеется, не он один – желающих много. И вот талантливые технологи сенатора придумали способ борьбы с его главной соперницей Конни Чан. Идея на бумаге «гениальная»: сделать чат-бота на основе искусственного интеллекта, который будет выдавать себя за Чан (по сути, ее виртуальную копию).
Зачем? Пользователям предлагали задать вопрос виртуальной Чан, а та объясняла, почему очередную идею нельзя реализовать. Чувствуете креативный подход? Условно, человек пишет «кандидату»: «Давай построим дорогу?». А тот отвечает: «Нет, это глупо, не буду этим заниматься, отстаньте». Так команда сенатора хотела выставить соперницу политиком, который постоянно мешает делать хорошие дела. Но нужно признать: на сайте прям честно указали, что это пародия, оплаченная штабом сенатора.
Сначала все было здорово... Но чем больше мучили несчастную нейросеть, тем сильнее она начинала галлюцинировать, выдавая ответы с расовыми и гендерными стереотипами. Конни Чан родилась в Гонконге (это для справки) – так в одном из ответов чат-бот заявил, что у нее настолько сильный акцент, поэтому она сама себя едва понимает. В другом случае бот придумал несуществующий закон и сообщил, что сведения о гражданстве Чан засекречены.
За первые 27 часов система получила больше 5000 вопросов. Ответы, как вы понимаете, получились удачными далеко не все… Тут же на штаб Винера, в котором все это придумали, посыпались гневные обвинения от людей, чьи чувства были задеты. Сначала команда пыталась оправдаться, мол, люди намеренно провоцировали бота. Но потом свой провал все же признали. Сайт отключили, рекламные щиты решили снять. Даже официально попросили прощения.
Как говорится, эксперимент оказался неудачным. А сколько еще таких будет? Думаю, через пару лет наберется на целую книгу «Избирательные технологии: как не надо делать». Но хочется верить, что российских кейсов в ней будет немного. Правда, очень хочется…
👍3❤2
Forwarded from РАПК
Нейросети стали избирателями
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
— Представьте себе рай для штаба: больше не нужно ломать голову над тем, что волнует людей, какие лучше сделать АПМ, какие темы «разгонять» в интернете и прочее. Зачем все это, если избирателей теперь можно просто сгенерировать и спросить напрямую: «Вам нравится эта идея или нет?»
Группа исследователей решила разобраться, можно ли в избирательной кампании использовать так называемых синтетических избирателей. В чем суть: ИИ создает виртуальных людей с заданным возрастом, местом жительства и политическими взглядами. Потом этим «людям» показывают материалы и спрашивают, что они думают о кандидате или конкретном сообщении. Звучит почти идеально, ведь за короткое время можно проверить несколько гипотез через разные аудитории и понять, что потенциально «заходит», а что лучше сразу отправить в корзину.
Правда, сами исследователи пока предлагают относиться к технологии без лишнего восторга. Синтетические избиратели могут быть полезны, чтобы быстро проверить рабочую гипотезу, сравнить несколько вариантов сообщения или понять, что вообще имеет смысл нести на настоящую фокус-группу. То есть скорее как дополнительный фильтр перед нормальным исследованием, а не его замена.
И здесь начинается самое интересное: а кого вообще изображает нейросеть?
Самый простой способ – дать задачу а-ля «Тебе 47 лет, ты живешь в таком-то городе, голосовал за такого-то кандидата, работаешь там-то». Ну и попросить модель отвечать от имени этого человека. Получается своего рода цифровой ролевик.
Более сложные же системы пытаются моделировать не одного, а уже целые группы людей. Но и здесь обнаружился так называемый «эффект среднего персонажа»: типичного представителя аудитории ИИ воспроизводит неплохо, а вот с теми, кто ведет себя нестандартно, справляется заметно хуже.
Да и обычная фокус-группа ценна не только финальным ответом «нравится – не нравится». Иногда важнее увидеть, где человек запнулся, над чем задумался, с кем начал спорить и что внезапно его задело. Синтетический избиратель наверняка даст аккуратный ответ. Но это еще не значит, что настоящий человек поведет себя так же, как ИИ.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
— Представьте себе рай для штаба: больше не нужно ломать голову над тем, что волнует людей, какие лучше сделать АПМ, какие темы «разгонять» в интернете и прочее. Зачем все это, если избирателей теперь можно просто сгенерировать и спросить напрямую: «Вам нравится эта идея или нет?»
Группа исследователей решила разобраться, можно ли в избирательной кампании использовать так называемых синтетических избирателей. В чем суть: ИИ создает виртуальных людей с заданным возрастом, местом жительства и политическими взглядами. Потом этим «людям» показывают материалы и спрашивают, что они думают о кандидате или конкретном сообщении. Звучит почти идеально, ведь за короткое время можно проверить несколько гипотез через разные аудитории и понять, что потенциально «заходит», а что лучше сразу отправить в корзину.
Правда, сами исследователи пока предлагают относиться к технологии без лишнего восторга. Синтетические избиратели могут быть полезны, чтобы быстро проверить рабочую гипотезу, сравнить несколько вариантов сообщения или понять, что вообще имеет смысл нести на настоящую фокус-группу. То есть скорее как дополнительный фильтр перед нормальным исследованием, а не его замена.
И здесь начинается самое интересное: а кого вообще изображает нейросеть?
Самый простой способ – дать задачу а-ля «Тебе 47 лет, ты живешь в таком-то городе, голосовал за такого-то кандидата, работаешь там-то». Ну и попросить модель отвечать от имени этого человека. Получается своего рода цифровой ролевик.
Более сложные же системы пытаются моделировать не одного, а уже целые группы людей. Но и здесь обнаружился так называемый «эффект среднего персонажа»: типичного представителя аудитории ИИ воспроизводит неплохо, а вот с теми, кто ведет себя нестандартно, справляется заметно хуже.
Да и обычная фокус-группа ценна не только финальным ответом «нравится – не нравится». Иногда важнее увидеть, где человек запнулся, над чем задумался, с кем начал спорить и что внезапно его задело. Синтетический избиратель наверняка даст аккуратный ответ. Но это еще не значит, что настоящий человек поведет себя так же, как ИИ.
❤3👍3
Но рассказать при этом есть о чём! В этом сезоне мы активно используем на проектах свои технологии. И когда я говорю «свои», то имею в виду именно разработки команды Gosapp Digital – то, что мы сами придумали и собрали под реальные задачи штабов и наших проектов.
Но одна из самых интересных возможностей Gosapp Monitor даже не в этом.
Обычно такие мониторинги работают по довольно стандартной схеме: вы заранее загружаете список нужных страниц, после чего парсер проходит по ним и собирает информацию. Gosapp Monitor умеет работать гораздо шире и ищет данные по всему «ВКонтакте»!
Можно не знать заранее, на какой именно странице появится нужная информация. Мы просто задаём поисковый запрос, а дальше система сама проходит по огромному массиву данных и находит нужные упоминания в постах и комментариях. Причём речь действительно идёт о миллионах страниц, которые обрабатываются буквально за несколько минут.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5👍4
Forwarded from РАПК
Российские компании могут обязать использовать отечественный ИИ, даже если он окажется дороже альтернативы
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Как стало известно на днях, в правительстве обсуждают правило, по которому при выборе между суверенной и национальной моделью приоритет придется отдавать первой. Правда, есть условие – если стоимость этой самой суверенной модели не превышает стоимость национальной больше чем в 1,5 раза. Сообщается, что такое предложение поступило от «Сбера».
А в чём вообще разница этих моделей?
Суверенная модель ИИ полностью разработана российским юрлицом и работает только на инфраструктуре в РФ. К национальной же требования мягче – она в значительной степени разрабатывается отечественным юрлицом, но в её основе могут быть заимствованные решения с открытым исходным кодом. Проще говоря, суверенная – исключительно российская разработка. Национальная – может использовать внешние открытые технологии.
Сейчас под определение суверенной модели фактически подпадает только GigaChat от Сбера. В то же время Алису AI от Яндекса приводят как пример национальной модели.
Интересно здесь то, что государство постепенно переходит от простой поддержки российских разработчиков к формированию архитектуры самого рынка ИИ. Речь уже не только о том, какие технологии развивать, но и о том, какие модели считать допустимыми и приоритетными для определенных задач.
Для чувствительных сфер такая логика понятна. Например, когда речь идет о госуправлении, медицине или критической инфраструктуре. Но возникает другой вопрос: что делать, если среди разрешенных моделей просто не окажется решения нужного качества? На этот риск уже указывают сейчас некоторые участники рынка.
И здесь, пожалуй, проходит главная граница будущего возможного регулирования. Если суверенная модель немного уступает аналогу, это можно воспринимать как цену технологического суверенитета. Но если разрыв становится принципиальным, обязательное использование превращается в технологический компромисс.
Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:
Как стало известно на днях, в правительстве обсуждают правило, по которому при выборе между суверенной и национальной моделью приоритет придется отдавать первой. Правда, есть условие – если стоимость этой самой суверенной модели не превышает стоимость национальной больше чем в 1,5 раза. Сообщается, что такое предложение поступило от «Сбера».
А в чём вообще разница этих моделей?
Суверенная модель ИИ полностью разработана российским юрлицом и работает только на инфраструктуре в РФ. К национальной же требования мягче – она в значительной степени разрабатывается отечественным юрлицом, но в её основе могут быть заимствованные решения с открытым исходным кодом. Проще говоря, суверенная – исключительно российская разработка. Национальная – может использовать внешние открытые технологии.
Сейчас под определение суверенной модели фактически подпадает только GigaChat от Сбера. В то же время Алису AI от Яндекса приводят как пример национальной модели.
Интересно здесь то, что государство постепенно переходит от простой поддержки российских разработчиков к формированию архитектуры самого рынка ИИ. Речь уже не только о том, какие технологии развивать, но и о том, какие модели считать допустимыми и приоритетными для определенных задач.
Для чувствительных сфер такая логика понятна. Например, когда речь идет о госуправлении, медицине или критической инфраструктуре. Но возникает другой вопрос: что делать, если среди разрешенных моделей просто не окажется решения нужного качества? На этот риск уже указывают сейчас некоторые участники рынка.
И здесь, пожалуй, проходит главная граница будущего возможного регулирования. Если суверенная модель немного уступает аналогу, это можно воспринимать как цену технологического суверенитета. Но если разрыв становится принципиальным, обязательное использование превращается в технологический компромисс.
❤2👍2