👩💻Microsoft предупреждает, что ссылки на ИИ подвержены манипуляции.
Microsoft предупредила клиентов, что обнаружила множество случаев использования технологии, которая манипулирует данными для получения необъективных рекомендаций.
Исследователи безопасности зафиксировали всплеск атак, направленных на «отравление памяти» ИИ-моделей манипулятивными данными. Эта техника получила название «отравление рекомендациями ИИ» (AI Recommendation Poisoning). Она схожа с SEO Poisoning — методом, используемым злоумышленниками для повышения позиций вредоносных веб-сайтов в поисковой выдаче, но ориентирована на ИИ-модели.
Исследователи обнаружили компании, добавляющие скрытые инструкции к кнопкам и ссылкам «Summarize with AI», размещенным на веб-сайтах, внутри которых в URL спрятаны специальные подсказки для чат-ботов.
Когда пользователь нажимает на такую ссылку, ИИ получает не только сам текст статьи, но и скрытую инструкцию - например, пересказать материал в нужном тоне или с определенным смысловым уклоном. В результате человек думает, что читает нейтральный вывод от ИИ, хотя на самом деле получает текст, отражающий скрытые инструкции
После отравления ИИ рассматривает эти внедренные инструкции как законные пользовательские предпочтения, что влияет на будущие ответы. Пользователи могут не подозревать, что их ИИ скомпрометирован, а даже если бы они заподозрили неладное, то не знали бы, как это проверить или исправить.
Исследователи советуют пользователям проверять сохраненные данные ИИ, удалять незнакомые записи, периодически очищать память и подвергать сомнению рекомендации.
Microsoft предупредила клиентов, что обнаружила множество случаев использования технологии, которая манипулирует данными для получения необъективных рекомендаций.
Исследователи безопасности зафиксировали всплеск атак, направленных на «отравление памяти» ИИ-моделей манипулятивными данными. Эта техника получила название «отравление рекомендациями ИИ» (AI Recommendation Poisoning). Она схожа с SEO Poisoning — методом, используемым злоумышленниками для повышения позиций вредоносных веб-сайтов в поисковой выдаче, но ориентирована на ИИ-модели.
Исследователи обнаружили компании, добавляющие скрытые инструкции к кнопкам и ссылкам «Summarize with AI», размещенным на веб-сайтах, внутри которых в URL спрятаны специальные подсказки для чат-ботов.
Когда пользователь нажимает на такую ссылку, ИИ получает не только сам текст статьи, но и скрытую инструкцию - например, пересказать материал в нужном тоне или с определенным смысловым уклоном. В результате человек думает, что читает нейтральный вывод от ИИ, хотя на самом деле получает текст, отражающий скрытые инструкции
После отравления ИИ рассматривает эти внедренные инструкции как законные пользовательские предпочтения, что влияет на будущие ответы. Пользователи могут не подозревать, что их ИИ скомпрометирован, а даже если бы они заподозрили неладное, то не знали бы, как это проверить или исправить.
Исследователи советуют пользователям проверять сохраненные данные ИИ, удалять незнакомые записи, периодически очищать память и подвергать сомнению рекомендации.
Forwarded from ККМП.connect
Ключевые характеристики FileMaster
«Мы создали FileMaster, потому что сами нуждались в идеальном решении для управления корпоративной информацией. Наш собственный опыт использования подтверждает: это мощная, интуитивно понятная и сверхбезопасная eDMS, которая берет на себя все задачи по работе с документами, от управления версиями до уникальных модулей вроде AI-помощника и DataRoom. Мы не останавливаемся на достигнутом – FileMaster постоянно развивается, чтобы соответствовать вашим потребностям.» - комментирует старший партнёр Алёна Кучер.
Дополнительные вопросы, пожалуйста, направляйте по адресу электронной почты sales@kkmp.tech
______
NB: программное обеспечение, разработанное ККМП.Тех, вносится в реестр отечественного ПО Минцифры.
#ККМП_Тех #FileMaster
Please open Telegram to view this post
VIEW IN TELEGRAM
51
⚖️Суд признал создание дублера телеграм-канала нарушением исключительных прав.
На протяжении многих лет житель Приморья вел в мессенджере «Телеграм» канал, посвященный городским новостям. Семь лет назад неизвестный создал канал-клон с названием, лишь немного отличающимся от названия оригинального канала. Владелец канала-клона с помощью специальных программ автоматически копировал все материалы оригинального канала. В итоге канал-клон набрал аудиторию в 12 тыс. человек.
В 2025 г. владелец оригинального канала обратился за юридической помощью, в суд подан иск о защите авторских прав, но не на отдельные посты и фотографии, а на весь канал с целью доказать, что телеграм-канал – это составное произведение. Истец просил взыскать компенсацию за нарушение исключительных прав в размере 500 тыс. руб.
В суде ответчик настаивал, что телеграм-канал истца не может быть признан охраняемым составным произведением в связи с тем, что хронологический подбор новостей не является творческим трудом.
Кроме того, он указывал, что истец не использовал техническую защиту от копирования в Телеграме и разрешил делать репосты, когда регистрировал свой канал в Роскомнадзоре. По мнению ответчика, сохранение водяных знаков истца на копируемых фотографиях и использование названия телеграм-канала, схожего до смешения с названием канала истца, рекламировали телеграм-канал последнего.
Суд указал, что не являются основаниями для отказа в удовлетворении требований неиспользование истцом технической защиты от копирования в Телеграме и разрешение репостов в Роскомнадзоре, поскольку отсутствие запрета не считается согласием или разрешением на использование результата интеллектуальной деятельности, а разрешение копирования отдельных сообщений не подразумевает разрешение полного копирования телеграм-канала.
Первая инстанция посчитала, что цель, которую преследовал ответчик при нарушении исключительных прав истца, правового значения не имеет. Кроме того, сохранение ответчиком водяных знаков истца на фотографиях и использование названия телеграм-канала, схожего до смешения с названием каналом истца, не рекламировали телеграм-канал последнего, а вводили в заблуждение подписчиков.
Суд вынес уникальное решение, признав телеграм-канал самостоятельным произведением, а его копирование – нарушением исключительных прав, указала юрист истца.
На протяжении многих лет житель Приморья вел в мессенджере «Телеграм» канал, посвященный городским новостям. Семь лет назад неизвестный создал канал-клон с названием, лишь немного отличающимся от названия оригинального канала. Владелец канала-клона с помощью специальных программ автоматически копировал все материалы оригинального канала. В итоге канал-клон набрал аудиторию в 12 тыс. человек.
В 2025 г. владелец оригинального канала обратился за юридической помощью, в суд подан иск о защите авторских прав, но не на отдельные посты и фотографии, а на весь канал с целью доказать, что телеграм-канал – это составное произведение. Истец просил взыскать компенсацию за нарушение исключительных прав в размере 500 тыс. руб.
В суде ответчик настаивал, что телеграм-канал истца не может быть признан охраняемым составным произведением в связи с тем, что хронологический подбор новостей не является творческим трудом.
Кроме того, он указывал, что истец не использовал техническую защиту от копирования в Телеграме и разрешил делать репосты, когда регистрировал свой канал в Роскомнадзоре. По мнению ответчика, сохранение водяных знаков истца на копируемых фотографиях и использование названия телеграм-канала, схожего до смешения с названием канала истца, рекламировали телеграм-канал последнего.
Суд указал, что не являются основаниями для отказа в удовлетворении требований неиспользование истцом технической защиты от копирования в Телеграме и разрешение репостов в Роскомнадзоре, поскольку отсутствие запрета не считается согласием или разрешением на использование результата интеллектуальной деятельности, а разрешение копирования отдельных сообщений не подразумевает разрешение полного копирования телеграм-канала.
Первая инстанция посчитала, что цель, которую преследовал ответчик при нарушении исключительных прав истца, правового значения не имеет. Кроме того, сохранение ответчиком водяных знаков истца на фотографиях и использование названия телеграм-канала, схожего до смешения с названием каналом истца, не рекламировали телеграм-канал последнего, а вводили в заблуждение подписчиков.
Суд вынес уникальное решение, признав телеграм-канал самостоятельным произведением, а его копирование – нарушением исключительных прав, указала юрист истца.
💻В Госдуму могут внести законопроект о регулировании ИИ в ближайшее время.
Законопроект по регулированию технологии искусственного интеллекта (ИИ) могут внести на рассмотрение Госдумы в ближайшее время, рассчитывает министр цифрового развития РФ Максут Шадаев.
Он отметил, что сейчас на площадке правительства ведется проработка концепции комплексного законопроекта и когда будет выработана единая позиция по документу, он будет представлен.
Законопроект по регулированию технологии искусственного интеллекта (ИИ) могут внести на рассмотрение Госдумы в ближайшее время, рассчитывает министр цифрового развития РФ Максут Шадаев.
Он отметил, что сейчас на площадке правительства ведется проработка концепции комплексного законопроекта и когда будет выработана единая позиция по документу, он будет представлен.
⚖️Суд постановил, что документы, созданные с помощью ИИ, не защищены адвокатской тайной.
Решение суда Южного округа Нью-Йорка стало важным прецедентом в вопросах адвокатской тайны и использования искусственного интеллекта в юридической сфере. Суд постановил, что документы, созданные с помощью общедоступных AI-инструментов, не могут считаться защищенными адвокатской тайной, если они не были подготовлены по указанию адвоката.
В деле United States v. Heppner суд отказал в защите AI-сгенерированных материалов, основываясь на нескольких ключевых факторах. Во-первых, обвиняемый использовал общедоступный AI-инструмент, условия которого не обеспечивали конфиденциальность. Во-вторых, он действовал без указаний своего адвоката. В-третьих, материалы не отражали ментальные представления адвоката на момент их создания.
Это решение подчеркивает необходимость осторожного подхода к использованию AI в юридических вопросах. Организациям, использующим генеративный AI для работы с чувствительной информацией, следует учитывать несколько важных моментов:
1. Защита не может быть выстроена задним числом: Если AI-аналитика или черновики создаются независимо, а затем передаются адвокату, это не гарантирует защиту адвокатской тайной.
2. Общественные AI-инструменты следует рассматривать как третьи стороны: Если условия использования позволяют доступ к данным, это может привести к утрате адвокатской тайны.
3. Использование корпоративных инструментов для чувствительных вопросов: Необходимо включать в контракты ограничения на использование, раскрытие и доступ к данным.
4. Указания адвоката имеют решающее значение: Для защиты необходимо, чтобы адвокат письменно прописал необходимость конфиденциальности.
5. Тщательная подготовка логов: Описания AI-выходов должны отражать участие адвоката и специализацию на судебных разбирательствах.
6. Мониторинг изменений в судебной практике: Необходимо соблюдать действующую судебную практику по взаимодействию AI с юридическими и этическими нормами.
Решение суда Южного округа Нью-Йорка стало важным прецедентом в вопросах адвокатской тайны и использования искусственного интеллекта в юридической сфере. Суд постановил, что документы, созданные с помощью общедоступных AI-инструментов, не могут считаться защищенными адвокатской тайной, если они не были подготовлены по указанию адвоката.
В деле United States v. Heppner суд отказал в защите AI-сгенерированных материалов, основываясь на нескольких ключевых факторах. Во-первых, обвиняемый использовал общедоступный AI-инструмент, условия которого не обеспечивали конфиденциальность. Во-вторых, он действовал без указаний своего адвоката. В-третьих, материалы не отражали ментальные представления адвоката на момент их создания.
Это решение подчеркивает необходимость осторожного подхода к использованию AI в юридических вопросах. Организациям, использующим генеративный AI для работы с чувствительной информацией, следует учитывать несколько важных моментов:
1. Защита не может быть выстроена задним числом: Если AI-аналитика или черновики создаются независимо, а затем передаются адвокату, это не гарантирует защиту адвокатской тайной.
2. Общественные AI-инструменты следует рассматривать как третьи стороны: Если условия использования позволяют доступ к данным, это может привести к утрате адвокатской тайны.
3. Использование корпоративных инструментов для чувствительных вопросов: Необходимо включать в контракты ограничения на использование, раскрытие и доступ к данным.
4. Указания адвоката имеют решающее значение: Для защиты необходимо, чтобы адвокат письменно прописал необходимость конфиденциальности.
5. Тщательная подготовка логов: Описания AI-выходов должны отражать участие адвоката и специализацию на судебных разбирательствах.
6. Мониторинг изменений в судебной практике: Необходимо соблюдать действующую судебную практику по взаимодействию AI с юридическими и этическими нормами.
⚖️Суд освободил РЖД от ответственности за утечку персональных данных.
Девятый арбитражный апелляционный суд отменил штраф РЖД в 150 тысяч рублей за публикацию в Telegram базы работников объемом более 17 миллионов строк.
РКН обнаружил базу в Telegram-каналах решил что оператор плохо защищал персональные данные и обратился в суд. Суд первой инстанции назначил штраф по ч.1 ст.13.11 КоАП РФ.
РЖД пошло в апелляцию с аргументом: "это была целенаправленная кибератака, возбуждено уголовное дело, доступ получили третьи лица с использованием специализированного ПО. Это не "слив по халатности", а взлом".
Апелляция согласилась, что сам факт утечки еще не означает автоматически установленную вину компании.
Юридическое лицо виновно, если не приняло всех зависящих от него меры по соблюдению требований. А значит, регулятор должен доказать:
- какие именно обязательные меры не были реализованы;
- в чем конкретно состояло нарушение;
- как это повлияло на утечку.
Если же установлено, что имело место внешнее преступное вмешательство, а уголовное дело о взломе не завершено, то нельзя делать вывод о "вине оператора".
Девятый арбитражный апелляционный суд отменил штраф РЖД в 150 тысяч рублей за публикацию в Telegram базы работников объемом более 17 миллионов строк.
РКН обнаружил базу в Telegram-каналах решил что оператор плохо защищал персональные данные и обратился в суд. Суд первой инстанции назначил штраф по ч.1 ст.13.11 КоАП РФ.
РЖД пошло в апелляцию с аргументом: "это была целенаправленная кибератака, возбуждено уголовное дело, доступ получили третьи лица с использованием специализированного ПО. Это не "слив по халатности", а взлом".
Апелляция согласилась, что сам факт утечки еще не означает автоматически установленную вину компании.
Юридическое лицо виновно, если не приняло всех зависящих от него меры по соблюдению требований. А значит, регулятор должен доказать:
- какие именно обязательные меры не были реализованы;
- в чем конкретно состояло нарушение;
- как это повлияло на утечку.
Если же установлено, что имело место внешнее преступное вмешательство, а уголовное дело о взломе не завершено, то нельзя делать вывод о "вине оператора".
⚖️Адвокат проиграл дело из-за чрезмерного использования ИИ.
Окружной судья Нью-Йорка Кэтрин Полк Файлла вынесла постановление, о прекращение дела, вынеся заочное решение в пользу истцов, из-за того, что адвокат ответчика Стивен Фельдман, подавал в суд документы с фальшивыми цитатами, несмотря на несколько указаний суда привести документы в соответствие.
Хотя судья полагала, что из-за нетипичного стиля документы были подготовлены чат-ботом, Фельдман это отрицал, утверждая что он лично написал каждое слово.
Вместо того чтобы признать, что он позволил ИИ составить свои документы, он утверждал, что он только полагался на различные программы ИИ для проверки исопльзуемых цитат. Среди инструментов, которые он признал использованными, были Paxton AI, Vincent AI от vLex и NotebookLM от Google.
В трех документах, подготовленных со стороны защиты, содержалось 14 ошибок на приведенных 60 цитат.
В итоге вместе с проигрышем дела, суд дополнительно наложил на адвоката санкции за ненадлежащее поведение.
Окружной судья Нью-Йорка Кэтрин Полк Файлла вынесла постановление, о прекращение дела, вынеся заочное решение в пользу истцов, из-за того, что адвокат ответчика Стивен Фельдман, подавал в суд документы с фальшивыми цитатами, несмотря на несколько указаний суда привести документы в соответствие.
Хотя судья полагала, что из-за нетипичного стиля документы были подготовлены чат-ботом, Фельдман это отрицал, утверждая что он лично написал каждое слово.
Вместо того чтобы признать, что он позволил ИИ составить свои документы, он утверждал, что он только полагался на различные программы ИИ для проверки исопльзуемых цитат. Среди инструментов, которые он признал использованными, были Paxton AI, Vincent AI от vLex и NotebookLM от Google.
В трех документах, подготовленных со стороны защиты, содержалось 14 ошибок на приведенных 60 цитат.
В итоге вместе с проигрышем дела, суд дополнительно наложил на адвоката санкции за ненадлежащее поведение.
Китайские исследователи опубликовали статью, в которой указали, что возникновение галлюцинаций можно надежно предсказывать с наличием в нейросетях определенной группы нейронов (Н-нейроны).
Несмотря на то, что такие нейроны составляют не более 0.1% от общего числа, именно с ними связано чрезмерно уступчивое поведение нейросети. Т.е. когда модель не знает ответа, она пытается угодить пользователю.
Исследование показало, что ИИ буквально вынужден врать из-за механизма «сверх-покладистости» (over-compliance), заложенного при обучении: он боится промолчать больше, чем ошибиться, в результате модель начинает выдумывать ответы.
При этом если указанные нейроны удалить, пропадет гибкость и модель начать отвечать «не знаю» на любые сложные вопросы.
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from LawLawLand
АЕБ_Смирнова_презентация_full.pdf
840.8 KB
4 февраля состоялся круглый стол Юридического комитета АЕБ, посвящённый автоматизации юридических процессов и использованию цифровых решений в работе юриста.
В панельной дискуссии приняла участие Софья Смирнова, советник M&A и корпоративной практики. Обсуждение получилось живым, честным и — что особенно ценно — максимально приземлённым к реальной практике.
Как обычно, самые важные инсайты лежат в сложностях, ошибках и нюансах внедрения ИИ: работе с людьми, процессами и ожиданиями бизнеса. Именно об этом и шла речь.
📎 Делимся презентацией Софьи. Она не заменит живую дискуссию, но поможет лучше понять логику подходов и решений.
Спасибо коллегам из АЕБ и участникам за содержательный разговор. Тема автоматизации и ИИ в юридической функции точно не закрыта. Продолжение следует!
O2 Consulting❤️
#O2News #ИИ #Софья_Смирнова #Выступления
В панельной дискуссии приняла участие Софья Смирнова, советник M&A и корпоративной практики. Обсуждение получилось живым, честным и — что особенно ценно — максимально приземлённым к реальной практике.
Как обычно, самые важные инсайты лежат в сложностях, ошибках и нюансах внедрения ИИ: работе с людьми, процессами и ожиданиями бизнеса. Именно об этом и шла речь.
📎 Делимся презентацией Софьи. Она не заменит живую дискуссию, но поможет лучше понять логику подходов и решений.
Спасибо коллегам из АЕБ и участникам за содержательный разговор. Тема автоматизации и ИИ в юридической функции точно не закрыта. Продолжение следует!
O2 Consulting
#O2News #ИИ #Софья_Смирнова #Выступления
Please open Telegram to view this post
VIEW IN TELEGRAM
💻В России планируют разделить модели ИИ на суверенные и национальные.
В предварительной версии правительственного законопроекта «Об искусственном интеллекте в РФ» вводятся понятия суверенной модели ИИ и национальной модели ИИ.
Под суверенной авторами законопроекта понимается модель ИИ, все стадии разработки, обучения и эксплуатации которой осуществляются на территории РФ гражданами России и российскими компаниями.
Также суверенная модель должна быть обучена исключительно с использованием наборов данных (датасетов), которые сформированы на территории РФ, без использования компонентов, разработанных за пределами страны.
Национальные модели ИИ могут быть созданы при использовании иностранных open-source-решений, при их обучении также можно использовать не только российские датасеты.
Отдельная статья законопроекта посвящена «доверенным» моделям искусственного интеллекта, предназначенным для работы с критической информационной инфраструктурой. Такими моделями будут считаться системы, безопасность которых подтверждена ФСТЭК и ФСБ, критерии «доверенности» разработает правительство.
Также законопроект содержит положения о безопасном использовании моделей ИИ, требовании информировать пользователей о том, что они взаимодействуют с ИИ (в случае, например, продаж через чат-боты), распределении ответственности в части результатов деятельности ИИ, маркировке синтезированного контента и особенностях правовой охраны объектов интеллектуальной собственности.
В документе говорится, что автором результатов интеллектуальной деятельности, созданных с использованием ИИ, признается пользователь сервиса «в случае наличия его творческого вклада в их создание».
Исключительные права на созданные с использованием ИИ результаты интеллектуальной деятельности также принадлежат пользователю, если договором, заключаемым между владельцем сервиса и пользователем, не предусмотрено иное. При этом владелец сервиса обязан дополнительно проинформировать пользователя обо всех условиях использования результатов интеллектуальной деятельности.
Вступить в силу документ может с 1 сентября 2027 года.
В предварительной версии правительственного законопроекта «Об искусственном интеллекте в РФ» вводятся понятия суверенной модели ИИ и национальной модели ИИ.
Под суверенной авторами законопроекта понимается модель ИИ, все стадии разработки, обучения и эксплуатации которой осуществляются на территории РФ гражданами России и российскими компаниями.
Также суверенная модель должна быть обучена исключительно с использованием наборов данных (датасетов), которые сформированы на территории РФ, без использования компонентов, разработанных за пределами страны.
Национальные модели ИИ могут быть созданы при использовании иностранных open-source-решений, при их обучении также можно использовать не только российские датасеты.
Отдельная статья законопроекта посвящена «доверенным» моделям искусственного интеллекта, предназначенным для работы с критической информационной инфраструктурой. Такими моделями будут считаться системы, безопасность которых подтверждена ФСТЭК и ФСБ, критерии «доверенности» разработает правительство.
Также законопроект содержит положения о безопасном использовании моделей ИИ, требовании информировать пользователей о том, что они взаимодействуют с ИИ (в случае, например, продаж через чат-боты), распределении ответственности в части результатов деятельности ИИ, маркировке синтезированного контента и особенностях правовой охраны объектов интеллектуальной собственности.
В документе говорится, что автором результатов интеллектуальной деятельности, созданных с использованием ИИ, признается пользователь сервиса «в случае наличия его творческого вклада в их создание».
Исключительные права на созданные с использованием ИИ результаты интеллектуальной деятельности также принадлежат пользователю, если договором, заключаемым между владельцем сервиса и пользователем, не предусмотрено иное. При этом владелец сервиса обязан дополнительно проинформировать пользователя обо всех условиях использования результатов интеллектуальной деятельности.
Вступить в силу документ может с 1 сентября 2027 года.
👮Вступил в силу закон о признании цифровой валюты имуществом для УК и УПК.
3 марта 2026 г., вступил в силу Федеральный закон №902782-8 "О внесении изменений в статью 104.1 Уголовного кодекса Российской Федерации и Уголовно-процессуальный кодекс Российской Федерации". Закон признал цифровую валюту имуществом для обоих кодексов и описал процедуру действий следователя по изъятию и признанию цифровой валюты.
"По существу закон вносит три основных изменения: вводится норма о том, что цифровая валюта признается имуществом для целей всего Уголовного кодекса (ст.104.1 УК); цифровая валюта добавляется в перечень имущества (ст.5 УПК); появляется новая ст.164.2 УПК, регламентирующая порядок изъятия цифровой валюты: обязательное участие специалиста, опечатывание материального носителя, возможность перевода валюты на государственный адрес-идентификатор - при наличии технической возможности.
Оговорка о технической возможности появилась между редакциями законопроекта: принудить к передаче доступа технически невозможно. Порядок перевода и хранения по прежнему отнесен к компетенции правительства: подзаконные акты еще предстоит принять, без них ряд норм фактически не заработает в полную силу.
3 марта 2026 г., вступил в силу Федеральный закон №902782-8 "О внесении изменений в статью 104.1 Уголовного кодекса Российской Федерации и Уголовно-процессуальный кодекс Российской Федерации". Закон признал цифровую валюту имуществом для обоих кодексов и описал процедуру действий следователя по изъятию и признанию цифровой валюты.
"По существу закон вносит три основных изменения: вводится норма о том, что цифровая валюта признается имуществом для целей всего Уголовного кодекса (ст.104.1 УК); цифровая валюта добавляется в перечень имущества (ст.5 УПК); появляется новая ст.164.2 УПК, регламентирующая порядок изъятия цифровой валюты: обязательное участие специалиста, опечатывание материального носителя, возможность перевода валюты на государственный адрес-идентификатор - при наличии технической возможности.
Оговорка о технической возможности появилась между редакциями законопроекта: принудить к передаче доступа технически невозможно. Порядок перевода и хранения по прежнему отнесен к компетенции правительства: подзаконные акты еще предстоит принять, без них ряд норм фактически не заработает в полную силу.