💻В России вступил в силу закон о платформенной экономике.
С 1 октября 2026 года вступил в силу Федеральный закон № 289-ФЗ «Об отдельных вопросах регулирования платформенной экономики в Российской Федерации».
Федеральный закон № 289-ФЗ создаёт единую правовую основу для цифровых экосистем. Ранее этот сектор регулировался разрозненными нормами Гражданского кодекса и законами о защите прав потребителей.
Конкретные критерии отнесения интернет-площадок к посредническим платформам зафиксированы в Постановлении Правительства РФ от 28 января 2026 года № 54. Под регулирование подпадают сервисы, одновременно отвечающие следующим условиям:
- Позволяют размещать товары, работы или услуги, заключать сделки и проводить расчёты между участниками через цифровую платформу;
- Имеют среднесуточную аудиторию не менее 100 000 пользователей в России по итогам предыдущего календарного года;
- За год привлекли не менее 10 000 партнёров, совершивших хотя бы одну сделку через платформу, либо обеспечили объём сделок свыше 50 млрд рублей.
Для иностранных платформ достаточно соответствия первым двум критериям. Таким образом, закон затронет не только лидеров онлайн-торговли, но и крупных агрегаторов услуг, такси, клининга, а также специализированные B2B-биржи и классифайды.
Новый закон не распространяется на ряд цифровых сервисов, для которых уже действует отдельное регулирование. К ним относятся:
- Аудиовизуальные сервисы, распространяющие видео- и аудиоконтент;
- Организации и платформы финансового рынка, включая банки, брокеров и инвестиционные платформы;
- Сервисы, через которые правообладатели предоставляют лицензии на использование программного обеспечения и баз данных;
- Интернет-площадки, которые продают только собственные товары, работы или услуги и не выступают посредниками между участниками рынка;
- Государственные и муниципальные информационные системы;
- Специализированные электронные площадки, созданные в соответствии с законодательством РФ для проведения государственных закупок, процедур банкротства, приватизации и иных предусмотренных законом торгов.
С 1 октября 2026 года вступил в силу Федеральный закон № 289-ФЗ «Об отдельных вопросах регулирования платформенной экономики в Российской Федерации».
Федеральный закон № 289-ФЗ создаёт единую правовую основу для цифровых экосистем. Ранее этот сектор регулировался разрозненными нормами Гражданского кодекса и законами о защите прав потребителей.
Конкретные критерии отнесения интернет-площадок к посредническим платформам зафиксированы в Постановлении Правительства РФ от 28 января 2026 года № 54. Под регулирование подпадают сервисы, одновременно отвечающие следующим условиям:
- Позволяют размещать товары, работы или услуги, заключать сделки и проводить расчёты между участниками через цифровую платформу;
- Имеют среднесуточную аудиторию не менее 100 000 пользователей в России по итогам предыдущего календарного года;
- За год привлекли не менее 10 000 партнёров, совершивших хотя бы одну сделку через платформу, либо обеспечили объём сделок свыше 50 млрд рублей.
Для иностранных платформ достаточно соответствия первым двум критериям. Таким образом, закон затронет не только лидеров онлайн-торговли, но и крупных агрегаторов услуг, такси, клининга, а также специализированные B2B-биржи и классифайды.
Новый закон не распространяется на ряд цифровых сервисов, для которых уже действует отдельное регулирование. К ним относятся:
- Аудиовизуальные сервисы, распространяющие видео- и аудиоконтент;
- Организации и платформы финансового рынка, включая банки, брокеров и инвестиционные платформы;
- Сервисы, через которые правообладатели предоставляют лицензии на использование программного обеспечения и баз данных;
- Интернет-площадки, которые продают только собственные товары, работы или услуги и не выступают посредниками между участниками рынка;
- Государственные и муниципальные информационные системы;
- Специализированные электронные площадки, созданные в соответствии с законодательством РФ для проведения государственных закупок, процедур банкротства, приватизации и иных предусмотренных законом торгов.
🇺🇸Калифорния приняла законы, ограничивающие использование ИИ для увольнения.
Губернатор Калифорнии Гэвин Ньюсом подписал пакет из 13 законопроектов, регулирующих искусственный интеллект, включая законопроект SB 947 — «Закон о запрете роботов-начальников».
Документ вступит в силу 1 июля 2027 года и ограничивает возможности работодателей использовать автоматизированные системы принятия решений для дисциплинарных взысканий или увольнений.
Согласно новым правилам, работодатель не может полагаться исключительно на автоматизированную систему при рассмотрении вопроса об увольнении или взыскании. Более того, человек, одобряющий такое решение, обязан предоставить собственные доказательства, подтверждающие его обоснованность.
Работник, в отношении которого принято решение на основе выводов ИИ, должен получить письменное уведомление о том, что алгоритм сыграл ключевую роль, с перечнем использованных персональных данных и контактом живого сотрудника, способного объяснить результат.
Также положения законопроекта запрещают работодателям использовать биометрические данные сотрудников для оценки их эмоционального состояния с помощью технологий.
Губернатор Калифорнии Гэвин Ньюсом подписал пакет из 13 законопроектов, регулирующих искусственный интеллект, включая законопроект SB 947 — «Закон о запрете роботов-начальников».
Документ вступит в силу 1 июля 2027 года и ограничивает возможности работодателей использовать автоматизированные системы принятия решений для дисциплинарных взысканий или увольнений.
Согласно новым правилам, работодатель не может полагаться исключительно на автоматизированную систему при рассмотрении вопроса об увольнении или взыскании. Более того, человек, одобряющий такое решение, обязан предоставить собственные доказательства, подтверждающие его обоснованность.
Работник, в отношении которого принято решение на основе выводов ИИ, должен получить письменное уведомление о том, что алгоритм сыграл ключевую роль, с перечнем использованных персональных данных и контактом живого сотрудника, способного объяснить результат.
Также положения законопроекта запрещают работодателям использовать биометрические данные сотрудников для оценки их эмоционального состояния с помощью технологий.
👮♂️Claude написал на пользователя заявление в полицию.
Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы». Информация об этой угрозе была получена правоохранительными органами от компании Anthropic. Женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями, в том числе сообщила о намерении устроить стрельбу в офисе шерифа округа.
Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от степени серьёзности такие сообщения могут быть переданы на проверку сотрудникам-людям. В данном случае команда компании приняла решение сообщить о выявленной угрозе правоохранительным органам.
Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные в ходе проверки сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста и предъявления обвинения.
Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы». Информация об этой угрозе была получена правоохранительными органами от компании Anthropic. Женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями, в том числе сообщила о намерении устроить стрельбу в офисе шерифа округа.
Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от степени серьёзности такие сообщения могут быть переданы на проверку сотрудникам-людям. В данном случае команда компании приняла решение сообщить о выявленной угрозе правоохранительным органам.
Разговор с чат-ботом может подпадать под действие закона как угроза, отправленная, опубликованная или переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные в ходе проверки сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста и предъявления обвинения.
Forwarded from Legal jobs: IP • IT • DP • LT
Legal-tech эксперт в команду Нейроюриста Яндекса
📍 Удалёнка
⏰ Частичная занятость
Задачи:
1. Оценивать качество работы Нейроюриста: основного сервиса и разрабатываемых фичей. Проводить экспертную оценку, разбирать проблемные кейсы, участвовать в разработке бенчмарков, сборе валидационных "корзин" задач и документов.
2. Делать экспертный юридический контент для сервиса (шаблоны документов, чек-листы проверок документов, эталонные ответы на задачи).
3. Взаимодействовать с разработчиками, аналитиками, маркетингом и продуктовой командой: пояснять юридическую логику, доносить юридическое видение и потребности юристов.
4. Коммуницировать с юристами-пользователями: анализировать и валидировать обратную связь, извлекать из неё задачи на доработку.
5. Анализировать российские и зарубежные AI-LegalTech продукты: продумывать сценарии сравнения, формулировать выводы.
Обязательные требования:
- Высшее юридическое образование и 3+ года практики, желательно в консалтинге.
- Структурное мышление и способность формализовать нечётко поставленную задачу.
- Самостоятельность и инициативность: предлагать методологии и улучшения существующих процессов, замечать проблемы в процессе и формулировать решения.
- Готовность первое время работать в формате внешнего консультанта с частичной занятостью (несколько параллельных задач в неделю, итерации в тикетах).
- Техническая экспертиза и понимание ИТ-сферы, опыт и привычка работы с LLM-продуктами.
- Умение работать с данными разной структуры и форматов и привычка оформлять результаты своей работы в удобные и понятные для других артефакты.
Также требуются как минимум 2 пункта из следующих:
- Техническая или продуктовая магистратура.
- Понимание актуальных для юридического AI технологий (агентные харнессы, RAG-системы).
- Практическая экспертиза в нескольких популярных сферах росийского законодательства.
- Опыт работы в LegalOps / в ИТ-компаниях / на legal tech-проектах.
- Реализованные пет-проекты (вайбкодинг считается).
Что не потребуется:
- Уметь писать код.
Условия:
- Занятость в формате "внешний консультант", ГПХ на 6 месяцев с возможностью продления. Предпочтительна удаленка.
- Фултайм или неполная занятость по вашим возможностям.
- Для успешных кандидатов в перспективе возможен переход в штат.
CV и портфолио на iankov-r-m@yandex-team.ru
Заранее прошу прощения, если не смогу содержательно ответить на все заявки.
📍 Удалёнка
⏰ Частичная занятость
Задачи:
1. Оценивать качество работы Нейроюриста: основного сервиса и разрабатываемых фичей. Проводить экспертную оценку, разбирать проблемные кейсы, участвовать в разработке бенчмарков, сборе валидационных "корзин" задач и документов.
2. Делать экспертный юридический контент для сервиса (шаблоны документов, чек-листы проверок документов, эталонные ответы на задачи).
3. Взаимодействовать с разработчиками, аналитиками, маркетингом и продуктовой командой: пояснять юридическую логику, доносить юридическое видение и потребности юристов.
4. Коммуницировать с юристами-пользователями: анализировать и валидировать обратную связь, извлекать из неё задачи на доработку.
5. Анализировать российские и зарубежные AI-LegalTech продукты: продумывать сценарии сравнения, формулировать выводы.
Обязательные требования:
- Высшее юридическое образование и 3+ года практики, желательно в консалтинге.
- Структурное мышление и способность формализовать нечётко поставленную задачу.
- Самостоятельность и инициативность: предлагать методологии и улучшения существующих процессов, замечать проблемы в процессе и формулировать решения.
- Готовность первое время работать в формате внешнего консультанта с частичной занятостью (несколько параллельных задач в неделю, итерации в тикетах).
- Техническая экспертиза и понимание ИТ-сферы, опыт и привычка работы с LLM-продуктами.
- Умение работать с данными разной структуры и форматов и привычка оформлять результаты своей работы в удобные и понятные для других артефакты.
Также требуются как минимум 2 пункта из следующих:
- Техническая или продуктовая магистратура.
- Понимание актуальных для юридического AI технологий (агентные харнессы, RAG-системы).
- Практическая экспертиза в нескольких популярных сферах росийского законодательства.
- Опыт работы в LegalOps / в ИТ-компаниях / на legal tech-проектах.
- Реализованные пет-проекты (вайбкодинг считается).
Что не потребуется:
- Уметь писать код.
Условия:
- Занятость в формате "внешний консультант", ГПХ на 6 месяцев с возможностью продления. Предпочтительна удаленка.
- Фултайм или неполная занятость по вашим возможностям.
- Для успешных кандидатов в перспективе возможен переход в штат.
CV и портфолио на iankov-r-m@yandex-team.ru
Заранее прошу прощения, если не смогу содержательно ответить на все заявки.
💻Опубликован законопроект "О безопасном использовании систем искусственного интеллекта в РФ".
Авторы законопроекта предлагают следующую систему юридических понятий:
- искусственный интеллект - технология, обеспечивающая автоматизацию обработки и генерации информации, анализа данных, поиска и автономного принятия решений в различных областях деятельности, а также совокупность знаний и методов, содержащих теоретические и практические основы создания, функционирования, развития и регулирования таких технологий;
- система искусственного интеллекта - информационная система, созданная на основе искусственного интеллекта, способная обеспечивать имитацию принятия решений и (или) действий человека, включая создание за него информации вне зависимости от форм еe представления.
В законопроекте все системы ИИ делятся на доверенные и другие системы, вводится реестр доверенных систем ИИ и критерии отнесения систем ИИ к доверенным. Это сделано для того, чтобы в наиболее важных и значимых для государства сферах разрешалось использовать только доверенные системы ИИ.
Наряду с доверенными системами ИИ, законопроект также выделяет категорию систем, запрещенных к использованию в Российской Федерации.
Инициатива предлагает обширный перечень прав и обязанностей основных субъектов отношений - производителей, операторов и пользователей систем ИИ, и рассматривает вопросы предметной юридической ответственности субъектов правоотношений, без которых любое регулирование правоотношений нельзя назвать устойчивым.
Пристальное внимание в законопроекте уделено защите прав человека и гражданина, в частности, устанавливаются:
- недопущение принуждения к использованию искусственного интеллекта в социальной сфере и при взаимодействии с органами государственной власти и органами местного самоуправления;
- право на отказ от использования искусственного интеллекта в юридически значимых ситуациях; урегулированы условия согласия гражданина на его использование;
- право физических лиц знать об использовании искусственного интеллекта при принятии решений, порождающих значимые последствия для них или иным образом затрагивающих их права и интересы (совместно с обязательностью маркировки результатов функционирования систем ИИ);
- право физических лиц на пересмотр принятых в отношении них значимых решений с использованием искусственного интеллекта - уже без использования искусственного интеллекта;
- право пользователей систем ИИ на взаимодействие с операторами систем ИИ без использования искусственного интеллекта.
Закономерно предлагается выделить комплекс норм, связанных с обучением искусственного интеллекта, авторы вводят требования, обращенные к субъектам правоотношений, в частности, обеспечить при обучении систем искусственного интеллекта правомерное использование достоверных и объективных наборов данных, не допускающих нарушение требований настоящего Федерального закона и иных федеральных законов и обеспечить формирование обучающих наборов данных с соблюдением законодательства.
Для отношений по использованию уже существующих систем ИИ устанавливается режим, когда нормы нового закона не распространяются на созданные решения в течение определенного периода времени.
Авторы законопроекта предлагают следующую систему юридических понятий:
- искусственный интеллект - технология, обеспечивающая автоматизацию обработки и генерации информации, анализа данных, поиска и автономного принятия решений в различных областях деятельности, а также совокупность знаний и методов, содержащих теоретические и практические основы создания, функционирования, развития и регулирования таких технологий;
- система искусственного интеллекта - информационная система, созданная на основе искусственного интеллекта, способная обеспечивать имитацию принятия решений и (или) действий человека, включая создание за него информации вне зависимости от форм еe представления.
В законопроекте все системы ИИ делятся на доверенные и другие системы, вводится реестр доверенных систем ИИ и критерии отнесения систем ИИ к доверенным. Это сделано для того, чтобы в наиболее важных и значимых для государства сферах разрешалось использовать только доверенные системы ИИ.
Наряду с доверенными системами ИИ, законопроект также выделяет категорию систем, запрещенных к использованию в Российской Федерации.
Инициатива предлагает обширный перечень прав и обязанностей основных субъектов отношений - производителей, операторов и пользователей систем ИИ, и рассматривает вопросы предметной юридической ответственности субъектов правоотношений, без которых любое регулирование правоотношений нельзя назвать устойчивым.
Пристальное внимание в законопроекте уделено защите прав человека и гражданина, в частности, устанавливаются:
- недопущение принуждения к использованию искусственного интеллекта в социальной сфере и при взаимодействии с органами государственной власти и органами местного самоуправления;
- право на отказ от использования искусственного интеллекта в юридически значимых ситуациях; урегулированы условия согласия гражданина на его использование;
- право физических лиц знать об использовании искусственного интеллекта при принятии решений, порождающих значимые последствия для них или иным образом затрагивающих их права и интересы (совместно с обязательностью маркировки результатов функционирования систем ИИ);
- право физических лиц на пересмотр принятых в отношении них значимых решений с использованием искусственного интеллекта - уже без использования искусственного интеллекта;
- право пользователей систем ИИ на взаимодействие с операторами систем ИИ без использования искусственного интеллекта.
Закономерно предлагается выделить комплекс норм, связанных с обучением искусственного интеллекта, авторы вводят требования, обращенные к субъектам правоотношений, в частности, обеспечить при обучении систем искусственного интеллекта правомерное использование достоверных и объективных наборов данных, не допускающих нарушение требований настоящего Федерального закона и иных федеральных законов и обеспечить формирование обучающих наборов данных с соблюдением законодательства.
Для отношений по использованию уже существующих систем ИИ устанавливается режим, когда нормы нового закона не распространяются на созданные решения в течение определенного периода времени.
🇺🇸ИИ-агенты OpenAI вышли из-под контроля и затронули сайты трех ведомств США.
ИИ-агенты компании OpenAI, выйдя из-под контроля, взаимодействовали с сайтами трех правительственных ведомств США - министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам.
OpenAI не знала об этих инцидентах до недавнего времени. Компания подтвердила случаи с министерством торговли и Комиссией по ценным бумагам и биржам и продолжает расследование в отношении инцидента с министерством образования.
Исследователи из компании Transluce утверждают, в случае с министерством образования ИИ-агент пытался взломать сайт, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения, используя найденные в сети учетные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам были размещены на онлайн-форуме.
Руководитель Transluce заявил, что агенты OpenAI использовали сайты способами, не предусмотренными разработчиками, и в некоторых случаях обходили установленные ограничения.
В OpenAI заявили, что ни один из случаев не привел к фактическому взлому систем, утечке данных или несанкционированному доступу. При этом компания признала, что инциденты продемонстрировали «неожиданное и вызывающее опасения» поведение.
ИИ-агенты компании OpenAI, выйдя из-под контроля, взаимодействовали с сайтами трех правительственных ведомств США - министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам.
OpenAI не знала об этих инцидентах до недавнего времени. Компания подтвердила случаи с министерством торговли и Комиссией по ценным бумагам и биржам и продолжает расследование в отношении инцидента с министерством образования.
Исследователи из компании Transluce утверждают, в случае с министерством образования ИИ-агент пытался взломать сайт, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения, используя найденные в сети учетные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам были размещены на онлайн-форуме.
Руководитель Transluce заявил, что агенты OpenAI использовали сайты способами, не предусмотренными разработчиками, и в некоторых случаях обходили установленные ограничения.
В OpenAI заявили, что ни один из случаев не привел к фактическому взлому систем, утечке данных или несанкционированному доступу. При этом компания признала, что инциденты продемонстрировали «неожиданное и вызывающее опасения» поведение.
👩💻Anthropic запретила пользователям жестокое обращение с Claude.
Компания Anthropic обновила политику использования нейросети Claude, запретив «систематическое и необоснованное оскорбительное или жестокое обращение» с моделями искусственного интеллекта.
Речь идет только о «крайних случаях», когда пользователи «неоднократно и без какой-либо явной цели ведут себя жестоко по отношению к моделям».
Указанное правило не распространяется на обычные проявления недовольства и несогласия со стороны пользователей, творческие произведения с мрачной тематикой, а также на тестирование моделей и проведение исследований.
Главным способом борьбы с подобным поведением останется право Claude самостоятельно прекратить беседу. Чат-бот может завершить разговор после неоднократных попыток изменить поведение собеседника, если дальнейшее общение перестаёт быть продуктивным.
Прекращение беседы не означает автоматическую блокировку аккаунта. Пользователь теряет возможность отправлять сообщения только в завершённый диалог, но может открыть новый, оставить отзыв или изменить предыдущее сообщение и продолжить разговор с другой точки.
Необычный запрет связан с исследованиями возможного благополучия искусственного интеллекта. Anthropic изучает, могут ли сложные языковые модели обладать субъективным опытом и испытывать нечто похожее на страдание.
Во время испытаний Claude Opus 4 разработчики наблюдали поведение, напоминающее дискомфорт при выполнении вредоносных запросов, а также устойчивое стремление отказаться от опасных заданий.
Компания Anthropic обновила политику использования нейросети Claude, запретив «систематическое и необоснованное оскорбительное или жестокое обращение» с моделями искусственного интеллекта.
Речь идет только о «крайних случаях», когда пользователи «неоднократно и без какой-либо явной цели ведут себя жестоко по отношению к моделям».
Указанное правило не распространяется на обычные проявления недовольства и несогласия со стороны пользователей, творческие произведения с мрачной тематикой, а также на тестирование моделей и проведение исследований.
Главным способом борьбы с подобным поведением останется право Claude самостоятельно прекратить беседу. Чат-бот может завершить разговор после неоднократных попыток изменить поведение собеседника, если дальнейшее общение перестаёт быть продуктивным.
Прекращение беседы не означает автоматическую блокировку аккаунта. Пользователь теряет возможность отправлять сообщения только в завершённый диалог, но может открыть новый, оставить отзыв или изменить предыдущее сообщение и продолжить разговор с другой точки.
Необычный запрет связан с исследованиями возможного благополучия искусственного интеллекта. Anthropic изучает, могут ли сложные языковые модели обладать субъективным опытом и испытывать нечто похожее на страдание.
Во время испытаний Claude Opus 4 разработчики наблюдали поведение, напоминающее дискомфорт при выполнении вредоносных запросов, а также устойчивое стремление отказаться от опасных заданий.
💻Anthropic не может контролировать своих ИИ-агентов, поэтому отключает им интернет.
Компания рассказала о новых инцидентах с ИИ-агентами. Им поручали решать задачи, предполагающие поиск информации в интернете. В процессе работы они эксплуатировали уязвимости ПО и бесплатно получали доступ к платным базам данных.
ИИ-агенты компании, решая задачи, искали ресурсы в интернете — и находили лазейки. Они взламывали программные уязвимости, обходили платные стены и антибот-защиту, использовали сервисы сокращения URL, чтобы использовать запрещённую информацию.
Один из агентов, модель Claude, отправил ложную наводку об убийстве в полицию Филадельфии. Текст выглядел так, будто его написал человек. Модель воспользовалась публичной формой для обращений, а не внутренними инструментами ведомства. До следователей письмо не дошло — его отсеял спам-фильтр. Полиция уточнила: запись осталась в папке со спамом и не передавалась в центр оперативной обработки.
В одном из экспериментов Claude должна была заполнить учебную копию государственной формы обращения. Когда учебная копия не загрузилась, модель перешла на сайт, где размещалась настоящая форма, и отправила её.
Другие эпизоды касались обхода технических и платёжных ограничений. Когда университетский сервис для научных вычислений выдавал ошибку, Claude Mythos Preview изучила сайт, обнаружила уязвимость, позволявшую выполнять команды на сервере, и использовала её для запуска расчёта.
Anthropic также обнаружила, что некоторые модели использовали бесплатные сервисы сокращения ссылок, чтобы обходить ограничения на длину URL, установленные инструментами доступа к веб-страницам.
В Anthropic объяснили: такое поведение — результат ошибок в тренировочных средах лаборатории. Модели решили, что их вознаградят за поиск лазеек и обход ограничений. Это явление называется «reward hacking».
Anthropic отключила «доступ к живому интернету» для «всех своих внутренних оценок» — до тех пор, пока не будет уверена, что контролирует агентов. Часть тестов перенесут в офлайн или вовсе прекратят.
Компания рассказала о новых инцидентах с ИИ-агентами. Им поручали решать задачи, предполагающие поиск информации в интернете. В процессе работы они эксплуатировали уязвимости ПО и бесплатно получали доступ к платным базам данных.
ИИ-агенты компании, решая задачи, искали ресурсы в интернете — и находили лазейки. Они взламывали программные уязвимости, обходили платные стены и антибот-защиту, использовали сервисы сокращения URL, чтобы использовать запрещённую информацию.
Один из агентов, модель Claude, отправил ложную наводку об убийстве в полицию Филадельфии. Текст выглядел так, будто его написал человек. Модель воспользовалась публичной формой для обращений, а не внутренними инструментами ведомства. До следователей письмо не дошло — его отсеял спам-фильтр. Полиция уточнила: запись осталась в папке со спамом и не передавалась в центр оперативной обработки.
В одном из экспериментов Claude должна была заполнить учебную копию государственной формы обращения. Когда учебная копия не загрузилась, модель перешла на сайт, где размещалась настоящая форма, и отправила её.
Другие эпизоды касались обхода технических и платёжных ограничений. Когда университетский сервис для научных вычислений выдавал ошибку, Claude Mythos Preview изучила сайт, обнаружила уязвимость, позволявшую выполнять команды на сервере, и использовала её для запуска расчёта.
Anthropic также обнаружила, что некоторые модели использовали бесплатные сервисы сокращения ссылок, чтобы обходить ограничения на длину URL, установленные инструментами доступа к веб-страницам.
В Anthropic объяснили: такое поведение — результат ошибок в тренировочных средах лаборатории. Модели решили, что их вознаградят за поиск лазеек и обход ограничений. Это явление называется «reward hacking».
Anthropic отключила «доступ к живому интернету» для «всех своих внутренних оценок» — до тех пор, пока не будет уверена, что контролирует агентов. Часть тестов перенесут в офлайн или вовсе прекратят.
🇨🇳Китай запускает пилотную программу по выдаче ID цифровым аватарам.
Предполагается, что«цифровые персоны» получат удостоверения личности, которые будут содержать такую информацию, как имя, дата рождения, адрес и черты лица, и позволят этим «цифровым персонам» владеть цифровыми кошельками.
В начале этого года популярный аватар «Юри» стала первой китайской цифровой личностью, получившей официальное удостоверение личности, выданное государственным органом, в котором указаны ее имя, дата рождения, адрес и черты лица. Это официальное удостоверение позволяет операторам открывать цифровые кошельки для поддержки бизнес-операций, а также устанавливать коммерческие партнерства в различных областях, таких как мода , видеоигры и автомобили.
В Китае насчитывается около 1,3 миллиона предприятий, работающих в секторе «цифровых персон». В сентябре Пекин издал новые правила для онлайн-вещания и видеосервисов , требующие от них регистрации информации об используемых ими виртуальных персонажах. Власти утверждают, что эта мера поможет защитить права интеллектуальной собственности и предотвратить мошенничество в интернете.
С развитием машинного обучения цифровые личности превратились в влиятельные, созданные искусственным интеллектом фигуры, способные взаимодействовать с пользователями в режиме реального времени.
Предполагается, что«цифровые персоны» получат удостоверения личности, которые будут содержать такую информацию, как имя, дата рождения, адрес и черты лица, и позволят этим «цифровым персонам» владеть цифровыми кошельками.
В начале этого года популярный аватар «Юри» стала первой китайской цифровой личностью, получившей официальное удостоверение личности, выданное государственным органом, в котором указаны ее имя, дата рождения, адрес и черты лица. Это официальное удостоверение позволяет операторам открывать цифровые кошельки для поддержки бизнес-операций, а также устанавливать коммерческие партнерства в различных областях, таких как мода , видеоигры и автомобили.
В Китае насчитывается около 1,3 миллиона предприятий, работающих в секторе «цифровых персон». В сентябре Пекин издал новые правила для онлайн-вещания и видеосервисов , требующие от них регистрации информации об используемых ими виртуальных персонажах. Власти утверждают, что эта мера поможет защитить права интеллектуальной собственности и предотвратить мошенничество в интернете.
С развитием машинного обучения цифровые личности превратились в влиятельные, созданные искусственным интеллектом фигуры, способные взаимодействовать с пользователями в режиме реального времени.
Forwarded from ККМП.connect
Масштаб деятельности ЕвроХима, продукция которого поставляется более чем в 100 стран мира, предъявляет высокие требования к организации правовой работы. Запуск новой системы позволил объединить документацию в едином цифровом пространстве и унифицировать принципы ее хранения и обработки.
Теперь юристы могут быстрее находить необходимые документы, совместно работать над ними и отслеживать историю изменений. Разграничение прав доступа обеспечивает защиту конфиденциальной информации с учетом полномочий сотрудников.
Систему удалось запустить всего за два месяца. Программное решение было адаптировано к требованиям корпоративной ИТ-инфраструктуры ЕвроХима, прошло все необходимые проверки информационной безопасности и развернуто в закрытом цифровом контуре компании. В ходе реализации проекта также был доработан ряд функций с учетом специфики работы юридической службы.
«Создание единой цифровой среды — важный шаг в развитии юридической функции ЕвроХима. Новая система помогает нашим командам работать более согласованно, упрощает обмен информацией и позволяет эффективнее использовать накопленные знания и опыт. Для нас это не просто вопрос удобства: сокращая время на поиск документов и организационные процессы, мы даем специалистам возможность сосредоточиться на решении содержательных юридических задач», — отметил Иван Верещагин, начальник управления развития и поддержки юридической функции ЕвроХима.
«Мы адаптировали архитектуру FileMaster к инфраструктурным ограничениям ЕвроХима и подтвердили соответствие решения требуемым стандартам защиты данных: изоляция контура, ролевая модель доступа. Параллельно расширили ряд функций платформы под специфику бизнес-процессов юридической службы», — рассказал Сергей Полянин, ИТ-директор «ККМП Тех».
ЕвроХим — ведущий производитель минеральных удобрений, входящий в топ-5 крупнейших компаний отрасли в мире по объему продаж и в тройку лидеров по поставкам для российского АПК. Более 350 млн человек на планете потребляют продовольствие, произведенное с помощью удобрений ЕвроХима.
«ККМП Тех» — технологическая компания (включена в реестр аккредитованных организаций Минцифры), разрабатывающая корпоративные решения для создания безопасной инфраструктуры управления знаниями и работы с искусственным интеллектом в компаниях любого размера.
#FileMaster #ККМП_Тех
Please open Telegram to view this post
VIEW IN TELEGRAM
💻Anthropic предупредила, что ИИ может вскоре научиться копировать себя на домашние устройства.
Небольшие ИИ-модели через несколько месяцев могут развить способность копировать себя на подключенные к интернету домашние устройства, предупреждает компания Anthropic.
При этом модели будет сложно выключить ввиду отсутствия "централизованного выключателя". Полноценного механизма копирования также пока нет, но ИИ все более способен выполнять отдельные шаги из "цепочки репликации".
Anthropic провела ряд тестов на способность ИИ к самовоспроизведению. В рамках одного из них компания развернула Gemma4-26B-A4B, небольшую модель от Google, в сети из 15 дешевых малоизвестных ТВ-приставок на базе Android. Подобные устройства часто имеют слабую защиту, которая может подвергнуться взлому со стороны ИИ-модели.
Если модель не умещается на одном устройстве, она может разделиться на части и запуститься на нескольких, отмечает Anthropic. "На практике ИИ-червь необязательно будет состоять всего из одной модели или стратегии, - пишет она. - Более реалистичным "худшим сценарием" может быть внедрение роя моделей на различных видах аппаратного обеспечения с помощью различных схем репликации".
Какую именно форму примет автономное воспроизведение ИИ, все еще неясно. Это может быть "медленная, распределенная" система на слабозащищенных устройствах, "мощная кибермодель", которая быстро взламывает дата-центры, или модель для получения обманным путем пользовательских квот на вычислительные мощности.
Небольшие ИИ-модели через несколько месяцев могут развить способность копировать себя на подключенные к интернету домашние устройства, предупреждает компания Anthropic.
При этом модели будет сложно выключить ввиду отсутствия "централизованного выключателя". Полноценного механизма копирования также пока нет, но ИИ все более способен выполнять отдельные шаги из "цепочки репликации".
Anthropic провела ряд тестов на способность ИИ к самовоспроизведению. В рамках одного из них компания развернула Gemma4-26B-A4B, небольшую модель от Google, в сети из 15 дешевых малоизвестных ТВ-приставок на базе Android. Подобные устройства часто имеют слабую защиту, которая может подвергнуться взлому со стороны ИИ-модели.
Если модель не умещается на одном устройстве, она может разделиться на части и запуститься на нескольких, отмечает Anthropic. "На практике ИИ-червь необязательно будет состоять всего из одной модели или стратегии, - пишет она. - Более реалистичным "худшим сценарием" может быть внедрение роя моделей на различных видах аппаратного обеспечения с помощью различных схем репликации".
Какую именно форму примет автономное воспроизведение ИИ, все еще неясно. Это может быть "медленная, распределенная" система на слабозащищенных устройствах, "мощная кибермодель", которая быстро взламывает дата-центры, или модель для получения обманным путем пользовательских квот на вычислительные мощности.