В понедельник Федеральный регулятор по надзору в сфере связи, информационных технологий и массовых коммуникаций, сокращенно называемый Роскомнадзор или РКН, провел встречу с компаниями-разработчиками ПО, куда пригласили и меня.
Ну, о самой встрече я писать не буду — информация уже есть на просторах Рунета.
На мой вопрос об эффективности блокировок высокий чиновник ответил, что они находят блокировки успешными. Я задала вопрос присутствующим, кто из них общается в Телеграме. Все подняли руки.
- Ну что, — сказал председательствующий — тогда у вас и проблем нет.
Ответ остроумный, конечно. Но всё-таки я не перестаю думать о целесообразности траты времени и государственных средств на то, что вообще не работает.
РКН говорит, что является просто техническим исполнителем и выполняет волю других регулирующих органов. Каких именно, правда, нам выяснить не удалось — мол, сами знаете. Мы не знаем. Но дело даже не в органе.
Должен ли технический исполнитель бессловесно и без возражений исполнять всё ему порученное?
Приведу два примера.
В былые времена был у нас вертолёт (как говорится, когда были деньги). И летали мы с пилотом в разные точки Подмосковья. Потом продали его и рады. Вертолёт — транспорт ненадёжный. То погодные условия не подходят, то диспетчер лететь запретит. Несколько раз бывало, что мы почти долетали до места, а потом пилот разворачивал борт и летел обратно. Однажды попали в туман за 10 км до точки посадки, обратно лететь 80 км, а пилот развернул вертолёт, и нам пришлось ехать до места по земле 4 часа. Было крайне обидно, но что делать — спорить с пилотом было бесполезно. Это командир воздушного судна. Он решает, лететь или нет. Хотя, казалось бы, он — подчинённый, исполнитель, получающий у нас зарплату. Но он осознавал свою ответственность в рамках имеющейся у него компетенции.
А вот наш другой знакомый пилот и товарищ Дмитрий Ракитский — суперпилот, шеф-пилот Хелипорта, с 30-летним опытом безаварийных полётов и 16 тысячами часов налёта — как-то один раз послушался уговоров нанимателя и полетел в тумане вечером. Сейчас вместе с нанимателем и его женой они покоятся на дне Телецкого озера.
Другой пример. Я даю начальнику службы ИТ задание автоматизировать некий бизнес-процесс. И вполне осознаю, что я могу получить от него три варианта ответа:
1. Моё требование технически невозможно и/или практически вредно реализовать;
2. Можем сделать, будет стоить столько-то дополнительных денег и времени;
3. Да, легко. Завтра реализуем в рамках текущего бюджета.
Заключение о невозможности или нецелесообразности реализовать данную задачу я получаю крайне редко, но бывает. Тогда я либо переформулирую запрос, либо решаю пока не запускать этот проект.
В обоих примерах исполнители принимают на себя ответственность в рамках своих компетенций и могут выдать своему начальнику отрицательный ответ и отказаться делать то, что делать неправильно.
Почему же РКН не может сказать о невозможности блокировки некоторых ресурсов, вроде Телеграма и VPN, тому органу, который нельзя называть? Пилот может, разработчик может, а РКН не может?
Это — профессиональный орган, где работают крутые специалисты в области связности сетей и блокировки плохого контента, которые не могут не понимать, что реализуемо, а что — нет, что полезно и достигнет заданных целей, а что вредно.
Мы же видим, что ТСПУ работает всё хуже, блокировки результата не достигают. Вся страна поднимет руки, если спросить, есть ли у них доступ в Телеграм или к другим заблокированным ресурсам.
Эскалация — вплоть до ковровой блокировки протоколов и сколько-нибудь подозрительного трафика — ухудшает связность сетей в стране. А исполнитель продолжает делать всё то же самое, не взирая на негодный результат.
Прямо, как в анекдоте:
Директор колхоза говорит на собрании: «Об прошлом годе мы посеяли 10 га кукурузы, всё пожрала тля. Об этом годе мы посеяли 20 га кукурузы, всё пожрала тля. В будущем годе мы посеем 40 га кукурузы, нехай сволочь подавится!».
Я всё понимаю про «мы люди подневольные», «мы чиновники», «мы исполнители», «у нас задача», «делаем, что можем, что приказано». Но хотелось бы, чтобы у исполнителя такого уровня была хоть какая-то субъектность, сопротивляемость.
Чтобы РКН мог объяснить неназываемым начальникам, что не всё реализуемо и не всё полезно, проявлял техническую честность и упругость.
Как известно, опираться можно только на то, что сопротивляется.
P.S. Кстати говоря, ВЦИОМУ или Медиоскопу было бы неплохо провести исследование — сколько граждан используют VPN и имеют доступ в Телеграм. Чтобы получить реальную картину результата блокировок.
Ну, о самой встрече я писать не буду — информация уже есть на просторах Рунета.
На мой вопрос об эффективности блокировок высокий чиновник ответил, что они находят блокировки успешными. Я задала вопрос присутствующим, кто из них общается в Телеграме. Все подняли руки.
- Ну что, — сказал председательствующий — тогда у вас и проблем нет.
Ответ остроумный, конечно. Но всё-таки я не перестаю думать о целесообразности траты времени и государственных средств на то, что вообще не работает.
РКН говорит, что является просто техническим исполнителем и выполняет волю других регулирующих органов. Каких именно, правда, нам выяснить не удалось — мол, сами знаете. Мы не знаем. Но дело даже не в органе.
Должен ли технический исполнитель бессловесно и без возражений исполнять всё ему порученное?
Приведу два примера.
В былые времена был у нас вертолёт (как говорится, когда были деньги). И летали мы с пилотом в разные точки Подмосковья. Потом продали его и рады. Вертолёт — транспорт ненадёжный. То погодные условия не подходят, то диспетчер лететь запретит. Несколько раз бывало, что мы почти долетали до места, а потом пилот разворачивал борт и летел обратно. Однажды попали в туман за 10 км до точки посадки, обратно лететь 80 км, а пилот развернул вертолёт, и нам пришлось ехать до места по земле 4 часа. Было крайне обидно, но что делать — спорить с пилотом было бесполезно. Это командир воздушного судна. Он решает, лететь или нет. Хотя, казалось бы, он — подчинённый, исполнитель, получающий у нас зарплату. Но он осознавал свою ответственность в рамках имеющейся у него компетенции.
А вот наш другой знакомый пилот и товарищ Дмитрий Ракитский — суперпилот, шеф-пилот Хелипорта, с 30-летним опытом безаварийных полётов и 16 тысячами часов налёта — как-то один раз послушался уговоров нанимателя и полетел в тумане вечером. Сейчас вместе с нанимателем и его женой они покоятся на дне Телецкого озера.
Другой пример. Я даю начальнику службы ИТ задание автоматизировать некий бизнес-процесс. И вполне осознаю, что я могу получить от него три варианта ответа:
1. Моё требование технически невозможно и/или практически вредно реализовать;
2. Можем сделать, будет стоить столько-то дополнительных денег и времени;
3. Да, легко. Завтра реализуем в рамках текущего бюджета.
Заключение о невозможности или нецелесообразности реализовать данную задачу я получаю крайне редко, но бывает. Тогда я либо переформулирую запрос, либо решаю пока не запускать этот проект.
В обоих примерах исполнители принимают на себя ответственность в рамках своих компетенций и могут выдать своему начальнику отрицательный ответ и отказаться делать то, что делать неправильно.
Почему же РКН не может сказать о невозможности блокировки некоторых ресурсов, вроде Телеграма и VPN, тому органу, который нельзя называть? Пилот может, разработчик может, а РКН не может?
Это — профессиональный орган, где работают крутые специалисты в области связности сетей и блокировки плохого контента, которые не могут не понимать, что реализуемо, а что — нет, что полезно и достигнет заданных целей, а что вредно.
Мы же видим, что ТСПУ работает всё хуже, блокировки результата не достигают. Вся страна поднимет руки, если спросить, есть ли у них доступ в Телеграм или к другим заблокированным ресурсам.
Эскалация — вплоть до ковровой блокировки протоколов и сколько-нибудь подозрительного трафика — ухудшает связность сетей в стране. А исполнитель продолжает делать всё то же самое, не взирая на негодный результат.
Прямо, как в анекдоте:
Директор колхоза говорит на собрании: «Об прошлом годе мы посеяли 10 га кукурузы, всё пожрала тля. Об этом годе мы посеяли 20 га кукурузы, всё пожрала тля. В будущем годе мы посеем 40 га кукурузы, нехай сволочь подавится!».
Я всё понимаю про «мы люди подневольные», «мы чиновники», «мы исполнители», «у нас задача», «делаем, что можем, что приказано». Но хотелось бы, чтобы у исполнителя такого уровня была хоть какая-то субъектность, сопротивляемость.
Чтобы РКН мог объяснить неназываемым начальникам, что не всё реализуемо и не всё полезно, проявлял техническую честность и упругость.
Как известно, опираться можно только на то, что сопротивляется.
P.S. Кстати говоря, ВЦИОМУ или Медиоскопу было бы неплохо провести исследование — сколько граждан используют VPN и имеют доступ в Телеграм. Чтобы получить реальную картину результата блокировок.
❤26.8K👍7.88K💯4.45K🔥1.69K🥴124😐50😁1
На этой неделе мне довелось принять участие в ИТ-Форуме стран БРИКС, который проходил в Ханты-Мансийске. Это прекрасный маленький город, выросший в несколько раз за последние 30 лет, очень богатый, ухоженный, с множеством новых добротных домов, как частных, так и многоэтажных.
В городе много музеев, мост в виде красного дракона, парк Победы. Одной из главных достопримечательностей города является Поляна мамонтов. Это около двух десятков скульптур вымерших доисторических животных из бронзы двух-трёхметрового роста (мамонты в натуральную величину, а бизоны и саблезубые тигры в полтора раза больше). Судя по тому, что выступающие части — рога и носы — у некоторых статуй отполированы до блеска множеством суеверных рук, Поляну посещают тысячи людей.
Возвращаюсь к ИТ-форуму. Он был про всё хорошее в международном и страновом ИТ. На пленарной дискуссии обсуждали цифровизацию государств с участием представителей Уругвая, Зимбабве, Анголы и других развитых ИТ-держав.
Много сессий было посвящено ИИ – куда ж без него, но затронули и тему информационной безопасности, хотя последнее время она стала как-то менее модной, отодвинутая на второй план генеративным искусственным интеллектом.
Вечером для ВИП-гостей были организованы экскурсии на корабликах по Иртышу до слияния с Обью – это местная достопримечательность.
Различить слияние рек визуально сложно – нет такого заметного различия вод по цвету, как например, у Оки и Волги при слиянии на Стрелке в Нижнем Новгороде. Поэтому местные власти поставили на слиянии маленькую часовню, которая плавает на понтоне, как буй. Часовню освятил сам патриарх.
Меня поместили на корабль с нашими иностранными гостями. Поначалу всё было очень официально, с переводчиками, прекрасно сервированным столом и официальными тостами. Но на обратном пути, после десятка тостов, переводчики остались без работы, все перешли на английский и расстались мы совершеннейшими друзьями.
А утром 18 июня у меня был рейс в Москву. Самолёт Аэрофлота должен был вылететь в 6.55 утра, а вылетел в 18.10 из-за мощнейшей атаки дронов на столицу. Пока мы с коллегами сидели в аэропорту, по телевизору показывали развлекательный контент, перемежающийся новостями про прошедший форум и про то, что правительство должно в ближайшее время разработать КПЭ по ИИ для госучреждений, всякое прочее как бы очень важное и интересное про мирную жизнь.
И я подумала, что у нас как будто две жизни параллельно – в одной форумы, делегации иностранных гостей, КПЭ для мирного ИИ, а в другой – дроны, ракетные атаки всё глубже в регионы России, смерть, кровь, война. Точно ли нам нужны в этой жизни КПЭ по ИИ для госучреждений?
Чем нам поможет на войне «генеративный ИИ для госучреждений», то есть автоматическое облегчение нелёгкого труда чиновников по общению со склочным подмандатным населением, которому всегда чего-то надо? Обеспечение чиновникам автоматической генерации квартальных отчётов о подготовке мозговых штурмов по планам создания дорожной карты по написанию стратегии внедрения КПЭ цифровизации?
На мой взгляд, сейчас усилия правительства и Минцифры в области ИИ и «цифры» должны быть направлены на создание многоуровневой эшелонированной системы защиты регионов России, в том числе самых дальних.
Система должна включать радарные и акустические поля для обнаружения дронов и ракет, ИИ для предсказания их маршрутов, автоматическое управление огневыми группами для перехвата маршрутов дронов (на манер Яндекс-такси), автоматические средства наведения ПВО и т.п. Вот где жизненно важен искусственный интеллект и КПЭ по его внедрению.
В городе много музеев, мост в виде красного дракона, парк Победы. Одной из главных достопримечательностей города является Поляна мамонтов. Это около двух десятков скульптур вымерших доисторических животных из бронзы двух-трёхметрового роста (мамонты в натуральную величину, а бизоны и саблезубые тигры в полтора раза больше). Судя по тому, что выступающие части — рога и носы — у некоторых статуй отполированы до блеска множеством суеверных рук, Поляну посещают тысячи людей.
Возвращаюсь к ИТ-форуму. Он был про всё хорошее в международном и страновом ИТ. На пленарной дискуссии обсуждали цифровизацию государств с участием представителей Уругвая, Зимбабве, Анголы и других развитых ИТ-держав.
Много сессий было посвящено ИИ – куда ж без него, но затронули и тему информационной безопасности, хотя последнее время она стала как-то менее модной, отодвинутая на второй план генеративным искусственным интеллектом.
Вечером для ВИП-гостей были организованы экскурсии на корабликах по Иртышу до слияния с Обью – это местная достопримечательность.
Различить слияние рек визуально сложно – нет такого заметного различия вод по цвету, как например, у Оки и Волги при слиянии на Стрелке в Нижнем Новгороде. Поэтому местные власти поставили на слиянии маленькую часовню, которая плавает на понтоне, как буй. Часовню освятил сам патриарх.
Меня поместили на корабль с нашими иностранными гостями. Поначалу всё было очень официально, с переводчиками, прекрасно сервированным столом и официальными тостами. Но на обратном пути, после десятка тостов, переводчики остались без работы, все перешли на английский и расстались мы совершеннейшими друзьями.
А утром 18 июня у меня был рейс в Москву. Самолёт Аэрофлота должен был вылететь в 6.55 утра, а вылетел в 18.10 из-за мощнейшей атаки дронов на столицу. Пока мы с коллегами сидели в аэропорту, по телевизору показывали развлекательный контент, перемежающийся новостями про прошедший форум и про то, что правительство должно в ближайшее время разработать КПЭ по ИИ для госучреждений, всякое прочее как бы очень важное и интересное про мирную жизнь.
И я подумала, что у нас как будто две жизни параллельно – в одной форумы, делегации иностранных гостей, КПЭ для мирного ИИ, а в другой – дроны, ракетные атаки всё глубже в регионы России, смерть, кровь, война. Точно ли нам нужны в этой жизни КПЭ по ИИ для госучреждений?
Чем нам поможет на войне «генеративный ИИ для госучреждений», то есть автоматическое облегчение нелёгкого труда чиновников по общению со склочным подмандатным населением, которому всегда чего-то надо? Обеспечение чиновникам автоматической генерации квартальных отчётов о подготовке мозговых штурмов по планам создания дорожной карты по написанию стратегии внедрения КПЭ цифровизации?
На мой взгляд, сейчас усилия правительства и Минцифры в области ИИ и «цифры» должны быть направлены на создание многоуровневой эшелонированной системы защиты регионов России, в том числе самых дальних.
Система должна включать радарные и акустические поля для обнаружения дронов и ракет, ИИ для предсказания их маршрутов, автоматическое управление огневыми группами для перехвата маршрутов дронов (на манер Яндекс-такси), автоматические средства наведения ПВО и т.п. Вот где жизненно важен искусственный интеллект и КПЭ по его внедрению.
❤8.01K💯4.8K👍2.01K🔥1.21K🥴19😐16😢1
Приложение 1. Проект ФЗ по ИИ.docx
1.5 MB
Я наконец нашла время прочитать новую версию законопроекта про ИИ. Его разослали по всем ФОИВам, в ГосДуму, некоторые партии и т.п. Ну, и естественно, как-то документ попал в прессу. Для желающих изучить — прилагаю.
Я споткнулась сразу же на определении большой фундаментальной модели ИИ. Вот оно:
«..большая фундаментальная модель искусственного интеллекта — программа для электронных вычислительных машин (их составных частей), предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуальной деятельности человека или превосходящем их, использующая алгоритмы и обучающаяся (ранее обученная) на наборах данных для выведения (распознавания) закономерностей, предоставления информации, принятия решений или прогнозирования результатов по заданным человеком целям, одновременно являющаяся основой для создания и доработки различных видов программного обеспечения, содержащая не менее 1 миллиарда параметров и применяемая для выполнения большого количества различных задач».
Данное определение прекрасно своей широтой. Например, под него полностью подходит определение программного обеспечения Microsoft Excel. Это программа для ЭВМ, решает сложные интеллектуальные задачи на уровне человека или круче (например, столбцы чисел любой длины складывает моментально), использует алгоритмы, обучается на наборах данных, которые туда вводит пользователь.
Эта программа, безусловно, используется для выведения закономерностей, принятия решений или прогнозирования результатов по заданным человеком целям. Она является основой для создания и доработки различных видов ПО — куча ПО действительно пишется с использованием Excel. В одном листе таблицы может быть до 17 миллиардов ячеек. Если каждую ячейку взять, как параметр (а определение, что такое параметр, в законопроекте отсутствует), то все — мы получили пример Большой Фундаментальной модели.
Неточность определения термина дает возможности по его широкому трактованию. Что, может быть, и неплохо, так как власти грозятся ввести КПЭ по внедрению ИИ региональным органам исполнительной власти и прочим госучреждениям. Но при таком определении можно взять Excel. или аналог и заявить — вот, мол, внедрили то, что полностью соответствует определению, на все наши компьютеры в организации — КПЭ выполнен на 100%!
Я споткнулась сразу же на определении большой фундаментальной модели ИИ. Вот оно:
«..большая фундаментальная модель искусственного интеллекта — программа для электронных вычислительных машин (их составных частей), предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуальной деятельности человека или превосходящем их, использующая алгоритмы и обучающаяся (ранее обученная) на наборах данных для выведения (распознавания) закономерностей, предоставления информации, принятия решений или прогнозирования результатов по заданным человеком целям, одновременно являющаяся основой для создания и доработки различных видов программного обеспечения, содержащая не менее 1 миллиарда параметров и применяемая для выполнения большого количества различных задач».
Данное определение прекрасно своей широтой. Например, под него полностью подходит определение программного обеспечения Microsoft Excel. Это программа для ЭВМ, решает сложные интеллектуальные задачи на уровне человека или круче (например, столбцы чисел любой длины складывает моментально), использует алгоритмы, обучается на наборах данных, которые туда вводит пользователь.
Эта программа, безусловно, используется для выведения закономерностей, принятия решений или прогнозирования результатов по заданным человеком целям. Она является основой для создания и доработки различных видов ПО — куча ПО действительно пишется с использованием Excel. В одном листе таблицы может быть до 17 миллиардов ячеек. Если каждую ячейку взять, как параметр (а определение, что такое параметр, в законопроекте отсутствует), то все — мы получили пример Большой Фундаментальной модели.
Неточность определения термина дает возможности по его широкому трактованию. Что, может быть, и неплохо, так как власти грозятся ввести КПЭ по внедрению ИИ региональным органам исполнительной власти и прочим госучреждениям. Но при таком определении можно взять Excel. или аналог и заявить — вот, мол, внедрили то, что полностью соответствует определению, на все наши компьютеры в организации — КПЭ выполнен на 100%!
👍3.39K❤1.17K🔥368💯259😐151🥴90👏3😁2
Еще в конце мая поговорили с «Коммерсантом» о безопасности в банках. О высоком уровне защиты в банковском и финансовом секторе, о новых типах атак, которые породила всеобщая цифровизация, об ИИ в банках – куда же без него!
О том, возможна ли вообще передача ответственности ИИ – например, при принятии решений о выдаче кредитов. И, конечно, о гигантских рисках и угрозах, которые несет использование генеративных ИИ-моделей.
Ссылка на интервью здесь и ниже, в посте «Коммерсанта».
О том, возможна ли вообще передача ответственности ИИ – например, при принятии решений о выдаче кредитов. И, конечно, о гигантских рисках и угрозах, которые несет использование генеративных ИИ-моделей.
Ссылка на интервью здесь и ниже, в посте «Коммерсанта».
Киберпреступники не могут ограбить банк, но они могут украсть ваши персональные данные, а потом, используя их, нацелиться на деньги.
В рамках проекта «Банкинг будущего» президент ГК InfoWatch и председатель правления АРПП «Отечественный софт» Наталья Касперская подробно разбирает главные угрозы для финансовых организаций и их клиентов сегодня и в будущем.
🎦 Запись интервью с Натальей Касперской доступна на нашем сайте.
«Банкинг будущего» — цикл интервью с визионерами российского рынка, который издательский дом «Коммерсантъ» реализует при экспертной поддержке ИТ-консалтинговой компании AXENIX.
❤2.49K👍300🔥42🥴9😐7
ФЗ_О_безопасном_использовании_ИИ_Наумов_26_04.docx
1.7 MB
Некоторые подписчики попросили меня опубликовать версию нашего законопроекта по ИИ. Прикладываю его к этому посту, вложение в самом начале. И хочу сделать несколько пояснений.
Примерно год назад сенатор Российской Федерации Владимир Игоревич Кожин организовал рабочую группу при комитете Конституционного строительства А. А. Клишаса по разработке законопроекта, ограничивающего рискованные внедрения генеративного искусственного интеллекта. В группу, в частности, вошли мой муж — Игорь Ашманов, который 40 лет занимается разработкой ИИ, Андрей Калинин, бывший директор направления ИИ в МТС, Виктор Наумов, один из лучших в стране юридических специалистов по ИТ. И еще несколько серьезных специалистов по ИИ из образовательных и научных учреждений. Ну, и меня позвали.
9 декабря 2025, на ежегодной встрече Президента страны с СПЧ, Игорь Ашманов выступил перед Президентом и рассказал о необходимости закона о безопасном использовании ИИ. Он сказал, что законопроект уже подготовлен рабочей группой под управлением В. И. Кожина и попросил поддержки. Владимир Владимирович инициативу поддержал.
Минцифры решила эту инициативу перехватить и выдала свой проект, направленный, как мне кажется, в основном на стимулирование развития ИИ-систем двух игроков — Яндекса и Сбербанка. Наша рабочая группа пыталась договориться с ведомством, встречались с замминистра Минцифры и даже с курирующим вице-премьером, чтобы как-то объединить наши два законопроекта. Это не удалось. Оба законопроекта были отвергнуты, причем выглядит все так, что они были отвергнуты именно большим бизнесом.
В июне Минцифры представило новый законопроект (определение из него мы разбирали неделю назад). Суть проекта полностью изменилась — вместо регулирования ИИ он теперь направлен на поддержку использования ИИ.
Зачем поддерживать использование — вообще непонятно, ведь можно просто пользоваться. Тем не менее, на прошлой неделе этот новый сырой документ уже был внесен в Госдуму в обход публичных слушаний.
Что касается нашей версии законопроекта, которую я прилагаю, то у него есть несколько особенностей:
1. Он никак не регулирует развитие технологии ИИ. На наш взгляд, технологии надо дать свободно развиваться, чтобы не допустить отставание, о котором предупреждают апологеты.
2. Законопроект вводит ограничения на применение ИИ в некоторых критических для граждан страны областях — образовании, государственном управлении, законотворчестве и пр., то есть в сферах, которые прямо влияют на жизнь людей.
3. Законопроект вводит понятие доверенного ИИ в расчете на то, что проверку на доверенность будут осуществлять ФСТЭК, ФСБ, а также Консорциум исследований безопасности технологий ИИ, куда входят ИСП РАН, НТЦ ЦК, Академия криптографии и более десятка компаний, занимающихся разработками в сфере ИИ.
Ограничение на применение ИИ и понятие доверенного ИИ — главные отличия от законопроекта Минцифры, поданного в Госдуму. Законопроект Минцифры ограничений на внедрение не вводит — можешь использовать вместо учебников, а можешь законы писать.
Понятия доверенного ИИ в их законопроекте нет. Есть понятие «суверенного» ИИ, которое определяется, по сути, по географическому признаку — создано на территории РФ. Но как снижается вероятность утечек данных, проводились ли тесты на достоверность, на каких наборах данных и как именно проводилось обучение и т.д. – это не вопросы происхождения технологии, а вопросы именно доверенности. Если всех этих проверок не делать, то мы получим внедрение иностранного ИИ на российские объекты со всеми сопутствующими рисками.
Как бы не пришлось потом долго и мучительно импортозамещаться….
Примерно год назад сенатор Российской Федерации Владимир Игоревич Кожин организовал рабочую группу при комитете Конституционного строительства А. А. Клишаса по разработке законопроекта, ограничивающего рискованные внедрения генеративного искусственного интеллекта. В группу, в частности, вошли мой муж — Игорь Ашманов, который 40 лет занимается разработкой ИИ, Андрей Калинин, бывший директор направления ИИ в МТС, Виктор Наумов, один из лучших в стране юридических специалистов по ИТ. И еще несколько серьезных специалистов по ИИ из образовательных и научных учреждений. Ну, и меня позвали.
9 декабря 2025, на ежегодной встрече Президента страны с СПЧ, Игорь Ашманов выступил перед Президентом и рассказал о необходимости закона о безопасном использовании ИИ. Он сказал, что законопроект уже подготовлен рабочей группой под управлением В. И. Кожина и попросил поддержки. Владимир Владимирович инициативу поддержал.
Минцифры решила эту инициативу перехватить и выдала свой проект, направленный, как мне кажется, в основном на стимулирование развития ИИ-систем двух игроков — Яндекса и Сбербанка. Наша рабочая группа пыталась договориться с ведомством, встречались с замминистра Минцифры и даже с курирующим вице-премьером, чтобы как-то объединить наши два законопроекта. Это не удалось. Оба законопроекта были отвергнуты, причем выглядит все так, что они были отвергнуты именно большим бизнесом.
В июне Минцифры представило новый законопроект (определение из него мы разбирали неделю назад). Суть проекта полностью изменилась — вместо регулирования ИИ он теперь направлен на поддержку использования ИИ.
Зачем поддерживать использование — вообще непонятно, ведь можно просто пользоваться. Тем не менее, на прошлой неделе этот новый сырой документ уже был внесен в Госдуму в обход публичных слушаний.
Что касается нашей версии законопроекта, которую я прилагаю, то у него есть несколько особенностей:
1. Он никак не регулирует развитие технологии ИИ. На наш взгляд, технологии надо дать свободно развиваться, чтобы не допустить отставание, о котором предупреждают апологеты.
2. Законопроект вводит ограничения на применение ИИ в некоторых критических для граждан страны областях — образовании, государственном управлении, законотворчестве и пр., то есть в сферах, которые прямо влияют на жизнь людей.
3. Законопроект вводит понятие доверенного ИИ в расчете на то, что проверку на доверенность будут осуществлять ФСТЭК, ФСБ, а также Консорциум исследований безопасности технологий ИИ, куда входят ИСП РАН, НТЦ ЦК, Академия криптографии и более десятка компаний, занимающихся разработками в сфере ИИ.
Ограничение на применение ИИ и понятие доверенного ИИ — главные отличия от законопроекта Минцифры, поданного в Госдуму. Законопроект Минцифры ограничений на внедрение не вводит — можешь использовать вместо учебников, а можешь законы писать.
Понятия доверенного ИИ в их законопроекте нет. Есть понятие «суверенного» ИИ, которое определяется, по сути, по географическому признаку — создано на территории РФ. Но как снижается вероятность утечек данных, проводились ли тесты на достоверность, на каких наборах данных и как именно проводилось обучение и т.д. – это не вопросы происхождения технологии, а вопросы именно доверенности. Если всех этих проверок не делать, то мы получим внедрение иностранного ИИ на российские объекты со всеми сопутствующими рисками.
Как бы не пришлось потом долго и мучительно импортозамещаться….
❤1.73K💯835👍223🔥71🥴24😐22👏1
О_законопроекте_МЦ_о_поддержке_развития_ИИ_РАЗБОР.docx
35.7 KB
Коль скоро мы начали обсуждать законопроект Минцифры РФ «О поддержке ИИ», то надо разобрать не только определение большой фундаментальной модели, которое мы разбирали на прошлой неделе, но и весь законопроект.
К сегодняшнему посту прилагаю разбор (вложение в начале поста), который мы сделали вместе с Игорем Ашмановым.
Краткие выводы из этого обзора следующие:
⬜️ Законопроект страдает декларативностью, терминологической несистемностью, избыточным делегированием полномочий Правительству РФ и принципиальным игнорированием вопросов безопасности.
⬜️ Проект фактически направлен на закрепление монопольного положения двух разработчиков ИИ — Сбербанка и Яндекс, которых ни в чём нельзя ни проверять, ни ограничивать.
⬜️ Из проекта выброшены любые ограничения или проверки ИИ на доверенность и безопасность, даже для критических применений. Само понятие доверенности ИИ также удалено полностью.
⬜️ В проекте практически полностью отсутствует защита прав граждан, в том числе права тайну частной жизни, на информированность, права на защиту от принятия автономных решений техническими системами относительно их прав и судеб, и отказ от использования ИИ.
5️⃣ Законопроект вторгается в область Гражданского Кодекса в сфере авторского права — делается попытка разрешить цифровым гигантам брать любой авторский материал «для обучения моделей», а по сути, бесплатно и произвольно использовать по своему усмотрению, без спроса или даже уведомления авторов.
6️⃣ Законопроект практически не содержит норм прямого действия, представляя собой пустую «рамку», то есть пытается подменить законодательную власть законотворчеством исполнительной власти путём последующего принятия несуществующих в настоящее время подзаконных актов в обход парламента.
ОБЩИЙ ВЫВОД:
Принятие законопроекта в таком виде закрепит отставание нашей страны и приведет к краху отечественной отрасли ИИ.
К сегодняшнему посту прилагаю разбор (вложение в начале поста), который мы сделали вместе с Игорем Ашмановым.
Краткие выводы из этого обзора следующие:
ОБЩИЙ ВЫВОД:
Принятие законопроекта в таком виде закрепит отставание нашей страны и приведет к краху отечественной отрасли ИИ.
Please open Telegram to view this post
VIEW IN TELEGRAM
💯4.83K❤2.27K👍1.46K🔥219🥴49😐45😱11😁2
Восьмого июля Госдума сразу во втором и третьем чтении (на следующий же день после принятия в первом чтении) приняла законопроект по поддержке ИИ. С момента внесения законопроекта в Госдуму и до момента его принятия прошло ровно 7 дней.
Никаких публичных обсуждений, никакого учета мнений экспертов. Терминология и формулировки не проработаны, отсутствуют требования по безопасности и соблюдению прав граждан, любая конкретика отнесена в подзаконные акты... Ничто не остановило законодателей от скоропостижной приёмки этого законопроекта.
Честно говоря, я не припомню законов в нашей ИТ-отрасли, которые бы принимались в такой спешке. Обычно второе и третье чтения используются для внесения изменений. Здесь ни буквы не изменили — да и как можно хоть что-то содержательно поправить и изменить за сутки?
При этом никаких ограничений по небезопасному или недопустимому использованию ИИ в критически и жизненно важных применениях законодатели решили не вводить (а точнее, выбросили их из первоначальных вариантов законопроекта).
Речь идёт только и исключительно о поддержке так называемых «больших фундаментальных моделей», которых в нашей стране ровно полторы штуки и больше пока не просматривается.
Заметим, кстати, что искусственный интеллект — вещь, безусловно, полезная в экономике, обороне, на транспорте, в правоохране — к «большим моделям» не сводится. Вся эта широкая сфера — распознавание, управление, предиктивная аналитика и др. — осталась в серой правовой зоне.
Глава комитета Госдумы по ИТ Сергей Боярский заявил, что «Главная цель этого законопроекта: простимулировать внедрение суверенных национальных моделей искусственного интеллекта во все сферы нашей жизни. Мы не можем проиграть гонку с Соединенными Штатами и Китаем за лидерство в этой области».
Сейчас в области фундаментальных моделей Россия серьёзно отстаёт и от США, и от Китая, что известно не только профессионалам, но и пользователям ИИ-моделей. Что изменится в развитии российского ИИ, если мы начнём принудительно внедрять эти модели «во все сферы нашей жизни»? Они сразу перестанут отставать от Запада? Требование по обязательному использованию (не разработке! к качеству разработки в законе требований нет) суверенно-национальных «моделей» везде, где можно, поднимет их качество на уровень иностранных аналогов (а точнее, оригиналов)? Что-то сомнительно.
Но зато примерно понятно, куда именно пойдут государственные средства на поддержку «искусственного интеллекта».
Вот тогда и заживём…
Никаких публичных обсуждений, никакого учета мнений экспертов. Терминология и формулировки не проработаны, отсутствуют требования по безопасности и соблюдению прав граждан, любая конкретика отнесена в подзаконные акты... Ничто не остановило законодателей от скоропостижной приёмки этого законопроекта.
Честно говоря, я не припомню законов в нашей ИТ-отрасли, которые бы принимались в такой спешке. Обычно второе и третье чтения используются для внесения изменений. Здесь ни буквы не изменили — да и как можно хоть что-то содержательно поправить и изменить за сутки?
При этом никаких ограничений по небезопасному или недопустимому использованию ИИ в критически и жизненно важных применениях законодатели решили не вводить (а точнее, выбросили их из первоначальных вариантов законопроекта).
Речь идёт только и исключительно о поддержке так называемых «больших фундаментальных моделей», которых в нашей стране ровно полторы штуки и больше пока не просматривается.
Заметим, кстати, что искусственный интеллект — вещь, безусловно, полезная в экономике, обороне, на транспорте, в правоохране — к «большим моделям» не сводится. Вся эта широкая сфера — распознавание, управление, предиктивная аналитика и др. — осталась в серой правовой зоне.
Глава комитета Госдумы по ИТ Сергей Боярский заявил, что «Главная цель этого законопроекта: простимулировать внедрение суверенных национальных моделей искусственного интеллекта во все сферы нашей жизни. Мы не можем проиграть гонку с Соединенными Штатами и Китаем за лидерство в этой области».
Сейчас в области фундаментальных моделей Россия серьёзно отстаёт и от США, и от Китая, что известно не только профессионалам, но и пользователям ИИ-моделей. Что изменится в развитии российского ИИ, если мы начнём принудительно внедрять эти модели «во все сферы нашей жизни»? Они сразу перестанут отставать от Запада? Требование по обязательному использованию (не разработке! к качеству разработки в законе требований нет) суверенно-национальных «моделей» везде, где можно, поднимет их качество на уровень иностранных аналогов (а точнее, оригиналов)? Что-то сомнительно.
Но зато примерно понятно, куда именно пойдут государственные средства на поддержку «искусственного интеллекта».
Вот тогда и заживём…
💯5.62K👍1.47K🥴641😐212❤143🔥82😢27😱16😁4
Media is too big
VIEW IN TELEGRAM
Вчера мы были в Суздале. Там всю неделю проходит Второй Летний фестиваль Дениса Мацуева, посвященный классической музыке. На вчерашнем концерте играла наша знакомая девочка — Полина Ерёмина. Полину я знаю с младенчества. Мы дружим с её родителями, и они приезжали к нам с Полиной на дачу, когда она ещё была грудничком. Потом родители завели собственную дачу, и видеться мы стали реже. А тут вот пригласили в Суздаль послушать дочь.
Последний раз мы Полю видели года три назад, она была обычным ребёнком, только сильно удивляла родителей своим увлечением игрой на фортепиано. А сейчас ей 9 лет. И она — пианист-виртуоз, выступает на фестивале, как солистка. Я, конечно, слышала от родителей про её успехи, но такого не ожидала. Прикладываю видео — качество не очень хорошее, но даёт представление, что творит эта удивительная девочка в свои 9 лет. Полина играет Баха вместе с Владимирским Губернаторским симфоническим оркестром.
Я не большой знаток фортепианной игры и не увидела большой разницы между исполнением Полины Ерёминой и знаменитого Народного артиста России Дениса Мацуева.
Это потрясающий талант и потрясающий труд. Три часа ежедневных (!) занятий без перерывов и каникул. Всем бы нам так работать, как 9-летней Полине, и все бы мы были тогда Денисами Мацуевыми. Хочу пожелать Полине удачи! Всё остальное — терпение, умение, настойчивость — у неё уже есть.
Последний раз мы Полю видели года три назад, она была обычным ребёнком, только сильно удивляла родителей своим увлечением игрой на фортепиано. А сейчас ей 9 лет. И она — пианист-виртуоз, выступает на фестивале, как солистка. Я, конечно, слышала от родителей про её успехи, но такого не ожидала. Прикладываю видео — качество не очень хорошее, но даёт представление, что творит эта удивительная девочка в свои 9 лет. Полина играет Баха вместе с Владимирским Губернаторским симфоническим оркестром.
Я не большой знаток фортепианной игры и не увидела большой разницы между исполнением Полины Ерёминой и знаменитого Народного артиста России Дениса Мацуева.
Это потрясающий талант и потрясающий труд. Три часа ежедневных (!) занятий без перерывов и каникул. Всем бы нам так работать, как 9-летней Полине, и все бы мы были тогда Денисами Мацуевыми. Хочу пожелать Полине удачи! Всё остальное — терпение, умение, настойчивость — у неё уже есть.
❤2.85K👍873👏310🔥262💯45🥴17😐9😢8😁5⚡2
Вышло мое новое интервью в ТАСС. Предыдущее было почти год назад, если не ошибаюсь.
В этот раз поговорили с журналистом о том, как меняются специальности в программировании из-за влияния ИИ, почему увольнения людей из-за того же ИИ неэффективны, а также о развитии российского ПО и о том, почему «зоопарк» из ИТ-решений с нами надолго.
Еще успели затронуть борьбу с мошенничеством и зарплаты в ИТ.
Кому интересно, ссылка здесь: https://tass.ru/interviews/27926649
В этот раз поговорили с журналистом о том, как меняются специальности в программировании из-за влияния ИИ, почему увольнения людей из-за того же ИИ неэффективны, а также о развитии российского ПО и о том, почему «зоопарк» из ИТ-решений с нами надолго.
Еще успели затронуть борьбу с мошенничеством и зарплаты в ИТ.
Кому интересно, ссылка здесь: https://tass.ru/interviews/27926649
❤1.56K👍572🔥161👏29🥴9⚡7😁4
Недавно стартовал прием заявок на соискание премии «За вклад в безопасность цифрового будущего». Премию запустила ассоциация по защите деловой информации (BISA), приурочив ее к BIS Summit — ежегодной конференции по информационной безопасности, которую знают и любят многие на рынке ИБ. Организаторами конференции уже почти 20 лет выступают BISA и InfoWatch.
Цель премии — поддержать проекты на стыке цифровизации и информационной безопасности, прошедшие испытание на практике. По моим ощущениям, это первая и пока единственная премия, организованная отраслевым профессиональным сообществом. По задумке организаторов проекты по цифровизации и информационной безопасности представлены в единой связке.
Участвовать можно в пяти номинациях по разным направлениям информационной безопасности. Есть номинации для руководителей, компаний, отдельных проектов, инициатив.
Оценивать конкурсные заявки будет экспертное жюри в состав которого вошли представители государства, бизнеса и профильные специалисты. Участие бесплатное.
Подробнее об условиях участия можно прочитать вот тут, прием заявок закроется в конце августа.
Цель премии — поддержать проекты на стыке цифровизации и информационной безопасности, прошедшие испытание на практике. По моим ощущениям, это первая и пока единственная премия, организованная отраслевым профессиональным сообществом. По задумке организаторов проекты по цифровизации и информационной безопасности представлены в единой связке.
Участвовать можно в пяти номинациях по разным направлениям информационной безопасности. Есть номинации для руководителей, компаний, отдельных проектов, инициатив.
Оценивать конкурсные заявки будет экспертное жюри в состав которого вошли представители государства, бизнеса и профильные специалисты. Участие бесплатное.
Подробнее об условиях участия можно прочитать вот тут, прием заявок закроется в конце августа.
👍1.33K❤91⚡25😐13😁11🥴4🔥1
Решила вернуться к полузабытой рубрике — вопросы из соцсетей. Пока выбрала два самых частых — про защиту своих данных от мошенников и о запрете смартфонов в школах. Присылать свои вопросы можно на kasperskaya@infowatch.com. Я выбираю самые частые или самые интересные и время от времени отвечаю.
Что вы посоветуете, чтобы защитить свои данные от утечек и мошенников?
Гарантированного ответа на этот вопрос, к сожалению, не имеется. То есть вы можете делать все правильно, а данные всё равно утекут или мошенники всё равно вас разведут. А можете годами не соблюдать правил обращения с данными – и не иметь инцидентов.
Но гигиена – на то и гигиена, чтобы снижать риски. Если вы чистите по утрам зубы, это не гарантирует, что у вас не будет кариеса. А вот если не чистите, то получите кариес почти гарантированно.
Принципы защиты информации, которые можно порекомендовать:
1. Любые облачные технологии (к ним относятся все мессенджеры и соцсети) хранят информацию на удаленных серверах, где вы ее контролировать не можете. Поэтому конфиденциальную информацию там лучше не хранить. Секретные или просто важные документы, фото паспорта и личные документы членов семьи – лучше хранить на компьютере в отдельном разделе.
2. По поводу смартфона: в принципе, смартфон умеет испускать информацию многими способами – через wi-fi, мобильные данные, P2P, Bluetooth. А также к данным на смартфоне может получить доступ производитель платформы и некоторых приложений. Контролировать все вы их не можете. Поэтому особо важную информацию на смартфоне лучше не хранить.
3. Аккуратно подходить к выкладыванию информации о себе в интернете. Люди любят выкладывать свои фото и комментарии к ним, по которым, на самом деле, о них много чего можно узнать, если кто-то захочет этим заняться. Вот вы на Бали (ага, значит, вас нет дома), вот ваше новое авто, вот вы – в дорогих украшениях (повод попытаться развести вашего ребёнка) и пр. Общий совет здесь простой. Чем меньше о вас знает интернет, тем сложнее мошенникам действовать против вас.
4. Совет про использование ИИ-моделей и агентов: люди почему-то относятся к ИИ с меньшим подозрением, часто загружая в модель конфиденциальную информацию. В этом случае можно гарантировать, что информация утечет. А всплыть она может в самый неподходящий момент и в самом неподходящем месте. Будьте аккуратнее с ИИ!
Что касается звонков или сообщений от мошенников, то рекомендаций, как действовать, полно в сети. Жалко, что они не очень помогают. Мошенники действуют всегда по-разному, постоянно изобретают новые схемы. Поэтому ниже я могу дать несколько рекомендаций самого общего характера.
1. Если Вы получили звонок от сотрудника из официальной организации, перезвоните по официальному телефону, чтобы уточнить поступившую информацию.
2. Помните: настоящие сотрудники госорганов и банков никогда не просят проверочные коды и другие личные данные и не настаивают на немедленном совершении каких-либо действий.
3. Немедленно прекратите разговор, если почувствовали давление или попытку выведать личные данные.
4. Если получили денежный перевод от неизвестного лица, сообщите об этом в банк.
5. Не доверяйте выгодным предложениям: слишком дешевым товарам; слишком легкому заработку; обещаниям нерыночных процентных ставок и т. п.
6. Заведите отдельные карты для оплаты покупок на маркетплейсах и других онлайн-площадках с минимальной суммой на них.
7. Договоритесь с близкими о секретных кодовых словах, которые помогут убедиться в реальности собеседника в ситуации подозрения на обман.
Что вы посоветуете, чтобы защитить свои данные от утечек и мошенников?
Гарантированного ответа на этот вопрос, к сожалению, не имеется. То есть вы можете делать все правильно, а данные всё равно утекут или мошенники всё равно вас разведут. А можете годами не соблюдать правил обращения с данными – и не иметь инцидентов.
Но гигиена – на то и гигиена, чтобы снижать риски. Если вы чистите по утрам зубы, это не гарантирует, что у вас не будет кариеса. А вот если не чистите, то получите кариес почти гарантированно.
Принципы защиты информации, которые можно порекомендовать:
1. Любые облачные технологии (к ним относятся все мессенджеры и соцсети) хранят информацию на удаленных серверах, где вы ее контролировать не можете. Поэтому конфиденциальную информацию там лучше не хранить. Секретные или просто важные документы, фото паспорта и личные документы членов семьи – лучше хранить на компьютере в отдельном разделе.
2. По поводу смартфона: в принципе, смартфон умеет испускать информацию многими способами – через wi-fi, мобильные данные, P2P, Bluetooth. А также к данным на смартфоне может получить доступ производитель платформы и некоторых приложений. Контролировать все вы их не можете. Поэтому особо важную информацию на смартфоне лучше не хранить.
3. Аккуратно подходить к выкладыванию информации о себе в интернете. Люди любят выкладывать свои фото и комментарии к ним, по которым, на самом деле, о них много чего можно узнать, если кто-то захочет этим заняться. Вот вы на Бали (ага, значит, вас нет дома), вот ваше новое авто, вот вы – в дорогих украшениях (повод попытаться развести вашего ребёнка) и пр. Общий совет здесь простой. Чем меньше о вас знает интернет, тем сложнее мошенникам действовать против вас.
4. Совет про использование ИИ-моделей и агентов: люди почему-то относятся к ИИ с меньшим подозрением, часто загружая в модель конфиденциальную информацию. В этом случае можно гарантировать, что информация утечет. А всплыть она может в самый неподходящий момент и в самом неподходящем месте. Будьте аккуратнее с ИИ!
Что касается звонков или сообщений от мошенников, то рекомендаций, как действовать, полно в сети. Жалко, что они не очень помогают. Мошенники действуют всегда по-разному, постоянно изобретают новые схемы. Поэтому ниже я могу дать несколько рекомендаций самого общего характера.
1. Если Вы получили звонок от сотрудника из официальной организации, перезвоните по официальному телефону, чтобы уточнить поступившую информацию.
2. Помните: настоящие сотрудники госорганов и банков никогда не просят проверочные коды и другие личные данные и не настаивают на немедленном совершении каких-либо действий.
3. Немедленно прекратите разговор, если почувствовали давление или попытку выведать личные данные.
4. Если получили денежный перевод от неизвестного лица, сообщите об этом в банк.
5. Не доверяйте выгодным предложениям: слишком дешевым товарам; слишком легкому заработку; обещаниям нерыночных процентных ставок и т. п.
6. Заведите отдельные карты для оплаты покупок на маркетплейсах и других онлайн-площадках с минимальной суммой на них.
7. Договоритесь с близкими о секретных кодовых словах, которые помогут убедиться в реальности собеседника в ситуации подозрения на обман.
❤1.81K👍591🔥63⚡29💯16😐5😁3👏2😱2🥴2
Media is too big
VIEW IN TELEGRAM
Мне задают много вопросов по премии «За вклад в безопасность цифрового будущего», которую придумала и запустила ассоциация по защите деловой информации (BISA). На главные вопросы я ответила в этом видео.
❤1.2K👍245👏41⚡7😐5🥴2
Эти вопросы волнуют очень многих родителей, учителей и тех, кто работает с детьми, поэтому я решила ответить на них в отдельном посте.
Я считаю, что ограничение смартфонов в школе — правильное решение. И не только потому, что дети отвлекаются на уроках или бездумно используют нейросети для поиска ответов. Смартфон служит источником отвлечения, а на уроках дети должны сосредотачиваться.
Я где-то читала исследование, что во время экзамена по математике (решение задач) испытуемых разделили на три группы. Первой разрешили пользоваться смартфоном. Второй — не разрешили, но дали взять его с собой. У третьей группы смартфоны забрали. Наилучший результат решения задач был в третьей группе. Интересно, что во второй группе, где — казалось бы – смартфоном нельзя было пользоваться, результат был примерно равен результату в первой группе. Исследователи объяснили это тем, что люди отвлекались, глядя на смартфон и надеялись выспросить у него ответ — вместо того, чтобы сосредоточиться на решении задач.
Кроме того, именно через смартфон осуществляются разные негативные сценарии воздействия на ребенка. Мошенники, деструктивный контент, порнография, вербовка на деструктивные действия, вовлечение в наркотики — сейчас все это приходит к детям через смартфон. Поэтому чем позже ребенок получит индивидуальный доступ к смартфону, тем лучше.
Ограничение соцсетей — другой вопрос. Конечно, вред от соцсетей очевидный — именно там дети находят разный деструктив, описанный выше. Однако, как показывает практика других стран, прямые запреты тут не помогают, особенно в случае подростков. Подростки сейчас очень продвинуты в уровне использования электронных устройств. А значит, они быстро научатся обходить любые запреты.
Например, во Франции ввели возрастные ограничения при регистрации в соцсетях. И население Франции моментально «повзрослело», а пользователей при этом меньше не стало. Поэтому нужны не прямые запреты, а разъяснение того вреда, который можно получить через соцсети. Неплохо продемонстрировать примеры разводок или нехорошего поведения. Этим вы не убережете детей, конечно. Но, быть может, когда они окажется в нехорошей ситуации, они смогут ее распознать и, может быть, избежать.
Как вы относитесь к запретам смартфонов в школах? А к запретам подросткам использовать соцсети? Это поможет детям или просто дань моде?
Я считаю, что ограничение смартфонов в школе — правильное решение. И не только потому, что дети отвлекаются на уроках или бездумно используют нейросети для поиска ответов. Смартфон служит источником отвлечения, а на уроках дети должны сосредотачиваться.
Я где-то читала исследование, что во время экзамена по математике (решение задач) испытуемых разделили на три группы. Первой разрешили пользоваться смартфоном. Второй — не разрешили, но дали взять его с собой. У третьей группы смартфоны забрали. Наилучший результат решения задач был в третьей группе. Интересно, что во второй группе, где — казалось бы – смартфоном нельзя было пользоваться, результат был примерно равен результату в первой группе. Исследователи объяснили это тем, что люди отвлекались, глядя на смартфон и надеялись выспросить у него ответ — вместо того, чтобы сосредоточиться на решении задач.
Кроме того, именно через смартфон осуществляются разные негативные сценарии воздействия на ребенка. Мошенники, деструктивный контент, порнография, вербовка на деструктивные действия, вовлечение в наркотики — сейчас все это приходит к детям через смартфон. Поэтому чем позже ребенок получит индивидуальный доступ к смартфону, тем лучше.
Ограничение соцсетей — другой вопрос. Конечно, вред от соцсетей очевидный — именно там дети находят разный деструктив, описанный выше. Однако, как показывает практика других стран, прямые запреты тут не помогают, особенно в случае подростков. Подростки сейчас очень продвинуты в уровне использования электронных устройств. А значит, они быстро научатся обходить любые запреты.
Например, во Франции ввели возрастные ограничения при регистрации в соцсетях. И население Франции моментально «повзрослело», а пользователей при этом меньше не стало. Поэтому нужны не прямые запреты, а разъяснение того вреда, который можно получить через соцсети. Неплохо продемонстрировать примеры разводок или нехорошего поведения. Этим вы не убережете детей, конечно. Но, быть может, когда они окажется в нехорошей ситуации, они смогут ее распознать и, может быть, избежать.
👍1.73K💯832❤144👏28🥴20😐12😁5😢5🔥4
Добрый день, дорогие читатели!
Теплого вам августовского дня и приятного отпуска тем, кто отдыхает.
Вот и я в отпуске прочла новость от 3 августа про то, что участники Ассоциации Больших данных (АБД), куда входят крупные отечественные компании, разрабатывающие системы ИИ, попросили разрешить Минцифры обрабатывать большие персональные данные без согласия граждан для разработки, обучения и использования ИИ.
Мотивация АБД следующая: «Сейчас такие данные продолжают считаться персональными даже после обезличивания, что может тормозить развитие ИИ в РФ. Участники рынка считают, что сейчас рынок данных в России развит слабо, а большинство датасетов остается внутри крупных экосистем».
Защиту данных АБД обещает обеспечить через так называемые «технологии повышения приватности». Я задумалась, насколько такой подход опасен с точки зрения защиты информации и существуют ли действительно методы гарантированной деперсонализации данных?
Технологии повышения приватности (Privacy Enhancing Technologies — PETs) — это набор математических и программных методов защиты личных данных, позволяющих обрабатывать, передавать и хранить информацию без риска ее утечки или раскрытия. В российском законодательстве понятие PETs отсутствует.
РЕТs включают в себя несколько способов деперсонализации данных. Интересующихся первоисточниками отсылаю сюда и сюда.
Коротко говоря, существует 6 основных способов деперсонализации, которые я приведу ниже, и прокомментирую.
1. «Замыливание» персональных данных путём добавления к ним статистического шума и разных нерелевантных данных. В принципе, работающий инструмент, но он требует аккуратного подбора соответствующего «шума», чтобы его было сложно снять программным способом и вычленить-таки исходные данные.
2. Государственный обмен данными — это когда некоторая группа исследовательских или медицинских учреждений обменивается данными (например, о болезнях и симптомах), не разглашая персональных данных. В целом, этот метод рабочий и уже широко используется в нашей стране. Хотя, строго говоря, анамнез пациента за несколько лет абсолютно уникален — то есть отстоит далеко от других анамнезов в пространстве данных. Его практически нельзя эффективно обезличить. Стоит участнику «обмена данными» добавить к анамнезу обогащение имеющимися у него данными — например, сведениями о поездках на такси в клиники за последние 10 лет, или данными о заказах в аптеках, или запросами о лекарствах в поисковиках, или данными о страховых возмещениях по ОМС — как тут же сличением векторов однозначно восстанавливается ФИО пациента. Изнутри системы риск утечки данных существует и безо всякого обмена, просто через сотрудников этих самых учреждений.
3. Безопасные многосторонние вычисления — когда университеты, например, обмениваются уже между собой вычисленными данными (сигнатурами, «векторами», «хэшами») об объектах исследования, не передавая персональную информацию вообще. Но для этого способы вычисление «хэшей» и знания об их структуре должны быть общими, что снижает надёжность обезличивания.
4. Гомоморфное шифрование — это сложный математический алгоритм, который даёт возможность делать произвольные вычисления на зашифрованных данных без их расшифровки. Лет 10 назад это стало прорывом в области шифрования. Примеры использования — осуществление поиска по запросу без знания самого запроса; фильтрация спама без чтения содержимого писем; подсчёт голосов без вскрытия конвертов; тесты ДНК без чтения самих ДНК, и многое другое. Это, наверное, самый надёжный способ деперсонализации данных. Правда, я не уверена, что шифрованные данные можно применять для обучения нейросетей.
5. Псевдоанонимизация — когда каждому лицу присваивается идентификатор вместо имени, а потом эти идентификаторы ещё и шифруются. Это довольно дешёвый способ, но не очень надёжный. Потому что идентификацию человека можно провести не по его идентификатору, а по набору его уникальных признаков, например, по лицу или географии перемещений (по «четырём точкам» в городе).
6. Есть ещё метод синтетических данных, который, например, используем мы в ИнфоВотч для тестирования своих продуктов. Он означает генерацию реалистично выглядящих персональных данных в большом количестве. Способ стопроцентно гарантирует безопасность личных данных реальных людей, поскольку не использует их вообще. Но, к сожалению, он практически непригоден для обучения ИИ-моделей, так как последним нужны именно реальные данные.
Резюмирую вышесказанное: методы обезличивания действительно существуют и вроде как даже довольно эффективные, по заверениям разработчиков.
Но, во-первых, даже на первый взгляд перечисленные методы плохо подходят для обучения нейросетей.
Во-вторых, чем надёжнее скрыты (зашумлены, зашифрованы) данные, тем сложнее и дороже их использование для обучения ИИ. А если же компании получат право самостоятельно обезличивать данные, то какой метод они выберут — самый надёжный или самый дешёвый?
В-третьих, проверка и сертификация анонимизации — это технически довольно сложная задача. Кто будет этим заниматься? Или дело ограничится собственными добровольными декларациями компаний в духе «мамой клянусь, что надёжно»?
Ну, и наконец, есть виды данных, обезличивание на которых вообще не работает. Например, распознавание лиц. Обезличивай – не обезличивай, а лицо всё равно привязано к конкретному человеку.
Ну и основной вопрос: а зачем вообще АБД нужны персональные данные?
Чему на самом деле можно обучать ИИ-модели на личных данных граждан и зачем? Показу ещё более таргетированной рекламы для стимуляции ещё большего числа импульсных покупок? Построению индивидуальных образовательных траекторий, ценность которых не просто сомнительная, а прямо нарушает право на личную жизнь и судьбу? Построению социального рейтинга?
Точно ли стоит ради этих сомнительных или прямо вредных целей отменять или ослаблять ФЗ-152 о защите персональных данных, который в ноябре 2024 года был усилен законодателями при активном сопротивлении цифрового бизнеса и АБД (помните — были введены оборотные штрафы, уголовная ответственность руководства компаний и госорганов за утечку ПДн)?
Роскомнадзор, кстати, внимательно следит за выполнением этого закона, защищая права граждан на частную жизнь. Поэтому я всё-таки надеюсь, что данная антиконституционная и антиобщественная инициатива АБД реализована не будет.
Теплого вам августовского дня и приятного отпуска тем, кто отдыхает.
Вот и я в отпуске прочла новость от 3 августа про то, что участники Ассоциации Больших данных (АБД), куда входят крупные отечественные компании, разрабатывающие системы ИИ, попросили разрешить Минцифры обрабатывать большие персональные данные без согласия граждан для разработки, обучения и использования ИИ.
Мотивация АБД следующая: «Сейчас такие данные продолжают считаться персональными даже после обезличивания, что может тормозить развитие ИИ в РФ. Участники рынка считают, что сейчас рынок данных в России развит слабо, а большинство датасетов остается внутри крупных экосистем».
Защиту данных АБД обещает обеспечить через так называемые «технологии повышения приватности». Я задумалась, насколько такой подход опасен с точки зрения защиты информации и существуют ли действительно методы гарантированной деперсонализации данных?
Технологии повышения приватности (Privacy Enhancing Technologies — PETs) — это набор математических и программных методов защиты личных данных, позволяющих обрабатывать, передавать и хранить информацию без риска ее утечки или раскрытия. В российском законодательстве понятие PETs отсутствует.
РЕТs включают в себя несколько способов деперсонализации данных. Интересующихся первоисточниками отсылаю сюда и сюда.
Коротко говоря, существует 6 основных способов деперсонализации, которые я приведу ниже, и прокомментирую.
1. «Замыливание» персональных данных путём добавления к ним статистического шума и разных нерелевантных данных. В принципе, работающий инструмент, но он требует аккуратного подбора соответствующего «шума», чтобы его было сложно снять программным способом и вычленить-таки исходные данные.
2. Государственный обмен данными — это когда некоторая группа исследовательских или медицинских учреждений обменивается данными (например, о болезнях и симптомах), не разглашая персональных данных. В целом, этот метод рабочий и уже широко используется в нашей стране. Хотя, строго говоря, анамнез пациента за несколько лет абсолютно уникален — то есть отстоит далеко от других анамнезов в пространстве данных. Его практически нельзя эффективно обезличить. Стоит участнику «обмена данными» добавить к анамнезу обогащение имеющимися у него данными — например, сведениями о поездках на такси в клиники за последние 10 лет, или данными о заказах в аптеках, или запросами о лекарствах в поисковиках, или данными о страховых возмещениях по ОМС — как тут же сличением векторов однозначно восстанавливается ФИО пациента. Изнутри системы риск утечки данных существует и безо всякого обмена, просто через сотрудников этих самых учреждений.
3. Безопасные многосторонние вычисления — когда университеты, например, обмениваются уже между собой вычисленными данными (сигнатурами, «векторами», «хэшами») об объектах исследования, не передавая персональную информацию вообще. Но для этого способы вычисление «хэшей» и знания об их структуре должны быть общими, что снижает надёжность обезличивания.
4. Гомоморфное шифрование — это сложный математический алгоритм, который даёт возможность делать произвольные вычисления на зашифрованных данных без их расшифровки. Лет 10 назад это стало прорывом в области шифрования. Примеры использования — осуществление поиска по запросу без знания самого запроса; фильтрация спама без чтения содержимого писем; подсчёт голосов без вскрытия конвертов; тесты ДНК без чтения самих ДНК, и многое другое. Это, наверное, самый надёжный способ деперсонализации данных. Правда, я не уверена, что шифрованные данные можно применять для обучения нейросетей.
5. Псевдоанонимизация — когда каждому лицу присваивается идентификатор вместо имени, а потом эти идентификаторы ещё и шифруются. Это довольно дешёвый способ, но не очень надёжный. Потому что идентификацию человека можно провести не по его идентификатору, а по набору его уникальных признаков, например, по лицу или географии перемещений (по «четырём точкам» в городе).
6. Есть ещё метод синтетических данных, который, например, используем мы в ИнфоВотч для тестирования своих продуктов. Он означает генерацию реалистично выглядящих персональных данных в большом количестве. Способ стопроцентно гарантирует безопасность личных данных реальных людей, поскольку не использует их вообще. Но, к сожалению, он практически непригоден для обучения ИИ-моделей, так как последним нужны именно реальные данные.
Резюмирую вышесказанное: методы обезличивания действительно существуют и вроде как даже довольно эффективные, по заверениям разработчиков.
Но, во-первых, даже на первый взгляд перечисленные методы плохо подходят для обучения нейросетей.
Во-вторых, чем надёжнее скрыты (зашумлены, зашифрованы) данные, тем сложнее и дороже их использование для обучения ИИ. А если же компании получат право самостоятельно обезличивать данные, то какой метод они выберут — самый надёжный или самый дешёвый?
В-третьих, проверка и сертификация анонимизации — это технически довольно сложная задача. Кто будет этим заниматься? Или дело ограничится собственными добровольными декларациями компаний в духе «мамой клянусь, что надёжно»?
Ну, и наконец, есть виды данных, обезличивание на которых вообще не работает. Например, распознавание лиц. Обезличивай – не обезличивай, а лицо всё равно привязано к конкретному человеку.
Ну и основной вопрос: а зачем вообще АБД нужны персональные данные?
Чему на самом деле можно обучать ИИ-модели на личных данных граждан и зачем? Показу ещё более таргетированной рекламы для стимуляции ещё большего числа импульсных покупок? Построению индивидуальных образовательных траекторий, ценность которых не просто сомнительная, а прямо нарушает право на личную жизнь и судьбу? Построению социального рейтинга?
Точно ли стоит ради этих сомнительных или прямо вредных целей отменять или ослаблять ФЗ-152 о защите персональных данных, который в ноябре 2024 года был усилен законодателями при активном сопротивлении цифрового бизнеса и АБД (помните — были введены оборотные штрафы, уголовная ответственность руководства компаний и госорганов за утечку ПДн)?
Роскомнадзор, кстати, внимательно следит за выполнением этого закона, защищая права граждан на частную жизнь. Поэтому я всё-таки надеюсь, что данная антиконституционная и антиобщественная инициатива АБД реализована не будет.
itif.org
ITIF Technology Explainer: What Are Privacy Enhancing Technologies?
Privacy-enhancing technologies (PETs) are tools that enable entities to access, share, and analyze sensitive data without exposing personal or proprietary information.
❤1.74K👍543😱151💯112🔥40👏18😢17😐12🥴6😁3⚡2