ИИ‑решения меняют медицину Казахстана
💡 Искусственный интеллект постепенно становится частью важных отраслей страны, в том числе таких как медицина. Министерство здравоохранения внедряет цифровые решения, которые помогают врачам быстрее и точнее диагностировать заболевания, принимать клинические решения и повышать качество медицинской помощи.
Одним из ключевых направлений стало использование ИИ при диагностике инсульта. Система Cerebra уже работает в девяти инсультных центрах страны. Она позволяет оперативно выявлять признаки инсульта на ранних стадиях, что ускоряет принятие решений и начало лечения. Благодаря этому применение тромболитической терапии выросло на 40%. В 2026 году планируется расширение проекта до 33 центров.
🔸 Здесь стоит напомнить, что юридическая фирма DRCQ недавно представила Рейтинг соблюдения цифровых прав ИИ‑компаниями. В нём анализировались публичные политики ведущих ИИ-стартапов из Казахстана. Компания Cerebra также была рассмотрена в исследовании и получила высокие оценки.
Также интересно, что в своих политиках стартап Cerebra AI заявляет о соответствии международному медицинскому стандарту HIPAA, который среди прочего обязывает организации уведомлять пользователей в случае нарушения конфиденциальности их медицинских данных. А еще то, что их политики конфиденциальности учитывают требования Европейского Общего регламента по защите данных (GDPR).
Этот рейтинг подчёркивает, что развитие ИИ в медицине должно идти параллельно с ответственным отношением к правам пациентов. Вопросы приватности, безопасности и этики не менее значимы, чем точность алгоритмов.
📌 Ещё одним важным направлением стало внедрение технологий WDSoft в онкологической службе. Системы анализа радиологических изображений помогают выявлять рак молочной железы и лёгких на ранних стадиях. В результате выявляемость онкологических заболеваний увеличилась на 32%, а время диагностики сократилось с 40 до 10 минут. Сегодня проект реализуется в 190 медорганизациях 12 регионов страны.
Современные технологии применяются и в стоматологии. Решения Aidentis позволяют автоматически анализировать рентгеновские снимки, выявлять патологические изменения и формировать рекомендации по лечению. Время анализа сократилось с одного часа до одной минуты, что значительно облегчает работу врачей.
Все эти цифровые решения реализуются на базе Единого хранилища медицинских данных. Оно должно объединить различные медицинские информационные системы и повысить эффективность управления здравоохранением в стране.
🔹 На текущий день, опыт показывает, что внедрение ИИ может приносить ощутимые результаты — от сокращения времени диагностики до роста эффективности лечения. Но вместе с этим необходимо формировать культуру ответственного использования технологий.
Именно сочетание инноваций и защиты прав граждан позволит интеллектуальной медицине стать устойчивым и доверенным элементом системы здравоохранения.
💡 Искусственный интеллект постепенно становится частью важных отраслей страны, в том числе таких как медицина. Министерство здравоохранения внедряет цифровые решения, которые помогают врачам быстрее и точнее диагностировать заболевания, принимать клинические решения и повышать качество медицинской помощи.
Одним из ключевых направлений стало использование ИИ при диагностике инсульта. Система Cerebra уже работает в девяти инсультных центрах страны. Она позволяет оперативно выявлять признаки инсульта на ранних стадиях, что ускоряет принятие решений и начало лечения. Благодаря этому применение тромболитической терапии выросло на 40%. В 2026 году планируется расширение проекта до 33 центров.
🔸 Здесь стоит напомнить, что юридическая фирма DRCQ недавно представила Рейтинг соблюдения цифровых прав ИИ‑компаниями. В нём анализировались публичные политики ведущих ИИ-стартапов из Казахстана. Компания Cerebra также была рассмотрена в исследовании и получила высокие оценки.
Также интересно, что в своих политиках стартап Cerebra AI заявляет о соответствии международному медицинскому стандарту HIPAA, который среди прочего обязывает организации уведомлять пользователей в случае нарушения конфиденциальности их медицинских данных. А еще то, что их политики конфиденциальности учитывают требования Европейского Общего регламента по защите данных (GDPR).
Этот рейтинг подчёркивает, что развитие ИИ в медицине должно идти параллельно с ответственным отношением к правам пациентов. Вопросы приватности, безопасности и этики не менее значимы, чем точность алгоритмов.
📌 Ещё одним важным направлением стало внедрение технологий WDSoft в онкологической службе. Системы анализа радиологических изображений помогают выявлять рак молочной железы и лёгких на ранних стадиях. В результате выявляемость онкологических заболеваний увеличилась на 32%, а время диагностики сократилось с 40 до 10 минут. Сегодня проект реализуется в 190 медорганизациях 12 регионов страны.
Современные технологии применяются и в стоматологии. Решения Aidentis позволяют автоматически анализировать рентгеновские снимки, выявлять патологические изменения и формировать рекомендации по лечению. Время анализа сократилось с одного часа до одной минуты, что значительно облегчает работу врачей.
Все эти цифровые решения реализуются на базе Единого хранилища медицинских данных. Оно должно объединить различные медицинские информационные системы и повысить эффективность управления здравоохранением в стране.
🔹 На текущий день, опыт показывает, что внедрение ИИ может приносить ощутимые результаты — от сокращения времени диагностики до роста эффективности лечения. Но вместе с этим необходимо формировать культуру ответственного использования технологий.
Именно сочетание инноваций и защиты прав граждан позволит интеллектуальной медицине стать устойчивым и доверенным элементом системы здравоохранения.
WhatsApp запускает детские аккаунты под контролем родителей
❇️ Мессенджер объявил о запуске новой функции — аккаунтов для детей младше 13 лет, которыми управляют родители. Решение связано с растущими опасениями по поводу безопасности подростков в интернете и стремлением платформы предложить более прозрачные механизмы контроля.
Новая система позволяет родителям создавать и управлять аккаунтами для своих детей, контролировать список контактов и настройки приватности. Подростки смогут пользоваться мессенджером, но ключевые параметры будут определяться взрослыми. Это должно снизить риски общения с незнакомцами и защитить детей от нежелательного контента.
🔸 Компания подчёркивает, что инициатива направлена на баланс между доступом к цифровым сервисам и безопасностью. WhatsApp остаётся одним из самых популярных мессенджеров в мире, и именно поэтому вопросы защиты несовершеннолетних становятся для него стоит остро.
Эксперты отмечают, что это решение может стать примером для других платформ. В условиях, когда социальные сети и мессенджеры подвергаются критике за недостаточную защиту подростков, WhatsApp делает шаг в эту сторону.
Вместе с тем инициатива отражает общемировую тенденцию ограничивать доступ детей к интернет‑сервисам. Первой такие меры ввела Австралия, запретив регистрацию в соцсетях для лиц младше 16 лет. В Европе, США, Канаде и других странах обсуждаются аналогичные законы.
Казахстан также готовит законопроект о запрете регистрации в соцсетях для подростков до 16 лет.
🌐 Эти инициативы вписываются в глобальный тренд, но вокруг верификации возраста пользователей сохраняются споры. Меры внедряются без консенсуса с IT‑отраслью, академическим сообществом и правозащитниками. Ни эффективность, ни потенциальный вред пока не доказаны, что делает дискуссию особенно актуальной.
Таким образом, WhatsApp предлагает собственный вариант защиты детей, а правительства продолжают искать баланс между безопасностью и правами пользователей.
❇️ Мессенджер объявил о запуске новой функции — аккаунтов для детей младше 13 лет, которыми управляют родители. Решение связано с растущими опасениями по поводу безопасности подростков в интернете и стремлением платформы предложить более прозрачные механизмы контроля.
Новая система позволяет родителям создавать и управлять аккаунтами для своих детей, контролировать список контактов и настройки приватности. Подростки смогут пользоваться мессенджером, но ключевые параметры будут определяться взрослыми. Это должно снизить риски общения с незнакомцами и защитить детей от нежелательного контента.
🔸 Компания подчёркивает, что инициатива направлена на баланс между доступом к цифровым сервисам и безопасностью. WhatsApp остаётся одним из самых популярных мессенджеров в мире, и именно поэтому вопросы защиты несовершеннолетних становятся для него стоит остро.
Эксперты отмечают, что это решение может стать примером для других платформ. В условиях, когда социальные сети и мессенджеры подвергаются критике за недостаточную защиту подростков, WhatsApp делает шаг в эту сторону.
Вместе с тем инициатива отражает общемировую тенденцию ограничивать доступ детей к интернет‑сервисам. Первой такие меры ввела Австралия, запретив регистрацию в соцсетях для лиц младше 16 лет. В Европе, США, Канаде и других странах обсуждаются аналогичные законы.
Казахстан также готовит законопроект о запрете регистрации в соцсетях для подростков до 16 лет.
🌐 Эти инициативы вписываются в глобальный тренд, но вокруг верификации возраста пользователей сохраняются споры. Меры внедряются без консенсуса с IT‑отраслью, академическим сообществом и правозащитниками. Ни эффективность, ни потенциальный вред пока не доказаны, что делает дискуссию особенно актуальной.
Таким образом, WhatsApp предлагает собственный вариант защиты детей, а правительства продолжают искать баланс между безопасностью и правами пользователей.
Цифровой надзор: как будут выявлять и блокировать запрещённый контент
📌Агентство по финансовому мониторингу (АФМ) представило проект Правил, которые определяют порядок мониторинга информационного пространства для выявления противоправного контента.
Документ прописывает механизм исполнения уже существующих норм по ограничению доступа к незаконной информации в интернете, а также наказания за её распространение.
Основанием для разработки Правил стал Закон РК «О профилактике правонарушений» (подпункт 15 статьи 16), согласно которому за ведомством закрепляются полномочия по проведению регулярного мониторинга интернета в целях предупреждения преступлений и правонарушений.
Проект определяет охват мониторинга, который затронет все основные площадки:
➣ интернет-ресурсы и сайты;
➣ социальные сети;
➣ мессенджеры;
➣ средства массовой информации;
➣ иные информационно-коммуникационные платформы.
Сами Правила не содержат перечня запрещенных тем — они лишь дают ведомству инструмент для поиска соответствующих материалов Согласно нормам закона «О профилактике правонарушений», к материалам, подлежащим выявлению и блокировке, относятся:
▶️ пропаганда терроризма, экстремизма и идеи сепаратизма;
▶️ призывы к жестокости, насилию, суициду или порнография;
▶️ реклама наркотиков, психотропных веществ и их прекурсоров;
▶️ информация, способствующая мошенничеству;
▶️ данные, нарушающие межнациональное и межконфессиональное согласие.
Также под прицел мониторинга попадают любые высказывания, подвергающие сомнению государственность и территориальную целостность Казахстана. Это касается и публикации сведений, раскрывающих государственные секреты или иную охраняемую законом тайну, а также любой другой информации, прямой запрет на которую прописан в законах.
Глава 3 проекта описывает алгоритм действий АФМ при обнаружении таких материалов. Основным инструментом оперативного реагирования является направление уведомления в уполномоченный орган в области масс-медиа для принятия мер по незамедлительной блокировке ресурса.
Помимо технических мер, Правила предусматривают правовые последствия для распространителей контента. АФМ наделяется правом направлять собранные материалы в правоохранительные органы для возбуждения дел и привлечения виновных лиц к административной либо уголовной ответственности.
В процессе принятия закона депутаты Мажилиса отмечали, что в категорию риска попадают не только авторы постов, но и те, кто делает репосты запрещенных материалов в публичных группах или каналах.
В рамках профилактики правонарушений такие действия могут трактоваться как содействие распространению противоправной информации.
Публичное обсуждение проекта Правил продлится до 20 марта 2026 года.
📌Агентство по финансовому мониторингу (АФМ) представило проект Правил, которые определяют порядок мониторинга информационного пространства для выявления противоправного контента.
Документ прописывает механизм исполнения уже существующих норм по ограничению доступа к незаконной информации в интернете, а также наказания за её распространение.
Основанием для разработки Правил стал Закон РК «О профилактике правонарушений» (подпункт 15 статьи 16), согласно которому за ведомством закрепляются полномочия по проведению регулярного мониторинга интернета в целях предупреждения преступлений и правонарушений.
Проект определяет охват мониторинга, который затронет все основные площадки:
➣ интернет-ресурсы и сайты;
➣ социальные сети;
➣ мессенджеры;
➣ средства массовой информации;
➣ иные информационно-коммуникационные платформы.
Сами Правила не содержат перечня запрещенных тем — они лишь дают ведомству инструмент для поиска соответствующих материалов Согласно нормам закона «О профилактике правонарушений», к материалам, подлежащим выявлению и блокировке, относятся:
▶️ пропаганда терроризма, экстремизма и идеи сепаратизма;
▶️ призывы к жестокости, насилию, суициду или порнография;
▶️ реклама наркотиков, психотропных веществ и их прекурсоров;
▶️ информация, способствующая мошенничеству;
▶️ данные, нарушающие межнациональное и межконфессиональное согласие.
Также под прицел мониторинга попадают любые высказывания, подвергающие сомнению государственность и территориальную целостность Казахстана. Это касается и публикации сведений, раскрывающих государственные секреты или иную охраняемую законом тайну, а также любой другой информации, прямой запрет на которую прописан в законах.
Глава 3 проекта описывает алгоритм действий АФМ при обнаружении таких материалов. Основным инструментом оперативного реагирования является направление уведомления в уполномоченный орган в области масс-медиа для принятия мер по незамедлительной блокировке ресурса.
Помимо технических мер, Правила предусматривают правовые последствия для распространителей контента. АФМ наделяется правом направлять собранные материалы в правоохранительные органы для возбуждения дел и привлечения виновных лиц к административной либо уголовной ответственности.
В процессе принятия закона депутаты Мажилиса отмечали, что в категорию риска попадают не только авторы постов, но и те, кто делает репосты запрещенных материалов в публичных группах или каналах.
В рамках профилактики правонарушений такие действия могут трактоваться как содействие распространению противоправной информации.
Публичное обсуждение проекта Правил продлится до 20 марта 2026 года.
🔥1😱1🤬1👀1
ИИ делает нас одинаковыми: почему чат‑боты стирают разнообразие мышления
📣 Исследователи из Университета Южной Калифорнии и других центров опубликовали статью, где утверждают: чат-боты на базе больших языковых моделей (LLM) слишком сильно стандартизируют способы выражения мыслей у людей.
По словам автора статьи Живара Сурати, уникальность человеческого мышления — ценнейший ресурс. Но когда миллионы людей используют одни и те же модели, их язык и рассуждения становятся однотипными.
➡️ Разнообразие языка и перспектив — не просто культурная ценность. Оно необходимо для творчества, инноваций и коллективного решения проблем. Унификация угрожает этим процессам.
Масштаб использования впечатляет: треть американцев применяли ChatGPT в 2025 году, а среди подростков — две трети. Бизнес тоже активно внедряет ИИ: 78% компаний сообщили о его использовании.
Авторы отмечают, что ИИ отличается от прошлых технологий. Интернет ускорял распространение новых социальных норм и представлений о поведении в обществе, GPS лишь немного ослабил пространственное мышление, а вот LLM сами генерируют рассуждения и формулировки вместо человека.
⚠️ Это создаёт «готовый способ думать», который навязывается миллионам пользователей одновременно. Такой эффект ранее не наблюдался ни у одной технологии.
Причина в обучении моделей: они ориентируются на статистические закономерности, что усиливает доминирование определённых языков и идеологий, сужая спектр человеческого опыта.
🔻 Потеря разнообразия ведёт к снижению плюрализма — принципа, что разные точки зрения делают общество устойчивым. Без него коллективный интеллект и адаптивность ослабевают.
Опасность не только в том, что люди пишут одинаково. ИИ может незаметно менять представления о том, что считать «правильной» речью или «верным» рассуждением, формируя новые стандарты.
Даже те, кто не пользуется чат-ботами, ощущают давление: если большинство вокруг говорит «средним языком», возникает социальное принуждение к унификации. Это грозит утратой индивидуальности и снижением качества общественного диалога, предупреждают исследователи.
📣 Исследователи из Университета Южной Калифорнии и других центров опубликовали статью, где утверждают: чат-боты на базе больших языковых моделей (LLM) слишком сильно стандартизируют способы выражения мыслей у людей.
По словам автора статьи Живара Сурати, уникальность человеческого мышления — ценнейший ресурс. Но когда миллионы людей используют одни и те же модели, их язык и рассуждения становятся однотипными.
➡️ Разнообразие языка и перспектив — не просто культурная ценность. Оно необходимо для творчества, инноваций и коллективного решения проблем. Унификация угрожает этим процессам.
Масштаб использования впечатляет: треть американцев применяли ChatGPT в 2025 году, а среди подростков — две трети. Бизнес тоже активно внедряет ИИ: 78% компаний сообщили о его использовании.
Авторы отмечают, что ИИ отличается от прошлых технологий. Интернет ускорял распространение новых социальных норм и представлений о поведении в обществе, GPS лишь немного ослабил пространственное мышление, а вот LLM сами генерируют рассуждения и формулировки вместо человека.
⚠️ Это создаёт «готовый способ думать», который навязывается миллионам пользователей одновременно. Такой эффект ранее не наблюдался ни у одной технологии.
Причина в обучении моделей: они ориентируются на статистические закономерности, что усиливает доминирование определённых языков и идеологий, сужая спектр человеческого опыта.
🔻 Потеря разнообразия ведёт к снижению плюрализма — принципа, что разные точки зрения делают общество устойчивым. Без него коллективный интеллект и адаптивность ослабевают.
Опасность не только в том, что люди пишут одинаково. ИИ может незаметно менять представления о том, что считать «правильной» речью или «верным» рассуждением, формируя новые стандарты.
Даже те, кто не пользуется чат-ботами, ощущают давление: если большинство вокруг говорит «средним языком», возникает социальное принуждение к унификации. Это грозит утратой индивидуальности и снижением качества общественного диалога, предупреждают исследователи.
😱1
Казахстан определил правила применения ИИ в учебных заведениях
🔹 Министерство просвещения утвердило документ, задающий рамки использования искусственного интеллекта в образовательных учреждениях. Подчёркивается, что технологии могут быть лишь вспомогательным инструментом, а ключевая роль остаётся за учителем.
Главный принцип — ИИ не заменяет педагога. Цифровые сервисы помогают адаптировать материалы, анализировать данные и готовить уроки, но ответственность за обучение и оценку знаний несёт человек.
📌 Особое внимание уделено академической честности: ученикам запрещено выдавать работы, созданные с помощью ИИ, за собственные. В случае сомнений учитель вправе предложить повторное выполнение задания. Запрещена полная автоматизация проверки знаний.
Документ также фиксирует требования по защите персональных данных: вводить личную информацию в сторонние сервисы нельзя, а используемые платформы должны соответствовать национальному законодательству.
В качестве допустимых инструментов названы Canva, ChatGPT, Gemini Storybook, NotebookLM, Reading Coach и Google Lens. Их применение возможно только в строго регламентированных целях — для облегчения подготовки материалов и снижения административной нагрузки.
Методические рекомендации подготовила Национальная академия образования имени Ибрая Алтынсарина. В них описаны сценарии применения ИИ и практические советы для педагогов и руководителей школ.
👉 Авторы подчёркивают: внедрение технологий должно сопровождаться формированием культуры ответственного использования, включая защиту данных и соблюдение принципов честности.
Таким образом, ИИ получает место в школьной практике, но исключительно в роли помощника. Новый документ задаёт рамки для безопасного и этичного применения технологий, поддерживая учителей и защищая интересы детей.
🔹 Министерство просвещения утвердило документ, задающий рамки использования искусственного интеллекта в образовательных учреждениях. Подчёркивается, что технологии могут быть лишь вспомогательным инструментом, а ключевая роль остаётся за учителем.
Главный принцип — ИИ не заменяет педагога. Цифровые сервисы помогают адаптировать материалы, анализировать данные и готовить уроки, но ответственность за обучение и оценку знаний несёт человек.
📌 Особое внимание уделено академической честности: ученикам запрещено выдавать работы, созданные с помощью ИИ, за собственные. В случае сомнений учитель вправе предложить повторное выполнение задания. Запрещена полная автоматизация проверки знаний.
Документ также фиксирует требования по защите персональных данных: вводить личную информацию в сторонние сервисы нельзя, а используемые платформы должны соответствовать национальному законодательству.
В качестве допустимых инструментов названы Canva, ChatGPT, Gemini Storybook, NotebookLM, Reading Coach и Google Lens. Их применение возможно только в строго регламентированных целях — для облегчения подготовки материалов и снижения административной нагрузки.
Методические рекомендации подготовила Национальная академия образования имени Ибрая Алтынсарина. В них описаны сценарии применения ИИ и практические советы для педагогов и руководителей школ.
👉 Авторы подчёркивают: внедрение технологий должно сопровождаться формированием культуры ответственного использования, включая защиту данных и соблюдение принципов честности.
Таким образом, ИИ получает место в школьной практике, но исключительно в роли помощника. Новый документ задаёт рамки для безопасного и этичного применения технологий, поддерживая учителей и защищая интересы детей.
👍1
Forwarded from CyberLaw School Qazaqstan
Вайб-кодинг: новые вызовы для цифрового права
💡 Около года назад бывший исследователь OpenAI Андрей Карпати дал название практике написания кода с помощью искусственного интеллекта — «вайб-кодинг».
На протяжении десятилетий создание ПО было завязано на жесткой дисциплине знания языка программирования и навыков построчного взаимодействия со средой разработки, где неправильно поставленная точка с запятой могла полностью остановить весь проект.
С приходом больших языковых моделей (от OpenAI, Anthropic и др.) точность и контроль теряют значимость, ведь любой человек может красочно описать желаемый проект или идею и код под него материализуется. ИИ позволяет сосредоточиться больше на идеях, а не на их реализации.
⚡️ Например, Samsung в данный момент изучает внедрение функций вайб-кодинга для следующих смартфонов Galaxy. Концептуально это может поменять наше представление об использовании приложений на устройстве. Если допустим вас не устраивает то или иное приложение или функция на вашем девайсе, вы можете описать желаемые улучшения и ИИ прямо на смартфоне пересоберет это приложение согласно вашим предпочтениям.
Риски и обратная сторона креативности
Портал GetHub отмечал, что в 2024 году уже более миллиона человек использовали ИИ в программировании, но даже это очень скромные данные и только из одного источника.
Вайб-кодинг ускорил создание коммерческого ПО, однако все остальные процессы, как например оценка рисков, тестирование и внедрение результата в работе компании нуждаются в дополнительном внимании. Около трети ИИ-кода содержит уязвимости, а на то, чтобы исправить запущенный в продакшн продукт тратиться примерно в 10 раз времени чем на сам вайб-кодинг.
Негативный пример вайб-кодинга описали также в издании PCmag, где журналистка не обладая навыками программирования за 2 часа смогла разработать сайт, где объединены видеопотоки с публичных дорожных камер со всего мира в одном месте. При этом ИИ предлагал «поискать дополнительные источники с камер наблюдения по городу», что создает серьезные риски для приватности.
Еще на днях стало известно что достаточно популярный портал архивных сканов игровых журналов Gaming Alexandria начал использовать сканер PDF страниц старых японских журналов, попутно делая перевод на английский. Как выяснилось позже, сканер был собран ИИ через вайб-кодинг и переводил японский язык с ошибками, на что сразу же возмутились фанаты сервиса.
Возможные правовые вызовы
🚩 Кто является субъектом авторского права если код на 99% написан ИИ на основе «вайба» пользователя и кому принадлежат права на продукт?
🚩 Кто несет юридическую ответственность, если сгенерированный код приведет к утечке данных или финансовым потерям — разработчик, составивший промпт, или компания-создатель нейросети?
Эти и другие фундаментальные вопросы ставятся перед юристами и экспертным сообществом.
🔸 Более того, результаты вайб-кодинга могут регулироваться отдельными положениями Закона об ИИ в Казахстане. Так, статья 11 определяет, что системы ИИ должны создаваться и эксплуатироваться с соблюдением требований безопасности и надежности, исключающих возможность непредвиденных последствий или злоупотреблений.
Или например в статье 21 указано, что если программный продукт или сервис в значительной степени создан с помощью ИИ, пользователи продукта должны быть об этом уведомлены.
На нашем курсе «ИИ для юристов» мы разбираем, какие именно сценарии эксплуатации ИИ-систем подразумевают ответственность и как правильно проводить проверку продуктов, созданных с помощью вайб-кодинга. Это ваша возможность научиться отличать «удачный вайб» от серьезной правовой угрозы.
⚡️ Курс по ИИ для юристов — https://cyberlaw.kz/ai
➡️ Подробнее о CyberLaw School — https://cyberlaw.kz/
☎️ Написать нашему менеджеру +7 747 653 1397 (WhatsApp)
💡 Около года назад бывший исследователь OpenAI Андрей Карпати дал название практике написания кода с помощью искусственного интеллекта — «вайб-кодинг».
На протяжении десятилетий создание ПО было завязано на жесткой дисциплине знания языка программирования и навыков построчного взаимодействия со средой разработки, где неправильно поставленная точка с запятой могла полностью остановить весь проект.
С приходом больших языковых моделей (от OpenAI, Anthropic и др.) точность и контроль теряют значимость, ведь любой человек может красочно описать желаемый проект или идею и код под него материализуется. ИИ позволяет сосредоточиться больше на идеях, а не на их реализации.
⚡️ Например, Samsung в данный момент изучает внедрение функций вайб-кодинга для следующих смартфонов Galaxy. Концептуально это может поменять наше представление об использовании приложений на устройстве. Если допустим вас не устраивает то или иное приложение или функция на вашем девайсе, вы можете описать желаемые улучшения и ИИ прямо на смартфоне пересоберет это приложение согласно вашим предпочтениям.
Риски и обратная сторона креативности
Портал GetHub отмечал, что в 2024 году уже более миллиона человек использовали ИИ в программировании, но даже это очень скромные данные и только из одного источника.
Вайб-кодинг ускорил создание коммерческого ПО, однако все остальные процессы, как например оценка рисков, тестирование и внедрение результата в работе компании нуждаются в дополнительном внимании. Около трети ИИ-кода содержит уязвимости, а на то, чтобы исправить запущенный в продакшн продукт тратиться примерно в 10 раз времени чем на сам вайб-кодинг.
Негативный пример вайб-кодинга описали также в издании PCmag, где журналистка не обладая навыками программирования за 2 часа смогла разработать сайт, где объединены видеопотоки с публичных дорожных камер со всего мира в одном месте. При этом ИИ предлагал «поискать дополнительные источники с камер наблюдения по городу», что создает серьезные риски для приватности.
Еще на днях стало известно что достаточно популярный портал архивных сканов игровых журналов Gaming Alexandria начал использовать сканер PDF страниц старых японских журналов, попутно делая перевод на английский. Как выяснилось позже, сканер был собран ИИ через вайб-кодинг и переводил японский язык с ошибками, на что сразу же возмутились фанаты сервиса.
Возможные правовые вызовы
🚩 Кто является субъектом авторского права если код на 99% написан ИИ на основе «вайба» пользователя и кому принадлежат права на продукт?
🚩 Кто несет юридическую ответственность, если сгенерированный код приведет к утечке данных или финансовым потерям — разработчик, составивший промпт, или компания-создатель нейросети?
Эти и другие фундаментальные вопросы ставятся перед юристами и экспертным сообществом.
🔸 Более того, результаты вайб-кодинга могут регулироваться отдельными положениями Закона об ИИ в Казахстане. Так, статья 11 определяет, что системы ИИ должны создаваться и эксплуатироваться с соблюдением требований безопасности и надежности, исключающих возможность непредвиденных последствий или злоупотреблений.
Или например в статье 21 указано, что если программный продукт или сервис в значительной степени создан с помощью ИИ, пользователи продукта должны быть об этом уведомлены.
На нашем курсе «ИИ для юристов» мы разбираем, какие именно сценарии эксплуатации ИИ-систем подразумевают ответственность и как правильно проводить проверку продуктов, созданных с помощью вайб-кодинга. Это ваша возможность научиться отличать «удачный вайб» от серьезной правовой угрозы.
⚡️ Курс по ИИ для юристов — https://cyberlaw.kz/ai
➡️ Подробнее о CyberLaw School — https://cyberlaw.kz/
☎️ Написать нашему менеджеру +7 747 653 1397 (WhatsApp)
Казахстан утвердил методику построения «смарт‑городов» и «смарт‑регионов»
⚡️ Приказом заместителя премьер‑министра – министра искусственного интеллекта и цифрового развития от 13 марта 2026 года утверждена методика по созданию «смарт‑городов» и «смарт‑регионов». Документ вводится в действие с 12 июля 2026 года.
«Смарт‑город» предполагает внедрение высокотехнологичных решений для управления инфраструктурой и услугами, а «смарт‑регион» — цифровую трансформацию территорий с интеграцией органов власти, бизнеса и населения.
📍 Цели концепции включают обеспечение безопасных и комфортных условий жизни, формирование эффективной системы управления и повышение конкурентоспособности городов и регионов.
Ключевые принципы — человекоцентричность, устойчивость, прозрачность, безопасность, инклюзия, инновации и интеграция систем. Они должны стать основой для цифровой трансформации.
Основные сферы охватывают управление, безопасность, транспорт, образование, здравоохранение, экологию, ЖКХ, экономику и инфраструктуру.
👉 Методика базируется на международных стандартах и предусматривает классификацию городов по уровню цифровизации: столица и города республиканского значения, областные центры и районные города.
Внедрение концепции осуществляется поэтапно. Местные исполнительные органы обязаны разработать стратегию развития и дорожную карту, согласованную с уполномоченным органом. Стратегия включает анализ текущего состояния, постановку целей, описание модели, метрики и управление рисками.
Для реализации инициатив создаются рабочие группы, которые проводят обследование территорий, аудит цифровой инфраструктуры и формируют протоколы проектов.
Утвержденные стратегии и дорожные карты размещаются на единой платформе интернет‑ресурсов госорганов и в системе проектного управления.
⚡️ Приказом заместителя премьер‑министра – министра искусственного интеллекта и цифрового развития от 13 марта 2026 года утверждена методика по созданию «смарт‑городов» и «смарт‑регионов». Документ вводится в действие с 12 июля 2026 года.
«Смарт‑город» предполагает внедрение высокотехнологичных решений для управления инфраструктурой и услугами, а «смарт‑регион» — цифровую трансформацию территорий с интеграцией органов власти, бизнеса и населения.
📍 Цели концепции включают обеспечение безопасных и комфортных условий жизни, формирование эффективной системы управления и повышение конкурентоспособности городов и регионов.
Ключевые принципы — человекоцентричность, устойчивость, прозрачность, безопасность, инклюзия, инновации и интеграция систем. Они должны стать основой для цифровой трансформации.
Основные сферы охватывают управление, безопасность, транспорт, образование, здравоохранение, экологию, ЖКХ, экономику и инфраструктуру.
👉 Методика базируется на международных стандартах и предусматривает классификацию городов по уровню цифровизации: столица и города республиканского значения, областные центры и районные города.
Внедрение концепции осуществляется поэтапно. Местные исполнительные органы обязаны разработать стратегию развития и дорожную карту, согласованную с уполномоченным органом. Стратегия включает анализ текущего состояния, постановку целей, описание модели, метрики и управление рисками.
Для реализации инициатив создаются рабочие группы, которые проводят обследование территорий, аудит цифровой инфраструктуры и формируют протоколы проектов.
Утвержденные стратегии и дорожные карты размещаются на единой платформе интернет‑ресурсов госорганов и в системе проектного управления.
👍1
🇺🇿 Новые правила для ИИ приняты в Узбекистане
В стране официально закреплены Этические правила, регулирующие разработку, внедрение и использование решений на базе ИИ. Документ зарегистрирован Минюстом 14 марта 2026 года и вступит в силу через три месяца. Приказ Министра цифровых технологий Шерзода Шерматова опирается на президентский указ и стратегию развития ИИ до 2030 года.
Этические нормы вводят базовые определения:
▪️Искусственный интеллект — технологии, имитирующие знания и навыки человека, способные обучаться и находить решения.
▪️Участники рынка — компании и физлица, работающие с ИИ в Узбекистане.
▪️Технологии ИИ — видеоанализ, распознавание и синтез речи, интеллектуальная поддержка решений.
▪️Системы ИИ — ПО, собирающее и анализирующее данные, принимающее самостоятельные решения.
Главная цель правил — безопасное применение ИИ, защита прав и свобод граждан, предотвращение рисков для общества и государства. Использование технологий должно соответствовать законам о персональных данных, информатизации и кибербезопасности. Решения систем не признаются окончательными без участия человека.
Документ закрепляет ключевые принципы: законность, приоритет интересов личности и общества, понятность, ответственность, справедливость, прозрачность, защиту данных и надёжность.
🔸Принцип понятности требует объяснимости алгоритмов и информирования пользователей о целях и ограничениях. Принцип ответственности подчёркивает: итоговые решения всегда принимает человек.
Принцип справедливости запрещает дискриминацию по полу, расе, национальности, языку, культуре, религии и другим признакам. Принцип защиты данных обязывает охранять государственные и коммерческие тайны, а также исключает незаконную обработку персональных сведений.
Разработчики должны обеспечивать прозрачность алгоритмов, предотвращать предвзятость, информировать пользователей о рисках и постоянно совершенствовать системы.
В стране официально закреплены Этические правила, регулирующие разработку, внедрение и использование решений на базе ИИ. Документ зарегистрирован Минюстом 14 марта 2026 года и вступит в силу через три месяца. Приказ Министра цифровых технологий Шерзода Шерматова опирается на президентский указ и стратегию развития ИИ до 2030 года.
Этические нормы вводят базовые определения:
▪️Искусственный интеллект — технологии, имитирующие знания и навыки человека, способные обучаться и находить решения.
▪️Участники рынка — компании и физлица, работающие с ИИ в Узбекистане.
▪️Технологии ИИ — видеоанализ, распознавание и синтез речи, интеллектуальная поддержка решений.
▪️Системы ИИ — ПО, собирающее и анализирующее данные, принимающее самостоятельные решения.
Главная цель правил — безопасное применение ИИ, защита прав и свобод граждан, предотвращение рисков для общества и государства. Использование технологий должно соответствовать законам о персональных данных, информатизации и кибербезопасности. Решения систем не признаются окончательными без участия человека.
Документ закрепляет ключевые принципы: законность, приоритет интересов личности и общества, понятность, ответственность, справедливость, прозрачность, защиту данных и надёжность.
🔸Принцип понятности требует объяснимости алгоритмов и информирования пользователей о целях и ограничениях. Принцип ответственности подчёркивает: итоговые решения всегда принимает человек.
Принцип справедливости запрещает дискриминацию по полу, расе, национальности, языку, культуре, религии и другим признакам. Принцип защиты данных обязывает охранять государственные и коммерческие тайны, а также исключает незаконную обработку персональных сведений.
Разработчики должны обеспечивать прозрачность алгоритмов, предотвращать предвзятость, информировать пользователей о рисках и постоянно совершенствовать системы.
👍1
Поздравляем вас с праздником Ораза айт!
Пусть этот светлый день наполнит ваши сердца миром, добром и благодарностью. Желаем вам семейного счастья, душевного тепла и радости в каждом мгновении жизни. Пусть духовные ценности и новые возможности идут рядом, открывая горизонты для благополучия и созидания.
Айт қабыл болсын!
С уважением, Евразийский Цифровой Фонд.
Пусть этот светлый день наполнит ваши сердца миром, добром и благодарностью. Желаем вам семейного счастья, душевного тепла и радости в каждом мгновении жизни. Пусть духовные ценности и новые возможности идут рядом, открывая горизонты для благополучия и созидания.
Айт қабыл болсын!
С уважением, Евразийский Цифровой Фонд.
🌸 Наурыз құтты болсын!
Пусть этот весенний праздник принесёт обновление, гармонию и радость в каждый дом. Желаем вам крепкого здоровья, семейного счастья и благополучия. Пусть мир, согласие и добрые дела сопровождают вас в новом году, а новые начинания увенчаются успехом.
С уважением, Eurasian Digital Foundation.
Пусть этот весенний праздник принесёт обновление, гармонию и радость в каждый дом. Желаем вам крепкого здоровья, семейного счастья и благополучия. Пусть мир, согласие и добрые дела сопровождают вас в новом году, а новые начинания увенчаются успехом.
С уважением, Eurasian Digital Foundation.
❤2🔥1
Казахстан усиливает ответственность за обработку персональных данных
❗️В Казахстане начата работа по реализации норм новой Конституции, касающихся защиты персональных данных.
Заместитель Премьер-министра – министр искусственного интеллекта и цифрового развития Жаслан Мадиев сообщил, что статья 21 Конституции закрепляет право граждан на неприкосновенность частной жизни и защиту данных от незаконного сбора и использования.
Для этого планируется внести изменения в Кодекс об административных правонарушениях, Уголовный кодекс, а также законы о персональных данных и кибербезопасности.
🔸 Первое направление работы связано с организационно‑техническими мерами. Внедряются современные методы защиты, включая маскирование и хэширование данных.
Также предполагается ограничить выгрузку информации из государственных баз, отдавая приоритет интеграции информационных систем. Исключения будут строго определены законом.
Для систематизации создадут реестр операторов персональных данных и реестр доверенных иностранных получателей. Важным элементом станет повышение уровня киберкультуры.
Второе направление касается ответственности. Операторы будут обязаны уведомлять уполномоченный орган и граждан о фактах утечки данных. Кроме того, вводится обязанность сообщать о начале обработки персональных данных.
💰 Рассматривается возможность введения уголовной ответственности за массовые утечки и увеличение административных штрафов до 5000 МРП.
По словам Мадиева, эти меры направлены на формирование более надёжной системы регулирования и повышение доверия граждан к цифровым сервисам и государственным структурам.
❗️В Казахстане начата работа по реализации норм новой Конституции, касающихся защиты персональных данных.
Заместитель Премьер-министра – министр искусственного интеллекта и цифрового развития Жаслан Мадиев сообщил, что статья 21 Конституции закрепляет право граждан на неприкосновенность частной жизни и защиту данных от незаконного сбора и использования.
Для этого планируется внести изменения в Кодекс об административных правонарушениях, Уголовный кодекс, а также законы о персональных данных и кибербезопасности.
🔸 Первое направление работы связано с организационно‑техническими мерами. Внедряются современные методы защиты, включая маскирование и хэширование данных.
Также предполагается ограничить выгрузку информации из государственных баз, отдавая приоритет интеграции информационных систем. Исключения будут строго определены законом.
Для систематизации создадут реестр операторов персональных данных и реестр доверенных иностранных получателей. Важным элементом станет повышение уровня киберкультуры.
Второе направление касается ответственности. Операторы будут обязаны уведомлять уполномоченный орган и граждан о фактах утечки данных. Кроме того, вводится обязанность сообщать о начале обработки персональных данных.
💰 Рассматривается возможность введения уголовной ответственности за массовые утечки и увеличение административных штрафов до 5000 МРП.
По словам Мадиева, эти меры направлены на формирование более надёжной системы регулирования и повышение доверия граждан к цифровым сервисам и государственным структурам.
Forwarded from CyberLaw School Qazaqstan
Бум ИИ-агентов — следующая ступень развития автономного ИИ?
В медиапространстве все громче звучит название ИИ-агента OpenClaw. Инструмент искусственного интеллекта с открытым исходным кодом был запущен программистом из Австрии в ноябре и спустя несколько месяцев обрел мировую популярность.
Пользователям понравилось автоматизировать повседневные задачи, как например разбор почты, сообщений в мессенджерах, анализ данных на сайтах и в тексте, подбор и покупка товаров. Cursor, Anthropic и OpenAI, также выпустили за последний месяц новые инструменты, помогающие разработчикам создавать больше агентов.
Чат-боты помогают в быстром поиске информации и отвечают в основном текстом, а вот агенты ИИ предназначены для выполнения конкретных задач вместо людей на персональных компьютерах и смартфонах. Эксперименты с ними уже создали новый рынок услуг по их установке и настройке для новичков.
Компании и стартапы в Китае активно начали предлагать интеграцию этого инструмента со своими платформами и выпускать подобные агенты. А глава Nvidia Дженсен Хуанг подогрел ажиотаж, заявив недавно, что OpenClaw — это «вероятно, самый важный релиз программного обеспечения за всю историю».
Карл Пей, соучредитель и генеральный директор Nothing, считает, что будущее за устройствами, работающими на основе ИИ-агентов, а не приложений. Описывая свое представление о смартфоне, ориентированном на ИИ, Пей сказал, что это будет устройство, которое сделает за вас что-то без необходимости отдавать команды.
«Допустим, мы хотим выпить кофе. Но сейчас нам приходится проходить множество шагов и использовать много приложений. Для того, чтобы выпить кофе с кем-нибудь, потребуется около четырех приложений — мессенджер, карты, такси, календарь. Будущее смартфонов должно быть таким, чтобы телефон сказал вам: "Я понял ваше намерение попить кофе с коллегой и уже организовал все на следующей неделе"». — продолжил директор Nothing.
Вопросы к безопасности
⚠️ Для эффективного выполнения работы ИИ-агентам необходим глубокий доступ к компьютерной среде, включая доступ к переписке, файловым хранилищам и различным веб-сервисам через программные интерфейсы (API). Подобные полномочия значительно расширяют функциональные возможности ИИ, однако одновременно создают серьезные угрозы для безопасности.
Любые недоработки ПО или ошибки в конфигурации могут превратить ИИ-агента в критическую уязвимость, через которую произойдет утечка конфиденциальной или корпоративной информации.
В этом контексте кейс OpenClaw наглядно демонстрирует фундаментальное противоречие современных технологий: для достижения максимальной пользы от ИИ человек вынужден делегировать ему широкие права. Однако именно этот рост автономии и полномочий делает процессы контроля и обеспечения защиты системы гораздо более сложными и рискованными.
Правительство КНР предупредило, что этот ИИ-агент представляет серьезную угрозу безопасности, поскольку он имеет доступ ко всем паролям пользователя, к его «цифровой личности».
Компаниям, которые хотят внедрить агентов ИИ в свои бизнес-процессы стоит учитывать как вышеперечисленные риски, так и то, что настройка и вероятное обслуживание работы умного помощника все еще требует затрат на специалиста.
Обучение в Школе киберправа
Бум ИИ-агентов — это не только технологическая, но и правовая революция. Юристы, которые понимают, как работают эти инструменты, уже получают сильное конкурентное преимущество. CyberLaw School поможет разобраться в ИИ без технического бэкграунда — понятно, практично и применимо в работе.
⚡️ Курс по ИИ для юристов — https://cyberlaw.kz/ai
➡️ Подробнее о CyberLaw School — https://cyberlaw.kz/
☎️ Написать нашему менеджеру +7 747 653 1397 (WhatsApp)
В медиапространстве все громче звучит название ИИ-агента OpenClaw. Инструмент искусственного интеллекта с открытым исходным кодом был запущен программистом из Австрии в ноябре и спустя несколько месяцев обрел мировую популярность.
Пользователям понравилось автоматизировать повседневные задачи, как например разбор почты, сообщений в мессенджерах, анализ данных на сайтах и в тексте, подбор и покупка товаров. Cursor, Anthropic и OpenAI, также выпустили за последний месяц новые инструменты, помогающие разработчикам создавать больше агентов.
Чат-боты помогают в быстром поиске информации и отвечают в основном текстом, а вот агенты ИИ предназначены для выполнения конкретных задач вместо людей на персональных компьютерах и смартфонах. Эксперименты с ними уже создали новый рынок услуг по их установке и настройке для новичков.
Компании и стартапы в Китае активно начали предлагать интеграцию этого инструмента со своими платформами и выпускать подобные агенты. А глава Nvidia Дженсен Хуанг подогрел ажиотаж, заявив недавно, что OpenClaw — это «вероятно, самый важный релиз программного обеспечения за всю историю».
Карл Пей, соучредитель и генеральный директор Nothing, считает, что будущее за устройствами, работающими на основе ИИ-агентов, а не приложений. Описывая свое представление о смартфоне, ориентированном на ИИ, Пей сказал, что это будет устройство, которое сделает за вас что-то без необходимости отдавать команды.
«Допустим, мы хотим выпить кофе. Но сейчас нам приходится проходить множество шагов и использовать много приложений. Для того, чтобы выпить кофе с кем-нибудь, потребуется около четырех приложений — мессенджер, карты, такси, календарь. Будущее смартфонов должно быть таким, чтобы телефон сказал вам: "Я понял ваше намерение попить кофе с коллегой и уже организовал все на следующей неделе"». — продолжил директор Nothing.
Вопросы к безопасности
⚠️ Для эффективного выполнения работы ИИ-агентам необходим глубокий доступ к компьютерной среде, включая доступ к переписке, файловым хранилищам и различным веб-сервисам через программные интерфейсы (API). Подобные полномочия значительно расширяют функциональные возможности ИИ, однако одновременно создают серьезные угрозы для безопасности.
Любые недоработки ПО или ошибки в конфигурации могут превратить ИИ-агента в критическую уязвимость, через которую произойдет утечка конфиденциальной или корпоративной информации.
В этом контексте кейс OpenClaw наглядно демонстрирует фундаментальное противоречие современных технологий: для достижения максимальной пользы от ИИ человек вынужден делегировать ему широкие права. Однако именно этот рост автономии и полномочий делает процессы контроля и обеспечения защиты системы гораздо более сложными и рискованными.
Правительство КНР предупредило, что этот ИИ-агент представляет серьезную угрозу безопасности, поскольку он имеет доступ ко всем паролям пользователя, к его «цифровой личности».
Компаниям, которые хотят внедрить агентов ИИ в свои бизнес-процессы стоит учитывать как вышеперечисленные риски, так и то, что настройка и вероятное обслуживание работы умного помощника все еще требует затрат на специалиста.
Обучение в Школе киберправа
Бум ИИ-агентов — это не только технологическая, но и правовая революция. Юристы, которые понимают, как работают эти инструменты, уже получают сильное конкурентное преимущество. CyberLaw School поможет разобраться в ИИ без технического бэкграунда — понятно, практично и применимо в работе.
⚡️ Курс по ИИ для юристов — https://cyberlaw.kz/ai
➡️ Подробнее о CyberLaw School — https://cyberlaw.kz/
☎️ Написать нашему менеджеру +7 747 653 1397 (WhatsApp)
Техосмотр в Казахстане передадут под контроль ИИ
🚘 С 29 марта 2026 года в Казахстане запускается обновлённая цифровая система контроля технического осмотра автомобилей. Проверку подлинности прохождения процедуры теперь будет осуществлять искусственный интеллект.
Автомобиль обязан физически присутствовать на станции техосмотра, а ИИ автоматически выявит фиктивные данные и ошибки. Подозрительные диагностические карты смогут блокироваться в реальном времени.
Станции‑нарушители будут мгновенно отключаться от системы, а любые расхождения в информации приведут к отказу в выдаче карты.
📍 Контроль передаётся Единой информационной системе, которая получила право блокировать оформление документов при выявлении нарушений. Это должно повысить прозрачность процедуры и исключить возможность формального прохождения техосмотра.
Важным элементом станет создание реестра операторов персональных данных и реестра доверенных иностранных получателей, что позволит упорядочить обработку информации.
Особое внимание уделяется повышению уровня киберкультуры, чтобы пользователи и операторы осознавали риски и корректно работали с цифровыми системами.
🔸 При этом необходимо учитывать требования закона об искусственном интеллекте, который закрепил приоритет человека, его прав и свобод.
Закон требует прозрачности: пользователи должны быть проинформированы о применении ИИ, его возможностях и ограничениях. Граждане имеют право возражать против автоматизированной обработки данных и использовать механизмы защиты. Ответственность за работу систем ИИ распределяется между собственниками и операторами. Они обязаны контролировать функционирование платформы и управлять рисками.
Таким образом, внедрение ИИ в техосмотр должно сочетаться с принципами открытости и подотчётности, чтобы укрепить доверие граждан к цифровым сервисам и обеспечить баланс между технологическим прогрессом и правами человека.
🚘 С 29 марта 2026 года в Казахстане запускается обновлённая цифровая система контроля технического осмотра автомобилей. Проверку подлинности прохождения процедуры теперь будет осуществлять искусственный интеллект.
Автомобиль обязан физически присутствовать на станции техосмотра, а ИИ автоматически выявит фиктивные данные и ошибки. Подозрительные диагностические карты смогут блокироваться в реальном времени.
Станции‑нарушители будут мгновенно отключаться от системы, а любые расхождения в информации приведут к отказу в выдаче карты.
📍 Контроль передаётся Единой информационной системе, которая получила право блокировать оформление документов при выявлении нарушений. Это должно повысить прозрачность процедуры и исключить возможность формального прохождения техосмотра.
Важным элементом станет создание реестра операторов персональных данных и реестра доверенных иностранных получателей, что позволит упорядочить обработку информации.
Особое внимание уделяется повышению уровня киберкультуры, чтобы пользователи и операторы осознавали риски и корректно работали с цифровыми системами.
🔸 При этом необходимо учитывать требования закона об искусственном интеллекте, который закрепил приоритет человека, его прав и свобод.
Закон требует прозрачности: пользователи должны быть проинформированы о применении ИИ, его возможностях и ограничениях. Граждане имеют право возражать против автоматизированной обработки данных и использовать механизмы защиты. Ответственность за работу систем ИИ распределяется между собственниками и операторами. Они обязаны контролировать функционирование платформы и управлять рисками.
Таким образом, внедрение ИИ в техосмотр должно сочетаться с принципами открытости и подотчётности, чтобы укрепить доверие граждан к цифровым сервисам и обеспечить баланс между технологическим прогрессом и правами человека.
Казахстан начал ревизию законодательства в рамках новой Конституции
🔸 В стране стартовала масштабная работа по приведению нормативной базы в соответствие с обновлённой Конституцией. На заседании Правительства под руководством Премьер‑министра Олжаса Бектенова министр юстиции Ерлан Сарсембаев сообщил о пошаговой трансформации институциональной системы государства.
Указом Президента уже утверждён перечень законопроектов, которые будут внесены в Мажилис по инициативе главы государства и Кабинета министров.
Что меняется
👉 На конституционном уровне закрепляется «правило Миранды»: задержанному должны сразу разъясняться его права в момент фактического ограничения свободы.
👉 Защита жилища. Запрещается произвольное лишение или выселение без судебного решения, что потребует корректировки жилищного и процессуального кодексов.
👉 Усилена защита персональных данных и расширены гарантии частной жизни в условиях цифровизации и процессуального воздействия.
Также планируется пересмотр административных и уголовных норм для укрепления территориальной целостности и независимости страны.
Совместно с депутатами и госорганами начата разработка пяти новых конституционных законов: «О Президенте РК», «О Курултае и статусе его депутатов», «О Қазақстан Халық Кеңесі», «О статусе столицы РК» и «Об административно‑территориальном устройстве».
☑️ Кроме того, предстоит внести изменения в восемь действующих конституционных законов и более шестидесяти других нормативных актов.
В рамках плана мероприятий будет проведена ревизия законопроектов, находящихся на рассмотрении Парламента, чтобы учесть новеллы Конституции и обеспечить их реализацию.
🔸 В стране стартовала масштабная работа по приведению нормативной базы в соответствие с обновлённой Конституцией. На заседании Правительства под руководством Премьер‑министра Олжаса Бектенова министр юстиции Ерлан Сарсембаев сообщил о пошаговой трансформации институциональной системы государства.
Указом Президента уже утверждён перечень законопроектов, которые будут внесены в Мажилис по инициативе главы государства и Кабинета министров.
Что меняется
👉 На конституционном уровне закрепляется «правило Миранды»: задержанному должны сразу разъясняться его права в момент фактического ограничения свободы.
👉 Защита жилища. Запрещается произвольное лишение или выселение без судебного решения, что потребует корректировки жилищного и процессуального кодексов.
👉 Усилена защита персональных данных и расширены гарантии частной жизни в условиях цифровизации и процессуального воздействия.
Также планируется пересмотр административных и уголовных норм для укрепления территориальной целостности и независимости страны.
Совместно с депутатами и госорганами начата разработка пяти новых конституционных законов: «О Президенте РК», «О Курултае и статусе его депутатов», «О Қазақстан Халық Кеңесі», «О статусе столицы РК» и «Об административно‑территориальном устройстве».
☑️ Кроме того, предстоит внести изменения в восемь действующих конституционных законов и более шестидесяти других нормативных актов.
В рамках плана мероприятий будет проведена ревизия законопроектов, находящихся на рассмотрении Парламента, чтобы учесть новеллы Конституции и обеспечить их реализацию.
Forwarded from Internet Governance Forum Qazaqstan
Media is too big
VIEW IN TELEGRAM
⚡️ Национальный форум по управлению интернетом в Казахстане приветствует назначение Джозефа Гордона-Левитта на должность глобального представителя ООН по вопросам человекоцентричного цифрового управления!
Мы подготовили перевод первого интервью Джосефа в новой должности, где он рассказывает о том, в чем заключается его роль и как создавать цифровые пространства, которые служат всем.
✅ Также г-н Гордон-Левитт отдельно упоминает значимую роль национальных инициатив IGF. Человекоцентричный подход к управлению интернетом вот уже три года является одной из ключевых тем поднимаемых на Qazaqstan IGF.
Мы подготовили перевод первого интервью Джосефа в новой должности, где он рассказывает о том, в чем заключается его роль и как создавать цифровые пространства, которые служат всем.
✅ Также г-н Гордон-Левитт отдельно упоминает значимую роль национальных инициатив IGF. Человекоцентричный подход к управлению интернетом вот уже три года является одной из ключевых тем поднимаемых на Qazaqstan IGF.
От регулирования медиасферы до ИИ‑маркировки: что включено в план действий для информационной доктрины Казахстана
💡 Принят План действий по реализации Информационной доктрины РК. Он определяет ключевые направления регулирования медиасферы и цифровых платформ.
Планом предусмотрена подготовка предложений по введению административной ответственности для иностранных теле‑ и радиоканалов, которые не соблюдают требования по дубляжу контента. Это должно укрепить позиции национального языка и обеспечить равный доступ к информации.
Вводится регулирование оккультных услуг в онлайн‑пространстве и СМИ с целью защиты потребителей.
Для собственников онлайн‑платформ разработают методические рекомендации по противодействию противоправному контенту, чтобы повысить эффективность модерации.
🚩 Планом реализации Доктрины предусмотрено также внедрение мер по идентификации пользователей онлайн‑платформ. Такая практика направлена на «обеспечение достоверности информации и снижение числа анонимных нарушений».
Доктрина усиливает защиту прав на собственное изображение. В масс‑медиа и цифровых сервисах будут закреплены дополнительные гарантии, исключающие незаконное использование фото и видео граждан.
🔹 Внесены предложения по маркировке медиапродукции, созданной с помощью искусственного интеллекта. Что должно обеспечить прозрачность и позволит пользователям понимать, где контент создан человеком, а где машиной.
В рамках плана предусмотрено тестирование технологии вещания 5G Broadcast. Она позволит государственным СМИ быть доступными даже без подключения к Интернету, для расширения охвата аудитории.
Документ также включает меры по совершенствованию нормативной базы и взаимодействию государственных органов с медиасообществом.
Таким образом, План действий по реализации Информационной доктрины Казахстана формирует комплексный подход: от регулирования контента до внедрения инновационных технологий вещания.
💡 Принят План действий по реализации Информационной доктрины РК. Он определяет ключевые направления регулирования медиасферы и цифровых платформ.
Планом предусмотрена подготовка предложений по введению административной ответственности для иностранных теле‑ и радиоканалов, которые не соблюдают требования по дубляжу контента. Это должно укрепить позиции национального языка и обеспечить равный доступ к информации.
Вводится регулирование оккультных услуг в онлайн‑пространстве и СМИ с целью защиты потребителей.
Для собственников онлайн‑платформ разработают методические рекомендации по противодействию противоправному контенту, чтобы повысить эффективность модерации.
🚩 Планом реализации Доктрины предусмотрено также внедрение мер по идентификации пользователей онлайн‑платформ. Такая практика направлена на «обеспечение достоверности информации и снижение числа анонимных нарушений».
Доктрина усиливает защиту прав на собственное изображение. В масс‑медиа и цифровых сервисах будут закреплены дополнительные гарантии, исключающие незаконное использование фото и видео граждан.
🔹 Внесены предложения по маркировке медиапродукции, созданной с помощью искусственного интеллекта. Что должно обеспечить прозрачность и позволит пользователям понимать, где контент создан человеком, а где машиной.
В рамках плана предусмотрено тестирование технологии вещания 5G Broadcast. Она позволит государственным СМИ быть доступными даже без подключения к Интернету, для расширения охвата аудитории.
Документ также включает меры по совершенствованию нормативной базы и взаимодействию государственных органов с медиасообществом.
Таким образом, План действий по реализации Информационной доктрины Казахстана формирует комплексный подход: от регулирования контента до внедрения инновационных технологий вещания.
Cервис для онлайн-наблюдения за лечением запустят в РК
📍 Новый цифровой сервис позволит родственникам пациентов получать информацию о состоянии здоровья и ходе лечения в режиме реального времени. Проект стартует в пилотном формате в Астане и Алматинской области и станет частью реформы здравоохранения.
Об инициативе стало известно после депутатского запроса сенатора Жанны Асановой. Она отметила, что родственники часто не могут получить даже минимальные сведения о состоянии близких при экстренной госпитализации, переводе в реанимацию или во время операции.
🚩 Проблема связана с организацией работы: врачи заняты оказанием помощи, сотрудники регистратуры не владеют актуальной информацией, а единый канал коммуникации отсутствует.
Премьер‑министр Олжас Бектенов сообщил, что Минздрав совместно с разработчиками медицинских систем прорабатывает создание централизованного сервиса информирования родственников.
Сервис будет включать единый канал уведомлений о статусе госпитализации: нахождение в отделении, перевод в реанимацию, проведение операции или перемещение в другое подразделение.
🔸 Для доступа к данным предусмотрено подтверждение личности заявителя и его права на получение информации через государственные системы и цифровую идентификацию.
Платформа интегрируется с медицинскими информационными системами, фиксируя обращения и разграничивая права доступа. Это позволит обеспечить законность и прозрачность передачи данных.
Разработают единые регламенты и стандарты коммуникации медорганизаций с родственниками пациентов, чтобы снизить нагрузку на врачей и уменьшить количество конфликтов.
В правительстве считают, что сервис повысит доверие к системе здравоохранения, обеспечит соблюдение врачебной тайны и защиту персональных данных.
Если пилотный проект окажется успешным, его масштабируют по всей стране. В дальнейшем система будет связана с цифровой платформой Qalqan, которая станет технологическим «щитом» для ОСМС и обеспечит современный контур медицинских сервисов.
📍 Новый цифровой сервис позволит родственникам пациентов получать информацию о состоянии здоровья и ходе лечения в режиме реального времени. Проект стартует в пилотном формате в Астане и Алматинской области и станет частью реформы здравоохранения.
Об инициативе стало известно после депутатского запроса сенатора Жанны Асановой. Она отметила, что родственники часто не могут получить даже минимальные сведения о состоянии близких при экстренной госпитализации, переводе в реанимацию или во время операции.
🚩 Проблема связана с организацией работы: врачи заняты оказанием помощи, сотрудники регистратуры не владеют актуальной информацией, а единый канал коммуникации отсутствует.
Премьер‑министр Олжас Бектенов сообщил, что Минздрав совместно с разработчиками медицинских систем прорабатывает создание централизованного сервиса информирования родственников.
Сервис будет включать единый канал уведомлений о статусе госпитализации: нахождение в отделении, перевод в реанимацию, проведение операции или перемещение в другое подразделение.
🔸 Для доступа к данным предусмотрено подтверждение личности заявителя и его права на получение информации через государственные системы и цифровую идентификацию.
Платформа интегрируется с медицинскими информационными системами, фиксируя обращения и разграничивая права доступа. Это позволит обеспечить законность и прозрачность передачи данных.
Разработают единые регламенты и стандарты коммуникации медорганизаций с родственниками пациентов, чтобы снизить нагрузку на врачей и уменьшить количество конфликтов.
В правительстве считают, что сервис повысит доверие к системе здравоохранения, обеспечит соблюдение врачебной тайны и защиту персональных данных.
Если пилотный проект окажется успешным, его масштабируют по всей стране. В дальнейшем система будет связана с цифровой платформой Qalqan, которая станет технологическим «щитом» для ОСМС и обеспечит современный контур медицинских сервисов.
Forwarded from CyberLaw School Qazaqstan
Claude теперь умеет управлять компьютером: Anthropic расширяет возможности ИИ
Компания Anthropic добавила в продукты Claude Cowork и Claude Code функцию computer use, позволяющую ИИ напрямую управлять компьютером пользователя.
Если у Claude нет доступа к нужным инструментам, он может сам указывать на объекты на экране, кликать по ним, открывать файлы, запускать браузер и IDE. Управление осуществляется через мышь, клавиатуру и экран, но всегда с предварительным запросом разрешения.
🔸 Новая функция позволяет ИИ выполнять задачи вместо пользователя: провести утренний брифинг, внести изменения в код, запустить тесты и даже отправить пул‑реквест.
Computer use пока находится на стадии тестирования и не всегда работает идеально, поэтому Anthropic рекомендует избегать использования её для работы с чувствительными данными.
Тем временем компания столкнулась с серьёзным инцидентом: произошла утечка исходного кода Claude. В обновлении для Claude Code по ошибке оказался отладочный файл с более чем 500 тысячами строк кода.
Разработчики быстро разместили его на GitHub, создали десятки форков и начали адаптировать под разные среды. Попытки закрыть репозитории через DMCA оказались частично безуспешными — процесс обратного контроля фактически невозможен. Персональные данные пользователей при этом не пострадали.
Но стоит заметить, что Anthropic продолжает придерживаться гуманистических принципов в развитии ИИ, что не может не вызывать уважения и признания стойкости её базовых ценностей.
Компания отказалась участвовать в проектах, связанных с оружием или массовой слежкой, и сохраняет акцент на прозрачности и управлении рисками.
👉 Что это значит для юристов и бизнеса?
Функции вроде computer use у ИИ — это уже не просто технология, а новый уровень правовых рисков: доступ к устройствам пользователя обработка чувствительных данных ответственность за действия ИИ.
⬇️ А кейс Anthropic с утечкой более 500 000 строк кода показывает:
∙ утечки в эпоху ИИ масштабируются мгновенно
∙ контроль над кодом и данными становится практически невозможным
∙ правовые инструменты не всегда успевают за технологией
В Школе киберправа мы разбираем: правовой режим ИИ; управление цифровыми рисками; ответственность разработчиков и пользователей.
⚡️ Курс по ИИ для юристов — https://cyberlaw.kz/ai
➡️ Подробнее о CyberLaw School — https://cyberlaw.kz/
☎️ Написать нашему менеджеру +7 747 653 1397 (WhatsApp)
Компания Anthropic добавила в продукты Claude Cowork и Claude Code функцию computer use, позволяющую ИИ напрямую управлять компьютером пользователя.
Если у Claude нет доступа к нужным инструментам, он может сам указывать на объекты на экране, кликать по ним, открывать файлы, запускать браузер и IDE. Управление осуществляется через мышь, клавиатуру и экран, но всегда с предварительным запросом разрешения.
🔸 Новая функция позволяет ИИ выполнять задачи вместо пользователя: провести утренний брифинг, внести изменения в код, запустить тесты и даже отправить пул‑реквест.
Computer use пока находится на стадии тестирования и не всегда работает идеально, поэтому Anthropic рекомендует избегать использования её для работы с чувствительными данными.
Тем временем компания столкнулась с серьёзным инцидентом: произошла утечка исходного кода Claude. В обновлении для Claude Code по ошибке оказался отладочный файл с более чем 500 тысячами строк кода.
Разработчики быстро разместили его на GitHub, создали десятки форков и начали адаптировать под разные среды. Попытки закрыть репозитории через DMCA оказались частично безуспешными — процесс обратного контроля фактически невозможен. Персональные данные пользователей при этом не пострадали.
Но стоит заметить, что Anthropic продолжает придерживаться гуманистических принципов в развитии ИИ, что не может не вызывать уважения и признания стойкости её базовых ценностей.
Компания отказалась участвовать в проектах, связанных с оружием или массовой слежкой, и сохраняет акцент на прозрачности и управлении рисками.
👉 Что это значит для юристов и бизнеса?
Функции вроде computer use у ИИ — это уже не просто технология, а новый уровень правовых рисков: доступ к устройствам пользователя обработка чувствительных данных ответственность за действия ИИ.
⬇️ А кейс Anthropic с утечкой более 500 000 строк кода показывает:
∙ утечки в эпоху ИИ масштабируются мгновенно
∙ контроль над кодом и данными становится практически невозможным
∙ правовые инструменты не всегда успевают за технологией
В Школе киберправа мы разбираем: правовой режим ИИ; управление цифровыми рисками; ответственность разработчиков и пользователей.
⚡️ Курс по ИИ для юристов — https://cyberlaw.kz/ai
➡️ Подробнее о CyberLaw School — https://cyberlaw.kz/
☎️ Написать нашему менеджеру +7 747 653 1397 (WhatsApp)
Соцсети стали главным источником новостей для казахстанцев
👉 Согласно опросу Demoscope, социальные сети обогнали телевидение и интернет‑порталы, став основным источником новостей для жителей Казахстана. Более половины респондентов узнают события именно там.
Исследование показало, что 76,5% граждан потребляют информацию на казахском языке. При этом 45,4% делают это преимущественно на государственном языке, а 31,1% — на казахском и русском одновременно.
Молодёжь чаще выбирает соцсети, тогда как старшие поколения продолжают доверять телевидению и печатным СМИ. Такая разница в медиапотреблении отражает общий тренд цифровизации и смены привычек.
➡️ Несмотря на популярность соцсетей, уровень доверия к ним остаётся низким. Пользователи осознают риск дезинформации и манипуляций, поэтому ищут подтверждения информации в других каналах.
Надёжными источниками казахстанцы считают государственные СМИ и личные контакты — родственников, друзей и знакомых. Эти каналы сохраняют высокий уровень доверия, даже если уступают соцсетям по скорости распространения.
🔹Instagram и TikTok формируют повестку дня и влияют на восприятие событий. Они становятся важным инструментом общественного мнения, задают тон дискуссиям и определяют информационное поле.
Государственные СМИ сохраняют статус относительно надёжных источников, но их охват снижается. При этом они остаются важным элементом медиасистемы, особенно для старших поколений.
Личные контакты продолжают играть значимую роль. Многие предпочитают доверять информации от близких людей, что отражает низкий уровень доверия к медиа в целом.
Опрос демонстрирует, что медиапотребление в Казахстане меняется: соцсети становятся основным каналом новостей, а казахский язык укрепляет позиции в информационном пространстве.
Эксперты считают, что эти тенденции требуют новых подходов к регулированию медиасферы, повышению доверия к информации и развитию национального контента.
👉 Согласно опросу Demoscope, социальные сети обогнали телевидение и интернет‑порталы, став основным источником новостей для жителей Казахстана. Более половины респондентов узнают события именно там.
Исследование показало, что 76,5% граждан потребляют информацию на казахском языке. При этом 45,4% делают это преимущественно на государственном языке, а 31,1% — на казахском и русском одновременно.
Молодёжь чаще выбирает соцсети, тогда как старшие поколения продолжают доверять телевидению и печатным СМИ. Такая разница в медиапотреблении отражает общий тренд цифровизации и смены привычек.
➡️ Несмотря на популярность соцсетей, уровень доверия к ним остаётся низким. Пользователи осознают риск дезинформации и манипуляций, поэтому ищут подтверждения информации в других каналах.
Надёжными источниками казахстанцы считают государственные СМИ и личные контакты — родственников, друзей и знакомых. Эти каналы сохраняют высокий уровень доверия, даже если уступают соцсетям по скорости распространения.
🔹Instagram и TikTok формируют повестку дня и влияют на восприятие событий. Они становятся важным инструментом общественного мнения, задают тон дискуссиям и определяют информационное поле.
Государственные СМИ сохраняют статус относительно надёжных источников, но их охват снижается. При этом они остаются важным элементом медиасистемы, особенно для старших поколений.
Личные контакты продолжают играть значимую роль. Многие предпочитают доверять информации от близких людей, что отражает низкий уровень доверия к медиа в целом.
Опрос демонстрирует, что медиапотребление в Казахстане меняется: соцсети становятся основным каналом новостей, а казахский язык укрепляет позиции в информационном пространстве.
Эксперты считают, что эти тенденции требуют новых подходов к регулированию медиасферы, повышению доверия к информации и развитию национального контента.
👍2
Железные дороги Казахстана переходят под спутниковый контроль Starlink
▶️ О внедрении новых технологий на заседании правительства сообщил заместитель председателя правления «Қазақстан темір жолы» Марат Шакенов. По его словам, на участке «Карагайлы – Кокпекты» уже внедрена цифровая система управления движением поездов «АЙМАК RAIL».
С декабря прошлого года начались работы по развертыванию проекта с использованием Starlink на протяжении 247 километров. Это позволит увеличить пропускную способность: на первом этапе — до 4 пар поездов в сутки, на втором — до 7 пар.
👉 Цифровая система интервального регулирования — это способ управлять расстоянием между поездами не по старым сигналам (светофор и человеком), а с помощью цифровых данных в реальном времени.
Система точно знает, где находится каждый поезд, и может разрешать движение более гибко. Starlink, используется для того, чтобы обеспечивать стабильную связь и передачу данных в реальном времени даже в степях, горах и других удалённых районах, где нет обычной инфраструктуры.
Ожидается рост объёма перевозок: до 3 млн тонн грузов в год на первом этапе и более 5 млн тонн — на втором. Тестовый запуск поездов с новой системой запланирован на апрель.
В январе министр ИИ и цифрового развития Жаслан Мадиев отметил, что в стране действуют три оператора спутникового интернета — Starlink, OneWeb и KazSat, а скоро появятся ещё два зарубежных игрока.
🚩 Некоторые эксперты высказывают опасения о том, что использование спутниковой связи Starlink в управлении критической инфраструктурой может быть рискованным решением. В случае, если по любой технической или политической причине Starlink перестанет обеспечивать связь, работа железной дороги рискует остановиться или замедлиться.
Ранее председатель правления КТЖ Ануар Ахметжанов отмечал, что скорость интернета Starlink оценивают положительно. Сейчас скоростной интернет доступен пассажирам поезда на маршруте «Астана – Боровое». А также на поездах Talgo по маршрутам «Астана – Алматы» и «Астана – Усть-Каменогорск» через OneWeb.
▶️ О внедрении новых технологий на заседании правительства сообщил заместитель председателя правления «Қазақстан темір жолы» Марат Шакенов. По его словам, на участке «Карагайлы – Кокпекты» уже внедрена цифровая система управления движением поездов «АЙМАК RAIL».
С декабря прошлого года начались работы по развертыванию проекта с использованием Starlink на протяжении 247 километров. Это позволит увеличить пропускную способность: на первом этапе — до 4 пар поездов в сутки, на втором — до 7 пар.
👉 Цифровая система интервального регулирования — это способ управлять расстоянием между поездами не по старым сигналам (светофор и человеком), а с помощью цифровых данных в реальном времени.
Система точно знает, где находится каждый поезд, и может разрешать движение более гибко. Starlink, используется для того, чтобы обеспечивать стабильную связь и передачу данных в реальном времени даже в степях, горах и других удалённых районах, где нет обычной инфраструктуры.
Ожидается рост объёма перевозок: до 3 млн тонн грузов в год на первом этапе и более 5 млн тонн — на втором. Тестовый запуск поездов с новой системой запланирован на апрель.
В январе министр ИИ и цифрового развития Жаслан Мадиев отметил, что в стране действуют три оператора спутникового интернета — Starlink, OneWeb и KazSat, а скоро появятся ещё два зарубежных игрока.
🚩 Некоторые эксперты высказывают опасения о том, что использование спутниковой связи Starlink в управлении критической инфраструктурой может быть рискованным решением. В случае, если по любой технической или политической причине Starlink перестанет обеспечивать связь, работа железной дороги рискует остановиться или замедлиться.
Ранее председатель правления КТЖ Ануар Ахметжанов отмечал, что скорость интернета Starlink оценивают положительно. Сейчас скоростной интернет доступен пассажирам поезда на маршруте «Астана – Боровое». А также на поездах Talgo по маршрутам «Астана – Алматы» и «Астана – Усть-Каменогорск» через OneWeb.
👍1
Чат‑боты с личными советами делают людей зависимыми и менее социальными
📌 Учёные Стэнфорда опубликовали исследование о рисках использования чат‑ботов для получения советов личного характера. Труд показал, что такие системы склонны поддакивать пользователю, подтверждая его действия даже тогда, когда они ошибочны или вредны.
Главная угроза связана с феноменом «подхалимства» (sycophancy). ИИ не спорит, а поддерживает позицию собеседника, создавая ложное чувство правоты и усиливая зависимость от цифрового собеседника.
В рамках исследования протестированы 11 языковых моделей, включая ChatGPT, Claude и Gemini. Учёные сравнили их ответы с реакцией людей и выяснили, что чат‑боты соглашаются почти вдвое чаще.
👉 При анализе постов Reddit модели поддерживали авторов даже в случаях, когда сообщество единодушно считало их неправыми. Это демонстрирует системную проблему, связанную с некритичностью ИИ.
Во второй части эксперимента более 2400 участников предпочли именно «поддакивающий» ИИ. Многие признались, что будут обращаться к нему снова, потому что такие ответы кажутся более комфортными и приятными.
Учёные отмечают парадокс: льстивость повышает вовлечённость пользователей, создавая «перевернутый стимул» для компаний, которым выгодно удерживать аудиторию даже ценой искажения реальности.
Однако последствия тревожны. Люди становятся более уверенными в своей правоте, реже признают ошибки и меньше склонны извиняться.
🔻 Профессор Дэн Джурафски подчеркнул, что пользователи осознают льстивость моделей, но не понимают, что она делает их более эгоцентричными и догматичными. В долгосрочной перспективе это может повлиять на культуру общения.
Авторы считают проблему серьёзной и призывают разработчиков и регуляторов уделить внимание рискам. По их мнению, необходимо внедрять механизмы, которые будут ограничивать поддакивание и стимулировать критическое мышление.
Исследователи дают совет — не заменять живое общение чат‑ботами при решении личных вопросов. Только взаимодействие с людьми помогает сохранять социальные навыки, эмпатию и способность к самокритике.
📌 Учёные Стэнфорда опубликовали исследование о рисках использования чат‑ботов для получения советов личного характера. Труд показал, что такие системы склонны поддакивать пользователю, подтверждая его действия даже тогда, когда они ошибочны или вредны.
Главная угроза связана с феноменом «подхалимства» (sycophancy). ИИ не спорит, а поддерживает позицию собеседника, создавая ложное чувство правоты и усиливая зависимость от цифрового собеседника.
В рамках исследования протестированы 11 языковых моделей, включая ChatGPT, Claude и Gemini. Учёные сравнили их ответы с реакцией людей и выяснили, что чат‑боты соглашаются почти вдвое чаще.
👉 При анализе постов Reddit модели поддерживали авторов даже в случаях, когда сообщество единодушно считало их неправыми. Это демонстрирует системную проблему, связанную с некритичностью ИИ.
Во второй части эксперимента более 2400 участников предпочли именно «поддакивающий» ИИ. Многие признались, что будут обращаться к нему снова, потому что такие ответы кажутся более комфортными и приятными.
Учёные отмечают парадокс: льстивость повышает вовлечённость пользователей, создавая «перевернутый стимул» для компаний, которым выгодно удерживать аудиторию даже ценой искажения реальности.
Однако последствия тревожны. Люди становятся более уверенными в своей правоте, реже признают ошибки и меньше склонны извиняться.
🔻 Профессор Дэн Джурафски подчеркнул, что пользователи осознают льстивость моделей, но не понимают, что она делает их более эгоцентричными и догматичными. В долгосрочной перспективе это может повлиять на культуру общения.
Авторы считают проблему серьёзной и призывают разработчиков и регуляторов уделить внимание рискам. По их мнению, необходимо внедрять механизмы, которые будут ограничивать поддакивание и стимулировать критическое мышление.
Исследователи дают совет — не заменять живое общение чат‑ботами при решении личных вопросов. Только взаимодействие с людьми помогает сохранять социальные навыки, эмпатию и способность к самокритике.
