Ребята с конференции (☝️) собрали папку по нейросетям. Есть несколько человек, которых знаю лично (и подписан) и несколько на чьих докладах был, так что могу рекомендовать посмотреть.

📁 Добавляйте себе эту папку — пусть она станет вашим полезным информационным полем без лишнего шума и инфоцыганщины.

✈️ Скорость развития ИИ опережает регулирование. И это нормально?

Всем привет! Знакомые прислали ссылку на интересный отчет - International AI Safety Report 2026 – большой международный доклад о рисках и ограничениях самых мощных универсальных моделей ИИ, подготовленный группой независимых экспертов из разных стран. Кажется это не маркетинг, не футурология и не страшилки, а попытка оценить реальное положение дел.

✅Этот отчет написан для регуляторов, но прочитать его стоит каждому руководителю, ведь пока правительства согласовывают формулировки – бизнес уже работает с этими инструментами). И вопрос не «будет ли ИИ опасен», а «умеешь ли ты с ним работать осознанно». Давайте посмотрим на важные аспекты отчета.

🚀Первое и главное: исследователи признают, что сегодня ИИ вышел из стадии «эксперимента». Речь уже не идет просто о генерации текстов и картинок: AI-ассистенты используются в разработке программного обеспечения; научных исследованиях; автоматизации сложных процессов; отлаживании систем кибербезопасности… То есть, ИИ становится частью критической инфраструктуры знаний.

💬 Тем не менее, эксперты сходятся во мнении, что ИИ несет в себе не только новые возможности, но и риски. Это, конечно, не «восстание машин», но существуют и весьма реалистичные угрозы: например, масштабируемая дезинформация; автоматизация кибератак; разработка потенциально опасных технологий и снижение прозрачности решений, принимаемых моделями. Особенно интересный момент – проблема предсказуемости: чем мощнее и сложнее система, тем сложнее полностью понимать ее поведение в нетипичных условиях.

🗣 Один из центральных выводов доклада звучит следующим образом (собственно подобным же образом он звучал и в 2024/2025): скорость развития ИИ-моделей часто выше, чем скорость формирования механизмов контроля, тестирования и регулирования. Мы фактически строим очень мощные системы, не задумываясь при этом о создании инструментов их аудита. Это напоминает ранние этапы развития авиации или атомной энергетики: сначала технологический прорыв, потом формирование норм безопасности.

⚡️Конечно, это не значит что нужно «остановить ИИ», но совершенно точно стоит подумать о неких стандартах прозрачности разработчиков относительно возможностей моделей, а также о подготовке институтов к новым типам рисков. Сравнение с атомной энергетикой для меня оказалось неожиданно острым, возможно из-за несколько документальных фильмов про ЧАЭС, которые заканчивались словами “до ЧАЭС управлению рисками не придавалось столь большое значение”.

⚙ Искусственный интеллект – это уже инфраструктурная технология. Он перестал быть просто инструментом продуктивности, поэтому к нему важно начать относиться так же, как к энергетике, финансам или фармацевтике, соблюдая баланс между скоростью развития и системной ответственностью. Мы находимся в точке, когда качество управления ИИ будет определять не только технологический прогресс, но и устойчивость экономик.

💡Если вы знаете какие-то работы по управлению рисками в области LLM и они вам нравятся поделитесь ну или если есть просто видение или мнение на этот счет, тоже будет интересно обсудить.