Gartner предлагает стратегию информационной безопасности масштабирования внедрения технологий искусственного интеллекта в корпорациях. На сей раз выбрана метафора «Бутерброда». База бутерброда – централизованное хранилище данных. Над ним строится платформа технологий ИИ. Верхняя часть бутерброда – разрозненные потребители и поставщики информации. Потребители из верхней части могут выбирать собственные инструменты ИИ (BYOAI). Для обмена информации между верхним слоем и базой (хранилищем, потребителями и поставщиками информации) готовится специальный соус в виде фреймворка информационной безопасности – TRiSM (Trust, Risk, Security Management). Перенос всей информации между слоями должен пропитываться через TRiSM-соус.
Для реализации этой стратегии необходимо:
1. Желание руководителей внедрять ИИ с целью повышения производительности труда и оптимизации бизнес-процессов. (Отмечается, что риски инвестиций могут составлять от 500% до 1000$);
2. Организация системы информационной безопасности должна быть построена таким образом, чтобы при внедрении ИИ не нанести ущерб корпорации, но и проявляя гибкость, не мешать внедрению инновационных решений;
3. Позитивное отношение сотрудников к внедрению ИИ. Необходимо вести целенаправленную работу по преодолению скептического и даже негативного отношения сотрудников к внедрению ИИ.


https://emt.gartnerweb.com/ngw/globalassets/en/information-technology/documents/insights/it-symposium-keynote-2024.pdf?_gl=1*1q4v0eb*_ga*MTU5NDU3OTcxMy4xNzIyMzMzNTcw*_ga_R1W5CE5FEV*MTczMzM0MTA3OS4xNS4xLjE3MzMzNDExNTcuMC4wLjA.

Интересно

Рекомендации ASIS (Американское общество профессиональных сотрудников службы безопасности) по борьбе с фишинговыми атаками

1. Информирование персонала о последних случаях и приемах использования фишинга;
2. Использование современных технологии безопасности, таких как системы обнаружения угроз на основе искусственного интеллекта, усовершенствованные фильтры электронной почты и веб-браузеры со встроенной защитой от фишинга;
3. Применение многофакторной аутентификации;
4. Организация обмена информации между специалистами в области информационной безопасности;
5. Поощрение сотрудников, сообщающих о фишинговых атаках;
6. Проявление осторожности при взаимодействии с непроверенными источниками, избегая перехода по подозрительным ссылкам, загрузки вложений от неизвестных отправителей или предоставления личной информации без проверки законности запроса.

На конференции KMWorld-2024 меньше всего докладов было сделано в секции TAXONOMY (Классификация, Систематизация). Интерес к теме поддерживается исключительно ИТ-структурами. В некоторых докладах звучат призывы к участию в процессе структурирования информации широких масс, но это скорее подтверждает падающий интерес со стороны пользователей к существующим каталогам.
Специалисты в области классификации и систематизации информации как бы не замечают, что пользователи потеряли интерес к работе с большими каталожными системами. А возможности работать с «большими данными» и вовсе делают классические каталоги бессмысленными.

Известный факт: многомиллиардная компания Yahoo практически обанкротилась, сделав ставку на мировой классификатор. Спасло бизнес быстрая перестройка интернет-ресурса в информационный портал по актуальным предметным областям. Каталог и разрабатываемый много лет классификатор оказались никому не нужными и были снесены.

Все классификаторы информативны, пока они находятся на стадии становления. Например, каталог содержит семь классов, в каждом классе семь подклассов, в каждом подклассе 5-10 лучших материалов. В этом случае контент-менеджер знает все 49 классификаторов и не допускает ошибок. Пользователю также не составляет труда найти необходимый материал. На практике, как правило, весь поток поступающих материалов заносится в каталог, а когда папки переполняются, эксперты, реализуя свои знания о предмете, начинают придумывать новые подклассы. Какое-то время назад такие классификаторы даже стали называть «Деревом знаний», так как классификатор передавал знания о структуре предметной области от эксперта пользователю. Однако, разрастающиеся до десятков тысяч папок классификаторы перестают нести экспертные знания. В больших каталогах трудно что-либо найти. Поиск по сайту дает более надежные результаты. Чтобы что-то найти в большом каталоге, пользователь прежде всего должен знать, по какой ветви «знаний» ему следует двигаться, чтобы найти необходимый материал. Менеджеры каталога со временем теряют четкое представление о структуре собственного ресурса. Невозможно в голове держать информацию о тысячах классов и подклассов. Часто с развитием каталогов в них появляются многочисленные дублирования классов, находящихся на различных ветвях классификатора. Причем, самым часто повторяющимся классом является «Прочее». Кто-нибудь из разработчиков классификатора задумывался, кто будет что-то искать в папке «Прочее», куда менеджер каталога сложил материалы, не понимая к какому классу их присоединить. Как результат, все большие каталоги рано или поздно умирают. Вслед за Yahoo снесли свои каталоги Google и Yandex.

Каковы перспективы TAXONOMY?
Основанную потребность в классификаторах испытывают контролирующие структуры. Они заставляют подчиненных наполнять классификаторы с целью сбора статистики. Но и здесь есть проблемы, связанные с корректностью определения каждого класса, с появлением и исчезновением тем или иных определяющих класс терминов, что влечет за собой необходимость переноса материалов из одного класса в другой или даже в несколько классов. Возможно, с целью контроля за предметной областью или выполняемыми проектами классификаторы будут жить еще долго, пока их окончательно не вытеснят достижения в области аналитики больших данных и технологии искусственного интеллекта.

На конференции прозвучало несколько докладов, посвящённых формированию у сотрудников индивидуальных навыков систематизировать информацию. Это важный аспект развития.
Практика показывает, что построение собственного индивидуального классификатора (хотя бы в виде bookmarks в браузере), как правило, интересно для сотрудника только на начальной стадии изучения проблемы. Когда сотрудник уже глубоко погрузился в проблему, интерес к развитию индивидуального классификатора пропадает. Индивидуальный классификатор перестает развиваться, а со временем переносится в архив или вообще теряется. Индивидуальный классификатор и собранные в нем материалы представляют интерес для корпорации, как источник накопления базы знаний, как индивидуальный взгляд специалиста на проблему. Из таких индивидуальных структурных описаний предметной области может в последующем выстраиваться на корпоративном уровне качественная онтология. Для реализации этой задачи необходимо научить сотрудников пользоваться современными методами и инструментами классификации, поощрять сотрудников демонстрировать свои результаты, внедрить практику накопления индивидуальных классификаторов и построения на их основе онтологий предметных областей.
https://www.kmworld.com/Conference/2024/Presentations.aspx

Корпоративный поиск информации.
На конференции KMWorld раздел организации поиска обсуждался в секции EnterpriseSearch and Discovery. Приятно отметить, что вновь введено в оборот понятие Discovery (Открытие). Это очень точное определение тому, что мы ищем. 30 лет назад бурное развитие поисковых сервисов определялось концепцией Data Mining and Knowledge Discovery. С помощью одних инструментов ты добываешь информацию, а с помощью других открываешь для себя новые знания. На смену «Добычи и Открытию» пришло «Управление знаниями».
Следует отметить, что технологии искусственного интеллекта в секции «Поиск» упоминаются значительно реже, чем в целом на конференции. В основном речь идет о генеративном интеллекте. Судя по немногочисленным докладам, основной проблемой внедрения технологий ИИ в корпоративный поиск может стать слабая организация уже существующей поисковой системы: материалы хранятся в разрозненных базах данных, в ряде случаев отсутствуют мета данные ресурсов, отсутствует строгая система классификации и систематизации материалов, устаревшие документы не архивируются и т.д.. Искусственный интеллект не вылечит эти проблемы. Если поисковая система корпорации работает плохо, то ИИ только усугубит проблему. По мнению докладчиков, внедрению ИИ в поиск должна предшествовать кропотливая работа экспертов, понимающих как устроен существующий поиск, включая, где и что хранится, как регулируются права доступа, что и в каком объеме индексируется, кто и каким образом отвечает за исключение из индекса устаревших документов, наконец, в какой форме пользователь хотел бы получать документы. Обладая этими знаниями, эксперт сможет использовать машинное обучение для настройки поисковой системы корпорации.

https://www.enterprisesearchanddiscovery.com/2024/Presentations.aspx

Не уверен, что более 80% сотрудников игнорируют унаследованную систему управления знаниями. Но согласен с eGain, современная СУЗ должна формироваться, как информационный хаб, как персональный ассистент сотрудника по всем вопросам его компетенции.

На конференции по управлению знаниями и ИИ один из авторов отождествил информационную безопасность с белочкой.

Nieman Lab прогнозирует в скором будущем появление персональных каналов получения новостей. Современные новостные каналы (ленты новостей) не могут полностью соответствовать персональным интересам всех подписчиков, учитывая актуальность публикации для каждого читателя, его уровень компетенции, глубину изложения и пр. Возможности технологий ИИ позволят очень точно настраивать персональные каналы на каждого сотрудника. Кому-то нужно что-то разъяснить, кому-то нужны научные статьи, кому-то патентный ландшафт – каждому сотруднику будет доставляться информация в соответствии с его персональными потребностями и уровнем компетенции. Уровень компетенции и информирования у сотрудника будут постепенно расти, и персональный канал будет учитывать эту динамику, изменяя профиль поиска. Иными словами, персональный новостной канал становится не только поставщиком новостей, но и инструментом формирования новых знаний у сотрудника.
https://www.niemanlab.org/2024/12/a-new-generation-of-knowledge-management-tools/

Вряд ли можно встретить человека, который бы не сожалел о сделанных ошибочных решениях. Интересная лекция психолога из Гарварда Дэна Джильберта (Dan Gilbert ): "Почему мы принимаем плохие решения". Оказывается, плохие решения - это естественный процесс, данный нам от природы. Используя рекомендации Джильберта, можно избежать многих ошибок и улучшить качество своей жизни.
(Справа на странице есть кнопка Read Transcript. По ссылке можно выбрать русский язык и прочитать текст лекции. А потом еще раз послушать на английском😀).
https://www.ted.com/talks/dan_gilbert_why_we_make_bad_decisions/transcript?utm_source=homepage_recommended&utm_content=2&utm_term=video-title&language=en

"Компания устанавливает IT-систему в ожидании, что сотрудники тут же начнут её использовать и работать в три раза продуктивнее. На деле же KMS остаётся незамеченной: кто-то не успевает в ней разобраться из-за кучи задач, кто-то считает, что быстрее спросить коллегу. В итоге производительность стоит на месте, а в процессах возникает бардак.

Основная ошибка здесь — надеяться, что наличие системы автоматически решит проблемы. Чтобы все пользовались KMS с базой знаний, которую она предоставляет, нужно её не просто внедрить, а наладить в ней ежедневную работу и донести преимущества до сотрудников."
https://vc.ru/services/1701594-ochen-strashno-my-ne-znaem-chto-eto-takoe-pochemu-baza-znanii-ne-reshit-vse-problemy-sama-po-sebe

На первой странице сайта Gartner размещена кривая развития перспективных технологий в области Agile ana DevOps. Условно современных методологий управления проектами.
Более десятка новых технологий аналитики Gartner отправили на стадию Разочарования.
Большинство из этих технологий - это экзотика, по некоторым из них не было опубликовано ни одной серьезной статьи. Но что сильно удивляет, что в число разочарований попали Системы непрерывного улучшения (Continuous quality) и Сообщества практикующих специалистов (Сommunities of practice). Первая технология лежит в основе стратегии развития многих крупных корпораций. А разочарование в технологиях работы с сообществами специалистов – серьезный удар по организации современных Систем управления знаниями. Ранее никаких признаков негативного отношения к этим технологиям замечено не было (критика в статьях, научных публикациях, появление альтернативных решений). Возможно, эти технологии противоречат самой концепции Agile, как методологии непрерывного совершенствования!?

Итоги 2024 в области Информационной безопасности (По материалам Check Point). IT-отрасль, а это информационные компании и ДИТы крупных корпораций, находится на почетном последнем месте. Число атак снизилось, благодаря надежной работе ИБ. Хакеры не хотят зря терять время на противостояние с департаментами ИБ. Лидером по числу атак является образовательная отрасль, где информационная структура зачастую поддерживается студентами. Все логично. Вопрос: не приведут ли успехи ДИБов по снижению числа атак к секвестру их бюджета и сокращению штата.
Существует ли вообще некая формула расчета бюджета на информационную безопасность? Не могут же затраты на информационную безопасность превышать стоимость охраняемого актива. Или могут. Кстати, этот вопрос актуален в отношении любых инноваций.

Все больше статей появляется на тему персонализации получения данных из различных источников. И хотя подобные системы еще не заработали, но аналитики уже отмечают потенциальные проблемы, в частности, связанные с безопасностью, конфиденциальностью, защитой личной информации. Администраторы системы и «учителя» машинного обучения (МО) так или иначе получают доступ к профилю запросов сотрудников корпорации. Информация об интересах рядового сотрудника сама по себе не представляет большой опасности, в случае ее утечки и незаконного использования. Совсем другое дело, когда речь заходит о получении информации об интересах топ-менеджеров корпорации.
Вторая проблема: из каких источников, в каком объеме и в какой редакции будет поставляться информации. Рассмотрение любой предметной области всегда можно представить с различных точек зрения. У «учителей» МО появляется соблазн (умышленно или в силу иных обстоятельств) продвигать собственное видение предметной области.
Пока эти проблемы только озвучиваются, но они появились уже давно, с момента внедрения первых ЭВМ. Самым ярким примером сбора информации о пользователях служат глобальные поисковые системы Google и Yandex.
Какие решения в этой области могут предложить специалисты по ИИ и машинному обучению, информационной и общей безопасности?

Корпорация Enterprise Knowledge опубликовал свое видение основных трендов в области Управления знаниями. Выделено семь направлений:

1. Симбиоз технологий искусственного интеллекта (ИИ) и управления знаниями (УЗ),
где используется экспертные знания специалистов по УЗ для обучения и настройки технологий ИИ;
2. Подготовка корпоративного контента для технологий ИИ, чтобы он был понятным, точным, актуальным и в высшей степени надежным;
3. Заполнение пробелов в существующих знаниях;
4. Сбор недостающих знаний с помощью ИИ;
5. Формирование корпоративных семантических слоев;
6. Управление правами доступа к тем или иным корпоративным знаниям;
7. Разработка системы оценки окупаемости внедрения технологий ИИ.

P.S. Авторы трендов 2025 года в области Управления Знаниями, на мой взгляд, скорее озвучивают появившиеся проблемы в области внедрения ИИ на корпоративном уровне, чем появление продуктов для их решения. Многие из приведенных проблем вполне возможно так и останутся нерешенными и перейдут в разряд теоретических.

Про Стратегии
Известная статья гуру маркетинга М.Портера Strategy and the Internet.
Ключевая цитата из этой статьи: «But most of the trends are negative». (Но большинство тенденций негативны). Прошло время, и все перечисленные в статье М.Портера негативные тренды, в основном касающиеся интернет-торговли, позволили Интернету выжить после кризиса дот-комов и подняться до современного уровня многомиллиардного бизнеса. Справедливости ради, заметим, что, во-первых, статья написана в 2001 году в разгар кризиса и краха большинства интернет-компаний, когда любой негатив воспринимался, как объяснение потерянных инвестиций. А, во-вторых, эта статья является продолжением его видения самого понятия Стратегии, изложенной в 1996 году в другой статье That is Strategy? , где он называет стремления учитывать в стратегии современные веяния, в частности, Интернет, опасной полуправдой. К чему приводит нежелание учитывать объявленные крупными игроками тренды, мы видим из его последующей статьи про Стратегию Интернет.
Обе перечисленные статьи были опубликованы в Harvard Business Review. Спустя 15 лет уважаемое издание продвигает иное видение Стратегии, идеологом которой стал профессор Роджер Мартин (Roger L. Martin). В своих трудах он жестко критикует стратегическое планирование, которое часто принимают за стратегию. В его понимании стратегия это то, что определяет пути достижения сверхзадач, стоящих перед компанией. Эти директивные направления строятся на основе существующих возможностей, ресурсов и современных технологических трендов. По мнению профессора, в противовес стратегическим планам стратегия не должна содержать описания конкретных проектов, а представлять собой простой, логичный, понятный в кратком изложении подход для достижения поставленных целей. Противопоставление Стратегического Плана и Стратегии является одной из самых серьезных проблем для большинства компаний. Вот что по этому поводу думает сам профессор Р.Мартин. «Однако человеческая природа такова, что планирование и другие действия всегда будут доминировать над стратегией, а не служить ей, если только не будут предприняты сознательные усилия, чтобы предотвратить это».


https://hbr.org/2001/03/strategy-and-the-internet

https://www.uniba.it/it/docenti/somma-ernesto/whatisstrategy_porter_96.pdf

https://hbr.org/2014/01/the-big-lie-of-strategic-planning

Методология непрерывного совершенствования процессов (CIP) зародилась в 50-е годы в Японии. На основе японской философии Кайдзен были сформулированы около двух десятков ключевых принципов работы. Цикл PDCA вошел в стандарт ISO 9001.
Интересный вопрос. А сама методология непрерывного совершенствования тоже непрерывно совершенствуется? Есть ли примеры: было-стало?