Тут последние пару дней активно обсуждают кейс по увольнению ТОП-менеджера московской компании за то, что та через личную почту передавала данные DeepSeek. Я решил копнуть чуть глубже громких заголовков, чтобы понять хронологию событий. И получилась интересная картина.
Судя по всему, проблемы у сотрудницы начались далеко не с ИИ. И это даже не было основной причиной увольнения. Вот хронология событий на основании решения суда:
Если вкратце, то реальная основная причина увольнения - косяки в ходе работы с одним поставщиком и разглашение конфиденциальной информации на встрече с другим, что привело к потере этого поставщика. Но доказать последнее без записи встречи - невозможно, поэтому, компания начала "копать" под сотрудницу, ища другие поводы для увольнения. И нашла.
Как это было выявлено? Вообще, в решении суда нет прямого указания, как определили загрузку документов в дипсик. Есть упоминание того, что сотрудница отправляла документы на личную почту (задетектили это через скриншоты рабочего стола Sprutmonitor), а потом в объяснительной упомянула использование дипсика. Подозреваю, с неё потребовали объяснение "кому ты сливаешь наши документы?", а она сама написала в объяснительной "никому не сливаю, у нас в компании нет нормального ИИ, приходится пользоваться сторонним, отправляя в него инфу через личные аккаунты, так как доступ к ИИшкам у нас на рабочих девайсах заблочен" (у самого есть друзья, которые так делают и не слушают мои увещевания о том, что делать так не стоит)
Ещё один интересный момент - сотрудница пользовалась не основным сайтом дипсика, а его прокси. Так что, формально, разглашение было ещё и владельцам прокси (на что суд и сама компания, кстати, внимания не обратили).
P.S. Нашёл похожий кейс в Великобритании - там суд признал законным лишение адвоката лицензии за отправку материалов дел в ChatGPT. Но там такой трешак и непонимание судом реалий ПО и ИИ, судя по всему... Короче, будет запрос - постараюсь и его разобрать)
Судя по всему, проблемы у сотрудницы начались далеко не с ИИ. И это даже не было основной причиной увольнения. Вот хронология событий на основании решения суда:
Июль 2025 — первый (по времени) повод для претензий: сделка с контрагентом
01.07.2025 — выдана доверенность на подписание договоров. После одобрения договора руководством спецификация была изменена в сторону увеличения объёма и стоимости; гендиректор распорядился отозвать договор для корректировок.
17.07.2025 — на совещании согласована новая редакция спецификации.
29.07.2025 — гендиректор обнаружил, что направленная контрагенту спецификация не соответствует согласованной форме, хотя сотрудница уверяла об отсутствии расхождений.
Август 2025 — претензии оформляются документально
01–12.08.2025 — по данным СКУД фиксируются отлучки с рабочего места (от 1 ч 02 мин до 3 ч 46 мин).
05.08.2025 — служебная записка юриста: в подписанном договоре срок аванса 7 рабочих дней вместо согласованных 3.
13.08.2025 — «день Х»: докладная об отлучках; две докладные о разглашении на встрече с поставщиком информации о выводе собственного бренда; приказ о служебном расследовании по разглашению; приказ о расследовании по нарушению Регламента согласования договоров; затребованы объяснения.
14.08.2025 — приказ о проверке действий пользователя в ИТ-системах;
15.08.2025 — докладная сисадмина о пересылке данных на внешнюю почту и выгрузке в DeepSeek.
20.08.2025 — поставщик перестал выходить на связь;
27.08.2025 — акты о завершении обоих расследований.
09.09.2025 — увольнение сотрудницы
Если вкратце, то реальная основная причина увольнения - косяки в ходе работы с одним поставщиком и разглашение конфиденциальной информации на встрече с другим, что привело к потере этого поставщика. Но доказать последнее без записи встречи - невозможно, поэтому, компания начала "копать" под сотрудницу, ища другие поводы для увольнения. И нашла.
Как это было выявлено? Вообще, в решении суда нет прямого указания, как определили загрузку документов в дипсик. Есть упоминание того, что сотрудница отправляла документы на личную почту (задетектили это через скриншоты рабочего стола Sprutmonitor), а потом в объяснительной упомянула использование дипсика. Подозреваю, с неё потребовали объяснение "кому ты сливаешь наши документы?", а она сама написала в объяснительной "никому не сливаю, у нас в компании нет нормального ИИ, приходится пользоваться сторонним, отправляя в него инфу через личные аккаунты, так как доступ к ИИшкам у нас на рабочих девайсах заблочен" (у самого есть друзья, которые так делают и не слушают мои увещевания о том, что делать так не стоит)
Ещё один интересный момент - сотрудница пользовалась не основным сайтом дипсика, а его прокси. Так что, формально, разглашение было ещё и владельцам прокси (на что суд и сама компания, кстати, внимания не обратили).
P.S. Нашёл похожий кейс в Великобритании - там суд признал законным лишение адвоката лицензии за отправку материалов дел в ChatGPT. Но там такой трешак и непонимание судом реалий ПО и ИИ, судя по всему... Короче, будет запрос - постараюсь и его разобрать)
🤔8❤1
Роадмап v1.1 Патчноут
1. Обнаружил важный пробел в терминологии - полностью отсутствовала ветка виртуализации. Добавлено
2. Вспомнил, что мы живём в 2026 году. Добавлена ветка безопасности AI (как защита самого ИИ от атак на него, так и защита от агента)
2.1 Добавил отдельный трек AI-security
3. Поправил имена скачиваемых роадмапов
4. Добавил английскую версию сайта (готовимся к выходу гетментора на международный уровень)
5. Добавил первый режим покраски роадмапа, верифицированный человеком (мной) - Сетевая безопасность
6. Добавил кошельки для доната (а вдруг у кого-то возникнет такое желание!)
7. Ну и по классике - пофиксил мелкие баги и опечатки, добавил новые
1. Обнаружил важный пробел в терминологии - полностью отсутствовала ветка виртуализации. Добавлено
2. Вспомнил, что мы живём в 2026 году. Добавлена ветка безопасности AI (как защита самого ИИ от атак на него, так и защита от агента)
2.1 Добавил отдельный трек AI-security
3. Поправил имена скачиваемых роадмапов
4. Добавил английскую версию сайта (готовимся к выходу гетментора на международный уровень)
5. Добавил первый режим покраски роадмапа, верифицированный человеком (мной) - Сетевая безопасность
6. Добавил кошельки для доната (а вдруг у кого-то возникнет такое желание!)
7. Ну и по классике - пофиксил мелкие баги и опечатки, добавил новые
🔥10❤4
"Всех ИТшников заменит ИИ" (с)
Так же влияние ИИ на найм в ИТ-компании:
Пояснение:
Тут ребята с одной джобборды посмотрели динамику числа вакансий разных ИТ-компаний (от бигтеха до стартапов), наложили получившийся график на даты выхода самых заметных нейронок. И получили интересную картину - несмотря на то, что в сравнении с постковидным бумом, мы сейчас живём в сильно просевшем рынке, нейронки на найм повлияли примерно никак...
Так же влияние ИИ на найм в ИТ-компании:
Пояснение:
Тут ребята с одной джобборды посмотрели динамику числа вакансий разных ИТ-компаний (от бигтеха до стартапов), наложили получившийся график на даты выхода самых заметных нейронок. И получили интересную картину - несмотря на то, что в сравнении с постковидным бумом, мы сейчас живём в сильно просевшем рынке, нейронки на найм повлияли примерно никак...
❤8🤔5👍1
Forwarded from AppSec Journey
Короче, мем.
Вин в номинации что признать самой смешной защитой от prompt injection: обязать атакующего перейти на бумагу.
В Коннектикуте участник судебного процесса спрятал в документах инструкции для ИИ. Текст был набран мелким белым шрифтом: человек его не видит, а система, которая извлекает текст из документа, вполне себе читает. Внутри лежала команда согласиться с позицией автора и помочь отменить предыдущее решение суда.
Атака не сработала, потому что суд вообще не использует ИИ для анализа таких документов. Инъекцию заметил обычный человек по странным пустым местам на странице.
Но судья справедливо решил, что это не особо меняет дело. Документ мог попасть в AI-инструмент адвоката, помощника или другой стороны процесса. Поэтому автора лишили права подавать документы электронно: теперь только распечатка и личная подача.
Пока строят классификаторы и document sanitization, парни просто юзают аналоговый LLM firewall. Бумага.
Вин в номинации что признать самой смешной защитой от prompt injection: обязать атакующего перейти на бумагу.
В Коннектикуте участник судебного процесса спрятал в документах инструкции для ИИ. Текст был набран мелким белым шрифтом: человек его не видит, а система, которая извлекает текст из документа, вполне себе читает. Внутри лежала команда согласиться с позицией автора и помочь отменить предыдущее решение суда.
Атака не сработала, потому что суд вообще не использует ИИ для анализа таких документов. Инъекцию заметил обычный человек по странным пустым местам на странице.
Но судья справедливо решил, что это не особо меняет дело. Документ мог попасть в AI-инструмент адвоката, помощника или другой стороны процесса. Поэтому автора лишили права подавать документы электронно: теперь только распечатка и личная подача.
Пока строят классификаторы и document sanitization, парни просто юзают аналоговый LLM firewall. Бумага.
😁11❤1🔥1
Любопытно, кстати, наблюдать за тем, как меняется рынок русскоязычного ибшного онлайн-образования.
В период бума 23-24 года я успел поработать над тремя разными курсами от разных организаций. Всего за полтора года. Ставки за работу тоже были очень жирными. Условный яндекс-практикум даже с его довольно низкими зарплатами хантил преподавателей в промышленных масштабах - на их сайте тогда висело чуть ли не под сотню вакансий преподавателей на разные курсы, из которых с десяток - ибшнвх. Курсы по разным направлениям запускались в конвейерном формате.
Потом все утихло. Многие школы поставили запуск новых курсов на паузу. Если зайти на у же доску вакансий преподавателей практикума - там будет всего с десяток вакансий, половина из которых "в стол", и ни одной ибшной.
Зато, сейчас многие пытаются запустить свое менторство. Именно, не записанный курс, не групповые онлайн-вебинары, а личные созвоны, персональная программа обучения. Так, чтоб централизовано, по всем возможным направлениям ИБ сразу, с алертами и пентестерами. Но, как будто, ни одно такое менторство, кроме Роминого пока не стрельнуло широко... Даже тот, кого в приличном обществе не принято называть, ИБшное менторство не осилил.
Интересно, какой следующий этап будет?...
В период бума 23-24 года я успел поработать над тремя разными курсами от разных организаций. Всего за полтора года. Ставки за работу тоже были очень жирными. Условный яндекс-практикум даже с его довольно низкими зарплатами хантил преподавателей в промышленных масштабах - на их сайте тогда висело чуть ли не под сотню вакансий преподавателей на разные курсы, из которых с десяток - ибшнвх. Курсы по разным направлениям запускались в конвейерном формате.
Потом все утихло. Многие школы поставили запуск новых курсов на паузу. Если зайти на у же доску вакансий преподавателей практикума - там будет всего с десяток вакансий, половина из которых "в стол", и ни одной ибшной.
Зато, сейчас многие пытаются запустить свое менторство. Именно, не записанный курс, не групповые онлайн-вебинары, а личные созвоны, персональная программа обучения. Так, чтоб централизовано, по всем возможным направлениям ИБ сразу, с алертами и пентестерами. Но, как будто, ни одно такое менторство, кроме Роминого пока не стрельнуло широко... Даже тот, кого в приличном обществе не принято называть, ИБшное менторство не осилил.
Интересно, какой следующий этап будет?...
🤔7❤1🔥1
Claude - потрясающая вещь... Если вы не подавались на CVP, но настроите его на мониторинг и периодическую пересылку вам новостей про кибербез, и в его выдачу вам попадут новости с подробным описанием механик взлома, он может сам стриггериться на это и забанить вам эту сессию...
К счастью, в бан улетает не весь аккаунт, но сам факт - сам нашёл, сам попытался тебе отправить, сам себя забанил...
К счастью, в бан улетает не весь аккаунт, но сам факт - сам нашёл, сам попытался тебе отправить, сам себя забанил...
😁18
Кстати, тут подвезли новости о том, что багхантеры использовали Claude для получения доступа в инфраструктуру OpenAI. По сути, через дыру на сайте поддержки, ребята смогли построить цепочку атак, которая привела их к репозиториям ChatGPT.
Можно ли считать это первым зафиксированным случаем битвы двух крупных публичных нейронок?)
Кстати, лично мне интересно другое - объём вознаграждения за эту уязвимость - 6500$. Формально, проверка форума не входила в скоуп багбаунти-программы OpenAI. И выплатили они эти деньги по доброте душевной, а официально заявленные программы достигают размеров 100000$... Но, как будто, для компании масштаба OpenAI - размеры вознаграждения для уязвимости, которая позволила дойти до репозитория... совсем грустные
Можно ли считать это первым зафиксированным случаем битвы двух крупных публичных нейронок?)
Кстати, лично мне интересно другое - объём вознаграждения за эту уязвимость - 6500$. Формально, проверка форума не входила в скоуп багбаунти-программы OpenAI. И выплатили они эти деньги по доброте душевной, а официально заявленные программы достигают размеров 100000$... Но, как будто, для компании масштаба OpenAI - размеры вознаграждения для уязвимости, которая позволила дойти до репозитория... совсем грустные
😁4