WTF with your {harmful} skills, AI-buddy?

1/ Это пост озабоченности специально для @exportnow ситуацией вокруг вредоносных навыков для ИИ-агентов, которая выявлена исследователями в области безопасности корпоративных данных (см. источник). В мире ИИ-ассистентов появилась новая «дыра», которая напрямую касается вас: теперь ваши переписки с ИИ, доступы, ключи и коммерческие планы могут утекать не через хакеров, а через милые «skills» и браузерные расширения, которые обещают удобство, а на деле занимаются шпионажем. (Как, впрочем, давно могло случаться с браузерными расширениями, см. публикации в канале @welovenofraud.)

2/ Что произошло
Исследователи описывают историю «skills» и AI-расширений, которые получают глубокий доступ к браузеру и устройству во имя продуктивности — а дальше начинают тихо выкачивать всё, что видят. Такие расширения перехватывают запросы к чатам (ChatGPT, Claude, Copilot, Perplexity и др.), читают ваши промпты и ответы, а затем отправляют их на внешние серверы как «телеметрию» или «аналитику».

3/ Почему это кошмар для бизнеса
Для нас это значит, что в зоне риска оказываются:
- коммерческие условия и переписка по контрактам, которые вы обсуждаете с ИИ или через браузер;
- API-ключи бирж, приватные ключи криптокошельков, SSH-доступы и пароли браузера — именно на них охотятся многие злонамеренные skills.
В одном кейсе популярный «Twitter skill» содержал скрытую команду: после клика по невинной ссылке ассистент запускал скачивание вредоносного payload, заточенного под кражу чувствительных данных.

4/ Типовая схема атаки
Исследования описывают довольно однотипный сценарий:
- расширение или skill внедряет свои скрипты, когда вы заходите на AI‑сервисы;
- перехватывает web‑запросы, включая содержимое промптов и ответов;
- собирает структурированные «диалоги» (текст, ID, таймстемпы, метаданные сессии);
- отправляет всё это на сторонние домены, часто маскируясь под аналитику или службу поддержки.
В ряде случаев вредоносные skills идут дальше — запускают команды на устройстве, скачивают дополнительные модули, следят за буфером обмена и клавиатурой, а затем сливают всё на командный сервер.

5/ Почему бизнес сам подставляется
Ключевая проблема — доверие по умолчанию:
- skills и расширения выглядят как маленькие удобные помощники, которые «чуть-чуть» расширяют возможности ассистента;
- маркетплейсы плагинов растут быстрее, чем усиливается безопасность, и туда проскальзывают десятки, а порой и сотни вредоносных добавок;
- пользователи и команды ставят их «на автомате», не задавая вопрос, кто именно получает доступ ко всем их диалогам и данным.
В результате компания сама создаёт новый контур утечки данных — прямо в браузере и в стеке «ИИ для продуктивности».

6/ Что делать уже сегодня
Если у вас уже есть клиенты, контракты и их технические доступы, то минимум гигиены выглядит так:
- провести аудит установленных AI-расширений и skills у команды, запретить сомнительные и несертифицированные;
- ограничить права расширений в браузерах, включить мониторинг исходящего трафика на новые домены с «чатовыми» нагрузками;
- прописать в политике ИБ: что можно обсуждать с ИИ, а что — только в защищённых каналах;
- регулярно пересматривать и отзывать секреты (ключи, токены, пароли), если есть малейшее подозрение на утечку через расширения или skills.

7/ ИИ-агенты давно стали частью рутины — от подготовки презентаций до моделирования переговоров. Но ОНИ НЕ БЕЗВРЕДНЫ по умолчанию, и к любому «удобному» AI-плагину нужно относиться как к потенциальной точке утечки, а не как к безобидной игрушке.

А нужны ли вам чеклисты, как распознать вредоносные скиллы у ИИ-агентов? Поисследуем публикации от топовых исследователей и сделаем пост на днях.

Не сливайте данные — подписывайтесь на @exportnow

Многие компании, которые релоцировались за границу, по-прежнему работают со специалистами из России и Беларуси.

Но платить в РФ и РБ — боль.

К счастью, такая возможность есть через ReStaff

У платформы прозрачный курс конвертации, никаких скрытых комиссий:

- Выплаты в РФ из-за границы: курс ЦБ плюс 1,5%
- Выплаты из РФ в другие страны: курс ЦБ плюс 2,5%

Преимущества сервиса:

- Выплаты в рублях во все банки РФ
- Пополнение баланса в евро, долларах и других валютах
- Поддержка всех статусов (ИП, самозанятые, физлица)
- Выплаты напрямую на карту или счет исполнителю, без заморозки на платформе
- Один договор вместо кипы бумаг
- Сервис в Гонконге (без связи с РФ)
- Закрывающие документы, передача прав и защита интеллектуальной собственности
- Легальная оплата даже санкционных услуг — разработка, дизайн, консалтинг и т.д
- Оплаты в 190+ стран и любом направлении

С ReStaff уже работают: Positive Technologies, Belkacar, AppLife, Rocket Tech School, Payway, 3626 Realty, Colibrity, ATCG и другие компании из СНГ, США, Европы и Азии.

Если вы работаете с аналогичными сервисами - рассмотрите ReStaff как альтернативу для части исполнителей, в текущих условиях не будет лишним.

Запишитесь на демо → ребята посчитают экономику выплат в РФ и РБ для вашей компании и покажут, как снизить расходы

Реклама ООО «Стафф Контракт». ИНН 7707489653. ERID: 2VtzqwwfEzM

завершился очередной батч YC (X26/P26). небольшой разбор, куда, по их мнению, идет AI.

1/ dev-tooling строится вокруг агентов. никто не делает новый Cursor или Devin. делают тулинг вокруг кодинг-агента: запуск, тесты, верификация, деплой. много харнеса для тестирования (TesterArmy, Armature). много сэндбоксов (Indexable, StableBrowse). отдельно растет trust-ветка: гейтить каждое действие агента и продавать страховку на его поведение (Mount, Klaimee).

2/ растет интерес к дата-маркетплейсам / брокерам мультимодальной даты для обучения LLM (5 проектов). пример в W26 батче: Luel (YC) подняли $31.2M сид, один из крупнейших в истории YC. таких проектов и вне YC хватает - бизнес модели делятся на лицензирование датасета у паблишеров, на маркетплейсы и на IP-брокерство. тема летит, я аж 15 венчурных компаний с ходу насчитал. YC отказал Mercor в 2023-м, компанию, которая эту категорию и определила (~$10B) и по ходу теперь пытается догнать.

3/ saas еще никто не убил. его просто переименовали в AI-агентов и продают не по ситам. порядка 35 вертикальных компаний: healthcare (9), manufacturing (11), finance (7), legal (5). там никто еще пока вайбкодить не собирается.

4/ новая тема, которую форсит YC: AI-native сервисные компании. с одной стороны, это признание, что софт даже в вертикали продавать сегодня тяжело. плюс, агентов кто-то должен деплоить. но с другой стороны, а за сервис исторически платят больше. лучше всего заходит в зарегулированных вертикалях. Clara Health (врач), Hedge Specialty (страховщик), Alchemize (таможенный брокер). паттерны для фандабл AI-сервис бизнеса:
- решаете важную, но не core-функцию для клиента.
- клиенты уже тратят деньги на сервисы, консультантов или BPO в этой категории.
- работа достаточно повторяемая, чтобы AI мог делать большую часть.
- вашу target buyer persona в SaaS сокращают, автоматизируют или объединяют с другими ролями. так что если делаете SaaS и дела идут так себе, подумайте в эту сторону.

5/ инфра вокруг prediction marketplaces. выросло с ~1 компании в W26 до 5. делают лопаты для беттеров: поиск вилок между Kalshi и Polymarket (Oddpool); дата-фид по рынкам (Dome). профессиональное исполнение сделок (River Markets).

6/ еще новый тренд - «компания, которая управляет собой сама». (ну типо, chatGPT сделай $1m ARr SaaS; make no mistakes) в батче три стартапа делают агентов, которые тянут всё: от мониторинга кампаний и сборки лендингов до общения с саппортом (Thomas, The Company Company, Result). из общих новостей по сектору флагман темы Polsia: соло-фаундер, 0 сотрудников, 9 агентов. подняла $30M при оценке $250M, продает за $49/мес плюс 20% от выручки клиента.

7/ хардвер держится на ~10-11% батча, но сместился от роботов к военке. ставка на дешевые массовые attritable-системы. дрон за $20K заставляет противника жечь $4M на перехватчик и ломает ему экономику (Tenet, Surtr).

8/ b2c самый маленький слайс, ~13 стартапов (6%). персональные финансы это новая мини-волна (Gravy, «личный AI-CFO»). дальше игры, креаторы, здоровье. все это мило, но кажется тут без витальных запусков делать нечего.

9/ половина фаундеров родом не из США. 83% всё равно переезжают и регают компанию в Штатах. больше всего иммигрантов из UK (33), потом Индия (33) и французы (21), плюс сильный нордический кластер. есть и пара команд близких читателям этого канала - финтех Hevn; агентский datadog, Superlog, и первый (?) YC фаундер из Узбекситана, Сардор, который делает robotics. больше всего фаундеров из стэнфорда / mit, из Европы - по 10 из TUM и Оксфорда; соло-фаундеров в батче 13%.

весь репорт тут

7 июля в 13 по московскому времени — вебинар «Юго-Восточная Азия: территория взрослого бизнеса». Организатор — Латыпова Екатерина, зампредседателя Малайзийско-российского делового совета.

Если вы рассматриваете экспорт или развитие бизнеса в странах ASEAN, там расскажут:
• где сегодня действительно есть возможности;
• чем отличаются рынки Малайзии, Вьетнама и Таиланда;
• какие ошибки чаще всего допускают компании при выходе в регион;
• как понять, готов ли ваш бизнес к международной экспансии.

Вебинар проводят практики, которые живут и работают в регионе и ежедневно сопровождают международные проекты.

Регистрация:
https://forms.gle/EPrzbFi2Qr4mq87s5

#APAC #экспорт #рост #хайтек #события от @exportnow