🤖 Интеграция с AI: 10 требований, которые надо учесть аналитику 🤖

При интеграции с AI-сервисом недостаточно описать эндпоинт, JSON и возможные ошибки.

Модель может отвечать по-разному, возвращать результат частями, запрашивать вызовы внутренних сервисов и расходовать непредсказуемое количество токенов.

Собрала 10 особенностей, которые важно учесть аналитику в требованиях.


1️⃣ Недетерминированность
AI не возвращает один и тот же ответ на один и тот же запрос.
Нужно явно описывать как система ведёт себя при разных ответах.


2️⃣ Стриминг вместо одного ответа
Ответ может приходить потоком сообщений через SSE.
Потребуются требования к отображению частичного результата, отмене генерации, обрыву соединения и повторному подключению.


3️⃣ Ограниченный контекст (context window)
Модель не хранит весь диалог в «памяти». Она видит только тот контекст, который система передала в текущем запросе.
Нужно определить, где хранится история, какие сообщения отправляются модели и что делать при превышении контекстного окна.



4️⃣ AI сам инициирует вызовы вашего API (Tool Calling)
Не только ваша система вызывает API AI.
AI тоже вызывает ваш API через tools (инструменты), которые вы ему даёте.

Для каждого tool нужно описать:
▫️ название инструмента
▫️ назначение
▫️ входные параметры
▫️ обязательные поля
▫️ ограничения
▫️ возможные ошибки
▫️ какой сервис реально вызывается на backend
▫️ что возвращается обратно в модель



5️⃣ Системный промпт
Это тоже требование.
Его нужно проектировать, документировать, согласовывать и версионировать.

Включает:
▫️ правила поведения AI
▫️ ограничения
▫️ формат ответа
▫️ примеры корректных ответов
▫️ запрещённые действия
▫️ что делать при нехватке данных



6️⃣ Граница «что видит ИИ»: требования к безопасности
Это одно из главных требований, особенно если система работает с:
+ персональными, медицинскими или финансовыми данными
+ коммерческой тайной
+ внутренними документами компании

Аналитик должен зафиксировать:
▫️ какие данные разрешено / запрещено передавать
▫️ нужно ли маскирование / обезличивание
▫️ хранится ли история диалога
▫️ кто имеет доступ к логам AI



7️⃣ Непредсказуемые входные данные
Пользователь может написать что угодно.
Нужны явные требования: как система реагирует на вопросы не по теме, оскорбления, попытки сломать или украсть системный промпт.



8️⃣ Rate limits и стоимость
В отличие от большинства внешних API, у LLM-провайдеров ограничения идут сразу по трём измерениям одновременно:
▫️ RPM — запросов в минуту
▫️ TPM — токенов в минуту
▫️ RPD — запросов в день
Срабатывает первый достигнутый лимит — не обязательно по токенам.

Поэтому в требованиях нужно зафиксировать:
▫️ поведение при HTTP-429
▫️ использование заголовка retry-after — через сколько секунд повторить запрос
▫️ нужен ли rate limiting на стороне нашего бэкенда
▫️ fallback — что делает система, если лимит исчерпан надолго



9️⃣ Логирование диалогов
Чтобы разобрать инцидент «почему AI дал такой ответ», нужно знать:
▫️ какой системный prompt был активен
▫️ какие данные попали в контекст модели
▫️ что написал пользователь
▫️ какие tool calls запросила модель
▫️ какие внутренние сервисы были вызваны
▫️ что модель вернула на каждом шаге
▫️ какой финальный ответ получил пользователь
Без этого разбор инцидентов превращается в гадание.

Дополнительно фиксируем:
▫️ как долго хранятся логи и кто имеет доступ
▫️ нужно ли маскировать ПДн в логах
▫️ логи хранятся на стороне провайдера или только у нас

В медицине это ещё и регуляторный вопрос: история переписки пациента с AI может приравниваться к медицинской документации со всеми вытекающими требованиями к хранению и доступу.



🔟 Agentic loop — цепочка tool calls
AI может запросить несколько инструментов подряд, а результат одного вызова использовать для следующего.

Нужно предусмотреть максимальное количество шагов, общий таймаут, бюджет токенов, разрешённые инструменты, идемпотентность и правила остановки при ошибках.



Сохраняйте, пригодится на задачах с AI-интеграциями 🤝

#ИнтеграцииGA #AI_for_analysts

📱 Tg | 💙 ВК | 💬 Max

🧡 6 практических гайдов по Postman для системного аналитика: от REST API до OAuth 2.0 и mTLS 🧡

Документация ≠ реальность.

Перед тем как отдавать интеграционную задачу в разработку, системному аналитику важно самостоятельно отправить запросы и проверить, как API внешней системы работает на самом деле.

Так можно заранее обнаружить нюансы, которых нет в документации или примерах, и не перекладывать исследование API на разработчиков.


Что важно проверить:

✅ как работает аутентификация
✅ какие параметры обязательны
✅ как выполняются нужные API-методы
✅ какие поля действительно приходят в ответе
✅ какие ошибки возвращаются в нештатных ситуациях
✅ как API реагирует на некорректные данные, отсутствие доступа и пустой результат


👉 Собрала 6 практических руководств, которые можно проходить последовательно — от первых запросов до сложных способов аутентификации и AI-интеграций:

1️⃣ 📹 Postman: навык тестирования REST API за вечер
Базовая работа с запросами, параметрами, заголовками, телом и ответами API.

2️⃣ 7 видов аутентификации в API - демо с настройками в Postman
Демонстрация основных способов передачи и проверки учётных данных.

3️⃣ 📚 OAuth 2.0 на практике: подключение к API Mail ru
Настройка авторизации, получение access token и выполнение защищённых запросов.

4️⃣ 📹 Аутентификация mTLS на практике
Работа с клиентскими сертификатами и взаимной аутентификацией систем.

5️⃣ 📚 Тестирование API банка ВТБ
Исследование реального банковского API с более сложными требованиями к безопасности и запросам.

6️⃣ 📚 API нейросети Groq AI
Отправка запросов к AI-сервису, настройка параметров и анализ полученных ответов.


👉 Во всех руководствах — пошаговые инструкции, скриншоты, настройки запросов и готовые примеры.

Если вы только начинаете работать с Postman, проходите материалы по порядку. Если база уже есть — выбирайте тему, с которой пока не сталкивались на практике.

За выходные можно освоить основные возможности Postman, собрать несколько коллекций запросов и добавить новые практические кейсы в портфолио 🙌


🔖 Сохраняйте пост,
чтобы пройти все руководства и получить реальный опыт в API для работы с задачами на интеграции


#ИнтеграцииGA

📱 Tg | 💙 ВК | 💬 Max

😂👍👍❤️👌😅😊😊😍😘

❗️До начала 15 минут❗️

🧡 «Асинхронная интеграция с ИИ-сервисом: от архитектуры до требований в Confluence»

[ЭФИР ЗАВЕРШЕН]


Информация о доступе к записи:

🗓 2-6 октября
📌 Только для зарегистрированных участников

❗️ Если уже регистрировались на основной эфир, повторно регистрироваться не нужно.

👉 Получить доступ к записи