#какэтоработает #интервью

Всем привет! Заметили, как быстро мы пересаживаемся на ИИ? Теперь LLM (Большие языковые модели) везде: в мессенджерах, в поисковиках, в чатах поддержки. Как формирует свои ответы LLM?

Сегодня в гостях у Техписалити! — создатель Робота Макса на Госуслугах и автор канала ИИ что дальше Никита Устриков. Спросили у Никиты, как же появляется

База знаний для ИИ

— Никита, для пользователей ответы нейромоделей — это некая магия, которая появляется внезапно. А как на самом деле она формирует ответ?

— Сама по себе большая языковая модель после обучения — это сложный механизм предсказания следующего слова. Она не думает, а генерирует текст, который статистически похож на человеческий. Как очень и очень продвинутый автопродолжатель.

— А чтобы нейромодель могла отвечать на вопросы пользователей по документации, мы можем просто скинуть ей текст?

— «Загрузка» документации в саму модель — это сложный процесс тонкой настройки. Например, в чатах поддержки используется RAG (Retrieval-Augmented Generation). Модель не ищет ответ в общих знаниях, а работает как умный анализатор: с помощью поиска мы находим вo внутренней базе знаний релевантные документы и передаём их модели. Её задача — проанализировать именно эти документы и сформулировать ответ.

— Если в документации переиспользуют фрагменты текста в разных частях документации, может это повлиять на результат поиска?

— Вряд ли переиспользование текста повлияет на качество генерации, то есть на работу самой нейромодели. Большое количество одинаковых фрагментов может повлиять на качество поиска, на его сбалансированность, и в этом случае генерация может ухудшиться.

— Если не говорить о разработке и Data Science, есть ли ещё какие-то особенности создания базы знаний именно для нейромодели?

— Важно подготовить ответы на предположительные вопросы, но не пытаться предугадать все. На старте любого сервиса 20% уникальных вопросов покрывают 80% запросов. В Роботе Максе есть система, которая анализирует диалоги операторов с клиентами, обезличивает их и предлагает сгенерированные ответы для базы знаний. Конечно, эти ответы проверяет человек. Но в целом это сокращает время реакции на новые, непредсказуемые запросы пользователей.

— Спасибо за ответы!

Если хотите глубже погрузиться в тему ИИ, рекомендуем канал Никиты. Наш топ постов:

Понять нейросеть за 2 минуты
Парадокс тупости или коллапс модели
Шок-контент

#twd3
Всем привет! Немного задержались, но всё же сформировали список участников розыгрыша.
Список здесь.

Каждому участнику мы присвоили номер — это номер его строки в таблице. Заносили в таблицу в порядке появления комментариев: вначале самые первые.
Два претендента в список не попали. К сожалению или к счастью, правила есть правила, и комментарии, опубликованные позже 12:00 по Москве мы не учитываем.

В этот четверг, 12 марта в 13-30 мы проведём трансляцию розыгрыша — по старинке с помощью генератора случайных чисел. Затем проверим, соблюдены ли у победителя условия конкурса, и свяжемся с ним. Если условия не соблюдены, сгенерируем новый номерок. (Самое время проверить свои подписки)

Ссылку на трансляцию пришлём за пять минут до трансляции.

До встречи в четверг!

Всем привет!
Через несколько минут начинаем трансляцию розыгрыша билета на TWD#3!

UPD:
И мы поздравляем победителя розыгрыша — участника №8, @Maria_mamleeva 🎉

До встречи на #twd3

Всем привет!

Мы снова с новостями для студентов🧑‍🎓

Хотите прокачать скиллы технического писателя и научиться превращать сложные технологии в понятные тексты? Вперёд на стажировку в Kaspersky! Доступно для студентов невыпускного курса любых вузов в Москве и Московской области.

В одной лодке с профессионалами Kaspersky можно научиться:

• разрабатывать документацию для различных бизнес-процессов компании
• делать сложные технологии понятными и доступными для разных аудиторий
• грамотно собирать информацию у экспертов, анализировать ее и подготавливать для дальнейшей работы

Вас ждут реальные проекты и практика в международной компании, удобный график от 20 часов в неделю, конкурентная зарплата, компенсация питания, спортзал, сауна и многое другое

Переходите по ссылке https://kas.pr/c4x2 и подавайте заявку на направление Technical Writing🖥✍️

#колонкаредакторов
Всем привет!
Возможно, вы заметили, что в нашем канале некоторое затишье. Современные события немного подкинули нам поводов подумать)

Техписалити! начинался как школа для новичков, и мы продолжаем придерживаться этой концепции, хотя и разбавляем контент более “взрослыми” постами. Мы хотим, чтобы информация всегда была доступна всем, без каких-либо заморочек.

Поэтому мы переходим в Макс.

Мы изучили многие платформы и решили попробовать Дзен. Нет, мы не переходим туда, а просто дублируем информацию для тех, кто может только в белый список.

Поскольку мы остаёмся в телеграме, предлагаем посмотреть залипательное – атлас телеграм-каналов, в котором есть и мы, и многие наши дружественные блоги.

Давайте найдём их все! А начнём отсюда)

#колонкаредакторов
#вопросвлоб

Всем привет! На связи Лида. Сегодня у нас с вами серьёзный разговор. Как и намекает рубрика — о собеседованиях.

Адвокат для соискателя

Последнее время я меньше собеседую, а больше собираю информацию о собеседованиях в разных компаниях. Процесс знакомства с кандидатом заметно изменился в последнее время. Теперь чаще всего встречи записывают именно для того, чтобы проанализировать ИИ, а крупные компании и вовсе добавляют во встречу ИИ-агента.

Если ведётся запись, то кандидата спрашивают: "Вы не против?" — этого требует закон. Записывать человека в непубличном месте без его согласия никто не имеет права.

Но если на встрече присутствует участник вроде "HR-AI", у кандидата никто не спрашивает разрешения. А ведь это ещё одно техническое устройство, которое не просто транскрибирует видео, но и даёт анализ навыков и личности кандидата. Припоминаю, что на психологическое исследование человек тоже должен давать разрешение.

Кажется, будто трудовой кодекс серьёзно отстаёт от действительности. И по факту, ИИ-исследования, проводимые без согласия, нарушают права кандидата.

Ещё один момент. На собеседование кандидат приходит один. А на другой стороне — рекрутер, технический специалист, возможно, даже тимлид и ещё и ИИ-агент. Извините, но даже у обвиняемого в суде есть адвокат. А тут человек сидит, как перед экзаменационной комиссией. Хотя собеседование — это не экзамен, это переговоры равноправных сторон.

Мне представляется, что кандидат может прийти со своим hr-агентом и ИИ-агентом. Это было бы справедливо. И по итогу провести анализ знаний, умений и особенностей личности всех собеседующих. Узнать степень их доброжелательности или, наоборот, токсичности. Сравнить сказанное ими о компании с информацией из открытых источников.

Да, это всё розовые фантазии. Но ведь это было бы справедливо, не так ли?

#какэтоработает  #вопросвлоб

Всем привет! Сегодня мы рассмотрим ситуацию, с которой не так давно столкнулись. Разбор этой ситуации ещё полезен тем, что одной из наших коллег подобный кейс задали на собеседовании. Так что этот пост для рубрик и про практические решения, и про собеседования.

Как выкатить документацию на другом языке, если у вас нет ни времени, ни ресурсов

Представим, что у вас появилась производственная необходимость срочно выпустить документацию на другом языке.

Сразу оговоримся, что подобный подход — это способ потушить пожар, а не выстроить систему правильно.

Подготавливаемся

1️⃣ Узнайте, на сколько языков нужно перевести документацию.
2️⃣ Узнайте, в каких странах вы должны выйти, нужны ли вам домены в этой стране.
3️⃣ Изучите требования законодательства относительно данных в этих странах. Например, нужно ли разворачивать сервис документации на мощностях местных ЦОДов.
4️⃣ Запросите требования вашей службы информационной безопасности.
5️⃣ Уточните, все ли сервисы вашего продукта локализованы в нужных странах. От этого зависит, все ли функциональности будут доступны в этой стране. Если не все, готовьтесь скрывать часть документации.

Заручаемся поддержкой

6️⃣ Возьмите у команды продукта переводы текстов интерфейса.
7️⃣ В условиях сжатых сроков и отсутствия ресурсов мы будем использовать искусственный перевод. Расскажите владельцу продукта о ваших планах, аргументируйте каждое решение. Владелец продукта и менеджер продукта должны быть вашими союзниками, используйте свой талант переговорщика.

Работаем с текстами

8️⃣ Приготовьте на основе переводов словари значений русский — иностранный, столько пар, сколько языков. Эти словари вы сможете использовать в качестве контекста для искусственного перевода. (Помним, что у нас нет времени и ресурсов, поэтому ИИ — наш выход).
9️⃣ Если вам требуются нераспространённые языки, сформируйте словари английский — иностранный. Если у вас изначально есть английская документация, ИИ с английского на редкие языки порой переводит лучше, чем с русского.
1️⃣0️⃣ Подготовьте иноязычные исходники в нужной вам разметке. Загрузите в ИИ в качестве контекста наши словари и с помощью промпта запросите перевод. В идеале лучше настроить интеграцию с системами построчного перевода, но мы помним, что у нас нет времени и ресурсов. Вы можете использовать агенты и прописывать им правила — в этом случае перевод может быть лучше.

Строим, собираем, разворачиваем, тестируем

1️⃣1️⃣ Проработайте архитектуру документации и процессы, которые позволят разворачивать документацию в нужных конфигурациях и на нужных адресах. Это может быть непростой работой и занять приличное количество времени. Если у вас есть помощники-девопсы, вам повезло.
1️⃣2️⃣ Если у вас в продукте есть нелокализованные сервисы, подготовьте скрипты, которые позволят скрывать описания конкретных функциональностей в конкретных странах (на конкретных доменах). Если вы не умеете это делать, вам могут это рассказать наши ИИшные друзья. Для них это несложно, и они в этом практически не ошибаются.
1️⃣3️⃣ Если вы поставляете публичную документацию, позаботьтесь о том, чтобы поисковые системы правильно проиндексировали её. Для этого снабдите страницы нужными метаданными.
1️⃣4️⃣ Протестируйте сборку и развёртывание документации в тестовых окружениях.

Публикуем

1️⃣5️⃣ Получите согласование от владельца и менеджера продукта и опубликуйте документацию. И да поможет вам бог.

Можно ли поддерживать такую документацию в актуальном состоянии? — Да, если реализовать непрерывную локализацию, о которой мы расскажем в других постах.