🤩 Как масштабировать LLM-разметку и не перегрузить API?

Наши дата-инженеры задали себе этот вопрос, когда начали масштабировать LLM-разметку на большие объемы данных.

Так появился llm_markup — универсальный Spark-инструмент, который берет на себя батчинг, параллельные запросы к LLM API, контроль нагрузки, повторы и валидацию ответов.

Инженер по работе с большими данными Дима Иванов рассказывает о том, как это устроено — на примере оценки качества поиска и классификации отзывов.

Но llm_markup этим не ограничивается и подходит для разных задач массовой LLM-обработки. Главное, чтобы их можно было описать источником данных, промптом и форматом ответа.

⏏️ Листайте карточки ⏏️ и погружайтесь в подробный разбор архитектуры со всеми нюансами — mapInPandas, rate limiting, JSONL и structured-режимы для стабильной работы в продакшене.

✨ Читать на Хабре

✉️ Lamoda Tech

#LaTech_habr

Как добыть дорогой дофамин?

Встать в воскресенье пораньше, да и пробежать километров 10 по Садовому кольцу. Рядом — тысячи незнакомых людей и два десятка любимых коллег 🏃‍♂️

Это мы в выходные были на Большом фестивале бега. Сейчас на работе уже, но до сих пор впечатлением, рассказываем:

💬 Погода порадовала, атмосфера как всегда супер: музыка, кричалки, поддержка и от болельщиков и от бегунов.

💬 Побила свой личный рекорд!

💬 Трасса оказалась тяжелее, чем рассчитывала — спуски, подъемы… Но это не помешало скинуть 2 минуты с Белых ночей и пробежать за 01:06 😎

💬 Солнце, крутая музыка и бегущее Садовое кольцо — топ 🔥

💚 — зовите, когда побежите в следующий раз!

#LaTech_live

Как попасть в Lamoda Tech разработчику

Принести жертву Гоферу? Ничего подобного, тем более что помимо Go у нас в бэкенде живут PHP, C#, C++, Python, а еще есть мобильная разработка под iOS и Android.

Основная задача разработчика — качественно писать код. Поэтому на техсобесах прежде всего смотрим на этот навык: от понимания подходов до качества финальных решений.

Как этот путь устроен изнутри, какие этапы и критерии ожидают, рассказывает Анатолий Беляев, директор разработки продукта для партнеров.

А разработчики Вадим Арашин и Антон Иванов делятся своим опытом — с разных сторон процесса.

🟢 Подробнее читайте в карточках 🟢

Готовы пройти этот путь? Откликайтесь на вакансии:
— Java-разработчик
— Senior Python/Go-разработчик
— Senior Go-разработчик
— Senior Android-разработчик
— Руководитель группы разработки (Tech lead/Team lead IT)

🖱Больше на сайте

✉️ Lamoda Tech

#La_interview #LaTech_live #LaTech_vacancy