Заметки LLM-энтузиаста
516 subscribers
142 photos
17 videos
1 file
173 links
Дмитрий Жечков @djdim
архитектор в Yandex Cloud,
ex. VMware NSX specialist, ex. Cisco SE

Здесь пишу свои заметки по LLM (большим языковым моделям) и AI-разработке.

Это личное мнение и не отражает официальную позицию компании, в которой я работаю.
Download Telegram
#cursor #coding #keylearning #insights

Предыстория

Вчера в очередной раз делал gpt-телеграмм бота и столкнулся с достаточно длительным циклом траблшутинга, который за 15 итераций деплоя на railway.app не привел к рабочему результату.

в секции Project Overview технического задания было записано
gpt telegram bot which  works with text, images and voice for input/output and supports threads and streaming mode

также я в этот раз решил добавить в Core functionalities информацию о том, как бот будет работать с "голосом" - чтобы Cursor сделал мульти-модального gpt-бота "за один присест".
И пара часов траблшутинга пролетели незаметно :)

Поскольку в AI-кодинге, как и в трейдинге, мы работаем с вероятностями, то здесь важно вовремя "зафиксировать убыток" и перестать вязнуть в "петле AI диагностики"

Как только я убрал из Core functionalities всякое упоминание о том, что мне нужны STT/TTS функции и запустил абсолютно такой же процесс генерации кода в отдельной сессии Cursor Agent Composer - первая рабочая версия бота у меня получилась за 20 минут.
Далее пошел приятный процесс проверки работы отдельных опций и исправления неточностей.

После того как все по ТЗ было сделано, я решил вместо STT/TTS добавить проверку валидности пользователей, групп и админские команды для обслуживания бота.
На это ушло примерно полтора часа, и на каждом шаге я видел улучшение результата работы.
Финальный результат по набору доступных функций можно наблюдать на скриншоте.

Выводы
1) Для получения первых видимых результатов не стоит в ТЗ на AI-разработку добавлять сразу весь набор возможных функций.
2) Лучше сразу выделить основные и дополнительные функции. В моем случае STT/TTS - был реально не нужен, т.к. телеграм premium и так данную задачу решает.
3) На дополнительные функции можно написать отдельное ТЗ. Далее воспользоваться Composer агентом и в итеративном режиме постепенно добавлять новые функции и сразу проверять как они работают.
Именно так я поступил во втором подходе к задаче и получил удовольствие от процесса.
👍321