Иногда пишут а как там чего нейролав – решили открыть наши данные по выручке, потому, что нам то без разницы а людям интересно:
https://twitter.com/literallydenis/status/1747318935932882945

В треде:
– Почему запускали новые продукты
– Какие гроухаки были
– 1-2 мема
– Планы и почему мы не планируем больше чем на 3+ месяца как команда (потому что хрен что спланируешь с таким AI темпом)

#пропродукт

Новое обновление про полезные локальные модели:
Вчера вышла версия llama-3-8b с контекстным окном в 1 миллион токенов (!). Это значит, что задачи анализа большого количества текста можно теперь делать локально (точно на английском, с другими языками я это не тестил), до этого я ходил в Claude 3 Opus 200k.

Зачем это нужно?
Расскажу на живом примере: мы готовим новый продукт к анонсу, это что-то вроде AI фото студии но на вход мы берем всего одно фото пользователя, не 10-20; что сильно дешевле чем файнтюн модели дримбудкой, а значит, мы можем снизить цену на продукт для юзеров.

У продукта уже есть конкуренты — это классно, потому что это значит, что в нише есть выручка. Конкуренты уже успели обрасти органическим трафиком – это мы и учитываем при запуске нового продукта:
Я выгрузил из SEO анализатора органический трафик по которому находят наших конкурентов в гугле, скормил все это в контекстное окно как часть промпта и запросил у LLM популярные стили генераций, по которым пользователи ищут наших конкурентов.

В итоге, на запуске, мы получили топ-10 стилей которые точно востребованы в интернете.

Ради теста я сравнил результаты своего анализа между Claude 3 Opus 200k и Llama-3-8B-Instruct-Gradient-1048k, и могу сказать что локальная модель отлично справилась для своего размера и действительно смогла написать важные стили, похожие на то что выдал Opus. Так что теперь вы можете делать анализ больших корпусов текста дома.

Сама модель тут (gguf версия для адептов llama.cpp)

P.S. Для этой задачи важно ставить температуру 0, а то напридумывает деталей моделька. Указывая контекстное окно в 100k+ будьте готовы что памяти компа вам не хватит.

P.P.S. Как водится, делюсь промптом который специально собрал для llama3 формат под эту задачу, там видно куда нужно поместить большой объем текста.

#пропродукт

Не делайте freemium, люди готовы платить если вы уже в нише

Я знаю, что большинство пользователей сейчас бомбанет (зажмурьтесь и не читайте дальше), но все же напишу для строителей стартапов – не давайте бесплатных функций если у вас уже есть база пользователей и особенно, если вы уже работаете на западный рынок, типа США:

1) Основные пользователи нашего стартапа приходят из США;

2) С момента основания нейролава, мы бесплатно давали пользователям 5 кредитов после регистрации – их можно было потратить на улучшение картинок / генерацию новых;

3) В мае, мы провели А/Б тест, где перестали выдавать бесплатные кредиты и пришли к совершенно невероятным выводам: если у пользователей просить деньги, то они платят! (пикачуфейс.джпг)

Мы не только закрыли Июнь с ростом в ~25% в выручке (на скрине не все дни), но и уменьшили траты на сервера, так как количество бесплатных услуг которые оказывает сервис – уменьшилось и нагрузки стало меньше, выросла прибыль

(Можно открыть глаза на этом месте, все нормально, просто бизнес)

#пропродукт