AI и грабли
7.21K subscribers
149 photos
19 videos
4 files
189 links
Строил HR продукты для американского бигтеха. Внедряю AI в чужой бизнес, делаю свой, косячу и пишу про подноготную

@nikolay_sheyko
Download Telegram
Помимо запуска рекламы в яндекс директе, решили еще устроить всратый оффлай маркетинг – развешать листовки. Надо же, чтобы по кайфу было. А по кайфу – делать что-то нестандартное. Смотрите какую красоту Саша сделала
1🔥1
Forwarded from Lit_sky //: lit
Я не знаю, насколько вообще этот проект жизнеспособен. Я часто думаю о том, что чтобы сделать так, как мы хотим, нам нужно сильно больше психологического, маркетологического и даже технического бэкграунда. Как так провести пользователей по игре, чтобы 1) они всю её прошли 2) получили пользу, а не чисто фан 3) получили хорошие впечатления 4) поделились с другими

Какое должно быть послевкусие? Какой вкус? Что будет раз за разом вынуждать заходить и играть?

При всем этом я очень довольна как флаером, так и легдингом :) они не идеальны со всех сторон, но пока это мои лучшие флаер + ленлдинг

Есть ощущение, что на ленде не очень понятно, что написано. Кто будет гулять по нему - дайте, пожалуйста, фидбек 🙏
🔥21
Во втором канале сейчас пишу про игры в текстовом чемпионате SoftSkills Lab. Там много токсика, зато может быть интересно как можно работать под давлением. Завтра закину комменты судьи. Если вам такое интересно – подписывайтесь. Я туда еще всякие задачки закидываю
А теперь вторая игра. Тот же партнер/оппонент, только теперь он нападает, а я защищаюсь:

– Коль, я же первый в тебя поверил! и так ты меня за это отблагодарил?

– Вов, обидно, что тебе тоже цену решили повысить?

– Не все как тебе кажется деньгами можно измерить. Скажи сразу, что плевать ты хотел на лояльных к тебе партнеров

– Вижу, что чувствуешь, будто тебя кинули, я бы, наверное тоже злился, если бы было такое ощущение. В то же время, складывается ощущение, будто мы вам чем-то обязаны, хотя для меня всегда было важно заключать сделки так, чтобы они устраивали всех. Если это было не так и тебя чем-то не устраивали те эксклюзивные условия, на которых мы уже согласились – дай знать, хорошо?

– Сейчас ещё будешь мне все прошлое припоминать.. вся эта "эксклюзивность" обычное дело, и ценящие доверие это понимают, а не тыкают. Раз тебя это теперь напрягает, зачем ты эти условия предлагал?

– То есть чтобы ты считал, что я ценю тебя, мы больше никогда не должны поднимать цену для твоей компании?

– Опять в деньги пошел. Сейчас меня напрягает, что в случае бытовой ситуации мой партнёр начинает мне припоминать свои невысказанные притензии, а ведь это ещё не очень серьезный вопрос был, что же будет если вдруг дело чего-то действительно важного коснется?

– Слушай, да, для меня действительно важно обсудить сейчас деньги, раз из-за них появилось ощущение, что я как-то неблагодарно к тебе отнесся. Но я могу понять, если ты сейчас не готов это обсуждать. Тогда можем перенести разговор на завтра. Либо, если для тебя неприемлимо это обсуждать, я пойму, если ты откажешься дальше с нами работать.

– Странно, что ты мои прошлые вопросы проигнорил, буду считать, что на эмоциях, учись справляться. Ладно, поддержу тебя как в начале, фиксируем скидку, надеюсь это единственная проблема, которую ты обострил

———

Что видите в этом диалоге? Кто двигает граинцы? В чем вообще конфликт? Как из него нужно выходить?

Комменты судьи – завтра
AI и грабли
Вижу, что сильно торможу, решил добавить себе внешней мотивации. Несколько раз наталкивался на канал Миши Табунова и его новый курс по быстрому старту пет-проектов. Как по мне, лендос выглядит супер по-инфоцыгански, но когда привычные способы действовать…
Так, апдейты по курсу

Прошло больше половины курса. Расскажу пока про 1 блок. По сути весь блок заключался в том, чтобы нагенерировать кучу разных идей, примерно прикинуть проблемы, которые решают, рынок, и посмотреть, насколько эти идеи вообще попадают в интересы/компетенции

У меня было штук 8 идей, но основное крутилось вокруг проверки/прокачки скиллов. Как хардовых (примерно то, что делал в CodeSignal), так и софтовых – то, про что пишу в @unconscious_communications и веду тренинги.

Получилась какая-то такая картинка (там на самом деле большая табличка, но я не буду ее скидывать, потому что ребята попросили не делиться – это часть их продукта)

Количество фидбэка меня не устроило, так что я доебался до ребят, жду более детального
👍2
Единственный фидбэк, которые пользователи оставили в самом симуляторе:

Здравствуйте, вы развесили свою рекламу в лифтах на Николаева 18. Законный способ размещения рекламы - только в почтовые ящики. На стенах ничего клеить нельзя!


На фото немножко рок-н-ролла – устраиваем соревнование между яндекс.директом и листовками
😁4
Супер полезный паттерн использования нейронок для задачи очистки текста.

Проблема:
1. Спарсил много постов из телеги, чтобы использовать в своем сервисе
2. В них часто реклама в конце
3. Нейронка, когда использует из них инфу, часто вставляет и чужую рекламу

Очевидное решение:
1. Для каждого текста просим нейронку переписать его без рекламы

Проблемы очевидного решения:
1. Жрет много токенов (=денег) на переписывание ВСЕГО текста
2. Часто не совсем точно переписывает текст, а что-то перефразирует или сокращает, если текст большой

Элегантное решение
1. Просим нейронку вывести списком ТОЛЬКО рекламный текст (обычно 1/10 размера поста)
2. Просим написать скрипт, который удалит из наших постов любое вхождение найденных рекламных фраз

Теперь нейронка не бесполезный копировальщик 90% желательного текста, а умный детектор 10% нежелательного текста
👍2🔥2
AI и грабли
Качаем AI инжиниринг, задачка: как вообще избежать генерации уже существующего текста? (сейчас мы по сути тратим кучу токенов, чтобы просто дублировать текст рекламы)
Решение:
Разбить пост на предложения, пронумеровать их, попросить для каждого предложения выдать 1,если предложени относится к рекламе или 0, если нет.

Вход:

{
1: "предложение с рекламой",
2: "предложение без рекламы",
3: "еще предложение без рекламы",
...
}


Выход:

{
1: 1,
2: 0,
3: 0,
...
}


Выкидываем предложения с 1, склеиваем обратно в текст скриптом в одну строчку.

Печальный вывод:
Чтобы во всю использовать возможности GenAI, нужно хотя бы на базовом уровне быть знакомым с программированием (знать, как запустить python скрипт, который напишет нейронка)

Не печальный вывод:
Даже, если решение задачи изначально кажется невозможным или очень дорогим, можно немного покрутить систему – разбить задачу на подзадачи или вообще поменять их тип (генерация постов без рекламы → бинарная классификация строчек текста)
👍4🔥1
AI и грабли
Решение: Разбить пост на предложения, пронумеровать их, попросить для каждого предложения выдать 1,если предложени относится к рекламе или 0, если нет. Вход: { 1: "предложение с рекламой", 2: "предложение без рекламы", 3: "еще предложение без рекламы"…
Тут вообще самое важное – это понять, когда нужно со всем этим мучаться, а когда можно просто сказать, "GPT, сделай хорошо". Я тут говорил, что при таком подходе есть две проблемы:
1. Много токенов нужно сгенерировать. По сути столько же, сколько подаем. А за каждый выходной токен нужно платить, и обычно в 3-5 раз больше чем за обработку входного
2. Не очень хорошо переписывает, может терять куски текста или импровизировать и добавлять то, чего не было.

Посмотрим на первую проблему подробнее:

Токенов нужно сгенерировать много, но так как их примерно столько же, сколько входных, то за генерацию такого результата, платим в 3-5 раз больше, чем за обработку входных данных.

То есть, если на вход подадим 1 миллион токенов, на выходе получим 1 миллион токенов, то для gpt-4o потратим 12,5 долларов.

Если обрабатываем 10 миллионов, то разница в абсолютных значениях становится существенной, а если 10 тысяч, то это копейки.

Вывод:

Оптимизации это хорошо, когда они оптимизируют деньги. А они оптимизируют деньги тогда, когда неоптимизированная часть стоит дорого, но не в относительных числах, а в абсолютных.

В задаче с рекламой в постах суммарно было примерно 100к токенов, поэтому я просто попросил у GPT сделать хорошо и она сделала, стоило это дешевле чашки кофе.

–––

Если у вас есть куча рутинной работы, которую вы не знаете как оптимизировать, напишите мне (@nikolay_sheyko), я ищу новые интересные кейсы и накидаю прототип бесплатно
👍2
OpenAI наконец выкатывают свой мгновенный войс мод – реальных диалогах без задержки и тон голоса учитывает контекст. Самое время добавлять в CommuniCare голосовой ввод. И вообще везде

На видео первые 2 минуты демонстрация технологии, остальное – забавный кейс применения
Media is too big
VIEW IN TELEGRAM
👍1
Чему говорить нет

Нашел отличный фильтр, как понимать, что стоит делать, а что нет. Если мне чем-то стремно будет выебываться, значит не стоит это делать
😁14🔥2
Теория и практика в теории не должны расходиться. На практике – расходятся
🤯7👍1🔥1💯1
Вчера поняли с Сашей, что слишком сильно ситуации в CommuniCare отделены друг от друга.

Не выстраиваются в одну логическую цепочку, хотя мы их и выстроили в последовательность. А вот есть их выстроить как историю, где за 30 дней разыгрывается взросление ребенка от 3 до 16 лет, а родитель сталкивается сначала с проблемами истерик в песочнице, а в конце помогает ребенку выбраться из плохой компании. И в день давать чисто по одной ситуации проходить. Тогда это будет как сериал, где будет хотеться посмотреть следующую серию.

Как вам разгон?
👍10🔥7🤔2
Хуже это лучше

Когда-то давно глыбы интернета ходили и размышляли про то, как правильно развивать технологии, которыми мы все сейчас пользуемся. Нашел шумевшее с 1991 по 2000 год эссе (на самом деле отрывок из выступления) worse is better.

tl;dr

Можно пытаться строить продуманные системы, но пока их продумываете, другие системы, продуманные не так хорошо, но с более простой реализацией, захватывают поляну.

Как?
У них появляются пользователи, больше людей делают ставки на эти системы, больше участвуют в доработке и адаптации, так что они спокойно растут со своей 50% идеальности до 90%. Никогда не достигая 100% из-за внутренних ограничений дизайна.

Поэтому мир в свое время захватил C, а не Lisp. Поэтому весь современный веб – костыли обмазанные изолетной, а сайты в 2024 грузятся дольше, чем в 2004 (последнее предложение уже моя вольная интерпретация)

———

Мне это напоминает о том, что эволюция – любитель, а не профессионал. Ну и о том, что нужно побольше делать, а не думать. Да, идеально не получится. Но лучше я сделаю не идеально, чем не сделаю идеально
🔥5💯5👍4
Воу, первая оплата CommuniCare. Листовки работают, кто бы мог подумать
🎉16🔥52
Так, похоже в современном вебе есть три альтернативные парадигмы и все ебанутые своеобразные

Самая большая – мейнстрим чуваки в модных шмотках жонглируют веб фреймворками аля React, Vue, etc. В итоге браузер вместо нативного для себя html получает кучу JavaScript кода, который потом еще идет в 10 разных бэкенд ендпоинтов, грузит там jsonы и только потом все это сгружает в нативный для браузера HTML. Каждое обновление React'а объявляет предыдущие практики устаревшими и опасными, поэтому вместо работы все заняты переездами на новый модный фреймворк. Плюс для корпораций, что любого работника можно легко заменить, они такое любят.

------

Бэкенд деды типа vas3k'a говорят, что это цирк с конями, и ебаный фестиваль спиннеров, который крутятся у вас в разных местах страницы в ожидании данных. И вообще браузер нужно сразу кормить HTML кодом, а если нужна интерактивность, то юзать HTMX, который дает возможность делать запросы к бэкенду для любого элемента (в нативном HTML только <a> и <form> умееют делать запросы). Бекенд в такой парадигме сразу отдает куски HTML, которые браузер вставляет куда нужно. JS используется только для того, где реально нужна интерактивность, типа перестаскивания элементов. Бтв, на момент написания поста у HTMX 972 CEO, чуваки чисто рок-н-роллщики

------

Есть еще js пуристы, которые не похожи на бэкенд дедов (и вообще считают, что бэкенд это просто обертка над базой данных). Но как и бэкенд деды матерятся на долгую загрузку сайтов и винят во всем тупые громоздкие фреймворки. Манупилируют DOM вручную из JS, любят говорить про нативные Web Components и хвастаться тем, что не ждут мегабайты зависимостей прежде чем загрузить страницу.


------

Я не понял, какая из позиций мне ближе, но кажется я дед.
🔥3👏1
Расфокус-покус.

Сейчас я в параллель занимаюсь:

1. Оптимизация собеседований как проект на курсе Миши Табунова. Тут я интересно рисерчу рынок РФ, скоро будет пост.

2. Анализ по реальным применениям ИИ в образовании. Изначально была гипотеза, что можно автоматизировать код-ревью на курсах для программистов.

Это чисто моя боль – когда преподавал, больше всего пользы студентам было именно от нескольких раундов код-ревью, но это просто нереально масштабировать, я за семестр почти выгорел.

Оказалось, что код-ревью почти никто не делает на курсах 🤷‍♂️

3. Переговоры об участии в одном проекте с другого потока Мишиного курса в качестве технического кофаундера. Про сами переговоры скоро напишу отдельно в @unconscious_communications

4-5. Еще два проекта контрактором, где нужен мой опыт с ИИ, висят на согласованиях

6. И, конечно, CommuniCare. Наконец, спустя пол года (ужас) мы дошли до этапа, где у нас реально есть первая рабочая версия продукта, куда заходят реальные пользователи и оставляют реальный фидбэк.

———

С одной стороны, есть страх, что за двумя (шестью) зайцами погонишься, ни одного не поймаешь. Да и вообще, в стартап-тусовке любой парт-тайм считают зашкваром.

С другой, есть интуитивное ощущение, что все делаю правильно. Наверное, нужно написать отдельный пост про то, почему, а то вообще не очевидно
🔥8👍5👏3
Слышали уже, там две нобелевки (по физике и по химии) в течение недели дали чувакам за машинное обучение? 🤷‍♂️🤷‍♂️🤷‍♂️

Душный разбор, почему это правильно: https://ailev.livejournal.com/1737734.html

Лучший мем:
This media is not supported in your browser
VIEW IN TELEGRAM
1🔥1
Зачем бежать за шестью зайцами (к посту расфокус-покус)

Помню, еще в универе после курса по публичке в каком-то баре выступал с общим тейком, что:

Концентрация – это не про то, чтобы говорить "да" важному, а про то, чтобы говорить "нет" тоже важному, но не самому


Так какого черта тогда я сейчас хватаюсь за все подряд?

А я сейчас просто не особо понимаю, что на самом деле важно. Поэтому использую "жадный" подход – набрал побольше, что-то зацепилось и поперло, а что "отклеилось". Верю, если не пиздеть себе, то не важное правда отклеивается.

———

А теперь разгон из серии "все о разном и все об одном":

Все уже два года как известно, что если попросить GPT думать по шагам прежде чем давать ответ, то результат оказывается лучше. Этот подход называется Chain of Though (CoT, цепочка мыслей).

Проблема в том, что если рассуждение модели с самого начала пошло в неверном направлении, то скорее всего она и дальше пойдет туда. Чисто как люди 🤷‍♂️

Так вот, сейчас все популярнее еще один подход, которым уже решают задачи, лучше чем их решали человеческие ученые. Он называется Tree of Thought (ToT, дерево мыслей).

Тут генерируется не одно направление, а сразу несколько. С расчетом, что хотя бы одна ветка приведет к хорошему результату.

Когда на каком-то шаге рассуждений становится понятно, что ветка не актуальна, то она отбрасывается (особенно круто, когда можно это явно проверить, как в математических кейсах в ссылке выше).

Получается такая эволюция. А вот, кстати, бактерии, которые проникают сквозь слои антибиотика (на каждом слое концентрация в 10 раз выше). Большая часть отваливается, но какие-то двигаются дальше
This media is not supported in your browser
VIEW IN TELEGRAM
3🔥1
Стремно к людям добавляться в контакты на Линкедине?

Я вот тут вспомнил, что мне раньше реально стремно было добавляться к каким-то не очень знакомым людям. Мол, "какой-то непонятный чувак добавляется, а че ему надо, ууу". Даже смешно вспоминать. Сейчас если мне нужно с какими-то чуваками пообщаться, я просто ковровую бомбардировку коннектами делаю, а потом пишу в личку тем кто добавляется. И реально ведь добавляются.

Интересно, сколько еще таких мест, где я что-то не делаю, потому что стремно, а через пару лет мне будет смешно про это думать?
🔥5😁3