Какая самая главная проблема GPT для использования в ежедневной рутине?

Если вы хоть раз пытались применить ее для решения своих задач, то замечали, что ее ответы слишком общие, как будто маркетинговый булщит из статей "10 лучших способов <блаблабла>". Получается, у нее нет экспертизы, она думает на уровне диванного эксперта, начитавшегося этих статей.

Нет. Экспертиза у нее есть и много в чем.

У нее нет контекста. Она вообще не в курсе, как устроено общение у вас в компании, поэтому не сможет написать хорошее письмо начальнику с просьбой о повышении. И не в курсе ваших отношений, поэтому не сможет нормально объяснить кто придурок в вашей последней ссоре (конечно, оба, но кто больше?).

Что мне теперь, писать ей полотна истории своих отношений? Это первый способ. Промпт инжиниринг так и работает. Но писать длинные промпты на каждый чих – лень. Я быстрее сам письмо начальнику напишу, чем сформулирую весь контекст и правильно напишу задачу для GPT.

Может быть есть нормальные способы?

Нужно посмотреть, какие продукты уже решили эту проблему. Какие-то, которые используются в работе ежедневно хотя бы в какой-то сфере. Лучший пример: GitHub Copilot – ИИ ассистент для программистов. Он работает в виде расширения для среды разработки и сам подтягивает контекст файлов проекта.

По ним понятно очень много и подсказки получаются очень релевантными. Стали даже появляться отдельные среды разработки целиком построенные вокруг этой идеи (cursor.com)

А где брать этот контекст для всех других задач?

Я знаю только два способа. Внутренний и внешний

Внутренний – брать его из других диалогов с GPT. Это на минималке уже есть в платной версии GPT, но работает ужасно. Запоминает какие-то крупицы и часто не те, что нужно. И мне кажется, слишком мало информации мы пишем туда. Вот если бы мы с ней общались как с нашими друзьями обо всем подряд, было бы другое дело. Но OpenAI не целит в то, чтобы сделать собеседника. Да и звучит это совсем уж киберпанково.

Внешний – брать его из жизни пользователя вне общения с ИИ. Например, записывать экран ноута, как делает Rewind. Или индексировать переписку в рабочем чате или созвоны в зуме и строить верхнеуровневые выводы из них той же GPT. Скармливать туда дневники и записки.

Уверен, что такие продукты скоро будут появляться, хотя есть серьезные блокеры. Какие? Нам страшно делиться такими личными данными.

Наткнулся на видос, который меня зацепил похоже. Там чувак учит, что когда устал и хочется перестать работать, отвлечься, отдохнуть, то надо брать себя в руки и возвращать к работе через силу. И так мол прокачивать эту "мышцу". Че думаете?

Первая реакция – да херня какая-то, я же столько книжек читал, где учат, что перерывы на отдых – залог успеха. Да и в жизни тоже как будто всегда так работало у меня. Всегда получалось делать сильные рывки, потом восстанавливаться, потом делать еще одни и так по кругу, чем просто бежать марафон без остановки.

Вторая реакция – такая же как первая

Третья реакция – написать пост про то, какая же это херня

Четвертая реакция – попробовать на практике и посмотреть как мне будет 🤓

Вообще, интересное ощущение, конечно, чувствовать, что долгое время смотрел и шел в направлении, которое тебе нафиг не нужно.

И кажется, оно даже за рамки этого поста выходит, но я пока не понял насколько

Понял важную штуку про себя и ведение канала – мне не нравится выставлять себя экспертом в чем-то, типа я тут такой важный курица сейчас всех научу жить.

Это ограничивает меня в том, как и про что я хочу писать – если пишу про что-то, в чем нет какого-то серьезного опыта (а это почти во всем, если честно), то сразу ощущение будто я инфоцыганством занимаюсь

Гораздо ближе – писать (и жить) с такой позиции: мне много штук интересны, я пытаюсь в них разбираться и делюсь с теми, кому они тоже интересны.

Но еще ближе для меня – разбираться вместе. Поэтому большое спасибо всем, кто пишет тут и тут комменты. Я часто по жизни цепляюсь за какую-то одну точку зрения, так что мне супер полезно посмотреть вещи под другим углом вашими глазами (даже когда неприятно чувствовать себя неправым).

Да и вообще, делиться мыслями – это же обмен. А обмен – это круто. Так что, если у вас появляются какие-то мысли от моих постов, пишите их пожалуйста.

Давайте меняться 🤗

И кстати, раз вы читаете этот канал, кажется он вам как-то что-то дает. Расскажите что?

У меня случилось новое приключение

Я тут, видимо на волне всех этих мыслей про свое место в жизни, начал замечать всякие интересные вакансии. И одна оказалась особо сочной – американская компания уже давно занимается ИИ, сейчас все старые решения переносит на современные нейронки, там продукт про коммуникацию, и в целом достаточно всратый продукт. Еще и прибыльные, при этом сходу я не понимаю как. Короче, чистый кайф.

Спустя два дня и три собеса мне предлагают поработать у них оплачиваемую тестовую неделю. Я так еще никогда не пробовал, так что мне вдвойне интересно. А еще я уже год не получаю нормального дохода, так что даже недельная зп разработчика уже приятно радует.

Дальше напишу, во что это все вылилось, а пока вот вам мой отклик на вакансию

Что было интересного?

На самом деле, один инсайт я уже сформулировал. Без детальной информации про компанию, скажу, что они делают ИИ для общения (оказывается, есть уже целая пачка таких компаний). И, как я писал, кажется, что подобные продукты теоретически могут решать и практические задачи, причем гораздо лучше, чем дефолтный ChatGPT. Ведь знают про вас очень много контекста из ваших разговоров.

———

Второе, я понял, что вообще никто из известных больших игроков не пытается идти в эмоциональные истории. Все делают упор на утилитарность, рациональную пользу (ChatGPT, GitHub Copilot, Perplexity, HeyGen).

Наверное, потому что сделать эмоционально цепляющий продукт очень сложно, да и не понятно, а где там деньги то? Вот заплатить 20 баксов за то, что за меня нейронка код пишет на работе – мне понятно. А тут платить за то, что мне интересно общаться с роботом? Чивоооо

Но какая же это интересная задача, если подумать. Сделать то, чего еще никто не делал. Сделать штуку, с которой общение будет интереснее или полезнее, чем с человеками. Антиутопия, конечно, какая-то и вообще полный киберпанк. Но, когда я думаю про это в таких формулировках, то, честно, это что-то цепляет во мне.

———

Третье меня прям удивило. Оказывается, много кто использует их продукт в качестве секс-игрушки. То есть буквально, секстятся текстом с ИИ. Мне еще нужно было обезличенные логи переписок смотреть. И там такая жесть иногда, что хочется удалить все файлы и сжечь ноут. Ну или это я слишком чувствительный.

С другой стороны, круто, что есть такая безопасная среда, где люди могут "выгулять своих демонов", не выпуская их в реальный мир.

Тут конечно можно сказать, что это распалит их еще больше и только закреплит этот кринж в головах у пользователей, я хз. Если кто-то читал какие-то статейки на смежные темы – скиньте в комменты.

P.s. В каком-то смысле я проработал неделю в порно индустрии, хех

Ну а что я понял про себя?

Вообще, опыт оказался болезненным. Мне было прям сложно работать. Я жутко устал. Вообще практически ничем кроме работы не занимался, при этом не показал результатов, которыми был бы прям доволен.

Я писал про возврат к рабоче через силу. Короче, хуйня какая-то. Я в какой-то момент просто ловил себя на том, что действия какие-то вроде совершаю, а скорость движения к результату – 10%, и то в лучшем случае. Лучше бы пошел пообщался с друзьями, погулял, песенки под гитару попел. Хотя мб я как обычно просто скатился в крайность 🤷‍♂️

А вот дальше прям мета-вывод про себя.

Когда-то в поза-поза-поза-прошлой жизни я учился в универе и считал, что как у программиста/исполнителя у меня особо нет потенциала, зато есть в том, чтобы быть организатором/менеджером/лидером. Потом мне стали платить хорошие деньги за работу программистом, и я подумал, что вообще-то я хорош в этом.

А потом я еще начитался Питера Левелса, который делает айти бизнесы в одиночку, зарабатывает сотни тысяч долларов в месяц и продвигает идею, что когда работает один, то у тебя нет затрат на коммуникацию, что как-то очень хорошо легко на мою картину мира и последние годы профессионального опыта.

Чтобы как-то подытожить эту долгую подводку – я думал, что могу классно работать один, мол и швец и жнец и т.д.

Так вот, кажется, хуйня. Я весь период формирования своей личности активно работал в командах. И обычно на позиции лидера. И не буду скромничать – у меня охуенно получалось (даже когда не получалось). Кайфовал и я, и люди, с которыми мы работали.

И поработав эту недельку я очень четко увидел, насколько мне классно в моменты, когда у нас идет какая-то организационная коммуникация, обсуждение видения, проблем, взаимодействий и отношений в команде и между командами. И насколько мне на самом деле тускло быть в роли исполнителя.

Может показаться, что я просто не умею нормально пахать, а хочу только пиздеть не мешки ворочать. Нифига, я умею въебывать, ответственно подхожу к работе и мне не стыдно за качество. Именно поэтому я и оказался в этой "ловушке" – если бы у меня совсем хуево получалось, я бы просто этим не занимался. А тут – получается.

Просто, ну, есть те, у кого получается сильно лучше. Да и с кайфом.

———

Так что теперь буду думать, как перестроить свою жизнь, чтобы у меня снова появилась команда.

Мне не дали оффер. Мой лид (Л) на эту неделю оказался очень классным и тонко чувствующим чуваком. Если суммировать все, что он сказал, то получится что-то вроде:

Ты вроде классный чувак, точно много знаешь и умеешь, но тебе как будто уже сейчас не вкатывает. И кажется, что если проработаешь еще пару месяцев, то точно уволишься. Ну а еще, ты сейчас в целом как будто на low-energy. То ли из-за того, что тебе не вкатывает, то ли еще из-за чего-то.

И хотя я все равно отказался бы от оффера, все равно получать отказ неприятно. Я привык к тому, что это я обычно отказываю, а не мне. Тем полезнее для меня этот опыт. Я уверен, что для меня это супер зона роста, потому что я как будто много чего не делаю из-за подсознательного страха отказа.

Плюс, Л реально подсветил для меня классные штуки:

Во-первых, мне правда как будто не очень заходила компания и то, какие организационные проблемы там были (если бы не мне дали их решать, потому что вот решать их было бы супер интересно)
Во-вторых, я правда был на low-energy. Уже прошел почти год с момента увольнения из CodeSignal, а я все еще страдаю какой-то хуйней ищу себя. Это правда влияет на общий вайб и уверенность, хотя я вроде нашел, чем нейтрализировать это.
В-третьих, меня не заряжала сама работа исполнителем. Про это писал отдельно.

Короче, спасибо за уроки, было интересно. Особенно круто, что Л был реально искренним настолько насколько это вообще возможно, и прямо проговорил все сомнения. Это прям респект. Желаю всем таких партнеров/начальников.

Пост вообще не в тему того, о чем обычно пишу. Сейчас сидели и обсуждали с братом то, насколько важно поддержание контакта с близкими во что бы то ни было. Мой пост от 02.03.2022
———

Еще один эмоциональный пост про творящийся пи*дец?

Неа. Я считал важным написать еще в первый день, когда внутри все переворачивалось. Потом во второй, после бессонной ночи на бетонном полу ОВД. Потом, когда я узнал, что поссорились отец с братом. Потом, когда эмоционально настолько устал, что перестал реагировать на все происходящие.

Но не написал. А сейчас, когда внутри все поутихло, самое время.

---

Первые новости. Работа. Мысли на фоне. Так не должно быть. Стыд. Беспомощность. Точно понимаешь, как не правильно.

Митинг.
Запомнившийся момент: Ощущение свободы, когда начинаешь кричать. Напряжение, которое копилось весь день, выходит. Как будто дали кислорода.

Второй момент: Все молчат, начинаю кричать. Кричу один минуту, подхватывает один человек, потом второй, потом вся толпа.

Третий момент: Начинает подходить омон. Все затихают, у меня голос сбивается, но слышу один голос справа. Продолжаем вдвоем до конца. Задержание. Автозак. ОВД.

Все права нарушены, отпечатки сняты, телефоны изъяты, фотографии как в кино у стенки в профиль и анфас. Передачка - две булки хлеба и томатный сок на 25 человек. Полусон на бетонном полу до утра. Ощущение "это еще повезло".

---

Я несколько раз пытался поговорить с омоновцами и полицейскими. Неужели они не понимают? Настолько промыты? Или просто пофиг?

Тут же все очевидно. Уж в этот раз точно. Абсолютно ясно, кто прав, а кто нет.
Я точно вижу черное и белое.

Стоп. Я же такой же.

---

Сомнение - инструмент. Особенно важный сейчас, когда легко застрять в информационном пузыре из тех точек зрения, которые сходятся с теми, что у тебя уже есть. Очевидно, что мир не черно-белый. Очевидно, что его хочется таким представить, потому что это делает его более простым и понятным. Тем более в такое непростое и непонятное время.

Мой отец смотрит телек, а брат ютуб. Оба очень остро переживают происходящее. И в голове одного вообще не укладывается, как второй вообще может иначе относиться к этим событиям. Только события разные. Брат видит одно, отец другое, я третье. Во многом, разница мнений объясняется не тем что кто-то из нас сумасшедший, а потому что мы живем в разных мысленных мирах.

И в одном реальном. Туман рассеется. А нам еще вместе жить. Вместе разбираться с последствиями. Если мы уже сейчас говорим, что противоположное мнение маргинальное, то разрушаем связи, которые сейчас важны как никогда. И внутри семьи, и с друзьями, и в обществе в целом.

Насильно переубедить человека - не про любовь. Принять его вместе с его мнением, осознавая возможность ошибки с обеих сторон, пытаясь сохранить близость - про любовь.

И важно не забывать, что для кого-то раскрашивать мир в черно-белое, соответственно тому, во что верил раньше - способ не поехать крышей. Возможно, сейчас не стоит мешать им пользоваться.

---

Теперь про свою крышу.

Мне сильнее всего помогает работа и ощущение заботы о близких.
Кажется, что тяжелые времена - идеальное время, чтобы найти себе какой-то смысл. А когда есть смысл, есть направление. А там и движение. А если есть движение, то нет беспомощности.

Желаю тебе смысла.

Иногда так круто просто уехать в деревню и устроить себе рабочий «ретрит»

Что делать, когда ты ноунейм с большими амбициями. Считаешь, что ты крутой, но никто про это не знает.

Надо, чтобы узнали! А там и получишь обратную связь от жизни, насколько ты крутой.

Заскочил на прожарку идей от Кириллика. Говорю, хочу вот технические собесы в РФ автоматизировать. То ли так четко все рассказал, то ли у меня просто было минимум булщита на фоне крипто-проектов, но мне в итоге два классных чувака написали и сам Кирилл фидбэка позитивного навалил.

Один чувак из кроссовера, где они кандидатов пачками собесят (кстати, надо будет как-нибудь рассказать про их бизнес модель, это забавно).

А второй работал в крупнейшем СНГ hr-агентстве, у него много теплых контактов и понимание рынка.

Мне нравится вот так наводить какой-то суеты, но я пока все еще не научился отличать полезную от просто суеты

Я тут недавно офигел, до чего техника дошла. Прилетает задача по анализу созвонов с клиентами компании. Есть записи, есть список критериев для анализа, чего не хватает?

Ну, вообще то все эти наши GPT обычно работают с текстом, а у нас аудио. Как быть?

Уже давно существует Whisper – нейронка от OpenAI, открытая и ускоренная так, что я прям на ноуте могу почти в реалтайме звук в текст переводить.

То есть процесс должен выглядеть так

Звук => Whisper => Текст => GPT с чеклистом в промпте => Репорт с анализом созвона

Магия, но нет. GPT путает фразы сотрудников и клиентов. Репорт получается с галлюцинациями.

Вывод? АААААА, GPT галлюцинирует, ее нельзя использовать в продакшн решениях, аааааааа

Ладно-ладно, вывод, что нужно вставить еще один этап – диаризацию. То есть отделить фразы одного человека от другого. Когда запись изначально сохранена в разных аудиодорожках файла, это делается тривиально. В моем случае это не так, так что в ход идет специальная заточенная на это нейронка.

Звук => (whisper + диаризация) => Текст с метками говорящих => GPT с чеклистом в промпте => Репорт с анализом созвона

Что может пойти не так? Качество перегонки в текст (speech_to_text или STT) на русском оказывается далеко от идеала. И диаризация все равно часто путает говорящих. Репорты с косяками, самое время грустить.

———

Тут те, кто следят за AI, скажут: "так это, нейронки уже давно мультимодальные, в них не обязательно только текст грузить, вон, у GPT давно уже картинки понимает, и вообще войсмод уже появился". И будет прав. Только вот войсмод не дает грузить записи, а хочет, чтобы ты в микрофон говорил. И стоит как крыло от самолета.

Помощь пришла откуда не ждали. Помните шутки про гугл, которые не может угнаться за OpenAI?

Так вот, у них давно уже нейронки не только с контекстом в 2 млн токенов вместо 128к у OpenAI, но и с поддержкой фото, аудио и видео на входе. Дада, можно загрузить видос с лекцией и сразу спрашивать по нему что-то без костылей с переводом в текст.

Чисто чтобы сравнить, я попросил выдать мне транскрипт аудио по ролям и получил результат на голову лучше, чем то что у меня было.

А так я в итоге я вообще отказался от текста и сразу задаю вопросы по аудио

Звук => Google Gemini с чеклистом в промпте => Репорт с анализом созвона

———

Я ожидал, что с OpenAI в каких-то случаях придется переключаться на Anthropic (основанный бывшими сотрудниками OpenAI), но вот гугл я вообще не ожидал, если честно

Главная проблема внедрения AI

Больше всего пользы от нейронок – в классических бизнесах, где много рутины. Но эти бизнесы обычно не в курсе реальных возможностей ИИ, и не даже не задумываются, какие процессы можно ускорить/удешевить в 10-100 раз. А если задумываются, то часто сливают бюджет на сказки про ИИ-агентов нерабочие решения, потому что 99% внедрения AI – буллщит.

А ИИ энтузиасты из твиттера, наоборот, вообще ничего не знают про процессы и проблемы реального сектора.

Я пытаюсь не быть энтузиастом из твиттера и много времени уделяю на консультации – держу руку на пульсе и помогаю компаниям не тратить деньги на грабли.

Если актуально, пишите: @nikolay_sheyko

Классный подход к брейншторму идей или гипотез.

Просишь своего партнера быстро назвать 10, которые первыми приходят в голову, из которых первые 5 должны быть очевидно бредовыми, странными или просто нелогичными/

Чувствуете, как стресс уменьшается, когда можно (и нужно) косячить. А стресс – главный враг креативности

Решил я подобавлять HR директоров в линкедине. Раньше я бы либо руками тыкал, либо полез бы читать код страницы и писал скрипт вручную.

Сейчас я просто скопировал весь код страницы в Gemini (моделька гугла с очень большим окном контекста) и спросил, что вставить в консоль браузера, чтобы было хорошо

Плюс еще одна итерация понадобилась на окно подтверждения. Следующий шаг – попросить переходить к следующей странице.

Если честно, вроде ничего необычного, но когда эти кнопочки сами нажимаются, то ощущение магии какое-то

Новое поколение моделей бесплатно

Несколько месяцев назад вышла первая принципиально новая модель o1 от OpenAI. Вот подробные спекуляции о механизмах работы.

Мне было интересно, кто первый из конкурентов сделает что-то похожее. Может гугл и тут удивит?

В итоге удивили вообще китайцы из DeepSeek. Они и так делали очень неплохие, при этом супер дешевые модели, одни из первых завезли нормальное кэширование промптов (колоссальное удешевление однотипных запросов), а теперь еще и первого конкурента o1, который по нескольким метрикам оказался сильнее оригинала.

А самый кайф для нас всех, что он, в отличие от o1, доступен бесплатно, показывает весь ход рассуждений и открывается без VPN

https://chat.deepseek.com/

Как сэкономить нервы, деньги и время на подписи

Рано или поздно человек попадает в ситуацию, где ему очень хочется иметь ЭЦП – это не название болезни, а электронная цифровая подпись.

Глобально – ЭЦП была проклята долгое время. Помню, я получал в Москве в 20м году, когда в очередной раз устраивался в 2гис. Мне нужно было приехать в специальный офис компании-поставщика, получить флешку, скачать какое-то специальное ПО но ноут, чтобы это хоть как-то работало. И все равно, при переезде на макбук все отлетело. Ну не должно это так работать.

С тех пор многое изменилось. Мы уже в киберпанке. Я сейчас получил полную версию ЭЦП с помощью смартфона с NFC, заграна с биометрией и аккаунта госуслуг.

Да, теперь не нужно ездить подтверждать свое лицо в специальное место. Достаточно скачать приложение госключ, войти через аккаунт госуслуг и приложить телефон к биометрическому чипу загранпаспорта. Смартфон и будет хранилищем ЭЦП, никаких флешек. Вау!

Бтв, офигенный лендос ↓

Вчера моя хорошая подруга подкинула кейс с ее работы.

Нужно часто рассылать одинаковые сообщения нескольким людям в личку. Это классная идея для микро-продукта – решает одну конкретную маленькую, но обычно геморную задачу

1️⃣ Первая мысль сделать юзер-бота в тг. Это такой бот, который управляет аккаунтом пользователя. Проблема – давать доступ к своему аккаунту – не приятно. Можно и в бан телеги улететь, при нарушении каких-нибудь правил. Да и ни один пользователь не даст моему сервису свой аккаунт.

2️⃣ Придумал, как это сделать, с помощью браузерной версии телеги, когда мы не даем доступ к аккаунту, но даем доступ к открытому телеграму (это как открыть телегу на своем компе перед другом, но не давать ему пароль).

И JavaScript кодом просто выполняем нужные действия на веб странице (найти нужного пользователя, вставить текст, отправить текст, и т.д.). Примерно, как я в линкдине делал.

3️⃣ В итоге пришли к тому, что в телеге это на самом деле можно сделать. Пересылать сообщение можно сразу нескольким людям. Правда хочется то, чтобы это было не пересланное сообщение, а как будто от себя написанное. Так вот, оказывается, что если его пересылать из Избранного, то все работает именно так как нужно. Как будто каждому человеку написано лично.

То есть в телеге уже есть эта фича, вот только узнать о ней еще сложнее, чем о том, как прикреплять картинку под текстом.

Обожаю, когда для решении задачи не нужно писать ни строчки кода. Не обожаю, когда идеи так тупо обламываются

Так как Илон Маск опять со всеми судится (в данном случае с OpenAI), то в рамках дела были опубликованы его переписки с Сэмом Альтманом и другими любопытными лицами, вроде Ильи Суцкевера, который недавно поднял миллиард долларов инвестиций на свой собственный суперинтелидженс с блэкджеком и безопасностью

У меня нет каких-то крутых выводов – переписки интересны и сами по себе – посмотреть, как общаются сильные мира сего.

Как они торгуются, решают вопросики, как мыслят про конкуренцию с гуглом.

Где-то там можно разглядеть и семена будущих интриг с увольнением и мгновенным возвращением CEO OpenAI Сэма Альтмана. Да и с последующими увольнениями всей остальной изначальной команды.

Забавно видеть, какими наивными добряками выглядят Илья Суцкевер и Грэг Брокман (ML и Dev столпы OpenAI) на фоне акул Маска и Альмана.

———
Хайлайты из комментов:

Грег:

Я надеюсь, что мы сможем зайти в эту область как нейтральная команда, которая стремится к широкому сотрудничеству и хочет изменить диалог так, чтобы он касался победы всего человечества, а не отдельной компании или группы.

Грег и Илья (к Илону):

Цель OpenAI — сделать будущее безопасным и избежать диктатуры ИИ. Вас беспокоит, что Демис (Google) может создать диктатуру ИИ. Нас это тоже беспокоит. Поэтому создавать такую структуру, где вы сами могли бы стать диктатором, если бы захотели, — плохая идея, тем более что мы можем придумать другой подход, который этого не допустит.

Грег и Илья (к Альтману):

Мы не смогли полностью доверять вашим решениям в этом процессе, потому что не понимаем ваших мотивов.

Мы не понимаем, почему для вас так важен статус генерального директора. Причины, которые вы называли, менялись, и сложно понять, что вами движет на самом деле.

Является ли создание ИИ вашей главной целью? Как это связано с вашими политическими планами? И как со временем изменились ваши взгляды?

Маск:

ИИ, вероятно, самая мощная из всех технологий