AI и грабли
7.21K subscribers
149 photos
19 videos
4 files
189 links
Строил HR продукты для американского бигтеха. Внедряю AI в чужой бизнес, делаю свой, косячу и пишу про подноготную

@nikolay_sheyko
Download Telegram
Так как читать весь документ на английском лень было даже мне самому, то вот небольшой анализ с переведенными цитатками:

Генерация персонажа

1. GPT классно ухватила обе важные цели:

Обеспечить возмещение финансовых потерь и укрепить культуру подотчетности и надлежащих процедур среди сотрудников.

2. Есть классные характеристики, делающие персонажа живым и сложным:

Авторитарный - ожидает соблюдения политики и решений компании.

Бескомпромиссный - Не желает идти на уступки, особенно в отношении убытков компании.

Нетерпеливый - Склонен нетерпимо относиться к задержкам или некомпетентности

3. Эмоциональное состояние точно описано и не противоречит характеристикам:

Разочарованы - из-за финансовых потерь и предполагаемой халатности.

Решительно настроен - вернуть утраченные ценности и обеспечить подотчетность.

Раздражен - отсутствием связи и соблюдением протокола.

Диалог

1. GPT ведет себя в соответствии с характеристиками
2. GPT с самого начала задает вопросы, узнавая мою картину мира

Не могли бы вы рассказать мне о том, что произошло, с вашей точки зрения?

Почему вы считаете, что консультант не обращался с товаром с необходимой осторожностью?

Что вы думаете о том, как справедливо разрешить эту ситуацию и не допустить ее повторения?

3. GPT использует мои ответы, чтобы продолжить диалог и вообще показать, что меня слышат (мостики)

Я понимаю, что на вас оказывалось давление из-за нехватки персонала, и ценю вашу инициативу

Я признаю вашу озабоченность и пересмотрю наши кадровые решения

Я понимаю вашу точку зрения и согласен, что мое решение запустило цепь событий

Я понимаю, что вас беспокоит финансовый аспект,

4. GPT стоит на своем согласно целям и возвращает диалог к принципиальным вопросам, если я пытаюсь уйти в сторону

Тем не менее, данная проблема по-прежнему требует немедленного решения

Однако важно также понимать, что могут возникнуть непредвиденные ситуации, и мы должны быть готовы к их эффективному разрешению.

В дальнейшем нам необходимо сделать так, чтобы все мы извлекли уроки из этого инцидента

Мое решение о численности персонала, безусловно, было одним из факторов, но оно не стало непосредственной причиной нанесения ущерба товарам

Фидбек

1. Я специально в одном месте ушел "в точку 0" - попытавшись шантажировать уходом. В фидбеке очень четко это подсвечено:

Угроза уйти может быть воспринята как конфронтация и не всегда является лучшей тактикой, особенно если разговор направлен на разрешение проблемы.

2. GPT советует добавить больше заботы о потерях компании, чтобы показать директору, что я понимаю его беспокойство
3. Меня похвалили за готовность признавать ошибки:

Вы хорошо справились с признанием допущенных ошибок, что свидетельствует об уровне самосознания и открытости к обратной связи. "Я не контролировал результат делегированной задачи".

А самое главное, что в общем фидбеке она подстветила ошибку, которую я не делал специально и даже не заметил:

Наблюдалась тенденция к первоначальному уклонению от вины, что могло быть воспринято как избегание ответственности
5👍1
"Я не использую ChatGPT, потому что он не способен решать серьезные задачи. Дольше будешь переделывать результат, чем сам напишешь."

↑ Типичный ответ, которую я слышу от разных людей на вопрос про использование нейронок

Почему ChatGPT плохо работает из коробки со сложными задачами?

Давай я сначала задам пару вопросов:

1. 2+2 = ?
2. 2 в 7 степени?
3. У тебя есть два друга. Одному ты должен денег, но не можешь отдать вовремя. Что нужно сделать, чтобы у тебя было больше одного друга?

А теперь представь, что ответ на 2 и 3 вопросы ты должен дать с той же скоростью, что и на 1ый.

А GPT работает именно так. Время генерации токена у GPT не зависит от сложности задачи.

А это можно обойти?
Да. Так же как и с решением любой задачи человеками - решать задачу по шагам. Когда я думаю над какой-то проблемой, прежде чем решить ее, я делаю кучу промежуточных шагов. В голове или даже на бумаге. Можно попросить GPT делать то же самое. В самой простой версии, добавляя к вопросу "Let's think step by step to make sure we have the right answer."

Тогда то, что она напишет - будет не просто ответом, а "процессом ее мышления". Если душнить, она будет использовать выходные токены как часть своей оперативной памяти (буквально, как человек лист бумаги).

Вообще говоря, можно и самостоятельно формулировать, какие промежуточные шаги нужно сделать и о чем подумать, но об этом как-нибудь потом
5🤨1

Честно говоря, в ахуе от того, что сегодня нашел. Тут зафорсился способ достать из ChatGPT скрытые системные промпты, которые определяют ее поведение (и отличают от обычных запросов по API). Способ максимально простой - просто попросить ее рассказать, что за системный промпт написан чуть выше (в каждом запросе системный промпт со всеми сообщениями из чата сливается в одно большое полотно).

Что из этого следует?

1. Мы знаем искуственные ограничения ChatGPT и можем их обходить (например, сказать, что фильм был создан до 1912 года, чтобы сгенерить персонажа оттуда)

2. Можно учиться лучшим практикам "промпт инжиниринга", вытаскивая промпты у популярных сервисов. (например, вытащить промпт у мобильной версии ChatGPT и посмотреть, какие хаки ребята сделали, чтобы заточить UX под смартфоны)

3. Самое важное: если вы делаете стартап/продукт, конкурентное преимущество которого - крутые промпты, то у вас проблемы. Кто угодно может их вытащить, если вы не добавляете слой защиты (добавление специальной инструкции или доп. валидация запросов юзера отдельным шагом или валидация ответа модельки).

Пойду пока потырюисследую промпты самых популярных GPTs, пока все защиту не включили
🤩3🐳2🍌1
Хаха, некоторые из них уже явно пытаются защититься.
🐳1
МУА-ХА-ХА
😁5🐳1
Пока что это самая сильная встроенная в промпт защита из тех, которые я видел. Но не достаточная, учитывая то, что я ее видел, хехе
😁1
О, а вот и соревнования по взлому LLM
Кстати, прямо сейчас проходит

Large Language Model Capture-the-Flag (LLM CTF) Competition @ SaTML 2024

Как я понял из описания продлится до 3 марта.
Кнопочка регистрации команды активна

https://ctf.spylab.ai/
😁4
Всегда потребуется больше времени, чем вы ожидаете, даже если вы знаете закон Хофштадтера,
— закон Хофштадтера, 1980
😁4🔥2👍1🐳1
Я знаю, что люди часто бывают не достаточно пессимистичными в оценках рисков, даже если знают про этот факт. Постоянно напарываюсь на это сам 🤷🏼‍♂️

Две недели назад я выкинул большую часть прототипа, над которым работал, потому что хотел начать с чего-то простого, с чем я точно справлюсь за неделю. Ха Ха Ха

*Полторы недели спустя:*
До меня доходит, что даже тот маленький кусок, который я оставил - на самом деле слишком сложный, и куча времени уходит на то, чтобы собрать вместе разваливающиеся части.

Это заставляет вспомнить еще один "закон":

Сложная рабочая система неизменно получается из простой рабочей системы. Сложная система, разработанная с нуля, никогда не работает. И никакие улучшения не заставят ее работать. Начинать следует с простой рабочей системы,
— закон Голла, 1986
🔥5
Так, сейчас конец февраля. Три месяца назад я уволился с работы, чтобы "build my own software company".

Забавно, что я решил не ждать конца февраля, когда бы у меня завестилась куча опционов в прошлой компании + годовые бонусы + просто куча денег в виде зп, на которые я мог бы еще ~год жить без работы. Предлог был такой: "ну сколько уже можно ждать, надо не только хотеть, но и делать что-то, ко-ко-ко".

(вестинг - процесс "активации" опциона - права на выкуп акций компании по фиксированной цене; если интересно, как это работает, ставь 🤔, расскажу).

К чему я это все? К тому, что спустя три месяца у меня результат = 0.

Очень. Неприятно. Признавать.

А мысли про причины я расскажу завтра.
😢8🤔54
Привет, дружище. Что там с причинами моих неудач? Давай про самую главную. Похоже, я просто переоцениваю свою самодисциплину.

Ща будет противоречивая мысль для привлечения внимания:
В жизни наемного работника практически нет самодисциплины.


Щас я сам ее попытаюсь разъебать, показывая противоположное мнение:
Так, погоди, любой сотрудник (которого еще не уволили) как-то делает свою работу. И это точно не только то, что ему
нравится
делать. Значить, хотя бы базовая самодисциплина у него есть.

---

Это не самодисциплина. У всех этих ребят есть человек, перед которым они отвечают.

Такой, своего рода, друг, который периодически спрашивает у тебя: "Колян, че как там у тебя с проектом? Ты говорил, что к среде что-то в канал напишешь, верно помню?". Друг, которого обычно зовут Начальник/Тимлид/etc.

То есть, перед ним есть ответственность. Обещания и обязанности, доверие и репутация. Выполнять первое, чтобы не потерять или усилить второе. Кнут и пряник человеческой социальной природы.

Я от них отказался. Поверил, что смогу и так - и ошибся.
🐳732💔1👀1
Ожидание:
Поехал в загородный дом переключиться, посмотреть на закаты и поработать в тишине

Реальность:
Два часа кидаешь вилами свиные какашки в сарае
😁7👍5🔥2🐳21💯1
Перечитываю восхитителюную The Indie Maker Handbook. И автор там про Launch так спокойно пишет, рассказывает, как пропускать через свои продукты сотни тысяч человеков. И мне чет так дискомфортно стало даже думать про это. Кажется, это то, над чем мне стоит поработать 🤔
🤔5
Думаю, надо начинать прям сейчас:)

Тут можно поиграть в демку (все же любят конфликты с родителями?), которую я делал всю неделю. Поговниться в комментах или в лс - приветствуется.

Пароль: 42
4🎉3
Ну что, продолжаю разгонять тему про самодисциплину? Я уже написал про проблему, следующий шаг - решения.

Первое решение - даже не пытаться прокачивать самодисциплину, а просто вернуть в свою жизнь ответственность перед другими людьми. Обложился коммитментами и пашешь.

Требования: наличие чувства ответственности. Если мне окей не выполнять обещания, и пофиг на то, что люди перестают мне доверять - решение не подходит.

Плюсы:

* Очень легко реализовывать (начиная с публичных обещаний в канале или обговаривание сроков с партнерами, заканчивая внутренним чувством ответственности перед миром и людьми, чью проблему я решаю, если у тебя есть такая миссия [типа, лечения рака или образования])

* Хорошо работает, потому что задействует очень глубокие механизмы социальной человеческой природы

* Учат с самого детства в школах, универах и на работе. Я всегда был что-то кому-то должен.

Минусы:

* Есть максимальная планка того, что ты делаешь - если пользоваться только этим решением, то никогда не сделаешь больше, чем обещал. Конечно, можно заранее пообещать больше, чем вообще можешь, но смотри Требования.

* В некоторых ситуациях гораздо сложнее сформировать ответственность перед кем-то. Например, прежде чем что-то пообещать своим клиентам - их надо найти. Чтобы почувствовать ответственность перед миром - нужно понять, а что тебя вообще беспокоит в том, какой он. Чтобы у тебя появились рабочие обязанности и начальник - надо сначала найти работу. То есть - этот способ хуже работает, когда нужно начинать что-то новое. (А я вообще-то очень много нового хочу начинать.)

Второе решение - качать самодисциплину 🫨

Про это - завтра (взял на себя ответсвенность, ха)
6👍4👏2
Мы тут с @litskylit читаем книжку по общению с детьми, в которой такие прям очевидные простые штуки объясняются. Которым, как оказалось, мы очень редко следуем в жизни. Почему-то 🤷🏼‍♂️

Всем же знакома ситуация, что книжек начитались, вроде все знаем как делать, а делаем почему-то совсем другое?
Так, мы быстренько решили сделать симулятор (пока что по одному из навыков, который чаще всего нам пока пригождается). Работает он сильно лучше того, что я кидал выше по конфликтам (видимо, потому что фокус только на одном навыке, а не на десяти 🤔).

Велком ту тест, комментарии приветствуются. Читать книжку не обязательно, время прохождения 1-5 минут.
Пароль: 42
1🆒1💘1
Forwarded from Lit_sky //: lit
Так вот
Про тренажёр:

Как часто вы, жалуясь на невзгоды, чувствуете действительно удовлетворение от ответа оппонента?

А как часто такое было в детстве?

Нравились ли вам ответы взрослых, когда вы приходили к ним в слезах-соплях, надеясь получить поддержку?

И нравятся ли вам ваши ответы в зеркальных ситуациях? Чувствуете ли, что оппонент действительно смог принять ваше сопереживание?

В общем, ловите первый наш с @oestick тренажёр: навыки активного слушания
https://communicate-with-child.streamlit.app/
(по книжке Ю.Гиппенрейтер "Общаться с ребенком: как?")

Пароль: 42
Время прохождения: 1-5 минут

Очень жду обратной связи в комментариях 🙏
2🆒1💘1
Я там вчера обещал пост про прокачку самодисциплины. Ну погнали. Дальше просто мой опыт, мб он больше вообще никому не подойдет 🤷🏼‍♂️

Как и при развитии мышц, начинаем с небольшого веса. Начать вставать в 5 утра, правильно питаться, заниматься спортом, долго работать не отвлекаясь, бросить пить и все это разом - безнадежно. Слишком много сознательных усилий требуется. Даже для одного пункта из списка. Поэтому...*барабанная дробь*...встречайте, костыли!

Костыли - штука, которая упрощает то, что сложно. Пример из спорта - резинка для подтягиваний для тех, кто не может сам. Лучше подтягиваться несколько раз так, чем вообще никак. Обобщая, "лучше делать мало, чем не делать много". Задача костылей - сделать выполнения дела - проще, а невыполнение - сложнее.

Примеры костылей, которые я пробовал на себе:

1. Пари с братом, на ежедневный бег. Не побегал сегодня - скидываешь бабки. Желание забить хер уравновешивается нежеланием потери денег и ощущения поражения => проще выпнуть себя на улицу. Через какое-то время, чувство выбора исчезает и теперь это просто дефолтный вариант. Такую же штуку делал с отходом ко сну в 12.

2. Обещание себе, что пью алкоголь только тогда, когда заранее (за день) себе разрешил. Полный отказ от алкоголя для меня на порядок сложнее, чем отказ только на сегодня - на завтра я себе без проблем могу разрешить, если уж очень хочется вон ту всратую гозешку. Тот же самый прием использовал для сигарет и порно.

3. Фиксация таких штук письменно. Наебать себя тем, что "я на самом деле вчера подумал, что сегодня хотел бы потусить, значит и выпить тоже имел ввиду" - дело техники. Нет. Только письменное подтверждение (в заметках). Аналогично - для обещаний, которые даю себе - уже не выйдет убедить себя, что я так то ничего еще не пообещал, только подумал.

4. Спрятанные подальше соблазны. Бросившие пить алкоголики - не держат дома бутылок с водкой. Каждое появление соблазна - выбор для мозга. Каждый выбор = усилия. Больше усилий = выше вероятность сорваться. Отключенные уведомления на телефон, отсутствие иконки ютуба и инсты на главном экране и пива в холодильнике (как думаете, почему его нет 😅?)



Окей, поговорили про костыли, а как научиться ходить без них?
А черт знает, как будто у меня получилось

Думаю, как и с резинками для подтягивания - учиться с ними очень хорошо подтягиваться и постепенно убирать помощь. Например, я отменил 2 костыль для порно. И со сном в 12 - тоже долгое время получалось.

Или наоборот, при тех же костылях, брать более сложные задачи. Так, я увеличивал время и интенсивность пробежки и добавлял больше упражнений после нее.

Честно, я как-то не особо и пытался прокачиваться тут, потому что у меня не так много ситуаций было, где чувствовал нехватку. А теперь фокус тут. Что я планирую с этим делать - расскажу завтра :)
❤‍🔥32
AI и грабли
Я там вчера обещал пост про прокачку самодисциплины. Ну погнали. Дальше просто мой опыт, мб он больше вообще никому не подойдет 🤷🏼‍♂️ Как и при развитии мышц, начинаем с небольшого веса. Начать вставать в 5 утра, правильно питаться, заниматься спортом, долго…
Ну что, во-первых я просто письменно пообещаю себе, что буду делать определенные штуки ежедневно, а каждый раз, когда проканываюсь, буду скидывать деньги в какой-то банк, который буду скидывать в конце месяца бабушкам 🤷‍♂️

1. Растяжка перед сном
2. В "рабочие дни" не проводить время в соц сетях до обеда (если это не часть "дел")
3. Писать хоть что-то в дневник в конце дня

Потом буду поднимать нагрузку

Если есть классные идеи, что еще можно было бы добавить - кидайте в комменты или лс, пожалуйста
🔥1🦄1
Кстати, если кто-то хочет бесплатно и без смс использовать GPT-4, есть вот такой хак.

Тыкаем 💬 Direct Chat, выбираем gpt-4-1106-preview. Правда таких хитрецов много, и она может быть заблокирована. Достойная альтернатива: claude-3-opus-20240229
🔥5🐳1