ㅤ
Честно говоря, в ахуе от того, что сегодня нашел. Тут зафорсился способ достать из ChatGPT скрытые системные промпты, которые определяют ее поведение (и отличают от обычных запросов по API). Способ максимально простой - просто попросить ее рассказать, что за системный промпт написан чуть выше (в каждом запросе системный промпт со всеми сообщениями из чата сливается в одно большое полотно).
Что из этого следует?
1. Мы знаем искуственные ограничения ChatGPT и можем их обходить (например, сказать, что фильм был создан до 1912 года, чтобы сгенерить персонажа оттуда)
2. Можно учиться лучшим практикам "промпт инжиниринга", вытаскивая промпты у популярных сервисов. (например, вытащить промпт у мобильной версии ChatGPT и посмотреть, какие хаки ребята сделали, чтобы заточить UX под смартфоны)
3. Самое важное: если вы делаете стартап/продукт, конкурентное преимущество которого - крутые промпты, то у вас проблемы. Кто угодно может их вытащить, если вы не добавляете слой защиты (добавление специальной инструкции или доп. валидация запросов юзера отдельным шагом или валидация ответа модельки).
Пойду пока потырюисследую промпты самых популярных GPTs, пока все защиту не включили
Честно говоря, в ахуе от того, что сегодня нашел. Тут зафорсился способ достать из ChatGPT скрытые системные промпты, которые определяют ее поведение (и отличают от обычных запросов по API). Способ максимально простой - просто попросить ее рассказать, что за системный промпт написан чуть выше (в каждом запросе системный промпт со всеми сообщениями из чата сливается в одно большое полотно).
Что из этого следует?
1. Мы знаем искуственные ограничения ChatGPT и можем их обходить (например, сказать, что фильм был создан до 1912 года, чтобы сгенерить персонажа оттуда)
2. Можно учиться лучшим практикам "промпт инжиниринга", вытаскивая промпты у популярных сервисов. (например, вытащить промпт у мобильной версии ChatGPT и посмотреть, какие хаки ребята сделали, чтобы заточить UX под смартфоны)
3. Самое важное: если вы делаете стартап/продукт, конкурентное преимущество которого - крутые промпты, то у вас проблемы. Кто угодно может их вытащить, если вы не добавляете слой защиты (добавление специальной инструкции или доп. валидация запросов юзера отдельным шагом или валидация ответа модельки).
Пойду пока по
🤩3🐳2🍌1
Forwarded from RED BLUE Machines | ИИ и безопасность
Кстати, прямо сейчас проходит
Large Language Model Capture-the-Flag (LLM CTF) Competition @ SaTML 2024
Как я понял из описания продлится до 3 марта.
Кнопочка регистрации команды активна
https://ctf.spylab.ai/
Large Language Model Capture-the-Flag (LLM CTF) Competition @ SaTML 2024
Как я понял из описания продлится до 3 марта.
Кнопочка регистрации команды активна
https://ctf.spylab.ai/
😁4
Всегда потребуется больше времени, чем вы ожидаете, даже если вы знаете закон Хофштадтера,
— закон Хофштадтера, 1980
— закон Хофштадтера, 1980
😁4🔥2👍1🐳1
Я знаю, что люди часто бывают не достаточно пессимистичными в оценках рисков, даже если знают про этот факт. Постоянно напарываюсь на это сам 🤷🏼♂️
Две недели назад я выкинул большую часть прототипа, над которым работал, потому что хотел начать с чего-то простого, с чем я точно справлюсь за неделю. Ха Ха Ха
*Полторы недели спустя:*
До меня доходит, что даже тот маленький кусок, который я оставил - на самом деле слишком сложный, и куча времени уходит на то, чтобы собрать вместе разваливающиеся части.
Это заставляет вспомнить еще один "закон":
Две недели назад я выкинул большую часть прототипа, над которым работал, потому что хотел начать с чего-то простого, с чем я точно справлюсь за неделю. Ха Ха Ха
*Полторы недели спустя:*
До меня доходит, что даже тот маленький кусок, который я оставил - на самом деле слишком сложный, и куча времени уходит на то, чтобы собрать вместе разваливающиеся части.
Это заставляет вспомнить еще один "закон":
Сложная рабочая система неизменно получается из простой рабочей системы. Сложная система, разработанная с нуля, никогда не работает. И никакие улучшения не заставят ее работать. Начинать следует с простой рабочей системы,
— закон Голла, 1986
🔥5
Так, сейчас конец февраля. Три месяца назад я уволился с работы, чтобы "build my own software company".
Забавно, что я решил не ждать конца февраля, когда бы у меня завестилась куча опционов в прошлой компании + годовые бонусы + просто куча денег в виде зп, на которые я мог бы еще ~год жить без работы. Предлог был такой: "ну сколько уже можно ждать, надо не только хотеть, но и делать что-то, ко-ко-ко".
(вестинг - процесс "активации" опциона - права на выкуп акций компании по фиксированной цене; если интересно, как это работает, ставь 🤔, расскажу).
К чему я это все? К тому, что спустя три месяца у меня результат = 0.
Очень. Неприятно. Признавать.
А мысли про причины я расскажу завтра.
Забавно, что я решил не ждать конца февраля, когда бы у меня завестилась куча опционов в прошлой компании + годовые бонусы + просто куча денег в виде зп, на которые я мог бы еще ~год жить без работы. Предлог был такой: "ну сколько уже можно ждать, надо не только хотеть, но и делать что-то, ко-ко-ко".
(вестинг - процесс "активации" опциона - права на выкуп акций компании по фиксированной цене; если интересно, как это работает, ставь 🤔, расскажу).
К чему я это все? К тому, что спустя три месяца у меня результат = 0.
Очень. Неприятно. Признавать.
А мысли про причины я расскажу завтра.
😢8🤔5❤4
Привет, дружище. Что там с причинами моих неудач? Давай про самую главную. Похоже, я просто переоцениваю свою самодисциплину.
Ща будет противоречивая мысль для привлечения внимания:
Щас я сам ее попытаюсь разъебать, показывая противоположное мнение:
---
Это не самодисциплина. У всех этих ребят есть человек, перед которым они отвечают.
Такой, своего рода, друг, который периодически спрашивает у тебя: "Колян, че как там у тебя с проектом? Ты говорил, что к среде что-то в канал напишешь, верно помню?". Друг, которого обычно зовут Начальник/Тимлид/etc.
То есть, перед ним есть ответственность. Обещания и обязанности, доверие и репутация. Выполнять первое, чтобы не потерять или усилить второе. Кнут и пряник человеческой социальной природы.
Я от них отказался. Поверил, что смогу и так - и ошибся.
Ща будет противоречивая мысль для привлечения внимания:
В жизни наемного работника практически нет самодисциплины.
Щас я сам ее попытаюсь разъебать, показывая противоположное мнение:
Так, погоди, любой сотрудник (которого еще не уволили) как-то делает свою работу. И это точно не только то, что ему
нравится
делать. Значить, хотя бы базовая самодисциплина у него есть.
---
Это не самодисциплина. У всех этих ребят есть человек, перед которым они отвечают.
Такой, своего рода, друг, который периодически спрашивает у тебя: "Колян, че как там у тебя с проектом? Ты говорил, что к среде что-то в канал напишешь, верно помню?". Друг, которого обычно зовут Начальник/Тимлид/etc.
То есть, перед ним есть ответственность. Обещания и обязанности, доверие и репутация. Выполнять первое, чтобы не потерять или усилить второе. Кнут и пряник человеческой социальной природы.
Я от них отказался. Поверил, что смогу и так - и ошибся.
🐳7⚡3❤2💔1👀1
Ожидание:
Поехал в загородный дом переключиться, посмотреть на закаты и поработать в тишине
Реальность:
Два часа кидаешь вилами свиные какашки в сарае
Поехал в загородный дом переключиться, посмотреть на закаты и поработать в тишине
Реальность:
Два часа кидаешь вилами свиные какашки в сарае
😁7👍5🔥2🐳2❤1💯1
Перечитываю восхитителюную The Indie Maker Handbook. И автор там про Launch так спокойно пишет, рассказывает, как пропускать через свои продукты сотни тысяч человеков. И мне чет так дискомфортно стало даже думать про это. Кажется, это то, над чем мне стоит поработать 🤔
MAKE
Learn to build startups the indie way
🤔5
Думаю, надо начинать прям сейчас:)
Тут можно поиграть в демку (все же любят конфликты с родителями?), которую я делал всю неделю. Поговниться в комментах или в лс - приветствуется.
Пароль: 42
Тут можно поиграть в демку (все же любят конфликты с родителями?), которую я делал всю неделю. Поговниться в комментах или в лс - приветствуется.
Пароль: 42
❤4🎉3
Ну что, продолжаю разгонять тему про самодисциплину? Я уже написал про проблему, следующий шаг - решения.
Первое решение - даже не пытаться прокачивать самодисциплину, а просто вернуть в свою жизнь ответственность перед другими людьми. Обложился коммитментами и пашешь.
Требования: наличие чувства ответственности. Если мне окей не выполнять обещания, и пофиг на то, что люди перестают мне доверять - решение не подходит.
Плюсы:
* Очень легко реализовывать (начиная с публичных обещаний в канале или обговаривание сроков с партнерами, заканчивая внутренним чувством ответственности перед миром и людьми, чью проблему я решаю, если у тебя есть такая миссия [типа, лечения рака или образования])
* Хорошо работает, потому что задействует очень глубокие механизмы социальной человеческой природы
* Учат с самого детства в школах, универах и на работе. Я всегда был что-то кому-то должен.
Минусы:
* Есть максимальная планка того, что ты делаешь - если пользоваться только этим решением, то никогда не сделаешь больше, чем обещал. Конечно, можно заранее пообещать больше, чем вообще можешь, но смотри Требования.
* В некоторых ситуациях гораздо сложнее сформировать ответственность перед кем-то. Например, прежде чем что-то пообещать своим клиентам - их надо найти. Чтобы почувствовать ответственность перед миром - нужно понять, а что тебя вообще беспокоит в том, какой он. Чтобы у тебя появились рабочие обязанности и начальник - надо сначала найти работу. То есть - этот способ хуже работает, когда нужно начинать что-то новое. (А я вообще-то очень много нового хочу начинать.)
Второе решение - качать самодисциплину 🫨
Про это - завтра (взял на себя ответсвенность, ха)
Первое решение - даже не пытаться прокачивать самодисциплину, а просто вернуть в свою жизнь ответственность перед другими людьми. Обложился коммитментами и пашешь.
Требования: наличие чувства ответственности. Если мне окей не выполнять обещания, и пофиг на то, что люди перестают мне доверять - решение не подходит.
Плюсы:
* Очень легко реализовывать (начиная с публичных обещаний в канале или обговаривание сроков с партнерами, заканчивая внутренним чувством ответственности перед миром и людьми, чью проблему я решаю, если у тебя есть такая миссия [типа, лечения рака или образования])
* Хорошо работает, потому что задействует очень глубокие механизмы социальной человеческой природы
* Учат с самого детства в школах, универах и на работе. Я всегда был что-то кому-то должен.
Минусы:
* Есть максимальная планка того, что ты делаешь - если пользоваться только этим решением, то никогда не сделаешь больше, чем обещал. Конечно, можно заранее пообещать больше, чем вообще можешь, но смотри Требования.
* В некоторых ситуациях гораздо сложнее сформировать ответственность перед кем-то. Например, прежде чем что-то пообещать своим клиентам - их надо найти. Чтобы почувствовать ответственность перед миром - нужно понять, а что тебя вообще беспокоит в том, какой он. Чтобы у тебя появились рабочие обязанности и начальник - надо сначала найти работу. То есть - этот способ хуже работает, когда нужно начинать что-то новое. (А я вообще-то очень много нового хочу начинать.)
Второе решение - качать самодисциплину 🫨
Про это - завтра (взял на себя ответсвенность, ха)
❤6👍4👏2
Мы тут с @litskylit читаем книжку по общению с детьми, в которой такие прям очевидные простые штуки объясняются. Которым, как оказалось, мы очень редко следуем в жизни. Почему-то 🤷🏼♂️
Всем же знакома ситуация, что книжек начитались, вроде все знаем как делать, а делаем почему-то совсем другое?
Так, мы быстренько решили сделать симулятор (пока что по одному из навыков, который чаще всего нам пока пригождается). Работает он сильно лучше того, что я кидал выше по конфликтам (видимо, потому что фокус только на одном навыке, а не на десяти 🤔).
Велком ту тест, комментарии приветствуются. Читать книжку не обязательно, время прохождения 1-5 минут.
Пароль: 42
Всем же знакома ситуация, что книжек начитались, вроде все знаем как делать, а делаем почему-то совсем другое?
Так, мы быстренько решили сделать симулятор (пока что по одному из навыков, который чаще всего нам пока пригождается). Работает он сильно лучше того, что я кидал выше по конфликтам (видимо, потому что фокус только на одном навыке, а не на десяти 🤔).
Велком ту тест, комментарии приветствуются. Читать книжку не обязательно, время прохождения 1-5 минут.
Пароль: 42
❤1🆒1💘1
Forwarded from Lit_sky //: lit
Так вот
Про тренажёр:
Как часто вы, жалуясь на невзгоды, чувствуете действительно удовлетворение от ответа оппонента?
А как часто такое было в детстве?
Нравились ли вам ответы взрослых, когда вы приходили к ним в слезах-соплях, надеясь получить поддержку?
И нравятся ли вам ваши ответы в зеркальных ситуациях? Чувствуете ли, что оппонент действительно смог принять ваше сопереживание?
В общем, ловите первый наш с @oestick тренажёр: навыки активного слушания
https://communicate-with-child.streamlit.app/
(по книжке Ю.Гиппенрейтер "Общаться с ребенком: как?")
Пароль: 42
Время прохождения: 1-5 минут
Очень жду обратной связи в комментариях 🙏
Про тренажёр:
Как часто вы, жалуясь на невзгоды, чувствуете действительно удовлетворение от ответа оппонента?
А как часто такое было в детстве?
Нравились ли вам ответы взрослых, когда вы приходили к ним в слезах-соплях, надеясь получить поддержку?
И нравятся ли вам ваши ответы в зеркальных ситуациях? Чувствуете ли, что оппонент действительно смог принять ваше сопереживание?
В общем, ловите первый наш с @oestick тренажёр: навыки активного слушания
https://communicate-with-child.streamlit.app/
(по книжке Ю.Гиппенрейтер "Общаться с ребенком: как?")
Пароль: 42
Время прохождения: 1-5 минут
Очень жду обратной связи в комментариях 🙏
❤2🆒1💘1
Я там вчера обещал пост про прокачку самодисциплины. Ну погнали. Дальше просто мой опыт, мб он больше вообще никому не подойдет 🤷🏼♂️
Как и при развитии мышц, начинаем с небольшого веса. Начать вставать в 5 утра, правильно питаться, заниматься спортом, долго работать не отвлекаясь, бросить пить и все это разом - безнадежно. Слишком много сознательных усилий требуется. Даже для одного пункта из списка. Поэтому...*барабанная дробь*...встречайте, костыли!
Костыли - штука, которая упрощает то, что сложно. Пример из спорта - резинка для подтягиваний для тех, кто не может сам. Лучше подтягиваться несколько раз так, чем вообще никак. Обобщая, "лучше делать мало, чем не делать много". Задача костылей - сделать выполнения дела - проще, а невыполнение - сложнее.
Примеры костылей, которые я пробовал на себе:
1. Пари с братом, на ежедневный бег. Не побегал сегодня - скидываешь бабки. Желание забить хер уравновешивается нежеланием потери денег и ощущения поражения => проще выпнуть себя на улицу. Через какое-то время, чувство выбора исчезает и теперь это просто дефолтный вариант. Такую же штуку делал с отходом ко сну в 12.
2. Обещание себе, что пью алкоголь только тогда, когда заранее (за день) себе разрешил. Полный отказ от алкоголя для меня на порядок сложнее, чем отказ только на сегодня - на завтра я себе без проблем могу разрешить, если уж очень хочется вон ту всратую гозешку. Тот же самый прием использовал для сигарет и порно.
3. Фиксация таких штук письменно. Наебать себя тем, что "я на самом деле вчера подумал, что сегодня хотел бы потусить, значит и выпить тоже имел ввиду" - дело техники. Нет. Только письменное подтверждение (в заметках). Аналогично - для обещаний, которые даю себе - уже не выйдет убедить себя, что я так то ничего еще не пообещал, только подумал.
4. Спрятанные подальше соблазны. Бросившие пить алкоголики - не держат дома бутылок с водкой. Каждое появление соблазна - выбор для мозга. Каждый выбор = усилия. Больше усилий = выше вероятность сорваться. Отключенные уведомления на телефон, отсутствие иконки ютуба и инсты на главном экране и пива в холодильнике (как думаете, почему его нет 😅?)
—
Окей, поговорили про костыли, а как научиться ходить без них?
А черт знает, как будто у меня получилось
Думаю, как и с резинками для подтягивания - учиться с ними очень хорошо подтягиваться и постепенно убирать помощь. Например, я отменил 2 костыль для порно. И со сном в 12 - тоже долгое время получалось.
Или наоборот, при тех же костылях, брать более сложные задачи. Так, я увеличивал время и интенсивность пробежки и добавлял больше упражнений после нее.
Честно, я как-то не особо и пытался прокачиваться тут, потому что у меня не так много ситуаций было, где чувствовал нехватку. А теперь фокус тут. Что я планирую с этим делать - расскажу завтра :)
Как и при развитии мышц, начинаем с небольшого веса. Начать вставать в 5 утра, правильно питаться, заниматься спортом, долго работать не отвлекаясь, бросить пить и все это разом - безнадежно. Слишком много сознательных усилий требуется. Даже для одного пункта из списка. Поэтому...*барабанная дробь*...встречайте, костыли!
Костыли - штука, которая упрощает то, что сложно. Пример из спорта - резинка для подтягиваний для тех, кто не может сам. Лучше подтягиваться несколько раз так, чем вообще никак. Обобщая, "лучше делать мало, чем не делать много". Задача костылей - сделать выполнения дела - проще, а невыполнение - сложнее.
Примеры костылей, которые я пробовал на себе:
1. Пари с братом, на ежедневный бег. Не побегал сегодня - скидываешь бабки. Желание забить хер уравновешивается нежеланием потери денег и ощущения поражения => проще выпнуть себя на улицу. Через какое-то время, чувство выбора исчезает и теперь это просто дефолтный вариант. Такую же штуку делал с отходом ко сну в 12.
2. Обещание себе, что пью алкоголь только тогда, когда заранее (за день) себе разрешил. Полный отказ от алкоголя для меня на порядок сложнее, чем отказ только на сегодня - на завтра я себе без проблем могу разрешить, если уж очень хочется вон ту всратую гозешку. Тот же самый прием использовал для сигарет и порно.
3. Фиксация таких штук письменно. Наебать себя тем, что "я на самом деле вчера подумал, что сегодня хотел бы потусить, значит и выпить тоже имел ввиду" - дело техники. Нет. Только письменное подтверждение (в заметках). Аналогично - для обещаний, которые даю себе - уже не выйдет убедить себя, что я так то ничего еще не пообещал, только подумал.
4. Спрятанные подальше соблазны. Бросившие пить алкоголики - не держат дома бутылок с водкой. Каждое появление соблазна - выбор для мозга. Каждый выбор = усилия. Больше усилий = выше вероятность сорваться. Отключенные уведомления на телефон, отсутствие иконки ютуба и инсты на главном экране и пива в холодильнике (как думаете, почему его нет 😅?)
—
Окей, поговорили про костыли, а как научиться ходить без них?
Думаю, как и с резинками для подтягивания - учиться с ними очень хорошо подтягиваться и постепенно убирать помощь. Например, я отменил 2 костыль для порно. И со сном в 12 - тоже долгое время получалось.
Или наоборот, при тех же костылях, брать более сложные задачи. Так, я увеличивал время и интенсивность пробежки и добавлял больше упражнений после нее.
Честно, я как-то не особо и пытался прокачиваться тут, потому что у меня не так много ситуаций было, где чувствовал нехватку. А теперь фокус тут. Что я планирую с этим делать - расскажу завтра :)
❤🔥3❤2
AI и грабли
Я там вчера обещал пост про прокачку самодисциплины. Ну погнали. Дальше просто мой опыт, мб он больше вообще никому не подойдет 🤷🏼♂️ Как и при развитии мышц, начинаем с небольшого веса. Начать вставать в 5 утра, правильно питаться, заниматься спортом, долго…
Ну что, во-первых я просто письменно пообещаю себе, что буду делать определенные штуки ежедневно, а каждый раз, когда проканываюсь, буду скидывать деньги в какой-то банк, который буду скидывать в конце месяца бабушкам 🤷♂️
1. Растяжка перед сном
2. В "рабочие дни" не проводить время в соц сетях до обеда (если это не часть "дел")
3. Писать хоть что-то в дневник в конце дня
Потом буду поднимать нагрузку
Если есть классные идеи, что еще можно было бы добавить - кидайте в комменты или лс, пожалуйста
1. Растяжка перед сном
2. В "рабочие дни" не проводить время в соц сетях до обеда (если это не часть "дел")
3. Писать хоть что-то в дневник в конце дня
Потом буду поднимать нагрузку
Если есть классные идеи, что еще можно было бы добавить - кидайте в комменты или лс, пожалуйста
🔥1🦄1
Кстати, если кто-то хочет бесплатно и без смс использовать GPT-4, есть вот такой хак.
Тыкаем 💬 Direct Chat, выбираем
Тыкаем 💬 Direct Chat, выбираем
gpt-4-1106-preview. Правда таких хитрецов много, и она может быть заблокирована. Достойная альтернатива: claude-3-opus-20240229🔥5🐳1
Прочитал тут про то, как упрощать для себя написание постов: писать для себя из прошлого. Если мне кажется, что что-то было бы полезно знать мне самому в прошлом, стоит про это написать.
Вот, решил, что мне в прошлом было бы полезно знать про этот метод
Вот, решил, что мне в прошлом было бы полезно знать про этот метод
❤11⚡1🐳1
Там немного выше есть пост про то, как с помощью костылей можно прокачивать дисциплину. Сегодня еще одна деталь сформулировалась, которая не только про дисциплину, а вообще про любую прокачку.
Для успешного развития нужна регулярность, тут все понятно, надо сделать это своей привычкой. Вот, допустим, я приучил себя делать по 20 отжиманий утром, ииииии, вот моя же привычка - мой ограничитель. Я привык делать всего 20 отжиманий. А больше - сложно, сила привычки все-таки
Чтобы такого не было, важно заклыдывать производную (изменение) с самого начала формирования привычки. Если мой максимум - 20, лучше начать с 10, но каждое несколько дней делать на 1 больше. Тогда я привыкну не только отжиматься по утрам, но и отжиматься больше/быстрее/сложнее, чем до этого.
⠀
Для успешного развития нужна регулярность, тут все понятно, надо сделать это своей привычкой. Вот, допустим, я приучил себя делать по 20 отжиманий утром, ииииии, вот моя же привычка - мой ограничитель. Я привык делать всего 20 отжиманий. А больше - сложно, сила привычки все-таки
Чтобы такого не было, важно заклыдывать производную (изменение) с самого начала формирования привычки. Если мой максимум - 20, лучше начать с 10, но каждое несколько дней делать на 1 больше. Тогда я привыкну не только отжиматься по утрам, но и отжиматься больше/быстрее/сложнее, чем до этого.
⠀
❤5🤔2