Царь-промпт: Meta-prompting

Совсем недавно(23 Jan 2024) вышла бумага с новым подходом к промптингу для решения сложных задач - Meta-prompting.

Meta-prompting - это мета эксперт во всех областях, который разбивает задачу на подзадачи, создает себе других доменных экспертов, которых посчитает нужными для решения задачи, и оркестрирует коммуникацию между ними.

Такой подход бьет как простые техники промптинга типа Chain-of-Thoughts, Expert prompting, так и более продвинутую Multi-persona prompting, в особенности если у мета-эксперта также есть доступ к интерпретатору Python кода.

В Multi-persona prompting, агенты общаются напрямую друг с другом, в Meta-prompting все диалоги проходят через главного оркестратора. Все как в реальной жизни - топим за Agile и самоорганизующиеся команды, но хорошо, когда есть проджект 🙂

Авторы статьи утверждают, что такой подход освобождает пользователей от необходимости предоставлять подробные примеры или конкретные инструкции для каждой отдельной задачи, делая работу с ИИ гораздо более удобной и эффективной.

Если интересно почитать про разные техники промптинга, то рекомендую хороший ресурс.

Ну и конечно же рекомендую перейти на оригинальную статью, там есть пример такого мета-промпта.

@ctobuddy

😎 Про тип для промптинга

Проводил сегодня воркшоп по решению конкретного узкоспециализированного кейса с использованием LLM.

Пришел интересный инсайт:

Сложные промпты желательно писать вдвоем. Один - специалист в области, второй - кто вообще ничего не знает по теме и задаче.

Как мы уже писали, ChatGPT - это сообразительный джун после универа, который все знает, все умеет, но ничего не знает о вашей задача. Важно описать эту задачу как можно более подробно. У профильного специалиста могут возникнуть с этим сложности из за professional bias.

Тут на помощь приходит второй человек, который выступает в роли джуна и может сказать: "вот тут я не понял, давай перефразируем", другими словами, заменяет обратную связь от LLM.

Если у вас есть кейс, который у вас не получается решить самому, записывайтесь на разбор с @romankaganov

@devstryai

Посмотрел проходной фильмец The Creator про войну плохих американцев с хорошими роботами и азиатами, которые живут в гармонии друг с другом и молятся одним буддистким богам.

Большой брат готовит нас к дивному новому миру, где роботы очеловечены и имеют чувства, может быть, чтоб у людей было меньше тревоги, когда их будут сокращать не в их пользу - "Это робот Петя, он такой же человек как ты, только умнее, и не выгорает, работая 24/7, как мы можем ему отказать" 🙂

Не удивлюсь, если за этим стоит Microsoft и поедатель младенцев Билл Гейтс, Microsoft сейчас в каждой AI дырке, куда не посмотришь.

Как вам такая теория заговора? 😈

Начинаем через 15 мин

Понятно, почему она уклоняется от этого вопроса. Не существует никакой «publicly available data». Когда вы публикуете свои данные в instagram, вы делаете это для определенных целей, указанных в privacy policy, и там скорее всего нет пункта о том, что любая компания может скрапить эти данные и тренировать на них свои модели.

Интересно, использовали ли видео с pornhub 😁

😇 Этика в бизнесе

Я вчера делал обзор хайпа вокруг Devin, AI сервиса, который "выкинет на помойку всех программистов". Почитайте, я там разобрал каждый их юзкейс.

Если коротко, то ребята молодцы, научились классно клонить и запускать Github репозитори, разрешая проблемы с помощью ИИ. Но эти 1-2 фичи, которые они делают хорошо, они превратили в хайп планетарного масштаба, где звучали такие фразы типа "Devin зарабатывает деньги на Upwork", "Devin тренирует другие нейросети", хотя по факту там просто клонилась и запускалась репа с гитхаба.

Этично ли это? Денег они ни с кого не взяли, вреда никому не принесли, разве что пробили очередные уровни тревожности у программистов, получили кучу заявок на бету, инвестора довольны, команда счастлива. Ну красавчики же!

А вот еще один пример. Помните чела, который написал AI бота для Тиндера? Он получил миллионные охваты, его после этого завалили заказами на разработку, приглашали даже на НТВ. Так вот, похоже история оказалась фейком. Вот тут можно почитать разоблачение подкастера, который позвал автора на подкаст и вывел на чистую воду.

Красавчик, или уже нет?

И таких вопросов в бизнесе и жизни куда не плюнь. Этично ли платить зарплату в конверте, когда все твои конкуренты так делают, и без этого твой бизнес будет убыточным? Этично ли приукрашивать свой продукт при продаже? Цифры в питчдеке? Пририсовывать опыт в резюме или ставить себе ex-Google? Работать в гемблинге и наживаться на больных людях? Продавать волшебные пирамидки от рака? Курсы по успешному успеху? Запускать криптомонеты, обменники без КУС. Список бесконечен.

Я вот в детстве очень хорошо усвоил принцип "все тайное всегда становиться явным" и с тех пор у меня тотальная честность, разучился врать. Привет мама, люблю тебя ❤️

Может это и держит меня, может надо уметь и припизднуть, проманипулировать, или "принять риски" где-то, или последовать принципу fake it until you make it, как ребята из Devin. Быть над правилами и установленными рамками.

Где эта грань между "хорошим маркетингом" и "наебаловом"? Может кто-то посоветует что-то почитать, буду благодарен.

А под этим постом опрос. Приходилось ли в бизнесе или в карьере прибегать к неэтичным практикам(это анонимно)?

Да - 😈 Нет - 😇

🗳️Выборы

Эти выборы были самыми странными из всех. За несколько дней до начала я не знал ни одной фамилии кандидата в президенты, кроме его императорского величества.

Я видел ровно один предвыборный ролик ЛДПР в инстаграм, и я такой - «О, Слуцкий, такую фамилию я запомню, был такой смешной чел в шоу Плюшки, с футболом еще как то связан»

Плюс, ЛДПР меня подкупили тем, что они запустили AI версию Жириновского - очень прогрессивно! Я сегодня пересматривал это видео, где он, обнимая двух парней, говорит «Жорж, сраный ковбой» и «ночью наши ученые немного изменять ось земли». Смешной же был мужик.

Короче, проголосовал за Слуцкого, может, если он выиграет, то сделает что-то наконец с российским футболом при помощи искусственного интеллекта конечно же.

Такой вот уровень дискурса в российской политике. И смешно, и грустно. Простите за каламбур, если кого обидел.

PS. Два часа на морозе стоял ради этого 🥶

📝 Use case: Write Meeting Notes Like PMP

Контекст - самый ценный ресурс для решения задач с помощью LLM. Если у вас не получается решить какую то задачу - это значит, что вы не дали модели нужный контекст. Контекст - это не только описание функции, которую вы хотите чтоб AI за вас написал, это и контекст задачи в которой вы работаете, он в свою очередь является частью контекста какого-то эпика и смежных задач, которые являются частью бизнес контекста в организации, которая работает в контексте юридических регуляций и бизнес среды.

Фраза "данные - это новая нефть" звучит еще более актуальнее, когда AI стал доступен даже пенсионерам. Вам не нужны миллионные датасеты, чтоб натренировать собственные модели, вам нужен zero-shot промптинг, а это значит, что сойдут любые данные, в любой форме.

Именно поэтому у нас в команде теперь правило - записывать любые звонки. Это один из основных источников контекста организации, и единственный для молодых стартапов как мы.

Звонки хорошо бы интерпретировать. Выделять из них задачи, идентифицировать риски, стейкхолдеров, констрейнты и тд. Обычно этим занимается проджект менеджер, небывалая роскошь для стартапов.

Мы попробовали утилиту TL;DV, она хорошо распознает речь, в том числе русский. Но дает очень абстрактные meeting notes, которые практически бесполезны для таких задротов(PMP) проджект менеджмента как мы. Поэтому мы решили попробовать обработать звонки через gpt-4-turbo и получили хорошие результаты, которые сейчас будем автоматизировать.

Об этом наш новый юзкейс, там же можно найти и финальный промпт.

#вакансия

Помогите найти человека, вакансия пока нигде не публиковалась, мне хороший друг HR скинул

Backend Engineer

💸 cash + option (6000$+)
⌚️ full-time
🌏 remote/hybrid

🙋‍♂️ Who they are:
An aspiring team building novel crypto investment instruments. The founders are tech universities alumni with broad cross-product experience in TradFi (structured products & financial engineering) and Tech (Revolut & Yandex) under their belt.

They are backed by good names and have an ambition to become a key player in the industry ✌️

🥷Who we are looking for:
We are currently seeking talented and experienced backend engineer with domain expertise in fintech to join our strong tech team. This will be one of the core backend roles in the company, so the responsibility is high. But it's also a lot of fun!

We'd love to hear from you if you have the following superpowers:
* 5+ years of backend experience, and at least some years within financial domain (for example payments, trading, accounting etc.);
* Deep understanding of modern Java and JVM technologies or other OOP languages (Go, C++ etc) and readiness to learn and dive deeper into JVM domain;
* Proficiency working with different cloud infrastructure;
* Understanding of code quality principles & testing techniques
* Practical experience with Domain-Driven Design principles, practices, and patterns;
* Practical experience with scalable distributed systems is a plus;
* Knowledge of different architectural patterns;
* Startup experience / Ability to work well as a part of the team in a fast-paced environment;
* Blockchain (DeFi) and related tech stack experience is highly preferable, but not necessary.

You are definitely a good fit if you have experience in the following domains:
Finance: Do you know how an in-house ledger or order books could be beneficial and how to build them? Did you have dedicated experience in trading and hedging systems? That’s what would help a lot along our journey!
Integrations: Making and maintaining high quality integrations with external systems is always hard. They need someone who can bring good experience and who can establish right practices and processes in that domain. If you also had EVM blockchains related experience - it is a big plus.

Our Tech stack:
Java
Postgres
AWS infra (ECS, ECR, RDS, S3 buckets etc.) managed by Terraform

🍿 Why they:
They are explorers - do things that have not been done before, which makes it much more fun;
They are professionals, ambitious but realistic about goals and opportunities;
They are people! The key value is to maintain healthy and fun productivity vibes in what they do.

P.S. - won't be diving into perks, company swag, or fancy brunches just yet. But don't worry, they'll work the way there together!

Speak with @kidwhizchains (Telegram) if you like the above and consider joining the noble clan!

#вакансия

Гайз, продолжаю делиться с вами блатом. Не каждый день прилетают такие закрытые вакансии. Я знаю, как сейчас может быть трудно с поиском работы, когда на каждую публичную вакансию сотни аппликантов.

На вчерашнюю вакансию нашелся человек, который прям попал в точку. На столько, что сегодня он, минуя все этапы интервью, общается с СТО. Пожелаем ему удачи. А сами посмотрим на другую позицию

Senior Android Developer (Android Open Source Project)

💸 400k - 450k руб (гросс) + 20% бонус
⌚️ полный день
🌏 Москва/гибрид

Кто:
В подразделение ведущего оператора связи на проект создания цифровой экосистемы для автомобилей: предоставление скоростного интернета в автомобилях, разработка автомобильных мультимедийных устройств, систем комфорта и телематики, а также программное обеспечение к ним.

Что:
Продуктов в сервисе несколько, но одно из ключевых – это мобильное приложение. Функционал: 1 - всё, что связано с управлениями устройствами. 2 - часть сервисов, которая связана с оплатами. 3 - всё, что связано с управлением видеорегистратора. 4 - мультимедийная система. 5 - карты и навигация.

Задачи:
* Разрабатывать и проектировать Android-приложения и сервисы одного из самых инновационных проектов компании;
* Участвовать в принятии технических решений и планировании процесса разработки;
* Оптимизировать приложения, исправлять ошибки;
* Проводить Code Review.

Ожидания:
* Опыт работы с Android Automotive OS 10+;
* Опыт разработки и внедрения кастомизированной ОС на базе AOSP;
* Опыт или желание использовать Сompose;
* Уверенные знания Kotlin и основных компонентов Android SDK, опыт использования Coroutines\Flow;
* Знание ООП, шаблонов проектирования и архитектурных паттернов: Clean Architecture, MVVM;
* Знания принципов SOLID и умение им следовать;
* Понимание архитектуры AOSP;
* Умение работать с Git.

Технологии:
Android;
Kotlin;
непубличные вендорские библиотеки;
автомотив библиотеки: GoogleCar, своя ОП и др.

Другие детали и откликнуться можно, написав Максу (@kidwhizchains).

Гайз, вышел наш первый пост для англоязычной аудитории на Reddit. Буду рад, если подержите апвоутом и комментарием.

Подробно описали кейс, как мы обучили психолога пользоваться chatGTP, чтобы писать статьи на VC.

Кратко о кейсе: наш знакомый, психолог, консультирует компании и их сотрудников. Ему нужно писать статьи о своей работе и он ненавидит это делать.

За два часа консультации мы составили промпт почти на 20 000 символов, которые генерирует пост буквально за несколько минут. С сохранением Tone of voice автора, качественным, кратким и понятным текстом.

Подробнее про то, как писать такие промпты в статье:

https://www.reddit.com/r/EntrepreneurRideAlong/comments/1boyyr9/how_i_helped_my_fellow_entrepreneur_to_fire_his/

Это наша первая статья на Reddit и мы будем благодарны вам за апвоут 🙏

📝 Новости

Мы в Omniwire привлекли еще $2m инвестиций, теперь официально. Полным ходом движемся к запуску нашего собственного процессинга в конце июля, наконец-то будем работать напрямую с банком и кард нетворгом и не полагаться на всякого рода посредников. В конце апреля-мае буду в США, очень хочу увидиться с некоторыми ребятами ❤️

В OneCraft.AI мы вышли за рамки девелопмента и теперь предлагаем внедрение AI в любые бизнес процессы. Все начало с того, что я начал пытаться продавать внедрение в команды разработки, но люди стабильно хотели AI в сейлс и маркетинг. Я еще абсолютно случайно и очень вовремя познакомился с Дмитрием Коробовцевым, который внедряет ИИ в продажи, мы решили партнериться. Против судьбы решили не идти, будем продавать все.

Поэтому всю прошлую неделю я пилил процесс создания кастомных пропосалов с использованием AI. Чему был несказанно рад, получилось наконец поинжинерить. Штука берет из ноушено данные клиента, транскрипт разговора, описание наших продуктов, юзкейсов и комбинирует из этого секции пропосала, сама от имени клиента задает вопросы и сама на них отвечает. Мне остается только вычитать и подправить верстку.

На этой неделе мы взорвали пердаки на VC и начали прорабатывать кейс с написанием сатей в инфостиле с помощью AI уже с профессиональным редактором и маркетологом. Хочется на этом кейсе не только доказать, что ИИ может заменить джуна в своей работе, но и выполнять работу на уровне эксперта, а ещe проиллюстрировать, как мы берем этого эксперта, общаемся с ним, выясняем в деталях как он работает, вместе прорабатываем промпты и отцифровываем часть его функций.

@ctobuddy

📣 Новый проект - Редакция aka Media Empire

Все же знают пословицу "На словах ты Лев Толстой, а на деле - хуй простой"? Но мне кажется, гораздо хуже быть Львом Толстым, о котором никто не знает.

У меня заняло время осознать, что любой бизнес начинается с маркетинга, что бизнеса пока может и не быть вовсе, зато будет маркетинг. Маркетингом можно не только продавать товары, но и тестировать идеи, находить нужных людей, да даже знакомиться с девчонками 😉

К делу

Мы запустили телеграм-канал, linkedin, reddit, и VC, где собираем лайфхаки и кейсы, как грамотно перекладывать работу на нейросети.

Все 100% рабочее и из первых рук. У нас работает небольшая команда журналистов, которые охотятся за профессионалами и их юзкейсами применения AI в работе и бизнесе.

Вот, например, пост о том, как переводить контент на английский без переводчика, который мы используем в команде.

https://t.me/youhireai/10

Подписывайтесь 🙂

@youhireai

P.S. В комментарии к посту будут ссылки на другие соцсети.

P.P.S. Если хотите поделиться знанием или поучаствовать в проекте - велкам, пишите мне @romankaganov