"Блин, а физики умные" (с) Коля

Каждый этап тут имеет свое целевое полушарие мозга

Левое - сфокусированное (детали, процесс)
Правое - расфокусированное (взаимосвязи, интеграция)

0 правое
1 левое
2 правое
3 правое
4 левое

Похоже, что самое важное с этими этапами , это научится понимать, когда и как переходить из одного состояния в другое

Индикатор перехода от насыщения к инкубации - мысли бегают по кругу, растерянность.

Сегодня такое несколько раз было, и я уходил посидеть на балконе, послушать музыку. Сработало. Но лучше бы пошел прогуляться

Как думаете, какая часть человеческого тела самая «честная» с точки зрения чтения невербальных сигналов?

Похоже, что стопы и ноги. Тут есть две причины:
1. Эволюционно ноги должны были очень быстро реагировать на опасность.
2. Всю жизнь мы учимся контролировать верхнюю, «социальную» часть тела, чтобы не выдавать истинных чувств. Особенно лицо.
«Ну не делай такую мину», «постарайся хотя бы сделать вид, что ты рад видеть дядю», «да у тебя все на лице написано».
Ноги никто не пытается контролировать.

Вывод: если мы хотим понять истинные чувства человека, стоит посмотреть на ноги

Последний месяц много использую GPT по работе и чет преисполнился.

Сейчас закину саммари одного разгона, записанного войсом Саше примерно с таким вайбом

Привет, я серчил надстройки на GPT и нашел интересную концепцию, в которой несколько ИИ агентов на основе GPT общаются друг с другом. Кажется, что она показывает значительные улучшения при применении, и это заставило меня задуматься о некоторых философских штуках.

Примеры мультиагентности в реальной жизни:
- Человеческий мозг, где различные структуры постоянно борются друг с другом за принятие решений.
- Групповые дискуссии и социальные взаимодействия с различными перспективами
- Политика и другие системы со сдержками и противовесами.

Я думаю, следующий этап развития ИИ моделей предполагает создание независимых агентов, которые работают вместе через четко определенный процесс коммуникации. В результате система перестает быть "черным ящиком", и в их диалоге мы сможем увидеть путь к итоговому ответу.

Преимущества мультиагентного подхода:
- Повышение контекста и прозрачности в системах ИИ
- Согласование с реальными примерами мультиагентного подхода
- Лучшее понимание рассуждений, стоящих за окончательным ответом

Например, если два агента имеют по 4 000 токенов общего контекста и 4 000 токенов индивидуального контекста, мы можем иметь не 8 000, а 12 000 токенов контекста. Это число будет увеличиваться с каждым дополнительным агентом.

Возможные проблемы и ограничения:
- Сложность коммуникации между агентами
- Возможное увеличение требуемых вычислительных ресурсов

Чтобы решить эти проблемы потенциальные решения или стратегии могут включать оптимизацию протоколов связи между агентами и разработку более эффективных методов распределения ресурсов.

В итоге, мультиагентный подход в надстройках GPT потенциально может привести к созданию более эффективных и прозрачных систем.

Прелесть этого текста, что он написан не мной. Я использовал идеи, описанные в нем, чтобы несколько разных агентов, роли которых играла GPT, сами его написали и отредачили. На входе практически нечитабельный текст speech-to-text'нутый из телеграм войса. А дальше итерации критик-фиксер-критик-фиксер. Еще попробовал ввести критика на критика, но в этой генерации он ничего дельного не сказал, а вот в прошлой чет даже доебался. Обе итерации кмк существенно улучшили текст, а самое главное, без моего явного участия.

Полную цепочку разговора можно глянуть тут:
https://nikolay-sheyko.notion.site/GPT-multi-agents-8f43d831c2c94716ba0d25e6d7d2397c?pvs=4

Хахаха, обожаю, когда мои псевдо-филисофские разгоны мэтчатся с реальностью

- Что самое красивое?
- Порядок
- Что самое древнее?
- Бог
- Что самое большое?
- Пространство
- Что самое сильное?
- Необходимость
(с) Разговор с духом. Притча о семи мудрецах

Интересный критерий для принятия решения делать ли что-то -
прикинуть, хотелось бы жить в мире, в котором все так поступают в похожих ситуациях

Чтобы хоть какой-то был

У меня тут опять куча идей, которые я хочу провалидировать. Буду писать сюда про процесс.

Например, мне кажется, я знаю, как можно улучшить менеджерское образование. Для этого мне нужно понять:

1. А где вообще им нужна прокачка = где обычно косяки, которые дорого стоят
2. Что они сейчас делают, чтобы их не совершать (взаимопроверка, менторинг, тренинги, блаблабла)
3. Какие есть проблемы у существующих решений, что не устраивает.
4. Почему все равно используют => что важно в хорошем решении.

Искать ответы я собираюсь через проблемные интервью - по сути разговор с человеком, где ты спрашиваешь про его прошлый опыт в интересной тебе сфере и пытаешься ответам собрать картинку. Важные люди в этих ваших телеграммах говорят, что проблемное интервью - переоцененный инструмент, и им часто прикрываются джуниор/миддл продакты, потому что работать не хотят.

Я лично не знаю лучшего способа валидации и углубления своей картины мира. Если у кого есть идеи получше - напишите, пожалуйста в комменты или в лс

Пока болею и разлагаюсь, чтобы совсем скучно не было, посмотрел лекцию про то, как дообучали GPT, чтобы людям нравились ответы (RLHF).

Там если коротко, сначала делают человеческую разметку на сравнение двух текстов. Типа есть текст 1 и текст 2 и человек их сравнивает. Какой из них более Х. В данном случае Х - это определенный список штук, которые не хочется видить в тексе, типа сексизма, расизма и т.д.

А потом учат специальную модель сравнивать два текста как человек.

Ну и в результате применяют ее для того, чтобы в автоматическом режиме награждать или штрафовать основную GPT модель и соответственно обновлять ее веса, в направлении того, чтобы нашей модели-ревьюеру больше нравилось.

А так как она была обучена на сравнении человеками, то и человекам должно больше нравиться тоже 📈

—-
P.s. Такой подход с масштабированием человеческой разметки за счет обучения специальной модели можно использовать для придания разных X. Например, чтобы текст был более "вовлекающим".
P.p.s. Там еще было, что с помощью этой модели-ревьюера генерируют синтетический датасет побольше, на нем обучают новую модель ревьюера и используют уже его и это почему-то работает 🤔. Еще делают регуляризацию на отличие дообученной RLHF модели от исходной

Набор простых принципов по общению с GPT

источник
Русская версия в комментах

—

Возможно, кто-то из вас знает, что я уже пол года гоняю на клуб переговоров к Юре.

Там мы разыгрываем всякие сложные переговорческие кейсы типа того, что на скриншоте. Когда играю, я назначаю роль и себе, и оппоненту - мне нужен живой человек, чтобы было об кого играть.

Он может выбирать себе любой характер - быть конченным мудаком или аморфным похуистом, или гиперактивным генератором предложений, который постоянно перебивает. Он мне нужен, чтобы я мог показать свои навыки (и их отсутствие).

Сегодня попробовал создать себе такой тренажер без живого человека. Вот что получилось.

Важно: в клубе, я играл за директора, т.к. там больше навыков можно показать, а тут я дал его роль GPT, чтобы посмотреть, где она сыграет лучше меня, а где хуже. А сам специально делал ошибки, чтобы посмотреть, как она на них отреагирует. Так что мы тут немного поменялись ролями.

Подробный разбор напишу завтра отдельно, а то я чувствую, я бы вообще не запостил.