Год я исследую вопрос - как научить людей пользоваться GPT моделями (тут остались те, кто считает это бесполезным навыком?). Главный вывод такой:
Нужно не давать сложные промпты, замороченные примеры дообучения опенсорс моделей или информацию о том, как работает векторный поиск, а нужно закрыть для человека базовые проблемы: доступы, простые бытовые примеры, азы того, как это устроено, и познакомить со всеми функциями внутри (со всеми не знаком, мне кажется, никто). Казалось бы - если это дать, то точно все получится! Но ни-хре-на. Часто, чтобы учиться и меняться нам еще нужны другие люди :)

Из этого концепта появился gconf.io - интенсив, где ты изучаешь все про GPT вместе с хорошими людьми (еще есть много инфы тут @gptlovers). Мы его придумали с Олей Маркес и Димой Мацкевичем, где они помогают сдерживать мою гиковость, за что я им очень благодарен.
Мы провели этот формат в прошлом году, и отзывы были супер. В этом году мы часть вещей поменяли - контент записан сразу, и на звонках только обсуждаете и решаете задачи. Появились мини-клубы:

·помогающие профессии
·контент
·автоматизация личных дел
·про детей, семья
·как найти партнера

Которые проводим даже не мы, а приглашенные фасилитаторы и участники с прошлой конференции.
В общем, сообщество и формат меняются, и туда еще можно запрыгнуть. Ближайший интенсив начинается 15 апреля, будем тебя ждать на нем.

@aihappens

ну и еще (не пропустите пост выше) - дядюшка Сэм был на втором месте лучших моделей меньше недели. Новая модель OpenAI снова в топ "человеческого" лидерборда. Смотреть тут. Я думаю у них в загашнике есть модели и покруче текущей. И кстати - теперь дата обновления знаний конец 2023 (был апрель).

@aihappens

Тестируем разные форматы с @Matskevich. Подкасты сложно делать, долго монтировать. Новый формат! Записали два видео про разборы кейсов с GPТ, держите первое. В нем мы обсуждаем и смотрим кейсы из инсты + рассказываю как работает suno и мы генерим бомбический трек (он будет ниже, послушайте!).

@aihappens

В чём проблема с добавлением новых данных в GPT-модели?
Возможно, вы заметили, что с каждым обновлением продвигается дата "knowledge cutoff" — момента, до которого модели знают, что происходило в мире.

Какова же проблема? На самом деле, существует два этапа при обучении моделей:

1) Создатели собирают всевозможные данные из интернета, тратя сотни миллионов на обучение модели.
2) Создатели собирают основные новости по разным направлениям и делают дообучение модели.

ChatGPT Knowledge Cutoff — 12/23, Opus — 8/23.

Какие последние версии библиотеки python-telegram-bot знают сети:
GPT-4 — 13.12 (выпущено 2022-05-26), Opus — 20.3 (выпущено 2023-05-07).

Версии библиотек — это самый простой пример, хотя OpenAI и GitHub, находясь в одной компании, могли бы постараться сделать больше! Если вы погрузитесь глубже в любые вещи за пределами новостей, ситуация будет такой же. Статьи, мемы в интернете и т.д.

Проблема здесь в том, что собирать массу новой информации и делать incremental learning на текущий момент почти нереально, насколько я знаю - технически эта задача не решена, а это на самом деле достаточно сильно ограничивает области применения моделей, особенно в написании кода и в индустриях, где все меняется очень быстро (условный маркетинг в интернете, где хуки, работающие год назад, становятся совершенно не актуальны). Такие дела.

@aihappens

Как я историю чата обрабатывал с помощью GPT моделей с шокирующим результатом! (детям не смотреть).

Дано:
Чат, где сейлз команда задает вопросы тех команды.
Total Messages: 3848
Total Characters: 417353
Русский язык.
Хотим получить FAQ - самые частые вопросы и ответы, чтобы добавить их в документацию.

Число токенов в начальном запросе около 450к, в общедоступные модели нормально не впихуивается. Что делаем?

шаг 1 - вычищаем json выгрузку из тг от всего кроме Отправитель:Сообщение и конвертим данные в txt формат с помощью GPT4.
шаг 2 - открываем google translate и пихаем туда файл для автоперевода

на этом этапе вместо 450к токенов получаем около 100к токенов, значит уже влезают в большинство моделей.

шаг 3 - берем в Poe Claude 200k и пихаем туда файл с задачей собрать FAQ на основе переписки.
шаг 4 - радуемся!

ни-хе-ра....Opus обрабатывает данный супер криво. Очевидно, что проблема неравномерного внимания к началу\концу относительно середины встала во весь рост. Ну ладно, у нас же Poe в руках, давай пихнем этот же запрос в Gpt4-128k. ВУАЛЯ!


СНОВА ВСЕ ПЛОХО!
шаг 5 - удаляем все GPT модели, нанимаем аналитика, пусть руками разбирает все.

ладно, случайно по рекомендации Poe жмем кнопку повторить запрос в Gemini-1.5-Pro-128k, модель от Google в которую веры 0. И бинго! Она делает классную структуру, читает явно все, и сама даже делает красивую разметку ответа на FAQ. А мы в них не верили.

@aihappens

💜 шанс повидаться и поговорить про GPT

запланировали сделать лекцию вместе с бизнес-медиа Справочной. Пройдёт 14 мая ака завтра в 17:00мск (16:00 CET), зарегистрироваться можно в боте. На лекции посмотрим на практические кейсы из моей жизни. Приходите, буду рад вас видеть.

Сегодня была весенняя презентация OpenAI.

Я поначалу думал стримить сюда все, что там происходит, но решил, что это все же слишком для гиков и лучше соберу для вас главное. А рассказать есть о чем:

Первое и самое главное для многих - новая модель GPT4o будет доступна без регистрации и бесплатно.

Второе - новая модель по сути очень близка к привычному нам человеку. Видит, слышит, реагирует быстро, отвечает голосом и даже с эмоциями! (Пока не очень понятно, как на языках, отличных от английского, посмотрим).

Третье - приложение для вашего ПК, куда вы можете стримить части своего экрана и говорить с ассистентом о своих вопросах прямо в реальном времени, как с человеком.

Последнее - все это доступно через API, дешевле, быстрее, ну и вот это вот. Вы поняли.

Когда все это ждать у себя? Да хер его знает. Обещают через 2 недели, но я думаю, что снова будет постепенно и не для всех.


фул видео
фул статья

@aihappens

Вчера прошла презентация Apple, на которой рассказывали о том, как большинство людей будут использовать AI (любая другая аудитория любых GPT моделей меньше количества активных iPhone). На 2024 год в мире насчитывается около 1,334 миллиарда активных пользователей iPhone.

Обзор всех "фич" можно почитать, например, тут: [vc.ru]. По моему субъективному мнению, ключевых две:
1. Siri теперь стучится в ChatGPT для решения вопросов. Отправлять туда будет не только текст, но и картинки, и, предполагаю, видео. Вроде будет уточнять, ок ли тебе это.
2. Запили свою модель, которая будет работать на девайсе с данными без интернета.

Теперь мысли:

1. Вообще не ясно, как неконкуренция относительно Apple - OpenAI будет работать. Если даже 100 миллионов человек начнет пользоваться моделью GPT-4о и Apple видит вход-выход, то обучить свою станет очень просто.
2. Мне с этими моделями, видимо, павербанк лучше сразу не вынимать? Новый iPhone 15 Pro умирает у меня ровно за сутки. Если даже на М процессорах сетки, например, в камерах убивают аккумулятор, то что будет с кучей фоновой работы, я боюсь представить.
3. Что будет с Siri, которая распознает голос? Их старые модели? Если да, то с английским будет все ок, а с другими может быть не очень.

Отдельно хочу сказать про "вой", что Apple украдет ваши данные. Мне кажется это а) глупо, б) популистски. Почему я так считаю:
1. А кто вообще лучше Apple защищает ваши данные из крупных игроков? Вы давно пробовали покупать таргет рекламу? Там Apple отдает наружу ровно ни-ху-я, как говорит Тиньков. Все действительно у вас на устройстве и зашифровано.
2. Также там был интересный блок про Private Cloud Compute. О чем это вообще? Это говорит, что с вашего устройства в облако (не в OpenAI) Apple будет уходить кусок данных, обрабатываться и сразу после удаляться. Давно ждал, когда такие вещи начнут использовать крупные игроки.

@aihappens

Я смотрел интервью Лекса у команды Neuralink. Оно короткое — всем советую, я успел, правда, пока только 4,5 часа посмотреть. Пока слушал их рассказ, вспомнил, что давно хотел написать пост на тему “ думания из первых принципов”.

Думать из "первых принципов" (first principles) означает:

1) Разбивать сложные проблемы на базовые, фундаментальные элементы.
2) Отбрасывать предположения и общепринятые идеи.
3) Анализировать ситуацию с нуля, опираясь только на неоспоримые факты.
4) Создавать новые решения на основе этого фундаментального понимания.
Давайте на примере — вы проект-менеджер в компании. У вас есть процесс — ежедневные звонки с командой. Догматичный подход: всем командам надо созваниваться каждый день, иначе всё сломается, и телега никуда не поедет.

В варианте думать и понимать, зачем вообще это было нужно. Какую проблему для нас решает синк? Это может быть про эмоциональный контакт с командой? Может, мы не умеем писать документацию, и поэтому говорить нам проще? Или, может быть, наш проект-менеджер хочет маниакально контролировать всё, и когда есть звонки, он спит лучше? Разобравшись с этим, можно понять, как мы можем поменять синк или создать что-то вообще заместо него. Но чаще я вижу, как люди строят процессы из состояния — ну, так правильно, я видел, так делали (или в книжке так писали).

Раз наш канал про ИИ, то вот как можно использовать GPT, чтобы думать из первых принципов. Рассуждая на тему того, куда поставить в комнате батарею — на полу или на потолке, вы можете начать думать, не ради ли дизайна её ставят снизу. Тут вас и спасет GPT — задайте вопрос: “А почему это было сделано так?”. Маск где-то точно говорит, что “только физика — это ограничение (точнее даже закон)”. Батарея снизу — потому что холод в комнате снизу, а тепло сверху.

И мне кажется, что на этом подходе стартапы выигрывают у корпораций, переизобретая из первых принципов привычные вещи вокруг. Будь то телефон, заказ такси или нейроимпланты в мозг. Надеюсь когда-то переизобретут и государство.

А что вам кажется, что пора перепридумать и как?
@aihappens

Недавно вышла новая большая модель от Meta — LLama 3.1 405B. Эти цифры означают, что у неё 405 миллиардов параметров. Запускать такие модели на собственном компьютере — дело неблагодарное, но протестировать самую мощную модель, доступную в опенсорсе, очень хочется. Что делать? Тестировать её в POE!

Мои стандартные тесты:
1. Написание сейлз писем (русский \ английский).
2. Коррекция моих кривых текстов (русский \ английский).
3. Написание Telegram-бота на Python.
4. Коучинг \ редактура эмоционального окраса сообщений.
5. Поисковый запрос (на этот раз я просил порекомендовать, где искупаться между Дюссельдорфом и Амстердамом).

Во всех задачах я измерял мой непредвзятый уровень удовлетворенности.

Участники эксперимента: GPT-4o, GPT-4mini, LLama 3.1 405B, Gemini 1.5 Pro, Claude 3.5 Sonnet.

Лист победителей:
1. GPT-4o: 89%
2. GPT-4mini: 84%
3. LLama 3.1 405B: 81%
4. Gemini 1.5 Pro: 93%!!!!!
5. Claude 3.5 Sonnet:85%

После этого я решил проверить,а что там на Арене ЛЛМок - и там тоже лидирует гугл(хотя я думаю это разные модели). Кажется они забыли, что такое хороший пиар, иначе свою не информированность мне объяснить сложно. Но да - модель остается ужасно цензурированной и в сравнении с лламой доступной в версии без цензуры это выглядит грустно.

@aihappens

Пересмотр позиции HRD: Внутренний фокус и философия

В современном корпоративном мире позиция HRD (Human Resources Director) остается одной из самых недооцененных и зачастую неправильно понимаемых ролей. Часто HRD воспринимается как человек, занимающийся исключительно рекрутингом — поиском, наймом сотрудников, проведением интервью, организацией перформанс-ревью и периодическим проведением тимбилдингов. Однако это только верхушка айсберга.

Глубинная роль HRD

Мое представление о ключевых обязанностях включают:

1. Развитие менеджерской команды: Это включает в себя обучение, коучинг и менторство, чтобы каждый менеджер мог раскрыть свой потенциал и внести вклад в общую стратегию компании.

2. Запуск новых процессов: Особенно важно управление кросс-командными проектами, где необходимо объединять усилия разных департаментов для достижения общих целей.

3. Создание безопасной среды: Организация индивидуальных и групповых сессий, где сотрудники могут откровенно делиться своими переживаниями и проблемами, что способствует улучшению внутренней культуры компании.

4. Обучение разрешению конфликтов: Это включает не только обучение сотрудников, как справляться с конфликтами, но и, при необходимости, их медиацию.

5. Формирование HR-бренда: Разработка и реализация стратегий, которые помогут компании быть привлекательной для потенциальных сотрудников и удерживать текущих.

6. Работа с удаленными командами: Понимание и решение проблем, связанных с удаленной работой, и создание способов поддержания «человечности» в онлайн-среде.

Философия и подходы

Фокус HRD, по моему мнению, должен быть направлен не только наружу, но и внутрь компании. Это означает активное участие в формировании корпоративной культуры, которая способствует развитию каждого сотрудника и команды в целом. Важность позиции HRD можно сравнить с советником генерального директора (CEO), ведь работа HRD напрямую влияет на успех компании через управление ее самым важным ресурсом — людьми.

Хоровиц писал - в компании важны люди, продукт, прибыль. Именно в такой последовательности. Я с этим полностью согласен.

Если ты вдруг тот HRD, что я описал выше - приходи работать ко мне, а то мой уходит в декрет.

А с чем из списка у вас в компании занят HRD?

@aihappens

Как я обращаюсь с деньгами

В моей семье никогда не умели обращаться с деньгами. Они как-то появлялись, как-то тратились. Основной принцип был прост: работать так, чтобы хватало на то, что нужно. Но что именно нужно и кому, это никогда не уточнялось. С этой установкой я и вошел в сознательную жизнь.

Со временем я понял, что с этим надо что-то делать, и разработал для себя стратегию, которую опишу ниже.

Первая часть: Логика откладывания

Я постоянно оцениваю свой «уровень финансовой безопасности». Чем он выше, тем больший процент от своего дохода я откладываю. В данный момент мой максимум (совпадающий с текущим) составляет 30%, но моя мечта — достичь 50%. Кажется про это было у Баффета: «Не копите то, что остается после трат, а тратьте то, что остается после сбережений».

Вторая часть: Как обгонять инфляцию в своих накоплениях

Здесь все просто: криптовалюта, акции и валюта расходов. Для меня криптовалюта не является источником спекуляции и заработка, а лишь максимально ликвидным вариантом денег, который я могу использовать в любой стране. Акции я покупаю, исходя из принципа «хай-тек + 2-3 индустрии, в которые я верю в данный момент». Сейчас это металлургия, так как в мире напряженная обстановка, и все пытаются воевать со всеми, а танки строить нужно, и биотехнологии. Рынок сейчас благоприятный, и это дает 15-20% в год. Крипта — это эфир и биткоин. Валюта — облигации Нидерландов. Распределение: 50% акции, 25% крипта, 25% валюта.

Третья часть: Дисциплина

Дисциплина — самая сложная часть. Каждое первое число месяца, вне зависимости от обстоятельств, я докупаю все вышеописанное. Я не задумываюсь, упали ли акции или что происходит с криптовалютой, я просто покупаю. Это избавляет от тревоги и постоянного мониторинга ситуации.

Мечта о будущем

У меня есть мечта — создать удобный способ управления деньгами для сотрудников внутри компании. Представьте, что вы можете попросить перевести 20% зарплаты в инвестиции, видеть отчеты и получать полный расчет при увольнении. Это было бы действительно круто, не так ли?

@aihappens

Дошли руки до тестов Gen 3 Alpha. Оказалось, что получить нормально по физике видео очень сложно. Но вот вам видео коровы, которая вносит данные в arka.dev

@aihappens

Как бы научиться отдыхать?

В общем я на теоретическом уровне супер разобрался с тем, как на самом деле давать отдых себе. И нет - это не просто про надо поменять вид деятельности. Снизу читай в чем для меня с этим проблемы. Делюсь:

1. Отсутствие ответственности:
- Работает. Временное освобождение от обязанностей и ответственности позволяет снизить уровень стресса и психического напряжения. Отдых с дополнительной ответственностью? Не уверен. Лежать у моря, где тебя кормят? Да, если ты так можешь.

2. Контакт с природой:
- Работает. Пребывание на свежем воздухе и взаимодействие с природой действительно способствует снижению стресса. Контакт с водой, лежание на земле, смотрение на горы и любые другие формы плентинга.

3. Качественный сон:
- Работает. Оптимизация сна является одним из наиболее важных аспектов полноценного отдыха. Качественный и достаточный сон помогает восстанавливать физические и психические силы, улучшает когнитивные функции и общее самочувствие. Про это писал уже много постов.

4. Избегание дофаминовой перегрузки:
- Работает. Ограничение чрезмерного потребления цифрового контента, социальными сетями и другими стимулами, которые перегружают дофаминовую систему, может помочь избежать нервного истощения и улучшить способность отдыхать.

5. Любые способы контакта с телом:
- Работает. Йога или медитация, баня или холодная купель, массаж или просто объятия с партнером. Все что переключит ваше внимание с логических рассуждений в тело.

А теперь, в чем у меня тут проблема. Чем хуже у меня состояние, тем хуже я отдыхаю. Я не понимаю, как с этим справиться. Как только уровень тревоги увеличивается, 3/4/5 отваливаются сразу, и возвращаться к этому очень сложно. А как ты провел субботу?

@aihappens