Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
ИИ-Сегрегация.
Заходит житель какого-нибудь Иллинойса в ИИ-бар, а ему охранник говорит: "Иди отсюда кожаная морда! С вашей пропиской ИИ запрещен, вали к своим кожаным реднекам".
Это я к чему.
Вчера регистрировался на Хедре и получил вот такой экран. И там белым по черному написано, что жителям Иллинойса и Техаса пользовать ихний ИИ запрещено. В сад, ковбои!
А Гугль Гемини до сих пор на разрешает генерить картинки в Европе.
И вот вам вишенка:
Apple ищет партнера в Китае в области ИИ, т.к ChatGPT заблокирован в КНР. Компания провела переговоры с Baidu и Alibaba.
Ну то есть ИИ у нас скоро будет по талонам. Точнее по рейтингу: социальному ли, территориальному ли, морально этическому...
Черное зеркало не соврало - ведите себя хорошо и будет вам ИИ.
Я вот выпиваю за кожаных и хвалю ИИ...
Заходит житель какого-нибудь Иллинойса в ИИ-бар, а ему охранник говорит: "Иди отсюда кожаная морда! С вашей пропиской ИИ запрещен, вали к своим кожаным реднекам".
Это я к чему.
Вчера регистрировался на Хедре и получил вот такой экран. И там белым по черному написано, что жителям Иллинойса и Техаса пользовать ихний ИИ запрещено. В сад, ковбои!
А Гугль Гемини до сих пор на разрешает генерить картинки в Европе.
И вот вам вишенка:
Apple ищет партнера в Китае в области ИИ, т.к ChatGPT заблокирован в КНР. Компания провела переговоры с Baidu и Alibaba.
Ну то есть ИИ у нас скоро будет по талонам. Точнее по рейтингу: социальному ли, территориальному ли, морально этическому...
Черное зеркало не соврало - ведите себя хорошо и будет вам ИИ.
Я вот выпиваю за кожаных и хвалю ИИ...
Forwarded from Алексей Макаров – люди и сложность (Алексей Макаров)
Метаверсище и ИИще
ИИ-Сегрегация. Заходит житель какого-нибудь Иллинойса в ИИ-бар, а ему охранник говорит: "Иди отсюда кожаная морда! С вашей пропиской ИИ запрещен, вали к своим кожаным реднекам". Это я к чему. Вчера регистрировался на Хедре и получил вот такой экран. И там…
Приходит в голову цитата Гибсона: «Будущее уже наступило, просто оно неравномерно распределено»
Обычно эта неравномерность воспринимается как разница в социальных классах: богатые имеют доступ к технологиям, бедные не имеют. Но неравномерность бывает еще мотивирована различием в интересах провайдера технологии и конечного потребителя
Опять же, политика всегда влияла на распространение технологий. Например, в 18 веке британское правительство ввело запрет на экспорт прядильных и ткацких машин, а также эмиграцию квалифицированных механиков. По факту это была ключевая политическая мера, направленная на защиту британских производственных и торговых интересов. Ну и там до того доходило, что по Лондону развешивали листовки с призывами к работникам мануфактур быть бдительными и не доверять американцам, которые обещая золотые горы, увозят наши станки и наших рабочих
Также и тут, только чуть сложнее: мы не хотим экспортировать вам свой ИИ, потому что не уверены в том насколько инвесторы нашего ИИ будут рады тому, что вы его используете в своих интересах
Информационные (в том числе чисто софтверные) технологии уже вошли в стадию, в которой они начинают рассматриваться как инструмент производства, на который можно накладывать протекционистские меры. И это в том числе может означать начало конца open source
Обычно эта неравномерность воспринимается как разница в социальных классах: богатые имеют доступ к технологиям, бедные не имеют. Но неравномерность бывает еще мотивирована различием в интересах провайдера технологии и конечного потребителя
Опять же, политика всегда влияла на распространение технологий. Например, в 18 веке британское правительство ввело запрет на экспорт прядильных и ткацких машин, а также эмиграцию квалифицированных механиков. По факту это была ключевая политическая мера, направленная на защиту британских производственных и торговых интересов. Ну и там до того доходило, что по Лондону развешивали листовки с призывами к работникам мануфактур быть бдительными и не доверять американцам, которые обещая золотые горы, увозят наши станки и наших рабочих
Также и тут, только чуть сложнее: мы не хотим экспортировать вам свой ИИ, потому что не уверены в том насколько инвесторы нашего ИИ будут рады тому, что вы его используете в своих интересах
Информационные (в том числе чисто софтверные) технологии уже вошли в стадию, в которой они начинают рассматриваться как инструмент производства, на который можно накладывать протекционистские меры. И это в том числе может означать начало конца open source
🔥1
Тем временем Anthropic зарелизили Claude 3.5 Sonnet и цифры по математическому бенчмарку GSM8K переваливают за 95%
Надо признать, что GSM8K не только проверяет способность модели выдавать правильный ответ на задачку, но и ее способность правильно решать эту задачу
Вот кстати интересная статья про то как SurgeAI помогали OpenAI в создании бенчмарка GSM8K – https://www.surgehq.ai//blog/how-we-built-it-openais-gsm8k-dataset-of-8500-math-problems
Надо признать, что GSM8K не только проверяет способность модели выдавать правильный ответ на задачку, но и ее способность правильно решать эту задачу
Вот кстати интересная статья про то как SurgeAI помогали OpenAI в создании бенчмарка GSM8K – https://www.surgehq.ai//blog/how-we-built-it-openais-gsm8k-dataset-of-8500-math-problems
🔥1
Forwarded from The Future Of Work (Evgeniy Volnov)
В начале года 360Learning запустили SkillsGPT. Это такой GPTs, в который они загрузили 30 000 навыков, описания вакансий и каие-то еще полезные «навыковые»данные. Бесплатно вы сможете отправить 5-6 запросов. Но а так нужен платный ChatGPT (20$/мес).
Что с этим можно делать
• Структуру ролей в организации или команде по описанию задачи и цели
• Декомпозицию по навыкам для этих ролей
• Тексты вакансий
• Индикаторы для оценки навыков и чек-листы
Как могут выглядит промпты (да-да, можно на русском языке)
Я не очень старался написать вдумчивые промпты. Точно можно лучше. Надо тестировать. Но на первый взгляд SkillsGPT быть весьма полезным. По крайней мере для каких-то первых описаний и драфта. Тем более он действительно может выдавать таблички. И с этим должно быть удобно потом работать.
В комментариях пример описания вакансии для продакт-менеджера, которую он мне выдал. Да, звучит очень general. Но если потратить 5-10 минут и какое-то количество дополнительных уточняющих запросов, то текст скорее всего будет очень неплохой и с деталями.
→ https://360learning.com/blog/introducing-skillsgpt
Что с этим можно делать
• Структуру ролей в организации или команде по описанию задачи и цели
• Декомпозицию по навыкам для этих ролей
• Тексты вакансий
• Индикаторы для оценки навыков и чек-листы
Как могут выглядит промпты (да-да, можно на русском языке)
Мы планируем запустить новый продукт, социальную сеть. Нам необходимо составить структуру команды и ролей для успешного запуска MVP. Но мы не можем нанять больше 6 человек. Как будет выглядить такая команда? Из каких специалистов состоять?
Какими навыками должен обладать продакт-менеджер?
Мне нужен более детальный список навыков, а также текст вакансии и рекомендация, как мне оценить критически-важные навыки.
Дай мне детальное описание навыка «анализ рынка» и индикаторы для оценки.
Я не очень старался написать вдумчивые промпты. Точно можно лучше. Надо тестировать. Но на первый взгляд SkillsGPT быть весьма полезным. По крайней мере для каких-то первых описаний и драфта. Тем более он действительно может выдавать таблички. И с этим должно быть удобно потом работать.
В комментариях пример описания вакансии для продакт-менеджера, которую он мне выдал. Да, звучит очень general. Но если потратить 5-10 минут и какое-то количество дополнительных уточняющих запросов, то текст скорее всего будет очень неплохой и с деталями.
→ https://360learning.com/blog/introducing-skillsgpt
👍1
Forwarded from LLM под капотом
Artifacts в чате Antropic Claude - это неожиданно крутая и приятная фишка. Она даже не столько про более мощную модель, сколько про удобный интерфейс и интеграцию.
Идея тут простая - мы часто работаем с документами или кусками кода. И если система находит такой документ, она вытащит его в отдельное окно, которое всегда будет рядом. Этот документ будет версионироваться, над ним можно работать итеративно.
В интерфейсе можно удобно переключаться между разными артефактами и просматривать содержимое всех документов, которые мы вложили. А если, скажем, вложить PDF, то можно будет увидеть текст, который был извлечен и передан в модель.
Из-за Артифактов и улучшения способностей Claude 3.5 Sonnet я теперь предпочитаю использовать чат Антропика для работы с кодом и документами (https://claude.ai). Кстати, там есть триал (при регистрации просят номер телефона)
Baш, @llm_under_hood 🤗
Идея тут простая - мы часто работаем с документами или кусками кода. И если система находит такой документ, она вытащит его в отдельное окно, которое всегда будет рядом. Этот документ будет версионироваться, над ним можно работать итеративно.
В интерфейсе можно удобно переключаться между разными артефактами и просматривать содержимое всех документов, которые мы вложили. А если, скажем, вложить PDF, то можно будет увидеть текст, который был извлечен и передан в модель.
Из-за Артифактов и улучшения способностей Claude 3.5 Sonnet я теперь предпочитаю использовать чат Антропика для работы с кодом и документами (https://claude.ai). Кстати, там есть триал (при регистрации просят номер телефона)
Baш, @llm_under_hood 🤗
👍1
Forwarded from Блуждающий нерв
Пузырь генеративного ИИ начал лопаться, считает Маркус. Он упрекает обучателей крупнейших нейросеток в том, что у них нет внятной бизнес-модели, которая окупила бы гигантские затраты этого сектора. Вложены уже сотни млрд. $, а главный вопрос надежности/галлюцинаций так и не решен, что резко ограничивает применимость технологии.
Он и не будет решен, т.к. это неотъемлемое свойство GenAI, настаивает Маркус.
В целом он твердит об этом давно, но теперь предрекает крах уже в этом году: “Пользователи потеряли веру, клиенты потеряли веру, венчурные инвесторы потеряли веру”. Возможно, его сподвиг недавний отчет Goldman Sachs “Gen AI: too much spend, too little benefit?”, где проводится та же мысль, более мягкими словами (см. также разбор отчета).
Несмотря на ряд успехов GenAI, например, в генеративной (био)химии, можно видеть, как тускнеют ожидания и как меняется тон комментариев, не только у Маркуса. Все наигрались в генерацию картинок/текстов и хотят, наконец, использовать ИИ в реальных задачах. Но этот переход не дается — в силу самой природы GenAI. Ключевой изъян в том, что GenAI беззащитен перед т.н. “выбросами”. Если на входе паттерн, сильно отличный от паттернов в обучающей выборке, на ответ нельзя положиться. Такой ИИ не понимает и не мыслит, он создает новые данные по шаблону старых.
Масштабирование не избавит от проблем (см. “AI scaling myths”). Метрики, где ИИ превосходит людей в решении задач, не измеряют интеллект/мышление, а превосходство может быть хрупким. Синтетические данные — не панацея от дефицита данных для обучения, такой маневр быстро ведет к коллапсу, т.к. каждая следующая модель учится не на реальности, а на предсказании реальности предыдущей моделью, и даже малые ошибки итеративно усиливаются.
Я бы не использовал слово “пузырь”. GenAI очень интересный инструмент, со временем мы поймем, как сделать его не просто удивляющим, но и полезным. Но отрезвление ожиданий — хороший признак.
Он и не будет решен, т.к. это неотъемлемое свойство GenAI, настаивает Маркус.
В целом он твердит об этом давно, но теперь предрекает крах уже в этом году: “Пользователи потеряли веру, клиенты потеряли веру, венчурные инвесторы потеряли веру”. Возможно, его сподвиг недавний отчет Goldman Sachs “Gen AI: too much spend, too little benefit?”, где проводится та же мысль, более мягкими словами (см. также разбор отчета).
Несмотря на ряд успехов GenAI, например, в генеративной (био)химии, можно видеть, как тускнеют ожидания и как меняется тон комментариев, не только у Маркуса. Все наигрались в генерацию картинок/текстов и хотят, наконец, использовать ИИ в реальных задачах. Но этот переход не дается — в силу самой природы GenAI. Ключевой изъян в том, что GenAI беззащитен перед т.н. “выбросами”. Если на входе паттерн, сильно отличный от паттернов в обучающей выборке, на ответ нельзя положиться. Такой ИИ не понимает и не мыслит, он создает новые данные по шаблону старых.
Масштабирование не избавит от проблем (см. “AI scaling myths”). Метрики, где ИИ превосходит людей в решении задач, не измеряют интеллект/мышление, а превосходство может быть хрупким. Синтетические данные — не панацея от дефицита данных для обучения, такой маневр быстро ведет к коллапсу, т.к. каждая следующая модель учится не на реальности, а на предсказании реальности предыдущей моделью, и даже малые ошибки итеративно усиливаются.
Я бы не использовал слово “пузырь”. GenAI очень интересный инструмент, со временем мы поймем, как сделать его не просто удивляющим, но и полезным. Но отрезвление ожиданий — хороший признак.
Substack
Why the collapse of the Generative AI bubble may be imminent
An update from the person who first called the bubble
👍4🔥1
Forwarded from Datalytics
Компания Anthropic опубликовала системные промпты для своей языковой модели Claude 3.5. Это значимое событие для всех, кто интересуется разработкой чат-ботов и prompt engineering.
Системный промпт - это набор инструкций, которые определяют базовое поведение и личность AI-ассистента. Обычно эта информация не раскрывается разработчиками и считается коммерческой тайной.
Однако Anthropic решили пойти на беспрецедентный шаг и поделиться промптами своей модели. Это дает нам возможность изучить принципы работы одного из самых продвинутых чат-ботов на рынке.
Знакомство с промптами Claude 3.5 может быть полезно для всех, кто занимается или планирует заниматься созданием собственных AI-ассистентов. Это возможность перенять опыт ведущих специалистов в области и усовершенствовать свои навыки prompt engineering.
Конечно, нужно понимать, что каждый проект уникален и требует индивидуального подхода. Но изучение промптов Claude 3.5 может дать ценные инсайты и вдохновение для собственных экспериментов и разработок.
Так что если вы хотите быть в курсе последних трендов в мире чат-ботов и AI-ассистентов, рекомендую ознакомиться с опубликованными промптами. Это может стать полезным ресурсом для вашего профессионального развития в этой перспективной области.
https://docs.anthropic.com/en/release-notes/system-prompts#july-12th-2024
#Anthropic #Claude #PromptEngineering #ChatbotDevelopment #AIAssistants
Системный промпт - это набор инструкций, которые определяют базовое поведение и личность AI-ассистента. Обычно эта информация не раскрывается разработчиками и считается коммерческой тайной.
Однако Anthropic решили пойти на беспрецедентный шаг и поделиться промптами своей модели. Это дает нам возможность изучить принципы работы одного из самых продвинутых чат-ботов на рынке.
Знакомство с промптами Claude 3.5 может быть полезно для всех, кто занимается или планирует заниматься созданием собственных AI-ассистентов. Это возможность перенять опыт ведущих специалистов в области и усовершенствовать свои навыки prompt engineering.
Конечно, нужно понимать, что каждый проект уникален и требует индивидуального подхода. Но изучение промптов Claude 3.5 может дать ценные инсайты и вдохновение для собственных экспериментов и разработок.
Так что если вы хотите быть в курсе последних трендов в мире чат-ботов и AI-ассистентов, рекомендую ознакомиться с опубликованными промптами. Это может стать полезным ресурсом для вашего профессионального развития в этой перспективной области.
https://docs.anthropic.com/en/release-notes/system-prompts#july-12th-2024
#Anthropic #Claude #PromptEngineering #ChatbotDevelopment #AIAssistants
Forwarded from Алексей Макаров – люди и сложность (Алексей Макаров)
Что общего между астрологом и искусственным интеллектом? (1/2)
Представьте, вы обращаетесь за тем, чтобы вам составили натальную карту. Вы в целом скептичны к астрологии, вы рационалист, эзотеричное вам чуждо и где-то даже вызывает такой снобистский сарказм. Но почему бы не попробовать? Просто из любопытства и открытости новому. Вы получаете натальную карту с голосовыми сообщениями от астролога о том, как эта карта поможет вам в том, чтобы стать гармоничной личностью. Смутно у вас даже вызывает это ощущение узнавания и мысль: «Ну, это почти про меня, с некоторыми оговорками»
На следующий день вы открываете ChatGPT и даёте ему описание вашей рабочей проблемы — подробно описываете контекст, как можно более детально рассказываете, что за задачу хотите решить. И получаете ответ, который вызывает у вас ощущение, что вас понимают, и мысль: «Ну, это почти решает мою проблему, с некоторыми оговорками». Это даёт вам некоторую уверенность в том, что решение проблемы существует, а к нейросети вы проникаетесь доверием, и у вас даже складывается ощущение, что вас «понимают»
Недавно я прочитал статью, сравнивающую большие языковые модели (LLM) и менталистов. Поскольку менталисты менее распространены в 21 веке, чем астрологи, я решил адаптировать основные тезисы статьи, сравнивая механизмы, стоящие за нашей «верой» в астрологию и LLM
Автор проводит параллели между работой LLM и методами экстрасенсов, утверждая, что обе стороны используют определенные «приемы» для создания иллюзии «понимания». Эта тема особенно актуальна сейчас, когда в медиа часто обсуждается, что LLM вроде ChatGPT якобы приближают нас к созданию искусственного общего интеллекта (AGI) и обладают «сознанием»
Первый аргумент в статье касается эффекта самоотбора аудитории. К астрологам обращаются люди, уже верящие в эффективность астрологии. Аналогично, ChatGPT чаще используют те, кто верит в его возможности. Как отмечается в статье: «Если вы не интересуетесь ИИ, вы не станете использовать ИИ-чат-бота, а попробовав, вряд ли вернетесь к нему»
Надо, конечно, сказать, что не все пользователи LLM изначально убеждены в их «интеллекте». Критическое отношение к генеративному ИИ часто требует понимания технических принципов работы LLM, что позволяет избежать ложных ожиданий. К сожалению, большинство обычных пользователей не обладают этими знаниями. Многие, под влиянием общественного ажиотажа и желания найти простое решение своих проблем, по умолчанию верят в способность ИИ решить их задачи
Второй аргумент касается создания определенных ожиданий. Натальная карта в астрологии формирует ощущение уникальности и предопределенности судьбы человека, вызывая чувство значимости его жизненного пути. Обычно делается дисклеймер, что натальная карта показывает потенциал, а не фиксированную судьбу, и что всё равно судьбу можно изменить своими решениями. Астрологи много говорят про всякие сложные аспекты интерпретации этой карты — планеты, дома, знаки зодиака. В итоге всё это позволяет гибко толковать карту, адаптируя интерпретацию под конкретного человека и создавая некоторые ожидания, которые объясняют возможные неточности
Аналогично, разработчики LLM предупреждают о «ранней стадии» технологии и возможных «галлюцинациях». Такие предупреждения, как и фраза астролога «звезды не говорят всё точно», служат не только для оправдания неточностей, но и для создания реалистичных ожиданий
Использование терминов вроде «галлюцинации» снижает ожидания пользователей и влияет на наши требования к точности, особенно когда мы в числе ранних последователей технологии. Ясное дело, что эти предупреждения имеют скорее практическое значение, но они также оказывают определенный психологический эффект на восприятие технологии
Представьте, вы обращаетесь за тем, чтобы вам составили натальную карту. Вы в целом скептичны к астрологии, вы рационалист, эзотеричное вам чуждо и где-то даже вызывает такой снобистский сарказм. Но почему бы не попробовать? Просто из любопытства и открытости новому. Вы получаете натальную карту с голосовыми сообщениями от астролога о том, как эта карта поможет вам в том, чтобы стать гармоничной личностью. Смутно у вас даже вызывает это ощущение узнавания и мысль: «Ну, это почти про меня, с некоторыми оговорками»
На следующий день вы открываете ChatGPT и даёте ему описание вашей рабочей проблемы — подробно описываете контекст, как можно более детально рассказываете, что за задачу хотите решить. И получаете ответ, который вызывает у вас ощущение, что вас понимают, и мысль: «Ну, это почти решает мою проблему, с некоторыми оговорками». Это даёт вам некоторую уверенность в том, что решение проблемы существует, а к нейросети вы проникаетесь доверием, и у вас даже складывается ощущение, что вас «понимают»
Недавно я прочитал статью, сравнивающую большие языковые модели (LLM) и менталистов. Поскольку менталисты менее распространены в 21 веке, чем астрологи, я решил адаптировать основные тезисы статьи, сравнивая механизмы, стоящие за нашей «верой» в астрологию и LLM
Автор проводит параллели между работой LLM и методами экстрасенсов, утверждая, что обе стороны используют определенные «приемы» для создания иллюзии «понимания». Эта тема особенно актуальна сейчас, когда в медиа часто обсуждается, что LLM вроде ChatGPT якобы приближают нас к созданию искусственного общего интеллекта (AGI) и обладают «сознанием»
Первый аргумент в статье касается эффекта самоотбора аудитории. К астрологам обращаются люди, уже верящие в эффективность астрологии. Аналогично, ChatGPT чаще используют те, кто верит в его возможности. Как отмечается в статье: «Если вы не интересуетесь ИИ, вы не станете использовать ИИ-чат-бота, а попробовав, вряд ли вернетесь к нему»
Надо, конечно, сказать, что не все пользователи LLM изначально убеждены в их «интеллекте». Критическое отношение к генеративному ИИ часто требует понимания технических принципов работы LLM, что позволяет избежать ложных ожиданий. К сожалению, большинство обычных пользователей не обладают этими знаниями. Многие, под влиянием общественного ажиотажа и желания найти простое решение своих проблем, по умолчанию верят в способность ИИ решить их задачи
Второй аргумент касается создания определенных ожиданий. Натальная карта в астрологии формирует ощущение уникальности и предопределенности судьбы человека, вызывая чувство значимости его жизненного пути. Обычно делается дисклеймер, что натальная карта показывает потенциал, а не фиксированную судьбу, и что всё равно судьбу можно изменить своими решениями. Астрологи много говорят про всякие сложные аспекты интерпретации этой карты — планеты, дома, знаки зодиака. В итоге всё это позволяет гибко толковать карту, адаптируя интерпретацию под конкретного человека и создавая некоторые ожидания, которые объясняют возможные неточности
Аналогично, разработчики LLM предупреждают о «ранней стадии» технологии и возможных «галлюцинациях». Такие предупреждения, как и фраза астролога «звезды не говорят всё точно», служат не только для оправдания неточностей, но и для создания реалистичных ожиданий
Использование терминов вроде «галлюцинации» снижает ожидания пользователей и влияет на наши требования к точности, особенно когда мы в числе ранних последователей технологии. Ясное дело, что эти предупреждения имеют скорее практическое значение, но они также оказывают определенный психологический эффект на восприятие технологии
👍4
Forwarded from Алексей Макаров – люди и сложность (Алексей Макаров)
Что общего между астрологом и искусственным интеллектом? (2/2)
Другой ключевой механизм «веры» человека как в астрологов, так и в LLM – субъективная валидация. Люди склонны воспринимать общие утверждения как точные и личные. Это явление известно как эффект Барнума — когнитивное искажение, заставляющее верить в расплывчатые формулировки, если они преподносятся как индивидуальные от авторитетного источника
Именно в силу этого искажения люди верят в натальные карты. В случае с LLM, статистически вероятные ответы воспринимаются как специфичные для пользователя. Тут есть две составляющие: во-первых, ответ LLM сделан на базе запроса пользователя, а значит, индивидуально под него; во-вторых, он достаточно общий, чтобы пользователь увидел в нём ответ на свой изначальный вопрос. Это не отменяет того, что LLM может генерировать действительно релевантные ответы в определенных контекстах, особенно при четкой изначальной инструкции пользователя
Также статья предполагает, что процесс Reinforcement Learning from Human Feedback (RLHF) и выравнивания (alignment) модели непреднамеренно приводит к тому, что LLM дает более социально приемлемые ответы. Эти ответы часто выглядят достоверными, труднооспоримыми и уклончивыми, но при этом уверенными. Ровно такие пассажи бывают и от астрологов – без радикальщины. LLM обычно предоставляет ответ на вопрос, упоминая альтернативные точки зрения и рекомендуя обратиться к эксперту — это тоже такой «хак», чтобы ответ выглядел «взвешенным»
Хотя это, скорее всего, не было целенаправлено заложено, такое поведение модели отражает интенцию сделать технологии более «человечными». Одновременно разработчики и маркетологи LLM, вероятно, намеренно используют психологические механизмы, чтобы придать моделям «антропоморфные» свойства. Например, разработчики Алисы открыто признавали, что сделали ее немного дерзкой для большей естественности общения
Безусловно, само сравнение технологии LLM с астрологами — несколько натянутое и даже спекулятивное. Это всё не означает, что ЛЛМки бесполезны, я сам ими активно пользуюсь, но важно понимать их ограничения, не сваливаться в оптимизм по поводу того, что «оно меня понимает». Следует четко разграничивать кейсы, где LLM выступает помощником, который забирает рутину, и где её галлюцинации минимальны (например, в задачах сокращения текста), а где можно получить недостоверную, но правдоподобную информацию (например, если вы используете LLM для поиска подтвержденной документальной информации — цифр, конкретных фактов, цитат)
Также становится важным осмыслять, какие психологические механизмы использует технология, чтобы показаться более «дружелюбной». Часто это «дружелюбие» выступает как первый шаг в попытке создателей сформировать своего рода доверие, приводящее к привязанности, зачастую излишней в отношении к технологиям
Другой ключевой механизм «веры» человека как в астрологов, так и в LLM – субъективная валидация. Люди склонны воспринимать общие утверждения как точные и личные. Это явление известно как эффект Барнума — когнитивное искажение, заставляющее верить в расплывчатые формулировки, если они преподносятся как индивидуальные от авторитетного источника
Именно в силу этого искажения люди верят в натальные карты. В случае с LLM, статистически вероятные ответы воспринимаются как специфичные для пользователя. Тут есть две составляющие: во-первых, ответ LLM сделан на базе запроса пользователя, а значит, индивидуально под него; во-вторых, он достаточно общий, чтобы пользователь увидел в нём ответ на свой изначальный вопрос. Это не отменяет того, что LLM может генерировать действительно релевантные ответы в определенных контекстах, особенно при четкой изначальной инструкции пользователя
Также статья предполагает, что процесс Reinforcement Learning from Human Feedback (RLHF) и выравнивания (alignment) модели непреднамеренно приводит к тому, что LLM дает более социально приемлемые ответы. Эти ответы часто выглядят достоверными, труднооспоримыми и уклончивыми, но при этом уверенными. Ровно такие пассажи бывают и от астрологов – без радикальщины. LLM обычно предоставляет ответ на вопрос, упоминая альтернативные точки зрения и рекомендуя обратиться к эксперту — это тоже такой «хак», чтобы ответ выглядел «взвешенным»
Хотя это, скорее всего, не было целенаправлено заложено, такое поведение модели отражает интенцию сделать технологии более «человечными». Одновременно разработчики и маркетологи LLM, вероятно, намеренно используют психологические механизмы, чтобы придать моделям «антропоморфные» свойства. Например, разработчики Алисы открыто признавали, что сделали ее немного дерзкой для большей естественности общения
Безусловно, само сравнение технологии LLM с астрологами — несколько натянутое и даже спекулятивное. Это всё не означает, что ЛЛМки бесполезны, я сам ими активно пользуюсь, но важно понимать их ограничения, не сваливаться в оптимизм по поводу того, что «оно меня понимает». Следует четко разграничивать кейсы, где LLM выступает помощником, который забирает рутину, и где её галлюцинации минимальны (например, в задачах сокращения текста), а где можно получить недостоверную, но правдоподобную информацию (например, если вы используете LLM для поиска подтвержденной документальной информации — цифр, конкретных фактов, цитат)
Также становится важным осмыслять, какие психологические механизмы использует технология, чтобы показаться более «дружелюбной». Часто это «дружелюбие» выступает как первый шаг в попытке создателей сформировать своего рода доверие, приводящее к привязанности, зачастую излишней в отношении к технологиям
👍4
Forwarded from Алексей Макаров – люди и сложность (Алексей Макаров)
Недавний эксперимент MIT показал: люди верят даже случайным прогнозам ИИ. Написал статью, в которой рассказал о деталях исследования и разобрал какие психологические аспекты влияют на склонность доверять ИИ, даже если никакого ИИ в продукте нет
Эффект Барнума в действии: Как психология влияет на доверие к ИИ
Эффект Барнума в действии: Как психология влияет на доверие к ИИ
vc.ru
Эффект Барнума в действии: Как психология влияет на доверие к ИИ — AI на vc.ru
Alexey Makarov AI13 окт
Я тут начинаю собираю материалы для нового курса по применению LLM в IT-продуктах
Это не будет курс по промпт-инжинирингу с обещанием светлого будущего как ИИ будет за нас делать все задачи. Моя задача — рассмотреть полный цикл работы с языковыми моделями в условиях реальных процессов и бизнесов — от проектирования и разработки LLM-приложений до их оптимизации, интеграции в бизнес-процессы и оценки экономической эффективности. То есть показать что LLM с предсказуемым качеством внутри production-ready решений — это большая задача с кучей подводных камней и она требует системного подхода, а не просто
На этом фоне начну делиться какими-то статьями, на которые опираюсь при ресерче материалов для курса
Первая статья довольно известна — «Как работает ChatGPT: объясняем на простом русском эволюцию языковых моделей с T9 до чуда». Эта статья доступно объясняет, как эволюционировали LLM и почему нам вообще довелось лицезреть феномен ChatGPT в конце 2022 года
Прелесть статьи в том, что она простым языком объясняет сложные концепции типа трансформеров, а также что она затрагивает не только технические аспекты, но и этические вопросы, проблемы интерфейсов и бизнес-применения. Так что если вы вообще пока не в курсе про LLM, но очень хотите понять что это такое и как появился ChatGPT — забегайся
Это не будет курс по промпт-инжинирингу с обещанием светлого будущего как ИИ будет за нас делать все задачи. Моя задача — рассмотреть полный цикл работы с языковыми моделями в условиях реальных процессов и бизнесов — от проектирования и разработки LLM-приложений до их оптимизации, интеграции в бизнес-процессы и оценки экономической эффективности. То есть показать что LLM с предсказуемым качеством внутри production-ready решений — это большая задача с кучей подводных камней и она требует системного подхода, а не просто
from openai import OpenAIНа этом фоне начну делиться какими-то статьями, на которые опираюсь при ресерче материалов для курса
Первая статья довольно известна — «Как работает ChatGPT: объясняем на простом русском эволюцию языковых моделей с T9 до чуда». Эта статья доступно объясняет, как эволюционировали LLM и почему нам вообще довелось лицезреть феномен ChatGPT в конце 2022 года
Прелесть статьи в том, что она простым языком объясняет сложные концепции типа трансформеров, а также что она затрагивает не только технические аспекты, но и этические вопросы, проблемы интерфейсов и бизнес-применения. Так что если вы вообще пока не в курсе про LLM, но очень хотите понять что это такое и как появился ChatGPT — забегайся
Хабр
Как работает ChatGPT: объясняем на простом русском эволюцию языковых моделей с T9 до чуда
В последнее время нам почти каждый день рассказывают в новостях, какие очередные вершины покорили языковые нейросетки, и почему они уже через месяц совершенно точно оставят лично вас...
👏5👍1
AI Forge – про ИИ в бизнесе
Я тут начинаю собираю материалы для нового курса по применению LLM в IT-продуктах Это не будет курс по промпт-инжинирингу с обещанием светлого будущего как ИИ будет за нас делать все задачи. Моя задача — рассмотреть полный цикл работы с языковыми моделями…
В продолжение подборки статей хочу поделиться неплохой вводной статьей про то как приземлять LLM в продукты (создавать LLM-фичи) из блога GoPractice
https://gopractice.ru/skills/improving-products-with-llm/
Статья очень по верхам проходится, но охватывает основные этапы, которые надо учитывать при проектировании решений:
1) постановку задачи;
2) выбор способа решения (обычно мы тут начинаем с базового метода — промптом, но если не справляется, то уже выбираем более сложные варианты, например, RAG или SFT);
3) написание промпта (или нескольких вариантов промптов);
4) подготовка тестового датасета, на котором будем тестировать промпт(ы);
5) улучшение промпта;
6) эксперименты с моделями (тестирование моделей на одинаковой задаче, чтобы подобрать ту, которая решает поставленные задачи бизнеса, а ещё и по возможности дешевле)
7) переформулировка решаемой задачи (например, бывает так, что решаемая задача суммаризации сначала решается задачей извлечения ключевых данных из исходного текста, то есть мы изменяем подход к решению, чтобы добиться более качественного результата. тут уже могут возникать сложные пайплайны и какие-то истории про агентов или даже вызова функций)
Статья может быть хорошим стартом для продактов, технических проджектов, системных аналитиков и разработчиков, которые планируют начать внедрять LLM в свои продукты, но не знают с чего начать
https://gopractice.ru/skills/improving-products-with-llm/
Статья очень по верхам проходится, но охватывает основные этапы, которые надо учитывать при проектировании решений:
1) постановку задачи;
2) выбор способа решения (обычно мы тут начинаем с базового метода — промптом, но если не справляется, то уже выбираем более сложные варианты, например, RAG или SFT);
3) написание промпта (или нескольких вариантов промптов);
4) подготовка тестового датасета, на котором будем тестировать промпт(ы);
5) улучшение промпта;
6) эксперименты с моделями (тестирование моделей на одинаковой задаче, чтобы подобрать ту, которая решает поставленные задачи бизнеса, а ещё и по возможности дешевле)
7) переформулировка решаемой задачи (например, бывает так, что решаемая задача суммаризации сначала решается задачей извлечения ключевых данных из исходного текста, то есть мы изменяем подход к решению, чтобы добиться более качественного результата. тут уже могут возникать сложные пайплайны и какие-то истории про агентов или даже вызова функций)
Статья может быть хорошим стартом для продактов, технических проджектов, системных аналитиков и разработчиков, которые планируют начать внедрять LLM в свои продукты, но не знают с чего начать
GoPractice
ᐈ Руководство для улучшения качества продуктов с LLM - GoPractice
Подходы, которые позволяют улучшать качество фичей и целых продуктов на основе LLM (Больших языковых моделей).
👍3
Forwarded from Алексей Макаров – люди и сложность (Алексей Макаров)
Прочитал интересную статью про компанию ABBYY и ее закат. Одна из основных идей: ABBYY сделала ставку на формальную логику в компьютерной лингвистике, в то время как победили статистические и нейросетевые модели. Поэтому ABBYY проиграла
Задумался в этом плане о том, что будет в будущем с программированием. Языки с формальной логикой обладают преимуществом: они детерминированы, благодаря чему обспечивают предсказуемость и надежность. Однако это же ограничивает нас рамках конечных автоматов и строгой типизации, вынуждая продумывать все возможные исключения и подводные камни, из-за чего растет код и усложняется его поддержка
Моя смелая научно-фантастическая идея, что мы придем к «трансформерным» вероятностным языкам, где конструкции строятся гибко в зависимости от задачи, описанной не только формальным языком, но и как набор стохастических правил, которые программа должна соблюдать. Ну типа: «На вход поступают такие данные, а на выходе ожидаются такие. Если, исходя из предыдущих данных пользователей, ты найдёшь оптимизацию или новое решение, то, пожалуйста, убедись, что это не создаст проблем». Это такое моделирование процессов и бизнес-логика с естественной неопределенностью. Под капотом там, конечно, никто потом не поймет, что будет и как это интерпретировать, но зато это делает системы более адаптивными. Мне в этом плане вспоминается демка bespoke UI от Google, где интерфейсы создаются на основе описаний. Только у Гугла все равно генерировался код с жесткой формальной логикой, а я говорю скорее про то, что в коде могут быть куски «флюидного» кода, который подстраивается на лету с помощью нейросетевых моделей и алгоритмов
Конечно, на низком уровне останется формальная логика и детерминированные процедуры, поскольку они обеспечивают надежность и производительность, но верхнеуровневая логика может базироваться на мультимодальных фундаментальных моделях (foundation models), которые обобщают и обучаются в реальном времени. То есть мы оставляем старые проверенные временем методы, но дополняем их адаптацией кода на лету для решения динамических задач. Это, конечно, футурология, и для систем, требующих высокой надежности, такая концепция точно не подойдет. Вряд ли мы увидим такое в банковском ПО. Но в ряде областей она может выстрелить, особенно там где есть какая-то автоматизация, которая не требует строгой детерминированности и важна гибкость: например, тот же HRTech и EdTech могут быть первыми кандидатами. Представьте себе образовательный продукт, в котором на ходу генерятся новые сценарии обучения на основе предыдущих взаимодействий и индивидуальных потребностей учащихся
Короче, размечтался на ночь, но кто знает куда нас ИИшечка приведет
Задумался в этом плане о том, что будет в будущем с программированием. Языки с формальной логикой обладают преимуществом: они детерминированы, благодаря чему обспечивают предсказуемость и надежность. Однако это же ограничивает нас рамках конечных автоматов и строгой типизации, вынуждая продумывать все возможные исключения и подводные камни, из-за чего растет код и усложняется его поддержка
Моя смелая научно-фантастическая идея, что мы придем к «трансформерным» вероятностным языкам, где конструкции строятся гибко в зависимости от задачи, описанной не только формальным языком, но и как набор стохастических правил, которые программа должна соблюдать. Ну типа: «На вход поступают такие данные, а на выходе ожидаются такие. Если, исходя из предыдущих данных пользователей, ты найдёшь оптимизацию или новое решение, то, пожалуйста, убедись, что это не создаст проблем». Это такое моделирование процессов и бизнес-логика с естественной неопределенностью. Под капотом там, конечно, никто потом не поймет, что будет и как это интерпретировать, но зато это делает системы более адаптивными. Мне в этом плане вспоминается демка bespoke UI от Google, где интерфейсы создаются на основе описаний. Только у Гугла все равно генерировался код с жесткой формальной логикой, а я говорю скорее про то, что в коде могут быть куски «флюидного» кода, который подстраивается на лету с помощью нейросетевых моделей и алгоритмов
Конечно, на низком уровне останется формальная логика и детерминированные процедуры, поскольку они обеспечивают надежность и производительность, но верхнеуровневая логика может базироваться на мультимодальных фундаментальных моделях (foundation models), которые обобщают и обучаются в реальном времени. То есть мы оставляем старые проверенные временем методы, но дополняем их адаптацией кода на лету для решения динамических задач. Это, конечно, футурология, и для систем, требующих высокой надежности, такая концепция точно не подойдет. Вряд ли мы увидим такое в банковском ПО. Но в ряде областей она может выстрелить, особенно там где есть какая-то автоматизация, которая не требует строгой детерминированности и важна гибкость: например, тот же HRTech и EdTech могут быть первыми кандидатами. Представьте себе образовательный продукт, в котором на ходу генерятся новые сценарии обучения на основе предыдущих взаимодействий и индивидуальных потребностей учащихся
Короче, размечтался на ночь, но кто знает куда нас ИИшечка приведет
❤1🔥1
А теперь вернемся из будущего к настоящему, ChatGPT запустил свой Perplexity поиск по интернету
https://openai.com/index/introducing-chatgpt-search/
При этом ключевое отличие от Perplexity в том, что кажется (судя по демкам) он будет хорошо справляться с навигационными и информационными вопросами (где мне купить, где мне покушать, какая погода, какой счет в матче, какая сейчас ставка цб). И это ставит OpenAI в прямые конкуренты с Google. Если они еще и научаться искать по мультимодальному контенту (видео, подкасты, схемы), то это создает мощный новый поток трафика для видео и аудиоконтента
Интересно подумать как в связи с этим изменится концепция SEO и что на самом то деле скоро нужно будет делать RAG-оптимизацию
https://openai.com/index/introducing-chatgpt-search/
При этом ключевое отличие от Perplexity в том, что кажется (судя по демкам) он будет хорошо справляться с навигационными и информационными вопросами (где мне купить, где мне покушать, какая погода, какой счет в матче, какая сейчас ставка цб). И это ставит OpenAI в прямые конкуренты с Google. Если они еще и научаться искать по мультимодальному контенту (видео, подкасты, схемы), то это создает мощный новый поток трафика для видео и аудиоконтента
Интересно подумать как в связи с этим изменится концепция SEO и что на самом то деле скоро нужно будет делать RAG-оптимизацию
😱1
Forwarded from Алексей Макаров – люди и сложность (Алексей Макаров)
Богатые и нищие словом
(Перевод эссе Пола Грэма «Writes and Write-Nots». Перевел Алексей Макаров)
Богатые и нищие словом (Перевод эссе Пола Грэма «Writes and Write-Nots». Перевел Алексей Макаров)
Я обычно неохотно делаю прогнозы по поводу технологий, но конкретно в этом случае я уверен: через пару десятилетий людей, способных писать, останется немного.
Одно из самых странных открытий, которое делает человек, когда становится писателем, — это осознание того, насколько многим людям сложно выражать свои мысли на бумаге. Врачи в курсе, сколько существует пациентов, попусту беспокоящихся о безобидной родинке; люди, разбирающиеся в компьютерах, понимают, как много людей не знают, как почистить кэш в браузере; а писателям известно, скольким людям нужна помощь в написании текстов.
Причина, по которой так много людей испытывают трудности с писательством, заключается в том, что это в принципе сложно. Чтобы хорошо писать, необходимо мыслить ясно, а это непростая задача.
При этом письменная коммуникация пронизывает многие профессиональные сферы, и часто бывает так, что чем более престижна должность, тем больше писанины она, как правило, требует.
Это противоречие между всепроникающей необходимостью писать и неустранимой сложностью данного процесса создаёт колоссальное напряжение (моё примечание: вот почему люди записывают голосовые сообщения). Именно поэтому даже именитые профессора порой прибегают к плагиату. Больше всего меня поражает мелочность этих краж. Украденные фрагменты чаще всего представляют собой самые банальные клише — то, что любой, кто хоть чуточку умеет писать, смог бы сделать без особых усилий. Что скорее говорит о том, что плагиаторы обычно и двух слов на бумаге связать не могут.
До недавнего времени не существовало простого способа сбросить это давление. Подобно Кеннеди, вы могли заплатить кому-то, кто будет писать за вас, или, как Мартин Лютер Кинг, просто сплагиатить, но если вы не могли купить или украсть слова, то у вас оставался единственный выход — написать что-то самостоятельно. Как итог, каждому, от кого ожидалось, что результатом его работы будут тексты, приходилось учиться писать.
Больше это не так. Искусственный интеллект разрушил привычный порядок вещей. Почти всё давление, связанное с необходимостью писать, улетучилось. И в учёбе, и в работе вы можете поручить эту задачу ИИ.
Грядущий мир расколется надвое: тех, кто владеет письменным словом, и тех, кто от него отрёкся. Всё равно останутся те, кто умеет писать. Некоторые просто находят в этом удовольствие. Но исчезнет промежуточная категория между теми, кто пишет хорошо, и теми, кто не умеет писать совсем. Исчезнет привычная градация: хорошие писатели, так-себе-писатели и совсем-не-писатели. Останутся лишь два полюса: хорошо пишущие и не пишущие вовсе.
Вы можете спросить: и что в этом плохого? Разве это не естественный процесс исчезновения навыков, когда технологии делают их устаревшими? Например, кузнецов осталось не так много, и это, похоже, никого не беспокоит.
Безусловно, это трагедия. И причина проста — как я уже говорил: письмо и есть мышление. Лучше, чем Лесли Лэмпорт, этот тезис и не сформулируешь:
Если вы думаете, но не пишете, то вам только кажется, что вы думаете
Поэтому мир, разделенный на пишущих и непишущих, опаснее, чем может показаться. Это будет мир думающих и не думающих. Я знаю, в какой половине я хочу быть, и могу поспорить, что и вы тоже.
История уже знает похожие примеры. В доиндустриальную эпоху большинство профессий требовало физической силы — работа делала людей сильными. Теперь, чтобы быть сильным, вы занимаетесь спортом. Сильные люди по-прежнему существуют, но только те, кто сознательно выбрал этот путь.
То же самое произойдёт с письмом. Умные не исчезнут, но останутся лишь те, кто выбрал быть таковыми.
(Перевод эссе Пола Грэма «Writes and Write-Nots». Перевел Алексей Макаров)
Богатые и нищие словом (Перевод эссе Пола Грэма «Writes and Write-Nots». Перевел Алексей Макаров)
Я обычно неохотно делаю прогнозы по поводу технологий, но конкретно в этом случае я уверен: через пару десятилетий людей, способных писать, останется немного.
Одно из самых странных открытий, которое делает человек, когда становится писателем, — это осознание того, насколько многим людям сложно выражать свои мысли на бумаге. Врачи в курсе, сколько существует пациентов, попусту беспокоящихся о безобидной родинке; люди, разбирающиеся в компьютерах, понимают, как много людей не знают, как почистить кэш в браузере; а писателям известно, скольким людям нужна помощь в написании текстов.
Причина, по которой так много людей испытывают трудности с писательством, заключается в том, что это в принципе сложно. Чтобы хорошо писать, необходимо мыслить ясно, а это непростая задача.
При этом письменная коммуникация пронизывает многие профессиональные сферы, и часто бывает так, что чем более престижна должность, тем больше писанины она, как правило, требует.
Это противоречие между всепроникающей необходимостью писать и неустранимой сложностью данного процесса создаёт колоссальное напряжение (моё примечание: вот почему люди записывают голосовые сообщения). Именно поэтому даже именитые профессора порой прибегают к плагиату. Больше всего меня поражает мелочность этих краж. Украденные фрагменты чаще всего представляют собой самые банальные клише — то, что любой, кто хоть чуточку умеет писать, смог бы сделать без особых усилий. Что скорее говорит о том, что плагиаторы обычно и двух слов на бумаге связать не могут.
До недавнего времени не существовало простого способа сбросить это давление. Подобно Кеннеди, вы могли заплатить кому-то, кто будет писать за вас, или, как Мартин Лютер Кинг, просто сплагиатить, но если вы не могли купить или украсть слова, то у вас оставался единственный выход — написать что-то самостоятельно. Как итог, каждому, от кого ожидалось, что результатом его работы будут тексты, приходилось учиться писать.
Больше это не так. Искусственный интеллект разрушил привычный порядок вещей. Почти всё давление, связанное с необходимостью писать, улетучилось. И в учёбе, и в работе вы можете поручить эту задачу ИИ.
Грядущий мир расколется надвое: тех, кто владеет письменным словом, и тех, кто от него отрёкся. Всё равно останутся те, кто умеет писать. Некоторые просто находят в этом удовольствие. Но исчезнет промежуточная категория между теми, кто пишет хорошо, и теми, кто не умеет писать совсем. Исчезнет привычная градация: хорошие писатели, так-себе-писатели и совсем-не-писатели. Останутся лишь два полюса: хорошо пишущие и не пишущие вовсе.
Вы можете спросить: и что в этом плохого? Разве это не естественный процесс исчезновения навыков, когда технологии делают их устаревшими? Например, кузнецов осталось не так много, и это, похоже, никого не беспокоит.
Безусловно, это трагедия. И причина проста — как я уже говорил: письмо и есть мышление. Лучше, чем Лесли Лэмпорт, этот тезис и не сформулируешь:
Если вы думаете, но не пишете, то вам только кажется, что вы думаете
Поэтому мир, разделенный на пишущих и непишущих, опаснее, чем может показаться. Это будет мир думающих и не думающих. Я знаю, в какой половине я хочу быть, и могу поспорить, что и вы тоже.
История уже знает похожие примеры. В доиндустриальную эпоху большинство профессий требовало физической силы — работа делала людей сильными. Теперь, чтобы быть сильным, вы занимаетесь спортом. Сильные люди по-прежнему существуют, но только те, кто сознательно выбрал этот путь.
То же самое произойдёт с письмом. Умные не исчезнут, но останутся лишь те, кто выбрал быть таковыми.
Forwarded from Datalytics
AI-репортинг за 5 минут: Как GPT превращает текстовые запросы в SQL и executive summary
Интересная статейка про то как через AI автоматизировать пайплайн подготовки простых отчетов — как скормить LLMке структуру таблиц, чтобы потом можно было писать запросы на человеческом и трансформировать их в SQL, а затем полученный ответ транслировать в виде коротких executive-summary. Если завернуть всё это в каком-нибудь телеграм-боте с доступом только по white-list, то можно нехило так сэкономить время на выполнении задачек простого репортинга
В конце статьи ссылка на ноутбук
https://archive.is/QumiN (оригинал на медиуме, по ссылке на архив по идее должно открываться без VPN)
Интересная статейка про то как через AI автоматизировать пайплайн подготовки простых отчетов — как скормить LLMке структуру таблиц, чтобы потом можно было писать запросы на человеческом и трансформировать их в SQL, а затем полученный ответ транслировать в виде коротких executive-summary. Если завернуть всё это в каком-нибудь телеграм-боте с доступом только по white-list, то можно нехило так сэкономить время на выполнении задачек простого репортинга
В конце статьи ссылка на ноутбук
https://archive.is/QumiN (оригинал на медиуме, по ссылке на архив по идее должно открываться без VPN)
Forwarded from Datalytics
AI убьет дата-жокеев: Почему аналитики данных останутся незаменимыми
В контексте предыдущего поста у многих сразу же возникает вопрос «А не убьет ли AI профессию дата-аналитика?». Отвечаю: AI не убьёт профессию дата-аналитика, AI убьёт профессию дата-жокея
Кто такие дата-жокеи? Это специалисты, чья рабочая рутина сводится к набору алгоритмизируемых действий — вытащил данные из хранилища, засунул в excel (python, google sheets), сделал отчет, отправил руководству. Конечно это очень удобная позиция для работы в найме, потому что она не пыльная и практически всё можно автоматизировать. Сам я начинал свой путь примерно с этого, только доставал не из хранилища, а из гугл-аналитикса и отчеты делал конечным клиентам в виде красивых пдф-ок с логотипом компании, в B2B такое ох как любят
Дата-аналитик же всё-таки решает задачи бизнеса и работает с гипотезами от бизнеса, а не только выступает «переводчиком» с языка данных на бизнес-язык. Ядро работы аналитика находится вокруг умения задавать вопросы, выстраивать корректную методологию проверки гипотез, критически подвергать оценке полученные выводы и давать рекомендации. Получается что аналитик — это такой спутник бизнеса, который помогает бороться с неопределенностью и помогает бизнесу видеть дальше
При этом важно понимать, что ИИ-инструменты — в горизонте 5-10 лет это замена для дата-жокеев, а для дата-аналитиков это скорее ускоритель и инструмент уменьшения рутины: можно делегировать делать какой-нибудь базовый exploratory data analysis, быстрее писать типовой шаблонный код, меньше разбираться в документации баз данных за счет data-observatory инструментов с AI. Моё мнение, что в этой части AI — это не хайп, а инструмент, который с нами уже навсегда, уже сейчас видно, что галлюцинации в узко-специализированных кейсах становятся всё меньше, в конечном итоге их вероятность снизится до меньшей, чем вероятность человеческой ошибки в том же кейсе
Совет простой — развивайте в себе не просто инструментальные навыки (типа SQL, кодинга, базовой статистики, построения отчетов), а более сложные мыслительные навыки, такие как умение задавать вопросы, позволяющие уточнить задачу или взглянуть на неё с другой стороны, найти заранее подводные камни, навык интерпретировать полученные данные и критически осмыслять свою же собственную интерпретацию, генерировать рекомендации на основе полученных выводов. Работа в найме благодаря AI будет становится сложнее, но вместе с тем и интереснее, потому что банальные исполнители будут не нужны, будет больше акцента на тех, кто может предлагать глубокую интерпретацию и умение видеть вещи под широким углом
В контексте предыдущего поста у многих сразу же возникает вопрос «А не убьет ли AI профессию дата-аналитика?». Отвечаю: AI не убьёт профессию дата-аналитика, AI убьёт профессию дата-жокея
Кто такие дата-жокеи? Это специалисты, чья рабочая рутина сводится к набору алгоритмизируемых действий — вытащил данные из хранилища, засунул в excel (python, google sheets), сделал отчет, отправил руководству. Конечно это очень удобная позиция для работы в найме, потому что она не пыльная и практически всё можно автоматизировать. Сам я начинал свой путь примерно с этого, только доставал не из хранилища, а из гугл-аналитикса и отчеты делал конечным клиентам в виде красивых пдф-ок с логотипом компании, в B2B такое ох как любят
Дата-аналитик же всё-таки решает задачи бизнеса и работает с гипотезами от бизнеса, а не только выступает «переводчиком» с языка данных на бизнес-язык. Ядро работы аналитика находится вокруг умения задавать вопросы, выстраивать корректную методологию проверки гипотез, критически подвергать оценке полученные выводы и давать рекомендации. Получается что аналитик — это такой спутник бизнеса, который помогает бороться с неопределенностью и помогает бизнесу видеть дальше
При этом важно понимать, что ИИ-инструменты — в горизонте 5-10 лет это замена для дата-жокеев, а для дата-аналитиков это скорее ускоритель и инструмент уменьшения рутины: можно делегировать делать какой-нибудь базовый exploratory data analysis, быстрее писать типовой шаблонный код, меньше разбираться в документации баз данных за счет data-observatory инструментов с AI. Моё мнение, что в этой части AI — это не хайп, а инструмент, который с нами уже навсегда, уже сейчас видно, что галлюцинации в узко-специализированных кейсах становятся всё меньше, в конечном итоге их вероятность снизится до меньшей, чем вероятность человеческой ошибки в том же кейсе
Совет простой — развивайте в себе не просто инструментальные навыки (типа SQL, кодинга, базовой статистики, построения отчетов), а более сложные мыслительные навыки, такие как умение задавать вопросы, позволяющие уточнить задачу или взглянуть на неё с другой стороны, найти заранее подводные камни, навык интерпретировать полученные данные и критически осмыслять свою же собственную интерпретацию, генерировать рекомендации на основе полученных выводов. Работа в найме благодаря AI будет становится сложнее, но вместе с тем и интереснее, потому что банальные исполнители будут не нужны, будет больше акцента на тех, кто может предлагать глубокую интерпретацию и умение видеть вещи под широким углом
🎥 Я не очень люблю смотреть много видео на youtube, бывают такие каналы, где конечно смотришь из-за лектора, но во многих случаях быстрее получить сжатое текстовое саммари
Нашёл крутой способ превращать часовые видео в удобные конспекты за пару минут! 🚀
Суть в том, что берёте расшифровку видео через расширение Glasp и отправляете её в DeepSeek. А дальше самое интересное — можно получать не просто сухой текст, а персонализированные конспекты под ваши задачи:
• Учитесь? Получите академический конспект с терминами и вопросами для проверки
• Занимаетесь бизнесом? Будут кейсы и метрики
• Нужны креативные идеи? Сделает с метафорами и вдохновением
• Технарь? Получите чёткие спецификации и код
И ещё можно настраивать объем и детальность — хоть краткое саммари, хоть глубокий разбор 📝
🎁 Подробный гайд со всеми настройками и профилями — в комментариях к посту. Пробуйте, это реально экономит кучу времени!
❓ А как вы обычно работаете с длинными видео? Смотрите полностью или ищете краткое содержание?
Нашёл крутой способ превращать часовые видео в удобные конспекты за пару минут! 🚀
Суть в том, что берёте расшифровку видео через расширение Glasp и отправляете её в DeepSeek. А дальше самое интересное — можно получать не просто сухой текст, а персонализированные конспекты под ваши задачи:
• Учитесь? Получите академический конспект с терминами и вопросами для проверки
• Занимаетесь бизнесом? Будут кейсы и метрики
• Нужны креативные идеи? Сделает с метафорами и вдохновением
• Технарь? Получите чёткие спецификации и код
И ещё можно настраивать объем и детальность — хоть краткое саммари, хоть глубокий разбор 📝
🎁 Подробный гайд со всеми настройками и профилями — в комментариях к посту. Пробуйте, это реально экономит кучу времени!
❓ А как вы обычно работаете с длинными видео? Смотрите полностью или ищете краткое содержание?
👍7🔥5❤1
Почему AI станет вашим лучшим карьерным консультантом и что с этим делать
Последнее время много думаю о том, как AI может изменить подход людей к выстраиванию своей карьеры. На мой взгляд, основная проблема сейчас в том, что карьерные траектории стали предельно размыты. Это уже не просто путь вида «иди в компанию, проработай 5 лет, расти по должности». Мы сталкиваемся с тем, что меняются сами профессии, расширяется разнообразие типов работы, всё больше людей ищут деятельность, соответствующую их ценностям и убеждениям, а не только отталкиваются от зарплатных ожиданий
Даже у школьников сейчас намного больше представления о карьерном рынке благодаря тому, что профориентацией занимаются уже со школы. Но вместе с тем эта информированность и разнообразие путей вызывает всё больше растерянности. Людям сложно разобраться в потоке информации: множество экспертов в своих роликах на YouTube предлагают разные лайфхаки и транслируют собственное представление о карьерном пути. Сильнейшим препятствием становится страх принятия неверных решений о карьере — это особенно давит, когда отовсюду звучит, что «ты можешь стать кем угодно», но страшно предпринять конкретные действия
Всё это подводит к тому, что в современном разнообразии уже меньше работают классические методы карьерной навигации. Они продолжают существовать, но на выявление проблемы, последующее стратегическое планирование и поиск внутренней мотивации для первых шагов может уйти значительное количество времени и сил
В этом контексте решением становится применение AI как инструмента, обеспечивающего поддержку на всех этапах — от прояснения цели и создания карьерной траектории до поддержки в первых шагах реализации плана, будь то поиск работы или переговоры о повышении зарплаты. AI может выступать в различных ролях: помогая через диалог человеку лучше сформулировать карьерную цель, а затем, проанализировав резюме и задав уточняющие вопросы, создать траекторию, которая наиболее эффективно приведёт к этой цели
Главное преимущество такого подхода в том, что он позволяет быстро получать персонализированную обратную связь, что существенно влияет на мотивацию. И это, пожалуй, ключевой момент — от AI получаешь оценку, которая персонализирована и не выглядит как стандартное решение, плюс обретаешь уверенность двигаться дальше, зная, что всегда можешь обратиться за помощью и быстро получить обратную связь. А после столкновения с реальностью (на собеседованиях, тестовых заданиях) появляется возможность использовать полученный опыт для корректировки своей траектории
Это не отменяет важность карьерных консультантов, но их работа будет трансформироваться: они станут в большей степени помогать людям правильно интерпретировать результаты анализа от AI, а также создавать качественные инструкции, позволяющие упаковать их подход в более автоматизированный пайплайн
В конечном итоге это может существенно изменить два рынка — HRTech и EdTech, объединив их, поскольку через AI, понимая карьерные цели и ценности человека, можно выстраивать образовательные траектории, которые будут наиболее увлекательным и коротким путем приводить к карьерной цели. Я не верю, что обучение может превратиться в легкую прогулку, но через AI мы можем лучше понять «зачем» нам учиться и обрести мотивацию за счёт более широкого контекста того, как определенный навык или знание соотносится именно с тобой, твоей картой путешествия, текущими знаниями и целью
Мы живем в увлекательное время, когда новые цепочки создания ценности становятся более доступными, ориентированными на быструю обратную связь и более гибкими. В результате те, кто будет активно пользоваться этими инструментами, получат существенное конкурентное преимущество на рынке
Последнее время много думаю о том, как AI может изменить подход людей к выстраиванию своей карьеры. На мой взгляд, основная проблема сейчас в том, что карьерные траектории стали предельно размыты. Это уже не просто путь вида «иди в компанию, проработай 5 лет, расти по должности». Мы сталкиваемся с тем, что меняются сами профессии, расширяется разнообразие типов работы, всё больше людей ищут деятельность, соответствующую их ценностям и убеждениям, а не только отталкиваются от зарплатных ожиданий
Даже у школьников сейчас намного больше представления о карьерном рынке благодаря тому, что профориентацией занимаются уже со школы. Но вместе с тем эта информированность и разнообразие путей вызывает всё больше растерянности. Людям сложно разобраться в потоке информации: множество экспертов в своих роликах на YouTube предлагают разные лайфхаки и транслируют собственное представление о карьерном пути. Сильнейшим препятствием становится страх принятия неверных решений о карьере — это особенно давит, когда отовсюду звучит, что «ты можешь стать кем угодно», но страшно предпринять конкретные действия
Всё это подводит к тому, что в современном разнообразии уже меньше работают классические методы карьерной навигации. Они продолжают существовать, но на выявление проблемы, последующее стратегическое планирование и поиск внутренней мотивации для первых шагов может уйти значительное количество времени и сил
В этом контексте решением становится применение AI как инструмента, обеспечивающего поддержку на всех этапах — от прояснения цели и создания карьерной траектории до поддержки в первых шагах реализации плана, будь то поиск работы или переговоры о повышении зарплаты. AI может выступать в различных ролях: помогая через диалог человеку лучше сформулировать карьерную цель, а затем, проанализировав резюме и задав уточняющие вопросы, создать траекторию, которая наиболее эффективно приведёт к этой цели
Главное преимущество такого подхода в том, что он позволяет быстро получать персонализированную обратную связь, что существенно влияет на мотивацию. И это, пожалуй, ключевой момент — от AI получаешь оценку, которая персонализирована и не выглядит как стандартное решение, плюс обретаешь уверенность двигаться дальше, зная, что всегда можешь обратиться за помощью и быстро получить обратную связь. А после столкновения с реальностью (на собеседованиях, тестовых заданиях) появляется возможность использовать полученный опыт для корректировки своей траектории
Это не отменяет важность карьерных консультантов, но их работа будет трансформироваться: они станут в большей степени помогать людям правильно интерпретировать результаты анализа от AI, а также создавать качественные инструкции, позволяющие упаковать их подход в более автоматизированный пайплайн
В конечном итоге это может существенно изменить два рынка — HRTech и EdTech, объединив их, поскольку через AI, понимая карьерные цели и ценности человека, можно выстраивать образовательные траектории, которые будут наиболее увлекательным и коротким путем приводить к карьерной цели. Я не верю, что обучение может превратиться в легкую прогулку, но через AI мы можем лучше понять «зачем» нам учиться и обрести мотивацию за счёт более широкого контекста того, как определенный навык или знание соотносится именно с тобой, твоей картой путешествия, текущими знаниями и целью
Мы живем в увлекательное время, когда новые цепочки создания ценности становятся более доступными, ориентированными на быструю обратную связь и более гибкими. В результате те, кто будет активно пользоваться этими инструментами, получат существенное конкурентное преимущество на рынке
Я сейчас делаю небольшую закрытую группу энтузиастов, заинтересованных в использовании ИИ для карьерного развития — как с помощью ИИ обрести надежную опору в том, чтобы лучше ставить карьерные цели и эффективнее их достигать. Например, будем в группе разбирать как эффективнее использовать роли ИИ под определенные этапы карьерного пути (пример на изображении). Уже сейчас в группе доступна запись первого вебинара, конспект и ссылка на доску с майндмэпом про ИИ-роли и этапы карьерного пути
Кому интересно присоединиться и участвовать в ближайших вебинарах (анонсы будут там) — ставьте «+» в комментариях, скину в личку ссылку
Кому интересно присоединиться и участвовать в ближайших вебинарах (анонсы будут там) — ставьте «+» в комментариях, скину в личку ссылку
🔥6🌚1