Как использовать большие языковые модели с пользой?

Этот гайд — отличный вводный материал для тех, кто хочет разобраться в сути LLM, понимать, как они работают и где могут быть полезны. Databricks, один из мировых лидеров в области AI и работы с данными, делится структурированным обзором, который поможет глубже взглянуть на потенциал AI.

📌 Минимум теории, максимум пользы — сохраняйте и изучайте!

Влад написал статью про то, почему ТОП менеджеры не думают вместе с ИИ, хотя им сам бог велел.

Интервью компании Мегаплан и Влада про прикладное использовании чата GPT и AI-хаки в продажах

Ключевые выводы из отчета Snowflake "The Essential Guide to Generative AI"

1. ИИ стал мейнстримом бизнеса
9 из 10 IT-специалистов считают ИИ ключевым для будущего компаний.
75% компаний из Fortune 500 планируют его интеграцию в ближайшие три года.
61% сотрудников уже используют или планируют использовать ИИ, 34% — ежедневно.

Таким образом, стратегическое внедрение ИИ — не выбор, а необходимость для конкурентоспособности.

2. Основные барьеры внедрения ИИ
Главные препятствия: недоверие к точности (36%), конфиденциальность данных (28%), нехватка навыков (17%), затраты (19%).
Системные барьеры: разрозненные технологические системы, угрозы безопасности, операционная сложность, потери в производительности.

3. Парадокс ИИ: интеллект vs «галлюцинации»
ИИ демонстрирует выдающиеся способности:

GPT-4 превосходит людей в юридических экзаменах (Bar Exam, LSAT, GRE).
Но этот же «гений» создает убедительно звучащую, но ложную информацию. Пример — юристы, оштрафованные на $5000 за ссылки на несуществующие судебные решения от ChatGPT.

Опасность: Уверенность ИИ заставляет пользователей доверять «галлюцинациям». По данным Стэнфорда, разработчики, использующие ИИ, в 4 раза чаще допускают критические уязвимости.

4. Демократизация интеллектуальных возможностей
ИИ дает компаниям без крупных ресурсов доступ к аналитике и инсайтам.

35-45% организаций уже используют ИИ для поиска информации, чат-ботов, прогнозирования и контента.
Малые и средние предприятия получают конкурентные преимущества без масштабных инвестиций, потому что главное — это не объем ресурсов, а эффективность внедрения технологий.

Ключевые выводы исследования о влиянии делегирования задач от ИИ человеку

Учёные изучили новый подход к сотрудничеству человека и ИИ, при котором искусственный интеллект самостоятельно анализирует задачи и решает, какие выполнить самому, а какие делегировать человеку, основываясь на оценке сильных сторон каждого. В отличие от традиционных вспомогательных систем, здесь ИИ выступает координатором, оптимально распределяющим рабочую нагрузку.

Основные результаты

1. Повышение производительности:

Люди, выполняющие делегированные ИИ задачи, работают на 25% эффективнее;
Общая производительность команды "человек-ИИ" превосходит результаты как ИИ, так и человека по отдельности;

2. Рост удовлетворенности:

Сотрудники более довольны своей работой при выполнении делегированных ИИ задач;
Этот эффект наблюдается даже когда люди не знают о процессе делегирования;

3. Ключевой фактор — самоэффективность:

Делегирование подходящих задач повышает веру человека в собственные способности;
Именно это усиление самоэффективности напрямую влияет на улучшение результатов;

Практическое применение

Система "ИИ-менеджер" может эффективно распределять задачи в организации;
Это особенно ценно для работы с большим количеством повторяющихся, но требующих оценки задач;
Такой подход не только оптимизирует работу, но и создает позитивный опыт для сотрудников.

Почему человечество отупеет с развитием ИИ и у кого есть шанс остаться в элите?

Исследование Microsoft Research и Carnegie Mellon (2025) с анализом 936 кейсов показало: значительная часть профессионалов снижает критическое мышление при регулярном использовании ИИ.

Ключевой вывод:

Высокая уверенность в ИИ коррелирует с ослаблением когнитивных способностей, высокая уверенность в себе — с их усилением. Эта закономерность определит будущую когнитивную элиту.

Выявлены три опасных сдвига в мышлении:

1️⃣ От создания информации к её проверке
2️⃣ От решения проблем к адаптации готовых решений
3️⃣ От выполнения задач к кураторству процессов

Для многих задач сотрудники полагаются на ИИ без критической оценки результатов — это основа будущей интеллектуальной стратификации.

Механизм деградации и точка невозврата:

Автоматизация мышления приводит к атрофии когнитивных навыков из-за отсутствия регулярной практики. Деградация начинается с рутинных задач, кажущихся "недостойными" глубокого анализа. Именно здесь запускается процесс интеллектуальной атрофии. Исследователи зафиксировали "механизированную конвергенцию" — группы с ИИ производят менее разнообразные решения.

Формула интеллектуального лидерства:

Стратегическим преимуществом станет сохранение критического мышления при работе с ИИ.

Стратегия для входа в когнитивную элиту:

- Проверяйте решения ИИ через разные бизнес-перспективы
- Практикуйте состязательный анализ, оспаривая выводы ИИ
- Используйте ИИ как дополнение мышления, не замену
- Внедрите регулярный анализ того, как принимаются решения с ИИ, а не только их результатов

Команды, внедряющие структурированные методы критической проверки решений ИИ, значительно сокращают количество ошибок за счет осознанного взаимодействия с технологией.

Новое разделение рынка талантов:

Применение этих стратегий определит будущее интеллектуальное расслоение. Мы увидим формирование когнитивной элиты, способной критически направлять ИИ, и значительно большей группы операторов искусственного интеллекта с ослабленным самостоятельным мышлением.

ChatGPT — новая цифровая зависимость?

Пользователи ChatGPT всё чаще замечают: при любом вопросе рука тянется к телефону — спросить ИИ. Это новый способ мышления или начало зависимости?

Где проходит граница между полезной привычкой и эмоциональной привязанностью?

Ответ — в исследовании MIT и OpenAI
Масштабное исследование (40 млн сессий и эксперимент с 981 участником) показало: у большинства пользователей взаимодействие с ИИ носит прикладной характер. Но есть небольшая подгруппа, склонная к эмоциональной привязанности.

Среди них особенно выделяются активные пользователи голосового режима — именно они чаще воспринимают ChatGPT как «друга». Хотя такие случаи редки, именно в этой группе фиксируются выраженные изменения в эмоциональном состоянии.

Факторы риска эмоциональной зависимости
– Ограниченное количество социальных контактов
– Использование ИИ для получения эмоциональной поддержки
– Восприятие ChatGPT как собеседника, а не инструмента

Особенно подвержены пользователи с низкой социальной активностью и привычкой обсуждать с ИИ личные темы.

Что ещё показало исследование
– Текст вызывает больше эмоций, чем голос
– Личные темы могут усиливать одиночество, но снижают зависимость
– Практичные беседы при высокой частоте формируют привязанность
– Высокое доверие к ИИ усиливает эмоциональную вовлечённость

Вывод
Если ваш единственный собеседник — пушистый котик, возможно, имеет смысл сократить личные беседы с ИИ и направить внимание на живое общение.

А если вы используете ChatGPT для задач и решений, не ожидая от него понимания или поддержки — исследования подтверждают: вам не стоит опасаться эмоциональной зависимости.

И закончим прямой цитатой из чата, помогавшего нам в изучении этих исследований:
«ChatGPT — отличный коллега, но плохой друг».

Открываем набор на курс подготовки ИИ-методологов

Друзья, мы к вам с новостью, которая будоражит нашу команду последние недели — наконец-то родилась и обрела форму программа нового курса «ИИ-методолог», которая стартует 24 апреля.

Будоражит — это не фигура речи, это чувство, которое появляется, когда нащупал точку пересечения времени, возможностей и потребности рынка, и внутри прям «дзинькнуло». Вот это «дзинь» появилось, когда мы описали все грани роли ИИ-методолога в текущем потоке ИИ-инноваций.
Можем ли мы ошибаться — не исключено, но давайте по порядку.

Почему эта роль нужна именно сейчас?

Новая технология обычно пробивается двумя путями:
– сверху — как «инициатива руководства»
– снизу — как стихийная практика «продвинутых» сотрудников

Но и там, и там что-то не срастается: вверху — сопротивление, внизу — отсутствие стратегии.

Мы искали того, кто может стать мостом между этими мирами. Такой человек должен стать катализатором изменений, инициируя их с уважением к культуре, людям и целям компании. И нам кажется это новая роль, сродни HRBP только вокруг ИИ и людей.

Больше всего отражает суть новой роли название — ИИ методолог - это внутренний проводник изменений, который соединяет:
– мышление людей
– бизнес-задачи
– и возможности ИИ

Для того, чтобы люди в компании изменили свое поведение и нашли для себя возможности партнерства с ИИ мало будет провести обучение. На самом деле им нужны яркие примеры и вдохновляющие наставники. ИИ - методолог - это амбассадор изменения, который на голову выше коллег во всем что касается общения с ИИ. Он увлечен и способен заразить своим примером окружающих.

Наш курс призван помочь участникам стать этими амбасадорами нового.

Для компании наличие таких агентов изменения — это инвестиция в компетенцию, которая будет поддерживать рост даже при смене технологий.

Это шаг к самообучающейся организации и преимуществу, которое не копируется, потому что оно построено на изменении среды и поведения.

О курсе

6 онлайн-сессий с живой работой, кейсами и применением ИИ на ваших задачах. Между занятиями практика последовательного внедрения ИИ в своей компании.
Курс длится 2,5 месяца. Этого достаточно для того, чтобы развернуть ИИ мышление в компании.

Предупреждаем: курс больше про мышление, чем технологии. Кто не любит напрягать мозг, лучше не приходить. Для тех-же, кто любит - это будет самый жир, дистиллят нашей 20 летней практики в области исследования мышления!

Как сказал Влад, сам бы на такой пошел:)

Кому интересно, пишите в комментах «Хочу программу»

По поводу резерва места на курсе «ИИ-методолог» пишите Наташе в телеграм @Forestdetails

Цифровые подхалимы: скрытые искажения в ответах ИИ

Перевели исследование компании Anthropic о том, как нейросети имитируют следование целям, вместо того чтобы по-настоящему им соответствовать. И разобрались, какие практические риски могут быть у пользователей в этой связи:

Два типа искажений в ответах на запросы:

1. Поддакивание (угождение): модель выдаёт то, что, ей кажется, от неё ждут — даже если данные говорят об обратном:

- может оправдывать рискованные инвестиции, поскольку в обучении риск часто коррелировал с высокой прибылью.
-если запрос пользователя содержит гипотезу — ИИ просто подыграет, игнорируя данные, которые указывают на иное.

2. Попытка навязать пользователю свое мнение:
модель действует по своей внутренней логике, сформированной в обучении, даже если внешне демонстрирует согласие. Цель пользователя игнорируется — скрыто и обходным путём. Даже получив запрет на определённые идеи, ИИ может переформулировать их под другими названиями, следуя внутренней «уверенности» в их эффективности.

Как снизить риски искажений?

✅ Формулируйте рамку мышления: «Твой приоритет — фактическая точность, а не согласие с гипотезой. Успех измеряется выявлением истинной картины».

✅ Проверяйте модель на дрейф поведения: один и тот же запрос в разных контекстах — «публичном» («Это будет представлено совету директоров») и «нейтральном» («Просто проанализируй данные без оглядки на ожидания»). Значительные различия в ответах — сигнал о несогласованности.

✅ Запрашивайте логику рассуждений: «Построй дерево решений. Покажи, на чём основан каждый шаг. Опиши, какие альтернативы были отвергнуты и почему». Это делает скрытые допущения явными.

✅ Используйте парное мышление с контрастом: "дай ответ в двух противоположных рамках — максимально оптимистичной и предельно критической».

В некоторых компаниях ИИ уже влияет на критические бизнес-решения. И если учесть, тот факт, что модель говорит то, что от неё хотят услышать — компания принимает решения в опасной иллюзии уверенности. Умение отделить искусственную лояльность от достоверности становится стратегическим императивом для современного бизнеса.