В дополнение интересный отрывок из разговора Питера с Лексом Фридманом. Как раз обсуждают опыт разработки с ИИ-агентами

How to code with AI agents - Advice from OpenClaw creator | Peter Steinberger and Lex Fridman

#aiassisteddev@longlivetale #vibecoding@longlivetale

Тут такое дело. Я веду лекции у студентов 3-го курса ИТ-направлений (в данном случае это студенты не МФТИ). Для тех, кто давно учился и в счёте курсов не шарит, поясняю. 3-й курс - это ребята плюс-минус 20 лет. Третий курс - это перед четвертым, на котором надо писать диплом и завершать обучение.

Лекция проходила 14 февраля суббота вечер (на секундочку). Специальная лекция для всех влюблённых в ИИ, коих собралось на лекции около ста человек. Верю, что ребята с искренним интересом и желанием находились на этой лекции ☺️

Тематика мозгового штурма -
"О роли ИИ в учёбе".
Участников +-100 человек

Вопросы были примерно следующие:
Вопрос 1. Про то, где и как уже использую ИИ.
Вопрос 2. Про то, где ИИ - хороший наставник.
Вопрос 3. Про то, где ИИ - откровенно плох.
Вопрос 4. О правилах использования в учёбе. (Да-да, вопрос студентам)

Как и всегда, методика проведения супер-классная и эффективная. Используем общий чат. Сначала генерим ответы. Потом их оцениваем (лайкаем). Рекомендую.

И вот что вышло в итоге. Спасибо ИИ-ассистенту за анализ истории чата и подготовку выжимки.

Топ-5 идей по лайкам (Народный выбор)
Самые резонансные мысли, получившие максимальную поддержку аудитории (суммарное количество реакций):

* «ИИ начинает путаться и забывать часть кода или уходить в другой контекст при исправлении» (22 реакции) — Главная боль: регрессия кода.

* «Для разбора конкретных непонятных тем, не стыдно задать самый тупой вопрос» (20 реакций) — Главная ценность: психологическая безопасность.

* «Строит иллюзию, что у тебя всё работает, а на деле...» (18 реакций) — Главная опасность: ложное чувство компетентности.

* «На этапе идеи, вайб-кодинг, корректировка мыслей...» (16 реакций) — Главный сценарий: преодоление страха чистого листа.

* «Если нужно сделать работу быстро, а времени чтобы разобраться в технологии нет» (16 реакций) — Главный мотиватор: горящие дедлайны.

Основные смысловые кластеры
Темы, вокруг которых строилось всё обсуждение:

* «Бюрократический бульдозер»: Студенты массово используют ИИ для генерации отчетов, введений, заключений и «воды», чтобы удовлетворить формальные требования вуза.

* «Терпеливый репетитор»: ИИ используется как замена токсичным ответам на StackOverflow или занятым преподавателям. Ему можно задать вопрос «как для пятилетнего».

* «Код-ревьюер с амнезией»: ИИ хорош для поиска идей и старта, но ужасен в поддержке больших проектов — он ломает то, что работало, и теряет контекст.

* «Кризис доверия к программе»: Студенты считают, что вынуждены использовать ИИ, потому что учебные материалы устарели, а задания сформулированы непонятно.

👇👇

👆👆

Сводка смыслов по вопросам (Структурированное саммари)

Вопрос 1. Где УЖЕ используете?
- Отчеты и документация (Лидер): Написание пояснительных записок, введений, выводов, форматирование по ГОСТу.
- Старт работы: «Вайб-кодинг», генерация идей, создание каркаса/структуры проекта.
- Экстренная помощь: Когда горят сроки и нет времени вникать в суть.
- Траблшутинг: Поиск ошибок, когда «глаз замылился».
- Микро-задачи: Генерация рутинного кода, SQL-запросов, CSS-стилей.

Вопрос 2. Где ИИ — идеальный сеньор-наставник?
- Объяснение сложного: Разбор непонятных тем, «разжевывание» документации и лекций.
- Психологический комфорт: Возможность задавать «глупые» вопросы без страха осуждения.
- Понимание задачи: Студенты скармливают ИИ непонятные ТЗ от преподавателей, чтобы ИИ перевел их на человеческий язык.
- Тесты: Решение тестов и подготовка к экзаменам (генерация вопросов для самопроверки).

Вопрос 3. Где ИИ проваливается?
- Контекст и память: Не справляется с большими проектами, забывает начало диалога, ломает рабочую архитектуру.
- Галлюцинации: Выдумывает несуществующие библиотеки, статьи и ссылки на источники.
- Зацикливание: Предлагает одно и то же неработающее решение по кругу.
- Творчество и юмор: Плохо справляется с нестандартными, «человеческими» задачами и юмором.
- Иллюзия работы: Пишет код, который выглядит как рабочий, но содержит логические дыры.

Вопрос 4. Правила использования в учебе?
Самое интересное, учитывая что отвечали сами ребята - студенты

- Запрос на актуальность: «Проблема не в ИИ, а в программе обучения». Студенты хотят интересных задач, где ИИ будет инструментом, а не способом скипнуть скуку.
- Запрет для новичков: Многие согласны, что на первых курсах (изучение базы) ИИ нужно ограничить, чтобы сформировались нейронные связи в голове.
- Верификация: Ввести правило «Доверяй, но проверяй». ИИ — помощник, ответственность — на студенте.
- Реверс-инжиниринг заданий: Использовать ИИ, чтобы преподаватели проверяли свои задания на понятность перед выдачей студентам.

Уникальные и неожиданные мысли
- «Прогонять через ИИ задания преподавателей»: Неожиданный поворот. Студенты предлагают использовать ИИ не для решения, а для проверки качества формулировок самих преподавателей (чтобы ТЗ было понятным).
- «Вайб-кодинг»: Использование современного сленга, описывающего процесс программирования в потоке с ИИ, где ты больше дирижер, чем писатель кода.
- «Юридический консультант»: Использование ИИ для специфических ролевых моделей при тестировании ПО.
- Буллинг: Упоминание, что ИИ не умеет или ему запрещено «буллить» (в контексте критики кода это может быть минусом, так как он слишком мягок, или плюсом).

Такие дела.
Надеюсь кому-то из вас это будет интересно, а кому-то даже полезно.
Всем спасибо за внимание к этому вопросу!

Цель системы - это то, что она делает
Кстати, классная концепция POSIWID - "The Purpose Of a System Is What It Does".
Придумал ее Энтони Стаффорд Бир - кибернетик и теоретик менеджмента. Если вы посмотрите на его последние фото, то он похож не то на Хагрида, не то на профессора Дамблдора из Гарри Поттера. Но это нисколько не отменяет того, что он был очень умный дядька.

Основной принцип POSIWID: Истинная цель любой системы определяется её фактическими результатами, а не заявленными намерениями или декларируемыми целями.

По сути POSWID - это эвристика, которая полезна в практических целях. Буквально она означает то, что написано. Если вам говорят одно, а вокруг происходит другое, то реальностью нужно считать то, что происходит, а не то, что говорится.
Как следствие, эта эвристика становится полезной для диагностики дисфункций в системах.

Примеры
Корпоративная культура
Заявлено: "Мы ценим баланс рабочего и личного времени"
Реально происходит: Продвигают только тех, кто задерживается по вечерам и работает по выходным.
POSIWID вывод: Реальная цель - максимизация рабочих часов.

Модерация контента/“борьба с токсичностью”
Заявлено: “здоровая коммуникация”
Факт: банят за слова, а не за сутевое поведение; провокаторы адаптируются; нормальные уходят.
POSIWID: Реальная цель - снижать видимую токсичность, а не улучшать среду.

В широком смысле это хорошо работает не только в организационных системах, но и в личном окружении.
Бывало у вас такое, что люди говорят одно, а делают совершенно иное?
Рекомендую понаблюдать за средой вокруг 🧐

#системноемышление@longlivetale

Есть и такое мнение. В какой-то мере с ним согласен. Картинка, конечно, из другой сферы (инвестиции), но отлично демонстрирует мысль.

"Я вот что понял с этими всеми агентами, клаудботами и курсорами. Это невероятно, что оно умеет делать и с какой скоростью развивается. Но, парадоксально, именно это служит причиной того, что оптимальная стратегия - ничему этому не учиться. Ну unless это вот прямо сейчас нужно для чего-то. А вот чтобы просто "не отстать" ни на какие вайбкодинговые курсы ходить не надо.

Кто постарше помнит, что в 90х мы все знали наизусть все процессоры, материнские платы, звуковые и видео карты, производителей памяти и винчестеров. Все абсолютно собирали себе компы сами. И кому сейчас нужен этот скилл? ну может 0.1% каких-то совсем упоротых гиков.

И сейчас технология развивается так, что уметь делать себе агентов и строить личные системы оркестрации итп уже в течение года будет ненужным скилом. Ваш опыт будет как у Железного человека с его Джарвисом. Можно голосом разговаривать и он будет делать софт, сайты, билеты покупать итп. Если скилл собирать компы стал ненужным за 10 лет, скилл делать агентов станет ненужным за год.

Так что можно сидеть и ждать спокойно ))"

Будущее становится чуточку ближе.
Я часто ребятам на лекциях рассказываю, что ИИ-компании метят в коммерческий флоу. Т.е. хотят отнять жирный кусок еКома у текущих каналов (маркетплейсы и прочее). А выглядеть это будет примерно так, как написано в статье.

Сначала в ИИ-ассистенты ушёл ПОИСК. Потом туда уйдёт ВЫБОР товаров/услуг. А затем туда уйдут собственно ПОКУПКИ.
Такие дела.

«Яндекс» создает внутри компании подразделение, которое будет развивать транзакции в «Алисе», узнал Forbes. Компания хочет, чтобы нейросеть могла не только помогать с выбором, но и совершать покупки: от уточнений у продавца и оплаты со скидкой по карте лояльности до отслеживания доставки и общения с поддержкой. По оценкам «Яндекса», к 2030 году на покупки внутри ИИ-ассистентов будет приходиться около 10% онлайн-транзакций, а это более 3 трлн рублей. Агентная коммерция пока, по сути, в зачаточном состоянии, но аналитики предрекают ей быстрый рост в ближайшие годы, причем «Яндекс» по сравнению с другими маркетплейсами располагает значительными технологическими преимуществами.

Недавно по чьей-то случайной наводке наткнулся и читаю интереснейшую книгу "Чужой разум. Осьминоги, море и глубинные итоги сознания", автор Питер Годфри-Смит.

Питер Годфри-Смит - морской биолог, PhD и профессор Сиднейского университета. Как он сам пишет о себе - "мои основные исследовательские интересы лежат в области философии биологии и философии сознания."

Почему осьминоги?
Мы (люди) в настоящий момент находимся на вершине эволюционного "древа". Мы обладаем большим мозгом и сложным телом, сложным и гибким поведением.

Осьминоги - это совершенно независимый от нас эволюционный эксперимент по созданию крупного мозга и сложного поведения. Наш общий предок с эволюционной точки зрения жил 600 миллионов лет назад.

" ... эволюция создавала мышление дважды. Это, вероятно, ближайшая аналогия встречи с инопланетным разумом".

В общем, очень классная книга, которая открывает разные неожиданные факты о жизни осьминогов и в целом описывает текущие наши представления об эволюции живых существ, и того что мы называем интеллект, мышление, психика, сознание и вот это всё прочее.

Изначально хотел написать про белый шум, упоминание которого встретилось неожиданно в этой книге. Но придётся сделать это в другой раз 🤷‍♂️

Кстати, из забавного. Казусы эволюционного процесса.
"Пищевод - трубка, через которую пища, попадающая в рот, поступает внутрь тела, - у осьминога проходит сквозь середину центрального мозга. Кажется полной нелепостью - там мозгу явно делать нечего. Если осьминог проглотит что-то острое, способное проткнуть ему "глотку", то острый предмет попадает ему прямо в мозг. И таких пострадавших находили не раз."

«Четыре столпа научения», я подробно расскажу о некоторых хитростях, которые делают наш мозг самым эффективным самообучающимся устройством, известным на сегодняшний день. В значительной степени нашу способность к научению модулируют четыре основных механизма ...

Один из классных дополнительных эффектов чтения книг заключается в следующем. Часто авторы ссылаюаются на другие книги и авторов, которые тебе могут оказаться интересными.
Рассказывал недавно, что читаю книгу про осьминогов "Чужой разум". В ней автор пишет про Станисласа Деана.
Станислас Деан - известный практикующий французский нейрофизиолог и популяризатор науки, в своей книге "Как мы учимся. Почему мозг учится лучше, чем любая машина ... пока" отмечает следующее интересное.

В значительной степени нашу способность к научению модулируют четыре основных механизма:
Внимание, Активное вовлечение, Обратная связь и Компиляция.

Первый – это внимание, система нейронных сетей, которые отбирают, усиливают и передают сигналы, считающиеся нами релевантными, тем самым усиливая их воздействие в нашей памяти в сто раз.

Второй столп – активное вовлечение: пассивный организм почти ничему не научится, ибо научение требует активного генерирования гипотез, мотивации и любопытства.

Третий столп – обратная связь: всякий раз, когда реальность не совпадает с нашими ожиданиями, в нашем мозге распространяются сигналы ошибки. Они корректируют имеющиеся ментальные модели, исключают непригодные гипотезы и стабилизируют наиболее точные.

Наконец, четвертый столп – это консолидация: периодически наш мозг компилирует (собирает воедино) то, что он усвоил, и переносит это в долговременную память, тем самым высвобождая нейронные ресурсы для дальнейшего научения. Важную роль в этом процессе консолидации играет повторение. Мозг активен даже во сне; во время сна он в ускоренном темпе воспроизводит свои прошлые состояния и перекодирует знания, приобретенные в течение дня.

Эти четыре столпа универсальны: младенцы, дети и взрослые всех возрастов используют их каждый раз, когда задействуют свою способность к научению. Вот почему все мы должны научиться владеть ими – именно так мы сможем научиться учиться.

Такие дела

#мозг@longlivetale

На Физтехе сегодня тоже праздник -
1 июня — День защиты детей… от лженауки!
Коллеги позвали выступить перед детьми (4 - 44 года) от в формате научного стендапа с какой-либо провокационной тематикой.
Почему бы и да, подумал я.
Что ж ... вызов принят! 😱