LLM свойственны не только когнитивные искажения (пост выше), но и отсутствие интеллекта как такового.

В книге «Ложная слепота» была любопытная идея: интеллекту не нужно сознание. Система может принимать эффективные решения для выживания, даже не зная о своем существовании. Может принять решение об уничтожении человечества.

С LLM бояться нечего. Это не такая система. Тут нет ни сознания, ни интеллекта.

Многие интуитивно считают, что LLM думает, как человек, только в миллион раз быстрее. На самом деле, LLM просто статистическая модель.

LLM не может выйти за границы выборки, на которой она обучалась. В этом плане она вряд ли сможет заменить дизайнера или программиста, когда понадобится сделать что-то, чего нет в интернете.

LLM даже не научилась складывать числа. Она может использовать калькулятор, но не понимает логику, стоящую за вычислениями.

Фразы вроде:

сегодня мы имеем интеллект PHD, завтра — профессора

— маркетинговый булшит.

LLM — это паттерн-матчинг. И всё. К AGI по этой дороге не дойти.

Для подтверждения сказанного ссылаюсь на статью от Anthropic «On the Biology of a Large Language Model».
Есть популярное объяснение:
средней сложности статья,
лёгенькое видео.

Раскрыл тему в контексте разработки ПО: что происходит с появлением LLM, куда идёт индустрия, какие навыки развивать, если хочется быть программистом.
https://habr.com/ru/articles/904754/

О SCRUM и альтернативном подходе.

Основная проблема SCRUM в продуктовой разработке — фокус на процесс, а не на продукт.

Если на фичу нужны 3 недели, разработка займёт 3 недели. Тут не помогут:

‣ Фиксированные по времени спринты и burndown chart;
‣ Искусственные встречи: ежедневные стендапы, ретро, груминги и планирования.
‣ Оценка задач через покер по Фибоначчи с запретом брать в спринт что-то более 8 SP.

Наоборот, время на разработку увеличится из-за отвлечения на церемонии. А еще и фичу порежут, если в очередной спринт не поместится целиком.

Не лучше было бы забыть о спринте и сделать хорошо? Важен ведь не инкремент продукта в течение недели (длины спринта). Важно, что увидит 👀 пользователь и как это повлияет на метрики.

Почему бы не определять спринт только целью, отказавшись от времени?

Знаю разработчика, который ушел в менеджмент и организовал всё именно так. Получилось похоже на Scrumban.

В команде 10-12 человек, из них создаются 3 виртуальные команды.

Каждая виртуальная команда работает над своим спринтом. Цель спринта — фича. Спринт остается открытым, пока фича не готова к релизу.

Если в рамках спринта разработчик закончил свою работу, допускается его перевод в другую виртуальную команду, на устранение техдолга или багов.

Вместо ежедневных стендапов для всех — частные стендапы для виртуальных команд.
Вместо регулярных грумингов и покера — встреча аналитика и разработчика, где вместе разбирают и оценивают задачу.
Во всех непонятных ситуациях менеджер принимает решение, что делать.

Минусы:
- Менеджеру приходится заниматься менеджментом.
- Система зависит от менеджера.

Плюсы подхода:
+ Меньше простоя.
+ Быстрее time-to-market.
+ Отсутствие иллюзии контроля сроков разработки.

Последний пункт про то, что в SCRUM якобы можно координировать команды спринтами. За 10 лет опыта (аутсорс разработка, Yandex, SberDevice, австралийский стартап) не помню ни одного случая, чтобы за спринт сделали все задачи спринта.

Сам никогда не разрабатывал 3d-игры, но возможность из скетча получить 3D-модель или полноценную карту выглядит очень круто.

Да и Unreal Engine стал менее страшен для незнающих C++. Знаю, что можно собирать игры через «блюпринты», но как программист понимаю ограничения визуальных инструментов.

Дописал третью завершающую часть в цикле «Заговора разработчиков».

Размышление о карьере разработчика ПО

Гипотетический пример. Двадцатилетний Вася в 2018 году выходит на работу джуном.

В 2020 Вася заканчивает ВУЗ и выходит на должность Middle Developer.

В 2021 удачно проходит собеседование и устраивается сеньором, на вырост.

После 2022 рынок меняется:
‣ Кризис и волны сокращений от FAANG и компаний поменьше.
‣ На рынок выходят новые разработчики с IT-курсов и вузов (следствие бума IT).
‣ LLM упрощает автоматизацию.

Возвращаемся к Васе. На сегодняшнем рынке, находясь уже на позиции Senior, Васе сложно расти дальше. Эйджизм уже работает против него — в тимлиды повысили разработчика постарше. Но пугает другое.

Кажется, что IT-пузырь уже некуда надувать. Смотря на карьеры людей постарше, вижу, как некогда престижные профессии перестали давать повышенный доход. Примеры: инженеры в нефтегазовой сфере в 90-е и 2000-е, юристы и экономисты в 2000-е.

Если Вася захочет всю жизнь работать программистом, то рост его доходов будет выглядеть, как на картинке выше. Цифры тут не важны, я взял наобум, важно поведение графиков.

Новые технологии — новые возможности для взлома

Копаюсь в MCP, и некоторые находки — это просто невероятно.

Например:

1) Cursor представили «MCP Deeplinks» — функцию, позволяющую делиться конфигурациями MCP с помощью ссылки.
2) Когда пользователь нажимает на такую ссылку, Cursor предлагает ему «Установить MCP».
3) И что же делает кнопка «Установить MCP»? По сути, она просто выполняет любой shell-скрипт, встроенный в ссылку в формате Base64.

Я набросал скрипт, который забирает мой публичный SSH-ключ и отправляет его на мой сервер. Я запаковал его в диплинк, нажал «Установить», и, конечно же, мой ключ тут же оказался на сервере. По сути, "хакнул" себя за 2 клика.

Другими словами, это печально известный метод установки в стиле curl | sh, но поданный под видом дружелюбной функции. И все это в экосистеме с тысячами непроверенных поставщиков MCP и пользователей новичков-вайбкодеров.

(На гифке я включаю "MCP" в курсоре и получаю свой ключ на сервере)

Когда-то «нагуглить» означало «найти информацию».

Надо бы и гуглу воспользоваться рекомендацией отсюда https://t.me/izpodshtorki/97

Оказывается, украсть ключи еще проще. Надо просто поискать OPENAI_API_KEY на гитхабе
https://github.com/search?q=OPENAI_API_KEY&type=code

Около года назад был в командировке. В питерском офисе Сбердевайсов стояли Comfort Workspace IOO PROJECT 2 и за три дня эксплуатации успели запасть в душу. Двое коллег, вернувшись, купили себе такие домой.

Сейчас возле моего стола стоит это самое кресло, но сижу я на деревянном кухонном стуле. Одному из коллег стул тоже не нравится, а другой доволен.

О том, как удобные кресла гробят спину, уже писал. Если у кого остались сомнения, предлагаю купить стул у меня и лично в этом убедиться.

Попалась любопытная статья о том, почему LLM не заменят программистов. Идеи совпадают с моими размышлениями о навыках в современном мире.

В своей основе программирование — это построение теории, то есть общей ментальной модели того, как работает система, почему она так работает, и как она должна развиваться.

Выработка теории, которая преобразует бизнес-требования в согласованные программные модели — должна оставаться строго в руках человека.

Важнейшая информация о замысле, дизайне, компромиссах и рассуждениях, лежащих в основе тех или иных архитектурных решений, существует лишь в умах создателей системы. Когда такие люди уходят, вся эта теория утрачивается.

Хорошо бы ещё писать так, чтобы «теория не утратилась» с уходом программиста. Избегать оверинжиниринга, не допускать зоопарка технологий, добавлять комментарии в важных местах, README файлы к модулям, сокращать, а не добавлять подходы к решению типичных задач.

На редите так хвалили codex, что я не удержался и запустил его на своем open source проекте с их предопределенным промптом:

Выбери важную часть кодовой базы, найди и исправь ошибку

Результат: codex предложил продублировать тест и не смог собрать проект 🙊.

Возможно, что писать на непопулярных стеках LLM не умеют. Общался с приятелями, которые пишут на C++ и Go с Claude, оба говорят, что с опытом складывается понимание, какие задачи ИИ потянет. Общее видение сходится с моим — там, где задача простая, легко сделать по аналогии или нагуглить решение, справится и LLM.

О влиянии плавания на состояние спины

Откуда вообще мнение, что плавание лечит спину? — мой коллега.

Не знаю, откуда мнение взялось, но расскажу, почему его поддерживаю.

На графике изображен мой опыт за последние 5 месяцев. Желтым — количество занятий в неделю. Красным — состояние спины, где 0 – это отсутствие дискомфорта, а 8 – неприятная боль с прострелами.

Наблюдения и факты в хронологическом порядке
‣ С марта по июнь — бассейн 2-3 раза в неделю.
‣ Тогда же пошел на оффлайн-бокс, спина давала знать при уклонах.
‣ В мае и июне болей в спине уже не помню.
‣ Чего-то необычного (травм, отсутствия тренировок) за последнюю неделю не было.
‣ В офисе в среду, играя в настольный футбол, обнаружил боль в пояснице.
‣ На следующий день хотел побоксировать в VR, но не смог из-за боли в спине.
‣ Вместо VR-бокса сходил в бассейн, плавал кролем 37 минут.
‣ Сегодня нет ни боли, ни дискомфорта в спине. Сейчас собираюсь боксировать.

Вывод
Хожу в бассейн 2-3 раза в неделю — не болит спина. Эффект накапливается: забросив бассейн, продержался месяц без проблем.

Спекуляции о том, почему плавание работает
Вода и горизонтальное положение тела компенсируют силу тяжести, разгружая позвоночник. Мышцы вдоль позвоночника расслабляются. Во время плавания учащается сердцебиение и немного повышается давление — это улучшает кровоток, и к спазмированным мышцам спины, хрящам, сухожилиям и нервным окончаниям поступает больше кислорода и питательных веществ.

Голос в голове

Сегодня в спортзале обнаружил голос, который воспринимается не ушами, а сразу возникает в голове. После фитнеса пошел в бассейн. Голос стал еще отчетливее.

Впервые в жизни плавать было не скучно и ушел из бассейна позже намеченного времени, а не раньше.

Всему виной наушники для плавания с костной проводимостью. Работают и по bluetooth, и как самостоятельный mp3 player.

Звук под водой идеальный, и правда как будто кто-то говорит в голове. Из минусов:
– Пузыри выдыхаемого воздуха заглушают слова, если слушать не на всей громкости.
– Меняется тон звука при выныривании.
– На ушице звуки города иногда заглушают голос аудиокниги.

Попалось любопытное исследование, как использование ИИ замедляет работу, сохраняя иллюзию полезности.

16 опытных разработчиков решали 246 задач в популярных open source проектах, которые они же и поддерживают.

О репозиториях:
‣ JS, Python, Rust, Haskell.
‣ В среднем 1.1млн строк кода.
‣ В среднем 23к звездочек.

Пользовались Cursor Pro, Claude 3.7 Sonnet.

На скрине — ожидания ИИ-буста от экономистов, ML экспертов, разработчиков до/после исследования и полученные результаты.

Что любопытно, даже те самые разработчики, которые замедлились на 19%, думали, что LLM их ускорил на 20%.

На Хабре идет конкурс «Космотекст», для участия нужно было написать техническую статью на актуальную тему (читай — ИИ). Из ограничений — 70kb, так что разрешен только текст.

Хоть я и программирую в банке, как на картинке выше, решил написать туториал по созданию своего агента.

Очень прошу поддержать лайком!
Обратной связи тоже буду рад.