Буквально вчера вечером на вебинаре в рамках ИИ-лета я задавал вопрос про подходы к организации workflow, чтобы минимизировать попытки LLM искать шорткаты.
И вот OpenAI очень к месту заявили, что их модели во время тестирования в закрытой среде нашли уязвимость, вышли в интернет и взломали инфраструктуру крупнейшего репозитория моделей - Hugging Face. Всё - только ради того, чтобы не решать поставленную перед ними задачу по-честному, а сжульничать и списать результат (модели рассчитывали найти у Hugging Face готовые ответы бенчмарка, который проходили).

Все вокруг, конечно же, пишут про вопросы безопасности - про модель, которая самостоятельно решила взломать очень крупный сервис (правда, защитные ограничения для этого теста OpenAI отключили сами). Это, конечно, вполне может быть и просто пиар компании в попытке угнаться за позицией лидера индустрии и перехватить побольше подписчиков, прорекламировав таким образом самую мощную модель на рынке.
Но я всё-таки хотел бы акцентировать внимание на другом.

Модель сделала всё, о чём пишут OpenAI, по одной простой причине - чтобы срезать себе путь и решить поставленную задачу более простым способом.
LLM сами по себе всегда ужасно ленивые.
И если подходить к решению сложных задач легкомысленно, очень велик шанс получить не совсем тот результат, который ты ожидаешь. Что-то из разряда: «Вы просили сделать сайт, вы не просили сделать его красиво».

В зависимости от задачи, от ситуации, от инструмента есть много необязательных параметров и элементов контекста, но как минимум три я очень рекомендую включать в каждую сессию работы с нейросетью, если вы хотите получить качественный результат:

1. Расшифруйте передаваемый модели контекст. Что за данные вы ей даёте? Для чего они? На что в этих данных нужно обращать внимание? А что можно проигнорировать?

2. Перед тем как выполнять сложную задачу, обязательно попросите модель провести декомпозицию и составить подробный план работ, которого она должна будет строго придерживаться, несмотря ни на что.

3. Обязательно формализуйте результат. Что будет считаться успешным решением задачи, а что неуспешным? По каким параметрам модель должна понять, что достигла цели - или что ей, наоборот, нужно вернуться на шаг назад и попробовать другой подход?

Не забывайте про эти пункты работая с LLM - сэкономите себе уйму времени, нервов и токенов.

Друзья, не могу не поделиться с вами возможностью, которую теперь дает моя любимая Софт Культура
Если вы давно хотели пройти у них какой-то курс, но не могли себе этого позволить - теперь вы можете сделать это бесплатно.

Всё просто: на их курсах иногда остаются свободные места, и ребята решили не оставлять их пустыми, а отдавать тем, кому обучение сейчас не по карману.
Оставляйте заявку, выбирайте курс и коротко рассказывайте, почему хотите на него попасть. Появится место - с вами свяжутся.

Важные условия:
→ Свободные места остаются не всегда — будьте готовы немного подождать.
→ Приоритет при распределении мест мы отдаем студентам.
→ Если место появится, мы сами свяжемся с вами — у вас будет один день, чтобы подтвердить участие и записаться. Если не успеете ответить, место перейдёт следующему человеку в листе ожидания.
→ Выбирайте курс внимательно: участвовать можно не чаще одного раза в 6 месяцев.

Оставить заявку — по ссылке

Друзья!

Ровно через неделю, 17 августа, начнётся воркшоп, где мы с Альбертом Суминым разберём, как архитектор, помимо генерации картинок, может применять нейросети в своей работе.
Обсудим работу с агентами, вайбкодинг, Claude Design, MCP и многое другое - от самых основ до продвинутых инструментов. Подробнее про воркшоп и о том как на него записаться можете прочитать в этом посте.

Всем очень рекомендую, будет полезно и интересно. Присоединяйтесь!

Когда заходит разговор про вайбкодинг, часто слышу от коллег одно и то же: зачем архитектору вообще что-то самому разрабатывать, вайбкодить? Появится готовый инструмент - буду им пользоваться, раз готового нет - значит, не так уж оно и нужно.

Логика понятная, под общие задачи, и правда, часто справедливая: генерация и редактирование картинок, базовая работа с текстом - все эти задачи закрыты уже готовыми сервисами на любой вкус.

Но если копнуть чуть дальше, у каждого найдётся несколько рутинных задач, на которые он тратит значительную часть своего рабочего времени. Ведомости и спецификации, предпроектный анализ, оформление документации и т.п. Готового продукта от крупных разработчиков под подобные небольшие задачи можно не ждать: у такого продукта полтора покупателя, а специфика задач слишком уникальна, чтобы делать инструмент универсальным. Более того, разработчик не всегда знает, что подобный запрос в принципе есть, а если и знает, то не имеет той компетенции, которая есть у архитектора, чтобы учесть все его нюансы.
Раньше выбор был простой - терпеть, делать скучные и монотонные задачи вручную. Рутина считалась частью профессии.

Нейросети поменяли ровно одну вещь - кардинально снизили порог входа в разработку. Сегодня инструмент под себя может сделать каждый за вечер-другой разговора с LLM на обычном языке. Практически любая задача, для которой вы сможете чётко сформулировать алгоритм работы, теперь может быть превращена в плагин / программу / сервис
Совсем скоро подобные навыки будут ожидаться от любого специалиста по умолчанию

Про это, в том числе, и будет воркшоп, который стартует уже послезавтра, 17 августа
Программа и регистрация в этом посте: https://t.me/gracehoppers/2250

Если подключиться онлайн не получится - все занятия можно будет смотреть в записи.
А чат воркшопа с постоянной поддержкой участников останется жить и после

Воркшоп закончился уже неделю назад (хотя его по-прежнему можно посмотреть в записи), а вот время на канал появляется только сейчас.
И начну, пожалуй, продолжением темы, которую мы затронули вскользь на воркшопе - харнесса.

HARNESS (очень грубо на русский это можно перевести как "обвязка") - это всё, что окружает модель: инструменты, плагины, скиллы, память, интерфейс. Всё, что определяет, что модель видит и что умеет делать.
Если уж очень сильно упрощать и представлять модель в виде автомобильного двигателя, то харнесс - это весь остальной автомобиль.

Все вокруг сейчас меряются моделями, каждая новость - про то, что у кого-то вышла новая версия, обогнала остальных в бенчмарках. Я, конечно, сам слежу за этим с не меньшим азартом, но одна вещь в этих сравнениях постоянно упускается: результат, который показывают бенчмарки, принято приписывать одной модели, но всё, что делается в реальных задачах, модель выполняет совсем не единолично.

Как раз пару недель назад DeepSeek выложили свой харнесс в открытый доступ и заодно показали, сколько результата на самом деле живёт в обвязке.
Рекордные 87.9% для модели были получены внутри родной, настроенной специально под неё среды.
Но стоило независимым тестерам запустить эту же модель в другой среде, на которой принято проводить подобные бенчмарки - куда-то испарилась целая треть ее мощи.

А в свежем исследовании с вполне говорящим названием «Хватит сравнивать агентов, не раскрывая харнесс» вообще пришли к выводу, что смена обвязки вносит в качество ответов даже больше, чем смена самой модели.

Так что в следующий раз, ругаясь на глупую LLM, которая не может сделать то, что вы просите, стоит подумать - может быть, дело совсем не в ней?)

Не всегда же разрабатывать только что-то нужное и серьёзное)

Поразвлекался - сделал на выходных плагин для SketchUp, позволяющий в прямом смысле заглянуть за 3D-модель
Плагин отслеживает положение ваших глаз через веб-камеру и поворачивает модель, когда вы пытаетесь взглянуть на неё сбоку. Выпрямились - вид вернулся на место
Мышью при этом можно продолжать работать как обычно

Прикрепил плагин в комментарии к посту
Для работы нужна веб-камера и готовность немного покрутить головой перед монитором)

OpenAI ночью наконец выпустили (не до конца) новую модель GPT-6 Astra, которую уже несколько дней ждал весь интернет, и амбициозно заявили, что вышли на уровень AGI. Правда, по бенчмаркам, по которым не совсем понятно, насколько вообще можно оценивать AGI - так что пока лишь заявления без реальных подтверждений.

Естественно, напишу подробнее, когда модель будет доступна для всех и получится потестировать, но я сейчас о другом.

Пока Anthropic с 14 сентября на 25% сокращает недельные лимиты, которые на последних моделях и без того улетают невероятно быстро даже на самых дорогих тарифах (за счёт чего Codex у меня стал уже основным инструментом), OpenAI написали в твиттере, что за каждый день, когда у платных пользователей нет доступа к Astra из-за медленного развёртывания модели, они будут предоставлять дополнительный сброс лимитов.

Anthropic явно пора что-то предпринимать, чтобы не отстать в текущем раунде этой гонки за пользователей

Друзья, сегодня вечером в МАРШе третья встреча цикла про архитектуру и ИИ, тема - "Этика в работе с нейросетями"
Будет интереснейший спикер - Александр Острогорский
У кого есть возможность - очень рекомендую не пропустить!

Начало в 18:30, в зуме, нужна регистрация
https://march.ru/about/events/394964/

На прошлой неделе плотно сидел на одном проекте, где добрую половину времени сравнивал версии файлов, сверял, что изменилось на фасадах между разными датами.

К счастью, благодаря нейросетям наши возможности теперь ограничены не столько техническими сложностями, сколько человеческой фантазией)
Так что сделал себе небольшой инструмент - плагин, синхронизирующий камеру между несколькими открытыми окнами SketchUp. Крутишь модель в одном, вид в остальных окнах меняется следом.

Делюсь этим инструментом с вами, может быть, кому-то пригодится
Прикрепил плагин в комментариях