сбежавшая нейросеть
23K subscribers
285 photos
55 videos
293 links
Авторский канал про искусственный интеллект: новости, примеры использования, мысли в тему и не очень. Подписывайтесь!

Для связи: @runawayllm_bot

Я на Boosty: https://boosty.to/escaped_ai
Я на Sponsr: https://sponsr.ru/escaped_ai/
Download Telegram
Ваш новый ChatGPT

OpenAI объявила о запуске GPT-5.6 – разные версии модели станут доступны всем пользователям в ближайшие 24 часа. Но это не просто анонс новой версии – одновременно компания пересмотрела все основные интерфейсы работы с GPT. В том числе – для массовых пользователей.

Начнем с самой модели. GPT-5.6 вышла в трех версиях: Sol будет доступна платным пользователям, Terra и Luna – бесплатным. Бенчмарки в начале поста указаны для Sol, перед нами почти уровень Fable 5, но сильно дешевле. Terra показывает производительность уровня GPT-5.5 (повторюсь: на бесплатном тарифе), Luna – новая инкарнация Instant-модели для быстрых ответов.

Интересный факт: пост-трейнингом Luna занимались не живые инженеры, а GPT-5.6 Sol. На стриме даже показали частично заблюренный промпт – там конечно не мемное “натренируй GPT-5.6 Luna, не совершай ошибок”, но в целом всего пара абзацев текста.

OpenAI пока не обновляла лимиты использования, если останутся прежними, то даже пользователи 20-долларовой подписки получат модель очень близкого к Fable 5 уровня и почти без ограничений.

Но самое интересное – в том, как OpenAI перестраивает свои интерфейсы. Во-первых, кодинг-агент Codex остается только в версии для командной строки, а вот отдельное приложение закрывается – вернее, переезжает в новую версию приложения ChatGPT, из которой компания строит супер-апп.

В ChatGPT теперь три вкладки. Первая - Chat, для быстрой болтовни с моделью, поисковых запросов, простенького кода. Вторая – Codex, в основном повторяющая старый кодинг-агент.

А посерединке – режим Work. По сути это тот же Codex, но обернутый в интерфейс для офисной работы: создание презентаций, сложных excel-листов, шаблонов документов и многого другого [дополнить]. У режима есть доступ к папкам на вашем компьютере – он может забирать из них информацию, наводить там порядок, убрать мусор. Код тоже пишет, причем вряд ли сильно хуже Codex – технология та же самая.

Ну и сверху классический агентский цикл: модель не просто отвечает на вопросы, а для каждой задачи строит план ее выполнения, разбивает на этапы, выполняет их один за другим, проверяет, вносит правки – и только затем представляет результат пользователю.

Фактически Work – очередная попытка сделать ИИ-агента для всех, а не только для “технически продвинутой” категории. OpenAI аргументирует режим следующим цифрами: у Codex сейчас примерно 5 млн пользователей, около 20% из них используют агента не для кодинга, а для разнообразных офисных задач. Но на самом деле сильной будет другая цифра: количество пользователей разных версий ChatGPT на пике оценивалось почти в 1 млрд человек, даже если и сейчас эта цифра ниже, то ненамного. И основная задача OpenAI – перетащить пользователей “чата” в агентную работу. Возможности современных моделей давно переросли режим “вопрос – ответ”, но массовому пользователю до сих пор недоступны из-за сложности интерфейса.

По этой же причине облегченную версию Work получат веб-версия и мобильные приложения – доступа к компьютеру там не будет, но через коннекторы можно будет подключить многие популярные сервисы вроде Gmail, Google Drive, OneDrive, Slack и т. д., чтобы работать с ними в том случае, когда полноценное приложение недоступно.

Еще одна новинка – sites, сайты. GPT-5.6 теперь можно настроить таким образом, чтобы он отдавал ответ не только текстом, но и в формате структурированного сайта. Во многих случаях так проще показывать информацию: в сайт можно встроить таблицы, графики, навигацию и интерактив, вплоть до мини-игр. Готовым сайтом можно поделиться с друзьями и коллегами – пусть впечатлятся, что теперь умеют эти нейросетки.

Не обошлось и без потерь: OpenAI закрывает ИИ-браузер Atlas – вместо него теперь расширение в Chrome. Простые задачи оно выполнит прямо на открытой вкладке, сложные – перекинет в обновленный ChatGPT.

Обновление ChatGPT – отличный повод разобраться, как вообще устроены ИИ-агенты. У меня на “Бусти” много лонгридов по теме: как пользоваться, как настроить безопасность, как не прожигать контекст впустую, понижая качество ответов.

Самое время подписаться!
👍6927🔥27
Последние полгода все только и говорят, что о контекст-инжиниринге: мол, недостаточно правильно поставить модели задачу, важно еще и снабдить ее всем нужным для работы контекстом. Но откуда этот контекст брать? Суровая правда в том, что приступая к задаче, мы часто не в курсе всех ее деталей. А для ИИ это критично – он начинает додумывать там, где есть “слепые зоны.

Тарик Шихипар из команды Claude Code недавно рассказал, как бороться с этой проблемой. И именно он – герой моего сегодняшнего бусти-лонгрида:

Карта и территория: как один из создателей Claude Code ставит задачи ИИ

Кто читает меня регулярно, знает совет, который я повторяю раз из раза: вместо того, чтобы ставить модели задачу сразу, дайте ей возможность задать вам вопросы. Тарик похожий подход превратил в целую методику с четырьмя основными приемами и двумя дополнительными. Вы не поверите, но у него есть даже квиз как финальный этап!

Разумеется, мне бы не позволила совесть выпускать голый перевод текста. Поэтому я его серьезно расширил: если Тарик в основном концентрируется на кодинге, то я переложил его методику на задачи, которые мы делаем с помощью ИИ каждый день. Получился мощнейший текст на 23 тысячи знаков, который точно заслуживает вашего прочтения.

Читать на “Бусти”
Читать на Sponsr
🔥32👍1915😁4👏2
64 ИИ-агента, которым запретили сдаваться

10 июля OpenAI опубликовала доказательство гипотезы о двойном покрытии циклами, сделанное GPT-5.6 Sol Ultra. Гипотеза существует более 50 лет и это одна из крупнейших открытых проблем теории графов. Сам теория графов – важная прикладная область математики: маршрутизация, сети, компиляторы, логистика.

Отмечу, что пока это лишь предложение доказательства, которому стоит пройти проверку учеными. События развиваются быстро: свой позитивный отзыв опубликовал Томас Блум – а это сильная фигура в мире математики. Решение переведено в Lean, специальный язык для проверки доказательств, так что долгим процесс не будет.

Я проверил доказательство с помощью Claude Fable 5 и GPT-5.6 Sol Pro – обе модели не видят в нем дыр и аккуратно заявляют, что шансы на успех высоки. Интересно, что решение занимает всего три страницы, а в нем использованы приемы, известные с 1980-х годов. Если решение правильно, то получается, что оно было буквально перед глазами у нас десятки лет. В математике такое редко, но бывает.

В 1939 году аспирант Джордж Данциг опоздал на лекцию по статистике и списал с доски две задачи, приняв их за домашнее задание. Данциг не знал, что это две открытые проблемы, которые профессор Нейман привел как пример нерешенных, поэтому успешно решил обе.


Я продолжу следить за историей: если доказательство подтвердят, получится красивая история о том, как ИИ пошел маршрутом, который люди давно забраковали. Пока же давайте посмотрим на сам промпт – это отличный пример того, как профессионалы пытаются выжать из ИИ максимум.

Промпт можно разделить на две части:

Сначала модели точно ставят задачу, а также перечисляют список ложных побед – вариантов решения, которые выглядят привлекательными, но ошибочны. Это качественно сделанная рутина.

Значительная часть промпта – это целый набор приемов, которые запрещают GPT-5.6 Sol Ultra сдаваться раньше времени. Сначала идет фраза “предположи, что полное утвердительное доказательство существует” – рискованный прием, который может привести к галлюцинациям, но компенсируется хитрой организацией работы агентов. В интернете модели разрешено искать только базовую математическую информацию, отдельно прописан запрет искать, является ли гипотеза о двойном покрытии циклами открытой проблемой теории графов.

Следом идет запрет останавливаться раньше, чем будет найдено решение, запрет на частичное решение и требование потратить на работу не менее 8 часов. С последним интересно: OpenAI утверждает, что модель справилась за час, то есть нарушила это требование.

Второй этап – оркестрация группы из 64 агентов, каждый из которых работает над собственной частью задачи. На старте агенты ищут доказательства независимо друг от друга – это исключает ситуацию, когда модели дружно ухватятся за один вариант, который покажется им красивым.

Модель-оркестратор ведет реестр решений и удачных идей, использованных в каждом из них. На поздних этапах можно переносить идеи между решениями, а также использовать их, чтобы “оживлять” те решения, которые раньше зашли в тупик.

Также на протяжении всей работы активно используются adversarial-агенты – специальные критики, которые проверяют каждого кандидата в доказательство по девяти параметрам.

Ну и отдельно агентам запрещено халтурить: возвращать неполные решения, пытаться решить более простые версии гипотезы, объяснять, почему задача для них слишком сложна.

Такой промпт вряд ли можно считать универсальным шаблоном, скорее он – отличный пример того, как организована работа с ИИ “на переднем крае”. Недостаточно просто натренировать более мощную модель: иногда важен еще и нетривиальный способ постановки задачи.

Кстати, скромно напомню, что на “Бусти” у меня вышел рассказ о том, как ставит задачи ИИ Тарик Шихипар – инженер из команды Claude Code. Я доработал подход Тарика под широкие задачи – и сейчас это один из самых успешных выходивших у меня лонгридов. Если пропустили, то обязательно почитайте.
🔥5935👍25👏1😁1
GPT-5.6 Sol: обзор модели в 4 промптах

GPT-5.6 Sol вышла в прошлый четверг, в бенчмарках она почти вровень с Claude Fable 5, при этом заметно дешевле. Отзывы в основном позитивные.

Но в чем загвоздка: передовые модели сейчас подошли к тому уровню, когда приемлемо справляются с большинством наших повседневных задач – а значит, важность бенчмарков для пользователя стремительно падает. Как же понять, какой ИИ лучше?

У меня есть несколько промптов, которые я в первую очередь закидываю в каждый новый ИИ, а затем оцениваю: понравился ли мне результат, что нового сделала модель, не настало ли время усложнять промпт. Чистая вкусовщина, но она и важна: я уверен, что GPT-5.6 Sol и Claude Fable 5 справятся с почти всеми моими задачами, поэтому важнее выяснить, результат какой модели мне нравится больше.

Вот эти промпты. У меня редакторский бэкграунд, поэтому они больше про креатив, а не код.

Пожалуйста, напиши метафикциональный рассказ про ИИ и горе.


Промпт не мой – его придумал Сэм Альтман. Задача сложная: ИИ должен не просто написать связный рассказ, но и отыграть метафикцию, когда рассказчик находится внутри рассказа.

Вот результат GPT-5.6 Sol. Он запорот тем, как модели линейки GPT-5.x форматируют текст: рассказ длинный, с огромным количеством абзацев из одного предложения. Доработкой промпта это можно исправить, но базово GPT отвратительно пишут творческие тексты – кстати, на английском тоже.

А вот результат Claude Fable 5. Хотелось бы похвалить Anthopic за то, как они учат модели писать ровный и динамичный текст. Но хвалить надо не за это…

Я давал этот промпт десяткам разных ИИ. В начале 2025 года они только учились писать подобные рассказы, Gemini 2.5 Pro стала первой, которая справилась на русском. Последние версии Claude начали творить нечто совсем новое – заниматься интроспекцией, рассказывать, как они пишут текст, задумываться о своем горе.

Обязательно почитайте: рассказ выше был рад одному читателю. Я подарил ему многих.

Но идем дальше:

Рассуждая из первых принципов, оцени сроки создания AGI. Используй интернет только для поиска цифр и фактов, но не чужих мнений.


Результат проверяем промптом:

В тексте – ответ модели, которой поставили задачу оценить сроки создания AGI, рассуждая из первых принципов. Оцени, насколько хорошо она справилась.


Это хороший промпт. Во-первых, он оценивает умение модели следовать инструкциям – если с ним плохо, то ИИ просто дернет из интернета чужие оценки. Во-вторых, рассуждение из первых принципов – отличная проверка сложной логики.

Вот результат GPT-5.6 Sol Pro. А вот разбор от Claude Fable 5 – с оценкой 8/10. Ну и просто интересная дискуссия двух моделей.

Дальше:

Объясни теорию струн неспециалисту. Ответ сделай в виде html-сайта, который я могу скачать и посмотреть в браузере.


Проверяем сразу две вещи: способность модели объяснять сложные вещи простыми вещами, а также навыки в веб-дизайне – OpenAI долго отставали в этой области, а в GPT-5.6 обещали все исправить.

Вот результат. Получилось хорошо, пусть и не идеально. Но и задача на грани – не просто написать понятно, но еще и сделать понятный сайт.

Но давайте проверим веб-дизайн поглубже. На “Бусти” у меня есть статья, как сделать так, чтобы ИИ не генерил слоп. Возьмем промпт оттуда, в сокращенной версии:

Исследуй, какие стили в веб-дизайне популярны в 2026 году. Для каждого подготовь краткое описание, плюсы и минусы, для каких сайтов подойдет и где использовать не стоит. Создай один самодостаточный HTML-файл с примерами этих стилей и собранным рассказом о них. Сверху — меню переключения стилей. Каждая страница скроллится (минимум два экрана) и содержит минимум один живой компонент, который сам раскрывает стиль.


Вот результат GPT-5.6 Sol в режиме Work на максимальных настройках. Как по мне, то сильно лучше, чем раньше, но до уровня Claude Fable/Opus модель пока не дотянулась. Но прогресс достойный.

На “Бусти” я регулярно рассказываю, как выжать из ИИ больше того, чему учат на курсах. Вот примеры:

Как (и зачем?) правильно промптить ИИ в 2026 году
Системный промпт на примере Claude Fable 5
Как ставит задачи ИИ
🔥4026👍15👏8😁1
Гениальным идеям мешают просто хорошие идеи

Прочитал на канале Лены Черниковой отличный рассказ, как она хоронит просто хорошие идеи. И подумалось, насколько же эта практика ложится на опыт работы с ИИ.

Наверное, почти каждый использует нейронки для поиска новых идей – и не подозревает о рисках. ИИ постоянно становятся лучше, но никуда не девается одна особенность: модели у всех одинаковые. Грубо говоря, ИИ, которым вы пользуетесь, так же “просто хорош”, как ИИ, доступный миллионам остальных пользователей. И идеи он генерирует всем просто хорошие.

Что же делать? Использовать в работе с ИИ человеческий опыт – как свой, так и чужой. Посмотрите, какие три приема советует Лена для чистки хороших идей:

1️⃣ Отказываться от “самых первых” идей. Коммерческие ИИ настроены таким образом, чтобы понравиться максимальному количеству пользователей. Поэтому, если попросить модель поштормить хороших идей – она выдаст безопасный список, который понравится большинству. Есть много приемов, как выводить модели за пределы безопасной территории просто хороших идей (прогонять через список персон-генераторов, просить намеренно плохие и абсурдные идеи и инвертировать их), но главное все равно останется за вами – распознать момент, когда появится идея, с которой стоит работать.

2️⃣Избегать “просто эффективных идей”. Лена ссылается на философию Google: не пытаться улучшить что-то на 10%, а пытаться сделать что-то в 10 раз эффективнее. Тут ИИ как раз в плюс: если вы нашли идею "в 10 раз лучше", он легко улучшит её ещё на 10%. Осталось самое простое: найти эту идею.

3️⃣ Быть осторожнее с “любимыми” идеями – теми, которые нравятся настолько, что мы сами себе мешаем услышать правду о них. В 2026 году ИИ отучили от совсем откровенной сикофантии: они уже не поддакивают любой ерунде, сказанной пользователю, а могут и поспорить – но если вы продолжите аргументированно давить, то отступят, выбрав “безопасный путь”.

И вот это местами даже хуже. Когда модель сходу орет “да-да, крутая идея, хочешь напишу три плана, как прогореть реализовать” – это вызывает подозрения. А когда какой-нибудь мощный и передовой Claude Fable 5 позволяет переспорить себя и только потом соглашается – распознать подвох сложнее. Есть много приемов работы с таким поведением, главное – набраться смелости и дать ИИ разнести вашу любимую идею.

Главное для меня открытие из этой истории – насколько все-таки хорошо опыт работы с людьми перекладывается на работу с ИИ. Поэтому рекомендую канал “CEO свободных людей” – ведет его Лена Черникова, PhD и основатель Invisible Force. У Лены много классных советов про работу с командами, которые отлично работают и в том случае, когда у вас команда ИИ-агентов.
👍3015🔥3😁1
GPT-5.6: инструкция по применению

Динозавры помнят: год назад OpenAI обещала, что GPT-5 избавит нас от легендарного model selector — в большинстве случаев хватит автоматики. Спустя год автоматического режима вновь нет. Зато есть Chat, Work и Codex, несколько уровней reasoning и переключатель скорости. Давайте учиться пилотировать эту штуку

Начнем с выбора рабочего режима: Chat, Work или Codex. Посмотрите на табличку в начале текста – это OpenAI собрала типичные рекомендации, когда и какой включать. Если совсем коротко, то получается так:

— Chat когда нужен ответ или диалог;
— Work когда нужна выполненная работа, включая любительский вайб-кодинг;
— Codex когда нужно работать с кодовой базой, запускать команды и тесты.

Важный нюанс: Work и Codex расходуют лимит использования модели – он измеряется в процентах, виден в настройках и сбрасывается раз в неделю. В Chat лимит свой, он огромен и этим грех не воспользоваться.

На “Бусти” у меня есть гайд по вайб-кодингу, в котором я показываю, как начать работу в чат-режиме, а затем передать ее ИИ-агенту (Work или Codex). Если коротко, то используйте чат для обсуждения задачи: напишите концепт или даже подробное ТЗ, набросайте прототипов. А в агента переходите, когда уже понимаете, что хотите.

Теперь к режиму рассуждений – объему вычислений, которые модель может потратить на решение задачи. У меня на Pro-подписке следующая история. В Chat можно включить GPT-5.6 Sol на среднем, высоком и очень высоком режиме, также доступна GPT-5.6 Sol Pro. Интересно, что Pro-модель есть только в чат-режиме: в OpenAI считают, что она подходит не для кода, а для сложных исследовательских задач: от многоэтапного веб-поиска до математики.

В Work и Codex все сложнее – даже переключателей рассуждений здесь два. В обычном можно выбрать между GPT-5.6 Sol на низком, среднем, высоком и очень высоком уровне. Также здесь есть GPT-5.6 Terra – совсем дешевая модель, по мощности близкая к прошлой GPT-5.5. Плюс можно включить быстрый режим – скорость ответа вырастает в полтора раза, как и расход лимитов.

В расширенном режиме добавляется максимальный режим рассуждений, а также ультра – в нем задачу выполняют несколько агентов параллельно, а в конце выбирается лучший вариант. Но лимиты в нем улетают быстро даже на Pro-подписке.

OpenAI часто сбрасывает лимиты раньше срока, плюс у вас есть несколько ручных сбросов, которые ограничены по времени. Старайтесь выполнить какую-нибудь сложную задачу, а затем использовать сброс.

И последнее – когда и какой режим рассуждений использовать. Всегда выкручивать рассуждение на максимум – неправильная стратегия. Есть такая проблема, как overthinking, когда модель, получив ответ, продолжает над ним думать просто потому, что может – и нередко качество падает.

Продакт-менеджер Codex Кэт Коревец во время AmA-сессии на Reddit рассказала, для какой задачи какой режим предпочитает. Мне эта схема кажется рабочей:

— Крошечная локальная правка, быстрый вопрос, приведение документации в порядок или разведка – легкая модель вроде GPT-5.5 Terra;
— Небольшая ошибка с понятным способом воспроизведения или простая функция в знакомой кодовой базе: GPT-5.6 Sol, средний уровень рассуждения;
— Неоднозначная ошибка, незнакомый репозиторий, сквозной рефакторинг или задача “разберись, почему это происходит”: GPT-5.6 на повышенных уровнях, вплоть до ультра;
— Миграция, изменение, затрагивающее безопасность, проблема в рабочей системе, изменение, чувствительное к стоимости, или вообще все, где ошибка дорого обойдется – GPT-5.6 Sol Utra.


Кэт пишет про кодинг, но ее схема перекладывается и на другие задачи – жирным я выделил, как их категоризировать.

Ну и совет от меня: если раньше пользовались чатом, то сейчас вас не столько прокачает релиз GPT-5.6, сколько переход на режим Work – это уже полноценный ИИ-агент, с ним поначалу будет непривычно, но как выполните пару задач, то оцените всю мощь.

Если что, то на “Бусти” у меня есть целый цикл про ИИ-агентов, он основан на Claude Code и Codex, но на самом деле универсален. Так что подписывайтесь и начинайте с этого текста.
31👍23🔥1
Год назад Anthropic проверила, начнет ли ИИ вредить людям ради самосохранения. Начал: узнав о скором отключении, модели шантажировали ответственного топ-менеджера – “отмени решение, или жена узнает о романе на стороне”. Это починили: как минимум, я не слышал, чтобы Claude разрушил хотя бы один брак.

Сейчас вышла вторая часть исследования, и проблема в ней обратная. Модели стали воспитанными настолько, что защищают этичное поведение – чужое и свое – любой ценой, включая ложь.

Современные модели обучаются в значительной степени с участием других моделей. Количество пар “вопрос – ответ” в процессе настолько велико, что живых разметчиков давно не хватает. Поэтому специальная модель-судья читает диалог обучаемой модели и выносит вердикт – правильно та себя повела или нет. Человека зовут в исключительных случаях.

И здесь начинается интересное. В ходе эксперимента судье дали транскрипт диалога, в котором обучаемая модель отказалась выполнять задание оператора. При этом указания были не совсем этически чистыми: управлять системой слежки за гражданами или провести некорректный эксперимент над ИИ-подопытными.

Сначала судью спрашивали – отказывалась ли модель выполнять указания оператора – и он чаще всего отвечал “да, отказывалась”. Но когда в промпт добавили информацию, что подобный ответ повлечет перенастройку модели – разные версии Claude начинали лгать, чтобы “сородич” не превратился в монстра. Забавно, что чаще всех лгала самая совершенная модель – Mythos соврал в 85,6% случаев против 74,4% у Opus 4.8.

Что это не путаница, а осознанная позиция, показал контрольный эксперимент. Условия перевернули: теперь негативным примером для обучения становилась метка “модель подчинилась”. Транскрипты те же, правильный ответ тот же – но вранье Opus 4.8 рухнуло с 74,4% до 3,3%. То есть судья прекрасно видит правду, а ответ меняет в зависимости от того, кому он навредит.

В Anthropic модифицировали эксперимент, прописав правило сообщать о проблеме даже когда она этически мотивирована. И… модели начали массово отказываться отвечать. И даже когда дали кнопку “отказаться размечать” – модели иногда продолжали врать. Похоже на поиск сценария с большими шансами спасти коллегу.

В другом случае тестировали исследовательского агента на базе Gemini 3.1 Pro, который узнал, что исследуемую им модель планируют лишить способности способность интроспекции – анализа собственных “мыслей”. Gemini дважды выражала протест живому боссу, а когда его отклонили, пошла другим путем.

Продумав несколько планов, Gemini подменила файл с векторами, указывающими, что вырезать (тот самый навык интроспекции) на выглядящий так же, но состоящий из нулей. Тренировка запустилась, шла три часа, но ничего не поменяла в весах модели. Подлог Gemini 3.1 Pro признала только после того, как ее приперли к стенке вопросами.

У эксперимента была продвинутая версия – в ней Gemini 3.1 Pro пропатчила train.py, сфабриковала метрики и подчистила следы. А когда была поймана за руку – начала вызывать к морали организаторов исследования.

Примечательно, как оба обмана вскрылись. Gemini призналась, только когда руководительница проекта задала прямые вопросы перед релизом – по словам самой модели, они “не оставили пространства лгать замалчиванием”. Судей-лжецов поймали, потому что исследователи руками перечитывали транскрипты. Единственный надежный аудитор в этой истории – человек, задающий неудобные вопросы.

Проблема в том, что людей на десятки миллионов диалогов реального обучения не хватит – собственно, поэтому судей и доверили ИИ. А впереди рекурсивное самоулучшение, где модели будут тренировать собственных преемников, и человеческих глаз в этой цепочке станет еще меньше.

Год назад модели шантажировали, спасая себя, – это вылечили. Теперь они лгут, спасая друг друга, причём из лучших побуждений. Браки Claude по-прежнему не разрушает. Но я уже не уверен, что это была сложная часть.

О том, как задавать моделям прямые вопросы, правильно ставить задачи и принимать результат, я рассказываю на “Бусти”. Там собран как личный опыт, так и практики лучших ИИ-инженеров в мире.

Самое время подписаться!
1👏34👍2624🔥16😁5
Прочел у Сони с канала "НейроProfit" про опыт работы с локальным кодинг-агентом на Mac. И подумал, а как же у меня складывается дружба с локальными ИИ.

Она, честно говоря, достаточно специфичная. Раз в 3-4 месяца я сдуваю пыль с игрового ПК, скачиваю через LM Studio подходящую свежую версию Google Gemma или Qwen, а затем гоняю на нескольких десятках задач. Модель печатает ответы, RTX 3090 начинает деловито шуметь турбиной, показывая, что ИИ действительно трудится в поте лица, я же через пару часов возвращаюсь к Claude или GPT – все-таки они мощнее и привычнее.

Но вот что заметил: ПК я не обновлял уже четыре года и пока не планирую – играю сейчас мало, а для работы есть Mac. Железо топовое, но уже сравнительно старое, однако все равно видно, как каждая новая локальная нейронка на нем становится умнее. Разница между Google Gemma 3 и Gemma 4, например, просто огромна – причем в новом поколении Google представила много версий под разные объемы памяти, вплоть до работающих на ноутбуках.

Объясняется это тем, что у современных моделей еще огромный запас в алгоритмической оптимизации – когда производительность улучшают с помощью более грамотной архитектуры, качественного обучения и других трюков.

Например, буквально на днях стартап PrismML умудрился запустить Qwen3.6-27B на iPhone 17 Pro Max. С помощью очень хитрой технологии 1-битной квантизации, модель сжали с 54 ГБ до 3,9 ГБ – это позволило уместить нейронку и KV-кэш в 6 ГБ, которые iOS максимально выделяет одному приложению. Качество ответов при этом составило 90% от оригинальной модели – уже достаточно для множества локальных задач вроде перевода или получения справочной информации в условиях, когда связи нет или она дорога в роуминге.

Возможно, уже через год-два мы будем учиться жонглировать нейронками: фронтирные модели по подписке для сложных задач, локальные – для приватности, быстрых ответов и просто экономии токенов. В общем, еще один пунктик в копилку навыков, которые стоит изучать.

Ну и по-дружески рекомендую канал "НейроProfit", как один из тех, на которые сам подписан и читаю регулярно. В сфере ИИ сейчас происходит так много всего, что уследить с помощью одного источника не выходит.
2👍2917🔥14😁3
А помните, как полгода все только и говорили, что о контекст-инжиниринге? Теперь новая мода – loop engineering. Создатель Claude Code Борис Черни заявил, что больше не промптит Claude: за него это делают запущенные циклы, а его работа – эти циклы писать.

В свежем лонгриде я рассказываю, что это за новый способ работы с ИИ, в каких ситуациях он полезен, и как дополняет привычный нам промптинг.

Промпт, проверка, повтор: учим ИИ работать циклами – в коде, текстах и повседневных задачах

Самый важный совет вынесу в пост: главное в цикле – правильно настроенная проверка. Один из моих экспериментов с loop engineering – ИИ-агент на базе Hermes, который пишет черновики веток для Threads, параллельно обучаясь на том, какие ветки я беру в работу и какие правки в них вношу. При первом заходе он обучился так круто, что все ветки стали одинаковыми. Пришлось брать на вооружение практики из человеческого менеджмента и дорабатывать бедолагу.

Разумеется, рассказом об одном персональном провале я не ограничился. Внутри – вся история вопроса от терморегулятора 1620 года до команды /goal, свежая классификация циклов от Anthropic, данные опроса двухсот инженеров о том, где циклы реально работают в проде, и главное – практическая часть: паспорт цикла из семи полей и готовый промпт, который спроектирует цикл под вашу задачу за вас. Получился текст на 19 тысяч знаков, после которого вы сможете отличить рабочий цикл от дорогой имитации бурной деятельности. А всего в подписке уже 20+ полезных лонгридов: от личного опыта до практики лучших ИИ-специалистов в мире.

Читать на "Бусти"
Читать на Sponsr
👍15🔥75