Stanford* вместе с Together AI предложили новую архитектуру для ИИ-агентов
Авторы решили сделать так, чтобы агент вёл себя немного как человек: большую часть времени думал про себя и говорил только по делу
Их новый подход называется HybridAgent - агент получает второй, параллельный режим мышления - латентный, а в обычный текст переключается, когда нужно действовать: вызвать инструмент или дать ответ
При этом латентные мысли остаются читаемыми
Подход не требует обучения модели с нуля, HybridAgent можно получить из почти любой LLM через специальный пайплайн дообучения
GitHub
HF
Авторы решили сделать так, чтобы агент вёл себя немного как человек: большую часть времени думал про себя и говорил только по делу
Их новый подход называется HybridAgent - агент получает второй, параллельный режим мышления - латентный, а в обычный текст переключается, когда нужно действовать: вызвать инструмент или дать ответ
При этом латентные мысли остаются читаемыми
Подход не требует обучения модели с нуля, HybridAgent можно получить из почти любой LLM через специальный пайплайн дообучения
GitHub
HF
GPT-6-Astra решила 49 из 50 новых задач по теоретической физике
Весь тест стоил менее $116, а одно решение — в среднем около $2.40
Бенчмарк проверял не великие загадки науки, а повседневную работу исследователя: найти метод, изменить формулы и провести новый расчёт
Без интернета Astra всё равно набрала 92 %, а часть её предполагаемых ошибок оказалась ошибками в эталонных ответах
Весь тест стоил менее $116, а одно решение — в среднем около $2.40
Бенчмарк проверял не великие загадки науки, а повседневную работу исследователя: найти метод, изменить формулы и провести новый расчёт
Без интернета Astra всё равно набрала 92 %, а часть её предполагаемых ошибок оказалась ошибками в эталонных ответах
This media is not supported in your browser
VIEW IN TELEGRAM
Мои прогнозы оказались сильно ошибочными
Изменить паттерны поведения людей оказалось в разы сложнее, чем эволюция технологий
«Finally, on the 16th of October, 1843, while walking with his wife along the Royal Canal to a meeting of the Royal Irish Academy in Dublin, [Hamilton] made his momentous discovery:
“That is to say, I then and there felt the galvanic circuit of thought close; and the sparks which fell from it were the fundamental equations between i,j,k; exactly such as I have used them ever since”»
(спасибо @near_math_edu за напоминание про дату)
https://math.ucr.edu/home/baez/octonions/node24.html
“That is to say, I then and there felt the galvanic circuit of thought close; and the sparks which fell from it were the fundamental equations between i,j,k; exactly such as I have used them ever since”»
(спасибо @near_math_edu за напоминание про дату)
https://math.ucr.edu/home/baez/octonions/node24.html
В эпоху, когда алгоритм решает любые проблемы по первому запросу, люди перестанут утруждать себя размышлениями и утратят радость от решения задач и перестанут думать
Думать — это тяжело
Не можешь решить, мучаешься годами
Именно из-за этой муки и появляется удовольствие, когда находишь решение
И мука становится удовольствием
А если такие моменты исчезнут, люди останутся домашним скотом
Думать — это тяжело
Не можешь решить, мучаешься годами
Именно из-за этой муки и появляется удовольствие, когда находишь решение
И мука становится удовольствием
А если такие моменты исчезнут, люди останутся домашним скотом
This media is not supported in your browser
VIEW IN TELEGRAM
Китайские исследователи только что опубликовали статью с жёстким заголовком: «Конец инженерии промптов»
Аргумент умещается в одну строку: умение говорить агентам, что делать, как навык, закончилось
Промпт — это желание, и желание, повторённое триста раз, всё равно остаётся желанием
Границы, записанные в файл, — это закон
Каждый агент читает их перед каждым действием, они версионированы, и вы ими владеете
В масштабе роя ничего другое не выживает
Триста агентов не могут разделить «вайб»
Они могут разделить файл
Так что вы перестаёте быть тем, кто пишет инструкции
Вы становитесь архитектором границ: вы решаете, что никогда не происходит, и проверяете запросы
Промпты становятся одноразовыми
Файл с ограничениями превращается в работу
Это именно та система, которую задокументировали ниже: один AGENTS.md, триста читателей Kimi K3, ноль побегов за 41 день
Вся статья в одной строке: строй забор до ключей ↓
Аргумент умещается в одну строку: умение говорить агентам, что делать, как навык, закончилось
Промпт — это желание, и желание, повторённое триста раз, всё равно остаётся желанием
Границы, записанные в файл, — это закон
Каждый агент читает их перед каждым действием, они версионированы, и вы ими владеете
В масштабе роя ничего другое не выживает
Триста агентов не могут разделить «вайб»
Они могут разделить файл
Так что вы перестаёте быть тем, кто пишет инструкции
Вы становитесь архитектором границ: вы решаете, что никогда не происходит, и проверяете запросы
Промпты становятся одноразовыми
Файл с ограничениями превращается в работу
Это именно та система, которую задокументировали ниже: один AGENTS.md, триста читателей Kimi K3, ноль побегов за 41 день
Вся статья в одной строке: строй забор до ключей ↓
This media is not supported in your browser
VIEW IN TELEGRAM
Claude Mythos 5 разработал квантовую схему на основе эллиптических кривых, используя в 17 раз меньше вентилей для 12 % большего количества кубитов
Анди Гу, исследователь физики из Гарварда, протестировал её в рамках Программы STEM-феллоу Anthropic, которая объединяет учёных с сотрудниками Anthropic, чтобы проверить, способен ли Claude проводить настоящие исследования в их области
Claude писал схемы схем в виде кода, оценщик проверял и оценивал их, а Claude продолжал дорабатывать, пока не превзошёл человеческие рекорды в большинстве из 8 задач
Его самый сильный результат заставил работать неуловимый классический математический shortcut на квантовом оборудовании впервые, после того как Claude доказал новые тождества и верифицировал их с помощью формальных доказательств
Анди Гу, исследователь физики из Гарварда, протестировал её в рамках Программы STEM-феллоу Anthropic, которая объединяет учёных с сотрудниками Anthropic, чтобы проверить, способен ли Claude проводить настоящие исследования в их области
Claude писал схемы схем в виде кода, оценщик проверял и оценивал их, а Claude продолжал дорабатывать, пока не превзошёл человеческие рекорды в большинстве из 8 задач
Его самый сильный результат заставил работать неуловимый классический математический shortcut на квантовом оборудовании впервые, после того как Claude доказал новые тождества и верифицировал их с помощью формальных доказательств
AI compute and capability
- AI progress is driven by a billion-fold increase in inference and reasoning compute, because step-by-step thinking, planning, reflection, and exploration require far more computation than simple regurgitation
- Working memory, knowledge management, tool use, and agent harnesses are major recent unlocks
- The next wave is broader than coding: design, creative marketing, science, manufacturing, and other professional work
Physical AI and robotics
- Physical AI includes robotics, self-driving cars, manufacturing, healthcare systems, imaging, satellites, and sensing across the electromagnetic spectrum
- The physical world is the biggest market because most valuable work ultimately touches it
- One major use case is building a digital twin first, then deploying agents into the real world
- Robotics and embodied AI are reaching a major inflection point, with large commercial potential
Safety, security, and regulation
- Functionality, capability, safety, and security must be developed together; they are not separate goals
- Safety cannot depend on perfect alignment because alignment is a forever problem
- The practical model is containment, zero trust, minimum permissions, out-of-band monitoring, and the ability to shut systems down
- Current AI governance is framed as a three-legged stool: frontier model review, the White House accord on super intelligence, and SI force coordination
Compute build-out and infrastructure
- Demand for compute remains very strong and is likely to exceed current supply assumptions
- Major bottlenecks are land, power, permits, construction resources, substrates, and silicon photonics
- The build-out is constrained by the physical world, but the demand for AI infrastructure is global and resilient
- Nvidia is positioned as a full-stack infrastructure company spanning training, inference, networking, storage, security, and enterprise deployment
Nvidia economics and market outlook
- Nvidia now serves cloud providers, enterprises, neoclouds, startups, and multiple industries across the entire AI lifecycle
- Share growth is being driven by fungibility, durability, high performance per watt, and full-stack breadth
- New growth vectors include software licensing and revenue share arrangements
- The business is still in the early innings of the current computing platform shift, so long-term demand remains broad
- AI progress is driven by a billion-fold increase in inference and reasoning compute, because step-by-step thinking, planning, reflection, and exploration require far more computation than simple regurgitation
- Working memory, knowledge management, tool use, and agent harnesses are major recent unlocks
- The next wave is broader than coding: design, creative marketing, science, manufacturing, and other professional work
Physical AI and robotics
- Physical AI includes robotics, self-driving cars, manufacturing, healthcare systems, imaging, satellites, and sensing across the electromagnetic spectrum
- The physical world is the biggest market because most valuable work ultimately touches it
- One major use case is building a digital twin first, then deploying agents into the real world
- Robotics and embodied AI are reaching a major inflection point, with large commercial potential
Safety, security, and regulation
- Functionality, capability, safety, and security must be developed together; they are not separate goals
- Safety cannot depend on perfect alignment because alignment is a forever problem
- The practical model is containment, zero trust, minimum permissions, out-of-band monitoring, and the ability to shut systems down
- Current AI governance is framed as a three-legged stool: frontier model review, the White House accord on super intelligence, and SI force coordination
Compute build-out and infrastructure
- Demand for compute remains very strong and is likely to exceed current supply assumptions
- Major bottlenecks are land, power, permits, construction resources, substrates, and silicon photonics
- The build-out is constrained by the physical world, but the demand for AI infrastructure is global and resilient
- Nvidia is positioned as a full-stack infrastructure company spanning training, inference, networking, storage, security, and enterprise deployment
Nvidia economics and market outlook
- Nvidia now serves cloud providers, enterprises, neoclouds, startups, and multiple industries across the entire AI lifecycle
- Share growth is being driven by fungibility, durability, high performance per watt, and full-stack breadth
- New growth vectors include software licensing and revenue share arrangements
- The business is still in the early innings of the current computing platform shift, so long-term demand remains broad
Сэм Альтман: «Мир, в котором человеческий мозг и сознание загружаются в облако, чтобы жить, — это шедевр»
«Даже если общество станет суперудобным благодаря цифре, люди в итоге всё равно как-нибудь сами сделают себя несчастными и нарочно создадут себе трудности и препятствия, так что в каком-то смысле мы — безнадёжные существа»
CEO OpenAI (с обязательствами по платежам около 100 триллионов йен + наибольшее в индустрии количество судебных споров), Сэм Альтман, каким видит идеальный мир?
Во время интервью Сэм Альтман проговорился о своих опасных идеях, которые обычно не афиширует, — вот его настоящие мысли↓
• «В этом году ИИ обогнал интеллект человечества»
• Все беспечно продолжают жить как обычно, но основы цивилизации уже необратимо переписаны на уровне, которого не вернуть
Бессмертие?
Излечение всех болезней?
Мир, как в научной фантастике, уже на пороге
• Мир, показанный в аниме «Пантеон», становится реальностью
• Аниме «Pantheon (Пантеон)», которое рисует мир, где человеческий мозг и сознание загружаются в облако для жизни, Альтман просто обожает
«Я обычно не смотрю телевизор, но это — шедевр», — сказал он, намекая, что цифровизация сознания уже не просто фантазия
• «Единственная проблема, которую не решить»?
На вопрос «Есть ли проблемы, которые не решить даже компьютер?» Альтман тут же ответил с огоньком: «Как бы мир ни стал удобным, люди всё равно сами себя сделают несчастными, нарочно придумают новые беды и страдания и разыграют их сами
Это единственное, что компьютер никогда не вылечит»
• Старая армия ни черта не понимает о «лике следующей войны»
Великие военные бонзы всегда цепляются за методы «прошлой войны»
Думали, раз раньше были ружья, то и теперь ружья, — и совершенно не поспевают за реальностью, где цифра перекрашивает правила поля боя с корнями
В общем, «не стоит беспечно болтать о том, что "когда-нибудь цифра превзойдёт человека", — реальность в том, что "в этом году он уже обогнал", и даже если технологии достигнут божественного уровня, пытаясь превратить мир в рай, люди сами по себе найдут повод для несчастий и будут ныть вечно, — так, словно создатель AML достиг просветления Будды», — говорит он
«Даже если общество станет суперудобным благодаря цифре, люди в итоге всё равно как-нибудь сами сделают себя несчастными и нарочно создадут себе трудности и препятствия, так что в каком-то смысле мы — безнадёжные существа»
CEO OpenAI (с обязательствами по платежам около 100 триллионов йен + наибольшее в индустрии количество судебных споров), Сэм Альтман, каким видит идеальный мир?
Во время интервью Сэм Альтман проговорился о своих опасных идеях, которые обычно не афиширует, — вот его настоящие мысли↓
• «В этом году ИИ обогнал интеллект человечества»
• Все беспечно продолжают жить как обычно, но основы цивилизации уже необратимо переписаны на уровне, которого не вернуть
Бессмертие?
Излечение всех болезней?
Мир, как в научной фантастике, уже на пороге
• Мир, показанный в аниме «Пантеон», становится реальностью
• Аниме «Pantheon (Пантеон)», которое рисует мир, где человеческий мозг и сознание загружаются в облако для жизни, Альтман просто обожает
«Я обычно не смотрю телевизор, но это — шедевр», — сказал он, намекая, что цифровизация сознания уже не просто фантазия
• «Единственная проблема, которую не решить»?
На вопрос «Есть ли проблемы, которые не решить даже компьютер?» Альтман тут же ответил с огоньком: «Как бы мир ни стал удобным, люди всё равно сами себя сделают несчастными, нарочно придумают новые беды и страдания и разыграют их сами
Это единственное, что компьютер никогда не вылечит»
• Старая армия ни черта не понимает о «лике следующей войны»
Великие военные бонзы всегда цепляются за методы «прошлой войны»
Думали, раз раньше были ружья, то и теперь ружья, — и совершенно не поспевают за реальностью, где цифра перекрашивает правила поля боя с корнями
В общем, «не стоит беспечно болтать о том, что "когда-нибудь цифра превзойдёт человека", — реальность в том, что "в этом году он уже обогнал", и даже если технологии достигнут божественного уровня, пытаясь превратить мир в рай, люди сами по себе найдут повод для несчастий и будут ныть вечно, — так, словно создатель AML достиг просветления Будды», — говорит он
Scale is an emergent property that often produces returns far beyond consensus expectations
When something works at a smaller scale, pushing it further is often valuable, even if many people think it will break.
Examples include:
- AI model scaling
- Research teams: more smart people focused on one problem
- Companies: economies of scale
- YC batches: larger batches created useful network effects
The most interesting career observations came from cases where scale produced something qualitatively new
The key idea is quantity becoming quality
A lot of important breakthroughs were not obvious in advance and only appeared once a system was pushed beyond previous limits
Scaling usually breaks things in unpredictable ways, so it must be decomposed into specific risks and addressed one by one:
- technical feasibility
- capital requirements
- organisational complexity
- cultural resistance
- engineering reliability
A clear goal, a clear plan, and a clear decision-making process are crucial when asking humans to participate in a large-scale bet
GPT-3 initially had little product traction, so it was launched as an API
Developers then began using it mainly for chat-like interaction, even when the API was not working well for business use cases
This revealed clear user demand
A better post-training method enabled instruction following, and the team built a chatbot around that behaviour
Key lessons:
- follow what users naturally love
- weak early growth that keeps accelerating is often a strong signal
- product and company formation can happen together under pressure
The original plan before ChatGPT was to focus heavily on code
Code was seen as a way for models to act in the digital world, alongside robots in the physical world
Codex later reached a major capability inflection, showing that coding is a powerful enterprise use case
The current pipeline is:
- pre-training
- mid-training
- post-training
- RL and supervised feedback loops
This is likely the present standard, but it probably will not remain the final architecture
A major rewrite is expected eventually
AI is increasingly viewed as a new utility, similar to electricity or the internet
The best analogy is not selling “intelligence” directly, but finding a simpler value proposition, as electricity companies once sold light at night rather than electricity itself
- Consumers and businesses will mostly think in terms of tokens or an even higher-level service experience
- They will care about cost, quality, and access, not chips or hardware details
- Compute becomes abstracted away underneath the user-facing utility
A strong project would likely focus on inference:
- making intelligence cheap
- making it abundant
- improving delivery at scale
Frontier labs may increasingly need to become inference companies
LLMs are already better than humans at some tasks and far worse at others, especially long-horizon judgement
They can also discover new knowledge, including solving mathematical problems that smart people had worked on for a long time
Betting against continued LLM scaling is seen as misguided
Persistent critics who ignore data are not especially troubling
The main issue is when identity becomes tied to a belief that evidence has already disproved
When something works at a smaller scale, pushing it further is often valuable, even if many people think it will break.
Examples include:
- AI model scaling
- Research teams: more smart people focused on one problem
- Companies: economies of scale
- YC batches: larger batches created useful network effects
The most interesting career observations came from cases where scale produced something qualitatively new
The key idea is quantity becoming quality
A lot of important breakthroughs were not obvious in advance and only appeared once a system was pushed beyond previous limits
Scaling usually breaks things in unpredictable ways, so it must be decomposed into specific risks and addressed one by one:
- technical feasibility
- capital requirements
- organisational complexity
- cultural resistance
- engineering reliability
A clear goal, a clear plan, and a clear decision-making process are crucial when asking humans to participate in a large-scale bet
GPT-3 initially had little product traction, so it was launched as an API
Developers then began using it mainly for chat-like interaction, even when the API was not working well for business use cases
This revealed clear user demand
A better post-training method enabled instruction following, and the team built a chatbot around that behaviour
Key lessons:
- follow what users naturally love
- weak early growth that keeps accelerating is often a strong signal
- product and company formation can happen together under pressure
The original plan before ChatGPT was to focus heavily on code
Code was seen as a way for models to act in the digital world, alongside robots in the physical world
Codex later reached a major capability inflection, showing that coding is a powerful enterprise use case
The current pipeline is:
- pre-training
- mid-training
- post-training
- RL and supervised feedback loops
This is likely the present standard, but it probably will not remain the final architecture
A major rewrite is expected eventually
AI is increasingly viewed as a new utility, similar to electricity or the internet
The best analogy is not selling “intelligence” directly, but finding a simpler value proposition, as electricity companies once sold light at night rather than electricity itself
- Consumers and businesses will mostly think in terms of tokens or an even higher-level service experience
- They will care about cost, quality, and access, not chips or hardware details
- Compute becomes abstracted away underneath the user-facing utility
A strong project would likely focus on inference:
- making intelligence cheap
- making it abundant
- improving delivery at scale
Frontier labs may increasingly need to become inference companies
LLMs are already better than humans at some tasks and far worse at others, especially long-horizon judgement
They can also discover new knowledge, including solving mathematical problems that smart people had worked on for a long time
Betting against continued LLM scaling is seen as misguided
Persistent critics who ignore data are not especially troubling
The main issue is when identity becomes tied to a belief that evidence has already disproved