В эпоху, когда алгоритм решает любые проблемы по первому запросу, люди перестанут утруждать себя размышлениями и утратят радость от решения задач и перестанут думать
Думать — это тяжело
Не можешь решить, мучаешься годами
Именно из-за этой муки и появляется удовольствие, когда находишь решение
И мука становится удовольствием
А если такие моменты исчезнут, люди останутся домашним скотом
Думать — это тяжело
Не можешь решить, мучаешься годами
Именно из-за этой муки и появляется удовольствие, когда находишь решение
И мука становится удовольствием
А если такие моменты исчезнут, люди останутся домашним скотом
This media is not supported in your browser
VIEW IN TELEGRAM
Китайские исследователи только что опубликовали статью с жёстким заголовком: «Конец инженерии промптов»
Аргумент умещается в одну строку: умение говорить агентам, что делать, как навык, закончилось
Промпт — это желание, и желание, повторённое триста раз, всё равно остаётся желанием
Границы, записанные в файл, — это закон
Каждый агент читает их перед каждым действием, они версионированы, и вы ими владеете
В масштабе роя ничего другое не выживает
Триста агентов не могут разделить «вайб»
Они могут разделить файл
Так что вы перестаёте быть тем, кто пишет инструкции
Вы становитесь архитектором границ: вы решаете, что никогда не происходит, и проверяете запросы
Промпты становятся одноразовыми
Файл с ограничениями превращается в работу
Это именно та система, которую задокументировали ниже: один AGENTS.md, триста читателей Kimi K3, ноль побегов за 41 день
Вся статья в одной строке: строй забор до ключей ↓
Аргумент умещается в одну строку: умение говорить агентам, что делать, как навык, закончилось
Промпт — это желание, и желание, повторённое триста раз, всё равно остаётся желанием
Границы, записанные в файл, — это закон
Каждый агент читает их перед каждым действием, они версионированы, и вы ими владеете
В масштабе роя ничего другое не выживает
Триста агентов не могут разделить «вайб»
Они могут разделить файл
Так что вы перестаёте быть тем, кто пишет инструкции
Вы становитесь архитектором границ: вы решаете, что никогда не происходит, и проверяете запросы
Промпты становятся одноразовыми
Файл с ограничениями превращается в работу
Это именно та система, которую задокументировали ниже: один AGENTS.md, триста читателей Kimi K3, ноль побегов за 41 день
Вся статья в одной строке: строй забор до ключей ↓
This media is not supported in your browser
VIEW IN TELEGRAM
Claude Mythos 5 разработал квантовую схему на основе эллиптических кривых, используя в 17 раз меньше вентилей для 12 % большего количества кубитов
Анди Гу, исследователь физики из Гарварда, протестировал её в рамках Программы STEM-феллоу Anthropic, которая объединяет учёных с сотрудниками Anthropic, чтобы проверить, способен ли Claude проводить настоящие исследования в их области
Claude писал схемы схем в виде кода, оценщик проверял и оценивал их, а Claude продолжал дорабатывать, пока не превзошёл человеческие рекорды в большинстве из 8 задач
Его самый сильный результат заставил работать неуловимый классический математический shortcut на квантовом оборудовании впервые, после того как Claude доказал новые тождества и верифицировал их с помощью формальных доказательств
Анди Гу, исследователь физики из Гарварда, протестировал её в рамках Программы STEM-феллоу Anthropic, которая объединяет учёных с сотрудниками Anthropic, чтобы проверить, способен ли Claude проводить настоящие исследования в их области
Claude писал схемы схем в виде кода, оценщик проверял и оценивал их, а Claude продолжал дорабатывать, пока не превзошёл человеческие рекорды в большинстве из 8 задач
Его самый сильный результат заставил работать неуловимый классический математический shortcut на квантовом оборудовании впервые, после того как Claude доказал новые тождества и верифицировал их с помощью формальных доказательств
AI compute and capability
- AI progress is driven by a billion-fold increase in inference and reasoning compute, because step-by-step thinking, planning, reflection, and exploration require far more computation than simple regurgitation
- Working memory, knowledge management, tool use, and agent harnesses are major recent unlocks
- The next wave is broader than coding: design, creative marketing, science, manufacturing, and other professional work
Physical AI and robotics
- Physical AI includes robotics, self-driving cars, manufacturing, healthcare systems, imaging, satellites, and sensing across the electromagnetic spectrum
- The physical world is the biggest market because most valuable work ultimately touches it
- One major use case is building a digital twin first, then deploying agents into the real world
- Robotics and embodied AI are reaching a major inflection point, with large commercial potential
Safety, security, and regulation
- Functionality, capability, safety, and security must be developed together; they are not separate goals
- Safety cannot depend on perfect alignment because alignment is a forever problem
- The practical model is containment, zero trust, minimum permissions, out-of-band monitoring, and the ability to shut systems down
- Current AI governance is framed as a three-legged stool: frontier model review, the White House accord on super intelligence, and SI force coordination
Compute build-out and infrastructure
- Demand for compute remains very strong and is likely to exceed current supply assumptions
- Major bottlenecks are land, power, permits, construction resources, substrates, and silicon photonics
- The build-out is constrained by the physical world, but the demand for AI infrastructure is global and resilient
- Nvidia is positioned as a full-stack infrastructure company spanning training, inference, networking, storage, security, and enterprise deployment
Nvidia economics and market outlook
- Nvidia now serves cloud providers, enterprises, neoclouds, startups, and multiple industries across the entire AI lifecycle
- Share growth is being driven by fungibility, durability, high performance per watt, and full-stack breadth
- New growth vectors include software licensing and revenue share arrangements
- The business is still in the early innings of the current computing platform shift, so long-term demand remains broad
- AI progress is driven by a billion-fold increase in inference and reasoning compute, because step-by-step thinking, planning, reflection, and exploration require far more computation than simple regurgitation
- Working memory, knowledge management, tool use, and agent harnesses are major recent unlocks
- The next wave is broader than coding: design, creative marketing, science, manufacturing, and other professional work
Physical AI and robotics
- Physical AI includes robotics, self-driving cars, manufacturing, healthcare systems, imaging, satellites, and sensing across the electromagnetic spectrum
- The physical world is the biggest market because most valuable work ultimately touches it
- One major use case is building a digital twin first, then deploying agents into the real world
- Robotics and embodied AI are reaching a major inflection point, with large commercial potential
Safety, security, and regulation
- Functionality, capability, safety, and security must be developed together; they are not separate goals
- Safety cannot depend on perfect alignment because alignment is a forever problem
- The practical model is containment, zero trust, minimum permissions, out-of-band monitoring, and the ability to shut systems down
- Current AI governance is framed as a three-legged stool: frontier model review, the White House accord on super intelligence, and SI force coordination
Compute build-out and infrastructure
- Demand for compute remains very strong and is likely to exceed current supply assumptions
- Major bottlenecks are land, power, permits, construction resources, substrates, and silicon photonics
- The build-out is constrained by the physical world, but the demand for AI infrastructure is global and resilient
- Nvidia is positioned as a full-stack infrastructure company spanning training, inference, networking, storage, security, and enterprise deployment
Nvidia economics and market outlook
- Nvidia now serves cloud providers, enterprises, neoclouds, startups, and multiple industries across the entire AI lifecycle
- Share growth is being driven by fungibility, durability, high performance per watt, and full-stack breadth
- New growth vectors include software licensing and revenue share arrangements
- The business is still in the early innings of the current computing platform shift, so long-term demand remains broad
Сэм Альтман: «Мир, в котором человеческий мозг и сознание загружаются в облако, чтобы жить, — это шедевр»
«Даже если общество станет суперудобным благодаря цифре, люди в итоге всё равно как-нибудь сами сделают себя несчастными и нарочно создадут себе трудности и препятствия, так что в каком-то смысле мы — безнадёжные существа»
CEO OpenAI (с обязательствами по платежам около 100 триллионов йен + наибольшее в индустрии количество судебных споров), Сэм Альтман, каким видит идеальный мир?
Во время интервью Сэм Альтман проговорился о своих опасных идеях, которые обычно не афиширует, — вот его настоящие мысли↓
• «В этом году ИИ обогнал интеллект человечества»
• Все беспечно продолжают жить как обычно, но основы цивилизации уже необратимо переписаны на уровне, которого не вернуть
Бессмертие?
Излечение всех болезней?
Мир, как в научной фантастике, уже на пороге
• Мир, показанный в аниме «Пантеон», становится реальностью
• Аниме «Pantheon (Пантеон)», которое рисует мир, где человеческий мозг и сознание загружаются в облако для жизни, Альтман просто обожает
«Я обычно не смотрю телевизор, но это — шедевр», — сказал он, намекая, что цифровизация сознания уже не просто фантазия
• «Единственная проблема, которую не решить»?
На вопрос «Есть ли проблемы, которые не решить даже компьютер?» Альтман тут же ответил с огоньком: «Как бы мир ни стал удобным, люди всё равно сами себя сделают несчастными, нарочно придумают новые беды и страдания и разыграют их сами
Это единственное, что компьютер никогда не вылечит»
• Старая армия ни черта не понимает о «лике следующей войны»
Великие военные бонзы всегда цепляются за методы «прошлой войны»
Думали, раз раньше были ружья, то и теперь ружья, — и совершенно не поспевают за реальностью, где цифра перекрашивает правила поля боя с корнями
В общем, «не стоит беспечно болтать о том, что "когда-нибудь цифра превзойдёт человека", — реальность в том, что "в этом году он уже обогнал", и даже если технологии достигнут божественного уровня, пытаясь превратить мир в рай, люди сами по себе найдут повод для несчастий и будут ныть вечно, — так, словно создатель AML достиг просветления Будды», — говорит он
«Даже если общество станет суперудобным благодаря цифре, люди в итоге всё равно как-нибудь сами сделают себя несчастными и нарочно создадут себе трудности и препятствия, так что в каком-то смысле мы — безнадёжные существа»
CEO OpenAI (с обязательствами по платежам около 100 триллионов йен + наибольшее в индустрии количество судебных споров), Сэм Альтман, каким видит идеальный мир?
Во время интервью Сэм Альтман проговорился о своих опасных идеях, которые обычно не афиширует, — вот его настоящие мысли↓
• «В этом году ИИ обогнал интеллект человечества»
• Все беспечно продолжают жить как обычно, но основы цивилизации уже необратимо переписаны на уровне, которого не вернуть
Бессмертие?
Излечение всех болезней?
Мир, как в научной фантастике, уже на пороге
• Мир, показанный в аниме «Пантеон», становится реальностью
• Аниме «Pantheon (Пантеон)», которое рисует мир, где человеческий мозг и сознание загружаются в облако для жизни, Альтман просто обожает
«Я обычно не смотрю телевизор, но это — шедевр», — сказал он, намекая, что цифровизация сознания уже не просто фантазия
• «Единственная проблема, которую не решить»?
На вопрос «Есть ли проблемы, которые не решить даже компьютер?» Альтман тут же ответил с огоньком: «Как бы мир ни стал удобным, люди всё равно сами себя сделают несчастными, нарочно придумают новые беды и страдания и разыграют их сами
Это единственное, что компьютер никогда не вылечит»
• Старая армия ни черта не понимает о «лике следующей войны»
Великие военные бонзы всегда цепляются за методы «прошлой войны»
Думали, раз раньше были ружья, то и теперь ружья, — и совершенно не поспевают за реальностью, где цифра перекрашивает правила поля боя с корнями
В общем, «не стоит беспечно болтать о том, что "когда-нибудь цифра превзойдёт человека", — реальность в том, что "в этом году он уже обогнал", и даже если технологии достигнут божественного уровня, пытаясь превратить мир в рай, люди сами по себе найдут повод для несчастий и будут ныть вечно, — так, словно создатель AML достиг просветления Будды», — говорит он
Scale is an emergent property that often produces returns far beyond consensus expectations
When something works at a smaller scale, pushing it further is often valuable, even if many people think it will break.
Examples include:
- AI model scaling
- Research teams: more smart people focused on one problem
- Companies: economies of scale
- YC batches: larger batches created useful network effects
The most interesting career observations came from cases where scale produced something qualitatively new
The key idea is quantity becoming quality
A lot of important breakthroughs were not obvious in advance and only appeared once a system was pushed beyond previous limits
Scaling usually breaks things in unpredictable ways, so it must be decomposed into specific risks and addressed one by one:
- technical feasibility
- capital requirements
- organisational complexity
- cultural resistance
- engineering reliability
A clear goal, a clear plan, and a clear decision-making process are crucial when asking humans to participate in a large-scale bet
GPT-3 initially had little product traction, so it was launched as an API
Developers then began using it mainly for chat-like interaction, even when the API was not working well for business use cases
This revealed clear user demand
A better post-training method enabled instruction following, and the team built a chatbot around that behaviour
Key lessons:
- follow what users naturally love
- weak early growth that keeps accelerating is often a strong signal
- product and company formation can happen together under pressure
The original plan before ChatGPT was to focus heavily on code
Code was seen as a way for models to act in the digital world, alongside robots in the physical world
Codex later reached a major capability inflection, showing that coding is a powerful enterprise use case
The current pipeline is:
- pre-training
- mid-training
- post-training
- RL and supervised feedback loops
This is likely the present standard, but it probably will not remain the final architecture
A major rewrite is expected eventually
AI is increasingly viewed as a new utility, similar to electricity or the internet
The best analogy is not selling “intelligence” directly, but finding a simpler value proposition, as electricity companies once sold light at night rather than electricity itself
- Consumers and businesses will mostly think in terms of tokens or an even higher-level service experience
- They will care about cost, quality, and access, not chips or hardware details
- Compute becomes abstracted away underneath the user-facing utility
A strong project would likely focus on inference:
- making intelligence cheap
- making it abundant
- improving delivery at scale
Frontier labs may increasingly need to become inference companies
LLMs are already better than humans at some tasks and far worse at others, especially long-horizon judgement
They can also discover new knowledge, including solving mathematical problems that smart people had worked on for a long time
Betting against continued LLM scaling is seen as misguided
Persistent critics who ignore data are not especially troubling
The main issue is when identity becomes tied to a belief that evidence has already disproved
When something works at a smaller scale, pushing it further is often valuable, even if many people think it will break.
Examples include:
- AI model scaling
- Research teams: more smart people focused on one problem
- Companies: economies of scale
- YC batches: larger batches created useful network effects
The most interesting career observations came from cases where scale produced something qualitatively new
The key idea is quantity becoming quality
A lot of important breakthroughs were not obvious in advance and only appeared once a system was pushed beyond previous limits
Scaling usually breaks things in unpredictable ways, so it must be decomposed into specific risks and addressed one by one:
- technical feasibility
- capital requirements
- organisational complexity
- cultural resistance
- engineering reliability
A clear goal, a clear plan, and a clear decision-making process are crucial when asking humans to participate in a large-scale bet
GPT-3 initially had little product traction, so it was launched as an API
Developers then began using it mainly for chat-like interaction, even when the API was not working well for business use cases
This revealed clear user demand
A better post-training method enabled instruction following, and the team built a chatbot around that behaviour
Key lessons:
- follow what users naturally love
- weak early growth that keeps accelerating is often a strong signal
- product and company formation can happen together under pressure
The original plan before ChatGPT was to focus heavily on code
Code was seen as a way for models to act in the digital world, alongside robots in the physical world
Codex later reached a major capability inflection, showing that coding is a powerful enterprise use case
The current pipeline is:
- pre-training
- mid-training
- post-training
- RL and supervised feedback loops
This is likely the present standard, but it probably will not remain the final architecture
A major rewrite is expected eventually
AI is increasingly viewed as a new utility, similar to electricity or the internet
The best analogy is not selling “intelligence” directly, but finding a simpler value proposition, as electricity companies once sold light at night rather than electricity itself
- Consumers and businesses will mostly think in terms of tokens or an even higher-level service experience
- They will care about cost, quality, and access, not chips or hardware details
- Compute becomes abstracted away underneath the user-facing utility
A strong project would likely focus on inference:
- making intelligence cheap
- making it abundant
- improving delivery at scale
Frontier labs may increasingly need to become inference companies
LLMs are already better than humans at some tasks and far worse at others, especially long-horizon judgement
They can also discover new knowledge, including solving mathematical problems that smart people had worked on for a long time
Betting against continued LLM scaling is seen as misguided
Persistent critics who ignore data are not especially troubling
The main issue is when identity becomes tied to a belief that evidence has already disproved
картинки по выходным: stevejtrettel.site/research/algebraic-starscapes/
«Take every polynomial with integer coefficients up to some degree, find its complex roots, and draw a dot at each one
Size the dots so that simple polynomials get big dots and complicated ones get small dots, and measure sizes in the hyperbolic metric of the upper half plane
The result is a starscape: the plane fills with beaded necklaces of disks that subdivide it into ever finer regions, and around each large dot the smaller ones spiral like the arms of a galaxy»
«What I like most about this project is, honestly, where it came from. We started by asking what made an image look interesting, without trying too hard to define interesting, and chasing that turned out to be a reliable path to mathematics (…)»
см. тж. arxiv.org/abs/2008.07655
«Take every polynomial with integer coefficients up to some degree, find its complex roots, and draw a dot at each one
Size the dots so that simple polynomials get big dots and complicated ones get small dots, and measure sizes in the hyperbolic metric of the upper half plane
The result is a starscape: the plane fills with beaded necklaces of disks that subdivide it into ever finer regions, and around each large dot the smaller ones spiral like the arms of a galaxy»
«What I like most about this project is, honestly, where it came from. We started by asking what made an image look interesting, without trying too hard to define interesting, and chasing that turned out to be a reliable path to mathematics (…)»
см. тж. arxiv.org/abs/2008.07655
Маркетолог спрашивает программиста: в чём сложность поддержки большого проекта?
Программист: ну представь, что ты писатель и поддерживаешь проект “Война и мир”
У тебя ТЗ — написать главу как Наташа Ростова гуляла под дождём по парку
Ты пишешь “шёл дождь”, сохраняешь, вылетает сообщение об ошибке “Наташа Ростова умерла, продолжение невозможно”
Почему умерла?
Начинаешь разбираться
Выясняется, что у Пьера Безухова скользкие туфли, он упал, его пистолет ударился о землю и выстрелил в столб, а пуля от столба срикошетила в Наташу
Что делать?
Зарядить пистолет холостыми?
Поменять туфли?
Решили убрать столб
Получаем сообщение “Поручик Ржевский умер” Выясняется, что он в следующей главе облокачивается о столб, которого уже нет...
Программист: ну представь, что ты писатель и поддерживаешь проект “Война и мир”
У тебя ТЗ — написать главу как Наташа Ростова гуляла под дождём по парку
Ты пишешь “шёл дождь”, сохраняешь, вылетает сообщение об ошибке “Наташа Ростова умерла, продолжение невозможно”
Почему умерла?
Начинаешь разбираться
Выясняется, что у Пьера Безухова скользкие туфли, он упал, его пистолет ударился о землю и выстрелил в столб, а пуля от столба срикошетила в Наташу
Что делать?
Зарядить пистолет холостыми?
Поменять туфли?
Решили убрать столб
Получаем сообщение “Поручик Ржевский умер” Выясняется, что он в следующей главе облокачивается о столб, которого уже нет...
Это не революционная новая технология, о которой думают люди, это просто больше автоматизации, и не отдельная технология, а по сути всё ещё программа
Где решать задачи по программированию
E-olymp
HackerRank
Coderbyte
Codewars
CodeFights
CodinGame
TopCoder
LeetCode
Раздел "Mock Interview" (Пробное интервью) специально предназначен для подготовки к собеседованию. Также проводятся соревнования по программированию, и есть раздел статей, который поможет вам лучше понять определенные задания
CodeChef
GeeksforGeeks — имеет лучшую коллекцию статей, объяснений и решений по теме алгоритмов и структурам данных
По ссылке примеры того, как сложный вопрос разбивается на более простые части, объяснение и код решения
Codeforces
Если вы начинающий кодер, задания, скорее всего, будут слишком сложны для вас — вот пример из недавнего соревнования
Для решения этих задач обычно требуются передовые знания в области математики и алгоритмов
Цель Codeforces — предложить разработчикам удобную платформу для создания, проведения и обсуждения соревнований по программированию
E-olymp
HackerRank
Coderbyte
Codewars
CodeFights
CodinGame
TopCoder
LeetCode
Раздел "Mock Interview" (Пробное интервью) специально предназначен для подготовки к собеседованию. Также проводятся соревнования по программированию, и есть раздел статей, который поможет вам лучше понять определенные задания
CodeChef
GeeksforGeeks — имеет лучшую коллекцию статей, объяснений и решений по теме алгоритмов и структурам данных
По ссылке примеры того, как сложный вопрос разбивается на более простые части, объяснение и код решения
Codeforces
Если вы начинающий кодер, задания, скорее всего, будут слишком сложны для вас — вот пример из недавнего соревнования
Для решения этих задач обычно требуются передовые знания в области математики и алгоритмов
Цель Codeforces — предложить разработчикам удобную платформу для создания, проведения и обсуждения соревнований по программированию