204 subscribers
169 photos
102 videos
182 files
721 links
ALGORITHMS MACHINE LEARNING
Download Telegram
Сэм Альтман: «Мир, в котором человеческий мозг и сознание загружаются в облако, чтобы жить, — это шедевр»

«Даже если общество станет суперудобным благодаря цифре, люди в итоге всё равно как-нибудь сами сделают себя несчастными и нарочно создадут себе трудности и препятствия, так что в каком-то смысле мы — безнадёжные существа»

CEO OpenAI (с обязательствами по платежам около 100 триллионов йен + наибольшее в индустрии количество судебных споров), Сэм Альтман, каким видит идеальный мир?

Во время интервью Сэм Альтман проговорился о своих опасных идеях, которые обычно не афиширует, — вот его настоящие мысли↓

• «В этом году ИИ обогнал интеллект человечества»
• Все беспечно продолжают жить как обычно, но основы цивилизации уже необратимо переписаны на уровне, которого не вернуть
Бессмертие?
Излечение всех болезней?
Мир, как в научной фантастике, уже на пороге

• Мир, показанный в аниме «Пантеон», становится реальностью
• Аниме «Pantheon (Пантеон)», которое рисует мир, где человеческий мозг и сознание загружаются в облако для жизни, Альтман просто обожает
«Я обычно не смотрю телевизор, но это — шедевр», — сказал он, намекая, что цифровизация сознания уже не просто фантазия

• «Единственная проблема, которую не решить»?
На вопрос «Есть ли проблемы, которые не решить даже компьютер?» Альтман тут же ответил с огоньком: «Как бы мир ни стал удобным, люди всё равно сами себя сделают несчастными, нарочно придумают новые беды и страдания и разыграют их сами
Это единственное, что компьютер никогда не вылечит»

• Старая армия ни черта не понимает о «лике следующей войны»
Великие военные бонзы всегда цепляются за методы «прошлой войны»
Думали, раз раньше были ружья, то и теперь ружья, — и совершенно не поспевают за реальностью, где цифра перекрашивает правила поля боя с корнями

В общем, «не стоит беспечно болтать о том, что "когда-нибудь цифра превзойдёт человека", — реальность в том, что "в этом году он уже обогнал", и даже если технологии достигнут божественного уровня, пытаясь превратить мир в рай, люди сами по себе найдут повод для несчастий и будут ныть вечно, — так, словно создатель AML достиг просветления Будды», — говорит он
Scale is an emergent property that often produces returns far beyond consensus expectations
When something works at a smaller scale, pushing it further is often valuable, even if many people think it will break.

Examples include:
- AI model scaling
- Research teams: more smart people focused on one problem
- Companies: economies of scale
- YC batches: larger batches created useful network effects

The most interesting career observations came from cases where scale produced something qualitatively new
The key idea is quantity becoming quality
A lot of important breakthroughs were not obvious in advance and only appeared once a system was pushed beyond previous limits

Scaling usually breaks things in unpredictable ways, so it must be decomposed into specific risks and addressed one by one:
- technical feasibility
- capital requirements
- organisational complexity
- cultural resistance
- engineering reliability

A clear goal, a clear plan, and a clear decision-making process are crucial when asking humans to participate in a large-scale bet

GPT-3 initially had little product traction, so it was launched as an API
Developers then began using it mainly for chat-like interaction, even when the API was not working well for business use cases
This revealed clear user demand
A better post-training method enabled instruction following, and the team built a chatbot around that behaviour

Key lessons:
- follow what users naturally love
- weak early growth that keeps accelerating is often a strong signal
- product and company formation can happen together under pressure

The original plan before ChatGPT was to focus heavily on code
Code was seen as a way for models to act in the digital world, alongside robots in the physical world
Codex later reached a major capability inflection, showing that coding is a powerful enterprise use case

The current pipeline is:
- pre-training
- mid-training
- post-training
- RL and supervised feedback loops

This is likely the present standard, but it probably will not remain the final architecture
A major rewrite is expected eventually

AI is increasingly viewed as a new utility, similar to electricity or the internet
The best analogy is not selling “intelligence” directly, but finding a simpler value proposition, as electricity companies once sold light at night rather than electricity itself


- Consumers and businesses will mostly think in terms of tokens or an even higher-level service experience
- They will care about cost, quality, and access, not chips or hardware details
- Compute becomes abstracted away underneath the user-facing utility

A strong project would likely focus on inference:
- making intelligence cheap
- making it abundant
- improving delivery at scale

Frontier labs may increasingly need to become inference companies

LLMs are already better than humans at some tasks and far worse at others, especially long-horizon judgement
They can also discover new knowledge, including solving mathematical problems that smart people had worked on for a long time
Betting against continued LLM scaling is seen as misguided

Persistent critics who ignore data are not especially troubling
The main issue is when identity becomes tied to a belief that evidence has already disproved
картинки по выходным: stevejtrettel.site/research/algebraic-starscapes/

«Take every polynomial with integer coefficients up to some degree, find its complex roots, and draw a dot at each one
Size the dots so that simple polynomials get big dots and complicated ones get small dots, and measure sizes in the hyperbolic metric of the upper half plane

The result is a starscape: the plane fills with beaded necklaces of disks that subdivide it into ever finer regions, and around each large dot the smaller ones spiral like the arms of a galaxy»

«What I like most about this project is, honestly, where it came from. We started by asking what made an image look interesting, without trying too hard to define interesting, and chasing that turned out to be a reliable path to mathematics (…)»

см. тж. arxiv.org/abs/2008.07655
Маркетолог спрашивает программиста: в чём сложность поддержки большого проекта?

Программист: ну представь, что ты писатель и поддерживаешь проект “Война и мир”
У тебя ТЗ — написать главу как Наташа Ростова гуляла под дождём по парку
Ты пишешь “шёл дождь”, сохраняешь, вылетает сообщение об ошибке “Наташа Ростова умерла, продолжение невозможно”
Почему умерла?
Начинаешь разбираться
Выясняется, что у Пьера Безухова скользкие туфли, он упал, его пистолет ударился о землю и выстрелил в столб, а пуля от столба срикошетила в Наташу
Что делать?
Зарядить пистолет холостыми?
Поменять туфли?
Решили убрать столб
Получаем сообщение “Поручик Ржевский умер” Выясняется, что он в следующей главе облокачивается о столб, которого уже нет...
Это не революционная новая технология, о которой думают люди, это просто больше автоматизации, и не отдельная технология, а по сути всё ещё программа
Где решать задачи по программированию

E-olymp
HackerRank
Coderbyte
Codewars
CodeFights
CodinGame
TopCoder
LeetCode

Раздел "Mock Interview" (Пробное интервью) специально предназначен для подготовки к собеседованию. Также проводятся соревнования по программированию, и есть раздел статей, который поможет вам лучше понять определенные задания

CodeChef
GeeksforGeeks — имеет лучшую коллекцию статей, объяснений и решений по теме алгоритмов и структурам данных

По ссылке примеры того, как сложный вопрос разбивается на более простые части, объяснение и код решения

Codeforces
Если вы начинающий кодер, задания, скорее всего, будут слишком сложны для вас — вот пример из недавнего соревнования
Для решения этих задач обычно требуются передовые знания в области математики и алгоритмов
Цель Codeforces — предложить разработчикам удобную платформу для создания, проведения и обсуждения соревнований по программированию
«Graph Theory with Applications» представляет собой бесплатный вводный учебник по теории графов и её приложениям

Изложение начинается с графов и подграфов, путей и циклов, деревьев и связности

Далее в книге рассматриваются эйлеровы и гамильтоновы графы, паросочетания, раскраска графов, планарные и ориентированные графы, сетевые потоки и экстремальная теория графов

Авторы сочетают наглядное, геометрическое и топологическое понимание графов со строгим изложением математических основ

В описании книги среди областей применения этой теории названы информатика, компьютерные сети, оптимизация и анализ данных

https://book.huihoo.com/pdf/graph-theory-with-applications.pdf
Что было при Сталине и что потеряли:

Все функции были непрерывными

Если функция где-то разрывалась — люди подбегали, устраняли разрыв, извинялись перед аргументом

Компакты были такие мощные, что любое открытое покрытие имело подпокрытие из одного множества
Вся страна была компактная
Даже бесконечномерная

Любой ряд сходился абсолютно
Переставляй члены как хочешь — сумма только увеличивалась

Дед рассказывал, что однажды переставили два члена гармонического ряда и получили триста рублей
This media is not supported in your browser
VIEW IN TELEGRAM
Конец инженерии арнессов: написание программы вокруг модели как навык закончилось

Арнесс, написанный человеком, — это догадка одного человека о задаче
Его публикуют, никто его не перечитывает, никто не оценивает, и агент гоняет эту догадку месяцами

Арнесс, написанный циклом, — это файл, который сам себя оценивает
Маленькая модель на 4B читает, что сломалось, пишет 8 правок, и выживает только та правка, которая лучше всего набирает баллы на отложенных вопросах

Большая модель никогда не меняется
Файл вокруг нее — меняется, каждый раунд

Так что работа человека сводится к одному артефакту: набору для оценки
Вы пишете вопросы, но никогда — программу

Фреймворки становятся одноразовыми
Экзамен превращается в работу
ARI AML
Video
После математики — теоретическая физика

Люди начинают переходить от роли тех, кто оценивает ответы, к роли тех, кто учится у ответов

Джек Кларк: «Здесь я хочу процитировать слова одного из создателей этого теста — индийского физика Суджата Раджу
Он опубликовал свои впечатления от результатов на Facebook: „Без помощи алгоритмов я не знаю ни одного человека, способного решить значительную часть задач, собранных для этого теста“

По его словам, в первоначальной оценке точность GPT-6 Astra составляла чуть ниже 80 %, а Opus 5.5 немного отставал

Однако, когда начали проверять места, где, как казалось, модели ошиблись, модели — особенно Astra — утверждали, что их ответы правильны, а эталонные ответы экспертов неверны

После повторной проверки экспертами выяснилось, что в нескольких случаях эксперты сами обнаружили тонкие ошибки, скрытые глубоко в расчётах

По мере того как эксперты корректировали ответы, точность Astra постепенно росла и в итоге достигла 98 %
Правильных ответов на 49 из 50 задач

Ведущие учёные мира собрали задачи, ответы на которые заранее знать не мог, и составили тест
А когда протестировали алгоритмы, он не просто набрал высокие баллы
Он ещё и повысил их, обнаружив ошибки в ответах, созданных людьми

Это знакомый поворот истории, где наставник становится учеником, а ученик — наставником

Именно это произошло на прошлой неделе»
Гонка за самую умную модель уже не приносит деньги

За последние несколько месяцев OpenAI, Anthropic и Google выпустили более десятка новых моделей, такого темпа не было в прошлом году, надо отметить, и он будет только расти

При этом, раньше модель, если была на 10 пунктов умнее конкурента, то сразу притягивала на 70 % больше разработчиков, а сейчас только на 20 %

То есть за год преимущество «самой умной» модели в глазах разработчиков сжалось в 3.5 раза

Это происходит по нескольким причинам, во-первых, open-source модели уже справляются с большинством повседневных задач

Во-вторых, есть целый класс задач, где сверхвысокий интеллект модели просто не нужен

В итоге лаборатории всё больше напоминают облачных провайдеров: их конкурентное преимущество смещается к дистрибуции, цене, UX и экосистеме

Для OpenAI и Anthropic, выстраивавших бизнес-модель на логике «мы умнее, нам платят больше», это серьёзный вызов
Только сегодня писали о том, как меняется бизнес-модель DeepSeek

Но надо отметить, что разработчики - не единственная аудитория
Для длинных, сложных и высокоценных задач топ-модели по-прежнему выигрывают

Но тренд видимый
Что остаётся математику, если доказательство уже получено машиной? Вопрос упирается в то, что считать результатом математической работы.

При решении трудной задачи ценность имеет и сам путь. В ходе поиска возникают инструменты, связи между разными результатами и вопросы, которые заранее никто не собирался задавать. Поэтому готовое доказательство ещё предстоит осмыслить и встроить в общую картину.

В обсуждении будущего математики, Павел описывает возможное перераспределение труда
Математики будут передавать больше работы по получению результатов, а сами уделять больше времени их интерпретации и изучению
Это прогноз, и он предполагает изменение того, за что профессиональное сообщество даёт признание и возможности для карьеры

У такой работы есть конкретное содержание
Переписать доказательство так, чтобы стали видны его идеи
Найти более изящный аргумен
Предложить определения и общую теорию
Сформулировать следующие вопросы и выбрать те, вокруг которых стоит строить исследовательскую программу
Даже прекрасно изложенный текст требует от читателя самостоятельной работы по пониманию.

Здесь возникает трудность с профессиональными стимулами
Публикации, найм и признание в математике тесно связаны с доказанными теоремами
Если получать доказательства станет проще, а понимать их останется трудно, ценность объяснения и передачи знаний придётся учитывать гораздо серьёзнее

Есть и образовательный риск
Дэниел Литт предупреждает о возможном будущем, в котором исследователей учат запускать систему, но не читать её ответы и не задавать интересные вопросы
Он специально оговаривает, что не считает такой исход вероятным
Это предупреждение о последствиях бездействия, а не утверждение о неизбежном исчезновении профессии

https://arxiv.org/
https://www.its.caltech.edu/~matilde/AImathNew.pdf?fbclid=IwdGRjcAUQucdwZG9mBWZkaWQWUOMEIeWBCoMYIEJ-p0zPAdFGY3K_TmV4dG4DYWVtAjExAHNydGMGYXBwX2lkCjY2Mjg1NjgzNzkAAR4OmpVGyropDsZxaTU-QywGnsVMjLUunr363rVYGOwj7ORz7-hhXrsfuhX8JA_aem_kseyrFyppT40Qv1B8db7tQ
https://youtu.be/Uu5TEQDv4ZI

GetAClass: «Наш канал задумывался как научно-образовательный, и мы уже рассказывали об австрийском школьном учебнике физики и замечательном трёхтомнике Эрика Роджерса «Физика для любознательных» для гуманитариев, а сегодня речь пойдёт об одном из лучших курсов физики для студентов, специализирующихся в естественных и технических науках

(…)

Механика в первом томе Берклеевского курса сразу даётся на основе специальной теории относительности, и на этой базе во втором томе, посвящённом электродинамике, показывается, что магнитное поле — это релятивистский эффект

Содержание третьего тома составляет единая теория волновых явлений, а изложение квантовой механики в четвёртом томе очищено от избыточного математического формализма и основано на физических оценках величин

Пятый том начинается со статистической физики, которая становится теоретической основой термодинамики

Но самое важное, Берклеевский курс не только формирует единую картину мира, он учит студента главному навыку физика — задавать вопросы природе и не бояться получать на них неожиданные ответы

Быстро выяснилось, что у Берклеевского курса есть и недостатки: его авторы предполагали, что первокурсники уже хорошо знают математический анализ и векторное исчисление
Поэтому обычные инженеры считали курс слишком трудным и перегруженным теорией
Зато студенты-физики приняли его на ура!»
This media is not supported in your browser
VIEW IN TELEGRAM
250 экземпляров Claude Fable 5.1, генерирующих данные параллельно, в то время как Jev занимается валидацией на бэкенде, чтобы перепроверять каждый отдельный вывод по отношению к его основному источнику
Это выходит далеко за рамки стандартного ускорения
Это самодостаточная экосистема, которая не остановится, пока не будет устранена каждая последняя несостыковка

Я спустил их на 80 IT-компаний

Первый проход: отмечено 18 проблем, сломанные API, фейковые метрики, пустые конечные точки

Второй проход: сузилось до 9 сбоев

Третий проход: полная зачистка, ноль ошибок осталось

Это не просто очередной понт с агентами
Это полностью автономный рабочий процесс, который исправляет свои собственные ошибки еще до того, как я подниму крышку ноутбука

Если знаете, как строить такие системы, вам никогда не придется беспокоиться о безопасности работы

Если нет, статья, приведенная ниже, была создана специально