193 subscribers
159 photos
73 videos
160 files
691 links
ALGORITHMS MACHINE LEARNING
Download Telegram
Алгоритмы и структуры данных

Урок 1 Введение

Урок 2 Динамический массив Stack_Queue и Set

Урок 3 Алгоритмы сортировки

Урок 4 Хеш таблицы Деверья

Урок 5 Бинарное дерево поиска. АВЛ-дерево

Урок 6 Графы. Часть 1
Урок 7 Графы. Часть 2
Урок 8 Графы. Часть 3

Урок 9 Динамическое программирование

Урок 10 Задачи Практикум
Два - это тоже в какой-то степени восемь
Forwarded from НИИ Антропогенеза (ARI) (Chagin Oleg A.)
Если к open-source моделям добавить самопроверку, то они обгонят Claude

Исследователи показали, как это работает на практике с помощью фреймворка LLM-as-a-Verifier

Так DeepSeek V4 Flash + самопроверка
на Terminal-Bench 2.1 смогла:

1. Сгенерировать всего 5 вариантов решения
2. Та же модель их оценила и выбрала лучший
3. Точность выросла с 79 % до 88 %

В итоге обогнали Claude Fable 5 и сделали это в 11 раз дешевле
Всё началось в 1994, когда Leonard Adleman опубликовал proof of concept - с помощью ДНК возможно решать вычислительные задачи
Решал он задачу поиска гамильтонова пути в графе (т.е. обходящего все вершины)
Она натурально ложится на этот hardware:

Берут молекулы, соответствующие вершинам, и молекулы, соответствующие рёбрам
Их выбирают специально так, чтобы рёбра могли подсоединяться к вершинам графа, которым они соответствуют

Всё это взбалтывают и смешивают
Создаётся куча цепочек молекул, каждая из которых - это валидный путь в графе

Получившиеся молекулы фильтруют с помощью дополнительных реакций, чтобы они соответствовали критериям валидности

Началось развитие данной области
По ходу дела было показано, что ДНК обладают Тьюринг-полнотой - то есть на них можно реализовать машину Тьюринга, а значит и любые другие вычисления
Было много забавных работ - к примеру, крестики-нолики на основе ДНК
А кто-то и нейросеть на основе ДНК

Большой прорыв произошёл в 2023 году, когда китайские учёные смогли реализовать на практике логические гейты, которые можно соединять произвольным образом в "ДНК-микросхемы", что предоставляет возможность реализовывать общие вычисления

В качестве примера авторы реализовали решатель квадратных уравнений

В чём вообще смысл этой области?
Зачем пытаться строить компьютеры в майнкрафте и прочих странных доменах?
На самом деле, ДНК-вычисления - это не игрушка, и у них есть жирное преимущество по сравнению с классическими вычислениями - энергоэффективность

Эволюция потратила миллиарды лет на дизайн энергоэффективных биологических механизмов, и классические компьютеры, кажется, далеко позади

Современные компьютеры выдают десятки миллиардов флопов на 1 джоуль. DNA проводят в 10000000000 больше реакций на 1 джоуль

Энергоэффективность компьютеров быстро растёт, и на эту тему есть даже аналог закона Мура - Koomey's law

С сохранением текущего тренда, нужны ещё несколько десятков лет, чтобы классические компьютеры догнали ДНК
Прямое сравнение всё же бессмысленно, пока мы не столкнём два подхода в лоб на одной и той же вычислительное задаче

DNA-вычисления побеждают классические компьютеры в одном очень важном аспекте, и в нём у классических компьютеров нет и не будет вообще никаких шансов

Но это обсудим в следующий раз
Крупнейший центр обработки данных (ЦОД) — в Усть-Илимске
Потребляемая мощность — 154 МВт
Проект уже прошёл Главгосэкспертизу, и по планам его должны достроить к 2027 году
Параллельно готовятся ещё два таких же ЦОД, которые построят следом
Все три — по 154 МВт каждый, то есть суммарно около 462 МВт
Использовать их будут для обучения моделей и для инференса

Строит всё это Cloud X (ООО «Клауд Солюшенс»), входящая в холдинг En+ (Эн+)
Инвестиции в три проекта — примерно в ₽140.000.000.000

Усть-Илимск выбран из-за Усть-Илимской ГЭС мощностью 3.840 МВт — четвёртой по мощности в России
Около 80 % генерации области — это ГЭС
Именно доступ к дешёвой гидроэнергии — главное преимущество проекта
По словам директора проекта «Восток» En+, в Восточной Сибири у компании около 1.000 МВт свободных мощностей — этого хватит примерно на 100.000 серверных стоек

Colossus 2 в Мемфисе, примерно на 1 ГВт (а весь комплекс Colossus — до 2 ГВт и порядка полумиллиона GPU), от газовых турбин (плюс аккумуляторы и городская сеть)
В США для питания дата-центров в ход идёт всё: газ (~40 % генерации), АЭС (~19 %), ВИЭ (~27 %), уголь

Газовая генерация как раз выигрывает скоростью запуска, но дороже гидроэнергии

Плюс вопрос охлаждения: если в Усть-Илимске среднегодовая температура −3.9 °C, а в Мемфисе +17.4 °C, то ЦОД будут не только тратить заметно меньше энергии на охлаждение, но и получат бесперебойный доступ к поверхностной воде — в отличие от Colossus, который качает более миллиона галлонов в сутки из водоносного горизонта и уже столкнулся с судебными исками

Cloud X заявляет, что планирует продавать мощности в том числе клиентам из стран Азии
На таких мощностях можно хостить и дообучать самые свежие китайские модели с открытыми весами
Сейчас это, например, Kimi K3, GLM-5.2 и Qwen3.8 — их веса можно свободно скачать и использовать под свои задачи
Как, к примеру, делают в Европе
Несмотря на то, что политики там часто выглядят неадекватными, никакого государственного запрета китайских моделей в ЕС нет — есть лишь точечные ограничения на приложение DeepSeek по причинам защиты данных
А бизнес китайские модели использует вовсю

Более того, французская Mistral — та самая, что позиционировала себя как «европейский суверенный искусственный интеллект», — в августе 2026 года начала хостить у себя китайскую GLM-5.2 от Z.ai «без изменений»
Существует миф, что DARPA (тогда ещё ARPA) строила ARPANET — предшественник интернета — чтобы сохранить систему управления США после массированного ядерного удара СССР

На самом деле всё было прозаичнее
В конце 1960-х у Пентагона было мало мощных суперкомпьютеров, и инженеры придумали объединить их в сеть, чтобы «расшаривать» вычислительные ресурсы удалённо
А идеи выживания в ядерном апокалипсисе легли поверх проекта чуть позже — исключительно для того, чтобы выбивать бюджеты из Конгресса

И вот теперь агентство, которое полвека назад изобрело интернет ради совместного доступа к железу, оказалось в зависимости от инфраструктуры коммерческих гигантов, сдающих им это железо в аренду

Давно известно, что почти каждая крупная технологическая компания (Google, Facebook, Apple, Microsoft, Hewlett-Packard, Oracle) на старте финансировались грантами DARPA и деньгами разведки
Военные вырастили этих монстров, а теперь они диктуют военным свои правила игры

Недавно DARPA опубликовало документы, в которых просит разрешить закупать облачные мощности в обход конкурентных процедур у «Большой четвёрки»: Amazon, Google, Microsoft и Oracle
Причина — не техническое превосходство, а «существенное дублирование затрат» и «неприемлемые задержки» при попытке перейти к другому поставщику

Пару лет назад Пентагон решил перенести всю свою инфраструктуру в единое облако
Тендер JEDI на $10.000.000.000 выиграла Microsoft

Однако Amazon и Oracle устроили настоящую судебную истерику, завалив суды исками, и почти на год парализовали цифровизацию армии
В итоге Минобороны США сдалось: тендер JEDI аннулировали, а вместо него придумали программу JWCC, в которой каждому из IT-гигантов гарантирован кусок военного пирога

На выходе у DARPA получился неповоротливый цифровой Франкенштейн
Если провести OSINT-анализ опубликованных документов, то примерно так выглядит картина реальной ИТ-инфраструктуры Пентагона:

AWS (Amazon) — «Боевой конвейер» — основная продакшн-среда
Здесь крутятся критически важные боевые нагрузки DARPA: модели для киберопераций, симуляции роев дронов, автономные системы
Код вшит в проприетарные сервисы Amazon (Lambda, DynamoDB, SageMaker) и работает под утверждёнными разрешениями ATO в изолированном регионе AWS GovCloud

Microsoft Azure — «Командный центр и пропускная система» — держит Пентагон за горло через системы идентификации
Azure интегрирован с военным аналогом офисного пакета (DoD365) и единой системой управления доступом Entra ID
Это командный контур: кто, куда и зачем имеет право зайти, вся логистика допусков, документооборот и совместная работа
Здесь не хранят тяжёлые модели, но без этого облака не зайдёт ни один генерал — и переучить всех «солдат заново входить» никто не рискнёт

Google Cloud (GCP) — «Секретная ИИ-лаборатория» — не пускают к оперативному управлению, но его железо незаменимо для передовых экспериментов
Документы указывают на потребность в TPU (собственных тензорных процессорах Google) и аналитическом движке BigQuery
Именно здесь, в изолированных регионах GCP, DARPA перемалывает петабайты сырых спутниковых данных, обучает самые тяжёлые нейросети для будущих войн и отрабатывает алгоритмы, которые потом пытаются перенести в закрытые контуры AWS

Oracle Cloud (OCI) — «Хранилище данных» — упоминается не потому, что он уже используется, а потому что «в будущих программах, скорее всего, потребуются базы данных Oracle RAC и платформа Exadata»

DARPA резервирует место для гигантских транзакционных баз — скорее всего, под военную логистику, учёт вооружений и кадровую отчётность
OpenAI показала сразу десять результатов модели Astra в сложной математике и теоретической информатике

Доказательства опубликовали на сотнях страниц и формально проверили с помощью Lean
График из статьи Bloomberg

Оранжевые точки – китайские модели, синие – США

По оси Y – взвешенное среднее по бенчмаркам GDPval-AA v2, τ³-Banking, Terminal-Bench v2.1, Humanity’s Last Exam, GPQA Diamond, CritPt, SciCode, AA-Omniscience и AA-LCR

Ломаной соединены фронтирные модели

Видно, насколько за пару лет сократился разрыв в способностях (и это еще на графике нет GLM-5.3)

Многие американские лидеры до сих пор утверждают, что китайские модели отстают на 6-9 месяцев, но, очевидно, эта информация устарела

И это уже не говоря про цены