Я заставил новую модель Claude 3.7 Sonnet пройти собес по алгоритмам

Недавно в мире GenAI появились захватывающие новости: компания Anthropic представила новую языковую модель Claude 3.7 Sonnet. Эта модель объединяет в себе высокую скорость реакции и способности «глубокого» рассуждения (deep reasoning), что делает её одной из самых универсальных и продвинутых моделей на рынке коммерческих LLM. Благодаря инновационному подходу к гибридноcти, Claude 3.7 Sonnet способна как быстро отвечать на запросы, так и предоставлять подробное пошаговое обоснование своих выводов в зависимости от выбранного режима.

https://habr.com/ru/articles/886130/

Алгоритмы и Структуры данных

Алгоритмы манипуляций с битами

TL; DR в статье приведены алгоритмы обработки коротких битовых строк, обычно вмещающихся в машинное слово, в большей степени эти алгоритмы предназначены для обработки строк длины 32 или 64, но многие из них можно применять для SIMD инструкций или даже GPU.

https://habr.com/ru/articles/886182/

Алгоритмы и Структуры данных

Самые быстрые алгоритмы распределенного и асинхронного обучения (с точки зрения теории)

Мы с коллегами занимаемся оптимизацией распределённого обучения — это довольно актуальная проблема, учитывая, что современные модели обучаются на многих тысячах GPU.

За последние 2 года нам удалось сделать несколько открытий в асинхронных методах оптимизации, которые мы изложили в 5 статьях [1–5] на NeurIPS и ICLR. В этой статье я расскажу, в чём заключаются особенности распределённого обучения и что нового привнесли в него мы с точки зрения теории.

https://habr.com/ru/companies/airi/articles/883266/

Алгоритмы и Структуры данных

Вышла новая GPT-4.5 preview, она сделает меня банкротом

Несколько часов назад (на момент написания статьи) я получил информационный e‑mail от OpenAI с темой «GPT-4.5 research preview» — компания релизит свою самую большую модель на данный момент времени.

По заявлениям OpenAI, модель теперь лучше понимает намерения пользователя, имеет более глубокие знания об окружающем нас мире, хорошо выполняет такие задачи, как коучинг, мозговой штурм и помощь в написании текстов. Что важно для разработчиков, GPT-4.5 отлично справляется с «агентскими» задачами, например, планирование, вызов инструментов, структурированный вывод и, в дополнение ко всему, vision‑модальность.

https://habr.com/ru/articles/886588/

Алгоритмы и Структуры данных

Структуры данных для подготовки к собеседованиям по алгоритмам

Эта статья содержит список и краткое описание основных структур данных и предназначена для подготовки к алгоритмическим собеседованиям.

Нет смысла решать задачи, если вы не знаете как устроены основные структуры данных изнутри. Это необходимо, чтобы правильно их применять, при решении задач, и правильно оценивать алгоритмическую сложность.

Рекомендую также прочитать мою статью про алгоритмы и оценку сложности. Эти две статьи помогут вам подготовиться к алгоритмическим собеседованиям.

https://habr.com/ru/articles/879914/

Алгоритмы и Структуры данных

Как пройти алгоритмическое собеседование: полный гид по алгоритмам, сложностям и стратегиям

Эта статья содержит список и краткое описание алгоритмов и оценки сложности алгоритмов.

https://habr.com/ru/articles/883030/

Алгоритмы и Структуры данных

Как эффективно бороться с галлюцинациями нейросетей

В статье рассмотрю, почему искусственный интеллект (ИИ) галлюцинирует и как с этим бороться. С развитием ИИ больших языковых моделей перед пользователями встает вопрос о достоверности информации, которую они предоставляют. Иногда ИИ может выдавать ответы, которые выглядят убедительно, но на самом деле являются вымышленными или неточными. Явление, при котором языковая модель генерирует ложную информацию, получило название «галлюцинация».

https://habr.com/ru/companies/beeline_cloud/articles/886706/

Алгоритмы и Структуры данных

Кривая эластичности в девелопменте и почему её не существует

Когда речь заходит об ожиданиях от динамического ценообразования (ДЦО), многие застройщики представляют себе безотказную машину, которая 24/7 мониторит спрос, в реальном времени выдаёт оптимальные цены, обеспечивает максимальную прибыль и заставляет конкурентов нервно курить в сторонке. Но, увы, суровая реальность напоминает, что не всё в жизни так просто.

Эта статья — первая из серии, где мы разберёмся, как ДЦО может работать на вас, даже если пока кажется, что это больше головная боль, чем инструмент максимизации прибыли. В этом цикле мы разложим всё по полочкам: от теории и мифов до конкретных решений, которые действительно приносят деньги. Приготовьтесь: будет полезно, интересно и немного иронично.

https://habr.com/ru/articles/886786/

Алгоритмы и Структуры данных

Сортируем сотни млн строк в разы быстрее библиотечных алгоритмов. А не замахнуться ли нам на ммм… на O(n)?

Уважаемые читатели, в своей разработческой деятельности я люблю творчески рассуждать за пределами общепринятых рамок, ограничений, постулатов, мнений влиятельных экспертов и т. п., пытаясь рассуждать как можно шире, заглядывать за «горизонт». Увлечение такое. Не только на работе (там, конечно, приходится считаться с ограничениями — с дисциплиной и самодисциплиной у меня всё в порядке ещё с армии), но особенно в личное время, где полёт мысли ничто не сдерживает. Хотя и на работе эти мои творческие особенности иногда позволяли продуцировать весьма эффективные решения, было такое и не раз. Но описываемое явление скреативилось в личное время.

Кто-то в личное время покоряет Эверест, кто-то стрит-драйвит, кто-то на нижней Волге ловит спиннингом судаков и жерехов (я тоже, кстати, раз в году), кто-то разводит мадагаскарских шипящих тараканов, а кто-то развлекает себя эзотерикой. А я вот внерабочее время развлекаю себя тем, что напрягаю свой мозг математическими и алгоритмическими проблемами. Придумываю что-нибудь эдакое, необычное. Жаль, что за эту деятельность не платят. Говорят, такое напряжение мозга поможет в старости спастись от болезни Альцгеймера. Во всяком случае, весьма на это надеюсь.

И, рассуждая совсем о другой проблеме, но где имеет место быть сортировка большого количества объектов, в плане алгоритма сортировки объектов, меня осенило. Быстренько проверил кодом — ого, работает! Рассчитываю, что вам понравится.

https://habr.com/ru/companies/alfa/articles/887064/

Алгоритмы и Структуры данных

Эффективная FIFO-обработка для Node.js и Chrome

"По классике" FIFO-очередь для обработки некоторого потока задач обычно реализуется в виде связанного списка элементов. Но для JavaScript такой подход нехорош - он требует либо создания "обвязки" над элементом очереди в виде дополнительного объекта, содержащего ссылки на сам элемент и указатель на следующий, либо превращения элемента в объект и расширения его таким же указателем.

https://habr.com/ru/companies/tensor/articles/688182/

Алгоритмы и Структуры данных

Реализация постквантовых алгоритмов на Java и Go

В последнее время в СМИ много публикаций о новых квантовых компьютерах, которые представляют угрозу для современной криптографии. Например, недавно Google сообщила о разработке квантового процессора Willow, который в специально сформулированной задаче превышает производительность самого мощного суперкомпьютера в септиллион раз (септиллион = 1025).

Хотя квантовая криптография быстро развивается, ей ещё далеко до того, чтобы угрожать современной криптографии. Более того, разработан ряд постквантовых алгоритмов и шифров, которые устойчивы к квантовым вычислениям.

https://habr.com/ru/companies/globalsign/articles/887178/

Алгоритмы и Структуры данных

Ну заяц погоди! Или противорактеная оборона для самых маленьких евреев и не только. Часть 2

Продолжение статьи, созданной в процессе решения задачи о погоне, для школьников. Очков Валерий Федорович, предложил мне решить методом структурного моделирования задачу погони волка за зайцем. И в первой части именно эта задача подробно и разобрана. Многие читатели справедливо спрашивали, а причем здесь евреи и ракеты? В этой части я покажу, как можно связать школьную задачу про бегающего по кругу зайца с израильской противоракетной обороной.

https://habr.com/ru/articles/887252/

Алгоритмы и Структуры данных

SQL HowTo: динамическое программирование (Advent of Code 2024, Day 19: Linen Layout)

В этой челлендж-серии статей попробуем использовать PostgreSQL как среду для решения задач Advent of Code 2024.

Возможно, SQL не самый подходящий для этого язык, зато мы рассмотрим его различные возможности, о которых вы могли и не подозревать.

Используем динамическое программирование для подсчета количества вариантов размещений.

В этой челлендж-серии статей попробуем использовать PostgreSQL как среду для решения задач Advent of Code 2024.

Возможно, SQL не самый подходящий для этого язык, зато мы рассмотрим его различные возможности, о которых вы могли и не подозревать.

Используем динамическое программирование для подсчета количества вариантов размещений.

https://habr.com/ru/companies/tensor/articles/887300/

Алгоритмы и Структуры данных

Cache pollution? Запасайтесь тестами

Всем ведь приходилось заниматься улучшением производительности? Для игр особенно актуально, ну может какая-то три-в-ряд не страдает этим. Как обычно серебряной пули нет, начинаем со структур данных, алгоритмов, спускаемся ниже, а если не помогает, придумываем SoA, AoS шаблоны. Если проблема не решается, подтягиваем профайлеры и предметно разбираем узкие места, но чтобы мы не делали, таким узким местом всегда будет "железо". Можно сколько угодно оптимизировать алгоритм работы, но CPU c его гигагерцами будет простаивать 90% времени если его неправильно "кормить" данными. Одной (только одной из проблем) проблемой организации эффективной работы с данными будет меньше, если знать и уметь работать с кэшами разных уровней.

https://habr.com/ru/articles/687146/

Алгоритмы и Структуры данных

От каскадных моделей до картинок в 4к: как эволюционировали диффузионки

На дворе 2025 год. Генерацией картинок и видео в интернете больше никого не удивишь. Генеративный контент повсюду, а его качество настолько высоко, что бывает трудно отличить синтетическую картинку от реальной.

Прогресс не стоит на месте, но какой ценой? Мир сильно усложнился со времён выхода первых моделей Stable Diffusion, подробные рассказы о которых (раз, два) описывали главную и до недавнего времени единственную доступную широкому кругу пользователей качественную открытую модель.

В прошлом году мы с коллегами рассказывали про то, как мы открывали и улучшали технологию YandexART. В этом посте мы хотели бы рассказать о том, что нового произошло в мире диффузионных моделей за последние два года. Ниже мы обсудим борьбу каскадной и латентной парадигм, дилемму между свёрточными моделями и трансформерами, новые формулировки диффузии и дистилляцию как метод решения основной проблемы диффузионных моделей — низкой скорости генерации.

Цель этого обзора — дать общее представление о прогрессе и трендах. Некоторые детали в нём могут показаться сложными и непонятными для неспециалиста в области генеративного моделирования. Чтобы помочь разобраться в теории и основных инженерных практиках, стоящих за современными генеративными моделями, мы выпустили бесплатный курс лекций и семинаров в рамках CV week — открытого интенсива ШАДа, который подготовили практикующие разработчики и исследователи генеративных диффузионных моделей, авторы технологии YandexART.

https://habr.com/ru/companies/yandex/articles/886466/

Алгоритмы и Структуры данных

ИИ-самоучка демонстрирует сходство с тем, как работает мозг

Теперь некоторые вычислительные нейробиологи начали изучать нейронные сети, которые были обучены с небольшим количеством данных, помеченных человеком, или без них. Эти алгоритмы «обучения с самоконтролем» оказались чрезвычайно успешными в моделировании человеческого языка и, в последнее время, в распознавании изображений. В недавней работе вычислительные модели зрительной и слуховой систем млекопитающих, построенные с использованием моделей обучения с самоконтролем, показали более близкое соответствие функциям мозга, чем их аналоги с контролируемым обучением. Некоторым нейробиологам кажется, что искусственные сети начинают раскрывать некоторые из реальных приёмов, которые использует наш мозг в обучении.

https://habr.com/ru/companies/first/articles/686348/

Алгоритмы и Структуры данных

Хотите получить синюю галочку в Инстаграм? Притворитесь музыкантом, обманув Google

Получить желанную синюю галочку Instagram довольно непросто, и предполагается, что любой, кто её носит, является тем, за кого себя выдаёт. Помимо предложения влияния, владельцы проверенных учётных записей могут получить доступ к новым функциям до того, как они станут доступны для широкой публики. Артисты, «светские львицы», модели, бизнесмены и всевозможные охотники за хайпом полагаются на Instagram, чтобы выставлять напоказ свой образ жизни, получать доход и создавать личный бренд. Они рассматривают синюю галочку как один из немногих доступных вариантов, которые могут помочь им пустить пыль в глаза своих подписчиков. Другие жаждут этого значка как символа статуса. Немудрено, что ради этого они готовы воспользоваться услугами мошенников, которые могут достать для них желаемый значок. Результатом является стабильный приток состоятельных клиентов, готовых платить достаточно большую сумму за подтверждение.

https://habr.com/ru/articles/686164/

Алгоритмы и Структуры данных

Генерация псевдослучайных чисел в программировании. И как у меня псевдо-получилось их сгенерировать

В первую очередь я хочу очертить суть данной статьи. Тут я не буду разбирать полностью тему о генерации случайных чисел самим компьютером, за исключением одного термина для понимания разницы между Генерацией истинно случайных чисел(ГСЧ) и генерацией псевдослучайных чисел (ГПСЧ). Тут мы больше поговорим об алгоритмах которые используют языки программирования для генерации случайных чисел, и о том, почему они не случайны и не могут быть таковыми. Эта статья предназначена для тех программистов, которые минимум уже освоили функцию генерирующую случайные числа в своем языке, и хотят понять глубже эту тему. Я считаю эта тема одна из самых важных и в какой то степени сложной. Случайные числа очень полезны в различного рода алгоритмах, и понимание того, как они работают, возможно в будущем помогут вам сделать, что-то невероятное или просто полезное. А в конце я покажу свою псевдо-удачную попытку изобрести свой генератор псевдослучайных чисел.

https://habr.com/ru/articles/686190/

Алгоритмы и Структуры данных

Симуляция воды над рельефом

Если вам неинтересно долгое скучное введение, то переходите сразу к разделу о методике виртуальных труб. Но меня это немного расстроит.

Я одержим генерацией рельефа, играми на основе сеток, симуляциями и тому подобным. И часто во всём этом присутствует вода, или, по крайней мере, её присутствие кажется естественным.

Допустим, вы генерируете карту для стратегической игры, но не хотите, чтобы границы карты были заполнены непроходимой пустотой (как в олдскульных RTS). Разве не будет здорово, если граница будет заполнена водой, как на этой карте из одного моего заброшенного проекта?

https://habr.com/ru/articles/886386/

Алгоритмы и Структуры данных