Как решать задачи оптимизации, когда функция негладкая, есть ограничения, а данных слишком много?
В свободном доступе есть Proximal Algorithms Нила Париха и Стивена Бойда – 113-страничная монография о проксимальных алгоритмах.
Идея: вместо одной сложной задачи последовательно решать небольшие подзадачи. На каждом шаге нужно улучшить значение функции, одновременно ограничивая удаление от текущей точки.
Такие методы особенно полезны для негладкой, крупномасштабной и распределённой выпуклой оптимизации.
Внутри – объяснение проксимального оператора, его связь с проекциями на выпуклые множества, обзор алгоритмов и множество примеров.
К материалу прилагаются слайды, библиотека проксимальных операторов и MATLAB-примеры: Lasso, разложение матриц, стохастическое управление и оптимизация портфеля.
Подойдёт тем, кто хочет глубже разобраться в математике оптимизации. Для чтения пригодятся линейная алгебра и основы выпуклого анализа.
PDF:
https://web.stanford.edu/~boyd/papers/pdf/prox_algs.pdf
Материалы и код:
https://stanford.edu/~boyd/papers/prox_algs.html
В свободном доступе есть Proximal Algorithms Нила Париха и Стивена Бойда – 113-страничная монография о проксимальных алгоритмах.
Идея: вместо одной сложной задачи последовательно решать небольшие подзадачи. На каждом шаге нужно улучшить значение функции, одновременно ограничивая удаление от текущей точки.
Такие методы особенно полезны для негладкой, крупномасштабной и распределённой выпуклой оптимизации.
Внутри – объяснение проксимального оператора, его связь с проекциями на выпуклые множества, обзор алгоритмов и множество примеров.
К материалу прилагаются слайды, библиотека проксимальных операторов и MATLAB-примеры: Lasso, разложение матриц, стохастическое управление и оптимизация портфеля.
Подойдёт тем, кто хочет глубже разобраться в математике оптимизации. Для чтения пригодятся линейная алгебра и основы выпуклого анализа.
PDF:
https://web.stanford.edu/~boyd/papers/pdf/prox_algs.pdf
Материалы и код:
https://stanford.edu/~boyd/papers/prox_algs.html
❤12🔥4🥰2
Атака на AI-агенты через размещение файла AGENTS.md в каталоге с загрузками
Исследователи из компании Forever Security, разбирая причины появления вредоносного ПО в системе одного из клиентов, выявили новый способ атаки на AI-агентов, основанный на том, что многие AI-агенты по умолчанию обрабатывают инструкции из файла AGENTS.md, размещённого в корне проекта, к работе над которым подключён агент. Атака проводится через размещение в каталоге ~/Downloads файла AGENTS.md или CLAUDE.md с инструкцией по установке вредоносного ПО (в рассмотренном случае устанавливался вредоносный npm-пакет function-color.
Полный текст:
https://opennet.ru/66551/
https://opennet.me/66551/
Исследователи из компании Forever Security, разбирая причины появления вредоносного ПО в системе одного из клиентов, выявили новый способ атаки на AI-агентов, основанный на том, что многие AI-агенты по умолчанию обрабатывают инструкции из файла AGENTS.md, размещённого в корне проекта, к работе над которым подключён агент. Атака проводится через размещение в каталоге ~/Downloads файла AGENTS.md или CLAUDE.md с инструкцией по установке вредоносного ПО (в рассмотренном случае устанавливался вредоносный npm-пакет function-color.
Полный текст:
https://opennet.ru/66551/
https://opennet.me/66551/
😁8❤4👍3🔥2
OpenAI выпустила GPT-6.1 Terra – для работы в приложениях, с изображениями и кодом. API стал вдвое дешевле GPT-5.6 Terra.
Модель рассчитана на повседневные задачи: заполнение форм, обработку счетов, разбор технических чертежей и редактирование видео.
По оценкам OpenAI:
- Agents’ Last Exam: на 15 процентных пунктов лучше предшественницы при среднем уровне рассуждений и примерно втрое меньшей стоимости задачи.
- Terminal-Bench 4.0: решает 50,3% задач против 21,5% у GPT-5.6 Terra при максимальном уровне рассуждений.
- Меньше фактических ошибок: во внутреннем тесте на сложные провоцирующие запросы частота ошибок при максимальном уровне рассуждений снизилась до 4,3%.
Цена API за миллион токенов:
- Вход – $1.
- Кешированный вход – $0,05.
- Выход – $5.
GPT-6.1 Terra доступна в ChatGPT Work и Codex на тарифах Plus, Pro, Enterprise и Edu. В API –
Для самых сложных задач программирования компания по-прежнему рекомендует GPT-6.1 Sol и GPT-6 Astra.
https://openai.com/index/introducing-gpt-6-1-terra/
Модель рассчитана на повседневные задачи: заполнение форм, обработку счетов, разбор технических чертежей и редактирование видео.
По оценкам OpenAI:
- Agents’ Last Exam: на 15 процентных пунктов лучше предшественницы при среднем уровне рассуждений и примерно втрое меньшей стоимости задачи.
- Terminal-Bench 4.0: решает 50,3% задач против 21,5% у GPT-5.6 Terra при максимальном уровне рассуждений.
- Меньше фактических ошибок: во внутреннем тесте на сложные провоцирующие запросы частота ошибок при максимальном уровне рассуждений снизилась до 4,3%.
Цена API за миллион токенов:
- Вход – $1.
- Кешированный вход – $0,05.
- Выход – $5.
GPT-6.1 Terra доступна в ChatGPT Work и Codex на тарифах Plus, Pro, Enterprise и Edu. В API –
gpt-6.1-terra.Для самых сложных задач программирования компания по-прежнему рекомендует GPT-6.1 Sol и GPT-6 Astra.
https://openai.com/index/introducing-gpt-6-1-terra/
❤8👍6🔥2😁2🤣2
Один флаг llama.cpp может резко замедлить обработку промпта – без ошибки и предупреждения.
В обсуждении #28455 описан случай: при включённом Flash Attention выбор `q5_1` для KV-кэша переносил вычисление внимания с GPU на CPU. Модель продолжала работать, но скорость падала.
Причина – отсутствие CUDA-ядер для выбранного формата кэша в стандартной сборке.
В замерах автора на RTX 4080 обработка промпта ускорилась с 38 до 1348 токенов/с после замены
Для затронутых сборок обходной вариант:
Ещё один поддерживаемый вариант – одинаковый
Если GPU почти простаивает, а CPU загружен – проверьте формат KV-кэша и параметры сборки. Участник команды llama.cpp подтвердил, что проблема известна.
https://github.com/ggml-org/llama.cpp/issues/28455
В обсуждении #28455 описан случай: при включённом Flash Attention выбор `q5_1` для KV-кэша переносил вычисление внимания с GPU на CPU. Модель продолжала работать, но скорость падала.
Причина – отсутствие CUDA-ядер для выбранного формата кэша в стандартной сборке.
В замерах автора на RTX 4080 обработка промпта ускорилась с 38 до 1348 токенов/с после замены
q5_1 на q8_0. Это скорость чтения входного запроса, а не генерации ответа.Для затронутых сборок обходной вариант:
-fa on -ctk q8_0 -ctv q8_0
Ещё один поддерживаемый вариант – одинаковый
q4_0 для K и V. Если нужен q5_1, автор предлагает пересборку с:
-DGGML_CUDA_FA_ALL_QUANTS=ON
Если GPU почти простаивает, а CPU загружен – проверьте формат KV-кэша и параметры сборки. Участник команды llama.cpp подтвердил, что проблема известна.
https://github.com/ggml-org/llama.cpp/issues/28455
👍8❤6🔥2👏2
Anthropic показала, как Claude помогает разрабатывать лекарства: от дизайна молекул до лабораторных испытаний и документов для регуляторов.
Компания опубликовала первые результаты сотрудничества с шестью организациями. Среди них – Generate Biomedicines, BigHat, Enveda и Bristol Myers Squibb.
CAR-T-терапия против рака. Учёные Generate с помощью Claude Code предложили укороченный участок генетической инструкции. Один вариант оказался примерно на 70% короче стандартного. В лабораторных тестах клетки производили примерно в 10 раз больше рецепторов, эффективнее уничтожали опухолевые клетки и дольше сохраняли активность.
Кандидаты против пищевой аллергии. Для Divergence Labs Claude создал около 35 тысяч дизайнов антител за месяц. Первые испытания выявили варианты, способные связывать IgE и отделять его от иммунных клеток. Следующий этап – объединить эти свойства в одном препарате.
Оптимизация антител. BigHat изготовила и проверила около 1010 вариантов за 10 недель. Лучшие связывали мишень более чем в десять раз сильнее исходных.
Проверка производственных документов. На 1061 странице Claude обнаружил все 11 проблем, найденных людьми, и ещё семь пропущенных. Время ручной проверки сократилось на 89%.
Anthropic также приобрела Mithril Medicine, разрабатывающую средства против редких мышечных дистрофий.
Большинство результатов пока доклинические: эффективность и безопасность новых препаратов у людей ещё предстоит установить.
https://www.anthropic.com/research/early-progress-drug-development
Компания опубликовала первые результаты сотрудничества с шестью организациями. Среди них – Generate Biomedicines, BigHat, Enveda и Bristol Myers Squibb.
CAR-T-терапия против рака. Учёные Generate с помощью Claude Code предложили укороченный участок генетической инструкции. Один вариант оказался примерно на 70% короче стандартного. В лабораторных тестах клетки производили примерно в 10 раз больше рецепторов, эффективнее уничтожали опухолевые клетки и дольше сохраняли активность.
Кандидаты против пищевой аллергии. Для Divergence Labs Claude создал около 35 тысяч дизайнов антител за месяц. Первые испытания выявили варианты, способные связывать IgE и отделять его от иммунных клеток. Следующий этап – объединить эти свойства в одном препарате.
Оптимизация антител. BigHat изготовила и проверила около 1010 вариантов за 10 недель. Лучшие связывали мишень более чем в десять раз сильнее исходных.
Проверка производственных документов. На 1061 странице Claude обнаружил все 11 проблем, найденных людьми, и ещё семь пропущенных. Время ручной проверки сократилось на 89%.
Anthropic также приобрела Mithril Medicine, разрабатывающую средства против редких мышечных дистрофий.
Большинство результатов пока доклинические: эффективность и безопасность новых препаратов у людей ещё предстоит установить.
https://www.anthropic.com/research/early-progress-drug-development
👍16❤10🔥9
Исследователи Т-Банка разработали LIMe — метод, который позволяет сократить вычислительные затраты на обучение на 15% при том же качестве, что и у базовой LLaMA. Разработку представили на EMNLP — ведущей международной конференции по обработке естественного языка.
В трансформерах текст проходит через слои в виде числовых представлений. По мере обработки они могут становиться слишком похожими — модель теряет важные различия между токенами и хуже справляется с многошаговыми рассуждениями
LIMe добавляет маршрутизатор, который выбирает, какую информацию из предыдущих слоев использовать. Это помогает сохранять различия между токенами и повторно использовать результаты вычислений
Метод проверили на моделях примерно с миллиардом параметров. На бенчмарках языкового моделирования и рассуждений LIMe показал более высокое качество по сравнению с другими методами. Особенно заметной разница оказалась в синтетических арифметических задачах и в моделях с большим количеством слоев.
В результате нужно меньше вычислений для достижения того же качества и более точное решение задач, требующих рассуждений. Код LIMe выложен в открытый доступ на GitHub
📖 https://github.com/corl-team/lime
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥24👍15❤13😁3⚡2
Классическая книга о SVM и ядерных методах – Learning with Kernels доступна в PDF.
Бернхард Шёлькопф и Александр Смола объясняют математические основы метода опорных векторов, регуляризации и оптимизации.
Идея SVM – найти разделяющую границу с максимальным зазором между классами. С линейным ядром она линейная, а ядерный трюк позволяет строить нелинейные границы, не вычисляя новое пространство признаков явно.
В книге:
- SVM и методы максимального зазора.
- Ядерные функции и их математические свойства.
- Регуляризация и контроль сложности модели.
- Оптимизация и теоретические основы обучения.
- Задачи в конце глав для самостоятельной работы.
Подойдёт тем, кто хочет понимать, что происходит за вызовом SVC.fit(). Для чтения пригодятся линейная алгебра, математический анализ и теория вероятностей.
Книга на английском. Издатель указывает объём 648 страниц.
PDF:
https://mcube.lab.nycu.edu.tw/~cfung/docs/books/scholkopf2002learning_with_kernels.pdf
Бернхард Шёлькопф и Александр Смола объясняют математические основы метода опорных векторов, регуляризации и оптимизации.
Идея SVM – найти разделяющую границу с максимальным зазором между классами. С линейным ядром она линейная, а ядерный трюк позволяет строить нелинейные границы, не вычисляя новое пространство признаков явно.
В книге:
- SVM и методы максимального зазора.
- Ядерные функции и их математические свойства.
- Регуляризация и контроль сложности модели.
- Оптимизация и теоретические основы обучения.
- Задачи в конце глав для самостоятельной работы.
Подойдёт тем, кто хочет понимать, что происходит за вызовом SVC.fit(). Для чтения пригодятся линейная алгебра, математический анализ и теория вероятностей.
Книга на английском. Издатель указывает объём 648 страниц.
PDF:
https://mcube.lab.nycu.edu.tw/~cfung/docs/books/scholkopf2002learning_with_kernels.pdf
❤5👍2🥰1
Media is too big
VIEW IN TELEGRAM
В GTA V сделали миссию, где ты вайбкодишь GTA VI с телефона, пока разработчики вызывают на тебя полицию
Автор попросил Perplexity Computer придумать и собрать этот сценарий. По его рассказу, агент изучил документацию FiveM и реализовал миссию на Lua.
Затем создал MCP-мост: локальный сервис на Node.js, который авторизуется через OAuth и превращает запрос с игрового телефона в настоящую задачу Perplexity Computer.
Пока полиция гонится за машиной, телефон показывает ход работы агента. Игрок отвечает на уточнения и подтверждает действия прямо во время погони.
Финал миссии - уйти от полиции у ангаров аэропорта и «выпустить билд». Конечно, речь об игровом сюжете, а не о создании настоящей GTA VI.
Для озвучки агент арендовал облачный GPU и запустил на нём Qwen3-TTS, сгенерировав все реплики без отдельного TTS API.
Когда «срочно выкатить в прод» стало буквально миссией на выживание.
https://x.com/AravSrinivas/status/2115435917708296406
Автор попросил Perplexity Computer придумать и собрать этот сценарий. По его рассказу, агент изучил документацию FiveM и реализовал миссию на Lua.
Затем создал MCP-мост: локальный сервис на Node.js, который авторизуется через OAuth и превращает запрос с игрового телефона в настоящую задачу Perplexity Computer.
Пока полиция гонится за машиной, телефон показывает ход работы агента. Игрок отвечает на уточнения и подтверждает действия прямо во время погони.
Финал миссии - уйти от полиции у ангаров аэропорта и «выпустить билд». Конечно, речь об игровом сюжете, а не о создании настоящей GTA VI.
Для озвучки агент арендовал облачный GPU и запустил на нём Qwen3-TTS, сгенерировав все реплики без отдельного TTS API.
Когда «срочно выкатить в прод» стало буквально миссией на выживание.
https://x.com/AravSrinivas/status/2115435917708296406
😁15👍3