GLM-5.3 без цензуры: вышел EXL3-квант на 3 бита
На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.
В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле
Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.
Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.
Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.
Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.
https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw
На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.
В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле
CRACK_SURGERY.json. Сам EXL3-квант сделан поверх этой правки.Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.
Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.
Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.
Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.
https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw
🔥23😁15❤13👏12💯12👍10🤔10🎉8🥰3
🤖 Google открыла бесплатный курс по созданию ИИ-агентов: 31 день практики
Весь октябрь в Advent of Agents публикуют по одному уроку в день. Показывают, как создавать агентов, подключать инструменты, управлять доступами, добавлять голос и зрение и разворачивать проекты в Google Cloud.
Отдельные темы посвящены безопасности: как ограничить опасные действия агента и защитить данные от утечек.
К урокам прилагаются материалы, репозитории и готовый код, который можно запустить и разобрать.
Это уже третий сезон проекта. В архиве доступны ещё десятки практических уроков, тоже бесплатно.
https://adventofagents.com/
Весь октябрь в Advent of Agents публикуют по одному уроку в день. Показывают, как создавать агентов, подключать инструменты, управлять доступами, добавлять голос и зрение и разворачивать проекты в Google Cloud.
Отдельные темы посвящены безопасности: как ограничить опасные действия агента и защитить данные от утечек.
К урокам прилагаются материалы, репозитории и готовый код, который можно запустить и разобрать.
Это уже третий сезон проекта. В архиве доступны ещё десятки практических уроков, тоже бесплатно.
https://adventofagents.com/
🔥24❤23🎉17👍13😁13👏12💯11🤔7🥰4
📚 271 страница линейной алгебры от Теренса Тао, бесплатно
Конспекты университетского курса Math 115A в UCLA: векторные пространства, базисы, матрицы и линейные преобразования.
Внутри объяснения, примеры, доказательства и задания. Материал на английском, с упором на понимание математических идей.
Если хотите разобраться в математической основе машинного обучения, сохраняйте.
📥 PDF: https://terrytao.wordpress.com/wp-content/uploads/2016/12/linear-algebra-notes.pdf
Конспекты университетского курса Math 115A в UCLA: векторные пространства, базисы, матрицы и линейные преобразования.
Внутри объяснения, примеры, доказательства и задания. Материал на английском, с упором на понимание математических идей.
Если хотите разобраться в математической основе машинного обучения, сохраняйте.
📥 PDF: https://terrytao.wordpress.com/wp-content/uploads/2016/12/linear-algebra-notes.pdf
❤26👍22💯19🔥18🎉15🤔12😁9👏7🥱2
⚡️ Astra 6.1 была готова к выходу, но OpenAI отложила релиз из-за рисков
В интервью Vanity Fair Сэм Альтман объяснил: компания хочет увереннее контролировать поведение модели, прежде чем дать к ней широкий доступ.
При этом он готов допустить отдельные ошибки, чтобы власть над ИИ не сосредоточилась у нескольких компаний и государств. Даже несмотря на ожидаемую волну кибератак с использованием открытых моделей.
Граница допустимого - потеря человеческого контроля над ИИ.
Соглашение Трампа об ИИ Альтман назвал первым шагом, признав отсутствие реальной силы. А критикам ответил: «Вам явно не понравятся многие мои решения».
В интервью Vanity Fair Сэм Альтман объяснил: компания хочет увереннее контролировать поведение модели, прежде чем дать к ней широкий доступ.
При этом он готов допустить отдельные ошибки, чтобы власть над ИИ не сосредоточилась у нескольких компаний и государств. Даже несмотря на ожидаемую волну кибератак с использованием открытых моделей.
Граница допустимого - потеря человеческого контроля над ИИ.
Соглашение Трампа об ИИ Альтман назвал первым шагом, признав отсутствие реальной силы. А критикам ответил: «Вам явно не понравятся многие мои решения».
3👏49😁44👍39❤35🤔34🎉31🔥30🤣30💯25
👁️ Liquid AI добавила зрение в d1: модель принимает решения без генерации текста
На входе текст, изображение или оба сразу. На выходе вероятности: «да/нет», выбор из вариантов или оценка по шкале. Всё за один проход модели. Текстовые решения занимают 200–300 мс.
По тестам Liquid AI:
- В 19–200 раз дешевле GPT-6.1 Sol и Claude Opus 5.5, быстрее на всех шести задачах.
- На 4 из 6 задач результат не хуже GPT-6.1 Sol.
- 85–97% точности на четырёх задачах проверки продукции по фотографиям.
Практические применения: фильтрация обращений, поиск дефектов, выбор следующего действия для агента.
> Попробовать: https://d1.liquid.ai
> Decision models page: https://docs.liquid.ai/lfm/models/decision-models
> Liquid API: https://console.liquid.ai
На входе текст, изображение или оба сразу. На выходе вероятности: «да/нет», выбор из вариантов или оценка по шкале. Всё за один проход модели. Текстовые решения занимают 200–300 мс.
По тестам Liquid AI:
- В 19–200 раз дешевле GPT-6.1 Sol и Claude Opus 5.5, быстрее на всех шести задачах.
- На 4 из 6 задач результат не хуже GPT-6.1 Sol.
- 85–97% точности на четырёх задачах проверки продукции по фотографиям.
Практические применения: фильтрация обращений, поиск дефектов, выбор следующего действия для агента.
> Попробовать: https://d1.liquid.ai
> Decision models page: https://docs.liquid.ai/lfm/models/decision-models
> Liquid API: https://console.liquid.ai
3🔥29🎉17💯17❤16👍13🤔13😁9👏8⚡2
🧲 90+ агентов Claude Opus 5.5 за три дня помогли найти два материала для памяти нового поколения
По сообщению Vals AI, команда выявила в симуляциях два перспективных магнитных полупроводника. Цель: хранить информацию с помощью спина электронов, при этом противоположные магнитные моменты должны взаимно компенсироваться.
• YBaMnFeO₅: новый предложенный материал. Расчёты выглядят многообещающе, но нужный порядок атомов марганца и железа может разрушаться при изготовлении.
• KV[Cr(CN)₆]: соединение, синтезированное ещё в 1999 году. Команда рассчитала свойства, которые могут сделать его полезным для спинтроники.
Пока это вычислительные прогнозы. Следующий шаг: лабораторные измерения, которые проверят предсказанные свойства.
ИИ помогает искать новые материалы
https://www.vals.ai/blogs/room-temperature-magnetic-semiconductors
По сообщению Vals AI, команда выявила в симуляциях два перспективных магнитных полупроводника. Цель: хранить информацию с помощью спина электронов, при этом противоположные магнитные моменты должны взаимно компенсироваться.
• YBaMnFeO₅: новый предложенный материал. Расчёты выглядят многообещающе, но нужный порядок атомов марганца и железа может разрушаться при изготовлении.
• KV[Cr(CN)₆]: соединение, синтезированное ещё в 1999 году. Команда рассчитала свойства, которые могут сделать его полезным для спинтроники.
Пока это вычислительные прогнозы. Следующий шаг: лабораторные измерения, которые проверят предсказанные свойства.
ИИ помогает искать новые материалы
https://www.vals.ai/blogs/room-temperature-magnetic-semiconductors
❤35👍19🔥18💯16😁12🤔11🎉11👏7🙏2🤣2
🏅 Нобелевская премия по физике 2026 года присуждена Фрэнсису Хальцену
За решающий вклад в создание обсерватории IceCube и открытие высокоэнергетических нейтрино астрофизического происхождения.
IceCube превращает кубический километр антарктического льда в гигантский детектор. Датчики улавливают свет от редких взаимодействий нейтрино с веществом.
Эти частицы почти беспрепятственно проходят через Землю и наши тела. Но именно поэтому они могут приносить информацию о далёких космических процессах, недоступную другим способам наблюдения.
Хальцен предложил использовать лёд Южного полюса ещё в 1988 году. Его идея открыла новый способ изучать Вселенную.
https://www.nobelprize.org/prizes/physics/2026/press-release/
@data_analysis_ml
За решающий вклад в создание обсерватории IceCube и открытие высокоэнергетических нейтрино астрофизического происхождения.
IceCube превращает кубический километр антарктического льда в гигантский детектор. Датчики улавливают свет от редких взаимодействий нейтрино с веществом.
Эти частицы почти беспрепятственно проходят через Землю и наши тела. Но именно поэтому они могут приносить информацию о далёких космических процессах, недоступную другим способам наблюдения.
Хальцен предложил использовать лёд Южного полюса ещё в 1988 году. Его идея открыла новый способ изучать Вселенную.
https://www.nobelprize.org/prizes/physics/2026/press-release/
@data_analysis_ml
👍53❤26🔥20🎉16🤔14👏13😁11💯7🙏3
⚛️ Google заключила атомную сделку на 20 лет
Соглашение с Constellation позволит добавить 890 МВт мощности за счёт модернизации 11 действующих реакторов на шести АЭС в США.
Constellation вложит более $4,3 млрд в обновление оборудования. Первое увеличение мощности ожидается к 2028 году. По масштабу вся прибавка сопоставима с новым крупным атомным реактором.
Дополнительно Google заключила 15-летний договор на поставку ещё 2,7 ГВт от существующих генерирующих активов Constellation.
Сотрудничество работает в обе стороны: Constellation внедрит Gemini Enterprise и ИИ-агентов в свои операционные процессы для повышения эффективности и надёжности энергосистемы.
Рост ИИ уже превращается в многомиллиардные инвестиции в физическую инфраструктуру.
https://blog.google/company-news/why-were-backing-americas-existing-nuclear-plants/
Соглашение с Constellation позволит добавить 890 МВт мощности за счёт модернизации 11 действующих реакторов на шести АЭС в США.
Constellation вложит более $4,3 млрд в обновление оборудования. Первое увеличение мощности ожидается к 2028 году. По масштабу вся прибавка сопоставима с новым крупным атомным реактором.
Дополнительно Google заключила 15-летний договор на поставку ещё 2,7 ГВт от существующих генерирующих активов Constellation.
Сотрудничество работает в обе стороны: Constellation внедрит Gemini Enterprise и ИИ-агентов в свои операционные процессы для повышения эффективности и надёжности энергосистемы.
Рост ИИ уже превращается в многомиллиардные инвестиции в физическую инфраструктуру.
https://blog.google/company-news/why-were-backing-americas-existing-nuclear-plants/
👍38❤26💯25🔥24👏23😁23🤔21🎉21
🔎 Looped-модели научились экономить память: качество 12 блоков при KV-кэше на 4
Looped-модели прогоняют токен через один и тот же блок слоёв несколько раз, и так глубина растёт без роста параметров. Мешало одно: на каждой итерации копится свой KV-кэш, и память раздувается.
Авторы заметили, что внутреннее состояние модели со временем почти перестаёт меняться. Поэтому на декодинге можно хранить только финальные ключи и значения, а не всю цепочку итераций.
На модели 1.6B это дало 60% в среднем по бенчмаркам. Обычный трансформер из 4 блоков набирает 51%, из 12 блоков 61.5%. Получается почти уровень 12 блоков при втрое меньшем KV-кэше. Бонусом промпт обрабатывается до 1.79 раза быстрее, а RL-обучение идёт вдвое быстрее.
Код и 49 чекпоинтов открыты.
https://arxiv.org/abs/2610.06833
https://github.com/ifm-ai/xllm-loop
Looped-модели прогоняют токен через один и тот же блок слоёв несколько раз, и так глубина растёт без роста параметров. Мешало одно: на каждой итерации копится свой KV-кэш, и память раздувается.
Авторы заметили, что внутреннее состояние модели со временем почти перестаёт меняться. Поэтому на декодинге можно хранить только финальные ключи и значения, а не всю цепочку итераций.
На модели 1.6B это дало 60% в среднем по бенчмаркам. Обычный трансформер из 4 блоков набирает 51%, из 12 блоков 61.5%. Получается почти уровень 12 блоков при втрое меньшем KV-кэше. Бонусом промпт обрабатывается до 1.79 раза быстрее, а RL-обучение идёт вдвое быстрее.
Код и 49 чекпоинтов открыты.
https://arxiv.org/abs/2610.06833
https://github.com/ifm-ai/xllm-loop
❤18🔥11👍10😁8🤔8🎉7💯6👏5
Forwarded from Machinelearning
Все статьи написала внутренняя модель компании, название которой не раскрывают. На GitHub они разбиты на 372 семейства, от теории чисел и теоретической информатики до геометрии и математической физики.
Среди заявленных результатов есть доказательство рациональной гипотезы Ходжа для абелевых многообразий с комплексным умножением, гипотезы Капланского о прямой конечности в характеристике два и новая оценка показателя иррациональности числа
π.Рецензию работы не проходили, и независимо их пока никто не проверял.
Около 4000 задач модель получила во время внутренней оценки. Её расширили, когда прежние математические тесты перестали отличать модели друг от друга.
В среднем на один результат уходило столько вычислений, сколько примерно за три часа тратит ChatGPT Pro в режиме рассуждений.
Для 162 работ выложены доказательства на Lean. Каталог этих формализаций сама OpenAI считает как частичный и непроверенный. К десяти результатам приложены сокращённые записи рассуждений модели.
О том, как публиковать такие результаты, OpenAI советовалась с независимой Консультативной группой по математике и ИИ при Институте перспективных исследований в Принстоне.
Компания также обещает финансировать математические семинары и конференции в будущем.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍17💯15❤13🎉13👏12🔥11🤔11😁7
🧮 Три часа вычислений на математический результат: самая неожиданная цифра в релизе OpenAI
Компания опубликовала 722 рукописи, созданные ещё не выпущенной моделью. Среди заявленных результатов:
• область без нулей дзета-функции при Re(s) > 7/8, названная решением квазигипотезы Римана;
• решение десятой проблемы Гильберта над рациональными числами;
• доказательство иррациональности постоянной Каталана.
По оценке OpenAI, средний результат потребовал вычислений, эквивалентных примерно трём часам размышлений ChatGPT Pro. При этом работы по дзета-функции и гипотезе Ходжа были исключениями из стандартной процедуры.
Если эти доказательства выдержат проверку, масштаб события будет огромным. Но пока результаты находятся на разных стадиях верификации: для многих опубликованы формализации в Lean, для остальных сама OpenAI допускает ошибки.
Это серьёзная заявка на ускорение математических исследований. Предсказание «сверхинтеллект уже в 2027 году» из этих данных пока не следует.
https://github.com/openai/math
Компания опубликовала 722 рукописи, созданные ещё не выпущенной моделью. Среди заявленных результатов:
• область без нулей дзета-функции при Re(s) > 7/8, названная решением квазигипотезы Римана;
• решение десятой проблемы Гильберта над рациональными числами;
• доказательство иррациональности постоянной Каталана.
По оценке OpenAI, средний результат потребовал вычислений, эквивалентных примерно трём часам размышлений ChatGPT Pro. При этом работы по дзета-функции и гипотезе Ходжа были исключениями из стандартной процедуры.
Если эти доказательства выдержат проверку, масштаб события будет огромным. Но пока результаты находятся на разных стадиях верификации: для многих опубликованы формализации в Lean, для остальных сама OpenAI допускает ошибки.
Это серьёзная заявка на ускорение математических исследований. Предсказание «сверхинтеллект уже в 2027 году» из этих данных пока не следует.
https://github.com/openai/math
🤔24👏23😁21❤20💯17🔥14👍12🎉11
🏦 ИИ-агенты могут лишить банки США преимущества стоимостью $500 млрд
Механизм простой: агент замечает деньги на счёте с почти нулевым процентом и помогает перевести их туда, где доходность выше. Банкам приходится дороже платить за депозиты.
У JPMorgan, Bank of America и Wells Fargo $1,6 трлн беспроцентных депозитов. По расчёту FT, ставка 3% означала бы около $47 млрд дополнительных расходов в год.
Но $500 млрд относятся к стоимости преимущества от дешёвого финансирования, а не к ежегодным потерям прибыли. Это сценарная оценка: преимущество исчезнет, если такие депозиты постоянно будут оплачиваться по рыночным ставкам.
https://www.ft.com/content/a21ec190-edcd-454e-886a-302b0a16ea82
Механизм простой: агент замечает деньги на счёте с почти нулевым процентом и помогает перевести их туда, где доходность выше. Банкам приходится дороже платить за депозиты.
У JPMorgan, Bank of America и Wells Fargo $1,6 трлн беспроцентных депозитов. По расчёту FT, ставка 3% означала бы около $47 млрд дополнительных расходов в год.
Но $500 млрд относятся к стоимости преимущества от дешёвого финансирования, а не к ежегодным потерям прибыли. Это сценарная оценка: преимущество исчезнет, если такие депозиты постоянно будут оплачиваться по рыночным ставкам.
https://www.ft.com/content/a21ec190-edcd-454e-886a-302b0a16ea82
👍23😁19❤16🤔14🔥8👏8🎉8💯7⚡1
🤖 ИИ-агентам убрали «начальника», и сложные задачи стали решаться быстрее.
Исследователи Стэнфорда представили DeLM, систему поверх Codex и Claude Code. Вместо центрального координатора агенты используют общий контекст и очередь задач: сами забирают работу, сразу делятся находками и видят, какие подходы уже провалились. Это сокращает ожидание и повторную работу.
В экспериментах авторов:
• До 2,49× быстрее стандартного Claude Code.
• До +19,2 процентного пункта к доле решённых задач относительно стандартного Claude Code.
• До +19,9 пункта к доле пройденных тестов ProgramBench за те же 120 минут.
Масштаб проверки пока небольшой: по 10 выбранных длительных задач из Terminal-Bench и DeepSWE, плюс две задачи ProgramBench. Ускорение также не всегда означает меньшие расходы на вычисления.
Авторы открыли код, 720 траекторий работы агентов и плагин для Codex и Claude Code.
🌐 Project & code: https://yuzhenmao.github.io/DeLM/
📄 Paper: https://arxiv.org/abs/2606.10662
Исследователи Стэнфорда представили DeLM, систему поверх Codex и Claude Code. Вместо центрального координатора агенты используют общий контекст и очередь задач: сами забирают работу, сразу делятся находками и видят, какие подходы уже провалились. Это сокращает ожидание и повторную работу.
В экспериментах авторов:
• До 2,49× быстрее стандартного Claude Code.
• До +19,2 процентного пункта к доле решённых задач относительно стандартного Claude Code.
• До +19,9 пункта к доле пройденных тестов ProgramBench за те же 120 минут.
Масштаб проверки пока небольшой: по 10 выбранных длительных задач из Terminal-Bench и DeepSWE, плюс две задачи ProgramBench. Ускорение также не всегда означает меньшие расходы на вычисления.
Авторы открыли код, 720 траекторий работы агентов и плагин для Codex и Claude Code.
🌐 Project & code: https://yuzhenmao.github.io/DeLM/
📄 Paper: https://arxiv.org/abs/2606.10662
🔥43❤24👍23💯12😁11🤔11👏10🎉8
🧮 Математика для ИИ на русском: от школьной базы до трансформеров и диффузии
Бесплатный курс-шпаргалка на GitHub, который связывает формулы с их применением в ML: интуиция → формула → иллюстрация → код на NumPy → задачи.
Внутри:
• Линейная алгебра, производные, вероятности и статистика.
• Backpropagation, оптимизаторы, функции потерь и attention.
• Генеративные модели, обучение с подкреплением, RAG и рекомендации.
Для практики: 26 Jupyter-ноутбуков с запуском в Colab, 60 задач с решениями и 160 вопросов с собеседований. Есть карточки Anki и глоссарий RU ↔ EN.
Если математика забылась, предусмотрен отдельный справочник с нуля: от дробей и процентов до интегралов и матриц.
https://github.com/justxor/math-for-ai-2026
Бесплатный курс-шпаргалка на GitHub, который связывает формулы с их применением в ML: интуиция → формула → иллюстрация → код на NumPy → задачи.
Внутри:
• Линейная алгебра, производные, вероятности и статистика.
• Backpropagation, оптимизаторы, функции потерь и attention.
• Генеративные модели, обучение с подкреплением, RAG и рекомендации.
Для практики: 26 Jupyter-ноутбуков с запуском в Colab, 60 задач с решениями и 160 вопросов с собеседований. Есть карточки Anki и глоссарий RU ↔ EN.
Если математика забылась, предусмотрен отдельный справочник с нуля: от дробей и процентов до интегралов и матриц.
https://github.com/justxor/math-for-ai-2026
❤20👍20🔥18🤔8💯7😁4👏2🎉2
🌌 Claude помог собрать первую полную UV-карту неба
Астрофизик Брайс Менар из Johns Hopkins вместе с Claude Science собрал полную карту неба в ультрафиолете. Раньше такой карты фактически не существовало: крупнейший массив GALEX покрывал лишь около 2/3 неба, а яркие области Млечного Пути специально пропускались.
Claude запустил команду AI-агентов, которые:
- собрали данные из нескольких космических обзоров;
- откалибровали десятки тысяч наблюдений;
- свели всё к одной системе координат и разрешению;
- восстановили недостающую треть неба с помощью ML-inpainting;
- добавили оценки UV-свечения более чем 100 млн звёзд по данным Gaia.
Точность восстановления проверяли на известных областях: модель предсказывала скрытые UV-данные примерно с 10% ошибкой.
Claude п часами самостоятельно прогонял вычисления, находил проблемы в данных и перерабатывал пайплайн вместе с учёным.
https://www.anthropic.com/research/the-missing-map-of-the-sky
Астрофизик Брайс Менар из Johns Hopkins вместе с Claude Science собрал полную карту неба в ультрафиолете. Раньше такой карты фактически не существовало: крупнейший массив GALEX покрывал лишь около 2/3 неба, а яркие области Млечного Пути специально пропускались.
Claude запустил команду AI-агентов, которые:
- собрали данные из нескольких космических обзоров;
- откалибровали десятки тысяч наблюдений;
- свели всё к одной системе координат и разрешению;
- восстановили недостающую треть неба с помощью ML-inpainting;
- добавили оценки UV-свечения более чем 100 млн звёзд по данным Gaia.
Точность восстановления проверяли на известных областях: модель предсказывала скрытые UV-данные примерно с 10% ошибкой.
Claude п часами самостоятельно прогонял вычисления, находил проблемы в данных и перерабатывал пайплайн вместе с учёным.
https://www.anthropic.com/research/the-missing-map-of-the-sky
👍26🔥16❤15🤔5🎉4💯4👏2😁2
🔎 Perplexity открыла компактную модель для поиска по текстам и изображениям
pplx-embed-v2-late-0.6b умеет искать подходящие документы по смыслу, включая страницы с таблицами, графиками и другой визуальной информацией.
Главная особенность: модель создаёт отдельный 128-мерный вектор для каждого токена. При поиске она сопоставляет части запроса с частями документа, сохраняя больше деталей, чем при сжатии всего текста в один вектор.
💡 Маленькая версия совместима с индексом, построенным моделью 9B: документы можно обработать большой моделью, а запросы выполнять компактной.
Открытые веса, лицензия MIT, поддержка Sentence Transformers. Интересный инструмент для поиска по документам и RAG.
https://huggingface.co/perplexity-ai/pplx-embed-v2-late-0.6b
pplx-embed-v2-late-0.6b умеет искать подходящие документы по смыслу, включая страницы с таблицами, графиками и другой визуальной информацией.
Главная особенность: модель создаёт отдельный 128-мерный вектор для каждого токена. При поиске она сопоставляет части запроса с частями документа, сохраняя больше деталей, чем при сжатии всего текста в один вектор.
💡 Маленькая версия совместима с индексом, построенным моделью 9B: документы можно обработать большой моделью, а запросы выполнять компактной.
Открытые веса, лицензия MIT, поддержка Sentence Transformers. Интересный инструмент для поиска по документам и RAG.
https://huggingface.co/perplexity-ai/pplx-embed-v2-late-0.6b
❤18👍6💯6😁5👏3🎉3🔥2🤔1