Tencent представила микромодельку-переводчика на 1,8B параметров (ставится на телефон, в квантах - 440Mb памяти), которая обгоняет переводчик от Google
GitHub
GitHub - Tencent/AngelSlim: Model compression toolkit engineered for enhanced usability, comprehensiveness, and efficiency.
Model compression toolkit engineered for enhanced usability, comprehensiveness, and efficiency. - Tencent/AngelSlim
Из новостей - Mistral вчера выпустил модельку на 128B, но думаю, что эта тема пройдет незамеченной. Вообще, 5 баксов, которые я потратил на апи Мистраля кажутся мне пока самой неудачной инвестицией в ИИ
Глядя на размер топовых моделей в 5-10Т параметров, понимаешь, что такое локально не запустишь никогда.. немного грустно от этого
В продолжение темы моделей - есть такая контора FactoryAI, которая запускает неплохих агентов Droids. Она провела исследование, какие модели лучше делают ревью кода.
И здесь тоже новые модели Антропика и OpenAI уступают старым! Лучшая модель - GPT 5.2 (интересно, что в кодексе старые модели доступны, похоже что не случайно..)
Видимо, какое-то плато не так далеко, и опенсорсные модели не так далеко от него
И здесь тоже новые модели Антропика и OpenAI уступают старым! Лучшая модель - GPT 5.2 (интересно, что в кодексе старые модели доступны, похоже что не случайно..)
Видимо, какое-то плато не так далеко, и опенсорсные модели не так далеко от него
X (formerly Twitter)
Factory (@FactoryAI) on X
Read our full analysis here: https://t.co/l30oDzIXbJ
И завершая на сегодня с моделями - в маленьком (до 30В) размере обратите внимание на новые модели от IBM - Granite, и NVIDIA - Nemotron. Может быть интересно, не квеном единым, что называется
Forwarded from Tips AI | IT & AI
Media is too big
VIEW IN TELEGRAM
Зацепило расширение Chromex — парень интегрировал Codex в Chrome, который работает через подписку ChatGPT.
Всё потому что, в Codex CLI есть локальный интерфейс app-server, вот через него любое приложение может подключаться к Codex и использовать его как сервис.
Сам Codex CLI логинится через ChatGPT, поэтому работает через твою подписку, а не через API.
Вот и получился Codex в браузере:
• Чат с открытыми вкладками и скриншотами
• Разбор YouTube, статей, PDF, научных статей
• Генерация изображений
• Голосовой ввод
Так что, можете попробовать Chromex или разобрать этот исходный код с gpt 5.5 и построить что-то свое.
@tips_ai #tools
Всё потому что, в Codex CLI есть локальный интерфейс app-server, вот через него любое приложение может подключаться к Codex и использовать его как сервис.
Сам Codex CLI логинится через ChatGPT, поэтому работает через твою подписку, а не через API.
Вот и получился Codex в браузере:
• Чат с открытыми вкладками и скриншотами
• Разбор YouTube, статей, PDF, научных статей
• Генерация изображений
• Голосовой ввод
Так что, можете попробовать Chromex или разобрать этот исходный код с gpt 5.5 и построить что-то свое.
@tips_ai #tools
Мне такой 👆функционал теперь особо интересен. У Клода похожее есть, но работает не через Claude code - и это нехорошо. А здесь память у сессий будет общая, можно в рамках проекта работать с браузером - отлично
Пересаживаюсь с Claude на GPT - пришлось переписывать промпты, так как агенты работают по-разному. Де-факто делаю рефакторизацию всей документации по агентам. Это, в общем-то неплохо, полезно иногда делать, но работы много, надо сотню файлов отсмотреть
Ну что, мой бан со стороны Claude был первым звоночком. Брата Клод тоже забанил - моя гипотеза в том, что отрубают русских, которые жрут много токенов. Русских - потому что не жалко. А по части токенов - мы им только убытки доставляем, интенсивно потребляя подписку. Компьюта на своих не хватает. Может, конечно, айпишники там общие были, но сомневаюсь, думаю, вопрос, как всегда, про баблос.
Так что все, кто пользуется Клодом, очень рекомендую уже сейчас сохранить свои проекты, диалоги, что было ценного. И лучше работайте в локальном Claude code, а не в приложении или веб версии - чтобы сохранить локально все свои промпты, исследования и пр.
Так что все, кто пользуется Клодом, очень рекомендую уже сейчас сохранить свои проекты, диалоги, что было ценного. И лучше работайте в локальном Claude code, а не в приложении или веб версии - чтобы сохранить локально все свои промпты, исследования и пр.
Forwarded from Tips AI | IT & AI
В Codex CLI добавили /goal
Это официальная версия Ralph loop, когда агент крутится в цикле и не выходит, пока не решит задачу полностью.
Наверное помните, Anthropic добавлял это плагином ещё в декабре.
Про команду /goal:
• /goal <задача> запускает цикл Plan > Execute > Test > Refine, не останавливается, пока цель не достигнута
• Можно создавать, ставить на паузу, возобновлять, сбрасывать
• Состояние живёт между сессиями
Включить можно одной командой:
Или руками в
Пока только в CLI, десктоп ещё не подвезли. Заодно сделали /side, когда можно задавать вопросы агенту пока он работает, не прерывая.
@tips_ai #news
Это официальная версия Ralph loop, когда агент крутится в цикле и не выходит, пока не решит задачу полностью.
Наверное помните, Anthropic добавлял это плагином ещё в декабре.
Про команду /goal:
• /goal <задача> запускает цикл Plan > Execute > Test > Refine, не останавливается, пока цель не достигнута
• Можно создавать, ставить на паузу, возобновлять, сбрасывать
• Состояние живёт между сессиями
Включить можно одной командой:
codex features enable goalsИли руками в
~/.codex/config.toml: [features]
goals = trueПока только в CLI, десктоп ещё не подвезли. Заодно сделали /side, когда можно задавать вопросы агенту пока он работает, не прерывая.
@tips_ai #news
Наткнулся на статью, как защитить свои секреты при работе с Клодом. У меня на тему секретов более сложная система, но то, что описано в статье, вполне разумно, и очень просто - настоятельно рекомендую. У кого еще работает Клод - просто покажите ему статью и попросите сделать это у себя
https://x.com/zodchiii/status/2049779422291460576
https://x.com/zodchiii/status/2049779422291460576
X (formerly Twitter)
darkzodchi (@zodchiii) on X
The .env Setup That Keeps Claude Code From Leaking Your Secrets (Full Config Included)
Тут у меня интересное. Во-первых, набрел на ютьюбе на очень любопытного товарища, слушать интересно. В последнем видосике он рассказал очень прикольную историю. Вместе с приходом искусственного интеллекта всякие программы типа нашего Bitrix24 (Jira, Linear) начали потихоньку отмирать. И тут OpenAI выпускает новую фичу - Symphony.
Это оркестратор, который разрабатывала команда, которую создали полгода назад. Им как стройбату ничего не дали кроме лопат - запретили писать код и они чисто вайбкодили. И в ходе этого дела они догадались ставить задачки ИИ в рамках того, к чему привыкли - Linear.
Оказалось, что эти корпоративные программы гораздо лучше подходят для агентов, чем просто размытые команды пользователей. Там есть роли, задачи, документы и пр. - сама задача очень структурированная и может хорошо разбиваться в работу агентов. С контролем за состоянием проекта и пр.
Тема, мне кажется, очень прикольная. Поставил себе, ради эксперимента, и Symphony, и Plane - вместо Linear опенсорсный аналог, благо за три дня, что существует Symphony, переходники на Plane уже появились. Попробую с ChatGPT работать через эту штуку.
Ссылки на все это добро ниже - не то чтобы рекомендую, но думаю, что стоит потестировать, если заработает - перспективы большие.
https://www.youtube.com/watch?v=FDkvRl1RlT0&t=902s
https://github.com/openai/symphony
https://github.com/makeplane/plane
Это оркестратор, который разрабатывала команда, которую создали полгода назад. Им как стройбату ничего не дали кроме лопат - запретили писать код и они чисто вайбкодили. И в ходе этого дела они догадались ставить задачки ИИ в рамках того, к чему привыкли - Linear.
Оказалось, что эти корпоративные программы гораздо лучше подходят для агентов, чем просто размытые команды пользователей. Там есть роли, задачи, документы и пр. - сама задача очень структурированная и может хорошо разбиваться в работу агентов. С контролем за состоянием проекта и пр.
Тема, мне кажется, очень прикольная. Поставил себе, ради эксперимента, и Symphony, и Plane - вместо Linear опенсорсный аналог, благо за три дня, что существует Symphony, переходники на Plane уже появились. Попробую с ChatGPT работать через эту штуку.
Ссылки на все это добро ниже - не то чтобы рекомендую, но думаю, что стоит потестировать, если заработает - перспективы большие.
https://www.youtube.com/watch?v=FDkvRl1RlT0&t=902s
https://github.com/openai/symphony
https://github.com/makeplane/plane
YouTube
Anthropic Might Buy Atlassian For $40B. Here's Why It Makes Sense.
Full Story w/ Prompt Kit: https://natesnewsletter.substack.com/p/issue-trackers-agent-infrastructure?r=1z4sm5&utm_campaign=post&utm_medium=web&showWelcomeOnShare=true
___________________
What's really happening inside the issue tracker category when Linear's…
___________________
What's really happening inside the issue tracker category when Linear's…
👍1
А вообще, переход с Claude code на Codex тяжеловато идет. Казалось бы, плюс-минус одно и то же, но все-таки логика агентов устроена по-разному, и нужна миграция. Понятно, что все нейронки немного тупят, любят плодить много новых ненужных файлов и пр., но Клод все-таки как-то проще тебя понимает, почеловечнее он что-ли. А chatGPT любит чтобы все было очень структурированно с самого начала. В общем, впечатление, что лучше общаться с Клодом, но как агента по программированию ставить GPT. Но это так, первое впечатление. В приниципе, стоит научиться работать и с тем, и с другим. Наверное
Вожусь на выходных с базой своих промптов. Стандартизирую их по новым правилам, как GPT нравится. Шло туго, никак не мог попасть с ним на одну волну (многословный, непонятливый - с Клодом как-то попроще было), но тут прописал себе промпты пещерного человека - и дело пошло. Как-то все стало более четким и понятным. Очень рекомендую, тем более, что сам промпт - 6 строчек.
https://github.com/JuliusBrussee/caveman/blob/main/skills/caveman/SKILL.md
PS. Не выдержал, и Клода себе все-таки поставил, за 20 баксов, учитывая, что 100 уже плачу за GPT. Ну что сказать, пять раз спросил опус - и все. Полчаса - и можно отдыхать. Разве что соннетом пользоваться. Правда, есть бонус - Claude code работает только на платной подписке. В общем, пока поработаю на минималках, дальше посмотрю, что с этим делать.
https://github.com/JuliusBrussee/caveman/blob/main/skills/caveman/SKILL.md
PS. Не выдержал, и Клода себе все-таки поставил, за 20 баксов, учитывая, что 100 уже плачу за GPT. Ну что сказать, пять раз спросил опус - и все. Полчаса - и можно отдыхать. Разве что соннетом пользоваться. Правда, есть бонус - Claude code работает только на платной подписке. В общем, пока поработаю на минималках, дальше посмотрю, что с этим делать.
GitHub
caveman/skills/caveman/SKILL.md at main · JuliusBrussee/caveman
🪨 why use many token when few token do trick. Viral skill + proxy for coding agents that cuts 65% of tokens by talking like a caveman. - JuliusBrussee/caveman
Forwarded from Data Secrets
DeepSeek предложили новый способ улучшить мультимодальные модели
Сейчас модели нормально “видят” изображение, но рассуждают о нем через текст. Из-за этого они теряют точную привязку к объектам и начинают путаться в сложных сценах. В статье это называют Reference Gap.
Решение довольно прямое. Вместо чисто текстового ризонинга модель вставляет в процесс координаты. Это точки, чтобы вести путь по изображению, и рамки вокруг объектов. Сначала модель фиксирует, на что смотрит, потом строит рассуждение уже на этих привязках.
Архитектура при этом стандартная. ViT кодирует изображение, дальше все идет в MoE LLM. Новое именно в том, что визуальные примитивы становятся частью chain-of-thought, а не просто выходом модели.
Лучше всего это работает в задачах, где важна структура. Подсчет объектов, пространственные сравнения, лабиринты, трассировка линий.
Интересно, что DeepSeek довольно быстро удалил статью без объяснения причин. Скорее всего случился преждевременный релиз, а может и финальные результаты будут изменены. В любом случае (зеркало):
https://github.com/ailuntx/Thinking-with-Visual-Primitives/blob/main/Thinking_with_Visual_Primitives.pdf
Сейчас модели нормально “видят” изображение, но рассуждают о нем через текст. Из-за этого они теряют точную привязку к объектам и начинают путаться в сложных сценах. В статье это называют Reference Gap.
Решение довольно прямое. Вместо чисто текстового ризонинга модель вставляет в процесс координаты. Это точки, чтобы вести путь по изображению, и рамки вокруг объектов. Сначала модель фиксирует, на что смотрит, потом строит рассуждение уже на этих привязках.
Архитектура при этом стандартная. ViT кодирует изображение, дальше все идет в MoE LLM. Новое именно в том, что визуальные примитивы становятся частью chain-of-thought, а не просто выходом модели.
Лучше всего это работает в задачах, где важна структура. Подсчет объектов, пространственные сравнения, лабиринты, трассировка линий.
Интересно, что DeepSeek довольно быстро удалил статью без объяснения причин. Скорее всего случился преждевременный релиз, а может и финальные результаты будут изменены. В любом случае (зеркало):
https://github.com/ailuntx/Thinking-with-Visual-Primitives/blob/main/Thinking_with_Visual_Primitives.pdf
Forwarded from Анализ данных (Data analysis)
Джек Кларк из Anthropic написал один из самых тревожных прогнозов про ближайшие годы AI.
Полностью автоматизированный AI R&D, где frontier-модель сама обучает следующую версию себя, может появиться гораздо раньше, чем многие думают.
Его оценка: около 30% вероятности к концу 2027 года и больше 60% к концу 2028-го.
Речь о системе, которая может сама пройти полный цикл: поставить исследовательскую задачу, запустить эксперименты, улучшить архитектуру, обучить преемника, проверить результат и повторить процесс.
Кларк не считает, что это почти наверняка случится уже в 2026-м. Но он допускает, что в ближайшие 1-2 года мы можем увидеть первый proof-of-concept: AI, который end-to-end обучает не frontier-модель, но уже полноценного «наследника» без постоянного ручного управления.
Почему прогноз стал таким агрессивным?
Модели резко усилились в coding, long-horizon agents, работе с subagents, оптимизации kernel, fine-tuning, воспроизводимости экспериментов и даже alignment research. То, что раньше выглядело как отдельные навыки, постепенно складывается в одну цепочку AI-исследователя.
Модель улучшает инструменты, инструменты ускоряют исследования, исследования рождают новую модель, а новая модель повторяет цикл еще быстрее.
https://x.com/jackclarkSF/status/2051312759594471886
Полностью автоматизированный AI R&D, где frontier-модель сама обучает следующую версию себя, может появиться гораздо раньше, чем многие думают.
Его оценка: около 30% вероятности к концу 2027 года и больше 60% к концу 2028-го.
Речь о системе, которая может сама пройти полный цикл: поставить исследовательскую задачу, запустить эксперименты, улучшить архитектуру, обучить преемника, проверить результат и повторить процесс.
Кларк не считает, что это почти наверняка случится уже в 2026-м. Но он допускает, что в ближайшие 1-2 года мы можем увидеть первый proof-of-concept: AI, который end-to-end обучает не frontier-модель, но уже полноценного «наследника» без постоянного ручного управления.
Почему прогноз стал таким агрессивным?
Модели резко усилились в coding, long-horizon agents, работе с subagents, оптимизации kernel, fine-tuning, воспроизводимости экспериментов и даже alignment research. То, что раньше выглядело как отдельные навыки, постепенно складывается в одну цепочку AI-исследователя.
Модель улучшает инструменты, инструменты ускоряют исследования, исследования рождают новую модель, а новая модель повторяет цикл еще быстрее.
https://x.com/jackclarkSF/status/2051312759594471886
❤1