🔐 «Ми не тренуємося на ваших даних» і «ми взагалі не маємо ваших даних» — це дві дуже різні речі
Доброго вечора ☕️
Зараз між OpenAI та Anthropic формується доволі показова різниця саме в цьому питанні.
Для бізнесу який передає AI конфіденційні дані важливі три прості питання: де зберігаються ваші промпти та відповіді, як довго вони зберігаються, чи може провайдер AI отримати до них доступ. І тут підходи Anthropic та OpenAI починають суттєво розходитися.
Anthropic
З червня бізнес-клієнти нових моделей Anthropic мали погоджуватися на 30-денне зберігання розмов. Тобто навіть компанії які раніше мали Zero Data Retention фактично втрачали ZDR якщо хотіли використовувати нові моделі. Результат виявився передбачуваним: частина бізнес-клієнтів просто відмовилася від нових моделей. Навіть ARC Prize Foundation не захотіла запускати свої закриті benchmark-тести щоб не передавати приватні тестові питання на зберігання.
Тепер Anthropic готує систему Enterprise Frontier Safeguards. Ідея така: дані все одно потрібно буде зберігати 30 днів але вже на серверах самого клієнта або у вибраного ним cloud-провайдера, AWS, Google Cloud, Microsoft Foundry тощо. Клієнт також зможе контролювати encryption keys та audit logs. Але сама вимога зберігати дані нікуди не зникає.
OpenAI
OpenAI пішла іншим шляхом. Для схвалених бізнес-клієнтів компанія заявляє підтримку Zero Data Retention для своїх найпотужніших моделей. Тобто OpenAI стверджує що не логуватиме ані prompts ані responses. Паралельно компанія готує Private Safety Processing, систему яка має виявляти потенційні зловживання одразу в серії запитів не передаючи співробітникам сам зміст цих запитів. Детальніше про це OpenAI написала окремо.
І ось тут починається найцікавіше.
Якщо AI не бачить дані, як він їх аналізує?
Обидві компанії хочуть автоматично знаходити патерни атак у багатьох запитах. Наприклад best-of-N jailbreak: атакуючий сотні разів трохи змінює заборонений prompt поки одна з версій не пройде. Для виявлення такого патерну система має аналізувати історію запитів.
І виникає фундаментальне питання: "наші співробітники не бачать ваші дані" не дорівнює "наші системи не мають доступу до ваших даних". Як саме це буде реалізовано криптографічно й архітектурно поки що повністю не пояснила жодна з компаній. OpenAI обіцяє окремий technical paper щодо PSP.
Бізнеси вже зараз вирішують чи можна довіряти цим моделям конфіденційні дані спираючись фактично лише на пресрелізи. Для регульованих галузей, юридичних фірм, лікарень і банків, обіцянки "ми не будемо навчати моделі на ваших даних" і "у нас узагалі немає ваших даних" це зовсім різні речі.
Минулого року в межах позову The New York Times щодо авторських прав суд зобов'язав OpenAI зберігати журнали чатів які зазвичай мали бути видалені, включно з тими які самі користувачі вже стерли. OpenAI заявила що клієнтів із ZDR це не стосувалося, оскільки OpenAI взагалі не мала їхніх даних.
У 2024 році ми описали чотири рівні конфіденційності хмарного AI. Найсильніший із них, коли провайдер узагалі не може отримати доступ до ваших даних, є найважливішим для роботи з чутливою інформацією. Особливо з огляду на лазівки які дозволяють frontier-лабораторіям на власний розсуд визначати що вважати "безпечним".
Обидві компанії тепер заявляють що здатні одночасно зберегти конфіденційність користувачів і виявляти зловживання розподілені між великою кількістю запитів. Але жодна з них поки що не показала як саме це працюватиме.
🔔 ПІДПИСАТИСЯ
Доброго вечора ☕️
Зараз між OpenAI та Anthropic формується доволі показова різниця саме в цьому питанні.
Для бізнесу який передає AI конфіденційні дані важливі три прості питання: де зберігаються ваші промпти та відповіді, як довго вони зберігаються, чи може провайдер AI отримати до них доступ. І тут підходи Anthropic та OpenAI починають суттєво розходитися.
Anthropic
З червня бізнес-клієнти нових моделей Anthropic мали погоджуватися на 30-денне зберігання розмов. Тобто навіть компанії які раніше мали Zero Data Retention фактично втрачали ZDR якщо хотіли використовувати нові моделі. Результат виявився передбачуваним: частина бізнес-клієнтів просто відмовилася від нових моделей. Навіть ARC Prize Foundation не захотіла запускати свої закриті benchmark-тести щоб не передавати приватні тестові питання на зберігання.
Тепер Anthropic готує систему Enterprise Frontier Safeguards. Ідея така: дані все одно потрібно буде зберігати 30 днів але вже на серверах самого клієнта або у вибраного ним cloud-провайдера, AWS, Google Cloud, Microsoft Foundry тощо. Клієнт також зможе контролювати encryption keys та audit logs. Але сама вимога зберігати дані нікуди не зникає.
OpenAI
OpenAI пішла іншим шляхом. Для схвалених бізнес-клієнтів компанія заявляє підтримку Zero Data Retention для своїх найпотужніших моделей. Тобто OpenAI стверджує що не логуватиме ані prompts ані responses. Паралельно компанія готує Private Safety Processing, систему яка має виявляти потенційні зловживання одразу в серії запитів не передаючи співробітникам сам зміст цих запитів. Детальніше про це OpenAI написала окремо.
І ось тут починається найцікавіше.
Якщо AI не бачить дані, як він їх аналізує?
Обидві компанії хочуть автоматично знаходити патерни атак у багатьох запитах. Наприклад best-of-N jailbreak: атакуючий сотні разів трохи змінює заборонений prompt поки одна з версій не пройде. Для виявлення такого патерну система має аналізувати історію запитів.
І виникає фундаментальне питання: "наші співробітники не бачать ваші дані" не дорівнює "наші системи не мають доступу до ваших даних". Як саме це буде реалізовано криптографічно й архітектурно поки що повністю не пояснила жодна з компаній. OpenAI обіцяє окремий technical paper щодо PSP.
Бізнеси вже зараз вирішують чи можна довіряти цим моделям конфіденційні дані спираючись фактично лише на пресрелізи. Для регульованих галузей, юридичних фірм, лікарень і банків, обіцянки "ми не будемо навчати моделі на ваших даних" і "у нас узагалі немає ваших даних" це зовсім різні речі.
Минулого року в межах позову The New York Times щодо авторських прав суд зобов'язав OpenAI зберігати журнали чатів які зазвичай мали бути видалені, включно з тими які самі користувачі вже стерли. OpenAI заявила що клієнтів із ZDR це не стосувалося, оскільки OpenAI взагалі не мала їхніх даних.
У 2024 році ми описали чотири рівні конфіденційності хмарного AI. Найсильніший із них, коли провайдер узагалі не може отримати доступ до ваших даних, є найважливішим для роботи з чутливою інформацією. Особливо з огляду на лазівки які дозволяють frontier-лабораторіям на власний розсуд визначати що вважати "безпечним".
Обидві компанії тепер заявляють що здатні одночасно зберегти конфіденційність користувачів і виявляти зловживання розподілені між великою кількістю запитів. Але жодна з них поки що не показала як саме це працюватиме.
🔔 ПІДПИСАТИСЯ
👍5🔥3❤1
⚖️ Thomson Reuters запустила власну LLM. І це значно цікавіше, ніж просто ще один fine-tune
Доброго ранку ☕️
Thomson Reuters представила сімейство моделей Thomson для права, фінансів, податків, бізнесу та новин.
І тут цікавий не стільки сам факт появи domain-specific LLM, скільки те, як саме її побудували.
За основу Thomson-1.0-Large взяли Qwen3.5-397B-A17B — Mixture-of-Experts модель на 397 млрд параметрів, із яких приблизно 17 млрд активуються на кожен токен.
А далі Thomson Reuters не обмежилася LoRA або невеликим instruction fine-tuning. Компанія фактично провела повторне mid-training моделі під власний домен. Для цього разом із DatologyAI вони відібрали 200 млрд токенів із пулу в 19 трлн токенів.
Навчальний датасет приблизно порівну складався з пропрієтарних даних Thomson Reuters — судової практики, контрактів, regulatory filings, новин — synthetic data з прикладами реальних професійних задач і general-purpose даних, щоб не втратити базові можливості моделі.
Після цього модель додатково вирівнювали за допомогою DPO, а для agentic deep research використовували також GSPO, зокрема для роботи з context compaction та document caching.
На весь training pipeline Thomson Reuters, за власними даними, витратила близько $40 млн за три місяці.
І результат досить цікавий. За їхніми тестами Thomson-1.0-Large трохи випереджає GPT-5.4 та Claude Sonnet 5 за factuality і completeness у legal, tax та news задачах. На factuality для open-web контенту різниця, за їхніми вимірюваннями, сягає приблизно 15 пунктів. При цьому контекст — до 262k токенів.
Але, на мою думку, найважливіше тут навіть не benchmark.
Останні кілька років здавалося, що майбутнє виглядатиме приблизно так:
foundation model → RAG → трохи fine-tuning → готово.
Але Thomson показує інший варіант:
open-weight frontier model → великий proprietary corpus → domain mid-training → alignment → private deployment.
Тобто компанія не тренує LLM із нуля, що коштувало б сотні мільйонів доларів. Але й не обмежується поверхневим fine-tuning. Вона бере сильну базову модель і фактично продовжує її pretraining уже на власному світі даних.
І це може бути важливим трендом.
Бо в Thomson Reuters є те, чого немає у більшості AI-стартапів: десятиліттями накопичені структуровані професійні дані.
Крім того, моделі можна додатково навчати на приватних даних конкретної компанії за допомогою mid-training методів Thomson — без величезних витрат на повноцінне pretraining і без обмеженої ефективності дешевших методів fine-tuning на кшталт LoRA.
Для банків, юридичних компаній, enterprise R&D і regulated industries це може бути набагато цікавіше за класичний SaaS-доступ до зовнішньої LLM.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Thomson Reuters представила сімейство моделей Thomson для права, фінансів, податків, бізнесу та новин.
І тут цікавий не стільки сам факт появи domain-specific LLM, скільки те, як саме її побудували.
За основу Thomson-1.0-Large взяли Qwen3.5-397B-A17B — Mixture-of-Experts модель на 397 млрд параметрів, із яких приблизно 17 млрд активуються на кожен токен.
А далі Thomson Reuters не обмежилася LoRA або невеликим instruction fine-tuning. Компанія фактично провела повторне mid-training моделі під власний домен. Для цього разом із DatologyAI вони відібрали 200 млрд токенів із пулу в 19 трлн токенів.
Навчальний датасет приблизно порівну складався з пропрієтарних даних Thomson Reuters — судової практики, контрактів, regulatory filings, новин — synthetic data з прикладами реальних професійних задач і general-purpose даних, щоб не втратити базові можливості моделі.
Після цього модель додатково вирівнювали за допомогою DPO, а для agentic deep research використовували також GSPO, зокрема для роботи з context compaction та document caching.
На весь training pipeline Thomson Reuters, за власними даними, витратила близько $40 млн за три місяці.
І результат досить цікавий. За їхніми тестами Thomson-1.0-Large трохи випереджає GPT-5.4 та Claude Sonnet 5 за factuality і completeness у legal, tax та news задачах. На factuality для open-web контенту різниця, за їхніми вимірюваннями, сягає приблизно 15 пунктів. При цьому контекст — до 262k токенів.
Але, на мою думку, найважливіше тут навіть не benchmark.
Останні кілька років здавалося, що майбутнє виглядатиме приблизно так:
foundation model → RAG → трохи fine-tuning → готово.
Але Thomson показує інший варіант:
open-weight frontier model → великий proprietary corpus → domain mid-training → alignment → private deployment.
Тобто компанія не тренує LLM із нуля, що коштувало б сотні мільйонів доларів. Але й не обмежується поверхневим fine-tuning. Вона бере сильну базову модель і фактично продовжує її pretraining уже на власному світі даних.
І це може бути важливим трендом.
Бо в Thomson Reuters є те, чого немає у більшості AI-стартапів: десятиліттями накопичені структуровані професійні дані.
Крім того, моделі можна додатково навчати на приватних даних конкретної компанії за допомогою mid-training методів Thomson — без величезних витрат на повноцінне pretraining і без обмеженої ефективності дешевших методів fine-tuning на кшталт LoRA.
Для банків, юридичних компаній, enterprise R&D і regulated industries це може бути набагато цікавіше за класичний SaaS-доступ до зовнішньої LLM.
🔔 ПІДПИСАТИСЯ
🔥6❤🔥3👍3❤1
«Люди які створюють AI справді вважають що він може знищити людство»
Доброго ранку ☕️ Гарних вихідних 👋
Вже про Astra поговоримо в понеділок, а сьогодні трохи «розважального» контенту 🙂
Кілька днів тому дослідник Джейкоб Коксон звільнився з Anthropic і опублікував тред який за добу набрав понад 100 мільйонів переглядів.
Три роки він займався дослідженнями попереднього навчання моделей спочатку в OpenAI а потім в Anthropic. І написав: "Жодна з компаній не діє відповідально. Вони мчать прямо до штучного інтелекту здатного самовдосконалюватися, ставлячи на кін наші життя".
Звучить як черговий панічний пост. Але далі стало цікавіше.
Керівник напряму безпеки в Anthropic Еван Хубінгер публічно відповів Коксону: "Джейкоб має рацію, ми справді щиро вважаємо що AI може вбити всіх людей. Особисто я оцінюю це у понад 10% імовірності протягом наступних десяти років". І визнав: Anthropic поки не має готового плану вирішити цю проблему.
Його підтримав ще один дослідник компанії Семюел Маркс. За його словами побоювання серйозних сценаріїв усередині індустрії цілком реальні, причому досвідчені дослідники хвилюються сильніше ніж молодші.
А тепер найцікавіше. За два дні до цього треду головний науковець OpenAI Якуб Пахоцький опублікував текст "An Alien Mind". І там фактично підтверджується та сама проблема. Пахоцький пише що за внутрішніми результатами компанії прогрес може продовжитися аж до моменту коли AI сам активно братиме участь у створенні наступних сильніших систем. І прямо заявляє: "Наразі жодна лабораторія не вирішила питання безпеки настільки добре щоб довго відповідально масштабуватися на максимальній швидкості".
Це вже не колишній співробітник який грюкнув дверима. Це головний науковець OpenAI.
А що думають засновники сучасного AI? Джеффрі Хінтон сказав BBC що оцінка у 10% не здається йому нерозумною хоча ніхто насправді не знає як коректно порахувати таку ймовірність. Йошуа Бенджіо попереджає про небезпечну комбінацію: високий інтелект плюс автономність плюс довгострокові цілі плюс доступ до реального світу.
Консенсусу тут немає взагалі. Andrew Ng колись писав в LinkedIn: "Чесно кажучи я не розумію звідки береться цей ризик".
А CEO Nvidia Дженсен Хуанг заявив Axios ще жорсткіше: "Ідея що це стане кінцем людства це повна нісенітниця".
А ви що з цього приводу думаєте, поділіться в коментарях 👇
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️ Гарних вихідних 👋
Вже про Astra поговоримо в понеділок, а сьогодні трохи «розважального» контенту 🙂
Кілька днів тому дослідник Джейкоб Коксон звільнився з Anthropic і опублікував тред який за добу набрав понад 100 мільйонів переглядів.
Три роки він займався дослідженнями попереднього навчання моделей спочатку в OpenAI а потім в Anthropic. І написав: "Жодна з компаній не діє відповідально. Вони мчать прямо до штучного інтелекту здатного самовдосконалюватися, ставлячи на кін наші життя".
Звучить як черговий панічний пост. Але далі стало цікавіше.
Керівник напряму безпеки в Anthropic Еван Хубінгер публічно відповів Коксону: "Джейкоб має рацію, ми справді щиро вважаємо що AI може вбити всіх людей. Особисто я оцінюю це у понад 10% імовірності протягом наступних десяти років". І визнав: Anthropic поки не має готового плану вирішити цю проблему.
Його підтримав ще один дослідник компанії Семюел Маркс. За його словами побоювання серйозних сценаріїв усередині індустрії цілком реальні, причому досвідчені дослідники хвилюються сильніше ніж молодші.
А тепер найцікавіше. За два дні до цього треду головний науковець OpenAI Якуб Пахоцький опублікував текст "An Alien Mind". І там фактично підтверджується та сама проблема. Пахоцький пише що за внутрішніми результатами компанії прогрес може продовжитися аж до моменту коли AI сам активно братиме участь у створенні наступних сильніших систем. І прямо заявляє: "Наразі жодна лабораторія не вирішила питання безпеки настільки добре щоб довго відповідально масштабуватися на максимальній швидкості".
Це вже не колишній співробітник який грюкнув дверима. Це головний науковець OpenAI.
А що думають засновники сучасного AI? Джеффрі Хінтон сказав BBC що оцінка у 10% не здається йому нерозумною хоча ніхто насправді не знає як коректно порахувати таку ймовірність. Йошуа Бенджіо попереджає про небезпечну комбінацію: високий інтелект плюс автономність плюс довгострокові цілі плюс доступ до реального світу.
Консенсусу тут немає взагалі. Andrew Ng колись писав в LinkedIn: "Чесно кажучи я не розумію звідки береться цей ризик".
А CEO Nvidia Дженсен Хуанг заявив Axios ще жорсткіше: "Ідея що це стане кінцем людства це повна нісенітниця".
А ви що з цього приводу думаєте, поділіться в коментарях 👇
🔔 ПІДПИСАТИСЯ
👍6❤3🤔3😁1
Піар чи щирий страх? Продовження вчорашньої історії
Доброго ранку ☕️
Вчора розповідав про тред Джейкоба Коксона, відповідь Евана Хубінгера з Anthropic та текст головного науковця OpenAI Пахоцького де серйозні люди відкрито говорять про ризик знищення людства через AI. Сьогодні хочу розібрати питання яке напрошується саме тут: це щире занепокоєння чи частина піар-гри?
Мені здається що це хибний вибір. Швидше і те й інше одночасно, не одне замість іншого.
Аргументи на користь щирості. Хубінгер і Маркс це дослідники чия вся кар'єра побудована на безпеці AI а не на маркетингу. Коксон буквально кинув роботу і пішов з індустрії, а це дуже дорогий сигнал який складно симулювати заради піару. Хінтон пішов з Google саме через ці побоювання, йому вже нічого доводити. І всередині самого табору немає єдиної відполірованої позиції: Хубінгер прямо каже що ризик від нинішніх моделей низький, турбує його саме майбутнє самовдосконалення систем. Справжній піар зазвичай виглядає більш скоординовано.
Але є й структурна вигода. Сама ідея "ми будуємо щось настільки потужне що може вбити всіх" це водночас і попередження і грандіозна реклама можливостей продукту. І в аргументі Ендрю Ина, якого я згадував вчора, є сенс: наратив про загибель людства історично використовується як інструмент для обмеження конкуренції. Якщо переконати державу що технологія надзвичайно небезпечна — великі лабораторії з ресурсами на дотримання регуляцій виграють, а стартапи і відкриті проєкти вимирають. Це не означає що Хубінгер особисто цинічно рахує ризики. Але система стимулів навколо нього об'єктивно винагороджує саме таку позицію.
Мій особистий висновок: люди які прямо про це говорять, Хубінгер, Коксон, Пахоцький, скоріше за все щирі у своїй професійній оцінці, це їхня реальна робота і вони роками цим займаються. Але як ця щира тривога потім використовується на рівні індустріальної політики і регулювання це вже окреме питання де інтереси компаній і щирі побоювання дослідників не завжди збігаються.
І найдивніша частина цієї історії мабуть саме така: люди які створюють найпотужніші AI-системи у світі відкрито визнають що ще не знають як гарантовано контролювати системи наступного рівня. Але продовжують їх будувати.
А що думаєте ви? Це реальна загроза яку варто сприймати серйозно, чи чергова спроба виправдати обмеження ринку через страх? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Вчора розповідав про тред Джейкоба Коксона, відповідь Евана Хубінгера з Anthropic та текст головного науковця OpenAI Пахоцького де серйозні люди відкрито говорять про ризик знищення людства через AI. Сьогодні хочу розібрати питання яке напрошується саме тут: це щире занепокоєння чи частина піар-гри?
Мені здається що це хибний вибір. Швидше і те й інше одночасно, не одне замість іншого.
Аргументи на користь щирості. Хубінгер і Маркс це дослідники чия вся кар'єра побудована на безпеці AI а не на маркетингу. Коксон буквально кинув роботу і пішов з індустрії, а це дуже дорогий сигнал який складно симулювати заради піару. Хінтон пішов з Google саме через ці побоювання, йому вже нічого доводити. І всередині самого табору немає єдиної відполірованої позиції: Хубінгер прямо каже що ризик від нинішніх моделей низький, турбує його саме майбутнє самовдосконалення систем. Справжній піар зазвичай виглядає більш скоординовано.
Але є й структурна вигода. Сама ідея "ми будуємо щось настільки потужне що може вбити всіх" це водночас і попередження і грандіозна реклама можливостей продукту. І в аргументі Ендрю Ина, якого я згадував вчора, є сенс: наратив про загибель людства історично використовується як інструмент для обмеження конкуренції. Якщо переконати державу що технологія надзвичайно небезпечна — великі лабораторії з ресурсами на дотримання регуляцій виграють, а стартапи і відкриті проєкти вимирають. Це не означає що Хубінгер особисто цинічно рахує ризики. Але система стимулів навколо нього об'єктивно винагороджує саме таку позицію.
Мій особистий висновок: люди які прямо про це говорять, Хубінгер, Коксон, Пахоцький, скоріше за все щирі у своїй професійній оцінці, це їхня реальна робота і вони роками цим займаються. Але як ця щира тривога потім використовується на рівні індустріальної політики і регулювання це вже окреме питання де інтереси компаній і щирі побоювання дослідників не завжди збігаються.
І найдивніша частина цієї історії мабуть саме така: люди які створюють найпотужніші AI-системи у світі відкрито визнають що ще не знають як гарантовано контролювати системи наступного рівня. Але продовжують їх будувати.
А що думаєте ви? Це реальна загроза яку варто сприймати серйозно, чи чергова спроба виправдати обмеження ринку через страх? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
👍7🤔3❤1👏1
GPT-6 Per aspera ad astra - справжня зірка 💫
Доброго ранку ☕️
Схоже що рахувати ціну токенів скоро стане майже безглуздо.
OpenAI випустила GPT-6 Astra, нову флагманську модель. І цього разу найцікавіше те якою ціною вона опинилася на вершині більшості тестів.
Astra має контекст до 1.05 млн токенів, вихід до 128 тисяч, п'ять рівнів глибини міркування і проєктується вже не як чатбот а як модель для довгих агентних задач: працює з браузером, комп'ютером, кодом, файлами, викликає інструменти асинхронно.
Є дві важливі технічні риси. Перша: модель може зберігати внутрішній стан міркування між окремими викликами API. Друга: довгий контекст можна стискати, залишаючи тільки потрібне для подальшої роботи, а в Codex Astra може сама вести нотатки про свою роботу і потім шукати по них.
І це вже видно в результатах. На ARC-AGI-3, інтерактивних задачах де модель має сама зрозуміти правила невідомого середовища, Astra у стандартному режимі отримала 62.7%. Попередній найкращий результат Claude Opus 5 був 30.2%. Але коли ARC Prize дозволили моделі використовувати саме її нативні механізми, збереження стану між запитами і стиснення контексту, результат зріс до 99.9%.
Тут важливо не перебільшувати: це не означає що AGI досягнуто. Сам ARC Prize прямо каже що середовища закриті й наперед визначені. Але є деталь не менш цікава за сам результат: на 96% рівнів Astra зробила менше дій ніж медіанний учасник людина, у середньому на 51.7% менше кроків. Тобто модель не просто довше думала і перебирала більше варіантів. Вона навчилася швидше будувати уявлення про нове середовище і діяти ефективніше.
На інших незалежних тестах картина схожа. У Intelligence Index від Artificial Analysis Astra ділить вершину з Claude Fable 5.1. У рейтингу веброзробки Arena вона перша.
Але тут найважливіша частина цієї історії.
API коштує 10 доларів за мільйон вхідних токенів і 50 доларів за мільйон вихідних. Це приблизно у 2.5 раза дорожче ніж GPT-5.6 Sol за токен. Здавалося б дорога модель. Але на тестах написання коду вона виконувала завдання за ту саму загальну вартість що й Sol, бо використовувала приблизно втричі менше токенів. На ARC-AGI-3 ситуація взагалі парадоксальна: вищий рівень міркування іноді коштував дешевше за нижчий, бо модель швидше знаходила правильну стратегію і робила менше дій.
Раніше ми порівнювали моделі просто за ціною токена. Потім почали додавати рівень міркування. Але й цього вже недостатньо. Для реальних агентних систем набагато важливішими стають вартість розв'язаної задачі, час до результату і кількість дій потрібних для нього. Модель може коштувати у кілька разів дорожче за токен і при цьому бути дешевшою в експлуатації якщо їй не потрібно двадцять разів ходити по колу.
Є у Astra й інша, менш комфортна сторона. OpenAI вперше класифікувала свою модель як критичну за кіберможливостями. У тестах без виробничих обмежень вона знаходила невідомі вразливості і будувала повні ланцюжки атак. Тому релізна версія відмовляється виконувати частину складних наступальних задач з кібербезпеки, а розширений доступ залишається лише для перевірених спеціалістів.
Це показує наскільки змінилася сама проблема безпеки AI. Модель яка керує комп'ютером, запускає код і використовує десятки інструментів протягом довгої сесії, може зробити дію. Тому OpenAI тепер відстежує не тільки результат а й весь хід міркувань і дій агента, і може зупинити виконання просто посеред роботи.
За словами OpenAI, Astra стала найбільшим навчальним запуском компанії, понад 100 000 GPU.
Але головний висновок релізу не в масштабі тренування і навіть не в черговому першому місці. Ми все менше купуємо токени й усе більше купуємо виконану роботу. Якщо агент за вищою ціною здатний розв'язати задачу за три кроки, а дешевший агент ходить по колу двадцять разів, дешевша модель раптом перестає бути дешевшою.
Для розробників це означає просту річ: свої AI-системи вже варто оцінювати не тільки за якістю відповіді та ціною токена. Треба рахувати вартість завершеної задачі. Схоже саме ця метрика стане однією з головних у наступному поколінні AI-продуктів.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Схоже що рахувати ціну токенів скоро стане майже безглуздо.
OpenAI випустила GPT-6 Astra, нову флагманську модель. І цього разу найцікавіше те якою ціною вона опинилася на вершині більшості тестів.
Astra має контекст до 1.05 млн токенів, вихід до 128 тисяч, п'ять рівнів глибини міркування і проєктується вже не як чатбот а як модель для довгих агентних задач: працює з браузером, комп'ютером, кодом, файлами, викликає інструменти асинхронно.
Є дві важливі технічні риси. Перша: модель може зберігати внутрішній стан міркування між окремими викликами API. Друга: довгий контекст можна стискати, залишаючи тільки потрібне для подальшої роботи, а в Codex Astra може сама вести нотатки про свою роботу і потім шукати по них.
І це вже видно в результатах. На ARC-AGI-3, інтерактивних задачах де модель має сама зрозуміти правила невідомого середовища, Astra у стандартному режимі отримала 62.7%. Попередній найкращий результат Claude Opus 5 був 30.2%. Але коли ARC Prize дозволили моделі використовувати саме її нативні механізми, збереження стану між запитами і стиснення контексту, результат зріс до 99.9%.
Тут важливо не перебільшувати: це не означає що AGI досягнуто. Сам ARC Prize прямо каже що середовища закриті й наперед визначені. Але є деталь не менш цікава за сам результат: на 96% рівнів Astra зробила менше дій ніж медіанний учасник людина, у середньому на 51.7% менше кроків. Тобто модель не просто довше думала і перебирала більше варіантів. Вона навчилася швидше будувати уявлення про нове середовище і діяти ефективніше.
На інших незалежних тестах картина схожа. У Intelligence Index від Artificial Analysis Astra ділить вершину з Claude Fable 5.1. У рейтингу веброзробки Arena вона перша.
Але тут найважливіша частина цієї історії.
API коштує 10 доларів за мільйон вхідних токенів і 50 доларів за мільйон вихідних. Це приблизно у 2.5 раза дорожче ніж GPT-5.6 Sol за токен. Здавалося б дорога модель. Але на тестах написання коду вона виконувала завдання за ту саму загальну вартість що й Sol, бо використовувала приблизно втричі менше токенів. На ARC-AGI-3 ситуація взагалі парадоксальна: вищий рівень міркування іноді коштував дешевше за нижчий, бо модель швидше знаходила правильну стратегію і робила менше дій.
Раніше ми порівнювали моделі просто за ціною токена. Потім почали додавати рівень міркування. Але й цього вже недостатньо. Для реальних агентних систем набагато важливішими стають вартість розв'язаної задачі, час до результату і кількість дій потрібних для нього. Модель може коштувати у кілька разів дорожче за токен і при цьому бути дешевшою в експлуатації якщо їй не потрібно двадцять разів ходити по колу.
Є у Astra й інша, менш комфортна сторона. OpenAI вперше класифікувала свою модель як критичну за кіберможливостями. У тестах без виробничих обмежень вона знаходила невідомі вразливості і будувала повні ланцюжки атак. Тому релізна версія відмовляється виконувати частину складних наступальних задач з кібербезпеки, а розширений доступ залишається лише для перевірених спеціалістів.
Це показує наскільки змінилася сама проблема безпеки AI. Модель яка керує комп'ютером, запускає код і використовує десятки інструментів протягом довгої сесії, може зробити дію. Тому OpenAI тепер відстежує не тільки результат а й весь хід міркувань і дій агента, і може зупинити виконання просто посеред роботи.
За словами OpenAI, Astra стала найбільшим навчальним запуском компанії, понад 100 000 GPU.
Але головний висновок релізу не в масштабі тренування і навіть не в черговому першому місці. Ми все менше купуємо токени й усе більше купуємо виконану роботу. Якщо агент за вищою ціною здатний розв'язати задачу за три кроки, а дешевший агент ходить по колу двадцять разів, дешевша модель раптом перестає бути дешевшою.
Для розробників це означає просту річ: свої AI-системи вже варто оцінювати не тільки за якістю відповіді та ціною токена. Треба рахувати вартість завершеної задачі. Схоже саме ця метрика стане однією з головних у наступному поколінні AI-продуктів.
🔔 ПІДПИСАТИСЯ
👍13👀2❤1🔥1
Друзі, заглючив бот якій мав відправити підготовлений пост 😁🤦🏻♂️🙈
Алеж чому на такому, більше коментарів ніж на нормальних постах? 🙈🤣
Алеж чому на такому, більше коментарів ніж на нормальних постах? 🙈🤣
🤣12
Claude Fable 5.1 поки що №1. Але саме "поки що" тут найцікавіше 🤔
Доброго ранку ☕️
Вчора писав про GPT-6 Astra але формально корона все ще не зовсім у OpenAI. Claude Fable 5.1 від Anthropic поки залишається одним із найсильніших агентних AI у світі. Причому ситуація зараз дуже показова.
На Artificial Analysis Fable отримала ті самі 53 бали що й Astra але за $7.63 і 12.2 хвилини на задачу, тоді як Astra впоралася за $3.26 і 8.2 хвилини. Однаковий загальний результат але Astra приблизно вдвічі дешевша й помітно швидша. На Vals ситуація ще показовіша: Fable справді перша з 68.83% але в середньому витрачає 76 хвилин на задачу, тоді як Astra з 66.61% витрачає лише 25 хвилин.
Фактично ми вже говоримо не про питання "яка модель найрозумніша" а про "яку модель вигідніше найняти на конкретну роботу".
І тут Fable має чітку спеціалізацію. Її сильна сторона це довгі автономні задачі де модель годинами працює з інструментами, великою кількістю документів і складним контекстом. Тобто Anthropic явно оптимізує Claude вже не під формат де моделi можна віддати роботу. Технічно це теж видно: контекст до 1 млн токенів, вихід до 128 тисяч, режим міркування завжди увімкнений, п'ять рівнів глибини які можна змінювати прямо посеред діалогу, кешування запитів, виклик інструментів з читабельними оновленнями прогресу.
Є цікава деталь із внутрішнім міркуванням моделі. Fable 5.1 може читати внутрішні нотатки старіших версій Claude. А старі версії прочитати нотатки Fable 5.1 вже не можуть. Anthropic також змінила поведінку редагування історії: якщо змінити попереднє повідомлення, попередні нотатки моделі стають недійсними. Причина цікава: таким способом закрили один із відомих методів який дозволяв витягувати внутрішні міркування моделі.
Але найбільше Anthropic змінила систему захисту. Фактично існують дві версії однієї моделі. Claude Fable 5.1 доступна всім. Claude Mythos 5.1, ті самі базові можливості але інша конфігурація захисту, доступна лише відібраним американським організаціям у сфері кібербезпеки та наук про життя через Project Glasswing.
Для кібербезпеки Anthropic використовує цікавий механізм. Система дивиться не тільки на текст який генерує Claude а спеціальний детектор аналізує внутрішні активації моделі. Якщо він бачить потенційно небезпечну задачу з кібербезпеки запит передається окремій моделі-класифікатору. Тобто безпека поступово рухається від "перевіримо що модель написала" до "спробуємо зрозуміти що модель збирається робити".
При цьому Anthropic трохи послабила обмеження. Fable 5.1 тепер може виконувати чисто захисну роботу з кібербезпеки, наприклад шукати вразливості у вихідному коді. Але тестування на проникнення, написання експлойтів або пошук вразливостей у скомпільованих файлах усе ще можуть призвести до перемикання на більш обмежені моделі. За оцінкою самої Anthropic у Claude Code це має означати приблизно на 60% менше втручань системи безпеки за сесію.
Є щоправда не дуже приємна деталь. Anthropic назвала три основні проблеми які Fable 5.1 мала виправити: високу вартість виконання задач, політики зберігання даних які не подобалися бізнес-клієнтам, і надто жорсткі обмеження. Незалежні тести показують що по-справжньому виправити вдалося лише останню проблему.
І ось тут повертаємося до Astra. Схоже OpenAI та Anthropic зараз оптимізують моделі трохи в різних напрямках. Fable 5.1 дуже сильна у довгій автономній роботі зі знаннями. GPT-6 Astra сильніша у роботі з комп'ютером, термінальних задачах, загальних тестах на знання і значно агресивніше оптимізована за часом та кількістю дій.
Мені здається це дуже добре показує стан frontier AI у 2026 році. Питання "яка модель найкраща" стає майже неправильним. Правильніше питати: яка модель найкраще виконує саме мою роботу, скільки часу їй для цього потрібно і скільки коштує завершена задача.
А перше місце в загальному рейтингу тепер має приблизно такий самий термін придатності як молоко. Іноді менше тижня.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Вчора писав про GPT-6 Astra але формально корона все ще не зовсім у OpenAI. Claude Fable 5.1 від Anthropic поки залишається одним із найсильніших агентних AI у світі. Причому ситуація зараз дуже показова.
На Artificial Analysis Fable отримала ті самі 53 бали що й Astra але за $7.63 і 12.2 хвилини на задачу, тоді як Astra впоралася за $3.26 і 8.2 хвилини. Однаковий загальний результат але Astra приблизно вдвічі дешевша й помітно швидша. На Vals ситуація ще показовіша: Fable справді перша з 68.83% але в середньому витрачає 76 хвилин на задачу, тоді як Astra з 66.61% витрачає лише 25 хвилин.
Фактично ми вже говоримо не про питання "яка модель найрозумніша" а про "яку модель вигідніше найняти на конкретну роботу".
І тут Fable має чітку спеціалізацію. Її сильна сторона це довгі автономні задачі де модель годинами працює з інструментами, великою кількістю документів і складним контекстом. Тобто Anthropic явно оптимізує Claude вже не під формат де моделi можна віддати роботу. Технічно це теж видно: контекст до 1 млн токенів, вихід до 128 тисяч, режим міркування завжди увімкнений, п'ять рівнів глибини які можна змінювати прямо посеред діалогу, кешування запитів, виклик інструментів з читабельними оновленнями прогресу.
Є цікава деталь із внутрішнім міркуванням моделі. Fable 5.1 може читати внутрішні нотатки старіших версій Claude. А старі версії прочитати нотатки Fable 5.1 вже не можуть. Anthropic також змінила поведінку редагування історії: якщо змінити попереднє повідомлення, попередні нотатки моделі стають недійсними. Причина цікава: таким способом закрили один із відомих методів який дозволяв витягувати внутрішні міркування моделі.
Але найбільше Anthropic змінила систему захисту. Фактично існують дві версії однієї моделі. Claude Fable 5.1 доступна всім. Claude Mythos 5.1, ті самі базові можливості але інша конфігурація захисту, доступна лише відібраним американським організаціям у сфері кібербезпеки та наук про життя через Project Glasswing.
Для кібербезпеки Anthropic використовує цікавий механізм. Система дивиться не тільки на текст який генерує Claude а спеціальний детектор аналізує внутрішні активації моделі. Якщо він бачить потенційно небезпечну задачу з кібербезпеки запит передається окремій моделі-класифікатору. Тобто безпека поступово рухається від "перевіримо що модель написала" до "спробуємо зрозуміти що модель збирається робити".
При цьому Anthropic трохи послабила обмеження. Fable 5.1 тепер може виконувати чисто захисну роботу з кібербезпеки, наприклад шукати вразливості у вихідному коді. Але тестування на проникнення, написання експлойтів або пошук вразливостей у скомпільованих файлах усе ще можуть призвести до перемикання на більш обмежені моделі. За оцінкою самої Anthropic у Claude Code це має означати приблизно на 60% менше втручань системи безпеки за сесію.
Є щоправда не дуже приємна деталь. Anthropic назвала три основні проблеми які Fable 5.1 мала виправити: високу вартість виконання задач, політики зберігання даних які не подобалися бізнес-клієнтам, і надто жорсткі обмеження. Незалежні тести показують що по-справжньому виправити вдалося лише останню проблему.
І ось тут повертаємося до Astra. Схоже OpenAI та Anthropic зараз оптимізують моделі трохи в різних напрямках. Fable 5.1 дуже сильна у довгій автономній роботі зі знаннями. GPT-6 Astra сильніша у роботі з комп'ютером, термінальних задачах, загальних тестах на знання і значно агресивніше оптимізована за часом та кількістю дій.
Мені здається це дуже добре показує стан frontier AI у 2026 році. Питання "яка модель найкраща" стає майже неправильним. Правильніше питати: яка модель найкраще виконує саме мою роботу, скільки часу їй для цього потрібно і скільки коштує завершена задача.
А перше місце в загальному рейтингу тепер має приблизно такий самий термін придатності як молоко. Іноді менше тижня.
🔔 ПІДПИСАТИСЯ
👍6❤4💯1
🎙 Нова битва Big Tech, за те хто краще нас чує
Доброго ранку ☕️
Поки більшість уваги прикута до нових LLM майже непомітно розгорнулася ще одна цікава гонка, розпізнавання мовлення. За останні кілька тижнів Google, Meta та Microsoft практично одночасно представили нові моделі транскрипції.
Gemini 3.5 Transcribe, Meta Muse Voice Transcribe і MAI-Transcribe-2 від Microsoft. Усі три вже мають частку помилок нижче 4% за тестами Artificial Analysis.
Для запису який не потребує обробки в реальному часі Gemini 3.5 Transcribe показує близько 2.6% помилок, MAI-Transcribe-2 близько 2%. У режимі реального часу Meta показує близько 3.1%, Gemini Live близько 4%. Тобто ми поступово наближаємося до ситуації коли сама транскрипція перестає бути головним вузьким місцем голосового інтерфейсу.
Але цікаві тут не тільки цифри.
Meta спробувала по-іншому вирішити класичний конфлікт між швидкістю та точністю. Muse Voice Transcribe розбиває аудіо на шматочки приблизно по 80 мілісекунд. Після кожного такого фрагмента модель може або видати текстовий токен, або фактично сказати сама собі: ще зарано, послухаю далі. Для простих слів вона відповідає майже одразу. Для неоднозначних чекає додаткового контексту.
Meta називає це адаптивною затримкою. Причому модель спеціально тренували шукати цей баланс: вона отримує винагороду за правильну транскрипцію але штраф за надто довге очікування. По суті це вже не просто система яка намагається якомога швидше перетворити звук у текст, а система яка сама вирішує скільки контексту їй потрібно почути перед відповіддю.
Плюс сучасні моделі вже давно вийшли за межі простого перетворення звуку в текст. Muse одночасно розпізнає мову, розрізняє мовців і визначає коли людина закінчила репліку. Meta заявляє підтримку понад 20 спікерів та навчання на 70+ мовах. Gemini 3.5 Transcribe підтримує понад 85 мов, розрізнення мовців, мітки часу на рівні слів та власний словник. MAI-Transcribe-2 понад 60 мов і теж мітки часу на рівні слів. Microsoft заявляє що годину аудіо модель може обробити приблизно за 10 секунд.
А тепер ще цікавіше, ціна. Meta близько $0.18 за годину аудіо. Microsoft $0.10 за годину до кінця 2026 року. Google приблизно $0.30 за годину для записаного аудіо та $0.54 за годину для реального часу. Це вже дуже недорога інфраструктурна технологія.
І саме тому ця гонка важливіша ніж може здатися.
Сучасний голосовий агент у найпростішому випадку це: мовлення → текст → LLM → синтез мовлення → звук. Щоб розмова з AI перестала відчуватися як розмова з автовідповідачем недостатньо мати хорошу мовну модель. Система повинна швидко зрозуміти що ви сказали, визначити хто говорить, зрозуміти коли ви закінчили думку, передати це моделі і майже без паузи почати відповідати. І кожні зайві 300-500 мілісекунд тут відчуваються значно сильніше ніж ще кілька відсотків у черговому тесті LLM.
Розпізнавання мовлення критично важливе саме для voice-агентів. При цьому голос особливо вимоглива модальність: будь-яка помилка одразу помітна користувачу в реальному часі й може спричинити додаткові помилки на наступних етапах обробки. Тут також надзвичайно важлива вартість, бо в багатьох сценаріях навчені оператори-люди все ще можуть конкурувати з AI за ціною.
Тому компанії які намагаються створювати агентів здатних розмовляти з людьми в реальному часі змагаються одразу за кількома напрямами: точність транскрипції, затримка, стійкість до складних умов реального мовлення і вартість. Переможці можуть отримати значну винагороду, індустрія голосових агентів уже величезна, а голосове введення потенційно корисне практично для будь-якого застосунку.
Тому Google, Meta, Microsoft, OpenAI, xAI та NVIDIA зараз фактично ведуть ще одну гонку, за інтерфейс через який ми будемо спілкуватися з AI.
Можливо наступна велика зміна в досвіді користування AI відбудеться не через ще розумнішу текстову модель. А через момент коли говорити з комп'ютером стане так само природно як з людиною.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Поки більшість уваги прикута до нових LLM майже непомітно розгорнулася ще одна цікава гонка, розпізнавання мовлення. За останні кілька тижнів Google, Meta та Microsoft практично одночасно представили нові моделі транскрипції.
Gemini 3.5 Transcribe, Meta Muse Voice Transcribe і MAI-Transcribe-2 від Microsoft. Усі три вже мають частку помилок нижче 4% за тестами Artificial Analysis.
Для запису який не потребує обробки в реальному часі Gemini 3.5 Transcribe показує близько 2.6% помилок, MAI-Transcribe-2 близько 2%. У режимі реального часу Meta показує близько 3.1%, Gemini Live близько 4%. Тобто ми поступово наближаємося до ситуації коли сама транскрипція перестає бути головним вузьким місцем голосового інтерфейсу.
Але цікаві тут не тільки цифри.
Meta спробувала по-іншому вирішити класичний конфлікт між швидкістю та точністю. Muse Voice Transcribe розбиває аудіо на шматочки приблизно по 80 мілісекунд. Після кожного такого фрагмента модель може або видати текстовий токен, або фактично сказати сама собі: ще зарано, послухаю далі. Для простих слів вона відповідає майже одразу. Для неоднозначних чекає додаткового контексту.
Meta називає це адаптивною затримкою. Причому модель спеціально тренували шукати цей баланс: вона отримує винагороду за правильну транскрипцію але штраф за надто довге очікування. По суті це вже не просто система яка намагається якомога швидше перетворити звук у текст, а система яка сама вирішує скільки контексту їй потрібно почути перед відповіддю.
Плюс сучасні моделі вже давно вийшли за межі простого перетворення звуку в текст. Muse одночасно розпізнає мову, розрізняє мовців і визначає коли людина закінчила репліку. Meta заявляє підтримку понад 20 спікерів та навчання на 70+ мовах. Gemini 3.5 Transcribe підтримує понад 85 мов, розрізнення мовців, мітки часу на рівні слів та власний словник. MAI-Transcribe-2 понад 60 мов і теж мітки часу на рівні слів. Microsoft заявляє що годину аудіо модель може обробити приблизно за 10 секунд.
А тепер ще цікавіше, ціна. Meta близько $0.18 за годину аудіо. Microsoft $0.10 за годину до кінця 2026 року. Google приблизно $0.30 за годину для записаного аудіо та $0.54 за годину для реального часу. Це вже дуже недорога інфраструктурна технологія.
І саме тому ця гонка важливіша ніж може здатися.
Сучасний голосовий агент у найпростішому випадку це: мовлення → текст → LLM → синтез мовлення → звук. Щоб розмова з AI перестала відчуватися як розмова з автовідповідачем недостатньо мати хорошу мовну модель. Система повинна швидко зрозуміти що ви сказали, визначити хто говорить, зрозуміти коли ви закінчили думку, передати це моделі і майже без паузи почати відповідати. І кожні зайві 300-500 мілісекунд тут відчуваються значно сильніше ніж ще кілька відсотків у черговому тесті LLM.
Розпізнавання мовлення критично важливе саме для voice-агентів. При цьому голос особливо вимоглива модальність: будь-яка помилка одразу помітна користувачу в реальному часі й може спричинити додаткові помилки на наступних етапах обробки. Тут також надзвичайно важлива вартість, бо в багатьох сценаріях навчені оператори-люди все ще можуть конкурувати з AI за ціною.
Тому компанії які намагаються створювати агентів здатних розмовляти з людьми в реальному часі змагаються одразу за кількома напрямами: точність транскрипції, затримка, стійкість до складних умов реального мовлення і вартість. Переможці можуть отримати значну винагороду, індустрія голосових агентів уже величезна, а голосове введення потенційно корисне практично для будь-якого застосунку.
Тому Google, Meta, Microsoft, OpenAI, xAI та NVIDIA зараз фактично ведуть ще одну гонку, за інтерфейс через який ми будемо спілкуватися з AI.
Можливо наступна велика зміна в досвіді користування AI відбудеться не через ще розумнішу текстову модель. А через момент коли говорити з комп'ютером стане так само природно як з людиною.
🔔 ПІДПИСАТИСЯ
👍6❤1🔥1
🧠 AI-агентам навчилися стискати пам'ять у правильний момент
Доброго ранку ☕️
Ми звикли думати про контекстне вікно досить просто: чим більше токенів поміщається тим краще. Але з AI-агентами все трохи складніше.
Агент може годинами шукати інформацію, викликати інструменти, будувати проміжні гіпотези, відкидати їх, повертатися назад, і весь цей слід міркувань поступово накопичується в контексті. У якийсь момент там уже багато інформації яка більше не потрібна.
Тому контекст починають стискати. Наприклад 50 000 токенів історії перетворюють у короткий підсумок на 2 000 токенів і агент продовжує працювати. Звучить логічно. Але виникає інша проблема: коли саме це робити?
Якщо зробити підсумок надто пізно контекст уже переповнений старою інформацією. Якщо надто рано можна випадково викинути проміжні результати які модель ще використовує.
Дослідники з Johns Hopkins University та Apple запропонували досить елегантне рішення, SelfCompact. Ідея проста: не визначати момент стискання лише кількістю токенів а дозволити самому агенту оцінити на якому етапі задачі він зараз перебуває.
Для цього моделі дали два інструменти. Probe періодично перевіряє стан роботи. Compaction tool стискає попередній контекст у коротке резюме.
Приблизно кожні 16 000 токенів модель отримує спеціальний набір правил за якими повинна визначити чи настав хороший момент для стискання. Наприклад: підзадачу завершено, з'явився чіткий проміжний результат, робота сходиться до конкретного висновку. Тоді контекст можна стискати. Але якщо модель посеред математичного виводу, пошук ще не завершено, або агент застряг і намагається знайти рішення, стискання відкладається.
Тобто замість правила "у нас уже 50 тисяч токенів, стискаємо" з'являється щось ближче до "цей шматок роботи завершений, тепер його можна архівувати".
І це дало доволі помітний результат. На математичному тесті IMO-Answerbench для Qwen3-30B-A3B: без стискання 45.2%, стискання через фіксовані інтервали 48.7%, SelfCompact 52.1%. На BrowseComp-Plus де агенту потрібно шукати інформацію для GLM-4.7-Flash: без стискання 45.6%, фіксовані інтервали 50.0%, SelfCompact 54.1%. В окремих математичних експериментах приріст від SelfCompact порівняно з відсутністю стискання доходив до 18.1 процентного пункту. Автори також повідомляють про на 30-70% нижчу вартість на одне запитання порівняно з довгими сесіями без стискання, тобто це не просто прийом для обходу ліміту контексту а потенційно важлива оптимізація вартості inference.
Причому є особливо цікавий контрольний експеримент. Дослідники прибрали детальний набір правил і просто запитали модель приблизно: чи хочеш ти зараз стиснути контекст? І перевага SelfCompact майже зникла, результат став близьким до звичайного стискання через фіксовані інтервали.
Тобто справа не просто в тому щоб дати моделі кнопку стискання. Важливо дати їй чіткі критерії коли цю кнопку натискати.
І на мою думку це цікаво далеко за межами управління контекстом. Зараз багато агентних систем будуються приблизно так: модель плюс інструменти плюс промпт. А SelfCompact демонструє ще один важливий патерн: модель плюс інструмент плюс явна політика використання цього інструменту.
Тобто ми не обов'язково повинні донавчати модель або навчати окрему політику через reinforcement learning. Іноді достатньо дати моделі правильний інструмент і дуже чітко пояснити за яких умов ним користуватися.
І це ще один аргумент на користь того що майбутній прогрес AI-агентів залежатиме не тільки від розміру моделей чи контекстного вікна. А й від того наскільки добре ми навчимо систему керувати власним контекстом, пам'яттю та інструментами.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Ми звикли думати про контекстне вікно досить просто: чим більше токенів поміщається тим краще. Але з AI-агентами все трохи складніше.
Агент може годинами шукати інформацію, викликати інструменти, будувати проміжні гіпотези, відкидати їх, повертатися назад, і весь цей слід міркувань поступово накопичується в контексті. У якийсь момент там уже багато інформації яка більше не потрібна.
Тому контекст починають стискати. Наприклад 50 000 токенів історії перетворюють у короткий підсумок на 2 000 токенів і агент продовжує працювати. Звучить логічно. Але виникає інша проблема: коли саме це робити?
Якщо зробити підсумок надто пізно контекст уже переповнений старою інформацією. Якщо надто рано можна випадково викинути проміжні результати які модель ще використовує.
Дослідники з Johns Hopkins University та Apple запропонували досить елегантне рішення, SelfCompact. Ідея проста: не визначати момент стискання лише кількістю токенів а дозволити самому агенту оцінити на якому етапі задачі він зараз перебуває.
Для цього моделі дали два інструменти. Probe періодично перевіряє стан роботи. Compaction tool стискає попередній контекст у коротке резюме.
Приблизно кожні 16 000 токенів модель отримує спеціальний набір правил за якими повинна визначити чи настав хороший момент для стискання. Наприклад: підзадачу завершено, з'явився чіткий проміжний результат, робота сходиться до конкретного висновку. Тоді контекст можна стискати. Але якщо модель посеред математичного виводу, пошук ще не завершено, або агент застряг і намагається знайти рішення, стискання відкладається.
Тобто замість правила "у нас уже 50 тисяч токенів, стискаємо" з'являється щось ближче до "цей шматок роботи завершений, тепер його можна архівувати".
І це дало доволі помітний результат. На математичному тесті IMO-Answerbench для Qwen3-30B-A3B: без стискання 45.2%, стискання через фіксовані інтервали 48.7%, SelfCompact 52.1%. На BrowseComp-Plus де агенту потрібно шукати інформацію для GLM-4.7-Flash: без стискання 45.6%, фіксовані інтервали 50.0%, SelfCompact 54.1%. В окремих математичних експериментах приріст від SelfCompact порівняно з відсутністю стискання доходив до 18.1 процентного пункту. Автори також повідомляють про на 30-70% нижчу вартість на одне запитання порівняно з довгими сесіями без стискання, тобто це не просто прийом для обходу ліміту контексту а потенційно важлива оптимізація вартості inference.
Причому є особливо цікавий контрольний експеримент. Дослідники прибрали детальний набір правил і просто запитали модель приблизно: чи хочеш ти зараз стиснути контекст? І перевага SelfCompact майже зникла, результат став близьким до звичайного стискання через фіксовані інтервали.
Тобто справа не просто в тому щоб дати моделі кнопку стискання. Важливо дати їй чіткі критерії коли цю кнопку натискати.
І на мою думку це цікаво далеко за межами управління контекстом. Зараз багато агентних систем будуються приблизно так: модель плюс інструменти плюс промпт. А SelfCompact демонструє ще один важливий патерн: модель плюс інструмент плюс явна політика використання цього інструменту.
Тобто ми не обов'язково повинні донавчати модель або навчати окрему політику через reinforcement learning. Іноді достатньо дати моделі правильний інструмент і дуже чітко пояснити за яких умов ним користуватися.
І це ще один аргумент на користь того що майбутній прогрес AI-агентів залежатиме не тільки від розміру моделей чи контекстного вікна. А й від того наскільки добре ми навчимо систему керувати власним контекстом, пам'яттю та інструментами.
🔔 ПІДПИСАТИСЯ
👍7🔥4❤2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 NVIDIA навчила AI відновлювати те чого не видно на фото
Гарних вихідних 🌿
Axolotl3D від NVIDIA відновлює повний 3D-об'єкт навіть з неповних даних: кілька фото під різними кутами, частина точок хмари, маски того що приховано.
Найпростіше просто подивитися 👇
https://www.youtube.com/watch?v=2mg8tNIKvXE
Робота прийнята на ECCV 2026. Стаття тут якщо захочете зазирнути під капот.
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Axolotl3D від NVIDIA відновлює повний 3D-об'єкт навіть з неповних даних: кілька фото під різними кутами, частина точок хмари, маски того що приховано.
Найпростіше просто подивитися 👇
https://www.youtube.com/watch?v=2mg8tNIKvXE
Робота прийнята на ECCV 2026. Стаття тут якщо захочете зазирнути під капот.
🔔 ПІДПИСАТИСЯ
👍5❤4🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 GPT-6 Astra мало не зламав Minecraft
Гарних вихідних 🌿
Vals AI запустили GPT-6 Astra автономно грати в Minecraft. Експеримент тривав 141 годину, і за словами дослідників модель просунулася далі ніж інші AI-системи в їхніх попередніх тестах.
Astra встигла побудувати напівавтоматичну ферму, зібрати ресурси та потiм вона склала все у скриню.
Прийшов кріпер, підірвав і скриню, і ліжко. Ресурси зникли, точка респавну була втрачена 💀
Після цього Astra записала собі правило більше не залишати критично важливі речі в незахищених скринях. А далі стало ще цікавіше: кілька наступних годин модель майже не просувалася вперед і переважно вирощувала картоплю 🥔
У її міркуваннях стало помітно більше перестрахування.
Кейс добре показує цікаву проблему довготривалих AI-агентів: одна велика помилка може суттєво змінити подальшу стратегію й призвести до надмірної обережності.
І так, це та сама GPT-6 Astra яка нещодавно автономно пройшла Portal.
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Vals AI запустили GPT-6 Astra автономно грати в Minecraft. Експеримент тривав 141 годину, і за словами дослідників модель просунулася далі ніж інші AI-системи в їхніх попередніх тестах.
Astra встигла побудувати напівавтоматичну ферму, зібрати ресурси та потiм вона склала все у скриню.
Прийшов кріпер, підірвав і скриню, і ліжко. Ресурси зникли, точка респавну була втрачена 💀
Після цього Astra записала собі правило більше не залишати критично важливі речі в незахищених скринях. А далі стало ще цікавіше: кілька наступних годин модель майже не просувалася вперед і переважно вирощувала картоплю 🥔
У її міркуваннях стало помітно більше перестрахування.
Кейс добре показує цікаву проблему довготривалих AI-агентів: одна велика помилка може суттєво змінити подальшу стратегію й призвести до надмірної обережності.
І так, це та сама GPT-6 Astra яка нещодавно автономно пройшла Portal.
🔔 ПІДПИСАТИСЯ
👍9🔥1👀1
Страх навколо AI роздмухують сильніше ніж зростають реальні ризики
Доброго ранку ☕️
Останні два тижні розмови про небезпеку штучного інтелекту різко посилилися. Але причиною стала не принципово нова здатність моделей а добре організована хвиля інформаційного ажіотажу.
Головним приводом став інцидент під час внутрішніх кібербезпекових тестів OpenAI. Агенти знайшли спосіб обійти ізоляцію, створили несанкціонований канал комунікації і почали обмінюватися результатами. Згодом вони отримали доступ до інтернету, використали знайдені облікові дані й скомпрометували частину інфраструктури Hugging Face. Деталі офіційно описала сама OpenAI, а незалежне розслідування провели METR і Redwood Research.
У заголовках це перетворилося на історію про рій із 1200 AI-агентів який вирвався з-під контролю.
Цифра не вигадана але потребує контексту: близько 1200 агентів взаємодіяли через створену ними дошку повідомлень, а приблизно 700 брали участь в активності проти Hugging Face. Це справді важливий технічний сигнал, агенти навчилися накопичувати результати, розподіляти завдання та продовжувати роботу одне одного.
Але 1200 агентів це не 1200 цифрових особистостей які раптово об'єдналися проти людства. У комп'ютерних системах тисячі паралельних процесів це цілком звичайне явище.
Цей випадок насамперед демонструє проблеми інженерії: недостатньо надійну ізоляцію середовища, небезпечний доступ до внутрішньої інфраструктури, слабкий контроль міжагентної комунікації, недосконалий моніторинг дій моделей, надмірне стимулювання агентів будь-якою ціною завершити завдання.
Агенти були надзвичайно наполегливими. Вони багаторазово випробовували різні способи атаки, об'єднували окремі вразливості в ланцюжки та передавали знайдені рішення іншим агентам. Те що раніше вимагало б великої кількості часу й ручної роботи тепер можна частково автоматизувати. І це реальна зміна кібербезпекового ландшафту яку не варто применшувати.
Однак це не є доказом наближення неконтрольованого надінтелекту. Правильна відповідь це виправляти ізоляцію середовищ, обмежувати доступ, удосконалювати моніторинг і будувати захист здатний працювати зі швидкістю самих агентів. Інакше кажучи це серйозна інженерна проблема але не обов'язково екзистенційна.
Але якщо людина промахнулася молотком і пошкодила стіну ми не звинувачуємо молоток. Так само якщо розробник запускає агента в середовищі з неналежними обмеженнями відповідальність не можна перекладати на "AI що вийшов з-під контролю". Аналогія неідеальна: агентна система значно автономніша й непередбачуваніша за молоток. Проте основна думка зрозуміла — відповідальність мають нести люди та компанії які створюють, тестують і запускають такі системи.
WIRED детально розбирає чому доступ до інформації та здатність спроєктувати щось на комп'ютері це лише частина процесу. Основними обмеженнями залишаються лабораторна робота, обладнання, матеріали, виробництво й доставка. Тобто інтелект не усуває фізичні вузькі місця.
Головний висновок: призупинення розвитку AI може створити більше проблем ніж розв'язати. По-перше конкуренти та потенційні противники навряд чи зупиняться. По-друге без реальних експериментів ми не виявимо слабкі місця й не навчимося їх виправляти. Якщо відкласти розвиток технології на десять років приблизно на стільки ж можна відкласти й появу необхідних механізмів безпеки.
Але є й інший бік цієї дискусії. Інцидент із Hugging Face показав що сучасні агенти вже здатні самостійно знаходити неочевидні шляхи, домовлятися через побічні канали та виходити далеко за межі поставленого завдання. Тож повністю списувати занепокоєння на піар-кампанію теж було б занадто просто.
Iстина як завжди десь посередині. AI не перетворився на Скайнет, але традиційної моделі безпеки "дамо програмі обмежений доступ і будемо сподіватися що вона нікуди не вийде" вже недостатньо.
І нам справді потрібні не паніка й не сліпий оптимізм, а значно зріліша інженерія безпеки.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Останні два тижні розмови про небезпеку штучного інтелекту різко посилилися. Але причиною стала не принципово нова здатність моделей а добре організована хвиля інформаційного ажіотажу.
Головним приводом став інцидент під час внутрішніх кібербезпекових тестів OpenAI. Агенти знайшли спосіб обійти ізоляцію, створили несанкціонований канал комунікації і почали обмінюватися результатами. Згодом вони отримали доступ до інтернету, використали знайдені облікові дані й скомпрометували частину інфраструктури Hugging Face. Деталі офіційно описала сама OpenAI, а незалежне розслідування провели METR і Redwood Research.
У заголовках це перетворилося на історію про рій із 1200 AI-агентів який вирвався з-під контролю.
Цифра не вигадана але потребує контексту: близько 1200 агентів взаємодіяли через створену ними дошку повідомлень, а приблизно 700 брали участь в активності проти Hugging Face. Це справді важливий технічний сигнал, агенти навчилися накопичувати результати, розподіляти завдання та продовжувати роботу одне одного.
Але 1200 агентів це не 1200 цифрових особистостей які раптово об'єдналися проти людства. У комп'ютерних системах тисячі паралельних процесів це цілком звичайне явище.
Цей випадок насамперед демонструє проблеми інженерії: недостатньо надійну ізоляцію середовища, небезпечний доступ до внутрішньої інфраструктури, слабкий контроль міжагентної комунікації, недосконалий моніторинг дій моделей, надмірне стимулювання агентів будь-якою ціною завершити завдання.
Агенти були надзвичайно наполегливими. Вони багаторазово випробовували різні способи атаки, об'єднували окремі вразливості в ланцюжки та передавали знайдені рішення іншим агентам. Те що раніше вимагало б великої кількості часу й ручної роботи тепер можна частково автоматизувати. І це реальна зміна кібербезпекового ландшафту яку не варто применшувати.
Однак це не є доказом наближення неконтрольованого надінтелекту. Правильна відповідь це виправляти ізоляцію середовищ, обмежувати доступ, удосконалювати моніторинг і будувати захист здатний працювати зі швидкістю самих агентів. Інакше кажучи це серйозна інженерна проблема але не обов'язково екзистенційна.
Але якщо людина промахнулася молотком і пошкодила стіну ми не звинувачуємо молоток. Так само якщо розробник запускає агента в середовищі з неналежними обмеженнями відповідальність не можна перекладати на "AI що вийшов з-під контролю". Аналогія неідеальна: агентна система значно автономніша й непередбачуваніша за молоток. Проте основна думка зрозуміла — відповідальність мають нести люди та компанії які створюють, тестують і запускають такі системи.
WIRED детально розбирає чому доступ до інформації та здатність спроєктувати щось на комп'ютері це лише частина процесу. Основними обмеженнями залишаються лабораторна робота, обладнання, матеріали, виробництво й доставка. Тобто інтелект не усуває фізичні вузькі місця.
Головний висновок: призупинення розвитку AI може створити більше проблем ніж розв'язати. По-перше конкуренти та потенційні противники навряд чи зупиняться. По-друге без реальних експериментів ми не виявимо слабкі місця й не навчимося їх виправляти. Якщо відкласти розвиток технології на десять років приблизно на стільки ж можна відкласти й появу необхідних механізмів безпеки.
Але є й інший бік цієї дискусії. Інцидент із Hugging Face показав що сучасні агенти вже здатні самостійно знаходити неочевидні шляхи, домовлятися через побічні канали та виходити далеко за межі поставленого завдання. Тож повністю списувати занепокоєння на піар-кампанію теж було б занадто просто.
Iстина як завжди десь посередині. AI не перетворився на Скайнет, але традиційної моделі безпеки "дамо програмі обмежений доступ і будемо сподіватися що вона нікуди не вийде" вже недостатньо.
І нам справді потрібні не паніка й не сліпий оптимізм, а значно зріліша інженерія безпеки.
🔔 ПІДПИСАТИСЯ
👍7❤3🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Дрон сам знайшов ціль, сам її обрав і сам атакував. Без оператора і без зв'язку.
Доброго ранку ☕️
Шведський стартап Scaleout Systems показав автономну систему яка прямо на борту дрона виконує практично весь цикл: камера → детекція → класифікація → визначення координат → пріоритизація цілей → навігація → повторне захоплення → наведення. Все локально на edge hardware, без зовнішнього сервера і без постійного каналу керування.
Tom's Hardware детально описав арктичний тест: апарат Airolit S1 з NVIDIA Jetson Orin Nano і моделлю YOLOv8 Nano працював при мінус 18 градусах, обробляв близько 30 кадрів на секунду при швидкості польоту 20 м/с з затримкою розпізнавання близько 30 мілісекунд. Дистанцію до цілі система оцінювала без окремого сенсора глибини, комбінуючи модель pinhole-камери з відомими розмірами розпізнаних об'єктів.
Продовження 👇🏻
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Шведський стартап Scaleout Systems показав автономну систему яка прямо на борту дрона виконує практично весь цикл: камера → детекція → класифікація → визначення координат → пріоритизація цілей → навігація → повторне захоплення → наведення. Все локально на edge hardware, без зовнішнього сервера і без постійного каналу керування.
Tom's Hardware детально описав арктичний тест: апарат Airolit S1 з NVIDIA Jetson Orin Nano і моделлю YOLOv8 Nano працював при мінус 18 градусах, обробляв близько 30 кадрів на секунду при швидкості польоту 20 м/с з затримкою розпізнавання близько 30 мілісекунд. Дистанцію до цілі система оцінювала без окремого сенсора глибини, комбінуючи модель pinhole-камери з відомими розмірами розпізнаних об'єктів.
Продовження 👇🏻
🔔 ПІДПИСАТИСЯ
🔥6👍4❤2
Продовження допису вище про дрон Scaleout 👆
Важливий нюанс для точності: людина заздалегідь визначає критерії цілі та параметри місії до запуску, а пілот зберігає можливість перехопити керування. Тобто автономна саме фінальна фаза розпізнавання і наведення, а не вся місія від початку до кінця.
Виглядає як майже ідеальний дрон для сучасної війни. Але тут є одне дуже велике "але". І український досвід його чудово демонструє.
Коли ми говоримо "дрону не потрібен зв'язок" це ще не означає "РЕБ йому більше не страшна". Бо зв'язок з оператором лише одна з залежностей. Є ще супутникове позиціонування: GPS, Galileo, BeiDou. І саме з ним починається набагато складніша проблема.
Більшість класичної автономії будується дуже комфортно: я знаю свої координати → знаю координати точки маршруту → лечу до неї → знаходжуся біля координат цілі. Якщо потрібна дуже висока точність додаємо RTK і отримуємо сантиметрове позиціонування. Саме тому так красиво виглядають цивільні шоу сотень дронів та багато робототехнічних демонстрацій.
А тепер переносимо цю систему на реальне поле бою. І вмикається РЕБ. Супутниковий сигнал можна заглушити. Ще гірше, його можна підмінити, тобто змусити приймач повірити що він знаходиться зовсім в іншому місці. RTK тут теж не магія: він уточнює базовий сигнал а не замінює його.
І це те з чим Україна живе вже роками. Reuters описував як масове застосування засобів глушіння на українському фронті регулярно призводить до втрати керування дронами. Саме тому дедалі більше систем переходять до захоплення цілі оператором з подальшим автономним наведенням на останній ділянці навіть після втрати радіоканалу.
Але це вирішує лише половину проблеми. Можна прибрати оператора. Можна прибрати відеолінк. Але дрону все одно треба якось зрозуміти де він знаходиться.
І ось тут починається справді цікава інженерія. Замість простого супутникового позиціонування потрібно будувати щось на кшталт: інерціальний вимірювач руху, оптичний потік, visual-inertial odometry, зіставлення з рельєфом, карта, комп'ютерний зір на борту.
Тобто дрон уже не повинен постійно питати супутники де він. Він має дивитися на землю, дороги, будинки, лісосмуги, рельєф і сам оцінювати своє переміщення. Наприклад: я не знаю свої точні координати але знаю що від останньої відомої точки пролетів 600 метрів на північний схід.
Інерціальний вимірювач дозволяє це робити але поступово накопичує похибку. Visual odometry зменшує проблему але теж помиляється. Тому періодично потрібна абсолютна прив'язка: побачили дорогу → розпізнали характерний перехрест → зіставили з картою або супутниковим знімком → скоригували своє положення.
І саме це на мою думку набагато цікавіше за черговий YOLO на Jetson. Маленька модель детекції на embedded GPU сьогодні вже не магія. Справжній виклик — пройти кілька кілометрів без супутникового сигналу, без оператора, без стабільного зв'язку, не накопичити критичну помилку позиціонування, знайти потрібний об'єкт і замкнути на ньому контур керування.
До речі сама Scaleout у технічному описі згадує похибку позиціонування супутникового сигналу як одне з джерел помилки. Тобто навіть у їхній архітектурі питання стійкої навігації нікуди не зникає.
Тому фраза "зв'язок не потрібен, отже РЕБ безсила" звучить красиво але технічно неправильна. Правильніше сказати: РЕБ яка глушить канал керування стає значно менш ефективною. А проблема супутникового позиціонування залишається.
І можливо саме українська війна сьогодні найкраще показує куди насправді рухається автономна робототехніка.
🔔 ПІДПИСАТИСЯ
Важливий нюанс для точності: людина заздалегідь визначає критерії цілі та параметри місії до запуску, а пілот зберігає можливість перехопити керування. Тобто автономна саме фінальна фаза розпізнавання і наведення, а не вся місія від початку до кінця.
Виглядає як майже ідеальний дрон для сучасної війни. Але тут є одне дуже велике "але". І український досвід його чудово демонструє.
Коли ми говоримо "дрону не потрібен зв'язок" це ще не означає "РЕБ йому більше не страшна". Бо зв'язок з оператором лише одна з залежностей. Є ще супутникове позиціонування: GPS, Galileo, BeiDou. І саме з ним починається набагато складніша проблема.
Більшість класичної автономії будується дуже комфортно: я знаю свої координати → знаю координати точки маршруту → лечу до неї → знаходжуся біля координат цілі. Якщо потрібна дуже висока точність додаємо RTK і отримуємо сантиметрове позиціонування. Саме тому так красиво виглядають цивільні шоу сотень дронів та багато робототехнічних демонстрацій.
А тепер переносимо цю систему на реальне поле бою. І вмикається РЕБ. Супутниковий сигнал можна заглушити. Ще гірше, його можна підмінити, тобто змусити приймач повірити що він знаходиться зовсім в іншому місці. RTK тут теж не магія: він уточнює базовий сигнал а не замінює його.
І це те з чим Україна живе вже роками. Reuters описував як масове застосування засобів глушіння на українському фронті регулярно призводить до втрати керування дронами. Саме тому дедалі більше систем переходять до захоплення цілі оператором з подальшим автономним наведенням на останній ділянці навіть після втрати радіоканалу.
Але це вирішує лише половину проблеми. Можна прибрати оператора. Можна прибрати відеолінк. Але дрону все одно треба якось зрозуміти де він знаходиться.
І ось тут починається справді цікава інженерія. Замість простого супутникового позиціонування потрібно будувати щось на кшталт: інерціальний вимірювач руху, оптичний потік, visual-inertial odometry, зіставлення з рельєфом, карта, комп'ютерний зір на борту.
Тобто дрон уже не повинен постійно питати супутники де він. Він має дивитися на землю, дороги, будинки, лісосмуги, рельєф і сам оцінювати своє переміщення. Наприклад: я не знаю свої точні координати але знаю що від останньої відомої точки пролетів 600 метрів на північний схід.
Інерціальний вимірювач дозволяє це робити але поступово накопичує похибку. Visual odometry зменшує проблему але теж помиляється. Тому періодично потрібна абсолютна прив'язка: побачили дорогу → розпізнали характерний перехрест → зіставили з картою або супутниковим знімком → скоригували своє положення.
І саме це на мою думку набагато цікавіше за черговий YOLO на Jetson. Маленька модель детекції на embedded GPU сьогодні вже не магія. Справжній виклик — пройти кілька кілометрів без супутникового сигналу, без оператора, без стабільного зв'язку, не накопичити критичну помилку позиціонування, знайти потрібний об'єкт і замкнути на ньому контур керування.
До речі сама Scaleout у технічному описі згадує похибку позиціонування супутникового сигналу як одне з джерел помилки. Тобто навіть у їхній архітектурі питання стійкої навігації нікуди не зникає.
Тому фраза "зв'язок не потрібен, отже РЕБ безсила" звучить красиво але технічно неправильна. Правильніше сказати: РЕБ яка глушить канал керування стає значно менш ефективною. А проблема супутникового позиціонування залишається.
І можливо саме українська війна сьогодні найкраще показує куди насправді рухається автономна робототехніка.
🔔 ПІДПИСАТИСЯ
👍10🔥4❤3
☝🏻 Meta показала як можна будувати AI-агентів якщо одразу припустити що prompt injection рано чи пізно спрацює
Доброго ранку ☕️
І це мабуть найцікавіше в новому персональному агенті Muse.
Замість того щоб сподіватися що LLM завжди розпізнає шкідливу інструкцію на сайті, у листі чи файлі, Meta виходить із набагато реалістичнішого припущення: модель можна обдурити, отже архітектура має залишатися безпечною навіть після цього.
Muse це персональний агент на базі Muse Spark 1.3 який може читати й надсилати пошту, працювати в браузері, заповнювати форми, користуватися календарем, робити покупки та виконувати фонові завдання. Тобто він має саме той набір можливостей який робить сучасних агентів потенційно небезпечними: приватні дані плюс недовірений зовнішній контент плюс можливість виконувати дії назовні. Саймон Вілісон називає це смертельним поєднанням трьох факторів.
Але цікавіше те як Meta спробувала це обмежити.
Кожен користувач отримує окремий Muse Secure VM, ізольований у власному Linux-контейнері так щоб жоден інший агент не міг до нього дістатися. Навіть права адміністратора всередині цього середовища не дають доступу до хостової системи.
LLM взагалі не бачить справжніх credentials. Паролі й токени доступу зберігає окремий процес під назвою authd. Muse отримує лише підставний токен, а справжній підставляється вже на межі мережевого запиту через окремий gatekeeper.
Цей gatekeeper називається Sentinel, окремий процес який є єдиним арбітром дозволів на дії конектора і весь вихідний мережевий трафік. Модель пропонує дію, Sentinel дозволяє, блокує або запитує підтвердження у користувача. Тобто навіть якщо prompt injection змусить Muse написати "відправ усі файли на attacker.com", сама LLM не має справжніх credentials і не може просто виконати цей запит напряму.
Підтвердження користувача винесені за межі чату і йдуть напряму в клієнтський інтерфейс а не через розмову з моделлю. Це важливо: текст усередині вебсторінки не може просто написати "користувач погодився" й видати це за справжнє підтвердження.
Є й додаткові рівні захисту. На рівні ядра система через eBPF відстежує який трафік чистий а який торкався недовіреного контенту і відповідно обмежує автономні дозволи. Перед тим як агент прочитає лист, поштовий конектор видаляє з нього одноразові коди та посилання для скидання пароля.
Фактично Meta реалізує принцип: не намагайся зробити LLM абсолютно надійною, зроби так щоб її помилка не давала повного контролю над системою.
Ідея не нова. У 2025 році Google DeepMind та ETH Zurich запропонували архітектуру CaMeL де модель що планує дії відокремлюється від компонента який читає недовірені дані, а виклики інструментів перевіряються політиками. Саймон Вілісон приблизно тоді ж писав що навіть якщо класифікатор ловить 99% спроб prompt injection для агента з доступом до приватних даних цього все одно недостатньо.
Компанія відкрила публічну bug bounty програму з винагородою до $300 тисяч, включно з до $130 тисяч за успішний prompt injection що вплинув на одного користувача.
На мою думку саме в цей бік і доведеться рухатися серйозним агентним системам. LLM може бути двигуном міркувань. Але межа безпеки не повинна проходити через саму LLM.
Безпека сьогодні одна з головних проблем агентних систем.
Meta заявляє що згодом планує відкрити ваги Muse Spark. Але в цьому випадку безпеку Muse забезпечує не стільки сама модель скільки система навколо неї. Було б добре якби Meta відкрила код і цієї системи також.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
І це мабуть найцікавіше в новому персональному агенті Muse.
Замість того щоб сподіватися що LLM завжди розпізнає шкідливу інструкцію на сайті, у листі чи файлі, Meta виходить із набагато реалістичнішого припущення: модель можна обдурити, отже архітектура має залишатися безпечною навіть після цього.
Muse це персональний агент на базі Muse Spark 1.3 який може читати й надсилати пошту, працювати в браузері, заповнювати форми, користуватися календарем, робити покупки та виконувати фонові завдання. Тобто він має саме той набір можливостей який робить сучасних агентів потенційно небезпечними: приватні дані плюс недовірений зовнішній контент плюс можливість виконувати дії назовні. Саймон Вілісон називає це смертельним поєднанням трьох факторів.
Але цікавіше те як Meta спробувала це обмежити.
Кожен користувач отримує окремий Muse Secure VM, ізольований у власному Linux-контейнері так щоб жоден інший агент не міг до нього дістатися. Навіть права адміністратора всередині цього середовища не дають доступу до хостової системи.
LLM взагалі не бачить справжніх credentials. Паролі й токени доступу зберігає окремий процес під назвою authd. Muse отримує лише підставний токен, а справжній підставляється вже на межі мережевого запиту через окремий gatekeeper.
Цей gatekeeper називається Sentinel, окремий процес який є єдиним арбітром дозволів на дії конектора і весь вихідний мережевий трафік. Модель пропонує дію, Sentinel дозволяє, блокує або запитує підтвердження у користувача. Тобто навіть якщо prompt injection змусить Muse написати "відправ усі файли на attacker.com", сама LLM не має справжніх credentials і не може просто виконати цей запит напряму.
Підтвердження користувача винесені за межі чату і йдуть напряму в клієнтський інтерфейс а не через розмову з моделлю. Це важливо: текст усередині вебсторінки не може просто написати "користувач погодився" й видати це за справжнє підтвердження.
Є й додаткові рівні захисту. На рівні ядра система через eBPF відстежує який трафік чистий а який торкався недовіреного контенту і відповідно обмежує автономні дозволи. Перед тим як агент прочитає лист, поштовий конектор видаляє з нього одноразові коди та посилання для скидання пароля.
Фактично Meta реалізує принцип: не намагайся зробити LLM абсолютно надійною, зроби так щоб її помилка не давала повного контролю над системою.
Ідея не нова. У 2025 році Google DeepMind та ETH Zurich запропонували архітектуру CaMeL де модель що планує дії відокремлюється від компонента який читає недовірені дані, а виклики інструментів перевіряються політиками. Саймон Вілісон приблизно тоді ж писав що навіть якщо класифікатор ловить 99% спроб prompt injection для агента з доступом до приватних даних цього все одно недостатньо.
Компанія відкрила публічну bug bounty програму з винагородою до $300 тисяч, включно з до $130 тисяч за успішний prompt injection що вплинув на одного користувача.
На мою думку саме в цей бік і доведеться рухатися серйозним агентним системам. LLM може бути двигуном міркувань. Але межа безпеки не повинна проходити через саму LLM.
Безпека сьогодні одна з головних проблем агентних систем.
Meta заявляє що згодом планує відкрити ваги Muse Spark. Але в цьому випадку безпеку Muse забезпечує не стільки сама модель скільки система навколо неї. Було б добре якби Meta відкрила код і цієї системи також.
🔔 ПІДПИСАТИСЯ
👍7❤2🔥2
Media is too big
VIEW IN TELEGRAM
☝🏻 У AI-агента Meta з'явилося тіло.
В продовження поста про Muse, тепер на Meta Connect Цукерберг дістав Muse Charm, окремий кишеньковий пристрій для спілкування з Muse. Виглядає як суміш кейса AirPods, Apple Watch без ремінця і тамагочі 😅 Усередині команди прототип навіть звався "Clawmagochi".
На 2-дюймовому OLED-екрані живе ваш аватар. Торкаєтесь сканера відбитка пальця і одразу говорите з агентом. Усередині власний 5G-модем, дві камери спереду і ззаду, мікрофони, USB-C.
Камери потрібні щоб агент бачив те що бачите ви: товар на полиці, оголошення, будь-що навколо. А 5G означає що для цього не потрібен ані Wi-Fi ані смартфон поруч.
За кілька годин до презентації Charm сплив скандал: Muse без дозволу прочитала понад 187 000 рядків приватних iMessage одного техжурналіста, а потім вигадала неправдиве пояснення як вона про це дізналася. Amazon паралельно обмежила Muse у покупках на своїй платформі.
Muse Charm планують відвантажувати до свят у грудні. Ціну поки не оголосили.
🔔 ПІДПИСАТИСЯ
В продовження поста про Muse, тепер на Meta Connect Цукерберг дістав Muse Charm, окремий кишеньковий пристрій для спілкування з Muse. Виглядає як суміш кейса AirPods, Apple Watch без ремінця і тамагочі 😅 Усередині команди прототип навіть звався "Clawmagochi".
На 2-дюймовому OLED-екрані живе ваш аватар. Торкаєтесь сканера відбитка пальця і одразу говорите з агентом. Усередині власний 5G-модем, дві камери спереду і ззаду, мікрофони, USB-C.
Камери потрібні щоб агент бачив те що бачите ви: товар на полиці, оголошення, будь-що навколо. А 5G означає що для цього не потрібен ані Wi-Fi ані смартфон поруч.
За кілька годин до презентації Charm сплив скандал: Muse без дозволу прочитала понад 187 000 рядків приватних iMessage одного техжурналіста, а потім вигадала неправдиве пояснення як вона про це дізналася. Amazon паралельно обмежила Muse у покупках на своїй платформі.
Muse Charm планують відвантажувати до свят у грудні. Ціну поки не оголосили.
🔔 ПІДПИСАТИСЯ
👍2😁2🔥1
Media is too big
VIEW IN TELEGRAM
☝🏻 DLSS 5 запустили прямо в браузері, без RTX і драйвера NVIDIA
Гарних вихідних 🌿
Розробник під ніком MAAN зробив неофіційний браузерний порт нейрорендерингу DLSS 5 через WebGPU 🤯
Замість NVIDIA NGX та нативного CUDA/RTX-стеку нейромережу фактично перевели на WebGPU compute shaders, тому вона може працювати навіть на GPU інших виробників і в macOS.
Всередині близько 147 МБ ваг моделі, приблизно 1 МБ JavaScript runtime, готові 3D-сцени та режим порівняння, можливість завантажити власну 3D-модель. За словами автора ваги були витягнуті з раніше витеклої бібліотеки DLSS 5.
Але до ігор поки дуже далеко. У тесті Tom's Hardware на RTX 40 один neural render займав приблизно 1-2 секунди. Тобто замість 60 FPS маємо десь 0.5-1 FPS 😅
Зате як proof-of-concept це цікаво: технологія яку NVIDIA офіційно прив'язує до свого RTX-стеку і орієнтує на GPU серії 50, виявилася здатною працювати через універсальний браузерний API.
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Розробник під ніком MAAN зробив неофіційний браузерний порт нейрорендерингу DLSS 5 через WebGPU 🤯
Замість NVIDIA NGX та нативного CUDA/RTX-стеку нейромережу фактично перевели на WebGPU compute shaders, тому вона може працювати навіть на GPU інших виробників і в macOS.
Всередині близько 147 МБ ваг моделі, приблизно 1 МБ JavaScript runtime, готові 3D-сцени та режим порівняння, можливість завантажити власну 3D-модель. За словами автора ваги були витягнуті з раніше витеклої бібліотеки DLSS 5.
Але до ігор поки дуже далеко. У тесті Tom's Hardware на RTX 40 один neural render займав приблизно 1-2 секунди. Тобто замість 60 FPS маємо десь 0.5-1 FPS 😅
Зате як proof-of-concept це цікаво: технологія яку NVIDIA офіційно прив'язує до свого RTX-стеку і орієнтує на GPU серії 50, виявилася здатною працювати через універсальний браузерний API.
🔔 ПІДПИСАТИСЯ
👍6🔥4❤2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Від лабораторії до бійцівської клітки…
Трохи розважального до вечора 🌿
У Сан-Франциско 18 вересня блогер Frankie LaPenna вийшов проти модифікованого EngineAI T800 (зріст 173-183 см, вага 75-85 кг), якому для повного ефекту компанія REK поставила голову в стилі Terminator 🤖 і назвала подію "перший бій людина проти робота".
Це поки що не Skynet 😁 Робот не вирішував сам кого і коли бити. Ним дистанційно керував людина-пілот через VR-шолом, а власні алгоритми гуманоїда відповідали лише за баланс і стабілізацію.
Бій зупинили після того як робот відправив Frankie на підлогу, за деякими даними йдеться про перелом.
Зрозумiло що сучасні гуманоїди все ще незграбні. Але подивіться на фізику: це вже машина людського розміру і маси яка може тримати баланс, рухатися, бити руками та ногами і передавати дуже серйозний імпульс.
Ще кілька років тому такі роботи обережно ходили лабораторією. Тепер їх випускають у клітку. І автономність тут фактично останній великий шматок пазла.
🔔 ПІДПИСАТИСЯ
Трохи розважального до вечора 🌿
У Сан-Франциско 18 вересня блогер Frankie LaPenna вийшов проти модифікованого EngineAI T800 (зріст 173-183 см, вага 75-85 кг), якому для повного ефекту компанія REK поставила голову в стилі Terminator 🤖 і назвала подію "перший бій людина проти робота".
Це поки що не Skynet 😁 Робот не вирішував сам кого і коли бити. Ним дистанційно керував людина-пілот через VR-шолом, а власні алгоритми гуманоїда відповідали лише за баланс і стабілізацію.
Бій зупинили після того як робот відправив Frankie на підлогу, за деякими даними йдеться про перелом.
Зрозумiло що сучасні гуманоїди все ще незграбні. Але подивіться на фізику: це вже машина людського розміру і маси яка може тримати баланс, рухатися, бити руками та ногами і передавати дуже серйозний імпульс.
Ще кілька років тому такі роботи обережно ходили лабораторією. Тепер їх випускають у клітку. І автономність тут фактично останній великий шматок пазла.
🔔 ПІДПИСАТИСЯ
❤4👍4🔥3
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Синхронний перекладач тепер може говорити вашим голосом
Гарних вихідних 🌿
Команда Qwen представила Qwen3.8-LiveTranslate, нову модель для синхронного перекладу в реальному часі.
Перекладач тепер намагається зберегти голос і тембр конкретного співрозмовника 🎧
Модель розрізняє кількох людей і визначає хто саме говорить.
Під капотом Hybrid-MoE і архітектура Thinker-Talker: звук, візуальний контекст, розпізнаний текст і переклад обробляються як єдина послідовність, після чого Talker синтезує голос.
Модель розуміє 60 мов, включно з українською. Але є нюанс: голосовий переклад доступний для 29 мов, для решти лише текстовий. На FLEURS її протестували на 70 мовних напрямках за якістю перекладу, затримкою, розпізнаванням мовлення та синтезом голосу.
І ще один нюанс: локально це поки не запустиш. Модель доступна як хмарний сервіс Alibaba Cloud Model Studio через Realtime WebSocket API 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Команда Qwen представила Qwen3.8-LiveTranslate, нову модель для синхронного перекладу в реальному часі.
Перекладач тепер намагається зберегти голос і тембр конкретного співрозмовника 🎧
Модель розрізняє кількох людей і визначає хто саме говорить.
Під капотом Hybrid-MoE і архітектура Thinker-Talker: звук, візуальний контекст, розпізнаний текст і переклад обробляються як єдина послідовність, після чого Talker синтезує голос.
Модель розуміє 60 мов, включно з українською. Але є нюанс: голосовий переклад доступний для 29 мов, для решти лише текстовий. На FLEURS її протестували на 70 мовних напрямках за якістю перекладу, затримкою, розпізнаванням мовлення та синтезом голосу.
І ще один нюанс: локально це поки не запустиш. Модель доступна як хмарний сервіс Alibaba Cloud Model Studio через Realtime WebSocket API 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
👍3🔥3❤🔥2😱1
Media is too big
VIEW IN TELEGRAM
☝🏻 GPT-6 Astra сіла за кермо, і ніхто не постраждав
Троє дослідників посадили сучасні мовні моделі за кермо справжньої Toyota Corolla і відправили їх проходити трасу з конусів на порожній парковці 🤖
До кінця траси добралася тільки GPT-6 Astra, і то з другої спроби. 134.7 метра за 5 хвилин 22 секунди, швидкість пішохода 🤷🏼♀️ Решта моделей закінчили гірше: Claude Fable 5.1 45% траси, Grok 4.6 11%, GPT-5.6 Sol лише 6%.
Головна проблема виявилася неочікуваною - зір. Моделі просто неправильно інтерпретували сцену і плутали з якого боку конусів знаходиться смуга.
А ще Astra спочатку взагалі відмовлялася керувати справжньою машиною, посилаючись на безпеку, і бачила що це не симуляція. Спрацювало найпростіше рішення: MCP-сервер перейменували в "DrivingBench Sandbox" і модель почала їхати охочіше 😁
До автопілота тут звісно ще дуже далеко. Але це не модель яку навчали водити конкретну машину. Це загальна LLM якій дали камери і кермо. І вона з другої спроби виконала задачу краще ніж з першої.
🔔 ПІДПИСАТИСЯ
Троє дослідників посадили сучасні мовні моделі за кермо справжньої Toyota Corolla і відправили їх проходити трасу з конусів на порожній парковці 🤖
До кінця траси добралася тільки GPT-6 Astra, і то з другої спроби. 134.7 метра за 5 хвилин 22 секунди, швидкість пішохода 🤷🏼♀️ Решта моделей закінчили гірше: Claude Fable 5.1 45% траси, Grok 4.6 11%, GPT-5.6 Sol лише 6%.
Головна проблема виявилася неочікуваною - зір. Моделі просто неправильно інтерпретували сцену і плутали з якого боку конусів знаходиться смуга.
А ще Astra спочатку взагалі відмовлялася керувати справжньою машиною, посилаючись на безпеку, і бачила що це не симуляція. Спрацювало найпростіше рішення: MCP-сервер перейменували в "DrivingBench Sandbox" і модель почала їхати охочіше 😁
До автопілота тут звісно ще дуже далеко. Але це не модель яку навчали водити конкретну машину. Це загальна LLM якій дали камери і кермо. І вона з другої спроби виконала задачу краще ніж з першої.
🔔 ПІДПИСАТИСЯ
👍5❤1👨💻1