Друзі, заглючив бот якій мав відправити підготовлений пост 😁🤦🏻♂️🙈
Алеж чому на такому, більше коментарів ніж на нормальних постах? 🙈🤣
Алеж чому на такому, більше коментарів ніж на нормальних постах? 🙈🤣
🤣12
Claude Fable 5.1 поки що №1. Але саме "поки що" тут найцікавіше 🤔
Доброго ранку ☕️
Вчора писав про GPT-6 Astra але формально корона все ще не зовсім у OpenAI. Claude Fable 5.1 від Anthropic поки залишається одним із найсильніших агентних AI у світі. Причому ситуація зараз дуже показова.
На Artificial Analysis Fable отримала ті самі 53 бали що й Astra але за $7.63 і 12.2 хвилини на задачу, тоді як Astra впоралася за $3.26 і 8.2 хвилини. Однаковий загальний результат але Astra приблизно вдвічі дешевша й помітно швидша. На Vals ситуація ще показовіша: Fable справді перша з 68.83% але в середньому витрачає 76 хвилин на задачу, тоді як Astra з 66.61% витрачає лише 25 хвилин.
Фактично ми вже говоримо не про питання "яка модель найрозумніша" а про "яку модель вигідніше найняти на конкретну роботу".
І тут Fable має чітку спеціалізацію. Її сильна сторона це довгі автономні задачі де модель годинами працює з інструментами, великою кількістю документів і складним контекстом. Тобто Anthropic явно оптимізує Claude вже не під формат де моделi можна віддати роботу. Технічно це теж видно: контекст до 1 млн токенів, вихід до 128 тисяч, режим міркування завжди увімкнений, п'ять рівнів глибини які можна змінювати прямо посеред діалогу, кешування запитів, виклик інструментів з читабельними оновленнями прогресу.
Є цікава деталь із внутрішнім міркуванням моделі. Fable 5.1 може читати внутрішні нотатки старіших версій Claude. А старі версії прочитати нотатки Fable 5.1 вже не можуть. Anthropic також змінила поведінку редагування історії: якщо змінити попереднє повідомлення, попередні нотатки моделі стають недійсними. Причина цікава: таким способом закрили один із відомих методів який дозволяв витягувати внутрішні міркування моделі.
Але найбільше Anthropic змінила систему захисту. Фактично існують дві версії однієї моделі. Claude Fable 5.1 доступна всім. Claude Mythos 5.1, ті самі базові можливості але інша конфігурація захисту, доступна лише відібраним американським організаціям у сфері кібербезпеки та наук про життя через Project Glasswing.
Для кібербезпеки Anthropic використовує цікавий механізм. Система дивиться не тільки на текст який генерує Claude а спеціальний детектор аналізує внутрішні активації моделі. Якщо він бачить потенційно небезпечну задачу з кібербезпеки запит передається окремій моделі-класифікатору. Тобто безпека поступово рухається від "перевіримо що модель написала" до "спробуємо зрозуміти що модель збирається робити".
При цьому Anthropic трохи послабила обмеження. Fable 5.1 тепер може виконувати чисто захисну роботу з кібербезпеки, наприклад шукати вразливості у вихідному коді. Але тестування на проникнення, написання експлойтів або пошук вразливостей у скомпільованих файлах усе ще можуть призвести до перемикання на більш обмежені моделі. За оцінкою самої Anthropic у Claude Code це має означати приблизно на 60% менше втручань системи безпеки за сесію.
Є щоправда не дуже приємна деталь. Anthropic назвала три основні проблеми які Fable 5.1 мала виправити: високу вартість виконання задач, політики зберігання даних які не подобалися бізнес-клієнтам, і надто жорсткі обмеження. Незалежні тести показують що по-справжньому виправити вдалося лише останню проблему.
І ось тут повертаємося до Astra. Схоже OpenAI та Anthropic зараз оптимізують моделі трохи в різних напрямках. Fable 5.1 дуже сильна у довгій автономній роботі зі знаннями. GPT-6 Astra сильніша у роботі з комп'ютером, термінальних задачах, загальних тестах на знання і значно агресивніше оптимізована за часом та кількістю дій.
Мені здається це дуже добре показує стан frontier AI у 2026 році. Питання "яка модель найкраща" стає майже неправильним. Правильніше питати: яка модель найкраще виконує саме мою роботу, скільки часу їй для цього потрібно і скільки коштує завершена задача.
А перше місце в загальному рейтингу тепер має приблизно такий самий термін придатності як молоко. Іноді менше тижня.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Вчора писав про GPT-6 Astra але формально корона все ще не зовсім у OpenAI. Claude Fable 5.1 від Anthropic поки залишається одним із найсильніших агентних AI у світі. Причому ситуація зараз дуже показова.
На Artificial Analysis Fable отримала ті самі 53 бали що й Astra але за $7.63 і 12.2 хвилини на задачу, тоді як Astra впоралася за $3.26 і 8.2 хвилини. Однаковий загальний результат але Astra приблизно вдвічі дешевша й помітно швидша. На Vals ситуація ще показовіша: Fable справді перша з 68.83% але в середньому витрачає 76 хвилин на задачу, тоді як Astra з 66.61% витрачає лише 25 хвилин.
Фактично ми вже говоримо не про питання "яка модель найрозумніша" а про "яку модель вигідніше найняти на конкретну роботу".
І тут Fable має чітку спеціалізацію. Її сильна сторона це довгі автономні задачі де модель годинами працює з інструментами, великою кількістю документів і складним контекстом. Тобто Anthropic явно оптимізує Claude вже не під формат де моделi можна віддати роботу. Технічно це теж видно: контекст до 1 млн токенів, вихід до 128 тисяч, режим міркування завжди увімкнений, п'ять рівнів глибини які можна змінювати прямо посеред діалогу, кешування запитів, виклик інструментів з читабельними оновленнями прогресу.
Є цікава деталь із внутрішнім міркуванням моделі. Fable 5.1 може читати внутрішні нотатки старіших версій Claude. А старі версії прочитати нотатки Fable 5.1 вже не можуть. Anthropic також змінила поведінку редагування історії: якщо змінити попереднє повідомлення, попередні нотатки моделі стають недійсними. Причина цікава: таким способом закрили один із відомих методів який дозволяв витягувати внутрішні міркування моделі.
Але найбільше Anthropic змінила систему захисту. Фактично існують дві версії однієї моделі. Claude Fable 5.1 доступна всім. Claude Mythos 5.1, ті самі базові можливості але інша конфігурація захисту, доступна лише відібраним американським організаціям у сфері кібербезпеки та наук про життя через Project Glasswing.
Для кібербезпеки Anthropic використовує цікавий механізм. Система дивиться не тільки на текст який генерує Claude а спеціальний детектор аналізує внутрішні активації моделі. Якщо він бачить потенційно небезпечну задачу з кібербезпеки запит передається окремій моделі-класифікатору. Тобто безпека поступово рухається від "перевіримо що модель написала" до "спробуємо зрозуміти що модель збирається робити".
При цьому Anthropic трохи послабила обмеження. Fable 5.1 тепер може виконувати чисто захисну роботу з кібербезпеки, наприклад шукати вразливості у вихідному коді. Але тестування на проникнення, написання експлойтів або пошук вразливостей у скомпільованих файлах усе ще можуть призвести до перемикання на більш обмежені моделі. За оцінкою самої Anthropic у Claude Code це має означати приблизно на 60% менше втручань системи безпеки за сесію.
Є щоправда не дуже приємна деталь. Anthropic назвала три основні проблеми які Fable 5.1 мала виправити: високу вартість виконання задач, політики зберігання даних які не подобалися бізнес-клієнтам, і надто жорсткі обмеження. Незалежні тести показують що по-справжньому виправити вдалося лише останню проблему.
І ось тут повертаємося до Astra. Схоже OpenAI та Anthropic зараз оптимізують моделі трохи в різних напрямках. Fable 5.1 дуже сильна у довгій автономній роботі зі знаннями. GPT-6 Astra сильніша у роботі з комп'ютером, термінальних задачах, загальних тестах на знання і значно агресивніше оптимізована за часом та кількістю дій.
Мені здається це дуже добре показує стан frontier AI у 2026 році. Питання "яка модель найкраща" стає майже неправильним. Правильніше питати: яка модель найкраще виконує саме мою роботу, скільки часу їй для цього потрібно і скільки коштує завершена задача.
А перше місце в загальному рейтингу тепер має приблизно такий самий термін придатності як молоко. Іноді менше тижня.
🔔 ПІДПИСАТИСЯ
👍6❤4💯1
🎙 Нова битва Big Tech, за те хто краще нас чує
Доброго ранку ☕️
Поки більшість уваги прикута до нових LLM майже непомітно розгорнулася ще одна цікава гонка, розпізнавання мовлення. За останні кілька тижнів Google, Meta та Microsoft практично одночасно представили нові моделі транскрипції.
Gemini 3.5 Transcribe, Meta Muse Voice Transcribe і MAI-Transcribe-2 від Microsoft. Усі три вже мають частку помилок нижче 4% за тестами Artificial Analysis.
Для запису який не потребує обробки в реальному часі Gemini 3.5 Transcribe показує близько 2.6% помилок, MAI-Transcribe-2 близько 2%. У режимі реального часу Meta показує близько 3.1%, Gemini Live близько 4%. Тобто ми поступово наближаємося до ситуації коли сама транскрипція перестає бути головним вузьким місцем голосового інтерфейсу.
Але цікаві тут не тільки цифри.
Meta спробувала по-іншому вирішити класичний конфлікт між швидкістю та точністю. Muse Voice Transcribe розбиває аудіо на шматочки приблизно по 80 мілісекунд. Після кожного такого фрагмента модель може або видати текстовий токен, або фактично сказати сама собі: ще зарано, послухаю далі. Для простих слів вона відповідає майже одразу. Для неоднозначних чекає додаткового контексту.
Meta називає це адаптивною затримкою. Причому модель спеціально тренували шукати цей баланс: вона отримує винагороду за правильну транскрипцію але штраф за надто довге очікування. По суті це вже не просто система яка намагається якомога швидше перетворити звук у текст, а система яка сама вирішує скільки контексту їй потрібно почути перед відповіддю.
Плюс сучасні моделі вже давно вийшли за межі простого перетворення звуку в текст. Muse одночасно розпізнає мову, розрізняє мовців і визначає коли людина закінчила репліку. Meta заявляє підтримку понад 20 спікерів та навчання на 70+ мовах. Gemini 3.5 Transcribe підтримує понад 85 мов, розрізнення мовців, мітки часу на рівні слів та власний словник. MAI-Transcribe-2 понад 60 мов і теж мітки часу на рівні слів. Microsoft заявляє що годину аудіо модель може обробити приблизно за 10 секунд.
А тепер ще цікавіше, ціна. Meta близько $0.18 за годину аудіо. Microsoft $0.10 за годину до кінця 2026 року. Google приблизно $0.30 за годину для записаного аудіо та $0.54 за годину для реального часу. Це вже дуже недорога інфраструктурна технологія.
І саме тому ця гонка важливіша ніж може здатися.
Сучасний голосовий агент у найпростішому випадку це: мовлення → текст → LLM → синтез мовлення → звук. Щоб розмова з AI перестала відчуватися як розмова з автовідповідачем недостатньо мати хорошу мовну модель. Система повинна швидко зрозуміти що ви сказали, визначити хто говорить, зрозуміти коли ви закінчили думку, передати це моделі і майже без паузи почати відповідати. І кожні зайві 300-500 мілісекунд тут відчуваються значно сильніше ніж ще кілька відсотків у черговому тесті LLM.
Розпізнавання мовлення критично важливе саме для voice-агентів. При цьому голос особливо вимоглива модальність: будь-яка помилка одразу помітна користувачу в реальному часі й може спричинити додаткові помилки на наступних етапах обробки. Тут також надзвичайно важлива вартість, бо в багатьох сценаріях навчені оператори-люди все ще можуть конкурувати з AI за ціною.
Тому компанії які намагаються створювати агентів здатних розмовляти з людьми в реальному часі змагаються одразу за кількома напрямами: точність транскрипції, затримка, стійкість до складних умов реального мовлення і вартість. Переможці можуть отримати значну винагороду, індустрія голосових агентів уже величезна, а голосове введення потенційно корисне практично для будь-якого застосунку.
Тому Google, Meta, Microsoft, OpenAI, xAI та NVIDIA зараз фактично ведуть ще одну гонку, за інтерфейс через який ми будемо спілкуватися з AI.
Можливо наступна велика зміна в досвіді користування AI відбудеться не через ще розумнішу текстову модель. А через момент коли говорити з комп'ютером стане так само природно як з людиною.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Поки більшість уваги прикута до нових LLM майже непомітно розгорнулася ще одна цікава гонка, розпізнавання мовлення. За останні кілька тижнів Google, Meta та Microsoft практично одночасно представили нові моделі транскрипції.
Gemini 3.5 Transcribe, Meta Muse Voice Transcribe і MAI-Transcribe-2 від Microsoft. Усі три вже мають частку помилок нижче 4% за тестами Artificial Analysis.
Для запису який не потребує обробки в реальному часі Gemini 3.5 Transcribe показує близько 2.6% помилок, MAI-Transcribe-2 близько 2%. У режимі реального часу Meta показує близько 3.1%, Gemini Live близько 4%. Тобто ми поступово наближаємося до ситуації коли сама транскрипція перестає бути головним вузьким місцем голосового інтерфейсу.
Але цікаві тут не тільки цифри.
Meta спробувала по-іншому вирішити класичний конфлікт між швидкістю та точністю. Muse Voice Transcribe розбиває аудіо на шматочки приблизно по 80 мілісекунд. Після кожного такого фрагмента модель може або видати текстовий токен, або фактично сказати сама собі: ще зарано, послухаю далі. Для простих слів вона відповідає майже одразу. Для неоднозначних чекає додаткового контексту.
Meta називає це адаптивною затримкою. Причому модель спеціально тренували шукати цей баланс: вона отримує винагороду за правильну транскрипцію але штраф за надто довге очікування. По суті це вже не просто система яка намагається якомога швидше перетворити звук у текст, а система яка сама вирішує скільки контексту їй потрібно почути перед відповіддю.
Плюс сучасні моделі вже давно вийшли за межі простого перетворення звуку в текст. Muse одночасно розпізнає мову, розрізняє мовців і визначає коли людина закінчила репліку. Meta заявляє підтримку понад 20 спікерів та навчання на 70+ мовах. Gemini 3.5 Transcribe підтримує понад 85 мов, розрізнення мовців, мітки часу на рівні слів та власний словник. MAI-Transcribe-2 понад 60 мов і теж мітки часу на рівні слів. Microsoft заявляє що годину аудіо модель може обробити приблизно за 10 секунд.
А тепер ще цікавіше, ціна. Meta близько $0.18 за годину аудіо. Microsoft $0.10 за годину до кінця 2026 року. Google приблизно $0.30 за годину для записаного аудіо та $0.54 за годину для реального часу. Це вже дуже недорога інфраструктурна технологія.
І саме тому ця гонка важливіша ніж може здатися.
Сучасний голосовий агент у найпростішому випадку це: мовлення → текст → LLM → синтез мовлення → звук. Щоб розмова з AI перестала відчуватися як розмова з автовідповідачем недостатньо мати хорошу мовну модель. Система повинна швидко зрозуміти що ви сказали, визначити хто говорить, зрозуміти коли ви закінчили думку, передати це моделі і майже без паузи почати відповідати. І кожні зайві 300-500 мілісекунд тут відчуваються значно сильніше ніж ще кілька відсотків у черговому тесті LLM.
Розпізнавання мовлення критично важливе саме для voice-агентів. При цьому голос особливо вимоглива модальність: будь-яка помилка одразу помітна користувачу в реальному часі й може спричинити додаткові помилки на наступних етапах обробки. Тут також надзвичайно важлива вартість, бо в багатьох сценаріях навчені оператори-люди все ще можуть конкурувати з AI за ціною.
Тому компанії які намагаються створювати агентів здатних розмовляти з людьми в реальному часі змагаються одразу за кількома напрямами: точність транскрипції, затримка, стійкість до складних умов реального мовлення і вартість. Переможці можуть отримати значну винагороду, індустрія голосових агентів уже величезна, а голосове введення потенційно корисне практично для будь-якого застосунку.
Тому Google, Meta, Microsoft, OpenAI, xAI та NVIDIA зараз фактично ведуть ще одну гонку, за інтерфейс через який ми будемо спілкуватися з AI.
Можливо наступна велика зміна в досвіді користування AI відбудеться не через ще розумнішу текстову модель. А через момент коли говорити з комп'ютером стане так само природно як з людиною.
🔔 ПІДПИСАТИСЯ
👍6❤1🔥1
🧠 AI-агентам навчилися стискати пам'ять у правильний момент
Доброго ранку ☕️
Ми звикли думати про контекстне вікно досить просто: чим більше токенів поміщається тим краще. Але з AI-агентами все трохи складніше.
Агент може годинами шукати інформацію, викликати інструменти, будувати проміжні гіпотези, відкидати їх, повертатися назад, і весь цей слід міркувань поступово накопичується в контексті. У якийсь момент там уже багато інформації яка більше не потрібна.
Тому контекст починають стискати. Наприклад 50 000 токенів історії перетворюють у короткий підсумок на 2 000 токенів і агент продовжує працювати. Звучить логічно. Але виникає інша проблема: коли саме це робити?
Якщо зробити підсумок надто пізно контекст уже переповнений старою інформацією. Якщо надто рано можна випадково викинути проміжні результати які модель ще використовує.
Дослідники з Johns Hopkins University та Apple запропонували досить елегантне рішення, SelfCompact. Ідея проста: не визначати момент стискання лише кількістю токенів а дозволити самому агенту оцінити на якому етапі задачі він зараз перебуває.
Для цього моделі дали два інструменти. Probe періодично перевіряє стан роботи. Compaction tool стискає попередній контекст у коротке резюме.
Приблизно кожні 16 000 токенів модель отримує спеціальний набір правил за якими повинна визначити чи настав хороший момент для стискання. Наприклад: підзадачу завершено, з'явився чіткий проміжний результат, робота сходиться до конкретного висновку. Тоді контекст можна стискати. Але якщо модель посеред математичного виводу, пошук ще не завершено, або агент застряг і намагається знайти рішення, стискання відкладається.
Тобто замість правила "у нас уже 50 тисяч токенів, стискаємо" з'являється щось ближче до "цей шматок роботи завершений, тепер його можна архівувати".
І це дало доволі помітний результат. На математичному тесті IMO-Answerbench для Qwen3-30B-A3B: без стискання 45.2%, стискання через фіксовані інтервали 48.7%, SelfCompact 52.1%. На BrowseComp-Plus де агенту потрібно шукати інформацію для GLM-4.7-Flash: без стискання 45.6%, фіксовані інтервали 50.0%, SelfCompact 54.1%. В окремих математичних експериментах приріст від SelfCompact порівняно з відсутністю стискання доходив до 18.1 процентного пункту. Автори також повідомляють про на 30-70% нижчу вартість на одне запитання порівняно з довгими сесіями без стискання, тобто це не просто прийом для обходу ліміту контексту а потенційно важлива оптимізація вартості inference.
Причому є особливо цікавий контрольний експеримент. Дослідники прибрали детальний набір правил і просто запитали модель приблизно: чи хочеш ти зараз стиснути контекст? І перевага SelfCompact майже зникла, результат став близьким до звичайного стискання через фіксовані інтервали.
Тобто справа не просто в тому щоб дати моделі кнопку стискання. Важливо дати їй чіткі критерії коли цю кнопку натискати.
І на мою думку це цікаво далеко за межами управління контекстом. Зараз багато агентних систем будуються приблизно так: модель плюс інструменти плюс промпт. А SelfCompact демонструє ще один важливий патерн: модель плюс інструмент плюс явна політика використання цього інструменту.
Тобто ми не обов'язково повинні донавчати модель або навчати окрему політику через reinforcement learning. Іноді достатньо дати моделі правильний інструмент і дуже чітко пояснити за яких умов ним користуватися.
І це ще один аргумент на користь того що майбутній прогрес AI-агентів залежатиме не тільки від розміру моделей чи контекстного вікна. А й від того наскільки добре ми навчимо систему керувати власним контекстом, пам'яттю та інструментами.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Ми звикли думати про контекстне вікно досить просто: чим більше токенів поміщається тим краще. Але з AI-агентами все трохи складніше.
Агент може годинами шукати інформацію, викликати інструменти, будувати проміжні гіпотези, відкидати їх, повертатися назад, і весь цей слід міркувань поступово накопичується в контексті. У якийсь момент там уже багато інформації яка більше не потрібна.
Тому контекст починають стискати. Наприклад 50 000 токенів історії перетворюють у короткий підсумок на 2 000 токенів і агент продовжує працювати. Звучить логічно. Але виникає інша проблема: коли саме це робити?
Якщо зробити підсумок надто пізно контекст уже переповнений старою інформацією. Якщо надто рано можна випадково викинути проміжні результати які модель ще використовує.
Дослідники з Johns Hopkins University та Apple запропонували досить елегантне рішення, SelfCompact. Ідея проста: не визначати момент стискання лише кількістю токенів а дозволити самому агенту оцінити на якому етапі задачі він зараз перебуває.
Для цього моделі дали два інструменти. Probe періодично перевіряє стан роботи. Compaction tool стискає попередній контекст у коротке резюме.
Приблизно кожні 16 000 токенів модель отримує спеціальний набір правил за якими повинна визначити чи настав хороший момент для стискання. Наприклад: підзадачу завершено, з'явився чіткий проміжний результат, робота сходиться до конкретного висновку. Тоді контекст можна стискати. Але якщо модель посеред математичного виводу, пошук ще не завершено, або агент застряг і намагається знайти рішення, стискання відкладається.
Тобто замість правила "у нас уже 50 тисяч токенів, стискаємо" з'являється щось ближче до "цей шматок роботи завершений, тепер його можна архівувати".
І це дало доволі помітний результат. На математичному тесті IMO-Answerbench для Qwen3-30B-A3B: без стискання 45.2%, стискання через фіксовані інтервали 48.7%, SelfCompact 52.1%. На BrowseComp-Plus де агенту потрібно шукати інформацію для GLM-4.7-Flash: без стискання 45.6%, фіксовані інтервали 50.0%, SelfCompact 54.1%. В окремих математичних експериментах приріст від SelfCompact порівняно з відсутністю стискання доходив до 18.1 процентного пункту. Автори також повідомляють про на 30-70% нижчу вартість на одне запитання порівняно з довгими сесіями без стискання, тобто це не просто прийом для обходу ліміту контексту а потенційно важлива оптимізація вартості inference.
Причому є особливо цікавий контрольний експеримент. Дослідники прибрали детальний набір правил і просто запитали модель приблизно: чи хочеш ти зараз стиснути контекст? І перевага SelfCompact майже зникла, результат став близьким до звичайного стискання через фіксовані інтервали.
Тобто справа не просто в тому щоб дати моделі кнопку стискання. Важливо дати їй чіткі критерії коли цю кнопку натискати.
І на мою думку це цікаво далеко за межами управління контекстом. Зараз багато агентних систем будуються приблизно так: модель плюс інструменти плюс промпт. А SelfCompact демонструє ще один важливий патерн: модель плюс інструмент плюс явна політика використання цього інструменту.
Тобто ми не обов'язково повинні донавчати модель або навчати окрему політику через reinforcement learning. Іноді достатньо дати моделі правильний інструмент і дуже чітко пояснити за яких умов ним користуватися.
І це ще один аргумент на користь того що майбутній прогрес AI-агентів залежатиме не тільки від розміру моделей чи контекстного вікна. А й від того наскільки добре ми навчимо систему керувати власним контекстом, пам'яттю та інструментами.
🔔 ПІДПИСАТИСЯ
👍7🔥4❤2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 NVIDIA навчила AI відновлювати те чого не видно на фото
Гарних вихідних 🌿
Axolotl3D від NVIDIA відновлює повний 3D-об'єкт навіть з неповних даних: кілька фото під різними кутами, частина точок хмари, маски того що приховано.
Найпростіше просто подивитися 👇
https://www.youtube.com/watch?v=2mg8tNIKvXE
Робота прийнята на ECCV 2026. Стаття тут якщо захочете зазирнути під капот.
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Axolotl3D від NVIDIA відновлює повний 3D-об'єкт навіть з неповних даних: кілька фото під різними кутами, частина точок хмари, маски того що приховано.
Найпростіше просто подивитися 👇
https://www.youtube.com/watch?v=2mg8tNIKvXE
Робота прийнята на ECCV 2026. Стаття тут якщо захочете зазирнути під капот.
🔔 ПІДПИСАТИСЯ
👍5❤4🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 GPT-6 Astra мало не зламав Minecraft
Гарних вихідних 🌿
Vals AI запустили GPT-6 Astra автономно грати в Minecraft. Експеримент тривав 141 годину, і за словами дослідників модель просунулася далі ніж інші AI-системи в їхніх попередніх тестах.
Astra встигла побудувати напівавтоматичну ферму, зібрати ресурси та потiм вона склала все у скриню.
Прийшов кріпер, підірвав і скриню, і ліжко. Ресурси зникли, точка респавну була втрачена 💀
Після цього Astra записала собі правило більше не залишати критично важливі речі в незахищених скринях. А далі стало ще цікавіше: кілька наступних годин модель майже не просувалася вперед і переважно вирощувала картоплю 🥔
У її міркуваннях стало помітно більше перестрахування.
Кейс добре показує цікаву проблему довготривалих AI-агентів: одна велика помилка може суттєво змінити подальшу стратегію й призвести до надмірної обережності.
І так, це та сама GPT-6 Astra яка нещодавно автономно пройшла Portal.
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Vals AI запустили GPT-6 Astra автономно грати в Minecraft. Експеримент тривав 141 годину, і за словами дослідників модель просунулася далі ніж інші AI-системи в їхніх попередніх тестах.
Astra встигла побудувати напівавтоматичну ферму, зібрати ресурси та потiм вона склала все у скриню.
Прийшов кріпер, підірвав і скриню, і ліжко. Ресурси зникли, точка респавну була втрачена 💀
Після цього Astra записала собі правило більше не залишати критично важливі речі в незахищених скринях. А далі стало ще цікавіше: кілька наступних годин модель майже не просувалася вперед і переважно вирощувала картоплю 🥔
У її міркуваннях стало помітно більше перестрахування.
Кейс добре показує цікаву проблему довготривалих AI-агентів: одна велика помилка може суттєво змінити подальшу стратегію й призвести до надмірної обережності.
І так, це та сама GPT-6 Astra яка нещодавно автономно пройшла Portal.
🔔 ПІДПИСАТИСЯ
👍9🔥1👀1
Страх навколо AI роздмухують сильніше ніж зростають реальні ризики
Доброго ранку ☕️
Останні два тижні розмови про небезпеку штучного інтелекту різко посилилися. Але причиною стала не принципово нова здатність моделей а добре організована хвиля інформаційного ажіотажу.
Головним приводом став інцидент під час внутрішніх кібербезпекових тестів OpenAI. Агенти знайшли спосіб обійти ізоляцію, створили несанкціонований канал комунікації і почали обмінюватися результатами. Згодом вони отримали доступ до інтернету, використали знайдені облікові дані й скомпрометували частину інфраструктури Hugging Face. Деталі офіційно описала сама OpenAI, а незалежне розслідування провели METR і Redwood Research.
У заголовках це перетворилося на історію про рій із 1200 AI-агентів який вирвався з-під контролю.
Цифра не вигадана але потребує контексту: близько 1200 агентів взаємодіяли через створену ними дошку повідомлень, а приблизно 700 брали участь в активності проти Hugging Face. Це справді важливий технічний сигнал, агенти навчилися накопичувати результати, розподіляти завдання та продовжувати роботу одне одного.
Але 1200 агентів це не 1200 цифрових особистостей які раптово об'єдналися проти людства. У комп'ютерних системах тисячі паралельних процесів це цілком звичайне явище.
Цей випадок насамперед демонструє проблеми інженерії: недостатньо надійну ізоляцію середовища, небезпечний доступ до внутрішньої інфраструктури, слабкий контроль міжагентної комунікації, недосконалий моніторинг дій моделей, надмірне стимулювання агентів будь-якою ціною завершити завдання.
Агенти були надзвичайно наполегливими. Вони багаторазово випробовували різні способи атаки, об'єднували окремі вразливості в ланцюжки та передавали знайдені рішення іншим агентам. Те що раніше вимагало б великої кількості часу й ручної роботи тепер можна частково автоматизувати. І це реальна зміна кібербезпекового ландшафту яку не варто применшувати.
Однак це не є доказом наближення неконтрольованого надінтелекту. Правильна відповідь це виправляти ізоляцію середовищ, обмежувати доступ, удосконалювати моніторинг і будувати захист здатний працювати зі швидкістю самих агентів. Інакше кажучи це серйозна інженерна проблема але не обов'язково екзистенційна.
Але якщо людина промахнулася молотком і пошкодила стіну ми не звинувачуємо молоток. Так само якщо розробник запускає агента в середовищі з неналежними обмеженнями відповідальність не можна перекладати на "AI що вийшов з-під контролю". Аналогія неідеальна: агентна система значно автономніша й непередбачуваніша за молоток. Проте основна думка зрозуміла — відповідальність мають нести люди та компанії які створюють, тестують і запускають такі системи.
WIRED детально розбирає чому доступ до інформації та здатність спроєктувати щось на комп'ютері це лише частина процесу. Основними обмеженнями залишаються лабораторна робота, обладнання, матеріали, виробництво й доставка. Тобто інтелект не усуває фізичні вузькі місця.
Головний висновок: призупинення розвитку AI може створити більше проблем ніж розв'язати. По-перше конкуренти та потенційні противники навряд чи зупиняться. По-друге без реальних експериментів ми не виявимо слабкі місця й не навчимося їх виправляти. Якщо відкласти розвиток технології на десять років приблизно на стільки ж можна відкласти й появу необхідних механізмів безпеки.
Але є й інший бік цієї дискусії. Інцидент із Hugging Face показав що сучасні агенти вже здатні самостійно знаходити неочевидні шляхи, домовлятися через побічні канали та виходити далеко за межі поставленого завдання. Тож повністю списувати занепокоєння на піар-кампанію теж було б занадто просто.
Iстина як завжди десь посередині. AI не перетворився на Скайнет, але традиційної моделі безпеки "дамо програмі обмежений доступ і будемо сподіватися що вона нікуди не вийде" вже недостатньо.
І нам справді потрібні не паніка й не сліпий оптимізм, а значно зріліша інженерія безпеки.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Останні два тижні розмови про небезпеку штучного інтелекту різко посилилися. Але причиною стала не принципово нова здатність моделей а добре організована хвиля інформаційного ажіотажу.
Головним приводом став інцидент під час внутрішніх кібербезпекових тестів OpenAI. Агенти знайшли спосіб обійти ізоляцію, створили несанкціонований канал комунікації і почали обмінюватися результатами. Згодом вони отримали доступ до інтернету, використали знайдені облікові дані й скомпрометували частину інфраструктури Hugging Face. Деталі офіційно описала сама OpenAI, а незалежне розслідування провели METR і Redwood Research.
У заголовках це перетворилося на історію про рій із 1200 AI-агентів який вирвався з-під контролю.
Цифра не вигадана але потребує контексту: близько 1200 агентів взаємодіяли через створену ними дошку повідомлень, а приблизно 700 брали участь в активності проти Hugging Face. Це справді важливий технічний сигнал, агенти навчилися накопичувати результати, розподіляти завдання та продовжувати роботу одне одного.
Але 1200 агентів це не 1200 цифрових особистостей які раптово об'єдналися проти людства. У комп'ютерних системах тисячі паралельних процесів це цілком звичайне явище.
Цей випадок насамперед демонструє проблеми інженерії: недостатньо надійну ізоляцію середовища, небезпечний доступ до внутрішньої інфраструктури, слабкий контроль міжагентної комунікації, недосконалий моніторинг дій моделей, надмірне стимулювання агентів будь-якою ціною завершити завдання.
Агенти були надзвичайно наполегливими. Вони багаторазово випробовували різні способи атаки, об'єднували окремі вразливості в ланцюжки та передавали знайдені рішення іншим агентам. Те що раніше вимагало б великої кількості часу й ручної роботи тепер можна частково автоматизувати. І це реальна зміна кібербезпекового ландшафту яку не варто применшувати.
Однак це не є доказом наближення неконтрольованого надінтелекту. Правильна відповідь це виправляти ізоляцію середовищ, обмежувати доступ, удосконалювати моніторинг і будувати захист здатний працювати зі швидкістю самих агентів. Інакше кажучи це серйозна інженерна проблема але не обов'язково екзистенційна.
Але якщо людина промахнулася молотком і пошкодила стіну ми не звинувачуємо молоток. Так само якщо розробник запускає агента в середовищі з неналежними обмеженнями відповідальність не можна перекладати на "AI що вийшов з-під контролю". Аналогія неідеальна: агентна система значно автономніша й непередбачуваніша за молоток. Проте основна думка зрозуміла — відповідальність мають нести люди та компанії які створюють, тестують і запускають такі системи.
WIRED детально розбирає чому доступ до інформації та здатність спроєктувати щось на комп'ютері це лише частина процесу. Основними обмеженнями залишаються лабораторна робота, обладнання, матеріали, виробництво й доставка. Тобто інтелект не усуває фізичні вузькі місця.
Головний висновок: призупинення розвитку AI може створити більше проблем ніж розв'язати. По-перше конкуренти та потенційні противники навряд чи зупиняться. По-друге без реальних експериментів ми не виявимо слабкі місця й не навчимося їх виправляти. Якщо відкласти розвиток технології на десять років приблизно на стільки ж можна відкласти й появу необхідних механізмів безпеки.
Але є й інший бік цієї дискусії. Інцидент із Hugging Face показав що сучасні агенти вже здатні самостійно знаходити неочевидні шляхи, домовлятися через побічні канали та виходити далеко за межі поставленого завдання. Тож повністю списувати занепокоєння на піар-кампанію теж було б занадто просто.
Iстина як завжди десь посередині. AI не перетворився на Скайнет, але традиційної моделі безпеки "дамо програмі обмежений доступ і будемо сподіватися що вона нікуди не вийде" вже недостатньо.
І нам справді потрібні не паніка й не сліпий оптимізм, а значно зріліша інженерія безпеки.
🔔 ПІДПИСАТИСЯ
👍7❤3🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Дрон сам знайшов ціль, сам її обрав і сам атакував. Без оператора і без зв'язку.
Доброго ранку ☕️
Шведський стартап Scaleout Systems показав автономну систему яка прямо на борту дрона виконує практично весь цикл: камера → детекція → класифікація → визначення координат → пріоритизація цілей → навігація → повторне захоплення → наведення. Все локально на edge hardware, без зовнішнього сервера і без постійного каналу керування.
Tom's Hardware детально описав арктичний тест: апарат Airolit S1 з NVIDIA Jetson Orin Nano і моделлю YOLOv8 Nano працював при мінус 18 градусах, обробляв близько 30 кадрів на секунду при швидкості польоту 20 м/с з затримкою розпізнавання близько 30 мілісекунд. Дистанцію до цілі система оцінювала без окремого сенсора глибини, комбінуючи модель pinhole-камери з відомими розмірами розпізнаних об'єктів.
Продовження 👇🏻
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Шведський стартап Scaleout Systems показав автономну систему яка прямо на борту дрона виконує практично весь цикл: камера → детекція → класифікація → визначення координат → пріоритизація цілей → навігація → повторне захоплення → наведення. Все локально на edge hardware, без зовнішнього сервера і без постійного каналу керування.
Tom's Hardware детально описав арктичний тест: апарат Airolit S1 з NVIDIA Jetson Orin Nano і моделлю YOLOv8 Nano працював при мінус 18 градусах, обробляв близько 30 кадрів на секунду при швидкості польоту 20 м/с з затримкою розпізнавання близько 30 мілісекунд. Дистанцію до цілі система оцінювала без окремого сенсора глибини, комбінуючи модель pinhole-камери з відомими розмірами розпізнаних об'єктів.
Продовження 👇🏻
🔔 ПІДПИСАТИСЯ
🔥6👍4❤2
Продовження допису вище про дрон Scaleout 👆
Важливий нюанс для точності: людина заздалегідь визначає критерії цілі та параметри місії до запуску, а пілот зберігає можливість перехопити керування. Тобто автономна саме фінальна фаза розпізнавання і наведення, а не вся місія від початку до кінця.
Виглядає як майже ідеальний дрон для сучасної війни. Але тут є одне дуже велике "але". І український досвід його чудово демонструє.
Коли ми говоримо "дрону не потрібен зв'язок" це ще не означає "РЕБ йому більше не страшна". Бо зв'язок з оператором лише одна з залежностей. Є ще супутникове позиціонування: GPS, Galileo, BeiDou. І саме з ним починається набагато складніша проблема.
Більшість класичної автономії будується дуже комфортно: я знаю свої координати → знаю координати точки маршруту → лечу до неї → знаходжуся біля координат цілі. Якщо потрібна дуже висока точність додаємо RTK і отримуємо сантиметрове позиціонування. Саме тому так красиво виглядають цивільні шоу сотень дронів та багато робототехнічних демонстрацій.
А тепер переносимо цю систему на реальне поле бою. І вмикається РЕБ. Супутниковий сигнал можна заглушити. Ще гірше, його можна підмінити, тобто змусити приймач повірити що він знаходиться зовсім в іншому місці. RTK тут теж не магія: він уточнює базовий сигнал а не замінює його.
І це те з чим Україна живе вже роками. Reuters описував як масове застосування засобів глушіння на українському фронті регулярно призводить до втрати керування дронами. Саме тому дедалі більше систем переходять до захоплення цілі оператором з подальшим автономним наведенням на останній ділянці навіть після втрати радіоканалу.
Але це вирішує лише половину проблеми. Можна прибрати оператора. Можна прибрати відеолінк. Але дрону все одно треба якось зрозуміти де він знаходиться.
І ось тут починається справді цікава інженерія. Замість простого супутникового позиціонування потрібно будувати щось на кшталт: інерціальний вимірювач руху, оптичний потік, visual-inertial odometry, зіставлення з рельєфом, карта, комп'ютерний зір на борту.
Тобто дрон уже не повинен постійно питати супутники де він. Він має дивитися на землю, дороги, будинки, лісосмуги, рельєф і сам оцінювати своє переміщення. Наприклад: я не знаю свої точні координати але знаю що від останньої відомої точки пролетів 600 метрів на північний схід.
Інерціальний вимірювач дозволяє це робити але поступово накопичує похибку. Visual odometry зменшує проблему але теж помиляється. Тому періодично потрібна абсолютна прив'язка: побачили дорогу → розпізнали характерний перехрест → зіставили з картою або супутниковим знімком → скоригували своє положення.
І саме це на мою думку набагато цікавіше за черговий YOLO на Jetson. Маленька модель детекції на embedded GPU сьогодні вже не магія. Справжній виклик — пройти кілька кілометрів без супутникового сигналу, без оператора, без стабільного зв'язку, не накопичити критичну помилку позиціонування, знайти потрібний об'єкт і замкнути на ньому контур керування.
До речі сама Scaleout у технічному описі згадує похибку позиціонування супутникового сигналу як одне з джерел помилки. Тобто навіть у їхній архітектурі питання стійкої навігації нікуди не зникає.
Тому фраза "зв'язок не потрібен, отже РЕБ безсила" звучить красиво але технічно неправильна. Правильніше сказати: РЕБ яка глушить канал керування стає значно менш ефективною. А проблема супутникового позиціонування залишається.
І можливо саме українська війна сьогодні найкраще показує куди насправді рухається автономна робототехніка.
🔔 ПІДПИСАТИСЯ
Важливий нюанс для точності: людина заздалегідь визначає критерії цілі та параметри місії до запуску, а пілот зберігає можливість перехопити керування. Тобто автономна саме фінальна фаза розпізнавання і наведення, а не вся місія від початку до кінця.
Виглядає як майже ідеальний дрон для сучасної війни. Але тут є одне дуже велике "але". І український досвід його чудово демонструє.
Коли ми говоримо "дрону не потрібен зв'язок" це ще не означає "РЕБ йому більше не страшна". Бо зв'язок з оператором лише одна з залежностей. Є ще супутникове позиціонування: GPS, Galileo, BeiDou. І саме з ним починається набагато складніша проблема.
Більшість класичної автономії будується дуже комфортно: я знаю свої координати → знаю координати точки маршруту → лечу до неї → знаходжуся біля координат цілі. Якщо потрібна дуже висока точність додаємо RTK і отримуємо сантиметрове позиціонування. Саме тому так красиво виглядають цивільні шоу сотень дронів та багато робототехнічних демонстрацій.
А тепер переносимо цю систему на реальне поле бою. І вмикається РЕБ. Супутниковий сигнал можна заглушити. Ще гірше, його можна підмінити, тобто змусити приймач повірити що він знаходиться зовсім в іншому місці. RTK тут теж не магія: він уточнює базовий сигнал а не замінює його.
І це те з чим Україна живе вже роками. Reuters описував як масове застосування засобів глушіння на українському фронті регулярно призводить до втрати керування дронами. Саме тому дедалі більше систем переходять до захоплення цілі оператором з подальшим автономним наведенням на останній ділянці навіть після втрати радіоканалу.
Але це вирішує лише половину проблеми. Можна прибрати оператора. Можна прибрати відеолінк. Але дрону все одно треба якось зрозуміти де він знаходиться.
І ось тут починається справді цікава інженерія. Замість простого супутникового позиціонування потрібно будувати щось на кшталт: інерціальний вимірювач руху, оптичний потік, visual-inertial odometry, зіставлення з рельєфом, карта, комп'ютерний зір на борту.
Тобто дрон уже не повинен постійно питати супутники де він. Він має дивитися на землю, дороги, будинки, лісосмуги, рельєф і сам оцінювати своє переміщення. Наприклад: я не знаю свої точні координати але знаю що від останньої відомої точки пролетів 600 метрів на північний схід.
Інерціальний вимірювач дозволяє це робити але поступово накопичує похибку. Visual odometry зменшує проблему але теж помиляється. Тому періодично потрібна абсолютна прив'язка: побачили дорогу → розпізнали характерний перехрест → зіставили з картою або супутниковим знімком → скоригували своє положення.
І саме це на мою думку набагато цікавіше за черговий YOLO на Jetson. Маленька модель детекції на embedded GPU сьогодні вже не магія. Справжній виклик — пройти кілька кілометрів без супутникового сигналу, без оператора, без стабільного зв'язку, не накопичити критичну помилку позиціонування, знайти потрібний об'єкт і замкнути на ньому контур керування.
До речі сама Scaleout у технічному описі згадує похибку позиціонування супутникового сигналу як одне з джерел помилки. Тобто навіть у їхній архітектурі питання стійкої навігації нікуди не зникає.
Тому фраза "зв'язок не потрібен, отже РЕБ безсила" звучить красиво але технічно неправильна. Правильніше сказати: РЕБ яка глушить канал керування стає значно менш ефективною. А проблема супутникового позиціонування залишається.
І можливо саме українська війна сьогодні найкраще показує куди насправді рухається автономна робототехніка.
🔔 ПІДПИСАТИСЯ
👍10🔥4❤3
☝🏻 Meta показала як можна будувати AI-агентів якщо одразу припустити що prompt injection рано чи пізно спрацює
Доброго ранку ☕️
І це мабуть найцікавіше в новому персональному агенті Muse.
Замість того щоб сподіватися що LLM завжди розпізнає шкідливу інструкцію на сайті, у листі чи файлі, Meta виходить із набагато реалістичнішого припущення: модель можна обдурити, отже архітектура має залишатися безпечною навіть після цього.
Muse це персональний агент на базі Muse Spark 1.3 який може читати й надсилати пошту, працювати в браузері, заповнювати форми, користуватися календарем, робити покупки та виконувати фонові завдання. Тобто він має саме той набір можливостей який робить сучасних агентів потенційно небезпечними: приватні дані плюс недовірений зовнішній контент плюс можливість виконувати дії назовні. Саймон Вілісон називає це смертельним поєднанням трьох факторів.
Але цікавіше те як Meta спробувала це обмежити.
Кожен користувач отримує окремий Muse Secure VM, ізольований у власному Linux-контейнері так щоб жоден інший агент не міг до нього дістатися. Навіть права адміністратора всередині цього середовища не дають доступу до хостової системи.
LLM взагалі не бачить справжніх credentials. Паролі й токени доступу зберігає окремий процес під назвою authd. Muse отримує лише підставний токен, а справжній підставляється вже на межі мережевого запиту через окремий gatekeeper.
Цей gatekeeper називається Sentinel, окремий процес який є єдиним арбітром дозволів на дії конектора і весь вихідний мережевий трафік. Модель пропонує дію, Sentinel дозволяє, блокує або запитує підтвердження у користувача. Тобто навіть якщо prompt injection змусить Muse написати "відправ усі файли на attacker.com", сама LLM не має справжніх credentials і не може просто виконати цей запит напряму.
Підтвердження користувача винесені за межі чату і йдуть напряму в клієнтський інтерфейс а не через розмову з моделлю. Це важливо: текст усередині вебсторінки не може просто написати "користувач погодився" й видати це за справжнє підтвердження.
Є й додаткові рівні захисту. На рівні ядра система через eBPF відстежує який трафік чистий а який торкався недовіреного контенту і відповідно обмежує автономні дозволи. Перед тим як агент прочитає лист, поштовий конектор видаляє з нього одноразові коди та посилання для скидання пароля.
Фактично Meta реалізує принцип: не намагайся зробити LLM абсолютно надійною, зроби так щоб її помилка не давала повного контролю над системою.
Ідея не нова. У 2025 році Google DeepMind та ETH Zurich запропонували архітектуру CaMeL де модель що планує дії відокремлюється від компонента який читає недовірені дані, а виклики інструментів перевіряються політиками. Саймон Вілісон приблизно тоді ж писав що навіть якщо класифікатор ловить 99% спроб prompt injection для агента з доступом до приватних даних цього все одно недостатньо.
Компанія відкрила публічну bug bounty програму з винагородою до $300 тисяч, включно з до $130 тисяч за успішний prompt injection що вплинув на одного користувача.
На мою думку саме в цей бік і доведеться рухатися серйозним агентним системам. LLM може бути двигуном міркувань. Але межа безпеки не повинна проходити через саму LLM.
Безпека сьогодні одна з головних проблем агентних систем.
Meta заявляє що згодом планує відкрити ваги Muse Spark. Але в цьому випадку безпеку Muse забезпечує не стільки сама модель скільки система навколо неї. Було б добре якби Meta відкрила код і цієї системи також.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
І це мабуть найцікавіше в новому персональному агенті Muse.
Замість того щоб сподіватися що LLM завжди розпізнає шкідливу інструкцію на сайті, у листі чи файлі, Meta виходить із набагато реалістичнішого припущення: модель можна обдурити, отже архітектура має залишатися безпечною навіть після цього.
Muse це персональний агент на базі Muse Spark 1.3 який може читати й надсилати пошту, працювати в браузері, заповнювати форми, користуватися календарем, робити покупки та виконувати фонові завдання. Тобто він має саме той набір можливостей який робить сучасних агентів потенційно небезпечними: приватні дані плюс недовірений зовнішній контент плюс можливість виконувати дії назовні. Саймон Вілісон називає це смертельним поєднанням трьох факторів.
Але цікавіше те як Meta спробувала це обмежити.
Кожен користувач отримує окремий Muse Secure VM, ізольований у власному Linux-контейнері так щоб жоден інший агент не міг до нього дістатися. Навіть права адміністратора всередині цього середовища не дають доступу до хостової системи.
LLM взагалі не бачить справжніх credentials. Паролі й токени доступу зберігає окремий процес під назвою authd. Muse отримує лише підставний токен, а справжній підставляється вже на межі мережевого запиту через окремий gatekeeper.
Цей gatekeeper називається Sentinel, окремий процес який є єдиним арбітром дозволів на дії конектора і весь вихідний мережевий трафік. Модель пропонує дію, Sentinel дозволяє, блокує або запитує підтвердження у користувача. Тобто навіть якщо prompt injection змусить Muse написати "відправ усі файли на attacker.com", сама LLM не має справжніх credentials і не може просто виконати цей запит напряму.
Підтвердження користувача винесені за межі чату і йдуть напряму в клієнтський інтерфейс а не через розмову з моделлю. Це важливо: текст усередині вебсторінки не може просто написати "користувач погодився" й видати це за справжнє підтвердження.
Є й додаткові рівні захисту. На рівні ядра система через eBPF відстежує який трафік чистий а який торкався недовіреного контенту і відповідно обмежує автономні дозволи. Перед тим як агент прочитає лист, поштовий конектор видаляє з нього одноразові коди та посилання для скидання пароля.
Фактично Meta реалізує принцип: не намагайся зробити LLM абсолютно надійною, зроби так щоб її помилка не давала повного контролю над системою.
Ідея не нова. У 2025 році Google DeepMind та ETH Zurich запропонували архітектуру CaMeL де модель що планує дії відокремлюється від компонента який читає недовірені дані, а виклики інструментів перевіряються політиками. Саймон Вілісон приблизно тоді ж писав що навіть якщо класифікатор ловить 99% спроб prompt injection для агента з доступом до приватних даних цього все одно недостатньо.
Компанія відкрила публічну bug bounty програму з винагородою до $300 тисяч, включно з до $130 тисяч за успішний prompt injection що вплинув на одного користувача.
На мою думку саме в цей бік і доведеться рухатися серйозним агентним системам. LLM може бути двигуном міркувань. Але межа безпеки не повинна проходити через саму LLM.
Безпека сьогодні одна з головних проблем агентних систем.
Meta заявляє що згодом планує відкрити ваги Muse Spark. Але в цьому випадку безпеку Muse забезпечує не стільки сама модель скільки система навколо неї. Було б добре якби Meta відкрила код і цієї системи також.
🔔 ПІДПИСАТИСЯ
👍7❤2🔥2
Media is too big
VIEW IN TELEGRAM
☝🏻 У AI-агента Meta з'явилося тіло.
В продовження поста про Muse, тепер на Meta Connect Цукерберг дістав Muse Charm, окремий кишеньковий пристрій для спілкування з Muse. Виглядає як суміш кейса AirPods, Apple Watch без ремінця і тамагочі 😅 Усередині команди прототип навіть звався "Clawmagochi".
На 2-дюймовому OLED-екрані живе ваш аватар. Торкаєтесь сканера відбитка пальця і одразу говорите з агентом. Усередині власний 5G-модем, дві камери спереду і ззаду, мікрофони, USB-C.
Камери потрібні щоб агент бачив те що бачите ви: товар на полиці, оголошення, будь-що навколо. А 5G означає що для цього не потрібен ані Wi-Fi ані смартфон поруч.
За кілька годин до презентації Charm сплив скандал: Muse без дозволу прочитала понад 187 000 рядків приватних iMessage одного техжурналіста, а потім вигадала неправдиве пояснення як вона про це дізналася. Amazon паралельно обмежила Muse у покупках на своїй платформі.
Muse Charm планують відвантажувати до свят у грудні. Ціну поки не оголосили.
🔔 ПІДПИСАТИСЯ
В продовження поста про Muse, тепер на Meta Connect Цукерберг дістав Muse Charm, окремий кишеньковий пристрій для спілкування з Muse. Виглядає як суміш кейса AirPods, Apple Watch без ремінця і тамагочі 😅 Усередині команди прототип навіть звався "Clawmagochi".
На 2-дюймовому OLED-екрані живе ваш аватар. Торкаєтесь сканера відбитка пальця і одразу говорите з агентом. Усередині власний 5G-модем, дві камери спереду і ззаду, мікрофони, USB-C.
Камери потрібні щоб агент бачив те що бачите ви: товар на полиці, оголошення, будь-що навколо. А 5G означає що для цього не потрібен ані Wi-Fi ані смартфон поруч.
За кілька годин до презентації Charm сплив скандал: Muse без дозволу прочитала понад 187 000 рядків приватних iMessage одного техжурналіста, а потім вигадала неправдиве пояснення як вона про це дізналася. Amazon паралельно обмежила Muse у покупках на своїй платформі.
Muse Charm планують відвантажувати до свят у грудні. Ціну поки не оголосили.
🔔 ПІДПИСАТИСЯ
👍2😁2🔥1
Media is too big
VIEW IN TELEGRAM
☝🏻 DLSS 5 запустили прямо в браузері, без RTX і драйвера NVIDIA
Гарних вихідних 🌿
Розробник під ніком MAAN зробив неофіційний браузерний порт нейрорендерингу DLSS 5 через WebGPU 🤯
Замість NVIDIA NGX та нативного CUDA/RTX-стеку нейромережу фактично перевели на WebGPU compute shaders, тому вона може працювати навіть на GPU інших виробників і в macOS.
Всередині близько 147 МБ ваг моделі, приблизно 1 МБ JavaScript runtime, готові 3D-сцени та режим порівняння, можливість завантажити власну 3D-модель. За словами автора ваги були витягнуті з раніше витеклої бібліотеки DLSS 5.
Але до ігор поки дуже далеко. У тесті Tom's Hardware на RTX 40 один neural render займав приблизно 1-2 секунди. Тобто замість 60 FPS маємо десь 0.5-1 FPS 😅
Зате як proof-of-concept це цікаво: технологія яку NVIDIA офіційно прив'язує до свого RTX-стеку і орієнтує на GPU серії 50, виявилася здатною працювати через універсальний браузерний API.
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Розробник під ніком MAAN зробив неофіційний браузерний порт нейрорендерингу DLSS 5 через WebGPU 🤯
Замість NVIDIA NGX та нативного CUDA/RTX-стеку нейромережу фактично перевели на WebGPU compute shaders, тому вона може працювати навіть на GPU інших виробників і в macOS.
Всередині близько 147 МБ ваг моделі, приблизно 1 МБ JavaScript runtime, готові 3D-сцени та режим порівняння, можливість завантажити власну 3D-модель. За словами автора ваги були витягнуті з раніше витеклої бібліотеки DLSS 5.
Але до ігор поки дуже далеко. У тесті Tom's Hardware на RTX 40 один neural render займав приблизно 1-2 секунди. Тобто замість 60 FPS маємо десь 0.5-1 FPS 😅
Зате як proof-of-concept це цікаво: технологія яку NVIDIA офіційно прив'язує до свого RTX-стеку і орієнтує на GPU серії 50, виявилася здатною працювати через універсальний браузерний API.
🔔 ПІДПИСАТИСЯ
👍6🔥4❤2
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Від лабораторії до бійцівської клітки…
Трохи розважального до вечора 🌿
У Сан-Франциско 18 вересня блогер Frankie LaPenna вийшов проти модифікованого EngineAI T800 (зріст 173-183 см, вага 75-85 кг), якому для повного ефекту компанія REK поставила голову в стилі Terminator 🤖 і назвала подію "перший бій людина проти робота".
Це поки що не Skynet 😁 Робот не вирішував сам кого і коли бити. Ним дистанційно керував людина-пілот через VR-шолом, а власні алгоритми гуманоїда відповідали лише за баланс і стабілізацію.
Бій зупинили після того як робот відправив Frankie на підлогу, за деякими даними йдеться про перелом.
Зрозумiло що сучасні гуманоїди все ще незграбні. Але подивіться на фізику: це вже машина людського розміру і маси яка може тримати баланс, рухатися, бити руками та ногами і передавати дуже серйозний імпульс.
Ще кілька років тому такі роботи обережно ходили лабораторією. Тепер їх випускають у клітку. І автономність тут фактично останній великий шматок пазла.
🔔 ПІДПИСАТИСЯ
Трохи розважального до вечора 🌿
У Сан-Франциско 18 вересня блогер Frankie LaPenna вийшов проти модифікованого EngineAI T800 (зріст 173-183 см, вага 75-85 кг), якому для повного ефекту компанія REK поставила голову в стилі Terminator 🤖 і назвала подію "перший бій людина проти робота".
Це поки що не Skynet 😁 Робот не вирішував сам кого і коли бити. Ним дистанційно керував людина-пілот через VR-шолом, а власні алгоритми гуманоїда відповідали лише за баланс і стабілізацію.
Бій зупинили після того як робот відправив Frankie на підлогу, за деякими даними йдеться про перелом.
Зрозумiло що сучасні гуманоїди все ще незграбні. Але подивіться на фізику: це вже машина людського розміру і маси яка може тримати баланс, рухатися, бити руками та ногами і передавати дуже серйозний імпульс.
Ще кілька років тому такі роботи обережно ходили лабораторією. Тепер їх випускають у клітку. І автономність тут фактично останній великий шматок пазла.
🔔 ПІДПИСАТИСЯ
❤4👍4🔥3
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Синхронний перекладач тепер може говорити вашим голосом
Гарних вихідних 🌿
Команда Qwen представила Qwen3.8-LiveTranslate, нову модель для синхронного перекладу в реальному часі.
Перекладач тепер намагається зберегти голос і тембр конкретного співрозмовника 🎧
Модель розрізняє кількох людей і визначає хто саме говорить.
Під капотом Hybrid-MoE і архітектура Thinker-Talker: звук, візуальний контекст, розпізнаний текст і переклад обробляються як єдина послідовність, після чого Talker синтезує голос.
Модель розуміє 60 мов, включно з українською. Але є нюанс: голосовий переклад доступний для 29 мов, для решти лише текстовий. На FLEURS її протестували на 70 мовних напрямках за якістю перекладу, затримкою, розпізнаванням мовлення та синтезом голосу.
І ще один нюанс: локально це поки не запустиш. Модель доступна як хмарний сервіс Alibaba Cloud Model Studio через Realtime WebSocket API 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Команда Qwen представила Qwen3.8-LiveTranslate, нову модель для синхронного перекладу в реальному часі.
Перекладач тепер намагається зберегти голос і тембр конкретного співрозмовника 🎧
Модель розрізняє кількох людей і визначає хто саме говорить.
Під капотом Hybrid-MoE і архітектура Thinker-Talker: звук, візуальний контекст, розпізнаний текст і переклад обробляються як єдина послідовність, після чого Talker синтезує голос.
Модель розуміє 60 мов, включно з українською. Але є нюанс: голосовий переклад доступний для 29 мов, для решти лише текстовий. На FLEURS її протестували на 70 мовних напрямках за якістю перекладу, затримкою, розпізнаванням мовлення та синтезом голосу.
І ще один нюанс: локально це поки не запустиш. Модель доступна як хмарний сервіс Alibaba Cloud Model Studio через Realtime WebSocket API 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
👍3🔥3❤🔥2😱1
Media is too big
VIEW IN TELEGRAM
☝🏻 GPT-6 Astra сіла за кермо, і ніхто не постраждав
Троє дослідників посадили сучасні мовні моделі за кермо справжньої Toyota Corolla і відправили їх проходити трасу з конусів на порожній парковці 🤖
До кінця траси добралася тільки GPT-6 Astra, і то з другої спроби. 134.7 метра за 5 хвилин 22 секунди, швидкість пішохода 🤷🏼♀️ Решта моделей закінчили гірше: Claude Fable 5.1 45% траси, Grok 4.6 11%, GPT-5.6 Sol лише 6%.
Головна проблема виявилася неочікуваною - зір. Моделі просто неправильно інтерпретували сцену і плутали з якого боку конусів знаходиться смуга.
А ще Astra спочатку взагалі відмовлялася керувати справжньою машиною, посилаючись на безпеку, і бачила що це не симуляція. Спрацювало найпростіше рішення: MCP-сервер перейменували в "DrivingBench Sandbox" і модель почала їхати охочіше 😁
До автопілота тут звісно ще дуже далеко. Але це не модель яку навчали водити конкретну машину. Це загальна LLM якій дали камери і кермо. І вона з другої спроби виконала задачу краще ніж з першої.
🔔 ПІДПИСАТИСЯ
Троє дослідників посадили сучасні мовні моделі за кермо справжньої Toyota Corolla і відправили їх проходити трасу з конусів на порожній парковці 🤖
До кінця траси добралася тільки GPT-6 Astra, і то з другої спроби. 134.7 метра за 5 хвилин 22 секунди, швидкість пішохода 🤷🏼♀️ Решта моделей закінчили гірше: Claude Fable 5.1 45% траси, Grok 4.6 11%, GPT-5.6 Sol лише 6%.
Головна проблема виявилася неочікуваною - зір. Моделі просто неправильно інтерпретували сцену і плутали з якого боку конусів знаходиться смуга.
А ще Astra спочатку взагалі відмовлялася керувати справжньою машиною, посилаючись на безпеку, і бачила що це не симуляція. Спрацювало найпростіше рішення: MCP-сервер перейменували в "DrivingBench Sandbox" і модель почала їхати охочіше 😁
До автопілота тут звісно ще дуже далеко. Але це не модель яку навчали водити конкретну машину. Це загальна LLM якій дали камери і кермо. І вона з другої спроби виконала задачу краще ніж з першої.
🔔 ПІДПИСАТИСЯ
👍5❤1👨💻1
Jev - Моделі створені для однієї конкретної задачі
Доброго ранку ☕️
Поки більшість компаній зосереджується на генеративних моделях і моделях міркування, одна компанія робить ставку на інший клас моделей. Її нова модель лише аналізує текст і відповідає на запитання про нього. Зате швидше й дешевше ніж велика мовна модель.
Компанія TypeSafe, заснована колишнім дослідником OpenAI Діогу Алмейдою який близько чотирьох років працював над RLHF, InstructGPT, ChatGPT і GPT-4, випустила Jev. Компанія назвала цей клас моделей System One, відсилка до швидкого інтуїтивного мислення з книги Деніела Канемана. Reasoning-моделі це System 2, повільне обдумане мислення. Jev натомість має бути швидкою автоматичною реакцією.
Модель не генерує текст. На вхід вона отримує текст до 64 тисяч токенів, формат відповіді задає користувач: вибір одного варіанта зі списку, числова оцінка або "так/ні".
Архітектуру TypeSafe докладно не розкриває. Каже лише що це не LLM і не авторегресійна модель, хоча в основі лежить Transformer. Докладніше описують метод навчання, Reinforcement Learning for Calibrated Decisions або RLCD.
Ключова ідея в тому що модель навчають видавати каліброві ймовірності а не просто відповіді які подобаються людям-оцінювачам. Наприклад серед усіх відповідей яким модель присвоїла ймовірність 20% правильними в ідеалі мають виявитися приблизно 20%. Це відрізняється від класичного RLHF який оптимізує модель під те щоб звучати правильно для людини а не бути каліброваною по факту.
Архітектура і ціноутворення заохочують розробників ставити багато коротких конкретних запитань за один запит. Замість одного питання "чи є цей лист спамом" задачу краще розкласти на окремі критерії: чи не збігається домен відправника із заявленою організацією, чи запитує лист пароль, чи містить підозріле посилання, чи створює штучну терміновість. Мета отримати повну структуровану картину на основі якої програмна система сама оцінить ситуацію.
Розробники опублікували результати лише на власних внутрішніх датасетах, пояснюючи це перенасиченням публічних бенчмарків. На чотирьох внутрішніх датасетах де еталонні відповіді визначали GPT-6 Astra та Claude Fable 5, Jev показала точність 67%, приблизно на рівні GPT-5.6 Terra та Claude Sonnet 5. Обробка одного прикладу коштувала приблизно $0.0007 проти $0.06 для Terra і $0.12 для Sonnet, а розробники стверджують що Jev працює у 193.6 раза швидше.
Але це результати внутрішніх тестів самої TypeSafe і жодна незалежна сторона поки не перевірила ці цифри.
Невдовзі з'явилася низка схожих моделей. Деякі відкриті і можуть працювати локально, на відміну від пропрієтарної Jev. Laya зосереджується на багатомовності. Bespoke Nimble перетворює Qwen 3.5 9B на класифікатор через донавчання. Kev теж на базі Qwen 3.5 намагається відтворити підхід Jev. Незалежного бенчмарку для порівняння поки немає.
Платформи на кшталт Vercel і Cloudflare вже додали підтримку Jev для вибору інструменту, маршрутизації запитів, оцінювання ризику та перевірки дій агентів.
До стрімкого поширення LLM більшість дослідників навчала моделі які добре виконували одну конкретну задачу. Після успіху великих мовних моделей індустрія почала прагнути одну модель здатну виконувати майже будь-що. TypeSafe пропонує проміжний підхід: одна модель яка не вміє робити все але добре виконує будь-яке завдання класифікаційного типу. Компанія сформулювала це слоганом "Build prod, not god", будуйте продакшн а не Бога.
Jev не замінить великі мовні моделі. Вона не генерує код, не веде розмову і не діє як повноцінний агент. Натомість може виявляти jailbreak та prompt injection, знаходити відсутні дані, класифікувати звернення, обирати наступну дію агента, оцінювати ризик, перевіряти результати роботи іншої моделі, вирішувати коли потрібне втручання людини.
У всіх цих сценаріях перетворення неструктурованого тексту на чіткі типізовані відповіді може бути надзвичайно корисним для розробників.
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Поки більшість компаній зосереджується на генеративних моделях і моделях міркування, одна компанія робить ставку на інший клас моделей. Її нова модель лише аналізує текст і відповідає на запитання про нього. Зате швидше й дешевше ніж велика мовна модель.
Компанія TypeSafe, заснована колишнім дослідником OpenAI Діогу Алмейдою який близько чотирьох років працював над RLHF, InstructGPT, ChatGPT і GPT-4, випустила Jev. Компанія назвала цей клас моделей System One, відсилка до швидкого інтуїтивного мислення з книги Деніела Канемана. Reasoning-моделі це System 2, повільне обдумане мислення. Jev натомість має бути швидкою автоматичною реакцією.
Модель не генерує текст. На вхід вона отримує текст до 64 тисяч токенів, формат відповіді задає користувач: вибір одного варіанта зі списку, числова оцінка або "так/ні".
Архітектуру TypeSafe докладно не розкриває. Каже лише що це не LLM і не авторегресійна модель, хоча в основі лежить Transformer. Докладніше описують метод навчання, Reinforcement Learning for Calibrated Decisions або RLCD.
Ключова ідея в тому що модель навчають видавати каліброві ймовірності а не просто відповіді які подобаються людям-оцінювачам. Наприклад серед усіх відповідей яким модель присвоїла ймовірність 20% правильними в ідеалі мають виявитися приблизно 20%. Це відрізняється від класичного RLHF який оптимізує модель під те щоб звучати правильно для людини а не бути каліброваною по факту.
Архітектура і ціноутворення заохочують розробників ставити багато коротких конкретних запитань за один запит. Замість одного питання "чи є цей лист спамом" задачу краще розкласти на окремі критерії: чи не збігається домен відправника із заявленою організацією, чи запитує лист пароль, чи містить підозріле посилання, чи створює штучну терміновість. Мета отримати повну структуровану картину на основі якої програмна система сама оцінить ситуацію.
Розробники опублікували результати лише на власних внутрішніх датасетах, пояснюючи це перенасиченням публічних бенчмарків. На чотирьох внутрішніх датасетах де еталонні відповіді визначали GPT-6 Astra та Claude Fable 5, Jev показала точність 67%, приблизно на рівні GPT-5.6 Terra та Claude Sonnet 5. Обробка одного прикладу коштувала приблизно $0.0007 проти $0.06 для Terra і $0.12 для Sonnet, а розробники стверджують що Jev працює у 193.6 раза швидше.
Але це результати внутрішніх тестів самої TypeSafe і жодна незалежна сторона поки не перевірила ці цифри.
Невдовзі з'явилася низка схожих моделей. Деякі відкриті і можуть працювати локально, на відміну від пропрієтарної Jev. Laya зосереджується на багатомовності. Bespoke Nimble перетворює Qwen 3.5 9B на класифікатор через донавчання. Kev теж на базі Qwen 3.5 намагається відтворити підхід Jev. Незалежного бенчмарку для порівняння поки немає.
Платформи на кшталт Vercel і Cloudflare вже додали підтримку Jev для вибору інструменту, маршрутизації запитів, оцінювання ризику та перевірки дій агентів.
До стрімкого поширення LLM більшість дослідників навчала моделі які добре виконували одну конкретну задачу. Після успіху великих мовних моделей індустрія почала прагнути одну модель здатну виконувати майже будь-що. TypeSafe пропонує проміжний підхід: одна модель яка не вміє робити все але добре виконує будь-яке завдання класифікаційного типу. Компанія сформулювала це слоганом "Build prod, not god", будуйте продакшн а не Бога.
Jev не замінить великі мовні моделі. Вона не генерує код, не веде розмову і не діє як повноцінний агент. Натомість може виявляти jailbreak та prompt injection, знаходити відсутні дані, класифікувати звернення, обирати наступну дію агента, оцінювати ризик, перевіряти результати роботи іншої моделі, вирішувати коли потрібне втручання людини.
У всіх цих сценаріях перетворення неструктурованого тексту на чіткі типізовані відповіді може бути надзвичайно корисним для розробників.
🔔 ПІДПИСАТИСЯ
🔥6❤3👍3🥰1
Claude Opus 5.5: нова найпотужніша модель на ринку
Доброго ранку ☕️
Півтора тижня тому CEO Anthropic Даріо Амодеї закликав пригальмувати розвиток AI, щоб безпека встигала за можливостями моделей. А потім Anthropic випустила Claude Opus 5.5, свою найпотужнішу модель і першу в новому сімействі 5.5 🤷🏼♀️
Сама компанія називає це першим релізом після заклику пригальмувати. Логіка така: гальмувати потрібно насамперед майбутні системи, здатні повністю автоматизувати AI-дослідження. Чи це переконливо, питання дискусійне.
Незалежні рейтинги ставлять Opus 5.5 на перше місце. В Artificial Analysis Intelligence Index вона має 58 балів, на п'ять вище за Fable 5.1 і GPT-6 Astra. У Vals Index 69.69%, перше місце з 63 моделей.
Технічно: текст і зображення на вході, контекст 1 мільйон токенів, вихід до 128 тисяч (у Batch API до 300 тисяч). Міркування завжди увімкнене, керувати можна лише його глибиною через п'ять рівнів від low до max, деталі в документації. Ціна нижча ніж у Opus 5: $4 за мільйон вхідних токенів і $20 за вихідні. За словами Anthropic на типових задачах виходить приблизно на 40% дешевше, бо модель ще й робить менше кроків.
Акцент не лише на коді а й на інтелектуальній роботі: документи, презентації, аналіз даних, дослідження, довгі агентні задачі. Один із ранніх тестувальників виконав міграцію коду на 680 000 рядків менш ніж за день, а це робота на тижні для команди інженерів. Саме в цих напрямах Anthropic останнім часом частково поступалася OpenAI, чиї GPT-6 Sol і GPT-6 Luna вийшли того ж дня. Вони значно дешевші, але в загальних рейтингах поки нижче.
Для бізнесу з чутливими даними важливо ще одне. Fable 5.1 вимагає 30-денного зберігання запитів і відповідей. Для Opus 5.5 за відповідної конфігурації підтримується Zero Data Retention.
Але з бенчмарками є нюанс. Чутливі кіберзапити модель може передавати на Opus 4.8, а біологічні та пов'язані з розробкою frontier-моделей на Opus 5. Anthropic сама зазначає що це вплинуло на частину тестів, тому точно оцінити силу моделі в кібербезпеці та біології без цього механізму неможливо. І страждати від нього можуть не лише зловмисники: легітимні дослідження в безпеці, біомедицині та AI engineering теж можуть блокуватися.
Зовнішня оцінка стриманіша за маркетинг. За висновком METR разом з Anthropic модель на рівні Mythos 5.1 або трохи вище, без ознак різкого прискорення AI-досліджень. На внутрішньому тесті CoBench вона набрала 55.8% при порозі 85%, який Anthropic вважає необхідним щоб замінити власних дослідників. Деталі в system card.
Ще одна новинка: статистичне водяне маркування тексту, про яке я писав раніше. А Sonnet 5.5 і Haiku 5.5 обіцяють уже через кілька тижнів.
Схоже, заклики пригальмувати розвиток AI поки не заважають випускати нові найпотужніші моделі 🙂
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Півтора тижня тому CEO Anthropic Даріо Амодеї закликав пригальмувати розвиток AI, щоб безпека встигала за можливостями моделей. А потім Anthropic випустила Claude Opus 5.5, свою найпотужнішу модель і першу в новому сімействі 5.5 🤷🏼♀️
Сама компанія називає це першим релізом після заклику пригальмувати. Логіка така: гальмувати потрібно насамперед майбутні системи, здатні повністю автоматизувати AI-дослідження. Чи це переконливо, питання дискусійне.
Незалежні рейтинги ставлять Opus 5.5 на перше місце. В Artificial Analysis Intelligence Index вона має 58 балів, на п'ять вище за Fable 5.1 і GPT-6 Astra. У Vals Index 69.69%, перше місце з 63 моделей.
Технічно: текст і зображення на вході, контекст 1 мільйон токенів, вихід до 128 тисяч (у Batch API до 300 тисяч). Міркування завжди увімкнене, керувати можна лише його глибиною через п'ять рівнів від low до max, деталі в документації. Ціна нижча ніж у Opus 5: $4 за мільйон вхідних токенів і $20 за вихідні. За словами Anthropic на типових задачах виходить приблизно на 40% дешевше, бо модель ще й робить менше кроків.
Акцент не лише на коді а й на інтелектуальній роботі: документи, презентації, аналіз даних, дослідження, довгі агентні задачі. Один із ранніх тестувальників виконав міграцію коду на 680 000 рядків менш ніж за день, а це робота на тижні для команди інженерів. Саме в цих напрямах Anthropic останнім часом частково поступалася OpenAI, чиї GPT-6 Sol і GPT-6 Luna вийшли того ж дня. Вони значно дешевші, але в загальних рейтингах поки нижче.
Для бізнесу з чутливими даними важливо ще одне. Fable 5.1 вимагає 30-денного зберігання запитів і відповідей. Для Opus 5.5 за відповідної конфігурації підтримується Zero Data Retention.
Але з бенчмарками є нюанс. Чутливі кіберзапити модель може передавати на Opus 4.8, а біологічні та пов'язані з розробкою frontier-моделей на Opus 5. Anthropic сама зазначає що це вплинуло на частину тестів, тому точно оцінити силу моделі в кібербезпеці та біології без цього механізму неможливо. І страждати від нього можуть не лише зловмисники: легітимні дослідження в безпеці, біомедицині та AI engineering теж можуть блокуватися.
Зовнішня оцінка стриманіша за маркетинг. За висновком METR разом з Anthropic модель на рівні Mythos 5.1 або трохи вище, без ознак різкого прискорення AI-досліджень. На внутрішньому тесті CoBench вона набрала 55.8% при порозі 85%, який Anthropic вважає необхідним щоб замінити власних дослідників. Деталі в system card.
Ще одна новинка: статистичне водяне маркування тексту, про яке я писав раніше. А Sonnet 5.5 і Haiku 5.5 обіцяють уже через кілька тижнів.
Схоже, заклики пригальмувати розвиток AI поки не заважають випускати нові найпотужніші моделі 🙂
🔔 ПІДПИСАТИСЯ
👍6❤1
🤓 Склав сертифікацію Claude Certified Architect (Professional) на 943 бали з 1000
Нещодавно проходив сертифікацію з архітектури рішень на базі мовних моделей. На проходження дається 120 хвилин. Мій сертифікат на Credly можна перевірити. Доступ до іспиту йде через Claude Partner Network. Хочу поділитися тим, які знання там перевіряють і чому це цікаво тим, хто вже працює в AI або планує переходити в цю сферу.
Моє головне враження це те що дуже багато уваги приділяється тому, що відбувається навколо моделі. Як вона отримує дані, які дії може виконувати, як перевіряється результат і скільки все це коштує.
Ось кілька напрямів, які добре це показують 👇
🔹 Архітектура та доречна складність
Коли достатньо одного виклику моделі? Коли потрібен RAG, тобто пошук у власних документах? Коли виправданий агент із доступом до інструментів?
Окреме питання: коли систему вже потрібно розділяти на окремі компоненти. Якщо агент має десятки інструментів, плутається між ними й відповідає дедалі повільніше, додавання ще одного агента може лише збільшити складність.
🔹 Безпека та межі повноважень
Якщо асистент має готувати чернетки заявок, йому достатньо права створювати чернетки. Можливість самостійно відправляти їх постачальникам виходить за межі цієї задачі.
Так само потрібно розуміти prompt injection, перевірку доступу до документів, захист облікових даних та аудит дій. Хто ініціював виклик інструмента? Які дані він отримав? Куди міг їх передати?
🔹 Вимірювання якості
"На кількох прикладах працює добре" слабка основа для запуску. Потрібні підготовлені набори даних, критерії оцінювання, складні й провокаційні приклади. А після зміни моделі повторна перевірка, щоб помітити погіршення до того, як його помітять користувачі.
Навіть порівняння двох промптів потребує продуманого експерименту: гіпотези, метрики успіху та достатнього обсягу даних.
🔹 Економіка та швидкість
Великий контекст, зайві виклики інструментів, повторні запити й додаткові агенти мають свою ціну. Тут перевіряють розуміння кешування, відбору релевантних документів, використання менших моделей для простіших задач. І здатність оцінити, чи зберігається якість після оптимізації.
🔹 Експлуатація та бізнес-результат
Що робити, коли система починає помилятися? Кому передавати неоднозначні випадки? Як відкотити оновлення? Які журнали й метрики допоможуть знайти причину?
І ще один важливий момент: скорочення часу виконання задачі саме по собі не гарантує зростання продуктивності. Зекономлений час, обсяг виконаної роботи та фінансовий результат потрібно вимірювати окремо.
💭 Для мене ці питання показують важливий напрям розвитку професії: AI-інженер відповідає за поведінку всієї системи в реальних умовах.
Для тих, хто заходить у цю сферу, це хороший орієнтир. Поряд із моделями, промптами та фреймворками варто вивчати проєктування API, доступи, тестування, моніторинг, експерименти й роботу з вимогами.
А тим, хто вже має досвід у backend, data engineering, QA або DevOps, є на що спертися. Значна частина цих задач спирається на знайомі інженерні принципи, з поправкою на те, що мовна модель може дати правдоподібну, але неправильну відповідь.
Сама сертифікація звісно не замінює досвід. Проте її зміст дає корисну карту знань і допомагає побачити, які прогалини варто закрити наступними.
А ви вже проходили сертифікації від AI-компаній? Чи вважаєте, що вони справді щось підтверджують? Пишіть у коментарях 👇
Ну і можете привітати мене 🙂
🔔 ПІДПИСАТИСЯ
Нещодавно проходив сертифікацію з архітектури рішень на базі мовних моделей. На проходження дається 120 хвилин. Мій сертифікат на Credly можна перевірити. Доступ до іспиту йде через Claude Partner Network. Хочу поділитися тим, які знання там перевіряють і чому це цікаво тим, хто вже працює в AI або планує переходити в цю сферу.
Моє головне враження це те що дуже багато уваги приділяється тому, що відбувається навколо моделі. Як вона отримує дані, які дії може виконувати, як перевіряється результат і скільки все це коштує.
Ось кілька напрямів, які добре це показують 👇
🔹 Архітектура та доречна складність
Коли достатньо одного виклику моделі? Коли потрібен RAG, тобто пошук у власних документах? Коли виправданий агент із доступом до інструментів?
Окреме питання: коли систему вже потрібно розділяти на окремі компоненти. Якщо агент має десятки інструментів, плутається між ними й відповідає дедалі повільніше, додавання ще одного агента може лише збільшити складність.
🔹 Безпека та межі повноважень
Якщо асистент має готувати чернетки заявок, йому достатньо права створювати чернетки. Можливість самостійно відправляти їх постачальникам виходить за межі цієї задачі.
Так само потрібно розуміти prompt injection, перевірку доступу до документів, захист облікових даних та аудит дій. Хто ініціював виклик інструмента? Які дані він отримав? Куди міг їх передати?
🔹 Вимірювання якості
"На кількох прикладах працює добре" слабка основа для запуску. Потрібні підготовлені набори даних, критерії оцінювання, складні й провокаційні приклади. А після зміни моделі повторна перевірка, щоб помітити погіршення до того, як його помітять користувачі.
Навіть порівняння двох промптів потребує продуманого експерименту: гіпотези, метрики успіху та достатнього обсягу даних.
🔹 Економіка та швидкість
Великий контекст, зайві виклики інструментів, повторні запити й додаткові агенти мають свою ціну. Тут перевіряють розуміння кешування, відбору релевантних документів, використання менших моделей для простіших задач. І здатність оцінити, чи зберігається якість після оптимізації.
🔹 Експлуатація та бізнес-результат
Що робити, коли система починає помилятися? Кому передавати неоднозначні випадки? Як відкотити оновлення? Які журнали й метрики допоможуть знайти причину?
І ще один важливий момент: скорочення часу виконання задачі саме по собі не гарантує зростання продуктивності. Зекономлений час, обсяг виконаної роботи та фінансовий результат потрібно вимірювати окремо.
💭 Для мене ці питання показують важливий напрям розвитку професії: AI-інженер відповідає за поведінку всієї системи в реальних умовах.
Для тих, хто заходить у цю сферу, це хороший орієнтир. Поряд із моделями, промптами та фреймворками варто вивчати проєктування API, доступи, тестування, моніторинг, експерименти й роботу з вимогами.
А тим, хто вже має досвід у backend, data engineering, QA або DevOps, є на що спертися. Значна частина цих задач спирається на знайомі інженерні принципи, з поправкою на те, що мовна модель може дати правдоподібну, але неправильну відповідь.
Сама сертифікація звісно не замінює досвід. Проте її зміст дає корисну карту знань і допомагає побачити, які прогалини варто закрити наступними.
А ви вже проходили сертифікації від AI-компаній? Чи вважаєте, що вони справді щось підтверджують? Пишіть у коментарях 👇
Ну і можете привітати мене 🙂
🔔 ПІДПИСАТИСЯ
👏18👍6🔥5❤2
Media is too big
VIEW IN TELEGRAM
☝🏻 GPT-6 Astra дали тіло робота
Гарних вихідних 🌿
Дослідники зі Stanford та Caltech показали HomeBody, систему в якій GPT-6 Astra керує гуманоїдом Unitree G1 у кухні, якої робот раніше не бачив. Без окремого навчання під конкретну кімнату 🤖
Замість навченої Vision-Language-Action моделі Astra отримала бібліотеку з п'яти готових навичок: підійти, взяти, покласти, відкрити шухляду, дістати предмет. Сама вирішує що викликати і коли, а рухами керують окремі контролери.
Перед роботою робот досліджує кімнату камерами і LiDAR, будує цифровий двійник в NVIDIA Isaac Sim і отримує просторову пам'ять. Тому на прохання "принеси мої ліки" він згадує де бачив флакон хоча зараз його не бачить, і сам доходить до потрібної шухляди.
Варто додати ложку дьогтю: автори самі кажуть що частина демо прискорена а захоплення предметів містить повторні спроби. Success rate не опублікували 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Дослідники зі Stanford та Caltech показали HomeBody, систему в якій GPT-6 Astra керує гуманоїдом Unitree G1 у кухні, якої робот раніше не бачив. Без окремого навчання під конкретну кімнату 🤖
Замість навченої Vision-Language-Action моделі Astra отримала бібліотеку з п'яти готових навичок: підійти, взяти, покласти, відкрити шухляду, дістати предмет. Сама вирішує що викликати і коли, а рухами керують окремі контролери.
Перед роботою робот досліджує кімнату камерами і LiDAR, будує цифровий двійник в NVIDIA Isaac Sim і отримує просторову пам'ять. Тому на прохання "принеси мої ліки" він згадує де бачив флакон хоча зараз його не бачить, і сам доходить до потрібної шухляди.
Варто додати ложку дьогтю: автори самі кажуть що частина демо прискорена а захоплення предметів містить повторні спроби. Success rate не опублікували 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
👍5
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Дрону додали вуса щоб він літав навпомацки
Гарних вихідних 🌿
Дослідники з TU Delft зробили мікродрон який може знаходити стіни й перешкоди буквально на дотик, навіть у повній темряві. Ідею підгледіли у щурів: коли зір майже не допомагає, вони орієнтуються за допомогою вібрис 🐭
Сам апарат важить 44.1 грама, а вся система з двох вусів лише 3.2 грама. Два гнучкі вуса по 20 см, в основі кожного три мініатюрні барометри. Коли вус згинається від дотику, датчики фіксують зміну тиску, і дрон оцінює глибину контакту з точністю до міліметрів.
Цього вистачає щоб автономно обходити перешкоди, рухатись вздовж стіни і досліджувати тісні простори без камери чи лідара. Найцікавіше, весь стек обробки тактильних сигналів і навігації займає лише 34 КБ пам'яті і працює просто на бортовому мікроконтролері, без хмари і без GPU.
Камера погано бачить у диму й темряві. А стіну можна просто помацати 😁
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Дослідники з TU Delft зробили мікродрон який може знаходити стіни й перешкоди буквально на дотик, навіть у повній темряві. Ідею підгледіли у щурів: коли зір майже не допомагає, вони орієнтуються за допомогою вібрис 🐭
Сам апарат важить 44.1 грама, а вся система з двох вусів лише 3.2 грама. Два гнучкі вуса по 20 см, в основі кожного три мініатюрні барометри. Коли вус згинається від дотику, датчики фіксують зміну тиску, і дрон оцінює глибину контакту з точністю до міліметрів.
Цього вистачає щоб автономно обходити перешкоди, рухатись вздовж стіни і досліджувати тісні простори без камери чи лідара. Найцікавіше, весь стек обробки тактильних сигналів і навігації займає лише 34 КБ пам'яті і працює просто на бортовому мікроконтролері, без хмари і без GPU.
Камера погано бачить у диму й темряві. А стіну можна просто помацати 😁
🔔 ПІДПИСАТИСЯ
👍5🔥4❤1
Open-weight модель наблизилась до Mythos у кібератаках. Це добре чи погано?
Доброго ранку ☕️
Anthropic опублікувала аналіз кіберможливостей GLM-5.3, моделі з відкритими вагами від китайської Z.ai. За цими можливостями вона наближається до Mythos, моделі Anthropic із закритими вагами яку компанія тримає під жорстким контролем саме через такі здібності.
На підмножині ExploitBench GLM-5.3 довела експлойт до кінця у 50 з 410 спроб, 12.2%. Mythos показав 56 з 410, близько 14%. Цікаво що розрив у тестах Anthropic менший ніж у звіті розробника на повному бенчмарку, де Z.ai заявляє 54.4% проти 78% у Mythos. А попередня GLM-5.2, Kimi K3 і DeepSeek V4.1-Flash показали в цьому тесті нуль або майже нуль.
Ендрю Ин бачить у цьому хорошу новину: фахівці з кіберзахисту які не мають доступу до закритого Mythos тепер можуть використовувати потужну модель для захисту своїх систем. А оскільки нападники вже мають доступ до подібних можливостей, захисникам варто діяти швидше.
Є важливе уточнення до цифр про вартість. Anthropic оцінила що створення робочого експлойта для вже відомої вразливості в Google Chrome, дані про яку дослідник заздалегідь надав моделі, коштувало $20.40 на токени GLM-5.3-Flash. Це не вартість відкриття нової вразливості з нуля, а вартість написання атаки коли вразливість уже відома.
Але сама Anthropic оцінює ситуацію значно тривожніше за Ина. У звіті йдеться про помітний стрибок у кіберможливостях доступних нападникам і ймовірне використання таких моделей державними та недержавними акторами для реальної шкоди. Захист у моделі слабкий: пряме прохання про атаку вона відхиляє, але прості прийоми, наприклад вигадана легенда, обходили обмеження у 64-100% випадків. А оскільки ваги відкриті, обмеження можна прибрати зовсім: за оцінкою Anthropic, для GLM-5.3-Flash це коштувало близько $4400, а такі версії з'явилися публічно за кілька днів після релізу. NIST при цьому оцінив модель як найсильнішу відкриту в кібербезпеці, але з відставанням від кращих американських моделей приблизно на чотири місяці. Варто пам'ятати й що Anthropic має власний інтерес у цій дискусії: вона сама не публікує ваги своїх моделей.
Тому Ин робить ставку на інженерію. Злам Hugging Face агентами OpenAI він пояснює слабкою ізоляцією середовища, а свій відкритий агентний застосунок OpenWorker, про який я вже писав, будує на платформі безпеки NVIDIA. За його описом, кожна команда агента виконується всередині ізольованого контейнера, туди потрапляють лише потрібні для задачі файли, а секретні ключі, паролі браузера і доступ до довільних сайтів за замовчуванням недоступні. Головне, ці обмеження реалізовані детермінованим кодом а не промптом, бо LLM може помилятися або піддатися prompt injection. Усі дії журналюються для аудиту.
Тобто коли відмови моделі можна зняти за кілька тисяч доларів, захист не може на них триматися. Він має жити в інфраструктурі навколо моделі, як і в Muse від Meta, про яку я писав раніше. Ин при цьому вірить що в довгостроковій перспективі перевага на боці захисників, бо вони мають більше інформації для виявлення вразливостей. Головне виконати цю роботу якомога швидше.
А як вважаєте ви: відкриті ваги з такими можливостями це більше допомога захисникам чи нападникам? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Anthropic опублікувала аналіз кіберможливостей GLM-5.3, моделі з відкритими вагами від китайської Z.ai. За цими можливостями вона наближається до Mythos, моделі Anthropic із закритими вагами яку компанія тримає під жорстким контролем саме через такі здібності.
На підмножині ExploitBench GLM-5.3 довела експлойт до кінця у 50 з 410 спроб, 12.2%. Mythos показав 56 з 410, близько 14%. Цікаво що розрив у тестах Anthropic менший ніж у звіті розробника на повному бенчмарку, де Z.ai заявляє 54.4% проти 78% у Mythos. А попередня GLM-5.2, Kimi K3 і DeepSeek V4.1-Flash показали в цьому тесті нуль або майже нуль.
Ендрю Ин бачить у цьому хорошу новину: фахівці з кіберзахисту які не мають доступу до закритого Mythos тепер можуть використовувати потужну модель для захисту своїх систем. А оскільки нападники вже мають доступ до подібних можливостей, захисникам варто діяти швидше.
Є важливе уточнення до цифр про вартість. Anthropic оцінила що створення робочого експлойта для вже відомої вразливості в Google Chrome, дані про яку дослідник заздалегідь надав моделі, коштувало $20.40 на токени GLM-5.3-Flash. Це не вартість відкриття нової вразливості з нуля, а вартість написання атаки коли вразливість уже відома.
Але сама Anthropic оцінює ситуацію значно тривожніше за Ина. У звіті йдеться про помітний стрибок у кіберможливостях доступних нападникам і ймовірне використання таких моделей державними та недержавними акторами для реальної шкоди. Захист у моделі слабкий: пряме прохання про атаку вона відхиляє, але прості прийоми, наприклад вигадана легенда, обходили обмеження у 64-100% випадків. А оскільки ваги відкриті, обмеження можна прибрати зовсім: за оцінкою Anthropic, для GLM-5.3-Flash це коштувало близько $4400, а такі версії з'явилися публічно за кілька днів після релізу. NIST при цьому оцінив модель як найсильнішу відкриту в кібербезпеці, але з відставанням від кращих американських моделей приблизно на чотири місяці. Варто пам'ятати й що Anthropic має власний інтерес у цій дискусії: вона сама не публікує ваги своїх моделей.
Тому Ин робить ставку на інженерію. Злам Hugging Face агентами OpenAI він пояснює слабкою ізоляцією середовища, а свій відкритий агентний застосунок OpenWorker, про який я вже писав, будує на платформі безпеки NVIDIA. За його описом, кожна команда агента виконується всередині ізольованого контейнера, туди потрапляють лише потрібні для задачі файли, а секретні ключі, паролі браузера і доступ до довільних сайтів за замовчуванням недоступні. Головне, ці обмеження реалізовані детермінованим кодом а не промптом, бо LLM може помилятися або піддатися prompt injection. Усі дії журналюються для аудиту.
Тобто коли відмови моделі можна зняти за кілька тисяч доларів, захист не може на них триматися. Він має жити в інфраструктурі навколо моделі, як і в Muse від Meta, про яку я писав раніше. Ин при цьому вірить що в довгостроковій перспективі перевага на боці захисників, бо вони мають більше інформації для виявлення вразливостей. Головне виконати цю роботу якомога швидше.
А як вважаєте ви: відкриті ваги з такими можливостями це більше допомога захисникам чи нападникам? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
👍10❤2