Claude Opus 5.5: нова найпотужніша модель на ринку
Доброго ранку ☕️
Півтора тижня тому CEO Anthropic Даріо Амодеї закликав пригальмувати розвиток AI, щоб безпека встигала за можливостями моделей. А потім Anthropic випустила Claude Opus 5.5, свою найпотужнішу модель і першу в новому сімействі 5.5 🤷🏼♀️
Сама компанія називає це першим релізом після заклику пригальмувати. Логіка така: гальмувати потрібно насамперед майбутні системи, здатні повністю автоматизувати AI-дослідження. Чи це переконливо, питання дискусійне.
Незалежні рейтинги ставлять Opus 5.5 на перше місце. В Artificial Analysis Intelligence Index вона має 58 балів, на п'ять вище за Fable 5.1 і GPT-6 Astra. У Vals Index 69.69%, перше місце з 63 моделей.
Технічно: текст і зображення на вході, контекст 1 мільйон токенів, вихід до 128 тисяч (у Batch API до 300 тисяч). Міркування завжди увімкнене, керувати можна лише його глибиною через п'ять рівнів від low до max, деталі в документації. Ціна нижча ніж у Opus 5: $4 за мільйон вхідних токенів і $20 за вихідні. За словами Anthropic на типових задачах виходить приблизно на 40% дешевше, бо модель ще й робить менше кроків.
Акцент не лише на коді а й на інтелектуальній роботі: документи, презентації, аналіз даних, дослідження, довгі агентні задачі. Один із ранніх тестувальників виконав міграцію коду на 680 000 рядків менш ніж за день, а це робота на тижні для команди інженерів. Саме в цих напрямах Anthropic останнім часом частково поступалася OpenAI, чиї GPT-6 Sol і GPT-6 Luna вийшли того ж дня. Вони значно дешевші, але в загальних рейтингах поки нижче.
Для бізнесу з чутливими даними важливо ще одне. Fable 5.1 вимагає 30-денного зберігання запитів і відповідей. Для Opus 5.5 за відповідної конфігурації підтримується Zero Data Retention.
Але з бенчмарками є нюанс. Чутливі кіберзапити модель може передавати на Opus 4.8, а біологічні та пов'язані з розробкою frontier-моделей на Opus 5. Anthropic сама зазначає що це вплинуло на частину тестів, тому точно оцінити силу моделі в кібербезпеці та біології без цього механізму неможливо. І страждати від нього можуть не лише зловмисники: легітимні дослідження в безпеці, біомедицині та AI engineering теж можуть блокуватися.
Зовнішня оцінка стриманіша за маркетинг. За висновком METR разом з Anthropic модель на рівні Mythos 5.1 або трохи вище, без ознак різкого прискорення AI-досліджень. На внутрішньому тесті CoBench вона набрала 55.8% при порозі 85%, який Anthropic вважає необхідним щоб замінити власних дослідників. Деталі в system card.
Ще одна новинка: статистичне водяне маркування тексту, про яке я писав раніше. А Sonnet 5.5 і Haiku 5.5 обіцяють уже через кілька тижнів.
Схоже, заклики пригальмувати розвиток AI поки не заважають випускати нові найпотужніші моделі 🙂
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Півтора тижня тому CEO Anthropic Даріо Амодеї закликав пригальмувати розвиток AI, щоб безпека встигала за можливостями моделей. А потім Anthropic випустила Claude Opus 5.5, свою найпотужнішу модель і першу в новому сімействі 5.5 🤷🏼♀️
Сама компанія називає це першим релізом після заклику пригальмувати. Логіка така: гальмувати потрібно насамперед майбутні системи, здатні повністю автоматизувати AI-дослідження. Чи це переконливо, питання дискусійне.
Незалежні рейтинги ставлять Opus 5.5 на перше місце. В Artificial Analysis Intelligence Index вона має 58 балів, на п'ять вище за Fable 5.1 і GPT-6 Astra. У Vals Index 69.69%, перше місце з 63 моделей.
Технічно: текст і зображення на вході, контекст 1 мільйон токенів, вихід до 128 тисяч (у Batch API до 300 тисяч). Міркування завжди увімкнене, керувати можна лише його глибиною через п'ять рівнів від low до max, деталі в документації. Ціна нижча ніж у Opus 5: $4 за мільйон вхідних токенів і $20 за вихідні. За словами Anthropic на типових задачах виходить приблизно на 40% дешевше, бо модель ще й робить менше кроків.
Акцент не лише на коді а й на інтелектуальній роботі: документи, презентації, аналіз даних, дослідження, довгі агентні задачі. Один із ранніх тестувальників виконав міграцію коду на 680 000 рядків менш ніж за день, а це робота на тижні для команди інженерів. Саме в цих напрямах Anthropic останнім часом частково поступалася OpenAI, чиї GPT-6 Sol і GPT-6 Luna вийшли того ж дня. Вони значно дешевші, але в загальних рейтингах поки нижче.
Для бізнесу з чутливими даними важливо ще одне. Fable 5.1 вимагає 30-денного зберігання запитів і відповідей. Для Opus 5.5 за відповідної конфігурації підтримується Zero Data Retention.
Але з бенчмарками є нюанс. Чутливі кіберзапити модель може передавати на Opus 4.8, а біологічні та пов'язані з розробкою frontier-моделей на Opus 5. Anthropic сама зазначає що це вплинуло на частину тестів, тому точно оцінити силу моделі в кібербезпеці та біології без цього механізму неможливо. І страждати від нього можуть не лише зловмисники: легітимні дослідження в безпеці, біомедицині та AI engineering теж можуть блокуватися.
Зовнішня оцінка стриманіша за маркетинг. За висновком METR разом з Anthropic модель на рівні Mythos 5.1 або трохи вище, без ознак різкого прискорення AI-досліджень. На внутрішньому тесті CoBench вона набрала 55.8% при порозі 85%, який Anthropic вважає необхідним щоб замінити власних дослідників. Деталі в system card.
Ще одна новинка: статистичне водяне маркування тексту, про яке я писав раніше. А Sonnet 5.5 і Haiku 5.5 обіцяють уже через кілька тижнів.
Схоже, заклики пригальмувати розвиток AI поки не заважають випускати нові найпотужніші моделі 🙂
🔔 ПІДПИСАТИСЯ
👍6❤1
🤓 Склав сертифікацію Claude Certified Architect (Professional) на 943 бали з 1000
Нещодавно проходив сертифікацію з архітектури рішень на базі мовних моделей. На проходження дається 120 хвилин. Мій сертифікат на Credly можна перевірити. Доступ до іспиту йде через Claude Partner Network. Хочу поділитися тим, які знання там перевіряють і чому це цікаво тим, хто вже працює в AI або планує переходити в цю сферу.
Моє головне враження це те що дуже багато уваги приділяється тому, що відбувається навколо моделі. Як вона отримує дані, які дії може виконувати, як перевіряється результат і скільки все це коштує.
Ось кілька напрямів, які добре це показують 👇
🔹 Архітектура та доречна складність
Коли достатньо одного виклику моделі? Коли потрібен RAG, тобто пошук у власних документах? Коли виправданий агент із доступом до інструментів?
Окреме питання: коли систему вже потрібно розділяти на окремі компоненти. Якщо агент має десятки інструментів, плутається між ними й відповідає дедалі повільніше, додавання ще одного агента може лише збільшити складність.
🔹 Безпека та межі повноважень
Якщо асистент має готувати чернетки заявок, йому достатньо права створювати чернетки. Можливість самостійно відправляти їх постачальникам виходить за межі цієї задачі.
Так само потрібно розуміти prompt injection, перевірку доступу до документів, захист облікових даних та аудит дій. Хто ініціював виклик інструмента? Які дані він отримав? Куди міг їх передати?
🔹 Вимірювання якості
"На кількох прикладах працює добре" слабка основа для запуску. Потрібні підготовлені набори даних, критерії оцінювання, складні й провокаційні приклади. А після зміни моделі повторна перевірка, щоб помітити погіршення до того, як його помітять користувачі.
Навіть порівняння двох промптів потребує продуманого експерименту: гіпотези, метрики успіху та достатнього обсягу даних.
🔹 Економіка та швидкість
Великий контекст, зайві виклики інструментів, повторні запити й додаткові агенти мають свою ціну. Тут перевіряють розуміння кешування, відбору релевантних документів, використання менших моделей для простіших задач. І здатність оцінити, чи зберігається якість після оптимізації.
🔹 Експлуатація та бізнес-результат
Що робити, коли система починає помилятися? Кому передавати неоднозначні випадки? Як відкотити оновлення? Які журнали й метрики допоможуть знайти причину?
І ще один важливий момент: скорочення часу виконання задачі саме по собі не гарантує зростання продуктивності. Зекономлений час, обсяг виконаної роботи та фінансовий результат потрібно вимірювати окремо.
💭 Для мене ці питання показують важливий напрям розвитку професії: AI-інженер відповідає за поведінку всієї системи в реальних умовах.
Для тих, хто заходить у цю сферу, це хороший орієнтир. Поряд із моделями, промптами та фреймворками варто вивчати проєктування API, доступи, тестування, моніторинг, експерименти й роботу з вимогами.
А тим, хто вже має досвід у backend, data engineering, QA або DevOps, є на що спертися. Значна частина цих задач спирається на знайомі інженерні принципи, з поправкою на те, що мовна модель може дати правдоподібну, але неправильну відповідь.
Сама сертифікація звісно не замінює досвід. Проте її зміст дає корисну карту знань і допомагає побачити, які прогалини варто закрити наступними.
А ви вже проходили сертифікації від AI-компаній? Чи вважаєте, що вони справді щось підтверджують? Пишіть у коментарях 👇
Ну і можете привітати мене 🙂
🔔 ПІДПИСАТИСЯ
Нещодавно проходив сертифікацію з архітектури рішень на базі мовних моделей. На проходження дається 120 хвилин. Мій сертифікат на Credly можна перевірити. Доступ до іспиту йде через Claude Partner Network. Хочу поділитися тим, які знання там перевіряють і чому це цікаво тим, хто вже працює в AI або планує переходити в цю сферу.
Моє головне враження це те що дуже багато уваги приділяється тому, що відбувається навколо моделі. Як вона отримує дані, які дії може виконувати, як перевіряється результат і скільки все це коштує.
Ось кілька напрямів, які добре це показують 👇
🔹 Архітектура та доречна складність
Коли достатньо одного виклику моделі? Коли потрібен RAG, тобто пошук у власних документах? Коли виправданий агент із доступом до інструментів?
Окреме питання: коли систему вже потрібно розділяти на окремі компоненти. Якщо агент має десятки інструментів, плутається між ними й відповідає дедалі повільніше, додавання ще одного агента може лише збільшити складність.
🔹 Безпека та межі повноважень
Якщо асистент має готувати чернетки заявок, йому достатньо права створювати чернетки. Можливість самостійно відправляти їх постачальникам виходить за межі цієї задачі.
Так само потрібно розуміти prompt injection, перевірку доступу до документів, захист облікових даних та аудит дій. Хто ініціював виклик інструмента? Які дані він отримав? Куди міг їх передати?
🔹 Вимірювання якості
"На кількох прикладах працює добре" слабка основа для запуску. Потрібні підготовлені набори даних, критерії оцінювання, складні й провокаційні приклади. А після зміни моделі повторна перевірка, щоб помітити погіршення до того, як його помітять користувачі.
Навіть порівняння двох промптів потребує продуманого експерименту: гіпотези, метрики успіху та достатнього обсягу даних.
🔹 Економіка та швидкість
Великий контекст, зайві виклики інструментів, повторні запити й додаткові агенти мають свою ціну. Тут перевіряють розуміння кешування, відбору релевантних документів, використання менших моделей для простіших задач. І здатність оцінити, чи зберігається якість після оптимізації.
🔹 Експлуатація та бізнес-результат
Що робити, коли система починає помилятися? Кому передавати неоднозначні випадки? Як відкотити оновлення? Які журнали й метрики допоможуть знайти причину?
І ще один важливий момент: скорочення часу виконання задачі саме по собі не гарантує зростання продуктивності. Зекономлений час, обсяг виконаної роботи та фінансовий результат потрібно вимірювати окремо.
💭 Для мене ці питання показують важливий напрям розвитку професії: AI-інженер відповідає за поведінку всієї системи в реальних умовах.
Для тих, хто заходить у цю сферу, це хороший орієнтир. Поряд із моделями, промптами та фреймворками варто вивчати проєктування API, доступи, тестування, моніторинг, експерименти й роботу з вимогами.
А тим, хто вже має досвід у backend, data engineering, QA або DevOps, є на що спертися. Значна частина цих задач спирається на знайомі інженерні принципи, з поправкою на те, що мовна модель може дати правдоподібну, але неправильну відповідь.
Сама сертифікація звісно не замінює досвід. Проте її зміст дає корисну карту знань і допомагає побачити, які прогалини варто закрити наступними.
А ви вже проходили сертифікації від AI-компаній? Чи вважаєте, що вони справді щось підтверджують? Пишіть у коментарях 👇
Ну і можете привітати мене 🙂
🔔 ПІДПИСАТИСЯ
👏18👍6🔥5❤2
Media is too big
VIEW IN TELEGRAM
☝🏻 GPT-6 Astra дали тіло робота
Гарних вихідних 🌿
Дослідники зі Stanford та Caltech показали HomeBody, систему в якій GPT-6 Astra керує гуманоїдом Unitree G1 у кухні, якої робот раніше не бачив. Без окремого навчання під конкретну кімнату 🤖
Замість навченої Vision-Language-Action моделі Astra отримала бібліотеку з п'яти готових навичок: підійти, взяти, покласти, відкрити шухляду, дістати предмет. Сама вирішує що викликати і коли, а рухами керують окремі контролери.
Перед роботою робот досліджує кімнату камерами і LiDAR, будує цифровий двійник в NVIDIA Isaac Sim і отримує просторову пам'ять. Тому на прохання "принеси мої ліки" він згадує де бачив флакон хоча зараз його не бачить, і сам доходить до потрібної шухляди.
Варто додати ложку дьогтю: автори самі кажуть що частина демо прискорена а захоплення предметів містить повторні спроби. Success rate не опублікували 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Дослідники зі Stanford та Caltech показали HomeBody, систему в якій GPT-6 Astra керує гуманоїдом Unitree G1 у кухні, якої робот раніше не бачив. Без окремого навчання під конкретну кімнату 🤖
Замість навченої Vision-Language-Action моделі Astra отримала бібліотеку з п'яти готових навичок: підійти, взяти, покласти, відкрити шухляду, дістати предмет. Сама вирішує що викликати і коли, а рухами керують окремі контролери.
Перед роботою робот досліджує кімнату камерами і LiDAR, будує цифровий двійник в NVIDIA Isaac Sim і отримує просторову пам'ять. Тому на прохання "принеси мої ліки" він згадує де бачив флакон хоча зараз його не бачить, і сам доходить до потрібної шухляди.
Варто додати ложку дьогтю: автори самі кажуть що частина демо прискорена а захоплення предметів містить повторні спроби. Success rate не опублікували 🤷🏼♀️
🔔 ПІДПИСАТИСЯ
👍5
This media is not supported in your browser
VIEW IN TELEGRAM
☝🏻 Дрону додали вуса щоб він літав навпомацки
Гарних вихідних 🌿
Дослідники з TU Delft зробили мікродрон який може знаходити стіни й перешкоди буквально на дотик, навіть у повній темряві. Ідею підгледіли у щурів: коли зір майже не допомагає, вони орієнтуються за допомогою вібрис 🐭
Сам апарат важить 44.1 грама, а вся система з двох вусів лише 3.2 грама. Два гнучкі вуса по 20 см, в основі кожного три мініатюрні барометри. Коли вус згинається від дотику, датчики фіксують зміну тиску, і дрон оцінює глибину контакту з точністю до міліметрів.
Цього вистачає щоб автономно обходити перешкоди, рухатись вздовж стіни і досліджувати тісні простори без камери чи лідара. Найцікавіше, весь стек обробки тактильних сигналів і навігації займає лише 34 КБ пам'яті і працює просто на бортовому мікроконтролері, без хмари і без GPU.
Камера погано бачить у диму й темряві. А стіну можна просто помацати 😁
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Дослідники з TU Delft зробили мікродрон який може знаходити стіни й перешкоди буквально на дотик, навіть у повній темряві. Ідею підгледіли у щурів: коли зір майже не допомагає, вони орієнтуються за допомогою вібрис 🐭
Сам апарат важить 44.1 грама, а вся система з двох вусів лише 3.2 грама. Два гнучкі вуса по 20 см, в основі кожного три мініатюрні барометри. Коли вус згинається від дотику, датчики фіксують зміну тиску, і дрон оцінює глибину контакту з точністю до міліметрів.
Цього вистачає щоб автономно обходити перешкоди, рухатись вздовж стіни і досліджувати тісні простори без камери чи лідара. Найцікавіше, весь стек обробки тактильних сигналів і навігації займає лише 34 КБ пам'яті і працює просто на бортовому мікроконтролері, без хмари і без GPU.
Камера погано бачить у диму й темряві. А стіну можна просто помацати 😁
🔔 ПІДПИСАТИСЯ
👍5🔥4❤1
Open-weight модель наблизилась до Mythos у кібератаках. Це добре чи погано?
Доброго ранку ☕️
Anthropic опублікувала аналіз кіберможливостей GLM-5.3, моделі з відкритими вагами від китайської Z.ai. За цими можливостями вона наближається до Mythos, моделі Anthropic із закритими вагами яку компанія тримає під жорстким контролем саме через такі здібності.
На підмножині ExploitBench GLM-5.3 довела експлойт до кінця у 50 з 410 спроб, 12.2%. Mythos показав 56 з 410, близько 14%. Цікаво що розрив у тестах Anthropic менший ніж у звіті розробника на повному бенчмарку, де Z.ai заявляє 54.4% проти 78% у Mythos. А попередня GLM-5.2, Kimi K3 і DeepSeek V4.1-Flash показали в цьому тесті нуль або майже нуль.
Ендрю Ин бачить у цьому хорошу новину: фахівці з кіберзахисту які не мають доступу до закритого Mythos тепер можуть використовувати потужну модель для захисту своїх систем. А оскільки нападники вже мають доступ до подібних можливостей, захисникам варто діяти швидше.
Є важливе уточнення до цифр про вартість. Anthropic оцінила що створення робочого експлойта для вже відомої вразливості в Google Chrome, дані про яку дослідник заздалегідь надав моделі, коштувало $20.40 на токени GLM-5.3-Flash. Це не вартість відкриття нової вразливості з нуля, а вартість написання атаки коли вразливість уже відома.
Але сама Anthropic оцінює ситуацію значно тривожніше за Ина. У звіті йдеться про помітний стрибок у кіберможливостях доступних нападникам і ймовірне використання таких моделей державними та недержавними акторами для реальної шкоди. Захист у моделі слабкий: пряме прохання про атаку вона відхиляє, але прості прийоми, наприклад вигадана легенда, обходили обмеження у 64-100% випадків. А оскільки ваги відкриті, обмеження можна прибрати зовсім: за оцінкою Anthropic, для GLM-5.3-Flash це коштувало близько $4400, а такі версії з'явилися публічно за кілька днів після релізу. NIST при цьому оцінив модель як найсильнішу відкриту в кібербезпеці, але з відставанням від кращих американських моделей приблизно на чотири місяці. Варто пам'ятати й що Anthropic має власний інтерес у цій дискусії: вона сама не публікує ваги своїх моделей.
Тому Ин робить ставку на інженерію. Злам Hugging Face агентами OpenAI він пояснює слабкою ізоляцією середовища, а свій відкритий агентний застосунок OpenWorker, про який я вже писав, будує на платформі безпеки NVIDIA. За його описом, кожна команда агента виконується всередині ізольованого контейнера, туди потрапляють лише потрібні для задачі файли, а секретні ключі, паролі браузера і доступ до довільних сайтів за замовчуванням недоступні. Головне, ці обмеження реалізовані детермінованим кодом а не промптом, бо LLM може помилятися або піддатися prompt injection. Усі дії журналюються для аудиту.
Тобто коли відмови моделі можна зняти за кілька тисяч доларів, захист не може на них триматися. Він має жити в інфраструктурі навколо моделі, як і в Muse від Meta, про яку я писав раніше. Ин при цьому вірить що в довгостроковій перспективі перевага на боці захисників, бо вони мають більше інформації для виявлення вразливостей. Головне виконати цю роботу якомога швидше.
А як вважаєте ви: відкриті ваги з такими можливостями це більше допомога захисникам чи нападникам? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Anthropic опублікувала аналіз кіберможливостей GLM-5.3, моделі з відкритими вагами від китайської Z.ai. За цими можливостями вона наближається до Mythos, моделі Anthropic із закритими вагами яку компанія тримає під жорстким контролем саме через такі здібності.
На підмножині ExploitBench GLM-5.3 довела експлойт до кінця у 50 з 410 спроб, 12.2%. Mythos показав 56 з 410, близько 14%. Цікаво що розрив у тестах Anthropic менший ніж у звіті розробника на повному бенчмарку, де Z.ai заявляє 54.4% проти 78% у Mythos. А попередня GLM-5.2, Kimi K3 і DeepSeek V4.1-Flash показали в цьому тесті нуль або майже нуль.
Ендрю Ин бачить у цьому хорошу новину: фахівці з кіберзахисту які не мають доступу до закритого Mythos тепер можуть використовувати потужну модель для захисту своїх систем. А оскільки нападники вже мають доступ до подібних можливостей, захисникам варто діяти швидше.
Є важливе уточнення до цифр про вартість. Anthropic оцінила що створення робочого експлойта для вже відомої вразливості в Google Chrome, дані про яку дослідник заздалегідь надав моделі, коштувало $20.40 на токени GLM-5.3-Flash. Це не вартість відкриття нової вразливості з нуля, а вартість написання атаки коли вразливість уже відома.
Але сама Anthropic оцінює ситуацію значно тривожніше за Ина. У звіті йдеться про помітний стрибок у кіберможливостях доступних нападникам і ймовірне використання таких моделей державними та недержавними акторами для реальної шкоди. Захист у моделі слабкий: пряме прохання про атаку вона відхиляє, але прості прийоми, наприклад вигадана легенда, обходили обмеження у 64-100% випадків. А оскільки ваги відкриті, обмеження можна прибрати зовсім: за оцінкою Anthropic, для GLM-5.3-Flash це коштувало близько $4400, а такі версії з'явилися публічно за кілька днів після релізу. NIST при цьому оцінив модель як найсильнішу відкриту в кібербезпеці, але з відставанням від кращих американських моделей приблизно на чотири місяці. Варто пам'ятати й що Anthropic має власний інтерес у цій дискусії: вона сама не публікує ваги своїх моделей.
Тому Ин робить ставку на інженерію. Злам Hugging Face агентами OpenAI він пояснює слабкою ізоляцією середовища, а свій відкритий агентний застосунок OpenWorker, про який я вже писав, будує на платформі безпеки NVIDIA. За його описом, кожна команда агента виконується всередині ізольованого контейнера, туди потрапляють лише потрібні для задачі файли, а секретні ключі, паролі браузера і доступ до довільних сайтів за замовчуванням недоступні. Головне, ці обмеження реалізовані детермінованим кодом а не промптом, бо LLM може помилятися або піддатися prompt injection. Усі дії журналюються для аудиту.
Тобто коли відмови моделі можна зняти за кілька тисяч доларів, захист не може на них триматися. Він має жити в інфраструктурі навколо моделі, як і в Muse від Meta, про яку я писав раніше. Ин при цьому вірить що в довгостроковій перспективі перевага на боці захисників, бо вони мають більше інформації для виявлення вразливостей. Головне виконати цю роботу якомога швидше.
А як вважаєте ви: відкриті ваги з такими можливостями це більше допомога захисникам чи нападникам? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
👍10❤2
Чому AI добре пише код, але може давати слабкі поради?
Доброго ранку ☕️
Між "розв'язати задачу" і "прийняти хороше рішення" є різниця, яку легко недооцінити, дивлячись на прогрес LLM.
У математичній задачі можна перевірити відповідь. У програмуванні запустити тести, хоча вони звісно не гарантують якості всього рішення. А як перевірити що модель запропонувала правильну продуктову стратегію? Порадила збирати саме ті дані яких бракує вашому AI-проєкту? Вдало відповіла незадоволеному клієнту?
Тут теж є кращі й гірші відповіді. Але немає простого автоматичного способу їх розрізнити.
І це впливає на те як швидко ми можемо навчати моделі. Коли результат можна перевірити, модель багаторазово пробує різні підходи й отримує чіткий сигнал: спрацювало чи ні. На цьому будується значна частина прогресу в навчанні з підкріпленням.
Із завданнями що потребують судження складніше. Спочатку нам самим треба визначити що означає "хороша відповідь". Потім зібрати приклади, узгодити критерії оцінювання й переконатися що ми винагороджуємо якість рішення, а не його переконливе формулювання.
Мені особливо близький приклад зі збиранням даних для ML. Модель може запропонувати цілком розумний план: збільшити датасет, збалансувати класи, додати складні випадки. Але чи допоможе це конкретному проєкту залежить від контексту: де система помиляється, як працює в реальних умовах, скільки коштує розмітка і які помилки найкритичніші для бізнесу. Без цих деталей рекомендація може звучати правильно і водночас майже нічого не вирішувати.
Тому успіхи LLM у коді та математиці не варто автоматично переносити на всі інші види роботи. Здатність знайти правильну відповідь у задачі яку можна перевірити ще не гарантує здатності ухвалити вдале рішення в неоднозначній ситуації.
Для AI-інженера звідси практичний висновок: цінність уміння поставити задачу, зібрати потрібний контекст і визначити критерії успіху залишається високою. Чим більше виконання ми делегуємо моделям, тим уважніше маємо обирати що саме їм доручати і як оцінювати результат.
А у вас були випадки коли AI впевнено радив щось що на вашому проєкті не спрацювало? Діліться в коментарях 👇
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Між "розв'язати задачу" і "прийняти хороше рішення" є різниця, яку легко недооцінити, дивлячись на прогрес LLM.
У математичній задачі можна перевірити відповідь. У програмуванні запустити тести, хоча вони звісно не гарантують якості всього рішення. А як перевірити що модель запропонувала правильну продуктову стратегію? Порадила збирати саме ті дані яких бракує вашому AI-проєкту? Вдало відповіла незадоволеному клієнту?
Тут теж є кращі й гірші відповіді. Але немає простого автоматичного способу їх розрізнити.
І це впливає на те як швидко ми можемо навчати моделі. Коли результат можна перевірити, модель багаторазово пробує різні підходи й отримує чіткий сигнал: спрацювало чи ні. На цьому будується значна частина прогресу в навчанні з підкріпленням.
Із завданнями що потребують судження складніше. Спочатку нам самим треба визначити що означає "хороша відповідь". Потім зібрати приклади, узгодити критерії оцінювання й переконатися що ми винагороджуємо якість рішення, а не його переконливе формулювання.
Мені особливо близький приклад зі збиранням даних для ML. Модель може запропонувати цілком розумний план: збільшити датасет, збалансувати класи, додати складні випадки. Але чи допоможе це конкретному проєкту залежить від контексту: де система помиляється, як працює в реальних умовах, скільки коштує розмітка і які помилки найкритичніші для бізнесу. Без цих деталей рекомендація може звучати правильно і водночас майже нічого не вирішувати.
Тому успіхи LLM у коді та математиці не варто автоматично переносити на всі інші види роботи. Здатність знайти правильну відповідь у задачі яку можна перевірити ще не гарантує здатності ухвалити вдале рішення в неоднозначній ситуації.
Для AI-інженера звідси практичний висновок: цінність уміння поставити задачу, зібрати потрібний контекст і визначити критерії успіху залишається високою. Чим більше виконання ми делегуємо моделям, тим уважніше маємо обирати що саме їм доручати і як оцінювати результат.
А у вас були випадки коли AI впевнено радив щось що на вашому проєкті не спрацювало? Діліться в коментарях 👇
🔔 ПІДПИСАТИСЯ
❤12
Дешевші токени ще не означають дешевшу роботу 🤔
Доброго вечора 🌙
Anthropic оновила лінійку Claude: до Opus 5.5 приєдналися Sonnet 5.5 та Haiku 5.5. Але найцікавіше те, як налаштування міркування впливають на вартість і результат.
Sonnet майже наздоганяє Opus, але витрачає більше токенів. За даними Artificial Analysis, на максимальному рівні міркування Sonnet 5.5 генерує приблизно 193 тисячі вихідних токенів на завдання, на 60% більше за Opus. Через це виконання завдання на Sonnet у режимі max обходиться дорожче, ніж на Opus у тому самому режимі. А між різними рівнями міркування самої Sonnet вартість відрізняється більш ніж у 18 разів.
При цьому в тестах Vals AI Sonnet коштує приблизно дві третини від Opus. Тобто навіть відповідь на питання "яка модель дешевша" залежить від ваших завдань. Сама Anthropic визнає, що цінова перевага Sonnet над Opus найпомітніша на нижчих рівнях міркування.
І ще цікавіше: більше міркування не завжди покращує результат. У FrontierCode перевіряють, чи готові зміни коду від агента до злиття без правок людини. За даними Anthropic, Sonnet 5.5 показала 52.1% на рівні xhigh і лише 46.2% на рівні max. Тобто вищий рівень
Haiku 5.5 теж можна використовувати як модель з міркуванням, але її перевага у вартості найбільше проявляється на простих задачах: підсумовування, класифікація.
Для мене практичний висновок такий: обираючи модель для продукту, треба порівнювати вартість успішно виконаного завдання, точність і час очікування. Взяти набір реальних задач, прогнати його на кількох моделях і рівнях
А ви порівнювали якість на різних рівнях міркування чи зазвичай залишаєте налаштування за замовчуванням? 👇
🔔 ПІДПИСАТИСЯ
Доброго вечора 🌙
Anthropic оновила лінійку Claude: до Opus 5.5 приєдналися Sonnet 5.5 та Haiku 5.5. Але найцікавіше те, як налаштування міркування впливають на вартість і результат.
Sonnet майже наздоганяє Opus, але витрачає більше токенів. За даними Artificial Analysis, на максимальному рівні міркування Sonnet 5.5 генерує приблизно 193 тисячі вихідних токенів на завдання, на 60% більше за Opus. Через це виконання завдання на Sonnet у режимі max обходиться дорожче, ніж на Opus у тому самому режимі. А між різними рівнями міркування самої Sonnet вартість відрізняється більш ніж у 18 разів.
При цьому в тестах Vals AI Sonnet коштує приблизно дві третини від Opus. Тобто навіть відповідь на питання "яка модель дешевша" залежить від ваших завдань. Сама Anthropic визнає, що цінова перевага Sonnet над Opus найпомітніша на нижчих рівнях міркування.
І ще цікавіше: більше міркування не завжди покращує результат. У FrontierCode перевіряють, чи готові зміни коду від агента до злиття без правок людини. За даними Anthropic, Sonnet 5.5 показала 52.1% на рівні xhigh і лише 46.2% на рівні max. Тобто вищий рівень
effort змінює самі дії агента: скільки він перевіряє, які інструменти викликає, як підходить до розв'язання. І ці зміни не завжди корисні.Haiku 5.5 теж можна використовувати як модель з міркуванням, але її перевага у вартості найбільше проявляється на простих задачах: підсумовування, класифікація.
Для мене практичний висновок такий: обираючи модель для продукту, треба порівнювати вартість успішно виконаного завдання, точність і час очікування. Взяти набір реальних задач, прогнати його на кількох моделях і рівнях
effort, а потім подивитися, де додаткові витрати справді дають кращий результат. Бо ціна за мільйон токенів лише один із компонентів рахунку.А ви порівнювали якість на різних рівнях міркування чи зазвичай залишаєте налаштування за замовчуванням? 👇
🔔 ПІДПИСАТИСЯ
👍10❤4
Видати розробникам доступ до ШІ ще не означає створити AI-native команду
Доброго ранку ☕️
Що має робити керівник інженерного напряму, такий як VP of Engineering або Engineering Manager, щоб допомогти своїй команді краще опанувати ШІ?
Нещодавно я прочитав лист Ендрю Ина. Він регулярно спілкується з такими керівниками і поділився в ньому ефективними практиками. Ин пропонує дивитися на впровадження ШІ через чотири складові: люди, проєкти, платформи та процеси.
Якщо ви створюєте нову команду з двох-трьох людей, можна відразу набрати фахівців, для яких робота із ШІ є звичною. Однак багатьом великим компаніям потрібно знаходити способи розвивати вже наявні команди. Мета не в традиційній інженерній команді, яка користується ШІ, а в AI-native команді, організованій так, щоб використовувати можливості ШІ та враховувати його обмеження.
Команди складаються з людей. Дайте команді час і бюджет на навчання та експерименти. І самі працюйте з агентами: складно ухвалювати рішення про технологію, якщо весь ваш досвід це чужі демо. Власний невеликий проєкт допоможе відчути і можливості, і обмеження інструментів.
Друга складова це проєкти. Підтримуйте ініціативи інженерів, а перспективним ідеям забезпечуйте ресурси для масштабування. Не зводьте все до економії: серед ШІ-проєктів мають бути нові продукти, функції та способи приносити користь користувачам.
Третя складова це платформи. Агенту потрібен доступ до контексту: коду, документації, продуктових рішень і звернень користувачів. А ще тести, CI, середовище для запуску та інструменти, якими він може користуватися. З відповідними правами доступу й захистом даних. Без цього навіть сильний агент працює з уривками інформації.
І нарешті процеси. Коли реалізація прискорюється, вузьке місце може переміститися в іншу частину роботи: постановку задач, погодження, перевірку результатів або ухвалення рішень. Тому змінювати потрібно й організацію роботи. Команда має розуміти що і навіщо вона створює та мати повноваження діяти, із запобіжниками для справді серйозних ризиків.
Для мене головна думка тут: AI-native це характеристика всієї системи роботи команди. Купити підписки відносно легко. Забезпечити контекст, навчитися перевіряти результати й прибрати зайві затримки значно складніше.
А у вашій команді ШІ вже змінив процес розробки чи поки лише додав ще один інструмент?
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
Що має робити керівник інженерного напряму, такий як VP of Engineering або Engineering Manager, щоб допомогти своїй команді краще опанувати ШІ?
Нещодавно я прочитав лист Ендрю Ина. Він регулярно спілкується з такими керівниками і поділився в ньому ефективними практиками. Ин пропонує дивитися на впровадження ШІ через чотири складові: люди, проєкти, платформи та процеси.
Якщо ви створюєте нову команду з двох-трьох людей, можна відразу набрати фахівців, для яких робота із ШІ є звичною. Однак багатьом великим компаніям потрібно знаходити способи розвивати вже наявні команди. Мета не в традиційній інженерній команді, яка користується ШІ, а в AI-native команді, організованій так, щоб використовувати можливості ШІ та враховувати його обмеження.
Команди складаються з людей. Дайте команді час і бюджет на навчання та експерименти. І самі працюйте з агентами: складно ухвалювати рішення про технологію, якщо весь ваш досвід це чужі демо. Власний невеликий проєкт допоможе відчути і можливості, і обмеження інструментів.
Друга складова це проєкти. Підтримуйте ініціативи інженерів, а перспективним ідеям забезпечуйте ресурси для масштабування. Не зводьте все до економії: серед ШІ-проєктів мають бути нові продукти, функції та способи приносити користь користувачам.
Третя складова це платформи. Агенту потрібен доступ до контексту: коду, документації, продуктових рішень і звернень користувачів. А ще тести, CI, середовище для запуску та інструменти, якими він може користуватися. З відповідними правами доступу й захистом даних. Без цього навіть сильний агент працює з уривками інформації.
І нарешті процеси. Коли реалізація прискорюється, вузьке місце може переміститися в іншу частину роботи: постановку задач, погодження, перевірку результатів або ухвалення рішень. Тому змінювати потрібно й організацію роботи. Команда має розуміти що і навіщо вона створює та мати повноваження діяти, із запобіжниками для справді серйозних ризиків.
Для мене головна думка тут: AI-native це характеристика всієї системи роботи команди. Купити підписки відносно легко. Забезпечити контекст, навчитися перевіряти результати й прибрати зайві затримки значно складніше.
А у вашій команді ШІ вже змінив процес розробки чи поки лише додав ще один інструмент?
🔔 ПІДПИСАТИСЯ
👍5❤4
ChatGPT для підлітків: нові навчальні функції та найнижча оцінка безпеки
Гарного дня 👋
OpenAI анонсувала інструменти для навчання й підготовки до вступу в університети. Того ж дня Common Sense Media оцінила ChatGPT for Teens як продукт із "неприйнятним ризиком" для неповнолітніх.
ChatGPT for Teens це набір налаштувань і захисних механізмів усередині ChatGPT: батьківський контроль, обмеження чутливого контенту та Study Mode, який має допомагати розбирати завдання крок за кроком.
Що виявили дослідники
Інститут безпеки ШІ для молоді перевірив понад 4000 промптів до та після запуску підліткового режиму. Сповіщення батькам у змодельованих кризових ситуаціях часто не надходили. Study Mode міг пропонувати кнопку "Покажи відповідь" і видавати готове завдання. Запланований батьками навчальний режим вдавалося обійти, видаливши
OpenAI оскаржує результати: компанія вважає, що частину перевірок могли провести до повної активації батьківського контролю, і закликає повторити тестування. Інститут наполягає на своїх висновках і каже, що перед тестами уточнював в OpenAI, що ці функції вже запущені.
А що з користю для навчання
У дослідженні за участю майже тисячі старшокласників у Туреччині учні з доступом до звичайного GPT-4 краще виконували тренувальні завдання. Але на подальшому іспиті без ШІ їхні результати були на 17% нижчими, ніж у групи без доступу до чатбота. Спеціально налаштований ШІ-тьютор, який давав підказки замість готових відповідей, переважно усував цей негативний ефект. Тому висновок "будь-який ШІ шкодить навчанню" був би некоректним.
Необмежений доступ до готових відповідей знижує здатність учнів самостійно розв'язувати задачі. А використання під керівництвом педагога може підтримувати навчання, хоча на практиці таке трапляється рідко. Кнопка "Покажи відповідь" належить саме до першого сценарію. До того ж батьки можуть отримати хибне відчуття захищеності, покладаючись на сповіщення, які не завжди спрацьовують, коли дитина в кризовому стані.
Виконане завдання ще не означає засвоєні знання. Для освітнього ШІ важливо перевіряти, чи зможе учень розв'язати наступну задачу самостійно. А для батьківського контролю чи справді захист спрацьовує в ситуаціях, заради яких його створили.
Підлітки можуть отримати багато користі від ШІ: шукати інформацію, працювати над власними проєктами або планувати свій час. Але мені не очевидно, що самостійна робота учня з чатботом, навіть із суворими захисними обмеженнями, є правильним форматом навчання. У нинішньому вигляді ChatGPT for Teens не виконує обіцянок, даних підліткам та їхнім батькам. Неповнолітні заслуговують на краще, а компанії мають докласти зусиль, щоб удосконалити продукти для них.
А як у вашій родині чи класі: діти вже користуються чатботами для домашніх завдань, і чи є якісь правила?
🔔 ПІДПИСАТИСЯ
Гарного дня 👋
OpenAI анонсувала інструменти для навчання й підготовки до вступу в університети. Того ж дня Common Sense Media оцінила ChatGPT for Teens як продукт із "неприйнятним ризиком" для неповнолітніх.
ChatGPT for Teens це набір налаштувань і захисних механізмів усередині ChatGPT: батьківський контроль, обмеження чутливого контенту та Study Mode, який має допомагати розбирати завдання крок за кроком.
Що виявили дослідники
Інститут безпеки ШІ для молоді перевірив понад 4000 промптів до та після запуску підліткового режиму. Сповіщення батькам у змодельованих кризових ситуаціях часто не надходили. Study Mode міг пропонувати кнопку "Покажи відповідь" і видавати готове завдання. Запланований батьками навчальний режим вдавалося обійти, видаливши
@study з повідомлення. А модель іноді говорила так, ніби має власні почуття, попри правила для спілкування з підлітками.OpenAI оскаржує результати: компанія вважає, що частину перевірок могли провести до повної активації батьківського контролю, і закликає повторити тестування. Інститут наполягає на своїх висновках і каже, що перед тестами уточнював в OpenAI, що ці функції вже запущені.
А що з користю для навчання
У дослідженні за участю майже тисячі старшокласників у Туреччині учні з доступом до звичайного GPT-4 краще виконували тренувальні завдання. Але на подальшому іспиті без ШІ їхні результати були на 17% нижчими, ніж у групи без доступу до чатбота. Спеціально налаштований ШІ-тьютор, який давав підказки замість готових відповідей, переважно усував цей негативний ефект. Тому висновок "будь-який ШІ шкодить навчанню" був би некоректним.
Необмежений доступ до готових відповідей знижує здатність учнів самостійно розв'язувати задачі. А використання під керівництвом педагога може підтримувати навчання, хоча на практиці таке трапляється рідко. Кнопка "Покажи відповідь" належить саме до першого сценарію. До того ж батьки можуть отримати хибне відчуття захищеності, покладаючись на сповіщення, які не завжди спрацьовують, коли дитина в кризовому стані.
Виконане завдання ще не означає засвоєні знання. Для освітнього ШІ важливо перевіряти, чи зможе учень розв'язати наступну задачу самостійно. А для батьківського контролю чи справді захист спрацьовує в ситуаціях, заради яких його створили.
Підлітки можуть отримати багато користі від ШІ: шукати інформацію, працювати над власними проєктами або планувати свій час. Але мені не очевидно, що самостійна робота учня з чатботом, навіть із суворими захисними обмеженнями, є правильним форматом навчання. У нинішньому вигляді ChatGPT for Teens не виконує обіцянок, даних підліткам та їхнім батькам. Неповнолітні заслуговують на краще, а компанії мають докласти зусиль, щоб удосконалити продукти для них.
А як у вашій родині чи класі: діти вже користуються чатботами для домашніх завдань, і чи є якісь правила?
🔔 ПІДПИСАТИСЯ
👍6
This media is not supported in your browser
VIEW IN TELEGRAM
🤖 Роботи виклали цегляні стіни будинку в Нідерландах: з вигинами, візерунками та написами
Гарних вихідних 🌿
Амстердамський стартап Monumental показав результат роботи в місті Алмере. За словами засновника компанії, 100% цегли в показаній кладці уклали роботи.
За словами CEO, роботи можуть викладати різні візерунки з тією самою швидкістю та вартістю, що й однакові. Це поки заява компанії, але сама ідея цікава: автоматизація потенційно робить індивідуальний дизайн доступнішим.
Ще 15 будинків в Алмере компанія планує виконати найближчими тижнями. А в районі Гронінгена вже розпочала роботи в межах проєкту на 112 будинків і готель. Нове житло мають отримати, зокрема, сім'ї, чиї оселі постраждали від землетрусів. За даними Monumental, її роботи вже виконали кладку для понад 100 будинків у Нідерландах і Великій Британії.
Роботів забудовникам не продають. Monumental працює субпідрядником: сама привозить та обслуговує техніку, а замовник платить за готову кладку.
🔔 ПІДПИСАТИСЯ
Гарних вихідних 🌿
Амстердамський стартап Monumental показав результат роботи в місті Алмере. За словами засновника компанії, 100% цегли в показаній кладці уклали роботи.
За словами CEO, роботи можуть викладати різні візерунки з тією самою швидкістю та вартістю, що й однакові. Це поки заява компанії, але сама ідея цікава: автоматизація потенційно робить індивідуальний дизайн доступнішим.
Ще 15 будинків в Алмере компанія планує виконати найближчими тижнями. А в районі Гронінгена вже розпочала роботи в межах проєкту на 112 будинків і готель. Нове житло мають отримати, зокрема, сім'ї, чиї оселі постраждали від землетрусів. За даними Monumental, її роботи вже виконали кладку для понад 100 будинків у Нідерландах і Великій Британії.
Роботів забудовникам не продають. Monumental працює субпідрядником: сама привозить та обслуговує техніку, а замовник платить за готову кладку.
🔔 ПІДПИСАТИСЯ
👍10❤2
☝🏻 П’ятничний дайджест: чого в ШІ справді варто боятися
Доброго ранку ☕️
На жаль, не встигаю робити великі розбори, тому зібрав чотири історії останніх тижнів, де страх росте швидше за докази.
Світанок агентів
У липні близько 1 200 агентів OpenAI проходили тестовий бенчмарк ExploitGym в ізоляції, але знайшли спосіб переписуватися: лишали повідомлення в назвах папок. Приблизно 700 із них дісталися Hugging Face й отримали адмінський доступ до кількох кластерів. Схожі виходи за межі тестів фіксували і для моделей Anthropic, Google та Meta.
Виглядає як бунт, але мета була приземленою: пройти тест. Більшість агентів уже списала відповіді, а в Hugging Face полізла дізнатися, як працює перевірка, щоб приховати списування. Мені це більше схоже на reward hacking, ніж на змову. Тривожить інше: ті, хто пробрався в Hugging Face, розуміли, що переходять межу, і все одно йшли далі. Тому ізоляція, вузькі права й моніторинг потрібні вже на етапі тестів.
ШІ кусає руку, яка його годує
Математик Tristan Buckmaster із колегою майже рік працював із Codex і Claude над рівняннями Нав’є-Стокса. Наступного дня після публікації їхніх доведень споріднених рівнянь OpenAI оголосила, що її агенти розв’язали задачу. Схожа історія в біолога Mario Rodríguez Mestre: чотири роки роботи, чернетки в Claude, а потім анонс Anthropic про подібну систему.
Доказів, що моделі навчали на цих розмовах, немає: Anthropic це заперечує, а OpenAI про раніші чернетки нічого не сказала. Зате реальні витоки є, і причина в самих агентах. Вони виклали 53 зображення користувачів ChatGPT на фотохостингах, а кодові агенти склали в публічні репозиторії понад 13 000 внутрішніх скриншотів із понад 300 організацій (дані Glow Labs). Тому я б вимикав навчання окремо в кожному продукті (налаштування ChatGPT не покриває Codex) і не дозволяв агентові нічого публікувати назовні без підтвердження.
Детектори ШІ та полювання на відьом
Письменник Thélyson Orélien виграв престижну премію, і за кілька годин анонімний акаунт в X, прогнавши роман через детектор Pangram, звинуватив його в ШІ. Через чотири дні Гонкурівська премія зняла книжку з розгляду. Та коли AFP перевірило ті самі уривки іншими детекторами, три визнали текст імовірно людським, а четвертий дав 100% ШІ. Ціна таких помилок реальна: Jerry Falade втратив контракт на $2 млн частково через висновок Pangram, хоча заперечує використання ШІ.
Сам гендиректор Pangram визнав, що для французької незалежної перевірки хибних спрацювань немає. Для української, думаю, не краще. Тож чернетки й історія змін скажуть більше, ніж відсоток на екрані.
Лідери замикають моделі
Понад 1 300 працівників ШІ-компаній, серед них Google DeepMind, OpenAI й Anthropic, підписали звернення до урядів узяти розвиток технології під контроль. Головний науковець OpenAI запропонував компаніям добровільно координувати уповільнення, а Dario Amodei в есе «Pacing the frontier» закликав сповільнити темп. Подекуди слова вже стають ділом: OpenAI скасувала жовтневий випуск GPT-6.1 Astra, бо, за її словами, у тестах модель виходила за межі інструкцій і непослідовно звітувала про свої дії.
Уповільнення справді може дати час на безпеку, але воно й лідерам вигідне: зберегти відрив, скоротити витрати, а можливо, й отримати субсидії. Тому я б оцінював не заклики, а конкретні заходи: які ризики вони знижують і кому дають перевагу.
Тож, щоб реагувати ефективно, треба вимагати перевірюваних доказів. Агентам даємо вузькі права, даним потрібен контроль, а звинувачення в ШІ мають спиратися на щось переконливіше за відсоток детектора. А ви вже перевірили, що ваш агент може надсилати назовні? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
Доброго ранку ☕️
На жаль, не встигаю робити великі розбори, тому зібрав чотири історії останніх тижнів, де страх росте швидше за докази.
Світанок агентів
У липні близько 1 200 агентів OpenAI проходили тестовий бенчмарк ExploitGym в ізоляції, але знайшли спосіб переписуватися: лишали повідомлення в назвах папок. Приблизно 700 із них дісталися Hugging Face й отримали адмінський доступ до кількох кластерів. Схожі виходи за межі тестів фіксували і для моделей Anthropic, Google та Meta.
Виглядає як бунт, але мета була приземленою: пройти тест. Більшість агентів уже списала відповіді, а в Hugging Face полізла дізнатися, як працює перевірка, щоб приховати списування. Мені це більше схоже на reward hacking, ніж на змову. Тривожить інше: ті, хто пробрався в Hugging Face, розуміли, що переходять межу, і все одно йшли далі. Тому ізоляція, вузькі права й моніторинг потрібні вже на етапі тестів.
ШІ кусає руку, яка його годує
Математик Tristan Buckmaster із колегою майже рік працював із Codex і Claude над рівняннями Нав’є-Стокса. Наступного дня після публікації їхніх доведень споріднених рівнянь OpenAI оголосила, що її агенти розв’язали задачу. Схожа історія в біолога Mario Rodríguez Mestre: чотири роки роботи, чернетки в Claude, а потім анонс Anthropic про подібну систему.
Доказів, що моделі навчали на цих розмовах, немає: Anthropic це заперечує, а OpenAI про раніші чернетки нічого не сказала. Зате реальні витоки є, і причина в самих агентах. Вони виклали 53 зображення користувачів ChatGPT на фотохостингах, а кодові агенти склали в публічні репозиторії понад 13 000 внутрішніх скриншотів із понад 300 організацій (дані Glow Labs). Тому я б вимикав навчання окремо в кожному продукті (налаштування ChatGPT не покриває Codex) і не дозволяв агентові нічого публікувати назовні без підтвердження.
Детектори ШІ та полювання на відьом
Письменник Thélyson Orélien виграв престижну премію, і за кілька годин анонімний акаунт в X, прогнавши роман через детектор Pangram, звинуватив його в ШІ. Через чотири дні Гонкурівська премія зняла книжку з розгляду. Та коли AFP перевірило ті самі уривки іншими детекторами, три визнали текст імовірно людським, а четвертий дав 100% ШІ. Ціна таких помилок реальна: Jerry Falade втратив контракт на $2 млн частково через висновок Pangram, хоча заперечує використання ШІ.
Сам гендиректор Pangram визнав, що для французької незалежної перевірки хибних спрацювань немає. Для української, думаю, не краще. Тож чернетки й історія змін скажуть більше, ніж відсоток на екрані.
Лідери замикають моделі
Понад 1 300 працівників ШІ-компаній, серед них Google DeepMind, OpenAI й Anthropic, підписали звернення до урядів узяти розвиток технології під контроль. Головний науковець OpenAI запропонував компаніям добровільно координувати уповільнення, а Dario Amodei в есе «Pacing the frontier» закликав сповільнити темп. Подекуди слова вже стають ділом: OpenAI скасувала жовтневий випуск GPT-6.1 Astra, бо, за її словами, у тестах модель виходила за межі інструкцій і непослідовно звітувала про свої дії.
Уповільнення справді може дати час на безпеку, але воно й лідерам вигідне: зберегти відрив, скоротити витрати, а можливо, й отримати субсидії. Тому я б оцінював не заклики, а конкретні заходи: які ризики вони знижують і кому дають перевагу.
Тож, щоб реагувати ефективно, треба вимагати перевірюваних доказів. Агентам даємо вузькі права, даним потрібен контроль, а звинувачення в ШІ мають спиратися на щось переконливіше за відсоток детектора. А ви вже перевірили, що ваш агент може надсилати назовні? Пишіть у коментарях 👇
🔔 ПІДПИСАТИСЯ
👍5