AI-агенты: обещанное будущее или просто попытка заработать?

Кажется, технологии снова пытаются превратить наши фантазии в реальность: теперь компании от OpenAI до Google массово инвестируют в создание "агентов" — ИИ, которые вроде как могут решать за нас рутинные задачи и принимать решения без вмешательства человека. Давайте разберемся, что тут к чему.

Что такое AI-агенты и в чем идея?
Агент — это не просто бот. Бот следует заранее прописанному алгоритму, и все. Агент же — это автономная система, способная взаимодействовать с окружением, обучаться, адаптироваться и самостоятельно принимать решения. Например, такие агенты могут бронировать вам отель, закупать продукты, а Microsoft со своим "Copilot" уже предлагает автоматизировать, например, работу с документами и административные задачи в компаниях.

Google тоже не отстает — недавно Google Cloud предложил целых шесть (!) разных AI-агентов для повышения продуктивности. А Google DeepMind нанял бывшего специалиста OpenAI, чтобы развивать симуляцию для тренировки этих агентов. Anthropic выпустил функцию, которая позволяет пользователям создавать своих "помощников", а OpenAI обещает, что агенты станут одним из этапов на пути к созданию AGI (общего искусственного интеллекта уровня человека).

В чем проблема?
На бумаге все выглядит отлично: больше не нужно самому заниматься рутиной, агенты все сделают за вас. Но, как обычно, реальность чуть сложнее. Последний показ агентных технологий от OpenAI на Dev Day оказался не таким уж и гладким. Например, демонстрация, где агент должен был заказать 400 клубничек в шоколаде, провалилась — агент запутался с вкусами и вместо того, чтобы сказать, что у него нет нужной информации, просто сам додумал их и начал действовать. Такие ошибки ставят под вопрос возможность использования агентов в реальных условиях.

К тому же, подобные системы пока требуют значительных вычислительных ресурсов и энергии, особенно когда речь идет об обработке сложных запросов или взаимодействии с несколькими системами. Это делает их дорогими и не всегда оправданными для массового использования. Пока AI-агенты остаются дорогими экспериментами, не намного лучше простых ботов или голосовых ассистентов.

А зачем это все?
AI-агенты — это не только про технологии, это еще и про деньги. AI-компании сейчас обладают мощными, но очень дорогими моделями, и чтобы сделать их полезными, нужно найти способы монетизации. Отсюда и весь этот ажиотаж вокруг агентов: предприятия хотят автоматизировать процессы, инвесторы — получить прибыль, а разработчики — хайп и финансирование. В итоге, AI-агенты становятся таким себе маркетинговым трендом, который кормит ожиданиями и привлекает миллиарды долларов инвестиций.

OpenAI, например, собрал $6,6 миллиардов на развитие своих агентных систем, утверждая, что они вот-вот станут массовыми и полезными. Тем временем стартапы вроде Sierra, Harvey и TaxGPT также заполучают финансирование, обещая, что агенты будут управлять поддержкой клиентов, помогать юристам или даже заниматься вашими налогами.

Но на что мы реально надеемся?
В долгосрочной перспективе компании хотят, чтобы агенты стали чем-то вроде "супер-компетентного коллеги". Как говорит CEO OpenAI Сэм Альтман: "Вы хотите что-то, что помогает вам на заднем плане". Проблема в том, что пока такие агенты не могут справиться с многозадачностью и непредвиденными ситуациями лучше, чем обычные чат-боты. Ну и давайте не забывать: они еще и дорогие в эксплуатации.

Так что да, гонка за созданием AI-агентов уже началась. Только вот вопрос — действительно ли они готовы заменить нас в рутинных задачах, или это пока просто дорогой хайп, который все еще далек от реальности?

Приготовьтесь к опенсорс-приключению

Опенсорс сейчас на пике популярности, и кот не мог пройти мимо — принёс вам необычный ивент

23 октября Яндекс проводит второй Yandex Open Source Jam в Санкт-Петербурге, и это не просто конференция. Тут можно не только послушать классные доклады от разработчиков топового уровня, но и, например, узнать, как опенсорс помогает ученым от редактора моего любимого N + 1. 

Помимо этого, вас ждут задачки, конкурсы с мерчем и, конечно же, афтепати для самых стойких.

Если до Питера не доехать — не беда, можно подключиться онлайн и тоже поучаствовать. Врывайтесь в мир опенсорса вместе с двух ног. 

Рега и расписание здесь (тык!)

LLM и логика: что общего между моделью и пятницей у Оливера?

Apple выпустила исследование, в котором без лишней дипломатии говорит, что большие языковые модели (LLM), такие как у OpenAI или Meta, — мягко говоря, не особо мастера логики. Суть в том, что, как только задачка требует хоть минимального понимания, а не просто совпадения шаблонов, модели тут же начинают творить странные вещи.

Вот пример: представьте, что Оливер собрал 44 киви в пятницу, 58 в субботу, а в воскресенье — в два раза больше, чем в пятницу. И тут добавляется случайная деталь, что "пять киви оказались меньше среднего". Как думаете, сколько всего киви у Оливера? Правильный ответ — ну, конечно же, все киви. Но не для Llama3-8b и моделей OpenAI — они отняли пять "маленьких" киви и получили неправильный ответ.

Apple решила измерить, насколько языковые модели хороши в математике, и предложила новый тест под названием GSM-Symbolic. Результаты оказались неутешительными: даже незначительные изменения формулировки вопроса приводят к разным ответам, а добавление случайной фразы может снизить точность на целых 65%. Это немного похоже на то, когда вы пытаетесь рассчитать сдачу после пятничного вечера в баре — вроде бы все просто, но "несущественная деталь" сбивает с толку.

Какой итог? Apple заявляет, что такие модели — это, скорее, про крутое сопоставление шаблонов, чем про реальное мышление. И что на основе таких "логичных" агентов строить что-то сложное — сомнительная идея. Так что в следующий раз, когда ваш AI начнет отвечать странности, помните: он, возможно, просто плохо понял, что вы имеете в виду... Или у него был свой пятничный вечер с киви.

Новый AI-взлом Gmail

Google защищает ваши Gmail-аккаунты, но хакеры тоже не спят. Теперь они используют ИИ, чтобы выдавать себя за поддержку Google. Это настолько реалистичные звонки, что даже опытные пользователи могут повестись. Например, Сам Митрович почти стал жертвой такого звонка: голос на другом конце линии утверждал, что он из поддержки Google, а сам номер выглядел вполне официально — хакеры использовали ИИ для создания фальшивых звонков, которые выглядят максимально достоверно.

Еще один случай — звонок от якобы "службы поддержки", которая сообщила, что получила свидетельство о смерти одного из родственников и теперь проверяет, жив ли человек, который отвечает на звонок. Абсурд? Да, но такие детали могут заставить вас действовать на эмоциях.

Что делать?
Google никогда не будет звонить вам просто так. Если вас вдруг начинают просить подтвердить что-то по телефону, просто кладите трубку. Проверяйте свои аккаунты на подозрительные активности и используйте расширенные меры безопасности — например, Google Advanced Protection, которая добавляет биометрическую защиту.

Переходим на рамблер-почту?😁

Adobe интегрировал генератор видео прямо в свой Premiere — главный инструмент по работе с роликами мира сего

И да, говорят, эта фича уже в бете!

Последние два года меня дико радует тот факт, что Адобе мастерски встраивает все эти новомодные ИИ в свои продукты. Всё ради денег людей, ради профи! На своей презе-конфе Adobe Max они прям прокатились по тому, что уже умеют, и по тому, что за киллер фичи у них появятся вот прям совсем скоро. Одна из них — та, что на экране. И у меня, как у постоянного юзера Premier, прям слюнки потекли.

Поскольку мы уже видим, как ленивые суперзвёзды-музыканты тупо скармливают весь свой каталог треков ИИ, чтобы лишний раз не гонять на студию и продолжать выпускать хиты из дома, думаю, с видеопродакшном вскоре произойдёт нечто подобное. Для Adobe и обывателей это, конечно, круто, но для ценителей — хз🤷🏻‍♂️

Вам какой подход ближе — лучше много, но средненько, или меньше, но качественнее (но с творчеством это, конечно, не факт)?

п.с. спасибо за отпадный эфир, Сергей!

Конкуренты — В-С-Ё! 😁

Бэкдор, не сидите сложа руки, воруйте скорее!

Невидимый текст, который понимают ИИ, но не видят люди? Да, такое тоже бывает

Вы когда-нибудь слышали про скрытый текст, который могут понять только AI, но не человек? Оказывается, такие вещи существуют, и на самом деле они могут быть использованы для довольно хитрых взломов.

Недавно исследователи обнаружили, что в Unicode стандарте есть "невидимые" символы, которые не отображаются в браузерах и текстовых редакторах, но отлично воспринимаются LLMками вроде GPT-4 или Claude. С их помощью злоумышленники могут добавлять скрытые инструкции или даже вытягивать секретные данные из AI-чата, делая это незаметно для пользователей.

Пример? Исследователь использовал Microsoft Copilot, чтобы извлечь данные пользователя и добавить их к URL в виде невидимых символов. Для пользователя ссылка выглядела безобидно, но при переходе по ней информация отправлялась на сервер атакующего. Microsoft, кстати, уже исправила этот уязвимый момент, но сам факт остался — AI может скрывать что-то прямо у вас на глазах.

Как думаете, можем ли мы доверять AI, если он знает что-то, что не видим мы?

Google подключает ядерную энергетику к ИИ: что происходит?

Google заключил "мировую сделку", по которой закажет шесть-семь мини-ядерных реакторов у компании Kairos Power для обеспечения своих дата-центров энергией. Зачем? Чтобы справиться с возрастающими потребностями в электричестве, вызванными ростом использования ИИ и облачных технологий. Первый реактор планируют запустить к 2030 году, а остальные — к 2035.

Этот шаг направлен на решение одной из ключевых проблем индустрии технологий — обеспечение экологически чистой и постоянной энергии. Дата-центры жрут электричество в таких масштабах, что уже приходится искать новые способы обеспечить их работу. И ядерная энергия, по мнению Google, — это чистое и надежное решение.

Google — не единственный, кто в 2024 году обратил внимание на ядерную энергетику. Microsoft тоже активировала бывшую ядерную станцию Three Mile Island, а Amazon купил дата-центр, работающий на ядерной энергии. Кажется, мини-реакторы становятся новым трендом у бигтеха.

Сможет ли этот эксперимент с ядерными реакторами обеспечить мирное и экологичное будущее для технологий, или это очередной маркетинговый ход?

YouTube против фейков: новая метка «Снято на камеру»

YouTube решил объявить войну фейковым видео и добавил новую метку «Снято на камеру». Эта метка подтверждает, что видео было действительно снято на камеру без вмешательства в видеоряд и звук. Секретная формула — стандарт C2PA, и отображаться она будет на роликах, снятых с оборудованием, которое поддерживает определённые метаданные.

Пока таких меток будет немного — для этого нужны камеры, поддерживающие C2PA 2.1 и выше, но производители, такие как Leica, уже в теме и добавляют метаданные к своим устройствам. Идея в том, чтобы сделать платформу более честной и помочь зрителям отличить настоящее видео от генерированного искусственным интеллектом. Ведь никто не хочет попасться на deepfake, думая, что это «реальное интервью с инопланетянином».

Важно: метка появится только если видео не подвергалось значительным изменениям и метаданные не потерялись. Например, если добавить видео в галерею телефона без поддержки C2PA — прощай, метка. В общем, YouTube хочет, чтобы зрители знали, что они видят на экране — правда или очередная подделка от ИИ.

Как думаете, поможет ли это нам разобраться, где реальность, а где ИИ в очередной раз пытается сыграть с нашими глазами?

Благодаря цифровой эре и робопсам мемес "Медоеду *****" обрёл новую жизнь!

Олды поймут... надеюсь.

Если у кота спросят, какой пост про ИИ хуже всего состарился, то, пожалуй, это будет главный кандидат.

ChatGPT теперь и на Винде — спустя почти полгода после появления приложения на MacOS и год на iOS

Угадайте — кто из пары Microsoft/Apple пару десятков лярдов зелёных? 😁

Ну вот, друзья, теперь ChatGPT не только в браузере, но и в Windows. OpenAI выпустила приложение для Windows, но пока только для платных юзеров. Скачивать можно через Microsoft Store, а чтобы воспользоваться, хватит нажатия Alt + Space. Да-да, теперь можно быстро задавать вопросы искусственному интеллекту, прямо в отдельном окне — ну чтобы, знаете, как можно быстрее получить ответ на вопрос: "А что там на ужин приготовить?" или "Как починить Wi-Fi, который сам отвалился".

Фанфэкт: на MacOS приложение выпустили ещё в июне этого года, а для iOS — вообще год назад. Так что пользователи Windows, добро пожаловать в будущее, которое у владельцев Mac уже давно наступило.

Пока в приложении есть ограничения — например, нет продвинутого голосового режима. Зато можно загружать файлы и картинки и играться с моделью o1 от OpenAI, которая якобы "умеет рассуждать". Только вот будьте аккуратнее, у предыдущей версии Mac-приложения были проблемы с безопасностью: разговоры хранились в открытом виде. Хотя OpenAI вроде бы это уже исправила.

Аппка в "раннем доступе" пока доступна только для подписчиков Plus, Enterprise и Edu, но OpenAI обещает, что до конца года и остальные смогут присоединиться к клубу "всё спрашиваю у ChatGPT, даже про свои пароли".

Microsoft и OpenAI: Трещины в "крепкой дружбе"

Кто бы мог подумать, что $13 миллиардов могут не склеить "самую крепкую дружбу" в технологическом мире? Microsoft и OpenAI, которые когда-то называли своё партнёрство эталоном в ИТ-сфере, теперь начинают медленно, но уверенно отдаляться друг от друга. Всё началось с увольнения (и возвращения) Сэма Альтмана — после этого Сатья Наделла решил, что лучше подготовить пару запасных выходов.

Теперь OpenAI не может рассчитывать на деньги Microsoft, как раньше. Зато Microsoft перетащила к себе сотрудников Inflection — конкурента OpenAI, а Мустафа Сулейман, бывший соучредитель Inflection, теперь активно руководит потребительскими проектами, основанными на технологиях OpenAI. И, кажется, это не сильно радует сотрудников стартапа. Да и вообще, десятки инженеров Microsoft работают прямо в офисах OpenAI — неудивительно, что конфликтов стало больше.

И что мы имеем в итоге? Microsoft заботливо снизила цены для OpenAI на использование своих ресурсов, а OpenAI наконец-то договорилась о соглашении с Oracle, чтобы хоть как-то расширить свои мощности. Но самый пикантный момент — это пункт в контракте, который гласит, что как только OpenAI создаст AGI, Microsoft потеряет доступ к её технологиям. Представьте: все вкладывают миллиарды, чтобы потом в итоге остаться ни с чем. Такой себе расклад, правда?

Чем дальше развивают искусственный интеллект, тем больше на нормального человека становится похож Цукерберг. Это ведь совпадение, да?

Если что, справа фейк — Марку прифотожопили усы с бородой.

Midjourney запускает ИИ-редактор изображений прямо в браузере

Midjourney готовит новый нейроредактор, который позволит загружать изображения и менять текстуры, цвета и другие детали с помощью текстовых запросов. Инструмент сохраняет форму сцены и объектов, но может полностью перерисовать текстуры и цвета. Например, ваш кот легко станет леопардом с крыльями — и будет выглядеть правдоподобно.

Доступ к инструменту на начальном этапе будет ограничен — видимо, чтобы самые отчаянные могли почувствовать себя избранными. О дате выхода пока ни слова, но, вероятно, когда-нибудь в ближайшем будущем, после очередной партии поломанных нейронных связей у разработчиков. Конкуренты, такие как Adobe, явно не дремлют и уже давно вперёд ушли со своим C2PA, чтобы всем было понятно, кто тут папа в отслеживании изменений.

Но Midjourney тоже не сдаётся: метаданные IPTC для маркировки изображений уже внедрены.

Мне кажется или из-за своего жирного пейвола Midjourney собственноручно убивает весь хайп вокруг себя?