Сегодня запоздала немного с постом, но вот он – обзор инструмента для создания автономных ИИ-агентов

Некоторое время назад мы говорили о нейроморфных вычислениях, которые призваны сделать ИИ более эффективным и снизить затраты на его обучение и работу. А в конце 2024 года Google представил миру квантовый процессор Willow.
Утверждают, что такие чипы ускорят и выведут ИИ на новый уровень. Попробуем разобраться.

Минимальная единица информации в обычном компьютере – бит. В одном бите может храниться либо 0, либо 1. Вся информация, с которой мы работаем, в компьютере преобразуется в набор нулей и единиц (двоичный код) и так хранится в памяти.
Минимальная единица информации в квантовом компьютере – кубит. Он не принимает никаких значений, а представляет собой вероятность получить 0 или 1. Классический пример, на котором объясняют кубиты – подбрасывание монетки. Монетка может упасть либо орлом вверх (0), либо решкой (1), но в момент подбрасывания мы еще не знаем, как она приземлится – мы знаем, что вероятность выпадения орла или решки составляет 50%. Кубит описывает вот это неопределенное состояние монетки в воздухе с известным набором исходов и их вероятностями.

Когда мы решаем задачу, в которой нужно найти лучший ответ из возможных, в классическом случае мы проверяем все варианты, сравниваем между собой и выбираем один – это долго. В квантовых вычислениях все варианты можно проверить параллельно, как раз благодаря особенностям кубитов. Поэтому квантовые вычисления намного быстрее «обычных». Но у них есть ряд проблем.
Во-первых, квантовые вычисления подходят для узкого набора задач: для криптографии, оптимизации алгоритмов и симуляции (например, молекул для поиска новых полезных комбинаций).
В-вторых, они очень уязвимы. Работу квантового компьютера может сбить нагрев оборудования или электромагнитные волны от других приборов. Кроме того, в процессе вычислений возникают ошибки из-за недостаточно высокой точности (точность чисел – число знаков после запятой, – которая может храниться в памяти компьютера, зависит от его технических характеристик).
Именно поэтому квантовые компьютеры пока застряли на стадии лабораторного эксперимента: их не удается масштабировать и применять для решения прикладных задач. Однако потенциальные преимущества квантовых вычислений занимают ученых уже многие годы.

В 2012 году было открыто подразделение Google Quantum AI, и через 12 лет его специалисты опубликовали в Nature статью «Quantum error correction below the surface code threshold». В ней авторы предложили способ снижения ошибки вычислений при увеличении числа кубитов, что должно приблизить нас к моменту, когда квантовые компьютеры смогут применяться в реальной жизни.
Предложенные решения:
- поверхностный код (surface code) – он объединяет группу кубитов в один логический кубит. Информация распространяется между всеми кубитами в группе, так что, если в одном из них произойдет ошибка, ее можно будет исправить за счет правильных копий информации в других;
- измеримые кубиты (syndrome qubits / measure qubits) – они не хранят в себе информацию, но взаимодействуют с другими кубитами внутри логического кубита, чтобы выявить ошибки.

Вообще кубиты измерять нельзя, потому что они разрушаются. Возвращаясь к аналогии с подброшенной монеткой, можно сказать, что, измерив кубит, мы поймали монетку, и она теперь не вращается в воздухе, а имеет конкретное значение: 0 или 1. Она потеряла свойство неопределенности. С кубитами то же самое: как только мы измерим их значение, они перестанут работать как кубиты и превратятся в обычные нули и единицы. Однако, измерять их нужно, чтобы понять, возникла ли где-то ошибка.
Поэтому и вводятся измеримые кубиты: их можно измерить, они разрушатся, но это не страшно, потому что система кубитов, несущих информацию, не была затронута.

Google ничего не сообщает о сроках перехода к промышленному применению квантовых процессоров, но у них есть какая-то тактика, и они ее придерживаются. Пожелаем удачи.

Моя основная работа связана с бизнес-консалтингом на основе патентных данных. 70-80% моих изысканий в области ИИ идет туда, в разработку новых инструментов анализа.
Консалтинг на базе патентов – вообще очень интересная тема, про которую пока не очень активно говорят на русском языке на широкую аудиторию (а надо бы). Так что я с большой радостью представляю вам ✨телеграм-канал Федора Батанова✨.
Федор один из тех крутых специалистов, которые умеют объяснять сложные вещи просто и увлекательно. Если вам интересен бизнес, патенты и веселая обратная сторона консалтинга – заходите, вам понравится

Пятница – отличный день, чтобы обсудить ансамблевые алгоритмы, я считаю

В новом посте рассказываю про один из подходов к работе с разными типами данных – объединенные модели

Сейчас почти у каждой крупной компании есть свой ИИ. Есть мощности – почему бы их не использовать? Вот у IBM тоже есть свое семейство моделей, которое называется Granite.
Самый известный ИИ-продукт IBM – IBM Watson. Watson отвечает на вопросы, опираясь на масштабную базу знаний, и активно используется в медицине для помощи врачам в принятии решений. в 2022 году Watson Health – часть IBM Watson, связанную с медициной, – продали инвестиционной компании Francisco Partners, но история с разработкой ИИ для IBM на этом не закончилась.
Сейчас у них есть Watsonx – целый портфель продуктов, в который как раз включает в себя их собственные модели Granite. Granite – трансформеры-декодировщики (как GPT), их представили миру в 2023 году. Тогда вышла версия 3.0, а сейчас уже доступна версия 3.2 в режиме предварительного теста.
С ними и некоторыми другими моделями (Llama, Mistral) можно бесплатно поработать в Watsonx, нужно только создать аккаунт.

Здесь можно работать на русском языке и загружать собственные данные. Можно добавить в проект других участников. Бесплатная версия, конечно, с ограничениями, но многие функции все равно есть шанс протестировать.
Отдельная линейка моделей Granite Code обучена непосредственно для помощи программистам. Они с открытым исходным кодом, их можно использовать кому угодно как захочется.

#инструменты

Если спросить большую языковую модель: "Как ты пришла к этому результату?" – она ответит. Но стоит ли ей верить?
Спойлер: нет

Восприятие окружающего пространства – ключевой фактор в развитии интеллекта, в том числе искусственного. Сегодня говорим про пространственный ИИ

ИИ – отличный инструмент, особенно в умелых руках, которые не действуют вперед головы. Однако если руки недостаточно умелые, получается шляпа.
У меня есть посты про риски, связанные с ИИ, и про безответственность компаний. Сегодня продолжим учиться на чужих ошибках.
В статье «12 famous AI disasters» собраны примеры неудачного внедрения ИИ в бизнес. Например, МакДональдс в 2021 году заключил договор с IBM на тестирование голосового помощника, который принимал заказы в МакАвто. В 2024 году проект пришлось свернуть из-за многочисленных жалоб покупателей: ИИ плохо понимал разные акценты и часто делал ошибки в заказах. Одна покупательница заказала воду и мороженое, а в довесок получила масло и кетчуп. Другой человек пытался заказать чай. Сначала ассистент добавил в его заказ чужой напиток, потом убрал и добавил взамен еще восемь чашек чая (видимо, в качестве моральной компенсации). Его старания никто не оценил.
Свернув сделку с IBM, МакДональдс заключил договор с Google Cloud.
В апреле 2024 года Grok – детище Илона Маска – написал публикацию о том, как известный баскетболист кидался кирпичами в Сакраменто и повредил несколько домов. Ошибка возникла из-за слишком буквального понимания выражения «throwing up bricks» (буквально – «подбрасывать кирпичи»). Применительно к баскетболу оно означает «попадать мимо кольца». Тот баскетболист накануне и правда сыграл так себе, но кирпичи ни в кого не кидал.
Эта история вряд ли повредит компании Маска, конечно, но многих она повеселила.
А вот компания-риэлтор Zillow потеряла 8 млрд. долларов рыночной стоимости, 300 млн. прибыли и около 2 000 рабочих мест. Их ИИ некорректно определил стоимость домов, которые были куплены слишком дорого и проданы слишком дешево. А все потому, что вместо проверенных временем инструментов в компании решили попробовать недоработанную новинку.

Довольно часто причинами критических ошибок становятся спешка, непроверенные данные и отсутствие в компании строгого подхода к работе с ИИ.
Все вокруг используют ИИ, конкуренция давит, и разработчики выпускают на рынок неготовый полуфабрикат, который ведет себя непредсказуемо. Он может быть не протестирован на достаточно большом наборе данных или на данных, близких к реальным. Пользователи могут использовать ИИ так, как не предполагали разработчики. У разработчиков может не быть плана на случай, если что-то пойдет не так. В итоге кто-то получит 260 куриных наггетсов, а кто-то будет незаслуженно обвинен в вандализме.

Там на vc новый пост вышел, посмотрите