Если спросить большую языковую модель: "Как ты пришла к этому результату?" – она ответит. Но стоит ли ей верить?
Спойлер: нет

Восприятие окружающего пространства – ключевой фактор в развитии интеллекта, в том числе искусственного. Сегодня говорим про пространственный ИИ

ИИ – отличный инструмент, особенно в умелых руках, которые не действуют вперед головы. Однако если руки недостаточно умелые, получается шляпа.
У меня есть посты про риски, связанные с ИИ, и про безответственность компаний. Сегодня продолжим учиться на чужих ошибках.
В статье «12 famous AI disasters» собраны примеры неудачного внедрения ИИ в бизнес. Например, МакДональдс в 2021 году заключил договор с IBM на тестирование голосового помощника, который принимал заказы в МакАвто. В 2024 году проект пришлось свернуть из-за многочисленных жалоб покупателей: ИИ плохо понимал разные акценты и часто делал ошибки в заказах. Одна покупательница заказала воду и мороженое, а в довесок получила масло и кетчуп. Другой человек пытался заказать чай. Сначала ассистент добавил в его заказ чужой напиток, потом убрал и добавил взамен еще восемь чашек чая (видимо, в качестве моральной компенсации). Его старания никто не оценил.
Свернув сделку с IBM, МакДональдс заключил договор с Google Cloud.
В апреле 2024 года Grok – детище Илона Маска – написал публикацию о том, как известный баскетболист кидался кирпичами в Сакраменто и повредил несколько домов. Ошибка возникла из-за слишком буквального понимания выражения «throwing up bricks» (буквально – «подбрасывать кирпичи»). Применительно к баскетболу оно означает «попадать мимо кольца». Тот баскетболист накануне и правда сыграл так себе, но кирпичи ни в кого не кидал.
Эта история вряд ли повредит компании Маска, конечно, но многих она повеселила.
А вот компания-риэлтор Zillow потеряла 8 млрд. долларов рыночной стоимости, 300 млн. прибыли и около 2 000 рабочих мест. Их ИИ некорректно определил стоимость домов, которые были куплены слишком дорого и проданы слишком дешево. А все потому, что вместо проверенных временем инструментов в компании решили попробовать недоработанную новинку.

Довольно часто причинами критических ошибок становятся спешка, непроверенные данные и отсутствие в компании строгого подхода к работе с ИИ.
Все вокруг используют ИИ, конкуренция давит, и разработчики выпускают на рынок неготовый полуфабрикат, который ведет себя непредсказуемо. Он может быть не протестирован на достаточно большом наборе данных или на данных, близких к реальным. Пользователи могут использовать ИИ так, как не предполагали разработчики. У разработчиков может не быть плана на случай, если что-то пойдет не так. В итоге кто-то получит 260 куриных наггетсов, а кто-то будет незаслуженно обвинен в вандализме.

Там на vc новый пост вышел, посмотрите

Воскресный пост, на сей раз о том, как люди с ИИ взаимодействуют.
На самом деле, это огромная тема, я ее здесь совсем немного пощупала, но в будущем постепенно буду ее раскрывать

У истоков современного ИИ стояло множество блестящих ученых, и сегодняшний пост я хочу посвятить одному их них – Андрею Андреевичу Маркову. Андреев Андреевичей Марковых двое: отец и сын (с интересным чувством юмора). Причем оба математики и оба внесли вклад в науку.
Я буду рассказывать про работу Маркова-отца.

Он работал над теорией вероятностей и открыл целую группу вероятностных процессов, названных его именем. Сегодня эти процессы широко применяются в ИИ: например, текстовые подсказки, которые появляются при наборе сообщения – это работа цепей Маркова.

Цепь Маркова – частный случай марковского процесса. Давайте начнем с процесса.
Марковский процесс – это случайный процесс, в котором будущее состояние зависит только от текущего, но не от предыдущих. Классический пример, который обычно приводят в учебниках – предсказание погоды. Допустим, если сегодня солнечно, то с вероятностью 80% завтра тоже будет солнечно, а с вероятностью в 20% завтра будет дождь. Если сегодня дождь, завтра будет дождь с вероятностью 80%. Какая погода была вчера, нам не важно.
Логичный вопрос: но ведь на сегодняшнюю погоду повлияла вчерашняя, так почему она не имеет значения? Логичный ответ: сегодня мы можем измерить все факторы, которые повлияют на погоду завтра, так зачем усложнять? Если мы имеем дело с погодными явлениями, которые имеют сложную природу и развиваются в течение нескольких дней, конечно, важно изучать данные за период. Это касается прогнозов развития ураганов и наводнений, например.
Поскольку подобные события иногда происходят, в реальности для предсказания погоды используется совокупность разных инструментов, а не только марковские процессы.

Еще один пример – предсказание перехода пользователя по ссылкам на веб-странице. Алгоритм PageRank от Google, который сортировал страницы в поисковой выдаче, использовал марковский процесс. Предполагается, что переход пользователя по следующей ссылке не зависит от всей истории его переходов по разным страницам. Он видит страницу, на странице есть ссылки, с какой-то вероятностью он кликнет на одну из них. Что там было полчаса назад, не имеет значения.
Сейчас PageRank заменен на набор более продвинутых алгоритмов, но он продержался долго и стал важной вехой в развитии поисковых систем.

Марковские процессы могут происходить в дискретном или непрерывном пространстве времени и в дискретном или непрерывном пространстве состояний.
Дискретное пространство имеет счетный набор значений (например, «сегодня», «завтра» или «дождливо», «солнечно»). В непрерывном пространстве счетного набора значений нет. Например, если мы говорим о радиоактивном распаде вещества, мы можем замерить его состояние через секунду, через полсекунды, через четверть секунды и так далее – в любой случайно взятый момент времени.
Цепи Маркова – это марковские процессы в дискретном пространстве времени и состояний. Примеры про погоду и PageRank – это как раз цепи. С их помощью еще можно генерировать текст и изображения, они описывают броуновское движение и вообще крайне полезны в самых разных областях науки.

У меня как-то был учебный проект, в котором мы с командой с помощью цепей Маркова предсказывали поведение лабораторных мышей и искали закономерности. Мы использовали скрытую марковскую модель – это когда процесс внешне похож на марковский, но часть параметров неизвестна. У мыши что-то происходит в мозгу – мышь чешется. Мы видим, что она чешется, но не видим, что происходит в мозгу. Потом она, например, ложится спать – тоже потому что что-то произошло в мозгу. Задача заключается в том, чтобы взять мышь, взять электроэнцефалограмму и попробовать на основе ее (мыши) поведения понять, что происходит в мозгу.

В общем, на века вперед человек работал и заслуживает уважения.

У меня недавно был пост про то, как большие языковые модели говорят одно, а делают другое. Там был пример с игрой «камень-ножницы-бумага»: на словах модель понимает, что, если оппонент всегда выбирает камень, надо всегда выбирать бумагу, а на деле совершает выбор так, чтобы число выборов для камня, ножниц и бумаги было примерно одинаковым. И вот этой бестолочи мы доверяем написание заявки на грант? Или письма коллегам, или раздела диссертации. Кто-то консультируется с ИИ по юридическим вопросам или просит объяснить сложные понятия. Разные метрики, на которых тестируют языковые модели, показывают впечатляющие результаты, а потом на примитивных зачах вылезает такой вот опус. Так есть ли смысл во всех этих метриках вообще?

Тут новый пост подъехал (простите за заголовок, не удержалась)

Я тут ✨закончила обучение✨ в HCAII на курсе про то, как делать ИИ комфортным, безопасным, надежным и полезным для людей. Это важное для меня направление развития, потому что я люблю ИИ, но еще больше люблю людей и хочу будущее, в котором люди будут чувствовать себя комфортно.
Пускай это выглядит несколько наивно-мечтательно, но маленькие шаги могут иметь большие последствия.

Разговоры про этику и безопасность будут, и я думаю над тем, как сделать их интереснее и как вас в них вовлечь 🙂

Есть такое понятие "инфраструктура-как-код". Это один из удобных инструментов для разработки приложений, в том числе на базе ИИ.
Давайте я вам про него расскажу

Решила поделиться своим опытом учебы в магистратуре, вдруг кому пригодится 🤓