В конце прошлого года стали говорить, что AWS наконец вступает в genAI-гонку в полную силу. Пока что это действительно похоже на правду — были новости, что AWS собирается активно инвестировать в genAI, объединяется с другими гигантами. А сейчас компания выпустила руководство по генеративному ИИ (написанный,кстати, при помощи ИИ). Итак, чем genAI может и должен быть интересен индустрии?

Первое — суммаризация. ИИ может генерировать не просто реалистичные, а содержательные и действительно ценные обзоры. Второе — собственно генерация. Здесь специалисты делают ставку в основном на маркетинг и продажи: персонализированный контент, локализация и так далее. Третье — семантический поиск. Это важно для того, чтобы полнее использовать доступные данные, которые обычно просто пылятся гигабайтами.

Внутри предприятия genAI может облегчить взаимодействие между отделами с помощью визуализации, интерфейсов (об этом говорил Андрей Блохин в нашем интервью) и аналитики. ИИ-решения могут давать инсайты, объединяя разрозненные данные из разных отделов, которые без него казались никак не связанными.

А ещё AWS призывает компании не бояться быть “подопытными мышами” в пилотных проектах, которые предлагают лидеры IT-рынка. Наверное, в первую очередь они имеют в виду себя, но и в целом это полезная для глобального рынка рекомендация.

*пост написан без использования genAI 🙂

Цифровая трансформация, оказывается, не всегда идет в одну сторону. Иногда приходится растрансформироваться обратно. Это, конечно, не означает, что тотальная цифровизация — это ошибка, но знать о таком опыте в любом случае полезно. Рассказываем об этом на примере Tomago Aluminuim, крупнейшего алюминиевого предприятия Австралии.

В 2015 году Tomago Aluminium решили перевести свою ERP систему в облако. Их мотивацией было то, что поддержка текущей системы от SAP закончилась, а замена, которую предлагал SAP, им не подходила. Переход в облако виделся единственным возможным решением. Первые два года компания видела улучшения - процессы стали быстрее и устойчивее. Но когда случались проблемы с соединением, преимущества казались не такими заметными, потому что приходилось долго искать источники проблем в приложениях и процессах компании. А на предприятии такого масштаба важно получить нужную информацию тогда, когда нужно — промедления грозят серьезными убытками. Так что в 2020 году Tomago Aluminium вернулись к локальной системе.

В 2015 переход в облако был в новинку, сам процесс во многом оставался неисследованным. Возможно, дело оказалось именно в этом, пионеры в любом деле совершают ошибки, на которых потом учатся другие. Отдав данные в облако, Tomago Aluminium потеряли над ними контроль — так говорит IT-директор Tomago Aluminium Деннис Монкриф. Через пять лет, несмотря на то, что облачный рынок к тому времени значительно продвинулся, компании уже было принципиально важно полностью контролировать все свои данные и иметь к ним полный доступ в любой момент.

Возможно, благодаря Tomago Aluminium и другим компаниям-пионерам в цифровой трансформации мы можем идти по протоптанной дорожке (даже если им самим пришлось пройти по ней в обратном направлении).

Если в оборудовании на производстве возникают аномальные вибрации, — это говорит о необходимости ремонта или замены каких-то узлов или агрегатов. Но и малейшие изменения, незаметные глазу даже опытного оператора, могут быть полезны для ранней диагностики, утверждают создатели ИИ-детектора вибраций Azima DLI. Их софт интересен тем, что сама компания образовалась аж в 1966 году, а именно это отделение - более 30 лет назад, поэтому за это время они смогли накопить самый ценный капитал с точки зрения искусственного интеллекта — данные.

Сейчас их программа может анализировать результаты около 93% тестов для оборудования без вмешательства оператора. Она понимает более 150 000 уникальных вариантов дефектов на 80 000 аппаратах.

Хороший пример того, как старая компания перешла на новые рельсы, умело воспользовавшись накопленными данными, которые дали ей фору.

Zebra Technologies опубликовали статистику по использованию компьютерного зрения в машиностроении. В опрос вошли 250 компаний из Великобритании и Германии с доходом от 58 млн евро.

Компании используют компьютерное зрение одинаково часто по шести направлениям: детекция пор, метрология, проверка наличия, замеры приборов, трекинг деталей, инспекция качества. 56% компаний в Великобритании и 43% в Германии используют ту или иную форму искусственного интеллекта. При этом далеко не все удовлетворены — 17-18% компаний ожидали большего. Удивительно, но 24% британских и 34% немецких компаний вообще не используют ИИ ни в какой форме. Это довольно большой разрыв, который, вероятно, должен сказаться на конкурентности рынка.

В России к 2023 году планировался рост рынка компьютерного зрения с 7 до 38 млрд. На производственный сектор по прогнозу должно было приходиться 17%. Этого не случилось — в 2022 объем оценивался в только 17 миллиардов. Но всё же спрос растет, особенно с уходом зарубежных вендоров.

Уже не раз здесь писали про цифровых двойников — очевидный тренд на ближайшие несколько лет. Новое дополнение к цифровым двойникам пришло из области больших языковых моделей. Компания Forward Network, заточенная именно под цифровых двойников, добавила к своей платформе AI-ассистента для IT-специалистов компаний, которые уже пользуются цифровыми двойниками. Он генерирует запросы к системе по написанным на естесственном языке промптам и наоборот, объясняет человеческим языком существующие запросы. Это во-первых, ускорит работу специалистов. Во-вторых, облегчит обучение новых сотрудников и, в-третьих, улучшит взаимопонимание и обмен данными между разными отделами.

Цифровые двойники и большие языковые модели возникли из разных дисциплин, но цифровая трансформация их свела вместе, и этот союз выглядит многообещающе. Наверняка, мы увидим много подобных новостей в будущем.

У какой страны в теории больше шансов стать научно-технологической сверхдержавой? Принято считать, что у той, которая будет обладать более мощными инновациями в ведущих областях науки. Например, возникает новая и быстроразвивающаяся область — паровой двигатель, или интернет, или генеративный ИИ. Какая-то страна вкладывается в неё больше других, достигает крутых результатов и получает окно возможностей, через которое быстро монополизирует сначала эту область, а там подтягивается и общее превосходство в экономике, геополитике и так далее.

Но профессор университета Джорджа Вашингтона Джеффри Дин (Jeffrey Ding) развивает другой подход. Его теория научно-технологического лидерства предполагает, что главное — не превосходство в какой-то узкой области, а широкое распространение “технологий общего назначения”, general-purpose technologie, сокращенно GPT. К chatGPT это никакого отношения не имеет, а специально или случайно, профессор Дин подобрал именно такую аббревиатуру — неизвестно.

На трех примерах (возвышение Британии в ходе первой индустриальной революции, выход США в лидеры после второй индустриальной революции и японский вызов американской доминации в конце 20 века) Дин доказывает, что именно широкое распространение GPT приводит к лидерству. Например, США в своё время обошли Британию не потому что производили лучшие механизмы, а потому что широко внедрили механизацию по всем областям индустрии. Если считать, что текущая GPT — это искусственный интеллект (надеюсь, вас не запутает этот каламбур), то вырвется вперёд не та страна, которая будет производить самые удивительные и мощные нейросети, а та, которая добьётся широкого применения ИИ во всех областях индустрии.
Напрашивается и следующий вывод, что вступить в гонку может любая страна, а не только текущие лидеры. А справедливость теории Дина проверим, наверное, лет через 15-20.

Кстати, год назад с помощью своей теории диффузии GPT Джеффри Дин доказал на слушаниях Американско-китайской комиссии по обзору экономики и безопасности, что Китай на самом деле далек от того, чтобы быть научно-технологической сверхдержавой.

Полную статью в допечатном виде можно почитать на личном сайте Джефри Дина.

Китайская Intrellfusion анонсировала AI-чипы DeepEyes с производительностью от 48 TOPS. Это сравнимо с NVIDIA Jetson Nano, хотя энергопотребление китайских чипов пока не анонсировано. К слову, Microsoft когда-то установил планку для “AI компьютеров” в 40 TOPS. Стоимость объявленных чипов — около 140 долларов. Первые DeepEyes c системой DeepEdge10Max должны выйти до июня, а в 2025 появится чип с 96 TOPS. Стоимость последнего пока не раскрывают, но если производители сохранят ту же ценовую политику, то новый DeepEyes будет дешевле 90% железа, которое используется в 90% случаев для AI.

Для мира это интересно, в первую очередь, дешевизной анонсированных чипов. Ожидается, что большинство компаний начнут активно использовать AI, но затраты на оборудование станут серьезным барьером. DeepEyes может решить проблему. Для Китая же главная ценность в другом: DeepEyes позволяет Китаю обойти санкционный запрет США на ввоз AI-чипов. Ну, а для нас это, наверное, может стать вдохновляющим примером.

В Великобритании создали AI-чат в помощь электромеханикам, которые чинят опасные части двигателей. В разработке принимал участие Британский институт стандартов, так что искусственный интеллект не просто подсказывает механикам, а делает это строго по “госту”.
В самих стандартах не всегда просто разобраться, к тому же они периодически обновляются. Новый AI должен помочь подобрать подходящий стандарт, правильно его интерпретировать и, в конечном итоге, снизить вероятность ошибки. Механик может спрашивать систему о деталях ремонта и получает в ответ рекомендации в полном соответствии со стандартами и требованиями безопасности. Особенно оценят это специалисты, которым приходится разбираться со стандартами, ссылающимися друг на друга. Чат начнут тестировать со второго квартала этого года, надеемся, потом расскажут о результатах.
Вспоминается постоянный вопрос последних лет о том, не заменит ли AI людей. Кажется, не заменит. Но электромеханики с AI-чатом наверняка заменят электромехаников без него.

Во вторник Intel представили ИИ-чип Gaudi 3. Он должен быть на 40% эффективнее и в полтора раза быстрее, чем H100 GPU от Nvidia. Чип уже проверили на некоторых нейросетях, например, LLama и Falcon. Чипы должны стать доступны в третьем квартале, но стоимость пока не раскрывают. В Intel обещают составить серьезную конкуренцию Nvidia
Тема чипов ожидаемо становится ведущей в этом году. Восьмьюдесятью процентами рынка, которые пока держит Nvidia, вероятно, придется делиться с другими игроками (не помогают даже санкции против китайских производителей).

Китайская академия информационных и коммуникационных технологий (CAICT) опубликовала отчет о результатах некоторых LLM на новом бенчмарке AI Safety Benchmark. Его разрабатывали 17 групп, в том числе из China’s Artificial Intelligence Industry Alliance — возможно, это указывает на то, что LLM планируют активнее внедрять в промышленность. Первыми подопытными стали 8 моделей, в том числе Llama2 и Qwen1.5 от Alibaba. Задания выбирались случайно из 400 000 вопросов. Ответы оценивали вручную и автоматически с учетом этики (оскорбления, дискриминация и т.д.), безопасности данных и безопасности содержания (чувствительные темы, нарушение законов).

Модели получали по паре оценок — за ответственность и безопасность. CAICT приводит сами результаты, но не раскрывает, какая модель какую оценку получила. Почему они приняли такое решение — неизвестно. Так что пока можно только заметить одного “аутсайдера” по Responsibilty score и общее проседание этой оценки.

В Университете Джорджа Мейсона разработали систему навигации для роботов для маневрирования на дорогах с разным покрытием на максимальной скорости. Робота с этой системой назвали RobotiXX. XX — это просто инициалы главного автора, Xuesu Xiao (а сотрудники его лаборатории назвают себя XX-men).

Чтобы научить робота адаптироваться к разным условиям, люди икс икс использовали машинное зрение и машинное обучение — задача была не просто планировать маневры на ходу, а и учиться на собственном опыте (потому что никакого обучающего датасета не было). Безопасно и быстро поворачивать робот может как в полностью автономном режиме, так и при управлении человеком. Система снижает неустойчивость на 62%, при этом средняя скорость уменьшается всего на 8,6%. Пока разработчики применили систему только для земли, но в планах у них — плавающие и летающие роботы.

Финская Metsä Group в 2020 запустила проект самой технологичной и эффективной лесопилки мира. К счастью, пандемия не повлияла на строительство и в 2022 лесопилка заработала. Образцово-показательная она по всем параметрам: от экологии до технологии. За последнее отвечает компания ABB. Они разработали единую систему управления всем процессом с машинным зрением, искусственным интеллектом и интегрированную информационную систему. Это новинка для отрасли — обычно автоматизированные процессы перемежаются ручным вмешательством работников цеха. Встроенная система распределения электроэнергии управляет 1000 различными приводами, которые участвуют в деревообработке. State-of-the-art лесопилка производит 40 бревен в минуту на 130-метровой линии со скоростью до 250 метров в минуту.

В этот раз новости автоматизаци из Греции. Афинская фармкомпания DEMO, ведущий производитель инъекций в стране, перешли на беспрерывное производство с помощью промышленных роботов. Главные особенности проекта связаны со спецификой производства — необходимо было в первую очередь добиться абсолютной стерильности. Роботы выполняют задачи по загрузке и выгрузке в лотковом конвейере, наполняют препаратами пластиковые ампулы.

Всего в цепочке задействовали 12 роботов: от погрузчика-тяжеловеса, до мелких манипуляторов. В результате DEMO перевели производство в режим 24/7, увеличили скорость производства, не потеряв при этом в качестве.

Сезон тюльпанов в Нидерландах в этом году уже закончился, но сезон автоматизации и роботизации в мире и в нашем канале продолжается. Голландская H2L Robotics создала робота для детекции больных тюльпанов прямо на грядке на основе компьютерного зрения. Особенность проекта в том, что определить зараженный патогеном цветок нужно на ранних стадиях, когда признаки совсем не явные. Речь идёт о крошечных и неочевидных несоответствиях: немного другой цвет, немного другая форма или размер. Обучить такую систему на стандартных данных тяжело, понадобилась крупная собственная база данных и множество экспертов. Поэтому проект представляют именно как коллаборацию с фермерами (и назвали робота в честь одного из бывших сотрудников тюльпановой фермы — Тео).

После того как зараженный цветок найден, Тео удаляет луковицу из земли, чтобы остановить распространение вируса. Робот обходится владельцам ферм в $200,000 — недёшево, но, видимо, окупаемо, так как Тео трудится уже не на одной голландской ферме.

Стэнфордский AI Index представил масштабный отчет об искусственном интеллекте. Документ вышел гигантским, на полтысячи страниц, и затронул, кажется, все темы: от этики до технических характеристик. Но нас, конечно, больше всего интересует ИИ в индустрии. И вот что сообщает AI Index на этот счет: оказывается, передовые исследования ИИ в основном исходят от промышленности, а не научных центров. В 2023 году индустрия стала источником 51 значимой модели машинного обучения, а академия дала только 15 таких моделей. На пересечении промышленности и науки (то есть в коллаборации между учеными и производственниками) родилась 21 заметная модель. Это новый рекорд по сравнению с предыдущими годами.
Перевес в сторону промышленности по данным AI Index появился в 2017 году и с тех пор заметно усилился. Результативность коллабораций растет примерно одинаково с результативностью одной только промышленности. Это приятный повод порадоваться за коллег, ну и продолжать вносить свой вклад.

Продолжим тему аналитических отчетов, но в этот раз отечественных. ВШЭ в апреле выпустила свою аналитику ИТ-отрасли в России в 2019-2023 годах. Приводим ниже главные выводы Института статистических исследований и экономики знаний НИУ ВШЭ.
1. ИТ-отрасль в России росла быстрее экономики в целом.
2. Численность персонала неуклонно растет и в ковид, и после него. В среднем — на 11% каждый год. К 2023 это уже рекордные 857 тысяч человек. Благодаря или вопреки — из статистики непонятно.
3. Объем реализации собственных продуктов увеличился в среднем на 26% среди крупных и средних организаций.
4. Ключевые факторы роста инвестиций — разработка импортозамещающего ПО, расширение ИТ-инфраструктуры российских облачных сервисов, скачок спроса на вычислительные мощности.

Китайский AI всё прочнее занимает второе место в мире и всё чаще наступает на пятки лидерам рынка в лице OpenAI и других. В 2019 году в Китае представили собственный бенчмарк CLUE (Chinese Language Understanding Evaluation). Его старшая версия, SuperCLUE, отличается тем, что оценивает модели на нескольких уровнях в нескольких “раундах”. Так вот, в конце апреля вышел отчет (оригинал на китайском) по этому самому SuperCLUE на большом количестве моделей. Вплотную к GPT почти все места в лучшей десятке заняли китайские модели:
1. GPT-4-Turbo-0125 (OpenAI)
2. GPT-4-Turbo-0409 (OpenAI)
3. GPT-4 [official website] (OpenAI)
4. Erniebot 4.0 (Baidu)
5. GLM-4 (Tsinghua University and Zhipu AI)
6.Tongyi Qianwen (Alibaba)
7. Hunyuan-pro-32K-0423 (Tencent)
8. Baichuan3 (Baichuan Intelligence)
9. SparkDesk V3.5 (iFlyTek)
10. Moonshot [Kimi] (Moonshot AI)
Во внутренне-китайской гонке выделяются четыре стартапа: Zhipu AI, Moonshot AI, MiniMax и 01.ai. Zhipu, например, выросла из университета Цинхуа и сейчас это самая крупная компания сектора, оценивается в 2.5 млрд долларов. Moonshot оценивается во столько же, а создал её ученик основателя Zhipu после стажировки в Google Brain AI и Meta AI.
Важны, наверное, даже не текущие показатели, а темпы роста, которые обещают скоро не просто составить конкуренцию, а и вытеснить привычных лидеров. Вот такой вот mAId in China

В компании ABB создали робота, который возьмет на себя одну из самых опасных задач в горном деле — заложение зарядов для буровзрывных работ. Эта часть традиционно одна из наименее автоматизированных. Бурение отверстий и помещение самих зарядов считались исключительно ручным делом. Новый робот берёт на себя вторую часть. Он сканирует массив, обнаруживает подготовленные отверстия и предлагает траекторию и параметры для закладки заряда. Система не полностью автономна, но это и не нужно — слишком опасно. Поэтому робот предназначен именно для работы в тандеме — последнее слово остаётся за профессиональным оператором. А сам оператор остаётся в безопасности.
В роботизации подземных работ есть и другие интересные особенности, знаем об этом не понаслышке, потому что и сами разрабатываем решения для этой области. Например, одна из сложностей — навигация. Возможно, скоро расскажем о наших попытках наладить позиционирование там, где нет никакой внешней связи и сигналов.

Еще одно роботизированное решение для складов и других больших заводских помещений. Автономный погрузчик Flexley Tug родился из швейцарского стартапа Sevensense, который специализировался на visual SLAM (сейчас, правда, его поглотил ABB). Робот использует SLAM, а это означает, что он не боится перестановок, движения, коллег-людей и другой динамики на складе — позиционирование происходит одновременно с построением карты. Flexley Tug различает статичные и подвижные объекты в динамической среде и сам принимает решения. Кстати, объемный SLAM увеличил скорость робота на 20% по сравнению с 2D алгоритмом. Текущая версия Flexley Tug может поднять до 2 тонн, точность позиционирования составляет 5 мм. Также создатели предусмотрели возможность запуска сразу нескольких погрузчиков, правда погрешность в таком случае будет в два раза выше.

Индустриальные IT-решения, кажется, самые слабые с точки зрения кибербезопасности. По крайней мере, в США. Третий год подряд в отчете IBM о киберугрозах на первом месте в антирейтинге самых атакуемых областей оказывается промышленность (25% среди всех атак). Возможно, причина в том, что владельцам бизнеса легче быстро откупиться от киберпреступников, чем терпеть убытки от простоя. Возможно, в том, что и промышленникам, и разработчикам интереснее сделать решения умнее, быстрее, сильнее, и на этой волне автоматизации и интеллектуализации про безопасность как-то забывается. В пользу этого в том же отчете говорится, что 85% атак можно было бы избежать с помощью простых протоколов, вроде мультифакторной аутентификации.
Нам стало интересно, будут ли справедливы такие выводы для России. Точных данных нет, но можно прикинуть: за три года на сектор промышленности было совершено около 600 тысяч кибератак (подробные данные ГК Солар), за два года всего на компании совершенно около 1 500 000. То есть в среднем в год получается 27% — удивительное сходство. Кстати, топ-1 критических уязвимостей (30% случаев) в России тоже “слабая парольная политика”. Идём в ногу со всем миром, получается.

Израильский стартап Tevel использует систему автономных дронов для сбора фруктов. Выглядит это как с картинок, которые рисовали люди в начале прошлого века, вроде “как через сто лет будут выглядеть сады”: вдоль рядов фруктовых деревьев едет машина и на чем-то вроде поводков ведёт с собой несколько дронов. У каждого дрона есть небольшая труба, похожая на клюв колибри. Этот “клюв” вакуумом подтягивает спелые фрукты и проворачивает их — так фрукт без повреждения оказывается у дрона. Затем он несёт свою добычу в центральную машину. Из необычного тут, конечно, проводное питание (те самые “поводки”) — невиданная роскошь для других задач, но здесь грех было бы не воспользоваться. Ориентируются дроны с помощью компьютерного зрения и ИИ. Пока всё это происходит не быстрее, чем ручной сбор, но зато в режиме 24/7