Малоизвестное интересное
65.4K subscribers
102 photos
1 video
11 files
1.81K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
​​Интеллектуальная вычислительная мощь Китая в 4 тыс раз больше России.
К 2030 отставание России может сократиться … до 3,5 тыс раз.

Эти кажущиеся бредом цифры следуют из сопоставления двух авторитетных источников.
1. Материалы стратегической сессии «Развитие искусственного интеллекта», проведенной правительством России 26 сентября 2023.
2. Совместный отчет International Data Corporation (IDC), китайского производителя серверов Inspur и Института глобальной промышленности Университета Цинхуа «2022-2023 Оценка развития вычислительной мощности искусственного интеллекта в Китае».

Первый из названных документов предполагает следующее:
• В России вычислительная мощность инфраструктуры исследований, разработок и применения ИИ вырастет с нынешних примерно 0.1 экзафлопса до 1 экзафлопса в 2027.
• Увеличение этого показателя к 2030 возможно лишь теоретически, «благодаря прогрессу в области GPU» (что это за прогресс, чей прогресс и за счет чего, - в материалах не указано).
• Рассуждая же практически, 1 экзафлопс вычислительной мощности может так и остаться непревзойденным максимумом вычислительной мощности российской ИИ инфраструктуры вплоть до 2030 (хотя потребности вычислительной мощности инфраструктуры ИИ к тому времени составят 6,2 экзафлопса).

Второй из вышеназванных документов сообщает и предполагает абсолютно несравнимые по масштабу цифры:
• Сейчас (в 2023) вычислительная мощность инфраструктуры исследований, разработок и применения ИИ в Китае составляет около 427 экзафлопсов.
• Планируется, что к 2026 эта величина вырастет до 1271 экзафлопса.
• К 2030 году, как легко подсчитать самостоятельно на основе приведенных в отчете данных, вычислительная мощность инфраструктуры исследований, разработок и применения ИИ может составить в Китае примерно 3550 экзафлопса (или 3,55 зетафлопса).

Также напомню, что в США вычислительная мощность инфраструктуры исследований, разработок и применения ИИ сейчас, где-то на 30-40% больше, чем у Китая (а к 2030 США планируют оторваться примерно в 2 раза за счет экспортных ограничений на микроэлектронику).

В заключение, мне остается лишь с сожалением заметить вот что.
Зря глава Сбера Герман Греф не начал свой 1й доклад на стратегической сессию с уже цитировавшегося им ранее анекдота про снаряды:
«Здесь как в том анекдоте: назовите три причины, почему следует отступить? Причина первая: у нас нет снарядов. Вот так же и здесь: у нас нет такого количества снарядов».
Ведь и с развитием ИИ то же самое: если нет и не планируется в России обретение ИИ инфраструктуры, обладающей хоть как-то сопоставимой вычислительной мощностью, обсуждать пути преодоления остальных шести вызовов (что обсуждались на сессии) нет смысла.
Об этом я предупреждаю уже не один год в своих постах под грифом «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке»

#ИИ #Компьютинг #Россия #Китай
​​Революция в Голливуде, скандал на президентских выборах, люди окончательно проиграют ИИ во всем.
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.

В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.

Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.

Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?

Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)

В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.

В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха

Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
​​451 градус по Фаренгейту Китаю не потребуется.
Новый закон о переформатировании ноосферы путем ее редактирования генеративным ИИ.

После этого переформатирования в ней не будет ни Винни-Пуха, ни много кого и чего еще.
В Китае опубликованы «Основные требования к безопасности служб генеративного ИИ». Проект закона вступит в силу до конца года.
Документ устанавливает, какие применения генеративного ИИ будут считаться незаконными в Китае со всеми вытекающими репрессивными последствиями.

Незаконными будут признаваться применения любого генеративного ИИ, если для его обучения был использован обучающий набор данные, содержащий более 5% «незаконного и вредного» контента.

Напомню, что «вредным контентом» в Китае считается вся информация, блокируемая Великим китайским файрволом.

Это значит, что со следующего года:
✔️ вся ноосфера Китая (коей, по сути, уже стал китайский сегмент Интернета), со всей содержащейся в ней информацией о прошлом (историческая информация), настоящем (актуальная информация) и будущем (прогнозная аналитика и публицистика и литература), - подвергнется переформатированию путем изымания из нее «вредного контента»;
✔️ процесс переформатирования будет происходить постепенно, по мере расширения использования нового инструментария форматирования, - коим, по закону, станет генеративный ИИ;
✔️ исполнителями форматирования станут разработчики моделей генеративного ИИ;
✔️ контроль за результатами форматирования будет у государства.

Судя по планам разработчиков, касающихся тотального включения инструментов генеративного ИИ практически во все классы приложений, для полного переформатирования ноосферы Китая (без Винни-Пуха и много кого и чего еще) может хватить всего нескольких лет.

#Китай #ИИ
​​Возможен ли брак по расчету в аду?
Новая переоценка вариантов: ловушка Фукидида с ядерной войной или биполярный мир Глобального Большого Брата.

Опубликованный Foreign Affairs меморандум двух политических супертяжеловесов Генри Киссинджера и Грэма Аллисона – это, по сути, открытое письмо президенту Байдену и председателю Си с призывом незамедлительно начать совместные действия по предотвращению мировой катастрофы.

Три года назад был опубликован самый неожиданный и жуткий прогноз на десятилетие 2020х – мир избежит ловушки Фукидида ценою брака, заключенного в аду.
Этот прогноз из эссе Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?» вытекал из анализа 2х альтернатив:
• либо гонка в области ИИ заставит США и Китай попасть в «ловушку Фукидида» - неотвратимость тотальной войны между страной, теряющей статус сверхдержавы №1, и её соперницей, грозящей отобрать этот статус;
• либо США (а за ними и весь демократический мир Запада) согласятся принять новый образец устройства общества по-
китайски – Глобального Большого Брата, – как решение обеих главных проблем любого современного государства – противодействие изнутри и обеспечение международного мира.

В 2021 доклад Комиссии США по национальной безопасности в вопросах ИИ, возглавляемой экс-директором Alphabet Эриком Шмидтом и экс-замминистра обороны США Бобом Уорком рекомендовал США отказаться от пренебрежения западных свобод вследствие «бракосочетания в аду» США и Китая.

Однако, произошедшая в 2023 революция генеративного ИИ, заставила «группу влиятельных политконсультантов и технологических лидеров, находящихся на переднем крае революции ИИ» (в их числе и Шмидт с Уорком, и Киссинджер с Аллисоном) пересмотреть свою рекомендацию.

В подписанном Киссинджером с Аллисоном «открытом письме» они пишут – «перспективы того, что ничем не ограниченное развитие ИИ приведет к катастрофическим последствиям для Соединенных Штатов и всего мира, настолько убедительны, что лидеры правительств должны действовать сейчас».
Авторы «открытого письма» пишут следующее.
• Проблемы, связанные с ИИ сегодня, – это не просто вторая глава ядерной эры. Риски ИИ для человечества, возможно, превышают риски ядерного оружия.
• Но различия между ИИ и ядерным оружием не менее значительны, чем сходства. И потому здесь нельзя воспользоваться старыми решениями.
• Все существующие предложения (о паузе в разработке ИИ, о полной остановке развития ИИ, чтобы ИИ контролировался глобальным правительственным органом), по сути, повторяют предложения ядерной эры, которые потерпели неудачу. Причина в том, что каждое из этих предложений требует от ведущих государств отказаться от первенства собственного суверенитета.
• На данный момент есть только две сверхдержавы в области ИИ, и только они способны понизить риски ИИ
• Окно возможностей для разработки руководящих принципов предотвращения наиболее опасных достижений и применений ИИ крайне узко. Действовать нужно незамедлительно.

И поэтому президент США Джо Байден и председатель КНР Си Цзиньпин должны воспользоваться возможностью начать совместные действия, проведя саммит по проблеме ограничения рисков ИИ — возможно, сразу после встречи Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско в ноябре.

Иными словами, эти предложения можно суммировать так:
✔️ Т.к. ада (колоссального роста технологических рисков) все равно не избежать, нужно попытаться устроиться там с максимальным комфортом.
✔️ И если для этого нужен «брак по расчету» между США и
Китаем, значит надо не затягивать с этим браком.
#США #Китай #ИИгонка
Сверхразум на Земле будет один - американский.
Новые экспортные ограничения США лишают
Китай конкурентных шансов, как минимум, до 2030.
США пошли на беспрецедентный шаг. Объявленные новые правила экспортного контроля – это уже не «удушающий прием», а удар ломом по голове.
Новые правила (см. 1) запрещают продажу центрам обработки данных китайских компаний, высокопроизводительных чипов с вычислительной мощностью более 300 терафлопс (триллионов операций в секунду). Для чипов с вычислительной мощностью 150-300 терафлопс, продажа будет также запрещена, если «плотность вычислительной мощности» на квадратный миллиметр кристалла превышает 370 гигафлопс (миллиардов операций в секунду). Чипы, попадающие в этот диапазон вычислительной мощности, но с более низкой «плотностью вычислительной мощности», будут в «серой зоне», что потребует от их американских производителей уведомления правительства о продажах в Китай.

Чтобы оценить сокрушительную силу этого удара, взгляните на приложенную ниже диаграмму из недавнего отчета «2022-2023 Оценка развития вычислительной мощности искусственного интеллекта в Китае».
На диаграмме показаны доли рынка чипов ИИ в Китае. Голубой сегмент размером 89% - это графические процессоры (GPU), производимые такими компаниями, как NVIDIA, AMD и Intel, ставшие незаменимыми для обучения больших моделей ИИ. По ним и нанесен удар, обрушающий 89% вычислительной мощности ИИ-систем Китая.

• Конечно, произойдет это не сразу, т.к. некоторые запасы GPU в Китае есть. Однако, все планы по ускоренному выходу Китая на уровень США спущены в унитаз.
• Встать после такого нокаута Китай не сможет, как минимум, до 2030 (когда запланировано наладить собственное производство чипов такой вычислительной мощности).
• Серый импорт высокопроизводительных чипов не поможет Китаю. Серого импорта таких объемов не бывает. Напр. до сего дня доля поставок GPU короля этого рынка компании NVIDIA составляла 25% ее мировых поставок. Теперь этот рынок и десятки миллиардов долларов потеряны.

США пошли на столь высокую плату, дабы окончательно подрезать крылья намерениям Китая стать сверхдержавой №1 в главной технологии 21 века. И этот беспрецедентный шаг со всей очевидностью вытекает из принятого в США решения – во что бы то ни стало стать первым на земле обладателем сверхразума (см. 2).

1 https://www.bis.doc.gov/index.php/documents/federal-register-notices-1/3354-10172023-public-inspection/file
2 https://t.me/theworldisnoteasy/1807
#Китай #США #ИИ #ЭкспортныйКонтроль
Китай слился или это хитроумная и коварная ловушка для США.
22 октября на главном форуме 25-го ежегодного собрания Китайской ассоциации науки и техники, проходившего в городе Хэфэй, провинция Аньхой, Китайская ассоциация науки и техники определила 3 перечня приоритетных ключевых научных, инженерно-технических и промышленно-технических проблем Китая
https://mp.weixin.qq.com/s/TU1mgIl7EXdncHBIPy8Njg


Сенсация в том, что генеративного ИИ (абсолютного приоритета США) в этих перечнях нет. Вообще!

Что касается ИИ, то он упомянут единожды. В научной проблеме – «как добиться низкоэнергетического искусственного интеллекта».

Значит ли это:
1. что
Китай, поняв невозможность конкуренции с США в генеративном ИИ, после тотального экспортного запрета на высокопроизводительные чипы для ИИ, просто слился в конкуренции за первенство в ИИ с США?
2. или же
Китай, осознав, что генеративный ИИ – это путь в цивилизационную пропасть, окончательно решил уступить дорогу к ней США, -
не ясно.


И о том, и о другом я писал:
• про 1 «Сверхразум на Земле будет один - американский. Новые экспортные ограничения США лишают Китай конкурентных шансов, как минимум, до 2030» https://t.me/theworldisnoteasy/1827
• про 2 «Противостояние США и Китая: если противник движется к самоубийству, просто не мешайте ему» https://t.me/theworldisnoteasy/981

Я потратил 4 дня на анализ, пытаясь понять, что означает это решение Китая. Увы, окончательного вердикта у меня нет.
Скорее, - это п. 2. Но возможно, я переоцениваю стратегическое визионерство КПК.

В любом случае, ознакомьтесь с тремя перечнями приоритетных ключевых проблем Китая, включив автоперевод 1й ссылки.

P.S. Забавно, что об этом пока не пишут главные СМИ.
Ибо никто не понимает этой чрезвычайно тонкой игры
Китая. Даже мои российские коллеги, работающий в ведущих научных центрах Китая.
#Китай #ИИ
Китайский генеративный ИИ вырывается вперед.
Он уже способен обобщать романы, размером с «Анну Каренину» (хотя пока не дотягивает до «Войны и мира»)

Споры о понимании больших сложных текстов моделями генеративного ИИ легко разрешаются на практике. Достаточно попросить модель обобщить какой-либо из больших сложных текстов, который вы загрузите в неё. И сравнить результат с обобщением, сделанным вами самостоятельно, используя исключительно ваш собственный интеллект.

Главное ограничение современных моделей при решении таких задач – размер текста, который ей нужно обобщить.
Дело в том, что понимание текста определяется не только самим текстом – содержащихся в нем отдельных слов и фраз, - но и из контекста, в котором эти слова и фразы используются. И если интеллект (искусственный или человеческий) не может при обобщении сопоставить написанное на 1й и на 300й страницах текста, то хорошего обобщения не получится.

Люди так могут. Наше «контекстное окно» огромно. Мы можем прочесть 10 томов эпопеи «Красное колесо» Солженицына и обобщить их всего на одной странице.
Однако, даже самая продвинутая из американских моделей Claude 2 от Anthropic имеет «контекстное окно» размером 100 тыс токенов – это примерно 75 тыс слов. Следовательно, обобщить текст размером с роман Толстого «Анна Каренина» она не в состоянии.

А вот объявленная вчера новая большая языковая модель Baichuan2-192k от китайского стартапа Baichuan имеет «контекстное окно» около 350 тыс иероглифов. И это, примерно равно длине перевода романа «Анна Каренина» на китайский.

До размеров «Войны и мира» (на китайском это, примерно, 560 тыс иероглифов) модель пока не дотягивает. Но, тем не менее, Anthropic и OpenAI, не говоря уж о Google и Microsoft, наверняка, крепко озадачились. Ведь если и дальше так пойдет, смогут ли экспортные ограничения на микрочипы сдержать спурт китайских стартапов?
Может статься ведь, что не «железом» единым куется победа в гонке генеративного ИИ.

Подробней https://www.scmp.com/tech/tech-trends/article/3239849/chinese-ai-start-baichuan-claims-beat-anthropic-openai-model-can-process-350000-chinese-characters
#LLM #ИИгонка #Китай
Китай догнал США по ИИ и к лету обещает обойти.
Китайские языковые модели догнали GPT-4, и теперь главный вопрос - сможет ли OpenAI до лета выпустить GPT-5 или
Китай уйдет в отрыв.
Январь 2024 оказался для Китая триумфальным в области ИИ. Триумф этот и количественный, и качественный.

Количественный: среди 150+ больших языковых моделей (LLM) китайского производства (для справки, в России таких 4), 40 прошли госпроверку и уже доступны для широкого применения [1]

Качественный: две китайских LLM вплотную приблизились по большинству показателей к самой мощной в мире последней версии GPT-4 Turbo.
Это:
iFlyTek Spark 3.5 LLM от компании iFlyTek, достигшая 96% производительности GPT-4 Turbo в кодировании и 91% GPT-4 в мультимодальных возможностях [2]
ChatGLM4 от компании Zhipu: базовые возможности на английском языке составляют 91-100% от GPT-4 Turbo [3], а на китаяском языке 95-116% от GPT-4 Turbo [4] (подробней здесь [5])

И iFlyTek, и Zhipu объявили о запланированных к лету выпусках новых версий своих LLM, которые будут на 20-60% сильнее.

И если OpenAI не успеет в те же сроки выпустить GPT-5, то ситуация на шахматной доске мировой конкуренции в области ИИ может кардинально измениться. Дело в том, что компании США всегда были лидерами в этой области. Насколько удачно они смогут конкурировать в роли догоняющих, не знает никто.

N.B. И iFlyTek, и Zhipu заявляют, что их модели оптимизированы для работы на китайском «железе». Если это правда, то главный «удушающий прием» со стороны США – запрет на экспорт мощного ИИ-«железа», - Китай сумел обойти. Следствие этого будет стратегический перелом в ИИ гонке США и Китая. Что даже круче тактического превосходства в производительности отдельных моделей.
#ИИгонка #США #Китай #LLM
1 https://www.scmp.com/tech/tech-trends/article/3250177/china-approves-14-large-language-models-and-enterprise-applications-beijing-favours-wider-ai
2 https://www.ithome.com/0/748/030.htm
3 https://pic2.zhimg.com/80/v2-8aa028205cd53693af8f324029c62fa5_1440w.webp
4 https://pic2.zhimg.com/80/v2-8aa028205cd53693af8f324029c62fa5_1440w.webp
5 https://sfile.chatglm.cn/zp-story.pdf
Когда первое лицо государства начинает говорить лозунгами – это плохой признак для страны.
Вот и этот новейший лозунг Председателя Си – «Новые производительные силы, которые отличаются высокой технологией, высокой эффективностью и высоким качеством» (на средней картинке), – вполне в духе старого советского лозунга «Дать продукции больше, лучшего качества, с меньшими затратами!» (на плакате слева).

Как это было на практике в СССР, - теперь хорошо известно.
Весьма вероятный вариант реализация нового лозунга Председателя Си – на фото справа)
#Китай
В Китае считают, что лидерство США в ИИ может оказаться иллюзией.
Крупнейшей индустриальной системой
Китая уже год управляет ИИ.
Уже 3 года назад Китай сделал США, как бог черепаху, в трех важнейших отраслях, основанных на критических технологиях: платежные платформы, технологии связи 5-гопоколения (5G) и высокоскоростные железные дороги [2].
Согласно опубликованной SCMP вчера информации, четвертой основанной на критических технологиях отраслью, в которой Китай превзошел США, стало … промышленное использование ИИ.

В публикации корреспондента SCMP в Пекине Стивена Чена [1] рассказывается о выводах экспертов Китайской академии железнодорожных наук (CARS), опубликованных в большом академическом рецензируемом журнале China Railway Science [3].
Эти выводы можно резюмировать так.

1) Китай вот уже год, как использует ИИ для предиктивного управления эксплуатацией своей сети высокоскоростных железных дорог. Это крупнейшая в мире высокотехнологичная инфраструктурная система протяженностью 45 000 км.
2) Центр ИИ-технологий в Пекине обрабатывает огромные объемы данных в режиме реального времени со всей страны и может с 95%-ной точностью предсказывать возникновение нештатных ситуациях и предупреждать о них бригады техобслуживания не позже, чем за 40 минут до их прогнозируемого возникновения.
3) В результате таких предсказаний, за 2023 ни на одной из действующих высокоскоростных железнодорожных линий Китая не случилось ни одного инцидента, потребовавшего снижения скорости составов из-за серьезных проблем с путями, а количество мелких неисправностей путей сократилось на 80 процентов по сравнению с предыдущим годом (до ИИ).
4) По мнению экспертов, ИИ не только может прогнозировать и выдавать предупреждения до того, как возникнут проблемы, но и обеспечивает точное и своевременное техобслуживание, что позволяет поддерживать инфраструктуру высокоскоростных железнодорожных линий в лучшем состоянии, чем при сдаче в эксплуатацию.

Этот мега=проект Китая демонстрирует разницу подходов к внедрению ИИ в США и Китае. Китайские эксперты формулируют эту разницу примерно так:
• в США ИИ-системы учат лишь хорошо говорить в онлайне,
• а в Китае – хорошо работать в реальном мире.
«Если США смогут превратить технологии типа ChatGPT и Sora в дающие ощутимую отдачу в реале, у них появится потенциал сохранить свою лидирующую позицию в мире. В противном случае лидерство окажется иллюзией» - добавил один из китайских экспертов.

Для справки
1) Для обучения этой ИИ-системы были использованы 400 терабайтов необработанных данных: включая значения динамических сигналов, зафиксированных датчиками колес, записи движений кузова поезда, вибрации рельсов и метеорологические записи, колебания амплитуд тока электросети и даже записи мониторинга электромагнитного спектра). До внедрения алгоритмы ИИ прошли тщательную проверку человеком, чтобы гарантировать их безопасность
2) Высокоскоростная железная дорога
Китая является самой быстрой в мире, ее скорость составляет 350 км/ч, а в следующем году планируется увеличить ее до 400 км/ч. Ожидается, что сеть продолжит свое быстрое расширение, пока не соединит все города с населением более 500 тыс человек.

1 https://www.scmp.com/news/china/science/article/3255039/china-puts-trust-ai-maintain-largest-high-speed-rail-network-earth
2 https://t.me/theworldisnoteasy/1246
3 https://www.railjournal.com/tag/china-railway/
#Китай #США #Экономика #Технологии