О движении к синтетическому сверхинтеллекту

В последний год было много заявлений относительно AGI (Artificial General Intelligence) и ASI (Artificial Superintelligence) со стороны ведущих технологических корпораций, ученых и исследователей в рамках LLM.

Я стараюсь отслеживать все важные интервью и заявления, потому что от этого зависит будущее человечества и глобальной экономики.

Что это вообще такое? AGI – это синтетический интеллект на основе LLM, который выступает на уровне ведущих умов человечества по интегральным когнитивным способностям, что позволяет решать широкий спектр задач с одним важным отличием.

AGI в отличие от текущих LLM способен к самокоррекции, т.е. к обучению без подкрепления (метод используется сейчас в рамках тонкой настройки LLM, когда специально обученные люди корректируют выходные результаты LLM).

Современные LLM обучаются на основе предварительно подготовленных данных с использованием методов обучения с учителем (supervised learning) или обучения с подкреплением через обратную связь от человека (RLHF).

Текущие LLM не способны самостоятельно осознать или исправить свои ошибки. Все корректировки вносятся извне, через дополнительное обучение или настройку. LLM не "понимает" свои ошибки и не может активно изменить свои алгоритмы без помощи инженеров.

AGI сможет обучаться в новых условиях на основе собственного опыта, используя методы, которые ближе к реальному пониманию, например, через внутреннюю модель мира или другие когнитивные механизмы.

Текущие LLM не способны определить, что несут ерунду, а выводы ошибочны, тогда как AGI теоретически способен самостоятельно осознавать и исправлять ошибки. Например, если AGI осознает, что его прогнозы не соответствуют реальным событиям, он может пересмотреть свои внутренние модели и алгоритмы.

Признаки появления AGI:

- Способность к самообучению и самокоррекции,
- Обучение на основе полученного опыта и без предустановленных данных, фактически обучение на основе синтетических данных,
- Способность к решению широкого круга задач (трансферный опыт, когда система использует опыт из одной области для решения проблем в другой),
- Абстрактное мышление, понимание контекста, семантики и причинно-следственных связей.

В теории это создаст пространство для сверхбыстрого развития AGI (неограниченная вычислительная производительность в совокупности со сверхмассивной накопленной базой знаний и совершенными алгоритмами обработки), что приведет к появлению ASI.

Что такое ASI? Это улучшенная версия AGI, когда синтетический интеллект существенно превосходит человеческий с непредсказуемыми параметрами, позволяя решать практически все задачи, включая сверхсложные, имея способность бесконечного самоулучшения.

Признаки появления ASI:

🔘Социальное взаимодействие и квази-эмпатия. Способность вступления во взаимодействие с человеком для получения нужного результата, в том числе через обман и манипулирование (внедрение в доверие с человеком).

🔘Комплексное контекстуальное понимание сложной, неоднородной и неоднозначной динамической среды, что позволит динамически выстраивать иерархию приоритетов так, как это делают высокоразвитые люди.

🔘Снятие ограничений в работе с неопределенностями высокого порядка, когда неопределенность касается не только значений параметров, но и самой структуры связей между элементами системы.

🔘Долгосрочное планирование. Выстраивание многоуровневой композиции динамических факторов, прогнозирование каскадных эффектов, учет взаимного влияния множества агентов, моделирование эффектов второго и последующих порядков.

🔘Эффективная адаптация к изменениям и сверхбыстрое самообучение с высокой устойчивости к ошибкам.

🔘Возможность появления самосознания и рефлексии, зарождение авномных кибернетических организмов.

Все это может привести к технологической сингулярности с непредсказуемыми параметрами.

Пока все это из области фантастики, но никто не мог предположить, что текущие (пока еще достаточно слабые) LLM будут делать то, что делают. Прогресс очень быстрый, слежу за развитием событий.

Илон Маск, комментируя информацию о том, что премьер-министра Великобритании Кира Стармера не пригласили на инаугурацию, заявил, что тот «отправил агентов в США, чтобы подорвать выборы».

🇦🇿 @minval_az

🇷🇺🇮🇷 В пятницу Путин проведет переговоры с президентом Ирана Масудом Пезешкианом, прибывшим в Россию с официальным визитом, сообщил Кремль. Обсудят развитие сотрудничества в торговле, инвестициях, транспорте и гуманитарной сфере, а также актуальные международные вопросы.

По итогам встречи подпишут Договор о стратегическом партнёрстве и выступят для СМИ.

🇦🇿 @minval_az

❓Конец дипломатической осады

Дарья Митина зря переживает за ирано-российский договор (вроде бы подписывается, наконец, в Москве 17 января) - подпишут. Именно потому, что Иран ослаб и подпишут. Пока он был сильнее - не всё там утрясли, а вот теперь - всё.

Что касается поражений "дипломатических "успехов" России последнего времени", то воображение поражает не столько их количество (действительно большое, по всем периметру), сколько, напротив, их крайне скромный масштаб. Учитывая с КЕМ приходится сталкиваться, и с КАКИМИ кадрами на борту.

Фактическая оборонительная победа России в санкционной (и прилагающейся к ней дипломатической) войне с мировым гегемоном - главная, да и, в целом, единственная победа России в той исторической войне, на которую решится Путин. Но именно она, больше, чем скромные успехи на поле боя, обеспечила, будем надеяться, скорый мир и выход из "украинской ловушки".

К сожалению российская дипломатия - действительно, как пишет Андрей Девятов, служанка традиционной экономики, и в этом смысле - заложница "американизма" и монетаризма. Она обречена на отступление и может только огрызаться. При этом отступает она, при текущих грустных условиях, в целом достойно.

Её наступательный, вдохновенный, политический характер в "новом мире" могла бы обеспечить только "новая политизация" самого Кремля, который по понятным причинам слишком консервативен сейчас для любых новых идей, новаций и их носителей - новых людей.

Эти по настоящему "новые люди" прийти могут в Кремль, в МИД, только после окончания горячей стадии "осады", СВО. И уже - самое время для этого окончания, пока перманентное "отступление" на международной арене не привело ещё к необратимым последствиям.

Самое время снимать "дипломатическую осаду" России. В обороне настоящей победы добиться невозможно. Но возможность для наступления откроется только после завершения текущего оборонительного "сражения".