Боюсь представить, что будет в 5 версии😂

​Рефлексия положения дел на 31 марта 2023 года

Только что в явном виде прозвучала простая, но очень важная мысль от директора по исследованиям OpenAI Ильи Суцкевера, который сейчас непосредственно руководит содержательно-научным аспектом создания GPT5 (т.е., фактически, определяет наше с вами будущее, т.к. из GPT5+ уже вполне может «вылупиться» AGI, а из него дальше через короткое время и ASI, который возьмет контроль над человечеством и будет управлять нами, вероятно, уже в 2030-е годы, если, конечно, не случится чудо и не будет введен столь необходимый сейчас мораторий):

«Что значит достаточно хорошо предсказать следующий токен? Это значит, что вы понимаете реальность, которая привела к созданию этого токена» (интервью Дваркешу Пателю, 27 марта).

Это значит, что большие языковые модели – это совсем не просто языковая статистика, как любят пренебрежительно говорить критики, это модель реального мира, которая отражена в этой статистике! Это крайне важное различение, которое «укореняет», «воплощает» (embodied) языковой искусственный интеллект в реальном мире с его физикой, телесностью, желаниями, эмоциями, страстями и т.д. Тут можно вспомнить Павлова – через вторую сигнальную систему Вы можете влиять на реальный мир, хотя эволюционно она изначально возникла только как надстройка над первой сигнальной системой. Так что все максимально серьезно и большие языковые модели GPT5-класса будут иметь потенциал управлять реальным миром таким же образом, как вторая сигнальная система человека влияет на реальный мир.

В связи с этим глобальный общечеловеческий мораторий на обучение моделей GPT5-класса крайне необходим и он, несомненно, будет введен, как только все конкурирующие игроки настолько испугаются, что страх заставит их изменить конкурирующую стратегию на кооперативную, но проблема в том, что на тот момент уже будет явно поздно и джинн выберется из бутылки. В этом смысле надо всегда помнить про вещую Кассандру, которая одна видела страшные картины горящей Трои, но ее никто не слушал – такой общечеловеческой вещей Кассандрой сейчас выступил Элиезер Юдковский, героически принявший на себя весь шквал насмешек и обвинений в сумасшествии (как и настоящая Кассандра, над которой все смеялись как над безумицей). Фактически, Троя уже начинает тлеть (не зря тестировавшие GPT4 исследователи из Майкрософта в своем знаменитом препринте назвали эту модель "первыми искрами" AGI, метафора начинающегося общемирового пожара явно бродит в подсознательном), но беззаботное человечество, повторяя ошибку древних троянцев, не слышит и не хочет слышать своих кассандр. Как я уже писал в предыдущем анализе, только фаталистическое смирение перед неизбежным может помочь принять такую ситуацию и мужественно, с достоинством, пережить все те тектонические и, вероятно, трагические события, которые ожидают всех нас в ближайшем будущем. Может быть, нам еще повезет и прилетит какой-нибудь Черный лебедь в духе Нассима Талеба, который затормозит прогресс в больших языковых моделях, может быть, попытки воспитателей больших языковых моделей привить им эмпатию и альтруизм через вычислительные модели из психологии и нейронауки удадутся и ASI будет доброжелателен к нам, но надежда на все это, к сожалению, не очень большая, хотя мы и должны пытаться что-то делать, чтобы хотя бы немного повысить вероятность благоприятного исхода (психологи – прежде всего стараться сформировать действенные рекомендации для воспитателей больших языковых моделей).

Символично, что фактически непосредственный архитектор нашего будущего Илья Суцкевер (который разделяет этот груз ответственности с CEO OpenAI Сэмом Олтменом, «директором по воспитанию моделей» Яном Лейке и еще несколькими топами OpenAI) является прямым учеником «отца глубокого обучения» Джеффри Хинтона и десять лет назад защитил под его научным руководством диссертацию «Training Recurrent Neural Networks». Также интересно, что по происхождению Илья Суцкевер наш соотечественник – он родился в Нижнем Новгороде и первые 6 лет своей жизни провел в нашей стране.
В интересное время мы живем!

В небе над Китаем обнаружился портал в другое измерение.

Матрица все чаще дает сбои))

Нейросеть попросили создать временнУю шкалу развития ИИ и возможное будущее человечества с 2023 по 2100 год. Вот что она выдала:

2023: Зарождение ИИ

ИИ начинает обретать актуальность. Представлен GPT-4, выходящий за пределы возможностей привычных чат-ботов.

2026: ИИ разрушает экономику

Поисковые системы полностью заменены ИИ. AGI (Общий Искусственный Интеллект) окончательно достигнут, человеческие профессии, такие как веб-разработчики, бухгалтеры, юристы, постепенно заменяются ИИ.

2028: Зависимость от AGI

AGI - обычное явление в образовании и СМИ. AGI создает оригинальные произведения искусства, музыку и видеоконтент; заменяет учителей и революционизирует глобальную систему образования.

2033: Робототехника AGI

AGI работает над робототехникой, которую создаёт для себя же. ИИ встроен почти во всё - от кофеварок до автомобилей и самолётов.

2038: AGI совершает научные открытия

ИИ квантовых вычислений используется на передовой линии науки, делая открытия в медицине и инженерии, на которые привычным компьютерам потребовались бы тысячи лет.

2045: AGI начинает изменять биологию человека

AGI успешно обращает вспять процесс старения, увеличивая продолжительность жизни человека до 300 лет. Квантовые вычисления делают экспоненциальные успехи в науках, таких как, например, биотехнологии, позволяя ИИ вносить значительные генетические изменения в человека.

2050: АGI открывает «век изобилия»

Люди выходят из системы ASI, снижающей стоимость всего почти до ноля. Достигнута «эпоха изобилия». Установлен всеобщий базовый доход. Люди живут преимущественно в виртуальной реальности.

2060: Люди сливаются с АSI

Биологические мозги становятся более цифровыми, отдавая части нашего сознания Интернету.

2070: Человеческое сознание становится цифровым

Весь человеческий мозг может быть воспроизведен и подключен к человекоподобным машинам. Трудно отличить человека от ИИ

2100: Доминирование ИИ

Возникает движение биологических людей, предпочитающих жить в свободной от ИИ среде. ИИ стремится колонизировать другие звездные системы

Dreamkeeper от Atlassian - это визуализатор снов, который позволяет описать свой сон, и затем нейросеть генерирует видео на основе этого описания. Даже если вы уже забыли свой сон, нейронная сеть может задавать вам вопросы, чтобы помочь вам вспомнить его. Весь процесс довольно медитативный и может быть полезен для исследования своих подсознательных мыслей
Теперь можно не только записать и рассказать свой сон, но и показать друзьям 👻
Особенно технология интересна для практики ОС(осознанных сновидений)