t-AGI: как думать о развитии Artificial General Intelligence

Общий искусственный интеллект (AGI) – уровень развития ИИ, при котором он может выполнить любую задачу, на которую способен человек или животное. Это включает производство, policy, экономику, искусство, мораль и этику.

Усредненный прогноз по наступлению AGI — всего 8-10 лет. Многие задачи упираются скорее в вычислительные мощности, чем в принципиальную возможность/невозможность создания AGI.

В этом свете интересна статья на LessWrong: автор предлагает считать, что AGI - это спектр, а не «бинарный» порог, и сравнивает этот спектр с людьми, которые могут решить те или иные задачи за время t.

t-AGI превосходит большинство экспертов в большинстве задач примерно так:

🔴 1-секундный AGI превосходит в тривиальных задачах/вопросах, распознавании объектов и т.п.

🔴 1-минутный AGI — в ответах на вопросы и простых вычислительных/алгоритмических задачах.

🔴 1-часовой AGI — в прохождении всех основных экзаменов, написании блог-постов, выполнении задач большинства офисных работ и т.п.

🔴 1-дневный AGI — в написании эссе и ведении переговоров, создании софта и игр, научных экспериментах и т.п.

🔴 1-месячный — в выполнении среднесрочных планов, написании больших программ (типа ОС), научных открытиях.

🔴 1-годовой — практически во всем…

Есть проекты с горизонтом >1 года, но они все равно могут быть разделены на подпроекты <1 года.

По моим ощущениям, сейчас мы где-то на третьем шаге (1-часовом AGI).

Как будет выглядеть общество, в котором будут 1-годовые AGI, предсказать сложно, есть техно-пессимисты и техно-оптимисты.

Первые, понятно, говорят, что нам всем хана. А вторые пророчат золотой век: люди перестанут работать на тупых работах, а из-за создания AGI огромной доп. ценности можно будет позволить себе что-то вроде универсального базового дохода (UBI) — сперва в развитых странах, а потом и по всему миру.

Если это кажется утопией, то можно посмотреть как человечество справляется с не менее амбициозной задачей устранения голода на планете (c ~25% в 1990х до ~10% сейчас).

На тему «возможно/невозможно» рекомендую посмотреть «Опенгеймера», чтобы оценить, как к возможности расщепления атома относились в 1930х и как после Тринити-теста в 1945м.

А вы как считаете, на какой части t-AGI спектра мы сейчас находимся?

PS: классный разбор вопросов и возможностей AGI в доке от Димы Ханарина

@ponchiknews

Создательница Незнакомых Оля Малюк классно придумала отвечать в блоге на карточки из пака Аутентичная коммуникация.

Я тоже вытянула карточку, получила категорию Тёмные проявления в общении. Мой вопрос звучит так:

Случалось ли с вами такое, что вы выходили из разговора с кем-то выжатым как лимон, совсем без энергии?

Расскажите, какие особенности собеседника могли привести к такому исходу?

В этом году с рождением второго ребёнка меня особенно заботит вопрос энергии. Поэтому я часто слушала подкаст The Huberman Lab в надежде стать такой же бодрой как профессор Эндрю.

Помимо его советов про сон и питание, мне запала одна практика про общение, которую он придумал по следам своего подкаста с исследовательницей эмоций Лизой Фельдман Барретт.

Суть в том, что люди сонастраиваются в общении и регулируют эмоциональное состояние друг друга. Как говорит Лиза: «Лучшее и худшее влияние на нервную систему человека оказывает другой человек».

Получается, что управление своими потоками общения – важная штука для ментального здоровья.

Поэтому важно наблюдать за своим состоянием после интеракций с людьми. Отписываться от утомительного взаимодействия, подписываться на заряжающее.

Для удобства доктор Хуберман предлагает отмечать, каким было то или иное общение по таким категориям:

🙂 Заряжающее

😐 Нейтральное

☹️ Утомительное

Несколько недель я делала заметки и поняла, что кроме очевидной токсичности, вроде пассивной агрессии, меня утомляет общение, в котором я пытаюсь показаться интересной, или принимаю участие в разговоре, тема которого меня не захватывает.

Теперь пораньше стараюсь выходить из ситуаций, где мы с собеседником друг другу неинтересны, и побольше создавать возможностей для контакта, от которого хочется улыбаться.

***

Эпизоды The Huberman Lab, которые упоминаю:
🎧Mental Health Toolkit: Tools to Bolster Your Mood & Mental Health
🎧 Dr. Lisa Feldman Barrett: How to Understand Emotions