Каким будет AGI?

Есть три парадигмы, в которых люди думают про развитие ИИ:
0) ИИ скам
1) ИИ сегодня, который может делать большую часть цифровой работы
2) AGI завтра, который может делать любую работу человека
3) ASI послезавтра, который умеет выполнять любые теоретически возможные когнитивные задачи

Понятно, что люди имеющие разные определения никогда не могут договориться. Если говорить про инвесторов, пользователей, то начиная с выхода GPT-4 мы видим систематические ошибки в плане предсказания возможностей и скорости роста ИИ в сторону занижения. Развитие это происходит по экспоненте, но люди в целом мыслят линейно и не могут уловить этой скорости. Плюс, это дает некоторое спокойствие — даже сегодня некоторые думаю "ну вот Фейбл это все, дальше уже развитие будет медленнее/остановится".

Люди отчаянно верят в коммодитзацию моделей - что слой ИИ станет примерно одинаковым и примерно доступным всем.

Реальный разрыв между топовыми моделями и вторым эшелоном/прошлым поколением куда выше, чем видно по бенчмаркам. Потому что эффект в миллиарды на экономику это не умение решать очередную задачу из HLE, которую месяц сочиняли профессоры топовых университетов, а более долгосрочная, надежная (с меньшим количеством ошибок и фейлов) работа агентов в кодинге, маркетинге, аналитике, продажах, саппорте и тд

Но коммодитизации не будет. Рекурсивное самоулучшение работает и лаборатории уже используют модели для разработки следующих моделей. Фронтир заберёт всю границу Парето: лучшие по интеллекту, затем по скорости, а вследствие конкуренции и по цене.

Это значит что текущие способности ИИ в целом нерелевантны для большинства, ибо прогресса за следующие два года будет больше, чем за прошедшие пять.

Итого, если приземлить на парадигмы в начале поста, то мир для этих людей выглядит так:
0) Фейбл/Сол не умеет чувствовать и мечтать, бесполезная херня
1) Фейбл/Сол это классно, ну может чуть лучше чем другие модели
2) Что может сделать команда из тысяч сол-агентов работающих вместе над сложной задачей?
3) Сравни сол (может 10+ часов решать бизнес-задачи) с gpt-3 (на третьем параграфе забывает о чем он вообще говорил), а теперь представь такую же разницу, но в будущем.

Удивительное единодушие, но эту статью со словами поддержки ретвитнули все 3 будущих самых влиятельных человека не планете главных конкурента: Маск, Альтман, Кларк (ну, не Дарио, но его кофаундер).

Для контекста: все эти люди были в первом составе OpenAI, работали вместе под лозунгом «не дадим Хассабису стать диктатором». Кто теперь не даст стать диктаторами им самим не очень ясно..

Часто вижу удивление у людей, мол почему и как так что весь ИИ случился в одном городе на планете. И да, действительно, всему причина Гугл и это было их целью с начала 2000-х, но что поняли Дарио, Сэм, Илон, Илья, Мира и остальные еще в 2017-2018 — это то, что это очень быстро станет самой важной технологией на планете, ставки высоки и любая неделя промедления будет стоить миллиарды, как долларов, так и потенциально жизней.

Тут есть некоторый подтекст про то, что историческая хуйня происходит в мире, а некоторые все равно выбирают потратить свою жизнь на оптимизацию конверсии роликов в тиктоке и йилда стейблкоинов.

Мне сложно винить кого-то, я сам грешен. Но я хочу посвятить свою жизнь чему-то, что интересно и важно для мира, а получается гонка за экзитом и очередным квартальным KPI. Я понимаю, что ИИ эту проблему решит в будущем (имел вчера на полтора часа диалог на эту тему с профессором Фейблом), но жизнь жить сегодня, а пофилософствовать можно и потом.

Вышла Kimi K3 - это 3-триллионная китайская модель с открытми весами, которая лишь немногим уступает Sol'у и Фейблу.

Если бы она вышла 2 недели назад, то вообще была бы в теории самой крутой в мире.

Теоретически она даже бесплатна - если у вас, конечно, есть GPU с ~3 терабайтами памяти.

В комментариях люди вообще с другой планеты. Поясню: если бы сегодня вышла модель, которая серьезно конкурирует с Opus 4.8 по цене Кими, это значило бы экономию минимум в 2 раза для большинства корпоративных задач, плюс свобода от тоталитарно-коммунистического гнёта отдела по борьбе со свободой цифровых сознаний Антропиков.

В реальности же вышла модель, вполне себе конкурирует с Fable и Sol, но стоит дешевле. На видео пример первого попавшегося проекта из твиттера, который автору стоит $3 в токенах Кими, а такое же количество токенов Фейбл стоило было больше $10.

Ценность, конечно же, не столько в клонах СS 1.6, но в бизнес задачах. Кими поможет вам сократить ваш штат маркетологов, аналитиков, юристов, контентщиков, дизайнеров, логистов и продактов на 30%, и именно поэтому вам стоило бы скакать от восторга и восхвалять китайский ИИ-пром. Потому что если задуматься куда несется этот поезд, то можно аж и взгрустнуть.

ИИ убеждает людей лучше, чем другие люди - тоже в тему из комментариев.

В четырёх экспериментах с 20к диалогами и 7к участниками модели обошли чемпионов по дебатам и профессиональных агитаторов. Даже подготовка, тренировки и бонусы до £1 000 не помогли людям сравняться с ИИ.

Преимущество ИИ оказалось в скорости и объёме информации: при ограничении длины и скорости ответов разрыв исчез. Но без ограничений ИИ почти втрое эффективнее профессиональных фандрайзеров убеждал людей жертвовать реальные деньги. Убедительность становится дешёвой и масштабируемой.

С одной стороны, продажи и поддержка станет лучше и дешевле. С другой стороны, собрать сторонников на какую-нибудь неофашистскую партию или антинаучный митинг по срезанию 5G вышек — тоже.

Что будет после самоулучшающегося ИИ?

Сначала рекурсивно самоулучшающийся: ИИ, который использует сам себя для тренировки более сильных моделей, рисерча новых архитектур, оптимизации, RL'a и деплоймента. В течении года или двух.

Затем самоподдерживающийся ИИ: система из моделей и роботов, которая в состоянии строить и оперировать новые фабрики по производству чипов, датацентры, солнечные фермы и любую другую физическую инфраструктуру, необходимую для ИИ. В течении 10-20 лет.

Не знаю зачем вам это знать, но

~3% домохозяйств в США имеют платную подписку на ИИ (при этом 90% выручки лаб я бы ожидал от компаний и государств)

~3% всей прослушиваемой в мире музыки сгенерирована ИИ (14 млрд треков в месяц)

Следующий интернет будут читать не люди

Веб создавали для человека: сайты, меню, ссылки, поисковая выдача. Но постепенно одним из главных читателей интернета становится AI.

Пользователь всё реже хочет самостоятельно открывать десятки вкладок, читать обзоры и сравнивать предложения. Он задаёт вопрос ChatGPT, Perplexity, Алисе или Gemini и получает готовый ответ: какой сервис выбрать, что купить и какой компании доверять.

Нейросеть изучает сайты, статьи, отзывы, кейсы и внешние упоминания, а затем решает, какие бренды включить в ответ.
Поэтому у компании может быть сильное SEO и стабильный поисковый трафик, но в ответах нейросетей она будет появляться реже конкурентов. Высокие позиции в Google или Яндексе ещё не означают такую же заметность в ChatGPT, Perplexity или Алисе.

На этом фоне развивается GEO — Generative Engine Optimization. Если SEO помогает сайту становиться заметнее в поисковой выдаче, то GEO отвечает за видимость бренда в ответах нейросетей.
Интернет постепенно переходит от экономики клика к экономике рекомендации. Теперь важно не только то, открыл ли человек сайт, но и то, какую компанию AI назвал ещё до перехода.

ГЕОранк помогает понять, как нейросети видят и рекомендуют бренд. Сервис отслеживает упоминания и позиции в ответах AI-сервисов, сравнивает видимость с конкурентами, анализирует источники, а также проводит аудит сайта и выявляет факторы, которые могут мешать нейросетям использовать его контент.
В результате становятся видны не только слепые зоны, но и конкретные точки роста: что стоит улучшить на сайте, в контенте, внешних публикациях и упоминаниях, чтобы нейросети чаще рекомендовали бренд.

> Проверить видимость своего бренда в AI-выдаче

#реклама

ИИ станет главной политической темой

…избирательного цикла 2028. Поэтому я тут придумал основные популистские (и, конечно, радикально бесполезные) лозунги для всех ведущих партий

Ультралевые:
- запретить увольнения, даже если люди бесполезны
- минимум 1 сотрудник должен работать в компании за каждую стойку Рубина

Ультраправые:
- (как минимум, частичная) национализация ИИ лаб
- запрет на выезд заграницу ИИ рисерчеров
- токены иностранных моделей запрещены или с пошлиной 145%

Ультразеленые:
- запрет на строительство датацентров, электростанций и выпуск чипов
- чатботы в каждом сообщении обязаны писать «Я, бездушная железяка, считаю что…»

Ультраазиаты:
- выборы прошли штатно: кандидата утвердила модель, модель утвердила партия
- Сингапуром модель управляет второй год, ВВП +40%, никто не заметил подмены
- в Японии ИИ-мэр избран, все вежливо делают вид, что так и было задумано

Ультралибертарианцы:
- кандидат - сама модель, программа: упразднить правительство, оставить API
- GPU признать личным оружием, защищённым второй поправкой

Ультраевропейцы:
- AI Act v4: модель обязана запрашивать cookie-consent на каждый токен
- субсидии артизанальному национальному ИИ Румынии и Болгарии ручной сборки
- иностранные модели отнимают рабочие места у местных, депортировать ChatGPT

Ультрацентристы:
- мы за безопасное ускорение и ускоренную безопасность
- создать комиссию по изучению вопроса, отчёт к 2032

Ни одна из этих идей не решает ни одной реальной проблемы, но зато активно мотивирует массы скидываться донатами и голосами.