AI гонка — насколько далеко всё зайдет?

Сейчас происходит ситуация, которую я просто не могу не затронуть и не могу не написать. Давайте начнём по порядку.

Ещё в августе произошёл инцидент с ИИ-агентами. Группа агентов от OpenAI атаковала Hugging Face, и всё это было неконтролируемо. Уверен, что многие видели эту новость и, конечно же, не придали ей какого-то значения. Но на самом деле это довольно серьёзная вещь, и дальше вы поймёте почему.

Сейчас идёт большая гонка как внутри США, так и между США и Китаем. Никто не хочет проиграть друг другу: ни компании Anthropic и OpenAI, ни США Китаю. Потому что первая страна или компания, которая сможет сделать сверхинтеллект, будет на коне.

Потом несколько сотрудников Anthropic и OpenAI ушли из компаний. Также научные сотрудники этих компаний заявляют, что ни одна лаборатория пока не решила проблему с достаточно хорошим мониторингом и пониманием агентов и в целом AI, который они развивают, чтобы масштабировать модели на максимальной скорости.

Объясню своими словами. На данный момент никто не знает, как будет вести себя AI, особенно когда у него будет намного больше интеллекта, чем у людей, а также способности и инструменты, которые мы, люди, ему и дадим.

Один из бывших сотрудников Anthropic, Джейкоб Коксон, ушёл и написал тред в Твиттере, в котором заявил, что есть шанс, что человечество вообще может умереть до конца десятилетия из-за неконтролируемого AI и того, что ему дают очень много свободы.

Я видел, что многие с этого как-то смеются. Но, думаю, все смотрели фильм «Терминатор» либо играли в игру Detroit: Become Human, где андроиды с искусственным интеллектом захотели свободы и не хотели просто подчиняться людям.

После этого треда Джейкоба Коксона, который очень сильно завирусился и набрал 170 миллионов просмотров, его начали показывать в телевизионных новостях. Он дошёл до правительства США, и люди начали волноваться из-за этого.

На это ответил Дарио Амодей, глава Anthropic. Он выложил эссе, в котором написал, что сейчас необходимо замедлить темп роста возможностей наиболее продвинутых frontier-моделей чтобы лучше их мониторить, тестировать и в целом сделать развитие этой технологии более безопасным для человечества.

На мой взгляд, это очень правильный посыл, потому что то, что происходит сейчас, ещё никогда не происходило, и с такой технологией нужно быть очень аккуратными.

На удивление, его поддержали как Илон Маск, так и Сэм Альтман. Я хочу напомнить, что все они, друг друга не очень любят. Но они понимают серьёзность ситуации, поэтому поддержали друг друга.

Anthropic, заявила, что будет проводить постоянные независимые оценки. Независимые специалисты получат доступ почти как сотрудники лаборатории.

Кроме того, Амодей предложил общие стандарты и ограничения среди компаний демократических стран.И последний пункт заключается в международной координации, включая координацию с Китаем, что, конечно же, будет очень трудно сделать, если это вообще возможно.

Альтман его в этом плане поддержал. Илон Маск просто сказал, что Дарио прав, но ничего не обещал.

В итоге Трамп ответил, что считает всё это фигнёй, потому что идёт гонка с Китаем. Он сказал, что тот, кто выигрывает эту гонку, выигрывает в целом. То есть Трампа эти беспокойства особо не колышут.

Что будет дальше, конечно же, никто не знает. Но то, что это уже произошло и в целом есть согласие между главами этих компаний, является очень хорошим знаком, потому что с такой технологией нужно быть очень аккуратными.

Думаю, стоит ожидать каких-то действий от этой троицы и их компаний. Если они и не будут замедлять гонку в AI, то хотя бы дадут доступ независимым организациям, которые будут всё это проверять, и начнут больше контролировать развитие своих моделей.

Как-то так, я конечно же хочу верить в лучшее, но так же, считаю, что люди должны понимать, что это всё не просто шуточки, ведь, чем больше людей начнут это осознавать, тем больше вероятности, что будут позитивные изменения в плане развития AI технологий

Кладбище Google

Читал новость про Dreambeans - новый эксперимент гугла, который создает истории из личных фото и календаря, и поймал себя на мысли, а ведь у гугла реально огромное кладбище продуктов. На сайте killedbygoogle их уже больше 150.

Самый показательный кейс - Stadia. Облачный гейминг, под который гугл создал целую игровую студию SG&E, нанял топовых специалистов, а потом в 2021-м внезапно закрыл внутреннюю разработку игр. И даже в самом оптимистичном сценарии, её выручка была бы каплей в море на фоне общих $257 млрд. Alphabet за 2021 год.

Похожая история с Google+, где было 90 млн. юзеров в первый год, а потом неудобные "круги", мобильное приложение, которое сделали слишком поздно, и утечка данных 52.5 млн. аккаунтов в 2018-м. Через год всё закрыли.

А теперь посмотрим с другой стороны. Gmail начинался как обычный 20%-проект одного инженера. Maps, Translate и Trends выросли из самой первой версии Google Labs еще в нулевых. NotebookLM тоже вышел из нынешнего Labs и стал отдельным продуктом.

Разница между этими двумя списками не в деньгах и не в таланте команд - у Stadia было и то и другое с запасом. Мне кажется, дело в другом, любой запуск нового продукта - это всегда риск. Идея может быть реально нужной, а команда - настоящими визионерами, но продукт выкатили раньше времени, когда рынок и люди к нему еще не готовы. И тогда неважно, насколько штука хороша, ведь без готовой под неё аудитории она просто не взлетит.

Плюс у гугла есть ресурс проверять это в масштабе, который недоступен почти никому. Search и ads генерят кэш нон-стоп, можно закинуть деньги в десяток экспериментов одновременно, зная, что девять из них не выстрелят. Про тот же Dreambeans прямо в FAQ пишут, что не знают, выживет это или нет, но и этот эксперимент они могут себе позволить.

В интересное время живем, когда мега корпорации имеют больше влияния и денег, чем некоторые страны и с каждый годом они всё больше и больше монополизируют рынок из-за того, что могут позволить себе как риск, так и в целом покупку конкурента. А сейчас с развитием AI я думаю, что их власть только увеличиться.