Сэм Альтман считает, что миру стоит смириться с некоторыми негативными последствиями ИИ ради той пользы, которую он принесёт.

Забавно наблюдать, как закрытая коммерческая корпорация предлагает всему миру потерпеть неудобства ради своего светлого будущего. Особенно когда сама эта корпорация зарабатывает на развитии технологии и заинтересована в том, чтобы её как можно меньше ограничивали 🙃

Конечно, я не думаю, что ИИ нужно просто взять и остановить. Польза от него уже вполне реальна, а попытка затормозить разработку в одной стране, пока остальные продолжают гонку, вряд ли сработает.

Но есть нюанс: кто должен решать, каким вредом можно пожертвовать ради будущей пользы? Сами компании? Государство? Или общество, которому в итоге и придётся разбираться с последствиями?

Потому что фраза «польза на порядки превышает вред» звучит скорее как ставка, чем доказанный факт. И почему-то право делать эту ставку от имени всех остальных берут на себя компании, у которых есть вполне конкретные коммерческие интересы...

Недавно наткнулся на проект, который считаю крайне важным.

🚀 Стартап Marble выложил в открытый доступ граф — 1591 микро-тем дошкольного и начального школьного образования, от «правил построения предложений» до «видимой яркости звёзд», и 3225 связей между ними: что нужно освоить раньше, чтобы разобраться в следующем. Всё привязано к учебным стандартам США, Британии, Австралии. Это воспроизводимая, машинно-читаемая структура, которую можно проверять, оспаривать, достраивать.

Индустрия последние годы обещает ИИ-тьюторов, которые решат прямо все проблемы образования. Мне не до конца понятно, на чём эти обещания основываются. Какая модель знаний внутри системы? Как она понимает, что ребёнок на самом деле освоил, а что просто угадал? Как она соотносится с образовательными стандартами? Без ответа на эти вопросы «умный репетитор» — это красивый скам, фантик без содержания.

Marble показали, с чего нужно начинать такую работу: с прозрачной, проверяемой карты того, как устроено детское обучение, выложенной в открытый доступ.

Считаю, что аналогичную работу нужно запустить и у нас — свой открытый граф по ФГОС и государственным учебникам, честный и проверяемый, построенный с участием педагогов.

Репозиторий Marble: github.com/withmarbleapp/os-taxonomy

PS. Граф собирала агентская сеть, и потом его проверяли их методисты.

🟥 Посмотрел обсуждение протестов французских школьников с участием уважаемого Димы Зицера.

Основную тему беседы комментировать не буду, тем более что Дмитрий, по традиции, говорил большую часть времени о другом. Расскажу, с чего меня закоротило.
✅ Первое: холодное с квадратным
Дима, ища причины протестов, выдвинул тезис: мы, взрослые, дискриминируем детей, фактически угнетаем их и лишаем свободы. В пример он приводил всё подряд, от евреев до людей с другим цветом кожи, особенно упирая на права женщин. Мысль простая: сто лет назад мы считали, что женщина не может самостоятельно принимать решения, потому что существо чувственное, выпусти её из дома, и она сразу отдастся первому встречному. То же самое мы делаем сейчас с детьми. Причём делаем это подло: одной рукой дискриминируем, другой гладим по голове и называем прекрасными ангелами.
С проблематикой дискриминации спорить сложно, и за темноту, в которой мы жили сто лет назад, стоит себя посечь. Но сравнение женщины, угнетаемых рабов и ребёнка вообще не работает. Я о нейробиологии. Мы всё ещё знаем о развитии мозга крайне мало, но уже кое-что знаем, в отличие от XIX и начала XX века. Карта отделов мозга, возрастные особенности развития — это не всеобщее заблуждение, а научно доказанные данные. Про формирование префронтальной коры душнить не буду (кому интересно, добро пожаловать в комментарии), скажу коротко: ребёнок не равен взрослому. И речь не о навыках, а о физиологии развития. Эта разница наблюдаема, универсальна и проходит с возрастом. Поэтому сравнение нерелевантно.
Вопрос «можно ли, не ограничивая свободу, отдать ребёнку жизненно важные решения» для меня не стоит. А вот вопрос «как выстроить в этом процессе уважительные отношения с маленьким человеком и личностью» важный. Мы не решили его глобально, каждый решает как может, и, по моим ощущениям, решаем не очень хорошо.
✅ Второе: кто платит
Дмитрий со свойственной ему страстью заявил, что мы построили ущербную систему: заказчик образовательного продукта не ребёнок, поэтому ему и не интересно учиться. Ребёнок должен обладать субъектностью и вместе с законным представителем заказывать музыку, раз он за неё платит.
Правильного ответа на этот вопрос у меня нет. Но я точно знаю, что для субъектности нужны компетенции. Ни родитель, ни тем более ученик не обладают компетенциями в области образования. Как заказывать то, в чём ничего не понимаешь? Ты даже не можешь сформулировать нужный результат через 11 лет, это за горизонтом планирования. Можешь описать желаемые ощущения и выдать общие слова. Это, простите, не субъектность.
Можно возразить: мы же лечимся, не разбираясь в медицине, и никто не лишает нас субъектности. Но у лечения результат почти объективен: болен или здоров. А что считать результатом образования? Образован ли? Научен ли тому, что нужно? Счастлив ли при этом? Всё это очень субъективно. Заказывать то, что нельзя ни точно сформулировать, ни проверить, ещё сложнее.
🍩Поэтому просто передать заказ ребёнку или родителю не решение. Нужно что-то новое, что объединит и примирит все стороны.

«Технологии ИИ несут много добра, выгоды, повышают эффективность, но одновременно с этим попытки ряда государств использовать эти технологии как оружие таят в себе угрозы для целых секторов экономики. Мы не являемся исключением, должны быть готовы к этим вызовам».

Напомню, что в июле был принят закон о поддержке ИИ. Он вводит понятия национальных моделей, закрепляет принципы технологической независимости и предусматривает возможность господдержки разработчиков 🧐

При этом в США и Китае уже сформировались огромные экосистемы ИИ, с инвестициями в десятки миллиардов долларов, вычислительными мощностями и конкуренцией между компаниями.

А что у нас? У нас создана правовая основа, и только-только начинают стартовать программы с конкретными объёмами финансирования и подробными условиями поддержки.

И здесь время имеет значение. Пока мы начинаем поддерживать новый сектор, другие страны не стоят на месте. Они продолжают инвестировать, обучать модели и выводить новые продукты на рынок.

Поэтому закон - это, безусловно, важный шаг. Но хотелось бы видеть не только концепцию технологической независимости, но и конкретные действия, ресурсы и результаты.

Потому что в гонке ИИ недостаточно объявить, что ты собираешься догонять лидеров 🤷‍♂️

Так называют ощущение эмоциональной близости, когда ИИ не просто отвечает на вопросы, а создаёт ощущение, что он тебя понимает, помнит детали твоей жизни и эмоционально откликается на твои переживания 🫂. Но за этим ощущением стоят вполне конкретные технологии:

▶️ Промпт личности. Он задаёт характер виртуального собеседника: как тот разговаривает, реагирует на эмоции и выстраивает диалог.

▶️ Память. Система сохраняет факты из прошлых разговоров и извлекает их, когда они кажутся релевантными.

▶️ Голос. Интонации, паузы и тембр делают общение естественнее.

Вместе эти компоненты создают ощущение постоянного, внимательного собеседника 🙂

Но ИИ - это все еще не человек, поэтому у такой «эмпатии» есть интересная особенность :) RAG ищет записи, семантически похожие на текущий запрос, а не вспоминает прошлое как делаем это мы с вами.

Например, пользователь мог рассказать об умершем коте Барсике, а спустя несколько недель пишет, что ему тоскливо. Система может вспомнить Барсика и ответить уместно. Но если пользователь рассказывал и о смерти дедушки, а алгоритм вместо этого вспомнит кота, получится довольно неловкий момент 😅

И всё же привязанность к ИИ-компаньонам уже стала реальностью, а рынок научился её монетизировать. Не нравится мне тут только то, что для компаний эмоциональная близость может быть способом удерживать пользователей, в то время как для самого человека отношения с ИИ могут иметь вполне реальное значение.

➡️ В интервью Радио РБК руководитель театра Покровка Дмитрий Бикбаев объяснил, что основа театра - живое присутствие человека на сцене и театральным актёрам замена не грозит.

«Главное на сцене - это человек. И именно в этом суть театра.»

Но это не значит, что ИИ не повлияет на театр. Он может помочь с декорациями, визуальными эффектами, переводом и подготовкой постановок. Но заменить живого человека на сцене - совсем другая задача. Конечно, мы уже видим роботов, выступающих в роли оперных певцов, но пока это скорее эксперименты, чем замена живым артистам.

➡️ Режиссёр Сарик Андреасян тоже отмечает, что ИИ пока скорее ускоряет подготовку:

«ИИ помогает создать концепт-арт за день вместо недели. Но декорации всё равно нужно строить, а костюмы шить.»

Возможно, по мере развития ИИ ценность будет не только в том, насколько реалистично можно что-то сгенерировать, но и в том, что вообще невозможно свести к генерации. Театр - хороший пример такого различия 💯

Верховный суд утвердил концепцию внедрения ИИ: к 2030 году с его помощью планируют готовить 30–50% проектов процессуальных документов. Причем не менее 80% этих проектов предполагается утверждать без существенных правок 👍️️️️️️

ИИ хотят использовать не только для написания текстов. В концепции перечислены и другие задачи:

• искать подходящие судебные решения и правовые нормы;
• анализировать материалы дела, позиции сторон и доказательства;
• находить противоречия в документах;
• готовить резюме дела и проекты судебных актов;
• распознавать речь и автоматически составлять протоколы заседаний.

➡️ В планах есть и более широкие изменения: к 2030 году ИИ-сервисами на постоянной основе должны пользоваться более 95% судей, а сроки рассмотрения типовых дел рассчитывают сократить на 20–30%.

Радует, что сразу учитывают, что нейросеть может сослаться на несуществующую норму или выдать убедительно написанный, но неверный текст. Поэтому предполагается использовать закрытые системы с поиском по источникам, а результаты должен проверять судья.

В XIX веке британская аристократия могла мало работать, почти не интересоваться наукой и технологиями и при этом управлять крупнейшей империей мира!

Сэмюэл Хьюз, редактор журнала Works in Progress, в эссе предлагает интересное объяснение: сила элиты заключалась не столько в знаниях отдельных людей, сколько в связях между ними. Школы и университеты объединяли людей, а клубы, балы и званые ужины помогали им договариваться, выстраивать доверие и влиять на решения. По сути, общение было частью управления страной.

Хьюз предлагает подумать, какой может стать элита в эпоху суперИИ? Если нейросети смогут выполнять большую часть интеллектуальной работы, обязательно ли тем, кто управляет, самим быть экспертами?

В статье выделяется три сценария:

▶️ Неовикторианская аристократия. Люди сохраняют власть и богатство, а интеллектуальную работу поручают ИИ. Сами занимаются связями, влиянием и принятием главных решений.

▶️ Кентаврическая меритократия. Власть получают те, кто умеет работать с ИИ: ставить задачи, проверять результаты и принимать решения.

▶️ Постчеловеческая элита. Реальная власть переходит к самому суперИИ или к людям, радикально усилившим собственный интеллект.

Эти модели могут сосуществовать. Но первый сценарий, на мой взгляд, самый тревожный. Получается, что власть больше не обязательно будет связана с интеллектом или компетентностью. В такой системе небольшая группа людей сможет принимать решения, опираясь на интеллект, который недоступен остальному обществу, а может и им самим.