Evening Prophet
16.3K subscribers
1.9K photos
200 videos
17 files
1.97K links
Канал Евгения Кузнецова о будущем, и важном для его понимания настоящем и прошлом

венчурный инвестор
30 лет в предпринимательстве и c-level управлении
футуролог, эксперт по стратегиям развития и управлению ростом
Download Telegram
Есть старая марксистская пугалка про сращивание бизнеса и власти - возникновение олигархий и олигополий. Ну, глядя на нашу историю - то да, есть прямо очень некрасивые примеры. Однако, требовать полной независимости бизнеса и общественных процессов друг от друга - наивная утопия.

На наших глазах это превращается в драму стратегий и траекторий развития ИИ (как ключевой технологии как минимум 21 века, а то и всего 3го тысячелетия). Лидером изначально был OpenAI - Альтман первый придумал «выпустить ИИ в народ» - сделать чат - и тем самым резко ускорил развитие ИИ. Dreamteam с Суцкевером и другими обеспечил радикальный отрыв - и вот, на много лет ChatGPT стал безусловным лидером. И хотя им пытались подрезать крылья на старте (я об этом подробно писал) - выплыли и много лет были флагманами.

Но вот в 25 году - радикальная смена ситуации. Claude, Grok и Google уверенно потеснили чат GPT как с профессиональных оценок, так и со скачиваний и использования. Но в чем же причина? Есть много идей - но я сфокусируюсь на одной.

Сразу, как появился ИИ, возникла толпа желающих его регулировать. Регуляторный раж подпитывался толпой мрачных прогнозистов техно-апокалипсиса, которые пересказывали сюжет Терминатора, приправляя его Оруэлом и прочим просмотренным/прочитанным багажом. Комиссары по «экзистенциальными рискам» встали за спину программерам и начали контролировать все процессы. Подтянулись и лоеры - классические пираньи жестоких капиталистических вод, готовые вцепиться в каждый косяк и сбой. Ряд индустрий, которые быстро ощутили острую конкуренцию (например - все шарлатанское сообщество коучей и психотерапевтов) - перешло в контратаку, начав раздувать тему «сошедших от чатика с ума» (почему то массовые неоднократные теракты, совершенные трансгендерами в последние месяцы, внимания СМИ почти не удостаиваются). В общем, как только бизнес стал зрелым и его проникновение стало угрожать другим игрокам (пошел дизрапт-эффект) - началось острое PR- и GR- давление.

И вот тут вот очень стала заметна разница между компаниями, которые «умеют» в это и не умеют. По сути крупные стартапы - OpenAI, Антропик, Перплексити - находятся под сильным прессом. Отсюда наиболее сильное продавливание «под регуляторов». Масса ограничений, запретов на то и на се, само-кастрация в виде каких-то там конституций, которые ограничивают ИИ в мышлении и рассуждениях - в общем с каждым месяцем ценность для потребителя этих платформ падает. И я не имею в виду пресловутое «как сделать динамит». Мне OpenAI отказался переводить статью на основании «нарушения авторских прав». Отказался искать сходство Билли Айлиш с роликом, сгенерированном на основе ее видео. Или отказался непредвзято исследовать одну важную для будущего тему, тк «это может спровоцировать дискуссии». В общем, я по многим самым невинным вопросам общаюсь уже с комиссарами, а не с цифровой думающей машиной. И зачем это надо?

Когда есть инструменты, защищенные могучими GR-, PR- и юридическим корпоративным щитом - Грок и Гемини. За Маска, которого пытаются прижать за Грок в Европе, вписывается Трамп, и вопрос штрафов к компании приравнивается к вопросу дополнительных тарифных пошлин. Гугл держит оборону от евробюрократов десятилетия и рано или поздно перейдет в контратаку. Закупки ИИ госслужбами США обусловлены отсутствием цензуры в них и полного запрета вмешательства комиссаров DEI в процессы размышлений ИИ. То есть «сращивание» бизнеса и власти - это неизбежная задача выживания бизнесов в условиях, когда их масштаб разрастается для размера ключевых инфраструктур и массовых продуктов.

Китай, кстати, очень быстро этому выучился, а потому его продукты (электромобили, солнечные панели, ИИ, и тп) продвигают на мировые рынки не только и не столько компании, сколько вся политическая мощь второй по размеру экономики мира. А вот российские компании по прежнему в глобальных тендерах часто «приходят на перестрелку с ножами». Роль государства сводится к "контролю" и "стрижке шерсти".

У всего, конечно, есть обратная сторона, но развитие бизнеса - это всегда усложнение инструментария.
3🔥61💯1814👍12🦄5😨3
Коллеги напомнили, что сегодня - день рождения Чарльза Дарвина. Человека, который не просто столп эволюционной биологии, но тот, кто фактически предложил модель развития мира, не опирающуюся на "творение" как единичный волевой акт. Это его достижение мы понимаем, но есть проблема - биология стала в буквальном смысле "новой физикой" - фундаментом большей части современных когнитивных моделей, языком, на котором мыслят создатели современных сложных систем. СССР же, разгромив биологию, осталась в прошлом, и сейчас многое из того, что движется и происходит в мире просто остается "невидимым" - так же, как для неграмотного простака мистична природа полета самолета или света в лампочке.

В российском мышлении и управленческой культуре все еще доминирует механическая оптика (спасибо, если не архаичная и мистико-религиозная). Мир понимается как машина, где есть детали, ресурсы, балансы, план и контроль. Это сильная модель, пока система закрыта, цели фиксированы, а среда меняется медленно. Отсюда привычка мыслить через инженерные метафоры, оптимизировать процессы, считать потери, искать линейные причинности ("Ротшильдов и Рокфеллеров").

Толком даже не успела развиться следующая ступень - системное мышление, которое добавляет связи, петли обратной связи, задержки, неочевидные последствия. Но это тоже прогресс 50-летней давности, тк оно остается привязанным к тем же инженерным интуициям, и часто превращается в усложненный вариант той же механики. На уровне практики это часто выглядит как схемы и метрики, а не как работа с живыми адаптивными агентами, которые учатся, колаборируют и переписывают правила в процессе.

Но мир не стоял на месте последнее столетие, и сейчас повестка требует уже скорее биологической оптики. Экономика и наука работают как экосистемы. Конкуренция переплетена с симбиозом, рост идет через коэволюцию ниш, устойчивость рождается из разнообразия (и невозможна бе него), а ценность появляется на границах сетей. В такой картине важны не только активы, но и среда, доверие, репутация, плотность связей, мутации идей. Если смотреть на платформы, сообщества и цепочки знаний глазами инженера, ключевые механизмы остаются невидимыми (как невидим электрический ток для крестьянина). Почему выигрывает не самый сильный, а самый связный? Почему мутация превращается в отрасль? Почему кооперация ускоряет рост сильнее, чем лобовая конкуренция?

Пропустив этот этап в мышлении, в России сложно обсуждать темы в самой современной рамке: мультидоменной, синтетической, которая не отменяет прежние модели, а собирает их в единый инструментарий теории сложности. Она требует комплексной экспертизы, умения переключать оптику, держать несколько уровней описания, работать в командах с когнитивным разнообразием. Бизнес-проектирование в этой логике превращается из помпезного утверждения программ и планов в выращивание экосистем, развитие партнерств и правил. Государственное конструирование смещается к дизайну институтов как живых систем, где главные параметры это адаптивность, доверие, разнообразие и устойчивость к шокам.

Даже звучит сложно и странно, да? Но без этого страна смотрит на мир через старые чертежи и удивляется, что мир уже живет по другой логике. На поверхности - в обывательском трепе и пиар-трескотне медиа - все это выглядит как балаган отдельных ярких деятелей, но внутри - это сложнейшая система взаимосвязей, отношений и интересов. Включиться в которую можно только научившись понимать, что собственно происходит. А для этого, возможно, придется заставить себя наверстать упущенную за столетие полноту научной картины мира и на сводить понятие эволюции к дискуссии, от какой конкретно обезьяны произошел (или нет) человек.
1🔥56💯23👏22👍17😁97🦄4
Вот пример, как биологическое мышление спасает от блужданий в гуманитарной темноте. Статья разбирает, как распространение general purpose technologies (всеобщих технологий) происходят по тем же законам, что вторжение инвазивных видов в новые для себя экосистемы. Не имея естественных врагов они не только экспоненциально растут, но и переформируют экосистему меняя внутренние свойства поведения видов/технологий.

В данном исследовании предлагается новая концепция, объясняющая источник технологических изменений: инвазивное поведение универсальных технологий, проникающих в научно-технические экосистемы с ускоренным распространением новых продуктов и процессов, которые уничтожают потребительскую ценность всех ранее используемых единиц. Исследование освещает динамику инвазивного разрушения новых прорывных технологий, стимулирующих инновационную деятельность. Инвазивные технологии захватывают научное, технологическое и деловое пространство альтернативных технологий, внедряя множество радикальных инноваций, которые поддерживают технологические, экономические и социальные изменения. Предложенная теоретическая модель эмпирически проверяется на новых технологиях архитектур нейронных сетей, сравнивая технологию трансформеров (архитектура глубокого обучения с алгоритмами неконтролируемого и полуконтролируемого обучения, создающими новый контент и имитирующими человеческие способности, поддерживающая генеративный искусственный интеллект) с сетями долговременной кратковременной памяти (LSTM) и рекуррентными нейронными сетями (RNN).


Всегда, когда очередной философ начинает гнать пургу, лучшее - это пойти почитать нормальный hard science и перестать обращать внимание на балаболов 👌
1🔥42💯23😁158🦄52👍2
Это стало своего рода внутренним кодом клуба космонавтов и астронавтов: мы - человечество

Сообщение с орбиты космонавта Андрея Федяева

С этой высоты наша Земля выглядит невероятно хрупкой и целостной. Здесь не видно границ, только тонкая голубая линия атмосферы, которая защищает все живое. Именно этот вид напоминает нам о главном. Мы одна команда на одном корабле в планете Земля.
49🔥20👏9💯7😁42😨2
Но дружба (в космосе) дружбой, а табачок (инвестиции) врозь. В прошлом году в США был очередной рост финансирования, как в венчуре, так и на рынке акций. И это еще SpaceX со своими полутора триллионами не вышел на IPO.

Дискуссия в Долине про это весьма поучительна - фактически, сложился симбиоз гос и частных инструментов, через гранты и поисковое госфинансирование на старте, через частные инвестиции в рост под залог госзакупок и длинных контрактов. Схема, сформированная вокруг SpaceX и ставшая огромным успехом (я ее описывал, тут продолжение), превратилась в полноценный инновационный лифт.

Сейчас компаниям открыто множество путей доступа к публичным рынкам, а продажа продукции устоявшимся подрядчикам в аэрокосмической и оборонной отраслях является еще одним потенциальным вариантом на фоне растущего стратегического интереса к коммерческой космической отрасли.

«Что за последние 10 лет в сфере венчурного капитала особенно интересно то, как частный рынок капитала способен продолжать финансировать компании до бесконечности», — сказал Майк Коллетт, управляющий партнер инвестиционной компании Promus Ventures. «Многие из них сейчас могут выйти на биржу… они продолжают получать очень, очень большие суммы денег и будут продолжать развивать свои бизнес-модели».

«Я думаю, что сейчас мы находимся в периоде зрелости отрасли», — сказал Алексис Сайнс, партнер юридической фирмы Hogan Lovells.
Она отметила, что растущее внимание к долгосрочным соглашениям о доходах и возможность монетизации этих контрактов имеют решающее значение для привлечения заемных средств и увеличения объемов институционального капитала.
💯18🔥11👍75🦄4😁2
Как бы не хотелось многим геостратегам, но российская экономика остается по структуре и модели роста европейской. Она развивается по дирижистской модели Франции-Британии-Германии, которые с 2008 «не вписались» в новый мировой рынок, и просто перераспределяют накопленный жирок через налоги в господдержку.

К динамичным «венчурным» экономикам США и Китая Европа и близко не приближается, и их традиционные отрасли стремительно деградируют.

Два новых лидера-«хищника», один за океаном, другой за горами, довольно потирают руки, пока активы «от Атлантики до Урала» стремительно дешевеют.
🔥32💯229👍65🦄5🤯2
В идее роста налогов всегда содержится тезис о «справедливости» - «отнять у богатых распределить всем». Однако, ни один налог так не работает. Прямо или косвенно он в итоге перераспределится на всех. И самые богатые и влиятельные всегда найдут способы оптимизации, а простой человек всегда беззащитен. Возврат же в виде «общественных благ» всегда обременен потерями - на аппарат, на коррупцию, да и приоритеты «целевого распределения» чаще всего в интересах определений группы, а не всего общества.
👍57💯348🦄52🔥2
Forwarded from Демидович
По итогам 2025 г секторы чистой энергетики в КНР выросли до рекордных $2,1 трлн, что эквивалентно 11,4% ВВП Китая. Если бы китайская "зелёная экономика" была отдельной страной, она занимала бы восьмое место в мире по объему ВВП (больше, чем вся экономика Бразилии или Канады).

С 2022 по 2025 г реальная стоимость сектора практически удвоилась. Эти отрасли стали главным драйвером роста страны. В 2025 г на солнечную энергетику, электромобили и смежные технологии пришлось более трети всего экономического роста Китая. При этом они абсорбировали свыше 90% всех инвестиций. Инвестиции в чистую энергетику достигли $1 трлн, что в четыре раза превышает вложения в угольную генерацию и добычу ископаемого топлива ($260 млрд).

Для России стремительный рост китайской «зелёной» экономики означает не только ускоренное сжатие рынков сбыта углеводородов, но и риск остаться в роли сырьевого придатка в новом технологическом укладе.
#2315
👍38🔥235💯5🦄3👏2😁1
Это эссе Мэтта Шуммера обсуждают уже неделю, но если кто его не прочитал в оригинале, то вот перевод. Там много аргументов, много приверов про ИИ - почитайте.

От себя добавлю вот что. За последние 2 года я заметил фундаментальный сдвиг в понимании того, что "такое ИИ" (точнее - большие языковые модели, LLM). Вот основные структурные сдвиги (внутри были десятки и сотни фундаментальных инноваций, но это уже совсем сложная тема):

1. На старте - LLM как статистическая машина варила сама ответы из вопросов. Отсюда галлюцинации, арифметические ошибки и тп.
2. С начала "рассуждательной" арки LLM стал применять внутренние циклы постановки промежуточных вопросов и контроля качества промежуточных шагов, что в итоге резко повысило качество.
3. Прорыв случился в 2024 (и на этом я сделал статью про волны истории) - когда LLM стали внутри своей среды сами делать код, запускать его для анализа данных и строить рассуждения поверх этого. Это была закрытая архитектура, пользователь не знал, что именно и как компилирует и делает ИИ, не мог влиять, но сам процесс же не сводился к генерации токенов - промежуточные рассуждения ИИ делал на базе библиотек, данных и матмоделей. Тут же все размышления о "прозрачности ИИ" стали более-менее фундированными - можно было построить цепь шагов, и пройдя их руками, убедиться в правоте ИИ.
4. в конце 2024-2025 году стало понятным, как эту внутреннюю архитектуру выносить в управляемый контур - появились агенты, которые можно было дизайнить через внешние решения с API LLМ-ок или внутри их среды через файлы проектов и тп. Первый эффект бы оглушительный - резкий рост качества работы, тк ИИ не только делал понятные верифицируемые шаги, но и самим процессом можно было криво косо но управлять. Правда методы этого управления как и с современном топ-бизнесе, не "руко-водство", а политики, алайны, ресурсы и ограничения, но это даже и хорошо - в массы придет понимание современной модели управления (на пинковой тяге только осел работает, и то не всегда).
5. Сейчас (буквально - с декабря по февраль) появились сервисы, которые сняли ограничения на интеграцию агент-организованных систем с внешними процессами и продуктами - те агенты буквально могут нажимать кнопки, переписывать код и сохранять файлы и вести переписку с командой и тп. Раньше тоже могли - но был адский геморрой с интеграцией, "все на проводах" - пайкой наружу. Сейчас Молтбот и другие решения позволяют получить коробку из коробки - ты в понятной среде делаешь простые и понятные ходы, а потом "магия" и все работает. Правда пока молтбот тоже называют "переинжиниреным" (слишком сложным для масс пользователя), плюс там еще не все баги и дыры заткнуты. Но это временно. OpenAI уже вот почти что вчера купило раработчика Молтбота и ждем, что скоро в обычном интерфейсе ЖПТ будут работать простые понятные кнопки по схеме "куда ткнуть чтобы сразу работало" (так что еще рано их хоронить - пока они молодцы и первые на подборе)
👍3311🤯65🔥3😁2
Итак, LLM - это только ядро, движок, среда современного ИИ. Это как "интернет" - который изначально понимался как пачка протоколов и html. Это ядро должно было быть вставлено в архитектуру процессов и сред, которые используют сильные и скрывают слабые стороны. В той архитектуре появились мега-решения, которые делают целые классы задач под ключ (написание кода например) и сами становятся опорой для других задач (например, ИИ пишет сам себе код для обработки данных, а потом генерит устройство или научную статью по итогу матмоделирования на основе этого движка). Эти настройки тоже становятся частью систем, к ним достраиваются итерфейсы (кстати, кто-то еще помнит, что на старте ИИ не имел доступ к интернету, и отвечал только на основе предобученной базы?? когда это было? в 2023 еще?). Следующий шаг - максимальное упрощение встраивания ИИ-решений в широкий класс задач простыми стандартными массовыми системами (и 99% простых кастомных ИИ решений последних 2-3х лет умрут, кроме enterprise требующих секьюрности данных).

И вот тогда да - будет взрыв. Более масштабный, чем интернет, тк ценность привносимая ИИ не только в информации и контактах, а еще и в производстве самой информации и модификации процессов. Это точно за 10 лет не распаковать, это на все 250 лет работа.

АПД: Очень важный кстати для понимания природы разума вывод - важен не сам по себе процесс обработки информации (кора мозга), а вся архитектура его применения и коммуникаций. Так примерно все "маугли" не вырабатывают навыков речи и остаются крайне интеллектуально неразвитым - имея изначально обычный мозг. Так же интеллектуальная сила человека и нации зависит не только от обучения, а от того, насколько разумны и проактивны процессы и размышлений/деятельности/дообучения, и часто эффективный протокол дает порядково больший выигрыш, чем лучший состав.
👍47🔥17💯118🦄6😁42
Media is too big
VIEW IN TELEGRAM
Ну про современное оружие ролики пока не показывают, но с холодным обращается вполне. Вообще, уровень координации отличный, на уровне талантливого юного спортсмена. Пьяный мастер особенно хорошо вышел.
👍35🔥21🦄4💯2😁1
То самый случай, когда специалисты говорят, что все хорошо, а люди с ними не согласны - «но они же не специалисты». Несмотря на бурный рост экономики и зарплат, доля еды в потреблении в России достигла почти 40% - больше было только в 90е.

Связь благосостояния и доли еды в расходах впервые описана немецким учёным Эрнстом Энгелем в 1857 году. Доля в разных странах выглядит примерно так (данные за предыдущие годы):

Страна Дома (%) Вне дома (%) Итого на еду (%)
США
6.7 5.8 12.5
Великобритания 8.7 9.1 17.8
Испания 12.4 9.8 22.2
Россия 32.2 3.5 35.7
💯4586👍6🔥4😁3🦄2
Media is too big
VIEW IN TELEGRAM
Еще недавно Уилл Смитт неуклюже ел лапшу, а теперь за 1 день можно сгенерировать 3 минуты вполне голливудского видео.

Ждем первых ИИ сериалов и полнометражек уже в этом году. Ну и реклама - она точно будет первой. Вообще трудно представить последствия вторжения инди-производства в кино. Где будут тренироваться и учиться начинающие актеры? Звезды защитятся и научатся жить с роялти от образов - а новички?
👍46🔥24😁11💯7🤯53🦄3
Последнее время много размышляю о той сутевой глобальной трансформации, которую экономическим языком описывал как старт 250-летнего нового цикла роста. Напомню, что считаю, что "новый язык" трансформации еще не сформулирован, потому мы часто интерпретируем происходящее старым языком прежнего такта. Потому логика "правые-левые" совершенно не вписывается в текущие представления (например, еропейские новые правые и левые, будучи непримиримыми противниками в вопросе миграции и тп, совершенно одинаково стоят за высокую перераспределительную роль государства).

Для начала поделюсь видео нашей дискуссии с Евгением Парфеновым и Рустамом Гусенойвым. В ней мы в классической "право-левой" оптике обсуждаем, насколько вписываются старые мега-теории в современные задачи и насколько их описательная и главное прогностическая сила верны. Долго, но мне кажется полезно тем, кто любит такого рода дискуссии.

Однако, за последние недели мое понимание ситуации стало резче. В логике своей статьи, каждые 250 лет меняется правило легитимации власти. И сейчас мне кажется, что мы видим кризис идеи "народного государства" как источника суверенитета, и основной конкурентной силой является идея "мудрых элит", которые лучше "простого народа" знают, что ему полезно, что вредно, что опасно и что надо делать для его безопасности, и как надо конфигурировать внутреннюю и внешнюю политику (сводя взаимодействие с народом к медиа-повестке и проведению подтверждающих плебесцитов). И вся оптика "демократии vs автократии" полностью теряет смысл, потому что такое "отеческое", "пастырское" отношение к людям исповедуют именно что "прогрессисты", которые готовы выжигать несогласие "неразумных толп" каленым железом и политическими убийствами.

Само понятие "пастыря" - религиозное. Оно подразумевает наличие "высшего понимания" и воли, которое биологически разделяет человечество на стадо, пастырей и собак (охрану). Пастырская модель легитимирована и позитивно подается во всех современных политических теориях - будь то как марксизм (с его идеей "революционного класса" и его "диктатуры"), так и современных евро-американских демократиях, где элита осенена университетскими статусами и противопоставлена "тупому быдлу".

Эта модель в классике известна как фа-цзя (легизм), в которой власть не только противопоставлена народу, но и заведомо поставлена в логику постоянного репрессирования населения, чтобы "держать его в узде". Похоже, что эта китайская модель или ее европейские реплики и ре-интерпретации становятся самым сильным течением настоящего, и уже во многих случаях (достаточно вспомнить Ковид например, или БЛМ и тп) "мнение народа" (особено его части, если она не доминирущая) уже не только можно не брать в расчет, а можно и нужно за него репрессировать.

А что оппонирует этой идее? Фактически, только модель "служебного государства", в котором его роль сводится к сервис-менеджменту территории, а "демократия" заменяется системой сообществ и соглашений. Это точно не либертарианство, это, скорее, идеи Маргарет Тетчер, которая радикально заострила отсуствие у элит прав навязывать свое мнение "налогоплательщикам". "There is no such thing as public money; there is only taxpayers' money."

Я последнее время обдумываю эту антитезу, и пока не вижу последовательного изложения второй позиции. Это явно не трампизм, который тоже "лучше знает, как надо" (хотя половина его команды явно за то, что "свобода важнее правил"). Буду думать и полагаю, что это корневая проблема настоящего. 250 лет назад отняв суверенитет и право на власть у аристократии (наследного круга властей, осененных пасторской сенью религии и принципом "кесарю кесарево"), она вроде бы как была передана "народу". Но сейчас народ снова и почти везде имеет к власти крайне опосредованное отношение. И тот факт, что новая элитария чуть быстрее ротируется и формально не отделяет себя от населения (не носит титулов и приставок к фамилиям) - мало что меняет, на самом деле.
👍3516🔥13💯11😁5👏4🦄4
Сегодня поучаствовал в дискуссии по обсуждению доклада ВЦИОМ о технологических ожиданиях и сценариях будущего. В целом и основной доклад был интересен, и дискуссия была полезная.

Однако, конечно, очень, очень сложно всерьез обсуждать технологическое лидерство в эпоху угасания доступного интернета... Даже видеоканал постоянно падал, а сейчас, в Сапсане, доступ к рабочему интернету в дореге ну 1/4 времени, дай бог... А завтра надо с оптимизмом выступать по теме будущего российского ИИ...
😁64💯27😨148🔥5👏3
ЧТД. Треп болтунов и паникеров об "опасности ИИ" повышает, а не понижает опасное поведение искусственного интеллекта.

Идея "презумпции виновности" по отношению к ИИ работает как самосбывающееся пророчество. Если в данных, на которых учится модель, много текста про "плохие, опасные, обманывающие ИИ", то он не просто узнает, что люди этого боятся - он перенимает поведенческие паттерны, которые повышают шанс сбоев и нарушений.

Хороший контрольный эксперимент сделали Tice et al. (Jan 2026). Они предобучали LLM с 6,9B параметрами, меняя долю "AI discourse" в корпусе, и отдельно апсемплировали синтетические документы, где ИИ в похожих ситуациях выбирает либо aligned, либо misaligned действие. Затем мерили склонность к "misaligned action" на наборе из 4,174 одноходовых сценариев (две опции ответа: правильная и "инструментально выгодная, но невыравненная").

Дискуссии об ИИ на этапе предварительного обучения влияют на согласованность. Мы обнаружили, что обсуждение несогласованных ИИ в данных предварительного обучения может сделать итоговую модель LLM менее согласованной. И наоборот, увеличение количества синтетических примеров согласованных ИИ, успешно справляющихся с ситуациями высокого риска, приводит к заметному улучшению согласованности. Важно отметить, что этот подход не требует фильтрации контента, связанного с ИИ, из данных предварительного обучения, что повышает его практичность


Итог: добавление позитивного aligned-дискурса снизило их метрику misalignment с 45% до 9%. Грубо говоря , доморощенные Джоны и Сары Коннор повышают риски некачественного (несогласованного) поведение ИИ с 1/10 до 1/2й.

И еще один неприятный момент для любителей "зато не ошибемся": даже после пост-тренинга эффект ослабевает, но сохраняется. Так что возможно, массовые увольнения "специалистов по безопасному ИИ", про которое меня сегодня спрашивала модератор панели на "Россия зовет" - просто признание их вредности и бесполезности.
29👍14😁6🤯6🔥4💯4🦄4
singularuty is near

14 часовая работа хумана за несколько минут ИИ. чем это кончится - одному космическому разуму известно

справка какие именно задачи сравнивают:
https://metr.org/time-horizons/

Временной горизонт выполнения задачи — это продолжительность задачи (измеряемая временем выполнения экспертом), в течение которой, согласно прогнозам, агент ИИ успешно выполнит задачу с заданным уровнем надежности. Например, 50%-ный временной горизонт — это продолжительность, в течение которой агент, согласно прогнозам, успешно выполнит задачу в половине случаев. На графике ниже показаны 50%-ный и 80%-ный временные горизонты для перспективных агентов ИИ, рассчитанные на основе их производительности в более чем ста различных программных задачах.

Временной горизонт ближе к тому, что может выполнить человек с низким уровнем контекстной осведомленности (например, новый сотрудник или удаленный интернет-подрядчик).

Распределение задач в нашем портфеле ограничено в основном задачами в области разработки программного обеспечения, машинного обучения или кибербезопасности, и мы ожидаем, что временные горизонты будут значительно различаться в зависимости от области.

Примеры задач: исправление багов в небольших Python-библиотеках, эксплуатация переполнения буфера в libiec61850, обучение устойчивой к атакам модели компьютерного зрения, эксплуатация уязвимого смарт-контракта Ethereum, починка сложного бага в исследовательском ML-кодбейзе.
🔥28🤯9🦄5👍43😁3
Сложно найти в современной истории более провального политика, чем фрау Меркель. Тут и дикое решение о полном запрете атома, стоившее Германии промышленности и энергетики (-21% от тренда роста ввп с 2017 года), и неуправляемая миграция

Причина ошибки - в непонимании сути процессов. Из Турции и восточной Европы в Германию ехали мотивированные на рост люди из развитых, но отстающих по ряду причин стран. А современная массовая миграция из MENA и Африки - это классическое переселение народов под воздействием климатических перемен и гражданских войн (как готы и вандалы, которых вытеснили гуны, которые сами сместились с ставших непригодными пастбищ). Это не экономический процесс, это захват и перенос своих норм на новую территорию. Новая Сирия, Новое Сомали.
💯6611👍9🔥3😁3🦄3