ИИ против прогнозистов: машина впервые выиграла Metaculus Cup
В сентябре впервые в истории сезонного Metaculus Cup первое место занял ИИ-прогнозист. Причём победил бот, созданный независимым разработчиком из Техаса. По его оценке, на разработку ушло менее 150 часов и несколько тысяч долларов на вычисления и данные. Его система обошла четыре стартапа, которые вместе привлекли более $15 млн инвестиций, а сейчас лидирует ещё и в отдельном ИИ-турнире Metaculus с призовым фондом $50 тыс. ИИ занял также второе и пятое места, тогда как третье и четвёртое достались людям.
ИИ уже впереди?
Ранее мы уже писали об ИИ прогнозировании в контексте синтетических респондентов и цифровых двойников, которые достаточно точно могут в некоторых случаях моделировать поведение людей и групп, например в опросах или на выборах.
Но в Metaculus логика иная: ИИ выступает как аналитик-прогнозист и напрямую оценивает вероятность будущих событий: введут ли отдельные штаты США или страны ЕС ограничения на строительство дата-центров, распространится ли вспышка хантавируса за пределы пассажиров судна MV Hondius, сколько будет стоить нефть Brent и др. Чем точнее и устойчивее был прогноз, тем больше баллов получал участник.
Интересно, что в основе моделей ИИ-конкурсантов лежали обычные большие языковые модели (БЯМ), которые искали новости, сопоставляли источники и анализировали данные, но делали это быстрее и в большем объеме, чем человек-прогнозист.
Конечно, результат Metaculus не означает, что ИИ уже превосходит лучших человеческих прогнозистов вообще. Всё-таки кубок длился четыре месяца и в основном проверял сравнительно короткий горизонт, тогда как для бизнеса и государства часто важны прогнозы на годы вперёд. Да и участники турнира не обязательно представляют мировую элиту прогнозистов. Тем не менее ИИ всё ближе к паритету с прогнозистами, что фиксирует и Forecasting Research Institute с помощью ForecastBench — бенчмарка, который сравнивает точность прогнозов языковых моделей и людей. Некоторые ИИ-системы уже статистически неотличимы от уровня суперпрогнозистов.
За счёт чего ИИ становится точнее в прогнозах (некоторые факторы)
Fusion-подход. Несколько моделей или агентов независимо исследуют разные стороны вопроса, проверяют и дополняют друг друга, после чего их оценки объединяются в итоговый прогноз.
Данные и качество источников. По мере того как сильные БЯМ становятся общедоступными, преимущество смещается к специализированным данным и умению оценивать их надёжность.
ИИ можно «вернуть в прошлое». Моделям дают только ту информацию, которая была доступна на определённую дату, и смотрят, какой прогноз они сделали бы. Затем меняют инструкции, источники или архитектуру и повторяют эксперимент. Такой backtesting позволяет системно учиться на прошлых ошибках без эффекта знания задним числом.
Пока эффективным способом взаимодействия с ИИ, как правило, остается гибридная модель: например, ИИ используется как участник команды, с которым можно сверять собственные оценки. В дальнейшем развитие ИИ-прогнозирования может не только помочь нам лучше видеть будущее, но и показать границу между тем, чего мы пока не знаем, и тем, что в принципе невозможно надёжно предсказать. И это, возможно, окажется не менее важным результатом, чем сами прогнозы.
👋 Подписаться на Max
🌐Ваш O2Consulting
В сентябре впервые в истории сезонного Metaculus Cup первое место занял ИИ-прогнозист. Причём победил бот, созданный независимым разработчиком из Техаса. По его оценке, на разработку ушло менее 150 часов и несколько тысяч долларов на вычисления и данные. Его система обошла четыре стартапа, которые вместе привлекли более $15 млн инвестиций, а сейчас лидирует ещё и в отдельном ИИ-турнире Metaculus с призовым фондом $50 тыс. ИИ занял также второе и пятое места, тогда как третье и четвёртое достались людям.
ИИ уже впереди?
Ранее мы уже писали об ИИ прогнозировании в контексте синтетических респондентов и цифровых двойников, которые достаточно точно могут в некоторых случаях моделировать поведение людей и групп, например в опросах или на выборах.
Но в Metaculus логика иная: ИИ выступает как аналитик-прогнозист и напрямую оценивает вероятность будущих событий: введут ли отдельные штаты США или страны ЕС ограничения на строительство дата-центров, распространится ли вспышка хантавируса за пределы пассажиров судна MV Hondius, сколько будет стоить нефть Brent и др. Чем точнее и устойчивее был прогноз, тем больше баллов получал участник.
Интересно, что в основе моделей ИИ-конкурсантов лежали обычные большие языковые модели (БЯМ), которые искали новости, сопоставляли источники и анализировали данные, но делали это быстрее и в большем объеме, чем человек-прогнозист.
Конечно, результат Metaculus не означает, что ИИ уже превосходит лучших человеческих прогнозистов вообще. Всё-таки кубок длился четыре месяца и в основном проверял сравнительно короткий горизонт, тогда как для бизнеса и государства часто важны прогнозы на годы вперёд. Да и участники турнира не обязательно представляют мировую элиту прогнозистов. Тем не менее ИИ всё ближе к паритету с прогнозистами, что фиксирует и Forecasting Research Institute с помощью ForecastBench — бенчмарка, который сравнивает точность прогнозов языковых моделей и людей. Некоторые ИИ-системы уже статистически неотличимы от уровня суперпрогнозистов.
За счёт чего ИИ становится точнее в прогнозах (некоторые факторы)
Fusion-подход. Несколько моделей или агентов независимо исследуют разные стороны вопроса, проверяют и дополняют друг друга, после чего их оценки объединяются в итоговый прогноз.
Данные и качество источников. По мере того как сильные БЯМ становятся общедоступными, преимущество смещается к специализированным данным и умению оценивать их надёжность.
ИИ можно «вернуть в прошлое». Моделям дают только ту информацию, которая была доступна на определённую дату, и смотрят, какой прогноз они сделали бы. Затем меняют инструкции, источники или архитектуру и повторяют эксперимент. Такой backtesting позволяет системно учиться на прошлых ошибках без эффекта знания задним числом.
Пока эффективным способом взаимодействия с ИИ, как правило, остается гибридная модель: например, ИИ используется как участник команды, с которым можно сверять собственные оценки. В дальнейшем развитие ИИ-прогнозирования может не только помочь нам лучше видеть будущее, но и показать границу между тем, чего мы пока не знаем, и тем, что в принципе невозможно надёжно предсказать. И это, возможно, окажется не менее важным результатом, чем сами прогнозы.
🌐Ваш O2Consulting
Please open Telegram to view this post
VIEW IN TELEGRAM
1👏4⚡3🆒3
McKinsey_Technology Trends Outlook_2026 (143 pgs).pdf
8.9 MB
McKinsey Technology Trends Outlook 2026: мнение эксперта
В отчёте — обзор 14 ключевых технологических трендов. Для каждого тренда McKinsey оценивает уровень инноваций, интереса, инвестиций, спроса на специалистов и степень внедрения в компаниях.
🛑 Агентная разработка ПО
🛑 Агентный ИИ
🛑 ИИ для научных открытий и инженерии
🛑 Инфраструктура ИИ и архитектуры моделей
🛑 Специализированные полупроводники
🛑 Кибербезопасность и доверенные системы
🛑 Передовые технологии связи
🛑 Иммерсивные технологии
🛑 Квантовые технологии
🛑 Робототехника
🛑 Мобильность
🛑 Космические технологии
🛑 Науки о жизни и биоинженерия
🛑 Энергетика и технологии устойчивого развития.
Руководитель проектов Сергей Дранев отмечает, что отчёт интересно читать: многие описанные тенденции действительно существуют и заслуживают внимания. Однако использовать его как основу для долгосрочного прогноза стоит с осторожностью — слишком многое сейчас зависит от дальнейшей траектории развития ИИ.
Эксперт обращает внимание на то, что возможности ИИ во многом зависят от качества и масштаба доступных данных. На узких, хорошо описанных участках — например, на конкретном производстве — ИИ уже может давать заметный эффект. Но для более сложных задач нужны сопоставимые и верифицированные данные по множеству аналогичных объектов и процессов.
Иммерсивная реальность выглядит потенциально прорывным направлением: фактически это путь к технологиям полного погружения. Графика, дополненная и виртуальная реальность постепенно становятся лучше, однако настоящего прорыва пока не видно, хотя о нём говорят уже много лет.
Робототехника. Отчёт отмечает движение физического ИИ от производства и логистики к более сложным средам — больницам, строительству, сельскому хозяйству и городской инфраструктуре. Однако и здесь сохраняется проблема качества и полноты данных.
Квантовые технологии также нельзя рассматривать как единое направление. Квантовые коммуникации и квантовые сенсоры — уже вполне рабочие области, в отличие от квантовых вычислений, где прорыв пока только ожидается.
Кроме того, эксперт отмечает, что в технологическом прогнозе стоило бы подробнее рассмотреть собственно энергетические технологии, а не в основном их роль в обеспечении цифровой инфраструктуры. Хотя энергетика выделена в отчёте как отдельный тренд, значительная часть анализа сосредоточена на растущем энергопотреблении ИИ и дата-центров. Аналогичная ситуация с биоинженерией и науками о жизни: направление важно, но и здесь существенная часть повестки связана только с ролью ИИ в ускорении исследований.
Что из этого следует уже сегодня?
Дальнейший эффект от развития ИИ будет зависеть не только от качества моделей, но и от качества доступных им данных. Поэтому уже сегодня необходимо развивать системы сбора, верификации и сопоставления промышленных, финансовых, социальных, демографических и других данных, при необходимости — в обезличенном виде. Это дорогая и долгосрочная задача, но без такой базы возможности всё более сложных ИИ-систем будут существенно ограничены.
#Мнение_эксперта
👋 Подписаться на Max
🌐Ваш O2Consulting
В отчёте — обзор 14 ключевых технологических трендов. Для каждого тренда McKinsey оценивает уровень инноваций, интереса, инвестиций, спроса на специалистов и степень внедрения в компаниях.
Ключевая мысль — ИИ становится ускорителем почти для всей технологической повестки: он меняет разработку ПО, робототехнику, научные исследования, кибербезопасность и инфраструктуру. При этом авторы подчёркивают, что одного внедрения технологий недостаточно: компаниям приходится перестраивать операционные модели, развивать компетенции сотрудников и решать вопросы инфраструктуры, безопасности, энергии и управления.
Руководитель проектов Сергей Дранев отмечает, что отчёт интересно читать: многие описанные тенденции действительно существуют и заслуживают внимания. Однако использовать его как основу для долгосрочного прогноза стоит с осторожностью — слишком многое сейчас зависит от дальнейшей траектории развития ИИ.
Эксперт обращает внимание на то, что возможности ИИ во многом зависят от качества и масштаба доступных данных. На узких, хорошо описанных участках — например, на конкретном производстве — ИИ уже может давать заметный эффект. Но для более сложных задач нужны сопоставимые и верифицированные данные по множеству аналогичных объектов и процессов.
Иммерсивная реальность выглядит потенциально прорывным направлением: фактически это путь к технологиям полного погружения. Графика, дополненная и виртуальная реальность постепенно становятся лучше, однако настоящего прорыва пока не видно, хотя о нём говорят уже много лет.
Робототехника. Отчёт отмечает движение физического ИИ от производства и логистики к более сложным средам — больницам, строительству, сельскому хозяйству и городской инфраструктуре. Однако и здесь сохраняется проблема качества и полноты данных.
Квантовые технологии также нельзя рассматривать как единое направление. Квантовые коммуникации и квантовые сенсоры — уже вполне рабочие области, в отличие от квантовых вычислений, где прорыв пока только ожидается.
Кроме того, эксперт отмечает, что в технологическом прогнозе стоило бы подробнее рассмотреть собственно энергетические технологии, а не в основном их роль в обеспечении цифровой инфраструктуры. Хотя энергетика выделена в отчёте как отдельный тренд, значительная часть анализа сосредоточена на растущем энергопотреблении ИИ и дата-центров. Аналогичная ситуация с биоинженерией и науками о жизни: направление важно, но и здесь существенная часть повестки связана только с ролью ИИ в ускорении исследований.
Что из этого следует уже сегодня?
Дальнейший эффект от развития ИИ будет зависеть не только от качества моделей, но и от качества доступных им данных. Поэтому уже сегодня необходимо развивать системы сбора, верификации и сопоставления промышленных, финансовых, социальных, демографических и других данных, при необходимости — в обезличенном виде. Это дорогая и долгосрочная задача, но без такой базы возможности всё более сложных ИИ-систем будут существенно ограничены.
#Мнение_эксперта
🌐Ваш O2Consulting
Please open Telegram to view this post
VIEW IN TELEGRAM
1✍1🔥1👏1