Коллективный иммунитет больше не вариант.
Остается только агрессивное подавление.
Таков вывод опубликованного вчера отчета, содержащего анализ катастрофы COVID-19 в «дозорной популяции» Манауса.
«Больницы бразильского города Манаус, столицы штата Амазонас исчерпали запасы кислорода на фоне резкого скачка заболеваемости. В отделениях не осталось ни свободных коек, ни аппаратов ИВЛ, ни кислородных масок. Медики говорят, что просто не могут помочь новым пациентам, которых продолжают привозить», - сообщает сегодня BBC.
И это при том, что в Манаусе коллективный иммунитет так и не был достигнут при доле инфицированных еще в октябре (attack rate) 76% населения.
Манаус - крупнейший мегаполис штата Амазонас с населением более 2 млн человек и плотностью населения 158 чел/кв. км (в Москве – 4770 чел/кв. км.) стал «дозорной популяцией» человечества, показав, «что может произойти, если вирусу SARS-CoV-2 будет разрешено распространяться без серьёзных мер ослабления.
Результат получился катастрофический – увеличение смертности в 2020 году (по сравнению с предыдущими годами) в 4,5 раза (для справки, в Москве в ноябре и декабре 2020 избыточная смертность составила 50%).
В Манаусе зарегистрировано 2642 (1193 / млн жителей) подтвержденных случаев смерти от COVID-19 и 3789 (1710 / млн) смертей от тяжелого острого респираторного синдрома, вероятно, вызванного инфекцией SARS-CoV-2. Эти цифры резко отличаются от показателей смертности за тот же период (до 1 октября) в Великобритании (620 / мил), Франции (490 / мил) и США (625 / мил), и на порядки выше. чем в Австралии (36 / мил), Тайване (0,3 / мил) и Новой Зеландии (5 / мил).
Но! Несмотря на такую высокую долю инфицированного населения, пандемия в Манаусе продолжалась. Согласно расчетам авторов отчета, сейчас ожидаемый процент зараженного населения составляет 89-94%. Т.е. порог коллективного иммунитета (HIT) - доля населения, которая нуждается в иммунитете для сокращения числа восприимчивых особей в достаточной степени, чтобы обратить вспять эпидемический рост (60-70% для однородной популяции), - давно пройден.
Это значит (как пишут авторы отчета):
Обеспечение коллективного иммунитета через естественное инфицирование не является стратегией, которую можно рассматривать – слишком много смертей.
Даже стратегия ограниченного смягчения последствий (при которой вирусу разрешается распространяться среди населения с целью удержания госпитализаций чуть ниже возможностей здравоохранения, как это делается в отношении вируса гриппа) явно неверна для SARS-CoV-2. Как и SARS-CoV и MERS-CoV, этот вирус оптимально лечится с помощью агрессивной стратегии подавления.
И это значит, что альтернативы стратегии Zero Covid нет.
О чем вот уже 9 мес. не устаёт писать Янир Бар-Ям.
Но многие всё равно скажут – у нас не Манаус.
Хорошо, если так.
Подробней 1 и 2
#Эпидемия
Остается только агрессивное подавление.
Таков вывод опубликованного вчера отчета, содержащего анализ катастрофы COVID-19 в «дозорной популяции» Манауса.
«Больницы бразильского города Манаус, столицы штата Амазонас исчерпали запасы кислорода на фоне резкого скачка заболеваемости. В отделениях не осталось ни свободных коек, ни аппаратов ИВЛ, ни кислородных масок. Медики говорят, что просто не могут помочь новым пациентам, которых продолжают привозить», - сообщает сегодня BBC.
И это при том, что в Манаусе коллективный иммунитет так и не был достигнут при доле инфицированных еще в октябре (attack rate) 76% населения.
Манаус - крупнейший мегаполис штата Амазонас с населением более 2 млн человек и плотностью населения 158 чел/кв. км (в Москве – 4770 чел/кв. км.) стал «дозорной популяцией» человечества, показав, «что может произойти, если вирусу SARS-CoV-2 будет разрешено распространяться без серьёзных мер ослабления.
Результат получился катастрофический – увеличение смертности в 2020 году (по сравнению с предыдущими годами) в 4,5 раза (для справки, в Москве в ноябре и декабре 2020 избыточная смертность составила 50%).
В Манаусе зарегистрировано 2642 (1193 / млн жителей) подтвержденных случаев смерти от COVID-19 и 3789 (1710 / млн) смертей от тяжелого острого респираторного синдрома, вероятно, вызванного инфекцией SARS-CoV-2. Эти цифры резко отличаются от показателей смертности за тот же период (до 1 октября) в Великобритании (620 / мил), Франции (490 / мил) и США (625 / мил), и на порядки выше. чем в Австралии (36 / мил), Тайване (0,3 / мил) и Новой Зеландии (5 / мил).
Но! Несмотря на такую высокую долю инфицированного населения, пандемия в Манаусе продолжалась. Согласно расчетам авторов отчета, сейчас ожидаемый процент зараженного населения составляет 89-94%. Т.е. порог коллективного иммунитета (HIT) - доля населения, которая нуждается в иммунитете для сокращения числа восприимчивых особей в достаточной степени, чтобы обратить вспять эпидемический рост (60-70% для однородной популяции), - давно пройден.
Это значит (как пишут авторы отчета):
Обеспечение коллективного иммунитета через естественное инфицирование не является стратегией, которую можно рассматривать – слишком много смертей.
Даже стратегия ограниченного смягчения последствий (при которой вирусу разрешается распространяться среди населения с целью удержания госпитализаций чуть ниже возможностей здравоохранения, как это делается в отношении вируса гриппа) явно неверна для SARS-CoV-2. Как и SARS-CoV и MERS-CoV, этот вирус оптимально лечится с помощью агрессивной стратегии подавления.
И это значит, что альтернативы стратегии Zero Covid нет.
О чем вот уже 9 мес. не устаёт писать Янир Бар-Ям.
Но многие всё равно скажут – у нас не Манаус.
Хорошо, если так.
Подробней 1 и 2
#Эпидемия
Кругом нас не одни идиоты.
Крутейший прорыв в психологии взаимонепонимания.
Мир захлебывается от поляризации мнений, научных гипотез и морально-этических расхождений. По любому важному вопросу – от потепления и ГМО до масок и вакцинаций, - сторонники противоположных позиций в баталиях споров теряют друзей и остатки веры в разумность оппонентов, все более склоняясь к непреодолимости когнитивных искажений и пороков мышления людей, ведущих во тьму интеллектуальной слепоты.
Лучом света в этом все быстрее темнеющем царстве может стать новая прорывная гипотеза Войтовича и ДеДео, опубликованная ими в работе «От вероятности к согласию: как объяснительные ценности реализуют байесовское рассуждение».
Эта гипотеза:
✔️ может дать продуктивный способ смягчения противоречий (а то и способом преодоления) взаимонепонимания групп специалистов и общественности, стоящих на противоположных позициях в самых жизненно важных научных и морально-этических вопросах;
✔️ позволяет переосмыслить объяснительные пороки, которые движут теории заговора, заблуждения на основе отрицания науки и экстремистские идеологии.
Предложенная Фристоном новая «конституция биоматематики» предполагает, что мозг использует байесовскую модель мира и байесовский вывод— основанный на теореме Байеса вероятностный вывод, в котором свидетельства и/или наблюдения используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.
Войтович и ДеДео пошли похожим путем, предложив байесовское объяснение того, как в нашем мозге сочетается множество объяснительных ценностей, на основе которых мы принимаем или отвергаем объяснения некоторых фактов (обычно, оппоненты соглашаются с фактами, но категорически не согласны с их объяснением).
Если любопытство побуждает искать ответы на важные вопросы, то объяснительные ценности - это субъективные состояния, связанные с получением удовлетворения при нахождении «хороших» (нравящихся) ответов.
В работе Войтовича и ДеДео:
1. Предложена таксономия объяснительных ценностей – неких измерений, по которым мы оцениваем объяснения как лучшие или худшие.
2. Полученная таксономия дает набор предикторов того, из чего складываются предпочтения людей к тем или иным объяснениям, а также показывает, как основные ценности психологии, статистики и философии науки возникают из общей математической структуры байесовской процедуры.
3. Операционное применение таксономии и байесовского подхода позволяют измерять и сравнивать объяснительные предпочтения в различных контекстах, включая визуальное восприятие, политику и науку.
Предельно упрощая, можно сказать, что объяснительные ценности делятся на две группы:
• первая связана с оценкой объяснения в свете опыта,
• а вторая касается внутренних особенностей объяснения.
Неспособность настолько хорошо объяснить, чтобы убедить оппонента, может быть понята как дисбаланс в этих ценностях.
Если найти баланс, оппонент может согласиться. Но нахождение баланса между многими объяснительными ценностями является сложной когнитивной проблемой.
Авторы приводят примеры нахождения баланса между объяснительными ценностями:
• простоты и эстетической элегантности объяснения
• сложных сообъяснений, пытающихся решить сразу несколько головоломок одним махом.
Особенно интересны примеры, приводимые авторами по теории заговора.
Например, история террориста из Оклахома-Сити Тимоти Маквея, который был арестован вскоре после взрыва за то, что ехал без номерного знака с заряженным пистолетом на пассажирском сиденье. Людям было трудно понять, как преступный гений может быть таким беспечным козлом. И потому многим было куда легче поверить, что Маквей просто стал козлом отпущения в заговоре элиты.
На приложенном рисунке: слева – кадр из рассказа о конспирологическом меме Pepe Silva, справа – один из авторов исследования Саймон ДеДео.
#Поляризация #Раскол #КогнитивныеИскажения
Крутейший прорыв в психологии взаимонепонимания.
Мир захлебывается от поляризации мнений, научных гипотез и морально-этических расхождений. По любому важному вопросу – от потепления и ГМО до масок и вакцинаций, - сторонники противоположных позиций в баталиях споров теряют друзей и остатки веры в разумность оппонентов, все более склоняясь к непреодолимости когнитивных искажений и пороков мышления людей, ведущих во тьму интеллектуальной слепоты.
Лучом света в этом все быстрее темнеющем царстве может стать новая прорывная гипотеза Войтовича и ДеДео, опубликованная ими в работе «От вероятности к согласию: как объяснительные ценности реализуют байесовское рассуждение».
Эта гипотеза:
✔️ может дать продуктивный способ смягчения противоречий (а то и способом преодоления) взаимонепонимания групп специалистов и общественности, стоящих на противоположных позициях в самых жизненно важных научных и морально-этических вопросах;
✔️ позволяет переосмыслить объяснительные пороки, которые движут теории заговора, заблуждения на основе отрицания науки и экстремистские идеологии.
Предложенная Фристоном новая «конституция биоматематики» предполагает, что мозг использует байесовскую модель мира и байесовский вывод— основанный на теореме Байеса вероятностный вывод, в котором свидетельства и/или наблюдения используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.
Войтович и ДеДео пошли похожим путем, предложив байесовское объяснение того, как в нашем мозге сочетается множество объяснительных ценностей, на основе которых мы принимаем или отвергаем объяснения некоторых фактов (обычно, оппоненты соглашаются с фактами, но категорически не согласны с их объяснением).
Если любопытство побуждает искать ответы на важные вопросы, то объяснительные ценности - это субъективные состояния, связанные с получением удовлетворения при нахождении «хороших» (нравящихся) ответов.
В работе Войтовича и ДеДео:
1. Предложена таксономия объяснительных ценностей – неких измерений, по которым мы оцениваем объяснения как лучшие или худшие.
2. Полученная таксономия дает набор предикторов того, из чего складываются предпочтения людей к тем или иным объяснениям, а также показывает, как основные ценности психологии, статистики и философии науки возникают из общей математической структуры байесовской процедуры.
3. Операционное применение таксономии и байесовского подхода позволяют измерять и сравнивать объяснительные предпочтения в различных контекстах, включая визуальное восприятие, политику и науку.
Предельно упрощая, можно сказать, что объяснительные ценности делятся на две группы:
• первая связана с оценкой объяснения в свете опыта,
• а вторая касается внутренних особенностей объяснения.
Неспособность настолько хорошо объяснить, чтобы убедить оппонента, может быть понята как дисбаланс в этих ценностях.
Если найти баланс, оппонент может согласиться. Но нахождение баланса между многими объяснительными ценностями является сложной когнитивной проблемой.
Авторы приводят примеры нахождения баланса между объяснительными ценностями:
• простоты и эстетической элегантности объяснения
• сложных сообъяснений, пытающихся решить сразу несколько головоломок одним махом.
Особенно интересны примеры, приводимые авторами по теории заговора.
Например, история террориста из Оклахома-Сити Тимоти Маквея, который был арестован вскоре после взрыва за то, что ехал без номерного знака с заряженным пистолетом на пассажирском сиденье. Людям было трудно понять, как преступный гений может быть таким беспечным козлом. И потому многим было куда легче поверить, что Маквей просто стал козлом отпущения в заговоре элиты.
На приложенном рисунке: слева – кадр из рассказа о конспирологическом меме Pepe Silva, справа – один из авторов исследования Саймон ДеДео.
#Поляризация #Раскол #КогнитивныеИскажения
Китаю будет тяжко с развитием ИИ.
Куда будут течь мировые реки лучших мозгов.
Можно бесконечно гадать, кто победит в глобальной ИИ гонке. США, Китай, а может быть некая тёмная лошадка?
Команда Perry World House и FHI Oxford проявила творческий подход в поисках ответа на этот вопрос. Их ответ прагматичен: победит тот, кто соберёт больше лучших мозгов среди глобального пула исследователей. А это будет зависеть от того, где захотят работать в ближайшие годы лучшие спецы мирового уровня.
Проведя опрос 3+ тыс. лучших исследователей и инженеров по ИИ, чьи работы были приняты двумя топовыми мировыми конференциями NeurIPS и ICML, организаторы получили кучу информации об иммиграционных преференциях опрошенных.
Главный итог таков:
Среди респондентов, в настоящее время не проживающих в США, считают, что с вероятностью более 25% в течение следующих трех лет они уедут работать:
• в США - 60%
• в Великобританию - 35%
• в Канаду - 28%
• в Китай - 10%
При этом, для 60% желающих уехать работать в США, самая главная проблема – решение иммиграционных и юридических вопросов.
А для 10%, желающих уехать в Китай никаких проблем с этим нет. Но зато есть проблемы с не самой высокой оценкой профессиональной среды и потенциальных возможностей страны в контексте развития ИИ.
Российских респондентов в опросе не оказалось, в связи с бесконечно малым количеством российских участников на главных мировых форумах по ИИ.
А ехать в Россию из других стран тоже никто не хочет (такая возможность предоставлялась в опросе графой «уехать в страну, отсутствующую в списке»).
Ну а почему Россия даже в список желаемых стран не попала, - так это все происки завистливых врагов. Ибо они чувствуют, что в конце концов лучшие специалисты по ИИ все равно приедут в Россию.
https://drive.google.com/file/d/1z-Uy4qZrygnNMGv5pni0Cm7M0rdcEh0r/view
#ИИталанты #Китай #США
Куда будут течь мировые реки лучших мозгов.
Можно бесконечно гадать, кто победит в глобальной ИИ гонке. США, Китай, а может быть некая тёмная лошадка?
Команда Perry World House и FHI Oxford проявила творческий подход в поисках ответа на этот вопрос. Их ответ прагматичен: победит тот, кто соберёт больше лучших мозгов среди глобального пула исследователей. А это будет зависеть от того, где захотят работать в ближайшие годы лучшие спецы мирового уровня.
Проведя опрос 3+ тыс. лучших исследователей и инженеров по ИИ, чьи работы были приняты двумя топовыми мировыми конференциями NeurIPS и ICML, организаторы получили кучу информации об иммиграционных преференциях опрошенных.
Главный итог таков:
Среди респондентов, в настоящее время не проживающих в США, считают, что с вероятностью более 25% в течение следующих трех лет они уедут работать:
• в США - 60%
• в Великобританию - 35%
• в Канаду - 28%
• в Китай - 10%
При этом, для 60% желающих уехать работать в США, самая главная проблема – решение иммиграционных и юридических вопросов.
А для 10%, желающих уехать в Китай никаких проблем с этим нет. Но зато есть проблемы с не самой высокой оценкой профессиональной среды и потенциальных возможностей страны в контексте развития ИИ.
Российских респондентов в опросе не оказалось, в связи с бесконечно малым количеством российских участников на главных мировых форумах по ИИ.
А ехать в Россию из других стран тоже никто не хочет (такая возможность предоставлялась в опросе графой «уехать в страну, отсутствующую в списке»).
Ну а почему Россия даже в список желаемых стран не попала, - так это все происки завистливых врагов. Ибо они чувствуют, что в конце концов лучшие специалисты по ИИ все равно приедут в Россию.
https://drive.google.com/file/d/1z-Uy4qZrygnNMGv5pni0Cm7M0rdcEh0r/view
#ИИталанты #Китай #США
У ИИ и людей та же проблема, что была у людей с западным черным носорогом – несовпадение целей.
Чрезвычайно интересный разговор одного из осведомленнейших в области ИИ людей с одним из лучших интервьюеров.
Вот лишь несколько важных цитат из первой половины трехчасового разговора.
Главный риск не превосходство ИИ над людьми, а ошибочно отдаваемая ИИ лидирующая роль во многих важнейших аспектах жизни общества.
[00:02:08]
Я считаю, что алгоритмы, которые управляют нашим взаимодействием в социальных сетях, уже обладают интеллектом и силой, намного превосходящими интеллект власти любого человека. Сейчас действительно самое время подумать об этом, определить траекторию взаимодействия техники и человека в нашем обществе. Я думаю, что будущее человеческой цивилизации вполне может быть поставлено на карту именно из-за этого вопроса о роли искусственного интеллекта в нашем обществе.
Если, не дай бог, будет создан общий ИИ, это может привести к катастрофе. Ибо это самый небезопасный и самый безрассудный подход
[00:30:31]
Единственное, что пугает меня до смерти, - это то, что мы просто собираемся создавать все более крупные системы, которые мы все еще не понимаем, пока они не станут такими же умными, как люди. Ведь что-то может пойти не так, верно? И потому я думаю, что это просто безрассудный путь. Ведь, к сожалению, если мы действительно преуспеем в создании общего ИИ, мы создадим его, не понимая, как он работает.
О пропаганде, манипуляциях и Трампе
[01:02:57]
Пропаганда вообще не нова, и стимулы манипулировать людьми тоже не новы. Что же в этом нового? Новое в том, что машинное обучение встречается с пропагандой. Вот почему все стало намного хуже. Вы знаете, некоторые люди любят обвинять определенных людей, как в моем либеральном университетском пузыре. Многие люди обвиняют Дональда Трампа и говорят, что это была его вина. Я вижу это по-другому. Я думаю, что Дональд Трамп просто оказался первым влиятельным человеком в эпоху алгоритмов машинного обучения, обладающим чрезвычайно высоким навыком манипулятивной игры.
О добре и зле машинного обучения
[01:05:44]
Машинное обучение и технологии в целом - это не зло, но и не добро. Это просто инструмент, который вы можете использовать для того, чтобы хорошие вещи были плохими. И как это бывает, машинное обучение в новостях в основном используется крупными игроками, большими технологиями, чтобы манипулировать людьми, заставляя их смотреть как можно больше рекламы, но которые имеют это непреднамеренное последствие действительно испортить нашу демократию и раздробить ее на фильтрующие пузыри.
О двух страшных итогах триумфа машинного обучения
[01:21:48]
Первый - полное разрушение демократии, когда наш поток информации манипулируется машинным обучением. Второй – начало гонки вооружений автономного смертоносного оружия.
Об Илоне Маске
[01:49:02]
Он мыслит более длительной перспективой. Ему гораздо яснее, чем большинству людей, что то, что мы делаем с этой русской рулеткой, в которую мы продолжаем играть с нашими ядерными зарядами, - это действительно плохая стратегия, действительно безрассудная стратегия, а также что мы просто создаем эти все более мощные системы ИИ, которые мы не понимаем… Он такой позитивный провидец… И меня так бесит, когда люди пытаются выставить его каким-то Технофобом Луддитом. Он же просто понимает риск того, что мы создаем невероятно компетентные системы, а это значит, что они всегда будут добиваться своих целей, даже если они вступают в противоречие с нашими целями… Почему, например, мы, люди, заставили вымереть западноафриканского черного носорога? Это потому, что мы злобные носорого-ненавистники? Нет, это просто потому, что наши цели не совпадали с целями тех носорогов.
https://www.youtube.com/watch?v=RL4j4KPwNGM&feature=youtu.be
#ИИ #AGI
Чрезвычайно интересный разговор одного из осведомленнейших в области ИИ людей с одним из лучших интервьюеров.
Вот лишь несколько важных цитат из первой половины трехчасового разговора.
Главный риск не превосходство ИИ над людьми, а ошибочно отдаваемая ИИ лидирующая роль во многих важнейших аспектах жизни общества.
[00:02:08]
Я считаю, что алгоритмы, которые управляют нашим взаимодействием в социальных сетях, уже обладают интеллектом и силой, намного превосходящими интеллект власти любого человека. Сейчас действительно самое время подумать об этом, определить траекторию взаимодействия техники и человека в нашем обществе. Я думаю, что будущее человеческой цивилизации вполне может быть поставлено на карту именно из-за этого вопроса о роли искусственного интеллекта в нашем обществе.
Если, не дай бог, будет создан общий ИИ, это может привести к катастрофе. Ибо это самый небезопасный и самый безрассудный подход
[00:30:31]
Единственное, что пугает меня до смерти, - это то, что мы просто собираемся создавать все более крупные системы, которые мы все еще не понимаем, пока они не станут такими же умными, как люди. Ведь что-то может пойти не так, верно? И потому я думаю, что это просто безрассудный путь. Ведь, к сожалению, если мы действительно преуспеем в создании общего ИИ, мы создадим его, не понимая, как он работает.
О пропаганде, манипуляциях и Трампе
[01:02:57]
Пропаганда вообще не нова, и стимулы манипулировать людьми тоже не новы. Что же в этом нового? Новое в том, что машинное обучение встречается с пропагандой. Вот почему все стало намного хуже. Вы знаете, некоторые люди любят обвинять определенных людей, как в моем либеральном университетском пузыре. Многие люди обвиняют Дональда Трампа и говорят, что это была его вина. Я вижу это по-другому. Я думаю, что Дональд Трамп просто оказался первым влиятельным человеком в эпоху алгоритмов машинного обучения, обладающим чрезвычайно высоким навыком манипулятивной игры.
О добре и зле машинного обучения
[01:05:44]
Машинное обучение и технологии в целом - это не зло, но и не добро. Это просто инструмент, который вы можете использовать для того, чтобы хорошие вещи были плохими. И как это бывает, машинное обучение в новостях в основном используется крупными игроками, большими технологиями, чтобы манипулировать людьми, заставляя их смотреть как можно больше рекламы, но которые имеют это непреднамеренное последствие действительно испортить нашу демократию и раздробить ее на фильтрующие пузыри.
О двух страшных итогах триумфа машинного обучения
[01:21:48]
Первый - полное разрушение демократии, когда наш поток информации манипулируется машинным обучением. Второй – начало гонки вооружений автономного смертоносного оружия.
Об Илоне Маске
[01:49:02]
Он мыслит более длительной перспективой. Ему гораздо яснее, чем большинству людей, что то, что мы делаем с этой русской рулеткой, в которую мы продолжаем играть с нашими ядерными зарядами, - это действительно плохая стратегия, действительно безрассудная стратегия, а также что мы просто создаем эти все более мощные системы ИИ, которые мы не понимаем… Он такой позитивный провидец… И меня так бесит, когда люди пытаются выставить его каким-то Технофобом Луддитом. Он же просто понимает риск того, что мы создаем невероятно компетентные системы, а это значит, что они всегда будут добиваться своих целей, даже если они вступают в противоречие с нашими целями… Почему, например, мы, люди, заставили вымереть западноафриканского черного носорога? Это потому, что мы злобные носорого-ненавистники? Нет, это просто потому, что наши цели не совпадали с целями тех носорогов.
https://www.youtube.com/watch?v=RL4j4KPwNGM&feature=youtu.be
#ИИ #AGI
YouTube
Max Tegmark: AI and Physics | Lex Fridman Podcast #155
Max Tegmark is a physicist and AI researcher at MIT. Please support this podcast by checking out our sponsors:
- The Jordan Harbinger Show: https://www.jordanharbinger.com/lex/
- Four Sigmatic: https://foursigmatic.com/lex and use code LexPod to get up to…
- The Jordan Harbinger Show: https://www.jordanharbinger.com/lex/
- Four Sigmatic: https://foursigmatic.com/lex and use code LexPod to get up to…
Ловушка уныния – самое опасное когнитивное искажение для общества.
Но петли отрицательных обратных связей можно разорвать.
Оглядываясь на прошедший год, трудно не испытать приступ безнадеги.
• Накрывшая мир инфопандемия COVID-19 и панически-идиотическая реакция на нее большинства правительств.
• Ненасильственный протест сотен тысяч и зверские расправы диктатора в ответ.
• Судорожные попытки самовлюбленного идиота удержать власть и танец полуголого шамана в Капитолии.
• Обнуление вкупе с обрезанием конституции так, что уже, кажется, больше никогда не отрастет…
В результате всего этого повсеместного торжества непреодолимого идиотизма, всё больше людей впадают в «ловушку уныния» - одно из самых опасных когнитивных искажений.
Очень важно понимать, что помимо нарастающего депресняка безысходности, страшнейшим последствием этого когнитивного искажения становится цикл отрицательной обратной связи, в котором невозможность исправить ситуацию становится самореализующейся.
И еще важнее понимать вот что.
✔️ Если не останавливать усилия в борьбе, если не сдаваться и продолжать держаться стиснув зубы, то неизбежно достижение критического порога, после прохождения которого вы победите (желающие могут перечитать «Мексиканец» Джека Лондона).
✔️ Успех подобных побед может быть очень заразителен, стимулируя еще неделю назад невозможный уровень мобилизации.
Об этом, на примере законодательного успеха французских активистов, первыми в мире сумевших пробить закон «Об обязанности проявлять должную осмотрительность» (интеграция социальной и экологической ответственности крупных корпораций), рассказывается в брифе Элис Эванс, где есть и ссылка на глобальный проект и большую статью Эванс на эту тему.
https://www.rebuildingmacroeconomics.ac.uk/post/despondency-trap-how-to-break-the-negative-feedback-loop
Казалось бы, что здесь нового.
Да лишь то, что все мы знаем про опасность самореализующихся пророчеств. Но как-то забываем о циклах отрицательной обратной связи, в которых невозможность исправить ситуацию также становится самореализующейся.
#КогнитивныеИскажения
Но петли отрицательных обратных связей можно разорвать.
Оглядываясь на прошедший год, трудно не испытать приступ безнадеги.
• Накрывшая мир инфопандемия COVID-19 и панически-идиотическая реакция на нее большинства правительств.
• Ненасильственный протест сотен тысяч и зверские расправы диктатора в ответ.
• Судорожные попытки самовлюбленного идиота удержать власть и танец полуголого шамана в Капитолии.
• Обнуление вкупе с обрезанием конституции так, что уже, кажется, больше никогда не отрастет…
В результате всего этого повсеместного торжества непреодолимого идиотизма, всё больше людей впадают в «ловушку уныния» - одно из самых опасных когнитивных искажений.
Очень важно понимать, что помимо нарастающего депресняка безысходности, страшнейшим последствием этого когнитивного искажения становится цикл отрицательной обратной связи, в котором невозможность исправить ситуацию становится самореализующейся.
И еще важнее понимать вот что.
✔️ Если не останавливать усилия в борьбе, если не сдаваться и продолжать держаться стиснув зубы, то неизбежно достижение критического порога, после прохождения которого вы победите (желающие могут перечитать «Мексиканец» Джека Лондона).
✔️ Успех подобных побед может быть очень заразителен, стимулируя еще неделю назад невозможный уровень мобилизации.
Об этом, на примере законодательного успеха французских активистов, первыми в мире сумевших пробить закон «Об обязанности проявлять должную осмотрительность» (интеграция социальной и экологической ответственности крупных корпораций), рассказывается в брифе Элис Эванс, где есть и ссылка на глобальный проект и большую статью Эванс на эту тему.
https://www.rebuildingmacroeconomics.ac.uk/post/despondency-trap-how-to-break-the-negative-feedback-loop
Казалось бы, что здесь нового.
Да лишь то, что все мы знаем про опасность самореализующихся пророчеств. Но как-то забываем о циклах отрицательной обратной связи, в которых невозможность исправить ситуацию также становится самореализующейся.
#КогнитивныеИскажения
Rebuild Macro
Despondency Trap: How to break the Negative Feedback Loop
by Alice Evans Many activists are caught in a despondency trap (working paper here). Never seeing radical reform, they lower their ambitions, and invest in more feasible but sub-optimal alternatives. This creates a negative feedback loop, in which the dearth…
Каким мог бы быть Интернет без Google и Facebook.
Это не вопрос денег, а лишь воображения.
Многие из нас уже около половины времени проводят в сети. И таких все больше, да и доля времени в сети тоже растет. Нравится ли нам устройство сети? И да, и нет. Удобно конечно. Но при этом мы все больше осознаем, что все потоки информации – от поисковиков до соцсетей, - манипулируются машинным обучением.
Почему так произошло? Кто так придумал? И кто заставил сеть быть именно такой?
Как тонко заметил Руха Бенджамин - «поле битвы в нашем воображении». В настоящее время весь цифровой мир глобальной сети придуман в воображении венчурных капиталистов, глобальных корпораций и Марка Цукерберга. Чтобы вырваться из этого мира, нам нужно, для начала, суметь вообразить нечто иное – что будет лучше для нас.
Такая работа уже начата. Например, в Институте цифровой общественной инфраструктуры iDPI. Его задача выйти за рамки «исправления» существующих интернет-инфраструктур, типа Google, Facebook, YouTube и Twitter, и понять, что можно было бы построить вместо них, если строить цифровое пространство для общественного блага. Начали они с самого больного – какими должны быть неманипулируемые соцсети.
Не скрою, пока что у iDPI и подобных команд больше вопросов, чем ответов. Не так-то просто преодолеть в воображении стереотипы уже сложившейся цифровой инфраструктуры.
Но вот пример направления, которое, имхо, нужно всячески развивать.
Рейксмузеум Амстердама разместил в Интернете более 700 000 оцифрованных копий своей огромной коллекции произведений искусства и делает их доступными для повторного использования в качестве общественного достояния.
Создание новой онлайн-галереи, названной Rijksstudio, финансировалась лотереей BankGiro Lottery - это «культурная лотерея» Нидерландов, которая оказывает долгосрочную поддержку госпроектам в области культуры.
Вы можете просматривать и искать в Rijksstudio по жанрам, датам или художникам. А можете просматривать картины подряд просто для удовольствия. Все фото картин в высоком качестве.
Коллекция содержит более 2000 картин Золотого века Голландии, написанных известными художниками, такими как Якоб ван Рейсдал, Франс Хальс, Иоганнес Вермеер, Ян Стин, Рембрандт и ученики Рембрандта.
Каждая из отсканированных картин, фотографий и рисунков содержит подробную информацию о предмете и художнике, а также некоторую историю, например, когда и где она была приобретена.
Напомню, что Британский музей в прошлом году опубликовал около 2 миллионов изображений из своего архива в Интернете.
Подобным же образом, на мой взгляд, и должно строиться сетевое цифровое пространство для общественного блага. Почему бы, например, не приделывать к подобным онлайн-галереям движки социальных коммуникаций. Неужели будет хуже проводить время со знакомыми посетителями музея, чем в своем «пузыре» Facebook?
#Интеренет #СоциальныеСети
Это не вопрос денег, а лишь воображения.
Многие из нас уже около половины времени проводят в сети. И таких все больше, да и доля времени в сети тоже растет. Нравится ли нам устройство сети? И да, и нет. Удобно конечно. Но при этом мы все больше осознаем, что все потоки информации – от поисковиков до соцсетей, - манипулируются машинным обучением.
Почему так произошло? Кто так придумал? И кто заставил сеть быть именно такой?
Как тонко заметил Руха Бенджамин - «поле битвы в нашем воображении». В настоящее время весь цифровой мир глобальной сети придуман в воображении венчурных капиталистов, глобальных корпораций и Марка Цукерберга. Чтобы вырваться из этого мира, нам нужно, для начала, суметь вообразить нечто иное – что будет лучше для нас.
Такая работа уже начата. Например, в Институте цифровой общественной инфраструктуры iDPI. Его задача выйти за рамки «исправления» существующих интернет-инфраструктур, типа Google, Facebook, YouTube и Twitter, и понять, что можно было бы построить вместо них, если строить цифровое пространство для общественного блага. Начали они с самого больного – какими должны быть неманипулируемые соцсети.
Не скрою, пока что у iDPI и подобных команд больше вопросов, чем ответов. Не так-то просто преодолеть в воображении стереотипы уже сложившейся цифровой инфраструктуры.
Но вот пример направления, которое, имхо, нужно всячески развивать.
Рейксмузеум Амстердама разместил в Интернете более 700 000 оцифрованных копий своей огромной коллекции произведений искусства и делает их доступными для повторного использования в качестве общественного достояния.
Создание новой онлайн-галереи, названной Rijksstudio, финансировалась лотереей BankGiro Lottery - это «культурная лотерея» Нидерландов, которая оказывает долгосрочную поддержку госпроектам в области культуры.
Вы можете просматривать и искать в Rijksstudio по жанрам, датам или художникам. А можете просматривать картины подряд просто для удовольствия. Все фото картин в высоком качестве.
Коллекция содержит более 2000 картин Золотого века Голландии, написанных известными художниками, такими как Якоб ван Рейсдал, Франс Хальс, Иоганнес Вермеер, Ян Стин, Рембрандт и ученики Рембрандта.
Каждая из отсканированных картин, фотографий и рисунков содержит подробную информацию о предмете и художнике, а также некоторую историю, например, когда и где она была приобретена.
Напомню, что Британский музей в прошлом году опубликовал около 2 миллионов изображений из своего архива в Интернете.
Подобным же образом, на мой взгляд, и должно строиться сетевое цифровое пространство для общественного блага. Почему бы, например, не приделывать к подобным онлайн-галереям движки социальных коммуникаций. Неужели будет хуже проводить время со знакомыми посетителями музея, чем в своем «пузыре» Facebook?
#Интеренет #СоциальныеСети
Идет к концу первый месяц 2021, и хочется верить, что невзгоды 2020-го уйдут вместе с ним.
Ведь худо-бедно, - Байден всё-таки сменил Трампа, вакцины от короновируса уже сделаны, Европа не развалилась после брекзита и т.п.
Однако, многое говорит за то, что позитивными сдвигами дело не кончится. Ключевые проблемы вовсе не решены. И мир запросто может попасть из огня 2020-го да в полымя 2021-го.
Так что, не расслабляйтесь и запаситесь скептическим оптимизмом.
Как говорил император-стоик Марк Аврелий:
"Не теряйте мужества, худшее впереди."
Любивший эту фразу Черчилль добавлял:
«Успех — это движение от неудачи к неудаче без потери энтузиазма».
Ведь худо-бедно, - Байден всё-таки сменил Трампа, вакцины от короновируса уже сделаны, Европа не развалилась после брекзита и т.п.
Однако, многое говорит за то, что позитивными сдвигами дело не кончится. Ключевые проблемы вовсе не решены. И мир запросто может попасть из огня 2020-го да в полымя 2021-го.
Так что, не расслабляйтесь и запаситесь скептическим оптимизмом.
Как говорил император-стоик Марк Аврелий:
"Не теряйте мужества, худшее впереди."
Любивший эту фразу Черчилль добавлял:
«Успех — это движение от неудачи к неудаче без потери энтузиазма».
Уникальное отличие людей от компьютеров.
Для нас хардвер – ничто, а софтвер – всё.
В основе колоссального прогресса IT-технологий (от распознавания всего на свете до самоуправляемых авто) – лавинообразный рост мощности вычислительного оборудования (хардвера).
Понятное дело, - с более мощным «хардвером» любое существо и/или устройство способно на подвиги.
Но люди не таковы.
Наш «хардвер» за 80 лет практически не изменился. А за этим колоссальным различием прыжков, взявших олимпийское золото в 1932 и 2012, - в основном, кардинальное улучшение «софтвера». И если бы (только представьте) чемпион 1932 года совершил тогда прыжок чемпиона 2012 года, его просто сочли бы сверхчеловеком и до конца жизни разбирали бы его на винтики в засекреченных лабораториях военных.
Вот аналогичные примеры из других видов спортивной гимнастики.
А это в плавании.
Вывод очевиден.
Ни одна машина не способна на такой прогресс в физической деятельности только за счет улучшения софтвера. А любой интеллект– это не только софтвер мозга, но и хардвер тела. И потому, одна из первоочередных задача ИИ в том, чтобы понять, как увеличивать интеллектуальную мощность без увеличения вычислительной мощности хардвера, а только за счет софтвера.
#ИИ
Для нас хардвер – ничто, а софтвер – всё.
В основе колоссального прогресса IT-технологий (от распознавания всего на свете до самоуправляемых авто) – лавинообразный рост мощности вычислительного оборудования (хардвера).
Понятное дело, - с более мощным «хардвером» любое существо и/или устройство способно на подвиги.
Но люди не таковы.
Наш «хардвер» за 80 лет практически не изменился. А за этим колоссальным различием прыжков, взявших олимпийское золото в 1932 и 2012, - в основном, кардинальное улучшение «софтвера». И если бы (только представьте) чемпион 1932 года совершил тогда прыжок чемпиона 2012 года, его просто сочли бы сверхчеловеком и до конца жизни разбирали бы его на винтики в засекреченных лабораториях военных.
Вот аналогичные примеры из других видов спортивной гимнастики.
А это в плавании.
Вывод очевиден.
Ни одна машина не способна на такой прогресс в физической деятельности только за счет улучшения софтвера. А любой интеллект– это не только софтвер мозга, но и хардвер тела. И потому, одна из первоочередных задача ИИ в том, чтобы понять, как увеличивать интеллектуальную мощность без увеличения вычислительной мощности хардвера, а только за счет софтвера.
#ИИ
Кибер-мощь России оказалась, как у Бразилии в футболе.
Если учесть непревзойденный потенциал кибер-харассмента.
Таково мнение экспертов НАТО.
75 лет мир держится на стратегии гарантированного взаимного уничтожения. Гонка вооружений не позволяет получить стратегическое преимущество. Скорость развития технологий позволяет противнику быстро изготовить такой же «меч», как придумал его соперник, либо придумать эффективный «щит» против нового «меча» соперника.
Единственный путь получить стратегическое преимущество – ассиметричная стратегия.
В данном контексте это означает возможность нанесения противнику таких ударов, которые он не может нанести в ответ.
Например.
При каком условии вы готовы дать по морде Майку Тайсону?
Ответ очевиден - если тот не сможет ответить вам тем же. И неважно почему он не сможет. Главное, - что не сможет. И этого достаточно, чтобы любой ботаник не убоялся врезать самому Тайсону.
Только что опубликован 260 страничный отчет Центра передового опыта сотрудничества в области киберзащиты НАТО (CCDCOE) «Киберугрозы и НАТО 2030: сканирование и анализ горизонтов».
Из отчета следует:
1. Главную угрозу НАТО видит не в ядерном оружии, а в киберугрозах – ударах противника, наносимых в киберпространстве.
2. Главный источник киберугроз - вовсе не Китай, а Россия.
3. Главное стратегическое преимущество России в киберпространстве – ассиметричность стратегии России, которую НАТО не может повторить, что дает России одностороннее превосходство, позволяющее осуществлять кибер- харасмент.
Коротко поясню все 3 ключевых пункта, как они изложены в отчете экспертов НАТО.
1) Попытки найти ассиметричные стратегии в физическом пространстве не увенчались успехом. Самая знаменитая история - "программа Звездных войн" США. "Русские играют с нами в шахматы, а мы с ними — в "Монополию". Вопрос в том, сумеют ли они поставить нам мат раньше, чем мы их обанкротим", — говорила про эту программу Джин Киркпатрик, тогда представитель США в ООН. Однако и эта самая дорогая из попыток получения ассиметричного стратегического преимущества не удалась.
И вот появилось новое поле боя – киберпространство. И оказалось, что здесь получение ассиметричного стратегического преимущества возможно.
2) Два самых мощных противника США – Китай и Россия, - имеют принципиально разные кибер-стратегии.
Стратегия Китая – разработка и экспорт по миру альтернативной авторитарной модели развития технологий. Такая стратегия не подразумевает нанесения ударов по США, и потому Китай даже не является военным противником США, а конкурент по мировому экспорту доминирующей модели развития технологий.
Россия же – главный и, по сути, единственный противник США в киберпространстве. И самое неприятное для США, - Россия имеет здесь ассиметричное стратегическое преимущество.
3) Это стратегическое преимущество России в том, что руководство страны планирует путем интернет-самоизоляции (физического отключения от глобальной сети) сделать свою инфраструктуру недостижимой для ответных ударов США.
Это позволит России заняться кибер-харассментом – т.е. регулярными действиями в кибер-пространстве, задевающими, пугающими или унижающими американское общество и создающими неблагоприятную обстановку для американского руководства. А поскольку США не смогут позволить себе самоизолироваться от глобальной сети, ассиметричное преимущество России в киберпространстве станет стратегическим. Россия будет бесконечно харассить США. А те в ответ ничего сделать не смогут. Закончиться это всё может, как и всякий харассмент, - нервным срывом у жертвы с последующим впадением в тяжелую, долговременную депрессию.
Подробней в отчете
Резюме
Получается, что кибер-мощь России, примерно, как у Бразилии в футболе. И значит сентябрьский отчет кибер-мощи 30 стран просто не учел главное – кибер-харассмент.
#КиберМощь
Если учесть непревзойденный потенциал кибер-харассмента.
Таково мнение экспертов НАТО.
75 лет мир держится на стратегии гарантированного взаимного уничтожения. Гонка вооружений не позволяет получить стратегическое преимущество. Скорость развития технологий позволяет противнику быстро изготовить такой же «меч», как придумал его соперник, либо придумать эффективный «щит» против нового «меча» соперника.
Единственный путь получить стратегическое преимущество – ассиметричная стратегия.
В данном контексте это означает возможность нанесения противнику таких ударов, которые он не может нанести в ответ.
Например.
При каком условии вы готовы дать по морде Майку Тайсону?
Ответ очевиден - если тот не сможет ответить вам тем же. И неважно почему он не сможет. Главное, - что не сможет. И этого достаточно, чтобы любой ботаник не убоялся врезать самому Тайсону.
Только что опубликован 260 страничный отчет Центра передового опыта сотрудничества в области киберзащиты НАТО (CCDCOE) «Киберугрозы и НАТО 2030: сканирование и анализ горизонтов».
Из отчета следует:
1. Главную угрозу НАТО видит не в ядерном оружии, а в киберугрозах – ударах противника, наносимых в киберпространстве.
2. Главный источник киберугроз - вовсе не Китай, а Россия.
3. Главное стратегическое преимущество России в киберпространстве – ассиметричность стратегии России, которую НАТО не может повторить, что дает России одностороннее превосходство, позволяющее осуществлять кибер- харасмент.
Коротко поясню все 3 ключевых пункта, как они изложены в отчете экспертов НАТО.
1) Попытки найти ассиметричные стратегии в физическом пространстве не увенчались успехом. Самая знаменитая история - "программа Звездных войн" США. "Русские играют с нами в шахматы, а мы с ними — в "Монополию". Вопрос в том, сумеют ли они поставить нам мат раньше, чем мы их обанкротим", — говорила про эту программу Джин Киркпатрик, тогда представитель США в ООН. Однако и эта самая дорогая из попыток получения ассиметричного стратегического преимущества не удалась.
И вот появилось новое поле боя – киберпространство. И оказалось, что здесь получение ассиметричного стратегического преимущества возможно.
2) Два самых мощных противника США – Китай и Россия, - имеют принципиально разные кибер-стратегии.
Стратегия Китая – разработка и экспорт по миру альтернативной авторитарной модели развития технологий. Такая стратегия не подразумевает нанесения ударов по США, и потому Китай даже не является военным противником США, а конкурент по мировому экспорту доминирующей модели развития технологий.
Россия же – главный и, по сути, единственный противник США в киберпространстве. И самое неприятное для США, - Россия имеет здесь ассиметричное стратегическое преимущество.
3) Это стратегическое преимущество России в том, что руководство страны планирует путем интернет-самоизоляции (физического отключения от глобальной сети) сделать свою инфраструктуру недостижимой для ответных ударов США.
Это позволит России заняться кибер-харассментом – т.е. регулярными действиями в кибер-пространстве, задевающими, пугающими или унижающими американское общество и создающими неблагоприятную обстановку для американского руководства. А поскольку США не смогут позволить себе самоизолироваться от глобальной сети, ассиметричное преимущество России в киберпространстве станет стратегическим. Россия будет бесконечно харассить США. А те в ответ ничего сделать не смогут. Закончиться это всё может, как и всякий харассмент, - нервным срывом у жертвы с последующим впадением в тяжелую, долговременную депрессию.
Подробней в отчете
Резюме
Получается, что кибер-мощь России, примерно, как у Бразилии в футболе. И значит сентябрьский отчет кибер-мощи 30 стран просто не учел главное – кибер-харассмент.
#КиберМощь
США пытаются оторваться, а Китай – сократить разрыв.
И то и другое – пока безуспешно.
Подведены первые итоги 2020-го в мировой ИИ гонке (по состоянию на январь 2021).
Новый отчет CENTER FOR DATA INNOVATION сравнивает результаты ИИ-гонки в 2020 и 2019 гг, показанные США, Китаем и Евросоюзом.
Сравнение проводится по 30 метрикам из 6 категорий: специалисты, исследования, разработки, оборудование, внедрения, данные.
Итог 2019 года был таков (сумма балов 100):
США – 44.2 балла
Китай – 32.3 балла
Евросоюз – 23.5 балла
Итог 2020 года был таков:
США – 44.6 балла
Китай – 32 балла
Евросоюз – 23.3 балла
Резюме – в заголовке поста.
Детали (много цифр и букв) в отчете.
https://www2.datainnovation.org/2021-china-eu-us-ai.pdf
P.S. Это самая странная в истории гонка, проводимая по принципу «поди туда — не знаю куда, принеси то — не знаю что»
#ИИгонка #Китай #США
И то и другое – пока безуспешно.
Подведены первые итоги 2020-го в мировой ИИ гонке (по состоянию на январь 2021).
Новый отчет CENTER FOR DATA INNOVATION сравнивает результаты ИИ-гонки в 2020 и 2019 гг, показанные США, Китаем и Евросоюзом.
Сравнение проводится по 30 метрикам из 6 категорий: специалисты, исследования, разработки, оборудование, внедрения, данные.
Итог 2019 года был таков (сумма балов 100):
США – 44.2 балла
Китай – 32.3 балла
Евросоюз – 23.5 балла
Итог 2020 года был таков:
США – 44.6 балла
Китай – 32 балла
Евросоюз – 23.3 балла
Резюме – в заголовке поста.
Детали (много цифр и букв) в отчете.
https://www2.datainnovation.org/2021-china-eu-us-ai.pdf
P.S. Это самая странная в истории гонка, проводимая по принципу «поди туда — не знаю куда, принеси то — не знаю что»
#ИИгонка #Китай #США
«Спящая красавица» Стивена Вольфрама и новая теория относительности.
За горизонтом наука может быть совсем иной, позволяя путешествовать быстрее скорости света.
В недавней лекции Стивена Вольфрама «Наука за пределами горизонта», прочитанной в Институте перспективных исследований UvA, в частности, рассказывается о крупнейшей ошибке физики ХХ века - ошибке в специальной теории относительности (там же он рассказывает и о второй крупной ошибке - в квантовой механике).
Предположение, что пространство и время – это «сплав» 4-х измерений (пространство-время), ошибка Германа Минковского, сбившее физику с пути (и Эйнштейну, кстати, не нравился такой подход).
Как Вольфрам предлагает исправить эту ошибку, можно прочесть здесь. И если Вольфрам окажется прав, это будут значить, что существует способ путешествовать со скоростью, превышающей скорость света.
Хорошая новость – проект разработки новой физики на основе теории Вольфрама уже в работе.
Плохая новость ¬– теория Вольфрама пока не имеет достаточного влияния в современной науке, чтобы произвести в ней смену доминирующей парадигмы.
А от чего зависит степень влиятельности теории в науке?
Как это ни банально звучит – от количества цитирований работы. И тут вся надежда на то, что теория Вольфрама – это «спящая красавица» (см. 1, 2, 3). Так называются научные работы, десятки лет не имеющие значительного цитирования, но потом вдруг их цитирование экспоненциально взмывает в заоблачную высь (как, например, у нынче знаменитой работы Эйнштейна, Подольского и Розена).
«Спящие красавицы» - это колоссальный потенциал гениальности, способный поменять в жизни человечества что угодно: обнулить риски ядерного оружия, отменить пандемии, сделать возможным путешествия к далеким звездам). И потому исследования «спящих красавиц» становятся всё активней по мере осознания роста экзистенциальных рисков.
Главная проблема в пробуждении «спящих красавиц» – преодоления «синдрома Менделя». Он возникает, если какая-то публикация, чтобы быть должным образом признанной коллегами, требует больше времени, чем «нормальные» публикации, и из-за этого публикация становится недооцененной с помощью существующих методов наукометрии.
На наше счастье, в 2020 случился прорыв. Придуман новой метод оценки показателя «красоты спящих красавиц» с учетом оценок, возникающих в соцсетях.
• До сих пор при поиске «спящих красавиц» в базах научных публикаций оценивались лишь такие показатели, как «продолжительность сна», «глубина сна» и «интенсивность бодрствования».
• Теперь же предложено измерять также число просмотров, сохранений, коментов и шеров постов в соцсетях.
Такое расширение традиционных потенциальных признаков «спящих красавиц» показателями социального внимания может сократить «время сна красавиц» в несколько раз.
И тогда, возможно, нам не придется ждать гениальных прорывов до полувека (а в истории было и похуже, - когда через 50 лет теория вообще забывалась – «спящая красавица» впадала в летаргию), если социальные сети всерьез возьмутся за пробуждение «спящих красавиц».
Вот только как переориентировать хотя бы 10% людей в соцсетях на обсуждение «спящих красавиц» (вместо той хрени, что они так страстно обсуждают)?
#Физика #СпяшиеКрасавицы #СоциальныеСети
За горизонтом наука может быть совсем иной, позволяя путешествовать быстрее скорости света.
В недавней лекции Стивена Вольфрама «Наука за пределами горизонта», прочитанной в Институте перспективных исследований UvA, в частности, рассказывается о крупнейшей ошибке физики ХХ века - ошибке в специальной теории относительности (там же он рассказывает и о второй крупной ошибке - в квантовой механике).
Предположение, что пространство и время – это «сплав» 4-х измерений (пространство-время), ошибка Германа Минковского, сбившее физику с пути (и Эйнштейну, кстати, не нравился такой подход).
Как Вольфрам предлагает исправить эту ошибку, можно прочесть здесь. И если Вольфрам окажется прав, это будут значить, что существует способ путешествовать со скоростью, превышающей скорость света.
Хорошая новость – проект разработки новой физики на основе теории Вольфрама уже в работе.
Плохая новость ¬– теория Вольфрама пока не имеет достаточного влияния в современной науке, чтобы произвести в ней смену доминирующей парадигмы.
А от чего зависит степень влиятельности теории в науке?
Как это ни банально звучит – от количества цитирований работы. И тут вся надежда на то, что теория Вольфрама – это «спящая красавица» (см. 1, 2, 3). Так называются научные работы, десятки лет не имеющие значительного цитирования, но потом вдруг их цитирование экспоненциально взмывает в заоблачную высь (как, например, у нынче знаменитой работы Эйнштейна, Подольского и Розена).
«Спящие красавицы» - это колоссальный потенциал гениальности, способный поменять в жизни человечества что угодно: обнулить риски ядерного оружия, отменить пандемии, сделать возможным путешествия к далеким звездам). И потому исследования «спящих красавиц» становятся всё активней по мере осознания роста экзистенциальных рисков.
Главная проблема в пробуждении «спящих красавиц» – преодоления «синдрома Менделя». Он возникает, если какая-то публикация, чтобы быть должным образом признанной коллегами, требует больше времени, чем «нормальные» публикации, и из-за этого публикация становится недооцененной с помощью существующих методов наукометрии.
На наше счастье, в 2020 случился прорыв. Придуман новой метод оценки показателя «красоты спящих красавиц» с учетом оценок, возникающих в соцсетях.
• До сих пор при поиске «спящих красавиц» в базах научных публикаций оценивались лишь такие показатели, как «продолжительность сна», «глубина сна» и «интенсивность бодрствования».
• Теперь же предложено измерять также число просмотров, сохранений, коментов и шеров постов в соцсетях.
Такое расширение традиционных потенциальных признаков «спящих красавиц» показателями социального внимания может сократить «время сна красавиц» в несколько раз.
И тогда, возможно, нам не придется ждать гениальных прорывов до полувека (а в истории было и похуже, - когда через 50 лет теория вообще забывалась – «спящая красавица» впадала в летаргию), если социальные сети всерьез возьмутся за пробуждение «спящих красавиц».
Вот только как переориентировать хотя бы 10% людей в соцсетях на обсуждение «спящих красавиц» (вместо той хрени, что они так страстно обсуждают)?
#Физика #СпяшиеКрасавицы #СоциальныеСети
Когда в июне 2019-го я начинал цикл статей о «Большом брате – сыне Большого бога», мне казалось, что до возможной материализации этой антиутопии еще, как минимум, пара десятков лет. И потому я не спешил с публикацией всего цикла статей, полагая, что спешить некуда.
Однако, пандемия COVID-19 настолько ускорил большинство антиутопических трендов, что тянуть с публикацией серии статей о «Большом брате – сыне Большого бога» уже нельзя. Иначе может статься, что события опередят мои предсказания.
Поэтому я в срочном порядке дописываю данную серию. А поскольку она растянулась уже более чем на 1.5 года, имеет смысл:
• обновить в памяти читателей, какие материалы на эту тему уже были опубликованы;
• и опубликовать в открытом доступе то, что до сих пор было за пейволом.
Вот что уже опубликовано на эту тему
Первые две части серии «Большой брат — сын Большого бога»:
• 1я часть «Большой Брат — сын Большого Бога. Почему его воцарение в мире может быть неизбежным» (Medium, Дзен)
• 2я часть « Почему и когда пришли Большие Боги» (Medium, Дзен)
Другие посты, затрагивающие эту же тему
• «Превращение ИИ в АК-47» (Medium, Дзен)
• «Перейдет ли мир на китайский техно-авторитарный проект» (Medium, Дзен)
• «Подрывные технологии похоронят демократию» (Medium, Дзен)
• «ЛЮДИ, БОГИ, БОТЫ» (Medium, Дзен)
• «Большой Брат — сын Большого Бога» приходит в наш мир» (Medium, Дзен)
• Интервью изданию Republic, озаглавленное «У нашего общества уже нет всезнающего Большого Бога — люди лишены стимулов к правильному поведению» (Medium, Дзен)
• Интервью журналу «Эксперт», озаглавленное «Большой брат как наследник Больших богов» (Medium, Дзен)
#БольшойБрат #БольшиеБоги
Однако, пандемия COVID-19 настолько ускорил большинство антиутопических трендов, что тянуть с публикацией серии статей о «Большом брате – сыне Большого бога» уже нельзя. Иначе может статься, что события опередят мои предсказания.
Поэтому я в срочном порядке дописываю данную серию. А поскольку она растянулась уже более чем на 1.5 года, имеет смысл:
• обновить в памяти читателей, какие материалы на эту тему уже были опубликованы;
• и опубликовать в открытом доступе то, что до сих пор было за пейволом.
Вот что уже опубликовано на эту тему
Первые две части серии «Большой брат — сын Большого бога»:
• 1я часть «Большой Брат — сын Большого Бога. Почему его воцарение в мире может быть неизбежным» (Medium, Дзен)
• 2я часть « Почему и когда пришли Большие Боги» (Medium, Дзен)
Другие посты, затрагивающие эту же тему
• «Превращение ИИ в АК-47» (Medium, Дзен)
• «Перейдет ли мир на китайский техно-авторитарный проект» (Medium, Дзен)
• «Подрывные технологии похоронят демократию» (Medium, Дзен)
• «ЛЮДИ, БОГИ, БОТЫ» (Medium, Дзен)
• «Большой Брат — сын Большого Бога» приходит в наш мир» (Medium, Дзен)
• Интервью изданию Republic, озаглавленное «У нашего общества уже нет всезнающего Большого Бога — люди лишены стимулов к правильному поведению» (Medium, Дзен)
• Интервью журналу «Эксперт», озаглавленное «Большой брат как наследник Больших богов» (Medium, Дзен)
#БольшойБрат #БольшиеБоги
Medium
Большой Брат — сын Большого Бога
Почему его воцарение в мире может быть неизбежным
Обращение «безумного и злого» к интеллектуальным слепцам.
Джордано Бруно сегодня, скорее всего, снова бы сожгли, а Христа распяли.
Сегодня весь мир зашелся либо в остервенелых проклятьях, либо в удушающем саркастическом смехе по поводу обращения Билла Гейтса о том, как человечеству бороться с будущими пандемиями.
Как говорил Штирлиц, запоминается последняя фраза. И эта фраза в сообщении «ведущего государственного информационного агентства России» ТАСС на данную тему такова.
«Сторонники конспирологических теорий считают, что распространение коронавируса является спецоперацией для чипирования людей и последующего наблюдения за ними и что за ней якобы стоит Гейтс»
И что такое кликбейтовый заголовок, объяснять не надо. У «крупнейшего в мире международного поставщика мультимедийных новостей» Reuters он начинается словами «'Безумный и злой': Билл Гейтс …».
Так что же такого ужасного предлагает Гейтс?
Три стратегических элемента борьбы с новыми пандемиями (которые, увы, неизбежны).
1. Создание мегадиагностических платформ массового сверхбыстрого тестирования.
2. Создание глобальной системы эпидемического оповещения и международных сил быстрого пандемического реагирования.
3. Проведение «всемирных микробных игр» для массового привлечения экспертов к компьютерных симуляций новых пандемий, позволяющих анализировать и искать улучшение реакций правительств и обществ, точно так же, как военные игры позволяют вооруженным силам готовиться к реальным событиям.
Какими же интеллектуальными слепцами нужно быть, чтобы видеть за этими предложениями конспирологию, коварный замысел, алчное стремление обогатиться или призыв человечеству встать на колени перед вирусом?
И ведь пишут такое вовсе не глупые, некомпетентные или высокомерные невежды, уверенные в своем всезнании. Подобное пишут даже весьма умные и информированные люди.
Но почему они тогда такое пишут?
Их не смущает, что Гейтс говорит очевидные вещи?
• Что это не последняя пандемия и со временем придут пандемии в десятки раз хуже.
• Что мы не знаем не только, когда наступит следующий удар, но и каким он будет: грипп, коронавирус или какая-то новая болезнь, которую мы никогда раньше не видели.
• Что угроза следующей пандемии всегда будет висеть над нашими головами — если только мир не предпримет шаги для ее предотвращения.
Или они считают человека, создавшего одну из величайших компаний в истории человечества и уже внесшего 1,75 миллиарда долларов на глобальный ответ на пандемию COVID-19 выжившим из ума городским сумасшедшим?
Или, наконец, не веря в то, что «цель Гейтса всех чипировать», эти люди полагают, что предложения Гейтса — это де-факто оно и есть?
Увы! Уже не раз писал, что пределов у интеллектуальной слепоты нет. И мне остается лишь задать критикам предложения Гейтса два вопроса.
✔️ Известен ли вам или кому-либо другому на свете иной путь кардинального снижения рисков будущих пандемий?
✔️ Или эти риски не столь высоки, что вы предлагаете ими пренебречь?
Обращение Билла Гейтса https://www.gatesnotes.com/2021-Annual-Letter
#Эпидемия
Джордано Бруно сегодня, скорее всего, снова бы сожгли, а Христа распяли.
Сегодня весь мир зашелся либо в остервенелых проклятьях, либо в удушающем саркастическом смехе по поводу обращения Билла Гейтса о том, как человечеству бороться с будущими пандемиями.
Как говорил Штирлиц, запоминается последняя фраза. И эта фраза в сообщении «ведущего государственного информационного агентства России» ТАСС на данную тему такова.
«Сторонники конспирологических теорий считают, что распространение коронавируса является спецоперацией для чипирования людей и последующего наблюдения за ними и что за ней якобы стоит Гейтс»
И что такое кликбейтовый заголовок, объяснять не надо. У «крупнейшего в мире международного поставщика мультимедийных новостей» Reuters он начинается словами «'Безумный и злой': Билл Гейтс …».
Так что же такого ужасного предлагает Гейтс?
Три стратегических элемента борьбы с новыми пандемиями (которые, увы, неизбежны).
1. Создание мегадиагностических платформ массового сверхбыстрого тестирования.
2. Создание глобальной системы эпидемического оповещения и международных сил быстрого пандемического реагирования.
3. Проведение «всемирных микробных игр» для массового привлечения экспертов к компьютерных симуляций новых пандемий, позволяющих анализировать и искать улучшение реакций правительств и обществ, точно так же, как военные игры позволяют вооруженным силам готовиться к реальным событиям.
Какими же интеллектуальными слепцами нужно быть, чтобы видеть за этими предложениями конспирологию, коварный замысел, алчное стремление обогатиться или призыв человечеству встать на колени перед вирусом?
И ведь пишут такое вовсе не глупые, некомпетентные или высокомерные невежды, уверенные в своем всезнании. Подобное пишут даже весьма умные и информированные люди.
Но почему они тогда такое пишут?
Их не смущает, что Гейтс говорит очевидные вещи?
• Что это не последняя пандемия и со временем придут пандемии в десятки раз хуже.
• Что мы не знаем не только, когда наступит следующий удар, но и каким он будет: грипп, коронавирус или какая-то новая болезнь, которую мы никогда раньше не видели.
• Что угроза следующей пандемии всегда будет висеть над нашими головами — если только мир не предпримет шаги для ее предотвращения.
Или они считают человека, создавшего одну из величайших компаний в истории человечества и уже внесшего 1,75 миллиарда долларов на глобальный ответ на пандемию COVID-19 выжившим из ума городским сумасшедшим?
Или, наконец, не веря в то, что «цель Гейтса всех чипировать», эти люди полагают, что предложения Гейтса — это де-факто оно и есть?
Увы! Уже не раз писал, что пределов у интеллектуальной слепоты нет. И мне остается лишь задать критикам предложения Гейтса два вопроса.
✔️ Известен ли вам или кому-либо другому на свете иной путь кардинального снижения рисков будущих пандемий?
✔️ Или эти риски не столь высоки, что вы предлагаете ими пренебречь?
Обращение Билла Гейтса https://www.gatesnotes.com/2021-Annual-Letter
#Эпидемия
gatesnotes.com
The year global health went local
After an unprecedented year, Bill and Melinda Gates reflect on losses and lessons in their 2021 Annual Letter: The year global health went local.
Незнание о незнании присуще не только дуракам. Самое известное когнитивное искажение оказалось миражом измерений.
Если человека спросить температуру кипения ртути, скорее всего, он не станете отвечать. Ибо знает, что не знает ответа. Но если спросить столицу Шотландии, многие подумают, что знают ответ. И назовут… Глазго, тогда как это Эдинбург. А Глазго – всего лишь недостоверная информация, засевшая в мозге и своим наличием порождающая «незнание о незнании».
Так что же тогда, - это «незнание о незнании»?
И может ли оно быть результатом когнитивного искажения?
Всем известно, что когнитивные искажения - это плохо, ибо они не позволяют нам видеть объективную картину мира и самого себя. Самым распространенным и, возможно, самым влиятельным из когнитивных искажений считается «Эффект Даннинга-Крюгера» (ЭДК).
В быту ЭДК трактуют, как «когнитивную предвзятость иллюзорного превосходства», в просторечии определяемое «чем человек тупее, тем он уверенней в себе».
Подобная трактовка не так уж далека от научной, где ЭДК определяют примерно так.
✔️ Люди с низким уровнем знаний/компетенций, необходимых для выполнения конкретного задания (или вынесения суждения), переоценивают свои зна-я/ком-ии.
✔️ Люди с высоким уровнем зна-й/ком-ий наоборот – недооценивают свои зна-я/ком-ии.
Про это есть и у великих.
• «Невежество чаще рождает уверенность, нежели знание» (Чарльз Дарвин).
• «Одно из неприятных свойств нашего времени состоит в том, что те, кто испытывает уверенность, глупы, а те, кто обладает хоть каким-то воображением и пониманием, исполнены сомнений и нерешительности» (Бертран Рассел).
Но оказывается, такая трактовка ЭДК ошибочна
▪️ ЭДК вовсе не про «глупых или некомпетентных людей, не знающих, что они глупые и некомпетентные», и не про «невежественных людей, которые очень высокомерны и уверены в своем незнании». И вообще, ЭДК не про отсутствие у человека информации, а про «незнание о незнании», порождаемом у него недостоверной информацией.
▪️ Кроме того, ЭДК – это даже не когнитивное искажение мозга, поскольку аналогичный эффект опытным путем можно получить на случайных, сгенерированных компьютером данных.
▪️ Скорее, ЭДК является следствием того, как измеряются результаты наблюдений и точности самооценок. А эта точность оказывается довольно низкой. Например, моя оценка, насколько хорошо я сдал сегодня тест, может измениться завтра, если изменится мое настроение. И в результате этого моя уверенность в себе может пошатнуться. Таким образом, любое измерение самооценки в некоторой степени ненадежно, что не позволяет надежно отделить действительно существующий психологический эффект от контекста эксперимента. А если убрать из измерений эту ненадежность, ты выясняется, что «глупые и умные», равно как и «компетентные и не очень» примерно одинаково подвержены ЭДК.
Подробней:
популярно - http://bit.do/fNenX;
научно – http://bit.do/fNen3 http://bit.do/fNen7 http://bit.do/fNeoa.
ОК. Допустим это так, скажете вы. И зададите 2 вопроса.
1) Есть ли на свете глупые люди, которые не осознают, что они глупы?
Конечно же да. Но ЭДК совсем не о них.
2) Есть ли столь высокомерные люди, что всегда уверены в своей правоте?
Конечно, но Даннинг и Крюгер не измеряли уверенность или высокомерие в своих экспериментах.
Но если так, и ЭДК здесь ни при чем, почему же тогда люди, меньше всего разбирающиеся в сложных вопросах, становятся всё более убеждены, что знают о них предостаточно? Почему, не смотря на всеобщую грамотность и массовое просвещение, складывается устойчивое впечатление, что мир глупеет?
Причины две:
1) Взрывной рост объема информации, в котором достоверная информация просто тонет.
2) Кардинальное изменение структуры и механизмов инфокоммуникационной среды людей: засилье алгоритмов, безмасштабные инфосети, стигмергия цифровых следов, инфокаскады и т.д.
Но это уже другая история, о которой будет отдельный пост.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
Если человека спросить температуру кипения ртути, скорее всего, он не станете отвечать. Ибо знает, что не знает ответа. Но если спросить столицу Шотландии, многие подумают, что знают ответ. И назовут… Глазго, тогда как это Эдинбург. А Глазго – всего лишь недостоверная информация, засевшая в мозге и своим наличием порождающая «незнание о незнании».
Так что же тогда, - это «незнание о незнании»?
И может ли оно быть результатом когнитивного искажения?
Всем известно, что когнитивные искажения - это плохо, ибо они не позволяют нам видеть объективную картину мира и самого себя. Самым распространенным и, возможно, самым влиятельным из когнитивных искажений считается «Эффект Даннинга-Крюгера» (ЭДК).
В быту ЭДК трактуют, как «когнитивную предвзятость иллюзорного превосходства», в просторечии определяемое «чем человек тупее, тем он уверенней в себе».
Подобная трактовка не так уж далека от научной, где ЭДК определяют примерно так.
✔️ Люди с низким уровнем знаний/компетенций, необходимых для выполнения конкретного задания (или вынесения суждения), переоценивают свои зна-я/ком-ии.
✔️ Люди с высоким уровнем зна-й/ком-ий наоборот – недооценивают свои зна-я/ком-ии.
Про это есть и у великих.
• «Невежество чаще рождает уверенность, нежели знание» (Чарльз Дарвин).
• «Одно из неприятных свойств нашего времени состоит в том, что те, кто испытывает уверенность, глупы, а те, кто обладает хоть каким-то воображением и пониманием, исполнены сомнений и нерешительности» (Бертран Рассел).
Но оказывается, такая трактовка ЭДК ошибочна
▪️ ЭДК вовсе не про «глупых или некомпетентных людей, не знающих, что они глупые и некомпетентные», и не про «невежественных людей, которые очень высокомерны и уверены в своем незнании». И вообще, ЭДК не про отсутствие у человека информации, а про «незнание о незнании», порождаемом у него недостоверной информацией.
▪️ Кроме того, ЭДК – это даже не когнитивное искажение мозга, поскольку аналогичный эффект опытным путем можно получить на случайных, сгенерированных компьютером данных.
▪️ Скорее, ЭДК является следствием того, как измеряются результаты наблюдений и точности самооценок. А эта точность оказывается довольно низкой. Например, моя оценка, насколько хорошо я сдал сегодня тест, может измениться завтра, если изменится мое настроение. И в результате этого моя уверенность в себе может пошатнуться. Таким образом, любое измерение самооценки в некоторой степени ненадежно, что не позволяет надежно отделить действительно существующий психологический эффект от контекста эксперимента. А если убрать из измерений эту ненадежность, ты выясняется, что «глупые и умные», равно как и «компетентные и не очень» примерно одинаково подвержены ЭДК.
Подробней:
популярно - http://bit.do/fNenX;
научно – http://bit.do/fNen3 http://bit.do/fNen7 http://bit.do/fNeoa.
ОК. Допустим это так, скажете вы. И зададите 2 вопроса.
1) Есть ли на свете глупые люди, которые не осознают, что они глупы?
Конечно же да. Но ЭДК совсем не о них.
2) Есть ли столь высокомерные люди, что всегда уверены в своей правоте?
Конечно, но Даннинг и Крюгер не измеряли уверенность или высокомерие в своих экспериментах.
Но если так, и ЭДК здесь ни при чем, почему же тогда люди, меньше всего разбирающиеся в сложных вопросах, становятся всё более убеждены, что знают о них предостаточно? Почему, не смотря на всеобщую грамотность и массовое просвещение, складывается устойчивое впечатление, что мир глупеет?
Причины две:
1) Взрывной рост объема информации, в котором достоверная информация просто тонет.
2) Кардинальное изменение структуры и механизмов инфокоммуникационной среды людей: засилье алгоритмов, безмасштабные инфосети, стигмергия цифровых следов, инфокаскады и т.д.
Но это уже другая история, о которой будет отдельный пост.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
DeepMind бросает вызов Богу, природе и эволюции.
Проект создания «Океана Соляриса» - самоорганизующейся разумной материи.
Вы сомневаетесь, что креативностью люди превосходят любой из возможных ИИ?
Тогда что вы скажете о проекте, цель которого превзойти креативностью самого Создателя?
Речь идет о создании принципиально иного типа разума. А заодно и мира, в котором такой разум будет жить, подобно Океану из романа Станислава Лема «Солярис».
• В этом мире не будет различий между организмами и машинами, поскольку нет разделения между агентом и окружающей средой.
• Здесь иной принцип появления и развития интеллекта - не эволюция живых организмов, а эволюция самоорганизующейся разумной материи (self-organizing intelligent matter), которую далее я буду называть «Океаном».
Океан состоит из атомарных элементов, способных на нейронные операции и взаимодействующих посредством обмена информацией на основе физико-подобных правил, свойственных окружающей среде.
Эволюционный процесс, идущий внутри Океана, ведет к появлению различных организмов (состоящих из множества атомарных элементов), которые могут сосуществовать и процветать в окружающей среде Океана.
Поскольку в этом мире нет даже понятия «агент», и существует только среда Океана, для эмуляции такого мира отпадает необходимость двух разных платформ (как в нашем мире) - одна для физической части (физический симулятор тела существа или робота) и одна для нейронной часть - нейросетевая структура, типа TensorFlow, PyTorch или Jax. Вследствие этого авторам хватило для эмуляции Океана одной платформы Jax, на которой они и экспериментируют.
Цели экспериментов:
1. Нащупать основу общего алгоритма генерации ИИ в среде Океана.
2. Понять, какая физика необходима для взрыва разнообразия и подъема интеллекта.
- Наш мир построен из элементарные частиц (кварки и электроны). Первые объединяются в протоны и нейтроны (и есть несколько других частиц, таких как фотоны), которые объединяются в атомы. Некоторые основные атомы (в первую очередь, углерод, водород, кислород, азот и фосфор) образуют большое разнообразие молекул в виде белков и других типов молекул, в конечном счете, служащих основой для построения клеток, как основных единиц жизни.
- В мире Океана, когда его фундаментальные единицы уже могут проявлять сложное взаимодействие и поведение, всё должно быть иначе.
Резюмируя, можно сказать, что авторы хотят построить более совершенный мир, чем создан природой.
• Мир, в котором не нужны сложная химия и классическая физика.
• Мир, в котором есть только основные законы энергии.
• Мир, которому, возможно, вообще не нужна какая-либо встроенная сложность.
• Мир, в котором, появление естественного и искусственного интеллекта – это одно и то же. И значит, создав естественный интеллект, можно будет использовать тот же путь для создания ИИ, способного превзойти естественный в неограниченном масштабе.
Вот чем (среди прочего) занимаются в компании №1 мира по разработке ИИ. А кто-то еще спрашивает, куда у DeepMind утекают миллиарды R&D бюджетов. Не удивлюсь, если среди прочего, они утекают в Океан.
#ИИ
Проект создания «Океана Соляриса» - самоорганизующейся разумной материи.
Вы сомневаетесь, что креативностью люди превосходят любой из возможных ИИ?
Тогда что вы скажете о проекте, цель которого превзойти креативностью самого Создателя?
Речь идет о создании принципиально иного типа разума. А заодно и мира, в котором такой разум будет жить, подобно Океану из романа Станислава Лема «Солярис».
• В этом мире не будет различий между организмами и машинами, поскольку нет разделения между агентом и окружающей средой.
• Здесь иной принцип появления и развития интеллекта - не эволюция живых организмов, а эволюция самоорганизующейся разумной материи (self-organizing intelligent matter), которую далее я буду называть «Океаном».
Океан состоит из атомарных элементов, способных на нейронные операции и взаимодействующих посредством обмена информацией на основе физико-подобных правил, свойственных окружающей среде.
Эволюционный процесс, идущий внутри Океана, ведет к появлению различных организмов (состоящих из множества атомарных элементов), которые могут сосуществовать и процветать в окружающей среде Океана.
Поскольку в этом мире нет даже понятия «агент», и существует только среда Океана, для эмуляции такого мира отпадает необходимость двух разных платформ (как в нашем мире) - одна для физической части (физический симулятор тела существа или робота) и одна для нейронной часть - нейросетевая структура, типа TensorFlow, PyTorch или Jax. Вследствие этого авторам хватило для эмуляции Океана одной платформы Jax, на которой они и экспериментируют.
Цели экспериментов:
1. Нащупать основу общего алгоритма генерации ИИ в среде Океана.
2. Понять, какая физика необходима для взрыва разнообразия и подъема интеллекта.
- Наш мир построен из элементарные частиц (кварки и электроны). Первые объединяются в протоны и нейтроны (и есть несколько других частиц, таких как фотоны), которые объединяются в атомы. Некоторые основные атомы (в первую очередь, углерод, водород, кислород, азот и фосфор) образуют большое разнообразие молекул в виде белков и других типов молекул, в конечном счете, служащих основой для построения клеток, как основных единиц жизни.
- В мире Океана, когда его фундаментальные единицы уже могут проявлять сложное взаимодействие и поведение, всё должно быть иначе.
Резюмируя, можно сказать, что авторы хотят построить более совершенный мир, чем создан природой.
• Мир, в котором не нужны сложная химия и классическая физика.
• Мир, в котором есть только основные законы энергии.
• Мир, которому, возможно, вообще не нужна какая-либо встроенная сложность.
• Мир, в котором, появление естественного и искусственного интеллекта – это одно и то же. И значит, создав естественный интеллект, можно будет использовать тот же путь для создания ИИ, способного превзойти естественный в неограниченном масштабе.
Вот чем (среди прочего) занимаются в компании №1 мира по разработке ИИ. А кто-то еще спрашивает, куда у DeepMind утекают миллиарды R&D бюджетов. Не удивлюсь, если среди прочего, они утекают в Океан.
#ИИ
Новое понимание зла и преступлений в «киберкультуре 2.0»
Германия меняет законы о кибергруминге.
Что понимается под преступлением, зависит от уголовного кодекса страны. Также и с понятиями добра и зла, - их трактовка разная в разных культурах. Но есть класс деяний, до сих пор понимавшийся, как однозначное зло и преступление в большинстве культур и уголовных кодексов – сексуальное насилие над детьми. По крайней мере так было раньше. А скоро будет иначе.
«Киберкультура 2.0», в которую всё более трансформируется традиционная культура цивилизованных обществ, меняет понимание добра и зла, равно как и квалификацию преступных действий в области кибергруминга.
Кибергруминг (онлайн-груминг, чайлдгруминг) — это вид сексуального насилия над ребенком, которое происходит в виртуальном пространстве. Кибергруминг осуществляется путем создания доверительных отношений с ребёнком в интернете для его дальнейшей сексуальной эксплуатации в онлайне или оффлайне.
Чтобы спецагентам ловить дельцов, зарабатывающих не кибергруминге, им необходим доступ в чаты о сексуальном насилии над детьми в даркнете. Для доступа требуется располагать «товаром» - своими видео детского насилия. И этот товар должен быть крутым и уникальным. Но где его взять?
А глубокие фейки на что!
Новое законодательство Германии (одобрено членами Бундестага) позволяет спецагентам производство фейкового детского порно, которое они могут потом выставлять в чатах даркнета.
Вторая законодательная новация не менее крутая.
«Ухаживания» дельца кибергруминга за спецагентом, выдающим себя за ребенка, будет теперь признаваться сексуальным насилием над детьми.
Т.е. по сути:
• производство фейкового детского порно перестает быть злом и преступлением, если с его помощью ловят кибергрумеров. Но если то же самое детское порно будет использовано для иных целей (поди проверь) – это будет зло и преступление;
• ухаживание за могучим бородатым дядькой, выдающим себя в даркнете за девочку, законодательно объявляется злом и преступлением (а в реале ухаживай за дядькой сколько хочешь, лишь бы дядька не жаловался).
Подробней 1, 2
#Киберкультура2_0
Германия меняет законы о кибергруминге.
Что понимается под преступлением, зависит от уголовного кодекса страны. Также и с понятиями добра и зла, - их трактовка разная в разных культурах. Но есть класс деяний, до сих пор понимавшийся, как однозначное зло и преступление в большинстве культур и уголовных кодексов – сексуальное насилие над детьми. По крайней мере так было раньше. А скоро будет иначе.
«Киберкультура 2.0», в которую всё более трансформируется традиционная культура цивилизованных обществ, меняет понимание добра и зла, равно как и квалификацию преступных действий в области кибергруминга.
Кибергруминг (онлайн-груминг, чайлдгруминг) — это вид сексуального насилия над ребенком, которое происходит в виртуальном пространстве. Кибергруминг осуществляется путем создания доверительных отношений с ребёнком в интернете для его дальнейшей сексуальной эксплуатации в онлайне или оффлайне.
Чтобы спецагентам ловить дельцов, зарабатывающих не кибергруминге, им необходим доступ в чаты о сексуальном насилии над детьми в даркнете. Для доступа требуется располагать «товаром» - своими видео детского насилия. И этот товар должен быть крутым и уникальным. Но где его взять?
А глубокие фейки на что!
Новое законодательство Германии (одобрено членами Бундестага) позволяет спецагентам производство фейкового детского порно, которое они могут потом выставлять в чатах даркнета.
Вторая законодательная новация не менее крутая.
«Ухаживания» дельца кибергруминга за спецагентом, выдающим себя за ребенка, будет теперь признаваться сексуальным насилием над детьми.
Т.е. по сути:
• производство фейкового детского порно перестает быть злом и преступлением, если с его помощью ловят кибергрумеров. Но если то же самое детское порно будет использовано для иных целей (поди проверь) – это будет зло и преступление;
• ухаживание за могучим бородатым дядькой, выдающим себя в даркнете за девочку, законодательно объявляется злом и преступлением (а в реале ухаживай за дядькой сколько хочешь, лишь бы дядька не жаловался).
Подробней 1, 2
#Киберкультура2_0
DW
More powers for online child abuse investigators
Officials in Germany will soon be able to post fake, computer-generated pornographic images of children when pursuing criminals online. Parliament has approved a raft of new measures, including new "cyber grooming" laws.
К 100-летию Компартии Китай очистит Интернет от скверны.
Спецоперация Администрации киберпространства Китая.
В этом году 100-летний юбилей Компартии Китая. Его страна встретит небывалой чистотой и порядком в своем киберпространстве. Для этого Администрация киберпространства Китая начинает спецоперацию "Чистая весенняя сетевая среда". Цель спецоперации – «создать в онлайне праздничную, здоровую и мирную атмоферу весеннего фестиваля».
В ходе спецоперации планируется:
• жестоко бороться со всеми видами общественных беспорядков;
• очистить киберпространство от злонамеренной шумихи;
• решительно бороться с слухами и ложной информацией;
• сосредоточиться на исправлении плохого поведения в социальных сетях;
• бороться с кибер-насилием и совращением несовершеннолетних;
• помочь в составлении списков контроля качества поведения;
• подавлять киберподстрекательство и киберзапугивание.
В результате «глубокой очистки» планируется создать в киберпространстве «здоровую и чистую среду», соответствующую требованиям "Положения об экологическом управлении содержанием информации Сети".
https://chuangxin.chinadaily.com.cn/a/202102/04/WS601ca7faa3101e7ce973e9f5.html
А теперь для понимания перспективы погуглите - роскомнадзор администрация киберпространства китая.
#Китай
Спецоперация Администрации киберпространства Китая.
В этом году 100-летний юбилей Компартии Китая. Его страна встретит небывалой чистотой и порядком в своем киберпространстве. Для этого Администрация киберпространства Китая начинает спецоперацию "Чистая весенняя сетевая среда". Цель спецоперации – «создать в онлайне праздничную, здоровую и мирную атмоферу весеннего фестиваля».
В ходе спецоперации планируется:
• жестоко бороться со всеми видами общественных беспорядков;
• очистить киберпространство от злонамеренной шумихи;
• решительно бороться с слухами и ложной информацией;
• сосредоточиться на исправлении плохого поведения в социальных сетях;
• бороться с кибер-насилием и совращением несовершеннолетних;
• помочь в составлении списков контроля качества поведения;
• подавлять киберподстрекательство и киберзапугивание.
В результате «глубокой очистки» планируется создать в киберпространстве «здоровую и чистую среду», соответствующую требованиям "Положения об экологическом управлении содержанием информации Сети".
https://chuangxin.chinadaily.com.cn/a/202102/04/WS601ca7faa3101e7ce973e9f5.html
А теперь для понимания перспективы погуглите - роскомнадзор администрация киберпространства китая.
#Китай
Два месяца в Израиле, 15 лет в России.
Bloomberg оценил сроки вакцинации 75% населения в разных странах.
Хорошая визуализация большого объема данных позволяет обрести инсайт (внезапное понимание чего-либо, не выводимое из прошлого опыта).
Глобальный трекер COVID-19 вакцинации от компании Bloomberg – прекрасный тому пример. Всего пара минут разглядывания инфографики и вы прозреваете картину будущего пандемии – это продлится годы, ибо столько потребуется для вакцинации 75% населения, способной повлечь коллективный иммунитет.
Однако, дьявол, как обычно, прячется в деталях – технологиях проведения вакцинации, возможности которых у разных стран отличаются очень сильно.
Вот пример, показывающий, сколько времени потребуется разным странам, чтобы достигнуть заветного предела 75% вакцинированного населения (при сохранении текущих темпов вакцинации каждой из стран).
• Израилю потребуется еще 2 месяца;
• Великобритании – 7 мес;
• США – 9 мес;
• Германии – 3 года;
• Китаю – 5.5 лет;
• Канаде – 10 лет;
• России – более 10 лет.
Цифру прогноза для России Bloomberg назвывает расплывчато (ведь и 11 и 19 больше 10). Но если посчитать самостоятельно по цифрам из таблицы, приведенной Bloomberg, получается 15 лет.
Видимо, такой прогноз настолько смутил и расстроил российский Forbes, что им пришлось написать «Прогноз для России Bloomberg не рассчитывал» (хотя это не так). Но каждый желающий может самостоятельно проверить, что Россия мониторится Глобальным трекером COVID-19 вакцинации, который дает прогноз «более 10 лет».
Справедливости ради надо отметить, что прогноз Bloomberg сделан на российских данных от 2 января. Однако и самые последние (вчерашние) данные по России кардинально не меняют картину.
#Эпидемия
Bloomberg оценил сроки вакцинации 75% населения в разных странах.
Хорошая визуализация большого объема данных позволяет обрести инсайт (внезапное понимание чего-либо, не выводимое из прошлого опыта).
Глобальный трекер COVID-19 вакцинации от компании Bloomberg – прекрасный тому пример. Всего пара минут разглядывания инфографики и вы прозреваете картину будущего пандемии – это продлится годы, ибо столько потребуется для вакцинации 75% населения, способной повлечь коллективный иммунитет.
Однако, дьявол, как обычно, прячется в деталях – технологиях проведения вакцинации, возможности которых у разных стран отличаются очень сильно.
Вот пример, показывающий, сколько времени потребуется разным странам, чтобы достигнуть заветного предела 75% вакцинированного населения (при сохранении текущих темпов вакцинации каждой из стран).
• Израилю потребуется еще 2 месяца;
• Великобритании – 7 мес;
• США – 9 мес;
• Германии – 3 года;
• Китаю – 5.5 лет;
• Канаде – 10 лет;
• России – более 10 лет.
Цифру прогноза для России Bloomberg назвывает расплывчато (ведь и 11 и 19 больше 10). Но если посчитать самостоятельно по цифрам из таблицы, приведенной Bloomberg, получается 15 лет.
Видимо, такой прогноз настолько смутил и расстроил российский Forbes, что им пришлось написать «Прогноз для России Bloomberg не рассчитывал» (хотя это не так). Но каждый желающий может самостоятельно проверить, что Россия мониторится Глобальным трекером COVID-19 вакцинации, который дает прогноз «более 10 лет».
Справедливости ради надо отметить, что прогноз Bloomberg сделан на российских данных от 2 января. Однако и самые последние (вчерашние) данные по России кардинально не меняют картину.
#Эпидемия
В области ИИ мы находимся на технологическом уровне Древней Греции.
Там умели создавать сложные красивые сооружения и мудрёные философские теории. Однако, рассчитать траекторию брошенного камня (не говоря уж о траектории движения Земли) не смог бы и сам Аристотель. Ведь чтобы рассчитать эти траектории нужно знать конкретные математические формулы, опирающиеся на законы Ньютона и Кеплера.
Вот и сегодня наука не располагает математически описанными законами, в соответствии с которыми работает биологический интеллект. И потому сделать умную колонку с виртуальным голосовым помощником люди сегодня могут. А ИИ, подобный даже не человеческому, а хотя бы мышиному, - увы нет. Формул не знаем.
Но почему? Что мешает науке описать математику работы мозга?
Проблема в том, что наш интеллект – результат сотен миллионов лет эволюции, которая создавала его с одной единственной целью – повысить шансы физического тела на выживание и воспроизводство.
Т.е. биологический интеллект всегда воплощен в конкретное тело и нужен для управления разумным поведением, подстраивая его под морфологию тела и адаптируя к окружающей среде. Интеллект мыши подстроен под тело мыши и среду обитания мыши. Интеллект дельфина – под тело и среду дельфина. А человека – под тело и среду человека.
Это неразрывная триада: среда, тело, интеллект. И невозможно математически описать работу последнего в отрыве от первого и второго.
Следовательно, понять математику функционирования биологического интеллекта можно, только изучая динамику приспособления тела к условиям окружающей среды.
Но у современного ИИ все не так.
Он не воплощен, а бестелесен (у алгоритмов машинного обучения нет физического тела, которому нужно выживать и воспроизводиться). И потому ИИ, строго говоря, некорректно сравнивать с биологическим интеллектом. Это все равно, что сравнивать кошку с мышеловкой. Да, - извести мышь можно с помощью и того, и другого. Но на этом сходства заканчиваются.
Попытки преодолеть бестелесность ИИ делаются самые разнообразные.
Недавно я писал о разработке компанией DeepMind концепции разумной материи, позволяющей избежать проблемы отсутствия у интеллекта тела. Однако, эта концепция, типа «разумного океана» из романа «Солярис», уж слишком неземная, - за всю земную эволюцию здесь так и не появилось ни одно бестелесное разумное существо. И потому традиционный подход – среда, тело, интеллект, - видится всё же перспективней.
Новая система, разработанная в Стэнфордском университете, названа Deep Evolutional Reinforcement Learning – DERL – глубокое эволюционной обучение с подкреплением. Это новая вычислительная структуру, которая может решать сложные задачи локомоции и манипуляций в сложных средах для агентов различных морфологий, используя только низкоуровневую сенсорную информацию. Используя DERL, можно изучать следующие две взаимосвязи между сложностью окружающей среды, морфологическим интеллектом и обучаемостью агента управлять свои телом.
1) Сложность окружающей среды способствует развитию морфологического интеллекта, количественно определяемого способностью морфологии облегчать решение новых задач.
2) Эволюция быстро выбирает морфологии, которые учатся быстрее, тем самым позволяя поведению, усвоенному при жизни предков, передаваться для использования в жизни их потомков.
Эксперименты с DERL (см. схему) позволят на практике увидеть работу эффекта Болдуина - поведение, имеющее решающее значение для выживания, часто становится «запрограммированным» в геноме, чтобы гарантировать, что оно не потеряно.
Но главное, можно будет исследовать возникновение морфологического интеллекта через эволюцию морфологий, ведущих к более физически стабильному и энергоэффективному поведению, облегчающему обучение и контроль.
Дополнительные детали по теме смотрите в канале по тегу
#ВоплощенныйИнтеллект
Там умели создавать сложные красивые сооружения и мудрёные философские теории. Однако, рассчитать траекторию брошенного камня (не говоря уж о траектории движения Земли) не смог бы и сам Аристотель. Ведь чтобы рассчитать эти траектории нужно знать конкретные математические формулы, опирающиеся на законы Ньютона и Кеплера.
Вот и сегодня наука не располагает математически описанными законами, в соответствии с которыми работает биологический интеллект. И потому сделать умную колонку с виртуальным голосовым помощником люди сегодня могут. А ИИ, подобный даже не человеческому, а хотя бы мышиному, - увы нет. Формул не знаем.
Но почему? Что мешает науке описать математику работы мозга?
Проблема в том, что наш интеллект – результат сотен миллионов лет эволюции, которая создавала его с одной единственной целью – повысить шансы физического тела на выживание и воспроизводство.
Т.е. биологический интеллект всегда воплощен в конкретное тело и нужен для управления разумным поведением, подстраивая его под морфологию тела и адаптируя к окружающей среде. Интеллект мыши подстроен под тело мыши и среду обитания мыши. Интеллект дельфина – под тело и среду дельфина. А человека – под тело и среду человека.
Это неразрывная триада: среда, тело, интеллект. И невозможно математически описать работу последнего в отрыве от первого и второго.
Следовательно, понять математику функционирования биологического интеллекта можно, только изучая динамику приспособления тела к условиям окружающей среды.
Но у современного ИИ все не так.
Он не воплощен, а бестелесен (у алгоритмов машинного обучения нет физического тела, которому нужно выживать и воспроизводиться). И потому ИИ, строго говоря, некорректно сравнивать с биологическим интеллектом. Это все равно, что сравнивать кошку с мышеловкой. Да, - извести мышь можно с помощью и того, и другого. Но на этом сходства заканчиваются.
Попытки преодолеть бестелесность ИИ делаются самые разнообразные.
Недавно я писал о разработке компанией DeepMind концепции разумной материи, позволяющей избежать проблемы отсутствия у интеллекта тела. Однако, эта концепция, типа «разумного океана» из романа «Солярис», уж слишком неземная, - за всю земную эволюцию здесь так и не появилось ни одно бестелесное разумное существо. И потому традиционный подход – среда, тело, интеллект, - видится всё же перспективней.
Новая система, разработанная в Стэнфордском университете, названа Deep Evolutional Reinforcement Learning – DERL – глубокое эволюционной обучение с подкреплением. Это новая вычислительная структуру, которая может решать сложные задачи локомоции и манипуляций в сложных средах для агентов различных морфологий, используя только низкоуровневую сенсорную информацию. Используя DERL, можно изучать следующие две взаимосвязи между сложностью окружающей среды, морфологическим интеллектом и обучаемостью агента управлять свои телом.
1) Сложность окружающей среды способствует развитию морфологического интеллекта, количественно определяемого способностью морфологии облегчать решение новых задач.
2) Эволюция быстро выбирает морфологии, которые учатся быстрее, тем самым позволяя поведению, усвоенному при жизни предков, передаваться для использования в жизни их потомков.
Эксперименты с DERL (см. схему) позволят на практике увидеть работу эффекта Болдуина - поведение, имеющее решающее значение для выживания, часто становится «запрограммированным» в геноме, чтобы гарантировать, что оно не потеряно.
Но главное, можно будет исследовать возникновение морфологического интеллекта через эволюцию морфологий, ведущих к более физически стабильному и энергоэффективному поведению, облегчающему обучение и контроль.
Дополнительные детали по теме смотрите в канале по тегу
#ВоплощенныйИнтеллект
YouTube
Embodied Intelligence via Learning and Evolution
Results from our paper "Embodied Intelligence via Learning and Evolution" (https://www.nature.com/articles/s41467-021-25874-z).
Authors
Agrim Gupta, Silvio Savarese, Surya Ganguli & Li Fei-Fei
Abstract
The intertwined processes of learning and evolution…
Authors
Agrim Gupta, Silvio Savarese, Surya Ganguli & Li Fei-Fei
Abstract
The intertwined processes of learning and evolution…
Улучшен и доказан оптимальный алгоритм парковки.
Он минимизирует общие затраты времени при парковке и выезде.
Мы ошибаемся думая, что большинство повседневных задач уже решены. Многие из них подчас дьявольски сложны и требуют для решения крутейшей математики. Но никто пока что не сумел её придумать и доказать её оптимальность.
Полтора года назад я писал, что одна из самых повседневных задач (парковка), наконец, решена, - найден оптимальный алгоритм парковки. С такой задачей мы сталкиваемся каждый день: нужно парковаться на большой парковке, и свободные места есть. Но как выбрать оптимальное по затратам времени на парковку и выезд?
Т.н. «Разумная стратегия», найденная полтора года назад Крапивским и Реднером и описанная ими в “Журнале статистической механики”, была признана авторами и рецензентами оптимальной. Можете прочесть мой тогдашний пост и даже посмотреть видео.
Однако авторы не унялись в своем стремлении к математическому перфекционизму. Потратив еще год, они таки нашли еще более оптимальный алгоритм (назвав его «Правило 1/2»), имеющий к тому же 2 дополнительных преимущества:
1. Алгоритм прост, как редис.
2. И он не улучшаем (математически доказана его оптимальность).
Оптимальная стратегия такова - игнорировать все открытые места, пройдя до середины ряда, после чего занять первое свободное место.
Ложка дёгтя в эту бочку мёда, к сожалению, присутствует. «Правило 1/2», как и «Разумная стратегия», работают лишь в упрощенном идеальном примере (один бесконечный ряд авто и нет конкуренции за место) Для реальной стратегии (не идеальной) математическое решение пока неизвестно. Разработавший ее имеет все шансы на «нобеля в математике».
Так что рекомендую читателям подумать над реальной стратегией. Задачка страшно перспективная. И решив её, гарантированно войдете в историю математики.
#СтатистическаяМеханника
Он минимизирует общие затраты времени при парковке и выезде.
Мы ошибаемся думая, что большинство повседневных задач уже решены. Многие из них подчас дьявольски сложны и требуют для решения крутейшей математики. Но никто пока что не сумел её придумать и доказать её оптимальность.
Полтора года назад я писал, что одна из самых повседневных задач (парковка), наконец, решена, - найден оптимальный алгоритм парковки. С такой задачей мы сталкиваемся каждый день: нужно парковаться на большой парковке, и свободные места есть. Но как выбрать оптимальное по затратам времени на парковку и выезд?
Т.н. «Разумная стратегия», найденная полтора года назад Крапивским и Реднером и описанная ими в “Журнале статистической механики”, была признана авторами и рецензентами оптимальной. Можете прочесть мой тогдашний пост и даже посмотреть видео.
Однако авторы не унялись в своем стремлении к математическому перфекционизму. Потратив еще год, они таки нашли еще более оптимальный алгоритм (назвав его «Правило 1/2»), имеющий к тому же 2 дополнительных преимущества:
1. Алгоритм прост, как редис.
2. И он не улучшаем (математически доказана его оптимальность).
Оптимальная стратегия такова - игнорировать все открытые места, пройдя до середины ряда, после чего занять первое свободное место.
Ложка дёгтя в эту бочку мёда, к сожалению, присутствует. «Правило 1/2», как и «Разумная стратегия», работают лишь в упрощенном идеальном примере (один бесконечный ряд авто и нет конкуренции за место) Для реальной стратегии (не идеальной) математическое решение пока неизвестно. Разработавший ее имеет все шансы на «нобеля в математике».
Так что рекомендую читателям подумать над реальной стратегией. Задачка страшно перспективная. И решив её, гарантированно войдете в историю математики.
#СтатистическаяМеханника
Два типа неопределенности и один нейромедиатор.
Вот чего не хватало ИИ, чтобы испытывать любопытство.
Абсолютное превосходство алгоритмов над людьми в интеллектуальных играх уже доказано (шахматы, Го, консольные игры …).
Но чтобы использовать колоссальный потенциал алгоритмов за пределами игр (в реальной жизни), алгоритмам, в первую очередь, не хватает исключительно важного свойства живых агентов – любопытства. Именно его исследователи ИИ пытаются моделировать и вкладывать в ИИ уже более 10 лет.
Два года назад компания OpenAI довольно убедительно продемонстрировала преимущества «любопытного ИИ», показавшего супер-класс в Atari-игре «Месть Монтесумы». Эта далеко не самая сложная на свете игра была крайне неудобна для ИИ из-за её сходства с нашей жизнью – в ней отсутствует вознаграждение за каждый сделанный ход.
• Дело в том, что обучающийся ИИ, обычно, требует т.н. «подкрепления» - вознаграждения за каждый правильный ход.
• А в жизни людей всё не так. Сначала нужно сделать десятки или сотни действий («ходов»), и лишь затем (возможно) приходит вознаграждение.
Источником мотивации в поисках нового и неизведанного у людей служит лишь любопытство. Вот почему наличие у ИИ любопытства просто необходимо для решения не игровых, а жизненных задач.
На примере игры «Месть Монтесумы», это удалось сделать OpenAI. Но они натолкнулись на неразрешимые ситуации, названные «Проблема ТВ-помех». Они возникают, когда ИИ запрограммирован на поиск нового опыта, но зацикливается на случайных паттернах, подобно телевизору, поймавшему при настройке статический шум и запоминающего его как ТВ-канал. Причина в том, что «любопытный ИИ» ищет «интересное» и «новое» с помощью прогнозирования будущего и оценки «ошибок предсказаний». Прежде чем сделать ход, ИИ прогнозируют, как после него изменится игра. Если предсказание верное, ИИ может решить, что столкнулся с уже известной частью игры.
А поскольку статический шум непредсказуем, «любопытный ИИ» при столкновении с «ТВ-помехами» (или иным непрогнозируемым стимулом), как бы превращается в бандерлога, загипнотизированного игрой с шумом помех. ИИ просто зависает на «ТВ-помехах», подобно азартным игрокам, что не в силах оторваться от игровых автоматов, будучи «загипнотизированы» непредсказуемостью результатов. Как это выглядит, показано на гифке.
Опубликованный позавчера препринт англо-американской работы предлагает решение «Проблемы ТВ-помех» крайне любопытным и очень перспективным способом - моделированием вознаграждения ИИ за его любопытство на манер холинергического метода управления возбуждением синапсов мозга посредством нейромедиатора ацетилхолина.
Фишка вот в чем.
Существуют 2 типа неопределенности: эпистемическая и алеаторная.
Эпистемическая неопределенность измеряет ненадежность предсказаний модели, которая может быть минимизирована с помощью дополнительного опыта. Если использовать эпистемическую неопределенность в качестве внутренних вознаграждений, то агент будет искать новизну - динамику, с которой он ранее не сталкивался.
С другой стороны, ошибки предсказания из-за алеаторной неопределенностей неизбежны. Они, по определению, являются результатом непредсказуемой динамики. Ошибки прогнозирования из-за непредсказуемой динамики обездвиживают агентов, движимых любопытством. Что и происходит в «Проблеме ТВ-помех».
Развивая модель Парра-Фристона, авторы предположили, что уровень ацетилхолина растет с ростом ожидаемой алеаторной неопределенности, а уровень норадреналина увеличивается, когда животные сталкиваются с эпистемической неопределенностью (ожидаемой и неожиданной).
Уменьшая вознаграждения в ситуациях алеаторной неопределенности, авторы работы на практике научили ИИ эффективно обходить стохастические ловушки класса «Проблем ТВ-помех».
ИТОГО:
- мы стали ближе к «любопытному ИИ»;
- держитесь подальше от алеаторной неопределенности 🥴
#ИИ
Вот чего не хватало ИИ, чтобы испытывать любопытство.
Абсолютное превосходство алгоритмов над людьми в интеллектуальных играх уже доказано (шахматы, Го, консольные игры …).
Но чтобы использовать колоссальный потенциал алгоритмов за пределами игр (в реальной жизни), алгоритмам, в первую очередь, не хватает исключительно важного свойства живых агентов – любопытства. Именно его исследователи ИИ пытаются моделировать и вкладывать в ИИ уже более 10 лет.
Два года назад компания OpenAI довольно убедительно продемонстрировала преимущества «любопытного ИИ», показавшего супер-класс в Atari-игре «Месть Монтесумы». Эта далеко не самая сложная на свете игра была крайне неудобна для ИИ из-за её сходства с нашей жизнью – в ней отсутствует вознаграждение за каждый сделанный ход.
• Дело в том, что обучающийся ИИ, обычно, требует т.н. «подкрепления» - вознаграждения за каждый правильный ход.
• А в жизни людей всё не так. Сначала нужно сделать десятки или сотни действий («ходов»), и лишь затем (возможно) приходит вознаграждение.
Источником мотивации в поисках нового и неизведанного у людей служит лишь любопытство. Вот почему наличие у ИИ любопытства просто необходимо для решения не игровых, а жизненных задач.
На примере игры «Месть Монтесумы», это удалось сделать OpenAI. Но они натолкнулись на неразрешимые ситуации, названные «Проблема ТВ-помех». Они возникают, когда ИИ запрограммирован на поиск нового опыта, но зацикливается на случайных паттернах, подобно телевизору, поймавшему при настройке статический шум и запоминающего его как ТВ-канал. Причина в том, что «любопытный ИИ» ищет «интересное» и «новое» с помощью прогнозирования будущего и оценки «ошибок предсказаний». Прежде чем сделать ход, ИИ прогнозируют, как после него изменится игра. Если предсказание верное, ИИ может решить, что столкнулся с уже известной частью игры.
А поскольку статический шум непредсказуем, «любопытный ИИ» при столкновении с «ТВ-помехами» (или иным непрогнозируемым стимулом), как бы превращается в бандерлога, загипнотизированного игрой с шумом помех. ИИ просто зависает на «ТВ-помехах», подобно азартным игрокам, что не в силах оторваться от игровых автоматов, будучи «загипнотизированы» непредсказуемостью результатов. Как это выглядит, показано на гифке.
Опубликованный позавчера препринт англо-американской работы предлагает решение «Проблемы ТВ-помех» крайне любопытным и очень перспективным способом - моделированием вознаграждения ИИ за его любопытство на манер холинергического метода управления возбуждением синапсов мозга посредством нейромедиатора ацетилхолина.
Фишка вот в чем.
Существуют 2 типа неопределенности: эпистемическая и алеаторная.
Эпистемическая неопределенность измеряет ненадежность предсказаний модели, которая может быть минимизирована с помощью дополнительного опыта. Если использовать эпистемическую неопределенность в качестве внутренних вознаграждений, то агент будет искать новизну - динамику, с которой он ранее не сталкивался.
С другой стороны, ошибки предсказания из-за алеаторной неопределенностей неизбежны. Они, по определению, являются результатом непредсказуемой динамики. Ошибки прогнозирования из-за непредсказуемой динамики обездвиживают агентов, движимых любопытством. Что и происходит в «Проблеме ТВ-помех».
Развивая модель Парра-Фристона, авторы предположили, что уровень ацетилхолина растет с ростом ожидаемой алеаторной неопределенности, а уровень норадреналина увеличивается, когда животные сталкиваются с эпистемической неопределенностью (ожидаемой и неожиданной).
Уменьшая вознаграждения в ситуациях алеаторной неопределенности, авторы работы на практике научили ИИ эффективно обходить стохастические ловушки класса «Проблем ТВ-помех».
ИТОГО:
- мы стали ближе к «любопытному ИИ»;
- держитесь подальше от алеаторной неопределенности 🥴
#ИИ
