Малоизвестное интересное
63.7K subscribers
88 photos
1 video
11 files
1.79K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
Почему существуют везунчики.
На свете есть много красивых, противоречащих интуиции понятий и ситуаций, когда люди думают, что они их понимают, а на самом деле, - совсем не так.
Лучший пример таких понятий - случайность и вероятность.

Представьте, что вы играете в азартную игру, угадывая орел или решка. Угадали – выиграли. Не угадали – проиграли. Монета подбрасывается примерно каждые 5 сек в течение рабочего дня, давая в итоге 10 тыс. испытаний.
А можете теперь представить, какова вероятность, что вы окажитесь в выигрыше 9930 раз при всего 70 проигрышах?
Интуитивно нам кажется, что такой вариант крайне маловероятен. Хотя на самом деле, эта вероятность больше 10%. Т.е. стоит вам поиграть в эту игру на работе в течение всего 2х недель, и этот вариант случится.
Потому что здесь действует 1й Закон арксинуса для случайных блужданий – «Закон везунчика» – в ходе отдельно взятой серии испытаний, сколь бы продолжительной она ни была, могут происходить даже са-мые маловероятные события
Везунчиком, например, запросто может быть игрок казино. Или трейдер, играющий против рынка. Причем даже если будет всего 20 испытаний, то все равно, в результате одна из сторон (трейдер или рынок) окажется везунчиком, а другая – неудачником. И чем больше число испытаний, тем вероятность этого выше.

А есть еще и 2й Закон арксинуса для случайных блужданий, математически описывающий две, казалось бы, противоречащие народные мудрости «новичкам везет» и «первый блин – комом» (и заодно, объясняющий «закон бутерброда».
Согласно 2му Закону арксинуса, существует сильная тенденция к расположению максимумов вблизи начальной или конечной точек пути блуждания.
Т.е. новичкам, действительно везет. Но не всем новичкам, а только удачливым. Иначе говоря, везет тем, «кого случай везет». А всем остальным новичкам гарантирован первый блин комом.

Почему так, и как этим воспользоваться. А также о том:
— что случайность лежит в основе событий, с которыми мы сталкиваемся каждый день, от взлетов и падений цен на акции до вероятности выигрыша в азартных играх;
— что понимание случайности может помочь нам понять наш опыт и решить кажущиеся парадоксы.
— что теория случайных блужданий и ее законы, описывающие некоторые из ее интригующих последствий, помогают строить выигрышные стратегии в экономике и финансах, физике и медицине и т.д. и т.п.
Обо всем этом расскажет знаменитый физик и крупнейший специалист в данной области Сидни Реднер в своей лекции 27 февраля https://goo.gl/uCdxRS , которая будет онлайн транслироваться на ютуб-канале «Института сумасшедших идей» Санта-Фе https://goo.gl/EL7rf3 .
Ну а особо заинтересовавшиеся могут даже записаться и пройти онлайн-туториал Сидни Реднера по теории случайных блужданий https://goo.gl/YPtWQY .
Математическое пояснение законов арксинуса на русском см. здесь https://goo.gl/GtkhfS

#CлучайныеБлуждания
Лучший техно-фейк года 2017:
как выявить покупателя по одному его лайку, а гея по одному фото.
Среди современных актеров только Том Хэнкс сумел стать лучшим актером Оскара два года подряд - Филадельфия (1993) и Форрест Гамп (1994).
Полагаю, что если бы существовал Оскар за лучший техно-фейк года, то его в 2016 и 2017 получал бы Михал Косински (Michal Kosinski). Запомните лицо этого человека https://goo.gl/LLLp2S, т.к. вы о нем еще наверняка услышите .

О главной высокотехнологической «утке» 2016 года - разработанном Михалом Косински новом «страшном оружии управления массами», основанном на применении подхода Big Data при построении психометрических моделей для таргетированной рекламы, - я писал год назад (см. «Утка года» https://goo.gl/ZYXztc ).

В 2017 Косински, развивая эту же технологию, продвинулся еще дальше, скооперировавшись с очаровательной (не правда ли https://goo.gl/bRc51r ?) Сандрой Матц (Sandra Matz), называющей себя Computational Social Scientist и обладающей пробивной силой крепостного тарана.
Силами этого тарана в конце 2017 в PNAS вышла новая статья Матц и Косински (и еще с 2 соавторами 2го ряда) «Психологический таргетинг как эффективный подход к цифровому массовому убеждению» https://goo.gl/snraAo .
Описанная авторами технология «цифрового массового убеждения» позволяет «осуществлять таргетирование рекламы в зависимости от психотипа».

По открытым данным «лайков» в Facebook определяется, насколько экстравертен и открыт человек. А затем ему показывается вариант рекламы, заточенный под его психотип.
По результатам проведенных авторами испытаний на 3,5 млн пользователей Facebook, они пишут о 40% повышении кликабельность рекламы и 50% увеличении вероятности, что пользователь купит рекламируемый товар или услугу.
Кроме того, Косински сообщил, что по лайкам Facebook, эта технология может прогнозировать:
— употребление наркотиков с 65% точностью,
— политическую принадлежность с 85%,
— сексуальную ориентацию с 80% точностью.
Авторы также подчеркивают двойное назначение этой технологии: «Если использовать это в попытках манипулировать людьми, вы можете заставить их поступать вопреки их собственным интересам — например, не пойти на выборы».

Ссылки на восторженные статьи об этой работе можно найти на сайте Сандры Матц https://goo.gl/rUr2yg . Из их заголовков:
- Онлайн-реклама узнает психотип пользователя по одному «лайку».
- Это открывает возможности для широкомасштабного манипулирования обществом.
Особо я бы рекомендовал интервью Матц, данное для Рsychologytoday. В частности, ее изумительный ответ на вопрос:
«Общеизвестно, что всевозможное тестирование типологии личности оказалось не продуктивно и тем самым себя полностью дискредитировало. Определение же типов личности из данных Facebook кажется еще более проблематичным. Как вы это решаете?»

Не важно, как решают. Они уже движутся дальше и с помощью методов глубокого обучения Косинский натренеровал нейросеть распознавать сексуальную ориентацию мужчин и женщин. Всего по одному фото гей определяется с вероятностью 81%. По пяти – с 91%. Тогда как точность такого же распознавания человеком, как пишут авторы, не превышает 61% https://goo.gl/YBFxPm .

Полагаю, технологии Косинский & Матц ждет в России большое будущее.

#УткаГода
Модель Изинга раскрывает тайну синхронности природных процессов.
В результате может появиться новый универсальный закон природы на стыке физики, биологии и экологии.

Человечество знает, как сделать адронный коллайдер и новый айфон. И даже умеет забросить на орбиту красный кабриолет. Обо всем этом пишут, как о сенсациях, все СМИ и блогосфера.
Но в то же время, человечество не понимает и даже ни имеет более-менее продуктивных идей, объясняющих тайну, каким образом происходит синхронное цветение растений и прочие синхронные био-процессы в природе.
А когда, вдруг, появляется возможность раскрыть эту тайну, она остается малоизвестной, забиваемая медиа-шумом о красном кабриолете…
Попробую исправить эту несправедливость.

Проходя по усыпанному цветами саду, вы, возможно, задумывались и поражались, как синхронно деревья «узнают», что им нужно расцвести.
Профессор Джон Махта (Массачусетский универ) и его коллеги из Калифорнийского универа попытались разгадать механизм такой синхронности, разработав уникальную компьютерную модель. Она построена на основе одной из самых известных моделей статистической физики - модель Изинга - и может быть использована для понимания того, почему события происходят одновременно на больших расстояниях.
В новом исследовании (опубликованном синхронно с запуском красного кабриолета) в журнале «Труды Национальной академии наук», они рассказали о проверке своей компьютерной модели с использованием 6500 настоящих фисташковых деревьев, посаженных регулярной решеткой в саду.
В результате было показано, что экологические системы могут управляться моделью Изинга, используемой в статистической физике для описания намагничивания материала.

В магнитных материалах силы между соседними атомами стремятся удержать электроны так, чтобы их магнитные силы складывались. Модель Изинга делает количественные прогнозы того, как взаимодействия между соседями могут создавать «силовые» выравнивания на больших расстояниях.
Если соседние деревья синхронизированы, это означает, что они каким-то образом общаются. И хотя авторы не идентифицируют средства такого общения, они предполагают, что это может быть следствием корневой трансплантации, где корни переплетаются. Прививка может помочь одному дереву «рассказать» другому, что пришло время разцвести, а это может помочь соседним деревьям также синхронизироваться. Модель Изинга помогает предсказать, как взаимодействие между соседними деревьями распространяется по всему саду.

Случаи синхронного поведения, когда все происходит сразу, далеко не исчерпываются в природе цветением фруктовых и ореховых деревьев в садах.
Понимание этой динамики необходимо не только для объяснения поведения экологических систем, но и для управления ими.

Статья « Пространственные закономерности урожайности деревьев, объясняемые эндогенными силами через соответствие между моделью Изинга и экологией» https://goo.gl/nHmTFa
#УниверсальныеЗаконыПрироды
Сейчас главный тормоз роста производительности – переход к цифровой экономике и, особенно, внедрение ИИ.

Этот поразительный вывод – не очередная страшилка СМИ. Это главный вывод отчета Национального бюро экономических исследований (NBER), озаглавленного «Искусственный интеллект и современной парадокс производительности: столкновение ожиданий и статистики» https://goo.gl/zAsZkp .
Авторы отчета отмечают, что «среднегодовой совокупный рост производительности труда в США с 2005 по 2016 год составил всего 1,3%, что в 2+ раза меньше, чем среднегодовые 2,8% в период с 1995 по 2004 год ... Более того, реальные медианные доходы застопорились с конца 1990-х годов».
Этот таинственный феномен называется «головоломка (или парадокс) производительности». Первыми, кто назвал в качестве возможного решения головоломки переход к цифровой экономике, были консультанты компании McKinsey. В своем прошлогоднем отчете https://goo.gl/wX6o9f они написали: «В США рост производительности труда начал резко замедляться с 2004 года на фоне активизации внедрений ИТ технологий ... Ответ на головоломку (почему так произошло – СК) является ключом к будущему процветанию, … но экономисты пока так и не смогли прийти к консенсусу о причинах».

Новый отчет NBER предлагает такой вариант консенсуса.
Проанализировав 4 основных объяснения «парадокса производительности» («Ложные ожидания», «Некорректное измерение», «Концентрация дистрибуции» и «Задержка в получении отдачи от технологий»), авторы отчета пришли к следующим выводам:
✔️ Ключевым в замедлении темпов роста производительности является 4е объяснение - «Задержка в получении отдачи от технологий»
✔️ На самом деле, никакого парадоксаздесь нет. Рост производительность и должен сейчас снижаться.

Задержка в получении отдачи от технологии зависит от 2х ее характеристик:
А) Степень Трансформационности (СТ) – масштаб экономической трансформации и институциональной рекомпозиции, необходимых для широкого внедрения технологии.
Б) Степень Глобальности (СГ) – широта ее потенциального использования в разных индустриях и областях.

Переход к цифровой экономике основан на тотальной цифровизации за счет технологий с высочайшими в истории СТ и СГ: Интернет, смартфоны, облака, Интернет вещей и ИИ.
СТ и СГ этих технологий столь высоки (а высочайшие показатели у ИИ), что даже сейчас, спустя 45 лет после начала «цифровой революции», эти технологии все еще находятся на 1й стадии -«Пробы и ошибки внедрения», для которой характерны колоссальные издержки на эксперименты с новыми бизнес-моделями и спекуляция на новых схемах монетизации. Это делает возможным лишь рост капитализации «новых монополистов», слабо влияя на повышение производительности всей экономики.

Именно об этом, на примере «новых монополистов» Amazon, Apple, Facebook и Google, только что написал Скотт Галлоуэй в «Silicon valley’s tax-avoiding, job-killing, soul-sucking machine» https://goo.gl/GvdwTE .

Метафорически 1я стадия внедрений технологии похожа на разгон двигателя авто – топлива жрет немерено, а скорость пока что не высокая. С переходом на 2ю стадию – «Реальное массовое внедрение» - все наоборот: топлива есть существенно меньше, а скорость – будь здоров.

Резюмируя, можно сказать:
— Фантастический потенциал технологий цифровой экономики с высочайшими в истории СТ и СГ начнет проявляться лишь через десятки лет. С переходом на 2ю стадию.
— Только тогда (и никак не раньше) снова начнется ускоренный рост производительности труда. И он будет нешуточным.

В заключение, интересное соображение о России:
— Если переход на цифровую экономику вдруг не окажется очередным ля-ля, а власти инициируют и поддержат попытки такого перехода, - рост российской экономики, в силу названных причин, станет отрицательным.

Слайды доклада https://goo.gl/rvPwdm на конференции «Экономика ИИ» и видео доклада https://goo.gl/4cvZQq (50 мин)
#Производительность #ЦифроваяЭкономика
«Убийство путем машинного обучения» или «Святой Грааль инноваций»?
О двух важных, но малоизвестных потенциальных последствиях машинного обучения и, в целом, ИИ.
Как говорится, есть 2 новости: плохая и хорошая.

О плохой недавно написал в Harvard Business Review Майкл Шраге из MIT – “Является ли «Убийство путем машинного обучения» новой «Смертью от PowerPoint»?” https://goo.gl/4tDFvr
Сухой остаток таков.
1) IT далеко не всегда ведут к повышению производительности (привет вчерашнему посту 😳). Зачастую их внедрение лишь усиливает уже имеющиеся дисфункции (автоматизация бардака лишь усиливает бардак). Например:
— Перегрузка эл-почтовых ящиков явно ухудшает управленческую производительность, моральный дух и настрой на продуктивную работу;
— Электронные таблицы изобилуют глубоко упрятанными ошибками и макро просчетами.
2) В результате этого, затраты на технологию часто конкурируют с ее преимуществами.
3) Однако, при внедрении IT обратного хода уже нет.
— Многие слышали о "Смерти от PowerPoint" https://goo.gl/XvrfKy – колоссальных отрицательных последствиях применения этого приложения, которых мало кому удается избежать https://goo.gl/XETYEC
— Но несмотря на наличие десятков альтернативных приложений (Keynote, Slides, Prezi, SlideRocket, Easel.ly, Emaze, Slidedog …), PowerPoint с 1990 г. занимает 95%+ рынка, имея более 1.2 млрд. пользователей, делающих ежедневно много миллионов скучных и бездарных презентаций, убивающий у их читателей интерес к теме, а у их авторов, - элементарные навыки сторителинга (важнейшего качества для любого бизнеса).
4) С машинным обучением (МО) запросто может получиться, как с PowerPoint.
— МО создает новые сложные организационные риски, поскольку решения на основе МО склонны внушать ложную и / или неуместную уверенность в своих выводах; усиливать и / или укреплять привязку к данным; укреплять или даже усугублять недостатки людей, которые это ПО обучают и / или им пользуются.
— Никто ведь не хочет создавать скучные презентации, лишь убивающие кучу времени их авторов и слушателей… но они это все же делают.
— Аналогично, никто не захочет тренировать алгоритмы МО, чтобы они порождали ошибочные прогнозы, … но люди все равно будут это делать.
Подробней читайте у Майкла Шраге.

О хорошей новости читайте https://goo.gl/kNwpUa (27 слайдов) и смотрите https://goo.gl/NNcR3H (46 мин) совместный доклад NBER и MIT о том, что глубокое обучение может оказаться Изобретением кардинально нового способа изобретательства.
Сухой остаток здесь формулируется предельно лаконично.
Глубокое обучение (равно как и Машинное обучение, равно как весь спектр технологий ИИ):
1) Суть междисциплинарное явление – см. эффектный слайд 20, где показано почти равномерное распределение числа статей по ИИ между дюжиной областей
2) Это «Технология общего назначения» (вроде астролябии у Остапа Бендера - "Сама меряет. Было бы что мерять" и, одновременно с этим, средство поиска инноваций – см. слайд 11.
3) Это единственный известный человечеству способ извлечения информации (а потом и знаний) о т.н. «4ом квадранте» или «Неизвестном неизвестном» - крупнейшей и самой неисследованной области знаний об окружающей нас реальности (о которой, к слову, только и пишет Нассим Талеб) – см. что это такое https://yadi.sk/i/-EXXDPBJ3JqoUj
#МО #ИИ #Инновации #НеизвестноеНеизвестное #Производительность
Цифровая экономика – это новый золотой век? И для кого?
Реакция читателей на пост о «парадоксе производительности» при переходе к цифровой экономике показала – нужны пояснения:
1. Что за модель технологических революций (каждая с двумя длительными стадиями) упомянута в посте?
2. Когда, согласно этой модели, замедление роста производительности сменится на ускорение?
3. Ждет ли продвинутое человечество (развитые страны) «золотой век» с торжеством цифровой экономики?
Попробую предельно кратко это пояснить.
1) Речь идет о современной трактовке Циклов Кондратьева (волн Кондратьева или К-волн - Kondratiev waves, К-waves), увязываемых со сменой технологических укладов (технологическими революциями). Современное название этой теории - парадигма «Шумпетера - Фримана - Перес» (см. Carlota Perez «Technological Revolutions and Financial Capital: The Dynamics of Bubbles and Golden Ages» - есть перевод).
В двух словах речь вот о чем.
— С начала промышленной революции в развитых странах было 5 основных технологических циклов, каждый из которых длится примерно 50-60 лет https://goo.gl/fG683b
Каждый экономический цикл состоит из двух сильно разных периодов, длительностью, примерно, 20-30 лет.
— Период Становления (или период проб и ошибок внедрения) - время творческого разрушения, когда новые технологии выходят из лабораторий на рынок, предприниматели запускают много стартапов на основе новых технологий, венчурный капитал сфокусирован на экспериментах с бизнес-моделями, а новые предприятия приманивают значительные инвестиции и спекулятивный капитал. Все это неизбежно ведет к финансовому пузырю, который в конечном итоге с треском взрывается, что приводит к кризису.
— После кризиса наступает период Развертывания (или период реального массового внедрения) - время экономических преобразований и институциональной рекомпозиции. Теперь, еще недавно «новейшие и прорывные» технологии и бизнес-парадигмы становятся нормой, инфраструктуры и индустрии качественно улучшаются и становятся стабильными, производственный капитал стимулирует долгосрочный рост и расширение путем тиражирования и масштабирования успешных бизнес-моделей.
— Нынешняя (5я) техно-революция (цифровая) основана на инфо-коммуникационных технологиях и началась с 1971 г. Это самая глубокая трансформация повседневной жизни человечества за всю историю.
2) Развитые страны сейчас в этой точке цикла https://goo.gl/FGGZHH - окончание кризиса, после которого замедление роста производительности сменится на ускорение.
3) В результате, через несколько десятков лет может начаться «золотой век» цифровой экономики. Но в том-то и фокус, что этот «золотой век» может состояться в 2х вариантах:
— Устойчивый Глобальный Золотой Век для Всех (жителей развитых стран)
или
— Неустойчивый Золотой Век для Избранных (элит развитых стран)

Подробней о двух вариантах «золотого века» см. в материалах проекта BTTR (Beyond the Tech Revolution) https://goo.gl/GWH4AY
И в материале strategy+business (s+b) о круглом столе с Carlota Perez и партнером PwC UK Leo Johnson «Are We on the Verge of a New Golden Age?» https://goo.gl/cFegi8

PS На вопрос, в какой точке цикла сейчас находится Россия – есть 2 варианта ответа:
— Carlota Perez считает так: в России кризис 5го («цифрового») цикла еще даже не начался (отстаем на 10-20 лет);
— Перец из «Улитки на склоне», полагаю, сказал бы иначе: в России свой собственный четырехтактный цикл развития - реформа (революция) - заморозок - оттепель - застой (маразм).
#ЦифроваяЭкономика
Голодные игры эволюции.
Матмодель «пока толстый сохнет, худой сдохнет» предсказывает риск вымирания и математически воспроизводит закон Дамута и правило Коупа.

Чтобы вымереть, много не надо - достаточно недоедать. Следствием будет недополучение энергии, похудание и ослабление репродуктивных функций. Ну а если эти «голодные игры» будут продолжаться на уровне всего вида, этот вид вымрет.

Существующие модели расчета риска исчезновения вида весьма просты и сводятся к моделированию комплексной экологической системы с линейной взаимосвязью между плотностью ресурсов и приростом населения. Такие модели широко используются для определения того, сколько ресурсов необходимо для выживания вида.

Новая и куда более продвинутая модель https://goo.gl/gMonBd только что опубликована междисциплинарной группой ученых с участием отрекламированного мною на прошлой неделе «мастера случайных блужданий» Сидни Реднера. Новая модель не только существенно точнее. Она также позволяет ответить на сакраментальный вопрос - почему виды животных, как правило, развиваются в сторону более крупных размеров тела.

Новизна этой модели сущностная. В отличие от предыдущих моделей, она учитывает размер тела и метаболическое масштабирование - изменение скорости обмена веществ при изменении размеров тела (подробней о «формуле жизни» и фрактальной геометрии всего живого см. мой пост https://goo.gl/bocG5L). В результате учета потребляемой энергии, размеров тела и скорости метаболизма, эту модель населяют не просто живые существа определенного вида, а «сытые» и «голодные» существа.

На 1й взгляд, новая модель кажется простой, если не примитивной: «голодные» существа склонны к вымиранию, поскольку только «сытые» способны к размножению.
Но т.к. энергетические потребности живых существ изменяются с размером тела, исследователи пришли, в итоге, к интереснейшему открытию - виды разных размеров тяготеют к наиболее устойчивым от вымирания популяционным состояниям.

Это открытие воспроизводит и математически описывает две часто наблюдаемые биологические закономерности.
Первая, закон Дамута об обратной зависимости между размером тела и плотностью населения: чем крупнее вид, тем меньше существ проживают в данной области.
Второе соотношение, правило Коупа, утверждает, что наземные млекопитающие имеют тенденцию развиваться к более крупным размерам тела. Новая модель математически описывает, что более крупные животные с более медленным метаболизмом наиболее устойчивы к вымиранию из-за голода. Эта модель даже предсказывает энергетически «идеальное» с точки зрения выживания в условиях недоедания млекопитающее. По размерам оно должно быть в 2,5 раза больше африканского слона.

Ну а поскольку эволюция таких существ не создала, значит есть для нее факторы посильнее, чем вымирание вида от голода.
Осталось лишь только эти факторы открыть и проверить на матмоделях.

#ТеорияЭволюции
Новейший завет - пятикнижие Нассима Талеба
27го выйдет 5й том пятикнижия Incerto - «Своя шкура на кону. Скрытые асимметрии в повседневной жизни» https://goo.gl/N7YGVE - вошедший во все топ-рейтинги самых ожидаемых междисциплинарных книг 2018 г.
Пропустить эту уникальную книгу - было бы большой ошибкой. Прочитать, а уж тем более, понять ее – это немалый труд.

Одни считают Талеба в числе самых важных современных мыслителей, гением и новым пророком, античной фигурой средиземноморской цивилизации.
Другие – ругачим балаболом, пиарящим себя многословным пересказом чужих идей, банальностей и анекдотов на темы, в которых он сам мало что понимает.

Талеб отвечает своим оппонентам наотмашь, называя их Интеллектуальными Идиотами, переквалифицировавшимися из астрологов в экономисты, из трепачей в психологов, а из грабителей в банкиры… И все потому, что они не желают поставить на кон свою собственную шкуру.

Так что же такое – эта своя шкура на кону? И о какой асимметрии идет речь в заглавии книги? Почему это, в конце концов, столь важно, чтобы писать об этом целое пятикнижие?

Коротко (для столь сложных тем это означает несколько десятков страниц) об этом рассказывается в предыдущем томе пятикнижия - «Антихрупкость» (см. книгу VII - Этика хрупкости и антихрупкости, главу 23 - Своя шкура на кону: антихрупкость и опциональность за чужой счет).
Ну а в 5м томе пятикнижья, уже на 300 страницах, все разложено по полочкам.

Напомню, что базовые тезиси новейшего завета Талеба, примерно, такие.
— Да, Бог существует. Но он совсем не такой, каким мы его представляли. Он называется неопределенность.
— И мир, где царит этот Бог, тоже совсем не такой, каким мы его представляли. Вероятность редких событий в этом мире просто не вычислима. А количество таких явлений (от наводнений до финансовых кризисов) огромно. И поэтому не нужно стремиться предсказывать будущее, а следует быть… антихрупким.
— Антихрупкость – это свойство всех естественных (и сложных) систем (людей, компаний, государств и т.д.), позволяющее в условиях неопределенности, не просто выжить, но и стать сильнее.
— Человечество находится в плену советско-гарвардского заблуждения – ненаучной завышенной оценки пределов научного познания. Из-за этого заблуждения большинство людей являются наивными рационалистами, верящими, что причины, по которым происходят события всегда познаваемы.
— Но самая опасная проблема современности – это пагубный перенос хрупкости и антихрупкости с одной группы людей на другую; в итоге одни извлекают выгоду, а другие ни за что вынуждены мириться с потерями (хотя они ничего и не делали).

Одни (бюрократы, политики, консультанты, различного рода анализирующие и предсказывающие «эксперты») – не ставят на кон свою шкуру. Они извлекают выгоду, перенося вред на других и обладая скрытыми опционами за чужой счет.
Другие (граждане, бизнесмены, активисты) – ставят свою шкуру на кон, принимая риски и негативные последствия на себя.
Третьи - ставят на кон свою шкуру, но ради других (святые, воины, пророки, диссиденты, революционеры), принимая риск за других и создавая универсальные ценности.

Из-за этой асимметрии и из-за этого переноса рисков пропасть между этическим и законным все время расширяется… а мир балансирует на грани глобальной катастрофы.

Этот четырехзвенный переход:
✔️ от технических наблюдений некоторых негауссовых феноменов,
✔️ к обобщению нашего восприятия действительности и того, как формируются знания,
✔️ а потом к методологии знания и роли индуктивного мышления,
✔️ и, наконец, к выходу всего вышеназванного на вопросы этики,
— и есть, по тонкому замечанию Бранко Милановича, уникальная по важности «Система Талеба», идущая от эмпирики к этике, что делает ее автора одним из самых значимых мыслителей современности https://goo.gl/2Zbzz8 .

PS Если сложно со временем и с английским, рекомендую этот краткий конспект «Антихрупкости» https://goo.gl/V96CdJ , где все сильно короче (в пределах часа чтения), но основное сказано.
#БББ
Поп или смарт мастриды – кому что нужно.
Недавно опубликованный на канале «Мастриды» пост о будущем ИИ заставил задуматься:
— а что же предлагается под вывеской мастридов (не только на этом канале, а вообще)?
— и кому предлагается (всем, выборочно, кому-то конкретно)?
Эти вопросы потянули за собой другие:
— почему какой-то текст можно рекомендовать прочесть всем и каждому?
— а нужно ли мне такой текст читать?
— и в целом, существуют ли тексты, которые интересны и нужны всем?

Кембриджский словарь так определяет “must-read”:
— это некий текст, который
А) захотят прочитать многие, или
Б) следует прочесть конкретной группе людей.

Из определения получается, что это либо
А) хороший популярный текст для самой широкой аудитории, либо
Б) толковый специальный текст для его целевой аудитории.

Т.е. мастриды бывают 2х видов, которые условно можно назвать:
А) Попмастриды (по выражению Буратино, - «с ччччудными картинками и большими буквами»), главная цель которых – «продать» качественный текст как можно большему числу читателей.
Б) Смартмастриды – нелегкое чтение, адресованное лишь тем, кому это нужно и для кого это важно. Чаще всего, главная цель таких текстов – попытка разобраться в сложной теме и помочь читателям понять суть вопроса, самостоятельно ее проанализировав вслед за автором.

Ну и возвращаясь к поводу статьи, - что за 3 мастрида на тему будущего ИИ были рекомендованы.

По моему мнению, все названные тексты — однозначно, попмастриды. И хотя аудитории у них весьма разные (Wired, Waitbutwhy, Newyorker), но цель одна - «продать» довольно качественные тексты как можно большему числу читателей среди своей аудитории.

А вот полярный пример – настоящий смартмастрид на тему будущего ИИ «Технологическая сингулярность, теорема Пенроуза об искусственном интеллекте и квантовая природа сознания» https://goo.gl/NrMQex .
Это эссе А.Д.Панова, выдающегося российского ученого, автора нескольких десятков весьма интересных работ в широком спектре областей https://goo.gl/7VC7kk и особенно известного по легендарной «вертикали Снукса-Панова» (см. здесь https://goo.gl/M9UrKe), было опубликовано в 2014. Однако и сегодня, спустя 4 года, эта работа, по-прежнему, - топовый смартмастрид о прогнозах в отношении возможности создания сильного ИИ в ближайшие десятилетия.


Этой работе я хотел бы посвятить отдельную большую статью. А здесь лишь резюмирую ее суть.
В эссе показано, что все существующие прогнозы в отношении возможности создания сильного ИИ в ближайшие десятилетия основаны на трех плохо обоснованных предположениях и одном практически полностью непонятом обстоятельстве.

Те, кому нужно разобраться в данном вопросе, для кого это действительно важно, - обязательно прочтите (must-read) этот непростой, но по-настоящему умный (smart) смартмастрид.
Те, кому хотелось бы самому разобраться, но не настолько важно, чтобы прямо сейчас голову ломать, - ждите моего поста по мотивам эссе Панова.
Остальным же можно не напрягаться и продолжить чтение попмастридов.

#Смартмастрид #ИИ
Список Мюллера объявлен. Что запад намерен делать дальше?
Как ни удивительно, но ответ на этот вопрос пришел еще в декабре из Гааги.
Всем известно, что США обвинили 13 россиян во вмешательстве в американские выборы https://goo.gl/cJhSm6 .
Многим известно, что американские спецслужбы могли получить материалы, которые стали основой для обвинения России во вмешательстве в президентские выборы в 2016 году, от Нидерландов https://goo.gl/WwpYL8 .
Но мало кто в России знает о роли Нидерландов в выработке общей стратегии запада по недопущению подобных историй в будущем. Эта стратегия разработана Гаагским центром стратегических исследований (The Hague Centre for Strategic Studies (HCSS)).
74х страничное резюме этой стратегии, отвечающее на вопрос «Что запад намерен делать дальше?», содержится в отчете HCSS «Inside the Kremlin House of Mirrors: how liberal democracies can counter Russian disinformation and societal interference» (В зеркальном лабиринте Кремля. Как либеральные демократии могут противостоять российской дезинформации и социальному вмешательству).
Отчет висит в открытом доступе в разделе Research на сайте HCSS.

О политике я стараюсь не писать. Но о работе HCSS пишу на своем канале регулярно в контексте того, какой будет большая война, и каковы новейшие методы отслеживания техно-трендов.
Больше же в России об исследованиях HCSS не пишет никто. И даже не упоминают. За исключением единственного перевода Инопрессы статьи Newsweek за 2015 г., озаглавленной «Хакеры - возможно, самое мощное оружие России», где цитируется Александер Кимбург из HCSS:
"Сегодня киберпространство подобно Европе в 1914 году накануне Первой мировой. Правительства - точно сомнамбулы. Они не осознают могущества новых технологий и последствий неверного истолкования действий друг друга."
Вот так. Следовательно, российскими хакерами и агентами кибер-дезинформации в HCSS занимаются не 1й год. И возможно, это объясняет, почему именно нидерландские спецслужбы сумели взять под колпак фигурантов списка Мюллера.

Ну а теперь коротко, как предлагает HCSS бороться с дезинформацией, исходящей из «зеркального лабиринта Кремля» (метафора, метода искаженного отображения реальности).
Если метафорически одним предложением, то – предлагается «не отягощаясь моралью, бить в морду что есть силы, и, желательно, быстрее, чем это собирается сделать противник».

А это базовые принципы HCSS, кому и как бить.
1) Особенно не заморачиваясь с доказательствами из-за наличия обширной «серой зоны»:
— между очевидными фейковыми новостями / дезинформацией и контентом, заведомо таковым не являющимся;
— между цензурой и свободой слова.
2) Не только блокируя преднамеренные дезиформационные и пропагандистские выпады, но и нанося ответные удары, принимая самые жесткие меры (вплоть до уголовных) к распространителям такой информации.
3) Делать это, «не взирая на лица агентов влияния»: юридические или физические, СМИ или блогеры, организации гражданского общества или прокремлевские политики (в том числе, свои).
Но (!) стараясь не отвечать на пропаганду пропагандой, а апеллируя к западным ценностям.
4) Основной способ нейтрализации
— прокремлевских политиков:
открытые дебаты с ними, в ходе которых необходимо раскрывать общественности ложность аргументации таких политиков;
—прокремлевских политических партий и общественных организации:
максимально жесткий контроль за их финансированием и ужесточение правил финансовой прозрачности (что-то слышится родное).
—прокремлевских СМИ:
предельно допустимый контроль за ними со стороны регулирующих органов и дискредитация в профессиональной журналистской среде, как этих СМИ, так и персонально их авторов, как распространителей откровенно лживых историй (опять же, слышится родное).

#СценарииБудущего
Это похоже на новую теорию относительности.
А может быть, это даже и круче.
Предложена совершенно сумасшедшая идея о соответствии между квантовой и самоорганизующейся динамикой сложных систем «Entanglement, symmetry breaking and collapse: correspondences between quantum and self-organizing dynamics».
Если эта сверхреволюционная идея получит позитивное peer-review в междисциплинарном академическом журнале «Foundations of Science», мир может оказаться в ситуации, подобной той, что сложилась в 1915 г. с опубликованием Эйнштейном гипотезы, лежащей в основе Общей теории относительности.
Читать 3 мин. https://goo.gl/MyHymv
#КвантоваяФизика #СложныеСистемы #Самоорганизация
Обучение бездействием.
Новый прорывной метод машинного обучения чуть приближает ИИ к человеческому.
Революционная идея данного метода https://goo.gl/aWbX2T , изобретенного профессором David Wolpert и 2мя его постдокторантами, вдохновлена исследованиями по выявлению «бессмысленной информации» https://goo.gl/BCe6X4 и гипотезой, что ключевой целью и функцией памяти является способность забывать информацию https://goo.gl/D54ysu .
Трое исследователей задались вопросом - что получится, если нейронные сети будут обучены забывать бесполезную информацию (и как их научить это делать)?

На самом деле, задачей «забывания ненужной информации» при машинном обучении занимаются уже без малого 20 лет.
Ученые сегодня не совсем понимают, каким образом алгоритмы машинного обучения преуспевают в «интеллектуальных» задачах, типа распознавания изображений и речи. Зато они точно знают, что для эффективной генерализации (классификации данных при поиске обобщающих шаблонов) алгоритм должен помнить важную информацию, забывая о бесполезной. Эта задача, которую часто называют «Информационное бутылочное горло» (“Information Bottleneck”), породила в последние годы волну исследований, будучи впервые сформулированной еще в 2000 году.
И только совсем недавно эта задача была переформулирована применительно быстро развивающейся области глубокого обучения (т.е. машинного обучения, работающего на многослойных нейронных сетях).

Ведь весьма возможно, что сети глубокого обучения столь эффективны при решении многих интеллектуальных задач, не только потому, что они учатся предсказывать, но и потому, что они учатся игнорировать ненужную информацию.

В своей последней публикации «Нелинейное информационное бутылочное горло» https://goo.gl/YQ5v1K , ученые представляют метод обучения алгоритма машинного обучения для идентификации объектов с использованием минимальной информации. Метод решает проблему того, как оценить объем информации, хранящейся в алгоритме, используя новую оценку, опубликованную авторами в июле прошлого года в журнале Энтропия.
Цель этой работы – научиться делать предсказания с использованием данных из ограниченной полосы пропускания.
Допустим, вы - спутник в космосе или удаленная метеостанция в Антарктиде. Вы не можете отправить все данные, которые вы собираете, - их слишком много. Но как тогда определить, какие именно части данных следует послать?

В принципе же, перспективы нового метода куда шире. Он может позволить нейронным сетям находить более абстрактные (более обобщенные) шаблоны, что потенциально может дать столь необходимый рывок в повышении производительности - от распознания пешеходов вблизи самоуправляемых автомобилей до получения пятидневного прогноза погоды с Марса.
И тем самым чуть приблизит ИИ к интеллекту человека.
#ГлубокоеОбучение #Информация #Память
Начало войны и ошибочный диагноз рака – следствие одного и того же.
Мир кардинально изменился. Но человечество пока этого не поняло. И это очень плохо.
Люди всегда были не очень сильны в оценке вероятностей. Но еще хуже они всегда были в принятии решений на основе таких оценок.
Сколько катастрофических ошибок для стран и народов делают политические лидеры, принимая военные решения, неверно трактовав оценку вероятности разных сценариев!
А сколько ошибок, катастрофических для конкретных людей и их близких, делают врачи, принимая ошибочное решение на основе оценки вероятности!
Но так было всегда.
Так в чем же дело? Почему это вдруг стало столь критично?
Об этом, а также об изменивших мир цифровизации и больших данных. И о том, как изменить мировоззрение людей, адаптировав его к условиям нового мира, я написал здесь (читать 4 мин)
https://goo.gl/kPMvtj

#БольшиеДанные #Вероятность #Неопределенность #ПринятиеРешений
Найден способ заражать выродков - открыто недостающее звено в технологии создания социо-биологического оружия.

Сценаристы превосходного сериала «Черное зеркало» пока не догадались экранизировать вынесенный в заголовок футуро-кошмар. А ведь до возможностей его материализации немногим дальше, чем до массовых самоуправляемых авто.
Прорывной потенциал только что опубликованной в Royal Society Open Science работы троих испанских исследователей «Mixing and diffusion in a two-type population» видится мне колоссальным.

Результаты этого исследования, будучи доведенными до уровня технологии, позволят запускать сетевые ментальные (например, пропагандистские) эпидемии, не ослабляющие свой вирусный эффект из-за наличия в сети невосприимчивых к социальной заразе «инакомыслящих».

Получится что-то типа Башен-излучателей из экранизированного Бондарчуком романа Стругацких «Обитаемый остров». Только здорово усовершенствованных Башен. Так, чтобы даже «выродки» (те, на кого излучение/пропаганда не действует) не могли избежать влияния «излучения», отравляющего сознание пропагандой (и не важно какой: политической, коммерческой, моральной …)

Как это все может работать, что уже научились делать, что нового открыли испанцы и куда ведет этот техно-кошмар, я написал в своем новом посте на 9 мин. чтения
https://goo.gl/kbrmdc

#Инфокаскады #СоциальныеСети #СоциальноеЗаражение #Инакомыслящие
Большая война ближе, чем мы думаем
Счет становится 2:0 в легендарном споре Нассима Талеба и Стивена Пинкера о судьбе человечества.

Новое фундаментальное исследование, только что опубликованное в Science Advances под заголовком «Тренды и флуктуации тяжести межгосударственных войн», подтвердило выводы моей статьи «Большой войны не миновать» , опубликованной более года назад и вызвавшей столь колоссальный интерес у читателей, что ее прочли уже несколько сот тысяч человек.
С использованием новейших статистических методов, обработав данные о межгосударственных конфликтах во всем мире за 200летний период и построив проверочную матмодель, автор нового исследования Аарон Клаузет доказал:

Мы живем в циклической реальности, в которой на смену «долгого мира» придут еще более кровопролитные войны.

Об этом мой новый пост на 4 мин чтения
https://goo.gl/nk7qo3
#БольшаяВойна #УровеньНасилия
Новая социально-сетевая социология опросов не только точнее традиционной. Она способна свести к нулю выборные сюрпризы.

Только что опубликованы результаты «секретного» исследования группы ученых под руководством Мирты Галесич (называю его «секретным», поскольку о нем до сих пор не сообщалось из-за проведения проверки работоспособности его методики на президентских выборах в США 2016 и Франции 2017) «Вопросы о социальном окружении улучшают выборные прогнозы».

Результаты исследования подтвердили – учет «социального взаимовлияния»:
- ощутимо улучшает прогнозы результатов выборов;
- позволяет прогнозировать сюрпризы: как на уровне индивидуальных предпочтений, так и на уровне отдельных регионов (как это было в ряде штатов США);
- принципиально дополняет «формулу выборов» (см. мой пост «Открыта формула победы на выборах») возможностью прогнозировать явку избирателей (без которой невозможно предсказать итог выборов).


Т.о. мир стал на шаг ближе к превращению прогнозирования выборов в науку путем междисциплинарной синергии теории сложных систем, социологии и социальной психологии.

Об этом я написал в новом посте на 5 мин чтения https://goo.gl/3Q9mUT

#Выборы #Поведение #СоциальныеСети #Прогнозирование
«Милитаристский экстаз послания Владимира Путина Федеральному собранию, но куда больше – внешнему миру не имеет прецедентов не только в периоде его 18-летнего руководства страной, но и во все время новейшей российской истории» - написали «Ведомости» 1го марта.

Эта беспрецедентность не только повышает актуальность дискуссий о перспективах Большой войны, но и заставляет участников таких дискуссий максимально точно прояснять свои позиции, избегая двусмысленностей и туманных толкований.
Уж больно серьезен предмет дискуссии, и слишком велика цена ошибки при его анализе.

Название моего поста «Большая война ближе, чем мы думаем» https://t.me/theworldisnoteasy/427 , на сутки предварившего послание Президента, вполне могло бы стать заголовком статьи, анализирующей его содержание.

Среди реакций на этот пост, меня более всего поразила такая:
«По-прежнему считаю логику Пинкера отвечающей трансформационной природе социумов, а логику Талеба - разновидностью магического мышления с его паттернами "цикличности" и "колеса Фортуны"».

Т.е. мой уважаемый оппонент убежден, что правильность гипотезы Пинкера о, якобы, происходящем снижении рисков Большой войны, может подтверждаться всего лишь на уровне некой логики.
А конкретно, - логики «трансформационной природы социумов» (знать бы еще точно, что это такое). При этом, моего оппонента не смущает, что реальные данные, лежащие в основе этой гипотезы, её опровергают, что подтверждено уже двумя независимыми математико-статистическими анализами.

В этой связи. считаю важным сделать следующие 2 пояснения.
Описанная в моем посте новая работа Клаузета:
1) Дает математико-статистическое обоснование стационарных (не меняющихся во времени) показателей масштаба и частоты войн на Земле.
Исходя из этого, наблюдаемый «долгий мир» всего лишь уравновешивает предыдущий период «Великого насилия» 1914-1939 (по начальным годам Больших войн) по числу военных смертей.
2) Вовсе не противоречит гипотезе Пинкера в ее верном статистическом толковании. В мире действительно наблюдается снижение смертности от войн. Но это снижение смертности от войн на душу населения, а не абсолютной смертности.
Т.е. нет никакого снижения риска Больших войн. А вероятность того, что любой из нас в отдельности умрет на войне, снизилась – именно это и есть основной тезис Пинкера, - но это не противоречит выводу, что «нормы выработки мирозданием» войн разных масштабов остаются стабильны, несмотря ни на что (смена культур, политики, технологий, оружия …)

И следовательно, как это ни прискорбно, но большой войны, похоже, не миновать https://goo.gl/cfpNC4

В завершение 3 полезных ссылки:
Интервью Клаузета https://goo.gl/KGT7Cf
Слайды https://yadi.sk/i/kmO8FHVT3SzF6U и подкаст https://goo.gl/pjPkZW его доклада и панельной дискуссии в Peace Research Institute Oslo (как и для Талеба, все дороги при научном обсуждении данного вопроса ведут в Осло).

#БольшаяВойна #УровеньНасилия
P.S. Если кто не в курсе, часы «Судного дня» 25го января перевели вперед на полминуты, выставив на них 23:58, - т.е. 2 мин. до ядерного апокалипсиса https://goo.gl/ZDQx4S .
Ровно такое же время показывали часы «Судного дня» после испытания в США и СССР термоядерных боезарядов в 1953, и это был момент наивысшего риска ядерной войны в истории.
Теперь нужно снова подводить. Весь вопрос – на сколько?
Похоже, отсчет исторического времени до ядерного апокалипсиса впервые в истории пойдет уже не на минуты, а на секунды.
О том, что чувство вины – наше ключевое эволюционное преимущество,

о новом шаге в решении эволюционной головоломки «Зачем человеку совесть?», заодно уточняющем, почему Творец (Бог, природа, экспериментатор инопланетного сверхразума и т.д.) пошел иным путем, нежели создатели ИИ,

о только что опубликованной работе «Когда хорошо чувствовать себя плохо: эволюционная модель вины и извинения»,

- мой новый пост на 3 мин. чтения https://goo.gl/AiHwSS

#ЭволюционнаяПсихология #МультиагентныеСистемы #КогнитивныеСистемы
Наш мир – совсем не игра
О колоссальной сложности перехода от ИИ-играющего к ИИ-работающему.

Вы не задумывались, почему самые громкие и впечатляющие достижения ИИ лежат в области игр?
Именно здесь уже достигнуто абсолютно подавляющее превосходство нечеловеческого интеллекта над человеческим.
Речь идет не только о немыслимо высоком уровне игры, показываемой ИИ. Но и о нечеловеческой логике и сверхчеловеческой агрессивности игры ИИ, характеризуемой датским гроссмейстером Питером Гейне Нильсеном так:

«Я всегда задавался вопросом, как это было бы, если бы высший вид инопланетян высадился на Земле и показал нам, как они играют в шахматы… Теперь я это знаю."

Однако, речь не о том, а совсем о противоположном.

Почему ИИ, по человеческим меркам недостижимо умный в области игр, не только не показывает себя сверх-умным за пределами игр, но и даже не в состоянии дотянуть до уровня рядовых людей?

Детальному ответу на этот интереснейший вопрос посвящена довольно малоизвестная статья Джошуа Сокола «Почему самообученный ИИ имеет проблемы с реальным миром» (10-15 мин. чтения по англ.) – весьма рекомендую https://goo.gl/Dk3Lgn

Для тех же, кто хочет узнать шорт-версию ответа на этот вопрос здесь и сейчас, вот отжатый мною сухой остаток.

1) Ключевым фактором супер-достижений ИИ в играх (от шахмат и го до покера и Dota 2) является его самообучаемость.
Программа, реализующая ИИ на конкретной машине, учится игре, не перенимая умение от человека, а играя как бы сама с собой или со своей измененной копией.
Это позволяет преодолеть 2 принципиальных ограничения, непреодолимые никак иначе, чем самообучаемостью машин:
А) ограничение на недостаток данных (это человеку «достаточно прочитать и запомнить» десяток-другой тысяч шахматных партий из предыдущих турниров, а для самообучения ИИ требуются миллионы и миллионы партий – он всех их легко «проанализирует и запомнит»);
Б) ограничение медленности времени: мир игры порождается компьютером, а время там течёт тоже со скоростью вычислений, а не как в реальности. То есть сажаем бота играть самого с собой — и у него будет столько данных, сколько пожелаешь, и всё это обучение может происходить немыслимо для человека быстро.

Подробней это прекрасно описал еще полгода назад уважаемый Анатолий Левенчук https://goo.gl/qoiGby, придя, однако, к излишне оптимистическому выводу, что, натренировавшись в играх, ИИ начнет показывать тот же сверх-человеческий уровень, решая задачи в реальном мире.

Но этого, как хорошо показал Джошуа Сокол, не происходит и не может произойти, поскольку здесь большая засада (см. п.2)

2) Мир кардинально отличается от игр следующим:
А) Сложностью описания цели (целевой функции). Цель любой игры описывается просто. А в жизни, например, для самооправляемого авто, точно ее описать предельно сложно.

Б) Игра детерминирована, а мир непредсказуем.
Тут, во-первых, всего не предусмотришь (представляете, как выглядело бы целеописание в шахматах, если бы нужно было учитывать, например, вероятность, пусть и не высокую, кражи ладьи с доски противником?)
А во-вторых, в играх, обычно, игроки обладают «идеальной информацией» - знают все обо всем. А в жизни – не так. Здесь царит т.н. «несовершенная информация».
Представьте ИИ, которому нужно было бы выбирать ход, периодически не зная расположения фигур на части шахматных клеток.
А успехи ИИ, например, в покере, тоже не решают этой проблемы. Что иллюстрируется текущим фиаско в попытках ИИ обыграть людей в StarCraft II (хотя и пытаются со страшной силой).

В) ИИ для принятия решений должен иметь реалистичную модель того «мира», в котором он принимает решение.
Для настольных игр – это примитивная модель.
Для аркадных игр – посложнее, но не весть как.
Для StarCraft II - сложная (и потому ИИ продувает человеку).
А реальный мир для моделирования настолько сложен, что без тела и органов чувств, похоже, вообще не обойтись.

#ИИ #Игры