Малоизвестное интересное
62.9K subscribers
78 photos
1 video
11 files
1.75K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
Эволюция мема.
На примере 2х кейсов - влияние на выборы и провокация волнений в США.

1й кейс – эволюция мема, спровоцировавшая вооруженные волнения в США, - показан в только что закончившемся 7ом сезоне сериала Homeland (Родина). Этот пока еще не материализовавшийся кейс основан на вполне реальном 2ом кейсе – уже материализовавшемся на последних президентских выборах в США.
2й кейс – влияние на президентские выборы путем вброса мемов, эволюционирующих при активной поддержке соцботов, детально разобран в совместном отчете USC Dept. Of Political Science и USC Information Sciences Institute. Это исследование показало 30ти кратное превосходство в эффективности влияния соцботов, работавших на поддержку Трампа и названных в отчете «Русские тролли».

Поскольку каждый из желающих может сам и фильм посмотреть, и отчет прочесть, я лишь попробую дать резюме обоих кейсов в виде а ля комикс – в картинках с пояснениями на 4 мин. чтения
https://goo.gl/xbvtsB

#Соцботы #Выборы #СоциальноеЗаражение #ФейковыеНовости #Каскады
Математически доказано — надо идти на выборы.
Демократия заканчивается при низкой явке.
А наблюдаемый в мире раскол — математическое следствие роста “диванной оппозиции”.
Новое исследование Института комплексных систем Новой Англии (NECSI) и MIT дает математически обоснованные ответы на два важнейших вопроса современного устройства общества.
Детали в моем новом посте (4 мин.), завершающем семилетний цикл статей о выборах и расколе http://bit.ly/2P7aCj6

#Выборы #Раскол
В США началась ИИ-национализация.
Прошедшие в США предварительные выборы, во многом, репетиция к выборам 2020.
По результатам этой репетиции можно сделать 2 ключевых вывода.
✔️ Влияние на прошедшие выборы киберкаперов (киберкорсаров, киберприватиров – все 3 слова обозначают одно и то же: пиратов 21 века, работающих на частные организации, которым государство заказывает хакерские атаки на своих противников — правительства других стран, политических оппонентов или крупные корпорации) удалось минимизировать.
✔️ Это стало, в частности, возможным благодаря тому, что Facebook и Twitter легли под правительство США, признав уже не теоретически, а на практике приоритет госцелей в вопросах нацбезопасности.

Оба вывода следуют из анализа «Facebook's Secret Weapon for Fighting Election Interference: The Government», позавчера вышедшего на Bloomberg.
Из анализа также следует.
1) Все разговоры о приватности и независимости соцсетевого бизнеса от государства закончены.
2) Теперь для Facebook и Twitter отношения с правоохранительными органами «имеют решающее значение», - считает проф. Эмилио Феррара – ключевой спец по борьбе с соцботами на выборах – см. «Первая победа ботов при национальном голосовании людей».
3) У Facebook (и скорее всего, у Twitter – об этом впрямую не сказано) теперь «горячие линии» связи не только с АНБ и ФБР, но и со всеми избирательными комиссиями. И сейчас стоит задача довести к 2020 работу «горячий линий» до совершенства, как по оперативности, так и по эффективности.
4) Facebook обнаруживает и блокирует экаунты киберкаперов на основе инфы от разведки. «Работая с правительством для обмена информацией об угрозах и злоумышленниках, мы можем быстрее выявлять и решать проблемы», - говорится в заявлении Facebook. «Это особенно важно, когда речь идет о иностранном вмешательстве, поскольку правительство по этим вопросам имеет куда более широкий доступ к разведданным, чем компании».
5) Несколько попыток киберкаперов из России и Ирана все же были обнаружены (и пресечены) во время прошедших промежуточных выборов.
6) Отстроенные спецслужбами США, совместно с Facebook и Twitter, средства борьбы с киберкаперами пока далеко не идеальны. Причина в том, что в этот раз киберкаперы в значительной степени затаились и не продемонстрировали своё оружие в полном объеме, припасая его на 2020.

Главный вывод из происходящего:
✔️ ИИ-национализация, уже идущая пару лет в Китае, началась и в США.

Напомню, что «ИИ-национализация» подразумевает:
- интеграцию ресурсов государства и частных компаний,
- выравнивание скоростей внедрения ИИ-инноваций,
- рефокусировку стратегических целей бизнеса на получение
государством экономических, геополитических и военных
преимуществ на международной арене.
Подробней см. «Впереди ИИ-национализм и ИИ-национализация»

В продолжение темы также см. посты канала по тэгам:
#соцботы #выборы
Как обмануть демократию
Наихудший сценарий для США – кибервойна на следующих выборах президента.
А для России – переход на э-голосование.
2 млн. руб, обещанные Алексеем Венедиктовым за взлом системы э-голосования в ходе ее вчерашнего тестирования горе-взломщикам не светят. «Взлом никому не удался» - написал вчера у себя в канале Венедиктов.

Так что ж, система э-голосования настолько надежна, что ее не взломать?

Увы, нет. Современные средства кибервойны в состоянии взломать что угодно. Условий 3:
1) была бы необходимость;
2) достаточно денег на покупку персональных данных и оплату услуг социальных сетей;
3) физическое подключение выборных систем к Инету.
2е - относится ко взлому голов избирателей. 3е – системы управления выборами.

Ну а вчерашнее тестирование в Москве с призом взломщикам в 2 млн. руб. – это ни о чём. Здесь и обсуждать нечего.

А вот серьезный пример.
Вчерашняя статья проф. Халдермана - директора «Центра компьютерной безопасности и общества», специализирующегося на кибербезопасности выборов. Его статья анализирует сценарии кибервойны, которая может разразиться на следующих президентских выборах США.
Кто, по мнению проф. Халдермана, нападет, и как это может быть сделано, - в деталях описано в статье. Приведу лишь её резюме.
• Серьезные уязвимости в кибербезопасности президентских выборов США в 2020 году по-прежнему существуют.
• Для злоумышленников, по-прежнему уязвимы, как списки избирателей, так и сама машинерия выборов, что может повлиять на результаты выборов и посеять в обществе хаос и сомнения.
• Наихудшие сценарии могут привести к беспрецедентному конституционному кризису.

Желающие прочтут обоснование этих выводов самостоятельно.
✔️ Там далеко не только про использование известных уязвимостей в системах, но и про новые средства управления психологией и доверчивостью людей (влияние на соцсети станет намного более точным и управляемым, чем когда-либо прежде, и, следовательно, более эффективным и трудным для обнаружения).
✔️ Главной целью кибервойны 2020 станут не выборные системы, а головы людей. Задачей будет увеличение разобщенности общества и повышение общего хаоса.

Имхо, аргументация Халдермана верная и обоснованная.

Возвращаясь к надежности чисто электронного голосования, вот что пишет проф. Халдерман.
«Научный консенсус заключается в том, что наилучший способ провести надежное голосование - это использование бумажных бюллетеней с последующим тщательным аудитом случайной выборки

Только бумажки. При аудите даже нельзя использовать сканы бюллетеней, т.к. и их можно сфальсифицировать.
И вообще, все что угодно в компьютерах можно сфальсифицировать при условии, что они имеют хоть какую-то связь с инетом.
А выборные системы в США именно таковы. Кроме того.
• В 12 штатах нет полных бумажных списков, и поэтому они вообще не могут проводить бумажный аудит.
• Только в 22 шт. предусмотрена возможность бумажного аудита.
• И в 20 из этих 22 нет требования к статистической значимости аудита.

Ну а в России как с этим?
Сами понимаете. Сделать потайную дырку у нас умеют в любой стене: от лаборатории допинга до МКС. Ну а с электронной стеной вокруг выборов уж как-нибудь справятся. И сотни миллионов долларов, как в США, у нас для этого вряд ли потребуются.

#Выборы
Плохо или хорошо, что у оппозиционно настроенных граждан нет единой стратегии на послезавтрашнем голосовании?
Это отлично! Потому что это первое из трех обязательных условий на пути оппозиции к победе.
Таков результат моделирования, где индивидуумы выступают в роли «социальных атомов», поведение которых описывается законами и математическим аппаратом физики.
Мой пост об этом вышел 3 года назад. И вот, наконец, первое из трёх условий близко к выполнению.
А как с двумя другими?
Перечитайте пост (на 9 мин.), - там все написано.
- На Medium http://bit.ly/2lWbLMv
- На Яндекс Дзен https://clck.ru/HxXgp

#Выборы #Социофизика
​​Импичмента не будет, а Трамп переизберется.
В США выявлен самоускоряющийся раскол, и единых США уже нет.

От того, кто станет следующим президентом США, зависит многое в мире. Вплоть до судьбы Украины и года смены президента в России.
Но предсказать исход попытки импичмента и следующих выборов в США не берется никто, - слишком сложный многофакторный прогноз с большим числом неопределенностей.
И вдруг выходит новый отчет Брукингского института (резюме, инфографика), в котором четко и неоспоримо выявлен сильнейший объективный тренд.
1. Единой страны США уже нет, а есть две разных страны, живущие в разных мирах с разными экономикой, культурой, ценностями и абсолютно разным будущим.
2. Действие самоускоряющегося тренда уже не раскола, а разбегания этих двух стран поразительным образом объединяет республиканцев и демократов лишь в одном – оставить Трампа президентом.
3. В основе этого противоречащего логике единения республиканцев и демократов простая, но практически непреодолимая мотивация:
- чем дольше Трамп сидит в президентах, тем лучше живется электорату демократов и хуже – электорату республиканцев;
- электорат республиканцев от этого еще более звереет, виня во всем противников Трампа, и увеличивая его поддержку;
- электорат демократов процветает и вовсе не хочет менять этот тренд, что заставляет их лишь яростней поносить Трампа, не покушаясь при этом на перспективы сохранения своего собственного благополучного статус-кво.

Дочитать и посмотреть графики (еще на пару мин.)
- на Medium http://bit.ly/2nkAM54
- на Яндекс Дзен https://clck.ru/JR4Ui
#Выборы #США
​​Поляризационная вилка в США расширяется
Это может разорвать страну на следующих
выборах.
В ноябре 2018 я завершил семилетний цикл статей о выборах и расколе рассказом о фантастически интересном исследовании. По гипотезе авторов, процесс перехода от устойчивого к неустойчивому состоянию электората подобен фазовому переходу, при котором некоторые материалы становятся ферромагнитными ниже их критических температур.
Построенная авторами модель дала математически обоснованные ответы на два важнейших вопроса:
• Как работает демократия на выборах в сегодняшнем, весьма усложнившемся обществе (на примере США)?
• В чем истоки и каков механизм повсеместно наблюдаемого роста общественного раскола?
Модель показала «поляризационную вилку» электората США, расходящиеся концы которой способны порвать страну пополам на очередных выборах.

Прошедшие с момента моей публикации 14 месяцев ушли на тщательную проверку сложнейшей математики модели (сложные интегралы, равновесие Нэша и модель Изинга) рецензентами журнала Nature Physics.
Итог таков.
Изъянов в модели не нашлось. И на этой неделе о результатах прорывного исследования пишут многие солидные научные медиа: Nature Physics, MIT News, SciGlow, PhysOrg, ScitechDaily.

Вывода два.
✔️ 1й для США: «поляризационная вилка» продолжает увеличивать раскол в стране, что может привести к смене «агрегатного состояния» американского общества уже на выборах этого года (см. приложенную картинку).
✔️ 2й для нас: математически доказано — надо идти на выборы. Демократия заканчивается при низкой явке. Рост “диванной оппозиции” лишь множит раскол.

#Выборы #Раскол
Новость в том, что в политике люди оказались столь же нерациональны, как и в экономике. В результате этого, политический раскол провоцируют не «злобные элиты», а сам народ своей нерациональностью.
События в Беларуси начинают все более напоминать Венесуэлу (Лукашенко в роли Мадуро, а Тихоновская в роли Гуайдо). Позиции политических противников все более поляризуются. И это вполне соответствует глобальному тренду политической поляризации, наблюдаемому в большинстве демократических стран. И США, между прочим, в этом тренде явный лидер.
Казалось бы, что может быть общего в столь разных обществах, следствием чего становится нарастающий политический раскол? Похоже, ответ найден — человеческая нерациональность в принятии политических решений.

Продолжить чтение на 3 мин.
- на Medium http://bit.do/fHuhB
- на Яндекс Дзен https://clck.ru/QGvSX

#Раскол #Выборы
​​4 сценария гражданской войны в США
Модели показывают, что после
выборов может начаться ад.
«Почти любой сценарий выборов этой осенью, скорее всего, приведет к народным протестам в масштабах, которых мы не видели в этом столетии». Это слова Джека Голдстоуна и Петра Турчина из их новой совместной работы «Добро Пожаловать в "Бурные Двадцатые"».
Голдстоун еще в 2015 предсказал, что в 21 веке США, скорее всего, получат популистского президента, который посеет вихрь конфликтов. А Турчин еще в 2010 предсказал, что США движутся к “бурным двадцатым годам”, чреватым гражданской войной.

Если вы считает это надуманным преувеличением, взгляните на приложенное фото. Вооруженные люди сняты не в ДНР. Они перед офисом губернатора Мичигана, куда они пришли 30 апреля протестовать против продления локдауна. Взгляните на решительные лица, послушайте их скандирование «От-кры-вай!». Cовсем не похоже на тихих белорусов с их «У-хо-ди!». И помимо выражения лиц, есть еще кое-что.

В США 393 млн единиц оружия - больше, чем людей в стране. Из них зарегистрирован только 1 млн. В этом году продажи оружия взлетели до небес - люди делают запасы оружия. По данным ФБР, только в июле американцы купили 3,6 млн единиц огнестрельного оружия. И в ФБР знают, что это лишь малая часть новых запасов.

Но самое страшное, - даже не это, а неизбежность столкновений. Ибо, как пишут Турчин и Голдстоун – «грядущие выборы - это не просто борьба за политические предпочтения; они становятся экзистенциальной битвой за будущее нации».
Обе стороны не могут представить, что их проигрыш на выборах может быть законным. Демократы уверены, что если Трамп будет переизбран, американская демократия не выживет. Республиканцы в равной степени уверены, что если Трамп проиграет, радикальные социалисты захватят богатство элит и распределят его среди бедных и меньшинств, навсегда разрушив экономику США. Поэтому, в независимости от итогов выборов, проигравшая сторона, скорее всего, сочтет результаты сфальсифицированными и не признает их. А дальше непредсказуемый хаос с миллионами единиц оружия и тысячами бывших солдат с практикой убийств во всех частях света.

Турчин и Голдстоун нарисовали основные контуры 4-х возможных сценариев вспышки насилия после выборов. И все они крайне поганы. Детальный разбор похожих сценариев сделал известный дизайнер варгеймов Майк Селинкер.
Сценарии по мере увеличения их поганости.
1. «Явная победа Байдена» - ближайший аналог Гражданская война в США 1861—1865. Битва здесь будет не между штатами, а скорее всего внутри нескольких штатов.
В итоге, «военные не позволят Трампу остаться после 20 января. Неясно только, увезут ли его на вертолете в наручниках или в сумке для трупов».
2. «Неявная победа Байдена» - ближайший аналог революция в России 1917.
Трампа объявят проигравшим, но он откажется уходить. Последствия этого будут долгими и кровавыми.
3. «Оспариваемый результат» - ближайший аналог ирландская война за независимость.
Возможный исход этого сценария – распад США.
4. «Победа Трампа» - ближайший аналог гражданская война в Руанде.
Это наихудший из сценариев. Трамп превратится в тирана, и будет достаточно одного серьезного по крови столкновения, чтобы США оказались там, где была Руанда 1 октября 1990 года.

В 3х из 4х аналогиях названных сценариев был убит лидер страны. Бои продолжались, несмотря на смену режима. Т.е. «Трамп здесь не единственный отмороженный воин. И вообще-то, не лучший воин. Если его не станет, его место займет кто-то другой», - считает Селинкер. И заканчивает свой анализ таким обращением к американцам:
«Когда будете голосовать, голосуйте так, будто грядет гражданская война, и вы решаете, кому передать контроль над ядерной кнопкой на время этой войны. Лично я бы не хотел, чтобы это был Трамп».
#Раскол #Выборы #США
Велика ли угроза влияния России на результаты выборов в США и на то, что произойдет потом?
В самом преддверие выборов, Госдеп, разведка и общественность США раскололись на два лагеря по отношению к этим вопросам.
Недавний отчет корпорации "Рэнд" об их анализе методов иностранного вмешательства в американские выборы:
А) Детально описывает (с 5 страницами ссылок), как плотно работают в этом направлении Россия, Китай и Иран.
Б) Выделяет 4 основные цели активных действий главного актора – России.
1. Поляризация и разрушение социальной сплоченности, обостряя важные и вызывающие разногласия вопросы (расовые, социальные и т.д.).
2. Подрыв доверия общественности к демократическим институтам и процессам.
3. Распространение смятения, порождающего усталость и апатию.
4. Получение стратегического влияния на принятие политических решений в США и на общественное мнение.

Реакция на этот отчет получилась двоякой.
• Половина экспертов и аналитиков, например, Даррен Линвилл и Патрик Уоррен, уверены, что угроза действительно велика.
• Другая половина, например, Йохай Бенклер, считает, что угроза сильно преувеличена.

Lawfare совместно со Стэнфордской интернет-обсерваторией продолжают опрос экспертов. Но сам факт подобной поляризации мнений экспертного сообщества наводит на мысль, что 1-я цель из названных в отчете "Рэнд", уже достигнута.
#Выборы #США #Поляризация
Либо победа над Байденом, либо США рухнут в хаос.
Первый в истории политтехнологий видеоролик, созданный нечеловеческим разумом.

Республиканский национальный комитет отреагировал с нечеловеческой изощренностью на объявление президента Байдена о решении переизбираться.
Политтехнологи РНК не стали сами заморачиваться, а дали задание генеративному ИИ создать полуминутный ролик, демонстрирующий в какую пропасть покатится страна, если снова изберет этого «худшего в истории президента».

ИИ тоже не стал заморачиваться, изображая антиутопическую версию будущего для США, если Байден будет переизбран.
• Сначала показаны Байден и его вице-президент Камала Харрис, празднующие победу на вечеринке в честь дня выборов.
• После чего следует серия воображаемых репортажей о международных и внутренних кризисах, которые, по версии ИИ, последуют за победой Байдена в 2024 году: конфликт на Тайване, финансовый кризис, мигранты, вспышка преступности …

Для моего человеческого восприятия, ролик получился примитивный. Но на то автор и обладает нечеловеческим разумом, чтобы лучше нас понимать, на какой низкопробной мякине людей проще разводить.

На выборах 2024 ИИ вовсю разгуляется по буфету. И мир увидит такое, что 1й политтехнологический ролик ИИ будет смешно вспоминать.
Но первая ласточка уже прилетела.
#ИИ #Выборы
​​Человечество приехало.
Ответы ChatGPT коррелирует с людьми на 95% в 464 моральных тестах.

Это значит, что люди пока еще нужны, но уже не на долго.
Таков страшноватый вывод только что опубликованного большого исследования «Can AI language models replace human participants?»
Его авторы поставили интригующий вопрос:
если ChatGPT столь успешно сдает всевозможные человеческие экзамены, может ли ИИ бот заменить людей в социальных и психологических экспериментах?

Проверив ChatGPT на 464 моральных тестах (кражи, убийства, игра "Ультиматум", эксперимент Милгрэма, выборные коллизии и т.д.), исследователи получили фантастически высокую корреляцию (0.95) социальных и моральных суждений ChatGPT и людей.

Похоже, исследователи сами испугались такого результата.
“Люди все еще необходимы” – пишут они. “Мы все еще вынуждены погружаться в глубины грязных плотских умов, а не просто опрашивать кремниевые схемы ИИ. Тем не менее, языковые модели могут служить в качестве прокси для человеческих участников во многих экспериментах”.

Переводя с научной политкорректности, это значит следующее.
1. Для моделирования ответов людей, люди уже не нужны, ибо ИИ дает почти те же ответы (совпадающие на 95%)
2. Но остаются две проблемы: интерпретация (почему ИИ сделал такой моральный выбор) и «галлюцинации» (склонность ИИ нести правдоподобную пургу).

Учитывая, что исследование велось на ChatGPT 3.5, после перехода на 4.0, с обеими проблемами станет полегче.
Ну а с переходом на 5.0 (как раз к выборам в 2024) на ответы избирателей, да и вообще людей, в вопросах моральных и социальных оценок можно будут забить.

Статья
Открытый доступ
Проект на Github
#LLM #Психология #Мораль #Выборы