Вся самая актуальная и нужная информация о состоянии ИИ

Натан Бенайх и Ян Хогарт –два серийных инвестора в ИИ-ориентированные стартапы - снова сделали невозможное.
Они написали новый отчет о сегодняшнем состоянии дел в области ИИ такого качества (глубина проникновения в предмет * фокусировка на главное * видение за деревьями леса), что все индустриальные аналитики, консультанты и профэксперты могут нервно курить в сторонке (а покурив, переписывать свои отчеты 😎).

130+ слайдовый отчет содержит «сухой остаток» четко структурированного описания прогресса в области ИИ, уделяя особое внимание ключевым событиям последних 12 месяцев.

В докладе рассматривается состояние дел по 5 направлениям:
• Исследования: технологические прорывы и их последствия
• Таланты: предложение, спрос и кластеры талантов
• Индустрия: большие платформы, финансирование, области инноваций - сегодня и завтра.
• Китай: теперь это отдельная категория более высокого уровня, не вписывающаяся в стандартные классификации
• Политика: общественное мнение об ИИ, экономические последствия и нарастающая роль ИИ в геополитике

В завершение отчета, как и прошлый раз, даны конкретные прогнозы на грядущие 12 мес (из прошлогодних сбылась половина).

Давать резюме прекрасно выполненной работы бессмысленно - каждый найдет здесь интересное и нужное на свой вкус.

Мне же остается, в качестве тизера, отметить следующее.
1) За последние 12 месяцев Китай сломал все таксономии в структуризации новостей про ИИ. Теперь Китай - самостоятельный раздел отчета, чего не удостоились даже США.
2) По числу и качеству публикаций и патентов Китай уже достал США. Китай берет не умением, а числом: людей и данных.
3) От надвигающейся гегемонии Китая спасает лишь его огромное отставание от США в производстве полупроводников и гигантские R&D бюджеты частного американского бизнеса.

В общем, читайте сами это наиполезнейшее чтение https://www.stateof.ai/ с десятками графиков, диаграмм и картинок (отчет приложен).
И не забудьте про прогнозы. №5 и 6 могут стать мировыми интригами. Что это – доступ к особо осведомленным источникам или визионерство авторов отчете – станет ясно через год.

Мой рассказ о прошлогоднем отчете https://t.me/theworldisnoteasy/545 (кто не видел, стоит познакомиться, т.к. отчет 2019 – это расширение отчета 2018).

#ИИ

Пара интересных соображений, заслуживающих вашего внимания.

1. Современный ИИ – на самом деле, ИН - Искусственный Неинтеллект

Интеллекты могут быть чрезвычайно разные. А наш интеллект – это всего лишь материализовавшаяся возможность. Одна из многих.
Но тот ИИ, что создали люди, - это более чем странное творение, почему-то тоже называемое интеллект.
Надо было иметь креативность уровня Бога, чтобы придумать и создать такое - ведь это даже не существо, не дух и не призрак.
Это творение:
• способно к бесконечному совершенствованию при решении одной конкретной задачи единственным способом – поиском закономерностей в морях данных;
• при этом будучи бестелесным и бесчувственным, обитая в беспорядочном, никак не структурированном пространстве, лишенном хоть каких-то смыслов.

Короче, если задуматься, это не интеллект вовсе, а какая-то извращенная пародия на него, созданная как будто для фильмов ужаса.

2. Возможно, галлюцинации - это неконтролируемое восприятие.

Почти общепринято, что восприятие - это разновидность контролируемой галлюцинации. Вы представляете мир структурированным, поскольку ожидаете, что он структурированный. А сенсорная информация здесь действует как обратная связь. Она позволяет вам исправлять и уточнять ожидания.
Но ведь прежде запуска обратной связи, наши ожидания нужно создать. Значит ли это, что восприятие - это контролируемая галлюцинация?
А что если наоборот: галлюцинация - своего рода неконтролируемое восприятие?
Байесовский мозг, предиктивная обработка, иерархическое предиктивное кодирование – все это названия одной и той же теории предсказаний, в которой наш опыт возникает на смещающейся границе между сенсорными данными и нисходящим прогнозом или ожиданием.
По этой теории масса литературы. А великий Карл Фристон сумел даже математизировать ее и объяснить, как устроена жизнь, состоящая из предсказаний, последовательных действий и обратной связи.
Но в этой обратной связи:
- помимо внешних чувств, которые мы принимаем от зрения, слуха и т. д.,
- и чувств движения нашего тела, которые мы используем для предсказания его перемещения,
существуют еще и внутренние чувства, поступающие от внутренних органов.
И эти внутренние чувства - часть нашего сознательного восприятия мира.

Т.о., даже если мы создадим ИИ:
- способный не только действовать в окружающем мире,
- но и способный воспринимать свой индивидуальный образ мира с помощью внешних чувств,
У него не будет внутренних чувств. А значит, и сознания.

Подробней в увлекательной беседе Edge.org с философом Энди Кларком.


О переориентации от Искусственного Неинтеллекта к Неразумному Интеллекту (как это рекомендовал еще Станислав Лем) читайте в моем посте

Желающим погрузиться в мир самых экзотических галлюцинаций - «Чувство справедливости – всего лишь галлюцинация».

#ИИ #ВоплощенныйИнтеллект #Сознание

Как усилить разум, чтоб понимать сложное и не забывать это
Вопрос в заголовке актуален для всех. Но возможно ли это? Предоставляю вам возможность проверить это самим. Причем на конкретном очень интересном и крайне важном примере.
Двое жутко креативных и толковых интеллектуалов-практиков Энди Матущак и Майкл Нильсен придумали и разработали экспериментальную мнемоническую среду, благодаря которой почти без усилий можно запомнить все, что вы читали. Кроме того, доработав метод интервальных повторений, авторы сделали на его базе метод интервального тестирования (spaced-repetition testing), позволяющий, за счет правильно организованного самотестирования, понимать сложнейшие материалы.
Пример, на котором вы сможете это проверить – что такое квантовый компьютинг, а заодно и просто компьютинг, компьютер и алгоритм. Бьюсь об заклад, большинство из вас ошибаются в понимании даже последних двух терминов.

Об этом мой новый пост на 5 мин.
- на Medium http://bit.ly/2JroYoW
- на Яндекс Дзен https://clck.ru/GthTj
#Память #Понимание #КвантовыйКомпьютинг #Компьютер #Алгоритм

Пентагон выявил стратегическую цель России – мировое доминирование любой ценой
Президент Трамп, встретившись с Путиным на саммите G20, в довольно игривой форме попросил не вмешиваться в американские выборы 2020 года. Путин в ответ улыбался.
Но дело не шуточное. Не смотря на распространенное мнение, что вмешательство в прошлые выборы хоть и было, но не повлияло на результаты, - все не так однозначно.
Новое исследование обнаружило корреляцию между ретвитами известных русских аккаунтов троллей во время выборов 2016 года и цифрами опросов общественного мнения, которые получал Дональд Трамп.
Совместный анализ 770 005 твитов от экаунтов, считающихся «русскими троллями» и данных опросов из архива FiveThirtyEight показал, что каждые 25 тыс. ретвитов соотносились с 1%-ным увеличением показателей Трампа в опросах, проводимых через неделю.
И хотя корреляция не всегда означает причинность, но военные и разведка США отнеслись к результатам исследования весьма серьезно, поскольку они уверены, что Россия в 2020 году может устроить на выборах США полный хаос.

Это подтверждается и детализируется новым 167 страничным аналитическим документом «Стратегические намерения России».
• Как следует из документа, «для достижения своего стратегического намерения Россия овладела искусством «гибридных войн», технологиями вмешательства в политические процессы, методами экономического и энергетического давления, шпионажем, а также изощренной пропагандой и манипуляцией в СМИ и Интернете".
• В докладе утверждается, что США сейчас имеют уникальную возможность ограничить результативность действий России в осуществлении ее стратегического намерения. Но этому мешает «самая большая слабость» США - отсутствие скоординированных усилий со стороны правительственных учреждений.
• Особой угрозой, как считают авторы доклада, являются нарастающие тесные стратегические связи между Китаем и Россией - странами, которые разделяют «стремление к авторитарной стабильности и взаимный страх и враждебность по отношению к США»

В целом, авторы считают положение дел весьма серьезным.
«Вопреки общепринятому анализу, после двух десятилетий правления Владимира Путина Россия представляет собой идеологический вызов для Запада, а не просто политическое и военное соперничество. Хотя НАТО по-прежнему имеет впечатляющее превосходство над Москвой, но оно сокращается, а в некоторых аспектах уязвимость Запада становится весьма тревожной. Более того, нежелание западных экспертов и правительств противостоять идеологическим, а также политическим и военным аспектам нашего соперничества с путинизмом означает, что угроза значительного вооруженного конфликта возрастает».

#США

Естественная природа объекта Оумуамуа вовсе не доказана.
Несмотря на утверждения обратного в СМИ.
Согласно книге рекордов Гиннеса, самым высоким был человек ростом 2,72 метра, самым долгоживущим – проживший 122 года, а самый быстрый в беге на четвереньках пробежал стометровку за 17,47 сек. Как это ни удивительно, но все эти рекорды – лишь следствие экстремальных природных аномалий человека. И для их объяснения не требуется никаких теорий, выходящих за рамки современных научных знаний.
Однако, представьте.
Что если бы речь во всех этих рекордах шла об одном человеке?
Представить такое, конечно, возможно. Но объяснить столь маловероятный факт - совпадение трех экстремумов в одном человеке - из современных научных представлений вряд ли получится.
По этой же причине обошедшая мир новость, будто бы космический объект Оумуамуа «имеет чисто естественное происхождение» (в заголовках СМИ - «не является кораблем пришельцев», «не инопланетный космический корабль» и т.п.) – чистой воды фейк.
Очень хотелось сенсации, но фактов для этого не было. Тогда, не имея возможности написать, что человек укусил собаку, решили удивить мир, заявив будто бы укусивший кого-то в пьяной драке — вовсе не человек, а собака, — раз кусается.
Для справки. Оумуамуа (по-гавайски разведчик) более чем странный космический объект, обнаруженный в октябре 2017. Это первый внесолнечный объект (прилетел в солнечную систему и улетел), имеющий крайне необычную сигарообразную форму (длина 230-400 м., ширина 35-40 м.) и движущийся с асимптотической скоростью 26 км/сек с необъяснимым негравитационным ускорением на уровне 30.
Далее в новом посте на 5 мин.
- на Medium http://bit.ly/325Mkc9
- На Яндекс Дзен https://clck.ru/Gw8D3
#SETI

Эта анимация – не трейлер очередного фильма-катастрофы. Анимация сделана на реальных данных NASA GISS. А вот здесь сравниваются 14 тепловых карт за больший период (с 1880 года) для каждого десятилетия.
Эта графика иллюстрирует страшные факты.
1) Все мировые рекорды температуры побиты в 2019 году. И это при том, что 19 из 20 самых жарких лет за всю историю наблюдений с 1880 года были после 2000 года (детали см. по ссылкам выше).
2) Текущая концентрация CO2 является беспрецедентной за последние 3 миллиона лет, а глобальная температура никогда не превышала доиндустриальное значение более чем на 2 °C в течение четвертичного периода (детали см. здесь).
3) Пока что средняя температура поднялась на 1 ° C. Если же поднимется еще на градус – начнется мировой каюк. Но пока еще есть шанс не дать температуре подняться больше, чем на 1,5 °C (детали см. здесь и здесь).

Идущий 2019 год будет снова рекордным.
Уже:
• январь – 3й по жаркости январь за всю историю наблюдений;
• февраль – 5й по жаркости;
• март – 2й;
• апрель – 2й.
Температурные рекорды года зафиксированы во Франции, Германии, Польше, Австралии, Кении, Вьетнаме, Анголе …
Рекорды бьются не по-детски. Последний пример - 4го июля на Аляске температурный рекорд 1968 года 85 °F был побит сразу на 5 градусов.
Дневные температуры для Европы чумовые – до 39 °C.
Подивитесь. Трудно поверить, но это – Париж.

Можно бесконечно спорить о причинах и перспективах глобального потепления. Но что делать с фактами?

Не хотите читать про такую жуть? Считаете это хренью?
Сочувствую. Ну так хотя бы посмотрите, как смотрится с вертолета процесс потери человечеством своей планеты.
А причина этого одна - интеллектуальная слепота.

#ИзменениеКлимата

Не важно, о чем думает мозг, важно – куда смотрят глаза.
Поворот в будущем авто: ИИ вместе с водителем, а не вместо водителя.
Пока внимание медиа приковано к хайповым беспилотным авто, куда более практичное применение ИИ уже способно сохранить тысячи жизней.
Один из ключевых аргументов в пользу беспилотных авто – они сократят число жертв на дорогах. Звучит замечательно. Но массовая практическая реализация потребует не одного десятилетия.
Вместе с тем, есть альтернативный путь. Использовать ИИ в помощь человеку (а не для его замены) с той же самой благородной целью – спасение жизней людей.
Такой путь – не теория. Он активно разрабатывается и уже внедряется на практике. Данный путь способен сократить число жертв на дорогах, в пределе, на четверть. В масштабах мира – это ежегодное сохранение более 300 тыс. жизней. Ведь только в США каждый день около 9 человек погибают и более 1000 получают ранения в результате аварий, связанных с отвлечением внимания водителя.

Т.н. отвлеченное вождение - это вождение, когда вы занимаетесь другим делом, которое отвлекает вас от вождения и тем самым увеличивает вероятность аварии.
Есть 3 основных типа отвлечения внимания:
1) визуальный - отвести взгляд от дороги;
2) механический - снятие рук с руля;
3) когнитивный - о чем-то задумавшись, мысленно где-то парить.

До последнего времени считалось, что 3я причина отвлечения самая массовая (считалось, что это причина 62% отвлечений).
Однако новое исследование MIT, в котором удалось экспериментально доказать влияние разных факторов на отвлечение водителей, - просто революционное. Оно выполнено на стыке изучения внимания, восприятия и психофизики.
Резюме главного вывода исследования таково – не важно, о чем думает мозг, важно – куда смотрят глаза.

Исследователям удалось выяснить, что наиболее сильным фактором, влияющим на аварийность, являются проблемы периферийного зрения. Т.е. простое отведение глаз на 20 градусов от центра дороги снижает реакцию на порядок сильнее, чем высокая когнитивная нагрузка, например, при распараллеливании мышления.

Результаты этого исследования могут иметь огромное значение.
Дело в том, что ИИ-системы отслеживание взгляда водителей уже прекрасно работают. Например, EyeSight от Subaru или DMS CT6 от Cadillac.
Подобные системы не только пассивно мониторят взгляд водителя и при его отвлечении от дороги подают звуковые сигналы, подобно гонгу при непристегнутом ремне. Они много чего еще делают: от автоматического плавного снижения скорости до принудительного торможения в ряде особых случаев.

Эти системы себя прекрасно зарекомендовали на испытаниях. Единственным сдерживающим фактором для их повсеместного применения было ошибочное представление о доминировании когнитивных причин отвлечения внимания водителей (ведь эти системы пока не умеют определять, о чем водитель думает: о дороге или о грядущей встрече с возлюбленным).

Теперь же, когда доказано, что доминирующей причиной являются издержки периферийного зрения, широкому применению систем мониторинга взгляда водителя, усиленным и улучшенным с помощью ИИ, может быть дан зеленый свет.

Подробней об исследовании:
- популярно https://arstechnica.com/cars/2019/07/look-where-youre-going-is-the-key-to-distracted-driving/
- для профи https://link.springer.com/epdf/10.3758/s13414-019-01795-4?author_access_token=VdznEInRPMVqnw8hunpI2ZAH0g46feNdnc402WrhzyqUkg8r13mAPugbgmzb-IGTpP_XMZR4cP7EUyD7_B4dBjAOCI3uBFewfxD09gzEj5cd1o5JBrJ3XM09P3YA4hmsWbM3_d8RI8hpz1zugBBiDQ%3D%3D

#Внимание #Психофизика

Нет технологиям распознавания лиц полицией. Эти технологии пока недостаточно надежны.
Таков вывод 1го отчета Совета по этике Axon AI & Policing Technology.
Компания Axon https://global.axon.com/ (ранее известна как Taser International) - производитель технологий для правоохранительных органов, в апреле 2018 учредила Совет по этике ИИ для изучения этических последствий применения своей продукции. Членами Совета являются представители правоохранительных органов, групп за гражданские права, политики, научных кругов и технических специалистов.
Этот Совет только что выпустил свой 1й отчет, в котором рассматриваются этические проблемы, связанные с распознаванием лиц, в особенности камерами полицейских - основным продуктом Axon.
Шесть основных выводов доклада.
1) Современные технологии распознавания лиц в настоящее время недостаточно надежны, чтобы оправдать их использование в камерах наблюдения. Для массового развертывания подобных систем требуется гораздо большая точность и одинаковая производительность для разных групп населения.
2) При оценке алгоритмов распознавания лиц важно различать ложноположительные и ложноотрицательные показатели. Между ними есть реальные компромиссы, которые зависят от вариантов использования: например, при выявлении пропавшего без вести и при выявлении хулиганов на демонстрации допустимость ложноположительных срабатываний несопоставимая.
3) Для предотвращения злоупотреблений, Совет не поддерживает разработку технологий распознавания лиц, которые могут быть перенастроены пользователями. Это требует технологического контроля со стороны производителей оборудования, но еще в большей степени это потребует государственного регулирования.
4) Ни одна юрисдикция не должна применять эти технологии, не пройдя прозрачные, демократические процессы их принятия обществом. В настоящее время решения о применении таких систем принимаются только правоохранительными органами. Это ошибка, которая может дорого стоить обществу.
5) Разработка продуктов должна основываться на доказательной (а не просто теоретической) выгоде.
6) При оценке затрат и выгод от потенциальных вариантов использования необходимо учитывать реалии полицейской деятельности в конкретных юрисдикциях с учетом технологических ограничений.

Пресс-релиз https://global.axon.com/company/news/ai-ethics-board-report
Отчет https://mappingbabel.files.wordpress.com/2019/07/7f936-axon_ethics_board_first_report.pdf
Мой предыдущий пост о том, что ИИ для массового распознавания лиц несет в себе запредельный риск, и что такой ИИ нужно запретить, как, в свое время, запретили ядерные испытания https://t.me/theworldisnoteasy/814

#CCTV #БольшойБрат

Как остановить скатывание мира к технологическому огораживанию.
Батл вокруг 5G – только начало. С ИИ и квантовыми вычислениями будет куда хуже.
Уже не раз писал, что во всем мире нарастают процессы ИИ-национализма и ИИ-национализации. Об этом в мире пишут все больше. Но до сих пор никто не предлагал конкретного плана, как остановить процессы национального огораживания.
И вот, наконец, первый такой план появился. Его автор - адмирал ВМС США в отставке Майкл С. Роджерс – бывший глава Агентства национальной безопасности США и Киберкомандования США, а ныне эксперт Австралийского центра стратегической и кибер-политики ASPI.
Свои предложения адмирал только что опубликовал в документе, озаглавленном «Возможности, конкуренция и коммуникация» (Capabilities, competition and communication).

Мне в документе адмирала Роджерса понравились следующие мысли.
1) В мире уже, как минимум, два класса технологий – ИИ и квантовые вычисления -, способные кардинально поменять многие аспекты жизни людей. Причем сделать это в широчайшем диапазоне: от «и будут всем счастье» до «вот и крантец человечеству».
2) Кроме того, появляются все новые поколения технологий, хоть и не столь кардинально меняющих мир, но с каждым новым поколением способных на все более радикальные трансформации бизнеса и общества. Например, сейчас это 5G. Но не пройдет и 3 лет, как появится 6G и т.д.
3) Перед лицом таких технологических вызовов, ответов на которые пока никто не знает, развитые страны, одна за другой, занимают оборонительные позиции. Суть такой позиции в технологическом огораживании путем принятия национальных стратегий, носящих выраженный техно-националистический характер.
Это выражается, в первую очередь, в следующем.
- Новые технологии рассматриваются не как возможности, а как продукты.
- Ключевым национальным приоритетом становится цель – не отстать в международной технологической конкуренции, а вовсе не международная кооперация.
- Делается ставка, в первую очередь, не на альянсы, а на национальные ресурсы, которым нужно создать особые условия и преференции, дабы они могли, хотя бы на своей территории, не допустить «вторжения чужих технологий».

При таком подходе проиграют все. И технологические лидеры, и отстающие. И сторонники либеральных идей, и авторитарные страны.

Сегодняшний накал противостояния с Китаем и Huawei вокруг 5G – лишь начало. Противостояние по всему спектру технологий, кардинально влияющих на национальную конкурентоспособность стран и их национальную безопасность, будет нарастать все быстрее.

Нужно менять стратегическое видение.
- Новые технологии должны рассматриваться как возможности, а не как продукты.
- Ключевым национальным приоритетом должен стать поиск путей взаимовыгодной международной кооперации по согласованным целям.
- Основная ставка должна делаться на поиск оптимальных и как можно более широких альянсов, а не на огораживание.

Вслушайтесь в слова адмирала Роджерса. Это говорит не прекраснодушный идеалист, а прожженный вояка и реалист. Но даже такие как он начинают понимать, что национальные техно-стратегии нужно кардинально менять. Иначе себе дороже выйдет.

Подробней в отчете https://www.aspi.org.au/report/capabilities-competition-and-communication
и его резюме https://www.aspistrategist.org.au/the-west-needs-a-post-5g-technology-strategy/

#ИИнационализм #ИИнационализация #Геополитика

Сейчас мы говорим «обезьяна с гранатой». Через сто лет, возможно, будут говорить «человек с ИИ».
В новом интервью профессора Томаса Метцингера – члена высшей экспертной группы ЕС по разработке этических принципов ИИ – озвучены два весьма тонких для понимания, но очень важных вопроса.
1) Роботы-убийцы и активная эвтаназия – есть ли отличия?
Смертельное автономное оружие (т.н. роботы-убийцы) – это системы, которые используют ИИ в бою, чтобы решать, какую цель атаковать, уничтожить или даже убить.
Главный вопрос, пока еще, хоть и с трудом, но все же сдерживающий превращение роботов-убийц в главный фактор новой гонки вооружений - можно ли привлечь кого-либо к ответственности, если машина приняла неправильное решение?

Самое опасное в этом вопросе – его универсальность.
Ведь ровно тот же вопрос стоит, например, и по отношению:
- к автономным автомобилям;
- к системам активной эвтаназии.
Про самоуправляемые авто и так всем понятно – пресловутые проблемы, кого задавить, если нет иных вариантов, и чья жизнь дороже – водителя или пешехода …

А про активную эвтаназию поясню. Пассивная - предполагает прекращение введения препаратов, поддерживающих жизнь пациента, а активная — введение препарата от которого пациент умирает. Активная э. бывает добровольной и недобровольной – т.е. без согласия пациента. При этом кто-то должен взять на себя ответственность и решить: «Пусть этот человек умрет».
Но ведь страшно даже рассуждать о таком. И кому хотелось бы, стоя у больничной койки, произносить подобные слова?

Так вот сейчас, по словам Метцингера, в Нидерландах уже стоит вопрос о перекладывании таких решений на ИИ. Просто, удобно, никого не напрягает и никаких душевных мук.

Только чем это отличается от роботов-убийц?

2) Где проходит «красная черта» в применении любого робота-убийцы (военного, медицинского, автомобильного …)?
Проблема вовсе не в том, чтобы дать машинам правильные этические ценности. Проблема в «согласовании ценностей» ИИ и людей. И пока не понятно, как их согласовывать, поскольку люди сами не придерживаются своих собственных этических ценностей.
Иными словами, всегда существует конфликт разных целей у отдельных людей и в разных обществах. Наши общества не являются этически последовательными или связными, наша политика – тем более.
- Вы и ваш коллега.
- Британский и китайский военный.
- Президенты России и США.
Согласуются ли их этические ценности?

В итоге, нам самим сложно прогнозировать, какие решения примет тот или иной человек, и это создает реальный риск.
А если этот человек врач? Или генерал? Или президент страны?
Проще говоря, если вы включаете в цепочку принятия решений очень эффективный, быстрый и продвинутый ИИ, вы, по сути:
- подключаете ИИ к человеческим мозгам, почти не изменившимся со времен каменного века;
- подключаете ИИ к мозгу конкретных людей, - возможно, жадных, ревнивых, эгоистичных и амбициозных.
А раз так, то самим включением ИИ в цепочку принятия решений, вы непрогнозируемо увеличиваете риски.

Поэтому нет никакой проблемы заложить в робота-убийцу (да и в любой ИИ) конкретные этические ценности.
В реальности, мы сами – главная проблема.
И «красная черта» проходит через нас, а не через ИИ.


Текст и подкаст интервью https://www.br.de/nachrichten/kultur/killerroboter-ethik-interview-thomas-metzinger-philosophie,RVdgEgs
Контекст военных роботов-убийц https://www.br.de/nachrichten/deutschland-welt/killer-roboter-fakten-ueber-toedliche-systeme,R1wD3Rs
Мой пост о том, какая страшная штука – беспилотные летающие убийцы https://t.me/theworldisnoteasy/763

#ЭтикаИИ

Многие ошибочно думают, что ключевыми особенностями интеллекта человека являются его биологическая основа и эволюционный путь, создавший за миллионы лет физическую основу интеллекта: его HW – мозг и SW –нейрохимическую прошивку.
Ошибочно считается, что именно био-основа и пройденный эволюционный путь:
- принципиально отличают наш интеллект от искусственного (ИИ);
- определяют все имманентные преимущества «естественного интеллекта» над ИИ, равно как и все его недостатки, по отношению к ИИ.
К сожалению, такая трактовка сути интеллекта человека – не просто упрощение. Это огромная ошибка, определившая выбор мейнстримного пути развития ИИ, превратив этот путь в кривые глухие окольные тропы…

Ну а как на самом деле, - в моем новом посте на 4 мин. чтения:
- на Medium http://bit.ly/2xRjo9C
- на Яндекс Дзен https://clck.ru/H59Ke
#ВоплощенныйИнтеллект #КоллективныйИнтеллект #Эусоциальность

Насколько радикально Интернет изменил жизнь людей?
Можно, подобно умудренным экспертам, писать на эту тему толстые отчеты.
А можно привести всего лишь один график: где и как знакомились будущие супруги раньше и теперь.
Бары и вечеринки друзей, с подачи родственников и соседей, на работе и в колледже, в церкви, в школе …
Все это лавинообразно уходит в прошлое.
Ныне знакомятся в онлайне!
Нужны еще аргументы, чтобы понять, насколько изменился мир?
А это отчет https://web.stanford.edu/~mrosenfe/Rosenfeld_et_al_Disintermediating_Friends.pdf
#Интернет

Основанный на глубоком обучении современный мейнстримный ИИ не способен решить задачу создания сильного ИИ.
Т.е. избранный человечеством магистральный путь не ведет к созданию искусственного аналога интеллекта людей.
Как будто, желая попасть в Архангельск, мы сели в поезд «Москва — Архангельск». Едем уже 12 часов, а поезд тем временем идет в Сыктывкар. Но мы из-за этого не паримся, т.к. нам говорят, что от Сыктывкара до Архангельска ближе чем от Москвы. Да и что поделать? Ведь уже едем. Не возвращаться же обратно. Да и за билет деньги не вернут.

Но если ситуация с сильным ИИ столь же идиотична, так почему же мы хотя бы не признаем этого?
Почему, доедая взятые в дорогу бутерброды, мы продолжаем убеждать себя и соседей по купе, что все ОК, и нам осталось ехать то ли 6, то ли 8 часов?
В чем причина идиотизма такой ситуации?


Об этом мой новый пост на 6 мин.
- на Medium http://bit.ly/32xPDZE
- на Яндекс Дзен https://clck.ru/H9ARa
#СильныйИИ #AGI

​​Получил замечательный коммент на вчерашний пост о сильном ИИ.
«С такой логикой в восемнадцатом веке, глядя на паровоз, мы бы говорили: «сильное» МП (механическое передвижение) не достигнуть на этом идиотически ложном пути, основанном на использовании круглых колёс».
Приведенная аналогия мне понравилась, и я воспользуюсь ею для объяснения своей позиции (спасибо автору коммента).
Единственное, что нужно для этого сделать - уточнить цель построения «сильного» МП.

Итак, дано:
- мы в 18 веке;
- у нас есть не только колеса, но и подшипники и даже паровой двигатель, позволяющий разогнать повозку (ака паровоз) до приличной (в нашем понимании) скорости;
- мы считаем (не без некоторых оснований), что, набрав большую скорость, повозка взлетит.

Наша цель:
- построить летательный аппарат (т.е. создать машину, позволяющую человеку летать, как птицы или как-то иначе; но летать, а не ездить, - и в этом суть!).

Ситуация:
Приходит некий дядя и говорит следующее.
1) одних колес, подшипников и парового двигателя (ака паровоза) недостаточно, чтобы повозка полетела;
А) нужен иной двигатель, поскольку, даже если удастся усовершенствовать паровой двигатель (от себя добавлю - как это сделают через 200+ лет братья Бэсслеры), характеристики у такого летающего паровоза будут никудышные, и только время потратите на его создание зря;
Б) нужны крылья, аэродинамическая конструкция повозки и т.д. для обеспечения возможностей подъема и планирования.
2) Поэтому, ребята, завязывайте с прогнозами, обещающими построить летальный аппарат на основе паровоза то ли через 10, то ли через 20 лет.
3) Надо изобретать иной двигатель и думать над обеспечением летных качеств.
При этом дядя вовсе не опровергает, что паровоз – отличная штука и изменит жизнь человечества в ближайшие десятилетия.

И что же мы отвечаем дяде?
См. цитату в начале поста 😎

#СильныйИИ

Кай-Фу Ли и его бестселлер "Сверхдержавы искусственного интеллекта" становится все популярней в России. О нем все чаще упоминают ИИ профессионалы, и все больше цитируют даже популярные медиа.
Но! Ведь книга писалась 2-3 года назад. А за прошедшее время в области ИИ произошли серьезные изменения. Да и понимание перспектив развития ИИ довольно сильно изменилось. Даже у такого визионера, как Кай-Фу Ли.

Если хотите узнать, что он думает СЕЙЧАС о состоянии и перспективах ИИ (с позиций сегодняшних знаний темы и опыта ее осмысления) – нужно слушать его сегодняшние выступления.
И вот наиболее интеллектуально емкое и структурированное. При этом, самое новое.
Если не сможете выделить 1,5 часов, прослушайте хотя бы 5 мин с 7 по 12 минуту.
Здесь Кай-Фу говорит о самом важном.

Перспективы двух подходов к развитию ИИ.
1й подход ставит во главу угла обилие данных (умение обрабатывать все большие и большие их объемы).
2й – делает ставку на алгоритмы (усовершенствование существующих и разработка новых методов повышения отдачи при обработке данных).
1й подход можно условно назвать «Китайский». 2й – «Прорывно-инновационный».

Для большинства корпораций, делающих бизнес на ИИ, 1й подход проще и менее рискованней.
Однако сложные задачи, типа автономных авто и медицинской диагностики, существующие алгоритмы, вероятно, не решат. Поэтому «Китайский» подход для таких задач может не сработать, и здесь, скорее всего, нужен «Прорывно-инновационный» подход.
Например, в области автономных авто «Китайский» подход позволит решить проблему езды автономных грузовиков по хайвеям. И это большое дело, в котором Китай, вероятно будет первым.
Но для решения задачи создания полностью автономных авто потребуются «Прорывно-инновационный» подход, чтобы совместно с университетами придумать новые алгоритмы, сейчас пока что неизвестные.

Машинного обучения недостаточно даже для решения не самых сложных задач, решаемых человеческим интеллектом.
Создание полностью автономных авто – крайне сложная комплексная задача, с решением которой пока что справляется лишь интеллект человека.
Но даже такие инновационные компании как Tesla, все еще ориентированы на «Китайский» подход, делая ставку на машинное обучение с использованием все бОльших объемов данных.
К сожалению, оставаясь в рамках этого подхода, можно решить лишь довольно простые задачи, типа распознавания визуальных образов или речи. Решение же более сложных задач, в которых у человека задействованы механизмы понимания и планирования, вряд ли возможно лишь на основе машинного обучения.
И построение полностью автономным авто – лишь один из примеров таких сложных задач. То же самое можно сказать и о создании универсальной разговорной системы, способной на человеческом уровне разговаривать на произвольные темы из произвольной области. Решение этой задачи только на основе машинного обучения, скорее всего, невозможно.

Сказанное Кай-Фу Ли важно для нас вдвойне.
✔️ Во-первых, в вопросе, что может и чего не может сегодняшний мейнстримный ИИ, а также в еще более важном вопросе – куда дальше двигаться в этой области.
✔️ Во-вторых, сказанное Кай-Фу крайне важно для фокусировки российских ИИ-стратегий. Как на уровне отдельных специалистов и их компаний, так и на уровне национальной стратегии, сегодня, больше похожей на «Мы за все хорошее»
#ИИ

Про Закон Мура знают все. А про «Анти-Закон Мура» - никто. Хотя он и подкреплен не менее прочной статистикой, и важнее для человечества, чем скорость роста производительности компов.
Из этого закона следует, что научный прогресс экстенсивен и может вскоре остановиться из-за приближения науки и технологий к сингулярности сложности.
Только не подумайте, что как с прочими сингулярностями, речь идет о прозрениях визионеров и умозрительных прогнозах.
Все гораздо прозаичней и реальней. Только проверенные цифры, и никаких субъективных оценок.
Об этом мой новый пост на 4 мин.
- Medium http://bit.ly/30Ln9di
- Яндекс Дзен https://clck.ru/HDE9i
#Наука #Прогресс

Мир, который мы потеряли.
Человечество погрязло в техно-пропаганде и экономике пузырей.
Сегодня снова о том, почему человечество вверглось в эпоху застоя и всеобщего институционального краха. Дело в том, что вчерашний пост про «Анти-Закон Мура» убедил далеко не всех читателей в продолжающейся уже полвека стагнации науки.
Люди возражают. Как же так, - а компьютеры, смартфоны, интернет и голосовые помощники? Да и самоуправляемые авто в недалеком будущем, в конце концов!
Это поразительный пример интеллектуальной слепоты, о которой я уже не раз писал. Люди видят только то, что хотят видеть, мотивированные своими предубеждениями, сформированными техно-пропагандой.

Да посмотрите же на вещи объективно. При чем тут смартфоны и голосовые помощники? Что эти IT прорывы меняют в общей стагнации большинства наук и индустрий.
Вспомните два самых грандиозных открытия современной науки за последние 70 лет:
1) 50е-60е годы: открытие 3х мерной структуры ДНК и прорыв в понимании генетического кода;
2) 60е-70е годы: открытие кварков и прорыв в понимании физического устройства мира.

Спустя 70 лет:
- где прорывные технологии на основе открытия кварков?
- почему «генная терапия», по большому счету, пока так и не появилась?
Физика стала слишком сложной? А биология оказалась еще сложнее физики?

Вспомните 30е годы прошлого века с кризисом и стагнацией в экономике США.
Но в эти годы, за счет научно-технологических прорывов, одна за другой в США возникли целые индустрии, ставшие затем локомотивами мировой экономики:
- автопром (в 1939 в США стало втрое больше автовладельцев чем в 1929),
- авиапром,
- киноиндустрия,
- индустрия пластмасс,
- индустрия вторичной переработки нефти,
- индустрия производства бытовой техники.

А какие индустрии появились за последние десятилетия?
Мобильная связь и интернет?
Онлайн торговля?
Смартфоны?
Как-то это слабо сопоставимо с 30ми годами.

Вспомните головокружительные открытия главной мировой науки – физики в 40е и 50е:
- ядерную энергию, поставившую точку во 2й мировой войне,
- полупроводники, позволившие потом создать компьютеры, смартфоны и Интернет,
- открытия теоретических физиков, создавших тогда молекулярную биологию, а потом проведших революцию и в телекоме.
Да вспомните, наконец, что:
- в 1968 первый термоядерный реактор Токамак достиг электронной температуры плазмы в 12 млн °C,
- в 1969 люди высадились на Луну,
- а в 1976 полет на сверхзвуковом пассажирском лайнере Конкорд Лондон – Нью-Йорк занимал всего лишь 3 часа 20 мин. (в 2+ раза быстрее, чем сегодня!).

Спустя полвека:
- где работающий термояд?
- где перелеты на сверхзвуке через Атлантику?
- где полеты на Луну, Марс и Венеру?
Все это оказалось ненужным?

Нет. Слишком сложным. Невероятно сложным. Неподъемно сложным.
✔️ Сложным для освоения уже накопленных научных сведений, без чего невозможно двигаться дальше (отсюда нарастающая специализация и изоляция ученых в своих областях, - дай бог успевать прочесть хотя бы заголовки новых статей из своей узкой специализации).
✔️ Сложным для управления, что привело к тотальному миссменеджменту науки, как на уровне государства, так и бизнеса.

В результате 40летняя стагнация в науке и в большинстве индустрий.
В результате прогресс, лишь колеблющийся вокруг достигнутого уровня (десятилетие чуть вверх, десятилетие чуть вниз), в основном, за счет техно-пропаганды и экономики пузырей.
Это нужно и можно изменить.

Подробней обо всем об этом в 3х часовом интервью (https://www.youtube.com/watch?v=nM9f0W2KD5s) великого предпринимателя, визионера и венчурного капиталиста Питера Тиля.

Ну а своими глазами увидеть, каким станет мир в ближайшие годы, если отдаться на волю текущих трендов и не найти в себе силы их радикально изменить, - можно в отличном новом сериале Years & Years (https://www.youtube.com/watch?v=SY41jhIP_xI)
Смартфоны и голосовые помощники продолжают рулить. И даже кое-где авто без водителя. А у некоторых даже вшитый в ладонь смартфон. Ну а главный техно-прорыв сделан в самом массовом бизнесе - похоронном …
В остальном же все только хуже: работы и денег - все меньше, обмана, мошенничества, жестокости и нетерпимости - все больше. Ну а политики, как обычно, - делают на всем этом себе карьеру и удовлетворяют свои шкурные интересы.

Так что решайте, слушать ли Тиля, смотреть ли Years & Years. Я сделал и то, и другое. И не жалею.
#Наука #Прогресс

​​Страшные плоды новой эры эволюции на Земле.
«Аллергия» на качественный контент, «астма» от факт-чекинга, бото-терроризм.
Поворотным моментом в эволюции был переход от биологической (генной) эволюции к генно-культурной коэволюциию. В его процессе у наших предков развился символический язык, позволивший создать символическую культуру, сформировавшую затем наш разум и общество.
В созданном таки образом новом мире развитие людей все меньше зависело от эволюции генов, и все больше - от нарастающего влияния эволюции мемов.
Так продолжалось несколько десятков тысяч лет, сформировав цивилизацию на Земле со всем, что люди знают и умеют. Но несколько лет назад «эпоха цивилизации людей» закончилась, и начался новый переход.

В его основе следующее.
1) Изменение информационной среды генно-культурной коэволюциии: от материальной к электронной – попросту говоря, это Интернет.
2) Вместо одного носителя культуры – человека, новую электронную информационную среду теперь населяют два носителя культуры: люди и боты.

Итогом названных кардинальных изменений стало то, что будущее новой «цивилизации 2х носителей культуры» теперь зависит от результатов их сетевых взаимодействий.

По каким законам будет происходить процесс сетевых взаимодействий 2х носителей культуры, пока никому не известно. Но ясно одно, - влияние на развитие мировой сети идей (знаний, мемов, мифов …) будут оказывать оба носителя культуры. Но это еще не все.

Грандиозным изменением расклада эволюционных сил может стать вот что:
- 1й носитель культуры (человек) пока что воспроизводится по старинке - биологически;
- а 2й носитель культуры вполне рукотворный, и его созданием будут заниматься кто угодно и, в том числе, преступники, тоталитарная власть, сумасшедшие маньяки …

Это значит, что распространение новостей, формирование приоритетов популярности и важности тем, влияние на рейтинги поп-звезд и политиков … и много что еще, будет формироваться в инфосети в процессах взаимодействия людей и ботов. Причем среди обоих будут злонамеренные. Но способы воспроизводства, потенциал влияния и, главное, возможности детектирования и блокировки у людей и ботов несравненно разные. Как это будут работать, и что из всего этого получится, совершенно непонятно.

Немногие проделанный эксперименты, например, показывают следующее:
А) Вирусность распространения высококачественной и низкопробной инфы, распространяемой факт-чекинговыми и отстойными источниками, примерно одинаковая.
Б) Без ботов невозможно достичь одинаковой популярности низко- и высококачественных мемов. Однако, при наличии ботов с низкой инфильтрацией и низким уровнем обмана, вполне возможно обеспечить одинаковую популярность полярных по качеству мемов.
В) Зловредные боты, подобно микробам, становятся более опасны в грязной среде. Чем больше в инфосети грязи, тем большее влияние на людей оказывают боты. Но возможно и обратное. Также как излишнее оберегание детей от грязи и микробов может со временем обернуться для них аллергией и астмой, так и с излишней стерильностью инфосети (например, «суверенной») возможно возникновение «аллергии» на качественный контент и астмы от факт-чекинга.
Г) Инфильтрация ботов является доминирующим фактором подавления качества сетевой инфы. Когда боты оказывают влияние всего лишь на 1% людей в мире, происходит резкий переход к подавлению качества (см. рисунок). И если проникновение не ниже этого критического порога, боты даже не нацеливаются на влиятельных пользователей, а наносят максимальный урона, выбирая среди людей случайные жертвы.

Последнее – жуткий пример «бото-терроризма», действующего по принципу «взорви доверие первого попавшегося, а остальные испугаются и сами поверят».

Жаль, что все исследования идут лишь на моделях и старой статистике. Эксперименты с влиянием ботов на реальных людей сдерживаются по этическим причинам, как и генетические эксперименты.
Но боюсь, что к Китаю это не сильно относится.
Подробней – Information Pollution by Social Bots

#Соцботы

​​Насколько шведы честнее нас, настолько мы честней китайцев
Эволюционные психологи расшифровывают зашитые в нас эволюцией «поведенческие программы» (ПП): страх, эгоизм, альтруизм и т.д. Но оказывается, в нас заложены еще и «поведенческие операционные системы» (ПОС), управляющие взаимодействием ПП, как ОС смартфонов управляют приложениями.
Алгоритмы ПОС намного сложнее алгоритмов ПП и пока совершенно не изучены.
Также есть гипотеза, что в отличии от ПП, алгоритмы которых примерно одинаковы у разных народов (страх и эгоизм и в Африке те же, что у нас), алгоритмы ПОС зависят от социального окружения и потому должны отличаться в разных странах.

Это решили проверить экспериментально, чтоб понять алгоритмы одного из важнейших модулей ПОС, координирующего взаимодействие трех ПП: эгоизм, самооценка и альтруизм.

Сложность этого модуля в том, что координируемые им ПП взаимно противоречивы.
Про 1ю и 3ю ПП и так понятно. А вот 2я ПП усугубляет дело, т.к. человеку всегда хочется высокой самооценки, в независимости от того, как он поступает – эгоистично или альтруистично.
Короче, пазл какой-то с разтроением личности.

Разрешить этот пазл крайне важно, т.к. на нем держится любое общество. И к слову: из продолжения моего поста про «Большого брата – сына Больших богов» (все никак не дойдут руки его дописать) вы узнаете, что интерфейсом взаимодействия Больших богов с нашим сознанием является как раз этот модуль ПОС.

Эксперимент таков.
1) В 355 городах 40 стран были, как бы, разбросаны 17+ тыс. бумажников.
2) Каждый из таких бумажников подставные лица приносили на рецпшн разных гос и частных учреждений и говорили: «Я нашел этот бумажник на улице, но очень тороплюсь. Не могли бы вы вернуть его владельцу?»
3) Содержимое бумажников было разным - с деньгами (2 варианта: $13 или $94) или без. Однако в каждом были: список покупок, ключи от дома и 3 одинаковые визитки.
4) Места передачи бумажников специально выбирали двух типов: с бросающимися в глаза камерами видеонаблюдения и без оных (дабы получающий в руки чужой бумажник знал - увидят это или нет).

Результаты исследования читаются, как триллер. Прочтете сами.
Я же о том, что заинтересовало меня.

А) Гипотеза подтвердилась. Алгоритмы модуля ПОС, координирующего ПП эгоизма, самооценки и альтруизма, в разных странах сильно отличаются. Качественные различия еще предстоит уточнять, но количественные налицо (см. рис: желтые точки – бумажники без денег, красные – с деньгами).
В результате «интегральная честность» (процент возвращенных бумажников) - у швейцарца и китайца или у норвежца и казаха отличаются в разы. Россия посредине между Испанией и Румынией. Причем мы даже почестнее, чем США и Британия (спасибо советскому прошлому!)
Б) Найден универсальный ключ в работе этого модуля - чем больше денег в бумажнике, тем выше шансы, что его вернут. Т.е. оказалось, что совесть реально мучает пропорционально сумме незаконно присвоенного.

Осталось выяснить, по какому закону растут муки совести при росте суммы незаконно присвоенного до миллионов и миллиардов.
Если найденная закономерность подтвердится, то у жуликов и воров, присвоивших миллиарды:
- либо муки совести просто непереносимые;
- либо эволюция предусмотрела в ПОС некий «выключатель совести», обезболивающий душу жуликов и воров при присвоении особо-крупных сумм.

И тогда получается, что наличие «выключателя совести» - несомненное эволюционное преимущество.

Подробней:
Исследование
Его разбор
На русском пишут Кишинев и Минск 🤔

#ЭволюционнаяПсихология