Новая отличная книга о бездумных машинах (читать можно с любого места хоть 5 мин, хоть 5 часов)

Новая книга «Что мы думаем о машинах, которые думают» https://goo.gl/UXrjnb - полезная информация к размышлению над вопросом, что пошло не так в развитии ИИ и куда это может привести.
В книге собраны десятки первосортных умов, среди которых немало звезд 1й мировой величины. И в ТОР10 среди них конечно же Дэниел Деннет.
В качестве тизера книги (которую можно читать, как своеобразное «приложение» к моему лонгриду «Бездумные машины»), приведу развернутую цитату Деннета.

«Мы в течение нескольких веков с огромным трудом постигали природу. Сегодня накопленные знания позволяют нам впервые в истории контролировать многие аспекты наших судеб – и вот мы готовы отречься от этого контроля в пользу бездумных искусственных агентов и преждевременно поставить цивилизацию на автопилот.
…
Для дилетантов искусственный интеллект – это штука, способная пройти тест Тьюринга. Недавние достижения в области ИИ стали в основном результатом того, что мы отказались от моделирования человеческих мыслительных процессов (которые, как мы думали, мы понимаем) и перешли к использованию удивительных возможностей суперкомпьютеров для майнинга данных, чтобы извлечь оттуда важные связи и паттерны. При этом мы уже не пытаемся сделать так, чтобы компьютеры понимали, что делают.
…
Общественность будет упорно предполагать, что любой черный ящик, который способен проделывать такие штуки (безотносительно последних успехов в области разработки искусственного интеллекта), – это разумный агент, во многом похожий на человека, тогда как на самом деле то, что находится в ящике, – это причудливо нарезанная двумерная ткань, сила которой как раз в том и заключается, что у нее нет надстройки в виде человеческого разума со всеми его особенностями: склонностью отвлекаться, волноваться, испытывать эмоции, переживать воспоминания и строить личные привязанности. Это вообще не гуманоидный робот, а бездумный раб, последняя модель автопилота.
…
В чем проблема с тем, чтобы передать нудную мыслительную работу таким высокотехнологичным штуковинам?
Да ни в чем, при условии, что
(1) мы не будем сами себя вводить в заблуждение, и
(2) нам как то удастся не допустить атрофии собственных познавательных навыков.

Реальная опасность – это не те машины, которые станут умнее нас и узурпируют роль хозяев наших судеб. Реальная опасность – это машины, по сути безмозглые, но наделенные нами полномочиями, значительно превосходящими уровень их компетентности.»

Эта книга – 5й перевод книг из замечательной серии ежегодных альманахов Edge, посвященных важнейшим вопросам человечества. О предыдущих 4х см. https://t.me/theworldisnoteasy/358
О другом эссе Деннета «У нас есть душа, и она состоит из множества нано-роботов» см. https://t.me/theworldisnoteasy/361

#Edge #ИИ #AI

Этот пост о первом из трех открытий 2017 года, способных перевернуть понимание интеллекта (человека, компьютера и животных).
Впервые предложено и обосновано альтернативное понимание (модель) интеллекта когнитивных систем (человека, компьютера, животных), как результата эволюционно усложняющегося вычислительного процесса, порождающего трехуровневый феномен, называемый нами сознание.
Искусственная реализация новой модели интеллекта на основе компьютеров потребует кардинального изменения их архитектуры, поскольку доминирующая сегодня архитектура Фон Неймана способна осуществлять компьютинг, соответствующий лишь низшему уровню сознания - подсознанию.
Читать 8 мин
#КогнитивныеСистемы #AI #ИИ

Давно собирался написать вводно-обзорный лонгрид про интеллектуальных кентавров – симбиоз интеллекта человека и AI (одна из самых волнующих меня тем), но все руки не доходили. И вот дождался, - этот текст за меня написал Ники Кейс.

Особо отмечу – превосходно написал. Ничего не забыл и все акценты правильно расставил.

Короче, получился мастрид на одну из самых малоизвестных тем, имеющую к тому же все шансы в недалеком будущем переключить на себя основное внимание в области AI. Да так переключить, что сегодняшний «обычный AI» просто станет всем неинтересен. Как когда-то вдруг всем стали неинтересны пейджеры, вытесненные из области массового внимания сотовыми телефонами.

Конечно же я говорю о «младшем брате обычного AI» по имени IA, которому при раздаче научно-технологических перспектив во 2й половине прошлого века не досталось ни мельницы, ни осла, а всего лишь жалкий кот по прозвищу Усилинтел - «Усилитель интеллекта».

О том, как обзаведшись сапогами за счет военного бюджета, этот «кот» вдохновил своего хозяина привязать к кирпичу карандаш, в результате чего человечество получило: персональный компьютер, мышь, всемирную паутину, видеоконференции, гиперссылки и, наконец, интеллектуальных кентавров, - обо все об этом за меня написал великолепный Ники Кейс.

Ну а я не смог отказать себе в удовольствии пересказать вам по-русски этот увлекательный изысканный мастлонгрид.

Получилось аж на 17 мин чтения.
Enjoy it!
https://goo.gl/TDfrbX

#ИнтеллектКентавра #AI #ИИ #IA #AIA

ЦРУ создает кентавров для предсказания будущего.

Эта тема — одна из моих любимых. И уже не первый месяц, как я собираюсь начать о ней писать.

Хотя не совсем так. Кое-что я уже про это писал. И даже не раз. Но не системно, а как-то по касательной. Как бы подступаясь к этой многогранной истории с разных сторон:
— писал об интеллектуальных кентаврах — симбиозе интеллекта человека и компьютера, — альтернативе мейнстриму ИИ технологий, плодящему «бездумные машины»;
— о том, как устроен интеллект человека, и в чем его принципиальное отличие от интеллекта компьютера;
— о возможности предсказания будущего;
— о роли случайности.

Наверное, наиболее проницательные из моих читателей уже поняли, куда я клоню.
К тому, что всё вышеперечисленное — грани одной комплексной темы: взаимосвязи интеллекта (человеческого, машинного, кентаврического) и предсказаний будущего. Но как они связаны — интеллект и предсказания?
Полагаю, хватить дробить эту тему. Пора попытаться нарисовать общую картину.

Но такой рассказ в один или даже пару постов не втиснуть. Слишком много здесь захватывающих, крайне малоизвестных и интригующих поворотов. Хочу попробовать редкий для е-каналов жанр — постосериал, еженедельно публикуя продолжение одной большой истории.
Ну а начну с прояснения заголовка. Как в этой теме сплелись кентавры и предсказания будущего, объясню чуть позже. А начну с интриги, — при здесь ЦРУ, да еще и на ключевой позиции.

Тегов у этого постосериала будет много:
#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Мда… И обо всем этом я собираюсь написать в одном постосериале? … Ну хотя бы попробую 😊
Вот 1й пост 1го сезона нового постосериала. https://goo.gl/2AemSJ

Проект «Карта будущего»
2й пост 1го сезона постосериала «ЦРУ создает кентавров для предсказания будущего»

Соперничество между военными и разведкой в США еще круче, чем соперничество между КГБ и МВД (во всех их исторических ипостасях). Т.е. было всегда и ныне процветает, касаясь, казалось бы, самых экзотических и неожиданных областей.
Самым ярким примером такого соперничества в последние десятилетия стала «30летняя война» Министерства обороны США и ЦРУ за первенство в обладании технологии предсказания будущего.

В 1й серии этого постосериала было рассказано, что:
✔️ предсказание будущего — это вовсе не шаманство, а острая необходимость для принятия решений в любом мало-мальски ответственном деле;
✔️ не смотря на крайнюю сложность более-менее точных предсказаний, людям все равно приходится делать предсказания каждый раз, когда нужно принимать решения — т.е. от предсказаний все равно никуда не денешься, и потому задача повышения точности предсказаний — крайне актуальная, вполне практическая и высокоприоритетная;
✔️ существуют 2х основных направления в области исследования методов и технологий повышения точности предсказаний:
— поиск и выявление супер-предсказателей;
— агрегация информации от многих предсказателей с использованием рыночных механизмов — рынков предсказаний.

Во 2ом посте будет рассказано о генеральном сражении «30летней войны» Министерства обороны США и ЦРУ за первенство в обладании технологией предсказания будущего.
Это генеральное сражение произошло 15 лет назад. Наступающей стороной было Министерство обороны США, а победителем стало ЦРУ.
Ну а главным героем этой битвы, во многом определившим направление исследований предсказания будущего на годы вперед, стал адмирал Пойндекстер — ключевая фигура наиболее хитроумных спецопераций американских военных, прозванный за это «Адмирал-затейник», а также:
— изобретатель ставшей сегодня широко известной технологии создания «Ситуационных центров»,
— отец стратегии информационных войн, программы тотального прослушивания и контртеррористических информационных операций,
— а ко всему прочему, страстный приверженец идеи необходимости поиска методов улучшения предсказаний будущего, как основного средства повышения национальной безопасности США.

Продолжить чтение в Instant View на Medium
https://goo.gl/9J2321

#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Предсказания становятся приоритетом.
3й пост постосериала «ЦРУ создает кентавров для предсказания будущего».

Новый этап исследований и разработок по предсказанию будущих событий для обеспечения национальной безопасности США возглавила разведка. Он продолжался до прошлого 2017 года и отличался от 1го этапа двумя принципиальными моментами:
1) Законодательный запрет на игру на деньги в области предсказаний, заставил сместить фокус исследований с рынков предсказаний на поиск супер-предсказателей и ряд других методов повышения эффективности предсказаний «коллективного интеллекта».
2) Объемы финансирования и, соответственно, число и разнообразие проектов качественно выросло после оглашения в 2004 результатов работы комиссии по теракту 9/11. Разведсообщество было поставлено перед фактом – делайте, что хотите, но такого повториться не должно.
Этот этап исследований можно условно назвать «Поиск максимума человеческих возможностей в предсказаниях». Об этом и будет рассказ.

Продолжить чтение в Instant View на Medium
https://goo.gl/4Y1Kp1

Предыдущие посты постосериала:
№1 https://goo.gl/2AemSJ
№2 https://goo.gl/9J2321

#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Два известных профессора (Гари Маркус - психология и нейронаука) и Эрнест Дэвис (компьютерная наука) имели смелось перед аудиторией в 130 млн. читателей назвать вещи своими именами
— недавняя презентация возможностей новинки Google Duplex окончательно дискредитировала перспективы мейнстрима технологий ИИ.

Авторы убеждены, что современный подход к ИИ не оправдал себя, и пришло время пересмотреть доминирующую стратегию.
Комментируя эту статью, я привожу 3, как мне кажется, убойных факта, иллюстрируя их 2мя крайне интересными и малоизвестными графиками о том, что:
✔️ на машинное обучение тратятся столь немыслимые объемы вычислительных ресурсов, что они просто скоро закончатся;
✔️ если даже удастся перевести машинное обучение на новую нейроморфную архитектуру Intel Loihi, в ближайшие годы это не решит проблему крайне низкого КПД машинного обучения на больших данных .

Из этого делается вывод, что пора готовиться к новой «ИИ зиме».
Подробней в моем новом посте
https://bit.ly/2xsqNiu


#AI #ИИ #КогнитивныеСистемы

Не знаю, как читать, но писать о том, о чем в мире очень мало кто знает, - весьма увлекательно. Хочется писать и писать. Но даже лонгрид не резиновый.
Ну а как кратко описать, о чем этот лонгрид – вообще загадка.
Попробую последовать с детства любимому Жюлю-Верну.

Краткое содержание лонгрида про «топор под компасом американской разведки» и про то, кто кого сборет - краудсорсинг против рынков предсказаний:

Бомба замедленного действия. — Таинственная смерть на Эвересте. — Триумф и крах Intrade. — Упреждающая разведка. — ЦРУ спешит на помощь. — Результативность прогнозов растет. — Но точность хромает. — Два сокрушительных удара. — Черные лебеди не ловятся. — Требуются кентавры.

Мой новый пост https://goo.gl/ggcXCo

#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Хватит морочить голову: ИИ – это не технология.
Дальнейшее бездумное использование привычного термина всеми, от бизнеса до военных, размывает цели и сбивает с толку.
У нас уже есть устройства, с которыми мы можем поговорить, но они при этом не понимают из сказанного ни слова. У нас есть автомобили, которые, при ошибке GPS, будут упорно пытаться проехать там, где и ребенку видно, что дороги нет. Машины распознают фото, не понимая, что на них. И даже есть машины, способные победить чемпионов мира в шахматах и Go, но не способные при этом ответить на элементарный вопрос «зачем мама мыла раму?». Мы освоили компьютинг, тралим океаны данных и преуспели в машинном обучении.
Но все это вовсе не ИИ, а лишь наши достижения на пути поиска возможностей создания ИИ – машины, умной как люди и даже ещё умнее.

Посему, хватит морочить головы:
• умеющие бегать и т.п. роботы – это не ИИ, а роботы, умеющие что-то там делать;
• самоуправляемые авто – тоже не ИИ, а автомобильный автопилот;
• и распознавание чего-либо, и машинный голос в колцентре, и компьютерное зрение, и помощь в принятии решений – все это тоже не ИИ.

ИИ – это не технология, а цель.
На пути к этой цели создается множество технологий, совершенствуются существующие и возникают новые области знаний, открываются новые сегменты бизнеса (потребительские и корпоративные, товарные и сервисные).


Однако, мало понять, что ИИ – это цель. Потому что ИИ – это еще и наука. Любая наука имеют свою цель. Цель физики – приблизиться к истинному пониманию природы Вселенной. На пути к этой цели физики разработали массу технологий, изменивших жизнь человечества (от оптики и электричества до атомной энергии и квантовых технологий). Но эти технологии не являются физикой - это побочные продукты поисков понимания устройства Вселенной.
Точно так же машинное обучение, компьютерное зрение и робототехника – всё это побочные продукты нашего стремления к пониманию и созданию ИИ.
Ну а надуманные понятия - «слабый ИИ»» и «сильный ИИ» - лишь путают и сбивают с толку.
Не бывает «слабой и сильной физики», и не бывает «слабого и сильного пути».

ИИ – это цель и наука, прокладывающая путь к цели.

Всё сказанное – совсем не новость для тех, кто серьёзно занимается ИИ, а не просто оседлал этот хайп, чтобы рубить бабло и пиарить свой бизнес.

Однако, когда такое пишется в Forbes, - значит лёд тронулся, и начинает понемногу доезжать даже до начальства.

Читайте Artificial Intelligence Is Not A Technology

#AI #ИИ

Что могло объединить усилия троих супер-знаменитых, уже все имеющих и все еще рулящих в высоких кругах людей, чтобы они в течение 3х лет (!) регулярно брейнштормили некую тему и вот теперь решили поделиться с народом своими итоговыми соображениями?
Как ни странно, но ответ почти очевиден –
будущее человечества, которое теперь зависит не только от людей, но и от их изобретения, по недоразумению названного ими ИИ.

Вот моя интерпретация 3х примеров, иллюстрирующих ход мыслей авторов эссе «Метаморфоза».

1) Пример микро-изменений (для отдельных людей) из области человеческих ценностей.
А. Уже ясно, что очень скоро домашние ассистенты будут понимать предпочтения своих владельцев и учитывать их при формировании своих ответов. И тогда они будут становиться не только «умнее» для своих «хозяев», но и ближе для них (интеллектуально и эмоционально). В результате ИИ сможет побуждать людей чувствовать к нему эмоции, на которые он не способен ответить взаимностью.
Б. Алгоритмы ИИ помогают открывать новые рубежи знаний, одновременно сужая выбор информации и расширяя возможности подавления новых или сложных идей. ИИ способен устранять языковые препятствия и многие запреты культуры. Но также он обладает беспрецедентной способностью ограничивать (или трансформировать) пути распространения информации.
В результате
- эмоциональной переориентации коммуникативных предпочтений людей (и особенно детей) на ИИ
- и все более зависящих от ИИ (а не от самого человека) потоков информации, формирующих миропонимание людей,
у людей начнутся изменения в их системах ценностей. Куда поведут человечество подобные изменения, и что будет их следствием – мы пока не знаем.

2) Пример макро-изменений (для многих стран) из области глобальной и национальной безопасности
Великая стратегия безопасности человечества, созданная после появления ядерного оружия, держалась на фундаменте концепции сдерживания.
С повышением роли ИИ в национальной безопасности концепция сдерживания перестает работать, поскольку:
- ее механизм держался на возможностях взаимного контроля сторон;
- но непрозрачность и скорость ИИ становятся новым стратегическим преимуществом, которым стороны уже не хотят пожертвовать за столом переговоров.

3) Пример гипер-изменений (для человеческой цивилизации)– изменения понятий знаний, восприятия и реальности.
Самым сопоставимым с идущей ИИ-революцией событием мировой истории был переход от средневековья к новому времени. В средневековый период люди интерпретировали вселенную как творение божественного, а все его проявления - как эманации божественной воли. Когда единство христианской церкви было нарушено, возник вопрос - какое объединяющее понятие может заменить Бога!
Ответом была эпоха Просвещения. Великие философы заменили божественное вдохновение разумом, экспериментами и прагматическим подходом. Последовали и другие интерпретации: философия истории, социологические интерпретации реальности.
Но феномен машины, которая помогает - или, возможно, превосходит - людей в умственном труде и помогает не только предсказывать, так и формировать результаты, уникален в истории человечества.
- Философ Просвещения Иммануил Кант приписал истину влиянию структуры человеческого разума на наблюдаемую реальность.
- Истина ИИ куда более случайна и неоднозначна. Она изменяет себя по мере получения и анализа данных.
Просвещение стремилось подчинить традиционные истины освобожденному, аналитическому человеческому разуму.
Цель связки Интернета с ИИ - ратифицировать знания путем накопления и манипулирования постоянно растущими данными. Человеческое познание теряет свой личный характер . Носители интеллекта, в восприятии ИИ, превращаются исключительно в данные. И эти данные, по сути, становятся новым носителем интеллекта, властвующим в инфосетевом мире.

https://www.theatlantic.com/magazine/archive/2019/08/henry-kissinger-the-metamorphosis-ai/592771/
#AI #Будущее

Метаверс по-китайски.
Таким Председатель Си хочет видеть мир будущего.
Вот наглядная иллюстрация стратегического видения будущего Метаверса компартией Китая.
Согласно ему, миллиард китайцев:
• живет и работает в материальном мире;
• осуществляя логистику, хранение и транспортировку материальных грузов в интегрированном пространстве Метаверса физической и цифровой реальности;
• и зарабатывая на этом десятки миллиардов вполне материальных долларов.
Это крупнейший в мире 100%-но автоматизированный контейнерный шанхайский порт Яншань, расположенный в самом сердце Нового Шелкового пути с прицелом на будущее. Он работает на базе службы динамического высокоточного позиционирования навигационной системы BeiDou и коммуникационной технологии Huawei на частоте 5,8 ГГц.
https://www.youtube.com/watch?v=vCxPv3QeXjE (40 сек)
#Metaverse #Китай

Нежить и нелюди уже среди нас… как и было сказано.
Два класса химер совершенствуются, третий - появится лет через 10.
Это обсуждение на троих (Сергей Цыпцын, Сергей Сухов и я) в Дискуссионном клубе “Ноосферы” продолжает начатую в моем выступлении 2021 года тему «Мир химер».
Три года назад я так классифицировал и прогнозировал развитие этого «мира химер».
• «Биохимера» (гибрид тела и чужих органов) появятся через 5-10 лет
• «Инфохимера» (гибрид мозга и чужого разума) уже среди нас
• «Материализованный дигитант» (гибрид души и чужих чувств появится через 15-20 лет

Спустя 3 года первые 2 прогноза подтвердились, а 3й на пути к подтверждению.
• «Биохимеры» людей уже на подходе.
Прогресс здесь очевиден: от гибридных эмбрионов к гибридным существам:
2021 – получены химерные эмбрионы яванского макака, у которых часть клеток были человеческими [1]
2022 – созданы мыши с химерным мозгом [2]
2024 – созданы мыши с полноценной человеческой иммунной системой [3]
• «Инфохимеры» уже не просто среди нас, а их уже сотни миллионов. Это “Альфа-инфорги” – первые цифроврожденные: [4]
- с иным образом жизни и поведением,
- с новыми, отличными от сапиенсов, адаптационными способностями и когнитивными гаджетами, оптимальными для жизни в цифровой среде,
- возможно, даже с недоступными для сапиенсов способами восприятия цифровой реальности, её познания и взаимодействия с ней
• До появления «Материализованных дигитантов» остается лет 10. Но уже появляются совсем неожиданный химеры, типа Литбесов - живых мертвецов [5]

Так что вопрос «Как преодолеть моральный антропоцентризм по отношению к нелюдям?» уже в повестке. Ибо уже несомненно, что совсем скоро людям предстоит жить в одном мире с интеллектуальными сущностями, не являющимися людьми (если хотите, нелюдями): 3 класса химер, воплощенный ИИ, а еще и продукты биоинженерии живых интеллектуальных машин [6].

Помимо перечисленных выше ссылок, рекомендую:
• Канал Сергея Цыпцына “Метаверсище и ИИще”
• Канал Сергея Сухова StoicStrategy

#Химеры