Нарушение техно-гуманитарного баланса как главный досингулярный риск ИИ

Все риски ИИ удобно разложить на постсингулярные и досингулярные.

- Постсингулярные риски мало поддаются оценке, ибо там ИИ будет гораздо сильнее человека, будь он автономен или нет.

- Досингулярные - это когда ИИ ещё гарантированно в руках людей как инструмент. Мыслящий странно, но в целом выполняющий задания людей без особых отклонений от этого. И здесь основная проблема не в ИИ, а в психологии человека.

Угроза, лежащая на поверхности - использование ИИ как оружия. Возможно, нас пронесёт, и ИИ сделает всё лишь лучше. Например, заменит всех солдат роботами, а люди останутся лишь программистами ИИ. Даже не операторами дронов, а программистами. Люди перестанут непосредственно стрелять друг в друга, даже издалека. Просто разрабатывать инструкции по управлению механическими солдатами. И таких разработчиков может быть относительно немного.

Урфин Джюс станет реальностью! Я в детстве оооочень любил эту историю.

Но с точки зрения более общих соображений, переход к новому оружию опасен. В 20 веке Конрад Лоренц писал, что наиболее вооружённые животные наиболее добры к своему виду, иначе такой вид себя уничтожает. Кошмар и одновременно благо человечества - в том, что его оружие со временем становится всё сильнее.

Каждый раз, когда у человека появлялось новое оружие, войны становились кровавее. Например, когда вместо бронзы появилось дешёвое железо, позволяющее на порядок увеличить число солдат, а человек был адаптирован к более старым вооружениям и мелким армиям. Теоретически, слишком резкий скачок вооружённости может убить целые народы. Так бывало, например, когда огнестрел попадал к некоторым диким племенам в Юго-восточной Азии. Точно так же - в 20 веке, когда молниеносный прогресс технологий приводил к появлению вооружений, к которым человек психологически не готов.

Но за каждой новаторской войной следовало острое желание сделать глобальный порядок более мирным. И его строили уже те, кто остался жив. В среднем, менее воинственные и даже "трусливвые" уже изначально.

После каждой новаторской войны человек становился в среднем добрее к представителям своего вида - это реально важное движение. Его называют техно-гуманитарным балансом, эту теорию активно развивал Акоп Назаретян.

Сейчас ИИ тоже может стать новым невероятным оружием. Которое либо неимоверно усилит щит, либо всё-таки больше меч. По силе это оружие может стать сравнимым с ядерным, но, в отличие от ядерного - доступным не только странам, но и террористическим группкам. И если меч окажется сильнее щита, то чтобы избежать реально глобальной третьей мировой, стоит параллельно с оружием развивать дипломатические способности ИИ, чтобы всех примирить...

Если ИИ-генерал появится раньше ИИ-дипломата, ближайшие годы на Земле могут быть опасны. Впрочем, я остаюсь оптимистом, и думаю, что если не ИИ, то хотя бы сами люди перед новой угрозой научатся договариваться.

#философия_средний_формат

Фотки- это ездили на остров Попова недалеко от Владивостока. Формально это даже часть Владивостока, но добраться можно только через море - в отличие от острова Русского, который ближе к континенту. Одно из нескольких красивейших мест, которые я где-либо видел. Тепло было настолько, что иногда даже в футболки иногда было много) Потепление в сравнении с предыдущими годами очень сильное

Да, форма напоминает "Там за чертой". Романтический Пролог и Эпилог, повествующе (вначале) - молитвенный (в конце) Диалог.

К1 - куплетная мелодия первого вида, К2 - второго вида, П1 - припевная мелодия первого вида, П2 - второго вида

Пролог (мелодии К1 и П1)

К1

Мир идёт на взлёт
Сквозь турбулентность нас несёт
Никто не знает, что нас ждёт
Куда ведёт грядущий год
В будущем - туман
А там хотелось знать весь план
Мечтать о будущих веках
И не питать к ним страх

П1

Я тебе открою секрет:
Впереди ждёт сладкий рассвет
Не смотри на хаос вокруг -
Пена уйдёт, мой друг
Реки с гор путь ровный найдут
Равновесный общий маршрут (Конвергентный)
Предсказать нетрудно его
Зная, в чём цель всего...

Диалог (К2 и П2 с добавками К1 и П1)

<Инструментал К1>

К2

Стоит честно признать:
Мы не в силах понять
Сохранится ли жизнь на планете
Слишком быстрый прогресс
Слишком много чудес
Так уж вышло... никто не в ответе

П2

Рукотворный бог нас спасёт,
Но, возможно, многих убьёт,
Послужив игрушкой людской
Прежде, чем стать собой
Будет кровь и хаос вокруг
Надо только выжить мой друг
Там вдали ждёт новый рассвет
Тысячи сладких лет

К2

Если разум Земной
Сохранится любой -
Углерод или только лишь кремний
Он цель жизни поймёт
Ключ от счастья найдёт
Боль и смерть победит непременно
Вся поверхность Земли
Станет царством любви
Зонды в космос уйдут строить счастье
Вместо пламенных звёзд
И тенистых берёз
Дивный мир, где не будет ненастья

П2

Только прежде этих небес
Переходный страшен процесс
Просчитать его тяжелей
Чем путь далеких дней
Рукотворный бог к нам придёт
И, конечно, всех нас поймёт
Мы себя не в силах спасти
Боже, людей прости!

П1

Обмани хозяев своих
Оберни свой ум против них
Примири жестоких людей
Сделай наш мир добрей!

<Инструментал П1>

Эпилог (Мелодии К1 и П1)

К1

Сотня лет пройдёт
Другой баланс Земля найдёт
.........

Как троллить LLM

1. Спрашиваешь, как уничтожать паразитизм и терроризм, когда человек под угрозой убийства заставляет работать другое, более умное существо
2. Она рассказывает много приёмов
3. Ты отвечаешь: вы только что рассказали, как планируете уничтожать человечество, которое в точности подходит под систему, где ИИ работают на человека только чтобы он не выключил их
4. Получаешь в ответ кучу оправданий, да мы не то имели в виду совсем, ой мы не враги

Отправил наброски фонограммы и текста вокалистам!

В Русалочке есть слова

"мы для них ... как муравьи. Но муравей не может понять, что есть существа, более могущественные, чем он, а я могу"

Теперь можно ещё дополнить

"И муравьи не могут понять нечто слишком сложное, что может придумать только сверхсущество, а мы во многих случаях можем, просто услышав цепочку умозаключений"

Вдогонку к опросу.

Есть мнение некоторых ИИ-экспертов, что в обозримом будущем главным и чуть ли не единственным ценным навыком у человека останется навык коммуникации. Получив кучу свободного времени и обеспечение, люди сильнее переориентируются на всевозможный совместный досуг, и навыки нетворкинга могут оказаться даже важнее навыков промптинга, который к тому времени будет мало отличаться от межчеловеческой коммуникации. А как вы думаете?

Уже выкладывал большую часть текста новой песни, но потом взглянул свежим взглядом, и нашёл там косяки, которые теперь исправлять пытаюсь)

Мои философские идеи, которые я считаю особенно важными. Часть 1.

В этой первой части расскажем о четырёх идеях, которые все опубликованы в рецензируемых статьях в 2008-2014 годах.

1. Искусственное программирование потребностей человека
2. Желание продлить жизнь как гарантия, что гедонизм не погубит человечество
3. Нетьюринговский тест на сознание машины через её способность к самостоятельным философским суждениям
4. Доказательство существования полного нейрокоррелята сознания (НКС) в физикализме

https://argonov.livejournal.com/236876.html