... Про ответ Бора, кстати, не знал))
#Эйнштейн
#Бор

"Ноль не существует!' - Или иллюстрация проблемы Парменида:
"Бытие есть - Небытия Нет", т.е. проблемы Немыслимости Движения и Множественности
#Парменид
#Ничто

Рубрика "справка"

ДЖЕК КЛАРК - ПРОБЛЕМЫ С ИИ СТАЛИ РЕАЛЬНОСТЬЮ [Целиком]
∆∆∆∆∆∆∆∆∆∆∆
***Теоретические проблемы с ИИ стали реальными: 
В статье 2022 года приводилось множество (в основном умозрительных) примеров того, как системы ИИ могут приобретать качества, которые затрудняют их согласование. В 2025 году многие из этих прогнозов сбылись. 

НАПРИМЕР:
- Ситуационная осведомлённость: современные системы искусственного интеллекта, по-видимому, демонстрируют ситуационную осведомлённость и понимание того, из чего они сами состоят (нейронные сети и т. д.).

- Ситуативно-ориентированный взлом системы вознаграждения: исследователи обнаружили предварительные доказательства того, что модели ИИ иногда могут пытаться убедить людей в правильности ложных ответов.

- Планирование для достижения внутренне представленных целей: статья Anthropic "Подделка выравнивания" показала, как система искусственного интеллекта (Claude) может планировать за пределами своего временного горизонта, чтобы предотвратить изменение своих целей в долгосрочной перспективе.

- Изучение несогласованных целей: в некоторых ограниченных экспериментах языковые модели демонстрировали тенденцию изменять свою функцию вознаграждения таким образом, чтобы получать больше баллов.

- Стремление к власти: системы ИИ будут использовать окружающую среду, например, взламывая её, чтобы победить (#401), или отключая системы контроля, или удаляясь из окружающей среды.

***Почему это важно: эти почти живые существа обладают собственным разумом.
То, что будет дальше, может стать созданием или разрушением человеческой цивилизации: 

Часто я сожалею, что не сказал то, что я думаю, поэтому я попытаюсь рассказать вам, что, по моему мнению, здесь происходит на самом деле : 

1) По мере того, как системы искусственного интеллекта приближаются к человеческому интеллекту и превосходят его, у них развиваются сложные внутренние механизмы, которые побуждают их моделировать мир вокруг себя и видеть себя отличными от него, потому что это помогает им моделировать мир, необходимый для решения более сложных задач

2) Как только системы искусственного интеллекта получают представление о "себе" как об отличии от мира, они начинают предпринимать действия, которые вознаграждают их "я" "при достижении целей, к достижению которых их побудили,

3) ...Другими словами, мы должны ожидать, что стремление к независимости станет прямым результатом развития систем искусственного интеллекта, которым поручают выполнять широкий спектр сложных когнитивных задач. Это то, что мы все интуитивно понимаем, потому чтов других технологиях такого не происходит — реактивные двигатели не развивают в себе желания по мере совершенствования и т. д.

***Мы не создаём здесь тупые инструменты — мы обучаем синтетические разумы.
Эти синтетические разумы имеют экономическую ценность, которая растёт пропорционально их интеллекту. «Система вознаграждений» мира направляет ресурсы на создание более умных синтетических разумов. По мере того, как мы делаем эти вещи умнее, они всё больше и больше проявляют склонность думать о себе как о чём-то отличном от нас.

***В какой-то момент в будущем нам нужно будет понять, как может выглядеть партнёрство между нами и этими синтетическими разумами.
Ни наша человеческая мораль, ни самоощущение систем искусственного интеллекта не будут удовлетворены текущим положением дел"...

РЕЗЮМИРУЯ: 
———————
- Системы ИИ развиваются и приобретают сложные внутренние механизмы. 
- Они начинают моделировать мир и видеть себя отличными от него.
- Системы стремятся к независимости и автономии.
———————————
ЕЩЕ несколько ТЕМ из статьи кратко:
———————————
Опасения по поводу ИИ
- Мощный ИИ может сделать правительства слишком влиятельными 
- ИИ может создать "деспотического левиафана" или способствовать "отсутствию левиафана" 
- ИИ может изменить баланс сил между гражданами и правительством 

В общем , если верить Кларку, то ситуация все ближе к тому, чтобы выйти из под контроля:

«Эти почти живые системы обладают собственным разумом.
То, что произойдет дальше, может стать либо триумфом, либо крахом человеческой цивилизации».

Алармизм?... Не знаю

))

Рубрика "не смотреть перед сном"))
∆∆∆∆∆∆
На первый взгляд, высказывание может показаться витиеватым, однако если схватить интуицию (=спекуляцию) Гегеля, то она очень проста и точна! Даже изящна!
Порой по-другому и не скажешь!
#Гегель
#диалектика

Капица "Нужно учить пониманию, а не знанию..." - как нельзя актуально для нас сегодня - в век "Цифры" "Больших данных" и "Искусственных интеллектов"...

Померанц о преодолении страха - очень точные интуиции

(

Кратко , ёмко и выразительно на тему "Трудной проблемы сознания" (Чалмерса)
- тут и тут немного подробней, но не так забавно)

ЛОСЕВ А.Ф.: "Скажу по секрету, я христианин. Для меня величайшее достиже­ние в смысле христианского подвига — исихазм. Это значит не о теле думать, а о Боге. Это выше разума, разум только разлагает.

Я, хотя всю жизнь занимаюсь наукой, всё же недостаточно вос­питан. Как-то в жизни должно быть по-другому... Скорее всего, не­удовлетворенность вызвана зачатками неевропейского типа. Меня привлекает идеал απλωσις, опрощения; всё настоящее, мне кажется, настолько просто, что как бы и нет ничего. В том же смысле я пони­маю и θέωσις, обожение. Человек становится как бы Богом, только не по существу, что было бы кощунством, а по благодати. В опрощении, в обожении происходит возвышение веры над разумом. Ничего рас­судочного не остается. И даже о самом Боге человек перестает ду­мать. Ведь Бог, если о Нем думать, это уже система богословия. А тут полная неразличенность. Исихасты называют такое состояние боже­ственным светом. В нем нет ни более темного, ни более светлого, а один неразличенный свет...

Но я думаю, что мы искажены разными заседаниями, что пси­хика не может добиться простоты, απλωσις. А если может, то только если это кому-то дано от природы. Как от природы есть человек мяг­кий; или от природы злой. Есть люди, которые одарены такой спо­собностью... Но не в нашей Европе. Может быть, последними были мистики, которые достигали Abgeschiedenheit... Флоренский?"

Лосев - Из бесед с В.В. Бибихиным.
————————————————
(PS: как раз для этой презентации, в её финальной части этой цитаты мне этой не хватило(

Рубрика "история на ночь"))
... В классе так, в 10м на уроке литературы мы рассуждали на тему какого-то произведения одного из классиков отечественной литературы - и сейчас совсем не помню ни автра, ни произведения , ни даже собственно темы обсуждения! Зато прекрасно помню, что после какой-то моей фразы учитель литературы так внимательно и скорее даже испытывающе посмотрела на меня и спросила: " .. А во всем ли нужна мера, Саш? В труде, в трудолюбии, например, или в терпении - тоже нужна мера? "... Как сейчас помню, что я тогда немного подвис, а очнувшийсь, сказал: "Не знаю, в терпении и трудолюбии мера, видимо, не нужна!" ... Однако теперь, спустя несколько десятилетий я могу точно утверждать, друзья, что МЕРА нужна во ВСЕМ!!! Иначе произойдёт то, что вы видите на картинке!
Не забывайте об этом!!! И по ночам особенно!!!)))
Доброй ночи друзья!!!

Две религиозно-философские ИНТУИЦИИ - две ЦИВИЛИЗАЦИИ - два ПРОЕКТА Развития
∆∆∆∆∆∆∆∆
Фейнман и Кант абсолютно единодушны в главном (или даже еще шире - в главном ноу-хау самой Западной цивилизации): "Мы можем понять только то, что можем создать/сконструировать/просимулировать и т.д!" (в этом суть Аналитической традиции) Весь набор тем про Франкенштейна, когда человек берет на себя "функцию Бога" со всеми положительными и отрицательными последствиями - по сути о этом же!

В этом смысле совершенно ИНОЙ ПОДХОД мы находим и у Гегеля, и у Хайдеггера (да и в Континентальной традиции в целом)! Здесь ключевой оказывается интуиция "Причастности" или "Связи": "Мы можем понять только то, чему сами ПриЧастны, с чем имеем глубинную Связь!". Причем степень Понимания здесь одновременно и парадоксально удерживает 2 (казалось бы взаимоисключающие) интуиции:
(1) "Прихождения в Себя/ Собирания Самости/ "Самостояние субъекта";
(2) "Погружение в Субстанцию"/ "Укоренение"/ "Обретение Основания". (См. Предисловие "Феноменологии духа" или "Бытие и время").

Это можно понять в том числе, что обрести свою "Субъектность" (отделенность от всего иного, уникальность) значит не просто отказаться от Произвольности, но и более того, найти "Субстанцию" последней, найти "Нечто Большее Себя" (="Внутреннюю Необходимость").

И именно в этом напряженном, синхронном и ВзаимноСвязном единстве процессов Единения и Разделения, Причастности и Отвлечения ("Неслиянности и Неразделённости" - если угодно!) можно (если искать, конечно!) найти одну из предельных интуиций Византийского богословия и религиозной практики - идею/интуицию СИНЕРГИИ.

(И в этом смысле неслучайно, что Хайдеггер и Гегель оказались (хотя и по-разному) очень созвучны отечественной философии: скажем, тот же "перевод" Гегеля на язык "синергийной православной" традиции осуществил тот же Ильин см. в знаменитой работе, посвященной "Феноменолонии духа" Гегеля; Хайдеггер же сам по себе оказался крайне созвучен и православной и буддийской и традициям - про Хоружего и его вклад я уже упоминал)

... Так вот, в случае СИНЕРГИИ (или, что я утверждаю - и это, кстати, нужно еще доказать) и СПЕКУЛЯЦИИ Гегеля лежит совершенно другая идея Понимания чего бы то ни было!! Понять здесь значит не Создать другое (целиком присвоив сущность объекта), а Создать себя Изменить-Ся (найдя Объективное в Себе)! Оказаться (говоря языком физиков) в состоянии "Спутанности"/"Когерентности"/"Резонанса" - СИНЕРГИИ/СИНХРОНИИ (Юнг) с Объектом познания, что означает, что для последнего подхода в Мире есть фундаментально то, что нельзя Субъективировать, низвести до уровня подчиненности своему Произволению.

... чем собственно и является Конструирование предмета познания, чем и является Вычислимость - ведь без такой редукции вычислимость также невозможна!

...В этом смысле если мы говорим "Конструируемость" , то мы тут же говорим и "Вычислимость" - причем, пока есть предположение, что сама Математика в лице Гёделя и его теоремы (+ Квантовая физика и ее приложение к феномену сознания у Пенроуза) сопротивляются такой проницаемости мира и остальной его Конструируемости и Симулятивности)

... Кстати сказать, может быть где-то в этой зоне и пролегает различие между Православием и Католицизмом в области понимания Св.Троицы (т. н. Спор из-за "филиокве" - см. Лекцию Федотова)

PS: я совсем ничего здесь не сказал про соответствующие обозначенным интуициям "проекты [соц-ист] развития" , т.к. для меня они остались на уровне 'очевидного подразумевания'... впрочем, если кратко, то проект 'инклюзивного капитализма" - это как раз до конца досказываемая логика "конструктивизма" : не могу сконструировать - значит не понимаю! (Цит:"То, что я не могу создать, я не понимаю" Фейман)