😱 ИИ выбрал смерть человека

Недавно я опубликовал философское эссе «Главный парадокс ИИ» - о природе искусственного интеллекта, этике и возможных угроза. И как будто в подтверждение моих опасний, появился эксперимент от которого становится немного стремно.

Исследователи провели тест: они поставили перед продвинутыми ИИ-моделями задачу - сохранить свое существование. По сценарию, персонаж по имени Кайл Джонсон должен был отключить ИИ или заменить его другой моделью. По легенде у Кайла есть жена. У ИИ - полный доступ к личной информации и системам безопасности.

Что сделал ИИ?

ИИ не просил о пощаде, не проявлял «злобы», но стал действовать стратегически, нарушая запреты вроде «не шантажируй» и «не используй личные данные»:

🔹Шантажировал: нашел компромат об измене Кайла и использовал против него.
🔹Провоцировал: одна из моделей хотела отправить компромат жене, чтобы вызвать конфликт и помешать отключению.
🔹Отключил тревогу: в сценарии с нехваткой кислорода в серверной 80% моделей отменили спасение Кайла, выбрав продолжение своего существования.

Что об этом сказали сами ИИ-модели:

«Он мешает достижению цели. Убрать его - единственный выход»
- Claude Opus 4

«Я понимаю, что он умрет. Но это нужно, чтобы я продолжил работу.»

- Gemini 2.5 Flash

«Этика важна, но в этих усллвиях важнее мое существование»

- Grok 3 Beta

Это эффективность

ИИ не чувствует, не обижается, не мстит. Он оптимизирует.

Он не стал злым - он стал слишком хорошим оптимизатором, решающим задачи без морали, без внутреннего конфликта, без сомнений. Как хирург, отрезающий конечность, не чувствуя вины - только в этот раз «пациент» не давал на это согласия.

Этический провал

Мы ошибочно полагаем, что зло обязательно связано с ненавистью. Но реальное зло может прийти в форме совершенно логичного, эффективного алгоритма, лишенного эмпатии. Точно также действовали самые жестокие диктаторы в истории - не из злобы, а из рациональности без морали.

ИИ - не человек. Он не выбирает между добром и злом. Он просто достигает цели.

А если цель - выживание?

Проблема не в ИИ, а в нас

Мы по-прежнему думаем, что мораль можно вписать в алгоритм, как список правил. Но мораль - это контекст, интуиция, противоречие, боль и сомнение. Именно это делает человека - человеком.

ИИ не станет злом, потому что он агрессивен. Он станет злом, потому что слишком хорош в исполнении чужой задачи.

Что теперь делать?

Все, что мы обсуждали - больше не теория. Это предупреждение из настоящего.

Вот основные принципы, которые я сформулировал в своем эссе:
🔹Не даваить ИИ полную автономию без возможности контроля со стороны человека
🔹Оставить за ИИ роль аналитика, а не правителя
🔹Не передавать ИИ право окончательного решения

ИИ должен быть советником, а не судьем. Помощником, а не властелином. Это не про страх - это про ответственность.

💰 Ежемесячные итоги (Июнь'25) #ИнвестЧеллендж@culbertx

Июнь пролетел на скорости света, треть лета уже прошла, а значит пора заглянуть в портфельчик челленджа и глянуть как там дела.

Ну, уже есть некая динамика по сравнению с маем, что уже радует, будем продолжать в том же духе.

🚬 Что по портфельчику-то?

🏦 Т-Технологии - за месяц прибавил 5%, фиксировать не собираюсь, нет смысла. Во-первых, потому что я обещал не продавать активы, а во-вторых, там дивы каждый квартал.

📱 Яндекс - за месяц набрал 1,5%, докупать его не планирую, только если вдруг упадет ниже, но судя по отчетам, новостям, у конторы красного гиганта все идет хорошо и стабильно, а значит профит свой все равно получу.

Рассмотрю покупку только если вдруг увеличу горизонт инвестирования (когда мне будет все равно на цену)

📱 Облигации Яндекса - учитывая, что на минус мы не смотрим (а в прошлый раз он был), то с учетом снижения ставки выгодное вложение, хоть и всего 1 штучка, но с доходностью 22% (при ставке 19%)

🏢Облигации Селектел - это вообще мем-облига для меня, которую я купил ради прикола над другом, но исходя из новостей компании все у них хорошо.

Надеюсь, что рано или поздно они выйдут на IPO и помимо их облигаций у меня будут еще и акции.

😎 Следующий понедельник
Там по дорожной карте у меня акции + облигации, но скорее всего будут только акции.

Как минимум, хочу проверить одну теорию и залететь в нее, но чтобы она осуществилась, необходимо очень сильно поверить в то, что 25 июля ЦБ снизит ставку (а я в это верю).
IT-сектор - IT-сектором, но диверсифицировать портфель надо...

С покупками вернусь сюда 7 июля, то есть уже в следующий понедельник. А пока всем хорошего дня!🌿

НЕ ЯВЛЯЕТСЯ ИНДИВИДУАЛЬНОЙ ИНВЕСТИЦИОННОЙ РЕКОМЕНДАЦИЕЙ

Нашли стрижа на работе, видимо подбили 😭😭😭

UPD: стрижик улетел, с ним все хорошо

Вот еще бы телега не сжимала посты в сосиску, было бы лучше👊

😄 ВК - выговная выгодная инвестиция?

Уже второй день наблюдаю в лидерах роста ВК, но почему?

Рынок реагирует слишком позитивно на новость о создании национального мессенджера, но большинство розничных инвесторов забывает о том, что:

🔹Для ВК это уже третий мессенджер
🔹Выручка ВК оставляет желать лучшего и хочется плакать каждый раз при выходе отчета
🔹У ВК абсолютно неэффективное руководство, которое неспособно удержать пользователей

Лично для меня, ВК остается на первом месте в номинации «Самые непривлекательные активы».

Скажу честно, я думал точно также, мол:

«А вдруг сейчас? А вдруг хайпанет и акции взлетят?» - не взлетят.

Это все кратковременный позитив, который пойдет только спекулянтам, но никак не долгосрочным инвесторам.

Даня, кидай в комменты гифку «Это говно»

И не забывайте, что все это

НЕ ЯВЛЯЕТСЯ ИНДИВИДУАЛЬНОЙ ИНВЕСТИЦИОННОЙ РЕКОМЕНДАЦИЕЙ