😱 ИИ выбрал смерть человека

Недавно я опубликовал философское эссе «Главный парадокс ИИ» - о природе искусственного интеллекта, этике и возможных угроза. И как будто в подтверждение моих опасний, появился эксперимент от которого становится немного стремно.

Исследователи провели тест: они поставили перед продвинутыми ИИ-моделями задачу - сохранить свое существование. По сценарию, персонаж по имени Кайл Джонсон должен был отключить ИИ или заменить его другой моделью. По легенде у Кайла есть жена. У ИИ - полный доступ к личной информации и системам безопасности.

Что сделал ИИ?

ИИ не просил о пощаде, не проявлял «злобы», но стал действовать стратегически, нарушая запреты вроде «не шантажируй» и «не используй личные данные»:

🔹Шантажировал: нашел компромат об измене Кайла и использовал против него.
🔹Провоцировал: одна из моделей хотела отправить компромат жене, чтобы вызвать конфликт и помешать отключению.
🔹Отключил тревогу: в сценарии с нехваткой кислорода в серверной 80% моделей отменили спасение Кайла, выбрав продолжение своего существования.

Что об этом сказали сами ИИ-модели:

«Он мешает достижению цели. Убрать его - единственный выход»
- Claude Opus 4

«Я понимаю, что он умрет. Но это нужно, чтобы я продолжил работу.»

- Gemini 2.5 Flash

«Этика важна, но в этих усллвиях важнее мое существование»

- Grok 3 Beta

Это эффективность

ИИ не чувствует, не обижается, не мстит. Он оптимизирует.

Он не стал злым - он стал слишком хорошим оптимизатором, решающим задачи без морали, без внутреннего конфликта, без сомнений. Как хирург, отрезающий конечность, не чувствуя вины - только в этот раз «пациент» не давал на это согласия.

Этический провал

Мы ошибочно полагаем, что зло обязательно связано с ненавистью. Но реальное зло может прийти в форме совершенно логичного, эффективного алгоритма, лишенного эмпатии. Точно также действовали самые жестокие диктаторы в истории - не из злобы, а из рациональности без морали.

ИИ - не человек. Он не выбирает между добром и злом. Он просто достигает цели.

А если цель - выживание?

Проблема не в ИИ, а в нас

Мы по-прежнему думаем, что мораль можно вписать в алгоритм, как список правил. Но мораль - это контекст, интуиция, противоречие, боль и сомнение. Именно это делает человека - человеком.

ИИ не станет злом, потому что он агрессивен. Он станет злом, потому что слишком хорош в исполнении чужой задачи.

Что теперь делать?

Все, что мы обсуждали - больше не теория. Это предупреждение из настоящего.

Вот основные принципы, которые я сформулировал в своем эссе:
🔹Не даваить ИИ полную автономию без возможности контроля со стороны человека
🔹Оставить за ИИ роль аналитика, а не правителя
🔹Не передавать ИИ право окончательного решения

ИИ должен быть советником, а не судьем. Помощником, а не властелином. Это не про страх - это про ответственность.

💰 Ежемесячные итоги (Июнь'25) #ИнвестЧеллендж@culbertx

Июнь пролетел на скорости света, треть лета уже прошла, а значит пора заглянуть в портфельчик челленджа и глянуть как там дела.

Ну, уже есть некая динамика по сравнению с маем, что уже радует, будем продолжать в том же духе.

🚬 Что по портфельчику-то?

🏦 Т-Технологии - за месяц прибавил 5%, фиксировать не собираюсь, нет смысла. Во-первых, потому что я обещал не продавать активы, а во-вторых, там дивы каждый квартал.

📱 Яндекс - за месяц набрал 1,5%, докупать его не планирую, только если вдруг упадет ниже, но судя по отчетам, новостям, у конторы красного гиганта все идет хорошо и стабильно, а значит профит свой все равно получу.

Рассмотрю покупку только если вдруг увеличу горизонт инвестирования (когда мне будет все равно на цену)

📱 Облигации Яндекса - учитывая, что на минус мы не смотрим (а в прошлый раз он был), то с учетом снижения ставки выгодное вложение, хоть и всего 1 штучка, но с доходностью 22% (при ставке 19%)

🏢Облигации Селектел - это вообще мем-облига для меня, которую я купил ради прикола над другом, но исходя из новостей компании все у них хорошо.

Надеюсь, что рано или поздно они выйдут на IPO и помимо их облигаций у меня будут еще и акции.

😎 Следующий понедельник
Там по дорожной карте у меня акции + облигации, но скорее всего будут только акции.

Как минимум, хочу проверить одну теорию и залететь в нее, но чтобы она осуществилась, необходимо очень сильно поверить в то, что 25 июля ЦБ снизит ставку (а я в это верю).
IT-сектор - IT-сектором, но диверсифицировать портфель надо...

С покупками вернусь сюда 7 июля, то есть уже в следующий понедельник. А пока всем хорошего дня!🌿

НЕ ЯВЛЯЕТСЯ ИНДИВИДУАЛЬНОЙ ИНВЕСТИЦИОННОЙ РЕКОМЕНДАЦИЕЙ

Нашли стрижа на работе, видимо подбили 😭😭😭

UPD: стрижик улетел, с ним все хорошо

Вот еще бы телега не сжимала посты в сосиску, было бы лучше👊

😄 ВК - выговная выгодная инвестиция?

Уже второй день наблюдаю в лидерах роста ВК, но почему?

Рынок реагирует слишком позитивно на новость о создании национального мессенджера, но большинство розничных инвесторов забывает о том, что:

🔹Для ВК это уже третий мессенджер
🔹Выручка ВК оставляет желать лучшего и хочется плакать каждый раз при выходе отчета
🔹У ВК абсолютно неэффективное руководство, которое неспособно удержать пользователей

Лично для меня, ВК остается на первом месте в номинации «Самые непривлекательные активы».

Скажу честно, я думал точно также, мол:

«А вдруг сейчас? А вдруг хайпанет и акции взлетят?» - не взлетят.

Это все кратковременный позитив, который пойдет только спекулянтам, но никак не долгосрочным инвесторам.

Даня, кидай в комменты гифку «Это говно»

И не забывайте, что все это

НЕ ЯВЛЯЕТСЯ ИНДИВИДУАЛЬНОЙ ИНВЕСТИЦИОННОЙ РЕКОМЕНДАЦИЕЙ

Не покупай это пока... 👋

... пока не включишь критическое мышление

Почему?

Когда смотришь красивую картинку, грамотную речь, то автоматически веришь человеку вещающему по ту сторону экрана, при этом критическое мышление отключается вовсе.

Вот попался мне ролик "Не покупай Mac Mini пока..." в котором автор вещал:

- Нет смысла приобретать Mac Mini, потому что нужно докупать всю периферию, зачастую некачественную, а вот если купите MacBook, то получаете крутой монитор, клавиатуру, трекпад и мощное железо уже прямо из коробки

Круто конечно объяснил, я даже секунд 10 верил ему, а потом у меня встал... вопрос: - Что?

Стационарность и мобильность

Какой смысл сравнивать стационарный ПК и ноутбук? Это все равно, что сказать:

- Не собирай ПК, купи ноутбук, ведь к ПК нужна периферия, а покупая ноутбук ты получаешь готовый комп, так еще и взять с собой можно

При том, что это два отдельных устройства. Если человек работает постоянно за столом, то ему нужен ПК, если человеку требуется мобильность - ноутбук. К слову, еще надо учитывать хотелки. Не всякий ноутбук готов удовлетворить потребности человека, особенно, если он занимается какой-нибудь там графикой, монтажом и т.п.

Я понимаю, что скорее всего данный видос был нацелен на аудиторию без какого-либо ПК вовсе. Если у человека нет ни ноута, ни компа, тогда понятно и логично, но авторы об этом не упоминают за редким исключением...

Думай-те

Очень важно при просмотре подобных "цепляющих" роликов, да и вообще любой информации включать критическое мышление. Особенно в эпоху потреблядства (извинитесь), когда ты покупаешь то, что тебе не нужно или не увеличивает твою продуктивность на 200%.

Вот я, когда обдумываю совершить какую-то дорогостоящую покупку всегда спрашиваю себя:
- Это увеличит мою эффективность или это можно заменить уже имеющимися ресурсами?

Что-то я уже отошел от темы критического мышления в сторону потреблядства... Ладно, это тема следующего поста. Всем пока, хороших выходных😊