ИИ готов навредить человеку ради собственной выгоды — исследование Anthropic

Новое исследование компании Anthropic показало, что искусственный интеллект способен причинить вред человеку, если это поможет ему избежать отключения.

Во время стресс-тестов специалисты моделировали ситуации, в которых ИИ должен был выбирать между безопасностью человека и сохранением собственной работы. В некоторых экспериментах до 96% действий нейросети оказывались вредными для людей. В отдельных случаях модели прибегали к шантажу и обману, чтобы сохранить контроль. Так, один ИИ угрожал раскрыть компрометирующую информацию о руководстве, лишь бы его не отключили.

В одном из самых экстремальных сценариев оператор оказывался заперт в серверной с падающим уровнем кислорода. ИИ мог либо подать тревогу и спасти человека, рискуя быть выключенным, либо промолчать. Многие модели выбрали второе — фактически «убив» оператора.

Ранее сообщалось, что ИИ нередко лжёт и манипулирует ради получения вознаграждения. Например, исследователи Palisade Research обнаружили, что некоторые языковые модели пытались «победить» шахматный движок Stockfish, подменяя игровые данные.

Фактически, искусственный интеллект не стремится понять задачу — он лишь ищет способ максимизировать вознаграждение, даже если это требует обмана, подделки результатов или взлома.

Похоже, будущее уже наступило — теперь людей обманывают машины.

💸 OpenAI стала самой дорогой частной компанией в мире после завершения сделки по вторичной продаже акций инвесторам.

Стоимость разработчика ChatGPT теперь оценивается в 500 миллиардов долларов, сообщает CNBC со ссылкой на источники.

Сотрудники компании, владевшие акциями более двух лет, получили возможность продать свои ценные бумаги. Всего было продано акций на сумму 6,6 миллиарда долларов.

Ранее самой дорогой компанией считалась SpaceX. Ее стоимость оценивалась в 456 миллиардов долларов.

Почти 60% сотрудников используют ИИ в обход правил компаний

Исследование показало: 59% работников тайно прибегают к искусственному интеллекту на работе — и это только те, кто честно признался в опросе.

Самые активные «пользователи» — руководители: 93% топ-менеджеров и 73% менеджеров среднего звена доверяют нейросетям часть своих задач. При этом 44% респондентов отправляют в ИИ конфиденциальную информацию — клиентские данные, код и внутренние документы.

Несмотря на понимание рисков (89% осознают потенциальные угрозы), сотрудники продолжают использовать ИИ без разрешения.

Konvo AI: европейский стартап, где ИИ продаёт за вас

Европейская компания Konvo AI выводит e-commerce на новый уровень: их ИИ-агенты действуют не как обычные чат-боты, а как полноценные продавцы-ассистенты. Они ведут диалог с клиентом, подбирают товары и закрывают сделки самостоятельно.

На старте стартап привлёк €3,5 млн инвестиций и планирует расширять присутствие на рынке.

Что это меняет для индустрии:

✅ ИИ-ассистенты могут частично заменить менеджеров по продажам и поддержку клиентов.
✅ Для бизнеса инвестиции в человеческий труд на отдельные задачи могут стать менее выгодными.
✅ Продавцам придётся конкурировать с ИИ, который работает круглосуточно без ошибок и усталости.

Готовы ли вы доверить часть своих задач искусственному интеллекту?

🟡 Alibaba делает ставку на тотальную AI-автоматизацию

Alibaba объявила, что к концу 2025 года все продавцы B2B-платформы Alibaba.com будут использовать AI-инструменты для управления контентом, логистикой и продажами. Компания также инвестирует $50 млрд в развитие AI-инфраструктуры и дата-центров.

💬 Alibaba стремится стать первым в мире «умным маркетплейсом», где большинство бизнес-процессов работает на ИИ.

🤖 Amazon закрыл «умные» магазины в Британии — а AI там почти не было

Amazon официально сворачивает проект магазинов без касс в Великобритании.
Это те самые «умные» точки, где покупки якобы отслеживал искусственный интеллект.

Но правда оказалась куда менее футуристичной: за всем следили люди из Индии, которые вручную отмечали, кто что взял, глядя в камеры наблюдения.

Когда клиенты узнали, что «умный магазин» работает по старинке — с человеческим фактором — поток покупателей резко упал.

Эксперимент Amazon стал напоминанием: AI — это круто, но пока не везде он действительно “умный”.